技術(shù)編號:40589747
提示:您尚未登錄,請點 登 陸 后下載,如果您還沒有賬戶請點 注 冊 ,登陸完成后,請刷新本頁查看技術(shù)詳細信息。本發(fā)明涉及自然語言處理,尤其是涉及一種模型訓(xùn)練方法、裝置、設(shè)備、存儲介質(zhì)及程序產(chǎn)品。背景技術(shù)、目前,大語言模型的構(gòu)建主要經(jīng)過三個階段:第階段:無監(jiān)督的預(yù)訓(xùn)練階段,主要建立起大語言模型對語料中隱性的場景任務(wù)的記憶、理解、推理的能力;第階段:監(jiān)督的指令微調(diào)階段,主要是強化大語言模型在特定任務(wù)上的解題思路和邏輯;第階段:監(jiān)督的價值對齊階段,主要解決大語言模型輸出對齊到人類的偏好。、目前由于大語言模型在特定任務(wù)上思維推理能力不足,導(dǎo)致利用大語言模型進行推理獲得的結(jié)果準(zhǔn)確率不高。技術(shù)實現(xiàn)思路、...
注意:該技術(shù)已申請專利,請尊重研發(fā)人員的辛勤研發(fā)付出,在未取得專利權(quán)人授權(quán)前,僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán),增加技術(shù)思路,做技術(shù)知識儲備,不適合論文引用。
請注意,此類技術(shù)沒有源代碼,用于學(xué)習(xí)研究技術(shù)思路。