技術(shù)特征:1.一種注意力機(jī)制及負(fù)采樣技巧的知識圖譜嵌入方法,包含以下步驟:
技術(shù)總結(jié)本發(fā)明提出一種注意力機(jī)制及負(fù)采樣技巧的知識圖譜嵌入方法,具體實(shí)施方法為:首先將知識圖譜結(jié)構(gòu)化數(shù)據(jù)形成三元組數(shù)據(jù)集,并將數(shù)據(jù)集隨機(jī)劃分;接著構(gòu)建注意力機(jī)制及的嵌入模型TransE?Adapt,對頭實(shí)體、關(guān)系、尾實(shí)體引入注意力機(jī)制,并計(jì)算自適應(yīng)負(fù)采樣概率矩陣B,來優(yōu)化調(diào)整模型的特征提取能力,快速、準(zhǔn)確獲取知識的特征;然后定義損失函數(shù),通過自適應(yīng)學(xué)習(xí)率的梯度下降和反向傳播算法完成訓(xùn)練,獲取穩(wěn)定的模型權(quán)重參數(shù);最后,加載訓(xùn)練好的模型,可以獲取知識圖譜頭實(shí)體、關(guān)系、尾實(shí)體的多維嵌入,作為下游模型的輸入數(shù)據(jù),通過搭建下游深度學(xué)習(xí)模型,可以開展多種任務(wù)。
技術(shù)研發(fā)人員:羅仁澤,陳翔
受保護(hù)的技術(shù)使用者:西南石油大學(xué)
技術(shù)研發(fā)日:技術(shù)公布日:2024/12/30