技術(shù)編號：40573429
提示：您尚未登錄，請點 登 陸 后下載，如果您還沒有賬戶請點 注 冊 ，登陸完成后，請刷新本頁查看技術(shù)詳細信息。本披露一般地涉及計算領(lǐng)域。更具體地，本披露涉及一種計算裝置、芯片、板卡和利用計算裝置執(zhí)行自注意力機制運算的方法。背景技術(shù)、目前，變換器(transformer)網(wǎng)絡(luò)已經(jīng)廣泛應用于自然語言處理(nlp)領(lǐng)域，例如機器翻譯、問答系統(tǒng)、文本摘要和語音識別等等。transformer網(wǎng)絡(luò)采用了編碼器-解碼器架構(gòu)，并且編碼器和解碼器中都包括自注意力機制。自注意力機制是transformer網(wǎng)絡(luò)的核心，其計算過程涉及查詢(q，query)、鍵(k，key)和值(v，value)三個張量之間的乘法運算。、...
注意：該技術(shù)已申請專利，請尊重研發(fā)人員的辛勤研發(fā)付出，在未取得專利權(quán)人授權(quán)前，僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán)，增加技術(shù)思路，做技術(shù)知識儲備，不適合論文引用。
請注意，此類技術(shù)沒有源代碼，用于學習研究技術(shù)思路。