欧美在线观看视频网站,亚洲熟妇色自偷自拍另类,啪啪伊人网,中文字幕第13亚洲另类,中文成人久久久久影院免费观看 ,精品人妻人人做人人爽,亚洲a视频

語言模型訓練方法、裝置、設(shè)備、存儲介質(zhì)及產(chǎn)品與流程

文檔序號:40546394發(fā)布日期:2025-01-03 11:05閱讀:來源:國知局

技術(shù)特征:

1.一種語言模型訓練方法,其特征在于,所述語言模型訓練方法包括:

2.如權(quán)利要求1所述的方法,其特征在于,所述根據(jù)所述訓練數(shù)據(jù)訓練深層卷積神經(jīng)網(wǎng)絡模型,得到訓練后的深層卷積神經(jīng)網(wǎng)絡模型的步驟,包括:

3.如權(quán)利要求2所述的方法,其特征在于,所述基于所述統(tǒng)計池化層和所述深層卷積神經(jīng)網(wǎng)絡模型的全連接層對所述訓練數(shù)據(jù)進行特征提取和特征融合,得到所述訓練數(shù)據(jù)的融合特征數(shù)據(jù)的步驟,包括:

4.如權(quán)利要求1所述的方法,其特征在于,所述通過所述訓練后的深層卷積神經(jīng)網(wǎng)絡模型對預設(shè)的淺層卷積神經(jīng)網(wǎng)絡模型進行知識蒸餾訓練,得到訓練后的淺層卷積神經(jīng)網(wǎng)絡模型的步驟,包括:

5.如權(quán)利要求4所述的方法,其特征在于,所述根據(jù)所述目標標簽損失和所述目標標簽的概率分布損失計算損失函數(shù),并根據(jù)所述損失函數(shù)優(yōu)化所述淺層卷積神經(jīng)網(wǎng)絡模型,得到訓練后的淺層卷積神經(jīng)網(wǎng)絡模型的步驟,包括:

6.如權(quán)利要求1所述的方法,其特征在于,所述對所述訓練后的淺層卷積神經(jīng)網(wǎng)絡模型進行量化處理,得到量化后的淺層卷積神經(jīng)網(wǎng)絡模型的步驟,包括:

7.一種語言模型訓練裝置,其特征在于,所述語言模型訓練裝置包括:

8.一種語言模型訓練設(shè)備,其特征在于,所述語言模型訓練設(shè)備包括:存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序,所述計算機程序配置為實現(xiàn)如權(quán)利要求1至6中任一項所述的語言模型訓練方法的步驟。

9.一種存儲介質(zhì),其特征在于,所述存儲介質(zhì)為計算機可讀存儲介質(zhì),所述計算機可讀存儲介質(zhì)上存儲有計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至6中任一項所述的語言模型訓練方法的步驟。

10.一種計算機程序產(chǎn)品,其特征在于,所述計算機程序產(chǎn)品包括計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至6中任一項所述的語言模型訓練方法的步驟。


技術(shù)總結(jié)
本申請公開了一種語言模型訓練方法、裝置、設(shè)備、存儲介質(zhì)及產(chǎn)品,本申請涉及語言模型訓練技術(shù)領(lǐng)域,所述語言模型訓練方法包括:獲取訓練數(shù)據(jù);根據(jù)訓練數(shù)據(jù)訓練深層卷積神經(jīng)網(wǎng)絡模型,得到訓練后的深層卷積神經(jīng)網(wǎng)絡模型,深層卷積神經(jīng)網(wǎng)絡模型根據(jù)預設(shè)的統(tǒng)計池化層建立;基于知識蒸餾技術(shù),通過訓練后的深層卷積神經(jīng)網(wǎng)絡模型對預設(shè)的淺層卷積神經(jīng)網(wǎng)絡模型進行訓練,得到訓練后的淺層卷積神經(jīng)網(wǎng)絡模型;對訓練后的淺層卷積神經(jīng)網(wǎng)絡模型進行量化處理,得到量化后的淺層卷積神經(jīng)網(wǎng)絡模型。本申請能夠解決語言模型在訓練數(shù)據(jù)稀缺的領(lǐng)域進行處理時,語言模型性能和計算資源需求之間難以平衡的技術(shù)問題。

技術(shù)研發(fā)人員:姜迪,連榮忠,趙偉偉,楊強
受保護的技術(shù)使用者:深圳前海微眾銀行股份有限公司
技術(shù)研發(fā)日:
技術(shù)公布日:2025/1/2
當前第2頁1 2 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1
仁寿县| 申扎县| 郓城县| 阿巴嘎旗| 汾西县| 大兴区| 岳普湖县| 盘山县| 遵义县| 修水县| 玉山县| 财经| 图木舒克市| 婺源县| 通城县| 兴仁县| 江永县| 肇源县| 高碑店市| 青龙| 青阳县| 九江县| 尖扎县| 仙游县| 子长县| 隆化县| 连江县| 黄浦区| 丁青县| 阜康市| 镇宁| 中方县| 安平县| 潮州市| 安福县| 耒阳市| 延安市| 墨竹工卡县| 招远市| 田东县| 枞阳县|