技術(shù)特征：

1.一種網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，根據(jù)所述模型層級(jí)結(jié)構(gòu)的當(dāng)前計(jì)算任務(wù)特征，對(duì)與該模型層級(jí)結(jié)構(gòu)對(duì)應(yīng)的當(dāng)前子層級(jí)計(jì)算任務(wù)進(jìn)行劃分，得到任務(wù)計(jì)算上下文，包括：

3.根據(jù)權(quán)利要求2所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，確定執(zhí)行與模型層級(jí)結(jié)構(gòu)對(duì)應(yīng)的當(dāng)前子層級(jí)計(jì)算任務(wù)所需要的第一當(dāng)前數(shù)據(jù)計(jì)算量、第一當(dāng)前數(shù)據(jù)依賴關(guān)系以及第一當(dāng)前計(jì)算資源需求量，包括：

4.根據(jù)權(quán)利要求2所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，根據(jù)所述當(dāng)前層級(jí)結(jié)構(gòu)特征以及當(dāng)前計(jì)算任務(wù)特征對(duì)所述當(dāng)前子層級(jí)計(jì)算任務(wù)進(jìn)行劃分，得到任務(wù)計(jì)算上下文，包括：

5.根據(jù)權(quán)利要求1所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，為所述任務(wù)計(jì)算上下文分配任務(wù)執(zhí)行節(jié)點(diǎn)，包括：

6.根據(jù)權(quán)利要求5所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，根據(jù)所述第二當(dāng)前數(shù)據(jù)依賴關(guān)系從所述當(dāng)前計(jì)算節(jié)點(diǎn)中匹配與所述任務(wù)計(jì)算上下文對(duì)應(yīng)的任務(wù)執(zhí)行節(jié)點(diǎn)，包括：

7.根據(jù)權(quán)利要求1所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，基于所述任務(wù)執(zhí)行節(jié)點(diǎn)執(zhí)行所述任務(wù)計(jì)算上下文，得到當(dāng)前任務(wù)執(zhí)行結(jié)果，包括：

8.根據(jù)權(quán)利要求1所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，對(duì)所述當(dāng)前任務(wù)執(zhí)行結(jié)果進(jìn)行同步以及合并，得到參數(shù)更新結(jié)果，包括：

9.根據(jù)權(quán)利要求8所述的網(wǎng)絡(luò)模型的訓(xùn)練方法，其特征在于，將所述當(dāng)前任務(wù)執(zhí)行結(jié)果傳遞至所述目標(biāo)節(jié)點(diǎn)，包括：

10.一種網(wǎng)絡(luò)模型的訓(xùn)練裝置，其特征在于，包括：

11.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其特征在于，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-9任一項(xiàng)所述的網(wǎng)絡(luò)模型的訓(xùn)練方法。

12.一種電子設(shè)備，其特征在于，包括：

技術(shù)總結(jié)
本公開是關(guān)于一種網(wǎng)絡(luò)模型的訓(xùn)練方法及裝置、存儲(chǔ)介質(zhì)、電子設(shè)備，涉及分布式計(jì)算技術(shù)領(lǐng)域，該方法包括：對(duì)待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型的模型結(jié)構(gòu)進(jìn)行分析，得到待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型中所包括的模型層級(jí)結(jié)構(gòu)；根據(jù)所述模型層級(jí)結(jié)構(gòu)的當(dāng)前計(jì)算任務(wù)特征，對(duì)與該模型層級(jí)結(jié)構(gòu)對(duì)應(yīng)的當(dāng)前子層級(jí)計(jì)算任務(wù)進(jìn)行劃分，得到任務(wù)計(jì)算上下文；為所述任務(wù)計(jì)算上下文分配任務(wù)執(zhí)行節(jié)點(diǎn)，并基于所述任務(wù)執(zhí)行節(jié)點(diǎn)執(zhí)行所述任務(wù)計(jì)算上下文，得到當(dāng)前任務(wù)執(zhí)行結(jié)果；對(duì)所述當(dāng)前任務(wù)執(zhí)行結(jié)果進(jìn)行同步以及合并，得到參數(shù)更新結(jié)果，并基于所述參數(shù)更新結(jié)果對(duì)所述待訓(xùn)練的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行參數(shù)更新。本公開提高了分布式計(jì)算資源的利用率。

技術(shù)研發(fā)人員：高達(dá)
受保護(hù)的技術(shù)使用者：中國電信股份有限公司技術(shù)創(chuàng)新中心
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/6