技術(shù)特征：

1.一種操控訓(xùn)練能耗的對(duì)抗攻擊方法，其特征在于，包括：

2.如權(quán)利要求1所述的方法，其特征在于，所述最優(yōu)對(duì)抗擾動(dòng)滿足最大化上層優(yōu)化目標(biāo)函數(shù)通過下列公式表示：

3.如權(quán)利要求1所述的方法，其特征在于，所述待訓(xùn)練大模型的最優(yōu)權(quán)重參數(shù)通過下列公式表示：

4.如權(quán)利要求1所述的方法，其特征在于，所述待訓(xùn)練大模型關(guān)于上層優(yōu)化目標(biāo)函數(shù)在當(dāng)前迭代與上個(gè)迭代之間的梯度差通過下列公式確定：

5.如權(quán)利要求1所述的方法，其特征在意，所述多模態(tài)數(shù)據(jù)樣本包括以下任意一種模態(tài)：

6.如權(quán)利要求1所述的方法，其特征在于，所述確定所述待訓(xùn)練大模型關(guān)于上層優(yōu)化目標(biāo)函數(shù)在當(dāng)前迭代與上個(gè)迭代之間的梯度差之前，還包括：

7.一種操控訓(xùn)練能耗的對(duì)抗攻擊裝置，其特征在于，包括：

8.一種計(jì)算機(jī)設(shè)備，其特征在于，所述計(jì)算機(jī)設(shè)備包括存儲(chǔ)器和處理器，所述存儲(chǔ)器存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被所述處理器執(zhí)行時(shí)，使得所述處理器執(zhí)行如權(quán)利要求1-6任意一項(xiàng)所述操控訓(xùn)練能耗的對(duì)抗攻擊方法。

9.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其特征在于，存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被處理器執(zhí)行時(shí)，使得所述處理器執(zhí)行如權(quán)利要求1-6任意一項(xiàng)所述操控訓(xùn)練能耗的對(duì)抗攻擊方法。

技術(shù)總結(jié)
本發(fā)明公開了一種操控訓(xùn)練能耗的對(duì)抗攻擊方法及裝置，涉及人工智能安全領(lǐng)域。用以解決因缺少分析理解操縱訓(xùn)練能耗的對(duì)抗攻擊原理和設(shè)計(jì)檢測(cè)防御策略，導(dǎo)致加劇大模型訓(xùn)練能源開銷的問題。該方法包括：訓(xùn)練數(shù)據(jù)樣本和待訓(xùn)練大模型，確定待訓(xùn)練大模型的當(dāng)前梯度值、上個(gè)迭代的梯度值以及梯度差；根據(jù)優(yōu)化算法更新對(duì)抗擾動(dòng)時(shí)，若最優(yōu)對(duì)抗擾動(dòng)滿足最大化上層優(yōu)化目標(biāo)函數(shù)，則根據(jù)訓(xùn)練數(shù)據(jù)樣本和對(duì)抗擾動(dòng)得到擾動(dòng)樣本；若當(dāng)前梯度值與待訓(xùn)練大模型的目標(biāo)函數(shù)關(guān)于待訓(xùn)練大模型的權(quán)重參數(shù)的梯度值相等時(shí)，根據(jù)待訓(xùn)練大模型的損失函數(shù)最小化尋優(yōu)確定待訓(xùn)練大模型的最優(yōu)權(quán)重參數(shù)。

技術(shù)研發(fā)人員：彭弘毅,彭希奧,陳茗揚(yáng),孫一凡,周維銘,王震
受保護(hù)的技術(shù)使用者：西北工業(yè)大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2