本發(fā)明屬于工業(yè)互聯(lián)網(wǎng)安全,具體涉及基于特征篩選的聯(lián)邦學習中毒攻擊防御方法、程序、設備及存儲介質(zhì)。
背景技術:
1、工業(yè)缺陷檢測長期以來都是工業(yè)視覺領域最重要的研究之一,其目的是檢測各種工業(yè)產(chǎn)品表面的缺陷。基于聯(lián)邦學習的工業(yè)缺陷識別能夠解決傳統(tǒng)集中式方法的數(shù)據(jù)孤島問題。聯(lián)邦學習能夠在數(shù)據(jù)集分散的情況下訓練全局模型,它不需要數(shù)據(jù)云端聚集,通過聚合聯(lián)邦成員本地訓練的參數(shù)更新來改進全局模型,并經(jīng)過多輪迭代實現(xiàn)收斂或達到指定精度。然而,聯(lián)邦學習由于其分布式的特點很容易受到來自惡意參與者的威脅,其中最常見的是數(shù)據(jù)中毒攻擊,攻擊者或被劫持的參與者可以使用精心制作的中毒數(shù)據(jù)破壞全局模型的性能。例如,在基于聯(lián)邦學習的工業(yè)缺陷識別中,惡意企業(yè)內(nèi)部可以很容易地向本地真實樣本中添加特定的擾動來誤導全局模型產(chǎn)生錯誤的預測,這給其他參與者帶來了前所未有的風險,惡意威脅的存在極大地挑戰(zhàn)了缺陷識別模型的有效性和可靠性。
技術實現(xiàn)思路
1、本發(fā)明的目的在于提供基于特征篩選的聯(lián)邦學習中毒攻擊防御方法、程序、設備及存儲介質(zhì),保證聯(lián)邦學習在工業(yè)應用中的安全性。
2、基于特征篩選的聯(lián)邦學習中毒攻擊防御方法,包括以下步驟:
3、步驟1:收集本地參與者上傳的本地模型,包括良性參與者上傳的良性模型和惡意參與者上傳的惡意模型,構(gòu)建模型驗證集并設置閾值;
4、步驟2:將模型驗證集依次輸入到收集的本地模型中,獲取每個本地模型最后一個卷積層的信息,包括正向傳播過程中的特征圖以及反向傳播過程中的梯度信息,計算特征圖的重要性權重,選擇重要性權重最高的p個特征圖作為本地模型的關鍵特征;
5、步驟3:獲取上一輪聯(lián)邦學習的全局模型,將模型驗證集輸入到全局模型中,獲取全局模型最后一個卷積層的信息,包括正向傳播過程中的特征圖以及反向傳播過程中的梯度信息,計算特征圖的重要性權重,選擇重要性權重最高的p個特征圖作為全局模型的關鍵特征;
6、步驟4:對于每一個本地模型,計算本地模型的關鍵特征和全局模型的關鍵特征之間的歐式距離,若計算出的歐式距離小于閾值,則判定該關鍵特征對應的本地模型為良性模型;否則,則判定該關鍵特征對應的本地模型為惡意模型;
7、步驟5:使用聯(lián)邦平均算法聚合良性模型,得到新的全局模型,并上傳至中央服務器。
8、一種計算機裝置/設備/系統(tǒng),包括存儲器、處理器及存儲在存儲器上的計算機程序,所述處理器執(zhí)行所述計算機程序以實現(xiàn)基于特征篩選的聯(lián)邦學習中毒攻擊防御方法的步驟。
9、一種計算機可讀存儲介質(zhì),其上存儲有計算機程序/指令,該計算機程序/指令被處理器執(zhí)行時實現(xiàn)基于特征篩選的聯(lián)邦學習中毒攻擊防御方法的步驟。
10、一種計算機程序產(chǎn)品,包括計算機程序/指令,該計算機程序/指令被處理器執(zhí)行時實現(xiàn)基于特征篩選的聯(lián)邦學習中毒攻擊防御方法的步驟。
11、本發(fā)明的有益效果在于:
12、本發(fā)明通過篩選本地模型在分類時提取的關鍵特征,消除非關鍵特征對惡意客戶端檢測的影響,放大了良性模型和惡意模型之間的區(qū)別,并利用不同模型關鍵特征之間的統(tǒng)計距離來檢測和過濾惡意客戶端,實現(xiàn)更有效的防御。
1.基于特征篩選的聯(lián)邦學習中毒攻擊防御方法,其特征在于,包括以下步驟:
2.一種計算機裝置/設備/系統(tǒng),包括存儲器、處理器及存儲在存儲器上的計算機程序,其特征在于:所述處理器執(zhí)行所述計算機程序以實現(xiàn)權利要求1所述方法的步驟。
3.一種計算機可讀存儲介質(zhì),其上存儲有計算機程序/指令,其特征在于:該計算機程序/指令被處理器執(zhí)行時實現(xiàn)權利要求1所述方法的步驟。
4.一種計算機程序產(chǎn)品,包括計算機程序/指令,其特征在于:該計算機程序/指令被處理器執(zhí)行時實現(xiàn)權利要求1所述方法的步驟。