本發(fā)明屬于信號(hào)處理，特別涉及一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法。

背景技術(shù)：

1、隨著信息技術(shù)和網(wǎng)絡(luò)技術(shù)的快速發(fā)展，電磁信號(hào)分類的方法和標(biāo)準(zhǔn)也不斷更新和完善，以適應(yīng)日益增長(zhǎng)的信號(hào)處理需求。電磁信號(hào)分類是電磁環(huán)境態(tài)勢(shì)感知的重要技術(shù)，但是在實(shí)際應(yīng)用中，通常面臨著有標(biāo)簽樣本數(shù)據(jù)不足的問題。針對(duì)這一問題，研究小樣本條件下的電磁信號(hào)分類方法具有重要的理論意義和實(shí)際價(jià)值。

2、傳統(tǒng)的機(jī)器學(xué)習(xí)方法通常局限于解決單一領(lǐng)域內(nèi)的問題，但是當(dāng)訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)的特征分布不同時(shí)，往往需要在新數(shù)據(jù)集上重新訓(xùn)練模型，這會(huì)導(dǎo)致數(shù)據(jù)的浪費(fèi)和效率的降低。在實(shí)際應(yīng)用中，很多領(lǐng)域的數(shù)據(jù)是難以獲取或標(biāo)注的，例如醫(yī)療、生物、安全等方面。因此，遷移學(xué)習(xí)方法應(yīng)運(yùn)而生，通過利用從源領(lǐng)域中學(xué)習(xí)到的有用知識(shí)，來幫助目標(biāo)領(lǐng)域中標(biāo)簽樣本稀少或缺失的學(xué)習(xí)問題。

3、遷移學(xué)習(xí)假設(shè)不同領(lǐng)域之間存在一些共性因素，例如特征、概念、規(guī)律等，這些共性因素可以通過某種方式進(jìn)行遷移和共享，從而提高學(xué)習(xí)的效果和效率。近年來，隨著遷移學(xué)習(xí)理論的發(fā)展與成熟，為解決物體識(shí)別與檢測(cè)等領(lǐng)域中的問題與挑戰(zhàn)提供了新的思路和解決方案，已經(jīng)在計(jì)算機(jī)視覺、自然語言處理、推薦系統(tǒng)等領(lǐng)域取得了顯著的效果，也引起了學(xué)術(shù)界和工業(yè)界的廣泛關(guān)注和研究。

4、然而，遷移學(xué)習(xí)并不是一種萬能的方法，它也面臨著一些挑戰(zhàn)和問題。例如，如果源領(lǐng)域和目標(biāo)領(lǐng)域的任務(wù)差異較大，那么遷移學(xué)習(xí)反而會(huì)帶來負(fù)面的影響，這種現(xiàn)象被稱為“負(fù)遷移”。另外，遷移學(xué)習(xí)中也同樣存在過擬合、類不平衡和跨領(lǐng)域特征分布差異等問題。

技術(shù)實(shí)現(xiàn)思路

1、針對(duì)現(xiàn)有技術(shù)的不足，本發(fā)明提出了一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，根據(jù)目標(biāo)任務(wù)的特點(diǎn)，對(duì)模塊參數(shù)進(jìn)行選擇性遷移，同時(shí)利用知識(shí)蒸餾，降低模型的計(jì)算和存儲(chǔ)開銷。

2、一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，具體步驟如下：

3、步驟1、收集電磁信號(hào)數(shù)據(jù)，篩選出信噪比為6db的電磁信號(hào)作為樣本。采用隨機(jī)抽樣的方法，將樣本分為源域信號(hào)和目標(biāo)域。最后按照8:2的比例將樣本分訓(xùn)練集和測(cè)試集。

4、步驟2、使用步驟1中的訓(xùn)練集數(shù)據(jù)，訓(xùn)練一個(gè)用于特征提取的msmcnet神經(jīng)網(wǎng)絡(luò)，并保存最優(yōu)的模型參數(shù)。

5、步驟3、設(shè)計(jì)兩個(gè)結(jié)構(gòu)相同的深度神經(jīng)網(wǎng)絡(luò)，包括三個(gè)級(jí)聯(lián)的全連接層，分別作為教師模型和學(xué)生模型。

6、步驟4、利用步驟2訓(xùn)練后的msmcnet神經(jīng)網(wǎng)絡(luò)提取輸入電磁信號(hào)的特征，再輸入教師模型進(jìn)行分類，通過隨機(jī)梯度下降對(duì)教師模型進(jìn)行訓(xùn)練優(yōu)化。

7、步驟5、對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行奇異值分解，將矩陣中元素的大小作為系數(shù)的權(quán)重對(duì)系數(shù)進(jìn)行篩選。利用步驟2訓(xùn)練后的msmcnet神經(jīng)網(wǎng)絡(luò)提取輸入電磁信號(hào)的特征，分別輸入訓(xùn)練后的教師模型和學(xué)生模型中，比較教師模型與學(xué)生模型的輸出，計(jì)算蒸餾損失。

8、步驟6、利用蒸餾損失和交叉熵?fù)p失的加權(quán)和作為總的損失函數(shù)，指導(dǎo)學(xué)生模型網(wǎng)絡(luò)參數(shù)的更新，完成學(xué)生模型的訓(xùn)練。使用訓(xùn)練后的msmcnet神經(jīng)網(wǎng)絡(luò)與學(xué)生模型對(duì)數(shù)據(jù)集中的電磁信號(hào)進(jìn)行特征提取與分類。

9、本發(fā)明具有以下有益效果：

10、1、利用奇異值分解，從教師模型中挑選最有用的權(quán)重，使得學(xué)生模型能夠突出最相關(guān)的特征，提高準(zhǔn)確性；同時(shí)過濾掉無用的權(quán)重，可以提高模型的魯棒性。

11、2、讓學(xué)生網(wǎng)絡(luò)學(xué)習(xí)教師網(wǎng)絡(luò)的輸出分布，而不是直接學(xué)習(xí)數(shù)據(jù)的標(biāo)簽，能夠降低模型的開銷和資源消耗。

技術(shù)特征：

1.一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：具體包括以下步驟：

2.如權(quán)利要求1所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：篩選出信噪比為6db的電磁信號(hào)作為樣本，按照8:2的比例將樣本分訓(xùn)練集和測(cè)試集。

3.如權(quán)利要求1所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：構(gòu)建一個(gè)msmcnet神經(jīng)網(wǎng)絡(luò)，用于特征提取。

4.如權(quán)利要求3所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：所述msmcnet神經(jīng)網(wǎng)絡(luò)，包括4個(gè)相同的塊和1個(gè)歸一化層以及1個(gè)全連接層；每個(gè)塊包括一個(gè)尺寸為5×2的二維卷積層、二維批歸一化層、relu激活函數(shù)和二維最大池化層。

5.如權(quán)利要求3所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：向msmcnet神經(jīng)網(wǎng)絡(luò)輸入訓(xùn)練集數(shù)據(jù)進(jìn)行模型訓(xùn)練，并使用測(cè)試集數(shù)據(jù)測(cè)試模型性能，并保存最優(yōu)的模型參數(shù)。

6.如權(quán)利要求1所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：在教師模型與學(xué)生模型的各個(gè)線性層之間采用relu激活函數(shù)增強(qiáng)非線性表達(dá)能力。

7.如權(quán)利要求1所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：通過隨機(jī)梯度下降對(duì)教師模型進(jìn)行訓(xùn)練優(yōu)化。

8.如權(quán)利要求1所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行奇異值分解得到矩陣；將矩陣對(duì)角線上的元素作為系數(shù)的權(quán)重，按照元素值大小降序排列，將前10%的系數(shù)作為目標(biāo)域的特征表示，同時(shí)舍棄后10%的系數(shù)，以此構(gòu)建遷移學(xué)習(xí)模型。

9.如權(quán)利要求1所述一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法，其特征在于：所述教師模型輸出每個(gè)類別的概率值，學(xué)生模型輸出最大概率對(duì)應(yīng)的類別；比較教師模型輸出與學(xué)生模型輸出的kl散度，作為蒸餾損失，衡量學(xué)生網(wǎng)絡(luò)輸出與教師網(wǎng)絡(luò)輸出之間的差異。

10.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，當(dāng)所述計(jì)算機(jī)程序在計(jì)算機(jī)中執(zhí)行時(shí)，令計(jì)算機(jī)執(zhí)行權(quán)利要求1~9中任一項(xiàng)所述的方法。

技術(shù)總結(jié)
本發(fā)明公開了一種基于選擇性知識(shí)遷移學(xué)習(xí)的電磁信號(hào)識(shí)別方法。該方法首先對(duì)收集的電磁信號(hào)數(shù)據(jù)進(jìn)行預(yù)處理，隨機(jī)分為源域和目標(biāo)域的數(shù)據(jù)。然后訓(xùn)練了一個(gè)用于特征提取的網(wǎng)絡(luò)模型。設(shè)計(jì)教師模型和學(xué)生模型，將提取到的信號(hào)特征輸入到教師模型中，對(duì)訓(xùn)練集進(jìn)行奇異值分解，根據(jù)奇異值進(jìn)行系數(shù)篩選，作為目標(biāo)域的特征表示，得到遷移后的模型。接著對(duì)教師模型的輸出數(shù)據(jù)進(jìn)行知識(shí)蒸餾，計(jì)算其與學(xué)生模型的輸出數(shù)據(jù)的知識(shí)差異，以及蒸餾損失和交叉熵?fù)p失；最后，根據(jù)蒸餾損失更新學(xué)生模型的網(wǎng)絡(luò)參數(shù)，得到訓(xùn)練好的學(xué)生模型，實(shí)現(xiàn)對(duì)電磁信號(hào)數(shù)據(jù)的分類識(shí)別。

技術(shù)研發(fā)人員：胡明萱,尚俊娜
受保護(hù)的技術(shù)使用者：杭州電子科技大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2