本發(fā)明涉及一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，屬于物聯(lián)網(wǎng)及人工智能。

背景技術(shù)：

1、目前在物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)中的計算過程與人工智能代理相結(jié)合，在水務(wù)管理，農(nóng)業(yè)管理，智能制造等多個場景中發(fā)揮重要作用。以水務(wù)為例，邊緣設(shè)備可以實時采集和處理水質(zhì)、流量、壓力等數(shù)據(jù)，人工智能代理則負(fù)責(zé)更復(fù)雜的分析和決策任務(wù)。這種結(jié)合可以實現(xiàn)實時水質(zhì)監(jiān)測和異常預(yù)警、精確定位管網(wǎng)泄漏、優(yōu)化供水調(diào)度、提高水泵能效等。在物聯(lián)網(wǎng)中將邊緣計算人工智能技術(shù)相的結(jié)合，能夠有效地提高數(shù)據(jù)處理速度、降低延遲、增強(qiáng)數(shù)據(jù)安全性和隱私保護(hù)、減少網(wǎng)絡(luò)帶寬和功耗、提高系統(tǒng)可擴(kuò)展性以及實現(xiàn)智能決策，從而帶來巨大的優(yōu)勢和變革性的轉(zhuǎn)變。

2、在物聯(lián)網(wǎng)設(shè)備中應(yīng)用人工智能模型時，由于邊緣節(jié)點(diǎn)在計算能力和內(nèi)存容量方面的限制，傳統(tǒng)的基于大數(shù)據(jù)的模型訓(xùn)練方法已變得不再適用，因此需要一種方法在不明顯降低人工智能模型能力的前提下，盡量減小模型尺寸以適應(yīng)物聯(lián)網(wǎng)設(shè)備的能力限制。同時，由于物聯(lián)網(wǎng)數(shù)據(jù)和場景的多樣性，需要這種方法能盡量減少人工干預(yù)，能夠自適應(yīng)進(jìn)行優(yōu)化。

技術(shù)實現(xiàn)思路

1、發(fā)明要解決的技術(shù)問題

2、本發(fā)明針對在物聯(lián)網(wǎng)設(shè)備中應(yīng)用人工智能模型的能力局限性問題，提出一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法。

3、技術(shù)方案

4、為達(dá)到上述目的，本發(fā)明提供的技術(shù)方案為：

5、一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，包括如下步驟：

6、步驟1，采集物聯(lián)網(wǎng)設(shè)備目標(biāo)特征時序數(shù)據(jù)，目標(biāo)特征數(shù)據(jù)包括傳感器所采溫度、濕度、設(shè)備狀態(tài)。

7、步驟2，對所采集數(shù)據(jù)進(jìn)行預(yù)處理。

8、步驟3，確定步驟2所處理時序數(shù)據(jù)重要時間窗口，包括以下步驟：

9、步驟3-1，將預(yù)處理后的物聯(lián)網(wǎng)時序數(shù)據(jù)以固定時間窗口進(jìn)行分割，

10、步驟3-2，確定各個時間窗口的評分，基于評分確定重要時間窗口。

11、步驟3-3，將評分高于某個設(shè)定閾值的窗口作為重要時間窗口，或通過聚類方法將所有時間窗口聚類為重要時間窗口與非重要時間窗口。

12、步驟3-4，將步驟3-3所確定相鄰重要時間窗口進(jìn)行合并。

13、步驟4，構(gòu)建cnn與rnn神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)模型并在訓(xùn)練集中進(jìn)行訓(xùn)練得到初始cnn與rnn模型。

14、步驟5，對步驟4所得初始神經(jīng)網(wǎng)絡(luò)模型查找卷積核中心所對應(yīng)的輸入時間序列中的位置，確定該卷積核是否位于重要時間窗口。

15、步驟6，基于步驟3所確定重要時間窗口與步驟5確定卷積核中心位置對步驟4初始神經(jīng)網(wǎng)絡(luò)模型進(jìn)行調(diào)整，包括cnn模型調(diào)整與rnn模型調(diào)整。

16、步驟7，基于測試集對調(diào)整后的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行重新訓(xùn)練，并測試所訓(xùn)練模型性能。

17、進(jìn)一步地，步驟2中對數(shù)據(jù)進(jìn)行預(yù)處理的過程包括：

18、步驟2-1，為不同數(shù)據(jù)源中與目標(biāo)特征數(shù)據(jù)相關(guān)的數(shù)據(jù)建立映射；

19、步驟2-2，對所采數(shù)據(jù)進(jìn)行清洗，包括處理缺失數(shù)據(jù)、檢測并修正異常數(shù)據(jù)、刪除重復(fù)數(shù)據(jù)、統(tǒng)一數(shù)據(jù)格式和單位、將不同來源與類型數(shù)據(jù)轉(zhuǎn)換為統(tǒng)一格式；

20、步驟2-3，將不同范圍數(shù)據(jù)標(biāo)準(zhǔn)化到同一尺度范圍，確保不同來源的數(shù)據(jù)在同一特征上具有一致的格式和單位。

21、進(jìn)一步地，步驟3-2中計算每個窗口的小波變換系數(shù)與信息增益值作為評分，對小波變換評分與信息增益評分加權(quán)求和作為每個時間窗口的綜合評分。

22、進(jìn)一步地，時間窗口小波變換系數(shù)評分的計算方法為：

23、步驟3-3-1，對時間序列進(jìn)行小波變換，得到不同尺度的小波系數(shù)；

24、步驟3-3-2，計算所分割每個時間窗口內(nèi)小波系數(shù)的能量值或幅值；

25、步驟3-3-3，將所計算能量值或幅值基于所有窗口對應(yīng)的極值進(jìn)行歸一化，將該[0,1]之間的值作為該時間窗口評分。

26、進(jìn)一步地，時間窗口信息增益評分的計算方法為：

27、計算每個時間窗口對目標(biāo)變量的信息增益g(y,x)，并將信息增益值歸一化為0-1之間的分?jǐn)?shù)：

28、g(y,x)＝h(y)-h(y|x)

29、其中h(y)為目標(biāo)變量的熵，h(y|x)為目標(biāo)變量在給定特征x下的條件熵，目標(biāo)變量y通常指的是希望預(yù)測或分類的結(jié)果數(shù)據(jù)，特征x指每個時間窗口內(nèi)的特征。

30、進(jìn)一步地，上述條件熵h(y|x)的計算方法為：

31、步驟1)統(tǒng)計目標(biāo)變量y和時間窗口特征x的聯(lián)合頻數(shù)；

32、步驟2)基于統(tǒng)計數(shù)量計算聯(lián)合概率分布p(x＝xi,y＝y(tǒng)j)；

33、步驟3)計算條件概率分布，即在給定時間窗口特征時，目標(biāo)變量的條件概率p(y＝y(tǒng)j|x＝xi)：

34、

35、步驟4)計算條件熵h(y|x)，方法為：

36、

37、進(jìn)一步地，步驟5中確定卷積核是否位于重要時間窗口的方法為：

38、步驟5-1，通過卷積核大小與步長計算卷積核感受野sen，方法為：

39、sen＝ksize+(ksize-1)*(kstep-1)

40、其中ksize為卷積核大小，kstep為卷積核步長。

41、步驟5-2，對于神經(jīng)網(wǎng)絡(luò)輸出序列的每個位置i計算其對應(yīng)輸入序列的中心位置icenter，方法為：

42、

43、步驟5-3，基于計算感卷積核感受野sen所對應(yīng)的起始時間索引start和結(jié)束時間索引end，方法為：

44、

45、(start,end)即為該卷積核在輸入序列中的索引范圍，通過該索引判斷卷積核是否位于重要時間窗口內(nèi)

46、進(jìn)一步地，步驟6中cnn網(wǎng)絡(luò)模型的調(diào)整方法為：根據(jù)步驟3所得每個時間窗口的綜合評分，減小重要時間窗口對應(yīng)池化層卷積核尺度；

47、rnn網(wǎng)絡(luò)模型調(diào)整的方法包括以下步驟：

48、步驟6-1，在訓(xùn)練階段前向傳播階段計算模型損失函數(shù)；

49、步驟6-2，在反向傳播階段計算每個時間步隱藏狀態(tài)對模型損失函數(shù)的貢獻(xiàn)值；

50、步驟6-3，對貢獻(xiàn)值小于某個閾值的時間步減少其對應(yīng)的隱藏單元數(shù)量，減小通過降低該隱藏單元對應(yīng)隱藏狀態(tài)權(quán)重矩陣的維度來實現(xiàn)。

51、有益效果

52、本發(fā)明所采用方法有效地對機(jī)器學(xué)習(xí)模型進(jìn)行了優(yōu)化，模型在小巧高效的前提下保持了良好性能，適合在資源受限的物聯(lián)網(wǎng)邊緣設(shè)備上運(yùn)行。

53、本發(fā)明方法實施過程中減少了人工干預(yù)，能基于輸入的時序數(shù)據(jù)自動優(yōu)化邊緣設(shè)備上的人工智能代理模型，有利于物聯(lián)網(wǎng)邊緣設(shè)備中人工智能相關(guān)方法落地應(yīng)用。

技術(shù)特征：

1.一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，包括如下步驟：

2.如權(quán)利要求1所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述步驟s2中對數(shù)據(jù)進(jìn)行預(yù)處理的過程包括：

3.如權(quán)利要求1所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述步驟s3-2中計算每個窗口的小波變換系數(shù)與信息增益值作為評分，對小波變換評分與信息增益評分加權(quán)求和作為每個時間窗口的綜合評分。

4.如權(quán)利要求3所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述時間窗口小波變換系數(shù)評分的計算方法為：

5.如權(quán)利要求3所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述時間窗口信息增益評分的計算方法為：

6.如權(quán)利要求5所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述條件熵h(y|x)的計算方法為：

7.如權(quán)利要求1所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述步驟s5中確定卷積核是否位于重要時間窗口的方法為：

8.如權(quán)利要求1所述的一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，其特征在于，所述步驟s6中cnn網(wǎng)絡(luò)模型的調(diào)整方法為：根據(jù)所述步驟s3所得每個時間窗口的綜合評分，減小重要時間窗口對應(yīng)池化層卷積核尺度；

技術(shù)總結(jié)
本發(fā)明公開了一種物聯(lián)網(wǎng)邊緣節(jié)點(diǎn)機(jī)器學(xué)習(xí)模型自適應(yīng)優(yōu)化方法，屬于物聯(lián)網(wǎng)及人工智能技術(shù)領(lǐng)域。方法首先采集物聯(lián)網(wǎng)設(shè)備目標(biāo)特征時序數(shù)據(jù)并進(jìn)行預(yù)處理，然后確定時序數(shù)據(jù)的重要時間窗口，構(gòu)建初始神經(jīng)網(wǎng)絡(luò)后，判斷卷積核中心所對應(yīng)的輸入時間序列中的位置，基于重要時間窗口及其對應(yīng)卷積核位置對初始神經(jīng)網(wǎng)絡(luò)模型進(jìn)行調(diào)整，最后對調(diào)整后的神經(jīng)網(wǎng)絡(luò)模型進(jìn)行重新訓(xùn)練并測試性能。本發(fā)明所采用方法有效地對機(jī)器學(xué)習(xí)模型進(jìn)行了優(yōu)化，模型在小巧高效的前提下保持了良好性能，適合在資源受限的物聯(lián)網(wǎng)邊緣設(shè)備上運(yùn)行；方法實施過程能基于輸入的時序數(shù)據(jù)自動優(yōu)化邊緣設(shè)備上的人工智能代理模型，有利于物聯(lián)網(wǎng)邊緣設(shè)備中人工智能相關(guān)方法落地應(yīng)用。

技術(shù)研發(fā)人員：劉揚(yáng),吉輝
受保護(hù)的技術(shù)使用者：蘇摩智能技術(shù)（南京）有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/30