本發(fā)明涉及多變量時序異常檢測，具體地說涉及一種基于多變量時序數(shù)據(jù)的工業(yè)物聯(lián)網(wǎng)系統(tǒng)異常檢測方法。

背景技術(shù)：

1、隨著工業(yè)物聯(lián)網(wǎng)（iiot）及智能制造技術(shù)的快速發(fā)展，大量的多變量時序數(shù)據(jù)被生成和采集，這些數(shù)據(jù)通常來自于工業(yè)設(shè)備、傳感器、監(jiān)控系統(tǒng)等。通過對這些多變量時序數(shù)據(jù)的分析，可以實現(xiàn)設(shè)備故障預(yù)測、生產(chǎn)過程優(yōu)化和安全監(jiān)測等功能。異常檢測作為時序數(shù)據(jù)分析中的一個重要任務(wù)，能夠幫助及時發(fā)現(xiàn)潛在的設(shè)備故障、性能問題或安全威脅，因此在工業(yè)應(yīng)用中具有至關(guān)重要的作用。

2、在現(xiàn)有技術(shù)中，多變量時序異常檢測方法通常基于兩類策略：基于重構(gòu)的模型（如自編碼器）和基于預(yù)測的模型（如回歸模型）。基于重構(gòu)的模型通過學(xué)習(xí)正常時序數(shù)據(jù)的壓縮表示，并用該表示重構(gòu)原始數(shù)據(jù)，計算重構(gòu)誤差來檢測異常。然而，這類方法往往忽視了多變量之間的復(fù)雜依賴關(guān)系，且容易受到噪聲的干擾。基于預(yù)測的模型則通過預(yù)測時序數(shù)據(jù)的未來行為，并計算預(yù)測誤差來判斷異常，盡管這類方法能夠?qū)W習(xí)到時序數(shù)據(jù)的時間依賴性，但它們通常難以處理多變量之間的非線性依賴，并且對噪聲十分敏感。為了應(yīng)對這些挑戰(zhàn)，近年來，深度學(xué)習(xí)方法在多變量時序異常檢測中得到了廣泛應(yīng)用，然而，此類方法仍然面臨著無法同時有效捕捉復(fù)雜時間和空間依賴的問題，且在異常數(shù)據(jù)稀缺的情況下，難以避免誤報或漏報。

技術(shù)實現(xiàn)思路

1、本發(fā)明提供的一種可有效提高檢測準確性和魯棒性的基于多變量時序數(shù)據(jù)的工業(yè)物聯(lián)網(wǎng)系統(tǒng)異常檢測方法，可至少解決上述技術(shù)問題之一。

2、為了解決上述技術(shù)問題，本發(fā)明采用如下技術(shù)方案：基于多變量時序數(shù)據(jù)的工業(yè)物聯(lián)網(wǎng)系統(tǒng)異常檢測方法，包括以下步驟：

3、s1、將原始的多變量時序數(shù)據(jù)劃分為原始訓(xùn)練集和原始測試集，所述原始訓(xùn)練集只包含正常的時序數(shù)據(jù)，所述原始測試集中包含異常的時序數(shù)據(jù)；

4、s2、對所述原始訓(xùn)練集與所述原始測試集分別進行歸一化處理，再分別進行時間窗口分割，得到新的訓(xùn)練集和新的測試集；

5、s3、將時間-變量注意力機制模塊與對抗訓(xùn)練機制模塊相結(jié)合，構(gòu)建gtvformer模型；

6、s4、所述gtvformer模型分兩個階段對所述新的訓(xùn)練集中的數(shù)據(jù)進行訓(xùn)練，以對抗的方式訓(xùn)練兩個transformer模型來重構(gòu)正常的輸入窗口數(shù)據(jù)w，該兩個transformer模型中，transformer1模型嘗試欺騙transformer2模型，transformer2模型則學(xué)習(xí)辨別數(shù)據(jù)是來自輸入窗口數(shù)據(jù)w的真實輸入數(shù)據(jù)，還是來自transformer1模型的重構(gòu)數(shù)據(jù)；

7、s5、利用已完成訓(xùn)練的所述gtvformer模型對所述新的測試集中的數(shù)據(jù)進行預(yù)測，結(jié)合兩個transformer模型的輸出結(jié)果給出每一個時間點的異常分數(shù)score，根據(jù)預(yù)先定義的異常閾值λ，對樣本點進行標記，獲得標記結(jié)果y；

8、s6、根據(jù)標記結(jié)果y，判斷每一個時間點是否存在異常。

9、進一步地，所述s2中，選用最小-最大歸一化方法按照下式（1）對所述原始訓(xùn)練集和所述原始測試集進行歸一化處理：

10、（1）

11、其中，x表示經(jīng)過歸一化處理后的數(shù)據(jù)集，x表示所述原始訓(xùn)練集或原始測試集，max（x）和min（x）分別表示x的最大值和最小值。

12、進一步地，所述s2中，對經(jīng)過歸一化處理后的數(shù)據(jù)集x進行時間窗口分割，包含多個變量的數(shù)據(jù)集x={x1，x2，...，xt}，對該數(shù)據(jù)集x采用等距采樣進行分割，轉(zhuǎn)換為多個長度為k的滑動窗口，滑動窗口之間的時間間隔取1，定義一個時間窗口w，該時間窗口w包含從時間點t-k+1到t的一段時間序列數(shù)據(jù)，即w={xt-k+1，...，xt}，將數(shù)據(jù)集x轉(zhuǎn)換為一系列時間窗口w={w1，w2，...，wt}作為模型的訓(xùn)練輸入，形成輸入窗口數(shù)據(jù)w。

13、進一步地，所述s3中，所述gtvformer模型由一個共享的編碼器encoder和兩個解碼器decoder1與decoder2組成，編碼器encoder與解碼器decoder1構(gòu)成transformer1模型，編碼器encoder與解碼器decoder2構(gòu)成transformer2模型，所述時間-變量注意力機制模塊與所述對抗訓(xùn)練機制模塊均作用于transformer1模型與transformer2模型，所述時間-變量注意力機制模塊用于挖掘多變量時序數(shù)據(jù)中時間維度和變量維度之間的關(guān)聯(lián)性，進行信息的充分集成，所述對抗訓(xùn)練機制模塊用于進一步放大正常數(shù)據(jù)與異常數(shù)據(jù)之間的差異性。

14、進一步地，所述s3中，所述gtvformer模型的構(gòu)建進一步包括：

15、s31、對原始的輸入數(shù)據(jù)，由共享的編碼器encoder中的所述時間-變量注意力機制模塊進行建模和分析，所述時間-變量注意力機制模塊深入挖掘時間維度和變量維度的特征向量；

16、s32、在訓(xùn)練階段，編碼器encoder的輸出作為解碼器decoder1及解碼器decoder2的輸入，且兩個解碼器decoder1和decoder2中的所述時間-變量注意力機制模塊進一步挖掘輸入在時間維度和變量維度上的信息，同時將挖掘到的特征向量傳遞給mlp模型進行長期預(yù)測；

17、s33、基于兩個transformer模型分兩個階段進行訓(xùn)練；

18、s34、在測試階段結(jié)合transformer1模型和transformer2模型的輸出共同結(jié)果，給出每一個時間點的異常評分score，并根據(jù)預(yù)先定義的異常閾值給出每一個時間點的預(yù)測標簽。

19、進一步地，所述s4中，將訓(xùn)練分成的兩個階段分別為：

20、階段1：transformer訓(xùn)練

21、在第一階段，目標是訓(xùn)練每個transformer模型重構(gòu)輸入數(shù)據(jù)，輸入窗口數(shù)據(jù)w被編碼器encoder壓縮到潛在空間，然后通過每個解碼器進行重構(gòu)，該階段訓(xùn)練目標為下式（2）和（3）：

22、（2）

23、（3）

24、其中，和分別代表transformer1模型和transformer2模型的訓(xùn)練目標，trans為transformer的縮寫，w為輸入窗口數(shù)據(jù)；

25、階段2：對抗訓(xùn)練

26、在第二階段，目標是訓(xùn)練transformer2模型以區(qū)分真實數(shù)據(jù)和來自transformer1模型的重構(gòu)數(shù)據(jù)，同時訓(xùn)練transformer1模型去欺騙transformer2模型，來自transformer1模型的數(shù)據(jù)再次通過編碼器被壓縮到潛在空間，然后由transformer2模型重構(gòu)；

27、在對抗訓(xùn)練中，transformer1模型的目標是最小化輸入窗口數(shù)據(jù)w和transformer2模型輸出之間的差異，而transformer2模型的目標則是最大化該差異，transformer1模型的訓(xùn)練目的在于是否成功欺騙了transformer2模型，而transformer2模型的訓(xùn)練目的則在于試圖區(qū)分由transformer1模型重構(gòu)的數(shù)據(jù)和真實數(shù)據(jù)，該階段訓(xùn)練目標為下式（4）：

28、（4）

29、對應(yīng)的損失函數(shù)為下式（5）和（6）：

30、（5）

31、（6）。

32、進一步地，所述s4中，兩個transformer模型均具有雙重任務(wù)，transformer1模型的任務(wù)是在階段1中最小化輸入窗口數(shù)據(jù)w的重構(gòu)誤差，并在階段2中最小化輸入窗口數(shù)據(jù)w與transformer2模型重構(gòu)輸出之間的差異，transformer2模型的任務(wù)是在階段1中最小化輸入窗口數(shù)據(jù)w的重構(gòu)誤差，并在階段2中最大化由transformer1模型重構(gòu)的數(shù)據(jù)的重構(gòu)誤差；

33、每個transformer模型的雙重訓(xùn)練目標通過將下式（7）和（8）組合起來表示，且隨著時間演變，不同部分的權(quán)重比例也隨之調(diào)整：

34、（7）

35、（8）

36、其中，n表示訓(xùn)練輪數(shù)。

37、進一步地，所述s5中，異常分數(shù)score由下式（9）計算獲得：

38、（9）

39、其中：

40、表示未見過的窗口數(shù)據(jù)，即測試窗口數(shù)據(jù)；

41、t表示時間戳；

42、α+β=1，用于表示參數(shù)化假陽性和真陽性之間的權(quán)衡，如果α大于β，則減少真陽性的數(shù)量，同時減少假陽性的數(shù)量，相反，如果α小于β，則增加真陽性的數(shù)量，但同時也會增加假陽性的數(shù)量。

43、進一步地，所述s5中，每一個時間點的標記結(jié)果y由下式（10）計算獲得：

44、（10）

45、其中，λ為預(yù)先定義的異常閾值；

46、當標記結(jié)果y的標記值為0時，表示當前時刻系統(tǒng)正常，當標記結(jié)果y的標記值為1時，表示當前時刻系統(tǒng)存在異常。

47、進一步地，所述s6中，由于閾值的設(shè)置可以采用不同的方法，故如果超過固定閾值，則將時間戳t標記為異常。

48、本發(fā)明的有益效果體現(xiàn)在：

49、1、高效建模非線性時序依賴性：通過引入時間變量注意力機制來捕捉多變量時序數(shù)據(jù)中時間維度與變量維度之間的復(fù)雜依賴關(guān)系，能夠有效建模時間維度與變量維度之間的復(fù)雜非線性依賴性，提升模型的表達能力。

50、2、有效增強異常識別能力：通過利用對抗訓(xùn)練策略來放大正常數(shù)據(jù)與異常數(shù)據(jù)之間的差異，有效減小異常點被正常點掩蓋的風(fēng)險，提高異常點的識別率，提升異常檢測的準確性。

51、3、較強的魯棒性：該方法能夠在噪聲環(huán)境下有效工作，減少誤報率，并且具有較強的泛化能力，能夠在不同的工業(yè)場景中均表現(xiàn)出較好的適應(yīng)性和穩(wěn)定性。