本發(fā)明屬于智能信號(hào)處理,具體而言,涉及利用長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)對(duì)信號(hào)特征進(jìn)行分類(lèi),可用于智能工廠中入侵設(shè)備的檢出。
背景技術(shù):
1、隨著網(wǎng)絡(luò)技術(shù)的發(fā)展和智能硬件制造成本的降低,智能制造設(shè)備如智能機(jī)械臂、網(wǎng)絡(luò)攝像頭、分布式自動(dòng)控制器、人工智能質(zhì)量檢測(cè)設(shè)備等被廣泛地應(yīng)用于智能工廠中,以提高管理效率和生產(chǎn)質(zhì)量、降低物料成本和人力開(kāi)銷(xiāo)。
2、然而,智能設(shè)備的引入也為傳統(tǒng)制造企業(yè)帶來(lái)了新的挑戰(zhàn)。例如,被秘密放置在智能工廠中的入侵設(shè)備能夠隱蔽地收集企業(yè)的機(jī)密數(shù)據(jù),造成企業(yè)生產(chǎn)計(jì)劃和技術(shù)的泄露;被員工意外帶入生產(chǎn)場(chǎng)所的手機(jī)(此時(shí)被視為入侵設(shè)備)等設(shè)備,如不能被及時(shí)地檢出,可能干擾產(chǎn)線上的智能制造設(shè)備,造成經(jīng)濟(jì)損失。因此,當(dāng)前智能工廠對(duì)入侵設(shè)備的檢測(cè)存在迫切的需求。
3、由于入侵設(shè)備主要通過(guò)收、發(fā)電磁波的方式對(duì)正常智能制造設(shè)備產(chǎn)生影響,針對(duì)入侵設(shè)備和正常智能制造設(shè)備的區(qū)分問(wèn)題,其關(guān)鍵是區(qū)分兩類(lèi)設(shè)備所發(fā)射信號(hào)的特征。由于智能制造設(shè)備的生產(chǎn)廠家考慮到其設(shè)備的安全和知識(shí)產(chǎn)權(quán)因素,通常不會(huì)公布其生產(chǎn)的設(shè)備所發(fā)射的信號(hào)特征,故已有的方法主要采用人工智能技術(shù),通過(guò)決策樹(shù)、k均值等方法對(duì)信號(hào)特征進(jìn)行分類(lèi),以達(dá)到檢出入侵設(shè)備的目的。然而,隨著技術(shù)對(duì)抗的發(fā)展,一些入侵設(shè)備逐漸開(kāi)始采用長(zhǎng)連接、小數(shù)據(jù)量的方式發(fā)射信號(hào),避免短時(shí)間、大流量集中上傳其采集到的信息,這使得其信號(hào)特征在短時(shí)間內(nèi)與正常智能制造設(shè)備十分相似,已有方法難以檢出此類(lèi)設(shè)備。為了實(shí)現(xiàn)此類(lèi)設(shè)備的檢出,必須在一段時(shí)間內(nèi)持續(xù)分析其信號(hào)特征,即采用有記憶性的檢測(cè)方法。
4、綜上所述,引入長(zhǎng)短時(shí)記憶網(wǎng)絡(luò),能夠解決當(dāng)前智能工廠入侵設(shè)備檢測(cè)方法遇到的主要難題。通過(guò)發(fā)展此項(xiàng)技術(shù),能夠有效地彌補(bǔ)傳統(tǒng)方法存在的缺點(diǎn),捕捉入侵設(shè)備的特征,實(shí)現(xiàn)智能工廠入侵設(shè)備的高效檢測(cè)。
5、需要說(shuō)明的是,在上述背景技術(shù)部分公開(kāi)的信息僅用于加強(qiáng)對(duì)本公開(kāi)的背景的理解,因此可以包括不構(gòu)成對(duì)本領(lǐng)域普通技術(shù)人員已知的現(xiàn)有技術(shù)的信息。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明的目的在于針對(duì)現(xiàn)有智能工廠非法入侵設(shè)備檢測(cè)方法存在的問(wèn)題,提出一種基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的智能工廠入侵設(shè)備檢測(cè)方法。通過(guò)長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)能夠理解輸入序列前后時(shí)間關(guān)系的特性,提取智能工廠中設(shè)備所發(fā)射信號(hào)的時(shí)間特征;進(jìn)而,利用此時(shí)間特征,可以有效提高智能工廠入侵設(shè)備檢測(cè)方法的正確率;最后,通過(guò)對(duì)入侵設(shè)備的特征進(jìn)行聚類(lèi),能夠識(shí)別智能工廠內(nèi)的入侵設(shè)備數(shù)量。綜上所述,本發(fā)明所提出的方法相較于現(xiàn)有的智能工廠入侵設(shè)備檢測(cè)方法,其多個(gè)方面的性能都實(shí)現(xiàn)了提升,從而為智能工廠的安全運(yùn)行提供了技術(shù)支撐。
2、本發(fā)明的目的是通過(guò)以下技術(shù)方案來(lái)實(shí)現(xiàn)的:一種基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的智能工廠入侵設(shè)備檢測(cè)方法,包含以下步驟:
3、(1)信號(hào)的時(shí)序特征構(gòu)建:該步驟在時(shí)間和特征兩個(gè)維度上進(jìn)行,時(shí)間維度包含從開(kāi)始觀測(cè)時(shí)間t=1到結(jié)束觀測(cè)時(shí)間t=t的時(shí)間段,特征維度包含每個(gè)時(shí)間點(diǎn)所提取的若干不同特征;對(duì)于任一時(shí)間點(diǎn)t,由該時(shí)間點(diǎn)的采樣信號(hào)所提取的特征表達(dá)為:
4、xi,t=[xi,t,1,xi,t,2,…,xi,t,]]t
5、其中,i=1,2,…,i表達(dá)設(shè)備的編號(hào),在訓(xùn)練過(guò)程中作為數(shù)據(jù)樣本的標(biāo)簽,i表達(dá)設(shè)備的總數(shù),xi,t,n,n=1,2,…,n表達(dá)在時(shí)間點(diǎn)t提取的編號(hào)為i的設(shè)備發(fā)射的射頻信號(hào)的第n個(gè)特征;編號(hào)為i的設(shè)備在觀測(cè)時(shí)間內(nèi)發(fā)射的射頻信號(hào)的總體特征表達(dá)為:
6、
7、(2)基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的信號(hào)語(yǔ)義空間建模:該步驟涉及基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)的正向傳播及其訓(xùn)練;所述基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)的正向傳播計(jì)算過(guò)程如下:
8、fi,t=sigmoid(wf·cat(ri,t-1,xi,t))
9、pi,t=sigmoid(wp·cat(ri,t-1,xi,t))
10、qi,t=tanh(wq·cat(ri,t-1,xi,t))
11、si,t=fi,t⊙si,t-1+pi,t⊙qi,t
12、oi,t=sigmoid(wo·cat(ri,t-1,xi,t))
13、ri,t=oi,t⊙tanh(si,t)
14、每次計(jì)算時(shí),需由t=1始,計(jì)算至t=t止,即由fi,1開(kāi)始計(jì)算,并最終得到ri,t;其中,除ri,t外,fi,t、pi,t、qi,t、si,t、oi,t、ri,t,t=1,2,...,t表達(dá)計(jì)算步驟中的中間變量,wf、wp、wq、wo表達(dá)可訓(xùn)練參數(shù),cat(·,·)表達(dá)將兩個(gè)向量首尾相接的操作,sigmoid(·)表達(dá)西格蒙德函數(shù),tanh(·)表達(dá)雙曲正切函數(shù),·表達(dá)矩陣或向量的乘積,⊙表達(dá)哈達(dá)瑪積,ri,0,si,0分別表達(dá)ri,t,si,t的初值,在訓(xùn)練過(guò)程中通過(guò)隨機(jī)的方式選取;將正向傳播計(jì)算過(guò)程表達(dá)為:
15、ri,t=l(xi;wf,wp,wq,wo)
16、其中,l(·)表達(dá)由以上公式說(shuō)明的計(jì)算過(guò)程;通過(guò)該正向傳播計(jì)算過(guò)程,將t=1至t=t時(shí)間段內(nèi),編號(hào)為i的設(shè)備發(fā)射的射頻信號(hào)的總體特征xi計(jì)算為其在信號(hào)語(yǔ)義空間中的表征ri,t;
17、訓(xùn)練過(guò)程選擇三個(gè)損失函數(shù),每次,將一個(gè)用于訓(xùn)練的數(shù)據(jù)樣本經(jīng)上式所示過(guò)程計(jì)算為其表征,然后計(jì)算損失函數(shù)的值,最后進(jìn)行反向傳播,更新可訓(xùn)練參數(shù)wf、wp、wq、wo;所選擇的損失函數(shù)表達(dá)為:
18、
19、其中,xi,m,m=1,2,...,m表達(dá)來(lái)自編號(hào)為i的設(shè)備的第m條用于訓(xùn)練的數(shù)據(jù)樣本,m為來(lái)自該設(shè)備的訓(xùn)練樣本的總數(shù),ri,m,t為xi,m的表征,ri,m,t=l(xi,m;wf,wp,wq,wo),ci表達(dá)所有來(lái)自編號(hào)為i的設(shè)備的數(shù)據(jù)樣本的表征的中心向量,softmax(·)表達(dá)softmax函數(shù),abs(·)表達(dá)取絕對(duì)值,reverse(·)表達(dá)一個(gè)解碼神經(jīng)網(wǎng)絡(luò),classify(·)表達(dá)一個(gè)分類(lèi)神經(jīng)網(wǎng)絡(luò);
20、引入互補(bǔ)點(diǎn)機(jī)制,將編號(hào)為i的設(shè)備的互補(bǔ)點(diǎn)定義為pi,pi滿(mǎn)足:
21、
22、其中,d(·,·)為距離度量函數(shù);基于此機(jī)制,引入新的損失函數(shù)表達(dá)為:
23、
24、其中,ri為可學(xué)習(xí)參數(shù);
25、(3)基于信號(hào)統(tǒng)計(jì)特征的語(yǔ)義空間分割:采用標(biāo)準(zhǔn)差閾值分割方法,將語(yǔ)義空間表達(dá)為:
26、
27、其中,vi表達(dá)編號(hào)為i的設(shè)備對(duì)應(yīng)的語(yǔ)義空間,弘i表達(dá)用于訓(xùn)練的數(shù)據(jù)樣本中所有屬于該語(yǔ)義空間的向量ri,m,t的均值,φi表達(dá)分割閾值;對(duì)于語(yǔ)義空間vi,該分割閾值的確定方法為,對(duì)于用于訓(xùn)練的數(shù)據(jù)樣本中每一個(gè)屬于該語(yǔ)義空間的向量ri,m,t,計(jì)算下式:
28、di,m=(ri,m,t-μi)t(ri,m,t-μi)
29、然后,計(jì)算di,m,m=1,2,...,m的標(biāo)準(zhǔn)差σi,再將所有di,m的值由大至小排列,取第一個(gè)小于三倍σi的值作為語(yǔ)義空間vi的分割閾值φi;由此,整個(gè)語(yǔ)義空間被明確地分割為i+1部分,其中,前i部分vi,i=1,2,...,i對(duì)應(yīng)訓(xùn)練集中已知類(lèi)型的設(shè)備所發(fā)出信號(hào)的語(yǔ)義空間,最后一部分被定義為:
30、vu=rd-v1-v2-…-vi
31、其中,vu表達(dá)對(duì)應(yīng)未知入侵設(shè)備所發(fā)出信號(hào)的語(yǔ)義空間,rd表達(dá)d維的實(shí)向量空間,d表達(dá)ri,m,t的維度;僅在該式中,符號(hào)“[·]-[·]”表示該符號(hào)左側(cè)的語(yǔ)義空間除去所有來(lái)自該符號(hào)右側(cè)的語(yǔ)義空間中的元素;
32、(4)入侵設(shè)備識(shí)別:當(dāng)采集到一段信號(hào)并按照步驟(1)計(jì)算其特征xs后,將其特征輸入訓(xùn)練完成的基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)并得到其表征rs,t,若rs,t不屬于語(yǔ)義空間vu,則判斷其為已知設(shè)備,通過(guò)識(shí)別出的設(shè)備編號(hào)判斷其為正常智能制造設(shè)備或已知入侵設(shè)備;否則,判斷其為未知入侵設(shè)備。
33、進(jìn)一步地,基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)的不同損失函數(shù)的作用為:lcenter使得來(lái)自同一臺(tái)設(shè)備的射頻信號(hào)表征聚集在一起,保證了語(yǔ)義空間的稀疏性;lclassify確?;陂L(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)擁有足夠的分類(lèi)能力;lreconstruction則強(qiáng)化了基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)的表征能力。
34、進(jìn)一步地,距離度量函數(shù)d(·,·)公式為:
35、
36、其中,z為超參數(shù)。
37、進(jìn)一步地,通過(guò)步驟(2)訓(xùn)練所得的基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò),能夠?qū)⑤斎離i,m投影至維度與其表征向量ri,m,t維度相同的語(yǔ)義空間內(nèi),在該語(yǔ)義空間內(nèi),來(lái)自相同編號(hào)設(shè)備的輸入對(duì)應(yīng)的表征向量聚集在一起,來(lái)自不同編號(hào)設(shè)備的輸入對(duì)應(yīng)的表征向量之間相互分離。
38、進(jìn)一步地,步驟(4)中,若判斷當(dāng)前存在多段信號(hào)來(lái)自未知入侵設(shè)備,通過(guò)k-means聚類(lèi)算法對(duì)其表征rs,t進(jìn)行聚類(lèi),然后判斷未知入侵設(shè)備數(shù)等于k-means聚類(lèi)算法所得的類(lèi)別數(shù)。
39、本發(fā)明與現(xiàn)有技術(shù)相比具有以下優(yōu)點(diǎn):
40、(1)本發(fā)明基于長(zhǎng)短時(shí)記憶網(wǎng)絡(luò),能夠分析不同時(shí)刻智能工廠內(nèi)設(shè)備所發(fā)射的信號(hào)的特征之間的時(shí)序關(guān)系,并從該時(shí)序關(guān)系中提取有關(guān)信號(hào)特征的更深層次的信息,進(jìn)一步地,能夠提高非法入侵設(shè)備的檢出效率。
41、(2)本發(fā)明基于特定的損失函數(shù)進(jìn)行訓(xùn)練,使得神經(jīng)網(wǎng)絡(luò)的特征空間具有較好的稀疏性。利用該稀疏性,可以對(duì)識(shí)別出的非法入侵設(shè)備的特征進(jìn)行聚類(lèi),從而實(shí)現(xiàn)智能工廠內(nèi)非法入侵設(shè)備數(shù)量的識(shí)別。這對(duì)實(shí)際應(yīng)用中查找非法入侵設(shè)備、排除非法入侵設(shè)備有著重要意義。