本發(fā)明涉及圖神經(jīng)網(wǎng)絡(luò)，特別涉及一種基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法。

背景技術(shù)：

1、目前，現(xiàn)有模型在利用圖結(jié)構(gòu)信息生成動態(tài)節(jié)點嵌入時，由于僅考慮節(jié)點的一跳鄰居或共同鄰居（即一階相似性和二階相似性），導(dǎo)致網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)表達(dá)能力不足，在大規(guī)模稀疏網(wǎng)絡(luò)中，這種局限性無法全面描述網(wǎng)絡(luò)的復(fù)雜拓?fù)浣Y(jié)構(gòu)和準(zhǔn)確衡量節(jié)點之間的相似度，限制了模型在節(jié)點分類、鏈接預(yù)測等圖學(xué)習(xí)任務(wù)中的性能。

2、為了提升網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的表達(dá)能力，通過引入高階圖結(jié)構(gòu)去捕捉節(jié)點之間的復(fù)雜關(guān)系和共同特征，提供更深入的相似性度量，但其引入往往伴隨著計算復(fù)雜度的指數(shù)級上升和內(nèi)存占用的顯著增加，這在實際應(yīng)用中是不可忽視的障礙。此外，高階圖結(jié)構(gòu)還可能引入不必要的噪音，影響模型的最終準(zhǔn)確率，因此，需要進(jìn)一步優(yōu)化以解決這些問題。

技術(shù)實現(xiàn)思路

1、基于此，本發(fā)明的目的是提供一種基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，以解決現(xiàn)有技術(shù)中的不足。

2、為實現(xiàn)上述目的，本發(fā)明提供了一種基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，所述方法包括：

3、通過多跳采樣特征提取得到相應(yīng)節(jié)點的若干個高階鄰居特征；

4、通過預(yù)設(shè)的節(jié)點重要性評分函數(shù)對所述節(jié)點進(jìn)行評分，基于各所述節(jié)點的評分，并通過sortpooling層對所述節(jié)點進(jìn)行過濾，以得到中間節(jié)點及相應(yīng)的中間高階鄰居特征；

5、通過u-gcn嵌入方法構(gòu)建子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入，通過所述子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入，并結(jié)合網(wǎng)絡(luò)計算的子圖網(wǎng)絡(luò)結(jié)構(gòu)的演化方向，對所述中間高階鄰居特征進(jìn)行級聯(lián)，以得到需要高階鄰居特征；

6、通過block-recurrent?transformer對所述需要高階鄰居特征進(jìn)行特征融合優(yōu)化，以生成目標(biāo)節(jié)點嵌入表示，基于所述目標(biāo)節(jié)點嵌入表示計算動態(tài)鏈接預(yù)測任務(wù)。

7、優(yōu)選的，所述高階鄰居特征包括時序特征、鄰居共現(xiàn)特征、節(jié)點特征和邊權(quán)重特征，所述通過多跳采樣特征提取得到相應(yīng)節(jié)點的若干個高階鄰居特征的步驟包括：

8、通過多跳鄰居從動態(tài)網(wǎng)絡(luò)鏈接預(yù)測數(shù)據(jù)集中采集n條交互數(shù)據(jù)；

9、從n條所述交互數(shù)據(jù)中提取節(jié)點的多跳鄰居集合，從所述多跳鄰居集合中抽取時序特征、鄰居共現(xiàn)特征、節(jié)點特征和邊權(quán)重特征，其中，通過全連接層在所述節(jié)點特征和所述邊權(quán)重特征的尾部分別增加相應(yīng)的one-hot編碼，以區(qū)分所述節(jié)點特征和所述邊權(quán)重特征中不同跳數(shù)的鄰居。

10、優(yōu)選的，所述節(jié)點重要性評分函數(shù)的表達(dá)式如下所示：

11、所述節(jié)點重要性評分函數(shù)的表達(dá)式如下所示：

12、

13、

14、其中，為采樣后的子圖構(gòu)成的鄰接矩陣，為采樣后的子圖構(gòu)成的單位矩陣，為鄰接矩陣和單位矩陣之和，為節(jié)點的重要性評分值，來自抽取后的節(jié)點的特征表示，為矩陣的對角度矩陣，為對矩陣進(jìn)行歸一化處理，為輸出通道數(shù)為1的投影矩陣，為激活函數(shù)。

15、優(yōu)選的，所述通過sortpooling層對所述節(jié)點進(jìn)行過濾的步驟包括：

16、基于各所述節(jié)點的評分值將所述節(jié)點從大到小排序，保留前m個所述節(jié)點，并過濾其余所述節(jié)點。

17、優(yōu)選的，所述通過u-gcn嵌入方法構(gòu)建子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入的步驟包括：

18、基于所述中間節(jié)點構(gòu)造相應(yīng)節(jié)點的不同跳數(shù)的子網(wǎng)絡(luò)，通過u-gcn網(wǎng)絡(luò)對各所述子網(wǎng)絡(luò)進(jìn)行信息傳播，得到不同網(wǎng)絡(luò)嵌入矩陣；

19、計算所述節(jié)點在不同所述網(wǎng)絡(luò)嵌入矩陣中的重要性系數(shù)，基于所述重要性系數(shù)對所述節(jié)點關(guān)聯(lián)的鄰居進(jìn)行節(jié)點鄰居聚合，得到所述節(jié)點的不同網(wǎng)絡(luò)嵌入；

20、對不同所述網(wǎng)絡(luò)嵌入的類型進(jìn)行差異化聚合，得到子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入。

21、優(yōu)選的，所述對所述中間高階鄰居特征進(jìn)行級聯(lián)的步驟之前，所述方法還包括：

22、輸出以所述中間節(jié)點為核心的當(dāng)前子圖網(wǎng)絡(luò)結(jié)構(gòu)，從子圖結(jié)構(gòu)嵌入存儲模塊中讀取上一次輸出的子圖網(wǎng)絡(luò)結(jié)構(gòu)的隱藏狀態(tài)，將上一次輸出的所述子圖網(wǎng)絡(luò)結(jié)構(gòu)的隱藏狀態(tài)以及所述當(dāng)前子圖網(wǎng)絡(luò)結(jié)構(gòu)的子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入作為輸入，通過網(wǎng)絡(luò)進(jìn)行計算，得到所述當(dāng)前子圖網(wǎng)絡(luò)結(jié)構(gòu)的演化方向。

23、優(yōu)選的，所述對所述中間高階鄰居特征進(jìn)行級聯(lián)，以得到需要高階鄰居特征的步驟包括：

24、基于所述子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入以及所述演化方向，并通過動態(tài)節(jié)點嵌入生成多個子網(wǎng)絡(luò)，將前兩個所述子網(wǎng)絡(luò)輸出的特征依次進(jìn)行分塊、對齊和級聯(lián)操作，生成相關(guān)所述節(jié)點的需要高階鄰居特征。

25、優(yōu)選的，所述通過block-recurrent?transformer對所述需要高階鄰居特征進(jìn)行特征融合優(yōu)化的步驟包括：

26、將block-recurrent?transformer垂直堆疊l-1層，以及水平堆疊1層，得到目標(biāo)block-recurrent?transformer，其中，l為層數(shù)；

27、通過所述目標(biāo)block-recurrent?transformer將所述需要高階鄰居特征劃分為b個塊，將b個所述塊作為輸入token嵌入；

28、通過注意力機(jī)制并結(jié)合當(dāng)前狀態(tài)向量，將各所述塊與一個循環(huán)單元進(jìn)行交叉關(guān)注，使得每個所述塊的元素與前一個所述塊中元素的摘要進(jìn)行關(guān)注，以得到所述目標(biāo)block-recurrent?transformer中每層的當(dāng)前輸出，所述當(dāng)前輸出包括當(dāng)前輸出token嵌入和下一狀態(tài)向量，所述當(dāng)前輸出token嵌入作為目標(biāo)節(jié)點嵌入表示。

29、優(yōu)選的，所述基于所述目標(biāo)節(jié)點嵌入表示計算動態(tài)鏈接預(yù)測任務(wù)的步驟包括：

30、通過池化層對所述當(dāng)前輸出token嵌入的隱藏表示進(jìn)行池化輸出，得到最終的節(jié)點嵌入向量；

31、通過mlp網(wǎng)絡(luò)對所述節(jié)點嵌入向量進(jìn)行計算，得到輸出動態(tài)鏈接預(yù)測結(jié)果。

32、本發(fā)明的有益效果是：通過多跳采樣特征提取得到相應(yīng)節(jié)點的若干個高階鄰居特征，通過預(yù)設(shè)的節(jié)點重要性評分函數(shù)對所述節(jié)點進(jìn)行評分，基于各節(jié)點的評分，并通過sortpooling層對節(jié)點進(jìn)行過濾，得到中間節(jié)點及相應(yīng)的中間高階鄰居特征，然后通過u-gcn嵌入方法構(gòu)建子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入，通過子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入以及子圖網(wǎng)絡(luò)結(jié)構(gòu)的演化方向，對中間高階鄰居特征進(jìn)行級聯(lián)，得到需要高階鄰居特征，以增強(qiáng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的表達(dá)能力，通過block-recurrent?transformer對需要高階鄰居特征進(jìn)行特征融合，以生成目標(biāo)節(jié)點嵌入表示，再基于目標(biāo)節(jié)點嵌入表示計算動態(tài)鏈接預(yù)測任務(wù)，區(qū)別于現(xiàn)有技術(shù)，能夠?qū)崿F(xiàn)對節(jié)點維度的更高階的特征抽取，以提供更多的可利用信息，還能夠過濾掉價值較低的噪音信息，將特征數(shù)量限制在固定大小，降低計算的復(fù)雜度，提升模型的預(yù)測準(zhǔn)確率，同時，還實現(xiàn)了對內(nèi)存占用進(jìn)行優(yōu)化，以及提升計算效率。

33、本發(fā)明的附加方面和優(yōu)點將在下面的描述中部分給出，部分將從下面的描述中變得明顯，或通過本發(fā)明的實踐了解到。

技術(shù)特征：

1.一種基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述高階鄰居特征包括時序特征、鄰居共現(xiàn)特征、節(jié)點特征和邊權(quán)重特征，所述通過多跳采樣特征提取得到相應(yīng)節(jié)點的若干個高階鄰居特征的步驟包括：

3.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述節(jié)點重要性評分函數(shù)的表達(dá)式如下所示：

4.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述通過sortpooling層對所述節(jié)點進(jìn)行過濾的步驟包括：

5.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述通過u-gcn嵌入方法構(gòu)建子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入的步驟包括：

6.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述對所述中間高階鄰居特征進(jìn)行級聯(lián)的步驟之前，所述方法還包括：

7.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述對所述中間高階鄰居特征進(jìn)行級聯(lián)，以得到需要高階鄰居特征的步驟包括：

8.根據(jù)權(quán)利要求1所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述通過block-recurrent?transformer對所述需要高階鄰居特征進(jìn)行特征融合優(yōu)化的步驟包括：

9.根據(jù)權(quán)利要求8所述的基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，其特征在于，所述基于所述目標(biāo)節(jié)點嵌入表示計算動態(tài)鏈接預(yù)測任務(wù)的步驟包括：

技術(shù)總結(jié)
本發(fā)明提供了一種基于高階圖結(jié)構(gòu)的動態(tài)網(wǎng)絡(luò)鏈接預(yù)測方法，該方法包括：通過多跳采樣特征提取得到相應(yīng)節(jié)點的若干個高階鄰居特征；對節(jié)點進(jìn)行評分，并對節(jié)點進(jìn)行過濾，以得到中間高階鄰居特征；構(gòu)建子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入，通過子圖網(wǎng)絡(luò)結(jié)構(gòu)嵌入，并結(jié)合網(wǎng)絡(luò)計算的子圖網(wǎng)絡(luò)結(jié)構(gòu)的演化方向，對中間高階鄰居特征進(jìn)行級聯(lián)，以得到需要高階鄰居特征；對需要高階鄰居特征進(jìn)行特征融合，以生成目標(biāo)節(jié)點嵌入表示，基于目標(biāo)節(jié)點嵌入表示計算動態(tài)鏈接預(yù)測任務(wù)。通過本申請，能夠過濾掉價值較低的噪音信息，將特征數(shù)量限制在固定大小，以降低計算的復(fù)雜度，提升模型的預(yù)測準(zhǔn)確率，同時，還實現(xiàn)了對內(nèi)存占用進(jìn)行優(yōu)化，以及提升計算效率。

技術(shù)研發(fā)人員：何鵬,胡志豪,張俊康,梅嘉玉
受保護(hù)的技術(shù)使用者：江西求是高等研究院
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/6