本發(fā)明涉及圖形套索領(lǐng)域，尤其是涉及了一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法。

背景技術(shù)：

許多重要問題可以建模為互連實(shí)體的系統(tǒng)，記錄每個(gè)實(shí)體與時(shí)間相關(guān)的觀察或測(cè)量，通過發(fā)現(xiàn)趨勢(shì)、檢測(cè)異常，解釋這些數(shù)據(jù)的時(shí)間動(dòng)態(tài)，理解不同實(shí)體之間的關(guān)系以及這些關(guān)系隨著時(shí)間的推移將會(huì)如何發(fā)展，這對(duì)我們深入了解問題至關(guān)重要。我們可以在時(shí)間序列分析和網(wǎng)絡(luò)科學(xué)的交叉點(diǎn)檢測(cè)異常、分析現(xiàn)場(chǎng)趨勢(shì)、對(duì)事件進(jìn)行分類、預(yù)測(cè)未來行為等，解決許多其他問題。然而，由于動(dòng)態(tài)網(wǎng)絡(luò)較為復(fù)雜，難以同時(shí)估計(jì)網(wǎng)絡(luò)本身及其結(jié)構(gòu)隨時(shí)間的變化，算法較為復(fù)雜，因此需要新穎的算法和技術(shù)。

本發(fā)明提出了一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法，首先將圖形套索問題從靜態(tài)網(wǎng)絡(luò)擴(kuò)展到動(dòng)態(tài)網(wǎng)絡(luò)，接著使用基于乘法器交替方向(admm)的時(shí)變圖形套索算法將問題分解，將θ分割成各個(gè)單獨(dú)的更新，然后并行解決；將z更新分成兩部分，并且對(duì)每個(gè)部分進(jìn)行并行化和加速計(jì)算，更新admm。本發(fā)明運(yùn)用基于乘法器交替方向(admm)的時(shí)變圖形套索算法，能夠同時(shí)估計(jì)網(wǎng)絡(luò)本身及其結(jié)構(gòu)隨時(shí)間的變化；同時(shí)，其計(jì)算簡(jiǎn)便，準(zhǔn)確性高，可擴(kuò)展性強(qiáng)，能夠有效地解決問題。

技術(shù)實(shí)現(xiàn)要素：

針對(duì)算法復(fù)雜的問題，本發(fā)明的目的在于提供一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法，首先將圖形套索問題從靜態(tài)網(wǎng)絡(luò)擴(kuò)展到動(dòng)態(tài)網(wǎng)絡(luò)，接著使用基于乘法器交替方向(admm)的時(shí)變圖形套索算法將問題分解，將θ分割成各個(gè)單獨(dú)的更新，然后并行解決；將z更新分成兩部分，并且對(duì)每個(gè)部分進(jìn)行并行化和加速計(jì)算，更新admm。

為解決上述問題，本發(fā)明提供一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法，其主要內(nèi)容包括：

(一)動(dòng)態(tài)網(wǎng)絡(luò)；

(二)交替方向乘子算法(admm)；

(三)θ更新；

(四)z更新。

其中，所述的動(dòng)態(tài)網(wǎng)絡(luò)，通過擴(kuò)展靜態(tài)網(wǎng)絡(luò)，允許∑(t)隨時(shí)間變化；求解θ＝(θ1,…,θt)，在時(shí)間t1,…,tt間估計(jì)反協(xié)方差矩陣，

這里，li(θi)＝ni(logdetθi-tr(siθi)),β≥0，ψ(θi-θi-1)是凸函數(shù)，在ψ(0)處最小化，其鼓勵(lì)θt-1和θt之間的相似性。

其中，所述的交替方向乘子算法(admm)，相對(duì)于矩陣a∈r^m×n和實(shí)值函數(shù)f(x)，近端算子定義為：

近端算子在最小化f和靠近a之間定義了x的權(quán)衡；分解問題(1)，引入變量z＝{z0,z1,z2}＝{(z1,0,…,zt,0),(z1,1,…,zt-1,1),(z2,2,…,zt,2)}；

最小化受制于(zi-1,1,zi,2)＝(θi-1,θi)(i＝2,…,t)；

(a)

(b)

(c)

admm由以上更新組成，其中k表示迭代次數(shù)。

其中，所述的θ更新，θ步驟可以分割為每個(gè)θi的單獨(dú)更新，然后并行解決：

由于θi的對(duì)稱性而適用于和可重寫近端算子：

由于是對(duì)稱的，故有一個(gè)解析解：

其中，qdq^t是的特征。

其中，所述的z更新，z更新可以分為兩部分：z0，它指的是在逆協(xié)方差矩陣中強(qiáng)制稀疏性的‖θ‖od,1-懲罰項(xiàng)；(z1,z2)，表示最小跨時(shí)間偏差的ψ-懲罰項(xiàng)；這兩個(gè)更新可以同時(shí)解決，并且每個(gè)部分可以并行化加速計(jì)算。

進(jìn)一步地，所述的z0更新，每個(gè)zi,0可以作為-范數(shù)的近端算子，其具有已知的閉合形式解

其中，是元素智能-閾值函數(shù)，1≤i≠j≤p；

以上為這個(gè)更新的第(i,j)個(gè)元素。

進(jìn)一步地，所述的(z1,z2)更新，zi-1,1和zi,2以增強(qiáng)拉格朗日聯(lián)結(jié)在一起，因此必須聯(lián)合更新；為了得到封閉形式的解，定義：

為每個(gè)(z1,z2)對(duì)解決一個(gè)單獨(dú)的更新，

結(jié)果如上式所示。

進(jìn)一步地，所述的列規(guī)范總和的(z1,z2)更新，令g＝ψ，c＝[-ii]，d＝0和將(z1,z2)更新轉(zhuǎn)換成

其中，由于和ψ是列范數(shù)的和，因此可以分割和簡(jiǎn)化e

[e]j＝(proxηψ(a))j＝proxηφ([a]j)(10)

其中，φ是和的列范數(shù)；將公式(4)中的(zi-1,1,zi,2)更新縮小到在公式(11)中找到ej，由向量定義的φ的近似算子表示，每個(gè)向量具有閉合形式解。

進(jìn)一步地，所述的閉合形式解，元素智能乘積懲罰項(xiàng)中，的近端算子是元素智能乘積的軟閾值如下：

組合套索懲罰項(xiàng)中，用于范數(shù)的近端算子是模塊式軟閾值，

拉普拉斯懲罰項(xiàng)中對(duì)于范數(shù)，拉普拉斯正則化的近端算子為以元素形式重新編輯為eij＝(1+2η)^-1(aij)；

懲罰項(xiàng)中，范數(shù)的近端算子是

其中σ是的解。

進(jìn)一步地，所述的擾亂節(jié)點(diǎn)懲罰項(xiàng)(z1,z2)更新，將最小化變量(zi-1,1,zi,2)表示為(y1,y2)；然后引入一個(gè)額外的變量v＝w^t，增加的拉格朗日變?yōu)?/p>

其中，是縮放的雙變量，ρ是與外部admm相同的admm懲罰項(xiàng)參數(shù)；在第l次迭代中，admm更新中的三個(gè)步驟如下：

(a)

(b)

(c)

其中c＝[i-ii]，

附圖說明

圖1是本發(fā)明一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法的系統(tǒng)框架圖。

圖2是本發(fā)明一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法的動(dòng)態(tài)網(wǎng)絡(luò)。

圖3是本發(fā)明一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法的交替方向乘子算法。

具體實(shí)施方式

需要說明的是，在不沖突的情況下，本申請(qǐng)中的實(shí)施例及實(shí)施例中的特征可以相互結(jié)合，下面結(jié)合附圖和具體實(shí)施例對(duì)本發(fā)明作進(jìn)一步詳細(xì)說明。

圖1是本發(fā)明一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法的系統(tǒng)框架圖。主要包括動(dòng)態(tài)網(wǎng)絡(luò)，交替方向乘子算法(admm)，θ更新和z更新。

θ更新，θ步驟可以分割為每個(gè)θi的單獨(dú)更新，然后并行解決：

由于θi的對(duì)稱性而適用于和可重寫近端算子：

由于是對(duì)稱的，故有一個(gè)解析解：

其中，qdq^t是的特征。

z更新可以分為兩部分：z0，它指的是在逆協(xié)方差矩陣中強(qiáng)制稀疏性的‖θ‖od,1-懲罰項(xiàng)；(z1,z2)，表示最小跨時(shí)間偏差的ψ-懲罰項(xiàng)；這兩個(gè)更新可以同時(shí)解決，并且每個(gè)部分可以并行化加速計(jì)算。

z0更新，每個(gè)zi,0可以作為-范數(shù)的近端算子，其具有已知的閉合形式解

其中，是元素智能-閾值函數(shù)，1≤i≠j≤p；

以上為這個(gè)更新的第(i,j)個(gè)元素。

(z1,z2)更新，zi-1,1和zi,2以增強(qiáng)拉格朗日聯(lián)結(jié)在一起，因此必須聯(lián)合更新；為了得到封閉形式的解，定義：

為每個(gè)(z1,z2)對(duì)解決一個(gè)單獨(dú)的更新，

結(jié)果如上式所示。

列規(guī)范總和的(z1,z2)更新，令g＝ψ，c＝[-ii]，d＝0和將(z1,z2)更新轉(zhuǎn)換成

其中，由于和ψ是列范數(shù)的和，因此可以分割和簡(jiǎn)化e

[e]j＝(proxηψ(a))j＝proxηφ([a]j)(8)

其中，φ是和的列范數(shù)；將公式(2)中的(zi-1,1,zi,2)更新縮小到在公式(9)中找到ej，由向量定義的φ的近似算子表示，每個(gè)向量具有閉合形式解。

閉合形式解，元素智能乘積懲罰項(xiàng)中，的近端算子是元素智能乘積的軟閾值如下：

組合套索懲罰項(xiàng)中，用于范數(shù)的近端算子是模塊式軟閾值，

拉普拉斯懲罰項(xiàng)中對(duì)于范數(shù)，拉普拉斯正則化的近端算子為以元素形式重新編輯為eij＝(1+2η)^-1(aij)；

懲罰項(xiàng)中，范數(shù)的近端算子是

其中σ是的解。

擾亂節(jié)點(diǎn)懲罰項(xiàng)(z1,z2)更新，將最小化變量(zi-1,1,zi,2)表示為(y1,y2)；然后引入一個(gè)額外的變量v＝w^t，增加的拉格朗日變?yōu)?/p>

其中，是縮放的雙變量，ρ是與外部admm相同的admm懲罰項(xiàng)參數(shù)；在第l次迭代中，admm更新中的三個(gè)步驟如下：

(a)

(b)

(c)

其中c＝[i-ii]，

圖2是本發(fā)明一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法的動(dòng)態(tài)網(wǎng)絡(luò)。通過擴(kuò)展靜態(tài)網(wǎng)絡(luò)，允許∑(t)隨時(shí)間變化；求解θ＝(θ1,…,θt)，在時(shí)間t1,…,tt間估計(jì)反協(xié)方差矩陣，

這里，li(θi)＝ni(logdetθi-tr(siθi)),β≥0，ψ(θi-θi-1)是凸函數(shù)，在ψ(0)處最小化，其鼓勵(lì)θt-1和θt之間的相似性。

圖3是本發(fā)明一種基于隨時(shí)間變化圖形套索的網(wǎng)絡(luò)推理方法的交替方向乘子算法。相對(duì)于矩陣a∈r^m×n和實(shí)值函數(shù)f(x)，近端算子定義為：

近端算子在最小化f和靠近a之間定義了x的權(quán)衡；分解問題(13)，引入變量z＝{z0,z1,z2}＝{(z1,0,…,zt,0),(z1,1,…,zt-1,1),(z2,2,…,zt,2)}；

最小化受制于(zi-1,1,zi,2)＝(θi-1,θi)(i＝2,…,t)；

(a)

(b)

(c)

admm由以上更新組成，其中k表示迭代次數(shù)。

對(duì)于本領(lǐng)域技術(shù)人員，本發(fā)明不限制于上述實(shí)施例的細(xì)節(jié)，在不背離本發(fā)明的精神和范圍的情況下，能夠以其他具體形式實(shí)現(xiàn)本發(fā)明。此外，本領(lǐng)域的技術(shù)人員可以對(duì)本發(fā)明進(jìn)行各種改動(dòng)和變型而不脫離本發(fā)明的精神和范圍，這些改進(jìn)和變型也應(yīng)視為本發(fā)明的保護(hù)范圍。因此，所附權(quán)利要求意欲解釋為包括優(yōu)選實(shí)施例以及落入本發(fā)明范圍的所有變更和修改。