一種多維信號(hào)的稀疏模型、重建方法和字典訓(xùn)練方法
【專利摘要】本發(fā)明公開一種多維信號(hào)的稀疏模型，其能夠保證不需要采用Kronecker乘積，從而保證在算法復(fù)雜度和存儲(chǔ)空間上都有明顯的改進(jìn)。這種多維信號(hào)的稀疏模型，其為公式其中，張量表示成一個(gè)N維稀疏張量與一系列稀疏字典的張量乘積，In≤Mn，Dn定義為第n個(gè)方向的字典，K是稀疏度，用來刻畫稀疏系數(shù)中的非零元素的個(gè)數(shù)。還提供了重建方法和字典訓(xùn)練方法。
【專利說明】
一種多維信號(hào)的稀疏模型、重建方法和字典訓(xùn)練方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明屬于稀疏表示的稀疏重建和字典訓(xùn)練的技術(shù)領(lǐng)域，具體地涉及一種多維信 號(hào)的稀疏模型、重建方法和字典訓(xùn)練方法。
【背景技術(shù)】
[0002] 稀疏表示作為近年來圖像視頻建模的有效方法，成功地應(yīng)用于諸如圖像去噪、超 分辨率重建、人臉識(shí)別等計(jì)算機(jī)視覺領(lǐng)域。傳統(tǒng)的稀疏表示通常是將多維信號(hào)轉(zhuǎn)化為一維 信號(hào)，該一維信號(hào)可以由一個(gè)字典中的幾個(gè)基元線性組合表示。高階信號(hào)（圖像、視頻等信 號(hào))首先需要被轉(zhuǎn)化為一維信號(hào)，利用一些處理向量的方法對(duì)其處理。傳統(tǒng)稀疏表示模型的 研究包括模型的建立，稀疏重建，和字典訓(xùn)練方法。盡管一維稀疏表示模型有效，但是由于 在處理高維信號(hào)時(shí)，隨之維度的增加，向量化后的一維信號(hào)是一個(gè)高維向量，在其進(jìn)行處理 時(shí)，需要較大維度的觀測(cè)矩陣，會(huì)引起維度災(zāi)難等問題，因此存在空間存儲(chǔ)和算法復(fù)雜度的 壓力。
[0003] 目前的一些研究表明，在對(duì)多維信號(hào)進(jìn)行處理時(shí)，保持多維信號(hào)本身的空間結(jié)構(gòu) 存在很多好處。針對(duì)二維圖像信號(hào)，提出的二維稀疏表示模型充分利用圖像內(nèi)部的二維空 間結(jié)構(gòu)和相關(guān)性，被成功地應(yīng)用于圖像去噪和圖像超分辨率重建。其中二維字典訓(xùn)練問題 可以通過兩階段的塊坐標(biāo)松弛方法來實(shí)現(xiàn)。二維稀疏重建問題可以通過諸如2DSL0或2D-0ΜΡ等一維稀疏重建的拓展方法來解決，也可以利用克羅奈克積(Kronecker product)將其 轉(zhuǎn)化為一維稀疏重建問題，通過一些常用的一維稀疏重建方法求解。二維稀疏表示模型的 采用可以大幅度地減少圖像處理的時(shí)間復(fù)雜度和存儲(chǔ)空間。但是由于需要利用一維稀疏重 建方法，將二維稀疏表示模型直接推廣到多維稀疏表示模型是比較困難的。
[0004] 此外，張量結(jié)構(gòu)也被引入到向量的稀疏表示中，用來逼近多維信號(hào)在每一個(gè)模式 (方向）的結(jié)構(gòu)。由于有約束的Tucker模型和張量的Kronecker表達(dá)具有等價(jià)性，同時(shí)考慮到 多維稀疏特性和塊稀疏特性等稀疏約束，張量可以由給定的不同方向的可分離Kronecker 字典表示。相應(yīng)的Kronecker 0ΜΡ和N-way Block 0ΜΡ方法用來解決字典給定情況下的稀疏 重建問題，由于需要使用Kronecker乘積運(yùn)算，這兩種方法都相對(duì)比較復(fù)雜。另外，還有一類 利用張量結(jié)構(gòu)的模型是基于張量分解的，如PARAFAC，基于Tucker模型的張量分解;或者是 張量低秩逼近，如LRTA，H0SVD，和Tensor-DL等。然而這些基于張量的方法都是對(duì)張量信號(hào) 本身進(jìn)行分解或逼近，目前還沒有統(tǒng)一的框架來刻畫張量的稀疏表示模型，在算法復(fù)雜度 和存儲(chǔ)空間上存在矛盾。

【發(fā)明內(nèi)容】

[0005] 本發(fā)明的技術(shù)解決問題是:克服現(xiàn)有技術(shù)的不足，提供一種多維信號(hào)的稀疏模型， 其能夠保證不需要采用Kronecker乘積，從而保證在算法復(fù)雜度和存儲(chǔ)空間上都有明顯的 改進(jìn)。
[0006] 本發(fā)明的技術(shù)解決方案是:這種多維信號(hào)的稀疏模型，其為公式(1)
[0007] …χΛ為，|,|(y (1)
[0008] 其中，張量J表示成一個(gè)N維稀疏張量(3 e 與一系列稀疏字典 D" e 的張量乘積，KMn，Dn定義為第η個(gè)方向的字典，K是稀疏度，用來刻畫稀疏系數(shù) ?中的非零元素的個(gè)數(shù)。
[0009] 還提供了一種多維信號(hào)的稀疏模型的重建方法，該方法為基于張量的迭代收縮閾 值方法ΤΙSTA，針對(duì)公式(3)和(2)得到公式（10)、（ 11)
當(dāng) g(?) = |?|| 丨； （10) 當(dāng) （11)
[0012] 其中，St( ·)是軟閾值算子，定義為sign( · )max(| · |-τ，〇)，而相應(yīng)地，Ητ( ·)是 硬閾值算子，定義為max(| · ，取彡^好吵)滿足公式(7)
[0013] -Vf((B)=X Xl Df χ2 〇2 · χ v Drv -? x, DfD: x2 D^D, · x,v DJVD V (7)
[0014] 不論是約束是|K還是丨|?[，將上述算子記做公式(12)
(12)c
[0016]還提供了重建方法的字典訓(xùn)練方法，字典訓(xùn)練模型為公式(13)
(13)
[0018] 其中J = (?..·.#') e ~￥是張量樣本集I中所有訓(xùn)練樣本的稀疏系數(shù)集 合，λ是用來平衡保真度和稀疏度的，其中{DJ:為待訓(xùn)練的可分離的字典。
[0019] 本發(fā)明旨在利用張量對(duì)多維信號(hào)建立一種新的稀疏表示模型，即張量稀疏表示模 型，同時(shí)提出其相應(yīng)的多維稀疏重建和多維字典訓(xùn)練方法。提出的張量稀疏表示模型能夠 通過字典學(xué)習(xí)得到一系列自適應(yīng)的可分離字典，來更好地刻畫多維信號(hào)內(nèi)部每個(gè)方向的結(jié) 構(gòu)。本發(fā)明提出的基于最近鄰方法的多維稀疏重建算法能夠更進(jìn)一步地降低算法復(fù)雜度。 本發(fā)明通過三維多光譜圖像的去噪驗(yàn)證了提出的張量稀疏表示模型能夠大幅度地降低算 法復(fù)雜度和存儲(chǔ)空間，但是卻可以獲得和最先進(jìn)的稀疏表不模型相當(dāng)?shù)娜ピ胄阅?。因此，?量稀疏表示模型是一種更好地刻畫多維信號(hào)的稀疏表達(dá)能力的方式。
【附圖說明】
[0020] 圖1示出了根據(jù)本發(fā)明的基于張量的迭代收縮閾值方法的流程圖；
[0021] 圖2示出了根據(jù)本發(fā)明的基于張量的多維字典訓(xùn)練方法的流程圖。
[0022]圖3示出了根據(jù)本發(fā)明的多光譜圖像去噪的流程圖。
【具體實(shí)施方式】
[0023] 這種多維信號(hào)的稀疏模型，其為公式(1)
[0024] jT = @x1D1x2D：r.-xiVD 7V，|g||〇SJr (1)
[0025] 其中，張量X表示成一個(gè)N維稀疏張量(g e見~1〃…#'與一系列稀疏字典 D" e妒夂的張量乘積，KMn，D^義為第η個(gè)方向的字典，K是稀疏度，用來刻畫稀疏系數(shù) ?中的非零元素的個(gè)數(shù)。
[0026] 優(yōu)選地，給定稀疏字典0" ，相應(yīng)的稀疏模型為公式(2)
(2)
[0028] 其中，λ是用來平衡保真度和稀疏度的。
[0029] 優(yōu)選地，通過松弛轉(zhuǎn)化為h約束的凸規(guī)劃問題，相應(yīng)的稀疏模型為公式(3)
(3)c
[0031]還提供了一種多維信號(hào)的稀疏模型的重建方法，該方法為基于張量的迭代收縮閾 值方法TISTA (如圖1所示），針對(duì)公式(3)和(2)得到公式(10)、（ 11)
；m=INL ； (?ο) 止丨咖ΗΜο。 （11)
[0034] 其中，Si( ·)是軟閾值算子，定義為sign( · )max( | · | _τ，〇)，而相應(yīng)地，Ητ( ·)是 硬閾值算子，定義為max(| · ，％彡l;V/(?)滿足公式(7)
[0035] - V/(<B) = X χ? Df x2 D【…xjV Drv - <S X! DfDi x2 D【D2 …xjV D;DAt (7)
[0036] 不論是約束是|?||e還是1^24，將上述算子記做公式（12)
(12)
[0038] 優(yōu)選地，通過考慮Q = +4(各.,-％.2)，來加速上述迭代收斂過程，即實(shí)質(zhì)上是 采用如下公式
[0040]還提供了重建方法的字典訓(xùn)練方法(如圖2所示），字典訓(xùn)練模型為公式(13)
(Π)
[0042]其中是張量樣本集I中所有訓(xùn)練樣本的稀疏系數(shù)集 合，λ是用來平衡保真度和稀疏度的，其中{DJ:為待訓(xùn)練的可分離的字典。
[0043]優(yōu)選地，稀疏重建問題是解決在給定字典{D"}二下，訓(xùn)練樣本集的 / = (jr1,，，· H ^ 的稀疏系數(shù)J，其目標(biāo)函數(shù)為
(14)
[0045] 該問題通過基于張量的迭代收縮閾值方法TISTA進(jìn)行求解。
[0046] 優(yōu)選地，當(dāng)更新字典Dn時(shí)，通過^ = :7 6 R x2 D2 Dn-丨xn+1 D"+1…~D#計(jì)算 得到J以實(shí)現(xiàn)f = J x" D,,，然后按第n模式方式展開J得到為^，從而使得/r"> ? D"為,,，最后Dn 通過解決公式(15)的二次約束二次規(guī)劃問題來求解：
[0047] D" = argmin * |D"(:,r)|J = 1, 1 <r<Mn (15) D".... '
[0048] 其中，為w分別為AΛ按n-模式方向展開的矩陣，該問題通過Lagrange對(duì)偶方法 求解，最終=+ ，其中Λ是對(duì)偶變量組成的對(duì)偶矩陣。
[0049] 本發(fā)明旨在利用張量對(duì)多維信號(hào)建立一種新的稀疏表示模型，即張量稀疏表示模 型，同時(shí)提出其相應(yīng)的多維稀疏重建和多維字典訓(xùn)練方法。提出的張量稀疏表示模型能夠 通過字典學(xué)習(xí)得到一系列自適應(yīng)的可分離字典，來更好地刻畫多維信號(hào)內(nèi)部每個(gè)方向的結(jié) 構(gòu)。本發(fā)明提出的基于最近鄰方法的多維稀疏重建算法能夠更進(jìn)一步地降低算法復(fù)雜度。 本發(fā)明通過三維多光譜圖像的去噪驗(yàn)證了提出的張量稀疏表示模型能夠大幅度地降低算 法復(fù)雜度和存儲(chǔ)空間，但是卻可以獲得和最先進(jìn)的稀疏表不模型相當(dāng)?shù)娜ピ胄阅堋Ｒ虼?，?量稀疏表示模型是一種更好地刻畫多維信號(hào)的稀疏表達(dá)能力的方式。
[0050] 下面更詳細(xì)地說明本方法的實(shí)施例。
[0051] 傳統(tǒng)的稀疏表示模型是基于向量形式的數(shù)據(jù)進(jìn)行建模和表達(dá)的。它將一維信號(hào)向 量化，得到的向量形式的一維信號(hào)可以表達(dá)為一個(gè)大的字典下少量基元的線性組合。一維 稀疏表示模型盡管簡(jiǎn)單，但是它忽略了多維信號(hào)的內(nèi)部結(jié)構(gòu)和破壞了其相關(guān)性。將多維信 號(hào)轉(zhuǎn)化為一維信號(hào)會(huì)生成高維信號(hào)，對(duì)于處理高維信號(hào)而言，會(huì)大大增加存儲(chǔ)需求和計(jì)算 資源。因此，本發(fā)明旨在利用張量對(duì)多維信號(hào)建立一種新的稀疏表示模型，即張量稀疏表示 模型，同時(shí)提出其相應(yīng)的多維稀疏重建和多維字典訓(xùn)練方法。提出的張量稀疏表示模型能 夠通過字典學(xué)習(xí)得到一系列自適應(yīng)的可分離字典，來更好地刻畫多維信號(hào)內(nèi)部每個(gè)方向的 結(jié)構(gòu)。本發(fā)明提出的基于最近鄰方法的多維稀疏重建算法能夠更進(jìn)一步地降低算法復(fù)雜 度。本發(fā)明通過三維多光譜圖像的去噪驗(yàn)證了提出的張量稀疏表示模型能夠大幅度地降低 算法復(fù)雜度和存儲(chǔ)空間，但是卻可以獲得和最先進(jìn)的稀疏表不模型相當(dāng)?shù)娜ピ胄ЧＲ虼耍?張量稀疏表示模型是一種更好地刻畫多維信號(hào)的稀疏表達(dá)能力的方式。
[0052] 為了便于下文中公式和符號(hào)的方便理解，這里先給出些符號(hào)公式的解釋。Ν階 張量記作;r e貨…χΛ- 〇Ν階張量尤的1〇, li，1F范數(shù)分別定義如下：
元素。通過固定其他方向的索引，而遍歷某一個(gè)方向（第η個(gè)方向）的索引，可以得到按第η模 式方向展開的η模式向量。張量X按第η模式展開得到矩陣X# e ，定義為將所 有的η模式向量按列排列為一個(gè)矩陣。張量X與矩陣?的按η模式的乘積定義為 Xx" U，可以得到一個(gè)Ν階張量Ye妒?夂~，它的每一個(gè)元素為 唂，…乂 ^▲,4+1,-4)可以通過公式1^義(^2,"4況(_/",~)得到。兩個(gè)相同大小的張量的 內(nèi)積定義為它們中每一個(gè)元素對(duì)應(yīng)位置相乘的和，記作 〈〇? = Σ,:Σ,，.·Σ,' 鄧;，/2，…心)0?，/2,…(v) s符號(hào)像表示克洛內(nèi)克積(Kronecker乘積）。 對(duì)張量X向量化可以得到向量X。
[0053] 具體地，給定一個(gè)N維信號(hào)表示為張量為了能夠刻畫其結(jié)構(gòu)以及表 達(dá)其不同維度的相關(guān)性，提出基于張量的稀疏重建模型如下
[0054] X = ^ ?χ % D,. · ^?x；# %, |?|：e < K (1)
[0055] 這里，張量；f表示成一個(gè)N維稀疏張量e m-' 與一系列稀疏字典D" e 的張量乘積，Ιη$Μη，0"定義為第η個(gè)方向的字典，Κ是稀疏度，用來刻畫稀疏系數(shù)中的非零 元素的個(gè)數(shù)。
[0056] 針對(duì)張量的稀疏表示模型，以下從兩方面稀疏重建問題和字典訓(xùn)練問題的來介紹 本發(fā)明所提出的求解方法。
[0057] 給定稀疏字典D" e妒％，相應(yīng)的稀疏重建模型為，
(2)
[0059]其中，λ是用來平衡保真度和稀疏度的。此外，這個(gè)1〇約束的非凸優(yōu)化問題，可以通 過松弛轉(zhuǎn)化為h約束的凸規(guī)劃問題，定義如下：
(3)
[0061] 本發(fā)明提出了一種基于張量的迭代收縮閾值方法（Tensor-based Iterative Shrinkage Thresholding Algorithm,TISTA)的方法來解決上述稀疏重建問題，主要是通 過迭代收縮方法來實(shí)現(xiàn)。
[0062] 具體如下，上述問題可記作：
[0063] min / (?) + lg{(B) (4)
[0064] 其中/(?)表示數(shù)據(jù)擬合項(xiàng)
，而g(?)表示稀疏約束 項(xiàng)，即18|0或141。上述非光滑的最優(yōu)化問題可以通過迭代收縮方法來進(jìn)行求解，八甸寫做 是f在附近的?M進(jìn)行線性化逼近，同時(shí)考慮最近鄰正則項(xiàng)和非光滑正則項(xiàng)，則氣可以通過 如下最優(yōu)化問題來更新：
[0066] 這里L(fēng)k>0是一個(gè)Lipschitz常數(shù)，而好(別是定義在張量場(chǎng)的梯度。上述問題可以 轉(zhuǎn)化為： (6)
[0068] 導(dǎo)出.
在張量場(chǎng)的梯度vy'(釣滿足
[0069] -▽/(<3) = Xx1Df x2I>P.-x_vD【-(SXiDfDjXj D【D2"-xjVD^Dv。 （7)
[0070] 接下來我們討論Lk>0的求解。假設(shè)f是一個(gè)C1， 1的光滑凸函數(shù)。對(duì)于任意的#，f是 連續(xù)可導(dǎo)的，且具有Lipschitz常數(shù)的連續(xù)梯度，L(f)滿足，
[0071] ||V/(?)-V/(C)||<L(/)||(8-c||. (8)
[0072]這里的| | · | |表示定義在張量上的F范數(shù)，L(f)是f的Lipschitz常數(shù)，通過推導(dǎo)， 可以得到，
[0073] ||y/(?) - vf(〇l < !〇[0, ||2 ||Df Da||2 · · ·Id^d,, ||21|? - c||y. (9)
[0074] 因此，梯度▽/的最小Lipschitz常數(shù)是= 1。因此在具體過程中， 4=%r〇D〖D?|2，取多1。最后，在給定不同的稀疏度約束盡⑷下，本發(fā)明給出了不同的 稀疏重建解法。針對(duì)問題(3)和(2 )，可以得到如下解
當(dāng) (?ο) 當(dāng) g(?) HHL。 (11)
[0077]其中，Si( ·)是軟閾值算子，定義為sign( · )max( | · |-τ，〇)，而相應(yīng)地，Ητ( ·)是 硬閾值算子，定義為max( | · |_τ，0)。最后，不論是約束是Η,還是|<4,可以將上述算子記做
(12)
[0079] 此外，可以通過考慮CV +4(?w 而不是％^，來加速上述迭代收斂過程， 其中l(wèi)k>〇是一個(gè)合適的步長(zhǎng)
，這里的
，這種外插的方式類似于 在FISTA算法中的加速方法。表1總結(jié)了本發(fā)明提出來的TISTA算法。
[0080] 表 1
[0082] 下面介紹本發(fā)明提出來的多維字典訓(xùn)練問題的方法。
[0083] 相應(yīng)地，對(duì)于給定一個(gè)張量的訓(xùn)練樣本集合/二認(rèn)1,^2，….^5；^識(shí)，包括S 個(gè)張量X7,本發(fā)明提出的基于張量的字典訓(xùn)練模型如下：
(13)
[0085] 其中= 是張量樣本集I中所有訓(xùn)練樣本的稀疏系數(shù)集 合，λ是用來平衡保真度和稀疏度的，其中彳為待訓(xùn)練的可分離的字典。
[0086] 該問題可以通過兩階段一一稀疏重建和字典更新的分塊松弛方法來迭代求解，直 到達(dá)到預(yù)設(shè)的迭代終止條件為止才停止循環(huán)，例如目標(biāo)函數(shù)的相對(duì)誤差小于預(yù)設(shè)的誤差。 表2總結(jié)了基于張量的字典訓(xùn)練方法：
[0087] 具體地，稀疏重建問題是解決在給定字典{1>,,匕下，訓(xùn)練樣本集的 ΚΧ1,_的稀疏系數(shù)J，其目標(biāo)函數(shù)為
(14)
[0089] 該問題可以直接通過上述本發(fā)明提出的TISTA的稀疏重建算法進(jìn)行求解，而不是 通過Kronecker product將其轉(zhuǎn)化為一維稀疏重建問題來求解。此外，我們這里的目標(biāo)函數(shù) 更加靈活，可以同時(shí)求解整個(gè)訓(xùn)練樣本集I的稀疏系數(shù)，也可以先將I分段，然后分段求解訓(xùn) 練樣本集中的稀疏系數(shù)，也可以并行計(jì)算其稀疏系數(shù)。因此，這種稀疏重建算法更加地靈 活。
[0090]表 2
[0092] 字典更新過程主要是在利用求解得到的稀疏系數(shù)來更新字典丨0"}二。更新字典 的最優(yōu)化過程相類似，不失一般性，以更新字典D n為例來介紹本發(fā)明的字典訓(xùn)練方 法。
[0093] 由于在張量稀疏模型中η - m 〇 d e積（η模式乘積）的可交換性，基于本發(fā)明 提出的張量稀疏表示模型，每一個(gè)樣本滿足f D" .，其中 尤=珥x2 D2…χ,μ Dw χ"τ1 D,,+1 -x、D v，因此很容易通過按第n模式方向展開f得到 ，而不是通過利用克羅內(nèi)克積Kronecker積的方式實(shí)現(xiàn)(根據(jù)張量運(yùn)算，第n-mode展開的 矩陣滿足 ' =(D v …? ? D"-_r _ _ ? D, f& %(D"…Φ Ι)βΜ Φ I)B…D】/ ):。 因此，當(dāng)更新字典Dn時(shí)，首先通過·/? = ,Χι $ 〇2 · .DA_1 D.jj+l…氣、，DAf計(jì)算得到J 以實(shí)現(xiàn)/ = D"，然后按第η模式方式展開得到，從而使得/?Β) = ，最后Dn可以通 過解決如下的二次約束二次規(guī)劃問題來求解：
[0094] 〇" = argmin l(n) - ?ηβιι〇 ', sL |D;i(:,r)|f = 1, 1 < /· < Mn (15) p. "
[0095] 其中1~，_為《;分別為Λ·^按n-模式方向展開的矩陣。該問題可以通過Lagrange對(duì)偶 方法求解，最終其中Λ是對(duì)偶變量組成的對(duì)偶矩陣。這種求 解為^避免了使用Kronecker積，可以更加有效地降低更新字典的算法復(fù)雜度。
[0096] 為了說明本發(fā)明的有效性，本發(fā)明將提出的張量稀疏模型，以及其相應(yīng)的稀疏重 建方法和字典訓(xùn)練方法應(yīng)用于多光譜圖像去噪問題。
[0097] 具體地，利用哥倫比亞大學(xué)的多光譜圖像數(shù)據(jù)集進(jìn)行測(cè)試。該圖像數(shù)據(jù)集有32個(gè) 真實(shí)場(chǎng)景，每一個(gè)場(chǎng)景的空間分辨率是512X512,頻譜為31個(gè)譜帶，譜帶范圍是從400nm到 700nm。對(duì)多光譜圖像添加不同的均方誤差（〇 = 5,10，20,30,50)的高斯噪聲后得到噪聲圖 像，然后對(duì)噪聲圖像做去噪處理。本發(fā)明提出的基于張量稀疏模型的方法中，三個(gè)方向的字 典Di，D2，D3的大小都是5 X 10，同時(shí)利用冗余離散余弦字典（Overcomplete Dictionary Learning，ODCT)進(jìn)行字典的初始化，針對(duì)某一副噪聲圖像，從該圖像中隨機(jī)采樣40，000塊 大小為5X5X5的立方體(cubes)，然后通過本發(fā)明提出來的多維字典訓(xùn)練方法訓(xùn)練得到字 典，通過訓(xùn)練得到的字典，對(duì)噪聲多光譜圖像采樣得到的所有立方體塊，利用本發(fā)明提出的 多維稀疏重建方法進(jìn)行稀疏系數(shù)的求解，從而重建去噪的MSI圖像塊，最終實(shí)現(xiàn)多光譜圖像 的去噪。其中，對(duì)應(yīng)不同的均方誤差σ = 5，10，20，30，50，相應(yīng)地控制稀疏度約束的參數(shù)λ = 9,20,45,70，160〇
[0098]為了驗(yàn)證以上多光譜圖像的每一個(gè)譜帶的圖像的去噪效果，主要是通過峰值信噪 比（Peak Signal to Noise Ratio，PSNR)度量，單位為分貝（dB)。其計(jì)算公式如下：
_
[0100]兩幅大小為m*n的圖像的均方誤差MSE的定義如下：
(17)
[0102] 其中I，J分別表示原始不含噪聲的圖像和利用稀疏編碼方法重建圖像，而I(x，y)， J(x，y)為對(duì)應(yīng)于位置(x，y)處的像素值，則均方誤差越小，則PSNR越高，則該方法的去噪效 果越尚。
[0103] 客觀質(zhì)量的評(píng)判標(biāo)準(zhǔn)為結(jié)構(gòu)相似度量:它是一種基于結(jié)構(gòu)失真圖像質(zhì)量的評(píng)價(jià)方 法，該方法將亮度和對(duì)比度從圖像結(jié)構(gòu)信息中分離，并結(jié)合結(jié)構(gòu)信息對(duì)圖像質(zhì)量進(jìn)行評(píng)價(jià). 定義了 SS頂：
[0104] SSIM(i,j) = [L(i,j)]a· [CCi.j)]^· [S(i,j)]Y (18)
[0105] 其中：
(19) (20) (21)
[0109]其中L表示亮度（Lightness),用均值（μL，μ」）作為亮度的估計(jì)，C表示對(duì)比度 (Contrast)，用標(biāo)準(zhǔn)差(〇1，巧)作為對(duì)比度的估計(jì)，而相應(yīng)的協(xié)方差(?作為結(jié)構(gòu)相似程度的 度量。而α，β，γ是用來調(diào)整亮度，對(duì)比度和結(jié)構(gòu)信息的權(quán)重，為了防止分母出現(xiàn)零或接近〇， (22) 而產(chǎn)生不穩(wěn)定現(xiàn)象，而引入了λι，λ2，λ3。當(dāng)α = β= γ =1，λ3 = λ2/2時(shí)，公式簡(jiǎn)化為
[0111] 由于SSM的較好的特性:對(duì)稱性，有界性，唯一性。使得它很好的反映了圖像的客 觀質(zhì)量。尤其是由于觀察值在某一瞬間對(duì)某個(gè)局部區(qū)域的細(xì)節(jié)更關(guān)注些，所以圖像的整體 統(tǒng)計(jì)特征不能反映圖像的特點(diǎn)。因此SSIM結(jié)合PSNR更能反映圖像的質(zhì)量。一般PSNR較大時(shí) SS頂?shù)膮^(qū)分度較小，即PSNR高，SS頂也高，而在PSNR較小時(shí)，SS頂就具有較好的區(qū)分度。因此 這里主要是通過PSNR和SS頂來評(píng)價(jià)超分辨圖像的結(jié)果。
[0112] 表3給出了多光譜圖像在不同的均方誤差情況下的平均峰值信噪比(PSNR)和結(jié)構(gòu) 相似度量(SS頂）。本發(fā)明主要和4個(gè)方法進(jìn)行了比較，包括PARAFAC，Bw-KSVD，3DK-SVD和基 于低秩張量逼近的方法LRTA。由表3可以看出本文的方法優(yōu)于其他三種方法(？六1^?4(：，8^-KSVD，3DK-SVD)，與LRTA的結(jié)果相當(dāng)。
[0113] 表3
[0115] 這里需要指出的是，在進(jìn)行上述實(shí)驗(yàn)過程中，與基于稀疏表示的方法(Bw-KSVD， 3DK-SVD)相比，本發(fā)明的字典大小是最小的。本發(fā)明的字典大小為3X5X10,其中每個(gè)方向 的字典大小為5 X 10，而Bw-KSVD方法的字典大小分別為64 X 128 X 31，其中31副多光譜圖像 的每一譜帶都需要一個(gè)64 X 128大小的字典。3DK-SVD方法所需要的字典大小是448 X 500， 其中每一個(gè)測(cè)試的基本圖像塊單位為一個(gè)8 X 8 X 7的大小。因此Bw-KSVD方法和3DK-SVD方 法所需字典是本發(fā)明方法字典的1693，1493倍。
[0116]此外，為了說明本發(fā)明的算法復(fù)雜度低，我們同時(shí)給出了本發(fā)明中TISTA算法和傳 統(tǒng)的一維稀疏重建方法--FISTA算法的復(fù)雜度比較。具體地，我們從一些局部的多光譜圖 像(Cube Size大小分別為：12 X 12 X 31，16 X 16 X 31，32 X 32 X 31)中采樣一些5 X 5 X 5的立 體塊Cubes，Cubes的個(gè)數(shù)分別為1758,3888,21168。然后設(shè)置三個(gè)方向的字典01，0 2,03的大 小都是5 X 10,且都為冗余離散余弦字典(Overcomplete Dictionary Learning，0DCT)。同 時(shí)設(shè)置迭代次數(shù)num=50，A=l。由于TISTA算法可以單獨(dú)考慮每一個(gè)樣本的重建(single)， 也可以成批地考慮(Batch)或者是所有的樣本(All) -起考慮。表4所示給出了求解每個(gè)集 合的稀疏重建問題在不同情況下所需要的時(shí)間（秒，seconds )，另外也給出了傳統(tǒng)的FI STA 方法的稀疏重建問題所需的時(shí)間。通過表4可以看出本發(fā)明提出的TISTA方法比FISTA所用 的時(shí)間要少很多。因此本發(fā)明的方法在算法復(fù)雜度上有明顯地提升。
[0117]表4
[0118]
[0119] 這里首先介紹給在給定一個(gè)張量信號(hào)I和一系列的各個(gè)方向的字典屮上^時(shí)，如 何求解張量信號(hào)Z的在給定控制稀疏度約束的參數(shù)λ的條件下的稀疏系數(shù)的問題。
[0120] 1.輸入一個(gè)張量信號(hào)1，和一系列的各個(gè)方向的字典{!>"} f=1
[0121] 2.初始化，設(shè)置待估計(jì)的稀疏系數(shù)為Q =? ，迭代步長(zhǎng)。=1。本發(fā)明 中這里是隨機(jī)初始化稀疏系數(shù)〇 = % e 。
[0122] 3 ·計(jì)算Lipschitz常數(shù)4 = ，這里我們將％設(shè)置為！。
[0123] 4.計(jì)算f在最近鄰點(diǎn)〇^的梯度。
[0124] - V/XC,_,) = X X, Df x21)^ · · · Xw - C^, x, Df D, x21)^D2 · · · XjV ?ΤΝ?Ν
[0125] 5 ·利用Proximal算子求解稀疏系數(shù)死..，即
^ ^具體逝，當(dāng)稀"疏約束為/,范數(shù)約束的話，
當(dāng)稀疏約束為/e范數(shù)約束的話，
其中，紅)是軟閾值算子，定義為礙》(·)η^Χ(|·|-r,0),而相應(yīng)地，盡(·）
[0129] 是硬閾值算子，定義為max( | · |_τ，〇)。
[0130] 6 ·計(jì)算迭代步長(zhǎng)
[0131 ] 7 ·更新最近鄰稀疏系數(shù)=? + &(%, -%2)。
[0132] 8.判斷是否達(dá)到迭代次數(shù)，未達(dá)到迭代次數(shù)回到第三步，已達(dá)到則直接輸出當(dāng)前 的稀疏系數(shù)
[0133] 再介紹當(dāng)?shù)玫揭唤M張量信號(hào)組成的訓(xùn)練樣本集后，在給定稀疏約束的條件下，訓(xùn) 練得到該訓(xùn)練樣本的多維稀疏字典{D,,}:。具體如下：
[0134] 1.構(gòu)造訓(xùn)練樣本集/ = w'其中S為樣本個(gè)數(shù)，每個(gè)樣本 f大小為^"一',在這個(gè)具體的多光譜圖像中，具體的樣本妒大小為5 X 5 X 5的立方體， 從多光譜圖像得到的所有的立方體中，隨機(jī)選擇40，000，作為訓(xùn)練樣本。
[0135] 2.初始化各個(gè)方向的字典丨D"丨;了=1。針對(duì)多光譜圖像，我們的字典為Di，D 2，D3，采用 冗余離散余弦字典(Overcomplete Dictionary Learning,0DCT)進(jìn)行字典的初始化。
[0136] 3.多維稀疏求解階段，根據(jù)當(dāng)前給定的多維字典，求解所有樣本的稀疏系數(shù)。具體 地，利用本發(fā)明提出的基于張量的迭代收縮閾值方法求解如下稀疏重建問題。
[0138] 4.多維字典更新階段。依次更新字典{D,,}；^。具體地，針對(duì)Dn的更新，首先計(jì)算 ^ = jx! D1 x2 D2D"+1…Ι>Λ;，然后將^按第n個(gè)模式展開得到相應(yīng)的矩陣&， 則具體地，可以通過如下方程更新字典D n。
[0139] D" =argmin|/w -Τ)ηΛ,η^ρ.,$.?. ||Dfl(:,r)：| =1, 1< r <M"
[0140] 其他方向的字典{D"}二的更新過程類似。
[0141] 5.判斷是否達(dá)到迭代終止條件，如1)迭代條件為迭代次數(shù)是否達(dá)到上限num，2)迭 代條件為噪聲誤差是否達(dá)到指定值。
[0142] 6.輸出訓(xùn)練得到的字典{DJ二。
[0143] 基于張量稀疏表示模型的多維信號(hào)去噪的實(shí)施例
[0144] 1.利用含噪的多光譜圖像構(gòu)造待求解的多維信號(hào)，每個(gè)多維信號(hào)大小為5X5X5， 共采樣N±夬，得到待重建的多光譜圖像塊的集合In。
[0145] 2.利用上述基于張量稀疏表示模型的多維字典訓(xùn)練方法訓(xùn)練得到的字典 針對(duì)待重建的多光譜圖像塊的集合，利用基于張量的迭代收縮閾值方法求解稀疏系數(shù)。
[0146] 3.根據(jù)稀疏系數(shù)和字典餌"}匕，可以重建多光譜圖像塊，得到重建圖像塊集合 Ire〇
[0147] 4.利用上述N個(gè)多光譜圖像塊重建去噪多光譜圖像。
[0148] 根據(jù)采樣過程中的采樣方式以及相應(yīng)圖像塊的重疊方式，將目前得到的N個(gè)重建 圖像塊重新恢復(fù)回原始圖像大小，對(duì)應(yīng)于有重疊的地方，則采用取平均值的操作。
[0149] 以上所述，僅是本發(fā)明的較佳實(shí)施例，并非對(duì)本發(fā)明作任何形式上的限制，凡是依 據(jù)本發(fā)明的技術(shù)實(shí)質(zhì)對(duì)以上實(shí)施例所作的任何簡(jiǎn)單修改、等同變化與修飾，均仍屬本發(fā)明 技術(shù)方案的保護(hù)范圍。
【主權(quán)項(xiàng)】
1. 一種多維信號(hào)的稀疏模型，其特征在于:其為公式(1)(1) 其中，張量X表示成一個(gè)N維稀疏張量盛巨訴與一系列稀疏字典D,, e如X"'的張 量乘積，In《Mn，Dn定義為第η個(gè)方向的字典，K是稀疏度，用來刻畫稀疏系數(shù)?中的非零元素 的個(gè)數(shù)。2. 根據(jù)權(quán)利要求1所述的多維信號(hào)的稀疏模型，其特征在于： 給定稀疏字典D,，e臾^"W。，相應(yīng)的稀疏模型為公式(2)俾 其中，λ是用來平衡保真度和稀疏度的。3. 根據(jù)權(quán)利要求2所述的多維信號(hào)的稀疏模型，其特征在于:通過松弛轉(zhuǎn)化為h約束的 凸規(guī)劃問題，相應(yīng)的稀疏模型為公式(3)口)。4. 一種根據(jù)權(quán)利要求3所述的多維信號(hào)的稀疏模型的重建方法，其特征在于:該方法為 基于張量的迭代收縮闊值方法TISTA，針對(duì)公式(3)和(2)得到公式(10)、（11)其中，St( ·)是軟闊值算子，定義為si即（·）max(| · |-τ，〇)，而相應(yīng)地，Ητ( ·)是硬闊 值算子，定義為max( I · |-τ，〇);4 =%-fXU|D樂"1。用(則滿足公式(7)不論是約束是|間|。還是14,將上述算子記做公式(12)(1巧。5. 根據(jù)權(quán)利要求4所述的重建方法，其特征在于:通過考慮CV=哉_1 + 4腳_1 -如），來加 速上述迭代收斂過程，其中Ck>〇是一個(gè)合適的步長(zhǎng)6. -種根據(jù)權(quán)利要求5所述的重建方法的字典訓(xùn)練方法，其特征在于:字典訓(xùn)練模型為 公式(13)其中：7 =(巧1，於，····護(hù)）e斯"|'心'"八是張量樣本集/中所有訓(xùn)練樣本的稀疏系數(shù)集合，λ 是用來平衡保真度和稀疏度的，其中為待訓(xùn)練的可分離的字典。7. 根據(jù)權(quán)利要求6所述的字典訓(xùn)練方法，其特征在于： 稀疏重建問題是解決在給定字典化祐下，訓(xùn)練樣本集的 / =(義1，戶，…、K訴'?心"、的稀疏系數(shù)J，其目標(biāo)函數(shù)為(14) 該問題通過基于張量的迭代收縮闊值方法TISTA進(jìn)行求解。8. 根據(jù)權(quán)利要求7所述的字典訓(xùn)練方法，其特征在于： 當(dāng)更新字典Dn時(shí)，通過朱= .7Χι X; …D,，_i X。,., …Xw Dw計(jì)算得到名^實(shí)現(xiàn) ^ = ^x。D,:，然后按第η模式方向展開;?得到凡>，從而使得S D"^,，最后Dn通過解決公 式(15)的二次約束二次規(guī)劃問題來求解：(15) 其中Λ,ρΛ,,,分別為?義按η-模式方向展開的矩陣，該問題通過Lagrange對(duì)偶方法求解， 最終D;=(A。,可;,+Α)-?α<,，,·^?〇)τ'，其中A是對(duì)偶變量組成的對(duì)偶矩陣。
【文檔編號(hào)】G06T5/00GK106097278SQ201610474921
【公開日】2016年11月9日
【申請(qǐng)日】2016年6月24日
【發(fā)明人】齊娜, 施云惠, 尹寶才, 丁文鵬
【申請(qǐng)人】北京工業(yè)大學(xué)