本發(fā)明算法適用于h.264視頻編碼器的量化器設計，同樣適用于h.265/hevc視頻編碼器的量化器設計，具體是一種基于上下文自適應偏移模型的視頻編碼硬判決量化方法。

背景技術：

在視頻壓縮編碼中，采取了一系列措施以實現更高的視頻壓縮性能。量化可以有效的減小信號取值空間，從而達到更好的壓縮效果。量化決定著視頻壓縮前后失真大小，對碼率控制也有極大的影響。其中每個系數不同字段的量化與cabac上下文概率索引有關，相同字段下索引值不同，被量化為不同值的可能性不同，根據這一可能性，可在量化過程中更準確的量化為一個“攜帶更少自信息”的量化幅值。

在早期的視頻編解碼器中，變換系數的量化采用了標量量化(uniformscalarquantizer，usq)。后來，在mpeg-4和早期的h.264/avc等相關編碼標準中采用了基于簡單四舍五入的硬判決量化算法(hard-decisionquantizationhdq)。后來又有學者提出，采用固定偏移量的hdq算法，軟判決量化算法(soft-decisionquantizationsdq)以及sdq算法的簡化算法，即率失真優(yōu)化量化算法(ratedistortionoptimizationquantizationrdoq)。

以上所提到的量化算法，各有優(yōu)缺，本發(fā)明充分利用了上述算法中的優(yōu)點，同時又彌補上述算法中的部分缺陷。

最接近的已有技術1：采用自適應固定偏移量的hdq算法

該算法利用了熵編碼的統(tǒng)計特性，對幀內預測塊以及幀間預測塊分別采用了不同的偏移量。實驗驗證，幀內預測塊的偏移量取1/3，幀間預測塊的偏移量取1/6較為合適。相比于早期量化器中所采用的簡單四舍五入的hdq算法，采用固定偏移量的hdq算法可以提升較大的率失真性能。h.264/avc以及hevc標準的相關編碼器均采用了該算法。

該已有技術的缺陷：

該算法仍然屬于hdq算法，認為塊內相鄰系數相互獨立，因此，認為信號源為無記憶信源。但是，在基于上下文的熵編碼算法中，無記憶信號源的假設是不成立的。所以在率失真性能上，該算法并不是最優(yōu)的。

最接近的已有技術2：軟判決量化(sdq)算法

sdq算法采用hdq算法做為預量化算法，將處于零到預量化值之間的所有整數作為候選量化值，而后，利用維特比全搜索方法，在率失真優(yōu)化準則下選擇出量化塊中所有系數對應的最佳量化值。該算法對塊中部分系數的量化結果進行微調，調整時考慮率失真編碼代價以及系數間的相互影響，在性能上相比于hdq有很大提升。

該技術已有技術的缺陷：

該算法充分考慮系數間的相關性，同時采用了維特比全搜索的方法，雖在性能上表現優(yōu)異，但是，由維特比搜索帶來的計算復雜度，系數時序間的相關性以及串行性嚴重阻礙sdq算法在硬件上的有效實現。

最接近的已有技術3：rdoq算法

rdoq算法是在sdq算法的基礎上，為降低sdq算法的復雜度而提出的簡化算法。rdoq算法，同樣采用hdq算法進行預量化，但該算法一般只選取3個可能的最佳候選量化值；用局部路徑代替完整網格，從而大大的降低了計算復雜度。在性能上仍能獲得大部分sdq算法編碼增益。目前，h.264標準的jm參考代碼和hevc標準的hm參考代碼均采用了rdoq算法。

已有技術的缺陷：該算法是對sdq算法的簡化，但主要針對都是基于軟件實現的視頻編碼器，且未能消除由維特比算法分支選擇以及上下文算術編碼導致的串行性。因此，數據間極高的相關性仍然阻礙該算法在硬件上的實現。

最接近的已有技術4：一種采用內容自適應偏移模型的硬判決量化算法

該模型算法的研究主要是基于內容自適應的偏移模型。主要是通過對dct系數的統(tǒng)計分析，得到其較為準確的分布參數，利用分布參數以及量化參數構建一個系數自適應的偏移模型。在量化時，調用該模型，實現dct系數的自適應量化。

已有技術的缺陷：

該算法是在hdq算法基礎上進一步的優(yōu)化量化，認為系數間是獨立的，沒有考慮系數之間的相關性，有一定率失真性能損失。

最接近的已有技術5：一種基于sdq率失真優(yōu)化量化的自適應預判算法

該模型提出了一種基于準確預選的動態(tài)網格圖，用于打破sdq算法中的數據依賴。通過提前選擇一些“安全”系數。假設量化取不同候選量化值，準確估計sig和last字段碼率消耗的變化，以及bin0和bin1字段碼率消耗變化，計算不同候選量化結果的編碼率失真代價改變，基于代價變化實現和閾值比較結果的預選。

已有技術的缺點：

基于sdq算法，計算復雜度較高，且一個系數候選量化值的碼率消耗和當前及臨近塊中的臨近系數的量化結果有關，系數間這種緊密的相關性和串行性使得該算法在硬件實現面臨挑戰(zhàn)。

技術實現要素：

為了解決現有技術中存在的上述技術問題，本發(fā)明主要研究一個在hdq算法基礎上，加入系數間相關性cabac上下文自適應的新偏移模型。該模型要求可以根據視頻內容不同，通過代價變化實現和閾值比較結果的預選，從而實現對量化值的自適應預選。在率失真性能上，相較于采用固定偏移量認為系數獨立的hdq算法有顯著提高；相較計算復雜度較高的sdq算法，更易于在硬件上實現。

本發(fā)明需解決的技術問題：

(1)研究系數被量化為0或1對應的碼率節(jié)省值rsaved的具體分布，得到不同字段下(不同語法元素)、不同位置系數i、不同量化參數qp、不同余數多種分類下，rsaved的分布情況并進行統(tǒng)計分析，得到準確的分布參數用于構建新偏移模型；

(2)探索變換塊中每一個系數所對應的最佳偏移量δ；

(3)探索變換塊中每一個位置系數對應的最佳閾值rsaved，建立rth與qp、位置系數i之間的函數關系，確定自適應閾值；

(4)探索最佳閾值rth、每個位置碼率節(jié)省值rsaved(注：rsaved＝rreal-rth)與量化偏移量δ、的具體函數關系；

為此本發(fā)明提出了如下技術方案：

一種基于上下文自適應偏移模型的視頻編碼硬判決量化方法，包括如下步驟：

(1)上下文自適應偏移量建模；

(2)利用rdq＝1、rdq＝0兩種不同量化情況，進行數據采集及統(tǒng)計得到碼率節(jié)省rsaved和最佳偏移量相對應的兩類數據，根據采集的數據進行分析，構建碼率節(jié)省rsaved與最佳偏移量的函數模型；

(3)通過碼率節(jié)省rsaved計算得到最佳自適應閾值rth，在位置系數i、量化參數qp不同、不同分段余數約束的條件下，選取在這些不同組合下的最佳閾值rth，分析rth與qp、i的聯(lián)系，并建立三者的函數關系，找到自適應閾值表達式rth＝f(qp,i)；

(4)將步驟(3)中自適應閾值引入到模型中構建上下文及閾值自適應新模型，并提升視頻編碼性能。

進一步的，所述步驟(1)上下文自適應建模過程包含數據統(tǒng)計，離線數據分組分析以及啟發(fā)式建模過程；數據統(tǒng)計包含不同位置、qp、余數下，量化為0或1的系數對應的碼率節(jié)省rsaved的分布，最佳偏移量的統(tǒng)計以及合理的自適應閾值的計算。數據離線分析主要是rsaved的分布情況，確定自適應最佳閾值范圍；分析碼率節(jié)省rsaved、閾值rth、實際量化碼率值rth與最佳偏移量δ的關系，并將自適應閾值rth＝f(qp,i)引入模型，從而構建幾者間的函數模型。

進一步的，所述步驟(2)的數據采集及統(tǒng)計分析，包括：

a)對比hdq和sdq量化結果，研究最終量化為0或者1對碼率的節(jié)省情況，分別對二者量化結果相同和不同時，不同語法元素上下文的自信息進行碼率節(jié)省值rsaved的統(tǒng)計，得到兩類碼率節(jié)省值rsaved的數據。

b)對最佳偏移量的統(tǒng)計，若兩種算法量化結果一致，不斷修正hdq算法的偏移量，得到一個可保證兩種量化結果一致的正相偏移量取值范圍；若兩種算法的量化結果不一致，修正hdq算法的偏移量，同樣得到一個可保證兩種量化結果一致的反相偏移量取值范圍。根據量化參數的不同組合，對所有系數的正反偏移量取值范圍分組分析，確定不同組合下的系數所取的最佳正相偏移量取值范圍以及最佳反相偏移量取值范圍；

進一步的，步驟a)中上下文自適應模型由上下文狀態(tài)轉換過程決定，由于hdq量化結果為零的系數對sdq算法是至關重要的，hdq量化結果從零改為其他非零值，會增加碼率的消耗，用于表示非零系數標識(sig)、最后非零系數標識(last)以及非零系數幅度字段(abs)，

本模型的建立就是在此基礎上，考慮hdq量化幅度u＝1時：

情況1：如果一個塊內僅只有一個非零系數ui，即nz_last＝1，那么u＝1變?yōu)?所節(jié)省的碼率rsaved被估計為：

rsaved(u)＝rsig(ui)+rlast1(ui)+ψsig0(ui)+rbin0(ui,0)+rsign(ui)(1)

其中，位置系數i＝1，rsig1、rlast1和rsign分別表示sig＝1、last＝1以及ui系數的符號編碼比特數；而rbin0是u＝1時bin0字段的編碼比特。假設有幾個hdq結果為零的系數位于當前這個唯一非零系數和直流系數之間，這些夾在中間的所有零系數sig＝0字段的編碼比特消耗可以節(jié)省為

情況2：如果系數ui是最后一個非零系數，但在它和直流系數之間有其他非零系數。u＝1變?yōu)榱憧梢怨?jié)省編碼比特估計為

其中，rlast1(ui)+rlast0(ui-1)-rlast1(ui-1)為last字段碼率節(jié)省，這里需要考慮下一個非零系數last字段由1變?yōu)?導致的編碼碼率變化?？赡軙幸恍﹉dq量化零系數處于當前非零系數和下一個非零系數之間，這些零系數sig字段編碼比特節(jié)省可以估計為

情況3：如果系數ui不是最后一個非零系數，或它后面有一個非零系數被選為“不安全”非零系數，加在中間連續(xù)零系數，sig字段編碼比特消耗沒有發(fā)生變化。u從1變?yōu)?導致的編碼比特節(jié)省如下：

rsaved(u)＝rsig1(ui)+rlast0(ui)-rsig0(ui,0)+rsign(ui)(5)

進一步的，步驟b)中最佳偏移量的選取模擬sdq算法的行為特征，基于統(tǒng)計分析方法在最大正判概率和最小誤判概率的雙重約束下，估計最優(yōu)死區(qū)偏移量。具體而言，對比sdq及hdq算法的量化結果，若兩種量化結果一致，調整hdq偏移量，得到hdq與sdq量化結果一致的偏移量范圍(δmin1,δmax1)，該范圍的上下限按照下式確定：

δmax1＝1/2(6)

mod是取余操作計算符，u為dct系數，q為量化步長，δopt為偏移量。收集所

有處于范圍(δmin,δmax)中的偏移量，該范圍稱為正相偏移量范圍；若兩種

量化結果不一致，修正hdq的偏移量，迫使得到與sdq算法一致的量化結果，

修正的偏移量范圍(δmin2,δmax2)上下限按照下式確定：

mod是取余操作計算符，u為dct系數，q為量化步長，δopt為偏移量。該范圍為反相偏移量范圍。

進一步的，分別以rsaved及最佳偏移量為參量，利用matlab繪制散點圖，構建相應函數模型；在已有模型δ＝f(λ,qp)基礎上，建立一個新的模型δ＝f(qp,δopt,i,rth)，所述函數模型為：

引入一個對偏移量δopt的微調因子ω，

其中，rsaved＝δr＝rreal-rth(10)

并確定a、b參數最佳組合，由于ω微調δopt，可先假設δ為0.7～1.2倍δopt的上下波動，

即，

δ＝(0.7～1.2)·δopt(11)

根據式(9)、式(11)得

由(12)式可推出a、b的范圍，組合a、b取值，與調節(jié)量ω＝0的情況對比，觀察a-b-bdpsnr三維曲面圖并找出最佳a、b組合；

最終新模型確立為：

進一步的，通過碼率節(jié)省rsaved計算得到的最佳閾值rth，在位置系數i、量化參數qp不同、不同分段余數約束的條件下，選取在這些不同組合下的最佳閾值rth，分析rth與qp、i的聯(lián)系，并建立三者的函數關系，自適應閾值表達式rth＝f(qp,i)為：

對應的自適應閾值rth＝f(qp,i)函數關系如下所示：

對應各階系數取值表如表所示：

。

該技術方案的技術效果

(1)該方案采用影響因素分類分析的方法得到rsaved的分布，影響因素越多，分類越細致得到的rsaved特征越明顯，由rsaved分析得到的rth區(qū)分量化為0或1的效果越好；在性能上，考慮了系數間相關性對量化結果的影響，考慮了每個位置量化結果與碼率節(jié)省的關系，比采用固定偏移量的hdq算法有所提升；

(2)該方案通過對比hdq與rdoq算法的量化結果，得到不同qp、位置系數i下可區(qū)分量化為0或1更節(jié)省碼率的最佳自適應閾值rth，將會對決判結果的預選有著重要作用。

(3)該方案考慮量化中cacac上下文幾個重要語法元素對偏移模型的影響，引入了系數間的相關性，可以得到更為合理的偏移量模型。調用系數相關的上下文自適應偏移量模型相對于無記憶信源的固定偏移量hdq算法來說，節(jié)省碼率，大大提升了壓縮編碼性能。

該算法相對原來的內容自適應偏移模型的硬判決量化算法，充分考慮不同位置系數的相關性，利用rsaved的分布特點與最佳偏移量δ構建模型，同時加入自適應閾值rth＝f(qp,i)對新模型的影響，在率失真性能上將會有顯著提高；同時，該算法不是sdq的維特比網格算法，基于hdq算法的研究因此可以很好的在硬件上得以實現。

附圖說明

圖1是cabac上下文自適應偏移量建模流程圖；

圖2是rsaved-偏移量的關系散點圖；

圖3是sdq＝1和sdq＝0兩類樣本的cdf圖；

圖4是確定自適應閾值函數關系qp、i、rth三者的三維曲面圖；

圖5是確定自適應模型系數值圖；

圖6是cabac編碼流程圖。

具體實施方式

下面結合附圖對本發(fā)明作進一步說明。

(1)上下文自適應建模過程

上下文自適應建模過程包含數據統(tǒng)計，離線數據分組分析以及啟發(fā)式建模過程。數據統(tǒng)計包含不同位置、qp、余數下，量化為0或1的系數對應的碼率節(jié)省rsaved的分布，最佳偏移量的統(tǒng)計以及合理的自適應閾值的計算。數據離線分析主要是rsaved的分布情況，確定自適應最佳閾值范圍；分析碼率節(jié)省rsaved、閾值rth、實際量化碼率值rreal與最佳偏移量δ的關系，并將自適應閾值rth＝f(qp,i)引入模型，從而構建幾者間的函數模型。

(2)數據統(tǒng)計過程

a)rsaved的統(tǒng)計

cabac中上下文模型由上下文狀態(tài)轉換過程決定，由于hdq量化結果為零的系數對sdq算法是至關重要的，hdq量化結果從零改為其他非零值，會增加碼率的消耗，用于表示非零系數標識(sig)、最后非零系數標識(last)以及非零系數幅度字段(abs)。

本模型的建立就是在此基礎上，考慮hdq量化幅度u＝1時：

情況1：如果一個塊內僅只有一個非零系數ui，即nz_last＝1，那么u＝1變?yōu)?所節(jié)省的碼率rsaved

被估計為：

rsaved(u)＝rsig(ui)+rlast1(ui)+ψsig0(ui)+rbin0(ui,0)+rsign(ui)(1)

其中，位置系數i＝1，rsig1、rlast1和rsign分別表示sig＝1、last＝1以及ui系數

的符號編碼比特數；而rbin0是u＝1時bin0字段的編碼比特。假設有幾個hdq

結果為零的系數位于當前這個唯一非零系數和直流系數之間，這些夾在中間

的所有零系數sig＝0字段的編碼比特消耗可以節(jié)省為

情況2：如果系數ui是最后一個非零系數，但在它和直流系數之間有其他非零系數。u＝1變?yōu)榱憧梢怨?jié)省編碼比特估計為

其中，rlast1(ui)+rlast0(ui-1)-rlast1(ui-1)為last字段碼率節(jié)省，這里需要考慮下一個非零系數last字段由1變?yōu)?導致的編碼碼率變化?？赡軙幸恍﹉dq量化零系數處于當前非零系數和下一個非零系數之間，這些零系數sig字段編碼比特節(jié)省可以估計為

情況3：如果系數ui不是最后一個非零系數，或它后面有一個非零系數被選為“不安全”非零系數，加在中間連續(xù)零系數，sig字段編碼比特消耗沒有發(fā)生變化。

u從1變?yōu)?導致的編碼比特節(jié)省如下：

rsaved(u)＝rsig1(ui)+rlast0(ui)-rsig0(ui,0)+rsign(ui)(5)

b)最佳偏移量的選取

模擬sdq算法的行為特征，基于統(tǒng)計分析方法在最大正判概率和最小誤判概率的雙重約束下，估計最優(yōu)死區(qū)偏移量。具體而言，對比sdq及hdq算法的量化結果，若兩種量化結果一致，調整hdq偏移量，得到hdq與sdq量化結果一致的偏移量范圍(δmin1,δmax1)，該范圍的上下限按照下式確定：

δmax1＝1/2(6)

mod是取余操作計算符，u為dct系數，q為量化步長，δopt為偏移量。收集所有處于范圍(δmin,δmax)中的偏移量，該范圍稱為正相偏移量范圍；若兩種量化結果不一致，修正hdq的偏移量，迫使得到與sdq算法一致的量化結果。修正的偏移量范圍(δmin2,δmax2)上下限按照下式確定：

mod是取余操作計算符，u為dct系數，q為量化步長，δopt為偏移量。該范圍為反相偏移量范圍。

c)對比hdq和sdq量化結果，結合所統(tǒng)計的兩類rsaved和最佳偏移量取值。繪制散點圖，找出rsaved-δ偏移量的關系構建函數模型。如圖2所示。

(3)自適應最佳閾值的計算

自適應最佳閾值rth，最佳閾值將sdq最終量化結果分為兩類，一類對sdq量化為0起正向貢獻，另一類對sdq量化為0非正向貢獻。根據cabac熵編碼原理，計算分析每個系數位置這兩類量化結果分別對應的碼率節(jié)省值rsaved，再運用貝葉斯二值判別法，確定能夠區(qū)分兩類樣本的自適應最佳閾值rth，將rth和量化塊中每個位置系數的實際碼率消耗rreal，作為硬判決量化中對偏移量的影響因素應用于偏移量建模。其中，

rsaved＝δr＝rreal-rth(8)

將不同分段余數、不同qp時，對4x4塊每個系數位置，sdq最終量化為0和1這兩類樣本，碼率節(jié)省rsaved的統(tǒng)計直方圖，基于最小誤判概率的原則，確定每個位置的最佳閾值。繪制兩類樣本的cdf圖，如圖3示。計算每個位置能夠區(qū)分sdq量化為0或sdq量化為1兩類樣本的最佳閾值rth。最終測得在不同qp下不同位置系數對應的最佳閾值并繪制成以qp、i、rth三者為x、y、z軸的三維曲面圖如圖4示。

在以構建的最佳偏移量與rsaved模型基礎上，引入自適應閾值rth＝f(qp，i)，更新函數模型，提升模型性能。