量化電平截取裝置及方法
【專利摘要】本發(fā)明提供一種截取變換系數(shù)的裝置及方法。根據(jù)本發(fā)明的多個實施例通過在量化之后自適應(yīng)地截取量化電平來避免量化后的變換系數(shù)的溢出。在一個實施例中，所述方法包含：根據(jù)量化矩陣和量化參數(shù)對變換單元的變換系數(shù)進行量化，以產(chǎn)生變換系數(shù)的量化電平。確定截取條件，并根據(jù)截取條件截取量化電平，以產(chǎn)生截取處理后的量化電平。截取條件包含空截取條件。量化電平在空截取條件下截取為以n位表示的固定范圍，其中n對應(yīng)于8、16或32。量化電平也可在空截取條件下在由-m至m-1的范圍內(nèi)進行截取，其中m可對應(yīng)于128、32768或2147483648。
【專利說明】量化電平截取裝置及方法
[0001]交叉引用
[0002]本發(fā)明主張于2011年12月15日提交且發(fā)明名稱為“Method of ClippingTransformed Coefficients before De-Quantization，，的申請?zhí)枮?PCT/CN2011/084083 的PCT專利申請的優(yōu)先權(quán)，該PCT專利申請的全部內(nèi)容在此引用并合并參考。
【技術(shù)領(lǐng)域】
[0003]本發(fā)明是有關(guān)于視頻編碼，更具體地，本發(fā)明是有關(guān)于高效視頻編碼(HighEfficiency Video Coding, HEVC)的量化電平(quantization level)的截取(clipping)。
【背景技術(shù)】[0004]HEVC 是由視頻編碼聯(lián)合組(Joint Collaborative Team on VideoCoding, JCT-VC)開發(fā)的一種新的國際視頻編碼標準。HEVC采用基于混合區(qū)塊(hybridblock-based)的運動補償?shù)念愃齐x散余弦變換(Discrete Cosine Transformation, DCT)的變換編碼(DCT-like transform coding)架構(gòu)。用于壓縮的基本單元稱為編碼單元(Coding Unit, CU)，為2NX2N方塊，且每個CU可遞歸地(recursively)切分為四個更小地⑶，直至達到預(yù)定的最小尺寸。每個⑶包含一個或多個區(qū)塊尺寸可變的預(yù)測單元(Prediction Unit, PU)和變換單兀(Transform Unit, TU)。對于每個F1U,選擇幀內(nèi)圖像預(yù)測或幀間圖像預(yù)測。每個TU進行空間區(qū)塊變換處理，然后對每個TU的變換系數(shù)進行量化。HEVC允許的最小的TU尺寸為4X4。
[0005]變換系數(shù)的量化在視頻編碼的位速率和質(zhì)量控制中有重要作用。量化步長集合用于將變換系數(shù)量化為量化電平。較大的量化步長尺寸會導(dǎo)致較低的位速率和較低的質(zhì)量。另一方面，較小的量化步長尺寸會產(chǎn)生更高的位速率和更高的質(zhì)量。量化處理的直接實施方式包含分割操作，分割操作在基于硬件的實施方式中更加復(fù)雜，且在基于軟件的實施方式中會消耗更多的計算資源。相應(yīng)地，本領(lǐng)域開發(fā)了用于自由分割量化處理的各種技術(shù)。在HEVC測試模型版本5 (HEEV Test Model Revision5, HM-5.0)中，量化處理描述如下。參數(shù)集合定義為:
[0006]B =輸入視頻源的位寬(bit width)或位深度(bit depth)
[0007]DB = B-8
[0008]N = TU的變換尺寸
[0009]M = log2 (N)
[0010]Q[x] = f (x),其中 f(x) = {26214，23302，20560，18396，16384，14564}，X =
O,…，5，及
[0011]IQ[x] = g(x),其中 g(x) = {40, 45, 51, 57, 64, 72}, x = 0, , 5.[0012]Q[x]及IQ[x]稱為分別稱為量化步長與反量化步長。量化操作根據(jù)下式執(zhí)行:
[0013]qlevel = (coeff*Q[QP% 6] +offset) ? (21+QP/6 - M - DB),其中
[0014]offset = 1? (20+QP/6 - M - DB),(I)[0015]其中”為模運算符(modulo operator)。反量化操作根據(jù)下式執(zhí)行:
[0016]coeffQ= ((qlevel*IQ[QP% 6]? (QP/6)) +offset) ? (M-l+DB),其中
[0017]offset = I〈〈(M-2+DB)。(2)
[0018]式(I)和式⑵中的變量qlevel表示變換系數(shù)的量化電平。式(2)中的變量coeffQ表示反量化參數(shù)。IQ[X]指示反量化步長(也稱為反量化步長尺寸)，以及QP表示量化參數(shù)。式⑴和式⑵中的“QP/6”表示QP除以6以后的整數(shù)部分。如式⑴和式
(2)所示,量化和反量化操作通過整數(shù)乘法(integer multiplication)之后再進行算術(shù)移位(arithmetic shift)來實施。式(I)和式(2)中均加上了偏移值(offset value),以使用取整(rounding)來實施整數(shù)轉(zhuǎn)換(integer conversion)。
[0019]對于HEVC,量化電平的位深度為16位(包括I位標志位)。換言之,量化電平表示為2字節(jié)(byte)或16位字(word)。由于IQ(X)〈 = 72且QP〈 = 51，IQ[x]的動態(tài)范圍為7位，且“〈〈(QP/6) ”運算符執(zhí)行左側(cè)算術(shù)移位至8位。相應(yīng)地，反量化變換系數(shù)coeffQ (即“(qlevel*IQ[QP% 6])〈〈(QP/6)”)的動態(tài)范圍為 31 位(16+7+8)。因此，式(2)所描述的反量化操作不會導(dǎo)致溢出(overflow)，因為反量化操作使用32位數(shù)據(jù)表達。
[0020]然而，當引入量化矩陣時，反量化操作可修改為式(3)至式(5)所示:
[0021]iShift = M-1+DB+4.(3)
[0022]若(iShift>QP/6),
[0023]coeffQ[i] [j] = (qlevel [i] [j]*ff[i] [j]*IQ[QP %6] +offset) ? (iShift-QP/6),其中
[0024]offset = 1〈〈(iShift-QP/6-1)，其中 i = 0…nW_l, j = 0..nH_l(4)
[0025]否則
[0026]coeffQ[i] [j] = (qlevel [i] [j]*ff[i] [j]*IQ[QP% 6]) ? (QP/6-1Shift) (5)
[0027]其中，“[i][j]”指示變換單元內(nèi)變換系數(shù)的位置(也稱為指針)，W指示量化矩陣，nW和nH為變換的寬度和高度。若η代表變換系數(shù)的量化電平的動態(tài)范圍，則動態(tài)范圍η必須滿足以下條件以避免溢出:
[0028]n+w+iq+QP/6-M+DB-3 ^ 32,(6)
[0029]其中w為量化矩陣W的動態(tài)范圍，iq為IQ[x]的動態(tài)范圍，以及反量化的位深度或重建的變換系數(shù)為32位。
[0030]若量化矩陣W的動態(tài)范圍為8位，則當QP = 51，M= 2且DB = O時，式⑶至式
(5)所描述的重建的變換系數(shù)的動態(tài)范圍變?yōu)?4位(16+8+7+3)。當反量化操作使用32位數(shù)據(jù)表達時，根據(jù)方程式式(3)至式(5)取得的重建的變換系數(shù)可能溢出并導(dǎo)致系統(tǒng)失敗。因此，需要開發(fā)一種變換系數(shù)重建機制，以避免可能的溢出。

【發(fā)明內(nèi)容】

[0031]本發(fā)明揭露一種量化電平截取裝置及方法。根據(jù)本發(fā)明的多個實施例通過在量化之后自適應(yīng)地截取量化電平以避免量化變換系數(shù)的溢出。在本發(fā)明一實施例中，該方法包含根據(jù)量化矩陣及量化參數(shù)對變換單元的變換系數(shù)進行量化，以產(chǎn)生變換單元的變換系數(shù)的量化電平；基于量化矩陣、量化參數(shù)、視頻源位深度、變換單元的變換尺寸或其任意組合，確定截取條件，其中截取條件包括空截取條件；以及根據(jù)截取條件截取量化電平，以產(chǎn)生截取處理后的量化電平。所述量化電平的截取可對應(yīng)于無條件的固定范圍的截取，以及截取后的量化電平使用η位來表示，其中η可對應(yīng)于8、16或32。所述量化電平的截取也可對應(yīng)于無條件的固定范圍的截取，以及量化電平在由_m至m-Ι的范圍內(nèi)進行截取，其中m可對應(yīng)于 128,32768 或 2147483648。
【專利附圖】

【附圖說明】
[0032]圖1所示為結(jié)合本發(fā)明一實施例的截取變換系數(shù)以避免溢出的較佳流程圖?！揪唧w實施方式】
[0033]如前所述，當引入量化矩陣時，上述參數(shù)反量化(或重建)操作可能會發(fā)生溢出。為了避免在變換系數(shù)重建期潛在的溢出，根據(jù)本發(fā)明的多個實施例在執(zhí)行反量化操作之前限定變換系數(shù)的量化電平。變換系數(shù)的量化電平的動態(tài)范圍由整數(shù)η表示。在式(3)至式
(5)所描述的實施例中，若反量化(或重建)變換系數(shù)使用32位數(shù)據(jù)表達，則η的動態(tài)范圍不超過32位。相應(yīng)地，η需要滿足以下限制:
[0034]n+8+7+(QP/6-(M_l+DB+4))≤ 32，(7)
[0035]由此導(dǎo)出
[0036]n ≤20+M+DB-QP/6.(8)
[0037]在此情形下，變換系數(shù)的量化電平qlevel會根據(jù)式(9)進行截取:
[0038]qlevel = max (-2n_1, min (2n_1-l, qlevel))(9)
[0039]為了避免溢出，變換系數(shù)的量化電平的動態(tài)范圍需要根據(jù)式(8)進行限制。根據(jù)式(8)，η必須小于或等于(20+M+DB-QP/6)以避免溢出。然而，由于在本實施例中量化電平由16位表示(即，量化電平的位深度=16),因此，η不超過16位。相應(yīng)地，若(20+M+DB-QP/6)大于16，則變換系數(shù)的量化電平需要截取為一個不超過16位數(shù)據(jù)表達的范圍。下列偽碼(pseudo codes)(偽碼A)顯示根據(jù)本發(fā)明一實施例的在變換系數(shù)重建期間截取變換系數(shù)的量化電平qlevel以避免數(shù)據(jù)溢出的示例:
[0040]偽碼A:
[0041]
【權(quán)利要求】
1.一種量化電平截取方法，適用于視頻編碼器，所述方法包含: 根據(jù)量化矩陣和量化參數(shù)對變換單元的變換系數(shù)進行量化，以產(chǎn)生所述變換系數(shù)的量化電平； 基于所述量化矩陣、所述量化參數(shù)、反量化步長、視頻源位深度、所述變換單元的變換尺寸或上述任意組合，確定截取條件，其中所述截取條件包括空截取條件；以及 根據(jù)所述截取條件截取所述量化電平，以產(chǎn)生截取處理后的量化電平。
2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述量化電平在第一截取條件下截取為第一范圍，以及所述量化電平在第二截取條件下截取為第二范圍。
3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述第一范圍對應(yīng)于與量化電平位深度有關(guān)的固定范圍。
4.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述第二范圍與所述量化電平的動態(tài)范圍有關(guān)。
5.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述截取條件通過將第一權(quán)重值與閾值作比較來確定，其中所述第一權(quán)重值對應(yīng)于所述量化矩陣、所述量化參數(shù)、所述視頻源位深度、所述變換單元的所述變換尺寸或上述任意組合的第一線性函數(shù)。
6.根據(jù)權(quán)利要求5 所述的方法，其特征在于，所述閾值對應(yīng)于固定值或第二權(quán)重值，其中所述第二權(quán)重值對應(yīng)于所述量化矩陣、所述量化參數(shù)、所述視頻源位深度、所述變換單元的所述變換尺寸或上述任意組合的第二線性函數(shù)。
7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述量化電平的截取對應(yīng)于固定范圍的截取，以及在所述空截取條件下截取后的所述量化電平使用η位來表示。
8.根據(jù)權(quán)利要求7所述的方法，其特征在于，η對應(yīng)于8、16或32。
9.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述量化電平的截取對應(yīng)于固定范圍的截取，以及在所述空截取條件下的所述量化電平在由_m至m-1范圍內(nèi)進行截取。
10.根據(jù)權(quán)利要求9所述的方法，其特征在于，m對應(yīng)于128、32768或2147483648。
11.一種量化電平截取裝置，適用于視頻編碼器，所述裝置包含: 根據(jù)量化矩陣和量化參數(shù)對變換單元的變換系數(shù)進行量化，以產(chǎn)生所述變換系數(shù)的量化電平的裝置； 基于所述量化矩陣、所述量化參數(shù)、反量化步長、視頻源位深度、所述變換單元的變換尺寸或上述任意組合，確定截取條件的裝置，其中所述截取條件包括空截取條件；以及 根據(jù)所述截取條件截取所述量化電平，以產(chǎn)生截取處理后的量化電平的裝置。
12.根據(jù)權(quán)利要求11所述的裝置，其特征在于，所述量化電平在第一截取條件下截取為第一范圍，以及所述量化電平在第二截取條件下截取為第二范圍。
13.根據(jù)權(quán)利要求12所述的裝置，其特征在于，所述第一范圍對應(yīng)于與量化電平位深度有關(guān)的固定范圍。
14.根據(jù)權(quán)利要求12所述的裝置，其特征在于，所述第二范圍與所述量化電平的動態(tài)范圍有關(guān)。
15.根據(jù)權(quán)利要求11所述的裝置，其特征在于，所述截取條件通過將第一權(quán)重值與閾值進行比較來確定，其中，所述第一權(quán)重值對應(yīng)于所述量化矩陣、所述量化參數(shù)、所述視頻源位深度、所述變換單元的所述變換尺寸或上述任意組合的第一線性函數(shù)。
16.根據(jù)權(quán)利要求15所述的裝置，其特征在于，所述閾值對應(yīng)于固定值或第二權(quán)重值，其中所述第二權(quán)重值對應(yīng)于所述量化矩陣、所述量化參數(shù)、所述視頻源位深度、所述變換單元的所述變換尺寸或上述任意組合的第二線性函數(shù)。
17.根據(jù)權(quán)利要求11所述的裝置，其特征在于，所述量化電平的截取對應(yīng)于固定范圍的截取，以及在空截取條件下截取后的所述量化電平使用η位來表示。
18.根據(jù)權(quán)利要求17所述的裝置，其特征在于，η對應(yīng)于8、16或32。
19.根據(jù)權(quán)利要求11所述的裝置，其特征在于，所述量化電平的截取對應(yīng)于固定范圍的截取，以及在所述空截取條件下的所述量化電平在由_m至m-Ι范圍內(nèi)進行截取。
20.根據(jù)權(quán)利要求1 9所述的裝置，其特征在于，m對應(yīng)于128、32768或2147483648。
【文檔編號】H04N19/18GK103959780SQ201280054630
【公開日】2014年7月30日 申請日期:2012年12月14日 優(yōu)先權(quán)日:2011年12月15日
【發(fā)明者】郭峋, 雷少民 申請人:聯(lián)發(fā)科技（新加坡）私人有限公司