專利名稱：一種視頻編碼16x16整數(shù)變換方法
技術(shù)領(lǐng)域：
本發(fā)明涉及視頻編碼技術(shù)領(lǐng)域，尤其涉及一種視頻編碼16x16整數(shù)變換方法。
背景技術(shù)：
一套完整的視頻編碼系統(tǒng)是由預(yù)測、變換、量化、熵編碼等一系列算法模塊組成的。其中幀內(nèi)幀間預(yù)測是利用視頻數(shù)據(jù)在空間和時(shí)間上的相關(guān)性壓縮數(shù)據(jù)。變換模塊是將預(yù)測模塊輸出的圖像殘差數(shù)據(jù)由時(shí)域變換到另一個(gè)空間上，使時(shí)域上平坦分布的數(shù)據(jù)在變換空間上能量集中，將數(shù)據(jù)的能量大部分集中在空間的低頻區(qū)域中。在隨后的量化和熵編碼模塊中，會(huì)有效的利用變換后的數(shù)據(jù)分布特征，進(jìn)一步壓縮數(shù)據(jù)。顯而易見，變換模塊是視頻編碼系統(tǒng)中重要的組成部分，變換的性能直接影響視頻編碼系統(tǒng)的性能。在現(xiàn)有視頻編碼系統(tǒng)中，DCT (離散余弦變換Discrete Cosine Transform)變換得到了廣泛的應(yīng)用，其變換的能量集中性很好，可以極大地消除視頻數(shù)據(jù)在變換空間上的相關(guān)性。但是這種算法存在不足，DCT變換矩陣是浮點(diǎn)表示的，計(jì)算過程中使用大量的浮點(diǎn)乘法和加法，占用硬件資源多，計(jì)算復(fù)雜的大。同時(shí)由于處理器運(yùn)算位數(shù)影響，浮點(diǎn)運(yùn)算存在截?cái)嗾`差，浮點(diǎn)計(jì)算精度不高，DCT正反變換不能完全匹配，變換不可逆。

發(fā)明內(nèi)容
本發(fā)明實(shí)施例的目的在于提出一種視頻編碼16x16整數(shù)變換方法，旨在解決現(xiàn)有技術(shù)DCT變換矩陣采用浮點(diǎn)乘法和加法，占用硬件資源多，計(jì)算復(fù)雜的大，計(jì)算精度不高， DCT正反變換不能完全匹配，變換不可逆的問題。本發(fā)明實(shí)施例的方法是這樣實(shí)現(xiàn)的，一種視頻編碼16x16整數(shù)變換方法，包括接收編碼器中預(yù)測模塊輸出的16x16的圖像殘差數(shù)據(jù)X ；選取整數(shù)變換基，構(gòu)建變換矩陣，構(gòu)建16乘16的通用整數(shù)變換矩陣如下C= [Cl C2]，其中，
權(quán)利要求
1. 一種視頻編碼16x16整數(shù)變換方法，包括接收編碼器中預(yù)測模塊輸出的16x16的圖像殘差數(shù)據(jù)X ； 選取整數(shù)變換基，構(gòu)建變換矩陣P， 構(gòu)建16乘16的通用整數(shù)變換矩陣如下 C = [Cl C2]，其中，矩陣 C 中，k9 = 10 ；klO = 9 ；kll = 6 ；kl2 = 2 ；[kl k2 k3 k4 k5 k6 k7 k8]為整數(shù)變換基；正變換，對16x16的圖像殘差數(shù)據(jù)X進(jìn)行整數(shù)變換，變換公式為Y = PXPt ；其中P為所述的變換矩陣；X為所述的圖像殘差數(shù)據(jù)； 其特征在于所述整數(shù)變換基為以下數(shù)值中的一個(gè)[27 28 24 23 19 14 9 5]、 [15 13 11 11 5 6 5 1]。
2.如權(quán)利要求1所述的視頻編碼16x16整數(shù)變換方法，其特征在于，所述步驟“選取整數(shù)變換基，構(gòu)建變換矩陣P”之后還可以包括步驟根據(jù)變換矩陣P，構(gòu)建縮放矩陣PF， PF = ZT*Z其中，Zt = [1/ Il ml Il A 1/ Il ml6 Il ] 為變換矩陣P的行向量，i取值為1-16 ； Il m, Il 為行向量Hli的向量范數(shù)；對經(jīng)過16x16正變換后的數(shù)據(jù)Y進(jìn)行縮放處理，r' = Y Θ PF 是矩陣的點(diǎn)乘運(yùn)算，Y是經(jīng)過16x16正變換后的數(shù)據(jù)，PF是縮放矩陣，Y'是本縮放處理后的輸出值，代表視頻數(shù)據(jù)變換到頻域上的信息。
3.如權(quán)利要求1所述的視頻編碼16x16整數(shù)變換方法，其特征在于，所述正變換中的變換的基本單元是形如y = &的16點(diǎn)一維變換，其中χ= [xl x2 x3 x4 x5 x6 x7 x8 x9 xlO xll xl2 xl3 xl4 xl5 xl6]T，輸出的y= [yl y2 y3 y4 y5 y6 y7 y8 y9 ylO yll yl2 yl3 yl4 yl5 yl6]Txl x2 x3 x4 x5 x6 x7 x8 x9 xlO xll xl2 xl3 xl4 xl5 xl6為所述正變換的十六點(diǎn)輸入數(shù)值；yl y2 y3 y4 y5 y6 y7 y8 y9 ylO yll yl2 yl3 yl4 yl5 yl6為所述正變換的十六點(diǎn)輸出數(shù)值。
4.如權(quán)利要求2所述的視頻編碼16x16整數(shù)變換方法，其特征在于，所述整數(shù)變換基取值為[27 28 24 23 19 14 9 5]時(shí)所述變換矩陣
5.如權(quán)利要求1所述的視頻編碼16x16整數(shù)變換方法，其特征在于，所述當(dāng)整數(shù)變換基取值為[27 28 24 23 19 14 9 5]時(shí)，“對16x16的圖像殘差數(shù)據(jù)X進(jìn)行整數(shù)變換，變換公式為Υ = ΡΧΡΤ”計(jì)算過程如下A.bl = xl-xl6 b2 = x2_xl5 b3 = x3_xl4 b4 = x4_xl3 b5 = x5-xl2 b6 = x6_xll b7 = x7_xl0 b8 = x8_x9B.bl6 = xl+xl6 bl5 = x2+xl5 bl4 = x3+xl4 bl3 = x4+xl3 bl2 = x5+xl2 bll = x6+xll blO = x7+xl0 b9 = x8+x9C.ml = bl6-b9 ；m2 = bl5_bl0 ；m3 = bl4_bll ；m4 = bl3_bl2 ；D.yl = b9+bl0+bll+bl2+bl3+bl4+bl5+bl6 ；y5 = bl6 << l+bl5-bl4-bl3 << l_bl2 << I_bll+bl0+b9 << 1 y9 = bl6-bl5-bl4+bl3+bl2-bll-bl0+b9yl3 = bl6-bl5 << l+bl4 << I_bl3_bl2+bll << 1-blO << l+b9 再完成以下步驟
6.如權(quán)利要求2所述的視頻編碼16x16整數(shù)變換方法，其特征在于，所述整數(shù)變換基取值為[15 13 11 11 5 6 5 1]時(shí)所述變換矩陣
7.如權(quán)利要求1所述的視頻編碼16x16整數(shù)變換方法，其特征在于，所述當(dāng)整數(shù)變換基取值為[15 13 11 11 5 6 5 1]時(shí)，“對16x16的圖像殘差數(shù)據(jù)X進(jìn)行整數(shù)變換，變換公式為Y = PXPT”計(jì)算過程如下
全文摘要
本發(fā)明公開一種視頻編碼16x16整數(shù)變換方法，通過接收編碼器中預(yù)測模塊輸出的16x16的圖像殘差數(shù)據(jù)X，選取不同整數(shù)變換基[27 28 24 23 19 14 9 5]或[15 13 11 11 5 6 5 1]構(gòu)建變換矩陣P；根據(jù)變換矩陣P，構(gòu)建縮放矩陣PF＝ZT*Z；根據(jù)Y＝PXPT對圖像殘差數(shù)據(jù)X進(jìn)行正變換，并根據(jù)不同的整數(shù)變化基，采用相應(yīng)的整數(shù)變換計(jì)算方法；對經(jīng)過16x16正變換后的數(shù)據(jù)Y進(jìn)行縮放處理。本發(fā)明的變換方法能量集中性能優(yōu)秀，能量集中度接近16x16DCT，可以極大地消除視頻數(shù)據(jù)在變換空間上的相關(guān)性；計(jì)算復(fù)雜度低，可通過加法和移位來實(shí)現(xiàn)，易于硬件實(shí)現(xiàn)，并且運(yùn)算精度高，不存在正反變換不匹配的問題。
文檔編號H04N7/26GK102333216SQ20111027823
公開日2012年1月25日 申請日期2011年9月19日 優(yōu)先權(quán)日2011年4月20日
發(fā)明者徐蘇珊 申請人:深圳市融創(chuàng)天下科技股份有限公司