專利名稱：：一種視頻編碼標(biāo)準(zhǔn)中的整數(shù)變換基優(yōu)選方法
技術(shù)領(lǐng)域：
：本發(fā)明屬于視頻編碼領(lǐng)域，特別涉及一種視頻編碼標(biāo)準(zhǔn)中的整數(shù)變換基優(yōu)選方法。
背景技術(shù)：
：新一代視頻編碼標(biāo)準(zhǔn)H.264是由國際電信聯(lián)合會(ITU)與國際標(biāo)準(zhǔn)組織(ISO)的聯(lián)合視頻小組(JVT)負(fù)責(zé)開發(fā)，面向?qū)嶋H應(yīng)用的最新發(fā)展的標(biāo)準(zhǔn)。其目標(biāo)是基于高的視頻分辨率，提高圖像質(zhì)量，并能夠覆蓋所有低帶寬和高帶寬的應(yīng)用。H.264是在ITU-T增強(qiáng)型多媒體通信標(biāo)準(zhǔn)H.26L基礎(chǔ)上推出的能夠?yàn)镮TU-T和IS0/IEC共同使用的單一的新一代視頻編碼標(biāo)準(zhǔn)，并且在技術(shù)上同MPEG標(biāo)準(zhǔn)形成體系。H.264與先前的標(biāo)準(zhǔn)相似，對殘差數(shù)據(jù)采用基于塊的變換編碼，變換編碼可以去除原始圖像的空間冗余，使圖像能量集中在一小部分系數(shù)上，提高壓縮比，增強(qiáng)抗干擾能力。而H.264采用的變換是近似DCT的無乘法整數(shù)變換，又稱整數(shù)DCT變換。需要注意的是，此處的變換已經(jīng)不是真正的DCT,仍然稱其為DCT變換只是為了說它是由DCT推導(dǎo)而來，且為了和另一個(gè)變換(Hadamard變換)相區(qū)別。H.264的整數(shù)DCT變換中只有整數(shù)運(yùn)算，消除了浮點(diǎn)運(yùn)算，減少了運(yùn)算量，并且精確的整數(shù)排除了編碼器和解碼器反變換之間的誤差匹配問題。整數(shù)變換基不是唯一的，國際上一些大公司都提出了自己的整數(shù)變換基，并申請了專利保護(hù)，為我國自有的音視頻標(biāo)準(zhǔn)建立帶來障礙。而且從技術(shù)層面上看，盡管這些現(xiàn)有整數(shù)變換基具有很好的變換特性，但一般都是通過試探的辦法發(fā)現(xiàn)的，發(fā)現(xiàn)的過程帶有偶然性，效率極低而且不全面。
發(fā)明內(nèi)容本發(fā)明的目的在于解決現(xiàn)有整數(shù)變換基獲取方法的不足，提出規(guī)律性的整數(shù)變換基優(yōu)選方法。本發(fā)明提供的整數(shù)變換基優(yōu)選方法包括以下步驟步驟1，依據(jù)DCT變換系數(shù)矩陣C，求解其對應(yīng)整數(shù)變換矩陣I的表達(dá)式，其中C的系數(shù)標(biāo)記為q，I的系數(shù)標(biāo)記為!;，A=0iV;步驟2，將4歸一化，求得標(biāo)定系數(shù)A,yt=0iV;步驟3，采用搜索方法搜索求解/,以組成變換基，搜索時(shí)依循以下4個(gè)約束條件，//7'矩陣中對角線以外的元素均滿足取值為0，所述/,矩陣由整數(shù)變換矩陣I乘以其轉(zhuǎn)置矩陣取得；限制搜索求解^時(shí)的搜索步長為1/2;標(biāo)定系數(shù)厶需滿足<formula>complexformulaseeoriginaldocumentpage6</formula>表示門限，門限數(shù)值取決于期望搜索得到的變換基數(shù)目；所取整數(shù)變換矩陣I中系數(shù)4的最大幅度為15;步驟4，將搜索得到的變換基尺度化到整數(shù)，得到DCT變換系數(shù)矩陣C對應(yīng)的整數(shù)變換基。而且，進(jìn)一步嚴(yán)格搜索的約束條件，標(biāo)定系數(shù)人需滿足<formula>complexformulaseeoriginaldocumentpage6</formula>，其中加權(quán)系數(shù)<formula>complexformulaseeoriginaldocumentpage6</formula>。而且，所述7>的數(shù)值取0.03。而且，8x8DCT變換矩陣中的系數(shù)0.353553搜索得到對應(yīng)的整數(shù)變換基為1。而且，8x8DCT變換矩陣中的4個(gè)系數(shù)0.490393、0.415735、0.277785、0.097545搜索得到對應(yīng)的15組整數(shù)變換基，整數(shù)變換基中的4個(gè)系數(shù)分別為(1)12.5、10、7、2.5;(2)12、10.5、7.5、2;(3)13.5、11、7、3;(4)7.5、6、4、1.5;(5)10、9、6、2;(6)12、10、6、3;(7)14、12.5、7.5、3.5;(8)7、6、4.5、1;(9)9、7、5、1.5;(10)13、12、7.5、3;(11)10.5、9、5、3;(12)8、7.5、4.5、2;(13)9、7.5、6、1;(14)4,5、4、2、1.5;(15)6、5、2.5、2。而且，8x8DCT變換矩陣中的2個(gè)系數(shù)0.461940、0.191342搜索得到對應(yīng)的ll組整數(shù)變換基，整數(shù)變換基中的2個(gè)系數(shù)分別為(1)6、2.5;(2)5、2;(3)7、3;(4)6.5、2.5;(5)4.5、2;(6)4、1.5;(7)5.5、2.5;(8)6.5、3;(9)5.5、2;(10)3、1;(11)3、1.5。而且，4x4DCT變換矩陣中的2個(gè)系數(shù)0.653282、0.270598搜索得到對應(yīng)的7組整數(shù)變換基，整數(shù)變換基中的2個(gè)系數(shù)分別為(1)6、2.5;(2)5、2;(3)7、3;(4)4.5、2;(5)8、3;(6)3、1;(7)2、1。本發(fā)明通過分析整數(shù)DCT變換的原理，指出了整數(shù)變換矩陣應(yīng)該滿足的四個(gè)約束條件，然后以滿足正交性約束為出發(fā)點(diǎn)，導(dǎo)出了整數(shù)變換矩陣元素之間的數(shù)量關(guān)系，并輔以另外三個(gè)約束條件，采用搜索方法尋找整數(shù)變換基。采用本發(fā)明的技術(shù)方案方法，只需經(jīng)過幾十步的搜索后，就可找出所有可用整數(shù)變換基，效率高且全面。本發(fā)明不僅有利于提高實(shí)際應(yīng)用視頻標(biāo)準(zhǔn)時(shí)的通信質(zhì)量，對于我國制定有自主知識產(chǎn)權(quán)的視頻壓縮標(biāo)準(zhǔn)具有重要意義。具體實(shí)施例方式本發(fā)明提供的整數(shù)變換基優(yōu)選方法包括以下步驟步驟1，依據(jù)DCT變換系數(shù)矩陣C，求解其對應(yīng)整數(shù)變換矩陣I的表達(dá)式，其中C的系數(shù)標(biāo)記為^，I的系數(shù)標(biāo)記為^，*=0~7V;DCT變換系數(shù)矩陣C一般包含MxM個(gè)元素，M=4、8、16…；N表示系數(shù)矩陣中數(shù)值不同的系數(shù)的個(gè)數(shù)，數(shù)值根據(jù)具體情況而定；步驟2，將4歸一化，求得標(biāo)定系數(shù)厶，*=0iV;步驟3，采用搜索方法搜索求解^以組成變換基，搜索時(shí)依循以下4個(gè)約束條件，(a)//'矩陣中對角線以外的元素均滿足取值為0，所述/,矩陣由整數(shù)變換矩陣I乘以其轉(zhuǎn)置矩陣取得；(b)限制搜索求解4時(shí)的搜索步長為1/2;(c)標(biāo)定系數(shù)厶需滿足f;i厶-q|<r,"0,1,…,W，7)表示門限，門限數(shù)值取決于期望搜索得到的變換基數(shù)目；(d)所取整數(shù)變換矩陣I中系數(shù)/,的最大幅度為15;步驟4，將搜索得到的變換基尺度化到整數(shù)，得到DCT變換系數(shù)矩陣C對應(yīng)的整數(shù)變換基。由于整數(shù)變換運(yùn)算只允許出現(xiàn)整數(shù)類型的加、減、乘和移位等算術(shù)運(yùn)算，所以搜索得到的系數(shù)^除整數(shù)外，還可以出現(xiàn)0.5這樣的值(0.5意味著右移1位的運(yùn)算)。具體實(shí)施時(shí)可以通過搜索過程中獲得的標(biāo)定系數(shù)人構(gòu)成歸一化矩陣，通過修改歸一化矩陣，變換基都可以尺度化到整數(shù)。整數(shù)變換矩陣的4個(gè)基本特性為①能歸一化成正交矩陣；②變換運(yùn)算可全部用移位運(yùn)算實(shí)現(xiàn)；③歸一化后的正交矩陣同原始的DCT變換矩陣系數(shù)相近；整數(shù)變換矩陣系數(shù)不是很大，變換運(yùn)算能用16位精度表示。本發(fā)明根據(jù)上述4個(gè)原則，設(shè)計(jì)整數(shù)變換矩陣的優(yōu)選方法，將4個(gè)基本特性轉(zhuǎn)換為搜索變換基的約束條件，在高效搜索下全面得到合適的整數(shù)變換基。其中約束條件(a)對應(yīng)特性①；約束條件(b)對應(yīng)特性②；約束條件(C)對應(yīng)特性③；約束條件(d)對應(yīng)特性。由于特性①為基礎(chǔ)，搜索時(shí)應(yīng)當(dāng)以滿足正交性約束為出發(fā)點(diǎn)，導(dǎo)出了整數(shù)變換矩陣I內(nèi)元素之間的數(shù)量關(guān)系，然后輔以另外三個(gè)約束條件采用搜索方法尋找變換基。由于給出了充分的優(yōu)選約束條件，幾十步搜索內(nèi)就可以找到一定系數(shù)4所對應(yīng)的全部優(yōu)選整數(shù)變換基。具體實(shí)施時(shí)門限7;數(shù)值取決于期望搜索得到的變換基數(shù)目，可以增大其數(shù)值，以降低變換基質(zhì)量為代價(jià)而得到更多候選的變換基，本發(fā)明建議優(yōu)選實(shí)施例采用0.03.考慮特性③的同時(shí)，還可以考慮幅度較大的系數(shù)對變換后的能量貢獻(xiàn)較大，進(jìn)一步嚴(yán)格搜索約束條件(c)標(biāo)定系數(shù)人需滿足為<formula>complexformulaseeoriginaldocumentpage9</formula>=0，1,...,7V，其中加權(quán)系數(shù)<formula>complexformulaseeoriginaldocumentpage9</formula>A=0，l...iV。經(jīng)加權(quán)系數(shù)產(chǎn)o修正后，求取得到的整數(shù)變換基更精確。以8x8整數(shù)變換矩陣的求解為實(shí)施例，其生成過程如下8x8DCT變換系數(shù)矩陣為.0.3535530.4903930.4619400.4157350.3535530.2777850.1913420.097545_0.3535530.4157350.191342-0.097545-0.353553-0.490393-0.461940-0.2777850.3535530.277785-0.191342-0.4卯393-0.3535530.0975450.4619400.4157350.3535530.097545-0.461940-0.2777850.3535530.415735-0.191342-0.4卯3930.353553-0.097545-0.4619400.2777850.353553-0.415735-0.1913420.4903930.353553-0.277785-0.1913420.490393-0.353553-0.0975450.461940-0.4157350.353553-0.4157350.1913420.097545-0.3535530.490393-0.4619400.2777850.353553-0.4903930.461940-0.4157350.353553-0.2777850.191342-0.097545系數(shù)共有7種取值0.353553、0.490393、0.415735、0.277785、0.097545、0.461940、0.191342，依次記為cq、c;、c2、。、q、q、c6。令其對應(yīng)的整數(shù)DCT變換矩陣系數(shù)分別為/0、/"/2、/3、"、/5、/6，則整數(shù)矩陣/可寫為<formula>complexformulaseeoriginaldocumentpage10</formula>為了滿足正交性，考慮<formula>complexformulaseeoriginaldocumentpage10</formula>其中，<formula>complexformulaseeoriginaldocumentpage10</formula>將系數(shù)^、"、z2、^、"、G、z<5歸一化得到標(biāo)定系數(shù)乃、力、力、力、厶、力、如也即，<formula>complexformulaseeoriginaldocumentpage10</formula>依據(jù)上述求解步驟(a)有d二0，即/"'、+"):/2(/,、);依據(jù)條件(b)限制尋找整數(shù)變換基時(shí)的搜索步長為1/2;依據(jù)條件(d)限制整數(shù)變換矩陣中的系數(shù)最大幅度為15;依據(jù)求解步驟(c)得到歸一化系數(shù)厶需滿足不等式<formula>complexformulaseeoriginaldocumentpage11</formula>，其中，加權(quán)系數(shù)<formula>complexformulaseeoriginaldocumentpage11</formula>，搜索門限X。7>在本發(fā)明實(shí)施例中取0.03。依據(jù)上述4個(gè)約束條件，用搜索方法求解得到整數(shù)變換基。對于&，從上文變換基的生成原理可以看出，無論&取何值，歸一化后的系數(shù)^總是為c0，因此，理論上/可以取任何整數(shù)值，但為了計(jì)算的方便，實(shí)施例取&為1。對于,."^、^、&，按照同原始DCT系數(shù)的偏差從小到大的順序挑選的一組變換基，列于表1。乃、力、力、力為對應(yīng)標(biāo)定后基。同理，對于^、&，可得到如表2所示的一組變換基。表18x8整數(shù)變換基(jTj'》<table>complextableseeoriginaldocumentpage11</column></row><table>其中，4號基被AVS參考軟件所用，而5號基正好是JVT參考軟件中用到的整數(shù)變換基。表28x8整數(shù)變換基(厶-、厶.)<table>complextableseeoriginaldocumentpage12</column></row><table>4x4整數(shù)變換的基也可以用類似的方法計(jì)算，DCT系數(shù)0.653282、0.270598對應(yīng)的整數(shù)變換系數(shù)見表3。表34x4整數(shù)變換基<table>complextableseeoriginaldocumentpage12</column></row><table>JVT參考軟件和AVS參考軟件都用到其中的6號基。這種吻合足可證明本發(fā)明所提供方法的可靠性。以上各表中提供的候選變換基群屬于現(xiàn)有技術(shù)中尚未得到的，由于其對于視頻編解碼質(zhì)量影響重大，具有重要的市場價(jià)值，對于我國在國際視頻編碼標(biāo)準(zhǔn)方面占據(jù)優(yōu)勢地位具有重要意義，本發(fā)明特別提出要求保護(hù)。權(quán)利要求1.一種視頻編碼標(biāo)準(zhǔn)中的整數(shù)變換基優(yōu)選方法，其特征在于包括以下步驟步驟1，依據(jù)DCT變換系數(shù)矩陣C，求解其對應(yīng)整數(shù)變換矩陣I的表達(dá)式，其中C的系數(shù)標(biāo)記為ck，I的系數(shù)標(biāo)記為ik，k＝0～N；步驟2，將ik歸一化，求得標(biāo)定系數(shù)jk，k＝0～N；步驟3，采用搜索方法搜索求解ik以構(gòu)成變換基，搜索時(shí)按照以下4個(gè)約束條件，IIT矩陣中對角線以外的元素均滿足取值為0，所述IIT矩陣由整數(shù)變換矩陣I乘以其轉(zhuǎn)置矩陣取得；限制搜索求解ik時(shí)的搜索步長為1/2；標(biāo)定系數(shù)jk需滿足<math-cwu><![CDATA[<math><mrow><munderover><mi>Σ</mi><mrow><mi>k</mi><mo>=</mo><mn>0</mn></mrow><mi>N</mi></munderover><mo>|</mo><msub><mi>j</mi><mi>k</mi></msub><mo>-</mo><msub><mi>c</mi><mi>k</mi></msub><mo>|</mo><mo><</mo><msub><mi>T</mi><mi>f</mi></msub></mrow></math>]]></math-cwu><!--imgid="icf0001"file="S2007101690470C00011.gif"wi="113"he="42"img-content="drawing"img-format="tif"/-->k＝0，1，...，N，Tf表示門限，門限數(shù)值取決于期望搜索得到的變換基數(shù)目；所取整數(shù)變換矩陣I中系數(shù)ik的最大幅度為15；步驟4，將搜索得到的變換基尺度化到整數(shù)，得到DCT變換系數(shù)矩陣C對應(yīng)的整數(shù)變換基。2.如權(quán)利要求1所述的整數(shù)變換基優(yōu)選方法，其特征在于進(jìn)一步嚴(yán)格搜索的約束條件，標(biāo)定系數(shù)厶需滿足<formula>complexformulaseeoriginaldocumentpage2</formula>,其中加權(quán)系數(shù)<formula>complexformulaseeoriginaldocumentpage2</formula>3.如權(quán)利要求1所述的整數(shù)變換基優(yōu)選方法，其特征在于所述7)的數(shù)值取0.034.如權(quán)利要求1或2或3所述的整數(shù)變換基優(yōu)選方法，其特征在于8x8DCT變換矩陣中的系數(shù)0.353553搜索得到對應(yīng)的整數(shù)變換基為1。5.如權(quán)利要求1或2或3所述的整數(shù)變換基優(yōu)選方法，其特征在于8x8DCT變換矩陣中的4個(gè)系數(shù)0.490393、0.415735、0.277785、0.097545搜索得到對應(yīng)的15組整數(shù)變換基，整數(shù)變換基中的4個(gè)系數(shù)分別為，(1)12.5、10、7、2.5;(2)12、10.5、7,5、2;(3)13.5、11、7、3;(4)7.5、6、4、1.5;(5)10、9、6、2;(6)12、10、6、3;(7)14、12.5、7.5、3.5;(8)7、6、4.5、1;(9)9、7、5、1.5;(10)13、12、7.5、3;(11)10.5、9、5、3;(12)8、7.5、4.5、2;(13)9、7.5、6、1;(14)4,5、4、2、1.5;(15)6、5、2.5、2。6.如權(quán)利要求1或2或3所述的整數(shù)變換基優(yōu)選方法，其特征在于8x8DCT變換矩陣中的2個(gè)系數(shù)0.461940、0.191342搜索得到對應(yīng)的11組整數(shù)變換基，整數(shù)變換基中的2個(gè)系數(shù)分別為(1)6、2.5;(2)5、2;(3)7、3;(4)6.5、2.5;(5)4.5、2;(6)4、1.5;(7)5.5、2.5;(8)6.5、3;(9)5.5、2;(10)3、1;(11)3、1.5。7.如權(quán)利要求1或2或3所述的整數(shù)變換基優(yōu)選方法，其特征在于4x4DCT變換矩陣中的2個(gè)系數(shù)0.653282、0.270598搜索得到對應(yīng)的7組整數(shù)變換基，整數(shù)變換基中的2個(gè)系數(shù)分別為(1)6、2.5;(2)5、2;(3)7、3;(4)4.5、2;(5)8、3;(6)3、1;(7)2、1。全文摘要本發(fā)明屬于視頻編碼領(lǐng)域，特別涉及一種視頻編碼標(biāo)準(zhǔn)中的整數(shù)變換基優(yōu)選方法，其特征在于包括以下步驟步驟1，依據(jù)DCT變換系數(shù)矩陣C，求解其對應(yīng)整數(shù)變換矩陣I的表達(dá)式，其中C的系數(shù)標(biāo)記為c<sub>k</sub>，I的系數(shù)標(biāo)記為i<sub>k</sub>，k＝0～N；步驟2，將i<sub>k</sub>歸一化，求得標(biāo)定系數(shù)j<sub>k</sub>，k＝0～N；步驟3，采用搜索方法搜索求解i<sub>k</sub>以組成變換基，搜索時(shí)依循以下4個(gè)約束條件，II<sup>T</sup>矩陣中對角線以外的元素均滿足取值為0；限制搜索求解i<sub>k</sub>時(shí)的搜索步長為1/2；標(biāo)定系數(shù)j<sub>k</sub>需滿足門限要求，門限數(shù)值取決于期望搜索得到的變換基數(shù)目；所取整數(shù)變換矩陣I中系數(shù)i<sub>k</sub>的最大幅度為15；步驟4，將搜索得到的變換基尺度化到整數(shù)，得到矩陣C對應(yīng)的整數(shù)變換基。采用本發(fā)明可以全面快速地得到高質(zhì)量的整數(shù)變換基。文檔編號H04N7/26GK101198059SQ20071016904公開日2008年6月11日申請日期2007年12月27日優(yōu)先權(quán)日2007年12月27日發(fā)明者王中元,胡瑞敏,鎮(zhèn)韓,尚高申請人:武漢大學(xué)