一種avs幀內(nèi)預(yù)測(cè)模式快速選擇算法
【專(zhuān)利摘要】本發(fā)明提供一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法，快速算法流程如附圖所示?？焖偎惴ɡ孟噜弶K最佳模式的相關(guān)性和塊內(nèi)亮度變化的方向性來(lái)進(jìn)行模式預(yù)判，縮小候選模式范圍。亮度塊的候選模式從原來(lái)的5個(gè)縮小為最多3個(gè)。對(duì)一個(gè)宏塊選擇最佳幀內(nèi)預(yù)測(cè)模式，優(yōu)化后的參考軟件rm52j－new中要計(jì)算20次亮度塊的率失真代價(jià)J，本發(fā)明的快速算法最多需要計(jì)算12次，最少只需要計(jì)算8次?？焖偎惴ㄏ鄬?duì)于rm52j－new的算法，平均亮度信噪比降低在0.09dB以?xún)?nèi)，碼率增加在1.52%以?xún)?nèi)，編碼總時(shí)間可節(jié)省17.3%～29.5%。并且，快速算法對(duì)模式的預(yù)判完全基于圖像本身的特點(diǎn)，所以在應(yīng)用于不同的序列時(shí)效果都可以保證。
【專(zhuān)利說(shuō)明】—種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及信號(hào)處理中的視頻編碼【技術(shù)領(lǐng)域】，具體涉及一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法。
【背景技術(shù)】
[0002]自1948年C.E.Shannon提出信源編碼理論以來(lái)，人們對(duì)視頻圖像壓縮編碼技術(shù)進(jìn)行了大量的研究。經(jīng)過(guò)六十多年的研究與發(fā)展，出現(xiàn)了很多的方法和技術(shù)。AVS (AudioVideo Coding Standard)是我國(guó)擁有自主知識(shí)產(chǎn)權(quán)的音視頻編解碼標(biāo)準(zhǔn)。
[0003]國(guó)內(nèi)外學(xué)者近些年來(lái)對(duì)H.264幀內(nèi)預(yù)測(cè)模式的快速選擇算法開(kāi)展了大量的研究工作，也取得了很多的成果。其中，有代表性的是F.Pan等人提出的基于局部邊緣方向信息的快速巾貞內(nèi)預(yù)測(cè)模式選擇算法和Chao — Chung Cheng等人提出的利用不同方向預(yù)測(cè)模式下的率失真代價(jià)之間的相關(guān)性，有選擇地跳過(guò)不太可能的預(yù)測(cè)模式，從而縮小候選模式范圍的幀內(nèi)預(yù)測(cè)模式的快速選擇算法。
[0004]對(duì)擁有我國(guó)自主知識(shí)產(chǎn)權(quán)的AVS系列標(biāo)準(zhǔn)，近幾年，針對(duì)AVS - M的幀內(nèi)預(yù)測(cè)模式選擇的快速算法較多。申青平等人提出根據(jù)SAD準(zhǔn)則對(duì)候選模式排序，并按照一定的條件篩選候選模式，減少RDO準(zhǔn)則下候選模式的數(shù)目。劉華東等人提出通過(guò)計(jì)算塊內(nèi)下采樣像素點(diǎn)的代價(jià)，并按照一定條件縮小候選模式范圍，從而實(shí)現(xiàn)幀內(nèi)預(yù)測(cè)模式的快速選擇。目前針對(duì)AVS幀內(nèi)預(yù)測(cè)模式的快速選擇算法的很少。并且，由于AVS和AVS - M的幀內(nèi)預(yù)測(cè)差別較大，AVS - M的幀內(nèi)快速算法并不能完全用到AVS中。

【發(fā)明內(nèi)容】

[0005]針對(duì)我國(guó)的音視頻編解碼標(biāo)準(zhǔn)AVS需要更高效的幀內(nèi)預(yù)測(cè)模式快速選擇算法，為了解決現(xiàn)有技術(shù)中存在的不足，本發(fā)明公開(kāi)一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法。該算法不僅沒(méi)有增加任何復(fù)雜計(jì)算，而且在不影響編碼性能的前提下能有效地提高編碼速度。
[0006]本發(fā)明通過(guò)仔細(xì)研究AVS的幀內(nèi)預(yù)測(cè)技術(shù)，根據(jù)其特點(diǎn)提出了一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法，算法包括以下步驟:
步驟I計(jì)算亮度塊在垂直、水平、左下和右下4個(gè)方向的SAD。選擇SAD最小的方向所對(duì)應(yīng)的模式作為候選模式，在SAD相同的情況下，選擇模式值較小的模式作為候選模式；步驟2做亮度塊在DC模式下的幀內(nèi)預(yù)測(cè)，得到相應(yīng)預(yù)測(cè)塊，對(duì)于其它4種模式，如果是最可能模式或者候選模式，做亮度塊在該模式下的幀內(nèi)預(yù)測(cè)；
步驟3計(jì)算亮度塊在DC預(yù)測(cè)模式下的率失真代價(jià)J ;
步驟4 如果最可能模式不是DC模式，計(jì)算亮度塊在最可能的模式下的率失真代價(jià)
J ；
步驟5如果候選模式不是最可能的模式，計(jì)算亮度塊在候選模式下的率失真代價(jià)J ；步驟6選擇DC、最可能模式和候選模式中率失真代價(jià)J值最小的模式為該亮度塊的最佳幀內(nèi)預(yù)測(cè)模式。[0007]與現(xiàn)有技術(shù)比較，本發(fā)明的優(yōu)點(diǎn)和積極效果為:快速選擇算法相對(duì)于優(yōu)化后的參考模型rm52j — new的算法，平均亮度信噪比降低在0.09dB以?xún)?nèi)，碼率增加在1.52%以?xún)?nèi)，而編碼總時(shí)間可節(jié)省17.3%?29.5%。跟沒(méi)有進(jìn)行幀內(nèi)預(yù)測(cè)模式選擇模塊優(yōu)化前的rm52j相比，編碼總時(shí)間可節(jié)省40%以上。并且，快速算法對(duì)模式的預(yù)判完全基于圖像本身的特點(diǎn)，所以在應(yīng)用于不同的序列時(shí)都可以保證效果。
[0008]由于AVS的色度幀內(nèi)預(yù)測(cè)相對(duì)亮度幀內(nèi)預(yù)測(cè)簡(jiǎn)單，并且4個(gè)預(yù)測(cè)模式中有3個(gè)與亮度重復(fù)，因此，本發(fā)明主要針對(duì)AVS亮度幀內(nèi)預(yù)測(cè)的特點(diǎn)，提出一種高效的亮度幀內(nèi)預(yù)測(cè)模式快速選擇算法，該算法利用相鄰塊最佳模式的相關(guān)性和塊內(nèi)亮度變化的方向性來(lái)進(jìn)行模式預(yù)判，縮小候選模式范圍，從而有效地節(jié)省編碼時(shí)間。
[0009]下面從AVS的幀內(nèi)預(yù)測(cè)技術(shù)和AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法兩方面詳細(xì)介紹本發(fā)明。
[0010]AVS的幀內(nèi)預(yù)測(cè)技術(shù)。
[0011]AVS的幀內(nèi)預(yù)測(cè)模式AVS的幀內(nèi)預(yù)測(cè)以8X8塊為單位，支持4種色度幀內(nèi)預(yù)測(cè)模式和5種亮度幀內(nèi)預(yù)測(cè)模式。其中的5種亮度幀內(nèi)預(yù)測(cè)模式如附圖1所示，模式O
=I?8)的預(yù)測(cè)，稱(chēng)為垂直預(yù)測(cè)；模式1:c[i] (i = I?8)的預(yù)測(cè)，稱(chēng)為水平預(yù)測(cè)；模式2:x [i ]和(或)c[i] Cl = O?9)的預(yù)測(cè),稱(chēng)為DC預(yù)測(cè),如果z[i]和c[i]都不存在，當(dāng)前塊的預(yù)測(cè)塊用128代替；模式3:x[i]和c[i] (i = I?16)的共同預(yù)測(cè)，稱(chēng)為左下角對(duì)角線預(yù)測(cè)；模式4:z[i]和c[i] (i = O?16)的共同預(yù)測(cè)，稱(chēng)為右下角對(duì)角線預(yù)測(cè)。在AVS標(biāo)準(zhǔn)文檔中每種模式預(yù)測(cè)值的計(jì)算方法都有詳細(xì)描述。色度塊的幀內(nèi)預(yù)測(cè)模式和亮度塊類(lèi)似，分別為:模式O — DC預(yù)測(cè)、模式I 一水平預(yù)測(cè)、模式2 —垂直預(yù)測(cè)、模式3 —平面預(yù)測(cè)。
[0012]AVS的幀內(nèi)預(yù)測(cè)算法AVS標(biāo)準(zhǔn)的參考軟件rm52j是采用率失真優(yōu)化的算法，通過(guò)全搜索方法來(lái)選擇最佳幀內(nèi)預(yù)測(cè)模式的組合，具體實(shí)施過(guò)程如下:
(O首先對(duì)色度塊做所有可用模式下的幀內(nèi)預(yù)測(cè)，得到色度塊的預(yù)測(cè)塊；
(2)選擇一種色度幀內(nèi)預(yù)測(cè)模式，進(jìn)行如下的操作過(guò)程:
①對(duì)亮度塊做所有可用模式下的幀內(nèi)預(yù)測(cè)，得到亮度塊的預(yù)測(cè)塊；
②對(duì)亮度塊選擇一種幀內(nèi)預(yù)測(cè)模式，計(jì)算該亮度塊在當(dāng)前預(yù)測(cè)模式下的率失真代價(jià)
J ；
③重復(fù)步驟②，計(jì)算此亮度塊在所有可用預(yù)測(cè)模式下的率失真代價(jià)J，選擇率失真代價(jià)J最小的預(yù)測(cè)模式作為該亮度塊的最佳幀內(nèi)預(yù)測(cè)模式；
④重復(fù)步驟①、②、③，直到得到當(dāng)前宏塊的4個(gè)亮度塊的最佳幀內(nèi)預(yù)測(cè)模式；
⑤計(jì)算該宏塊在當(dāng)前最佳幀內(nèi)預(yù)測(cè)模式組合下的率失真代價(jià)J;
(3 )重復(fù)步驟(2 )，遍歷所有色度幀內(nèi)預(yù)測(cè)模式下的最佳幀內(nèi)預(yù)測(cè)模式組合，選擇宏塊的率失真代價(jià)J最小的幀內(nèi)預(yù)測(cè)模式組合作為該宏塊的最佳幀內(nèi)預(yù)測(cè)模式組合。
[0013]AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法。
[0014]相鄰塊最佳模式的相關(guān)性，圖像中相鄰塊之間的預(yù)測(cè)模式，一般情況下都有較高的相關(guān)性。因此，可以根據(jù)相鄰塊的最佳模式預(yù)測(cè)出當(dāng)前塊最可能模式MPM(M0St ProbableMode)。并且，在當(dāng)前塊的所有相鄰塊中，左邊塊和上邊塊的最佳模式為當(dāng)前塊的最佳模式的可能性最大，所以確定MPM的原則是:如果當(dāng)前塊的上邊塊和左邊塊的幀內(nèi)預(yù)測(cè)模式都可用，則兩個(gè)模式中值較小的模式為MPM，否則DC預(yù)測(cè)模式為MPM。參考軟件rm52j只利用最可能的模式來(lái)減少幀內(nèi)預(yù)測(cè)模式編碼所需要的比特?cái)?shù)。本發(fā)明再利用相鄰塊之間幀內(nèi)預(yù)測(cè)模式的相關(guān)性，把最可能的模式作為候選模式之一。
[0015]根據(jù)塊內(nèi)亮度變化的方向性進(jìn)行模式預(yù)判如附圖1所示，AVS的5個(gè)亮度幀內(nèi)預(yù)測(cè)模式中有4個(gè)是具有方向性的預(yù)測(cè)模式，它們分別是:垂直模式O、水平模式1、左下模式
3、右下模式4。若能獲得亮度塊內(nèi)的邊緣方向信息，就可以根據(jù)邊緣的方向信息跳過(guò)那些不太可能的模式，減少模式選擇的復(fù)雜度。但是，通過(guò)邊緣方向直方圖的方法來(lái)獲取塊內(nèi)邊緣的方向左下計(jì)算較復(fù)雜。因此，如何快速有效地估計(jì)塊內(nèi)邊緣的方向信息尤為重要。
[0016]在大多數(shù)情況下每個(gè)塊的最佳預(yù)測(cè)方向和塊內(nèi)平均亮度變化最慢的方向是相同的，因此，可以依據(jù)塊內(nèi)亮度變化的方向性來(lái)快速估計(jì)塊內(nèi)邊緣的方向信息。根據(jù)這種思想，在本發(fā)明的快速算法中，從上述4個(gè)有方向性的模式中篩選出方向和塊內(nèi)平均亮度變化最慢方向一致的模式作為候選模式Candidate。
[0017]本發(fā)明判斷塊內(nèi)平均亮度變化快慢的準(zhǔn)則是:計(jì)算每個(gè)方向上16個(gè)像素對(duì)的SAD(絕對(duì)差之和)，SAD最小的方向即為亮度變化最慢的方向。公式(I)?公式(4)分別為亮度塊在垂直:SADV、水平:SADH、左下:SADL和右下:SADR 4個(gè)方向上SAD的計(jì)算公式為:
【權(quán)利要求】
1.一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法，其特征包括以下步驟: 步驟I計(jì)算亮度塊在垂直、水平、左下和右下4個(gè)方向的SAD,選擇SAD最小的方向所對(duì)應(yīng)的模式作為候選模式，在SAD相同的情況下，選擇模式值較小的模式作為候選模式；步驟2做亮度塊在DC模式下的幀內(nèi)預(yù)測(cè)，得到相應(yīng)預(yù)測(cè)塊，對(duì)于其它4種模式，如果是最可能模式或者候選模式，做亮度塊在該模式下的幀內(nèi)預(yù)測(cè)； 步驟3計(jì)算亮度塊在DC預(yù)測(cè)模式下的率失真代價(jià)J ； 步驟4 如果最可能模式不是DC模式，計(jì)算亮度塊在最可能的模式下的率失真代價(jià)J ； 步驟5如果候選模式不是最可能的模式，計(jì)算亮度塊在候選模式下的率失真代價(jià)J ；步驟6選擇DC、最可能模式和候選模式中率失真代價(jià)J值最小的模式為該亮度塊的最佳幀內(nèi)預(yù)測(cè)模式。
2.根據(jù)權(quán)利要求1所述的一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法，其特征在于步驟I中的SAD為運(yùn)動(dòng)估計(jì)中實(shí)際使用的絕對(duì)差之和(Sum of Absolute Difference, SAD),定義如下:
3.根據(jù)權(quán)利要求1所述的一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法，其特征在于步驟I中的垂直、水平、左下和右下4個(gè)方向的SAD，分別用SADV、SADH、SADL和SADR表示，它們的計(jì)算公式為:
4.根據(jù)權(quán)利要求1所述的一種AVS幀內(nèi)預(yù)測(cè)模式快速選擇算法，其特征在于步驟3中率失真代價(jià)J的計(jì)算公式為:
【文檔編號(hào)】H04N7/26GK103428501SQ201310403017
【公開(kāi)日】2013年12月4日 申請(qǐng)日期:2013年9月8日 優(yōu)先權(quán)日:2013年9月8日
【發(fā)明者】張新安 申請(qǐng)人:張新安