專利名稱：一種視頻編碼預(yù)測殘差塊的分解及重建方法
技術(shù)領(lǐng)域：
本發(fā)明屬于信號處理中的視頻編碼技術(shù)領(lǐng)域，特別涉及一種視頻編碼預(yù)測殘差塊的分解及重建方法。

背景技術(shù)：
H.264/AVC是ITU-T(國際電信聯(lián)盟遠(yuǎn)程通信標(biāo)準(zhǔn)化組)的視頻編碼專家組和ISO/IEC(國際標(biāo)準(zhǔn)化組織/國際電工委員會)的運(yùn)動(dòng)圖像專家組聯(lián)合提出的最新視頻編碼標(biāo)準(zhǔn)。與MPEG-4編碼標(biāo)準(zhǔn)相比，H.264/AVC在獲取相同的視頻質(zhì)量條件下，碼率可以節(jié)省50％左右。H.264/AVC為了獲得高壓縮率，提出了一些新的編碼方法，如幀內(nèi)預(yù)測、運(yùn)動(dòng)補(bǔ)償、環(huán)路濾波、基于上下文的熵編碼等。
視頻編碼過程如圖1所示，先對視頻圖像進(jìn)行幀內(nèi)或幀間預(yù)測，在預(yù)測過程中通過計(jì)算代價(jià)函數(shù)從而選擇最佳的預(yù)測模式，將原始圖像和預(yù)測圖像的殘差進(jìn)行分解得到分解系數(shù)矩陣，然后對分解系數(shù)矩陣進(jìn)行量化和熵編碼得到輸出碼流，同時(shí)對量化系數(shù)進(jìn)行反量化，預(yù)測殘差塊重建和重構(gòu)得到重構(gòu)圖像，用于下一幀編碼時(shí)的參考圖像。
H.264/AVC的幀內(nèi)預(yù)測方法是基于空間域的，即根據(jù)相鄰宏塊的像素的重構(gòu)值來預(yù)測當(dāng)前宏塊。H.264/AVC分別定義了兩種亮度預(yù)測殘差塊尺寸(16×16和4×4)和一種色度尺寸(8×8)。其中，對于4×4的預(yù)測殘差塊共定義了9種預(yù)測模式，而對于16×16的亮度塊和8×8的色度塊則只定義了5種預(yù)測模式。16×16的預(yù)測殘差塊尺寸適合光滑的區(qū)域，而4×4的預(yù)測殘差塊尺寸適合于具有豐富紋理特征的區(qū)域。
H.264/AVC的幀間預(yù)測方法主要是利用連續(xù)圖像序列之間的相關(guān)性，通過運(yùn)動(dòng)補(bǔ)償預(yù)測編碼方法來消除視頻圖像的時(shí)間冗余。H.264/AVC分別定義了七種亮度幀間預(yù)測殘差塊尺寸(16×16，16×8，8×16，8×8，8×4，4×8，4×4)。不同塊尺寸的運(yùn)動(dòng)補(bǔ)償能更加精確地表示宏塊的運(yùn)動(dòng)特性，減少預(yù)測殘差。塊尺寸越大的運(yùn)動(dòng)估計(jì)適合于宏塊中紋理簡單，運(yùn)動(dòng)不明顯的視頻對象，而塊尺寸越小的運(yùn)動(dòng)估計(jì)適合于宏塊中運(yùn)動(dòng)顯著的視頻對象。
H.264/AVC使用4×4的離散余弦變換(DCT)對亮度塊和色度塊的預(yù)測殘差塊進(jìn)行分解，以進(jìn)一步去除空間冗余性。H.264/AVC使用的4×4離散余弦變換具有很低的計(jì)算復(fù)雜度，并且能有效減少振鈴噪聲，但是對低碼率編碼的圖像，在塊內(nèi)和塊邊界上將會存在塊效應(yīng)。由于離散余弦變換矩陣的尺寸小于預(yù)測殘差塊(16×16，16×8，8×16)，所以不可避免地會在塊的變換邊界上產(chǎn)生塊效應(yīng)；同時(shí)，DCT變換矩陣的值是固定的，它不能根據(jù)預(yù)測殘差塊信號的能量分布進(jìn)行調(diào)整。


發(fā)明內(nèi)容
本發(fā)明提供一種視頻編碼預(yù)測殘差塊的分解方法，同時(shí)提供一種視頻編碼預(yù)測殘差塊的重建方法，減少現(xiàn)有DCT變換矩陣和預(yù)測殘差塊的尺寸不匹配所引起的塊效應(yīng)，并解決DCT變換矩陣的值不能根據(jù)預(yù)測殘差塊信號的能量分布進(jìn)行調(diào)整的問題，以有效地去除預(yù)測殘差塊相關(guān)性，提高視頻編碼質(zhì)量。
本發(fā)明的一種視頻編碼預(yù)測殘差塊的分解方法，包括 (1)預(yù)測殘差塊分類步驟對輸入的幀內(nèi)或幀間預(yù)測殘差塊進(jìn)行分類，當(dāng)殘差塊的長邊尺寸為4時(shí)，進(jìn)行步驟(2)；當(dāng)殘差塊的長邊尺寸為8時(shí)，進(jìn)行步驟(3)；當(dāng)殘差塊的長邊尺寸為16時(shí)，進(jìn)行步驟(4)； (2)第一多通道濾波器組橫向分解步驟使用第一多通道濾波器組對殘差塊X進(jìn)行橫向分解得到橫向分解系數(shù)矩陣Y，其分解表達(dá) 式為 其中， α＝0.1225π； 分解完成后，進(jìn)行步驟(5)； (3)第三多通道濾波器組橫向分解步驟使用第三多通道濾波器組對殘差塊X進(jìn)行橫向分解得到橫向分解系數(shù)矩陣Y，其分解表達(dá) 式為 其中， R1＝SR0PSP， T1＝ST0PSP， α＝0.4362π，β＝0.38π； 分解完成后，進(jìn)行步驟(5)； (4)第二多通道濾波器組橫向分解步驟使用第二多通道濾波器組對殘差塊X進(jìn)行橫向分解得到橫向分解系數(shù)矩陣Y，過程為 (4.1)對殘差塊X的每個(gè)行向量進(jìn)行橫向?qū)ΨQ擴(kuò)展以及分解 對第i個(gè)行向量Ni＝[xi，0xi，1xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13xi，14xi，15]橫向?qū)ΨQ擴(kuò)展得到擴(kuò)展行向量Zi，Zi＝[xi，1xi，0xi，0xi，1xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13xi，14xi，15xi，15xi，14]，對Zi進(jìn)行橫向分解得到第i個(gè)行向量Ni的橫向分解向量Mi Mi＝[yi，0yi，1yi，2yi，3yi，4yi，5yi，6yi，7yi，8yi，9yi，10yi，11yi，12yi，13yi，14yi，15]， 其中 [yi，0yi，1yi，2yi，3]＝[xi，1xi，0xi，0xi，1xi，2xi，3xi，4xi，5]F2T， [yi，4yi，5yi，6yi，7]＝[xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9]F2T， [yi，8yi，9yi，10yi，11]＝[xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13]F2T， [yi，12yi，13yi，14yi，15]＝[xi，10xi，11xi，12xi，13xi，14xi，15xi，15xi，14]F2T， α＝-0.595π，i為0～k-1，k≤16，k由殘差塊X的寬邊尺寸決定； (4.2)各個(gè)行向量的橫向分解向量Mi構(gòu)成橫向分解系數(shù)矩陣Y， 其中，k由殘差塊X的寬邊尺寸決定； 分解完成后，進(jìn)行步驟(5)； (5)橫向分解系數(shù)矩陣分類步驟對橫向分解系數(shù)矩陣Y進(jìn)行分類，當(dāng)Y的寬邊尺寸為4時(shí)，進(jìn)行步驟(6)；當(dāng)Y的寬邊尺寸為8時(shí)，進(jìn)行步驟(7)；當(dāng)Y的寬邊尺寸為16時(shí)，進(jìn)行步驟(8)； (6)第一多通道濾波器組縱向分解步驟使用第一多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行縱向分解得到殘差塊的分解系數(shù)矩陣D，其分解表達(dá)式為 其中，U0、U1、W0、W1和α的值與步驟(2)中所示相同； 分解結(jié)束； (7)第三多通道濾波器組縱向分解步驟使用第三多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行縱向分解得到殘差塊的分解系數(shù)矩陣D，其分解表達(dá)式為 其中，R0、R1、T0、T1的值與步驟(3)中所示相同； 分解結(jié)束； (8)第二多通道濾波器組縱向分解步驟使用第二多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行縱向分解得到殘差塊的分解系數(shù)矩陣D，過程為 (8.1)對橫向分解系數(shù)矩陣Y的每個(gè)列向量進(jìn)行縱向?qū)ΨQ擴(kuò)展以及分解 對第i個(gè)列向量Li＝[y0，iy1，iy2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，iy14，iy15，i]T縱向?qū)ΨQ擴(kuò)展得到擴(kuò)展列向量Zi，Zi＝[y1，iy0，iy0，iy1，iy2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，iy14，iy15，iy15，iy14，i]T，對Zi進(jìn)行縱向分解得到第i個(gè)列向量Li的縱向分解向量Ji Ji＝[d0，id1，id2，id3，id4，id5，id6，id7，id8，id9，id10，id11，id12，id13，id14，id15，i]T， 其中 [d0，id1，id2，id3，i]T＝F2[y1，iy0，iy0，iy1，iy2，iy3，iy4，iy5，i]T， [d4，id5，id6，id7，i]T＝F2[y2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，i]T， [d8，id9，id10，id11，i]T＝F2[y6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，i]T， [d12，id13，id14，id15，i]T＝F2[y10，iy11，iy12，iy13，iy14，iy15，iy15，iy14，i]T， H0、H1、H2、H3、G0、G1、G2、G3的值與步驟(4.1)中所示相同，i為0～k-1，k≤16，k由殘差塊X的長邊尺寸決定； (8.2)各個(gè)列向量的縱向分解向量Ji構(gòu)成殘差塊的分解系數(shù)矩陣D，D＝[J0 J1…Jk-1]，其中k由殘差塊X的長邊尺寸決定； 分解結(jié)束。
本發(fā)明的一種視頻編碼預(yù)測殘差塊的重建方法，利用分解系數(shù)矩陣重建預(yù)測參差塊，包括 (1)預(yù)測殘差塊的分解系數(shù)矩陣分類步驟對輸入的分解系數(shù)矩陣D進(jìn)行分類，當(dāng)分解系數(shù)矩陣的寬邊尺寸為4時(shí)，進(jìn)行步驟(2)；當(dāng)分解系數(shù)矩陣的寬邊尺寸為8時(shí)，進(jìn)行步驟(3)；當(dāng)分解系數(shù)矩陣的寬邊尺寸為16時(shí)，進(jìn)行步驟(4)； (2)第一多通道濾波器組縱向重建步驟使用第一多通道濾波器組對分解系數(shù)矩陣D進(jìn)行縱向重建得到橫向分解系數(shù)矩陣Y，其重建表達(dá)式為 其中， α＝0.1225π； 重建完成后，進(jìn)行步驟(5)； (3)第三多通道濾波器組縱向重建步驟使用第三多通道濾波器組對分解系數(shù)矩陣D進(jìn)行縱向重建得到橫向分解系數(shù)矩陣Y，其重建表達(dá)式為 其中， R1＝SR0PSP， T1＝ST0PSP， α＝0.4362π，β＝0.38π； 重建完成后，進(jìn)行步驟(5)； (4)第二多通道濾波器組縱向重建步驟使用第二多通道濾波器組對分解系數(shù)矩 陣D進(jìn)行縱向重建得到橫向分解系數(shù)矩陣Y，過程為 (4.1)對分解系數(shù)矩陣D的每個(gè)列向量進(jìn)行重建 對分解系數(shù)矩陣D的第i個(gè)列向量Ji＝[d0，id1，id2，id3，id4，id5，id6，id7，id8，id9，id10，id11，id12，id13，id14，id15，i]T進(jìn)行重建得到橫向分解系數(shù)矩陣Y的第i個(gè)列向量Li＝[y0，iy1，iy2，iy3，iy4，iy5，iy6，iy7，iy8，iy9，iy10，iy11，iy12，iy13，iy14，iy15，i]T，其計(jì)算表達(dá)式為 y0，i＝d0，i×h02+d0，i×h06+d1，i×h12-d1，i×h16+d2，i×g02+d2，i×g06+d3，i×g12-d3，i×g16 y1，i＝d0，i×h03+d0，i×h07+d1，i×h13-d1，i×h17+d2，i×g03+d2，i×g07+d3，i×g13-d3，i×g17 y2，i＝d0，i×h04+d4，i×h00+d1，i×h14+d5，i×h10+d2，i×g04+d6，i×g00+d3，i×g14+d7，i×g10 y3，i＝d0，i×h05+d4，i×h01+d1，i×h15+d5，i×h11+d2，i×g05+d6，i×g01+d3，i×g15+d7，i×g11 y4，i＝d0，i×h06+d4，i×h02+d1，i×h16+d5，i×h12+d2，i×g06+d6，i×g02+d3，i×g16+d7，i×g12 y5，i＝d0，i×h07+d4，i×h03+d1，i×h17+d5，i×h13+d2，i×g07+d6，i×g03+d3，i×g17+d7，i×g13 y6，i＝d4，i×h04+d8，i×h00+d5，i×h14+d9，i×h10+d6，i×g04+d10，i×g00+d7，i×g14+d11，i×g10 y7，i＝d4，i×h05+d8，i×h01+d5，i×h15+d9，i×h11+d6，i×g05+d10，i×g01+d7，i×g15+d11，i×g11 y8，i＝d4，i×h06+d8，i×h02+d5，i×h16+d9，i×h12+d6，i×g06+d10，i×g02+d7，i×g16+d11，i×g12 y9，i＝d4，i×h07+d8，i×h03+d5，i×h17+d9，i×h13+d6，i×g07+d10，i×g03+d7，i×g17+d11，i×g13 y10，i＝d8，i×h04+d12，i×h00+d9，i×h14+d13，i×h10+d10，i×g04+d14，i×g00+d11，i×g14+d15，i×g10 y11，i＝d8，i×h05+d12，i×h01+d9，i×h15+d13，i×h11+d10，i×g05+d14，i×g01+d11，i×g15+d15，i×g11 y12，i＝d8，i×h06+d12，i×h02+d9，i×h16+d13，i×h12+d10，i×g06+d14，i×g02+d11，i×g16+d15，i×g12 y13，i＝d8，i×h07+d12，i×h03+d9，i×h17+d13，i×h13+d10，i×g07+d14，i×g03+d11，i×g17+d15，i×g13 y14，i＝d12，i×h04+d12，i×h00+d13，i×h14-d13，i×h10+d14，i×g04+d14，i×g00+d15，i×g14-d15，i×g10 y15，i＝d12，i×h05+d12，i×h01+d13，i×h15-d13，i×h11+d14，i×g05+d14，i×g01+d15，i×g15-d15，i×g11 其中 α＝-0.595π，i為0～k-1，k≤16，k由分解系數(shù)矩陣D的長邊尺寸決定； (4.2)各個(gè)列向量的縱向重建向量Li構(gòu)成橫向分解系數(shù)矩陣Y， Y＝[L0 L1…Lk-1]，其中，k由分解系數(shù)矩陣D的長邊尺寸決定； 重建完成后，進(jìn)行步驟(5)； (5)橫向分解系數(shù)矩陣分類步驟對橫向分解系數(shù)矩陣Y進(jìn)行分類，當(dāng)Y的長邊尺寸為4時(shí)，進(jìn)行步驟(6)；當(dāng)Y的長邊尺寸為8時(shí)，進(jìn)行步驟(7)；當(dāng)Y的長邊尺寸為16時(shí)，進(jìn)行步驟(8)； (6)第一多通道濾波器組橫向重建步驟使用第一多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行橫向重建得到殘差塊X，其重建表達(dá)式為 其中，U0、U1、W0、W1和α的值與步驟(2)中所示相同； 重建結(jié)束； (7)第三多通道濾波器組橫向重建步驟使用第三多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行橫向重建得到殘差塊X，其重建表達(dá)式為 其中，R0、R1、T0、T1的值與步驟(3)中所示相同； 重建結(jié)束； (8)第二多通道濾波器組橫向重建步驟使用第二多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行橫向重建得到殘差塊X，過程為 (8.1)對橫向分解系數(shù)矩陣Y的每個(gè)行向量進(jìn)行重建 對橫向分解系數(shù)矩陣Y的第i個(gè)行向量Mi＝[yi，0yi，1yi，2yi，3yi，4yi，5yi，6yi，7yi，8yi，9yi，10yi，11yi，12yi，13yi，14yi，15]進(jìn)行重建得到殘差塊X的第i個(gè)行向量Ni＝[xi，0xi，1xi，2xi，3xi，4xi，5xi，6xi，7xi，8xi，9xi，10xi，11xi，12xi，13xi，14xi，15]，其計(jì)算表達(dá)式為 xi，0＝y(tǒng)i，0×h02+yi，0×h06+yi，1×h12-yi，1×h16+yi，2×g02+yi，2×g06+yi，3×g12-yi，3×g16 xi，1＝y(tǒng)i，0×h03+yi，0×h07+yi，1×h13-yi，1×h17+yi，2×g03+yi，2×g07+yi，3×g13-yi，3×g17 xi，2＝y(tǒng)i，0×h04+yi，4×h00+yi，1×h14+yi，5×h10+yi，2×g04+yi，6×g00+yi，3×g14+yi，7×g10 xi，3＝y(tǒng)i，0×h05+yi，4×h01+yi，1×h15+yi，5×h11+yi，2×g05+yi，6×g01+yi，3×g15+yi，7×g11 xi，4＝y(tǒng)i，0×h06+yi，4×h02+yi，1×h16+yi，5×h12+yi，2×g06+yi，6×g02+yi，3×g16+yi，7×g12 xi，5＝y(tǒng)i，0×h07+yi，4×h03+yi，1×h17+yi，5×h13+yi，2×g07+yi，6×g03+yi，3×g17+yi，7×g13 xi，6＝y(tǒng)i，4×h04+yi，8×h00+yi，5×h14+yi，9×h10+yi，6×g04+yi，10×g00+yi，7×g14+yi，11×g10 xi，7＝y(tǒng)i，4×h05+yi，8×h01+yi，5×h15+yi，9×h11+yi，6×g05+yi，10×g01+yi，7×g15+yi，11×g11 xi，8＝y(tǒng)i，4×h06+yi，8×h02+yi，5×h16+yi，9×h12+yi，6×g06+yi，10×g02+yi，7×g16+yi，11×g12 xi，9＝y(tǒng)i，4×h07+yi，8×h03+yi，5×h17+yi，9×h13+yi，6×g07+yi，10×g03+yi，7×g17+yi，11×g13 xi，10＝y(tǒng)i，8×h04+yi，12×h00+yi，9×h14+yi，13×h10+yi，10×g04+yi，14×g00+yi，11×g14+yi，15×g10 xi，11＝y(tǒng)i，8×h05+yi，12×h01+yi，9×h15+yi，13×h11+yi，10×g05+yi，14×g01+yi，11×g15+yi，15×g11 xi，12＝y(tǒng)i，8×h06+yi，12×h02+yi，9×h16+yi，13×h12+yi，10×g06+yi，14×g02+yi，11×g16+yi，15×g12 xi，13＝y(tǒng)i，8×h07+yi，12×h03+yi，9×h17+yi，13×h13+yi，10×g07+yi，14×g03+yi，11×g17+yi，15×g13 xi，14＝y(tǒng)i，12×h04+yi，12×h00+yi，13×h14-yi，13×h10+yi，14×g04+yi，14×g00+yi，15×g14-yi，15×g10 xi，15＝y(tǒng)i，12×h05+yi，12×h01+yi，13×h15-yi，13×h11+yi，14×g05+yi，14×g01+yi，15×g15-yi，15×g11 其中，H0、H1、H2、H3、G0、G1、G2、G3的值與步驟(4.1)中所示相同，i為0～k-1，k≤16，k由橫向分解系數(shù)矩陣Y的寬邊尺寸決定； (8.2)各個(gè)行向量的橫向重建向量Ni構(gòu)成殘差塊X， 其中，k由橫向分解系數(shù)矩陣Y的寬邊尺寸決定； 重建結(jié)束。
本發(fā)明使用三個(gè)多通道濾波器組，對視頻數(shù)據(jù)進(jìn)行分解(變換)處理，本發(fā)明提出的三個(gè)多通道濾波器組，不僅具有正交特性，而且還具有線性相位，此外，通過多通道濾波器組分解得到的分解系數(shù)矩陣中頻譜系數(shù)的分布與4×4或8×8離散余弦變換一樣，從左上角到右下角頻譜系數(shù)由低變高；同時(shí)，本發(fā)明能有效地進(jìn)行去相關(guān)性，并能減少DCT變換矩陣和預(yù)測殘差塊尺寸不匹配所引起的塊效應(yīng)，提高編碼主客觀質(zhì)量。
實(shí)驗(yàn)結(jié)果表明，使用本發(fā)明多通道濾波器組進(jìn)行分解處理的視頻編碼質(zhì)量優(yōu)于使用DCT變換處理的視頻編碼質(zhì)量。



圖1視頻編碼的流程示意圖； 圖2本發(fā)明的分解方法流程示意圖； 圖3本發(fā)明的重建方法流程示意圖。

具體實(shí)施例方式 視頻編碼過程如圖1所示，先對視頻圖像進(jìn)行幀內(nèi)或幀間預(yù)測，在預(yù)測過程中通過計(jì)算代價(jià)函數(shù)從而選擇最佳的預(yù)測模式，將原始圖像和預(yù)測圖像的殘差進(jìn)行分解得到分解系數(shù)矩陣，然后對分解系數(shù)矩陣進(jìn)行量化和熵編碼得到輸出碼流，同時(shí)對量化系數(shù)進(jìn)行反量化，預(yù)測殘差塊重建和重構(gòu)得到重構(gòu)圖像，用于下一幀編碼時(shí)的參考圖像。
本發(fā)明的分解方法用于對預(yù)測參差塊進(jìn)行分解得到分解系數(shù)矩陣，其流程如圖2所示。
本發(fā)明的重建方法利用分解系數(shù)矩陣重建預(yù)測參差塊，其流程如圖3所示。
實(shí)施編碼過程將采用H.264中的4×4，8×8，16×16幀內(nèi)預(yù)測模式和7種不同尺寸塊的幀間預(yù)測模式，且濾波器組以表的形式同時(shí)存放在編碼器和解碼器中。采用基于多通道濾波器組的預(yù)測殘差塊分解方法之后，根據(jù)量化參數(shù)得到對應(yīng)的量化步長對分解系數(shù)直接進(jìn)行量化和反量化。測試平臺為JM10.1，選擇了具有代表性的分辨率CIF(352×288)，具有不同的顏色、紋理特征的國際標(biāo)準(zhǔn)序列Bus、Mobile、Foreman、Coastguard作為測試序列。本實(shí)施例的參數(shù)設(shè)置如下 1.編碼結(jié)構(gòu)I幀1幀，P幀29幀 2.熵編碼模式CAVLC； 3.使用率失真優(yōu)化模型； 4.參考幀數(shù)1； 5.搜索范圍±16像素點(diǎn)； 本實(shí)施例表明相對于離散余弦變換(DCT)，采用本發(fā)明的分解方法之后，在相同的碼率下，平均峰值信噪比提高0.2dB以上。特別地，在使用基于DCT的H.264/AVC編碼器時(shí)，運(yùn)動(dòng)物體附近將會產(chǎn)生塊效應(yīng)，而在使用基于多通道濾波器組的H.264編碼器時(shí)沒有產(chǎn)生塊效應(yīng)。因此，本發(fā)明提出的基于多通道濾波器組的預(yù)測殘差塊分解方法，在視頻編碼中能有效進(jìn)行去相關(guān)性，減少DCT變換矩陣和預(yù)測殘差塊的尺寸不匹配所引起的塊效應(yīng)，提高編碼主客觀質(zhì)量。
權(quán)利要求
1.一種視頻編碼預(yù)測殘差塊的分解方法，包括
(1)預(yù)測殘差塊分類步驟對輸入的幀內(nèi)或幀間預(yù)測殘差塊進(jìn)行分類，當(dāng)殘差塊的長邊尺寸為4時(shí)，進(jìn)行步驟(2)；當(dāng)殘差塊的長邊尺寸為8時(shí)，進(jìn)行步驟(3)；當(dāng)殘差塊的長邊尺寸為16時(shí)，進(jìn)行步驟(4)；
(2)第一多通道濾波器組橫向分解步驟使用第一多通道濾波器組對殘差塊X進(jìn)行橫向分解得到橫向分解系數(shù)矩陣Y，其分解表達(dá)式為
其中，
α＝0.1225π；
分解完成后，進(jìn)行步驟(5)；
(3)第三多通道濾波器組橫向分解步驟使用第三多通道濾波器組對殘差塊X進(jìn)行橫向分解得到橫向分解系數(shù)矩陣Y，其分解表達(dá)式為
其中，
R1＝SR0PSP，
T1＝ST0PSP，
α＝0.4362π，β＝0.38π；
分解完成后，進(jìn)行步驟(5)；
(4)第二多通道濾波器組橫向分解步驟使用第二多通道濾波器組對殘差塊X進(jìn)行橫向分解得到橫向分解系數(shù)矩陣Y，過程為
(4.1)對殘差塊X的每個(gè)行向量進(jìn)行橫向?qū)ΨQ擴(kuò)展以及分解
對第i個(gè)行向量Ni＝[xi，0 xi，1 xi，2 xi，3 xi，4 xi，5 xi，6 xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13 xi，14 xi，15]橫向?qū)ΨQ擴(kuò)展得到擴(kuò)展行向量Zi，Zi＝[xi，1 xi，0 xi，0 xi，1 xi，2 xi，3 xi，4 xi，5 xi，6xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13 xi，14 xi，15 xi，15 xi，14]，對Zi進(jìn)行橫向分解得到第i個(gè)行向量Ni的橫向分解向量Mi
Mi＝[yi，0 yi，1 yi，2 yi，3 yi，4 yi，5 yi，6 yi，7 yi，8 yi，9 yi，10 yi，11 yi，12 yi，13 yi，14 yi，15]，
其中
[yi，0 yi，1 yi，2 yi，3]＝[xi，1 xi，0 xi，0 xi，1 xi，2 xi，3 xi，4 xi，5]F2T，
[yi，4 yi，5 yi，6 yi，7]＝[xi，2 xi，3 xi，4 xi，5 xi，6 xi，7 xi，8 xi，9]F2T，
[yi，8 yi，9 yi，10 yi，11]＝[xi，6 xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13]F2T，
[yi，12 yi，13 yi，14 yi，15]＝[xi，10 xi，11 xi，12 xi，13 xi，14 xi，15 xi，15 xi，14]F2T，
α＝-0.595π，i為0～k-1，k≤16，k由殘差塊X的寬邊尺寸決定；
(4.2)各個(gè)行向量的橫向分解向量Mi構(gòu)成橫向分解系數(shù)矩陣Y，其中，k由殘差塊X的寬邊尺寸決定；
分解完成后，進(jìn)行步驟(5)；
(5)橫向分解系數(shù)矩陣分類步驟對橫向分解系數(shù)矩陣Y進(jìn)行分類，
當(dāng)Y的寬邊尺寸為4時(shí)，進(jìn)行步驟(6)；當(dāng)Y的寬邊尺寸為8時(shí)，進(jìn)行步驟(7)；當(dāng)Y的寬邊尺寸為16時(shí)，進(jìn)行步驟(8)；
(6)第一多通道濾波器組縱向分解步驟使用第一多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行縱向分解得到殘差塊的分解系數(shù)矩陣D，其分解表達(dá)式為
其中，U0、U1、W0、W1和α的值與步驟(2)中所示相同；分解結(jié)束；
(7)第三多通道濾波器組縱向分解步驟使用第三多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行縱向分解得到殘差塊的分解系數(shù)
矩陣D，其分解表達(dá)式為
其中，R0、R1、T0、T1的值與步驟(3)中所示相同；分解結(jié)束；
(8)第二多通道濾波器組縱向分解步驟使用第二多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行縱向分解得到殘差塊的分解系數(shù)矩陣D，過程為
(8.1)對橫向分解系數(shù)矩陣Y的每個(gè)列向量進(jìn)行縱向?qū)ΨQ擴(kuò)展以及分解
對第i個(gè)列向量Li＝[y0，i y1，i y2，i y3，i y4，i y5，i y6，i y7，i y8，i y9，i y10，i y11，i y12，i y13，i y14，i y15，i]T
縱向?qū)ΨQ擴(kuò)展得到擴(kuò)展列向量Zi，Zi＝[y1，i y0，i y0，i y1，i y2，i y3，i y4，i y5，i y6，iy7，i y8，i y9，i y10，i y11，i y12，i y13，i y14，i y15，i y15，i y14，i]T，對Zi進(jìn)行縱向分解得到第i個(gè)列向量Li的縱向分解向量Ji
Ji＝[d0，i d1，i d2，i d3，i d4，i d5，i d6，i d7，i d8，i d9，i d10，i d11，i d12，i d13，i d14，i d15，i ]T，
其中
[d0，i d1，i d2，i d3，i]T＝F2[y1，i y0，i y0，i y1，i y2，i y3，i y4，i y5，i]T，
[d4，i d5，i d6，i d7，i]T＝F2[y2，i y3，i y4，i y5，i y6，i y7，i y8，i y9，i]T，
[d8，i d9，i d10，i d11，i]T＝F2[y6，i y7，i y8，i y9，i y10，i y11，i y12，i y13，i]T，
[d12，i d13，i d14，i d15，i]T＝F2[y10，i y11，i y12，i y13，i y14，i y15，i y15，i y14，i]T，
H0、H1、H2、H3、G0、G1、G2、G3的值與步驟(4.1)中所示相同，i為0～k-1，k≤16，k由殘差塊X的長邊尺寸決定；
(8.2)各個(gè)列向量的縱向分解向量Ji構(gòu)成殘差塊的分解系數(shù)矩陣D，
D＝[J0 J1…Jk-1]，其中k由殘差塊X的長邊尺寸決定；
分解結(jié)束。
2.一種視頻編碼預(yù)測殘差塊的重建方法，利用分解系數(shù)矩陣重建預(yù)測參差塊，包括
(1)預(yù)測殘差塊的分解系數(shù)矩陣分類步驟對輸入的分解系數(shù)矩陣D進(jìn)行分類，當(dāng)分解系數(shù)矩陣的寬邊尺寸為4時(shí)，進(jìn)行步驟(2)；當(dāng)分解系數(shù)矩陣的寬邊尺寸為8時(shí)，進(jìn)行步驟(3)；當(dāng)分解系數(shù)矩陣的寬邊尺寸為16時(shí)，進(jìn)行步驟(4)；
(2)第一多通道濾波器組縱向重建步驟使用第一多通道濾波器組對分解系數(shù)矩陣D進(jìn)行縱向重建得到橫向分解系數(shù)矩陣Y，其重建表達(dá)式為
其中，
α＝0.1225π；
重建完成后，進(jìn)行步驟(5)；
(3)第三多通道濾波器組縱向重建步驟使用第三多通道濾波器組對分解系數(shù)矩陣D進(jìn)行縱向重建得到橫向分解系數(shù)矩陣Y，其重建表達(dá)式為
其中，
R1＝SR0PSP，
T1＝ST0PSP，
α＝0.4362π，β＝0.38π；
重建完成后，進(jìn)行步驟(5)；
(4)第二多通道濾波器組縱向重建步驟使用第二多通道濾波器組對分解系數(shù)矩陣D進(jìn)行縱向重建得到橫向分解系數(shù)矩陣Y，過程為
(4.1)對分解系數(shù)矩陣D的每個(gè)列向量進(jìn)行重建
對分解系數(shù)矩陣D的第i個(gè)列向量Ji＝[d0，i d1，i d2，i d3，i d4，i d5，i d6，i d7，id8，i d9，i d10，i d11，i d12，i d13，i d14，i d15，i]T進(jìn)行重建得到橫向分解系數(shù)矩陣Y的第i個(gè)列向量Li＝[y0，i y1，i y2，i y3，i y4，i y5，i y6，i y7，i y8，i y9，i y10，i y11，i y12，i y13，i y14，i y15，i]T，其計(jì)算表達(dá)式為
y0，i＝d0，i×h02+d0，i×h06+d1，i×h12-d1，i×h16+d2，i×g02+d2，i×g06+d3，i×g12-d3，i×g16
y1，i＝d0，i×h03+d0，i×h07+d1，i×h13-d1，i×h17+d2，i×g03+d2，i×g07+d3，i×g13-d3，i×g17
y2，i＝d0，i×h04+d4，i×h00+d1，i×h14+d5，i×h10+d2，i×g04+d6，i×g00+d3，i×g14+d7，i×g10
y3，i＝d0，i×h05+d4，i×h01+d1，i×h15+d5，i×h11+d2，i×g05+d6，i×g01+d3，i×g15+d7，i×g11
y4，i＝d0，i×h06+d4，i×h02+d1，i×h16+d5，i×h12+d2，i×g06+d6，i×g02+d3，i×g16+d7，i×g12
y5，i＝d0，i×h07+d4，i×h03+d1，i×h17+d5，i×h13+d2，i×g07+d6，i×g03+d3，i×g17+d7，i×g13
y6，i＝d4，i×h04+d8，i×h00+d5，i×h14+d9，i×h10+d6，i×g04+d10，i×g00+d7，i×g14+d11，i×g10
y7，i＝d4，i×h05+d8，i×h01+d5，i×h15+d9，i×h11+d6，i×g05+d10，i×g01+d7，i×g15+d11，i×g11
y8，i＝d4，i×h06+d8，i×h02+d5，i×h16+d9，i×h12+d6，i×g06+d10，i×g02+d7，i×g16+d11，i×g12
y9，i＝d4，i×h07+d8，i×h03+d5，i×h17+d9，i×h13+d6，i×g07+d10，i×g03+d7，i×g17+d11，i×g13
y10，i＝d8，i×h04+d12，i×h00+d9，i×h14+d13，i×h10+d10，i×g04+d14，i×g00+d11，i×g14+d15，i×g10
y11，i＝d8，i×h05+d12，i×h01+d9，i×h15+d13，i×h11+d10，i×g05+d14，i×g01+d11，i×g15+d15，i×g11
y12，i＝d8，i×h06+d12，i×h02+d9，i×h16+d13，i×h12+d10，i×g06+d14，i×g02+d11，i×g16+d15，i×g12
y13，i＝d8，i×h07+d12，i×h03+d9，i×h17+d13，i×h13+d10，i×g07+d14，i×g03+d11，i×g17+d15，i×g13
y14，i＝d12，i×h04+d12，i×h00+d13，i×h14-d13，i×h10+d14，i×g04+d14，i×g00+d15，i×g14-d15，i×g10
y15，i＝d12，i×h05+d12，i×h01+d13，i×h15-d13，i×h11+d14，i×g05+d14，i×g01+d15，i×g15-d15，i×g11
其中
α＝-0.595π，i為0～k-1，k≤16，k由分解系數(shù)矩陣D的長邊尺寸決定；
(4.2)各個(gè)列向量的縱向重建向量Li構(gòu)成橫向分解系數(shù)矩陣Y，
Y＝[L0 L1…Lk-1]，其中，k由分解系數(shù)矩陣D的長邊尺寸決定；重建完成后，進(jìn)行步驟(5)；
(5)橫向分解系數(shù)矩陣分類步驟對橫向分解系數(shù)矩陣Y進(jìn)行分類，當(dāng)Y的長邊尺寸為4時(shí)，進(jìn)行步驟(6)；當(dāng)Y的長邊尺寸為8時(shí)，進(jìn)行步驟(7)；當(dāng)Y的長邊尺寸為16時(shí)，進(jìn)行步驟(8)；
(6)第一多通道濾波器組橫向重建步驟使用第一多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行橫向重建得到殘差塊X，其重建表達(dá)式為
其中，U0、U1、W0、W1和α的值與步驟(2)中所示相同；重建結(jié)束；
(7)第三多通道濾波器組橫向重建步驟使用第三多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行橫向重建得到殘差塊X，其重建表達(dá)式為
其中，R0、R1、T0、T1的值與步驟(3)中所示相同；重建結(jié)束；
(8)第二多通道濾波器組橫向重建步驟使用第二多通道濾波器組對橫向分解系數(shù)矩陣Y進(jìn)行橫向重建得到殘差塊X，過程為
(8.1)對橫向分解系數(shù)矩陣Y的每個(gè)行向量進(jìn)行重建
對橫向分解系數(shù)矩陣Y的第i個(gè)行向量Mi＝[yi，0 yi，1 yi，2 yi，3 yi，4 yi，5yi，6 yi，7 yi，8 yi，9 yi，10 yi，11 yi，12 yi，13 yi，14 yi，15]進(jìn)行重建得到殘差塊X的第i個(gè)行向量Ni＝[xi，0 xi，1 xi，2 xi，3 xi，4 xi，5 xi，6 xi，7 xi，8 xi，9 xi，10 xi，11 xi，12 xi，13 xi，14 xi，15]，其計(jì)算表達(dá)式為
xi，0＝y(tǒng)i，0×h02+yi，0×h06+yi，1×h12-yi，1×h16+yi，2×g02+yi，2×g06+yi，3×g12-yi，3×g16
xi，1＝y(tǒng)i，0×h03+yi，0×h07+yi，1×h13-yi，1×h17+yi，2×g03+yi，2×g07+yi，3×g13-yi，3×g17
xi，2＝y(tǒng)i，0×h04+yi，4×h00+yi，1×h14+yi，5×h10+yi，2×g04+yi，6×g00+yi，3×g14+yi，7×g10
xi，3＝y(tǒng)i，0×h05+yi，4×h01+yi，1×h15+yi，5×h11+yi，2×g05+yi，6×g01+yi，3×g15+yi，7×g11
xi，4＝y(tǒng)i，0×h06+yi，4×h02+yi，1×h16+yi，5×h12+yi，2×g06+yi，6×g02+yi，3×g16+yi，7×g12
xi，5＝y(tǒng)i，0×h07+yi，4×h03+yi，1×h17+yi，5xh13+yi，2×g07+yi，6×g03+yi，3×g17+yi，7×g13
xi，6＝y(tǒng)i，4×h04+yi，8×h00+yi，5×h14+yi，9×h10+yi，6×g04+yi，10×g00+yi，7×g14+yi，11×g10
xi，7＝y(tǒng)i，4×h05+yi，8×h01+yi，5×h15+yi，9×h11+yi，6×g05+yi，10×g01+yi，7×g15+yi，11×g11
xi，8＝y(tǒng)i，4×h06+yi，8×h02+yi，5×h16+yi，9×h12+yi，6×g06+yi，10×g02+yi，7×g16+yi，11×g12
xi，9＝y(tǒng)i，4×h07+yi，8×h03+yi，5×h17+yi，9×h13+yi，6×g07+yi，10×g03+yi，7×g17+yi，11×g13
xi，10＝y(tǒng)i，8×h04+yi，12×h00+yi，9×h14+yi，13×h10+yi，10×g04+yi，14×g00+yi，11×g14+yi，15×g10
xi，11＝y(tǒng)i，8×h05+yi，12×h01+yi，9×h15+yi，13×h11+yi，10×g05+yi，14×g01+yi，11×g15+yi，15×g11
xi，12＝y(tǒng)i，8×h06+yi，12×h02+yi，9×h16+yi，13×h12+yi，10×g06+yi，14×g02+yi，11×g16+yi，15×g12
xi，13＝y(tǒng)i，8×h07+yi，12×h03+yi，9×h17+yi，13×h13+yi，10×g07+yi，14×g03+yi，11×g17+yi，15×g13
xi，14＝y(tǒng)i，12×h04+yi，12×h00+yi，13×h14-yi，13×h10+yi，14×g04+yi，14×g00+yi，15×g14-yi，15×g10
xi，15＝y(tǒng)i，12×h05+yi，12xh01+yi，13×h15-yi，13×h11+yi，14×g05+yi，14×g01+yi，15×g15-yi，15×g11
其中，H0、H1、H2、H3、G0、G1、G2、G3的值與步驟(4.1)中所示相同，i為0～k-1，k≤16，k由橫向分解系數(shù)矩陣Y的寬邊尺寸決定；
(8.2)各個(gè)行向量的橫向重建向量Ni構(gòu)成殘差塊X，其中，k由橫向分解系數(shù)矩陣Y的寬邊尺寸決定；重建結(jié)束。
全文摘要
一種視頻編碼預(yù)測殘差塊的分解及重建方法，屬于信號處理中的視頻編碼技術(shù)領(lǐng)域，減少現(xiàn)有DCT變換矩陣引起的塊效應(yīng)，并解決該矩陣的值不能進(jìn)行調(diào)整的問題。本發(fā)明分解方法包括預(yù)測殘差塊分類，第一、第三、第二多通道濾波器組橫向分解，橫向分解系數(shù)矩陣分類，第一、第三、第二多通道濾波器組縱向分解步驟；本發(fā)明重建方法包括預(yù)測殘差塊的分解系數(shù)矩陣分類，第一、第三、第二多通道濾波器組縱向重建，橫向分解系數(shù)矩陣分類，第一、第三、第二多通道濾波器組橫向重建步驟。本發(fā)明能有效地進(jìn)行去相關(guān)性，并能減少DCT變換矩陣和預(yù)測殘差塊尺寸不匹配所引起的塊效應(yīng)，提高編碼主客觀質(zhì)量。
文檔編號H04N7/50GK101562747SQ20091006216
公開日2009年10月21日 申請日期2009年5月19日 優(yōu)先權(quán)日2009年5月19日
發(fā)明者陳加忠, 周敬利, 單 黎, 孫自龍 申請人:華中科技大學(xué)