專利名稱：一種變換系數(shù)的優(yōu)化量化方法及裝置的制作方法
技術(shù)領(lǐng)域：
本發(fā)明屬于視頻壓縮編碼技術(shù)領(lǐng)域，而且，更具體的，涉及一種變換系數(shù)的優(yōu)化量 化方法及裝置。
背景技術(shù)：
在各種圖像、視頻有損編解碼技術(shù)中，如JPEG，MPEG-2，H. 264/AVC，AVS等，量化是 獲得圖像、視頻有損壓縮編碼效率的重要手段。但量化也會引入編碼失真，造成質(zhì)量的失 真。如何在高壓縮率的視頻編碼情況下，盡可能的減少圖像質(zhì)量失真是一個研究的熱點。率失真優(yōu)化理論就是選擇能夠達到碼率與失真度的最佳平衡的編碼模式。目前大部分圖像、視頻編碼都是先對變換系數(shù)進行量化，即在變換域中進行量化， 然后對量化后的系數(shù)進行熵編碼，來實現(xiàn)壓縮編碼。量化過程也可以使用率失真優(yōu)化方法， 進行最優(yōu)量化后系數(shù)的選擇，使得量化后系數(shù)的碼率與失真度達到最佳平衡。由于一個變 換系數(shù)塊中量化后系數(shù)的熵編碼是聯(lián)合進行的，而且對編碼失真是時空域度量的，所以其 優(yōu)化量化過程一般為1、對變換系數(shù)塊按照一定的掃描順序排列為一維的變換系數(shù)序列；2、對一維的變換系數(shù)序列中的每個變換系數(shù)生成若干候選量化值，其中值為零的 變換系數(shù)的候選量化值就是零，該變換系數(shù)的優(yōu)化量化值也是零；3、值不為零的變換系數(shù)一般稱為非零變換系數(shù)，對當(dāng)前非零變換系數(shù)的每個候選 量化值計算相應(yīng)的變換系數(shù)塊的編碼代價，并選取使編碼代價最小的候選量化值作為該系 數(shù)的優(yōu)化量化值；3. 1估算編碼失真由變換系數(shù)的量化失真估算像素域的編碼失真，即直接計算 量化之前的變換系數(shù)與經(jīng)過量化與反量化后恢復(fù)的反量化后變換系數(shù)之間的失真作為編 碼失真。3. 2估算編碼比特數(shù)估算候選量化值所對應(yīng)的編碼比特數(shù)，包括編碼非零變換 系數(shù)幅度值的比特數(shù)和值為零的系數(shù)的個數(shù)等語法元素的比特數(shù)。3. 3計算編碼代價使用拉格朗日函數(shù)由估算的編碼失真和估算的編碼比特數(shù)計 算編碼代價。4、按照掃描順序依次對每個非零系數(shù)執(zhí)行上述3操作，直到該變換系數(shù)塊的所有 變換系數(shù)得到優(yōu)化量化值為止。但是，近年在一些編碼系統(tǒng)中引入了非歸一化的變換，如AVS標(biāo)準(zhǔn)中使用的預(yù)縮 放整數(shù)變換PIT技術(shù)。這時，直接在變換域計算變換系數(shù)的編碼失真不能準(zhǔn)確反映實際的 編碼失真；而如果將量化后的變換系數(shù)經(jīng)過反量化、反變換、預(yù)測補償后恢復(fù)到像素域，再 計算編碼失真，則計算復(fù)雜度相當(dāng)高。另外在使用二維熵編碼的編碼系統(tǒng)中，非零變換系數(shù)的選取不同的候選量化值會 引起周圍游程-幅值編碼(run，level)中rim的值的變化和(run，level)總個數(shù)的變化從 而導(dǎo)致整個變換系數(shù)塊的編碼比特數(shù)的變化，也會引起編碼碼表選擇的變化從而導(dǎo)致整個變換系數(shù)塊的編碼比特數(shù)變化，因此多個非零變換系數(shù)的優(yōu)化量化是相互關(guān)聯(lián)的。必須解 決優(yōu)化量化過程的復(fù)雜度與編碼效率的問題。

發(fā)明內(nèi)容
為克服現(xiàn)有技術(shù)上述缺陷，本發(fā)明旨在提出一種變換系數(shù)的優(yōu)化量化方法及裝 置，具體為一種變換系數(shù)優(yōu)化量化的方法，其特征在于對包含有Z個非零變換系數(shù)的Z1XZ2 大小的變換系數(shù)塊按如下步驟進行優(yōu)化量化(1)對每個非零變換系數(shù)生成若干候選量化值；(2)對M個非零變換系數(shù)的候選量化值之組合計算相應(yīng)的編碼代價，并選取使編 碼代價最小的候選量化值之組合作為該M個非零變換系數(shù)的優(yōu)化量化值；所述計算相應(yīng)的 編碼代價包括計算編碼失真和計算編碼比特數(shù)；所述計算編碼失真包括對變換系數(shù)以及候 選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值進行去非歸一化處理；(3)滑動Q個非零變換系數(shù)執(zhí)行上述(2)操作，直到該變換系數(shù)塊中所有變換系數(shù) 得到優(yōu)化量化值為止；其中ZC=Z1XZrl <M<Z，1 <M。所述對變換系數(shù)以及候選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值進行去非歸一 化處理是指將變換系數(shù)以及候選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值分別乘以去非歸 一化加權(quán)矩陣中對應(yīng)位置的加權(quán)值，所述去非歸一化加權(quán)矩陣與反變換矩陣相關(guān)聯(lián)。所述的去非歸一化加權(quán)矩陣W由反變換的垂直和水平變換核矩陣11；和
ITh 決定，W= (I IiTvI IX IlIThII),其中，||/rv|| = [A D2 ……，其中 D1 = ^df1+df2+……+ dfZi,(l < ι < Z1) ； IIzrhI = ^1 E2 ……五 Z2]，其中
Ei = +4+……+ <,,(! ^ Z2)
νο所述計算M個非零變換系數(shù)的候選量化值組合對應(yīng)的編碼比特數(shù)包括根據(jù)變換 系數(shù)的候選量化值組合生成對應(yīng)的(rim，leVel)串，并計算(rim，leVel)串的編碼比特數(shù)。所述計算(run，level)串的編碼比特數(shù)，包括對每個(run，level)根據(jù)上下文選 擇碼表。本發(fā)明還提出一種變換系數(shù)的優(yōu)化量化裝置，該裝置包括計算編碼失真單元，所 述計算編碼失真單元的輸入為變換系數(shù)塊和每個非零變換系數(shù)的候選量化值，輸出為候選 量化值組合對應(yīng)的編碼失真；所述計算編碼失真單元包括去非歸一化處理單元。所述去非歸一化處理單元對輸入信號進行去非歸一化處理，即去非歸一化處理單 元的輸出為去非歸一化處理單元的輸入乘以去非歸一化加權(quán)矩陣中對應(yīng)位置的加權(quán)值。所述去非歸一化加權(quán)矩陣W由反變換的垂直和水平變換核矩陣11；和
ITh 決定，w = (I IiTvI IX IlIThII),其中，其中，||/t;| = [a D2 ……A1]'，其 中A=丨》……+ <，(19 ； IzrhI = ^1 E2……EJ ，其中
Ei =批+ 4+……+ο
5
所述的變換系數(shù)的優(yōu)化量化裝置還包括計算編碼比特數(shù)單元，所述計算編碼比特 數(shù)單元的輸入為變換系數(shù)優(yōu)化量化值存儲單元的輸出、變換系數(shù)量化值預(yù)測單元的輸出、 候選量化值生成單元的輸出；所述計算編碼比特數(shù)單元的輸出為候選量化值組合對應(yīng)的編 碼比特數(shù)；所述計算編碼比特數(shù)單元包括(run，level)串生成單元，碼表切換單元，計算 (run, level)串比特數(shù)單元。所述(run，level)串生成單元是由變換系數(shù)量化值預(yù)測單元的輸出、候選量化 值生成單元的輸出、以及變換系數(shù)優(yōu)化量化值存儲單元的輸出生成候選量化值組合對應(yīng)的 (run, level)串；所述碼表切換單元根據(jù)變換系數(shù)優(yōu)化量化值存儲單元的輸出、變換系數(shù) 量化值預(yù)測單元的輸出以及候選量化值生成單元的輸出信息，依次為每個(run，level)選 擇二維熵編碼碼表。采用本發(fā)明有益效果在于本發(fā)明旨在通過在變換域進行處理，以較低復(fù)雜度直接對非歸一化變換的變換系 數(shù)進行優(yōu)化量化。本發(fā)明還考慮到多個非零變換系數(shù)的優(yōu)化量化的相互關(guān)聯(lián)性，提出了一 種對變換系數(shù)塊中M個非零變換系數(shù)聯(lián)合優(yōu)化量化的方法，在一定的復(fù)雜度情況下提高了 優(yōu)化量化的編碼效率。


圖1為本發(fā)明一種變換系數(shù)優(yōu)化量化的裝置實施例的原理框圖。
具體實施例方式下面，結(jié)合附圖和實施例對本發(fā)明進行詳細的說明。實施例以使用C2D-VLC的 熵編碼方法的AVS編碼系統(tǒng)作為實施系統(tǒng)。但這并不是說本發(fā)明的應(yīng)用范圍限定在使用 C2D-VLC熵編碼方法的視頻編碼系統(tǒng)。本發(fā)明同樣適用于采用其他熵編碼方法的視頻編碼 系統(tǒng)。實施例一對于Z1XZ2大小的變換系數(shù)塊按照一定的掃描順序，如zig-zag掃描順序、或 zig-zag掃描順序的倒序、或量化后變換系數(shù)熵編碼的順序、或其它預(yù)先定義的順序，排列 為一維的變換系數(shù)序列G，C2，……，cZiXZ2，該變換系數(shù)塊的優(yōu)化量化方法按變換系數(shù)序列 q，c2，……，Czix22的順序進行，其中值為零的變換系數(shù)的優(yōu)化量化值就是零，而對于值不為 零的變換系數(shù)即非零變換系數(shù)則按照上述的一定的掃描順序排列為一維的非零變換系數(shù)
序列C1, c2，......cz,使用一個寬度為M的聯(lián)合優(yōu)化窗進行M(1彡M彡Ζ)個非零變換系數(shù)
聯(lián)合優(yōu)化量化，每次滑動Q(1 < QSM)個非零變換系數(shù)，此例以M= 1,Q = 1，即每個非零 變換系數(shù)單獨進行優(yōu)化量化為例，具體包括1非零變換系數(shù)生成若干候選量化值每個非零變換系數(shù)cn(n = 1 Z)生成Kn 個候選量化值/ 7^,^Cf......C ，其中κη為大于等于ι的整數(shù)?？砂炊喾N方式生成候選量
化值。例如，假設(shè)當(dāng)前的量化步長為Qstep，則令level_d0uble = |cn|+Qstep。用Iint表示 level_double的整數(shù)部分，用Ifl表示leVel_double的小數(shù)部分，則對cn可以按如下規(guī)則 生成候選量化值
61. 1如果Iint = 0，并且Ifl ( 0. 5，候選量化值包括/ 了 1. 2如果Iint = 0，并且Ifl > 0. 5，候選量化值包括-JZd = 0 ,IZd = 權(quán)利要求
一種變換系數(shù)優(yōu)化量化的方法，其特征在于對包含有Z個非零變換系數(shù)的Z1×Z2大小的變換系數(shù)塊按如下步驟進行優(yōu)化量化(1)對每個非零變換系數(shù)生成若干候選量化值；(2)對M個非零變換系數(shù)的候選量化值之組合計算相應(yīng)的編碼代價，并選取使編碼代價最小的候選量化值之組合作為該M個非零變換系數(shù)的優(yōu)化量化值；所述計算相應(yīng)的編碼代價包括計算編碼失真和計算編碼比特數(shù)；所述計算編碼失真包括對變換系數(shù)以及候選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值進行去非歸一化處理；(3)滑動Q個非零變換系數(shù)執(zhí)行上述(2)操作，直到該變換系數(shù)塊中所有變換系數(shù)得到優(yōu)化量化值為止；其中Z＜＝Z1×Z2，1≤M≤Z，1≤Q≤M。
2.如權(quán)利要求1所述的變換系數(shù)優(yōu)化量化的方法，其特征在于所述對變換系數(shù)以及 候選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值進行去非歸一化處理是指將變換系數(shù)以及候 選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值分別乘以去非歸一化加權(quán)矩陣中對應(yīng)位置的加 權(quán)值，所述去非歸一化加權(quán)矩陣與反變換矩陣相關(guān)聯(lián)。
3.如權(quán)利要求2所述的變換系數(shù)優(yōu)化量化的方法，其特征在于所述的去非歸一化 加權(quán)矩陣w由反變換的垂直和水平變換核矩陣ITv和ITh決定，w = (I IiTvI | χ IITJ |)，
4.如權(quán)利要求1或2或3所述的變換系數(shù)優(yōu)化量化的方法，其特征在于所述計算M個 非零變換系數(shù)的候選量化值組合對應(yīng)的編碼比特數(shù)包括根據(jù)變換系數(shù)的候選量化值組合 生成對應(yīng)的(run，level)串，并計算(run，level)串的編碼比特數(shù)。
5.如權(quán)利要求4所述的變換系數(shù)優(yōu)化量化的方法，其特征在于所述計算(run，level) 串的編碼比特數(shù)，包括對每個(run，level)根據(jù)上下文選擇碼表。
6.一種變換系數(shù)的優(yōu)化量化裝置，其特征在于包括計算編碼失真單元，所述計算編 碼失真單元的輸入為變換系數(shù)塊和每個非零變換系數(shù)的候選量化值，輸出為候選量化值組 合對應(yīng)的編碼失真；所述計算編碼失真單元包括去非歸一化處理單元。
7.如權(quán)利要求6所述的變換系數(shù)的優(yōu)化量化裝置，其特征在于所述去非歸一化處理 單元對輸入信號進行去非歸一化處理，即去非歸一化處理單元的輸出為去非歸一化處理單 元的輸入乘以去非歸一化加權(quán)矩陣中對應(yīng)位置的加權(quán)值。
8.如權(quán)利要求7所述的變換系數(shù)的優(yōu)化量化裝置，其特征在于所述去非歸一化加 權(quán)矩陣w由反變換的垂直和水平變換核矩陣ITv和ITh決定，w = (I IiTvI | χ IITJ |)，其
9.如權(quán)利要求6或7或8所述的變換系數(shù)的優(yōu)化量化裝置，其特征還在于還包括計 算編碼比特數(shù)單元，所述計算編碼比特數(shù)單元的輸入為變換系數(shù)優(yōu)化量化值存儲單元的 輸出、變換系數(shù)量化值預(yù)測單元的輸出、候選量化值生成單元的輸出；所述計算編碼比特數(shù)單元的輸出為候選量化值組合對應(yīng)的編碼比特數(shù)；所述計算編碼比特數(shù)單元包括(run， level)串生成單元，碼表切換單元，計算(run，level)串比特數(shù)單元。
10.如權(quán)利要求9所述的變換系數(shù)的優(yōu)化量化裝置，其特征在于所述(run，level)串 生成單元是由變換系數(shù)量化值預(yù)測單元的輸出、候選量化值生成單元的輸出、以及變換系 數(shù)優(yōu)化量化值存儲單元的輸出生成候選量化值組合對應(yīng)的(run，level)串；所述碼表切換 單元根據(jù)變換系數(shù)優(yōu)化量化值存儲單元的輸出、變換系數(shù)量化值預(yù)測單元的輸出以及候選 量化值生成單元的輸出信息，依次為每個(run，level)選擇二維熵編碼碼表。
全文摘要
本發(fā)明公開了一種變換系數(shù)的優(yōu)化量化方法及裝置，對包含有Z個非零變換系數(shù)的Z1×Z2大小的變換系數(shù)塊按如下步驟進行優(yōu)化量化(1)對每個非零變換系數(shù)生成若干候選量化值；(2)對M個非零變換系數(shù)的候選量化值之組合計算相應(yīng)的編碼代價，并選取使編碼代價最小的候選量化值之組合作為該M個非零變換系數(shù)的優(yōu)化量化值；計算相應(yīng)的編碼代價包括計算編碼失真和計算編碼比特數(shù)，所述計算編碼失真包括對變換系數(shù)以及候選量化值經(jīng)過反量化后恢復(fù)的變換系數(shù)值進行去非歸一化處理；(3)滑動Q個非零變換系數(shù)執(zhí)行上述(2)操作，直到該變換系數(shù)塊中所有變換系數(shù)得到優(yōu)化量化值為止。采用本發(fā)明，能提高優(yōu)化量化的編碼效率。
文檔編號H04N7/30GK101938654SQ20101025610
公開日2011年1月5日 申請日期2010年8月17日 優(yōu)先權(quán)日2010年8月17日
發(fā)明者朱興國, 沈曉琳, 潘芳, 虞露 申請人:浙江大學(xué)