br>[0031]步驟3:根據(jù)步驟2得到的最佳輸入特征，運(yùn)用梯度上升算法求得邏輯回規(guī)分類器 的最優(yōu)邏輯回規(guī)系數(shù)。梯度上升法基于的思想是:要找到某函數(shù)的最大值，最好的方法是沿 著函數(shù)f(W)的梯度方向探尋，計(jì)算公式如下：
[003^W:=.W+'化▽娘八做) 口)
[0033] 其中向量W是要找到最佳參數(shù)，a為沿梯度方向移動的大小，V表示梯度，▽w/Xw)表 示函數(shù)f(W)的梯度，f(W)的定義如下：
[0034] f (w)=W0X0+WlXl+---+WnXn(3)
[00對其中訊14= 0，1。']1是向量訊的一個(gè)分量，町1 = 0，1。']1是輸入特征值。公式（2)將一 直被迭代執(zhí)行，直到達(dá)到指定的迭代次數(shù)或者梯度上升法達(dá)到允許的誤差范圍。
[0036]步驟4:將步驟3得到的邏輯回規(guī)分類器用到CU劃分選擇過程中。
[0037] 步驟5:對本層CU的所有預(yù)測模式進(jìn)行編碼，并求得邏輯回規(guī)輸入特征的值，具體 是：
[0038]開始編碼當(dāng)前編碼深度層CU的所有預(yù)測模式，并得到當(dāng)前編碼深度最優(yōu)的編碼模 式，計(jì)算步驟2選擇的輸入特征的值，得到輸入分類器的特征值。
[0039] 步驟6:將步驟5求得的輸入特征的值代入邏輯回規(guī)分類器中判定當(dāng)前CU是否向下 劃分，如果判定當(dāng)前CU為"不向下劃分"則轉(zhuǎn)步驟8，否則轉(zhuǎn)步驟7，具體是：
[0040] 將步驟5求得的輸入特征值代入邏輯回規(guī)分類器中判定當(dāng)前CU是否向下劃分，判 定準(zhǔn)則如下：
[0042]其中Cunsplit和Csplit分別表示"不向下劃分"和"向下劃分"，X為步驟5得到的輸入特 征值。P(CsplitIX)表示"向下劃分"的后驗(yàn)概率，計(jì)算公式如下：
(4)
[0044]其中Z是特征值X的線性組合，計(jì)算公式如下：
[0045] Z=W0X0+W1X1+-?-+WnXn(5)
[0046] 其中巧14= 0，1。'11是步驟(3)求得的最優(yōu)邏輯回規(guī)系數(shù)，町1 = 0，1。'11是輸入特征 值。而"不向下劃分"的后驗(yàn)概率P(CunsplitIX)計(jì)算如下：
[0047] p(CunsplitI x) =l-p(CsplitI x)(6)
[004引若判定當(dāng)前CU為"不向下劃分"則轉(zhuǎn)步驟(8)，否則轉(zhuǎn)步驟7。
[0049] 步驟7:CU繼續(xù)向下劃分成4個(gè)相同的子CU，具體是：
[0050]當(dāng)前層CU繼續(xù)向下劃分成4個(gè)相同的子CU,進(jìn)入下一編碼深度層的帖內(nèi)預(yù)測模式 編碼。
[0051] 步驟8:結(jié)束當(dāng)前編碼樹單元(CTU)的編碼，進(jìn)行下一個(gè)CTU的編碼。
[0052] 圖1是本發(fā)明所提出的邏輯回規(guī)分類的結(jié)果示意圖，圖2是本發(fā)明所提出的基于邏 輯回規(guī)分類CU劃分提前判定流程圖，圖3則是本發(fā)明與原始參考編碼器的RD性能比較圖，從 圖可W看出兩個(gè)畑曲線重合，表明畑性能沒有明顯下降。經(jīng)驗(yàn)證，在使用了該發(fā)明之后，在 皿VC的參考編碼器麗16.0下，針對多個(gè)視頻序列編碼器平均有55.5 %的速度提升，而BD-rate(相同質(zhì)量下的碼率)僅有1.29%的增加。
[0053]W上對本發(fā)明的具體實(shí)施例進(jìn)行了描述。需要理解的是，本發(fā)明并不局限于上述 特定實(shí)施方式，本領(lǐng)域技術(shù)人員可W在權(quán)利要求的范圍內(nèi)做出各種變形或修改，運(yùn)并不影 響本發(fā)明的實(shí)質(zhì)內(nèi)容。
【主權(quán)項(xiàng)】
1. 一種基于邏輯回規(guī)分類器的幀內(nèi)編碼單元快速選擇方法，其特征在于包括如下步 驟： 步驟1:離線統(tǒng)計(jì)學(xué)習(xí)多個(gè)視頻序列，采用HEVC中標(biāo)準(zhǔn)過程編碼每個(gè)編碼單元CU，并記 錄不同量化參數(shù)QP和不同編碼深度下最優(yōu)編碼單元CU劃分為"向下劃分"和"不向下劃分" 時(shí)候選特征的值； 步驟2:邏輯回規(guī)分類器輸入特征的選擇，將步驟1離線統(tǒng)計(jì)得到的候選特征值進(jìn)行比 較，選出最佳輸入特征； 步驟3:根據(jù)步驟2得到的最佳輸入特征，運(yùn)用梯度上升算法求得邏輯回規(guī)分類器的最 優(yōu)邏輯回規(guī)系數(shù)； 步驟4:將步驟3得到的邏輯回規(guī)分類器用到編碼單元CU劃分選擇過程中； 步驟5:對本層編碼單元CU的所有預(yù)測模式進(jìn)行編碼，并求得邏輯回規(guī)輸入特征的值； 步驟6:將步驟5求得的輸入特征的值代入邏輯回規(guī)分類器中判定當(dāng)前編碼單元CU是否 向下劃分，如果判定當(dāng)前編碼單元CU為"不向下劃分"則轉(zhuǎn)步驟8，否則轉(zhuǎn)步驟7; 步驟7:編碼單元CU繼續(xù)向下劃分成4個(gè)相同的子編碼單元CU; 步驟8:結(jié)束當(dāng)前編碼樹單元CTU的編碼，進(jìn)行下一個(gè)編碼樹單元CTU的編碼。2. 根據(jù)權(quán)利要求1所述的基于邏輯回規(guī)分類器的幀內(nèi)編碼單元快速選擇方法，其特征 在于:步驟2中：邏輯回規(guī)分類器輸入特征的選擇，F(xiàn)-score是衡量兩個(gè)集合即"向下切分"和 "不向下劃分"的數(shù)據(jù)差異性的評價(jià)標(biāo)準(zhǔn)，它定義如下：丨. 其中，元，分別是全部樣本、"不向下劃分"類樣本、"向下劃分"類樣本中輸入矢量 的第i個(gè)特征的均值，n+，rT分別是"不向下劃分"類樣本的總數(shù)、"向下劃分"類樣本的總數(shù)， <，分別是"不向下劃分"類、"向下劃分"類中第k個(gè)樣本的第i個(gè)特征;從上式可得出， 第i個(gè)特征在兩類中的均值與所有樣本的均值的差異越大，并且各自類別中第i個(gè)特征的方 差越小，F(xiàn)-score的值越大，那么第i個(gè)特征與類別的分離性越大，即該特征對分類有很好的 指導(dǎo)作用;分別計(jì)算候選特征的F-score值，然后選取值最大的兩個(gè)特征作為邏輯回規(guī)分類 器的輸入特征。3. 根據(jù)權(quán)利要求1所述的基于邏輯回規(guī)分類器的幀內(nèi)編碼單元快速選擇方法，其特征 在于:步驟3中：求得邏輯回規(guī)分類器的最優(yōu)邏輯回規(guī)系數(shù)，采用最優(yōu)梯度上升法，梯度上升 法是:沿著函數(shù)f(w)的梯度方向探尋找到某函數(shù)的最大值，計(jì)算公式如下：其中向量w是要找到的最佳參數(shù)，α為沿梯度方向移動的大小，▽表示梯度，U(W)表示 函數(shù)f (w)的梯度，f (W)的定義如下： f (w) =W0X0+W1X1+· · -+WnXn (3) 其中Wi，i = 0,1···η是向量W的一個(gè)分量，Xi，i = 0，l···n是輸入特征值，公式⑵將一直被 迭代執(zhí)行，直到達(dá)到指定的迭代次數(shù)或者梯度上升法達(dá)到允許的誤差范圍。4. 根據(jù)權(quán)利要求1-3任一項(xiàng)所述的基于邏輯回規(guī)分類器的幀內(nèi)編碼單元快速選擇方 法，其特征在于:步驟6中：將步驟5求得的輸入特征的值代入邏輯回規(guī)分類器中判定當(dāng)前編 碼單元CU是否向下劃分，如果判定當(dāng)前編碼單元CU為"不向下劃分"則轉(zhuǎn)步驟8，否則轉(zhuǎn)步驟 7,判定準(zhǔn)則如下：其中Cunspllt和Cspllt分別表示"不向下劃分"和"向下劃分"，X為步驟5得到的輸入特征 值;若選為"不向下劃分"的概率比選為"向下劃分"的概率的比值大，則將選擇為"不向下劃 分"，否則選擇為"向下劃分"。
【專利摘要】本發(fā)明提供一種基于邏輯回規(guī)分類器的幀內(nèi)編碼單元快速選擇方法，所述方法將一個(gè)編碼單元是否向下劃分建模為“向下劃分”和“不向下劃分”兩類的分類問題，采用邏輯回規(guī)分類器來解決這個(gè)兩類分類問題。離線學(xué)習(xí)三個(gè)視頻序列得到邏輯回規(guī)分類器最優(yōu)的邏輯回規(guī)系數(shù)，通過計(jì)算多個(gè)候選特征的有效性來選擇最佳的決策特征。利用離線學(xué)習(xí)得到的邏輯回規(guī)分類器對幀內(nèi)編碼單元進(jìn)行快速選擇，從而跳過其它不必要的預(yù)測編碼模式計(jì)算，能夠有效的降低HEVC編碼器幀內(nèi)編碼復(fù)雜度，有利于實(shí)時(shí)HEVC編碼器的實(shí)時(shí)應(yīng)用。
【IPC分類】H04N19/119, H04N19/147, H04N19/105, H04N19/159
【公開號】CN105430391
【申請?zhí)枴緾N201510885775
【發(fā)明人】張小云, 胡強(qiáng), 石志儒, 高志勇, 陳立, 王嘉
【申請人】上海交通大學(xué)
【公開日】2016年3月23日
【申請日】2015年12月4日