本發(fā)明涉及視頻處理技術領域,尤其涉及一種立體視頻幀率提升中運動矢量檢測與校正方法及系統(tǒng)。
背景技術:
立體視頻能夠為用戶提供全新的視覺感受,因而引起科研界和產業(yè)界的廣泛關注。立體視頻系統(tǒng)通常需要向用戶同時提供多個視點的彩色和深度視頻,所以相對于傳統(tǒng)視頻,數(shù)據(jù)傳輸量劇增。即便使用高效的編碼技術,在實際系統(tǒng)中,如無線傳輸系統(tǒng),信道帶寬仍然嚴重不足,而這限制了立體視頻的幀率。由于顯示設備的物理特性和人體視覺系統(tǒng)的生理特性,當視頻幀率較低時,會產生運動模糊或者偽影現(xiàn)象,嚴重影響了立體視頻的視覺質量。
幀率提升是一種常見的視頻增強技術,通過對低幀率視頻處理,在兩個視頻幀之間插入一幀或者多幀,實現(xiàn)視頻播放幀率的提高。幀率提升方法有多種,其中最常用的是基于運動補償?shù)膸侍嵘椒ǎ谶\動補償?shù)膸侍嵘椒ㄓ挚梢苑譃閱蜗蜻\動補償幀率提升(如圖1(a)所示)和雙向運動補償幀率提升(如圖1(b)所示)。
單向運動補償幀率提升在插入幀中會出現(xiàn)空洞或者重疊現(xiàn)象,而雙向運動補償幀率提升不會出現(xiàn)這種現(xiàn)象。因此,雙向運動補償幀率提升方法在工程中被廣泛應用。
在雙向運動補償幀率提升方法中,首先通過雙向運動估計獲取插入幀每個圖像塊的運動矢量,但是實際中并不能保證每一個運動矢量能夠表示相應圖像塊的真實運動,因此在運動補償前首先要對運動矢量進行處理,檢測出非真實運動矢量并進行校正。
技術實現(xiàn)要素:
本發(fā)明的目的就是為了解決上述問題,提供一種立體視頻幀率提升中運動矢量檢測與校正方法及系統(tǒng),首先,利用空間相關性進行運動矢量的檢測,其中包括兩步:基于方向相關性的錯誤運動矢量檢測和基于幅度相關性的不可靠運動矢量檢測;其次,完成對插入幀整個運動矢量場的檢測后,采用融合空間、顏色和深度信息的方法對錯誤運動矢量和不可靠運動矢量進行校正。
為了實現(xiàn)上述目的,本發(fā)明采用如下技術方案:
一種立體視頻幀率提升中運動矢量檢測與校正方法,包括以下步驟:
步驟(1):利用基于空間相關性的運動矢量檢測方法對插入幀的運動矢量場進行處理,檢測出插入幀的運動矢量場中的錯誤運動矢量和不可靠運動矢量;
步驟(2):利用融合空間、顏色和深度信息的方法對插入幀的運動矢量場中的錯誤運動矢量和不可靠運動矢量進行校正。
所述步驟(1)包括:
步驟(1-1):基于方向相關性的運動矢量檢測:利用被檢測運動矢量和被檢測運動矢量的8鄰域運動矢量在方向上的關系計算運動矢量的可靠性,確定被檢測運動矢量是否為錯誤運動矢量;若是錯誤運動矢量,就將錯誤運動矢量保存;若不是錯誤運動矢量則進入步驟(1-2);
步驟(1-2):基于幅度相關性的運動矢量檢測:利用被檢測運動矢量和被檢測運動矢量8鄰域運動矢量在幅度上的關系進行進一步檢測,并確定被檢測運動矢量是否為不可靠運動矢量,若是不可靠運動矢量,就將不可靠運動矢量保存,若不是不可靠運動矢量,則將運動矢量保存到真實運動矢量場中。
所述步驟(1-1)的步驟為:
v表示被檢測運動矢量,vi表示被檢測運動矢量的8鄰域運動矢量,其中i=1,…,8;則v與vi之間的方向相似度用公式(1)表示:
其中,‖·‖表示矢量的歐氏距離,即矢量的幅度。γi反映了被檢測運動矢量v和被檢測運動矢量的8鄰域運動矢量vi之間方向上的關系。
假設γi中正數(shù)的數(shù)量為np,假設γi中非正數(shù)的數(shù)量為nn,如果np<nn,則v被標記為錯誤運動矢量;如果np≥nn,則v進入步驟(1-2)基于幅度相關性的運動矢量檢測。
所述步驟(1-2)的步驟為:
首先,從被檢測運動矢量的8鄰域運動矢量vi中選取所有滿足γi>0的運動矢量,組成集合V={‖v‖,‖vi‖|γi>0},若‖v‖是集合V中的最大值或者最小值,則標記v為不可靠運動矢量;如果‖v‖不是集合V中的最大值或者最小值,則標記v為真實運動矢量。所述不可靠運動矢量包括被步驟(1-1)漏檢的錯誤運動矢量或被步驟(1-2)誤檢的真實運動矢量。
所述步驟(2)包括:
步驟(2-1):對錯誤運動矢量構建錯誤運動矢量校正候選集;對不可靠運動矢量構建不可靠運動矢量校正候選集;
步驟(2-2):利用錯誤運動矢量校正候選集和不可靠運動矢量校正候選集中候選運動矢量的空間關系,以及所述候選運動矢量對應的圖像塊的顏色和深度信息,構建能量函數(shù);
步驟(2-3):利用能量函數(shù)最小化,從錯誤運動矢量校正候選集和不可靠運動矢量校正候選集中選取最優(yōu)候選運動矢量,用最優(yōu)候選運動矢量替代錯誤運動矢量或者不可靠運動矢量,將最優(yōu)優(yōu)選運動矢量保存到真實運動矢量場中,完成校正處理。
所述步驟(2)的步驟為:
將步驟(1)檢測得到的錯誤運動矢量表示為vk1,則vk1的8鄰域中所有真實運動矢量組成vk1的錯誤運動矢量校正候選集Ω1;
將步驟(1)檢測得到的不可靠運動矢量表示為vk2,不可靠運動矢量校正候選集為Ω2,則Ω2除了包含vk2的8鄰域中所有真實運動矢量外,還包含vk2本身;
對于錯誤運動矢量,利用空間、顏色和深度信息構建能量函數(shù),如公式(2),并利用能量函數(shù)最小化從錯誤運動矢量校正候選集中選取最優(yōu)候選運動矢量,如公式(3):
E(vj1)=Espatial1(vj1)+λcEcolor1(vj1)+λdEdepth1(vj1) (2)
其中vj1為錯誤運動矢量校正候選集Ω1中的一個候選運動矢量,為錯誤運動矢量校正后的運動矢量。公式(2)中,Espatial1表示錯誤運動矢量能量函數(shù)中的空間分量;Ecolor1表示錯誤運動矢量能量函數(shù)中的顏色分量;Edepth1表示錯誤運動矢量能量函數(shù)中的深度分量。λc1表示錯誤運動矢量顏色分量的加權系數(shù);λd1表示錯誤運動矢量深度分量的加權系數(shù)。
Espatial1、Ecolor1和Edepth1分別用下面公式計算:
其中,公式(4)中vl1表示錯誤運動矢量校正候選集Ω1中除vj1以外的候選運動矢量,即R1=Ω1-vj1,K1表示R1中運動矢量的個數(shù);
公式(5)中表示當以vj1為當前圖像塊的運動矢量時,當前圖像塊在上一幀中對應的圖像塊;
表示當以vj1為當前圖像塊的運動矢量時,當前圖像塊在下一幀中對應的圖像塊,N1表示圖像塊中像素的個數(shù);p1表示當前圖像塊的位置,即當前圖像塊最左上角像素點的坐標;t1表示時間參數(shù);例如,表示時間為t1的視頻幀中最左上角像素坐標為p1的圖像塊。
公式(6)中表示對應的深度圖像塊;表示對應的深度圖像塊。
對于不可靠運動矢量,利用空間、顏色和深度信息構建能量函數(shù),如公式(7),并利用能量函數(shù)最小化從不可靠運動矢量校正候選集中選取最優(yōu)候選運動矢量,如公式(8):
E(vj2)=Espatial2(vj2)+λc2Ecolor2(vj2)+λd2Edepth2(vj2)(7)
其中vj2為不可靠運動矢量校正候選集Ω2中的一個候選運動矢量,為不可靠運動矢量校正后的運動矢量。公式(7)中,Espatial2表示不可靠運動矢量能量函數(shù)中的空間分量;Ecolor2表示不可靠運動矢量能量函數(shù)中的顏色分量;Edepth2表示不可靠運動矢量能量函數(shù)中的深度分量。λc2表示不可靠運動矢量顏色分量的加權系數(shù);λd2表示不可靠運動矢量深度分量的加權系數(shù)。Espatial2、Ecolor2和Edepth2分別用下面公式計算:
其中,公式(9)中vl2表示不可靠運動矢量校正候選集Ω2中除vj2以外的候選運動矢量,即R2=Ω2-vj2,K2表示R2中運動矢量的個數(shù);
公式(10)中表示當以vj2為當前圖像塊的運動矢量時,當前圖像塊在上一幀中對應的圖像塊;表示當以vj2為當前圖像塊的運動矢量時,當前圖像塊在下一幀中對應的圖像塊,N2表示圖像塊中像素的個數(shù);p2表示當前圖像塊的位置,即當前圖像塊最左上角像素點的坐標;t2表示時間參數(shù);例如,表示時間為t2的視頻幀中最左上角像素坐標為p2的圖像塊。
公式(11)中表示對應的深度圖像塊;表示對應的深度圖像塊。
一種立體視頻幀率提升中運動矢量檢測與校正系統(tǒng),包括:
檢測模塊:利用基于空間相關性的運動矢量檢測方法對插入幀的運動矢量場進行處理,檢測出插入幀的運動矢量場中的錯誤運動矢量和不可靠運動矢量;
校正模塊:利用融合空間、顏色和深度信息的方法對插入幀的運動矢量場中的錯誤運動矢量和不可靠運動矢量進行校正。
所述檢測模塊包括:
基于方向相關性的運動矢量檢測單元:利用被檢測運動矢量和被檢測運動矢量的8鄰域運動矢量在方向上的關系計算運動矢量的可靠性,確定被檢測運動矢量是否為錯誤運動矢量;若是錯誤運動矢量,就將錯誤運動矢量保存;若不是錯誤運動矢量則進入基于幅度相關性的運動矢量檢測單元;
基于幅度相關性的運動矢量檢測單元:利用被檢測運動矢量和被檢測運動矢量8鄰域運動矢量在幅度上的關系進行進一步檢測,并確定被檢測運動矢量是否為不可靠運動矢量,若是不可靠運動矢量,就將不可靠運動矢量保存,若不是不可靠運動矢量,則將運動矢量保存到真實運動矢量場中。
所述校正模塊包括:
運動矢量校正候選集構建單元:對錯誤運動矢量構建錯誤運動矢量校正候選集;對不可靠運動矢量構建不可靠運動矢量校正候選集;
能量函數(shù)構建單元:利用錯誤運動矢量校正候選集和不可靠運動矢量校正候選集中候選運動矢量的空間關系,以及所述候選運動矢量對應的圖像塊的顏色和深度信息,構建能量函數(shù);
校正處理單元:利用能量函數(shù)最小化,從錯誤運動矢量校正候選集和不可靠運動矢量校正候選集中選取最優(yōu)候選運動矢量,用最優(yōu)候選運動矢量替代錯誤運動矢量或者不可靠運動矢量,將最優(yōu)優(yōu)選運動矢量保存到真實運動矢量場中,完成校正處理。
本發(fā)明的有益效果為:
首先,本發(fā)明通過兩步完成運動矢量的檢測,利用運動矢量方向相關性檢測出錯誤運動矢量,對其余的運動矢量采用幅度相關性進行近一步檢測,檢測出不可靠運動矢量,從而提高了檢測效果,降低了錯誤運動矢量的漏檢率;
其次,在對運動矢量進行校正時,本發(fā)明融合空間、顏色和深度信息構建能量函數(shù),并分別針對錯誤運動矢量和不可靠運動矢量構建不同的運動矢量校正候選集,利用能量函數(shù)最小化從運動矢量校正候選集中選取最優(yōu)候選運動矢量,替代當前錯誤運動矢量或者不可靠運動矢量,而非采用其他運動矢量對錯誤運動矢量進行補償,因而校正后的運動矢量更能反映該圖像塊的真實運動。
附圖說明
圖1(a)為單向運動補償幀率提升方式;
圖1(b)為雙向運動補償幀率提升方式;
圖2為本發(fā)明的流程圖;
圖3(a)為常見錯誤運動矢量類別;
圖3(b)為常見錯誤運動矢量類別;
圖3(c)為常見錯誤運動矢量類別。
具體實施方式
下面結合附圖與實施例對本發(fā)明作進一步說明。
與現(xiàn)有的方法不同,本發(fā)明提出的方法分別利用運動矢量方向相關性和幅度相關性進行錯誤運動矢量和不可靠運動矢量的檢測,提高了運動矢量檢測效果;其次,區(qū)別于現(xiàn)有的錯誤運動矢量校正方法,本發(fā)明針對錯誤運動矢量和不可靠運動矢量分別構建運動矢量校正候選集,并提出融合空間、顏色和深度三種信息的能量函數(shù),通過能量函數(shù)最小化從運動矢量校正候選集中選取最優(yōu)候選運動矢量,對錯誤運動矢量或不可靠運動矢量進行校正,使用本方法校正后的運動矢量更能反映該圖像塊的真實運動。
本發(fā)明提出一種立體視頻幀率提升中運動矢量檢測與校正方法。首先,利用相鄰運動矢量方向相關性進行初步檢測,判斷被檢測運動矢量是否為錯誤運動矢量,若初步檢測結果不是錯誤運動矢量,則基于幅度相關性進行近一步檢測,判斷其是否為不可靠運動矢量;其次,完成對插入幀整個運動矢量場的檢測后,采用融合空間、顏色和深度信息的運動矢量校正方法對錯誤運動矢量和不可靠運動矢量進行校正處理。本發(fā)明的流程圖如圖2所示,具體實施方式如下:
(1)基于空間相關性的運動矢量檢測。
通常而言,在運動矢量場中可以通過被檢測運動矢量和其相鄰運動矢量之間空間相關性來測量被檢測運動矢量的可靠性,而運動矢量空間相關性反映在兩個方面:方向相關性和幅度相關性。因此,錯誤運動矢量與其相鄰的真實運動矢量在方向或者幅度上必然存在區(qū)別。如圖3(a)-圖3(c)所示,圖中v表示被檢測運動矢量,vi(其中i=1,…,8)表示被檢測運動矢量的8鄰域運動矢量。若被檢測運動矢量為錯誤運動矢量,則其可以分為兩類:第一類如圖3(a)所示,v的方向與其鄰域內所有或者大部分運動矢量的方向不同;第二類如圖3(b)和圖3(c)所示,v的幅度與其鄰域內所有或者大部分運動矢量的幅度差異較大?;诖耍景l(fā)明提出了一種基于空間相關性的兩步運動矢量檢測方法。
第一步:基于方向相關性的運動矢量檢測。如前所述,v表示被檢測運動矢量,vi(其中i=1,…,8)表示被檢測運動矢量的8鄰域運動矢量。則v與vi(其中i=1,…,8)之間的方向相似度可以用公式(1)表示:
其中‖·‖表示矢量的歐氏距離,即矢量的幅度。很明顯,γi反映了被檢測運動矢量v和其鄰域運動矢量vi(其中i=1,…,8)之間方向上的關系。假設γi(其中i=1,…,8)中正數(shù)和非正數(shù)的數(shù)量分別為np和nn,如果np<nn,則v被標記為錯誤運動矢量;如果np≥nn,則v需要經(jīng)過第二步基于幅度相關性的運動矢量檢測。
第二步:基于幅度相關性的運動矢量檢測。若被檢測運動矢量v經(jīng)過第一步檢測不是錯誤運動矢量,則需要通過幅度相關性來進行進一步判斷。首先,從v的鄰域運動矢量vi(其中i=1,…,8)中選取所有滿足γi>0(γi通過公式(1)計算得到)的運動矢量,組成集合V={‖v‖,‖vi‖|γi>0},若‖v‖是集合V中的最大值或者最小值,則標記v為不可靠運動矢量;如果‖v‖不是集合V中的最大值或者最小值,則標記v為真實運動矢量。需要注意的是此處定義的不可靠運動矢量可能為錯誤運動矢量,即步驟(1-1)漏檢的錯誤運動矢量,也可能為真實運動矢量。
經(jīng)過以上兩步運動矢量檢測方法可以將運動矢量場中的所有錯誤運動矢量和不可靠運動矢量標記出來,然后利用下面的方法進行校正處理。
(2)融合空間、顏色和深度信息的運動矢量校正。
通過上述步驟將運動矢量場中的運動矢量分為錯誤運動矢量、不可靠運動矢量和真實運動矢量三類,本發(fā)明對錯誤運動矢量和不可靠運動矢量進行校正。
將步驟(1)檢測得到的錯誤運動矢量表示為vk1,則vk1的8鄰域中所有真實運動矢量組成vk1的錯誤運動矢量校正候選集Ω1;
將步驟(1)得到的不可靠運動矢量表示為vk2,其不可靠運動矢量校正候選集為Ω2,則Ω2除了包含vk2的8鄰域中所有真實運動矢量外,還包含vk2本身。
對于錯誤運動矢量,利用空間、顏色和深度信息構建能量函數(shù),如公式(2),并利用能量函數(shù)最小化從錯誤運動矢量校正候選集中選取最優(yōu)候選運動矢量,如公式(3):
E(vj1)=Espatial1(vj1)+λcEcolor1(vj1)+λdEdepth1(vj1) (2)
其中vj1為錯誤運動矢量校正候選集Ω1中的一個候選運動矢量,為錯誤運動矢量校正后的運動矢量。公式(2)中,Espatial1表示錯誤運動矢量能量函數(shù)中的空間分量;Ecolor1表示錯誤運動矢量能量函數(shù)中的顏色分量;Edepth1表示錯誤運動矢量能量函數(shù)中的深度分量。λc1表示錯誤運動矢量顏色分量的加權系數(shù);λd1表示錯誤運動矢量深度分量的加權系數(shù)。實驗中我們取λc1=1,λd1=0.5。
Espatial1、Ecolor1和Edepth1分別用下面公式計算:
其中,公式(4)中vl1表示錯誤運動矢量校正候選集Ω1中除vj1以外的候選運動矢量,即R1=Ω1-vj1,K1表示R1中運動矢量的個數(shù);
公式(5)中表示當以vj1為當前圖像塊的運動矢量時,當前圖像塊在上一幀中對應的圖像塊;
表示當以vj1為當前圖像塊的運動矢量時,當前圖像塊在下一幀中對應的圖像塊,N1表示圖像塊中像素的個數(shù);p1表示當前圖像塊的位置,即當前圖像塊最左上角像素點的坐標;t1表示時間參數(shù);例如,表示時間為t1的視頻幀中最左上角像素坐標為p1的圖像塊。
公式(6)中表示對應的深度圖像塊;表示對應的深度圖像塊。
對于不可靠運動矢量,利用空間、顏色和深度信息構建能量函數(shù),如公式(7),并利用能量函數(shù)最小化從不可靠運動矢量校正候選集中選取最優(yōu)候選運動矢量,如公式(8):
E(vj2)=Espatial2(vj2)+λc2Ecolor2(vj2)+λd2Edepth2(vj2)(7)
其中vj2為不可靠運動矢量校正候選集Ω2中的一個候選運動矢量,為不可靠運動矢量校正后的運動矢量。公式(7)中,Espatial2表示不可靠運動矢量能量函數(shù)中的空間分量;Ecolor2表示不可靠運動矢量能量函數(shù)中的顏色分量;Edepth2表示不可靠運動矢量能量函數(shù)中的深度分量。λc2表示不可靠運動矢量顏色分量的加權系數(shù);λd2表示不可靠運動矢量深度分量的加權系數(shù)。實驗中我們取λc2=1,λd2=0.5。
Espatial2、Ecolor2和Edepth2分別用下面公式計算:
其中,公式(9)中vl2表示不可靠運動矢量校正候選集Ω2中除vj2以外的候選運動矢量,即R2=Ω2-vj2,K2表示R2中運動矢量的個數(shù);
公式(10)中表示當以vj2為當前圖像塊的運動矢量時,當前圖像塊在上一幀中對應的圖像塊;表示當以vj2為當前圖像塊的運動矢量時,當前圖像塊在下一幀中對應的圖像塊,N2表示圖像塊中像素的個數(shù);p2表示當前圖像塊的位置,即當前圖像塊最左上角像素點的坐標;t2表示時間參數(shù);例如,表示時間為t2的視頻幀中最左上角像素坐標為p2的圖像塊。
公式(11)中表示對應的深度圖像塊;表示對應的深度圖像塊。
通過上述步驟,我們用最優(yōu)候選運動矢量替換插入幀運動矢量場中所有錯誤運動矢量和不可靠運動矢量,得到插入幀的真實運動矢量場,然后利用真實運動矢量場進行幀率提升,提高了插入幀的視覺質量。
上述雖然結合附圖對本發(fā)明的具體實施方式進行了描述,但并非對本發(fā)明保護范圍的限制,所屬領域技術人員應該明白,在本發(fā)明的技術方案的基礎上,本領域技術人員不需要付出創(chuàng)造性勞動即可做出的各種修改或變形仍在本發(fā)明的保護范圍以內。