之后對象A與背景C之間的深度對比度是0.9-0.1=0.8。對象A與背景C之間的深度對比度因此由于重新映射而從0.6增大到0.8。
[0063]類似的量化適用于對象B與背景C之間的深度對比度以及對象B與對象A之間的深度對比度。人們可以從圖4推斷出這兩個深度對比度也由于重新映射而增大。
[0064]作為先前實施例的變形,(由確定功能執(zhí)行的)自動化過程確定用于重新映射對象A的局部重新映射功能,使得對象A與背景C之間的深度對比度以固定的因數(shù)增大,例如,增大0.15倍。重新映射之后的深度對比度則變成1.15x0.6=0.69。如以上提到的,背景C的新深度值是大約輸出深度范圍412的0.1。局部重新映射功能420則需要在圖4中垂直移位使得對象A的新深度值平均是大約輸出深度范圍412的0.1+0.69=0.79。
[0065]可選地,全局重新映射函數(shù)也由自動化過程來確定。例如,在與背景相對應(yīng)的深度像素具有不僅在輸入深度范圍411中而且還在深度范圍431(即,對象B的深度范圍)中的深度值的情況下,全局重新映射函數(shù)440可以適配成使得它具有比圖4中所指示的低的斜率,使得背景C的深度值被重新映射到輸出范圍412的下端,很好地在對象B的重新映射的深度值以下。如在先前段落中一樣,確定全局重新映射函數(shù)可以基于增大深度對比度,在這種情況下背景C與對象B之間的深度對比度。
[0066]注意,在當前發(fā)明的上下文中,“重新映射對象”是指“重新映射與對象相對應(yīng)的深度像素的深度值”。同樣,“重新映射深度像素”是指“重新映射深度像素的深度值”。
[0067]圖像處理設(shè)備100的應(yīng)用是深度圖的重新映射以便準備用于在3D顯示器上觀看的3D圖像。3D顯示器是例如多視圖自由立體顯示器。3D顯示器典型地具有有限的視差范圍。深度和視差在定性意義上類似。
[0068]視差被如下限定:大視差對應(yīng)于出現(xiàn)在觀看者附近的對象,并且小視差對應(yīng)于遠離觀看者出現(xiàn)的對象(零視差對應(yīng)于無限遠離)。因此,當在3D顯示器上示出時,出現(xiàn)在顯示器的平面前面的對象對應(yīng)于大視差值,并且出現(xiàn)在3D顯示器的平面后面的對象對應(yīng)于小視差值。3D顯示器的平面對應(yīng)于特定的視差值,其在下文中將被稱作“顯示器視差值”。
[0069]為了在3D顯示器上呈現(xiàn)3D圖像,深度圖需要被轉(zhuǎn)換成視差。轉(zhuǎn)換是基于深度與視差之間的一些限定。限定關(guān)系到零深度、最大和最小深度、以及觀看者相對于3D顯示器的平面的位置。通常的選擇是將零深度限定為對應(yīng)于3D顯示器的平面,使得正深度值對應(yīng)于3D顯示器的平面前面的位置,并且負深度值對應(yīng)于3D顯示器的平面后面的位置。通過挑選分別與最小和最大視差相對應(yīng)的最大和最小視差來進一步限定深度與視差之間的關(guān)系。對于觀看者相對于3D顯示器的平面的位置的通常限定是典型觀看者位置(例如,觀看者在起居室中并且正在他的具有55〃對角線的3D顯示器前面3到4米處觀看該3D顯示器。最終,然后基于由該段中的限定來限定的曲線將深度轉(zhuǎn)換成視差。
[0070]當要呈現(xiàn)3D圖像以用于在3D顯示器上觀看時,因此需要使用如在先前段落中描述的曲線將深度圖轉(zhuǎn)換成視差圖。這種深度至視差轉(zhuǎn)換可以根據(jù)三個場景與重新映射深度圖相結(jié)合:(1)重新映射深度圖,并然后將重新映射的深度圖轉(zhuǎn)換成視差圖,或者(2)將用于深度圖重新映射和用于深度至視差轉(zhuǎn)換的曲線集成到單個曲線中,或者(3)將深度圖轉(zhuǎn)換成視差圖,并隨后根據(jù)視差重新映射曲線來重新映射視差圖??梢酝ㄟ^對深度重新映射曲線自身應(yīng)用深度至視差轉(zhuǎn)換來導出視差重新映射曲線。
[0071]當3D顯示器具有有限的視差范圍時,對象可以在3D顯示器上顯示時在深度方向上出現(xiàn)“平坦化”。這發(fā)生在相對大的深度范圍被映射到相對小的深度范圍時。例如,在位置-深度空間中被限定為完美圓球的球則會在3D顯示器上顯現(xiàn)為在深度方向上被擠壓的球,從而變成橢球而不是球體。用于重新映射球的深度值的局部重新映射函數(shù)可以被限定為補償平坦化。例如,圖2a/2b中的對象A對應(yīng)于球,并且圖4的局部重新映射420曲線用于重新映射球的深度值:通過增大局部重新映射函數(shù)420的斜率來完成補償深度方向上的平坦化。
[0072]作為示例,對象B對應(yīng)于內(nèi)容圖像中的標志。出于易辨識的目的,重新映射對象B使得它在3D顯示器的平面中被觀看。為此,確定功能確定局部重新映射函數(shù)430使得對象B被重新映射到零(在這種情況下對應(yīng)于3D顯示器的平面)附近的深度值。后者實際上是圖4中的情況,如果輸出深度范圍412的中心對應(yīng)于零深度的話??商鎿Q地,對象B對應(yīng)于要在3D顯示器前面觀看的標志,在這種情況下確定局部重新映射函數(shù)430使得對象B被重新映射到輸出范圍412的上部。
[0073]可以以不同方式建立全局重新映射函數(shù)??蛇x地,處理單元199應(yīng)用預(yù)定的全局重新映射函數(shù)??蛇x地,全局重新映射函數(shù)包括在耦合到3D圖像的元數(shù)據(jù)中??蛇x地,全局重新映射函數(shù)和局部重新映射函數(shù)都包括在耦合到3D圖像的元數(shù)據(jù)中。
[0074]可選地,圖像處理設(shè)備100經(jīng)由網(wǎng)絡(luò)鏈接從圖像編碼設(shè)備接收3D圖像。圖像編碼設(shè)備向圖像處理設(shè)備100發(fā)送包括3D圖像的信號。可選地,信號還包括包含用于選擇例如3D圖像中的對象的選擇準則的元數(shù)據(jù)。元數(shù)據(jù)因此耦合到3D圖像。例如,元數(shù)據(jù)包括用于選擇對象A的3D定界框(S卩,在XYD空間中)??蛇x地,信號還包括用于重新映射與對象A相對應(yīng)的深度像素的局部重新映射函數(shù)420。注意,通過接收和使用來自圖像編碼設(shè)備的信號,圖像處理設(shè)備100有效地充當圖像解碼設(shè)備。
[0075]可選地,由圖像編碼設(shè)備發(fā)送的信號包括3D視頻序列,S卩,3D電影。3D視頻序列包括(3D)視頻幀,其中每個視頻幀包括3D圖像??蛇x地,信號以類似于先前段落中描述的方式針對每個3D圖像(因此每個視頻幀)包括耦合到3D圖像的元數(shù)據(jù)。
[0076]可選地,信號每N個視頻幀僅包括一次元數(shù)據(jù),其中例如N=I2 ο類似于以上,元數(shù)據(jù)可以包括用于選擇對象A的3D定界框。然而對象A—般不是靜止的,而是可以遍及3D視頻序列而移動的,即,對象A的位置變化。為了針對每個視頻幀選擇和重新映射對象A,針對每個視頻幀需要3D定界框。為了針對每個視頻幀獲得3D定界框,圖像處理設(shè)備100(的處理單元199)通過使用運動矢量來跟蹤對象A,其中運動矢量描述了對象A的、視頻幀的或者每N個視頻幀之間的移動。在已知N個視頻幀中的第一視頻幀處的3D定界框的位置的情況下,通過根據(jù)運動矢量移動定界框(的位置)來獲得用于接下來的幀的定界框??蛇x地,運動矢量還被包括在包括3D視頻序列的信號中??蛇x地,通過對視頻序列應(yīng)用運動估計器來獲得運動矢量。可選地,運動矢量指示XYD空間中的3D運動,因而指示在位置方面以及在深度維度中的3D運動。
[0077]作為使用運動矢量的可替換方案,處理單元199可以在兩個后續(xù)的定界框之間應(yīng)用α混合以在每個視頻幀處獲得定界框。這如下工作。處理單元199首先從信號中檢索來自3D視頻序列的兩個后續(xù)3D定界框:一個定界框?qū)?yīng)于視頻幀I并且第二個定界框?qū)?yīng)于視頻幀Ν+1。兩個3D定界框?qū)?yīng)于相同的對象,然而是在不同的視頻幀處。如果3D定界框的特定的角:
-在幀I處具有坐標Ri=(Xi,Yi ,D1)并且 -在幀Ν+1處具有坐標RN+1=(XN+1,YN+1,DN+1),則它 -在中間巾貞k處具有坐標Rk=aRi+( 1_ci)Rn+i,
其中a=(N+l_k)/N并且l<k<N+l。注意,坐標是在三維XYD空間中。相同的α混合需要被應(yīng)用于3D定界框的其他角以便獲得幀k處3D定界框的所有角的坐標。注意,3D定界框的坐標因此而被有效地內(nèi)插在幀之間。
[0078]類似地,處理單元199還可以使用α混合來獲得中間幀k處的全局重新映射函數(shù)。例如,如果全局重新映射函數(shù)
-在幀I處是Gi(D),并且
_在巾貞N+1處是Gn+i(D),則
_ 在巾貞k處它是Gk(D) =Gi(D) + ( 1-ci)Gn+i(D),
其中a和k如上,并且變量D表示深度。類似的過程顯然可以被應(yīng)用以內(nèi)插局部重新映射函數(shù)。
[0079]注意,先前實施例使用定界框來選擇對象。其他形狀或形狀的組合也可以用于選擇對象,如在本描述中以上提到的。
[0080]可選地,在包括3D視頻幀的信號的(以上)情況下,信號針對每個視頻幀(或針對每N個視頻幀)包括用于選擇相應(yīng)多個對象的多個定界框、相應(yīng)的多個局部重新映射函數(shù)以及全局重新映射函數(shù)。
[0081]可選地,圖像編碼設(shè)備應(yīng)用視頻壓縮技術(shù)來編碼3D視頻序列。例如,壓縮技術(shù)可以是基于!1.264、!1.265、10^6-2或10^6-4。所編碼的30視頻序列可以以所謂的60?結(jié)構(gòu)(畫面組)來配置。每個GOP結(jié)構(gòu)包括用于選擇前景對象的邊界以及分別用于重新映射前景對象和背景的局部和全局重新映射函數(shù)。圖像處理設(shè)備100(具體地其處理單元199)布置成接收并解碼所編碼的3D視頻序列并檢索3D圖像、邊界和局部/全局重新映射函數(shù)。
[0082]可選地,圖像編碼設(shè)備通過針對給定的三維圖像生成元數(shù)據(jù)來組成信號。例如,由圖像編碼設(shè)備通過(a)自動地確定前景對象以及(b)擬合