本發(fā)明涉及對一個(即靜止)但優(yōu)選地更多(即視頻)(多個)高動態(tài)范圍圖像的編碼、和用以將必要的編碼圖像信息傳達到接收側(cè)的對應(yīng)技術(shù)系統(tǒng)和方法、以及用以對編碼圖像進行解碼并最終使它們可用于顯示的解碼器。
HDR圖像是利用用于對場景中的各種捕獲對象的顏色紋理進行高質(zhì)量編碼的充足信息以可以在具有比如例如5000nit的高峰值明亮度(brightness)的HDR顯示器上進行HDR場景的視覺上良好質(zhì)量的呈現(xiàn)這樣的方式對HDR場景(其可以典型地包含非常亮的區(qū)和非常暗的區(qū)兩者)的紋理進行編碼的圖像。在過去幾年內(nèi)開發(fā)的我們的HDR編碼框架中,我們同時也想要將該場景上的各種包含的動態(tài)范圍子視圖(其可充當用于依次降低的動態(tài)范圍的各種顯示器的良好驅(qū)動圖像)編碼為適合于驅(qū)動例如100nit峰值明亮度顯示器的至少一個LDR圖像外觀。
此外,HDR編碼優(yōu)選地在技術(shù)上被設(shè)計使得其不僅與現(xiàn)有視頻編碼技術(shù)相對好地匹配,而且甚至可適應(yīng)現(xiàn)有技術(shù)的當前圖像或視頻編碼框架,比如例如藍光盤存儲(及其限制,比如存儲存儲器量,而且還有基本上所有其他標準化方面)或HDMI電纜連接或其他圖像傳輸或存儲系統(tǒng),等等。特別地,每個時刻使用兩個編碼圖像(例如,一個LDR圖像和一個具有用于將每個像素提升到HDR圖像像素的局部變亮強度的圖像)的HDR編碼系統(tǒng)尤其被裝置制造商視為不必要地復雜。
HDR視頻(或者甚至靜止圖像)編碼最近才被試驗性地研究并且至今一直是令人氣餒的任務(wù),而且典型的信念是需要朝向顯著更多的比特前進,以用于對場景對象的LDR范圍以上的明亮度進行編碼(例如,直接對場景光亮度(luminance)進行編碼的編碼),或者需要其中例如除了對象反射率圖像之外還存在光照提升圖像的某種兩層方案,或類似的分解策略??商鎿Q方案(比如例如Dolby的HDR編碼系統(tǒng))典型地總是使用這樣的兩層HDR編碼技術(shù)(參見US8248486B1)。WO2010/105036是來自Dolby的這樣的每時刻2圖像編碼系統(tǒng)的另一示例。一些簡單的固定色調(diào)映射TM(例如,模仿經(jīng)典的模擬賽璐珞攝影術(shù)的行為)可用來將LDR圖像映射到與其對應(yīng)的HDR分級,或者反之亦然。這可以是任何不是非常正確的映射函數(shù)(因為分級者可能在比方說其LDR分級中使用了復雜的優(yōu)化決策),所以在原始的比方說HDR圖像的預(yù)測與原始HDR圖像自身之間可能存在相當?shù)牟町?,但是那并不是問題,因為系統(tǒng)可以將差異作為第二校正圖像(殘差比特流742)發(fā)送。
這樣的兩圖像編碼系統(tǒng)的另一示例是彩色印片法(technicolor)HDR編碼系統(tǒng)(聯(lián)合合作小組的關(guān)于ITU-T SG 16 WP3的視頻編碼的第16次會議的文檔JCTVC-P0159r1,圣何塞,2014年1月9-17日),該編碼系統(tǒng)將作為局部光照的低分辨率信號編碼為第一圖像,因為其將典型地被生成在經(jīng)調(diào)制的2D LED背光中,并且第二圖像是在該低頻信號上的典型地較低動態(tài)范圍調(diào)制的紋理圖像,其將典型地在顯示時由適當?shù)腖CD閥驅(qū)動信號生成。
飛利浦最近發(fā)明了簡單得多的單圖像方案(大部分仍未公布,但是一些方面可在WO2012/147022和WO2012/153224中找到),其是圖像和視頻編碼的新方向,并且不僅先驗地不易想象,而且當實際做時其導致許多要解決的新的技術(shù)問題,然而其在實踐中工作得很好。
“高動態(tài)范圍”(HDR)是指從捕獲側(cè)捕獲的(多個)圖像與老式LDR編碼相比具有高光亮度對比度(即,10000:1或更多的對象光亮度對比度可由編碼和圖像處理鏈的直到呈現(xiàn)的所有組件處理;并且所捕獲的對象光亮度可以在1000nit以上,或者更具體地,給定重放環(huán)境的情況下,可以典型地在1000nit以上重放/呈現(xiàn)以生成比方說點亮的燈或陽光明媚的外部的某個期望的外貌)。而且典型地,這樣的(多個)圖像的呈現(xiàn)是HDR(即,圖像必須是合適的:它們包含足以用于高質(zhì)量HDR呈現(xiàn)且優(yōu)選地以技術(shù)上易于使用的方式的信息),意指(多個)圖像被呈現(xiàn)或意圖被呈現(xiàn)在具有至少1000nit的峰值明亮度的顯示器上(并不意味著它們不能和不必可替換地被呈現(xiàn)在例如100nit峰值明亮度的LDR顯示器上(典型地在合適的顏色映射之后))。
背景技術(shù):
最近提出了數(shù)個HDR編碼技術(shù),比如例如Dolby的雙層方法(WO2005/1040035)。然而,業(yè)界當前仍在尋找符合所有要求(的平衡)的實用HDR視頻(/圖像)編碼技術(shù),所述要求諸如非常重要的因素,比如數(shù)據(jù)量,而且還有計算復雜度(IC價格)、易于引入、用于藝術(shù)家創(chuàng)建其喜歡的無論什么東西的多功能性,等等。特別地,雙層方案被視為不必要地復雜。理想地,希望能夠設(shè)計符合老式編碼(諸如例如基于DCT的MPEG HEVC編碼)的編碼技術(shù)。問題在于這多少有點違反直覺:如何能夠以針對包含LDR圖像而優(yōu)化的技術(shù)對HDR圖像(其按照定義應(yīng)當是不同于LDR圖像的某種東西,典型地具有較大量的感興趣明亮度/光亮度范圍)進行編碼。這些老式LDR圖像處理/編碼系統(tǒng)被設(shè)計和優(yōu)化以與典型的LDR成像情景一起工作,所述典型的LDR成像情景通常以例如4:1工作室內(nèi)光照比(或例如10:1)被充分照明,給予視圖中的大多數(shù)對象(其在反射率方面可在比方說對于白色而言85%與對于黑色而言5%之間變化)大約68:1(或170:1)的總對比度。如果看著對象光亮度的從峰值白色開始的相對呈現(xiàn)(即,將圖像白色映射到可用的顯示器白色),則沒有局部調(diào)光的典型早期LCD監(jiān)視器將具有將與圖像對比度匹配的差不多100nit白色和1nit黑色,并且典型地認為可能也在白天期間被觀看的CRT系統(tǒng)平均將具有差不多40:1的能力。在具有標準老式光亮度代碼分配的情況下,在這些系統(tǒng)中2.2的伽馬函數(shù)似乎對于甚至更高場景對比度的大多數(shù)情景而言令人滿意。盡管產(chǎn)生了在當時被認為是可接受的一些誤差,但是被不適當?shù)鼐幋a的高光亮度場景區(qū)域(例如,窗戶后面的明亮外部的硬剪切)的呈現(xiàn)的這樣的誤差也是可接受的,因為不管怎樣LDR顯示器不能物理上精確地呈現(xiàn)那些對象光亮度。
然而,存在這樣的情景,對于其而言現(xiàn)在存在對呈現(xiàn)進行改進的期望,比如例如其中可同時看到陽光明媚的室外的室內(nèi)場景,在該情況下可能存在100:1或者甚至更大的光照比。在線性相對呈現(xiàn)(即,最先聚焦于最亮的編碼區(qū)域,或等同地最亮場景區(qū)域的中間灰色,并且將圖像白色映射到顯示器白色)的情況下,室內(nèi)白色將映射到對于觀看者而言心理視覺的黑色!所以在LDR中那些陽光明媚的區(qū)域?qū)⒌湫偷乇伙@示為(軟)剪切的(典型地在編碼圖像中難以區(qū)分用于那些像素的最大值255附近的代碼)。然而,在HDR顯示器上我們希望既明亮又色彩豐富地顯示它們。那將給出這樣的場景的自然且壯觀得多的呈現(xiàn)(就像你真的在意大利度假一樣),但是即使其中較高明亮度內(nèi)容僅由一些鏡面反射組成的場景也已顯示出大的視覺質(zhì)量改進。如果不是比如剪切或量化誤差的偽像在例如5000或10000nit顯示器上看起來令人惱火的話,我們至少想要能夠用正確種類的圖像驅(qū)動這樣的HDR顯示器,以使得所呈現(xiàn)的圖像將如HDR顯示器允許的那樣漂亮。
然而,經(jīng)典的想法是為了對附加的過明亮度范圍進行編碼,將需要具有更多(得多)的比特,它們是對LDR范圍以上的對象光亮度進行編碼的更高的比特。那可以通過在單個較大代碼字(諸如具有16比特的OpenEXR,其中一個符號比特、5比特指數(shù)和10比特尾數(shù),或者Ward的LogLuv編碼,其在數(shù)學上嚴格地設(shè)法以高精度捕獲整個世界的可能對象光亮度)中進行本地編碼或者通過使用具有標準LDR范圍代碼的第一層(例如,HDR圖像的經(jīng)典JPEG近似)和用以將這樣的像素光亮度改進到更高明亮度的第二層(例如,如果需要的話用以將每個像素提升到更高光亮度的提升圖像,即兩個這樣的8比特圖像的相乘等同于單個線性16比特代碼)而發(fā)生。
除了當然必須能夠處理龐大范圍的不同HDR圖像的事實之外,在設(shè)計實際HDR編碼技術(shù)時要解決的主要實際問題在于,然而硬件制造商期望每代碼字(通道,即亮度和兩個彩色通道)較低的比特量,并且盡管我們下面提出的技術(shù)也可以以較大的比特字工作,但是我們提出了這樣的解決方案,其在對于至少一個光亮度(或者更精確地亮度)通道10比特的限制之下工作得很好(注意盡管我們利用光亮度通道來闡述實施例,但是我們的概念加以必要的修改可以被體現(xiàn)為在(線性或非線性)RGB顏色表示等等上工作)。此外,我們開發(fā)了可以針對若干呈現(xiàn)情景(即,用于在具有不同峰值明亮度(例如PB=800nit)的若干顯示器上呈現(xiàn)場景所需的最優(yōu)外觀)以函數(shù)方式在雙理念中進行(經(jīng)由LDR圖像的HDR外觀的)顏色像素編碼和顏色外貌轉(zhuǎn)換兩者的框架,這意味著在對至少一個另外的分級的外觀、并且具體地除LDR外觀之外的HDR外觀進行編碼時,只有函數(shù)需要被共同編碼,而不是對于每個圖片共同編碼至少一個第二圖片。
我們當前具有兩種類別的HDR編碼系統(tǒng),因為給定各種玩家及其不同的需求,市場希望編碼系統(tǒng)的這種多功能性。在模式-i(或HDR外觀被編碼為例如在BD盤上的單獨的定義圖像或者在網(wǎng)絡(luò)連接上的AVC或HEVC圖像的流)系統(tǒng)中,我們將HDR外觀圖像用作單獨的像素圖像,其被用來對對象顏色紋理和形狀進行編碼(在申請人的WO2015007505中參見這樣的單獨HDR圖像如何可以被發(fā)送到接收機以定義至少HDR外觀的像素顏色,以及接收機如何能夠利用適當?shù)闹匦路旨壓瘮?shù)通過處理該圖像中的顏色來計算其他外觀圖像)。這是指我們?nèi)〉迷嫉腍DR主分級圖像,即被最優(yōu)地顏色分級以在比如例如典型地5000nit峰值明亮度顯示器的參考HDR顯示器上看起來最佳的圖像,并且僅僅最小程度地變換它:基本上僅僅應(yīng)用代碼分配函數(shù)或者通過最優(yōu)地使用光電傳遞函數(shù)OETF將針對亮度Y'通道可用的例如10比特代碼分配至需要能夠在參考[0-5000]nit顯示器上實現(xiàn)的所有明亮度值上而應(yīng)用該OETF(注意,盡管該OETF定義了例如由相機捕獲的場景光亮度如何被轉(zhuǎn)換成亮度代碼,但是電視工程師替代地喜歡指定作為電光傳遞函數(shù)EOTF的逆函數(shù)以從亮度代碼轉(zhuǎn)到參考顯示器呈現(xiàn)的光亮度)。用于不同峰值明亮度的顯示器的其他期望的分級然后可以通過變換該HDR外觀圖像而實現(xiàn)。在我們的框架中,我們通過典型地制作僅僅一個位于要被服務(wù)的可能顯示器的范圍的另一極端的第二分級、即根據(jù)用于100nit峰值明亮度顯示器(其典型地為用于該類別LDR顯示器的參考顯示器)的內(nèi)容創(chuàng)作者/顏色分級者是最優(yōu)或合理的外觀,而允許該顯示器外觀可調(diào)節(jié)性。注意,這是另一外觀的共同編碼而不是單純的創(chuàng)作側(cè)重新著色步驟。所要求的該顏色變換通過應(yīng)用映射函數(shù)(諸如實現(xiàn)全局明亮度重新調(diào)整(例如使圖像中較暗的顏色變亮)的伽馬函數(shù)、用以調(diào)整局部對比度的任意S形或反S形曲線、用以將例如飽和度調(diào)整到圖像中一些對象或區(qū)域的對應(yīng)明亮度的顏色飽和度處理函數(shù),等等)而被確定。我們可以自由地將那些函數(shù)(無論哪些我們需要的函數(shù),只要它們屬于接收機可以以標準化方式理解的有限的一組基礎(chǔ)函數(shù))共同編碼為與像素化HDR外觀圖像相關(guān)聯(lián)的元數(shù)據(jù),在該情況下我們根據(jù)HDR外觀圖像在參數(shù)上定義第二LDR外觀分級圖像(即我們不再需要將該LDR外觀圖像編碼為像素圖像)。應(yīng)仔細注意與兩層編碼系統(tǒng)的差異:在我們的系統(tǒng)中,顏色變換函數(shù)全部在那里關(guān)于第二外觀被編碼為能夠在接收機處對第二外觀重新分級,所以我們的函數(shù)不是2圖像技術(shù)的粗略近似函數(shù),而是包含關(guān)于各種對象的光照應(yīng)當如何根據(jù)內(nèi)容創(chuàng)作者在各種呈現(xiàn)外觀中表現(xiàn)的完整智能知識!給定這種關(guān)于創(chuàng)作藝術(shù)家如何想要外觀從用于具有第一水平的顏色呈現(xiàn)能力的顯示器的第一外觀變換到用于具有第二水平的顏色呈現(xiàn)能力(特別是顯示器峰值明亮度)的第二外觀的知識,具有中間能力(例如1200nit峰值明亮度)的顯示器然后可以通過在兩個分級中使用該知識和通過內(nèi)插而自動地實現(xiàn)更優(yōu)化的驅(qū)動圖像(例如,顯示器可以根據(jù)HDR外觀圖像和函數(shù)變換進行HDR外觀的兩個像素化圖像與導出的LDR外觀圖像的非對稱混合,其中相乘性的混合百分比由實際顯示器在心理視覺非線性尺度上有多接近HDR或LDR顯示器來確定),這比起利用原始HDR外觀圖像或LDR外觀圖像來驅(qū)動顯示器而言將更好。
這是不僅場景(例如5000nit呈現(xiàn))上的單個(HDR)圖像外觀,而且是針對在比如在消費者的家中的場地中的各種可能的顯示器用于導出場景的合理呈現(xiàn)的完整框架(并且甚至潛在地對觀看環(huán)境的適配,例如通過應(yīng)用后伽馬(post-gamma)對各種環(huán)境照度下人類視覺的改變的對比度靈敏度進行建模)的強大而簡單的定義。它非常地有用,例如用于其中創(chuàng)作者制作了其內(nèi)容的很好的HDR版本并且想要使實際編碼中的該HDR外觀最先發(fā)送到接收機(例如,在HDR BD盤上,或者通過在因特網(wǎng)上在線定購HDR電影或HDR電視廣播,等等)的應(yīng)用/情景。不必要的是購買該內(nèi)容版本的消費者實際擁有HDR顯示器,因為他可以在他確實擁有HDR顯示器時稍后再購買它并且現(xiàn)在可以使用HDR-2-LDR轉(zhuǎn)換,但是當消費者想要用于其HDR顯示器的內(nèi)容時它將是優(yōu)選的選項。
鑒于以上對HDR場景進行編碼的HDR外觀方式(如所解釋的,模式i即至少HDR外觀圖像被編碼為像素圖像,但是事實上還有該同一場景上的另外的外觀被編碼,只不過那時是以參數(shù)方式利用顏色變換函數(shù),諸如例如剪切實施例,其中LDR外觀隔離HDR圖像的子范圍并且剪切剩下的范圍)已經(jīng)對實現(xiàn)用于未來圖像編碼但大多數(shù)情況下還有視頻編碼的實用的新技術(shù)系統(tǒng)造成了明顯的技術(shù)挑戰(zhàn)(考慮到諸如對于硬件制造商而言IC設(shè)計的簡單性之類的因素,還允許內(nèi)容制作者創(chuàng)建它們想要制作的、具有諸如看起來真的點亮的燈之類的許多有創(chuàng)意的HDR效果的無論什么漂亮HDR內(nèi)容,比如科幻電影、壯觀的電視秀或自然記錄片等),市場期望再另一層復雜度,我們將在本專利描述中教導這一點。
即,對于一些應(yīng)用(我們稱其為模式-ii)而言,可能想要具有LDR外觀圖像作為對場景對象進行編碼的單獨像素化圖像,其例如作為單獨圖像被寫在藍光盤上。盡管內(nèi)容創(chuàng)作者也非常關(guān)心HDR外觀的質(zhì)量,但是他非常關(guān)注LDR外觀與在老式技術(shù)的情況下它的樣子類似。于是將典型地存在被共同編碼在可關(guān)聯(lián)元數(shù)據(jù)中的函數(shù)參數(shù)以便通過對在圖像信號S_im中傳送的LDR外觀圖像進行升級來導出HDR外觀圖像??赡艽嬖谶x擇該模式-ii變體(或LDR外觀)的各種理由,其可以例如為針對不能進行任何處理的老式系統(tǒng)(例如,如果偏好在將顏色編碼為Y'uv顏色而非YCrCb編碼的特定實施例中對單獨圖像進行編碼,則可以通過假裝Y'uv圖像為被異常著色的YCrCb圖像且進一步使用老式的基于DCT的編碼方案(比如在MPEG編解碼族的成員之一中標準化的)而仍然在老式HEVC框架中對它進行編碼),而且還有針對需要LDR外觀(例如,在低明亮度便攜式顯示器上觀看電影)且可能不想進行太多處理的應(yīng)用?;蛘呖赡軇?chuàng)作者不想在創(chuàng)建完美的HDR外觀方面耗費太多時間(而是例如通過進行LDR-2-HDR自動轉(zhuǎn)換的較少的精細調(diào)節(jié)而快速地制作一個HDR外觀,所述LDR-2-HDR自動轉(zhuǎn)換例如隔離亮區(qū)域并非線性地提升它們,例如用于老的勞萊與哈代電影重新灌錄),并且認為他的LDR外觀是LDR和HDR外觀的最重要主分級,其應(yīng)當直接進行編碼而無需具有潛在顏色誤差的任何顏色變換。例如,電視廣播商可以選擇該選項,尤其是對于真實生活廣播(例如,新聞可能不需要處于最壯觀的HDR)。
然而,該LDR外觀(模式ii)編碼具有由于一方面是問題的數(shù)學本質(zhì)和編碼數(shù)學運算對比另一方面是自由藝術(shù)分級期望而引起的附加復雜度,這使得提出良好的技術(shù)框架是令人氣餒的任務(wù)。更精確地說,一方面我們需要首先從期望的主HDR圖像分級下來的函數(shù),并且在接收機處利用這些接收的函數(shù)(或?qū)嶋H上降級的逆函數(shù))接收機可以再次升級到原始HDR圖像的至少接近的近似,即在元數(shù)據(jù)函數(shù)參數(shù)數(shù)據(jù)中,將存在用于可以將單獨的LDR圖像映射到足夠接近的HDR預(yù)測Rec_HDR的函數(shù)(由編碼器從分級者在從主HDR進行降級時所使用的函數(shù)導出)的參數(shù)。但是另一方面,LDR圖像在直接在+-100nit顯示器上呈現(xiàn)(即沒有進一步顏色變換)時應(yīng)當對于顏色分級者也看起來足夠好。所以在函數(shù)選擇與它們將如何影響LDR和Rec_HDR外觀之間將存在平衡,并且那也將其他問題考慮在內(nèi),比如IC或裝置制造商希望看到有限的一組對于外觀的重新分級而言有用的標準函數(shù),并且內(nèi)容創(chuàng)作者希望那些函數(shù)快速指定他們所期望的無論什么外觀,因為分級時間是寶貴的并且電影發(fā)行時間可能是關(guān)鍵的。在下面的描述中,我們將描述用于處理HDR場景編碼的該模式ii變體的實際系統(tǒng)。
技術(shù)實現(xiàn)要素:
我們需要具有HDR圖像的改進編碼,并且特別地,我們從這樣的理念開始:尤其是在業(yè)內(nèi)仍然存在許多老式LDR系統(tǒng)的當前時刻,需要一些水平的兼容性。這意味著一方面我們希望繼續(xù)使用實現(xiàn)比如(I)DCT[=與圖像通信技術(shù)的第一水平兼容性]的功能的現(xiàn)有編(解)碼器IC。但是此外,需要有與顯示器的第二水平兼容性,所述顯示器由于其低的峰值明亮度而需要LDR圖像(即LDR外觀,不是在圖像的較暗部分具有例如太暗顏色的HDR外觀,而是針對在LDR顯示器上更好的可見度而具有已經(jīng)被變亮起來的較暗顏色),因為它們僅能呈現(xiàn)LDR圖像(即,在這樣的顯示器動態(tài)范圍能力下正確的LDR外觀)。這是因為除目前部署的老式TV之外,在進一步的將來將存在一系列顯示器,從低明亮度能力小型便攜式顯示器(比如膝上型或平板計算機或者甚至消費者也期望在其上看到HDR電影的某種呈現(xiàn)的移動電話)直到最先進的HDR顯示器(其在將來可以具有例如10000nit的峰值明亮度)不等,以及介于或大約那些顯示器的所有顯示器。于是,盡管顯示器可能仍然是老式和簡單的,但是其可以由例如經(jīng)由例如HDMI或其他連接供應(yīng)HDR內(nèi)容的未來機頂盒或計算機中的高復雜度新型解碼和顏色映射IC來服務(wù),該機頂盒供應(yīng)我們發(fā)明和描述的選項的任何組合。注意,老式LDR圖像將需要在對象內(nèi)和對象間對比度之間進行某種優(yōu)化。我們希望清楚地看到對象的內(nèi)部紋理,但仍然還想要在LDR圖像中具有原始場景的也許巨大的HDR對比強烈的外觀的印象。即,高低明亮度區(qū)域之間的差異用LDR圖像可能不能完美地呈現(xiàn),但是仍然應(yīng)當存在這一點的殘余,使得場景的光照變化在LDR中可被人類分級者盡可能最優(yōu)地傳達。
我們將這些要求轉(zhuǎn)換成了其中在理想情景中將需要用于來自內(nèi)容提供商的相同電影或圖片的(至少)兩個分級的方案,我們將簡單地稱其為LDR圖像(將用于LDR顯示器情景,例如利用具有峰值明亮度100nit附近的顯示器)和HDR圖像(用于更亮的顯示器,例如5000nit峰值明亮度的參考顯示器)。
所以對于若干實際示例情景,作為新穎HDR編碼實施例的開始點,我們具有主HDR分級圖像(比方說它是根據(jù)無論創(chuàng)作者的品味如何利用無論什么顏色處理軟件而被任意分級的,并且例如被編碼在比如OpenEXR的開始顏色編碼中,并且它可以甚至是例如通過增加計算機圖形效果而到被最初作為LDR捕獲的圖像的HDR外觀的升級)作為輸入。然后,我們需要以實際可用于當前視頻或圖像編碼技術(shù)(即,從使用這樣的編碼技術(shù)的正常方式而僅被較少地修改,這可能涉及對編碼含義(即,由各種亮度代碼編碼的各光亮度)的重新定義,但并不是例如所有的總線需要改變到12比特,即我們的方法應(yīng)當用12比特硬件工作,但是如果每部件只有10比特可用,或者如果接受甚至在8比特系統(tǒng)上的某種較低質(zhì)量的話,同樣也工作)的方式對該主HDR(M_HDR)進行編碼,以用于例如新的BD盤播放器、或接收因特網(wǎng)流式視頻的電視IC、或連接到大體上遵從當前圖像/視頻編碼技術(shù)的變體的無論什么圖像源的任何接收機。
我們實現(xiàn)了重要的理解:HDR圖像可以被編碼為LDR外觀圖像(即,具有很少或沒有比色處理(可能是到另一顏色空間的轉(zhuǎn)換,但不是用以將圖像對象的明亮度轉(zhuǎn)換為更適合于具有另一光亮度動態(tài)范圍的顯示器的任何或數(shù)個色調(diào)映射)的圖像可以直接用于在LDR顯示器上的良好質(zhì)量顯示),只要增加可以將該LDR外觀轉(zhuǎn)換成HDR外觀圖像(我們的模式ii)的顏色映射函數(shù)的參數(shù)即可。讀者應(yīng)當思考,這做起來并不是小事一樁,即使在理論上,當然也不是先驗地,而是甚至在設(shè)定了技術(shù)任務(wù)之后(因為在沒有正確的進一步發(fā)展的情況下經(jīng)由本應(yīng)不同的另一外觀來對一個外觀進行編碼將似乎有點自相矛盾)。特別地,由于我們許多實施例從現(xiàn)有的M_HDR開始,所以函數(shù)可以將編碼的LDR外觀像素化圖像映射成M_HDR的接近重建Rec_HDR。但是當然這通常并不能僅以任何特定的ad hoc方式完成,即需要特定的技術(shù)編碼鏈。
我們的發(fā)明可以例如以至少以下方式來實現(xiàn):一種對高動態(tài)范圍圖像(M_HDR)進行編碼的方法,包括步驟:
– 通過應(yīng)用:a)高動態(tài)范圍圖像到作為[0,1]的亮度軸的尺度的歸一化,產(chǎn)生具有擁有歸一化光亮度(Yn_HDR)的歸一化顏色的歸一化高動態(tài)范圍圖像,b)對歸一化光亮度計算伽馬函數(shù),產(chǎn)生經(jīng)伽馬轉(zhuǎn)換的光亮度(xg),c)應(yīng)用第一色調(diào)映射,該第一色調(diào)映射將歸一化高動態(tài)范圍圖像的像素的、位于0.1以下的那些經(jīng)伽馬轉(zhuǎn)換的光亮度提升一位于1.5與5.0之間的預(yù)定量,從而產(chǎn)生亮度(v),以及d)應(yīng)用任意單調(diào)遞增色調(diào)映射函數(shù),該映射函數(shù)將由執(zhí)行步驟b和c產(chǎn)生的亮度映射到較低動態(tài)范圍圖像(LDR_o)的輸出亮度(Yn_LDR),來將高動態(tài)范圍圖像轉(zhuǎn)換為較低光亮度動態(tài)范圍的圖像(LDR_o);以及
– 在圖像信號(S_im)中輸出較低光亮度動態(tài)范圍圖像(LDR_o)的像素顏色的編碼,以及
– 在圖像信號(S_im)中輸出將以上顏色轉(zhuǎn)換b到d的函數(shù)形狀編碼為元數(shù)據(jù)的值,或者用于其逆函數(shù)的值,所述元數(shù)據(jù)允許接收機從較低光亮度動態(tài)范圍圖像(LDR_o)重建重建的高動態(tài)范圍圖像(Rec_HDR)。
亮度轉(zhuǎn)換函數(shù)的該特殊組合已經(jīng)被證明是以模式ii思維模式(mindset)處理編碼HDR圖像的非常好的方式,即特別是以將HDR圖像編碼為由這些轉(zhuǎn)換函數(shù)從主HDR導出的LDR外觀圖像的雙重方式,所述LDR圖像服務(wù)于對HDR外觀進行忠實地編碼以及作為非常合用的LDR外觀圖像的雙重目的。
注意,可以使用像素顏色的任何編碼,即在某個顏色空間編碼系統(tǒng)中表示像素的顏色,并且一些編碼將比其他編碼更實用。例如,LDR_o可以被輸出為(R',G',B')圖像[其中短劃線指示線性RGB分量的某種非線性映射]。我們用這樣的示例進行闡述,該示例能夠?qū)DR圖像進行編碼以便以Yu'v'方式傳送到接收機,并且然后也可以在具有比如例如u'v'的xy色度坐標的Yxy表示中執(zhí)行比如色調(diào)映射的處理,但是下面相同的發(fā)明原理也可以體現(xiàn)在其他顏色表示中,例如線性RGB表示(即,然后直接用RGB分量,而不是Y分量來進行計算),等等。而且,技術(shù)人員將理解,可以使用若干方式中的哪個來對表征函數(shù)映射(其可以是例如由其分段變化點定義的多線性函數(shù))的參數(shù)進行共同編碼,其將典型地被共同編碼為圖像信號S_im中的或者與圖像信號S_im可關(guān)聯(lián)的元數(shù)據(jù)(例如SEI消息結(jié)構(gòu)或類似的),這意味著在接收機需要所述參數(shù)來使得編碼的像素顏色數(shù)據(jù)有意義以用于將它們變換成例如線性RGB輸出圖像以供在連接的顯示器上呈現(xiàn)的時刻,其必須借助于某種數(shù)據(jù)通信技術(shù)(例如,經(jīng)由某種通信鏈路可連接的存儲器位置)獲得了那些外觀定義參數(shù)。
使圖像中至少最暗的對象顏色(在最暗像素顏色的子范圍中,在實踐中可以將其定義為歸一化線性圖像的10%最低光亮度,其可以為例如Y通道,或者對應(yīng)的最低線性RGB值)變亮的“靈敏度”映射與伽馬/冪函數(shù)的該特定組合工作良好以便處理HDR圖像的比色特性,并且特別是其與LDR呈現(xiàn)的典型的不匹配。當然可以設(shè)想許多LDR呈現(xiàn),例如通過剪切而僅忽略被認為太亮或太暗的所有顏色的瑣碎的LDR呈現(xiàn),但是那并不一定是最好的LDR外觀,而且當然不可用于良好質(zhì)量的HDR外觀重建。
由于HDR圖像(直接地在模式i中)和LDR圖像(特別地實際上對HDR圖像進行編碼的LDR圖像)兩者實際上都可以被編碼在類似的例如3x10比特HEVC容器中,人們可能會問那么HDR和LDR圖像之間的區(qū)別是什么。該區(qū)別是比色區(qū)別,其在牽涉顯示器、觀看環(huán)境和觀看者時非常重要。數(shù)學上可以從歸一化圖像(即,歸一化LDR或HDR圖像)、并且特別是直方圖中的典型像素值來測量它。如果它是規(guī)則的LDR圖像,則典型地在最暗和最亮像素顏色之間將不存在這樣的高對比度。當然,同樣在LDR圖像中可以存在白色的值以及黑色(零)的值,但是這些值將對應(yīng)于實際要呈現(xiàn)的不同光亮度,因為存在定義它們的不同代碼分配函數(shù)。我們新穎的接收機/解碼器將認識到該情形并在每種情況下應(yīng)用適當?shù)慕獯a。當我們說LDR圖像應(yīng)當在老式顯示器上可直接使用時,我們是指向接收機供應(yīng)解碼圖像的接收機將利用老式代碼分配函數(shù)、即典型地Rec. 709的伽馬2.2來理解/解碼亮度值。現(xiàn)在主_HDR(模式i)圖像可以由完全不同的代碼分配函數(shù)來編碼,這意味著比方說0.05的黑色亮度對應(yīng)于比起對于LDR圖像而言暗得多的黑色,并且0.96對應(yīng)于亮得多的顏色。除此之外,模式ii引入了另一新的概念:亮度代碼現(xiàn)在可以通過再另一代碼分配而與HDR要呈現(xiàn)的亮度有關(guān),并且可以取決于分級者的選擇(特別是定制曲線)而甚至是可變的!特別地,模式i圖像將典型地沒有如老式LDR編碼中那樣的相對均勻(照明充分)的直方圖,但是典型地具有雙模態(tài)直方圖,其中存在數(shù)個較暗的對象和數(shù)個亮得多的像素(例如外部像素,其在線性光亮度表示中將為100倍亮,但是當使用特定的代碼分配函數(shù)、即在最終使用的亮度表示中可以為例如3倍亮)。在一些HDR圖像中,較亮的像素在數(shù)目上也可以很少,例如夜晚場景中的幾盞燈。在模式ii圖像中,該關(guān)系將再次地不同。在亮區(qū)域與暗區(qū)域(假定此處簡單的闡述中,HDR圖像是如此形成的)之間將仍然存在某種很大的差異,不僅因為到那時相對簡單的函數(shù)可以映射到Rec_HDR,而且因為即使是LDR直接呈現(xiàn),也可能期望保留稍許對比度外觀。但是在另一方面,兩個光亮度范圍可能由于LDR色域的限制而在一定程度上朝向彼此縮小或者縮小到彼此之中了。但是所有這些當中重要的是仍然可以看出圖像是否為LDR或HDR場景的某種識別標志(signature)。不僅數(shù)學圖像分析算法可以分析編碼在圖像中的動態(tài)范圍外觀(例如,針對其中外觀的最終質(zhì)量比起例如制作成本來說不那么重要的實時電視制作),圖像分析單元177可以用于分析,而且一般地我們的編碼技術(shù)以其最高質(zhì)量格式在人類顏色分級者處于創(chuàng)作端的情況下將被使用,該人類顏色分級者可以在典型地HDR和LDR顯示器上看到系統(tǒng)如何表現(xiàn)(即,LDR和HDR外觀實際上看起來像什么),轉(zhuǎn)動他的分級鍵盤的轉(zhuǎn)盤,并且最終對LDR圖像和他樂意的HDR重建函數(shù)進行編碼。注意,典型地接收機不需要對情形做完整分析。它們本身不需要關(guān)心它們接收的歸一化圖像是HDR圖像還是LDR圖像,以及是哪一種LDR圖像變體。它們只需“盲目地”應(yīng)用它們接收到的函數(shù)。典型地它們需要知道的唯一一件事是這些函數(shù)定義什么和/或該單獨的圖像定義什么。所以典型地信號將包含關(guān)于它是什么類型的信號的指示符(IND)。當然可以傳送關(guān)于該信號的許多事情,例如對于想要進行其自己的進一步的智能圖像改進的電視而言,但是典型地接收機最少需要知道的是該HDR編碼信號S_im是包含可直接用于LDR呈現(xiàn)的圖像的類型(不管其外觀是否可以被接收機精細調(diào)節(jié)成更好的LDR圖像,所述接收機可以利用[以Ff1、Ff2等等進行參數(shù)化的]另外的色調(diào)映射函數(shù)來對接收的LDR圖像LDR_t進行色調(diào)映射)。利用該信息,接收機知道,如果所連接的LDR顯示器要被供應(yīng)適當?shù)膱D像,則LDR外觀圖像可以被直接發(fā)送給它,并且如果它是HDR顯示器,則首先將應(yīng)用顏色變換以便獲得正確的HDR圖像以供呈現(xiàn)。技術(shù)熟練的讀者將理解,這可以以若干方式來指示,例如利用比如“DIRECTLDR”的關(guān)鍵字或者利用一組數(shù)字“100/5000”,其指示該單獨圖像是意圖用于100nit顯示器(實際的或參考顯示器)的圖像并且是從5000nit HDR圖像導出的且可映射到該5000nit HDR圖像(并不意味著沒有用于其他峰值明亮度的顯示器的其他圖像可以利用定義顏色變換函數(shù)的參數(shù)中的信息從LDR圖像導出),等等。
如果我們現(xiàn)在更詳細一點查看HDR圖像可以典型地是什么(在被歸一化時并且要被分級成最優(yōu)模式ii LDR圖像),就應(yīng)當理解各種場景在具有例如5000或10000nit的峰值明亮度的HDR參考顯示器定義的環(huán)境中將典型地如何被主分級。
再次以具有明亮的陽光明媚的室外的室內(nèi)場景為闡述示例,可能想要將M_HDR中的室外顏色分級成近似HDR中間灰色,如大約5000nit的20%,即+-1000nit。室內(nèi)顏色不應(yīng)當以實際的典型室內(nèi)光亮度來呈現(xiàn),因為我們正在另一環(huán)境中觀看電影,例如典型的電視觀看的昏暗環(huán)境。所以室內(nèi)顏色肯定不應(yīng)當在陽光明媚的室外像素光亮度的1/100下呈現(xiàn),因為那些顏色也不被精確地呈現(xiàn),而只是在任意接收側(cè)處參考主分級在參考顯示器上的模樣的精確拷貝。我們需要考慮對于適配的普通觀看者而言的外貌,特別是在HDR外觀中室內(nèi)不應(yīng)當看起來不切實際地暗。我們可以將那些顏色分級到處于“陽光明媚的外部”圖像區(qū)域顏色的平均光亮度的例如1/10,如+-100nit附近。然而,現(xiàn)在天真地(naively)將那些亮度映射到100nit LDR參考顯示器上(利用比方說至少概念上接近線性拉伸的顏色映射),LDR中陽光明媚的外部顏色將看起來完美,在大約20nit附近并且朝上到白色,但是內(nèi)部顏色將在2nit附近被呈現(xiàn),這將被視為心理視覺的黑色。這就是為什么需要進行“某種”優(yōu)化,其取決于特定HDR場景的復雜度而可能非常復雜,這是為什么對于我們的編碼框架的方面在內(nèi)容創(chuàng)作側(cè)優(yōu)選地包括人類顏色分級者。為了使那些室內(nèi)顏色也合理地可觀看,我們可以使它們比起中間灰色來稍許更暗(18%),而在優(yōu)化方面不做太多。所以我們可能想要利用典型地在5和7之間(當然取決于什么在暗或亮子區(qū)域中,對于其中應(yīng)當幾乎看不見墻上的工具的地下室而言,優(yōu)化可以不同并且可以剪切照亮它的燈的光)的因數(shù)來提升那些較暗顏色,使得較亮的顏色保持在那以上。圖5示出了我們的HDR/LDR編碼鏈的兩個示例情景。曲線501和502僅示出了典型的第一(“靈敏度”)色調(diào)映射曲線,即在伽馬之前。它們由定義,對于輸入xg而言可能的歸一化值在零和1.0之間,并且在主HDR對于曲線501而言用1000nit的參考顯示器峰值明亮度定義(意味著無論什么內(nèi)容在捕獲的場景中,M_HDR中的對象光亮度被定義在零和最大1000nit之間,1000nit是例如焊接火花或太陽可以被分級到的值)并且對于曲線502而言是5000nit的參考顯示器峰值明亮度的情況下具有最優(yōu)的RHO值。如技術(shù)熟練的讀者將理解的,最優(yōu)RHO值可以以許多方式來確定。例如,分級者可以選擇它,以在給定具體M_HDR圖像的情況下適合于他認為是良好的LDR外觀?;蛘撸趧?chuàng)作側(cè)處的裝置可以例如根據(jù)以下等式自動地計算它:
。
在該等式中,PBHDR為與M_HDR分級相關(guān)聯(lián)的參考顯示器的峰值明亮度(即,其定義可能的值的范圍,并且典型地對應(yīng)于分級者在其上研究和創(chuàng)建其主HDR外觀的真實顯示器的PB),例如如圖5中的1000或5000nit,并且GAM為伽馬值,其可以典型地為例如2.4。當然,裝置(或分級者)可以借助于任何其他算法或啟發(fā)法偏離這些值,例如在需要稍許更亮或較不鮮明的外觀的情況下,等等。
現(xiàn)在可以在圖5中看到如果確定用于第一/靈敏度色調(diào)映射部分的提升因數(shù)(與對角線相比,歸一化HDR亮度在x軸上,并且歸一化LDR亮度在y軸上)僅僅為+-1.5和4.0之間的值,則在應(yīng)用具有2.4的伽馬的伽馬映射之后還得到對于最暗的10%顏色而言6-7附近的提升因數(shù)(曲線503或504是對數(shù)和伽馬的組合映射),這粗略地是所需要的(分級者稍后可以利用其任意色調(diào)映射曲線按照期望進行精細調(diào)節(jié),但是這對于例如僅僅在需要或期望精細調(diào)節(jié)的情況下最少地涉及分級者的自動轉(zhuǎn)換裝置而言是良好的策略)。一般地希望對于組合對數(shù)/伽馬色調(diào)映射操作(即單元602和603)而言通常具有+-4-8的提升,這將意味著介于1.5和5.0之間的提升值將僅僅對于基于RHO的靈敏度部分(單元603)而言是適當?shù)?。對于針對較暗顏色具有這樣的行為的單元603而言任何色調(diào)映射函數(shù)將滿足我們對于我們的發(fā)明所需,但是以上基于對數(shù)的等式是實現(xiàn)這一點的簡單的實用方式。用于以上的較淺顏色的行為將典型地為溫和的壓縮,即具有典型地對在由提升的較暗顏色所占據(jù)的范圍以上的較淺光亮度進行非線性映射的函數(shù)形狀?,F(xiàn)在可以擁有非常復雜的HDR圖像,其可能期望其他值,但是這樣的極端情形可以由分級者(或自動分級算法)通過適當?shù)娜我馇€定義來處理。注意,在解碼側(cè),處理鏈需要實質(zhì)上不可逆,以便能夠從(多個)單獨的所傳送的LDR圖像計算Rec_HDR。實質(zhì)上不可逆意味著我們不一定必須在Rec_HDR中精確地獲得與原始M_HDR中相同的顏色分量值,但是顏色差異應(yīng)當在容差限度以內(nèi)。因此接收機最終應(yīng)當能夠獲得所需的顏色變換函數(shù)以用于升級到HDR外觀Rec_HDR,不管他是通過對在從M_HDR得出LDR_o(或LDR_i)時最初在接收機側(cè)使用的降級函數(shù)進行求逆并且接收那些函數(shù)的形狀信息,還是通過直接接收進行到Rec_HDR的升級所需的逆函數(shù)來計算它們。這將尤其典型地意味著對于分級者可以定義用來按其嚴格的偏好對LDR外觀進行精細調(diào)節(jié)的任意色調(diào)映射函數(shù)而言,他將需要定義與歸一化LDR和HDR亮度有關(guān)的單調(diào)遞增函數(shù),如技術(shù)人員將理解的。
基本的模式ii技術(shù)鏈可以以簡單的方式工作。例如,對于一些不太關(guān)鍵的場景,分級者可以利用作為恒等式(indentity)變換的默認值來填充任意函數(shù)。還應(yīng)注意,盡管我們描述了鏈中必要的基本技術(shù)組件,但是在實際實現(xiàn)中這些塊中的一個或多個可以被分組到執(zhí)行功能的實際單元中。例如,在一些應(yīng)用中,可能合期望的是一起發(fā)送所有顏色映射函數(shù)的總LUT,而在其他應(yīng)用中可能有利的是發(fā)送單獨的函數(shù),因為電視(自動地,例如在分析場景之后,或者在由觀看者進行的用戶接口控制之下)可能例如想要進一步調(diào)節(jié)例如第一函數(shù),該第一函數(shù)使圖像與經(jīng)由圖像/視頻通信技術(shù)接收的靈敏度或RHO值相比稍許變亮。更先進的版本可以使用一些另外的處理步驟,例如編碼方法可以確定增益值(gai)以用于將較低動態(tài)范圍圖像(LDR_o)的最大亮度映射到重建的高動態(tài)范圍圖像(Rec_HDR)中的可能值中的特定值,并且將該增益值編碼在圖像信號(S_im)中,其不應(yīng)當與從歸一化顏色到所連接顯示器的峰值明亮度(例如Lm=5000nit)的最終縮放相混淆。該增益允許更加多功能的分級和/或編碼。
一種非常有用的改進的對高動態(tài)范圍圖像(M_HDR)進行編碼的方法,包括:在應(yīng)用以上顏色映射中的任一個以確定較低動態(tài)范圍圖像(LDR_o)之后,應(yīng)用另一技術(shù)色調(diào)映射(301)以確定第二較低動態(tài)范圍圖像(LDR_i),該第二較低動態(tài)范圍圖像可以用來作為替換較低光亮度動態(tài)范圍圖像(LDR_o)的替換驅(qū)動圖像來驅(qū)動LDR顯示器,所述技術(shù)色調(diào)映射通過以下而被確定:a)確定較低光亮度動態(tài)范圍圖像(LDR_o)的對于其而言對應(yīng)的重建高動態(tài)范圍圖像(Rec_HDR)中的條帶的可見度在可接受水平以上的第一幾何區(qū)域,b)確定用于該區(qū)域的亮度范圍(L_u),c)確定在亮度軸上與該亮度范圍(L_u)相鄰的第二像素亮度范圍(L_uu),其中第二范圍被標識以滿足條件:它具有在最小數(shù)目(MIN)以上的數(shù)個亮度,并且對應(yīng)于包含可以使用少于LDR圖像(LDR_i)中的最小數(shù)目的代碼來表示的紋理的第二幾何圖像區(qū)域,對所述LDR圖像應(yīng)用所述函數(shù)產(chǎn)生對于該第二區(qū)域而言具有足夠視覺質(zhì)量的重建高動態(tài)范圍圖像(Rec_HDR),以及d)確定對第一和第二亮度范圍的亮度進行重新分布的重新分布映射函數(shù),使得附加代碼可用于第一范圍,并且在圖像信號(S_im)中輸出對重新分布映射函數(shù)或優(yōu)選地其逆函數(shù)的函數(shù)形狀進行編碼的值。
多少受限于Rec_HDR的完全或充分精確的重建與LDR圖像LDR_o的外觀之間的權(quán)衡,特別是如果硬件(以及分級成本)規(guī)定應(yīng)當使用相對有限量的分級函數(shù)的話。一些HDR場景可能不會如此困難(例如,普通觀看者可能不會對陽光照亮的街道的陰影側(cè)的陰影更暗一點或更淺灰一點太過挑剔,只要從最優(yōu)外觀的偏離不太過分),但是一些HDR場景可能更加關(guān)鍵(例如,在HDR光亮度范圍上某處,可能存在部分隱藏在發(fā)光霧靄中的家伙,并且如果那里局部對比度太高,則他可能僅僅稍許過于可見,但是如果對比度太低,則他可能不可見,從而改變故事)。將有利的是至少對于不是老式(并且不知道如何進行任何HDR處理)的接收機而言使另一維度的分級成為可能,并且可以進行某種另外的色調(diào)映射。老式顯示器于是可以得到“盡最大努力的”LDR圖像,其將是所發(fā)送的單獨圖像,但是智能未來接收機可以做出一些智能技術(shù)技巧以進一步優(yōu)化LDR外觀,使得它更接近分級者所期望的(可能甚至剪切最終LDR外觀中的一些值,如果那在單獨的發(fā)送LDR圖像中發(fā)生的話這將與HDR重建不一致)。有了這樣的可能性,一些編碼方法或編碼器可以滿足這樣的需要。將非常復雜非常高對比度的HDR圖像壓縮在LDR單獨圖像中(例如,HDR圖像,其具有擁有許多灰色值的若干重要區(qū)域,例如暗的未被照明的房間、相對充分照明的第二房間以及同時色彩豐富的被太陽照射的外部,并且這3個區(qū)域還包含覆蓋(例如充分照明的房間中的燈下方的白色桌子的)許多灰色值的重要梯度),可能發(fā)生的是一個或多個區(qū)域變得不可接受,因為由于用于顏色分量的有限的字長(例如10比特),某處(取決于顏色映射函數(shù)的形狀)存在被判斷為過于嚴重的條帶。該區(qū)域可以例如通過分級者找出它(并且他可以通過被分級裝置中的HDR圖像分析軟件指向潛在關(guān)鍵的區(qū)而被幫助)而被標識。條帶檢測器可以計算例如對于擴展區(qū)域(潛在地也考慮該區(qū)域具有哪些光亮度,以及估計的JND)而言,存在每次數(shù)個依次相等的顏色的跳變,并且它們可以基于來自這樣的計算的值(并且典型地在工廠實驗中)定義可接受的水平。分級裝置在找到這樣的區(qū)域(例如通過對分級者所粗略選擇的進行更精細的分段)之后,然后可以粗略地確定對應(yīng)于它的光亮度范圍L_u。例如,在藍色天空中可能存在條帶,其顏色具有介于L_sky_low和L_sky_high之間的光亮度。該問題將得以緩解,如果LDR編碼具有更多值來將圖像編碼在內(nèi)的話,其中我們應(yīng)當理解,在編碼側(cè)M_HDR和任何變換可以仍然具有非常高的精度。但是這些代碼并不存在:我們僅具有10比特可用于所有需要的光亮度,并且我們還需要對不同光照的所有其他圖像區(qū)域進行充分地編碼。但是可以使用技巧,如果可以從具有與L_u相鄰的光亮度的圖像區(qū)域借一些代碼的話,尤其是如果那些區(qū)域的視覺質(zhì)量通過從其代碼范圍取走幾個代碼而降級一點的話(典型地分級者將通過接受結(jié)果或者不同意(在該情況下將嘗試另一努力)的簡單操作而判斷這一點,該另一努力在條帶對于原始條帶區(qū)而言仍然太高并且相鄰區(qū)域仍然可以被進一步惡化的情況下更為激進,或者在分級者指示相鄰區(qū)域開始過于惡化的情況下不那么激進)。重新分布代碼的簡單方式是例如線性或非線性修改局部函數(shù)部分?,F(xiàn)在單獨的發(fā)送圖像LDR_o的問題在于天空可能例如變得有點太暗,并且可能由于該操作而太對比強烈(并且相鄰區(qū)域也可能稍許太暗,并且其紋理外觀可能已被改變,等等)。這在小的改變和不太關(guān)鍵的場景的情況下可能不太有問題,而對于困難場景而言更不方便一點。它是老式系統(tǒng)可能必須付出的代價,因為它們絕對不能對任何接收數(shù)據(jù)做任何處理,除了直接呈現(xiàn)LDR_o,但是新的接收機可以應(yīng)用被用來重新分布亮度的變換的反變換,來創(chuàng)建與最初意圖的LDR外觀非常接近的LDR外觀(即,具有適當?shù)奶炜展饬炼?,等等),但是現(xiàn)在具有較少的條帶。接收機無需進行太多智能分析,它僅需要查看這樣的技術(shù)色調(diào)映射函數(shù)可用,并將它應(yīng)用于重建單獨的發(fā)送LDR圖像LDR_t以獲得更好的LDR外觀圖像LDR_ul。在分級裝置中也可以應(yīng)用數(shù)個方法來實現(xiàn)用于相鄰區(qū)域的好的建議,例如可以確定具有足夠量亮度(例如等于天空中的量)并具有某種復雜紋理的區(qū)域。簡單的實施例可以例如使用條帶區(qū)域范圍以下直到最黑的黑色的所有代碼。
用于第一范圍的附加代碼的量是基于用于第一幾何區(qū)域的條帶可見度準則而確定的。自動算法可能帶來例如20%附加代碼的問題,并且典型地人類分級者將確認這一點。算法也可以高亮其必須惡化的區(qū)域,例如通過使那些區(qū)域的著色閃爍,以使得分級者可以快速檢查那些區(qū)域是否在重建的HDR Rec_HDR中也具有足夠的視覺質(zhì)量。
在大多數(shù)實際的實施例中,顯示出過多條帶的第一幾何區(qū)域的標識典型地最終由人類分級者經(jīng)由用戶接口單元(105)執(zhí)行,例如通過沿著條帶區(qū)域涂寫一條波浪線,并且重建的高動態(tài)范圍圖像(Rec_HDR)中第一幾何區(qū)域的條帶量以及重建的高動態(tài)范圍圖像(Rec_HDR)中第二幾何區(qū)域的重建的視覺質(zhì)量由人類分級者判斷為可接受或不可接受,其中在可接受的判斷的情況下,對重新分布映射函數(shù)或其逆函數(shù)的函數(shù)形狀進行編碼的值被編碼在圖像信號中,或者在不可接受的判斷的情況下,所述步驟再次利用不同的參數(shù)來進行以便實現(xiàn)替換的重新分布映射函數(shù)。例如,可以向條帶區(qū)域分配10%更多的代碼,也許以擴大的相鄰亮度范圍L_uu為代價。
所述對高動態(tài)范圍圖像(M_HDR)進行編碼的方法的一個有趣的實施例是較低光亮度動態(tài)范圍圖像(LDR_o)的像素顏色被編碼為亮度通道以及u'和v'顏色坐標,其被計算為和,其中X,Y和Z為設(shè)備無關(guān)的1931 CIE顏色坐標,其可導出用于任何RGB表示(即,CIE 1976(u',v')色度表示)。通常根據(jù)老式理念,圖像(尤其是LDR圖像)將被編碼為YCrCb圖像。但是如果改變?nèi)魏尉幗獯a器(例如,針對因特網(wǎng)傳輸),也可能將顏色分量編碼為Yuv分量平面,這在發(fā)送圖像的圖像質(zhì)量和應(yīng)用我們的系統(tǒng)的各種顏色變換(當然老式電視到時將不能由此得出好看的圖片)的便利兩方面都具有一些優(yōu)點。
我們發(fā)現(xiàn)了一般地選擇的亮度定義(由所選的以上步驟的完整色調(diào)映射策略定義,最終獲得LDR_o或LDR_i中的亮度),其與兩個亮度無關(guān)的色度坐標、特別是由CIE標準化的u',v'坐標一起將是要在標準圖像或視頻壓縮技術(shù)中使用的良好編碼。類似于例如HEVC的壓縮技術(shù)將典型地通過對樣本的塊進行DCT而應(yīng)用至少空間壓縮,但是對于視頻而言它們也可以進行基于運動估計的壓縮,等等。
在簡單的實施例中,顏色轉(zhuǎn)換的函數(shù)顏色變換行為的編碼可以通過在與(多個)單獨的圖像相關(guān)聯(lián)或可與之相關(guān)聯(lián)的元數(shù)據(jù)中存儲:a)靈敏度值(例如RHO,或被稱為SENS并在下面定義的、定義RHO的等同參數(shù),或者允許確定RHO值的RHO的任何函數(shù)或互相關(guān)),b)伽馬值(GAM),以及c)表征映射亮度的任意函數(shù)的函數(shù)形狀的數(shù)個值,而用僅僅幾個簡單的參數(shù)來傳送。
一種對高動態(tài)范圍圖像(M_HDR)進行編碼的方法包括:確定增益值以用于將較低動態(tài)范圍圖像(LDR_o)的最大亮度映射到重建高動態(tài)范圍圖像(Rec_HDR)中的可能值的具體值;以及將該增益值編碼在圖像信號(S_im)中。這對于可從LDR圖像獲得的Rec_HDR圖像的進一步縮放而言是有用的,例如如果相對暗的鏡頭的LDR圖像被相對亮地表示(即直到可能的LDR亮度范圍中相對高的值的那些亮度),而HDR圖像應(yīng)當被不太亮地呈現(xiàn)(這通過用不太高的最大亮度對其解碼而最好地得以處理)的話。
一種對高動態(tài)范圍圖像(M_HDR)進行編碼的方法,包括:確定高動態(tài)范圍圖像(M_HDR)的顏色到較低動態(tài)范圍圖像(LDR_o)中的顏色或者相反的飽和度修改策略;以及將該飽和度修改策略編碼為信號(S_im)中的元數(shù)據(jù)中的參數(shù)值。典型地分級者將也想要影響圖像的飽和度,例如他們可以利用某種飽和度映射策略改變從M_HDR獲得的 LDR_o的飽和度,和/或從LDR_o獲得的Rec_HDR的飽和度(例如,第一色調(diào)映射使獲得的Rec_HDR顏色的u,v色度處于它們在LDR_o中所具有的值,并且然后改變那些Rec_HDR顏色的飽和度)。
所述對高動態(tài)范圍圖像(M_HDR)進行編碼的方法的一些實施例包括:在應(yīng)用以上顏色映射中的任一個以確定較低動態(tài)范圍圖像(LDR_o)之后,應(yīng)用另一技術(shù)色調(diào)映射(301)以確定具有重新分布的亮度(即用于至少一個幾何區(qū)域的典型地稍微改變的值的亮度)的第二較低動態(tài)范圍圖像和該圖像(即,重新分布的亮度低動態(tài)范圍圖像LDR_i)的亮度子范圍,這保證了至少在第二較低動態(tài)范圍圖像(LDR_i)的對于分級者而言更重要的區(qū)域(例如,其被典型的所意圖的觀看者仔細地觀看,因為它們例如大而且亮,并且易于產(chǎn)生條帶)中,可以分配足夠的亮度代碼以利用足夠的精度對那些區(qū)域中的紋理進行編碼以便使得能夠以預(yù)定誤差準則以下的誤差(最小條帶量)來重建重建的高動態(tài)范圍圖像(Rec_HDR)。
對于一些實施例而言重要的是不選擇任何奇怪的色調(diào)映射策略。特別地,如果想要能夠獲得良好質(zhì)量的Rec_HDR,即在數(shù)學像素顏色值上接近M_HDR,那么需要確保在LDR_i中不存在欠采樣的紋理,這在確保在均勻量化之前的最終映射在任何地方都不太平坦的情況下發(fā)生。
典型地這可以通過LDR圖片上的亮度計數(shù)策略和/或HDR圖像上的諸如例如條帶檢測器之類的亮度計數(shù)策略,或者任何這樣的預(yù)定HDR重建誤差準則來完成。在一些實施例中,該準則可以由人類分級者執(zhí)行。它的存在可以通過使技術(shù)重新映射策略被共同編碼在S_im中以便由更智能的未來一代接收機應(yīng)用而被看見。
所述方法可以體現(xiàn)在被布置成對高動態(tài)范圍圖像(M_HDR)進行編碼的圖像編碼器(100)中,所述圖像編碼器包括:
– 動態(tài)范圍轉(zhuǎn)換單元(104),被布置成將高動態(tài)范圍圖像轉(zhuǎn)換成較低光亮度動態(tài)范圍的圖像(LDR_o),所述動態(tài)范圍轉(zhuǎn)換單元(104)包括以處理順序連接的:a)歸一化器(601),被布置成將高動態(tài)范圍圖像歸一化到范圍在[0,1]上的亮度軸并且輸出歸一化光亮度(Yn_HDR),b)伽馬轉(zhuǎn)換單元(602),被布置成向歸一化光亮度應(yīng)用伽馬函數(shù)并且輸出經(jīng)伽馬轉(zhuǎn)換的光亮度(xg),c)第一色調(diào)映射單元(603),被布置成應(yīng)用第一色調(diào)映射,該第一色調(diào)映射將位于0.1以下的那些經(jīng)伽馬轉(zhuǎn)換的光亮度提升一位于1.5與5.0之間的預(yù)定量,從而產(chǎn)生亮度(v),d)任意色調(diào)映射單元(604),被布置成應(yīng)用任意函數(shù),該任意函數(shù)將亮度(v)映射成較低動態(tài)范圍圖像(LDR_o)的輸出亮度(Yn_LDR);并且圖像編碼器(100)進一步包括:
– 圖像壓縮器(108),被布置成向較低動態(tài)范圍圖像(LDR_o)的顏色應(yīng)用數(shù)據(jù)減少變換,所述顏色被組織在分量圖像中,并且所述減少變換至少包括向相鄰顏色分量值的塊應(yīng)用DCT變換,從而產(chǎn)生較低光亮度動態(tài)范圍圖像的像素顏色的經(jīng)壓縮的編碼(LDR_c);以及
– 格式化器(110),被布置成在圖像信號(s_im)中輸出經(jīng)壓縮的編碼(LDR_c),并且被布置成另外在圖像信號(S_im)中輸出將顏色轉(zhuǎn)換的函數(shù)形狀編碼為元數(shù)據(jù)的值,或者用于其逆函數(shù)的值,所述元數(shù)據(jù)允許接收機基于較低光亮度動態(tài)范圍圖像(LDR_o)重建高動態(tài)范圍圖像(Rec_HDR)。
這樣的編碼器的實用實施例是這樣的編碼器,其中伽馬轉(zhuǎn)換單元(602)使用等于1/(2.4)的伽馬值,和/或第一色調(diào)映射單元(603)使用由等式定義的色調(diào)映射,其中RHO具有預(yù)定值,該值典型地是所意圖服務(wù)的顯示器和/或與主HDR編碼M_HDR相關(guān)聯(lián)的參考顯示器的峰值明亮度的函數(shù)。
一種圖像編碼器(100),被布置成指定增益,該增益允許將較低動態(tài)范圍圖像(LDR_o)中的亮度代碼的最大值映射成重建的高動態(tài)范圍圖像(Rec_HDR)的選定亮度值,并且所述圖像編碼器具有格式化器(110),被布置成輸出該增益作為圖像信號(S_im)中的元數(shù)據(jù)中的值。
如以上編碼器權(quán)利要求中的任一項所要求保護的圖像編碼器(100),包括技術(shù)色調(diào)映射單元(106),被布置成自動地或在人類引導下確定較低動態(tài)范圍圖像(LDR_o)的紋理和統(tǒng)計信息,以及特別地在Rec_HDR中易于產(chǎn)生重建誤差、特別是條帶的至少一個關(guān)鍵幾何區(qū)域,并且在此基礎(chǔ)上計算第二色調(diào)映射(Ff1,Ff2,…)以用于被應(yīng)用作為到較低動態(tài)范圍圖像(LDR_o)的變換來產(chǎn)生具有表征第二較低動態(tài)范圍圖像(LDR_i)的至少一些重要、易于產(chǎn)生誤差的區(qū)域的紋理的最小數(shù)目的亮度代碼(例如,1.3*L_u)的第二較低動態(tài)范圍圖像(LDR_i),從而允許重建具有在預(yù)定誤差準則以下的誤差的重建的高動態(tài)范圍圖像(Rec_HDR)。為了使得能夠傳送允許在編碼之后接收機以鏡像方式實現(xiàn)我們的模式ii系統(tǒng)的必要信息,發(fā)送(或存儲以供稍后發(fā)送)高動態(tài)范圍圖像信號(S_im)是有用的,所述信號包括:
– 具有已編碼像素顏色的像素化較低動態(tài)范圍圖像(LDR_o);以及進一步的:
– 靈敏度值(RHO);以及
– 伽馬值(GAM);以及
– 增益值(GAI);以及
– 指定任意色調(diào)映射函數(shù)形狀(P_CC)的一組值。
接收機然后可以從這些值確定將應(yīng)用于單獨傳送LDR圖像(LDR_o或LDR_i)的所有函數(shù)的函數(shù)形狀,如果需要和計算具有比100nit LDR圖像更高的動態(tài)范圍的任何圖像的話。
特別地,S_im也可以包括對用于在內(nèi)容的人類創(chuàng)作者/分級者所期望的藝術(shù)LDR分級與其在被采樣時具有用于良好的Rec_HDR重建的圖像的所有區(qū)域的,或者至少那些被自動圖像分析單元和或人類確定為更關(guān)鍵的區(qū)域的足夠亮度的技術(shù)LDR之間進行映射的技術(shù)重新映射策略(Ff1,Ff2,…)進行編碼的值207。
特別地,它是有用的,因為對于接收機而言非常實用的是快速確定使用現(xiàn)在若干(非常)不同的可能HDR圖像編碼機制中的哪一個,特別是通過在圖像信號S_im中包括指示符(IND),該指示符指定高動態(tài)范圍的圖像已經(jīng)被編碼在它之中,并且是利用將該高動態(tài)范圍的圖像編碼為低動態(tài)范圍的圖像的方法,該低動態(tài)范圍的圖像直接可用,而無需進一步的色調(diào)映射,以用于在LDR顯示器上呈現(xiàn)??梢栽O(shè)計和同意各種這樣的編碼方式,只要任何接收機理解它。
一種存儲我們的高動態(tài)范圍圖像信號(S_im)的任一實施例的諸如藍光盤之類的存儲器產(chǎn)品。
為了具有圖像通信鏈,在接收端可以具有作為或包括圖像解碼器(150)的裝置的各種實現(xiàn),所述圖像解碼器被布置成接收高動態(tài)范圍圖像信號(S_im)并且包括:
–去格式化器(151),被布置成從圖像信號(S_im)獲得經(jīng)壓縮的像素化較低動態(tài)范圍圖像(LDR_c)和參數(shù)數(shù)據(jù)(P);以及
–解壓縮器(152),被布置成向經(jīng)壓縮的像素化較低動態(tài)范圍圖像(LDR_c)至少應(yīng)用逆DCT變換以獲得像素化較低動態(tài)范圍圖像(LDR_t);以及動態(tài)范圍轉(zhuǎn)換單元(153),被布置成將較低動態(tài)范圍圖像(LDR_t)變換成重建的高動態(tài)范圍圖像(Rec_HDR),其中動態(tài)范圍轉(zhuǎn)換單元(153)以處理順序包括:a)任意色調(diào)映射單元(402),被布置成應(yīng)用任意色調(diào)映射,定義它的參數(shù)(P_CC)在參數(shù)數(shù)據(jù)(P)中接收,b)第一色調(diào)映射單元(403),被布置成應(yīng)用由至少一個接收的參數(shù)(RHO)定義的映射,所述至少一個接收的參數(shù)定義之前由我們的編碼器或編碼方法實施例中的任一個確定的第一色調(diào)映射,以及c)伽馬轉(zhuǎn)換單元(404),被布置成利用接收的伽馬值(GAM)應(yīng)用伽馬映射。
該解碼器將首先取消所有典型的老式(例如HEVC或類似的)壓縮編碼,并且然后以相反順序應(yīng)用各種映射(注意,不是所有東西在所有實施例中都需要精確地以相反順序;例如,在Yu'v'中可以選擇以相反順序進行正交亮度和飽和度處理,不管它是否可能利用稍微不同的數(shù)學函數(shù),只要最終結(jié)果精確地或近似地是所意圖的顏色)。還應(yīng)注意,可能存在附加的處理步驟,其可能僅存在于接收端處(例如,圖像可以被編碼在比如Rec. 2020的某種RGB表示中,但是可能需要被轉(zhuǎn)換成電視所理解的另一格式,例如DCI-P3,并且進一步轉(zhuǎn)換成TV的實際原色)。
所以圖像解碼器(150)將包括動態(tài)范圍轉(zhuǎn)換單元(153),其被布置成將較低動態(tài)范圍圖像(LDR_t)變換成重建的高動態(tài)范圍圖像(Rec_HDR),并且典型地可以存在邏輯單元和至少定義什么時候做什么(例如,取決于哪一個或哪些顯示器當前被連接和服務(wù))的另外的顏色處理函數(shù)。
圖像解碼器的一個實用實施例具有第一色調(diào)映射單元(403),其被布置成應(yīng)用以下形式的函數(shù):,其中v為像素亮度,并且RHO為在參數(shù)數(shù)據(jù)(P)中接收的實數(shù)值或整數(shù)參數(shù)。
圖像解碼器(150)的一個有用實施例包括被布置成向較低動態(tài)范圍圖像(LDR_t)應(yīng)用在圖像信號(S_im)中接收的另一色調(diào)映射(Ff1,Ff2,…)以獲得第二較低動態(tài)范圍圖像(LDR_ul)的色調(diào)重新映射單元(159),其顛倒由產(chǎn)生具有重新分布的亮度的第二低動態(tài)范圍圖像(LDR_i)的編碼器方法5到7中任一個所應(yīng)用的代碼重新分布動作以便在重建的高動態(tài)范圍圖像(Rec_HDR)的至少一個區(qū)域中獲得減少的條帶。事實上,編碼器不一定需要精確地知道任意編碼器如何實現(xiàn)對亮度進行重新分布的特定變換函數(shù),它只需要應(yīng)用逆函數(shù)來實現(xiàn)基本上所意圖的LDR外觀(LDR_ul)。
解碼器的另一有用實施例可以理解LDR圖像的Yu'v'編碼,并且另外包括顏色變換單元(155),其被布置成將Yu'v'顏色表示轉(zhuǎn)換為RGB顏色表示??梢栽谵D(zhuǎn)換完成之前完成色調(diào)映射,因此將到RGB的轉(zhuǎn)換留給處理鏈的最后部分,或者可替換地,可以首先完成轉(zhuǎn)換,并且可以在RGB信號上完成等同的顏色處理。
對應(yīng)于所述解碼器中任一個,對應(yīng)的解碼高動態(tài)范圍圖像信號(S_im)的方法包括通過向較低動態(tài)范圍圖像(LDR_t)應(yīng)用編碼在參數(shù)數(shù)據(jù)(P)中的顏色轉(zhuǎn)換而獲得重建的高動態(tài)范圍圖像(Rec_HDR),特別地一種解碼高動態(tài)范圍圖像信號(S_im)的方法包括:
- 從圖像信號(S_im)獲得經(jīng)壓縮的像素化較低動態(tài)范圍圖像(LDR_c)和參數(shù)數(shù)據(jù)(P);通過向經(jīng)壓縮的像素化較低動態(tài)范圍圖像(LDR_c)至少應(yīng)用逆DCT變換以獲得像素化較低動態(tài)范圍圖像(LDR_t)來對經(jīng)壓縮的像素化較低動態(tài)范圍圖像(LDR_c)進行解壓縮;以及通過:a)應(yīng)用任意色調(diào)映射,定義它的參數(shù)(P_CC)在參數(shù)數(shù)據(jù)(P)中接收,b)應(yīng)用由至少一個接收的參數(shù)(RHO)定義的映射,所述至少一個接收的參數(shù)定義之前由我們的編碼器或編碼方法實施例中的任一個確定的第一色調(diào)映射,以及c)利用優(yōu)選地等于2.4的、接收的伽馬值(GAM)應(yīng)用伽馬映射,來將較低動態(tài)范圍圖像(LDR_t)變換成重建的高動態(tài)范圍圖像(Rec_HDR)。我們描述了允許分級者在HDR場景的HDR圖像上簡單而強大地優(yōu)化LDR外觀的外觀的系統(tǒng)。優(yōu)選地做出盡可能小的視覺質(zhì)量犧牲,但是因為LDR由于其動態(tài)范圍限制而可能需要某種優(yōu)化,所以系統(tǒng)允許分級者對其特別感興趣的場景對象、即典型地該場景中重要的特性對象的微對比度進行精細調(diào)節(jié),并且由此如果需要做出一些明亮度-質(zhì)量犧牲,則犧牲比如背景中的墻壁之類的一些不太重要的對象的精確外觀,而不是場景中的主要對象。本發(fā)明可以以許多其他(部分)方式來實現(xiàn),比如利用包含各種實施例的核心技術(shù)要求(比如體現(xiàn)在信號中的定義參數(shù))的媒介,并且其許多應(yīng)用可以導致比如對各種可能的信號進行傳送、使用、顏色變換等的各種方式,以及在消費者或?qū)I(yè)系統(tǒng)中并入各種硬件組件或使用各種方法的各種方式。任何組件當然可以被實現(xiàn)在小型組件中或者被實現(xiàn)為小型組件,或者反之亦然,被實現(xiàn)為由于該組件的原因而起主導作用的大型裝置或系統(tǒng)的關(guān)鍵核心。
附圖說明
根據(jù)下文描述的實現(xiàn)方式和實施例并且參照附圖,根據(jù)本發(fā)明的方法和裝置的這些和其他方面將是清楚明白的,并且將參照所述實現(xiàn)方式和實施例以及參照附圖而被闡述,所述附圖僅僅充當例示更一般概念的非限制性特定圖示。
圖1示意性地示出了在圖像通信技術(shù)中根據(jù)我們的發(fā)明的編碼器和解碼器的實施例的一個示例;
圖2示意性地示出了根據(jù)我們的發(fā)明的HDR圖像信號S_im可能看起來什么樣的實施例;
圖3示意性地通過一個類闡述如何可以一般地獲得技術(shù)LDR分級,所述分級在一些實施例中甚至可以自動地在幕后發(fā)生而不勞煩分級者或內(nèi)容創(chuàng)作者,這允許對象亮度的更好的采樣,并且因此允許Rec_HDR的更好質(zhì)量的重建;
圖4是根據(jù)我們的發(fā)明的可能的解碼器的簡單示意性闡釋;
圖5示出了用于進行使顏色顯著變亮的靈敏度映射,或者另外利用伽馬行為進行組合式初始LDR分級的2x2可能的實施例曲線;并且
圖6是編碼器的可能的動態(tài)范圍轉(zhuǎn)換單元的簡單示意性闡釋。
具體實施方式
圖1描述了體現(xiàn)我們的發(fā)明的示例性典型系統(tǒng),具有在創(chuàng)作側(cè)處的圖像(或視頻)編碼器100,以及圖像解碼器150。我們假定在包含主分級HDR外觀圖像(M_HDR)的分級系統(tǒng)中存在存儲器101,所述主分級HDR外觀圖像已經(jīng)由內(nèi)容創(chuàng)作者根據(jù)比如例如達芬奇的顏色分級軟件中的用于比方說電影的當前已知的顏色分級技術(shù)按照期望進行了分級(類似的其他系統(tǒng)可以從我們的本申請中的教導受益,例如,在相機的撥盤上對例如相機外觀曲線的調(diào)節(jié)之后,M_HDR可以直接來自于相機,等等)。在該M_HDR中,例如穿過窗戶照射的光的明亮度可以被選擇來通過給予那些像素意圖要呈現(xiàn)的光亮度L_out和對應(yīng)的亮度代碼v_HDR而在[0,5000]nit參考顯示器上給出最令人愉悅的外觀,并且可以設(shè)計許多另外的光效果以及其他顏色優(yōu)化。M_HDR經(jīng)由圖像輸入端115輸入到我們的編碼器100中,并且也可以在HDR參考顯示器102(其精確地具有我們針對HDR編碼提出的理論的例如[0-5000]nit參考顯示器的特性)上被觀看。這意味著當分級者想要實現(xiàn)LDR外觀(其不僅應(yīng)當對對象紋理進行足夠精確地編碼以使得可以在接收側(cè)獲得M_HDR的合理地準確的重建Rec_HDR,而且該LDR外觀應(yīng)當適合于在LDR顯示器上最優(yōu)地呈現(xiàn)經(jīng)編碼的HDR場景)時,分級者可以同時比較在給定技術(shù)限制的情況下LDR外觀在LDR顯示器103上多大程度與M_HDR類似,并且通過根據(jù)其喜好按照期望改變用于從M_HDR獲得它的顏色映射函數(shù)而進行優(yōu)化。這兩個顯示器可以處于其不同的最優(yōu)觀看環(huán)境中,并且分級者可以觀看由例如墻壁分隔的兩者(例如,在兩個封閉的參考環(huán)境中,其各自的窗戶打開以用于同時向它們里面看,并且具有窗簾,所述窗簾在分級者在某個時間間隔期間想要看它們中的僅僅一個的情況下被關(guān)上)。分級者也可以在HDR顯示器102上檢查HDR外觀的重建分級(例如,交替地切換Rec_HDR和M_HDR)。
借助于向分級者提供經(jīng)典控件(比如例如調(diào)節(jié)輪或類似的滑條以用于設(shè)定比如伽馬或靈敏度值之類的值)的用戶接口單元105,分級者可以實現(xiàn)定義M_HDR應(yīng)當如何被映射成LDR外觀圖像的比色變換,變換參數(shù)將經(jīng)由編碼器的輸出端116輸出到圖像信號S_im中,所述編碼器可以可連接到任何圖像傳輸介質(zhì)140,例如通信網(wǎng)絡(luò),或比如BD或固態(tài)存儲器等的物理載體存儲器。
LDR外觀經(jīng)由動態(tài)范圍轉(zhuǎn)換單元104而被生成,所述動態(tài)范圍轉(zhuǎn)換單元104被布置成對像素顏色的至少亮度而且典型地還對色度坐標應(yīng)用比色變換。亮度是指最終可轉(zhuǎn)換成物理光亮度,或者甚至經(jīng)由心理視覺模型而轉(zhuǎn)換成明亮度(其是當圖像被呈現(xiàn)在顯示器上時觀看者將看到的最終外貌)的任何編碼。注意,通過等同的數(shù)學運算,亮度變換可以被直接應(yīng)用作為在RGB分量上的對應(yīng)變換。盡管最終目標是外觀中的正確對象明亮度(外貌),但是我們可以將我們的技術(shù)討論限制為確定參考(例如[0-5000])范圍或設(shè)備無關(guān)的顏色空間(比如由該范圍定義的XYZ)中的光亮度。此外,我們將假定顏色的任何彩色變換是在1976 CIE Luv空間的UCS平面中完成的,然而技術(shù)人員可以理解類似地可以如何使用其他第二和第三顏色分量,其中我們的發(fā)明的基本組件一般地可適用。
CIELuv根據(jù)XYZ(類似地可以根據(jù)某個RGB進行變換)定義u和v為:和。
我們假定為了簡單起見HDR和LDR色域(即,與這兩個圖像的編碼數(shù)學運算相關(guān)聯(lián)的理論顯示器的色域)具有相同的三個(或更多)R,G,B原色,并且因此可以通過將比方說5000和100nit的各自的最大值縮放到1.0而被并列為精確地重疊。所以從HDR到LDR的色調(diào)映射于是變成沿著該單個設(shè)備有關(guān)的RGB色域內(nèi)的歸一化亮度方向的相對變換。例如,如果想要使HDR外觀中的較暗顏色在LDR和HDR顯示器上看起來相同,則這作為相同色域中的相對變換變成以下:因為在5000nit定義的顏色定義中,HDR圖像中這樣的顏色將具有小的代碼(例如,0.1以下),所以我們需要使它們變亮以在100nit LDR顯示器上變得足夠可見,例如具有0.3附近的值。精確的映射將取決于對于LDR和HDR圖像兩者而言亮度的定義,因為作為老式LDR圖像和視頻編碼的“伽馬2.2”定義的一般化,我們現(xiàn)在可以定義從物理光亮度映射到亮度代碼(或者相反,因為典型地電視工程師從定義參考顯示器開始,所述參考顯示器除參考[0-5000]nit范圍之外還具有某種參考顯示器EOTF行為,該行為指示例如1024的亮度如何沿著該參考范圍映射到可呈現(xiàn)的光亮度)的任意代碼分配函數(shù)。我們不僅可以使用冪1/(7.0)伽馬作為OETF,而且如果在圖像鏡頭中在較低范圍的光亮度與較高范圍的光亮度之間不存在光亮度的話我們可以甚至使用不連續(xù)的代碼分配函數(shù)。還應(yīng)注意,在具有亮度無關(guān)的色度(u,v)的Y'uv表示中工作允許我們在顏色空間的非彩色和彩色方向上完全獨立和自由地工作。
針對技術(shù)熟練的讀者,將我們的闡述限制到僅僅HDR-2-LDR的非彩色映射,這些映射一般地可以被表述為原則上從HDR外觀圖像的[0,1]亮度到LDR外觀圖像的[0,1]亮度的任意色調(diào)映射函數(shù),如可以利用圖2a中的示例可見的。
指定這樣的函數(shù),我們將假定完成了在所有顏色(Y_M_HDR,u,v)上的映射以使得對于其中(u_wp,v_wp)為選定白色點(諸如D65)的色度坐標的非非彩色顏色(u<>u_wp,v<>v_wp)而言,確定的色調(diào)映射函數(shù)210被線性縮放到對于該顏色而言可實現(xiàn)的最大光亮度L_max(u,v),如WO2014056679中更詳細地教導的。技術(shù)熟練的讀者可以理解這樣的處理如何類似地也可以在RGB顏色編碼中完成而不是被應(yīng)用于Y'uv顏色編碼中。
一旦分級者指定了這樣的色調(diào)映射行為,編碼器就具有用于在M_HDR中任何可能的顏色上應(yīng)用明亮度動態(tài)范圍變換的足夠信息,從而產(chǎn)生原始(未壓縮的、可能仍然未量化的以浮點表示的)LDR外觀LDR_o。由此,任何精確或近似的數(shù)學變換可以由編碼器確定,這允許接收機以相反方式、從LDR_o到Rec_HDR進行預(yù)測。分級者可以經(jīng)由圖像輸出端111檢查這樣的圖像(在被充分地格式成圖像信號之后,該圖像信號可以在諸如例如HDMI的圖像通信鏈路上傳送)在參考(比方說100nit,或者在將來可能是500nit)LDR顯示器103上將看起來如何。
然而,我們將在本發(fā)明中教導,當色調(diào)映射不是僅以任何一般方式構(gòu)建而是以特定方式構(gòu)建時它是有用的,并且(很少)對應(yīng)的參數(shù)被有用地編碼為圖像信號S_im中的單獨的元數(shù)據(jù),因為它們?nèi)缓罂梢员挥欣赜迷诮邮諅?cè),例如在針對特定X nit顯示器導出最優(yōu)驅(qū)動圖像的可調(diào)節(jié)性期間。
作為第一參數(shù),分級者將直接選擇例如靈敏度參數(shù)SENS或RHO。這將是這樣的值,其直觀上類似于從攝影術(shù)中已知的ASA或ISO,并且典型地確定LDR圖像將看起來有多亮(尤其是M_HDR的暗對象顏色被提高多少)。
作為優(yōu)選實施例,編碼器可以使用已經(jīng)提供良好的初始LDR外觀的EOTF/OETF函數(shù),該EOTF函數(shù)定義如下:
該等式基于可用于像素顏色的亮度代碼字的比特量而將與在[0,1]中等距分散的的亮度代碼v對應(yīng)的要呈現(xiàn)的HDR光亮度L定義為比方說1024個可能的值。Lm是可選擇的變量,其指示M_HDR或Rec_HDR線性顏色/光亮度表示的參考顯示器的峰值明亮度,其可以例如被固定為5000。例如,分級者將具有撥盤來選擇靈敏度,該靈敏度可以典型地與rho有關(guān),為:
連同SENS(RHO)值確定暗顏色行為和某種整體明亮度外觀,分級者可以將伽馬(GAM)共同調(diào)節(jié)為沿著可能的LDR亮度的范圍重新分配對象/區(qū)域明亮度的某種彎曲參數(shù)。當然,當從M_HDR分級的參考XYZ空間表示(其可以是有用的中間表示)中的光亮度L映射到LDR外觀的v亮度值時,分級者將定義逆函數(shù)。
在RHO除法上進行基本的數(shù)學計算,可以看到逆函數(shù)(OETF)為:首先應(yīng)用1/(GAM),得到,并且然后計算:。
典型地在編碼器處可以存在圖像分析單元177的各種可能實施例之一。該單元可以被布置有人工智能來分析圖像中的區(qū)域,以及這些區(qū)域中的哪一個可能在(特別是模式ii類型的)HDR編碼中產(chǎn)生特定問題。特別地,它可以標識可能易于產(chǎn)生條帶的區(qū)域和被充分紋理化的區(qū)域,以使得它們可以利用較少量的亮度和/或顏色分量代碼進行編碼。在一些應(yīng)用中,該單元可以自動地實現(xiàn)最終編碼問題(例如轉(zhuǎn)碼器)而無需任何人類分級者參與,但是在其他應(yīng)用中,它可以例如使區(qū)域處于分級者的注意之下,以使得他可以詳細檢查它們。當然,可以存在與用戶接口的交互,例如分級者可以指示他想要緩解特定區(qū)域或特定紋理的條帶,并且然后單元177可以提取這樣的區(qū)域以及其亮度范圍,等等。
如我們在圖2中可見的,盡管可以決定將最終色調(diào)映射函數(shù)編碼在元數(shù)據(jù)205中典型地保留LUT空間中,但是典型地將把靈敏度參數(shù)(例如200 ISO)或RHO值和伽馬值(例如2.8)分別編碼在靈敏度元數(shù)據(jù)字段202和伽馬元數(shù)據(jù)字段203中。圖2示意性地示出了圖像或視頻信號S_im(200)看起來如何,并且技術(shù)人員當然將知道在給定現(xiàn)有圖像數(shù)據(jù)容器等等的情況下那在實踐中可以被定義在許多數(shù)字變體中。我們的編碼器實施例使用像素顏色圖像(201)的經(jīng)典的3分量編碼,該圖像將是我們的分級者優(yōu)化的LDR外觀圖像。該LDR圖像LDR_o將典型地根據(jù)比如JPEG的圖像編碼標準化格式或比如MPEG-HEVC、VPI等等的標準化視頻編碼格式進行經(jīng)典地DCT編碼、游程長度編碼、格式化等等。技術(shù)熟練的讀者將理解,在比色上重新格式化以便能夠重新使用老式(或類似的將來)編碼技術(shù)作為一般概念是我們的發(fā)明的一部分,但是實際使用這樣的編碼中的哪一個并不那么重要。并且,我們的發(fā)明的另一部分是例如至少在恢復場景的Rec_HDR外觀時使數(shù)據(jù)有意義所需的元數(shù)據(jù)(因為LDR外觀在理論上可以直接用于驅(qū)動LDR顯示器,不需要另外的動態(tài)范圍處理而只需從Y'uv映射到某種設(shè)備有關(guān)的RGB空間編碼的比色重新定義)。
此外,分級者可以使用GAIN值(被共同編碼在增益元數(shù)據(jù)字段204中)以使得函數(shù)本身不需要從1.0到1.0進行映射。例如,增益可以指示定義在完整范圍[0,1]上的LDR圖像將如何被映射到HDR顯示器的[0,5000]范圍的僅僅比方說[0,1500]子范圍。以相反方式限制所使用的LDR范圍原則上也是可能的,盡管不太可能被使用。該增益可以用來使一些圖像不太亮,因為可以想象如果場景例如為有霧的場景,或者是在LDR中被合理變亮但是在HDR中需要保持暗的暗圖像。
這三個參數(shù)(RHO,GAM,GAI)已經(jīng)給出了M_HDR圖像到對應(yīng)到 LDR外觀圖像的非常有用的第一映射,具有粗略地全局明亮度或光照調(diào)整。這可以例如足夠用于廣播真實生活秀,其中最優(yōu)參數(shù)就在廣播開始前被確定。更多的關(guān)鍵用戶(比如電影制作者)可能想要對于外觀的更精細調(diào)節(jié)控制。他們可能想要指定比以上“l(fā)oggamma”函數(shù)更一般的色調(diào)映射函數(shù),在曲線中具有精細定位的彎曲,其可以將例如特定對象(例如,面部)的平均局部明亮度或?qū)Ρ榷忍岣叩剿锌沙尸F(xiàn)LDR光亮度(或更精確地它們的對應(yīng)亮度)的期望子范圍?;蛘?,局部斜率的指定可以以LDR外觀圖像中其他區(qū)域/對象的明亮度位置和對比度為代價而指定圖像中重要區(qū)域的某個感興趣子范圍BL中的期望對比度。
現(xiàn)在要理解的重要事情是,利用我們的模式-i(HDR外觀)系統(tǒng),分級者可以任意定義這樣的映射,因為我們僅僅需要導出LDR外觀圖像(這不是重建,但是可以以破壞數(shù)據(jù)的方式進行,如果分級者期望如此的話),因為在該編碼方案中我們已經(jīng)使HDR外觀圖像編碼為圖像信號S_im中的單獨圖像。然而,在模式iii系統(tǒng)中,我們需要執(zhí)行雙重準則:一方面,我們需要能夠以良好的質(zhì)量重建Rec_HDR圖像,但是另一方面,我們想要足夠的自由度來創(chuàng)建分級者可能期望的(并且然后經(jīng)??梢允欠浅S袆?chuàng)意的,如可以例如在電影罪惡之城2中看到的)大部分(如果不是全部的話)LDR外觀。
但是應(yīng)當理解,分級者利用其偏好的色調(diào)映射210實現(xiàn)了無論什么分級LDR_o,在老式編碼中這些輸出LDR亮度將經(jīng)歷經(jīng)典的均勻量化(和甚至DCT)。所以我們應(yīng)當小心不要創(chuàng)建在其范圍的一些部分上過于平坦的映射(即,局部導出的delta_LDR_out/delta_HDR_in不應(yīng)當太小,以使得要求的最小量的LDR亮度代碼被分配到該范圍delta_HDR_in或者對應(yīng)的delta_LDR_out),因為否則在LDR-2-HDR色調(diào)映射中提升該范圍時,我們將看到比如條帶或過分對比強烈之類的偽像和可見的DCT偽像。
我們可以具有控制機制,其具有用戶用來改變?nèi)我馍{(diào)映射的形狀的局部控制點的抗擾性(stiffness),但是這對于用戶而言不是令人愉快的,尤其是在被太粗糙地實現(xiàn)(當然如果分級者正在想要做出真正奇怪的映射曲線(例如不應(yīng)當做出的反轉(zhuǎn),比如N曲線)的話,系統(tǒng)可以發(fā)出警告)的情況下。
圖3中示出了一個有用的實施例,其闡述了技術(shù)色調(diào)映射單元106的行為,其可以用于確定第二LDR外觀,可替換地可由需要服務(wù)LDR顯示器的更智能的接收機用于確定LDR_o。我們假定分級者選擇了其期望的、給出適當LDR外觀的曲線,其是圖3中的實線曲線。如果色調(diào)映射曲線不好,這將意味著存在至少一個太平坦的范圍,在此我們假定其為最亮的HDR和LDR像素的部分R-u,比方說場景的天空。我們需要能夠在LDR中拉伸該范圍L_u,以使得可以分配稍許更多的亮度代碼,并且是以對于分級者而言盡可能非破壞性(很少改變其外觀)的方式。
這可以在存在包含更多紋理對象的相鄰范圍L_uu時完成。
這是走出以下難題的方式:我們的外觀曲線為了得到期望的LDR外觀而同時確定可用于忠實地對各種HDR區(qū)域紋理進行編碼的亮度代碼的量化或數(shù)目(場景中所有紋理的足夠忠實的表征是HDR編碼中編碼質(zhì)量的首要目標)。如果做的好的話,具有1024個不同的亮度/灰度水平(以及上百萬代碼)應(yīng)當足以非常好地針對人類視覺對所有紋理進行編碼。復雜的對象可以用相對較少的代碼進行編碼,因為眼睛首先看到粗糙的紋理圖案,并且然后不太會看到像素顏色的精確值。如果我們具有對其使用了太少代碼的亮度梯度,則只有在特別不利的情形下我們才會有問題。
所以在適配曲線時存在兩件事情:技術(shù)色調(diào)映射單元106典型地使適配在需要時在亮度軸上保持足夠局部,以使得我們不干擾太多對象顏色的亮度(例如避免使關(guān)鍵暗區(qū)域再次變暗太多)。用于該示例場景的質(zhì)量準則可以是:我們需要使暗顏色變亮以得到良好的LDR外觀,所以亮顏色的局部改變不會以任何方式干擾該LDR外觀。所以色調(diào)映射單元106將典型地在問題區(qū)附近的某個局部亮度子范圍中重新分布代碼,并且確定用于此的對應(yīng)的適配曲線,其為虛線(該曲線可以在其兩個圖像區(qū)域編碼部分中大致遵循原始曲線的形狀,即,如果對于天空亮度存在拋物線彎曲的局部形狀,則其可以典型地針對天空使用縮放的、較大的類似地彎曲的拋物線分段,但是那并不是絕對需要的,因為只有編碼精度是準則)。
所以我們需要稍許拉伸天空區(qū)域明亮度范圍,以便具有足夠的代碼用于忠實地對Rec_HDR藍色天空梯度進行編碼。但是多大程度上我們需要那樣做,并且我們應(yīng)當擴展調(diào)整范圍R_Adj多遠。
這取決于許多事情。當然,R_adj應(yīng)當覆蓋其中存在問題的區(qū)域,其典型地將是視覺上相對簡單的區(qū)域,諸如相對均勻的區(qū)域,諸如天空中的梯度(該藍色梯度將存在于沿著LDR亮度范圍的某處)。另一方面,我們必須需要被足夠紋理化的相鄰區(qū)域。在該相鄰區(qū)域是另一個平滑梯度這種不可能的情形(其可能發(fā)生在比如人工梯度測試圖像的合成圖像中,在該情況下我們將必須滿足于我們能夠得到的無論什么樣的最優(yōu)亮度分配,但是這典型地并不發(fā)生在自然圖像中)下,R_adj可以變得相對大。在其中我們很快遇到紋理化范圍的正常情形下,我們可以用范圍L_uu來擴展L_u,該范圍具有取決于我們必須增加多少代碼以及紋理圖案的復雜度的尺寸。如果我們需要增加僅僅3個代碼到天空,則我們需要在L_uu中保存3個亮度代碼,并且如果被充分紋理化,則取決于分級者或觀看者認為/可能認為可接受的范圍,我們可以在比方說10-15個亮度的范圍上那樣做。
裝置可以包含用于此的表格。
所以外觀曲線有關(guān)的亮度編碼的討厭問題現(xiàn)在大部分得以解決。一方面,我們并不使相鄰的較暗對象過于嚴重地變暗,因為我們通過擴展我們的天空范圍L_u而僅僅使L_uu的顏色在較高范圍上偏移一點點,但是主要地我們保持L_uu的較低部分相同,僅僅被采樣少一點,不管怎樣這并不是視覺上明顯的問題,因為不管怎樣紋理并不需要這么多的代碼。天空的拉伸的范圍可能有點次優(yōu),但是通常并不真的是問題,并且作為回報我們得到了改進質(zhì)量的Rec_HDR。但是所有這些仍然只有在我們在接收端不采取任何對策(例如,通過不能進行任何處理的接收機)的情況下才如此。因為在解碼器中我們可以在色調(diào)重新映射單元159中進行預(yù)補償策略。然后這將使得亮度分配成為分級者的藝術(shù)意圖的關(guān)切之外純粹的技術(shù)問題。因為色調(diào)重新映射單元159將在使用得到的所意圖的LDR外觀(LDR_ul)用于例如驅(qū)動LDR顯示器之前,把用于局部拉伸的校正再次應(yīng)用于壓縮。所以在其中我們將L_u的天空下限向下拉伸到相鄰范圍L_uu中的對象的明亮度(從而使那些對象變暗)的天空示例中,解碼器150的色調(diào)重新映射單元159將應(yīng)用301的逆映射作為校正。這意味著視覺上天空范圍將再次具有其原始的亮度范圍L_u以及當在LDR顯示器上呈現(xiàn)時正確的光亮度范圍,但它具有更大的精確度,因為被分配更多的紋理編碼亮度代碼。類似地在LDR_ul外觀中,具有L_uu中的相鄰明亮度的對象也將具有正確的非暗淡的明亮度,并且由于減少的代碼量而僅僅在精度上不同。而且,技術(shù)人員可以理解該技術(shù)在各種其他可能的情形下如何總是可以改進圖像中需要的那些區(qū)域中的編碼精度,同時保持分級者所意圖的LDR外觀LDR_ul。色調(diào)重新映射單元159需要能夠做的唯一事情就是例如借助于LUT向解碼的技術(shù)LDR_t應(yīng)用色調(diào)映射策略,該LUT可以被共同編碼在信號S_im中(或者被部分地編碼,如果可以從例如有限的一組控制點(例如定界線性分段)導出色調(diào)映射的話),并且因此應(yīng)當清楚的是為什么將該技術(shù)調(diào)整函數(shù)單獨地(Ff1,Ff2,…)編碼在S_im中是有利的,因為一旦它已經(jīng)在創(chuàng)作側(cè)被確定并被分級者接受且被傳送給接收側(cè),它就可以由解碼器用來甚至實現(xiàn)更合期望的LDR外觀LDR_ul。
主要地存在將能夠?qū)崿F(xiàn)以上內(nèi)容的兩類編碼器實施例。第一類主要地自動進行所有處理,并且不需要使用戶參與。平滑性和紋理檢測器將自動地對各種區(qū)域分類,并且所以識別天空中的梯度圖案和相鄰定位的(即,在位于L_u以下和/或以上的亮度范圍上)其他紋理化對象。各種紋理表征器可以被內(nèi)建以確定紋理的復雜度(例如,精細顆粒度,錯綜復雜的灰度值的量,等等),并且從其確定導致較少編碼亮度的干擾將在視覺上有多明顯,以及從其得到的所需的L_uu范圍。如所述的,這些偏好可以預(yù)先建立在以函數(shù)方式或者用LUT確定L_uu的公式中。同樣在一些實施例中,可以存在DCT或其他壓縮仿真器,例如其在針對R_adj和函數(shù)色調(diào)映射干擾形狀301的各種選擇下計算得到的解壓LDR圖像LDR_d,并且計算用于條帶和/或其他壓縮偽像的典型可見度(處于正常觀看范圍、顯示器尺寸、周圍明亮度等等)的嚴重性度量。紋理分析單元117可以針對此而存在,其典型地被布置成分析原始(LDR_o)和經(jīng)編碼的LDR_c兩者或者事實上將最終在接收端呈現(xiàn)的其解碼的LDR_d中的紋理以及特別地它們的視覺影響。特別地,可以使用由LDR-2-HDR顏色映射單元118進行的到HDR的重新映射來允許分級者在需要的情況下檢查視覺影響。如果分級者想要檢查該M_HDR作為Rec_HDR的可重建性,則他可以例如經(jīng)由HDR圖像輸出端119而在其HDR顯示器102上在時間上切換它們。事實上,解碼器可以具有若干輸出端(我們示出它們?yōu)閱为毜?,但是當然它們可以?nèi)部走線成僅僅一個輸出端)111,112,113,114以便能夠檢查LDR的各種版本。
具有技術(shù)重新分級的第二類編碼器可以直接使人類分級者參與。如果他已經(jīng)正在檢查自動算法的質(zhì)量,則他可以具有影響結(jié)果(即,典型地半自動地)的選項。這對于分級者應(yīng)當是簡單的,因為他可能想要更參與外觀的藝術(shù)確定,即對象亮度的布局,而不是比如壓縮偽像之類的技術(shù)問題(如果已經(jīng)想要查看這一點,并且盡管他將檢查一個或多個典型和批準的情景,沿圖像通信線路往下當然可能存在可能具有更多嚴重偽像的另外的壓縮)。
在這些編碼器實施例中,用戶接口單元105將典型地允許分級者指定對他來說尤其是問題區(qū)的幾何圖像區(qū)。例如,他可以涂寫穿過天空,并且直方圖分析和紋理分析單元然后將在進行其分析和技術(shù)更新部分色調(diào)映射曲線確定時聚焦于圖像的該部分。例如,它們可以依次提出向天空一次增加一些更多亮度代碼的策略,直到分級者滿意。例如,色調(diào)映射單元106的實施例算法可以將梯度(條帶敏感的)對象的該范圍乘以k=例如1.5,并且選擇紋理化圖像區(qū)域的鄰近范圍并將其壓縮成L_uu-1.5*L_u。即,可以使用兩個區(qū)域中的代碼的任何線性或曲線重新分布。L_uu可以選擇為至少例如3*L_u,這些值典型地由裝置設(shè)計者基于一組代表性圖像進行優(yōu)化。如果裝置的提議好的話,分級者就接受它,使得編碼器將對應(yīng)的參數(shù)存儲在S_im中,或者否則例如用k=1.1*1.5開始新的迭代。
干擾301將導致最終色調(diào)映射,最終技術(shù)分級LDR_i與其對應(yīng),所述最終技術(shù)分級LDR_i將是在根據(jù)我們的模式-ii HDR編碼系統(tǒng)進一步格式化之后被發(fā)送到通信系統(tǒng)中的LDR外觀,并且主要地對應(yīng)于分級者期望作為LDR外觀的東西。分級者參與的優(yōu)點在于他可以指示(至少用最少的參與)哪些區(qū)域在語義上更相關(guān)。統(tǒng)計紋理分析器可以確定在介于例如房間室內(nèi)的暗亮度與陽光明媚的室外的亮亮度之間的區(qū)域中實際上存在很少亮度(即,很少像素),并且因此決定應(yīng)用在那里應(yīng)用很少代碼的重新映射策略(在解碼器重新映射器159可以任意重建期望的LDR外觀的情況下,我們可能甚至使用強的技術(shù)變形曲線,其幾乎將整個很少使用的子范圍切出LDR_i編碼從而得出在LDR_i亮度值方面緊鄰的室內(nèi)和室外子范圍)。然而,如果在該小區(qū)域中碰巧存在重要對象(比如某人的面部)或者被稍許強調(diào)為比如出現(xiàn)對象的對象,則分級者可以抵消(counteract)它。若干實際實施例是可能的,例如他可以在我們的繪圖中在該區(qū)域附近涂寫一個矩形,并且然后撥動增加要用于該區(qū)域的亮度代碼量的撥盤。技術(shù)熟練的讀者將理解,存在各種其他用戶接口方式來選擇圖像或鏡頭中的關(guān)鍵區(qū)域或?qū)ο?,以及指示其?yīng)當如何用亮度來編碼,甚至直至分級者繪制或影響修改曲線301自身的形狀。
我們的模式-ii系統(tǒng)的其余部分如下:
可選地,動態(tài)范圍轉(zhuǎn)換單元可以進行某種顏色飽和度處理(例如,由于顏色豐富性隨著變暗而降低并且反之亦然,所以分級者可能想要補償由于亮度色調(diào)映射而變得稍許不適當?shù)娘柡投龋R粋€良好的實際示例性實施例利用非信息破壞性類型的一般飽和度函數(shù)而起作用。這是指該飽和度函數(shù)也在任何地方不過于平坦,所以其也可以被顛倒。但是在一些實施例中,飽和度函數(shù)可以僅需要被應(yīng)用于LDR-2-HDR升級中,并且然后它可以更加自由。在圖3中我們示出了從s_in到s_out的平滑的飽和度,其可以用LUT中的數(shù)個值S1,S2,S3而編碼在信號S_im中。這些可以是用于等距的s_in值的s_out值(足夠的量以使得在解碼器處可以合理地平滑地恢復期望的曲線),但是這也可以是例如函數(shù)形狀控制點。去飽和度函數(shù)可以例如被編碼為具有小于45度的斜率的線(在s_in對s_out的圖上)。在這樣的去飽和度情況下,圖像信號可以僅具有用于元數(shù)據(jù)中的乘數(shù)的整數(shù)或浮點值。我們假定在闡述性示例中,s_out將是HDR圖像的飽和度,并且我們需要提升場景的現(xiàn)在被變暗的較暗顏色的飽和度以提高顏色豐富性,但是技術(shù)人員可以理解,在相同的結(jié)構(gòu)編碼理念中可以存在不同的處理變體。為了闡述的簡單性起見,我們將假定飽和度是在uv空間中執(zhí)行的,例如無論亮度如何,我們可以執(zhí)行運算s_out=s_in+MS(s_in)*s_in。然后,MS(s_in)是可從如圖2b中所見的函數(shù)取回并且被編碼在LUT 206中的乘法值,其在與某個白色點相比的色彩(hue)方向上拉伸飽和度矢量。為了簡單起見我們假定我們在圓柱形空間中定義了我們的uv空間,其中最大飽和度在外圍(并且被編碼為1.0)。當然,技術(shù)人員將理解,我們可以在另一比色定義中對我們的飽和度策略進行編碼,或者給定該定義是例如在圓柱形Y'uv空間中的情況下,解碼器硬件或軟件的設(shè)計者可以選擇等同地在另一顏色空間(諸如基于RGB的YCrCb空間,等等)中實際執(zhí)行它。分級者也可以確定亮度有關(guān)飽和度策略(即,改變飽和度的函數(shù)、哪一個乘數(shù)隨所處理的顏色的光亮度而變化)并將其編碼在S_im中?;旧?,S_im的一個更先進的實施例將具有飽和度編碼結(jié)構(gòu)。這可以是例如基于web的定義,其對于數(shù)個關(guān)鍵色彩(例如6:RGBCYM)具有在亮度:MS(Y')上定義的乘法函數(shù)。由此其可以被編碼為類似于206的6個LUT的值,在接收端解碼器可以通過內(nèi)插確定用于色域中的所有顏色的飽和度策略。更復雜的策略可以甚至在徑向方向上引入飽和度的可變性。這可以通過簡單地以參數(shù)方式確定這些函數(shù)(類似于在圖2b中所見的,但是現(xiàn)在在色域中的亮度高度上可變)例如為偏置、伽馬、增益函數(shù)而容易地被編碼。在這種情況下,對于關(guān)鍵色彩,可以有:s_out=s_in+F(s_in,Y'),并且在例如三參數(shù)函數(shù)形狀控制的情況下,可以在S_im中將其編碼為指定例如飽和度_伽馬參數(shù)的亮度行為在Y'上變化的3x6個LUT,或者用于色彩的6個LUT,但是其中不是單個乘法值被編碼在每個位置,而是在數(shù)個位置i上連續(xù)地采樣色域中的可能亮度的三元組 [sat_offset(Y'_i),sat_gain(Y'_i),sat_gamma(Y'_i)]_LUT_of_yellow。
現(xiàn)在在編碼器(和對應(yīng)的解碼器)的一些實施例中,對于像素的顏色特性,存在可選的到u'v'的變換,我們現(xiàn)在將闡述它(但是其他實施例可以可替換地或附加地在例如R'G'B'或YCrCb等等中直接編碼,并且甚至內(nèi)部沒有可選的單元107;還應(yīng)注意,某個Yu'v'處理在數(shù)學上可以被重寫為等同的線性RGB處理)。
對動態(tài)范圍應(yīng)用了變換以創(chuàng)建正確的LDR外觀(例如在RGB空間或XYZ等等中),假定我們還沒有在Y'uv空間中進行映射,示例性闡述實施例的顏色變換單元107將進行到我們的u'v'表示的轉(zhuǎn)換,其中該顏色表示中的亮度Y'由我們的總色調(diào)映射函數(shù)確定(即,中間LDR圖像LDR_i的亮度),并且u、v根據(jù)上述等式確定。我們也可以在單元107中進行比色變換,其在設(shè)想不同的設(shè)備有關(guān)RGB或多原色空間時對顏色進行調(diào)理。例如,如果我們的M_HDR是用較小的RGB三角形編碼的,但是LDR是用于寬色域顯示器,則分級者可以已經(jīng)預(yù)定義飽和度提升策略,盡管情況將經(jīng)常是相反的,在該情況下單元107可以實現(xiàn)彩色色域映射。
最終得到的LDR_uv是用經(jīng)典LDR圖像或視頻壓縮器108編碼的,即,典型地DCT或小波變換的,等等。
該經(jīng)壓縮的圖像LDR_c被發(fā)送到格式化器116,其根據(jù)標準化格式在所應(yīng)用的映射函數(shù)上增加元數(shù)據(jù),以便它在接收側(cè)合適地可用。即,該格式化器增加靈敏度值(RHO或可替換地SENS),另外的色調(diào)映射用于精細調(diào)節(jié)典型地由人類分級者(盡管在進一步的將來,一些編碼器可以足夠智能而自己進行某種精細調(diào)節(jié))利用將參數(shù)205典型地定義為LUT的值(F1,F(xiàn)2,…) 的函數(shù)、飽和度編碼206(例如也是一組定義多線性函數(shù)的參數(shù))等等所確定的LDR外觀。
該另外的色調(diào)映射出于技術(shù)原因典型地被單獨存儲在圖像或視頻信號S_im中,優(yōu)選地作為一組整數(shù)或?qū)崝?shù)值207,其可以用來存儲例如256點或1024點LUT。
經(jīng)編碼的LDR_c可以被再次解碼為LDR_d,并且然后由顏色映射單元118升級以使得分級者可以經(jīng)由圖像輸出端119看到重建的HDR Rec_HDR在接收端將看起來什么樣。如果他期望如此的話,他可以甚至測試直到例如強壓縮的一些典型壓縮設(shè)置的影響。本文中描述的解碼器也可以用在重新編碼策略中,其中可以之前已經(jīng)準備好分級外觀,但是現(xiàn)在例如低質(zhì)量高壓縮LDR版本被重新確定用于某個特定的圖像/視頻通信應(yīng)用。次級分級者可以甚至重新調(diào)節(jié)參數(shù)。取決于他是否具有可用的原始M_HDR,他可以例如重新確定降級函數(shù)以實現(xiàn)新的更適當調(diào)整的LDR外觀(例如服務(wù)移動電話觀看者),并且事實上他可以甚至在僅具有良好的Rec_HDR可用而不是M_HDR時那樣做。分割技術(shù)分級部分以更適當?shù)胤峙淞炼却a對于這樣的情景而言非常有用。由于映射到LDR_o(和對應(yīng)的其接近重建LDR_ul)的函數(shù)確定實際的藝術(shù)LDR外觀,并且它們可以已經(jīng)由初級分級者在最初產(chǎn)生內(nèi)容的時刻或該時刻附近一勞永逸地確定。但是編碼器仍然可以自動地或在次級分級者參與的情況下半自動地確定具有比如301的小的修改的技術(shù)映射、以及對應(yīng)的LDR_i(或LDR_t)、以及S_im中的實數(shù)或整數(shù)值207組中的編碼元數(shù)據(jù)Ff1,F(xiàn)f2,其對于不同的技術(shù)限制(諸如比特量(例如,對于亮度通道僅8比特))而言當然可以不同。
解碼器150可以是(在例如在本闡述中)可連接到顯示器160或電視的機頂盒或計算機中的IC(所以當我們說解碼器時我們意圖覆蓋這個的任何小型實現(xiàn)(諸如“USB棒上的機頂盒” )或?qū)崿F(xiàn)并受益于我們的發(fā)明的任何大型裝置(諸如具有硬盤和光譜讀取設(shè)施的機頂盒),并且編碼器可以是從小型設(shè)備到大型分級系統(tǒng)等等的任何東西),但是當然電視可以不是?。╠umb)監(jiān)視器而是在其自己的IC中包括所有這個解碼技術(shù)。顯示器160可以是LDR顯示器或HDR顯示器,或者經(jīng)由任何圖像通信技術(shù)經(jīng)由圖像輸出端157連接(諸如例如無線流送到便攜式多媒體設(shè)備或?qū)I(yè)影院投影儀)的基本上任何顯示器。
解碼器經(jīng)由圖像輸入端158得到我們的格式化S_im,并且去格式化器151然后將在圖像LDR_c(圖2中的IMG)中分割它以用于由經(jīng)典的JPEG類或MPEG類解壓縮器152進行解壓縮,并且從元數(shù)據(jù)解壓縮參數(shù)P(例如,靈敏度設(shè)置1000,以及可以用來重建色調(diào)映射或飽和度映射函數(shù)形狀的一些值)??蛇x地在解碼器中的是色調(diào)重新映射單元159,因為由于該技術(shù)重新映射通常不是分級者意圖的LDR外觀LDR_ul的嚴重變形,所以一些解碼器可以承受忽略它。然而,完全HDR兼容的解碼器應(yīng)當使用該單元159來應(yīng)用被編碼在207的Ff值中的技術(shù)重新校正策略,以便得到正確的LDR外觀LDR_ul(其是LDR_o的接近近似)。該經(jīng)校正的LDR圖像(LDR_ul)轉(zhuǎn)到另一個顯示器顏色調(diào)節(jié)單元154。該單元154可以應(yīng)用所需的優(yōu)化用于特定的比方說1300nit寬色域顯示器(可調(diào)節(jié)性)。盡管變體是可能的,但是我們已經(jīng)針對我們的HDR編碼理念描繪了典型的解碼器,其具有用于恢復LDR_ul(或者如果159不存在,則其近似LDR_t)的圖像處理路徑,而且也具有用以確定Rec_HDR的第二圖像處理路徑。這是在動態(tài)范圍轉(zhuǎn)換單元153中完成的,其典型地應(yīng)用在編碼器處應(yīng)用的逆映射(實際上在信號中將典型地對該逆映射(即,升級)的參數(shù)進行編碼)。顯示器顏色調(diào)節(jié)單元154將典型地被布置成組合兩個分級中的信息,這可以基于使用僅僅一個圖像以及所述顏色映射參數(shù)P而完成,但是我們假定在該闡述實施例中其得到Rec_HDR和LDR_ul圖像作為輸入并且然后根據(jù)具有哪個峰值明亮度的哪個顯示器被連接且被供應(yīng)適當分級的圖像而內(nèi)插那些圖像。
除了用以獲得正確明亮度外觀的色調(diào)映射之外,可以典型地包括顏色變換單元155,其被布置成進行彩色適配以針對不同于編碼色域的顏色色域(例如Rec. 2020到DCI-P3或Rec. 709等等)進行優(yōu)化。
將經(jīng)由圖像輸出端157輸出并且因此由單元154計算的東西將當然取決于所連接的顯示器。如果它是LDR顯示器,則單元154可以當然在例如從Y'uv到特定的設(shè)備有關(guān)R'G'B'編碼的正確顏色重新映射(由單元155進行)之后發(fā)送例如LDR_ul。如果所連接的顯示器160接近于5000nit峰值明亮度顯示器(在WO 2013/046096中還參見關(guān)于解碼裝置如何可以向電視詢問其能力;控制器161可以與顯示器進行這樣的通信并且甚至與觀看者進行這樣的通信以獲得其偏好,并且可以被布置成配置顯示器調(diào)節(jié)單元154應(yīng)當如何表現(xiàn)以及其應(yīng)當計算和輸出哪種圖像外觀),則再次地在根據(jù)電視想要接收什么而進行合適的格式化之后可以輸出Rec_HDR外觀圖像(即,這可以仍然是Y'uv編碼,例如現(xiàn)在具有存儲在201/IMG中的HDR外觀圖像的我們的S_im格式,并且也可以發(fā)送一些函數(shù)元數(shù)據(jù)以使得電視可以基于關(guān)于分級如何在被編碼在該元數(shù)據(jù)中的一系列呈現(xiàn)可能性上變化的信息而進行某種最后外觀比色精細調(diào)節(jié),或者它可以已經(jīng)是R'G'B' HDR顯示器驅(qū)動圖像)。對于中間峰值明亮度顯示器而言,單元154可以輸出合適的驅(qū)動圖像,再次地為我們的Y'uv格式或者另一格式。
最后,內(nèi)容創(chuàng)建者可以在信號中規(guī)定他是否期望不應(yīng)跳過單元159的補償映射,例如因為內(nèi)容創(chuàng)建者認為LDR_t嚴重地偏離LDR_ul。這可以通過將布爾值209編碼在元數(shù)據(jù)的IGNORE_TECHNICAL_MAPPING字段中而完成。
讀者應(yīng)當清楚的是,在我們僅僅闡述了最小的一組參數(shù)的情況下,當然沿著相同的基本原理可以將若干組顏色映射函數(shù)元數(shù)據(jù)編碼在S_im中,例如一組用于從單獨圖像IMG(為LDR圖像)轉(zhuǎn)到例如[0-5000]nit的參考HDR外觀圖像,并且可以增加第二組以用于轉(zhuǎn)到例如1500nit MDR外觀。并且盡管進行靈敏度、伽馬、增益和另外的精細調(diào)節(jié)函數(shù)形狀的特定分解是有利的,并且至少對于技術(shù)闡述有好處,但是映射中的任何一個(例如映射LDR-2-MDR)可以以濃縮形式編碼在S_im中,例如通過僅僅填充色調(diào)映射LUT或值205的組,其編碼最終映射函數(shù)(即,靈敏度、精細調(diào)節(jié)和技術(shù)映射一起的所有東西)。
圖4示意性地示出了我們的解碼器核心單元400(在該示例中模式ii的最小部分,沒有技術(shù)分級或Yu'v'轉(zhuǎn)換等)的一個典型實施例。在解壓縮器401進行游程或算術(shù)解碼以及逆DCT等等之后,我們得到圖像LDR_t,我們假定其為伽馬2.2表示(即,具有根據(jù)Rec. 709定義的亮度或R'G'B'分量)并且被歸一化??梢源嬖诘谝豢刂茊卧?20,其可以將該圖像直接發(fā)送到所連接的LDR TV 410(直接意味著當然可以涉及某種老式格式化;原則上LDR_t也可以是例如線性圖像,在該情況下在將其發(fā)送到LDR顯示器之前將需要對其進行重新伽馬2.2映射,但是如果不需要如此的話可以是有利的;另外的色調(diào)映射函數(shù)將典型地取決于LDR_t是什么類型而不同,其也可以在S_im中用指示符IND_2來指示)。然后,第一色調(diào)映射單元402進行任意色調(diào)映射的逆映射,該函數(shù)形狀P_CC的定義參數(shù)在元數(shù)據(jù)MET(F)中被接收。然后,第二色調(diào)映射單元403通過例如利用接收的RHO值應(yīng)用上面的rho等式而進行使較暗顏色相對于較亮顏色變暗的色調(diào)映射。該單元也可以根據(jù)從所連接的HDR顯示器411接收的接收顯示器峰值明亮度PB_HDR計算RHO值。然后,第三色調(diào)映射單元404利用優(yōu)選地為例如2.4的接收的GAM值執(zhí)行伽馬冪函數(shù)。然后,乘法器405可以利用默認可以為1.0的GAI進行乘法。可選地,顏色飽和度處理器406可以進行某種飽和度處理。最后,控制單元421可以將圖像發(fā)送到HDR顯示器411,并且它可以進行某種另外的處理,例如以便根據(jù)顯示器理解的標準(例如在HDMI連接上)正確地對圖像格式化。
圖6示出了簡單的編碼器動態(tài)范圍轉(zhuǎn)換單元實施例。它包括用于將所有顏色分量歸一化到1(即,如果例如R、G和B被歸一化到1.0,則最大光亮度也將被歸一化到1.0,并且反之亦然)的歸一化單元601。HDR圖像像素的歸一化光亮度Yn_HDR(或者在等同的實施例中例如歸一化線性RGB分量)轉(zhuǎn)到利用如分級者(或自動分級單元)期望的、但通常固定到1/(2.4)的伽馬進行伽馬運算的第一色調(diào)映射器602。然后,第二色調(diào)映射器603進行變換,該變換例如利用具有適當?shù)腞HO因數(shù)的使HDR暗顏色適當?shù)刈兞?,該適當?shù)腞HO因數(shù)由分級系統(tǒng)取決于M_HDR與典型地100nit LDR(的峰值明亮度)之間的動態(tài)范圍差異而提出,并且典型地最終被分級者(他可以或可以不改變該最初提出的RHO值)接受。然后,通過使用第三色調(diào)映射器604,分級者看著圖像中的各個對象開始精細調(diào)節(jié),并且通過改變那些各個根據(jù)分級者認為重要的圖像對象的各個亮度而最終定義定制色調(diào)映射曲線CC。在所有數(shù)據(jù)準備好被編碼的情況下,這產(chǎn)生LDR_o圖像的亮度Yn_LDR。
本文中公開的算法組件在實踐中可以(全部或部分地)被實現(xiàn)為硬件(例如專用IC的部件)或者在特殊數(shù)字信號處理器或通用處理器等等上運行的軟件。
技術(shù)人員從我們的陳述中應(yīng)當可理解哪些組件可以是可選的改進并且可以與其他組件相組合地實現(xiàn),以及方法的(可選)步驟如何對應(yīng)于裝置的各個構(gòu)件,并且反之亦然。字詞“裝置”在本申請中在其最寬泛的意義上被使用,即允許實現(xiàn)特定目的的一組構(gòu)件,并且因此例如是IC(的一小部分)或者專用器具(諸如具有顯示器的器具),或者聯(lián)網(wǎng)系統(tǒng)的部分,等等。“布置”也意圖在最寬泛意義上被使用,所以它可以包括尤其是單個裝置、裝置的一部分、合作的裝置的集合(或部分),等等。
如指出的本實施例的計算機程序產(chǎn)品版本應(yīng)當理解為涵蓋命令集合的任何物理實現(xiàn),所述命令使得通用或?qū)S锰幚砥髟趯⒚钶斎氲教幚砥髦械囊幌盗醒b載步驟(其可以包括中間轉(zhuǎn)換步驟,諸如轉(zhuǎn)化成中間語言,以及最終處理器語言)之后能夠執(zhí)行發(fā)明的特性功能中的任一個。特別地,計算機程序產(chǎn)品可以被實現(xiàn)為諸如例如盤或磁帶之類的載體上的數(shù)據(jù)、存在于存儲器中的數(shù)據(jù)、經(jīng)由網(wǎng)絡(luò)連接(有線或無線)傳播的數(shù)據(jù)或者紙上的程序代碼。除了程序代碼之外,程序所要求的特性數(shù)據(jù)也可以被體現(xiàn)為計算機程序產(chǎn)品。應(yīng)當清楚的是,計算機是指能夠進行數(shù)據(jù)計算的任何設(shè)備,即其也可以是例如移動電話。而且,裝置權(quán)利要求可以覆蓋實施例的計算機實現(xiàn)版本。
方法的操作所要求的步驟中的一些可以已經(jīng)存在于處理器的功能中而不是被描述在計算機程序產(chǎn)品中,諸如數(shù)據(jù)輸入和輸出步驟。
應(yīng)當注意的是,上述實施例說明而不是限制本發(fā)明。在技術(shù)人員可以容易地實現(xiàn)所提出的示例到權(quán)利要求書的其他區(qū)域的映射的情況下,我們?yōu)榱撕啙嵠鹨姏]有深入地提到所有這些選項。除了如權(quán)利要求書中組合的本發(fā)明的元件組合之外,其他元件組合是可能的。元件的任何組合都可以被實現(xiàn)在單個專用元件中。
權(quán)利要求中括號之間的任何參考符號不意圖用于限制權(quán)利要求。字詞“包括”不排除未在權(quán)利要求中列出的元件或方面的存在。元件之前的字詞“一”或“一個”不排除多個這樣的元件的存在。