亚洲成年人黄色一级片,日本香港三级亚洲三级,黄色成人小视频,国产青草视频,国产一区二区久久精品,91在线免费公开视频,成年轻人网站色直接看

攝像裝置、攝像系統(tǒng)、攝像方法以及圖像處理方法與流程

文檔序號:11638314閱讀:247來源:國知局
攝像裝置、攝像系統(tǒng)、攝像方法以及圖像處理方法與流程
本發(fā)明涉及攝像裝置、攝像系統(tǒng)、攝像方法以及圖像處理方法,尤其涉及用于獲得表示攝影場景的景深的深度數(shù)據(jù)和光學(xué)模糊被降低之后的復(fù)原圖像數(shù)據(jù)的攝像裝置、攝像系統(tǒng)、攝像方法以及圖像處理方法。

背景技術(shù):
作為降低光學(xué)模糊、擴大對焦范圍的景深擴大(EDOF:ExtendedDepthofField)技術(shù),主要有以下的兩種方法。第一種方法是利用不隨景深變化的單一點擴散函數(shù)(PSF:PointSpreadFunction)的技術(shù)。具體是,利用具有可獲得不隨景深變化的PSF的結(jié)構(gòu)的光學(xué)系統(tǒng)來攝影圖像。然后,利用單一PSF對攝影圖像進行復(fù)原處理。以下,將該方法稱為景深不變量法。作為本方法中效率最高的方法之一,已開發(fā)出了利用在使對焦位置變化的同時攝影到的圖像的方法(FocalSweep或者FlexibleDepthofField(F-DOF))(參照非專利文獻1)。第二種方法是利用隨著景深變化的PSF的技術(shù)。具體是,在檢測攝影場景的景深(深度)的同時,利用與檢測出的景深對應(yīng)的PSF來對攝影圖像進行復(fù)原處理。以下,將該方法成為景深變量法。作為本方法的代表性方法,已開發(fā)出利用通過編碼光圈(CodedAperture)或者格狀焦點透鏡(LatticeFocalLens)攝影的圖像的方法(參照非專利文獻2以及3)。尤其是格狀焦點透鏡,已知其在這兩種方法中都能夠有效地擴大景深。并且,通過本方法可獲得通過深度不變量法所無法達到的效果,即,可同時獲得深度數(shù)據(jù)。通過這種EDOF技術(shù),能夠降低攝影圖像的焦點偏離區(qū)域中的光學(xué)模糊,并能夠擴大攝影圖像的景深。非專利文獻1:“FlexibleDepthofFieldPhotography”,H.Nagahara,S.Kuthirummal,C.Zhou,andS.K.Nayar,EuropeanConferenceonComputerVision(ECCV),Oct,2008非專利文獻2:“4DFrequencyAnalysisofComputationalCamerasforDepthofFieldExtension”,AnatLevin,SamuelW.Hasinoff,PaulGreen,F(xiàn)redoDurand,andWilliamT.FreemanACMTransactionsonGraphics(Proc.SIGGRAPH2009)非專利文獻3:“ImageandDepthfromaConventionalCamerawithaCodedAperture”,AnatLevin,RobFergus,F(xiàn)redoDurand,WilliamT.FreemanACMTransactionsonGraphics(Proc.SIGGRAPH2007)非專利文獻4:“CodedAperturePairsforDepthfromDefocus”,C.Zhou,S.Lin,andS.K.Nayar,IEEEInternationalConferenceonComputerVision(ICCV),Oct,2009

技術(shù)實現(xiàn)要素:
在所述現(xiàn)有技術(shù)中,有時會出現(xiàn)復(fù)原處理之后的攝影圖像(以下稱之為“復(fù)原圖像”)的畫質(zhì)低的情況。對此,本發(fā)明提供在從攝影圖像獲得復(fù)原圖像時,能夠提高復(fù)原圖像的畫質(zhì)的攝像裝置。本發(fā)明的一形態(tài)的攝像裝置是一種拍攝用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像的攝像裝置,該深度數(shù)據(jù)表示攝影場景的景深,該復(fù)原圖像數(shù)據(jù)是光學(xué)模糊被降低之后的圖像數(shù)據(jù),該攝像裝置具備:光學(xué)器件,旋轉(zhuǎn)前的該光學(xué)器件的光學(xué)模糊和旋轉(zhuǎn)后的該光學(xué)器件的光學(xué)模糊在二維平面空間具有不相同的光學(xué)特性;執(zhí)行器,使所述光學(xué)器件的一部分或者全部旋轉(zhuǎn);攝像部,每次所述光學(xué)器件一旋轉(zhuǎn),該攝像部就拍攝圖像,從而生成多個攝影圖像數(shù)據(jù),該多個攝影圖像數(shù)據(jù)能夠相互補充因光學(xué)模糊而丟失的圖像成分。在此,這些總括性的或者具體性的形態(tài)可由系統(tǒng)、方法、集成電路、計算機程序或者計算機可讀取的CD-ROM等記錄介質(zhì)實現(xiàn),也可由系統(tǒng)、方法、集成電路、計算機程序或者記錄介質(zhì)的任意組合來實現(xiàn)。根據(jù)本發(fā)明的一形態(tài)的攝像裝置,能夠提高復(fù)原圖像的畫質(zhì)。附圖說明圖1是表示實施方式所涉及的攝像系統(tǒng)的結(jié)構(gòu)的一個例子的圖。圖2是表示實施方式所涉及的攝像裝置的結(jié)構(gòu)的方框圖。圖3是表示實施方式所涉及的光學(xué)器件中包含的透鏡的一個例子的外觀圖。圖4是用于說明實施方式所涉及的光學(xué)器件的一個例子的圖。圖5是表示實施方式所涉及的光學(xué)器件的光學(xué)模糊的一個例子的圖。圖6是表示實施方式所涉及的光學(xué)器件中包含的光圈的一個例子的外觀圖。圖7是表示實施方式所涉及的光學(xué)器件的旋轉(zhuǎn)的一個例子的圖。圖8是表示實施方式所涉及的攝像裝置的處理動作的流程圖。圖9是用于說明實施方式所涉及的攝像裝置的處理動作的圖。圖10是表示實施方式表現(xiàn)涉及的圖像處理裝置的構(gòu)成的方框圖。圖11是表示實施方式所涉及的圖像處理裝置的處理動作的流程圖。具體實施方式(本發(fā)明的基礎(chǔ)知識)本發(fā)明的發(fā)明者發(fā)現(xiàn)所述深度變量法與深度不變量法相比,其中存在通過復(fù)原處理所獲得的復(fù)原圖像的畫質(zhì)低的問題。以下,就該問題進行說明。在所述深度變量法中,利用攝影圖像的空間頻率成分的值成為零或接近零的值的特性,來檢測攝影場景的景深(深度數(shù)據(jù))。即,光學(xué)器件必須具有攝影圖像中的一部分頻率成分欠缺或者明顯受損的結(jié)構(gòu)。但是,如果對這種一部分空間頻率成分欠缺或者明顯受損的攝影圖像進行復(fù)原處理,無法使該空間頻率成分復(fù)原。其結(jié)果,復(fù)原圖像的畫質(zhì)降低。具體是,在拍攝了具有該空間頻率成分的被攝體的情況下,該部分被復(fù)原成模糊狀態(tài),或者被復(fù)原成振鈴失真的狀態(tài)。對此,本發(fā)明提供在從攝影圖像獲得模糊被降低的復(fù)原圖像的情況下,能夠拍攝用于提高復(fù)原圖像的畫質(zhì)的圖像的攝像裝置或者攝像方法,以及能夠提高復(fù)原圖像的畫質(zhì)的攝像系統(tǒng)或者圖像處理方法。本發(fā)明的一形態(tài)的攝像裝置是一種拍攝用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像的攝像裝置,該深度數(shù)據(jù)表示攝影場景的景深,該復(fù)原圖像數(shù)據(jù)是光學(xué)模糊被降低之后的圖像數(shù)據(jù),該攝像裝置具備:光學(xué)器件,旋轉(zhuǎn)前的該光學(xué)器件的光學(xué)模糊和旋轉(zhuǎn)后的該光學(xué)器件的光學(xué)模糊在二維平面空間具有不相同的光學(xué)特性;執(zhí)行器,使所述光學(xué)器件的一部分或者全部旋轉(zhuǎn);攝像部,每次所述光學(xué)器件一旋轉(zhuǎn),該攝像部就拍攝圖像,從而生成多個攝影圖像數(shù)據(jù),該多個攝影圖像數(shù)據(jù)能夠相互補充因光學(xué)模糊而丟失的圖像成分。根據(jù)該結(jié)構(gòu),光學(xué)器件具有旋轉(zhuǎn)非對稱形狀的光學(xué)模糊。即,旋轉(zhuǎn)前的光學(xué)器件的光學(xué)模糊和旋轉(zhuǎn)后的光學(xué)器件的光學(xué)模糊在二維平面空間具有不相同的光學(xué)特性。因此,在每當(dāng)光學(xué)器件旋轉(zhuǎn)時拍攝的多個圖像中,二維平面空間上因光學(xué)模糊而丟失的圖像成分也不相同。從而,多個攝影圖像數(shù)據(jù)能夠相互補充因光學(xué)模糊而丟失的圖像成分。如果使用這種多個攝影圖像數(shù)據(jù)來生成復(fù)原圖像數(shù)據(jù),可使復(fù)原圖像的畫質(zhì)提高。并且,根據(jù)該結(jié)構(gòu),提高使光學(xué)器件單純地旋轉(zhuǎn),就能使光學(xué)器件的光學(xué)模糊變化。因此,無需為了拍攝圖像而特意更換光學(xué)器件,能夠簡單地拍攝到用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像。另外,能夠使光學(xué)器件的光學(xué)模糊的形狀在比較短的時間內(nèi)變化,因此能夠?qū)崿F(xiàn)感應(yīng)性優(yōu)良的攝像裝置。另外,優(yōu)選為,所述光學(xué)模糊由PSF(PointSpreadFunction)表示,所述光學(xué)器件具有所述點擴散函數(shù)根據(jù)景深而變化的結(jié)構(gòu)。結(jié)構(gòu)該結(jié)構(gòu),可使PSF根據(jù)景深而變化。即,光學(xué)器件無需具有PSF不根據(jù)深像變化的結(jié)構(gòu),因此能夠簡化光學(xué)器件的結(jié)構(gòu)。另外,優(yōu)選為,所述光學(xué)器件構(gòu)成為,空間頻域中的、所述點擴散函數(shù)的一部分頻率成分的值為規(guī)定閾值以下的頻率存在一處以上。根據(jù)該結(jié)構(gòu),容許在空間頻域中PSF的一部分頻率成分的值成為規(guī)定閾值以下的頻率存在。因此,能夠使光學(xué)器件的設(shè)計或者結(jié)構(gòu)變得簡單。另外,優(yōu)選是,所述光學(xué)器件具有,在空間頻域中所述點擴散函數(shù)的一部分頻率成分的值成為規(guī)定閾值以下的頻率的值以及數(shù)量的至少一方根據(jù)景深而變化的結(jié)構(gòu)。根據(jù)該結(jié)構(gòu),能夠使在空間頻域中所述PSF的一部分頻率成分的值成為規(guī)定閾值以下的頻率的值以及數(shù)量的至少一方根據(jù)景深而變化。因此,通過在攝影圖像數(shù)據(jù)中確定出空間頻率成分欠缺或者明顯受損的頻率,能夠高精度地生成深度數(shù)據(jù)。即,可在高精度地生成深度數(shù)據(jù)的同時,使復(fù)原圖像數(shù)據(jù)的畫質(zhì)提高。另外,優(yōu)選是,所述光學(xué)器件具有,在空間區(qū)域中所述PSF具有多個峰值的結(jié)構(gòu)。根據(jù)該結(jié)構(gòu),能夠以在空間區(qū)域PSF具有多個頂峰的方式構(gòu)成光學(xué)器件。因此,能夠提高對丟失的圖像成分的補充效果,該丟失的圖像成分是指在光學(xué)器件每當(dāng)旋轉(zhuǎn)時拍攝的多個圖像中因光學(xué)模糊而丟失的圖像成分。另外,優(yōu)選為,所述光學(xué)器件包含透鏡,該透鏡具有多個區(qū)域,該多個區(qū)域的各自的對焦位置互不相同。根據(jù)該結(jié)構(gòu),光學(xué)器件能夠包含對焦位置互不相同的多個區(qū)域的透鏡。如果使用通過這種透鏡拍攝的圖像來擴大景深,與使用通過一邊使對焦位置變化一邊拍攝的圖像來擴大景深的情況相比,能夠以更少的光量有效擴大景深,從而可獲得信噪比高的復(fù)原圖像。另外,優(yōu)選是,所述光學(xué)器件包含形成有多個開口的光圈。根據(jù)該結(jié)構(gòu),能夠使光學(xué)器件包含形成有多個開口的光圈。因此,能夠簡化光學(xué)器件的結(jié)構(gòu)。另外,本發(fā)明的一形態(tài)所涉及的攝像系統(tǒng)具備所述攝像裝置和圖像處理裝置,該圖像處理裝置通過對由所述攝像裝置生成的多個攝影圖像數(shù)據(jù)進行處理,生成所述深度數(shù)據(jù)和所述復(fù)原圖像數(shù)據(jù),所述圖像處理裝置具備:深度數(shù)據(jù)生成部,根據(jù)所述多個攝影圖像數(shù)據(jù)的至少一個攝影圖像數(shù)據(jù)中的、空間頻率成分的值為規(guī)定閾值以下的頻率,生成所述深度數(shù)據(jù);復(fù)原處理部,根據(jù)與所述多個攝影圖像數(shù)據(jù)對應(yīng)的光學(xué)模糊,對所述多個圖像數(shù)據(jù)進行復(fù)原處理,從而生成所述復(fù)原圖像數(shù)據(jù)。根據(jù)該結(jié)構(gòu),除了可獲得與所述攝像裝置相同的效果之外,通過使用由所述攝像裝置生成的攝影圖像數(shù)據(jù),還能夠生成深度數(shù)據(jù)和高畫質(zhì)的復(fù)原圖像數(shù)據(jù)。另外,本發(fā)明的一形態(tài)所涉及的攝像方法是一種利用具備光學(xué)器件和執(zhí)行器的攝像裝置來拍攝用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像的攝像方法,旋轉(zhuǎn)前的該光學(xué)器件的光學(xué)模糊和旋轉(zhuǎn)后的該光學(xué)器件的光學(xué)模糊在二維平面空間具有不相同的光學(xué)特性,該執(zhí)行器使所述光學(xué)器件旋轉(zhuǎn),該深度數(shù)據(jù)表示攝影場景的景深,該復(fù)原圖像數(shù)據(jù)是光學(xué)模糊被降低之后的圖像數(shù)據(jù),該攝像方法包括:第一拍攝步驟,拍攝圖像:旋轉(zhuǎn)步驟,介由所述執(zhí)行器,使所述光學(xué)器件的一部分或者全部旋轉(zhuǎn);第二拍攝步驟,在所述光學(xué)器件旋轉(zhuǎn)之后拍攝圖像。由此,能夠獲得與所述攝像裝置相同的效果。另外,本發(fā)明的一形態(tài)所涉及的圖像處理方法是一種利用具備光學(xué)器件和執(zhí)行器的攝像裝置來拍攝圖像并對拍攝的圖像進行處理的圖像處理方法,旋轉(zhuǎn)前的該光學(xué)器件的光學(xué)模糊和旋轉(zhuǎn)后的該光學(xué)器件的光學(xué)模糊在二維平面空間具有不相同的光學(xué)特性,該執(zhí)行器使所述光學(xué)器件旋轉(zhuǎn),該圖像處理方法包括:第一拍攝步驟,通過拍攝圖像,生成第一攝影圖像數(shù)據(jù);旋轉(zhuǎn)步驟,介由所述執(zhí)行器,使所述光學(xué)器件的一部分或者全部旋轉(zhuǎn);第二拍攝步驟,通過在所述光學(xué)器件旋轉(zhuǎn)之后拍攝圖像,生成第二攝影圖像數(shù)據(jù);深度數(shù)據(jù)生成步驟,根據(jù)空間頻率成分的值在所述第一攝影圖像數(shù)據(jù)以及所述第二攝影圖像數(shù)據(jù)的至少一方中成為規(guī)定閾值以下的頻率,來生成表示攝影場景的景深的深度數(shù)據(jù);復(fù)原步驟,根據(jù)與所述第一攝影圖像數(shù)據(jù)以及第二攝影圖像數(shù)據(jù)對應(yīng)的光學(xué)模糊,對所述多個圖像數(shù)據(jù)進行復(fù)原處理,從而生成復(fù)原圖像數(shù)據(jù)。由此,能夠獲得與所述攝像系統(tǒng)相同的效果。以下,關(guān)于實施方式,根據(jù)附圖進行詳細(xì)說明。以下將說明的實施方式均表示總括性或者具體性的一個例子。以下的實施方式中出現(xiàn)的數(shù)值、形狀、材料、結(jié)構(gòu)要素、構(gòu)成要素的配置以及連接形態(tài)、步驟、步驟的順序等也都表示一個例子,并不意味權(quán)利范圍限定于此。另外,關(guān)于以下的實施方式的結(jié)構(gòu)要素中的未被記載于表示本發(fā)明最上位概念的獨立請求要求項中的結(jié)構(gòu)要素,將其作為任意的結(jié)構(gòu)要素進行說明。(實施方式)圖1是表示實施方式所涉及的攝像系統(tǒng)的結(jié)構(gòu)的方框圖。如圖1所示,攝像系統(tǒng)10具備攝像裝置100和圖像處理裝置200。該攝像系統(tǒng)10,也可稱之為攝像圖像處理裝置。攝像裝置100拍攝用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像。具體是,攝像裝置100例如是數(shù)字靜態(tài)相機或者數(shù)字?jǐn)z像機等。深度數(shù)據(jù)是表示攝影場景的景深的數(shù)據(jù)。即,深度數(shù)據(jù)是按每個像素或者每個區(qū)域來表示從攝像裝置100到被攝體的距離的數(shù)據(jù)。該深度數(shù)據(jù)是在圖像處理中有用的數(shù)據(jù)。例如,深度數(shù)據(jù)被利用于將二維圖像數(shù)據(jù)變換成具有右眼用圖像以及左眼用圖像的三維圖像數(shù)據(jù)。另外,該深度數(shù)據(jù)也可以被利用于,確定二維數(shù)據(jù)中與背景對應(yīng)的區(qū)域,并僅使確定的區(qū)域暈映的圖像處理。復(fù)原圖像數(shù)據(jù)是通過對圖像進行復(fù)原處理而獲得的圖像數(shù)據(jù)。在此,復(fù)原處理是指降低圖像的模糊,使圖像鮮明化的處理。本發(fā)明的復(fù)原圖像數(shù)據(jù)是指通過復(fù)原處理降低光學(xué)模糊之后的圖像數(shù)據(jù),即,景深比攝影圖像數(shù)據(jù)擴大之后的圖像數(shù)據(jù)。圖像處理裝置200從攝像裝置100取得多個攝影圖像數(shù)據(jù)。具體是,圖像處理裝置200,例如是個人計算機或者是云服務(wù)器等。圖像處理裝置200例如通過有線以及無線網(wǎng)絡(luò),或者記錄介質(zhì)等,從攝像裝置100取得多個攝影圖像數(shù)據(jù)。然后,圖像處理裝置200通過對由攝像裝置100生成的多個攝影圖像數(shù)據(jù)進行處理,生成深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)。另外,并非一定要作為獨立體裝置來實現(xiàn)攝像裝置100和圖像處理裝置200。例如,圖像處理裝置200也可以被內(nèi)置于攝像裝置100中。在此情況下,可以作為1個集成電路來實現(xiàn)圖像處理裝置200。以下,首先關(guān)于攝像裝置100的詳細(xì)結(jié)構(gòu)進行說明。圖2是表示實施方式所涉及的攝像裝置的功能結(jié)構(gòu)的方框圖。如圖2所示,攝像裝置100具備光學(xué)器件110、執(zhí)行器120和攝像部130。以下,關(guān)于攝像裝置100所具備的各結(jié)構(gòu)要素進行說明。光學(xué)器件110被配置成可旋轉(zhuǎn)的方式。在本實施方式中,光學(xué)器件110被配置成可以圍繞著與光軸平行的軸旋轉(zhuǎn)的方式。在此,旋轉(zhuǎn)軸并非必須與光軸平行。即,沒有必要將光學(xué)器件110的旋轉(zhuǎn)軸限定于特定方向。另外,光學(xué)器件110具有旋轉(zhuǎn)非對稱形狀的光學(xué)模糊。即,光學(xué)器件110具有,旋轉(zhuǎn)時其光學(xué)模糊的形狀也發(fā)生旋轉(zhuǎn)等變化的結(jié)構(gòu)。在本實施方式中,光學(xué)模糊由PSF表示。另外,光學(xué)器件110具有PSF根據(jù)景深而變化的結(jié)構(gòu)。即,光學(xué)器件110PSF依賴于景深。具體是,光學(xué)器件110例如可以包含透鏡,該透鏡具有多個區(qū)域,該多個區(qū)域的各自的對焦位置互不相同。即,光學(xué)器件110例如可以包含格狀焦點透鏡。在此,關(guān)于光學(xué)器件110,參照圖3~圖5,以光學(xué)器件110包含具有對焦位置互不相同的多個區(qū)域的透鏡的情況為一例進行說明。圖3是表示實施方式所涉及的光學(xué)器件中包含的透鏡的一個例子的外觀圖。在此,光學(xué)器件110中包含的透鏡111是具有對焦位置互不相同的4個區(qū)域111a至111d的透鏡。具體是,透鏡111是具有表面的傾斜角度互不相同的4個區(qū)域111a至111d的矩形板狀的透鏡。該透鏡111相當(dāng)于非專利文獻3中的格狀焦點透鏡。如果利用通過格狀焦點透鏡攝影的圖像來擴大景深,與利用一邊使對焦位置變化一邊攝影的圖像來擴大景深的情況相比,能夠以更少的光量更有效地擴大景深,因此可獲得信噪比高的復(fù)原圖像。圖4是用于說明實施方式所涉及的光學(xué)器件的一個例子的圖。具體是,圖4表示射入光學(xué)器件110的光的前進方向。另外,為了便于說明,在此假設(shè)為透鏡111的4個區(qū)域111a~111d在與光軸垂直的方向上被排列配置。從圖4可明顯看出,由于各區(qū)域的對焦位置不同,因此通過各區(qū)域之后的光的模糊方式也不同。例如,在攝像面是A或者B的位置的情況下,1個物體的像被形成為相離散且模糊方式互不相同的多個像。即,光學(xué)器件110被構(gòu)成為,PSF在空間區(qū)域內(nèi)具有多個頂峰的方式。圖5是表示實施方式所涉及的光學(xué)器件的光學(xué)模糊的一個例子的圖。具體是,圖5是表示光學(xué)器件110的PSF、OTF(光學(xué)傳遞函數(shù):OpticalTransferFunction)以及MTF(ModulationTransferFunction)的圖。OTF是對PSF進行傅里葉變換之后的函數(shù)的大小。即,OTF是在空間頻域表示PSF時的振幅值。另外,MTF是在特定的空間軸方向上對OTF進行剖面切割的結(jié)果。圖5的MTF表示在該圖的OTF是X軸方向(橫軸方向)的空間頻率特性。如圖5所示,光學(xué)器件110的PSF具有旋轉(zhuǎn)非對稱的形狀。即,光學(xué)器件110被構(gòu)成為PSF具有旋轉(zhuǎn)非對稱形狀的方式。另外,光學(xué)器件110的PSF根據(jù)景深而變化。即,光學(xué)器件110被構(gòu)成為PSF根據(jù)景深而變化的方式。另外,從圖5的MTF可知,在PSF中空間頻率成分的值成為規(guī)定閾值以下的頻率存在1處以上。即,光學(xué)器件110被構(gòu)成為,在空間頻域中PSF的一部分頻率成分的值成為規(guī)定閾值以下的頻率存在1處以上的方式。該規(guī)定閾值是零或者非常接近零的值。以下,這種根據(jù)空間頻率成分的值成為規(guī)定閾值以下的頻率而確定出的頻域上的點也稱之為零點。該零點的位置以及數(shù)量的至少一方根據(jù)景深而變化。即,光學(xué)器件110被構(gòu)成為,在空間頻域中PSF的一部分頻率成分的值成為閾值以下的頻率的值以及數(shù)量的至少一方隨著景深而變化方式。另外,從OTF可看出,光學(xué)器件110被構(gòu)成為,在空間區(qū)域中PSF具有多個頂峰的方式。另外,圖3至圖5中說明的光學(xué)器件110表示一例,光學(xué)器件110并非一定要包含這種透鏡111。例如,光學(xué)器件110中包含的透鏡111并非必須要有4個區(qū)域。透鏡111還可以具有對焦位置互不相同的2個或者3個,或者5個以上的區(qū)域。另外,透鏡111并非必須是矩形板狀的透鏡。例如,透鏡111也可以是圓板形狀。再例如,透鏡111也可以是像棱鏡那樣的立體形狀。另外,透鏡111并非必須具有表面的傾斜角度互不相同的多個區(qū)域。例如,透鏡111可以具有曲面形狀互不相同的多個區(qū)域。再例如,透鏡111可以具有每個區(qū)域由折射率不同的材質(zhì)構(gòu)成的多個區(qū)域。另外,光學(xué)器件110可以包含取代透鏡111的多焦點透鏡。另外,光學(xué)器件110可以包含利用像散和場曲等各種透鏡像差的透鏡。在這種情況下,光學(xué)器件110如圖5所示,也能夠被構(gòu)成為具有可在不同空間方向構(gòu)成不同的非對稱模糊的PSF的方式。另外,光學(xué)器件110可以包含取代透鏡111的一般的焦點透鏡和如圖6所示的光圈。或者,光學(xué)器件110可以包含透鏡111和如圖6所示的光圈的兩者。圖6是表示實施方式所涉及的光學(xué)器件中包含的光圈的一個例子的外觀圖。在光圈112上形成有多個開口。該光圈112相當(dāng)于非專利文獻2中的編碼光圈。在這種光學(xué)器件110中包含光圈112的情況下,光學(xué)器件110也能夠被構(gòu)成為具有如圖5所示的控制不同的空間方向構(gòu)成不同的非對稱模糊的PSF的方式。另外,光圈112是光學(xué)器件110中包含的光圈的一個例子,并非必須是如圖6所示的光圈。即,在光圈上形成的開口的個數(shù)以及形狀并非必須是如圖6所示的個數(shù)以及形狀。以下,關(guān)于圖2的攝像裝置100所具備的執(zhí)行器120進行說明。執(zhí)行器120使光學(xué)器件110的一部分或者全部旋轉(zhuǎn)。具體是,執(zhí)行器120根據(jù)來自攝像部130的旋轉(zhuǎn)控制信號,利用例如由電磁石等產(chǎn)生的動力來使光學(xué)器件110旋轉(zhuǎn)。如上所述,光學(xué)器件110的PSF具有旋轉(zhuǎn)非對稱的形狀。因此,執(zhí)行器120通過使光學(xué)器件110的一部分或者全部旋轉(zhuǎn),能夠使光學(xué)器件110的PSF的形狀變化。圖7是表示實施方式所涉及的光學(xué)器件旋轉(zhuǎn)的一個例子的圖。具體是,圖7是從被攝體側(cè)觀察旋轉(zhuǎn)前后的光學(xué)器件110的圖。在圖7中,執(zhí)行器120通過使光學(xué)器件110旋轉(zhuǎn),將使表示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度從第一角度θ1變化成第二角度θ2。在此,如圖7(a)所示,將表示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度為第一角度θ1時的光學(xué)器件110的旋轉(zhuǎn)方向的位置,稱為基準(zhǔn)位置。另外,如圖7(b)所示,將表示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度為第二角度θ2時的光學(xué)器件110的旋轉(zhuǎn)方向的位置,稱為旋轉(zhuǎn)位置。在圖7中,光學(xué)器件110的旋轉(zhuǎn)角為90度,但并非必須是90度。即,執(zhí)行器120只要能使光學(xué)器件110的PSF的形狀變化,可以使光學(xué)器件110旋轉(zhuǎn)任意的旋轉(zhuǎn)角度。以下,關(guān)于圖2的攝像裝置100所具備的攝像部130進行說明。每次光學(xué)器件110一旋轉(zhuǎn),攝像部130就拍攝圖像,從而生成多個攝影圖像數(shù)據(jù)。具體是,攝像部130在光學(xué)器件110的旋轉(zhuǎn)方向的位置是基準(zhǔn)位置時拍攝圖像,然后,在光學(xué)器件110的旋轉(zhuǎn)方向的位置是旋轉(zhuǎn)位置時再次拍攝圖像。如圖2所示,攝像部130具備快門131、攝像元件132和控制部133??扉T131控制向攝像元件132射入的光。具體是,快門131通過進行開關(guān)動作,使通過了光學(xué)器件110的光在拍攝時通過,而在非拍攝時遮斷該光。在此,快門131根據(jù)來自控制部133的快門控制信號進行開關(guān)動作。攝像元件132例如是CCD(ChargeCoupledDevice)圖像傳感器或者CMOS(ComplementaryMetalOxideSemiconductor)圖像傳感器等的固體攝像元件。攝像元件132通過將射入的光變換成電信號來拍攝圖像??刂撇?33控制攝像裝置100。具體是,控制部133根據(jù)例如快門按鍵被按壓的情況等,向快門131輸出快門控制信號,從而使快門131開或者關(guān)。另外,控制部133通過向執(zhí)行器120輸出旋轉(zhuǎn)控制信號,來由執(zhí)行器120旋轉(zhuǎn)光學(xué)器件110。以下,關(guān)于具有如上所述的結(jié)構(gòu)的攝像裝置100的動作進行說明。圖8是表示實施方式所涉及的攝像裝置的處理動作的流程圖。在圖8中,說明光學(xué)器件110的旋轉(zhuǎn)方向的初期位置為基準(zhǔn)位置的情況。首先,攝像部130通過拍攝圖像,來生成第一攝影圖像數(shù)據(jù)(S101)。即,攝像部130在光學(xué)器件110的旋轉(zhuǎn)方向的位置為基準(zhǔn)位置時拍攝圖像。即,攝像部130在表示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度為第一角度θ1時拍攝圖像。接下來,攝像部130介由執(zhí)行器120,使光學(xué)器件110的一部分或者全部旋轉(zhuǎn)(S102)。即,攝像部130使光學(xué)器件110的旋轉(zhuǎn)方向的位置從基準(zhǔn)位置變化為旋轉(zhuǎn)位置。即,攝像部130使表示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度從第一角度θ1變化為第二角度θ2。最后,攝像部130在步驟S102使光學(xué)器件110旋轉(zhuǎn)之后拍攝圖像,從而生成第二攝影圖像數(shù)據(jù)(S103)。即,攝像部130在光學(xué)器件110的旋轉(zhuǎn)方向的位置為旋轉(zhuǎn)位置時拍攝圖像。即,攝像部130在表示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度為第二角度θ2時拍攝圖像。通過以上,攝像裝置100能夠獲得多個攝影圖像數(shù)據(jù),這些多個攝影圖像數(shù)據(jù)用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的。接下來,說明攝像部130的這些處理動作的具體例。圖9是用于說明實施方式所涉及的攝像裝置的處理動作的圖。在光學(xué)器件110的旋轉(zhuǎn)方向的位置并非是基準(zhǔn)位置的情況下,首先,控制部133生成用于使光學(xué)器件110的旋轉(zhuǎn)方向的位置成為基準(zhǔn)位置的旋轉(zhuǎn)控制信號,并輸出到執(zhí)行器120(時刻t1)。執(zhí)行器120根據(jù)來自控制部133的旋轉(zhuǎn)控制信號,使光學(xué)器件110旋轉(zhuǎn)(時刻t1~t2)。其結(jié)果,光學(xué)器件110的旋轉(zhuǎn)方向的位置成為如圖7(a)所示的基準(zhǔn)位置。在本實施方式中,表示顯示光學(xué)器件110的旋轉(zhuǎn)方向的位置的角度成為第一角度θ1。其次,控制部133生成用于使快門開關(guān)的快門控制信號,并輸出到快門131(時刻t3)??扉T131根據(jù)從來自控制部133的快門控制信號,通過在一定期間內(nèi)開放快門,使通過了光學(xué)器件110的光射入攝像元件132(時刻t3~t4)。即,攝像部130通過在光學(xué)器件110的旋轉(zhuǎn)方向的位置為基準(zhǔn)位置時拍攝圖像,來生成第一攝影圖像數(shù)據(jù)??刂撇?33生成用于使光學(xué)器件110的旋轉(zhuǎn)方向的位置從基準(zhǔn)位置變化為旋轉(zhuǎn)位置的旋轉(zhuǎn)控制信號,并輸出到執(zhí)行器120(時刻t4)。即,控制部133生成用于使光學(xué)器件110的旋轉(zhuǎn)方向的位置從基準(zhǔn)位置變化為旋轉(zhuǎn)位置的旋轉(zhuǎn)控制信號。執(zhí)行器120根據(jù)旋轉(zhuǎn)控制信號,使光學(xué)器件110的一部分或者全部旋轉(zhuǎn)(時刻t4~t5)。其結(jié)果,光學(xué)器件110的旋轉(zhuǎn)方向的位置變化為如圖7(b)所示的旋轉(zhuǎn)位置。控制部133生成用于使快門開關(guān)的快門控制信號,并輸出到快門131(時刻t6)??扉T131根據(jù)來自控制部133的快門控制信號,通過在一定期間內(nèi)開放快門,使通過了光學(xué)器件110的光射入攝像元件132(時刻t6~t7)。即,攝像部130通過在光學(xué)器件110的旋轉(zhuǎn)方向的位置為旋轉(zhuǎn)位置時拍攝圖像,來生成第二攝影圖像數(shù)據(jù)。通過以上,攝像裝置100能夠拍攝用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像。接下來,關(guān)于利用通過以上方法生成的攝影圖像數(shù)據(jù)來生成深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像處理裝置200進行說明。圖10是表示實施方式所涉及的圖像處理裝置的結(jié)構(gòu)的方框圖。圖像處理裝置200通過對由攝像裝置100生成的多個攝影圖像數(shù)據(jù)進行處理,生成深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)。如圖10所示,圖像處理裝置200具備深度數(shù)據(jù)生成部210和復(fù)原處理部230。深度數(shù)據(jù)生成部210確定出頻率成分的值在多個攝影圖像數(shù)據(jù)的至少一個攝影圖像數(shù)據(jù)中成為規(guī)定閾值以下的頻率。并且,深度數(shù)據(jù)生成部210根據(jù)確定出的頻率,生成深度數(shù)據(jù)。復(fù)原處理部230根據(jù)光學(xué)器件110旋轉(zhuǎn)前的光學(xué)模糊和光學(xué)器件110旋轉(zhuǎn)后的光學(xué)模糊,對多個攝影圖像數(shù)據(jù)進行復(fù)原處理,從而生成復(fù)原圖像數(shù)據(jù)。即,復(fù)原處理部230利用光學(xué)器件110的旋轉(zhuǎn)方向的位置為基準(zhǔn)位置時的PSF和光學(xué)器件110的旋轉(zhuǎn)方向的位置為旋轉(zhuǎn)位置時PSF,來對多個攝影圖像數(shù)據(jù)進行復(fù)原處理。以下,對具有所述結(jié)構(gòu)的圖像處理裝置200的處理動作進行說明。圖11是表示實施方式所涉及的圖像處理裝置的處理動作的流程圖。在此,說明從攝像裝置1002獲得了兩個攝影圖像數(shù)據(jù)(第一以及第二攝影圖像數(shù)據(jù))的情況。首先,深度數(shù)據(jù)生成部210根據(jù)頻率成分的值在第一以及第二攝影圖像數(shù)據(jù)的至少一方中成為規(guī)定閾值以下的頻率,生成深度數(shù)據(jù)(S201)。例如,深度數(shù)據(jù)生成部210通過與非專利文獻2或者3相同的方法,生成深度數(shù)據(jù)。在此,能夠按每個攝影圖像數(shù)據(jù)生成深度數(shù)據(jù)。因此,深度數(shù)據(jù)生成部210可以根據(jù)第一以及第二攝影圖像數(shù)據(jù)生成第一以及第二深度數(shù)據(jù),并生成第一以及第二深度數(shù)據(jù)的算術(shù)平均或者加權(quán)平均,并以此作為所述深度數(shù)據(jù)。由此,深度數(shù)據(jù)生成部210可以使深度數(shù)據(jù)的精度提高。然后,復(fù)原處理部230通過對第一以及第二攝影圖像數(shù)據(jù)進行加算,來生成1個加算圖像數(shù)據(jù)(S202)。接下來,復(fù)原處理部230根據(jù)光學(xué)器件110的旋轉(zhuǎn)前的光學(xué)模糊和光學(xué)器件110的旋轉(zhuǎn)后的光學(xué)模糊,對加算圖像數(shù)據(jù)進行復(fù)原處理,從而生成復(fù)原圖像數(shù)據(jù)(S203)。具體是,復(fù)原處理部230例如從預(yù)先保持有PSF的存儲器(未圖示)取得PSF,該PSF是指與光學(xué)器件110的旋轉(zhuǎn)方向的位置以及景深對應(yīng)起來被保持的PSF。更具體是,復(fù)原處理部230,按第一攝影圖像數(shù)據(jù)的每個像素,取得與第一攝影圖像數(shù)據(jù)被攝影時的光學(xué)器件110的旋轉(zhuǎn)方向的位置和深度數(shù)據(jù)所表示的景深相對應(yīng)的PSF。關(guān)于第二攝影圖像數(shù)據(jù)也同樣,復(fù)原處理部230從存儲器取得對應(yīng)的PSF。然后,復(fù)原處理部230對通過以上處理取得的、與第一攝影圖像數(shù)據(jù)對應(yīng)的PSF(以下稱之為“第一PSF”)以及與第二攝影圖像數(shù)據(jù)的PSF(以下稱之為“第二PSF”)進行加算,并對所述加算圖像數(shù)據(jù)進行復(fù)原處理。復(fù)原處理是指降低加算圖像數(shù)據(jù)的模糊的處理。具體是,在復(fù)原處理中,例如在被區(qū)分成局部空間的一部分圖像區(qū)域中,頻率變換之后,以頻率變換之后的值除以對第一PSF和第二PSF進行加算而獲得的PSF。然后再次變換成空間區(qū)域。復(fù)原處理可以是利用理查森露西法或維納濾波器法的處理。以上由復(fù)原處理部230進行的處理為一例,例如,圖11的流程圖也可以不包含加算處理(S202)。即,復(fù)原處理部230并非必須要通過對多個攝影圖像數(shù)據(jù)進行加算,并對與這些攝影圖像數(shù)據(jù)對應(yīng)的PSF也進行加算,來進行復(fù)原處理。例如,復(fù)原處理部230可以通過與非專利文獻4所記載的式(8)相同的方法,不對多個攝影圖像數(shù)據(jù)進行加算就生成復(fù)原圖像數(shù)據(jù)。另外,復(fù)原處理部230也可以將以上舉出的處理全都作為空間區(qū)域的二維過濾處理來實施。如上所述,在本實施方式所涉及的攝像裝置100或者攝像系統(tǒng)10中,光學(xué)器件110具有旋轉(zhuǎn)非對稱形狀的光學(xué)模糊。即,旋轉(zhuǎn)前的光學(xué)器件的光學(xué)模糊和旋轉(zhuǎn)后的光學(xué)器件的光學(xué)模糊,在二維平面空間的光學(xué)特性互不相同。因此,在每當(dāng)光學(xué)器件旋轉(zhuǎn)時拍攝的多個圖像中,因光學(xué)模糊而丟失的圖像成分也互不相同。從而,多個攝影圖像能夠相互補充因光學(xué)模糊而丟失的圖像成分。若利用這種多個攝影圖像數(shù)據(jù)來生成復(fù)原圖像數(shù)據(jù),可使復(fù)原圖像的畫質(zhì)提高。并且,根據(jù)本實施方式所涉及的攝像裝置100或者攝像系統(tǒng)10,通過使光學(xué)器件單純地旋轉(zhuǎn),就能夠使光學(xué)器件的光學(xué)模糊發(fā)生變化。因此,無需為了拍攝圖像而特意更換光學(xué)器件,就能夠容易地拍攝到用于獲得深度數(shù)據(jù)和復(fù)原圖像數(shù)據(jù)的圖像。另外,能夠使光學(xué)器件的光學(xué)模糊的形狀在較短的時間內(nèi)變化,因此能夠?qū)崿F(xiàn)應(yīng)對性優(yōu)越的攝像裝置。另外,根據(jù)本實施方式所涉及的攝像裝置100或攝像系統(tǒng)10,能夠使在空間頻域中PSF的一部分頻率成分的值成為規(guī)定閾值以下的頻率的值以及數(shù)量的至少一方根據(jù)景深而變化。因此,在攝影圖像數(shù)據(jù)中,通過確定出空間頻率成分欠缺或者明顯受損的頻率,能夠生成高精度的深度數(shù)據(jù)。即,可以在生成高精度的深度數(shù)據(jù)的同時,使復(fù)原圖像數(shù)據(jù)的畫質(zhì)提高。另外,根據(jù)本實施方式所涉及的攝像裝置100或者攝像系統(tǒng)10,能夠構(gòu)成PSF在空間區(qū)域具有多個頂峰的光學(xué)器件。因此,能夠提高對在光學(xué)器件110每當(dāng)旋轉(zhuǎn)時拍攝的多個圖像中因光學(xué)模糊而丟失的圖像成分的補充效果。另外,根據(jù)本實施方式所涉及的攝像裝置100或攝像系統(tǒng)10,能夠使光學(xué)器件包含透鏡,該透鏡具有多個區(qū)域,該多個區(qū)域的各自的對焦位置互不相同。如果利用通過這種透鏡拍攝的圖像來擴大景深,以及利用通過格狀焦點透鏡拍攝的圖像來擴大景深,與利用一邊使對焦位置變化一邊拍攝的圖像來擴大景深的情況相比,能夠以更少的光量有效地擴大景深,從而可獲得信噪比高的復(fù)原圖像。以上,關(guān)于本發(fā)明的一形態(tài)所涉及的攝像裝置100、圖像處理裝置200以及攝像系統(tǒng)10,根據(jù)實施方式進行了說明,但本發(fā)明并不限定于此。只要不脫離本發(fā)明的宗旨,將本領(lǐng)域技術(shù)人員所想到的各種變形方式實施于本實施方式的形態(tài)也屬于本發(fā)明的范圍內(nèi)。例如,在所述實施方式中,主要說明了生成2個攝影圖像數(shù)據(jù)的情況,此外也可以生成3個以上的攝影圖像數(shù)據(jù)。在此情況下,例如,使光學(xué)器件旋轉(zhuǎn)2次以上,并在每次旋轉(zhuǎn)時拍攝圖像即可。如果利用3個以上的攝影圖像數(shù)據(jù),能夠進一步提高對因光學(xué)模糊而丟失的頻率成分的補充效果,從而可使復(fù)原圖像的畫質(zhì)進一步提高。另外,所述實施方式所涉及的攝像裝置或者圖像處理裝置,還可以具備用于進行攝影圖像的顏色校正、伽馬校正或者Bayer插值等的一般圖像處理的結(jié)構(gòu)要素。另外,圖像處理裝置還可具備用于臨時保持?jǐn)z影圖像數(shù)據(jù)的存儲部。另外,在所述實施方式中,對光學(xué)器件110的旋轉(zhuǎn)角并無特別限定,但優(yōu)選為,預(yù)先決定可對因光學(xué)模糊而丟失的頻率成分有效地進行補充的角度。具體是,旋轉(zhuǎn)角例如可以是能夠獲得如下PSF組合的角度,該PSF組合是指與旋轉(zhuǎn)方向的多個位置分別對應(yīng)的PSF的組合中的、被加算的PSF的頻率成分的最小值成為最大的PSF的組合。由此,在多個攝影圖像數(shù)據(jù)中,能夠提高因光學(xué)模糊而丟失的頻率成分的補充效果,從而能提高復(fù)原圖像的畫質(zhì)。另外,并非必須要用PSF來表示光學(xué)模糊。例如,也可以用通過對PSF進行頻域變換之后的二維的復(fù)質(zhì)數(shù)來表示光學(xué)模糊。另外,所述實施方式的圖像處理裝置200所具備的結(jié)構(gòu)要素的一部分或者全部可由1個系統(tǒng)LSI(LargeScaleIntegration∶大規(guī)模集成電路)構(gòu)成。例如,圖像處理裝置200可由具有深度數(shù)據(jù)生成部210和復(fù)原處理部230的系統(tǒng)LSI構(gòu)成。系統(tǒng)LSI是將多個結(jié)構(gòu)部聚集于1個芯片上制造而成的超多功能LSI,具體是包括微處理器、ROM(ReadOnlyMemory)、RAM(RandomAccessMemory)等而構(gòu)成的計算機系統(tǒng)。所述ROM中存儲有計算機程序。所述微處理器按照所述計算機程序進行動作,從而系統(tǒng)LSI達成其功能。另外,在此說明了系統(tǒng)LSI,但根據(jù)集成程度的不同,還可稱之為IC、LSI、超級LSI、最超級LSI。另外,集成電路化的方法并不限定于LSI,還可以通過專用電路或者通用處理器來實現(xiàn)。還可以利用在LSI制造之后可以進行編程的FPGA(FieldProgrammableGateArray),或者可以對LSI內(nèi)部的電路單元的連接和設(shè)定進行重新構(gòu)筑的可重建處理器。另外,隨著半導(dǎo)體技術(shù)的進步以及其他技術(shù)的衍生,若有可代替LSI的技術(shù)出現(xiàn),當(dāng)然能夠利用該技術(shù)進行功能塊的集成化。生物技術(shù)被視為具有應(yīng)用可能性。另外,不僅能夠作為具備所述特征性結(jié)構(gòu)要素的攝像裝置、圖像處理裝置或者攝像系統(tǒng)來實現(xiàn)本發(fā)明,還能夠作為用于執(zhí)行攝像裝置、圖像處理裝置或者攝像系統(tǒng)中包含的特征性結(jié)構(gòu)要素所進行的處理的攝像方法或者圖像處理方法來實現(xiàn)本發(fā)明。另外,還能夠作為用于使計算機執(zhí)行圖像處理方法中包含的各特征性步驟的計算機程序來實現(xiàn)本發(fā)明。并且,當(dāng)然能夠利用CD-ROM(CompactDiscReadOnlyMemory)等計算機可讀取的非臨時性記錄介質(zhì)或者互聯(lián)網(wǎng)等通信網(wǎng)絡(luò)來使所述計算機程序流通。本發(fā)明可利用于數(shù)字靜態(tài)相機或者數(shù)字?jǐn)z像機之類的攝像裝置等。符號說明10攝像系統(tǒng)100攝像裝置110光學(xué)器件111透鏡112光圈120執(zhí)行器130攝像部131快門132攝像元件133控制部200圖像處理裝置210深度數(shù)據(jù)生成部230復(fù)原處理部
當(dāng)前第1頁1 2 3 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1