本發(fā)明涉及對通過拍攝標(biāo)本等而取得的圖像實(shí)施圖像處理的圖像處理裝置、攝像裝置、顯微鏡系統(tǒng)、圖像處理方法以及圖像處理程序。
背景技術(shù):
近年來,已知有將拍有載置在載玻片上的標(biāo)本的圖像記錄為電子數(shù)據(jù),且用戶能夠在個(gè)人計(jì)算機(jī)等的監(jiān)視器上觀察該圖像的所謂虛擬切片技術(shù)。在虛擬切片技術(shù)中,通過將由顯微鏡放大后的標(biāo)本的一部分圖像依次貼合,構(gòu)筑拍有標(biāo)本全體的高分辨率的圖像。即,虛擬切片技術(shù)是一種針對相同被攝體取得多張不同視野的圖像,通過將這些圖像接合,生成將針對被攝體的視野放大后的圖像的技術(shù)。
但是,顯微鏡具有:對標(biāo)本進(jìn)行照明的光源和將標(biāo)本的像放大的光學(xué)系統(tǒng)。在該光學(xué)系統(tǒng)的后段設(shè)置有將放大后的標(biāo)本的像轉(zhuǎn)換為電子數(shù)據(jù)的攝像元件。因此,存在以下問題:由于光源的照度不均和光學(xué)系統(tǒng)的不均勻性、以及攝像元件的特性的不均等引起的、在所取得的圖像中產(chǎn)生亮度不均。該亮度不均被稱作陰影,通常隨著從與光學(xué)系統(tǒng)的光軸位置對應(yīng)的圖像的中心遠(yuǎn)離而變暗。因此,在將多個(gè)圖像貼合而生成虛擬切片圖像的情況下,在圖像的接縫產(chǎn)生不自然的邊界。此外,通過將多個(gè)圖像貼合,陰影反復(fù)產(chǎn)生,所以看起來宛如在標(biāo)本中存在周期性的圖案。
針對這樣的問題,已知有預(yù)先取得陰影的圖形作為校準(zhǔn)圖像,根據(jù)該校準(zhǔn)圖像,校正拍有標(biāo)本的圖像的陰影校正技術(shù)。例如在專利文獻(xiàn)1中公開了陰影校正技術(shù),在該陰影校正技術(shù)中使用在進(jìn)行透射照明觀察時(shí)在使標(biāo)本退避到光學(xué)系統(tǒng)的視場角外的狀態(tài)下進(jìn)行拍攝,并在進(jìn)行落射照明觀察時(shí)在將反射部件配置于光學(xué)系統(tǒng)的視場角內(nèi)的狀態(tài)下進(jìn)行拍攝而取得的圖像作為校準(zhǔn)圖像。
此外,在專利文獻(xiàn)2中公開了以下方法:在進(jìn)行熒光觀察時(shí),通過將均勻的熒光試樣作為校準(zhǔn)試樣進(jìn)行拍攝,取得陰影校正用的數(shù)據(jù)。
在專利文獻(xiàn)3中公開了以下技術(shù):拍攝試樣的規(guī)定視野范圍的圖像即基準(zhǔn)視野圖像,并使試樣的位置相對于光學(xué)系統(tǒng)相對移動而拍攝多張包含規(guī)定視野范圍內(nèi)的規(guī)定區(qū)域且與規(guī)定視野范圍相互不同的周邊視野范圍的圖像即周邊視野圖像,根據(jù)基準(zhǔn)視野圖像和周邊視野圖像來計(jì)算基準(zhǔn)視野圖像的各個(gè)像素的校正增益。
現(xiàn)有技術(shù)文獻(xiàn)
專利文獻(xiàn)
專利文獻(xiàn)1:日本特開2006-171213號公報(bào)
專利文獻(xiàn)2:日本特開2008-51773號公報(bào)
專利文獻(xiàn)3:日本特開2013-257422號公報(bào)
技術(shù)實(shí)現(xiàn)要素:
發(fā)明所要解決的課題
但是,在為了取得校準(zhǔn)圖像而使觀察中的標(biāo)本暫時(shí)退避或者另行配置反射部件的情況下,作業(yè)變得復(fù)雜,非?;ㄙM(fèi)功夫,并且拍攝時(shí)間延長。對于此點(diǎn),在專利文獻(xiàn)1中設(shè)置有用于使標(biāo)本退避的驅(qū)動機(jī)構(gòu)等用于取得校準(zhǔn)圖像的專用的功能。但是,這樣的功能原來未設(shè)置在普通的顯微鏡中,所以當(dāng)想要實(shí)際應(yīng)用時(shí)結(jié)構(gòu)變得復(fù)雜,并導(dǎo)致大幅度的成本增加。
此外,在如專利文獻(xiàn)2那樣使用校準(zhǔn)試樣的情況下,除了產(chǎn)生校準(zhǔn)試樣的配置和退避等作業(yè)以外,還需要管理校準(zhǔn)試樣以消除損壞或塵埃的附著等,花費(fèi)多余的功夫。并且,制作能夠在熒光觀察時(shí)作為校準(zhǔn)試樣使用的均勻的熒光試樣本身非常困難,所以也難以高精度地校正陰影。
并且,在專利文獻(xiàn)3中,未考慮有消減使試樣移動并進(jìn)行拍攝的次數(shù)和按照基準(zhǔn)視野圖像和周邊視野圖像的每個(gè)組合進(jìn)行的陰影校正所需的時(shí)間。
本發(fā)明正是鑒于上述問題而完成的,其目的在于,提供一種能夠以簡單的結(jié)構(gòu)短時(shí)間且高精度地進(jìn)行陰影校正的圖像處理裝置、攝像裝置、顯微鏡系統(tǒng)、圖像處理方法以及圖像處理程序。
用于解決問題的手段
為了解決上述問題,并達(dá)成目的,本發(fā)明的圖像處理裝置的特征在于,具有:圖像取得部,其在相互不同的第1方向和第2方向上分別取得第1圖像組和第2圖像組,該第1圖像組和第2圖像組包含與至少其他一張圖像之間被攝體的一部分相同的多個(gè)圖像;陰影成分計(jì)算部,其分別針對所述第1圖像組和第2圖像組,計(jì)算拍有與1個(gè)圖像中的包含平坦區(qū)域的區(qū)域相同的被攝體的其他圖像內(nèi)的區(qū)域的亮度與該1個(gè)圖像中的上述包含平坦區(qū)域的區(qū)域的亮度之比作為陰影成分,在所述平坦區(qū)域中,陰影成分固定;以及圖像校正部,其使用所述陰影成分,對所述圖像內(nèi)的區(qū)域進(jìn)行陰影校正,所述陰影成分包含:以所述平坦區(qū)域中的亮度為基準(zhǔn)的歸一化陰影成分和以除了所述平坦區(qū)域以外的區(qū)域中的亮度為基準(zhǔn)的非歸一化陰影成分,所述圖像校正部根據(jù)所述歸一化陰影成分和所述非歸一化陰影成分,進(jìn)行所述陰影校正。
在上述圖像處理裝置中,其特征在于,所述陰影成分計(jì)算部具有:第1陰影成分計(jì)算部,其根據(jù)所述第1圖像組,根據(jù)包含所述1個(gè)圖像中的所述平坦區(qū)域且相對于該平坦區(qū)域在所述第2方向上排列的區(qū)域中的亮度,計(jì)算所述陰影成分;以及第2陰影成分計(jì)算部,其根據(jù)所述第2圖像組,根據(jù)包含所述1個(gè)圖像中的所述平坦區(qū)域且相對于該平坦區(qū)域在所述第1方向上排列的區(qū)域中的亮度,計(jì)算所述陰影成分。
在上述圖像處理裝置中,其特征在于,所述圖像校正部具有:第1圖像校正部,其對于所述圖像內(nèi)的區(qū)域中的計(jì)算出所述歸一化陰影成分的區(qū)域即第1區(qū)域,使用該歸一化陰影成分進(jìn)行陰影校正;以及第2圖像校正部,其對于所述圖像內(nèi)的區(qū)域中的未計(jì)算出所述歸一化陰影成分的區(qū)域即第2區(qū)域,使用對于該第2區(qū)域計(jì)算出的所述非歸一化陰影成分和對于在計(jì)算該非歸一化陰影成分時(shí)作為基準(zhǔn)的區(qū)域計(jì)算出的所述歸一化陰影成分,進(jìn)行所述陰影校正。
在上述圖像處理裝置中,其特征在于,所述第2圖像校正部使用根據(jù)所述第1圖像組和第2圖像組中的一方計(jì)算出的所述非歸一化陰影成分和根據(jù)所述第1圖像組和第2圖像組中的另一方計(jì)算出的歸一化陰影成分,進(jìn)行所述陰影校正。
在上述圖像處理裝置中,其特征在于,在與所述1個(gè)圖像內(nèi)的一部分區(qū)域相關(guān)的陰影成分為已知的情況下,所述陰影成分計(jì)算部使用該一部分區(qū)域中的亮度、拍有與所述一部分區(qū)域相同的被攝體的所述其他圖像內(nèi)的區(qū)域中的亮度、以及已知的所述陰影成分,計(jì)算與所述其他圖像內(nèi)的區(qū)域相關(guān)的陰影成分。
在上述圖像處理裝置中,其特征在于,所述陰影成分計(jì)算部分別對于所述第1圖像組和第2圖像組,根據(jù)所述1個(gè)圖像和所述其他圖像的多個(gè)組合,分別計(jì)算與多個(gè)所述其他圖像內(nèi)的區(qū)域相關(guān)的陰影成分,對計(jì)算出的多個(gè)該陰影成分進(jìn)行相加平均。
在上述圖像處理裝置中,其特征在于,所述陰影成分計(jì)算部分別對于所述第1圖像組和第2圖像組,根據(jù)所述1個(gè)圖像和所述其他圖像的多個(gè)組合,計(jì)算所述陰影成分,其中在該多個(gè)組合中,所述1個(gè)圖像和所述其他圖像之間拍有相同的被攝體的區(qū)域即共同區(qū)域中的紋理成分相互不同。
在上述圖像處理裝置中,其特征在于,所述陰影成分計(jì)算部分別對于所述第1圖像組和第2圖像組,對在所述多個(gè)圖像之間對應(yīng)的區(qū)域中的亮度進(jìn)行累積相加,使用該累積相加后的值,計(jì)算所述陰影成分。
在上述圖像處理裝置中,其特征在于,所述陰影成分計(jì)算部根據(jù)所述多個(gè)組合來分別計(jì)算多個(gè)陰影成分,對該多個(gè)陰影成分進(jìn)行相加平均。
在上述圖像處理裝置中,其特征在于,所述陰影成分計(jì)算部使用對于所述圖像內(nèi)的區(qū)域根據(jù)所述第1圖像組和第2圖像組而分別計(jì)算出的2個(gè)非歸一化陰影成分、和對于在分別計(jì)算該2個(gè)非歸一化陰影成分時(shí)作為基準(zhǔn)的2個(gè)區(qū)域分別計(jì)算出的2個(gè)歸一化陰影成分,計(jì)算所述圖像內(nèi)的區(qū)域中的陰影成分。
上述圖像處理裝置的特征在于,該圖像處理裝置還具有平坦區(qū)域搜索部,該平坦區(qū)域搜索部根據(jù)在所述1個(gè)圖像和所述其他圖像之間拍有相同的被攝體的區(qū)域所包含的像素的亮度的梯度,搜索所述平坦區(qū)域。
在上述圖像處理裝置中,其特征在于,所述第1和第2方向相互垂直。
本發(fā)明的攝像裝置的特征在于,具有:所述圖像處理裝置;光學(xué)系統(tǒng),其生成所述被攝體的像,移動單元,其通過使所述被攝體和所述光學(xué)系統(tǒng)中的至少一方移動,使所述光學(xué)系統(tǒng)相對于所述被攝體的視野移動;以及攝像單元,其拍攝所述被攝體,所述圖像取得部通過進(jìn)行一邊使所述移動單元分別在所述第1方向和第2方向上移動所述視野一邊使所述攝像單元執(zhí)行攝像的控制,分別取得所述第1圖像組和第2圖像組。
本發(fā)明的顯微鏡系統(tǒng)的特征在于,具有:所述攝像裝置;以及工作臺,其載置所述被攝體,所述移動單元使所述工作臺和所述光學(xué)系統(tǒng)中的至少一方移動。
在上述顯微鏡系統(tǒng)中,其特征在于,所述圖像處理裝置還具有虛擬切片生成部,該虛擬切片生成部通過將所述第1和第2圖像組所包含的所述視野相鄰的圖像彼此貼合,來生成虛擬切片圖像。
本發(fā)明的圖像處理方法的特征在于,具有:圖像取得步驟,分別在相互不同的第1方向和第2方向上取得第1圖像組和第2圖像組,該第1圖像組和第2圖像組包含與至少其他一張圖像之間被攝體的一部分相同的多個(gè)圖像;陰影成分計(jì)算步驟,分別針對所述第1圖像組和第2圖像組,計(jì)算拍有與1個(gè)圖像中的包含平坦區(qū)域的區(qū)域相同的被攝體的其他圖像內(nèi)的區(qū)域的亮度與該1個(gè)圖像中的上述包含平坦區(qū)域的區(qū)域的亮度之比作為陰影成分,在所述平坦區(qū)域中,陰影成分固定;以及圖像校正步驟,使用所述陰影成分,對所述圖像內(nèi)的區(qū)域進(jìn)行陰影校正,所述陰影成分包含:以所述平坦區(qū)域中的亮度為基準(zhǔn)的歸一化陰影成分和以除了所述平坦區(qū)域以外的區(qū)域中的亮度為基準(zhǔn)的非歸一化陰影成分,在所述圖像校正步驟中,根據(jù)所述歸一化陰影成分和所述非歸一化陰影成分來進(jìn)行所述陰影校正。
本發(fā)明的圖像處理程序使計(jì)算機(jī)執(zhí)行以下步驟:圖像取得步驟,分別在相互不同的第1方向和第2方向上取得第1圖像組和第2圖像組,該第1圖像組和第2圖像組包含與至少其他一張圖像之間被攝體的一部分相同的多個(gè)圖像;陰影成分計(jì)算步驟,分別針對所述第1圖像組和第2圖像組,計(jì)算拍有與1個(gè)圖像中的包含平坦區(qū)域的區(qū)域相同的被攝體的其他圖像內(nèi)的區(qū)域的亮度與該1個(gè)圖像中的上述包含平坦區(qū)域的區(qū)域的亮度之比作為陰影成分,在所述平坦區(qū)域中,陰影成分固定;以及圖像校正步驟,使用所述陰影成分,對所述圖像內(nèi)的區(qū)域進(jìn)行陰影校正,所述陰影成分包含:以所述平坦區(qū)域中的亮度為基準(zhǔn)的歸一化陰影成分和以除了所述平坦區(qū)域以外的區(qū)域中的亮度為基準(zhǔn)的非歸一化陰影成分,在所述圖像校正步驟中,根據(jù)所述歸一化陰影成分和所述非歸一化陰影成分來進(jìn)行所述陰影校正。
發(fā)明效果
根據(jù)本發(fā)明,由于分別取得在第1和第2方向上與至少另1張圖像之間被攝體的一部分相同的第1和第2圖像組,根據(jù)包含分別在該第1和第2圖像組中的平坦區(qū)域在內(nèi)的區(qū)域中的亮度來計(jì)算歸一化陰影成分和非歸一化陰影成分,使用這些歸一化陰影成分和非歸一化陰影成分來進(jìn)行圖像內(nèi)的區(qū)域的陰影校正,所以,能夠減少陰影成分的計(jì)算所需的圖像的張數(shù),并能夠以簡單的結(jié)構(gòu)短時(shí)間且高精度地進(jìn)行陰影校正。
附圖說明
圖1是示出本發(fā)明實(shí)施方式1的圖像處理裝置的結(jié)構(gòu)例的框圖。
圖2是用于說明圖1所示的圖像取得部的動作的示意圖。
圖3是用于說明由圖1所示的圖像處理部執(zhí)行的圖像處理的原理的示意圖。
圖4是示出圖1所示的圖像處理裝置的動作的流程圖。
圖5是用于說明每次進(jìn)行一次拍攝時(shí)使拍攝視野移動的移動量的示意圖。
圖6是用于說明被攝體的拍攝方法的示意圖。
圖7是用于說明被攝體的拍攝方法的示意圖。
圖8是示出通過使拍攝視野沿水平方向移動并進(jìn)行5次拍攝而取得的5張圖像的示意圖。
圖9是示出圖1所示的存儲部中存儲的水平方向上的陰影成分的示意圖。
圖10是示出圖1所示的存儲部中存儲的垂直方向上的陰影成分的示意圖。
圖11是用于說明由圖1所示的圖像校正部執(zhí)行的圖像的校正處理的示意圖。
圖12是詳細(xì)示出由圖1所示的圖像校正部執(zhí)行的圖像的校正處理的流程圖。
圖13是用于說明由圖1所示的第2圖像校正部執(zhí)行的陰影校正處理的另一個(gè)例子的示意圖。
圖14是用于說明在本發(fā)明的實(shí)施方式2中在陰影成分的計(jì)算中使用的圖像的拍攝方法的示意圖。
圖15是用于說明本發(fā)明的實(shí)施方式2中的陰影成分的計(jì)算方法的示意圖。
圖16是用于說明本發(fā)明的實(shí)施方式3中的陰影成分的計(jì)算方法的示意圖。
圖17是用于說明本發(fā)明的實(shí)施方式4中的陰影成分的計(jì)算方法的示意圖。
圖18是示出本發(fā)明實(shí)施方式7的圖像處理裝置的結(jié)構(gòu)例的框圖。
圖19是示出由圖18所示的平坦區(qū)域搜索部生成的水平方向圖像的示意圖。
圖20是示出由圖18所示的平坦區(qū)域搜索部生成的垂直方向圖像的示意圖。
圖21是以像素為單位示出圖19所示的水平方向圖像的示意圖。
圖22是以像素為單位示出圖20所示的垂直方向圖像的示意圖。
圖23是示意性示出圖18所示的存儲部中存儲的水平方向上的陰影成分的圖。
圖24是示意性示出圖18所示的存儲部中存儲的垂直方向上的陰影成分的圖。
圖25是示出本發(fā)明實(shí)施方式8的顯微鏡系統(tǒng)的結(jié)構(gòu)例的圖。
圖26是用于說明本發(fā)明的實(shí)施方式8中的多個(gè)圖像的取得動作的示意圖。
具體實(shí)施方式
以下,參照附圖詳細(xì)說明本發(fā)明的圖像處理裝置、攝像裝置、顯微鏡系統(tǒng)、圖像處理方法以及圖像處理程序的實(shí)施方式。另外,本發(fā)明不受這些實(shí)施方式限定。另外,在各個(gè)附圖的記載中,對相同部分標(biāo)注相同標(biāo)號來示出。
(實(shí)施方式1)
圖1是示出本發(fā)明實(shí)施方式1的圖像處理裝置的結(jié)構(gòu)例的框圖。如圖1所示,實(shí)施方式1的圖像處理裝置1具有:圖像取得部11,其取得拍有作為觀察對象的被攝體的圖像;圖像處理部12,其對該圖像實(shí)施圖像處理;以及存儲部13。
圖像取得部11取得針對被攝體的拍攝視野相互不同的多個(gè)圖像。圖像取得部11可以從攝像裝置直接取得這樣的多個(gè)圖像,也可以經(jīng)由網(wǎng)絡(luò)或存儲裝置等取得。在實(shí)施方式1中,假設(shè)圖像取得部11從攝像裝置直接取得圖像。另外,攝像裝置的種類未特別限定,例如可以是具有拍攝功能的顯微鏡裝置,也可以是數(shù)字照相機(jī)。
圖2是用于說明圖像取得部11的動作的示意圖,示出了攝像裝置的光學(xué)系統(tǒng)30、被攝體SP和光學(xué)系統(tǒng)30的拍攝視野V。在圖2中,為了明確被攝體SP中的拍攝視野V的位置,方便起見,使光學(xué)系統(tǒng)30的位置從被攝體SP和拍攝視野V的紙面近前偏離,在被攝體SP的外側(cè)圖示光學(xué)系統(tǒng)30的側(cè)面并示出與拍攝視野V的位置關(guān)系。以下,在包含拍攝視野V的平面中,設(shè)與該拍攝視野V的1個(gè)邊平行的方向(圖2的左右方向)為水平方向、與該1個(gè)邊垂直的方向(圖2的上下方向)為垂直方向。
圖像取得部11具有:攝像控制部111,其控制攝像裝置的攝像動作;以及驅(qū)動控制部112,其進(jìn)行使拍攝視野V的位置相對于被攝體SP變化的控制。驅(qū)動控制部112通過使光學(xué)系統(tǒng)30和被攝體SP中的任意一方或雙方相對移動,使拍攝視野V相對于被攝體SP的位置變化。攝像控制部111與驅(qū)動控制部112的控制動作聯(lián)動地在規(guī)定的時(shí)機(jī)使攝像裝置執(zhí)行拍攝,從該攝像裝置取入拍有拍攝視野V內(nèi)的被攝體的圖像M。
雖然在本實(shí)施方式1中對使拍攝視野V在相互垂直的水平方向和垂直方向的2個(gè)方向上移動的例子進(jìn)行說明,但是拍攝視野V的移動方向只要是相互不同的2個(gè)方向即可,不限定于水平方向和垂直方向。此外,使拍攝視野V移動的2個(gè)方向也不一定需要垂直。
圖3是用于說明由圖像處理部12執(zhí)行的圖像處理的原理的示意圖。圖3(a)~(c)所示的坐標(biāo)(x,y)示出構(gòu)成圖像M的各個(gè)像素的位置。如圖3(a)所示,在由攝像裝置取得的圖像M中,除了中央的一部分區(qū)域以外,產(chǎn)生了由于光源的照度不均、光學(xué)系統(tǒng)的不均勻性或攝像元件的特性的不均等引起的亮度不均或者顏色不均。該亮度不均或顏色不均被稱作陰影。構(gòu)成圖3(a)所示的圖像M的各個(gè)像素的亮度I(x,y)是將表示圖3(b)所示的未產(chǎn)生陰影的原來的被攝體像的成分(以下記作紋理成分)T(x,y)乘以圖3(c)所示的陰影成分S(x,y)而得到的,能夠表示為I(x,y)=T(x,y)×S(x,y)。這里,雖然設(shè)亮度I(x,y)、紋理成分T(x,y)、陰影成分S(x,y)為各個(gè)坐標(biāo)中的各個(gè)顏色信號的亮度、紋理成分、陰影成分,但是也可以設(shè)為根據(jù)各個(gè)顏色信號而合成的信號的亮度、紋理成分、陰影成分。
圖像處理部12使用由圖像取得部11取得的多個(gè)圖像,執(zhí)行校正在圖像中產(chǎn)生的陰影的圖像處理。詳細(xì)來說,圖像處理部12具有:陰影成分計(jì)算部121,其計(jì)算在圖像M(x,y)中產(chǎn)生的陰影成分;以及圖像校正部122,其使用該陰影成分來進(jìn)行陰影校正。
其中的陰影成分計(jì)算部121具有:第1方向陰影成分計(jì)算部121a和第2方向陰影成分計(jì)算部121b。第1方向陰影成分計(jì)算部121a從通過使針對被攝體SP的拍攝視野V在第1方向(例如水平方向)上移動而取得的多個(gè)圖像中計(jì)算陰影成分。另一方面,第2方向陰影成分計(jì)算部121b從通過使針對被攝體SP的拍攝視野V在第2方向(例如垂直方向)上移動而取得的多個(gè)圖像中計(jì)算陰影成分。
圖像校正部122具有:第1圖像校正部122a和第2圖像校正部122b。第1圖像校正部122a針對由圖像取得部11取得的圖像內(nèi)的一部分區(qū)域,使用由第1方向陰影成分計(jì)算部121a計(jì)算出的陰影成分和由第2方向陰影成分計(jì)算部121b計(jì)算出的陰影成分中的任意一方來進(jìn)行陰影校正。另一方面,第2圖像校正部122b針對上述圖像中的未由第1圖像校正部122a校正的區(qū)域,使用由第1方向陰影成分計(jì)算部121a計(jì)算出的陰影成分和由第2方向陰影成分計(jì)算部121b計(jì)算出的陰影成分的雙方來進(jìn)行陰影校正。關(guān)于由第1圖像校正部122a和第2圖像校正部122b設(shè)為校正對象的區(qū)域和具體的校正處理將后述。
存儲部13由能夠進(jìn)行更新記錄的閃存、RAM、ROM這樣的半導(dǎo)體存儲器等存儲裝置構(gòu)成。存儲部13存儲:由圖像取得部11在攝像裝置的控制中使用的各種參數(shù)、由圖像處理部12實(shí)施圖像處理后的圖像的圖像數(shù)據(jù)、以及由圖像處理部12計(jì)算出的各種參數(shù)等。
上述圖像取得部11和圖像處理部12可以通過專用的硬件構(gòu)成,也可以通過CPU和使該CPU執(zhí)行規(guī)定的處理的程序來構(gòu)成。在后者的情況下,可以將用于使圖像取得部11和圖像處理部12執(zhí)行規(guī)定的處理的圖像處理程序和在這些程序的執(zhí)行中使用的各種參數(shù)或設(shè)定信息存儲到存儲部13中?;蛘撸梢越?jīng)由數(shù)據(jù)通信端子將包含硬盤、MO、CD-R、DVD-R等記錄介質(zhì)和對該記錄介質(zhì)進(jìn)行信息的寫入和讀取的寫入讀取裝置等的存儲裝置與圖像處理裝置1連接,并使該存儲裝置存儲上述圖像處理程序和參數(shù)。
接著,說明圖像處理裝置1的動作。圖4是示出圖像處理裝置1的動作的流程圖。以下,作為一例,假設(shè)取得拍有圖2所示的被攝體SP的圖像,對該圖像進(jìn)行校正處理。
首先,在步驟S1中,圖像取得部11取得通過一邊使拍攝視野V在相互不同的2個(gè)方向上逐次移動規(guī)定量一邊拍攝被攝體SP而生成的多個(gè)圖像。詳細(xì)來說,驅(qū)動控制部112通過使被攝體SP和光學(xué)系統(tǒng)30中的任意一方移動而使拍攝視野V在規(guī)定方向上移動,攝像控制部111進(jìn)行控制使得與至少另一張圖像之間拍攝視野V的一部分在拍攝視野V的移動方向上重疊。以下,假設(shè)分別使拍攝視野V在水平方向和垂直方向上移動。
圖5是用于說明每次進(jìn)行一次拍攝時(shí)使拍攝視野V移動的移動量的示意圖。將每一次攝像的拍攝視野V的移動量設(shè)定為將拍攝視野V分割為規(guī)定尺寸的多個(gè)塊的情況下的該塊的1個(gè)邊的長度。例如圖5所示,在將尺寸為w×h(w、h為各個(gè)邊的長度)的拍攝視野V分割為5×5=25個(gè)塊的情況下,關(guān)于拍攝視野V的每一次的移動量,在水平方向上長度Bw=w/5,在垂直方向上長度Bh=h/5。將拍攝視野V分割后的各個(gè)塊的尺寸能夠根據(jù)在圖像內(nèi)幾乎不產(chǎn)生陰影且將陰影成分視為固定的平坦區(qū)域(后述)的尺寸、和所要求的陰影校正的精度等進(jìn)行確定。另外,水平方向和垂直方向上的拍攝視野V的分割數(shù)可以相同,也可以不同。以下,如圖5所示,由(X,Y)表示圖像內(nèi)的各個(gè)塊的坐標(biāo)。在本實(shí)施方式1中,1≦X≦5、1≦Y≦5。
圖6和圖7是用于說明被攝體SP的拍攝方法的示意圖。在圖6和圖7中,為了明確被攝體SP中的拍攝視野V的位置,為了方便起見,使光學(xué)系統(tǒng)30的位置從被攝體SP和拍攝視野V的紙面近前偏離,在被攝體SP的外側(cè)圖示光學(xué)系統(tǒng)30的側(cè)面并示出與各個(gè)位置的拍攝視野V的位置關(guān)系。
如圖6所示,圖像取得部11通過每次使拍攝視野V在水平方向上移動長度Bw時(shí)執(zhí)行拍攝,依次取得與緊前面生成的圖像之間拍攝視野V的一部分重復(fù)的多個(gè)圖像Mj(j=0、1、2、……)。圖8是示出通過一邊使拍攝視野V在水平方向上移動一邊進(jìn)行5次拍攝而取得的5張圖像M0~M4的示意圖。在圖8中,沿著拍攝順序縱向排列圖像M0~M4,并且紋理成分相同的塊以沿縱向?qū)R的方式左右偏離地配置。
此外,如圖7所示,圖像取得部11通過每次使拍攝視野V在垂直方向上移動長度Bh時(shí)執(zhí)行拍攝,依次取得與緊前面生成的圖像之間拍攝視野V的一部分重復(fù)的多個(gè)圖像Mk(k=0、1、2、……)。
另外,在使拍攝視野V的位置相對于被攝體SP變化時(shí),可以固定被攝體SP的位置,使光學(xué)系統(tǒng)30側(cè)移動,也可以固定光學(xué)系統(tǒng)30的位置,使被攝體SP側(cè)移動。或者,也可以使被攝體SP和光學(xué)系統(tǒng)30的雙方在相互相反的方向上移動。
此外,在使拍攝視野V在水平方向上移動而取得的多個(gè)圖像Mj和使拍攝視野V在垂直方向上移動而取得的多個(gè)圖像Mk之間,可以包含拍攝視野V內(nèi)的被攝體的全部或一部分相同的圖像,也可以完全不包含被攝體的全部或一部分相同的圖像。
在接下來的步驟S2中,陰影成分計(jì)算部121取入在步驟S1中取得的多個(gè)圖像,并使用這些圖像,分別按照水平方向、垂直方向的方向計(jì)算陰影成分。
這里,陰影成分的計(jì)算通常以在圖像內(nèi)幾乎不產(chǎn)生陰影成分且?guī)缀鯚o法看到陰影成分的變化的區(qū)域(以下稱作平坦區(qū)域)中的亮度為基準(zhǔn)進(jìn)行。具體而言,通過由陰影成分的計(jì)算對象的區(qū)域所包含的各個(gè)像素的亮度除以具有與該計(jì)算對象的區(qū)域相同的紋理成分的平坦區(qū)域所包含的各個(gè)像素的亮度,可獲得陰影成分。
與此相對,在本實(shí)施方式1中,以包含平坦區(qū)域的塊的列或行中的亮度為基準(zhǔn),按照每個(gè)列或每個(gè)行進(jìn)行陰影成分的計(jì)算。例如,在使拍攝視野V在水平方向上逐次移動1個(gè)塊而取得的圖像之間,在水平方向上以列為單位產(chǎn)生共同區(qū)域。因此,在該情況下,根據(jù)包含平坦區(qū)域并相對于該平坦區(qū)域在垂直方向上排列的列的塊中的亮度,計(jì)算陰影成分。以下,這樣,也將根據(jù)在水平方向上產(chǎn)生的共同區(qū)域而計(jì)算出的陰影成分(亮度的比)稱作水平方向上的陰影成分。另一方面,在使拍攝視野V在垂直方向上逐次移動1個(gè)塊而取得的圖像之間,在垂直方向上以行為單位產(chǎn)生共同區(qū)域。因此,在該情況下,根據(jù)包含平坦區(qū)域并相對于該平坦區(qū)域在水平方向上排列的行的塊中的亮度,計(jì)算陰影成分。以下,這樣,也將根據(jù)在垂直方向上產(chǎn)生的共同區(qū)域而計(jì)算出的陰影成分(亮度的比)稱作垂直方向上的陰影成分。
此外,在本實(shí)施方式1中,如圖3(c)所示,以在圖像的中央部分存在平坦區(qū)域,陰影成分呈同心圓狀地變化的方式,進(jìn)行處理。具體而言,假設(shè)將圖像M分割后的塊(1,1)~(5,5)中的中央的塊(3,3)為平坦區(qū)域。
首先,第1方向陰影成分計(jì)算部121a從圖8所示的圖像M0~M4中的某個(gè)圖像提取包含平坦區(qū)域的塊(3,3)的列,并從另一個(gè)圖像提取拍有與這些塊相同的被攝體的塊(即共同區(qū)域),使用在從兩個(gè)圖像提取出的塊之間位置對應(yīng)的像素彼此的亮度,計(jì)算水平方向上的陰影成分。
具體而言,由于圖像M0的第1列R0(X=1)所包含的塊(1,1)、(1,2)、(1,3)、(1,4)、(1,5)和圖像M2的第3列R2(X=3)所包含的塊(3,1)、(3,2)、(3,3)、(3,4)、(3,5)是共同區(qū)域,所以在這些塊之間位置對應(yīng)的像素彼此的紋理成分相同。因此,第1列的塊內(nèi)的各個(gè)像素中的陰影成分是通過將圖像M0的第1列R0(X=1)的塊內(nèi)的該像素的亮度除以圖像M2的第3列R2(X=3)的塊內(nèi)的像素且是位置對應(yīng)的像素的亮度來計(jì)算的。
以下,將塊(1,1)、(1,2)、(1,3)、(1,4)、(1,5)內(nèi)的任意像素中的陰影成分表示為陰影成分Sh(1,1)、Sh(1,2)、Sh(1,3)、Sh(1,4)、Sh(1,5)。此外,將圖像M0的塊(1,1)、(1,2)、(1,3)、(1,4)、(1,5)內(nèi)的任意像素的亮度表示為亮度H0(1,1)、H0(1,2)、H0(1,3)、H0(1,4)、H0(1,5)。此外,將圖像M2的第3列的塊(3,1)、(3,2)、(3,3)、(3,4)、(3,5)內(nèi)的任意像素的亮度表示為亮度H2(3,1)、H2(3,2)、H2(3,3)、H2(3,4)、H2(3,5)。由此,各個(gè)塊(1,1)~(1,5)內(nèi)的任意像素中的陰影成分Sh(1,1)~Sh(1,5)通過下式(1a)~(1e)來給出。
[式1]
式(1a)~(1e)表示:各個(gè)塊內(nèi)的任意像素中的陰影成分通過將右邊的分子所記載的塊內(nèi)的該像素的亮度除以分母所記載的塊內(nèi)的位置對應(yīng)的像素的亮度來給出。以下,如式(1a)~(1e)所示,用塊彼此的運(yùn)算式的形式來總括表示與在不同的塊之間位置對應(yīng)的像素彼此相關(guān)的運(yùn)算。
此外,總結(jié)這些式(1a)~(1e),對于第1列的塊(X=1)內(nèi)的任意像素中的陰影成分,使用圖像M1的第1列的塊內(nèi)的該像素中的亮度H0(X=1)和圖像M2的第3列的塊內(nèi)的位置對應(yīng)的像素的亮度H2(X=3),以下式(1-1)的形式來表示。
[式2]
式(1-1)表示:第1列的各塊內(nèi)的任意像素中的陰影成分Sh(1,1)、Sh(1,2)、Sh(1,3)、Sh(1,4)、Sh(1,5)(將這些總括記作Sh(X=1))分別通過講圖像M0的第1列上的任意的像素的亮度H0(1,1)、H0(1,2)、H0(1,3)、H0(1,4)、H0(1,5)(將這些總括記作H0(X=1))除以圖像M2的第3列上的位置對應(yīng)的像素的亮度H2(3,1)、H2(3,2)、H2(3,3)、H2(3,4)、H2(3,5)(將這些總括記作H2(X=3))來給出。
同樣,第2~5列的各塊內(nèi)的任意像素中的陰影成分Sh(X=2)、Sh(X=3)、Sh(X=4)、Sh(X=5)也通過下式(1-2)、(1-3)、(1-4)、(1-5)來分別給出。另外,如式(1-3)所示,由于第3列的塊內(nèi)的各個(gè)像素中的陰影成分Sh(X=3)是相同塊內(nèi)的相同像素的亮度彼此的運(yùn)算,所以為1.0。
[式3]
將這樣計(jì)算出的陰影成分Sh(X=1)~Sh(X=5)依次存儲在存儲部13的規(guī)定的存儲區(qū)域中。圖9是示出該存儲部13中存儲的水平方向上的陰影成分Sh的示意圖。另外,在圖9中,對包含中央的平坦區(qū)域的列(即在陰影成分的計(jì)算的基準(zhǔn)中使用的列)標(biāo)注斜線的陰影。
這里,圖9所示的陰影成分Sh(X=1)、Sh(X=2)、Sh(X=4)、Sh(X=5)中的第3行的塊內(nèi)的任意像素中的陰影成分Sh(1,3)、Sh(2,3)、Sh(4,3)、Sh(5,3)是以作為平坦區(qū)域的塊(3,3)內(nèi)的位置對應(yīng)的像素的亮度為基準(zhǔn)計(jì)算出的。因此,以下將使用平坦區(qū)域的塊內(nèi)的像素的亮度而計(jì)算出的陰影成分稱作歸一化陰影成分。
與此相對,陰影成分Sh(X=1)、Sh(X=2)、Sh(X=4)、Sh(X=5)中的第1、2、4、5行的塊內(nèi)的任意像素中的陰影成分是以即使在第3列中除平坦區(qū)域以外的塊(3,1)、(3,2)、(3,4)、(3,5)內(nèi)的位置對應(yīng)的像素的亮度為基準(zhǔn)分別計(jì)算出的。例如,如式(1a)所示,塊(1,1)的陰影成分Sh(1,1)是使用塊(3,1)內(nèi)的像素的亮度H2(3,1)計(jì)算出的。以下,將使用除平坦區(qū)域以外的塊內(nèi)的像素的亮度而計(jì)算出的陰影成分稱作非歸一化陰影成分。
同樣,第2方向陰影成分計(jì)算部121b根據(jù)通過一邊使拍攝視野V在垂直方向上逐次移動長度Bh一邊拍攝5次被攝體SP而取得的5張圖像,計(jì)算垂直方向上的陰影成分。即從這些5張圖像中的某個(gè)圖像提取包含平坦區(qū)域的塊(3,3)的行,并且從另一個(gè)圖像提取拍有與這些塊相同的被攝體的塊(共同區(qū)域),使用在從兩個(gè)圖像提取出的塊之間位置對應(yīng)的像素彼此的亮度,計(jì)算垂直方向上的陰影成分。
圖10是示出存儲部13中存儲的垂直方向上的陰影成分Sv的示意圖。另外,在圖10中,對包含中央的平坦區(qū)域的行(即在陰影成分的計(jì)算的基準(zhǔn)中使用的行)標(biāo)注斜線的陰影。
這里,圖10所示的陰影成分Sv(Y=1)、Sv(Y=2)、Sv(Y=4)、Sv(Y=5)中的第3列的塊內(nèi)的任意像素中的陰影成分Sv(3,1)、Sv(3,2)、Sv(3,4)、Sv(3,5)是以作為平坦區(qū)域的塊(3,3)內(nèi)的位置對應(yīng)的像素的亮度為基準(zhǔn)而計(jì)算出的歸一化陰影成分。與此相對,陰影成分Sv(Y=1)、Sv(Y=2)、Sv(Y=4)、Sv(Y=5)中的第1、2、4、5列的塊內(nèi)的任意像素中的陰影成分是使用在第3行中也除了平坦區(qū)域以外的塊(1,3)、(2,3)、(4,3)、(5,3)內(nèi)的位置對應(yīng)的像素的亮度而計(jì)算出的非歸一化陰影成分。
另外,雖然在上述說明中,在步驟S1中使拍攝視野分別在水平方向和垂直方向上移動并取得圖像以后,在步驟S2中依次進(jìn)行水平方向和垂直方向上的陰影成分的計(jì)算,但是處理的順序不限定于此。例如,也可以在使拍攝視野在水平方向上移動并取得圖像以后,使用該取得的圖像進(jìn)行水平方向上的陰影成分的計(jì)算,接著在使拍攝視野在垂直方向上移動并取得圖像以后,使用該取得的圖像進(jìn)行垂直方向上的陰影成分的計(jì)算。此時(shí),可以并行進(jìn)行水平方向上的陰影成分的計(jì)算和使拍攝視野在垂直方向上移動的圖像的取得。此外,也可以比水平方向上的各個(gè)處理先進(jìn)行垂直方向上的各個(gè)處理。
在接下來的步驟S3中,圖像校正部122使用在步驟S2中計(jì)算出的水平方向和垂直方向上的陰影成分,進(jìn)行在步驟S1中取得的任意的圖像的校正。圖11是用于說明由圖像校正部122執(zhí)行的圖像的校正處理的示意圖。這里,作為一例,說明設(shè)圖11(a)所示的圖像M為校正對象圖像的情況。以下,將圖像M內(nèi)的塊(X,Y)內(nèi)的任意像素的亮度記作H(X,Y)。
圖12是詳細(xì)示出由圖像校正部122執(zhí)行的圖像的校正處理的流程圖。在步驟S31中,第1圖像校正部122a使用歸一化陰影成分來校正圖像M中的獲得了歸一化陰影成分的塊內(nèi)的各個(gè)像素的亮度。
在實(shí)施方式1的情況下,獲得了水平方向上的歸一化陰影成分Sh(參照圖9)的塊是(1,3)、(2,3)、(4,3)、(5,3),獲得了垂直方向上的歸一化陰影成分Sv(參照圖10)的塊是(3,1)、(3,2)、(3,4)、(3,5)。因此,當(dāng)設(shè)平坦區(qū)域的塊為(X0、Y0)時(shí),能夠?qū)@得了歸一化陰影成分的塊表示為(X,Y0)或(X0,Y)。
第1圖像校正部122a通過對于獲得了水平方向上的歸一化陰影成分Sh的塊(X,Y0)內(nèi)的任意像素的亮度H(X,Y0)使用該像素位置上的歸一化陰影成分Sh(X,Y0)來進(jìn)行校正,計(jì)算該像素中的紋理成分T(X,Y0)(參照式(2-1))。此外,第1圖像校正部122a通過對于獲得了垂直方向上的歸一化陰影成分Sv的塊(X0,Y)內(nèi)的任意像素的亮度H(X0,Y)使用該像素位置上的歸一化陰影成分Sv(X0,Y)來校正,計(jì)算該像素中的紋理成分T(X0,Y)(參照式(2-2))。
[式4]
在接下來的步驟S32中,第2圖像校正部122b使用歸一化陰影成分和非歸一化陰影成分來校正圖像M中的未獲得歸一化陰影成分的塊內(nèi)的各個(gè)像素的亮度。
例如,考慮對圖11(a)所示的塊(1,1)內(nèi)的任意像素進(jìn)行陰影校正的情況。如圖11(b)和式(1a)所示,針對塊(1,1)內(nèi)的該像素計(jì)算出的陰影成分Sh(1,1)是以塊(1,1)的水平方向上的共同區(qū)域即塊(3,1)內(nèi)的位置對應(yīng)的像素的亮度H2(3,1)為基準(zhǔn)計(jì)算出的非歸一化陰影成分。并且,如圖11(c)所示,該塊(3,1)內(nèi)的像素的亮度H2(3,1)所包含的陰影成分被作為以該塊(3,1)的垂直方向上的共同區(qū)域即平坦區(qū)域的塊(3,3)內(nèi)的位置對應(yīng)的像素的亮度為基準(zhǔn)計(jì)算出的歸一化陰影成分Sv(3,1)給出。因此,圖像M的塊(1,1)內(nèi)的任意像素中的紋理成分T(1,1)使用圖像M中的塊(1,1)內(nèi)的該像素的亮度H(1,1)、該像素位置上的非歸一化陰影成分Sh(1,1)和塊(3,1)內(nèi)的對應(yīng)的像素位置上的歸一化陰影成分Sv(3,1),通過下式(3)來給出。
[式5]
圖13是用于說明由第2圖像校正部122b執(zhí)行的陰影校正處理的另一個(gè)例子的示意圖。如圖13(b)所示,針對圖13(a)所示的校正對象的塊(1,1)內(nèi)的任意像素計(jì)算出的另一個(gè)陰影成分Sv(1,1)是以塊(1,1)的垂直方向上的共同區(qū)域即塊(1,3)內(nèi)的位置對應(yīng)的像素的亮度為基準(zhǔn)計(jì)算出的非歸一化陰影成分。并且,如圖13(c)所示,該塊(1,3)內(nèi)的像素的亮度所包含的陰影成分被作為以該塊(1,3)的水平方向上的共同區(qū)域即平坦區(qū)域的塊(3,3)內(nèi)的位置對應(yīng)的像素的亮度為基準(zhǔn)計(jì)算出的歸一化陰影成分Sh(1,3)給出。因此,圖像M的塊(1,1)內(nèi)的任意像素中的紋理成分T(1,1)使用圖像M中的塊(1,1)內(nèi)的該像素的亮度H(1,1)、該像素位置上的非歸一化陰影成分Sv(3,1)和塊(3,1)內(nèi)的對應(yīng)的像素位置上的歸一化陰影成分Sh(1,1),通過下式(4)來給出。
[式6]
設(shè)平坦區(qū)域的塊為(X0,Y0)來對這些計(jì)算式進(jìn)行一般化。圖像M中的未獲得歸一化陰影成分的塊(X,Y)內(nèi)的任意像素中的紋理成分T(X,Y)使用塊(X,Y)內(nèi)的該像素的亮度H(X,Y)、以塊(X,Y)的水平方向上的共同區(qū)域的亮度為基準(zhǔn)計(jì)算出的非歸一化陰影成分Sh(X,Y)、和上述共同區(qū)域的垂直方向上的共同區(qū)域即平坦區(qū)域的亮度為基準(zhǔn)計(jì)算出的歸一化陰影成分Sv(X0,Y),通過下式(5)來給出。
[式7]
或者,圖像M中的未獲得歸一化陰影成分的塊(X,Y)內(nèi)的任意像素中的紋理成分T(X,Y)使用塊(X,Y)內(nèi)的該像素的亮度H(X,Y)、以塊(X,Y)的垂直方向上的共同區(qū)域的亮度為基準(zhǔn)計(jì)算出的非歸一化陰影成分Sv(X,Y)和以上述共同區(qū)域的水平方向上的共同區(qū)域即平坦區(qū)域的亮度為基準(zhǔn)計(jì)算出的歸一化陰影成分Sh(X,Y0),通過下式(6)來給出。
[式8]
然后,處理返回到主例程,圖像處理裝置1的動作結(jié)束。
另外,執(zhí)行步驟S31和S32的順序不限于上述的順序,可以先執(zhí)行步驟S32,也可以并行執(zhí)行步驟S31和S32。
如以上所說明那樣,根據(jù)本實(shí)施方式1,能夠相比以往減少計(jì)算陰影成分所需的圖像張數(shù)。因此,能夠減少取得這些圖像時(shí)的拍攝次數(shù),并能夠以簡單的結(jié)構(gòu)短時(shí)間且高精度地進(jìn)行陰影校正。此外,根據(jù)本實(shí)施方式1,由于僅是使拍攝視野在水平方向和垂直方向的2個(gè)方向上移動,所以能夠使載置有被攝體SP的工作臺的控制或?qū)τ诠鈱W(xué)系統(tǒng)的控制簡單。
另外,雖然在上述說明中,使拍攝視野移動,計(jì)算陰影成分,或者,設(shè)分割為作為進(jìn)行圖像校正的單位的塊的分割數(shù)為5×5=25,但是,圖像(拍攝視野)的分割數(shù)不限定于此。越增多分割數(shù),越能夠進(jìn)行更精細(xì)的陰影校正。另一方面,由于越減少分割數(shù),越能夠抑制被攝體SP的拍攝次數(shù)和陰影成分的計(jì)算處理和圖像的校正處理中的運(yùn)算量,所以能夠縮短陰影校正所需的總的時(shí)間。
此外,在上述說明中,在通過式(2-1)和(2-2)、以及(5)或(6)計(jì)算紋理成分時(shí),即在進(jìn)行陰影校正時(shí),將通過式(1a)~(1e)和(1-1)~(1-5)而給出的陰影成分的倒數(shù)(陰影校正增益)乘以亮度。該運(yùn)算通過將給出陰影成分的式(1a)~(1e)和(1-1)~(1-5)中的右邊的分子和分母交換,直接計(jì)算式(2-1)、(2-2)、(5)、(6)中的陰影校正增益,能夠?qū)崿F(xiàn)運(yùn)算量的消減。
(變形例1)
對本發(fā)明的實(shí)施方式1的變形例1進(jìn)行說明。
在上述實(shí)施方式1中,陰影成分計(jì)算部121計(jì)算水平方向和垂直方向的各個(gè)方向上的歸一化陰影成分和非歸一化陰影成分,圖像校正部122使用這些陰影成分,使用與校正對象的塊對應(yīng)的式(2-1)、(2-2)、或(5)或(6)來計(jì)算紋理成分。但是,陰影成分計(jì)算部121可以生成映射圖,并存儲到存儲部13中,該映射圖存儲有無論校正對象的塊如何都能夠應(yīng)用于相同的紋理成分的運(yùn)算式的陰影成分S(X,Y)。
具體而言,關(guān)于取得了水平方向上的歸一化陰影成分Sh(X,Y0)的塊(X,Y0),將該歸一化陰影成分作為陰影成分S(X,Y)存儲在映射圖中。此外,關(guān)于取得了垂直方向上的歸一化陰影成分Sv(X0,Y)的塊(X0,Y),將該歸一化陰影成分作為陰影成分S(X,Y)存儲在映射圖中。關(guān)于取得了非歸一化陰影成分Sh(X,Y)和Sv(X,Y)的塊,將根據(jù)非歸一化陰影成分中的任意一個(gè)和歸一化陰影成分而計(jì)算的值Sh(X,Y)×Sv(X0,Y)、或Sv(X,Y)×Sh(X,Y0)作為陰影成分S(X,Y)存儲在映射圖中。
在該情況下,圖像校正部122可以使用存儲在由陰影成分計(jì)算部121生成的映射圖中的陰影成分S(X,Y),計(jì)算紋理成分T(X,Y)(=H(X,Y)/S(X,Y))。
(實(shí)施方式2)
接著,對本發(fā)明的實(shí)施方式2進(jìn)行說明。
本實(shí)施方式2的圖像處理裝置的結(jié)構(gòu)整體上與實(shí)施方式1(參照圖1)相同,由第1方向陰影成分計(jì)算部121a和第2方向陰影成分計(jì)算部121b執(zhí)行的陰影成分的計(jì)算處理的詳細(xì)內(nèi)容與實(shí)施方式1不同。
圖14是用于說明在本實(shí)施方式2中在陰影成分的計(jì)算中使用的圖像的拍攝方法的示意圖,按照時(shí)間序列(t)示出被攝體SP相對于光學(xué)系統(tǒng)30的拍攝視野V在水平方向上的相對位置P0、P1、……的變化。在圖14中,設(shè)將被攝體SP在水平方向上按照每個(gè)長度Bw進(jìn)行分割后的區(qū)域分別為被攝體區(qū)域SP(1)~SP(5)。
這里,上述實(shí)施方式1中,通過分別一邊使光學(xué)系統(tǒng)30的拍攝視野V在水平方向和垂直方向上相對于被攝體SP逐次以長度Bw(或長度Bh)相對移動一邊進(jìn)行5次拍攝,取得了5張圖像。與此相對,在本實(shí)施方式2中,通過一邊使拍攝視野V以相同的長度Bw(或長度Bh)相對移動一邊進(jìn)行9次拍攝,在1個(gè)方向上取得9張圖像。
圖15是用于說明本實(shí)施方式2中的陰影成分的計(jì)算方法的示意圖。圖15(a)所示的圖像M(0)、M(1)、……是在圖14所示的被攝體SP位于相對位置P0、P1、……時(shí)分別拍攝出的圖像。此外,圖15(b)是示出存儲部13中存儲的水平方向上的陰影成分Sh的示意圖。
如圖14和圖15(a)所示,在求取列X=1內(nèi)的任意像素中的陰影成分的情況下,可以使用拍有被攝體區(qū)域SP(1)的圖像M(0)的列X=1內(nèi)的該像素的亮度和作為其共同區(qū)域的圖像M(2)的列X=3內(nèi)的位置對應(yīng)的像素的亮度,也可以使用拍有被攝體區(qū)域SP(2)的圖像M(1)的列X=1內(nèi)的該像素的亮度和作為其共同區(qū)域的圖像M(3)的列X=3內(nèi)的位置對應(yīng)的像素的亮度。此外,可以使用拍有被攝體區(qū)域SP(3)的圖像M(2)的列X=1內(nèi)的該像素和作為其共同區(qū)域的圖像M(4)的列X=3內(nèi)的位置對應(yīng)的像素的亮度,也可以使用拍有被攝體區(qū)域SP(4)的圖像M(3)的列X=1內(nèi)的該像素的亮度和作為其共同區(qū)域的圖像M(5)的列X=3內(nèi)的位置對應(yīng)的像素的亮度。并且,可以使用拍有被攝體區(qū)域SP(5)的圖像M(4)的列X=1內(nèi)的該像素的亮度和作為其共同區(qū)域的圖像M(6)的列X=3內(nèi)的位置對應(yīng)的像素的亮度。即,關(guān)于列X=1,能夠根據(jù)紋理成分相互不同的5種的共同區(qū)域的組合(圖像的組合),計(jì)算5種陰影成分。關(guān)于其他列也同樣如此。
由此可知,對于1個(gè)列使用紋理成分不同的多個(gè)列的亮度,由此能夠計(jì)算更高魯棒性的陰影成分。具體而言,各個(gè)列內(nèi)的任意像素中的陰影成分Sh(X=1)~Sh(X=5)通過下式(7-1)~(7-5)來給出。
[式9]
這里,如果關(guān)注各個(gè)式的分子的第1項(xiàng)和分母的第1項(xiàng),則與式(1a)同樣,可以看到表示某個(gè)圖像的左端的行(X=1)內(nèi)的像素的亮度和該左端的行的共同區(qū)域即中央的行(X=3)內(nèi)的像素的亮度的比的形式。關(guān)于分子和分母的第2項(xiàng)以后也同樣如此。即,可以說式(7-1)~(7-5)將根據(jù)紋理成分相互不同的共同區(qū)域而計(jì)算出的多個(gè)陰影成分進(jìn)行了平均。
作為由第1方向陰影成分計(jì)算部121a執(zhí)行的實(shí)際處理,如圖14和圖15所示,每次從圖像取得部11取入圖像時(shí),將圖像內(nèi)的各個(gè)像素的亮度與存儲部13的規(guī)定存儲區(qū)域累計(jì)相加。具體而言,按照在這些列之間位置對應(yīng)的每個(gè)像素,依次將圖像M(0)~M(4)的第1列的塊內(nèi)的像素的亮度H0(X=1)、H1(X=1)、H2(X=1)、H3(X=1)、H4(X=1)與陰影成分Sh的第1列對應(yīng)的存儲區(qū)域累積相加。此外,按照在這些列之間位置對應(yīng)的每個(gè)像素,依次將圖像M(1)~M(5)的第2列的塊內(nèi)的像素的亮度H1(X=2)、H2(X=2)、H3(X=2)、H4(X=2)、H5(X=2)與陰影成分Sh的第2列對應(yīng)的存儲區(qū)域累積相加。同樣,按照在這些列之間位置對應(yīng)的每個(gè)像素,依次將圖像M(2)~M(6)的第3列的塊內(nèi)的像素的亮度H2(X=3)、H3(X=3)、H4(X=3)、H5(X=3)、H6(X=3)與陰影成分Sh的第3列對應(yīng)的存儲區(qū)域累積相加。關(guān)于第4行和第5行也同樣如此。
這樣,在將圖像M(0)~M(9)內(nèi)的各個(gè)像素的亮度與規(guī)定的存儲區(qū)域累積相加以后,第1方向陰影成分計(jì)算部121a將各個(gè)列上的亮度的累積相加值除以中央的列(X=3)中的亮度的累積相加值。由此,能夠獲得魯棒性高的陰影成分。
第2方向陰影成分計(jì)算部121b也能夠通過執(zhí)行與第1方向陰影成分計(jì)算部121a相同的處理,計(jì)算垂直方向上的陰影成分。
如以上所說明那樣,根據(jù)本實(shí)施方式2,能夠計(jì)算魯棒性高的陰影成分。因此,能夠不依賴校正對象圖像中的紋理成分的特性而穩(wěn)定地進(jìn)行高精度的校正。此外,根據(jù)本實(shí)施方式2,由于在按照每個(gè)列或每個(gè)行將亮度累積相加以后計(jì)算陰影成分,所以無需增設(shè)新的存儲器,就能夠簡單地進(jìn)行運(yùn)算處理。
另外,雖然在本實(shí)施方式2中,根據(jù)通過使拍攝視野V在各個(gè)方向上移動8次并進(jìn)行9次拍攝而取得的9張圖像計(jì)算了陰影成分,但是也可以通過進(jìn)一步反復(fù)進(jìn)行拍攝視野的移動和拍攝,使用更多的圖像。由此,能夠進(jìn)一步提高陰影成分的魯棒性。
(變形例2)
對本發(fā)明的實(shí)施方式2的變形例2進(jìn)行說明。
可以通過根據(jù)與如上所述的各個(gè)列相關(guān)的多個(gè)共同區(qū)域的組合單獨(dú)計(jì)算多種陰影成分,并對這些陰影成分進(jìn)行相加平均,取得該列的水平方向上的陰影成分。例如,關(guān)于列X=1,根據(jù)圖像M(0)的列X=1和圖像M(2)的列X=3、圖像M(1)的列X=1和圖像M(3)的列X=3、圖像M(2)的列X=1和圖像M(4)的列X=3、圖像M(3)的列X=1和圖像M(5)的列X=3、圖像M(4)的列X=1和圖像M(6)的列X=3的5種的共同區(qū)域的組合來計(jì)算5種陰影成分,對它們進(jìn)行相加平均。關(guān)于垂直方向上的陰影成分也同樣如此。
(實(shí)施方式3)
接著,對本發(fā)明的實(shí)施方式3進(jìn)行說明。
本實(shí)施方式3的圖像處理裝置的結(jié)構(gòu)整體上與實(shí)施方式1(參照圖1)相同,由第1方向陰影成分計(jì)算部121a和第2方向陰影成分計(jì)算部121b執(zhí)行的陰影成分的計(jì)算處理的詳細(xì)內(nèi)容與實(shí)施方式1不同。
圖16(a)~(c)是用于說明本實(shí)施方式3中的陰影成分的計(jì)算方法的示意圖,并示出通過一邊如圖6所示地使拍攝視野V在水平方向上逐次移動長度Bw一邊進(jìn)行3次拍攝而取得的3張圖像。
在本實(shí)施方式3中,第1方向陰影成分計(jì)算部121a關(guān)注3張圖像M0~M2之間的共同區(qū)域的左右方向上的對稱性,通過下式(8-1)~(8-5)來計(jì)算水平方向上的陰影成分。
[式10]
即,第1列所包含的任意的像素中的陰影成分Sh(X=1)是通過圖像M0的第1列的塊R0(X=1)內(nèi)的該像素的亮度H0(X=1)和作為其共同區(qū)域的圖像M2的第3列的塊R2(X=3)內(nèi)的位置對應(yīng)的像素的亮度H2(X=3)來計(jì)算的(參照式(8-1))。此外,第2列所包含的任意的像素中的陰影成分Sh(X=2)是通過圖像M1的第2列的塊R1(X=2)內(nèi)的該像素的亮度H1(X=2)、和其共同區(qū)域即圖像M2的第3列的塊R2(X=3)內(nèi)的位置對應(yīng)的像素的亮度H2(X=3)來計(jì)算的(參照式(8-2))。第4列所包含的任意的像素中的陰影成分Sh(X=4)是通過圖像M1的第4列的塊R1(X=4)內(nèi)的該像素的亮度H1(X=4)和作為其共同區(qū)域的圖像M0的第3列的塊R0(X=3)內(nèi)的位置對應(yīng)的像素的亮度H0(X=3)來計(jì)算的(參照式(8-4))。第5列所包含的任意的像素中的陰影成分Sh(X=5)是通過圖像M2的第5列的塊R2(X=5)內(nèi)的該像素的亮度H2(X=5)和作為其共同區(qū)域的圖像M0的第3列的塊R0(X=3)內(nèi)的位置對應(yīng)的像素的亮度H0(X=3)來計(jì)算的(參照式(8-5))。另外,如式(8-3)所示,第3列所包含的各個(gè)像素的陰影成分為Sh(X=3)=1.0。
第2方向陰影成分計(jì)算部121b也能夠通過執(zhí)行與第1方向陰影成分計(jì)算部121a相同的處理,根據(jù)3張圖像計(jì)算垂直方向上的陰影成分。
使用了這樣計(jì)算出的水平方向和垂直方向的各個(gè)方向上的歸一化陰影成分和非歸一化陰影成分的圖像的校正方法與實(shí)施方式1相同(參照圖11~圖13)?;蛘?,可以與實(shí)施方式1的變形例1同樣地生成存儲有陰影成分的映射圖,并使用該映射圖來校正圖像。
如以上所說明那樣,根據(jù)本實(shí)施方式3,由于能夠減少拍攝視野V的移動次數(shù)和拍攝次數(shù),所以能夠更短時(shí)間地進(jìn)行陰影校正。
(實(shí)施方式4)
接著,對本發(fā)明的實(shí)施方式4進(jìn)行說明。
本實(shí)施方式4的圖像處理裝置的結(jié)構(gòu)整體上與實(shí)施方式1(參照圖1)相同,由第1方向陰影成分計(jì)算部121a和第2方向陰影成分計(jì)算部121b執(zhí)行的陰影成分的計(jì)算處理的詳細(xì)內(nèi)容與實(shí)施方式1不同。圖17是用于說明本實(shí)施方式4中的陰影成分的計(jì)算方法的示意圖。
首先,如圖6所示,考慮通過使拍攝視野V對準(zhǔn)被攝體SP內(nèi)的某個(gè)區(qū)域并進(jìn)行拍攝,取得圖像M0,接著,通過使拍攝視野V在水平方向上移位長度Bw并進(jìn)行拍攝,取得了圖像M的情況。此時(shí),以在圖像M0和圖像M1之間確保足夠的共同區(qū)域的方式,具體而言,以至少將作為平坦區(qū)域的圖像的中心部包含在兩個(gè)圖像M0、M1的共同區(qū)域中的方式,設(shè)定長度Bw。圖17示出通過這樣的拍攝而取得的圖像M0、M1,圖像M0的列X=1和圖像M1的列X=2是共同區(qū)域。
這里,在本實(shí)施方式4中,由于能夠利用使拍攝視野V在水平方向上移位后的1對圖像來計(jì)算陰影成分,所以無需以規(guī)定的塊為單位使拍攝視野V移位2次以上。因此,如果滿足上述的長度Bw的條件,則用戶能夠通過使載置有被攝體SP的工作臺在水平方向上任意移動,使拍攝視野V移位。在該情況下,任意的工作臺移動量為1個(gè)塊的長度Bw?;蛘撸梢栽O(shè)從一邊使工作臺在水平方向上移動一邊連續(xù)地取得的圖像組中選擇出的1對圖像之間的移位量為長度Bw。在這些情況下,通過將圖像的水平方向的長度w除以1個(gè)塊的長度Bw,確定水平方向上的塊的分割數(shù)。
圖像M0的列X=1所包含的任意的像素的亮度H0(X=1)由該像素中的紋理成分T0(X=1)和陰影成分Sh(X=1)構(gòu)成。即,H0(X=1)=T0(X=1)×Sh(X=1)。另一方面,當(dāng)設(shè)拍有與該像素相同的被攝體的像素且是圖像M1的列X=2所包含的像素的亮度為H1(X=2)時(shí),亮度H1(X=2)由該像素中的紋理成分T1(X=2)和陰影成分Sh(X=2)構(gòu)成。即,H1(X=2)=T2(X=2)×Sh(X=2)。
如上所述,由于圖像M0的列X=1和圖像M1的列X=2是共同區(qū)域,所以紋理成分T0(X=1)和T1(X=2)相等。因此,下式(9-1)成立。
[式11]
同樣,當(dāng)使用圖像M0的列X=2和圖像M1的列X=3、圖像M0的列X=3和圖像M1的列X=4、圖像M0的列X=4和圖像M1的列X=5分別為共同區(qū)域的狀況時(shí),可得到表示列X=2、X=3、X=4分別包含的任意像素中的陰影成分Sh(X=2)、Sh(X=3)、Sh(X=4)的式(9-2)~(9-4)。
[式12]
這里,在以包含平坦區(qū)域(3,3)的中央的列X=3內(nèi)的各個(gè)像素中的陰影成分Sh(X=3)為基準(zhǔn),將陰影成分Sh(X=3)=1.0代入到式(9-1)~(9-4)中并進(jìn)行整理后,可得到表示各個(gè)列所包含的任意像素中的陰影成分Sh(X=1)~Sh(X=5)的式(10-1)~(10-5)。
[式13]
Sh(X=3)=1.0…(10-3)
如式(10-2)所示,陰影成分Sh(X=2)通過亮度H0(X=2)和H1(X=3)來給出。此外,如式(10-1)所示,陰影成分Sh(X=1)通過陰影成分Sh(X=2)和亮度H0(X=1)和H1(X=2)來給出,該陰影成分Sh(X=2)通過式(10-2)計(jì)算出。此外,如式(10-4)所示,陰影成分Sh(X=4)通過亮度H0(X=3)和H1(X=4)來給出。并且,如式(10-5)所示,陰影成分Sh(X=5)通過陰影成分Sh(X=4)和亮度H0(X=4)和H1(X=5)來給出,該陰影成分Sh(X=4)通過式(10-4)計(jì)算出。即,如式(10-1)~(10-5)所示,各個(gè)列所包含的任意像素中的陰影成分Sh能夠使用2個(gè)圖像M0、M1內(nèi)的像素的亮度來計(jì)算。
即,如果圖像內(nèi)的一部分的區(qū)域(例如列X=3)中的陰影成分(Sh(X=3))是已知的(在平坦區(qū)域的情況下為1.0),則能夠使用一方的圖像(例如圖像M0)內(nèi)的陰影成分為已知的區(qū)域(列X=3)內(nèi)的像素的亮度(H0(X=3))和相對于該區(qū)域拍有相同的被攝體的另一個(gè)圖像(圖像M1)內(nèi)的區(qū)域(X=4)中的位置對應(yīng)的像素的亮度(H1(X=4))的比(H1(X=4)/H0(X=3))、和該已知的陰影成分(Sh(X=3)),計(jì)算未知的陰影成分(Sh(X=4))。并且,通過依次反復(fù)進(jìn)行這樣的運(yùn)算,能夠取得整個(gè)圖像中的陰影成分。
另一方面,第2方向陰影成分計(jì)算部121b從通過使拍攝視野V對準(zhǔn)被攝體SP內(nèi)的某個(gè)區(qū)域并進(jìn)行拍攝而取得的圖像和使拍攝視野V相對于該圖像在垂直方向上移位規(guī)定距離(例如,相當(dāng)于1個(gè)塊的長度Bh,參照圖5)后的圖像(參照圖7),取得陰影成分。即使在該情況下,以在兩個(gè)圖像之間確保足夠的共同區(qū)域的方式,具體而言,以至少將作為平坦區(qū)域的圖像的中心部包含在共同區(qū)域中的方式,設(shè)定長度Bh。
在該情況下也與水平方向的情況同樣,如果滿足上述的長度Bh的條件,則可以通過由用戶使載置有被攝體SP的工作臺在垂直方向上任意移動,使拍攝視野V移位。此時(shí),任意的工作臺移動量為1個(gè)塊的長度Bh?;蛘?,可以設(shè)從一邊使工作臺在垂直方向上移動一邊連續(xù)地取得的圖像組中選擇出的1對圖像之間的移位量為長度Bh。在這些情況下,通過將圖像的垂直方向的長度h除以1個(gè)塊的長度Bh,確定垂直方向上的塊的分割數(shù)。
使拍攝視野V移位以前或以后的圖像的任意一個(gè)可以兼用作由第1方向陰影成分計(jì)算部121a在運(yùn)算中使用的圖像M0、M1的任意一個(gè)。即,實(shí)質(zhì)上,可以重新僅取得1張使拍攝視野V相對于圖像M0或M1在垂直方向上移位后的圖像。
并且,第2方向陰影成分計(jì)算部121b通過進(jìn)行與上述的水平方向陰影成分Sh的計(jì)算方法相同的運(yùn)算,計(jì)算各個(gè)行(Y=1、Y=2、Y=3、Y=4、Y=5)所包含的各個(gè)像素中的陰影成分。
使用了這樣計(jì)算出的水平方向和垂直方向的各個(gè)方向上的歸一化陰影成分和非歸一化陰影成分的圖像的校正方法與實(shí)施方式1相同(參照圖11~圖13)?;蛘?,可以與實(shí)施方式1的變形例1同樣地生成存儲有陰影成分的映射圖,并使用該映射圖來校正圖像。
如以上所說明那樣,根據(jù)本實(shí)施方式4,能夠根據(jù)分別在水平方向和垂直方向上具有足夠的共同區(qū)域的2組圖像,計(jì)算圖像整體中的陰影成分。并且,由于各個(gè)組中的一方的圖像能夠兼用作另一個(gè)組的圖像,所以能夠根據(jù)至少3張圖像計(jì)算圖像整體中的陰影成分。此外,在取得具有共同區(qū)域的圖像時(shí),無需嚴(yán)密控制拍攝視野的水平方向和垂直方向上的移位量,所以在例如顯微鏡系統(tǒng)中,不限于電動工作臺,即使在手動工作臺中也能夠簡單地實(shí)現(xiàn)。
另外,雖然在本實(shí)施方式4中,根據(jù)使視野在水平方向上移位后的1對圖像來計(jì)算水平方向陰影成分,但是也可以根據(jù)使拍攝視野V在水平方向上移位后的多對圖像來分別計(jì)算相同的像素位置上的多個(gè)水平方向陰影成分,并對這些水平方向陰影成分進(jìn)行相加平均等,取得最終的水平方向陰影成分Sh。此時(shí),多對圖像的水平方向上的移位量可以是任意的。由此,能夠抑制由于隨機(jī)噪聲、死白和死黑這樣的圖像劣化引起的陰影成分的精度下降。
在取得垂直方向陰影成分時(shí)也同樣可以根據(jù)使拍攝視野V在垂直方向上移位后的多對圖像來分別計(jì)算相同的像素位置上的多個(gè)垂直方向陰影成分,并對這些垂直方向陰影成分進(jìn)行相加平均等,取得最終的垂直方向陰影成分Sv。
(實(shí)施方式5)
接著,對本發(fā)明的實(shí)施方式5進(jìn)行說明。
本實(shí)施方式5的圖像處理裝置的結(jié)構(gòu)整體上與實(shí)施方式1(參照圖1)相同,由陰影成分計(jì)算部121執(zhí)行的陰影成分的計(jì)算處理的詳細(xì)內(nèi)容與實(shí)施方式1不同。
在上述實(shí)施方式1中,雖然使用式(5)和式(6)中的任意一個(gè)來計(jì)算未獲得歸一化陰影成分的塊內(nèi)的任意像素的紋理成分T(X,Y),但是陰影成分計(jì)算部121也可以計(jì)算將在這些式(5)、(6)中使用的陰影成分預(yù)先加權(quán)合成后的合成陰影成分。
這里,對于校正對象的塊(X,Y),設(shè)由以水平方向上的共同區(qū)域的塊為基準(zhǔn)計(jì)算出的非歸一化陰影成分Sh(X,Y)和以上述共同區(qū)域的塊的垂直方向上的共同區(qū)域即平坦區(qū)域的塊(3,3)為基準(zhǔn)計(jì)算出的歸一化陰影成分Sv(X0,Y)構(gòu)成的陰影成分為陰影成分Shv1(X,Y)(參照式(11))。
Shv1(X,Y)=Sh(X,Y)×Sv(X0,Y)……(11)
此外,對于校正對象的塊(X,Y),設(shè)由以垂直方向上的共同區(qū)域的塊為基準(zhǔn)計(jì)算出的非歸一化陰影成分Sv(X,Y)和以上述共同區(qū)域的塊的水平方向上的共同區(qū)域即平坦區(qū)域的塊(3,3)為基準(zhǔn)計(jì)算出的歸一化陰影成分Sh(X,Y0)構(gòu)成的陰影成分為陰影成分Shv2(X,Y)(參照式(12))。
Shv2(X,Y)=Sv(X,Y)×Sh(X,Y0)……(12)
將這些陰影成分Shv1(X,Y)、Shv2(X,Y)加權(quán)合成后的合成陰影成分S(X,Y)通過下式(13)來給出。
[式14]
S(X,Y)=(1-w(X,Y))×Shv1(X,Y)+w(X,Y)×Shv2(X,Y)…(13)
在式(13)中,w(X,Y)是在陰影成分的合成中使用的權(quán)重。通常陰影成分能夠視作是平滑的,因此,如下式(14)所示,權(quán)重w(X,Y)能夠根據(jù)例如邊緣量的總和的比來確定。
[式15]
在式(14)中,參數(shù)α是歸一化系數(shù)。此外,Edgeh[]表示水平方向上的陰影成分的分布的對象區(qū)域(塊(X,Y)或(X,Y0))中的水平方向的邊緣量的總和。Edgev[]表示垂直方向上的陰影成分的分布的對象區(qū)域(塊(X0,Y)或(X,Y))中的垂直方向的邊緣量的總和。
例如,在陰影成分Shv1(X,Y)的計(jì)算中使用的塊(X,Y)和(X0,Y)中的邊緣量的總和小于在陰影成分Shv2(X,Y)的計(jì)算中使用的塊(X,Y0)和(X0,Y)中的邊緣量的總和的情況下,權(quán)重w(X,Y)的值也變小。因此,式(13)中的陰影成分Shv1的貢獻(xiàn)部分增大。
如式(14)所示,通過根據(jù)邊緣量或者對比度來設(shè)定權(quán)重w(X,Y),能夠根據(jù)它們的平滑度來合成2個(gè)陰影成分Shv1、Shv2。因此,能夠計(jì)算更平滑的合成陰影成分S。
在該情況下,第2圖像校正部122b對于未獲得歸一化陰影成分的塊(X,Y),通過下式(15)來計(jì)算紋理成分T(X,Y)。
[式16]
如以上所說明那樣,根據(jù)本實(shí)施方式5,能夠進(jìn)行不依照計(jì)算了陰影成分的方向(水平方向、垂直方向)的魯棒的陰影校正。
另外,雖然在上述實(shí)施方式5中,通過利用式(14)來設(shè)定權(quán)重w(X,Y),計(jì)算出了平滑的合成陰影成分S,但是也可以通過組合中值濾波、平均濾波、高斯濾波等濾波處理,生成更平滑的合成陰影成分S。
(實(shí)施方式6)
接著,對本發(fā)明的實(shí)施方式6進(jìn)行說明。上述的實(shí)施方式1~5還能夠相互組合地實(shí)施。
例如,在組合實(shí)施方式1、3、5的情況下,首先與實(shí)施方式1同樣,通過一邊使拍攝視野V分別相對于水平方向和垂直方向移動一邊進(jìn)行5次拍攝,取得5張圖像(例如圖像M0~M4)。并且,根據(jù)這些5張圖像來計(jì)算水平方向和垂直方向上的陰影成分,與實(shí)施方式5同樣地對于未獲得歸一化陰影成分的塊,計(jì)算合成陰影成分S(X,Y)。
另一方面,分別根據(jù)上述圖像M0~M4中的連續(xù)的3張圖像的組合(M0,M1,M2)、(M1,M2,M3)、(M2,M3,M4),也能夠與實(shí)施方式3同樣地計(jì)算陰影成分。因此,使用根據(jù)3個(gè)組合而分別計(jì)算出的陰影成分,與實(shí)施方式5同樣地計(jì)算3個(gè)合成陰影成分S(X,Y)。其結(jié)果,對于1個(gè)塊,可獲得基于5張圖像的合成陰影成分和基于上述3個(gè)圖像的組合的3個(gè)合成陰影成分S(X,Y)。通過對這些4個(gè)合成陰影成分S(X,Y)進(jìn)行相加平均,能夠獲得更魯棒的合成陰影成分。
此外,在組合實(shí)施方式2、3、5的情況下,與實(shí)施方式2同樣地根據(jù)9張圖像來計(jì)算陰影成分,并且與實(shí)施方式5同樣地計(jì)算合成陰影成分S(X,Y)。另一方面,根據(jù)上述9張圖像中的連續(xù)的3張圖像的組合與實(shí)施方式3同樣地計(jì)算陰影成分,并且與實(shí)施方式5同樣地計(jì)算合成陰影成分S(X,Y)。并且,通過對這些合成陰影成分S(X,Y)進(jìn)行相加平均,也能夠計(jì)算更魯棒的陰影成分。
(實(shí)施方式7)
接著,對本發(fā)明的實(shí)施方式7進(jìn)行說明。
圖18是示出本實(shí)施方式7的圖像處理裝置的結(jié)構(gòu)例的框圖。如圖18所示,本實(shí)施方式7的圖像處理裝置2替代圖1所示的圖像處理部12而還具有圖像處理部21,該圖像處理部21在該圖像處理部12中還設(shè)置有平坦區(qū)域搜索部211。
這里,在上述實(shí)施方式1~5中,將圖像的中央?yún)^(qū)域視作陰影成分同樣的平坦區(qū)域,計(jì)算出了除了中央的塊以外的區(qū)域中的陰影成分。與此相對,在本實(shí)施方式7中,在從圖像內(nèi)搜索出平坦區(qū)域以后計(jì)算陰影成分。
另外,在平坦區(qū)域的搜索以前,與實(shí)施方式1同樣,圖像處理部21從圖像取得部11取入通過一邊使拍攝視野分別在水平方向和垂直方向上逐次以規(guī)定量移動一邊進(jìn)行拍攝而取得的圖像(例如在水平方向的情況下為圖8所示的圖像M0~M4)。
平坦區(qū)域搜索部211根據(jù)通過使拍攝視野在水平方向上移動而取得的圖像M0~M4中的紋理成分相同的塊所包含的任意像素的亮度H0(X=1)、H1(X=2)、H2(X=3)、H3(X=4)、H4(X=5),求出圖19所示的水平方向圖像Fh,并存儲在存儲部13中。構(gòu)成水平方向圖像Fh的各個(gè)列Fh(X=1)~Fh(X=5)所包含的任意像素的亮度通過下式(16-1)~(16-5)來給出。
[式17]
Fh(X=1)=H0(X=1)…(161)
Fh(X=2)=H1(X=2)…(16-2)
Fh(X=3)=H2(X=3)…(16-3)
Fh(X=4)=H3(X=4)…(16-4)
Fh(X=5)=H4(X=5)…(16-5)
同樣,平坦區(qū)域搜索部211根據(jù)通過使拍攝視野V在垂直方向上移動而取得的圖像中的、紋理成分相同的塊所包含的任意像素的亮度,求出圖20所示的垂直方向圖像Fv,并存儲到存儲部13中。
圖21是以像素為單位示出圖19所示的水平方向圖像Fh的示意圖。此外,圖22是以像素為單位示出圖20所示的垂直方向圖像Fv的示意圖。另外,在圖21和圖22中,為了使說明簡單,假設(shè)1個(gè)塊(X,Y)由5個(gè)像素×5個(gè)像素構(gòu)成。以下,在圖21和圖22中,用(x,y)表示像素的坐標(biāo),用(X,Y)表示塊的坐標(biāo)。此外,設(shè)梯度的計(jì)算對象的塊(X,Y)為ROI(X,Y)。
平坦區(qū)域搜索部211根據(jù)這些水平方向圖像Fh和垂直方向圖像Fv,按照每個(gè)塊(X,Y)計(jì)算通過下式(17)給出的陰影成分的梯度N(x,y)。
[式18]
N(x,y)=|Fh(x-Bw,y)-Fh(x,y)|+|Fh(x,y)-Fh(x+Bw,y)|
+|Fv(x,y-Bh)-Fv(x,y)|+|Fv(x,y)-Fv(x,y+Bh)|…(17)
式(17)所示的標(biāo)號Bw表示各個(gè)塊的水平方向上的尺寸(長度),并利用像素?cái)?shù)表示。此外,式(17)所示的標(biāo)號Bh表示各個(gè)塊的垂直方向上的尺寸(長度),并利用像素?cái)?shù)表示(參照圖5)。
作為一例,考慮計(jì)算ROI(X=2,Y=2)的陰影成分的梯度N(x,y)的情況。在水平方向圖像Fh中,像素(x=3,y=8)、(x=8,y=8)、(x=13,y=8)的紋理成分相等。因此,這些像素中的亮度的變化相當(dāng)于陰影成分的變化。此外,在垂直方向圖像Fv中,像素(x=8,y=3)、(x=8,y=8)、(x=8,y=13)中的紋理成分相等。因此,這些像素中的亮度的變化相當(dāng)于陰影成分的變化。
因此,ROI(X=2,Y=2)的中心像素(x=8,y=8)的陰影成分的梯度N(8,8)通過下式(18)來給出。
[式19]
N(8,8)=|Sh(3,8)-Sh(8,8)|+|Sh(8,8)-Sh(13,8)|
+|Sv(8,3)-Sv(8,8)|+|Sv(8,8)-Sv(8,13)|…(18)
平坦區(qū)域搜索部211設(shè)位于ROI(X=2,Y=2)的中心的像素(x=8,y=8)中的陰影成分的梯度為該ROI(X=2,Y=2)的陰影成分的梯度。平坦區(qū)域搜索部211這樣針對除了圖像端以外的全部塊計(jì)算陰影成分的梯度,將梯度最小的塊確定為平坦區(qū)域。
另外,作為各個(gè)塊的陰影成分的梯度,不限于位于該ROI的中心的像素的陰影成分的梯度,可以使用ROI內(nèi)的全部像素中的陰影成分的梯度的統(tǒng)計(jì)值(合計(jì)值、平均值、眾數(shù)、中位數(shù)等),也可以使用ROI內(nèi)的一部分的像素中的陰影成分的梯度的統(tǒng)計(jì)值(同上)。
在通過平坦區(qū)域搜索部211搜索了除中央?yún)^(qū)域以外的區(qū)域作為平坦區(qū)域的情況下,第1方向陰影成分計(jì)算部121a和第2方向陰影成分計(jì)算部121b以搜索到的平坦區(qū)域?yàn)榛鶞?zhǔn)(即視作陰影成分為1.0),計(jì)算各個(gè)方向上的陰影成分。例如,在塊(X=2,Y=2)是平坦區(qū)域的情況下,第1方向陰影成分計(jì)算部121a以包含平坦區(qū)域的第2列的塊為基準(zhǔn),通過下式(19-1)~(19-5)來計(jì)算水平方向上的陰影成分Sh(X=1)~Sh(X=5),并存儲在存儲部13中。
[式20]
圖23是示意性示出存儲部13中存儲的水平方向上的陰影成分Sh的圖。
同樣,第2方向陰影成分計(jì)算部121b以包含平坦區(qū)域的第2行的塊為基準(zhǔn),計(jì)算垂直方向上的陰影成分Sv(Y=1)~Sv(Y=5),并存儲在存儲部13中。圖24是示意性示出存儲部13中存儲的垂直方向上的陰影成分Sv的圖。另外,在圖23和圖24中,對包含平坦區(qū)域的列和行標(biāo)注斜線的陰影。
在該情況下,第2圖像校正部122b使用下式(20)或(21)來計(jì)算未獲得歸一化陰影成分的塊中的紋理成分T(X,Y)。
[式21]
如以上所說明那樣,根據(jù)本實(shí)施方式7,即使由于光軸的偏離等導(dǎo)致陰影相同的平坦區(qū)域從中央偏離的情況下,也能夠進(jìn)行高精度的陰影校正。
另外,雖然在上述實(shí)施方式7中,設(shè)所搜索的平坦區(qū)域中的陰影成分為1.0,計(jì)算出了各個(gè)塊中的陰影成分,但是實(shí)際上,也能夠存在平坦區(qū)域的陰影成分不是1.0的情況。在這樣的情況下,圖像校正部122還可以針對通過陰影校正計(jì)算出的紋理成分,以在整個(gè)圖像中均勻的增益進(jìn)行歸一化。
此外,雖然在上述實(shí)施方式7中,設(shè)包含梯度N(x,y)最小的像素的塊為平坦區(qū)域,但是也可以設(shè)定針對梯度N(x,y)的閾值,設(shè)梯度N(x,y)為閾值以下的全部塊為平坦區(qū)域。在該情況下,可以根據(jù)梯度N(x,y)的值來對以各個(gè)平坦區(qū)域?yàn)榛鶞?zhǔn)而計(jì)算出的陰影成分彼此進(jìn)行加權(quán)合成等,計(jì)算最終的陰影成分。
(實(shí)施方式8)
接著,對本發(fā)明的實(shí)施方式8進(jìn)行說明。
圖25是示出本實(shí)施方式8的顯微鏡系統(tǒng)的結(jié)構(gòu)例的圖。如圖25所示,本實(shí)施方式8的顯微鏡系統(tǒng)6具有:顯微鏡裝置3、圖像處理裝置4和顯示裝置5。
顯微鏡裝置3具有:大致C字形的臂300,其設(shè)置有落射照明單元301和透射照明單元302;標(biāo)本工作臺303,其安裝于該臂300并載置作為觀察對象的被攝體SP;物鏡304,其以與標(biāo)本工作臺303相對的方式,經(jīng)由三眼鏡筒單元308設(shè)置于鏡筒305的一端側(cè);攝像部306,其設(shè)置于鏡筒305的另一端側(cè);以及工作臺位置變更部307,其使標(biāo)本工作臺303移動。三眼鏡筒單元308將從物鏡304射入的被攝體SP的觀察光分支到攝像部306和后述的目鏡鏡頭單元309。目鏡鏡頭單元309用于供用戶直接觀察被攝體SP。
落射照明單元301具有落射照明用光源301a和落射照明光學(xué)系統(tǒng)301b,對被攝體SP照射落射照明光。落射照明光學(xué)系統(tǒng)301b包含會聚從落射照明用光源301a射出的照明光并引導(dǎo)至觀察光路L的方向的各種光學(xué)部件(濾光片單元、快門、視野光圈、開口光圈等)。
透射照明單元302具有透射照明用光源302a和透射照明光學(xué)系統(tǒng)302b,對被攝體SP照射透射照明光。透射照明光學(xué)系統(tǒng)302b包含會聚從透射照明用光源302a射出的照明光并引導(dǎo)至觀察光路L的方向的各種光學(xué)部件(濾光片單元、快門、視野光圈、開口光圈等)。
將物鏡304安裝于轉(zhuǎn)換器310,該轉(zhuǎn)換器310能夠保持倍率相互不同的多個(gè)物鏡(例如,物鏡304、304’)。通過使該轉(zhuǎn)換器310旋轉(zhuǎn),變更與標(biāo)本工作臺303相對的物鏡304、304’,能夠使攝像倍率變化。
在鏡筒305的內(nèi)部設(shè)置有變焦部,該變焦部包含:多個(gè)變焦鏡頭;以及使這些變焦鏡頭的位置變化的驅(qū)動部(均未圖示)。變焦部通過調(diào)整各個(gè)變焦鏡頭的位置,放大或縮小拍攝視野內(nèi)的被攝體像。另外,可以在鏡筒305內(nèi)的驅(qū)動部中還設(shè)置編碼器。在該情況下,可以將編碼器的輸出值輸出到圖像處理裝置4,在圖像處理裝置4中,根據(jù)編碼器的輸出值檢測變焦鏡頭的位置并自動計(jì)算攝像倍率。
攝像部306是包含例如CCD或CMOS等攝像元件并能夠拍攝在該攝像元件具有的各個(gè)像素中具有R(紅)、G(綠)、B(藍(lán))的各個(gè)頻帶中的像素級(像素值)的彩色圖像的照相機(jī),依照圖像處理裝置4的攝像控制部111的控制,在規(guī)定的時(shí)機(jī)進(jìn)行動作。攝像部306接收從物鏡304經(jīng)由鏡筒305內(nèi)的光學(xué)系統(tǒng)射入的光(觀察光),生成與觀察光對應(yīng)的圖像數(shù)據(jù)并輸出到圖像處理裝置4。或者,攝像部306可以將在RGB顏色空間中表示的像素值轉(zhuǎn)換為在YCbCr顏色空間中表示的像素值并輸出到圖像處理裝置4。
工作臺位置變更部307包含例如滾珠絲杠(未圖示)和步進(jìn)電機(jī)307a,通過使標(biāo)本工作臺303的位置在XY平面內(nèi)移動,使拍攝視野變化。此外,工作臺位置變更部307通過使標(biāo)本工作臺303沿著Z軸移動,使物鏡304的焦點(diǎn)對準(zhǔn)被攝體SP。另外,工作臺位置變更部307的結(jié)構(gòu)不限定于上述結(jié)構(gòu),可以使用例如超聲波馬達(dá)等。
另外,雖然在本實(shí)施方式8中,通過固定包含物鏡304的光學(xué)系統(tǒng)的位置,使標(biāo)本工作臺303側(cè)移動,來使針對被攝體SP的拍攝視野變化,但是也可以通過設(shè)置使物鏡304在與光軸垂直的面內(nèi)移動的移動機(jī)構(gòu),固定標(biāo)本工作臺303,使物鏡304側(cè)移動,來使拍攝視野變化?;蛘撸梢允箻?biāo)本工作臺303和物鏡304的雙方相對移動。
圖像處理裝置4具有:圖像取得部11、圖像處理部41和存儲部13。其中的圖像取得部11和存儲部13的結(jié)構(gòu)和動作與實(shí)施方式1相同(參照圖1)。圖像取得部11中的驅(qū)動控制部112根據(jù)搭載于標(biāo)本工作臺303的標(biāo)尺的值等,通過以預(yù)先確定的間距指示該標(biāo)本工作臺303的驅(qū)動坐標(biāo)來進(jìn)行標(biāo)本工作臺303的位置控制,但是也可以根據(jù)基于由顯微鏡裝置3取得的圖像的模板匹配等的圖像匹配結(jié)果來進(jìn)行標(biāo)本工作臺303的位置控制。在本實(shí)施方式8中,僅是在被攝體SP的面內(nèi)使拍攝視野V在水平方向上移動以后,在垂直方向移動,所以標(biāo)本工作臺303的控制非常容易。
圖像處理部41相比圖1所示的圖像處理部12,還具有VS圖像生成部411。VS圖像生成部411根據(jù)由圖像校正部122實(shí)施了陰影校正的多個(gè)圖像,生成虛擬切片(VS)圖像。
虛擬切片圖像是將拍攝視野相互不同的多個(gè)圖像貼合而生成的大視野的圖像,在該顯微鏡系統(tǒng)6中搭載有虛擬切片圖像的生成功能。這里,當(dāng)想要在顯微鏡裝置3中將所拍攝的圖像直接貼合時(shí),由于根據(jù)光學(xué)系統(tǒng)的特性等產(chǎn)生的陰影的影響,在將圖像彼此貼合后的接縫處產(chǎn)生不自然的邊界。因此,在本實(shí)施方式8中,將通過圖像校正部122進(jìn)行了陰影校正后的圖像彼此貼合起來。
另外,陰影成分計(jì)算部121和圖像校正部122的結(jié)構(gòu)和動作與實(shí)施方式1相同?;蛘撸梢耘c實(shí)施方式2~5的任意一個(gè)同樣地使陰影成分計(jì)算部121和圖像校正部122動作。并且,與實(shí)施方式7同樣,可以還設(shè)置平坦區(qū)域搜索部211。
此外,圖像取得部11和圖像處理部12可以通過專用的硬件構(gòu)成,也可以通過將規(guī)定的程序讀入到CPU等硬件來構(gòu)成。在后者的情況下,可以將用于使圖像取得部11執(zhí)行針對后述的顯微鏡裝置3的攝像動作的控制的控制程序、用于使圖像處理部12執(zhí)行包含陰影校正的圖像處理的圖像處理程序和在這些程序的執(zhí)行中使用的各種參數(shù)或設(shè)定信息存儲在上述存儲部13中。
顯示裝置5由例如LCD或EL顯示器、CRT顯示器等顯示裝置構(gòu)成,顯示從圖像處理裝置4輸出的圖像或相關(guān)信息。
接著,對顯微鏡系統(tǒng)6中的圖像的取得動作進(jìn)行說明。在該顯微鏡系統(tǒng)6中,能夠組合地進(jìn)行虛擬切片圖像生成用的圖像取得和陰影成分計(jì)算用的圖像取得。圖26是用于說明本實(shí)施方式8中的多個(gè)圖像的取得動作的示意圖。
例如圖26所示,在取得虛擬切片圖像的生成用的圖像V0~V7時(shí),通過僅在使拍攝視野水平地移動的期間的一部分區(qū)間(例如取得圖像V0、V1的期間)縮窄拍攝視野的移動間距(例如設(shè)定為長度Bw)來進(jìn)行拍攝,取得水平方向上的陰影成分計(jì)算用的圖像Mj=0、Mj=1、Mj=2、Mj=3、Mj=4。由于其中的圖像Mj=0和圖像V0是拍攝視野內(nèi)的被攝體相同的圖像,所以能夠兼用圖像。此外,通過僅在使拍攝視野垂直地移動的期間的一部分區(qū)間(例如取得圖像V4、V5的期間)縮窄拍攝視野的移動間距(例如設(shè)定為長度Bh)來進(jìn)行拍攝,取得垂直方向上的陰影成分計(jì)算用的圖像Mk=0、Mk=1、Mk=2、Mk=3、Mk=4。由于其中的圖像Mk=0和圖像V4的拍攝視野內(nèi)的被攝體相同,所以能夠兼用圖像。此外,在以圖像V0、V1的順序……推進(jìn)拍攝的期間,可以根據(jù)取得完成的圖像Mj=0~Mj=4并行進(jìn)行陰影成分的計(jì)算,也可以使用計(jì)算出的陰影成分來并行進(jìn)行陰影校正。
這樣,在本實(shí)施方式8中,由于取得虛擬切片圖像生成用的圖像時(shí)的拍攝視野的移動方向和取得陰影成分計(jì)算用的圖像時(shí)的拍攝視野的移動方向相同,所以不使標(biāo)本工作臺303無用地移動就能夠有效地取得這些圖像。此外,由于能夠在陰影成分的生成中使用虛擬切片圖像的生成用的一部分圖像,所以還能夠減少拍攝次數(shù)。
另外,能夠任意設(shè)定虛擬切片圖像生成用的圖像取得路徑上的、進(jìn)行陰影成分計(jì)算用的取得的位置。此外,可以取得虛擬切片圖像生成用的圖像取得路徑上的多個(gè)位置上的陰影成分的計(jì)算用圖像,按照取得圖像的每個(gè)位置,合成計(jì)算出的陰影成分。在該情況下,通過使用合成后的陰影成分,能夠提高陰影校正的魯棒性。
此外,根據(jù)標(biāo)本工作臺303的定位精度或顯微鏡裝置3的分辨率的不同,有時(shí)在預(yù)先設(shè)定的標(biāo)本工作臺303的移動量中產(chǎn)生偏差。在這樣的情況下,可以根據(jù)設(shè)置在工作臺上的標(biāo)尺的值、步進(jìn)電機(jī)307a的脈沖數(shù)、圖像匹配或者它們的組合,進(jìn)行虛擬切片圖像生成用的圖像的定位。在本實(shí)施方式8中,由于僅是使拍攝視野V在被攝體SP的面內(nèi)在2個(gè)方向上依次移動,所以也能夠較容易地進(jìn)行這樣的定位。
本發(fā)明不直接限定為上述各個(gè)實(shí)施方式1~8,可通過適當(dāng)組合各個(gè)實(shí)施方式1~8所公開的多個(gè)結(jié)構(gòu)要素來形成各種發(fā)明。例如,可從實(shí)施方式1~8所示的全部結(jié)構(gòu)要素中去除幾個(gè)結(jié)構(gòu)要素來形成?;蛘?,可適當(dāng)組合不同實(shí)施方式所示的結(jié)構(gòu)要素來形成。
標(biāo)號說明
1、2、4:圖像處理裝置;3:顯微鏡裝置;5:顯示裝置;6:顯微鏡系統(tǒng);11:圖像取得部;12、21、41:圖像處理部;13:存儲部;30:光學(xué)系統(tǒng);111:攝像控制部;112:驅(qū)動控制部;121:陰影成分計(jì)算部;121a:第1方向陰影成分計(jì)算部;121b:第2方向陰影成分計(jì)算部;122:圖像校正部;122a:第1圖像校正部;122b:第2圖像校正部;211:平坦區(qū)域搜索部;300:臂;301:落射照明單元;301a:落射照明用光源;301b:落射照明光學(xué)系統(tǒng);302:透射照明單元;302a:透射照明用光源;302b:透射照明光學(xué)系統(tǒng);303:標(biāo)本工作臺;304、304’:物鏡;305:鏡筒;306:攝像部;307:工作臺位置變更部;307a:步進(jìn)電機(jī);308:三眼鏡筒單元;309:目鏡鏡頭單元;310:轉(zhuǎn)換器;411:VS圖像生成部。