本發(fā)明涉及從被檢體的圖像中確定關注要素并提取顏色成分的圖像分析裝置、圖像分析系統(tǒng)、圖像分析裝置的動作方法。
背景技術(shù):
以往提出了各種確定圖像中的區(qū)域并進行圖像分析的圖像分析裝置。
例如在日本特開2012-152266號公報中記載有一種電子內(nèi)窺鏡系統(tǒng):該電子內(nèi)窺鏡系統(tǒng)具有:電子內(nèi)窺鏡,其拍攝被檢體內(nèi);變化區(qū)域檢測部,其根據(jù)電子內(nèi)窺鏡所拍攝的圖像數(shù)據(jù)檢測像的特征發(fā)生變化的變化區(qū)域;掩模數(shù)據(jù)生成部,其根據(jù)檢測出的變化區(qū)域,生成按像素確定圖像處理的參數(shù)的掩模數(shù)據(jù)使得變化區(qū)域和其他區(qū)域以各自不同的方式被實施圖像處理;以及圖像處理部,其根據(jù)掩模數(shù)據(jù)對圖像數(shù)據(jù)實施圖像處理。
并且,在日本特表2007-502185號公報中記載了一種圖像分析方法,該圖像分析方法如下:拍攝牙齒的組織的數(shù)字圖像,分別對數(shù)字圖像內(nèi)的多個像素確定像素的顏色的第一成分值和像素的顏色的第二成分值,并根據(jù)第一成分值和第二成分值來計算像素的第一函數(shù)值(例如R/G)。
作為上述的圖像分析裝置的分析對象的一例而舉出了腸道絨毛。腸道絨毛具有周邊部和與該周邊部顏色不同的中心部。為了對這樣的分析對象的圖像進行分析,以往,需要用戶例如在畫面上搜索作為分析對象的絨毛并提取為關注要素,但正確地提取絨毛中引起變化的部分從而準確地進行定量評價很難。
本發(fā)明就是鑒于上述情況而完成的,其目的在于,提供著眼于在被檢體中也發(fā)生變化的特征區(qū)域,通過進行該特征區(qū)域的色調(diào)變化的分析,能夠在所需的區(qū)域中進行更準確的定量評價的圖像分析裝置、圖像分析系統(tǒng)、圖像分析裝置的動作方法。
技術(shù)實現(xiàn)要素:
用于解決課題的手段
本發(fā)明的某個方式的圖像分析裝置包含:圖像輸入部,其被輸入隨著時間經(jīng)過而獲取的被檢體的圖像;區(qū)域提取部,其對從所述圖像輸入部輸入的在第一時刻獲取的第一圖像和在比所述第一時刻靠后的第二時刻獲取的第二圖像確定關注要素,僅提取所述關注要素的中心部作為分析對象區(qū)域,所述關注要素具有環(huán)狀的周邊部和被該周邊部包圍且與該周邊部顏色不同的所述中心部;以及顏色成分提取部,其分別提取所述區(qū)域提取部所提取的所述第一圖像的所述分析對象區(qū)域和所述第二圖像的所述分析對象區(qū)域的顏色成分值。
本發(fā)明的某個方式的圖像分析系統(tǒng)具有:內(nèi)窺鏡,其插入到被檢體內(nèi),拍攝而獲取所述被檢體的圖像;以及所述圖像分析裝置,所述內(nèi)窺鏡所獲取的所述圖像被輸入至所述圖像輸入部。
本發(fā)明的某個方式的圖像分析裝置的動作方法是如下方法:把隨著時間經(jīng)過而獲取的被檢體的圖像輸入至圖像輸入部,由區(qū)域提取部對從所述圖像輸入部輸入的在第一時刻獲取的第一圖像和在比所述第一時刻靠后的第二時刻獲取的第二圖像確定關注要素,僅提取所述關注要素的中心部作為分析對象區(qū)域,所述關注要素具有環(huán)狀的周邊部和被該周邊部包圍且與該周邊部顏色不同的所述中心部,由顏色成分提取部分別提取所述區(qū)域提取部所提取的所述第一圖像的所述分析對象區(qū)域和所述第二圖像的所述分析對象區(qū)域的顏色成分值。
附圖說明
圖1是示出本發(fā)明的實施方式一中的圖像分析系統(tǒng)的結(jié)構(gòu)的框圖。
圖2是示出上述實施方式一中的區(qū)域提取部的結(jié)構(gòu)的框圖
圖3是示出使用了上述實施方式一的圖像分析系統(tǒng)的處理的流程圖。
圖4是示出上述實施方式一的圖像分析裝置的圖像分析處理的流程圖。
圖5A是示出上述實施方式一的圖像分析裝置中的在所選擇的區(qū)域中選擇多個關注要素的中心部的處理的流程圖。
圖5B是示出上述實施方式一的圖像分析裝置中的在所選擇的區(qū)域中選擇多個關注要素的中心部的處理的變形例的流程圖。
圖6是示出上述實施方式一的圖像分析裝置中的雙重閉合曲線邊緣確定處理的流程圖。
圖7是示出上述實施方式一的圖像分析裝置中的單一閉合曲線邊緣確定處理的流程圖。
圖8是示出在上述實施方式一中按時間序列順序排序的被檢體的圖像的顯示例的圖。
圖9是示出在上述實施方式一中被檢體的圖像的明亮度分布的圖和將一個關注要素放大示出的圖。
圖10示出在上述實施方式一中作為關注要素的腸道纖毛的構(gòu)造的圖。
圖11是示出在上述實施方式一中設定為被檢體的圖像的分析對象區(qū)域的例子的圖。
圖12是示出在上述實施方式一中內(nèi)窺鏡的明亮度的仿真結(jié)果的一例的圖。
圖13是示出在上述實施方式一中適于提取根據(jù)內(nèi)窺鏡的明亮度的仿真結(jié)果而求出的顏色成分值的區(qū)域的一例的圖。
具體實施方式
下面,參照附圖對本發(fā)明的實施方式進行說明。
【實施方式一】
圖1至圖11示出本發(fā)明的實施方式一,圖1是示出圖像分析系統(tǒng)的結(jié)構(gòu)的框圖。
圖像分析系統(tǒng)具有內(nèi)窺鏡20、以及圖像分析裝置10。
內(nèi)窺鏡20插入到被檢體內(nèi),拍攝并獲取被檢體的圖像,在本實施方式中,例如能夠進行窄帶光觀察(NBI:Narrow Band Imaging:窄帶成像)。這里,為了減少噪聲成分進行NBI放大觀察,在內(nèi)窺鏡20的前端例如安裝有前端外罩或前端附件。而且,在本實施方式中,對被檢體施加負載,而為了觀察負載前后的被檢體的變化,通過內(nèi)窺鏡20來隨著時間經(jīng)過而獲取被檢體的圖像。并且,為了更準確地把握對被檢體施加負載前后的被檢體的變化,期望內(nèi)窺鏡20的明亮度的設定為相同的狀態(tài)。因此,可以在對被檢體施加負載前后不進行光源的調(diào)光,使來自光源的射出光量為恒定,獲取被檢體的圖像。
圖像分析裝置10包含圖像輸入部11、區(qū)域提取部12、顏色成分提取部13、以及圖像分析部14。
圖像輸入部11輸入由內(nèi)窺鏡20隨著時間經(jīng)過而獲取的被檢體的圖像。
區(qū)域提取部12對從圖像輸入部11輸入的在第一時刻獲取的第一圖像和在比第一時刻靠后的第二時刻獲取的第二圖像,確定具有環(huán)狀的周邊部和被周邊部包圍且與周邊部顏色不同的中心部的關注要素(本實施方式中的關注要素像后述那樣是作為特征區(qū)域的例如腸道絨毛的圖像部分),僅提取關注要素的中心部作為分析對象區(qū)域。
顏色成分提取部13分別提取區(qū)域提取部12所提取的第一圖像的分析對象區(qū)域和第二圖像的分析對象區(qū)域的顏色成分值。
圖像分析部14計算從分析對象區(qū)域提取的第一圖像的顏色成分值和第二圖像的顏色成分值的變化的程度。
接下來,圖2是示出區(qū)域提取部12的結(jié)構(gòu)的框圖。
區(qū)域提取部12根據(jù)色調(diào)、飽和度以及亮度中的至少一個的差異來判定周邊部和中心部的顏色的差異。因此,若顏色成分值不同則屬于顏色不同,例如在色調(diào)和飽和度相同而僅亮度不同的情況下,屬于顏色不同。
如圖2所示,該區(qū)域提取部12具有邊緣檢測部21、閉合曲線邊緣檢測部22、大小濾波處理部23、雙重閉合曲線邊緣檢測部24、雙重閉合曲線邊緣確定部25、單一閉合曲線邊緣確定部26、以及區(qū)域提取控制部27。
邊緣檢測部21對圖像例如通過應用邊緣檢測濾波器來進行邊緣檢測。
閉合曲線邊緣檢測部22從邊緣檢測部21所檢測的邊緣中進一步檢測形成閉合曲線的邊緣。
大小濾波處理部23從閉合曲線邊緣檢測部22所檢測的閉合曲線邊緣中僅選擇閉合曲線邊緣的大小處于能夠作為關注要素的大小的范圍內(nèi)(例如處于能夠作為腸道絨毛的大小的范圍內(nèi))的閉合曲線邊緣。
雙重閉合曲線邊緣檢測部24從由閉合曲線邊緣檢測部22檢測并且例如由大小濾波處理部23選擇的閉合曲線邊緣中,進一步檢測形成雙重的(即,由外側(cè)閉合曲線邊緣和包含于該外側(cè)閉合曲線邊緣內(nèi)的內(nèi)側(cè)閉合曲線邊緣構(gòu)成的)雙重閉合曲線邊緣。
雙重閉合曲線邊緣確定部25在雙重閉合曲線邊緣檢測部24所檢測的雙重閉合曲線邊緣中的內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域的顏色與內(nèi)側(cè)閉合曲線邊緣和外側(cè)閉合曲線邊緣之間的區(qū)域的顏色不同的情況下,把內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域確定為中心部。
此時,雙重閉合曲線邊緣確定部25還在內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域的顏色在屬于關注要素的中心部的第一顏色范圍(作為一例,在關注要素是腸道絨毛的情況下,第一顏色范圍例如是接近紅色的顏色范圍)內(nèi),并且內(nèi)側(cè)閉合曲線邊緣和外側(cè)閉合曲線邊緣之間的區(qū)域的顏色在屬于關注要素的周邊部的第二顏色范圍(與第一顏色范圍不同的第二顏色范圍)(作為一例,在關注要素是腸道絨毛的情況下,第二顏色范圍例如是接近白色的顏色范圍)內(nèi)的情況下,把內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域確定為中心部。
另外,如上所述,顏色的差異根據(jù)色調(diào)、飽和度以及亮度中的至少一個的差異來判定。因此,顏色范圍為色調(diào)、飽和度以及亮度中的任意一個的范圍或者通過兩個以上的組合而確定的范圍。例如,可以將顏色范圍設為通過色調(diào)和飽和度的組合而確定的范圍,或者也可以將顏色范圍設為亮度范圍(即,也可以僅根據(jù)亮度來區(qū)分中心部和周邊部)。在關注要素是腸道絨毛并且將顏色范圍設為亮度范圍的情況下,例如只要第一顏色范圍為亮度稍低的范圍,第二顏色范圍為比第一顏色范圍亮度高的范圍即可。
并且,更優(yōu)選的是,雙重閉合曲線邊緣確定部25僅在由大小濾波處理部23判定為內(nèi)側(cè)閉合曲線邊緣和外側(cè)閉合曲線邊緣的大小處于能夠作為關注要素的范圍內(nèi)的情況下,把內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域確定為中心部。
在本實施方式中,在上述的雙重閉合曲線邊緣確定部25所確定的關注要素的中心部的數(shù)量不足規(guī)定數(shù)量(這里規(guī)定數(shù)量是多個)的情況下,進一步使用單一閉合曲線邊緣確定部26來確定關注要素的中心部(但是,也可以僅使用單一閉合曲線邊緣確定部26來確定關注要素的中心部,而不使用雙重閉合曲線邊緣確定部25)。
單一閉合曲線邊緣確定部26在閉合曲線邊緣檢測部22所檢測的被閉合曲線邊緣包圍的區(qū)域的內(nèi)外顏色不同的情況下,把被閉合曲線邊緣包圍的區(qū)域的內(nèi)部確定為中心部。
另外,在本實施方式中,由單一閉合曲線邊緣確定部26對不作為雙重閉合曲線邊緣確定部25的處理對象的閉合曲線邊緣進行處理,但即使存在比雙重多的三重、四重、…的閉合曲線邊緣,該閉合曲線邊緣都屬于雙重閉合曲線邊緣。因此,單一閉合曲線邊緣確定部26將單一閉合曲線邊緣作為處理對象。
并且,單一閉合曲線邊緣確定部26還在單一閉合曲線邊緣內(nèi)的區(qū)域顏色在屬于關注要素的中心部的第一顏色范圍內(nèi),并且單一閉合曲線邊緣的外側(cè)附近的區(qū)域顏色在屬于關注要素的周邊部的第二顏色范圍內(nèi)的情況下,確定單一閉合曲線邊緣內(nèi)的區(qū)域作為中心部。
而且,更優(yōu)選的是,單一閉合曲線邊緣確定部26僅在由大小濾波處理部23判定為單一閉合曲線邊緣的大小處于能夠作為關注要素的范圍內(nèi)的情況下,把被單一閉合曲線邊緣包圍的區(qū)域的內(nèi)部確定為中心部。
區(qū)域提取控制部27對區(qū)域提取部12內(nèi)的各部即上述的邊緣檢測部21、閉合曲線邊緣檢測部22、大小濾波處理部23、雙重閉合曲線邊緣檢測部24、雙重閉合曲線邊緣確定部25、以及單一閉合曲線邊緣確定部26等進行控制,使它們進行之后參照圖5A~圖7而說明的動作。
接下來,圖3是示出使用了圖像分析系統(tǒng)的處理的流程圖。
當開始該處理時,在第一時刻通過內(nèi)窺鏡20拍攝而獲取對被檢體施加負載前的圖像(負載前圖像、第一圖像)(步驟S1)。這里,本實施方式中的被檢體例如是腸道(進一步例如是小腸)的絨毛(但是,被檢體并不限定于此,作為其他幾個例子,可舉出舌部、食道、胃粘膜、大腸等)。并且,也可以在通過內(nèi)窺鏡20來獲取被檢體的圖像的同時,將圖像獲取時的射出光量的信息例如記錄到圖像分析裝置10或者內(nèi)窺鏡20中。
然后,對被檢體施加負載(步驟S2)。這里,例如作為負載而散布葡萄糖(但是,并不限定于此,也可以進行靜脈注射,也可以施加其他負載)。當散布葡萄糖時流過毛細血管的血液量增加,通過血液中的血紅蛋白將光更多地吸收。因此,在絨毛內(nèi)毛細血管聚集的部分被觀察得較暗。
接著,在比上述的第一時刻靠后的第二時刻通過內(nèi)窺鏡20拍攝而獲取施加負載后的圖像(負載后圖像、第二圖像)(步驟S3)。在通過內(nèi)窺鏡20來獲取對被檢體施加負載后的圖像時,在步驟S1中記錄了射出光量的信息的情況下,參照射出光量的信息以與步驟S1相同的條件獲取圖像。另外,也可以具有之后擦除在步驟S1中記錄的射出光量的信息的功能,射出光量的信息的獲取、使用了射出光量的信息的圖像的獲取以及射出光量的信息的擦除例如也可以通過內(nèi)窺鏡20的操作部、設置于用于控制該圖像分析系統(tǒng)的控制面板的開關、或者用于操作內(nèi)窺鏡20的腳踏開關等的操作來實現(xiàn)。
而且,進一步對是否獲取下一個圖像進行判定(步驟S4),在判定為要獲取的情況下,返回到步驟S3獲取下一個負載后圖像。
并且,在步驟S4中判定為結(jié)束圖像的獲取的情況下,由圖像分析裝置10進行圖像分析(步驟S5),在圖像分析完成之后結(jié)束該處理。
圖4是示出圖像分析裝置10的圖像分析處理的流程圖。
當開始該處理時,圖像輸入部11輸入從內(nèi)窺鏡20隨著時間經(jīng)過而獲取的被檢體的圖像并按時間序列順序進行排序(步驟S10)。
圖8是示出按時間序列順序排序的被檢體的圖像的顯示例的圖。
在該圖8所示的顯示例中,使監(jiān)視器等顯示裝置進行圖像排列顯示31、圖像獲取時間顯示32、以及圖像排列順序顯示33。
首先,圖像排列顯示31將獲取的被檢體的圖像P0~P8按所獲取的時間順序排列并進行顯示。
并且,圖像獲取時間顯示32將圖像P1~P8在負載的施加(葡萄糖的散布)后的哪個時間點獲取的例如沿時間軸與獲取時間一起配置并示出。另外,圖像P0是在葡萄糖散布前(例如在剛要散布葡萄糖之前)獲取的圖像,但在該圖8所示的例子中,為了方便,將圖像P0顯示在葡萄糖散布的位置上(但是,當然可以將時間軸延伸到比葡萄糖散布靠前的時刻來準確地示出圖像P0的獲取時刻)。
并且,圖像排列順序顯示33對在圖像排列顯示31中顯示的各圖像與在圖像獲取時間顯示32中顯示的圖像P0~P8內(nèi)的哪個時刻獲取的圖像對應地進行顯示。
接下來,圖像分析裝置10對是否存在尚未進行之后參照步驟S12~S19進行說明的處理的圖像進行判定(步驟S11)。
這里,在判定為存在未處理的圖像的情況下,區(qū)域提取部12從圖像輸入部11輸入作為處理對象的圖像數(shù)據(jù)(步驟S12)。
而且,將不適于提取顏色成分值的光暈等不合適要素的區(qū)域(不合適區(qū)域)IR(參照圖9、圖11等)從處理對象排除(步驟S13)。這里,作為不合適區(qū)域IR的例子,除了產(chǎn)生光暈的區(qū)域以外,例如還可舉出產(chǎn)生了氣泡的區(qū)域、焦點模糊的區(qū)域等。
并且,選擇圖像中的按規(guī)定大小的局部區(qū)域計算出的平均亮度為規(guī)定值以上的區(qū)域作為適當亮度區(qū)域(步驟S14)。例如在圖9(或者圖11)所示那樣的圖像Pi(此處i在圖8所示的例子中是0~8中的任意一個(即Pi是P0~P8中的任意一個))中,右上半部分的區(qū)域的平均亮度比規(guī)定值低。這里,圖9是示出被檢體的圖像的明亮度分布的圖和將一個關注要素放大示出的圖。
另外,在上述中,作為表示獲取從圖像輸入部11輸入的圖像的攝像裝置的性能的圖像,使用由內(nèi)窺鏡20等獲取的被檢體的圖像來確定分析對象區(qū)域,但并不限定于該方法,也可以采用如下方法:根據(jù)表示攝像裝置的性能的其他圖像(例如拍攝試驗用板或白平衡蓋等顏色均勻且平坦的對象物而得到的圖像、或作為根據(jù)內(nèi)窺鏡20的設計值求出的明亮度的仿真結(jié)果SI(圖12參照)等表示性能的指標的圖像),將適于根據(jù)按規(guī)定大小的局部區(qū)域計算出的平均亮度來提取顏色成分值的區(qū)域AR(參照圖13)設定為分析對象區(qū)域。并且,也可以采用如下方法:根據(jù)按規(guī)定大小的局部區(qū)域計算出的平均亮度從適于提取上述顏色成分值的區(qū)域AR中確定分析對象區(qū)域。這里,圖12是示出內(nèi)窺鏡20的明亮度的仿真結(jié)果SI的一例的圖,圖13是示出適于提取根據(jù)內(nèi)窺鏡20的明亮度的仿真結(jié)果SI求出的顏色成分值的區(qū)域AR的一例的圖。
因此,區(qū)域提取部12選擇平均亮度為規(guī)定值以上的圖像Pi的左下半部分的區(qū)域作為適當亮度區(qū)域。通過進行這樣的選擇來選擇適于提取顏色成分值的明亮的區(qū)域,從而將不適于提取顏色成分值的暗的區(qū)域排除。
另外,這里,將適于提取顏色成分值的適當亮度范圍設為平均亮度為規(guī)定值以上的范圍,但也可以將平均亮度接近飽和像素值那樣的過亮的區(qū)域排除。在這種情況下,只要將適于提取顏色成分值的適當亮度范圍設為平均亮度為規(guī)定的下限閾值以上且規(guī)定的上限閾值以下的范圍即可。
若將圖像上的亮度的等級例如設為0~255這256等級,則通過將其中的適當亮度范圍設定為屬于內(nèi)窺鏡圖像的框體部分的例如10作為下限閾值,屬于光暈的例如230作為上限閾值,能夠僅提取分析對象物的顏色成分,從而提高了分析精度。
接著,在所選擇的區(qū)域中,選擇多個關注要素(在本實施方式中是腸道絨毛的圖像部分)OBJ的中心部OBJc(該中心部OBJc也是要素)(步驟S15)。
對作為該關注要素OBJ的腸道絨毛的圖像部分,像之后參照圖5A~圖7而說明的那樣進行圖像分析等通過自動處理來提取多個進行選擇(但是,還可以準備用戶一邊觀察圖像一邊手動選擇的選項)。
這里,作為關注要素OBJ的腸道絨毛的圖像部分是具有環(huán)狀(不限于圓環(huán)狀,可選取任意形狀的閉合曲線狀的)的周邊部OBJp和被該周邊部OBJp包圍與周邊部OBJp顏色不同的中心部OBJc的要素。
圖10是示出作為關注要素的腸道纖毛的構(gòu)造的圖。
腸道絨毛為如下構(gòu)造:在位于中心部的中心淋巴管CL的周圍的部位分布有毛細血管BC,在其外側(cè)形成有粘膜上皮ME而構(gòu)成絨毛的表面。
當通過使用了容易被血液中的血紅蛋白吸收的窄帶化的波長的光的NBI對這樣的腸道絨毛進行放大觀察時,毛細血管BC的部分被觀察為與粘膜上皮ME不同顏色。
當對從上拍攝這樣的絨毛而得到的圖像部分進行觀察時,粘膜上皮ME的圖像部分作為環(huán)狀的周邊部OBJp而被觀察,被粘膜上皮ME包圍的毛細血管BC的圖像部分作為與粘膜上皮ME顏色不同的中心部OBJc而被觀察。因此,像之后說明的那樣利用中心部OBJc與周邊部OBJp的顏色的差異來確定關注要素OBJ。
從這樣選擇出的多個中心部OBJc中進一步選擇明亮度接近中央值的規(guī)定數(shù)量(在圖11所示的例子中是五個)的中心部OBJc,將所選擇的規(guī)定數(shù)量的中心部OBJc設定為分析對象區(qū)域OR(步驟S16)。這里,圖11是示出設定于被檢體的圖像Pi中的分析對象區(qū)域OR的例子的圖。
這里,選擇接近中央值的明亮度的中心部OBJc是因為作為樣本要將最適當?shù)拿髁炼鹊闹行牟孔鳛榉治鰧ο蟆A硗?,作為明亮度,也可以使用根?jù)多個的顏色成分而計算出的亮度值,或者,也可以將簡單相加了多個顏色成分而得到的值作為明亮度的指標來代替使用,也可以通過其他方法根據(jù)多個顏色成分來獲取明亮度。這樣,這里設定的圖11所示的分析對象區(qū)域OR例如由五個腸道絨毛的圖像部分的中心部OBJc構(gòu)成。
接下來,顏色成分提取部13提取構(gòu)成分析對象區(qū)域OR的各像素的顏色成分值例如R成分值、G成分值、以及B成分值(步驟S17),并且,計算第一圖像(負載前圖像)中的分析對象區(qū)域OR的R成分值的平均值<R>、G成分值的平均值<G>、以及B成分值的平均值<B>、第二圖像(負載后圖像)中的分析對象區(qū)域OR的R成分值的平均值<R’>、G成分值的平均值<G’>、以及B成分值的平均值<B’>(步驟S18)。
而且,圖像分析部14例如像下面那樣計算顏色成分平均值的變化量作為負載后圖像相對于負載前圖像的變化的程度(步驟S19)。
即,圖像分析部14像下面的數(shù)學式1所示那樣計算變化量作為第一圖像和第二圖像的顏色成分值的差分的絕對值的總和。
【數(shù)學式1】
變化量=|<R’>-<R>|+|<G’>-<G>|+|<B’>-<B>|
因此,計算出的變化量為第二圖像比第一圖像低的顏色成分值的平均值和第二圖像比第一圖像高的顏色成分值的平均值的總和。
另外,圖像分析部14計算出的負載后圖像相對于負載前圖像的變化的程度不限于像數(shù)學式1所示那樣進行計算。
首先,第一變形例是在將輸出x和y中的不大的一方(在x≠y時是較小的一方)的函數(shù)設為Min(x,y)時像下面的數(shù)學式2所示那樣計算作為變化的程度的變化量。
【數(shù)學式2】
變化量=|Min(<R’>-<R>,0)
+Min(<G’>-<G>,0)
+Min(<B’>-<B>,0)|
因此,計算出的變化量僅為第二圖像比第一圖像低的顏色成分值的平均值的總和。使用這樣的計算方法是因為考慮到人眼的特性。即,人眼對圖像的明亮度從明亮的一方變化到暗的一方的情況比從暗的一方變化到明亮的一方的情況更敏銳地感覺到變化。因此,考慮到這樣的人眼的特性,用戶視覺上感覺到的圖像的變化和通過圖像分析獲得的圖像的變化的分析結(jié)果一致。
接下來,第二變形例是像下面的數(shù)學式3所示那樣計算作為變化的程度的變化量。
【數(shù)學式3】
變化量=|Min(<R>-<R’>,0)
+Min(<G>-<G’>,0)
+Min(<B>-<B’>,0)|
因此,計算出的變化量僅為第二圖像比第一圖像高的顏色成分值的平均值的總和。使用這樣的計算方法是因為,也有時圖像的明亮度從暗的一方變化到明亮的一方的情況對于分析結(jié)果較重要。
并且,第三變形例是將數(shù)學式1~3的右邊所示的各顏色成分與每個顏色成分的加權(quán)系數(shù)α、β、γ(這里,α>0、β>0、γ>0)相乘。
例如與數(shù)學式1對應地像下面的數(shù)學式4所示那樣計算變化量。
【數(shù)學式4】
變化量=|α×(<R’>-<R>)|
+|β×(<G’>-<G>)|
+|γ×(<B’>-<B>)|
或者與數(shù)學式2對應地像下面的數(shù)學式5所示那樣計算變化量。
【數(shù)學式5】
變化量=|α×Min(<R’>-<R>,0)
+β×Min(<G’>-<G>,0)
+γ×Min(<B’>-<B>,0)|
或者與數(shù)學式3對應地像下面的數(shù)學式6所示那樣計算變化量。
【數(shù)學式6】
變化量=|α×Min(<R>-<R’>,0)
+β×Min(<G>-<G’>,0)
+γ×Min(<B>-<B’>,0)|
此時,通過調(diào)整這些數(shù)學式4~6中的加權(quán)系數(shù)α、β、γ,能夠控制各顏色成分平均值對變化量有多少貢獻。
而且,第四變形例是代替變化量而計算變化率作為變化的程度。
即,在隨著時間經(jīng)過而獲取的一系列的圖像組(負載前圖像和負載后圖像)中的各圖像的攝像條件(曝光時間、光圈值、被檢體的照度等)相等的情況下,能夠進行圖像組內(nèi)的變化量的比較,例如對負載后的圖像P1相對于負載前的圖像P0的第一變化量和負載后的圖像P2相對于負載前的圖像P0的第二變化量進行比較。
但是,在以不同的攝像條件拍攝的多個圖像組之間的情況下,由于一般來說圖像的明亮度不同,因此無法直接對變化量彼此進行比較。例如即使要比較對某個被檢體獲取的圖像組和對另一被檢體獲取的圖像組中的變化量,如果一個圖像組的明亮度是另一個圖像組的明亮度的2倍,則即使病理學的變化量相同,所計算出的變化量也會是一方為另一方的2倍。
因此,該第四變形例是計算變化率作為變化的程度,使得能夠進行這樣的情況下的比較。
例如,與數(shù)學式4對應地像下面的數(shù)學式7所示那樣計算變化量。
【數(shù)學式7】
變化量={|α×(<R’>-<R>)|
+|β×(<G’>-<G>)|
+|γ×(<B’>-<B>)|}
/|<R>+<G>+<B>|
或者與數(shù)學式5對應地像下面的數(shù)學式8所示那樣計算變化量。
變化量=|α×Min(<R’>-<R>,0)
+β×Min(<G’>-<G>,0)
+γ×Min(<B’>-<B>,0)|
/|<R>+<G>+<B>|
或者與數(shù)學式6對應地像下面的數(shù)學式9所示那樣計算變化量。
【數(shù)學式9】
變化量=|α×Min(<R>-<R’>,0)
+β×Min(<G>-<G’>,0)
+γ×Min(<B>-<B’>,0)|
/|<R>+<G>+<B>|
另外,這些數(shù)學式7~9若α=β=γ=1則成為與上述的數(shù)學式1~3的變化量對應的變化率。
在進行了該步驟S19之后返回到上述的步驟S11。這樣,在步驟S11中判定為進行了所有的圖像的處理的情況下,從該處理返回未圖示的主處理。
圖5A是示出圖像分析裝置10中的在所選擇的區(qū)域中選擇多個關注要素的中心部的處理的流程圖。
當在圖4的步驟S15中進入該處理時,邊緣檢測部21通過應用邊緣檢測濾波器對所選擇的區(qū)域(例如圖9所示的圖像Pi的左下半部分的區(qū)域)提取邊緣成分(步驟S21)。
接下來,閉合曲線邊緣檢測部22從邊緣檢測部21所檢測的邊緣中進一步檢測形成閉合曲線的邊緣(步驟S22)。
接著,大小濾波處理部23計算閉合曲線邊緣檢測部22所檢測的閉合曲線邊緣的大小(例如閉合曲線的最大徑、平均徑或者被閉合曲線包圍的區(qū)域的面積等),僅選擇計算出的大小處于能夠作為關注要素的范圍內(nèi)(例如處于能夠作為腸道絨毛的大小的范圍內(nèi))的閉合曲線邊緣(步驟S23)。
而且,雙重閉合曲線邊緣檢測部24從通過大小濾波處理部23的閉合曲線邊緣中對全部雙重閉合曲線邊緣進行檢測(步驟S24)。
另外,構(gòu)成雙重閉合曲線邊緣的內(nèi)側(cè)閉合曲線邊緣和外側(cè)閉合曲線邊緣由于都通過步驟S23中的大小濾波處理部23的處理,因此是判定為處于能夠作為關注要素的范圍內(nèi)的大小的閉合曲線邊緣。
并且,雙重閉合曲線邊緣確定部25像之后參照圖6說明的那樣進行對雙重閉合曲線邊緣檢測部24所檢測的雙重閉合曲線邊緣是否屬于關注要素進行確定的處理(步驟S25)。
然后,區(qū)域提取控制部27對在雙重閉合曲線邊緣檢測部24所檢測的雙重閉合曲線邊緣中是否存在還未進行步驟S25的處理的雙重閉合曲線邊緣進行判定(步驟S26),在存在的情況下對下一個雙重閉合曲線邊緣進行步驟S25的處理。
這樣,在步驟S26中判定為對所有的雙重閉合曲線邊緣進行了步驟S25的處理的情況下,區(qū)域提取控制部27對判定為屬于關注要素的雙重閉合曲線邊緣的數(shù)量(甚至所檢測的關注要素的中心部的數(shù)量)是否為規(guī)定數(shù)量(在圖11所示的例子中是五個)以上進行判定(步驟S27)。
這里,在判定為屬于關注要素的雙重閉合曲線邊緣的數(shù)量被判定為不足規(guī)定數(shù)量的情況下,單一閉合曲線邊緣確定部26像之后參照圖7而說明的那樣進行如下處理:對不屬于雙重閉合曲線邊緣的單一閉合曲線邊緣(該單一閉合曲線邊緣是通過步驟S23中的大小濾波處理部23的處理而判定為是處于能夠作為關注要素的范圍內(nèi)的大小的閉合曲線邊緣)是否屬于關注要素進行確定(步驟S28)。
接下來,區(qū)域提取控制部27對在單一閉合曲線邊緣中是否存在還未進行步驟S25的處理的單一閉合曲線邊緣進行判定(步驟S29),在存在的情況下,對下一個單一閉合曲線邊緣進行步驟S28的處理。
這樣,在步驟S29中判定為對所有的單一閉合曲線邊緣進行了步驟S28的處理的情況下或者在步驟S27中判定為屬于關注要素的雙重閉合曲線邊緣的數(shù)量被判定為規(guī)定數(shù)量以上的情況下,從該處理返回圖4所示的處理。
這樣,首先進行屬于關注要素的可靠性更高的雙重閉合曲線邊緣的確定,在判定為屬于關注要素的雙重閉合曲線邊緣的數(shù)量不足規(guī)定數(shù)量的情況下,進一步對單一閉合曲線邊緣進行是否屬于關注要素進行確定。
另外,在圖5A的處理中,在雙重閉合曲線邊緣的數(shù)量達到規(guī)定數(shù)量的情況下,不進行單一閉合曲線邊緣的確定,但也可以不管雙重閉合曲線邊緣的數(shù)量是否達到規(guī)定數(shù)量都進行單一閉合曲線邊緣的確定。
圖5B是示出圖像分析裝置中的在所選擇的區(qū)域中選擇多個關注要素的中心部的處理的變形例的流程圖。
該圖5B所示的處理省略了圖5A中的步驟S27的處理。由此,不僅進行雙重閉合曲線邊緣的確定,還進行單一閉合曲線邊緣的確定,因此能夠選擇更多的關注要素的中心部。
圖6是示出圖像分析裝置10中的雙重閉合曲線邊緣確定處理的流程圖。
當進入該處理時,雙重閉合曲線邊緣確定部25從在步驟S24中雙重閉合曲線邊緣檢測部24所檢測的雙重閉合曲線邊緣中選擇一個未處理的雙重閉合曲線邊緣(步驟S31)。
而且,雙重閉合曲線邊緣確定部25判定所選擇的雙重閉合曲線邊緣的內(nèi)側(cè)閉合曲線邊緣的內(nèi)側(cè)的各像素的顏色成分值的例如平均值是否在屬于關注要素的中心部的第一顏色范圍內(nèi)。(步驟S32)。
這里,在判定為在第一顏色范圍外的情況下,返回圖5A(或圖5B,由于下面相同因此省略)所示的處理,而不將在步驟S31中選擇的雙重閉合曲線邊緣識別為關注要素。
并且,在步驟S32中判定為在第一顏色范圍內(nèi)的情況下,雙重閉合曲線邊緣確定部25進一步對所選擇的雙重閉合曲線邊緣的外側(cè)閉合曲線邊緣和內(nèi)側(cè)閉合曲線邊緣之間的各像素的顏色成分值的例如平均值是否在屬于關注要素的周邊部的第二顏色范圍內(nèi)進行判定(步驟S33)。
這里,在判定為在第二顏色范圍外的情況下,返回圖5A所示的處理,而不將在步驟S31中選擇的雙重閉合曲線邊緣識別為關注要素。
并且,在步驟S33中判定為是第二顏色范圍內(nèi)的情況下(因此,在判定為內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域的顏色與內(nèi)側(cè)閉合曲線邊緣和外側(cè)閉合曲線邊緣之間的區(qū)域的顏色不同的情況下),確定為在步驟S31中選擇的雙重閉合曲線邊緣屬于關注要素,在分別將內(nèi)側(cè)閉合曲線邊緣的內(nèi)側(cè)確定為關注要素的中心部,將外側(cè)閉合曲線邊緣和內(nèi)側(cè)閉合曲線邊緣之間確定為關注要素的周邊部(步驟S34)之后,返回圖5A所示的處理。
圖7是示出圖像分析裝置10中的單一閉合曲線邊緣確定處理的流程圖。
當進入該處理時,單一閉合曲線邊緣確定部26從通過大小濾波處理部23后的閉合曲線邊緣中選擇雙重閉合曲線邊緣以外的單一閉合曲線邊緣中的一個未處理的閉合曲線邊緣(步驟S41)。
而且,單一閉合曲線邊緣確定部26對所選擇的單一閉合曲線邊緣的內(nèi)側(cè)的各像素的顏色成分值的例如平均值是否在屬于關注要素的中心部的第一顏色范圍內(nèi)進行判定(步驟S42)。
這里,在判定為在第一顏色范圍外的情況下,返回圖5A所示的處理,而不將在步驟S41中選擇的單一閉合曲線邊緣識別為關注要素。
并且,在步驟S42中判定為在第一顏色范圍內(nèi)的情況下,單一閉合曲線邊緣確定部26進一步對所選擇的單一閉合曲線邊緣的外側(cè)附近的各像素的顏色成分值的例如平均值是否在屬于關注要素的周邊部的第二顏色范圍(與第一顏色范圍不同的第二顏色范圍)內(nèi)進行判定(步驟S43)。
這里,在判定為在第二顏色范圍外的情況下,返回圖5A所示的處理,而不將在步驟S41中選擇的單一閉合曲線邊緣識別為關注要素。
并且,在步驟S43中判定為在第二顏色范圍內(nèi)的情況下(因此,在判定為單一閉合曲線邊緣的內(nèi)側(cè)區(qū)域的顏色與外側(cè)附近區(qū)域的顏色不同的情況下),在將在步驟S41中所選擇的單一閉合曲線邊緣內(nèi)確定為關注要素的中心部(步驟S44)之后,返回圖5A所示的處理。
另外,在上述的圖5A~圖7中,進行了邊緣檢測(閉合曲線邊緣檢測、雙重閉合曲線邊緣檢測)、大小濾波處理、顏色范圍判定等各處理,從而提高了關注要素的檢測精度,但也可以省略任意的處理而減輕處理負荷從而提高檢測速度。
根據(jù)這樣的實施方式一,區(qū)域提取部12確定具有環(huán)狀的周邊部和被周邊部包圍且與周邊部顏色不同的中心部的關注要素,僅提取關注要素的中心部作為分析對象區(qū)域,(具體而言,著眼于在被檢體中發(fā)生變化的特征區(qū)域,進行該特征區(qū)域的色調(diào)變化的分析),因此在必要的區(qū)域中能夠進行更準確的定量評價。
并且,由于根據(jù)色調(diào)、飽和度以及亮度中的至少一個的差異來判定周邊部與中心部的顏色的差異,因此能夠進行基于圖像的顏色成分值的判定。
并且,對圖像進行邊緣檢測,進一步檢測形成閉合曲線的邊緣,在被所檢測的閉合曲線邊緣包圍的區(qū)域的內(nèi)外顏色不同的情況下,把被閉合曲線邊緣包圍的區(qū)域的內(nèi)部確定為中心部,因此能夠高精度地檢測具有顏色不同的中心部和周邊部的關注要素。
而且,由于僅在閉合曲線邊緣的大小處于能夠作為關注要素的范圍內(nèi)的情況下把被閉合曲線邊緣包圍的區(qū)域的內(nèi)部確定為中心部,因此能夠更加提高關注要素的檢測精度。
此外,進一步檢測雙重閉合曲線邊緣,在內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域的顏色與內(nèi)側(cè)閉合曲線邊緣和外側(cè)閉合曲線邊緣之間的區(qū)域的顏色不同的情況下,把內(nèi)側(cè)閉合曲線邊緣內(nèi)的區(qū)域確定為中心部,因此能夠進行針對具有中心部和周邊部的關注要素的形狀的匹配性更高的檢測。
并且,確定多個關注要素,提取所確定的多個關注要素的中心部作為分析對象區(qū)域,因此能夠從更多的樣本中提取分析對象區(qū)域的顏色成分值,從而使根據(jù)所提取的顏色成分值計算出的第一圖像的顏色成分值與第二圖像的顏色成分值的變化的程度成為更穩(wěn)定的值。
并且,在提取分析對象區(qū)域時,由于排除了不適于提取顏色成分值的不合適要素,因此能夠獲得更準確的圖像分析結(jié)果,而不被不合適要素左右。
而且,由于提取明亮度接近中央值的規(guī)定數(shù)量的關注要素的中心部作為分析對象區(qū)域,因此能夠更適當?shù)匕盐兆兓俊?/p>
從平均亮度在適于提取顏色成分值的適當亮度范圍內(nèi)的適當亮度區(qū)域中進行分析對象區(qū)域的提取,因此即使在被檢體中發(fā)生變化,也能夠防止將其變化量未必被像素值適當反映的過亮的區(qū)域或過暗的區(qū)域作為分析對象區(qū)域。
并且,能夠?qū)νㄟ^內(nèi)窺鏡20拍攝而獲取的被檢體的圖像實現(xiàn)上述的效果。
并且,例如能夠?qū)δc道絨毛進行適當?shù)膱D像分析。
另外,上述的各部也可以構(gòu)成為電路。而且,如果任意電路都能實現(xiàn)相同的功能,則也可以安裝成單一的電路,也可以安裝成組合了多個電路而成的電路。并且,任意電路不限于構(gòu)成為用于實現(xiàn)作為目的的功能的專用電路,也可以是通過使通用電路執(zhí)行處理程序來實現(xiàn)作為目的的功能的結(jié)構(gòu)。
并且,在上述中主要對圖像分析裝置(或者圖像分析系統(tǒng),以下相同)進行了說明,但也可以是使圖像分析裝置像上述那樣進行動作的動作方法,也可以是用于使計算機進行與圖像分析裝置相同的處理的處理程序、能夠通過記錄了該處理程序的計算機進行讀取的非暫時的記錄介質(zhì)。
并且,本發(fā)明并不限定于上述實施方式本身,可以在實施階段中在不脫離其主旨的范圍內(nèi)對構(gòu)成要素進行變形來具體化。并且,通過適當組合上述實施方式所公開的多個構(gòu)成要素,可以形成各種發(fā)明的方式。例如,也可以從實施方式所示的所有構(gòu)成要素中刪除幾個構(gòu)成要素。并且,也可以適當組合不同的實施方式的構(gòu)成要素。這樣,當然可以在不脫離發(fā)明主旨的范圍內(nèi)進行各種變形和應用。
本申請是以2015年4月27日在日本申請的日本特愿2015-090620號作為優(yōu)先權(quán)主張的基礎而申請的,上述的公開內(nèi)容被引用于本申請說明書、權(quán)利要求書以及附圖。