本發(fā)明涉及圖像處理裝置及其工作方法。
背景技術(shù):
在醫(yī)療領(lǐng)域中,對生物體內(nèi)的觀察對象進(jìn)行拍攝的內(nèi)窺鏡系統(tǒng)被廣泛利用。內(nèi)窺鏡系統(tǒng)具備被插入到生物體內(nèi)而對觀察對象進(jìn)行拍攝并輸出圖像信號的內(nèi)窺鏡、和基于圖像信號生成觀察對象的觀察圖像并將其向監(jiān)視器輸出的內(nèi)窺鏡用處理器裝置(以下,簡單記作處理器裝置)。
在利用觀察圖像的診斷中,對于醫(yī)師而言,判斷在觀察圖像內(nèi)是否具有與預(yù)先設(shè)定的多個臨床癥狀(臨床表現(xiàn))對應(yīng)的區(qū)域、弄清楚癥狀的程度為何種程度是重要的。例如在胃粘膜的觀察圖像中,通過將與彌漫性發(fā)紅、地圖狀發(fā)紅、腸上皮化生等作為胃炎的京都分類(kyotoclassification)而已知的多個癥狀分別對應(yīng)的有無及其程度進(jìn)行評分,判斷該區(qū)域是否是由于感染幽門螺旋桿菌(helicobacterpylori)而產(chǎn)生的慢性胃炎的特征性區(qū)域。此外,在大腸息肉的觀察圖像中,通過將息肉分類為ⅰ型、ⅱ型、ⅲs型等作為腺管開口形態(tài)分類(pitpatternclassification)而已知的多個癥狀的某一個,來判斷大腸癌的進(jìn)展度。
在日本特開2014-166298號公報中記載了一種處理器裝置,其在大腸息肉的觀察圖像中,基于與預(yù)先準(zhǔn)備的基本形態(tài)的類似度這樣的特征量,將息肉分類為腺管開口形態(tài)分類的多個癥狀的某一個,進(jìn)行與分類結(jié)果相應(yīng)的顏色的強(qiáng)調(diào)處理(顏色分配處理)。由于癥狀的分類自動化、并且顯示與分類結(jié)果相應(yīng)的顏色分配圖像,所以診斷順利進(jìn)展。
如上述那樣,在利用觀察圖像的診斷中,有這樣的希望,即:判斷與癥狀對應(yīng)的區(qū)域的有無,同時為了進(jìn)一步實(shí)現(xiàn)診斷的效率化而希望把握癥狀的程度。但是,在日本特開2014-166298號公報中,雖然能夠把握與區(qū)域?qū)?yīng)的癥狀,但無法把握癥狀的程度。
技術(shù)實(shí)現(xiàn)要素:
本發(fā)明的目的在于,提供一種圖像處理裝置及其工作方法,能夠把握靈活運(yùn)用于診斷的癥狀所對應(yīng)的區(qū)域的有無,并且還能夠把握癥狀的程度。
為了達(dá)成上述目的,本發(fā)明提供圖像處理裝置,具備:圖像信號取得部,取得對生物體內(nèi)的觀察對象進(jìn)行拍攝而得到的圖像信號;觀察圖像生成部,根據(jù)圖像信號,生成觀察對象的觀察圖像;特征量計算部,從圖像信號計算特征量;區(qū)域決定部,根據(jù)特征量,決定與預(yù)先設(shè)定的多個癥狀分別對應(yīng)的觀察圖像內(nèi)的區(qū)域;級別分類部,根據(jù)特征量,將區(qū)域分類為對多個癥狀分別預(yù)先設(shè)定的、表示癥狀的程度多個級別中的某個;顏色分配圖像生成部,按照對每個癥狀設(shè)定的顯示色、以及對每個級別設(shè)定的顯示色的色調(diào),對觀察圖像進(jìn)行顏色分配處理,生成顏色分配圖像;以及顯示控制部,控制顏色分配圖像的顯示。
此外,優(yōu)選的是,特征量計算部計算多個種類的特征量,區(qū)域決定部根據(jù)多個種類的特征量中的第1特征量進(jìn)行區(qū)域的決定,級別分類部根據(jù)多個種類的特征量中的第2特征量進(jìn)行級別的分類。
此外,優(yōu)選的是,第2特征量包含第1特征量。
此外,優(yōu)選的是,顏色分配圖像生成部對區(qū)域的邊界進(jìn)行顏色分配處理。
此外,優(yōu)選的是,觀察對象是胃粘膜,癥狀是與胃炎相關(guān)的癥狀。
此外,優(yōu)選的是,圖像信號取得部取得向觀察對象照射短波長側(cè)的光強(qiáng)度比長波長側(cè)的光強(qiáng)度強(qiáng)的照明光而得到的圖像信號。
此外,優(yōu)選的是,還具備對圖像信號實(shí)施使明亮度均勻的明亮度校正處理的明亮度校正處理部,特征量計算部從明亮度校正處理完成的圖像信號計算特征量。
此外,優(yōu)選的是,還具備對基于將白色光作為照明光向觀察對象照射得到的圖像信號的通常圖像、實(shí)施將顏色及對比度中的至少一個降低的降低處理的降低處理部,顯示控制部在降低處理完成的通常圖像上重疊顏色分配圖像。
進(jìn)而,本發(fā)明提供圖像處理裝置的工作方法,包括以下步驟:取得對生物體內(nèi)的觀察對象進(jìn)行拍攝而得到的圖像信號;根據(jù)圖像信號,生成觀察對象的觀察圖像;從圖像信號計算特征量;根據(jù)特征量,決定與預(yù)先設(shè)定的多個癥狀分別對應(yīng)的觀察圖像內(nèi)的區(qū)域;根據(jù)特征量,將區(qū)域分類為對多個癥狀分別預(yù)先設(shè)定的、表示癥狀的程度的多個級別中的某個;通過按每個癥狀設(shè)定的顯示色、并且按每個級別設(shè)定的顯示色的色調(diào),對觀察圖像進(jìn)行顏色分配處理,生成顏色分配圖像;控制顏色分配圖像的顯示。
發(fā)明效果
根據(jù)本發(fā)明,能夠提供一種圖像處理裝置及其工作方法,該圖像處理裝置基于根據(jù)拍攝生物體內(nèi)的觀察對象得到的圖像信號計算出的特征量,決定與預(yù)先設(shè)定的多個癥狀分別對應(yīng)的區(qū)域,并且將區(qū)域分類為對多個癥狀分別預(yù)先設(shè)定的、表示癥狀的程度的多個級別中的某個,顯示進(jìn)行了與這些區(qū)域決定結(jié)果及分類結(jié)果相應(yīng)的顏色分配處理的顏色分配圖像,因此能夠把握靈活運(yùn)用于診斷的癥狀所對應(yīng)的區(qū)域的有無,同時還能夠把握癥狀的程度。
附圖說明
圖1是內(nèi)窺鏡系統(tǒng)的外觀圖。
圖2是表示內(nèi)窺鏡系統(tǒng)的各部的框圖。
圖3是表示圖像處理部的各功能部的框圖。
圖4是表示特征量計算部的處理的流程的說明圖。
圖5是表示第1特征量和第2特征量的例子的表。
圖6是表示區(qū)域決定表的內(nèi)容的圖。
圖7是表示級別分類表的內(nèi)容的圖。
圖8是表示顏色分配表的內(nèi)容的圖。
圖9是表示區(qū)域決定部、級別分類部以及顏色分配圖像生成部的處理的流程的說明圖。
圖10是表示區(qū)域決定部、級別分類部以及顏色分配圖像生成部的處理的流程的其他例子的說明圖。
圖11是表示顏色分配處理的詳情的圖。
圖12是表示顯示控制部的功能部的框圖。
圖13是表示第2觀察模式的情況下的圖像顯示畫面的圖。
圖14是表示注釋顯示畫面的圖。
圖15是表示第1觀察模式的情況下的圖像顯示畫面的圖。
圖16是表示處理器裝置的處理順序的流程圖。
圖17是表示第2實(shí)施方式的圖像處理部的各功能部的框圖。
圖18是明亮度校正處理的概念圖。
圖19是表示第3實(shí)施方式的圖像處理部以及顯示控制部的各功能部的框圖。
圖20是表示第3實(shí)施方式的圖像顯示畫面的圖。
具體實(shí)施方式
[第1實(shí)施方式]
圖1中,內(nèi)窺鏡系統(tǒng)10具備:內(nèi)窺鏡11,拍攝生物體內(nèi)的觀察對象并輸出圖像信號;處理器裝置12,相當(dāng)于本發(fā)明的圖像處理裝置,基于圖像信號而生成觀察對象的觀察圖像;光源裝置13,對內(nèi)窺鏡11提供向觀察對象照射的照明光。在處理器裝置12上,連接著監(jiān)視器14、鍵盤鼠標(biāo)等輸入器件15。
內(nèi)窺鏡11具備:插入部16,被向生物體內(nèi)插入;操作部17,設(shè)置在插入部16的基端部分;通用塞繩18,將內(nèi)窺鏡11與處理器裝置12及光源裝置13連結(jié)。本實(shí)施方式中,內(nèi)窺鏡11主要用于以胃粘膜為觀察對象的上部消化道。
插入部16由從頂端起依次連續(xù)設(shè)置的頂端部19、彎曲部20、可撓管部21構(gòu)成。彎曲部20由相連結(jié)的多個彎曲塊構(gòu)成,通過對操作部17的角度鈕22進(jìn)行操作而向上下左右方向彎曲動作。圖1中用虛線示出了向上方的彎曲動作。通過彎曲部20的彎曲,頂端部19朝向所希望的方向??蓳瞎懿?1具有撓性,以便能夠插入食道等彎彎曲曲的管道。
在插入部16中,插通有在與處理器裝置12之間通信各種信號的通信線纜、將來自光源裝置13的照明光向頂端部19導(dǎo)光的光導(dǎo)35(參照圖2)等。在操作部17,除了角度鈕22以外,還設(shè)有供鉗子、電手術(shù)刀這樣的處理工具插入的鉗子口23、在從設(shè)于頂端部19的送氣送水噴嘴進(jìn)行送氣送水時被操作的送氣送水按鈕24等。
在通用塞繩18中,插通著從插入部16延伸設(shè)置的通信線纜、光導(dǎo)35。在通用塞繩18的處理器裝置12及光源裝置13側(cè)的一端,安裝有連接器25(連接器單元)。連接器25是由通信用連接器25a和光源用連接器25b構(gòu)成的復(fù)合型的連接器。通信用連接器25a拆裝自由地與處理器裝置12連接,光源用連接器25b拆裝自由地與光源裝置13連接。在通信用連接器25a設(shè)有通信線纜的一端,在光源用連接器25b設(shè)有照明光入射的光導(dǎo)35的入射端。
圖2中,在內(nèi)窺鏡11的頂端部19,設(shè)有用于拍攝觀察對象的觀察窗30、以及用于向觀察對象照射照明光的照明窗31。在觀察窗30的里側(cè),配置有物鏡光學(xué)系統(tǒng)32和攝像傳感器33。在照明窗31的里側(cè),配置有照射透鏡34、和照明光出射的光導(dǎo)35的出射端。
觀察對象的像穿過觀察窗30向物鏡光學(xué)系統(tǒng)32入射,利用物鏡光學(xué)系統(tǒng)32而在攝像傳感器33的攝像面33a上成像。攝像傳感器33由ccd(chargecoupleddevice)圖像傳感器或cmos(complementarymetal-oxidesemiconductor)圖像傳感器等構(gòu)成,在攝像面33a,呈矩陣狀排列有光電二極管等構(gòu)成像素的多個光電變換元件。攝像傳感器33將在攝像面33a接收到的光進(jìn)行光電變換,在各像素中蓄積與各自的受光量相應(yīng)的信號電荷。信號電荷通過放大器被變換為電壓信號并被讀出。攝像傳感器33將該電壓信號作為圖像信號來輸出。
攝像傳感器33是彩色攝像傳感器,在攝像面33a設(shè)有藍(lán)色微型彩色濾光片(b濾光片)、綠色微型彩色濾光片(g濾光片)、紅色微型彩色濾光片(r濾光片)即藍(lán)色、綠色、紅色這3色的微型彩色濾光片(microcolorfilter),各濾光片被分配給各像素。各濾光片的排列例如是拜耳(bayer)排列。另外,在以下的說明中,從被分配了b濾光片的像素(b像素)輸出的圖像信號稱為b圖像信號,從被分配了g濾光片的像素(g像素)輸出的圖像信號稱為g圖像信號,從被分配了r濾光片的像素(r像素)輸出的圖像信號稱為r圖像信號。
從光源裝置13供給的照明光被光導(dǎo)35向照射透鏡34導(dǎo)光,從照明窗31朝向觀察對象照射。照射透鏡34由凹透鏡構(gòu)成,擴(kuò)展從光導(dǎo)35出射的照明光的發(fā)散角。由此,將照明光向觀察對象的大范圍照射。另外,照明窗31設(shè)有2個,位于頂端部19的光導(dǎo)35的出射端為了將照明光向2個照明窗31進(jìn)行導(dǎo)光,在照明窗31的前級分支為2根。
在頂端部19,除了觀察窗30及照明窗31以外,還設(shè)有為了對觀察窗30進(jìn)行清洗而進(jìn)行送氣送水的送氣送水噴嘴、用于使處理工具突出來進(jìn)行各種處置的鉗子出口。
在攝像傳感器33上,連接有模擬信號處理部(afe:analogfrontend)36和攝像控制部37。圖像信號從攝像傳感器33被輸入afe36。afe36由相關(guān)雙采樣電路、自動增益控制電路、以及模擬/數(shù)字變換器構(gòu)成。相關(guān)雙采樣電路對來自攝像傳感器33的模擬的圖像信號實(shí)施相關(guān)雙采樣處理,將由信號電荷的復(fù)位引起的噪聲去除。自動增益控制電路將被相關(guān)雙采樣電路去除了噪聲的圖像信號進(jìn)行放大。模擬/數(shù)字變換器將用自動增益控制電路放大了的圖像信號變換為具有與規(guī)定的比特數(shù)相應(yīng)的等級值的數(shù)字圖像信號并輸出到處理器裝置12。
攝像控制部37連接于處理器裝置12內(nèi)的主控制部40,同步于從主控制部40輸入的基準(zhǔn)時鐘信號,對攝像傳感器33及afe36輸入驅(qū)動信號。攝像傳感器33基于來自攝像控制部37的驅(qū)動信號,以規(guī)定的幀速率向afe36輸出圖像信號,afe36基于來自攝像控制部37的驅(qū)動信號,以規(guī)定的幀速率進(jìn)行相關(guān)雙采樣處理、放大、以及模擬/數(shù)字變換。
處理器裝置12具備主控制部40、數(shù)字信號處理部(dsp:digitalsignalprocessor)41、圖像處理部42、和顯示控制部43。主控制部40具有cpu(centralprocessingunit)、存儲工作程序44及控制所需的設(shè)定數(shù)據(jù)的rom(readonlymemory)、加載工作程序44而作為工作存儲器發(fā)揮功能的ram(randomaccessmemory),cpu執(zhí)行工作程序44,從而控制處理器裝置12的各部。
dsp41對來自afe36的數(shù)字的圖像信號(b圖像信號、g圖像信號、r圖像信號)實(shí)施像素插補(bǔ)處理。通過該像素插補(bǔ)處理,生成在b像素、g像素、r像素的各像素中不足的顏色的圖像信號(例如b像素的情況下是g圖像信號和r圖像信號),對于全部像素,b圖像信號、g圖像信號、r圖像信號齊備。
此外,dsp41對像素插補(bǔ)處理后的圖像信號實(shí)施缺陷像素校正、偏移校正、伽馬校正、白平衡校正等。進(jìn)而,dsp41基于圖像信號計算曝光值,向主控制部40輸出曝光控制信號,該曝光控制信號進(jìn)行控制以使得在圖像整體的光量不足的情況下(曝光不足)提高照明光的光量、另一方面在光量過高的情況下(過度曝光)降低照明光的光量。主控制部40向光源裝置13發(fā)送曝光控制信號。
圖像處理部42對來自dsp41的圖像信號實(shí)施各種圖像處理。顯示控制部43將后述的圖像顯示畫面76(參照圖13等)向監(jiān)視器14輸出。另外,被實(shí)施了例如以移動平均法、中值濾波(medianfiltering)法為代表的噪聲降低處理的圖像信號被輸入到圖像處理部42。
內(nèi)窺鏡系統(tǒng)10具有第1觀察模式和第2觀察模式這兩個觀察模式。主控制部40接收經(jīng)由輸入器件15輸入的、這些觀察模式的切換信號。另外,也可以在內(nèi)窺鏡11的操作部17設(shè)置切換觀察模式的開關(guān)?;蛘?,也可以用踏板式開關(guān)(footswitch)切換觀察模式。
第1觀察模式是在監(jiān)視器14上顯示觀察圖像的觀察模式。另一方面,第2觀察模式是在監(jiān)視器14上除了觀察圖像以外還顯示顏色分配圖像的觀察模式。顏色分配圖像是基于與觀察圖像內(nèi)的區(qū)域?qū)?yīng)的臨床癥狀(臨床表現(xiàn))和表示癥狀的程度的級別而對觀察圖像進(jìn)行了顏色分配處理的圖像。
光源裝置13具備發(fā)出藍(lán)色光bl的藍(lán)色半導(dǎo)體光源(b半導(dǎo)體光源)50、發(fā)出綠色光gl的綠色半導(dǎo)體光源(g半導(dǎo)體光源)51、發(fā)出紅色光rl的紅色半導(dǎo)體光源(r半導(dǎo)體光源)52、光路耦合部53、以及對各半導(dǎo)體光源50~52的驅(qū)動進(jìn)行控制的光源控制部54。
各半導(dǎo)體光源50~52例如具有發(fā)光二極管(led:lightemittingdiode)、激光二極管(ld:laserdiode)、el(electroluminescence)元件這樣的發(fā)光元件。光源控制部54進(jìn)行各半導(dǎo)體光源50~52的點(diǎn)亮、熄滅以及光量的控制。光量的控制通過基于來自主控制部40的曝光控制信號、變更向各半導(dǎo)體光源50~52的供給電力來進(jìn)行。
光源控制部54通過對各半導(dǎo)體光源50~52連續(xù)地施加驅(qū)動電流而使各半導(dǎo)體光源50~52點(diǎn)亮。并且,對應(yīng)于曝光控制信號,使施加的驅(qū)動電流的值變化從而變更向各半導(dǎo)體光源50~52的供給電力,分別控制藍(lán)色光bl、綠色光gl、紅色光rl的光量。另外,也可以不是連續(xù)地施加驅(qū)動電流而是以脈沖狀施加驅(qū)動電流,進(jìn)行使驅(qū)動電流脈沖的振幅變化的pam(pulseamplitudemodulation)控制、使驅(qū)動電流脈沖的占空比變化的pwm(pulsewidthmodulation)控制。
藍(lán)色光bl的發(fā)光波譜具有例如420nm~500nm附近的波長成分,中心波長460±10nm,半峰寬25±10nm。綠色光gl的發(fā)光波譜具有例如480nm~600nm附近的波長成分,中心波長550±10nm,半峰寬100±10nm。紅色光rl的發(fā)光波譜具有例如600nm~650nm附近的波長成分,中心波長625±10nm,半峰寬20±10nm。另外,中心波長表示各色光的發(fā)光波譜的寬度中心的波長,半峰寬是表示各色光的發(fā)光波譜的峰值的一半的波長范圍。
藍(lán)色光bl、綠色光gl、紅色光rl的光強(qiáng)度比bl:gl:rl被光源控制部54保持固定,例如如下式(1)那樣設(shè)定。
bl:gl:rl=2:2:1···(1)
即,作為短波長側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度相比于作為長波長側(cè)的光的紅色光rl的光強(qiáng)度而言被設(shè)定得較強(qiáng)。另外,光強(qiáng)度是光通量的單位立體角內(nèi)的密度,光量是基于人的感知(能見度)評價光的放射能量而得到的值。
光路耦合部53將藍(lán)色光bl、綠色光gl、紅色光rl的各色光的光路向一個光路進(jìn)行耦合,將各色光向內(nèi)窺鏡11的光導(dǎo)35的入射端進(jìn)行聚光。由光路耦合部53將光路耦合了的藍(lán)色光bl、綠色光gl、紅色光rl的混合光是具有與氙燈發(fā)出的白色光大致相同的發(fā)光波譜的白色光。本實(shí)施方式中,將該白色光用作照明光。
另外,白色光不僅是如氙燈發(fā)出的白色光那樣將藍(lán)色成分、綠色成分、紅色成分的波段全部包含在內(nèi)的寬帶光,還包括如本實(shí)施方式那樣將藍(lán)色成分、綠色成分、紅色成分這至少3色的各自的波段的光混合了的照明光。
光源控制部54在第1觀察模式、第2觀察模式的任一個觀察模式中都將各半導(dǎo)體光源50~52點(diǎn)亮。因而,藍(lán)色光bl、綠色光gl、紅色光rl的混合光始終作為照明光向觀察對象照射。
圖3中,在圖像處理部42中,通過工作程序44的起動,構(gòu)建圖像信號取得部60、觀察圖像生成部61、特征量計算部62、區(qū)域決定部63、級別分類部64、以及顏色分配圖像生成部65。
圖像信號取得部60承擔(dān)取得來自dsp41的圖像信號(b圖像信號、g圖像信號、r圖像信號)的圖像信號取得功能。該圖像信號如式(1)所示那樣,是向觀察對象照射將作為短波長側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度相比于作為長波長側(cè)的光的紅色光rl的光強(qiáng)度而言加強(qiáng)了的照明光而得到的。即,圖像信號取得部60取得向觀察對象照射將短波長側(cè)的光強(qiáng)度相比于長波長側(cè)的光強(qiáng)度而言加強(qiáng)了的照明光而得到的圖像信號。
第1觀察模式的情況下,圖像信號取得部60將取得的圖像信號向觀察圖像生成部61輸出。另一方面,第2觀察模式的情況下,圖像信號取得部60將取得的圖像信號向觀察圖像生成部61以及特征量計算部62輸出。
觀察圖像生成部61承擔(dān)基于來自圖像信號取得部60的圖像信號而生成觀察圖像的觀察圖像生成功能。觀察圖像生成部61將生成的觀察圖像向顯示控制部43以及顏色分配圖像生成部65輸出。本實(shí)施方式中,觀察圖像是基于將白色光作為照明光向觀察對象照射而得到的圖像信號的通常圖像。
特征量計算部62承擔(dān)從圖像信號計算多個種類的特征量的特征量計算功能。特征量計算部62將多個種類的特征量中的第1特征量向區(qū)域決定部63輸出,將多個種類的特征量中的第2特征量向級別分類部64輸出。
區(qū)域決定部63承擔(dān)區(qū)域決定功能,決定與預(yù)先設(shè)定的多個癥狀分別對應(yīng)的觀察圖像內(nèi)的區(qū)域。區(qū)域決定部63基于來自特征量計算部62的第1特征量以及區(qū)域決定表66(參照圖6)進(jìn)行區(qū)域的決定。區(qū)域決定部63將區(qū)域的決定結(jié)果(區(qū)域決定結(jié)果)向顏色分配圖像生成部65輸出。
級別分類部64承擔(dān)級別分類功能,將觀察圖像內(nèi)的區(qū)域分類為針對多個癥狀分別預(yù)先設(shè)定的、表示癥狀程度的多個級別中的某個。級別分類部64基于來自特征量計算部62的第2特征量以及級別分類表67(參照圖7)進(jìn)行級別的分類。級別分類部64將級別的分類結(jié)果(級別分類結(jié)果)向顏色分配圖像生成部65輸出。
顏色分配圖像生成部65承擔(dān)顏色分配圖像生成功能,基于來自區(qū)域決定部63的區(qū)域決定結(jié)果、來自級別分類部64的級別分類結(jié)果、以及顏色分配表68(參照圖8)生成顏色分配圖像。顏色分配圖像生成部65將生成的顏色分配圖像向顯示控制部43輸出。
如圖4的步驟s10所示,特征量計算部62對圖像信號實(shí)施周知的輪廓提取處理,提取區(qū)域re。區(qū)域re具體而言是胃粘膜的點(diǎn)或條紋、隆起、凹陷、孔等。圖4中,示出提取了許多點(diǎn)作為區(qū)域re的情形。
在提取了區(qū)域re后,特征量計算部62計算各區(qū)域re的顏色特征量va、形態(tài)特征量vb(步驟s11)。顏色特征量va是與由b圖像信號、g圖像信號、r圖像信號的各圖像信號表示的顏色成分(像素值)相關(guān)的特征量,例如,是各區(qū)域re的藍(lán)色成分、綠色成分、紅色成分的各自的平均值、方差、最大值、最小值、各區(qū)域re的紅色成分與綠色成分之比、各區(qū)域re的藍(lán)色成分與綠色成分之比等。形態(tài)特征量vb是與各區(qū)域re的形態(tài)相關(guān)的特征量,例如是各區(qū)域re的形狀(扁平度、凹凸度、圓形度、分支數(shù)等)、尺寸(最大徑、最大寬度、長度、曲率、面積等)等。
接著,特征量計算部62基于計算出的顏色特征量va、形態(tài)特征量vb,將區(qū)域re分組化(步驟s12)。具體而言,將各區(qū)域re中的顏色特征量va、形態(tài)特征量vb在預(yù)先設(shè)定的范圍內(nèi)的區(qū)域re識別為一個組gr。這樣被分組化為一個組gr的區(qū)域re是顏色成分及形態(tài)的特征大致相同的區(qū)域re。圖4中,示出了作為區(qū)域re而被提取的許多點(diǎn)被識別為一個組gr的情形。
特征量計算部62對于在步驟s12中分組化后的組gr計算分布特征量vc(步驟s13)。分布特征量vc是與組gr內(nèi)的各區(qū)域re的分布有關(guān)的特征量,例如,是組gr內(nèi)的區(qū)域re的個數(shù)、密度、組gr內(nèi)的鄰接的區(qū)域re間的距離的平均值、方差、最大值、最小值等。
特征量計算部62對各區(qū)域re的顏色特征量va、形態(tài)特征量vb以及分布特征量vc附加區(qū)域re的位置信息,將它們向區(qū)域決定部63以及級別分類部64輸出。位置信息例如是以攝像面33a的一角的像素為原點(diǎn)而二維地表現(xiàn)各像素的位置的坐標(biāo)等。區(qū)域re為矩形狀的情況下,作為位置信息,附加矩形的對角線上的2點(diǎn)的坐標(biāo)。區(qū)域re為圓形狀的情況下,圓的中心的坐標(biāo)和直徑或半徑被作為位置信息來附加,區(qū)域re為橢圓形狀的情況下,橢圓的中心的坐標(biāo)和長徑、短徑被作為位置信息來附加。區(qū)域re不為上述任一種形狀的情況下,區(qū)域re的邊界的全部像素的坐標(biāo)被作為位置信息來附加。
特征量計算部62基于圖5所示的表70,將計算出的顏色特征量va、形態(tài)特征量vb以及分布特征量vc分配給第1特征量和第2特征量,將第1特征量向區(qū)域決定部63輸出,將第2特征量向級別分類部64輸出。
表70是第1特征量和第2特征量的例子。第1特征量由顏色特征量va1、形態(tài)特征量vb1、vb2、以及分布特征量vc1構(gòu)成。相對于此,第2特征量除了顏色特征量va1、形態(tài)特征量vb1、vb2、以及分布特征量vc1以外,如虛線的框所示,還具有顏色特征量va2、形態(tài)特征量vb3以及分布特征量vc2。即,第2特征量包含第1特征量。
顏色特征量va1例如是紅色成分的平均值,顏色特征量va2例如是紅色成分與綠色成分之比。形態(tài)特征量vb1例如是扁平度,形態(tài)特征量vb2例如是圓形度,形態(tài)特征量vb3例如是面積。分布特征量vc1例如是密度,分布特征量vc2例如是距離的平均值。
圖6中,在區(qū)域決定表66中,設(shè)有條件和癥狀的項(xiàng)目。條件的項(xiàng)目中登記的a、b、c等是基于迄今為止得到的龐大的醫(yī)學(xué)知識而制定的表示第1特征量的范圍的不等式,例如是顏色特征量va1<x,y<形態(tài)特征量vb1≦z(x,y,z是數(shù)值)等。
在癥狀的項(xiàng)目中,登記有與各條件對應(yīng)的癥狀。癥狀是關(guān)于胃炎的癥狀,更具體而言,作為用于判斷是否是區(qū)域re感染幽門螺旋桿菌而產(chǎn)生的慢性胃炎的特征性癥狀的胃炎的京都分類而周知。在癥狀中,有表示正常胃粘膜的rac(regulararrangementofcollectingvenules)、表示疑似感染幽門螺旋桿菌的彌漫性發(fā)紅、點(diǎn)狀發(fā)紅、表示疑似感染或已感染幽門螺旋桿菌的委縮、腸上皮化生、表示已感染幽門螺旋桿菌的地圖狀發(fā)紅等(病變)。另外,除了這里例示的以外,胃底腺息肉、胃小凹增生性息肉、梳狀發(fā)紅、斑狀發(fā)紅、凹陷型糜爛、多發(fā)性白色扁平隆起等各種各樣的癥狀(病變)也與條件成組地被登記。
圖7中,在級別分類表67中,設(shè)有癥狀、條件、以及級別的項(xiàng)目。在癥狀的項(xiàng)目中,登記有在圖6的區(qū)域決定表66的癥狀的項(xiàng)目中登記的各癥狀。條件的項(xiàng)目中登記的a-1、b-1、c-1等與區(qū)域決定表66的條件同樣地,是基于醫(yī)學(xué)知識而制定的表示第2特征量的范圍的不等式。在級別的項(xiàng)目中,對應(yīng)于多個癥狀的每一個,登記有級別1、級別2、級別3這三個級別。癥狀的程度例如級別1是輕度、級別2是中度、級別3是高度。
這里,所謂癥狀的程度,例如在癥狀是委縮的情況下是根據(jù)胃粘膜的厚度和相關(guān)的觀察到的粘膜色的黃色成分的強(qiáng)度而推定的委縮的程度,在彌漫性發(fā)紅的情況下是根據(jù)紅色成分的強(qiáng)度而推定的彌漫性發(fā)紅的程度,在點(diǎn)狀發(fā)紅的情況下是根據(jù)密度而推定的點(diǎn)狀發(fā)紅的程度。另外,在癥狀表示正常胃粘膜的rac的情況下,是根據(jù)rac的區(qū)域及其周邊區(qū)域的顏色的對比度的大小而推定的、正常的確信度的程度。
圖8中,在顏色分配表68中,設(shè)有癥狀、顯示色、級別、以及色調(diào)的項(xiàng)目。在顯示色的項(xiàng)目中,登記有按每個癥狀設(shè)定的顯示色。在色調(diào)的項(xiàng)目中,登記有按每個級別設(shè)定的顯示色的色調(diào)。
這里,所謂顯示色,是顏色的三要素中的色相。此外,所謂色調(diào),是顏色的三要素中的彩度或者/以及明度。圖8中,作為顯示色,對于rac登記了紅色,對于委縮登記了綠色,對于腸上皮化生登記了藍(lán)色,對于彌漫性發(fā)紅登記了黃色,對于點(diǎn)狀發(fā)紅登記了紫色,對于地圖狀發(fā)紅登記了橙色。此外,作為色調(diào),對于級別1登記了彩度低(彩度低于級別2),對于級別2登記了彩度中(彩度在級別1與級別3的中間),對于級別3登記了彩度高(彩度高于級別2)。
圖9以及圖10表示區(qū)域決定部63、級別分類部64以及顏色分配圖像生成部65的功能。如步驟s20所示,區(qū)域決定部63基于第1特征量以及區(qū)域決定表66決定與各癥狀對應(yīng)的區(qū)域re,將區(qū)域決定結(jié)果向顏色分配圖像生成部65輸出。此外,與之并行而如步驟s21所示,級別分類部64基于第2特征量以及級別分類表67進(jìn)行級別的分類,將級別分類結(jié)果向顏色分配圖像生成部65輸出。區(qū)域決定部63以及級別分類部64對區(qū)域決定結(jié)果以及級別分類結(jié)果附加來自特征量計算部62的區(qū)域re的位置信息。
圖9表示作為區(qū)域決定結(jié)果而輸出腸上皮化生、作為級別分類結(jié)果而輸出級別1的例子。圖10表示作為區(qū)域決定結(jié)果而輸出委縮、作為級別分類結(jié)果而輸出級別1、級別2的例子。
如步驟s22所示,顏色分配圖像生成部65對于來自觀察圖像生成部61的觀察圖像的各區(qū)域re,以在顏色分配表68中登記的顯示色以及色調(diào)進(jìn)行顏色分配處理。顏色分配處理是這樣的處理:基于對區(qū)域決定結(jié)果以及級別分類結(jié)果附加的區(qū)域re的位置信息,確定觀察圖像內(nèi)的各區(qū)域re的位置,將各區(qū)域re以在顏色分配表68中登記的顯示色以及色調(diào)進(jìn)行著色。顏色分配圖像生成部65對于計算了特征量的所有的區(qū)域re進(jìn)行這樣的顏色分配處理,生成將區(qū)域re以在顏色分配表68中登記的顯示色及色調(diào)進(jìn)行了色彩化的顏色分配圖像。
圖9中,由于癥狀是腸上皮化生、分類級別是級別1,所以藍(lán)色(彩度低)被分配給區(qū)域re。另一方面,圖10中,由于癥狀是委縮、分類級別是級別1、級別2,所以綠色(彩度低)、綠色(彩度中)分別被分配給區(qū)域re。另外,圖9中例示的腸上皮化生、圖10中例示的委縮以外的區(qū)域也同樣地被進(jìn)行基于顏色分配表68的顏色分配處理。
圖11中,在顏色分配處理中,區(qū)域re的邊界如陰影hc所示那樣以在顏色分配表68中設(shè)定的顯示色及色調(diào)而被修邊。即,顏色分配圖像生成部65對區(qū)域re的邊界進(jìn)行顏色分配處理。
圖12中,在顯示控制部43中,通過工作程序44的起動,構(gòu)建顯示畫面生成部75。顯示畫面生成部75被從觀察圖像生成部61輸入觀察圖像,被從顏色分配圖像生成部65輸入顏色分配圖像。顯示畫面生成部75基于觀察圖像和顏色分配圖像,生成圖像顯示畫面76。顯示畫面生成部75將生成的圖像顯示畫面76變換為用于向監(jiān)視器14輸出的影像信號?;谠撚跋裥盘柕膱D像顯示畫面76被顯示在監(jiān)視器14上。
如圖13所示,圖像顯示畫面76具有檢查信息顯示區(qū)域80、觀察圖像顯示區(qū)域81以及顏色分配圖像顯示區(qū)域82。在檢查信息顯示區(qū)域80,顯示有內(nèi)窺鏡檢查的日期、內(nèi)窺鏡檢查的對象患者的姓名、患者id(identificationdata)、性別、出生年月日等檢查信息。在觀察圖像顯示區(qū)域81中顯示有觀察圖像,在顏色分配圖像顯示區(qū)域82中顯示有顏色分配圖像。
具有將顯示顏色分配圖像的圖像顯示畫面76生成并向監(jiān)視器14輸出的顯示畫面生成部75的顯示控制部43承擔(dān)對顏色分配圖像的顯示進(jìn)行控制的顯示控制功能。
在顏色分配圖像顯示區(qū)域82,設(shè)有注釋按鈕83。在注釋按鈕83被選擇的情況下,顯示畫面生成部75生成圖14所示的注釋顯示畫面85并向監(jiān)視器14輸出。
圖14中,在注釋顯示畫面85中,一覽顯示著表示與各癥狀的各級別對應(yīng)的顯示色以及色調(diào)的彩色塊86。通過該注釋顯示畫面85,能夠識別顏色分配圖像內(nèi)的區(qū)域的癥狀及級別。另外,也可以不將注釋顯示畫面85與圖像顯示畫面76分別地顯示,而將注釋顯示畫面85顯示在圖像顯示畫面76內(nèi)。
圖13所示的圖像顯示畫面76是第2觀察模式的情況的顯示例。另一方面,第1觀察模式的情況下,不生成顏色分配圖像。因此,第1觀察模式的情況下的圖像顯示畫面76如圖15所示那樣成為沒有顏色分配圖像顯示區(qū)域82的畫面。
接著,關(guān)于上述結(jié)構(gòu)的作用,參照圖16所示的流程圖進(jìn)行說明。當(dāng)內(nèi)窺鏡11和處理器裝置12以及光源裝置13經(jīng)由連接器25連接、內(nèi)窺鏡系統(tǒng)10起動,則各半導(dǎo)體光源50~52點(diǎn)亮,藍(lán)色光bl、綠色光gl、紅色光rl的混合光作為照明光向觀察對象照射,同時,攝像傳感器33進(jìn)行的觀察對象的拍攝開始。此時,對觀察模式設(shè)定了第1觀察模式。
在攝像控制部37的控制下,從攝像傳感器33輸出圖像信號。圖像信號被afe36實(shí)施相關(guān)雙采樣處理、放大、以及模擬/數(shù)字變換,被向dsp41輸出。在dsp41中,對圖像信號實(shí)施像素插補(bǔ)處理等。被dsp41實(shí)施了各種處理的圖像信號被輸出到圖像處理部42。
如圖16的步驟s100所示,來自dsp41的圖像信號被圖像信號取得部60取得(圖像信號取得步驟)。
這里,照明光中,作為短波長側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度相比于作為長波長側(cè)的光的紅色光rl的光強(qiáng)度而言被較強(qiáng)地設(shè)定。如周知的那樣,短波長側(cè)的光相比于長波長側(cè)的光而言,有使粘膜表層的構(gòu)造顯著的效果。因此,通過將作為短波長側(cè)的光的藍(lán)色光bl、綠色光gl的光強(qiáng)度設(shè)定得比作為長波長側(cè)的光的紅色光rl的光強(qiáng)度更強(qiáng),能夠由圖像信號取得部60取得恰當(dāng)?shù)夭蹲降秸衬け韺拥臉?gòu)造的圖像信號。
圖像信號從圖像信號取得部60輸出到觀察圖像生成部61。觀察圖像生成部61中,基于圖像信號,生成觀察圖像(步驟s110,觀察圖像生成步驟)。觀察圖像被輸出到顯示控制部43。
顯示控制部43中,基于來自觀察圖像生成部61的觀察圖像,由顯示畫面生成部75生成圖15所示的沒有顏色分配圖像顯示區(qū)域82的圖像顯示畫面76(步驟120:否,步驟s170)。圖像顯示畫面76被顯示在監(jiān)視器14上(步驟s180)。
醫(yī)師根據(jù)需要而操作輸入器件15,將觀察模式切換為第2觀察模式。由此,來自輸入器件15的切換信號被主控制部40接收,觀察模式被切換為第2觀察模式(步驟s120:是)。
第2觀察模式的情況下,圖像信號除了被輸出到觀察圖像生成部61以外還被輸出到特征量計算部62。特征量計算部62中,通過輪廓提取處理提取區(qū)域re,關(guān)于提取的區(qū)域re,計算多個種類的特征量(步驟s130,特征量計算步驟)。多個種類的特征量之中,在表70中設(shè)定的第1特征量被輸出到區(qū)域決定部63,第2特征量被輸出到級別分類部64。
區(qū)域決定部63中,基于第1特征量及區(qū)域決定表66,決定與各癥狀對應(yīng)的區(qū)域re(步驟s140,區(qū)域決定步驟)。此外,級別分類部64中,基于第2特征量及級別分類表67,對區(qū)域re進(jìn)行級別的分類(步驟s150,級別分類步驟)。區(qū)域決定部63的區(qū)域決定結(jié)果以及級別分類部64的級別分類結(jié)果被輸出到顏色分配圖像生成部65。
由于基于第1特征量決定與各癥狀對應(yīng)的區(qū)域re、基于第2特征量進(jìn)行級別的分類,所以用于決定與各癥狀對應(yīng)的區(qū)域re的特征量能夠設(shè)定為第1特征量,用于級別的分類的特征量能夠設(shè)定為第2特征量,能夠?qū)⑻卣髁繉?yīng)于其特性而區(qū)分使用。
此外,由于第2特征量包含第1特征量、與對應(yīng)于各癥狀的區(qū)域re的決定相比以更多的特征量進(jìn)行級別的分類,所以與對應(yīng)于各癥狀的區(qū)域re的決定精度相比能夠提高級別的分類精度。癥狀即使是經(jīng)驗(yàn)淺的醫(yī)師也能夠某種程度地通過外觀來判斷,但級別的看透需要熟練。因而,通過提高級別的分類精度,能夠不問經(jīng)驗(yàn)地自信地看透級別。
顏色分配圖像生成部65中,基于區(qū)域決定結(jié)果、級別分類結(jié)果、以及顏色分配表68,生成顏色分配圖像(步驟s160,顏色分配圖像生成步驟)。此時,對區(qū)域re的邊界進(jìn)行顏色分配處理。顏色分配圖像被輸出到顯示控制部43。
由于對區(qū)域re的邊界進(jìn)行顏色分配處理,所以相比于對區(qū)域re的整體進(jìn)行顏色分配處理、將區(qū)域re的整體以在顏色分配表68中設(shè)定的顯示色及色調(diào)涂滿的情況,不對顯示造成麻煩。
此外,在將靛藍(lán)胭脂紅(indigocarmine)等色素散布于觀察對象來進(jìn)行觀察的情況、或?qū)⒄瓗У牟ㄩL的照明光向觀察對象照射來進(jìn)行觀察的情況下區(qū)域re的邊界也主要被著色,所以能夠仿照在將色素散布于觀察對象進(jìn)行觀察的情況、或?qū)⒄瓗У牟ㄩL的照明光向觀察對象照射來進(jìn)行觀察的情況下的顯示。習(xí)慣于將色素散布于觀察對象來進(jìn)行觀察、或?qū)⒄瓗У牟ㄩL的照明光向觀察對象照射來進(jìn)行觀察的醫(yī)師能夠沒有不適感地進(jìn)行觀察。
顯示控制部43中,通過顯示畫面生成部75,基于來自觀察圖像生成部61的觀察圖像和來自顏色分配圖像生成部65的顏色分配圖像,生成圖13所示的具有顏色分配圖像顯示區(qū)域82的圖像顯示畫面76(步驟s170)。圖像顯示畫面76被顯示在監(jiān)視器14上(步驟s180,顯示控制步驟)。這些一系列的步驟s100~步驟s180持續(xù)到由醫(yī)師向輸入器件15輸入觀察結(jié)束的指示為止(步驟s190:是)。
醫(yī)師通過在第2觀察模式下的圖像顯示畫面76中觀察顏色分配圖像,能夠通過顯示色來把握癥狀,同時還能夠通過色調(diào)來把握癥狀的程度。此外,由于在第2觀察模式下的圖像顯示畫面76中并列顯示觀察圖像和顏色分配圖像,所以醫(yī)師能夠一邊比較這些圖像一邊進(jìn)行內(nèi)窺鏡檢查。
本實(shí)施方式中,以胃粘膜為觀察對象,假設(shè)癥狀是與胃炎相關(guān)的癥狀(胃炎的京都分類)。胃炎、特別是由于感染幽門螺旋桿菌而產(chǎn)生的慢性胃炎被指出是胃癌的重要的風(fēng)險因素。此外,胃癌在按癌的不同種類的死亡者數(shù)量的統(tǒng)計中始終處于上位位階。因此,通過以胃粘膜為觀察對象、將癥狀設(shè)為與胃炎相關(guān)的癥狀,能夠有助于胃癌的預(yù)防、胃癌患者花費(fèi)的醫(yī)療費(fèi)的削減、以及胃癌的死亡者數(shù)量的削減。
[第2實(shí)施方式]
在圖17及圖18所示的第2實(shí)施方式中,對圖像信號實(shí)施使明亮度均勻的明亮度校正處理,然后計算特征量。
圖17中,本實(shí)施方式的圖像處理部90中,除了上述第1實(shí)施方式的各功能部,還構(gòu)建明亮度校正處理部91。另外,圖17中,僅圖示上述第1實(shí)施方式的各功能部中的圖像信號取得部60和特征量計算部62,省略了區(qū)域決定部63等的圖示。
明亮度校正處理部91對來自圖像信號取得部60的圖像信號實(shí)施使明亮度均勻的明亮度校正處理。特征量計算部62根據(jù)來自明亮度校正處理部91的明亮度校正處理完成的圖像信號,計算特征量。
圖18是明亮度校正處理的概念圖。箭頭的上段表示明亮度校正處理前的攝像傳感器33的某行的像素的位置所對應(yīng)的明亮度,下段表示明亮度校正處理后的攝像傳感器33的某行的像素的位置所對應(yīng)的明亮度。明亮度例如是根據(jù)各像素的b圖像信號、g圖像信號、r圖像信號計算的明度。明亮度校正處理前,根據(jù)照明光的照射不均及胃粘膜的形狀等,混雜有亮區(qū)域和暗區(qū)域。明亮度校正處理部91校正這樣的明亮度的不均,如箭頭的下段所示,在明亮度校正處理前的明亮度的平均值附近使明亮度在整個區(qū)域中大致一定。
這樣,由于根據(jù)通過明亮度校正處理而明亮度大致一定的圖像信號來計算特征量,所以能夠計算可靠性高的特征量,進(jìn)而還能夠確保區(qū)域決定結(jié)果以及級別分類結(jié)果的可靠性。
上述第1實(shí)施方式中,將從各半導(dǎo)體光源50~52發(fā)出的藍(lán)色光bl、綠色光gl、紅色光rl的混合光用作照明光,但本發(fā)明不限于此。也可以將波長與血中血紅蛋白的吸收率高的帶寬一致的窄帶光、或者紅外光等可視光以外的光用作照明光。即,觀察圖像不限于通常圖像,也可以是基于將窄帶光向觀察對象照射而得到的圖像信號的圖像等特殊圖像。
此外,上述第1實(shí)施方式中,不論觀察模式如何,始終將藍(lán)色光bl、綠色光gl、紅色光rl的混合光作為照明光進(jìn)行照射,但也可以在第1觀察模式中照射藍(lán)色光bl、綠色光gl、紅色光rl的混合光、在第2觀察模式中照射藍(lán)色窄帶光和綠色光gl的混合光等而根據(jù)觀察模式變更照明光。進(jìn)而,也可以代替半導(dǎo)體光源50~52而使用氙燈。
此外,也可以使藍(lán)色光bl、綠色光gl、紅色光rl的光強(qiáng)度比bl:gl:rl不是上述第1實(shí)施方式的式(1)所示的2:2:1而是1:1:1從而設(shè)為均勻的光強(qiáng)度。也可以是,在第1觀察模式中使光強(qiáng)度比為1:1:1、在第2觀察模式中使光強(qiáng)度比為2:2:1等而根據(jù)觀察模式變更光強(qiáng)度比。
也可以在觀察對象中散布發(fā)出在區(qū)域中選擇性地聚集(將區(qū)域特殊地標(biāo)識)的熒光的藥劑、或靛藍(lán)胭脂紅等色素。
[第3實(shí)施方式]
圖19及圖20所示的第3實(shí)施方式中,對基于將白色光作為照明光向觀察對象照射得到的圖像信號的通常圖像實(shí)施了將顏色及對比度中的至少1個降低的降低處理后,在通常圖像上重疊顏色分配圖像。
圖19中,本實(shí)施方式的圖像處理部95中,除了上述第1實(shí)施方式的各功能部以外,該構(gòu)建降低處理部96。此外,顯示控制部97中,除了顯示畫面生成部75以外,還構(gòu)建圖像重疊部98。另外,圖19中,與圖17同樣,僅圖示上述第1實(shí)施方式的圖像處理部42的各功能部中的觀察圖像生成部61以及顏色分配圖像生成部65,省略了區(qū)域決定部63等的圖示。
降低處理部96對通常圖像實(shí)施降低處理。降低處理是將通常圖像的顏色及對比度中的至少1個降低的處理,例如是將通常圖像灰度化(grayscaled)并且減少各像素的灰階數(shù)、將顏色及對比度降低的處理。
圖像重疊部98對來自降低處理部96的降低處理完成的通常圖像重疊來自顏色分配圖像生成部65的顏色分配圖像,生成重疊圖像。顯示畫面生成部75基于來自觀察圖像生成部61的觀察圖像和來自圖像重疊部98的重疊圖像,生成圖20所示的圖像顯示畫面100。
圖20中,圖像顯示畫面100中,作為圖像顯示畫面76的顏色分配圖像顯示區(qū)域82的替代,具有顯示重疊圖像的重疊圖像顯示區(qū)域101。其他結(jié)構(gòu)與圖像顯示畫面76相同。
觀察圖像不是如上述第1實(shí)施方式那樣的基于將白色光向觀察對象照射得到的圖像信號的通常圖像、而是基于將窄帶光向觀察對象照射得到的圖像信號的圖像等特殊圖像的情況下,顏色分配處理對特殊圖像進(jìn)行,顏色分配圖像中特殊圖像成為基礎(chǔ)。
特殊圖像是相比于通常圖像而言舍棄了觀察對象的信息的圖像。因此,在以特殊圖像為基礎(chǔ)的顏色分配圖像中,有可能難以把握觀察對象的整體性狀。這一擔(dān)憂通過將以特殊圖像為基礎(chǔ)的顏色分配圖像重疊于通常圖像、用通常圖像補(bǔ)充在特殊圖像中被舍棄的觀察對象的信息來解決。但是,僅通過在通常圖像上重疊顏色分配圖像,好不容易進(jìn)行顏色分配處理而能夠把握與區(qū)域?qū)?yīng)的癥狀和癥狀程度的顏色分配圖像反倒變得難以觀察。
因此,本實(shí)施方式中,如上述那樣對通常圖像實(shí)施將顏色及對比度中的至少一個降低的降低處理,在降低處理完成的通常圖像上重疊顏色分配圖像。由此,在重疊圖像中通常圖像不會妨礙顏色分配圖像的觀察,能夠用通常圖像補(bǔ)充在特殊圖像中被舍棄的觀察對象的信息、并且提高顏色分配圖像的目視識別性。
此外,在通常圖像上重疊顏色分配圖像的情況下,將與在通常圖像中使用的顏色相同的顏色設(shè)定為癥狀的顯示色的情況下,在重疊圖像中無法進(jìn)行區(qū)分。因此,在通常圖像上重疊顏色分配圖像的情況下,能夠用作顯示色的顏色存在制約。對此,如本實(shí)施方式那樣,在作為降低處理而實(shí)施了將顏色降低的處理后的通常圖像上重疊顏色分配圖像的情況下,能夠用作顯示色的顏色的幅度擴(kuò)展,能夠?qū)崿F(xiàn)變化更豐富的顯示。
另外,如上述第1實(shí)施方式那樣以通常圖像為基礎(chǔ)生成顏色分配圖像的情況下,也對顏色分配圖像實(shí)施將觀察對象的信息舍棄的處理,在顏色分配圖像是舍棄了觀察對象的信息的圖像的情況下,本實(shí)施方式是有效的。
上述各實(shí)施方式中,以胃粘膜為觀察對象,假設(shè)癥狀是與胃炎相關(guān)的癥狀(胃炎的京都分類),但也可以通過下部消化道用的內(nèi)窺鏡將大腸息肉作為觀察對象,假設(shè)癥狀為作為大腸癌的腺管開口形態(tài)分類而已知的ⅰ型、ⅱ型、ⅲs型等。
大腸癌與胃癌并列地在按癌的不同種類的死亡者數(shù)量的統(tǒng)計中位于上位,特別是在女性的情況下死亡者數(shù)量為第1位。因此,通過以大腸息肉為觀察對象、并假設(shè)癥狀為大腸癌的腺管開口形態(tài)分類,能夠有助于大腸癌的預(yù)防、大腸癌的患者花費(fèi)的醫(yī)療費(fèi)的削減、以及大腸癌的死亡者數(shù)量的削減。另外,在以大腸息肉為觀察對象的情況下,不限于大腸癌的腺管開口形態(tài)分類,也可以使癥狀為關(guān)于炎癥性腸疾患、克羅恩病(crohn'sdisease)、潰瘍性大腸炎等的癥狀。
在以胃粘膜或大腸息肉為觀察對象來決定區(qū)域并將級別分類的情況下,血管成為噪聲。因此,也可以在計算特征量之前,檢測血管部分的圖像信號,實(shí)施將血管部分的圖像信號用周邊部分的圖像信號進(jìn)行插補(bǔ)的處理。如果這樣在使成為噪聲的血管部分不醒目的基礎(chǔ)上計算特征量,則計算出的特征量、以及區(qū)域決定結(jié)果及級別分類結(jié)果更加值得信賴。
在白色光的照明下,已知粘膜表層的血管呈紅色,中層的血管呈茶褐色,深層的血管呈紫色。因此,著眼于特定的顏色成分檢測血管部分的圖像信號即可。另外,不在白色光的照明下而是在波長與血中血紅蛋白的吸收率高的帶寬一致的窄帶光的照明下,血管的顏色與白色光的情況不同,因此優(yōu)選根據(jù)照明光而變更著眼的顏色成分。
優(yōu)選的是,在將特定的顏色成分的圖像信號作為血管部分的圖像信號檢測出的基礎(chǔ)上,進(jìn)而將其周邊部分的與特定的顏色成分相似的顏色成分的圖像信號也一并作為血管部分的圖像信號來檢測。此外,在作為其他血管而檢測出的部分的間隔為規(guī)定值以下、并且作為其他血管而檢測出的部分的長度方向一致的情況下,可以增加將作為其他血管而檢測出的部分推定為同一血管部分而再次識別的處理。進(jìn)而,在作為血管而檢測出的部分的寬度、長度、或者面積為規(guī)定值以下的情況下,可以不作為血管部分而作為單純的圖像噪聲進(jìn)行處理。
在決定區(qū)域并將級別分類的情況下成為噪聲的不限于血管。例如,照明光過強(qiáng)而產(chǎn)生光暈的部分、相反地在孔等中照明光不到達(dá)的較暗部分、或者從鉗子出口突出的處理工具的頂端或被可撓管部21、插入部16覆蓋并引導(dǎo)插入部16的插入的導(dǎo)引套等人造物也與血管同樣地成為噪聲。進(jìn)而,模糊部分和抖動部分也成為噪聲。因此,優(yōu)選的是,在計算特征量之前,檢測這樣的成為噪聲的部分的圖像信號,將這些部分的圖像信號從特征量的計算對象中排除。
該情況下,在判斷為成為特征量的計算對象的圖像信號為整體的例如10%以下等成為特征量的計算對象的圖像信號比較少、在該狀態(tài)下無法確保特征量的可靠性的情況下,可以中止以后的特征量的計算、區(qū)域的決定、級別的分類、顏色分配處理的實(shí)施。
另外,也可以將與按每個癥狀預(yù)先準(zhǔn)備的多個基本形態(tài)的類似度作為特征量來計算,將其作為第1特征量向區(qū)域決定部63輸出。該情況下,特征量計算部62將多個基本形態(tài)與圖像信號進(jìn)行對照,對于多個基本形態(tài)的各個計算類似度。特征量計算部62對將觀察圖像細(xì)化了的各區(qū)域的每一個進(jìn)行對照和類似度的計算。區(qū)域決定部63根據(jù)與多個基本形態(tài)的類似度,決定與各癥狀對應(yīng)的區(qū)域。例如,將表示出與多個基本形態(tài)的類似度中的最高類似度的基本形態(tài)所對應(yīng)的癥狀作為該區(qū)域的癥狀。
另外,與不同的多個癥狀對應(yīng)的多個區(qū)域彼此可以部分重疊。該情況下,重疊的部分成為混雜有不同癥狀的區(qū)域。
上述第1實(shí)施方式中記載的第1特征量和第2特征量是一例,可以適當(dāng)變更。此外,第1特征量和第2特征量可以是完全相同的特征量,也可以是完全不同的特征量。
上述第1實(shí)施方式中記載的顯示色及色調(diào)也是一例,可以適當(dāng)變更。作為色調(diào),除了上述第1實(shí)施方式例示的彩度以外、或者作為替代,可以增加明度。
級別不限于上述第1實(shí)施方式的級別1~3的3個等級。也可以是級別1、級別2這兩個等級,也可以是級別1~10等進(jìn)一步細(xì)分的等級。
上述第1實(shí)施方式中,在第2觀察模式下的圖像顯示畫面76中,并列顯示觀察圖像和顏色分配圖像,但也可以僅顯示顏色分配圖像。該情況下,將觀察圖像在與圖像顯示畫面76不同的顯示畫面中顯示,或者在圖像顯示畫面76中設(shè)置顯示切換按鈕,對應(yīng)于顯示切換按鈕的操作來切換觀察圖像和顏色分配圖像的顯示。在將觀察圖像和顏色分配圖像顯示在不同的顯示畫面中的情況下,也可以將監(jiān)視器14設(shè)為2臺的復(fù)用監(jiān)視器,在一方的監(jiān)視器上顯示觀察圖像的顯示畫面,在另一方的監(jiān)視器上顯示顏色分配圖像的顯示畫面。關(guān)于上述第3實(shí)施方式的重疊圖像,也可以同樣地僅顯示重疊圖像。
也可以在圖像顯示畫面76上顯示特征量。例如,使顏色分配圖像上的區(qū)域re能夠選擇,將選擇出的區(qū)域re的特征量的一覽彈出顯示在圖像顯示畫面76上。該情況下,優(yōu)選按顏色特征量va、形態(tài)特征量vb以及分布特征量vc的特征量的每個種類歸納顯示。
上述第1實(shí)施方式中,例示了在攝像面33a設(shè)有作為b濾光片、g濾光片以及r濾光片的原色彩色濾光片的攝像傳感器33,但也可以使用在攝像面設(shè)有青、品紅、黃的補(bǔ)色彩色濾光片的攝像傳感器。
此外,也可以使用沒有設(shè)置彩色濾光片的單色的攝像傳感器。在使用單色的攝像傳感器的情況下,使各半導(dǎo)體光源50~52匹配于幀速率依次點(diǎn)亮。在使用氙燈作為光源的情況下,在氙燈與光導(dǎo)35的入射端之間等設(shè)有將來自氙燈的白色光匹配于幀速率依次分光為藍(lán)色光bl、綠色光gl以及紅色光rl的旋轉(zhuǎn)式濾光片。
上述各實(shí)施方式中,說明了使與內(nèi)窺鏡11直接連接的處理器裝置12作為本發(fā)明的圖像處理裝置發(fā)揮功能的例子,但也可以使圖像處理裝置為獨(dú)立于處理器裝置的裝置。
本發(fā)明不限于上述第1實(shí)施方式中例示的所謂被稱作軟性鏡的內(nèi)窺鏡11,對于在超小型的膠囊內(nèi)組裝有攝像傳感器和光源的膠囊型內(nèi)窺鏡也能夠應(yīng)用。
上述實(shí)施方式中,圖像處理裝置對從內(nèi)窺鏡得到的內(nèi)窺鏡圖像進(jìn)行處理。但是,本發(fā)明的圖像處理裝置也可以對由ct(計算機(jī)斷層拍攝)、mri(核磁共振斷層拍攝)、oct(光學(xué)相干斷層拍攝)、x線、超聲波回波、探頭、腹腔鏡、纖維鏡、其他圖像診斷得到的圖像進(jìn)行處理。
本發(fā)明還能夠?qū)⑸鲜龈鞣N實(shí)施方式或各種變形例適當(dāng)組合。此外,不限于上述各實(shí)施方式,只要不脫離本發(fā)明的主旨的范圍就當(dāng)然能夠采用各種結(jié)構(gòu)。進(jìn)而,本發(fā)明除了程序以外還設(shè)計存儲程序的存儲介質(zhì)。
本發(fā)明能夠在不脫離發(fā)明的精神的范圍內(nèi)進(jìn)行種種變形、變更,在這樣的情況下,也應(yīng)解釋為包含在本發(fā)明的保護(hù)范圍內(nèi)。