本發(fā)明涉及一種監(jiān)視人的生物體信息的生物體信息處理裝置和生物體信息處理方法。
背景技術(shù):
關(guān)于估計人的生物體信息的生命感測技術(shù),例如期待其不局限于家庭護理、健康管理的領(lǐng)域,而應(yīng)用到駕駛中的睡意探測、游戲中的用戶的心理狀態(tài)的獲取、利用監(jiān)視系統(tǒng)進行的異常者探測等各個領(lǐng)域。當(dāng)前,關(guān)于感測生物體信息的設(shè)備,以與人的身體接觸的方式使用的類型是主流,需要用戶自身進行佩帶,因此應(yīng)用范圍受限。
因此,作為用于以非接觸的方式進行感測的構(gòu)造之一,提出了一種根據(jù)利用照相機拍攝得到的圖像來估計作為生物體信息的一例的脈搏數(shù)的技術(shù)。通過使用該技術(shù),能夠不使用戶自身意識到生物體信息的感測地來對生物體信息進行感測,從而能夠期待應(yīng)用范圍的擴大。例如,能夠一邊利用監(jiān)視照相機進行拍攝,一邊探測由于壓力而脈搏變動變大的可疑人物。另外,能夠同時感測一個照相機所拍攝到的多個人,這也是顯著的優(yōu)點。與接觸型構(gòu)造相比,無需針對每個用戶準(zhǔn)備單獨的設(shè)備,還能夠減少佩帶于身體的麻煩感。
在此,作為觀察(監(jiān)視)人的生物體狀態(tài)的現(xiàn)有技術(shù),例如已知一種專利文獻1所示的生物體狀態(tài)觀察系統(tǒng)。該生物體狀態(tài)觀察系統(tǒng)被輸入由在時間上連續(xù)的多個幀構(gòu)成的至少包含一個被觀察者的圖像,檢測圖像內(nèi)的規(guī)定的區(qū)域并輸出規(guī)定的區(qū)域的信息,從圖像內(nèi)的規(guī)定的區(qū)域檢測圖像內(nèi)所包含的被觀察者的生物體信息,將用于判定生物體狀態(tài)的異常的規(guī)定的生物體參數(shù)與生物體信息的數(shù)據(jù)進行比較或者將該生物體參數(shù)與該數(shù)據(jù)的變化進行比較,來檢測被觀察者的生物體狀態(tài)中發(fā)生的異常。由此,生物體狀態(tài)觀察系統(tǒng)不會使被觀察者感到不舒服、不適,而能夠進行被觀察者的生物體信息的觀察和生物體狀態(tài)的異常的檢測。在專利文獻1中,進行比較時使用的生物體參數(shù)是規(guī)定的固定值或者經(jīng)由網(wǎng)絡(luò)而更新的值,在觀察被觀察者的生物體信息時,使用該生物體參數(shù)的值來決定存在異常的被觀察者(被檢者、生物體信息處理對象)。
另外,作為與使用照相機的脈搏估計技術(shù)有關(guān)的現(xiàn)有技術(shù),例如已知一種專利文獻2所示的脈搏計測裝置。該脈搏計測裝置計算所拍攝到的輸入圖像的特征量,根據(jù)所計算出的特征量來檢測脈搏波的峰間隔,根據(jù)所檢測出的脈搏波的峰間隔來計算脈搏數(shù)。另外,脈搏計測裝置對表示每單位時間拍攝的幀數(shù)的幀率進行控制,使得真實的脈搏數(shù)與計算出的脈搏數(shù)中的具有基于采用率的有效的峰間隔的脈搏數(shù)之間的估計最大誤差為規(guī)定值以下,該采用率表示有效的峰間隔的比例。
專利文獻1:日本特開2014-36801號公報
專利文獻2:日本特開2010-51592號公報
技術(shù)實現(xiàn)要素:
本公開的目的在于,即使在周邊環(huán)境發(fā)生了變化的情況下,也能隨著周邊環(huán)境的變化從多個被檢者(處理對象)之中實時且準(zhǔn)確地探測可能存在異常的被檢者或者成為需要注意的對象的被檢者的脈搏數(shù)。
基于本公開的生物體信息處理裝置具有輸入圖像數(shù)據(jù)的圖像輸入部、選擇部、估計部、探測部以及輸出部。選擇部從由圖像輸入部輸入的圖像數(shù)據(jù)中選擇處理對象的圖像范圍。估計部基于所選擇出的處理對象的圖像范圍的圖像數(shù)據(jù),來估計與圖像范圍對應(yīng)的處理對象的脈搏數(shù)。探測部根據(jù)所估計出的處理對象的脈搏數(shù)的相對比較,來探測可能存在異常的對象或者成為需要注意的對象的對象。輸出部輸出與所探測出的可能存在異常的對象或者需要注意的對象有關(guān)的信息。
另外,本公開是上述生物體信息處理裝置中的生物體信息處理方法。該方法具有以下的步驟。輸入圖像數(shù)據(jù)的步驟。從所輸入的圖像數(shù)據(jù)中選擇處理對象的圖像范圍的步驟?;谒x擇出的處理對象的圖像范圍的圖像數(shù)據(jù)來估計與相同的圖像范圍對應(yīng)的處理對象的脈搏數(shù)的步驟。根據(jù)所估計出的處理對象的脈搏數(shù)的相對比較來探測可能存在異常的對象或者需要注意的對象的步驟。輸出與所探測出的可能存在異常的對象或者需要注意的對象有關(guān)的信息的步驟。
根據(jù)本公開,即使在周邊環(huán)境發(fā)生了變化的情況下,也能夠隨著周邊環(huán)境的變化從多個被檢者中實時且準(zhǔn)確地探測可能存在異常的被檢者或者成為需要注意的對象的被檢者的脈搏數(shù)。
附圖說明
圖1a是示意性地表示人的心臟的收縮與血管中的光的吸收量之間的關(guān)系的一例的圖。
圖1b是表示光的強度的時間序列變化的一例的圖。
圖2是表示血紅蛋白的光的每波長的吸收率的一例的圖。
圖3是表示第一實施方式的生物體信息處理裝置的內(nèi)部結(jié)構(gòu)的一例的框圖。
圖4a是表示從照相機輸入的多個被檢者的拍攝圖像的一例的圖。
圖4b是表示利用被檢者區(qū)域選擇部切出的每個被檢者的指定范圍的一例的圖。
圖4c是表示每個被檢者的脈搏數(shù)的提取結(jié)果的一例的圖。
圖5是表示各實施方式的生物體信息處理裝置的使用例的圖。
圖6是說明第一實施方式的生物體信息處理裝置的動作過程的一例的流程圖。
圖7是表示第二實施方式的生物體信息處理裝置的內(nèi)部結(jié)構(gòu)的一例的框圖。
圖8a是表示從照相機輸入的多個被檢者的拍攝圖像的一例的圖。
圖8b是表示利用被檢者區(qū)域選擇部切出的每個被檢者的指定范圍的一例的圖。
圖8c是表示每個被檢者的脈搏數(shù)的提取結(jié)果的一例的圖。
圖9是說明第二實施方式的生物體信息處理裝置的動作過程的一例的流程圖。
圖10a是表示第三實施方式的生物體信息處理裝置的內(nèi)部結(jié)構(gòu)的一例的框圖。
圖10b是示意性地表示各實施方式的生物體信息處理裝置的動作概要的一例的圖。
圖11是表示以往的使用照相機的脈搏計算方法的一例的圖。
圖12是圖11所示的脈搏計算方法中的問題的說明圖。
圖13是表示第三實施方式的生物體信息處理裝置的脈搏計算方法的一例的圖。
圖14是表示各估計模塊部內(nèi)的波形檢定部的動作例的說明圖。
圖15是說明第三實施方式的生物體信息處理裝置的動作過程的一例的流程圖。
圖16是表示第四實施方式的生物體信息處理裝置的內(nèi)部結(jié)構(gòu)的一例的框圖。
圖17是一個周期的觀測波形的峰偏離了采樣位置的情況下的問題的說明圖。
圖18是表示各估計模塊部的插值部的動作的第一例的說明圖。
圖19是表示各估計模塊部的插值部的動作的第二例的說明圖。
圖20是表示各估計模塊部的插值部的動作的第三例的說明圖。
圖21是說明第四實施方式的生物體信息處理裝置的動作過程的一例的流程圖。
具體實施方式
首先,參照圖1a和圖1b來說明各實施方式的生物體信息處理裝置中的脈搏數(shù)的估計原理。圖1a是示意性地表示人的心臟的收縮與血管中的光的吸收量之間的關(guān)系的一例的圖。圖1b是表示光的強度的時間序列變化的一例的圖。
在圖1a中示出了血管的容積與人的心臟的收縮(systole)同步地變化的情況。當(dāng)血管的容積相應(yīng)于心臟的收縮而增大時,光(例如圖2所示的特定波長區(qū)域的光)的吸收量增大,因此光的強度(lightintensity)也減少(參照圖1b)。此外,在以下的說明中,脈搏波表示血液由于心臟的收縮而被推送到大動脈時所發(fā)生的血管內(nèi)的壓力變化向末梢方向傳遞時的波的運動。
在圖1b中,橫軸表示時間,縱軸表示通過光的吸收量的變化而獲得的信號(光電脈搏波)的強度。也就是說,在圖1b中,在出現(xiàn)峰時光的吸收量少,因此為血管的容積未增大的狀態(tài),在出現(xiàn)最小值時光的吸收量多,因此為血管的容積增大了的狀態(tài)。此外,由于心臟與末梢部分的距離,未完全同步而出現(xiàn)些許延遲,但心臟的收縮與光電脈搏波的強度的變化基本上是同步地變動的。
圖2是表示血紅蛋白的光的每波長的吸收率的一例的圖。在圖2中,例如示出了血紅蛋白(血液)容易吸收400nm的波長(也就是說綠色)的情況。此外,在以下的各實施方式中,利用綠色的光的成分的吸收率高的情況進行說明,但除此以外,例如也可以利用紅色的光(例如超過1000nm的波長)的成分的反射率高的情況進行說明。
(第一實施方式)
以下,參照圖3來說明第一實施方式的生物體信息處理裝置的結(jié)構(gòu)。圖3是表示第一實施方式的生物體信息處理裝置10的內(nèi)部結(jié)構(gòu)的一例的框圖。圖3所示的生物體信息處理裝置10構(gòu)成為包括照相機cm、圖像輸入部1、被檢者區(qū)域選擇部2(區(qū)域選擇部)、被檢者生物體信息提取部3(提取部)、異常探測部4、閾值保持更新部5、異常通知輸出部6以及監(jiān)視器7。此外,生物體信息處理裝置10也可以構(gòu)成為還包括異常通知獲取裝置ap1、…、apk(參照后文)。
照相機cm以規(guī)定的幀率(例如10fps:framepersecond,幀每秒)拍攝作為估計對象物的n個被檢者并輸出到圖像輸入部1。此外,照相機cm也可以不設(shè)置在生物體信息處理裝置10的內(nèi)部,例如也可以經(jīng)由網(wǎng)絡(luò)而與生物體信息處理裝置10連接。網(wǎng)絡(luò)是將無線網(wǎng)絡(luò)或者有線網(wǎng)絡(luò)作為接口來進行連接的因特網(wǎng)或者內(nèi)部網(wǎng)。無線網(wǎng)絡(luò)例如是無線lan(localareanetwork,局域網(wǎng))、無線wan(wideareanetwork,廣域網(wǎng))、3g、lte(longtermevolution,長期演進)或者wigig(wirelessgigabit,無線千兆比特)。有線網(wǎng)絡(luò)例如是ieee802.3或者以太網(wǎng)(ethernet(注冊商標(biāo)))。
圖像輸入部1從照相機cm連續(xù)地輸入(獲取)利用照相機cm以規(guī)定的幀率拍攝人而得到的圖像數(shù)據(jù)的幀,并向被檢者區(qū)域選擇部2輸出所述圖像數(shù)據(jù)的幀。此外,在照相機cm和生物體信息處理裝置10相獨立地構(gòu)成的情況下,圖像輸入部1連續(xù)地接收從照相機cm發(fā)送的圖像數(shù)據(jù)的幀。
作為選擇部的一例的被檢者區(qū)域選擇部2在由圖像輸入部1輸入的圖像數(shù)據(jù)的各幀(參照圖4a)內(nèi)選擇并切出包含多個被檢者(例如設(shè)為a先生/女士、b先生/女士、c先生/女士這三個人。以下相同。)中的各個被檢者的圖像范圍、即指定范圍rn1、rn2、rn3(參照圖4b),將a先生/女士的指定范圍rn1、b先生/女士的指定范圍rn2、c先生/女士的指定范圍rn3中的各圖像數(shù)據(jù)輸出到被檢者生物體信息提取部3。
圖4a是表示從照相機cm輸入的多個被檢者的拍攝圖像im1的一例的圖。圖4b是表示由被檢者區(qū)域選擇部2切出的每個被檢者的指定范圍的一例的圖。例如在作為多個被檢者的a先生/女士、b先生/女士、c先生/女士這三個人被照相機cm拍攝的情況下,被檢者區(qū)域選擇部2例如對拍攝圖像im1的數(shù)據(jù)進行作為公知技術(shù)的人臉檢測處理,由此分別檢測出a先生/女士的指定范圍rn1、b先生/女士的指定范圍rn2、c先生/女士的指定范圍rn3,選擇并切出檢測結(jié)果(a先生/女士的指定范圍rn1,b先生/女士的指定范圍rn2,c先生/女士的指定范圍rn3中的各圖像數(shù)據(jù))。
作為估計部的一例的被檢者生物體信息提取部3基于從被檢者區(qū)域選擇部2輸出的各個包含被檢者的圖像范圍、即指定范圍rn1、rn2、rn3各自的圖像數(shù)據(jù),來估計與指定范圍rn1、rn2、rn3分別對應(yīng)的作為被檢者(a先生/女士、b先生/女士、c先生/女士)的生物體信息的一例的脈搏數(shù)。被檢者生物體信息提取部3將與估計結(jié)果、即a先生/女士、b先生/女士、c先生/女士各自的脈搏數(shù)有關(guān)的信息輸出到異常探測部4。被檢者生物體信息提取部3中的脈搏數(shù)的估計方法是公知技術(shù),因此省略詳細的說明。
作為脈搏數(shù)的估計方法的一例,被檢者生物體信息提取部3基于與由被檢者區(qū)域選擇部2切出的指定范圍rn1對應(yīng)的a先生/女士的圖像數(shù)據(jù)的多個幀內(nèi)的膚色部分的像素值的至少一個周期的信號,來提取與一個周期相當(dāng)?shù)臅r間(脈搏波間隔,pwi:pulsewaveinterval),使用所提取出的該pwi和數(shù)式(1)來推算a先生/女士的脈搏數(shù)(pulserate,脈率)。相同地,被檢者生物體信息提取部3基于與由被檢者區(qū)域選擇部2切出的指定范圍rn2、rn3對應(yīng)的b先生/女士、c先生/女士的各圖像數(shù)據(jù)的多個幀內(nèi)的膚色部分的像素值的至少一個周期的信號,來提取與一個周期相當(dāng)?shù)臅r間(脈搏波間隔,pwi),使用所提取出的該pwi和數(shù)式(1)分別推算b先生/女士、c先生/女士的脈搏數(shù)。
[式1]
pulserate=60/pwi...(1)
作為探測部的一例的異常探測部4對從被檢者生物體信息提取部3輸出的多個被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的推算結(jié)果(估計結(jié)果)進行相對比較(例如最大值檢索),來探測可能存在異常的被檢者或者成為需要注意的對象的被檢者,并將探測結(jié)果輸出到異常通知輸出部6。另外,異常探測部4將進行相對比較時獲得的閾值保存到閾值保持更新部5中。此外,本實施方式中所述的閾值是指在確定作為脈搏數(shù)的估計對象的多個被檢者(例如a先生/女士、b先生/女士、c先生/女士)中的可能存在異常的被檢者或者成為需要注意的對象的被檢者時使用的脈搏數(shù)的判定值(最大值)。因而,在本實施方式中,獲得了小于閾值的的脈搏數(shù)的被檢者不被探測為可能存在異常的被檢者、成為需要注意的對象的被檢者。
首先,異常探測部4在將從被檢者生物體信息提取部3輸出的多個被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的推算結(jié)果(估計結(jié)果)中的a先生/女士的脈搏數(shù)作為閾值的初始值保存到閾值保持更新部5,之后對脈搏數(shù)的推算結(jié)果按順序進行比較。
具體地說,異常探測部4對a先生/女士的脈搏數(shù)與b先生/女士的脈搏數(shù)進行相對比較,由此在b先生/女士的脈搏數(shù)比a先生/女士的脈搏數(shù)大的情況下(參照圖4c),將b先生/女士的脈搏數(shù)選擇為閾值,將閾值保持更新部5的閾值更新為b先生/女士的脈搏數(shù)。接著,異常探測部4對b先生/女士的脈搏數(shù)與c先生/女士的脈搏數(shù)進行相對比較,由此在c先生/女士的脈搏數(shù)比b先生/女士的脈搏數(shù)大的情況下(參照圖4c),將c先生/女士的脈搏數(shù)選擇為閾值,將閾值保持更新部5的閾值更新為c先生/女士的脈搏數(shù)。
并且,異常探測部4進行c先生/女士的脈搏數(shù)與a先生/女士的脈搏數(shù)的相對比較,由此在a先生/女士的脈搏數(shù)比c先生/女士的脈搏數(shù)大的情況下,將a先生/女士的脈搏數(shù)選擇為閾值,將閾值保持更新部5的閾值更新為a先生/女士的脈搏數(shù),但在c先生/女士的脈搏數(shù)比a先生/女士的脈搏數(shù)大的情況下(參照圖4c),將c先生/女士的脈搏數(shù)作為閾值保持到閾值保持更新部5。圖4c是表示每個被檢者的脈搏數(shù)的提取結(jié)果的一例的圖。在圖4c所示的例子中,c先生/女士的脈搏數(shù)比其他兩個人(a先生/女士、b先生/女士)的脈搏數(shù)高,因此異常探測部4將與選擇為閾值的脈搏數(shù)對應(yīng)的c先生/女士探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者。
閾值保持更新部5例如是使用ram(randomaccessmemory,隨機存取存儲器)、半導(dǎo)體存儲器、hdd(harddiskdrive,硬盤驅(qū)動器)或者ssd(solidstatedrive,固態(tài)硬盤)構(gòu)成的,將表示由異常探測部4選擇出并被保持的脈搏數(shù)或者更新后的脈搏數(shù)的值保存為閾值。
異常通知輸出部6基于從異常探測部4輸出的探測結(jié)果,向監(jiān)視器7輸出與可能存在異常的被檢者或者成為需要注意的對象的被檢者有關(guān)的信息。
作為輸出方式,例如在生物體信息處理裝置10具有監(jiān)視器7的情況下,異常通知輸出部6將與可能存在異常的被檢者或者成為需要注意的對象的被檢者有關(guān)的信息以能夠識別的方式顯示在監(jiān)視器7上(參照圖5)。圖5是表示各實施方式的生物體信息處理裝置10或者圖7所示的生物體信息處理裝置10a的使用例的圖。此外,作為能夠識別的顯示例,異常通知輸出部6例如在監(jiān)視器7上的相應(yīng)的被檢者p1的周圍顯示標(biāo)記(例如感嘆號、感嘆符),該標(biāo)記表示是可能存在異常的被檢者或者成為需要注意的對象的被檢者。
在圖5中,例如在本實施方式的生物體信息處理裝置10設(shè)置于店鋪的情況下,利用監(jiān)視照相機(照相機cm)來拍攝店鋪內(nèi)的被檢者(購物者)。而且,以非接觸的方式估計四個被檢者p11、p12、p13、p14的脈搏數(shù)。在設(shè)置于監(jiān)視室(例如店鋪的后院)的監(jiān)視器7上,分別顯示估計結(jié)果的脈搏數(shù)、表示存在可能存在異常的被檢者或者成為需要注意的對象的被檢者的標(biāo)記。由此,店鋪的負責(zé)人mr(例如店鋪的店長)能夠確認(rèn)店鋪內(nèi)存在可能存在異常的被檢者(購物者)或者成為需要注意的對象的被檢者(購物者)。
另外,作為其它的輸出方式,也可以是,例如在生物體信息處理裝置10具有揚聲器(未圖示)的情況下,異常通知輸出部6從揚聲器輸出與可能存在異常的被檢者或者成為需要注意的對象的被檢者有關(guān)的信息的聲音。由此,店鋪的負責(zé)人mr(例如店鋪的店長)無需用眼睛看監(jiān)視器7,僅通過來自揚聲器的聲音就能夠簡單地確認(rèn)店鋪內(nèi)存在可能存在異常的被檢者(購物者)或者成為需要注意的對象的被檢者(購物者)。
監(jiān)視器7例如是使用lcd(liquidcrystaldisplay,液晶顯示器)或者有機el(electroluminescence,電致發(fā)光)構(gòu)成的顯示器,顯示由照相機cm拍攝到的圖像數(shù)據(jù),并且,基于根據(jù)需要從異常通知輸出部6輸出的與相應(yīng)的被檢者有關(guān)的信息,在相應(yīng)的被檢者的周圍顯示標(biāo)記,該標(biāo)記表示可能存在異常的被檢者或者成為需要注意的對象的被檢者。例如在生物體信息處理裝置10設(shè)置在店鋪內(nèi)的情況下,優(yōu)選將監(jiān)視器7設(shè)置于監(jiān)視室(店鋪的后院)。
異常通知獲取裝置ap1、…、apk(k:1以上的整數(shù))被設(shè)置為來自異常通知輸出部6的與可能存在異常的被檢者或者成為需要注意的對象的被檢者有關(guān)的信息的除了監(jiān)視器7以外的輸出目的地,例如支援處于監(jiān)視室的店鋪的負責(zé)人(例如店鋪的店長)對監(jiān)視器7的監(jiān)視作業(yè)。異常通知獲取裝置ap1~apk例如是具有使用bluetooth(注冊商標(biāo))的無線通信功能和振動功能的手環(huán)、具有無線通信功能的頭戴式顯示器、例如設(shè)置在店鋪內(nèi)的照明裝置、聲音輸出裝置中的任一個或者多個的組合。
例如,若異常通知獲取裝置ap1~apk是具有無線通信功能和振動功能的手環(huán)、且店鋪內(nèi)的各店員佩帶有各異常通知獲取裝置ap1~apk(k為1以上的整數(shù)),則各異常通知獲取裝置ap1~apk能夠根據(jù)來自異常通知輸出部6的輸出使振動功能工作,來對店員通知存在可能存在異常的被檢者或者成為需要注意的對象的被檢者。由此,例如離監(jiān)視室最近的店員通過參照監(jiān)視器7上所顯示的標(biāo)記,能夠保護相應(yīng)的被檢者、或者監(jiān)視被檢者是否會進行可疑的行為。
另外,例如若異常通知獲取裝置ap1~apk是具有無線通信功能的頭戴式顯示器、且同樣地店鋪內(nèi)的各店員佩帶有各異常通知獲取裝置ap1~apk(k為1以上的整數(shù)),則各異常通知獲取裝置ap1~apk能夠根據(jù)來自異常通知輸出部6的輸出在頭戴式顯示器上對店員通知存在可能存在異常的被檢者或者成為需要注意的對象的被檢者。由此,無需確認(rèn)監(jiān)視器7上顯示的標(biāo)記,例如離該被檢者最近的店員就能夠保護相應(yīng)的被檢者、或者監(jiān)視被檢者是否會進行可疑的行為。
另外,例如在異常通知獲取裝置ap1~apk是設(shè)置在店鋪內(nèi)的照明裝置(例如led:lightemittingdiode,發(fā)光二極管)或者聲音輸出裝置(例如揚聲器)的情況下,各異常通知獲取裝置ap1~apk能夠根據(jù)來自異常通知輸出部6的輸出,利用除店長、店員以外的人(例如購物者)很難注意到的照明模式或者聲音的變化來對店員通知存在可能存在異常的被檢者或者成為需要注意的對象的被檢者。由此,無需確認(rèn)監(jiān)視器7上顯示的標(biāo)記,例如離相應(yīng)的被檢者最近的店員就能夠在與照明模式、聲音相應(yīng)的店鋪內(nèi)的對象位置保護相應(yīng)的被檢者、或者監(jiān)視被檢者是否會進行可疑的行為。
接著,參照圖6來說明本實施方式的生物體信息處理裝置10的動作過程的一例。圖6是說明第一實施方式的生物體信息處理裝置10的動作過程的一例的流程圖。
在圖6中,圖像輸入部1從照相機cm連續(xù)地輸入(獲取)利用照相機cm以規(guī)定的幀率拍攝人而得到的圖像數(shù)據(jù)的幀,并向被檢者區(qū)域選擇部2輸出所述圖像數(shù)據(jù)的幀(st1)。被檢者區(qū)域選擇部2在由圖像輸入部1輸入的圖像數(shù)據(jù)的各幀(參照圖4a)內(nèi),選擇并切出包含多個被檢者(a先生/女士、b先生/女士、c先生/女士)中的各個被檢者的圖像范圍、即指定范圍rn1、rn2、rn3(圖4b參照)(st2)。被檢者區(qū)域選擇部2將a先生/女士的指定范圍rn1、b先生/女士的指定范圍rn2、c先生/女士的指定范圍rn3各自中的圖像數(shù)據(jù)輸出到被檢者生物體信息提取部3。
被檢者生物體信息提取部3基于從被檢者區(qū)域選擇部2輸出的各個包含被檢者的圖像范圍即指定范圍rn1、rn2、rn3的各圖像數(shù)據(jù),來估計與各指定范圍rn1、rn2、rn3對應(yīng)的被檢者(a先生/女士、b先生/女士、c先生/女士)的作為生物體信息的一例的脈搏數(shù)(st3)。被檢者生物體信息提取部3將與估計結(jié)果即a先生/女士、b先生/女士、c先生/女士各自的脈搏數(shù)有關(guān)的信息輸出到異常探測部4。在被檢者生物體信息提取部3推算出全部的被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)之前(st4,“否”)重復(fù)進行步驟st2和步驟st3的處理。
另一方面,在被檢者生物體信息提取部3推算出全部的被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的情況下(st4,“是”),異常探測部4對從被檢者生物體信息提取部3輸出的多個被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的推算結(jié)果(估計結(jié)果)進行相對比較(例如最大值檢索)(st5),來探測可能存在異常的被檢者或者成為需要注意的對象的被檢者,將探測結(jié)果輸出到異常通知輸出部6。另外,異常探測部4將進行相對比較時獲得的閾值保存到閾值保持更新部5。
異常通知輸出部6基于從異常探測部4輸出的探測結(jié)果,例如將與全部的被檢者之中脈搏數(shù)最高的被檢者有關(guān)的信息作為與可能存在異常的被檢者或者成為需要注意的對象的被檢者有關(guān)的信息輸出到監(jiān)視器7(st6)。異常通知輸出部6例如在監(jiān)視器7上的相應(yīng)的被檢者p1的周圍顯示標(biāo)記(例如感嘆號),該標(biāo)記表示是可能存在異常的被檢者或者成為需要注意的對象的被檢者。
根據(jù)以上說明,本實施方式的生物體信息處理裝置10從拍攝n個被檢者(例如a先生/女士、b先生/女士、c先生/女士)而得到的圖像數(shù)據(jù)中選擇各個被檢者的圖像范圍即指定范圍rn1、rn2、rn3,基于所選擇出的各個被檢者的圖像范圍即指定范圍rn1、rn2、rn3的圖像數(shù)據(jù),來估計與圖像范圍對應(yīng)的被檢者的脈搏數(shù)。生物體信息處理裝置10根據(jù)所估計出的n個被檢者全部的脈搏數(shù)的相對比較,來探測可能存在異常的被檢者或者成為需要注意的對象的被檢者,輸出與探測結(jié)果對應(yīng)的與被檢者有關(guān)的信息。
在估計被檢者的生物體信息(例如脈搏數(shù))時發(fā)生了周邊環(huán)境的變化(例如室溫、氣溫的變動)的情況下,脈搏數(shù)也相應(yīng)于室溫、氣溫的上升而上升。生物體信息處理裝置10通過上述的處理,對全部的被檢者進行各個被檢者的脈搏數(shù)的估計結(jié)果的相對比較來探測脈搏數(shù)的值比其他的被檢者的脈搏數(shù)的值高(引人注目)的被檢者。因此,相比于估計脈搏數(shù)時使用固定的閾值的技術(shù),生物體信息處理裝置10能夠隨著周邊環(huán)境的變化從多個被檢者中實時且準(zhǔn)確地探測可能存在異常的被檢者或者成為需要注意的對象的被檢者的脈搏數(shù)。
另外,生物體信息處理裝置10對估計出的n個被檢者的脈搏數(shù)按順序進行比較,將與最高的脈搏數(shù)對應(yīng)的被檢者探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者,因此,作為相對比較的結(jié)果,能夠?qū)⒚}搏數(shù)比其他的被檢者的脈搏數(shù)高而引人注目的被檢者探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者。
另外,生物體信息處理裝置10能夠?qū)⒐烙嫵龅膎個被檢者的脈搏數(shù)中的最高的脈搏數(shù)更新為閾值并進行保持,因此與使用固定的閾值的技術(shù)相比,例如在定期地估計多個被檢者的脈搏數(shù)時,通過使用作為前次的估計時更新的最大值的閾值,能夠隨著周邊環(huán)境的變化來探測具有可能存在異常的被檢者或者成為需要注意的對象的被檢者的脈搏數(shù)的被檢者。
(第二實施方式)
圖7是表示第二實施方式的生物體信息處理裝置10a的內(nèi)部結(jié)構(gòu)的一例的框圖。在圖7所示的生物體信息處理裝置10a中,對與圖3所示的生物體信息處理裝置10的各部相同的結(jié)構(gòu)使用相同的標(biāo)記來簡化或省略說明,對不同的內(nèi)容進行說明。
圖7所示的生物體信息處理裝置10a構(gòu)成為包括照相機cm、圖像輸入部1、被檢者區(qū)域選擇部2、被檢者生物體信息提取部3、異常探測部4a、閾值保持更新部5a、異常通知輸出部6以及監(jiān)視器7。此外,生物體信息處理裝置10a也可以與第一實施方式相同地構(gòu)成為還包括異常通知獲取裝置ap1、…、apk。在本實施方式的說明中,異常通知獲取裝置ap1、…、apk的結(jié)構(gòu)與第一實施方式相同,因此省略說明。
作為探測部的一例的異常探測部4a對從被檢者生物體信息提取部3輸出的多個被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的推算結(jié)果(估計結(jié)果)進行相對比較(例如平均值推算),來探測可能存在異常的被檢者或者成為需要注意的對象的被檢者,將探測結(jié)果輸出到異常通知輸出部6。另外,異常探測部4a將在進行相對比較時得到的閾值(平均值)保存到閾值保持更新部5a。此外,本實施方式中所述的閾值是在確定作為脈搏數(shù)的估計對象的多個被檢者(例如a先生/女士、b先生/女士、c先生/女士)中的可能存在異常的被檢者或者成為需要注意的對象的被檢者時使用的脈搏數(shù)的判定值(平均值)。因而,在本實施方式中,獲得的脈搏數(shù)小于閾值的被檢者不被探測為可能存在異常的被檢者、成為需要注意的對象的被檢者。
首先,異常探測部4a推算從被檢者生物體信息提取部3輸出的多個被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的推算結(jié)果(估計結(jié)果)的平均值,將預(yù)先保存在閾值保持更新部5a中的閾值的初始值更新為推算出的平均值。
異常探測部4a對a先生/女士、b先生/女士、c先生/女士各自的脈搏數(shù)與閾值(平均值)進行相對比較。a先生/女士的脈搏數(shù)和c先生/女士的脈搏數(shù)均小于平均值(參照圖8c),因此,作為可能存在異常的被檢者、成為需要注意的對象的被檢者,將a先生/女士和c先生/女士排除。并且,異常探測部4a將脈搏數(shù)超過圖8c所示的平均值的b先生/女士探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者。圖8c是表示每個被檢者的脈搏數(shù)的提取結(jié)果的一例的圖。在圖8c所示的例子中,b先生/女士的脈搏數(shù)比其他二人(a先生/女士、b先生/女士)的脈搏數(shù)高且超過閾值,因此異常探測部4a將脈搏數(shù)超過閾值的b先生/女士探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者。此外,圖8a及圖8b所示的各圖與圖4a及圖4b所示的各圖相同,因此省略說明。
閾值保持更新部5a例如是使用ram、半導(dǎo)體存儲器、hdd或者ssd構(gòu)成的,將由異常探測部4a推算出的各被檢者的脈搏數(shù)的平均值保存為閾值。
接著,參照圖9來說明本實施方式的生物體信息處理裝置10a的動作過程的一例。圖9是說明第二實施方式的生物體信息處理裝置10a的動作過程的一例的流程圖。在圖9的說明中,關(guān)于與圖6的說明相同的說明,標(biāo)注相同的步驟編號來簡化或省略說明,對不同的內(nèi)容進行說明。
在圖9中,在被檢者生物體信息提取部3推算出全部的被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的情況下(st4,“是”),異常探測部4a推算從被檢者生物體信息提取部3輸出的多個被檢者(a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的推算結(jié)果(估計結(jié)果)的平均值(st5a),將預(yù)先保存在閾值保持更新部5a中的閾值的初始值更新為推算出的平均值(st7)。
并且,異常探測部4a使用在步驟st5a中推算出的閾值(平均值)來對a先生/女士、b先生/女士、c先生/女士的各脈搏數(shù)進行相對比較,a先生/女士的脈搏數(shù)和c先生/女士的脈搏數(shù)均小于平均值(參照圖8c),因此,作為可能存在異常的被檢者、成為需要注意的對象的被檢者,將a先生/女士和c先生/女士排除。并且,異常探測部4a將脈搏數(shù)超過圖8c所示的平均值的b先生/女士探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者(st6a),將探測結(jié)果輸出到異常通知輸出部6。
異常通知輸出部6基于從異常探測部4a輸出的探測結(jié)果,例如將與全部的被檢者中脈搏數(shù)超過作為閾值的平均值的少于n人的至少一個被檢者(例如b先生/女士,參照圖8c)有關(guān)的信息作為與可能存在異常的被檢者或者成為需要注意的對象的被檢者有關(guān)的信息輸出到監(jiān)視器7(st6a)。
根據(jù)以上說明,本實施方式的生物體信息處理裝置10a對估計出的n個被檢者(例如a先生/女士、b先生/女士、c先生/女士)的脈搏數(shù)的平均值進行推算,將與比這些脈搏數(shù)的平均值高的脈搏數(shù)對應(yīng)的少于n個被檢者(例如b先生/女士,參照圖8c)探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者。因此,作為相對比較的結(jié)果,生物體信息處理裝置10a能夠?qū)⒚}搏數(shù)比成為估計對象的全部n個被檢者的脈搏數(shù)的平均值高的被檢者探測為可能存在異常的被檢者或者成為需要注意的對象的被檢者。
另外,生物體信息處理裝置10a能夠?qū)⒐烙嫵龅膎個被檢者的脈搏數(shù)的平均值更新為閾值并進行保持,因此與使用固定的閾值的技術(shù)相比,例如在定期地估計多個被檢者的脈搏數(shù)時,通過使用作為前次的估計時更新的平均值的閾值,能夠隨著周邊環(huán)境的變化來探測具有可能存在異常的被檢者或者成為需要注意的對象的被檢者的脈搏數(shù)的被檢者。
如以上那樣,基于第一實施方式、第二實施方式的生物體信息處理裝置例如不使用接觸式的專用的脈搏數(shù)測定器,而使用拍攝對象物(例如被檢者、處理對象。此外,對象物也可以不是人而是其它的動物。以下相同。)所得到的圖像數(shù)據(jù)以非接觸的方式估計作為生物體信息的一例的被檢者的脈搏數(shù),基于所估計出的被檢者的脈搏數(shù)來探測可能存在異常的被檢者或者成為需要注意的對象的被檢者并輸出。
更具體地說,各實施方式的生物體信息處理裝置輸入拍攝n(n:2以上的整數(shù))個被檢者而得到的圖像數(shù)據(jù)。從所輸入的圖像數(shù)據(jù)中選擇各個被檢者的圖像范圍,基于所選擇出的各個被檢者的圖像范圍的圖像數(shù)據(jù),來估計與圖像范圍對應(yīng)的被檢者的脈搏數(shù)。另外,生物體信息處理裝置根據(jù)所估計出的n個被檢者的脈搏數(shù)的相對比較,來探測可能存在異常的被檢者或者成為需要注意的對象的被檢者,輸出關(guān)于與該探測結(jié)果對應(yīng)的被檢者的信息。
各實施方式的生物體信息處理裝置例如是臺式或者膝上型的pc(personalcomputer,個人計算機)、智能手機、移動電話機、平板終端、pda(personaldigitalassistant,個人數(shù)字助理)等數(shù)據(jù)通信終端,也可以具有用于拍攝作為對象物的一例的人的照相機功能。
(第三實施方式)
以下,說明第三實施方式的生物體信息處理裝置的結(jié)構(gòu)。圖10a是表示第三實施方式的生物體信息處理裝置100的內(nèi)部結(jié)構(gòu)的一例的框圖。圖10b是示意性地表示本實施方式和后述的第四實施方式的生物體信息處理裝置100、100a(圖16)的動作概要的一例的圖。
圖10a所示的生物體信息處理裝置100構(gòu)成為包括照相機cm、圖像輸入部11、膚色提取部12、多個(例如三個)濾波部f1、f2、f3、多個(例如三個)估計模塊部m1、m2、m3、信賴度判定部15、選擇器16以及脈搏輸出部17。估計模塊部m1與濾波部f1相對應(yīng)地設(shè)置,估計模塊部m2與濾波部f2相對應(yīng)地設(shè)置,估計模塊部m3與濾波部f3相對應(yīng)地設(shè)置。
照相機cm以規(guī)定的幀率(例如10fps:framepersecond,幀每秒)拍攝作為對象物的人并輸出到圖像輸入部11。此外,照相機cm也可以不設(shè)置在生物體信息處理裝置100的內(nèi)部,例如也可以經(jīng)由網(wǎng)絡(luò)而與生物體信息處理裝置100連接。網(wǎng)絡(luò)是將無線網(wǎng)絡(luò)或者有線網(wǎng)絡(luò)作為接口進行連接的因特網(wǎng)或者內(nèi)部網(wǎng)。無線網(wǎng)絡(luò)例如是無線lan(localareanetwork,局域網(wǎng))、無線wan(wideareanetwork,廣域網(wǎng))、3g、lte(longtermevolution,長期演進)或者wigig(wirelessgigabit,無線千兆比特)。有線網(wǎng)絡(luò)例如是ieee802.3或者以太網(wǎng)(ethernet(注冊商標(biāo)))。
圖像輸入部11從照相機cm連續(xù)地輸入(獲取)利用照相機cm以規(guī)定的幀率拍攝人所得到的圖像數(shù)據(jù)的幀,并11向膚色提取部12輸出所述圖像數(shù)據(jù)的幀。此外,在照相機cm和生物體信息處理裝置100相獨立地構(gòu)成的情況下,圖像輸入部11連續(xù)地接收從照相機cm發(fā)送的圖像數(shù)據(jù)的幀。
作為提取部的一例的膚色提取部12使用至少一個周期(周期已知)的幀數(shù)來提取由圖像輸入部11輸入的圖像數(shù)據(jù)的各幀內(nèi)的規(guī)定范圍(例如圖10b所示的膚色區(qū)域fl1)的信號(例如像素值、亮度值)。在此,由膚色提取部12提取出的時間序列的信號例如是包含圖10b所示的人臉的紙面下側(cè)示出的噪聲信號的原信號。膚色提取部12將提取出的規(guī)定范圍的信號輸出到各濾波部f1~f3。
濾波部f1、f2、f3是使用利用互不相同的濾波系數(shù)的帶通濾波器構(gòu)成的,除了濾波系數(shù)不同以外,各自的動作是共同的,因此例示濾波部f1的動作來進行說明。濾波部f1通過將從膚色提取部12輸出的規(guī)定范圍的信號(像素值)平均化,來去除例如照相機cm拍攝時所包含的噪聲信號。
通過該平均化能夠提取人的脈搏波,但很可能還包含身體的運動成分、噪聲的殘留成分,因此濾波部f1使用與濾波部f1對應(yīng)的濾波系數(shù)將脈搏波的基本頻率以外的頻率成分濾除。濾波部f1的輸出被輸入到估計模塊部m1。
例如以使30bpm~60bpm的信號通過濾波部f1的方式預(yù)先設(shè)定濾波部f1的濾波系數(shù)。此外,例如以使50bpm~90bpm的信號通過濾波部f2的方式預(yù)先設(shè)定濾波部f2的濾波系數(shù)。另外,例如以使70bpm~120bpm的信號通過濾波部f3的方式預(yù)先設(shè)定濾波部f3的濾波系數(shù)。
一般而言,安靜時的成人的脈搏為60bpm~80bpm,但也考慮被檢者(對象物、生物體信息處理對象)具有心動過緩或者心動過快的情況、運動、緊張時的影響,而將通過對象范圍設(shè)定為30bpm~120bpm。另外,利用濾波部f1~f3將濾波的通過對象范圍30bpm~120bpm分割為三個范圍,由此濾波部f1~f3各自的輸出信號接近正弦波(參照圖10b所示的多頻帶濾波的各波形)。因此,能夠提高使用各濾波部f1~f3的輸出進行的脈搏波的估計精度。
估計模塊部m1構(gòu)成為包括波形檢定部m1a和脈搏估計部m1b。以下,估計模塊部m1、m2、m3的結(jié)構(gòu)相同,因此例示估計模塊部m1的動作進行說明。
作為檢定部的一例的波形檢定部m1a被輸入濾波部f1的至少一個周期的輸出信號,為了檢測在濾波部f1中未能濾除的噪聲信號的區(qū)間,判斷所輸入的至少一個周期的輸出信號中是否存在滿足規(guī)定條件(也就是說,滿足數(shù)式(2)、數(shù)式(3))的信號(即噪聲信號)的區(qū)間。波形檢定部m1a將判斷為滿足規(guī)定條件的輸出信號的區(qū)間作為無效(invalid)區(qū)間而排除(參照圖14)。圖14是表示各估計模塊部m1、m2、m3內(nèi)的波形檢定部的動作例的說明圖。
在圖14中,例如示出了濾波部f1的至少一個周期的輸出信號的振幅的時間序列的變化,p1、p2、p3、p4、p5、p6、p7例如是利用波形檢定部m1a中包含的adc(analogdigitalconverter,模擬數(shù)字轉(zhuǎn)換器)進行ad轉(zhuǎn)換所得到的采樣值。mpa(meanpeaktopeakamplitude,平均峰間振幅)表示各采樣值p1~p7的峰間的振幅的平均值。ppa(peaktopeakamplitude,峰間振幅)表示各采樣值p1~p7的峰間的振幅的最大值。
[式2]
ppa>mpa×α,1.0<α...(2)
[式3]
ppa>mpa×β,0<β<1.0...(3)
其中,α是用于定義輸出信號的振幅所允許的上限的系數(shù),β是用于定義下限的系數(shù)。
根據(jù)數(shù)式(2),波形檢定部m1a能夠排除濾波部f1的至少一個周期的輸出信號的振幅與規(guī)定值(例如零)相比極端地大的信號。另外,根據(jù)數(shù)式(3),波形檢定部m1a能夠排除濾波部f1的至少一個周期的輸出信號的振幅與規(guī)定值(例如零)相比極端地小的信號。波形檢定部m1a在判斷為存在滿足規(guī)定條件(即數(shù)式(2)、數(shù)式(3))信號的區(qū)間的情況下,將排除了相應(yīng)的信號的區(qū)間后的至少一個周期的信號輸出到脈搏估計部m1b和信賴度判定部15。
另一方面,波形檢定部m1a在判斷為不存在滿足規(guī)定條件(即數(shù)式(2)、數(shù)式(3))的信號的區(qū)間的情況下,將濾波部f1的至少一個周期的輸出信號按原樣輸出到脈搏估計部m1b和信賴度判定部15。波形檢定部m1a的處理利用了人的脈搏的振幅在固定寬度中平緩地變化的見解,滿足數(shù)式(2)、數(shù)式(3)的信號是干擾噪聲的可能性高。此外,從其它的估計模塊部m2、m3內(nèi)的波形檢定部(未圖示)也向信賴度判定部15輸入相同的輸出信號。
作為估計部的一例的脈搏估計部m1b基于濾波部f1的至少一個周期的輸出信號或者波形檢定部m1a的至少一個周期的輸出信號,按照數(shù)式(4)來計算人的脈搏值(pulserate,脈率)并輸出到選擇器16(參照圖13)。圖13是表示第二實施方式的生物體信息處理裝置100的脈搏計算方法的一例的圖。
[式4]
pulserate=60/pwi...(4)
在此,參照圖11和圖12來說明以往的使用照相機的脈搏計算方法的問題。圖11是表示以往的使用照相機的脈搏計算方法的一例的圖。圖12是圖11所示的脈搏計算方法的問題的說明圖。
在圖11中,橫軸表示時間,縱軸(未圖示)表示由照相機拍攝到的圖像的膚色區(qū)域的綠色的一個周期的信號wv0(即像素值),例如在以8比特進行表示的情況下,示出0~255。另外,在圖11和圖12中,例如使用各采樣值的差(即與前一個采樣值的差)的計算結(jié)果,將從單調(diào)增加時的零點通過時間點起至下一個單調(diào)增加時的零點通過時間點為止的信號作為一個周期的信號wv0提取出來。
作為圖11所示的脈搏數(shù)的計算例,在照相機的幀率為10fps、與一個周期的信號wv0對應(yīng)的幀計數(shù)值(也就是說,為了獲得一個周期的信號wv0而需要的圖像數(shù)據(jù)的幀數(shù))為9的情況下,脈搏數(shù)為10×60÷9≈67bpm。
在圖12中,與圖11同樣地,橫軸表示時間,縱軸(未圖示)表示由照相機拍攝到的圖像的膚色區(qū)域的綠色的一個周期的信號wv0(也就是說,像素值),例如在以8比特進行表示的情況下,示出0~255。在此,在發(fā)生了從照相機傳遞的圖像數(shù)據(jù)的幀的丟幀(也就是說,幀的獲取側(cè)的接收損失或者幀丟失)的情況下,與一個周期的信號wv0對應(yīng)的幀計數(shù)值為8,計算出與本應(yīng)計算出的脈搏數(shù)不同的脈搏數(shù),產(chǎn)生誤差。也就是說,當(dāng)發(fā)生丟幀時,脈搏數(shù)為10×60÷8=75bpm,與67bpm的差(8bpm)作為誤差產(chǎn)生。
因此,包括本實施方式在內(nèi)的各實施方式的生物體信息處理裝置100、100a在脈搏估計部m1b中不使用與一個周期的信號wv0對應(yīng)的幀計數(shù)值,而使用直到獲得一個周期的信號wv0為止由圖像輸入部11輸入的圖像數(shù)據(jù)的幀的輸入間隔(例如從照相機cm進行輸入的輸入間隔或者進行接收的接收間隔)的和,根據(jù)數(shù)式(4)來計算脈搏數(shù)。
在圖13中,與圖11同樣地,橫軸表示時間,縱軸(未圖示)表示由膚色提取部12提取出的信號。換言之,圖13所示的信號表示由照相機cm拍攝到的圖像的膚色區(qū)域的綠色的一個周期的信號wv0(即像素值),例如在以8比特進行表示的情況下,示出0~255。脈搏估計部m1b將為了獲得一個周期的信號wv0所需的圖像數(shù)據(jù)的幀的輸入間隔t0、t1、t2、t3、t4、t5、t6、t7的和(=0.01+0.01+0.02+0.01+0.01+0.01+0.01+0.01)用作上述的數(shù)式(4)所示的pwi(pulsewaveinterval,脈搏間隔)。
因而,在圖13中發(fā)生了第三個幀的丟幀的情況下,為了獲得一個周期的信號wv0所需的圖像數(shù)據(jù)的幀數(shù)變?yōu)?。然而,脈搏估計部m1b使用包含從輸入第二個幀起至輸入下一個幀(圖13所示的第四個幀)為止的輸入間隔t2的、為了獲得一個周期的信號wv0所需的圖像數(shù)據(jù)的幀的輸入間隔t0、t1、t2、t3、t4、t5、t6、t7的和。由此,脈搏估計部m1b能夠與圖11中未發(fā)生丟幀的情況同樣地計算恰當(dāng)?shù)拿}搏數(shù)(參照數(shù)式(4))。
作為判定部的一例的信賴度判定部15基于來自各個估計模塊部m1、m2、m3的排除了滿足規(guī)定條件(數(shù)式(3)、數(shù)式(4))的濾波部f1、f2、f3的輸出信號的區(qū)間后的至少一個周期的輸出信號或者不滿足規(guī)定條件的濾波部f1、f2、f3的輸出信號,來判定來自估計模塊部的無效區(qū)間最少的至少一個周期的輸出信號。換言之,濾波部f1、f2、f3的輸出信號按原樣地成為從各個估計模塊部m1、m2、m3輸出的信號。信賴度判定部15將判定結(jié)果(即與某一個估計模塊部有關(guān)的信息)輸出到選擇器16。
信賴度判定部15例如在不存在無效區(qū)間的情況下賦予信賴度“100”來作為信賴度,根據(jù)滿足數(shù)式(2)的無效區(qū)間的數(shù)量、滿足數(shù)式(3)的無效區(qū)間的數(shù)量或者滿足數(shù)式(2)和數(shù)式(3)這兩方的無效區(qū)間的數(shù)量,按照規(guī)定的計算方法(例如使用無效區(qū)間的數(shù)量和作為判斷無效區(qū)間的根據(jù)的數(shù)式(2)、數(shù)式(3)各式的規(guī)定的權(quán)重系數(shù)(已知)進行乘法運算并從“100”中減去乘法運算的結(jié)果的方法)來賦予信賴度。
作為輸出部的一例的選擇器16基于從信賴度判定部15輸出的判定結(jié)果,選擇來自估計模塊部m1、m2、m3的輸出(即、與估計模塊部m1、m2、m3中分別估計出的脈搏數(shù)有關(guān)信息)中的與信賴度判定部15的判定結(jié)果對應(yīng)的估計模塊部的輸出(與脈搏數(shù)有關(guān)的信息)并輸出到脈搏輸出部17。
例如,如圖10b所示那樣設(shè)為:在估計模塊部m1中估計出的脈搏數(shù)為“70”且由信賴度判定部15判定出的信賴度為“60”,在估計模塊部m2中估計出的脈搏數(shù)為“76”且由信賴度判定部15判定出的信賴度為“80”,在估計模塊部m3中估計出的脈搏數(shù)為“78”且由信賴度判定部15判定出的信賴度為“70”。在該情況下,選擇器16將獲得最高的信賴度“80”的脈搏數(shù)“76”輸出到脈搏輸出部17。
作為輸出部的一例的脈搏輸出部17輸出由選擇器16選擇出的與脈搏數(shù)有關(guān)的信息。例如在生物體信息處理裝置100具有顯示器(未圖示)的情況下,脈搏輸出部17將由選擇器16選擇出的與脈搏數(shù)有關(guān)的信息顯示于顯示器。另外,例如在生物體信息處理裝置100具有揚聲器(未圖示)的情況下,脈搏輸出部17將由選擇器16選擇出的與脈搏數(shù)有關(guān)的信息從揚聲器輸出。
接著,參照圖15來說明本實施方式的生物體信息處理裝置100的動作過程的一例。圖15是說明第二實施方式的生物體信息處理裝置100的動作過程的一例的流程圖。
在圖15中,圖像輸入部11從照相機cm連續(xù)地輸入(獲取)利用照相機cm以規(guī)定的幀率拍攝人所得到的圖像數(shù)據(jù)的幀,并向膚色提取部12輸出所述圖像數(shù)據(jù)的幀(st11)。膚色提取部12使用至少一個周期(周期已知)的幀數(shù)來提取由圖像輸入部11輸入的圖像數(shù)據(jù)的各幀內(nèi)的規(guī)定范圍(例如圖10b所示的膚色區(qū)域fl1)的信號(例如像素值、亮度值)(st12)。膚色提取部12將提取出的規(guī)定范圍的信號輸出到各濾波部f1~f3。
在步驟st13中,選擇濾波部f1~f3的濾波系數(shù)(st13)。此外,如上述那樣,例如以使30bpm~60bpm的信號通過濾波部f1的方式預(yù)先設(shè)定濾波部f1的濾波系數(shù)。例如以使50bpm~90bpm的信號通過濾波部f2的方式預(yù)先設(shè)定濾波部f2的濾波系數(shù)。同樣地,例如以使70bpm~120bpm的信號通過濾波部f3的方式預(yù)先設(shè)定濾波部f3的濾波系數(shù)。在圖15中,為了使說明易于理解,將從步驟st13到步驟st17的處理以時間序列的方式示出,但在生物體信息處理裝置100中這些各處理是并列(并行)地進行的。
作為濾波處理的一例,濾波部f1通過將從膚色提取部12輸出的規(guī)定范圍的信號(像素值)平均化,來去除例如照相機cm拍攝時所包含的噪聲信號(st14)。另外,作為濾波處理的其它例,濾波部f1使用與濾波部f1對應(yīng)的濾波系數(shù)將脈搏波的基本頻率以外的頻率成分濾除(st14)。濾波部f1的輸出被輸入到估計模塊部m1。
波形檢定部m1a為了檢測在濾波部f1中未能濾除的噪聲信號的區(qū)間,基于濾波部f1的至少一個周期的輸出信號來判斷所輸入的至少一個周期的輸出信號中是否存在滿足規(guī)定條件(即數(shù)式(2)、數(shù)式(3))的信號的區(qū)間,由此對波形進行檢定(st15)。
波形檢定部m1a將判斷為滿足規(guī)定條件的輸出信號的區(qū)間作為無效(invalid)區(qū)間而排除,將排除了相應(yīng)的信號的區(qū)間后的至少一個周期的信號輸出到脈搏估計部m1b和信賴度判定部15。另一方面,波形檢定部m1a在判斷為不存在滿足規(guī)定條件(即數(shù)式(2)、數(shù)式(3))的信號的區(qū)間的情況下,將濾波部f1的至少一個周期的輸出信號按原樣輸出到脈搏估計部m1b和信賴度判定部15。
脈搏估計部m1b基于濾波部f1的至少一個周期的輸出信號或者波形檢定部m1a的至少一個周期的輸出信號,按照數(shù)式(4)來計算人的脈搏值(pulserate,脈率)并輸出到選擇器16(st16)。
在步驟st17中,在濾波部f1~f3和估計模塊部m1~m3中各自的處理未結(jié)束的情況下(st17,“否”),在濾波部f1~f3和估計模塊部m1~m3中,生物體信息處理裝置100的動作均為待機狀態(tài),直到步驟st13~步驟st17的處理結(jié)束為止。
另一方面,在濾波部f1~f3和估計模塊部m1~m3中各自的處理結(jié)束了的情況下(st17,“是”),信賴度判定部15在st18中進行如下的處理。即,基于來自估計模塊部m1、m2、m3的排除了滿足規(guī)定條件的濾波部f1、f2、f3的輸出信號的區(qū)間后的至少一個周期的輸出信號或者不滿足規(guī)定條件的濾波部f1、f2、f3的輸出信號,來判定來自估計模塊部的無效區(qū)間最少的至少一個周期的輸出信號。規(guī)定條件例如是數(shù)式(3)、數(shù)式(4)。信賴度判定部15將判定結(jié)果(即、與某一個估計模塊部有關(guān)的信息)輸出到選擇器16。
選擇器16基于從信賴度判定部15輸出的判定結(jié)果,選擇來自估計模塊部m1、m2、m3的輸出(即、與估計模塊部m1、m2、m3中估計出的脈搏數(shù)有關(guān)的信息)中的與信賴度判定部15的判定結(jié)果對應(yīng)的估計模塊部的輸出(與脈搏數(shù)有關(guān)的信息)并輸出到脈搏輸出部17(st19)。脈搏輸出部17輸出由選擇器16選擇出的與脈搏數(shù)有關(guān)的信息(st19)。
根據(jù)以上說明,本實施方式的生物體信息處理裝置100提取所輸入的圖像數(shù)據(jù)的規(guī)定范圍(例如人的膚色區(qū)域fl1)的信號,使用不同的系數(shù)(例如濾波系數(shù))在多個濾波部f1~f3中分別輸出所提取出的規(guī)定范圍的信號中的與不同系數(shù)對應(yīng)的信號。生物體信息處理裝置100在與濾波部f1~f3分別對應(yīng)地設(shè)置的估計模塊部m1~m3中,基于對應(yīng)的濾波部的至少一個周期的輸出信號以及與至少一個周期的輸出信號對應(yīng)的圖像數(shù)據(jù)的幀的輸入間隔,來估計人的脈搏值。而且,根據(jù)多個濾波部f1~f3的輸出信號,從估計出的多個脈搏值中選擇某一脈搏值來輸出。
由此,生物體信息處理裝置100即使在拍攝有用戶的圖像數(shù)據(jù)的幀發(fā)生了丟幀的情況下,也使用與通過圖像數(shù)據(jù)所包含的用戶的膚色區(qū)域的圖像處理(例如使用規(guī)定的濾波系數(shù)的噪聲除去處理)而獲得的至少一個周期的信號對應(yīng)的圖像數(shù)據(jù)的多個幀的輸入間隔以及血液吸收特定波長區(qū)域的光的性質(zhì)來估計用戶的脈搏數(shù)。因此,生物體信息處理裝置100例如不使用接觸式的專用的脈搏數(shù)測定器,而能夠以非接觸的方式高精度地估計用戶的脈搏數(shù)。
另外,生物體信息處理裝置100在與各濾波部對應(yīng)的估計模塊部中,將滿足規(guī)定條件的濾波部的輸出信號的區(qū)間作為無效區(qū)間而排除,基于排除了無效區(qū)間后的至少一個周期的輸出信號以及與至少一個周期的輸出信號對應(yīng)的圖像數(shù)據(jù)的幀的輸入間隔來估計人的脈搏值。
由此,生物體信息處理裝置100能夠?qū)M足規(guī)定條件的濾波部的輸出信號的區(qū)間(例如振幅與規(guī)定值相比極端地大的信號、極端地小的信號的區(qū)間)作為無效區(qū)間而排除。因此,例如能夠抑制干擾噪聲的影響,能夠使用與排除了無效區(qū)間后的至少一個周期的輸出信號對應(yīng)的圖像數(shù)據(jù)的幀的輸入間隔來高精度地估計人的脈搏值。
另外,生物體信息處理裝置100基于排除了滿足規(guī)定條件的各濾波部的輸出信號的區(qū)間后的至少一個周期的輸出信號,來判定無效區(qū)間最少的至少一個周期的輸出信號,選擇與判定出的該至少一個周期的輸出信號對應(yīng)地估計出的人的脈搏值。
由此,生物體信息處理裝置100能夠使用無效區(qū)間最少(換言之,受干擾噪聲的影響最少)的至少一個周期的輸出信號來選擇人的脈搏值。
(第四實施方式)
圖16是表示第四實施方式的生物體信息處理裝置100a的內(nèi)部結(jié)構(gòu)的一例的框圖。圖17是一個周期的觀測波形的峰偏離了采樣位置的情況下的問題的說明圖。在圖16所示的生物體信息處理裝置100a中,對與圖10a所示的生物體信息處理裝置100的各部相同的結(jié)構(gòu)使用相同的標(biāo)記來簡化或省略說明,對不同的內(nèi)容進行說明。
圖16所示的生物體信息處理裝置100a構(gòu)成為包括照相機cm、圖像輸入部11、膚色提取部12、多個(例如三個)濾波部f1、f2、f3、多個(例如三個)估計模塊部m1r、m2r、m3r、信賴度判定部15、選擇器16以及脈搏輸出部17。估計模塊部m1r與濾波部f1相對應(yīng)地設(shè)置,估計模塊部m2r與濾波部f2相對應(yīng)地設(shè)置,估計模塊部m3r與濾波部f3相對應(yīng)地設(shè)置。
估計模塊部m1r構(gòu)成為包括插值部m1c、波形檢定部m1a以及脈搏估計部m1b。插值部m1c被輸入濾波部f1的至少一個周期的輸出信號,基于濾波部f1的至少一個周期的輸出信號,對濾波部f1的至少一個周期的輸出信號成為規(guī)定值(例如零)的位置(時刻)的差(時間差)進行插值(例如線性插值),將插值后的至少一個周期的輸出信號輸出到波形檢定部m1a和脈搏估計部m1b。在本實施方式中,在波形檢定部m1a和脈搏估計部m1b中使用插值部m1c的輸出。以下,估計模塊部m1r、m2r、m3r的結(jié)構(gòu)是相同的,因此例示估計模塊部m1r的動作進行說明。
在此,參照圖17來說明一個周期的觀測波形的峰偏離了采樣位置的情況下的問題。在圖17中,橫軸表示時間,縱軸(未圖示)表示由膚色提取部12提取出的信號wv0。換言之,圖17所示的信號表示由照相機cm拍攝到的圖像的膚色區(qū)域fl1的綠色的一個周期的信號wv0(即像素值),例如在以8比特進行表示的情況下,示出0~255。
在圖17中,s1~s8例如是通過波形檢定部m1a所包含的adc進行ad轉(zhuǎn)換所得到的采樣值,t1~t8是利用adc進行ad轉(zhuǎn)換的采樣時刻。準(zhǔn)確地說,圖17所示的信號wv0的一個周期是信號wv0的峰與下一個峰之間的時間(參照線段as1),但當(dāng)信號wv0的峰偏離了采樣位置(采樣時刻的采樣值)時產(chǎn)生誤差。具體地說,圖17所示的信號wv0的一個周期是作為峰值的采樣值s2的采樣時刻t2與作為下一個峰值的采樣值s7的采樣時刻t7之間的時間(參照線段nt1),因此產(chǎn)生同線段as1與線段nt1之差相應(yīng)的誤差,被輸入到濾波部f1~f3的信號產(chǎn)生誤差,因此人的脈搏的估計精度劣化。
因此,在本實施方式中,各個估計模塊部m1r~m3r為了更準(zhǔn)確地求出上述的數(shù)式(4)所示的pwi(脈搏間隔),對被輸入到各個估計模塊部m1r~m3r的信號(即,各個濾波部f1~f3的輸出信號)進行插值,由此導(dǎo)出一個周期的信號wv0(參照圖18、圖19、圖20)。
(第一插值例)
圖18是表示各估計模塊部的插值部m1c的動作的第一例的說明圖。在圖18中,橫軸表示時間,縱軸(未圖示)表示由膚色提取部12提取出的信號wv1。換言之,圖18所示的信號表示由照相機cm拍攝到的圖像的膚色區(qū)域fl1的綠色的一個周期的信號wv1(即像素值),例如在以8比特進行表示的情況下,示出0~255。
在圖18所示的第一插值例中,插值部m1c例如對單調(diào)增加時或者單調(diào)減少時的信號wv1經(jīng)過規(guī)定值(例如零)的橫軸上的至少兩個位置(時刻)的差(時間差)進行插值(即線性插值處理),來估計至少一個周期的信號wv1。圖18所示的線段as1及線段nt1與圖17所示的線段as1及線段nt1相同,因此省略說明,在圖19和圖20中也同樣。此外,在圖18~圖20的下部,對線段as1、nt1的長度與線段pr1、pr2或者pr3的長度進行了比較。
更具體地說,插值部m1c例如估計單調(diào)增加時的信號wv1經(jīng)過零的位置與下一次單調(diào)增加時的信號wv1經(jīng)過零時的位置的差(參照線段pr1)。為此,求出經(jīng)過第一個單調(diào)增加時的信號wv1的至少兩個位置(點a0(0,a0)和點a1(1,a1))的線段經(jīng)過零的位置(線段pr1的左端)以及經(jīng)過第二個單調(diào)增加時的信號wv1的至少兩個位置(點b0(0,b0)和點b1(1,b1))的直線經(jīng)過零的位置(線段pr1的右端)。a0、a1、b0、b1分別是信號wv1上的位置且是采樣值。在圖18中,使用單調(diào)增加時的信號wv1上的點進行了說明,但使用單調(diào)減少時的信號wv1上的點也同樣。
通過插值部m1c的線性插值,利用數(shù)式(5)來表示點a0的橫軸上的位置與線段pr1的左端之間的距離p0。同樣地,通過插值部m1c的線性插值,利用數(shù)式(6)來表示點b0的橫軸上的位置與線段pr1的右端之間的距離p1。由此,插值部m1c能夠計算線段pr1的長度,與同線段as1之間的誤差大的線段nt1相比,能夠減少與線段as1之間的誤差,因此能夠提高脈搏數(shù)的估計精度。
[式5]
[式6]
(第二插值例)
圖19是表示各估計模塊部的插值部m1c的動作的第二例的說明圖。在圖19中,橫軸表示時間,縱軸(未圖示)表示由膚色提取部12提取出的信號wv1。換言之,圖19所示的信號表示由照相機cm拍攝到的圖像的膚色區(qū)域fl1的綠色的一個周期的信號wv1(即像素值),例如在以8比特進行表示的情況下,示出0~255。
在圖19所示的第二插值例中,插值部m1c例如求出經(jīng)過獲得最初的峰的單調(diào)增加時或者單調(diào)減少時的信號wv1上的兩個點的直線與斜率同該直線的斜率相反且經(jīng)過單調(diào)減少時或者單調(diào)增加時的信號wv1上的一個點的直線的交點。并且,插值部m1c同樣地求出經(jīng)過獲得下一個峰的單調(diào)增加時或者單調(diào)減少時的信號wv1上的兩個點的直線與斜率同該直線的斜率相反且經(jīng)過單調(diào)減少時或者單調(diào)增加時的信號wv1上的一個點的直線的交點。插值部m1c使用這兩個交點來進行插值(即、等角度直線擬合),來估計至少一個周期的信號wv1。
更具體地說,插值部m1c例如求出經(jīng)過單調(diào)增加時的信號wv1上的兩個點(點a0(0,a0)和點a1(1,a1))的直線l0與斜率同該直線l0的斜率相反且經(jīng)過單調(diào)減少時的信號wv1上的一個點(點a2(2,a2))的直線l1的交點。并且,插值部m1c例如同樣地求出經(jīng)過單調(diào)減少時的信號wv1上的兩個點(點b1(1,b1)和點b2(2,b2))的直線n1與斜率同該直線n1的斜率相反且經(jīng)過單調(diào)增加時的信號wv1上的一個點(點b0(0,b0))的直線n0的交點。a0、a1、a2、b0、b1、b2分別是信號wv1上的位置且是采樣值。在圖19中,使用單調(diào)增加時的信號wv1上的點對直線l0、n0進行了說明,使用單調(diào)減少時的信號wv1上的點對直線l1、n1進行了說明,但將單調(diào)增加時換成單調(diào)減少時也是同樣的。
線段pr2表示直線l0與直線l1的交點的橫軸上的位置同直線n0與直線n1的交點的在橫軸上的位置的差。通過插值部m1c的等角度直線擬合,利用數(shù)式(7)來表示點a1的在橫軸上的位置同直線l0與直線l1的交點的橫軸上的位置之間的距離p0。同樣地,通過插值部m1c的等角度直線擬合,利用數(shù)式(8)來表示直線n0與直線n1的交點的橫軸上的位置同點b1的橫軸上的位置之間的距離p1。由此,插值部m1c能夠計算線段pr2的長度,與同線段as1之間的誤差大的線段nt1相比,能夠減少與線段as1之間的誤差,因此能夠提高脈搏數(shù)的估計精度。
[式7]
[式8]
(第三插值例)
圖20是表示各估計模塊部的插值部m1c的動作的第三例的說明圖。在圖20中,橫軸表示時間,縱軸(未圖示)表示由膚色提取部12提取出的信號wv1。換言之,圖20所示的信號表示由照相機cm拍攝到的圖像的膚色區(qū)域fl1的綠色的一個周期的信號wv1(即像素值),例如在以8比特進行表示的情況下,示出0~255。
在圖20所示的第三插值例中,插值部m1c使用經(jīng)過獲得最初的峰的信號wv1上的三個點的2次曲線的頂點以及經(jīng)過獲得下一個峰的信號wv1上的三個點的2次曲線的頂點進行插值(即、拋物線擬合),來估計至少一個周期的信號wv1。
更具體地說,插值部m1c例如求出經(jīng)過獲得最初的峰的信號wv1上的三個點(點a0(0,a0)、點a1(1,a1)、點a2(2,a2))的2次曲線r0的頂點的橫軸上的位置以及經(jīng)過獲得下一個峰的信號wv1上的三個點(點b0(0,b0)、點b1(1,b1)、點b2(2,b2))的2次曲線r1的頂點的橫軸上的位置。a0、a1、a2、b0、b1、b2分別是信號wv1上的位置且是采樣值。
線段pr3表示2次曲線r0的頂點的橫軸上的位置與2次曲線r1的頂點的橫軸上的位置的差。通過插值部m1c的拋物線擬合,利用數(shù)式(9)來表示點a1的橫軸上的位置與2次曲線r0的頂點的橫軸上的位置之間的距離p0。同樣地,通過插值部m1c的等角度直線擬合,利用數(shù)式(10)來表示2次曲線r1的頂點的橫軸上的位置與點b1的橫軸上的位置之間的距離p1。由此,插值部m1c能夠計算線段pr3的長度,與同線段as1之間的誤差大的線段nt1相比,能夠減少與線段as1之間的誤差,因此能夠提高脈搏數(shù)的估計精度。
[式9]
[式10]
圖21是說明第四實施方式的生物體信息處理裝置100a的動作過程的一例的流程圖。在圖21中,對與第三實施方式的生物體信息處理裝置100的動作過程不同的內(nèi)容進行說明,對相同的動作標(biāo)注相同的步驟編號來簡化或省略說明。
在圖21中,在步驟st14之后,插值部m1c被輸入濾波部f1的至少一個周期的輸出信號,基于濾波部f1的至少一個周期的輸出信號對濾波部f1的至少一個周期的輸出信號成為規(guī)定值(例如零)的位置(時刻)的差(時間差)進行插值(例如線性插值),將插值后的至少一個周期的輸出信號輸出到波形檢定部m1a和脈搏估計部m1b(st20)。在波形檢定部m1a和脈搏估計部m1b中,使用插值部m1c的輸出。
例如,波形檢定部m1a被輸入來自插值部m1c的至少一個周期的輸出信號,為了檢測在濾波部f1中未能濾除的噪聲信號的區(qū)間,判斷所輸入的至少一個周期的輸出信號中是否存在滿足規(guī)定條件(即數(shù)式(2)、數(shù)式(3))的信號(即噪聲信號)的區(qū)間(st15)。另外,脈搏估計部m1b基于來自插值部m1c的至少一個周期的輸出信號或者波形檢定部m1a的至少一個周期的輸出信號,按照數(shù)式(4)來計算人的脈搏值(pulserate,脈率)并輸出到選擇器16(st16)。步驟st15、步驟st16的處理的詳細內(nèi)容與第二實施方式相同,因此省略說明。步驟st16以后的處理與圖15相同,因此省略說明。
根據(jù)以上說明,本實施方式的生物體信息處理裝置100a基于與各估計模塊部m1r、m2r、m3r對應(yīng)的各濾波部f1、f2、f3的至少一個周期的輸出信號,對濾波部f1、f2、f3的至少一個周期的輸出信號成為規(guī)定值(例如零)的時間差進行插值,輸出插值后的濾波部的至少一個周期的輸出信號。
由此,生物體信息處理裝置100a能夠高精度地獲得濾波部f1、f2、f3的至少一個周期的輸出信號。因此,即使在一個周期的輸出信號的峰偏離了采樣位置的情況下,也能夠使本應(yīng)獲得的準(zhǔn)確的輸出信號的峰間的時間差與實際獲得的濾波部的輸出信號的峰間的時間差之間的誤差最小化。因此,能夠估計更準(zhǔn)確的人的脈搏值。
如以上那樣,基于第三實施方式、第四實施方式的生物體信息處理裝置具有輸入拍攝人所得到的圖像數(shù)據(jù)的圖像輸入部、提取部、多個濾波部、多個估計部以及輸出部。提取部提取由上述圖像輸入部輸入的圖像數(shù)據(jù)的規(guī)定范圍的信號。多個濾波部分別使用互不相同的系數(shù),輸出由提取部提取出的規(guī)定范圍的信號中的與不同的系數(shù)對應(yīng)的信號。多個估計部與多個濾波部分別相對應(yīng)地設(shè)置,基于所對應(yīng)的濾波部的一個周期的輸出以及與該輸出對應(yīng)的圖像數(shù)據(jù)的幀的輸入間隔,來估計上述人的脈搏值。輸出部根據(jù)多個濾波部的輸出,從由多個估計部估計出的多個脈搏值中選擇某一脈搏值來輸出。
另外,基于本公開的生物體信息處理方法具有以下的步驟。輸入拍攝人所得到的圖像數(shù)據(jù)的步驟。提取所輸入的圖像數(shù)據(jù)的規(guī)定范圍的信號的步驟。使用具有不同的系數(shù)的多個濾波部來輸出所提取出的上述規(guī)定范圍的信號中的、與不同的系數(shù)對應(yīng)的各信號的步驟?;诟鱾€濾波部的一個周期的輸出以及與該輸出對應(yīng)的圖像數(shù)據(jù)的幀的輸入間隔來估計上述人的脈搏值的步驟。根據(jù)多個濾波部的輸出從估計出的多個脈搏值中選擇某一脈搏值來輸出的步驟。
根據(jù)本公開,即使在發(fā)生了拍攝有用戶的圖像數(shù)據(jù)的幀的丟幀的情況下,通過進行獲取到的圖像數(shù)據(jù)中包含的用戶的膚色區(qū)域的圖像處理,也能夠以非接觸的方式高精度地估計用戶的脈搏數(shù)。
各實施方式的生物體信息處理裝置例如不使用接觸式的專用的脈搏數(shù)測定器,而使用拍攝對象物(處理對象,例如人。也可以是其它的動物。以下相同。)所得到的圖像數(shù)據(jù)以非接觸的方式估計作為生物體信息的一例的人的脈搏數(shù)。
更具體地說,各實施方式的生物體信息處理裝置被輸入拍攝人所得到的圖像數(shù)據(jù)的幀,提取所輸入的圖像數(shù)據(jù)的規(guī)定范圍(例如膚色區(qū)域)的信號(像素值),在各濾波部中使用不同的濾波系數(shù)輸出所提取出的規(guī)定范圍的信號中的與不同的系數(shù)對應(yīng)的各信號。另外,生物體信息處理裝置基于各濾波部的至少一個周期的輸出信號以及與該輸出信號對應(yīng)的圖像數(shù)據(jù)的幀的輸入間隔,在與各濾波部對應(yīng)的估計模塊部中估計人的脈搏值,根據(jù)各濾波部的輸出信號從在多個估計模塊部中估計出的多個脈搏值中選擇某一脈搏值來輸出。
各實施方式的生物體信息處理裝置例如是臺式或者膝上型的pc(personalcomputer,個人計算機)、智能手機、移動電話機、平板終端、pda(personaldigitalassistant,個人數(shù)字助理)等數(shù)據(jù)通信終端,也可以具有用于拍攝作為對象物的一例的人的照相機功能。
以上,參照附圖說明了各種實施方式,但本公開不限定于上述例子,這是不言而喻的。顯而易見的是,本領(lǐng)域技術(shù)人員能夠在權(quán)利要求所記載的范圍內(nèi)想到各種變形例或者修正例,應(yīng)當(dāng)理解,這些變形例或者修正例當(dāng)然也屬于本公開的技術(shù)范圍內(nèi)。
產(chǎn)業(yè)上的可利用性
本發(fā)明作為即使在周邊環(huán)境發(fā)生了變化的情況下也能夠隨著周邊環(huán)境的變化從多個被檢者中實時且準(zhǔn)確地探測可能存在異常的被檢者或者成為需要注意的對象的被檢者的脈搏數(shù)的生物體信息處理裝置和生物體信息處理方法是有用的。
附圖標(biāo)記說明
1:圖像輸入部;2:被檢者區(qū)域選擇部;3:被檢者生物體信息提取部;4、4a:異常探測部;5、5a:閾值保持更新部;6:異常通知輸出部;7:監(jiān)視器;10、10a、100、100a:生物體信息處理裝置;11:圖像輸入部;12:膚色提取部;15:信賴度判定部;16:選擇器;17:脈搏輸出部;ap1、apk:異常通知獲取裝置;cm:照相機;f1、f2、f3:濾波部;fl1:膚色區(qū)域;m1、m2、m3、m1r、m2r、m3r:估計模塊部;m1a:波形檢定部;m1b:脈搏估計部;m1c:插值部。