本發(fā)明設(shè)計圖像處理技術(shù),具體涉及無人機運動目標(biāo)跟蹤技術(shù)。
背景技術(shù):
旋翼無人機因結(jié)構(gòu)簡單、成本較低、操作簡便等優(yōu)點,已經(jīng)在民用市場的得到廣泛應(yīng)用,視頻監(jiān)控是旋翼無人機搭載的最廣泛的任務(wù)載荷。隨著應(yīng)用的拓展,基于無人機跟蹤地面運動目標(biāo)的需求出現(xiàn),如無人機跟拍地面運動車輛。目前主要有兩種場景,其對應(yīng)的技術(shù)路線也不一致。對于配合型,可以在地面車輛配置采集位置坐標(biāo)的信號,通過飛控鏈路發(fā)送給飛控實現(xiàn)跟蹤。對于非配合型,主要依賴于無人機視覺進行跟拍,但這種跟蹤是動態(tài)采集動態(tài)背景中的運動目標(biāo),受限于無人機本身處理能力和跟蹤實時性要求,需要的算法具有開銷小、速度快等優(yōu)點。
常用的運動目標(biāo)跟蹤算法主要有卡爾曼(kalman)濾波算法(chent,huc,plantb.akalmanfilterbasedtrackingschemawithinputestimation[j].ieeetransactions,1979,15(2):237-244)、camshift算法(haritaogl,harwoodd.areal-timesystemfordetectingandtrackingpeople[c].proceed-ingsofthirdieeeinternationalconferenceonautomaticfaceandgesturerecognition,1998:222-227)等。
其中,卡爾曼濾波是一種基于最小方差估計的最優(yōu)線性遞歸濾波方法,camshift算法是一種基于顏色概率分布和統(tǒng)計的算法,各種算法具有各自的優(yōu)缺點和適用范圍。卡爾曼濾波是一種線性最小方差估計的濾波方法,遞歸結(jié)構(gòu)簡單,且計算只需前一時刻的數(shù)據(jù),比其它濾波器如維納(wiener)濾波器等更容易實現(xiàn),濾波結(jié)果比帶有噪聲的觀測值更加平滑,具有最優(yōu)、穩(wěn)定、偏差小的濾波性能。
camshift算法的優(yōu)點是能消除目標(biāo)旋轉(zhuǎn)、遮擋、大小改變帶來影響,缺點是需預(yù)先存儲目標(biāo)模板、無法消除色調(diào)相近的干擾。并且這些方法主要都是基于靜態(tài)背景中的運動目標(biāo),不能很好適應(yīng)動態(tài)背景中的動態(tài)目標(biāo)的跟蹤。
同時,針對無人機跟蹤的技術(shù),也有一些相關(guān)的專利申請,如:
專利申請?zhí)朿n201510940763.9的中國發(fā)明專利,其公開了一種無人機目標(biāo)跟蹤方法,該方案中采用幀間比對的算法來實現(xiàn)跟蹤;
專利申請?zhí)朿n201510794928.6的中國發(fā)明專利,其公開一種無人機自動檢測目標(biāo)和跟蹤方法;該方案中跟蹤主要依賴于中值濾波方法。
這兩種方法對于弱處理能力的旋翼無人機會存在跟蹤實時性不能滿足要求的問題。
技術(shù)實現(xiàn)要素:
針對現(xiàn)有無人機跟蹤運動目標(biāo)技術(shù)存在實時性不足的問題,需要一種新的無人機運動目標(biāo)跟蹤技術(shù)。
為此,本發(fā)明所要解決的技術(shù)問題是提供一種基于視覺的旋翼無人機跟蹤運動目標(biāo)的實現(xiàn)方法,實現(xiàn)旋翼無人機能通過機器視覺準(zhǔn)實時跟蹤地面運動目標(biāo)。
為了達到上述目的,本發(fā)明提供的基于視覺的旋翼無人機跟蹤運動目標(biāo)的實現(xiàn)方法,包括如下步驟:
計算目標(biāo)的幾何特征參數(shù);
基于目標(biāo)的幾何特征參數(shù),利用卡爾曼濾波算法對運動目標(biāo)進行預(yù)測;
針對預(yù)測的目標(biāo)進行灰度直方圖匹配。
在本實現(xiàn)方法的方案中,計算目標(biāo)的幾何特征參數(shù)包括如下步驟:
目標(biāo)幾何特征參數(shù)計算;
基于目標(biāo)幾何特征參數(shù),建立外接矩形框;
建立外接矩形框內(nèi)目標(biāo)灰度概率分布直方圖。
在本實現(xiàn)方法的方案中,所述目標(biāo)幾何特征參數(shù)計算時,針對檢測算法得到的二值目標(biāo)圖像,計算對應(yīng)的目標(biāo)外接矩形框的長、寬,以及計算目標(biāo)灰度質(zhì)心,并建立以目標(biāo)灰度質(zhì)心為中心的跟蹤外接矩形框。
在本實現(xiàn)方法的方案中,在對運動目標(biāo)進行預(yù)測包括如下步驟:
建立目標(biāo)狀態(tài)向量;
利用卡爾曼濾波預(yù)測下一時刻目標(biāo)狀態(tài)向量;
獲取觀測向量,并通過觀測向量修正預(yù)測值。
在本實現(xiàn)方法的方案中,在建立目標(biāo)狀態(tài)向量時,基于目標(biāo)的幾何特征參數(shù)建立兩個當(dāng)前時刻的目標(biāo)狀態(tài)向量。
在本實現(xiàn)方法的方案中,在下一時刻獲得跟蹤目標(biāo)的檢測算法的結(jié)果后,計算跟蹤目標(biāo)幾何特征參數(shù)值得到觀測向量,并在對應(yīng)的跟蹤目標(biāo)的灰度分布直方圖進行目標(biāo)匹配成功后,利用該觀測向量對預(yù)測值進行修正,且將修正值繼續(xù)預(yù)測再下一時刻目標(biāo)狀態(tài)向量。
在本實現(xiàn)方法的方案中,在進行灰度直方圖匹配時采用目標(biāo)灰度概率分布相似度方法。
在本實現(xiàn)方法的方案中,若在多目標(biāo)跟蹤時,發(fā)生目標(biāo)重合造成匹配失敗,將目標(biāo)設(shè)定為暫時丟失狀態(tài),基于預(yù)測值繼續(xù)預(yù)測,直到匹配成功。
在本實現(xiàn)方法的方案中,場景中新目標(biāo)出現(xiàn)及失蹤目標(biāo)重新出現(xiàn)時,創(chuàng)建新的目標(biāo)類對象實例,目標(biāo)失蹤則刪除該實例。
基于上述方案構(gòu)成的基于視覺的旋翼無人機跟蹤運動目標(biāo)實現(xiàn)方法,大大提高旋翼無人機跟蹤的實時性,確保旋翼無人機能通過機器視覺實時跟蹤地面運動目標(biāo);同時本方案實現(xiàn)算法步驟少,需要的運算資源不高,適合于旋翼型無人機的環(huán)境。
再者,本方案對于跟蹤運動目標(biāo)還具有較強的魯棒性、不易跟丟等優(yōu)點。
附圖說明
以下結(jié)合附圖和具體實施方式來進一步說明本發(fā)明。
圖1為本發(fā)明實例中旋翼無人機通過機器視覺實時跟蹤運動目標(biāo)的實現(xiàn)流程圖。
具體實施方式
為了使本發(fā)明實現(xiàn)的技術(shù)手段、創(chuàng)作特征、達成目的與功效易于明白了解,下面結(jié)合具體圖示,進一步闡述本發(fā)明。
鑒于現(xiàn)有無人機視覺跟蹤對動態(tài)背景中動態(tài)目標(biāo)運算量大、實時性不足的局限性,無法滿足旋翼型無人機視覺跟蹤動態(tài)目標(biāo)的需求。本方案基于幾何特征的卡爾曼濾波和直方圖匹配技術(shù),提出一種動態(tài)目標(biāo)的跟蹤實現(xiàn)方案,該方案能夠確保旋翼無人機能通過機器視覺準(zhǔn)確實時跟蹤地面運動目標(biāo)。
本方案提供的動態(tài)目標(biāo)的跟蹤實現(xiàn)方案主要分為跟蹤參數(shù)計算、基于幾何特征的卡爾曼濾波預(yù)測、灰度直方圖匹配三個階段。
其中,跟蹤參數(shù)計算,通過如下步驟來實現(xiàn):
首先計算目標(biāo)幾何特征參數(shù),接著建立外接矩形框,再建立目標(biāo)灰度直方圖。
基于幾何特征的卡爾曼濾波預(yù)測,為基于計算得到的目標(biāo)幾何特征參數(shù),利用卡爾曼濾波算法對運動目標(biāo)進行預(yù)測,主要通過如下步驟來實現(xiàn):
首先,基于目標(biāo)的幾何特征參數(shù)建立相應(yīng)的目標(biāo)狀態(tài)向量;接著,利用卡爾曼濾波預(yù)測下一時刻目標(biāo)狀態(tài)向量;再者,獲取觀測向量,并通過觀測向量修正預(yù)測值。
這里在獲取觀測向量,及通過觀測向量修正預(yù)測值時,在下一時刻獲得跟蹤目標(biāo)的檢測算法的結(jié)果(該結(jié)果主要包括被跟蹤目標(biāo)的運動向量,跟蹤對象二值圖像在某個坐標(biāo)處像素值)后,計算跟蹤目標(biāo)幾何特征參數(shù)值得到觀測向量,并在相應(yīng)的跟蹤目標(biāo)的灰度分布直方圖進行目標(biāo)匹配成功后,利用該觀測向量對預(yù)測值進行修正,且將修正值繼續(xù)預(yù)測再下一時刻目標(biāo)狀態(tài)向量。
灰度直方圖匹配,具體為針對預(yù)測的目標(biāo)進行灰度直方圖匹配,并對匹配過程中出現(xiàn)的目標(biāo)暫時丟失或目標(biāo)失蹤情況進行處理。
這里進行灰度直方圖匹配時,主要采用目標(biāo)灰度概率分布相似度方法,對不同時刻之間的目標(biāo)灰度概率分布進行相似度比較。
基于上述原理,以下說明一下本方案的具體實現(xiàn)流程:
第一步,將檢測算法得到的二值目標(biāo)圖像,根據(jù)公式(1)、(2)計算目標(biāo)外接矩形框長、寬;再根據(jù)公式(3)-(5)計算目標(biāo)灰度質(zhì)心;再建立以目標(biāo)灰度質(zhì)心為中心的跟蹤外接矩形框,并計算跟蹤外接矩形框內(nèi)目標(biāo)灰度概率分布直方圖,作為跟蹤目標(biāo)模板。
第二步,基于計算得到的目標(biāo)灰度質(zhì)心坐標(biāo)(x0,y0),外接矩形框長寬a、b,建立跟蹤系統(tǒng)在當(dāng)前k時刻的目標(biāo)狀態(tài)向量x1k、x2k;
接著,使用基于卡爾曼濾波算法建立濾波模型對運動目標(biāo)進行預(yù)測,即針對目標(biāo)狀態(tài)向量x1k、x2k,通過濾波狀態(tài)方程(6)進行計算,預(yù)測下一時刻k+1的目標(biāo)狀態(tài)向量x1k+1、x2k+1。
xk+1=axk+wk(6)。
第三步,在k+1時刻獲得檢測算法的結(jié)果(即被跟蹤對象二值圖像在該時刻,相應(yīng)坐標(biāo)的灰度值)后,根據(jù)公式(7)計算跟蹤目標(biāo)幾何特征參數(shù)值得到觀測向量z1k+1、z2k+1,并計算跟蹤目標(biāo)的灰度概率分布得到灰度分布直方圖,按匹配規(guī)則進行目標(biāo)匹配(即將跟蹤目標(biāo)的灰度分布直方圖與步驟一中計算得到的跟蹤外接矩形框內(nèi)目標(biāo)灰度概率分布直方圖進行匹配)。
若匹配成功則將該觀測向量代入濾波觀測方程(7)修正預(yù)測值,并將修正值繼續(xù)預(yù)測再下一時刻目標(biāo)狀態(tài)向量。
zk+1=hxk+1+vk+1(7)。
第四步,若在多目標(biāo)跟蹤時,發(fā)生目標(biāo)重合造成匹配失敗,將目標(biāo)設(shè)定為暫時丟失狀態(tài),以預(yù)測值x1k+1、x2k+1代入狀態(tài)方程繼續(xù)預(yù)測,直到匹配成功。
在場景中新目標(biāo)出現(xiàn)及失蹤目標(biāo)重新出現(xiàn)時,創(chuàng)建新的目標(biāo)類對象實例,目標(biāo)失蹤則刪除該實例。
為了進一步闡述本方案,以下通過一具體應(yīng)用實例來說明一下本方案。
本實施方案的具體過程如下(參見圖1):
一、計算目標(biāo)的幾何特征;
對當(dāng)前幀中的目標(biāo)計算其幾何特征參數(shù)。首先,通過檢測算法進行序列幀進行目標(biāo)檢測,得到相應(yīng)的目標(biāo)二值圖像。
接著,計算目標(biāo)二值圖像的幾何特征參數(shù):
對目標(biāo)二值圖像進行水平、垂直兩個方向上投影:
其中,y(i)、x(j)分別為目標(biāo)二值圖像在水平、垂直方向投影,b(i,j)為檢測結(jié)果目標(biāo)二值圖像坐標(biāo)(i,j)處像素值。
基于圖像大小為m×n即m行n列,計算出水平、垂直方向投影的最大值:
其中,a和b表示了目標(biāo)大小,以a、b為長、寬建立目標(biāo)外接矩形框。
令y(f)、y(e)分別為最先、最后滿足y(i)>0的數(shù)組元素,x(f′)、x(e′)分別為最先、最后滿足x(j)>0的數(shù)組元素,則目標(biāo)中心坐標(biāo)為:
由于檢測得到的目標(biāo)與實際目標(biāo)相比,有內(nèi)部存在空洞、形態(tài)不完整等因素,為了減小預(yù)測誤差,獲得最優(yōu)匹配效果,本實例方案以目標(biāo)灰度質(zhì)心作為外接矩形框中心,計算中心為(x′,y′),長寬為a×b矩形框內(nèi)的二值圖像0階矩和1階矩:
其中(p,q)為a×b矩形框內(nèi)坐標(biāo)點,b(p,q)為坐標(biāo)點像素值,得到目標(biāo)灰度質(zhì)心:
將建立的目標(biāo)外接矩形框中心移動到目標(biāo)灰度質(zhì)心,建立以目標(biāo)灰度質(zhì)心為中心的跟蹤外接矩形框,作為初始搜索框(即跟蹤外接矩形框)。
由上可見,本步驟中需要計算的目標(biāo)幾何特征參數(shù)為目標(biāo)灰度質(zhì)心和外接矩形框長寬。作為舉例,對采集到的一段視頻第218幀圖像,大小640×480,進行目標(biāo)檢測后,計算幾何特征參數(shù),得到目標(biāo)灰度質(zhì)心為(456,326),外接矩形框為133×52。
最后,針對建議的建立以目標(biāo)灰度質(zhì)心為中心的跟蹤外接矩形框,計算矩形框內(nèi)目標(biāo)灰度概率分布直方圖,作為跟蹤目標(biāo)模板。
二、卡爾曼濾波
在得到當(dāng)前幀圖像的幾何特征參數(shù)后,使用卡爾曼濾波算法對運動目標(biāo)進行預(yù)測,建立濾波模型。
基于計算量大小及實時性的要求,本實例中定義了兩個系統(tǒng)向量x1、x2,分別使用兩個卡爾曼濾波過程對系統(tǒng)向量進行濾波:
系統(tǒng)狀態(tài)向量x1=(x,y,δx,δy)t;
系統(tǒng)狀態(tài)向量x2=(a,b,δa,δb)t;
其中x、y為目標(biāo)灰度質(zhì)心坐標(biāo),δx、δy為目標(biāo)灰度質(zhì)心坐標(biāo)在x、y軸上的相對位移,a、b為外接矩形框長寬,δa、δb為長寬的相對變化。
系統(tǒng)觀測向量
其中
將系統(tǒng)狀態(tài)向量代入濾波方程(公式6和7),由于系統(tǒng)沒有控制輸入變量,狀態(tài)方程和觀測方程如下:
xk+1=axk+wk(6);
zk+1=hxk+1+vk+1(7);
其中,xk為系統(tǒng)當(dāng)前時刻狀態(tài)向量,經(jīng)狀態(tài)方程預(yù)測下一時刻狀態(tài)向量xk+1,在下一時刻,根據(jù)系統(tǒng)觀測向量zk+1修正預(yù)測值xk+1,將修正值作為系統(tǒng)再下一時刻的狀態(tài)向量,如此反復(fù)地進行預(yù)測、修正計算,使系統(tǒng)跟蹤過程在存在噪聲、其它物體等干擾情況下,能較準(zhǔn)確地擬合目標(biāo)運動軌跡。
卡爾曼濾波預(yù)測的性能,依賴于先驗、后驗估計誤差協(xié)方差
根據(jù)系統(tǒng)狀態(tài)變量的線性關(guān)系,本方案中的過程增益矩陣a、觀測增益矩陣h如下:
其中δt=tk+1-tk,而p(wk)~n(0,q),p(vk+1)~n(0,r)。
根據(jù)卡爾曼濾波由兩個估計誤差協(xié)方差來預(yù)測變量的原理,如果q<r,預(yù)測變量偏向于建立離散隨機過程的變化規(guī)律,反之則偏向于觀測數(shù)據(jù)中的白噪聲,所以q比r越小,預(yù)測效果越好。本方案中q、r的值采取對一組序列幀觀測數(shù)據(jù),包括目標(biāo)灰度質(zhì)心、由當(dāng)前幀計算得到的矩形框長寬,求平均值后與樣本相減,濾除其中的白噪聲部分后,即得到系統(tǒng)觀測噪聲矩陣r;過程噪聲矩陣q由濾波模型的輸入噪聲即圖像噪聲設(shè)為一定值。
對于兩個不同的濾波過程,考慮到運動目標(biāo)的灰度質(zhì)心在序列幀中變化較大,而外接矩形框反映目標(biāo)的大小理想情況下式固定不變的,因此取兩組不同的值:
三、灰度直方圖匹配
在卡爾曼濾波預(yù)測了下一幀圖像中的目標(biāo)后,需要確定當(dāng)前目標(biāo)是否為同一目標(biāo),即對目標(biāo)進行匹配。
本方案在計算出目標(biāo)幾何特征參數(shù)后,建立目標(biāo)模板,對目標(biāo)模板計算灰度概率分布得到目標(biāo)模板的灰度直方圖,在下一時刻獲得觀測數(shù)據(jù)后,對觀測數(shù)據(jù)計算得到的外接矩形框區(qū)域進行灰度概率分布計算得到該區(qū)域灰度直方圖,然后根據(jù)匹配規(guī)則進行匹配。
具體的,在k+1時刻獲得跟蹤目標(biāo)的檢測算法的結(jié)果后,計算跟蹤目標(biāo)幾何特征參數(shù)值得到觀測向量z1k+1、z2k+1,并計算跟蹤目標(biāo)的灰度概率分布得到灰度分布直方圖,按匹配規(guī)則進行目標(biāo)匹配,具體為:
兩灰度概率分布滿足均值e(pk+1)-e(pk)<h、方差d(pk+1)-d(pk)<l,且質(zhì)心距離小于設(shè)定值β,則認(rèn)為觀測目標(biāo)與預(yù)測目標(biāo)匹配;其中參數(shù)h=6.5,l=310,β=20.5。
在匹配成功則將觀測向量代入濾波觀測方程(公式7)修正預(yù)測值,并將修正值繼續(xù)預(yù)測再下一時刻目標(biāo)狀態(tài)向量。
若在多目標(biāo)跟蹤時,發(fā)生目標(biāo)重合造成匹配失敗,將目標(biāo)設(shè)定為暫時丟失狀態(tài),以預(yù)測值x1k+1、x2k+1代入狀態(tài)方程繼續(xù)預(yù)測,直到匹配成功,設(shè)定k=30,超過設(shè)定值認(rèn)為目標(biāo)失蹤。
以上顯示和描述了本發(fā)明的基本原理、主要特征和本發(fā)明的優(yōu)點。本行業(yè)的技術(shù)人員應(yīng)該了解,本發(fā)明不受上述實施例的限制,上述實施例和說明書中描述的只是說明本發(fā)明的原理,在不脫離本發(fā)明精神和范圍的前提下,本發(fā)明還會有各種變化和改進,這些變化和改進都落入要求保護的本發(fā)明范圍內(nèi)。本發(fā)明要求保護范圍由所附的權(quán)利要求書及其等效物界定。