本發(fā)明涉及一種基于擴(kuò)散距離高置信度信息的圖像顯著性物體檢測方法,屬于計算機(jī)圖像處理中顯著性檢測技術(shù)領(lǐng)域。
背景技術(shù):
圖像顯著性物體檢測方法是提取圖像中最引人注意物體的一種有效手段。圖像顯著性物體自動檢測方法通過計算圖像中物體的外觀對比度或與背景外觀的差異性來衡量物體的顯著性,在此基礎(chǔ)上還可進(jìn)一步對檢測結(jié)果后處理,利用優(yōu)化方法增強(qiáng)檢測結(jié)果的結(jié)構(gòu)連續(xù)性,進(jìn)而提高檢測效果。按是否使用了后處理優(yōu)化分類,現(xiàn)有的圖像顯著性物體自動檢測方法的幾種類型及相應(yīng)存在的問題如下:
1、不使用后處理優(yōu)化的方法通常需要計算圖像中物體的外觀與其他區(qū)域的對比度或者到背景的距離來衡量物體顯著性。這些方法計算速度較快,但由于缺少全局信息,通常會受到噪聲的影響。
2、使用后處理優(yōu)化的方法在科研領(lǐng)域十分流行。它憑借在優(yōu)化過程中維持圖像的結(jié)構(gòu)信息增強(qiáng)了噪聲魯棒性。但這類方法初始化信息對前景和背景的表達(dá)能力較弱且通常包含噪聲,這些缺陷有可能嚴(yán)重削弱優(yōu)化的效果。
不使用后處理優(yōu)化的方法存在對噪聲敏感的問題,而后處理優(yōu)化方法的初始化信息置信度不高,對前景和背景的表達(dá)能力較弱且通常包含噪聲。如何提高后處理優(yōu)化方法的初始化信息置信度仍然是一個亟待解決的問題。
技術(shù)實現(xiàn)要素:
本發(fā)明的目的是提出一種基于擴(kuò)散距離高置信度信息的圖像顯著性物體檢測方法,利用擴(kuò)散距離的多尺度性質(zhì)提取高置信度前景信息,以增強(qiáng)檢測結(jié)果的準(zhǔn)確性和對噪聲的魯棒性,并減少計算迭代次數(shù),從圖像中提取出兼顧準(zhǔn)確性和完整性的顯著性物體。
本發(fā)明提出的基于擴(kuò)散距離高置信度信息的圖像顯著性物體檢測方法,包括以下步驟:
(1)利用超像素方法將待檢測圖像分割成n個超像素,分別構(gòu)建特征空間圖結(jié)構(gòu)和圖像空間圖結(jié)構(gòu),具體過程如下:
(1-1)利用超像素方法將待檢測圖像分割成n個超像素;
(1-2)設(shè)上述n個超像素中的任意一個超像素的顏色特征為超像素中所有像素的平均lab顏色,記為c,設(shè)上述n個超像素中的任意一個超像素的位置特征為超像素中所有像素在圖像空間中的平均位置,記為s;建立一個由上述平均lab顏色和上述平均位置組成的特征空間,利用下式,計算該特征空間中第i個超像素和第j個超像素之間的親和度a(i,j):
其中,σc和σs分別為顏色約束系數(shù)和空間約束的系數(shù),ci和cj分別表示第i個超像素的平均lab顏色和第j個超像素的平均lab顏色,si和sj分別表示第i個超像素的平均位置和第j個超像素的平均位置,e為自然對數(shù);
以上述n個超像素為節(jié)點(diǎn),根據(jù)上述親和度a(i,j),構(gòu)建一個特征空間圖結(jié)構(gòu),該圖結(jié)構(gòu)中的每個超像素與親和度最大的8個超像素相連,特征空間圖結(jié)構(gòu)的邊權(quán)重為a(i,j);
(1-3)在上述待檢測圖像的n個超像素中,使相鄰兩個超像素或享有相同鄰居的超像素相連,并使待檢測圖像邊界的所有超像素相連,所有相連的邊和所有超像素構(gòu)建一個圖像空間圖結(jié)構(gòu),利用下式計算圖像空間圖結(jié)構(gòu)中第i個超像素和第j個超像素之間的親和度b(i,j):
其中,σf為顏色約束系數(shù),fi表示第i個超像素的平均lab顏色,e為自然對數(shù),圖像空間圖結(jié)構(gòu)的親和度b(i,j)即為圖像空間圖結(jié)構(gòu)的邊權(quán)重;
(2)在上述特征空間圖結(jié)構(gòu)和圖像空間圖結(jié)構(gòu)中分別計算擴(kuò)散距離,具體過程如下:
(2-1)根據(jù)上述特征空間圖結(jié)構(gòu)的邊權(quán)重,構(gòu)建一個特征空間圖結(jié)構(gòu)的鄰接矩陣a1,對鄰接矩陣a1中的每行元素進(jìn)行歸一化處理,使得每行元素的和為1,得到一個特征空間圖結(jié)構(gòu)的轉(zhuǎn)移矩陣m1,計算得到轉(zhuǎn)移矩陣m1的特征值λ和特征向量ψ;根據(jù)特征值λ和特征向量ψ,利用下式,計算第g個超像素的映射向量yt(g):
其中ψk(g)表示特征向量ψ中第k個特征向量的第g個值,λk表示特征值λ中第k個特征值,g=1,2,3,…,i,j,…,n,t表示擴(kuò)散時間,
根據(jù)上,述計算的映射向量,利用下式,計算特征空間圖結(jié)構(gòu)中第i個超像素和第j個超像素之間的擴(kuò)散距離d1(i,j);
d1(i,j)=|yt(i)-yt(j)|2
其中|·|2表示歐式距離計算方法;
(2-2)根據(jù)上述圖像空間圖結(jié)構(gòu)的邊權(quán)重,構(gòu)建一個圖像空間圖結(jié)構(gòu)的親和矩陣a2,對矩陣a2中的每行元素進(jìn)行歸一化處理,使得每行元素的和為1,得到一個圖像空間圖結(jié)構(gòu)轉(zhuǎn)移矩陣m2,計算矩陣m2的特征值λ和特征向量θ,利用下式,計算第i個超像素的映射向量wu(i):
其中θl(i)表示第l個特征向量中的第i個值,γl表示第l個特征值,u表示擴(kuò)散時間,
根據(jù)上述計算的映射向量,利用下式,計算圖像空間圖結(jié)構(gòu)中第i個超像素和第j個超像素之間的擴(kuò)散距離d2(i,j);
d2(i,j)=|wu(i)-wu(j)|2
其中|·|2表示歐式距離計算方法;
(3)以擴(kuò)散時間為尺度,分別計算不同擴(kuò)散時間上述特征空間圖結(jié)構(gòu)中的每個超像素到圖像邊界超像素的最小擴(kuò)散距離,得到不同尺度下的顯著性圖,具體過程如下:
(3-1)設(shè)定一組擴(kuò)散時間,第一個選取的擴(kuò)散時間為40~60,每間隔150~250為第二個選取的擴(kuò)散時間、第三個選取的擴(kuò)散時間,以此類推;
(3-2)在上述選取的擴(kuò)散時間下,利用上述步驟(2-1)的計算公式,分別計算上述步驟(1-2)特征空間圖結(jié)構(gòu)任意一個超像素到所有圖像邊界超像素的擴(kuò)散距離,將該擴(kuò)散距離中的最小值作為該超像素的顯著性值,遍歷特征空間圖結(jié)構(gòu)中的所有超像素,重復(fù)本步驟,得到所有超像素的顯著性值,將所有超像素的顯著性值組合起來,得到當(dāng)前擴(kuò)散時間下的顯著性圖;
(3-3)分別在上述選取的每個擴(kuò)散時間下計算顯著性圖,直至選取的擴(kuò)散時間大于400~600,或上述步驟(3-2)計算得到的最小擴(kuò)散距離小于0.0003,結(jié)束計算,每個擴(kuò)散時間代表一個尺度,得到特征空間圖結(jié)構(gòu)中不同尺度下的顯著性圖,即為特征空間圖結(jié)構(gòu)的多尺度顯著性圖;
(4)以擴(kuò)散時間為尺度,分別計算不同擴(kuò)散時間上述圖像空間圖結(jié)構(gòu)中的每個超像素到圖像邊界超像素的最小擴(kuò)散距離,得到不同尺度下的顯著性圖,具體過程如下:
(4-1)設(shè)定一組擴(kuò)散時間,第一個選取的擴(kuò)散時間為40~60,每間隔150~250為第二個選取的擴(kuò)散時間、第三個選取的擴(kuò)散時間,以此類推;
(4-2)在上述選取的擴(kuò)散時間下,利用上述步驟(2-2)的計算公式,分別計算上述步驟(1-3)圖像空間圖結(jié)構(gòu)任意一個超像素到所有圖像邊界超像素的擴(kuò)散距離,將該擴(kuò)散距離中的最小值作為該超像素的顯著性值,遍歷圖像空間圖結(jié)構(gòu)中的所有超像素,重復(fù)本步驟,得到所有超像素的顯著性值,將所有超像素的顯著性值組合起來,得到當(dāng)前擴(kuò)散時間下的顯著性圖;
(4-3)分別在上述選取的每個擴(kuò)散時間下計算顯著性圖,直至選取的擴(kuò)散時間大于400~600,或上述步驟(3-2)計算得到的最小擴(kuò)散距離小于0.0003,結(jié)束計算,每個擴(kuò)散時間代表一個尺度,得到圖像空間圖結(jié)構(gòu)中不同尺度下的顯著性圖,即為圖像空間圖結(jié)構(gòu)的多尺度顯著性圖;
(5)根據(jù)上述步驟(3-3)的特征空間圖結(jié)構(gòu)多尺度顯著性圖和步驟(4-3)的圖像空間圖結(jié)構(gòu)多尺度顯著性圖,計算得到高置信顯著性圖shc,包括以下步驟:
(5-1)將上述步驟(3-3)的特征空間圖結(jié)構(gòu)多尺度顯著性圖和步驟(4-3)的圖像空間圖結(jié)構(gòu)多尺度顯著性圖進(jìn)行組合,得到多尺度顯著性圖集合s;
(5-2)利用下式,計算待檢測圖像中第i個超像素和第k個超像素的顏色距離dc(i,k):
其中ni和nk分別表示超像素i內(nèi)像素的顏色個數(shù)和超像素k內(nèi)像素的顏色個數(shù),hi,m表示第i個超像素中第m種顏色的像素個數(shù)比例,hk,n表示第k個超像素中第n種顏色的像素個數(shù)比例,pi,m表示第i個超像素中的第m種顏色,pk,n表示第k個超像素中的第n種顏色,|·|2表示歐式距離計算方法;
根據(jù)上述計算的超像素顏色距離,利用下式,計算第i個超像素的對比度值g(i):
其中,ω(i)表示第i個超像素的像素個數(shù),ds(i,k)表示第i個超像素的平均位置與第k個超像素的平均位置之間的歐式距離,σd表示空間約束系數(shù);
重復(fù)上述過程,得到所有待檢測圖像的超像素對比度值;
將待檢測圖像中每個超像素的所有對比度值進(jìn)行組合,得到待檢測圖像的超像素對比度圖gm;
(5-3)設(shè)上述步驟(5-1)的多尺度顯著性圖集合s中的第v個顯著性圖為sv,根據(jù)上述步驟(5-2)得到的待檢測圖像的超像素對比度圖gm,利用下式,計算顯著性圖sv的可信度c(v):
其中·表示點(diǎn)積,sum為顯著性圖si中所有元素的和;
根據(jù)上述計算得到的顯著性圖si的可信度c(v),利用下式,計算顯著性圖sv的加權(quán)融合權(quán)重w(v):
w(v)=e10c(v)-1
其中,e為自然對數(shù);
遍歷多尺度顯著性圖集合s中所有的顯著性圖,重復(fù)上述過程,分別得到多尺度顯著性圖集合s中每個顯著性圖的融合權(quán)重w(v);
(5-4)根據(jù)上述計算得到的加權(quán)融合權(quán)重,利用下式,對多尺度顯著性圖集合s中的所有顯著性圖進(jìn)行加權(quán)融合,得到高置信顯著性圖shc;
其中,z表示多尺度顯著性圖集合s中所有顯著性圖的加權(quán)融合權(quán)重的和;
(6)根據(jù)上述高置信前景圖shc,計算得到待檢測圖像顯著性物體檢測結(jié)果,包括以下步驟:
(6-1)將上述高置信前景圖shc中的元素歸一化到區(qū)間[0,255],將元素值大于200的超像素作為前景種子點(diǎn)fseeds;
(6-2)利用基于最小生成樹的實時顯著性物體檢測方法,將待檢測圖像構(gòu)建成一個最小生成樹,在最小生成樹上,分別計算待檢測圖像中所有像素到待檢測圖像邊界的最小障礙距離,根據(jù)所有最小障礙距離,得到距離圖md,將md中的元素歸一化到區(qū)間[0,255],將元素值小于40的超像素作為背景種子點(diǎn)bseeds;
(6-3)將待檢測圖像中除前景種子點(diǎn)和背景種子點(diǎn)以外的其他像素初始化為初步前景點(diǎn);
(6-4)將上述步驟(6-1)前景種子點(diǎn)包含的所有像素和上述步驟(6-3)的初步前景點(diǎn)包含的所有像素組合成前景像素集合f,將前景像素集合f構(gòu)建成一個前景顏色高斯混合模型gmmf;設(shè)待檢測圖像中除上述前景像素集合f以外的其他像素為背景像素集合b,將背景像素集合b構(gòu)建成一個背景顏色高斯混合模型gmmb;
(6-5)利用抓割方法,分別計算上述步驟(6-4)中的前景像素集合f中所有像素在上述前景顏色高斯混合模型gmmf中所屬的前景高斯分量索引值,根據(jù)上述前景像素集合f中所有像素的高斯分量索引值和前景像素集合f中每個像素的顏色,計算每個前景高斯分量模型,得到新的前景顏色高斯混合模型,記為gmmfnew;分別計算上述步驟(6-4)中的背景像素集合b中所有像素在上述背景顏色高斯混合模型gmmb中所屬的背景高斯分量索引值,根據(jù)上述背景像素集合b中所有像素的高斯分量索引值和背景像素集合b中每個像素的顏色,計算每個背景高斯分量模型,得到新的背景顏色高斯混合模型,記為gmmbnew;
設(shè)待檢測圖像中上述步驟(6-4)的前景像素集合f中像素的標(biāo)簽為1,設(shè)待檢測圖像中上述步驟(6-4)的背景像素集合b中像素的標(biāo)簽為0;
設(shè)fs為虛擬前景點(diǎn),虛擬前景點(diǎn)fs的標(biāo)簽為1,設(shè)bt為虛擬背景點(diǎn),虛擬背景點(diǎn)bt的標(biāo)簽為0,將虛擬前景點(diǎn)fs、虛擬背景點(diǎn)bt和待檢測圖像中的所有像素構(gòu)建成一個割圖cg,割圖cg中,待檢測圖像的每個像素與像素周圍相鄰的8個像素相連,設(shè)待檢測圖像中第q個像素pq與待檢測圖像中第r個像素pr相鄰,利用下式,計算像素pxs與像素pxr之間的邊權(quán)重δ(pq,pr):
其中cpq表示像素pq的lab顏色,cpr表示像素pr的lab顏色,e表示自然對數(shù),|·|2表示歐式距離計算方法,當(dāng)像素pq與像素pr在水平方向或者垂直方向相鄰時,κ取值為50,當(dāng)像素pq與像素pr斜向相鄰時,κ取值為
割圖cg中,待檢測圖像的每個像素都上述虛擬前景點(diǎn)fs相連,對待檢測圖像中的第q個像素pq進(jìn)行判斷,若前景種子點(diǎn)中包含pq,則設(shè)定pq與上述虛擬前景點(diǎn)fs之間的邊權(quán)重為一個常數(shù)β,本發(fā)明的一個實施例中β取值為450;若背景種子點(diǎn)中包含pq,則pq與上述虛擬前景點(diǎn)fs之間的邊權(quán)重為一個常數(shù)τ,本發(fā)明的一個實施例中τ取值為0;若pq既不屬于前景種子點(diǎn)又不屬于背景種子點(diǎn),則利用下式,計算pq在上述前景顏色高斯混合模型gmmfnew中的概率值pvf(q),
其中g(shù)cf表示上述前景顏色高斯混合模型gmmfnew的高斯分量個數(shù),ξfg(u)表示上述前景顏色高斯混合模型gmmfnew中第u個前景高斯分量的混合系數(shù),profg(u,q)表示像素pq的顏色在上述前景顏色高斯混合模型gmmfnew中第u個前景高斯分量中的高斯分布概率;
利用下式,計算pq與上述虛擬前景點(diǎn)fs之間的邊權(quán)重δ(pq,fs);
δ(pq,fs)=-ln(pvf(q))
其中l(wèi)n表示以自然對數(shù)e為底的對數(shù)函數(shù);
上述割圖cg中的待檢測圖像中的每個像素都與上述虛擬背景點(diǎn)bt相連,對于待檢測圖像中的第q個像素pq,若pq屬于前景種子點(diǎn),則pq與上述虛擬背景點(diǎn)bt之間的邊權(quán)重為一個常數(shù)τ;若pq屬于背景種子點(diǎn),則pq與上述虛擬背景點(diǎn)bt之間的邊權(quán)重為一個常數(shù)β;若pq既不屬于前景種子點(diǎn)又不屬于背景種子點(diǎn),則利用下式,計算pq在上述背景景顏色高斯混合模型gmmfnew中的概率值pvb(q),
其中g(shù)cb表示上述背景顏色高斯混合模型gmmbnew的高斯分量個數(shù),ζbg(u)表示上述背景顏色高斯混合模型gmmfnew中第u個背景高斯分量的混合系數(shù),probg(u,q)表示像素pq的顏色在上述背景顏色高斯混合模型gmmbnew中第u個背景高斯分量中的高斯分布概率;
利用下式,計算pq與上述虛擬背景點(diǎn)bt之間的邊權(quán)重δ(pq,bt);
δ(pq,bt)=-ln(pvb(q))
其中l(wèi)n表示以自然對數(shù)e為底的對數(shù)函數(shù);
在上述割圖cg中,以上述虛擬前景點(diǎn)fs為源點(diǎn),以上述虛擬背景點(diǎn)bt為匯點(diǎn),利用最大流最小割方法,將上述割圖cg分割成包含上述虛擬前景點(diǎn)fs的子圖fg和包含上述虛擬背景點(diǎn)bt的子圖bg;
將上述子圖fg內(nèi)待檢測圖像中除前景種子點(diǎn)和背景種子點(diǎn)以外的其他像素的標(biāo)簽設(shè)為1,將上述子圖bg內(nèi)待檢測圖像中除前景種子點(diǎn)和背景種子點(diǎn)以外的其他像素的標(biāo)簽設(shè)為0,將待檢測圖像中的前景種子點(diǎn)包含的所有像素的標(biāo)簽設(shè)為1,將待檢測圖像中的背景種子點(diǎn)包含的所有像素的標(biāo)簽設(shè)為0,得到當(dāng)前顯著性物體圖r,將本次顯著性物體圖r與上次顯著性物體圖r進(jìn)行比較,若本次顯著性物體圖r與上次顯著性物體圖r中相同位置且標(biāo)簽不同的像素個數(shù)小于50,則迭代終止,將本次顯著性物體圖r中標(biāo)簽為1的像素作為最終的顯著性物體檢測結(jié)果進(jìn)行輸出;若本次顯著性物體圖r與上次顯著性物體圖r中相同位置且標(biāo)簽不同的像素個數(shù)大于或等于50,則進(jìn)入步驟(6-6);
(6-6)對上述步驟中的待檢測圖像中前景種子點(diǎn)包含的所有像素組成的區(qū)域進(jìn)行形態(tài)學(xué)腐蝕操作,被腐蝕的前景種子點(diǎn)被標(biāo)記為初步前景點(diǎn),對待檢測圖像中距離圖像邊界m個像素寬度以上的背景種子點(diǎn)包含的所有像素組成的區(qū)域進(jìn)行形態(tài)學(xué)腐蝕操作,被腐蝕的背景種子點(diǎn)被標(biāo)記為初步背景點(diǎn),初步背景點(diǎn)包含的所有像素的標(biāo)簽設(shè)為0;
(6-7)利用步驟(6-5)中的計算方法,分別計算步驟(6-6)中前景種子點(diǎn)中的每個像素在前景顏色高斯混合模型gmmfnew中的概率值pvf和在背景高斯混合模型中的概率值pvb,對兩個概率值進(jìn)行比較,若pvf-pvb<∧,則將此種子點(diǎn)改為初步前景點(diǎn);若pvf-pvb≥∧,則維持原狀;本發(fā)明的一個實施例中∧取值為-0.06,分別計算上述得到的背景種子點(diǎn)中的每個像素在前景顏色高斯混合模型gmmfnew中的概率值pvf和在背景高斯混合模型中的概率值pvb,若pvb-pvf<∧,則將此種子點(diǎn)改為初步背景點(diǎn);若pvb-pvf≥∧,則維持原狀:
(6-8)返回步驟(6-5),完成待檢測圖像的顯著性物體檢測。
本發(fā)明提出的基于擴(kuò)散距離高置信度信息的圖像顯著性物體檢測方法,具有以下特點(diǎn)和優(yōu)點(diǎn):
本方法提出了多尺度融合的前景檢測方法,在融合多個尺度的檢測結(jié)果時,使用對比度信息計算每個尺度的融合權(quán)重。為了進(jìn)一步提升檢測準(zhǔn)確度,本方法利用已得到的高置信度信息作為約束設(shè)計顯著性優(yōu)化方法,在優(yōu)化過程的每次迭代中都對高置信度信息進(jìn)行改善,并利用高置信度信息對優(yōu)化結(jié)果進(jìn)行矯正,使得優(yōu)化過程只需要很少的迭代次數(shù)就可以檢測得到兼顧準(zhǔn)確性和完整性的顯著性物體檢測結(jié)果。
本發(fā)明的優(yōu)點(diǎn)如下:
1、本發(fā)明方法基于擴(kuò)散距離,在多個尺度上檢測顯著性物體,并基于對比度信息計算每個尺度檢測結(jié)果的融合權(quán)重,隨后將多尺度檢測結(jié)果加權(quán)融合得到前景檢測結(jié)果,得到了多尺度下更加完備且極具代表性的前景信息,增強(qiáng)了檢測結(jié)果的準(zhǔn)確性和對噪聲的魯棒性。
2、本發(fā)明方法在后處理優(yōu)化時,基于種子點(diǎn)采用迭代的方式提取顯著性物體,在后處理過程中對種子點(diǎn)進(jìn)行不斷改善,并使用種子點(diǎn)作為約束對當(dāng)前迭代結(jié)果進(jìn)行矯正,減少了迭代次數(shù),并可從圖像中提取出兼顧準(zhǔn)確性和完整性的顯著性物體。
附圖說明
圖1是本發(fā)明提出的基于擴(kuò)散距離高置信度信息的圖像顯著性物體檢測方法的流程框圖。
具體實施方式
本發(fā)明提出的基于擴(kuò)散距離高置信度信息的圖像顯著性物體檢測方法,其流程框圖如圖1所示,包括以下步驟:
(1)利用超像素方法(slic)將待檢測圖像分割成n個超像素,分別構(gòu)建特征空間圖結(jié)構(gòu)和圖像空間圖結(jié)構(gòu),具體過程如下:
(1-1)利用超像素方法(slic)將待檢測圖像分割成n個超像素;
(1-2)設(shè)上述n個超像素中的任意一個超像素的顏色特征為超像素中所有像素的平均lab顏色,記為c,設(shè)上述n個超像素中的任意一個超像素的位置特征為超像素中所有像素在圖像空間中的平均位置,記為s;建立一個由上述平均lab顏色和上述平均位置組成的特征空間,利用下式,計算該特征空間中第i個超像素和第j個超像素之間的親和度a(i,j):
其中,σc和σs分別為控制親和度值的顏色約束系數(shù)和空間約束的系數(shù),本發(fā)明的一個實施例中,σc和σs的取值分別為0.04和0.2,ci和cj分別表示第i個超像素的平均lab顏色和第j個超像素的平均lab顏色,si和sj分別表示第i個超像素的平均位置和第j個超像素的平均位置,e為自然對數(shù);
以上述n個超像素為節(jié)點(diǎn),根據(jù)上述親和度a(i,j),構(gòu)建一個特征空間圖結(jié)構(gòu),該圖結(jié)構(gòu)中的每個超像素與親和度最大的8個超像素相連,特征空間圖結(jié)構(gòu)的邊權(quán)重為a(i,j);
(1-3)在上述待檢測圖像的n個超像素中,使相鄰兩個超像素或享有相同鄰居的超像素相連,并使待檢測圖像邊界的所有超像素相連,所有相連的邊和所有超像素構(gòu)建一個圖像空間圖結(jié)構(gòu),利用下式計算圖像空間圖結(jié)構(gòu)中第i個超像素和第j個超像素之間的親和度b(i,j):
其中,σf為控制親和度值的顏色約束系數(shù),本發(fā)明的一個實施例中,σf取值為0.04,fi表示第i個超像素的平均lab顏色,e為自然對數(shù),圖像空間圖結(jié)構(gòu)的親和度b(i,j)即為圖像空間圖結(jié)構(gòu)的邊權(quán)重;
(2)在上述特征空間圖結(jié)構(gòu)和圖像空間圖結(jié)構(gòu)中分別計算擴(kuò)散距離,具體過程如下:
(2-1)根據(jù)上述特征空間圖結(jié)構(gòu)的邊權(quán)重,構(gòu)建一個特征空間圖結(jié)構(gòu)的鄰接矩陣a1,對鄰接矩陣a1中的每行元素進(jìn)行歸一化處理,使得每行元素的和為1,得到一個特征空間圖結(jié)構(gòu)的轉(zhuǎn)移矩陣m1,計算得到轉(zhuǎn)移矩陣m1的特征值λ和特征向量ψ;根據(jù)特征值λ和特征向量ψ,利用下式,計算第g個超像素的映射向量yt(g):
其中ψk(g)表示特征向量ψ中第k個特征向量的第g個值,λk表示特征值λ中第k個特征值,g=1,2,3,…,i,j,…,n,t表示擴(kuò)散時間,
根據(jù)上,述計算的映射向量,利用下式,計算特征空間圖結(jié)構(gòu)中第i個超像素和第j個超像素之間的擴(kuò)散距離d1(i,j);
d1(i,j)=|yt(i)-yt(j)|2
其中|·|2表示歐式距離計算方法;
(2-2)根據(jù)上述圖像空間圖結(jié)構(gòu)的邊權(quán)重,構(gòu)建一個圖像空間圖結(jié)構(gòu)的親和矩陣a2,對矩陣a2中的每行元素進(jìn)行歸一化處理,使得每行元素的和為1,得到一個圖像空間圖結(jié)構(gòu)轉(zhuǎn)移矩陣m2,計算矩陣m2的特征值γ和特征向量θ,利用下式,計算第i個超像素的映射向量wu(i):
其中θl(i)表示第l個特征向量中的第i個值,γl表示第l個特征值,u表示擴(kuò)散時間,
根據(jù)上述計算的映射向量,利用下式,計算圖像空間圖結(jié)構(gòu)中第i個超像素和第j個超像素之間的擴(kuò)散距離d2(i,j);
d2(i,j)=|wu(i)-wu(j)|2
其中|·|2表示歐式距離計算方法;
(3)以擴(kuò)散時間為尺度,分別計算不同擴(kuò)散時間上述特征空間圖結(jié)構(gòu)中的每個超像素到圖像邊界超像素的最小擴(kuò)散距離,得到不同尺度下的顯著性圖,具體過程如下:
(3-1)設(shè)定一組擴(kuò)散時間,第一個選取的擴(kuò)散時間為40~60,本發(fā)明的一個實施例中,第一個選取的擴(kuò)散時間為50,每間隔150~250為第二個選取的擴(kuò)散時間、第三個選取的擴(kuò)散時間,以此類推;
(3-2)在上述選取的擴(kuò)散時間下,利用上述步驟(2-1)的計算公式,分別計算上述步驟(1-2)特征空間圖結(jié)構(gòu)任意一個超像素到所有圖像邊界超像素的擴(kuò)散距離,將該擴(kuò)散距離中的最小值作為該超像素的顯著性值,遍歷特征空間圖結(jié)構(gòu)中的所有超像素,重復(fù)本步驟,得到所有超像素的顯著性值,將所有超像素的顯著性值組合起來,得到當(dāng)前擴(kuò)散時間下的顯著性圖;
(3-3)分別在上述選取的每個擴(kuò)散時間下計算顯著性圖,直至選取的擴(kuò)散時間大于400~600,或上述步驟(3-2)計算得到的最小擴(kuò)散距離小于0.0003,結(jié)束計算,每個擴(kuò)散時間代表一個尺度,得到特征空間圖結(jié)構(gòu)中不同尺度下的顯著性圖,即為特征空間圖結(jié)構(gòu)的多尺度顯著性圖;
(4)以擴(kuò)散時間為尺度,分別計算不同擴(kuò)散時間上述圖像空間圖結(jié)構(gòu)中的每個超像素到圖像邊界超像素的最小擴(kuò)散距離,得到不同尺度下的顯著性圖,具體過程如下:
(4-1)設(shè)定一組擴(kuò)散時間,第一個選取的擴(kuò)散時間為40~60,本發(fā)明的一個實施例中,第一個選取的擴(kuò)散時間為50,每間隔150~250為第二個選取的擴(kuò)散時間、第三個選取的擴(kuò)散時間,以此類推;
(4-2)在上述選取的擴(kuò)散時間下,利用上述步驟(2-2)的計算公式,分別計算上述步驟(1-3)圖像空間圖結(jié)構(gòu)任意一個超像素到所有圖像邊界超像素的擴(kuò)散距離,將該擴(kuò)散距離中的最小值作為該超像素的顯著性值,遍歷圖像空間圖結(jié)構(gòu)中的所有超像素,重復(fù)本步驟,得到所有超像素的顯著性值,將所有超像素的顯著性值組合起來,得到當(dāng)前擴(kuò)散時間下的顯著性圖;
(4-3)分別在上述選取的每個擴(kuò)散時間下計算顯著性圖,直至選取的擴(kuò)散時間大于400~600,或上述步驟(3-2)計算得到的最小擴(kuò)散距離小于0.0003,結(jié)束計算,每個擴(kuò)散時間代表一個尺度,得到圖像空間圖結(jié)構(gòu)中不同尺度下的顯著性圖,即為圖像空間圖結(jié)構(gòu)的多尺度顯著性圖;
(5)根據(jù)上述步驟(3-3)的特征空間圖結(jié)構(gòu)多尺度顯著性圖和步驟(4-3)的圖像空間圖結(jié)構(gòu)多尺度顯著性圖,計算得到高置信顯著性圖shc,包括以下步驟:
(5-1)將上述步驟(3-3)的特征空間圖結(jié)構(gòu)多尺度顯著性圖和步驟(4-3)的圖像空間圖結(jié)構(gòu)多尺度顯著性圖進(jìn)行組合,得到多尺度顯著性圖集合s;
(5-2)利用下式,計算待檢測圖像中第i個超像素和第k個超像素的顏色距離dc(i,k):
其中ni和nk分別表示超像素i內(nèi)像素的顏色個數(shù)和超像素k內(nèi)像素的顏色個數(shù),hi,m表示第i個超像素中第m種顏色的像素個數(shù)比例,hk,n表示第k個超像素中第n種顏色的像素個數(shù)比例,pi,m表示第i個超像素中的第m種顏色,pk,n表示第k個超像素中的第n種顏色,|·|2表示歐式距離計算方法;
根據(jù)上述計算的超像素顏色距離,利用下式,計算第i個超像素的對比度值g(i):
其中,ω(i)表示第i個超像素的像素個數(shù),ds(i,k)表示第i個超像素的平均位置與第k個超像素的平均位置之間的歐式距離,σd表示空間約束系數(shù),本發(fā)明的一個實施例中取值為0.4,
重復(fù)上述過程,得到所有待檢測圖像的超像素對比度值;
將待檢測圖像中每個超像素的所有對比度值進(jìn)行組合,得到待檢測圖像的超像素對比度圖gm;
(5-3)設(shè)上述步驟(5-1)的多尺度顯著性圖集合s中的第v個顯著性圖為sv,根據(jù)上述步驟(5-2)得到的待檢測圖像的超像素對比度圖gm,利用下式,計算顯著性圖sv的可信度c(v):
其中·表示點(diǎn)積,sum為顯著性圖si中所有元素的和;
根據(jù)上述計算得到的顯著性圖si的可信度c(v),利用下式,計算顯著性圖sv的加權(quán)融合權(quán)重w(v):
w(v)=e10c(v)-1
其中,e為自然對數(shù);
遍歷多尺度顯著性圖集合s中所有的顯著性圖,重復(fù)上述過程,分別得到多尺度顯著性圖集合s中每個顯著性圖的融合權(quán)重w(v);
(5-4)根據(jù)上述計算得到的加權(quán)融合權(quán)重,利用下式,對多尺度顯著性圖集合s中的所有顯著性圖進(jìn)行加權(quán)融合,得到高置信顯著性圖shc;
其中,z表示多尺度顯著性圖集合s中所有顯著性圖的加權(quán)融合權(quán)重的和;
(6)根據(jù)上述高置信前景圖shc,計算得到待檢測圖像顯著性物體檢測結(jié)果,包括以下步驟:
(6-1)將上述高置信前景圖shc中的元素歸一化到區(qū)間[0,255],將元素值大于200的超像素作為前景種子點(diǎn)fseeds;
(6-2)利用基于最小生成樹的實時顯著性物體檢測方法(簡稱mst,可參見論文《real-timesalientobjectdetectionwithaminimumspanningtree》),將待檢測圖像構(gòu)建成一個最小生成樹,在最小生成樹上,分別計算待檢測圖像中所有像素到待檢測圖像邊界的最小障礙距離,根據(jù)所有最小障礙距離,得到距離圖md,將md中的元素歸一化到區(qū)間[0,255],將元素值小于40的超像素作為背景種子點(diǎn)bseeds;
(6-3)將待檢測圖像中除前景種子點(diǎn)和背景種子點(diǎn)以外的其他像素初始化為初步前景點(diǎn);
(6-4)將上述步驟(6-1)前景種子點(diǎn)包含的所有像素和上述步驟(6-3)的初步前景點(diǎn)包含的所有像素組合成前景像素集合f,將前景像素集合f構(gòu)建成一個前景顏色高斯混合模型gmmf,本發(fā)明的一個實施例中前景顏色高斯混合模型的高斯分量取值為5;設(shè)待檢測圖像中除上述前景像素集合f以外的其他像素為背景像素集合b,將背景像素集合b構(gòu)建成一個背景顏色高斯混合模型gmmb,本發(fā)明的一個實施例中背景顏色高斯混合模型的高斯分量取值為5;
(6-5)利用抓割方法(簡稱grabcut,可參見論文《"grabcut":interactiveforegroundextractionusingiteratedgraphcuts》),分別計算上述步驟(6-4)中的前景像素集合f中所有像素在上述前景顏色高斯混合模型gmmf中所屬的前景高斯分量索引值,根據(jù)上述前景像素集合f中所有像素的高斯分量索引值和前景像素集合f中每個像素的顏色,計算每個前景高斯分量模型,得到新的前景顏色高斯混合模型,記為gmmfnew;分別計算上述步驟(6-4)中的背景像素集合b中所有像素在上述背景顏色高斯混合模型gmmb中所屬的背景高斯分量索引值,根據(jù)上述背景像素集合b中所有像素的高斯分量索引值和背景像素集合b中每個像素的顏色,計算每個背景高斯分量模型,得到新的背景顏色高斯混合模型,記為gmmbnew;
設(shè)待檢測圖像中上述步驟(6-4)的前景像素集合f中像素的標(biāo)簽為1,設(shè)待檢測圖像中上述步驟(6-4)的背景像素集合b中像素的標(biāo)簽為0;
設(shè)fs為虛擬前景點(diǎn),虛擬前景點(diǎn)fs的標(biāo)簽為1,設(shè)bt為虛擬背景點(diǎn),虛擬背景點(diǎn)bt的標(biāo)簽為0,將虛擬前景點(diǎn)fs、虛擬背景點(diǎn)bt和待檢測圖像中的所有像素構(gòu)建成一個割圖cg,割圖cg中,待檢測圖像的每個像素與像素周圍相鄰的8個像素相連,設(shè)待檢測圖像中第q個像素pq與待檢測圖像中第r個像素pr相鄰,利用下式,計算像素pxs與像素pxr之間的邊權(quán)重δ(pq,pr):
其中cpq表示像素pq的lab顏色,cpr表示像素pr的lab顏色,e表示自然對數(shù),|·|2表示歐式距離計算方法,當(dāng)像素pq與像素pr在水平方向或者垂直方向相鄰時,κ取值為50,當(dāng)像素pq與像素pr斜向相鄰時,κ取值為
割圖cg中,待檢測圖像的每個像素都上述虛擬前景點(diǎn)fs相連,對待檢測圖像中的第q個像素pq進(jìn)行判斷,若前景種子點(diǎn)中包含pq,則設(shè)定pq與上述虛擬前景點(diǎn)fs之間的邊權(quán)重為一個常數(shù)β,本發(fā)明的一個實施例中β取值為450;若背景種子點(diǎn)中包含pq,則pq與上述虛擬前景點(diǎn)fs之間的邊權(quán)重為一個常數(shù)τ,本發(fā)明的一個實施例中τ取值為0;若pq既不屬于前景種子點(diǎn)又不屬于背景種子點(diǎn),則利用下式,計算pq在上述前景顏色高斯混合模型gmmfnew中的概率值pvf(q),
其中g(shù)cf表示上述前景顏色高斯混合模型gmmfnew的高斯分量個數(shù),ξfg(u)表示上述前景顏色高斯混合模型gmmfnew中第u個前景高斯分量的混合系數(shù),profg(u,q)表示像素pq的顏色在上述前景顏色高斯混合模型gmmfnew中第u個前景高斯分量中的高斯分布概率;
利用下式,計算pq與上述虛擬前景點(diǎn)fs之間的邊權(quán)重δ(pq,fs);
δ(pq,fs)=-ln(pvf(q))
其中l(wèi)n表示以自然對數(shù)e為底的對數(shù)函數(shù);
上述割圖cg中的待檢測圖像中的每個像素都與上述虛擬背景點(diǎn)bt相連,對于待檢測圖像中的第q個像素pq,若pq屬于前景種子點(diǎn),則pq與上述虛擬背景點(diǎn)bt之間的邊權(quán)重為一個常數(shù)τ,本發(fā)明的一個實施例中τ取值為0;若pq屬于背景種子點(diǎn),則pq與上述虛擬背景點(diǎn)bt之間的邊權(quán)重為一個常數(shù)β,本發(fā)明的一個實施例中β取值為450;若pq既不屬于前景種子點(diǎn)又不屬于背景種子點(diǎn),則利用下式,計算pq在上述背景景顏色高斯混合模型gmmfnew中的概率值pvb(q),
其中g(shù)cb表示上述背景顏色高斯混合模型gmmbnew的高斯分量個數(shù),ξbg(u)表示上述背景顏色高斯混合模型gmmfnew中第u個背景高斯分量的混合系數(shù),probg(u,q)表示像素pq的顏色在上述背景顏色高斯混合模型gmmbnew中第u個背景高斯分量中的高斯分布概率;
利用下式,計算pq與上述虛擬背景點(diǎn)bt之間的邊權(quán)重δ(pq,bt);
δ(pq,bt)=-ln(pvb(q))
其中l(wèi)n表示以自然對數(shù)e為底的對數(shù)函數(shù);
在上述割圖cg中,以上述虛擬前景點(diǎn)fs為源點(diǎn),以上述虛擬背景點(diǎn)bt為匯點(diǎn),利用最大流最小割方法,將上述割圖cg分割成包含上述虛擬前景點(diǎn)fs的子圖fg和包含上述虛擬背景點(diǎn)bt的子圖bg;
將上述子圖fg內(nèi)待檢測圖像中除前景種子點(diǎn)和背景種子點(diǎn)以外的其他像素的標(biāo)簽設(shè)為1,將上述子圖bg內(nèi)待檢測圖像中除前景種子點(diǎn)和背景種子點(diǎn)以外的其他像素的標(biāo)簽設(shè)為0,將待檢測圖像中的前景種子點(diǎn)包含的所有像素的標(biāo)簽設(shè)為1,將待檢測圖像中的背景種子點(diǎn)包含的所有像素的標(biāo)簽設(shè)為0,得到當(dāng)前顯著性物體圖r,將本次顯著性物體圖r與上次顯著性物體圖r進(jìn)行比較,若本次顯著性物體圖r與上次顯著性物體圖r中相同位置且標(biāo)簽不同的像素個數(shù)小于50,則迭代終止,將本次顯著性物體圖r中標(biāo)簽為1的像素作為最終的顯著性物體檢測結(jié)果進(jìn)行輸出;若本次顯著性物體圖r與上次顯著性物體圖r中相同位置且標(biāo)簽不同的像素個數(shù)大于或等于50,則進(jìn)入步驟(6-6);
(6-6)對上述步驟中的待檢測圖像中前景種子點(diǎn)包含的所有像素組成的區(qū)域進(jìn)行形態(tài)學(xué)腐蝕操作,本發(fā)明的一個實施例中腐蝕半徑設(shè)為25個像素寬度,被腐蝕的前景種子點(diǎn)被標(biāo)記為初步前景點(diǎn),對待檢測圖像中距離圖像邊界m個像素寬度以上的背景種子點(diǎn)包含的所有像素組成的區(qū)域進(jìn)行形態(tài)學(xué)腐蝕操作,本發(fā)明的一個實施例中m設(shè)為10,腐蝕半徑設(shè)為25個像素寬度,被腐蝕的背景種子點(diǎn)被標(biāo)記為初步背景點(diǎn),初步背景點(diǎn)包含的所有像素的標(biāo)簽設(shè)為0;
(6-7)利用步驟(6-5)中的計算方法,分別計算步驟(6-6)中前景種子點(diǎn)中的每個像素在前景顏色高斯混合模型gmmfnew中的概率值pvf和在背景高斯混合模型中的概率值pvb,對兩個概率值進(jìn)行比較,若pvf-pvb<∧,則將此種子點(diǎn)改為初步前景點(diǎn);若pvf-pvb≥∧,則維持原狀;本發(fā)明的一個實施例中∧取值為-0.06,分別計算上述得到的背景種子點(diǎn)中的每個像素在前景顏色高斯混合模型gmmfnew中的概率值pvf和在背景高斯混合模型中的概率值pvb,若pvb-pvf<∧,則將此種子點(diǎn)改為初步背景點(diǎn);若pvb-pvf≥∧,則維持原狀;本發(fā)明的一個實施例中∧取值為-0.06。
(6-8)返回步驟(6-5),完成待檢測圖像的顯著性物體檢測。