一種基于黑森正則約束與a優(yōu)化的非負圖像數(shù)據(jù)降維方法
【技術領域】
[0001] 本發(fā)明屬于圖像數(shù)據(jù)處理技術領域，具體設及一種基于黑森正則約束與A優(yōu)化的 非負圖像數(shù)據(jù)降維方法。
【背景技術】
[0002] 在圖像聚類，圖像識別和基于圖像的情景模式識別等圖像處理領域，數(shù)據(jù)規(guī)模在 近期呈現(xiàn)爆炸式增長，且該些待處理的圖像數(shù)據(jù)往往都具有非常高維的特征。該些海量高 維特征數(shù)據(jù)，帶來了許多圖像存儲和處理方面的挑戰(zhàn)。幸運的是，研究人員發(fā)現(xiàn)該些圖像數(shù) 據(jù)的內(nèi)在維度相比其原始維度要低得多。該種使用低維的數(shù)據(jù)來替代數(shù)據(jù)的原始高維表 示的做法，被稱為降維。對于許多數(shù)據(jù)分析方法來說，利用降維可W減少維度災難的約束， 有效降低分析方法本身的計算復雜度，甚至還能提升一些方法的效果，如降維后數(shù)據(jù)可W 提高判別性從而改善聚類分析結果。近些年來，研究者提出了許多經(jīng)典的數(shù)據(jù)降維技術， 如矢量分解（VectorQuantization,VQ)、主成分分析（PrincipalComponentAnalysis， PCA)、線性判別分析（LinearDiscriminantAnalysis,LDA)、獨立成分分析（Incbpendent ComponentAnalysis,ICA)、稀疏編碼（SparseCoding)、局部保留投影（LocalPreserving Projection,LPF〇和非負矩陣分解（Non-negativeMatrixF'actorization，NMF)等。
[0003] 在所有該些方法中，非負矩陣分解是較為頻繁使用的基本方法。非負矩陣分解的 基本步驟是將原始數(shù)據(jù)矩陣分解成為兩個因子矩陣，而分解所得因子矩陣的乘積可W有效 地近似表示原始數(shù)據(jù)。非負矩陣分解所得的其中一個因子矩陣可W看作原始數(shù)據(jù)的一組 基，每組基向量都蘊含著一些數(shù)據(jù)的內(nèi)在語義；另一個因子矩陣則看作系數(shù)矩陣，來表述原 始數(shù)據(jù)與每組基向量的聯(lián)系，它相當于原始數(shù)據(jù)在低維空間下的新表示。此外，非負矩陣分 解還要求原始數(shù)據(jù)矩陣是非負（即矩陣的每個元素都是非負的）的，并且分解所得的基矩 陣和系數(shù)矩陣都是非負的。該種基于基向量組合的表示形式具有很直觀的語義解釋，它反 映了人類思維中"局部構成整體"的概念。在現(xiàn)實應用中，文本矩陣、圖像矩陣等原本就是 非負的，而非負矩陣分解后找到的基的數(shù)量通常要遠小于數(shù)據(jù)的原始維度。因此，非負矩陣 分解可W有效地壓縮數(shù)據(jù)大小，為其他數(shù)據(jù)學習方案如聚類、分類等提供便利。
[0004] 近年來，不斷有研究人員提出改進型的非負矩陣分解方法，如概念分解（Concept F'actorization，CF)、圖正則非負矩陣分解（Graph regularized Non-negative Matrix F'actorization，GNMF) W及帶約束的非負矩陣分解（Constrained Nonnegative Matrix 化ctorization，CNMF)等。該些改進方法雖然在各自針對的子問題上都有所突破，卻或是 沒有考慮使用線性回歸模型來約束降維后的數(shù)據(jù)表示，或是沒有顧及原始圖像數(shù)據(jù)的流形 結構中包含的內(nèi)在幾何特性。因此，該些非負矩陣分解方法所得到的基可能與原始數(shù)據(jù)距 離甚遠，使用該類基來進行數(shù)據(jù)表示顯然也不會是最優(yōu)的。

【發(fā)明內(nèi)容】

[0005] 針對現(xiàn)有技術所存在的上述技術問題，本發(fā)明提供了一種基于黑森正則約束與A 優(yōu)化的非負圖像數(shù)據(jù)降維方法，能夠有效提取低維特征表示，所得的低維表示具有更強的 判別能力，可W明顯改良后續(xù)圖像數(shù)據(jù)分析的效果。
[0006] -種基于黑森正則約束與A優(yōu)化的非負圖像數(shù)據(jù)降維方法，包括如下步驟：
[0007] (1)獲取圖像樣本集合，通過圖像特征提取得到集合中每個圖像樣本的特征向量， 進而構建所述圖像樣本集合的樣本特征矩陣X ;
[0008] (2)根據(jù)所述的樣本特征矩陣X，基于黑森能量原則計算出對應的黑森正則矩陣 腫，
[000引 做根據(jù)所述的樣本特征矩陣X和黑森正則矩陣光，通過基于A優(yōu)化與黑森正則 約束的非負矩陣分解迭代算法，求解出基矩陣U和系數(shù)矩陣V，并使系數(shù)矩陣V作為圖像數(shù) 據(jù)的低維特征表示。
[0010] 所述的非負矩陣分解迭代算法基于W下迭代方程組：
[0024]
[002引其中；U嘴U w分別為第t次迭代和第t-1次迭代的基矩陣，V嘴V w分別為第t 次迭代和第t-1次迭代的系數(shù)矩陣，Pt和P W分別為第t次迭代和第t-1次迭代的輔助矩 陣，[diagO]表示由0中矩陣的對角線元素組建的對角矩陣，為中間矩降礦中第j行第k列元素，為基矩陣護-1中第j行第k列元素，巧^^，^為中間矩陣^^中第k行第i 列元素，為系數(shù)矩陣yt-i中第k行第i列元素，地W和請苗分別為輔助矩陣P嘴輔助 矩陣pw中第i行第k列元素，af；；苗為中間矩陣A"中第j行第k列元素，為中間矩 陣曠1中第j行第k列元素，為中間矩陣擴1中第k行第i列元素，瑪苗為中間矩陣 曠1中第k行第i列元素，4苗為中間矩陣Et-i中第i行第k列元素，/品切中間矩陣護-1 中第i行第k列元素，嗦示矩陣轉置，如品為中間矩陣滬中第k行第i列元素，非品為 中間矩陣曠1中第k行第1列元素，新子j)為中間矩阿gt-l中第k行第i列元素，爲f/Tj)為 中間矩陣護-1中第k行第i列元素，巧占 1)為中間矩陣Qt-i中第k行第1列元素，弓(心)為 中間矩陣$1-1中第k行第1列元素，t為迭代次數(shù)，i、j、k和1均為自然數(shù)且1《i《n， 1《j《m，l《k《r，l《1《r，n為樣本特征矩陣X的列數(shù)即集合中圖像樣本的個數(shù)，m 為樣本特征矩陣X的行數(shù)即每個圖像樣本的特征個數(shù)，r為系數(shù)矩陣V的行數(shù)即樣本特征 矩陣X降維后的維度，a、P和A均為預設的迭代運算系數(shù)。
[0030]所述的迭代運算系數(shù)a、P和A滿足W下關系式：
[00引] 入二曰P
[0032] 所述非負矩陣分解迭代算法的迭代終止條件如下：
[0033]
[0034]
[00巧]其中；TrO表示0中矩陣的跡，I為單位矩陣，丫為迭代運算系數(shù)且為實際經(jīng)驗 值，〇t和〇w分別為第t次迭代和第t-1次迭代的目標判斷矩陣，P為預設的收斂闊值。
[0036] 本發(fā)明的有益技術效果如下；
[0037] (1)基于統(tǒng)計學的數(shù)據(jù)編碼；相比于傳統(tǒng)的基于非負矩陣分解的圖像數(shù)據(jù)降維方 法，本發(fā)明基于嶺回歸模型，在目標函數(shù)中加入A優(yōu)化正則項，使得分解得到的數(shù)據(jù)表示， 不論其數(shù)據(jù)標注值如何選擇，都服從一個穩(wěn)定的線性模型，預測誤差較小。
[0038] (2)考慮原始圖像數(shù)據(jù)的內(nèi)在幾何結構；相比于傳統(tǒng)的基于非負矩陣分解的圖像 數(shù)據(jù)降維方法，本發(fā)明通過在非負矩陣分解的目標函數(shù)中加入黑森正則項，使得分解得到 的數(shù)據(jù)表示能夠保存原有圖像數(shù)據(jù)的流形結構中包含的內(nèi)在特性。
[0039] (3)處理高維數(shù)據(jù)的有效性；相比于直接的使用原始數(shù)據(jù)進行數(shù)據(jù)分析，本發(fā)明 通過降維去掉了高維數(shù)據(jù)中的冗余信息，提取出了能準確表示數(shù)據(jù)語義結構的低維表示， 使得對于高維圖像數(shù)據(jù)的聚類等數(shù)據(jù)分析變得簡單而有效。
【附圖說明】
[0040] 圖1為本發(fā)明基于黑森正則約束與A優(yōu)化的非負圖像數(shù)據(jù)降維方法的流程示意 圖。
【具體實施方式】
[0041] 為了更為具體地描述本發(fā)明，下面結合附圖及【具體實施方式】對本發(fā)明的技術方案 進行詳細說明。
[0042] 如圖1所示，本發(fā)明基于黑森正則約束與A優(yōu)化的非負圖像數(shù)據(jù)降維方法，包括如 下步驟：
[0043] (1)構建樣本特征矩陣。
[0044] 本實施方式W MINIST手寫體數(shù)字數(shù)據(jù)集為例，該數(shù)據(jù)集合的統(tǒng)計信息如表1所 示：
[0045]表1
[0046]
[0047] 其中，MINIST數(shù)據(jù)集中有4000張手寫體數(shù)字圖像，4000張手寫體數(shù)字圖像由10 個不同的手寫體數(shù)字組成（每個數(shù)字400張圖像），直接選取圖像像素的灰度值作為圖像特 征。
[0048] 選取MINIST數(shù)據(jù)集中兩類實例作為原始的高維數(shù)據(jù)集合（即確定聚類個數(shù)1 = 2)，并構建對應的樣本特征矩陣X，X為mXn維矩陣，m為樣本的特征個數(shù)（即圖像的像素 個數(shù)），n為樣本個數(shù)（即圖像帖數(shù)），n = 2X400 = 800,m = 784 ;則樣本特征矩