一種基于無監(jiān)督特征選擇的分類方法
【專利摘要】本發(fā)明公開了一種基于無監(jiān)督特征選擇的分類方法，將高維數(shù)據(jù)表述成相似圖形式，用信息理論度量學(xué)習(xí)（ITML）得到樣本點之間的距離，建立原高維數(shù)據(jù)的相似矩陣；接著對相似矩陣和其對應(yīng)的對角矩陣，采用SM算法完成原始樣本集到特征向量空間的映射；然后通過學(xué)習(xí)稀疏系數(shù)向量和MCFS得分，得到原始樣本集中每個屬性的權(quán)重系數(shù)，并選出最能表達原樣本信息的屬性；最后用支持向量機對特征選擇后的數(shù)據(jù)建立分類模型，對駕駛員的疲勞狀況進行預(yù)測。本方法在建立分類模型前，對高維數(shù)據(jù)在保留數(shù)據(jù)簇結(jié)構(gòu)的情況下進行特征選擇，從而解決了維度災(zāi)難給數(shù)據(jù)分類帶來的負面影響。
【專利說明】一種基于無監(jiān)督特征選擇的分類方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉 及信號處理、數(shù)據(jù)挖掘以及聚類分析等數(shù)據(jù)處理領(lǐng)域，具體涉及一種利用基于信息度量學(xué)習(xí)的無監(jiān)督特征選擇方法對高維數(shù)據(jù)進行降維，然后用支持向量機建立分類模型的方法。
【背景技術(shù)】
[0002]隨著互聯(lián)網(wǎng)和信息行業(yè)的不斷發(fā)展，經(jīng)濟、電子信息、醫(yī)學(xué)、氣象等多個領(lǐng)域的數(shù)據(jù)信息也迎來了爆發(fā)式增長的階段,其中不乏海量的高維數(shù)據(jù)。如何對高維數(shù)據(jù)進行分類，以更好地發(fā)現(xiàn)潛在的有用信息，是數(shù)據(jù)挖掘領(lǐng)域的研究熱點。
[0003]分類是通過建立描述預(yù)先定義的數(shù)據(jù)類或概念集的分類器，預(yù)測數(shù)據(jù)類標號的過程，有助于我們更好地全面了解數(shù)據(jù)，廣泛應(yīng)用于數(shù)據(jù)挖掘、機器學(xué)習(xí)、模式識別等領(lǐng)域，在電子商務(wù)等實際應(yīng)用中創(chuàng)造了巨大的價值。
[0004]針對高維數(shù)據(jù)分類問題，傳統(tǒng)方法通常是先對數(shù)據(jù)進行特征選擇，再建立分類模型。然而在特征選擇的時候通常是通過某種評價標準來對高維數(shù)據(jù)的特征進行重要性排序，忽略了不同的特征之間可能存在的關(guān)聯(lián)，因此不能產(chǎn)生最優(yōu)的特征子集，從而不能得到最優(yōu)的分類結(jié)果。

【發(fā)明內(nèi)容】

[0005]本發(fā)明的目的在于針對現(xiàn)有技術(shù)的不足，提供一種基于無監(jiān)督特征選擇的分類方法。
[0006]本發(fā)明的目的是通過以下技術(shù)方案來實現(xiàn)的:一種基于無監(jiān)督特征選擇的分類方法，該方法包括以下步驟:
[0007](I)采集疲勞駕駛實驗中志愿者的腦電圖，對腦電圖數(shù)據(jù)進行預(yù)處理，并進行特征抽取和歸一化，得到樣本數(shù)據(jù)集；
[0008](2)將步驟I得到的樣本數(shù)據(jù)集表述成相似圖形式，并采用信息理論度量學(xué)習(xí)得
到到樣本數(shù)據(jù)集中不同樣本點之間的距離，即
【權(quán)利要求】
1.一種基于無監(jiān)督特征選擇的分類方法，其特征在于，包括以下步驟: (1)采集疲勞駕駛實驗中志愿者的腦電圖，對腦電圖數(shù)據(jù)進行預(yù)處理，并進行特征抽取和歸一化，得到樣本數(shù)據(jù)集； (2)將步驟I得到的樣本數(shù)據(jù)集表述成相似圖形式，并采用信息理論度量學(xué)習(xí)得到樣本數(shù)據(jù)集中不同樣本點之間的距離，即
2.根據(jù)權(quán)利要求1所述基于無監(jiān)督特征選擇的分類方法，其特征在于，所述步驟2中所述的相似矩陣的建立方法如下: (2.1)將樣本數(shù)據(jù)集表示成相似圖形式，具體方法為:若數(shù)據(jù)點為X = [X1, ，xj，將樣本數(shù)據(jù)集中的每個對象看作是圖的頂點V，將頂點間的相似度量化作相應(yīng)頂點連接邊E的權(quán)值，得到一個基于相似度的無向加權(quán)圖G (V，E)，每個頂點只與k個相似度最高的點連邊，以簡化計算復(fù)雜度； (2.2)采用信息理論度量學(xué)習(xí)(ITML)算法計算相似圖中不同頂點的距離，其中馬氏距離的定義為
3.根據(jù)權(quán)利要求1所述基于無監(jiān)督特征選擇的分類方法，其特征在于，所述步驟3中所述的樣本數(shù)據(jù)集到特征向量空間的映射的方法具體如下: (3.1)定義一個對角矩陣D，其對角線上的數(shù)為W中對應(yīng)行的和，即Dii = Σ JffiJ0則相似圖的非規(guī)格拉普拉斯矩陣L定義為L = D-W; (3.2)通過Ly= λ Dy計算得到拉普拉斯矩陣的前k個特征向量,記為Y= Ly1,..., yk],完成了樣本數(shù)據(jù)集到特征向量空間的映射。
4.根據(jù)權(quán)利要求1所述的基于無監(jiān)督特征選擇的分類方法，其特征在于，所述步驟4中所述的得到每個維度對于樣本數(shù)據(jù)集的相關(guān)系數(shù)的方法具體如下:(4.1)根據(jù)步驟3得到的yi(i = l，2，...，k)，通過最小化擬合誤差公式
【文檔編號】G06K9/62GK103942568SQ201410166747
【公開日】2014年7月23日 申請日期:2014年4月22日 優(yōu)先權(quán)日:2014年4月22日
【發(fā)明者】鄭寶芬, 蘇宏業(yè), 羅林 申請人:浙江大學(xué)