多分類器融合方法和系統(tǒng)的制作方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及信息處理領(lǐng)域，特別涉及一種多分類器融合方法和系統(tǒng)。
【背景技術(shù)】
[0002] 分類器（Classifier)的設(shè)計(jì)目標(biāo)是在通過(guò)自動(dòng)學(xué)習(xí)后，可將數(shù)據(jù)分到已知類別。 分類器有單分類器和多分類器之分，在尋求性能最優(yōu)的單分類器基礎(chǔ)上，如果要進(jìn)一步提 升效果，就需要考慮多分類器的融合。
[0003] 近年來(lái)，多分類器融合技術(shù)己成為大數(shù)據(jù)領(lǐng)域的熱點(diǎn)之一。多分類器融合技術(shù)能 夠綜合利用各單分類器的性能和互補(bǔ)性，在先驗(yàn)知識(shí)不充分的情況下憑借綜合各個(gè)成員分 類器的優(yōu)勢(shì)，使多分類器整體取得更優(yōu)的效果。
[0004] 目前構(gòu)造融合分類器的方法主要有：不同的分類器采用不同的訓(xùn)練數(shù)據(jù)；不同的 分類器采用不同特征向量的模式表示；采用不同類型的分類器或?qū)ν环诸惼鞑捎貌煌?結(jié)構(gòu)。但這些方法往往采用分類錯(cuò)誤率或分類誤差作為融合分類器性能的評(píng)估方法，沒(méi)有 兼顧成員分類器之間的互補(bǔ)性，究其原因?yàn)槿狈υu(píng)估成員分類器互補(bǔ)性的方法。

【發(fā)明內(nèi)容】

[0005] 本發(fā)明實(shí)施例提供一種多分類器融合方法和系統(tǒng)。通過(guò)利用充分考慮分類器整體 性能和分類器間互補(bǔ)性的適應(yīng)度函數(shù)構(gòu)造的遺傳算法，從而可優(yōu)化各成員分類器權(quán)重，最 終得到一個(gè)最優(yōu)的分類器。
[0006] 根據(jù)本發(fā)明的一個(gè)方面，提供一種多分類器融合方法，包括：
[0007] 將訓(xùn)練集數(shù)據(jù)輸入N個(gè)成員分類器以生成相應(yīng)的N個(gè)預(yù)測(cè)結(jié)果；
[0008] 將成員分類器的權(quán)重向量作為當(dāng)前種群，并提取當(dāng)前種群的權(quán)重值；
[0009] 根據(jù)N個(gè)預(yù)測(cè)結(jié)果和當(dāng)前種群的權(quán)重值，計(jì)算成員分類器之間的互補(bǔ)性指標(biāo)Cd ;
[0010] 計(jì)算每個(gè)種群所對(duì)應(yīng)的融合分類器整體性能FP ;
[0011] 根據(jù)整體性能指標(biāo)FP和互補(bǔ)性指標(biāo)Cd，計(jì)算每個(gè)種群的適應(yīng)度函數(shù)值Fit ;
[0012] 根據(jù)每個(gè)種群的適應(yīng)度函數(shù)值Fit，通過(guò)遺傳算法中的選擇、交叉和變異處理，生 成新一代種群以作為當(dāng)前種群；
[0013] 判斷是否滿足預(yù)定的終止條件；
[0014] 若不滿足預(yù)定的終止條件，則執(zhí)行提取當(dāng)前種群的權(quán)重值的步驟；
[0015] 若滿足預(yù)定的終止條件，則選取具有最大適應(yīng)度函數(shù)值Fit的種群作為成員分類 器的權(quán)重，從而構(gòu)建出最優(yōu)融合分類器。
[0016] 在一個(gè)實(shí)施方式中，根據(jù)N個(gè)預(yù)測(cè)結(jié)果和當(dāng)前種群的權(quán)重值，計(jì)算成員分類器之 間的互補(bǔ)性指標(biāo)Cd的步驟包括：
[0017] 分別計(jì)算N個(gè)預(yù)測(cè)結(jié)果各自的綜合評(píng)價(jià)指標(biāo)Fl-Neasure ;
[0018] 在N個(gè)成員分類器中，將對(duì)應(yīng)于綜合評(píng)價(jià)指標(biāo)Fl-Neasure最大的成員分類器作為 基準(zhǔn)分類器；
[0019] 在N個(gè)成員分類器中，分別計(jì)算除基準(zhǔn)分類器之外的其它N-1個(gè)成員分類器與基 準(zhǔn)分類器的Jaccard相似度；
[0020] 根據(jù)所述Jaccard相似度和當(dāng)前種群的權(quán)重值，計(jì)算成員分類器之間的互補(bǔ)性指 標(biāo)
[0021] 在一個(gè)實(shí)施方式中，利用公式
[0022]
[0023] 計(jì)算成員分類器之間的互補(bǔ)性指標(biāo)Cd，其中Sindex為基準(zhǔn)分類器的索弓丨，si mi為第 i個(gè)成員分類器與基準(zhǔn)分類器的Jaccard相似度，Wl'為第i個(gè)成員分類器的權(quán)重。
[0024] 在一個(gè)實(shí)施方式中，計(jì)算每個(gè)種群所對(duì)應(yīng)的融合分類器整體性能FP的步驟包括：
[0025] 對(duì)于每個(gè)種群，根據(jù)所有訓(xùn)練樣本的融合分類結(jié)果，計(jì)算融合后的綜合評(píng)價(jià)指標(biāo) Fl-Neasure，以作為對(duì)應(yīng)融合分類器的整體性能FP。
[0026] 在一個(gè)實(shí)施方式中，根據(jù)整體性能指標(biāo)FP和互補(bǔ)性指標(biāo)Cd，計(jì)算每個(gè)種群的適應(yīng) 度函數(shù)值Fit的步驟包括：
[0027] 利用公式
[0028]
[0029] 計(jì)算迠奴度凼數(shù)但Hit。
[0030] 根據(jù)本發(fā)明的另一方面，提供一種多分類器融合系統(tǒng)，包括預(yù)測(cè)結(jié)果生成單元、種 群產(chǎn)生單元、權(quán)重值提取單元、互補(bǔ)性計(jì)算單元、整體性能計(jì)算單元、適應(yīng)度計(jì)算單元、種群 更新單元、識(shí)別單元和最優(yōu)分類器構(gòu)建單元，其中：
[0031] 預(yù)測(cè)結(jié)果生成單元，用于將訓(xùn)練集數(shù)據(jù)輸入N個(gè)成員分類器以生成相應(yīng)的N個(gè)預(yù) 測(cè)結(jié)果；
[0032] 種群產(chǎn)生單元，用于將成員分類器的權(quán)重向量作為當(dāng)前種群；
[0033] 權(quán)重值提取單元，用于提取當(dāng)前種群的權(quán)重值；
[0034] 互補(bǔ)性計(jì)算單元，用于根據(jù)N個(gè)預(yù)測(cè)結(jié)果和當(dāng)前種群的權(quán)重值，計(jì)算成員分類器 之間的互補(bǔ)性指標(biāo)Cd ;
[0035] 整體性能計(jì)算單元，用于計(jì)算每個(gè)種群所對(duì)應(yīng)的融合分類器整體性能FP ;
[0036] 適應(yīng)度計(jì)算單元，用于根據(jù)整體性能指標(biāo)FP和互補(bǔ)性指標(biāo)Cd，計(jì)算每個(gè)種群的適 應(yīng)度函數(shù)值Fit ;
[0037] 種群更新單元，用于根據(jù)每個(gè)種群的適應(yīng)度函數(shù)值Fit，通過(guò)遺傳算法中的選擇、 交叉和變異處理，生成新一代種群以作為當(dāng)前種群；
[0038] 識(shí)別單元，用于判斷是否滿足預(yù)定的終止條件；若不滿足預(yù)定的終止條件，則指示 權(quán)重值提取單元執(zhí)行提取當(dāng)前種群的權(quán)重值的操作；
[0039] 最優(yōu)分類器構(gòu)建單元，用于根據(jù)識(shí)別單元的判斷結(jié)果，若滿足預(yù)定的終止條件，則 選取具有最大適應(yīng)度函數(shù)值Fit的種群作為成員分類器的權(quán)重，從而構(gòu)建出最優(yōu)融合分類 器。
[0040] 在一個(gè)實(shí)施方式中，互補(bǔ)性計(jì)算單元具體用于分別計(jì)算N個(gè)預(yù)測(cè)結(jié)果各自的綜合 評(píng)價(jià)指標(biāo)Fl-Neasure ;在N個(gè)成員分類器中，將對(duì)應(yīng)于綜合評(píng)價(jià)指標(biāo)Fl-Neasure最大的成 員分類器作為基準(zhǔn)分類器；在N個(gè)成員分類器中，分別計(jì)算除基準(zhǔn)分類器之外的其它N-1個(gè) 成員分類器與基準(zhǔn)分類器的Jaccard相似度；根據(jù)所述Jaccard相似度和當(dāng)前種群的權(quán)重 值，計(jì)算成員分類器之間的互補(bǔ)性指標(biāo)Cd。
[0041 ] 在一個(gè)實(shí)施方式中，互補(bǔ)性計(jì)算單元利用公式
[0042]
[0043] 計(jì)算成員分類器之間的互補(bǔ)性指標(biāo)Cd，其中Sindex為基準(zhǔn)分類器的索弓丨，si mi為第 i個(gè)成員分類器與基準(zhǔn)分類器的Jaccard相似度，Wl'為第i個(gè)成員分類器的權(quán)重。
[0044] 在一個(gè)實(shí)施方式中，整體性能計(jì)算單元具體對(duì)于每個(gè)種群，根據(jù)所有訓(xùn)練樣本的 融合分類結(jié)果，計(jì)算融合后的綜合評(píng)價(jià)指標(biāo)Fl-Neasure，以作為對(duì)應(yīng)融合分類器的整體性 能FP。
[0045] 在一個(gè)實(shí)施方式中，適應(yīng)度計(jì)算單元具體利用公式
[0046]
[0047] 計(jì)算迠應(yīng)度凼數(shù)值Fit。
[0048] 本發(fā)明通過(guò)利用融合分類器的整體性能和成員分類器間互補(bǔ)性構(gòu)造適度性函數(shù)， 從而可優(yōu)化各成員分類器權(quán)重，最終得到一個(gè)最優(yōu)的分類器。
【附圖說(shuō)明】
[0049] 為了更清楚地說(shuō)明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn) 有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見地，下面描述中的附圖僅僅是本 發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)性的前提下，還可 以根據(jù)這些附圖獲得其他的附圖。
[0050] 圖1為本發(fā)明多分類器融合方法一個(gè)實(shí)施例的示意圖。
[0051] 圖2為本發(fā)明多分類器融合系統(tǒng)一個(gè)實(shí)施例的示意圖。
[0052] 圖3為實(shí)施本發(fā)明多分類器融合一個(gè)實(shí)施例的示意圖。
【具體實(shí)施方式】
[0053] 下面將結(jié)合本發(fā)明實(shí)施例中的附圖，對(duì)本發(fā)明實(shí)施例中的技術(shù)方案進(jìn)行清楚、完 整地描述，顯然，所描述的實(shí)施例僅僅是本發(fā)明一部分實(shí)施例，而不是全部的實(shí)施例。以下 對(duì)至少一個(gè)示例性實(shí)施例的描述實(shí)際上僅僅是說(shuō)明性的，決不作為對(duì)本發(fā)明及其應(yīng)用或使 用的任何限制?；诒景l(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒(méi)有作出創(chuàng)造性勞動(dòng)前提 下所獲得的所有其他實(shí)施例，都屬于本發(fā)明保護(hù)的范圍。
[0054] 除非另外具體說(shuō)明，否則在這些實(shí)施例中闡述的部件和步驟的相對(duì)布置、數(shù)字表 達(dá)式和數(shù)值不限制本發(fā)明的范圍。
[0055] 同時(shí)，應(yīng)當(dāng)明白，為了便于描述，附圖中所示出的各個(gè)部分的尺寸并不是按照實(shí)際 的比例關(guān)系繪制的。
[0056] 對(duì)于相關(guān)領(lǐng)域