背景技術(shù):
支持向量機(jī)(svm)可以是具有分析數(shù)據(jù)并識別模式的關(guān)聯(lián)學(xué)習(xí)算法的監(jiān)督學(xué)習(xí)模型,用于分類和回歸分析。給定訓(xùn)練示例的集合(每個(gè)被標(biāo)記為屬于兩個(gè)類別中的一個(gè)類別),svm訓(xùn)練算法可以構(gòu)建將新示例分配至一個(gè)類別或另一個(gè)類別的模型,使其成為非概率性二進(jìn)制線性分類器。
附圖說明
以下詳細(xì)描述參照附圖,其中:
圖1是用于計(jì)算多個(gè)類的后驗(yàn)概率的系統(tǒng)的示例框圖;
圖2是用于計(jì)算多個(gè)類的后驗(yàn)概率的系統(tǒng)的另一示例框圖;
圖3是包括用于計(jì)算多個(gè)類的后驗(yàn)概率的指令的計(jì)算設(shè)備的示例框圖;以及
圖4是用于計(jì)算多個(gè)類的后驗(yàn)概率的方法的示例流程圖。
具體實(shí)現(xiàn)方式
在以下描述中給出具體細(xì)節(jié)以提供對實(shí)施例的全面理解。然而,將理解的是,可以在沒有這些具體細(xì)節(jié)的情況下實(shí)踐實(shí)施例。例如,可以在框圖中示出系統(tǒng),以便于不因不必要的細(xì)節(jié)使實(shí)施例模糊不清。在其他情況下,可以在沒有不必要的細(xì)節(jié)的情況下示出眾所周知的過程、結(jié)構(gòu)和技術(shù),以便于避免使實(shí)施例模糊不清。
支持向量機(jī)(svm)模型可以是作為空間中點(diǎn)的示例的代表,被映射使得由盡可能寬的清晰邊緣劃分分離的類別的示例。新示例隨后可以映射至相同的空間中并且基于它們落入哪個(gè)邊緣側(cè)而預(yù)測屬于一類別。通常對于多類svm存在兩種方法。
在一對一(ovo)方法中,可以針對類的每對配對訓(xùn)練二進(jìn)制分類器。每個(gè)分類器可以將樣本分配至兩個(gè)類中的一個(gè)類。具有最多選票的類全勝。該方法可能具有無論分類器實(shí)際上提供了多少信息都均等地計(jì)數(shù)來自所有分類器選票的缺點(diǎn)。這也導(dǎo)致分類的置信度的不是非常有意義的指示的得分(選票的數(shù)量)。
在一對多(ova)方法中,可以在每個(gè)類與由來自所有其他類的樣本所構(gòu)成的類之間訓(xùn)練二進(jìn)制分類器。每個(gè)分類器可以不僅返回來自多類svm的選票,而且返回代表在樣本與劃分了類的超平面之間的距離的得分,該得分通過選擇使得距離類似于不同類的一些校準(zhǔn)因子而被加權(quán)。具有最高得分的類獲勝。該方法可能具有svm對于異質(zhì)類比對于同質(zhì)類執(zhí)行顯著較差的缺點(diǎn)。同樣,得分可能不具有清楚的概率性解釋。
本征地是二進(jìn)制分類器的示例將支持向量機(jī)應(yīng)用于多類分類問題。在此,示例可以是基于如上所述的一對一方法的,其中針對類的每對配對訓(xùn)練二進(jìn)制分類器。然而,替代簡單地將選票相加,每個(gè)二進(jìn)制分類器的結(jié)果可以用作到樸素貝葉斯(
示例的方法可以訓(xùn)練多個(gè)二進(jìn)制支持向量機(jī)(svm)以在多個(gè)類中的兩個(gè)類之間投票。二進(jìn)制svm中的每一個(gè)二進(jìn)制svm可以在多個(gè)類的不同配對之間投票。接著,可以將已驗(yàn)證樣本的集合輸入至二進(jìn)制svm中的每一個(gè)二進(jìn)制svm。已驗(yàn)證樣本的集合可以包括類中的每一個(gè)類的樣本。同樣,可以基于二進(jìn)制svm的投票確定可能性估計(jì)值。進(jìn)一步,可以針對類中的每一個(gè)類分配先驗(yàn)概率分布(先驗(yàn)率)。最后,可以基于所確定的可能性估計(jì)值和所分配的先驗(yàn)率,針對類中的每一個(gè)類計(jì)算后驗(yàn)概率。
因此,示例可以針對每個(gè)類產(chǎn)生有意義且容易地可解釋的得分。進(jìn)一步,示例可以不要求對基本二進(jìn)制svm算法的任何修改。進(jìn)一步,示例可以允許以比感興趣的類更高的同質(zhì)程度而訓(xùn)練子分類,這可以實(shí)現(xiàn)更好的svm性能并要求較少的訓(xùn)練數(shù)據(jù)。同樣,示例可以允許經(jīng)由貝葉斯先驗(yàn)率而直接地包括先驗(yàn)知識。
現(xiàn)在參照附圖,圖1是用于計(jì)算多個(gè)類的后驗(yàn)概率的系統(tǒng)100的示例框圖。系統(tǒng)100可以是微處理器、控制器、存儲器模塊或設(shè)備、筆記本計(jì)算機(jī)、臺式計(jì)算機(jī)、一體式系統(tǒng)、服務(wù)器、網(wǎng)絡(luò)設(shè)備、無線設(shè)備等。
示出系統(tǒng)100以包括多個(gè)二進(jìn)制支持向量機(jī)(svm)單元110-1至110-n(其中n是自然數(shù))、已驗(yàn)證樣本單元120、以及后驗(yàn)概率單元130。多個(gè)二進(jìn)制svm單元110-1至110-n、已驗(yàn)證樣本單元120以及后驗(yàn)概率單元130可以包括例如,包括用于實(shí)現(xiàn)以下所述功能的電子電路的硬件設(shè)備,諸如控制邏輯和/或存儲器。此外或者作為替代方案,多個(gè)二進(jìn)制svm單元110-1至110-n、已驗(yàn)證樣本單元120和后驗(yàn)概率單元130可以實(shí)現(xiàn)為編碼在機(jī)器可讀存儲介質(zhì)上并由處理器可執(zhí)行的一系列指令。
多個(gè)二進(jìn)制svm單元110-1至110-n可以在多個(gè)類中的兩個(gè)類之間投票。二進(jìn)制svm110-1至110-n中的每一個(gè)可以在多個(gè)類中的不同配對112-1至112-n之間投票。術(shù)語分類可以指用于將相似類型的數(shù)據(jù)分組在一起的方式。不同的類可以具有不同類型的數(shù)據(jù)。二進(jìn)制svm單元110-1至110-n可以包括具有分析數(shù)據(jù)并識別模式的關(guān)聯(lián)學(xué)習(xí)算法的監(jiān)督學(xué)習(xí)模型。給定訓(xùn)練示例的集合(每個(gè)被標(biāo)記為屬于兩個(gè)類別中的一個(gè)類別),二進(jìn)制svm單元110訓(xùn)練算法可以構(gòu)建將新示例分配至一個(gè)類別或另一個(gè)類別的模型,使其成為非概率性二進(jìn)制線性分類器。
已驗(yàn)證樣本單元120可以將已驗(yàn)證樣本122的集合輸入至二進(jìn)制svm110-1至110-n中的每一個(gè)。已驗(yàn)證樣本122的集合可以包括類中的每一個(gè)類的樣本124。對于已驗(yàn)證樣本的集合,類的類型可以已經(jīng)是已知的。后驗(yàn)概率單元130可以使用貝葉斯推論并且基于可能性估計(jì)值132而針對類中的每一個(gè)類計(jì)算后驗(yàn)概率134,可能性估計(jì)值132從二進(jìn)制svm110-1至110-n響應(yīng)于已驗(yàn)證樣本122的集合的投票來確定。
貝葉斯推論可以指其中當(dāng)獲取了額外置信度時(shí)使用貝葉斯定律來針對假設(shè)更新概率估計(jì)值的推論方法。貝葉斯定律可以指在對第三事件調(diào)節(jié)之前(先驗(yàn))和之后(后驗(yàn))第一事件的幾率對于第二事件的幾率。隨機(jī)事件或不確定性命題的后驗(yàn)概率可以是在考慮了相關(guān)置信度或背景之后分配的條件概率??赡苄怨烙?jì)值可以指示置信度與給定假說的兼容性。當(dāng)給定結(jié)果描述參數(shù)的函數(shù)時(shí),可以使用可能性估計(jì)值。相反,當(dāng)給定固定參數(shù)值描述結(jié)果的函數(shù)時(shí),可以使用概率。以下參照圖2-圖4更詳細(xì)解釋系統(tǒng)100。
圖2是用于計(jì)算多個(gè)類的后驗(yàn)概率的系統(tǒng)200的另一示例框圖。系統(tǒng)200可以是微處理器、控制器、存儲器模塊或設(shè)備、筆記本計(jì)算機(jī)、臺式計(jì)算機(jī)、一體式系統(tǒng)、服務(wù)器、網(wǎng)絡(luò)設(shè)備、無線設(shè)備等。
圖2的系統(tǒng)200可以至少包括圖1的系統(tǒng)100的功能和/或硬件。例如,系統(tǒng)200包括多個(gè)二進(jìn)制svm單元110-1至110-n以及已驗(yàn)證樣本單元120。進(jìn)一步,圖2的系統(tǒng)200的后驗(yàn)概率單元230至少包括圖1的系統(tǒng)100的后驗(yàn)概率單元130的功能和/或硬件。
同樣,系統(tǒng)200包括可能性估計(jì)值單元240和先驗(yàn)率單元250??赡苄怨烙?jì)值單元240和先驗(yàn)率單元250可以包括例如,包括用于實(shí)現(xiàn)以下所述功能的電子電路的硬件設(shè)備,諸如控制邏輯和/或存儲器。此外或者作為替代方案,可能性估計(jì)值單元240和先驗(yàn)率單元250可以實(shí)現(xiàn)為編碼在機(jī)器可讀存儲介質(zhì)上并由處理器可執(zhí)行的一系列指令。
可能性估計(jì)值單元240可以針對所投票的每個(gè)類確定可能性估計(jì)值132,該每個(gè)類響應(yīng)于針對二進(jìn)制svm110-1至110-n中的每一個(gè)輸入每個(gè)類而被投票。先驗(yàn)率單元250可以針對類中的每一個(gè)類分配先驗(yàn)概率分布252(先驗(yàn)率)??梢岳缡褂靡羊?yàn)證樣本122的集合的分布(每個(gè)類的樣本的比例)確定先驗(yàn)率252和/或從各個(gè)類的先驗(yàn)知識獲得先驗(yàn)率252。
后驗(yàn)概率單元230可以進(jìn)一步基于先驗(yàn)率252針對類中的每一個(gè)類計(jì)算后驗(yàn)概率134。先驗(yàn)率可以指在考慮一些置信度之前表示某個(gè)關(guān)于不確定量的不確定性的概率分布。以下參照圖3-圖4更詳細(xì)解釋系統(tǒng)200。
圖3是包括了用于計(jì)算多個(gè)類的后驗(yàn)概率的指令的計(jì)算設(shè)備300的示例框圖。在圖3的實(shí)施例中,計(jì)算設(shè)備300包括處理器310和機(jī)器可讀存儲介質(zhì)320。機(jī)器可讀存儲介質(zhì)320進(jìn)一步包括用于計(jì)算多個(gè)類的后驗(yàn)概率的指令322、324、326和328。
計(jì)算設(shè)備300可以包括在以下設(shè)備中或者是以下設(shè)備的一部分:例如微處理器、控制器、存儲器模塊或設(shè)備、筆記本計(jì)算機(jī)、臺式計(jì)算機(jī)、一體式系統(tǒng)、服務(wù)器、網(wǎng)絡(luò)設(shè)備、無線設(shè)備、或能夠執(zhí)行指令322、324、326和328的任何其他類型的設(shè)備。在某些示例中,計(jì)算設(shè)備300可以包括或連接至附加部件,諸如存儲器、控制器等。
處理器310可以是由微代碼或其他硬件設(shè)備所控制的、適用于獲得并執(zhí)行存儲在機(jī)器可讀存儲介質(zhì)320中的指令的至少一個(gè)中央處理單元(cpu)、至少一個(gè)半導(dǎo)體基微處理器、至少一個(gè)圖形處理單元(gpu)、微控制器、專用邏輯硬件,或者其組合。處理器310可以獲取、解碼并執(zhí)行指令322、324、326和328以實(shí)現(xiàn)計(jì)算多個(gè)類的后驗(yàn)概率。作為對獲得并執(zhí)行指令的可替代的方案或者除了獲取并執(zhí)行指令之外,處理器310可以包括至少一個(gè)集成電路(ic)、其他控制邏輯、其他電子電路、或其組合,其包括了用于執(zhí)行指令322、324、326和328的功能的許多電子部件。
機(jī)器可讀存儲介質(zhì)320可以是包含或存儲可執(zhí)行指令的任何電子、磁性、光學(xué)或其他物理存儲設(shè)備。因此,機(jī)器可讀存儲介質(zhì)320可以例如是隨機(jī)訪問存儲器(ram)、電可擦除可編程只讀存儲器(eeprom)、存儲驅(qū)動、壓縮盤只讀存儲器(cd-rom)等。照此,機(jī)器可讀存儲介質(zhì)320可以是瞬態(tài)的。如以下詳細(xì)描述的,機(jī)器可讀存儲介質(zhì)320可以編碼有用于計(jì)算多個(gè)類的后驗(yàn)概率的一系列可執(zhí)行指令。
此外,當(dāng)指令322、324、326和328由處理器(例如經(jīng)由處理器的一個(gè)處理器元件或者多個(gè)處理器元件)執(zhí)行時(shí),可以使得處理器執(zhí)行過程,諸如圖4的過程。例如,運(yùn)行指令322可以由處理器310執(zhí)行,以針對多個(gè)二進(jìn)制svm中的每一個(gè)運(yùn)行已驗(yàn)證樣本的集合。二進(jìn)制svm中的每一個(gè)可以響應(yīng)于所輸入的已驗(yàn)證樣本的集合而在多個(gè)類中的不同配對類之間投票。已驗(yàn)證樣本的類可以是已知的。已驗(yàn)證樣本的集合可以包括類中的每一個(gè)類的樣本。
確定指令324可以由處理器310執(zhí)行,以基于二進(jìn)制svm的投票而確定可能性估計(jì)值。分配指令326可以由處理器310執(zhí)行,以針對類中的每一個(gè)類分配先驗(yàn)概率分布(先驗(yàn)率)。多個(gè)類的先驗(yàn)率可以歸一化以總計(jì)為1。輸入指令328可以由處理器310執(zhí)行,以將所確定的可能性估計(jì)值和所分配的先驗(yàn)概率輸入至貝葉斯推論模型中,從而計(jì)算針對類中的每一個(gè)類的后驗(yàn)概率。
圖4是用于計(jì)算多個(gè)類的后驗(yàn)概率的方法400的示例流程圖。盡管以下參照系統(tǒng)200描述方法400的執(zhí)行,但可以利用用于執(zhí)行方法400的其他合適的部件,諸如系統(tǒng)100。另外,用于執(zhí)行方法400的部件可以散布在多個(gè)設(shè)備(例如與輸入和輸出設(shè)備通信的處理設(shè)備)之中。在某些情況下,配合行動的多個(gè)設(shè)備可以視作用于執(zhí)行方法400的單個(gè)設(shè)備。方法400可以以存儲在機(jī)器可讀存儲介質(zhì)(諸如存儲介質(zhì)320)上的可執(zhí)行指令的形式和/或以電子電路的形式來實(shí)現(xiàn)。
在框410處,系統(tǒng)200訓(xùn)練多個(gè)二進(jìn)制支持向量機(jī)(svm)110-1至110-n以在多個(gè)類中的兩個(gè)類之間投票。二進(jìn)制svm110-1至110-n中的每一個(gè)可以在多個(gè)類112-1至112-n中的不同配對之間投票。例如,可以存在3個(gè)類,諸如類a、類b和類c。因此,可以存在3個(gè)svm110-1至110-3,諸如ab分類器,ac分類器和bc分類器。ab分類器可以在類a和類b的配對之間投票。ac分類器可以在類a和類c的配對之間投票。bc分類器可以在類b和類c的配對之間投票。
在框420處,系統(tǒng)200針對類中的每一個(gè)類分配先驗(yàn)概率分布(先驗(yàn)率)252,諸如a、b和c類的先驗(yàn)率252。接著,在框430處,系統(tǒng)200將已驗(yàn)證樣本122的集合輸入至二進(jìn)制svm110-1至110-n中的每一個(gè)。已驗(yàn)證樣本122的集合可以包括類中的每一個(gè)類(諸如類a、類b和類c)的樣本。例如,類a可以表示汽車的圖像,類b可以表示自行車的圖像,并且類c可以表示人的圖像。
在一個(gè)示例中,已驗(yàn)證樣本122的集合可以不同于在多個(gè)二進(jìn)制svm110-1至110-n的訓(xùn)練期間所使用的訓(xùn)練樣本的集合。這可以允許在二進(jìn)制svm110-1至110-n中使用更同質(zhì)的類,例如其中減小了特征向量中類內(nèi)變化的類。這可以改進(jìn)svm性能并且減少所需的訓(xùn)練的量。
訓(xùn)練樣本的集合可以包括多個(gè)子類,子類中的至少兩個(gè)子類對應(yīng)于類中的一個(gè)類。訓(xùn)練在框410處,如果二進(jìn)制svm110中的至少一個(gè)將樣本識別為屬于兩個(gè)子類中的一個(gè),則訓(xùn)練可以包括訓(xùn)練多個(gè)二進(jìn)制svm110中的至少一個(gè)以在兩個(gè)子類之間區(qū)分并且針對包括兩個(gè)子類的一個(gè)類投票。
例如,可以以該方式建模超類,超類可以概念地鏈接但是在特征向量中大大不同。例如,系統(tǒng)200可以訓(xùn)練視覺分類器以區(qū)分“汽車”的類與“非汽車”的類。在框410處訓(xùn)練期間,系統(tǒng)200可以在步驟1中針對從前方看到的汽車、從側(cè)面看到的汽車等訓(xùn)練分離的子類。同樣,系統(tǒng)200可以訓(xùn)練大量不同的類以表示“非汽車”。然而,在框420處,響應(yīng)于已驗(yàn)證樣本集合,這種分類器的投票將僅是“汽車”或“非汽車”類。
在框440處,系統(tǒng)200基于二進(jìn)制svm110-1至110-n的投票確定可能性估計(jì)值132。例如,系統(tǒng)200可以執(zhí)行以下步驟以確定第一二進(jìn)制svm110-1的可能性估計(jì)值132。系統(tǒng)200可以首先響應(yīng)于所輸入的配對中的第一類124的已驗(yàn)證樣本122,確定多個(gè)二進(jìn)制svm110-1至110-n中的第一二進(jìn)制svm110-1對第一類的第一投票數(shù)。例如,系統(tǒng)200可以響應(yīng)于接收到a類樣本數(shù)而確定ab分類器對a類的投票次數(shù)。
系統(tǒng)200也可以響應(yīng)于所輸入的第一類124的已驗(yàn)證樣本122,確定第一二進(jìn)制svm110-1對配對中的第二類的第二投票數(shù)。例如,系統(tǒng)200可以響應(yīng)于接收到a類樣本數(shù)量而確定ab分類器對b類的投票次數(shù)。
接著,系統(tǒng)200可以將第一投票數(shù)除以所輸入的第一類124的已驗(yàn)證樣本122的數(shù)量,以在給定第一類的已驗(yàn)證樣本的情況下確定第一二進(jìn)制svm110-1對第一類投票的第一可能性估計(jì)值132。例如,ab分類器可以響應(yīng)于接收到10個(gè)a類樣本而針對a類投票8次。在此,8可以除以10以給出在給定a類樣本的情況下ab分類器將對a類投票的0.8的可能性估計(jì)值。
系統(tǒng)200也可以將第二投票數(shù)除以所輸入的第一類124的已驗(yàn)證樣本122的數(shù)量,以在給定第一類的已驗(yàn)證樣本的情況下確定第一二進(jìn)制svm對第二類投票的第二可能性估計(jì)值132。例如,ab分類器可以響應(yīng)于接收到10個(gè)a類樣本而針對b類投票2次。在此,2將除以10以給出在給定a類樣本的情況下ab分類器將對b類投票的0.2的可能性估計(jì)值。
以上步驟可以使用類124的對應(yīng)剩余類的已驗(yàn)證樣本122,針對多個(gè)類的剩余類中的每一個(gè)類重復(fù),以計(jì)算第一二進(jìn)制svm110-1的可能性估計(jì)值132的剩余部分。例如,可以針對ab分類器運(yùn)行b類的已驗(yàn)證樣本,以計(jì)算選擇a類和選擇b類的次數(shù)的比例。關(guān)于ab分類器,也可以對c類的已驗(yàn)證樣本執(zhí)行類似動作,以確定給定隨機(jī)輸入圖像的偏置。
因此,以上步驟針對ab分類器計(jì)算了6個(gè)可能性估計(jì)值:ab分類器1)在給定a類的情況下選擇a類;2)在給定a類的情況下選擇b類;3)在給定b類的情況下選擇a類;4)在給定b類的情況下選擇b類;5)在給定c類的情況下選擇a類;以及6)在給定c類的情況下選擇b類的可能性估計(jì)值。系統(tǒng)200可以針對二進(jìn)制svm110的剩余二進(jìn)制svm執(zhí)行類似的步驟。因此,根據(jù)該示例,還可以針對ac分類器計(jì)算6個(gè)可能性估計(jì)值以及針對bc分類器計(jì)算另外6個(gè)可能性估計(jì)值。
最后,在框450處,系統(tǒng)200基于所確定的可能性估計(jì)值132和所分配的先驗(yàn)率252而針對類中的每一個(gè)類計(jì)算后驗(yàn)概率134。例如,系統(tǒng)200可以首先將第一樣本輸入到二進(jìn)制svm110-1至110-n中的每一個(gè)。該第一樣本的該類可以是未知的。接著,可以響應(yīng)于所輸入的第一樣本確定二進(jìn)制svm110-1至110-n中的每一個(gè)的投票。投票可以指示二進(jìn)制svm110-1至110-n中的每一個(gè)對配對類中的一個(gè)類的投票。例如,響應(yīng)于第一樣本,ab分類器可以針對a類投票,ac分類器可以針對c類投票,以及bc分類器可以針對b類投票。
為了計(jì)算第一類(諸如a類)的后驗(yàn)概率134,系統(tǒng)200可以在給定第一類的樣本的情況下,通過將第一類的先驗(yàn)率252乘以可能性估計(jì)值132中的任一個(gè)而初始地確定非歸一化概率,可能性估計(jì)值132與具有包括第一類的配對的二進(jìn)制svm相關(guān),并且與二進(jìn)制svm110所確定的投票對應(yīng)。例如,假設(shè)ab分類器、ac分類器和bc分類器如上所示投票,將要針對a類的非歸一化概率而相乘的項(xiàng)可以包括:a類的先驗(yàn)率,在給定第一樣本是a類的情況下ab分類器對a類投票的可能性估計(jì)值,以及在給定第一樣本是a類的情況下ac分類器對c類投票的可能性估計(jì)值。在此并未包括bc分類器,因?yàn)閎c分類器無法選擇a類。
接著,系統(tǒng)200可以將非歸一化概率歸一化以計(jì)算第一類(諸如a類)的后驗(yàn)概率。系統(tǒng)200可以執(zhí)行以下步驟以用于歸一化。最初,系統(tǒng)200可以將先驗(yàn)率252中的每一個(gè)與可能性估計(jì)值132相乘,可能性估計(jì)值132是在給定第一類的樣本的情況下,具有包括第一類的配對的一個(gè)二進(jìn)制svm110對先驗(yàn)率252的類投票的可能性估計(jì)值。例如,系統(tǒng)200可以計(jì)算以下3個(gè)先驗(yàn)率相乘項(xiàng):1)a類的先驗(yàn)率乘以在給定第一樣本是a類的情況下ab分類器對a類投票的可能性估計(jì)值;2)b類的先驗(yàn)率乘以在給定第一樣本是b類的情況下ab分類器對a類投票的可能性估計(jì)值;以及3)c類的先驗(yàn)率乘以在給定第一樣本是c類的情況下ab分類器對a類投票的可能性估計(jì)值。
隨后,系統(tǒng)200可以將所有相乘后的先驗(yàn)率252相加以確定第一分母。例如,以上3個(gè)先驗(yàn)率相乘項(xiàng)可以加在一起以形成第一分母。接著,系統(tǒng)200可以重復(fù)以上相乘和相加以針對具有包括第一類的配對的二進(jìn)制svm110中的任何剩余二進(jìn)制svm計(jì)算相乘的先驗(yàn)率252,以確定多個(gè)分母的剩余部分。例如,系統(tǒng)200也可以以類似于針對ab分類器計(jì)算第一分母的方式計(jì)算與ac分類器相關(guān)的第二分母。在此并未包括對應(yīng)于bc分類器的分母,因?yàn)閎c分類器無法對a類投票。術(shù)語分母也可以相對于貝葉斯推論與術(shù)語置信度可互換地使用。
此后,系統(tǒng)200將多個(gè)分母相乘,諸如第一分母和第二分母。接著,系統(tǒng)200將非歸一化概率除以相乘后的多個(gè)分母,以確定歸一化的第一類的后驗(yàn)概率134。例如,a類的非歸一化概率將除以相乘的第一分母和第二分母以計(jì)算a類的后驗(yàn)概率。
在給定關(guān)于具有包括相應(yīng)類的配對的相應(yīng)二進(jìn)制svm110所確定的投票的可能性估計(jì)值132的情況下,在假設(shè)為所述第一樣本的情況下,系統(tǒng)200可以重復(fù)各步驟,以用于針對多個(gè)類的剩余類中的每一個(gè)類,確定非歸一化概率以及確定歸一化概率,以針對類的剩余類中的每一個(gè)類確定后驗(yàn)概率134。例如,可以使用類似于確定a類的后驗(yàn)概率的那些步驟來確定b類和c類的后驗(yàn)概率。
在將第二樣本輸入至二進(jìn)制svm110-1至110-n中的每一個(gè)之前,針對類中的每一個(gè),可以將先驗(yàn)率252替換為對應(yīng)的后驗(yàn)概率。例如,可以將a、b和c的先驗(yàn)率的值替換為a類、b類和c類的所計(jì)算的后驗(yàn)概率的相應(yīng)值。隨后,可以針對下一個(gè)樣本(諸如第二樣本)重復(fù)過程。