對值，確定所述當(dāng)前處理的變量對所述黑盒模型的影響幅度。
[0099]具體地，可以根據(jù)所述差值的符號，確定所述當(dāng)前處理的變量對所述黑盒模型的影響方向，其中正號表示該變量拉低模型分?jǐn)?shù)，負(fù)號表示該變量拉高模型分?jǐn)?shù)；
[0100]根據(jù)所述差值的絕對值，確定所述當(dāng)前處理的變量對所述黑盒模型的影響幅度。
[0101]具體的，評估重要性時，可以分為兩個方向，包括拉低分?jǐn)?shù)的變量和拉高分?jǐn)?shù)的變量，再根據(jù)幅度確定每個方向上變量的重要度。例如，在確定拉低分?jǐn)?shù)的重要的變量，那么可以首先根據(jù)差值的符號確定每個變量是否屬于拉低分?jǐn)?shù)的變量，在屬于拉低分?jǐn)?shù)的變量中再根據(jù)差值的幅度按從大到小的順序選擇設(shè)定個數(shù)的變量作為拉低分?jǐn)?shù)的重要的變量。
[0102]另一個實施例中，所述裝置40還包括判斷模塊46，如圖5所示，所述判斷模塊46用于根據(jù)所述黑盒模型對應(yīng)的業(yè)務(wù)需求，判斷是否需要實時計算；在需要實時計算時，觸發(fā)所述重要性的計算；在不需要實時計算時，在設(shè)定時間延時后進行所述重要性的計算。
[0103]另一個實施例中，所述裝置40還包括輸出模塊47,如圖5所不，所述輸出模塊47用于根據(jù)所述重要性，選取預(yù)設(shè)個數(shù)的參數(shù)，所述參數(shù)是所述黑盒模型中的變量或者所述變量屬于的不同的組別；
[0104]輸出所述預(yù)設(shè)個數(shù)的參數(shù)。
[0105]本實施例通過對變量的替換值重新作為輸入得到新的模型分?jǐn)?shù)，以及根據(jù)新的模型分?jǐn)?shù)和原始模型分?jǐn)?shù)的差值確定變量的重要性，可以獲知黑盒模型中各變量的重要性，從而理解模型的打分思維，優(yōu)化模型結(jié)構(gòu)，進而提升系統(tǒng)對外部攻擊的預(yù)測能力和防御能力。
[0106]需要說明的是，在本申請的描述中，術(shù)語“第一”、“第二”等僅用于描述目的，而不能理解為指示或暗示相對重要性。此外，在本申請的描述中，除非另有說明，“多個”的含義是兩個或兩個以上。
[0107]流程圖中或在此以其他方式描述的任何過程或方法描述可以被理解為，表示包括一個或更多個用于實現(xiàn)特定邏輯功能或過程的步驟的可執(zhí)行指令的代碼的模塊、片段或部分，并且本申請的優(yōu)選實施方式的范圍包括另外的實現(xiàn)，其中可以不按所示出或討論的順序，包括根據(jù)所涉及的功能按基本同時的方式或按相反的順序，來執(zhí)行功能，這應(yīng)被本申請的實施例所屬技術(shù)領(lǐng)域的技術(shù)人員所理解。
[0108]應(yīng)當(dāng)理解，本申請的各部分可以用硬件、軟件、固件或它們的組合來實現(xiàn)。在上述實施方式中，多個步驟或方法可以用存儲在存儲器中且由合適的指令執(zhí)行系統(tǒng)執(zhí)行的軟件或固件來實現(xiàn)。例如，如果用硬件來實現(xiàn)，和在另一實施方式中一樣，可用本領(lǐng)域公知的下列技術(shù)中的任一項或他們的組合來實現(xiàn):具有用于對數(shù)據(jù)信號實現(xiàn)邏輯功能的邏輯門電路的離散邏輯電路，具有合適的組合邏輯門電路的專用集成電路，可編程門陣列(PGA)，現(xiàn)場可編程門陣列(FPGA)等。
[0109]本技術(shù)領(lǐng)域的普通技術(shù)人員可以理解實現(xiàn)上述實施例方法攜帶的全部或部分步驟是可以通過程序來指令相關(guān)的硬件完成，所述的程序可以存儲于一種計算機可讀存儲介質(zhì)中，該程序在執(zhí)行時，包括方法實施例的步驟之一或其組合。
[0110]此外，在本申請各個實施例中的各功能單元可以集成在一個處理模塊中，也可以是各個單元單獨物理存在，也可以兩個或兩個以上單元集成在一個模塊中。上述集成的模塊既可以采用硬件的形式實現(xiàn)，也可以采用軟件功能模塊的形式實現(xiàn)。所述集成的模塊如果以軟件功能模塊的形式實現(xiàn)并作為獨立的產(chǎn)品銷售或使用時，也可以存儲在一個計算機可讀取存儲介質(zhì)中。
[0111]上述提到的存儲介質(zhì)可以是只讀存儲器，磁盤或光盤等。
[0112]在本說明書的描述中，參考術(shù)語“一個實施例”、“一些實施例”、“示例”、“具體示例”、或“一些示例”等的描述意指結(jié)合該實施例或示例描述的具體特征、結(jié)構(gòu)、材料或者特點包含于本申請的至少一個實施例或示例中。在本說明書中，對上述術(shù)語的示意性表述不一定指的是相同的實施例或示例。而且，描述的具體特征、結(jié)構(gòu)、材料或者特點可以在任何的一個或多個實施例或示例中以合適的方式結(jié)合。
[0113]盡管上面已經(jīng)示出和描述了本申請的實施例，可以理解的是，上述實施例是示例性的，不能理解為對本申請的限制，本領(lǐng)域的普通技術(shù)人員在本申請的范圍內(nèi)可以對上述實施例進行變化、修改、替換和變型。
【主權(quán)項】
1.一種檢測黑盒模型中變量重要性的方法，其特征在于，包括: 獲取黑盒模型的原始分?jǐn)?shù)； 選取所述黑盒模型中當(dāng)前處理的變量，并獲取所述當(dāng)前處理的變量的替換值； 將所述替換值作為所述黑盒模型的輸入重新計算所述黑盒模型的分?jǐn)?shù)，得到重新計算后的分?jǐn)?shù)； 獲取所述重新計算后的分?jǐn)?shù)與所述原始分?jǐn)?shù)的差值； 根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性。2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述獲取所述當(dāng)前處理的變量的替換值，包括: 如果所述當(dāng)前處理的變量是連續(xù)型變量，則將所述當(dāng)前處理的變量的預(yù)設(shè)時間段內(nèi)的歷史數(shù)據(jù)值中的中位數(shù)確定為所述替換值；或者， 如果所述當(dāng)前處理的變量是離散型變量，則將所述當(dāng)前處理的變量的預(yù)設(shè)時間段內(nèi)的歷史數(shù)據(jù)值中出現(xiàn)頻次最高的值確定為所述替換值。3.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性，包括: 根據(jù)所述差值的符號，確定所述當(dāng)前處理的變量對所述黑盒模型的影響方向； 根據(jù)所述差值的絕對值，確定所述當(dāng)前處理的變量對所述黑盒模型的影響幅度。4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述獲取黑盒模型的原始分?jǐn)?shù)之前，所述方法還包括: 根據(jù)所述黑盒模型對應(yīng)的業(yè)務(wù)需求，判斷是否需要實時計算，以便在需要實時計算時，觸發(fā)所述重要性的計算，以及， 在不需要實時計算時，在設(shè)定時間延時后進行所述重要性的計算。5.根據(jù)權(quán)利要求1至4任一項所述的方法，其特征在于，所述根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性之后，所述方法還包括: 根據(jù)所述重要性，選取預(yù)設(shè)個數(shù)的參數(shù)，所述參數(shù)是所述黑盒模型中的變量或者所述變量屬于的不同的組別； 輸出所述預(yù)設(shè)個數(shù)的參數(shù)。6.一種檢測黑盒模型中變量重要性的裝置，其特征在于，包括: 獲取模塊，用于獲取黑盒模型的原始分?jǐn)?shù)； 選取模塊，用于選取所述黑盒模型中當(dāng)前處理的變量，并獲取所述當(dāng)前處理的變量的替換值； 計算模塊，用于將所述替換值作為所述黑盒模型的輸入重新計算所述黑盒模型的分?jǐn)?shù)，得到重新計算后的分?jǐn)?shù)； 處理模塊，用于獲取所述重新計算后的分?jǐn)?shù)與所述原始分?jǐn)?shù)的差值； 確定模塊，用于根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性。7.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述選取模塊具體用于: 如果所述當(dāng)前處理的變量是連續(xù)型變量，則將所述當(dāng)前處理的變量的預(yù)設(shè)時間段內(nèi)的歷史數(shù)據(jù)值中的中位數(shù)確定為所述替換值；或者， 如果所述當(dāng)前處理的變量是離散型變量，則將所述當(dāng)前處理的變量的預(yù)設(shè)時間段內(nèi)的歷史數(shù)據(jù)值中出現(xiàn)頻次最高的值確定為所述替換值。8.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述確定模塊具體用于: 根據(jù)所述差值的符號，確定所述當(dāng)前處理的變量對所述黑盒模型的影響方向； 根據(jù)所述差值的絕對值，確定所述當(dāng)前處理的變量對所述黑盒模型的影響幅度。9.根據(jù)權(quán)利要求6所述的裝置，其特征在于，所述裝置還包括判斷模塊，所述判斷模塊用于: 根據(jù)所述黑盒模型對應(yīng)的業(yè)務(wù)需求，判斷是否需要實時計算，以便在需要實時計算時，觸發(fā)所述重要性的計算，以及， 在不需要實時計算時，在設(shè)定時間延時后進行所述重要性的計算。10.根據(jù)權(quán)利要求6至9任一項所述的裝置，其特征在于，所述裝置還包括輸出模塊，所述輸出模塊用于: 根據(jù)所述重要性，選取預(yù)設(shè)個數(shù)的參數(shù)，所述參數(shù)是所述黑盒模型中的變量或者所述變量屬于的不同的組別； 輸出所述預(yù)設(shè)個數(shù)的參數(shù)。
【專利摘要】本申請?zhí)岢鲆环N檢測黑盒模型中變量重要性的方法和裝置，該檢測黑盒模型中變量重要性的方法包括獲取黑盒模型的原始分?jǐn)?shù)；選取所述黑盒模型中當(dāng)前處理的變量，并獲取所述當(dāng)前處理的變量的替換值；將所述替換值作為所述黑盒模型的輸入重新計算所述黑盒模型的分?jǐn)?shù)，得到重新計算后的分?jǐn)?shù)；獲取所述重新計算后的分?jǐn)?shù)與所述原始分?jǐn)?shù)的差值；根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性。該方法可以獲知黑盒模型中各變量的重要性，從而理解模型的打分思維，優(yōu)化模型結(jié)構(gòu)，進而提升系統(tǒng)對外部攻擊的預(yù)測能力和防御能力。
【IPC分類】G06F19/00
【公開號】CN105335593
【申請?zhí)枴緾N201410302773
【發(fā)明人】崔陽
【申請人】阿里巴巴集團控股有限公司
【公開日】2016年2月17日
【申請日】2014年6月27日