檢測黑盒模型中變量重要性的方法和裝置的制造方法
【技術(shù)領(lǐng)域】
[0001]本申請涉及數(shù)據(jù)處理技術(shù)領(lǐng)域，尤其涉及一種檢測黑盒模型中變量重要性的方法和裝置。
【背景技術(shù)】
[0002]隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展，經(jīng)常需要系統(tǒng)性的預(yù)測方案，例如數(shù)據(jù)挖掘模型。非線性模型因其優(yōu)于傳統(tǒng)線性模型的預(yù)測性能而在計算機安全領(lǐng)域廣為應(yīng)用。
[0003]但是，非線性模型會面臨模型黑盒問題，即知道模型輸出分?jǐn)?shù)卻無法理解真正起作用的變量，無法解析模型的打分行為，也無法從變量角度進行人為的模型優(yōu)化。

【發(fā)明內(nèi)容】

[0004]本申請旨在至少在一定程度上解決相關(guān)技術(shù)中的技術(shù)問題之一。
[0005]為此，本申請的一個目的在于提出一種檢測黑盒模型中變量重要性的方法，該方法可以獲知黑盒模型中各變量的重要性，從而理解模型的打分思維，優(yōu)化模型結(jié)構(gòu)，進而提升系統(tǒng)對外部攻擊的預(yù)測能力和防御能力。
[0006]本申請的另一個目的在于提出一種檢測黑盒模型中變量重要性的裝置。
[0007]為達到上述目的，本申請第一方面實施例提出的檢測黑盒模型中變量重要性的方法，包括:獲取黑盒模型的原始分?jǐn)?shù)；選取所述黑盒模型中當(dāng)前處理的變量，并獲取所述當(dāng)前處理的變量的替換值；將所述替換值作為所述黑盒模型的輸入重新計算所述黑盒模型的分?jǐn)?shù)，得到重新計算后的分?jǐn)?shù)；獲取所述重新計算后的分?jǐn)?shù)與所述原始分?jǐn)?shù)的差值；根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性。
[0008]本申請第一方面實施例提出的檢測黑盒模型中變量重要性的方法，通過將當(dāng)前處理的變量的替換值作為輸入重新計算分?jǐn)?shù)，根據(jù)重新計算后的分?jǐn)?shù)與原始分?jǐn)?shù)的差值確定當(dāng)前處理的變量的重要性，可以獲知黑盒模型中各變量的重要性，從而理解模型的打分思維，優(yōu)化模型結(jié)構(gòu)，進而提升系統(tǒng)對外部攻擊的預(yù)測能力和防御能力。
[0009]為達到上述目的，本申請第二方面實施例提出的檢測黑盒模型中變量重要性的裝置，包括:獲取模塊，用于獲取黑盒模型的原始分?jǐn)?shù)；選取模塊，用于選取所述黑盒模型中當(dāng)前處理的變量，并獲取所述當(dāng)前處理的變量的替換值；計算模塊，用于將所述替換值作為所述黑盒模型的輸入重新計算所述黑盒模型的分?jǐn)?shù)，得到重新計算后的分?jǐn)?shù)；處理模塊，用于獲取所述重新計算后的分?jǐn)?shù)與所述原始分?jǐn)?shù)的差值；確定模塊，用于根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性。
[0010]本申請第二方面實施例提出的檢測黑盒模型中變量重要性的裝置，通過將當(dāng)前處理的變量的替換值作為輸入重新計算分?jǐn)?shù)，根據(jù)重新計算后的分?jǐn)?shù)與原始分?jǐn)?shù)的差值確定當(dāng)前處理的變量的重要性，可以獲知黑盒模型中各變量的重要性，從而理解模型的打分思維，優(yōu)化模型結(jié)構(gòu)，進而提升系統(tǒng)對外部攻擊的預(yù)測能力和防御能力。
[0011]本申請附加的方面和優(yōu)點將在下面的描述中部分給出，部分將從下面的描述中變得明顯，或通過本申請的實踐了解到。
【附圖說明】
[0012]本申請上述的和/或附加的方面和優(yōu)點從下面結(jié)合附圖對實施例的描述中將變得明顯和容易理解，其中:
[0013]圖1是本申請一實施例提出的檢測黑盒模型中變量重要性的方法的流程示意圖；
[0014]圖2是本申請另一實施例提出的檢測黑盒模型中變量重要性的方法的流程示意圖；
[0015]圖3是本申請另一實施例提出的檢測黑盒模型中變量重要性的方法的流程示意圖；
[0016]圖4是本申請另一實施例提出的檢測黑盒模型中變量重要性的裝置的結(jié)構(gòu)示意圖；
[0017]圖5是本申請另一實施例提出的檢測黑盒模型中變量重要性的裝置的結(jié)構(gòu)示意圖。
【具體實施方式】
[0018]下面詳細描述本申請的實施例，所述實施例的示例在附圖中示出，其中自始至終相同或類似的標(biāo)號表示相同或類似的元件或具有相同或類似功能的元件。下面通過參考附圖描述的實施例是示例性的，僅用于解釋本申請，而不能理解為對本申請的限制。相反，本申請的實施例包括落入所附加權(quán)利要求書的精神和內(nèi)涵范圍內(nèi)的所有變化、修改和等同物。
[0019]圖1是本申請一實施例提出的檢測黑盒模型中變量重要性的方法的流程示意圖，該方法包括:
[0020]S11:獲取黑盒模型的原始分?jǐn)?shù)。
[0021]本實施例的執(zhí)行主體可以是風(fēng)險模型平臺的模型解釋模塊。
[0022]其中，黑盒模型指一些其內(nèi)部規(guī)律還很少為人們所知的模型。例如，黑盒模型可以是非線性風(fēng)險預(yù)估模型。
[0023]原始分?jǐn)?shù)是指根據(jù)黑盒模型的變量的初始值計算出的分?jǐn)?shù)。
[0024]S12:選取所述黑盒模型中當(dāng)前處理的變量，并獲取所述當(dāng)前處理的變量的替換值。
[0025]其中，在處理時可以依次選擇一個黑盒模型的一個變量進行處理，當(dāng)前處理的變量是指當(dāng)前在多個變量中選擇的一個變量。
[0026]變量可以分為連續(xù)型變量或者離散型變量。例如，連續(xù)型變量可以是用戶當(dāng)前購物的金額，或者用戶在某網(wǎng)站注冊賬戶的天數(shù)。離散型變量可以是貸款利率，或者用戶是否安裝安全證書。
[0027]可選的，對于連續(xù)型變量，該連續(xù)型變量的替換值可以選為預(yù)設(shè)時間段內(nèi)的歷史數(shù)據(jù)值中的中位數(shù)，例如，該連續(xù)型變量的前一周數(shù)值中的中位數(shù)。
[0028]對于離散型變量，該離散型變量的替換值可以選為預(yù)設(shè)時間段內(nèi)的歷史數(shù)據(jù)值中出現(xiàn)頻次最高的值確定為所述替換值，例如，該離散型變量的前一周數(shù)值中出現(xiàn)頻次最高的值。
[0029]S13:將所述替換值作為所述黑盒模型的輸入重新計算所述黑盒模型的分?jǐn)?shù)，得到重新計算后的分?jǐn)?shù)。
[0030]具體的，可以根據(jù)預(yù)先配置的黑盒模型的算法和獲取的替換值運行黑盒模型，得到重新計算后的分?jǐn)?shù)。
[0031]S14:獲取所述重新計算后的分?jǐn)?shù)與所述原始分?jǐn)?shù)的差值。
[0032]其中，對應(yīng)每個變量可以獲取一個差值，假設(shè)當(dāng)前處理的變量是i，黑盒模型的原始分?jǐn)?shù)是score [0]，根據(jù)變量i的替換值得到的重新計算后的分?jǐn)?shù)是score [i]，因此，對應(yīng)變量 i 的差值=score [i]-score [0] 0
[0033]S15:根據(jù)所述差值確定所述當(dāng)前處理的變量的重要性。
[0034]具體地，可以根據(jù)所述差值的符號，確定所述當(dāng)前處理的變量對所述黑盒模型的影響方向，其中正號表示該變量拉低模型分?jǐn)?shù)，負號表示該變量拉高模型分?jǐn)?shù)；
[0035]根據(jù)所述差值的絕對值，確定所述當(dāng)前處理的變量對所述黑盒模型的影響幅度。
[0036]具體的，評估重要性時，可以分為兩個方向，包括拉低分?jǐn)?shù)的變量和拉高分?jǐn)?shù)的變量，再根據(jù)幅度確定每個方向上變量的重要度。例如，在確定拉低分?jǐn)?shù)的重要的變量，那么可以首先根據(jù)差值的符號確定每個變量是否屬于拉低分?jǐn)?shù)的變量，在屬于拉低分?jǐn)?shù)的變量中再根據(jù)差值的幅度按從大到小的順序選擇設(shè)定個數(shù)的變量作為拉低分?jǐn)?shù)的重要的變量。
[0037]本實施例通過對變量的替換值重新作為輸入得到新的模型分?jǐn)?shù)，以及根據(jù)新的模型分?jǐn)?shù)和原始模型分?jǐn)?shù)的差值確定變量的重要性，可以獲知黑盒模型中各變量的重要性，從而理解模型的打分思維，優(yōu)化模型結(jié)構(gòu)，進而提升系統(tǒng)對外部攻擊的預(yù)測能力和防御能力。
[0038]圖2是本申請另一實施例提出的檢測黑盒模型中變量重要性的方法的流程示意圖，該方法包括:
[0039]S21:根據(jù)所述黑盒模型對應(yīng)的業(yè)務(wù)需求，判斷是否需要實時計算，若是，執(zhí)行S22，否則執(zhí)行S23。
[0040]其中，圖1所示的流程可以稱為信息碼(InfoCode)計算，信息碼計算可以分為實時觸發(fā)(Request-triggered)計算和非實時觸發(fā)計算。非實時觸發(fā)計算具體可以是指和T+1 沉淀(T+1-loading)計算。
[0041]具體地，如果業(yè)務(wù)需求表明個案有實時分析的需求，則進行實時觸發(fā)計算，如果沒有實時分析的需求，則可以進行非實時計算。
[0042]例如，需要實時觸發(fā)計算的場景包括:風(fēng)險審理、放貸決策或者用戶申訴誤判限權(quán)坐寸。
[0043]S22:實時進行信息碼(infocode)計算。
[0044]其中，信息碼(infocode)計算是指計算黑盒模型中各個變量的重要性，具體流程可以如圖1所示的S11-S15。
[0045]實時計算可以在當(dāng)前業(yè)務(wù)分析時進行實時在線計算。
[0046]S23:在設(shè)定時間延時后進行信息碼(infocode)計算。
[0047]設(shè)定時間可以是指T+1時間，即在次日計算。
[0048]可選的，在獲取各變量的重要性后，該方法還可