1.一種實現(xiàn)人工智能黑盒模型精細決策邏輯與人類認知對齊程度評測的方法,其特征在于,所述方法包括以下步驟:
2.根據權利要求1所述的方法,其特征在于,所述交互效用可以分為“與交互效用”和“或交互效用”,分別表示模型所建模的輸入單元之間的“與關系”和其所建模的輸入單元之間的“或關系”
3.根據權利要求2所述的方法,其特征在于,所述“與交互效用的可靠分量”可以計算為包含“相關輸入單元”且不包含“互斥單元”的組合的交互效用;所述“與交互效用的不可靠分量”可以計算為不包含“相關輸入單元”或包含“互斥單元”的組合的交互效用。
4.根據權利要求3所述的方法,其特征在于,所述“與交互效用的可靠分量”和“與交互效用的不可靠分量”具體的可以由如下公式計算得到:
5.根據權利要求2所述的方法,其特征在于,所述步驟(4)還包括以下步驟:將“或交互效用”平均分配給此交互所包含的各個輸入單元,從而獲得“或交互效用的可靠分量”,所述或交互效用的可靠分量可以計算為此“或交互效用”中均分給“相關輸入單元”的交互效用分量;“或交互效用的不可靠分量”可以計算為此“或交互效用”中均分給“不相關輸入單元”和“互斥單元”的交互效用分量,具體的,其通過如下公式計算獲得:
6.根據權利要求3所述的方法,其特征在于,所述或交互效用的可靠分量還可以通過類似于與交互效用的劃分得到,具體的,通過如下公式計算:
7.根據權利要求2所述的方法,其特征在于,所述評測指標包括:計算所述交互效用的可靠分量和不可靠分量的強度或其在交互效用中的比例并進行比較作為指標;通過可視化各階顯著交互效用、交互效用的可靠分量、交互效用的不可靠分量的統(tǒng)計圖并以此作為指標;通過計算所述交互效用的可靠分量在顯著交互中的比例作為指標。
8.根據權利要求7所述的方法,其特征在于,所述顯著交互被定義為大于閾值τ的交互集合ωand和ω2r,可以由如下公式計算得到:
9.根據權利要求8所述的方法,其特征在于,所述“互斥單元”表示在人類認知邏輯上不應該影響模型輸出的輸入單元,或與模型輸出在認知邏輯上相斥的輸入單元。
10.根據權利要求1所述的方法,其特征在于,所述所述交互效用的可靠分量在顯著交互中的比例通過如下公式進行計算: