亚洲成年人黄色一级片,日本香港三级亚洲三级,黄色成人小视频,国产青草视频,国产一区二区久久精品,91在线免费公开视频,成年轻人网站色直接看

一種實現(xiàn)人工智能黑盒模型精細決策邏輯與人類認知對齊程度評測算法

文檔序號:40386891發(fā)布日期:2024-12-20 12:09閱讀:來源:國知局

技術特征:

1.一種實現(xiàn)人工智能黑盒模型精細決策邏輯與人類認知對齊程度評測的方法,其特征在于,所述方法包括以下步驟:

2.根據權利要求1所述的方法,其特征在于,所述交互效用可以分為“與交互效用”和“或交互效用”,分別表示模型所建模的輸入單元之間的“與關系”和其所建模的輸入單元之間的“或關系”

3.根據權利要求2所述的方法,其特征在于,所述“與交互效用的可靠分量”可以計算為包含“相關輸入單元”且不包含“互斥單元”的組合的交互效用;所述“與交互效用的不可靠分量”可以計算為不包含“相關輸入單元”或包含“互斥單元”的組合的交互效用。

4.根據權利要求3所述的方法,其特征在于,所述“與交互效用的可靠分量”和“與交互效用的不可靠分量”具體的可以由如下公式計算得到:

5.根據權利要求2所述的方法,其特征在于,所述步驟(4)還包括以下步驟:將“或交互效用”平均分配給此交互所包含的各個輸入單元,從而獲得“或交互效用的可靠分量”,所述或交互效用的可靠分量可以計算為此“或交互效用”中均分給“相關輸入單元”的交互效用分量;“或交互效用的不可靠分量”可以計算為此“或交互效用”中均分給“不相關輸入單元”和“互斥單元”的交互效用分量,具體的,其通過如下公式計算獲得:

6.根據權利要求3所述的方法,其特征在于,所述或交互效用的可靠分量還可以通過類似于與交互效用的劃分得到,具體的,通過如下公式計算:

7.根據權利要求2所述的方法,其特征在于,所述評測指標包括:計算所述交互效用的可靠分量和不可靠分量的強度或其在交互效用中的比例并進行比較作為指標;通過可視化各階顯著交互效用、交互效用的可靠分量、交互效用的不可靠分量的統(tǒng)計圖并以此作為指標;通過計算所述交互效用的可靠分量在顯著交互中的比例作為指標。

8.根據權利要求7所述的方法,其特征在于,所述顯著交互被定義為大于閾值τ的交互集合ωand和ω2r,可以由如下公式計算得到:

9.根據權利要求8所述的方法,其特征在于,所述“互斥單元”表示在人類認知邏輯上不應該影響模型輸出的輸入單元,或與模型輸出在認知邏輯上相斥的輸入單元。

10.根據權利要求1所述的方法,其特征在于,所述所述交互效用的可靠分量在顯著交互中的比例通過如下公式進行計算:


技術總結
本申請涉及機器學習技術領域,公開了一種實現(xiàn)人工智能黑盒模型精細決策邏輯與人類認知對齊程度評測的方法和系統(tǒng)。該方法和系統(tǒng)可以通過分析模型所建模的交互分布,評測模型決策邏輯與人類認知的對齊程度。該方法和系統(tǒng)的實施包括以下步驟:提供輸入樣本;使用黑盒模型對輸入樣本進行預測,獲得模型的預測結果;基于黑盒模型的輸出,對樣本的輸入單元間的交互作用進行建模,計算輸入單元間形成的組合的交互強度,將黑盒模型輸出表達成輸入單元組合間的“交互效用”;使用基于交互的評測指標,評測模型決策邏輯與人類認知的對齊程度。本發(fā)明的優(yōu)點在于,提供了一種評測人工智能黑盒模型精細決策邏輯與人類認知對齊程度的量化方法,相比于前人研究,可以更好地刻畫模型決策邏輯和人類認知的差異,反映模型潛在的表征缺陷。

技術研發(fā)人員:張拳石
受保護的技術使用者:上海交通大學
技術研發(fā)日:
技術公布日:2024/12/19
當前第2頁1 2 
網友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1