本發(fā)明涉及人工智能,尤其涉及一種模型精度問題排查方法及裝置。
背景技術(shù):
1、在深度學(xué)習(xí)模型的開發(fā)過程中,確保模型的準確性和可靠性是至關(guān)重要的。模型的訓(xùn)練和推理階段的精度問題排查是評估模型性能的關(guān)鍵步驟。然而,深度學(xué)習(xí)模型的精度問題與一般軟件問題有所不同,且通常更加復(fù)雜。傳統(tǒng)的軟件問題多涉及程序代碼中的錯誤,通過檢查代碼和輸出結(jié)果可以相對容易地定位問題。然而,在深度學(xué)習(xí)模型中,精度問題的根源可能涉及多個因素,包括數(shù)據(jù)預(yù)處理、模型架構(gòu)、訓(xùn)練算法以及推理過程中的實現(xiàn)細節(jié)。
2、當(dāng)前的精度問題排查工具普遍比較局限,只能對單算子或者單模塊進行精度問題排查,在面對結(jié)構(gòu)復(fù)雜的模型時候通常需要較多的時間來進行精度問題排查。如果模型中的多個模塊均存在精度問題,當(dāng)前的精度問題排查工具只能逐一比較,逐個模塊進行精度排查,這種方法重復(fù)性工作較多,且需要耗費較多的精力和時間。
技術(shù)實現(xiàn)思路
1、本發(fā)明提供一種模型精度問題排查方法及裝置,用以解決相關(guān)技術(shù)中存在的缺陷。
2、本發(fā)明提供一種模型精度問題排查方法,包括如下步驟:
3、確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù);
4、若所述當(dāng)前輸出數(shù)據(jù)與所述基準數(shù)據(jù)未對齊,則從所述當(dāng)前模型的多個模塊中選取部分模塊作為當(dāng)前排查模塊;
5、將所述當(dāng)前排查模塊構(gòu)成的模型作為所述當(dāng)前模型后,返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù),直至所述當(dāng)前模型只包括一個模塊;
6、若所述當(dāng)前輸出數(shù)據(jù)與所述基準數(shù)據(jù)未對齊,且所述當(dāng)前模型只包括一個模塊,則將所述當(dāng)前模型的一個模塊作為問題模塊。
7、根據(jù)本發(fā)明提供的一種模型精度問題排查方法,所述從所述當(dāng)前模型的多個模塊中選取部分模塊作為當(dāng)前排查模塊,包括:
8、從所述多個模塊中確定中間模塊;
9、將首個模塊與所述中間模塊之間的所有模塊、所述首個模塊以及所述中間模塊作為所述當(dāng)前排查模塊,或,將所述中間模塊與末個模塊之間的所有模塊、所述中間模塊以及所述末個模塊作為所述當(dāng)前排查模塊。
10、根據(jù)本發(fā)明提供的一種模型精度問題排查方法,若將所述首個模塊與所述中間模塊之間的所有模塊、所述首個模塊以及所述中間模塊作為所述當(dāng)前排查模塊,則返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù),之后還包括:
11、若所述當(dāng)前輸出數(shù)據(jù)與所述基準數(shù)據(jù)對齊,則將所述中間模塊與所述末個模塊之間的所有模塊、所述中間模塊以及所述末個模塊作為所述當(dāng)前排查模塊,并返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù)。
12、根據(jù)本發(fā)明提供的一種模型精度問題排查方法,若將所述中間模塊與所述末個模塊之間的所有模塊、所述中間模塊以及所述末個模塊作為所述當(dāng)前排查模塊,則返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù),之后還包括:
13、若所述當(dāng)前輸出數(shù)據(jù)與所述基準數(shù)據(jù)對齊,則將所述首個模塊與所述中間模塊之間的所有模塊、所述首個模塊以及所述中間模塊構(gòu)成的模型作為所述當(dāng)前排查模塊,并返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù)。
14、根據(jù)本發(fā)明提供的一種模型精度問題排查方法,所述方法還包括:
15、固定完整模型中目標模塊的參數(shù),優(yōu)化所述完整模型中問題模塊的參數(shù),所述目標模塊指所述完整模型中除所述問題模塊之外的所有模塊。
16、根據(jù)本發(fā)明提供的一種模型精度問題排查方法,所述完整模型中問題模塊的參數(shù)基于所述問題模塊的輸出數(shù)據(jù)與所述輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù)之間的差異進行優(yōu)化。
17、根據(jù)本發(fā)明提供的一種模型精度問題排查方法,所述當(dāng)前輸出數(shù)據(jù)是所述當(dāng)前模型在進行過擬合訓(xùn)練時對應(yīng)的輸出數(shù)據(jù)。
18、本發(fā)明還提供一種模型精度問題排查裝置,包括如下模塊:
19、確定單元,用于確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù);
20、選取單元,用于若所述當(dāng)前輸出數(shù)據(jù)與所述基準數(shù)據(jù)未對齊,則從所述當(dāng)前模型的多個模塊中選取部分模塊作為當(dāng)前排查模塊;
21、排查單元,用于將所述當(dāng)前排查模塊構(gòu)成的模型作為所述當(dāng)前模型后,返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù),直至所述當(dāng)前模型只包括一個模塊;
22、定位單元,用于若所述當(dāng)前輸出數(shù)據(jù)與所述基準數(shù)據(jù)未對齊,且所述當(dāng)前模型只包括一個模塊,則將所述當(dāng)前模型的一個模塊作為問題模塊。
23、本發(fā)明還提供一種電子設(shè)備,包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序,所述處理器執(zhí)行所述程序時實現(xiàn)如上述任一種所述模型精度問題排查方法。
24、本發(fā)明還提供一種非暫態(tài)計算機可讀存儲介質(zhì),其上存儲有計算機程序,該計算機程序被處理器執(zhí)行時實現(xiàn)如上述任一種所述模型精度問題排查方法。
25、本發(fā)明還提供一種計算機程序產(chǎn)品,包括計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)如上述任一種所述模型精度問題排查方法。
26、本發(fā)明提供的模型精度問題排查方法及裝置,通過將當(dāng)前模型的模塊逐步減少來聚焦精度問題,而不是對每個模塊進行逐個排查,本發(fā)明通過逐步縮小問題的范圍,避免了對所有模塊進行廣泛而冗長的檢查,提高了精度問題排查效率。此外,當(dāng)模型復(fù)雜度較高時,直接對每個模塊進行排查可能會非常復(fù)雜,本發(fā)明通過逐步減小當(dāng)前模型的規(guī)模,可以簡化分析過程,使得問題排查更加可控和易于管理。
1.一種模型精度問題排查方法,其特征在于,包括:
2.根據(jù)權(quán)利要求1所述的模型精度問題排查方法,其特征在于,所述從所述當(dāng)前模型的多個模塊中選取部分模塊作為當(dāng)前排查模塊,包括:
3.根據(jù)權(quán)利要求2所述的模型精度問題排查方法,其特征在于,若將所述首個模塊與所述中間模塊之間的所有模塊、所述首個模塊以及所述中間模塊作為所述當(dāng)前排查模塊,則返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù),之后還包括:
4.根據(jù)權(quán)利要求2所述的模型精度問題排查方法,其特征在于,若將所述中間模塊與所述末個模塊之間的所有模塊、所述中間模塊以及所述末個模塊作為所述當(dāng)前排查模塊,則返回執(zhí)行所述確定當(dāng)前模型的當(dāng)前輸出數(shù)據(jù)和所述當(dāng)前輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù),之后還包括:
5.根據(jù)權(quán)利要求1至4任一項所述的模型精度問題排查方法,其特征在于,所述方法還包括:
6.根據(jù)權(quán)利要求5所述的模型精度問題排查方法,其特征在于,所述完整模型中問題模塊的參數(shù)基于所述問題模塊的輸出數(shù)據(jù)與所述輸出數(shù)據(jù)對應(yīng)的基準數(shù)據(jù)之間的差異進行優(yōu)化。
7.根據(jù)權(quán)利要求1至4任一項所述的模型精度問題排查方法,其特征在于,所述當(dāng)前輸出數(shù)據(jù)是所述當(dāng)前模型在進行過擬合訓(xùn)練時對應(yīng)的輸出數(shù)據(jù)。
8.一種模型精度問題排查裝置,其特征在于,包括:
9.一種電子設(shè)備,包括存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序,其特征在于,所述處理器執(zhí)行所述計算機程序時實現(xiàn)如權(quán)利要求1至7任一項所述模型精度問題排查方法。
10.一種非暫態(tài)計算機可讀存儲介質(zhì),其上存儲有計算機程序,其特征在于,所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7任一項所述模型精度問題排查方法。
11.一種計算機程序產(chǎn)品,包括計算機程序,其特征在于,所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7任一項所述模型精度問題排查方法。