本申請涉及計算機，尤其涉及一種業(yè)務(wù)數(shù)據(jù)的處理方法和裝置。

背景技術(shù)：

1、神經(jīng)網(wǎng)絡(luò)(neural?network)模型可實現(xiàn)數(shù)據(jù)的預測和推理。計算設(shè)備采用神經(jīng)網(wǎng)絡(luò)模型預測和推理數(shù)據(jù)的過程中，可使用塊浮點(block?float?point，bfp)計算激活數(shù)據(jù)和權(quán)重數(shù)據(jù)的內(nèi)積，以提高內(nèi)積的計算效率。計算設(shè)備采用bfp計算激活數(shù)據(jù)和權(quán)重數(shù)據(jù)的內(nèi)積時，需對激活數(shù)據(jù)和權(quán)重數(shù)據(jù)的指數(shù)執(zhí)行對齊操作。計算設(shè)備對激活數(shù)據(jù)和權(quán)重數(shù)據(jù)的指數(shù)執(zhí)行對齊操作，消耗大量的計算資源。

技術(shù)實現(xiàn)思路

1、本申請?zhí)峁┝艘环N業(yè)務(wù)數(shù)據(jù)的處理方法和裝置，用于解決計算設(shè)備對激活數(shù)據(jù)和權(quán)重數(shù)據(jù)執(zhí)行內(nèi)積操作消耗大量的計算資源的問題。

2、第一方面，本申請?zhí)峁┝艘环N業(yè)務(wù)數(shù)據(jù)的處理方法。該方法由計算設(shè)備執(zhí)行，包括：計算設(shè)備獲取業(yè)務(wù)所需的數(shù)據(jù)以及執(zhí)行該業(yè)務(wù)的模型。模型的參數(shù)包括對數(shù)據(jù)進行處理的權(quán)重矩陣。計算設(shè)備預處理數(shù)據(jù)的矩陣，得到待處理的第一矩陣。第一矩陣包含：將數(shù)據(jù)進行排序后的指數(shù)化數(shù)據(jù)，該指數(shù)化數(shù)據(jù)包括小數(shù)部分和指數(shù)部分。計算設(shè)備將第一矩陣輸入模型，輸出業(yè)務(wù)的處理結(jié)果。其中，權(quán)重矩陣中各元素的排序與第一矩陣中各指數(shù)化數(shù)據(jù)的排序相匹配。

3、本申請中，計算設(shè)備將預處理后的數(shù)據(jù)的矩陣(如第一矩陣)輸入模型，得到業(yè)務(wù)的處理結(jié)果。相比于計算設(shè)備直接將數(shù)據(jù)的矩陣輸入模型得到業(yè)務(wù)的處理結(jié)果，本申請中計算設(shè)備預處理數(shù)據(jù)的矩陣，使得模型運行得到業(yè)務(wù)的處理結(jié)果的過程無需再處理數(shù)據(jù)的矩陣，減少模型運算得到業(yè)務(wù)的處理結(jié)果的過程中所占用的計算資源。以及由于預處理后的數(shù)據(jù)的矩陣中各指數(shù)化數(shù)據(jù)的排序與模型的權(quán)重矩陣的排序相匹配，可有效避免由于數(shù)據(jù)的矩陣和權(quán)重矩陣的排序不匹配引入大量的誤差，降低模型的計算結(jié)果不準確度，提高計算設(shè)備采用該計算結(jié)果得到的業(yè)務(wù)的處理結(jié)果的準確性，提高與用戶的預期的匹配度。

4、在一種可能的實現(xiàn)方式中，數(shù)據(jù)的矩陣包括多個計算單元，每個計算單元包括多個指數(shù)化數(shù)據(jù)。計算設(shè)備預處理數(shù)據(jù)的矩陣，得到待處理的第一矩陣，包括：計算設(shè)備獲取每個計算單元包含的多個指數(shù)化數(shù)據(jù)的指數(shù)平均值。計算設(shè)備對多個計算單元的多個指數(shù)平均值進行排序，獲取第一矩陣。

5、在另一種可能的實現(xiàn)方式中，計算設(shè)備獲取每個計算單元包含的多個指數(shù)化數(shù)據(jù)的指數(shù)平均值，包括：計算設(shè)備對每個計算單元包含的多個指數(shù)化數(shù)據(jù)的指數(shù)求和，得到每個計算單元的指數(shù)和。計算設(shè)備基于每個計算單元的指數(shù)和與每個計算單元的包含的指數(shù)化數(shù)據(jù)的數(shù)量，得到每個計算單元的指數(shù)平均值。

6、在另一種可能的實現(xiàn)方式中，在計算設(shè)備輸出業(yè)務(wù)的處理結(jié)果之前，計算設(shè)備預處理權(quán)重矩陣，得到第二矩陣。第二矩陣中各元素的排序與第一矩陣中各指數(shù)化數(shù)據(jù)的排序相匹配。

7、在另一種可能的實現(xiàn)方式中，計算設(shè)備預處理權(quán)重矩陣，得到第二矩陣，包括：計算設(shè)備對權(quán)重矩陣按行排序，得到第一排序結(jié)果。計算設(shè)備對第一排序結(jié)果按列排序，得到第二矩陣。

8、在另一種可能的實現(xiàn)方式中，在得到第二矩陣之后，計算設(shè)備按第一粒度對第一矩陣執(zhí)行指數(shù)對齊操作，得到第三矩陣，以及計算設(shè)備按第一粒度對第二矩陣執(zhí)行指數(shù)對齊操作，得到第四矩陣。第一粒度用于指示：執(zhí)行指數(shù)對齊操作的元素的個數(shù)。

9、在另一種可能的實現(xiàn)方式中，第一粒度包括：第一類粒度或第二類粒度中的至少一種。第一類粒度指示：預設(shè)的粒度。第二類粒度指示：用戶根據(jù)需要自定義的粒度。

10、第二方面，本申請?zhí)峁┝艘环N業(yè)務(wù)數(shù)據(jù)的處理裝置。該處理裝置包括用于執(zhí)行第一方面或第一方面任一種可能設(shè)計中的所述的方法的各個模塊。

11、第三方面，本申請?zhí)峁┝艘环N處理器。該處理器包括：控制電路和接口電路。所述接口電路用于：接收來自所述處理器之外的其他設(shè)備的數(shù)據(jù)并傳輸至所述控制電路，或?qū)碜钥刂齐娐返臄?shù)據(jù)發(fā)送給所述處理器之外的其他設(shè)備。所述控制電路通過邏輯電路或執(zhí)行代碼指令用于執(zhí)行第一方面或第一方面任一種可能設(shè)計中的所述方法的操作步驟。

12、第四方面，本申請?zhí)峁┝艘环N計算設(shè)備。該計算設(shè)備包括：存儲器和至少一個第三方面描述的處理器。存儲器用于存儲計算機指令，當所述處理器執(zhí)行該計算機指令時，使所述計算設(shè)備執(zhí)行第一方面或第一方面任一種可能實現(xiàn)方式中的所述的方法的操作步驟。

13、第五方面，本申請?zhí)峁┝艘环N計算機可讀存儲介質(zhì)。該計算機可讀存儲介質(zhì)包括：計算機軟件指令；當計算機軟件指令在計算設(shè)備中運行時，使得計算設(shè)備執(zhí)行如第一方面或第一方面任意一種可能的實現(xiàn)方式中所述的方法的操作步驟。

14、第六方面，本申請?zhí)峁┝艘环N計算機程序產(chǎn)品。當計算機程序產(chǎn)品在計算設(shè)備上運行時，使得計算設(shè)備執(zhí)行如第一方面或第一方面任意一種可能的實現(xiàn)方式中所述方法的操作步驟。

15、以上第二方面至第六方面的有益效果，可參照第一方面或第一方面中任一種實現(xiàn)方式的描述，在此不予贅述。本申請在上述各方面提供的實現(xiàn)方式的基礎(chǔ)上，還可以進行進一步組合以提供更多實現(xiàn)方式。

技術(shù)特征：

1.一種業(yè)務(wù)數(shù)據(jù)的處理方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述數(shù)據(jù)的矩陣包括多個計算單元，每個計算單元包括多個指數(shù)化數(shù)據(jù)，

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，

4.根據(jù)權(quán)利要求1-3中任一項所述的方法，其特征在于，

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，

6.根據(jù)權(quán)利要求4或5所述的方法，其特征在于，

7.根據(jù)權(quán)利要求6所述的方法，其特征在于，

8.一種業(yè)務(wù)數(shù)據(jù)的處理裝置，其特征在于，所述處理裝置包括：

9.根據(jù)權(quán)利要求8所述的裝置，其特征在于，所述數(shù)據(jù)的矩陣包括多個計算單元，每個計算單元包括多個指數(shù)化數(shù)據(jù)，

10.根據(jù)權(quán)利要求9所述的裝置，其特征在于，

11.根據(jù)權(quán)利要求8-10中任一項所述的裝置，其特征在于，

12.根據(jù)權(quán)利要求11所述的裝置，其特征在于，

13.根據(jù)權(quán)利要求11或12所述的裝置，其特征在于，所述裝置還包括指數(shù)對齊模塊，

14.根據(jù)權(quán)利要求13所述的裝置，其特征在于，

15.一種處理器，其特征在于，所述處理器包括控制電路和接口電路；

16.一種計算設(shè)備，其特征在于，所述計算設(shè)備包括存儲器和至少一個權(quán)利要求15所述的處理器；所述存儲器用于存儲一組計算機指令。

17.一種計算機可讀存儲介質(zhì)，其特征在于，所述計算機可讀存儲介質(zhì)包括：計算機軟件指令；

技術(shù)總結(jié)
公開了一種業(yè)務(wù)數(shù)據(jù)的處理方法和裝置，涉及計算機技術(shù)領(lǐng)域。計算設(shè)備將預處理后的數(shù)據(jù)的矩陣(如第一矩陣)輸入模型，得到業(yè)務(wù)的處理結(jié)果。相比于計算設(shè)備直接將數(shù)據(jù)的矩陣輸入模型得到業(yè)務(wù)的處理結(jié)果，本申請中計算設(shè)備預處理數(shù)據(jù)的矩陣，使得模型運行得到業(yè)務(wù)的處理結(jié)果的過程無需再處理數(shù)據(jù)的矩陣，減少模型運算得到業(yè)務(wù)的處理結(jié)果的過程中所占用的計算資源。以及由于預處理后的數(shù)據(jù)的矩陣中各指數(shù)化數(shù)據(jù)的排序與模型的權(quán)重矩陣的排序相匹配，可有效避免由于數(shù)據(jù)的矩陣和權(quán)重矩陣的排序不匹配引入大量的誤差，降低模型的計算結(jié)果不準確度，提高計算設(shè)備采用該計算結(jié)果得到的業(yè)務(wù)的處理結(jié)果的準確性，提高與用戶的預期的匹配度。

技術(shù)研發(fā)人員：胡桂鵬,胡天馳,黃江樂
受保護的技術(shù)使用者：華為技術(shù)有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/19