本技術(shù)涉及大數(shù)據(jù)分析處理，具體而言，涉及一種基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理方法。

背景技術(shù)：

1、在各種業(yè)務(wù)領(lǐng)域中，存在對(duì)業(yè)務(wù)對(duì)象進(jìn)行信息預(yù)測(cè)的需求。

2、目前，在對(duì)業(yè)務(wù)對(duì)象進(jìn)行信息預(yù)測(cè)時(shí)，可以借助神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)。但是，目前普遍通過(guò)神經(jīng)網(wǎng)絡(luò)模型對(duì)業(yè)務(wù)對(duì)象在單一維度下進(jìn)行預(yù)測(cè)，導(dǎo)致預(yù)測(cè)的結(jié)果存在一定的局限性。

技術(shù)實(shí)現(xiàn)思路

1、本技術(shù)的目的在于，針對(duì)上述現(xiàn)有技術(shù)中的不足，提供一種基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理方法，提高基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理的準(zhǔn)確性。

2、為實(shí)現(xiàn)上述目的，本技術(shù)實(shí)施例采用的技術(shù)方案如下：

3、第一方面，本技術(shù)實(shí)施例提供了一種基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理方法，所述方法包括：

4、將業(yè)務(wù)對(duì)象的當(dāng)前數(shù)據(jù)輸入目標(biāo)模型中，所述當(dāng)前數(shù)據(jù)包括：數(shù)值型數(shù)據(jù)、類別型數(shù)據(jù)以及時(shí)間序列數(shù)據(jù)，所述目標(biāo)模型中包括：預(yù)處理模塊、數(shù)據(jù)融合模塊、與所述數(shù)據(jù)融合模塊均連接的多個(gè)任務(wù)特征提取模塊以及與各任務(wù)特征提取模塊一一對(duì)應(yīng)的預(yù)測(cè)模塊，其中，各任務(wù)特征提取模塊分別用于提取一種任務(wù)類型下的特征；

5、由所述預(yù)處理模塊確定數(shù)值型數(shù)據(jù)的第一特征向量、類別型數(shù)據(jù)的第二特征向量以及時(shí)間序列數(shù)據(jù)的第三特征向量；

6、由所述預(yù)處理模塊對(duì)所述第一特征向量、所述第二特征向量以及所述第三特征向量分別進(jìn)行掩碼處理，得到第一特征向量對(duì)應(yīng)的第一特征選擇掩碼、所述第二特征向量對(duì)應(yīng)的第二特征選擇掩碼以及所述第三特征向量對(duì)應(yīng)的第三特征選擇掩碼；

7、由所述數(shù)據(jù)融合模塊根據(jù)所述第一特征向量、所述第一特征選擇掩碼、所述第二特征向量、所述第二特征選擇掩碼、所述第三特征向量以及所述第三特征選擇掩碼進(jìn)行融合處理，得到共享特征向量；

8、獲取多個(gè)任務(wù)中各任務(wù)的任務(wù)參數(shù)，并由各任務(wù)對(duì)應(yīng)的任務(wù)特征提取模塊根據(jù)各任務(wù)的任務(wù)參數(shù)以及所述共享特征向量，確定各任務(wù)的目標(biāo)任務(wù)特征向量；

9、由各任務(wù)特征提取模塊對(duì)應(yīng)的預(yù)測(cè)模塊根據(jù)各任務(wù)的目標(biāo)任務(wù)特征向量進(jìn)行預(yù)測(cè)處理，得到所述業(yè)務(wù)對(duì)象在各任務(wù)下的預(yù)測(cè)結(jié)果。

10、可選地，所述由所述預(yù)處理模塊確定數(shù)值型數(shù)據(jù)的第一特征向量、類別型數(shù)據(jù)的第二特征向量以及時(shí)間序列數(shù)據(jù)的第三特征向量，包括：

11、將所述數(shù)值型數(shù)據(jù)直接輸入至所述預(yù)處理模塊的特征提取子模塊中進(jìn)行特征提取，得到第一特征向量；

12、將所述類別型數(shù)據(jù)依次輸入至預(yù)處理模塊中的嵌入子模塊以及特征提取子模塊，得到所述第二特征向量；

13、將所述時(shí)間序列數(shù)據(jù)依次輸入至預(yù)處理模塊中的第一子線性層、多頭注意力子模塊、前饋神經(jīng)子模塊、平均池化子模塊、第二子線性層，得到所述第三特征向量。

14、可選地，所述將所述類別型數(shù)據(jù)依次輸入至預(yù)處理模塊中的嵌入子模塊以及特征提取子模塊，得到所述第二特征向量，包括：

15、由所述嵌入子模塊根據(jù)各子類別型對(duì)應(yīng)的嵌入矩陣，將各子類別型字段嵌入為各子類別型對(duì)應(yīng)的子嵌入數(shù)據(jù)，并根據(jù)各子嵌入數(shù)據(jù)得到類別型數(shù)據(jù)對(duì)應(yīng)的嵌入數(shù)據(jù)；

16、將所述類別型數(shù)據(jù)對(duì)應(yīng)的嵌入數(shù)據(jù)輸入至特征提取子模塊中，由所述特征提取子模塊根據(jù)所述類別型數(shù)據(jù)對(duì)應(yīng)的提取參數(shù)對(duì)所述嵌入數(shù)據(jù)進(jìn)行特征提取，得到所述第二特征向量。

17、可選地，所述將所述時(shí)間序列數(shù)據(jù)依次輸入至預(yù)處理模塊中的第一線性層、多頭注意力子模塊、前饋神經(jīng)子模塊、平均池化子模塊、第二線性層，得到所述第三特征向量，包括：

18、由所述第一線性層對(duì)所述時(shí)間序列數(shù)據(jù)進(jìn)行維度轉(zhuǎn)換以及位置編碼，得到第一時(shí)間序列數(shù)據(jù)；

19、將所述第一時(shí)間序列數(shù)據(jù)輸入至所述多頭注意力子模塊中進(jìn)行時(shí)間特征提取，得到每個(gè)注意力頭輸出的第二時(shí)間序列數(shù)據(jù)，并將各所述第二時(shí)間序列數(shù)據(jù)進(jìn)行拼接以及線性變換處理，得到多頭注意力特征向量；

20、將所述多頭注意力特征向量輸入至所述前饋神經(jīng)子模塊進(jìn)行類型特征提取，得到類型特征向量；

21、將所述類型特征向量輸入至平均池化子模塊中對(duì)所述類型特征向量中的時(shí)間特征進(jìn)行聚合以及池化處理，得到池化后的特征；

22、將所述池化后的特征輸入至所述第二線性層進(jìn)行投影處理，得到所述第三特征向量。

23、可選地，所述由所述預(yù)處理模塊對(duì)所述第一特征向量、所述第二特征向量以及所述第三特征向量分別進(jìn)行掩碼處理，得到第一特征向量對(duì)應(yīng)的第一特征選擇掩碼、所述第二特征向量對(duì)應(yīng)的第二特征選擇掩碼以及所述第三特征向量對(duì)應(yīng)的第三特征選擇掩碼，包括：

24、根據(jù)所述第一特征向量、數(shù)值型數(shù)據(jù)對(duì)應(yīng)的掩碼全連接層的權(quán)重參數(shù)以及所述數(shù)值型數(shù)據(jù)對(duì)應(yīng)的掩碼全連接層的掩碼偏置項(xiàng)，得到所述第一特征向量對(duì)應(yīng)的第一特征選擇掩碼；

25、根據(jù)所述第二特征向量、類別型數(shù)據(jù)對(duì)應(yīng)的掩碼全連接層的權(quán)重參數(shù)以及所述類別型數(shù)據(jù)對(duì)應(yīng)的掩碼全連接層的掩碼偏置項(xiàng)，得到所述第二特征向量對(duì)應(yīng)的第二特征選擇掩碼；

26、根據(jù)所述第三特征向量、時(shí)間序列數(shù)據(jù)對(duì)應(yīng)的掩碼全連接層的權(quán)重參數(shù)以及所述時(shí)間序列數(shù)據(jù)對(duì)應(yīng)的掩碼全連接層的掩碼偏置項(xiàng)，得到所述第三特征向量對(duì)應(yīng)的第三特征選擇掩碼。

27、可選地，所述由所述數(shù)據(jù)融合模塊根據(jù)所述第一特征向量、所述第一特征選擇掩碼、所述第二特征向量、所述第二特征選擇掩碼、所述第三特征向量以及所述第三特征選擇掩碼進(jìn)行融合處理，得到共享特征向量，包括：

28、根據(jù)所述第一特征向量以及所述第一特征選擇掩碼，確定第一加權(quán)特征；

29、根據(jù)所述第二特征向量以及所述第二特征選擇掩碼，確定第二加權(quán)特征；

30、根據(jù)所述第三特征向量以及所述第三特征選擇掩碼，確定第三加權(quán)特征；

31、將所述第一加權(quán)特征、所述第二加權(quán)特征以及所述第三加權(quán)特征進(jìn)行拼接處理，得到共享特征向量。

32、可選地，所述根據(jù)所述第一特征向量以及所述第一特征選擇掩碼，確定第一加權(quán)特征，包括：

33、將所述第一特征選擇掩碼與所述第一特征向量逐元素相乘，得到所述第一加權(quán)特征。

34、可選地，所述由各任務(wù)對(duì)應(yīng)的任務(wù)特征提取模塊根據(jù)各任務(wù)的任務(wù)參數(shù)以及所述共享特征向量，確定各任務(wù)的目標(biāo)任務(wù)特征向量，包括：

35、根據(jù)各任務(wù)的任務(wù)參數(shù)對(duì)所述共享特征向量進(jìn)行特征提取，得到各任務(wù)對(duì)應(yīng)的任務(wù)特征向量，所述任務(wù)參數(shù)包括：權(quán)重矩陣以及偏置項(xiàng)；

36、將各所述任務(wù)特征向量進(jìn)行交叉任務(wù)融合處理，得到各任務(wù)的目標(biāo)任務(wù)特征向量。

37、可選地，所述將各所述任務(wù)特征向量進(jìn)行交叉任務(wù)融合處理，得到各任務(wù)的目標(biāo)任務(wù)特征向量，包括：

38、獲取交叉權(quán)重矩陣，所述交叉權(quán)重矩陣中第i行第j列的參數(shù)值用于表征第i個(gè)任務(wù)的任務(wù)特征向量從第j個(gè)任務(wù)的任務(wù)特征向量中獲取的信息的權(quán)重，i和j分別為大于0的整數(shù)；

39、針對(duì)任務(wù)k，獲取所述交叉權(quán)重矩陣中第k行的各參數(shù)值，k為大于0的整數(shù)；

40、計(jì)算第k行的各參數(shù)值與各參數(shù)值對(duì)應(yīng)的各關(guān)聯(lián)任務(wù)的目標(biāo)任務(wù)特征向量的乘積；

41、將第k行的各參數(shù)值與各參數(shù)值對(duì)應(yīng)的各關(guān)聯(lián)任務(wù)的乘積的和作為任務(wù)k的目標(biāo)任務(wù)特征向量，其中，若參數(shù)值位于m列，則參數(shù)值對(duì)應(yīng)的關(guān)聯(lián)任務(wù)為任務(wù)m，m為大于0的整數(shù)。

42、第二方面，本技術(shù)實(shí)施例還提供了一種電子設(shè)備，包括：處理器、存儲(chǔ)介質(zhì)和總線，所述存儲(chǔ)介質(zhì)存儲(chǔ)有所述處理器可執(zhí)行的程序指令，當(dāng)應(yīng)用程序運(yùn)行時(shí)，所述處理器與所述存儲(chǔ)介質(zhì)之間通過(guò)總線通信，所述處理器執(zhí)行所述程序指令，以執(zhí)行上述第一方面所述的基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理方法的步驟。

43、第三方面，本技術(shù)實(shí)施例還提供了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，所述計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)上存儲(chǔ)有計(jì)算機(jī)程序，所述計(jì)算機(jī)程序被讀取并執(zhí)行上述第一方面所述的基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理方法的步驟。

44、本技術(shù)的有益效果是：

45、本技術(shù)提供的一種基于異構(gòu)數(shù)據(jù)融合與多任務(wù)學(xué)習(xí)的信息處理方法，通過(guò)由目標(biāo)模型中的預(yù)處理模塊先對(duì)業(yè)務(wù)對(duì)象的異構(gòu)數(shù)據(jù)源進(jìn)行預(yù)處理，得到各異構(gòu)數(shù)據(jù)源的特征向量，并對(duì)得到的特征向量進(jìn)行掩碼處理，得到各異構(gòu)數(shù)據(jù)源的特征向量對(duì)應(yīng)的特征選擇掩碼，之后由數(shù)據(jù)融合模塊中根據(jù)各異構(gòu)數(shù)據(jù)源的特征向量以及各異構(gòu)數(shù)據(jù)源的特征向量對(duì)應(yīng)的特征選擇掩碼進(jìn)行融合處理，得到所有異構(gòu)數(shù)據(jù)源的共享特征向量，可以使得將各異構(gòu)數(shù)據(jù)源的特征進(jìn)行有效的融合，得到的共享特征向量中可以包含有各異構(gòu)數(shù)據(jù)源的重要特征，繼而由任務(wù)特征提取模塊根據(jù)各任務(wù)的任務(wù)參數(shù)以及融合得到的共享特征向量，確定各任務(wù)的目標(biāo)任務(wù)向量，并由各任務(wù)特征提取模塊對(duì)應(yīng)的預(yù)測(cè)模塊根據(jù)各任務(wù)的目標(biāo)任務(wù)特征向量進(jìn)行預(yù)測(cè)處理，從而得到業(yè)務(wù)對(duì)象在各任務(wù)下的預(yù)測(cè)結(jié)果?？梢酝ㄟ^(guò)任務(wù)的不同特性來(lái)針對(duì)性的優(yōu)化共享特征向量，得到各任務(wù)的目標(biāo)任務(wù)向量，又根據(jù)不同任務(wù)選擇對(duì)應(yīng)的預(yù)測(cè)模塊對(duì)各任務(wù)的目標(biāo)任務(wù)向量進(jìn)行預(yù)測(cè)，使得到業(yè)務(wù)對(duì)象的預(yù)測(cè)結(jié)果更全面更準(zhǔn)確。