本公開(kāi)涉及計(jì)算機(jī)，具體地，涉及一種模型訓(xùn)練方法、裝置、醫(yī)學(xué)信號(hào)識(shí)別系統(tǒng)、設(shè)備及介質(zhì)。

背景技術(shù)：

1、醫(yī)學(xué)信號(hào)通常用來(lái)診斷和監(jiān)測(cè)不同疾病和生理狀態(tài)，也可以用來(lái)預(yù)測(cè)疾病的發(fā)展趨勢(shì)。醫(yī)學(xué)信號(hào)的診斷識(shí)別很大程度上取決于醫(yī)生的經(jīng)驗(yàn)和技巧，醫(yī)學(xué)信號(hào)的智能輔助識(shí)別能有效地解決目前存在的醫(yī)療資源分配不均、誤診率高、以及診斷手段落后等問(wèn)題。

2、相關(guān)技術(shù)能夠通過(guò)構(gòu)建深度神經(jīng)網(wǎng)絡(luò)模型進(jìn)行醫(yī)療信號(hào)識(shí)別任務(wù)，由于各醫(yī)療機(jī)構(gòu)擁有的醫(yī)療信號(hào)數(shù)據(jù)規(guī)模較小，并且數(shù)據(jù)分布往往不均衡，造成所構(gòu)造的深度神經(jīng)網(wǎng)絡(luò)模型準(zhǔn)確率不高的問(wèn)題。

技術(shù)實(shí)現(xiàn)思路

1、本公開(kāi)的目的是提供一種模型訓(xùn)練方法、裝置、醫(yī)學(xué)信號(hào)識(shí)別系統(tǒng)、設(shè)備及介質(zhì)，將聯(lián)邦學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)模型相結(jié)合，并根據(jù)聚合權(quán)重自適應(yīng)調(diào)整用于聚合模型的局部模型參數(shù)，降低數(shù)據(jù)分布不均衡對(duì)模型訓(xùn)練的影響，提高基于目標(biāo)全局模型參數(shù)得到的目標(biāo)全局模型在實(shí)際應(yīng)用中的準(zhǔn)確性。

2、為了實(shí)現(xiàn)上述目的，根據(jù)本公開(kāi)實(shí)施例的第一方面，提供一種模型訓(xùn)練方法，應(yīng)用于服務(wù)器，所述方法包括：

3、獲取全局模型參數(shù)；其中，所述全局模型參數(shù)用于客戶端在本地訓(xùn)練得到局部模型參數(shù)；

4、根據(jù)客戶端訓(xùn)練得到的局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征，確定所述局部模型參數(shù)的聚合權(quán)重；

5、根據(jù)客戶端的局部模型參數(shù)和聚合權(quán)重進(jìn)行參數(shù)聚合，得到目標(biāo)全局模型參數(shù)。

6、可選地，所述根據(jù)客戶端訓(xùn)練得到的局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征，確定所述局部模型參數(shù)的聚合權(quán)重，包括：

7、根據(jù)多個(gè)客戶端訓(xùn)練得到的局部模型參數(shù)之間的相似程度，確定多個(gè)聚類類別和每個(gè)聚類類別的中心參數(shù)；其中，每一所述聚類類別對(duì)應(yīng)至少一個(gè)客戶端的局部模型參數(shù)；

8、根據(jù)每一客戶端的局部模型參數(shù)和所述局部模型參數(shù)所對(duì)應(yīng)的聚類類別的中心參數(shù)之間的差異程度，確定所述局部模型參數(shù)的聚合權(quán)重。

9、可選地，所述方法還包括：

10、獲取客戶端在本地訓(xùn)練時(shí)的預(yù)測(cè)準(zhǔn)確度；

11、所述根據(jù)客戶端訓(xùn)練得到的局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征，確定所述局部模型參數(shù)的聚合權(quán)重，包括：

12、根據(jù)客戶端訓(xùn)練得到的局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征以及所述預(yù)測(cè)準(zhǔn)確度，確定所述局部模型參數(shù)的聚合權(quán)重。

13、可選地，所述服務(wù)器包括多個(gè)子服務(wù)器，不同的所述子服務(wù)器用于聚合具有不同訓(xùn)練能力的客戶端的局部模型參數(shù)；

14、所述方法還包括：

15、為具有相同訓(xùn)練能力的目標(biāo)客戶端分配對(duì)應(yīng)的子服務(wù)器；

16、所述根據(jù)客戶端的局部模型參數(shù)和聚合權(quán)重進(jìn)行參數(shù)聚合，得到目標(biāo)全局模型參數(shù)，包括：

17、在所述目標(biāo)客戶端對(duì)應(yīng)的子服務(wù)器中對(duì)目標(biāo)客戶端的局部模型參數(shù)和聚合權(quán)重進(jìn)行參數(shù)聚合，得到子全局模型參數(shù)；

18、根據(jù)所述目標(biāo)客戶端在本地訓(xùn)練時(shí)的預(yù)測(cè)準(zhǔn)確度，確定所述目標(biāo)客戶端對(duì)應(yīng)的子服務(wù)器的自適應(yīng)聚合權(quán)重；

19、根據(jù)所述子全局模型參數(shù)和所述自適應(yīng)聚合權(quán)重進(jìn)行參數(shù)聚合，得到所述目標(biāo)全局模型參數(shù)。

20、可選地，所述服務(wù)器包括多個(gè)子服務(wù)器，不同的所述子服務(wù)器用于聚合具有不同訓(xùn)練能力的客戶端的局部模型參數(shù)；

21、所述方法還包括：

22、獲取客戶端的配置信息；其中，客戶端的配置信息用于確定所述客戶端的訓(xùn)練能力；

23、根據(jù)客戶端的訓(xùn)練能力，確定所述客戶端在一輪迭代訓(xùn)練中的本地迭代訓(xùn)練次數(shù)；

24、獲取所述客戶端在根據(jù)所述本地迭代訓(xùn)練次數(shù)進(jìn)行本地訓(xùn)練的基礎(chǔ)上，每一輪迭代訓(xùn)練的訓(xùn)練時(shí)長(zhǎng)；

25、根據(jù)所述客戶端每一輪迭代訓(xùn)練的訓(xùn)練時(shí)長(zhǎng)，更新所述客戶端的訓(xùn)練能力和本地迭代訓(xùn)練次數(shù)。

26、可選地，所述根據(jù)所述客戶端每一輪迭代訓(xùn)練的訓(xùn)練時(shí)長(zhǎng)，更新所述客戶端的訓(xùn)練能力和本地迭代訓(xùn)練次數(shù)，包括：

27、根據(jù)所述客戶端每一輪迭代訓(xùn)練的訓(xùn)練時(shí)長(zhǎng)與預(yù)設(shè)訓(xùn)練時(shí)長(zhǎng)的大小關(guān)系，更新所述客戶端的訓(xùn)練能力；

28、在所述客戶端的訓(xùn)練能力改變的情況下，更新所述客戶端的本地迭代訓(xùn)練次數(shù)；

29、其中，所述預(yù)設(shè)訓(xùn)練時(shí)長(zhǎng)是根據(jù)參考時(shí)長(zhǎng)和評(píng)價(jià)系數(shù)確定的，所述參考時(shí)長(zhǎng)是根據(jù)具有相同訓(xùn)練能力的目標(biāo)客戶端每一輪迭代訓(xùn)練的訓(xùn)練時(shí)長(zhǎng)確定的。

30、根據(jù)本公開(kāi)實(shí)施例的第二方面，提供一種模型訓(xùn)練方法，應(yīng)用于客戶端，所述方法包括：

31、獲取服務(wù)器發(fā)送的全局模型參數(shù)；

32、根據(jù)所述全局模型參數(shù)和本地訓(xùn)練數(shù)據(jù)進(jìn)行本地訓(xùn)練，得到局部模型參數(shù)；

33、其中，所述局部模型參數(shù)用于所述服務(wù)器根據(jù)所述局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征，確定所述局部模型參數(shù)對(duì)應(yīng)的聚合權(quán)重，以及根據(jù)所述局部模型參數(shù)和所述聚合權(quán)重進(jìn)行參數(shù)聚合，得到目標(biāo)全局模型參數(shù)。

34、可選地，所述方法還包括：

35、確定上一輪迭代訓(xùn)練得到的全局模型參數(shù)對(duì)于上一輪迭代訓(xùn)練中聚合使用的所述客戶端的局部模型參數(shù)的參數(shù)響應(yīng)度；

36、根據(jù)所述參數(shù)響應(yīng)度確定上一輪迭代訓(xùn)練的響應(yīng)度損失；

37、根據(jù)上一輪迭代訓(xùn)練時(shí)使用的損失函數(shù)和所述響應(yīng)度損失，確定本輪迭代訓(xùn)練的損失函數(shù)；

38、其中，所述本輪迭代訓(xùn)練的損失函數(shù)用于調(diào)整本輪迭代訓(xùn)練得到的本輪局部模型參數(shù)，以得到所述局部模型參數(shù)。

39、根據(jù)本公開(kāi)實(shí)施例的第三方面，提供一種醫(yī)學(xué)信號(hào)識(shí)別系統(tǒng)，所述系統(tǒng)包括：

40、第一獲取模塊，用于獲取待識(shí)別的醫(yī)學(xué)信號(hào)數(shù)據(jù)；

41、識(shí)別模塊，用于將所述醫(yī)學(xué)信號(hào)數(shù)據(jù)輸入聯(lián)邦學(xué)習(xí)模型，得到所述聯(lián)邦學(xué)習(xí)模型輸出的識(shí)別結(jié)果；

42、其中，所述聯(lián)邦學(xué)習(xí)模型是基于上述第一方面中任一項(xiàng)或者第二方面中任一項(xiàng)所述的模型訓(xùn)練方法訓(xùn)練得到的目標(biāo)全局模型參數(shù)確定的。

43、根據(jù)本公開(kāi)實(shí)施例的第四方面，提供一種模型訓(xùn)練裝置，應(yīng)用于服務(wù)器，所述裝置包括：

44、第二獲取模塊，用于獲取全局模型參數(shù)；其中，所述全局模型參數(shù)用于客戶端在本地訓(xùn)練得到局部模型參數(shù)；

45、確定模塊，用于根據(jù)客戶端訓(xùn)練得到的局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征，確定所述局部模型參數(shù)的聚合權(quán)重；

46、聚合模塊，用于根據(jù)客戶端的局部模型參數(shù)和聚合權(quán)重進(jìn)行參數(shù)聚合，得到目標(biāo)全局模型參數(shù)。

47、根據(jù)本公開(kāi)實(shí)施例的第五方面，提供一種模型訓(xùn)練裝置，應(yīng)用于客戶端，所述裝置包括：

48、第三獲取模塊，用于獲取服務(wù)器發(fā)送的全局模型參數(shù)；

49、訓(xùn)練模塊，用于根據(jù)所述全局模型參數(shù)和本地訓(xùn)練數(shù)據(jù)進(jìn)行本地訓(xùn)練，得到局部模型參數(shù)；

50、其中，所述局部模型參數(shù)用于所述服務(wù)器根據(jù)所述局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征，確定所述局部模型參數(shù)對(duì)應(yīng)的聚合權(quán)重，以及根據(jù)所述局部模型參數(shù)和所述聚合權(quán)重進(jìn)行參數(shù)聚合，得到目標(biāo)全局模型參數(shù)。

51、根據(jù)本公開(kāi)實(shí)施例的第六方面，提供一種非臨時(shí)性計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述第一方面中任一項(xiàng)或者第二方面中任一項(xiàng)所述方法的步驟。

52、根據(jù)本公開(kāi)實(shí)施例的第七方面，提供一種電子設(shè)備，包括：

53、存儲(chǔ)器，其上存儲(chǔ)有計(jì)算機(jī)程序；

54、處理器，用于執(zhí)行所述存儲(chǔ)器中的所述計(jì)算機(jī)程序，以實(shí)現(xiàn)上述第一方面中任一項(xiàng)或者第二方面中任一項(xiàng)所述方法的步驟。

55、通過(guò)上述技術(shù)方案，將聯(lián)邦學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)模型相結(jié)合，并根據(jù)局部模型參數(shù)在待聚合的局部模型參數(shù)中的數(shù)據(jù)分布特征確定對(duì)應(yīng)的聚合權(quán)重，從而可以根據(jù)聚合權(quán)重自適應(yīng)調(diào)整用于聚合模型的局部模型參數(shù)，降低數(shù)據(jù)分布不均衡對(duì)模型訓(xùn)練的影響，提高基于目標(biāo)全局模型參數(shù)得到的目標(biāo)全局模型在實(shí)際應(yīng)用中的準(zhǔn)確性。

56、本公開(kāi)的其他特征和優(yōu)點(diǎn)將在隨后的具體實(shí)施方式部分予以詳細(xì)說(shuō)明。