本發(fā)明涉及人工智能計(jì)算領(lǐng)域，特別涉及一種液態(tài)狀態(tài)機(jī)神經(jīng)形態(tài)學(xué)習(xí)方法及系統(tǒng)。

背景技術(shù)：

1、隨著時(shí)代的發(fā)展以及科技的進(jìn)步，人工智能技術(shù)也得到了快速的發(fā)展，其中，計(jì)算神經(jīng)科學(xué)是人工智能的重要組成部分之一，主要用于研究人工神經(jīng)網(wǎng)絡(luò)的原理、結(jié)構(gòu)以及功能。

2、其中，現(xiàn)有的神經(jīng)形態(tài)計(jì)算的數(shù)字實(shí)現(xiàn)方式主要有現(xiàn)場(chǎng)可編程門(mén)陣列（fieldprogrammable?gate?array，fpga）和專用集成電路（application?specific?integratedcircuit，asic）芯片。進(jìn)一步的，與現(xiàn)有的模擬實(shí)現(xiàn)以及asic實(shí)現(xiàn)相比，fpga可以在短時(shí)間內(nèi)進(jìn)行設(shè)計(jì)以及開(kāi)發(fā)，并且在優(yōu)化時(shí)與上位機(jī)有更好的交互能力，從而得到了較為廣泛的應(yīng)用。

3、然而，現(xiàn)有技術(shù)在構(gòu)建神經(jīng)形態(tài)學(xué)習(xí)系統(tǒng)的過(guò)程中，由于構(gòu)建出的神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)較為單一，同時(shí)用于模擬神經(jīng)元模型的成本較高，不利于神經(jīng)形態(tài)學(xué)習(xí)系統(tǒng)的大規(guī)模推廣以及使用，同時(shí)降低了工作效率。

技術(shù)實(shí)現(xiàn)思路

1、基于此，本發(fā)明的目的是提供一種液態(tài)狀態(tài)機(jī)神經(jīng)形態(tài)學(xué)習(xí)方法及系統(tǒng)，以解決現(xiàn)有技術(shù)構(gòu)建出的神經(jīng)形態(tài)學(xué)習(xí)系統(tǒng)中的神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)較為單一，同時(shí)用于模擬神經(jīng)元模型成本較高的問(wèn)題。

2、本發(fā)明實(shí)施例第一方面提出了：

3、一種液態(tài)狀態(tài)機(jī)神經(jīng)形態(tài)學(xué)習(xí)方法，其中，所述方法包括：

4、構(gòu)建出二次型脈沖神經(jīng)元模型，并實(shí)時(shí)設(shè)計(jì)出與所述二次型脈沖神經(jīng)元模型適配的神經(jīng)元數(shù)字電路；

5、基于預(yù)設(shè)規(guī)則實(shí)時(shí)判斷所述二次型脈沖神經(jīng)元模型中的神經(jīng)元數(shù)字電路是否能夠在特定條件下發(fā)射出脈沖；

6、若基于預(yù)設(shè)規(guī)則實(shí)時(shí)判斷到所述二次型脈沖神經(jīng)元模型中的神經(jīng)元數(shù)字電路能夠在特定條件下發(fā)射出脈沖，則實(shí)時(shí)檢測(cè)出預(yù)設(shè)液態(tài)狀態(tài)機(jī)模型中分別包含的液體層神經(jīng)元以及輸出層神經(jīng)元，并根據(jù)所述液體層神經(jīng)元以及所述輸出層神經(jīng)元構(gòu)建出在線監(jiān)測(cè)學(xué)習(xí)算法；

7、設(shè)定出與所述在線監(jiān)測(cè)學(xué)習(xí)算法對(duì)應(yīng)的最優(yōu)學(xué)習(xí)率以及反向傳播率，并基于預(yù)設(shè)環(huán)境根據(jù)所述最優(yōu)學(xué)習(xí)率、所述反向傳播率以及所述在線監(jiān)測(cè)學(xué)習(xí)算法完成液態(tài)狀態(tài)機(jī)的神經(jīng)形態(tài)學(xué)習(xí)。

8、本發(fā)明的有益效果是：通過(guò)非線性的二次型脈沖神經(jīng)元模型的電路設(shè)計(jì)與實(shí)現(xiàn)方法能夠在軟件和硬件上模擬了神經(jīng)元放電行為，進(jìn)一步的，基于雙向調(diào)控的突觸可塑性機(jī)制能夠構(gòu)建出需要的在線監(jiān)督學(xué)習(xí)算法，并實(shí)現(xiàn)所有層突觸權(quán)值的實(shí)時(shí)調(diào)整，從而能夠構(gòu)建出需要的學(xué)習(xí)系統(tǒng)，該系統(tǒng)具有多種拓?fù)浣Y(jié)構(gòu)，同時(shí)提升了工作效率。

9、進(jìn)一步的，所述實(shí)時(shí)設(shè)計(jì)出與所述二次型脈沖神經(jīng)元模型適配的神經(jīng)元數(shù)字電路的步驟包括：

10、通過(guò)第一預(yù)設(shè)算法實(shí)時(shí)推算出與所述二次型脈沖神經(jīng)元模型對(duì)應(yīng)的參數(shù)計(jì)算流水線；

11、實(shí)時(shí)檢測(cè)出所述參數(shù)計(jì)算流水線中包含的參數(shù)運(yùn)算順序，并根據(jù)所述參數(shù)運(yùn)算順序設(shè)計(jì)出與所述二次型脈沖神經(jīng)元模型適配的神經(jīng)元數(shù)字電路架構(gòu)；

12、根據(jù)所述參數(shù)計(jì)算流水線以及所述神經(jīng)元數(shù)字電路架構(gòu)對(duì)應(yīng)生成所述神經(jīng)元數(shù)字電路。

13、進(jìn)一步的，所述第一預(yù)設(shè)算法的表達(dá)式為：

14、

15、其中，數(shù)字電路的模擬涉及到微分方程的求解，為了以數(shù)字形式求解二階導(dǎo)數(shù)微分方程方程，此處使用歐拉折線法對(duì)時(shí)間步長(zhǎng)進(jìn)行離散化：

16、

17、其中，持續(xù)時(shí)間為時(shí)間步長(zhǎng)，使時(shí)刻的狀態(tài)變量來(lái)計(jì)算時(shí)刻的狀態(tài)變量，并以此循環(huán)，得到適用于電路實(shí)現(xiàn)的離散化方程組：

18、

19、以對(duì)應(yīng)計(jì)算出所述參數(shù)計(jì)算流水線，其中，代表神經(jīng)元實(shí)時(shí)變化的膜電位；代表電流激活或電流失活的恢復(fù)變量；表示膜電容；是神經(jīng)元處于靜息狀態(tài)時(shí)的膜電位；表示瞬時(shí)閾值電位，當(dāng)?shù)乃查g，神經(jīng)元的去極化行為將導(dǎo)致脈沖發(fā)放；表示興奮性輸入電流；、、、為無(wú)量綱參數(shù)。

20、進(jìn)一步的，所述根據(jù)所述液體層神經(jīng)元以及所述輸出層神經(jīng)元構(gòu)建出在線監(jiān)測(cè)學(xué)習(xí)算法的步驟包括：

21、對(duì)所述液體層神經(jīng)元以及所述輸出層神經(jīng)元對(duì)應(yīng)的脈沖序進(jìn)行離散表示，其中，當(dāng)遇到突觸前脈沖時(shí)，所述液體層神經(jīng)元與所述輸出層神經(jīng)元之間權(quán)值的降低與突觸前模擬變量的瞬時(shí)值成正比；

22、當(dāng)遇到突觸后脈沖時(shí)，所述液體層神經(jīng)元與所述輸出層神經(jīng)元之間權(quán)值的增加與突觸后模擬變量成正比；

23、實(shí)時(shí)制定出與所述突觸權(quán)值對(duì)應(yīng)的學(xué)習(xí)規(guī)則，并基于所述學(xué)習(xí)規(guī)則對(duì)應(yīng)構(gòu)建出所述在線檢測(cè)學(xué)習(xí)算法。

24、進(jìn)一步的，所述基于所述學(xué)習(xí)規(guī)則對(duì)應(yīng)構(gòu)建出所述在線檢測(cè)學(xué)習(xí)算法的步驟包括：

25、突觸權(quán)值的變化受所述液體層神經(jīng)元以及所述輸出層神經(jīng)元的脈沖序的共同影響；

26、對(duì)于突觸權(quán)值在線的stdp權(quán)值調(diào)整規(guī)則，結(jié)合widrow-hoff規(guī)則可以定義為：

27、

28、其中表示算法的學(xué)習(xí)率，表示突觸權(quán)重的調(diào)整規(guī)則，表示液體層神經(jīng)元的脈沖序，表示輸出層神經(jīng)元的脈沖序，表示原始脈沖序；通過(guò)將上式分解成一個(gè)時(shí)間相關(guān)的stdp學(xué)習(xí)過(guò)程和一個(gè)anti-stdp學(xué)習(xí)過(guò)程，可將公式進(jìn)一步推導(dǎo)為：

29、

30、綜上，和可以描述為：

31、

32、其中、、分別對(duì)應(yīng)液體層、輸出層、期望脈沖序列轉(zhuǎn)換的模擬信號(hào)，δ表示轉(zhuǎn)換系數(shù)；因此輸出層的突觸權(quán)值的學(xué)習(xí)規(guī)則表示為：

33、

34、將ltp和ltd在輸出層的所有突觸權(quán)重變化累加起來(lái)，可以得到液體層和輸入層的興奮性突觸權(quán)值和的調(diào)整規(guī)則：

35、

36、其中表示反向傳播速率，表示輸出層中的神經(jīng)元數(shù)量；

37、相反，由ltd產(chǎn)生的權(quán)值變化量被反向傳播到液體層和輸入層的神經(jīng)元和處，此時(shí)和均為正值；同理可以得到液體層和輸入層的抑制性突觸權(quán)值和的調(diào)整規(guī)則：

38、

39、以對(duì)應(yīng)構(gòu)建出所述在線監(jiān)測(cè)學(xué)習(xí)算法。

40、進(jìn)一步的，所述基于預(yù)設(shè)環(huán)境根據(jù)所述最優(yōu)學(xué)習(xí)率、所述反向傳播率以及所述在線監(jiān)測(cè)學(xué)習(xí)算法完成液態(tài)狀態(tài)機(jī)的神經(jīng)形態(tài)學(xué)習(xí)的步驟包括：

41、搭建出學(xué)習(xí)系統(tǒng)的整體硬件架構(gòu)，并設(shè)計(jì)出與所述整體硬件架構(gòu)對(duì)應(yīng)的輸入脈沖處理模塊；

42、設(shè)計(jì)出與所述輸入脈沖處理模塊對(duì)應(yīng)的脈沖序列傳輸策略，并設(shè)計(jì)出對(duì)應(yīng)的脈沖序列接收電路以及突觸權(quán)值學(xué)習(xí)模塊電路；

43、設(shè)計(jì)出與所述突出權(quán)值學(xué)習(xí)模塊電路適配的摩爾狀態(tài)機(jī)，并基于所述摩爾狀態(tài)機(jī)完成所述神經(jīng)形態(tài)學(xué)習(xí)。

44、進(jìn)一步的，所述基于預(yù)設(shè)環(huán)境根據(jù)所述最優(yōu)學(xué)習(xí)率、所述反向傳播率以及所述在線監(jiān)測(cè)學(xué)習(xí)算法完成液態(tài)狀態(tài)機(jī)的神經(jīng)形態(tài)學(xué)習(xí)的步驟還包括：

45、實(shí)時(shí)采集所述神經(jīng)形態(tài)學(xué)習(xí)的學(xué)習(xí)結(jié)果，并將所述學(xué)習(xí)結(jié)果與預(yù)設(shè)snn硬件系統(tǒng)的分類結(jié)果進(jìn)行對(duì)比；

46、根據(jù)比對(duì)結(jié)果實(shí)時(shí)判斷出是否完成對(duì)所述液態(tài)狀態(tài)機(jī)的神經(jīng)形態(tài)學(xué)習(xí)。

47、本發(fā)明實(shí)施例第二方面提出了：

48、一種液態(tài)狀態(tài)機(jī)神經(jīng)形態(tài)學(xué)習(xí)方法，其中，所述方法包括：

49、處理模塊，用于構(gòu)建出二次型脈沖神經(jīng)元模型，并實(shí)時(shí)設(shè)計(jì)出與所述二次型脈沖神經(jīng)元模型適配的神經(jīng)元數(shù)字電路；

50、判斷模塊，用于基于預(yù)設(shè)規(guī)則實(shí)時(shí)判斷所述二次型脈沖神經(jīng)元模型中的神經(jīng)元數(shù)字電路是否能夠在特定條件下發(fā)射出脈沖；

51、檢測(cè)模塊，用于若基于預(yù)設(shè)規(guī)則實(shí)時(shí)判斷到所述二次型脈沖神經(jīng)元模型中的神經(jīng)元數(shù)字電路能夠在特定條件下發(fā)射出脈沖，則實(shí)時(shí)檢測(cè)出預(yù)設(shè)液態(tài)狀態(tài)機(jī)模型中分別包含的液體層神經(jīng)元以及輸出層神經(jīng)元，并根據(jù)所述液體層神經(jīng)元以及所述輸出層神經(jīng)元構(gòu)建出在線監(jiān)測(cè)學(xué)習(xí)算法；

52、學(xué)習(xí)模塊，用于設(shè)定出與所述在線監(jiān)測(cè)學(xué)習(xí)算法對(duì)應(yīng)的最優(yōu)學(xué)習(xí)率以及反向傳播率，并基于預(yù)設(shè)環(huán)境根據(jù)所述最優(yōu)學(xué)習(xí)率、所述反向傳播率以及所述在線監(jiān)測(cè)學(xué)習(xí)算法完成液態(tài)狀態(tài)機(jī)的神經(jīng)形態(tài)學(xué)習(xí)。

53、本發(fā)明實(shí)施例第三方面提出了：

54、一種計(jì)算機(jī)，包括存儲(chǔ)器、處理器以及存儲(chǔ)在所述存儲(chǔ)器上并可在所述處理器上運(yùn)行的計(jì)算機(jī)程序，其中，所述處理器執(zhí)行所述計(jì)算機(jī)程序時(shí)實(shí)現(xiàn)如上面所述的液態(tài)狀態(tài)機(jī)神經(jīng)形態(tài)學(xué)習(xí)方法。

55、本發(fā)明實(shí)施例第四方面提出了：

56、一種可讀存儲(chǔ)介質(zhì)，其上存儲(chǔ)有計(jì)算機(jī)程序，其中，該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如上面所述的液態(tài)狀態(tài)機(jī)神經(jīng)形態(tài)學(xué)習(xí)方法。

57、本發(fā)明的附加方面和優(yōu)點(diǎn)將在下面的描述中部分給出，部分將從下面的描述中變得明顯，或通過(guò)本發(fā)明的實(shí)踐了解到。