本發(fā)明涉及人工神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，特別是涉及輸入權(quán)重拓展的神經(jīng)元信息處理方法和系統(tǒng)。

背景技術(shù)：

如今的人工神經(jīng)網(wǎng)絡(luò)研究絕大多數(shù)仍是在馮·諾依曼計(jì)算機(jī)軟件并搭配高性能GPGPU(General Purpose Graphic Processing Units通用圖形處理單元)平臺(tái)中實(shí)現(xiàn)的，整個(gè)過(guò)程的硬件開(kāi)銷(xiāo)、能耗和信息處理速度都不容樂(lè)觀。為此，近幾年神經(jīng)形態(tài)計(jì)算領(lǐng)域迅猛發(fā)展，即采用硬件電路直接構(gòu)建神經(jīng)網(wǎng)絡(luò)從而模擬大腦的功能，試圖實(shí)現(xiàn)大規(guī)模并行、低能耗、可支撐復(fù)雜模式學(xué)習(xí)的計(jì)算平臺(tái)。

然而，傳統(tǒng)的神經(jīng)形態(tài)系統(tǒng)中，單個(gè)神經(jīng)元權(quán)重存儲(chǔ)器的物理空間的數(shù)量有限，在單個(gè)神經(jīng)元的輸入信號(hào)的數(shù)量大于所述物理空間的數(shù)量時(shí)，導(dǎo)致有的輸入信號(hào)對(duì)應(yīng)的權(quán)重信息只能利用現(xiàn)有的權(quán)重，對(duì)于某些對(duì)于參數(shù)較為敏感的神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，極大的影響了神經(jīng)元的應(yīng)用性能。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明的實(shí)施例提供一種輸入權(quán)重拓展的神經(jīng)元信息處理方法和系統(tǒng)，可以擴(kuò)展神經(jīng)元的應(yīng)用性能。

所述方法包括：

將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元；

所述協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)接收的前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息；

所述協(xié)同組中后續(xù)的各協(xié)同神經(jīng)元，依次根據(jù)接收的前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息；

所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息；

所述有效神經(jīng)元輸出所述協(xié)同輸出信息。

在其中一個(gè)實(shí)施例中，所述將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元，包括：

設(shè)置所述協(xié)同組內(nèi)神經(jīng)元的發(fā)放使能標(biāo)識(shí)，所述發(fā)放使能標(biāo)識(shí)包括允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將所述有效神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為允許發(fā)放數(shù)據(jù)，并將所有所述協(xié)同神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為不允許發(fā)放數(shù)據(jù)。

在其中一個(gè)實(shí)施例中，所述前端神經(jīng)元信息包括：前端神經(jīng)元輸出信息、前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引；

所述協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)接收的前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息，包括：

協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；

根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息；

所述協(xié)同組中后續(xù)的各協(xié)同神經(jīng)元，依次根據(jù)接收的前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，包括：

所述協(xié)同組中的后續(xù)協(xié)同神經(jīng)元，依次根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；

根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息。

在其中一個(gè)實(shí)施例中，所述將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元，包括：

將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，將所述人工協(xié)同組中最后一個(gè)人工神經(jīng)元確定為人工有效神經(jīng)元，將所述人工協(xié)同組中除所述人工有效神經(jīng)元外的人工神經(jīng)元確定為人工協(xié)同神經(jīng)元；或

將預(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，將所述脈沖協(xié)同組中最后一個(gè)脈沖神經(jīng)元確定為脈沖有效神經(jīng)元，將所述脈沖協(xié)同組中除所述脈沖有效神經(jīng)元外的脈沖神經(jīng)元確定為脈沖協(xié)同神經(jīng)元。

在其中一個(gè)實(shí)施例中，當(dāng)所述協(xié)同組為脈沖協(xié)同組時(shí)，所述當(dāng)前神經(jīng)元信息包括歷史膜電位信息；

在所述有效神經(jīng)元輸出所述協(xié)同輸出信息的步驟之后，所述方法還包括：

更新所述脈沖有效神經(jīng)元的所述歷史膜電位信息。

在其中一個(gè)實(shí)施例中，通過(guò)將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，只將所述協(xié)同組中的最后一個(gè)神經(jīng)元的信息進(jìn)行輸出，剩余神經(jīng)元只將信息進(jìn)行累加后迭加至后端的神經(jīng)元，將協(xié)同組內(nèi)的所有神經(jīng)元等效于一個(gè)有效的節(jié)點(diǎn)，多個(gè)輸入對(duì)應(yīng)一個(gè)有效輸出，可以充分利用所述多個(gè)輸入的權(quán)重信息，打破了現(xiàn)有的神經(jīng)元輸入權(quán)重類(lèi)型有限的缺點(diǎn)，提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，通過(guò)設(shè)置發(fā)放使能標(biāo)識(shí)，將神經(jīng)元設(shè)置為允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元組成一個(gè)協(xié)同組，可根據(jù)需求靈活的組成協(xié)同組。

在其中一個(gè)實(shí)施例中，通過(guò)接收的前端神經(jīng)元信息中的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重后，用于計(jì)算橫向累加中間信息，將一個(gè)協(xié)同組中的各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了充分利用，并在有效神經(jīng)元輸出的協(xié)同輸出信息中，將各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了體現(xiàn)，相當(dāng)于將有效神經(jīng)元的權(quán)重信息進(jìn)行了擴(kuò)展，從而提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，或?qū)㈩A(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，在人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)中，都可以確定協(xié)同組，進(jìn)行單個(gè)神經(jīng)元輸入權(quán)重的擴(kuò)展，提高人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，在脈沖協(xié)同組中，脈沖有效神經(jīng)元輸出協(xié)同輸出信息后，將所述脈沖有效神經(jīng)元的歷史膜電位信息進(jìn)行更新，以便整個(gè)協(xié)同組完成后續(xù)的信息處理，而脈沖協(xié)同神經(jīng)元不更新歷史膜電位信息，在后續(xù)的信息處理中，完成權(quán)重拓展的功能，通過(guò)脈沖協(xié)同組，提高整個(gè)脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

本發(fā)明還提供一種輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)，包括：

協(xié)同組確定模塊，用于將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元；

橫向累加信息獲取模塊，用于所述協(xié)同組中后續(xù)的各協(xié)同神經(jīng)元，依次根據(jù)接收的前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息；

協(xié)同輸出信息獲取模塊，用于所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息；

協(xié)同輸出信息輸出模塊，用于所述有效神經(jīng)元輸出所述協(xié)同輸出信息。

在其中一個(gè)實(shí)施例中，所述協(xié)同組確定模塊，用于設(shè)置所述協(xié)同組內(nèi)神經(jīng)元的發(fā)放使能標(biāo)識(shí)，所述發(fā)放使能標(biāo)識(shí)包括允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將所述有效神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為允許發(fā)放數(shù)據(jù)，并將所有所述協(xié)同神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為不允許發(fā)放數(shù)據(jù)。

在其中一個(gè)實(shí)施例中，所述前端神經(jīng)元信息包括：前端神經(jīng)元輸出信息、前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引；

所述橫向累加信息獲取模塊，用于協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息；所述協(xié)同組中的后續(xù)協(xié)同神經(jīng)元，依次根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息。

在其中一個(gè)實(shí)施例中，所述協(xié)同組確定模塊，包括：

人工神經(jīng)元確定單元，用于將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，將所述人工協(xié)同組中最后一個(gè)人工神經(jīng)元確定為人工有效神經(jīng)元，將所述人工協(xié)同組中除所述人工有效神經(jīng)元外的人工神經(jīng)元確定為人工協(xié)同神經(jīng)元；或

脈沖神經(jīng)元確定單元，用于將預(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，將所述脈沖協(xié)同組中最后一個(gè)脈沖神經(jīng)元確定為脈沖有效神經(jīng)元，將所述脈沖協(xié)同組中除所述脈沖有效神經(jīng)元外的脈沖神經(jīng)元確定為脈沖協(xié)同神經(jīng)元。

在其中一個(gè)實(shí)施例中，當(dāng)所述協(xié)同組為脈沖協(xié)同組時(shí)，所述當(dāng)前神經(jīng)元信息包括歷史膜電位信息；所述系統(tǒng)還包括：歷史膜電位更新模塊，用于更新所述脈沖有效神經(jīng)元的所述歷史膜電位信息。

在其中一個(gè)實(shí)施例中，通過(guò)將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，只將所述協(xié)同組中的最后一個(gè)神經(jīng)元的信息進(jìn)行輸出，剩余神經(jīng)元只將信息進(jìn)行累加后迭加至后端的神經(jīng)元，將協(xié)同組內(nèi)的所有神經(jīng)元等效于一個(gè)有效的節(jié)點(diǎn)，多個(gè)輸入對(duì)應(yīng)一個(gè)有效輸出，可以充分利用所述多個(gè)輸入的權(quán)重信息，打破了現(xiàn)有的神經(jīng)元輸入權(quán)重類(lèi)型有限的缺點(diǎn)，提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，通過(guò)設(shè)置發(fā)放使能標(biāo)識(shí)，將神經(jīng)元設(shè)置為允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元組成一個(gè)協(xié)同組，可根據(jù)需求靈活的組成協(xié)同組。

在其中一個(gè)實(shí)施例中，通過(guò)接收的前端神經(jīng)元信息中的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重后，用于計(jì)算橫向累加中間信息，將一個(gè)協(xié)同組中的各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了充分利用，并在有效神經(jīng)元輸出的協(xié)同輸出信息中，將各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了體現(xiàn)，相當(dāng)于將有效神經(jīng)元的權(quán)重信息進(jìn)行了擴(kuò)展，從而提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，或?qū)㈩A(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，在人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)中，都可以確定協(xié)同組，進(jìn)行單個(gè)神經(jīng)元輸入權(quán)重的擴(kuò)展，提高人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，在脈沖協(xié)同組中，脈沖有效神經(jīng)元輸出協(xié)同輸出信息后，將所述脈沖有效神經(jīng)元的歷史膜電位信息進(jìn)行更新，以便整個(gè)協(xié)同組完成后續(xù)的信息處理，而脈沖協(xié)同神經(jīng)元不更新歷史膜電位信息，在后續(xù)的信息處理中，完成權(quán)重拓展的功能，通過(guò)脈沖協(xié)同組，提高整個(gè)脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

附圖說(shuō)明

圖1為一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理方法的流程示意圖；

圖2為另一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理方法的流程示意圖；

圖3為一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)的結(jié)構(gòu)示意圖；

圖4為另一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)的結(jié)構(gòu)示意圖。

具體實(shí)施方式

為了使本發(fā)明的目的、技術(shù)方案及優(yōu)點(diǎn)更加清楚明白，以下結(jié)合附圖及實(shí)施例對(duì)本發(fā)明進(jìn)行進(jìn)一步詳細(xì)說(shuō)明。應(yīng)當(dāng)理解，此處所描述的具體實(shí)施例僅用以解釋本發(fā)明，并不用于限定本發(fā)明。

圖1為一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理方法的流程示意圖，如圖1所示的輸入權(quán)重拓展的神經(jīng)元信息處理方法包括：

步驟S100，將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元。

具體的，所述預(yù)設(shè)數(shù)量，可以根據(jù)權(quán)重股拓展的需求靈活的設(shè)定。在設(shè)定好一個(gè)協(xié)同組后，整個(gè)協(xié)同組等效為一個(gè)有效的節(jié)點(diǎn)，協(xié)同組內(nèi)連續(xù)的神經(jīng)元中，只有最后一個(gè)神經(jīng)元可以輸出信息，所以將最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，剩余的神經(jīng)元用于協(xié)同工作，進(jìn)行權(quán)重信息的拓展，而不進(jìn)行數(shù)據(jù)的輸出，所以確定為協(xié)同神經(jīng)元，協(xié)同最后一個(gè)有效神經(jīng)元進(jìn)行信息的處理。

步驟S200，所述協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)接收的前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息。

具體的，所述協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)接收到的前端神經(jīng)元信息獲取到用于后續(xù)神經(jīng)元累加的橫向累加中間信息，不再讀取自身的神經(jīng)元信息，以及不再進(jìn)行輸出信息的計(jì)算。

步驟S300，所述協(xié)同組中后續(xù)的各協(xié)同神經(jīng)元，依次根據(jù)接收的前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息。

具體的，后續(xù)的協(xié)同神經(jīng)元，在對(duì)接收到的前端神經(jīng)元信息進(jìn)行處理后，和前端協(xié)同神經(jīng)元的橫向累加中間信息一起，獲取當(dāng)前協(xié)同神經(jīng)元的橫向累加中間信息，即，協(xié)同組內(nèi)的協(xié)同神經(jīng)元，只對(duì)其接收到的前端神經(jīng)元信息進(jìn)行處理，并與協(xié)同組內(nèi)的其它協(xié)同神經(jīng)元的橫向累加中間信息進(jìn)行進(jìn)一步的累加，直至最后一個(gè)協(xié)同神經(jīng)元，最后一個(gè)協(xié)同神經(jīng)元獲取的橫向累加中間信息確定為橫向累加信息，用于后續(xù)的有效神經(jīng)元的計(jì)算。

步驟S400，所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息。

具體的，所述有效神經(jīng)元，對(duì)接收到的前端神經(jīng)元信息、讀取當(dāng)前神經(jīng)元信息，和前端的所有的協(xié)同神經(jīng)元計(jì)算得出的橫向累加信息，進(jìn)行計(jì)算后，獲取最終用于輸出的協(xié)同輸出信息。

步驟S500，所述有效神經(jīng)元輸出所述協(xié)同輸出信息。

在本實(shí)施例中，通過(guò)將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，只將所述協(xié)同組中的最后一個(gè)神經(jīng)元的信息進(jìn)行輸出，剩余神經(jīng)元只將信息進(jìn)行累加后迭加至后端的神經(jīng)元，將協(xié)同組內(nèi)的所有神經(jīng)元等效于一個(gè)有效的節(jié)點(diǎn)，多個(gè)輸入組對(duì)應(yīng)一個(gè)有效輸出，可以充分利用所述多個(gè)輸入組的權(quán)重信息，打破了現(xiàn)有單個(gè)神經(jīng)元輸入權(quán)重類(lèi)型有限的缺點(diǎn)，提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。

在其中一個(gè)實(shí)施例中，設(shè)置所述協(xié)同組內(nèi)神經(jīng)元的發(fā)放使能標(biāo)識(shí)，所述發(fā)放使能標(biāo)識(shí)包括允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將所述有效神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為允許發(fā)放數(shù)據(jù)，并將所有所述協(xié)同神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為不允許發(fā)放數(shù)據(jù)。

具體的，所述設(shè)置發(fā)放使能標(biāo)識(shí)，用于將確定好的預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元設(shè)定為一個(gè)協(xié)同組，設(shè)定只有最后一個(gè)神經(jīng)元可以輸出信息。

在其中一個(gè)實(shí)施例中，通過(guò)設(shè)置發(fā)放使能標(biāo)識(shí)，將神經(jīng)元設(shè)置為允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元組成一個(gè)協(xié)同組，可根據(jù)需求靈活的組成協(xié)同組。

在其中一個(gè)實(shí)施例中，將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，將所述人工協(xié)同組中最后一個(gè)人工神經(jīng)元確定為人工有效神經(jīng)元，將所述人工協(xié)同組中除所述人工有效神經(jīng)元外的人工神經(jīng)元確定為人工協(xié)同神經(jīng)元；或?qū)㈩A(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，將所述脈沖協(xié)同組中最后一個(gè)脈沖神經(jīng)元確定為脈沖有效神經(jīng)元，將所述脈沖協(xié)同組中除所述脈沖有效神經(jīng)元外的脈沖神經(jīng)元確定為脈沖協(xié)同神經(jīng)元。

在本實(shí)施例中，將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，或?qū)㈩A(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，在人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)中，都可以確定協(xié)同組，進(jìn)行單個(gè)神經(jīng)元輸入權(quán)重的擴(kuò)展，提高人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

當(dāng)所述協(xié)同組為脈沖協(xié)同組時(shí)，所述當(dāng)前神經(jīng)元信息包括歷史膜電位信息；在所述有效神經(jīng)元輸出所述協(xié)同輸出信息的步驟之后，所述方法還包括：更新所述脈沖有效神經(jīng)元的所述歷史膜電位信息。

在本實(shí)施例中，在脈沖協(xié)同組中，脈沖有效神經(jīng)元輸出協(xié)同輸出信息后，將所述脈沖有效神經(jīng)元的歷史膜電位信息進(jìn)行更新，以便整個(gè)協(xié)同組完成后續(xù)的信息處理，而脈沖協(xié)同神經(jīng)元不更新歷史膜電位信息，在后續(xù)的信息處理中，完成權(quán)重拓展的功能，通過(guò)脈沖協(xié)同組，提高整個(gè)脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

圖2為另一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理方法的流程示意圖，如圖2所示的輸入權(quán)重拓展的神經(jīng)元信息處理方法包括：

所述前端神經(jīng)元信息包括：前端神經(jīng)元輸出信息、前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引。

對(duì)于人工協(xié)同組，所述前端神經(jīng)元信息包括：為前端人工神經(jīng)元輸出的膜電位信息，前端人工神經(jīng)元與當(dāng)前人工神經(jīng)元的連接權(quán)重索引。

對(duì)于脈沖協(xié)同組，所述前端神經(jīng)元信息包括：為前端脈沖神經(jīng)元輸出的脈沖尖端信息，前端脈沖神經(jīng)元與當(dāng)前脈沖神經(jīng)元的連接權(quán)重索引。

步驟S100a，將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元。

具體的，同步驟S100。

步驟S200a，協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息。

具體的，所述前端人工神經(jīng)元與當(dāng)前人工神經(jīng)元的連接權(quán)重索引，是一個(gè)地址信息，當(dāng)前神經(jīng)元根據(jù)接收到的所述前端人工神經(jīng)元與當(dāng)前人工神經(jīng)元的連接權(quán)重索引，在當(dāng)前神經(jīng)元內(nèi)的存儲(chǔ)器中，讀取到前端人工神經(jīng)元與當(dāng)前人工神經(jīng)元的連接權(quán)重，根據(jù)所述的連接權(quán)重信息，可以將前端神經(jīng)元的輸出信息，在參與當(dāng)前神經(jīng)元輸出信息的計(jì)算過(guò)程中，更準(zhǔn)確的反應(yīng)出前端神經(jīng)元的輸出信息的權(quán)重。

當(dāng)協(xié)同組為人工協(xié)同組時(shí)，所述前端神經(jīng)元信息包括前端人工神經(jīng)元輸出的膜電位信息，根據(jù)所述前端人工神經(jīng)元輸出的膜電位信息，和讀取到的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重，進(jìn)行相乘后，獲取第一個(gè)人工協(xié)同神經(jīng)元的橫向累加中間信息，并放入累加器中。

當(dāng)協(xié)同組為脈沖協(xié)同組時(shí)，所述前端神經(jīng)元信息包括前端脈沖神經(jīng)元輸出的脈沖尖端信息，根據(jù)所述前端脈沖神經(jīng)元輸出的脈沖尖端信息，和讀取到的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重，進(jìn)行相乘后，獲取第一個(gè)脈沖協(xié)同神經(jīng)元的橫向累加中間信息，并放入累加器中。

步驟S300a，所述協(xié)同組中的后續(xù)協(xié)同神經(jīng)元，依次根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息。

具體的，協(xié)同組中的后續(xù)的協(xié)同神經(jīng)元，分別將接收到的前端神經(jīng)元輸出信息和讀取到的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重，按照預(yù)設(shè)的神經(jīng)元模式進(jìn)行計(jì)算，如進(jìn)行相乘后，再與與之相連的前端的協(xié)同神經(jīng)元的橫向累加中間信息進(jìn)行累加，獲取當(dāng)前協(xié)同神經(jīng)元的橫向累加中間信息。直至最后一個(gè)協(xié)同神經(jīng)元獲取到橫向累加中間信息后，確認(rèn)為橫向累加信息。

步驟S400a，所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息。

具體的，當(dāng)協(xié)同組為人工協(xié)同組時(shí)，所述當(dāng)前神經(jīng)元信息包括當(dāng)前人工神經(jīng)元偏置信息。所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息，包括：根據(jù)所述前端人工神經(jīng)元輸出的膜電位信息、所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述當(dāng)前人工神經(jīng)元偏置信息，通過(guò)預(yù)設(shè)的人工神經(jīng)元激活函數(shù)，計(jì)算所述人工有效神經(jīng)元的協(xié)同輸出信息。

當(dāng)協(xié)同組為脈沖神經(jīng)元時(shí)，所述當(dāng)前神經(jīng)元信息包括歷史膜電位信息和膜電位泄漏信息。所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息，包括：根據(jù)所述前端脈沖神經(jīng)元輸出的脈沖尖端信息、所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述歷史膜電位信息、所述膜電位泄露信息，通過(guò)脈沖神經(jīng)元計(jì)算模型，計(jì)算所述脈沖有效神經(jīng)元的協(xié)同輸出信息。

步驟S500a，所述有效神經(jīng)元輸出所述協(xié)同輸出信息。

在本實(shí)施例中，通過(guò)接收的前端神經(jīng)元信息中的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重后，用于計(jì)算橫向累加中間信息，將一個(gè)協(xié)同組中的各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了充分利用，并在有效神經(jīng)元輸出的協(xié)同輸出信息中，將各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了體現(xiàn)，相當(dāng)于將有效神經(jīng)元的權(quán)重信息進(jìn)行了擴(kuò)展，從而提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。

圖3為一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)的結(jié)構(gòu)示意圖，如圖3所示的輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)，包括：

協(xié)同組確定模塊100，用于將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元；用于設(shè)置所述協(xié)同組內(nèi)神經(jīng)元的發(fā)放使能標(biāo)識(shí)，所述發(fā)放使能標(biāo)識(shí)包括允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將所述有效神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為允許發(fā)放數(shù)據(jù)，并將所有所述協(xié)同神經(jīng)元的發(fā)放使能標(biāo)識(shí)設(shè)置為不允許發(fā)放數(shù)據(jù)。包括：人工神經(jīng)元確定單元，用于將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，將所述人工協(xié)同組中最后一個(gè)人工神經(jīng)元確定為人工有效神經(jīng)元，將所述人工協(xié)同組中除所述人工有效神經(jīng)元外的人工神經(jīng)元確定為人工協(xié)同神經(jīng)元；或脈沖神經(jīng)元確定單元，用于將預(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，將所述脈沖協(xié)同組中最后一個(gè)脈沖神經(jīng)元確定為脈沖有效神經(jīng)元，將所述脈沖協(xié)同組中除所述脈沖有效神經(jīng)元外的脈沖神經(jīng)元確定為脈沖協(xié)同神經(jīng)元。

橫向累加信息獲取模塊200，用于所述協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)接收的前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息；所述協(xié)同組中后續(xù)的各協(xié)同神經(jīng)元，依次根據(jù)接收的前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息；所述前端神經(jīng)元信息包括：前端神經(jīng)元輸出信息、前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引；所述橫向累加信息獲取模塊200，用于協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息；所述協(xié)同組中的后續(xù)協(xié)同神經(jīng)元，依次根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重；根據(jù)所述前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重、所述前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息。當(dāng)所述協(xié)同組為脈沖協(xié)同組時(shí)，所述當(dāng)前神經(jīng)元信息包括歷史膜電位信息。

具體的，所述橫向累加信息獲取模塊200，在利用具體的元器件進(jìn)行硬件電路的實(shí)現(xiàn)時(shí)，所述協(xié)同組內(nèi)的各協(xié)同神經(jīng)元生成的橫向累加中間信息，通過(guò)共享寄存器傳遞給下一個(gè)協(xié)同神經(jīng)元或有效神經(jīng)元用于膜電位累加，這種反饋加法的方式可用累加器實(shí)現(xiàn)。更具體的，協(xié)同神經(jīng)元獲取前端協(xié)同神經(jīng)元的橫向累加中間信息，是通過(guò)讀取共享寄存器實(shí)現(xiàn)的。有效神經(jīng)元輸出信息之后，需要將共享寄存器清0，以等待下一次或下一個(gè)協(xié)同組正常工作。在進(jìn)行神經(jīng)網(wǎng)絡(luò)電路設(shè)計(jì)時(shí)，為簡(jiǎn)化電路結(jié)構(gòu)，可對(duì)協(xié)同組內(nèi)的各協(xié)同神經(jīng)元與最后的有效神經(jīng)元的輸入電路電路結(jié)構(gòu)相同，即，與有效神經(jīng)元相同，各協(xié)同神經(jīng)元，也具有讀取當(dāng)前神經(jīng)元信息的輸入電路，在利用軟件的設(shè)計(jì)方式，設(shè)置各協(xié)同神經(jīng)元的當(dāng)前神經(jīng)元輸入信息輸入為0即可。

協(xié)同輸出信息獲取模塊300，用于所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息。

協(xié)同輸出信息輸出模塊400，用于所述有效神經(jīng)元輸出所述協(xié)同輸出信息。

在本實(shí)施例中，通過(guò)將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，只將所述協(xié)同組中的最后一個(gè)神經(jīng)元的信息進(jìn)行輸出，剩余神經(jīng)元只將信息進(jìn)行累加后迭加至后端的神經(jīng)元，將協(xié)同組內(nèi)的所有神經(jīng)元等效于一個(gè)有效的節(jié)點(diǎn)，多個(gè)輸入對(duì)應(yīng)一個(gè)有效輸出，可以充分利用所述多個(gè)輸入的權(quán)重信息，打破了現(xiàn)有的神經(jīng)元輸入權(quán)重類(lèi)型有限的缺點(diǎn)，提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。通過(guò)設(shè)置發(fā)放使能標(biāo)識(shí)，將神經(jīng)元設(shè)置為允許發(fā)放數(shù)據(jù)或不允許發(fā)放數(shù)據(jù)，將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元組成一個(gè)協(xié)同組，可根據(jù)需求靈活的組成協(xié)同組。通過(guò)接收的前端神經(jīng)元信息中的前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重索引，讀取前端神經(jīng)元與當(dāng)前神經(jīng)元的連接權(quán)重后，用于計(jì)算橫向累加中間信息，將一個(gè)協(xié)同組中的各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了充分利用，并在有效神經(jīng)元輸出的協(xié)同輸出信息中，將各協(xié)同神經(jīng)元的權(quán)重信息進(jìn)行了體現(xiàn)，相當(dāng)于將有效神經(jīng)元的權(quán)重信息進(jìn)行了擴(kuò)展，從而提高了神經(jīng)網(wǎng)絡(luò)的信息處理能力。將預(yù)設(shè)數(shù)量的連續(xù)的人工神經(jīng)元確定為人工協(xié)同組，或?qū)㈩A(yù)設(shè)數(shù)量的連續(xù)的脈沖神經(jīng)元確定為脈沖協(xié)同組，在人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)中，都可以確定協(xié)同組，進(jìn)行單個(gè)神經(jīng)元輸入權(quán)重的擴(kuò)展，提高人工神經(jīng)網(wǎng)絡(luò)或脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

圖4為另一個(gè)實(shí)施例的輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)的結(jié)構(gòu)示意圖，如圖4所示的輸入權(quán)重拓展的神經(jīng)元信息處理系統(tǒng)，包括：

協(xié)同組確定模塊100，用于將預(yù)設(shè)數(shù)量的連續(xù)的神經(jīng)元確定為協(xié)同組，將所述協(xié)同組中最后一個(gè)神經(jīng)元確定為有效神經(jīng)元，將所述協(xié)同組中除所述有效神經(jīng)元外的神經(jīng)元確定為協(xié)同神經(jīng)元。

橫向累加信息獲取模塊200，用于所述協(xié)同組中的第一個(gè)協(xié)同神經(jīng)元，根據(jù)接收的前端神經(jīng)元信息，獲取第一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息；所述協(xié)同組中后續(xù)的各協(xié)同神經(jīng)元，依次根據(jù)接收的前端神經(jīng)元信息，和前端協(xié)同神經(jīng)元的橫向累加中間信息，獲取所述各協(xié)同神經(jīng)元的橫向累加中間信息，并將所述協(xié)同組中最后一個(gè)協(xié)同神經(jīng)元的橫向累加中間信息確定為橫向累加信息。

協(xié)同輸出信息獲取模塊300，用于所述有效神經(jīng)元根據(jù)接收的前端神經(jīng)元信息、讀取的所述有效神經(jīng)元的當(dāng)前神經(jīng)元信息和所述橫向累加信息，獲取協(xié)同輸出信息。

協(xié)同輸出信息輸出模塊400，用于所述有效神經(jīng)元輸出所述協(xié)同輸出信息。

歷史膜電位更新模塊500，用于更新所述脈沖有效神經(jīng)元的所述歷史膜電位信息。

在本實(shí)施例中，在脈沖協(xié)同組中，脈沖有效神經(jīng)元輸出協(xié)同輸出信息后，將所述脈沖有效神經(jīng)元的歷史膜電位信息進(jìn)行更新，以便整個(gè)協(xié)同組完成后續(xù)的信息處理，而脈沖協(xié)同神經(jīng)元不更新歷史膜電位信息，在后續(xù)的信息處理中，完成權(quán)重拓展的功能，通過(guò)脈沖協(xié)同組，提高整個(gè)脈沖神經(jīng)網(wǎng)絡(luò)的信息處理能力。

以上所述實(shí)施例的各技術(shù)特征可以進(jìn)行任意的組合，為使描述簡(jiǎn)潔，未對(duì)上述實(shí)施例中的各個(gè)技術(shù)特征所有可能的組合都進(jìn)行描述，然而，只要這些技術(shù)特征的組合不存在矛盾，都應(yīng)當(dāng)認(rèn)為是本說(shuō)明書(shū)記載的范圍。

以上所述實(shí)施例僅表達(dá)了本發(fā)明的幾種實(shí)施方式，其描述較為具體和詳細(xì)，但并不能因此而理解為對(duì)發(fā)明專(zhuān)利范圍的限制。應(yīng)當(dāng)指出的是，對(duì)于本領(lǐng)域的普通技術(shù)人員來(lái)說(shuō)，在不脫離本發(fā)明構(gòu)思的前提下，還可以做出若干變形和改進(jìn)，這些都屬于本發(fā)明的保護(hù)范圍。因此，本發(fā)明專(zhuān)利的保護(hù)范圍應(yīng)以所附權(quán)利要求為準(zhǔn)。