等。神經(jīng)系統(tǒng)100中的每一神 經(jīng)元可被實(shí)現(xiàn)為神經(jīng)元電路。被充電至發(fā)起輸出尖峰的闊值的神經(jīng)元膜可被實(shí)現(xiàn)為例如對(duì) 流經(jīng)其的電流進(jìn)行積分的電容器。
[0037] 在一方面，電容器作為神經(jīng)元電路的電流積分器件可被除去，并且可使用較小的 憶阻器元件來替代它。運(yùn)種辦法可應(yīng)用于神經(jīng)元電路中，W及其中大容量電容器被用作電 流積分器的各種其他應(yīng)用中。另外，每個(gè)突觸104可基于憶阻器元件來實(shí)現(xiàn)，其中突觸權(quán)重 改變可與憶阻器電阻的變化有關(guān)。使用納米特征尺寸的憶阻器，可顯著地減小神經(jīng)元電路 和突觸的面積，運(yùn)可使得實(shí)現(xiàn)超大規(guī)模神經(jīng)系統(tǒng)硬件實(shí)現(xiàn)變得可行。
[0038] 對(duì)神經(jīng)系統(tǒng)100進(jìn)行仿真的神經(jīng)處理器的功能性可取決于突觸連接的權(quán)重，運(yùn)些 權(quán)重可控制神經(jīng)元之間的連接的強(qiáng)度。突觸權(quán)重可存儲(chǔ)在非易失性存儲(chǔ)器中W在掉電之后 保留該處理器的功能性。在一方面，突觸權(quán)重存儲(chǔ)器可實(shí)現(xiàn)在與主神經(jīng)處理器忍片分開的 外部忍片上。突觸權(quán)重存儲(chǔ)器可與神經(jīng)處理器忍片分開地封裝成可更換的存儲(chǔ)卡。運(yùn)可向 神經(jīng)處理器提供多種多樣的功能性，其中特定功能性可基于當(dāng)前附連至神經(jīng)處理器的存儲(chǔ) 卡中所存儲(chǔ)的突觸權(quán)重。
[0039] 圖2解說根據(jù)本公開某些方面的計(jì)算網(wǎng)絡(luò)（例如，神經(jīng)系統(tǒng)或神經(jīng)網(wǎng)絡(luò)）的處理 單元（例如，人工神經(jīng)元202)的示例200。例如，神經(jīng)元202可對(duì)應(yīng)于來自圖1的級(jí)102和 106的任一個(gè)神經(jīng)元。神經(jīng)元202可接收多個(gè)輸入信號(hào)204i-204w(xi-xj，運(yùn)些輸入信號(hào)可 W是該神經(jīng)系統(tǒng)外部的信號(hào)、或是由同一神經(jīng)系統(tǒng)的其他神經(jīng)元所生成的信號(hào)、或運(yùn)兩者。 輸入信號(hào)可W是實(shí)數(shù)值或復(fù)數(shù)值的電流或電壓。輸入信號(hào)可包括具有定點(diǎn)或浮點(diǎn)表示的數(shù) 值。可通過突觸連接將運(yùn)些輸入信號(hào)遞送到神經(jīng)元202,運(yùn)些突觸連接根據(jù)可調(diào)節(jié)突觸權(quán)重 206i-20的(wi-wj對(duì)運(yùn)些信號(hào)進(jìn)行縮放，其中N可W是神經(jīng)元202的輸入連接的總數(shù)。
[0040] 神經(jīng)元202可組合運(yùn)些經(jīng)縮放的輸入信號(hào)，并且使用組合的經(jīng)縮放的輸入來生成 輸出信號(hào)208(即，信號(hào)y)。輸出信號(hào)208可W是實(shí)數(shù)值或復(fù)數(shù)值的電流或電壓。輸出信號(hào) 可包括具有定點(diǎn)或浮點(diǎn)表示的數(shù)值。隨后該輸出信號(hào)208可作為輸入信號(hào)傳遞至同一神經(jīng) 系統(tǒng)的其他神經(jīng)元、或作為輸入信號(hào)傳遞至同一神經(jīng)元202、或作為該神經(jīng)系統(tǒng)的輸出來傳 遞。
[0041] 處理單元（神經(jīng)元202)可由電路來仿真，并且其輸入和輸出連接可由具有突觸電 路的導(dǎo)線來仿真。處理單元、其輸入和輸出連接也可由軟件代碼來仿真。處理單元也可由 電路來仿真，而其輸入和輸出連接可由軟件代碼來仿真。在一方面，計(jì)算網(wǎng)絡(luò)中的處理單元 可包括模擬電路。在另一方面，處理單元可包括數(shù)字電路。在又一方面，處理單元可包括具 有模擬和數(shù)字組件兩者的混合信號(hào)電路。計(jì)算網(wǎng)絡(luò)可包括任何前述形式的處理單元。使用 運(yùn)樣的處理單元的計(jì)算網(wǎng)絡(luò)（神經(jīng)系統(tǒng)或神經(jīng)網(wǎng)絡(luò)）可用在大范圍的應(yīng)用中，諸如圖像和 模式識(shí)別、機(jī)器學(xué)習(xí)、電機(jī)控制、及類似應(yīng)用等。
[00創(chuàng)在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程期間，突觸權(quán)重（例如，來自圖1的權(quán)重Hf"11 悚和/或來自圖2的權(quán)重2O61-2O6J可用隨機(jī)值來初始化并根據(jù)學(xué)習(xí)規(guī) 則而增大或減小。學(xué)習(xí)規(guī)則的某些示例是尖峰定時(shí)依賴型可塑性（STD巧學(xué)習(xí)規(guī)則、He化規(guī) 則、Oja規(guī)則、Bienenstock-Copper-Munro度CM)規(guī)則等。很多時(shí)候，運(yùn)些權(quán)重可穩(wěn)定至兩個(gè) 值（即，權(quán)重的雙峰分布）之一。該效應(yīng)可被用于減少每突觸權(quán)重的位數(shù)、提高從/向存儲(chǔ) 突觸權(quán)重的存儲(chǔ)器讀取和寫入的速度、W及降低突觸存儲(chǔ)器的功耗。
[0043] 突觸類型
[0044]在神經(jīng)網(wǎng)絡(luò)的硬件和軟件模型中，突觸相關(guān)功能的處理可基于突觸類型。突觸類 型可包括非可塑突觸（對(duì)權(quán)重和延遲沒有改變）、可塑突觸（權(quán)重可改變）、結(jié)構(gòu)化延遲可 塑突觸（權(quán)重和延遲可改變）、全可塑突觸（權(quán)重、延遲和連通性可改變）、W及基于此的變 型（例如，延遲可改變，但在權(quán)重或連通性方面沒有改變）。此舉的優(yōu)點(diǎn)在于處理可W被細(xì) 分。例如，非可塑突觸不會(huì)要求執(zhí)行可塑性功能（或等待此類功能完成）。類似地，延遲和 權(quán)重可塑性可被細(xì)分成可一起或分開地、順序地或并行地運(yùn)作的操作。不同類型的突觸對(duì) 于適用的每一種不同的可塑性類型可具有不同的查找表或公式W及參數(shù)。因此，運(yùn)些方法 將針對(duì)該突觸的類型來訪問相關(guān)的表。
[0045]還進(jìn)一步牽設(shè)到W下事實(shí)：尖峰定時(shí)依賴型結(jié)構(gòu)化可塑性可獨(dú)立于突觸可塑性地 來執(zhí)行。結(jié)構(gòu)化可塑性即使在權(quán)重幅值沒有改變的情況下（例如，如果權(quán)重已達(dá)最小或最 大值、或者其由于某種其他原因而不改變）也可執(zhí)行，因?yàn)榻Y(jié)構(gòu)化可塑性（即，延遲改變的 量）可W是pre-post(突觸前-突觸后）尖峰時(shí)間差的直接函數(shù)。替換地，結(jié)構(gòu)化可塑性可 被設(shè)為權(quán)重改變量的函數(shù)或者可基于與權(quán)重或權(quán)重改變的界限有關(guān)的條件來設(shè)置。例如， 突觸延遲可僅在發(fā)生權(quán)重改變時(shí)或者在權(quán)重到達(dá)0的情況下才改變，但在權(quán)重達(dá)到最大極 限時(shí)不改變。然而，具有獨(dú)立函數(shù)W使得運(yùn)些過程能被并行化從而減少存儲(chǔ)器訪問的次數(shù) 和交疊可能是有利的。
[0046]突觸可塑性的確定
[0047]神經(jīng)元可塑性（或簡稱"可塑性"）是大腦中的神經(jīng)元和神經(jīng)網(wǎng)絡(luò)響應(yīng)于新的信 息、感官刺激、發(fā)展、損壞、或機(jī)能障礙而改變其突觸連接和行為的能力?？伤苄詫?duì)于生物學(xué) 中的學(xué)習(xí)和記憶、W及對(duì)于計(jì)算神經(jīng)元科學(xué)和神經(jīng)網(wǎng)絡(luò)是重要的。已經(jīng)研究了各種形式的 可塑性，諸如突觸可塑性（例如，根據(jù)赫布理論）、尖峰定時(shí)依賴可塑性（STD巧、非突觸可塑 性、活動(dòng)性依賴可塑性、結(jié)構(gòu)化可塑性和自身穩(wěn)態(tài)可塑性。
[0048] STDP是調(diào)節(jié)神經(jīng)元（諸如大腦中的那些神經(jīng)元）之間的突觸連接的強(qiáng)度的學(xué)習(xí)過 程。連接強(qiáng)度是基于特定神經(jīng)元的輸出與收到輸入尖峰（即，動(dòng)作電位）的相對(duì)定時(shí)來調(diào) 節(jié)的。在STDP過程下，如果至某個(gè)神經(jīng)元的輸入尖峰平均而言傾向于緊挨在該神經(jīng)元的輸 出尖峰之前發(fā)生，則可發(fā)生長期增強(qiáng)化TP)。于是使得該特定輸入在一定程度上更強(qiáng)。相 反，如果輸入尖峰平均而言傾向于緊接在輸出尖峰之后發(fā)生，則可發(fā)生長期抑壓化TD)。于 是使得該特定輸入在一定程度上更弱，由此得名為"尖峰定時(shí)依賴可塑性"。因此，使得可能 是突觸后神經(jīng)元興奮原因的輸入甚至更有可能在將來作出貢獻(xiàn)，而使得不是突觸后尖峰的 原因的輸入較不可能在將來作出貢獻(xiàn)。該過程繼續(xù)，直至初始連接集的子集保留，而所有其 他連接的影響減輕至0或接近0。
[0049] 由于神經(jīng)元一般在其許多輸入都在一短時(shí)段內(nèi)發(fā)生（即，足W累積到引起輸出） 時(shí)產(chǎn)生輸出尖峰，因此通常保留下來的輸入子集包括傾向于在時(shí)間上相關(guān)的那些輸入。另 夕F，由于在輸出尖峰之前發(fā)生的輸入被加強(qiáng)，因此提供對(duì)相關(guān)性的最早充分累積指示的輸 入將最終變成至該神經(jīng)元的最后輸入。
[0050] STDP學(xué)習(xí)規(guī)則可因變于突觸前神經(jīng)元的尖峰時(shí)間tpf。與突觸后神經(jīng)元的尖峰時(shí) 間tpM義間的時(shí)間差（即，t=tpMt-tpj來有效地適配將該突觸前神經(jīng)元連接到該突觸后 神經(jīng)元的突觸的突觸權(quán)重。STDP的典型公式是若該時(shí)間差為正（突觸前神經(jīng)元在突觸后神 經(jīng)元之前激發(fā)）則增大突觸權(quán)重（即，增強(qiáng)該突觸），W及若該時(shí)間差為負(fù)（突觸后神經(jīng)元 在突觸前神經(jīng)元之前激發(fā)）則減小突觸權(quán)重（即，抑壓該突觸）。
[0051] 在STDP過程中，突觸權(quán)重隨時(shí)間推移的改變可通常使用指數(shù)衰退來達(dá)成，如由下 式給出的：
[0052] (0 陽05引其中，心和k分別是正和負(fù)時(shí)間差的時(shí)間常量，a郝a是對(duì)應(yīng)的縮放振幅，W及y是可W被施加到正時(shí)間差和/或負(fù)時(shí)間差的偏移。
[0054] 圖3解說根據(jù)STDP，突觸權(quán)重因變于突觸前尖峰（pre)和突觸后尖峰（post)的相 對(duì)定時(shí)而改變的示例曲線圖300。如果突觸前神經(jīng)元在突觸后神經(jīng)元之前激發(fā)，則可使對(duì) 應(yīng)的突觸權(quán)重增大，如曲線圖300的部分302中所解說的。該權(quán)重增大可被稱為該突觸的 LTP。從曲線圖部分302可觀察到，LTP的量可因變于突觸前和突觸后尖峰時(shí)間之差而大致 呈指數(shù)地下降。相反的激發(fā)次序可減小突觸權(quán)重，如曲線圖300的部分304中所解說的，從 而導(dǎo)致該突觸的LTD。
[0055] 如圖3中的曲線圖300中所解說的，可向STDP曲線圖的LTP(因果性）部分302應(yīng) 用負(fù)偏移y。X軸的交越點(diǎn)306(y= 0)可被配置成與最大時(shí)間滯后重合W考慮到來自層 i-1 (突觸前層）的各因果性輸入的相關(guān)性。在基于帖的輸入（即，輸入是按包括尖峰或脈 沖的特定歷時(shí)的帖的形式）的情形中，可計(jì)算偏移值yW反映帖邊界。該帖中的第一輸入 尖峰（脈沖）可被視為隨時(shí)間衰退，要么如直接由突觸后電位所建模地、要么w對(duì)神經(jīng)狀態(tài) 的影響的形式而隨時(shí)間衰退。如果該帖中的第二輸入尖峰（脈沖）被視為與特定時(shí)間帖關(guān) 聯(lián)或相關(guān)，則該帖之前和之后的相關(guān)時(shí)間可通過偏移STDP曲線的一個(gè)或多個(gè)部分W使得 相關(guān)時(shí)間中的值可W不同（例如，對(duì)于大于一個(gè)帖為負(fù)，而對(duì)于小于一個(gè)帖為正）來在該時(shí) 間帖邊界處被分開并在可塑性方面被不同地對(duì)待。例如，負(fù)偏移y可被設(shè)為偏移LTPW使 得曲線實(shí)際上在大于帖時(shí)間的pre-post時(shí)間處變得低于零并且它由此為LTD而非LTP的 一部分。
[0056] 神經(jīng)元模型及操作
[0057] 存在一些用于設(shè)計(jì)有用的尖峰發(fā)放神經(jīng)元模型的一般原理。良好的神經(jīng)元模型在 W下兩個(gè)計(jì)算態(tài)相（regime)方面可具有豐富的潛在行為：重合性檢測(cè)和功能性計(jì)算。此 夕F，良好的神經(jīng)元模型應(yīng)當(dāng)具有允許時(shí)間編碼的兩個(gè)要素：輸入的抵達(dá)時(shí)間影響輸出時(shí)間， W及重合性檢測(cè)能具有窄時(shí)間窗。最后，為了在計(jì)算上是有吸引力的，良好的神經(jīng)元模型在 連續(xù)時(shí)間上可具有閉合形式解，并且具有穩(wěn)定的行為，包括在靠近吸引子和鞍點(diǎn)之處。換言 之，有用的神經(jīng)元模型是可實(shí)踐且可被用于建模豐富的、現(xiàn)實(shí)的且生物學(xué)一致的行為并且 可被用于對(duì)神經(jīng)電路進(jìn)行工程設(shè)計(jì)和反向工程兩者的神經(jīng)元模型。
[0058] 神經(jīng)元模型可取決于事件，諸如輸入抵達(dá)、輸出尖峰或其他事件，無論運(yùn)些事件是 內(nèi)部的還是外部的。為了達(dá)成豐富的行為庫，能展現(xiàn)復(fù)雜行為的狀態(tài)機(jī)可能是期望的。如 果事件本身的發(fā)生在撇開輸入貢獻(xiàn)（若有）的情況下能影響狀態(tài)機(jī)并約束在該事件之后的 動(dòng)態(tài)，則該系統(tǒng)的將來狀態(tài)并非僅是狀態(tài)和輸入的函數(shù)，而是狀態(tài)、事件和輸入的函數(shù)。
[0059] 在一方面，神經(jīng)元n可被建模為尖峰帶漏泄積分激發(fā)神經(jīng)元，其膜電壓V。(t)由W 下動(dòng)態(tài)來支配：
[0060] (2)
[0061] 其中a和P是參數(shù)，Wm,。是將突觸前神經(jīng)元m連接到突觸后神經(jīng)元n的突觸的突 觸權(quán)重，而ym(t)是神經(jīng)元m的尖峰輸出，其可根據(jù)Atm,。被延遲達(dá)樹突或軸突延遲，直到神 經(jīng)元n的胞體抵達(dá)。
[0062] 應(yīng)注意，從建立了對(duì)突觸后神經(jīng)元的充分輸入的時(shí)間直至突觸后神經(jīng)元實(shí)際上激 發(fā)的時(shí)間之間存在延遲。在動(dòng)態(tài)尖峰發(fā)放神經(jīng)元模型（諸如Izhikevich簡單模型）中，如 果在去極化闊值Vt與峰值尖峰電壓Vp。。,之間有差量，則可引發(fā)時(shí)間延遲。例如，在該簡單 模型中，神經(jīng)元胞體動(dòng)態(tài)可由關(guān)于電壓和恢復(fù)的微分方程對(duì)來支配，即：
W65] 其中V是膜電位，U是膜恢復(fù)變量，k是描述膜電位V的時(shí)間尺度的參數(shù)，a是描述 恢復(fù)變量U的時(shí)間尺度的參數(shù)，b是描述恢復(fù)變量U對(duì)膜電位V的闊下波動(dòng)的敏感度的參 數(shù)，Vf是膜靜息電位，I是突觸電流，W及C是膜的電容。根據(jù)該模型，神經(jīng)元被定義為在V >Vp。。,時(shí)發(fā)放尖峰。
[0066]HunzingerCold橫巧
[0067] 化nzingerCold神經(jīng)元模型是能再現(xiàn)豐富多樣的各種神經(jīng)行為的最小雙態(tài)相尖 峰發(fā)放線性動(dòng)態(tài)模型。該模型的一維或二維線性動(dòng)態(tài)可具有兩個(gè)態(tài)相，其中時(shí)間常數(shù)（W 及禪合）可取決于態(tài)相。在闊下態(tài)相中，時(shí)間常數(shù)（按照慣例為負(fù)）表示漏泄通道動(dòng)態(tài)，其 一般作用于W生物學(xué)一致的線性方式