一種基于憶阻器陣列的wta神經(jīng)網(wǎng)絡及其應用
【技術領域】
[0001] 本發(fā)明涉及憶阻器和WTA神經(jīng)網(wǎng)絡，提供了一種基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡， 并設計了一種基于該網(wǎng)絡的應用。屬于神經(jīng)網(wǎng)絡技術領域。
【背景技術】
[0002] 人工神經(jīng)網(wǎng)絡是抽象人腦神經(jīng)元網(wǎng)絡處理信息的計算模型。主要研究的神經(jīng)網(wǎng)絡 類型包括BP神經(jīng)網(wǎng)絡、細胞神經(jīng)網(wǎng)絡、遞歸神經(jīng)網(wǎng)絡、WTA神經(jīng)網(wǎng)絡等。其中，WTA神經(jīng)網(wǎng)絡 在理論研究和工程應用上不斷拓展，在模式識別、圖像處理、自動控制等領域表現(xiàn)出很好的 智能特性。
[0003] 人工神經(jīng)網(wǎng)絡由大量的神經(jīng)元相互聯(lián)接構成。一般而言，常用MOSFET或CMOS物 理實現(xiàn)神經(jīng)元，由此構成的神經(jīng)網(wǎng)絡體積大，功耗大，不利于大規(guī)模使用。2008年，自從HP 實驗室設計出首個憶阻器之后，憶阻器的研究成為了目前一大熱點。憶阻器的記憶納米特 性，"天然"地模擬神經(jīng)元，由此設計的神經(jīng)網(wǎng)絡體積小、功耗低，可大規(guī)模推廣應用在醫(yī)學 圖像處理中，進行皮膚病分類識別。
[0004] 因此，運用憶阻器來設計一種體積小，功耗低的WTA神經(jīng)網(wǎng)絡是十分必要的。

【發(fā)明內(nèi)容】

[0005] 針對上述存在問題或不足，本發(fā)明提供了一種基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡及 其應用。
[0006] 該基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡最少具有兩個神經(jīng)元，每個神經(jīng)元均由憶阻 器，MOS管，電容器，電阻器和直流電源構成的。對于一個具有N個神經(jīng)元的網(wǎng)絡，每個神經(jīng) 元由N-I個憶阻器、N-I個MOS管、N-I個直流電源、一個電阻以及一個電容組成，其中N彡2 且每個憶阻器的一端接地，另外一端分別與其它N-I個神經(jīng)元的輸入相連，每個MOS管的源 極連接到輸入端，柵極分別連接到其它N-I個神經(jīng)元的輸入端，漏極分別與N-I個直流電源 串聯(lián)后接地，電阻與電容并聯(lián)，一端連接到輸入端，另外一端接地。該神經(jīng)網(wǎng)絡的輸入是電 流，輸出是電壓。
[0007] 所述憶阻器是一種分段線性的憶阻器，其特性函數(shù)為
[0008]
[0009] 其憶導為
[0010] 其中q為電荷量，c>0, d>0。根據(jù)MOS管的特性，得到其抑制函數(shù)
[0011] CN 105160401 A 說明書 2/3 頁
[0012] 其中K、V^MOS管的物理特性決定。抑制函數(shù)Ill(V1J j)代表第j個神經(jīng)元對第 i個神經(jīng)元的抑制作用，Vi、Vj分別是第i個神經(jīng)元與第個j神經(jīng)元的輸出。將抑制函數(shù)與 憶阻器模型結合起來，就得到基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡的動力學方程
[0013]
[0014] 其中C為電容，G為電導，約為第i個神經(jīng)元所對應的憶阻器的磁通量，N為神經(jīng) 元個數(shù)。
[0015] 基于上述基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡的應用即分類器的實現(xiàn)。
[0016] 該分類器由三大部分構成：第一部分為一個BP神經(jīng)網(wǎng)絡，由輸入層、隱含層和輸 出層構成；第二部分為一個起隔離驅動作用的轉換器；第三部分是上面所述的基于憶阻器 陣列的WTA神經(jīng)網(wǎng)絡。
[0017] 第一部分的BP神經(jīng)網(wǎng)絡的輸入為特征，其輸出經(jīng)過第二部分的轉換器的轉換后， 再作為第三部分的輸入，第三部分的輸出中，輸出大于〇的神經(jīng)元所對應的種類，即分類的 結果。
[0018] 所述BP神經(jīng)網(wǎng)絡，使用的激勵函數(shù)為
，訓練算法為
[0019] Levenberg-Marquardt BP 算法，表達式為
[0020]
[0021]
[0022] e為誤差，ep= d p-Xc]uW dp為期望輸出，X 為第q個訓練模式的實際網(wǎng)絡輸出， μ = 0. 001 〇
[0023] 本發(fā)明具有以下技術效果：該基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡具有WTA特性，且體 積小、功耗低，基于其所構建的分類器具有優(yōu)良的性能，可以將其應用于醫(yī)學疾病分類等領 域。
【附圖說明】
[0024] 圖1為憶阻器特性函數(shù)曲線（鏟-奪曲線）；
[0025] 圖2為實施例1基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡（四個神經(jīng)元）；
[0026] 圖3為實施例1基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡（四個神經(jīng)元）的WTA特性圖 (MATLAB 仿真）；
[0027] 圖4為實施例2基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡（八個神經(jīng)元）的WTA特性圖 (MATLAB 仿真）；
[0028] 圖5為實施例3基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡（四個神經(jīng)元）分類器； 圖6為實施例3分類器對鱗肩性紅斑皮膚病的部分分類仿真結果示意圖。
【具體實施方式】
[0029] 實施例1
[0030] 用12個憶阻器，12個MOS管，4個電容器，4個電阻器，4個直流電源，按上面所述 的連接方式進行連接，即構建了一個具有四個神經(jīng)元的基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡， 如圖2所示。分析該網(wǎng)絡，可得到其動力學方程公式（4)，其中N = 4。通過對該動力學方 程進行數(shù)學分析，可驗證該神經(jīng)網(wǎng)絡具有WTA特性。
[0031] 實施例2
[0032] 用56個憶阻器，56個MOS管，8個電容器，8個電阻器，8個直流電源，按上面所述的 連接方式進行連接，即構建了一個具有八個神經(jīng)元的基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡。分 析該網(wǎng)絡，可得到其動力學方程公式（4)，其中N = 8。通過對該動力學方程進行數(shù)學分析， 可驗證該神經(jīng)網(wǎng)絡具有WTA特性。
[0033] 最后分別對實施例1、實施例2進行MATLAB仿真，仿真結果分別如圖3、圖4所示。 從仿真結果可以看出，只有一個輸出為正，其它輸出都為負，表現(xiàn)出了 WTA特性。
[0034] 實施例3
[0035] 基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡分類器是將BP神經(jīng)網(wǎng)絡與基于憶阻器陣列的WTA 神經(jīng)網(wǎng)絡結合起來，中間通過一個轉換器相連。第一部分BP網(wǎng)絡的輸出通過第二部分轉換 器的隔離和驅動后，作為第三部分WTA神經(jīng)網(wǎng)絡的輸入。結合上面所述的實施例1構建分 類器，其結構如圖5所示。
[0036] 為了驗證分類器的效果，我們將其應用于皮膚病分類識別。我們采用皮膚病數(shù)據(jù) 庫（Dermatology Database)里面的數(shù)據(jù)，對鱗肩性紅斑（erythemato-scuamous)這一大 類皮膚病進行子病種分類。我們使用了 366組數(shù)據(jù)：72組為扁平苔癬（lichen planus)， 49 組為玫瑰糠疹（pityriasis rosea)，52 組為慢性皮炎（chronic dermatitis)，112 組為 牛皮癬（psoriasis)，61組為脂溢性皮炎（seborrheic dermatitis)，20組為毛發(fā)紅糠疹 (pityriasis rubra pilaris)。我們將其中的300組數(shù)據(jù)作為訓練集，剩下的66組數(shù)據(jù)作 為測試集，并用MATLAB進行仿真，部分仿真結果如表一所示，從表一中可以看出該分類器 具有很好的性能。
[0037] 實施例1、實施例2的仿真結果表明，這種基于憶阻器陣列的神經(jīng)網(wǎng)絡具有很好的 WTA特性，是一種WTA神經(jīng)網(wǎng)絡。由于該神經(jīng)網(wǎng)絡使用了憶阻器這種體積小、功耗低的元器 件，大大減小了網(wǎng)絡的體積和功耗，一定程度上克服了當前WTA神經(jīng)網(wǎng)絡體積過大、功耗過 大的缺點，有利于這種基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡實際物理電路的實現(xiàn)，以及大規(guī)模 應用，也有助于以后相關應用的研究。
[0038] 實施例3的仿真結果表明，本發(fā)明設計的分類器具有優(yōu)良的性能，可以將其應用 于醫(yī)學疾病分類等領域。
【主權項】
1. 一種基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡，最少具有兩個神經(jīng)元，其特征在于：每個神經(jīng) 元都是由憶阻器、MOS管、電容器、電阻器和直流電源構成的；對于具有N個神經(jīng)元的網(wǎng)絡， 每個神經(jīng)元由N-I個憶阻器、N-I個MOS管、N-I個直流電源、一個電阻以及一個電容組成， 其中N多2且每個憶阻器的一端接地，另外一端分別與其它N-I個神經(jīng)元的輸入相連，每個 MOS管的源極連接到輸入端，柵極分別連接到其它N-I個神經(jīng)元的輸入端，漏極分別與N-I 直流電源串聯(lián)后接地，電阻與電容并聯(lián)，一端連接到輸入端，另外一端接地；該神經(jīng)網(wǎng)絡的 輸入是電流，輸出是電壓。2. 如權利要求1所述基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡，其特征在于：所述憶阻器是一 種分段線性的憶阻器，其特性函數(shù)為其中q為電荷量，〇0, d>0 ; 根據(jù)MOS管的特性，得到其抑制函數(shù)其中K、VT* MOS管的物理特性決定； 抑制函數(shù)Iii (Vi, Vj)代表第j個神經(jīng)元對第i個神經(jīng)元的抑制作用，Vp Vj分別是第i 個神經(jīng)元與第個j神經(jīng)元的輸出；將抑制函數(shù)與憶阻器模型結合起來，就得到基于憶阻器 陣列的WTA神經(jīng)網(wǎng)絡的動力學方程其中C為電容，G為電導，巧為第i個神經(jīng)元所對應的憶阻器的磁通量，N為神經(jīng)元個 數(shù)，沙(們?yōu)閼涀杵鞯膽泴?，表達式為其中c>0，d>0，h(x，y)為抑 制函數(shù)，表達式為其中K、VT* MOS管的物理特性決定；C為電容；G為電導；釋為第i個神經(jīng)元所對應的 憶阻器的磁通量；N為神經(jīng)元個數(shù)。3. 如權利要求1所述基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡的應用，其特征在于： 該應用由三大部分構成：第一部分為一個BP神經(jīng)網(wǎng)絡，由輸入層、隱含層和輸出層構 成；第二部分為一個起隔離驅動作用的轉換器；第三部分為權利要求1所述基于憶阻器陣 列的WTA神經(jīng)網(wǎng)絡； 第一部分的BP神經(jīng)網(wǎng)絡的輸入為特征，其輸出經(jīng)過第二部分的轉換器的轉換后，再作 為第三部分的輸入；第三部分的輸出中，輸出大于〇的神經(jīng)元所對應的種類，即分類的結 果。4. 如權利要求3所述基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡的應用，其特征在于： 所述BP神經(jīng)網(wǎng)絡的激勵函數(shù)為訓練算法為 Levenberg-Marquardt BP 算法，表達式為其中X為權值，J為雅可比矩陣，e為誤差，ep= Clp-Xciutiq, dp為期 望輸出，X<q為第q個訓練模式的實際網(wǎng)絡輸出，μ =〇.〇〇1。5. 如權利要求3所述基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡的應用，其特征在于：該應用適 用于皮膚病分類識別。
【專利摘要】本發(fā)明屬于神經(jīng)網(wǎng)絡技術領域，涉及一種基于憶阻器陣列的WTA神經(jīng)網(wǎng)絡及其應用。通過憶阻器陣列設計實現(xiàn)該WTA神經(jīng)網(wǎng)絡及其應用即分類器模型，并由此提出可用于皮膚病特征的分類識別方法。其中，WTA模型由憶阻器，MOSFET，電容器，電阻器和電源構成，在此基礎上，導出基于憶阻器陣列WTA神經(jīng)網(wǎng)絡的分類器。其目的是用憶阻器來實現(xiàn)WTA神經(jīng)網(wǎng)絡及其分類器，探索憶阻器在神經(jīng)網(wǎng)絡及其醫(yī)學決策的應用。與傳統(tǒng)WTA神經(jīng)網(wǎng)絡對比，本發(fā)明使用憶阻器陣列設計的分類器具有優(yōu)良的性能，可以將其應用于醫(yī)學疾病分類等領域。
【IPC分類】G06N3/063
【公開號】CN105160401
【申請?zhí)枴緾N201510536723
【發(fā)明人】于永斌, 劉興文, 胡青青, 門樂飛, 楊辰宇, 李成, 鄧建華, 張容權, 蔡竟業(yè)
【申請人】電子科技大學
【公開日】2015年12月16日
【申請日】2015年8月27日