專利名稱：多權(quán)值突觸的神經(jīng)元構(gòu)造方法
技術(shù)領(lǐng)域：
本發(fā)明屬于計(jì)算機(jī)領(lǐng)域，本發(fā)明提供一種多權(quán)值突觸的神經(jīng)元構(gòu)造方法。
后來(lái)發(fā)展的神經(jīng)元有代表性的是徑向基函數(shù)(RBF)網(wǎng)絡(luò)采用的神經(jīng)Y=f[Σi=0n(Wi-Xi)2-θ2]]]>元模型，如下式所示。可以看出，神經(jīng)元的每個(gè)輸入(突觸)依然是只有一個(gè)可以調(diào)整的權(quán)值。與普通的神經(jīng)元模型不同的是，該神經(jīng)元構(gòu)成了高維空間的一個(gè)超球面而不是開(kāi)放的超平面，通過(guò)調(diào)整權(quán)值W，可以調(diào)整該超球面的中心點(diǎn)。各種實(shí)驗(yàn)證明，該類型的神經(jīng)網(wǎng)絡(luò)性能優(yōu)于普通的神經(jīng)元構(gòu)成的網(wǎng)絡(luò)。
從上述介紹可以看到，只有一個(gè)權(quán)值突觸的神經(jīng)元，所構(gòu)成的超曲面比較簡(jiǎn)單，不能適應(yīng)復(fù)雜曲面的需要。而且，普通的神經(jīng)元在用軟件或硬件實(shí)現(xiàn)神經(jīng)元網(wǎng)絡(luò)的時(shí)候，由于神經(jīng)元結(jié)構(gòu)不同，需要針對(duì)不同的神經(jīng)元網(wǎng)絡(luò)進(jìn)行設(shè)計(jì)和實(shí)現(xiàn)，浪費(fèi)了資源和時(shí)間，特別在硬件實(shí)現(xiàn)時(shí)，這種浪費(fèi)更是巨大的。本申請(qǐng)專利在充分研究已有神經(jīng)元結(jié)構(gòu)的基礎(chǔ)上，提出了多權(quán)值突觸的神經(jīng)元結(jié)構(gòu)，使神經(jīng)元的通用性更好，功能更強(qiáng)大，靈活性也更好。
本發(fā)明一種多權(quán)值突觸的神經(jīng)元構(gòu)造方法，其特征在于，包括如下步驟(1)確定神經(jīng)元的突觸數(shù)量；(2)構(gòu)造多權(quán)值的突觸；(3)根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限；(4)根據(jù)系統(tǒng)特性和激活門限選擇激勵(lì)函數(shù)；(5)形成多權(quán)值突觸神經(jīng)元。
其中所述的構(gòu)造多權(quán)值的突觸，是指在神經(jīng)元的每個(gè)輸入中，包含兩個(gè)或兩個(gè)以上可調(diào)整的權(quán)值。
其中所述的突觸函數(shù)是指突觸函數(shù)是任意的，可以根據(jù)神經(jīng)元所在具體應(yīng)用的實(shí)際情況采用任意形式的函數(shù)。
其中所述的神經(jīng)元是在具體應(yīng)用的實(shí)際情況采用任意形式的函數(shù)。
其中所述的突觸函數(shù)，是指每個(gè)神經(jīng)元輸入Xi、其上的各個(gè)權(quán)值Wij和最終輸入到神經(jīng)元的值Fi所形成的關(guān)系，即Fi＝F(Xi，Wi1，Wi2，...，Win)；F即為突觸函數(shù)。
圖2是多權(quán)值突觸的神經(jīng)元結(jié)構(gòu)圖；圖3是本發(fā)明的流程圖；圖4是本發(fā)明實(shí)施例中的神經(jīng)元構(gòu)造出的部分形體圖。
如圖2，本發(fā)明的神經(jīng)元模型如下式所示Y＝f(∑Fi-θ)其中，F(xiàn)i＝F(Xi，Wi1，Wi2，...，Wij...，Wim)Y為神經(jīng)元的輸出，Xi為神經(jīng)元的輸入，F(xiàn)為神經(jīng)元的突觸函數(shù)，Wij為神經(jīng)元第i個(gè)突觸的第j個(gè)權(quán)值，m為每個(gè)突觸的權(quán)值數(shù)目(在本方案中，m＞1)，θ為神經(jīng)元的激活門限值，f為神經(jīng)元的激勵(lì)函數(shù)。在本方案中，F(xiàn)的形式可以是任意的，既可以是連續(xù)的函數(shù)，也可以是非連續(xù)的函數(shù)。本申請(qǐng)專利中F函數(shù)的特點(diǎn)在于權(quán)值不僅僅是一個(gè)，即m＞1。
從本方案的模型可以看出，現(xiàn)有的各種神經(jīng)元模型只是本方案一個(gè)簡(jiǎn)單的特例。依據(jù)本方案構(gòu)造的多個(gè)權(quán)值突觸的神經(jīng)元比現(xiàn)有的一個(gè)權(quán)值突觸的神經(jīng)元明顯具有更廣泛的通用性、更強(qiáng)的功能和更大的靈活性。
請(qǐng)參閱圖3，本發(fā)明一種多權(quán)值突觸的神經(jīng)元構(gòu)造方法，包括如下步驟1、確定神經(jīng)元的突觸數(shù)量；2、構(gòu)造多權(quán)值的突觸，是指在神經(jīng)元的每個(gè)輸入中，包含兩個(gè)或兩個(gè)以上可調(diào)整的權(quán)值；3、根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限，其中所述的突觸函數(shù)是指突觸函數(shù)是任意的，可以根據(jù)神經(jīng)元所在具體應(yīng)用的實(shí)際情況采用任意形式的函數(shù)；其中所述的突觸函數(shù)，是指每個(gè)神經(jīng)元輸入Xi、其上的各個(gè)權(quán)值Wij和最終輸入到神經(jīng)元的值Fi所形成的關(guān)系，即Fi＝F(Xi，Wi1，Wi2，…，Win)。F即為突觸函數(shù)；4、根據(jù)系統(tǒng)特性和激活門限選擇激勵(lì)函數(shù)；是在具體應(yīng)用的實(shí)際情況采用任意形式的函數(shù)；5、形成多權(quán)值突觸神經(jīng)元，根據(jù)突觸函數(shù)、激勵(lì)函數(shù)、輸入數(shù)據(jù)以及突觸數(shù)量確定閾值θ。
權(quán)利要求
1.一種多權(quán)值突觸的神經(jīng)元構(gòu)造方法，其特征在于，包括如下步驟(1)確定神經(jīng)元的突觸數(shù)量；(2)構(gòu)造多權(quán)值的突觸；(3)根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限；(4)根據(jù)系統(tǒng)特性和激活門限選擇激勵(lì)函數(shù)；(5)形成多權(quán)值突觸神經(jīng)元。
2.根據(jù)專利要求1所述的多權(quán)值突觸的神經(jīng)元構(gòu)造方法，其特征在于，其中所述的構(gòu)造多權(quán)值的突觸，是指在神經(jīng)元的每個(gè)輸入中，包含兩個(gè)或兩個(gè)以上可調(diào)整的權(quán)值。
3.根據(jù)專利要求1所述的多權(quán)值突觸的神經(jīng)元構(gòu)造方法，其特征在于，其中所述的突觸函數(shù)是指突觸函數(shù)是任意的，可以根據(jù)神經(jīng)元所在具體應(yīng)用的實(shí)際情況采用任意形式的函數(shù)。
4.根據(jù)專利要求1所述的多權(quán)值突觸的神經(jīng)元構(gòu)造方法，其特征在于，其中所述的神經(jīng)元是在具體應(yīng)用的實(shí)際情況采用任意形式的函數(shù)。
5.根據(jù)專利要求1或3所述的多權(quán)值的神經(jīng)元構(gòu)造方法，其特征在于，其中所述的突觸函數(shù)，是指每個(gè)神經(jīng)元輸入Xi、其上的各個(gè)權(quán)值Wij和最終輸入到神經(jīng)元的值Fi所形成的關(guān)系，即Fi＝F(Xi，Wil，Wi2，…，Win)；F即為突觸函數(shù)。
全文摘要
一種多權(quán)值突觸的神經(jīng)元構(gòu)造方法，包括如下步驟(1)確定神經(jīng)元的突觸數(shù)量；(2)構(gòu)造多權(quán)值的突觸；(3)根據(jù)突觸函數(shù)和系統(tǒng)特性選擇激活門限；(4)形成多權(quán)值突觸神經(jīng)元；(5)根據(jù)突觸函數(shù)、激勵(lì)函數(shù)、輸入數(shù)據(jù)以及突觸數(shù)量確定閾值。
文檔編號(hào)G06N3/06GK1464477SQ02122638
公開(kāi)日2003年12月31日 申請(qǐng)日期2002年6月18日 優(yōu)先權(quán)日2002年6月18日
發(fā)明者王守覺(jué), 石寅, 魯華祥, 王志海 申請(qǐng)人:中國(guó)科學(xué)院半導(dǎo)體研究所