本發(fā)明涉及人工智能領(lǐng)域中的神經(jīng)網(wǎng)絡(luò)方面，更具體地，涉及一種有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)方法。
背景技術(shù)：
：梯度遞歸神經(jīng)網(wǎng)絡(luò)作為一種正在興起的新型技術(shù)神經(jīng)網(wǎng)絡(luò)有著自己獨(dú)特的優(yōu)勢(shì)，如并行處理能力、分布存儲(chǔ)能力、較強(qiáng)的容錯(cuò)能力和較強(qiáng)的自適應(yīng)能力。因此在信號(hào)處理、模式識(shí)別、優(yōu)化組合、知識(shí)工程、專(zhuān)家系統(tǒng)、機(jī)器人控制等方面得到了廣泛的應(yīng)用。但是，以往梯度遞歸神經(jīng)網(wǎng)絡(luò)的工程/數(shù)學(xué)問(wèn)題求解，只能當(dāng)時(shí)間趨向于無(wú)窮時(shí)，才能收斂到所要求解問(wèn)題的期望解。最理想的情況僅僅是指數(shù)收斂，這也不能在有限時(shí)間范圍內(nèi)使得梯度遞歸神經(jīng)網(wǎng)絡(luò)收斂到我們的期望解。在一些實(shí)時(shí)處理過(guò)程中，對(duì)求解速度要求比較高的，將限制以往梯度遞歸神經(jīng)網(wǎng)絡(luò)的應(yīng)用。本發(fā)明通過(guò)對(duì)以往梯度遞歸神經(jīng)網(wǎng)絡(luò)使用一個(gè)特別構(gòu)造的激勵(lì)函數(shù)，建立了一個(gè)有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)，從而滿足了工程/數(shù)學(xué)問(wèn)題的實(shí)時(shí)求解要求，避免了以往梯度遞歸神經(jīng)網(wǎng)絡(luò)在實(shí)時(shí)處理中的額外工作量以及繁瑣過(guò)程，應(yīng)用領(lǐng)域廣泛，實(shí)用性強(qiáng)。技術(shù)實(shí)現(xiàn)要素：本發(fā)明的目的在于克服現(xiàn)有技術(shù)與方法的不足，提供一種有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)實(shí)時(shí)求解工程/數(shù)學(xué)問(wèn)題的神經(jīng)動(dòng)力學(xué)計(jì)算方法，克服了以往梯度遞歸神經(jīng)網(wǎng)絡(luò)在實(shí)時(shí)處理中的額外工作量以及繁瑣過(guò)程。為解決上述技術(shù)問(wèn)題，本發(fā)明通過(guò)以下技術(shù)方案予以實(shí)現(xiàn)：一種有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)方法，包括如下步驟：1)確定要求解的工程問(wèn)題并統(tǒng)一用數(shù)學(xué)方程描述；2)將步驟1中的數(shù)學(xué)方程用來(lái)定義為一個(gè)標(biāo)量取值的正的能量函數(shù)并求其負(fù)梯度導(dǎo)數(shù)；3)使用步驟2)的負(fù)梯度信息設(shè)計(jì)一個(gè)梯度遞歸神經(jīng)網(wǎng)絡(luò)，用求解器實(shí)時(shí)求解；4)將步驟3)的梯度遞歸神經(jīng)網(wǎng)絡(luò)用一個(gè)特別構(gòu)造的非線性函數(shù)激勵(lì)，得到一個(gè)有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)。優(yōu)先地，將工程/數(shù)學(xué)問(wèn)題統(tǒng)一用數(shù)學(xué)方程描述為：f(x)＝0，其中f(·)是從工程問(wèn)題中抽象出來(lái)的一個(gè)函數(shù)映射關(guān)系，x表示工程問(wèn)題中需要求解的未知變量。優(yōu)先地，根據(jù)數(shù)學(xué)統(tǒng)一方程定義為一個(gè)標(biāo)量取值的正的能量函數(shù)：其中 符號(hào)||·||2表示矩陣的2范數(shù)；并求其負(fù)梯度導(dǎo)數(shù)：優(yōu)先地，將所述負(fù)梯度導(dǎo)數(shù)用來(lái)設(shè)計(jì)梯度遞歸神經(jīng)網(wǎng)絡(luò)：其中設(shè)計(jì)參數(shù)γ設(shè)置為在硬件容許的范圍內(nèi)越大越好，上標(biāo)T表示矩陣的轉(zhuǎn)置。優(yōu)先地，將所述梯度遞歸神經(jīng)網(wǎng)絡(luò)用一個(gè)特別構(gòu)造的非線性函數(shù)激勵(lì)，得到一個(gè)有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)：其中Φ(·)為特別構(gòu)造的非線性函數(shù)激勵(lì)，定義為：Φ(x)＝(sgn(x))r+(sgn(x))1/r，其中通過(guò)求解器求解所述帶非線性函數(shù)激勵(lì)的梯度遞歸神經(jīng)網(wǎng)絡(luò)，從而得到求解工程/數(shù)學(xué)問(wèn)題的一個(gè)有限時(shí)間收斂的期望解。與現(xiàn)有技術(shù)相比，本發(fā)明具有如下優(yōu)點(diǎn)：以往，梯度遞歸神經(jīng)網(wǎng)絡(luò)的工程/數(shù)學(xué)問(wèn)題求解，只能當(dāng)時(shí)間趨向于無(wú)窮時(shí)，才能收斂到所要求解問(wèn)題的期望解。最理想的情況僅僅是指數(shù)收斂，這也不能在有限時(shí)間范圍內(nèi)使得梯度遞歸神經(jīng)網(wǎng)絡(luò)收斂到我們的期望的解。在一些實(shí)時(shí)處理過(guò)程中，對(duì)求解速度要求比較高的，將大大限制梯度遞歸神經(jīng)網(wǎng)絡(luò)的應(yīng)用。本發(fā)明通過(guò)對(duì)梯度遞歸神經(jīng)網(wǎng)絡(luò)使用一個(gè)特別構(gòu)造的激勵(lì)函數(shù)，建立了一個(gè)有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)，從而滿足了工程/數(shù)學(xué)問(wèn)題的實(shí)時(shí)求解要求，避免了以往梯度遞歸神經(jīng)網(wǎng)絡(luò)在實(shí)時(shí)處理中的額外工作量以及繁瑣過(guò)程，應(yīng)用領(lǐng)域廣泛，實(shí)用性強(qiáng)。附圖說(shuō)明圖1為本發(fā)明的流程圖。圖2為不使用特別構(gòu)造的非線性激勵(lì)函數(shù)時(shí)以往梯度遞歸神經(jīng)網(wǎng)絡(luò)求解矩陣求逆問(wèn)題的誤差收斂情況。圖3為使用特別構(gòu)造的非線性激勵(lì)函數(shù)時(shí)本發(fā)明求解矩陣求逆問(wèn)題的誤差收斂情況。具體實(shí)施方式下面結(jié)合附圖對(duì)本發(fā)明做進(jìn)一步的描述，但本發(fā)明的實(shí)施方式并不限于此。圖1所示的有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)方法首先主確定要求解的工程/數(shù)學(xué)問(wèn)題，并定義一個(gè)標(biāo)量取值的正的能量函數(shù)，求解得其負(fù)梯度；然后通過(guò)使用一個(gè)特別構(gòu)造的激勵(lì)函數(shù)使得梯度神經(jīng)網(wǎng)絡(luò)能有限時(shí)間收斂。具體實(shí)施例一我們考慮在工程和科學(xué)領(lǐng)域經(jīng)常出現(xiàn)的矩陣求逆問(wèn)題，在數(shù)學(xué)上定義矩陣逆A-1∈Rn×n的 方程為AX(t)＝I或者X(t)A＝I，其中I∈Rn×n是單位矩陣，X(t)∈Rn×n是需要求逆的未知矩陣。圖2展示了不使用特別構(gòu)造的非線性激勵(lì)函數(shù)時(shí)以往梯度遞歸神經(jīng)網(wǎng)絡(luò)求解矩陣求逆問(wèn)題的誤差收斂情況，收斂時(shí)間為3.5秒，而圖3展示了使用特別構(gòu)造的非線性激勵(lì)函數(shù)時(shí)本發(fā)明求解矩陣求逆問(wèn)題的誤差收斂情況，收斂時(shí)間為0.7秒，整整快了5倍，大大提高了收斂性能。下面是本發(fā)明關(guān)于有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)具體實(shí)現(xiàn)方法。首先定義一個(gè)標(biāo)量取值的正的能量函數(shù)：ϵ=||AX(t)-I||22/2---(1)]]>其次對(duì)該能量函數(shù)求其負(fù)梯度導(dǎo)數(shù)：-∂ϵ/∂x=-AT·(AX(t)-I)---(2)]]>然后根據(jù)梯度神經(jīng)網(wǎng)絡(luò)神經(jīng)方法，建立如下動(dòng)力學(xué)方程：dx/dt＝-γ·AT·(AX(t)-I)(3)最后，通過(guò)使用特別構(gòu)造的非線性激勵(lì)函數(shù)，得到如下有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)：dx/dt＝-γ·AT·Φ(AX(t)-I)(4)其中設(shè)計(jì)參數(shù)γ設(shè)置為在硬件容許的范圍內(nèi)越大越好，上標(biāo)T表示矩陣的轉(zhuǎn)置，Φ(·)為特別構(gòu)造的非線性函數(shù)激勵(lì)，定義為：Φ(x)＝(sgn(x))r+(sgn(x))1/r，其中在本例中A=1-230-3-2123,]]>有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)從零初始值出發(fā)，并在Matlab中運(yùn)用ode45求解器進(jìn)行求解，如此有限時(shí)間收斂的梯度遞歸神經(jīng)網(wǎng)絡(luò)將快速求得工程定義矩陣的理論逆。以上所述的本發(fā)明的實(shí)施方式，并不構(gòu)成對(duì)本發(fā)明保護(hù)范圍的限定。任何在本發(fā)明的精神原則之內(nèi)所作出的修改、等同替換和改進(jìn)等，均應(yīng)包含在本發(fā)明的權(quán)利要求保護(hù)范圍之內(nèi)。當(dāng)前第1頁(yè)1 2 3