技術(shù)特征：

1.一種基于擬牛頓方法的受限玻爾茲曼機(jī)迭代映射訓(xùn)練方法，包括：初始化受限玻爾茲曼機(jī)參數(shù)，生成子訓(xùn)練樣本，通過子訓(xùn)練過程更新受限玻爾茲曼機(jī)直到收斂；其特征在于：具體步驟如下：

步驟一、初始化受限玻爾茲曼機(jī)參數(shù)ξ⁰；

步驟二、在給定樣本x的情形下，利用當(dāng)前受限玻爾茲曼機(jī)的條件分布p_i(h|x；ξⁱ)生成隱含節(jié)點(diǎn)的樣本h⁽ⁱ⁾，將樣本x和h⁽ⁱ⁾連接生成樣本(x,h⁽ⁱ⁾)，其中，i＝0,1,2,…；

步驟三、利用樣本(x,h⁽ⁱ⁾)通過下述的子訓(xùn)練階段得到子訓(xùn)練中的受限玻爾茲曼機(jī)的參數(shù)α_*；其中，子訓(xùn)練階段內(nèi)容如下：

3-1)初始化子訓(xùn)練階段受限玻爾茲曼機(jī)的參數(shù)α₀；

3-2)利用樣本(x,h⁽ⁱ⁾)進(jìn)行吉布斯采樣，求得

3-3)利用Newton方法在當(dāng)前參數(shù)α_j的鄰域內(nèi)將目標(biāo)方程按二階泰勒公式展開：

$D({\mathrm{\α}}_j+t)\≈q_{{\mathrm{\α}}_{j+1}}\left(t\right)\≡D\left({\mathrm{\α}}_{j+1}\right)+\▿D{\left({\mathrm{\α}}_{j+1}\right)}^{T}t+\frac{1}{2}{t}^{T}Ht---\left(1\right)$

式(1)中，α_j+1＝α_j+t，D(·)為目標(biāo)函數(shù)，即為KL散度；為目標(biāo)函數(shù)的梯度，H為Hessian矩陣；t是迭代變化量；

對(duì)式(1)兩邊求導(dǎo)后，得到式(2)：

$Ht=\▿D\left({\mathrm{\α}}_{j+1}\right)-\▿D\left({\mathrm{\α}}_j\right)---\left(2\right)$

采用有限差方法，利用式(3)，求得矩陣向量積Ht：

$Ht=\underset{\mathrm{\η}t\→0}{\lim }\frac{\▿D({\mathrm{\α}}_j+\mathrm{\η}t)-\▿D\left({\mathrm{\α}}_j\right)}{\mathrm{\η}}---\left(3\right)$

式(3)中，η為學(xué)習(xí)率；

根據(jù)上述得到的近似梯度和矩陣向量積Ht，采用迭代共軛梯度法來求解式(2)，迭代求出t_*，即最優(yōu)的迭代變化量，在此過程中產(chǎn)生一個(gè)迭代序列：{t_k}，k＝1,2…；

3-4)判斷殘差是否達(dá)到指定精度，若達(dá)到，則進(jìn)行3-5)，否則，返回步驟3-3)；

3-5)利用步驟3-3)求得的t_*更新子訓(xùn)練階段受限玻爾茲曼機(jī)的參數(shù)：α_j+1＝α_j+t_*；

3-6)重復(fù)執(zhí)行步驟3-2)至3-5)直到達(dá)到式(4)所示的收斂條件，子訓(xùn)練結(jié)束，得到的受限玻爾茲曼機(jī)的參數(shù)為α_*；

$\▿D\left({\mathrm{\α}}_{j+1}\right)\<\mathrm{\ρ}---\left(4\right)$

式(4)中，ρ為次優(yōu)性閾值；

步驟四、將參數(shù)α_*替換整體訓(xùn)練中的參數(shù)ξⁱ⁺¹，即ξⁱ⁺¹＝α_*；判斷是否滿足式(5)所示的收斂條件，若滿足，整體訓(xùn)練結(jié)束，若未滿足，令i＝i+1，重復(fù)執(zhí)行步驟二和步驟三；

||ξⁱ⁺¹-ξⁱ||<∈ (5)

式(5)中，∈為設(shè)置的精度閾值；至此得到反映給定樣本數(shù)據(jù)x內(nèi)部特征的受限玻爾茲曼機(jī)。