【技術(shù)領(lǐng)域】

本發(fā)明屬于信號(hào)處理領(lǐng)域，涉及一種基于量化核最小均方誤差的hammerstein系統(tǒng)辨識(shí)方法。

背景技術(shù)：

近年以來，自適應(yīng)濾波迅速發(fā)展起來為一種最佳濾波方法。自適應(yīng)濾波是在維納濾波，卡爾曼濾波等線性濾波基礎(chǔ)上發(fā)展起來的一種最佳的濾波方法，由于它具有更強(qiáng)的適應(yīng)性和更優(yōu)的濾波性能。從而在工程實(shí)際中，尤其在信息處理技術(shù)中得到了廣泛的應(yīng)用。

核自適應(yīng)濾波(kaf)算法是一類在線方法，它將原始數(shù)據(jù)映射到高維再生核希爾伯特空間(rkhs)，在此空間內(nèi)實(shí)行傳統(tǒng)的線性自適應(yīng)算法。已知的核自適應(yīng)濾波算法包括核最小均方誤差算法(klms)，核仿射投影算法(kapas)，核遞推最小二乘算法(krls)，量化核最小均方誤差算法(qklms)。這些算法在非線性學(xué)習(xí)任務(wù)中有很好的效果，如混沌時(shí)間序列預(yù)測(cè)，非線性信道均衡，非線性系統(tǒng)辨識(shí)等。核自適應(yīng)濾波有一些很好的特性：1)當(dāng)使用一個(gè)通用核時(shí)，核自適應(yīng)濾波是通用的學(xué)習(xí)器；2)在均方誤差準(zhǔn)則下，性能曲面在rkhs空間內(nèi)是二次的，因此使用梯度下降學(xué)習(xí)不會(huì)有局部最小的問題；3)此類算法有適度的時(shí)間和空間復(fù)雜度。

當(dāng)使用一個(gè)通用核，且樣本數(shù)量無限多時(shí)，kaf算法可以估計(jì)任何結(jié)構(gòu)的非線性系統(tǒng)。在許多實(shí)際環(huán)境中，系統(tǒng)的結(jié)構(gòu)是已知的或部分已知的，這樣的先驗(yàn)信息在提升學(xué)習(xí)性能上有很大的作用，尤其是當(dāng)樣本尺寸比較小時(shí)。例如，hammerstein系統(tǒng)是一種串聯(lián)的結(jié)構(gòu)，包含一個(gè)無記憶(靜態(tài))非線性部分和一個(gè)線性子系統(tǒng)(通常是動(dòng)態(tài)的)。

在自適應(yīng)hammerstein濾波(ahf)的相關(guān)算法中，如基于部分正交化的自適應(yīng)hammerstein濾波，基于仿射映射變步長(zhǎng)自適應(yīng)算法。有學(xué)者使用多通道離散傅里葉變換算法來學(xué)習(xí)hammerstein系統(tǒng)兩種基函數(shù)的系數(shù)。這些算法在hammerstein系統(tǒng)識(shí)別問題上有很好的表現(xiàn)。

但它們基本都使用多項(xiàng)式結(jié)構(gòu)來擬合非線性部分。

參見圖1，使用多項(xiàng)式來辨識(shí)hammerstein非線性部分的方法為：給定輸入信號(hào)u(n)和期望輸出信號(hào)d(n)，使用梯度下降等方法更新系數(shù)，使得每次迭代后減小。hammerstein系統(tǒng)輸入輸出關(guān)系為：

式中m,n為線性系統(tǒng)的階數(shù)，是無記憶多項(xiàng)式非線性系統(tǒng)的輸出，可用下式來表達(dá)：

在以上的方程中，分別代表相關(guān)的系數(shù)。

方程(1)可以重寫為

式中

q^-1代表單位時(shí)延操作子。參數(shù)向量為：

數(shù)據(jù)向量為：

根據(jù)式(5)、(6)，式(1)可以改寫為

根據(jù)式(7)更新參數(shù)向量即可得到傳統(tǒng)的多項(xiàng)式hammerstein系統(tǒng)辨識(shí)方法。

這些算法只能用在某些特定結(jié)構(gòu)的hammerstein系統(tǒng)中，但在實(shí)際情況下，非線性部分不只有多項(xiàng)式形式，這大大限制了該算法的實(shí)用性和泛化能力。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明的目的在于提供一種基于量化核最小均方誤差的hammerstein系統(tǒng)辨識(shí)方法，使用量化核最小均方誤差算法來擬合非線性部分，具有無限的估計(jì)能力，很好地?cái)M合任何形式的非線性函數(shù)，在hammerstein系統(tǒng)辨識(shí)中可以取得很好的效果。

為達(dá)到上述目的，本發(fā)明采用了以下技術(shù)方案：

基于量化核最小均方誤差的hammerstein系統(tǒng)辨識(shí)方法，具體步驟如下：

hammerstein系統(tǒng)的輸入輸出關(guān)系為：

式中：為估計(jì)輸出，和為待估計(jì)系數(shù)，m,n為線性環(huán)節(jié)的階數(shù)，為非線性部分的輸出；

使用量化核最小均方誤差算法估計(jì)非線性部分，q為字典的大小，為在輸入空間u的量化操作，u(n)∈r^m為輸入向量，m為輸入維度，為系數(shù)，將參數(shù)向量和數(shù)據(jù)向量表示為下式：

則式(1)可重寫為：

算法流程為：

設(shè)定相關(guān)參數(shù)，核寬度σ，量化參數(shù)ζ，小正常數(shù)δ，學(xué)習(xí)速率λ(n)，線性環(huán)節(jié)階數(shù)m,n，計(jì)算初始參數(shù)向量循環(huán)以下過程：

根據(jù)當(dāng)前輸入計(jì)算數(shù)據(jù)向量

計(jì)算誤差d(n)為期望輸出；

計(jì)算信息向量

計(jì)算向量

更新參數(shù)向量

更新非線性部分的輸出

得到當(dāng)前輸入的估計(jì)輸出

進(jìn)一步，更新參數(shù)向量時(shí)，使用參數(shù)δ預(yù)防變得很小時(shí)帶來的問題。

進(jìn)一步，選擇步長(zhǎng)參數(shù)使下式滿足

即可保證量化核自適應(yīng)hammerstein濾波收斂，式中是先驗(yàn)誤差，為最優(yōu)參數(shù)向量，p(n)＝φ(n)e(n)。

本發(fā)明的有益效果體現(xiàn)在：

基于量化核最小均方誤差的hammerstein系統(tǒng)辨識(shí)方法，使用量化核最小均方誤差方法(qklms)擬合hammerstein的非線性部分，該方法具有很強(qiáng)的擬合能力，能夠擬合任何非線性映射；當(dāng)調(diào)整量化參數(shù)，qkahf算法可以獲得不同的性能，量化參數(shù)變大時(shí)，均方誤差的收斂穩(wěn)態(tài)值變大，但網(wǎng)絡(luò)結(jié)構(gòu)變?。涣炕瘏?shù)變小時(shí)，均方誤差的收斂穩(wěn)態(tài)值變小，但網(wǎng)絡(luò)結(jié)構(gòu)會(huì)變大。因而根據(jù)不同的實(shí)際要求可以調(diào)整量化參數(shù)來達(dá)到。該方法有無限估計(jì)能力，能夠很好地?cái)M合任何形式的非線性函數(shù)，在hammerstein系統(tǒng)辨識(shí)中可以取得很好的效果。且這種算法解決了核自適應(yīng)濾波算法的主要瓶頸，即其網(wǎng)絡(luò)結(jié)構(gòu)會(huì)隨著新的數(shù)據(jù)的到來而線性增長(zhǎng)，這個(gè)問題會(huì)導(dǎo)致算法在計(jì)算和存儲(chǔ)上的巨大負(fù)擔(dān)，具有較為重要的研究意義和廣泛的工程應(yīng)用價(jià)值。

【附圖說明】

圖1是傳統(tǒng)的自適應(yīng)hammerstein系統(tǒng)辨識(shí)原理框圖；

圖2是本算法所述基于量化核最小均方誤差的hammerstein系統(tǒng)辨識(shí)方法原理框圖；

圖3是傳統(tǒng)ahf算法在不同多項(xiàng)式階數(shù)下的穩(wěn)態(tài)均方誤差(mse)；

圖4是qkahf算法，kahf算法，ahf算法的mse收斂曲線；

圖5是qkahf算法的網(wǎng)絡(luò)結(jié)構(gòu)增長(zhǎng)曲線。

圖6是不同信噪比(snr)下三種算法的穩(wěn)態(tài)mse。

【具體實(shí)施方式】

下面結(jié)合附圖對(duì)本發(fā)明做進(jìn)一步說明。

本發(fā)明基于量化核最小均方誤差的hammerstein系統(tǒng)辨識(shí)方法，簡(jiǎn)稱為量化核自適應(yīng)hammerstein濾波(qkahf)，現(xiàn)具體介紹如下：

量化核最小均方誤差算法(qklms)

當(dāng)學(xué)習(xí)一個(gè)連續(xù)非線性輸入輸出映射d＝f(u),其中u是一個(gè)m維的輸入向量，u是中的一個(gè)緊湊輸入域，d是輸出信號(hào)。當(dāng)輸入輸出對(duì){u(i),d(i),i＝1,2,...}可用時(shí)，這個(gè)學(xué)習(xí)問題可以理解為基于訓(xùn)練數(shù)據(jù)找到映射f的一個(gè)估計(jì)核自適應(yīng)濾波算法是一種基于核的序列估計(jì)器，在第i步對(duì)f的估計(jì)為fi，根據(jù)上一次的估計(jì)fi-1和當(dāng)前樣本{u(i),d(i)}來更新。

mercer核是一種連續(xù)，對(duì)稱和正定的函數(shù)κ：常用的高斯核為

式中σ＞0是核寬度。根據(jù)mercer的理論，任何的mercer核κ(u,u′)都可以推導(dǎo)出一個(gè)映射將輸入空間u映射到高維特征空間γ(一個(gè)內(nèi)積空間)，因此存在下式：

核最小均方誤差算法實(shí)際上是在高維特征空間的線性最小均方誤差算法。首先，基于核的映射被用來轉(zhuǎn)換輸入u(i)到特征空間將最小均方誤差算法應(yīng)用到新的樣本序列可以得到：

式中e(i)是第i步的預(yù)測(cè)誤差，η是步長(zhǎng)，ω(i)代表在特征空間的權(quán)重向量。在權(quán)重更新方程中，將特征向量進(jìn)行量化即可得到量化核自適應(yīng)濾波，可以用下式來表示：

式中代表在特征空間的量化操作。因?yàn)樘卣骺臻g的維度非常高，量化通常在原輸入空間u進(jìn)行。此時(shí)，量化核最小均方誤差的更新規(guī)則如下：

式中，fi由ω(i)和組成，也就是

量化核自適應(yīng)hammerstein濾波

如圖2所示，輸入與輸出的關(guān)系如(1)式，無記憶核自適應(yīng)濾波非線性系統(tǒng)的輸出q是字典的大小。根據(jù)的定義可知，它與過去的數(shù)據(jù)相關(guān)，且是一個(gè)增長(zhǎng)的結(jié)構(gòu)。要估計(jì)期望的信號(hào)d(n)，我們使用迭代的方法來更新(1)中的系數(shù)，使得在均方意義下接近d(n)。因此，代價(jià)函數(shù)定義為：

使用最小均方誤差算法來學(xué)習(xí)(13)式中的系數(shù)。首先選定核寬度σ，量化參數(shù)ζ，參數(shù)δ，線性系統(tǒng)階數(shù)m和n，學(xué)習(xí)速率λ(n)＝diag[μ1(n),…,μn+m+q(n)]。構(gòu)造參數(shù)向量和數(shù)據(jù)向量分別為：

使用下式來更新參數(shù)向量：

式中，ψ(n)為信息向量，由下式得到：

更新非線性部分的輸出為系統(tǒng)輸出

收斂性分析

權(quán)重誤差向量定義為θ^*為最優(yōu)權(quán)重向量，即滿足：

d(n)＝(θ^*)^tu(n)+v(n)(16)

v(n)為擾動(dòng)項(xiàng)。是第n步的先驗(yàn)誤差。記p(n)＝φ(n)e(n)。在上述算法中，令：

選擇步長(zhǎng)參數(shù)使得即可保證權(quán)重誤差能量單調(diào)遞減，即算法均方收斂。

仿真分析

為驗(yàn)證qkahf算法的性能，構(gòu)造以下hammerstein系統(tǒng)。無記憶非線性系統(tǒng)為z1(n)＝0.5*sin(0.4x(n)-0.3x²(n)+0.2x³(n))，線性成分的傳遞函數(shù)為在未知系統(tǒng)的輸出加上零均值的噪聲信號(hào)，得到期望的信號(hào)使得輸出信號(hào)的信噪比為30db。輸入信號(hào)u(n)為零均值和單位方差的高斯信號(hào)。為進(jìn)行比較，我們首先進(jìn)行了傳統(tǒng)自適應(yīng)hammerstein濾波(ahf)的仿真實(shí)驗(yàn)。如圖3所示，當(dāng)多項(xiàng)式階數(shù)為4的時(shí)候，ahf的效果最好，因此在對(duì)比實(shí)驗(yàn)中，我們將多項(xiàng)式階數(shù)設(shè)定為4。同時(shí)可以看到，ahf算法的效果主要依賴于多項(xiàng)式階數(shù)的選擇。

我們將qkahf算法的核寬度設(shè)定為σ＝1，量化參數(shù)ζ＝0.5，δ＝0.01。實(shí)驗(yàn)中使用10000個(gè)訓(xùn)練數(shù)據(jù)，進(jìn)行100次蒙特卡洛仿真，將100次仿真的結(jié)果平均后得到圖4和圖5的效果。圖4是這些方法的對(duì)數(shù)均方誤差(mse)收斂曲線?？梢钥闯?，qkahf和kahf算法可以收斂到更小的穩(wěn)態(tài)誤差，且量化參數(shù)越小收斂值越小，當(dāng)量化參數(shù)變?yōu)?時(shí)，qkahf變?yōu)閗ahf。這說明了當(dāng)非線性部分使用核自適應(yīng)濾波有更好的估計(jì)能力。圖5展示了在不同的量化參數(shù)下qkahf算法的網(wǎng)絡(luò)增長(zhǎng)曲線，說明量化的方法可以有效地減少計(jì)算復(fù)雜性。

進(jìn)一步，我們將研究不同的噪聲如何影響算法的性能。我們使用不同能量的噪聲污染信號(hào)，獲得不同的信噪比。圖6展示了不同算法在不同信噪比的信號(hào)下的穩(wěn)態(tài)mse值。qkahf算法的參數(shù)不變。可以明顯地看到，在不同的信噪比情況下，qkahf和kahf算法有更低的誤差。當(dāng)量化參數(shù)設(shè)定為0.5或者1時(shí)，qkahf和kahf的均方誤差接近，但qkahf有更小的網(wǎng)絡(luò)結(jié)構(gòu)，因而計(jì)算效率更高。

以上內(nèi)容是結(jié)合具體的優(yōu)選實(shí)施方式對(duì)本發(fā)明所作的進(jìn)一步詳細(xì)說明，不能認(rèn)定本發(fā)明的具體實(shí)施方式僅限于此，對(duì)于本發(fā)明所屬技術(shù)領(lǐng)域的普通技術(shù)人員來說，在不脫離本發(fā)明構(gòu)思的前提下，還可以做出若干簡(jiǎn)單的推演或替換，都應(yīng)當(dāng)視為屬于本發(fā)明由所提交的權(quán)利要求書確定專利保護(hù)范圍。