一種深層神經(jīng)網(wǎng)絡(luò)和水聲目標(biāo)聲紋特征提取方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明設(shè)及一種神經(jīng)網(wǎng)絡(luò)和特征提取方法，特別是一種深層神經(jīng)網(wǎng)絡(luò)和水聲目標(biāo) 聲紋特征提取方法，屬于目標(biāo)識別領(lǐng)域。
【背景技術(shù)】
[0002] 水聲信號中存在著如同指紋一樣可區(qū)分個體的聲紋特征。船舶福射噪聲主要由發(fā) 電機、推進系統(tǒng)和船上輔助設(shè)備等聲源產(chǎn)生，可W被探測設(shè)備所偵測獲取。偵測到的水聲信 號中存在著與其多聲源相應(yīng)的區(qū)別與其他型號船舶的聲紋特征，聲紋特征包含簡單特征和 復(fù)雜特征，聲紋特征中的線譜就是簡單特征，運些特征線譜可W用頻率、幅值和寬度描述， 而特征線譜間存在的關(guān)聯(lián)關(guān)系則為復(fù)雜特征，可W更精細地用重構(gòu)信號的譜圖表示。目前 用于目標(biāo)識別的水聲信號特征提取方法均為淺層神經(jīng)網(wǎng)絡(luò)，尚無利用深層神經(jīng)網(wǎng)絡(luò)進行特 征提取，更無利用深層神經(jīng)網(wǎng)絡(luò)進行可用于識別目標(biāo)個體的聲紋特征提取。
[0003] 近些年來，深度學(xué)習(xí)（De邱Learning)作為機器學(xué)習(xí) （Machine Leaning)研究中的 一個新的領(lǐng)域，W其在各個機器學(xué)習(xí)任務(wù)中所展現(xiàn)出來的優(yōu)良的性能，得到了廣泛的關(guān)注。 深度學(xué)習(xí)的引入也在一定程度上使得機器學(xué)習(xí)更加接近其原始的目標(biāo)：人工智能 (Artificial Intelligent)。在經(jīng)典機器學(xué)習(xí)方法中，人工智能系統(tǒng)基于系統(tǒng)輸入特征學(xué) 習(xí)得到模型，從而實現(xiàn)分類和識別。在表示學(xué)習(xí) （Representation Learning)方法中，人工 智能系統(tǒng)不僅學(xué)習(xí)如何從給定特征映射到系統(tǒng)輸出，而且學(xué)習(xí)如何選擇輸入特征。然而在 實際應(yīng)用中，影響輸入觀察的因素非常多，如何從中抽取出更具代表性的高層特征，是表示 學(xué)習(xí)所面臨的困難。而基于深度學(xué)習(xí)的人工智能系統(tǒng)則實現(xiàn)了從底層的簡單概念中構(gòu)建得 到高層復(fù)雜概念的能力。深度學(xué)習(xí)之所W被稱為"深度"，是相對支撐向量機（Support Vector Machine)、提升方法(Boosting)、最大賭方法等"淺層學(xué)習(xí)"方法而言的。深度學(xué)習(xí) 的概念源于人工神經(jīng)網(wǎng)絡(luò)(Adificial化ural Network)的研究，最早由多倫多大學(xué)的 化nton等提出，其中在輸入層和輸出層之間包含超過一個隱層的神經(jīng)網(wǎng)絡(luò)，即深層神經(jīng)網(wǎng) 絡(luò)(De邱Neural Network),就是一種深度學(xué)習(xí)結(jié)構(gòu)。在神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域，隨機梯度下降 和誤差反傳算法作為傳統(tǒng)訓(xùn)練多層網(wǎng)絡(luò)的典型算法，在訓(xùn)練包含多個隱層的神經(jīng)網(wǎng)絡(luò)時， 難W達到理想的效果。其中，一個主要困難源于深層網(wǎng)絡(luò)的非凸目標(biāo)函數(shù)的局部最優(yōu)點普 遍存在，從而使得隨機初始化的網(wǎng)絡(luò)在訓(xùn)練中容易陷入一個較差的局部最優(yōu)點。2006年，預(yù) 訓(xùn)練(Pretraining)的概念被引入到了神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域，很好地解決了 D順的模型優(yōu)化所 面臨的問題。隨著深層神經(jīng)網(wǎng)絡(luò)在許多機器學(xué)習(xí)任務(wù)中取得了良好的性能，神經(jīng)網(wǎng)絡(luò)又迎 來新一輪的研究熱潮。在機器視覺領(lǐng)域，深層神經(jīng)網(wǎng)絡(luò)在ImageNet競賽中帶來的顯著性能 提升。在自然語言處理領(lǐng)域，循環(huán)神經(jīng)網(wǎng)絡(luò)語言模型被廣泛地應(yīng)用到各個領(lǐng)域，取得了顯著 優(yōu)于N元文法的性能?；谏窠?jīng)網(wǎng)絡(luò)的方法也被應(yīng)用到了許多自然語言處理任務(wù)中，例如機 器翻譯，命名體識別，詞性標(biāo)注，語義分析等。基于深層神經(jīng)網(wǎng)絡(luò)的語音識別聲學(xué)模型成為 了主流的建模方法，并在信息產(chǎn)業(yè)上取得了成功。

【發(fā)明內(nèi)容】

[0004] 本發(fā)明的技術(shù)解決問題是：克服現(xiàn)有技術(shù)的不足，提供了一種深層神經(jīng)網(wǎng)絡(luò)和水 聲目標(biāo)聲紋特征提取方法，該深層神經(jīng)網(wǎng)絡(luò)根據(jù)水聲目標(biāo)信號特點進行了適應(yīng)性的設(shè)計， 利用該深層神經(jīng)網(wǎng)絡(luò)可W實現(xiàn)水聲目標(biāo)信號基頻、諧波的準(zhǔn)確提取W及原始信號譜的重 構(gòu)，削弱原始信號譜中包含的噪聲線譜，對原始信號譜產(chǎn)生凈化的作用，減小干擾線譜對最 終船舶目標(biāo)個體識別的影響，并適應(yīng)頻率漂移。
[0005] 本發(fā)明的技術(shù)解決方案是:一種深層神經(jīng)網(wǎng)絡(luò)，包括輸入層、隱層和輸出層，用于 水聲目標(biāo)聲紋特征的提取，所述輸入層中的節(jié)點數(shù)為水聲目標(biāo)信號原始信號譜的頻點數(shù)、 基頻取值范圍內(nèi)的所有頻率的頻點數(shù)W及諧波階次之和，輸出層的節(jié)點數(shù)為原始信號譜的 頻點數(shù)，所述隱層的層數(shù)大于等于2,隱層的節(jié)點數(shù)小于輸入層的節(jié)點數(shù)。
[0006] 所述深層神經(jīng)網(wǎng)絡(luò)由多個淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成，所述淺層神經(jīng)網(wǎng)絡(luò)包括輸 入層、隱層和輸出層，淺層神經(jīng)網(wǎng)絡(luò)的隱層層數(shù)為1。
[0007] 按淺層網(wǎng)絡(luò)堆疊順序依次對淺層神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，并將在先神經(jīng)淺層網(wǎng)絡(luò)的隱 層輸出作為相鄰在后淺層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。
[0008] 對所有淺層網(wǎng)絡(luò)進行預(yù)訓(xùn)練，將淺層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)得到的權(quán)重作為所述深度神經(jīng) 網(wǎng)絡(luò)對應(yīng)層的初始化權(quán)重。
[0009] 在深度神經(jīng)網(wǎng)絡(luò)對應(yīng)層的初始化權(quán)重基礎(chǔ)上，對深層神經(jīng)網(wǎng)絡(luò)的權(quán)重進行微調(diào)， 使其性能達到最優(yōu)。
[0010]所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)的激活函數(shù)為si卵oid函數(shù)。
[0011] 采用批量梯度下降算法對所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練。
[0012] 所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)進行網(wǎng)絡(luò)學(xué)習(xí)的代價函數(shù)為信號重構(gòu)的均方 誤差。
[0013] 所述深層神經(jīng)網(wǎng)絡(luò)和淺層神經(jīng)網(wǎng)絡(luò)采用批量梯度下降算法進行網(wǎng)絡(luò)權(quán)重更新，具 體由公式：
[0014]
[001引給出，其中，Wi功網(wǎng)絡(luò)j層到i層的權(quán)重系數(shù)，α為學(xué)習(xí)率。
[0016] -種基于深層神經(jīng)網(wǎng)絡(luò)的水聲目標(biāo)聲紋特征提取方法，主要包括：
[0017] 獲取水聲目標(biāo)原始信號譜的步驟；
[0018] 從水聲目標(biāo)原始信號譜中提取基頻和諧波的步驟；
[0019] 將提取基頻、諧波W及水聲目標(biāo)原始信號譜輸入權(quán)利要求1中深層神經(jīng)網(wǎng)絡(luò)對原 始信號譜進行重構(gòu)的步驟。
[0020] 本發(fā)明與現(xiàn)有技術(shù)相比的有益效果是：
[0021] 該深層神經(jīng)網(wǎng)絡(luò)根據(jù)水聲目標(biāo)信號特點進行了適應(yīng)性的設(shè)計，可W實現(xiàn)水聲目標(biāo) 信號基頻、諧波的準(zhǔn)確提取W及原始信號譜的重構(gòu)，削弱原始信號譜中包含的噪聲線譜，對 原始信號譜產(chǎn)生凈化的作用，減小干擾線譜對最終船舶目標(biāo)個體識別的影響，與現(xiàn)有方法 相比，本發(fā)明具有一定的抗噪聲干擾和頻率漂移能力。
【附圖說明】
[0022] 圖1為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)的第一種示意圖；
[0023] 圖2為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)的第二種示意圖；
[0024] 圖3為本發(fā)明的方法流程圖；
[0025] 圖4為5層自編碼網(wǎng)絡(luò)堆疊形成示意圖；
[0026] 圖5為本發(fā)明實施例中重構(gòu)誤差隨迭代次數(shù)變化的關(guān)系示意圖；
[0027] 圖6為本發(fā)明實施例中網(wǎng)絡(luò)的收斂曲線示意圖；
[0028] 圖7為本發(fā)明實施例中微調(diào)后網(wǎng)絡(luò)的收斂曲線示意圖；
[0029] 圖8為信噪比為-20地時深層神經(jīng)網(wǎng)絡(luò)的重構(gòu)結(jié)果示意圖；
[0030] 圖9為信噪比為-28地時深層神經(jīng)網(wǎng)絡(luò)的重構(gòu)結(jié)果示意圖；
[0031] 圖10為原始信號譜基頻提取誤差統(tǒng)計圖。
【具體實施方式】
[0032] 下面結(jié)合附圖對本發(fā)明的【具體實施方式】進行進一步的詳細描述。
[0033] 圖1和圖2為本發(fā)明中深層神經(jīng)網(wǎng)絡(luò)示意圖，從圖1和圖2可知，本發(fā)明提出的一種 深層神經(jīng)網(wǎng)絡(luò)，包括輸入層、隱層和輸出層，所述深層神經(jīng)網(wǎng)絡(luò)主要用于水聲目標(biāo)聲紋特征 的提取，所述輸入層中的節(jié)點數(shù)為水聲目標(biāo)信號原始信號譜的頻點數(shù)、基頻取值范圍內(nèi)的 所有頻率的頻點數(shù)W及諧波階次之和，輸出層的節(jié)點數(shù)為原始信號譜的頻點數(shù)，所述隱層 的層數(shù)大于等于2。
[0034] 深層神經(jīng)網(wǎng)絡(luò)使用原始信號譜作為監(jiān)督信息，對其進行重構(gòu)，網(wǎng)絡(luò)隱層輸出則可 W看成是對輸入信號的編碼表示。根據(jù)隱層節(jié)點數(shù)的不同，自編碼網(wǎng)絡(luò)可分成兩種：
[0035] (i)隱層節(jié)點數(shù)小于輸入節(jié)點數(shù)，網(wǎng)絡(luò)隱層可看成是對信號的壓縮編碼；
[0036] (ii)隱層節(jié)點數(shù)大于輸入節(jié)點數(shù)，網(wǎng)絡(luò)隱層可更加充分的刻畫輸入信號的分布。
[0037] 本發(fā)明關(guān)注的問題是從受噪聲污染的目標(biāo)信號中重構(gòu)原始信號譜，而原始信號譜 為稀疏分布的諧波信號，因此本發(fā)明采用第一種結(jié)構(gòu)。
[0038] 所述深層神經(jīng)網(wǎng)絡(luò)可直接根據(jù)需要對輸入層、隱層和輸出層分別進行設(shè)定，也可 由多個淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成，所述淺層神經(jīng)網(wǎng)絡(luò)包括輸入層、隱層和輸出層，其中隱 層的層數(shù)為1。
[0039] 當(dāng)采用多個淺層神經(jīng)網(wǎng)絡(luò)順序堆疊形成時，為了取得更好的效果，需要預(yù)先對每 一個淺層神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練和學(xué)習(xí)，進行訓(xùn)練時，需要按淺層網(wǎng)絡(luò)堆疊順序依次對淺層神 經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，并將在先神經(jīng)淺層網(wǎng)絡(luò)的隱層輸出作為相鄰在后淺層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù) 據(jù)。在進行學(xué)習(xí)時，需要將所有淺層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)得到的權(quán)重作為所述深