之間的關(guān)聯(lián)系數(shù)。
[0042] 2)關(guān)聯(lián)度計(jì)算
[0043] 將上述關(guān)聯(lián)系數(shù)通過(guò)求平均值的方式計(jì)算出關(guān)聯(lián)度。關(guān)聯(lián)度如公式(2)計(jì)算可得。
[0044] 若化層為多個(gè)神經(jīng)元時(shí),要取得上一層特征圖對(duì)輸出每個(gè)神經(jīng)元影響最大的特征 圖,所W要求出上一層特征圖對(duì)輸出每個(gè)神經(jīng)元關(guān)聯(lián)度的均值。
[0045] 3)關(guān)聯(lián)度排序
[0046] 對(duì)上一步取得的關(guān)聯(lián)度從大到小排序,即得到灰關(guān)聯(lián)度排序,而關(guān)聯(lián)度排在尾部 的特征圖對(duì)網(wǎng)絡(luò)輸出影響較小,可W認(rèn)為該特征圖是可W忽略的,此時(shí)給定一個(gè)e,小于e的 特征圖即可省略。W此方法達(dá)到優(yōu)化網(wǎng)絡(luò)隱層特征圖數(shù)、提高網(wǎng)絡(luò)性能的效果。
[0047] W此類推,求出前面幾層的特征圖個(gè)數(shù),直到網(wǎng)絡(luò)達(dá)到最優(yōu)。
[004引優(yōu)點(diǎn)及效果:
[0049]本發(fā)明為解決卷積神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)結(jié)構(gòu)中隱層特征圖個(gè)數(shù)設(shè)定的難題,提出了一種 灰色關(guān)聯(lián)分析法,本發(fā)明W交通標(biāo)志的二值圖像作為實(shí)驗(yàn)對(duì)象,使用卷積神經(jīng)網(wǎng)絡(luò)對(duì)交通 標(biāo)志進(jìn)行識(shí)別,利用灰色關(guān)聯(lián)分析法,計(jì)算出每層特征圖之間的關(guān)聯(lián)度,根據(jù)關(guān)聯(lián)度排序, 關(guān)聯(lián)性較小的,在網(wǎng)絡(luò)中影響偏小,可W考慮將其刪除,另外關(guān)聯(lián)性較大的,在網(wǎng)絡(luò)中影響 偏大,將其保留,從而確定網(wǎng)絡(luò)結(jié)構(gòu)中隱層特征圖個(gè)數(shù)。在識(shí)別過(guò)程中引入灰色關(guān)聯(lián)分析法 W自動(dòng)選擇對(duì)識(shí)別結(jié)果影響更大的隱藏層特征圖從而優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu),所W使用本方法所確 定的特征圖中每個(gè)特征圖對(duì)輸出結(jié)果影響都很大,相比實(shí)驗(yàn)設(shè)定特征圖個(gè)數(shù)提高了效率。 [(K)加]附表說(shuō)明:
[0051] 表1為S4層隱層特征圖個(gè)數(shù)第一次調(diào)整時(shí)的相關(guān)關(guān)聯(lián)度。
[0052] 表2為S4層隱層特征圖個(gè)數(shù)第二次調(diào)整時(shí)的相關(guān)關(guān)聯(lián)度。
[0053] 表3為S2層隱層特征圖個(gè)數(shù)第一次調(diào)整時(shí)的相關(guān)關(guān)聯(lián)度。
[0054] 表4為S2層隱層特征圖個(gè)數(shù)第二次調(diào)整時(shí)的相關(guān)關(guān)聯(lián)度。
[0055] 表5為六組初始結(jié)構(gòu)優(yōu)化表。
【附圖說(shuō)明】:
[0056] 圖1-圖4為卷積層特征圖(交通標(biāo)志)的實(shí)驗(yàn)結(jié)果示意圖。
[0057] 圖1為在第一層卷積層特征圖個(gè)數(shù)1到3時(shí)第二層卷積層特征圖個(gè)數(shù)對(duì)結(jié)果的影響 示意圖。其中,Xl為在第一層卷積層特征圖個(gè)數(shù)為1時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò) 誤率曲線。x2為在第一層卷積層特征圖個(gè)數(shù)為2時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率 曲線。x3為在第一層卷積層特征圖個(gè)數(shù)為3時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率曲 線。
[0058] 圖2為在第一層卷積層特征圖個(gè)數(shù)4到6時(shí)第二層卷積層特征圖個(gè)數(shù)對(duì)結(jié)果的影 響。其中,x4為在第一層卷積層特征圖個(gè)數(shù)為4時(shí)第二層卷積層特征圖個(gè)數(shù)巧Ij20時(shí)錯(cuò)誤率 曲線。巧為在第一層卷積層特征圖個(gè)數(shù)為5時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率曲 線。x6為在第一層卷積層特征圖個(gè)數(shù)為即寸第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率曲線。
[0059] 圖3為在第一層卷積層特征圖個(gè)數(shù)7到別寸第二層卷積層特征圖個(gè)數(shù)對(duì)結(jié)果的影 響。其中,x7為在第一層卷積層特征圖個(gè)數(shù)為7時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率 曲線。x8為在第一層卷積層特征圖個(gè)數(shù)為別寸第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率曲 線。
[0060] 圖4為在第一層卷積層特征圖個(gè)數(shù)9到10時(shí)第二層卷積層特征圖個(gè)數(shù)對(duì)結(jié)果的影 響。其中,x9為在第一層卷積層特征圖個(gè)數(shù)為9時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率 曲線。XlO為在第一層卷積層特征圖個(gè)數(shù)為10時(shí)第二層卷積層特征圖個(gè)數(shù)1到20時(shí)錯(cuò)誤率曲 線。
[0061] 參考文件為本發(fā)明所采用的交通標(biāo)志圖像庫(kù),舉例其中幾張圖像,包括交通標(biāo)志 彩色圖像(文件1)、灰度化后直方圖均衡化和統(tǒng)一像素大小后的圖像(文件2)、交通標(biāo)志二 值化的圖像(文件3)。
【具體實(shí)施方式】:
[0062] 下面結(jié)合具體的實(shí)施方式對(duì)本發(fā)明做進(jìn)一步的說(shuō)明:
[0063] 交通標(biāo)志數(shù)據(jù)庫(kù)采用的是由德國(guó)神經(jīng)計(jì)算研究所收集的,挑選其中主要的10類標(biāo) 志圖像,訓(xùn)練圖像5000張,測(cè)試圖像1000張。
[0064] 本發(fā)明設(shè)及一種利用灰色關(guān)聯(lián)分析法確定卷積神經(jīng)網(wǎng)絡(luò)隱層特征圖個(gè)數(shù)的方法, 其目的是通過(guò)確定網(wǎng)絡(luò)中隱層特征圖個(gè)數(shù)從而設(shè)計(jì)出一個(gè)最優(yōu)結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)。通過(guò) 對(duì)交通標(biāo)志圖像庫(kù)進(jìn)行實(shí)驗(yàn),證明該方法的可行性。確定后的網(wǎng)絡(luò)與其他網(wǎng)絡(luò)相比識(shí)別率 高,與其他方法相比有確定時(shí)間快的特點(diǎn),最終實(shí)現(xiàn)使用卷積神經(jīng)網(wǎng)絡(luò)對(duì)交通標(biāo)志的有效 識(shí)別。
[0065] -種利用灰色關(guān)聯(lián)分析法確定卷積神經(jīng)網(wǎng)絡(luò)隱層特征圖個(gè)數(shù)的方法,其特征在 于:CNN網(wǎng)絡(luò)中,上一層特征圖存在與下一層特征圖關(guān)聯(lián)性較小的樣本數(shù)據(jù),導(dǎo)致系統(tǒng)識(shí)別 率差。灰色關(guān)聯(lián)分析法具有挖掘數(shù)據(jù)之間內(nèi)部關(guān)系的特點(diǎn),能夠很好的提取運(yùn)些關(guān)聯(lián)性較 小的數(shù)據(jù)。在識(shí)別過(guò)程中引入灰色關(guān)聯(lián)分析法選出對(duì)識(shí)別結(jié)果影響更大的隱藏層特征圖從 而優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu),所W使用本方法所確定的特征圖中每個(gè)特征圖對(duì)輸出結(jié)果影響都很大, 相比實(shí)驗(yàn)設(shè)定特征圖個(gè)數(shù)提高了效率。
[0066] 本發(fā)明在網(wǎng)絡(luò)訓(xùn)練過(guò)程中基于灰色關(guān)聯(lián)分析法自動(dòng)選擇對(duì)識(shí)別結(jié)果影響更大的 隱藏層特征圖,并W交通標(biāo)志為對(duì)象進(jìn)行識(shí)別及算法優(yōu)化研究,提高了設(shè)定網(wǎng)絡(luò)結(jié)構(gòu)的效 率,仿真結(jié)果表示該方法有效。
[0067] 具體實(shí)施方法如下:建立標(biāo)準(zhǔn)交通標(biāo)志圖像庫(kù);將彩色圖像灰度化,并將圖像做直 方圖均衡化處理和像素統(tǒng)一大小;將灰度圖像二值化,建立交通標(biāo)志二值圖像庫(kù);設(shè)定卷積 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)及其他相關(guān)參數(shù);訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò);灰色關(guān)聯(lián)分析法優(yōu)化卷積 神經(jīng)網(wǎng)絡(luò)隱層特征圖個(gè)數(shù);利用最優(yōu)的網(wǎng)絡(luò)結(jié)構(gòu)訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò),并對(duì)灰色關(guān)聯(lián)分析法 進(jìn)行魯棒性測(cè)試。
[0068] 利用灰色關(guān)聯(lián)分析法確定卷積神經(jīng)網(wǎng)絡(luò)隱層特征圖個(gè)數(shù)的方法,實(shí)現(xiàn)步驟如下:
[0069] (1)建立交通標(biāo)志圖像數(shù)據(jù)庫(kù):本發(fā)明方法針對(duì)交通標(biāo)志進(jìn)行識(shí)別,采用的是由德 國(guó)神經(jīng)計(jì)算研究所收集的,選用其中圖片較多的10種,主要分為W下幾步:
[0070] 1)下載標(biāo)準(zhǔn)德國(guó)交通標(biāo)志的彩色圖像,建立相應(yīng)的彩色圖像數(shù)據(jù)庫(kù);
[0071] 2)利用公式gray = 0.299R+0.587G+0.114B對(duì)交通標(biāo)志圖像進(jìn)行灰度計(jì)算,建立相 應(yīng)的灰度圖像數(shù)據(jù)庫(kù),并對(duì)灰度圖像數(shù)據(jù)庫(kù)做像素統(tǒng)一大小處理和直方圖均衡化處理;
[0072] 3)對(duì)灰度圖像進(jìn)行二值化,建立交通標(biāo)志數(shù)據(jù)庫(kù);
[0073] (2)設(shè)定卷積神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)及其他相關(guān)參數(shù):
[0074] 1)卷積核大小和網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)設(shè)定:卷積核算子是卷積時(shí)使用到的權(quán)值,可W用 一個(gè)矩陣MXN表示,該矩陣與使用的圖像區(qū)域大小相同,大部分在使用時(shí)是對(duì)稱的,如M = N,其行、列都是奇數(shù),一般N=3、5、7。
[0075] 網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)是除輸入層和輸出層之外的卷積層數(shù)和子采樣層數(shù)的總和。神經(jīng)網(wǎng) 絡(luò)的層數(shù)在一定范圍內(nèi)增加,能有效提高識(shí)別率,但層數(shù)過(guò)多,不僅網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜,同時(shí)會(huì) 使識(shí)別率降低。結(jié)合輸出特征圖簡(jiǎn)單有代表性的特點(diǎn),由訓(xùn)練樣本的尺寸和卷積核的大小 可決定網(wǎng)絡(luò)結(jié)構(gòu)層數(shù)。
[0076] 2)權(quán)值初始化:權(quán)值初始化是卷積核神經(jīng)元和最后兩層之間的權(quán)值矩陣的初始 化。權(quán)值初始化對(duì)訓(xùn)練速度、輸出精度是有影響的,初始值范圍太大會(huì)導(dǎo)致無(wú)法訓(xùn)練,所W 權(quán)值初始值是在[-1,1]之間隨機(jī)取值,在后面的反向傳播過(guò)程中進(jìn)行優(yōu)化,直到達(dá)到最優(yōu) 解。
[0077] 3)批量樣本數(shù)的設(shè)定:為了減少訓(xùn)練次數(shù),提高實(shí)驗(yàn)效率,可W采用分組的方式進(jìn) 行訓(xùn)練,批量樣本數(shù)是每組中所含圖像的個(gè)數(shù)。
[0078] 在總實(shí)驗(yàn)樣本一定的條件下,批量樣本數(shù)