專利名稱:簽名識(shí)別系統(tǒng)和方法
背景技術(shù):
早期的防偽方案需要人將保存在文檔中的原始簽名與在上述文件之一上最新完成的簽名作比較。當(dāng)然,這種人的介入是極其耗時(shí)的,而且往往不可靠。
隨著計(jì)算能力的增長,已經(jīng)開發(fā)了電子簽名識(shí)別與驗(yàn)證系統(tǒng)。這種系統(tǒng)一般包括輸入裝置、如數(shù)字化襯板或圖形輸入板以捕獲和數(shù)字存儲(chǔ)簽名的圖像,然后以各種方式作用于存儲(chǔ)的圖像上,以將新簽名與以前存儲(chǔ)的“真實(shí)”簽名比較。
例如,授予Shaw等人的美國專利5745598公開了一種方法,通過該方法執(zhí)行對(duì)存儲(chǔ)的簽名圖像的離散余弦變換或正交變換。產(chǎn)生全程參數(shù)序列,并且按照基于離散余弦變換或正交變換的屬性的分段參數(shù),把圖像分成多個(gè)筆畫。還產(chǎn)生特征尺寸的序列,然后,把全程參數(shù)、分段參數(shù)以及特征尺寸作為簽名的代表存儲(chǔ)。根據(jù)存儲(chǔ)的代表特征做比較。但是,由Shaw等人公開的方法打算對(duì)于在例如磁卡上存儲(chǔ)有限量的數(shù)據(jù)、以便可以在自主地點(diǎn)、如自動(dòng)出納機(jī)上完成簽名的核實(shí)特別有用。由于表現(xiàn)任何簽名特征的數(shù)據(jù)量減小,所以根據(jù)定義,在核實(shí)中具有較小的可靠性。
在授予Lee等人的美國專利5559895中,公開了帶有圖形數(shù)字化儀的寫入板,它把簽名的連續(xù)線轉(zhuǎn)換成數(shù)字化的點(diǎn)。然后把數(shù)字化的點(diǎn)關(guān)于坐標(biāo)系統(tǒng)定位并且把水平和垂直坐標(biāo)分配給每個(gè)點(diǎn)。還賦予這些點(diǎn)關(guān)于時(shí)間的值。由此得出的數(shù)據(jù)代表靜態(tài)與動(dòng)態(tài)信息的同時(shí)累積。這些數(shù)據(jù)用來計(jì)算表征簽名的一組特征中的每個(gè)特征。用于比較簽字人(簽名的人)的當(dāng)前簽名的數(shù)據(jù)庫包括該組的每個(gè)特征的平均值和標(biāo)準(zhǔn)偏差。盡管這種系統(tǒng)是對(duì)已知的電子簽名驗(yàn)證/核實(shí)系統(tǒng)的改進(jìn),但是,這種系統(tǒng)集中于多終端事務(wù)問題,并且它也缺乏高級(jí)簽名驗(yàn)證與核實(shí)所必需的可靠性。
授予Platt等人的美國專利5812698公開了一種手寫體識(shí)別系統(tǒng),它包括使用模糊函數(shù)來描述某個(gè)筆畫的各個(gè)點(diǎn)的預(yù)處理裝置。每個(gè)字符的最終識(shí)別是由對(duì)“稀疏數(shù)據(jù)結(jié)構(gòu)”起作用以識(shí)別字符的特征的神經(jīng)網(wǎng)絡(luò)來完成的。Platt等人的系統(tǒng)是針對(duì)整個(gè)手寫體識(shí)別,而不是簽名識(shí)別本身,因此缺乏識(shí)別和/或驗(yàn)證簽名的可靠性。
在先有技術(shù)中還設(shè)計(jì)了其他用于簽名識(shí)別的系統(tǒng)。例如,授予Gaborski等人的美國專利第5442715號(hào)公開了一種用于草寫體識(shí)別的方法和裝置,其中數(shù)字簽名是由神經(jīng)網(wǎng)絡(luò)在時(shí)間序列中使用移動(dòng)窗口和分段法處理的。授予Hutcheson等人的美國專利第5465308號(hào)公開了一種圖形識(shí)別系統(tǒng),它通過傅立葉變換把二維圖形轉(zhuǎn)換成功率譜,然后把這個(gè)功率譜的首項(xiàng)元素用作特征向量并且使用四層神經(jīng)網(wǎng)絡(luò)對(duì)其分析。授予Obata等人的美國專利第5553156號(hào)公開了一種復(fù)雜的簽名識(shí)別裝置,它利用面向筆畫的預(yù)處理和模糊神經(jīng)網(wǎng)絡(luò)以識(shí)別與驗(yàn)證簽名。授予Moussa等人的美國專利第5680470號(hào)公開了一種簽名核實(shí)系統(tǒng)及方法,其中對(duì)簽名預(yù)處理以產(chǎn)生測(cè)試特征,后者可與模板簽名相比較、以使用常規(guī)的統(tǒng)計(jì)工具檢驗(yàn)測(cè)試特征存在與否。授予Kashi等人的美國專利第5828772號(hào)公開了使用全程特征和筆畫方向代碼的參數(shù)簽名核實(shí)的方法和裝置,其中把簽名分解成空間定向、時(shí)間有序的線段。授予Obata等人的美國專利第5825906號(hào)公開了一種簽名識(shí)別系統(tǒng),它包括提取特征向量的預(yù)處理子系統(tǒng)、識(shí)別圖形的識(shí)別網(wǎng)絡(luò)以及用于確定哪些特征值得考慮的遺傳算法。
其他相關(guān)技術(shù)包括用于核實(shí)系統(tǒng)的光學(xué)字符識(shí)別(OCR)系統(tǒng)及硬件。例如,授予Oki的美國專利第5742702號(hào)公開了用于字符識(shí)別與核實(shí)的神經(jīng)網(wǎng)絡(luò),這將字符轉(zhuǎn)換成矩陣,并且使用神經(jīng)網(wǎng)絡(luò)來識(shí)別字符。授予Marshall的美國專利第5774571號(hào)公開了帶有多個(gè)傳感器、含有壓敏單元、用于生物統(tǒng)計(jì)學(xué)核實(shí)的寫入裝置。
但是,這些先有技術(shù)的系統(tǒng)無法提供可容易地在商業(yè)上實(shí)現(xiàn)、有效以及特別可靠的簽名驗(yàn)證/核實(shí)系統(tǒng)。另外,隨著因特網(wǎng)的使用增長,對(duì)于無數(shù)的應(yīng)用和事務(wù),特別需要在線準(zhǔn)確可靠地驗(yàn)證簽名。
本發(fā)明的另一個(gè)目的是,最好通過執(zhí)行實(shí)現(xiàn)分級(jí)圖標(biāo)縮放以轉(zhuǎn)換簽名原始數(shù)據(jù)的預(yù)定義的處理部分使計(jì)算時(shí)間和計(jì)算機(jī)存儲(chǔ)資源最小化。在可供選擇的實(shí)施例中,最好用“什么/哪里”網(wǎng)絡(luò)代替所述分級(jí)圖標(biāo)縮放處理。
本發(fā)明的又一個(gè)目的是實(shí)現(xiàn)無監(jiān)督神經(jīng)網(wǎng)絡(luò)以分析分級(jí)圖標(biāo)縮放級(jí)的輸出。本發(fā)明還有一個(gè)目的是提供分析神經(jīng)網(wǎng)絡(luò)的響應(yīng)的至少一個(gè)階段的分量積分。
本發(fā)明的另一個(gè)目的是,在第二階段的分量積分中實(shí)現(xiàn)改進(jìn)的π神經(jīng)元,以此可進(jìn)行改進(jìn)的響應(yīng)分析。
本發(fā)明的又一個(gè)目的是,在簽名驗(yàn)證系統(tǒng)中實(shí)現(xiàn)用以評(píng)定過廣義化并且有效地抵制其影響的方法。
按照本發(fā)明,提供簽名核實(shí)系統(tǒng),它進(jìn)行概念的獨(dú)特合并以獲得所要的核實(shí)與驗(yàn)證分析。一個(gè)概念是遞歸縮放,它是獲得簽名數(shù)據(jù)并且將其轉(zhuǎn)換成高維空間中的一組向量的處理。另一個(gè)概念是累積歸一正交化處理的執(zhí)行,它是一種用于計(jì)算包含高維空間中的一組點(diǎn)的相關(guān)橢球或球的新方法。在描述且結(jié)合許多其他概念以獲得本發(fā)明的同時(shí),上面剛剛提到的兩個(gè)概念,或者單獨(dú)地、或者與這里描述的其他發(fā)明特征結(jié)合,至今從未被用于簽名核實(shí)或驗(yàn)證系統(tǒng)中。
如前面所討論的,本發(fā)明用于(1)核實(shí)和/或驗(yàn)證用戶的簽名防止偽造和/或(2)用生物統(tǒng)計(jì)學(xué)識(shí)別和/或證實(shí)某個(gè)特定的人。本發(fā)明的方法和裝置(系統(tǒng))分兩個(gè)階段工作。在第一階段、或稱學(xué)習(xí)階段,系統(tǒng)學(xué)習(xí)識(shí)別用戶的簽名。對(duì)于這個(gè)階段,用戶提供其簽名的幾個(gè)可重復(fù)樣本。系統(tǒng)則分析這些樣本,識(shí)別其重要特征,并且學(xué)習(xí)識(shí)別簽名本身和辨別書寫該簽名的方式。在第二階段、或稱用戶核實(shí)階段,系統(tǒng)確定輸入的簽名是否與在第一、或?qū)W習(xí)階段獲得的樣本匹配。
因此,按照本發(fā)明,顯然更難以成功地偽造某個(gè)簽名,因?yàn)閭卧煺卟粌H必須知道簽名看上去如何,而且還要知道如何書寫簽名。因此,本發(fā)明的系統(tǒng)作為生物統(tǒng)計(jì)學(xué)驗(yàn)證裝置和方法還是非常有用的。
一般來講,本發(fā)明包括五個(gè)主要子系統(tǒng)輸入、遞歸縮放、無監(jiān)督神經(jīng)網(wǎng)絡(luò)以及分量積分器。下面將簡(jiǎn)要地討論其中的每個(gè),并且在詳細(xì)描述部分中作詳細(xì)闡述。
(A)輸入。輸入部分使用輸入裝置,例如,鼠標(biāo)、筆或者圖形輸入板來接收簽名,并且產(chǎn)生簽名的描述。簽名的描述最好是時(shí)間與在輸入裝置的X-Y坐標(biāo)中相應(yīng)位置的列表。
(B)遞歸縮放。遞歸縮放特征起到多種作用。首先最好是把簽名轉(zhuǎn)換成標(biāo)準(zhǔn)形式。這一點(diǎn)是需要的,因?yàn)橥粋€(gè)人的幾個(gè)簽名幾乎從不相同。例如,簽名可能會(huì)小些或大些、拉長或者略有旋轉(zhuǎn)。為了識(shí)別這些“相同”簽名中的任何一個(gè),需要系統(tǒng)忽略這類差異。通過把簽名轉(zhuǎn)換成不隨簽名大小或旋轉(zhuǎn)而定的格式,系統(tǒng)可以忽略這些因素,因而可以更準(zhǔn)確地比較簽名。
從遞歸縮放得出的另一個(gè)特征是,簽名轉(zhuǎn)換成一種容易被下游神經(jīng)網(wǎng)絡(luò)處理的形式。因?yàn)闊o監(jiān)督神經(jīng)網(wǎng)絡(luò)(在本發(fā)明中實(shí)現(xiàn)的)學(xué)習(xí)識(shí)別高維空間中的向量集,本發(fā)明最好用這種集來表示簽名。也就是說,本發(fā)明的遞歸縮放特征把時(shí)間/位置表示轉(zhuǎn)換成高維空間中的向量集。
(C)無監(jiān)督神經(jīng)網(wǎng)絡(luò)。無監(jiān)督神經(jīng)網(wǎng)絡(luò)是能學(xué)習(xí)識(shí)別空間中向量聚類的神經(jīng)元的集合,其中每個(gè)神經(jīng)元識(shí)別一個(gè)聚類。網(wǎng)絡(luò)最好工作在至少兩種模式下。在學(xué)習(xí)模式中,神經(jīng)元學(xué)習(xí)識(shí)別聚類或者其部分,在響應(yīng)模式中,每個(gè)神經(jīng)元響應(yīng)很可能屬于其學(xué)習(xí)識(shí)別的聚類中的向量。在最佳實(shí)施例中,橢球神經(jīng)元用于識(shí)別橢球聚類。在另一個(gè)最佳實(shí)施例中,實(shí)現(xiàn)氣泡狀神經(jīng)元以識(shí)別圓形的聚類。
(D&E)分量積分器,第一和第二階段。在學(xué)習(xí)階段,分量積分器分析網(wǎng)絡(luò)對(duì)樣本簽名的響應(yīng)。在核實(shí)階段,分量積分器把網(wǎng)絡(luò)對(duì)簽名的響應(yīng)與在學(xué)習(xí)過程中收集的數(shù)據(jù)相比較。如果“強(qiáng)”匹配存在,則認(rèn)為簽名是真實(shí)的。否則,認(rèn)為簽名很可能是偽造的。
圖2表示可用于本發(fā)明的各種類型的定位設(shè)備。
圖3描述按照本發(fā)明、對(duì)樣本簽名所取的兩個(gè)間隔。
圖4表示按照本發(fā)明的遞歸迭代。
圖5說明按照本發(fā)明的專用橢球神經(jīng)元。
圖6表示按照本發(fā)明的主要橢球方向。
圖7表示按照本發(fā)明、沿Ui,i=1、2…n的投影距離的變化。
發(fā)明的詳細(xì)描述以下提供對(duì)本發(fā)明的最佳實(shí)施例的詳細(xì)描述,首先從這里用到的各種術(shù)語的定義開始。
定義軟計(jì)算-軟計(jì)算是一種當(dāng)算法不可用或者無法對(duì)其定義時(shí)、通過其解決問題的方法。
神經(jīng)網(wǎng)絡(luò)-一種軟計(jì)算系統(tǒng),它通過使用自適應(yīng)局部分解節(jié)點(diǎn)來解決問題。每個(gè)這種節(jié)點(diǎn)具有多個(gè)輸入線(在人類神經(jīng)元中稱為“樹突”)和一條輸出線(在人類神經(jīng)元中稱為“軸突”)。節(jié)點(diǎn)學(xué)習(xí)響應(yīng)在輸入線(“樹突”)收到的輸入圖形。
自組織神經(jīng)網(wǎng)絡(luò)-一種神經(jīng)網(wǎng)絡(luò),它學(xué)習(xí)識(shí)別輸入圖形的特征并且在沒有外部干預(yù)下隱藏相關(guān)性。
內(nèi)蘊(yùn)幾何學(xué)-一種數(shù)學(xué)理論,它處理幾何對(duì)象的測(cè)量使得測(cè)量不依賴于任何坐標(biāo)系統(tǒng)。通常由微分幾何學(xué)和愛因斯坦的廣義相對(duì)論(Ricci曲率=Rkjgkj)研究的值是固有標(biāo)量。內(nèi)蘊(yùn)幾何學(xué)可由張量和旋量來表示(規(guī)范理論),但是也可以由使用張量和旋量的高階神經(jīng)元來表示。在基于自組織神經(jīng)網(wǎng)絡(luò)的新廣義相對(duì)論的發(fā)展中也是很有價(jià)值的。
廣義化-識(shí)別不同于所學(xué)圖形、但與所學(xué)圖形具有共同特征的圖形的能力。這是神經(jīng)網(wǎng)絡(luò)最重要的優(yōu)點(diǎn)。它代表一種類型的數(shù)據(jù)壓縮。它把神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)變成解決以前未遇到的問題的系統(tǒng)。
“什么/哪里”神經(jīng)網(wǎng)絡(luò)-一種至少有兩層的神經(jīng)網(wǎng)絡(luò)。每層均為神經(jīng)網(wǎng)絡(luò)。第一層通常是由不同大小的感受野組成。這些感受野可具有不同的形狀,但通常使用一種共有的形狀,如盤(填充圓)。在感受野內(nèi)的輸入樹突變成第一層的輸入。這層稱為“什么”層。通常“什么”層是由構(gòu)成自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)的高階神經(jīng)元組成的?!澳睦铩本W(wǎng)絡(luò)掃描經(jīng)過感受野的原始或處理過的圖案(或者輸入掩模-預(yù)定形狀的連接的像素)。它使用“什么”網(wǎng)絡(luò)作為查用表,由此通過不同的“什么”神經(jīng)元來識(shí)別圖案上的不同區(qū)。為了廣義化,“哪里”網(wǎng)絡(luò)的分辨率低于圖案的分解率。“哪里”網(wǎng)絡(luò)的輸出可以變成下一個(gè)“什么/哪里”層的輸入。這種描述作為Infilight Soft ComputingLtd.的獨(dú)特解釋是典型的,因而可能與通常的定義有所不同。
雙線性型的“本征值”-向量V的值,對(duì)于其雙線性型的表示矩陣A是對(duì)角的。
雙線性型的“本征向量”-基向量,其中雙線性型的雙線性表示矩陣A是對(duì)角的。
對(duì)角化-一個(gè)借以使雙線性型表示矩陣A變成對(duì)角的過程。
主分量-這些是相關(guān)矩陣的“本征向量”。
高階主分量-可借以將高階張量部分地對(duì)角化的向量。通常三階或三階以上的張量無法被對(duì)角化(張量Aijk無法被表示成Akkk=λ,并且對(duì)于i≠j或者i≠k或者j≠k,Aijk=0)。
相關(guān)矩陣-隨機(jī)變量相關(guān)的矩陣,對(duì)于其Aij等于Exixj-Exi*Exj。
無界增長-其中神經(jīng)元的內(nèi)值增長太快的不希望有的現(xiàn)象。這個(gè)問題可能導(dǎo)致競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)變成單神經(jīng)元網(wǎng)絡(luò)(因?yàn)槠渌窠?jīng)元從未獲勝/學(xué)習(xí))。這個(gè)問題也稱為退化。
π神經(jīng)元-其中使用乘法代替采用對(duì)輸入樹突求和的神經(jīng)元。這個(gè)神經(jīng)元通常用作統(tǒng)計(jì)“與”算子。
短暫積聚神經(jīng)元-對(duì)輸入值執(zhí)行積分算子的神經(jīng)元。在我們的模型中,我們僅使用一階神經(jīng)元。在生物學(xué)中,這種神經(jīng)元位于丘腦(中腦內(nèi)的一個(gè)區(qū)域)中,并且對(duì)于原始生物功能具有重要的作用。德國的Lautenbauscher博士已經(jīng)做了關(guān)于疼痛及短暫積聚的重要研究。[Somatosensory and Motor Research(1995)第12(1)卷第59至75頁,由Lautenbauscher,Roscher,Strian發(fā)表的“脈動(dòng)加熱引起的緊張?zhí)弁炊虝悍e聚機(jī)制”]。
Oja-請(qǐng)參考Martin Beckerman的“自適應(yīng)協(xié)作系統(tǒng)”第319頁-8.11.5,第320頁-8.11.6(1997年由John Wiley & Sons,Inc.出版,ISBN0-471-01287-4)。
Linsker-請(qǐng)參考Martin Beckerman的“自適應(yīng)協(xié)作系統(tǒng)”第319頁-8.11.5,第320頁-8.11.6(1997年由John Wiley & Sons,Inc.出版,ISBN 0-471-01287-4)。
分量積分-神經(jīng)網(wǎng)絡(luò)通過其來檢驗(yàn)一個(gè)完整圖案的不同部分是否同時(shí)存在的過程。
隨后,將詳細(xì)描述本發(fā)明的系統(tǒng)。最佳實(shí)施例的描述本發(fā)明的簽名驗(yàn)證/核實(shí)系統(tǒng)引入了把無監(jiān)督神經(jīng)網(wǎng)絡(luò)用于簽名驗(yàn)證/核實(shí)的新概念。本發(fā)明包括利用不同的無監(jiān)督神經(jīng)網(wǎng)絡(luò)之間的協(xié)作的自適應(yīng)協(xié)作系統(tǒng)。主進(jìn)程分成五個(gè)階段。每個(gè)階段執(zhí)行一個(gè)
圖1中所示的主要子進(jìn)程。如圖1的說明實(shí)例中所示,主進(jìn)程分成如下的五個(gè)階段或者五個(gè)子進(jìn)程A-簽名抽樣-如圖1的標(biāo)號(hào)100處所描述的,系統(tǒng)對(duì)簽名抽樣。簽名抽樣是通過把手的移動(dòng)轉(zhuǎn)換成位置的輸入設(shè)備來完成的。最常見的設(shè)備有鼠標(biāo)、類鼠標(biāo)裝置、壓敏襯板、圖形輸入板、指示筆和/或電子筆。簽名抽樣子系統(tǒng)收集設(shè)備數(shù)據(jù),并且產(chǎn)生時(shí)間/位置對(duì)的列表。
人們注意到,一些輸入設(shè)備也可以感測(cè)壓力。盡管由于在簽名中同一地方不同的人用的壓力不同,這個(gè)信息可被用于驗(yàn)證,但是由于許多輸入設(shè)備不支持壓力測(cè)量,為了可靠的結(jié)果,本發(fā)明不依賴于壓力變量。另一方面,可以通過增加壓力測(cè)量來進(jìn)一步改進(jìn)本發(fā)明的系統(tǒng)。
最好是,輸入設(shè)備提供足夠詳細(xì)的信息來支持本發(fā)明的系統(tǒng)。特別是,最佳的信息率是每秒至少約40個(gè)樣值。如果抽樣率較低,一般信息不足以表現(xiàn)簽名的特征。另外,簽名抽樣進(jìn)程應(yīng)該占用大約一秒或一秒以上。
B-預(yù)定義進(jìn)程-系統(tǒng)把原始數(shù)據(jù)轉(zhuǎn)換成高維向量,即圖1的部分200。這些向量代表所學(xué)簽名的生物統(tǒng)計(jì)學(xué)及幾何特征。這些向量表現(xiàn)了獨(dú)特的“什么/哪里”分析,與并行協(xié)作的“什么/哪里”神經(jīng)網(wǎng)絡(luò)分析不同。該方法傾向于抽取內(nèi)在的幾何相關(guān)性。
更具體地說,在預(yù)定義進(jìn)程中,執(zhí)行遞歸縮放處理,由此把簽名抽樣所產(chǎn)生的時(shí)間/位置對(duì)重組成一組高維向量。遞歸縮放的所有結(jié)果是相對(duì)于樣本簽名的。通過使用相對(duì)測(cè)量,避免了對(duì)大小和旋轉(zhuǎn)的依賴關(guān)系。
通過遞歸地聚焦于簽名的越來越小的細(xì)節(jié),產(chǎn)生每個(gè)高維向量。在處理中的每一步看到更小的細(xì)節(jié)(由更短的時(shí)間間隔來定義)并且產(chǎn)生向量中的更多坐標(biāo)??梢詾榉糯笠约白鴺?biāo)生成設(shè)計(jì)各種方案。但是,在本發(fā)明的最佳實(shí)施例中,預(yù)定義進(jìn)程最好用13次迭代產(chǎn)生26維向量。如下產(chǎn)生向量(a)在第一個(gè)迭代中檢驗(yàn)的時(shí)段是在簽名時(shí)間的50%至70%之間(2%的步長);(b)在第二至第十三個(gè)迭代中檢驗(yàn)的時(shí)段是前一個(gè)迭代中檢驗(yàn)的時(shí)段的70%;而(c)每個(gè)迭代中的時(shí)段或者在前一個(gè)迭代的時(shí)段的開頭、或者在其結(jié)尾(但不在中間)。
每個(gè)迭代為向量增加兩個(gè)坐標(biāo)。從在檢驗(yàn)時(shí)段起始的輸入設(shè)備位置與在檢驗(yàn)時(shí)段結(jié)尾的輸入設(shè)備位置之間、沿X和Y軸的差值來計(jì)算這些坐標(biāo)。為避免對(duì)簽名的大小的依賴關(guān)系,用在前一迭代中檢驗(yàn)時(shí)段的起點(diǎn)和終點(diǎn)的輸入設(shè)備位置之間的距離除所述位置間的差值。另外,最好設(shè)有防止被零除的算法。應(yīng)當(dāng)注意,上述檢驗(yàn)的時(shí)段的百分比和迭代次數(shù)僅是本發(fā)明的一個(gè)實(shí)施例的示例。理論上講,可以使用更高的(檢驗(yàn)時(shí)段的)百分比和更高迭代,這將會(huì)產(chǎn)生更佳的結(jié)果。但是,這種百分比與迭代的增長需要增加的計(jì)算及系統(tǒng)容量。因此,在目前的技術(shù)和經(jīng)濟(jì)狀況下,考慮到經(jīng)濟(jì)成本,上述實(shí)施例已被證明可提供足夠準(zhǔn)確的結(jié)果。
C-無監(jiān)督高階主分量提取-在標(biāo)號(hào)300處,系統(tǒng)學(xué)習(xí)由這樣產(chǎn)生的高維實(shí)數(shù)空間-Rn中的向量所形成的聚類。系統(tǒng)在獨(dú)特方法中使用主分量橢圓提取。主分量(相關(guān)矩陣的“本征向量”與“本征值”)是用累積歸一正交化的幾何方法計(jì)算的。這種方法免去了相關(guān)矩陣及其對(duì)角化的使用。另外,主橢球主方向的向量不需要雙精度8字節(jié)變量。僅“本征值”需要雙變量型。由數(shù)字條件而不是用諸如Oja方案或Linsker模型的方案解決了橢球無界增長的問題。這種數(shù)字條件消除了對(duì)“太大”神經(jīng)元的懲罰規(guī)則的使用。
換言之,在圖1中,無監(jiān)督神經(jīng)網(wǎng)絡(luò)300中的神經(jīng)元310學(xué)習(xí)識(shí)別在高維空間中的向量的聚類。類屬學(xué)習(xí)方案是把向量饋送到網(wǎng)絡(luò)中。最接近新增向量的神經(jīng)元將其加至它識(shí)別的聚類中,并且修改聚類的位置和大小以反映從增加的新向量獲得的信息。系統(tǒng)使用“標(biāo)準(zhǔn)”神經(jīng)網(wǎng)絡(luò),但有兩個(gè)變化。第一個(gè)變化是無界增長規(guī)則,它用以防止神經(jīng)元增長太多、以致于把所有向量識(shí)別為屬于單個(gè)聚類。本文稍后將更詳細(xì)地說明此規(guī)則。
第二個(gè)變化是用于找出合成橢球的獨(dú)特處理。當(dāng)使用橢球神經(jīng)元時(shí),每個(gè)神經(jīng)元學(xué)習(xí)識(shí)別橢球形聚類。問題是神經(jīng)元不得不找出橢球的主方向和大小。
找出橢球的主方向的標(biāo)準(zhǔn)方法是計(jì)算沿每個(gè)軸的向量分布的相關(guān)矩陣。這種矩陣的本征向量是橢球的主方向。矩陣的本征值是向量沿每個(gè)主方向的方差。當(dāng)取橢球的尺寸為沿每個(gè)主方向的標(biāo)準(zhǔn)偏差的兩倍時(shí),橢球覆蓋了95%的向量,由此確定聚類。
這種方法的主要缺點(diǎn)在于,無論何時(shí)把新向量加入網(wǎng)絡(luò),都要更新相關(guān)矩陣并且求出本征向量。但是,對(duì)于大矩陣,這種處理是非常耗時(shí)的。
因此,按照本發(fā)明,提供一種稱為累積歸一正交化的方法,它是找出橢球和/或球的主方向和大小的獨(dú)特方法。該方法基于這樣的觀察,即橢球的一個(gè)半球內(nèi)的所有點(diǎn)的均值指向主方向。為了計(jì)及在聚類中的所有向量,累積歸一正交化方法計(jì)算在一個(gè)半球內(nèi)的所有向量的平均值以及在另一半球內(nèi)的相反的向量的平均值。為找出橢球的另一主要方向,重復(fù)該處理,但是每一次,從向量中減去沿著至此找出的主方向的分量。再把尺寸計(jì)算為沿主方向的向量分量的標(biāo)準(zhǔn)偏差的二倍。
為避免無論何時(shí)把新向量加至網(wǎng)絡(luò)都需要對(duì)所有向量求平均值,系統(tǒng)假定新點(diǎn)不會(huì)太多地改變平均值,因此,系統(tǒng)可以依靠在加入前一個(gè)向量后找出的方向和尺寸。這種假設(shè)隱含的是,所找出的橢球?yàn)檎嬲龣E球的近似。這種近似隨著向量數(shù)的增加而變得更好。幾百個(gè)向量產(chǎn)生對(duì)于所有實(shí)際目的足夠的近似。
應(yīng)該注意,由遞歸縮放子系統(tǒng)進(jìn)行的聚類分析表明,這些聚類趨向于一個(gè)圓。就這點(diǎn)而論,橢球神經(jīng)元并不優(yōu)于圓形/氣泡狀神經(jīng)元。實(shí)際上,已經(jīng)發(fā)現(xiàn)氣泡形神經(jīng)元的優(yōu)勢(shì)在于它們是對(duì)稱的,因而,不需要找出主方向,因此改進(jìn)了學(xué)習(xí)時(shí)間,減小了實(shí)現(xiàn)該系統(tǒng)所必需的存儲(chǔ)量。另外,球的半徑是神經(jīng)元對(duì)其贏的向量的距離的標(biāo)準(zhǔn)偏差。因此,可以作為替換把這種圓形/氣泡狀神經(jīng)元用于本發(fā)明的其他實(shí)施例中。球的半徑最好僅用于分量積分-第一階段的處理中。由于通過預(yù)定義進(jìn)程、即遞歸縮放形成的聚類的特殊性,這是可能的。但是,由于橢球神經(jīng)元提供了提高的精度(盡管這種提高可能是小的),本文會(huì)更詳細(xì)地討論使用橢球神經(jīng)元的實(shí)施例。關(guān)于這點(diǎn),本專業(yè)的技術(shù)人員應(yīng)該明白,可容易地把關(guān)于橢球神經(jīng)元所講的理論應(yīng)用于圓形/氣泡狀神經(jīng)元。實(shí)際上,可把圓形/氣泡狀神經(jīng)元當(dāng)作這里討論的橢球神經(jīng)元的特殊實(shí)施例。
D-分量積分-第一階段-分量積分400是一種用于檢驗(yàn)所學(xué)簽名的幾何與生物統(tǒng)計(jì)學(xué)分量是否也存在于被比較的簽名中的方法。
這種方法依靠如下三種類型的獨(dú)特神經(jīng)元D.1-短暫積聚神經(jīng)元,410D.2-平均短暫積聚神經(jīng)元,420D.3-π-神經(jīng)元,430D.1)在分量積分-第一階段,每個(gè)短暫積聚神經(jīng)元410學(xué)習(xí)橢球內(nèi)的向量數(shù)與向量總數(shù)之間的關(guān)系。它記住這些比值的平均值和標(biāo)準(zhǔn)偏差。
D.2)第二類型的神經(jīng)元、平均短暫積聚神經(jīng)元420,學(xué)習(xí)向量在橢球內(nèi)的平均距離。它學(xué)習(xí)這些平均值的平均值及其標(biāo)準(zhǔn)偏差。
D.3)π-神經(jīng)元430把最后兩種神經(jīng)元的統(tǒng)計(jì)距離相乘。
E-分量積分-第二階段-這個(gè)神經(jīng)元是改進(jìn)的π-神經(jīng)元500,其中,與把未處理的值相乘的常規(guī)π-神經(jīng)元不同,它將其輸入樹突按照強(qiáng)度的降序排列,找出其相乘值小于一的最小排列下標(biāo)。最大最差情況是當(dāng)這個(gè)下標(biāo)具有其最大值時(shí)發(fā)生的。這意味著,太多短暫積聚和平均短暫積聚神經(jīng)元報(bào)告了大的標(biāo)準(zhǔn)偏差。設(shè)置非優(yōu)勢(shì)特征提取裝置510,它通過乘標(biāo)準(zhǔn)偏差或方差的排序后的值來提取偏差最大的。
作為這種分析的結(jié)果,系統(tǒng)從被比較/學(xué)習(xí)的原始簽名計(jì)算異常偏差。
在更廣義化的說明中,分量積分器的目的是把神經(jīng)網(wǎng)絡(luò)對(duì)簽名的響應(yīng)與神經(jīng)網(wǎng)絡(luò)對(duì)在學(xué)習(xí)階段中提供的樣本的響應(yīng)匹配。對(duì)于每個(gè)簽名,并且對(duì)于每個(gè)神經(jīng)元,計(jì)算神經(jīng)元對(duì)簽名的響應(yīng)。用兩個(gè)數(shù)值來表示神經(jīng)元對(duì)簽名的響應(yīng)。第一個(gè)數(shù)值,稱為“全程響應(yīng)”,是神經(jīng)元響應(yīng)的向量的百分比。第二個(gè)數(shù)值“局部響應(yīng)”,是從神經(jīng)元響應(yīng)的向量到該神經(jīng)元中心的距離的平均值。
分量積分器通過神經(jīng)元對(duì)簽名的響應(yīng)與對(duì)樣本簽名的平均響應(yīng)偏差多少來測(cè)量。然后把這些數(shù)值送至改進(jìn)的π-神經(jīng)元500,后者的結(jié)果是在簽名與學(xué)習(xí)階段中提供的樣本之間匹配的測(cè)量。改進(jìn)的π-神經(jīng)元是工作在兩種方式下的部分。在學(xué)習(xí)方式下,他們學(xué)習(xí)其具有的有效輸入的數(shù)量,而在工作方式下,他們輸出有效輸入的乘積。以下是對(duì)本發(fā)明這方面的更詳細(xì)說明。
再次注意,上述討論僅是本發(fā)明的一個(gè)實(shí)例。這份公開的剩余部分是針對(duì)按照本發(fā)明的實(shí)施例的以上子系統(tǒng)或者部分中每個(gè)的全面數(shù)學(xué)討論以及最終整個(gè)系統(tǒng)作為一個(gè)整體怎樣工作、包括學(xué)習(xí)與比較之間的差異。
數(shù)學(xué)及綜合描述本發(fā)明的簽名識(shí)別系統(tǒng)包括如下的五個(gè)子進(jìn)程或子系統(tǒng)A-簽名抽樣,100。
B-預(yù)定義進(jìn)程-生物統(tǒng)計(jì)學(xué)與幾何分析,200。
C-高階主分量提取進(jìn)程,300。
D-分量積分-第一階段進(jìn)程,400。
E-分量積分-第二階段進(jìn)程,500。
A-簽名抽樣進(jìn)程本發(fā)明中的抽樣最好是由帶有任何附加的標(biāo)準(zhǔn)輸入定位設(shè)備、如圖2中所示設(shè)備21、22、23、24或任何其他類似設(shè)備的個(gè)人計(jì)算機(jī)20來完成。在個(gè)人計(jì)算機(jī)20上運(yùn)行的應(yīng)用程序以足夠高的恒速,最好是大約每隔7毫秒,(通過使用高優(yōu)先級(jí)線程)對(duì)人的簽名進(jìn)行實(shí)時(shí)抽樣。在最佳實(shí)施例中,僅當(dāng)點(diǎn)擊事件發(fā)生時(shí)才啟動(dòng)簽名抽樣進(jìn)程。對(duì)下列三維值抽樣X-x坐標(biāo)。
Y-y坐標(biāo)。
Δt-從恒定抽樣率得出。
把這些三維向量緩存在原始數(shù)據(jù)數(shù)組中。在原始數(shù)據(jù)數(shù)組的長度上各個(gè)簽名可以不相同。順便提一下,通過計(jì)算兩個(gè)不連續(xù)點(diǎn)之間的距離,也可以依靠點(diǎn)擊值作為附加的特征。另外,如上面提到的,由于許多輸入定位設(shè)備不能對(duì)壓力抽樣,在本發(fā)明的最佳方式中不需要監(jiān)視壓力。但是,使用適當(dāng)?shù)脑O(shè)備對(duì)壓力值抽樣,可以確定第四維。并且,通過使用這個(gè)新增的維可以獲得甚至更準(zhǔn)確的簽名識(shí)別。
B-預(yù)定義進(jìn)程-生物統(tǒng)計(jì)學(xué)與幾何分析在這個(gè)進(jìn)程中,目的是把三維原始數(shù)據(jù)向量轉(zhuǎn)換成高維向量。在該具體應(yīng)用程序中,轉(zhuǎn)換進(jìn)程把三維向量轉(zhuǎn)換成26維向量。通過對(duì)簽名的時(shí)間區(qū)間進(jìn)行分級(jí)縮放,產(chǎn)生轉(zhuǎn)換向量。例如,抽樣的簽名包括201個(gè)點(diǎn),200個(gè)7毫秒的時(shí)間區(qū)間。對(duì)于這種簽名,建立201個(gè)二維點(diǎn)的數(shù)組。該時(shí)間包含在從0開始直至200的數(shù)組下標(biāo)中。
第一分級(jí)縮放將在從t0至tmax的時(shí)間區(qū)間上。系統(tǒng)使用如下幾個(gè)分段率。假設(shè)分段率等于0.7,并且選擇兩個(gè)區(qū)間;一個(gè)區(qū)間在0毫秒至140毫秒之間,另一個(gè)在60毫秒至200毫秒之間,如圖3所示。這兩個(gè)時(shí)間段代表一個(gè)迭代。本發(fā)明中實(shí)行的用于分段的規(guī)則最好如下。第一區(qū)間下標(biāo)為區(qū)間I=1,a=(起始下標(biāo),起始下標(biāo)+(結(jié)尾下標(biāo)-起始下標(biāo))×0.7)區(qū)間I=1,b=(結(jié)尾下標(biāo)-(結(jié)尾下標(biāo)-起始下標(biāo))×0.7,結(jié)尾下標(biāo))分段過程是遞歸過程,它在每個(gè)父時(shí)間上重復(fù)13次縮放迭代。這個(gè)過程可被認(rèn)為是“什么/哪里”圖標(biāo)轉(zhuǎn)換。每個(gè)迭代計(jì)算是基于同一個(gè)分段率。在圖4中表示出右邊分支的遞歸迭代。
為了穩(wěn)定性,以不同的分段率重復(fù)該處理,一次是以0.5(即兩個(gè)時(shí)間區(qū)間之間無重疊),接著是以0.52,接著是以0.54等等,一直到0.7的分段率。每個(gè)迭代記錄由終點(diǎn)減去起點(diǎn)而產(chǎn)生的二維向量。不同的向量除以父迭代向量的長度(設(shè)有防止“被零除”算法)以檢測(cè)內(nèi)在的簽名大小的不變比例。這個(gè)過程探究比例幾何與生物統(tǒng)計(jì)學(xué)關(guān)系。
在本發(fā)明的最佳實(shí)施例中,縮放比例被定義為2/n的13次方根,其中n為分離的(x,y)點(diǎn)的數(shù)量。這個(gè)實(shí)施例確保在13次迭代后,時(shí)間區(qū)間在兩個(gè)連續(xù)樣值之間。例如,假定簽名包括200個(gè)(x,y)點(diǎn),則(2/200)的1/13次方大約是0.7。這意味著,在每次迭代中時(shí)間區(qū)間被按照0.7的因數(shù)縮短。本實(shí)施例特別期望有相對(duì)長一些的簽名。具體來說,在這種較長的簽名中,最后的迭代在未完成本方案之前會(huì)到達(dá)太長的最后時(shí)間區(qū)間,由此系統(tǒng)變得對(duì)長簽名曲線的局部特征不夠敏感。
但是,按照本發(fā)明的最佳實(shí)施例,系統(tǒng)截取長的簽名。這不會(huì)阻礙驗(yàn)證過程,因?yàn)樵陂L簽名中有足夠的特征,所以補(bǔ)償了(由不穩(wěn)定截取引起的)簽名結(jié)尾處的不穩(wěn)定性。因此,在其他簽名識(shí)別系統(tǒng)可能要實(shí)現(xiàn)更多神經(jīng)元的情況下,本發(fā)明以有限數(shù)量的神經(jīng)元、或許僅僅基于產(chǎn)生三至五個(gè)拉丁字母的手勢(shì)獲得足夠的可靠性。
人們注意到,在本發(fā)明的本實(shí)施例中,所用的神經(jīng)元數(shù)是32并且由神經(jīng)網(wǎng)絡(luò)分析的向量空間的維數(shù)是26。遞歸縮放的每次迭代產(chǎn)生二維向量并且執(zhí)行13次迭代產(chǎn)生13×2=26維。但是,在可選擇的實(shí)施例中,根據(jù)想要的精度和系統(tǒng)容量,也可以使用不同數(shù)量的神經(jīng)元和不同維數(shù)的向量空間以及不同數(shù)量的迭代。因此,這里討論的實(shí)例不應(yīng)被看作對(duì)本發(fā)明的限定,而僅是一個(gè)示例。
上述過程把三維原始數(shù)據(jù)向量轉(zhuǎn)換成26維的高維向量。這26維是從13個(gè)遞歸區(qū)間(放大)的集中產(chǎn)生的,每個(gè)區(qū)間的結(jié)尾-起始向量具有x與y坐標(biāo),并且最好把這些坐標(biāo)記錄在緩存器中。每次當(dāng)遞歸過程到達(dá)最大深度13時(shí),緩存器變滿。每個(gè)迭代填充緩存器中兩個(gè)位置。在最佳實(shí)施例中,當(dāng)緩存器滿、即有26個(gè)值時(shí),把它寫入順序記錄文件。整個(gè)遞歸過程最好僅持續(xù)幾秒。
這個(gè)過程并不總產(chǎn)生相同的向量;但是,可以把整個(gè)組的向量表示成26維點(diǎn)的聚類的一致化。這些點(diǎn)不僅僅是分散于R26中。稍后討論的”改進(jìn)的π神經(jīng)元”良好地處理了聚類并不總是重復(fù)的事實(shí),它是神經(jīng)網(wǎng)絡(luò)的最后處理階段。實(shí)際上,聚類的不可重復(fù)性是改進(jìn)的π神經(jīng)元的動(dòng)機(jī)。預(yù)定義進(jìn)程的輸出文件變?yōu)樯窠?jīng)網(wǎng)絡(luò)300的輸入。
在人類模擬中,預(yù)定義進(jìn)程作用就象脊椎動(dòng)物的視皮質(zhì)中的早期視覺階段。
C-高階主分量提取進(jìn)程在無監(jiān)督神經(jīng)網(wǎng)絡(luò)300中,通過實(shí)現(xiàn)提取主橢球方向的幾何學(xué)的方法,執(zhí)行主分量提取。這種神經(jīng)元稱為二階神經(jīng)元。該神經(jīng)元使用高維橢球?qū)W習(xí)識(shí)別高維點(diǎn)的聚類。每個(gè)神經(jīng)元使用一個(gè)專用橢球。作為實(shí)例,在圖5中表示出這種橢球。在此圖中,容易看到,所描述的橢球具有兩個(gè)主方向(按照點(diǎn)的平面二維聚類)。
在本發(fā)明的無監(jiān)督神經(jīng)網(wǎng)絡(luò)中,神經(jīng)元識(shí)別接近的點(diǎn),后者形成聚類并且以預(yù)定速率逐漸向聚類中間(通過對(duì)聚類的點(diǎn)求平均值來計(jì)算聚類的中間)移動(dòng)其中心點(diǎn)。通過競(jìng)爭(zhēng)自組織來完成這些。用神經(jīng)元所學(xué)的每個(gè)新點(diǎn)來逐漸更新橢球的主方向。在下面的段落中描述這種獨(dú)特的技術(shù)。
通過獨(dú)特的“累積歸一正交化”技術(shù)來完成橢球主方向提取。
讓V表示神經(jīng)元的位置值(橢球的中心點(diǎn))與新學(xué)習(xí)的值之間的差值向量。讓P表示n維中的神經(jīng)元的位置(橢球的中心點(diǎn))。讓U1,U2,…Un表示主橢球單位方向。并且,讓?duì)?,λ2,…,λn表示在主橢球方向上的聚類點(diǎn)的投影方差。在圖6中表示出這些定義的值中的每一個(gè)。
重要的是要注意, 計(jì)算的值(其中λ表示方差)影響到包括在該范圍內(nèi)的樣值空間的大多數(shù)(95%)。
假定λ值是相關(guān)矩陣的本征值。為避免使用常規(guī)的高時(shí)間復(fù)雜性的相關(guān)矩陣及其對(duì)角化,采用以下新技術(shù),由此簡(jiǎn)化主方向提取。
λ的數(shù)學(xué)值是沿Ui,i=1,2,...n單位方向的投影距離的方差。在圖7中表示出對(duì)于i=2的實(shí)例。在以下部分以及相關(guān)示圖中,m表示所學(xué)習(xí)向量(樣值)的數(shù)量。
把這些Ui設(shè)置成普通基數(shù)的倍增的初始值以便避免太小的橢球。例如,U1=(100,0,0,0,...),U2=(0,10,0,0,...),U3=(0,0,100,0,...),...等。
更新過程從i=1開始直至i=n,(在26維中,n=26)。
U1將作為最高主橢球方向;U2作為第二橢球方向等。
把項(xiàng)[V*<V,U1>]加在[m*λ1*U1]上,其中m是所學(xué)習(xí)的向量的數(shù)量。(原來的m*λ1*U1實(shí)際上是平方的橢球主方向)。
讓新的主平方方向?yàn)橛蒠來表示的向量,其中Y=V*<V,U1>+m*λ1*U1另一種定義Y的方式是Y=V*Sign(<V,U1>)*‖V‖+m*λ1*U1,其中‖V‖是V的模方。
如果在U1上的投影、內(nèi)積<V,U1>是負(fù)的,則所加的向量V*<V,U1>指向由U1指出的正半球方向。正半球是使<Z,U1>>=0的所有Z向量。
如果<V,U1>是正的,則V*<V,U1>向量也在由U1構(gòu)成的正半球中。這意味著,所有求和不能互相取消,但是最好工作在累積方式下。這是累積歸一正交化技術(shù)的基礎(chǔ)。
新U1向量為U1=Y(jié)/|Y|。因此,它是一個(gè)新單位向量。
把新λ1計(jì)算為(m*λ1+<V,Y/|Y|>2)/(m+1),其中m為神經(jīng)元已經(jīng)學(xué)習(xí)的以前的點(diǎn)的數(shù)量。這意味著,把新平方和加在U1方向上投影平方的舊和上。所以m*λ1實(shí)際上是所有平方之和。
λ1=第一主方向上的投影平方之和除以所學(xué)習(xí)的向量(樣值)數(shù)。新m*λ1*U1向量是新的平方主橢球方向。
然后,進(jìn)程進(jìn)行到U2...。
把V*<V,U2>加至m*λ2*U2。
又得到Y(jié)=V*<V,U2>+m*λ2*U2。
或者,以另一種方式,V*Sign(<V,U2>)*‖V‖+m*λ2*U2。
然后,最好保持Y垂直于已計(jì)算的U1。
于是,算出新向量Z=Y(jié)-<Y,U1>*U1。
由此,減去與U1平行的Y的分量。
然后將Z歸一化并且得到新的U2=Z/|Z|。
把新λ2計(jì)算為(m*λ2+<V,Z/|Z|>2)/(m+1)。以該方式把新U2上的投影的平方值加在m*λ2上并且除以m+1,使得λ2剛好為投影平方的和除以所學(xué)習(xí)的向量(樣值)數(shù)量。
進(jìn)程繼續(xù),把V*<V,U3>加至m*λ3*U3。
又得到Y(jié)=V*<V,U3>+m*λ3*U3。
或者,以另一種方式,V*Sign(<V,U3>)*‖V‖+m*λ3*U3。
然后,在以前的主方向上減去投影,所以Z=Y(jié)-<Y,U1>*U1-<Y,U2>*U2。
新U3單位向量剛好是新U3=Z/|Z|。
又剛好把新λ3計(jì)算為(m*λ3+<V,Z/|Z|>2)/(m+1)。
這個(gè)過程持續(xù)進(jìn)行,直至更新了所有主橢球方向。在計(jì)算了最后的主方向之后,該過程到達(dá)其終點(diǎn)。
另外還保留變量P。P是所學(xué)習(xí)的向量的平均值,并且還是用作神經(jīng)元位置的附加點(diǎn)。這可能聽起來有些不尋常,但是顯然,當(dāng)把P用于橢球計(jì)算和L(神經(jīng)元位置)用于競(jìng)爭(zhēng)時(shí),改進(jìn)了網(wǎng)絡(luò)鑒別。這個(gè)過程也使用L接近P的速率。按照本發(fā)明,L不向新學(xué)習(xí)的點(diǎn)移動(dòng)而是向所有學(xué)習(xí)的點(diǎn)的均值P移動(dòng)。
盡管這種二元性可能使用額外的存儲(chǔ)器,但由此獲得的好處超過了任何表面上的不足。
在最佳實(shí)施例中,在無監(jiān)督神經(jīng)網(wǎng)絡(luò)300中設(shè)有防止無界限增長規(guī)則。通過這些規(guī)則,排除了一個(gè)占優(yōu)勢(shì)的獲勝橢球(學(xué)習(xí)太多數(shù)據(jù))的情況,或者,另一方面,變成退化的橢球。每個(gè)橢球具有一個(gè)獲勝計(jì)數(shù)器。無論何時(shí)神經(jīng)元獲勝,計(jì)數(shù)器就遞增。如果獲勝的神經(jīng)元?jiǎng)龠^近處的相鄰者兩次以上,神經(jīng)網(wǎng)絡(luò)變得更不具有競(jìng)爭(zhēng)性。在該階段下,也要以滿足條件的距離、為輸入向量更新相鄰者。
(離獲勝神經(jīng)元的最小距離)/(距相鄰者的距離離)>=0.7。
只要一個(gè)神經(jīng)元獲勝“太多次數(shù)”,則網(wǎng)絡(luò)的作用象Kohonen網(wǎng)絡(luò)一樣。該條件起到強(qiáng)化弱神經(jīng)元的作用,因而作為構(gòu)造性條件。重要的是,對(duì)于連接的聚類它是個(gè)好的條件,但并不總是適合于分散在不連接的聚類中的Rn中的數(shù)據(jù)。
總而言之,在本高階主分量提取進(jìn)程中,無監(jiān)督二階橢球神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)了簽名的拓?fù)浣Y(jié)構(gòu)。所學(xué)的簽名的拓?fù)浣Y(jié)構(gòu)包括生物統(tǒng)計(jì)學(xué)和幾何特征。
D-分量積分-第一階段進(jìn)程在二階神經(jīng)元(高階主分量)學(xué)習(xí)R26中的數(shù)據(jù)向量的拓?fù)浣Y(jié)構(gòu)完成后,分量積分400開始。
再次把所有樣本簽名一個(gè)接一個(gè)地送至系統(tǒng)。該進(jìn)程使用這些簽名,并且為核實(shí)將來要比較的簽名中是否保留了幾何與生物統(tǒng)計(jì)學(xué)特征建立基礎(chǔ)。
二階橢球神經(jīng)元保持固定,同時(shí),對(duì)于每個(gè)簽名以及對(duì)于每個(gè)二階橢球神經(jīng)元學(xué)習(xí)兩個(gè)統(tǒng)計(jì)測(cè)量值,如下進(jìn)程學(xué)習(xí)橢球內(nèi)的向量數(shù)量與向量總數(shù)之間的比例r。它學(xué)習(xí)r的平均值以及r的標(biāo)準(zhǔn)偏差。關(guān)于樣值簽名的數(shù)量來計(jì)算r。這個(gè)計(jì)算r的進(jìn)程叫作短暫積聚。
第二進(jìn)程對(duì)橢球內(nèi)的所有向量的距離取平均值。距離是從橢球中心開始測(cè)量的。這里,讓s表示這個(gè)值,當(dāng)測(cè)試所有的樣本簽名時(shí),進(jìn)程學(xué)習(xí)s的平均值及其標(biāo)準(zhǔn)偏差。關(guān)于樣值簽名的數(shù)量來計(jì)算s。這個(gè)計(jì)算s的進(jìn)程叫作平均短暫積聚。然后把這些計(jì)算的值傳到常規(guī)的π神經(jīng)元430。
因此,簡(jiǎn)言之,由短暫積聚和平均短暫積聚來完成的數(shù)據(jù)積累被用作從大量向量中、不必從任何最佳聚類/氣泡中提取數(shù)據(jù)的方法。即使神經(jīng)元錯(cuò)過聚類的中心,短暫積聚和平均短暫積聚也是有用的。
E-分量積分-第二階段進(jìn)程然后把所有樣本簽名一個(gè)接一個(gè)地送至改進(jìn)的π-神經(jīng)元500以便用于下一步的分量積分。參照上一部分的最后一段,對(duì)于每個(gè)簽名和對(duì)于每個(gè)二階神經(jīng)元,計(jì)算兩個(gè)值。
A=(平均r-當(dāng)前簽名樣本r)2/(r的方差)B=(平均s-當(dāng)前簽名樣本s)2/(s的方差)每個(gè)橢球的輸出值為A*B的乘積,其中B-度量局部結(jié)構(gòu)偏差,而A-度量全程結(jié)構(gòu)偏差。
進(jìn)程把這些值作為獨(dú)立幾率處理。這是采用乘法的原因之一。另一個(gè)更基本的思想是A*B通常比A+B或者A或B更穩(wěn)定。這可以從實(shí)驗(yàn)中看出。
對(duì)于每個(gè)二階神經(jīng)元,結(jié)果A*B是最后的神經(jīng)元、改進(jìn)的π-神經(jīng)元500的輸入。它又是一個(gè)乘法神經(jīng)元。
讓我們把每個(gè)橢球的A*B的值表示成Xi,使得i=1,2,..k,其中k等于神經(jīng)元的數(shù)量。Xi值以降序排序,其中X0是最大值。神經(jīng)元開始將Xi相乘直至乘積小于1。如果沒有達(dá)到這種條件,則放棄該簽名。
記住滿足X0*X1*...*Xi<1的第一個(gè)i。改進(jìn)的π-神經(jīng)元500學(xué)習(xí)i的最大值。在最大i上加上1或2的值,由J表示新的i+1或者i+2的值。
當(dāng)系統(tǒng)比較新簽名時(shí),對(duì)Xi值排序并且計(jì)算直至下標(biāo)J的乘積。如果相乘的值大于1,則系統(tǒng)識(shí)別該簽名為假的。
按照本發(fā)明的改進(jìn)的π-神經(jīng)元背后的構(gòu)思包括(1)乘法是驗(yàn)證同時(shí)出現(xiàn)的簽名特征的方法(乘法類似于“與”算子)和(2)最好避免太多小值相乘,這可能導(dǎo)致錯(cuò)誤的驗(yàn)證。
乘法允許所檢測(cè)的簽名的特征有偏差,只要仍然有足夠的、只有擁有該簽名的人才有的特征。
改進(jìn)的π-神經(jīng)元的特征所需的Xi的數(shù)量,即二階神經(jīng)元的數(shù)量,取決于簽名的復(fù)雜性。例如,對(duì)于鼠標(biāo)實(shí)現(xiàn)的簽名,一般20個(gè)神經(jīng)元是足夠的。另一方面,對(duì)于經(jīng)數(shù)字化襯板發(fā)出的長簽名,32至40個(gè)神經(jīng)元更好。
過廣義化的估計(jì)在上述五個(gè)主要部分100、200、300、400和500之外,本發(fā)明最好還實(shí)現(xiàn)用于評(píng)估過廣義化的標(biāo)準(zhǔn)。過廣義化是其中所學(xué)簽名的不可重復(fù)性或過簡(jiǎn)單性可能導(dǎo)致系統(tǒng)把假簽名當(dāng)作真的來認(rèn)可的情況。通常,如果從例如簽名的7個(gè)字母中剔除1個(gè),系統(tǒng)仍會(huì)可靠地識(shí)別該簽名。通過改進(jìn)的π-神經(jīng)元中存在的補(bǔ)償處理,使得這種所需的系統(tǒng)特性是可能的。
如果在原始簽名中的太多變化仍被接受,則稱系統(tǒng)為過廣義化。由短暫積聚和短暫積聚神經(jīng)元學(xué)習(xí)的標(biāo)準(zhǔn)偏差,最好應(yīng)該具有與平均值相比較小的值。為確保不存在過廣義化,分量積分-第一階段400的一半的神經(jīng)元滿足下列條件就足夠平均值*平均值/方差>50(或其他預(yù)定義的閾值)在最佳實(shí)施例中,系統(tǒng)要求,(32*2=64中的)至少10個(gè)(短暫積聚和平均短暫積聚)神經(jīng)元滿足這樣的條件??梢詫?duì)于分量積分-第一階段的64個(gè)中的至少16到32個(gè)神經(jīng)元、實(shí)行更嚴(yán)格的要求。
重要的是要注意,本發(fā)明的系統(tǒng)實(shí)現(xiàn)了用于評(píng)估過廣義化的方便的特殊工具,這種工具、即使曾經(jīng)被結(jié)合到其他簽名識(shí)別系統(tǒng)中,也是很少的。實(shí)際上,這種工具的實(shí)現(xiàn)是分量積分進(jìn)程的結(jié)構(gòu)的直接結(jié)果。
消除過廣義化神經(jīng)元所用的標(biāo)準(zhǔn)如上所述,本發(fā)明的簽名核實(shí)系統(tǒng)最好使用以下條件以消除過廣義化的短暫積聚和平均短暫積聚神經(jīng)元平均值*平均值/方差>預(yù)定義的閾值。即,方差最好相對(duì)低一些。表1表示用不同的簽名訓(xùn)練了10次的神經(jīng)網(wǎng)絡(luò)的統(tǒng)計(jì)值。預(yù)期該網(wǎng)絡(luò)不含有信息。
表1
另一方面,與表2的用同一個(gè)人的10個(gè)重復(fù)簽名訓(xùn)練過的網(wǎng)絡(luò)的值對(duì)比,可以看出,神經(jīng)網(wǎng)絡(luò)表現(xiàn)出有意義的統(tǒng)計(jì)值。這個(gè)分析表明分量積分實(shí)現(xiàn)的統(tǒng)計(jì)學(xué)基礎(chǔ)。它還表明消除過廣義化神經(jīng)元所用的標(biāo)準(zhǔn)的合理性。
表2
本發(fā)明的系統(tǒng)具有兩種方式,一種用于更新神經(jīng)網(wǎng)絡(luò)權(quán)數(shù)(學(xué)習(xí)方式),一種用于將新簽名的特征與已學(xué)習(xí)的特征比較(比較方式)。
學(xué)習(xí)方式-階段1簽名抽樣-系統(tǒng)對(duì)簽名抽樣。
預(yù)定義進(jìn)程-系統(tǒng)將原始數(shù)據(jù)轉(zhuǎn)換成高維向量。
無監(jiān)督高階主分量提取-系統(tǒng)學(xué)習(xí)由在高維實(shí)數(shù)空間-Rn中的這些向量構(gòu)成的聚類。
學(xué)習(xí)方式-階段2簽名抽樣-系統(tǒng)對(duì)簽名抽樣。
預(yù)定義進(jìn)程-系統(tǒng)將原始數(shù)據(jù)轉(zhuǎn)換成高維向量。
無監(jiān)督高階主分量比較-這個(gè)過程不會(huì)更新橢球的主方向,它僅向下一層饋送。
分量積分-第一階段-學(xué)習(xí)s和r的平均值及其方差。
學(xué)習(xí)方式-階段3簽名抽樣-系統(tǒng)對(duì)簽名抽樣。
預(yù)定義進(jìn)程-系統(tǒng)將原始數(shù)據(jù)轉(zhuǎn)換成高維向量。
無監(jiān)督高階主分量比較-這個(gè)過程不會(huì)更新橢球的主方向,它僅向下一層饋送。
分量積分-第一階段-這一層計(jì)算A和B及其乘積。
分量積分-第二階段-改進(jìn)的π-神經(jīng)元學(xué)習(xí)下標(biāo)J。通過以上三個(gè)階段,學(xué)習(xí)進(jìn)程結(jié)束。
比較方式這種方式僅有如下一個(gè)階段簽名抽樣-系統(tǒng)對(duì)簽名抽樣。
預(yù)定義進(jìn)程-系統(tǒng)將原始數(shù)據(jù)轉(zhuǎn)換成高維向量。
無監(jiān)督高階主分量比較-這個(gè)過程不會(huì)更新橢球的主方向,它僅向下一層饋送。
分量積分-第一階段-這一層計(jì)算A和B及其乘積。
分量積分-第二階段-改進(jìn)的π-神經(jīng)元計(jì)算最多到且包括下標(biāo)J的A1*B1*A2*B2*...*AJ*BJ的乘積。相乘的剛好比最差的情況最大下標(biāo)高一個(gè)或兩個(gè)下標(biāo)數(shù)。
相乘的結(jié)果應(yīng)該小于1。如果它大于1,就意味著新比較的簽名與所學(xué)簽名不同。1與100之間的結(jié)果指明一個(gè)灰色范圍,后者通常意味著,存在一些類似,但不足以確定該簽名不是偽造的。當(dāng)然,所執(zhí)行的實(shí)際尺度或準(zhǔn)則取決于特定的需要。
由于所有上述內(nèi)容,容易看出,本簽名識(shí)別系統(tǒng)與先有技術(shù)的系統(tǒng)不同。具體來講,早期的預(yù)處理是由算法、而不是由神經(jīng)網(wǎng)絡(luò)來執(zhí)行的。之所以這樣做是為了減小存儲(chǔ)器和磁盤空間需要。另外,預(yù)處理實(shí)現(xiàn)分級(jí)圖標(biāo)縮放處理,以便轉(zhuǎn)換來自簽名抽樣子進(jìn)程的簽名原始數(shù)據(jù)。在可選擇的實(shí)施例中,如果生物統(tǒng)計(jì)學(xué)數(shù)據(jù)不可用,預(yù)處理由“什么/哪里”網(wǎng)絡(luò)來代替。在最佳實(shí)施例中,把簽名原始數(shù)據(jù)轉(zhuǎn)換成26維高階向量。
在本發(fā)明的神經(jīng)網(wǎng)絡(luò)方面還有重要的改進(jìn)。具體來講,(1)系統(tǒng)中數(shù)據(jù)存儲(chǔ)最好僅僅在自組織神經(jīng)網(wǎng)絡(luò)中。(2)在二階神經(jīng)元中使用訓(xùn)練/學(xué)習(xí)的幾何方法。不存在明確的對(duì)角化。沒有明確使用相關(guān)矩陣。由此,計(jì)算變得快得多。這是非常重要的,因?yàn)樽越M織神經(jīng)網(wǎng)絡(luò)通常需要許多迭代,因而是耗時(shí)的。(3)二階神經(jīng)元向一階神經(jīng)元的另一層饋送。這個(gè)概念與其中高階神經(jīng)元是最后的“公共汽車站”的模型相對(duì)立。(4)π神經(jīng)元用于分量積分階段。這在神經(jīng)網(wǎng)絡(luò)中并不十分常見,迄今在采用神經(jīng)網(wǎng)絡(luò)的簽名識(shí)別系統(tǒng)中是未知的。(5)所用的最后輸出π-神經(jīng)元不是普通的π-神經(jīng)元。它是將輸入值排序,然后計(jì)算直至“穩(wěn)定性下標(biāo)”的乘積的神經(jīng)元。(6)最終,本發(fā)明實(shí)現(xiàn)了協(xié)作無監(jiān)督神經(jīng)網(wǎng)絡(luò)。相反地,眾所周知的先有技術(shù)的簽名識(shí)別方案通常使用受監(jiān)視神經(jīng)網(wǎng)絡(luò)。
注意,可以或者在個(gè)人計(jì)算機(jī)或巨型計(jì)算機(jī)、或者其任何組合上充分地實(shí)施本發(fā)明。另外,這類計(jì)算機(jī)最好以常規(guī)方式連接到互聯(lián)網(wǎng)以方便在線事務(wù)。
盡管已經(jīng)參照最佳實(shí)施例描述本發(fā)明,但是本專業(yè)的技術(shù)人員應(yīng)該明白,只要不背離本發(fā)明的范圍,可以做各種變化并且可以用等效物來替代其各部分。例如,如前面提到的,可使用圓形/泡狀神經(jīng)元來代替橢圓形神經(jīng)元。另外,在不背離本發(fā)明的基本范圍的情況下,可以做出許多修改使特定的情況或材料適應(yīng)于本發(fā)明的原理。而且,可以使用與上面討論的實(shí)施例不同維數(shù)的向量和不同的迭代,以增加準(zhǔn)確性或者如系統(tǒng)要求所需要的那樣。因此,發(fā)明人的意圖在于,本發(fā)明不限于作為實(shí)現(xiàn)本發(fā)明的預(yù)期最佳方式而公開的特定實(shí)施例,而是本發(fā)明包括在所附的權(quán)利要求書范圍內(nèi)的所有實(shí)施例。
權(quán)利要求
1.一種識(shí)別簽名的方法,它包括以下步驟對(duì)簽名抽樣并且存儲(chǔ)代表所述簽名的數(shù)據(jù);把所述數(shù)據(jù)轉(zhuǎn)換成高維向量;把所述高維向量饋送到無監(jiān)督神經(jīng)網(wǎng)絡(luò)并且在所述高維向量上執(zhí)行高階主分量提取進(jìn)程,由此識(shí)別高維點(diǎn)的聚類;以及分析所述高維點(diǎn)的聚類以根據(jù)前面存儲(chǔ)的信息來確定所述簽名的真實(shí)性。
2.權(quán)利要求1的方法,其特征在于它還包括對(duì)所述簽名數(shù)字抽樣的步驟。
3.權(quán)利要求1的方法,其特征在于所述抽樣是通過鼠標(biāo)、壓敏襯板、數(shù)字圖形輸入板、指示筆和電子筆中的至少一個(gè)來實(shí)現(xiàn)的。
4.權(quán)利要求1的方法,其特征在于它還包括產(chǎn)生時(shí)間/位置對(duì)的列表。
5.權(quán)利要求3的方法,其特征在于它還包括對(duì)加在所述鼠標(biāo)、壓敏襯板、數(shù)字圖形輸入板、指示筆和電子筆中的所述至少一個(gè)上的壓力抽樣。
6.權(quán)利要求1的方法,其特征在于抽樣是以至少每秒約40個(gè)樣值的速率來進(jìn)行的。
7.權(quán)利要求1的方法,其特征在于所述轉(zhuǎn)換步驟包括遞歸縮放處理。
8.權(quán)利要求7的方法,其特征在于所述遞歸縮放處理包括迭代地聚焦于由更短的時(shí)間間隔確定的所述簽名的越來越小的特征上。
9.權(quán)利要求8的方法,其特征在于所述遞歸縮放處理包括12次迭代。
10.權(quán)利要求8的方法,其特征在于與每次迭代相關(guān)的時(shí)段是按照以下標(biāo)準(zhǔn)(a)在所述第一個(gè)迭代中檢驗(yàn)的所述時(shí)段是在簽名時(shí)間的50%至70%之間(2%的步長);(b)在第二至第十三個(gè)迭代中檢驗(yàn)的所述時(shí)段是在所述前一個(gè)迭代中檢驗(yàn)的所述時(shí)段的70%;以及(c)每個(gè)迭代中的所述時(shí)段或者在前一個(gè)迭代的所述時(shí)段的開頭、或者在其結(jié)尾,但不在中間。
11.權(quán)利要求7的方法,其特征在于所述遞歸處理持續(xù)不超過三秒鐘。
12.權(quán)利要求1的方法,其特征在于所述高階主分量提取進(jìn)程包括提取主橢球方向。
13.權(quán)利要求12的方法,其特征在于所述主橢球方向提取步驟是通過累積標(biāo)準(zhǔn)正交化來完成的。
14.權(quán)利要求12的方法,其特征在于防止神經(jīng)元增長到該神經(jīng)元把所有向量識(shí)別為屬于單個(gè)聚類的程度。
15.權(quán)利要求1的方法,其特征在于所述聚類是圓形或者氣泡狀的。
16.權(quán)利要求15的方法,其特征在于氣泡的半徑對(duì)應(yīng)于所述向量對(duì)于獲勝神經(jīng)元的距離的標(biāo)準(zhǔn)偏差。
17.權(quán)利要求1的方法,其特征在于它還包括,通過以下步驟產(chǎn)生所述信息提供多個(gè)樣本簽名;對(duì)于所述簽名中的每個(gè)實(shí)現(xiàn)所述抽樣、轉(zhuǎn)換和饋送步驟;對(duì)于所述簽名中的每個(gè)計(jì)算短暫積聚r和平均短暫積聚s;以及基于所述計(jì)算的r和s值,輸出全程簽名結(jié)構(gòu)偏差A(yù)的測(cè)量值和局部簽名結(jié)構(gòu)偏差B的測(cè)量值。
18.權(quán)利要求17的方法,其特征在于r是橢球內(nèi)的向量數(shù)量與向量總數(shù)之比并且s是所述橢球內(nèi)的所有向量的距離的平均值。
19.權(quán)利要求17的方法,其特征在于所述事先存儲(chǔ)的信息與所述簽名比較,以根據(jù)預(yù)定標(biāo)準(zhǔn)判斷其真實(shí)性。
20.權(quán)利要求17的方法,其特征在于它還包括把內(nèi)含的值A(chǔ)與B相乘并且確定所述乘積是否小于1。
21.權(quán)利要求20的方法,其特征在于它還包括在π-神經(jīng)元中執(zhí)行所述相乘步驟。
22.權(quán)利要求21的方法,其特征在于使用20至40個(gè)π-神經(jīng)元。
23.權(quán)利要求1的方法,其特征在于它還包括估計(jì)在所述神經(jīng)網(wǎng)絡(luò)中過廣義化的出現(xiàn)。
24.權(quán)利要求23的方法,其特征在于認(rèn)為過廣義化的條件出現(xiàn)在橢球內(nèi)的向量數(shù)與向量總數(shù)之比的平方(r2)與所述橢球內(nèi)所有向量的距離的平均值的平方(s2)分別除以所述r或s值的方差、所得結(jié)果中至少有一個(gè)大于預(yù)定閾值時(shí)。
25.一種電子學(xué)習(xí)簽名的方法,它包括以下步驟對(duì)簽名抽樣并且獲得其代表性的原始數(shù)據(jù);把所述原始數(shù)據(jù)轉(zhuǎn)換成高維向量;以及經(jīng)無監(jiān)督神經(jīng)網(wǎng)絡(luò)提取所述高維向量的高階主分量。
26.權(quán)利要求25的方法,其特征在于它還包括通過產(chǎn)生對(duì)應(yīng)于在橢球內(nèi)的向量數(shù)與向量總數(shù)之比的值r和對(duì)應(yīng)于所述橢球內(nèi)所有向量的距離的平均值的值s,將所述高階主分量積分。
27.權(quán)利要求26的方法,其特征在于它還包括計(jì)算值A(chǔ)=(平均r-當(dāng)前簽名樣本r)2/(r的方差)以及B=(平均s-當(dāng)前簽名樣本s)2/(s的方差);以及把所述值A(chǔ)和B相乘。
28.一種將簽名與事先存儲(chǔ)的所述簽名的表達(dá)相比較的方法,它包括步驟對(duì)簽名抽樣并且獲得其代表性的原始數(shù)據(jù);把所述原始數(shù)據(jù)轉(zhuǎn)換成高維向量;經(jīng)無監(jiān)督神經(jīng)網(wǎng)絡(luò)提取所述高維向量的高階主分量;通過產(chǎn)生對(duì)應(yīng)于在橢球內(nèi)的向量數(shù)與向量總數(shù)之比的值r和對(duì)應(yīng)于所述橢球內(nèi)所有向量的距離的平均值的值s,將所述高階主分量積分;通過計(jì)算值A(chǔ)=(平均r-當(dāng)前簽名樣本r)2/(r的方差)以及B=(平均s-當(dāng)前簽名樣本s)2/(s的方差)進(jìn)一步積分所述高階主分量;和把所述值A(chǔ)和B相乘以獲得A和B的乘積;以及根據(jù)所述乘積是否小于1判斷所述簽名是否與事先存儲(chǔ)的所述簽名的表達(dá)相同。
29.一種用于識(shí)別簽名的設(shè)備,包括用于對(duì)簽名抽樣并且存儲(chǔ)表示所述簽名的數(shù)據(jù)的抽樣裝置;與所述抽樣裝置的下游連接,用于把所述數(shù)據(jù)轉(zhuǎn)換成高維向量的轉(zhuǎn)換裝置;無監(jiān)督神經(jīng)網(wǎng)絡(luò),它用于接收所述高維向量,并且對(duì)所述高維向量執(zhí)行高階主分量提取進(jìn)程,由此識(shí)別高維點(diǎn)的聚類;以及連接到所述無監(jiān)督神經(jīng)網(wǎng)絡(luò)的分析裝置,它用于分析所述高維點(diǎn)的聚類以根據(jù)事先存儲(chǔ)的信息來判斷所述簽名的真實(shí)性。
30.權(quán)利要求29的設(shè)備,其特征在于所述抽樣裝置包括鼠標(biāo)、壓敏襯板、數(shù)字圖形輸入板、指示筆和電子筆中的至少一個(gè)。
31.權(quán)利要求29的設(shè)備,其特征在于它還包括π-神經(jīng)元,其中至少一個(gè)是乘法π-神經(jīng)元。
32.權(quán)利要求29的設(shè)備,其特征在于所述設(shè)備是結(jié)合在個(gè)人計(jì)算機(jī)中的。
33.權(quán)利要求32的設(shè)備,其特征在于所述個(gè)人計(jì)算機(jī)是連接到互聯(lián)網(wǎng)的。
34.權(quán)利要求29的設(shè)備,其特征在于提供所述簽名作為用于法律事務(wù)、經(jīng)濟(jì)事務(wù)和生物統(tǒng)計(jì)學(xué)核實(shí)中的至少一個(gè)的識(shí)別信息。
全文摘要
一種識(shí)別簽名的方法包括以下步驟:對(duì)簽名抽樣并且存儲(chǔ)表示該簽名的數(shù)據(jù),把數(shù)據(jù)轉(zhuǎn)換成高維向量,把高維向量饋送到無監(jiān)督神經(jīng)網(wǎng)絡(luò),在高維向量上執(zhí)行高階主分量提取進(jìn)程以由此識(shí)別高維點(diǎn)的聚類,以及分析高維點(diǎn)的聚類,以根據(jù)事先存儲(chǔ)的信息來判斷所述簽名的真實(shí)性。還有一種用于這種識(shí)別的裝置包括:用于對(duì)簽名抽樣并且存儲(chǔ)表示簽名的數(shù)據(jù)的抽樣裝置,與所述抽樣裝置的下游連接,用于把所述數(shù)據(jù)轉(zhuǎn)換成高維向量的轉(zhuǎn)換裝置,用于接收高維向量,并且對(duì)高維向量執(zhí)行高階主分量提取進(jìn)程,由此識(shí)別高維點(diǎn)的聚類的無監(jiān)督神經(jīng)網(wǎng)絡(luò),以及連接到無監(jiān)督神經(jīng)網(wǎng)絡(luò),用于分析高維點(diǎn)的聚類以判斷簽名的真實(shí)性的分析裝置。
文檔編號(hào)G06K9/00GK1371504SQ00809351
公開日2002年9月25日 申請(qǐng)日期2000年1月13日 優(yōu)先權(quán)日1999年1月13日
發(fā)明者E·蘇查爾德, Y·安維 申請(qǐng)人:電腦相關(guān)想象公司