本發(fā)明涉及基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法,屬于自然語(yǔ)言處理
技術(shù)領(lǐng)域:
。
背景技術(shù):
:在越南語(yǔ)信息處理研究領(lǐng)域,當(dāng)前在詞法和雙語(yǔ)對(duì)齊方法等方面都取得了一些成果,但在依存句法分析和依存樹(shù)庫(kù)構(gòu)建等方面的工作還很少。隨著統(tǒng)計(jì)學(xué)習(xí)的迅速發(fā)展,目前采用統(tǒng)計(jì)學(xué)習(xí)來(lái)研究語(yǔ)言信息處理已成為主流。其中,Lai等人在2001年基于span的思想通過(guò)統(tǒng)計(jì)學(xué)習(xí)的方法解決了漢語(yǔ)依存分析的問(wèn)題;Yamada等人在2003年將PennTreebank中的英文句子完全轉(zhuǎn)換為依存結(jié)構(gòu),然后通過(guò)統(tǒng)計(jì)學(xué)習(xí)的方法對(duì)句子進(jìn)行建模分析,獲得了90.3%的準(zhǔn)確率;馬金山在2004年通過(guò)有標(biāo)記的漢語(yǔ)依存樹(shù)庫(kù)構(gòu)建了SVM依存句法分析模型,實(shí)現(xiàn)了漢語(yǔ)依存句法分析。以上這些方法分析依存關(guān)系主要依靠依存樹(shù)庫(kù)資源通過(guò)有監(jiān)督學(xué)習(xí)來(lái)實(shí)現(xiàn)。P.T.Nguyen等人在2013年將PennTreebank中的1萬(wàn)句短語(yǔ)樹(shù)轉(zhuǎn)換為依存樹(shù),但它的規(guī)模還相對(duì)較小。由于依存句法分析的基礎(chǔ)是依存樹(shù)庫(kù)的建設(shè),但依存樹(shù)庫(kù)的標(biāo)記工作比較困難,而且當(dāng)前還沒(méi)有比較成熟的依存句法分析器。對(duì)越南語(yǔ)依存樹(shù)庫(kù)構(gòu)建來(lái)說(shuō),通過(guò)人工標(biāo)記是非常困難的,這需要耗費(fèi)大量的人力物力;而且在實(shí)際情況中存在大量的無(wú)標(biāo)記粗語(yǔ)料,這些語(yǔ)料未經(jīng)過(guò)任何加工處理。因此,如何有效利用這些語(yǔ)料來(lái)構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)是當(dāng)前越南語(yǔ)依存句法分析的一個(gè)重要問(wèn)題。技術(shù)實(shí)現(xiàn)要素:本發(fā)明提供了基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法,以用于解決越南語(yǔ)句子依存關(guān)系標(biāo)記困難的問(wèn)題,以及以用于有效利用大量無(wú)標(biāo)記越南語(yǔ)句子級(jí)語(yǔ)料進(jìn)行樹(shù)庫(kù)建設(shè),能夠解決因初始訓(xùn)練語(yǔ)料規(guī)模較小給樹(shù)庫(kù)建設(shè)帶來(lái)的困難;以用于有效避免人工標(biāo)記越南語(yǔ)句子依存關(guān)系的繁瑣過(guò)程,充分節(jié)省了人力物力的時(shí)間;以用于有效提高越南語(yǔ)依存分析的準(zhǔn)確率;以用于對(duì)越南語(yǔ)的句法分析、機(jī)器翻譯和信息獲取等上層應(yīng)用提供有力支撐。本發(fā)明的技術(shù)方案是:基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法,所述基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法的具體步驟如下:Step1、首先構(gòu)建初始訓(xùn)練語(yǔ)料、擴(kuò)展語(yǔ)料和測(cè)試語(yǔ)料;Step2、然后利用構(gòu)建的初始訓(xùn)練語(yǔ)料基于改進(jìn)的Nivre算法訓(xùn)練出兩個(gè)依存分析弱學(xué)習(xí)器S1和S2作為兩個(gè)充分冗余的視圖;因?yàn)镹ivre模型為數(shù)據(jù)驅(qū)動(dòng)模型,這樣可以將其中一個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果作為另一個(gè)弱學(xué)習(xí)器的訓(xùn)練語(yǔ)料來(lái)促進(jìn)兩個(gè)弱學(xué)習(xí)器的相互學(xué)習(xí),以此來(lái)提高訓(xùn)練模型的質(zhì)量,從而能達(dá)到兩個(gè)模型相互學(xué)習(xí)的目的。Step3、再利用訓(xùn)練出的兩個(gè)弱學(xué)習(xí)器S1和S2對(duì)擴(kuò)展語(yǔ)料進(jìn)行依存分析并構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型;Step4、最后利用構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)模型對(duì)測(cè)試語(yǔ)料進(jìn)行依存分析測(cè)試并最終構(gòu)建出越南語(yǔ)依存樹(shù)庫(kù)。因?yàn)樵侥险Z(yǔ)句子的依存關(guān)系標(biāo)記比較困難,需要耗費(fèi)大量的人力物力,而且利用其它方法構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)的規(guī)模比較小,所以本發(fā)明利用改進(jìn)的Nivre算法解決了越南語(yǔ)句子依存關(guān)系標(biāo)記困難的問(wèn)題,從而構(gòu)建出大規(guī)模的越南語(yǔ)依存樹(shù)庫(kù)。作為本發(fā)明的優(yōu)選方案,所述步驟Step1的具體步驟為:Step1.1、首先利用爬蟲(chóng)程序從越南之聲廣播電臺(tái)爬取若干新聞粗語(yǔ)料,得到越南語(yǔ)文本級(jí)語(yǔ)料樣本。這些新聞覆蓋了政治、經(jīng)濟(jì)、軍事、體育、娛樂(lè)等各方面,確保了實(shí)驗(yàn)數(shù)據(jù)的多樣性。因?yàn)檎Z(yǔ)料是自然語(yǔ)言處理研究領(lǐng)域一個(gè)非常重要的概念,語(yǔ)料既是標(biāo)記的對(duì)象,又是實(shí)驗(yàn)的對(duì)象,所以語(yǔ)料的選擇對(duì)樹(shù)庫(kù)構(gòu)建十分重要;Step1.2、然后人工對(duì)Step1.1得到的越南語(yǔ)文本級(jí)語(yǔ)料樣本進(jìn)行反復(fù)加工處理,得到3萬(wàn)個(gè)標(biāo)準(zhǔn)的越南語(yǔ)句子,從而形成越南語(yǔ)句子級(jí)語(yǔ)料樣本。因?yàn)橹苯訌脑侥现晱V播電臺(tái)爬取的新聞粗語(yǔ)料是文本級(jí)的語(yǔ)料樣本,不利于本文的實(shí)驗(yàn),所以要人工對(duì)它們進(jìn)行反復(fù)加工處理,包括去重、去除垃圾廣告等處理,最后形成句子級(jí)的語(yǔ)料樣本,便于本文的實(shí)驗(yàn);Step1.3、其次通過(guò)分析越南語(yǔ)語(yǔ)法,制定出符合越南語(yǔ)語(yǔ)言特點(diǎn)的14種依存關(guān)系標(biāo)記規(guī)范表,如表1所示;該依存關(guān)系標(biāo)記規(guī)范表包含兩個(gè)內(nèi)容:一是在一個(gè)越南語(yǔ)句子中,哪些詞語(yǔ)之間會(huì)存在依存關(guān)系;二是如何定義它們的依存關(guān)系類型;表1越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表優(yōu)選地,所述步驟Step1.3制定越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表的具體步驟如下:Step1.3.1、首先從語(yǔ)義角度出發(fā)。在一個(gè)句子中,語(yǔ)義層面上存在某種聯(lián)系的詞語(yǔ)之間應(yīng)該存在依存關(guān)系;也就是說(shuō),詞語(yǔ)之間產(chǎn)生依存關(guān)系才能促使新語(yǔ)義的產(chǎn)生,本發(fā)明稱之為語(yǔ)義原則。在進(jìn)行依存關(guān)系標(biāo)注時(shí),語(yǔ)義原則應(yīng)優(yōu)先考慮。如圖2所示,越南語(yǔ)句子“l(fā)à(她)(是)xinh(美麗的)gái(女孩)”。其中:(是)和gái(女孩)這兩個(gè)詞產(chǎn)生關(guān)系才能構(gòu)成新的語(yǔ)義,所以兩詞之間存在依存關(guān)系。Step1.3.2、其次在一個(gè)句子中,一些詞語(yǔ)對(duì)句子意思的表達(dá)起主導(dǎo)作用,在句子中不可或缺,屬主要的詞;而有些詞語(yǔ)在句子中起輔助作用,只起到修飾主干成分的作用,即使去掉也不會(huì)影響整體語(yǔ)義的表達(dá),屬次要的詞。在對(duì)依存關(guān)系進(jìn)行標(biāo)注時(shí),應(yīng)盡量保證主干詞在依存關(guān)系中處于核心位置,其它修飾詞應(yīng)依存于這些核心詞,本發(fā)明稱之為主干原則。這樣在后續(xù)應(yīng)用中,通過(guò)依存關(guān)系便可提取到句子的主干。越南語(yǔ)依存句法分析主要以謂語(yǔ)為主導(dǎo),分析其他詞與謂語(yǔ)動(dòng)詞之間的關(guān)系。Step1.3.3、最后則是定義它們的依存關(guān)系類型,即構(gòu)建依存關(guān)系規(guī)范表。為了能夠更好地覆蓋多種語(yǔ)法現(xiàn)象,而又不至于因關(guān)系類型過(guò)多導(dǎo)致標(biāo)注困難和數(shù)據(jù)稀疏等問(wèn)題。經(jīng)分析,本發(fā)明制定出符合越南語(yǔ)語(yǔ)言特點(diǎn)的14種依存關(guān)系規(guī)范,如表1所示。Step1.4、然后利用Step1.3中得到的越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表將Step1.2中得到的一部分越南語(yǔ)句子級(jí)語(yǔ)料樣本人工地進(jìn)行越南語(yǔ)依存關(guān)系標(biāo)記,并進(jìn)行反復(fù)校對(duì),得到初始訓(xùn)練語(yǔ)料和測(cè)試語(yǔ)料,將剩下的一部分未標(biāo)記的越南語(yǔ)句子級(jí)語(yǔ)料樣本用作實(shí)驗(yàn)擴(kuò)展語(yǔ)料;Step1.5、最后進(jìn)行特征的選?。贿x取當(dāng)前詞W0、其前一個(gè)詞W-1、前兩個(gè)詞W-2、后一個(gè)詞W1、后兩個(gè)詞W2,以及當(dāng)前詞的詞性POS0、其前一個(gè)詞的詞性POS-1、前兩個(gè)詞的詞性POS-2、后一個(gè)詞的詞性POS1、后兩個(gè)詞的詞性POS2作為特征。特征選取如表2所示。因?yàn)榻?jīng)過(guò)對(duì)越南語(yǔ)的研究發(fā)現(xiàn),其結(jié)構(gòu)相對(duì)比較單一,所以這種特征選取方式充分結(jié)合了越南語(yǔ)的語(yǔ)言特點(diǎn),對(duì)越南語(yǔ)語(yǔ)言特點(diǎn)的覆蓋性較好,因?yàn)樗诰邆淞艘话阈缘耐瑫r(shí)有效地避免了由于選取特征過(guò)多而帶來(lái)的數(shù)據(jù)稀疏問(wèn)題。表2特征選取表1Wn不同位置的詞,n=-2,-1,0,1,22POSn不同位置的詞性,n=-2,-l,0,l,2優(yōu)選地,所述步驟Step2用到的改進(jìn)的Nivre算法的具體說(shuō)明如下:Nivre算法是基于狀態(tài)轉(zhuǎn)移過(guò)程進(jìn)行依存分析的。該算法通過(guò)訓(xùn)練獲得依存分析模型,該模型根據(jù)輸入的句子和以往決策中的特征,結(jié)合當(dāng)前的狀態(tài)來(lái)預(yù)測(cè)下一個(gè)狀態(tài)。在句法分析階段,分析器從一個(gè)原始的狀態(tài)開(kāi)始,根據(jù)模型的預(yù)測(cè)集貪婪地向其后續(xù)狀態(tài)轉(zhuǎn)移,直至達(dá)到終止?fàn)顟B(tài)才停止。確定性的Nivre算法對(duì)Reduce操作和Shift操作的劃分不十分準(zhǔn)確。針對(duì)這個(gè)問(wèn)題,本發(fā)明提出一種改進(jìn)的確定性的Nivre算法。在Nivre算法中,解析器可以表示成一個(gè)三元組<S,I,A>,其中S和I是堆棧,I中是待解析的輸入序列,A是一個(gè)集合,存放在解析過(guò)程中確定下來(lái)的依存關(guān)系項(xiàng)。假設(shè)給定一個(gè)輸入序列Sen,解析器首先被初始化成解析器解析棧S的棧頂元素t和棧I的棧頂元素n的依存關(guān)系,然后采取相應(yīng)的動(dòng)作,操作棧中的元素移動(dòng)和算法迭代直至棧I為空。此時(shí),解析器停止迭代,輸出集合A中的依存關(guān)系序列。Nivre算法一共定義了4個(gè)操作:(1)Right。在當(dāng)前三元組<t|S,n|I,A>中,假如存在依存關(guān)系t→n,即t依存于n,則在集合A中添加項(xiàng)(t→n),同時(shí)彈出S的棧頂元素t,于是三元組變?yōu)?lt;S,n|I,A∪{(t→n)}>。(2)Left。在當(dāng)前三元組<t|S,n|I,A>中,假如存在依存關(guān)系n→t,則在集合A中添加項(xiàng)(n→t),同時(shí)把元素n壓入到棧S中,于是三元組變成為<n|t|S,I,A∪{(n→t)}>。如果n和t不存在依存關(guān)系,改進(jìn)的Nivre算法對(duì)Reduce操作和Shift操作做了明確的定義。(3)Reduce。假如兩棧頂元素n和t不存在依存關(guān)系,t有父節(jié)點(diǎn)在其左側(cè),并且該父節(jié)點(diǎn)與n存在依存關(guān)系,解析器從棧S中彈出t,于是三元組變成為<S,n|I,A>。(4)Shift。當(dāng)Right,Left,Reduce操作條件都不滿足時(shí),將n壓入棧S中,于是三元組變成<n|t|S,I,A>。作為本發(fā)明的優(yōu)選方案,所述步驟Step3的具體步驟為:Step3.1、首先從Step1得到的擴(kuò)展語(yǔ)料中隨機(jī)抽取少量越南語(yǔ)句子作為集合A和集合B,再分別用Step2訓(xùn)練得到的兩個(gè)弱學(xué)習(xí)器S1和S2對(duì)集合A和集合B中的越南語(yǔ)句子進(jìn)行依存預(yù)測(cè);Step3.2、然后從擴(kuò)展語(yǔ)料中選取100個(gè)未標(biāo)記的越南語(yǔ)句子為一個(gè)單位,先用弱學(xué)習(xí)器S1對(duì)這100個(gè)句子進(jìn)行預(yù)測(cè),然后采用公式1挑選出20個(gè)置信度高的句子進(jìn)行標(biāo)記,接著再把這些已標(biāo)記過(guò)的句子加入到弱學(xué)習(xí)器S2中訓(xùn)練更新;H1=1Σi=1k-1Σj=i+1k(scorei-scorej)---(1)]]>其中,H1為K-Best結(jié)果中任意兩個(gè)不同結(jié)果的分值差的和的倒數(shù),scorei和scorej是弱學(xué)習(xí)器S1對(duì)第i個(gè)和第j個(gè)句子預(yù)測(cè)結(jié)果的得分;Step3.3、其次再繼續(xù)以新的100個(gè)未標(biāo)記的越南語(yǔ)句子為一個(gè)單位,用弱學(xué)習(xí)器S2進(jìn)行預(yù)測(cè),再根據(jù)公式1從中挑選出20個(gè)置信度高的句子進(jìn)行標(biāo)記,接著再將這20個(gè)已標(biāo)記過(guò)的句子加入到弱學(xué)習(xí)器S1中訓(xùn)練更新;Step3.4、如此反復(fù)循環(huán)Step3.2和Step3.3,直到弱學(xué)習(xí)器S1和弱學(xué)習(xí)器S2的參數(shù)不變?yōu)橹?,即待?gòu)建的越南語(yǔ)依存樹(shù)庫(kù)模型的參數(shù)收斂為止;Step3.5、再利用兩個(gè)弱學(xué)習(xí)器對(duì)Step1得到的擴(kuò)展語(yǔ)料進(jìn)行依存分析并構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型;作為本發(fā)明的優(yōu)選方案,所述步驟Step3.5中,兩個(gè)弱學(xué)習(xí)器需要對(duì)擴(kuò)展語(yǔ)料中的句子進(jìn)行預(yù)測(cè),進(jìn)而得到句子相應(yīng)的預(yù)測(cè)結(jié)果,因?yàn)轭A(yù)測(cè)結(jié)果是否一致是判斷依存分析結(jié)果是否正確的前提;其求取預(yù)測(cè)結(jié)果的具體步驟如下所示:在構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型的過(guò)程中,若兩個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果一致,則認(rèn)為依存分析的結(jié)果是正確的;若結(jié)果不一致,則用公式2和公式3來(lái)計(jì)算置信度;H2=score2score1-score2(2)]]>H3=Σi=1k-pilogpi---(3)]]>其中,公式2中:score1表示弱學(xué)習(xí)器對(duì)第1個(gè)句子預(yù)測(cè)結(jié)果的得分,score2表示弱學(xué)習(xí)器對(duì)第2個(gè)句子預(yù)測(cè)結(jié)果的得分,H2表示K-Best置信度判別方法中score1相對(duì)于score2的增長(zhǎng)率的倒數(shù);公式3中:表示scorei相對(duì)于k個(gè)句子預(yù)測(cè)結(jié)果得分總和的比值;其中,scorei表示弱學(xué)習(xí)器對(duì)第i個(gè)句子預(yù)測(cè)結(jié)果的得分,scorej表示弱學(xué)習(xí)器對(duì)第j個(gè)句子預(yù)測(cè)結(jié)果的得分,k表示句子的個(gè)數(shù),H3表示k個(gè)結(jié)果的熵;Step3.6、最后用公式1、公式2和公式3分別對(duì)兩個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果打取平均分,并選取分值較高的作為正確的預(yù)測(cè)結(jié)果。具體的,在對(duì)未標(biāo)記越南語(yǔ)句子的預(yù)測(cè)過(guò)程中,置信度的判別方式尤為重要。因?yàn)槿鯇W(xué)習(xí)器在對(duì)句子進(jìn)行預(yù)測(cè)的時(shí)候,預(yù)測(cè)結(jié)果會(huì)出現(xiàn)不一致的情況,這時(shí)就需要進(jìn)行置信度的計(jì)算,從而反映出預(yù)測(cè)結(jié)果的可信程度;置信度越高,說(shuō)明預(yù)測(cè)結(jié)果越準(zhǔn)確;反之,置信度越低,說(shuō)明預(yù)測(cè)結(jié)果越不準(zhǔn)確。為了度量預(yù)測(cè)結(jié)果,本發(fā)明采用K-Best方法來(lái)判斷預(yù)測(cè)結(jié)果的置信度:即若句子預(yù)測(cè)結(jié)果的K個(gè)權(quán)重分值越接近,就說(shuō)明結(jié)果越容易混淆,置信度就越低;若預(yù)測(cè)結(jié)果的權(quán)重分值差異越大,則認(rèn)為預(yù)測(cè)結(jié)果較為準(zhǔn)確,進(jìn)而選擇權(quán)重分值最高的結(jié)果作為待標(biāo)記越南語(yǔ)句子的標(biāo)記結(jié)果。本發(fā)明采用以下三種方式來(lái)計(jì)算置信度:方式一K-Best結(jié)果中任意兩個(gè)不同結(jié)果的分值差的和的倒數(shù):H=1Σi=1k-1Σj=i+1k(scorei-scorej)---(1)]]>其中scorei和scorej是弱學(xué)習(xí)器對(duì)第i個(gè)和第j個(gè)句子預(yù)測(cè)結(jié)果的得分。方式二K-Best結(jié)果中1-Best相對(duì)于2-Best的增長(zhǎng)率的倒數(shù):H=score2score1-score2---(2)]]>方式三取K個(gè)結(jié)果的熵:H=Σi=1k-pilogpi---(3)]]>其中,方式一和方式二說(shuō)明學(xué)習(xí)器預(yù)測(cè)結(jié)果的差異越大,置信度越高;方式三則是通過(guò)熵的大小來(lái)判斷置信度的大小。本發(fā)明的有益效果是:1.本發(fā)明構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)能夠?qū)υ侥险Z(yǔ)的句法分析、機(jī)器翻譯和信息獲取等上層應(yīng)用提供有力支撐;依存樹(shù)庫(kù)的構(gòu)建是這些上層應(yīng)用的基礎(chǔ)。2.本發(fā)明提出的構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法有效避免了人工標(biāo)記越南語(yǔ)句子依存關(guān)系的繁瑣過(guò)程,充分節(jié)省了人力物力的時(shí)間;3.由于實(shí)際情況中存在大量的越南語(yǔ)無(wú)標(biāo)記句子級(jí)語(yǔ)料,本發(fā)明提出的構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法能夠有效利用這些大量無(wú)標(biāo)記的越南語(yǔ)句子級(jí)語(yǔ)料進(jìn)行樹(shù)庫(kù)建設(shè),解決了因初始訓(xùn)練語(yǔ)料規(guī)模較小給樹(shù)庫(kù)建設(shè)帶來(lái)的困難。4.本發(fā)明具有更好的依存關(guān)系標(biāo)記效果,并具有穩(wěn)定的解析性能,有效地提高了越南語(yǔ)依存分析的準(zhǔn)確率。附圖說(shuō)明圖1為本發(fā)明中的流程圖;圖2為本發(fā)明中依存樹(shù)庫(kù)實(shí)例圖。具體實(shí)施方式實(shí)施例1:如圖1-2所示,基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法,所述基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法的具體步驟如下:所述基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法的具體步驟如下:Step1、首先構(gòu)建初始訓(xùn)練語(yǔ)料、擴(kuò)展語(yǔ)料和測(cè)試語(yǔ)料;Step2、然后利用構(gòu)建的初始訓(xùn)練語(yǔ)料基于改進(jìn)的Nivre算法訓(xùn)練出兩個(gè)依存分析弱學(xué)習(xí)器S1和S2作為兩個(gè)充分冗余的視圖;Step3、再利用訓(xùn)練出的兩個(gè)弱學(xué)習(xí)器S1和S2對(duì)擴(kuò)展語(yǔ)料進(jìn)行依存分析并構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型;Step4、最后利用構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)模型對(duì)測(cè)試語(yǔ)料進(jìn)行依存分析測(cè)試并最終構(gòu)建出越南語(yǔ)依存樹(shù)庫(kù)。作為本發(fā)明的優(yōu)選方案,所述步驟Step1的具體步驟為:Step1.1、首先利用爬蟲(chóng)程序爬取若干新聞粗語(yǔ)料,得到越南語(yǔ)文本級(jí)語(yǔ)料樣本;Step1.2、然后人工對(duì)Step1.1得到的越南語(yǔ)文本級(jí)語(yǔ)料樣本進(jìn)行反復(fù)加工處理,得到標(biāo)準(zhǔn)的越南語(yǔ)句子,從而形成越南語(yǔ)句子級(jí)語(yǔ)料樣本;Step1.3、其次通過(guò)分析越南語(yǔ)語(yǔ)法,制定出符合越南語(yǔ)語(yǔ)言特點(diǎn)的14種依存關(guān)系標(biāo)記規(guī)范表,該依存關(guān)系標(biāo)記規(guī)范表包含兩個(gè)內(nèi)容:一是在一個(gè)越南語(yǔ)句子中,哪些詞語(yǔ)之間會(huì)存在依存關(guān)系;二是如何定義它們的依存關(guān)系類型;Step1.4、然后利用Step1.3中得到的越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表將Step1.2中得到的一部分越南語(yǔ)句子級(jí)語(yǔ)料樣本人工地進(jìn)行越南語(yǔ)依存關(guān)系標(biāo)記,并進(jìn)行反復(fù)校對(duì),得到初始訓(xùn)練語(yǔ)料和測(cè)試語(yǔ)料,將剩下的一部分未標(biāo)記的越南語(yǔ)句子級(jí)語(yǔ)料樣本用作實(shí)驗(yàn)擴(kuò)展語(yǔ)料;Step1.5、最后進(jìn)行特征的選取;選取當(dāng)前詞W0、其前一個(gè)詞W-1、前兩個(gè)詞W-2、后一個(gè)詞W1、后兩個(gè)詞W2,以及當(dāng)前詞的詞性POS0、其前一個(gè)詞的詞性POS-1、前兩個(gè)詞的詞性POS-2、后一個(gè)詞的詞性POS1、后兩個(gè)詞的詞性POS2作為特征。作為本發(fā)明的優(yōu)選方案,所述步驟Step3的具體步驟為:Step3.1、首先從Step1得到的擴(kuò)展語(yǔ)料中隨機(jī)抽取少量越南語(yǔ)句子作為集合A和集合B,再分別用Step2訓(xùn)練得到的兩個(gè)弱學(xué)習(xí)器S1和S2對(duì)集合A和集合B中的越南語(yǔ)句子進(jìn)行依存預(yù)測(cè);Step3.2、然后從擴(kuò)展語(yǔ)料中選取100個(gè)未標(biāo)記的越南語(yǔ)句子為一個(gè)單位,先用弱學(xué)習(xí)器S1對(duì)這100個(gè)句子進(jìn)行預(yù)測(cè),然后采用公式1挑選出20個(gè)置信度高的句子進(jìn)行標(biāo)記,接著再把這些已標(biāo)記過(guò)的句子加入到弱學(xué)習(xí)器S2中訓(xùn)練更新;H1=1Σi=1k-1Σj=i+1k(scorei-scorej)---(1)]]>其中,H1為K-Best結(jié)果中任意兩個(gè)不同結(jié)果的分值差的和的倒數(shù),scorei和scorej是弱學(xué)習(xí)器S1對(duì)第i個(gè)和第j個(gè)句子預(yù)測(cè)結(jié)果的得分;Step3.3、其次再繼續(xù)以新的100個(gè)未標(biāo)記的越南語(yǔ)句子為一個(gè)單位,用弱學(xué)習(xí)器S2進(jìn)行預(yù)測(cè),再根據(jù)公式1從中挑選出20個(gè)置信度高的句子進(jìn)行標(biāo)記,接著再將這20個(gè)已標(biāo)記過(guò)的句子加入到弱學(xué)習(xí)器S1中訓(xùn)練更新;Step3.4、如此反復(fù)循環(huán)Step3.2和Step3.3,直到弱學(xué)習(xí)器S1和弱學(xué)習(xí)器S2的參數(shù)不變?yōu)橹?,即待?gòu)建的越南語(yǔ)依存樹(shù)庫(kù)模型的參數(shù)收斂為止;Step3.5、再利用兩個(gè)弱學(xué)習(xí)器對(duì)Step1得到的擴(kuò)展語(yǔ)料進(jìn)行依存分析并構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型;作為本發(fā)明的優(yōu)選方案,所述步驟Step3.5中,兩個(gè)弱學(xué)習(xí)器需要對(duì)擴(kuò)展語(yǔ)料中的句子進(jìn)行預(yù)測(cè),進(jìn)而得到句子相應(yīng)的預(yù)測(cè)結(jié)果,因?yàn)轭A(yù)測(cè)結(jié)果是否一致是判斷依存分析結(jié)果是否正確的前提;其求取預(yù)測(cè)結(jié)果的具體步驟如下所示:在構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型的過(guò)程中,若兩個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果一致,則認(rèn)為依存分析的結(jié)果是正確的;若結(jié)果不一致,則用公式2和公式3來(lái)計(jì)算置信度;H2=score2score1-score2---(2)]]>H3=Σi=1k-pilogpi---(3)]]>其中,公式2中:score1表示弱學(xué)習(xí)器對(duì)第1個(gè)句子預(yù)測(cè)結(jié)果的得分,score2表示弱學(xué)習(xí)器對(duì)第2個(gè)句子預(yù)測(cè)結(jié)果的得分,H2表示K-Best置信度判別方法中score1相對(duì)于score2的增長(zhǎng)率的倒數(shù);公式3中:表示scorei相對(duì)于k個(gè)句子預(yù)測(cè)結(jié)果得分總和的比值;其中,scorei表示弱學(xué)習(xí)器對(duì)第i個(gè)句子預(yù)測(cè)結(jié)果的得分,scorej表示弱學(xué)習(xí)器對(duì)第j個(gè)句子預(yù)測(cè)結(jié)果的得分,k表示句子的個(gè)數(shù),H3表示k個(gè)結(jié)果的熵;Step3.6、最后用公式1、公式2和公式3分別對(duì)兩個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果打取平均分,并選取分值較高的作為正確的預(yù)測(cè)結(jié)果。實(shí)施例2:如圖1-2所示,基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法,所述基于改進(jìn)的Nivre算法構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)的方法的具體步驟如下:Step1、首先構(gòu)建初始訓(xùn)練語(yǔ)料、擴(kuò)展語(yǔ)料和測(cè)試語(yǔ)料;作為本發(fā)明的優(yōu)選方案,所述步驟Step1的具體步驟為:Step1.1、首先利用爬蟲(chóng)程序從越南之聲廣播電臺(tái)爬取若干新聞粗語(yǔ)料,得到越南語(yǔ)文本級(jí)語(yǔ)料樣本。這些新聞覆蓋了政治、經(jīng)濟(jì)、軍事、體育、娛樂(lè)等各方面,確保了實(shí)驗(yàn)數(shù)據(jù)的多樣性。因?yàn)檎Z(yǔ)料是自然語(yǔ)言處理研究領(lǐng)域一個(gè)非常重要的概念,語(yǔ)料既是標(biāo)記的對(duì)象,又是實(shí)驗(yàn)的對(duì)象,所以語(yǔ)料的選擇對(duì)樹(shù)庫(kù)構(gòu)建十分重要;Step1.2、然后人工對(duì)Step1.1得到的越南語(yǔ)文本級(jí)語(yǔ)料樣本進(jìn)行反復(fù)加工處理,得到3萬(wàn)個(gè)標(biāo)準(zhǔn)的越南語(yǔ)句子,從而形成越南語(yǔ)句子級(jí)語(yǔ)料樣本。因?yàn)橹苯訌脑侥现晱V播電臺(tái)爬取的新聞粗語(yǔ)料是文本級(jí)的語(yǔ)料樣本,不利于本文的實(shí)驗(yàn),所以要人工對(duì)它們進(jìn)行反復(fù)加工處理,包括去重、去除垃圾廣告等處理,最后形成句子級(jí)的語(yǔ)料樣本,便于本文的實(shí)驗(yàn);Step1.3、其次通過(guò)分析越南語(yǔ)語(yǔ)法,制定出符合越南語(yǔ)語(yǔ)言特點(diǎn)的14種依存關(guān)系標(biāo)記規(guī)范表,如表1所示;該依存關(guān)系標(biāo)記規(guī)范表包含兩個(gè)內(nèi)容:一是在一個(gè)越南語(yǔ)句子中,哪些詞語(yǔ)之間會(huì)存在依存關(guān)系;二是如何定義它們的依存關(guān)系類型;表1越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表優(yōu)選地,所述步驟Step1.3制定越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表的具體步驟如下:Step1.3.1、首先從語(yǔ)義角度出發(fā)。在一個(gè)句子中,語(yǔ)義層面上存在某種聯(lián)系的詞語(yǔ)之間應(yīng)該存在依存關(guān)系;也就是說(shuō),詞語(yǔ)之間產(chǎn)生依存關(guān)系才能促使新語(yǔ)義的產(chǎn)生,本發(fā)明稱之為語(yǔ)義原則。在進(jìn)行依存關(guān)系標(biāo)注時(shí),語(yǔ)義原則應(yīng)優(yōu)先考慮。如圖2所示,越南語(yǔ)句子“l(fā)à(她)(是)xinh(美麗的)gái(女孩)”。其中:(是)和gái(女孩)這兩個(gè)詞產(chǎn)生關(guān)系才能構(gòu)成新的語(yǔ)義,所以兩詞之間存在依存關(guān)系。Step1.3.2、其次在一個(gè)句子中,一些詞語(yǔ)對(duì)句子意思的表達(dá)起主導(dǎo)作用,在句子中不可或缺,屬主要的詞;而有些詞語(yǔ)在句子中起輔助作用,只起到修飾主干成分的作用,即使去掉也不會(huì)影響整體語(yǔ)義的表達(dá),屬次要的詞。在對(duì)依存關(guān)系進(jìn)行標(biāo)注時(shí),應(yīng)盡量保證主干詞在依存關(guān)系中處于核心位置,其它修飾詞應(yīng)依存于這些核心詞,本發(fā)明稱之為主干原則。這樣在后續(xù)應(yīng)用中,通過(guò)依存關(guān)系便可提取到句子的主干。越南語(yǔ)依存句法分析主要以謂語(yǔ)為主導(dǎo),分析其他詞與謂語(yǔ)動(dòng)詞之間的關(guān)系。Step1.3.3、最后則是定義它們的依存關(guān)系類型,即構(gòu)建依存關(guān)系規(guī)范表。為了能夠更好地覆蓋多種語(yǔ)法現(xiàn)象,而又不至于因關(guān)系類型過(guò)多導(dǎo)致標(biāo)注困難和數(shù)據(jù)稀疏等問(wèn)題。經(jīng)分析,本發(fā)明制定出符合越南語(yǔ)語(yǔ)言特點(diǎn)的14種依存關(guān)系規(guī)范,如表1所示。Step1.4、然后利用Step1.3中得到的越南語(yǔ)依存關(guān)系標(biāo)記規(guī)范表將Step1.2中得到的越南語(yǔ)句子級(jí)語(yǔ)料樣本中的5000個(gè)越南語(yǔ)句子人工地進(jìn)行越南語(yǔ)依存關(guān)系標(biāo)記,并進(jìn)行反復(fù)校對(duì),得到初始訓(xùn)練語(yǔ)料和測(cè)試語(yǔ)料,它們都是一個(gè)小規(guī)模的越南語(yǔ)依存樹(shù)庫(kù),且均包含了2500個(gè)已標(biāo)記過(guò)的越南語(yǔ)句子。將剩下的25000個(gè)未標(biāo)記的越南語(yǔ)句子用作實(shí)驗(yàn)擴(kuò)展語(yǔ)料;Step1.5、最后進(jìn)行特征的選??;選取當(dāng)前詞W0、其前一個(gè)詞W-1、前兩個(gè)詞W-2、后一個(gè)詞W1、后兩個(gè)詞W2,以及當(dāng)前詞的詞性POS0、其前一個(gè)詞的詞性POS-1、前兩個(gè)詞的詞性POS-2、后一個(gè)詞的詞性POS1、后兩個(gè)詞的詞性POS2作為特征。特征選取如表2所示。因?yàn)榻?jīng)過(guò)對(duì)越南語(yǔ)的研究發(fā)現(xiàn),其結(jié)構(gòu)相對(duì)比較單一,所以這種特征選取方式充分結(jié)合了越南語(yǔ)的語(yǔ)言特點(diǎn),對(duì)越南語(yǔ)語(yǔ)言特點(diǎn)的覆蓋性較好,因?yàn)樗诰邆淞艘话阈缘耐瑫r(shí)有效地避免了由于選取特征過(guò)多而帶來(lái)的數(shù)據(jù)稀疏問(wèn)題。表2特征選取表1Wn不同位置的詞,n=-2,-1,0,1,22POSn不同位置的詞性,n=-2,-l,0,l,2Step2、然后利用構(gòu)建的初始訓(xùn)練語(yǔ)料所包含的2500個(gè)越南語(yǔ)句子并基于改進(jìn)的Nivre算法訓(xùn)練出兩個(gè)依存分析弱學(xué)習(xí)器S1和S2作為兩個(gè)充分冗余的視圖;因?yàn)镹ivre模型為數(shù)據(jù)驅(qū)動(dòng)模型,這樣可以將其中一個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果作為另一個(gè)弱學(xué)習(xí)器的訓(xùn)練語(yǔ)料來(lái)促進(jìn)兩個(gè)弱學(xué)習(xí)器的相互學(xué)習(xí),以此來(lái)提高訓(xùn)練模型的質(zhì)量,從而能達(dá)到兩個(gè)模型相互學(xué)習(xí)的目的。優(yōu)選地,所述步驟Step2用到的改進(jìn)的Nivre算法的具體說(shuō)明如下:Nivre算法是基于狀態(tài)轉(zhuǎn)移過(guò)程進(jìn)行依存分析的。該算法通過(guò)訓(xùn)練獲得依存分析模型,該模型根據(jù)輸入的句子和以往決策中的特征,結(jié)合當(dāng)前的狀態(tài)來(lái)預(yù)測(cè)下一個(gè)狀態(tài)。在句法分析階段,分析器從一個(gè)原始的狀態(tài)開(kāi)始,根據(jù)模型的預(yù)測(cè)集貪婪地向其后續(xù)狀態(tài)轉(zhuǎn)移,直至達(dá)到終止?fàn)顟B(tài)才停止。確定性的Nivre算法對(duì)Reduce操作和Shift操作的劃分不十分準(zhǔn)確。針對(duì)這個(gè)問(wèn)題,本發(fā)明提出一種改進(jìn)的Nivre算法。在改進(jìn)的Nivre算法中,解析器可以表示成一個(gè)三元組<S,I,A>,其中S和I是堆棧,I中是待解析的輸入序列,A是一個(gè)集合,存放在解析過(guò)程中確定下來(lái)的依存關(guān)系項(xiàng)。假設(shè)給定一個(gè)輸入序列Sen,解析器首先被初始化成解析器解析棧S的棧頂元素t和棧I的棧頂元素n的依存關(guān)系,然后采取相應(yīng)的動(dòng)作,操作棧中的元素移動(dòng)和算法迭代直至棧I為空。此時(shí),解析器停止迭代,輸出集合A中的依存關(guān)系序列。Nivre算法一共定義了4個(gè)操作:(1)Right。在當(dāng)前三元組<t|S,n|I,A>中,假如存在依存關(guān)系t→n,即t依存于n,則在集合A中添加項(xiàng)(t→n),同時(shí)彈出S的棧頂元素t,于是三元組變?yōu)?lt;S,n|I,A∪{(t→n)}>。(2)Left。在當(dāng)前三元組<t|S,n|I,A>中,假如存在依存關(guān)系n→t,則在集合A中添加項(xiàng)(n→t),同時(shí)把元素n壓入到棧S中,于是三元組變成為<n|t|S,I,A∪{(n→t)}>。如果n和t不存在依存關(guān)系,改進(jìn)的Nivre算法對(duì)Reduce操作和Shift操作做了明確的定義。(3)Reduce。假如兩棧頂元素n和t不存在依存關(guān)系,t有父節(jié)點(diǎn)在其左側(cè),并且該父節(jié)點(diǎn)與n存在依存關(guān)系,解析器從棧S中彈出t,于是三元組變成為<S,n|I,A>。(4)Shift。當(dāng)Right,Left,Reduce操作條件都不滿足時(shí),將n壓入棧S中,于是三元組變成<n|t|S,I,A>。Step3、再利用訓(xùn)練出的兩個(gè)弱學(xué)習(xí)器S1和S2對(duì)擴(kuò)展語(yǔ)料所包含的25000個(gè)越南語(yǔ)句子進(jìn)行依存分析并構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型;作為本發(fā)明的優(yōu)選方案,所述步驟Step3的具體步驟為:Step3.1、首先從Step1得到的擴(kuò)展語(yǔ)料中隨機(jī)抽取少量越南語(yǔ)句子作為集合A和集合B,再分別用Step2訓(xùn)練得到的兩個(gè)弱學(xué)習(xí)器S1和S2對(duì)集合A和集合B中的越南語(yǔ)句子進(jìn)行依存預(yù)測(cè);Step3.2、然后從擴(kuò)展語(yǔ)料中選取100個(gè)未標(biāo)記的越南語(yǔ)句子為一個(gè)單位,先用弱學(xué)習(xí)器S1對(duì)這100個(gè)句子進(jìn)行預(yù)測(cè),然后采用公式1挑選出20個(gè)置信度高的句子進(jìn)行標(biāo)記,接著再把這些已標(biāo)記過(guò)的句子加入到弱學(xué)習(xí)器S2中訓(xùn)練更新;H1=1Σi=1k-1Σj=i+1k(scorei-scorej)---(1)]]>其中,H1為K-Best結(jié)果中任意兩個(gè)不同結(jié)果的分值差的和的倒數(shù),scorei和scorej是弱學(xué)習(xí)器S1對(duì)第i個(gè)和第j個(gè)句子預(yù)測(cè)結(jié)果的得分;Step3.3、其次再繼續(xù)以新的100個(gè)未標(biāo)記的越南語(yǔ)句子為一個(gè)單位,用弱學(xué)習(xí)器S2進(jìn)行預(yù)測(cè),再根據(jù)公式1從中挑選出20個(gè)置信度高的句子進(jìn)行標(biāo)記,接著再將這20個(gè)已標(biāo)記過(guò)的句子加入到弱學(xué)習(xí)器S1中訓(xùn)練更新;Step3.4、如此反復(fù)循環(huán)Step3.2和Step3.3,直到弱學(xué)習(xí)器S1和弱學(xué)習(xí)器S2的參數(shù)不變?yōu)橹?,即待?gòu)建的越南語(yǔ)依存樹(shù)庫(kù)模型的參數(shù)收斂為止;Step3.5、再利用兩個(gè)弱學(xué)習(xí)器對(duì)Step1得到的擴(kuò)展語(yǔ)料所包含的25000個(gè)越南語(yǔ)句子進(jìn)行依存分析并構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型;作為本發(fā)明的優(yōu)選方案,所述步驟Step3.5中,兩個(gè)弱學(xué)習(xí)器需要對(duì)擴(kuò)展語(yǔ)料中的句子進(jìn)行預(yù)測(cè),進(jìn)而得到句子相應(yīng)的預(yù)測(cè)結(jié)果,因?yàn)轭A(yù)測(cè)結(jié)果是否一致是判斷依存分析結(jié)果是否正確的前提;其求取預(yù)測(cè)結(jié)果的具體步驟如下所示:在構(gòu)建越南語(yǔ)依存樹(shù)庫(kù)模型的過(guò)程中,若兩個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果一致,則認(rèn)為依存分析的結(jié)果是正確的;若結(jié)果不一致,則用公式2和公式3來(lái)計(jì)算置信度;H2=score2score1-score2---(2)]]>H3=Σi=1k-pilogpi---(3)]]>其中,公式2中:score1表示弱學(xué)習(xí)器對(duì)第1個(gè)句子預(yù)測(cè)結(jié)果的得分,score2表示弱學(xué)習(xí)器對(duì)第2個(gè)句子預(yù)測(cè)結(jié)果的得分,H2表示K-Best置信度判別方法中score1相對(duì)于score2的增長(zhǎng)率的倒數(shù);公式3中:表示scorei相對(duì)于k個(gè)句子預(yù)測(cè)結(jié)果得分總和的比值;其中,scorei表示弱學(xué)習(xí)器對(duì)第i個(gè)句子預(yù)測(cè)結(jié)果的得分,scorej表示弱學(xué)習(xí)器對(duì)第j個(gè)句子預(yù)測(cè)結(jié)果的得分,k表示句子的個(gè)數(shù),H3表示k個(gè)結(jié)果的熵;Step3.6、最后用公式1、公式2和公式3分別對(duì)兩個(gè)弱學(xué)習(xí)器的預(yù)測(cè)結(jié)果打取平均分,并選取分值較高的作為正確的預(yù)測(cè)結(jié)果。Step4、最后利用構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)模型對(duì)測(cè)試語(yǔ)料所包含的2500個(gè)越南語(yǔ)句子進(jìn)行依存分析測(cè)試并最終構(gòu)建出越南語(yǔ)依存樹(shù)庫(kù)。因?yàn)樵侥险Z(yǔ)句子的依存關(guān)系標(biāo)記比較困難,需要耗費(fèi)大量的人力物力,而且利用其它方法構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)的規(guī)模比較小,所以本發(fā)明利用改進(jìn)的Nivre算法解決了越南語(yǔ)句子依存關(guān)系標(biāo)記困難的問(wèn)題,從而構(gòu)建出大規(guī)模的越南語(yǔ)依存樹(shù)庫(kù)。實(shí)驗(yàn)中,本發(fā)明把依存弧準(zhǔn)確率(UnlabeledAttachmentScore,UAS)、標(biāo)識(shí)準(zhǔn)確率(LabeledAttachmentScore,LAS)和根節(jié)點(diǎn)準(zhǔn)確率(RootAccuracy,RA)作為整句依存句法分析的評(píng)測(cè)指標(biāo)。它們的定義如下:為了驗(yàn)證基于改進(jìn)的Nivre算法能夠有效利用大量無(wú)標(biāo)記的越南語(yǔ)句子級(jí)語(yǔ)料,提高依存分析的準(zhǔn)確率,本發(fā)明將其與不同的學(xué)習(xí)算法進(jìn)行了比較,實(shí)驗(yàn)結(jié)果如表3所示。表3實(shí)驗(yàn)結(jié)果對(duì)比表實(shí)驗(yàn)結(jié)果表明:基于改進(jìn)的Nivre算法構(gòu)建的越南語(yǔ)依存樹(shù)庫(kù)在UAS、LAS和RA方面的準(zhǔn)確率比其它算法要高,而確定性的Nivre算法是基于狀態(tài)轉(zhuǎn)移過(guò)程進(jìn)行訓(xùn)練,依存分析時(shí)搜索局部最優(yōu)轉(zhuǎn)移狀態(tài)直至整句解析結(jié)束,因此具有局部性和貪婪性,這是其準(zhǔn)確率低的原因。而本發(fā)明基于改進(jìn)的Nivre算法將一個(gè)模型的分析結(jié)果作為另一個(gè)模型的輸入,當(dāng)兩個(gè)模型的分析正確率相差不大時(shí),改進(jìn)的Nivre算法顯著提高了原來(lái)確定性Nivre算法在UAS、LAS和RA方面的準(zhǔn)確率。上面結(jié)合附圖對(duì)本發(fā)明的具體實(shí)施方式作了詳細(xì)說(shuō)明,但是本發(fā)明并不限于上述實(shí)施方式,在本領(lǐng)域普通技術(shù)人員所具備的知識(shí)范圍內(nèi),還可以在不脫離本發(fā)明宗旨的前提下作出各種變化。當(dāng)前第1頁(yè)1 2 3