本發(fā)明涉及一種并行粒子群算法，尤其適用于機器學(xué)習(xí)模型訓(xùn)練使用的基于spark的支持向量機參數(shù)優(yōu)選并行粒子群尋優(yōu)方法。

背景技術(shù)：

支持向量機是一種機器學(xué)習(xí)方法。首先通過對訓(xùn)練數(shù)據(jù)集交叉驗證得到最優(yōu)模型參數(shù)，然后利用上一步尋到的最優(yōu)模型參數(shù)去訓(xùn)練得到預(yù)測模型，最后用訓(xùn)練得到的預(yù)測模型對未知數(shù)據(jù)進行預(yù)測。

網(wǎng)格算法對參數(shù)尋優(yōu)早已實現(xiàn)，網(wǎng)格算法具有局部最優(yōu)的局限性，而粒子群算法的全局尋優(yōu)能力則很好的解決了局部最優(yōu)問題。粒子群算法是一種模仿鳥群覓食的生物進化算法，相比基于貪婪搜索的算法，可更快速地找到更優(yōu)的參數(shù)。pso涉及多次迭代，計算較復(fù)雜，單機實現(xiàn)時間較長。特別在數(shù)據(jù)量較大、迭代次數(shù)很多的情形下，pso單機算法效率往往難以被接受。解決pso單機算法效率低下的最好方法就是算法并行化。

技術(shù)實現(xiàn)要素：

本發(fā)明的目的是針對上述技術(shù)的不足之處，提出一種粒子參數(shù)尋優(yōu)過程運行速度快，粒子群算法尋找全局最優(yōu)準確迅速的基于spark的支持向量機參數(shù)優(yōu)選并行粒子群算法。

為實現(xiàn)上述技術(shù)目的，本發(fā)明的基于spark的支持向量機參數(shù)優(yōu)選并行粒子群算法，包括如下步驟：

初始化節(jié)點粒子群中所有的節(jié)點粒子，并將節(jié)點粒子的初始化信息轉(zhuǎn)化成rdd的形式存儲于數(shù)據(jù)庫中；

在rdd中針對不同地址坐標參數(shù)的節(jié)點粒子分別并行的做交叉驗證，節(jié)點粒子映射為交叉驗證的正確率、粒子的個體極值，并將rdd中的這些映射結(jié)果緩存到服務(wù)器內(nèi)存中，以方便下一次計算時被再次調(diào)用；

利用rdd中所有節(jié)點粒子的個體極值找到全局極值；

根據(jù)全局極值在各個rdd中更新節(jié)點粒子；

判斷該全局極值是否達到目標正確率或迭代次數(shù)達到上限，達到就退出尋優(yōu)過程，否則重復(fù)對節(jié)點粒子分別并行的做交叉驗證。

具體步驟如下：

步驟1、利用spark集群平臺的固有定義函數(shù)api的轉(zhuǎn)換操作符map函數(shù)，對預(yù)設(shè)的所有主節(jié)點和從節(jié)點中的節(jié)點粒子進行初始化，從而獲得基于spark的支持向量機的n個節(jié)點粒子的初始化信息包括速度、位置、個體極值、全局極值信息，并將n個節(jié)點粒子的初始化信息轉(zhuǎn)化成彈性分布式數(shù)據(jù)集rdd的形式保存在數(shù)據(jù)庫中；

步驟2、在數(shù)據(jù)庫中彈性分布式數(shù)據(jù)集rdd中調(diào)用spark集群平臺的固有定義函數(shù)api的轉(zhuǎn)換操作符map函數(shù)，獲取彈性分布式數(shù)據(jù)集rdd中各個節(jié)點粒子的坐標參數(shù)組<c,g>：將帶有不同坐標參數(shù)組<c,g>的節(jié)點粒子同時并行進行交叉驗證，從而獲取各個節(jié)點粒子通過map函數(shù)映射為交叉驗證的正確率、節(jié)點粒子的個體極值，將各個節(jié)點粒子的交叉驗證結(jié)果以相互獨立的方式保存在彈性分布式數(shù)據(jù)集rdd中，使每個粒子都被映射成獨立的新的彈性分布式數(shù)據(jù)集rdd中；

步驟3：利用集群中所有節(jié)點粒子的個體極大值中找到全局極大值；

步驟4：利用集群中節(jié)點粒子全局極大值，在彈性分布式數(shù)據(jù)集rdd中更新每個節(jié)點粒子的位置與速度；

步驟5：判斷當(dāng)前全局極值是否達到預(yù)設(shè)的目標正確率或當(dāng)前迭代次數(shù)達到預(yù)設(shè)上限，當(dāng)滿足任意條件則退出尋優(yōu)過程，完成整個尋優(yōu)方法，輸出最后一次的全局極值，否則返回步驟2。

所述所有不同的節(jié)點粒子的坐標參數(shù)組<c,g>，經(jīng)過map函數(shù)映射后，參數(shù)c映射為節(jié)點粒子x軸方向的位置，參數(shù)g映射為節(jié)點粒子y軸方向的位置，初始化粒子在x軸方向的速度和在y軸方向上的速度，將不同的節(jié)點粒子的坐標參數(shù)組<x,y>緩存到內(nèi)存中去，以便下一次計算時被調(diào)用。

利用map函數(shù)將步驟1的所有粒子映射結(jié)果再次進行交叉驗證得到每個粒子的正確率及粒子的個體極值，并將新的映射結(jié)果緩存到內(nèi)存中方便下一次調(diào)用。

在rdd的個體極值找到全局極值的方法為：利用reduce函數(shù)對步驟2的映射結(jié)果歸納出與n個節(jié)點粒子對應(yīng)的n個個體極值中的最大值，若該最大值大于全局極值，則更新全局極值為最大值，否則全局極值不變。

根據(jù)全局極值更新節(jié)點粒子的方法為：利用map函數(shù)對步驟3的映射結(jié)果映射為更新后粒子的x軸方向的速度和位置，以及y軸方向的速度和位置。

有益效果：

本方法相對于原來的串行粒子群算法，基于spark并行平臺采用的并行粒子群算法使參數(shù)尋優(yōu)過程顯著加快：

1)基于spark并行平臺生成n個節(jié)點粒子，節(jié)點粒子初始化以rdd的形式并行完成的，所有數(shù)據(jù)和信息均相對獨立的以rdd的形式并行執(zhí)行，相比現(xiàn)有的串行執(zhí)行方式運行速度快，執(zhí)行效率高；

2)在rdd中并行完成對n個節(jié)點粒子的交叉驗證，使用map函數(shù)將每個節(jié)點粒子都被映射成新的數(shù)據(jù)集rdd中并行，新生成的rdd中記錄轉(zhuǎn)換的相關(guān)信息，執(zhí)行效率高，可靠性高；

3)在rdd中并行找出n個節(jié)點粒子的個體極值和共有的全局極值，只要再將交叉驗證的結(jié)果調(diào)用reduce方法，會產(chǎn)生新的鍵值對并對新的鍵值對進行歸納，逐個比較即可得到全局最優(yōu)值；

4)以rdd形式對n個節(jié)點粒子并行更新，將n個節(jié)點粒子的更新任務(wù)分配到不同的任務(wù)執(zhí)行器上，一般是根據(jù)主節(jié)點和從節(jié)點的核數(shù)目來分配任務(wù)，因此集群的節(jié)點數(shù)越多，任務(wù)并行計算的速度就越快；

b相比網(wǎng)格算法的局部最優(yōu)限制，粒子群算法可以更快、更好地找到全局最優(yōu)：

網(wǎng)格算法用于參數(shù)尋優(yōu)原理簡單，方便實現(xiàn)，但隨著數(shù)據(jù)集的增大，網(wǎng)格算法的結(jié)果往往需要人為提前設(shè)置好基準參數(shù)c和g，這就需要根據(jù)以往的大量經(jīng)驗來設(shè)置，無形中提高了很大難度且效果往往不理想。

粒子群算法只是在開始時候初始化c和g，在后續(xù)迭代過程中每個粒子會自由的在解空間移動，顯著增加隨機性，大大擴展了搜索范圍，更容易達到全局最優(yōu)。

附圖說明

圖1為本發(fā)明基于spark的支持向量機參數(shù)優(yōu)選并行粒子群算法整體流程圖。

圖2為本發(fā)明基于并行粒子群算法的交叉驗證及搜尋個體極值示例圖。

圖3為本發(fā)明基于并行粒子群算法的交叉驗證流程圖。

圖4為本發(fā)明基于并行粒子群算法的全局極值尋優(yōu)過程示例圖。

圖5為本發(fā)明基于并行粒子群算法的40個粒子迭代更新示例圖。

圖6為本發(fā)明并行化網(wǎng)格算法和并行化粒子群算法性能比較圖。

具體實施方式

下面結(jié)合附圖對本申請的一個實施例做進一步說明：

本發(fā)明的基于spark的支持向量機參數(shù)優(yōu)選并行粒子群尋優(yōu)方法，包括如下步驟：

初始化節(jié)點粒子群中所有的節(jié)點粒子，并將節(jié)點粒子的初始化信息轉(zhuǎn)化成rdd的形式存儲于數(shù)據(jù)庫中；

在rdd中針對不同地址坐標參數(shù)的節(jié)點粒子分別并行的做交叉驗證，節(jié)點粒子映射為交叉驗證的正確率、粒子的個體極值，并將rdd中的這些映射結(jié)果緩存到服務(wù)器內(nèi)存中，以方便下一次計算時被再次調(diào)用；

利用rdd中所有節(jié)點粒子的個體極值找到全局極值；

根據(jù)全局極值在各個rdd中更新節(jié)點粒子；

判斷該全局極值是否達到目標正確率或迭代次數(shù)達到上限，達到就退出尋優(yōu)過程，否則重復(fù)對節(jié)點粒子分別并行的做交叉驗證。

具體步驟如下：

步驟1、利用spark集群平臺的固有定義函數(shù)api的轉(zhuǎn)換操作符map函數(shù)，對預(yù)設(shè)的所有主節(jié)點和從節(jié)點中的節(jié)點粒子進行初始化，從而獲得基于spark的支持向量機的n個節(jié)點粒子的初始化信息包括速度、位置、個體極值、全局極值信息，并將n個節(jié)點粒子的初始化信息轉(zhuǎn)化成彈性分布式數(shù)據(jù)集rdd的形式保存在數(shù)據(jù)庫中；

步驟2、在數(shù)據(jù)庫中彈性分布式數(shù)據(jù)集rdd中調(diào)用spark集群平臺的固有定義函數(shù)api的轉(zhuǎn)換操作符map函數(shù)，獲取彈性分布式數(shù)據(jù)集rdd中各個節(jié)點粒子的坐標參數(shù)組<c,g>；所述所有不同的節(jié)點粒子的坐標參數(shù)組<c,g>，經(jīng)過map函數(shù)映射后，參數(shù)c映射為節(jié)點粒子x軸方向的位置，參數(shù)g映射為節(jié)點粒子y軸方向的位置，初始化粒子在x軸方向的速度和在y軸方向上的速度，將不同的節(jié)點粒子的坐標參數(shù)組<x,y>緩存到內(nèi)存中去，以便下一次計算時被調(diào)用；

將帶有不同坐標參數(shù)組<x,y>的節(jié)點粒子同時并行進行交叉驗證，從而獲取各個節(jié)點粒子通過map函數(shù)映射為交叉驗證的正確率、節(jié)點粒子的個體極值，將各個節(jié)點粒子的交叉驗證結(jié)果以相互獨立的方式保存在彈性分布式數(shù)據(jù)集rdd中，使每個粒子都被映射成獨立的新的彈性分布式數(shù)據(jù)集rdd中，并將新的映射結(jié)果緩存到內(nèi)存中方便下一次調(diào)用。

步驟3：利用集群中所有節(jié)點粒子的個體極大值中找到全局極大值；在rdd的個體極值找到全局極值的方法為：利用reduce函數(shù)對步驟2的映射結(jié)果歸納出與n個節(jié)點粒子對應(yīng)的n個個體極值中的最大值，若該最大值大于全局極值，則更新全局極值為最大值，否則全局極值不變；

步驟4：利用集群中節(jié)點粒子全局極大值，在彈性分布式數(shù)據(jù)集rdd中更新每個節(jié)點粒子的位置與速度；根據(jù)全局極值更新節(jié)點粒子的方法為：利用map函數(shù)對步驟3的映射結(jié)果映射為更新后粒子的x軸方向的速度和位置，以及y軸方向的速度和位置；

步驟5：判斷當(dāng)前全局極值是否達到預(yù)設(shè)的目標正確率或當(dāng)前迭代次數(shù)達到預(yù)設(shè)上限，當(dāng)滿足任意條件則退出尋優(yōu)過程，完成整個尋優(yōu)方法，輸出最后一次的全局極值，否則返回步驟2。

實施例

用粒子群算法進行參數(shù)尋優(yōu)的流程圖見附圖1。該方法下的尋優(yōu)過程有：首先對40個粒子初始化；再交叉驗證；然后選出全局極值；最后更新粒子這4個步驟。從粒子群算法參數(shù)尋優(yōu)開始直到尋優(yōu)結(jié)束，這期間對40個粒子的全局極值的計算可能不止一次，因此對40個粒子的并行化速度和位置更新也可能不止一次。所以會出現(xiàn)多次迭代計算。附圖1中的全局極值(前)指粒子每次更新迭代運算前的全局極值，全局極值(后)指每次粒子更新迭代運算后的全局極值。根據(jù)他們之間的大小關(guān)系，這兩者的更新原則為：若粒子在某次更新迭代運算后全局極值(后)不大于全局極值(前)，則全局極值(前)不改變(即全局極值不更新)否則全局極值(后)的值賦給全局極值(前)，附圖1中的參數(shù)end_flag指在某次粒子更新迭代運算后全局極值未被更新的次數(shù)，當(dāng)全局極值未被更新次數(shù)達40次時，默認找到最優(yōu)的全局極值，結(jié)束尋優(yōu)過程。

該方法下的參數(shù)尋優(yōu)過程分為以下幾個步驟：

1對40個粒子初始化。

n個節(jié)點粒子的初始化是以rdd形式并行完成的。每個粒子的位置、速度、個體極值以及所有粒子共有的全局極值都被轉(zhuǎn)換為rdd的形式。而原來的串行執(zhí)行將會使代碼冗長，運行速度也慢的多。

參數(shù)c取值為2^-5,2^-4,2^-3...2¹⁴，這20個值放入其中一個數(shù)組。參數(shù)g取值為2^-15,2^-14,2^-13...2⁴這20個值放入另一個數(shù)組。然后申請一個數(shù)組用來存放40個粒子的相關(guān)信息(位置和速度)。每個粒子的坐標x都被第一個數(shù)組(放置參數(shù)c的數(shù)組)中的元素隨機初始化，每個粒子的坐標y都被第二個數(shù)組，(放置參數(shù)g的數(shù)組)中的元素隨機初始化。在40個粒子的位置(x,y)隨機初始化的同時對每個粒子的飛行速度進行初始化。x坐標位移速度vx統(tǒng)一取2.0，y坐標位移速度vy統(tǒng)一取0.02。40個粒子的初始信息被4個任務(wù)執(zhí)行器平均轉(zhuǎn)換成rdd的形式見附圖2，附圖2的前半部分是以rdd形式呈現(xiàn)的對40個粒子初始化的過程。而附圖2的后半部分內(nèi)容將在接下來的交叉驗證的步驟中詳細提到。

2交叉驗證

在rdd中調(diào)用轉(zhuǎn)換操作符的map(本專利中spark的api均用斜體表示)函數(shù)，將帶有不同c,g參數(shù)的粒子分別并行的做交叉驗證，粒子通過map函數(shù)映射為交叉驗證的正確率、粒子的個體極值，并將rdd中的這些映射結(jié)果緩存到內(nèi)存中，以方便下一次計算時被再次調(diào)用。

對40個粒子分別做交叉驗證得到其適應(yīng)值，再由適應(yīng)值選出40個粒子各自對應(yīng)的個體極值。每一個粒子都要做交叉驗證。交叉驗證的過程如下

見附圖3，訓(xùn)練數(shù)據(jù)集被均分為編號為1、2、3、4、5的5份數(shù)據(jù)。從k＝1開始,數(shù)據(jù)集k以外的其他4個數(shù)據(jù)集被當(dāng)作訓(xùn)練數(shù)據(jù)集，用來訓(xùn)練得到模型，數(shù)據(jù)集k作測試數(shù)據(jù)集被用于測試。用4份訓(xùn)練數(shù)據(jù)集訓(xùn)練得到的模型對剩下的1份測試數(shù)據(jù)集進行測試，得到正確率acck。隨著參數(shù)k每次增1，訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集都在這5份數(shù)據(jù)集中輪換直到k＝6停止。就這樣循環(huán)輪流交叉驗證了5次。5份數(shù)據(jù)集，每一份都作過測試數(shù)據(jù)集，而且每一份都作過訓(xùn)練數(shù)據(jù)集。得到的總的正確率acci就是每個粒子(ci,gi)所對應(yīng)的適應(yīng)值。從粒子的適應(yīng)值acci中找到個體極值的過程見附圖2，附圖2的后半部分中，如果粒子的適應(yīng)值acci大于已有的個體極值personali，則將粒子的適應(yīng)值acci賦給個體極值，否則已有的個體極值personali不更新。這樣便保證了personali是每次迭代運算后的個體極值。每個獨一無二的個體極值personali僅代表粒子i在每次迭代搜索結(jié)果中的最優(yōu)。當(dāng)然，所對應(yīng)的參數(shù)(ci,gi)并不一定是我們要找的最優(yōu)的參數(shù)，還需要和別的粒子(粒子i以外的粒子)的交叉驗證結(jié)果比較，也就是下一個步驟：選出全局極值。

3選出全局極值

見附圖4，對附圖3中的結(jié)果(個體極值personali)調(diào)用reduce方法，在reduce中歸納匯總得到個體極值personali中的最大值，若該最大值比全局極值public大，則用此最大值賦值給原來的全局極值public，否則全局極值不變。

在每次迭代運算后都要把全局極值public當(dāng)做判斷是否繼續(xù)尋優(yōu)的條件之一。若全局極值public達到目標正確率，則退出尋優(yōu)過程，否則進行下一步的更新粒子。下面詳細介紹粒子的更新過程。

4更新粒子

對n個節(jié)點粒子的更新也是rdd中并行進行的。根據(jù)粒子更新的規(guī)律在map函數(shù)中產(chǎn)生新的映射關(guān)系，等待遇到動作操作指令就會執(zhí)行計算。n個節(jié)點粒子的更新的任務(wù)分配到不同的任務(wù)執(zhí)行器上，一般根據(jù)主節(jié)點和從節(jié)點的核數(shù)目來分配計算任務(wù)，因此集群的節(jié)點數(shù)越多，集成并發(fā)度高。

見附圖5，其中w是慣性權(quán)重，w從1到0.2均勻遞減，每迭代一次遞減一次。對vx、vy、x、y的更新法則如下。其中出現(xiàn)的參數(shù)例如w、c1、c2等將在下文詳細介紹。

對vx的更新：

vx＝w*vx+c1*rand1*(personal._1._1-x)+c2*rand2*(public._1._1-x)

對x的更新：

x＝x+vx

同理，在y方向上的速度與位置的更新規(guī)則為:

vy＝w*vy+c1*rand1*(personal._1._1-y)+c2*rand2*(public._1._1-y)

y＝y(tǒng)+vy

總的來說，本發(fā)明中涉及的基于rdd的轉(zhuǎn)換操作和動作操作過程見附圖6，第一步，從hdfs中讀取存儲的參數(shù)c和g；第二步，將每個粒子所對應(yīng)的參數(shù)c和g，經(jīng)map操作轉(zhuǎn)換成rdd的形式；第三步，調(diào)用map函數(shù)，對40個rdd形式的粒子并行進行交叉驗證，然后根據(jù)交叉驗證的結(jié)果來確定每個粒子的個體極值；第四步，確定這40個粒子的40個個體極值中的最大值，將此最大值和全局極值(前)比較大小，若前者大于后者，則將此最大值賦值給全局極值(前)，否則不更新全局極值(前)。那么就確定出了當(dāng)前更新迭代后的全局極值；第五步，更新40個粒子，每個粒子要更新的有位置x、位置y、速度vx、速度vy，更新規(guī)則如下文所示；

第六步，將結(jié)果傳入分布式文件系統(tǒng)hdfs中存儲，以被下一次調(diào)用。

對速度vx的更新：

vx＝w*vx+c1*rand1*(personal._1._1-x)+c2*rand2*(public._1._1-x)

其中w是慣性權(quán)重，w從1到0.2均勻遞減，每迭代一次遞減一次。c1和c2稱學(xué)習(xí)因子，在這里c1＝2.05,c2＝2.05。rand1和rand2是隨機數(shù)，在這里也可看出粒子群算法的優(yōu)勢，隨機數(shù)rand1和rand2的出現(xiàn)使粒子群的搜索范圍擴大，尋優(yōu)結(jié)果的泛化能力更高。x是粒子i當(dāng)前位置的x方向的坐標。personal._1._1是粒子i的個體極值處的x方向的坐標，public._1._1是40個粒子組成的粒子群出現(xiàn)全局極值處的x方向的坐標。

對x的更新：

x＝x+vx

其中等式右邊的x是粒子i更新前在x方向的坐標，vx是粒子i更新前x方向的速度。

同理，在y方向上的速度與位置的更新規(guī)則為:

vy＝w*vy+c1*rand1*(personal._1._1-y)+c2*rand2*(public._1._1-y)

y＝y(tǒng)+vy

與現(xiàn)有技術(shù)相比，本發(fā)明的有益效果是：

a相對于原來的串行粒子群算法，本發(fā)明采用的并行粒子群算法使參數(shù)尋優(yōu)過程顯著加快。主要原因是對數(shù)據(jù)處理都是基于spark并行平臺設(shè)計實現(xiàn)的，將數(shù)據(jù)轉(zhuǎn)化為分布式rdd處理顯著提高了運行速度。

(1)n個節(jié)點粒子的初始化是以rdd的形式并行完成的。每個粒子的位置、速度、個體極值、所有粒子共有的全局極值都轉(zhuǎn)換為rdd的形式并行執(zhí)行。而原來的串行執(zhí)行將會使代碼冗長，運行速度也慢的多。

(2)對n個節(jié)點粒子的交叉驗證是在所有rdd中并行完成的。在調(diào)用轉(zhuǎn)換操作符map函數(shù)時，每個粒子都被映射成新的數(shù)據(jù)集，但此時并不會立即計算，因為rdd遇到轉(zhuǎn)換操作符時不會計算，新生成的rdd會記錄轉(zhuǎn)換的相關(guān)信息，只有遇到動作操作符，比如reduce，才會連帶著之前的轉(zhuǎn)換操作符一起計算得到新的鍵值對。這種運行機制不但可以加快執(zhí)行效率，而且有更高可靠性。

(3)n個節(jié)點粒子的個體極值和共有的全局極值是在rdd中并行找到的。之前在rdd中對粒子并行交叉驗證，個體極值和全局極值就在交叉驗證的結(jié)果中產(chǎn)生，只要再將交叉驗證的結(jié)果調(diào)用reduce方法，會產(chǎn)生新的鍵值對并對新的鍵值對進行歸納，逐個比較即可得到全局最優(yōu)值。

(4)對n個節(jié)點粒子的更新也是以rdd形式并行進行的。根據(jù)粒子更新的規(guī)律在map函數(shù)中產(chǎn)生新的映射關(guān)系，等待下一次的動作操作指令就會執(zhí)行。n個節(jié)點粒子的更新任務(wù)分配到不同的任務(wù)執(zhí)行器上，一般是根據(jù)主節(jié)點和從節(jié)點的核數(shù)目來分配任務(wù)，因此集群的節(jié)點數(shù)越多，任務(wù)并行計算的速度就越快。

b相比網(wǎng)格算法的局部最優(yōu)限制，粒子群算法可以更快、更好地找到全局最優(yōu)。

網(wǎng)格算法用于參數(shù)尋優(yōu)原理簡單，方便實現(xiàn)，但隨著數(shù)據(jù)集的增大，網(wǎng)格算法的結(jié)果往往需要人為提前設(shè)置好基準參數(shù)c和g，這就需要根據(jù)以往的大量經(jīng)驗來設(shè)置，無形中提高了很大難度且效果往往不理想。

粒子群算法只是在開始時候初始化基準參數(shù)c和g，在后續(xù)迭代過程中每個粒子會自由的在解空間移動，隨機性顯著增加，大大擴展了搜索范圍，更容易達到全局最優(yōu)。網(wǎng)格算法并行化和粒子群算法并行化分別對4組數(shù)據(jù)集a1a、a2a、a3a、a4a進行參數(shù)尋優(yōu)的結(jié)果見附圖6，可以明顯看到，相比于網(wǎng)格算法，粒子群算法在交叉驗證正確率上有著明顯的提高，這也證明了粒子群算法在尋優(yōu)方面的效果確實優(yōu)于網(wǎng)格算法。