一種基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法
【專利摘要】本發(fā)明公開了一種基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法，其包括步驟1、初始實(shí)驗設(shè)計的選擇；步驟2、初始建模以及模型驗證；步驟3、增量的Kriging建模(IKM)；步驟4、優(yōu)化采樣準(zhǔn)則：步驟5、更新準(zhǔn)則：6：DACE建模；Kriging方法的建模是有效地，隨著采樣點(diǎn)的增加(對于二維問題，當(dāng)采樣點(diǎn)數(shù)目大于600)，Kriging的建模時間陡然增加，因此這里提出一種改進(jìn)的Kriging方法，在采樣點(diǎn)數(shù)目非常大的情況下最大限度地降低時間消耗，提出的基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法在減少建模時間上將會在工程仿真中得到廣泛的應(yīng)用。
【專利說明】
-種基于增量Kr i gi ng的序列優(yōu)化實(shí)驗設(shè)計方法
技術(shù)領(lǐng)域
[0001] 本發(fā)明涉及一種序列優(yōu)化設(shè)計方法來提高工程應(yīng)用中的建模效率。
【背景技術(shù)】
[0002] (1).現(xiàn)代機(jī)電產(chǎn)品日益復(fù)雜，對其進(jìn)行建模分析（特別是仿真模型估值）需要耗 費(fèi)大量的計算時間。盡管計算機(jī)的計算速度不斷提高，但對于越來越復(fù)雜的仿真模型，如有 限元分析、計算流體動力學(xué)等計算密集型的仿真模型需大量計算時間，因此不能滿足工業(yè) 界對仿真分析的需求。為應(yīng)對巨大的挑戰(zhàn)，在過去的幾十年中，Kriging方法應(yīng)運(yùn)而生并在 工業(yè)界得到了普遍應(yīng)用。該方法能夠在不影響仿真模型精度的情況下最大程度地減少優(yōu)化 迭代過程中源模型的仿真次數(shù)，從而降低對計算資源的消耗。
[0003] (2). Kriging方法是一種通過已知點(diǎn)來預(yù)測位置觀察點(diǎn)的一種插值方法。Kriging 方法利用方差的變化來表達(dá)空間的變化，而且可以保證有空間分布得到的預(yù)測值的誤差最 小。Kriging方法源于南非的一位礦業(yè)工程師Daniel Gerhard Krige。他率先將統(tǒng)計學(xué)應(yīng) 用于地質(zhì)，礦業(yè)的分析與評估。20世紀(jì)70年代，法國的數(shù)學(xué)家Georges Matheron對Krige D. G.的研究成果進(jìn)行系統(tǒng)化、理論化分析，進(jìn)而提出了一種插值和外推的理論。隨著計算機(jī) 技術(shù)的飛速發(fā)展，該方法又被運(yùn)用在計算科學(xué)，產(chǎn)生Kriging模型，該模型作為一種代理模 型可以大大提高計算速度。后來人們將試驗設(shè)計方法與使用Kriging模型的全過程稱為計 算機(jī)試驗設(shè)計與分析（DACE)，被廣泛應(yīng)用于多個行業(yè)，包括采礦業(yè)、水文地質(zhì)學(xué)、自然資源、 環(huán)境科學(xué)、遙感、工程分析、機(jī)電產(chǎn)品設(shè)計和計算機(jī)實(shí)驗中的黑箱模型。
[0004] (3).當(dāng)采樣點(diǎn)比較少的時候，Kriging方法的建模是有效地，隨著采樣點(diǎn)的增加 (對于二維問題，當(dāng)采樣點(diǎn)數(shù)目大于600)，Kriging的建模時間陡然增加，因此這里提出一 種改進(jìn)的Kriging方法，在采樣點(diǎn)數(shù)目非常大的情況下最大限度地降低時間消耗。此外，盡 管一次實(shí)驗設(shè)計是非常直觀的，但是利用它構(gòu)造Kriging模型是不合適的。首先，對于大量 的仿真估值，一次實(shí)驗設(shè)計是非常耗時的；其次，當(dāng)采樣大量的數(shù)據(jù)點(diǎn)時，它或許能夠?qū)е?模型的不正常使用。因此，序列實(shí)驗設(shè)計或許是一種更好的選擇。與一次實(shí)驗設(shè)計相比，序 列實(shí)驗設(shè)計能控制整個采樣過程并充分利用先前的模型信息來決定下面需要采樣的有效 點(diǎn)，所以，它是一種穩(wěn)定、有效而又精確的實(shí)驗設(shè)計方法，并在許多工程設(shè)計中得到了廣泛 的應(yīng)用。
[0005] (4).以上述為背景，所提出的基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法在減少 建模時間上將會在工程仿真中得到廣泛的應(yīng)用。
[0006] 所以，需要改經(jīng)。

【發(fā)明內(nèi)容】

[0007] 本發(fā)明所要解決的技術(shù)問題是提供一種新的基于增量Kriging的序列優(yōu)化實(shí)驗 設(shè)計方法。
[0008] 本發(fā)明的技術(shù)方案如下：一種基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法，該方 法包括步驟如下：
[0009] 步驟1、初始實(shí)驗設(shè)計的的選擇：
[0010] 初始實(shí)驗設(shè)計采用拉丁方空間填充采樣（LHS)方法，在整個設(shè)計空間均勻統(tǒng)一地 獲取10n+l (n為模型的維度）個初始采樣點(diǎn)，并獲取相應(yīng)的仿估值；
[0011] 步驟2、初始建模以及模型驗證：
[0012] 根據(jù)初始采樣點(diǎn)和相應(yīng)的估值，并利用計算機(jī)試驗設(shè)計與分析（DACE)來建立初 始的Kriging模型，當(dāng)獲得Kriging近似模型之后，需要進(jìn)行模型精度的驗證，交叉驗證法 是的驗證方法，這里采用了一種高效而又簡單的改進(jìn)留一交叉驗證方法實(shí)現(xiàn)Kriging模型 精度的驗證，主要利用當(dāng)前所有采樣點(diǎn)，經(jīng)過N-1次（N為當(dāng)前的總樣本數(shù)）建模和驗證之 后來決定Kriging模型是否需要繼續(xù)進(jìn)行更新，這種驗證方法是當(dāng)前最行之有效且節(jié)約 時間的模型精度驗證方法；
[0013] 步驟3、增量的Kriging建模（IKM)
[0014] IKM方法是在參數(shù)0保持不變的情況下，根據(jù)矩陣分割和QR瘦型分解理論來獲取 的一種基于Kriging模型的高效建模方法。主要通過忽略相關(guān)矩陣、目標(biāo)函數(shù)矩陣、樣本點(diǎn) 和估值點(diǎn)的增量矩陣來計算Kriging模型的關(guān)鍵參數(shù)|的，這一點(diǎn)改進(jìn)大幅度地減少建模 時間。通過一個5桿桁架實(shí)例進(jìn)行了 IKM方法與計算機(jī)試驗設(shè)計與分析（DACE)建模時間 的比較，很好說明了 IKM方法的建模高效性；
[0015] 步驟4、優(yōu)化采樣準(zhǔn)則：
[0016] 優(yōu)化采樣準(zhǔn)則要求利用有效的方法來實(shí)現(xiàn)下一個最佳采樣點(diǎn)的選擇。在優(yōu)化采樣 過程中，受到新采樣點(diǎn)在整個設(shè)計空間均勻分布性和定位采樣點(diǎn)需要最大的估計誤差因素 的影響，利用優(yōu)化最大化均方誤差（MSE)的方法來獲取最優(yōu)采樣點(diǎn)，以便所定位的采樣點(diǎn) 能夠在最短的時間內(nèi)為模型更新帶來最大的潛在信息，從而在最少采樣點(diǎn)的情況下最大限 度地提高模型精度和建模效率；
[0017] 步驟5、更新準(zhǔn)則：
[0018] 為了有效判斷參數(shù)0對Kriging建模的效果和參數(shù)0在后期建模過程中的穩(wěn)定 性，從而決定是否需要對參數(shù)0進(jìn)行修改或更新，對于具有最大均方誤差新采樣點(diǎn)的增加 對模型中的具有一個很大的影響，因此，在序列優(yōu)化采樣中，利用六西格瑪更新準(zhǔn)則的連 續(xù)概率方法和統(tǒng)計技術(shù)來判斷是否需要再次對參數(shù)0進(jìn)行優(yōu)化更新，實(shí)踐證明，這一準(zhǔn)則 取得了良好的效果；
[0019] 步驟6 :DACE建模，如果步驟5中的更新準(zhǔn)則滿足的話，利用IKM重新建立Kriging 模型，否則的話，需要利用DACE重新建立Kriging模型，隨著模型精度的逐漸提高，利用IKM 方法建模的概率將大大提高，
[0020] 步驟7 :重新回到步驟3,進(jìn)行下次的循環(huán)。
[0021] 優(yōu)選方案，其中，增量Kriging方法（IKM)的實(shí)現(xiàn)
[0022] 給定 m 設(shè)計點(diǎn) X = [X" ? ? ?，xm]T，Xe 9TX"，其響應(yīng) Y = h，…，ym]T，re 9Txl。貝丨J Kriging模型的回歸方程可以表示為：
[0023] Y (x) = F 0 +Z (x) (1)
[0024] 即一個線性回歸部分和一個隨機(jī)過程部分，其中F為已知的回歸模型的基函數(shù) (共P個），0為對應(yīng)基函數(shù)的系數(shù)；ZOO為一隨機(jī)過程，具有以下性質(zhì)：
[0025] E [Z (x) ] = 0
[0026] E [Z (x) Z (w) ] = 〇 2R ( 9，《，x)
[0027] 其中〇 2為該隨機(jī)過程的方差，R( 0，w，x)為點(diǎn)x和點(diǎn)《之間的關(guān)聯(lián)函數(shù)，0為 關(guān)聯(lián)參數(shù)；
[0028] 回歸函數(shù)的基函數(shù)有多種選法，常用的有：
[0029] ⑷常數(shù)，即 p = 1，fjx) = 1
[0030] (5) -次函數(shù)，p = n+1，fjx) = 1，f2(x) = x，? ? ?，fn+1(x) = xn
[0031] (6)二次函數(shù)，p = (n+1) (n+2)/2
[0032] f^x) = 1,
[0033] f2(x) = x1? . . . , fn+1 (x) = xn
[0034] fn+2 (X) = Xj2,f2n+l (X) = XXX"
[0035] f2n+2 (x) = x],..., /3" (x) =
[0036] ...,fp(x) = X2"
[0037] 關(guān)聯(lián)函數(shù)模型的基本形式為 n
[0038] R(Q，(〇，x) = ，叫- ^ (2)
[0039] 最常用的高斯關(guān)聯(lián)函數(shù)模型可以表示為：高斯模型，Rjedi)Id」2)
[0040] 關(guān)聯(lián)函數(shù)模型以及0 = [ 0 ^ 0 2, ? ? ?，9 J ;的選取直接影響到Kriging模型的 精度。模型的選取需要認(rèn)為憑經(jīng)驗選擇，而9的選擇則可以通過后面的算法實(shí)現(xiàn)；
[0041] 根據(jù)以上公式，相關(guān)矩陣R和回歸函數(shù)F可表示為；
[0042] R(xvxm) /0〇，._?/pOi) R_= ： ... ： …R{Xm,Xm) '' fP^m) (3)
[0043] 根據(jù)無偏估計理論，F(xiàn) 0~Y有一個最小二乘解和一個過程方差，分別可表示為：
(4) . (5)
[0046] 根據(jù)公式（2)，矩陣R及相應(yīng)的$和〇 2都依賴于0，基于最大似然估計理論，我們 可以對下式子的最大化來獲得最優(yōu)的9值，
[0047] - (min 〇 2+ln | R |)/2 (6)
[0048] 此外，R是一個對稱正定的矩陣，因此R的喬里斯因子分解可由R = CCT獲取，這里 的c即為喬里斯因子，令f'scr1!'，尹=(：卞，則公式⑷可以變形為
[0049] (7)
[0050] 為了阻止R出現(xiàn)病態(tài)矩陣的情況，f瘦型QR分解可由
[0051] F = QGt (8)
[0052] 根據(jù)公式（5)，（7)和（8)，最終能夠得到
[0055] 優(yōu)選方案，其中，根據(jù)需要增加了 k個觀測點(diǎn)，（假設(shè)對于0值的影響很小）記之 如的各項下標(biāo)為〇,有：
[0056] X = [X。AX]t，Y = [Y。AY]t，F(xiàn) = [F。AF]t
[0057] R = [R； L 1 = CCT = = [C'C'TCf2T1 (11) 1_LT AR」 Lc2 cdL0 G」[c# C2C!+C3CJ」
[0058] 解得：
[0059] C2 =LTC〇_>的喬里斯因子 C3 =AC
[0060] 下三角矩陣c的逆矩陣易得，
[0064] 對戶進(jìn)行瘦型QR分解： "?W ? pa _
[0065] F= F〇. =QGt= Gt (12) AF」 九
[0066] 由于瘦型分解具有唯一性，故
[0067] F0 = Q,Gt , AF = Q2Gt
[0068] 所以
[0069] Q= ^，這里的AQ為Af的QR分解， .AQ.
[0070] 求解得到：
[0071] Glfi = QtY = [Ql AQt] 7〇 I = Q^f0 + AQTAf = Gjp〇 + G^Ap AY
[0072] 故得到
[0073] & =紀(jì)+4 。
[0074] 有益效果，Kriging方法的建模是有效地，隨著采樣點(diǎn)的增加（對于二維問題，當(dāng) 采樣點(diǎn)數(shù)目大于600)，Kriging的建模時間陡然增加，因此這里提出一種改進(jìn)的Kriging方 法，在采樣點(diǎn)數(shù)目非常大的情況下最大限度地降低時間消耗。此外，盡管一次實(shí)驗設(shè)計是非 常直觀的，但是利用它構(gòu)造Kriging模型是不合適的。首先，對于大量的仿真估值，一次實(shí) 驗設(shè)計是非常耗時的；其次，當(dāng)采樣大量的數(shù)據(jù)點(diǎn)時，它或許能夠?qū)е履Ｐ偷牟徽Ｊ褂谩?因此，序列實(shí)驗設(shè)計或許是一種更好的選擇。與一次實(shí)驗設(shè)計相比，序列實(shí)驗設(shè)計能控制整 個采樣過程并充分利用先前的模型信息來決定下面需要采樣的有效點(diǎn)，所以，它是一種穩(wěn) 定、有效而又精確的實(shí)驗設(shè)計方法，并在許多工程設(shè)計中得到了廣泛的應(yīng)用。
[0075] (4).以上述為背景，所提出的基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法在減少 建模時間上將會在工程仿真中得到廣泛的應(yīng)用。SIEDA方法在失去可接受精度范圍內(nèi)已經(jīng) 大幅度提高了 Kriging的全局建模效率。
【附圖說明】
[0076] 圖1 SIEDA方法的設(shè)計框圖；
[0077] 圖2 S0EDK方法的設(shè)計框圖；
[0078] 圖3-1為Kriging模型中向量0中各分量的變化趨勢之一；
[0079] 圖3-2為Kriging模型中向量0中各分量的變化趨勢之二；
[0080] 圖4 SIEDA和S0EDK的消耗時間比較圖；
[0081] 圖5 SIEDA、S0EDK和LHS的精度比較圖；
[0082] 圖6 IKM方法與計算機(jī)試驗設(shè)計與分析（DACE)建模時間的比較。
【具體實(shí)施方式】
[0083] 為了便于理解本發(fā)明，下面結(jié)合附圖和具體實(shí)施例，對本發(fā)明進(jìn)行更詳細(xì)的說明。 本說明書及其附圖中給出了本發(fā)明的較佳的實(shí)施例，但是，本發(fā)明可以以許多不同的形式 來實(shí)現(xiàn)，并不限于本說明書所描述的實(shí)施例。相反地，提供這些實(shí)施例的目的是使對本發(fā)明 的公開內(nèi)容的理解更加透徹全面。
[0084] 需要說明的是，當(dāng)某一元件固定于另一個元件，包括將該元件直接固定于該另一 個元件，或者將該元件通過至少一個居中的其它元件固定于該另一個元件。當(dāng)一個元件連 接另一個元件，包括將該元件直接連接到該另一個元件，或者將該元件通過至少一個居中 的其它元件連接到該另一個元件。
[0085] 1.增量Kriging的序列優(yōu)化實(shí)驗設(shè)計（SIEDA)的詳細(xì)過程
[0086] 增量Kriging的序列優(yōu)化實(shí)驗設(shè)計框圖如圖1所示，該設(shè)計是在傳統(tǒng)的S0EDK方 法（如圖2)的基礎(chǔ)上進(jìn)行了很大的改進(jìn)。一般來說，SIEDA可以按照如下七步進(jìn)行。 [0087] 步驟1 :初始實(shí)驗設(shè)計。對于全局近似問題，利用拉丁方采樣（LHS)的實(shí)驗設(shè)計方 法（一種空間填充實(shí)驗設(shè)計）來有效獲取初始采樣點(diǎn)。此外，對采樣點(diǎn)所對應(yīng)的目標(biāo)函數(shù) 或仿真模型進(jìn)行估值。對于自變量個數(shù)為n的問題，為了確保空間填充分布的的穩(wěn)定性和 一致性，一般需要選取l〇n+l個初始采樣點(diǎn)來創(chuàng)建初始Kriging模型。
[0088] 步驟2 :Kriging初始建模。利用步驟1中的采樣點(diǎn)和相應(yīng)的響應(yīng)值并通過DACE 方法進(jìn)行初始Kriging的構(gòu)造。
[0089] 步驟3 :模型驗證。一般來說，方差或者均方根誤差是衡量模型精度的主要參數(shù)。 然而，由于函數(shù)的估值需要消耗大量的時間，因此，通過綜合分析模型維度、模型精度、運(yùn)行 時間和計算機(jī)運(yùn)算能力等因素，這里使用留一交叉驗證的方法進(jìn)行模型驗證。這樣，可以大 大減少因模型驗證帶來的大量時間消耗。
[0090] 步驟4 :優(yōu)化采樣。本發(fā)明的目的之一就是利用有效的優(yōu)化采樣準(zhǔn)則來指導(dǎo)并確 定下一個新的采樣點(diǎn)。綜合考慮消耗時間、精度和采樣的準(zhǔn)確定位，排除了最大積分均方誤 差（IMSE)和最大煙值的方法，而米用更有效的最大均方誤差方法。
[0091] 步驟5 :更新準(zhǔn)則。本發(fā)明的更新準(zhǔn)則是用來決定DACE和IKM方法中的哪一個方 法將被用來進(jìn)行接下來的Kriging模型更新。實(shí)質(zhì)就是判斷參數(shù)0是否發(fā)生變化。
[0092] 步驟6 :DACE建模。如果步驟5中的更新準(zhǔn)則滿足的話，利用IKM重新建立Kriging 模型，否則的話，需要利用DACE重新建立Kriging模型，隨著模型精度的逐漸提高，利用IKM 方法建模的概率將大大提高。
[0093] 步驟7 :重新回到步驟3,進(jìn)行下次的循環(huán)。
[0094] 步驟4、5、6是該序列實(shí)驗設(shè)計的核心，對于每一步的具體實(shí)現(xiàn)將在下面具體闡 述。
[0095] 2?增量Kriging方法（IKM)的實(shí)現(xiàn)
[0096] 2. lKriging 方法
[0097] 給定 m 設(shè)計點(diǎn) X = [Xp ? ? ?，xm]T，Xe ，其響應(yīng) Y = h，…，ym]T，re9Txl。則 Kriging模型的回歸方程可以表示為：
[0098] Y (x) = F 0 +Z (x) (1)
[0099] 即一個線性回歸部分和一個隨機(jī)過程部分，其中F為已知的回歸模型的基函數(shù) (共P個），0為對應(yīng)基函數(shù)的系數(shù)；Z(x)為一隨機(jī)過程，具有以下性質(zhì)：
[0100] E [Z (x) ] = 0
[0101] E [Z (x) Z (w) ] = 〇 2R ( 9，《，x)
[0102] 其中〇 2為該隨機(jī)過程的方差，R( 0，w，x)為點(diǎn)x和點(diǎn)《之間的關(guān)聯(lián)函數(shù)，0為 關(guān)聯(lián)參數(shù)。
[0103] 回歸函數(shù)的基函數(shù)有多種選法，常用的有：
[0104] ⑵常數(shù)，即p = 1，匕〇〇 = 1
[0105] (8) -次函數(shù)，p = n+1，fjx) = 1，f2(x) = X，? ? ?，fn+1(x) = xn
[0106] (9)二次函數(shù)，p = (n+1) (n+2)/2
[0107] fj(x) = 1,
[0108] f2(x) = x1? . . . , fn+1 (x) = xn
[0109] /"+2 (x) = x^,..., f2n+l (x) =
[0110] f2n+2 (x) = x22,..., f2n (x) = x2xn
[0111] …，/PW = x"2
[0112] 關(guān)聯(lián)函數(shù)模型的基本形式為 n
[0113] R(Q，(〇，x) = ]~[及從，啤-xi) (2)
[0114] 最常用的高斯關(guān)聯(lián)函數(shù)模型可以表示為：高斯模型，Rje，^) =exp(-01，Id」2)
[0115] 關(guān)聯(lián)函數(shù)模型以及0 = [ 0丨，0 2, ? ? ?，9 J ;的選取直接影響到Kriging模型的 精度。模型的選取需要認(rèn)為憑經(jīng)驗選擇，而9的選擇則可以通過后面的算法實(shí)現(xiàn)。
[0116] 根據(jù)以上公式，相關(guān)矩陣R和回歸函數(shù)F可表示為；
[0117] R(xvx:),--- R(xvxm) /0q)，..-/p(A) R->= ： ： ，F(xiàn)mxp= ; ???; . (3) ，x!)，…x J」
[0118] 根據(jù)無偏估計理論，F(xiàn)P~Y有一個最小二乘解和一個過程方差，分別可表示為：
(4) (5)
[0121] 根據(jù)公式（2)，矩陣R及相應(yīng)的&和〇2都依賴于0，基于最大似然估計理論，我們 可以對下式子的最大化來獲得最優(yōu)的9值。
[0122] _(mln 〇 2+ln|R|)/2. (6)
[0123] 此外，R是一個對稱正定的矩陣，因此R的喬里斯因子分解可由R = CCT獲取，這里 的C即為喬里斯因子，令f = (：_卞，f = <：-亇，則公式⑷可以變形為
[0124] p = (FTF)_1FTy. (7)
[0125] 為了阻止R出現(xiàn)病態(tài)矩陣的情況，f瘦型QR分解可由
[0126] F = QGt (8)
[0127] 根據(jù)公式（5)，（7)和（8)，最終能夠得到
[0128] GTp = Qt7 (9)
[0129] (10)
[0130] 2. 2增量Kriging方法的實(shí)現(xiàn)
[0131] 假設(shè)根據(jù)需要增加了 k個觀測點(diǎn)，（假設(shè)對于0值的影響很小）記之前的各項下 標(biāo)為〇,有：
[0132] X = [X。AX]t，Y = [Y。AY]t，F(xiàn) = [F。AF]t
[0133] R = [R； L 1 = CCt 0 1[C' ClT] = [C，Cx Cf x]⑶ |_LT AR」 LC2 C3」L〇 C」LC2Ci^ c2c!+c3cj_
[0134] 解得：
[0135] : C2 =LTqT中的喬里斯因子 C3 =AC
[0136] 下三角矩陣C的逆矩陣易得， 「C-1 0 "1
[0137] C-i = 0 ，N = -AC-'CX'1 _N AC_1J ~ , 「c;1 o "|「r0 1「亢- ~ ,
[0138] Y = C~lY = 0 , 0 = °. , A7 = N70+AC_1A7 _N AC_1JLArJ [a7J
[0139] f = C-1F = C。 0 [F0= \，Af = NF。+ AC_1AF _N AC-JaF」[_AF」
[0140] 對戶進(jìn)行瘦型QR分解：
[0141] F= \ =QGt = [Qi]gt (12) _AF」 [Q2_
[0142] 由于瘦型分解具有唯一性，故
[0143] F^Q^1, AF = Q2Gt
[0144] 所以
[0145] Q= ^，這里的AQ為Af的QR分解， .AQ
[0146] 求解得到：
[0147] Gjp = Qt7 = [Q^ AQt] 7〇 I = QlY0 + AQJAY = GJ0fi0 + G^Ap AY
[0148] 故得到
[0149] H+4 (13)
[0150] 3.基于DIRECT算法的優(yōu)化采樣準(zhǔn)則的實(shí)現(xiàn)
[0151] 在優(yōu)化采樣過程中，新數(shù)據(jù)點(diǎn)的確定受到以下兩個因素的影響：
[0152] (1)優(yōu)化采樣需要盡可能使得新數(shù)據(jù)點(diǎn)均勻地填充到整個設(shè)計空間中；
[0153] (2)所優(yōu)化搜索的數(shù)據(jù)點(diǎn)要具有盡量小的估計值和盡量大的估計誤差。
[0154] 因此，對于獲取新采樣點(diǎn)的序列優(yōu)化采樣中，有三種方法是比較適合的。一種是用 于開發(fā)計算機(jī)實(shí)驗設(shè)計的最大熵值原理法，一種是應(yīng)用到確定計算機(jī)模型中的最大均方誤 差方法，而最后一種方法類似于第二種，它是最大化均方誤差的積分。
[0155] 對于最大熵值采樣來說，設(shè)計者通常需要在一些盡可能遠(yuǎn)離當(dāng)前設(shè)計點(diǎn)的位置增 加采樣點(diǎn)，因此，設(shè)計決策過程中的模型響應(yīng)值的相關(guān)信息將會被忽視。此外，由于最大熵 值采樣不隸屬于具體的仿真或函數(shù)，因此它不具有更大的靈活性。我們希望有一種優(yōu)化采 樣方法，它被認(rèn)為能夠從先前估值或Kriging模型中獲取或確定具有最大潛在有效信息的 新數(shù)據(jù)點(diǎn)?；蛟S，最大化均方誤差和最大化均方誤差的積分都是不錯的優(yōu)化采樣方法。比 較，除了最大均方誤差的積分增加了一個權(quán)重函數(shù)和一個積分過程之外，這兩種優(yōu)化方法 是非常相似的。最后，綜合考慮應(yīng)用范圍和時間消耗，我們選擇最大化均方誤差的優(yōu)化方 法作為最終的優(yōu)化采樣準(zhǔn)則。
[0156] 對于Kriging模型來說，估計的軍方誤差的定義可用下式來表示：
[0157] <x) = MSE[r(X)] = a2{l-[，(x)T r(x)T]匕:T]['(X)]} (14)
[ |_F R」Lr(x)」j
[0158] 那么，相應(yīng)的采樣準(zhǔn)則能夠用如下的表達(dá)式表示：
[0159] find x ,、 .. ,、， (15) maximize ^(x)
[0160] 這里，巾（x)表示點(diǎn)x處的均方誤差。通過搜索均方誤差，能夠從當(dāng)前的Kriging 模型中探索到更多潛在和有用的優(yōu)化建模信息。此外，相關(guān)函數(shù)r(x)和公式（14)是與新 采樣點(diǎn)和當(dāng)前采樣點(diǎn)之間的距離相關(guān)的，因此，新的采樣點(diǎn)將會均勻統(tǒng)一地分布到整個設(shè) 計空間中。
[0161] 這個優(yōu)化過程是一個序列探索的過程，直到找到滿足要求的優(yōu)化采樣點(diǎn)。為了使 得Kriging模型所對應(yīng)均方誤差的全局優(yōu)化過程以一個快速的收斂，由Jones發(fā)明的一種 有效的全局優(yōu)化方法（DIRECT算法）被應(yīng)用到公式（15)中來獲取最優(yōu)的采樣點(diǎn)。當(dāng)在五 次連續(xù)迭代過程中，一種滿足約束條件I (1)_4>(1 11 I < 0. 001情況下，我們將終止DIRECT 算法的執(zhí)行。
[0162] 上述的優(yōu)化采樣策略有如下兩個優(yōu)點(diǎn)：
[0163] (1)每一個新采樣點(diǎn)通常都是Kriging繼續(xù)建模所需要的最優(yōu)采樣點(diǎn)；
[0164] (2)隨著新采樣點(diǎn)的不斷增加，DIRECT算法將使優(yōu)化模型的精度快速下降。
[0165] 4.更新準(zhǔn)則的實(shí)現(xiàn)
[0166] 在建模的初始階段，具有最大均方誤差的新采樣點(diǎn)的增加或許對參數(shù)有一個較大 的影響。但是，隨著新采樣點(diǎn)的連續(xù)不斷地增加，參數(shù)0的穩(wěn)定性將會變得越來越好。當(dāng) 樣本總量達(dá)到一定的程度后，參數(shù)0的狀態(tài)往往是趨于穩(wěn)定的。在這種情況下，即使參數(shù) 9的值有一個輕微的改變，這種變化對Kriging模型的精度來幾乎是可以被忽略的。圖3 以二維GP函數(shù)為例通過DACE建模方法給出Kriging模型中向量0中各分量的變化趨勢， 從中我們可以清楚地看出，向量9中各分量的變化趨勢基本符合我們上述的分析，這從另 外一個角度也說明了 SIEDA方法的可行性。
[0167] 依據(jù)上述，如何在SIEDA方法中引入一個合適的更新準(zhǔn)則來確定是否參數(shù)0在 Kriging的連續(xù)建模中需要更新將是我們即將解決的問題。六西格瑪準(zhǔn)則是一種應(yīng)用連續(xù) 隨機(jī)方法和統(tǒng)計技術(shù)的一種估值策略，通常用于判斷和改進(jìn)產(chǎn)品的質(zhì)量。Jone曾經(jīng)將該準(zhǔn) 則應(yīng)用到Kriging模型的留一交叉驗證中。在這個驗證過程中，如果目標(biāo)值位于均值加減 3倍的標(biāo)準(zhǔn)差區(qū)間范圍內(nèi)，我們認(rèn)為Kriging模型具有99. 7%置信度。因此，這個估值原理 也是適合于SIEDA算法的更新準(zhǔn)則的。
[0168] 使用更新準(zhǔn)則的目的就是使用當(dāng)前的Kriging模型來有效地指導(dǎo)或判斷下一個 實(shí)際相應(yīng)值是否位于上述的置信區(qū)間內(nèi)（均值加減3倍的標(biāo)準(zhǔn)差區(qū)間）。如果響應(yīng)值位于 該置信區(qū)間內(nèi)，則保持參數(shù)9的不變，否則的話，利用公式（6)來更新參數(shù)0的值。
[0169] 已知當(dāng)前Kriging模型具有k個樣本點(diǎn)，一個具有最大均方誤差S2(xk+1)的新采樣 點(diǎn)（xk+1，yk+1)和當(dāng)前的Kriging模型的估計值久（由公式⑴獲?。?，那么，以及六西格瑪 準(zhǔn)則的更新準(zhǔn)則可以表述如下：
(16)
[0171] 如果不等式（16)得到滿足，這意味在URk+1不在區(qū)間[_3，+3]內(nèi)，即（x k+1，yk+1)對 于當(dāng)前模型是不合適的或無效的，那么，Kriging模型將需要重新構(gòu)造通過DACE建模。否 則的話，Kriging模型僅僅需要通過IKM方法進(jìn)行模型的重新構(gòu)造。
[0172] 值得注意的是，這個更新準(zhǔn)則也具有一定的隨機(jī)性。經(jīng)過當(dāng)了的試驗測試發(fā)現(xiàn)， 在Kriging建模的初始階段，更新準(zhǔn)則位于區(qū)間[-3, +3]的概率是相當(dāng)?shù)停?，仍然存?某些點(diǎn)滿足上述的更新準(zhǔn)則。同樣，當(dāng)樣本總量達(dá)到一定數(shù)量后，URk+1位于區(qū)間[-3,+3] 的概率幾何是百分之百，然而，也存在少部分采樣點(diǎn)不在該區(qū)間內(nèi)?？偟膩碚f，隨著采樣點(diǎn) 的不斷增加，參數(shù)9對Kriging模型的全局近似影響會很小，那么，由于IKM建模方法的實(shí) 用，將會節(jié)約大量的建模時間。
[0173] 5. SIEDA方法的驗證
[0174] 盡管我們已經(jīng)討論的SIEDA方法，但是它的可行性、建模效率和建模精度需要通 過進(jìn)一步的測試來獲得驗證。這里選用二維的Golden and Price (GP)函數(shù)來驗證了序列 優(yōu)化采樣中的IKM方法的可行性，如圖3所示。接下來，對SIEDA方法和S0EDK方法的時間 消耗進(jìn)行了比較，來說明SIEDA方法的高效性，這里以四個二維函數(shù)為例進(jìn)行的說明，如圖 4所示，圖中明顯可以看出SIEDA方法在后期的建模中，利用了很少的時間，僅占S0EDK方 法所消耗時間的20%左右。最后，進(jìn)行了 SIEDA、S0EDK和基于LHS序列采樣這三種方法的 精度進(jìn)行了比較，這里仍然以四個二維函數(shù)為例進(jìn)行的說明，如圖5、圖6所示，比較結(jié)果發(fā) 現(xiàn)，基于LHS序列采樣的精度最低，而SIEDA和S0EDK方法在初始階段有一定的差別，然而， 這個差異隨著采樣點(diǎn)的增加而逐漸減小甚至消失?？偟膩碚f，SIEDA方法在失去可接受精 度范圍內(nèi)已經(jīng)大幅度提高了 Kriging的全局建模效率。
[0175] 需要說明的是，上述各技術(shù)特征繼續(xù)相互組合，形成未在上面列舉的各種實(shí)施例， 均視為本發(fā)明說明書記載的范圍；并且，對本領(lǐng)域普通技術(shù)人員來說，可以根據(jù)上述說明加 以改進(jìn)或變換，而所有這些改進(jìn)和變換都應(yīng)屬于本發(fā)明所附權(quán)利要求的保護(hù)范圍。
【主權(quán)項】
1. 一種基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法，其特征在于，其特征在于，該方法 包括步驟如下： 步驟1、初始實(shí)驗設(shè)計的選擇： 初始實(shí)驗設(shè)計采用拉丁方空間填充采樣（LHS)方法，在整個設(shè)計空間均勻統(tǒng)一地獲取 10η+1 (η為模型的維度）個初始采樣點(diǎn)，并獲取相應(yīng)的仿估值； 步驟2、初始建模以及模型驗證： 根據(jù)初始采樣點(diǎn)和相應(yīng)的估值，并利用計算機(jī)試驗設(shè)計與分析（DACE)來建立初始的 Kriging模型；當(dāng)獲得Kriging近似模型之后，需要進(jìn)行模型精度的驗證，交叉驗證法是的 驗證方法，這里采用了一種高效而又簡單的改進(jìn)留一交叉驗證方法實(shí)現(xiàn)Kriging模型精度 的驗證；主要利用當(dāng)前所有采樣點(diǎn)，經(jīng)過N-I次（N為當(dāng)前的總樣本數(shù)）建模和驗證之后來 決定Kriging模型是否需要繼續(xù)進(jìn)行更新；這種驗證方法是當(dāng)前最行之有效且節(jié)約時間的 模型精度驗證方法； 步驟3、增量的Kriging建模（IKM) IKM方法是在參數(shù)Θ保持不變的情況下，根據(jù)矩陣分割和QR瘦型分解理論來獲取的一 種基于Kriging模型的高效建模方法；主要通過忽略相關(guān)矩陣、目標(biāo)函數(shù)矩陣、樣本點(diǎn)和 估值點(diǎn)的增量矩陣來計算Kriging模型的關(guān)鍵參數(shù)β的，這一點(diǎn)改進(jìn)大幅度地減少建模時 間；通過一個5桿桁架實(shí)例進(jìn)行了 IKM方法與計算機(jī)試驗設(shè)計與分析（DACE)建模時間的比 較，很好說明了 IKM方法的建模高效性； 步驟4、優(yōu)化采樣準(zhǔn)則： 優(yōu)化采樣準(zhǔn)則要求利用有效的方法來實(shí)現(xiàn)下一個最佳采樣點(diǎn)的選擇。在優(yōu)化采樣過程 中，受到新采樣點(diǎn)在整個設(shè)計空間均勻分布性和定位采樣點(diǎn)需要最大的估計誤差因素的影 響，利用優(yōu)化最大化均方誤差（MSE)的方法來獲取最優(yōu)采樣點(diǎn)，以便所定位的采樣點(diǎn)能夠 在最短的時間內(nèi)為模型更新帶來最大的潛在信息，從而在最少采樣點(diǎn)的情況下最大限度地 提高模型精度和建模效率； 步驟5、更新準(zhǔn)則： 為了有效判斷參數(shù)Θ對Kriging建模的效果和參數(shù)Θ在后期建模過程中的穩(wěn)定性， 從而決定是否需要對參數(shù)Θ進(jìn)行修改或更新；對于具有最大均方誤差新采樣點(diǎn)的增加對 模型中的具有一個很大的影響；因此，在序列優(yōu)化采樣中，利用六西格瑪更新準(zhǔn)則的連續(xù)概 率方法和統(tǒng)計技術(shù)來判斷是否需要再次對參數(shù)Θ進(jìn)行優(yōu)化更新，實(shí)踐證明，這一準(zhǔn)則取得 了良好的效果； 步驟6 :DACE建模；如果步驟5中的更新準(zhǔn)則滿足的話，利用IKM重新建立Kriging模 型，否則的話，需要利用DACE重新建立Kriging模型，隨著模型精度的逐漸提高，利用IKM 方法建模的概率將大大提高； 步驟7 :重新回到步驟3,進(jìn)行下次的循環(huán)。2. 根據(jù)權(quán)利要求1所述基于增量Kriging的序列優(yōu)化實(shí)驗設(shè)計方法，其特征在于，增量 Kriging方法（IKM)的實(shí)現(xiàn)， 給定m設(shè)計纟則 Kriging模型的回IhT力程口」以衣不73 :Y(x) =FP+Z(x) (1) 即一個線性回歸部分和一個隨機(jī)過程部分，其中F為已知的回歸模型的基函數(shù)（共p 個），β為對應(yīng)基函數(shù)的系數(shù)；Z(X)為一隨機(jī)過程，具有以下性質(zhì)： E[Z(x)] =O E [Z (X) Z (w) ] = 〇 2R ( θ，ω，X) 其中σ 2為該隨機(jī)過程的方差，R( θ，ω，χ)為點(diǎn)χ和點(diǎn)ω之間的關(guān)聯(lián)函數(shù)，Θ為關(guān) 聯(lián)參數(shù)， 回歸函數(shù)的基函數(shù)有多種選法，常用的有： ⑴常數(shù)，即P = 1，A (χ) = 1 (2) -次函數(shù)，ρ = n+1，f! (χ) = 1，f2(x) = X，· · ·，fn+1 (χ) = Xn (3) 二次函數(shù)，p = (n+1) (n+2)/2 fi(x) = L 『2 (X) - Xl，· · ·，fn+1 (X) - Xn關(guān)聯(lián)函數(shù)模型的基本形式為(2) 最常用的高斯關(guān)聯(lián)函數(shù)模型可以表示為：高斯模型，R1(Sj1) Id1I2) 關(guān)聯(lián)函數(shù)模型以及θ =[ Θ P Θ 2，. ..，θ J ;的選取直接影響到Kriging模型的精度， 模型的選取需要認(rèn)為憑經(jīng)驗選擇，而Θ的選擇則可以通過后面的算法實(shí)現(xiàn)， 根據(jù)以上公式，相關(guān)矩陣R和回歸函數(shù)F可表示為；(3) 根據(jù)無偏估計理論，F(xiàn) β~Y有一個最小二乘解和一個過程方差，分別可表示為：(4) (5) 根據(jù)公式（2)，矩陣R及相應(yīng)的$和〇 2都依賴于Θ，基于最大似然估計理論，我們可以 對下式子的最大化來獲得最優(yōu)的Θ值； -(m In σ 2+ln I RI)/2 (6) 此外，R是一個對稱正定的矩陣，因此R的喬里斯因子分解可由R = CCt獲取，這里的C 即為喬里斯因子，4則公式（4)可以變形為 為了阻止R出現(xiàn)病態(tài)矩陣的情況，f瘦型QR分解可由 (7)
【文檔編號】G06F17/50GK105893646SQ201510022967
【公開日】2016年8月24日
【申請日】2015年1月15日
【發(fā)明人】李耀輝, 蔡子亮, 李躍磊, 楊飛, 楊曉博
【申請人】許昌學(xué)院