專利名稱：通過(guò)把推理用于it系統(tǒng)進(jìn)行自動(dòng)建模的方法和設(shè)備的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及信息技術(shù)(“IT”)系統(tǒng)的性能建模。更具體地說(shuō)，本發(fā)明涉及結(jié)合排隊(duì)網(wǎng)絡(luò)建模和推理(inference)技術(shù)來(lái)對(duì)IT系統(tǒng)的性能進(jìn)行建模。
背景技術(shù)：
隨著因特網(wǎng)技術(shù)的快速發(fā)展，電子商務(wù)正在變成成熟的商業(yè)策略。隨著其在因特網(wǎng)應(yīng)用、服務(wù)和價(jià)格談判中扮演重要角色，服務(wù)質(zhì)量(“QoS”)的概念正在排除困難前進(jìn)到電子商務(wù)委托和要求的前線。在增長(zhǎng)的競(jìng)爭(zhēng)市場(chǎng)中，IT管理人員和規(guī)劃人員始終經(jīng)受著獲得下述問(wèn)題的明確答案的壓力利用當(dāng)前的基礎(chǔ)結(jié)構(gòu)，IT系統(tǒng)能夠支持多少用戶？關(guān)于每種服務(wù)，正在提供何種服務(wù)質(zhì)量水平？站點(diǎn)結(jié)構(gòu)能夠被多快地?cái)U(kuò)大或縮?。磕男┙M件應(yīng)被升級(jí)？是否存在適于支持預(yù)期的商業(yè)機(jī)會(huì)和未來(lái)增長(zhǎng)的足夠容量？為了解答這些問(wèn)題，電子商務(wù)迫切需要一種規(guī)劃和預(yù)算，性能預(yù)測(cè)，和服務(wù)水平協(xié)議規(guī)定的正式過(guò)程。這種過(guò)程要求基本理解諸如電子商務(wù)基礎(chǔ)結(jié)構(gòu)的容量、可縮放性、可用性和可靠性之類(lèi)關(guān)鍵問(wèn)題。
由于系統(tǒng)結(jié)構(gòu)的多樣性，眾多正在出現(xiàn)的具有不同功能的應(yīng)用程序(application)，以及用戶行為的巨大差異，電子商務(wù)基礎(chǔ)結(jié)構(gòu)的表征相當(dāng)復(fù)雜。于是，在整個(gè)IT環(huán)境內(nèi)，包括所有IT基礎(chǔ)結(jié)構(gòu)組件和應(yīng)用程序在內(nèi)，評(píng)估電子商務(wù)的提供端到端性能保證的能力是一項(xiàng)挑戰(zhàn)性任務(wù)。通常使用的評(píng)估電子商務(wù)性能的方法是在生產(chǎn)系統(tǒng)中，即工作環(huán)境中，利用真實(shí)的工作量，或者在測(cè)試系統(tǒng)上，利用合成工作量，直接測(cè)量IT環(huán)境的性能。直接對(duì)生產(chǎn)系統(tǒng)測(cè)量性能是危險(xiǎn)的，因?yàn)樗枰褂脩舯┞队谳^差的性能之下，這會(huì)趕走客戶。另一方面，具有測(cè)試站點(diǎn)是一項(xiàng)成本非常高的實(shí)踐。簡(jiǎn)單地復(fù)制生產(chǎn)系統(tǒng)，并保證所有互連軟件和硬件組件正確發(fā)揮作用的努力將是巨大的。另外，由于工作量空間是連續(xù)的是，因此在所有不同的負(fù)載組合內(nèi)進(jìn)行測(cè)試將是一項(xiàng)難以克服的困難任務(wù)。
評(píng)估IT系統(tǒng)的性能的一種備選方法是通過(guò)性能建模。在IT基礎(chǔ)結(jié)構(gòu)和應(yīng)用程序的設(shè)計(jì)，工程化和優(yōu)化中，性能建模已變得越來(lái)越重要。建模方法在向建筑師和工程師提供和所考慮的IT系統(tǒng)相關(guān)的定性和定量理解方面特別有效。盡管它存在這些優(yōu)點(diǎn)，建模工作耗時(shí)，并且不僅要求對(duì)系統(tǒng)有很好的了解，而且要求通曉建模技術(shù)。
性能建模的最流行范例之一是排隊(duì)網(wǎng)絡(luò)，它解決了上述問(wèn)題。排隊(duì)模型的主要優(yōu)點(diǎn)在于它捕捉性能和容量之間的基本關(guān)系。已提出了使用排隊(duì)網(wǎng)絡(luò)來(lái)對(duì)計(jì)算機(jī)系統(tǒng)，尤其是Web系統(tǒng)進(jìn)行建模的思想(參見(jiàn)L.Kleinrock；Queueing Systems Volume IIComputerApplications；John Wiley and Sons，1976；以及D.Menasce和V.Almeida；Capacity Planning for Web Performance；Prentice hall，1998)。該思想以通過(guò)把IT系統(tǒng)中的每個(gè)設(shè)備表示成一個(gè)隊(duì)列，建立分析模型為基礎(chǔ)。然而，這種方法需要了解關(guān)于IT系統(tǒng)中每個(gè)設(shè)備的每種請(qǐng)求的服務(wù)要求。在真實(shí)系統(tǒng)中，這種服務(wù)要求非常難以測(cè)量，因?yàn)樗鼈儾话赡馨l(fā)生的排隊(duì)延遲。這不僅要求了解所有設(shè)備，而且在設(shè)備數(shù)量較大，并且請(qǐng)求類(lèi)型各不相同的情況下，還涉及收集大量的數(shù)據(jù)，以便確定在每個(gè)設(shè)備，每種請(qǐng)求的服務(wù)要求。實(shí)際上無(wú)法建立這樣詳細(xì)的低級(jí)排隊(duì)網(wǎng)絡(luò)模型。
鑒于此，本領(lǐng)域中需要一種目的在于使IT基礎(chǔ)結(jié)構(gòu)和應(yīng)用程序的性能建模和優(yōu)化的過(guò)程自動(dòng)化，以便降低設(shè)備成本和勞動(dòng)力成本，并縮短性能評(píng)估、預(yù)測(cè)和容量規(guī)劃方面的周轉(zhuǎn)時(shí)間的系統(tǒng)和方法。這些系統(tǒng)和方法應(yīng)使IT管理員能夠有效并且預(yù)先地(proactively)量化、控制和規(guī)劃電子商務(wù)基礎(chǔ)結(jié)構(gòu)中可用容量的利用。

發(fā)明內(nèi)容
鑒于常規(guī)系統(tǒng)的上述問(wèn)題、缺陷和不利，本發(fā)明的例證特征是結(jié)合推理技術(shù)和排隊(duì)模型，使IT系統(tǒng)與應(yīng)用程序的性能建模和優(yōu)化過(guò)程自動(dòng)化。
本發(fā)明的方法利用高級(jí)排隊(duì)網(wǎng)絡(luò)模型捕捉主要資源和延遲效應(yīng)，這提供性能測(cè)量和IT系統(tǒng)結(jié)構(gòu)之間良好的可跟蹤性。
本發(fā)明的方法只要求把最常見(jiàn)并且廉價(jià)的測(cè)量結(jié)果(measurement)作為輸入。這種測(cè)量結(jié)果包括，例如系統(tǒng)通過(guò)量，服務(wù)器的利用率和端到端響應(yīng)時(shí)間。
通過(guò)把上述測(cè)量數(shù)據(jù)作為輸入，本發(fā)明的方法使用先進(jìn)的推理技術(shù)獲得IT系統(tǒng)的性能模型的參數(shù)。例如，可關(guān)于IT系統(tǒng)中的每個(gè)服務(wù)器和每個(gè)事務(wù)，推斷服務(wù)要求。
在本發(fā)明的一個(gè)實(shí)施例中，可利用閉合式等式(closed-formequation)表征IT系統(tǒng)。在該實(shí)施例中，推理方法包括下述步驟根據(jù)閉合式等式導(dǎo)出端到端響應(yīng)時(shí)間公式；根據(jù)可獲得的性能度量，用公式表示推理(參數(shù)估計(jì))問(wèn)題；把事務(wù)的端到端響應(yīng)時(shí)間和服務(wù)器利用率(utilization)數(shù)據(jù)輸入推理問(wèn)題公式中；求解模型參數(shù)(每個(gè)服務(wù)器每個(gè)事務(wù)的服務(wù)要求)的推理問(wèn)題，從而使模型產(chǎn)生的性能度量(performance metrics)到測(cè)量的性能度量的距離降至最小。
本發(fā)明的另一實(shí)施例致力于不存在閉合式表達(dá)式的情況。在這種情況下，離散事件模擬器以及一組巨集式啟發(fā)式(meta-heuristic)搜索方法可被用于獲得優(yōu)化的性能參數(shù)。巨集式啟發(fā)式搜索方式將引導(dǎo)搜索產(chǎn)生下一候選參數(shù)設(shè)置。模型的模擬器將被用于評(píng)估候選參數(shù)設(shè)置的性能度量。巨集式啟發(fā)式搜索方式將被再次用于根據(jù)當(dāng)前和過(guò)去的候選設(shè)置的性能度量，產(chǎn)生下一候選參數(shù)設(shè)置。重復(fù)該過(guò)程，直到指定的停止標(biāo)準(zhǔn)被滿足為止。該程序的輸出是參數(shù)設(shè)置的當(dāng)前最佳估計(jì)。
在優(yōu)選實(shí)施例的下述詳細(xì)說(shuō)明中，將說(shuō)明本發(fā)明的這些及其它特征和優(yōu)點(diǎn)，并且鑒于優(yōu)選實(shí)施例的下述詳細(xì)說(shuō)明，對(duì)本領(lǐng)域的普通技術(shù)人員來(lái)說(shuō)，本發(fā)明的這些及其它特征和優(yōu)點(diǎn)將變得顯而易見(jiàn)。


參考附圖，根據(jù)本發(fā)明的優(yōu)選實(shí)施例的下述詳細(xì)說(shuō)明，將更好地理解前述及其它例證特征、方面和優(yōu)點(diǎn)，其中圖1圖解說(shuō)明其中可實(shí)現(xiàn)本發(fā)明的數(shù)據(jù)處理系統(tǒng)的網(wǎng)絡(luò)；圖2是根據(jù)本發(fā)明的一個(gè)實(shí)施例，可實(shí)現(xiàn)成服務(wù)器的數(shù)據(jù)處理系統(tǒng)的方框圖；圖3是圖解說(shuō)明其中可實(shí)現(xiàn)本發(fā)明的數(shù)據(jù)處理系統(tǒng)的方框圖；圖4圖解說(shuō)明例證的電子商務(wù)站點(diǎn)及其對(duì)應(yīng)的排隊(duì)模型；圖5圖解說(shuō)明和圖4中描述的電子商務(wù)站點(diǎn)對(duì)應(yīng)的例證排隊(duì)模型；圖6圖解說(shuō)明本發(fā)明一個(gè)實(shí)施例的方法的方框圖；圖7圖解說(shuō)明例證的電子商務(wù)站點(diǎn)體系結(jié)構(gòu)；圖8表示封閉的排隊(duì)網(wǎng)絡(luò)模型的例子。
具體實(shí)施例方式
現(xiàn)在參見(jiàn)附圖，說(shuō)明本發(fā)明的一個(gè)優(yōu)選實(shí)施例。本領(lǐng)域的普通技術(shù)人員會(huì)認(rèn)識(shí)到本發(fā)明不受公開(kāi)的實(shí)施例，或者申請(qǐng)文件中用于描述公開(kāi)實(shí)施例的附圖的任何方式的限制。
本發(fā)明提供一種起因于IT基礎(chǔ)結(jié)構(gòu)和應(yīng)用程序的性能模型的自動(dòng)參數(shù)化方法和設(shè)備。所提出的一套方法中的一個(gè)新思想是排隊(duì)網(wǎng)絡(luò)模型和先進(jìn)推理技術(shù)的集成。這種方法使用系統(tǒng)測(cè)量數(shù)據(jù)和端到端響應(yīng)時(shí)間測(cè)量數(shù)據(jù)作為輸入，來(lái)推斷系統(tǒng)的排隊(duì)參數(shù)。
本發(fā)明提供和常規(guī)方法相比，有吸引力的許多特征和優(yōu)點(diǎn)。首先，本發(fā)明利用排隊(duì)網(wǎng)絡(luò)模型的長(zhǎng)度，排隊(duì)網(wǎng)絡(luò)模型有助于捕捉性能和容量之間的基本關(guān)系。其次，通過(guò)依賴于基于觀察利用率和端到端性能數(shù)據(jù)的推理技術(shù)，本發(fā)明的方法回避了傳統(tǒng)的排隊(duì)網(wǎng)絡(luò)建模工作的問(wèn)題，傳統(tǒng)的排隊(duì)網(wǎng)絡(luò)建模工作需要大量低級(jí)的系統(tǒng)監(jiān)視和數(shù)據(jù)收集。由于本發(fā)明的系統(tǒng)接收端到端數(shù)據(jù)測(cè)量結(jié)果，建模過(guò)程變成自動(dòng)化的。尤其對(duì)于復(fù)雜系統(tǒng)，本發(fā)明的建模方法允許快速并且準(zhǔn)確地建立性能模型。和基于手動(dòng)參數(shù)調(diào)整的常規(guī)性能建模方法相比，本發(fā)明的使用能夠顯著地節(jié)省時(shí)間。另外，本發(fā)明還允許根據(jù)系統(tǒng)監(jiān)視信息，以飛擊式建立性能模型。這種特征特別適用于點(diǎn)播系統(tǒng)中的動(dòng)態(tài)供給。
本發(fā)明于是提供一種端到端的，自我調(diào)整的靈活方法，該方法允許根據(jù)系統(tǒng)監(jiān)視信息，以飛擊式建立性能模型。該方法可被容易地合并到從性能預(yù)測(cè)到現(xiàn)有IT基礎(chǔ)結(jié)構(gòu)的優(yōu)化及成本低廉結(jié)構(gòu)的設(shè)計(jì)的一組性能工程功能中。所有這些功能可提供網(wǎng)站能力的理解，以及更好地理解可縮放性，QoS，容量成本，操作風(fēng)險(xiǎn)等之間的折衷。于是，本發(fā)明使IT規(guī)劃人員能夠積極進(jìn)取地開(kāi)發(fā)并提供提高客戶的基礎(chǔ)結(jié)構(gòu)，應(yīng)用程序和服務(wù)管理能力的解決方案，并幫助客戶預(yù)先管理他們的資源，按要求滿足他們的服務(wù)水平協(xié)議。
本發(fā)明還使用高級(jí)排隊(duì)網(wǎng)絡(luò)模型捕捉主要資源和延遲效應(yīng)，并提供性能量度和系統(tǒng)結(jié)構(gòu)之間良好的可跟蹤性。下面所述的普通推理方法允許通過(guò)利用諸如系統(tǒng)通過(guò)量、服務(wù)器利用率和端到端響應(yīng)時(shí)間之類(lèi)常見(jiàn)測(cè)量結(jié)果，推斷前面提及的服務(wù)時(shí)間參數(shù)。在連網(wǎng)和排隊(duì)文獻(xiàn)(參見(jiàn)S.Alouf，P.Nain和D.Towsley的Inferring networkcharacteristics via moment-based estimators，Proceedings of the IEEEInfocom 2001 Conference，2001年4月；V.Sharma，R.Mazumdar的Estimating traffic parameters in queueing systems with localinformation，Performance Evaluation，32217-230，1998)中存在關(guān)于相關(guān)推理問(wèn)題，主要是關(guān)于單一瓶頸隊(duì)列和按照先到先服務(wù)的服務(wù)規(guī)程的研究。在一個(gè)實(shí)施例中，由于輸入和輸出數(shù)據(jù)被倒轉(zhuǎn)，因此本發(fā)明解決的推理問(wèn)題不同。
建模在分布式數(shù)據(jù)處理環(huán)境中實(shí)現(xiàn)本發(fā)明的優(yōu)選實(shí)施例，在所述分布式數(shù)據(jù)處理環(huán)境中，端到端響應(yīng)時(shí)間和CPU利用率測(cè)量結(jié)果被編輯并被用于自動(dòng)建模。由于在分布式數(shù)據(jù)處理環(huán)境中實(shí)現(xiàn)本發(fā)明，因此首先簡(jiǎn)要說(shuō)明分布式數(shù)據(jù)處理環(huán)境，以便提供本發(fā)明在其中起作用的環(huán)境。
現(xiàn)在參考附圖，圖1圖解說(shuō)明網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100，網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100是其中可實(shí)現(xiàn)本發(fā)明的計(jì)算機(jī)網(wǎng)絡(luò)?？申P(guān)于整個(gè)環(huán)境執(zhí)行本發(fā)明的方法。實(shí)現(xiàn)本發(fā)明的計(jì)算機(jī)程序可被安裝在系統(tǒng)100中圖解說(shuō)明中的任意服務(wù)器或計(jì)算機(jī)中。另一方面，外部管理服務(wù)器或計(jì)算機(jī)(圖中未示出)也可實(shí)現(xiàn)本發(fā)明的方法。
圖1中，網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100包括網(wǎng)絡(luò)102，網(wǎng)絡(luò)102是用于提供在網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100內(nèi)，連接在一起的各種設(shè)備和計(jì)算機(jī)之間的通信鏈路的媒介。網(wǎng)絡(luò)102可包括諸如有線、無(wú)線通信鏈路，或者光纜之類(lèi)的連接。
在描述的例子中，服務(wù)器104與存儲(chǔ)單元106一起和網(wǎng)絡(luò)102連接。另外，客戶機(jī)108、110和112也與網(wǎng)絡(luò)102連接。這些客戶機(jī)108、110和112可以是，例如個(gè)人計(jì)算機(jī)或網(wǎng)絡(luò)計(jì)算機(jī)。在描述的例子中，服務(wù)器104向客戶機(jī)108-112提供數(shù)據(jù)，例如引導(dǎo)文件，操作系統(tǒng)圖像和應(yīng)用程序?？蛻魴C(jī)108、110和112是服務(wù)器104的客戶機(jī)。網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100可包括未示出的其它服務(wù)器、客戶機(jī)和其它設(shè)備。在描述的例子中，網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100是具有代表全球網(wǎng)絡(luò)集合的網(wǎng)絡(luò)102和使用TCP/IP協(xié)議組相互通信的網(wǎng)關(guān)的因特網(wǎng)。因特網(wǎng)的核心是由對(duì)數(shù)據(jù)和消息進(jìn)行路由的成千上萬(wàn)臺(tái)商業(yè)、政府、教育和其它計(jì)算機(jī)系統(tǒng)組成的主節(jié)點(diǎn)或主計(jì)算機(jī)之間的高速數(shù)據(jù)通信線路的主干網(wǎng)絡(luò)。當(dāng)然，網(wǎng)絡(luò)數(shù)據(jù)處理系統(tǒng)100也可被實(shí)現(xiàn)成許多不同類(lèi)型的網(wǎng)絡(luò)，例如企業(yè)內(nèi)部網(wǎng)，局域網(wǎng)(LAN)或者廣域網(wǎng)(WAN)。圖1只是一個(gè)例子，并不是對(duì)本發(fā)明的結(jié)構(gòu)限制。
參見(jiàn)圖2，根據(jù)本發(fā)明的一個(gè)優(yōu)選實(shí)施例，描述了可被實(shí)現(xiàn)成服務(wù)器，例如圖1中的服務(wù)器104的數(shù)據(jù)處理系統(tǒng)的方框圖。數(shù)據(jù)處理系統(tǒng)200可以是包括與系統(tǒng)總線206連接的多個(gè)處理器202和204的對(duì)稱多處理器(SMP)系統(tǒng)。另一方面，也可采用單個(gè)處理器系統(tǒng)。存儲(chǔ)器控制器/高速緩存208也與系統(tǒng)總線206連接，存儲(chǔ)器控制器/高速緩存208提供與本地存儲(chǔ)器209的接口。I/O總線橋接器210與系統(tǒng)總線206連接，提供與I/O總線212的接口。存儲(chǔ)器控制器/高速緩存208和I/O總線橋接器210可如圖所示結(jié)合在一起。
與I/O總線212連接的外設(shè)部件互連(PCI)總線橋接器214提供與PCI本地總線216的接口。許多調(diào)制解調(diào)器可與PCI本地總線216連接。典型的PCI總線實(shí)現(xiàn)支持四個(gè)PCI擴(kuò)展插槽或者附加連接器。借助通過(guò)內(nèi)裝板與PCI本地總線216連接的調(diào)制解調(diào)器218和網(wǎng)絡(luò)適配器220，可提供與圖1中的客戶機(jī)108-112的通信鏈路。
額外的PCI總線橋接器222和224向額外的PCI本地總線226和228提供接口，從所述PCI本地總線226和228，可支持額外的調(diào)制解調(diào)器或網(wǎng)絡(luò)適配器。按照這種方式，數(shù)據(jù)處理系統(tǒng)200允許與多個(gè)網(wǎng)絡(luò)計(jì)算機(jī)連接。存儲(chǔ)器映象圖形適配器230和硬盤(pán)232也可直接或間接地與I/O總線212連接，如圖所示。
本領(lǐng)域的普通技術(shù)人員會(huì)認(rèn)識(shí)到圖2中描述的硬件可變化。例如，除了所描述的硬件之外，或者代替所描述的硬件，還可使用其它外設(shè)，例如光盤(pán)驅(qū)動(dòng)器等。所描述的例子決不意味著對(duì)本發(fā)明結(jié)構(gòu)方面的限制。
圖2中描述的數(shù)據(jù)處理系統(tǒng)可以是，例如運(yùn)行先進(jìn)交互執(zhí)行程序(AIX)操作系統(tǒng)或LINUX操作系統(tǒng)的IBM e-Server pSeries系統(tǒng)(Armonk，New York的國(guó)際商用機(jī)器公司的產(chǎn)品)。
現(xiàn)在參見(jiàn)圖3，圖3是圖解說(shuō)明其中可實(shí)現(xiàn)本發(fā)明的數(shù)據(jù)處理系統(tǒng)的方框圖。數(shù)據(jù)處理系統(tǒng)300是客戶機(jī)計(jì)算機(jī)的例子。數(shù)據(jù)處理系統(tǒng)300采用外設(shè)部件互連(PCI)本地總線結(jié)構(gòu)。雖然描述的例子采用PCI總線，不過(guò)也可使用諸如加速圖形接口(AGP)和工業(yè)標(biāo)準(zhǔn)結(jié)構(gòu)(ISA)之類(lèi)其它總線結(jié)構(gòu)。處理器302和主存儲(chǔ)器304通過(guò)PCI橋接器308與PCI本地總線306連接。PCI橋接器308還可包括處理器302用的集成存儲(chǔ)器控制器和高速緩存存儲(chǔ)器。通過(guò)直接部件互連或者通過(guò)內(nèi)裝板，可實(shí)現(xiàn)與PCI本地總線306的其它連接。在描述的例子中，局域網(wǎng)(LAN)適配器310，SCSI主總線適配器312和擴(kuò)展總線接口314通過(guò)直接部件連接與PCI本地總線306連接。相反，音頻適配器316，圖形適配器318和音頻/視頻適配器319通過(guò)插入擴(kuò)展插槽中的內(nèi)裝板與PCI本地總線306連接。擴(kuò)展總線接口314向鍵盤(pán)和鼠標(biāo)適配器320，調(diào)制解調(diào)器322和輔助存儲(chǔ)器324提供連接。小型計(jì)算機(jī)系統(tǒng)接口(SCSI)主總線適配器312向硬盤(pán)驅(qū)動(dòng)器326，磁帶驅(qū)動(dòng)器328和CD-ROM驅(qū)動(dòng)器330提供連接。典型的PCI本地總線實(shí)現(xiàn)支持三個(gè)或四個(gè)PCI擴(kuò)展插槽或附加連接器。
操作系統(tǒng)運(yùn)行于處理器302上，并被用于協(xié)調(diào)和提供圖3中的數(shù)據(jù)處理系統(tǒng)300內(nèi)各個(gè)組件的控制。操作系統(tǒng)可以是可從市場(chǎng)上獲得的操作系統(tǒng)，例如可從微軟公司獲得的Windows 2000。諸如Java之類(lèi)面向?qū)ο缶幊滔到y(tǒng)可和操作系統(tǒng)一起運(yùn)行，并提供從在數(shù)據(jù)處理系統(tǒng)300上執(zhí)行的Java程序或應(yīng)用軟件對(duì)操作系統(tǒng)的調(diào)用?！癑ava”是太陽(yáng)微系統(tǒng)公司的商標(biāo)。操作系統(tǒng)、面向?qū)ο蟮牟僮飨到y(tǒng)和應(yīng)用軟件或程序用指令位于存儲(chǔ)設(shè)備上，例如硬盤(pán)驅(qū)動(dòng)器326上，并且可被裝入主存儲(chǔ)器304中，以便由處理器302執(zhí)行。
本領(lǐng)域的普通技術(shù)人員會(huì)認(rèn)識(shí)到根據(jù)實(shí)現(xiàn)，圖3中的硬件可發(fā)生變化。除了圖3中描述的硬件之外，或者代替圖3中描述的硬件，可使用其它內(nèi)部硬件或外設(shè)，例如快速ROM(或者等同的非易失性存儲(chǔ)器)或者光盤(pán)驅(qū)動(dòng)器等。另外，本發(fā)明的過(guò)程可被應(yīng)用于多處理器數(shù)據(jù)處理系統(tǒng)。
作為另一例子，數(shù)據(jù)處理系統(tǒng)300可以是配置成可不依賴于某些類(lèi)型的網(wǎng)絡(luò)通信接口而引導(dǎo)的單獨(dú)系統(tǒng)。作為另一例子，數(shù)據(jù)處理系統(tǒng)300可以是個(gè)人數(shù)字助理(PDA)設(shè)備，所述個(gè)人數(shù)字助理設(shè)備配有ROM和/或快速ROM，以便提供用于保存操作系統(tǒng)文件和/或用戶產(chǎn)生的數(shù)據(jù)的非易失性存儲(chǔ)器。
圖3中描述的例子和上述例子并不意味著對(duì)本發(fā)明結(jié)構(gòu)的限制。例如，除了采取PDA的形式之外，數(shù)據(jù)處理系統(tǒng)300也可以是筆記本計(jì)算機(jī)或手持式計(jì)算機(jī)。數(shù)據(jù)處理系統(tǒng)300也可以是公用信息機(jī)(kiosk)或Web設(shè)備。
本發(fā)明的建模方法基于使用排隊(duì)網(wǎng)絡(luò)模型捕捉高級(jí)電子商務(wù)服務(wù)過(guò)程。單一的服務(wù)器隊(duì)列獨(dú)自可能不足以適用于執(zhí)行各種功能(例如瀏覽、搜索和購(gòu)買(mǎi)事務(wù))的復(fù)雜電子商務(wù)基礎(chǔ)結(jié)構(gòu)。所述服務(wù)的一些部分被并行提供，例如關(guān)于嵌入圖像的請(qǐng)求的服務(wù)；而所述服務(wù)的其它部分被串行提供，例如數(shù)據(jù)庫(kù)事務(wù)的服務(wù)。這種復(fù)雜的服務(wù)結(jié)構(gòu)要求比類(lèi)屬單一服務(wù)器隊(duì)列更復(fù)雜的模型。
圖4圖解說(shuō)明了典型的電子商務(wù)服務(wù)結(jié)構(gòu)401的一個(gè)例子。這種電子商務(wù)基礎(chǔ)結(jié)構(gòu)通常具有多層機(jī)器。每層可處理一組特定的功能(例如瀏覽、搜索和購(gòu)買(mǎi)事務(wù)411)。例如，圖4中存在兩層。圖解說(shuō)明的第一層包括一群機(jī)器403，并被稱為前端；圖解說(shuō)明的第二層包括單個(gè)數(shù)據(jù)庫(kù)服務(wù)器405，并被稱為后端。前端Web服務(wù)器403處理關(guān)于靜態(tài)頁(yè)的請(qǐng)求的服務(wù)。另外，前端服務(wù)器403處理許多隨著時(shí)間而變化的頁(yè)，在將其發(fā)送給客戶機(jī)之前，這樣的頁(yè)均要求服務(wù)器執(zhí)行腳本，以便構(gòu)成該頁(yè)。這些頁(yè)被稱為動(dòng)態(tài)頁(yè)，其中一些涉及從數(shù)據(jù)庫(kù)服務(wù)器獲得或更新信息。后端數(shù)據(jù)庫(kù)服務(wù)器405處理數(shù)據(jù)庫(kù)事務(wù)。雖然圖4提供了電子商務(wù)基礎(chǔ)結(jié)構(gòu)的一般示圖，不過(guò)本發(fā)明的方法可被擴(kuò)展，以適應(yīng)各種相關(guān)的基礎(chǔ)結(jié)構(gòu)。
本發(fā)明利用高級(jí)多類(lèi)別排隊(duì)網(wǎng)絡(luò)模型。這種形式的模型捕捉主要資源和延遲效應(yīng)，并提供性能測(cè)量和系統(tǒng)結(jié)構(gòu)之間良好的可跟蹤性。不同的事務(wù)可被處理成不同類(lèi)別的工作，因?yàn)槭聞?wù)會(huì)對(duì)不同的組件產(chǎn)生不同的資源要求。引起不可忽略延遲的每個(gè)資源組件可被模擬成“黑盒”。黑盒可被定義成不指定詳細(xì)的服務(wù)時(shí)間信息的組件。
根據(jù)上面描述的建模方法，兩層電子商務(wù)結(jié)構(gòu)401從而可被如圖5中所示的高級(jí)排隊(duì)網(wǎng)絡(luò)模型501捕捉。每個(gè)前端服務(wù)器403被模擬成類(lèi)屬服務(wù)器503；類(lèi)似地，后端數(shù)據(jù)庫(kù)服務(wù)器405被模擬成類(lèi)屬服務(wù)器505。各種用戶事務(wù)411(瀏覽、購(gòu)買(mǎi)、搜索等)被看作不同的工作類(lèi)別511。由于多數(shù)現(xiàn)代計(jì)算機(jī)系統(tǒng)按照分時(shí)模式運(yùn)行，以便允許許多用戶同等地共享資源的使用，因此假定所有類(lèi)屬服務(wù)器按照處理器共享規(guī)程服務(wù)于多種類(lèi)別的工作。處理器共享規(guī)程可被定義成分時(shí)的近似，其中時(shí)間片(quantum)長(zhǎng)度趨于0。從而，如果系統(tǒng)中存在n個(gè)工作，那么它們均同時(shí)接收1/n資源。事實(shí)上，根據(jù)多個(gè)工作類(lèi)別是被順序處理還是被并行處理，在不同的黑盒可能需要不同的服務(wù)規(guī)程。
根據(jù)本發(fā)明的一個(gè)實(shí)施例，建立性能模型的初始步驟之一是獲得排隊(duì)網(wǎng)絡(luò)模型中每個(gè)類(lèi)屬服務(wù)器上每個(gè)類(lèi)別的服務(wù)要求的參數(shù)。理想地，獲得這些參數(shù)值涉及直接測(cè)量在每個(gè)設(shè)備處每個(gè)類(lèi)別的資源消耗，實(shí)踐中，這樣做的成本極高。一種解決方案依賴于可測(cè)量并且相對(duì)廉價(jià)的性能度量，例如端到端響應(yīng)時(shí)間，和一些或全部服務(wù)器的CPU負(fù)載信息。端到端響應(yīng)時(shí)間可被容易地測(cè)量，端到端響應(yīng)時(shí)間可被定義成從用戶發(fā)起請(qǐng)求到用戶收到響應(yīng)為止的時(shí)間。事實(shí)上，公司通常設(shè)置關(guān)于這些端到端延遲的具體目標(biāo)，以便保證令人滿意的用戶體驗(yàn)。CPU負(fù)載信息是用于Web服務(wù)性能監(jiān)視的另一種度量。
本發(fā)明可利用通用推理方法，利用最常見(jiàn)的測(cè)量結(jié)果，例如系統(tǒng)通過(guò)量，服務(wù)器的利用率，和端到端響應(yīng)時(shí)間，推斷這些服務(wù)時(shí)間參數(shù)。由于IT系統(tǒng)的隨機(jī)性，因此難以精確地確認(rèn)哪個(gè)測(cè)量結(jié)果組最佳。從而，如果IT系統(tǒng)模型的所得到的性能最接近于測(cè)量的性能，那么該組推斷的參數(shù)可被定義為“最佳”。兩種不同性能度量之間的距離可以是一般的，例如跨越不同組件或類(lèi)別的加權(quán)平均。
本發(fā)明中應(yīng)用的推理方法可包括兩方面。如果底層的排隊(duì)網(wǎng)絡(luò)模型具有閉合形式的性能表示(或良好的分析近似)，那么其性能可用公式表示成未知服務(wù)要求參數(shù)的函數(shù)，解算機(jī)(solver)或其它優(yōu)化工具可被用于獲得最佳參數(shù)設(shè)置。上述建模過(guò)程被描述成圖6中的模塊603，該模塊表示了本發(fā)明的實(shí)現(xiàn)。
下面關(guān)于在底層排隊(duì)網(wǎng)絡(luò)模型中具有I個(gè)服務(wù)器，J種不同的事務(wù)類(lèi)型的系統(tǒng)說(shuō)明一個(gè)例子，其中在服務(wù)器i的事務(wù)j的服務(wù)時(shí)間(用Sij表示)未知。實(shí)際測(cè)量事務(wù)j的到達(dá)速率(arrival rate)λj；和Rj(事務(wù)j的端到端響應(yīng)時(shí)間)，j＝1，...，J。此外，服務(wù)器i的利用率可用pi表示，i＝1，...，I。
對(duì)于開(kāi)放排隊(duì)網(wǎng)絡(luò)環(huán)境中的例證系統(tǒng)來(lái)說(shuō)，按照處理器共享服務(wù)規(guī)程的閉合式響應(yīng)時(shí)間(Rj)表達(dá)式(即圖6中的等式615)包括ρi=Σj=1JλjSij]]>Rij=Sij1-ρi]]>Rj=Σi=1IRij=Σi=1ISij1-ρi]]>為了得到封閉排隊(duì)網(wǎng)絡(luò)環(huán)境中端到端響應(yīng)時(shí)間的閉合式表達(dá)式(即等式615)，均值分析(MVA)算法(例如參見(jiàn)M，Reiser和S.S.Lavenberg，Mean-value analysis of closed multi-chain queueingnetworks，J.ACM，vol.27，p.313-322，1980)可被用于從m個(gè)同時(shí)存在的用戶到m+1個(gè)同時(shí)存在的用戶，遞歸地計(jì)算系統(tǒng)的平均延遲。
根據(jù)上面的響應(yīng)時(shí)間公式，可應(yīng)用統(tǒng)計(jì)推理技術(shù)搜索最佳的一組參數(shù)，以致所得到的性能最接近于測(cè)量的性能，這里兩個(gè)不同性能度量之間的距離可以是一般的，例如跨越不同組件或類(lèi)別的加權(quán)平均。
例如，對(duì)于開(kāi)放排隊(duì)網(wǎng)絡(luò)推理問(wèn)題來(lái)說(shuō)，根據(jù)關(guān)于所有工作類(lèi)別的端到端響應(yīng)時(shí)間的先前閉合式表達(dá)式，我們得到用于建模的下述類(lèi)屬優(yōu)化公式表示(即等式615)最小距離度量(測(cè)量的響應(yīng)時(shí)間，預(yù)測(cè)的響應(yīng)時(shí)間)mins距離度量(Rjm，Rje)約束于Rje=Σi=1ISij1-ρim,∀j]]>ρim-Σj=1JλjSij≤ϵi,∀i]]>ρim-Σj=1JλjSij≥-ϵi,∀i]]>Sij≥0，i，j存在滿足上述等式的數(shù)個(gè)Sij值。為了優(yōu)化該解答，選擇使測(cè)得的端到端響應(yīng)時(shí)間Rjm和預(yù)測(cè)的/計(jì)算的端到端響應(yīng)時(shí)間Rje之間的距離降至最小的Sij的值。
在封閉排隊(duì)網(wǎng)絡(luò)模型的情況下，可類(lèi)似地用公式表示推理問(wèn)題，這種情況下將應(yīng)用和用于封閉排隊(duì)網(wǎng)絡(luò)的MVA算法對(duì)應(yīng)的一組不同約束條件。
另一方面，如果不存在閉合式表達(dá)式或分析近似，那么本發(fā)明可依賴于離散事件模擬器611以及一組巨集式啟發(fā)式(meta-heuristic)搜索方法613(包括各種tabu搜索和/或模擬退火算法)搜索一組最佳參數(shù)。在F.Glover和M.Laguna的Tabu Search，Kluwer，Boston，1997；D.S.Johnson，C.R.Aragon，L.A.McGeoch和C.Schevon等的Optimization by simulated annealingan experimental evaluation，Operations Reasearch，vol.37，p.865-892，1989中可找到關(guān)于這些算法的更多細(xì)節(jié)。
圖6表示了本發(fā)明的一套方法600的一種實(shí)現(xiàn)。方法600包括三個(gè)關(guān)鍵模塊601、603和605。每個(gè)模塊執(zhí)行使建模過(guò)程的自動(dòng)化成為可能的不同方法。一般來(lái)說(shuō)，模塊601執(zhí)行系統(tǒng)配置和/或工作量表征功能；模塊603實(shí)現(xiàn)建模功能(本發(fā)明的一個(gè)關(guān)鍵方面)；模塊605可實(shí)現(xiàn)成本分析和性能預(yù)測(cè)功能。每個(gè)模塊可以是可由計(jì)算機(jī)執(zhí)行，以創(chuàng)建例如如圖8所示的模型的軟件模塊或者一組算法。
如圖6中所示，模塊601可執(zhí)行兩個(gè)初始步驟(i)理解系統(tǒng)結(jié)構(gòu)和事務(wù)流程；和(ii)表征峰值工作量。
在圖6中圖解說(shuō)明的實(shí)施例中，模塊601應(yīng)用系統(tǒng)結(jié)構(gòu)和事務(wù)流程的基本知識(shí)。模塊601還包括通過(guò)分析服務(wù)器日志，自動(dòng)表征工作量的語(yǔ)法分析和剖析(profiling)引擎601。日志包含輸入服務(wù)器的所有HTTP請(qǐng)求的事件記錄。模塊601處理原始日志，獲得該信息，并按照HTTP請(qǐng)求的行為，把HTTP請(qǐng)求群集成組。不同群集中的請(qǐng)求在請(qǐng)求類(lèi)型(例如靜態(tài)對(duì)動(dòng)態(tài))；事務(wù)發(fā)生的速率，和處理請(qǐng)求所需的時(shí)間等方面存在不同。
模塊603隨后把系統(tǒng)結(jié)構(gòu)映射到類(lèi)屬服務(wù)器網(wǎng)絡(luò)中。不同的請(qǐng)求群集(源于剖析)被映射到根據(jù)事務(wù)流程遍歷排隊(duì)網(wǎng)絡(luò)的不同工作類(lèi)別，同時(shí)每種類(lèi)別在不同的服務(wù)器具有不同的到達(dá)速率和不同的服務(wù)要求。由于在每個(gè)服務(wù)器，這些類(lèi)別的服務(wù)要求未知，因此本發(fā)明的系統(tǒng)必須通過(guò)訓(xùn)練可獲得的數(shù)據(jù)集，了解這些未知因素，所述可獲得的數(shù)據(jù)集包括常見(jiàn)并且廉價(jià)的測(cè)量結(jié)果，例如系統(tǒng)通過(guò)量，服務(wù)器的利用率和端到端響應(yīng)時(shí)間。模塊603利用排隊(duì)等式和最佳化公式表示615，并依賴于解算機(jī)617推斷未知的服務(wù)要求參數(shù)。可使用一部分?jǐn)?shù)據(jù)集訓(xùn)練模型，并使用剩余的數(shù)據(jù)集驗(yàn)證模型。事實(shí)上，當(dāng)能夠獲得更多的測(cè)量結(jié)果時(shí)，可重復(fù)上述學(xué)習(xí)程序，并且能夠細(xì)化模型。當(dāng)驗(yàn)證結(jié)果令人滿意并且穩(wěn)定時(shí)，隨后完整地產(chǎn)生性能模型。從而，獲得有效的性能模型就是獲得最佳的推斷參數(shù)。
一旦建立了有效的性能模型，那么上述閉合式等式或遞歸均值分析算法可被用于預(yù)測(cè)性能，優(yōu)化現(xiàn)有的IT基礎(chǔ)結(jié)構(gòu)，并通過(guò)部署和操作提出費(fèi)用低廉的結(jié)構(gòu)設(shè)計(jì)。這些功能可在圖6中的模塊605中實(shí)現(xiàn)。
例如，為了預(yù)測(cè)不同工作量下的性能(比方說(shuō)預(yù)期的未來(lái)商業(yè)增長(zhǎng)下的預(yù)測(cè)負(fù)載)，輸入負(fù)載可被代入分析排隊(duì)公式(等式615)或者可被饋入模擬器611。等式615或模擬器611的輸出隨后表示在預(yù)測(cè)負(fù)載下，預(yù)期的延遲和資源利用率。根據(jù)輸出性能度量和資源利用率度量，本發(fā)明的系統(tǒng)可確定針對(duì)當(dāng)前的基礎(chǔ)結(jié)構(gòu)，對(duì)于每種服務(wù)可傳遞的服務(wù)質(zhì)量等級(jí)，以及系統(tǒng)的瓶頸的位置等。
類(lèi)似地，來(lái)自模塊603的推理模型可被用于理解可縮放性，并分析一系列的假設(shè)情況。例如，為了回答“如果前端服務(wù)器容量被加倍，那么怎么樣”的問(wèn)題，只需要據(jù)此修改排隊(duì)公式615，或者在模擬器617中調(diào)整對(duì)應(yīng)的服務(wù)器速度，等式615或模擬器617的輸出將立即提供答案。
在現(xiàn)在的電子商務(wù)環(huán)境中，對(duì)于IT規(guī)劃人員來(lái)說(shuō)，重要的是使經(jīng)濟(jì)因素與容量聯(lián)系起來(lái)。模塊605還能夠提供量化成本-性能折衷的成本分析功能613。根據(jù)提供電子商務(wù)基礎(chǔ)結(jié)構(gòu)的總成本和容量利用率，能夠計(jì)算每個(gè)事務(wù)的成本，每個(gè)服務(wù)的成本和支持每個(gè)客戶的成本。
實(shí)現(xiàn)本節(jié)介紹根據(jù)未命名的商業(yè)網(wǎng)站的測(cè)試，利用本發(fā)明進(jìn)行研究的情況。本發(fā)明可用于對(duì)商業(yè)網(wǎng)站的測(cè)試環(huán)境建模。參見(jiàn)圖7，可在隔離的測(cè)試環(huán)境中建立網(wǎng)站701的副本。測(cè)試站點(diǎn)被認(rèn)為是隔離的，因?yàn)樗话闶菍?shí)驗(yàn)室中具有合成負(fù)載的專用環(huán)境，所述專用環(huán)境與生產(chǎn)環(huán)境隔離。站點(diǎn)701包含兩個(gè)獨(dú)立的服務(wù)器群集。門(mén)戶群集(portalcluster)703主要負(fù)責(zé)和認(rèn)證相關(guān)的請(qǐng)求。和商業(yè)相關(guān)的請(qǐng)求由商業(yè)事務(wù)服務(wù)器群集705獨(dú)立處理。在每個(gè)群集內(nèi)，存在兩層，前端服務(wù)器721-722，和后端數(shù)據(jù)庫(kù)服務(wù)器723-724。輸入站點(diǎn)的請(qǐng)求由負(fù)載均衡路由器，例如IBM的企業(yè)網(wǎng)絡(luò)分配器(eND)707(例如參見(jiàn)G.Hunt，G.Goldszmidt，R.King和R.Mukherjee，Network dispatcherAconnection router for scalable Internet services，Proceedings of the7th International World Wide Web Conference，April，1998)或者來(lái)源于其它廠商的類(lèi)似產(chǎn)品路由給一群前端服務(wù)器。eND 707按照加權(quán)循環(huán)方式路由請(qǐng)求，以便均勻地把負(fù)載分配給前端服務(wù)器721-722。處理后的頁(yè)面通常被直接返回給客戶機(jī)，而不必經(jīng)過(guò)eND 707。
腳本可被用于按照能夠容易地定制的某些比例，產(chǎn)生數(shù)種類(lèi)型的事務(wù)。運(yùn)行這些腳本，可建立許多負(fù)載驅(qū)動(dòng)器(模仿全球的客戶機(jī)710-712)，以便在所需的水平一致地驅(qū)動(dòng)負(fù)載?？蛻魴C(jī)710-712將被許多負(fù)載驅(qū)動(dòng)器代替，每個(gè)負(fù)載驅(qū)動(dòng)器產(chǎn)生合成通信。從而腳本可在這些負(fù)載驅(qū)動(dòng)器機(jī)器上運(yùn)行。如果系統(tǒng)中同時(shí)存在的用戶的總數(shù)為m，那么認(rèn)為該系統(tǒng)具有m個(gè)用戶會(huì)話的負(fù)載。這可通過(guò)由負(fù)載驅(qū)動(dòng)器啟動(dòng)m個(gè)用戶會(huì)話(通常開(kāi)始時(shí)間被稍微展開(kāi))來(lái)實(shí)現(xiàn)。每個(gè)會(huì)話遵循腳本中預(yù)先規(guī)定的一系列頁(yè)面請(qǐng)求。一旦該系列中的所有請(qǐng)求都被執(zhí)行，那么用戶進(jìn)入睡眠模式，持續(xù)給定的一段時(shí)間(思考時(shí)間)，隨后開(kāi)始新的循環(huán)，以便再次執(zhí)行腳本。
在測(cè)量了前端服務(wù)器721-722和后端服務(wù)器723-724的通過(guò)量之后，Web負(fù)載驅(qū)動(dòng)器收集服務(wù)器303、305的每個(gè)類(lèi)別的響應(yīng)時(shí)間統(tǒng)計(jì)信息，包括它們的均值和方差。根據(jù)兩組服務(wù)器上一組不同的工具，可獲得聚集利用率測(cè)量。
參考圖7說(shuō)明的系統(tǒng)可被模擬成封閉排隊(duì)網(wǎng)絡(luò)800，如圖8中所示。在圖8中，網(wǎng)絡(luò)831對(duì)應(yīng)于圖7中的因特網(wǎng)731；網(wǎng)絡(luò)分配器807對(duì)應(yīng)于eND 707；防火墻809對(duì)應(yīng)于防火墻709；服務(wù)器821-824對(duì)應(yīng)于服務(wù)器721-724。
通過(guò)利用前一節(jié)中提出的高級(jí)建模方法，Web服務(wù)結(jié)構(gòu)中的每個(gè)服務(wù)器可被看作具有許多類(lèi)屬服務(wù)器(或者CPU)的服務(wù)站。為了捕捉計(jì)算環(huán)境中的多線程處理，安全的是假定這些類(lèi)屬服務(wù)器正在按照處理器共享(PS)規(guī)程服務(wù)于各個(gè)作業(yè)。
由于在防火墻809和網(wǎng)絡(luò)831引起的延遲同樣不可忽略，因此這樣的延遲效應(yīng)被模擬成延遲服務(wù)器。另外還假定防火墻809和網(wǎng)絡(luò)831具有恒定的延遲，以便聚焦于Web服務(wù)器821-824的性能。事實(shí)上，在理想的測(cè)試環(huán)境中，情況通常就是這樣，在理想的測(cè)試環(huán)境中，測(cè)試系統(tǒng)通常和“l(fā)oad runner”(或者合成負(fù)載發(fā)生器)駐留在相同的本地網(wǎng)絡(luò)內(nèi)。另一延遲中心807被用于代表兩個(gè)連續(xù)事務(wù)之間的用戶思考時(shí)間(或者空閑時(shí)間)。
利用m個(gè)同時(shí)存在的用戶會(huì)話，把系統(tǒng)性能定義為在m個(gè)用戶在網(wǎng)絡(luò)中循環(huán)，每個(gè)用戶反復(fù)遵循一系列的請(qǐng)求的條件下，封閉排隊(duì)網(wǎng)絡(luò)的穩(wěn)態(tài)性能。依據(jù)每種請(qǐng)求類(lèi)型，在每層的資源要求的部分(fraction)可被看作判定變量。注意不是所有的請(qǐng)求都需要位于后端服務(wù)器的服務(wù)。從建模的觀點(diǎn)來(lái)看，當(dāng)這樣的請(qǐng)求經(jīng)過(guò)后端服務(wù)器時(shí)，這對(duì)應(yīng)于0服務(wù)時(shí)間。
圖8中所示的封閉排隊(duì)網(wǎng)絡(luò)是對(duì)稱的。這是因?yàn)樗醒舆t中心(即，eND 807，防火墻809，思考時(shí)間807和網(wǎng)絡(luò)831)可被看作無(wú)限的服務(wù)器中心，而Web服務(wù)器721-724被模擬成PS中心(即按照處理器共享規(guī)程)。于是，這種對(duì)稱的封閉排隊(duì)網(wǎng)絡(luò)的固定分布應(yīng)具有product形式(參見(jiàn)F.P.Kelly，Reversibility and StochasticNetworks，Wiley，Chichester，1994；R.W.Wolff，Stochastic Modelingand the Theory of Queues，Prentice Hall，1989)。product形式網(wǎng)絡(luò)的均值(MVA)算法隨后可被用于從m個(gè)同時(shí)存在的用戶到m+1個(gè)同時(shí)存在的用戶遞歸計(jì)算系統(tǒng)的平均延遲。
考慮當(dāng)封閉排隊(duì)系統(tǒng)700中存在m個(gè)用戶時(shí)的情況。利用下面的符號(hào)，I＝服務(wù)站的數(shù)目；yi＝用戶訪問(wèn)站i的次數(shù)；Si＝站i的請(qǐng)求的平均服務(wù)時(shí)間；λi(m)＝發(fā)往站i的請(qǐng)求的到達(dá)速率；Ri(m)＝站i的請(qǐng)求的平均響應(yīng)時(shí)間；Li(m)＝站i的請(qǐng)求的平均數(shù)目；ρi(m)＝服務(wù)站i的利用率水平；T(m)＝經(jīng)過(guò)一個(gè)周期的單個(gè)用戶的總響應(yīng)時(shí)間。
系統(tǒng)通過(guò)量從而等于1/T(m)?？扇缦掠?jì)算請(qǐng)求的到達(dá)速率和總的響應(yīng)時(shí)間T(m)=Σi=1Iyi·Ri(m),]]>λi(m)＝m·yi/T(m)，可如下(根據(jù)Little′s Law)計(jì)算在某一服務(wù)站，請(qǐng)求的平均數(shù)目Li(m)＝λi(m)Ri(m) i＝0，1，...，I。
作為上述MVT的基礎(chǔ)的到達(dá)定理表明當(dāng)某一作業(yè)到達(dá)某一服務(wù)站時(shí)，該作業(yè)“看到”的客戶的數(shù)目等于當(dāng)網(wǎng)絡(luò)少一個(gè)作業(yè)時(shí)，該服務(wù)站的平均隊(duì)列長(zhǎng)度。即，Ri(m+1)＝Si·[1+Li(m)]，i＝1，...，I。
于是，假定所有服務(wù)要求Si已知，通過(guò)在初始條件Li(0)＝0，i＝1，...I的情況下，遞歸地利用上述等式，可從m個(gè)用戶情景到m+1個(gè)用戶情景計(jì)算平均值Li(m)，Ri(m)和T(m)，i＝1，...，I，依次類(lèi)推。稱為MVA算法的遞歸程序可總結(jié)成如下所示1.令m＝12.計(jì)算每個(gè)類(lèi)別系統(tǒng)通過(guò)量λi(m)計(jì)算每個(gè)類(lèi)別系統(tǒng)待辦事項(xiàng)(backlog)Li(m)應(yīng)用Little′s定律，獲得每個(gè)類(lèi)別每個(gè)服務(wù)器響應(yīng)時(shí)間Ri(m)3.用m+1代替m，并返回步驟2
一般的歐幾里得距離可被用作測(cè)量的端到端響應(yīng)時(shí)間和預(yù)測(cè)的端到端響應(yīng)時(shí)間之間的差的度量，這里通過(guò)上述MVA算法獲得預(yù)測(cè)的響應(yīng)時(shí)間。隨后使用優(yōu)化問(wèn)題(即圖6中的等式615)查找服務(wù)時(shí)間參數(shù)，以致所述距離被降至最小。如前所述，利用解算機(jī)617求解非線性優(yōu)化問(wèn)題，從而獲得每個(gè)類(lèi)別的服務(wù)時(shí)間要求。
雖然關(guān)于單個(gè)實(shí)施例說(shuō)明了本發(fā)明，但是本領(lǐng)域的普通技術(shù)人員會(huì)認(rèn)識(shí)到在附加權(quán)利要求的精神和范圍內(nèi)，可利用各種修改實(shí)踐本發(fā)明。
此外，注意申請(qǐng)人的意圖是包含所有權(quán)利要求要素的等同物，即使以后在實(shí)施過(guò)程中被修改。
權(quán)利要求
1.一種為具有第一數(shù)量的服務(wù)器并執(zhí)行第二數(shù)量種事務(wù)的信息技術(shù)系統(tǒng)自動(dòng)建立性能模型的方法，所述方法包括接收系統(tǒng)的性能數(shù)據(jù)；接收事務(wù)流程和系統(tǒng)布局的數(shù)據(jù)；和根據(jù)接收的數(shù)據(jù)，推斷服務(wù)要求參數(shù)。
2.按照權(quán)利要求1所述的方法，其中接收性能數(shù)據(jù)的步驟包括接收系統(tǒng)執(zhí)行的事務(wù)的端到端響應(yīng)時(shí)間，或者在構(gòu)成系統(tǒng)的服務(wù)器處的事務(wù)的響應(yīng)時(shí)間。
3.按照權(quán)利要求1所述的方法，其中接收性能數(shù)據(jù)的步驟包括接收服務(wù)器負(fù)載信息。
4.按照權(quán)利要求1所述的方法，其中接收性能數(shù)據(jù)的步驟包括接收系統(tǒng)通過(guò)量測(cè)量結(jié)果。
5.按照權(quán)利要求1所述的方法，其中接收事務(wù)流程的步驟包括接收和系統(tǒng)的至少一個(gè)組件對(duì)應(yīng)的至少一個(gè)建模的隊(duì)列。
6.按照權(quán)利要求1所述的方法，其中推斷服務(wù)要求參數(shù)的步驟包括推斷所述服務(wù)器處理的事務(wù)的服務(wù)時(shí)間。
7.按照權(quán)利要求1所述的方法，其中推斷服務(wù)要求參數(shù)的步驟包括導(dǎo)出性能數(shù)據(jù)的等式；求解所述等式，找出和服務(wù)器處理的事務(wù)的服務(wù)時(shí)間對(duì)應(yīng)的至少一個(gè)值；和選擇服務(wù)時(shí)間的最佳值。
8.按照權(quán)利要求7所述的方法，其中選擇最佳值的步驟包括利用每個(gè)所述值，計(jì)算事務(wù)流程模型的性能數(shù)據(jù)；比較計(jì)算的性能數(shù)據(jù)和接收的性能數(shù)據(jù)；和選擇和最接近于測(cè)量性能數(shù)據(jù)的計(jì)算性能數(shù)據(jù)對(duì)應(yīng)的服務(wù)時(shí)間的值。
9.按照權(quán)利要求1所述的方法，其中推斷服務(wù)要求參數(shù)的步驟包括產(chǎn)生系統(tǒng)的隨機(jī)模型；從隨機(jī)模型獲得和服務(wù)器處理的事務(wù)的服務(wù)時(shí)間對(duì)應(yīng)的至少一個(gè)值；和搜索服務(wù)時(shí)間的最佳值。
10.按照權(quán)利要求9所述的方法，其中搜索步驟包括對(duì)系統(tǒng)的隨機(jī)模型應(yīng)用巨集式啟發(fā)式搜索。
11.按照權(quán)利要求9所述的方法，其中搜索步驟包括對(duì)系統(tǒng)的隨機(jī)模型應(yīng)用退火算法。
12.一種包含計(jì)算機(jī)可執(zhí)行代碼的計(jì)算機(jī)可讀介質(zhì)，所述計(jì)算機(jī)可執(zhí)行代碼當(dāng)被計(jì)算機(jī)讀取時(shí)，使計(jì)算機(jī)執(zhí)行對(duì)具有第一數(shù)量的服務(wù)器并執(zhí)行第二數(shù)量種事務(wù)的信息技術(shù)系統(tǒng)的性能進(jìn)行建模的方法，所述方法包括接收系統(tǒng)的性能數(shù)據(jù)；接收事務(wù)流程和系統(tǒng)布局的數(shù)據(jù)；和根據(jù)接收的數(shù)據(jù)，推斷服務(wù)要求參數(shù)。
13.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中接收性能數(shù)據(jù)的步驟包括接收位于服務(wù)器的事務(wù)的響應(yīng)時(shí)間，或者系統(tǒng)執(zhí)行的事務(wù)的端到端響應(yīng)時(shí)間。
14.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中接收性能數(shù)據(jù)的步驟包括接收服務(wù)器負(fù)載信息。
15.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中接收性能數(shù)據(jù)的步驟包括接收系統(tǒng)通過(guò)量測(cè)量結(jié)果。
16.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中接收事務(wù)流程的步驟包括接收和系統(tǒng)的至少一個(gè)組件對(duì)應(yīng)的至少一個(gè)建模的隊(duì)列。
17.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中推斷服務(wù)要求參數(shù)的步驟包括推斷所述服務(wù)器處理的事務(wù)的服務(wù)時(shí)間。
18.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中推斷服務(wù)要求參數(shù)的步驟包括導(dǎo)出性能數(shù)據(jù)的等式；求解所述等式，找出和服務(wù)器處理的事務(wù)的服務(wù)時(shí)間對(duì)應(yīng)的至少一個(gè)值；和選擇服務(wù)時(shí)間的最佳值。
19.按照權(quán)利要求18所述的計(jì)算機(jī)可讀介質(zhì)，其中選擇最佳值的步驟包括利用每個(gè)所述值，計(jì)算事務(wù)流程模型的性能數(shù)據(jù)；比較計(jì)算的性能數(shù)據(jù)和接收的性能數(shù)據(jù)；和選擇和最接近于測(cè)量性能數(shù)據(jù)的計(jì)算性能數(shù)據(jù)對(duì)應(yīng)的服務(wù)時(shí)間的值。
20.按照權(quán)利要求12所述的計(jì)算機(jī)可讀介質(zhì)，其中推斷服務(wù)要求參數(shù)的步驟包括產(chǎn)生系統(tǒng)的隨機(jī)模型；從隨機(jī)模型獲得和服務(wù)器處理的事務(wù)的服務(wù)時(shí)間對(duì)應(yīng)的至少一個(gè)值；和搜索服務(wù)時(shí)間的最佳值。
21.按照權(quán)利要求20所述的計(jì)算機(jī)可讀介質(zhì)，其中搜索步驟包括對(duì)系統(tǒng)的隨機(jī)模型應(yīng)用巨集式啟發(fā)式搜索。
22.按照權(quán)利要求20所述的計(jì)算機(jī)可讀介質(zhì)，其中搜索步驟包括對(duì)系統(tǒng)的隨機(jī)模型應(yīng)用退火算法。
全文摘要
公開(kāi)一種對(duì)信息技術(shù)系統(tǒng)的性能進(jìn)行建模的方法。所述方法包括下述步驟接收系統(tǒng)的性能數(shù)據(jù)；接收事務(wù)流程和系統(tǒng)布局的數(shù)據(jù)；和根據(jù)接收的數(shù)據(jù)，推斷服務(wù)要求參數(shù)。如果存在表征系統(tǒng)的閉合式表達(dá)式，那么基于預(yù)測(cè)的響應(yīng)時(shí)間和測(cè)量的響應(yīng)時(shí)間之間的最小距離的優(yōu)化算法可被用于獲得性能參數(shù)。另一方面，離散的事件模擬器以及一組巨集式啟發(fā)式搜索方法可被用于獲得優(yōu)化的性能參數(shù)。
文檔編號(hào)G06Q10/00GK1610311SQ200410084189
公開(kāi)日2005年4月27日 申請(qǐng)日期2004年10月15日 優(yōu)先權(quán)日2003年10月20日
發(fā)明者劉震, 彼塔·莫姆希洛維克, 夏紅輝, 張立 申請(qǐng)人:國(guó)際商業(yè)機(jī)器公司