專利名稱：主動式集群服務(wù)器的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及計算機(jī)網(wǎng)絡(luò)集群服務(wù)器，尤其是計算機(jī)網(wǎng)絡(luò)集群服務(wù)器的體系結(jié)構(gòu)及其服務(wù)調(diào)度方法。
背景技術(shù)：
隨著計算機(jī)與網(wǎng)絡(luò)通訊技術(shù)的突飛猛進(jìn)，計算機(jī)網(wǎng)、電視網(wǎng)、通訊網(wǎng)在全球范圍內(nèi)得到普及，三網(wǎng)合一的趨勢日趨明顯。網(wǎng)絡(luò)信息服務(wù)是國民經(jīng)濟(jì)和日常生活中不可缺少的資源和工具。電子商務(wù)、電子政府、電子教育，都急需要計算機(jī)網(wǎng)站——高性能網(wǎng)絡(luò)服務(wù)器。集群服務(wù)器是實(shí)現(xiàn)高性能網(wǎng)絡(luò)服務(wù)的有效途徑。
按體系結(jié)構(gòu)劃分，目前用得最多的集群服務(wù)器主要有兩類，即基于域名調(diào)度的集群服務(wù)器(Round-Robin DNS)和基于分發(fā)器調(diào)度的集群服務(wù)器(Dispatcher Based Cluster Server)。它們的特點(diǎn)是1.基于域名調(diào)度的集群服務(wù)器如NCSA group以及DEC WRL group的可伸縮服務(wù)器在市場產(chǎn)品中占有一定地位，它由一個域名服務(wù)器(DNS Server)和多個提供相同服務(wù)內(nèi)容的應(yīng)用服務(wù)器組成。應(yīng)用服務(wù)器各自有不同的IP地址。當(dāng)用戶通過域名來訪問服務(wù)器時，域名服務(wù)器通過負(fù)載平衡調(diào)度策略解析出不同的IP地址，并轉(zhuǎn)告用戶，用戶根據(jù)域名服務(wù)器提供的IP地址向?qū)?yīng)的應(yīng)用服務(wù)器請求，從而獲得透明的服務(wù)，其體系結(jié)構(gòu)是一個域名服務(wù)器通過內(nèi)部互連網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，用戶端通過外部網(wǎng)絡(luò)與集群服務(wù)器相連?；谟蛎{(diào)度的集群服務(wù)器內(nèi)部網(wǎng)絡(luò)一般采用通用網(wǎng)絡(luò)協(xié)議，其請求服務(wù)過程是二個分離的網(wǎng)絡(luò)通訊過程，一次由用戶端向域名服務(wù)器詢問，另一次由用戶端向負(fù)載平衡調(diào)度策略解析出的IP地址對應(yīng)的應(yīng)用服務(wù)器請求，其服務(wù)調(diào)度過程是首先由用戶向域名服務(wù)器詢問執(zhí)行服務(wù)的應(yīng)用服務(wù)器IP地址，待域名服務(wù)器解析域名后，再由用戶根據(jù)應(yīng)答的IP地址向應(yīng)用服務(wù)器請求服務(wù)。
2.基于分發(fā)器的集群服務(wù)器如IBM公司的NetDispatcher，它由一個分發(fā)服務(wù)器(Dispatcher Server)和多個應(yīng)用服務(wù)器組成。其服務(wù)調(diào)度過程對用戶透明，用戶通過域名對應(yīng)的虛擬IP地址訪問集群服務(wù)器時，所有的用戶請求都集中到分發(fā)服務(wù)器上，分發(fā)器根據(jù)應(yīng)用服務(wù)器報告的忙閑情況，進(jìn)行負(fù)載平衡調(diào)度，把用戶的請求轉(zhuǎn)發(fā)給某一個負(fù)載輕的應(yīng)用服務(wù)器提供請求服務(wù)，集群服務(wù)器的應(yīng)答報文可經(jīng)過分發(fā)器轉(zhuǎn)發(fā)給用戶，也可直接由應(yīng)用服務(wù)器返回給用戶，其體系結(jié)構(gòu)對應(yīng)有應(yīng)答報文由分發(fā)器轉(zhuǎn)發(fā)和應(yīng)答報文由應(yīng)用服務(wù)器直接返回兩種。前者用戶通過外部網(wǎng)絡(luò)與分發(fā)器相連，分發(fā)器通過內(nèi)部網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，用戶不直接與應(yīng)用服務(wù)器相連；后者用戶通過外部網(wǎng)絡(luò)與分發(fā)器相連，分發(fā)器通過內(nèi)部網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，應(yīng)用服務(wù)器通過外部網(wǎng)絡(luò)把應(yīng)答報文返回給用戶。其服務(wù)調(diào)度過程是首先由用戶向分發(fā)器發(fā)服務(wù)請求，分發(fā)器根據(jù)應(yīng)用服務(wù)器報告的忙閑情況，進(jìn)行負(fù)載平衡調(diào)度，把用戶的請求轉(zhuǎn)發(fā)給某一個負(fù)載輕的應(yīng)用服務(wù)器提供請求服務(wù)，應(yīng)答報文或由分發(fā)器轉(zhuǎn)發(fā)給用戶，或由應(yīng)用服務(wù)器返回給用戶。通過分發(fā)器轉(zhuǎn)發(fā)服務(wù)應(yīng)答報文容易造成瓶頸，而由應(yīng)用服務(wù)器直接將應(yīng)答報文返回給用戶可避免這個瓶頸。雖然基于分發(fā)器調(diào)度的集群服務(wù)器跟基于域名的集群服務(wù)器一樣，一次請求服務(wù)過程存在著二個網(wǎng)絡(luò)通訊過程，一次由用戶向分發(fā)器，另一次由分發(fā)器向分配的應(yīng)用服務(wù)器，但是二次網(wǎng)絡(luò)通訊都與分發(fā)器相關(guān)，分發(fā)器向應(yīng)用服務(wù)器的調(diào)度過程對用戶透明，而且二次網(wǎng)絡(luò)通訊有重疊，可節(jié)省時間。
但是，基于域名調(diào)度的集群服務(wù)器和基于分發(fā)器的集群服務(wù)器都要進(jìn)行負(fù)載平衡處理，包括應(yīng)用服務(wù)器的負(fù)載情況、正在服務(wù)的時間預(yù)報、負(fù)載平衡計算等，前者在域名服務(wù)器中處理，后者在分發(fā)服務(wù)器中執(zhí)行。用戶請求服務(wù)分別由域名服務(wù)器或分發(fā)器根據(jù)負(fù)載的實(shí)時情況分配到某一個實(shí)際的應(yīng)用服務(wù)器去完成。這樣處理的必然弊病是服務(wù)響應(yīng)延遲由于集中進(jìn)行負(fù)載平衡處理而增加。
技術(shù)內(nèi)容本發(fā)明要解決的技術(shù)問題是通過取消集群服務(wù)器內(nèi)部的集中負(fù)載平衡處理，提高集群服務(wù)器服務(wù)響應(yīng)性能，避免因為進(jìn)行負(fù)載平衡處理而導(dǎo)致的服務(wù)響應(yīng)延遲增加，形成基于服務(wù)器主動調(diào)度的集群服務(wù)器，即前端—集中器不再進(jìn)行服務(wù)調(diào)度，而由應(yīng)用服務(wù)器根據(jù)自身的空閑情況主動向集群服務(wù)器的集中器爭取用戶服務(wù)請求。
本發(fā)明的技術(shù)方案是本發(fā)明的體系結(jié)構(gòu)由一個前端服務(wù)器—集中器(Collector)和若干個應(yīng)用服務(wù)器組成，它的服務(wù)應(yīng)答報文有由集中器轉(zhuǎn)發(fā)和由應(yīng)用服務(wù)器直接發(fā)給用戶兩種方式。應(yīng)答報文由集中器轉(zhuǎn)發(fā)時體系結(jié)構(gòu)是用戶通過外部網(wǎng)絡(luò)與集群服務(wù)器的集中器相連，集中器通過內(nèi)部互連網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，用戶不直接與應(yīng)用服務(wù)器相連；由應(yīng)用服務(wù)器直接發(fā)給用戶時體系結(jié)構(gòu)是用戶通過外部網(wǎng)絡(luò)與集中器相連，集中器通過內(nèi)部網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，應(yīng)用服務(wù)器把應(yīng)答報文通過外部網(wǎng)絡(luò)返回給用戶。本發(fā)明服務(wù)過程是用戶通過域名對應(yīng)的虛擬IP地址請求服務(wù)，所有的請求報文都集中到集中器上，集中器將請求報文安置在自身的緩沖區(qū)內(nèi)，由應(yīng)用服務(wù)器根據(jù)自身的忙閑情況主動到集中器緩沖區(qū)去爭取，集中器不需要進(jìn)行負(fù)載平衡策略計算。根據(jù)集中器與應(yīng)用服務(wù)器內(nèi)部互連的方式不同，本發(fā)明有兩種集群互連方式1.緊耦合存儲通道型前端集中器和后端應(yīng)用服務(wù)器通過緊耦合的存儲通道互連實(shí)現(xiàn)，其實(shí)質(zhì)是共享內(nèi)存。它的請求服務(wù)調(diào)度工作流程是用戶通過網(wǎng)絡(luò)向集中器發(fā)送TCP(Transmission Contral Protocol傳輸控制協(xié)議)請求，集中器將請求放置在緩沖區(qū)—內(nèi)存中，緩沖排隊，應(yīng)用服務(wù)器根據(jù)忙閑情況，自主地向共享的集中器緩沖區(qū)索取用戶請求并為用戶服務(wù)，將服務(wù)響應(yīng)報文放在集中器緩沖區(qū)中，再由集中器將緩沖區(qū)中服務(wù)響應(yīng)報文通過網(wǎng)絡(luò)轉(zhuǎn)發(fā)給用戶。對用戶請求服務(wù)過程來講，只有一個單一的網(wǎng)絡(luò)通訊過程，即用戶向集中器提出請求和集中器將應(yīng)答轉(zhuǎn)發(fā)給用戶，其中集中器負(fù)責(zé)網(wǎng)絡(luò)通訊的狀態(tài)，而應(yīng)用服務(wù)器負(fù)責(zé)請求的服務(wù)應(yīng)答報文，二者之間只有四次共享內(nèi)存訪問，用時很短。
2.松耦合網(wǎng)絡(luò)互聯(lián)型前端集中器和后端應(yīng)用服務(wù)器之間采用網(wǎng)絡(luò)來互連，這就是松耦合。其請求服務(wù)過程包含了二個交叉重疊的網(wǎng)絡(luò)通訊過程，而且都以集中器為訪問對象，具體的通訊過程是客戶端→集中器①客戶向集中器提出請求連接；②集中器允許請求連接；③客戶進(jìn)一步提交請求服務(wù)報文；④集中器將請求服務(wù)報文放到緩沖區(qū)中等待索取，同時將應(yīng)用服務(wù)器送來的相應(yīng)的應(yīng)答服務(wù)報文轉(zhuǎn)發(fā)給用戶；⑤用戶接收應(yīng)答服務(wù)報文完成；⑥集中器撤銷此連接。
應(yīng)用服務(wù)器→集中器①應(yīng)用服務(wù)器根據(jù)自身的忙閑情況主動向集中器發(fā)請求連接；②集中器允許請求連接；③應(yīng)用服務(wù)器索取用戶的請求服務(wù)報文，同時傳送已處理好的請求服務(wù)應(yīng)答報文；④集中器提交適合該應(yīng)用服務(wù)器的請求報文；⑤應(yīng)用服務(wù)器接收回答；⑥集中器撤銷此連接。
本發(fā)明具有分布控制的特色，集中器不需要進(jìn)行集中負(fù)載平衡和調(diào)度。尤其在緊耦合存儲通道型中由于集中器和應(yīng)用服務(wù)器之間采用共享內(nèi)存機(jī)制，不需要進(jìn)行網(wǎng)絡(luò)聯(lián)系，減少了網(wǎng)絡(luò)通訊延遲。在松耦合網(wǎng)絡(luò)互聯(lián)型中，用戶與應(yīng)用服務(wù)器的地位對集中器來講是相同的，都是主動向集中器請求通訊的客戶(client)端，同時應(yīng)用服務(wù)器還有提供應(yīng)答報文的功能。在松耦合網(wǎng)絡(luò)互聯(lián)型中，如果內(nèi)部互聯(lián)與外部網(wǎng)絡(luò)采用統(tǒng)一的通用網(wǎng)絡(luò)，則形成統(tǒng)一網(wǎng)絡(luò)的主動式集群服務(wù)器用戶和應(yīng)用服務(wù)器都通過通用網(wǎng)絡(luò)與集中器相連，用戶和應(yīng)用服務(wù)器無論在與集中器相連的物理方式還是在與集中器的邏輯地位上都是平等的，集群服務(wù)器的網(wǎng)絡(luò)通訊不需要區(qū)分內(nèi)部網(wǎng)和外部網(wǎng)，因此集中器和應(yīng)用服務(wù)器都只需一個網(wǎng)絡(luò)接口，控制簡潔。
采用本發(fā)明能產(chǎn)生如下有益技術(shù)效果1.將客戶請求的分配和負(fù)載平衡計算由集群服務(wù)器的前端(域名服務(wù)器或分發(fā)器)集中處理，改為由多個應(yīng)用服務(wù)器自主分散處理，減少了集中器處理請求的難度，有效縮短了客戶請求響應(yīng)的時間。
2.在本發(fā)明緊耦合存儲通道型中，用戶請求服務(wù)過程只有一個網(wǎng)絡(luò)通訊過程，使得集群服務(wù)器像單一的服務(wù)器一樣，不需要進(jìn)行內(nèi)部網(wǎng)絡(luò)聯(lián)系，減少了網(wǎng)絡(luò)通訊延遲。
3.在本發(fā)明松耦合網(wǎng)絡(luò)互聯(lián)型中，雖然客戶請求服務(wù)過程和域名調(diào)度和分發(fā)器調(diào)度一樣包涵了二個網(wǎng)絡(luò)通訊過程，但域名調(diào)度二個通訊過程是分離串行，分發(fā)器調(diào)度的二個通訊過程只有部分重疊，而本發(fā)明松耦合網(wǎng)絡(luò)互聯(lián)型的二個通訊過程分離、交叉、重疊，在應(yīng)用服務(wù)器負(fù)載重的情況下，便于流水處理。
4.本發(fā)明統(tǒng)一網(wǎng)絡(luò)主動式集群服務(wù)器將外部網(wǎng)絡(luò)和內(nèi)部網(wǎng)絡(luò)統(tǒng)一起來，集群服務(wù)器的集中器和應(yīng)用服務(wù)器只有一個網(wǎng)絡(luò)接口，控制簡潔。
5.用戶在不同集群服務(wù)器中獲得服務(wù)響應(yīng)時間不同，其計算公式如下

表中有■ 通用網(wǎng)絡(luò)的通訊平均延時為tc(約為50-200ms)■ 負(fù)載平衡策略與調(diào)度耗時為tb(約為50-200ms)■ 應(yīng)用服務(wù)器的平均服務(wù)時間為ts(約為50-500ms)■ 共享內(nèi)存(存儲通道)訪問時間為tm(為ns(10-9s)量級)，相對于ms(10-3s)可忽略。
■ 二次網(wǎng)絡(luò)服務(wù)過程重疊流水節(jié)省的時間為td(約為50-100ms)獲得服務(wù)響應(yīng)的時間與請求的內(nèi)容有關(guān)，由上表可看出主動式集群調(diào)度比基于域名調(diào)度和基于分發(fā)器調(diào)度獲得服務(wù)響應(yīng)延遲減少了負(fù)載平衡策略調(diào)度耗時，減少了響應(yīng)延遲約50-200ms。


圖1是基于域名調(diào)度方式集群服務(wù)器體系結(jié)構(gòu)；圖2是基于域名調(diào)度的集群服務(wù)器服務(wù)調(diào)度工作流程；圖3是基于分發(fā)調(diào)度的集群服務(wù)器應(yīng)答報文由分發(fā)器轉(zhuǎn)發(fā)時體系結(jié)構(gòu)；圖4是基于分發(fā)調(diào)度的集群服務(wù)器應(yīng)答報文由應(yīng)用服務(wù)器直接返回體系結(jié)構(gòu)；圖5是基于分發(fā)調(diào)度的集群服務(wù)器服務(wù)調(diào)度工作流程；圖6是本發(fā)明應(yīng)答報文由集中器轉(zhuǎn)發(fā)時體系結(jié)構(gòu)；
圖7是本發(fā)明應(yīng)答報文由應(yīng)用服務(wù)器直接返回體系結(jié)構(gòu)；圖8是緊耦合主動式集群服務(wù)器工作流程；圖9是松耦合主動式集群服務(wù)器工作流程；圖10是統(tǒng)一網(wǎng)絡(luò)的主動式集群服務(wù)器；圖11是主動式集群服務(wù)器調(diào)度模型；圖12是基于負(fù)載平衡策略的傳統(tǒng)式調(diào)度模型；圖13是本發(fā)明與基于負(fù)載平衡策略的傳統(tǒng)式集群服務(wù)器平均響應(yīng)時間的比較；圖14是本發(fā)明與基于負(fù)載平衡策略的傳統(tǒng)式集群服務(wù)器資源利用率的比較；圖15是本發(fā)明與基于負(fù)載平衡策略的傳統(tǒng)式集群服務(wù)器等待隊列平均長度的比較；圖16是本發(fā)明與基于負(fù)載平衡策略的傳統(tǒng)式集群服務(wù)器服務(wù)容量一定時系統(tǒng)伸縮性的比較。
具體實(shí)施例方式圖1示出了基于域名調(diào)度方式集群服務(wù)器體系結(jié)構(gòu)；圖2示出了基于域名調(diào)度的集群服務(wù)器服務(wù)調(diào)度工作流程；圖3示出了基于分發(fā)調(diào)度的集群服務(wù)器應(yīng)答報文由分發(fā)器轉(zhuǎn)發(fā)時體系結(jié)構(gòu)；圖4示出了基于分發(fā)調(diào)度的集群服務(wù)器應(yīng)答報文由應(yīng)用服務(wù)器直接返回體系結(jié)構(gòu)；圖5示出了基于分發(fā)調(diào)度的集群服務(wù)器服務(wù)調(diào)度工作流程。
圖6是本發(fā)明應(yīng)答報文由集中器轉(zhuǎn)發(fā)時體系結(jié)構(gòu)用戶通過外部網(wǎng)絡(luò)與集群服務(wù)器的集中器相連，集中器通過內(nèi)部互連網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，用戶不直接與應(yīng)用服務(wù)器相連；圖7是本發(fā)明應(yīng)答報文由應(yīng)用服務(wù)器直接返回體系結(jié)構(gòu)用戶通過外部網(wǎng)絡(luò)與集中器相連，集中器通過內(nèi)部網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，應(yīng)用服務(wù)器把應(yīng)答報文通過外部網(wǎng)絡(luò)返回給用戶。
圖8是緊耦合主動式集群服務(wù)器工作流程用戶通過網(wǎng)絡(luò)向集中器發(fā)送TCP請求，集中器將請求放置在緩沖區(qū)—內(nèi)存中，緩沖排隊，應(yīng)用服務(wù)器根據(jù)忙閑情況，自主地向共享的集中器緩沖區(qū)索取用戶請求并為用戶服務(wù)，將服務(wù)響應(yīng)報文放在集中器緩沖區(qū)中，再由集中器將緩沖區(qū)中服務(wù)響應(yīng)報文通過網(wǎng)絡(luò)轉(zhuǎn)發(fā)給用戶；圖9是松耦合主動式集群服務(wù)器工作流程其請求服務(wù)過程包含了二個交叉重疊的網(wǎng)絡(luò)通訊過程，而且都以集中器為訪問對象，具體的通訊過程是客戶端→集中器①客戶向集中器提出請求連接；②集中器允許請求連接；③客戶進(jìn)一步提交請求服務(wù)報文；④集中器將請求服務(wù)報文放到緩沖區(qū)中等待索取，同時將應(yīng)用服務(wù)器送來的相應(yīng)的應(yīng)答服務(wù)報文轉(zhuǎn)發(fā)給用戶；⑤用戶接收應(yīng)答服務(wù)報文完成；⑥集中器撤銷此連接。
應(yīng)用服務(wù)器→集中器①應(yīng)用服務(wù)器根據(jù)自身的忙閑情況主動向集中器發(fā)請求連接；②集中器允許請求連接；③應(yīng)用服務(wù)器索取用戶的請求服務(wù)報文，同時傳送已處理好的請求服務(wù)應(yīng)答報文；④集中器提交適合該應(yīng)用服務(wù)器的請求報文；⑤應(yīng)用服務(wù)器接收回答；⑥集中器撤銷此連接。
圖10是統(tǒng)一網(wǎng)絡(luò)的主動式集群服務(wù)器內(nèi)部互聯(lián)與外部網(wǎng)絡(luò)采用統(tǒng)一的通用網(wǎng)絡(luò)，用戶和應(yīng)用服務(wù)器都通過通用網(wǎng)絡(luò)與集中器相連，用戶和應(yīng)用服務(wù)器無論在與集中器相連的物理方式還是在與集中器的邏輯地位上都是平等的，集群服務(wù)器的網(wǎng)絡(luò)通訊不需要區(qū)分內(nèi)部網(wǎng)和外部網(wǎng)，集中器和應(yīng)用服務(wù)器都只有一個網(wǎng)絡(luò)接口，控制簡潔。
從排隊論的觀點(diǎn)來看，基于服務(wù)器主動調(diào)度機(jī)制的集群網(wǎng)絡(luò)服務(wù)器體系結(jié)構(gòu)與傳統(tǒng)的基于負(fù)載平衡策略的體系結(jié)構(gòu)體現(xiàn)了不同的排隊論模型。通過排隊論模型的比較，可以對兩種體系結(jié)構(gòu)的性能做一個大致的分析，說明服務(wù)器主動調(diào)度機(jī)制的集群網(wǎng)絡(luò)服務(wù)器體系結(jié)構(gòu)具有的性能潛力。
在服務(wù)器主動調(diào)度的集群服務(wù)器中，用戶請求都在集中器處等候分發(fā)，應(yīng)用服務(wù)器根據(jù)實(shí)際的處理能力從集中器獲取請求，實(shí)際上是單隊列(集中器處)，多服務(wù)臺(各應(yīng)用服務(wù)器)的排隊系統(tǒng)，如圖11所示。在傳統(tǒng)的基于負(fù)載平衡策略的體系結(jié)構(gòu)中，用戶請求在即域名服務(wù)器或分發(fā)器處直接轉(zhuǎn)發(fā)，在應(yīng)用服務(wù)器處形成等待隊列，實(shí)際上是由多個單隊列、單服務(wù)臺的簡單排隊系統(tǒng)組合而成的復(fù)合排隊系統(tǒng)，如圖12所示。
假設(shè)用戶請求到達(dá)速率服從泊松分布，服務(wù)器處理單個請求時間服從指數(shù)分布，主動式集群服務(wù)器調(diào)度模型可用M/M/c的排隊系統(tǒng)近似表示，基于負(fù)載平衡策略的傳統(tǒng)式調(diào)度模型可用多個M/M/1的排隊系統(tǒng)近似表示。
其中，3λ表示用戶請求平均到達(dá)速率，μ表示服務(wù)器平均處理速率。假設(shè)每臺服務(wù)器處理能力相同，并且在兩種不同的調(diào)度機(jī)制下，用戶請求都能均勻地分發(fā)到各個服務(wù)器。由排隊論理論分析可知，在圖11、圖12所示的條件下，單隊比多隊有顯著的優(yōu)越性。兩種不同體系結(jié)構(gòu)集群關(guān)鍵性能的比較給出在圖13-16中。對于圖13，假定服務(wù)器的處理速率保持不變，實(shí)際上當(dāng)負(fù)載逐漸增大時，傳統(tǒng)基于負(fù)載平衡策略的集群服務(wù)器中請求內(nèi)容的處理將受不斷到達(dá)的用戶請求的干擾，造成處理速率的下降，這將大大影響平均響應(yīng)時間。而主動式集群不受此影響。圖14是本發(fā)明與基于負(fù)載平衡策略的傳統(tǒng)式集群服務(wù)器資源利用率的比較圖，此圖反映出本發(fā)明的資源利用率明顯高。圖15所示的基于負(fù)載平衡策略的傳統(tǒng)式集群等待隊列平均長度只是單臺服務(wù)器上的隊列長度，其整體資源消耗要遠(yuǎn)大于主動式集群。圖16說明主動式集群可以使用多臺低端服務(wù)器替代數(shù)量較少的高端服務(wù)器而集群性能不受影響，可以得到更高的性能價格比，基于負(fù)載平衡策略的傳統(tǒng)式集群服務(wù)器的性能則有所下降。
采用服務(wù)器主動調(diào)度機(jī)制的體系結(jié)構(gòu)，集群將具有潛在的性能上的優(yōu)勢，特別是在集群服務(wù)器的負(fù)載接近其服務(wù)容量時，這一點(diǎn)更加明顯。
權(quán)利要求
1.一種主動式集群服務(wù)器，由一個前端服務(wù)器和若干個應(yīng)用服務(wù)器組成，它的服務(wù)應(yīng)答報文有由前端服務(wù)器轉(zhuǎn)發(fā)和由應(yīng)用服務(wù)器直接發(fā)給用戶兩種方式，其特征在于前端服務(wù)器稱為集中器(Collector)，根據(jù)應(yīng)答報文發(fā)給用戶的兩種方式有應(yīng)答報文由集中器轉(zhuǎn)發(fā)體系結(jié)構(gòu)和應(yīng)答報文由應(yīng)用服務(wù)器直接發(fā)給用戶體系結(jié)構(gòu)兩種，集中器與應(yīng)用服務(wù)器內(nèi)部互連有緊耦合存儲通道型和松耦合存儲通道型兩種集群互連方式；其服務(wù)過程是用戶通過域名對應(yīng)的虛擬IP地址請求服務(wù)，所有的請求報文都集中到集中器上，集中器將請求報文安置在自身的緩沖區(qū)內(nèi)，由應(yīng)用服務(wù)器根據(jù)自身的忙閑情況主動到集中器緩沖區(qū)去爭取用戶服務(wù)請求。
2.如權(quán)利要求1所述的主動式集群服務(wù)器，其特征在于所述應(yīng)答報文由集中器轉(zhuǎn)發(fā)體系結(jié)構(gòu)是用戶通過外部網(wǎng)絡(luò)與集群服務(wù)器的集中器相連，集中器通過內(nèi)部互連網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，用戶不直接與應(yīng)用服務(wù)器相連；所述由應(yīng)用服務(wù)器直接發(fā)給用戶體系結(jié)構(gòu)是用戶通過外部網(wǎng)絡(luò)與集中器相連，集中器通過內(nèi)部網(wǎng)絡(luò)與多個應(yīng)用服務(wù)器相連，應(yīng)用服務(wù)器把應(yīng)答報文通過外部網(wǎng)絡(luò)返回給用戶。
3.如權(quán)利要求1所述的主動式集群服務(wù)器，其特征在于所述緊耦合存儲通道型前端集中器和后端應(yīng)用服務(wù)器通過緊耦合的存儲通道互連即通過共享內(nèi)存實(shí)現(xiàn)，它的請求服務(wù)調(diào)度工作流程是用戶通過域名對應(yīng)的虛擬IP地址請求服務(wù)，所有的請求報文都集中到集中器上，集中器將請求報文安置在自身的緩沖區(qū)內(nèi)，由應(yīng)用服務(wù)器根據(jù)自身的忙閑情況主動到集中器緩沖區(qū)去爭取，集中器不需進(jìn)行負(fù)載平衡策略計算。
4.如權(quán)利要求1所述的主動式集群服務(wù)器，其特征在于所述松耦合存儲通道型前端集中器和后端應(yīng)用服務(wù)器之間采用網(wǎng)絡(luò)來互連，其請求服務(wù)過程包含了二個交叉重疊的網(wǎng)絡(luò)通訊過程，都以集中器為訪問對象，具體的通訊過程是客戶端→集中器①客戶向集中器提出請求連接；②集中器允許請求連接；③客戶進(jìn)一步提交請求服務(wù)報文；④集中器將請求服務(wù)報文放到緩沖區(qū)中等待索取，同時將應(yīng)用服務(wù)器送來的相應(yīng)的應(yīng)答服務(wù)報文轉(zhuǎn)發(fā)給用戶；⑤用戶接收應(yīng)答服務(wù)報文完成；⑥集中器撤銷此連接。應(yīng)用服務(wù)器→集中器①應(yīng)用服務(wù)器根據(jù)自身的忙閑情況主動向集中器發(fā)請求連接；②集中器允許請求連接；③應(yīng)用服務(wù)器索取用戶的請求服務(wù)報文，同時傳送已處理好的請求服務(wù)應(yīng)答報文；④集中器提交適合該應(yīng)用服務(wù)器的請求報文；⑤應(yīng)用服務(wù)器接收回答；⑥集中器撤銷此連接。
5.如權(quán)利要求1或3所述的主動式集群服務(wù)器，其特征在于所述松耦合網(wǎng)絡(luò)互聯(lián)型主動式集群服務(wù)器，如果內(nèi)部互聯(lián)與外部網(wǎng)絡(luò)采用統(tǒng)一的通用網(wǎng)絡(luò)，則形成統(tǒng)一網(wǎng)絡(luò)的主動式集群服務(wù)器用戶和應(yīng)用服務(wù)器都通過通用網(wǎng)絡(luò)與集中器相連，用戶和應(yīng)用服務(wù)器無論在與集中器相連的物理方式還是在與集中器的邏輯地位上都是平等的，集群服務(wù)器的網(wǎng)絡(luò)通訊不需要區(qū)分內(nèi)部網(wǎng)和外部網(wǎng)，集中器和應(yīng)用服務(wù)器都只需一個網(wǎng)絡(luò)接口，控制簡潔。
全文摘要
本發(fā)明公開了一種主動式集群服務(wù)器,所要解決的技術(shù)問題是取消集群服務(wù)器內(nèi)部的集中負(fù)載平衡處理,提高集群服務(wù)器服務(wù)響應(yīng)性能,避免由于負(fù)載平衡處理而導(dǎo)致服務(wù)響應(yīng)延遲增加。技術(shù)方案是:它由一個集中器和若干個應(yīng)用服務(wù)器組成,應(yīng)答報文有由集中器轉(zhuǎn)發(fā)和由應(yīng)用服務(wù)器直接發(fā)給用戶兩種方式,集中器與應(yīng)用服務(wù)器內(nèi)部有緊耦合和松耦合存儲通道型兩種集群互連方式;由應(yīng)用服務(wù)器根據(jù)自身的空閑情況主動向集中器爭取用戶服務(wù)請求,而不由集中器進(jìn)行服務(wù)調(diào)度。本發(fā)明將客戶請求的分配和負(fù)載平衡計算由集群服務(wù)器的前端集中處理改為由多個應(yīng)用服務(wù)器自主分散處理,減少了集中器處理請求的難度,有效縮短了客戶請求響應(yīng)的時間。
文檔編號G06F13/14GK1371060SQ0211401
公開日2002年9月25日 申請日期2002年3月25日 優(yōu)先權(quán)日2002年3月25日
發(fā)明者金士堯, 葉超群, 王曉川, 吳飛 申請人:中國人民解放軍國防科學(xué)技術(shù)大學(xué)