一種云計(jì)算環(huán)境中虛擬主機(jī)的高并發(fā)高可靠負(fù)載均衡軟件架構(gòu)設(shè)計(jì)的制作方法
【專利摘要】本發(fā)明涉及一種軟件架構(gòu)設(shè)計(jì)方法，具體是一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件架構(gòu)設(shè)計(jì)。一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件的技術(shù)方案是通過高并發(fā)組件、負(fù)載均衡組件、健康檢查組件、云分配調(diào)度管理組件等實(shí)現(xiàn)應(yīng)用的高并發(fā)、高可靠，同時(shí)可滿足隨著應(yīng)用業(yè)務(wù)量周期性變化，實(shí)現(xiàn)虛擬機(jī)的彈性縮放，增加或降低虛擬機(jī)吞吐量、數(shù)據(jù)處理能力、提升虛擬機(jī)靈活性和可用性。
【專利說明】一種云計(jì)算環(huán)境中虛擬主機(jī)的高并發(fā)高可靠負(fù)載均衡軟件 架構(gòu)設(shè)計(jì)
[0001]

【技術(shù)領(lǐng)域】 本發(fā)明涉及一種軟件架構(gòu)設(shè)計(jì)方法，具體是一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可 靠的負(fù)載均衡軟件架構(gòu)設(shè)計(jì)。

【背景技術(shù)】
[0002] 隨著云計(jì)算技術(shù)的發(fā)展，使用虛擬機(jī)來承載業(yè)務(wù)應(yīng)用，提升硬件服務(wù)器的效率，節(jié) 約能源，降低經(jīng)濟(jì)成本和空間浪費(fèi)，成為今后發(fā)展一大趨勢(shì)。
[0003] 虛擬機(jī)與真實(shí)物理服務(wù)器一樣，擁有CPU、內(nèi)存、磁盤空間等資源，隨著業(yè)務(wù)量的提 高，訪問量和數(shù)據(jù)流量的周期性(每日8點(diǎn)-18點(diǎn))快速增長(zhǎng)，虛擬機(jī)的處理能力和計(jì)算強(qiáng)度 也相應(yīng)地增大，使得單一虛擬機(jī)根本無法承擔(dān)。在此情況下，如果對(duì)現(xiàn)有虛擬機(jī)在線擴(kuò)容， 可滿足一定要求。然而隨著業(yè)務(wù)量周期性降低就造成現(xiàn)有資源的浪費(fèi)，同時(shí)，并不能保證虛 擬機(jī)穩(wěn)定可靠，避免單點(diǎn)故障造成虛擬機(jī)上的業(yè)務(wù)不能正常運(yùn)轉(zhuǎn)。因此，為保障虛擬機(jī)高可 靠以及周期性高并發(fā)彈性的需求，迫切需要一種廉價(jià)有效透明的方法動(dòng)態(tài)擴(kuò)展虛擬機(jī)以及 增加虛擬機(jī)吞吐量、數(shù)據(jù)處理能力、提升虛擬機(jī)靈活性和可用性。
[0004] 此時(shí)，迫切需求一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件，來 確保虛擬機(jī)的高并發(fā)與高可靠。最終滿足虛擬機(jī)對(duì)上層應(yīng)用支撐，成為業(yè)界關(guān)注的問題。


【發(fā)明內(nèi)容】

[0005] 為了保障虛擬機(jī)的高可靠與高并發(fā)以及可用性，本發(fā)明提出了一種云計(jì)算環(huán)境下 虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件架構(gòu)設(shè)計(jì)，能夠充分利用云計(jì)算平臺(tái)的優(yōu)勢(shì)，提 升虛擬主機(jī)處理能力與可靠性，有利于云計(jì)算推廣與應(yīng)用。
[0006] 為達(dá)到上述目的，本發(fā)明所設(shè)計(jì)的一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的 負(fù)載均衡軟件架構(gòu)，包括如下四大組件：并發(fā)處理組件、負(fù)載均衡組件、云分配調(diào)度管理組 件、健康檢查組件 進(jìn)一步，所述的并發(fā)處理組件是基于集群技術(shù)和Linux操作系統(tǒng)設(shè)計(jì)的一種高性能、 高可用的服務(wù)器，它具有很好的可伸縮性、可靠性和可管理性。并發(fā)處理器組件工作在網(wǎng)絡(luò) 4層，抗負(fù)載能力強(qiáng)、僅作請(qǐng)求分發(fā)之用，自身采用雙機(jī)熱備方案，避免并發(fā)處理器單點(diǎn)故 障； 進(jìn)一步，所述的負(fù)載均衡組件是一種基于事件驅(qū)動(dòng)，單一進(jìn)程模型，避免多進(jìn)程或多 線程模型受內(nèi)存限制、系統(tǒng)調(diào)度器限制以及無處不在的鎖限制，此模型支持非常大的并發(fā) 連接數(shù)TCP和HTTP應(yīng)用的代理，使每個(gè)CPU時(shí)間片（Cycle)做更多的工作，并支持虛擬主 機(jī)。
[0007] 進(jìn)一步，所述的云分配調(diào)度管理組件根據(jù)健康管理組件信息，在云資源池中根據(jù) 一定策略自動(dòng)創(chuàng)建虛擬主機(jī)和關(guān)閉虛擬主機(jī)。并將創(chuàng)建好的虛擬主機(jī)真實(shí)IP分配給負(fù)載 均衡組件或退出負(fù)載均衡組件，同時(shí)，通過云分配調(diào)度管理組件可以查看虛擬主機(jī)集群情 況。
[0008] 進(jìn)一步，所述的健康檢查組件可以按照指定規(guī)則對(duì)虛擬主機(jī)進(jìn)行健康和可用性檢 查，自動(dòng)隔離異常狀態(tài)虛擬主機(jī)和多余虛擬機(jī)，從而解決單臺(tái)虛擬主機(jī)在處理性能，擴(kuò)展 性，穩(wěn)定性，以及冗余等方面的問題。一旦發(fā)現(xiàn)健康問題，調(diào)度云分配調(diào)度管理組件增加將 服務(wù)切換，確保服務(wù)可用性。
[0009] 本發(fā)明構(gòu)造一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件，將云虛 擬主機(jī)池、并發(fā)組件、負(fù)載均衡組件、健康檢查組件、云分配調(diào)度管理組件等軟件組件進(jìn)行 了優(yōu)化組合，滿足云計(jì)算環(huán)境下，業(yè)務(wù)應(yīng)用對(duì)虛擬主機(jī)高并發(fā)、高可靠實(shí)施需求。在可用性 和易用性方面比F5更加靈活與實(shí)用。
[0010] 通過本發(fā)明提出的一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件， 可以滿足云環(huán)境下高并發(fā)、高可靠實(shí)施要求。

【專利附圖】

【附圖說明】
[0011] 圖1是本發(fā)明邏輯架構(gòu)示意圖； 圖2是本發(fā)明直接路由模式示意圖； 圖3是本發(fā)明隧道路由模式示意圖。

【具體實(shí)施方式】
[0012] 下面參照附圖對(duì)本發(fā)明進(jìn)行詳細(xì)說明。以下對(duì)本發(fā)明的詳細(xì)說明并不是對(duì)本發(fā)明 的限制。相反，本發(fā)明的范圍是由所附權(quán)利要求而定的。
[0013] 本發(fā)明一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件架構(gòu)示意圖 如圖1所示。
[0014] 從底向上依次為： 云主機(jī)資源池：計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等物理基礎(chǔ)設(shè)施資源經(jīng)虛擬化后形成邏輯資源池，通 過虛擬化管理軟件進(jìn)行重新分配，形成滿足業(yè)務(wù)需要的虛擬主機(jī)。云主機(jī)資源池是由若干 不同規(guī)格虛擬主機(jī)組成。
[0015] 健康檢查組件：根據(jù)度量指標(biāo)（Metrics)對(duì)虛擬機(jī)健康狀況進(jìn)行檢查，主要度量 指標(biāo)：系統(tǒng)負(fù)載（Load)、內(nèi)存使用率、CPU使用率、磁盤I/O等，通過對(duì)虛擬主機(jī)周期性全面 健康評(píng)估，給云分配調(diào)度管理組件提供決策支持。
[0016] 云分配調(diào)度管理組件：根據(jù)健康檢查組件度量指標(biāo)結(jié)果，訪問高峰期時(shí)間段內(nèi)自 動(dòng)啟動(dòng)虛擬機(jī)和訪問量降低的時(shí)間段內(nèi)關(guān)閉虛擬機(jī)。通過云分配管理組件可以設(shè)定虛擬機(jī) 業(yè)務(wù)群最大個(gè)數(shù)與默認(rèn)個(gè)數(shù)，監(jiān)測(cè)當(dāng)前虛擬機(jī)業(yè)務(wù)群，根據(jù)需要人為對(duì)虛擬機(jī)生命周期管 理(啟動(dòng)、停止、創(chuàng)建、銷毀、快照)。
[0017] 負(fù)載均衡組件：提供高可用性、負(fù)載均衡以及基于TCP和HTTP應(yīng)用的代理，支持從 4層至7層的網(wǎng)絡(luò)交換，即覆蓋所有的TCP協(xié)議，支持基于請(qǐng)求URUH0ST頭、COOKIE等進(jìn)行 內(nèi)容交換，基于動(dòng)態(tài)加權(quán)輪循，加權(quán)源地址哈希，加權(quán)URL哈希和加權(quán)參數(shù)哈希實(shí)現(xiàn)負(fù)載均 衡算法。
[0018] 并發(fā)處理組件：它是整個(gè)虛擬機(jī)集群對(duì)外面的前端機(jī)，負(fù)責(zé)將客戶的請(qǐng)求發(fā)送到 一組虛擬機(jī)上執(zhí)行，而客戶認(rèn)為服務(wù)是來自同一個(gè)IP地址，它基于IP輪詢技術(shù)，調(diào)度器具 有很好的吞吐率，將請(qǐng)求均衡地轉(zhuǎn)移到不同的虛擬機(jī)上執(zhí)行，結(jié)合負(fù)載均衡技術(shù)將一組虛 擬機(jī)構(gòu)成一個(gè)高性能的、高可用的虛擬機(jī)集群，整個(gè)虛擬機(jī)集群的結(jié)構(gòu)對(duì)用戶來講是透明 的，而且無需修改客戶端與服務(wù)器端程序，具有較高的透明性、可伸縮性、高可用性和易管 理性。
[0019] 本發(fā)明直接路由模式示意圖如圖2所示。
[0020] 結(jié)合圖2,進(jìn)行闡述當(dāng)集群應(yīng)用計(jì)算機(jī)和調(diào)度計(jì)算機(jī)在同一個(gè)網(wǎng)段時(shí)，可以用直接 路由技術(shù)實(shí)現(xiàn)虛擬服務(wù)器。在這種技術(shù)下，調(diào)度機(jī)和應(yīng)用服務(wù)器都使用同一個(gè)IP對(duì)外服 務(wù)。但只有調(diào)度機(jī)對(duì)ARP請(qǐng)求進(jìn)行響應(yīng)，所有應(yīng)用服務(wù)器對(duì)自身IP的ARP請(qǐng)求保持靜默。 具體實(shí)現(xiàn)是網(wǎng)關(guān)會(huì)把對(duì)這個(gè)服務(wù)IP的請(qǐng)求全部定向給調(diào)度機(jī)，而調(diào)度機(jī)收到數(shù)據(jù)包后根 據(jù)調(diào)度算法，找出對(duì)應(yīng)的應(yīng)用服務(wù)器，把目的MAC地址改為應(yīng)用服務(wù)器的MAC地址并發(fā)給這 臺(tái)應(yīng)用服務(wù)器。這時(shí)應(yīng)用服務(wù)器收到這個(gè)數(shù)據(jù)包相當(dāng)于直接從客戶端收到這個(gè)數(shù)據(jù)包，處 理后直接返回給客戶端。由于調(diào)度機(jī)要對(duì)二層包頭進(jìn)行改換，所以調(diào)度機(jī)和應(yīng)用服務(wù)器之 間必須在一個(gè)廣播域，或者在同一臺(tái)交換機(jī)上。
[0021] DR模式具體的工作模式是當(dāng)用戶訪問業(yè)務(wù)虛擬IP后，業(yè)務(wù)虛擬IP把數(shù)據(jù)包通過 調(diào)度機(jī)轉(zhuǎn)交給應(yīng)用服務(wù)器，應(yīng)用服務(wù)器在收到數(shù)據(jù)包后通過網(wǎng)卡別名欺騙(節(jié)點(diǎn)的網(wǎng)卡配 置別名，IP為業(yè)務(wù)虛擬IP)，直接用業(yè)務(wù)虛擬IP相應(yīng)客戶端，從而加快了回應(yīng)速度，也避免 了調(diào)度機(jī)成為地址轉(zhuǎn)換的單點(diǎn)故障.目前主要應(yīng)用的為DR模式的負(fù)載均衡。
[0022] 本發(fā)明隧道路由模式示意圖如圖3所示。
[0023] 結(jié)合圖3,進(jìn)行闡述.當(dāng)集群的節(jié)點(diǎn)不在同一個(gè)網(wǎng)段時(shí)可用的轉(zhuǎn)發(fā)機(jī)制，也就是用 IP隧道技術(shù)實(shí)現(xiàn)虛擬服務(wù)器。IP隧道技術(shù)是將IP包封裝在其他網(wǎng)絡(luò)流量中的方法。為了 安全的考慮，應(yīng)該使用隧道技術(shù)中的VPN，也可使用租用專線。
[0024] TUN模式源于采用NAT技術(shù)時(shí)，由于請(qǐng)求和響應(yīng)報(bào)文都必須經(jīng)過調(diào)度器地址重寫， 當(dāng)客戶請(qǐng)求越來越多時(shí)，調(diào)度器的處理能力將成為瓶頸。為了解決這個(gè)問題，調(diào)度器把請(qǐng)求 報(bào)文通過IP隧道轉(zhuǎn)發(fā)至應(yīng)用服務(wù)器，而應(yīng)用服務(wù)器將響應(yīng)直接返回給客戶，所以調(diào)度機(jī)只 處理請(qǐng)求報(bào)文。由于一般網(wǎng)絡(luò)服務(wù)應(yīng)答比請(qǐng)求報(bào)文大許多，采用VS/TUN技術(shù)后，集群系統(tǒng) 的最大吞吐量可以提高10倍。（通過重寫ip來實(shí)現(xiàn)，應(yīng)用服務(wù)器直接回復(fù)客戶端。）
【權(quán)利要求】
1. 一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件架構(gòu)設(shè)計(jì)，其特征在 于，采用并發(fā)處理組件、負(fù)載均衡組件、云分配調(diào)度管理組件、健康檢查組件等將云主機(jī)機(jī) 資源池銜接起來，實(shí)現(xiàn)云計(jì)算環(huán)境下應(yīng)用的高并發(fā)、高可靠與負(fù)載均衡。
2. 如權(quán)利要求1所述的一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件 架構(gòu)，其特征在于，采用云分配調(diào)度管理組件，根據(jù)需要實(shí)現(xiàn)虛擬資源的分配與管理。
3. 如權(quán)利要求1所述的一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件 架構(gòu)，其特征在于，采用健康檢查組件，定時(shí)采集虛擬機(jī)的健康度量指標(biāo)，并實(shí)現(xiàn)度量指標(biāo) 在回環(huán)數(shù)據(jù)庫存儲(chǔ)。
4. 如權(quán)利要求1所述的一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件 架構(gòu)，其特征在于，采用負(fù)載均衡組件，提供4層和7層的負(fù)載均衡，無論是Web服務(wù)器，還 是中間件服務(wù)器，無需更改配置即可透明接入。
5. 如權(quán)利要求1所述的一種云計(jì)算環(huán)境下虛擬主機(jī)的高并發(fā)高可靠的負(fù)載均衡軟件 架構(gòu)，其特征在于，采用高并發(fā)組件實(shí)現(xiàn)請(qǐng)求分發(fā)。
【文檔編號(hào)】G06F9/455GK104111874SQ201410049954
【公開日】2014年10月22日 申請(qǐng)日期:2014年2月13日 優(yōu)先權(quán)日:2014年2月13日
【發(fā)明者】王茜, 李安穎, 梁小江, 魏巍, 朱志祥 申請(qǐng)人:西安未來國(guó)際信息股份有限公司, 西安郵電大學(xué)