服務(wù)器集群系統(tǒng)及其負(fù)載均衡實(shí)現(xiàn)方法
【專利摘要】本發(fā)明提供一種服務(wù)器集群系統(tǒng)及其負(fù)載均衡實(shí)現(xiàn)的方法，其中的系統(tǒng)包括：主節(jié)點(diǎn)、備用節(jié)點(diǎn)和普通節(jié)點(diǎn)；主節(jié)點(diǎn)包括信息收集模塊、負(fù)載計(jì)算模塊和連接分發(fā)決策模塊；備用節(jié)點(diǎn)，用于向主節(jié)點(diǎn)上報(bào)所述備用節(jié)點(diǎn)的信息，并與主節(jié)點(diǎn)的信息同步，以及對(duì)普通節(jié)點(diǎn)進(jìn)行篩選，以便其成為主節(jié)點(diǎn)后，選擇出的普通節(jié)點(diǎn)作為新的備用節(jié)點(diǎn)；普通節(jié)點(diǎn)，用于向主節(jié)點(diǎn)上報(bào)所述普通節(jié)點(diǎn)的信息，以及當(dāng)其成為備用節(jié)點(diǎn)時(shí)，進(jìn)行備用節(jié)點(diǎn)切換。利用本發(fā)明，通過(guò)使用網(wǎng)狀組網(wǎng)的具有主備用節(jié)點(diǎn)的服務(wù)器集群系統(tǒng)，利用主備用節(jié)點(diǎn)的結(jié)構(gòu)實(shí)現(xiàn)連接分發(fā)，達(dá)到分?jǐn)傔B接的功能，能夠解決連接分發(fā)延時(shí)、連接不穩(wěn)定和不可靠的問(wèn)題。
【專利說(shuō)明】服務(wù)器集群系統(tǒng)及其負(fù)載均衡實(shí)現(xiàn)方法

【技術(shù)領(lǐng)域】
[0001] 本發(fā)明涉及服務(wù)器集群【技術(shù)領(lǐng)域】，更為具體地，涉及一種服務(wù)器集群系統(tǒng)及其負(fù) 載均衡實(shí)現(xiàn)方法。

【背景技術(shù)】
[0002] 隨著汽車保有量的上升、道路擁堵?tīng)顩r的加劇以及交通安全事故的頻繁發(fā)生，越 來(lái)越多的組織機(jī)構(gòu)及個(gè)人認(rèn)識(shí)到深入理解駕駛員的駕駛行為將有助于制定更為合理的交 通法則和設(shè)計(jì)更加有效的智能駕駛導(dǎo)航系統(tǒng)，從而達(dá)到減少交通事故提高交通效率的目 的。而上述的分析需要建立在大量的行車數(shù)據(jù)的基礎(chǔ)上，需要大量智能終端（包括車載終 端、手機(jī)終端等設(shè)備）不斷實(shí)時(shí)地采集行車數(shù)據(jù)上傳至車載服務(wù)器并進(jìn)行分析。因此，隨著 智能終端及其業(yè)務(wù)量的不斷提升，單一的服務(wù)器已經(jīng)無(wú)法滿足要求，服務(wù)器集群成為一種 需要解決問(wèn)題的方案。
[0003] 就智能終端而言，其承擔(dān)著數(shù)據(jù)收集的重任，需要不斷高效地采集車輛的行車數(shù) 據(jù)，并與服務(wù)器保持連接，將搜集到的數(shù)據(jù)實(shí)時(shí)地傳送到服務(wù)端，此過(guò)程簡(jiǎn)稱為"數(shù)據(jù)擺 渡"。在實(shí)時(shí)"數(shù)據(jù)擺渡"領(lǐng)域中，一般采用長(zhǎng)連接方式，即保持智能終端長(zhǎng)時(shí)間在線，從而 保證數(shù)據(jù)的實(shí)時(shí)性。同時(shí)，由于其數(shù)據(jù)量取決于車輛的使用量，因此必然存在與服務(wù)器端的 大量數(shù)據(jù)交互。因此，在此架構(gòu)下，如何設(shè)計(jì)服務(wù)器，一方面滿足大量智能終端的長(zhǎng)連接需 求，另一方面保證大量數(shù)據(jù)的收發(fā)及存儲(chǔ)正常，成為了該領(lǐng)域的一個(gè)需要解決的問(wèn)題。
[0004] 針對(duì)上述問(wèn)題，一種解決方案是采用反向代理以實(shí)現(xiàn)負(fù)載均衡。
[0005] 在采用反向代理實(shí)現(xiàn)的負(fù)載均衡方案中，利用的是反向代理服務(wù)器實(shí)現(xiàn)鏈接分 發(fā)。其具體方法可以描述為：反向代理服務(wù)器首先接受來(lái)自網(wǎng)絡(luò)上的連接請(qǐng)求，并與其建立 連接，然后將隨后收到的來(lái)自客戶終端的訪問(wèn)請(qǐng)求轉(zhuǎn)發(fā)給內(nèi)部服務(wù)器，并將從內(nèi)部服務(wù)器 上返回的結(jié)果再次轉(zhuǎn)發(fā)給相應(yīng)的發(fā)起連接請(qǐng)求的客戶終端。在此過(guò)程中，反向代理服務(wù)器 對(duì)外表現(xiàn)為一個(gè)服務(wù)器，對(duì)內(nèi)則是連接請(qǐng)求的總?cè)肟诤涂偝隹冢?fù)責(zé)將連接分發(fā)給內(nèi)部的 各個(gè)服務(wù)器。
[0006] 這種解決方案的缺陷在于：由于反向代理服務(wù)器處于0SI七層模型中的應(yīng)用層， 因此必須為每一種應(yīng)用服務(wù)專門(mén)開(kāi)發(fā)一個(gè)反向代理服務(wù)器，這樣就限制了反向代理負(fù)載均 衡技術(shù)的應(yīng)用范圍。目前，反向代理技術(shù)一般都用于對(duì)web服務(wù)器的負(fù)載均衡，另外，在反 向代理方式實(shí)現(xiàn)的負(fù)載均衡中，針對(duì)每一次代理行為，代理服務(wù)器必須打開(kāi)兩個(gè)連接，一個(gè) 對(duì)外，一個(gè)對(duì)內(nèi)，因此在并發(fā)連接請(qǐng)求數(shù)量非常大的時(shí)候，代理服務(wù)器的負(fù)載也就非常大 了，在該類網(wǎng)絡(luò)中，通常情況下都是代理服務(wù)器本身成為了服務(wù)性能的瓶頸。
[0007] 另一種最常用的解決方案是基于網(wǎng)絡(luò)地址轉(zhuǎn)換（NAT)技術(shù)實(shí)現(xiàn)的負(fù)載均衡。網(wǎng)絡(luò) 地址轉(zhuǎn)換技術(shù)誕生之初，為了解決IPv4公網(wǎng)地址數(shù)量減少的問(wèn)題，將內(nèi)部多個(gè)服務(wù)器對(duì)外 映射為一個(gè)單獨(dú)的服務(wù)器，以利用一個(gè)公網(wǎng)IP使內(nèi)部多個(gè)服務(wù)器對(duì)外提供服務(wù)。
[0008] 在這種基于網(wǎng)絡(luò)地址轉(zhuǎn)換（NAT)技術(shù)實(shí)現(xiàn)的解決方案中，從網(wǎng)絡(luò)上發(fā)起的連接請(qǐng) 求，經(jīng)過(guò)地址轉(zhuǎn)換服務(wù)器進(jìn)行地址轉(zhuǎn)換，再分發(fā)到內(nèi)部的各個(gè)服務(wù)器上。采用這種方式實(shí)現(xiàn) 的負(fù)載均衡，雖然能夠解決反向代理技術(shù)位于應(yīng)用層，但尚需要針對(duì)每種應(yīng)用服務(wù)專門(mén)開(kāi) 發(fā)反向代理服務(wù)器的問(wèn)題；并且網(wǎng)絡(luò)地址轉(zhuǎn)換方式實(shí)現(xiàn)的負(fù)載均衡仍需要針對(duì)每次請(qǐng)求打 開(kāi)對(duì)內(nèi)及對(duì)外的兩個(gè)連接才能實(shí)現(xiàn)，因此在數(shù)據(jù)里非常大的時(shí)候地址轉(zhuǎn)換服務(wù)器本身會(huì)成 為性能瓶頸。
[0009] 與此同時(shí)，網(wǎng)絡(luò)地址轉(zhuǎn)換方式實(shí)現(xiàn)的負(fù)載均衡中，實(shí)現(xiàn)的是在每個(gè)請(qǐng)求到達(dá)時(shí)動(dòng) 態(tài)選擇某個(gè)內(nèi)部服務(wù)器處理請(qǐng)求，并需要在處理結(jié)果返回時(shí)正確找到請(qǐng)求來(lái)源，因此需要 對(duì)每個(gè)請(qǐng)求保留其轉(zhuǎn)換映射表。同樣的道理，當(dāng)請(qǐng)求量變大時(shí)，對(duì)請(qǐng)求映射表的維護(hù)也需要 消耗大量資源，與反向代理技術(shù)相比，更容易造成地址轉(zhuǎn)換服務(wù)器的性能問(wèn)題；最后，在目 前實(shí)際使用的地址轉(zhuǎn)換服務(wù)式負(fù)載均衡中，大多將地址轉(zhuǎn)換功能集成在硬件交換機(jī)中，其 實(shí)現(xiàn)的只是簡(jiǎn)單的選擇策略，不能支持更優(yōu)化的負(fù)載均衡策略和更復(fù)雜的應(yīng)用協(xié)議，并且 在擴(kuò)展時(shí)有一定困難。


【發(fā)明內(nèi)容】

[0010] 鑒于上述問(wèn)題，本發(fā)明的目的是提供一種服務(wù)器集群系統(tǒng)及其負(fù)載均衡實(shí)現(xiàn)方 法，通過(guò)使用網(wǎng)狀組網(wǎng)的具有主備用節(jié)點(diǎn)的服務(wù)器集群系統(tǒng)，利用主備用節(jié)點(diǎn)的結(jié)構(gòu)實(shí)現(xiàn) 連接分發(fā)，達(dá)到分?jǐn)傔B接的功能，以解決連接分發(fā)延時(shí)、連接不穩(wěn)定和不可靠的問(wèn)題。
[0011] 一方面，本發(fā)明提供一種服務(wù)器集群系統(tǒng)，包括主節(jié)點(diǎn)、備用節(jié)點(diǎn)和普通節(jié)點(diǎn)；其 中，
[0012] 主節(jié)點(diǎn)包括信息收集模塊、負(fù)載計(jì)算模塊和連接分發(fā)決策模塊；
[0013] 信息收集模塊，用于存儲(chǔ)與主節(jié)點(diǎn)相連的備用節(jié)點(diǎn)和各個(gè)普通節(jié)點(diǎn)上報(bào)的負(fù)載信 息；
[0014] 負(fù)載計(jì)算模塊，用于根據(jù)上報(bào)的負(fù)載信息，獲得與負(fù)載信息相對(duì)應(yīng)的節(jié)點(diǎn)的負(fù)載 值；
[0015] 連接分發(fā)決策模塊，用于通過(guò)HTTP重定向進(jìn)行連接分發(fā)，其中，根據(jù)負(fù)載計(jì)算模 塊獲得的節(jié)點(diǎn)的負(fù)載值，選擇出最優(yōu)處理能力的節(jié)點(diǎn)，作為連接分發(fā)的節(jié)點(diǎn)；
[0016] 備用節(jié)點(diǎn)，用于向主節(jié)點(diǎn)上報(bào)備用節(jié)點(diǎn)的負(fù)載信息，并與主節(jié)點(diǎn)的信息同步，以及 對(duì)普通節(jié)點(diǎn)進(jìn)行篩選，選擇出的普通節(jié)點(diǎn)作為新的備用節(jié)點(diǎn)；
[0017] 普通節(jié)點(diǎn)，用于向主節(jié)點(diǎn)上報(bào)所述普通節(jié)點(diǎn)的信息，以及當(dāng)其成為備用節(jié)點(diǎn)時(shí)，將 其切換為行備用節(jié)點(diǎn)。
[0018] 此外，優(yōu)選的方案是，主節(jié)點(diǎn)還包括管理會(huì)話模塊；用于管理客戶終端與集群系 統(tǒng)之間的會(huì)話歷史記錄，并負(fù)責(zé)刪除客戶終端與集群系統(tǒng)之間長(zhǎng)時(shí)間不活躍的歷史會(huì)話記 錄。此外，優(yōu)選的方案是，在信息收集模塊中創(chuàng)建一個(gè)nodelist，nodelist用于存儲(chǔ)與主節(jié) 點(diǎn)相連的各個(gè)節(jié)點(diǎn)的負(fù)載信息；其中，
[0019] nodelist包括更新機(jī)制，更新機(jī)制用于刪除離線的節(jié)點(diǎn)。
[0020] 此外，優(yōu)選的方案是，負(fù)載信息包括：與主節(jié)點(diǎn)相連的每個(gè)節(jié)點(diǎn)的CPU利用率、內(nèi) 存利用率、網(wǎng)絡(luò)帶寬占用率以及socket連接占用率；
[0021] 在負(fù)載計(jì)算模塊中，對(duì)每個(gè)節(jié)點(diǎn)通過(guò)特定加權(quán)的負(fù)載計(jì)算算法，分別獲取其對(duì)于 CPU密集型、內(nèi)存密集型、網(wǎng)絡(luò)帶寬密集型及socket密集型請(qǐng)求的負(fù)載能力，并將獲取的結(jié) 果更新到nodelist。
[0022] 此外，優(yōu)選的方案是，備用節(jié)點(diǎn)包括備用節(jié)點(diǎn)信息上報(bào)模塊、信息同步模塊和普通 節(jié)點(diǎn)篩選模塊；
[0023] 備用節(jié)點(diǎn)信息上報(bào)模塊，用于向主節(jié)點(diǎn)周期性匯報(bào)負(fù)載信息；
[0024] 信息同步模塊，用于周期性地同步信息收集模塊中的負(fù)載信息，并進(jìn)行存儲(chǔ)；
[0025] 普通節(jié)點(diǎn)篩選模塊，用于當(dāng)備用節(jié)點(diǎn)成為主節(jié)點(diǎn)時(shí)，選擇普通節(jié)點(diǎn)中負(fù)載最小的 節(jié)點(diǎn)成為其備選。
[0026] 此外，優(yōu)選的方案是，普通節(jié)點(diǎn)包括普通節(jié)點(diǎn)信息上報(bào)模塊和備用節(jié)點(diǎn)切換模 塊；
[0027] 普通節(jié)點(diǎn)信息上報(bào)模塊，用于向主節(jié)點(diǎn)周期性匯報(bào)負(fù)載信息；
[0028] 備用節(jié)點(diǎn)切換模塊，用于當(dāng)備用節(jié)點(diǎn)成為新的主節(jié)點(diǎn)后，將對(duì)其所選擇出的新的 備用節(jié)點(diǎn)發(fā)出通知，普通節(jié)點(diǎn)據(jù)此切換為備用節(jié)點(diǎn)，并承擔(dān)備用節(jié)點(diǎn)的職責(zé)。
[0029] 另一方面，本發(fā)明還提供一種基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，服務(wù)器 集群系統(tǒng)包括主節(jié)點(diǎn)、備用節(jié)點(diǎn)和普通節(jié)點(diǎn)，其中，：
[0030] 主節(jié)點(diǎn)周期性地接收與其相連的備用節(jié)點(diǎn)、各個(gè)普通節(jié)點(diǎn)上報(bào)的負(fù)載信息，并根 據(jù)上報(bào)的負(fù)載信息，獲得與負(fù)載信息相對(duì)應(yīng)的各個(gè)節(jié)點(diǎn)的負(fù)載值；
[0031] 當(dāng)有客戶終端連接請(qǐng)求時(shí)，主節(jié)點(diǎn)通過(guò)HTTP重定向進(jìn)行連接分發(fā)，其中，主節(jié)點(diǎn) 根據(jù)獲得的各個(gè)節(jié)點(diǎn)的負(fù)載值，選出最優(yōu)處理能力的節(jié)點(diǎn)，作為連接的分發(fā)節(jié)點(diǎn)；
[0032] 當(dāng)主節(jié)點(diǎn)出現(xiàn)故障時(shí)，備用節(jié)點(diǎn)進(jìn)行主備切換，成為新的主節(jié)點(diǎn)，執(zhí)行主節(jié)點(diǎn)的職 責(zé)，同時(shí)啟用新的備用節(jié)點(diǎn)；
[0033] 新的備用節(jié)點(diǎn)將負(fù)載信息上報(bào)到新的主節(jié)點(diǎn)中，并與新的主節(jié)點(diǎn)的信息同步，同 時(shí)對(duì)普通節(jié)點(diǎn)進(jìn)行篩選，選出新的備用節(jié)點(diǎn)的備選。
[0034] 此外，優(yōu)選的方案是，在主節(jié)點(diǎn)中設(shè)置有會(huì)話管理機(jī)制，會(huì)話管理機(jī)制包括客戶終 端與集群系統(tǒng)之間的會(huì)話歷史記錄，并負(fù)責(zé)刪除所述客戶終端與主節(jié)點(diǎn)之間長(zhǎng)時(shí)間不活躍 的歷史會(huì)話記錄，使選擇的連接分發(fā)的節(jié)點(diǎn)為最佳選擇。
[0035] 此外，優(yōu)選的方案是，在主節(jié)點(diǎn)中創(chuàng)建一個(gè)nodelist，各個(gè)節(jié)點(diǎn)的負(fù)載信息存儲(chǔ)在 node list中，在客戶客戶終端請(qǐng)求連接之前，
[0036] 判斷nodelist中是否存在離線的節(jié)點(diǎn)，若存在離線的節(jié)點(diǎn)，則將此節(jié)點(diǎn)從 nodelist中刪除；若存在離線的節(jié)點(diǎn)為備用節(jié)點(diǎn)，貝U重新在普通節(jié)點(diǎn)中選擇新的備用節(jié) 點(diǎn)，并與主節(jié)點(diǎn)進(jìn)行信息同步；
[0037] 若在nodelist中不存在離線的節(jié)點(diǎn)，根據(jù)客戶終端的連接請(qǐng)求進(jìn)行連接分發(fā)。
[0038] 此外，優(yōu)選的方案是，在新的備用節(jié)點(diǎn)對(duì)普通節(jié)點(diǎn)進(jìn)行篩選的過(guò)程中，新的備用節(jié) 點(diǎn)從普通節(jié)點(diǎn)中選擇負(fù)載最小的節(jié)點(diǎn)作為其備選。
[0039] 此外，優(yōu)選的方案是，負(fù)載信息包括：與主節(jié)點(diǎn)相連的每個(gè)節(jié)點(diǎn)的CPU利用率、內(nèi) 存利用率、網(wǎng)絡(luò)帶寬占用率以及socket連接占用率；
[0040] 通過(guò)特定加權(quán)的負(fù)載計(jì)算算法，每個(gè)節(jié)點(diǎn)分別計(jì)算其對(duì)于CPU密集型、內(nèi)存密集 型、網(wǎng)絡(luò)帶寬密集型及socket密集型請(qǐng)求的負(fù)載能力，公式如下：
[0041] rx = f (cu, mu, nu, su)
[0042] 其中，n表示節(jié)點(diǎn)的剩余資源；
[0043] cu、mu、nu、su分別表示接收到的節(jié)點(diǎn)上傳的CPU利用率、內(nèi)存利用率、網(wǎng)絡(luò)帶寬占 用率以及socket連接占用率。
[0044] 此外，優(yōu)選的方案是，根據(jù)接收到各個(gè)節(jié)點(diǎn)上傳的負(fù)載信息，計(jì)算出剩余資源百分 t匕，其公式如下式所示：
[0045]

【權(quán)利要求】
1. 一種服務(wù)器集群系統(tǒng)，包括主節(jié)點(diǎn)、備用節(jié)點(diǎn)和普通節(jié)點(diǎn)；其中， 所述主節(jié)點(diǎn)包括信息收集模塊、負(fù)載計(jì)算模塊和連接分發(fā)決策模塊； 所述信息收集模塊，用于存儲(chǔ)與所述主節(jié)點(diǎn)相連的備用節(jié)點(diǎn)和各個(gè)普通節(jié)點(diǎn)上報(bào)的負(fù) 載信息； 所述負(fù)載計(jì)算模塊，用于根據(jù)所述上報(bào)的負(fù)載信息，獲得與所述負(fù)載信息相對(duì)應(yīng)的節(jié) 點(diǎn)的負(fù)載值； 所述連接分發(fā)決策模塊，用于通過(guò)HTTP重定向進(jìn)行連接分發(fā)，其中，根據(jù)所述負(fù)載計(jì) 算模塊獲得的節(jié)點(diǎn)的負(fù)載值，選擇出最優(yōu)處理能力的節(jié)點(diǎn)，作為連接分發(fā)的節(jié)點(diǎn)； 所述備用節(jié)點(diǎn)，用于向所述主節(jié)點(diǎn)上報(bào)備用節(jié)點(diǎn)的負(fù)載信息，并與所述主節(jié)點(diǎn)的信息 同步，以及對(duì)所述普通節(jié)點(diǎn)進(jìn)行篩選，選擇出的普通節(jié)點(diǎn)作為新的備用節(jié)點(diǎn)； 所述普通節(jié)點(diǎn)，用于向所述主節(jié)點(diǎn)上報(bào)普通節(jié)點(diǎn)的負(fù)載信息，以及當(dāng)其成為備用節(jié)點(diǎn) 時(shí)，將其切換為備用節(jié)點(diǎn)。
2. 如權(quán)利要求1所述的服務(wù)器集群系統(tǒng)，其中， 所述主節(jié)點(diǎn)還包括管理會(huì)話模塊，用于管理客戶終端與所述集群系統(tǒng)之間的會(huì)話歷史 記錄，并負(fù)責(zé)刪除所述客戶終端與所述集群系統(tǒng)之間長(zhǎng)時(shí)間不活躍的歷史會(huì)話記錄。
3. 如權(quán)利要求1所述的服務(wù)器集群系統(tǒng)，其中， 在所述信息收集模塊中創(chuàng)建一個(gè)nodelist，所述nodelist用于存儲(chǔ)與所述主節(jié)點(diǎn)相 連的各個(gè)節(jié)點(diǎn)上報(bào)的負(fù)載信息；其中， 所述nodelist包括更新機(jī)制，所述更新機(jī)制用于刪除離線的節(jié)點(diǎn)。
4. 如權(quán)利要求3所述的服務(wù)器集群系統(tǒng)，其中， 負(fù)載信息包括：與所述主節(jié)點(diǎn)相連的每個(gè)節(jié)點(diǎn)的CPU利用率、內(nèi)存利用率、網(wǎng)絡(luò)帶寬占 用率以及socket連接占用率； 在所述負(fù)載計(jì)算模塊中，對(duì)每個(gè)節(jié)點(diǎn)通過(guò)特定加權(quán)的負(fù)載計(jì)算算法，分別獲取其對(duì)于 CPU密集型、內(nèi)存密集型、網(wǎng)絡(luò)帶寬密集型及socket密集型請(qǐng)求的負(fù)載能力，并將獲取的結(jié) 果更新到所述nodelist。
5. 如權(quán)利要求1所述的服務(wù)器集群系統(tǒng)，其中， 所述備用節(jié)點(diǎn)包括備用節(jié)點(diǎn)信息上報(bào)模塊、信息同步模塊和普通節(jié)點(diǎn)篩選模塊； 所述備用節(jié)點(diǎn)信息上報(bào)模塊，用于向所述主節(jié)點(diǎn)周期性匯報(bào)負(fù)載信息； 所述信息同步模塊，用于周期性地同步所述信息收集模塊中的負(fù)載信息，并進(jìn)行存 儲(chǔ)； 所述普通節(jié)點(diǎn)篩選模塊，用于當(dāng)所述備用節(jié)點(diǎn)成為主節(jié)點(diǎn)時(shí)，選擇普通節(jié)點(diǎn)中負(fù)載最 小的節(jié)點(diǎn)成為其備選。
6. 如權(quán)利要求1所述的服務(wù)器集群系統(tǒng)，其中， 所述普通節(jié)點(diǎn)包括普通節(jié)點(diǎn)信息上報(bào)模塊和備用節(jié)點(diǎn)切換模塊； 所述普通節(jié)點(diǎn)信息上報(bào)模塊，用于向所述主節(jié)點(diǎn)周期性匯報(bào)負(fù)載信息； 所述備用節(jié)點(diǎn)切換模塊，用于當(dāng)所述備用節(jié)點(diǎn)成為新的主節(jié)點(diǎn)后，將對(duì)其所選擇出的 新的備用節(jié)點(diǎn)發(fā)出通知，普通節(jié)點(diǎn)據(jù)此切換為備用節(jié)點(diǎn)，并承擔(dān)備用節(jié)點(diǎn)的職責(zé)。
7. -種基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，所述服務(wù)器集群系統(tǒng)包括主節(jié)點(diǎn)、 備用節(jié)點(diǎn)和普通節(jié)點(diǎn)，其中， 所述主節(jié)點(diǎn)周期性地接收與其相連的備用節(jié)點(diǎn)、各個(gè)普通節(jié)點(diǎn)上報(bào)的負(fù)載信息，并根 據(jù)上報(bào)的所述負(fù)載信息，獲得與所述負(fù)載信息相對(duì)應(yīng)的各個(gè)節(jié)點(diǎn)的負(fù)載值； 當(dāng)有客戶終端連接請(qǐng)求時(shí)，所述主節(jié)點(diǎn)通過(guò)HTTP重定向進(jìn)行連接分發(fā)，其中，所述主 節(jié)點(diǎn)根據(jù)獲得的各個(gè)節(jié)點(diǎn)的負(fù)載值，選出最優(yōu)處理能力的節(jié)點(diǎn)作為連接分發(fā)的節(jié)點(diǎn)； 當(dāng)所述主節(jié)點(diǎn)出現(xiàn)故障時(shí)，所述備用節(jié)點(diǎn)進(jìn)行主備切換，成為新的主節(jié)點(diǎn)，執(zhí)行主節(jié)點(diǎn) 的職責(zé)，同時(shí)啟用新的備用節(jié)點(diǎn)； 所述新的備用節(jié)點(diǎn)將負(fù)載信息上報(bào)到所述新的主節(jié)點(diǎn)中，并與新的主節(jié)點(diǎn)的信息同 步，同時(shí)對(duì)所述普通節(jié)點(diǎn)進(jìn)行篩選，選出所述新的備用節(jié)點(diǎn)的備選。
8. 如權(quán)利要求7所述的基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，其中，在所述主節(jié) 點(diǎn)中設(shè)置有會(huì)話管理機(jī)制， 所述會(huì)話管理機(jī)制包括所述客戶終端與所述集群系統(tǒng)之間的會(huì)話歷史記錄，并負(fù)責(zé)刪 除所述客戶終端與所述主節(jié)點(diǎn)之間長(zhǎng)時(shí)間不活躍的歷史會(huì)話記錄，使選擇的連接分發(fā)的節(jié) 點(diǎn)為最佳選擇。
9. 如權(quán)利要求7所述的基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，其中，在所述主節(jié) 點(diǎn)中創(chuàng)建一個(gè)nodelist，各個(gè)節(jié)點(diǎn)的負(fù)載信息存儲(chǔ)在所述nodelist中，在所述客戶終端請(qǐng) 求連接之前， 判斷所述nodelist中是否存在離線的節(jié)點(diǎn)，若存在離線的節(jié)點(diǎn)，則將此節(jié)點(diǎn)從所述 nodelist中刪除；若存在離線的節(jié)點(diǎn)為備用節(jié)點(diǎn)，則重新在所述普通節(jié)點(diǎn)中選擇新的備用 節(jié)點(diǎn)，并與所述主節(jié)點(diǎn)進(jìn)行信息同步； 若在所述nodelist中不存在離線的節(jié)點(diǎn)，根據(jù)所述客戶終端的連接請(qǐng)求進(jìn)行連接分 發(fā)。
10. 如權(quán)利要求7所述的基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，其中，在所述新的 備用節(jié)點(diǎn)對(duì)所述普通節(jié)點(diǎn)進(jìn)行篩選的過(guò)程中， 所述新的備用節(jié)點(diǎn)從所述普通節(jié)點(diǎn)中選擇負(fù)載最小的節(jié)點(diǎn)作為其備選。
11. 如權(quán)利要求7所述的基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，其中， 所述負(fù)載信息包括：與所述主節(jié)點(diǎn)相連的每個(gè)節(jié)點(diǎn)的CPU利用率、內(nèi)存利用率、網(wǎng)絡(luò)帶 寬占用率以及socket連接占用率； 通過(guò)特定加權(quán)的負(fù)載計(jì)算算法，每個(gè)節(jié)點(diǎn)分別計(jì)算其對(duì)于CPU密集型、內(nèi)存密集型、網(wǎng) 絡(luò)帶寬密集型及socket密集型請(qǐng)求的負(fù)載能力，公式如下： rx = f (cu, mu, nu, su) 其中，表示節(jié)點(diǎn)的剩余資源； cu、mu、nu、su分別表示接收到的節(jié)點(diǎn)上傳的CPU利用率、內(nèi)存利用率、網(wǎng)絡(luò)帶寬占用率 以及socket連接占用率。
12. 如權(quán)利要求11所述的基于服務(wù)器集群系統(tǒng)的負(fù)載均衡實(shí)現(xiàn)方法，其中， 根據(jù)接收到各個(gè)節(jié)點(diǎn)上傳的負(fù)載信息，計(jì)算出剩余資源百分比，其公式如下式所示： [Π (1 -/"(/c) - tcimsl)]·(1 - 2cit(k) + cu(k -1)) if cu{k)> cu{k-\) r,{k)={ t=s-u-m [Π (1 - Λ, (/f) - tninsl)] · (1 - c" (k)) else 其中，ri(k)表示k時(shí)刻的剩余資源百分比； Cu(k)表示k時(shí)刻CPU使用率； cu(k-l)表示（k-1)時(shí)刻CPU的使用率； 在（l-tu(k)-t_st)中，當(dāng)t = s時(shí)，tu(k)表示k時(shí)刻的socket連接使用率，t_st表示 socket資源的預(yù)留量，（l-tu(k)-t_st)表示節(jié)點(diǎn)t時(shí)刻剩余的可用的socket資源情況； 當(dāng)t = m時(shí)，tu(k)表示k時(shí)刻的內(nèi)存使用率，t_st表示內(nèi)存資源的預(yù)留量， (l-tu(k)-t_st)表示節(jié)點(diǎn)t時(shí)刻剩余的可用的內(nèi)存資源情況； 當(dāng)t = n時(shí)，tu(k)表示k時(shí)刻的網(wǎng)絡(luò)帶寬占用率，t_st表示網(wǎng)絡(luò)帶寬的預(yù)留量， (l-tu(k)-t_st)表示節(jié)點(diǎn)t時(shí)刻剩余的可用的網(wǎng)絡(luò)帶寬資源情況。
【文檔編號(hào)】H04L29/08GK104283948SQ201410512754
【公開(kāi)日】2015年1月14日 申請(qǐng)日期:2014年9月26日 優(yōu)先權(quán)日:2014年9月26日
【發(fā)明者】張珠華, 張霞, 徐麗麗, 張騫 申請(qǐng)人:東軟集團(tuán)股份有限公司