專利名稱：一種自適應(yīng)的負(fù)載均衡分流設(shè)備和方法
技術(shù)領(lǐng)域：
本發(fā)明屬于網(wǎng)絡(luò)數(shù)據(jù)處理領(lǐng)域，具體講涉及一種自適應(yīng)的負(fù)載均衡分流設(shè)備和方法。
背景技術(shù)：
隨著網(wǎng)絡(luò)技術(shù)的高速發(fā)展，網(wǎng)絡(luò)數(shù)據(jù)流量的迅速增長，為了實(shí)時(shí)處理這些網(wǎng)絡(luò)數(shù)據(jù)流量，出現(xiàn)了一些專注于分流和數(shù)據(jù)處理的設(shè)備，它負(fù)責(zé)匯聚外網(wǎng)的數(shù)據(jù)，然后按照某種分流策略，把數(shù)據(jù)包轉(zhuǎn)發(fā)到它的輸出端，輸出端和后端的數(shù)據(jù)處理服務(wù)器相連。其中的傳統(tǒng)分流策略如輪流分流，按服務(wù)器的空閑分流，hash分流。但是，不管哪一種分流策略，它在系統(tǒng)初始化或啟動(dòng)之后進(jìn)行一次配置，之后不能進(jìn)行任何更改，且不能動(dòng)態(tài)的調(diào)整分流策略適應(yīng)外網(wǎng)環(huán)境的變化，也不能適應(yīng)后端服務(wù)器的增刪和負(fù)載大小的變化。外網(wǎng)輸入的實(shí)時(shí)的流量不同，有其高峰期和其低谷期；和分流設(shè)備輸出相連后端服務(wù)器處理能力和不同時(shí)間承擔(dān)的任務(wù)不同，尤其是后端服務(wù)器的增加和刪除后，分流模塊不能動(dòng)態(tài)的調(diào)整分流策略，導(dǎo)致服務(wù)器間不能分擔(dān)任務(wù)，如增加的服務(wù)器和空閑的服務(wù)器不能分擔(dān)死機(jī)、關(guān)閉的服務(wù)器或任務(wù)忙的服務(wù)器?，F(xiàn)有技術(shù)的缺點(diǎn)是它是一種靜態(tài)的分流方法，不能根據(jù)時(shí)候的網(wǎng)絡(luò)流量情況做動(dòng)態(tài)的調(diào)整，所以，也不能動(dòng)態(tài)的適應(yīng)后端處理節(jié)點(diǎn)服務(wù)器負(fù)載及增刪的變化。

發(fā)明內(nèi)容
為克服上述缺陷，本發(fā)明提供了一種自適應(yīng)的負(fù)載均衡分流設(shè)備和方法，可以動(dòng)態(tài)調(diào)整服務(wù)器的分流策略。為實(shí)現(xiàn)上述目的，本發(fā)明提供一種自適應(yīng)的負(fù)載均衡分流設(shè)備，所述分流設(shè)備基于服務(wù)器進(jìn)行工作，設(shè)有包括初始化分流模塊的分流單元，其改進(jìn)之處在于，所述分流設(shè)備包括與所述初始化分流模塊連接的流量判斷模塊、以及調(diào)整分流比例模塊和優(yōu)先分流模塊；所述流量判斷模分別與所述調(diào)整分流比例模塊和所述優(yōu)先分流模塊連接。本發(fā)明提供的優(yōu)選技術(shù)方案中，所述初始化分流模塊在流量正常且處理數(shù)據(jù)的服務(wù)器沒有丟包時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；所述初始分流策略根據(jù)服務(wù)器的在線臺(tái)數(shù)和hash值對(duì)數(shù)據(jù)進(jìn)行均勻分流。本發(fā)明提供的第二優(yōu)選技術(shù)方案中，所述流量判斷模塊，根據(jù)數(shù)據(jù)的流量大小，將數(shù)據(jù)發(fā)送到所述調(diào)整分流比例模塊和所述優(yōu)先分流模塊。本發(fā)明提供的第三優(yōu)選技術(shù)方案中，所述調(diào)整分流比例模塊調(diào)整分流比例，使沒有丟包的服務(wù)器或丟包服務(wù)器數(shù)大于預(yù)設(shè)閾值。本發(fā)明提供的第四優(yōu)選技術(shù)方案中，所述預(yù)設(shè)閾值為總服務(wù)器數(shù)量的20% ；按保持總的數(shù)據(jù)量不變，丟包服務(wù)器下調(diào)一個(gè)粒度，而性能好的服務(wù)器上調(diào)一個(gè)粒度的原則調(diào)整所述整分流比例模塊；其中，所述一個(gè)粒度是指十分之一服務(wù)器個(gè)數(shù)。本發(fā)明提供的第五優(yōu)選技術(shù)方案中，在流量較大導(dǎo)致較多服務(wù)器丟包時(shí)，所述優(yōu)先分流模塊用空閑服務(wù)器分流發(fā)送方式；其中，流量較大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的 20%。本發(fā)明提供的第六優(yōu)選技術(shù)方案中，所述分流發(fā)送方式，是指在流量很大時(shí)，優(yōu)先把數(shù)據(jù)分給負(fù)載小的服務(wù)器，再分給負(fù)載大的服務(wù)器；其中，流量很大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的60%。本發(fā)明提供的第七優(yōu)選技術(shù)方案中，提供一種分流方法，其改進(jìn)之處在于，所述分流方法包括如下步驟1).在流量正常且處理數(shù)據(jù)的服務(wù)器沒有丟包時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；2).在數(shù)據(jù)流量較大導(dǎo)致部分服務(wù)器開始丟包時(shí)，如果丟包服務(wù)器數(shù)少于預(yù)設(shè)的閾值，則調(diào)整分流比例，直到?jīng)]有丟包的服務(wù)器或者丟包服務(wù)器數(shù)大于預(yù)設(shè)的閾值；3).在流量很大導(dǎo)致較多服務(wù)器丟包時(shí)，采用空閑服務(wù)器分流發(fā)送方式，即優(yōu)先把數(shù)據(jù)分給負(fù)載小的服務(wù)器，再分給負(fù)載大的服務(wù)器；4).當(dāng)流量恢復(fù)到正常流量時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；其中，數(shù)據(jù)流量較大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的20% ；數(shù)據(jù)流量很大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的 60%。本發(fā)明提供的第八優(yōu)選技術(shù)方案中，在所述步驟2中，預(yù)設(shè)的閾值為總服務(wù)器數(shù)量的20%;所述整分流比例模塊的調(diào)整的原則是保持總的數(shù)據(jù)量不變，丟包服務(wù)器下調(diào)一個(gè)粒度，而性能好的服務(wù)器上調(diào)一個(gè)粒度；其中，所述一個(gè)粒度是指十分之一服務(wù)器個(gè)數(shù)。與現(xiàn)有技術(shù)比，本發(fā)明提供的一種自適應(yīng)的負(fù)載均衡分流設(shè)備和方法，采用動(dòng)態(tài)的自適應(yīng)分流方法，可在不同外網(wǎng)環(huán)境下，即不同的輸入流量采取不同的分流策略，且在服務(wù)器調(diào)整時(shí)也可以動(dòng)態(tài)的調(diào)整分流策略，而且可以應(yīng)對(duì)后端服務(wù)器的增刪和負(fù)載大小的變化；在正常流量下，保持初始配置的分流策略，但在流量較大而導(dǎo)致一些服務(wù)器丟包時(shí)，可以通過設(shè)置一定的閾值，利用hash分流或者按各個(gè)服務(wù)器的負(fù)載情況進(jìn)行空閑服務(wù)器分流，實(shí)現(xiàn)了對(duì)服務(wù)器的動(dòng)態(tài)分流調(diào)整。


圖1為自適應(yīng)的負(fù)載均衡分流方法的示意圖。
具體實(shí)施例方式一種自適應(yīng)的負(fù)載均衡分流設(shè)備，基于服務(wù)器進(jìn)行工作，所述分流設(shè)備設(shè)置有分流單元，所述分流單元包括初始化分流模塊，與所述初始化分流模塊連接的流量判斷模塊、 以及調(diào)整分流比例模塊和優(yōu)先分流模塊；所述調(diào)整分流比例模塊和所述優(yōu)先分流模塊分別與所述流量判斷模塊連接。所述初始化分流模塊在流量正常且處理數(shù)據(jù)的服務(wù)器沒有丟包時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；所述初始分流策略根據(jù)服務(wù)器的在線臺(tái)數(shù)和hash值對(duì)數(shù)據(jù)進(jìn)行均勻分流。所述流量判斷模塊，根據(jù)數(shù)據(jù)的流量大小，將數(shù)據(jù)發(fā)送到所述調(diào)整分流比例模塊和所述優(yōu)先分流模塊。
所述調(diào)整分流比例模塊，在數(shù)據(jù)流量較大導(dǎo)致部分服務(wù)器開始丟包時(shí)，如果丟包服務(wù)器數(shù)少于預(yù)設(shè)的閾值，則調(diào)整分流比例，直到?jīng)]有丟包的服務(wù)器或丟包服務(wù)器數(shù)大于預(yù)設(shè)的閾值。其中，預(yù)設(shè)的閾值為總服務(wù)器數(shù)量的20% ；所述整分流比例模塊的調(diào)整的原則是保持總的數(shù)據(jù)量不變，丟包服務(wù)器下調(diào)一個(gè)粒度，而性能好的服務(wù)器上調(diào)一個(gè)粒度； 其中，所述一個(gè)粒度是指十分之一服務(wù)器個(gè)數(shù)。所述優(yōu)先分流模塊，在流量很大導(dǎo)致較多服務(wù)器丟包時(shí)，采用空閑服務(wù)器分流發(fā)送方式，即優(yōu)先把數(shù)據(jù)分給負(fù)載小的服務(wù)器，再分給負(fù)載大的服務(wù)器。其中，流量較大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的20% ；流量很大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的60%。如圖1所示，一種自適應(yīng)的負(fù)載均衡分流方法，包括如下步驟1.在小于或等于正常流量時(shí)，處理數(shù)據(jù)的服務(wù)器沒有丟包，采用初始化配置的分流策略；初始分配策略根據(jù)后端服務(wù)器在線臺(tái)數(shù)和hash值對(duì)數(shù)據(jù)進(jìn)行均勻分流。2.當(dāng)流量較大時(shí)，有性能較差的服務(wù)器負(fù)載增大導(dǎo)致丟包，而性能較好的服務(wù)器負(fù)載較少仍然還有處理更多數(shù)據(jù)的能力，且丟包服務(wù)器數(shù)少于預(yù)設(shè)的閾值(如總服務(wù)器的 20%),這時(shí)調(diào)整分流比例，調(diào)整的原則是丟包服務(wù)器下調(diào)一個(gè)粒度(如1/10/服務(wù)器數(shù))， 而性能好的服務(wù)器上調(diào)一個(gè)粒度，保持總額不變，這種調(diào)整可以進(jìn)行多次，直到?jīng)]有丟包的服務(wù)器或丟包服務(wù)器數(shù)大于預(yù)設(shè)的閾值。即空閑的服務(wù)器適當(dāng)多分些數(shù)據(jù)，負(fù)載大的服務(wù)器適當(dāng)少分一些數(shù)據(jù)；3.當(dāng)流量很大時(shí)，比較多的服務(wù)器丟包時(shí)，采用空閑服務(wù)器分流發(fā)，即優(yōu)先把數(shù)據(jù)分給負(fù)載小的服務(wù)器，再分給負(fù)載大的服務(wù)器；4.保存初始配置的分流策略，當(dāng)流量恢復(fù)到正?；蛐∮谡Ａ髁繒r(shí)，即丟包服務(wù)器數(shù)小于每個(gè)閾值(如5% )，分流策略恢復(fù)初始化配置；其中，數(shù)據(jù)流量較大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的20% ；數(shù)據(jù)流量很大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的60%。需要聲明的是，本發(fā)明內(nèi)容及具體實(shí)施方式
意在證明本發(fā)明所提供技術(shù)方案的實(shí)際應(yīng)用，不應(yīng)解釋為對(duì)本發(fā)明保護(hù)范圍的限定。本領(lǐng)域技術(shù)人員在本發(fā)明的精神和原理啟發(fā)下，可作各種修改、等同替換、或改進(jìn)。但這些變更或修改均在申請(qǐng)待批的保護(hù)范圍內(nèi)。
權(quán)利要求
1.一種自適應(yīng)的負(fù)載均衡分流設(shè)備，所述分流設(shè)備基于服務(wù)器進(jìn)行工作，設(shè)有包括初始化分流模塊的分流單元，其特征在于，所述分流設(shè)備包括與所述初始化分流模塊連接的流量判斷模塊、以及調(diào)整分流比例模塊和優(yōu)先分流模塊；所述流量判斷模分別與所述調(diào)整分流比例模塊和所述優(yōu)先分流模塊連接。
2.根據(jù)權(quán)利要求1所述的分流設(shè)備，其特征在于，所述初始化分流模塊在流量正常且處理數(shù)據(jù)的服務(wù)器沒有丟包時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；所述初始分流策略根據(jù)服務(wù)器的在線臺(tái)數(shù)和hash值對(duì)數(shù)據(jù)進(jìn)行均勻分流。
3.根據(jù)權(quán)利要求1所述的分流設(shè)備，其特征在于，所述流量判斷模塊，根據(jù)數(shù)據(jù)的流量大小，將數(shù)據(jù)發(fā)送到所述調(diào)整分流比例模塊和所述優(yōu)先分流模塊。
4.根據(jù)權(quán)利要求1所述的分流設(shè)備，其特征在于，所述調(diào)整分流比例模塊調(diào)整分流比例，使沒有丟包的服務(wù)器或丟包服務(wù)器數(shù)大于預(yù)設(shè)閾值。
5.根據(jù)權(quán)利要求4所述的分流設(shè)備，其特征在于，所述預(yù)設(shè)閾值為總服務(wù)器數(shù)量的 20% ；按保持總的數(shù)據(jù)量不變，丟包服務(wù)器下調(diào)一個(gè)粒度，而性能好的服務(wù)器上調(diào)一個(gè)粒度的原則調(diào)整所述整分流比例模塊；其中，所述一個(gè)粒度是指十分之一服務(wù)器個(gè)數(shù)。
6.根據(jù)權(quán)利要求1所述的分流設(shè)備，其特征在于，在流量較大導(dǎo)致較多服務(wù)器丟包時(shí)， 所述優(yōu)先分流模塊用空閑服務(wù)器分流發(fā)送方式；其中，流量較大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的20%。
7.根據(jù)權(quán)利要求6所述的分流設(shè)備，其特征在于，所述分流發(fā)送方式，是指在流量很大時(shí)，優(yōu)先把數(shù)據(jù)分給負(fù)載小的服務(wù)器，再分給負(fù)載大的服務(wù)器；其中，流量很大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的60%。
8.根據(jù)1-7項(xiàng)權(quán)利要求任一項(xiàng)所述的自適應(yīng)的負(fù)載均衡分流設(shè)備的分流方法，其特征在于，所述分流方法包括如下步驟1).在流量正常且處理數(shù)據(jù)的服務(wù)器沒有丟包時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；2).在數(shù)據(jù)流量較大導(dǎo)致部分服務(wù)器開始丟包時(shí)，如果丟包服務(wù)器數(shù)少于預(yù)設(shè)的閾值， 則調(diào)整分流比例，直到?jīng)]有丟包的服務(wù)器或者丟包服務(wù)器數(shù)大于預(yù)設(shè)的閾值；3).在流量很大導(dǎo)致較多服務(wù)器丟包時(shí)，采用空閑服務(wù)器分流發(fā)送方式，即優(yōu)先把數(shù)據(jù)分給負(fù)載小的服務(wù)器，再分給負(fù)載大的服務(wù)器；4).當(dāng)流量恢復(fù)到正常流量時(shí)，采用初始分流策略對(duì)數(shù)據(jù)進(jìn)行分流；其中，數(shù)據(jù)流量較大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的20% ；數(shù)據(jù)流量很大表現(xiàn)為丟包服務(wù)器占總服務(wù)器的 60%。
9.根據(jù)權(quán)利要求8所述的分流設(shè)備，其特征在于，在所述步驟2中，預(yù)設(shè)的閾值為總服務(wù)器數(shù)量的20%;所述整分流比例模塊的調(diào)整的原則是保持總的數(shù)據(jù)量不變，丟包服務(wù)器下調(diào)一個(gè)粒度，而性能好的服務(wù)器上調(diào)一個(gè)粒度；其中，所述一個(gè)粒度是指十分之一服務(wù)器個(gè)數(shù)。
全文摘要
本發(fā)明提供了一種自適應(yīng)的負(fù)載均衡分流設(shè)備，基于服務(wù)器進(jìn)行工作，所述分流設(shè)備設(shè)置有分流單元，所述分流單元包括初始化分流模塊，與所述初始化分流模塊連接的流量判斷模塊、以及調(diào)整分流比例模塊和優(yōu)先分流模塊；還提供了一種自適應(yīng)的負(fù)載均衡分流方法，在正常流量下，保持初始配置的分流策略，但在流量較大而導(dǎo)致一些服務(wù)器丟包時(shí)，可以通過設(shè)置一定的閾值，利用hash分流或者按各個(gè)服務(wù)器的負(fù)載情況進(jìn)行空閑服務(wù)器分流。本發(fā)明提供的一種自適應(yīng)的負(fù)載均衡分流設(shè)備和方法，可以動(dòng)態(tài)調(diào)整服務(wù)器的分流策略。
文檔編號(hào)H04L29/08GK102404224SQ201110384058
公開日2012年4月4日 申請(qǐng)日期2011年11月28日 優(yōu)先權(quán)日2011年11月28日
發(fā)明者劉朝輝, 劉燦, 白宗元, 竇曉光 申請(qǐng)人:曙光信息產(chǎn)業(yè)(北京)有限公司