公共云資源動(dòng)態(tài)配置方法及系統(tǒng)的制作方法
【技術(shù)領(lǐng)域】
[0001]本公開(kāi)涉及一種公共云(public cloud)資源動(dòng)態(tài)配置方法及系統(tǒng)。
【背景技術(shù)】
[0002]網(wǎng)絡(luò)直播服務(wù)如雨后春筍般發(fā)展，用戶可以經(jīng)由網(wǎng)絡(luò)即時(shí)觀賞影片直播，例如游戲類、娛樂(lè)類、新聞?lì)?、體育節(jié)目類、科技類等。隨著普及的網(wǎng)絡(luò)直播串流，即時(shí)串流服務(wù)需要大量且穩(wěn)定的帶寬。同儕網(wǎng)絡(luò)的串流影音技術(shù)利用網(wǎng)絡(luò)中各節(jié)點(diǎn)間互相分享數(shù)據(jù)的方法，來(lái)增加串流傳輸?shù)男?。在同儕網(wǎng)絡(luò)中，用戶數(shù)目的波動(dòng)、用戶設(shè)備的不良、用戶設(shè)備的帶寬的不足、用戶設(shè)備距離機(jī)房太遠(yuǎn)等因素，可能使得即時(shí)串流服務(wù)網(wǎng)提供的串流質(zhì)量不穩(wěn)定。結(jié)合服務(wù)器與同儕網(wǎng)絡(luò)的架構(gòu)利用分散式服務(wù)器提供穩(wěn)定的串流輸出來(lái)維持用戶的觀看質(zhì)量。
[0003]隨著普及的移動(dòng)裝置，例如手持式攝像裝置，用戶可以是串流提供者。不論是播放者或是觀看者，都可以隨時(shí)隨地的播放與觀看。此趨勢(shì)下，串流平臺(tái)對(duì)于服務(wù)器需求量的負(fù)擔(dān)將不斷增加，服務(wù)業(yè)者搭配公共云業(yè)者在公共云建置分散式服務(wù)器，利用服務(wù)器做為中繼站(relay)，來(lái)符合彈性化的需求。例如，預(yù)先評(píng)估使用網(wǎng)絡(luò)直播服務(wù)的可容納的最大上線人數(shù)，以及事先建立數(shù)量足夠的虛擬機(jī)器(virtual Machines, VM)如云端服務(wù)器。
[0004]即使能夠預(yù)估網(wǎng)絡(luò)直播服務(wù)的用戶的數(shù)量與行為，要滿足如尖峰時(shí)段時(shí)的用戶的觀看質(zhì)量，需要建立龐大數(shù)量的服務(wù)器來(lái)進(jìn)行待命。在不確定影響范圍的情境下，例如在離峰時(shí)段，難以預(yù)估用戶數(shù)量以及觀看行為的狀況下，需要人員密切注意云端服務(wù)器的連接情形，也不適合將閑置的服務(wù)器貿(mào)然關(guān)閉。在轉(zhuǎn)播工作中，也會(huì)發(fā)現(xiàn)一些云端服務(wù)器連接數(shù)不多，形同空轉(zhuǎn)的狀況。此類因服務(wù)器閑置所造成的巨額維運(yùn)成本也日漸擴(kuò)大。因此，如何建立自動(dòng)維運(yùn)機(jī)制才能兼顧用戶觀看質(zhì)量以及所耗成本最小的彈性服務(wù)器擴(kuò)充及關(guān)閉，已成為一個(gè)重要的議題。
[0005]云端服務(wù)器的擴(kuò)展可以通過(guò)垂直擴(kuò)展(Vertical scaling)以及水平擴(kuò)展(Horizontal scaling)。垂直擴(kuò)展是更改服務(wù)器的硬件資源，例如提高中央處理單元(CPU) /內(nèi)存/帶寬等的級(jí)別，而服務(wù)器的數(shù)量不變。水平擴(kuò)展是增減服務(wù)器的數(shù)量，而規(guī)格不變，例如通過(guò)租戶預(yù)先設(shè)定好的范本、服務(wù)器映像文件、或是預(yù)設(shè)指令腳本，建立許多與標(biāo)的物同樣規(guī)格的虛擬服務(wù)器。當(dāng)前有些業(yè)者需要由租戶預(yù)先將服務(wù)器設(shè)為自動(dòng)擴(kuò)展(auto-scaling)群組，只有在群組內(nèi)的服務(wù)器擁有自動(dòng)擴(kuò)展功能。有的業(yè)者提供服務(wù)業(yè)者針對(duì)不同級(jí)別的云端進(jìn)行效能評(píng)測(cè)(benchmarking)。實(shí)現(xiàn)方法可采用測(cè)量服務(wù)的完成時(shí)間，來(lái)厘清性價(jià)比(performance cost rat1)最佳的服務(wù)器級(jí)別(instance type),再藉由訂定政策(policy)實(shí)現(xiàn)自動(dòng)擴(kuò)展，其政策可基于閾值觸發(fā)、或是固定時(shí)間觸發(fā)。
[0006]現(xiàn)有的服務(wù)器動(dòng)態(tài)增減技術(shù)可分成兩類。一類是公共云業(yè)者提供以基礎(chǔ)架構(gòu)層次(infrastructure-level)為主的反應(yīng)式(reactive)動(dòng)態(tài)增減,來(lái)服務(wù)廣大租戶。此類技術(shù)測(cè)量當(dāng)前服務(wù)器的/內(nèi)存/網(wǎng)絡(luò)使用狀況等，并且有多種指標(biāo)供租戶自由選擇。達(dá)到閾值來(lái)判斷增減，閾值可以由用戶(公共云租戶)自行設(shè)定，或采用預(yù)設(shè)最佳實(shí)務(wù)設(shè)定。一旦達(dá)到其閾值，通過(guò)負(fù)載均衡器(load balancer)調(diào)配每一服務(wù)器的服務(wù)量。另一類是租戶基于其自身應(yīng)用的特性，判斷應(yīng)用層級(jí)別(applicat1n-level)的服務(wù)壓力，通過(guò)公共云業(yè)者的編程接口(Applicat1n Programming Interface, API)設(shè)定企業(yè)邏輯,此類大部分是主動(dòng)式(proactive)技術(shù)。技術(shù)的參考指標(biāo)可以是隊(duì)列(queue)中待處理數(shù)據(jù)的數(shù)量、平均回應(yīng)時(shí)間、用戶連接數(shù)量(number of connect1ns)等。
[0007]有一技術(shù)提供緊密整合的自動(dòng)化管理，包括跨云自動(dòng)化管理，讓用戶設(shè)定各種范本、宏(或稱之為“巨集”)、腳本等，觀察指標(biāo)可以排入一陣列，對(duì)于增減的邏輯則由租戶自行判斷。有一技術(shù)提出主動(dòng)式的人工神經(jīng)網(wǎng)絡(luò)訓(xùn)練的二維矩陣，判斷是否增減服務(wù)器。有一技術(shù)認(rèn)為網(wǎng)頁(yè)文件存取有其固定的導(dǎo)覽路線，要找出當(dāng)中壓力最重的路線進(jìn)行服務(wù)器擴(kuò)展。有一技術(shù)解決兩層式應(yīng)用服務(wù)，此技術(shù)通過(guò)一鏈結(jié)系統(tǒng)(linkage system)去觀察第一層的反應(yīng)效能，以決定第二層是否開(kāi)始擴(kuò)展(scale-up)。有一技術(shù)根據(jù)當(dāng)前虛擬機(jī)器(VMs)的總體流量狀態(tài)，控制負(fù)載均衡器調(diào)配負(fù)載至其他服務(wù)器。有些技術(shù)指出可以根據(jù)計(jì)費(fèi)周期來(lái)關(guān)閉機(jī)器。
[0008]有一技術(shù)考慮違反服務(wù)層級(jí)協(xié)議(Service Level Agreement, SLA)付出的代價(jià)與節(jié)省經(jīng)費(fèi)兩者之間的最佳平衡點(diǎn)。此技術(shù)用在多層(mult1-tier)的應(yīng)用，并且基于應(yīng)用的容量做擴(kuò)展以及預(yù)測(cè)系統(tǒng)所需的容量，同時(shí)考慮成本模型(cost model)與資源模型(resource model),所有的要求(requests)都會(huì)經(jīng)由網(wǎng)關(guān)與負(fù)載均衡器。大部分的虛擬機(jī)器(VM)具有相同的一般資源配置，其中一部分的虛擬機(jī)器具有較低的資源配置。當(dāng)應(yīng)用的容量需要擴(kuò)展(scale up)時(shí)，將較低配置的虛擬機(jī)器垂直擴(kuò)展至一般資源配置。當(dāng)應(yīng)用的容量需要縮減(scale down)時(shí)，進(jìn)行垂直擴(kuò)展或水平擴(kuò)展至較低的資源配置。
[0009]在上述現(xiàn)行的服務(wù)器動(dòng)態(tài)增減技術(shù)中，有的技術(shù)未評(píng)估關(guān)閉服務(wù)器后，對(duì)于服務(wù)提供商的沖擊。有的技術(shù)只根據(jù)前一臺(tái)服務(wù)器的狀態(tài)，從一群機(jī)器中任意選一臺(tái)關(guān)閉。有的技術(shù)無(wú)法通過(guò)負(fù)載均衡器來(lái)完全控制用戶向誰(shuí)取得數(shù)據(jù)。有的技術(shù)未充分利用公共云的特性于節(jié)省費(fèi)用，例如未充分利用不同數(shù)據(jù)中心的位置與價(jià)格并不相同、公共云的租用計(jì)費(fèi)周期不足I小時(shí)仍以I小時(shí)計(jì)算、串流服務(wù)商可以利用多個(gè)公共云服務(wù)商的云端服務(wù)器等特性。因此，如何建立公共云的自動(dòng)維運(yùn)機(jī)制來(lái)兼顧服務(wù)質(zhì)量以及所耗成本最小的彈性服務(wù)器擴(kuò)充與縮減，是值得研究的議題。

【發(fā)明內(nèi)容】

[0010]本公開(kāi)的實(shí)施例可提供一種公共云資源動(dòng)態(tài)配置方法及系統(tǒng)。
[0011]本公開(kāi)的一實(shí)施例是關(guān)于一種公共云資源動(dòng)態(tài)配置方法。此方法可包含:藉由一負(fù)載監(jiān)視器(Load Monitor)，取得一當(dāng)前服務(wù)器配置，該當(dāng)前服務(wù)器配置至少包括多臺(tái)服務(wù)器的各服務(wù)器的身份信息(Identity Informat1n)，以及該多臺(tái)服務(wù)器的各服務(wù)器的一當(dāng)前連接數(shù)(current number of connect1ns)、一服務(wù)器級(jí)別(level)、以及一所在區(qū)域(located area);藉由一擴(kuò)展與縮減引擎(Scaling Engine),判斷該多臺(tái)服務(wù)器中是否有符合至少一觸發(fā)條件(trigger condit1n)的至少一服務(wù)器；藉由該擴(kuò)展與縮減引擎，將符合該至少一觸發(fā)條件的該至少一服務(wù)器加入一服務(wù)器候選者集合(server candidateset);以及藉由該擴(kuò)展與縮減引擎，接收一性價(jià)比信息，并且根據(jù)該服務(wù)器候選者集合，對(duì)至少一區(qū)域執(zhí)行一服務(wù)器擴(kuò)展或縮減程序。
[0012]本公開(kāi)的另一實(shí)施例是關(guān)于一種公共云資源動(dòng)態(tài)配置系統(tǒng)。此系統(tǒng)包含一負(fù)載監(jiān)視器、以及一擴(kuò)展與縮減引擎。此負(fù)載監(jiān)視器取得一當(dāng)前服務(wù)器配置，該當(dāng)前服務(wù)器配置至少包括多臺(tái)服務(wù)器的各臺(tái)服務(wù)器的身份信息，以及該多臺(tái)服務(wù)器的各服務(wù)器的一當(dāng)前連接數(shù)、一服務(wù)器級(jí)別、以及一所在區(qū)域。此擴(kuò)展與縮減引擎判斷該多臺(tái)服務(wù)器中是否有符合至少一觸發(fā)條件的至少一服務(wù)器；將符合該至少一觸發(fā)條件的該至少一服務(wù)器加入一服務(wù)器候選者集合；以及接收一性價(jià)比信息，并且根據(jù)該服務(wù)器候選者集合，對(duì)至少一區(qū)域執(zhí)行一服務(wù)器擴(kuò)展或縮減程序。
[0013]現(xiàn)在配合下列圖示、實(shí)施例的詳細(xì)說(shuō)明及權(quán)利要求書，將上述及本發(fā)明的其他優(yōu)點(diǎn)詳述于后。
【附圖說(shuō)明】
[0014]圖1是根據(jù)本公開(kāi)的一實(shí)施例，定義公共云的租賃費(fèi)用率的一范例。
[0015]圖2是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明服務(wù)器縮減的觸發(fā)時(shí)機(jī)的一示意圖。
[0016]圖3是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明一種公共云資源動(dòng)態(tài)配置方法。
[0017]圖4A是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明一種公共云資源動(dòng)態(tài)配置系統(tǒng)。
[0018]圖4B是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明圖4A的系統(tǒng)的一應(yīng)用情境的范例。
[0019]圖4C是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明以分組的往返時(shí)間來(lái)劃分區(qū)域的一范例。
[0020]圖5A是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明一區(qū)域的各服務(wù)器級(jí)別對(duì)應(yīng)的每條連接的單位價(jià)格的信息的一范例。
[0021]圖5B是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明一區(qū)域的各服務(wù)器級(jí)別對(duì)應(yīng)的最大連接數(shù)的信息的一范例。
[0022]圖6是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明至少一區(qū)域的各區(qū)域內(nèi)的服務(wù)器擴(kuò)展或縮減的運(yùn)作流程。
[0023]圖7是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明如何計(jì)算一目標(biāo)配置的運(yùn)作。
[0024]圖8A與圖SB是根據(jù)本公開(kāi)的一實(shí)施例，舉一范例說(shuō)明一區(qū)域內(nèi)的服務(wù)器擴(kuò)展或縮減，其中，圖8A是調(diào)整前，該區(qū)域內(nèi)各服務(wù)器的狀態(tài)信息；圖SB是調(diào)整后，該區(qū)域內(nèi)各服務(wù)器的狀態(tài)信息。
[0025]圖9將是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明跨區(qū)域的服務(wù)器縮減的運(yùn)作流程。
[0026]圖10是根據(jù)本公開(kāi)的一實(shí)施例，說(shuō)明t值的選擇、與跨區(qū)域百分比、節(jié)省費(fèi)用比，之間的關(guān)系。
[0027]【符號(hào)說(shuō)明】
[0028]S、M、L、XL、CC2.