亚洲成年人黄色一级片,日本香港三级亚洲三级,黄色成人小视频,国产青草视频,国产一区二区久久精品,91在线免费公开视频,成年轻人网站色直接看

實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法及實(shí)現(xiàn)分布式的方法與流程

文檔序號(hào):12494247閱讀:334來(lái)源:國(guó)知局
實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法及實(shí)現(xiàn)分布式的方法與流程

本發(fā)明涉及大數(shù)據(jù)技術(shù),尤指一種實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法及實(shí)現(xiàn)分布式的方法。



背景技術(shù):

Hadoop是一個(gè)由Apache基金會(huì)所開發(fā)的分布式系統(tǒng)基礎(chǔ)架構(gòu)。用戶可以在不了解分布式底層細(xì)節(jié)的情況下,開發(fā)分布式程序。充分利用集群的威力進(jìn)行高速運(yùn)算和存儲(chǔ)。Hadoop分布式文件系統(tǒng)(HDFS,Hadoop Distributed File System)具有高容錯(cuò)性的特點(diǎn),并設(shè)計(jì)用于部署在相比小型機(jī)更為低廉的(low-cost)PC服務(wù)器上;而且HDFS能提供高吞吐量(high throughput)來(lái)訪問應(yīng)用程序的數(shù)據(jù),適合那些有著超大數(shù)據(jù)集(large data set)的應(yīng)用程序。HDFS放寬了(relax)POSIX的要求,可以以流的形式訪問(streaming access)文件系統(tǒng)中的數(shù)據(jù)。

Hadoop的框架最核心的設(shè)計(jì)就是:HDFS和MapReduce。HDFS為海量的數(shù)據(jù)提供了存儲(chǔ),而MapReduce為海量的數(shù)據(jù)提供了計(jì)算。目前,Hadoop開源免費(fèi)、硬件廉價(jià)、開發(fā)便利,因此,在大數(shù)據(jù)的通行市場(chǎng)上占據(jù)主導(dǎo)地位,使得Hadoop市場(chǎng)份額逐年高速遞增。

實(shí)際上,在軟件的成本之外,硬件產(chǎn)生的經(jīng)濟(jì)成本更為可觀。如何降低硬件成本是每一個(gè)服務(wù)器制造商都在考慮并尋求解決方法的課題。

目前,英特爾(Intel)公司的中央處理單元(CPU,Central Processing Unit)占據(jù)著市場(chǎng)的壟斷地位,導(dǎo)致PC服務(wù)器的CPU價(jià)格居高不下。而智能終端所用的CPU處理器價(jià)格低廉。這兩者價(jià)格相差30倍左右,功耗相差1000倍左右。而兩者之間的性能差距,平均到單核上,至強(qiáng)處理器只有移動(dòng)終端(如手機(jī))處理器的5倍左右。一臺(tái)100個(gè)智能終端組成的集群(如手機(jī)集群),成本可以控制在1到2萬(wàn)元,物理體積和一臺(tái)普通PC服務(wù)器相當(dāng),計(jì)算性能是一臺(tái)PC服務(wù)器的5-10倍,功耗可以控制在服務(wù)器的1/10到1/20。

目前,基于智能終端的Android系統(tǒng)不能支持Hadoop的運(yùn)行。另外,現(xiàn)有智能終端要組建集群,除了通過(guò)無(wú)線信號(hào)(移動(dòng)網(wǎng)絡(luò)、WIFI網(wǎng)絡(luò))建立之外,也可以對(duì)智能終端的硬件進(jìn)行改造,如增設(shè)有線通信模塊。這種組件集群的方式,主要依賴于硬件的實(shí)現(xiàn),實(shí)現(xiàn)繁瑣復(fù)雜,而且很難對(duì)成本進(jìn)行控制。



技術(shù)實(shí)現(xiàn)要素:

為了解決上述技術(shù)問題,本發(fā)明提供一種實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法及實(shí)現(xiàn)分布式的方法,能夠使得Android系統(tǒng)支持Hadoop的運(yùn)行。

為了達(dá)到本發(fā)明目的,本發(fā)明提供了一種實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法,包括:

進(jìn)行網(wǎng)絡(luò)配置;根據(jù)加入分布式系統(tǒng)的智能終端設(shè)置Hadoop平臺(tái)的運(yùn)行配置;

對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源進(jìn)行資源整合處理;

根據(jù)網(wǎng)絡(luò)配置的信息及整合后的計(jì)算和存儲(chǔ)資源進(jìn)行云計(jì)算管理;

所述移動(dòng)云計(jì)算中間平臺(tái)建立在Hadoop平臺(tái)和安卓Android系統(tǒng)之間。

可選地,還包括:為所述Hadoop平臺(tái)提供所述Android系統(tǒng)缺少的Java庫(kù)。

可選地,所述網(wǎng)絡(luò)配置包括:

所述移動(dòng)云計(jì)算中間平臺(tái)第一次啟動(dòng)時(shí),為安裝所述移動(dòng)云計(jì)算中間平臺(tái)的智能終端分配一個(gè)固定地址;

根據(jù)該智能終端所屬分布式系統(tǒng)的連接方式獲取IP地址。

可選地,所述根據(jù)智能終端所屬分布式系統(tǒng)的連接方式獲取IP地址包括:

所述連接方式為有線連接時(shí),搜尋所述分布式系統(tǒng)的所有智能終端的IP地址,對(duì)最大的IP地址進(jìn)行處理后作為所述IP地址;

所述連接方式為無(wú)線連接時(shí),所述IP地址由無(wú)線網(wǎng)動(dòng)態(tài)主機(jī)配置協(xié)議DHCP自動(dòng)分配;

所述連接方式為定制機(jī)架方式時(shí),根據(jù)槽位的不同來(lái)獲取所述IP地址。

可選地,所述對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源進(jìn)行資源整合處理包括:

當(dāng)安裝所述移動(dòng)云計(jì)算中間平臺(tái)的智能終端所屬分布式系統(tǒng)接收到寫入和計(jì)算任務(wù)時(shí),確認(rèn)當(dāng)前分布式系統(tǒng)中的資源使用狀況;

根據(jù)確認(rèn)的資源使用狀況調(diào)取所述Hadoop平臺(tái)的任務(wù)分配方法:當(dāng)存儲(chǔ)大小超出設(shè)定限額上限的不接受寫入操作,當(dāng)計(jì)算能力超出設(shè)定限額上限的不接受計(jì)算任務(wù);當(dāng)存儲(chǔ)大小低于設(shè)定限額下限時(shí),優(yōu)先寫入,直到達(dá)到設(shè)定限額的上限;當(dāng)計(jì)算能力低于設(shè)定限額下限時(shí),優(yōu)先接受計(jì)算任務(wù),直到達(dá)到設(shè)定限額的上限;所述分布式系統(tǒng)中存儲(chǔ)大小和計(jì)算能力處于上限和下限之間的智能終端獲取任務(wù)時(shí)進(jìn)行隨機(jī)分配。

可選地,還包括:為安裝所述移動(dòng)云計(jì)算中間平臺(tái)的智能終端所述分布式系統(tǒng)中的智能終端提供硬件健康監(jiān)控,并提供修復(fù)操作。

可選地,當(dāng)所述硬件出現(xiàn)問題后,還包括:進(jìn)行重連/重啟操作,預(yù)設(shè)次數(shù)重連/重啟仍失敗后,提示替換所述硬件。

可選地,還包括:當(dāng)系統(tǒng)日志大于設(shè)定的范圍值時(shí),進(jìn)行先入先出FIFO存儲(chǔ)。

本發(fā)明還提供了一種用于實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的裝置,至少包括存儲(chǔ)器和處理器,其中,存儲(chǔ)器中存儲(chǔ)有以下可執(zhí)行指令:

進(jìn)行網(wǎng)絡(luò)配置;根據(jù)加入分布式系統(tǒng)的智能終端設(shè)置Hadoop平臺(tái)的運(yùn)行配置;對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源進(jìn)行資源整合處理;根據(jù)網(wǎng)絡(luò)配置的信息及整合后的計(jì)算和存儲(chǔ)資源進(jìn)行云計(jì)算管理;

所述移動(dòng)云計(jì)算中間平臺(tái)建立在Hadoop平臺(tái)和安卓Android系統(tǒng)之間。

本發(fā)明還提供了一種實(shí)現(xiàn)分布式的方法,包括:

獲取并安裝移動(dòng)云計(jì)算中間平臺(tái)和Hadoop平臺(tái)到智能終端;

移動(dòng)云計(jì)算中間平臺(tái)在Hadoop平臺(tái)中進(jìn)行所述智能終端所屬分布式系統(tǒng)內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合;

移動(dòng)云計(jì)算中間平臺(tái)接收來(lái)自Hadoop平臺(tái)反饋的所述分布式系統(tǒng)中的智能終端的存儲(chǔ)和計(jì)算資源情況,并進(jìn)行云計(jì)算管理。

可選地,當(dāng)有新的智能終端接入所述分布式系統(tǒng)時(shí),還包括:

所述移動(dòng)云計(jì)算中間平臺(tái)根據(jù)新接入的智能終端的存儲(chǔ)和計(jì)算資源情況,重新進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合。

可選地,當(dāng)有新的智能終端接入所述分布式系統(tǒng)時(shí),還包括:

新的智能終端連接至所述分布式系統(tǒng)所在網(wǎng)絡(luò),獲取并安裝所述移動(dòng)云計(jì)算中間平臺(tái)及Hadoop平臺(tái);

新的智能終端使用安裝的移動(dòng)云計(jì)算中間平臺(tái),按照所述分布式系統(tǒng)所在網(wǎng)絡(luò)的連接方式配置Hadoop系統(tǒng)網(wǎng)絡(luò)。

可選地,還包括根據(jù)智能終端所屬分布式系統(tǒng)的連接方式獲取IP地址,具體包括:

所述連接方式為有線連接時(shí),搜尋所述分布式系統(tǒng)的所有智能終端的IP地址,對(duì)最大的IP地址進(jìn)行處理后作為所述IP地址;

所述連接方式為無(wú)線連接時(shí),所述IP地址由無(wú)線網(wǎng)動(dòng)態(tài)主機(jī)配置協(xié)議DHCP自動(dòng)分配;

所述連接方式為定制機(jī)架方式時(shí),根據(jù)槽位的不同來(lái)獲取所述IP地址。

可選地,所述獲取并安裝移動(dòng)云計(jì)算中間平臺(tái)和Hadoop平臺(tái)之后,所述進(jìn)行分布式系統(tǒng)內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合之前,還包括:

所述移動(dòng)云計(jì)算中間平臺(tái)提供所述智能終端的Android系統(tǒng)缺少的Java庫(kù),對(duì)所述智能終端的Android系統(tǒng)進(jìn)行硬件選取、加載;

所述移動(dòng)云計(jì)算中間平臺(tái)根據(jù)智能終端返回的分布式系統(tǒng)連接方式為所述智能終端分配IP地址;并寫入Hadoop平臺(tái)的配置文件。

可選地,所述進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合包括:

存儲(chǔ)大小超出設(shè)定限額上限的智能終端不接受寫入操作,計(jì)算能力超出設(shè)定限額上限的職能終端不接受計(jì)算任務(wù);

當(dāng)智能終端的存儲(chǔ)大小低于設(shè)定限額下限時(shí),優(yōu)先寫入,直到達(dá)到設(shè)定限額的上限;當(dāng)智能終端的計(jì)算能力低于設(shè)定限額下限時(shí),優(yōu)先接受計(jì)算任務(wù),直到達(dá)到設(shè)定限額的上限;

存儲(chǔ)大小和計(jì)算能力在上限和下限之間的智能終端獲取任務(wù)時(shí),進(jìn)行隨機(jī)分配。

可選地,還包括:所述移動(dòng)云計(jì)算中間平臺(tái)采用FIFO存儲(chǔ)方式存儲(chǔ)日志。

可選地,還包括:所述移動(dòng)云計(jì)算中間平臺(tái)根據(jù)所述Hadoop平臺(tái)反饋的所述分布式系統(tǒng)接入的智能終端的心跳情況進(jìn)行硬件健康狀況的監(jiān)控。

可選地,所述移動(dòng)云計(jì)算中間平臺(tái)提供給外部接口進(jìn)行云計(jì)算管理。

可選地,當(dāng)所述分布式系統(tǒng)中有智能終端退出所述分布式系統(tǒng)時(shí),還包括:

所述移動(dòng)云計(jì)算中間平臺(tái)接收到來(lái)自所述Hadoop平臺(tái)的退出分布式系統(tǒng)申請(qǐng),在所述Hadoop平臺(tái)中再次進(jìn)行所述分布式系統(tǒng)內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合;

在所述智能終端退出成功后,所述移動(dòng)云計(jì)算中間平臺(tái)記錄日志。

本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)建立在Hadoop和Android系統(tǒng)之間,用于保障Hadoop和Android系統(tǒng)之間的適配以及運(yùn)行,使得Hadoop實(shí)現(xiàn)了在Android系統(tǒng)上的正常運(yùn)行即使得Android系統(tǒng)支持了Hadoop的運(yùn)行。另一方面,通過(guò)本發(fā)明移動(dòng)云計(jì)算中間平臺(tái),智能終端實(shí)現(xiàn)了非常方便的組建、加入、移出無(wú)線網(wǎng)絡(luò)/有線網(wǎng)絡(luò)組建的分布式系統(tǒng),特別地實(shí)現(xiàn)了使用更為廉價(jià)且方便更換的智能終端組建分布式集群。

本發(fā)明的其它特征和優(yōu)點(diǎn)將在隨后的說(shuō)明書中闡述,并且,部分地從說(shuō)明書中變得顯而易見,或者通過(guò)實(shí)施本發(fā)明而了解。本發(fā)明的目的和其他優(yōu)點(diǎn)可通過(guò)在說(shuō)明書、權(quán)利要求書以及附圖中所特別指出的結(jié)構(gòu)來(lái)實(shí)現(xiàn)和獲得。

附圖說(shuō)明

此處所說(shuō)明的附圖用來(lái)提供對(duì)本發(fā)明的進(jìn)一步理解,構(gòu)成本申請(qǐng)的一部分,本發(fā)明的示意性實(shí)施例及其說(shuō)明用于解釋本發(fā)明,并不構(gòu)成對(duì)本發(fā)明的不當(dāng)限定。在附圖中:

圖1為本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的組成結(jié)構(gòu)示意圖;

圖2為本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的工作原理流程示意圖;

圖3為本發(fā)明基于Android系統(tǒng)的HDFS集群實(shí)現(xiàn)數(shù)據(jù)存儲(chǔ)的流程示意圖;

圖4為本發(fā)明基于Android系統(tǒng)的HDFS集群實(shí)現(xiàn)計(jì)算的流程示意圖;

圖5為本發(fā)明改造后的智能終端中計(jì)算模塊的組成結(jié)構(gòu)示意圖;

圖6為本發(fā)明改造后的智能終端中存儲(chǔ)模塊的組成結(jié)構(gòu)示意圖;

圖7為本發(fā)明智能終端采用WIFI連接方式的組網(wǎng)示意圖;

圖8為本發(fā)明基于圖7所示的連接方式的對(duì)智能終端在集群中的管理的實(shí)施例的流程示意圖;

圖9為本發(fā)明智能終端采用移動(dòng)網(wǎng)絡(luò)連接方式的組網(wǎng)示意圖;

圖10為本發(fā)明基于圖9所示的連接方式的對(duì)智能終端在集群中的管理的實(shí)施例的流程示意圖;

圖11為本發(fā)明智能終端采用有線連接方式的組網(wǎng)示意圖;

圖12為本發(fā)明基于圖11所示的連接方式的對(duì)智能終端在集群中的管理的實(shí)施例的流程示意圖;

圖13為本發(fā)明定制機(jī)架結(jié)構(gòu)中機(jī)架的俯視圖;

圖14為本發(fā)明定制機(jī)架結(jié)構(gòu)中機(jī)架側(cè)視圖;

圖15為本發(fā)明定制機(jī)架結(jié)構(gòu)中實(shí)現(xiàn)硬件替換的示意圖;

圖16為本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)應(yīng)用的實(shí)施例的流程示意圖。

具體實(shí)施方式

為使本發(fā)明的目的、技術(shù)方案和優(yōu)點(diǎn)更加清楚明白,下文中將結(jié)合附圖對(duì)本發(fā)明的實(shí)施例進(jìn)行詳細(xì)說(shuō)明。需要說(shuō)明的是,在不沖突的情況下,本申請(qǐng)中的實(shí)施例及實(shí)施例中的特征可以相互任意組合。

圖1為本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的組成結(jié)構(gòu)示意圖,如圖1所示,本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)是建立在Hadoop平臺(tái)和Android系統(tǒng)之間的一個(gè)中間層,用于保障Hadoop平臺(tái)和Android系統(tǒng)之間的適配以及運(yùn)行。至少包括:硬件驅(qū)動(dòng)模塊、Java庫(kù)支撐模塊、配置模塊、計(jì)算存儲(chǔ)資源管理模塊、云計(jì)算任務(wù)調(diào)度模塊;其中,

硬件驅(qū)動(dòng)模塊,用于為操作系統(tǒng)加載硬件驅(qū)動(dòng)。該驅(qū)動(dòng)主要為網(wǎng)絡(luò)控制器服務(wù),比如:當(dāng)通信為RJ45接口時(shí),網(wǎng)絡(luò)控制器為USB轉(zhuǎn)RJ45信號(hào)芯片;當(dāng)通信為光纖通信時(shí),網(wǎng)絡(luò)控制器為光電轉(zhuǎn)換芯片。

Java庫(kù)支撐模塊,用于為Hadoop平臺(tái)提供Android系統(tǒng)缺少的Java庫(kù)。Android系統(tǒng)本身支持一部分Java功能,這里的Java庫(kù)支撐模塊用于補(bǔ)足Android系統(tǒng)中缺少的Java庫(kù)。

配置模塊,用于進(jìn)行網(wǎng)絡(luò)配置;根據(jù)加入分布式系統(tǒng)的智能終端如該智能終端的計(jì)算能力、存儲(chǔ)大小自動(dòng)設(shè)置Hadoop平臺(tái)的運(yùn)行配置。

其中,網(wǎng)絡(luò)配置具體包括:

配置模塊自身所在移動(dòng)云計(jì)算中間平臺(tái)在第一次啟動(dòng)時(shí),為安裝所述移動(dòng)云計(jì)算中間平臺(tái)的智能終端分配一個(gè)固定地址(所有機(jī)器初次啟動(dòng)時(shí)都為該IP地址);

網(wǎng)絡(luò)接通后確定該智能終端所屬分布式系統(tǒng)的連接方式如有線、無(wú)線或者定制機(jī)架類型等,根據(jù)連接方式獲取IP地址:當(dāng)為有線連接時(shí),搜尋當(dāng)前網(wǎng)絡(luò)的所有機(jī)器的IP地址,然后對(duì)最大的IP地址進(jìn)行處理:在最大的IP地址第四段+1,當(dāng)加到253時(shí),則在IP地址第三段加1,第四段從1開始計(jì)數(shù);當(dāng)為無(wú)線連接時(shí),IP地址由無(wú)線網(wǎng)動(dòng)態(tài)主機(jī)配置協(xié)議(DHCP,Dynamic Host Configuration Protocol)自動(dòng)分配,不需要考慮IP地址分配,只需要讀取分配的IP地址并寫入Hadoop配置文件中即可;當(dāng)為定制機(jī)架方式時(shí),智能終端根據(jù)槽位的不同來(lái)獲取IP地址配置,這樣,使得新替換上電的設(shè)備配置和出現(xiàn)問題的設(shè)備配置相同,即同樣的槽位的IP地址是不可變更的。

計(jì)算存儲(chǔ)資源管理模塊,用于在現(xiàn)有Hadoop計(jì)算和存儲(chǔ)控制的基礎(chǔ)上,整合到計(jì)算存儲(chǔ)資源管理模塊自身所在移動(dòng)云計(jì)算中間平臺(tái)中,對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源來(lái)進(jìn)行整合處理。

具體實(shí)現(xiàn)包括:當(dāng)分布式系統(tǒng)接收外來(lái)寫入和計(jì)算任務(wù)時(shí),先確認(rèn)當(dāng)前分布式系統(tǒng)中機(jī)器的資源使用狀況,然后調(diào)取Hadoop平臺(tái)的任務(wù)分配方法:存儲(chǔ)已經(jīng)超出設(shè)定限額上限的將不接受寫入操作,計(jì)算超出設(shè)定限額上限的將不接受計(jì)算任務(wù);當(dāng)存儲(chǔ)低于設(shè)定限額下限時(shí)將優(yōu)先寫入,直到達(dá)到設(shè)定限額的上限;當(dāng)計(jì)算低于設(shè)定限額下限時(shí)將優(yōu)先接受計(jì)算任務(wù),直到達(dá)到設(shè)定限額的上限;其他處于上限和下限之間的機(jī)器獲取任務(wù)時(shí)進(jìn)行隨機(jī)分配。

云計(jì)算任務(wù)調(diào)度模塊,用于提供給外部接口,根據(jù)網(wǎng)絡(luò)配置的信息及整合后的計(jì)算和存儲(chǔ)資源進(jìn)行云計(jì)算管理,管理包括但不限于啟動(dòng)、停止、暫停、定時(shí)等。

進(jìn)一步地,本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)還包括:健康監(jiān)控模塊,

用于為智能終端提供硬件健康監(jiān)控,并提供修復(fù)操作。需要說(shuō)明的是,健康監(jiān)控模塊只監(jiān)控硬件死活,當(dāng)硬件出現(xiàn)問題后會(huì)進(jìn)行重連/重啟操作,多次重連/重啟失敗后,提示替換該硬件。監(jiān)控功能可以使用心跳檢測(cè)機(jī)制來(lái)監(jiān)控硬件死活,使用溫度監(jiān)控來(lái)對(duì)硬件進(jìn)行運(yùn)行健康告警等。

進(jìn)一步地,本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)還包括:日志處理模塊,

用于當(dāng)系統(tǒng)日志大于設(shè)定的范圍值時(shí),日志的存儲(chǔ)進(jìn)行先入先出(FIFO,F(xiàn)irst in first out)存儲(chǔ),即先刪除遠(yuǎn)期日志,然后存儲(chǔ)最新的日志。

圖1只列出了本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的基本的Hadoop組件,其他組件可以自行選擇安裝,是否包括其他組件、包括多少,并不用于限定本發(fā)明的保護(hù)范圍,這里不再贅述。

相應(yīng)地,本發(fā)明還提供一種實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法,包括:將移動(dòng)云計(jì)算中間平臺(tái)建立在Hadoop平臺(tái)和安卓Android系統(tǒng)之間,還包括:

進(jìn)行網(wǎng)絡(luò)配置;根據(jù)加入分布式系統(tǒng)的智能終端設(shè)置Hadoop平臺(tái)的運(yùn)行配置;

對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源進(jìn)行資源整合處理;

根據(jù)網(wǎng)絡(luò)配置的信息及整合后的計(jì)算和存儲(chǔ)資源進(jìn)行云計(jì)算管理。

本發(fā)明方法還包括:為Hadoop平臺(tái)提供Android系統(tǒng)缺少的Java庫(kù)。

可選地,進(jìn)行的網(wǎng)絡(luò)配置包括:

在建立的移動(dòng)云計(jì)算中間平臺(tái)第一次啟動(dòng)時(shí),為安裝所述移動(dòng)云計(jì)算中間平臺(tái)的智能終端分配一個(gè)固定地址;根據(jù)該智能終端所屬分布式系統(tǒng)的連接方式獲取IP地址。其中,

根據(jù)智能終端所屬分布式系統(tǒng)的連接方式獲取IP地址包括:

當(dāng)連接方式為有線連接時(shí),搜尋分布式系統(tǒng)的所有智能終端的IP地址,對(duì)最大的IP地址進(jìn)行處理后作為所述IP地址;

當(dāng)連接方式為無(wú)線連接時(shí),IP地址由無(wú)線網(wǎng)DHCP自動(dòng)分配;

當(dāng)連接方式為定制機(jī)架方式時(shí),根據(jù)槽位的不同來(lái)獲取所述IP地址。

可選地,對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源進(jìn)行資源整合處理包括:

當(dāng)安裝移動(dòng)云計(jì)算中間平臺(tái)的智能終端所屬分布式系統(tǒng)接收到寫入和計(jì)算任務(wù)時(shí),確認(rèn)當(dāng)前分布式系統(tǒng)中的資源使用狀況;

根據(jù)確認(rèn)的資源使用狀況調(diào)取Hadoop平臺(tái)的任務(wù)分配方法:當(dāng)存儲(chǔ)大小超出設(shè)定限額上限的不接受寫入操作,當(dāng)計(jì)算能力超出設(shè)定限額上限的不接受計(jì)算任務(wù);當(dāng)存儲(chǔ)大小低于設(shè)定限額下限時(shí),優(yōu)先寫入,直到達(dá)到設(shè)定限額的上限;當(dāng)計(jì)算能力低于設(shè)定限額下限時(shí),優(yōu)先接受計(jì)算任務(wù),直到達(dá)到設(shè)定限額的上限;所述分布式系統(tǒng)中存儲(chǔ)大小和計(jì)算能力處于上限和下限之間的智能終端獲取任務(wù)時(shí)進(jìn)行隨機(jī)分配。

可選地,本發(fā)明實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法還包括:

為安裝移動(dòng)云計(jì)算中間平臺(tái)的智能終端所述分布式系統(tǒng)中的智能終端提供硬件健康監(jiān)控,并提供修復(fù)操作。

當(dāng)硬件出現(xiàn)問題后,還包括:進(jìn)行重連/重啟操作,預(yù)設(shè)次數(shù)重連/重啟仍失敗后,提示替換該硬件。

可選地,本發(fā)明實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的方法還包括:當(dāng)系統(tǒng)日志大于設(shè)定的范圍值時(shí),進(jìn)行FIFO存儲(chǔ)。

本發(fā)明還提供一種用于實(shí)現(xiàn)移動(dòng)云計(jì)算中間平臺(tái)的裝置,至少包括存儲(chǔ)器和處理器,其中,

存儲(chǔ)器中存儲(chǔ)有以下可執(zhí)行指令:將移動(dòng)云計(jì)算中間平臺(tái)建立在Hadoop平臺(tái)和安卓Android系統(tǒng)之間;進(jìn)行網(wǎng)絡(luò)配置;根據(jù)加入分布式系統(tǒng)的智能終端設(shè)置Hadoop平臺(tái)的運(yùn)行配置;對(duì)計(jì)算和存儲(chǔ)的資源進(jìn)行管理,基于計(jì)算和存儲(chǔ)資源進(jìn)行資源整合處理;根據(jù)網(wǎng)絡(luò)配置的信息及整合后的計(jì)算和存儲(chǔ)資源進(jìn)行云計(jì)算管理。

利用本發(fā)明建立的移動(dòng)云計(jì)算中間平臺(tái),實(shí)現(xiàn)分布式的方法包括:

獲取并安裝移動(dòng)云計(jì)算中間平臺(tái)和Hadoop平臺(tái)到智能終端;

移動(dòng)云計(jì)算中間平臺(tái)在Hadoop平臺(tái)中進(jìn)行所述智能終端所屬分布式系統(tǒng)內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合;

移動(dòng)云計(jì)算中間平臺(tái)接收來(lái)自Hadoop平臺(tái)反饋的所述分布式系統(tǒng)中的智能終端的存儲(chǔ)和計(jì)算資源情況,并進(jìn)行云計(jì)算管理。

下面結(jié)合一臺(tái)智能終端在安裝本發(fā)明圖1所示的移動(dòng)云計(jì)算中間平臺(tái)后各模塊的工作流程情況為例,對(duì)本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的工作原理進(jìn)行詳細(xì)描述。圖2為本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的工作原理流程示意圖,如圖2所示,包括:

首先,智能終端獲取并安裝本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)和Hadoop平臺(tái);本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的Java庫(kù)支撐模塊提供智能終端的Android系統(tǒng)缺少的Java庫(kù);本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的硬件驅(qū)動(dòng)模塊對(duì)智能終端的Android系統(tǒng)進(jìn)行硬件選取、加載;本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的配置模塊為智能終端分配一個(gè)IP地址:智能終端會(huì)向本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的配置模塊返回分布式系統(tǒng)連接類型;本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的配置模塊根據(jù)智能終端的不同網(wǎng)絡(luò)連接方式進(jìn)行相應(yīng)IP地址的配置:當(dāng)為有線連接時(shí),搜尋當(dāng)前網(wǎng)絡(luò)的所有機(jī)器的IP地址,然后對(duì)最大的IP地址進(jìn)行處理:在最大的IP地址第四段+1,當(dāng)加到253時(shí),則在IP地址第三段加1,第四段從1開始計(jì)數(shù);當(dāng)為無(wú)線連接時(shí),IP地址由無(wú)線網(wǎng)DHCP自動(dòng)分配;當(dāng)為定制機(jī)架方式時(shí),根據(jù)槽位的不同來(lái)獲取IP地址配置。智能終端讀取分配的IP地址寫入Hadoop平臺(tái)的配置文件并生效;

然后,本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的計(jì)算存儲(chǔ)資源管理模塊在Hadoop平臺(tái)中進(jìn)行分布式系統(tǒng)內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合,Hadoop平臺(tái)將智能終端的存儲(chǔ)和計(jì)算資源情況反饋給本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的計(jì)算存儲(chǔ)資源管理模塊;

接著,本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的計(jì)算存儲(chǔ)資源管理模塊根據(jù)新接入的智能終端的存儲(chǔ)和計(jì)算資源情況,進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合:存儲(chǔ)已經(jīng)超出設(shè)定限額上限的將不接受寫入操作,計(jì)算超出設(shè)定限額上限的將不接受計(jì)算任務(wù);當(dāng)存儲(chǔ)低于設(shè)定限額下限時(shí)將優(yōu)先寫入,直到達(dá)到設(shè)定限額的上限;當(dāng)計(jì)算低于設(shè)定限額下限時(shí)將優(yōu)先接受計(jì)算任務(wù),直到達(dá)到設(shè)定限額的上限;其他處于上限和下限之間的機(jī)器獲取任務(wù)時(shí)進(jìn)行隨機(jī)分配;

最后還有,對(duì)于日志的存儲(chǔ),本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的日志處理模塊進(jìn)行FIFO存儲(chǔ);本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的健康監(jiān)控模塊進(jìn)行硬件健康的監(jiān)控,Hadoop平臺(tái)反饋接入的智能終端的心跳情況以檢測(cè)硬件死活,反饋接入的智能終端的節(jié)點(diǎn)溫度以監(jiān)控運(yùn)行健康狀況;本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的云計(jì)算任務(wù)調(diào)度模塊提供給外部接口進(jìn)行云計(jì)算管理。

后續(xù),如果智能終端申請(qǐng)退出分布式系統(tǒng),Hadoop平臺(tái)會(huì)向本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的計(jì)算存儲(chǔ)資源管理模塊申請(qǐng)退出分布式系統(tǒng),本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的計(jì)算存儲(chǔ)資源管理模塊會(huì)在Hadoop平臺(tái)中再次進(jìn)行分布式系統(tǒng)內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合,并在退出成功后,在本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)的日志處理模塊中記錄日志。

綜上所述,通過(guò)本發(fā)明基于Android系統(tǒng)的Hadoop平臺(tái)即圖1所示的移動(dòng)云計(jì)算中間平臺(tái),一方面,使得Hadoop平臺(tái)實(shí)現(xiàn)了在Android系統(tǒng)上的正常運(yùn)即使得Android系統(tǒng)支持了Hadoop平臺(tái)的運(yùn)行。進(jìn)一步地,提供了Hadoop平臺(tái)運(yùn)行時(shí)軟件和硬件的健康監(jiān)控,從而保證了在損壞時(shí)觸發(fā)對(duì)軟件的修復(fù)或?qū)τ布奶鎿Q。另一方面,通過(guò)本發(fā)明基于Android系統(tǒng)的Hadoop平臺(tái)平臺(tái)即圖1所示的移動(dòng)云計(jì)算中間平臺(tái),智能終端實(shí)現(xiàn)了非常方便的組建、加入、移出無(wú)線網(wǎng)絡(luò)/有線網(wǎng)絡(luò)組建的分布式分布式系統(tǒng)。從而實(shí)現(xiàn)了使用更為廉價(jià)且方便更換的智能終端組建分布式系統(tǒng)。

本發(fā)明實(shí)施例以智能終端為手機(jī)終端進(jìn)行舉例描述,但是,本發(fā)明智能終端包括但不限制于:運(yùn)行Android系統(tǒng)的手機(jī)終端、PAD、機(jī)頂盒,以及運(yùn)行Android系統(tǒng)的各類有線、無(wú)線手持終端等。

為方便描述,本發(fā)明實(shí)施例中以分布式系統(tǒng)為集群為例進(jìn)行描述,但并不用于限定本發(fā)明的保護(hù)范圍。

需要說(shuō)明一下,Hadoop平臺(tái)通過(guò)本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)對(duì)底層Android系統(tǒng)調(diào)用各應(yīng)用接口(API)功能進(jìn)行數(shù)據(jù)讀寫、計(jì)算等任務(wù)。Android API接口的封裝包括但不限于:

對(duì)于智能終端內(nèi)存數(shù)據(jù)讀寫,可以包括:

getFileDir():用于獲取Hadoop平臺(tái)在智能終端內(nèi)存存儲(chǔ)數(shù)據(jù)的位置信息,如:/data/data/Hadoop/files;

getCacheDir():用于獲取Hadoop平臺(tái)在智能終端內(nèi)存緩存數(shù)據(jù)的位置信息,如:/data/data/Hadoop/cache;

openFileInput(String name):用于直接獲取/data/data/Hadoop/files/name文件的輸入流信息;

openFileOutput(String name,int mode):用于直接獲取/data/data/Hadoop/files/name文件的輸出流,其中,mode為寫入文件時(shí)的權(quán)限;

Context.MODE_PRIVATE:為私有模式(或稱為默認(rèn)模式),只能被應(yīng)用本身和同一群組的智能終端訪問;寫入的內(nèi)容覆蓋原文件內(nèi)容;

Context.MODE_APPEND:為追加模式(或稱為私有模式),只能被應(yīng)用本身和同一群組的智能終端訪問;如果文件存在就追加內(nèi)容,如果文件不存在就新建文件并寫入內(nèi)容;

Context.MODE_WORLD_READABLE:為群組中所有智能終端可讀權(quán)限;

Context.MODE_WORLD_WRITEABLE:為群組中所有智能終端可寫權(quán)限;

對(duì)于SDcard數(shù)據(jù)讀寫,可以包括:

getExternalStorageDirectory():用于獲取Hadoop平臺(tái)所在智能終端的SDcard位置信息,如/storage/sdcard;

getExternalStorageState():用于獲取Hadoop平臺(tái)所在智能終端的SDcard的當(dāng)前狀態(tài),比較常用的應(yīng)該是MEDIA_MOUNTED;

FileInputStream(),用于讀取文件;

BufferReader(),用于讀取文件;

httpConnection(),用于將讀取的流保存為String數(shù)據(jù);

FileOutputStream(),用于寫入文件;

BufferedWriter(),用于寫入文件;

另外,Hadoop計(jì)算使用Java庫(kù)的加、減、乘、除四則運(yùn)算。

本發(fā)明中,基于Android系統(tǒng)的HDFS集群有兩類節(jié)點(diǎn)并以“管理者—工作者”模式運(yùn)行:一個(gè)作為管理者的主(Master)節(jié)點(diǎn)(NameNode)和多個(gè)作為工作者的從(Slave)節(jié)點(diǎn)(DataNode)。每一個(gè)NameNode和DataNode都各對(duì)應(yīng)一臺(tái)智能終端。

其中,NameNode,主要負(fù)責(zé)管理HDFS文件系統(tǒng),具體地包括namespace管理、塊(block)管理;DataNode,主要用于存儲(chǔ)數(shù)據(jù)文件。這里,HDFS會(huì)將一個(gè)文件分割成一個(gè)個(gè)的block,這些block可能存儲(chǔ)在一個(gè)DataNode上或者是多個(gè)DataNode上。DataNode負(fù)責(zé)實(shí)際的底層文件的讀寫,如果客戶端(Client)程序發(fā)起了讀HDFS上的文件的命令,那么,首先會(huì)將這些文件分成若干個(gè)block,然后NameNode將告知Client這些block數(shù)據(jù)是存儲(chǔ)在哪些DataNode上的,這樣,Client直接和DataNode交互即可。

下面詳細(xì)介紹本發(fā)明基于Android系統(tǒng)的HDFS集群的存儲(chǔ)和計(jì)算過(guò)程。

圖3為本發(fā)明基于Android系統(tǒng)的HDFS集群實(shí)現(xiàn)數(shù)據(jù)存儲(chǔ)的流程示意圖,以文件上傳到分布式集群進(jìn)行存儲(chǔ)為例,這里,NameNode負(fù)責(zé)管理存儲(chǔ)在HDFS上所有文件的元數(shù)據(jù),會(huì)確認(rèn)客戶端的請(qǐng)求,并記錄下文件的名字和存儲(chǔ)該文件的數(shù)據(jù)節(jié)點(diǎn)即DataNode的集合。并將這些記錄下的信息存儲(chǔ)在內(nèi)存中的文件分配表中。本實(shí)施例中,假設(shè)客戶端發(fā)送一個(gè)請(qǐng)求給NameNode,表明要將“swim.txt”文件寫入到HDFS,如圖3所示,包括:

步驟1:客戶端發(fā)消息給NameNode,表明要寫入“swim.txt”文件;

步驟2:NameNode向客戶端返回消息,通知客戶端將“swim.txt”文件寫到DataNode A、DataNode B和DataNode D,并直接與DataNode B聯(lián)系;

步驟3:客戶端發(fā)消息給DataNode B,指示DataNode B保存一份“swim.txt”文件,并分別發(fā)送一份副本給DataNode A和DataNode D;

步驟4:DataNode B發(fā)消息給DataNode A,指示DataNode A保存一份“swim.txt”文件,并發(fā)送一份副本給DataNode D;

步驟5:DataNode A發(fā)消息給DataNode D,指示DataNode D保存一份“swim.txt”文件;

步驟6:DataNode D發(fā)確認(rèn)消息給DataNode A;

步驟7:DataNode A發(fā)確認(rèn)消息給DataNode B;

步驟8:DataNode B發(fā)確認(rèn)消息給客戶端,表示完成“swim.txt”文件的寫入。

這樣,一份“swim.txt”文件就保存在了分布式集群的DataNode A、DataNode B和DataNode D三個(gè)數(shù)據(jù)節(jié)點(diǎn)(即智能終端)上。

圖4為本發(fā)明基于Android系統(tǒng)的HDFS集群實(shí)現(xiàn)計(jì)算的流程示意圖,如圖4所示,在基于Android的HDFS中,每個(gè)MapReduce任務(wù)都被初始化為一個(gè)Job,每個(gè)Job又可以分為兩種階段:映射(Map)階段和歸約(Reduce)階段。這兩個(gè)階段分別用兩個(gè)函數(shù)表示,即Map函數(shù)和Reduce函數(shù)。其中,Map函數(shù)接收一個(gè)<key,value>形式的輸入,然后同樣產(chǎn)生一個(gè)<key,value>形式的中間輸出;Reduce函數(shù)接收一個(gè)如<key,(list of values)>形式的輸入,然后對(duì)這個(gè)value集合進(jìn)行處理,每個(gè)Reduce產(chǎn)生0或1個(gè)輸出,Reduce的輸出也是<key,value>形式的。

一般,常見的智能終端在安裝本發(fā)明的移動(dòng)云計(jì)算中間平臺(tái)和Hadoop平臺(tái)后,使用穩(wěn)定的無(wú)線連接,經(jīng)過(guò)本發(fā)明的移動(dòng)云計(jì)算中間平臺(tái)對(duì)Hadoop平臺(tái)進(jìn)行配置后,即可進(jìn)行Hadoop之上的各組件的使用。比如在辦公室中,可以將大家的智能終端集中到一個(gè)集群內(nèi),實(shí)現(xiàn)計(jì)算資源和存儲(chǔ)資源共享。這樣,一個(gè)人的智能終端無(wú)法做到的計(jì)算量,通過(guò)十幾個(gè)人的智能終端就可以組建起集群,并在本發(fā)明的移動(dòng)云計(jì)算中間平臺(tái)紙上完成本來(lái)不能完成的計(jì)算量。無(wú)線連接又包括:WIFI網(wǎng)絡(luò)、移動(dòng)網(wǎng)絡(luò)(如2G、3G、4G等)兩種集群組建方式。

為了保障集群的可靠性、增強(qiáng)通信速度,可以使用有線連接方式。使用有線連接方式的集群硬件來(lái)源可以為定制的智能終端,也可以使用現(xiàn)有智能終端進(jìn)行有線通信的改造。對(duì)現(xiàn)有智能終端的改造主要包括兩部分:一方面是,對(duì)USB接口進(jìn)行改造,將USB類型的通信轉(zhuǎn)換為雙絞線或者光纖線通信;另一方面,存儲(chǔ)模塊至少包括ROM、SD卡以及接口。存儲(chǔ)模塊損壞是可以替換的。具體地,

圖5為本發(fā)明改造后的智能終端中計(jì)算模塊的組成結(jié)構(gòu)示意圖,如圖5所示,至少包括:中央處理器單元(CPU,Central Processing Unit)芯片組、隨機(jī)存儲(chǔ)器(RAM,Random-Access Memory)、網(wǎng)絡(luò)控制器。對(duì)外包括電源、網(wǎng)口、存儲(chǔ)接口3個(gè)接口。

其中,USB接口可以包括但不限于:USB2.0或USB3.0,分別對(duì)應(yīng)雙絞線和光纖線使用。因此,針對(duì)USB的兩種不同類型使用不同的通信方案。網(wǎng)絡(luò)控制器采用常見的USB轉(zhuǎn)網(wǎng)卡的方案,如果是光纖再添加光電轉(zhuǎn)換芯片即可。圖5中的網(wǎng)絡(luò)控制器是一個(gè)信號(hào)轉(zhuǎn)換芯片,比如:USB2.0轉(zhuǎn)RJ45信號(hào)芯片如AX88772B;USB 3.0-to-Gigabit Ethernet控制芯片如RTL8153等。

圖5中,安全數(shù)據(jù)(SD,Secure Digital)卡接口和Android系統(tǒng)定制系統(tǒng)鏡像只讀存儲(chǔ)器(ROM,Read Only Memory Image)接口合并為存儲(chǔ)接口,只是硬件外觀的變化,實(shí)際上兩個(gè)接口還是獨(dú)立存在的。

圖6為本發(fā)明改造后的智能終端中存儲(chǔ)模塊的組成結(jié)構(gòu)示意圖,如圖6所示,至少包括內(nèi)置兩個(gè)組件:ROM和SD卡,對(duì)外顯示為一個(gè)存儲(chǔ)接口。該模塊損壞可以進(jìn)行替換。

Hadoop是用途廣泛的大數(shù)據(jù)平臺(tái),目前基于Hadoop的在用實(shí)施例都可以使用本發(fā)明提供的而技術(shù)方案由PC服務(wù)器轉(zhuǎn)移到安裝有Android系統(tǒng)的智能終端中。下面根據(jù)智能終端的不同網(wǎng)絡(luò)連接方式,結(jié)合本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)對(duì)智能終端在集群中的管理的實(shí)施例進(jìn)行詳細(xì)描述。

第一實(shí)施例

圖7為本發(fā)明智能終端采用WIFI連接方式的組網(wǎng)示意圖,圖8為本發(fā)明基于圖7所示的連接方式的對(duì)智能終端在集群中的管理的實(shí)施例的流程示意圖,結(jié)合圖7和圖8,本實(shí)施例以新的節(jié)點(diǎn)為智能終端為例,將智能終端加入集群的步驟包括:

步驟800:將欲加入現(xiàn)有集群的WIFI網(wǎng)絡(luò)的智能終端成功連接WIFI網(wǎng)絡(luò)。

步驟801:欲加入現(xiàn)有集群的WIFI網(wǎng)絡(luò)的智能終端通過(guò)自身Android系統(tǒng)下載獲取并安裝移動(dòng)云計(jì)算中間平臺(tái)及Hadoop平臺(tái)。

步驟802:使用移動(dòng)云計(jì)算中間平臺(tái)配置Hadoop平臺(tái)系統(tǒng)網(wǎng)絡(luò)。具體實(shí)現(xiàn)過(guò)程如圖2所示,這里不再贅述。

假設(shè)連接方式的連接(Connection)參數(shù)為1,表示為WIFI連接方式,Connection參數(shù)為2,表示為移動(dòng)網(wǎng)絡(luò)如2G、3G、4G連接方式,Connection參數(shù)為3,表示為有線連接方式。

本實(shí)施例中,假設(shè)Connection參數(shù)為1,則移動(dòng)云計(jì)算中間平臺(tái)根據(jù)該WIFI網(wǎng)絡(luò)中的DHCP機(jī)制給本實(shí)施例中新加入的節(jié)點(diǎn)(如步驟800中的智能終端)分配IP地址;并將分配的IP地址寫入集群配置文件中。

步驟803:現(xiàn)有集群中的主節(jié)點(diǎn)啟動(dòng)Hadoop集群組件并成功啟動(dòng)。

步驟804:現(xiàn)有集群中的主節(jié)點(diǎn)進(jìn)行集群內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合(balance)。

本實(shí)施例中,主節(jié)點(diǎn)中的移動(dòng)云計(jì)算中間平臺(tái)根據(jù)新節(jié)點(diǎn)(如智能終端)的存儲(chǔ)和計(jì)算資源情況,自行進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合。舉例來(lái)看,假設(shè)每個(gè)節(jié)點(diǎn)的存儲(chǔ)資源上限為總存儲(chǔ)資源的80%以及存儲(chǔ)資源下限為總存儲(chǔ)資源的5%;假設(shè)每個(gè)節(jié)點(diǎn)的CPU計(jì)算資源上限為CPU利用率達(dá)到80%以及CPU計(jì)算資源下限為CPU利用率達(dá)到5%;其中,上限、下限的設(shè)置可以按照實(shí)際需求進(jìn)行調(diào)整。

移動(dòng)云計(jì)算中間平臺(tái)根據(jù)設(shè)置的上限、下限值進(jìn)行如下操作:

當(dāng)該新加入的節(jié)點(diǎn)的存儲(chǔ)已經(jīng)超出存儲(chǔ)資源上限時(shí),將不接受寫入操作;

當(dāng)該新加入的節(jié)點(diǎn)的計(jì)算超出CPU計(jì)算資源上限時(shí),將不接受計(jì)算任務(wù);

當(dāng)該新加入的節(jié)點(diǎn)的存儲(chǔ)低于存儲(chǔ)資源下限時(shí),將優(yōu)先寫入,直到達(dá)到存儲(chǔ)資源上限;

當(dāng)該新加入的節(jié)點(diǎn)的計(jì)算低于CPU計(jì)算資源下限時(shí),將優(yōu)先接受計(jì)算任務(wù),直到達(dá)到CPU計(jì)算資源上限;

其他處于上限和下限之間的情況,獲取任務(wù)時(shí)可以進(jìn)行隨機(jī)分配。

步驟805~步驟806:現(xiàn)有集群中的主節(jié)點(diǎn)調(diào)用移動(dòng)云計(jì)算中間平臺(tái)接口,提交Hadoop任務(wù)進(jìn)行運(yùn)行。

步驟807:集群中的各數(shù)據(jù)節(jié)點(diǎn)完成任務(wù)計(jì)算,并將任務(wù)結(jié)果反饋給主節(jié)點(diǎn)。

本實(shí)施例中,假設(shè)某個(gè)數(shù)據(jù)節(jié)點(diǎn)如步驟800中加入現(xiàn)有集群的智能終端申請(qǐng)退出集群,包括以下步驟:

步驟808:該智能終端向集群中的主節(jié)點(diǎn)申請(qǐng)退出集群。

步驟809:主節(jié)點(diǎn)進(jìn)行數(shù)據(jù)資源遷移:以及計(jì)算資源整合。具體實(shí)現(xiàn)如步驟804所述,這里不再贅述。

步驟810:資源整合完成后,同意該智能終端退出集群。

第二實(shí)施例

圖9為本發(fā)明智能終端采用移動(dòng)網(wǎng)絡(luò)連接方式的組網(wǎng)示意圖,圖10為本發(fā)明基于圖9所示的連接方式的對(duì)智能終端在集群中的管理的實(shí)施例的流程示意圖,結(jié)合圖9和圖10,本實(shí)施例以新的節(jié)點(diǎn)為智能終端為例,將智能終端加入集群的步驟包括:

步驟1000:將欲加入現(xiàn)有集群的移動(dòng)網(wǎng)絡(luò)如2G、3G、4G等的智能終端成功連接移動(dòng)網(wǎng)絡(luò)。

步驟1001:欲加入現(xiàn)有集群的移動(dòng)網(wǎng)絡(luò)的智能終端通過(guò)自身Android系統(tǒng)下載獲取并安裝移動(dòng)云計(jì)算中間平臺(tái)及Hadoop平臺(tái)。

步驟1002:使用移動(dòng)云計(jì)算中間平臺(tái)配置Hadoop系統(tǒng)網(wǎng)絡(luò)。具體實(shí)現(xiàn)過(guò)程如圖2所示,這里不再贅述。

假設(shè)連接方式的連接(Connection)參數(shù)為1,表示為WIFI連接方式,Connection參數(shù)為2,表示為移動(dòng)網(wǎng)絡(luò)如2G、3G、4G連接方式,Connection參數(shù)為3,表示為有線連接方式。

本實(shí)施例中,假設(shè)Connection參數(shù)為2,則移動(dòng)云計(jì)算中間平臺(tái)根據(jù)該移動(dòng)網(wǎng)絡(luò)中的DHCP機(jī)制給本實(shí)施例中新加入的節(jié)點(diǎn)(如步驟1000中的智能終端)分配IP地址;并將分配的IP地址寫入集群配置文件中。

步驟1003:現(xiàn)有集群中的主節(jié)點(diǎn)啟動(dòng)Hadoop集群組件并成功啟動(dòng)。

步驟1004:現(xiàn)有集群中的主節(jié)點(diǎn)進(jìn)行集群內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合(balance)。

本實(shí)施例中,主節(jié)點(diǎn)中的移動(dòng)云計(jì)算中間平臺(tái)根據(jù)新節(jié)點(diǎn)(如智能終端)的存儲(chǔ)和計(jì)算資源情況,自行進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合。舉例來(lái)看,假設(shè)每個(gè)節(jié)點(diǎn)的存儲(chǔ)資源上限為總存儲(chǔ)資源的80%以及存儲(chǔ)資源下限為總存儲(chǔ)資源的5%;假設(shè)每個(gè)節(jié)點(diǎn)的CPU計(jì)算資源上限為CPU利用率達(dá)到80%以及CPU計(jì)算資源下限為CPU利用率達(dá)到5%;其中,上限、下限的設(shè)置可以按照實(shí)際需求進(jìn)行調(diào)整。

移動(dòng)云計(jì)算中間平臺(tái)根據(jù)設(shè)置的上限、下限值進(jìn)行如下操作:

當(dāng)該新加入的節(jié)點(diǎn)的存儲(chǔ)已經(jīng)超出存儲(chǔ)資源上限時(shí),將不接受寫入操作;

當(dāng)該新加入的節(jié)點(diǎn)的計(jì)算超出CPU計(jì)算資源上限時(shí),將不接受計(jì)算任務(wù);

當(dāng)該新加入的節(jié)點(diǎn)的存儲(chǔ)低于存儲(chǔ)資源下限時(shí),將優(yōu)先寫入,直到達(dá)到存儲(chǔ)資源上限;

當(dāng)該新加入的節(jié)點(diǎn)的計(jì)算低于CPU計(jì)算資源下限時(shí),將優(yōu)先接受計(jì)算任務(wù),直到達(dá)到CPU計(jì)算資源上限;

其他處于上限和下限之間的情況,獲取任務(wù)時(shí)可以進(jìn)行隨機(jī)分配。

進(jìn)一步地,

考慮到傳輸速率以及流量資費(fèi)的因素,本實(shí)施例中還進(jìn)一步設(shè)置數(shù)據(jù)壓縮(Compress)參數(shù),當(dāng)Compress參數(shù)為1時(shí),表示需要進(jìn)行壓縮,當(dāng)Compress參數(shù)為0時(shí),表示不需要進(jìn)行壓縮。

當(dāng)Connection參數(shù)為2時(shí),即本實(shí)施例中采用移動(dòng)網(wǎng)絡(luò)的方式,Compress參數(shù)自動(dòng)設(shè)置為1,表示數(shù)據(jù)傳輸時(shí)需要進(jìn)行壓縮,以獲得高傳輸速率,從而降低流量資費(fèi);

當(dāng)Connection參數(shù)為1或3時(shí),Compress參數(shù)自動(dòng)設(shè)置為0,數(shù)據(jù)傳輸不需要進(jìn)行壓縮,以減輕CPU運(yùn)算壓力。

步驟1005~步驟1006:現(xiàn)有集群中的主節(jié)點(diǎn)調(diào)用移動(dòng)云計(jì)算中間平臺(tái)接口,提交Hadoop任務(wù)進(jìn)行運(yùn)行。

步驟1007:集群中的各數(shù)據(jù)節(jié)點(diǎn)完成任務(wù)計(jì)算,并將任務(wù)結(jié)果反饋給主節(jié)點(diǎn)。

本實(shí)施例中,假設(shè)某個(gè)數(shù)據(jù)節(jié)點(diǎn)如步驟1000中加入現(xiàn)有集群的智能終端申請(qǐng)退出集群,包括以下步驟:

步驟1008:該智能終端向集群中的主節(jié)點(diǎn)申請(qǐng)退出集群。

步驟1009:主節(jié)點(diǎn)進(jìn)行數(shù)據(jù)資源遷移:以及計(jì)算資源整合。具體實(shí)現(xiàn)如步驟1004所述,這里不再贅述。

步驟1010:資源整合完成后,同意該智能終端退出集群。

第三實(shí)施例

圖11為本發(fā)明智能終端采用有線連接方式的組網(wǎng)示意圖,圖12為本發(fā)明基于圖11所示的連接方式的對(duì)智能終端在集群中的管理的實(shí)施例的流程示意圖,結(jié)合圖11和圖12,本實(shí)施例以新的節(jié)點(diǎn)為智能終端為例,將智能終端加入集群的步驟包括:

步驟1200:將欲加入現(xiàn)有集群的的智能終端使用雙絞線或光纖成功連接集群中的交換機(jī)。本實(shí)施例中,欲加入現(xiàn)有集群的智能終端使用USB2.0接口,因此,采用雙絞線連接集群的交換機(jī)。

步驟1201:欲加入現(xiàn)有集群的移動(dòng)網(wǎng)絡(luò)的智能終端通過(guò)自身Android系統(tǒng)下載獲取并安裝移動(dòng)云計(jì)算中間平臺(tái)及Hadoop平臺(tái)。

步驟1202:使用移動(dòng)云計(jì)算中間平臺(tái)配置Hadoop系統(tǒng)網(wǎng)絡(luò)。具體實(shí)現(xiàn)過(guò)程如圖2所示,這里不再贅述。

假設(shè)連接方式的連接(Connection)參數(shù)為1,表示為WIFI連接方式,Connection參數(shù)為2,表示為移動(dòng)網(wǎng)絡(luò)如2G、3G、4G連接方式,Connection參數(shù)為3,表示為有線連接方式。

本實(shí)施例中,假設(shè)Connection參數(shù)為3,則移動(dòng)云計(jì)算中間平臺(tái)搜尋當(dāng)前集群網(wǎng)絡(luò)所有節(jié)點(diǎn)的IP地址,然后對(duì)最大的IP地址進(jìn)行處理:在最大的IP地址第四段+1,當(dāng)加到253時(shí),則在IP地址第三段加1,第四段從1開始計(jì)數(shù);并將分配的IP地址寫入集群配置文件中。

步驟1203:現(xiàn)有集群中的主節(jié)點(diǎn)啟動(dòng)Hadoop集群組件并成功啟動(dòng)。

步驟1204:現(xiàn)有集群中的主節(jié)點(diǎn)進(jìn)行集群內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合(balance)。

本實(shí)施例中,主節(jié)點(diǎn)中的移動(dòng)云計(jì)算中間平臺(tái)根據(jù)新節(jié)點(diǎn)(如智能終端)的存儲(chǔ)和計(jì)算資源情況,自行進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合。舉例來(lái)看,假設(shè)每個(gè)節(jié)點(diǎn)的存儲(chǔ)資源上限為總存儲(chǔ)資源的80%以及存儲(chǔ)資源下限為總存儲(chǔ)資源的5%;假設(shè)每個(gè)節(jié)點(diǎn)的CPU計(jì)算資源上限為CPU利用率達(dá)到80%以及CPU計(jì)算資源下限為CPU利用率達(dá)到5%;其中,上限、下限的設(shè)置可以按照實(shí)際需求進(jìn)行調(diào)整。

移動(dòng)云計(jì)算中間平臺(tái)根據(jù)設(shè)置的上限、下限值進(jìn)行如下操作:

當(dāng)該新加入的節(jié)點(diǎn)的存儲(chǔ)已經(jīng)超出存儲(chǔ)資源上限時(shí),將不接受寫入操作;

當(dāng)該新加入的節(jié)點(diǎn)的計(jì)算超出CPU計(jì)算資源上限時(shí),將不接受計(jì)算任務(wù);

當(dāng)該新加入的節(jié)點(diǎn)的存儲(chǔ)低于存儲(chǔ)資源下限時(shí),將優(yōu)先寫入,直到達(dá)到存儲(chǔ)資源上限;

當(dāng)該新加入的節(jié)點(diǎn)的計(jì)算低于CPU計(jì)算資源下限時(shí),將優(yōu)先接受計(jì)算任務(wù),直到達(dá)到CPU計(jì)算資源上限;

其他處于上限和下限之間的情況,獲取任務(wù)時(shí)可以進(jìn)行隨機(jī)分配。

步驟1205~步驟1206:現(xiàn)有集群中的主節(jié)點(diǎn)調(diào)用移動(dòng)云計(jì)算中間平臺(tái)接口,提交Hadoop任務(wù)進(jìn)行運(yùn)行。

步驟1207:集群中的各數(shù)據(jù)節(jié)點(diǎn)完成任務(wù)計(jì)算,并將任務(wù)結(jié)果反饋給主節(jié)點(diǎn)。

本實(shí)施例中,假設(shè)某個(gè)數(shù)據(jù)節(jié)點(diǎn)如步驟1200中加入現(xiàn)有集群的智能終端申請(qǐng)退出集群,包括以下步驟:

步驟1208:該智能終端向集群中的主節(jié)點(diǎn)申請(qǐng)退出集群。

步驟1209:主節(jié)點(diǎn)進(jìn)行數(shù)據(jù)資源遷移:以及計(jì)算資源整合。具體實(shí)現(xiàn)如步驟1004所述,這里不再贅述。

步驟1210:資源整合完成后,同意該智能終端退出集群。

第四實(shí)施例

本實(shí)施例為網(wǎng)絡(luò)接通后確定集群模型為定制機(jī)架結(jié)構(gòu)的情況。

首先,在機(jī)架安裝、上電,機(jī)架統(tǒng)一將交流電轉(zhuǎn)化為直流電為所有設(shè)備提供電源后,進(jìn)行版本鏡像操作,即將圖1所示整個(gè)系統(tǒng)打包作為鏡像直接存儲(chǔ)在ROM中。

安裝完系統(tǒng)的硬件存儲(chǔ)到備份件所在的機(jī)架中軸入口。初始安裝因?yàn)樾枰惭b的設(shè)備數(shù)量較多,需要人為手工操作硬件供給。后續(xù)的備份設(shè)備以自動(dòng)存儲(chǔ)5-10塊設(shè)備為佳。

通過(guò)與備份件替換相同的流程將硬件安裝到指定的位置,如圖13所示,圖13為本發(fā)明定制機(jī)架結(jié)構(gòu)中機(jī)架的俯視圖,如圖13所示,計(jì)算存儲(chǔ)模塊安裝于機(jī)架的圓環(huán)上。本實(shí)施例中,圓環(huán)以低速進(jìn)行轉(zhuǎn)動(dòng)。

一方面,圓環(huán)的低速轉(zhuǎn)動(dòng)帶來(lái)了傳統(tǒng)設(shè)備的風(fēng)冷散熱的效果,另一方面,在硬件需要替換時(shí),圓環(huán)的低速轉(zhuǎn)動(dòng)實(shí)現(xiàn)了計(jì)算存儲(chǔ)備份模塊通道的對(duì)接,以便于機(jī)架將替換的模塊運(yùn)送到位;同時(shí),離心力能夠自動(dòng)拆除損壞的硬件。

然后,硬件聯(lián)通機(jī)架交換設(shè)備自動(dòng)獲取網(wǎng)絡(luò)參數(shù),加入分布式集群。

最先合入集群的設(shè)備為主節(jié)點(diǎn),可以在外部通過(guò)網(wǎng)絡(luò)連接主節(jié)點(diǎn)的云計(jì)算任務(wù)調(diào)度平臺(tái)執(zhí)行分布式計(jì)算任務(wù)。

接著,加入備份設(shè)備,后續(xù)定時(shí)檢測(cè)機(jī)架的備份設(shè)備數(shù)量,以便及時(shí)添加。同時(shí)需要回收損壞的硬件設(shè)備。

圖14為本發(fā)明定制機(jī)架結(jié)構(gòu)中機(jī)架側(cè)視圖,如圖14所示,機(jī)架的圓環(huán)槽位層可以是多層設(shè)計(jì),帶箭頭的線表示了備份硬件的運(yùn)行路徑。

在進(jìn)行硬件替換時(shí),如圖15所示,硬件槽位打開鎖定,損壞硬件因離心力脫離機(jī)架;備份硬件經(jīng)傳送裝置運(yùn)行到備份導(dǎo)槽中;圓環(huán)逐漸降低速度至停止轉(zhuǎn)動(dòng),使備份導(dǎo)槽和硬件需要替換的槽位對(duì)接,再經(jīng)過(guò)傳送裝置的操作將備份硬件裝入硬件槽位;更換備用硬件后,圓環(huán)逐漸回復(fù)原有運(yùn)行旋轉(zhuǎn)速度。

第五實(shí)施例

本實(shí)施例以典型應(yīng)用場(chǎng)景對(duì)本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)及系統(tǒng)的具體工作實(shí)現(xiàn)進(jìn)行描述。假設(shè)由于一游戲因計(jì)算量大且產(chǎn)生數(shù)據(jù)多,在一臺(tái)手機(jī)上運(yùn)行非??D,同時(shí)需要基于這些大數(shù)據(jù)進(jìn)行人工智能分析和挖掘,提供玩家場(chǎng)景發(fā)現(xiàn)和玩友推薦等,本實(shí)施例中假設(shè)在一個(gè)房間,有5個(gè)人各自手持1臺(tái)Android系統(tǒng)的智能手機(jī),來(lái)測(cè)試使用這款大型游戲。圖16為本發(fā)明移動(dòng)云計(jì)算中間平臺(tái)應(yīng)用的實(shí)施例的流程示意圖,本實(shí)施例中,為例描述方便,僅以2臺(tái)設(shè)備即Master主節(jié)點(diǎn)與一臺(tái)Slave節(jié)點(diǎn)之間的業(yè)務(wù)流程為例,Master與其他Slave節(jié)點(diǎn)之間的業(yè)務(wù)流程與圖16所示的業(yè)務(wù)流程一樣,這里不再贅述。如圖16所示,包括:

步驟1600:分別在Master節(jié)點(diǎn)和Slave節(jié)點(diǎn)上安裝移動(dòng)云計(jì)算中間平臺(tái)、Hadoop、游戲應(yīng)用。

步驟1601:使用移動(dòng)云計(jì)算中間平臺(tái)對(duì)Android系統(tǒng)及Hadoop平臺(tái)進(jìn)行相關(guān)配置并生效,大致包括:

主節(jié)點(diǎn)的移動(dòng)云計(jì)算中間平臺(tái)為Hadoop平臺(tái)提供Android系統(tǒng)缺少的Java庫(kù);主節(jié)點(diǎn)的移動(dòng)云計(jì)算中間平臺(tái)對(duì)Android系統(tǒng)進(jìn)行硬件選取、加載;主節(jié)點(diǎn)的移動(dòng)云計(jì)算中間平臺(tái)分配一個(gè)IP地址,根據(jù)反饋的不同網(wǎng)絡(luò)連接方式進(jìn)行相應(yīng)IP地址的配置;智能終端的Android系統(tǒng)讀取分配的IP地址寫入Hadoop配置文件并生效;主節(jié)點(diǎn)的移動(dòng)云計(jì)算中間平臺(tái)在Hadoop平臺(tái)中進(jìn)行集群內(nèi)數(shù)據(jù)資源遷移以及計(jì)算資源整合,并通知集群內(nèi)的其他Slave節(jié)點(diǎn)內(nèi)進(jìn)行資源調(diào)整。具體實(shí)現(xiàn)如圖2所示,這里不再贅述。

步驟1602:各節(jié)點(diǎn)如圖16中的Master節(jié)點(diǎn)和Slave節(jié)點(diǎn)檢測(cè)游戲應(yīng)用占用資源情況,并反饋到各自的Hadoop平臺(tái);各Slave節(jié)點(diǎn)的Hadoop平臺(tái)收到游戲應(yīng)用占用資源情況后,反饋到Master節(jié)點(diǎn)。

步驟1603:Master節(jié)點(diǎn)根據(jù)各節(jié)點(diǎn)存儲(chǔ)和計(jì)算資源情況,自動(dòng)進(jìn)行數(shù)據(jù)資源遷移以及計(jì)算資源整合。

步驟1604:游戲應(yīng)用開始使用,Master節(jié)點(diǎn)收到使用行為和任務(wù)后,為各Slave節(jié)點(diǎn)分配計(jì)算和存儲(chǔ)任務(wù);各Slave節(jié)點(diǎn)向Master節(jié)點(diǎn)反饋計(jì)算結(jié)果和存儲(chǔ)結(jié)果,Master節(jié)點(diǎn)進(jìn)行計(jì)算結(jié)果和存儲(chǔ)結(jié)果匯總,并向游戲應(yīng)用反饋游戲應(yīng)用運(yùn)算結(jié)果和存儲(chǔ)結(jié)果。

步驟1605:在游戲應(yīng)用的計(jì)算任務(wù)和存儲(chǔ)任務(wù)進(jìn)行過(guò)程中,主節(jié)點(diǎn)的移動(dòng)云計(jì)算中間平臺(tái)進(jìn)行日志的存儲(chǔ),使用FIFO方式存儲(chǔ);和/或,主節(jié)點(diǎn)的移動(dòng)云計(jì)算中間平臺(tái)進(jìn)行各節(jié)點(diǎn)的硬件健康監(jiān)控。

步驟1606:游戲應(yīng)用結(jié)束,Master節(jié)點(diǎn)通知各Slave節(jié)點(diǎn)釋放計(jì)算資源和存儲(chǔ)資源;各Slave節(jié)點(diǎn)向Master節(jié)點(diǎn)反饋計(jì)算資源和存儲(chǔ)資源釋放結(jié)果。

以上所述,僅為本發(fā)明的較佳實(shí)例而已,并非用于限定本發(fā)明的保護(hù)范圍。凡在本發(fā)明的精神和原則之內(nèi),所做的任何修改、等同替換、改進(jìn)等,均應(yīng)包含在本發(fā)明的保護(hù)范圍之內(nèi)。

當(dāng)前第1頁(yè)1 2 3 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評(píng)論。精彩留言會(huì)獲得點(diǎn)贊!
1