亚洲成年人黄色一级片,日本香港三级亚洲三级,黄色成人小视频,国产青草视频,国产一区二区久久精品,91在线免费公开视频,成年轻人网站色直接看

一種數(shù)據(jù)匯聚系統(tǒng)和方法與流程

文檔序號:12493232閱讀:873來源:國知局
一種數(shù)據(jù)匯聚系統(tǒng)和方法與流程

本發(fā)明涉及數(shù)據(jù)處理領(lǐng)域,更具體地,涉及一種數(shù)據(jù)匯聚系統(tǒng)和方法。



背景技術(shù):

近些年來,我國的城鎮(zhèn)化建設(shè)取得了卓越的成就。但之前的城鎮(zhèn)化進程,在取得巨大成就的同時,也積累下來了很多不符合科學(xué)發(fā)展觀要求、亟待處理和破解的突出問題。為解決城市發(fā)展難題,實現(xiàn)城市可持續(xù)發(fā)展,建設(shè)智慧城市已成為當(dāng)今世界城市發(fā)展不可逆轉(zhuǎn)的歷史潮流。

智慧城市指的是運用信息和通信技術(shù)手段感測、分析、整合城市運行核心系統(tǒng)的各項關(guān)鍵信息,從而對包括民生、環(huán)保、公共安全、城市服務(wù)、工商業(yè)活動在內(nèi)的各種需求做出智能響應(yīng)。其實質(zhì)是利用先進的信息技術(shù),實現(xiàn)城市智慧式管理和運行,進而為城市中的人創(chuàng)造更美好的生活,促進城市的和諧、可持續(xù)成長。

信息的來源非常豐富且數(shù)據(jù)類型多樣,存儲和分析挖掘的數(shù)據(jù)量龐大,在對海量數(shù)據(jù)進行分析、挖掘,為城市的智慧化、精細(xì)化管理提供有效的決策依據(jù)之前,需要先將海量數(shù)據(jù)進行匯聚。

目前現(xiàn)有技術(shù)中對于數(shù)據(jù)的匯聚方法一般有兩種方式,具體包括:

一是運用開源的ETL工具進行數(shù)據(jù)的匯總。ETL(Extract-Transform-Load),用來描述將數(shù)據(jù)從來源端經(jīng)過抽?。╡xtract)、轉(zhuǎn)換(transform)、加載(load)至目的端的過程。ETL是構(gòu)建數(shù)據(jù)倉庫的重要一環(huán),用戶從數(shù)據(jù)源抽取出所需的數(shù)據(jù),經(jīng)過數(shù)據(jù)清洗,最終按照預(yù)先定義好的數(shù)據(jù)倉庫模型,將數(shù)據(jù)加載到數(shù)據(jù)倉庫中去。雖然ETL基本上能夠解決數(shù)據(jù)匯聚的問題,但是同時也存在著以下兩個個方面的問題:

1、工具單一:有些ETL工具只能解決部分問題,但是有些數(shù)據(jù)匯聚的工作需要多個工具的合作,而且這些ETL工具往往規(guī)模都比較大,對于一些規(guī)模較小的匯聚工作,往往存在著資源浪費的問題。

2、專業(yè)性要求高,使用難度大:大多數(shù)ETL工具的使用都需要操作人員有一定的編程基礎(chǔ),對于大多數(shù)運維人員和運維企業(yè)來說,存在一定的使用難度,同時也增加了使用的成本。

二是通過相關(guān)人員編寫相關(guān)的腳本,手動進行數(shù)據(jù)匯聚。此方式需要大量人工干預(yù),使用方式不夠靈活。



技術(shù)實現(xiàn)要素:

本發(fā)明為克服上述現(xiàn)有技術(shù)所述的至少一種缺陷(不足),提供一種使用方式簡單且靈活方便的數(shù)據(jù)匯聚系統(tǒng)。

本發(fā)明還提供一種使用方式簡單且靈活方便的數(shù)據(jù)匯聚方法。

為解決上述技術(shù)問題,本發(fā)明的技術(shù)方案如下:

一種數(shù)據(jù)匯聚系統(tǒng),包括用于從子系統(tǒng)中獲取數(shù)據(jù)的運行中心和用于生成和配置各個子系統(tǒng)的配置文件的客戶端;

運行中心中設(shè)有中心數(shù)據(jù)庫和用于根據(jù)配置文件和各個子系統(tǒng)進行通信以及接收、處理各個子系統(tǒng)的數(shù)據(jù)并將數(shù)據(jù)寫入中心數(shù)據(jù)庫的服務(wù)端;

運行中心與各個子系統(tǒng)之間建立統(tǒng)一的基于RESTful通信。

本發(fā)明的系統(tǒng)在運行中心與子系統(tǒng)之間建立統(tǒng)一的基于RESTful通信,實現(xiàn)了服務(wù)端與各個子系統(tǒng)之間的通信以及各個組件之間的通信,而且運用統(tǒng)一協(xié)議,使得系統(tǒng)可以自由地選擇和更換數(shù)據(jù)的處理方式,使用者無需具備專業(yè)的編程知識即可使用系統(tǒng),整個系統(tǒng)進行數(shù)據(jù)匯聚的方式變得簡單靈活而且方便 。

上述方案中,服務(wù)端中設(shè)有用于等待各個子系統(tǒng)推送數(shù)據(jù)的等待推送進程、用于主動向子系統(tǒng)請求數(shù)據(jù)的主動請求進程和用于進程調(diào)度的調(diào)度系統(tǒng)。系統(tǒng)提供了子系統(tǒng)主動推送數(shù)據(jù)以及主動向子系統(tǒng)請求數(shù)據(jù)兩種策略,給予了調(diào)度系統(tǒng)一定的自由度,使得數(shù)據(jù)的匯聚能夠分時分段處理,避免同時處理大量數(shù)據(jù),從而可以合理分配網(wǎng)絡(luò)和技術(shù)資源。

上述方案中,服務(wù)端中還設(shè)有driver層。在建立統(tǒng)一的基于RESTful通信的基礎(chǔ)上,系統(tǒng)抽象出driver層,底層可以根據(jù)實際需要使用不同的插件,實現(xiàn)底層實現(xiàn)和上層運用的隔離,系統(tǒng)搭建完成后可以根據(jù)具體的應(yīng)用需求擴展或者更改相應(yīng)的底層處理方式,增加了系統(tǒng)的靈活性。

一種數(shù)據(jù)匯聚方法,包括:

運行中心與各個子系統(tǒng)之間預(yù)先建立基于RESTful的通信;

客戶端利用數(shù)據(jù)庫表生成各個子系統(tǒng)的配置文件;

運行中心中的服務(wù)端根據(jù)配置文件按照調(diào)度策略獲取各個子系統(tǒng)的數(shù)據(jù)來更新運行中心中的中心數(shù)據(jù)庫。

本發(fā)明的方法在運行中心與子系統(tǒng)之間預(yù)先建立統(tǒng)一的基于RESTful通信,實現(xiàn)了服務(wù)端與各個子系統(tǒng)之間的通信以及各個組件之間的通信,而且運用統(tǒng)一協(xié)議,使得服務(wù)端可以自由選擇調(diào)度策略來獲取子系統(tǒng)的數(shù)據(jù),使得數(shù)據(jù)的匯聚具備一定的靈活性,而且使用者無需具備專業(yè)的編程知識即可使用該方法。本發(fā)明的數(shù)據(jù)匯聚方法方式變得簡單靈活而且方便 。

上述方案中,所述數(shù)據(jù)庫表是從運行中心中生成并導(dǎo)出的;每個子系統(tǒng)對應(yīng)一個或多個數(shù)據(jù)庫表。

上述方案中,客戶端生成配置文件時利用字符串匹配的方式從中心數(shù)據(jù)庫中尋找和獲取需要的數(shù)據(jù),生成配置文件中的配置項。本發(fā)明的方法使用字符串匹配技術(shù)來根據(jù)中心數(shù)據(jù)庫的相關(guān)表項和數(shù)據(jù)結(jié)構(gòu)生成具體的配置文件,使用人員只需要根據(jù)自身需要填入一些基本的配置信息即可完成基本的配置工作,減少使用人員工作量的同時還降低了對使用人員的專業(yè)要求。

上述方案中,所述調(diào)度策略包括子系統(tǒng)主動推送策略;運行中心中的服務(wù)端根據(jù)配置文件按照子系統(tǒng)主動推送策略獲取各個子系統(tǒng)的數(shù)據(jù)來更新運行中心中的中心數(shù)據(jù)庫的具體步驟包括:

運行中心中的服務(wù)端啟動等待進程;

服務(wù)端接收各個子系統(tǒng)有實時數(shù)據(jù)需要上送時根據(jù)服務(wù)端提供的端口向服務(wù)端推送的數(shù)據(jù);

服務(wù)端解析推送的目的url,并搜索是否有與子系統(tǒng)相關(guān)的配置文件,配置文件中是否有相關(guān)的配置項,若均為是則將接收到的數(shù)據(jù)更新中心數(shù)據(jù)庫。

子系統(tǒng)的類型各式各樣,數(shù)據(jù)的產(chǎn)生都不盡相同,運行中心有時無法獲知子系統(tǒng)一些的實時數(shù)據(jù)何時產(chǎn)生,因此設(shè)計子系統(tǒng)主動推送策略來讓子系統(tǒng)將實時產(chǎn)生的數(shù)據(jù)推送到服務(wù)端,服務(wù)端負(fù)責(zé)接收更新數(shù)據(jù)即可,使得運行中心可以實現(xiàn)實時數(shù)據(jù)的匯聚。

上述方案中,服務(wù)端接收子系統(tǒng)的數(shù)據(jù)后還判斷其自身是否處于主動推送模式,若是則將接收到的數(shù)據(jù)更新中心數(shù)據(jù)庫。

上述方案中,所述調(diào)度策略包括定時策略;

運行中心中的服務(wù)端根據(jù)配置文件按照調(diào)度策略獲取各個子系統(tǒng)的數(shù)據(jù)來更新運行中心中的中心數(shù)據(jù)庫的具體步驟包括:

服務(wù)端啟動,掃描每個配置文件,讀取和保存相關(guān)的配置文件;

服務(wù)端根據(jù)配置文件添加請求數(shù)據(jù)的定時任務(wù);

定時任務(wù)的出發(fā)點達(dá)到,服務(wù)端根據(jù)配置文件內(nèi)容中的url,向子系統(tǒng)請求數(shù)據(jù);

服務(wù)端接收子系統(tǒng)返回的數(shù)據(jù)更新數(shù)據(jù)庫。

本發(fā)明的方法設(shè)置定時策略來對子系統(tǒng)的數(shù)據(jù)進行匯聚,使得子系統(tǒng)數(shù)據(jù)的匯聚可以分時分段處理,避免運行中心同時處理大量數(shù)據(jù),使得運行中心可以合理分配網(wǎng)絡(luò)和技術(shù)資源。

上述方案中,數(shù)據(jù)庫更新的方式包括增量更新方式和全量更新方式,增量更新方式指的是服務(wù)端將接收到的數(shù)據(jù)添加到中心數(shù)據(jù)庫中,全量更新方式指的是服務(wù)端將接收到的子系統(tǒng)數(shù)據(jù)替換中心數(shù)據(jù)庫中子系統(tǒng)對應(yīng)的數(shù)據(jù)。增量更新方式和全量更新方式可以根據(jù)數(shù)據(jù)庫實際的需求確定,對于需要長時間保留的數(shù)據(jù)則可以采用增量更新方式進行數(shù)據(jù)更新,對于不需要保留的數(shù)據(jù)可以采用全量更新方式來更新數(shù)據(jù)庫,既可以數(shù)據(jù)的實際需求來執(zhí)行更新方式,還可以根據(jù)實際需求減少中心數(shù)據(jù)庫的存儲壓力,提高中心數(shù)據(jù)庫的利用率。

與現(xiàn)有技術(shù)相比,本發(fā)明技術(shù)方案的有益效果是:

本發(fā)明由于運用了統(tǒng)一協(xié)議,可以自由得更換數(shù)據(jù)的處理方式,也可以根據(jù)具體的項目需求擴展或者更改相關(guān)的底層處理方式,使得本發(fā)明具備靈活多變的處理方式。

本發(fā)明設(shè)計了靈活多變的調(diào)度策略,使得數(shù)據(jù)的匯聚能夠分時分段處理,避免了同時處理大量數(shù)據(jù),合理分配網(wǎng)絡(luò)和技術(shù)資源。

本發(fā)明設(shè)計了靈活的數(shù)據(jù)更新方式,能夠合理利用數(shù)據(jù)庫,提高數(shù)據(jù)庫的利用率。

本發(fā)明還提供了靈活而且方便的使用方式,利用字符串匹配技術(shù),根據(jù)中心數(shù)據(jù)庫的相關(guān)表項和數(shù)據(jù)結(jié)構(gòu)生成具體的配置文件,使用人員只需要根據(jù)自身需要,填入一些基本的配置信息,就完成基本的配置工作。

附圖說明

圖1為本發(fā)明一種數(shù)據(jù)匯聚系統(tǒng)的架構(gòu)圖。

圖2為本發(fā)明中導(dǎo)出的數(shù)據(jù)庫表的示例圖。

圖3為本發(fā)明中生成的配置文件的配置示例圖。

圖4為本發(fā)明一種數(shù)據(jù)匯聚方法的流程圖。

具體實施方式

附圖僅用于示例性說明,不能理解為對本專利的限制;

為了更好說明本實施例,附圖某些部件會有省略、放大或縮小,并不代表實際產(chǎn)品的尺寸;

對于本領(lǐng)域技術(shù)人員來說,附圖中某些公知結(jié)構(gòu)及其說明可能省略是可以理解的。

在本發(fā)明的描述中,需要理解的是,此外,術(shù)語“第一”、“第二”僅用于描述目的,而不能理解為指示或暗示相對重要性或隱含所指示的技術(shù)特征的數(shù)量。由此,限定的“第一”、“第二”的特征可以明示或隱含地包括一個或者更多個該特征。在本發(fā)明的描述中,除非另有說明,“多個”的含義是兩個或兩個以上。

在本發(fā)明的描述中,需要說明的是,除非另有明確的規(guī)定和限定,術(shù)語“安裝”、“連接”應(yīng)做廣義理解,例如,可以是固定連接,也可以是可拆卸連接,或一體地連接;可以是機械連接,也可以是電連接;可以是直接相連,也可以是通過中間媒介間接連接,可以說兩個元件內(nèi)部的連通。對于本領(lǐng)域的普通技術(shù)人員而言,可以具體情況理解上述術(shù)語在本發(fā)明的具體含義。

下面結(jié)合附圖和實施例對本發(fā)明的技術(shù)方案做進一步的說明。

實施例1

如圖1所示,為本發(fā)明一種數(shù)據(jù)匯聚系統(tǒng)具體實施例的架構(gòu)圖。參見圖1,本具體實施例一種數(shù)據(jù)匯聚系統(tǒng)具體包括用于從子系統(tǒng)中獲取數(shù)據(jù)的運行中心和用于生成和配置各個子系統(tǒng)的配置文件的客戶端101;

運行中心中設(shè)有中心數(shù)據(jù)庫和用于根據(jù)配置文件和各個子系統(tǒng)進行通信以及接收、處理各個子系統(tǒng)的數(shù)據(jù)并將數(shù)據(jù)寫入中心數(shù)據(jù)庫的服務(wù)端102;

運行中心與各個子系統(tǒng)之間建立統(tǒng)一的基于RESTful通信。

其中,各個子系統(tǒng)是用于采集和處理數(shù)據(jù)的系統(tǒng),如各個智慧城市中的用于采集和處理數(shù)據(jù)的系統(tǒng)。

客戶端101生成的配置文件提供給服務(wù)端使用,其可以設(shè)置在運行中心中,其所利用的數(shù)據(jù)庫表是從運行中心中生成并導(dǎo)出的,每個子系統(tǒng)對應(yīng)一個或多個數(shù)據(jù)庫表,每個子系統(tǒng)在數(shù)據(jù)中有一張或多張數(shù)據(jù)庫表,數(shù)據(jù)庫表通過表的前綴來區(qū)分不同的子系統(tǒng)。如圖2所示,為導(dǎo)出的數(shù)據(jù)庫表的一個實例。

客戶端101生成配置文件時根據(jù)命令自動利用字符串匹配的方式從中心數(shù)據(jù)庫中尋找和獲取需要的數(shù)據(jù),生成配置文件中的配置項,配置項可以為表名稱、屬性名稱、是否為主鍵等。如圖3所示,為客戶端生成的配置文件的一個實例,客戶端101生成配置文件后,使用人員只需根據(jù)自身需要填入一些基本的配置信息后就可以完成基本的配置工作?;镜呐渲眯畔ǖ幌抻谡{(diào)度disaptch、時間time、類型type和url,如圖3所示。

運行中心用于對數(shù)據(jù)進行匯聚,服務(wù)端102是運行在運行中心的,其主要的功能是根據(jù)配置文件和各個子系統(tǒng)進行通信(包括請求數(shù)據(jù)和接收數(shù)據(jù))、處理接收的數(shù)據(jù)將其寫入到運行中心的中心數(shù)據(jù)庫中。服務(wù)端102中的配置文件統(tǒng)一存儲在子系統(tǒng)配置文件109中。

如圖1所示,服務(wù)端101中設(shè)有用于等待各個子系統(tǒng)推送數(shù)據(jù)的等待推送進程103、用于主動向子系統(tǒng)請求數(shù)據(jù)的主動請求進程104和用于進程調(diào)度的調(diào)度系統(tǒng)104。

等待推送進程103調(diào)用時具體的工作模式是:

服務(wù)端102啟動等待推送進程103;

各個子系統(tǒng)有實時數(shù)據(jù)需要上送時,根據(jù)服務(wù)端102提供的端口向服務(wù)端102推送的數(shù)據(jù);

服務(wù)端102接收子系統(tǒng)推送的數(shù)據(jù),然后解析推送的目的url,并搜索是否有與子系統(tǒng)相關(guān)的配置文件,配置文件中是否有相關(guān)的配置項,自身是否處于主動推送模式,若均為是則將接收到的數(shù)據(jù)更新中心數(shù)據(jù)庫。其中主動推送模式的判斷過程主要是服務(wù)端查看相應(yīng)的配置來判斷配置是否為主動推送模式,如果是對數(shù)據(jù)進行處理。

主動請求進程104被調(diào)用時的具體工作模式是:

服務(wù)端102啟動,掃描每個配置文件,讀取和保存相關(guān)的配置文件;

服務(wù)端102根據(jù)配置文件將主動請求進程104加入到不同的定時任務(wù)隊列中;

達(dá)到某個定時任務(wù)的觸發(fā)點服務(wù)端102開始執(zhí)行相關(guān)任務(wù);

服務(wù)端102根據(jù)讀取的配置文件內(nèi)容中的url,向子系統(tǒng)請求數(shù)據(jù);

服務(wù)端102接收子系統(tǒng)返回的數(shù)據(jù)更新數(shù)據(jù)庫。

其中,服務(wù)端102啟動并掃描讀取配置文件后,還會讀取上次成功完成該主動請求進程104對應(yīng)任務(wù)的時間戳,執(zhí)行完時間戳對應(yīng)時間之后的失敗任務(wù)并及時更新數(shù)據(jù)。

其中,服務(wù)端102更新數(shù)據(jù)庫的方式包括增量更新方式和全量更新方式,增量更新方式指的是服務(wù)端102將接收到的數(shù)據(jù)添加到中心數(shù)據(jù)庫中,全量更新方式指的是服務(wù)端102將接收到的子系統(tǒng)數(shù)據(jù)替換中心數(shù)據(jù)庫中子系統(tǒng)對應(yīng)的數(shù)據(jù)。增量更新方式和全量更新方式可以根據(jù)數(shù)據(jù)庫實際的需求確定,對于需要長時間保留的數(shù)據(jù)則可以采用增量更新方式進行數(shù)據(jù)更新,對于不需要保留的數(shù)據(jù)可以采用全量更新方式來更新數(shù)據(jù)庫,既可以數(shù)據(jù)的實際需求來執(zhí)行更新方式,還可以根據(jù)實際需求減少中心數(shù)據(jù)庫的存儲壓力,提高中心數(shù)據(jù)庫的利用率。

在具體實施過程中,運行中心與各個子系統(tǒng)之間建立統(tǒng)一的基于RESTful通信的具體操作過程為:編寫相關(guān)的協(xié)議說明文檔;運行中心按照該協(xié)議的格式向子系統(tǒng)傳送請求,各個子系統(tǒng)按照要求回復(fù)相關(guān)內(nèi)容。

在建立統(tǒng)一的基于RESTful通信的基礎(chǔ)上,服務(wù)端102中抽象出driver層105。系統(tǒng)抽象出driver層105,底層可以根據(jù)實際需要使用不同的插件,如圖1所示,如使用開源ETL工具106,設(shè)置其他擴展插件107,還可以根據(jù)中心數(shù)據(jù)庫的需要內(nèi)置全量增量導(dǎo)入系統(tǒng)108。driver層的設(shè)置實現(xiàn)底層實現(xiàn)和上層運用的隔離,系統(tǒng)搭建完成后可以根據(jù)具體的應(yīng)用需求擴展或者更改相應(yīng)的底層處理方式,增加了系統(tǒng)的靈活性。

實施例2

本發(fā)明在實施例1的基礎(chǔ)上,還提供一種數(shù)據(jù)匯聚方法,所述數(shù)據(jù)匯聚方法可以基于實施例1的數(shù)據(jù)匯聚系統(tǒng)實現(xiàn)。參見圖1,本具體實施例的數(shù)據(jù)匯聚方法的具體步驟包括:

S201.運行中心與各個子系統(tǒng)之間預(yù)先建立基于RESTful的通信;此步驟的目的在于建議統(tǒng)一的協(xié)議,實現(xiàn)服務(wù)端與各個子系統(tǒng)之間的通信以及各個組件之間的通信,基于該統(tǒng)一的協(xié)議,可以對數(shù)據(jù)處理的接口進行抽象設(shè)置driver層,使得底層可以根據(jù)實際需要使用不同的插件,以后可以根據(jù)具體的項目需求擴展或更改相關(guān)的底層處理方式。建立基于RESTful通信的具體實現(xiàn)方式是:

編寫相關(guān)的協(xié)議說明文檔;

運行中心按照該協(xié)議的格式向子系統(tǒng)傳送請求,各個子系統(tǒng)按照要求回復(fù)相關(guān)內(nèi)容。

S202.客戶端利用數(shù)據(jù)庫表生成各個子系統(tǒng)的配置文件;

S203.運行中心中的服務(wù)端根據(jù)配置文件按照調(diào)度策略獲取各個子系統(tǒng)的數(shù)據(jù)來更新運行中心中的中心數(shù)據(jù)庫。

在上述方法中,各個子系統(tǒng)是用于采集和處理數(shù)據(jù)的系統(tǒng),如各個智慧城市中的用于采集和處理數(shù)據(jù)的系統(tǒng)。運行中心用于對數(shù)據(jù)進行匯聚,服務(wù)端是運行在運行中心的,其主要的功能是根據(jù)配置文件和各個子系統(tǒng)進行通信(包括請求數(shù)據(jù)和接收數(shù)據(jù))、處理接收的數(shù)據(jù)將其寫入到運行中心的中心數(shù)據(jù)庫中。服務(wù)端中的配置文件統(tǒng)一存儲在子系統(tǒng)配置文件中。

在步驟S202中,數(shù)據(jù)庫表是從中心數(shù)據(jù)庫中生成并導(dǎo)出的,每個子系統(tǒng)對應(yīng)一個數(shù)據(jù)庫表??蛻舳松膳渲梦募r利用字符串匹配的方式從中心數(shù)據(jù)庫中尋找和獲取需要的數(shù)據(jù),生成配置文件中的配置項,配置項可以為表名稱、屬性名稱、是否為主鍵等。配置文件生成后,使用人員只需要根據(jù)自身需要填入一些基本的配置信息即可完成基本的配置工作,減少使用人員工作量的同時還降低了對使用人員的專業(yè)要求。

在步驟S203中,調(diào)度策略包括但不限于子系統(tǒng)主動推送策略和定時策略;利用子系統(tǒng)主動推送策略進行數(shù)據(jù)匯聚的具體步驟是:

運行中心中的服務(wù)端啟動等待進程;

服務(wù)端接收各個子系統(tǒng)有實時數(shù)據(jù)需要上送時根據(jù)服務(wù)端提供的端口向服務(wù)端推送的數(shù)據(jù);

服務(wù)端解析推送的目的url,并搜索是否有與子系統(tǒng)相關(guān)的配置文件,配置文件中是否有相關(guān)的配置項,是否處于主動推送模式,若均為是則將接收到的數(shù)據(jù)更新中心數(shù)據(jù)庫。

利用定時策略進行數(shù)據(jù)匯聚的具體步驟是:

服務(wù)端啟動,掃描每個配置文件,讀取和保存相關(guān)的配置文件;

服務(wù)端根據(jù)配置文件將數(shù)據(jù)請求任務(wù)加入到不同的定時任務(wù)隊列中;

達(dá)到某個定時任務(wù)的觸發(fā)點服務(wù)端開始執(zhí)行相關(guān)任務(wù);

服務(wù)端根據(jù)讀取的配置文件內(nèi)容中的url,向子系統(tǒng)請求數(shù)據(jù);

服務(wù)端接收子系統(tǒng)返回的數(shù)據(jù)更新數(shù)據(jù)庫。

其中,服務(wù)端啟動并掃描讀取配置文件后,還會讀取上次成功完成該主動請求任務(wù)的時間戳,執(zhí)行完上次失敗的任務(wù)并及時更新數(shù)據(jù)。

具體實施過程中,數(shù)據(jù)庫更新的方式包括增量更新方式和全量更新方式,增量更新方式指的是服務(wù)端將接收到的數(shù)據(jù)添加到中心數(shù)據(jù)庫中,全量更新方式指的是服務(wù)端將接收到的子系統(tǒng)數(shù)據(jù)替換中心數(shù)據(jù)庫中子系統(tǒng)對應(yīng)的數(shù)據(jù)。增量更新方式和全量更新方式可以根據(jù)數(shù)據(jù)庫實際的需求確定,對于需要長時間保留的數(shù)據(jù)則可以采用增量更新方式進行數(shù)據(jù)更新,對于不需要保留的數(shù)據(jù)可以采用全量更新方式來更新數(shù)據(jù)庫,既可以數(shù)據(jù)的實際需求來執(zhí)行更新方式,還可以根據(jù)實際需求減少中心數(shù)據(jù)庫的存儲壓力,提高中心數(shù)據(jù)庫的利用率。

相同或相似的標(biāo)號對應(yīng)相同或相似的部件;

附圖中描述位置關(guān)系的用于僅用于示例性說明,不能理解為對本專利的限制;

顯然,本發(fā)明的上述實施例僅僅是為清楚地說明本發(fā)明所作的舉例,而并非是對本發(fā)明的實施方式的限定。對于所屬領(lǐng)域的普通技術(shù)人員來說,在上述說明的基礎(chǔ)上還可以做出其它不同形式的變化或變動。這里無需也無法對所有的實施方式予以窮舉。凡在本發(fā)明的精神和原則之內(nèi)所作的任何修改、等同替換和改進等,均應(yīng)包含在本發(fā)明權(quán)利要求的保護范圍之內(nèi)。

當(dāng)前第1頁1 2 3 
網(wǎng)友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1