本發(fā)明實施例涉及軟件開發(fā)技術(shù)領(lǐng)域,具體涉及一種數(shù)據(jù)采集系統(tǒng)和方法。
背景技術(shù):
隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展,不同的系統(tǒng)可以采用不同協(xié)議進行數(shù)據(jù)的采集、交互以及存儲等。
現(xiàn)有技術(shù)中,對于不同系統(tǒng)或應(yīng)用采用各自共享接口對外提供數(shù)據(jù),若協(xié)議方式不統(tǒng)一,不利于應(yīng)用對數(shù)據(jù)的獲取。接口協(xié)議有很多種,不同的系統(tǒng)或應(yīng)用會采用不同的接口協(xié)議,在進行數(shù)據(jù)的交互時,不同接口協(xié)議對應(yīng)的系統(tǒng)不能直接進行數(shù)據(jù)的交互。這給數(shù)據(jù)的交互帶來極大的不便,尤其在新的接口協(xié)議出現(xiàn)時,需要開發(fā)人員對數(shù)據(jù)進行相應(yīng)的處理,實現(xiàn)數(shù)據(jù)的交互,降低了數(shù)據(jù)交互的效率增加了數(shù)據(jù),增加了軟件開發(fā)的工作量
因此,如何提出一種方案,能夠提高不同系統(tǒng)間數(shù)據(jù)交互的效率,成為亟待解決的問題。
技術(shù)實現(xiàn)要素:
針對現(xiàn)有技術(shù)中的缺陷,本發(fā)明實施例提供一種數(shù)據(jù)采集系統(tǒng)和方法。
一方面,本發(fā)明實施例提出一種數(shù)據(jù)采集系統(tǒng),包括:
依次連接的關(guān)聯(lián)模塊、任務(wù)處理模塊以及數(shù)據(jù)采集模塊;
所述關(guān)聯(lián)模塊用于將不同的數(shù)據(jù)平臺與所述數(shù)據(jù)平臺對應(yīng)的接口協(xié)議建立關(guān)聯(lián)關(guān)系,并存儲;
所述任務(wù)處理模塊用于根據(jù)待采集數(shù)據(jù)獲取所述待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺,并通過所述關(guān)聯(lián)模塊獲取所述數(shù)據(jù)平臺對應(yīng)的接口協(xié)議,將所述接口協(xié)議發(fā)送至所述數(shù)據(jù)采集模塊;
所述數(shù)據(jù)采集模塊用于根據(jù)所述接口協(xié)議采集所述待采集數(shù)據(jù),并將所述待采集數(shù)據(jù)進行存儲。
進一步地,所述系統(tǒng)還包括:顯示模塊;
所述顯示模塊分別與所述任務(wù)處理模塊以及所述數(shù)據(jù)采集模塊連接,且所述顯示模塊用于實時顯示所述任務(wù)處理模塊以及所述數(shù)據(jù)采集模塊的實時任務(wù)進程。
進一步地,所述任務(wù)處理模塊包括優(yōu)先級配置單元,所述優(yōu)先級配置單元與所述數(shù)據(jù)采集模塊連接,用于將不同的數(shù)據(jù)采集任務(wù)配置優(yōu)先級,并將所述優(yōu)先級發(fā)送至所述數(shù)據(jù)采集模塊。
進一步地,所述任務(wù)處理模塊包括任務(wù)定時單元,所述任務(wù)定時單元與所述數(shù)據(jù)采集模塊連接,用于為不同的數(shù)據(jù)采集任務(wù)配置采集啟動時間,并將所述采集啟動時間發(fā)送至所述數(shù)據(jù)采集模塊。
進一步地,所述數(shù)據(jù)采集模塊包括:相互連接的數(shù)據(jù)轉(zhuǎn)換單元和存儲單元;
所述數(shù)據(jù)轉(zhuǎn)換單元,用于根據(jù)所述接口協(xié)議將所要采集的數(shù)據(jù)進行格式轉(zhuǎn)換;
所述存儲單元,用于存儲所述數(shù)據(jù)轉(zhuǎn)換單元轉(zhuǎn)換后的數(shù)據(jù),并生成數(shù)據(jù)列表,以及,周期性更新所述數(shù)據(jù)列表。
進一步地,所述數(shù)據(jù)采集模塊還包括數(shù)據(jù)編輯單元,所述數(shù)據(jù)編輯單元分別與所述數(shù)據(jù)轉(zhuǎn)換單元和所述存儲單元連接;
所述數(shù)據(jù)編輯單元,用于在所述存儲單元存儲所述數(shù)據(jù)之前,對所述數(shù)據(jù)進行編輯處理,所述編輯處理包括:重復(fù)數(shù)據(jù)刪除及丟失數(shù)據(jù)增加。
另一方面,本發(fā)明實施例提供一種數(shù)據(jù)采集方法,包括:
接收數(shù)據(jù)采集任務(wù),獲取所述數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺;
根據(jù)數(shù)據(jù)平臺與接口協(xié)議的關(guān)聯(lián)關(guān)系,獲取所述數(shù)據(jù)平臺對應(yīng)的接口協(xié)議;
根據(jù)所述接口協(xié)議,采集所述待采集數(shù)據(jù)。
進一步地,所述方法還包括:多個所述數(shù)據(jù)采集任務(wù)同時進行。
進一步地,所述多個數(shù)據(jù)采集任務(wù)同時進行包括:不同的數(shù)據(jù)采集任務(wù)配置有不同的優(yōu)先級,根據(jù)優(yōu)先級高低進行執(zhí)行所述數(shù)據(jù)采集任務(wù)。
進一步地,所述方法還包括:設(shè)置所述數(shù)據(jù)采集任務(wù)的采集啟動時間,并根據(jù)所述采集啟動時間執(zhí)行所述數(shù)據(jù)采集任務(wù)。
本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng)和方法,通過關(guān)聯(lián)模塊預(yù)先建立數(shù)據(jù)平臺與接口協(xié)議的關(guān)聯(lián)關(guān)系,任務(wù)處理模考根據(jù)數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)獲取到對應(yīng)的數(shù)據(jù)平臺,進一步獲取到數(shù)據(jù)平臺對應(yīng)的接口協(xié)議,根據(jù)不同的接口協(xié)議采集待采集的數(shù)據(jù)。實現(xiàn)了不同接口數(shù)據(jù)的采集,不要人工數(shù)據(jù)處理,提高了數(shù)據(jù)采集的效率。
附圖說明
圖1為本發(fā)明實施例中數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖;
圖2為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖;
圖3為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖;
圖4為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖;
圖5為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖;
圖6為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖;
圖7為本發(fā)明實施例中數(shù)據(jù)采集方法的流程示意圖。
具體實施方式
為使本發(fā)明實施例的目的、技術(shù)方案和優(yōu)點更加清楚,下面將結(jié)合本發(fā)明實施例中的附圖,對本發(fā)明實施例中的技術(shù)方案進行清楚地描述,顯然,所描述的實施例是本發(fā)明一部分實施例,而不是全部的實施例。基于本發(fā)明中的實施例,本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動前提下所獲得的所有其他實施例,都屬于本發(fā)明保護的范圍。
圖1為本發(fā)明實施例中數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖,如圖1所示,本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng)包括:依次連接的關(guān)聯(lián)模塊11、任務(wù)處理模塊12以及數(shù)據(jù)采集模塊13;
關(guān)聯(lián)模塊11用于將不同的數(shù)據(jù)平臺與所述數(shù)據(jù)平臺對應(yīng)的接口協(xié)議建立關(guān)聯(lián)關(guān)系,并存儲;
任務(wù)處理模塊12用于根據(jù)待采集數(shù)據(jù)獲取所述待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺,并通過關(guān)聯(lián)模塊11獲取所述數(shù)據(jù)平臺對應(yīng)的接口協(xié)議,將所述接口協(xié)議發(fā)送至數(shù)據(jù)采集模塊12;
數(shù)據(jù)采集模塊12用于根據(jù)所述接口協(xié)議采集所述待采集數(shù)據(jù),并將所述待采集數(shù)據(jù)進行存儲。
具體地,本發(fā)明實施例提供一種數(shù)據(jù)采集系統(tǒng),其包括關(guān)聯(lián)模塊11,關(guān)聯(lián)模塊11預(yù)先將不同的數(shù)據(jù)平臺與對應(yīng)的接口協(xié)議建立關(guān)聯(lián)關(guān)系,并數(shù)據(jù)平臺與接口協(xié)議之間的關(guān)聯(lián)關(guān)系進行存儲。當(dāng)需要采集數(shù)據(jù)時,任務(wù)處理模塊12獲取待數(shù)據(jù)采集任務(wù),并獲取數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺,具體根據(jù)待采集數(shù)據(jù)的字段信息或?qū)傩缘全@取到對應(yīng)的數(shù)據(jù)平臺,當(dāng)然也可以是其他方式,如在數(shù)據(jù)采集任務(wù)中帶有待采集數(shù)據(jù)的數(shù)據(jù)平臺標識等,本發(fā)明實施例不作具體限定。獲取到待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺后,根據(jù)關(guān)聯(lián)模塊11建立的數(shù)據(jù)平臺與接口協(xié)議的關(guān)聯(lián)關(guān)系,獲取到該數(shù)據(jù)平臺對應(yīng)的接口協(xié)議,并將獲取到的接口協(xié)議發(fā)送至數(shù)據(jù)采集模塊13。數(shù)據(jù)采集模塊13接收到該接口協(xié)議后,根據(jù)接收到的接口協(xié)議采集對應(yīng)的待采集數(shù)據(jù)并進行存儲。
本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng),通過關(guān)聯(lián)模塊預(yù)先建立數(shù)據(jù)平臺與接口協(xié)議的關(guān)聯(lián)關(guān)系,任務(wù)處理模考根據(jù)數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)獲取到對應(yīng)的數(shù)據(jù)平臺,進一步獲取到數(shù)據(jù)平臺對應(yīng)的接口協(xié)議,根據(jù)不同的接口協(xié)議采集待采集的數(shù)據(jù)。實現(xiàn)了不同接口數(shù)據(jù)的采集,不要人工數(shù)據(jù)處理,提高了數(shù)據(jù)采集的效率。
圖2為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖,如圖2所示,在上述實施例的基礎(chǔ)上,所述系統(tǒng)還包括:顯示模塊21;
顯示模塊21分別與任務(wù)處理模塊12以及數(shù)據(jù)采集模塊13連接,且顯示模塊21用于實時顯示任務(wù)處理模塊12以及數(shù)據(jù)采集模塊13的實時任務(wù)進程。
具體地,在數(shù)據(jù)采集系統(tǒng)中設(shè)置顯示模塊21,并將顯示模塊21和任務(wù)處理模塊12以及數(shù)據(jù)采集模塊13分別連接,可以顯示任務(wù)處理模塊12以及數(shù)據(jù)采集模塊13的實時任務(wù)進程,便于用戶實時監(jiān)測數(shù)據(jù)采集任務(wù)的進行情況,提高了用戶體驗感。
圖3為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖,如圖3所示,在上述實施例的基礎(chǔ)上,任務(wù)處理模塊12包括優(yōu)先級配置單元121,優(yōu)先級配置單元121與數(shù)據(jù)采集模塊13連接,用于將不同的數(shù)據(jù)采集任務(wù)配置優(yōu)先級,并將所述優(yōu)先級發(fā)送至數(shù)據(jù)采集模塊13。
具體地,本發(fā)明提供的數(shù)據(jù)采集系統(tǒng)可以實現(xiàn)多個數(shù)據(jù)采集任務(wù)的同時執(zhí)行,在任務(wù)處理模塊12中設(shè)置優(yōu)先級配置單元121,用于對不同的數(shù)據(jù)采集任務(wù)配置不同的優(yōu)先級,并將配置的優(yōu)先級以及對應(yīng)的數(shù)據(jù)采集任務(wù)發(fā)送至數(shù)據(jù)采集模塊13。數(shù)據(jù)采集模塊13根據(jù)不同的優(yōu)先級設(shè)置數(shù)據(jù)采集任務(wù)的執(zhí)行順序,以實現(xiàn)數(shù)據(jù)采集任務(wù)的有序完成。其中數(shù)據(jù)采集任務(wù)的優(yōu)先級可以由用戶根據(jù)需要進行設(shè)置,也可以根據(jù)不同的數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺設(shè)置數(shù)據(jù)采集任務(wù)的優(yōu)先級,還可以根據(jù)數(shù)據(jù)采集任務(wù)的建立時間設(shè)置對應(yīng)的優(yōu)先級,當(dāng)然還可以根據(jù)其他方式進行設(shè)置,本發(fā)明實施例不作具體限定。
例如:任務(wù)處理模塊12中同時接收到3個數(shù)據(jù)采集任務(wù)A、B和C,任務(wù)處理模塊12中的優(yōu)先級配置單元121將數(shù)據(jù)采集任務(wù)A、B和C的優(yōu)先級設(shè)置為從高至低設(shè)置,即數(shù)據(jù)采集任務(wù)A的優(yōu)先級最高,數(shù)據(jù)采集任務(wù)B的優(yōu)先級次之,數(shù)據(jù)采集任務(wù)C的優(yōu)先級最低。優(yōu)先級配置單元121將數(shù)據(jù)采集任務(wù)A、B和C對應(yīng)的優(yōu)先級發(fā)送至數(shù)據(jù)采集模塊13,數(shù)據(jù)采集模塊優(yōu)先執(zhí)行數(shù)據(jù)采集任務(wù)A,再執(zhí)行數(shù)據(jù)采集任務(wù)B,最后執(zhí)行數(shù)據(jù)采集任務(wù)C。
本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng),在任務(wù)處理模塊中設(shè)置優(yōu)先級設(shè)置單元,并將不同的數(shù)據(jù)采集任務(wù)設(shè)置不同的優(yōu)先級,便于數(shù)據(jù)采集模塊根據(jù)數(shù)據(jù)采集任務(wù)的優(yōu)先級順序的進行數(shù)據(jù)采集。提高了數(shù)據(jù)采集的有序性,和數(shù)據(jù)采集的效率。
圖4為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖,如圖4所示,在上述實施例的基礎(chǔ)上,任務(wù)處理模塊12包括任務(wù)定時單元122,任務(wù)定時單元122與數(shù)據(jù)采集模塊13連接,用于為不同的數(shù)據(jù)采集任務(wù)配置采集啟動時間,并將所述采集啟動時間發(fā)送至數(shù)據(jù)采集模塊13。
具體地,在數(shù)據(jù)處理???2中設(shè)置任務(wù)定時單元122,并將任務(wù)定時單元122和數(shù)據(jù)采集模塊13連接。任務(wù)定時單元122為不同的數(shù)據(jù)采集任務(wù)配置采集啟動時間,將配置好的采集啟動時間以及對應(yīng)的采集任務(wù)發(fā)送至數(shù)據(jù)采集模塊13.數(shù)據(jù)采集模塊13根據(jù)接收到的數(shù)據(jù)采集任務(wù)的采集啟動時間開始進行數(shù)據(jù)采集。其中采集啟動時間可以由用戶根據(jù)實際使用情況設(shè)置,本發(fā)明實施例不作具體限定。例如:用戶若想在1小時后采集數(shù)據(jù)D,則可以通過任務(wù)定時單元122將該數(shù)據(jù)采集任務(wù)的采集啟動時間設(shè)置為1小時后,任務(wù)定時單元122將該數(shù)據(jù)采集任務(wù)的采集啟動時間發(fā)送至數(shù)據(jù)采集模塊13,數(shù)據(jù)采集模塊13在1小時后自動執(zhí)行該數(shù)據(jù)采集任務(wù),采集對應(yīng)的數(shù)據(jù)。
本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng),可以通過任務(wù)定時單元設(shè)置不同的數(shù)據(jù)采集任務(wù)的采集啟動時間,到達采集啟動時間后,自動采集數(shù)據(jù),實現(xiàn)數(shù)據(jù)采集的自動化,提高了數(shù)據(jù)采集的效率和用戶的體驗感。
圖5為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖,如圖5所示,在上述實施例的基礎(chǔ)上,數(shù)據(jù)采集模塊13包括:相互連接的數(shù)據(jù)轉(zhuǎn)換單元131和存儲單元132;
數(shù)據(jù)轉(zhuǎn)換單元131,用于根據(jù)所述接口協(xié)議將所要采集的數(shù)據(jù)進行格式轉(zhuǎn)換;
存儲單元132,用于存儲數(shù)據(jù)轉(zhuǎn)換單元131轉(zhuǎn)換后的數(shù)據(jù),并生成數(shù)據(jù)列表,以及,周期性更新所述數(shù)據(jù)列表。
具體地,本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng),可以采集不同接口協(xié)議對應(yīng)的數(shù)據(jù),在任務(wù)處理模塊12獲取到待采集數(shù)據(jù)的接口協(xié)議后,數(shù)據(jù)采集模塊13中的數(shù)據(jù)轉(zhuǎn)換單元131會根據(jù)接口協(xié)議轉(zhuǎn)換待采集數(shù)據(jù)的格式,以便于能夠存儲以及后續(xù)的使用。在關(guān)聯(lián)模塊11中存儲了多種接口協(xié)議,在數(shù)據(jù)采集模塊13中的數(shù)據(jù)轉(zhuǎn)換單元131中可以存儲每種接口協(xié)議對應(yīng)的數(shù)據(jù)的轉(zhuǎn)換方法,當(dāng)需要采集不同接口協(xié)議對應(yīng)的數(shù)據(jù)時,數(shù)據(jù)轉(zhuǎn)換單元可以直接進行格式的轉(zhuǎn)換。數(shù)據(jù)轉(zhuǎn)換單元131將待采集數(shù)據(jù)的格式轉(zhuǎn)換后,將轉(zhuǎn)換后的數(shù)據(jù)發(fā)送至存儲單元132,存儲單元將數(shù)據(jù)存儲,并生成數(shù)據(jù)列表,數(shù)據(jù)列表中可以包括源數(shù)據(jù)的來源、格式、存儲時間等,存儲單元132還可以周期性更新數(shù)據(jù)列表。
本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng),通過數(shù)據(jù)轉(zhuǎn)換單元將根據(jù)接口協(xié)議將待采集數(shù)據(jù)進行格式轉(zhuǎn)換,轉(zhuǎn)換后的數(shù)據(jù)有存儲單元存儲,以便后期使用該數(shù)據(jù),實現(xiàn)了不同接口協(xié)議的數(shù)據(jù)采集,提高了數(shù)據(jù)采集的效率。
圖6為本發(fā)明實施例中又一數(shù)據(jù)采集系統(tǒng)的結(jié)構(gòu)示意圖,如圖6所示,在上述實施例的基礎(chǔ)上,數(shù)據(jù)采集模塊13還包括數(shù)據(jù)編輯單元133,數(shù)據(jù)編輯單元133分別與數(shù)據(jù)轉(zhuǎn)換單元131和存儲單元132連接;
數(shù)據(jù)編輯單元133,用于在存儲單元132存儲所述數(shù)據(jù)之前,對所述數(shù)據(jù)進行編輯處理,所述編輯處理包括:重復(fù)數(shù)據(jù)刪除及丟失數(shù)據(jù)增加。
具體地,在數(shù)據(jù)采集模塊13中設(shè)置數(shù)據(jù)編輯單元133,當(dāng)數(shù)據(jù)轉(zhuǎn)換單元131將待采集數(shù)據(jù)轉(zhuǎn)換格式后,將轉(zhuǎn)換后的數(shù)據(jù)發(fā)送至數(shù)據(jù)編輯單元133,數(shù)據(jù)編輯單元對該數(shù)據(jù)進行相應(yīng)的編輯。具體編輯包括判斷該數(shù)據(jù)是否是已經(jīng)存儲的數(shù)據(jù),若是,則將該數(shù)據(jù)刪除,如判斷該數(shù)據(jù)是新增的數(shù)據(jù),或雖然之前存儲過該數(shù)據(jù)但在存儲單元132中沒有具體內(nèi)容即數(shù)據(jù)內(nèi)容丟失,則將該數(shù)據(jù)發(fā)送至存儲單元132,由存儲單元132進行數(shù)據(jù)的存儲。此外,存儲單元132中的數(shù)據(jù)列表也可以由數(shù)據(jù)編輯單元133進行編輯后發(fā)送至存儲單元132,當(dāng)存儲單元132中的數(shù)據(jù)不再需要時,還可以將已經(jīng)存儲的數(shù)據(jù)清空。
本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng),在數(shù)據(jù)采集模塊中設(shè)置數(shù)據(jù)編輯單元,由數(shù)據(jù)編輯單元對已經(jīng)采集到的數(shù)據(jù)進行相應(yīng)的編輯,刪除重復(fù)的數(shù)據(jù),補充丟失數(shù)據(jù),保證存儲單元存儲數(shù)據(jù)的完整性,同時避免存儲單元存儲空間的浪費。
圖7為本發(fā)明實施例中數(shù)據(jù)采集方法的流程示意圖,如圖7所示,本發(fā)明實施例提供的數(shù)據(jù)采集方法包括:
S1、接收數(shù)據(jù)采集任務(wù),獲取所述數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺;
S2、根據(jù)數(shù)據(jù)平臺與接口協(xié)議的關(guān)聯(lián)關(guān)系,獲取所述數(shù)據(jù)平臺對應(yīng)的接口協(xié)議;
S3、根據(jù)所述接口協(xié)議,采集所述待采集數(shù)據(jù)。
具體地,本發(fā)明實施例提供的數(shù)據(jù)采集系統(tǒng)可以實現(xiàn)多種接口協(xié)議對應(yīng)的數(shù)據(jù)采集,當(dāng)需要采集數(shù)據(jù)時,數(shù)據(jù)采集系統(tǒng)中的任務(wù)處理模塊接收到數(shù)據(jù)采集任務(wù),并獲取數(shù)據(jù)采集任務(wù)中待采集數(shù)據(jù)對應(yīng)的數(shù)據(jù)平臺。再根據(jù)數(shù)據(jù)采集系統(tǒng)中關(guān)聯(lián)模塊建立的數(shù)據(jù)平臺與接口協(xié)議對應(yīng)的關(guān)聯(lián)關(guān)系,獲取數(shù)據(jù)采集任務(wù)中待采集數(shù)據(jù)所在的數(shù)據(jù)平臺對應(yīng)的接口協(xié)議。獲取到接口協(xié)議后,數(shù)據(jù)采集模塊根據(jù)接口協(xié)議進行相應(yīng)的數(shù)據(jù)格式轉(zhuǎn)換,采集待采集數(shù)據(jù)。
本發(fā)明實施例提供的數(shù)據(jù)采集方法,根據(jù)數(shù)據(jù)采集任務(wù)中的待采集數(shù)據(jù)所在的數(shù)據(jù)平臺對應(yīng)的接口協(xié)議,采集待采集數(shù)據(jù)并進行存儲,實現(xiàn)了多種接口協(xié)議對應(yīng)數(shù)據(jù)的采集,提高了數(shù)據(jù)采集效率。
在上述實施例的基礎(chǔ)上,所述方法還包括:多個所述數(shù)據(jù)采集任務(wù)同時進行。
具體地,本發(fā)明實施例提供的數(shù)據(jù)采集方法,可以實現(xiàn)多個數(shù)據(jù)采集任務(wù)的同時進行,并且可以多線程進行多個數(shù)據(jù)采集任務(wù),以提高數(shù)據(jù)采集的速度和效率。
在上述實施例的基礎(chǔ)上,所述多個數(shù)據(jù)采集任務(wù)同時進行包括:不同的數(shù)據(jù)采集任務(wù)配置有不同的優(yōu)先級,根據(jù)優(yōu)先級高低進行執(zhí)行所述數(shù)據(jù)采集任務(wù)。
具體地,當(dāng)數(shù)據(jù)采集任務(wù)有多個時,可以為每個數(shù)據(jù)采集任務(wù)配置不同的優(yōu)先級,數(shù)據(jù)采集系統(tǒng)根據(jù)數(shù)據(jù)采集任務(wù)的優(yōu)先級決定數(shù)據(jù)采集任務(wù)執(zhí)行的先后順序,實現(xiàn)數(shù)據(jù)采集的有序進行。其中數(shù)據(jù)采集任務(wù)優(yōu)先級的設(shè)置方法同上述實施例一致,此處不再贅述。
在上述實施例的基礎(chǔ)上,所述方法還包括:設(shè)置所述數(shù)據(jù)采集任務(wù)的采集啟動時間,并根據(jù)所述采集啟動時間執(zhí)行所述數(shù)據(jù)采集任務(wù)。
具體地,在進行數(shù)據(jù)采集時,可以設(shè)置各個數(shù)據(jù)采集任務(wù)的采集啟動時間,根據(jù)設(shè)置好的采集啟動時間開始數(shù)據(jù)采集任務(wù),當(dāng)數(shù)據(jù)采集結(jié)束后,自動結(jié)束該數(shù)據(jù)采集任務(wù),當(dāng)然采集啟動時間也可以設(shè)置為立即啟動。用戶可以根據(jù)需要設(shè)置不同的數(shù)據(jù)采集任務(wù)對應(yīng)的采集啟動時間,實現(xiàn)數(shù)據(jù)采集的自動化進行,提高用戶的體驗感。
本發(fā)明實施例提供的數(shù)據(jù)采集方法,可以實現(xiàn)多種接口協(xié)議對應(yīng)的數(shù)據(jù)的采集,并可以多線程同時執(zhí)行多個數(shù)據(jù)采集任務(wù),還可以根據(jù)需要設(shè)置數(shù)據(jù)采集啟動時間,實現(xiàn)數(shù)據(jù)采集的智能化,提高了數(shù)據(jù)采集效率。
最后應(yīng)說明的是:以上實施例僅用以說明本發(fā)明的技術(shù)方案,而非對其限制;盡管參照前述實施例對本發(fā)明進行了詳細的說明,本領(lǐng)域的普通技術(shù)人員應(yīng)當(dāng)理解:其依然可以對前述各實施例所記載的技術(shù)方案進行修改,或者對其中部分技術(shù)特征進行等同替換;而這些修改或者替換,并不使相應(yīng)技術(shù)方案的本質(zhì)脫離本發(fā)明各實施例技術(shù)方案的精神和范圍。