本發(fā)明涉及計算機(jī)技術(shù)領(lǐng)域,特別是涉及一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法及裝置。
背景技術(shù):
數(shù)據(jù)分析是組織有目的地收集數(shù)據(jù)、數(shù)據(jù)處理、分析數(shù)據(jù),使之成為信息的過程。數(shù)據(jù)分析的前提是數(shù)據(jù)采集和數(shù)據(jù)處理,在數(shù)據(jù)采集過程中數(shù)據(jù)來源可能不同,格式也可能不同,因此在進(jìn)行數(shù)據(jù)采集時,可以使用現(xiàn)有技術(shù)中提供的數(shù)據(jù)采集軟件,例如,在采集網(wǎng)頁視頻播放數(shù)據(jù)時,可以使用采集網(wǎng)頁視頻播放數(shù)據(jù)的軟件開發(fā)包(Software Development Kit,SDK);在采集移動端的用戶行為數(shù)據(jù)時,可以使用移動端的用戶行為數(shù)據(jù)SDK等等。在數(shù)據(jù)采集過程中使用的SDK,均有特定的來源信息、特定的數(shù)據(jù)格式、特定的數(shù)據(jù)傳送格式,在數(shù)據(jù)處理時要分別針對特定的來源信息、特定的數(shù)據(jù)格式、特定的數(shù)據(jù)傳送格式進(jìn)行數(shù)據(jù)處理。
在使用數(shù)據(jù)采集軟件進(jìn)行數(shù)據(jù)采集時,發(fā)明人發(fā)現(xiàn)其存在如下問題:當(dāng)同時采集網(wǎng)頁視頻播放數(shù)據(jù)與移動端的用戶行為數(shù)據(jù)兩種數(shù)據(jù)采集指標(biāo)時,需要對網(wǎng)頁視頻播放數(shù)據(jù)與移動端的用戶行為分別部署不同的數(shù)據(jù)采集平臺,才能實現(xiàn)同時采集到網(wǎng)頁視頻播放數(shù)據(jù)與移動端的用戶行為數(shù)據(jù);或者,在一個采集網(wǎng)頁視頻播放數(shù)據(jù)的數(shù)據(jù)采集平臺中添加一個采集移動端的用戶行為。但是,在一個數(shù)據(jù)采集平臺中添加、修改及刪除數(shù)據(jù)采集指標(biāo),需要對該數(shù)據(jù)采集平臺中現(xiàn)有的代碼做較多修改,因此,現(xiàn)有數(shù)據(jù)采集平臺中在添加、修改及刪除數(shù)據(jù)采集指標(biāo)時靈活性較低。
技術(shù)實現(xiàn)要素:
有鑒于此,本發(fā)明提供的一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法及裝置,主要目的在于提高數(shù)據(jù)采集平臺中添加、修改及刪除數(shù)據(jù)采集指標(biāo)的靈活性。
為了解決上述問題,本發(fā)明主要提供如下技術(shù)方案:
一方面,本發(fā)明提供了一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法,該方法包括:
接收數(shù)據(jù)采集指令,并根據(jù)所述數(shù)據(jù)采集指令采集待處理數(shù)據(jù);其中,所述數(shù)據(jù)采集指令由服務(wù)器生成,且所述數(shù)據(jù)采集指令中包含待處理數(shù)據(jù)的配置信息,所述配置信息包含:采集待處理數(shù)據(jù)的數(shù)量、數(shù)據(jù)類型、數(shù)據(jù)發(fā)送協(xié)議;
解析所述數(shù)據(jù)采集指令,獲取所述待處理數(shù)據(jù)的所述配置信息;
基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理;其中,所述模塊化處理包括數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送。
另一方面,本發(fā)明還提供一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化裝置,該裝置包括:
接收單元,用于接收數(shù)據(jù)采集指令,其中,所述數(shù)據(jù)采集指令由服務(wù)器生成,且所述數(shù)據(jù)采集指令中包含待處理數(shù)據(jù)的配置信息,所述配置信息包含:采集待處理數(shù)據(jù)的數(shù)量、數(shù)據(jù)類型、數(shù)據(jù)發(fā)送協(xié)議;
采集單元,用于根據(jù)所述接收單元接收的所述數(shù)據(jù)采集指令采集待處理數(shù)據(jù);
解析單元,用于解析所述接收單元接收的所述數(shù)據(jù)采集指令;
獲取單元,用于在所述解析單元解析所述數(shù)據(jù)采集指令之后,獲取所述待處理數(shù)據(jù)的所述配置信息;
處理單元,用于基于所述獲取單元獲取的所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理;其中,所述模塊化處理包括數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送。
借由上述技術(shù)方案,本發(fā)明提供的技術(shù)方案至少具有下列優(yōu)點:
本發(fā)明提供的數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法及裝置,接收數(shù)據(jù)采集指令,并根據(jù)該數(shù)據(jù)采集指令采集待處理數(shù)據(jù),該數(shù)據(jù)采集指令由服務(wù)器生成,且該數(shù)據(jù)采集指令包含有待處理數(shù)據(jù)的配置信息,解析該數(shù)據(jù)采集指令,并獲取待處理數(shù)據(jù)的配置信息,基于該配置信息對待處理數(shù)據(jù)進(jìn)行模塊化處理,其中,該模塊化處理包括:數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送;與現(xiàn)有技術(shù)相比,本發(fā)明通過數(shù)據(jù)采集指令中的配置 信息,配置待處理數(shù)據(jù),并基于該配置信息對待處理數(shù)據(jù)進(jìn)行模塊化處理,提高了基于一個數(shù)據(jù)采集平臺添加、修改及刪除數(shù)據(jù)采集指標(biāo)的靈活性。
上述說明僅是本發(fā)明技術(shù)方案的概述,為了能夠更清楚了解本發(fā)明的技術(shù)手段,而可依照說明書的內(nèi)容予以實施,并且為了讓本發(fā)明的上述和其它目的、特征和優(yōu)點能夠更明顯易懂,以下特舉本發(fā)明的具體實施方式。
附圖說明
通過閱讀下文優(yōu)選實施方式的詳細(xì)描述,各種其他的優(yōu)點和益處對于本領(lǐng)域普通技術(shù)人員將變得清楚明了。附圖僅用于示出優(yōu)選實施方式的目的,而并不認(rèn)為是對本發(fā)明的限制。而且在整個附圖中,用相同的參考符號表示相同的部件。在附圖中:
圖1示出了本發(fā)明實施例提供的一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法的流程圖;
圖2示出了本發(fā)明實施例提供的一種模塊化處理的示意圖;
圖3示出了本發(fā)明實施例提供的一種基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理方法的流程圖;
圖4示出了本發(fā)明實施例提供的一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化裝置的組成框圖;
圖5示出了本發(fā)明實施例提供的另一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化裝置的組成框。
具體實施方式
下面將參照附圖更詳細(xì)地描述本公開的示例性實施例。雖然附圖中顯示了本公開的示例性實施例,然而應(yīng)當(dāng)理解,可以以各種形式實現(xiàn)本公開而不應(yīng)被這里闡述的實施例所限制。相反,提供這些實施例是為了能夠更透徹地理解本公開,并且能夠?qū)⒈竟_的范圍完整的傳達(dá)給本領(lǐng)域的技術(shù)人員。
本發(fā)明實施例提供一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法,如圖1所示,該方法包括:
101、接收數(shù)據(jù)采集指令,并根據(jù)所述數(shù)據(jù)采集指令采集待處理數(shù)據(jù)。
在本發(fā)明實施例中,將數(shù)據(jù)采集平臺中采集待處理數(shù)據(jù)的采集邏輯進(jìn)行抽取,將抽取出的采集邏輯做成一個接口,該接口的功能為:將采集到的待處理數(shù)據(jù)交由封裝后的不同指標(biāo)模塊,由該些指標(biāo)模塊對待處理數(shù)據(jù)進(jìn)行處理;其中,所述指標(biāo)模塊為對數(shù)據(jù)采集平臺原有的處理待處理數(shù)據(jù)的方法進(jìn)行模塊化封裝形成指標(biāo)模塊。基于用戶層面上來說,當(dāng)基于該接口采集待處理數(shù)據(jù)之后,無需對待處理數(shù)據(jù)進(jìn)行處理即可將采集的待處理數(shù)據(jù)發(fā)送至服務(wù)器;基于技術(shù)實現(xiàn)上來說,當(dāng)采集待處理數(shù)據(jù)之后,將待處理數(shù)據(jù)傳遞至不同的指標(biāo)模塊中,由不同的指標(biāo)模塊分別對待處理數(shù)據(jù)進(jìn)行模塊化處理,模塊化處理包括:數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送等操作過程。
在采集待處理數(shù)據(jù)時,由預(yù)設(shè)數(shù)據(jù)采集接口采集待處理數(shù)據(jù),在預(yù)設(shè)數(shù)據(jù)采集接口采集待處理時,接收服務(wù)器發(fā)送的數(shù)據(jù)采集指令,并根據(jù)該數(shù)據(jù)采集指令采集待處理數(shù)據(jù),該數(shù)據(jù)采集指令中包含待處理數(shù)據(jù)的配置信息,所述配置信息包含:采集待處理數(shù)據(jù)的數(shù)量、數(shù)據(jù)類型、數(shù)據(jù)發(fā)送協(xié)議。
示例性的,假設(shè),數(shù)據(jù)采集指令中的配置信息為:采集待處理數(shù)據(jù)的數(shù)量為2個,分別為vido play begin time及vido play end time,且該待處理數(shù)據(jù)的數(shù)據(jù)類型均為數(shù)值型,則預(yù)設(shè)數(shù)據(jù)采集接口只采集vido play begin time及vido play end time對應(yīng)的待處理數(shù)據(jù)。
102、解析所述數(shù)據(jù)采集指令,并獲取所述待處理數(shù)據(jù)的所述配置信息。
對數(shù)據(jù)采集指令進(jìn)行解析,獲取數(shù)據(jù)采集指令中待處理數(shù)據(jù)對應(yīng)的配置信息,其目的在于,基于配置信息對待處理數(shù)據(jù)進(jìn)行處理,同時,檢驗采集的待處理數(shù)據(jù)與配置信息中記錄的內(nèi)容是否一致。
作為本發(fā)明實施例的一種實現(xiàn)方式,所述配置信息存儲于表格中,作為本發(fā)明實施例的另一種實現(xiàn)方式,所述配置信息存儲于文件中。本發(fā)明實施例對配置信息的存儲形式不進(jìn)行限定。
103、基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理。
本發(fā)明實施例中,對待處理數(shù)據(jù)進(jìn)行模塊化處理,所述模塊化處理包括數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送。需要說明的是,模塊化處 理即將待處理數(shù)據(jù)分別傳遞至數(shù)據(jù)格式化指標(biāo)模塊、加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊、數(shù)據(jù)發(fā)送指標(biāo)模塊中,數(shù)據(jù)格式化指標(biāo)模塊、加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊、數(shù)據(jù)發(fā)送指標(biāo)模塊分別按照其模塊內(nèi)的功能對待處理數(shù)據(jù)進(jìn)行數(shù)據(jù)處理。
數(shù)據(jù)格式化指標(biāo)模塊在對待處理數(shù)據(jù)進(jìn)行處理時,基于配置文件中的待處理數(shù)據(jù)的數(shù)量、數(shù)據(jù)類型對待處理數(shù)據(jù)進(jìn)行格式化處理;加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊將格式化處理后的待處理數(shù)據(jù)執(zhí)行加入數(shù)據(jù)發(fā)送隊列中,以監(jiān)測待處理數(shù)據(jù)是否已成功發(fā)送至服務(wù)器;數(shù)據(jù)發(fā)送指標(biāo)模塊基于配置信息中的數(shù)據(jù)發(fā)送協(xié)議將數(shù)據(jù)發(fā)送隊列中的待處理數(shù)據(jù)發(fā)送至服務(wù)器。
為了便于對待處理數(shù)據(jù)進(jìn)行模塊化處理,以下將以示例的形式對模塊化處理進(jìn)行詳細(xì)說明。如圖2所示,圖2示出了本發(fā)明實施例提供的一種模塊化處理的示意圖;當(dāng)待處理數(shù)據(jù)傳遞至數(shù)據(jù)格式化指標(biāo)模塊時,數(shù)據(jù)格式化指標(biāo)模塊基于配置信息中的待處理數(shù)據(jù)的數(shù)量、數(shù)據(jù)類型進(jìn)行格式化處理;格式化處理后將待處理數(shù)據(jù)傳遞至加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊,將待處理數(shù)據(jù)執(zhí)行加入數(shù)據(jù)發(fā)送隊列;將待處理數(shù)據(jù)傳遞至數(shù)據(jù)發(fā)送指標(biāo)模塊,數(shù)據(jù)發(fā)送指標(biāo)模塊基于配置信息中的數(shù)據(jù)發(fā)送協(xié)議將待處理數(shù)據(jù)發(fā)送至服務(wù)器。其中,圖2僅為便于理解對待處理的護(hù)具進(jìn)行模塊化處理抽象給出的示意圖,具體的本發(fā)明實施例對待處理數(shù)據(jù)進(jìn)行模塊化處理的詳細(xì)過程不進(jìn)行限定。
需要說明的是,由于本發(fā)明實施例所述的待處理數(shù)據(jù)的數(shù)據(jù)類型為非特定數(shù)據(jù)類型的數(shù)據(jù),因此,在數(shù)據(jù)格式化指標(biāo)模塊、加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊、數(shù)據(jù)發(fā)送指標(biāo)模塊對待處理數(shù)據(jù)進(jìn)行處理時,彼此之間相互獨立,即當(dāng)待處理數(shù)據(jù)傳遞至數(shù)據(jù)格式化指標(biāo)模塊進(jìn)行處理時,該數(shù)據(jù)格式化指標(biāo)模塊對待處理數(shù)據(jù)進(jìn)行數(shù)據(jù)格式化處理,格式化處理后的待處理數(shù)據(jù)在傳遞給入加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊、數(shù)據(jù)發(fā)送指標(biāo)模塊進(jìn)行數(shù)據(jù)處理時,也不會因為該待處理數(shù)據(jù)因為被數(shù)據(jù)格式化指標(biāo)模塊處理,而產(chǎn)生其他的影響。更簡單的理解為:待處理數(shù)據(jù)作為一串沒有特殊意義的字符串,數(shù)據(jù)格式化指標(biāo)模塊、加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊、數(shù)據(jù)發(fā)送指標(biāo)模塊分別按照其內(nèi)部處理字符串的方式對待處理數(shù)據(jù)形成的字符串進(jìn)行處理。
本發(fā)明實施例提供的數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化方法,根據(jù)數(shù) 據(jù)采集指令采集待處理數(shù)據(jù),該數(shù)據(jù)采集指令由服務(wù)器生成,且該數(shù)據(jù)采集指令包含有待處理數(shù)據(jù)的配置信息,解析該數(shù)據(jù)采集指令,并獲取待處理數(shù)據(jù)的配置信息,基于該配置信息對待處理數(shù)據(jù)進(jìn)行模塊化處理,其中,該模塊化處理包括:數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送;與現(xiàn)有技術(shù)相比,本發(fā)明實施例通過數(shù)據(jù)采集指令中的配置信息,配置待處理數(shù)據(jù),并基于該配置信息對待處理數(shù)據(jù)進(jìn)行模塊化處理,提高了基于一個數(shù)據(jù)采集平臺添加、修改及刪除數(shù)據(jù)采集指標(biāo)的靈活性。
進(jìn)一步的,作為對上述實施例的細(xì)化和擴(kuò)展,在執(zhí)行步驟103基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理時??梢园痪窒抻谝韵碌姆椒?,如圖3所示,該方法包括:
301、獲取所述待處理數(shù)據(jù)。
本發(fā)明實施例中,所述待處理數(shù)據(jù)的個數(shù)由配置信息決定,所述待處理數(shù)據(jù)可以為一個,也可以為至少兩個,本發(fā)明實施例對配置信息中配置待處理數(shù)據(jù)的具體個數(shù)不進(jìn)行限定。
302、基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行數(shù)據(jù)格式化處理。
數(shù)據(jù)格式化指標(biāo)模塊在對待處理數(shù)據(jù)進(jìn)行處理之前,首先獲取配置信息中的待處理數(shù)據(jù)的數(shù)量及數(shù)據(jù)類型,并判斷獲取的配置信息中的待處理數(shù)據(jù)的數(shù)量及數(shù)據(jù)類型是否與步驟301中獲取待處理數(shù)據(jù)的數(shù)量及數(shù)據(jù)類型一致。若一致,則繼續(xù)步驟303對獲取的待處理數(shù)據(jù)進(jìn)行格式化處理;若不一致,則說明步驟301獲取的待處理數(shù)據(jù)是錯誤的,因此將步驟301獲取的待處理數(shù)據(jù)丟棄。
本發(fā)明實施例中,在數(shù)據(jù)格式化指標(biāo)模塊對待處理數(shù)據(jù)進(jìn)行格式化處理時,根據(jù)預(yù)置規(guī)范規(guī)則將所述待處理數(shù)據(jù)進(jìn)行格式化處理,所述預(yù)置規(guī)范規(guī)則用于規(guī)范所述待處理數(shù)據(jù)的格式;其中,預(yù)置規(guī)范規(guī)則為人為設(shè)置的,包括:待處理數(shù)據(jù)的長度信息、待處理數(shù)據(jù)的特定格式轉(zhuǎn)換、當(dāng)存在多個待處理數(shù)據(jù)時,對該些待處理數(shù)據(jù)進(jìn)行拼接時使用的連接符等等。
示例性的,以預(yù)置規(guī)范規(guī)則中的待處理數(shù)據(jù)的特定格式轉(zhuǎn)換為例進(jìn)行說明。若待處理數(shù)據(jù)為視頻緩沖時長vido play buffer time=800毫秒,而預(yù)置規(guī)范規(guī)則中要求待處理數(shù)據(jù)的單位為秒,則需要將視頻緩沖時長vido play buffer time=800毫秒格式化處理為視頻緩沖時長vido play buffer time=0.8秒,以上僅為示例性的舉例,本發(fā)明實施例對預(yù)置規(guī)范規(guī)則不進(jìn)行具體限定。
303、將數(shù)據(jù)格式化處理后的所述待處理數(shù)據(jù)執(zhí)行加入數(shù)據(jù)發(fā)送隊列。
本發(fā)明實施例最終的目的是將采集到的待處理數(shù)據(jù)發(fā)送至服務(wù)器,為了能夠確認(rèn)是否已經(jīng)將待處理數(shù)據(jù)發(fā)送至服務(wù)器,在數(shù)據(jù)發(fā)送指標(biāo)模塊向服務(wù)器發(fā)送待處理數(shù)據(jù)之前,加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊將該待處理數(shù)據(jù)發(fā)送執(zhí)行加入數(shù)據(jù)發(fā)送隊列中,該數(shù)據(jù)發(fā)送隊列用于存儲格式化處理后的待處理數(shù)據(jù);該發(fā)送等待隊列能夠控制發(fā)送待處理數(shù)據(jù)的發(fā)送時間、監(jiān)測待處理數(shù)據(jù)是否發(fā)送成功,具體包括:加入數(shù)據(jù)發(fā)送隊列指標(biāo)模塊將格式化處理后的待處理數(shù)據(jù)添加到發(fā)送等待隊列中,發(fā)送等待隊列中設(shè)置發(fā)送待處理數(shù)據(jù)的間隔時長為10s,即發(fā)送等待隊列中每隔10s發(fā)送一個待處理數(shù)據(jù),并監(jiān)測該待處理數(shù)據(jù)是否發(fā)送成功,若該待處理數(shù)據(jù)發(fā)送成功,則對該待處理數(shù)據(jù)進(jìn)行發(fā)送成功的標(biāo)識;若該待處理數(shù)據(jù)發(fā)送失敗,則對該待處理數(shù)據(jù)進(jìn)行發(fā)送失敗的標(biāo)識。本發(fā)明實施例中,有關(guān)對待處理數(shù)據(jù)進(jìn)行發(fā)送成功/失敗的標(biāo)識方法請參考現(xiàn)有技術(shù)中的相關(guān)實現(xiàn),本發(fā)明實施例在此不再進(jìn)行贅述。需要說明的是,本發(fā)明實施例對發(fā)送等待隊列中發(fā)送待處理數(shù)據(jù)的間隔時長不進(jìn)行限定。
304、將所述數(shù)據(jù)發(fā)送隊列中的所述待處理數(shù)據(jù)發(fā)送至服務(wù)器。
在數(shù)據(jù)發(fā)送指標(biāo)模塊向服務(wù)器發(fā)送待處理數(shù)據(jù)時,對配置信息進(jìn)行解析,確定發(fā)送待處理數(shù)據(jù)的數(shù)據(jù)發(fā)送協(xié)議,若配置信息中沒有指示發(fā)送待處理數(shù)據(jù)的數(shù)據(jù)發(fā)送協(xié)議,則使用數(shù)據(jù)發(fā)送指標(biāo)模塊中默認(rèn)的數(shù)據(jù)發(fā)送協(xié)議。本發(fā)明實施例中,所述數(shù)據(jù)發(fā)送協(xié)議包含但不局限于以下方式,例如,超文本傳送協(xié)議(Hypertext transfer protocol,HTTP)的GET方法、POST方法以及PUT方法;或者,傳輸控制協(xié)議(Transmission Control Protocol,TCP);本發(fā)明實施例對發(fā)送協(xié)議的具體內(nèi)容不進(jìn)行限定。
根據(jù)上述方法實施例,下面提供一種裝置實施例,該裝置實施例與前述方法實施例對應(yīng),為便于閱讀,本裝置實施例不再對前述方法實施例中的細(xì)節(jié)內(nèi)容進(jìn)行逐一贅述,但應(yīng)當(dāng)明確,本實施例中的裝置能夠?qū)?yīng)實現(xiàn)前述方法實施例中的全部內(nèi)容。
進(jìn)一步的,本發(fā)明實施還一種數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化裝置,如圖4所示,該裝置包括:
接收單元41,用于接收數(shù)據(jù)采集指令,其中,所述數(shù)據(jù)采集指令由服務(wù)器生成,且所述數(shù)據(jù)采集指令中包含待處理數(shù)據(jù)的配置信息,所述配置信息包含:采集待處理數(shù)據(jù)的數(shù)量、類型、數(shù)據(jù)發(fā)送協(xié)議;
采集單元42,用于根據(jù)所述接收單元41接收的所述數(shù)據(jù)采集指令采集待處理數(shù)據(jù);
解析單元43,用于解析所述接收單元41接收的所述數(shù)據(jù)采集指令;
獲取單元44,用于在所述解析單元43解析所述數(shù)據(jù)采集指令之后,獲取所述待處理數(shù)據(jù)的所述配置信息;
處理單元45,用于基于所述獲取單元44獲取的所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理;其中,所述模塊化處理包括數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送。
進(jìn)一步的,如圖5所示,所述處理單元45包括:
獲取模塊451,用于獲取所述待處理數(shù)據(jù);
處理模塊452,用于基于所述配置信息對所述獲取模塊451獲取的所述待處理數(shù)據(jù)進(jìn)行數(shù)據(jù)格式化處理;
加入模塊453,用于將所述處理模塊452數(shù)據(jù)格式化處理后的所述待處理數(shù)據(jù)執(zhí)行加入數(shù)據(jù)發(fā)送隊列;
發(fā)送模塊454,用于將所述加入模塊453加入數(shù)據(jù)發(fā)送隊列中的所述待處理數(shù)據(jù)發(fā)送至服務(wù)器。
進(jìn)一步的,所述處理模塊452,還用于根據(jù)預(yù)置規(guī)范規(guī)則將所述待處理數(shù)據(jù)進(jìn)行格式化處理,所述預(yù)置規(guī)范規(guī)則用于規(guī)范所述待處理數(shù)據(jù)的格式。
進(jìn)一步的,如圖5所示,所述處理單元45還包括:
確定模塊455,用于在所述發(fā)送模塊454將所述數(shù)據(jù)發(fā)送隊列中的所述待處理數(shù)據(jù)發(fā)送至服務(wù)器之前,確定發(fā)送所述待處理數(shù)據(jù)的數(shù)據(jù)發(fā)送協(xié)議;
所述發(fā)送模塊454,還用于基于所述確定模塊455確定的所述數(shù)據(jù)發(fā)送 協(xié)議將所述數(shù)據(jù)發(fā)送隊列中的所述待處理數(shù)據(jù)發(fā)送至所述服務(wù)器。
進(jìn)一步的,在所述處理模塊452基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理時,執(zhí)行所述數(shù)據(jù)格式化、所述加入數(shù)據(jù)發(fā)送隊列及所述數(shù)據(jù)發(fā)送之間相互獨立。
本發(fā)明實施例提供的數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化裝置,根據(jù)數(shù)據(jù)采集指令采集待處理數(shù)據(jù),該數(shù)據(jù)采集指令由服務(wù)器生成,且該數(shù)據(jù)采集指令包含有待處理數(shù)據(jù)的配置信息,解析該數(shù)據(jù)采集指令,并獲取待處理數(shù)據(jù)的配置信息,基于該配置信息對待處理數(shù)據(jù)進(jìn)行模塊化處理,其中,該模塊化處理包括:數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù)發(fā)送;與現(xiàn)有技術(shù)相比,本發(fā)明實施例通過數(shù)據(jù)采集指令中的配置信息,配置待處理數(shù)據(jù),并基于該配置信息對待處理數(shù)據(jù)進(jìn)行模塊化處理,提高了基于一個數(shù)據(jù)采集平臺添加、修改及刪除數(shù)據(jù)采集指標(biāo)的靈活性。
所述數(shù)據(jù)采集平臺中數(shù)據(jù)處理的模塊化裝置包括處理器和存儲器,上述采集單元、解析單元、獲取單元和處理單元等均作為程序單元存儲在存儲器中,由處理器執(zhí)行存儲在存儲器中的上述程序單元來實現(xiàn)相應(yīng)的功能。
處理器中包含內(nèi)核,由內(nèi)核去存儲器中調(diào)取相應(yīng)的程序單元。內(nèi)核可以設(shè)置一個或以上,通過調(diào)整內(nèi)核參數(shù)來提高數(shù)據(jù)采集平臺中添加、修改及刪除數(shù)據(jù)采集指標(biāo)的靈活性。
存儲器可能包括計算機(jī)可讀介質(zhì)中的非永久性存儲器,隨機(jī)存取存儲器(RAM)和/或非易失性內(nèi)存等形式,如只讀存儲器(ROM)或閃存(flash
RAM),存儲器包括至少一個存儲芯片。
本申請還提供了一種計算機(jī)程序產(chǎn)品,當(dāng)在數(shù)據(jù)處理設(shè)備上執(zhí)行時,適于執(zhí)行初始化有如下方法步驟的程序代碼:(根據(jù)數(shù)據(jù)采集指令采集待處理數(shù)據(jù);其中,所述數(shù)據(jù)采集指令由服務(wù)器生成,且所述數(shù)據(jù)采集指令中包含待處理數(shù)據(jù)的配置信息,所述配置信息包含:采集待處理數(shù)據(jù)的數(shù)量、數(shù)據(jù)類型、數(shù)據(jù)發(fā)送協(xié)議;解析所述數(shù)據(jù)采集指令,并獲取所述待處理數(shù)據(jù)的所述配置信息;基于所述配置信息對所述待處理數(shù)據(jù)進(jìn)行模塊化處理;其中,所述模塊化處理包括數(shù)據(jù)格式化、加入數(shù)據(jù)發(fā)送隊列、數(shù)據(jù) 發(fā)送。在本發(fā)明的上述實施例中,對各個實施例的描述都各有側(cè)重,某個實施例中沒有詳述的部分,可以參見其他實施例的相關(guān)描述。
本領(lǐng)域內(nèi)的技術(shù)人員應(yīng)明白,本申請的實施例可提供為方法、系統(tǒng)、或計算機(jī)程序產(chǎn)品。因此,本申請可采用完全硬件實施例、完全軟件實施例、或結(jié)合軟件和硬件方面的實施例的形式。而且,本申請可采用在一個或多個其中包含有計算機(jī)可用程序代碼的計算機(jī)可用存儲介質(zhì)(包括但不限于磁盤存儲器、CD-ROM、光學(xué)存儲器等)上實施的計算機(jī)程序產(chǎn)品的形式。
本申請是參照根據(jù)本申請實施例的方法、設(shè)備(系統(tǒng))、和計算機(jī)程序產(chǎn)品的流程圖和/或方框圖來描述的。應(yīng)理解可由計算機(jī)程序指令實現(xiàn)流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結(jié)合。可提供這些計算機(jī)程序指令到通用計算機(jī)、專用計算機(jī)、嵌入式處理機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器以產(chǎn)生一個機(jī)器,使得通過計算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器執(zhí)行的指令產(chǎn)生用于實現(xiàn)在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能的裝置。
這些計算機(jī)程序指令也可存儲在能引導(dǎo)計算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備以特定方式工作的計算機(jī)可讀存儲器中,使得存儲在該計算機(jī)可讀存儲器中的指令產(chǎn)生包括指令裝置的制造品,該指令裝置實現(xiàn)在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能。
這些計算機(jī)程序指令也可裝載到計算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備上,使得在計算機(jī)或其他可編程設(shè)備上執(zhí)行一系列操作步驟以產(chǎn)生計算機(jī)實現(xiàn)的處理,從而在計算機(jī)或其他可編程設(shè)備上執(zhí)行的指令提供用于實現(xiàn)在流程圖一個流程或多個流程和/或方框圖一個方框或多個方框中指定的功能的步驟。
在一個典型的配置中,計算設(shè)備包括一個或多個處理器(CPU)、輸入/ 輸出接口、網(wǎng)絡(luò)接口和內(nèi)存。
存儲器可能包括計算機(jī)可讀介質(zhì)中的非永久性存儲器,隨機(jī)存取存儲器(RAM)和/或非易失性內(nèi)存等形式,如只讀存儲器(ROM)或閃存(flashRAM)。存儲器是計算機(jī)可讀介質(zhì)的示例。
計算機(jī)可讀介質(zhì)包括永久性和非永久性、可移動和非可移動媒體可以由任何方法或技術(shù)來實現(xiàn)信息存儲。信息可以是計算機(jī)可讀指令、數(shù)據(jù)結(jié)構(gòu)、程序的模塊或其他數(shù)據(jù)。計算機(jī)的存儲介質(zhì)的例子包括,但不限于相變內(nèi)存(PRAM)、靜態(tài)隨機(jī)存取存儲器(SRAM)、動態(tài)隨機(jī)存取存儲器(DRAM)、其他類型的隨機(jī)存取存儲器(RAM)、只讀存儲器(ROM)、電可擦除可編程只讀存儲器(EEPROM)、快閃記憶體或其他內(nèi)存技術(shù)、只讀光盤只讀存儲器(CD-ROM)、數(shù)字多功能光盤(DVD)或其他光學(xué)存儲、磁盒式磁帶,磁帶磁磁盤存儲或其他磁性存儲設(shè)備或任何其他非傳輸介質(zhì),可用于存儲可以被計算設(shè)備訪問的信息。按照本文中的界定,計算機(jī)可讀介質(zhì)不包括暫存電腦可讀媒體(transitory media),如調(diào)制的數(shù)據(jù)信號和載波。
還需要說明的是,術(shù)語“包括”、“包含”或者其任何其他變體意在涵蓋非排他性的包含,從而使得包括一系列要素的過程、方法、商品或者設(shè)備不僅包括那些要素,而且還包括沒有明確列出的其他要素,或者是還包括為這種過程、方法、商品或者設(shè)備所固有的要素。在沒有更多限制的情況下,由語句“包括一個……”限定的要素,并不排除在包括要素的過程、方法、商品或者設(shè)備中還存在另外的相同要素。
本領(lǐng)域技術(shù)人員應(yīng)明白,本申請的實施例可提供為方法、系統(tǒng)或計算機(jī)程序產(chǎn)品。因此,本申請可采用完全硬件實施例、完全軟件實施例或結(jié)合軟件和硬件方面的實施例的形式。而且,本申請可采用在一個或多個其中包含有計算機(jī)可用程序代碼的計算機(jī)可用存儲介質(zhì)(包括但不限于磁盤存儲器、CD-ROM、光學(xué)存儲器等)上實施的計算機(jī)程序產(chǎn)品的形式。
以上僅為本申請的實施例而已,并不用于限制本申請。對于本領(lǐng)域技術(shù)人員來說,本申請可以有各種更改和變化。凡在本申請的精神和原理之內(nèi)所作的任何修改、等同替換、改進(jìn)等,均應(yīng)包含在本申請的權(quán)利要求范圍之內(nèi)。