本發(fā)明涉及互聯(lián)網(wǎng)技術(shù)領(lǐng)域,具體涉及一種基于令牌的并發(fā)主從同步方法及裝置。
背景技術(shù):
分布式數(shù)據(jù)存儲(chǔ)系統(tǒng)就是將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的設(shè)備上,也就是說(shuō),針對(duì)一份數(shù)據(jù),存儲(chǔ)至N個(gè)數(shù)據(jù)庫(kù)上,一般是存儲(chǔ)至一個(gè)主數(shù)據(jù)庫(kù)和多個(gè)從數(shù)據(jù)庫(kù),其中,從數(shù)據(jù)庫(kù)中的數(shù)據(jù)是與主數(shù)據(jù)庫(kù)進(jìn)行同步獲得的。
現(xiàn)有技術(shù)中主數(shù)據(jù)庫(kù)和從數(shù)據(jù)庫(kù)之間的數(shù)據(jù)同步過(guò)程具體為,主數(shù)據(jù)庫(kù)接收到客戶端寫數(shù)據(jù)的請(qǐng)求后,將數(shù)據(jù)寫入主數(shù)據(jù)庫(kù)中,并將寫數(shù)據(jù)操作記錄到主數(shù)據(jù)庫(kù)的日志文件中。隨后,主數(shù)據(jù)庫(kù)向從數(shù)據(jù)庫(kù)發(fā)送數(shù)據(jù)同步任務(wù),從數(shù)據(jù)庫(kù)根據(jù)數(shù)據(jù)同步任務(wù)執(zhí)行將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,以及將寫數(shù)據(jù)操作記錄到從數(shù)據(jù)庫(kù)的日志文件中。在該數(shù)據(jù)同步過(guò)程中,從數(shù)據(jù)庫(kù)只有一個(gè)線程用于處理主數(shù)據(jù)庫(kù)發(fā)送的數(shù)據(jù)同步任務(wù)。該線程接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù),需要串行執(zhí)行數(shù)據(jù)同步任務(wù)所涉及的寫數(shù)據(jù)操作和寫日志操作。在短時(shí)間內(nèi)數(shù)據(jù)同步任務(wù)過(guò)多的情況下,線程無(wú)法及時(shí)地處理數(shù)據(jù)同步任務(wù),造成從數(shù)據(jù)庫(kù)同步效率低下的問(wèn)題,導(dǎo)致出現(xiàn)主數(shù)據(jù)庫(kù)和從數(shù)據(jù)庫(kù)的數(shù)據(jù)不一致的情況。
技術(shù)實(shí)現(xiàn)要素:
鑒于上述問(wèn)題,提出了本發(fā)明以便提供一種克服上述問(wèn)題或者至少部分地解決上述問(wèn)題的基于令牌的并發(fā)主從同步方法和相應(yīng)的基于令牌的并發(fā)主從同步裝置。
根據(jù)本發(fā)明的一個(gè)方面,提供了一種基于令牌的并發(fā)主從同步方法,其包括:
接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù);
按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌;
將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
根據(jù)本發(fā)明的另一方面,提供了一種基于令牌的并發(fā)主從同步裝置,其包括:
接收模塊,適于接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù);
設(shè)置模塊,適于按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌;
分發(fā)模塊,適于將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)并行處理模塊中一個(gè)并行處理模塊;
多個(gè)并行處理模塊,適于根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
根據(jù)本發(fā)明提供的方案,接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù),按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。利用本發(fā)明上述方案,從數(shù)據(jù)庫(kù)有多個(gè)線程可以用于并行執(zhí)行部分?jǐn)?shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫(kù)單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫(kù)與從數(shù)據(jù)庫(kù)中數(shù)據(jù)顯著不同步問(wèn)題,通過(guò)設(shè)置令牌來(lái)限定數(shù)據(jù)同步任務(wù)的執(zhí)行順序,并依據(jù)令牌串行執(zhí)行數(shù)據(jù)同步任務(wù),保證與主數(shù)據(jù)庫(kù)的數(shù)據(jù)一致。
上述說(shuō)明僅是本發(fā)明技術(shù)方案的概述,為了能夠更清楚了解本發(fā)明的技術(shù)手段,而可依照說(shuō)明書的內(nèi)容予以實(shí)施,并且為了讓本發(fā)明的上述和其它目的、特征和優(yōu)點(diǎn)能夠更明顯易懂,以下特舉本發(fā)明的具體實(shí)施方式。
附圖說(shuō)明
通過(guò)閱讀下文優(yōu)選實(shí)施方式的詳細(xì)描述,各種其他的優(yōu)點(diǎn)和益處對(duì)于本領(lǐng)域普通技術(shù)人員將變得清楚明了。附圖僅用于示出優(yōu)選實(shí)施方式的目的,而并不認(rèn)為是對(duì)本發(fā)明的限制。而且在整個(gè)附圖中,用相同的參考符號(hào)表示相同的部件。在附圖中:
圖1示出了根據(jù)本發(fā)明一個(gè)實(shí)施例的基于令牌的并發(fā)主從同步方法的流程示意圖;
圖2示出了根據(jù)本發(fā)明另一個(gè)實(shí)施例的基于令牌的并發(fā)主從同步方法的流程示意圖;
圖3示出了根據(jù)本發(fā)明一個(gè)實(shí)施例的基于令牌的并發(fā)主從同步裝置的結(jié)構(gòu)示意圖。
具體實(shí)施方式
下面將參照附圖更詳細(xì)地描述本公開的示例性實(shí)施例。雖然附圖中顯示了本公開的示例性實(shí)施例,然而應(yīng)當(dāng)理解,可以以各種形式實(shí)現(xiàn)本公開而不應(yīng)被這里闡述的實(shí)施例所限制。相反,提供這些實(shí)施例是為了能夠更透徹地理解本公開,并且能夠?qū)⒈竟_的范圍完整的傳達(dá)給本領(lǐng)域的技術(shù)人員。
圖1示出了根據(jù)本發(fā)明一個(gè)實(shí)施例的基于令牌的并發(fā)主從同步方法的流程示意圖。如圖1所示,該方法包括以下步驟:
步驟S100,接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù)。
分布式數(shù)據(jù)存儲(chǔ)系統(tǒng)就是將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立的設(shè)備上,也就是說(shuō),針對(duì)一份數(shù)據(jù),存儲(chǔ)至N個(gè)數(shù)據(jù)庫(kù),一般是存儲(chǔ)至一個(gè)主數(shù)據(jù)庫(kù)和多個(gè)從數(shù)據(jù)庫(kù),從數(shù)據(jù)庫(kù)中的數(shù)據(jù)是與主數(shù)據(jù)庫(kù)進(jìn)行同步獲得的,也就是說(shuō),數(shù)據(jù)寫入主數(shù)據(jù)庫(kù)后,主數(shù)據(jù)庫(kù)需要將寫入的數(shù)據(jù)同步給從數(shù)據(jù)庫(kù),因此,主數(shù)據(jù)庫(kù)向從數(shù)據(jù)庫(kù)發(fā)送數(shù)據(jù)同步任務(wù),而從數(shù)據(jù)庫(kù)接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù)。
數(shù)據(jù)同步任務(wù)是根據(jù)寫入主數(shù)據(jù)庫(kù)的數(shù)據(jù)而生成的,也就是說(shuō)針對(duì)寫入主數(shù)據(jù)庫(kù)的任一數(shù)據(jù)都將生成相應(yīng)的數(shù)據(jù)同步任務(wù)。
步驟S101,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌。
其中,令牌標(biāo)示了數(shù)據(jù)同步任務(wù)的執(zhí)行順序,只有排序在前的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)被執(zhí)行后,才可以執(zhí)行排序在后的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)。舉例說(shuō)明,按照接收數(shù)據(jù)同步任務(wù)的順序,設(shè)置了數(shù)據(jù)同步任務(wù)的令牌分別為1、2、3、4,這樣,只有在令牌1對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)被執(zhí)行完成后,才可以執(zhí)行令牌2對(duì)應(yīng)的數(shù)據(jù)同步任務(wù),若令牌1對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)還未被執(zhí)行,則不能執(zhí)行令牌2對(duì)應(yīng)的數(shù)據(jù)同步任務(wù),同理,以此類推,執(zhí)行令牌3和4對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)。在本發(fā)明實(shí)施例中,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,保證了在數(shù)據(jù)同步過(guò)程中不會(huì)出現(xiàn)同步至從數(shù)據(jù)庫(kù)的數(shù)據(jù)與寫入到主數(shù)據(jù)庫(kù)的數(shù)據(jù)不一致的缺陷。
步驟S102,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
具體地,在為數(shù)據(jù)同步任務(wù)設(shè)置令牌后,可以將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù),對(duì)于不同數(shù)據(jù)的數(shù)據(jù)同步任務(wù)可以分發(fā)給不同的線程處理。
根據(jù)本發(fā)明上述實(shí)施例提供的方法,接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù),按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程,由該線程根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。利用本發(fā)明上述方案,從數(shù)據(jù)庫(kù)有多個(gè)線程可以用于并行執(zhí)行部分?jǐn)?shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫(kù)單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫(kù)與從數(shù)據(jù)庫(kù)中數(shù)據(jù)顯著不同步問(wèn)題,通過(guò)設(shè)置令牌來(lái)限定數(shù)據(jù)同步任務(wù)的執(zhí)行順序,并依據(jù)令牌串行執(zhí)行數(shù)據(jù)同步任務(wù),保證與主數(shù)據(jù)庫(kù)的數(shù)據(jù)一致。
圖2示出了根據(jù)本發(fā)明另一個(gè)實(shí)施例的基于令牌的并發(fā)主從同步方法的流程示意圖。如圖2所示,該方法包括以下步驟:
步驟S200,接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù)。
數(shù)據(jù)同步任務(wù)是根據(jù)寫入主數(shù)據(jù)庫(kù)的數(shù)據(jù)而生成的,也就是說(shuō)針對(duì)寫入主數(shù)據(jù)庫(kù)的任一數(shù)據(jù)都將生成相應(yīng)的數(shù)據(jù)同步任務(wù)。
舉例說(shuō)明,用戶通過(guò)客戶端向主數(shù)據(jù)庫(kù)寫入數(shù)據(jù)Set a=1;Set b=2;Set c=1;Set a=4,主數(shù)據(jù)庫(kù)將分別向從數(shù)據(jù)庫(kù)發(fā)送4個(gè)數(shù)據(jù)同步任務(wù)Set a=1;Set b=2;Set c=1;Set a=4,即,從數(shù)據(jù)庫(kù)接收到來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù)為:Set a=1;Set b=2;Set c=1;Set a=4。
步驟S201,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌。
其中,主數(shù)據(jù)庫(kù)可以實(shí)時(shí)將數(shù)據(jù)同步任務(wù)發(fā)送給從數(shù)據(jù)庫(kù),也就是說(shuō),從數(shù)據(jù)庫(kù)可以不斷地接收到主數(shù)據(jù)庫(kù)發(fā)送的數(shù)據(jù)同步任務(wù),主數(shù)據(jù)庫(kù)是按照數(shù)據(jù)寫入主數(shù)據(jù)庫(kù)的順序向從數(shù)據(jù)庫(kù)發(fā)送數(shù)據(jù)同步任務(wù),因此,在為數(shù)據(jù)同步任務(wù)設(shè)置令牌時(shí),也需要按照接收數(shù)據(jù)同步任務(wù)的順序來(lái)設(shè)置令牌。舉例說(shuō)明,主數(shù)據(jù)庫(kù)順序向從數(shù)據(jù)庫(kù)發(fā)送了4個(gè)數(shù)據(jù)同步任務(wù),分別為:Set a=1;Set b=2;Set c=1;Set a=4,那么,從數(shù)據(jù)庫(kù)接收到的數(shù)據(jù)同步任務(wù)順序?yàn)椋篠et a=1;Set b=2;Set c=1;Set a=4,這樣,從數(shù)據(jù)庫(kù)可以按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,例如,分別設(shè)置4個(gè)數(shù)據(jù)同步任務(wù)的令牌為1、2、3、4。
步驟S202,依據(jù)負(fù)載均衡策略,從多個(gè)線程選擇一個(gè)線程。
其中,負(fù)載均衡策略指多個(gè)線程的業(yè)務(wù)負(fù)載壓力均衡,而不會(huì)出現(xiàn)有些線程的業(yè)務(wù)負(fù)載壓力很大,而有些線程的業(yè)務(wù)負(fù)載壓力很小的情況,依據(jù)線程的業(yè)務(wù)負(fù)載情況分發(fā)數(shù)據(jù)同步任務(wù)。
在為數(shù)據(jù)同步任務(wù)設(shè)置令牌后,需要將數(shù)據(jù)同步任務(wù)分發(fā)給線程,由線程執(zhí)行數(shù)據(jù)同步任務(wù),從數(shù)據(jù)庫(kù)中有多個(gè)線程可以執(zhí)行數(shù)據(jù)同步任務(wù),這里需要從多個(gè)線程中選擇一個(gè)合適的線程來(lái)執(zhí)行數(shù)據(jù)同步任務(wù),選擇線程的依據(jù)是負(fù)載均衡策略,目的是為了平衡各個(gè)線程之間的業(yè)務(wù)負(fù)載壓力,使得各個(gè)線程的業(yè)務(wù)負(fù)載壓力基本均衡。
步驟S203,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程。
在依據(jù)負(fù)載均衡策略,從多個(gè)線程選擇一個(gè)線程后,將設(shè)置于令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程,由該線程來(lái)執(zhí)行數(shù)據(jù)同步任務(wù)。
其中,數(shù)據(jù)同步任務(wù)包括:將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,以及將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。日志文件用于記錄數(shù)據(jù)寫操作記錄,以在從數(shù)據(jù)庫(kù)中數(shù)據(jù)出現(xiàn)丟失等問(wèn)題時(shí),能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫(kù)的數(shù)據(jù)。因此,要求記錄到日志文件中的寫數(shù)據(jù)操作記錄是按照接收數(shù)據(jù)同步任務(wù)的順序執(zhí)行的。
從數(shù)據(jù)庫(kù)接收的數(shù)據(jù)同步任務(wù)可以是多個(gè),也就是說(shuō),可以依據(jù)負(fù)載均衡策略選擇多個(gè)線程執(zhí)行數(shù)據(jù)同步任務(wù),其中,各個(gè)線程之間執(zhí)行的寫數(shù)據(jù)操作為并行操作;各個(gè)線程之間執(zhí)行的寫日志操作為串行操作。針對(duì)不同數(shù)據(jù),各個(gè)線程可以并行執(zhí)行將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,而不會(huì)對(duì)寫入從數(shù)據(jù)庫(kù)的數(shù)據(jù)造成任何影響,然而,針對(duì)同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程,也就是說(shuō),針對(duì)同一數(shù)據(jù),將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作也應(yīng)該是由線程串行執(zhí)行的,目的是防止分發(fā)給不同的線程處理,導(dǎo)致從數(shù)據(jù)庫(kù)的數(shù)據(jù)與主數(shù)據(jù)的數(shù)據(jù)不一致的情況出現(xiàn)。
此外,每個(gè)線程分別定義了可以執(zhí)行并行操作和串行操作的函數(shù),舉例說(shuō)明,執(zhí)行并行操作的函數(shù)為function1,執(zhí)行串行操作的函數(shù)為function2,也就是說(shuō),將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作可以由function1執(zhí)行、將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作可以由function2執(zhí)行,線程在接收到數(shù)據(jù)同步任務(wù)后,將會(huì)由會(huì)function1、function2來(lái)執(zhí)行數(shù)據(jù)同步任務(wù)。
步驟S204,由該線程執(zhí)行將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作。
舉例說(shuō)明,針對(duì)于數(shù)據(jù)同步任務(wù):Set a=1;Set b=2;Set c=1;Set a=4,可以依據(jù)負(fù)載均衡策略將數(shù)據(jù)同步任務(wù)Set a=1;Set a=4分發(fā)給線程1,數(shù)據(jù)同步任務(wù)Set b=2分發(fā)給線程2,數(shù)據(jù)同步任務(wù)Set c=1分發(fā)給線程3,其中,對(duì)于數(shù)據(jù)同步任務(wù)中的將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,第一線程1、2、3可以并行執(zhí)行,而將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作則需要第一線程1、2、3串行執(zhí)行。線程1、2、3在執(zhí)行將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作時(shí),需要根據(jù)令牌來(lái)執(zhí)行,具體地,可以采用如下方法步驟來(lái)執(zhí)行將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
步驟S205,判斷順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,若是,則執(zhí)行步驟S206;若否,則執(zhí)行步驟S207。
其中,令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致。
具體地,function2在執(zhí)行將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作之前,還需要判斷順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,函數(shù)function2的代碼能夠?qū)崿F(xiàn)判斷功能,這里判斷順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成主要是為了保證寫日志操作是按照接收數(shù)據(jù)同步任務(wù)的順序執(zhí)行的,保證在從數(shù)據(jù)庫(kù)中數(shù)據(jù)出現(xiàn)丟失等問(wèn)題時(shí),能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫(kù)的數(shù)據(jù)。
舉例說(shuō)明,從數(shù)據(jù)庫(kù)為數(shù)據(jù)同步任務(wù):Set a=1;Set b=2;Set c=1;Set a=4,分別設(shè)置令牌為1、2、3、4。線程2在執(zhí)行將Set b=2記錄到日志文件中時(shí),需要判斷令牌1對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)是否執(zhí)行完成,同理,線程3在執(zhí)行將Set c=1記錄到日志文件中時(shí),需要判斷令牌1、2對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)是否執(zhí)行完成,同樣地,線程1在執(zhí)行將Set a=4記錄到日志文件中時(shí),需要判斷令牌1、2、3對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)是否執(zhí)行完成。
步驟S206,執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
若判斷出順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作執(zhí)行完成,則線程可以執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
步驟S207,繼續(xù)等待。
若判斷出順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作未執(zhí)行完成,則需要繼續(xù)等待,等待順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作執(zhí)行完成后,才執(zhí)行該令牌對(duì)應(yīng)的將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
根據(jù)本發(fā)明上述實(shí)施例提供的方法,從數(shù)據(jù)庫(kù)有多個(gè)線程可以用于并行執(zhí)行部分?jǐn)?shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫(kù)單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫(kù)與從數(shù)據(jù)庫(kù)中數(shù)據(jù)顯著不同步問(wèn)題,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,并依據(jù)負(fù)載均衡策略,從多個(gè)線程選擇一個(gè)線程,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程,能夠保證每個(gè)線程的負(fù)載業(yè)務(wù)壓力均衡,而不會(huì)出現(xiàn)有些線程負(fù)載業(yè)務(wù)壓力過(guò)大,有些線程負(fù)載壓力過(guò)小的情況,判斷順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,若是,則執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;若否,則繼續(xù)等待,使得記錄到日志文件的寫日志操作是按照接收數(shù)據(jù)同步任務(wù)順序嚴(yán)格串行執(zhí)行的,保證了在從數(shù)據(jù)庫(kù)中數(shù)據(jù)出現(xiàn)丟失等問(wèn)題時(shí),能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫(kù)的數(shù)據(jù)。
圖3示出了根據(jù)本發(fā)明一個(gè)實(shí)施例的基于令牌的并發(fā)主從同步裝置的結(jié)構(gòu)示意圖。如圖3所示,該裝置包括:接收模塊300、設(shè)置模塊310、分發(fā)模塊320、多個(gè)并行處理模塊330。
接收模塊300,適于接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù)。
設(shè)置模塊310,適于按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌。
分發(fā)模塊320,適于將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)并行處理模塊中一個(gè)并行處理模塊。
多個(gè)并行處理模塊330,適于根據(jù)令牌執(zhí)行數(shù)據(jù)同步任務(wù)。
可選地,分發(fā)模塊320進(jìn)一步適于:依據(jù)負(fù)載均衡策略,從多個(gè)并行處理模塊選擇一個(gè)并行處理模塊;將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的并行處理模塊。
可選地,數(shù)據(jù)同步任務(wù)包括:將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,以及將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
可選地,各個(gè)并行處理模塊之間執(zhí)行的寫數(shù)據(jù)操作為并行操作;各個(gè)并行處理模塊之間執(zhí)行的寫日志操作為串行操作。
可選地,并行處理模塊330進(jìn)一步適于:判斷順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成;其中,令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致;若是,則執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;若否,則繼續(xù)等待。
可選地,分發(fā)模塊進(jìn)一步適于:針對(duì)同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程。
根據(jù)本發(fā)明上述實(shí)施例提供的裝置,從數(shù)據(jù)庫(kù)有多個(gè)線程可以用于并行執(zhí)行部分?jǐn)?shù)據(jù)同步任務(wù),提高了數(shù)據(jù)同步速度,克服了從數(shù)據(jù)庫(kù)單線程執(zhí)行數(shù)據(jù)同步任務(wù)造成的主數(shù)據(jù)庫(kù)與從數(shù)據(jù)庫(kù)中數(shù)據(jù)顯著不同步問(wèn)題,按照接收數(shù)據(jù)同步任務(wù)的順序,為數(shù)據(jù)同步任務(wù)設(shè)置令牌,并依據(jù)負(fù)載均衡策略,從多個(gè)線程選擇一個(gè)線程,將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程,判斷順序排在令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成,若是,則執(zhí)行用于將寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;若否,則繼續(xù)等待,保證了記錄到日志文件的寫日志操作是按照接收數(shù)據(jù)同步任務(wù)順序嚴(yán)格串行執(zhí)行的,保證了在從數(shù)據(jù)庫(kù)中數(shù)據(jù)出現(xiàn)丟失等問(wèn)題時(shí),能夠方便地根據(jù)日志文件中的寫數(shù)據(jù)操作記錄恢復(fù)從數(shù)據(jù)庫(kù)的數(shù)據(jù)。
在此提供的算法和顯示不與任何特定計(jì)算機(jī)、虛擬系統(tǒng)或者其它設(shè)備固有相關(guān)。各種通用系統(tǒng)也可以與基于在此的示教一起使用。根據(jù)上面的描述,構(gòu)造這類系統(tǒng)所要求的結(jié)構(gòu)是顯而易見的。此外,本發(fā)明也不針對(duì)任何特定編程語(yǔ)言。應(yīng)當(dāng)明白,可以利用各種編程語(yǔ)言實(shí)現(xiàn)在此描述的本發(fā)明的內(nèi)容,并且上面對(duì)特定語(yǔ)言所做的描述是為了披露本發(fā)明的最佳實(shí)施方式。
在此處所提供的說(shuō)明書中,說(shuō)明了大量具體細(xì)節(jié)。然而,能夠理解,本發(fā)明的實(shí)施例可以在沒有這些具體細(xì)節(jié)的情況下實(shí)踐。在一些實(shí)例中,并未詳細(xì)示出公知的方法、結(jié)構(gòu)和技術(shù),以便不模糊對(duì)本說(shuō)明書的理解。
類似地,應(yīng)當(dāng)理解,為了精簡(jiǎn)本公開并幫助理解各個(gè)發(fā)明方面中的一個(gè)或多個(gè),在上面對(duì)本發(fā)明的示例性實(shí)施例的描述中,本發(fā)明的各個(gè)特征有時(shí)被一起分組到單個(gè)實(shí)施例、圖、或者對(duì)其的描述中。然而,并不應(yīng)將該公開的方法解釋成反映如下意圖:即所要求保護(hù)的本發(fā)明要求比在每個(gè)權(quán)利要求中所明確記載的特征更多的特征。更確切地說(shuō),如下面的權(quán)利要求書所反映的那樣,發(fā)明方面在于少于前面公開的單個(gè)實(shí)施例的所有特征。因此,遵循具體實(shí)施方式的權(quán)利要求書由此明確地并入該具體實(shí)施方式,其中每個(gè)權(quán)利要求本身都作為本發(fā)明的單獨(dú)實(shí)施例。
本領(lǐng)域那些技術(shù)人員可以理解,可以對(duì)實(shí)施例中的設(shè)備中的模塊進(jìn)行自適應(yīng)性地改變并且把它們?cè)O(shè)置在與該實(shí)施例不同的一個(gè)或多個(gè)設(shè)備中。可以把實(shí)施例中的模塊或單元或組件組合成一個(gè)模塊或單元或組件,以及此外可以把它們分成多個(gè)子模塊或子單元或子組件。除了這樣的特征和/或過(guò)程或者單元中的至少一些是相互排斥之外,可以采用任何組合對(duì)本說(shuō)明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的所有特征以及如此公開的任何方法或者設(shè)備的所有過(guò)程或單元進(jìn)行組合。除非另外明確陳述,本說(shuō)明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的每個(gè)特征可以由提供相同、等同或相似目的的替代特征來(lái)代替。
此外,本領(lǐng)域的技術(shù)人員能夠理解,盡管在此所述的一些實(shí)施例包括其它實(shí)施例中所包括的某些特征而不是其它特征,但是不同實(shí)施例的特征的組合意味著處于本發(fā)明的范圍之內(nèi)并且形成不同的實(shí)施例。例如,在下面的權(quán)利要求書中,所要求保護(hù)的實(shí)施例的任意之一都可以以任意的組合方式來(lái)使用。
本發(fā)明的各個(gè)部件實(shí)施例可以以硬件實(shí)現(xiàn),或者以在一個(gè)或者多個(gè)處理器上運(yùn)行的軟件模塊實(shí)現(xiàn),或者以它們的組合實(shí)現(xiàn)。本領(lǐng)域的技術(shù)人員應(yīng)當(dāng)理解,可以在實(shí)踐中使用微處理器或者數(shù)字信號(hào)處理器(DSP)來(lái)實(shí)現(xiàn)根據(jù)本發(fā)明實(shí)施例的基于令牌的并發(fā)主從同步設(shè)備中的一些或者全部部件的一些或者全部功能。本發(fā)明還可以實(shí)現(xiàn)為用于執(zhí)行這里所描述的方法的一部分或者全部的設(shè)備或者裝置程序(例如,計(jì)算機(jī)程序和計(jì)算機(jī)程序產(chǎn)品)。這樣的實(shí)現(xiàn)本發(fā)明的程序可以存儲(chǔ)在計(jì)算機(jī)可讀介質(zhì)上,或者可以具有一個(gè)或者多個(gè)信號(hào)的形式。這樣的信號(hào)可以從因特網(wǎng)網(wǎng)站上下載得到,或者在載體信號(hào)上提供,或者以任何其他形式提供。
應(yīng)該注意的是上述實(shí)施例對(duì)本發(fā)明進(jìn)行說(shuō)明而不是對(duì)本發(fā)明進(jìn)行限制,并且本領(lǐng)域技術(shù)人員在不脫離所附權(quán)利要求的范圍的情況下可設(shè)計(jì)出替換實(shí)施例。在權(quán)利要求中,不應(yīng)將位于括號(hào)之間的任何參考符號(hào)構(gòu)造成對(duì)權(quán)利要求的限制。單詞“包含”不排除存在未列在權(quán)利要求中的元件或步驟。位于元件之前的單詞“一”或“一個(gè)”不排除存在多個(gè)這樣的元件。本發(fā)明可以借助于包括有若干不同元件的硬件以及借助于適當(dāng)編程的計(jì)算機(jī)來(lái)實(shí)現(xiàn)。在列舉了若干裝置的單元權(quán)利要求中,這些裝置中的若干個(gè)可以是通過(guò)同一個(gè)硬件項(xiàng)來(lái)具體體現(xiàn)。單詞第一、第二、以及第三等的使用不表示任何順序??蓪⑦@些單詞解釋為名稱。
本發(fā)明公開了:
A1、一種基于令牌的并發(fā)主從同步方法,其包括:
接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù);
按照接收數(shù)據(jù)同步任務(wù)的順序,為所述數(shù)據(jù)同步任務(wù)設(shè)置令牌;
將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程,由該線程根據(jù)令牌執(zhí)行所述數(shù)據(jù)同步任務(wù)。
A2、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,所述將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)線程中一個(gè)線程進(jìn)一步包括:
依據(jù)負(fù)載均衡策略,從多個(gè)線程選擇一個(gè)線程;
將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的線程。
A3、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,所述數(shù)據(jù)同步任務(wù)包括:
將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,以及將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
A4、根據(jù)A3所述的基于令牌的并發(fā)主從同步方法,其中,各個(gè)線程之間執(zhí)行的所述寫數(shù)據(jù)操作為并行操作;各個(gè)線程之間執(zhí)行的所述寫日志操作為串行操作。
A5、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,所述由該線程根據(jù)令牌執(zhí)行所述數(shù)據(jù)同步任務(wù)進(jìn)一步包括:
判斷順序排在所述令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成;其中,所述令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致;
若是,則執(zhí)行用于將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;
若否,則繼續(xù)等待。
A6、根據(jù)A1所述的基于令牌的并發(fā)主從同步方法,其中,針對(duì)同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程。
B7、一種基于令牌的并發(fā)主從同步裝置,其包括:
接收模塊,適于接收來(lái)自主數(shù)據(jù)庫(kù)的數(shù)據(jù)同步任務(wù);
設(shè)置模塊,適于按照接收數(shù)據(jù)同步任務(wù)的順序,為所述數(shù)據(jù)同步任務(wù)設(shè)置令牌;
分發(fā)模塊,適于將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給多個(gè)并行處理模塊中一個(gè)并行處理模塊;
多個(gè)并行處理模塊,適于根據(jù)令牌執(zhí)行所述數(shù)據(jù)同步任務(wù)。
B8、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述分發(fā)模塊進(jìn)一步適于:依據(jù)負(fù)載均衡策略,從多個(gè)并行處理模塊選擇一個(gè)并行處理模塊;將設(shè)置有令牌的數(shù)據(jù)同步任務(wù)分發(fā)給所選擇的并行處理模塊。
B9、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述數(shù)據(jù)同步任務(wù)包括:
將數(shù)據(jù)寫入從數(shù)據(jù)庫(kù)的寫數(shù)據(jù)操作,以及將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作。
B10、根據(jù)B9所述的基于令牌的并發(fā)主從同步裝置,其中,各個(gè)并行處理模塊之間執(zhí)行的所述寫數(shù)據(jù)操作為并行操作;各個(gè)并行處理模塊之間執(zhí)行的所述寫日志操作為串行操作。
B11、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述并行處理模塊進(jìn)一步適于:
判斷順序排在所述令牌前一位的令牌對(duì)應(yīng)的數(shù)據(jù)同步任務(wù)的寫日志操作是否執(zhí)行完成;其中,所述令牌的排列順序與接收數(shù)據(jù)同步任務(wù)的順序一致;
若是,則執(zhí)行用于將所述寫數(shù)據(jù)操作記錄到日志文件中的寫日志操作;
若否,則繼續(xù)等待。
B12、根據(jù)B7所述的基于令牌的并發(fā)主從同步裝置,其中,所述分發(fā)模塊進(jìn)一步適于:針對(duì)同一數(shù)據(jù)的數(shù)據(jù)同步任務(wù)分發(fā)給同一線程。