專利名稱：一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步的方法及系統(tǒng)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及分布式并行文件系統(tǒng)，尤其涉及一種實(shí)現(xiàn)分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步的方法及系統(tǒng)。
背景技術(shù)：
隨著云計(jì)算技術(shù)、云存儲(chǔ)技術(shù)應(yīng)用的進(jìn)一步發(fā)展，作為其應(yīng)用核心的分布式并行文件系統(tǒng)也得到了快速的應(yīng)用和發(fā)展。分布式并行文件系統(tǒng)具有動(dòng)態(tài)高可擴(kuò)展性、大容量、集群結(jié)構(gòu)以及支持高并發(fā)的特征。為滿足云計(jì)算、云存儲(chǔ)實(shí)際業(yè)務(wù)請(qǐng)求的需要， 運(yùn)行在其后端的分布式并行文件系統(tǒng)構(gòu)建在分布式的集群節(jié)點(diǎn)上，主要包括元數(shù)據(jù)節(jié)點(diǎn)、數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)以及客戶端節(jié)點(diǎn)。元數(shù)據(jù)采用高性能、大容量服務(wù)器或者采用元數(shù)據(jù)集群的方式構(gòu)建，數(shù)據(jù)存儲(chǔ)采用數(shù)據(jù)存儲(chǔ)集群的方式構(gòu)建，客戶端節(jié)點(diǎn)采用具備大容量高速緩存、運(yùn)行快的高性能服務(wù)器以集群方式構(gòu)建。在云計(jì)算、云存儲(chǔ)應(yīng)用中，大量的訪問(wèn)請(qǐng)求需要發(fā)送到分布式文件系統(tǒng)的客戶端節(jié)點(diǎn)進(jìn)行數(shù)據(jù)的讀寫操作。針對(duì)包含大量讀操作、寫操作混合的訪問(wèn)請(qǐng)求，客戶端節(jié)點(diǎn)需要將相應(yīng)的讀請(qǐng)求數(shù)據(jù)緩存到內(nèi)存，將寫請(qǐng)求數(shù)據(jù)寫入到緩存后盡快完成對(duì)上層訪問(wèn)請(qǐng)求的響應(yīng)。大規(guī)模的分布式并行文件系統(tǒng)中的大量客戶端節(jié)點(diǎn)均采取這種方式運(yùn)行，所有這些客戶端節(jié)點(diǎn)在某些時(shí)刻需要將緩存中已完成的請(qǐng)求數(shù)據(jù)提交到數(shù)據(jù)存儲(chǔ)節(jié)點(diǎn)實(shí)現(xiàn)數(shù)據(jù)實(shí)際寫操作，而在寫入過(guò)程中又夾雜著讀操作或者更新操作。目前分布式并行文件系統(tǒng)普遍采取的數(shù)據(jù)緩存操作，一般依賴于文件系統(tǒng)所在的操作系統(tǒng)的緩存處理機(jī)制。操作系統(tǒng)對(duì)于文件系統(tǒng)中的讀操作，采取預(yù)讀策略將目標(biāo)數(shù)據(jù)及位置相鄰數(shù)據(jù)讀取并放入系統(tǒng)緩存中。對(duì)于寫操作，采取“緩寫”機(jī)制，即數(shù)據(jù)在緩存寫完后為寫完成，當(dāng)緩存寫請(qǐng)求累計(jì)到既定數(shù)據(jù)大小(如64MB)后，才執(zhí)行一次實(shí)際的寫操作。如果在實(shí)際寫請(qǐng)求執(zhí)行之前，分布式并行文件系統(tǒng)持續(xù)處于繁忙的狀態(tài)，或者出現(xiàn)部分宕機(jī)事件，則將出現(xiàn)數(shù)據(jù)緩存的不一致問(wèn)題。

發(fā)明內(nèi)容
本發(fā)明所要解決的技術(shù)問(wèn)題是克服目前分布式并行文件系統(tǒng)在實(shí)際寫請(qǐng)求執(zhí)行之前持續(xù)處于繁忙狀態(tài)或者出現(xiàn)部分宕機(jī)事件將出現(xiàn)數(shù)據(jù)緩存不一致的缺陷。為了解決上述技術(shù)問(wèn)題，本發(fā)明提供了一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，包括元數(shù)據(jù)監(jiān)控模塊(I)、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)、客戶端監(jiān)控模塊(3)、負(fù)載仲裁模塊
(4)以及緩存同步模塊(5)，其中所述元數(shù)據(jù)監(jiān)控模塊(I)、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)以及客戶端監(jiān)控模塊(3)分別用于根據(jù)預(yù)設(shè)的時(shí)間維度，實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)、數(shù)據(jù)存儲(chǔ)以及客戶端的性能負(fù)載，并分別生成元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)以及客戶端負(fù)載評(píng)價(jià)；負(fù)載仲裁模塊(4)，用于根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)；緩存同步模塊(5)，用于根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。優(yōu)選地，所述元數(shù)據(jù)監(jiān)控模塊(I)用于通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比生成所述元數(shù)據(jù)負(fù)載評(píng)價(jià)。優(yōu)選地，所述數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)用于監(jiān)控?cái)?shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，生成所述數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。優(yōu)選地，所述客戶端監(jiān)控模塊(3)用于監(jiān)控客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)所述讀請(qǐng)求和寫入請(qǐng)求生成所述客戶端負(fù)載評(píng)價(jià)。 優(yōu)選地，所述緩存同步模塊(5)用于將所述元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中。本發(fā)明還提供了一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，包括根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)；根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)；根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)；根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)；根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。優(yōu)選地，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)，包括根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比生成所述元數(shù)據(jù)負(fù)載評(píng)價(jià)。優(yōu)選地，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)，包括根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控?cái)?shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，生成所述數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。優(yōu)選地，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)，包括根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)所述讀請(qǐng)求和寫入請(qǐng)求生成所述客戶端負(fù)載評(píng)價(jià)。優(yōu)選地，根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作，包括根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)將所述元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中。與現(xiàn)有技術(shù)相比，本申請(qǐng)的實(shí)施例實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端實(shí)時(shí)訪問(wèn)的負(fù)載壓力，并選擇相對(duì)空閑的時(shí)間窗口內(nèi)執(zhí)行緩存同步邏輯，以縮小分布式并行文件系統(tǒng)的數(shù)據(jù)緩存不一致的時(shí)間窗口，從而實(shí)現(xiàn)分布式并行文件系統(tǒng)的數(shù)據(jù)緩存盡早同步，增強(qiáng)了文件系統(tǒng)的數(shù)據(jù)一致性。本發(fā)明的其它特征和優(yōu)點(diǎn)將在隨后的說(shuō)明書中闡述，并且，部分地從說(shuō)明書中變得顯而易見(jiàn)，或者通過(guò)實(shí)施本發(fā)明而了解。本發(fā)明的目的和其他優(yōu)點(diǎn)可通過(guò)在說(shuō)明書、權(quán)利要求書以及附圖中所特別指出的結(jié)構(gòu)來(lái)實(shí)現(xiàn)和獲得。


附圖用來(lái)提供對(duì)本發(fā)明技術(shù)方案的進(jìn)一步理解，并且構(gòu)成說(shuō)明書的一部分，與本申請(qǐng)的實(shí)施例一起用于解釋本發(fā)明的技術(shù)方案，并不構(gòu)成對(duì)本發(fā)明技術(shù)方案的限制。圖I為本申請(qǐng)實(shí)施例的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)的組成示意圖。·圖2為本申請(qǐng)實(shí)施例的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法的流程示意圖。
具體實(shí)施例方式以下將結(jié)合附圖及實(shí)施例來(lái)詳細(xì)說(shuō)明本發(fā)明的實(shí)施方式，借此對(duì)本發(fā)明如何應(yīng)用技術(shù)手段來(lái)解決技術(shù)問(wèn)題，并達(dá)成技術(shù)效果的實(shí)現(xiàn)過(guò)程能充分理解并據(jù)以實(shí)施。本申請(qǐng)實(shí)施例以及實(shí)施例中的各個(gè)特征在不相沖突前提下的相互結(jié)合，均在本發(fā)明的保護(hù)范圍之內(nèi)。另外，在附圖的流程圖示出的步驟可以在諸如一組計(jì)算機(jī)可執(zhí)行指令的計(jì)算機(jī)系統(tǒng)中執(zhí)行。并且，雖然在流程圖中示出了邏輯順序，但是在某些情況下，可以以不同于此處的順序執(zhí)行所示出或描述的步驟。如圖I所示，本申請(qǐng)實(shí)施例的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)主要包括元數(shù)據(jù)監(jiān)控模塊I、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊2、客戶端監(jiān)控模塊3、負(fù)載仲裁模塊4以及緩存同步模塊5。元數(shù)據(jù)監(jiān)控模塊I用于根據(jù)預(yù)設(shè)的時(shí)間維度，實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載并生成元數(shù)據(jù)負(fù)載評(píng)價(jià)。數(shù)據(jù)存儲(chǔ)監(jiān)控模塊2用于根據(jù)預(yù)設(shè)的時(shí)間維度，實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載并生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)?？蛻舳吮O(jiān)控模塊3用于根據(jù)預(yù)設(shè)的時(shí)間維度，實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載并生成客戶端負(fù)載評(píng)價(jià)。負(fù)載仲裁模塊4與元數(shù)據(jù)監(jiān)控模塊I、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊2及客戶端監(jiān)控模塊3相連，根據(jù)這三個(gè)監(jiān)控模塊所獲取的元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)作為判定緩存同步模塊5啟動(dòng)的根據(jù)，并在性能負(fù)載空閑的時(shí)間窗到達(dá)時(shí)啟動(dòng)緩存同步模塊5進(jìn)行緩存同步操作。緩存同步模塊5與負(fù)載仲裁模塊4相連，執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作，將元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中，實(shí)現(xiàn)分布式并行文件系統(tǒng)整體緩存的及時(shí)同步。
其中，各個(gè)監(jiān)控模塊監(jiān)控信息的時(shí)間維度可以預(yù)先設(shè)定。負(fù)載仲裁模塊中用作啟動(dòng)緩存同步模塊條件之一的分布式并行文件系統(tǒng)中占用的容量與新增數(shù)據(jù)容量的比值，以及啟動(dòng)同步緩存操作所需的負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值等信息也可以預(yù)先設(shè)定。在分布式并行文件系統(tǒng)中，緩存中的新增數(shù)據(jù)同步到文件系統(tǒng)的存儲(chǔ)設(shè)備之前，存在著容量不一致的現(xiàn)象。前述分布式并行文件系統(tǒng)占用的容量與新增數(shù)據(jù)容量的比值等于文件系統(tǒng)中占用的容量/新增數(shù)據(jù)容量。上述各監(jiān)控模塊的時(shí)間維度，比如為10秒(也可以是20秒或者40秒等等)，作為各監(jiān)控模塊監(jiān)控并生成負(fù)載評(píng)價(jià)的時(shí)間單位。啟動(dòng)同步緩存操作所需的負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，比如可以是負(fù)載連續(xù)高于70%的時(shí)間超過(guò)了 60個(gè)10秒，此時(shí)可以啟動(dòng)同步緩存操作。元數(shù)據(jù)監(jiān)控模塊I用于監(jiān)控分布式并行文件系統(tǒng)元數(shù)據(jù)的訪問(wèn)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比來(lái)獲得元數(shù)據(jù)負(fù)載評(píng)價(jià)，比如獲得某個(gè)時(shí)段(比如10秒、I分鐘 或者5分鐘等)內(nèi)文件系統(tǒng)的總體訪問(wèn)量(元數(shù)據(jù)的IO數(shù)目)。其中的負(fù)載時(shí)長(zhǎng)比等于過(guò)去某個(gè)時(shí)間段內(nèi)的負(fù)載與時(shí)長(zhǎng)的比值(過(guò)去某個(gè)時(shí)間段內(nèi)的負(fù)載/時(shí)長(zhǎng))。數(shù)據(jù)存儲(chǔ)監(jiān)控模塊2用于監(jiān)控每個(gè)參與數(shù)據(jù)實(shí)際存儲(chǔ)的數(shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，根據(jù)存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，從而確定數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)，包括存儲(chǔ)節(jié)點(diǎn)的IO負(fù)載請(qǐng)求數(shù)以及IO負(fù)載總吞吐量等等?？蛻舳吮O(jiān)控模塊3用于監(jiān)控每個(gè)參與分布式并行文件系統(tǒng)的客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，獲得客戶端負(fù)載評(píng)價(jià)。由于其需要將所有的讀寫請(qǐng)求發(fā)送到數(shù)據(jù)存儲(chǔ)執(zhí)行實(shí)際的讀寫操作，因此其監(jiān)控到的基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)數(shù)據(jù)反映了分布式并行文件系統(tǒng)的總體性能負(fù)載。負(fù)載仲裁模塊4收集三個(gè)監(jiān)控模塊的性能負(fù)載數(shù)據(jù)，根據(jù)預(yù)先設(shè)定的仲裁規(guī)則判斷元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中的節(jié)點(diǎn)或節(jié)點(diǎn)集群的時(shí)間空閑窗口，在時(shí)間空閑窗口來(lái)臨時(shí)，調(diào)用相應(yīng)的緩存同步模塊執(zhí)行緩存數(shù)據(jù)的同步寫入功能。其中的仲裁規(guī)則比如監(jiān)控所有節(jié)點(diǎn)的負(fù)載或者監(jiān)控某類節(jié)點(diǎn)的負(fù)載等等。緩存同步模塊5存在于分布式并行文件系統(tǒng)中的各組成模塊中，用于實(shí)現(xiàn)操作系統(tǒng)以及分布式并行文件系統(tǒng)的同步操作，實(shí)現(xiàn)實(shí)際執(zhí)行過(guò)程中位于緩存中未實(shí)際提交的IO請(qǐng)求。如圖2所示，本申請(qǐng)實(shí)施例的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，主要包括如下內(nèi)容。S210，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)。S220，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。S230，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)。S240，根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)。
S250，根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。上述根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)，包括根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比生成所述元數(shù)據(jù)負(fù)載評(píng)價(jià)。上述根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)，包括 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控?cái)?shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，生成所述數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。上述根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)，包括根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)所述讀請(qǐng)求和寫入請(qǐng)求生成所述客戶端負(fù)載評(píng)價(jià)。上述根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作，包括根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)將所述元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中。需要說(shuō)明的是，上述步驟S210、S220以及S230在執(zhí)行上并無(wú)嚴(yán)格的先后順序。本申請(qǐng)的實(shí)施例中，元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端分布在三個(gè)集群，通過(guò)負(fù)載仲裁模塊進(jìn)行負(fù)載判斷，在空閑窗口來(lái)臨時(shí)執(zhí)行同步操作(客戶端同步、數(shù)據(jù)存儲(chǔ)端同步、元數(shù)據(jù)端同步)，實(shí)現(xiàn)將文件系統(tǒng)客戶端、數(shù)據(jù)存儲(chǔ)端、元數(shù)據(jù)端的緩存數(shù)據(jù)寫入到磁盤中。本申請(qǐng)實(shí)施例中的三個(gè)監(jiān)控模塊運(yùn)行在操作系統(tǒng)上，操作系統(tǒng)固有的內(nèi)存處理機(jī)制也執(zhí)行寫提交。分布式文件系統(tǒng)的同步部分依賴操作系統(tǒng)的寫提交(同步)。本申請(qǐng)的實(shí)施例中，數(shù)據(jù)存儲(chǔ)以及客戶端均采用集群方式部署。在大規(guī)模部署的分布式并行文件系統(tǒng)中，由于訪問(wèn)負(fù)載存在時(shí)間不均衡特征以及數(shù)據(jù)分布局部性特征，文件系統(tǒng)的元數(shù)據(jù)節(jié)點(diǎn)、數(shù)據(jù)存儲(chǔ)的部分節(jié)點(diǎn)、客戶端的部分節(jié)點(diǎn)在特定的時(shí)間窗內(nèi)會(huì)出現(xiàn)性能負(fù)載壓力較大的現(xiàn)象，特別是云計(jì)算業(yè)務(wù)系統(tǒng)中，部分節(jié)點(diǎn)繁忙的現(xiàn)象普遍存在且頻率較高。本申請(qǐng)的實(shí)施例選擇在系統(tǒng)空閑時(shí)間窗內(nèi)實(shí)施文件系統(tǒng)的緩存同步，有效保證了上層業(yè)務(wù)系統(tǒng)的性能。本領(lǐng)域的技術(shù)人員應(yīng)該明白，上述的本申請(qǐng)實(shí)施例所提供的系統(tǒng)的各組成部分，以及方法中的各步驟，它們可以集中在單個(gè)的計(jì)算裝置上，或者分布在多個(gè)計(jì)算裝置所組成的網(wǎng)絡(luò)上?？蛇x地，它們可以用計(jì)算裝置可執(zhí)行的程序代碼來(lái)實(shí)現(xiàn)。從而，可以將它們存儲(chǔ)在存儲(chǔ)裝置中由計(jì)算裝置來(lái)執(zhí)行，或者將它們分別制作成各個(gè)集成電路模塊，或者將它們中的多個(gè)模塊或步驟制作成單個(gè)集成電路模塊來(lái)實(shí)現(xiàn)。這樣，本發(fā)明不限制于任何特定的硬件和軟件結(jié)合。雖然本發(fā)明所揭露的實(shí)施方式如上，但所述的內(nèi)容僅為便于理解本發(fā)明而采用的實(shí)施方式，并非用以限定本發(fā)明。任何本發(fā)明所屬領(lǐng)域內(nèi)的技術(shù)人員，在不脫離本發(fā)明所揭露的精神和范圍的前 提下，可以在實(shí)施的形式及細(xì)節(jié)上進(jìn)行任何的修改與變化，但本發(fā)明的專利保護(hù)范圍，仍須以所附的權(quán)利要求書所界定的范圍為準(zhǔn)。
權(quán)利要求
1.一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，包括元數(shù)據(jù)監(jiān)控模塊(I)、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)、客戶端監(jiān)控模塊(3)、負(fù)載仲裁模塊(4)以及緩存同步模塊(5)，其中 所述元數(shù)據(jù)監(jiān)控模塊(I)、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)以及客戶端監(jiān)控模塊(3)分別用于根據(jù)預(yù)設(shè)的時(shí)間維度，實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)、數(shù)據(jù)存儲(chǔ)以及客戶端的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)以及客戶端負(fù)載評(píng)價(jià)； 負(fù)載仲裁模塊(4)，用于根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)； 緩存同步模塊(5)，用于根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。
2.根據(jù)權(quán)利要求I所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，其中 所述元數(shù)據(jù)監(jiān)控模塊(I)用于通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比生成所述元數(shù)據(jù)負(fù)載評(píng)價(jià)。
3.根據(jù)權(quán)利要求I所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，其中 所述數(shù)據(jù)存儲(chǔ)監(jiān)控模塊(2)用于監(jiān)控?cái)?shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，生成所述數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。
4.根據(jù)權(quán)利要求I所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，其中 所述客戶端監(jiān)控模塊(3)用于監(jiān)控客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)所述讀請(qǐng)求和寫入請(qǐng)求生成所述客戶端負(fù)載評(píng)價(jià)。
5.根據(jù)權(quán)利要求I所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步系統(tǒng)，其中 所述緩存同步模塊(5)用于將所述元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中。
6.一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，包括 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)； 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)； 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)； 根據(jù)所述元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)； 根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。
7.根據(jù)權(quán)利要求6所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，其中，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)，包括 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)的性能負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比生成所述元數(shù)據(jù)負(fù)載評(píng)價(jià)。
8.根據(jù)權(quán)利要求6所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，其中，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中數(shù)據(jù)存儲(chǔ)的性能負(fù)載，生成數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)，包括 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控?cái)?shù)據(jù)存儲(chǔ)上所承擔(dān)的輸入輸出(IO)負(fù)載，通過(guò)基于時(shí)間長(zhǎng)度的多維度負(fù)載時(shí)長(zhǎng)比獲得存儲(chǔ)節(jié)點(diǎn)所存儲(chǔ)數(shù)據(jù)的讀取量和寫入量，生成所述數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)。
9.根據(jù)權(quán)利要求6所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，其中，根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中客戶端的性能負(fù)載，生成客戶端負(fù)載評(píng)價(jià)，包括 根據(jù)預(yù)設(shè)的時(shí)間維度實(shí)時(shí)監(jiān)控客戶端所承載的讀請(qǐng)求和寫入請(qǐng)求，根據(jù)所述讀請(qǐng)求和寫入請(qǐng)求生成所述客戶端負(fù)載評(píng)價(jià)。
10.根據(jù)權(quán)利要求6所述的分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步方法，其中，根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作，包括 根據(jù)所述負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)將所述元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端中緩存的臟數(shù)據(jù)寫入到文件系統(tǒng)中。
全文摘要
本發(fā)明公開(kāi)了一種分布式并行文件系統(tǒng)緩存數(shù)據(jù)同步的方法及系統(tǒng)，克服實(shí)際寫請(qǐng)求執(zhí)行之前持續(xù)處于繁忙狀態(tài)將出現(xiàn)數(shù)據(jù)緩存不一致的缺陷，該系統(tǒng)中元數(shù)據(jù)監(jiān)控模塊、數(shù)據(jù)存儲(chǔ)監(jiān)控模塊以及客戶端監(jiān)控模塊分別實(shí)時(shí)監(jiān)控分布式并行文件系統(tǒng)中元數(shù)據(jù)訪問(wèn)、數(shù)據(jù)存儲(chǔ)以及客戶端的性能負(fù)載，生成元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)以及客戶端負(fù)載評(píng)價(jià)；負(fù)載仲裁模塊根據(jù)元數(shù)據(jù)負(fù)載評(píng)價(jià)、數(shù)據(jù)存儲(chǔ)負(fù)載評(píng)價(jià)和客戶端負(fù)載評(píng)價(jià)，以及預(yù)設(shè)的負(fù)載評(píng)測(cè)時(shí)間窗和負(fù)載時(shí)長(zhǎng)的波動(dòng)閾值，生成多個(gè)不同時(shí)間維度的負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)；緩存同步模塊根據(jù)負(fù)載時(shí)長(zhǎng)評(píng)測(cè)數(shù)據(jù)執(zhí)行元數(shù)據(jù)、數(shù)據(jù)存儲(chǔ)以及客戶端的緩存同步操作。本申請(qǐng)的實(shí)施例增強(qiáng)了文件系統(tǒng)的數(shù)據(jù)一致性。
文檔編號(hào)G06F17/30GK102932424SQ201210376048
公開(kāi)日2013年2月13日 申請(qǐng)日期2012年9月29日 優(yōu)先權(quán)日2012年9月29日
發(fā)明者郭鵬 申請(qǐng)人:浪潮(北京)電子信息產(chǎn)業(yè)有限公司