本發(fā)明屬于計算機(jī)領(lǐng)域,尤其涉及一種數(shù)據(jù)分級存儲方法及裝置。
背景技術(shù):
lustre是hp,intel,clusterfilesystem公司聯(lián)合美國能源部開發(fā)的linux集群并行文件系統(tǒng)。lustre采用分布式的鎖管理機(jī)制來實現(xiàn)并發(fā)控制,元數(shù)據(jù)和文件數(shù)據(jù)的通訊鏈路分開管理,是為解決海量存儲問題而設(shè)計的全新文件系統(tǒng),是下一代的集群文件系統(tǒng),可支持10,000個節(jié)點,pb的存儲量,100gb/s的傳輸速度,完美的安全性和可管理性。
2011年時,non-volatilememoryexpress非易失性存儲器標(biāo)準(zhǔn)即nvme規(guī)范正式出爐,這是專門針對nvnd閃存和下一代存儲設(shè)備所提出的規(guī)范。它基于閃存的特點而研發(fā),其目的是盡可能縮小存儲系統(tǒng)和內(nèi)存帶寬之間的差距。
lustre消除了傳統(tǒng)網(wǎng)絡(luò)文件系統(tǒng)在可擴(kuò)展性、可用性和性能上的問題,nvme和pci-e非常適合ssd高性能的需求,nvm作為專門為閃存設(shè)計的協(xié)議,通過高帶寬的pci-e通道,能夠充分發(fā)揮出ssd的性能。但該方案存在lustre單節(jié)點故障問題,以及nvmessd成本過高,不適合用于大容量存儲介質(zhì)。
因此,迫切需要提供一種高效的數(shù)據(jù)存儲方案,來解決lustre單節(jié)點故障問題。
技術(shù)實現(xiàn)要素:
本發(fā)明提供一種數(shù)據(jù)分級存儲方法及裝置,以解決上述問題。
本發(fā)明提供一種數(shù)據(jù)分級存儲方法,應(yīng)用于基于lustre文件系統(tǒng)。上述方法包括以下步驟:
采用第一級存儲區(qū)和第二級存儲區(qū)分別用于存儲數(shù)據(jù)。
本發(fā)明還提供一種數(shù)據(jù)分級存儲裝置,包括:應(yīng)用于基于lustre文件系統(tǒng),包括:第一級存儲區(qū)和第二級存儲區(qū),分別用于存儲數(shù)據(jù)。
通過以下方案:采用第一級存儲區(qū)和第二級存儲區(qū)分別用于存儲數(shù)據(jù),提高了存儲性能并降低了存儲成本,解決了lustre單節(jié)點故障問題以及nvmessd成本過高的問題。
附圖說明
此處所說明的附圖用來提供對本發(fā)明的進(jìn)一步理解,構(gòu)成
本技術(shù):
的一部分,本發(fā)明的示意性實施例及其說明用于解釋本發(fā)明,并不構(gòu)成對本發(fā)明的不當(dāng)限定。在附圖中:
圖1所示為本發(fā)明實施例1的數(shù)據(jù)分級存儲方法處理流程圖;
圖2所示為本發(fā)明實施例2的數(shù)據(jù)分級存儲裝置結(jié)構(gòu)圖;
圖3所示為本發(fā)明實施例3的數(shù)據(jù)分級存儲裝置結(jié)構(gòu)圖。
具體實施方式
下文中將參考附圖并結(jié)合實施例來詳細(xì)說明本發(fā)明。需要說明的是,在不沖突的情況下,本申請中的實施例及實施例中的特征可以相互組合。
圖1所示為本發(fā)明實施例1的數(shù)據(jù)分級存儲方法處理流程圖,包括以下步驟:
步驟102:采用第一級存儲區(qū)和第二級存儲區(qū)分別用于存儲數(shù)據(jù)。
進(jìn)一步地,所述第一級存儲區(qū)包括單節(jié)點lustre文件系統(tǒng)和基于nvme傳輸協(xié)議的硬盤,所述第二存儲區(qū)包括halustre文件系統(tǒng)和機(jī)械硬盤。
進(jìn)一步地,所述第一存儲區(qū)與所述第二存儲區(qū)之間使用兩套網(wǎng)絡(luò)連接,所述兩套網(wǎng)絡(luò)分別用于傳輸管理數(shù)據(jù)和計算數(shù)據(jù)。
進(jìn)一步地,用于傳輸管理數(shù)據(jù)的網(wǎng)絡(luò)是以太網(wǎng),用于傳輸計算數(shù)據(jù)的網(wǎng)絡(luò)是ib網(wǎng)絡(luò)。
進(jìn)一步地,控制所述第一級存儲區(qū)域所述第二級存儲區(qū)之間數(shù)據(jù)遷移。
因此,高性能存儲區(qū)采用單節(jié)點lustre,硬盤使用nvmessd,最大限度的提高實時存儲性能;二級存儲區(qū)采用halustre架構(gòu)保證數(shù)據(jù)安全,硬盤使用普通機(jī)械硬盤,滿足存儲容量的需求;高性能存儲區(qū)與二級存儲通過備份軟件進(jìn)行數(shù)據(jù)遷移備份。
圖2所示為本發(fā)明實施例2的數(shù)據(jù)分級存儲裝置結(jié)構(gòu)圖。
如圖2所示,根據(jù)本發(fā)明實施例的一種數(shù)據(jù)分級存儲裝置,應(yīng)用于基于lustre文件系統(tǒng),包括:
第一級存儲區(qū)202和第二級存儲區(qū)204,分別用于存儲數(shù)據(jù)。
進(jìn)一步地,所述第一級存儲區(qū)202包括單節(jié)點lustre文件系統(tǒng)和基于nvme傳輸協(xié)議的硬盤,所述第二存儲區(qū)204包括halustre文件系統(tǒng)和機(jī)械硬盤。
進(jìn)一步地,所述第一存儲區(qū)202與所述第二存儲區(qū)204之間使用兩套網(wǎng)絡(luò)連接,所述兩套網(wǎng)絡(luò)分別用于傳輸管理數(shù)據(jù)和計算數(shù)據(jù)。
其中,用于傳輸管理數(shù)據(jù)的網(wǎng)絡(luò)是以太網(wǎng),用于傳輸計算數(shù)據(jù)的網(wǎng)絡(luò)是ib網(wǎng)絡(luò)。
數(shù)據(jù)分級存儲裝置還包括:
控制模塊206,用于控制所述第一級存儲區(qū)域202所述第二級存儲區(qū)204之間數(shù)據(jù)遷移。
本實施例通過分級存儲用高性能存儲區(qū)來滿足io的高速請求,用二級存儲提供存儲容量與數(shù)據(jù)安全保障,通過備份軟件制定備份策略滿足備份需求。
圖3所示為本發(fā)明實施例3的數(shù)據(jù)分級存儲裝置結(jié)構(gòu)圖。
如圖3所示,高性能存儲區(qū)部署一套lustre+nvme存儲系統(tǒng);二級存儲區(qū)部署一套halustre文件系統(tǒng),硬盤使用普通機(jī)械硬盤保證存儲容量與安全。本方案中高性能存儲區(qū)與二級存儲區(qū)之間使用兩套網(wǎng)絡(luò):管理網(wǎng)絡(luò)使用普通以太網(wǎng),計算網(wǎng)絡(luò)使用高速ib網(wǎng)絡(luò)。此外,備份軟件部署在lustre客戶端,通過同時訪問高性能存儲區(qū)與二級存儲區(qū)完成實時數(shù)據(jù)備份,通過制定相應(yīng)備份策略完成全額備份與增量備份、數(shù)據(jù)恢復(fù)、過期數(shù)據(jù)刪除等。
該方案提高了存儲性能并降低了存儲成本;解決了nvmessd成本過高的問題與傳統(tǒng)硬盤存儲性能較低的現(xiàn)狀。
通過以下方案:采用第一級存儲區(qū)和第二級存儲區(qū)分別用于存儲數(shù)據(jù),提高了存儲性能并降低了存儲成本,解決了lustre單節(jié)點故障問題以及nvmessd成本過高的問題。
以上所述僅為本發(fā)明的優(yōu)選實施例而已,并不用于限制本發(fā)明,對于本領(lǐng)域的技術(shù)人員來說,本發(fā)明可以有各種更改和變化。凡在本發(fā)明的精神和原則之內(nèi),所作的任何修改、等同替換、改進(jìn)等,均應(yīng)包含在本發(fā)明的保護(hù)范圍之內(nèi)。