一種共享內(nèi)存池的低功耗數(shù)據(jù)中心及其工作方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及數(shù)據(jù)中心領(lǐng)域,尤其涉及一種共享內(nèi)存池的低功耗數(shù)據(jù)中心及其工作方法。
【背景技術(shù)】
[0002]隨著集成電路技術(shù)的發(fā)展和3D新型存儲(chǔ)技術(shù)的出現(xiàn),一種新型的數(shù)據(jù)中心服務(wù)器結(jié)構(gòu)如圖1所示,通過(guò)采用多芯片封裝(Multi Chip Package)技術(shù),將處理器芯片、片外易失性高速緩存器以及3D新型非易失性存儲(chǔ)器封裝在一個(gè)封裝體內(nèi),大大提高集成度。片外易失性高速緩存器作為片外最后一級(jí)易失性高速緩存,可以是嵌入式動(dòng)態(tài)隨機(jī)存儲(chǔ)器(eDRAM),與3D新型非易失性存儲(chǔ)器共同構(gòu)成了片外混合高速緩存,即將嵌入式動(dòng)態(tài)隨機(jī)存儲(chǔ)器和3D新型非易失性存儲(chǔ)器混合在一起作為處理器最后一級(jí)緩存,從而提高了緩存的存儲(chǔ)密度,可以將更多的數(shù)據(jù)存儲(chǔ)在緩存中,從而減小處理器讀寫(xiě)數(shù)據(jù)的延遲,降低計(jì)算機(jī)讀寫(xiě)數(shù)據(jù)的功耗。同時(shí)在最后一級(jí)混合緩存器中加入一自學(xué)習(xí)模塊,自學(xué)習(xí)模塊經(jīng)過(guò)一定時(shí)間的定期檢查學(xué)習(xí),將特定用戶某段時(shí)間最頻繁使用的應(yīng)用程序或數(shù)據(jù)存儲(chǔ)在3D新型非易失性存儲(chǔ)器中,減小了處理器執(zhí)行和/或處理這些應(yīng)用程序或數(shù)據(jù)的延遲和功耗。隨著3D新型非易失性存儲(chǔ)器技術(shù)的不斷成熟,其容量也在不斷提高,芯片的存儲(chǔ)容量可以達(dá)到128Gb或者256Gb,在不遠(yuǎn)的將來(lái)甚至更高,比如達(dá)到Tb量級(jí)。因此,圖1中所示的片外混合高速緩存器中的部分或者全部完全可以替代傳統(tǒng)計(jì)算機(jī)系統(tǒng)中的內(nèi)存(DRAM),因此整個(gè)計(jì)算機(jī)系統(tǒng)的架構(gòu)可以簡(jiǎn)化,如附圖2所示。相比需要不斷刷新的內(nèi)存來(lái)說(shuō),系統(tǒng)功耗也會(huì)大大降低。而且,3D新型存儲(chǔ)器是非易失性的,掉電后數(shù)據(jù)也不會(huì)丟失。
[0003]但是上述服務(wù)器構(gòu)成的數(shù)據(jù)中心會(huì)遇到以下問(wèn)題,上述系統(tǒng)在啟動(dòng)執(zhí)行用戶程序時(shí),會(huì)經(jīng)歷兩個(gè)過(guò)程:(1)自學(xué)習(xí)過(guò)程;(2)高性能執(zhí)行客戶應(yīng)用程序過(guò)程。假設(shè)如圖3所示的數(shù)據(jù)中心中的服務(wù)器均采用上述計(jì)算機(jī)架構(gòu),其中模塊A包括服務(wù)器A、服務(wù)器B和服務(wù)器C,模塊B包括服務(wù)器D、服務(wù)器E和服務(wù)器F。將模塊A租賃給客戶A,,并處在高性能執(zhí)行客戶A的應(yīng)用程序過(guò)程,此時(shí),系統(tǒng)已通過(guò)自學(xué)習(xí)過(guò)程,智能地了解到租賃客戶A的使用習(xí)慣,并將其最頻繁使用的應(yīng)用程序和數(shù)據(jù)保存到了片外混合緩存器上的3D大容量非易失性新型存儲(chǔ)器上,在接下來(lái)的使用時(shí)間內(nèi),處理器將不再頻繁需要從外部大容量存儲(chǔ)設(shè)備向內(nèi)存和/或片外混合緩存器導(dǎo)入大量用戶數(shù)據(jù),因而用戶體驗(yàn)非常好,更能夠大大節(jié)省數(shù)據(jù)中心的功耗。將模塊B租賃給客戶B,對(duì)租賃給客戶B的服務(wù)器來(lái)說(shuō),尚處在對(duì)客戶B應(yīng)用使用習(xí)慣的自學(xué)習(xí)過(guò)程,因而需要不斷從外部大容量存儲(chǔ)設(shè)備中導(dǎo)入客戶B的應(yīng)用程序和數(shù)據(jù)至片外混合緩存器中,最后至片內(nèi)高速緩存器中被處理器使用。假設(shè)片外混合緩存器中的易失性部分容量為M,3D新型非易失性存儲(chǔ)器部分的容量為N,而M必然遠(yuǎn)小于N。易失性存儲(chǔ)器為了保存數(shù)據(jù)會(huì)不斷刷新,因而功耗非常高,因此容量不會(huì)太大,否則刷新功耗會(huì)非常高。在性能上,片外混合緩存器中的易失性存儲(chǔ)器要遠(yuǎn)大于3D新型非易失性存儲(chǔ)器,所以在自學(xué)習(xí)過(guò)程中3D新型非易失性存儲(chǔ)器拖累了整體片外高速緩存器的性能。服務(wù)器在自學(xué)習(xí)過(guò)程中,3D新型非易失性存儲(chǔ)器中剛開(kāi)始是沒(méi)有用戶B的客戶應(yīng)用程序和數(shù)據(jù)的,而片外高速緩存器中的易失性部分容量M又很小,因而導(dǎo)致在自學(xué)習(xí)過(guò)程服務(wù)器的性能很低。相對(duì)于傳統(tǒng)在片外高速緩存和內(nèi)存中沒(méi)有非易失性部分的數(shù)據(jù)中心(如圖1)來(lái)說(shuō),片外混合緩存器中的易失性部分容量太小,因而此時(shí)用戶B的體驗(yàn)感要差得多,自學(xué)習(xí)模塊只有在一段時(shí)間的自學(xué)習(xí)過(guò)程之后才能將了解到租賃客戶B的使用習(xí)慣,再將其最頻繁使用的應(yīng)用程序和數(shù)據(jù)保存到片外混合高速緩存中的3D非易失性存儲(chǔ)器中??梢?jiàn),如何提高上述系統(tǒng)在自學(xué)習(xí)過(guò)程中的性能和用戶體驗(yàn),是目前需要解決的問(wèn)題。
【發(fā)明內(nèi)容】
[0004]鑒于上述問(wèn)題,本申請(qǐng)記載了一種共享內(nèi)存池的低功耗數(shù)據(jù)中心,包括多個(gè)服務(wù)器和內(nèi)存池,所述內(nèi)存池與所述服務(wù)器連接,用以給所述服務(wù)器分配內(nèi)存資源。
[0005]較佳的,所述內(nèi)存池包括多個(gè)內(nèi)存資源,每個(gè)內(nèi)存資源由若干內(nèi)存芯片組成。
[0006]較佳的,所述服務(wù)器包括處理器和片外混合高速緩存器,所述處理器與所述片外高速混合緩存器通過(guò)多芯片封裝技術(shù)封裝在一起,所述片外混合高速緩存器包括:
[0007]相連的片外易失性存儲(chǔ)器和3D新型非易失性存儲(chǔ)器,所述片外易失性存儲(chǔ)器和所述3D新型非易失性存儲(chǔ)器作為處理器的片外最后一級(jí)高速緩存,用以數(shù)據(jù)的緩存或存儲(chǔ);以及
[0008]自學(xué)習(xí)模塊,分別與所述片外易失性存儲(chǔ)器和所述3D新型非易失性存儲(chǔ)器連接,以用于定期檢查學(xué)習(xí)并統(tǒng)計(jì)計(jì)算機(jī)用戶的操作數(shù)據(jù)和/或應(yīng)用程序的使用習(xí)慣,獲取學(xué)習(xí)結(jié)果。
[0009]較佳的,所述3D新型非易失性存儲(chǔ)器為3D相變存儲(chǔ)器。
[0010]較佳的,所述服務(wù)器中的內(nèi)存或混合內(nèi)存的至少部分存儲(chǔ)空間由所述片外混合高速緩存器替代。
[0011]本發(fā)明還提供了一種共享內(nèi)存池的低功耗數(shù)據(jù)中心的工作方法,包括步驟:
[0012]—個(gè)或多個(gè)服務(wù)器向內(nèi)存池申請(qǐng)使用至少一個(gè)內(nèi)存資源;
[0013]所述服務(wù)器向外部大容量存儲(chǔ)設(shè)備發(fā)出數(shù)據(jù)和/或應(yīng)用程序調(diào)用命令;
[0014]外部大容量存儲(chǔ)設(shè)備接收所述數(shù)據(jù)和/或所述應(yīng)用程序調(diào)用命令,將所述數(shù)據(jù)和/或所述應(yīng)用程序存儲(chǔ)至所申請(qǐng)的所述內(nèi)存資源中;
[0015]將所述內(nèi)存資源中的所述數(shù)據(jù)和/或所述應(yīng)用程序?qū)胫疗饣旌细咚倬彺嫫髦小?br>[0016]較佳的,其特征在于,當(dāng)所述內(nèi)存資源被所述服務(wù)器申請(qǐng)使用時(shí)不能被其他服務(wù)器申請(qǐng)使用。
[0017]較佳的,還包括步驟:
[0018]釋放所述服務(wù)器向所述內(nèi)存池申請(qǐng)的所述內(nèi)存資源;
[0019]判斷被釋放的所述內(nèi)存資源是否繼續(xù)為其他服務(wù)器所使用,如果沒(méi)有,關(guān)閉所述內(nèi)存資源的電源。
[0020]較佳的,在步驟釋放所述服務(wù)器向所述內(nèi)存池申請(qǐng)的所述內(nèi)存資源后還包括步驟:
[0021]片外高速混合存儲(chǔ)器存儲(chǔ)至少部分內(nèi)存或混合內(nèi)存中的數(shù)據(jù)和/或應(yīng)用程序。
[0022]上述技術(shù)方案具有如下優(yōu)點(diǎn)或有益效果:使處于自學(xué)習(xí)階段的服務(wù)器能夠申請(qǐng)使用內(nèi)存池中的內(nèi)存,達(dá)到性能要求,當(dāng)處于高性能執(zhí)行用戶應(yīng)用程序階段時(shí)又能夠重新釋放內(nèi)存池中的內(nèi)存,以供其他服務(wù)器使用或者直接關(guān)閉該內(nèi)存池中的內(nèi)存電源,因此本發(fā)明這種數(shù)據(jù)中心結(jié)構(gòu)能夠以最小的硬件成本達(dá)到較高的性能要求,而且能夠有效降低數(shù)據(jù)中心的功耗。
【附圖說(shuō)明】
[0023]參考所附附圖,以更加充分的描述本發(fā)明的實(shí)施例。然而,所附附圖僅用于說(shuō)明和闡述,并不構(gòu)成對(duì)本發(fā)明范圍的限制。
[0024]圖1為現(xiàn)有技術(shù)中一種數(shù)據(jù)中心的結(jié)構(gòu)示意圖一;
[0025]圖2為現(xiàn)有技術(shù)中一種數(shù)據(jù)中心的結(jié)構(gòu)示意圖二 ;
[0026]圖3為現(xiàn)有技術(shù)中一種數(shù)據(jù)中心的使用示意圖;
[0027]圖4A為本發(fā)明一種共享內(nèi)存池的低功耗數(shù)據(jù)中心的結(jié)構(gòu)示意圖一;
[0028]圖4B為本發(fā)明一種共享內(nèi)存池的低功耗數(shù)據(jù)中心的結(jié)構(gòu)示意圖二 ;
[0029]圖5為現(xiàn)有技術(shù)中用于解決在自學(xué)階段導(dǎo)入數(shù)據(jù)慢和性能不足的數(shù)據(jù)中心的結(jié)構(gòu)示意圖;
[0030]圖6為本發(fā)明一種共享內(nèi)存池的低功耗數(shù)據(jù)中心的使用示意圖一;
[0031]圖7為本發(fā)明一種共享內(nèi)存池的低功耗數(shù)據(jù)中心的使用示意圖二。
【具體實(shí)施方式】
[0032]下面結(jié)合附圖和具體實(shí)施例對(duì)本發(fā)明一種共享內(nèi)存池的低功耗數(shù)據(jù)中心及其工作方法進(jìn)行詳細(xì)說(shuō)明。
[0033]實(shí)施例一
[0034]本發(fā)明提出一種共享內(nèi)存池的超低功耗數(shù)據(jù)中心結(jié)構(gòu),如圖4所示,該數(shù)據(jù)中心由M(M>1)個(gè)服務(wù)器構(gòu)成的。本發(fā)明數(shù)據(jù)中心中的服務(wù)器均采用多芯片封裝技術(shù)將處理器芯片、片外易失性存儲(chǔ)器、3D新型非易失性存儲(chǔ)器封裝在同一顆封裝體內(nèi),即多芯片封裝模塊內(nèi)。所述片外易失性存儲(chǔ)器可以作為處理器的片外最后一級(jí)高速緩存的易失性部分,其構(gòu)成可以是嵌入式動(dòng)態(tài)隨機(jī)訪問(wèn)存儲(chǔ)器(eDRAM)。所述片外易失性存儲(chǔ)器中的部分或者全部替代了部分或者全部的傳統(tǒng)系統(tǒng)內(nèi)存或者混合內(nèi)存中的易失性部分。所述3D新型非易失性存儲(chǔ)器可以為技術(shù)逐漸成熟的3D相變存儲(chǔ)器(3D PCM),也可以為其他3D新型非易失性存儲(chǔ)器,采用的是3D垂直堆疊工藝制成。所述3D新型非易失性存儲(chǔ)器可作為處理器的片外最后一級(jí)高速緩存的非易失性部分,并且其部分或者全部替代了部分或者全部的傳統(tǒng)系統(tǒng)中混合內(nèi)存的非易失性部分。所述片外易失性存儲(chǔ)器和所述3D新型非易失性存儲(chǔ)器共同構(gòu)成了片外混合高速緩存器,用以作為處理器的片外最后一級(jí)混合高速緩存。所述片外混合高速緩存器的部分或者全部存儲(chǔ)空間可替代部分或者全部的傳統(tǒng)系統(tǒng)內(nèi)存或者混合內(nèi)存:如圖4A所示,如果替代了全部的傳統(tǒng)系統(tǒng)內(nèi)存或者混合內(nèi)存,那么整個(gè)服務(wù)器系統(tǒng)架構(gòu)中就沒(méi)有了內(nèi)存或混合內(nèi)存模塊,系統(tǒng)結(jié)構(gòu)更加簡(jiǎn)單;如果僅替代了部分的傳統(tǒng)系統(tǒng)內(nèi)存或者混合內(nèi)存,那么整個(gè)服務(wù)器系統(tǒng)架構(gòu)中依然保留內(nèi)存或混合內(nèi)存模塊,但對(duì)其容量需求會(huì)降低,如圖4B所示,其中,所述內(nèi)存還可以為混合內(nèi)存。所述片外混合高速緩存器中的自學(xué)習(xí)模塊可以用硬件實(shí)現(xiàn),也可以用軟件實(shí)現(xiàn),其作用是在一段時(shí)間內(nèi),對(duì)特定用戶的行為或者使用習(xí)慣進(jìn)行學(xué)習(xí)和統(tǒng)計(jì),并決定將所述特定用戶最頻繁使用的應(yīng)用程序和/或數(shù)據(jù)存儲(chǔ)在所述3D新型非易失性存儲(chǔ)器中,從而提高系統(tǒng)性能。本發(fā)明內(nèi)存池是由N(N>1)個(gè)內(nèi)存資源構(gòu)成的內(nèi)存陣列,每個(gè)內(nèi)存資源都是由若干內(nèi)存芯片組成,且都是易失性的,比如DRAM。所述內(nèi)存池連接至每個(gè)服務(wù)器并可以為之使用,充當(dāng)其系統(tǒng)內(nèi)存。當(dāng)某個(gè)或多個(gè)服務(wù)器處在自學(xué)習(xí)階段時(shí),處理器需要不斷從外部大容量存儲(chǔ)設(shè)備向內(nèi)存和高速緩存(包括片內(nèi)高速緩存和片外高速緩存)導(dǎo)入大量數(shù)據(jù),由于服務(wù)器系統(tǒng)中內(nèi)存或片外高速混合緩存器中的易失性部分容量太低導(dǎo)致系統(tǒng)性能較低,此時(shí)該服務(wù)器系統(tǒng)可向內(nèi)存池申請(qǐng)若干個(gè)內(nèi)存資源使用,以充當(dāng)該服務(wù)器的系統(tǒng)內(nèi)存從而提高系統(tǒng)性能,并且此時(shí)片外混合高速緩存器可以全部作為處理器片外的最后一級(jí)緩存使用;當(dāng)該服務(wù)器經(jīng)過(guò)一段時(shí)間的自學(xué)習(xí)過(guò)程后處于高性能執(zhí)行客戶應(yīng)用程序過(guò)程時(shí),無(wú)需再多次頻繁從外部大容量存儲(chǔ)設(shè)備向內(nèi)存和高速緩存(包括片內(nèi)高速緩存和片外高速緩存)導(dǎo)入大量數(shù)據(jù),因而不需要額外的系統(tǒng)內(nèi)存,因而可以釋放出內(nèi)存池中使用的內(nèi)存資源,以供其他服務(wù)器使用或者關(guān)閉該內(nèi)存資源的電源以降低功耗,并且將片外混合高速緩存器從全部充