專利名稱：實(shí)現(xiàn)使用存儲(chǔ)級(jí)并行的內(nèi)存管理方法及裝置的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及到計(jì)算機(jī)系統(tǒng)的內(nèi)存管理方法，尤其涉及實(shí)現(xiàn)使用存儲(chǔ)級(jí)并行的內(nèi)存
管理方法及裝置。
背景技術(shù)：
處理器和主存 之間存在較大的性能差距。Cache能減少處理器訪問主存的次數(shù)，但大容量Cache難以在片上集成，并且Cache單一的替換策略也難以滿足應(yīng)用訪存行為的多樣性。處理器仍會(huì)耗費(fèi)大量的時(shí)間用于訪問主存，因此需要主存更加快速地響應(yīng)處理器的訪存請(qǐng)求。訪存地址中包含了行地址和列地址，用于定位存儲(chǔ)陣列中的存儲(chǔ)單元。當(dāng)前主存采用高位交叉的方式來構(gòu)造，使得行選和列選復(fù)用地址線和譯碼器，以節(jié)省成本。但單個(gè)存儲(chǔ)陣列的數(shù)據(jù)寬度有限，為了與數(shù)據(jù)總線的寬度匹配，內(nèi)存控制器會(huì)同時(shí)選中一組存儲(chǔ)陣列，并且各個(gè)存儲(chǔ)陣列來自不同的DRAM芯片。同時(shí)被選中的存儲(chǔ)陣列成為bank。這就是內(nèi)存芯片尋址的基本原理。RAM被稱為隨機(jī)存儲(chǔ)器，但從當(dāng)前存儲(chǔ)器的設(shè)計(jì)來看，每條指令訪問存儲(chǔ)器的延遲并不一致。從主存的組成來看,訪問主存需要選中對(duì)應(yīng)的存儲(chǔ)體(bank)，使連續(xù)多條訪存指令分別訪問不同的bank，是保證存儲(chǔ)級(jí)并行的重要手段。數(shù)據(jù)在主存中的分布決定著并行度的高低。如果分配給程序的頁幀都來自不同的bank，則前后兩次訪存定位到不同的bank ο在等待第一個(gè)訪存請(qǐng)求的結(jié)果時(shí),就可以開始響應(yīng)第二個(gè)訪存請(qǐng)求。前后兩次訪存的過程相疊加，進(jìn)而提高訪存的性能。因此，數(shù)據(jù)在主存中的布局越分散，則更容易發(fā)揮多bank結(jié)構(gòu)提供的并行訪問能力，這里的分散是指數(shù)據(jù)分布在不同的bank中。特別是隨著主存的集成度不斷提高，主存的生產(chǎn)成本逐步降低，bank數(shù)與主存的容量同步增長。一旦數(shù)據(jù)聚簇在主存的部分bank中，應(yīng)用執(zhí)行時(shí)只會(huì)有部分bank處于工作狀態(tài)，從而限制了大容量主存潛在的性能。因此，針對(duì)目前使用大容量主存的內(nèi)存管理所存在的一系列問題，需要提供一種改進(jìn)的內(nèi)存管理方法，根據(jù)應(yīng)用的訪存行為充分利用bank資源，同時(shí)兼顧優(yōu)化方法的靈活性和通用性，從而實(shí)現(xiàn)對(duì)系統(tǒng)性能的優(yōu)化。

發(fā)明內(nèi)容
本發(fā)明要解決的技術(shù)問題是提出一種實(shí)現(xiàn)使用存儲(chǔ)級(jí)并行的內(nèi)存管理方法及裝置，能夠減少應(yīng)用數(shù)據(jù)聚簇在主存的部分bank中，導(dǎo)致主存潛在的性能被低估。本發(fā)明所采用的技術(shù)方案為一種實(shí)現(xiàn)使用存儲(chǔ)級(jí)并行的內(nèi)存管理方法，以所述的bank組為單位分配內(nèi)存，并確定劃分的bank組與數(shù)據(jù)間的映射關(guān)系。并為應(yīng)用的數(shù)據(jù)分配符合所述bank組的映射條件的物理頁幀。本發(fā)明以所述應(yīng)用的數(shù)據(jù)為單位劃分使用主存的bank,并確定劃分的bank的映射條件，具體包括將與所述主存的高位片選地址對(duì)主存的bank進(jìn)行劃分，并以所述劃分的bank組號(hào)作為所述數(shù)據(jù)的染色條件。為沖突開銷較大的數(shù)據(jù)分配來自不同bank組的物理頁幀，具體包括當(dāng)所述應(yīng)用申請(qǐng)物理內(nèi)存時(shí)，根據(jù)數(shù)據(jù)間的沖突開銷將數(shù)據(jù)散步到不同的bank組。確保沖突開銷較大的數(shù)據(jù)使用不同的bank資源；判斷新申請(qǐng)的內(nèi)存與已申請(qǐng)內(nèi)存之間的開銷，如果開銷較大，則為新申請(qǐng)的內(nèi)存染色，保證最大的前η個(gè)內(nèi)存區(qū)域被著以不同的顏色；如果開銷較小，則將新的內(nèi)存區(qū)域著以第η個(gè)內(nèi)存區(qū)域的顏色。同時(shí)，本發(fā)明還提供了一種使用大容量高速緩存的內(nèi)存管理裝置，包括bank分組模塊，數(shù)據(jù)染色模塊和內(nèi)存分配模塊，其中Bank分組模塊，用于將bank的概念引入內(nèi)存分配器。通過bank分組建立地址與bank間的關(guān)聯(lián)，使分配器能根據(jù)地址范圍標(biāo)識(shí)不同的bank ；Bank的分組信息輸出給數(shù)據(jù)染色模塊和內(nèi)存分配模塊。 數(shù)據(jù)染色模塊，用于判斷變量間的沖突開銷；變量占用的存儲(chǔ)單元越多，越難在Cache中駐留；當(dāng)處理器同時(shí)操作多個(gè)變量時(shí),使用變量大小的乘積表示變量間的沖突開銷；沖突的開銷越大，則需要將這些數(shù)據(jù)散布到不同的bank組；數(shù)據(jù)的染色結(jié)果輸出給內(nèi)存分配模塊；內(nèi)存分配模塊，用于為被染色的數(shù)據(jù)分配對(duì)應(yīng)的物理頁幀。具體的說，本發(fā)明所述數(shù)據(jù)染色模塊包括靜態(tài)數(shù)據(jù)染色單元和動(dòng)態(tài)數(shù)據(jù)染色單元，其中靜態(tài)數(shù)據(jù)染色單元，在應(yīng)用申請(qǐng)BSS段時(shí)，將符號(hào)表中的變量描述作為染色依據(jù)，并將染色結(jié)果輸出給動(dòng)態(tài)數(shù)據(jù)染色單元；動(dòng)態(tài)數(shù)據(jù)染色單元，用于將操作系統(tǒng)捕獲的內(nèi)存分配請(qǐng)求，將符合染色條件的動(dòng)態(tài)內(nèi)存插入鏈表，根據(jù)用戶的輸入動(dòng)態(tài)調(diào)整染色結(jié)果；而所述內(nèi)存分配模塊包括依次連接的染色數(shù)據(jù)判斷單元和頁幀分配單元，其中染色數(shù)據(jù)判斷單元，用于根據(jù)數(shù)據(jù)類型判斷是否使用染色數(shù)據(jù)專用的內(nèi)存分配接口，根據(jù)染色結(jié)果調(diào)用與bank組對(duì)應(yīng)的內(nèi)存分配接口，向頁幀分配單元輸出物理頁幀分配指令；頁幀分配單元，用于根據(jù)物理頁幀分配指令，分配映射到相應(yīng)bank組中的物理頁幀，或提示分配失敗。本發(fā)明的有益效果是將bank的概念引入內(nèi)存分配器，通過bank分組建立地址與bank間的關(guān)聯(lián)，使分配器能根據(jù)地址范圍標(biāo)識(shí)不同的bank。數(shù)據(jù)劃分為多個(gè)大小不一的數(shù)據(jù)單元，并將數(shù)據(jù)散布到主存的所有bank組中，以提高訪存的并行度和減少行緩存沖突。同時(shí)，本發(fā)明完全工作在操作系統(tǒng)層，利用編譯器和操作系統(tǒng)提供的信息來分析數(shù)據(jù)單元間的沖突開銷，并根據(jù)主存的實(shí)際配置擴(kuò)展內(nèi)存分配器，既不用修改應(yīng)用程序，也不依賴特殊的底層硬件。


下面結(jié)合附圖和實(shí)施例對(duì)本發(fā)明進(jìn)一步說明。圖I為大容量主存中的數(shù)據(jù)分布示意圖；圖2為本發(fā)明對(duì)bank分組及其與bank組和物理地址映射關(guān)系示意圖3是本發(fā)明的標(biāo)識(shí)數(shù)據(jù)染色的過程，包括對(duì)動(dòng)態(tài)/靜態(tài)數(shù)據(jù)染色；圖4是本發(fā)明的內(nèi)存分配流程示意；圖5是本發(fā)明的使用存儲(chǔ)級(jí)并行的內(nèi)存管理裝置實(shí)施例的結(jié)構(gòu)示意圖。
具體實(shí)施例方式現(xiàn)在結(jié)合附圖和優(yōu)選實(shí)施例對(duì)本發(fā)明作進(jìn)一步詳細(xì)的說明。這些附圖均為簡化的示意圖，僅以示意方式說明本發(fā)明的基本結(jié)構(gòu)，因此其僅顯示與本發(fā)明有關(guān)的構(gòu)成。本發(fā)明利用大容量主存含有多個(gè)bank的結(jié)構(gòu)特點(diǎn)，根據(jù)地址中的高位片選地址，將主存劃分為不同的組。同時(shí)，將沖突開銷較大的數(shù)據(jù)映射到不同的bank租，因此減少應(yīng)用執(zhí)行時(shí)的訪存沖突。 本發(fā)明提供的使用大容量高速緩存的內(nèi)存管理方法，其流程如圖2所示，包括如下步驟110 :根據(jù)bank對(duì)地址空間劃分，使內(nèi)存分配器根據(jù)地址標(biāo)識(shí)主存中的不同bank。為了使數(shù)據(jù)的布局分散，需要將bank的概念引入內(nèi)存分配器。通過bank分組建立地址與bank間的關(guān)聯(lián)，使分配器能根據(jù)地址范圍標(biāo)識(shí)不同的bank。如果同時(shí)被訪問的數(shù)據(jù)位于不同的地址范圍，可以避免沖突，從而保證訪存效率。同時(shí)，分組的結(jié)果為后續(xù)的數(shù)據(jù)染色提供依據(jù)，因?yàn)槠錄Q定了數(shù)據(jù)被染色時(shí)的顏色種類。圖3描述了物理地址和bank間的映射關(guān)系。主存中單個(gè)陣列的數(shù)據(jù)寬度有限，為與數(shù)據(jù)總線的位寬匹配，內(nèi)存控制器會(huì)同時(shí)選中一組陣列，同時(shí)被選中的陣列組成bank。此夕卜，DRAM芯片中的陣列數(shù)量有限，通常為8。為擴(kuò)大容量，主存中集成了更多的DRAM芯片，需要聯(lián)合片選地址和bank地址對(duì)bank進(jìn)行選擇。例如，利用高位片選地址將bank劃分為多個(gè)組，組數(shù)為bank_groups = 2ehip-sel-bltsO當(dāng)片選地址為I位，bank被分為2組；片選地址為2位，bank被分為4組。例如,2GB的主存中包含16個(gè)bank,陣列的數(shù)據(jù)寬度為8,并且總線的位寬為64,所有bank被分為兩組，其中地址O IGB對(duì)應(yīng)組0，IGB 2GB對(duì)應(yīng)組I。120:分別對(duì)靜態(tài)數(shù)據(jù)和動(dòng)態(tài)數(shù)據(jù)進(jìn)行染色，根據(jù)各種變量的大小來判斷沖突開銷。本發(fā)明在虛擬存儲(chǔ)系統(tǒng)的基礎(chǔ)上，改進(jìn)對(duì)物理內(nèi)存的管理方法，用于標(biāo)識(shí)沖突開銷較高的數(shù)據(jù)。數(shù)據(jù)染色被用于標(biāo)識(shí)數(shù)據(jù)間的沖突開銷。這包含兩個(gè)方面的原因1)由于Cache的作用，并非所有對(duì)數(shù)據(jù)的操作都會(huì)頻繁訪問主存；2)數(shù)據(jù)由大小不一的多個(gè)變量組成，但bank組數(shù)有限，無法將所有變量都分布到獨(dú)立的bank組中。為盡可能提高訪存并行度，需要確定變量間的沖突開銷，然后將沖突開銷最大的變量散布到不同的bank組中。本發(fā)明利用變量的大小來判斷沖突開銷，因?yàn)樽兞空加玫拇鎯?chǔ)單元越多，越難在Cache中駐留。當(dāng)處理器同時(shí)操作多個(gè)變量時(shí),使用變量大小的乘積表示變量間的沖突開銷。沖突的開銷越大，則需要將這些數(shù)據(jù)散布到不同的bank組。如圖4所示,表示了對(duì)圖2所示的方法中各步驟的具體實(shí)施步驟,包括210 :根據(jù)符號(hào)表的描述和操作系統(tǒng)捕獲的內(nèi)存申請(qǐng)操作，挑選大于last_leVel_cache_size/2 (last_level_cache_size 為最后一級(jí) cache 容量)的變量；
本發(fā)明通過變量的大小來判斷沖突開銷，因?yàn)樽兞空加玫拇鎯?chǔ)單元越多，越難在Cache中駐留。當(dāng)處理器同時(shí)操作多個(gè)變量時(shí),使用變量大小的乘積表示變量間的沖突開銷。沖突的開銷越大，則需要將這些數(shù)據(jù)散布到不同的bank組；220:對(duì)變量的地址進(jìn)行取整操作，起始地址和結(jié)束地址分別以基頁為大小向下、向上取整，避免同一頁幀被染成不同的顏色；然后，以變量的起始地址和結(jié)束地址組成結(jié)點(diǎn)，將結(jié)點(diǎn)置為未被染色狀態(tài)，插入各個(gè)進(jìn)程獨(dú)有的單向鏈表中；230 :按結(jié)點(diǎn)所表示地址范圍的大小對(duì)鏈表遞減排序；240 :鏈表中前bank_groups個(gè)結(jié)點(diǎn)占用的內(nèi)存最多，這些結(jié)點(diǎn)所表示的數(shù)據(jù)之間的沖突開銷也越大。因此，前bank_groups個(gè)結(jié)點(diǎn)的顏色各不相同，剩余結(jié)點(diǎn)與第bank_groups-1個(gè)結(jié)點(diǎn)同色，避免沖突開銷較大的變量被染成相同的顏色；250 :為每個(gè)bank組添加對(duì)應(yīng)的分配函數(shù)。操作系統(tǒng)捕獲到缺頁異常，根據(jù)異常地址查詢進(jìn)程獨(dú)有的鏈表。如果地址無法與鏈表中的結(jié)點(diǎn)匹配，說明是未染色的數(shù)據(jù)，調(diào)用默認(rèn)分配函數(shù)；否則，根據(jù)鏈表記錄的染色結(jié)果，調(diào)用對(duì)應(yīng)的分配函數(shù)。 本發(fā)明通過使用編譯和操作系統(tǒng)提供的信息，將數(shù)據(jù)劃分為多個(gè)數(shù)據(jù)單元，并依據(jù)數(shù)據(jù)單元的大小判斷沖突開銷。在考慮主存實(shí)際配置的情況下，將數(shù)據(jù)散布到不同的bank中，以提高處理器的訪存效率。此外，采用該發(fā)明不需要添加額外的硬件部件，并且能根據(jù)主存的實(shí)際配置和程序的訪存行為對(duì)數(shù)據(jù)進(jìn)行劃分，更具靈活性，實(shí)現(xiàn)簡單。本發(fā)明根據(jù)上述方法實(shí)施例，相應(yīng)地還提供了一種開發(fā)存儲(chǔ)級(jí)并行的內(nèi)存管理裝置實(shí)施例，包括相互連接的bank分組模塊，數(shù)據(jù)染色模塊和內(nèi)存分配模塊，其中Bank分組模塊，用于將bank的概念引入內(nèi)存分配器。通過bank分組建立地址與bank間的關(guān)聯(lián)，使分配器能根據(jù)地址范圍標(biāo)識(shí)不同的bank。Bank的分組信息輸出給數(shù)據(jù)染色模塊和內(nèi)存分配模塊。數(shù)據(jù)染色模塊，用于判斷變量間的沖突開銷。變量占用的存儲(chǔ)單元越多，越難在Cache中駐留。當(dāng)處理器同時(shí)操作多個(gè)變量時(shí),使用變量大小的乘積表示變量間的沖突開銷。沖突的開銷越大，則需要將這些數(shù)據(jù)散布到不同的bank組。數(shù)據(jù)的染色結(jié)果輸出給內(nèi)存分配模塊。內(nèi)存分配模塊，用于為被染色的數(shù)據(jù)分配對(duì)應(yīng)的物理頁幀。在上述裝置實(shí)施例中，數(shù)據(jù)染色模塊包括靜態(tài)數(shù)據(jù)染色單元和動(dòng)態(tài)數(shù)據(jù)染色單元，內(nèi)存分配模塊包括依次連接的染色數(shù)據(jù)判斷單元和頁幀分配單元；其中靜態(tài)數(shù)據(jù)染色單元，在應(yīng)用申請(qǐng)BSS段時(shí)，將符號(hào)表中的變量描述作為染色依據(jù)，并將染色結(jié)果輸出給動(dòng)態(tài)數(shù)據(jù)染色單元；動(dòng)態(tài)數(shù)據(jù)染色單元，用于將操作系統(tǒng)捕獲的內(nèi)存分配請(qǐng)求，將符合染色條件的動(dòng)態(tài)內(nèi)存插入鏈表，根據(jù)用戶的輸入動(dòng)態(tài)調(diào)整染色結(jié)果；染色數(shù)據(jù)判斷單元，用于根據(jù)數(shù)據(jù)類型判斷是否使用染色數(shù)據(jù)專用的內(nèi)存分配接口，根據(jù)染色結(jié)果調(diào)用與bank組對(duì)應(yīng)的內(nèi)存分配接口，向頁幀分配單元輸出物理頁幀分配指令；頁幀分配單元，用于根據(jù)物理頁幀分配指令，分配映射到相應(yīng)bank組中的物理頁楨，或提示分配失敗。以上說明書中描述的只是本發(fā)明的具體實(shí)施方式
，各種舉例說明不對(duì)本發(fā)明的實(shí)質(zhì)內(nèi)容構(gòu)成限制，所屬技術(shù)領(lǐng)域的普通技術(shù)人員在閱讀了說 明書后可以對(duì)以前所述的具體實(shí)施方式
做修改或變形，而不背離發(fā)明的實(shí)質(zhì)和范圍。
權(quán)利要求
1.一種實(shí)現(xiàn)使用存儲(chǔ)級(jí)并行的內(nèi)存管理方法，其特征在于，包括 以所述的bank組為單位分配內(nèi)存，并確定劃分的bank組與數(shù)據(jù)間的映射關(guān)系。
2.按照權(quán)利要求I所述的內(nèi)存管理方法，其特征在于，還包括 為應(yīng)用的數(shù)據(jù)分配符合所述bank組的映射條件的物理頁幀。
3.按照權(quán)利要求I或2所述的內(nèi)存管理方法，其特征在于以所述應(yīng)用的數(shù)據(jù)為單位劃分使用主存的bank，并確定劃分的bank的映射條件，具體包括 將與所述主存的高位片選地址對(duì)主存的bank進(jìn)行劃分，并以所述劃分的bank組號(hào)作為所述數(shù)據(jù)的染色條件。
4.按照權(quán)利要求3所述的內(nèi)存管理方法，其特征在于為沖突開銷較大的數(shù)據(jù)分配來自不同bank組的物理頁巾貞,具體包括 當(dāng)所述為應(yīng)用申請(qǐng)物理內(nèi)存時(shí)，根據(jù)數(shù)據(jù)間的沖突開銷將數(shù)據(jù)染色，在分配物理內(nèi)存時(shí)根據(jù)染色結(jié)果散布數(shù)據(jù)到不同的bank組；確保沖突開銷較大的數(shù)據(jù)使用不同的bank資源； 判斷新申請(qǐng)的內(nèi)存與已申請(qǐng)內(nèi)存之間的開銷，如果開銷較大，則為新申請(qǐng)的內(nèi)存染色，保證最大的前η個(gè)內(nèi)存區(qū)域被著以不同的顏色；如果開銷較小，則將新的內(nèi)存區(qū)域著以第η個(gè)內(nèi)存區(qū)域的顏色。
5.一種使用大容量高速緩存的內(nèi)存管理裝置，其特征在于包括bank分組模塊，數(shù)據(jù)染色模塊和內(nèi)存分配模塊，其中 Bank分組模塊,用于將bank的概念引入內(nèi)存分配器。通過bank分組建立地址與bank間的關(guān)聯(lián)，使分配器能根據(jù)地址范圍標(biāo)識(shí)不同的bank ；Bank的分組信息輸出給數(shù)據(jù)染色模塊和內(nèi)存分配模塊。 數(shù)據(jù)染色模塊，用于判斷變量間的沖突開銷；變量占用的存儲(chǔ)單元越多，越難在Cache中駐留；當(dāng)處理器同時(shí)操作多個(gè)變量時(shí),使用變量大小的乘積表示變量間的沖突開銷；沖突的開銷越大，則需要將這些數(shù)據(jù)散布到不同的bank組；數(shù)據(jù)的染色結(jié)果輸出給內(nèi)存分配模塊； 內(nèi)存分配模塊，用于為被染色的數(shù)據(jù)分配對(duì)應(yīng)的物理頁幀。
6.按照權(quán)利要求5所述的內(nèi)存管理裝置，其特征在于所述數(shù)據(jù)染色模塊包括靜態(tài)數(shù)據(jù)染色單元和動(dòng)態(tài)數(shù)據(jù)染色單元，其中 靜態(tài)數(shù)據(jù)染色單元，在應(yīng)用申請(qǐng)BSS段時(shí)，將符號(hào)表中的變量描述作為染色依據(jù)，并將染色結(jié)果輸出給動(dòng)態(tài)數(shù)據(jù)染色單元； 動(dòng)態(tài)數(shù)據(jù)染色單元，用于將操作系統(tǒng)捕獲的內(nèi)存分配請(qǐng)求，將符合染色條件的動(dòng)態(tài)內(nèi)存插入鏈表，根據(jù)用戶的輸入動(dòng)態(tài)調(diào)整染色結(jié)果。
7.按照權(quán)利要求5所述的內(nèi)存管理裝置，其特征在于，所述內(nèi)存分配模塊包括依次連接的染色數(shù)據(jù)判斷單元和頁幀分配單元，其中 染色數(shù)據(jù)判斷單元，用于根據(jù)數(shù)據(jù)類型判斷是否使用染色數(shù)據(jù)專用的內(nèi)存分配接口，根據(jù)染色結(jié)果調(diào)用與bank組對(duì)應(yīng)的內(nèi)存分配接口，向頁幀分配單元輸出物理頁幀分配指令； 頁幀分配單元，用于根據(jù)物理頁幀分配指令，分配映射到相應(yīng)bank組中的物理頁幀，或提示分配失敗。
全文摘要
本發(fā)明涉及一種實(shí)現(xiàn)使用存儲(chǔ)級(jí)并行的內(nèi)存管理方法及裝置，將bank的概念引入內(nèi)存分配器，通過bank分組建立地址與bank間的關(guān)聯(lián)，使分配器能根據(jù)地址范圍標(biāo)識(shí)不同的bank。數(shù)據(jù)劃分為多個(gè)大小不一的數(shù)據(jù)單元，并將數(shù)據(jù)散布到主存的所有bank組中，以提高訪存的并行度和減少行緩存沖突。同時(shí)，本發(fā)明完全工作在操作系統(tǒng)層，利用編譯器和操作系統(tǒng)提供的信息來分析數(shù)據(jù)單元間的沖突開銷，并根據(jù)主存的實(shí)際配置擴(kuò)展內(nèi)存分配器，既不用修改應(yīng)用程序，也不依賴特殊的底層硬件。
文檔編號(hào)G06F12/06GK102662853SQ201210078070
公開日2012年9月12日 申請(qǐng)日期2012年3月22日 優(yōu)先權(quán)日2012年3月22日
發(fā)明者王晶, 程旭, 管雪濤, 鐘祺 申請(qǐng)人:北京北大眾志微系統(tǒng)科技有限責(zé)任公司