存儲系統(tǒng)及標記存儲器的制造方法
【技術(shù)領(lǐng)域】
[0001]本發(fā)明有關(guān)于存取緩沖數(shù)據(jù)(例如，高速緩存數(shù)據(jù))，特別是有關(guān)于具有與相同數(shù)據(jù)存儲線(例如，相同的高速緩存線)相關(guān)聯(lián)、用于數(shù)據(jù)回收的多個標記條目的存儲系統(tǒng)以及相關(guān)的標記存儲器。
【背景技術(shù)】
[0002]在現(xiàn)有的存儲系統(tǒng)中，當與處理數(shù)據(jù)的時間相比時，處理器存取數(shù)據(jù)(例如，指令)時間很長。因此，在處理器的輸入端形成了瓶頸。高速緩沖存儲器有利于減少處理器存取信息的時間。當高速緩沖存儲器包括請求的信息時，該事務處理(transact1n)被認為是高速緩存命中(cache hit)。當高速緩沖存儲器不包括請求的信息時，該事務處理被認為是高速緩存缺失(cache miss)。在通常情況下，命中率為高速緩沖存儲器的關(guān)鍵性能指標。如何提高命中率成為本領(lǐng)域的一個問題。
[0003]高速緩沖存儲器可以為全相聯(lián)高速緩存(fully associative cache)、直接映射高速緩存(direct-mapped cache)、組相聯(lián)高速緩存(set-associative cache)。組相聯(lián)高速緩存是全相聯(lián)高速緩存和直接映射高速緩存之間的混合形式，并且組相聯(lián)高速緩存的硬件復雜性/延遲被認為是介于全相聯(lián)高速緩存和直接映射高速緩存的硬件復雜性/延遲之間?，F(xiàn)有的設(shè)計可能會嘗試增加組路來提高組相聯(lián)高速緩存的命中率。然而，增加組路的益處有限。舉例來說，當組路數(shù)由8變?yōu)?6時，命中率將不會提高太多，但是門數(shù)和復雜性將會增加。除增加組路之外，現(xiàn)有的設(shè)計還可以修改采用的替換規(guī)則(replacement rule),但是此方法也使提高命中率受到限制。

【發(fā)明內(nèi)容】

[0004]有鑒于此，本發(fā)明提出一種存儲系統(tǒng)及標記存儲器。
[0005]依據(jù)本發(fā)明第一實施方式，提供一種存儲系統(tǒng)。該存儲系統(tǒng)包括:數(shù)據(jù)存儲器；標記存儲器，包括:多個第一標記條目，該多個第一標記條目中的每一個與分配于該數(shù)據(jù)存儲器中的多個數(shù)據(jù)存儲線中的一個數(shù)據(jù)存儲線相關(guān)聯(lián)；以及多個第二標記條目；以及控制器，耦接于該數(shù)據(jù)存儲器和該標記存儲器之間，該控制器將在該標記存儲器中的特定的第二標記條目設(shè)置為與特定的數(shù)據(jù)存儲線相關(guān)聯(lián)，該特定的數(shù)據(jù)存儲線與在該標記存儲器中的特定的第一標記條目相關(guān)聯(lián)。
[0006]依據(jù)本發(fā)明第二實施方式，提供一種標記存儲器。該標記存儲器包括:多個第一標記條目，該多個第一標記條目中的每一個與分配于該數(shù)據(jù)存儲器中的多個數(shù)據(jù)存儲線中的一個數(shù)據(jù)存儲線相關(guān)聯(lián)；以及多個第二標記條目；其中，將特定的第二標記條目設(shè)置為與特定的數(shù)據(jù)存儲線相關(guān)聯(lián)；該特定的數(shù)據(jù)存儲線與特定的第一標記條目相關(guān)聯(lián)。
[0007]本發(fā)明所提出的存儲系統(tǒng)及標記存儲器，可以增加命中率并降低訪存流量。
【附圖說明】
[0008]圖1為根據(jù)本發(fā)明實施方式的存儲系統(tǒng)的示意圖。
[0009]圖2為圖1所示的存儲系統(tǒng)中用于偵測高速緩存命中/缺失的決策邏輯的實施方式的示意圖。
[0010]圖3為通過圖1所示的存儲系統(tǒng)執(zhí)行讀操作的流程圖。
[0011]圖4為根據(jù)本發(fā)明實施方式的在標記存儲器中的標記條目的第一布置的示意圖。
[0012]圖5為根據(jù)本發(fā)明實施方式的在標記存儲器中的標記條目的第二布置的示意圖。
【具體實施方式】
[0013]在說明書及權(quán)利要求書當中使用了某些詞匯來指稱特定的元件。本領(lǐng)域技術(shù)人員應當理解，電子設(shè)備制造商可能會用不同的名詞來稱呼同樣的元件。本說明書及權(quán)利要求書并不以名稱的差異作為區(qū)分元件的方式，而是以元件在功能上的差異作為區(qū)分的準則。在通篇說明書及權(quán)利要求書當中所提及的“包含”為開放式的用語，故應解釋成“包含但不限定于”。另外，“耦接”一詞在此為包含任何直接及間接的電氣連接手段。因此，若文中描述第一裝置耦接于第二裝置，則代表所述第一裝置可直接電氣連接于所述第二裝置，或通過其他裝置或連接手段間接地電氣連接至所述第二裝置。
[0014]本發(fā)明的概念為使用備用(spare)標記條目(例如，回收標記)以與數(shù)據(jù)存儲線(例如，高速緩存線)相關(guān)聯(lián)，其中該數(shù)據(jù)存儲線與通過用于高速緩存缺失事件的替換規(guī)則選擇出的標記條目相關(guān)聯(lián)(例如，主標記)。因此，在通過由另一個數(shù)據(jù)存儲器(例如，主存儲器或下一級高速緩存)提供的抓取數(shù)據(jù)來更新數(shù)據(jù)存儲線之前，通過將備用標記條目和另一個傳入地址(incoming address)進行比較而可能發(fā)生高速緩存命中事件，以及抓取在數(shù)據(jù)存儲線中當前維持的原始數(shù)據(jù)，然后返回處理器以響應高速緩存命中事件。這樣，存儲于數(shù)據(jù)存儲線中的原始數(shù)據(jù)在被淘汰(phased out)之前回收，這提高了命中率并降低了訪存流量(memory traffic)。以下將詳細描述。
[0015]請參考圖1，圖1為根據(jù)本發(fā)明實施方式的存儲系統(tǒng)的示意圖。存儲系統(tǒng)100為高速緩存存儲器(例如，具有較快數(shù)據(jù)存取速度的存儲器)，該高速緩存存儲器實現(xiàn)于在處理器和存儲器(例如，具有較慢數(shù)據(jù)存取速度的存儲器)之間請求快速信息處理的圖形系統(tǒng)或其他任意應用中。在此實施方式中，存儲系統(tǒng)100包括數(shù)據(jù)存儲器102、標記存儲器104、以及控制器106。數(shù)據(jù)存儲器102包括多個數(shù)據(jù)存儲線112。舉例來說，數(shù)據(jù)存儲器102使用靜態(tài)隨機存儲器(static random access memory, SRAM)來實現(xiàn)以用于存儲高速緩存數(shù)據(jù)，以及數(shù)據(jù)存儲線112中的每一個為具有指定的高速緩存線尺寸的高速緩存線。標記存儲器104為標記隨機存儲器，并具有存儲于其中的多個第一標記條目114和多個第二標記條目116。根據(jù)本發(fā)明的一個實施方式，數(shù)據(jù)存儲器102和標記存儲器104可以分配于相同存儲器的不同存儲空間中。根據(jù)本發(fā)明的另一個實施方式，數(shù)據(jù)存儲器102和標記存儲器104可以分配于不同的存儲器中。控制器106設(shè)置在標記存儲器104中的特定的第二標記條目116與特定的數(shù)據(jù)存儲線112相關(guān)聯(lián)，特定的數(shù)據(jù)存儲線112與在標記存儲器104中的特定的第一標記條目114相關(guān)聯(lián)。
[0016]為簡潔起見，高速緩沖存儲器作為存儲系統(tǒng)100的舉例來描述本發(fā)明的技術(shù)特征。因此，在下文中，術(shù)語“數(shù)據(jù)存儲線”與“高速緩存線”是可互換的。然而，提出的回收標記設(shè)計并非僅限于高速緩存應用。使用提出的回收標記設(shè)計以允許單一的數(shù)據(jù)存儲線關(guān)聯(lián)多個標記條目的任意數(shù)據(jù)存儲器/緩沖器均落入本發(fā)明的保護范圍。
[0017]在此實施方式中，第一標記條目114中的每一個作為與分配于數(shù)據(jù)存儲器102中的一個數(shù)據(jù)存儲線112(例如，高速緩存線)相關(guān)聯(lián)的主標記。就第二標記條目116而言，每一個第二標記條目116可用于作為備用標記(例如，回收標記)。舉例來說，當數(shù)據(jù)存儲線(例如，高速緩存線)的尺寸被控制器106編程而具有第一值時，每一個第二標記條目116作為與分配于數(shù)據(jù)存儲器102中的一個數(shù)據(jù)存儲線112 (例如，高速緩存線)相關(guān)聯(lián)的主標記(即，第一標記條目114和第二標記條目116分別為與分配于數(shù)據(jù)存儲器102中的一個數(shù)據(jù)存儲線112相關(guān)聯(lián))；以及當數(shù)據(jù)存儲線(例如，高速緩存線)的尺寸被控制器106編程而具有大于第一值的第二值時，每一個第二標記條目116作為備用標記(例如，回收標記)。換句話說，第二標記條目116作為主標記或備用標記取決于由控制器106編程的數(shù)據(jù)存儲器102的配置。然而，這僅用于解釋說明的目的，而并非用于限制本發(fā)明。根據(jù)本發(fā)明的另一個實施方式，每一個第二標記條目116可僅作為專用的回收標記。此實施方式也落入本發(fā)明的保護范圍。當?shù)诙擞洍l目116作為回收標記時，第二標記條目116可以被視為第一標記條目114的復制；并且當需要時，第二標記條目116能用于存儲第一標記條目114的標記內(nèi)容。
[0018]第一標記條目114和第二標記條目116中的每一個具有多個狀態(tài)位(例如，有效位122 (在圖式中用V表示)、修改標志位(dirty bit) 124 (在圖式中用D表示)、以及中斷位126 (在圖式中用P表示))以及標記域128。有效位122記錄與這個標記條目相關(guān)聯(lián)的數(shù)據(jù)存儲線112 (例如，高速緩存線)是否包括有效數(shù)據(jù)。每一個標記條目的有效位122被初始設(shè)置為指示無效狀態(tài)(即，有效位122=0)。當從數(shù)據(jù)存儲器(例如，主存儲器或下一級高速緩存)140中抓取的數(shù)據(jù)被存入數(shù)據(jù)存儲線112 (例如，高速緩存線)時，與這個數(shù)據(jù)存儲線112 (例如，高速緩存線)相關(guān)聯(lián)的對應的標記條目的有效位122被設(shè)置為指示有效狀態(tài)(即，有效位122=1)。修改標志位124記錄與這個標記條目相關(guān)聯(lián)的高速緩存數(shù)據(jù)是否應該被寫回主存儲器。請注意，修改標志位124僅由寫回高速緩存使用。當存儲系統(tǒng)100為寫通高速緩存時，省略每個標記條目中的修改標志位124。中斷位126記錄由于高