對(duì)發(fā)向目錄的緩存回收通知的聚合的制作方法
【專利說(shuō)明】對(duì)發(fā)向目錄的緩存回收通知的聚合
【背景技術(shù)】
[0001] 除非在本申請(qǐng)中另外表明，否則本部分中所述的材料對(duì)于本申請(qǐng)中的權(quán)利要求來(lái) 說(shuō)不是現(xiàn)有技術(shù)并且不因包括在本部分中而被承認(rèn)是現(xiàn)有技術(shù)。
[0002] 許多計(jì)算裝置利用多核芯片來(lái)執(zhí)行由操作系統(tǒng)和/或應(yīng)用程序提供的各種指令。 隨著技術(shù)繼續(xù)擴(kuò)大規(guī)模，可集成在單個(gè)多核芯片上的處理器核的數(shù)量繼續(xù)遵循摩爾定律所 描述的趨勢(shì)。多核技術(shù)已經(jīng)進(jìn)入了在由于泄漏電流而引發(fā)的靜態(tài)功耗不呈指數(shù)地增大的情 況下閾值電壓不再可以按比例減小的時(shí)代。這導(dǎo)致被稱為"功率墻"、"效用墻"或"暗硅"的 現(xiàn)象，在該現(xiàn)象中，芯片的增大部分不能被以全頻率供電或者根本不能被上電。改進(jìn)未來(lái)的 多核芯片中的性能的方式因此是改進(jìn)能量效率。
[0003] 概述
[0004] 本申請(qǐng)中所述的技術(shù)一般地涉及對(duì)發(fā)向目錄的緩存回收通知的聚合。所述技術(shù)可 以以許多方式體現(xiàn)，包括但不限于系統(tǒng)、方法、裝置和計(jì)算機(jī)可讀介質(zhì)。
[0005] 本申請(qǐng)描述了對(duì)發(fā)向多核芯片中目錄的緩存回收通知進(jìn)行聚合的一些示例方法。 示例方法可更新聚合表以反映從至少一個(gè)緩存存儲(chǔ)器的多個(gè)塊地址對(duì)多個(gè)塊的回收。示例 方法可生成聚合消息，該聚合消息被配置為指定在聚合表中被反映的所述多個(gè)塊的回收。 示例方法可將聚合消息發(fā)送到目錄。目錄可被配置為：解析聚合消息，并更新多個(gè)目錄條目 以反映在聚合消息中被指定的從緩存存儲(chǔ)器的回收。
[0006] 本申請(qǐng)描述了包括多個(gè)核的一些示例性多核芯片。至少一個(gè)緩存存儲(chǔ)器可耦合到 所述多個(gè)核。目錄和目錄控制器可耦合到目錄。聚合表可包括多個(gè)條目。控制邏輯單元可 被配置為更新聚合表以反映從緩存存儲(chǔ)器的多個(gè)塊地址對(duì)多個(gè)塊的回收?？刂七壿媶卧€ 可被配置為生成聚合消息，其中該消息指定在聚合表中被反映的所述多個(gè)塊的回收?？刂?邏輯單元可被進(jìn)一步配置為將聚合消息發(fā)送到目錄控制器。目錄控制器可被配置為：解析 聚合消息，并更新目錄中的多個(gè)目錄條目以反映在聚合消息中被指定的從所述至少一個(gè)緩 存存儲(chǔ)器的回收。
[0007] 本申請(qǐng)描述了 一些示例性計(jì)算機(jī)可讀介質(zhì)，這些示例性計(jì)算機(jī)可讀介質(zhì)可包括存 儲(chǔ)于其上的計(jì)算機(jī)可執(zhí)行指令，當(dāng)被計(jì)算機(jī)執(zhí)行所述計(jì)算機(jī)可執(zhí)行指令時(shí)使該計(jì)算機(jī)執(zhí)行 一個(gè)或多個(gè)操作。一些示例操作可包括檢測(cè)從多核芯片中的緩存存儲(chǔ)器的第一多個(gè)順序塊 地址對(duì)第一多個(gè)干凈塊的第一回收。示例操作可包括檢測(cè)從緩存存儲(chǔ)器的第二多個(gè)順序塊 地址對(duì)第二多個(gè)干凈塊的第二回收。示例操作可包括更新多核芯片內(nèi)的聚合表中的第一條 目以反映所述第一多個(gè)干凈塊的第一回收。示例操作可包括更新多核芯片內(nèi)的聚合表中的 第二條目以反映所述第二多個(gè)干凈塊的第二回收。第一條目可對(duì)應(yīng)于所述第一多個(gè)順序塊 地址。第二條目可對(duì)應(yīng)于所述第二多個(gè)順序塊地址?？刂七壿媶卧€可被配置為：生成第 一聚合消息，該第一聚合消息被配置為指定在聚合表的第一條目中被反映的所述第一多個(gè) 干凈塊的第一回收；生成第二聚合消息，該第二聚合消息被配置為指定在聚合表的第二條 目中被反映的所述第二多個(gè)干凈塊的第二回收?？刂七壿媶卧€可被配置為將第一聚合消 息和第二聚合消息發(fā)送到被耦合于多核芯片中的目錄的目錄控制器。目錄控制器可被配置 為：解析第一聚合消息和第二聚合消息，更新目錄中的第一多個(gè)目錄條目以反映在第一聚 合消息中被指定的從緩存存儲(chǔ)器的第一回收，并更新目錄中的第二多個(gè)目錄條目以反映在 第二聚合消息中被指定的從緩存存儲(chǔ)器的第二回收。
[0008] 本申請(qǐng)描述了處理緩存回收的一些示例方法。示例方法可確定塊將被從緩存存儲(chǔ) 器回收。示例方法可確定該塊是否是臟塊。示例方法可響應(yīng)于確定該塊是臟塊，向緩存一 致性目錄通知該塊被作為臟塊回收。示例方法可響應(yīng)于確定該塊不是臟塊，確定聚合表是 否包含與該塊的塊地址相應(yīng)的條目。示例方法可響應(yīng)于確定聚合表不包含與該塊的塊地址 相應(yīng)的條目，在聚合表中創(chuàng)建與該塊的塊地址相應(yīng)的條目，并更新該條目以反映從緩存存 儲(chǔ)器對(duì)作為干凈塊的該塊的回收。示例方法可響應(yīng)于確定聚合表不包含與該塊的塊地址相 應(yīng)的條目，更新該條目以反映從緩存存儲(chǔ)器對(duì)作為干凈塊的該塊的回收。
[0009] 前述概要僅僅是說(shuō)明性的，而并不意圖以任何方式是限制性的。除了上述說(shuō)明性 的方面、實(shí)施例和特征，另外的方面、實(shí)施例和特征將通過(guò)參考附圖和下面的詳細(xì)描述而變 得顯而易見(jiàn)。
【附圖說(shuō)明】
[0010] 通過(guò)下面的詳細(xì)描述、附圖和所附權(quán)利要求，本公開(kāi)的前述和其它特征將變得更 充分地顯而易見(jiàn)。應(yīng)理解的是，這些附圖僅僅描繪了根據(jù)本公開(kāi)的幾個(gè)實(shí)施例，因此，這些 附圖不應(yīng)被認(rèn)為是限制本公開(kāi)的范圍，下面將通過(guò)使用附圖來(lái)更具體地、更詳細(xì)地描述本 公開(kāi)，在附圖中：
[0011] 圖1是闡明說(shuō)明性多核芯片的各方面的功能框圖；
[0012] 圖2是說(shuō)明傳統(tǒng)目錄協(xié)議中的每塊回收通知消息、位圖格式的聚合回收通知消息 和指針格式的聚合回收通知消息的大小之間的示例比較的表；
[0013] 圖3是說(shuō)明多核芯片的多核芯片節(jié)點(diǎn)的各方面的功能框圖，在該多核芯片中，消 息聚合單元被用來(lái)將回收通知聚合到目錄；
[0014] 圖4是說(shuō)明適于將緩存回收通知聚合到目錄的示例過(guò)程的流程圖；
[0015] 圖5是說(shuō)明適于處理緩存回收的示例過(guò)程的流程圖；
[0016] 圖6是說(shuō)明適于生成聚合回收通知消息的示例過(guò)程的流程圖；
[0017] 圖7是說(shuō)明適于選擇聚合回收通知消息的示例過(guò)程的流程圖；
[0018] 圖8是說(shuō)明利用傳統(tǒng)目錄協(xié)議的流量、利用位圖格式的聚合的流量和利用指針格 式的聚合的流量的示例比較的曲線圖；
[0019] 圖9是說(shuō)明種群計(jì)數(shù)函數(shù)的示例采樣的示圖；
[0020] 圖10是說(shuō)明用于確定是使用位圖格式、還是使用指針格式的采樣計(jì)算的表；
[0021] 圖11是說(shuō)明用于確定哪個(gè)聚合粒度單元在特定情況下最節(jié)省流量的采樣計(jì)算的 表；
[0022] 圖12是說(shuō)明適于確定聚合粒度單元的示例過(guò)程的流程圖；
[0023] 圖13是說(shuō)明用于示例計(jì)算裝置的計(jì)算機(jī)硬件架構(gòu)的框圖；以及
[0024] 圖14是說(shuō)明包括用于在計(jì)算裝置上對(duì)計(jì)算機(jī)程序執(zhí)行計(jì)算機(jī)過(guò)程的計(jì)算機(jī)程序 廣品的不意圖；
[0025] 所有附圖都是依照本申請(qǐng)所述的至少一些實(shí)施例來(lái)布置的。
【具體實(shí)施方式】
[0026] 在本詳細(xì)描述中，參考了附圖，所述附圖形成本詳細(xì)描述的一部分。除非上下文另 外指示，否則在附圖中，相似的符號(hào)通常標(biāo)識(shí)相似的部件。在詳細(xì)描述和附圖中描述的說(shuō)明 性實(shí)施例并不意味著是限制性的。在不脫離本申請(qǐng)所提供的主題的精神或范圍的情況下， 可以利用其它實(shí)施例，以及可以進(jìn)行其它改變。將容易理解的是，如在本申請(qǐng)中一般地描述 的和在圖中示出的那樣，本公開(kāi)的各方面可以以廣泛多樣的不同配置被布置、替代、組合、 分割和設(shè)計(jì)，所有這些在本申請(qǐng)中都被明確地構(gòu)想。
[0027] 多核芯片的操作中的功耗的主源之一是緩存一致性協(xié)議的實(shí)施。緩存一致性協(xié)議 可利用廣播和偵聽(tīng)協(xié)議，或者可利用目錄協(xié)議。隨著核數(shù)量增加，就功耗而言，這兩種協(xié)議 都可超線性地?cái)U(kuò)大規(guī)模。廣播協(xié)議可對(duì)由任何核發(fā)出的每個(gè)請(qǐng)求利用或需要偵聽(tīng)和標(biāo)簽檢 查。結(jié)果，用于廣播協(xié)議的功耗可隨著核數(shù)量以平方方式增大。另一方面，目錄協(xié)議可大幅 減少流量，這是因?yàn)槟夸泤f(xié)議不依賴于廣播。目錄協(xié)議中的流量因此可隨著核數(shù)量的增加 而保持相對(duì)線性。然而，隨著網(wǎng)絡(luò)大小增大，目錄協(xié)議流量可能仍必須行進(jìn)較長(zhǎng)的距離，并 且目錄大小開(kāi)銷可隨著核數(shù)量而以平方方式增加。
[0028] 實(shí)施緩存一致性協(xié)議所消耗的功率可能消耗多核芯片的總功率預(yù)算的大部分。不 幸的是，有限的或預(yù)定的功率預(yù)算可能暗示：用于管理數(shù)據(jù)移動(dòng)和數(shù)據(jù)一致性的功率越大， 越少的功率可供用于在核中進(jìn)行計(jì)算。因此，改進(jìn)多核芯片中的性能可取決于降低用于非 計(jì)算活動(dòng)的功耗。一致性協(xié)議調(diào)用和流量因此應(yīng)保持最小以降低功耗。
[0029] 傳統(tǒng)的基于目錄的緩存一致性協(xié)議的問(wèn)題之一是目錄中的陳舊信息。當(dāng)一個(gè)或多 個(gè)目錄條目不具有關(guān)于哪個(gè)（哪些）緩存保存特定存儲(chǔ)器塊的副本的最新信息時(shí)，目錄中 的信息可能被認(rèn)為是陳舊的。更具體地說(shuō)，目錄的共享矢量場(chǎng)可指示存儲(chǔ)器塊被緩存存儲(chǔ)， 即使當(dāng)該緩存已經(jīng)回收了該存儲(chǔ)器塊時(shí)。
[0030] 當(dāng)干凈的（例如，未經(jīng)修改的）緩存塊被默默地從緩存回收（例如，沒(méi)有通知目 錄）時(shí)，可引起陳舊信息的一些問(wèn)題。因?yàn)閺木彺鎱^(qū)回收的大多數(shù)塊是干凈的，所以不能通 過(guò)向目錄通知每個(gè)干凈塊回收來(lái)修復(fù)陳舊信息的問(wèn)題。也就是說(shuō)，大量通知可能導(dǎo)致流量 大量增加。因此，在向目錄通知每個(gè)干凈塊回收和具有可能基本上很難調(diào)解的陳舊目錄信 息之間可能存在重要權(quán)衡。
[0031] 本公開(kāi)尤其是針對(duì)用于向目錄通知干凈塊回收、但是大幅降低通知的流量成本的 技術(shù)進(jìn)行一般性的描寫(xiě)。所述技術(shù)可以以許多方式體現(xiàn)，包括但不限于系統(tǒng)、方法、裝置和 計(jì)算機(jī)可讀介質(zhì)。
[0032] 簡(jiǎn)單地說(shuō)，本申請(qǐng)中所述的技術(shù)一般地涉及對(duì)目錄的緩存回收通知的聚合。一些 示例技術(shù)可被用來(lái)更新聚合表以從至少一個(gè)緩存存儲(chǔ)器的多個(gè)塊地址反映對(duì)多個(gè)塊的回 收?？缮删酆舷?，其中該消息指定在聚合表中被反映的所述多個(gè)塊的回收?？蓪⒕酆?消息發(fā)送到目錄。目錄可解析聚合消息，并更新多個(gè)目錄條目以反映在聚合消息中被指定 的從緩存存儲(chǔ)器的回收。
[0033] 不是通過(guò)單獨(dú)的消息向目錄控制器通知緩存存儲(chǔ)器中的每個(gè)干凈塊回收，而是本 申請(qǐng)中所述的各種技術(shù)可被配置為產(chǎn)生將多個(gè)干凈塊回收聚合到單個(gè)消息中的聚合消息。 具體地說(shuō)，緩存存儲(chǔ)器可耦合到消息聚合單元。消息聚合單元可包括控制邏輯單元和聚合 表。聚合表可被配置為跟蹤干凈塊回收。控制邏輯單元可被配置為產(chǎn)生諸如位圖格式或指 針格式的任何適當(dāng)格式的聚合消息。控制邏輯單元還可被配置為將聚合消息發(fā)送到目錄控 制器。目錄控制器可被配置為解析聚合消息并更新目錄以反映從聚合消息解析的干凈塊回 收。本申請(qǐng)中將更詳細(xì)地描述用于聚合對(duì)目錄的緩存回收通知的各種技術(shù)的這些和其它方 面。
[0034] 圖1是說(shuō)明根據(jù)本申請(qǐng)中所呈現(xiàn)的至少一些實(shí)施例布置的說(shuō)明性多核芯片102的 各方面的功能框圖。多核芯片102可包括多個(gè)處理器核104A-104C (在下文中，有時(shí)共稱為 或統(tǒng)稱為"處理器核104"）。多核芯片102還可包括多個(gè)緩存存儲(chǔ)器106A-106C(在下文 中，有時(shí)共稱為或統(tǒng)稱為"緩存存儲(chǔ)器106")。緩存存儲(chǔ)器106中的每一個(gè)均可與處理器核 104中的一個(gè)或多個(gè)相關(guān)聯(lián)。
[0035] 如圖1所示，緩存存儲(chǔ)器106中的第一緩存存儲(chǔ)器106A可與處理器核104的第一 處理器核104A相關(guān)聯(lián)；緩存存儲(chǔ)器106的第二緩存存儲(chǔ)器106B可與處理器核104的第二 處理器核104B相關(guān)聯(lián)；并且，緩存存儲(chǔ)器106的第三緩存存儲(chǔ)器106C可與處理器核104的 第三處理器核104C相關(guān)聯(lián)。然而，在一些實(shí)施例中，緩存存儲(chǔ)器106中的一個(gè)或多個(gè)可與 處理器核104中的兩個(gè)或更多個(gè)相關(guān)聯(lián)，而在其它實(shí)施例中，一個(gè)或多個(gè)處理器核104可與 兩個(gè)或更多個(gè)緩存存儲(chǔ)器106相關(guān)聯(lián)。例如，第一緩存存儲(chǔ)器106A可與第一處理器核104A 和第二處理器核104B都相關(guān)聯(lián)。還構(gòu)想多核芯片102的處理器核104和緩存存儲(chǔ)器106 之間的其它配置。
[0036] 處理器核104和緩存存儲(chǔ)器106可與一個(gè)或多個(gè)多核芯片節(jié)點(diǎn)邏輯地或物理地相 關(guān)聯(lián)。如圖1所不，第一處理器核104A和第一緩存存儲(chǔ)器106A可被包括在第一多核芯片 節(jié)點(diǎn)107A中；第二處理器核104B和第二緩存存儲(chǔ)器106B可被包括在第二多核芯片節(jié)點(diǎn) 107B中；第三處理器核104C和第三緩存存儲(chǔ)器106C可被包括在第三多核芯片節(jié)點(diǎn)107C 中。緩存存儲(chǔ)器106A-106C在下文中有時(shí)可共稱為或統(tǒng)稱為"緩存存儲(chǔ)器106"。多核芯片 節(jié)點(diǎn)107A-107C在下文中有時(shí)可共稱為或統(tǒng)稱為"多核芯片節(jié)點(diǎn)107"。
[0037] 緩存存儲(chǔ)器106中的每一個(gè)均可被配置為存儲(chǔ)一個(gè)或多個(gè)緩存條目。緩存存儲(chǔ)器 106中的每個(gè)緩存條目可根據(jù)數(shù)據(jù)結(jié)構(gòu)來(lái)組織。數(shù)據(jù)結(jié)構(gòu)可包括標(biāo)簽字段、狀態(tài)字段和數(shù)據(jù) 字段。標(biāo)簽字段可包括標(biāo)識(shí)特定條目對(duì)應(yīng)于哪個(gè)存儲(chǔ)器塊的標(biāo)簽項(xiàng)。狀態(tài)字段可包括標(biāo)識(shí) 在相應(yīng)的標(biāo)簽字段中被標(biāo)識(shí)的存儲(chǔ)器塊的一致性狀態(tài)的一致性狀態(tài)項(xiàng)。數(shù)據(jù)字段可包括與 在相應(yīng)的標(biāo)簽字段中被標(biāo)識(shí)的標(biāo)簽值相關(guān)聯(lián)的數(shù)據(jù)。
[0038] 如圖1所示，第一緩存存儲(chǔ)器106A被配置為存儲(chǔ)第一標(biāo)簽字段108A、第一狀態(tài)字 段110A和第一數(shù)據(jù)字段112A中的值；第二緩存存儲(chǔ)器106B被配置為存儲(chǔ)第二標(biāo)簽字段 108B、第二狀態(tài)字段110B和第二數(shù)據(jù)字段112B中的值；第三緩存存儲(chǔ)器106C被配置為存 儲(chǔ)第三標(biāo)簽字段108C、第三狀態(tài)字段110C和第三數(shù)據(jù)字段112C中的值。應(yīng)理解，緩存存儲(chǔ) 器106中的每一個(gè)均可包括任何數(shù)量的標(biāo)簽字段、狀態(tài)字段或數(shù)據(jù)字段。
[0039] 多核芯片102還可包括互連網(wǎng)絡(luò)114或總線，其用作處理器核104和緩存存儲(chǔ)器 106可通過(guò)其與目錄控制器118進(jìn)行通信的路徑。目錄控制器118可適于訪問(wèn)緩存一致性 目錄120 (在下文中被稱為"目錄120")。目錄120可被實(shí)施為單個(gè)目錄或者被分布在多核 芯片102中的多個(gè)目錄上。在一些實(shí)施例中，目錄120可在多核芯片102上的操作地耦合 到目錄控制器118的存儲(chǔ)器部件中被提供。在一些實(shí)施例中，目錄120可在作為目錄控制 器118的一部分的存儲(chǔ)位置上被實(shí)施。在一些實(shí)施例中，目錄控制器118可以是存儲(chǔ)器控 制器。在一些其它的實(shí)施例中，目錄控制器118可以是適