Posts Issued on November 20, 2026

posted by sakurai on November 20, 2026 #1155

主記憶とIキャッシュ(Step 7前半)

Step 7はキャッシュです。全体を一度に入れず、まず主記憶のモデルと命令キャッシュ(Iキャッシュ)を入れました。データ側はまだキャッシュせず、ロードもストアも毎回主記憶に行きます。データキャッシュは後半で入れます。

やったこと

  • 主記憶:これまでの命令メモリとデータメモリ(どちらも1サイクルで答えるBRAM)をやめ、1つの主記憶にまとめました。主記憶はテストベンチ側のモデルです。要求を1つずつ処理し、受け付けてから10サイクル目に最初のワード、以後1サイクルに1ワードを読み書きします。DRAMのバースト転送のイメージで、1ワードでも1ライン(4ワード)でも、まず10サイクルかかります。
  • バス:要求は「1ワードか1ラインの読み書き」です。IキャッシュとD側の要求は調停器で1本にまとめ、主記憶へ出します(D側が優先)。
  • Iキャッシュ:4KB、ダイレクトマップ、1ライン16バイトです。タグとデータを別々のBRAMに置き、validはレジスタで持ちます。
ビット 31〜12 11〜4 3〜2
用途 タグ インデックス(256ライン) ライン内のワード

段との対応

メモリのインタフェースは変えていません。<PC>がreqでアドレスを渡し、次のサイクルに<IF>がdataで命令を受け取る形のままです。変わったのは中身だけです。

  • <PC>のreqで、タグとデータのBRAMを同時に読みます。
  • <IF>のdataで、読んだタグとreqのアドレスのタグを比べます。一致してvalidならヒットで、そのまま命令を渡します。
  • ミスなら、主記憶からラインを読んでデータのBRAMに書き(refill)、タグを書いて、もう一度読み直します(reread)。読み直した後はヒットになります。
// タグの比較器
Bool hit = valid[idx(reqAddr)] == 1 && tagRam.read == tagOf(reqAddr);

method Action req(Addr pc) if (state == Lookup && (!reqd || hit));
   dataRam.put(False, widx(pc), ?);
   tagRam.put(False, idx(pc), ?);
   reqAddr <= pc;
   reqd    <= True;
endmethod
method Inst data if (state == Lookup && reqd && hit) = dataRam.read;

ミスのあいだは、dataのガードが偽なので<IF>のruleが発火しません。これがキャッシュミスの「待ち」です。waitの信号は書いていません。reqのガードも偽になるので、<PC>も止まります。

パイプライン図

fiboの最初の部分です。灰色は捨てた命令です。

Iキャッシュのミス
図1155.1 Iキャッシュのミス

  • sn 0は、最初の命令なのでミスします。<IF>に22サイクルいて、そのあいだにラインを埋めます。内訳は、主記憶のレイテンシ10サイクル、4ワードの転送、要求と応答がFIFOを通る分と読み直しです。
  • sn 1とsn 2は同じラインなので、ヒットして1サイクルで通ります。
  • sn 2のjalが<EX>で成立し、sn 3とsn 4を捨てます。ところが、sn 4(0x80000010)は次のラインで、ミスしていました。捨てる命令でも、始めたラインの埋め込みは最後までやるので、分岐先(sn 5)のreqはそれが終わるまで待たされます。
  • sn 5(0x80002000)もミスで、さらに22サイクルかかります。

捨てる命令のミスを途中でやめれば、20サイクルほど早くなります。ただ、そのためにはrefillの途中で止める仕組みが要ります。いまは単純さを優先しました。

どう確かめたか

  • 全59本(rv32ui-p、rv32mi-p、自作の例外と割り込みのテスト、fibo、新しく足したベンチ)が、bsimとVerilatorで通りました。各段をランダムに止めても結果は変わりません。
  • コンパイル時の切り替えで、キャッシュの代わりに必ず1サイクルで答える理想メモリ(これまでのBRAM)も使えるようにしました。理想メモリでのサイクル数は、Step 6と1サイクルも変わりません。段を止めたときのタイミングのテストは、理想メモリで行います。
  • テストベンチが、キャッシュのアクセス数とミス数、主記憶の読み書きの回数を数えます。
理想メモリ Iキャッシュ+キャッシュしないD
ベンチ(サイクル) 36,999 116,242
Iキャッシュのミス率(全テスト) — 7.6%

ベンチは、4KBの配列2つを書き、コピーし、足すプログラムです。いまはロードのたびに主記憶へ行くので、理想メモリの3倍以上かかります。


左矢前のブログ 次のブログ右矢