Posts Issued on November 17, 2026

posted by sakurai on November 17, 2026 #1152

フォワーディング(Step 5)

Step 5でフォワーディングを入れました。これまでは、前の命令の結果を使う命令が<ID>で2サイクル待っていました。この待ちは、ロードの直後にその値を使う場合(ロードユース)の1サイクルだけになりました。riscv-tests(rv32ui-p)の40本とfiboを合わせたCPIは、1.85から1.14に下がりました。

やったこと

<ID>は、読むレジスタの値を、近い段から順に次の3つから選びます。

  1. このサイクルに<EX>を出た命令の結果
  2. このサイクルに<MA>を出た命令の結果(ロードなら、データメモリから読んだ値)
  3. このサイクルに<WB>が書く値は、レジスタファイルのバイパスで読める

選んだ値は、ID2EXの段間レジスタに入れて<EX>に渡します。値がまだ無いのは、1がロードのときだけです。ロードの値は<MA>で決まるので、そのときは<ID>のruleが発火せず、1サイクル待ちます。

function Maybe#(Data) operand(RIdx r, Data rfVal);
   Maybe#(Data) v = tagged Valid rfVal;                                             // 3
   if (ma2wb.peek matches tagged Valid .m &&& m.rd == r) v = tagged Valid m.result;  // 2
   if (ex2ma.peek matches tagged Valid .e &&& e.rd == r)                             // 1
      v = e.ld ? tagged Invalid : tagged Valid e.result;
   return r == 0 ? tagged Valid 0 : v;
endfunction

ex2maとma2wbは、<MA>と<WB>の入口の段間FIFOです。peekは「このサイクルの移動が済んだ後の中身」、つまり次のサイクルにその段にいる命令を返します。Step 3で、ハザードを見つけて<ID>を止めるために作ったものです。Step 5では、同じpeekで命令の結果まで受け取ります。

バイパスのMuxをどこに置くか

教科書では、バイパスのMuxを<EX>の入口(ALUの前)に置きます。値はEX/MAとMA/WBの段間レジスタから取ります(<EX>→<EX>、<MA>→<EX>のバイパス)。今回はMuxを<ID>の出口、ID2EXの段間レジスタの前に置きました。値が届くサイクルは同じで、直前の命令の結果を次のサイクルの<EX>で使えます。

教科書の形にしなかったのは、段間がFIFOで、バブルが詰まるからです。<EX>で命令が待っている間も、その前の命令は<MA>、<WB>と進み、レジスタファイルに書いて抜けていきます。<EX>の入口で比べる相手はEX/MAとMA/WBだけです。そのため、待っている間に抜けた命令の結果は、どこからも取れません。<ID>で読んだ古いレジスタ値が、そのまま使われてしまいます。

<ID>で選ぶなら、この問題は起きません。選ぶ時点で、レジスタファイルにまだ書いていない命令は、すべて<EX>か<MA>を出たところにいます。その後で前の命令がいくつ抜けても、値はもうID2EXに入っています。設計方針の「段の間隔によらず正しく動く判定」を、そのまま実装したことになります。

パイプライン図

fiboの先頭18命令です。上がフォワーディング無し、下が有りです。Konataと同じKanataログから、自作のスクリプトでPNGに描きました。同じ段で待つと、箱が長くなります。灰色は、jalで捨てた命令です。

フォワーディング無し
図1152.1 フォワーディング無し

フォワーディング有り
図1152.2 フォワーディング有り

無しでは、前の命令の結果を使う命令が<ID>で2サイクル待ちます。後ろの命令も、<IF>で一緒に待ちます。有りでは、残る待ちはsn 14のaddだけです。直前のlwの値を使うので、<ID>で1サイクル待ちます(後ろのswも<IF>で一緒に待ちます)。jalの分岐ペナルティ(2命令を捨てる)は、どちらも同じです。sn 17のbneが<WB>にいるのは、無しではサイクル38(図の外)、有りではサイクル23です。

どう確かめたか

  • 命令の実行:rv32ui-pの全40本とfiboが通り、1命令ごとのコミットログが自作のISSと一致しました。各段を毎サイクル1/4の確率で止めても、結果は変わりません。
  • タイミング:パイプラインのモデルの規則を「ロードユースだけ待つ」に変えました。ランダムな命令列(ハザードとロード/ストアを多く含む)で、モデルとKanataログが一致しました。
  • CPI:テストごとにサイクル数を比べました。
テスト 命令数 無し 有り CPI 無し→有り
add 427 715 463 1.67→1.08
lw 245 497 265 2.03→1.08
beq 253 411 311 1.62→1.23
fibo 137 316 199 2.31→1.45
41本の合計 11925 22051 13644 1.85→1.14

分岐の多いテストとfiboでCPIがあまり下がらないのは、分岐が成立するたびに2命令を捨てるからです。これは分岐予測(Step 8)で縮めます。

bsimとVerilatorの両方で確認しています。

次は

Step 6はCSRとEIT(例外・割り込み)です。ecall、mret、不正命令などを<MA>で一括して判定します。


左矢前のブログ 次のブログ右矢