|
17 |
RISC-Vプロセッサの設計 (41) |
フォワーディング(Step 5)
Step 5でフォワーディングを入れました。これまでは、前の命令の結果を使う命令が<ID>で2サイクル待っていました。この待ちは、ロードの直後にその値を使う場合(ロードユース)の1サイクルだけになりました。riscv-tests(rv32ui-p)の40本とfiboを合わせたCPIは、1.85から1.14に下がりました。
やったこと
<ID>は、読むレジスタの値を、近い段から順に次の3つから選びます。
- このサイクルに<EX>を出た命令の結果
- このサイクルに<MA>を出た命令の結果(ロードなら、データメモリから読んだ値)
- このサイクルに<WB>が書く値は、レジスタファイルのバイパスで読める
選んだ値は、ID2EXの段間レジスタに入れて<EX>に渡します。値がまだ無いのは、1がロードのときだけです。ロードの値は<MA>で決まるので、そのときは<ID>のruleが発火せず、1サイクル待ちます。
function Maybe#(Data) operand(RIdx r, Data rfVal);
Maybe#(Data) v = tagged Valid rfVal; // 3
if (ma2wb.peek matches tagged Valid .m &&& m.rd == r) v = tagged Valid m.result; // 2
if (ex2ma.peek matches tagged Valid .e &&& e.rd == r) // 1
v = e.ld ? tagged Invalid : tagged Valid e.result;
return r == 0 ? tagged Valid 0 : v;
endfunction
ex2maとma2wbは、<MA>と<WB>の入口の段間FIFOです。peekは「このサイクルの移動が済んだ後の中身」、つまり次のサイクルにその段にいる命令を返します。Step 3で、ハザードを見つけて<ID>を止めるために作ったものです。Step 5では、同じpeekで命令の結果まで受け取ります。
バイパスのMuxをどこに置くか
教科書では、バイパスのMuxを<EX>の入口(ALUの前)に置きます。値はEX/MAとMA/WBの段間レジスタから取ります(<EX>→<EX>、<MA>→<EX>のバイパス)。今回はMuxを<ID>の出口、ID2EXの段間レジスタの前に置きました。値が届くサイクルは同じで、直前の命令の結果を次のサイクルの<EX>で使えます。
教科書の形にしなかったのは、段間がFIFOで、バブルが詰まるからです。<EX>で命令が待っている間も、その前の命令は<MA>、<WB>と進み、レジスタファイルに書いて抜けていきます。<EX>の入口で比べる相手はEX/MAとMA/WBだけです。そのため、待っている間に抜けた命令の結果は、どこからも取れません。<ID>で読んだ古いレジスタ値が、そのまま使われてしまいます。
<ID>で選ぶなら、この問題は起きません。選ぶ時点で、レジスタファイルにまだ書いていない命令は、すべて<EX>か<MA>を出たところにいます。その後で前の命令がいくつ抜けても、値はもうID2EXに入っています。設計方針の「段の間隔によらず正しく動く判定」を、そのまま実装したことになります。
パイプライン図
fiboの先頭18命令です。上がフォワーディング無し、下が有りです。Konataと同じKanataログから、自作のスクリプトでPNGに描きました。同じ段で待つと、箱が長くなります。灰色は、jalで捨てた命令です。

図1152.1 フォワーディング無し

図1152.2 フォワーディング有り
無しでは、前の命令の結果を使う命令が<ID>で2サイクル待ちます。後ろの命令も、<IF>で一緒に待ちます。有りでは、残る待ちはsn 14のaddだけです。直前のlwの値を使うので、<ID>で1サイクル待ちます(後ろのswも<IF>で一緒に待ちます)。jalの分岐ペナルティ(2命令を捨てる)は、どちらも同じです。sn 17のbneが<WB>にいるのは、無しではサイクル38(図の外)、有りではサイクル23です。
どう確かめたか
- 命令の実行:rv32ui-pの全40本とfiboが通り、1命令ごとのコミットログが自作のISSと一致しました。各段を毎サイクル1/4の確率で止めても、結果は変わりません。
- タイミング:パイプラインのモデルの規則を「ロードユースだけ待つ」に変えました。ランダムな命令列(ハザードとロード/ストアを多く含む)で、モデルとKanataログが一致しました。
- CPI:テストごとにサイクル数を比べました。
| テスト | 命令数 | 無し | 有り | CPI 無し→有り |
|---|---|---|---|---|
| add | 427 | 715 | 463 | 1.67→1.08 |
| lw | 245 | 497 | 265 | 2.03→1.08 |
| beq | 253 | 411 | 311 | 1.62→1.23 |
| fibo | 137 | 316 | 199 | 2.31→1.45 |
| 41本の合計 | 11925 | 22051 | 13644 | 1.85→1.14 |
分岐の多いテストとfiboでCPIがあまり下がらないのは、分岐が成立するたびに2命令を捨てるからです。これは分岐予測(Step 8)で縮めます。
bsimとVerilatorの両方で確認しています。
次は
Step 6はCSRとEIT(例外・割り込み)です。ecall、mret、不正命令などを<MA>で一括して判定します。
Leave a Comment