記憶階層とキャッシュメモリ

結論：速い順に並べると

記憶装置は速いものほど小さくて高いので、速さの違う装置を何段か重ねて使います。これを記憶階層と呼びます。速い順に並べると次のとおりです。

レジスタ → キャッシュメモリ（1次 → 2次） → 主記憶 → 磁気ディスク

flowchart LR
  R["レジスタ（CPU内部・最速・極小）"] --> L1["1次キャッシュ"]
  L1 --> L2["2次キャッシュ"]
  L2 --> M["主記憶（メインメモリ）"]
  M --> D["磁気ディスク（最も遅い・大容量）"]

たとえるなら、レジスタは手に持っている書類、キャッシュは机の上、主記憶は部屋の本棚、磁気ディスクは別棟の倉庫です。いま使う物ほど手元に置けば、取りに行く時間が短くなります。

「アクセス時間の最も短い記憶装置はどれか」と聞かれたら、答えはレジスタです。選択肢の「2次キャッシュ」は「キャッシュ＝最速」という思い込みを狙ったひっかけです。

キャッシュメモリの目的と、ミスしたときの動き

キャッシュメモリは、CPU と主記憶のあいだに置く小さくて速いメモリです。目的はプロセッサの処理速度と主記憶のアクセス速度の差を埋めることです。

一度主記憶から読んだデータをキャッシュに残しておけば、次に同じデータを読むときは主記憶まで行かずに済みます。求めるデータがキャッシュにあることをヒット、無いことを**ミス（ミスヒット）**と呼びます。

ミスしたときは、キャッシュ制御装置（ハードウェア）が主記憶から必要なデータをブロック単位で転送し、キャッシュに読み込みます。誤りの選択肢によく出る次の3つを覚えておきましょう。

• 「割込みが起きて、プログラムが転送する」→ 誤り。転送はハードウェアが行う
• 「磁気ディスクから読み込む」→ 誤り。キャッシュの1段下は主記憶
• 「ミスするとキャッシュ全体を一括消去する」→ 誤り。入れ替えるのは必要なブロックだけ

目的を問う問題では、よく似た別の仕組みが選択肢に並びます。

参照の局所性：キャッシュが効く理由

プログラムには「同じ場所をすぐまた使う（時間的局所性）」「近くの場所を続けて使う（空間的局所性）」というクセがあります。これを参照の局所性と呼び、キャッシュが効くのはこのクセがあるからです。

キャッシュは、命令を入れる命令キャッシュと、データを入れるデータキャッシュに分けられることがあります。命令キャッシュをよく効かせるには、頻繁に実行する処理部分を1か所にまとめるのが正解です。

ひっかけは「アクセスする作業領域（データ）をまとめる」です。これはデータキャッシュ向けの工夫なので、命令キャッシュを問われたら選びません。「全体を平均的に実行／アクセスする」は局所性を壊すので常に誤りです。

書込み方式：ライトスルーとライトバック

CPU がデータを書き込むとき、キャッシュと主記憶のどちらを、いつ書き換えるかで2つの方式があります。出題回数が多いので、表で区別しましょう。

覚え方は名前のとおりです。スルー＝主記憶まで素通しで書く、バック＝あとで書き戻す。

「ライトバックを使う目的は？」と聞かれたら答えは主記憶への書込み頻度を減らすことです。「一貫性を保ちながら書き込む」「回路が簡単」はライトスルーの性質なので、ライトバックの目的としては誤りです。

多段キャッシュ（1次・2次）

主記憶と CPU の速度差が大きいときは、キャッシュを1次（L1）・2次（L2）…と多段にすると、実効アクセス時間（平均するとどれくらいで読めるか）を短くできます。1次は最も速く小さく、2次は1次より遅いが大きい、という関係です。

誤りの選択肢には「キャッシュは汎用レジスタと同じ働きをする」「転送ブロックを仮想記憶のページと同じ大きさにすると効率が上がる」が出ます。キャッシュはレジスタでも仮想記憶でもない、と切り分ければ消せます。

実効アクセス時間の計算

キャッシュがあるときの平均の読み出し時間は、次の1本の式で出します。h はヒット率（0〜1 の小数）です。

実効アクセス時間 ＝ h × キャッシュのアクセス時間 ＋ (1 − h) × 主記憶のアクセス時間

ヒットした割合ぶんはキャッシュの時間、ミスした割合 (1 − h) ぶんは主記憶の時間がかかる、という加重平均です。ヒット率が下がると実効アクセス時間は長くなります。逆に「キャッシュのアクセス時間の減少」「ミス率の低下」「ミスペナルティ（ミスしたときの追加時間）の減少」は、どれも時間を短くする要因です。

注意点は、キャッシュありが常に速いとは限らないことです。ヒット率が低く主記憶が遅い構成は、キャッシュなしの速い主記憶に負けることがあります（下の例題で確認します）。

ヒット率の逆算（最頻出）

実効アクセス時間やほかの条件が分かっていて、ヒット率 h を求める問題が最も多く出ています。使う式は上と同じで、h を未知数にして方程式を解くだけです。

手順は3つです。①式に数値を入れる、②(1 − h) を展開して h の1次方程式にする、③h について解く。

「2種類の CPU の処理時間が等しかった」という形の問題は、それぞれの実効アクセス時間を式にして、イコールで結ぶだけです。

選択肢には、h と 1 − h を取り違えた値（0.9 が正解なら 0.1）が入っていることがあります。ただし 2024年の問題（選択肢 0.75／0.90／0.95／0.96）のように 0.1 が無い問題もあるので、選択肢に頼らず式に戻して確かめるのが確実です。h はキャッシュ側の時間に掛ける、と覚えておけば取り違えません。

メモリインタリーブ（出題回数トップ）

メモリインタリーブは、主記憶を独立して動く複数のバンク（グループ）に分け、各バンクに並列（交互）にアクセスして高速化する方式です。1つのバンクが前のアクセスの後処理をしている間に、別のバンクへ次のアクセスを始められます。

たとえるなら、レジが1台だと会計が終わるまで次の人が待ちますが、レジを4台にして順番に振り分ければ待ち時間が減る、というイメージです。キャッシュのように「速いメモリを足す」のではなく、主記憶そのものを分けて同時に動かす点が違います。

選択肢には、ほかの高速化技術の説明が並びます。キーワードで見分けましょう。

「バンク」「分割して並列」の2語があればインタリーブ、と決めて構いません。