キャッシュヒット、キャッシュミスとは：用語解説

キャッシュヒットの場合、命令処理に必要なデータがキャッシュメモリに存在するので、キャッシュメモリから読み込むことができます。キャッシュメモリはメインメモリよりCPUに近い位置にあるため、短時間でアクセスすることができます。

しかし、キャッシュメモリはメインメモリに比べると容量が小さいため、多くのデータを保存しておくことができません。そのため、CPUがキャッシュメモリを検索しても、必要なデータが存在しない場合があります。 この場合をキャッシュミスといいます。

キャッシュミスの場合、命令処理に必要なデータをメインメモリ等に探しに行きます。メインメモリはCPUからの距離が遠いので、アクセスに時間がかかります。その間、命令処理はメモリアクセス待ちとなり、処理の実行が滞ります。

キャッシュミスなどによるメモリアクセス待ちを改善し、命令処理を効率よく実行するために、様々な高速化技術が開発されました。例えば、プリフェッチ、アウトオブオーダー、ノンブロッキングキャッシュなどがあります。