CPU緩存是位於CPU與內存之間的臨時存儲器，它的容量比內存小很多，但交換速度卻比內存快得多。
CPU緩存的存在主要是爲了減少處理器訪問內存所需的平均時間，提高CPU訪問內存的速度。因爲CPU的運算速度非常快，而內存的讀寫速度跟不上CPU的速度，所以CPU需要等待數據的到來或把數據寫入到內存中會花費很長時間。爲了提高效率，CPU緩存被設計用來存儲最近使用或即將使用的數據和指令，使得CPU可以在更短的時間內獲取所需信息。
CPU緩存分爲一級緩存（L1）、二級緩存（L2）和三級緩存（L3），每一級的緩存都有其特定的作用和容量。一級緩存的讀取速度最快，而三級緩存的容量通常最大。不同CPU架構和工藝對緩存的利用和性能有不同的影響。