快取這個詞想必大家都聽過，其實快取的意義很廣泛：電腦整機最大的快取可以體現為記憶體條、顯示卡上的視訊記憶體就是顯示卡晶片所需要用到的快取、硬碟上也有相對應的快取、CPU有著最快的快取（L1、L2、L3快取等），快取就是資料交換的緩衝區（稱作Cache）。快取往往都是RAM（斷電即掉的非永久儲存），它們的作用就是幫助硬體更快地響應。我們今天就來講一下，關於最快的快取——CPU快取的那些事。
CPU快取是什麼？
CPU快取的定義為CPU與記憶體之間的臨時資料交換器，它的出現是為了解決CPU執行處理速度與記憶體讀寫速度不匹配的矛盾——快取的速度比記憶體的速度快多了。CPU快取一般直接跟CPU晶片整合或位於主機板匯流排互連的獨立晶片上。（現階段的CPU快取一般直接整合在CPU上）CPU往往需要重複處理相同的資料、重複執行相同的指令，如果這部分資料、指令CPU能在CPU快取中找到，CPU就不需要從記憶體或硬碟中再讀取資料、指令，從而減少了整機的響應時間。
CPU-快取-主記憶體圖示，圖片來自：CPU Caches
CPU快取速度和記憶體速度差多少？
我們來簡單地打個比方：如果CPU在L1一級快取中找到所需要的資料要用的時間為3個週期左右，那麼在L2二級快取找到資料的時間就要10個週期左右，L3三級快取所需時間為50個週期左右；如果要到記憶體上去找呢，那就慢多了，可能需要幾百個週期的時間。
I3-8300處理器技術規格
對CPU快取有一定了解了嗎，讓我們再深入一點。以Intel為例，Intel官網上產品-處理器介面內對快取的定義為：“CPU快取記憶體是處理器上的一個快速記憶區域。英特爾智慧快取記憶體（SmartCache）是指可讓所有核心動態共享最後一級快取記憶體的架構。”這裡就提及到了最後一級快取記憶體的概念，即為CPU快取中的L3(三級快取)，那麼我們繼續來解釋一下什麼叫三級快取，分別又是指哪三級快取。
三級快取（L1、L2、L3）是什麼？
以近代CPU的視角來說，三級快取（包括L1一級快取、L2二級快取、L3三級快取）都是整合在CPU內的快取，它們的作用都是作為CPU與主記憶體之間的高速資料緩衝區，L1最靠近CPU核心；L2其次；L3再次。執行速度方面：L1最快、L2次快、L3最慢；容量大小方面：L1最小、L2較大、L3最大。CPU會先在最快的L1中尋找需要的資料，找不到再去找次快的L2，還找不到再去找L3，L3都沒有那就只能去記憶體找了。L1、L2、L3可以說是各有特點，下面我們就分開來講一下。
一級快取（L1 Cache）
一級快取這個名詞出現應該是在Intel公司Pentium處理器時代把快取開始分類的時候，當時在CPU內部整合的CPU快取已經不能滿足整機的效能需求，而製造工藝上的限制不能在CPU內部大幅提高快取的數量，所以出現了整合在主機板上的快取，當時人們把CPU內部整合的CPU快取成為一級快取，在CPU外部主機板上的快取稱為二級快取。
Intel Pentium 4
而一級快取其實還分為一級資料快取（Data Cache，D-Cache，L1d）和一級指令快取(Instruction Cache，I-Cache，L1i)，分別用於存放資料及執行資料的指令解碼，兩者可同時被CPU訪問，減少了CPU多核心、多執行緒爭用快取造成的衝突，提高了處理器的效能。一般CPU的L1i和L1d具備相同的容量，例如I7-8700K的L1即為32KB+32KB。
二級快取（L2 Cache）
隨著CPU製造工藝的發展，本來處於CPU外部的二級快取也可以輕易地整合進CPU內部，這種時候再用快取是否處於CPU內部來判斷一二級快取已經不再確切。整合進CPU的L2二級快取執行速率漸漸可以跟上CPU的執行速度了，，其主要作用為當CPU在L1中沒讀取到所需要的資料時再把資料展示給CPU篩選（CPU未命中L1的情況下繼續在L2尋求命中，快取命中的工作原理我們稍後再講）。
L2二級快取比L1一級快取的容量要更大，但是L2的速率要更慢，為什麼呢？首先L2比L1要更遠離CPU核心，L1是最靠近CPU核心的快取，CPU需要讀取L2的資料從物理距離上比L1要更遠；L2的容量比L1更大，打個簡單的比喻，在小盒子裡面找東西要比在大房間裡面找要方便快捷。這裡也可以看出，快取並非越大越好，越靠近CPU核心的快取執行速率越快越好，非最後一級快取的快取容量自然是夠用即可。
Core Duo酷睿雙核處理器
L2二級快取實際上就是L1一級快取跟主記憶體之間的緩衝器，在2006年的時間點上，Intel和AMD當家在售的幾款處理器可以看出他們對最後一級快取不同的見解：Intel Core Duo不同於它的前輩Pentium D、EE，採用了雙核心共享的2M L2二級快取，是屬於當時最先二級快取架構，即“Smart Cache”共享快取技術，這種技術沿用到以後的Intel推出的所有多核心處理器上；而AMD Athlon 64 X2處理器則是每個CPU核心都具備獨立的二級快取，Manchester核心的處理器為每核心512KB、Toledo核心為每核心1MB，兩個核心之間的快取的資料同步是透過CPU內建的SRI（系統請求介面）控制，這樣的資料延遲及佔用資源情況都要比Intel的Pentium D、EE核心要好，但還是比不上Core為代表的Smart Cache快取共享。
三級快取（L3 Cache）
最初出現L3三級快取的應該是AMD的K6-III處理器，當時受限於製造工藝，L3只能整合在主機板上。然後Intel首次出現L3三級快取的是Itanium安騰伺服器處理器，接著就是P4EE和至強MP。L3三級快取的出現其實對CPU效能提升呈一個爬坡曲線——L3從0到2M的情況CPU效能提升非常明顯，L3從2M到6M提升可能就只有10%不到了，這是在近代CPU多核共享L3的情況下；當L3整合進CPU正式成為CPU內部快取後，CPU處理資料時只有5%需要在記憶體中呼叫資料，進一步地減少了記憶體延遲，使系統的響應更為快速。
Intel Nehalem L3 SmartCache示意圖
同理，L3即為L2與主記憶體之間的緩衝器，主要體現在提升處理器大資料處理方面的效能，對遊戲表現方面有較大的幫助。那麼也許有人就會問了，是不是選擇CPU的時候看準L3買，哪個CPU的L3大就買哪個？非也，只有同架構的情況下這種比較才具有意義，先舉個比較久遠的例子：Intel具備1MB L3的Xeon MP處理器仍然不是AMD沒有L3的皓龍處理器對手，再來個現有的：Intel I7-8700K 12MB L3和AMD Threadripper 1950X 32MB L3相比，自然是32MB比12MB大，但是平均下來也是一個核心2MB L3，效能就見仁見智了。
CPU快取是怎樣幫助CPU工作的呢
知道了L1、L2、L3的由來，我們再深入地瞭解一下CPU快取是怎麼幫助CPU提高工作效率的。
侷限性原理，圖片來自：CMU
由於資料的侷限性，CPU往往需要在短時間內重複多次讀取資料，記憶體的執行頻率自然是遠遠跟不上CPU的處理速度的，怎麼辦呢？快取的重要性就凸顯出來了，CPU可以避開記憶體在快取裡讀取到想要的資料，稱之為命中（hit）。L1的執行速度很快，但是它的資料容量很小，CPU能在L1裡命中的機率大概在80%左右——日常使用的情況下；L2、L3的機制也類似如此，這樣一來，CPU需要在記憶體中讀取的資料大概為5%-10%，其餘資料命中全部可以在L1、L2、L3中做到，大大減少了系統的響應時間，總的來說，所有CPU讀取資料的順序都是先快取再記憶體。
L1、L2、L3快取跟記憶體速度相差很大，它們構成上的不同導致了其速度的差距，那麼CPU快取和記憶體分別是怎樣構成的呢？
快取SRAM與記憶體DRAM的區別
CPU快取基本由SRAM（Static RAM，靜態RAM）構成，記憶體的DRAM其實是SDRAM（同步動態隨機儲存器），是DRAM（Dynamic RAM，動態）的一種。
DRAM
DRAM只含一個電晶體和一個電容器，整合度非常高，可以輕鬆做出大容量（記憶體），但是因為靠電容器來儲存資訊，所以需要不斷重新整理補充電容器的電荷，充電放電之間的時間差導致了DRAM比SRAM的反應要緩慢得多。
SRAM
SRAM相比DRAM的複雜度就高了不止一籌，所以導致SRAM的整合度很低——前期CPU快取不能整合進CPU內部也有這個原因。SRAM的特點就是快，有電就有資料，不需要重新整理時間所以凸顯其資料傳輸速度很快，缺點就是佔據面積大、成本低。假如一個DRAM佔據一個單位的地方，一個SRAM就要佔據六個單位的地方，差別還是挺大的。
番外：L4四級快取和eDRAM
I7-4750H
並不是每個CPU都會使用SRAM作為CPU快取，IBM的Power系列處理器就使用了eDRAM作為CPU快取；我們再看看Intel Haswell I7-4750H這個CPU，其主要受關注的地方在於CPU內嵌入了128MB的eDRAM作為視訊記憶體讓核心顯示卡Iris Pro 5200使用，在不使用核心顯示卡的時候，128MB eDRAM將會成為處理器的L4四級快取。當然了，I7-4750H多了L4之後在處理器效能上也沒提高多少，eDram快取的主要作用還是在於給核心顯示卡當視訊記憶體上。
快取這個詞想必大家都聽過，其實快取的意義很廣泛：電腦整機最大的快取可以體現為記憶體條、顯示卡上的視訊記憶體就是顯示卡晶片所需要用到的快取、硬碟上也有相對應的快取、CPU有著最快的快取（L1、L2、L3快取等），快取就是資料交換的緩衝區（稱作Cache）。快取往往都是RAM（斷電即掉的非永久儲存），它們的作用就是幫助硬體更快地響應。我們今天就來講一下，關於最快的快取——CPU快取的那些事。
CPU快取是什麼？
CPU快取的定義為CPU與記憶體之間的臨時資料交換器，它的出現是為了解決CPU執行處理速度與記憶體讀寫速度不匹配的矛盾——快取的速度比記憶體的速度快多了。CPU快取一般直接跟CPU晶片整合或位於主機板匯流排互連的獨立晶片上。（現階段的CPU快取一般直接整合在CPU上）CPU往往需要重複處理相同的資料、重複執行相同的指令，如果這部分資料、指令CPU能在CPU快取中找到，CPU就不需要從記憶體或硬碟中再讀取資料、指令，從而減少了整機的響應時間。
CPU-快取-主記憶體圖示，圖片來自：CPU Caches
CPU快取速度和記憶體速度差多少？
我們來簡單地打個比方：如果CPU在L1一級快取中找到所需要的資料要用的時間為3個週期左右，那麼在L2二級快取找到資料的時間就要10個週期左右，L3三級快取所需時間為50個週期左右；如果要到記憶體上去找呢，那就慢多了，可能需要幾百個週期的時間。
I3-8300處理器技術規格
對CPU快取有一定了解了嗎，讓我們再深入一點。以Intel為例，Intel官網上產品-處理器介面內對快取的定義為：“CPU快取記憶體是處理器上的一個快速記憶區域。英特爾智慧快取記憶體（SmartCache）是指可讓所有核心動態共享最後一級快取記憶體的架構。”這裡就提及到了最後一級快取記憶體的概念，即為CPU快取中的L3(三級快取)，那麼我們繼續來解釋一下什麼叫三級快取，分別又是指哪三級快取。
CPU-快取-主記憶體圖示，圖片來自：CPU Caches
三級快取（L1、L2、L3）是什麼？
以近代CPU的視角來說，三級快取（包括L1一級快取、L2二級快取、L3三級快取）都是整合在CPU內的快取，它們的作用都是作為CPU與主記憶體之間的高速資料緩衝區，L1最靠近CPU核心；L2其次；L3再次。執行速度方面：L1最快、L2次快、L3最慢；容量大小方面：L1最小、L2較大、L3最大。CPU會先在最快的L1中尋找需要的資料，找不到再去找次快的L2，還找不到再去找L3，L3都沒有那就只能去記憶體找了。L1、L2、L3可以說是各有特點，下面我們就分開來講一下。
一級快取（L1 Cache）
一級快取這個名詞出現應該是在Intel公司Pentium處理器時代把快取開始分類的時候，當時在CPU內部整合的CPU快取已經不能滿足整機的效能需求，而製造工藝上的限制不能在CPU內部大幅提高快取的數量，所以出現了整合在主機板上的快取，當時人們把CPU內部整合的CPU快取成為一級快取，在CPU外部主機板上的快取稱為二級快取。
Intel Pentium 4
而一級快取其實還分為一級資料快取（Data Cache，D-Cache，L1d）和一級指令快取(Instruction Cache，I-Cache，L1i)，分別用於存放資料及執行資料的指令解碼，兩者可同時被CPU訪問，減少了CPU多核心、多執行緒爭用快取造成的衝突，提高了處理器的效能。一般CPU的L1i和L1d具備相同的容量，例如I7-8700K的L1即為32KB+32KB。
二級快取（L2 Cache）
隨著CPU製造工藝的發展，本來處於CPU外部的二級快取也可以輕易地整合進CPU內部，這種時候再用快取是否處於CPU內部來判斷一二級快取已經不再確切。整合進CPU的L2二級快取執行速率漸漸可以跟上CPU的執行速度了，，其主要作用為當CPU在L1中沒讀取到所需要的資料時再把資料展示給CPU篩選（CPU未命中L1的情況下繼續在L2尋求命中，快取命中的工作原理我們稍後再講）。
L2二級快取比L1一級快取的容量要更大，但是L2的速率要更慢，為什麼呢？首先L2比L1要更遠離CPU核心，L1是最靠近CPU核心的快取，CPU需要讀取L2的資料從物理距離上比L1要更遠；L2的容量比L1更大，打個簡單的比喻，在小盒子裡面找東西要比在大房間裡面找要方便快捷。這裡也可以看出，快取並非越大越好，越靠近CPU核心的快取執行速率越快越好，非最後一級快取的快取容量自然是夠用即可。
Core Duo酷睿雙核處理器
L2二級快取實際上就是L1一級快取跟主記憶體之間的緩衝器，在2006年的時間點上，Intel和AMD當家在售的幾款處理器可以看出他們對最後一級快取不同的見解：Intel Core Duo不同於它的前輩Pentium D、EE，採用了雙核心共享的2M L2二級快取，是屬於當時最先二級快取架構，即“Smart Cache”共享快取技術，這種技術沿用到以後的Intel推出的所有多核心處理器上；而AMD Athlon 64 X2處理器則是每個CPU核心都具備獨立的二級快取，Manchester核心的處理器為每核心512KB、Toledo核心為每核心1MB，兩個核心之間的快取的資料同步是透過CPU內建的SRI（系統請求介面）控制，這樣的資料延遲及佔用資源情況都要比Intel的Pentium D、EE核心要好，但還是比不上Core為代表的Smart Cache快取共享。
三級快取（L3 Cache）
最初出現L3三級快取的應該是AMD的K6-III處理器，當時受限於製造工藝，L3只能整合在主機板上。然後Intel首次出現L3三級快取的是Itanium安騰伺服器處理器，接著就是P4EE和至強MP。L3三級快取的出現其實對CPU效能提升呈一個爬坡曲線——L3從0到2M的情況CPU效能提升非常明顯，L3從2M到6M提升可能就只有10%不到了，這是在近代CPU多核共享L3的情況下；當L3整合進CPU正式成為CPU內部快取後，CPU處理資料時只有5%需要在記憶體中呼叫資料，進一步地減少了記憶體延遲，使系統的響應更為快速。
Intel Nehalem L3 SmartCache示意圖
同理，L3即為L2與主記憶體之間的緩衝器，主要體現在提升處理器大資料處理方面的效能，對遊戲表現方面有較大的幫助。那麼也許有人就會問了，是不是選擇CPU的時候看準L3買，哪個CPU的L3大就買哪個？非也，只有同架構的情況下這種比較才具有意義，先舉個比較久遠的例子：Intel具備1MB L3的Xeon MP處理器仍然不是AMD沒有L3的皓龍處理器對手，再來個現有的：Intel I7-8700K 12MB L3和AMD Threadripper 1950X 32MB L3相比，自然是32MB比12MB大，但是平均下來也是一個核心2MB L3，效能就見仁見智了。
CPU快取是怎樣幫助CPU工作的呢
知道了L1、L2、L3的由來，我們再深入地瞭解一下CPU快取是怎麼幫助CPU提高工作效率的。
侷限性原理，圖片來自：CMU
由於資料的侷限性，CPU往往需要在短時間內重複多次讀取資料，記憶體的執行頻率自然是遠遠跟不上CPU的處理速度的，怎麼辦呢？快取的重要性就凸顯出來了，CPU可以避開記憶體在快取裡讀取到想要的資料，稱之為命中（hit）。L1的執行速度很快，但是它的資料容量很小，CPU能在L1裡命中的機率大概在80%左右——日常使用的情況下；L2、L3的機制也類似如此，這樣一來，CPU需要在記憶體中讀取的資料大概為5%-10%，其餘資料命中全部可以在L1、L2、L3中做到，大大減少了系統的響應時間，總的來說，所有CPU讀取資料的順序都是先快取再記憶體。
L1、L2、L3快取跟記憶體速度相差很大，它們構成上的不同導致了其速度的差距，那麼CPU快取和記憶體分別是怎樣構成的呢？
快取SRAM與記憶體DRAM的區別
CPU快取基本由SRAM（Static RAM，靜態RAM）構成，記憶體的DRAM其實是SDRAM（同步動態隨機儲存器），是DRAM（Dynamic RAM，動態）的一種。
DRAM
DRAM只含一個電晶體和一個電容器，整合度非常高，可以輕鬆做出大容量（記憶體），但是因為靠電容器來儲存資訊，所以需要不斷重新整理補充電容器的電荷，充電放電之間的時間差導致了DRAM比SRAM的反應要緩慢得多。
SRAM
SRAM相比DRAM的複雜度就高了不止一籌，所以導致SRAM的整合度很低——前期CPU快取不能整合進CPU內部也有這個原因。SRAM的特點就是快，有電就有資料，不需要重新整理時間所以凸顯其資料傳輸速度很快，缺點就是佔據面積大、成本低。假如一個DRAM佔據一個單位的地方，一個SRAM就要佔據六個單位的地方，差別還是挺大的。
番外：L4四級快取和eDRAM
I7-4750H
並不是每個CPU都會使用SRAM作為CPU快取，IBM的Power系列處理器就使用了eDRAM作為CPU快取；我們再看看Intel Haswell I7-4750H這個CPU，其主要受關注的地方在於CPU內嵌入了128MB的eDRAM作為視訊記憶體讓核心顯示卡Iris Pro 5200使用，在不使用核心顯示卡的時候，128MB eDRAM將會成為處理器的L4四級快取。當然了，I7-4750H多了L4之後在處理器效能上也沒提高多少，eDram快取的主要作用還是在於給核心顯示卡當視訊記憶體上。