CPU緩存與內(nèi)存延遲測試，相信大家都有所耳聞，但是GPU同樣的測試卻幾乎沒人做過。

Chips And Cheese就做了一次特別的測試，對比考察了AMD、NVIDIA GPU架構(gòu)的緩存、顯存遲問題。

首先是AMD RDNA2、NVIDIA Ampere兩家最新架構(gòu)的比拼，代表是RX 6900 XT、RTX 3090，前者在幾乎所有階段都完勝。

RNDA2架構(gòu)創(chuàng)新性地加入了Infinity Cache無限緩存，提升帶寬的同時，延遲也可圈可點(diǎn)，二級緩存命中率上只增加了大約20ns的延遲，明顯低于Ampere。

更驚人的是，RDNA2顯存延遲和Ampere幾乎一模一樣，但是別忘了，Ampere只有兩個層級的緩存，RDNA2卻有四個。

Ampere的緩存架構(gòu)更加傳統(tǒng)，SM陣列私有一級緩存到二級緩存要增加超過100ns的延遲，RDNA2從零級緩存到二級緩存則只增加了約66ns。看起來，GA102核心面積過大，也直接增加了延遲。

這正好可以解釋AMD RDNA2架構(gòu)在低分辨率下性能、能效更優(yōu)秀，因為二級緩存、三級緩存延遲很低，更適合執(zhí)行較小的負(fù)載。Ampere則相反，高負(fù)載下優(yōu)勢明顯，比如說4K分辨率。

說完了GPU之間的對比，那么GPU、CPU放在一起怎么樣呢？這里以RX 6900 XT、Intel四代酷睿i7-4770為例來看看。

CPU的緩存自然不是一個級別的，所以這里Y軸用了線性數(shù)據(jù)，可以看到全程大大低于RDNA2，搭配DDR3-1600 CL9內(nèi)存延遲只有63ns，RX 6900 XT、GDDR6的組合則有226ns，另外末級緩存平均延遲分別是53.42ns、123.2ns。

再看看前幾代的NVIDIA GPU，包括Maxwell架構(gòu)的GTX 980 Ti、Pascal架構(gòu)的GTX 1080、Turing架構(gòu)的RTX 2060 Mobile。

Maxwell、Pascal其實差不多，前者整體略高一些，可能是受制于芯片面積較大、核心頻率較低。

Turing則已經(jīng)有了Ampere的樣子，一級緩存延遲低得多，二級差不多，奇怪的是顯存延遲在32MB之后偏高，原因未知。

AMD考察了TeraScale架構(gòu)的HD 5850/6950、GCN架構(gòu)的HD 7970，再加上RX 6900 XT，很明顯在逐代降低，而且是各級緩存都在同時進(jìn)步。