Architektura Ampere GA104

Dříve, nežli si dnes grafickou kartu NVIDIA RTX 3070 Ti Founders Edition představíme a také řádně otestujeme, nebylo by asi od věci si grafický čip GA104 ve verzi GA104-400-A1, na kterém jsou založeny právě grafické karty GeForce RTX 3070 Ti, trochu popsat a osvětlit. A věřte, že dnes to vůbec složité nebude, protože grafické karty GeForce RTX 3070 Ti jsou postaveny na grafickém čipu GA104 v plné konfiguraci. Pojďme se na to tedy podívat.

Blokové schéma Grafický čip GA104-400-A1 (GeForce RTX 3070 Ti) Grafický čip GA104-300-A1 (GeForce RTX 3070)

Frontend

Stejně jako u předchozích generací, každý grafický čip musí nějaká data přijímat, následně rozdělovat úkoly a řídit práci podřízených jednotek. Tuto činnost má na starosti Frontend grafického čipu, který je již od dob architektury Fermi tvořen jednotkami Host Interface a GigaThread engine. Zatímco pomocí Host Interface jsou přenášeny příkazy z CPU pomocí PCI Express, Gigathread engine je zodpovědný za vlastní logiku přenosu dat z RAM do VRAM a především také za plánování a rozdělování práce na jednotlivé další podřízené jednotky. Vlastní řízení grafického čipu je pak práce velmi sofistikovaná a ne nepodobná práci CPU. Každý výrobce se tedy o bližší informace jen nerad dělí a nejinak tomu je právě v případě NVIDIA.

První změnou, které jsme se v generaci Ampere dočkali, je povýšení sběrnice PCI Express na výkonnější verzi PCIe 4.0. Toho mohou samozřejmě využít všichni majitelé základních desek právě s podporou PCIe 4.0 (v současnosti jen AMD Ryzen).

Graphics Processing Cluster (GPC)

V hierarchii blokového schéma je první podřízenou jednotkou Gigathread engine jednotka s názvem Graphics Processing Cluster, neboli GPC. Grafický čip GA104 se skládá celkem ze šesti GPC, které mají obdobnou funkci jako Shader Array v konkurenční architektuře GCN. Kdo četl popis grafické pipeline, jistě již ví, že se jedná o jakousi kompletní grafickou pipeline, kde se primitiva přeměňují v pixely, ze kterých je pak složen celý hotový snímek a zobrazen na vašem monitoru.

Každý GPC obsahuje jednu rasterizační jednotku (Raster engine), která spolupracuje s celkem 4 bloky TPC (Texture/Processor Cluster), ve kterých jsou sdruženy jednotky Polymorph Engine a vždy po dvou jednotkách Streaming Multiprocessors (SM).

Zatímco Polymorph Engine obsahuje fixní jednotky, které se starají o geometrii (Vertex Fetch, Tessellator, Stream Output atd.), SM jednotky jsou jednotkami naopak programovatelnými, na kterých je možné spouštět shadery (programy běžící na GPU).

Streaming Multiprocessor (SM)

Každá jednotka SM se (krom jiného) skládá ze čtyř bloků po 32 výpočetních jednotkách FP32 (CUDA Core), 16 jednotkách INT32 a jedné výpočetní jednotky Tensor Core třetí generace, určené pro tensor/maticové operace strojového učení. Všechny tyto bloky jsou pak propojeny přes sdílenou pamětí $L1 Data Cache (128KB).

Počet jednotek TMU (Texture Mapping Units), které využívají právě shadery k bezstarostnější práci s texturami, nebo raději 2D obrázky obecně, zůstal ve stejném počtu (4x TMU) a stejně tak je zde přítomna i jediná výpočetní jednotka RT Core, která je určena speciálně na výpočty Raytracingu, tedy na výpočty dráhy paprsku a detekci kolizí s 3D objekty scény.

Jak můžete vidět, právě v těchto výpočetních jednotkách došlo asi k té nejdramatičtější změně. Počet výpočetních jednotek FP32 (CUDA Cores) se nám totiž oproti generaci Turing zdvojnásobil. Má to však jeden háček, přidané jednotky FP32 sdílejí datapath (propojení) s jednotkami INT32, takže v jednom taktu mohou být využity buďto jednotky FP32 nebo jednotky INT32. Další změnou jsou pak výpočetní jednotky Tensor Cores, které by měly být v této třetí generaci 2x výkonnější, a stejně tak by měly být dvakrát výkonnější i výpočetní jednotky RT Cores druhé generace.

Spočítáme-li to dohromady, pak každá jednotka SM jako celek tedy disponuje 128x CUDA Cores, 4x Tensor Cores, 1x RT Core a 4x TMU. Pokud tedy GPC obsahuje celkem 4 bloky TPC, můžeme říci, že každý GPC obsahuje jeden rasterizér, 4x Polymorph Engine a 8x SM s 1024x CUDA Cores, 32x TMUs, 32x Tensor Cores a konečně také 8x RT Cores.

Každý GPC se může na vstupu postarat v jednom taktu o jeden primitivní trojúhelník (Triangle) a jeho výstupem jsou pak pixely, které je ale třeba ještě nějakým způsobem finalizovat (Blending, Z buffering atd.) a následně zapsat do framebufferu (Render Target). O tuto finalizaci a ukládání se starají jednotky s názvem Raster Operations Pipeline (ROP), které v generaci Ampere doznaly také změny a nyní jsou přímou součástí bloku GPC (u Turingu byly součástí framebufferu). Každý GPC obsahuje dva samostatné bloky po 8 ROPs, tedy celkem 16 ROPs, které se tedy umí postarat o 16 pixelů na takt.

Framebuffer (VRAM)

Grafický čip GA104 disponuje celkem osmi 32-bit řadiči paměti (256-bit celkem) a 4MB $L2 Cache. Paměťové řadiče podporují také nejnovější paměti typu GDDR6X, které byly vyvinuty v kooperaci se společností Micron a podporují technologii PAM4 (Pulse Amplitude Modulation-4). Zatímco v případě grafických karet GeForce RTX 3070 byly využity "pouze obyčejné" grafické paměti typu GDDR6, u nových grafických karet GeForce RTX 3070 Ti již nalezneme grafické paměti typu GDDR6X o efektivní frekvenci 19000 MHz.

Pokud tedy víme, co vše obsahuje jeden blok GPC, vlastně si již sami můžeme spočítat, co obsahuje celý grafický čip GA104, který má v plné konfiguraci takovýchto GPC bloků celkem 6.

• GPC: 6x
• TPC: 24x
• SM: 48x
• CUDA Cores: 6144x
• Tensor Cores: 192x
• RT Cores: 48x
• TMUs: 192x
• ROPs: 96x

A protože do grafického čipu GA104-400-A1 se tentokrát nijak "neřezalo", nic edečítat nemusíme a takto tedy vypadají specifikace grafické karty GeForce RTX 3070 Ti?

Jak můžete vidět, výhoda nové GeForce RTX 3070 Ti oproti "obyčejné" GeForce RTX 3070 spočívá v opravdu jen lehce vyšším počtu CUDA, RT a Tensor Cores. Drobně navýšen byl také počet TMU a frekvence grafického čipu. Tou asi největší změnou je pak využití výkonnějších grafických pamětí typu GDDR6X. Naopak, stinnou stránkou je u nové GeForce RTX 3070 Ti především zvýšené TDP o významných 70 W. Jak velký nárůst výkonu nám takovéto změny mohou ve hrách přinést? Nic zdrcujícího to asi nebude, ale nepředbíhejme, to si dnes samozřejmě otestujeme také.

Ampere a nové technologie

Grafické karty GeForce RTX 30 přinášejí také nějaké nové technologie, i když to samozřejmě není nic tak přelomového, jako tomu bylo v případě grafických karet Turing, které s sebou přinesly jako první podporu výpočtů real-time raytracingu a DLSS (Deep Lerning Super Sampling). Ať už se ale jedná o technologie nové či starší věřte, že grafické karty generace Ampere jsou na budoucích pár let hraní vybaveny velmi dobře. Tady je takový stručný výpis toho, s čím budete moci u grafických karet Ampere počítat:

• úplná podpora DirectX 12 Ultimate (Ray-tracing, VRS, Mesh shader, sampler Feedback)
• podpora DLSS (proprietární technologie NVIDIA )
• hardwarová akcelerace RT Motion blur (novinka v RT)
• Simultaneous Compute and Graphics (SCG) - souběžné zpracování Graphics + RT + DLSS operací
• RTX IO (podpora Microsoft DirectStorage)
• HDMI 2.1 (přednos signálu až 8K/60Hz)
• DisplayPort 1.4a (přednos signálu až 8K/60Hz)
• NVDEC (s podporou formátů HEVC, VP9, H264 a AV1)

Tak, to by bylo na úvod dnešní recenze asi vše a teď si již pojďme konečně představit grafickou kartu NVIDIA RTX 3070 Ti Founders Edition.