Čipy NVIDIA Hopper

Hopper je generace grafických procesorů (GPU) a hardwarová architektura od společnosti NVIDIA, představená v roce 2022. Je pojmenovaná po Grace Hopper, americké pionýrce v oblasti computer science a armádní admirálici. Architektura Hopper navázala na generaci Ampere a stala se základním stavebním kamenem pro vlnu moderní generativní umelecké inteligence a velkých jazykových modelů (LLM).

Klíčové inovace architektury Hopper

Architektura Hopper byla navržena s primárním zaměřením na masivní zrychlení paralelizovaných výpočtů v umělé inteligenci (AI) a vysoce výkonném počítání (HPC). Mezi hlavní technologické novinky patřily:

Inovace	Popis
Transformer Engine	Speciální hardwarový blok navržený tak, aby automaticky optimalizoval výpočty (přepínal mezi 16bitovou a 8bitovou precizností) při trénování a provozu modelů typu Transformer.
DPX Instructions	Instrukce zaměřené na akceleraci dynamického programování, které až několikanásobně zrychlují řešení optimalizačních úloh, genetických algoritmů či analýzy DNA.
Confidential Computing	Hardwarová ochrana dat a modelů v paměti GPU před neoprávněným přístupem, což umožňuje bezpečné sdílení výpočetního výkonu v cloudu.
Distributed Shared Memory	Rychlé sdílení paměti mezi různými bloky GPU, které zvyšuje efektivitu při zpracování obrovských distribuovaných úloh.

Hlavní zástupci a modely

Nejznámějším a nejrozšířenějším čipem postaveným na této architektuře je NVIDIA H100 (případně odvozené varianty jako H200).

* NVIDIA H100 Tensor Core: Čip vyrobený speciálním 4N procesem od TSMC, obsahující 80 miliard tranzistorů a vybavený rychlou pamětí typu HBM3. Stal se světovým standardem v datových centrech pro trénování modelů, jako jsou GPT-4 a další. * NVIDIA H200: Evoluční vylepšení s masivním navýšením kapacity a propustnosti paměti (využívá paměti typu HBM3e), což extrémně zrychlilo fázi inferences (nasazení modelů do ostrého provozu pro koncové uživatele).

Význam pro éru velkých jazykových modelů

Čipy řady Hopper tvořily páteřní infrastrukturu, na které vznikla většina dnešních předních AI systémů. Serverové uzly jako NVIDIA DGX H100 propojovaly tyto čipy pomocí vysokorychlostního rozhraní NVLink, čímž umožnily zvládat výpočty, které by na starších architekturách trvaly měsíce nebo by byly zcela neproveditelné.

icon

Tip: Přestože je generace Hopper postupně nahrazována novější architekturou Blackwell, čipy H100 a H200 nadále tvoří obrovskou část výpočetní kapacity světových datových center a cloudových gigantů.