¨====== NVIDIA Jetson ====== **NVIDIA Jetson** je rodina vestavěných (embedded) výpočetních platforem od společnosti NVIDIA, navržených specificky pro **Edge AI** (umělou inteligenci na okraji sítě). Jedná se o výkonné systémy na modulu (**[[soc|SoC]]**), které kombinují procesory [[architektura_arm|ARM]] s vysoce výkonnými grafickými čipy (GPU) architektury NVIDIA. Hlavním přínosem Jetsonu je schopnost spouštět moderní modely [[hluboke_uceni|hlubokého učení]] lokálně, s nízkou spotřebou energie, bez nutnosti odesílat data ke zpracování do cloudu (např. na [[gcp|GCP]]). ===== Architektura a technologie ===== Klíčem k výkonu Jetsonu je **sdílená paměťová architektura** mezi CPU a GPU a přítomnost specializovaných jader: * **CUDA Cores:** Tisíce malých jader pro paralelní výpočty, která urychlují grafiku a matematické operace. * **Tensor Cores:** Specializovaný hardware pro násobení matic, což je základní operace neuronových sítí. Drasticky zrychluje trénování a inferenci AI. * **NVDLA (NVIDIA Deep Learning Accelerator):** Dedikovaný čip pro energeticky efektivní běh AI modelů. ===== Hlavní produktové řady ===== ^ Řada ^ Cílové použití ^ Výkon (AI) ^ | **Jetson Nano** | Výuka, základní robotika, chytré kamery. | 472 GFLOPS | | **Jetson TX2** | Průmyslové drony, pokročilé brány IoT. | 1.3 TFLOPS | | **Jetson Xavier** | Autonomní stroje, doručovací roboti. | Až 32 TOPS | | **Jetson Orin** | Špičková robotika, autonomní vozidla, lékařské přístroje. | Až 275 TOPS | ===== Softwarový ekosystém: NVIDIA JetPack ===== Hardware Jetsonu by byl nevyužitelný bez softwarového balíku **JetPack SDK**, který obsahuje: * **Linux for Tegra (L4T):** Operační systém založený na Ubuntu. * **CUDA Toolkit:** Pro vývoj aplikací využívajících GPU. * **TensorRT:** Knihovna pro vysoce výkonnou inferenci (běh) neuronových sítí, která optimalizuje modely pro konkrétní hardware Jetsonu. * **cuDNN:** Knihovna primitiv pro hluboké neuronové sítě. ===== Praktické využití v AI ===== * **Autonomní drony:** Zpracování obrazu z kamer v reálném čase pro vyhýbání se překážkám bez latence internetu. * **Inteligentní video analýza (IVA):** Sledování počtu osob, detekce obličejů nebo rozpoznávání SPZ přímo v kameře. * **Průmysl 4.0:** Automatická kontrola kvality na výrobních linkách pomocí počítačového vidění. * **Zdravotnictví:** Přenosné diagnostické přístroje využívající AI k okamžité analýze snímků. ===== Srovnání: Jetson vs. Raspberry Pi ===== Zatímco obě zařízení jsou [[sbc|SBC]] na bázi ARM, Jetson je v oblasti AI řádově výkonnější díky svému GPU. [[raspberry_pi|Raspberry Pi]] postrádá Tensor jádra, a proto je pro náročné modely (jako detekce objektů v 60 FPS) nevhodné, zatímco Jetson tyto úlohy zvládá s rezervou. --- //Související pojmy: [[hluboke_uceni|Hluboké učení]], [[sbc|SBC]], [[soc|SoC]], [[architektura_arm|Architektura ARM]], [[tsmc|TSMC]] (výrobce čipů NVIDIA)//