Troubleshooting Guide: GPU & AI Výpočty

Tento průvodce slouží k diagnostice a řešení nejčastějších technických problémů spojených s provozem Small Language Models, CUDA a Dockeru.

1. Diagnostické kolečko (První pomoc)

Dříve než začnete měnit konfiguraci, proveďte tyto tři kroky:

Ověření HW: Je karta správně detekována systémem? (nvidia-smi nebo Správce zařízení).
Kontrola VRAM: Není paměť zaplněna jinou aplikací (prohlížeč, jiný model)?
Restart služeb: U Dockeru sudo systemctl restart docker, u Windows restart aplikace Ollama/LM Studio.

K této chybě dochází, když se model (nebo jeho kontext) nevejde do paměti grafické karty.

Příčina: Model je příliš velký nebo máte nastavené příliš dlouhé „Context Window“.
Řešení: * Použijte vyšší stupeň kvantizace (např. místo Q8 zvolte Q4_K_M).
- Snižte parametr num_ctx v konfiguraci modelu.
- Povolte GPU offloading (přesun části vrstev modelu do systémové RAM – podporuje např. llama.cpp).

Příčina: Verze ovladače v jádře (kernel) neodpovídá nainstalovaným knihovnám. Často po aktualizaci OS bez restartu.
Řešení: Restartujte stroj. Pokud problém přetrvává, přeinstalujte ovladač pomocí Studio Driveru.

Příčina: Vaše verze PyTorch/TensorFlow byla zkompilována pro novější (nebo starší) architekturu GPU, než kterou máte.
Řešení: Zkontrolujte Compute Capability vaší karty a nainstalujte odpovídající verzi knihovny.

Příznak	Možná příčina	Řešení
Kontejner nevidí GPU	Chybí `–gpus all` nebo runtime v Dockeru.	Instalujte Container Toolkit.
Pomalý výkon v Dockeru	Používá se CPU místo GPU.	Ověřte přítomnost knihovny `libnvidia-ml.so` v kontejneru.
Chyba „Unknown runtime: nvidia“	Docker daemon není nakonfigurován.	Spusťte `nvidia-ctk runtime configure –runtime=docker`.

Pokud výkon modelu po čase klesá (klesá počet tokenů za sekundu), pravděpodobně dochází k Thermal Throttlingu.

watch -n 1 nvidia-smi

Meze: Pokud teplota překročí 85°C, karta sníží takt.
Řešení: * Vyčistěte chlazení.
- Nastavte agresivnější křivku ventilátorů (Fan Curve).
- Snižte Power Limit (např. nvidia-smi -pl 200), což sníží teplotu při minimálním dopadu na výkon AI.

Při hlášení chyby na support přiložte výstupy z:

— Související rozcestník:

— Autor: @L3_Support_Team Poslední aktualizace: 04. 01. 2026