====== Řešení potíží s grafikou (GPU Troubleshooting) ====== Tento průvodce pokrývá nejčastější chyby při používání GPU pro AI výpočty, akceleraci v Dockeru a práci s knihovnami CUDA. ===== 1. Chyba: "NVIDIA-SMI has failed" ===== Tato chyba se obvykle objevuje po aktualizaci systému nebo ovladačů, kdy jádro systému (kernel) stále používá starou verzi modulu, ale v systému je již nová verze. **Příznaky:** * Příkaz ''nvidia-smi'' vrací: //"NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver."// **Řešení:** - **Restart systému:** V 90 % případů vyřeší problém (zavede se správný modul). - **Reload modulu (Linux):** Pokud nemůžete restartovat, zkuste: sudo rmmod nvidia_uvm sudo modprobe nvidia_uvm ===== 2. Chyba: "CUDA Out of Memory" (OOM) ===== K této chybě dochází, když se pokoušíte načíst model, který je větší než dostupná kapacita vaší **VRAM**. **Řešení:** - **Kvantizace:** Použijte menší verzi modelu (např. místo 8-bitové verze použijte 4-bitovou Q4_K_M). - **Snížení kontextu:** Zmenšete ''context window'' (např. z 32k na 8k tokenů). - **Ukončení ostatních aplikací:** Prohlížeče (Chrome) a grafické editory mohou blokovat i několik GB VRAM. ===== 3. Chyba: "CUDA version mismatch" ===== Stav, kdy systém hlásí různé verze CUDA v různých nástrojích. ^ Nástroj ^ Co ukazuje ^ Význam ^ | **nvidia-smi** | CUDA Version: 12.6 | Maximální verze, kterou podporuje váš **ovladač**. | | **nvcc --version** | release 11.8 | Verze **vývojářského toolkitu**, který je fyzicky nainstalován. | **Řešení:** * Pro běh aplikací (Inference) je důležitá verze v ''nvidia-smi''. * Pro kompilaci kódu musíte aktualizovat **CUDA Toolkit** tak, aby odpovídal požadavkům vaší knihovny (např. PyTorch). ===== 4. Problémy v Dockeru ===== **Chyba:** //"could not select device with capabilities: [[gpu]]"// **Kontrolní seznam:** 1. Je na hostiteli nainstalován [[it:nastaveni_gpu_v_dockeru|NVIDIA Container Toolkit]]? 2. Byl po instalaci restartován Docker démon (''sudo systemctl restart docker'')? 3. Máte v ''docker-compose.yml'' správně definovanou sekci ''deploy.resources''? ===== 5. Diagnostické příkazy ===== Pokud nevíte, kde je chyba, spusťte tyto příkazy a výstupy přiložte k ticketu: | Příkaz | Účel | |---|---| | ''nvidia-smi'' | Základní stav GPU, ovladače a VRAM. | | ''watch -n 1 nvidia-smi'' | Sledování teploty a zátěže v reálném čase. | | ''dmesg \| grep -i nvidia'' | Logy jádra (odhalí HW chyby nebo pády ovladače). | | ''sudo lshw -C display'' | Podrobný výpis hardwaru grafické karty. | --- **Související:** * [[it:nvidia_ovladace|Správa NVIDIA ovladačů]] * [[it:nastaveni_gpu_v_dockeru|Konfigurace Dockeru]] * [[it:ovladace_a_cuda|Vše o CUDA]] --- **Správce supportu:** @L2_Support **Aktualizováno:** 04. 01. 2026