Obsah
BIAS (Algoritmická předpojatost)
Bias v IT a umělé inteligenci označuje situaci, kdy algoritmus produkuje systematicky zkreslené výsledky kvůli chybným předpokladům v procesu učení, návrhu nebo kvůli nekvalitním datům. V oblasti AI může bias vést k diskriminaci skupin lidí nebo k chybným predikcím.
1. Základní typy Biasu
Data Bias (Zkreslení v datech)
Nejčastější forma. Pokud jsou trénovací data historicky nespravedlivá nebo nereprezentativní, model se tyto předsudky naučí.
- Příklad: Pokud systém pro nábor zaměstnanců trénujete na datech z firmy, kde historicky pracovali jen muži, model začne automaticky znevýhodňovat ženské kandidátky.
Sampling Bias (Zkreslení výběru)
Vzniká, když data použitá k trénování neodpovídají realitě cílové populace.
- Příklad: Systém na rozpoznávání obličejů trénovaný převážně na lidech světlé pleti bude mít mnohem vyšší chybovost u lidí jiné barvy pleti.
Algorithmic Bias (Algoritmické zkreslení)
Vzniká chybou v samotném kódu nebo v nastavení priorit algoritmu (např. přílišná optimalizace na jeden parametr na úkor ostatních).
2. Bias-Variance Tradeoff (Statistický pohled)
Ve strojovém učení existuje základní dilema mezi dvěma typy chyb:
| Pojem | Popis | Důsledek |
|---|---|---|
| High Bias | Model je příliš jednoduchý (Underfitting). | Ignoruje důležité vztahy v datech a dává konzistentně špatné výsledky. |
| High Variance | Model je příliš komplexní (Overfitting). | Příliš se soustředí na náhodný šum v trénovacích datech a selhává u nových dat. |
3. Dopady v reálném světě
Bias v AI má etické i právní důsledky:
- Soudnictví: Algoritmy pro predikci recidivy mohou vykazovat rasovou předpojatost.
- Finance: Skóringové systémy bank mohou neoprávněně zamítat půjčky lidem z určitých PSČ.
- Zdravotnictví: Diagnostické nástroje mohou být méně přesné pro demografické skupiny, které byly v klinických studiích zastoupeny méně.
4. Jak s Biasem bojovat (Mitigace)
Boj proti předpojatosti je nekončící proces, který zahrnuje:
- Audit dat: Kontrola, zda jsou trénovací sady vyvážené.
- Explainable AI (XAI): Snaha o to, aby rozhodovací procesy „černých skříněk“ AI byly srozumitelné pro lidi.
- Diverse Teams: Zapojení lidí z různých prostředí do vývoje, aby identifikovali předsudky, které by programátoři mohli přehlédnout.
- Adversarial Debiasing: Technika, kde se jedna část AI snaží najít bias v té druhé a tím ji nutí se jej zbavit.
Důležité upozornění: Úplné odstranění biasu je prakticky nemožné, protože i samotná data jsou produktem lidské společnosti, která je přirozeně subjektivní. Cílem je tedy bias identifikovat, minimalizovat a transparentně o něm informovat.