S rychlým rozvojem umělé inteligence (AI) se do popředí dostávají otázky, které nejsou jen technického, ale i morálního a společenského rázu. Jak zajistit, aby AI lidstvu pomáhala a neškodila?
AI modely se učí na datech vytvořených lidmi. Pokud jsou tato data zatížena předsudky (rasovými, genderovými, sociálními), model je převezme a může je i zesílit.
Mnoho moderních systémů (zejména hluboké neuronové sítě) funguje jako „černá schránka“. Víme, jaký je vstup a výstup, ale přesně nerozumíme tomu, proč se systém rozhodl právě takto.
Schopnost AI analyzovat obrovské množství dat (rozpoznávání obličejů, analýza chování) může vést k masivnímu sledování obyvatel a ztrátě soukromí.
| Oblast | Riziko |
|---|---|
| Trh práce | Automatizace profesí a nahrazování lidské práce stroji. |
| Bezpečnost | Deepfakes (falešná videa/audio), dezinformační kampaně, kybernetické útoky vedené AI. |
| Závislost | Ztráta kritického myšlení a přílišná spoléhání se na doporučení algoritmů. |
| Autonomní zbraně | „Roboti zabijáci“ schopní rozhodovat o cíli bez lidského zásahu. |
Aby se předešlo katastrofickým scénářům, vznikají různé iniciativy a právní rámce:
Někteří vědci (např. Nick Bostrom) varují před příchodem AGI (Artificial General Intelligence), která by mohla překonat lidskou inteligenci ve všech směrech. Pokud nebude správně nastavena, mohla by lidstvo vnímat jako překážku při dosahování svých (i když původně dobře míněných) cílů.
Základní otázka: Měla by mít AI vědomí a morální status? Pokud stroj dokáže simulovat utrpení, máme k němu mít morální povinnosti?
— Související témata: