S nástupem umělé inteligence do běžného života vyvstala potřeba právně ukotvit její používání. Právo v oblasti AI se snaží vybalancovat podporu inovací s ochranou základních lidských práv a bezpečnosti.

Evropská unie schválila první ucelený právní rámec pro AI na světě. Jeho hlavním principem je klasifikace systémů podle míry rizika.

• Nepřijatelné riziko (Zakázané systémy):
  • Systémy pro sociální bodování (social scoring) po vzoru Číny.
  • Biometrická identifikace v reálném čase na veřejných místech (s výjimkami pro policii).
  • Manipulativní techniky ovlivňující svobodnou vůli.
• Vysoké riziko (Regulované systémy):
  • AI ve zdravotnictví, dopravě, kritické infrastruktuře.
  • Rozhodování o přijetí do škol nebo zaměstnání.
  • Posuzování úvěruschopnosti v bankách.
  • Tyto systémy musí projít certifikací, mít technickou dokumentaci a lidský dohled.
• Omezené riziko:
  • Chatboti (musí přiznat, že jde o AI).
  • Deepfakes (musí být jasně označeny).
• Minimální riziko:
  • Spamové filtry, AI ve videohrách. Zde se nevyžaduje žádná zvláštní regulace.

Jedna z nejvíce diskutovaných oblastí v právu AI.

• Trénování modelů: Je legální trénovat modely na datech chráněných autorským zákonem (scraping)? V EU platí výjimka pro vytěžování textů a dat (TDM), pokud autor výslovně nevydal nesouhlas (opt-out).
• Vlastnictví výstupu: Kdo vlastní obrázek vytvořený nástrojem Midjourney nebo text z ChatGPT? Podle současné české i evropské legislativy může být autorem pouze fyzická osoba. Výstupy čisté AI tedy nejsou chráněny autorským právem jako dílo, ale mohou být předmětem jiných práv (např. smluvních ujednání).

Kdo nese odpovědnost, když AI způsobí škodu (např. samořízené auto způsobí nehodu nebo AI v medicíně stanoví špatnou diagnózu)?

• Směrnice o odpovědnosti za AI: Navrhovaná pravidla, která mají usnadnit obětem získat odškodnění.
• Presumpce příčinné souvislosti: V určitých případech bude muset výrobce/provozovatel prokázat, že jeho systém chybu nezpůsobil, místo aby poškozený složitě dokazoval vnitřní logiku algoritmu.

AI systémy často pracují s osobními údaji. Musí proto splňovat:

• Minimalizaci dat: Sběr pouze nezbytných údajů.
• Účelové omezení: Data nesmí být použita k jinému účelu, než pro který byla získána.
• Právo na zapomnění: Možnost nechat smazat svá data z trénovacích sad (technicky velmi náročné).

Důležité: Pro firmy v ČR znamená AI Act nutnost provést audit svých nástrojů a zjistit, do které kategorie rizika spadají. Sankce za porušení mohou dosahovat až 35 milionů EUR nebo 7 % celosvětového obratu.

Související témata:

• Etika a rizika umělé inteligence
• Implementace AI ve firmě
• Kybernetická bezpečnost a legislativa