Zpracování přirozeného jazyka (Natural Language Processing – NLP) je klíčová a extrémně rychle se rozvíjející disciplína na pomezí informatiky, umělé inteligence (AI) a počítačové lingvistiky. Jejím cílem je naučit počítače číst, analyzovat, chápat a generovat lidský jazyk (ať už psaný text, nebo mluvené slovo) způsobem, který je smysluplný a užitečný.
Zatímco tradiční programování vyžaduje striktní a jednoznačnou syntaxi (jako C++ nebo Python), lidský jazyk je plný nejednoznačností, dvojsmyslů, sarkasmu, idiomů a gramatických výjimek. NLP je mostem, který převádí tento „chaotický“ lidský projev do strukturovaných dat, kterým dokáže algoritmus porozumět.
Proces komunikace se dělí na porozumění a tvorbu. Stejně tak se NLP historicky dělí na dvě hlavní větve:
Než může starší analytický model nebo vyhledávač z textu něco vyvodit, musí surový text projít sekvencí úprav, takzvanou NLP Pipeline. Zde jsou nejčastější kroky:
Technologie NLP prošla od svých počátků obrovskou revolucí. Změnil se způsob, jakým počítače jazyk chápou.
Systémy založené na tvrdě nakódovaných gramatických pravidlech (if-then-else) a rozsáhlých slovnících, které tvořili lingvisté.
Nástup strojového učení (Machine Learning). Namísto psaní pravidel lingvisty se do počítače nahrály obrovské databáze textů (korpusy). Algoritmy (např. Naivní Bayes, Skryté Markovovy modely) počítaly pravděpodobnost, s jakou se slova vyskytují vedle sebe. Tímto způsobem fungovaly první úspěšné spam filtry.
Počítače začaly využívat neuronové sítě a reprezentovat slova jako složité vektory v mnohorozměrném matematickém prostoru (technologie Word2Vec). Počítač sice nechápe význam slova „Král“, ale ví, že z matematického hlediska k němu má blízko „Muž“ a „Trůn“. Umožnilo to řešit matematické rovnice typu: Král - Muž + Žena = Královna.
Zlomový okamžik přišel v roce 2017 s architekturou Transformer (vytvořenou společností Google). Tento algoritmus zavedl mechanismus „Self-Attention“ (Pozornost). Prohlíží celou větu najednou (nikoliv slovo po slovu) a určuje, jaké slovo souvisí s jakýmkoli jiným slovem v textu, i když jsou daleko od sebe. Na této technologii stojí moderní giganti jako rodina modelů GPT (OpenAI) nebo BERT (Google).
S prvky NLP se dnes setkáváme prakticky neustále:
| Metoda | Doba největší slávy | Jak se systém učí? | Největší slabina | Typické nasazení |
|---|---|---|---|---|
| Pravidlová | 80. léta | Lingvista manuálně píše regex a gramatická IF/THEN pravidla | Extrémně nepružné, nezvládá slang a překlepy | Extrakce formátovaných dat (např. rodných čísel) |
| Statistická | Nulté roky | Počítá četnost a pravděpodobnost slov ve velkém textu (TF-IDF) | Chybí hlubší chápání kontextu a synonym | Detekce SPAMu v e-mailu |
| Transformery (LLM) | 2017 a dále | Pozornost (Self-Attention) a trénink na téměř celém internetu | Hardwarově extrémně náročné, občasné „halucinace“ (vymýšlení si) | ChatGPT, DeepL, Copilot |