Lineární algebra je základním pilířem umělé inteligence (AI) a strojového učení (ML). Poskytuje matematický aparát pro efektivní práci s velkými objemy dat, transformaci informací a optimalizaci algoritmů. Většina operací v hlubokém učení (deep learning) není v jádru nic jiného než rozsáhlé operace nad maticemi a vektory.
V AI pracujeme se čtyřmi hlavními úrovněmi abstrakce dat:
Jedna z nejdůležitějších operací. V neuronových sítích se používá k výpočtu aktivace neuronu. Skalární součin vektoru vstupů $x$ a vektoru vah $w$ určuje, jak moc vstup odpovídá naučenému vzoru.
Formálně: $x \cdot w = \sum_{i=1}^{n} x_i w_i$
Zatímco skalární součin řeší jeden neuron, násobení matic řeší celou vrstvu sítě najednou. Je to proces, který transformuje vstupní prostor do jiného (např. z 784 pixelů na 128 abstraktních rysů).
| Operace | Význam v AI |
|---|---|
| Matice x Vektor | Transformace jednoho datového bodu. |
| Matice x Matice | Průchod celého „batche“ dat vrstvou sítě. |
| Transpozice | Překlopení matice, nutné při výpočtu zpětného šíření chyby (backpropagation). |
Pomáhají pochopit „směr“, kterým se data nejvíce mění.
Metoda rozkladu matice na tři specifické komponenty.
Zajímavost: Když slyšíte o „TensorFlow“, název je odvozen právě od „tékání“ (flow) tenzorů skrze graf matematických operací.