Umělé neuronové sítě — ruční výpočet a praxe trénování

Zdroj: raw/ipmrk/nn-vypocet.md | Kurz: IpmrK

Shrnutí

Navazuje na teorii neuronových sítí. Ukazuje konkrétní ruční výpočet učení neuronu krok za krokem, poté rozšiřuje na vícevrstvé sítě a praktický postup návrhu, trénování a testování.

Hlavní body

Ruční výpočet — pro každý trénovací případ: skalární součin vstupů a vah (a = x·w) → aktivační funkce (hardlim/threshold) → výstup → chyba (e = y − m) → korekce vah (w_new = w_old + e·x).
Vícevrstvá síť — vstupní vrstva → skrytá vrstva I → skrytá vrstva II → výstupní vrstva. Skryté vrstvy vytvářejí vnitřní reprezentace, umožňují modelovat nelineární vztahy.
Kompromis (bias-variance) — příliš jednoduchý model = podučený (vysoká chyba), příliš složitý = přeučený (nefunguje na nových datech).
Praktický postup:
- Připravit data (vstupní matice, výstupy)
- Zvolit počet vrstev a neuronů
- Zvolit aktivační funkci
- Rozdělit data na trénovací/testovací (např. 75/25 %)
- Trénovat a sledovat chybu
Kritéria ukončení — chyba pod mezí (např. 1 %), max iterací (např. 10 000), max čas (např. 60 min).
Graf chyby — sledování průběhu chyby přes iterace: ideální klesá a stabilizuje se, může být pomalý, nestabilní, nebo divergovat.

Zkouškové shrnutí

Neuronová síť se učí iterativní úpravou vah podle chyby, přičemž v praxi je nutné správně zvolit architekturu, rozdělit data na trénovací a testovací část a sledovat průběh chyby, aby model dobře generalizoval.

Souvislosti

Umělé neuronové sítě — hlavní téma
Neuronové sítě — teorie — předchozí přednáška
Backpropagation — algoritmus učení