Umělá neuronová síť

Model umělého neuronu

Je popsána celá řada modelů neuronů. Od těch velmi jednoduchých používající nespojité přenosové funkce, až po velmi složité popisující každý detail chování neuronu živého organismu. Jedním z nejpoužívanějších je model popsaný McCullochem a Pittsem:

${\displaystyle Y=S(\sum _{i=1}^{N}(w_{i}{}x_{i}{})+\Theta )}$

kde:

• ${\displaystyle x_{i}{}}$ jsou vstupy neuronu
• ${\displaystyle w_{i}{}}$ jsou synaptické váhy
• ${\displaystyle \Theta }$ je práh
• ${\displaystyle S(x)}$ je přenosová funkce neuronu (někdy aktivační funkce)
• ${\displaystyle Y}$ je výstup neuronu

Velikost vah ${\displaystyle w_{i}{}}$ vyjadřuje uložení zkušeností do neuronu. Čím je vyšší hodnota, tím je daný vstup důležitější. V biologickém neuronu práh ${\displaystyle \Theta }$ označuje prahovou hodnotu aktivace neuronu. Tzn. je-li ${\displaystyle \sum _{i=1}^{N}(w_{i}{}x_{i}{})}$ menší než práh, neuron je v pasivním stavu.

Podle povahy vstupních (a výstupních) dat můžeme neurony dělit na binární a spojité. Podle typu neuronu a typu neuronové sítě se použije vhodná přenosová funkce.

Skoková přenosová funkce

Sigmoidální přenosová funkce

• Skoková přenosová funkce vrací pro vstup menší než daná mez nulu, pro větší vrací jedna. ${\displaystyle f(x)=0}$ pro ${\displaystyle x<\Theta }$ a ${\displaystyle f(x)=1}$ pro ${\displaystyle x\geq \Theta }$

• Sigmoidální přenosová funkce je ve tvaru ${\displaystyle f(x)={\frac {1}{1+e^{-kx}}}}$. Její hodnoty se blíží v minus nekonečnu nule a v nekonečnu jedničce. Pro nulu je hodnota 0,5. Výhodou sigmoidální přenosové funkce oproti skokové je existence spojité první derivace v každém bodě.

Přenosová funkce hyperbolické tangenty

Přenosová funkce radiální báze

• Přenosová funkce hyperbolické tangenty je ve tvaru ${\displaystyle f(x)={\frac {2}{1+e^{-kx}}}-1}$. Její hodnoty se blíží -1 v minus nekonečnu a jedničce v nekonečnu. Pro nulu je hodnota 0.

• Přenosová funkce radiální báze je ve tvaru ${\displaystyle f(x)=e^{-kx^{2}}}$. Její hodnoty se blíží nule v minus nekonečnu a nule v nekonečnu. Pro nulu je maximální hodnota 1.

Podle způsobů propojení neuronů a jejich přenosové funkce existuje více různých architektur neuronových sítí, například:

• Perceptron
• Vrstevnatá neuronová síť
• Rekurentní neuronová síť
• Kohonenovy mapy
• Modulární neuronové sítě

Cílem učení neuronové sítě je nastavit síť tak, aby dávala co nejpřesnější výsledky. V biologických sítích jsou zkušenosti uloženy v dendritech. V umělých neuronových sítích jsou zkušenosti uloženy v jejich matematickém ekvivalentu - váhách. Učení neuronové sítě rozlišujeme na učení s učitelem a učení bez učitele. Fáze učení neuronové sítě bývá nazývána adaptivní. Po naučení neuronové sítě je síť ve fázi vybavování.

Biologické studie ukazují, že lidský mozek nepracuje jako jediná masivní síť, ale jako soubor malých sítí. Tento výzkum dal zrod konceptu modulárních neuronových sítí, ve kterých několik malých sítí spolupracuje nebo soutěží, aby vyřešily daný problém.

• Obrázky, zvuky či videa k tématu umělá neuronová síť na Wikimedia Commons
• Umělá neuronová síť v České terminologické databázi knihovnictví a informační vědy (TDKIV)
• Předpovídání pomocí neuronové sítě - včetně Java appletu pro experimenty s předpovídáním funkce
• ČVUT Gerstner^{[nedostupný zdroj]} - prezentace neuronových sítí