. Reti neurali artificiali Stefano Ferrari Universit`a degli Studi di Milano [email protected] Reti Neurali Stage 2014 Il neurone di McCulloch e Pitts (1943) Sl wl θi Sm wm Σ Si wn Sn I I I I I j X wij Sj ≥ θi wij Sj < θi j neurone attivo, 1, neurone silente, 0. I pesi sinaptici, possono assumere solo due valori: I I 0, X La sua funzione di attivazione pu`o assumere due valori: I I Si = 1, eccitatorio, 1 inibitorio, -1. Sk `e lo stato del neurone k-esimo, wij pesa il contributo dell’uscita del neurone j al neurone i, θi `e la soglia del neurone i-esimo. Stefano Ferrari— Stage di Reti Neurali— a.a. 2013/14 1 . Modelli di neurone Ponendo x = wij Sj − θi e Neurone di McCulloch e Pitts Si (x) = ( Si (x) = ( 1.2 1 uscita del neurone McCulloch Pitts 0.8 0.6 x ≥0 1, 0, x <0 0.4 0.2 0 −0.2 −1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1 media pesata degli ingressi Bipolare (Segno) Neurone Bipolare (Segno) 1 0.8 uscita del neurone 0.6 0.4 0.2 0 −0.2 1, −1, x ≥0 x <0 −0.4 −0.6 −0.8 −1 −1 −0.5 0 0.5 1 media pesata degli ingressi Modelli di neurone (2) Arcotangente Neurone Arcotangente 1.5 Si (x) = arctan x uscita del neurone 1 0.5 0 −0.5 −1 −1.5 −10 −8 −6 −4 −2 0 2 4 6 8 10 media pesata degli ingressi Tangente iperbolica Neurone Tangente iperbolica 1 0.8 Si (x) = tanh x uscita del neurone 0.6 0.4 0.2 0 −0.2 −0.4 −0.6 −0.8 −1 −10 −8 −6 −4 −2 0 2 4 6 8 10 media pesata degli ingressi Stefano Ferrari— Stage di Reti Neurali— a.a. 2013/14 2 . Modelli di neurone Lineare (3) Neurone Lineare Si (x) = x 1 0.8 uscita del neurone 0.6 0.4 0.2 0 −0.2 −0.4 −0.6 −0.8 −1 −1 −0.8 −0.6 −0.4 −0.2 0 0.2 0.4 0.6 0.8 1 media pesata degli ingressi Lineare a tratti (rampa) Neurone a rampa 1 uscita del neurone 0.8 0.6 Si (x) = 0.4 0.2 0 −5 −4 −3 −2 −1 0 1 2 3 4 5 media pesata degli ingressi Modelli di neurone 1 1, x ≥ a 1 xa, 0 ≤ x < a 0, x < 0 (4) Gaussiano Neurone Gaussiano ||x − µ||2 g (x; µ, σ) = exp − σ2 1 uscita del neurone 0.8 0.6 0.4 0.2 0 −4 −3 −2 −1 0 1 2 3 4 media pesata degli ingressi I I E’ a simmetria radiale. Gode della propriet`a di localit`a: I I risponde in modo significativo solo in un intorno del centro µ; il parametro σ definisce la regione di risposta. Stefano Ferrari— Stage di Reti Neurali— a.a. 2013/14 3
© Copyright 2024 Paperzz
