Matakuliah
Tahun
Versi
: H0434/Jaringan Syaraf Tiruan
: 2005
:1
Pertemuan 5
SUPERVISED HEBBIAN LEARNING
1
Learning Outcomes
Pada akhir pertemuan ini, diharapkan mahasiswa
akan mampu :
• Membuktikan Hebb Rule dengan contoh
aplikasi.
2
Outline Materi
• Review Vektor
• Jaringan Linier Assosiator
3
VECTOR REVIEW
• Linier Dependence ( bergantung linier )
Jika ada n buah skalar a1, a2, …..an
dimana paling sedikit satu tidak bernilai nol
sedemikian rupa sehingga :
a1X1 + a2X2 + …….. + anXn = 0
maka { X1, X2, ……Xn } bergantung linier
( linearly dependent )
4
VECTOR REVIEW
• Linier Independence ( bebas linier )
Jika a1X1 + a2X2 + …….. + anXn = 0 dan
a1, a2, …..an semuanya nol maka { X1, X2,
……Xn } bebas linier ( linearly independent ).
5
CONTOH
•
Jeruk : p1 =
1
1
1
Apel : p2 =
1
1
1
Misalkan : a1p1 + a2p2 = 0 , hal ini
bisa terjadi jika a1 dan a2 sama
dengan nol sehingga p1 dan p2
adalah vektor-vektor yang bebas linier,
p1 tidak dapat dinyatakan sebagai
perkalian bilangan skalar dengan p2
ataupun sebaliknya.
6
x12 x 22 ......... x 32
INNER PRODUCT DAN NORM
• Inner Product
( x,y ) = xTy = x1y1 + x2y2 + ……… + xnyn
• Norm
|| x || = ( xTx )1/2x=12 x 22 ......... x 32
Pada aplikasi jaringan syaraf sering berguna
untuk menormalisasikan vektor input yang
berarti || pi || = 1 untuk setiap vektor input.
7
ANGLE DAN ORTOGONALITY
•
ANGLE ( Sudut antara 2 vektor )
cos
•
x, y
x y
ORTHOGONALITY
• Dua vektor x , y X dikatakan
orthogonal jika ( x,y ) = 0.
8
SUPERVISED HEBBIAN LEARNING
•
LINIER ASSOCIATOR
p
Rx1
W
n
a
Sx1
Sx1
SxR
R
a=purelin(Wp)
9
LINIER ASSOCIATOR
• Linier associator adalah sebuah contoh dari tipe jaringan
syaraf yang disebut dengan associative memory.
Tugas dari associative memory adalah mempelajari Q
buah pasangan dari prototype input/output vector :
{ p1,t1 } , { p2,t2 } , ………. , { pQ,tQ }
• Dengan kata lain jika jaringan menerima input p = pq ,
maka jaringan harus memberikan output a = tq untuk q =
1,2,….,Q. Jika input berubah sedikit ( p = pq + ) maka
output hanya akan diubah sedikit pula ( a = tq + ).
10
HEBB RULE
• Hebb’s Postulate : If two neuron on either
side of a synapse are activated
simultaneously, the strength of the synapse
will increase.
• Koneksi ( synapse ) antara input p dan
output a adalah bobot w sehingga secara
matematis postulate diatas dapat ditulis sbb :
w
baru
ij
w
lama
ij
.a iq .p jq
11
HEBB RULE
w ijbaru w ijlama .t iq .p jq
Secara Vektor dengan dengan learning rate = 1 :
Wbaru Wlama t q p qT
Jika bobot awal diinisialisasi dengan nol, maka :
W t 1p1T t 2 p T2 t 3 p 3T ....... t Q p QT
W t 1 t 2 ..........t Q
p1T
T
p 2
. TP T
.
p T
Q
12
CONTOH
• Prototipe vector input/output dinyatakan sbb :
0 .5
0 .5
1
, t1
p1
0 .5
1
0 .5
0 .5
0 .5
1
, t 2
p 2
0 .5
1
0 .5
Tentukanlah matriks bobot W.
13
JAWAB
1 1 0.5 0.5 0.5 0.5
W TP
0 .5 0 .5 0 . 5 0 .5
1
1
1 0 0 1
W
0
1
1
0
T
Test dengan prototipe input :
0.5
1 0 0 1 0.5 1
a Wp1
0 1 1 0 0.5 1
0
.
5
0.5
1 0 0 1 0.5 1
a Wp 2
0 1 1 0 0.5 1
0
.
5
14
© Copyright 2024 Paperzz
