download

Subject
Year
: T0293/Neuro Computing
: 2009
Neural Network Learning Concept
Meeting 3
2
•
Tujuan Learning / Training
agar input dari network dapat menghasilkan output
yang diinginkan ( akurat ) atau paling tidak
menghasilkan output yang konsisten
•
Setiap input yang dimaksud disini adalah sebuah vektor.
Training dilakukan dengan cara mengaplikasikan vektorvektor input secara berurutan. Selama training, bobot
network secara bertahap mencapai konvergen ke suatu
nilai
sedemikian
rupa
sehingga
setiap
input
menghasilkan output yang diinginkan.
3
Supervised Learning
• Supervised Learning / Training memerlukan pasangan
setiap input dengan outputnya ( output yang diinginkan
). Pasangan tersebut disebut ‘ training pair ‘.
• Biasanya network di ‘ trained ‘ dengan sejumlah ‘
training pair ‘. Satu input vektor diaplikasikan, outputnya
dihitung dan dibandingkan dengan target output.
Selisihnya dikembalikan ke network dan sekaligus
bobotnya disesuaikan berdasarkan suatu algoritma
yangn cenderung meminimumkan error.
• Vektor-vektor dari ‘ training set ‘ diaplikasikan
seluruhnya secara berurutan, error dihitung, bobot
disesuaikan sampai seluruh training set menghasilkan
error sekecil-kecilnya.
4
Unsupervised Learning
• Supervised learning dalam konsep human-brain
dianggap tidak tepat. Unsupervised learning sejauh ini
dianggap sebagai model dalam konsep sistem biologis.
• Unsupervised learning dikembangkan oleh Kohonen
(1984) dan beberapa scientist lainnya. Dalam
unsupervised learning, tidak diperlukan
‘ target
output ‘. ‘ Training Set ‘ hanya terdiri dari vektor-vektor
input, tanpa pasangan output.
5
• Algoritma training merubah bobot network untuk
menghasilkan output yang konsisten. Aplikasi dari
vektor-vektor yang cukup serupa akan menghasilkan
pola output yang sama. Dengan demikian, proses
training menghasilkan sifat-sifat statistik dalam bentuk
pengelompokan vektor-vektor dalam beberapa kelas.
• Dengan mengaplikasikan suatu vektor dari suatu kelas
sebagai input, akan menghasilkan vektor output yang
spesifik.
6
Algoritma Learning / Training
• Sebagian besar algoritma learning saat ini dikembangkan
berdasarkan konsep dari
Donald O. Hebb (1961). Neural
Networks yang menggunakan Hebbian learning merubah bobot
network berdasarkan perkalian dari
‘ excitation level
‘ input dan output.
Wij (n+1) = Wij (n) +  OUTi OUTj
dimana :
Wij (n)
Wij (n+1)

OUTi
OUTj
=
=
=
=
=
bobot dari neuron I ke j sebelum penyesuaian
bobot dari neuron I ke j setelah penyesuaian
koefisien ‘ learning rate ‘
output dari neuron i dan input dari neuron j
output dari neuron j
7
• Saat ini dapat dijumpai sejumlah besar algoritma training yang dikembangkan
oleh para ilmuwan antara lain Rosenblatt (1962), Widrow (1959), Widrow dan
Hoff (1960), dan lain lain.
8