Back Prop. Exam Q example
By Ariel Rosenfeld
Adapted from Matt Mazur
Net structure
• Random weights
• Input = <0.05 , 0.10>
• True output = <0.01 ,0.99>
‫סעיף א'‬
‫• חשב מה יהיה פלט הרשת‪.‬‬
Feed Forward…
Feed Forward cont.
‫סעיף ב'‬
‫• חשב את הטעות עבור כל אחד מן הנוירונים‬
‫בשכבת ה‪OUTPUT‬‬
‫>‪• True output = <0.01 ,0.99‬‬
‫>‪• Net output = <0.7513,0.7729‬‬
‫‪• Err (O1) = -0.7413 * 0.1868 = -0.1384‬‬
‫‪• Err (O2) = 0.2171 * 0.1755 = 0.0381‬‬
'‫סעיף ג‬
.OUTPUT ‫ ל‬HIDDEN‫• עדכן את המשקולות בין ה‬
0.5 ‫השתמש בקצב למידה‬
Wj,i = w + alpha * output_j * miss_i
• W5 = w5 +0.5* 0.593*-0.1384 = 0.359
• W6 = 0.408
• W7 = 0.511
• W8 = 0.561
‫• חשב את הטעות עבור ‪H1‬‬
‫‪• Err(h1) = 0.593 * (1-0.593)* (0.4*-0.1384 +‬‬
‫‪0.5*0.0381) = 0.2413*(-0.055 + 0.019)= -.0087‬‬
W1 ‫• עדכן משקולת‬
• W1 = w1 + alpha * input1 *miss_1
• W1 = 0.15 + 0.5 *0.05*-0.0087 = 0.1497
If time permits…
• Additional question (rather easy) in
– 2015a exam