Assignment 6.pdf

‫ﺑﻪ ﻧﺎم ﺧﺪا‬
‫ﻣﻬﻠﺖ ﺗﺤﻮﻳﻞ‪:‬‬
‫ﺗﻜﻠﻴﻒ ﺷﺸﻢ‬
‫‪ 8‬ﺻﺒﺢ دوﺷﻨﺒﻪ ‪1392/9/25‬‬
‫درس ﺷﺒﻜﻪ ﻫﺎي ﻋﺼﺒﻲ و ﺳﺎﻣﺎﻧﻪ ﻫﺎي‬
‫ﻓﺎزي‬
‫ﺗﻜﺎﻟﻴﻒ را ﺑﻪ ﺻﻮرت ذﻛﺮ ﺷﺪه در ﺻﻮرت ﺗﻤﺮﻳﻦ ) دﺳﺘﻲ و ﻳﺎ اﻟﻜﺘﺮوﻧﻴﻜﻲ( اﻧﺠﺎم دﻫﻴﺪ و ﻫﺮ دو را ﻗﺒﻞ از ﻣﻮﻋﺪ ﺗﺤﻮﻳﻞ دﻫﻴﺪ ﺗﺎ ﺑﻪ دﻟﻴﻞ ﺗﺎﺧﻴﺮ از ﻧﻤﺮهﺗﺎن‬
‫ﻛﺎﺳﺘﻪ ﻧﺸﻮد‪ .‬ﺗﻤﺮﻳﻨﺎت اﻟﻜﺘﺮوﻧﻴﻜﻲ ﺣﺘﻤﺎً اﺣﺘﻴﺎج ﺑﻪ ﮔﺰارش و ﻧﺘﻴﺠﻪﮔﻴﺮي دارد و ﮔﺰارش ﺑﺎﻳﺪ ﺑﺎ ﻓﺮﻣﺖ ‪ PDF‬ارﺳﺎل ﺷﻮد‪ .‬ﺑﺮاي ﻫﺮ ﺳﻮال از ﻗﺴﻤﺖ اﻟﻜﺘﺮوﻧﻴﻜﻲ‬
‫ﺑﺎﻳﺪ ﻳﻚ اﺳﻜﺮﻳﭙﺖ اﻳﺠﺎد ﻧﻤﺎﻳﻴﺪ ﺗﺎ ﺧﻮاﺳﺘﻪﻫﺎي ﺳﺌﻮال را ﻧﻤﺎﻳﺶ دﻫﺪ‪ .‬ﻛﺪﻫﺎ و ﮔﺰارش ﻣﺮﺑﻮﻃﻪ را داﺧﻞ ﭘﻮﺷﻪ ﻗﺮار داده و ﺑﺎ ﻋﻨﻮان‬
‫‪ HW6_STID_FirstName_LastName‬ﺑﻪ آدرس ‪ [email protected]‬ارﺳﺎل ﻧﻤﺎﻳﻴﺪ‪.‬‬
‫ﺳﻮاﻻت ﺧﻮد را ﺑﻪ اﻳﻤﻴﻞ ‪ [email protected]‬ارﺳﺎل ﻧﻤﺎﻳﻴﺪ‪.‬‬
‫ﺗﻤﺮﻳﻦﻫﺎي دﺳﺘﻲ‬
‫‪ -1‬ﻳﻚ ﺳﻴﺴﺘﻢ دﻳﻨﺎﻣﻴﻜﻲ ﺑﺎ ﻣﻌﺎدﻻت زﻳﺮ را در ﻧﻈﺮ ﺑﮕﻴﺮﻳﺪ‪ .‬ﻧﻘﺎط ﺛﺎﺑﺖ اﻳﻦ ﺳﻴﺴﺘﻢ و ﭘﺎﻳﺪاري )ﺧﻄﻲ( آنﻫﺎ را ﻣﻌﻴﻦ ﻧﻤﺎﻳﻴﺪ‪ .‬ﻫﻤﭽﻨﻴﻦ ‪phase ‬‬
‫‪ portrait‬اﻳﻦ ﺳﻴﺴﺘﻢ را ﺗﺮﺳﻴﻢ ﻧﻤﺎﻳﻴﺪ‪.‬‬
‫‪ x  3 y‬‬
‫‪‬‬
‫‪2‬‬
‫‪2‬‬
‫‪ y   x   y  x  xy  y‬‬
‫‪ -2‬ﻣﻌﻤﻮﻻ در روش اﺛﺒﺎت ﭘﺎﻳﺪاري اﻟﮕﻮرﻳﺘﻢ ﻣﻌﺎدﻻت ﺗﻔﺎﺿﻠﻲ را ﺑﻪ ﻣﻌﺎدﻻت دﻳﻔﺮاﻧﺴﻴﻞ ﺗﺒﺪﻳﻞ ﻣﻲ‪ ‬ﻛﻨﻨﺪ‪ .‬ﻓﺮض ﻛﻨﻴﺪ ﻛﻪ ﻣﻌﺎدﻻت دﻳﻔﺮاﻧﺴﻴﻞ ﺗﺒﺪﻳﻞ‬
‫ﺷﺪه ﺑﺮاي ﻳﻚ روش ﻳﺎدﮔﻴﺮي ﺑﻪ ﺻﻮرت زﻳﺮ ﺑﺎﺷﺪ‪:‬‬
‫‪d‬‬
‫‪2‬‬
‫‪ dt x 1  ax 1 1  x 1 ‬‬
‫‪‬‬
‫‪ d x  b  1 x  x 2  12  x 3‬‬
‫‪2‬‬
‫‪1‬‬
‫‪2‬‬
‫‪ dt 2‬‬
‫در ﻣﻮرد ﭘﺎﻳﺪاري اﻳﻦ اﻟﮕﻮرﻳﺘﻢ اﻇﻬﺎر ﻧﻈﺮ ﻧﻤﻮده و ﭘﺎراﻣﺘﺮﻫﺎي ‪ a‬و ‪ b‬را ﻧﻴﺰ ﺗﻌﻴﻴﻦ ﻧﻤﺎﻳﻴﺪ‪ .‬راﻫﻨﻤﺎﻳﻲ‪ :‬ﺑﺮرﺳﻲ ﻧﻤﺎﻳﻴﺪ ﻛﻪ آﻳﺎ ﺗﺎﺑﻊ‬
‫‪ V (x 1 , x 2 )   x 12  1  x 22‬ﻣﻲ ﺗﻮاﻧﺪ ﺑﻪ ﻋﻨﻮان ﺗﺎﺑﻊ ﻟﻴﺎﭘﺎﻧﻮف در ﻧﻈﺮ ﮔﺮﻓﺘﻪ ﺷﻮد‪ .‬‬
‫‪2‬‬
‫‪ ‬‬
‫‪ -3‬ﺳﻴﺴﺘﻢ دﻳﻨﺎﻣﻴﻜﻲ ﺑﻪ ﺻﻮرت زﻳﺮ ﺗﻌﺮﻳﻒ ﺷﺪه اﺳﺖ‪:‬‬
‫‪ ‬‬
‫‪ ‬‬
‫‪d‬‬
‫‪dt‬‬
‫‬
‫‬
‫ﻛﻪ ‪ a‬ﻳﻚ ﻋﺪد ﺣﻘﻴﻘﻲ ﻣﻲ ﺑﺎﺷﺪ‪.‬‬
‫اﻟﻒ( ﻧﻘﺎط ﺛﺎﺑﺖ اﻳﻦ ﺳﻴﺴﺘﻢ دﻳﻨﺎﻣﻴﻜﻲ را ﺑﺮﺣﺴﺐ ﭘﺎراﻣﺘﺮ ‪ a‬ﺑﻴﺎﺑﻴﺪ‪.‬‬
‫ب( در ﻣﻮرد ﭘﺎﻳﺪاري ﺧﻄﻲ اﻳﻦ ﻧﻘﺎط ﺑﺤﺚ ﻛﻨﻴﺪ‪.‬‬
‫ج( ﻧﺸﺎن دﻫﻴﺪ ﻛﻪ ﻧﻘﻄﻪ ي ‪0,0‬‬
‫‪ ,‬ﺑﻪ ازاي ﻣﻘﺎدﻳﺮ ﻣﺜﺒﺖ ‪ a‬ﻳﻚ ﻧﻘﻄﻪ ي ﭘﺎﻳﺪار ﻣﺠﺎﻧﺒﻲ ﻣﻲ ﺑﺎﺷﺪ‪ ( Asymptotic Stability ) .‬‬
‫‪ ‬‬
‫‪ -4‬ﻣﻌﺎدﻻت ﺗﻔﺎﺿﻠﻲ زﻳﺮ را در ﻧﻈﺮ ﺑﮕﻴﺮﻳﺪ‪:‬‬
‫‪d‬‬
‫‪dt‬‬
‫‪ ‬‬
‫‬
‫‪ ‬‬
‫اﻟﻒ( ﻧﻘﺎط ﺛﺎﺑﺖ اﻳﻦ ﺳﻴﺴﺘﻢ را ﻣﺤﺎﺳﺒﻪ ﻛﻨﻴﺪ و در ﻣﻮرد ﭘﺎﻳﺪاري ﺧﻄﻲ آن ﺑﺤﺚ ﻛﻨﻴﺪ‪.‬‬
‫ب( ﺑﺎ اﺳﺘﻔﺎده از روش ﻟﻴﺎﭘﺎﻧﻮف در ﻣﻮرد ﭘﺎﻳﺪاري اﻳﻦ ﺳﻴﺴﺘﻢ اﻇﻬﺎر ﻧﻈﺮ ﻛﻨﻴﺪ‪ .‬‬
‫‪ ‬‬
‫‪ -5‬اﺛﺒﺎت ﻛﻨﻴﺪ ﻣﻘﺪار وارﻳﺎﻧﺲ ﺧﺮوﺟﻲ ﻣﺪل ‪ GHA‬در ﺑﻲ ﻧﻬﺎﻳﺖ ﺑﺮاﺑﺮ ﺑﺰرﮔﺘﺮﻳﻦ ﻣﻘﺪار وﻳﮋه ﻣﺎﺗﺮﻳﺲ ﻫﻤﺒﺴﺘﮕﻲ ﺑﺮدار ورودي و ﻣﻘﺎدﻳﺮ وزﻧﻬﺎ ﺑﺮاﺑﺮ ﺑﺮدار‬
‫وﻳﮋه ﻣﺘﻨﺎﻇﺮ آن ﻣﻲﺷﻮد‪ .‬‬
‫‪ -6‬ﻣﻲ ﺧﻮاﻫﻴﻢ ﺑﺎ اﺳﺘﻔﺎده از ‪ SOM‬‬
‫وزنﻫﺎ را آﭘﺪﻳﺖ ﻛﻨﻴﻢ‪ .‬وزن‪ ‬ﻫﺎ و ورودي‪ ‬ﻫﺎ در ﺷﻜﻞ زﻳﺮ داده ﺷﺪه اﺳﺖ‪ .‬ورودي اول ‪ x1‬و ورودي دوم ‪x2‬‬
‫وزنﻫﺎ را در دو ﻣﺮﺣﻠﻪ آﭘﺪﻳﺖ ﻛﻨﻴﺪ‪.‬‬
‫ﻣﻲﺑﺎﺷﺪ‪ .‬ﺑﺎ اﺳﺘﻔﺎده از اﻟﮕﻮرﻳﺘﻢ ‪ SOM‬‬
‫‪ ‬‬
‫ﺑﺎ در ﻧﻈﺮ ﮔﺮﻓﺘﻦ ﻧﺮخ ﺛﺎﺑﺖ ﻳﺎدﮔﻴﺮي ‪ 0.5‬و ﺗﺎﺑﻊ‬
‫‪,‬‬
‫ ‪exp‬‬
‫‪,‬‬
‫‪ ‬ﺑﻪ ﻋﻨﻮان ﺗﺎﺑﻊ ﻫﻤﺴﺎﻳﮕﻲ ﻣﺮاﺣﻞ را ﺑﻨﻮﻳﺴﻴﺪ ‪ .‬آﻳﺎ وزنﻫﺎ ﻫﻤﮕﺮا‬
‫ﻣﻲﺷﻮﻧﺪ؟ ) ﻣﻘﺪار وارﻳﺎﻧﺲ ﺗﺎﺑﻊ ﮔﻮﺳﻲ ﺑﺮاﺑﺮ ﺑﺎ ‪ 1‬و ‪ d‬ﻓﺎﺻﻠﻪ ي اﻗﻠﻴﺪﺳﻲ در ﻧﻈﺮ ﮔﺮﻓﺘﻪ ﺷﻮد(‬
‫‪ ‬‬
‫‪ -7‬ﻓﺮض ﻛﻨﻴﺪ وروديﻫﺎي ‪ SOM‬ﻳﻚ ﺑﻌﺪي داراي ﺗﺎﺑﻊ ﺗﻮزﻳﻊ اﺣﺘﻤﺎل )‪ p(x‬ﺑﺎﺷﻨﺪ‪ SOM .‬در ﺻﻮرﺗﻲ ﺑﻪ ﺣﺎﻟﺖ ﭘﺎﻳﺪار ﻣﻲرﺳﺪ ﻛﻪ ﻣﻘﺪار اﻣﻴﺪ رﻳﺎﺿﻲ‬
‫ﺗﻐﻴﻴﺮات ﻣﻘﺎدﻳﺮ وزنﻫﺎ ﺻﻔﺮ ﺷﻮد‪:‬‬
‫‪E [h j ,i ( x ) (x w j )]  0‬‬
‫در ﻣﻮارد زﻳﺮ در ﺣﺎﻟﺖ ﭘﺎﻳﺪار ﻣﻘﺎدﻳﺮ وزنﻫﺎ را ﺑﺪﺳﺖ آورﻳﺪ ‪:‬‬
‫اﻟﻒ ( ) ‪ h j ,i ( x‬ﺑﺮاي ﺗﻤﺎم ‪ j‬ﻫﺎ و )‪ i(x‬ﻫﺎ ﺛﺎﺑﺖ ﺑﺎﺷﺪ‪.‬‬
‫ب( ) ‪ h j ,i ( x‬ﺗﺎﺑﻊ ‪ Kronecker delta‬ﺑﺎﺷﺪ‪.‬‬
‫‪ ‬‬
‫ﺗﻤﺮﻳﻦﻫﺎي اﻟﻜﺘﺮوﻧﻴﻜﻲ‬
‫*ﺗﻮﺟﻪ‪ :‬در ﻣﻮرد ﺗﻤﺮﻳﻦﻫﺎي اﻟﻜﺘﺮوﻧﻴﻜﻲ ﺣﺘﻤﺎ ﺑﺎﻳﺪ ﮔﺰارش ﻛﺎر ﺷﺎﻣﻞ ﻧﺘﺎﻳﺞ و اﺳﺘﻨﺘﺎجﻫﺎي ﺧﻮاﺳﺘﻪ ﺷﺪه ﺑﺎﺷﺪ‪ .‬ﺗﻮﺟﻪ ﻛﻨﻴﺪ ﻛﻪ ﺣﺘﻤﺎ‬
‫ﺧﺮوﺟﻲ ﻣﻮرد ﻧﻈﺮ را ﻧﺸﺎن دﻫﻴﺪ در ﻏﻴﺮ اﻳﻦ ﺻﻮرت ﻧﻤﺮهاي درﻳﺎﻓﺖ ﻧﺨﻮاﻫﻴﺪ ﻛﺮد‪.‬‬
‫دادهﻫﺎي آﻣﻮزﺷﻲ ‪ Segmentation‬اﻧﺠﺎم دﻫﻴﺪ‪.‬‬
‫‪ -1‬اﻟﻒ( دو روش ‪ GHA‬و ‪ APEX‬را ﭘﻴﺎدهﺳﺎزي ﻧﻤﻮده و ﺑﺎ اﺳﺘﻔﺎده از آن‪ ‬ﻫﺎ ﻛﺎﻫﺶ اﺑﻌﺎد را روي ‪ ‬‬
‫ﺿﻤﻨﺎ ﻻزم اﺳﺖ ﻛﻪ اﻳﻦ ﻛﺎﻫﺶ اﺑﻌﺎد را ﺑﺎ اﺳﺘﻔﺎده از دﺳﺘﻮر ‪ princomp‬در ﻣﺘﻠﺐ ﻧﻴﺰ اﻧﺠﺎم دﻫﻴﺪ و ﻧﺘﺎﻳﺞ ﻛﺎﻫﺶ ﺑﻪ دو ﺑﻌﺪ را در ﻫﺮ ﺳﻪ روش ﺑﺎ‬
‫‪ Scatter Plot‬ﻧﻤﺎﻳﺶ داده و ﺗﺤﻠﻴﻞ و ﻣﻘﺎﻳﺴﻪ ﻛﻨﻴﺪ‪) .‬ﺧﺮوﺟﻲ ﻣﺘﻠﺐ‪ :‬ﺳﻪ ﺷﻜﻞ ﻛﻪ ﺑﺎ اﺳﺘﻔﺎده از ‪ Scatter plot‬ﺑﺮاي ﻫﺮ ﻛﺪام از اﻟﮕﻮرﻳﺘﻢ رﺳﻢ‬
‫ﺷﺪه اﺳﺖ‪(.‬‬
‫‪ -2‬ﻫﺪف از اﺳﺘﻔﺎدهي ﺷﺒﻜﻪ ﻣﺼﻨﻮﻋﻲ ‪ SOM‬ﻛﺎﻫﺶ اﺑﻌﺎد دادهﻫﺎ )ﻏﺎﻟﺒﺎ ‪ 2‬ﺑ‪‬ﻌﺪ( ﺑﺎ ﺣﻔﻆ ﻫﺮ ﭼﻪ ﺑﻴﺸﺘﺮ ﺧﺼﻮﺻﻴﺎت ﺗﻮﭘﻮﻟﻮژﻳﻜﺎل دادهﻫﺎﺳﺖ‪ .‬ﻫﺪف در‬
‫روش ‪ PCA‬ﻫﻢ ﻛﺎﻫﺶ اﺑﻌﺎد اﻣ‪‬ﺎ ﺑﻪ ﻗﺼﺪ ﺑﻴﺸﺘﺮﻳﻦ ﺣﻔﻆ ﭘﺮاﻛﻨﺪﮔﻲ ﻣﻮﺟﻮد در دادهﻫﺎﺳﺖ‪.‬‬
‫اﻟﻒ( اﻟﮕﻮرﻳﺘﻢ ‪ SOM ‬را ﭘﻴﺎده ﻧﻤﺎﻳﻴﺪ‪ .‬ﺳﭙﺲ آن و اﻟﮕﻮرﻳﺘﻢ ‪ PCA‬ﻣﺒﺘﻨﻲ ﺑﺮ روش ‪ GHA‬و ‪ APEX‬ﭘﻴﺎده ﺷﺪهي ﺧﻮد و ‪ PCA‬ﺧﻮد ﻣﺘﻠﺐ را ﺑﺮ روي‬
‫داده‪ ‬ﻫﺎي ‪ Iris‬اﺟﺮا ﻛﺮده و اﺑﻌﺎد آن را ﺑﻪ ‪ 2‬ﺑﻌﺪ ﻛﺎﻫﺶ داده و در ﻗﺎﻟﺐ ﺷﻜﻞﻫﺎي ﻣﺠﺰا ﺑﺎ اﺳﺘﻔﺎده از ‪ Scatter‬ﻧﻤﺎﻳﺶ دﻫﻴﺪ‪ .‬ﻧﺘﺎﻳﺞ را ﺑﺎ ﻫﻢ ﻣﻘﺎﻳﺴﻪ‬
‫ﻧﻤﺎﻳﻴﺪ و ﺑﺮداﺷﺖ ﺧﻮد را ﺷﺮح دﻫﻴﺪ‪ ) .‬ﺧﺮوﺟﻲ ﻣﺘﻠﺐ ‪ :‬ﭼﻬﺎر ﺷﻜﻞ ﻛﻪ ﺑﺎ اﺳﺘﻔﺎده از ‪ Scatter plot‬ﺑﺮاي ﻫﺮ ﻛﺪام از اﻟﮕﻮرﻳﺘﻢ رﺳﻢ ﺷﺪه اﺳﺖ‪(.‬‬
‫ب( ﺳﭙﺲ ﺑﺎ اﺳﺘﻔﺎده از ﺷﺒﻜﻪي ‪ RBF‬ﭘﻴﺎده ﺷﺪهي ﺗﻤﺮﻳﻦ ﭘﻴﺸﻴﻦ دادهﻫﺎي ﻛﺎﻫﺶ ﺑﻌﺪ ﻳﺎﻓﺘﻪي ﻫﺮ دو روش را ‪ Classify‬ﻧﻤﺎﻳﻴﺪ و ‪ Accuracy‬ﺣﺎﺻﻞ‬
‫از ‪ 10‐fold Cross Validation‬را در ﻫﺮ ‪ 4‬روش ‪ GHA‬و ‪ SOM‬و ‪ APEX‬و ‪ PCA‬ﻣﺘﻠﺐ را ﺑﺪﺳﺖ آورده و ﺑﺎ ﻫﻢ ﻣﻘﺎﻳﺴﻪ ﻧﻤﺎﻳﻴﺪ‪ .‬ﺑﻪ ﻧﻈﺮ ﺷﻤﺎ در‬
‫ﺣﺎﻟﺖ ﻛﻠّﻲ دﺳﺘﻪﺑﻨﺪي دادهﻫﺎي ﻛﺎﻫﺶ ﺑﻌﺪ ﻳﺎﻓﺘﻪ ﺑﺎ ﻛﺪام روش ﻧﺘﻴﺠﻪ ﺑﻬﺘﺮي را از ﺧﻮد ﻧﺸﺎن ﺧﻮاﻫﻨﺪ داد؟ ﻧﺘﺎﻳﺞ ﭼﻪ ارﺗﺒﺎﻃﻲ ﺑﻪ ﺳﺎﺧﺘﺎر دادهﻫﺎ‬
‫ﻣﻲﺗﻮاﻧﻴﺪ از ‪ RBF‬ﺧﻮد ﻣﺘﻠﺐ اﺳﺘﻔﺎده ﻛﻨﻴﺪ ﺗﻮﺟﻪ داﺷﺘﻪ ﺑﺎﺷﻴﺪ ﻛﻪ از‬
‫ﺧﻮاﻫﻨﺪ داﺷﺖ؟ ) اﮔﺮ ﺗﺎﺑﻊ ‪ RBF‬ﺷﻤﺎ در ﺗﻤﺮﻳﻦ ﻗﺒﻞ ﻧﺎﻗﺺ اﺳﺖ ﻳﺎ ﻣﺸﻜﻞ دارد ‪ ‬‬
‫ﻧﻤﻲﺗﻮاﻧﻴﺪ اﺳﺘﻔﺎده ﻛﻨﻴﺪ‪ .‬ﺧﺮوﺟﻲ ﻣﺘﻠﺐ ‪ :‬دﻗﺖ ﻫﺮ ﻛﺪام از روش‪ ‬ﻫﺎ ﺑﺎ اﺳﺘﻔﺎده از ‪(10‐fold Cross Validation‬‬
‫‪ GUI‬‬