SPR-Spring2014-HW4.pdf

‫ﺑﺴﻤﻪ ﺗﻌﺎﻟﯽ‬
‫ﺍﻟﮕﻮﺷﻨﺎﺳﯽ ﺁﻣﺎﺭﯼ‬
‫ﻧﯿﻢﺳﺎﻝ ﺩﻭﻡ ‪۹۲-۹۳‬‬
‫ﺩﮐﺘﺮ ﺭﺑﯿﻌﯽ‬
‫ﺩﺍﻧﺸﮑﺪﻩ ﻣﻬﻨﺪﺳﯽ ﮐﺎﻣﭙﯿﻮﺗﺮ‬
‫ﺗﻤﺮ ﯾﻦ ﭼﻬﺎﺭﻡ‬
‫ﻣﺎﺷﯿﻦﻫﺎﯼ ﺑﺮﺩﺍﺭ ﭘﺸﺘﯿﺒﺎﻥ‪ ،‬ﺭ ﻭﺵﻫﺎﯼ ﺑﺮ ﭘﺎﯾﻪ ﻫﺴﺘﻪ‬
‫ﺯﻣﺎﻥ ﺗﺤﻮﯾﻞ‪ ۶ :‬ﺍﺭﺩﯾﺒﻬﺸﺖ‬
‫‪ .۱‬ﺩﺳﺘﻪﺑﻨﺪ‪ Hard-Margin SVM ،‬ﺧﻄﯽ ﺭﺍ ﺑﺮﺍﯼ ﺣﺎﻟﺖ ﺩﻭ ﮐﻼﺳﻪ ﺑﺎ ﺩﺍﺩﻩﻫﺎﯼ ﺁﻣﻮﺯﺵ ﺯﯾﺮ ﺭﺍ ﺩﺭ ﻧﻈﺮ ﺑﮕﯿﺮ ﯾﺪ‪.‬‬
‫‪x2‬‬
‫‪1‬‬
‫‪2‬‬
‫‪0‬‬
‫‪0‬‬
‫‪0‬‬
‫‪1‬‬
‫‪category‬‬
‫‪A‬‬
‫‪A‬‬
‫‪A‬‬
‫‪B‬‬
‫‪B‬‬
‫‪B‬‬
‫‪x1‬‬
‫‪1‬‬
‫‪2‬‬
‫‪2‬‬
‫‪0‬‬
‫‪1‬‬
‫‪0‬‬
‫)ﺁ( ﺑﺎ ﺭﺳﻢ ﻧﻤﻮﺩﺍﺭ‪ ،‬ﻣﺮ ﺯ ﺩﺳﺘﻪﺑﻨﺪﯼ ﺭﺍ ﺑﺪﺳﺖ ﺁﻭﺭﯾﺪ‪) .‬ﻣﻌﺎﺩﻻﺕ ﻣﺮ ﺯ ﻭ ﺣﺎﺷﯿﻪﻫﺎ(‬
‫)ﺏ( ﺑﺮﺩﺍﺭﻫﺎﯼ ﭘﺸﺘﯿﺒﺎﻥ ﺭﺍ ﻣﺸﺨﺺ ﻧﻤﺎﯾﯿﺪ‪.‬‬
‫)ﺝ( ﺑﺎ ﺣﻞ ﻣﺴﺌﻠﻪ ﺩﻭﮔﺎﻥ‪ ،‬ﺿﺮﺍﯾﺐ ﻻﮔﺮﺍﻧﮋ ﺭﺍ ﺑﺮﺍﯼ ﺗﻤﺎﻡ ﻧﻘﺎﻁ ﺑﺪﺳﺖ ﺁﻭﺭﺩﻩ ﻭ ﻧﺘﺎﯾﺞ ﺭﺍ ﺑﺎ ﺣﺎﻟﺖ ﺍﻟﻒ ﻣﻘﺎﯾﺴﻪ‬
‫ﮐﻨﯿﺪ‪.‬‬
‫‪ .۲‬ﻣﺴﺌﻠﻪ ﺑﻬﯿﻨﻪﺳﺎﺯﯼ ﺑﺮﺩﺍﺭﻫﺎﯼ ﭘﺸﺘﯿﺒﺎﻥ ﺣﺎﺷﯿﻪ ﻧﺮﻡ )‪ (Soft-Margin SVM‬ﺭﺍ ﺩﺭ ﻧﻈﺮ ﺑﮕﯿﺮ ﯾﺪ ﻭ ﺑﻪ ﺳﻮﺍﻻﺕ ﺯﯾﺮ ﺩﺭ‬
‫ﻣﻮﺭﺩ ﺁﻥ ﭘﺎﺳﺦ ﺩﻫﯿﺪ‪.‬‬
‫)ﺁ( ﻓﺮﻡ ﺩﻭﮔﺎﻥ )‪ (Dual‬ﺭﺍ ﺑﺮﺍﯼ ﺁﻥ ﺑﺪﺳﺖ ﺁﻭﺭﯾﺪ‪.‬‬
‫)ﺏ( ﺑﺎ ﺍﺳﺘﻔﺎﺩﻩ ﺍﺯ ﻓﺮﻡ ﺩﻭﮔﺎﻥ ﺑﺪﺳﺖ ﺁﻣﺪﻩ ﺩﺭ ﻗﺴﻤﺖ ﻗﺒﻞ‪ ،‬ﻭ ﺷﺮﺍﯾﻂ ‪ KKT‬ﻣﻘﺎﺩﯾﺮ ‪ αi‬ﺭﺍ ﺑﺮﺍﯼ ﺩﺍﺩﻩﻫﺎﯼ ﺩﺭﺳﺖ‬
‫ﺩﺳﺘﻪﺑﻨﺪﯼ ﺷﺪﻩ‪ ،‬ﺩﺍﺩﻩﻫﺎﯼ ﺭ ﻭﯼ ﺣﺎﺷﯿﻪ )‪ ،(Margin‬ﻭ ﺩﺍﺩﻩﻫﺎﯼ ﺩﺭ ﻭﻥ ﺣﺎﺷﯿﻪ ﺑﺪﺳﺖ ﺁﻭﺭﯾﺪ‪.‬‬
‫‪ .۳‬ﺩﺭ ﻣﺴﺌﻠﻪ ﺑﻬﯿﻨﻪﺳﺎﺯﯼ ﺑﺮﺩﺍﺭﻫﺎﯼ ﭘﺸﺘﯿﺒﺎﻥ ﺣﺎﺷﯿﻪ ﻧﺮﻡ )‪ ،(Soft-Margin SVM‬ﻓﺮﺽ ﮐﻨﯿﺪ ﺑﺮﺧﯽ ﺩﺍﺩﻩﻫﺎﯼ ﺁﻣﻮﺯﺵ‬
‫ﺍﺯ ﺑﺮﺧﯽ ﺩﯾﮕﺮ ﻣﻬﻤﺘﺮ ﻫﺴﺘﻨﺪ‪ .‬ﯾﻌﻨﯽ ﻓﺮﺽ ﮐﻨﯿﺪ ﻫﺮ ﺩﺍﺩﻩ ﺁﻣﻮﺯﺵ‪ ،‬ﯾﮏ ﺳﻪﺗﺎﯾﯽ ) ‪ (xi , yi , pi‬ﺍﺳﺖ ﮐﻪ ‪۰ ≤ pi ≤ ۱‬‬
‫ﺍﻫﻤﯿﺖ ﻧﻘﻄﻪ ‪i‬ﺍﻡ ﺭﺍ ﻧﺸﺎﻥ ﻣﯽﺩﻫﺪ‪ .‬ﻣﺴﺌﻠﻪ ‪ Soft-Margin SVM‬ﺭﺍ ﺑﺮﺍﯼ ﺍﯾﻦ ﺣﺎﻟﺖ ﺑﺎﺯﻧﻮﯾﺴﯽ ﮐﻨﯿﺪ‪ ،‬ﺑﻪ ﮔﻮﻧﻪﺍﯼ‬
‫ﮐﻪ ﺟﺮ ﯾﻤﻪ ﺑﺮﺍﯼ ﻧﻘﺎﻁ ﺍﺷﺘﺒﺎﻩ ﺩﺳﺘﻪﺑﻨﺪﯼ ﺷﺪﻩ‪ ،‬ﺿﺮ ﯾﺐ ‪ pi‬ﺑﮕﯿﺮﺩ‪ .‬ﺳﭙﺲ ﻓﺮﻡ ﺩﻭﮔﺎﻥ ﺍﯾﻦ ﻣﺴﺌﻠﻪ ﺭﺍ ﺑﺪﺳﺖ ﺁﻭﺭﯾﺪ ﻭ‬
‫ﺗﻔﺎﻭﺕ ﺁﻧﺮﺍ ﺑﺎ ﻓﺮﻡ ﺩﻭﮔﺎﻥ ‪ Soft-Margin SVM‬ﺑﯿﺎﻥ ﮐﻨﯿﺪ‪.‬‬
‫‪ .۴‬ﯾﮏ ﻣﺠﻤﻮﻋﻪ ﺩﺍﺩﻩ ﯾﮏ ﺑﻌﺪﯼ ﺑﺎ ﺳﻪ ﺩﺍﺩﻩ ﮐﻼﺱ ﻣﺜﺒﺖ }‪ {−۱, ۰, ۱‬ﻭ ﺳﻪ ﺩﺍﺩﻩ ﮐﻼﺱ ﻣﻨﻔﯽ }‪ {−۳, −۲, ۲‬ﺩﺭ‬
‫ﻧﻈﺮ ﺑﮕﯿﺮ ﯾﺪ‪.‬‬
‫‪۱‬‬
‫)ﺁ( ﯾﮏ ﻧﮕﺎﺷﺖ ﺍﺯ ﯾﮏ ﺑﻌﺪ ﺑﻪ ﺩﻭ ﺑﻌﺪ ) ‪ (ℜ ⇒ ℜ۲‬ﻣﺸﺨﺺ ﮐﻨﯿﺪ ﮐﻪ ﺑﺎ ﺍﯾﻦ ﺗﺒﺪﯾﻞ‪ ،‬ﺩﺍﺩﻩﻫﺎ ﺩﺭ ﻓﻀﺎﯼ ﺟﺪﯾﺪ‬
‫ﺑﻪ ﺻﻮﺭﺕ ﺧﻄﯽ ﻗﺎﺑﻞ ﺟﺪﺍﺳﺎﺯﯼ ﺑﺎﺷﻨﺪ‪ .‬ﻫﻤﭽﻨﯿﻦ ﺩﺍﺩﻩﻫﺎ ﺭﺍ ﺩﺭ ﻓﻀﺎﯼ ﺟﺪﯾﺪ ﺭﺳﻢ ﮐﻨﯿﺪ‪.‬‬
‫)ﺏ( ﻣﺮ ﺯ ﺗﺼﻤﯿﻢﮔﯿﺮﯼ ﺭﺍ ﺩﺭ ﻓﻀﺎﯼ ﺩﻭﺑﻌﺪﯼ ﻣﺸﺨﺺ ﮐﻨﯿﺪ‪ .‬ﺩﺭ ﯾﮏ ﻧﻤﻮﺩﺍﺭ ﺩﺍﺩﻩﻫﺎ ﺭﺍ ﻫﻤﺮﺍﻩ ﺑﺎ ﻣﺮ ﺯ ﮐﻼﺳﻪﺑﻨﺪﯼ‬
‫ﻣﺸﺨﺺ ﮐﻨﯿﺪ‪ .‬ﺩﺭ ﺍﯾﻦ ﻧﻤﻮﺩﺍﺭ ﺑﺮﺩﺍﺭﻫﺎﯼ ﭘﺸﺘﯿﺒﺎﻥ ﺭﺍ ﻣﺸﺨﺺ ﮐﻨﯿﺪ‪.‬‬
‫)ﺝ( ﻣﺮ ﺯ ﺗﺼﻤﯿﻢﮔﯿﺮﯼ ﻣﻌﺎﺩﻝ ﺩﺭ ﻓﻀﺎﯼ ﻭﺭﻭﺩﯼ ﺩﺍﺩﻩﻫﺎ ﺭﺍ ﺗﻌﯿﯿﻦ ﮐﻨﯿﺪ‪.‬‬
‫‪ .۵‬ﺑﺮﺍﯼ ﯾﮏ ﻣﺠﻤﻮﻋﻪ ﺩﺍﺩﻩ ﻣﺸﺨﺺ ﭘﻨﺞ ﺩﯾﺎﮔﺮﺍﻡ ﺣﺎﺻﻞ ﺍﺯ ‪ SVM‬ﺑﺎ ﮐﺮﻧﻞﻫﺎﯼ ﻣﺨﺘﻠﻒ ﺯﯾﺮ ﺭﺍ ﺩﺭﻧﻈﺮ ﺑﮕﯿﺮ ﯾﺪ‪ .‬ﺩﺭ‬
‫ﺟﺪﻭﻝ ﺯﯾﺮ ﻣﺸﺨﺺ ﮐﻨﯿﺪ ﮐﻪ ﻫﺮ ﺩﯾﺎﮔﺮﺍﻡ ﻣﯽﺗﻮﺍﻧﺪ ﺗﻮﺳﻂ ﮐﺪﺍﻡ ﯾﮏ ﺍﺯ ﮐﺮﻧﻞﻫﺎﯼ ﺯﯾﺮ ﺍﯾﺠﺎﺩ ﺷﻮﺩ؟‬
‫‪Diagram‬‬
‫‪Kernel‬‬
‫‪RBF, σ = 0.08‬‬
‫‪RBF, σ = 0.5‬‬
‫‪RBF, σ = 2‬‬
‫‪Linear‬‬
‫‪Secon Order Polynomial‬‬
‫‪) .۶‬ﺁ( ﻧﺸﺎﻥ ﺩﻫﯿﺪ ﺑﻪ ﺍﺯﺍﯼ ﻫﺮ ﺗﺎﺑﻊ )‪ f (.‬ﻫﺴﺘﻪﯼ ) ‪ k۱ (x, x′ ) = f (x)k(x, x′ )f (x′‬ﻫﺴﺘﻪﺍﯼ ﻣﻌﺘﺒﺮ ﺍﺳﺖ)) ‪k(x, x′‬‬
‫ﻫﺴﺘﻪﺍﯼ ﻣﻌﺘﺒﺮ ﺍﺳﺖ(‪.‬‬
‫)ﺏ( ﻧﺸﺎﻥ ﺩﻫﯿﺪ ﺣﺎﺻﻠﻀﺮﺏ ﺩﻭ ﻫﺴﺘﻪﯼ ﻣﻌﺘﺒﺮ‪ ،‬ﻫﺴﺘﻪﺍﯼ ﻣﻌﺘﺒﺮ ﺍﺳﺖ‪.‬‬
‫)ﺝ( ﻧﺸﺎﻥ ﺩﻫﯿﺪ ﺣﺎﺻﻠﺠﻤﻊ ﺩﻭ ﻫﺴﺘﻪ ﻣﻌﺘﺒﺮ‪ ،‬ﻫﺴﺘﻪﺍﯼ ﻣﻌﺘﺒﺮ ﺍﺳﺖ‪.‬‬
‫‪′ 2‬‬
‫∥‬
‫‪ k(x, x′ ) = exp(− ∥x−x‬ﺭﺍ ﺩﺭ ﻧﻈﺮ ﺑﮕﯿﺮ ﯾﺪ‪.‬‬
‫‪ .۷‬ﻫﺴﺘﻪ ﮔﻮﺳﯽ )‬
‫‪2σ 2‬‬
‫)ﺁ( ﻧﺸﺎﻥ ﺩﻫﯿﺪ ﺍﯾﻦ ﻫﺴﺘﻪ‪ ،‬ﻫﺴﺘﻪﺍﯼ ﻣﻌﺘﺒﺮ ﺍﺳﺖ‪.‬‬
‫)ﺏ( ﻧﺸﺎﻥ ﺩﻫﯿﺪ‪ ،‬ﺍﯾﻦ ﻫﺴﺘﻪ ﮔﻮﺳﯽ ﺭﺍ ﻣﯽﺗﻮﺍﻥ ﺑﻪ ﺻﻮﺭﺕ ﺣﺎﺻﻠﻀﺮﺏ ﺩﻭ ﺑﺮﺩﺍﺭ ﻭﯾﮋﮔﯽ ﺑﺎ ﺍﺑﻌﺎﺩ ﺑﯽﻧﻬﺎﯾﺖ‪ ،‬ﻧﺸﺎﻥ‬
‫ﺩﺍﺩ‪.‬‬
‫‪ .۸‬ﺍﮔﺮ ﺗﺎﺑﻊ ﺗﺒﺪﯾﻞ ﻫﺴﺘﻪ ‪ k‬ﺑﻪ ﺻﻮﺭﺕ ‪ ϕ‬ﺑﺎﺷﺪ‪ ،‬ﯾﻌﻨﯽ )‪ k(x, x′ ) = ϕ(x′ )T ϕ(x‬ﻭ ﺗﺎﺑﻊ ﺗﺒﺪﯾﻞ ‪ k ۲‬ﺑﻪ ﺻﻮﺭﺕ ‪ ψ‬ﺑﺎﺷﺪ‪،‬‬
‫ﯾﻌﻨﯽ )‪ .k ۲ (x, x′ ) = ψ(x′ )T ψ(x‬ﺭﺍﺑﻄﻪ ﺑﯿﻦ ‪ ϕ‬ﻭ ‪ ψ‬ﺭﺍ ﺑﺪﺳﺖ ﺁﻭﺭﯾﺪ‪.‬‬
‫‪ .۹‬ﻓﺮﺽ ﮐﻨﯿﺪ‪ M ،‬ﻣﺠﻤﻮﻋﻪﺍﯼ ﺛﺎﺑﺖ ﺷﺎﻣﻞ ﺍﻋﻀﺎﯼ ﺩﻟﺨﻮﺍﻩ )ﻋﺪﺩﯼ ﻭ ﯾﺎ ﻏﯿﺮ ﻋﺪﺩﯼ( ﺑﻮﺩﻩ ﻭ ﻓﻀﺎﯼ ﺗﻤﺎﻣﯽ‬
‫ﺯﯾﺮﻣﺠﻤﻮﻋﻪﻫﺎﯼ ﻣﻤﮑﻦ ‪ M‬ﺭﺍ ﺑﺎ ‪ A‬ﻧﻤﺎﯾﺶ ﻣﯽﺩﻫﯿﻢ‪ .‬ﺍﮔﺮ ‪ A۱‬ﻭ ‪ A۲‬ﺩﻭ ﻋﻀﻮ ﺍﺯ ‪ A‬ﺑﺎﺷﻨﺪ‪ ،‬ﺑﺎ ﺑﺪﺳﺖ ﺁﻭﺭﺩﻥ ﺗﺎﺑﻊ‬
‫ﻧﮕﺎﺷﺖ ﺛﺎﺑﺖ ﮐﻨﯿﺪ ﮐﻪ ﺗﺎﺑﻊ ﺯﯾﺮ ﯾﮏ ﻫﺴﺘﻪ ﻣﻌﺘﺒﺮ ﻣﯽﺑﺎﺷﺪ‪ |.|) .‬ﻧﻤﺎﺩ ﺗﻌﺪﺍﺩ ﺍﻋﻀﺎﯼ ﯾﮏ ﻣﺠﻤﻮﻋﻪ ﻣﯽﺑﺎﺷﺪ‪(.‬‬
‫‪۲‬‬
‫| ‪k(A۱ , A۲ ) = ۲|A۱ ∩A۲‬‬
‫‪ .۱۰‬ﺗﻤﺮ ﯾﻦ ﺑﺮﻧﺎﻣﻪ ﻧﻮﯾﺴﯽ‪ :‬ﯾﮏ ﻣﺠﻤﻮﻋﻪ ﺍﺯ ﺗﺼﺎﻭﯾﺮ ﺍﺭﻗﺎﻡ ﺩﺳﺘﻨﻮﯾﺲ ﺍﻧﮕﻠﯿﺴﯽ ﺭﺍ ﺩﺭ ﻧﻈﺮ ﺑﮕﯿﺮ ﯾﺪ)ﻣﺠﻤﻮﻋﻪ ﺍﺳﺘﺎﻧﺪﺍﺭﺩ‬
‫‪ .(USPS‬ﻫﺮ ﺗﺼﻮﯾﺮ ﺑﻪ ﺻﻮﺭﺕ ﯾﮏ ﻣﺎﺗﺮ ﯾﺲ ‪ ۲۸ × ۲۸‬ﻧﺸﺎﻥ ﺩﺍﺩﻩ ﻣﯽﺷﻮﺩ‪ .‬ﻣﯽﺗﻮﺍﻥ ﺑﺎ ﺳﻄﺮﯼ ﮐﺮﺩﻥ‪ ،‬ﻫﺮ ﺗﺼﻮﯾﺮ‬
‫ﺭﺍ ﺑﻪ ﺻﻮﺭﺕ ﯾﮏ ﺑﺮﺩﺍﺭ ‪ ۱ × ۷۸۴‬ﻧﻤﺎﯾﺶ ﺩﺍﺩ‪ .‬ﻫﺪﻑ ﺗﺸﺨﯿﺺ ﺭﻗﻢ ﻣﺘﻨﺎﻇﺮ ﺑﺎ ﯾﮏ ﺗﺼﻮﯾﺮ ﺍﺳﺖ‪ .‬ﺑﺎ ﺗﻮﺟﻪ ﺑﻪ‬
‫ﺍﯾﻨﮑﻪ ﺩﺭ ﺍﯾﻦ ﻣﺴﺌﻠﻪ ‪ ۱۰‬ﮐﻼﺱ ﻣﺨﺘﻠﻒ ﻭﺟﻮﺩ ﺩﺍﺭﺩ‪ ،‬ﺍﺯ ﺭ ﻭﺵ ‪ One-Against-All‬ﺑﺮﺍﯼ ﺟﺪﺍﺳﺎﺯﯼ ﺍﺳﺘﻔﺎﺩﻩ ﻣﯽ‬
‫ﮐﻨﯿﻢ‪ .‬ﻫﻤﭽﻨﯿﻦ ﻗﺒﻞ ﺍﺯ ﺍﻋﻤﺎﻝ ﺩﺍﺩﻩ ﻫﺎ ﺑﻪ ﺭ ﻭﺵ ﻫﺎﯼ ﯾﺎﺩﮔﯿﺮﯼ‪ ،‬ﺍﺯ ﺳﻔﯿﺪ ﮐﺮﺩﻥ ﺩﺍﺩﻩ ﻫﺎ )‪ (Whitening‬ﺑﺎ ‪ ۵۰‬ﺑﻌﺪ‬
‫ﺍﻭﻝ ﺍﺳﺘﻔﺎﺩﻩ ﺷﻮﺩ‪ .‬ﺑﺮﺍﯼ ﺩﺳﺘﻪ ﺑﻨﺪﯼ ﺩﺍﺩﻩ ﺍﺯ ﺩﻭ ﺭ ﻭﺵ ‪ SVM‬ﺑﺎ ﻫﺴﺘﻪ ﺧﻄﯽ ﻭ ‪ SVM‬ﺑﺎ ﻫﺴﺘﻪ ‪ RBF‬ﺍﺳﺘﻔﺎﺩﻩ ﻭ‬
‫ﺁﻧﻬﺎ ﺭﺍ ﺑﺎ ﻫﻢ ﻣﻘﺎﯾﺴﻪ ﮐﻨﯿﺪ‪ .‬ﺩﺭ ﺍﯾﻦ ﭘﺎﯾﮕﺎﻩ ﺩﺍﺩﻩﻫﺎ‪ ۶۰۰۰۰ ،‬ﺗﺼﻮﯾﺮ ﻭﺟﻮﺩ ﺩﺍﺭﺩ‪ .‬ﺑﺮﺍﯼ ﻫﺮ ﺭ ﻭﺵ ﺁﺯﻣﺎﯾﺶﻫﺎﯼ ﺯﯾﺮ‬
‫ﺭﺍ ﺗﺮﺗﯿﺐ ﺩﻫﯿﺪ‪.‬‬
‫)ﺁ( ﺗﻌﺪﺍﺩ ﺩﺍﺩﻩ ﺁﻣﻮﺯﺵ ‪ ۲۰۰۰‬ﺑﺎﺷﺪ‪.‬‬
‫)ﺏ( ﺗﻌﺪﺍﺩ ﺩﺍﺩﻩ ﺁﻣﻮﺯﺵ ‪ ۱۰۰۰‬ﺑﺎﺷﺪ‪.‬‬
‫)ﺝ( ﺗﻌﺪﺍﺩ ﺩﺍﺩﻩ ﺁﻣﻮﺯﺵ ‪ ۲۰۰‬ﺑﺎﺷﺪ‪.‬‬
‫ﺑﺮﺍﯼ ﻫﺮ ﺁﺯﻣﺎﯾﺶ ﺍﺯ ‪ Cross-Validation‬ﺑﺎ ﻣﺠﻤﻮﻋﻪ ‪ ۱۰۰ Validation‬ﺗﺎﯾﯽ ﺑﺮﺍﯼ ﺑﺪﺳﺖ ﺁﻭﺭﺩﻥ ‪ C‬ﺑﻬﯿﻨﻪ ‪SVM‬‬
‫ﻭ ﭘﻬﻨﺎﯼ ﺑﺎﻧﺪ ﺑﻬﯿﻨﻪ ‪ SVM‬ﺩﺭ ﺣﺎﻟﺖ ﻫﺴﺘﻪ ‪ RBF‬ﺍﺳﺘﻔﺎﺩﻩ ﮐﻨﯿﺪ‪ .‬ﻫﺮ ﺁﺯﻣﺎﯾﺶ ﺭﺍ ‪ ۱۰‬ﺑﺎﺭ ﺑﺎ ﺩﺍﺩﻩﻫﺎﯼ ﺁﻣﻮﺯﺵ‬
‫ﺗﺼﺎﺩﻓﯽ ﺗﮑﺮﺍﺭ ﮐﻨﯿﺪ‪.‬‬
‫)ﺁ( ﻣﯿﺎﻧﮕﯿﻦ ﺩﻗﺖ ﻫﺮ ﺭ ﻭﺵ ﺭﺍ ﺑﺪﺳﺖ ﺁﻭﺭﯾﺪ‪.‬‬
‫)ﺏ( ‪ Support Vector‬ﻫﺎ ﺩﺭ ‪ SVM‬ﺭﺍ ﺑﺮﺍﯼ ﯾﮑﯽ ﺍﺯ ﺍﺟﺮﺍﻫﺎ ﻧﻤﺎﯾﺶ ﺩﻫﯿﺪ‪ .‬ﺁﯾﺎ ﺍﯾﻦ ﺩﺍﺩﻩﻫﺎ ﺑﺎ ﺩﺍﺩﻩﻫﺎﯼ ﺩﯾﮕﺮ‬
‫ﯾﺎﺩﮔﯿﺮﯼ ﺗﻔﺎﻭﺕ ﺧﺎﺻﯽ ﺩﺍﺭﻧﺪ؟‬
‫)ﺝ( ﻣﺘﻮﺳﻂ ﻣﻘﺪﺍﺭ ‪ Margin‬ﻣﺎﺑﯿﻦ ﻣﺮ ﺯﻫﺎﯼ ﺑﺪﺳﺖ ﺁﻣﺪﻩ ﻭ ‪ ۱۰‬ﺍﺟﺮﺍ‪ ،‬ﺑﺮﺍﯼ ﻫﺮ ﺩﻭ ﺣﺎﻟﺖ ‪ SVM‬ﺧﻄﯽ ﻭ ‪SVM‬‬
‫ﺑﺎ ﻫﺴﺘﻪ ‪ RBF‬ﺭﺍ ﺑﻪ ﻃﻮﺭ ﺟﺪﺍﮔﺎﻧﻪ ﻣﺤﺎﺳﺒﻪ ﮐﻨﯿﺪ‪.‬‬
‫)ﺩ( ﺁﯾﺎ ﺍﺳﺘﻔﺎﺩﻩ ﺍﺯ ﻫﺴﺘﻪ ‪ RBF‬ﺑﻬﺒﻮﺩﯼ ﻧﺴﺒﺖ ﺑﻪ ﺣﺎﻟﺖ ﺧﻄﯽ ﺍﯾﺠﺎﺩ ﻣﯽﮐﻨﺪ؟‬
‫‪۳‬‬