05.03.2014 MEH535 Örüntü Tanıma 1. Örüntü Tanımaya Giriş Doç.Dr. M. Kemal GÜLLÜ Elektronik ve Haberleşme Mühendisliği Bölümü web: http://akademikpersonel.kocaeli.edu.tr/kemalg/ E-posta: [email protected] Değerlendirme 2 1 05.03.2014 İçerik 1. Giriş (Introduction) (Classification and Regression Basics, Review of Probability and Random Variables, Linear Algebra) 2. Denetimli Öğrenme (Supervised Learning) (VC Dimension, Noise, Multiple Class Learning, Regression, Model Selection and Generalization, Dimensions) 3. Karar Teorisi (Decision Theory) (Likelihood Ratio Test, Error Probability, Bayes Risk, Bayes, Maximum a Posteriori and Maximum Likelihood Criterions, Minimum Error Rule, Discriminant Functions) 4. Parametrik Yöntemler (Parametric Methods) (Maximum Likelihood Estimation, Estimator's Bias and Variance, Bayes' Estimator, Parametric Classification and Regression, Tuning Model Complexity, Model Selection Procedures) 5. Çok Değişkenli Yöntemler (Multivariate Methods) (Multivariate Data, Parameter Estimation, Multivariate Normal Distribution, Multivariate Classification, Multivariate Regression) 6. Boyut Azaltımı (Dimensionality Reduction) (Subset Selection, Principal Component Analysis, Linear Discriminant Analysis) 7. Kümeleme (Clustering) (Mixture Densities, k-Means Clustering, Expectation Maximization Algorithm, Hierarchical Clustering) 8. Parametrik Olmayan Yöntemler (Non-Parametric Methods) (Non-Parametric Density Estimation: Histogram Estimator, Kernel Estimator, KNN Algorithm, Non-Parametric Regression) 9. Doğrusal Ayrımsama (Linear Discrimination) (Linear Model and Geometry of Linear Discriminant, Support Vector Machines, Kernel Functions) 10. Karar Ağaçları (Decision Trees) (Univariate Trees, Pruning, Rule Extraction from Trees, Multivariate Trees) 3 Kaynaklar • Ethem Alpaydın, "Introduction to Machine Learning, Second Edition", The MIT Press, ISBN: 978-0-262-01243-0, 2010. • Richard O. Duda, Peter E. Hart, David G. Stork, "Pattern Classification, 2nd Edition", Wiley Interscience, ISBN: 9780471056690, 2000. • S. Theodoridis, K. Koutroumbas, “Pattern Recognition, 4th Edition”, Academic Press, ISBN: 9781597492720, 2008. • Keinosuke Fukanaga, “Introduction to Statistical Pattern Recognition, 2nd edition”, Academic Press, ISBN: 9780122698514, 1990. 4 2 05.03.2014 Makine Öğrenme Nedir? • Örnek veri ya da geçmiş deneyimlerden bir başarım ölçütünü en iyileme • Verilerden bilgisayarların veya her türlü yapay zeka makinelerin öğrenmesi için gerekli algoritmaları, yöntemleri, geliştirme süreçlerini inceleyen bilim • Denetimli öğrenme (supervised learning) – Sınıflandırma (classification) – Bağlanım (regression) • Denetimsiz öğrenme (unsupervised learning) • Destekli öğrenme (reinforcement learning) 5 Örüntü Tanıma Nedir? • Fiziksel nesne ya da olayı, önceden belirlenmiş kategorilere atama (Duda & Hart). • Yüksek boyutlu uzayda yoğunluk fonksiyonlarını kestirme ve uzayı kategori ya da sınıf bölgelerine bölme (Fukunaga). • Karmaşık işaretlere verilen belli örnekler ve bunlara ait doğru kararları kullanarak, gelecek yeni örnek dizileri için otomatik karar verme (Ripley). • Ölçümlerin sınıflandırılması ya da tanımlanması ile ilgilenen bilim (Schalkoff). • x gözlemlerine ω ismi verme süreci (Schürmann). • Örüntü Tanıma, “Bu nedir?” sorusuna yanıt verme ile ilgilenir (Mors). 6 3 05.03.2014 İlgili Alanlar ve Uygulamalar • • • • • • • • • • • • Uyarlamalı işaret işleme Makine Öğrenme Yapay sinir ağları Robotik ve görü Bilişsel bilimler Matematiksel istatistik Doğrusal olmayan optimizasyon Araştırmacı veri analizi Bulanık ve genetik sistemler Algılama ve kestirim teorisi Biçimsel diller Yapısal modelleme • • • • • • • • • • • • • İmge işleme/bölütleme Bilgisayar görü Konuşma tanıma Otomatik hedef tespiti Optik karakter tanıma Sismik analiz İnsan ve makine tanılama Biyometrik tanıma Endüstriyel denetleme Finansal tahmin Tıbbi tanı Biyomedikal işaret analizi Uzaktan algılama 7 İlgili Alanlar ve Uygulamalar • Elyazısı okuma 8 4 05.03.2014 İlgili Alanlar ve Uygulamalar • Parmak izi tanıma 9 İlgili Alanlar ve Uygulamalar • Otonom araçlar 10 5 05.03.2014 İlgili Alanlar ve Uygulamalar • Bitki örtüsü sınıflandırma: 11 İlgili Alanlar ve Uygulamalar • Bina tespiti: 12 6 05.03.2014 İlgili Alanlar ve Uygulamalar • Bina tespiti: 13 İlgili Alanlar ve Uygulamalar • Plaka tanıma: 14 7 05.03.2014 İlgili Alanlar ve Uygulamalar • İris tanıma: 15 8