Alternatives to the k-means algorithm that find better clusterings Greg Hamerly Charles Elkan Department of Computer Science and Engineering University of California, San Diego La Jolla, CA 92093 Department of Computer Science and Engineering University of California, San Diego La Jolla, CA 92093 [email protected] [email protected] ABSTRACT !"#$ %&#%&('*),+$# # 0 + 1 & 2 % 34567'*) -./ +$ +$. 8 #+9& 3. ;. :<#; & = . / ! />>? '*)@+$ =AB / 2 2CDFE - %F)@+GDF+$ > G- H=.. &I/ @JK #JLGM* N!H'),G+$# - +$# ONP / Q+R NTS& J" - 2E U!V# 2C 4+$ 2 IWS&F#W*& ) #- =< TEE 2. &8 - - / . JX)@Y / . 4 ?8. - .-./ E#) + / +7OZ[[&F - ( - \ . #+]\ / 4S&^!_%+$) J`aK*2& /#- K 2E%G -./ X+$+b 2E$&6&% J`*U! / - # ONI8 2JcG"d . 4+$ T&#b) e ? f<* .4? !M+c - C#gd 2+$E . . JX)@&#+$# 2 . * &G% 2 B&h+b 2+$*%i% 2aF =j&7G ?#7'*),- +$ - +$ W+$&( $ / EOlkB33 2!_ +$+W 2#EU! C j 2 2* !mgS&##KF)@Y 4 ) # =n / d/ F- #7o#F) - %. * &%JKC! / / . - ?T-./ / 2! /#. . 2#O Categories k O pFO p q rsgt@uvwiand xyz_us[Subject {j|H}y~#w}Descriptors 5jF!m+GbFG C&dU) 2 . O O pdq u<w3Vgyzmsg~Fygujgu_uz_~F},5nn2- dU - ) #4 General bTerms Y 4 a*),+$ ea*)@+$ ./ / . ? -. 2 24S - G - +$# / # / E 2& 1. B% INTRODUCTION ##=#J" h "B% 2ao!nS&F % E#) # B3-./ &%=< di+$- E2%*U% 2ah+ - . / #. o/ & E27 - 4HOI ? E# - ..4? -./ $ T# E2!m - e 2 ./ W"QE# . +7= / e . 4+$ n 2aBT+$4) +$ > " - 2%+G+G - .F- 4hmJ"# - e@JK 4#+$ %O8+$ h Mh aF#J"7$Bn) . %&!md#W% . > EF . /#+- -!KE24#8)@&F+$ 2 . &#%1L'^ 2 [q O . 4+$ . a'),+$ o 2a . - . %#eb` . . +$#+ / + 2 ./ = / - e /- a `E*X 2 # OQ@ 2 2 KJK # 2&#K` 2 J" - h2./T+$+$ > XC- +#+- - .H- 1m!m./ T +$d / +W`! - * %QWCW22)@Y / . 4 ?-./ FO [ / 26+ - *2), 2& -./ #¡i!_ !+$ .? !# . 4+$ H /- C H'),+$ H&BAB / 2 2bDFE - %F) +DF+$ H=# 2 d 2C +WK!C * 2¡WEF) 2*T> &¢GTE2- 4o?6/ dE / U/ &G%FO`£Q - - - *T&#S KJ"47 *2% EX&EE K G B+) 24-D<./ O *2), 2- & -./ . #$ . 4+$ "- 8J"4hb- / 2 / TC 2 ./ H=H&87SCCE 24# B! - * 3 EF+ +7OhK 26+$&F [JKa JK/ .. =. / `- ?- 7. - . 2. - / I$ . - . +$#+ / - +¤G" !GQ!M+¤` . . +$+ / +7=GO O# -./ #BN n QY 4 %&#BU 2O C& . -/ . . ?E#+-- d Q . G&C- 2# 244 ? /C4 . > GH= &o TWE#+ ? EF . +¥!N&G% -./ #O K$ !` BJKa3 d &# %&3&3D& 2) 2& -./ . $ . 4+$ X/ WS&6*&F)@Y / . ?6-./ - ¤ 2EGM . &#%FO¦T - * .? =C+ ? JX%EE3+$#&# §E#E 2&^;+$EF -./ ; 2 ./ # O¨¨JX%EF) Eb+$&3 b#6 2% !_+$ CE bb / E / b! -./ 7 . #+7=e&¢G / 2 C#$ / . 4+© + ) E . +$ OoPI# - +$+$ .4?/ 2&iJX%E#E +$& C 2+$/#E . .4? / #" -./ #B . 4+¤ 2% . +$ g!_+¤f< %2#BE* "!_ - .. &b%&F+ª %G2=*& %aF#I n 2 ./ jOe . 4+$ g /#- / 2&dq4«¬FE / 2d H - F) Y 84 dD2+$=HGd ! +$E %HOWT JX%/ E#EQ+$&W N 2 - #B-!mQX- N/ 4 . > G XE ) 2 T T *a&3GB(q4«=N«=jpG,OBK I I!M 42! 2.G - j=* n+ ?d-./ . #B . 4+$ eGK 2# 2QT/ /# . 4 OoPTB 2G lq4«=`«®GN d *a#7G S&#. h> #8EE#E#o / +W- b! -./ =X&1. .4?F> C&F4f< - dJ`8# -./ T 2 ./ h&oC&#% 2O K N 2! J""E#E#E#" +be! Q #) aJ"H=#/ "/##. d . 4+¯ U /#- a6GIb/ / #),E#+- . 2 ./ /HO K 2BE#E# `IS = ` T2+$E#B SD8WEF . - +$ B! -./ - 8. . / 4+$? dD ..4? =% 37+$EFb -./ 7 . #+$ d+$ 2 . O[ N* &BC+$E#G#` T #+$ V&F C+aK#+ . 2 ` 2# 24Ud-.4/ . > G. "&U-2.4? 2 ./ O¥PT! - / 2=d ?;-./ L . 4+°&# . E& - /. &8#SX!M+±JX%E#EU+$&F O Ê ? I&F+±E24 ²"z_gvG~c³´iµbg~(uvzMzmsgx8¶gxsVV·czw3x#~¸V}~Ft,uv3}~F#¹ wi~#s<yx#yz_usQºBµbH~$zw3x#~6}z_»~zm}C¼½#¾V¿#À8nz_¾j~#_}IxsVzm}Btgm Á u_uv*º U - .4? =:#bÂÃVÄÅÆ*2& /#- &C"J -./ T . 4+ &c'),G+$# +$ ÇdkdhW8 2 o!M+È^E#) - +$.. > G - 4- ¸ 2&1(G+$ - +$^q =K«,O K# X . 4+± 2#GJ" XEF+$ 2U$S&## *& -./ b 2) . 2/ [ dDFEY / %- Ga .4? =#),+&7DF / +$E 2!m¸+$ B,AB'*£Q)@+$hI +Ç h " &i O$AB K/ # ) ÇdkB9 . -#+° . 2¸> 6[G . !_ / 6? o+$ FÉ / - i&%E* b8#bJK .. ),+$&# . &( ? # b 2 j= X aJ"J^+$E2%*K `!_) -/./ d OKP / X.JK/ ao Ub/ S U/ J`Tb "Y / jO @$ KEE=JKTE# 2*K / 4S&!M%+$J`a!m . *aG K@JKd#J - *42),#+$ 2 B& -./ G#C 2 . &#EF+$ E=2&b d!K$Ç &#¦ .K#C 4+$ T +$E&8 &o+$E&4 Çd kd3O O . .4? - ..4? - ..4? 2. K+$IMAGE `#KSEGMENTATION &C!_Q*&)Y 4 #d 4+$ J"43+b 2+$*%iD#/ +$E. . ? OI-@./+b 2+$. *% I#b% 2a7!` / E E4DF . B!K3+ -- %&Fo -!X. +=$DF 2/ +$=*%& G. - HOKj#O $./ G JKdoE NG2b C+$oE+2%*WeE 2G2) +$%GHOnÊV =*J`I&FS#UC 2`! / 2! /#. !mG / Q+ E#4D# . o /- 1 bE 24H= - . =K&D / GdW / 2& CE / Io -./ 8 . 4+7ObF - &j=JK !m&# &#%8*7 #h . 4+7=n& -./ C4C8EF& /- #d 2+$%G-./ HO / 2B#d+h@&#¡7 2bÊV / «GK!_+ - +$E / "4) 2 . 4% / 7q ËOT#B / 2 - +$E . - G&i!_ / /#- 3 TD / - . C %+$ =jJKb 2+$E .4?h- F2I# +h1(&G% 26J"4§&#+$# 2 OªKhS J`1) +$ 2# XI#TE#4D# .j- *%&# dÌgÍÎ=F& . X# &F+$ 2# "I# - . U ./ dÏ@Í2ÐHÍ2ÑF`7ÒHÓTÔ - . U 2E - O ÒjÓIÔ o %&G%&; - +$E / %E - !moE# 2* $E E# ) 4!m+ . OBPTT+WG22 / U+ ? 8+$-7/ EEF..4?/E#G(- O #Ol D 8 2+$ G4 6 ) %+©J"&#J" / &i - [E4/ DF . =V / B. J`? $- *. & 7# 4#+7=&8"dE XC ) 4#+7Ob-PT./ d+. W 2+$*%+$#&# W/ q ËF=Q«ÕQ . 2 . / 2 2+$ . 4 ? +$2 - B!mW 2E . Ì1&3Î#= - . =N&3D / F!m+GHO + . > 6 - 1&#+$ 2[ > ),+$(& / # 4) - =V&7 -./ Bb&G% / 2#6@JKo . #+$ $Ç &ÇdkBh=J`Cf<*N4 . > dÊ ? &WT&#+ nG24H=<&F - & . GUodEE=&8'$Öc -./ O ²"z_gvG~×j´Wrw3x#~}~<wi~#s<yx#yz_uslvG~F}V_y}º$²gvGu<wÈyucyu Ø u yyuw¸´ Ù7ÛÚVÙ7Ü7Ûºgݪ~ Á gu}~h'Ö§ Á _V}y~v}usLyH~ gx#yx;ÌgÍÎ<Í2Ï@Í2ÐgÍ2ÑFIutTyH~iuvzMzmsgxUz_sgngy6zw3x#~L¶gxsgV·Vº ÞTx Á L}~<w3~Fsjybzm} Á u_uvG~F Ø |1yH~hxFß~vGx~ Á uMuvoutTyH~ }~<w3~Fs<yº(àd_~x}~L}~~[xLtgmM¹ u_uv[ß~v}z_us\utbygzm}7Vx#¹ e~v$t@uvyH~ Á uvGvG~ Á y$ßgzM~Fáoºdâ8uÁ y~hygxyWÙ7Ü7ãgx}$wiuvG~ _~x#vM|±}~<w3~Fs<y~FÛyg~§gxsV±t,vuwãyg~ Ø x vGuVsVNÚ xÁ sgLz_y}}~<w3~Fsjyxyz_usLzm}byg~h}xw3~8t,uv Ø uy;Ázmä sVz_yzMxmz_»x#¹ yz_usV}ºBµ g~ Ù79}~<w3~Fs<yxyz_us8ßFxvz_~F}"g~e~#sgVzmsgushz_y} zmsVzMyz_x_z_»xyz_usQÚexsV[z_y}d}~<wi~#s<yx#yz_usV}TxvG~Nu<uvG~v*ºCâ8u¹ yz Á ~7ygx#y yg~7gxsV1zm}W}Vmz_ybzmsjyu3y%ábu}~<wi~#s<y} Ø |[Ù7 á$z_y(²guvG|izmsVz_yz_xmzM»xyzMusQÚexsgyg~6VzMåQ~vG~#s Á ~F}BxvGuVsV yg~yzMlutUyg~zmsVH~F¾1æesg~Fv*º [ !m / &GCÇdkdçJK . boS&i 2)Y / . 4 ?-./ 2) +$EG&$J"oÇ 3=# %&#bbIÇ ¨Y 4 +$2) - OQV- . W«d 2J" K#BÇ ¨-Y - / . 4 ? +$2 - !m"/ 8. Ç ?¨& Çdkd¨ JK` Q2On 2F=Çdkdè!m & X +$X 2+$F) %[!m. b[ ? E d!U. 4 . > / =NJ" . 6Ç éG& ? &Ff<* .? &FE&FW8I#4M . > jO ÊV UT 2J" nK E g!_N`+X 2+$*% % 2a= J"4(/ 'iÖè -./ O6/ £N / - [ 2+$Bi / E / C+ -6 !. ) &8 ? I 2%!` - d. EUJ"E4d#!_6dT 2+$2 * ONF . JdOW 2dK 2 2/+$.. *- %. 6 ? Ç &#* XE* .4? - / 2B- 4X 2E - . 4 KT& *[JK( 2+$* $J"4cÊ ? 4 . > H=d&;4o 8 E*6 2+$*%;!B#7&#D¸S$J"4;T&F+énG2) 4l4 . > GHO\kIJK="Çdkdê&F* 832Cël! -. KG C.? 2 +$*d 2 U*K 2&$+$JX* %? !M6+Û #" 2 X -a4 / G& & O K / $JK/ 2..4h?$- h22)Y / . 4 ?¸-.-/ #§ . -> - %&# W#BÇ ìY / . 4 ? +$2 - ` XhW22)@Y / . ? + 2+$*%[ / EoF / . # 2E - O F% * 4+$ h§+3 2+$*%GÛq4«ÕF=$«pG o 2. &(- 1. - - +$E / % W¸&# % - o+G24) -E# OnK 2 2 2 2EE - 2B%S. ¡C&W . "4 +$ e 2 ..+$/ 2"*%'*G),+$H= # e N IE 2 ) - / . / / ..4? . JKh2)@&#+$## 2&h. 2EG - 6X*W&F)@Y X 4 . #E / #3OVK / e4#+$ / . ?(-./ . .D#aEi'*)@ 2+$B O¤ 2I= &&F4 #6 .í.4? =XîHïG#` 2+$ 2BE - 2% 2 . = J". #î3+$ 8 UG# / +WW!d/ E / -&#%iE* O^T## / -. 2 ! -./ # *+$ =# +$%G #W 4#+$ = UíîHð . +$ - +$EG. &F %- .- / JK. 1 .. E4 C- !"E* O Ê# G+ =<T )+$b 2+$*%H=< 2E&h 2 2*. M . O8[G*. & . G2),+$$íîH -./ # . 4#+$ =J" - 7 XJ""J` - # 2M&FU8 "EEO µKx Ø _~ª³´cñgxmzMy|Ûut6}umgyzMusV}(t@uvLzmw3x~c}~<wi~#s<yxF¹ yz_usQº1â8nw Ø ~v}8xvG~1t,uvhyg~¸'*¹%w3~xsV}8òHgxmz_y%|w3~yvz Á#ó Mu#á ~vß#xmg~F}CxvG~ Ø ~yy~v*º µbg~oÙ7Ü7ôxMuvz_ynwõt@ugsV Ø ~yy~v¹òjgx_z_y| Á mV}y~vzmsg}iyHxs¤Ù7ÛÚKxsV\t,uVsgªyg~ }xw3~ Á mg}y~vz_sg1v~x#vV_~F}}utUzmsVz_yz_xmzM»xyzMusQº Ê ? T&#+±n24 Ç «¬pÕö «¬ËË Çdkd «¬F«p® «¬F«p® 3. K#` CENTER-BASED 4#+$ g'*),+$# =AB CLUSTERING 2 2 D#E %F),+DF+$ j= ! />>? . '),+$ =H&3'*),+$/ - +$# d- b !+$ > .4? ! K# l7#4 -J"*2),ë 2& U-! ./ #H1=*J" .# 6&##+$S Oª Q#GJ;? *- & -./ # / 2 ./ ¸ O[K#o . !U - ¸ . #+÷ b+$+$ > $4 Fë - 6! / - jO[ - $ 2oFë - ! / - # - o+$+$ &1 =NJK 284%G / E<&#o . 4+$ J"# - - > d - . .4-? . +$/ +FO IJ1JK - $&FS#XI% . +$&# . !4%= - *2), 2& -./ ##OQKd E U5 « OK4 . > dB . #+¥J"8 / 2 2& - * TÿbO OXÊH - C&G%XE*gÌ= - +$E / n j+$+b 2E+3 Ì@ o - - , &o4 "JK- & Ì O pFOXÊn - - . *= - +$E / N . - Gb!M+¤ .. &#% E* QÌH -- %&## B#4`+$+b 2E# Q&bJ`* 5 ý Ö / ý/ û û Ì Ì # ,& # & Ì Ì Ì «G Ë#OKTE" E# Ib&8p / * .<- - O IJ¸JK - - +$E" . 4+$ N 2&b4Q+$+W 2#E &¸J`*$! / - # OcTL . 7# . > GcE# - ) & T Nb 2 `4 EG2H=F&$ %G2KT ) 4/ +¨!M+ì/ E(pOoK . - +$E / %G .e- +$E . D#4 ? !X. - . 4+¯8 "EEU Tíîj'FX!_U - / E<&Gd% £NY [«OTK 4+$ I %T! - T / T/ B +$d%&# . - +$E . DF4 ? O ? ?83.2 K3'*)@K-means +$ o 4+ Ç hhq4««bE24# 7&G%(*¸' 2 OCK#W 2 ./ . i Ti$ 2d!K' - =H - i!`J"# - . - G&c6 - *2M&L!C&#%!m8J"# - ^48 -. 2# K- * 4 XOVÊGH e+$*+W=!_ 2+$EI! / b - ÔNH= - E&2G%4"Eo ! 7. &%O^K#7ë - - 8! / - ¸G$8Ç ê . 4#+ EF+$ > " 3.1 ý - LGeneral !m+ /#. G7iterative i#% . clustering +$&# . !_$o!+$ .4? ! -./ ) 2 0 R 1 7 ø Í d ÿ 9 Ö +$ : Ì <; : ð , #7 . 4+$ T / 2W4%GWE#+$ > j=<!m .. J" 5476 û 8 8 8 9 3 û q öG,=Q& / 2$# C!_%+$JKah+a - +$E 2# W@JK . 4#+$ OIS#[1)&F+$ 2 . 2h!WîR&%¸E* K XFë - B! / - o "8 . #+±J" - o+$+$ > øù Ö0úÌgûÍüüüÍ2Ìýþ[ o#&G%(( -./ &jORIS# oJ"##) -./ - [m#7 Y / G&L&F % - hJ` )@&F+$ 2 . 2I!`' - * IÿªÖªú û ÍüüüÍþ$ U# -./ ) - - *U&84 T 2 2&h&%bE* %O # 2 ./ 7GU74%GC . #+¥S# O Kd+$+W 2#Eo&6J`*"! / - # "!_TÇ ¨5 Û+$+W 2#Ei! / - Ì,d&#S d#E#E2(! &#%¸E*Ì Gh . # h - J"4 - 2%* %=?>i @ Ì ,9Ö A ¬« 4!eÏjÖ^2J" 2Q +$ : Ì ;B C ð p 3 Ì@ç¬1& û 3 Ì,ÖÈ«O±F+$ . 4+$ 2U#ÄX+$+b 2E ! j=+$3 Ì@ú¬FÍ«Gþ*= &-=?> Ì 9Ö « Ë* J"/ # . $ / 2 !#"Ãe+$/ +W- 2Eh! / - j=g+$o¬%$ Ç ± `B%&W+$+b 2EC! / - j=& - %*eJK* 3 Ì@$§«ONÇdG U& IB &oC&F4!_) !_ - gJKC%&I&B 2- !_.g. +$/+W 2#ET!_+\.4?#> d#!m+F) ! d/ - ? [ / &# % W &.. &G&i%8+$EE . *+$ bY =/ + . a+$E62d%6 - EO7E /Ç . G # - %&#E6q ÕOhPI$!X# 2 b'*),+$# . 4+¥!m -./ FO QUE*e 2 ./ e n& / QU4 n%&C+$+b 2E -! - HO§ kTGJ`=`7%&L+$+W 2#E1! l+a E/ 2- 2 . W+ ?o- +$E / %G . E#+$ > # T/ - I&#$BG!_) 3.3 !_ - I --/ % -? !Vd . 4#+7= /- 7 / 2$')2 Cq4«Ë,O K6ABGaussian / 2 2DFE expectation-maximization %#),+DF+$ ¸,AB£QhC 4#+ !m -./ # / 2 7- . G - +W#> !)@&#+$. # 2 . ¥JK*! ' &bÌ W&#S WJ¥+ (FÉ 8&% AB 2 23&# 2 T I# - * O"@T+$+$ > "CF) EÌ I/ - ¸ - +$E / 7# - *W/#E- G%+$/ W- (# ë - / B! / - / #Di%j=bJ"4 - 2%*(&bÌ *)°¬FO÷¦& ? +$ - = ý - ##=eJK ! / - 1JK b*2& /- &3cq «O[AI*) 2 2 DFE 1¤ø7Í%ÿd9Ö ; . % G û H Ì I H # J , #6 . CFÉ / - d&#%$ -./ T . B / û * 1^ / E 2& . Gcq ®GO £N - ^E#E# - ^ +$WJK*d7&G%oE* B W,JK ) G&F¡7 J" Ì I N `#IE# . ? !gÌ g6X4` X2) # -/ 2* 2 ./ jO(ÓI . a6* ##=N $.E#. E#- - L&F*? &8 H # AB 2 2Mi&# 2 8J"4 *- =& # - GC7 2+b . B!V 2 ./ # O T#d?E#IE#/# . 4 ? ! - */ , OX[ - / 2b . 4#H +Z +a`#X+ 2ImJ" X #BK 2 =*& J`$# ./ $ 28.dJK - - [+$+$ > ./ $Y / * ? KJKd&F J"46IX #+$ KJKB GO`FWq = E Õ KF®pGQ!_C+$W . / I d . 4+7ObKb+$+W2) 2#Eh&6JK*U! / - "!QAB£`ì Ì LNM > Ì êÖ H Ì H & LOM > Ì ,êÖ « H ,® P` ? R QQ /#. 7 / 2&( - +$E / oo 2!Mo+$+W 2#Ej=Q& %LOM > oEF . 4 ? 2 - W#W! - [£NY / [8G EF . 4 OìAB£Q - # %*7JK*7! / - cG Q .. &#%IE* eY / ..? +$E2% - = . aXÇ 3OTKG & LNM > Ì K U#"I +$d Ì O H 3.4 K#i! Fuzzy '*)@+$k-means o 4+ ÊVÇ 2 &l! ) +$ %/d>>q4«? e Bi&E#%. G!eCÇ . . - 4#.. +/#G> >/? 2 b 2!_U+$+b 2E! / - jOeÓI . aIÇ J" - 7 2 2# T - &#%6E*I84 -. 2 - *=<bÊVÇ ÷ . 4+© .. J" W&%bE*UW . WE2 .4? $ ..H- * = . a AB£`3O ý 2 2 S0 1Rø7Íÿd°Ö Ð U : Ì O;(: ð ö / û T û K#bE%+$TÐ $&F T# EFE2!`&%EIÌ b 2 2&( - *V =N&[ / &FC - 2%* Ð 8Ö¨«$!_W &[Ð è¬OhK#6E%+$ X8 # T - û# 2%*? XVc«.ON?. W . GK ./ X!m XB+a N#"+$& @+$B! />>? O ¡ PQ > &#a;&L h 2EG% / E<! / - !m6Ð &Y*OeKUÐ E<&G"Y o&FE&# N oÿ&ø= 2iJKo - E%/ 74 / E<&/ G6! / - L*.4? / E<&G6!_ OUK#8JK - 7E# 2IÊVÇ ì7#B!m+!N#C#% . 4%G E<&#K!<£QY 8«OeKX+$+W 2#E & J`* ! / - X/ !_IÊVÇ ©G/ 5 _û ^ %ZO=?>h Ì ,êÖ : Ì : ;Ì O;(: [ ð:\R ] U [ _û ^ Õ [ ð \] U [ û &-ZN=?>h Ì ,êÖ « «¬ ÊVÇ è nU 2!Me+$+W 2#EB! j=& %*VJ`* ! / - HO[TV X7&F bJXG%&^/ «6- !_+÷G-=N6 . 4+ U+$ aC %&#%&h'*),+$# =&8 - * U 2G #C&G%WE*. . 2 O 3.5 K# '),K-harmonic G+$# +$ Umeans 4+çÇdkdhK B+$#&8 2+) . 3Ç õG- 2 $!_. +03&F4f<*$ë - 7! / - q *«O"KCÇdkBìFë d! 2 "d+$# +$ !nd&F % - B!_+¯- - 8&/ G%W- E*/ "$ ..j- * O ý ' û 2 0` 1Rø7Í%ÿd9Ö ««G û a a bc / û [ed#f a a g kT 6LE / EG%+$=K&¸ ? E# - ..4? ¨O§K# +$H +$ K *&3 JTQ T!mK H 8&#%CE* J"#3- &#%oEC -. 2. 8 - ? # - *- OK C C EFE2 ? !T6+$ - +$ W 2+$ . $o+$4) + +¤! 2& Ç 3= / Q` KC 2+$*f< . ! / / - / HO - / ? Kd+$+W 2#Eo&6J`*"! / - # "!_TÇdkd¨G5 %=?h?>h Ì °Ö : ÌO: ;(Ì ;B: [ iC[ [ð ij[ ð «G T û û : Ì ;( : [ij[ ð &-=?h?>iÌ@°Ö «p k T û : Ì N;( : [ ijl ð ITXÇdkBZ " 2!_"+$+b 2E! / - H=F&6 . 2 JK*B! HO K# BJK*B! i B# JK?*UbE* K/ - G"B!mUJX ? !_+è/ - ?- =#J"# - &F "# - * X7 2EF&F#W - GU#d&G%FO Ko+$E +$*%¸!BÇdkBÈ&# W3&# . J"1 - 2 J"KÌ H. m Ö OgC - 2QJK`!_ .. GJl:# / 2I+GD<I : Ì ; :4oÍ n%V& / 2XT 2+ .. E 2X ./ K< ! nOH[X 2CEE # - #MY / T!mTÊVÇ ¨&I . #+$ U&# -/ 2 2. &oh. ? - pFOnIGIX - / &o ? / +$ - . E# . +$ K8 ? !e / X O 4. [GNEW hCLUSTERING &l;8E#E2ALGORITHMS o!dhJ 4#+ dÇ kd3OU, i; 2!_i+$+b 2Ec! / - \&;. ? JK*7! / - j=BJ" - +a o / Y / i+$1 . ) 4+$ dJK$$ - / *&jOoÇdkd¦ ( 2J"h . 2 U 2 24B4 . > G8 ? * - &%oq *«O kIIJKd TJKW 2E U!nÇdkdçmI+$+W 2#E6& XJ`*K! / .?F > - %Q&$- &FS#"@JKCJ^ . 4+$ NJK - .. k FM&[«&k FM&i*OK# +$&7!_C ! d ? ? K ? #&C ? . 4+$ VG? - +be!m / N!Ç - ±& Çdkd3OKWE / E 2 !_ - 2W . 4+$ I IS& / J"6f< - $h+$+b 2EL&1JK! / - 6! ÇdkdB ? +$ 2 . O 4.1 Hybrid 1: hard membership, k FM&(varying «hk «G 2weights d%&3+$+W 2#Eh! !XÇ 3O e£ ? ? E*" . /# " .? 4 -. 2 - */ Oe- kIJK=#kb« ! / - H=J"# - 7 U+$BJK*T /E 2* U I#dÇdCkdGWJK!Gd!_U+ *Od[bDFE BI# . 4+0 2 /. & - h+$?h- hY / - a .4? lÇ- ê& / 8 UJK =# / `J" .. .. UE# . +$ ` . &6b#I%& +$+b 2EW! HONU Q!G" QJKIa#GJd=F&&F#dJK* X "+#`/ Ç - ¨ UW#J§&#O KC&FS#4 X!VT+$+W 2#E8&$JK*"! / - X!m kb«d5 h û @ Ì 9 Ö & h ûGÌ 9 Ö A « !NÏ<Ö^G`+$ : Ì ¬ 2J" 2 T û : ÌN;( : [ i[ ð k û : Ì ; : [ i l ð 4.2 Hybrid 2: soft membership, k FM&7constant hkB 2weights Ud 2!_d+$+b 2E6! ;B : ð «Ë «G h!`ÇdkB3= ? &o - # %*/ "JK*"! / - 7!eÇ 3OK/ C- &FS# "! #d+$+W 2E6&JKU! / - X!mTkBW5 C Ì ; : [ i[ ð %h « ð Ì ,9Ö û : ÌO;(: [ij[ ð &-h «® ð Ì ,9Ö « TdGIkBb 2+b . TÊVÇ 3O8!m - =!m - 2% ./ T! XI& "+G+G Y Og@N Q* # bH =##? H=*X#I+$+b- ..4? 2E$/ ! / . - o!nÇdkB m!_+ J"# - J` kdd&ÊVÇ 0G6 . 2h ? 2+$ . GO8#) Tkdd&$ÊVÇ ` 2E%T*4 QCaE K# !m - bGbJ`8G6 $+$+b 2E&-. J`* ! / - "!eÇdkd 2E% .? O 5. [EEXPERIMENTAL 2!_+êJ`l 2 !DFESETUP +$* 8l&F+$# 2%# EFE2 d!`#W 4+$ C&F &[ # dp8&hË#O JK*Io# JKB. 2% . Y / - # 5"JR&#- 6&Ff<*B4) . > G 6Gf< - $ - L . 4+7=NJ"G$ W6#É / - o! 2!_U / KG%&o+$+b 2Ej=&J"" XIS#X! / ) #G ? # / - # %*"JK O K# W 4+R+$+$ eI&F4f<*eë K! ) H/=<JKb+$- / . bbY / . 4 ? > !` - -./ 6 2- ./ / - ? #b Y / )*I!e '*),+$# TFë - C! / - £QY / ) ^Ol@$ 6i 2 . h+$2 - ? J"# - L6ë / &# -./ ) 6Y / . 4 ? =`&¸ ?(/ 2#[i 2# . h+$2 - J` - - +$EG &F4f<* 4+$ O¸[ 28#o Y 8*$ 28# Y / &(&F. % - + - (/ D#%G/ 6#$ 24 -? /!"E* 2 ./ # ON - # 2&#&W / ##BÇ ¥W#U / E / e!j - 4#+7= 2W"BÇ ¨Fë d! &oB2) . Q+$#+$ > &jOj[`!_ / & n- N&#& / - e# . EW- 2/#.#4S - .4? = 2J`C&#bT&FW XO P 6DFE+$* 2hJK1&#% 2 7 & 2&Ll * +$/ E4 - . J`a$ / -./ . 4#+$. Bq pF?;=<«/ Ë=&CE- ) %E!HB&W!M+Zq ËONKT . #+$ QJ`" X"Ç 3= ÇdkB3=FÊVÇ 3=Fkb«=kB=#&6AB£`3OK - &#U!m" - o!g 2 . 4#+$ U X / XJ"mJX42oh7 . =FD - EFX!mTAB£Q Ê 84D &FTEF&#&W q4«öG_ON"&Wd EE .? X# ÇdkB3=k «- =#&okBCJ"48? IE%+$ =#&8/ ÊVÇ J"4% XO " 2 Ö^pü I!_X .. = QGQJK NHX Q ./ X!m / & ? :#H #OVX 2p XdÖ\«ü p=F ee eX N ./ KJ`K!m / & 2&o7 / "E# . +$G ? O K#$JK4 . > G WJ` / 26$6Ê ? &T&#+ nG24+$#&# q4«OK#$Ê +$#& * 2 C'i&% E !M+¦#h&G% 2o$%&F? +é& / 2- +é # # .V- * O`KdT&#+¯nG24h+$&o 2 2# I - &#%iE*$%&F+ - *=`# - +$E / b#74 . .K #- G Ê6 !j+$ - #- &o*`&# e X 2-E#2& &*!j4 " ` 2 2To&$CE&G*%F O= J"# . TU? I&#+ènG24o+$&W- &# Q / E . - T# - #) `d 2+ .. GdG`"+$&& . X!<U&G% 2OeT&#+ nG24oJK `!_ & TCE#!_% T4 8+$& !_I U 2+$E . - 4 ? / &7Y / . 4 ? (q4«F=g. «GGOUÊd. > AB£Q3=J` . 2 # eÖ\«5q'b&C4 K GGM - NI`¬Fü sr= J"# . > r$H U#B&#*4 ? +G2D<O . > PQ!m F= &G% 2 2&67oDFE+$* XG 2#4!_&7-./ &), - . &o.. Wd / - 8&#+$ 2 > W+$8& /K#4B [ -$7OBK* B& I&##7b %!_&G% 2& #> h), - 42%+$ !_+ 2G&H O / . K−means:1 iterations. Quality:412.3576 K−means:1 iterations. Quality:13784.0551 2 2 1.5 1.5 1 1 0.5 0.5 0 0 −0.5 −0.5 −1 −1 −1.5 −1.5 −2 −2 −1.5 −1 −0.5 0 0.5 1 1.5 2 −2 −2 −1.5 −1 −0.5 0 0.5 1 1.5 2 ²"z_gvG~utj´õÞU¾He~vzw3~Fsjy ³´õ²guvG|wvM~Ft,ysxxsVzy$xsH¹ gu<wÈàTxvGyzMyz_u{ s vvz_<sy xzmsVzMyz_x_z_»xyz_usV}8t,uv6yg~B|WrTybÜ gx#yx}~yº ~Fsjy~v}xvG~(}guFá$sczmscyg~(gx#v ä^Á u_uv*Ú"Hxyx euzms<y}8z_scyg~_z_<y Á u_uv*º6µbgzm}oHxyx}~FyHx}x[vzm^ut ³½¾e³½[sHxygvGx Á mV}y~v}º &# % +$2 =V 4C Bb +$#É / - bo - [&F4) +$# 2- HO 5.1 KdE Experiment E 2B!n XS# 1:"DFBIRCH E+$*X K 2%B F) / - IE#E2/ X!HTf<*" . 4#..+$/ =&$b 2- #J #&3h+$E#G -./ . 4+$ Oh / 268%F) &#+ #%&¸ * &G% 2J` PQ kb=N $&#) S#&(.4? ? q pOlK? &G% 2- $ 'LÖ÷«¬- ¬.. 2 / -./ G2) %#&3[«¬D<«¬7&[iÖ¥7&#+$# 2 Oo£N - -./ %G 6«¬¬h&#%7E* d!_+ç4 CJ"¸AB 2 2M1&# 2 ) j=n!m7% . !UîcÖ«¬Í%¬¬¬3&#%7E* / OiK6&F % /- @JKoJK&ë - -./ U+$# X "7Ë } J"4 -./ "%G) &# ,! } +$6 [&#+$ 2[ «O [/ / [ - 1 . 4+©J" - =Q- - $J"4[- Ê# ? 4 . ) > H=j&8 - dJ"47CI&F+¯n244 . > GHO ÊV / "pB 2J" n`@JKd4 . > Oe[ / 2KK +$K%F) &#+ .4?7- 234 . > G d!mC .. . 4+$ O P / I /#. d 2+$ . U!mT"%&#+¥4 . > # O 5.2 Ko 2 Experiment &LD#E+$2: Pelleg 2 i *and Moore &% 2$data 2&¸ JKal - ? q4«ËOèkThJKh/ / ^+? ? - ¸&#+$#7 %) 2oFW!U# 4+$ O7 &#% 2 !Q&F+$- 2# B*=<Ë#=<&h$ 2. J\I .. 2b . 4#+$ JKaoJ` .. . Jª&#+$ 2 OX£N - &G% 2I I'Ö¬2 / G / % .g-./ "J"# - h%GCîhÖ§¬¬% . &G%WE* O KN2 * n # 2bg%&F+C #g ) E -/ / =*-./ 7- ¬¬b&G%bE- * XGI%G&o ?$- */ 2#? -AB./ 2 2n%6&#&F 2+ .4 ? =& J"46% %I&#I%&&G&F%UEMGn ~T-- Öl%F&# T¬ü ¬I«G &6/ +$oK#T/ 2 / -./ - *On[T#%d&#%C K+$U 2E%&i -./ K . 2 KG . Ee$"JKa ? V .. W&68*mJ" / 2&~UÖl¬Fü ¬=# - / 2U# E# 2* bo+$$&F: -/. d% 2a8# -./ # . #+$ O K V H 2`4V V%&FH!_ * HU+$GV!_ F TJ" . - &/ G% 2T& / IE# T- @JK8G / % .H-../ ? O / ÊK Y iúÍË#Í2*þIJKU#%C«¬¬b&#% 2 =&W@JK #4) . > - CI&F+ n24o&6Ê# ? n!mK - 8&#% 2O K3JK b ( 4+ì!_+ì!K 2$#4M ) # O$ÊC - [- . . 4+¨J`$ .. Jè4d6 / !m$«¬¬84. >%G) # =J" - 8 UE . * ? !_Ud . 4+$ X - O Kµ x Ø _~i×j´BÞT¾je~Fvzwi~#s<yo³´bñgxmzMy|¸utT}umgyzMusV}t,uvusg~ vVs¤us¤yH~*|WrTybÜ9gx#yx}~yÚBV}zmsg§²guv|\xsgy$xsH¹ Hu<w àTx#vyz_yz_usÛzmsVz_yz_xmzM»xyzMusV}º{Nu#á ~v3òjgxmz_y%|¤} uvG~F} x#vG~ Ø ~yy~Fv*º ¶bmV}y~Fv}èt,uVsgV·ézm}Ûyg~©sHVw Ø ~Á v±ut yvH~ Á mV}y~v } vw3x¾Hzwnw÷³½<½ x"zms3á$gz Á yg~Wx_uvzMynw V_x Á ~F;x#y$_~x}yWusg~ Á ~Fs<y~vº } 0 1 òjgxmz_y%| mV}y~v}t@uVsV Ê# ? I Ê# ? I AB£Q «GO p¬ ËFO pÕÕ ®® ËÕ Ç «GO ®®« «öO pÕ öp ¬ kb« «GO«Õ «G*O Ë* ö ® ÊVÇ ««O «G «¬O ËË#« öÕ Õp kd «¬FO ®¬ ÕFO Õ¬ö Õ Õ Çdkd «¬FO ÕFO ÕÕÕ ÕË Õ 6. EXPERIMENTAL RESULTS 6.1 #Experiment 6 ( 4#1: +ìBIRCH 3#YP`@ k±&G% 2 / * / - !_d. #Jª - G OBÊV / p$ 2#GJ" T- dJ` # G NJK 2OnK#K n!Ç 3=*AB£Q3=& Çdkd(Q / I.> W 2#J"3i/ ÊV / bË8/&7. -./ CY / . 4 B!mC .. Gb 2#J"hiV . bOTÊVÇ 3=kB=<&7ÇdkBç .. !m / &7*& - 2./ !_T +$+W "!_ 2UE6 ? E# `+$ !nO 4 . > G =& ? Gd .. . K#N@JK"G%&d+$+W 2#Ed 4+$ =Ç Û&Bkb«=N&# ) - .4? f<*dFB!m. db@JK64 . > # O*%22) #8!_+©Ê # G[ 2JK8 4+$ CE2!m+ 2 .? JK ? .. =I / 6. > %2#1!M+0hT. &#+õnG2 # 2 . 4+$ - J"4[+ ?- C+8 #b+$&#& . C!`# &% 2=j¡2%EE&F¡6#b ? %& 2 2#) +$OoK# b - / 2$G%&+$+b 2E! / - [EF) * - * V!_+R+$U4! ? &FI#eJ"# / WE* O @V . TUJKX 2#J¸#X / +WV!2 / -./ N!_ / &j=J" - dW / +WI!X2 / -./ / C!I«¬¬Id - &3 - *U ? #C . 4+7O ªAB£` L 2!_i+$+W 2E^! j=Ci&F* E*. .4? / &G% 2& / l 2+$ - */ - #;4) dU U* W&o%a#GU 2% O"K# / - E / X!NAB£`¨. 4 . > &7 ? T&#+±n24.g-h./ EEG " K+$ * *2%G&bW#K+$&& Q!#X&G% 2= J"#b# -- * I- - jOdK# I T 2+$ . GB$. CG%&+$+) 2E( /. O3K6Ê 8D[+$E . +$*%3JK / 2&!_ AB£Qõ %G2&3J"4l«¬¬ * &+$G * CJ" 2 EFb - +$b*h 2+ .. O7- ÊC d 2H=n4b- &F&iJ"4(Õö Ê# W&¸öF«I&#+¦nG2 * &#E&#i #b#? . > GHOdÊ 84Dh T# - . 4 ? 2G - !mI# / +W`! - / 2W&## 2 ? +jOn[I2&6 %22) #bÊ 84DJ"4 / `CEF)@&#S& / +We! - * =F&4 !_ / &hpFO 6.2 P $ 2 Experiment &1DFE+$*2:W 2#Pelleg J" oand G%Moore 7E2!mdata + 8! #/ ( . - 4+$ - +$E&G+ ? %&F+ .4? #%- & &#%I 2 QW 2% &#+$# 2 OeÊ#N $&#% 2QøVs J"# (ú*ÍË#Íþ&[« . $ W $¤«¬¬JK - +$E - / C E#+ . Ç E24i,í 5 ? / #WÇ ¨ - - C %G2#$J" Ê ? T&#+¯nG24 K−means:100 iterations. Quality:163.1047 K−means:100 iterations. Quality:338.435 2 2 1.5 1.5 1 1 0.5 0.5 0 0 −0.5 −0.5 −1 −1 −1.5 −1.5 −2 −2 −1.5 −1 −0.5 0 0.5 1 1.5 2 −2 −2 −1.5 K−harmonic means (p=3.5):100 iterations. Quality:105.1674 2 1.5 1.5 1 1 0.5 0.5 0 0 −0.5 −0.5 −1 −1 −1.5 −1.5 −2 −2 −1.5 −1 −0.5 0 0.5 1 1.5 2 −2 −2 −1.5 fuzzy km (r=1.3,P=2):100 iterations. Quality:134.8514 2 1.5 1.5 1 1 0.5 0.5 0 0 −0.5 −0.5 −1 −1 −1.5 −1.5 −1.5 −1 −0.5 0 0.5 1 −1 1.5 2 −2 −2 −1.5 −1 hybrid 1 (p=3.5):100 iterations. Quality:147.8599 2 1.5 1.5 1 1 0.5 0.5 0 0 −0.5 −0.5 −1 −1 −1.5 −1.5 −1.5 −1 −0.5 0 0.5 1 1.5 2 −2 −2 −1.5 −1 hybrid 2 (p=3.5):100 iterations. Quality:113.8546 2 1.5 1.5 1 1 0.5 0.5 0 0 −0.5 −0.5 −1 −1 −1.5 −1.5 −1.5 −1 −0.5 0 0.5 0.5 1 1.5 2 −0.5 0 0.5 1.5 2 1 1.5 2 1 1.5 2 1 1.5 2 1 −0.5 0 0.5 −0.5 0 0.5 hybrid 2 (p=3.5):100 iterations. Quality:98.168 2 −2 −2 0 hybrid 1 (p=3.5):100 iterations. Quality:232.34 2 −2 −2 −0.5 fuzzy km (r=1.3,P=2):100 iterations. Quality:109.022 2 −2 −2 −1 K−harmonic means (p=3.5):100 iterations. Quality:99.98 2 1 1.5 2 −2 −2 −1.5 −1 −0.5 0 0.5 ²"z_gvG~õÀg´ ÞT¾je~Fvzwi~#s<y¦³´ us<ß~vG~Fs Á ~éus yH~ |WTr ybÜÈgxyx}~yº3²gvGu<w]yu\yu Ø uyyu<w1´(oÞI ÚXÙ7ÛÚ Ù7Ü7 Ú$²"Ù7ÛÚÜ3³Ú8Üh×jºoÞI xsVÙ7 Ø uy usH¹ ß~vG~3yuLß~vG|l_uFáW¹òjgxmz_y%|^uVyzwixHÚKáVzm_~Ù7Ü7 gÁ u<~F} sguyºB²gx}yªz_¾7}ut@y%á xvG~W~Fsg~vGxy~#yg~Wn_uy}Ut@uvVoÞIÛÚ }guFá$zmsgyg~(³¹}z_w3x Á usjyugv}º 3 2.8 2.6 2.4 2.2 2 1.8 KM KHMp(p=3.5) FKM(r=1.3) H1(p=3.5) H2(p=3.5) GEM (final result) 1.6 1.6 1.4 1.4 1.2 1 0 average performance times optimal average performance times optimal 3 2.8 2.6 2.4 2.2 2 1.8 1.2 10 20 iteration # 30 40 1 0 10 20 iteration # 30 40 ²"z_gvG~<´^ÞT¾je~vzmw3~Fsjy[×j´cCusjß~vG~Fs Á ~ Á gvGß~F}[}yxvGyz_sgªt,vuw ²guvG|vyupx3xsgy$xsVHu<wãàUxvGyz_yzMusv Ø uyyuwx z_sVz_yz_xmz_»x#yz_usg}us¤×F¹2ª}|gs<yg~yz Á gxyxHº(µ g~[¾<¹2x#¾gzm}h}Hu#á$}oyg~1sjnw Ø ~vhut z_y~vGxyz_usV}ÚTxsVyg~(|<¹2x¾Hzm}vMuc} Á xM~x }Hu#á$}7xß~vGx~ Á mV}y~vzmsg§òjgxmzMy|} Á uvG~ÚIág~v~¸_uFá ~FvßFxmH~#}7x#vG~ Ø ~yy~v*º*sV_|\yg~(æesgxBvG~F}V_y}t,uvoÞI x#vG~ }Hu#á$sNºCâ8uy~yHxy$Ù7ùxsVm oÞI e~vGt@uvwõábuv}~hyHxs;~ß~vG|(uyg~v6x_uvzMynw¸º # - * X"%G&oB&%b 2 OQK6JK - +$E / #d - d!N -./ #ÿ 5 Q XI%G 0 1RV ø s Í%ÿ 5 -s Ö «ö 0 1¤ø 5 Íí,5 g Ë$ 2J" T#C+$h&7 %&G%&h&#i!,5 !_ - ;. . 4+7= - +$E / & / 2#¸«¬¬3&% 2 $l&#+$F) 2 OCV . p$ 2#GJ" T E*2),J" 2 - +$E 2!Q - 3 . ) 4+!mn#Q +$`DFE+$*OH@n n!_+\ n VJK e 2!_N+$+W 2EC . 4+$ "Çdkd3-. =ÊVÇ 3=kdgE2!m+ .. 2X6%&6+$+W 2#E . #+$ dÇ 3=Fkb«GN6 %bE2!m+ - W&h - OdK# /. I!mBËo&h &F+$ 2 &G% 2 W ? 2+$ . G=V 28J`$#dE2 #+¥O . ÊV $$ 2J" I#b 2E&i! b!Q i 4+ !_d/ 6Ö\&F+$ 2# OBK# D)@- DF U 2J"- IC4- %G.3 / +) =&$ ? )GDF ` 2J" KT%d'*)@+$ `Y / . 4 ? %G GXG"%j= +$E & 2b#W«¬¬&G% 2 Oe 2TGXAB£Q&- Ç / G / / 4!m+ .4? #!mKC ? - # 4#+7=&oG"d 2!MB+$+b 2Eo 4+$ UÇdkd3= kB. =Q&1ÊVÇ õ+$G6Y / - a .4? S&[*&¸. 2 ./ O1PI .4? #8S . /. $!_8AB£`9 E . 2&L $JK - # - E# / -./ $EF 2 T!_B#CÊ 84Do 2!_@JXGC+$ O Ê 84D QT# 4 &&&+$G * N 2 S#C4 b&#%OÊ 84.D? &#&# C - C!`W+$- &F .e/ &#EF) &F Bb&G%8&7+$G d *d4!` IE#CEF 4 - * . JdO1[oDFE - b$Ê- 84D<Q . 4 ? && - . #? ) QJK /. &$" . E#! /. 6C&G% 2`J"# - -./ K"JK .. ) 2E%G&jONÊ#eDFE+$*e*=*Ê 84DbbJ"¬ - * &i +$G& OÊ 84D &iJ"4[*) %6.4!"? ËöFO pÕ - *- 6Ê ? d&3Ë- ¬FO«p - 6T&#+ nG24`IG)@&#+$# 2$ ONK X 2J" `UAB£Q . 2$ 2 24BE*I4 . > G O µKx Ø _~oÀH´BÞU¾He~vzw3~Fsjyb×j´Iµ g~7wi~Fxs[xsV(}yxsVgx#v¸H~¹ ßHz_xyzMusiut ð Ú#yg~ vGxyz_u Ø ~yá ~~#soyg~b'¹%wi~FxsV}"òHHxmz_y%| xsg¯yg~uVyzwnw¸ÚuFß~vc³*½½Rgxyx}~y}ÚzmsZפVzw3~FsH¹ }z_usg}º QuFáb~v6ß#xmg~F}$xvG~ Ø ~yy~v*ºy$~F}V_y}t@uv8À1xsVc¿ Vzwi~#sg}z_usV}x#v~i}zw3zm_xv*ÚexsVlgxß~7yH~3}xw3~7vGxs ä zmsHgº ¦§©¨ ¹ ¨ º ª N¹ ¨ º ¹±º ¨ 7#R ª« ¬®¯±°T².³j«¥ªo¬R´5 ª«¥ªo·³·¯±°T².³j« ³·µ¬ ª«¥ªI´s¸R¬¯±°T².³j« ³®µ³ ª«¥ªo»jª-¯±°T².³j« ³®¬5¸ ª«¥ªo³5¸¸F¯±°T².³j« ³µ¬® ª« ³5¸R³µ¯±°T².³j« ³¬jªo³ 7. P HCONCLUSIONS DFE+$* 2#J3#N pR ¢¡NR_£_¤ £#¤¥ j« ¬®µ¬¶¯±°T²©³j« ´´5·5¸ j« ³·³µ¶¯±°T²©³j« ®jªo® ª« ¸R®R´´¯±°T²©³j« R´5³¬ ª« ³·»·¶¯±°T²©³j« ³R´5·· ª« ³5¸R»»¶¯±°T²©³j« ³R´ªo® ª« ³®³µ¶¯±°T²©³j« ³·R´ E4 !N'*),+$ +$/ n . 4+¯-Çd. kBh.4? j!mnS&F/ -./ ? N!#Y / . ) 4 ? . J&#+$# 2 O^P / 6 . 4+$ $k «h&LkB . / / & ? f< - B!N ÇdkdìJK*C&h+$+b 2Eh 2EF) %G OK 2J¯Go 2!_o+$+W 2E1 6 2 2* !m S&#.4?8*& ? -./ # =Q bkd8E2!_+$ G .? JK . .. Çdkd3=H / BG G ? #oJK* bG$S - . J"4(8%& +$+b 2E3! / - H=N 2 - ok «E2!m+$ W2 (Ç 3O ÔQ ? 3J`* 6h* / 4 .4? 2+$ . G8J`* 6EF) E . &b2%##WD#+$E . X ? * #7q ®GO`,K+# KW 2oJ"#" " . ?7- 7B+&FBE# - 2O n "JKa874 3+$#&# " &#&6 iT/ &F+Èn24§. +$> &l 7*&c!_i- AB£Q- ./ &l!m Ç 3=N / $ / $DFE+$* &F - #S+ - -./ 2HO KUÊ ? +$&W!j#4M . > i - #* 2d%&#+RE* "4 .<- %QJKa " K!_IAB£Q3=Ç 3=#&ok «OQPI2) =" G$7 6 #+$ 6G .. & ? / GWÊV/Ç . 3=/ kd=j&7ÇdkB3=4 . > . & ? CT. &F+ . n24h+$&jO µKx Ø _~¼t<´7ÞU¾He~vzw3~Fsjy8×j´h u<w3e~yz_yz_us¤w3x#yvz_¾ct@uvi×F¹\HxyxL}yxvGyz_sglt,vuw ²guv|{v_~t@y5x6xsV½y$xsVHu<w àUxvGyz_yzMus v@vzMjy5x(z_sVz_yz_xmz_»x#yz_usg}ºçÞTx Á è~Fs<yvG|è}guFá$}[yH~sjnw Ø ~Fv(utoyzmw3~F}½vw3x¾Hzwnw ³½½<x3ygx#y(yg~cx_uvz_ynw zms±yH~ uÁ mnws1gx(x Ø ~Fyy~vG¹2òHgxmz_y%| Á mV}y~FvzmsH3yHxs(yg~6x_uvz_ynwõzms[yg~ovuFá8ºIµbH~ovG~F}V_y}Ct,uvWÀhxsV1¿hVzw3~FsV}z_usV} x#vG~ }zmwzm_x#vÚN}u3áb~8gu[sHuyWvG~euvGyyg~#w0g~v~ºBrsLgxvGyz Á g_xv*ÚQÙ7Ü7ãzm} Ø ~yy~vygxs;Ù7ôt@uv¾¾iyu¸³½½iutB³½½iyzw3~F}zms ~x Á LVzw3~FsV}z_usly~F}y~FQº ¦§©¨ ¦§¨ ¹ ¨ ¹±º ¨ O¹ ¨ º ª º ¿#À Á ¹ ¨ ·5¸ ¬ ³ · ³ · ª ³ ¹±º ¨ ªo³³ ·· »µ · ¬ ¸R® ´ µ¬ 5 5¸ µ O¹ ¨ ªo³³ ·jª ªoµ ªI´5¬ »jª ¬» ¬µ º ª ·» ¸R¬ ¸ ªo· ªo³ ³5¸ º ªo³³ ·jª R´ ® ·³ ¬®5¸ C$&F+$ 2# Q N$$E$EF +¤!_ + ./ ?B? G OVkIJ`= - *V 2 - b n 2#GJ"CGn. 4n+ ? "EF!m% X 2"&F+$ 2 4 & #MY n) !_ -./ . F="/&1# / 27 . . ?GJX)@&F/#+$- 2 - ."-./ / # 4#+è `'),+$# +$ =%` # 6. I#7/&F- +$ 2o - .- ? OViq H#B / " 2-./ J" KG /!X 2CIEF 2+$EE .2= DF!UE&##% 2 . #Q E#Gë - b$&FE# % 2 % N=V+J"/- +a#I4e 2QIS&d -/#./ - Oe-.K/ / V#X e- I& !_. *&F)@Y / . 4 ? =#!m -./ . #+$ X!m . JX)&F+$ 2 . &#%= /- 7 U'),G+$# - +$# O 8. ªÃ,ÄREFERENCES «Å«7ÆÇIÈ ÇIÉ« ÊÌËÍÎÍÏTÐÑ Ò.ÏÓÔ#Õ5Ñ7ÖCÍÎÖ/Ô5Ñ×NÖ/Í/ضÙeÚ5ÛÛIÜYÝpÞ3ßIÏÓTÍÎÖCàRÏ ÙeÚjÑÓoÍÎÖ3ÔÑ áâ Õ5Ô5ÐÖCÍ/Øã+ä#« ¡©å Ç À ¡O Ç ¿#¿oæ7ç Çèé É æ ªo·»jª«  Ã+Å«¨ê«jÆ ¤ ¿#ë ì «íîÏTÚÐïË5âíîÏTÍ3שÔÐ#ðäOñÔÐÊpËÍÎÍÏoÐÑ ÒÌÏÓÔ#Õ5Ñ7ÖCÍÎÖ/ÔÑ7« Å å:R Ç ¡© Ç ¿_¿Tæòóô # æ ªo··µj«  ¬Ã ¡ «õ«7Æ #Rå Ç VRö «7¨ê« IsR « Ç÷ j¤¥¤¥¤ £_¤:Rå 줥5£ ¿pô ¹ ²ø¨Ç R ¿pù å À¿ £ Ç #¤¥ «jú ÊÌÐïÔoÓRû©ü5ýÍ/ØþÑ7ÍÏoÐÑËÍÎÖ3ÔÑËâÿNÔÑTñoûNÔÑ Ë5ÓIØÖCÑÏ eÏËÐÑ7Ö/ÑÕ æ ì7R Ç ¿ ·jª ··j«¨ #5R¹± Àô ¶R æ õ R 7R ù ¤ ¿_ù æ Å æ ªo··»j«  ´Rà ,«7Å ¶Rj¤ ù ¤ À R¡ «7¨ÇIÇ «¨Ç R ¿#ë ¤ ô £oÁN+# À¿ £Rìì_5 ùë 7ÐïËÑ7äË5ÓTÍÎÖ/ÔÑ7ä,ÔÑ £_ è R_ ô Ç £ À Ç ¿ ì7 ù Ç R7Rå ¿ ¤ ¿ «7þ ÊpËÍÎÍÎÏTÐÑ áÑË5â ÜäÖCäîË5Ñ Ë5ÓIØÖCÑϱþÑ7ÍÏTâCâ Ö ÕsÏoÑÓÏ æ ³³jª«  µÃ+õ« ¿ À ìj£# «7§ ó ì Ç #¤¥ Ç 5£ ¿ è ¤ £ ë Rj ì_ Ç ù £_¤¥ «7ú ÑÓ#ÏTÐÍËÖCÑ7ÍÎÜÖ/Ñ áÐÍÎÖ ©ÓTÖ/ËâþÑ7ÍÏTâCâ Ö ÕsÏoÑÓÏ ÌÊ.Ð_ÔoÓÏÏ 5ÖCÑÕ5ä-Ô_ñîÍCØÏ Ö 5ÍÏÏoÑ7Í/ØêÿOÔÑTñÏTÐïÏTÑÓ#Ï áþ æ ì7R Ç ¿ ªI´5¬ ªoµjª æ õ R 7R ù ¤ ¿_ù æ Å æ ³³³j«7¨ #5R¹± Àô ¶R¡ À 奤 ¿#ë Ç ¿ «  ®Ã _¤¥ Ç ¿Tæ 7_¤ ÇIÈoÇ æ ¹±Rj7R æ Ç ì7Rå: æ R ¤¥7I «Å å À¿ £ Ç #¤¥ þïá ¤¥ å:R_ Ç Rì ë¿ Rj ¶£_#¤ ù Ç ¿ «ú NÝ pá eá+ÿ Üã ÔäÖCÚjãÔÑ ±Ö/äÓoÐïÏTÍÏ?á?â ÕsÔÐÖCÍ/Øã+ä 3áÿNÔÑTñÏTÐïÏTÑÓÏ+Ô5Ñ eØjÏÔÐ_ÏoÍÎÖ/ÓËâOËÑ jÏoÐÖ/ã+ÏTÑ7ÍËâ áÑËâ ÜäÖCäîÔ_ñ îÖCäÓTÐïÏoÍÏ áâ Õ5Ô5ÐÖCÍ/Øã+ä æ ªo···j«  ¸TÃîé+« 7 Ç À R «õ ù#ë R줥 Ç« ¿_ë _£p¤¥5£#_ Àjù £_¤¥ £_ ¿ £#¤¥j « jË Ë5ÑÏoäÏ ÔoÓTÖ/ÏTÍÎÜñÔÐ?áÐÍÎÖ ©ÓTÖ/ËâþÑ7ÍÏTâCâ Ö ÕsÏoÑÓÏ æ ªI´ Á ¸¸ª j¸R»³ æ ªo···j«  »Ã ,« ¹±Rå £# æ ¡ « Rå Ç æ ¹ « R ¿ £# æ R Ä«é s « ¦Ç Ç R奤 ÈIÇ ù å À¿ £ Ç #¤¥ æ¿#À ì Ç ¤ ¿ Ç å Ç R_¤¥ æ Rj 7£# ¿#¿ ¤¥ Ç s£ «ú ÊÌÐïÔTÓ#ÏÏ Ö/ÑÕä-Ô#ñ±Í/ØjÏ ÏTàÏTÑ7Í/ØþÑ7ÍÏTÐÑËÍÎÖ/ÔÑËâ ÿNÔÑTñIÏoÐ_ÏoÑÓÏFÔÑ -ÑÔ×pâ Ï TÕsÏ îÖCäÓÔàÏTÐܶËÑ îË5ÍÎË ÖCÑ7ÖCÑÕ æ ì7R Ç ¿ ·· ¬³R´ æ õ R 7R ù ¤ ¿_ù æ Å æ ³³jª« Å.¨ ¡© Ç ¿_¿ «  ·Ã,¨ê« ¹ Ç R_ ¿Tæ é+«7¨ R ¿ À æ R -«jé,« ç « ¤¥ ô # ¶£_¤¥ ² £ ë Ç Ç £_¤ ù R7Rå ¿ ¤ ¿ ôOë R#VR ¿ ô £p ¿#¿ ¤¥ Ç s£ ÑÓÏoÐÍËÖ/Ñ7ÍÎÜÖCÑ Ç £ ë ¿Ìô ù å À¿ £ Ç _¤¥ «ú Ê.ÐïÔTÓÏ#Ï Ö/ÑÕä,Ô_ñ áÐÍÎÖ ©ÓTÖ/Ë5âþÑ7ÍÏoâ/â Ö¥Õ5ÏTÑÓÏ æ ì7R Ç ¿ » ·¬j« ú æ ªo··5¸«  ªo³Ã ,« ¤ É ¿oæç « å: ¿_¿ ¤ ¿Tæ R Ä7« Ç ÇIÇIÉ« ë Ç å¥ 7Rå É5² Ç R ¿ ù å À¿ £ Ç #¤¥FRå¥#¤ £ ë « Ç ùë j¤ ù Råe Ç ì_£ æ Å ì À £ Ç õ ù ¤ Ç ù Ç ú ¿ £#¤ £ À £ Ç æ öp¤ Ç ¿ ¤ £¶ ô ¿ £ Ç #7R æ ë Ç ç Ç £ ë Ç #å:R ¿oæ Ç À R_ ³³jª«ú ±õs² ö ²³jª²ø³j« +* 21 * 43 43 45 :9 ( - 0 % '& 8 8 ( '= > & & ) .( & % "!#!#!$ ,( -* /$ 76 ;( ' 4 % +< & 0= = ¦§©¨ ¦§¨ ¹ ¨ ¹±º ¨ O¹ ¨ º ª º ¿#À Á ¹ ¨ ªo³³ ³ ³ ³ ³ ³ ³ ¹±º ¨ ªo³³ ªo³³ ³ ³ ¸R· ªo³³ ®® ´´5µ ³ ³ ªo³³ 7? N¹ ¨ ªo³³ ªo³³ jª º ª ªo³³ ªo³³ º ªo³³ ªo³³ ¬R´ ¸R³ ªo³³ ³ ³ oª ³³ ¬³ ¬µjª ³ ³³ ´5³R´  ªªÃ+Ä7«7¨ ù À ÇoÇ «õ Ç Ç £ ë ¿Ìô ù å: ¿_¿ ¤ ÷ ù £_¤¥R R7Rå ¿ ¤ ¿ ô À å £_¤ R#¤:£ Ç ¿ Ç £_¤¥ ¿ «7ú ©«¨ê« ÇTÅ R Rj Ä7« ç Ç j ¶R æ Ç ¤ £_ ¿oæ ÊÌÐïÔoÓÏÏ ÖCÑÕ5ä,Ô#ñ?Í/ØjÏîÙ©Ö ñÍ/Ø ÏTÐ#ðÏTâ ÏTÜ Üã Ô5ä#Ö/Úã ÔÑ ËÍ/ØjÏTã+ËÍÎÖ3Ó#Ë5â ÍËÍÎÖ/ä#ÍÎÖ3Óoä±ËÑ Ê.Ð_ÔsÞ#ËsÞIÖ/â Ö/ÍÎÜ æ 5å À Ç+ª æ ì7R Ç ¿ »jª ·5¸ æ ÆÇ ÉÇ å Ç æ Å æ ªo·®5¸« öp¤ Ç ¿ ¤ £V ô Å R奤 ô #j¤:,¡© Ç ¿#¿ « 8 8 +* 8 CD 3 '3 A B @ 8 4  ªoÃ+¨ê«7¨Ç :å +R ,« º Ç ù ÉÇ # ¶R « Ç ó ì Ç _¤¥ Ç s£#Rå ù ì7R_¤ ¿ Ë5ÓIØÖCÑÏ+â Ï#Ë5ÐÑ7ÖCÑÕ æ ô s Ç å ² 7 ¿ Ç ù å À¿ £ Ç #¤¥jF Ç £ ë s ¿ « ´5 Á · · æ ³³jª«  ªo¬Ã ,« ç æ ¨ê«Ä _7R æ Rj é+« Ç ¤ ¿_¿ « ò ¿ ì Ç ù £##Rå ù å À¿ £ Ç #¤¥Á 7Rå ¿ ¤ ¿ R RRå¥#¤ £ ë «íîÏTÚÐïË5âþÑTñÔÐãFËÍÎÖ/Ô5ÑÊÌÐïÔoÓÏTä#äÖ/ÑÕ ÜäÍÏTã,ä æ ªI´ æ ³³j«  ªI´Rà ,« ¡ Ç å¥å Ç R -«7¨ s Ç« ùIù Ç å Ç £_¤¥ Ç ó ù £ ² Ç R ¿ Rå¥#¤ £ ë ¿ è ¤ £ ë Ç Ç £_#¤ ù Ç ¿ ¤¥ «7ú ÊÌÐïÔoÓÏÏ ÖCÑÕ5ä,Ô#ñ?Í/ØjÏ ÙÖ ñÍ/Øá+ÿ þ þÑ7ÍÏTÐÑËÍÎÖ/ÔÑË5â.ÿNÔÑTñÏTÐïÏTÑÓÏ+Ô5Ñ -ÑÔ5×Ìâ Ï TÕsÏ îÖCäÓÔàÏTÐÜËÑ -ËÍË ÖCÑ7Ö/ÑÕ æ ìR Ç ¿ 5¸¸ »jª« ú ¡© Ç ¿#¿Tæ ªo···j«  ªoµÃ ,« ¡ Ç å¥å Ç R -«7¨ s Ç« ² Ç R ¿ Á § ó £ Ç ¤¥ ² Ç R ¿ è ¤ £ ë Ç ù ¤ Ç 5£ Ç ¿ £_¤¥ ¶£_¤¥V ô £ ë Ç À Ç p ô<ù å À¿ £ Ç ¿ «7ú ÊÌÐïÔTÓ#ÏÏ Ö/ÑÕä+Ô_ñ±Í/ØjÏ+ü Í/ØVþÑ7ÍÏTÐÑËÍÎÖ/ÔÑËâ.ÿOÔÑTñIûNÔÑ Ë5ÓIØÖCÑÏ Ï#Ë5ÐÑ7ÖCÑÕ æ ì7R Ç ¿ ¸R5¸ j¸R¬R´«¨ _5R¹± Àjô ¶R æ õ R 7R ù ¤ ¿#ù æ Å æ ³³³j«  ªo®Ã+Ä7« ¡ Ç 7 æ Ä7« È R æ RV¡ « R## 7R5 « Ç ì¤¥#¤ ù Rå ù ìR#¤ ¿ ô<ô À p¤¥j¤ £#¤:R奤 È £_¤¥V Ç £ ë ¿pô .£ ë DZÉ5² Ç R ¿ Rå¥#¤ £ ë «7ÊÌËÍÎÍÏTÐÑ ÐïÏÓÔ#Õ5Ñ7ÖCÍÎÖ/ÔÑâ ÏTÍÎÍÏoÐä æ ³ Á ªo³5¸ ªo³R´5³ æ ªo···j«  ªT¸Tà ¡ «7õ RYR ,«¨ Ç5« Ç ì7R¤¥_¤¥ ô À å £ ¤ ó £ À Ç s Ç å ¿ À¿ ¤¥+ Ç ¿ ¤ £ Ç ¿ £_¤¥ ¶£#¤¥ «ú Ê.Ð_ÔoÓÏÏ 5ÖCÑÕ5ä-Ô_ñîÍCØÏ+ü Í/Ø þÑ7ÍÏoÐÑËÍÎÖ3ÔÑËâ.ÿNÔÑTñoûNÔ5Ñ Ë5ÓØjÖCÑÏ eÏËÐÑ7ÖCÑÕ5«7¨ _5R ¹± Àjô ¶Rj æ õ RV7R ù ¤ ¿_ù æ Å æ ³³jª«  ªo»Ã ¡ «7õ RYR ,«¨ Ç5« ¿ £_ ¤ ó¶ù å À¿ £ Ç #¤¥ ¿ ô £ è R Ç æ ³³j« « % - "5 F9G(.( 9 ( + + - K NM 43 ' +E ;( H 'I J - "L H 43 M 0 H NO B P#Q QRTS U U%V V VTWYX Z[WYX\"]TW>^_]"U'`R4Z7ab#_NU  ªo·Ã+Ä7«õ ë ¤Rj Ä«¨ R奤 É« ç # ¶R奤 ÈIÇ ùIÀ £ ¿ Rj ¤¥ ¶R Ç 7ÐïËÑ7äË5ÓTÍÎÖ/ÔÑ7ä,ÔÑ ÊpËÍÎÍÎÏTÐÑ áÑË5â ÜäÖCäîË5Ñ ¿ Ç Ç s£#£#¤¥ « þ Ë5ÓIØÖ/ÑϱþÑ7ÍÏoâ/â Ö¥Õ5ÏTÑÓÏ æ 3» Á »»» ·³µ æ ³³³j«  ³Ã ©« R Ç ë « À ÈIÈ ¿ Ç £ ¿ «7þÑTñÔÐãFËÍÎÖ/ÔÑêËÑ ÿNÔÑ7ÍÎÐïÔâ æ » Á ¬¬» ¬µ¬ æ ªo·®µj« 4c #d 3 e e  jªÃ+Æ« À ¿#À º Çè e % % É ² ë R# j¤ ù Ç R ¿ ¿ £#¤¥+¤¥ ë R « ¦Ç Ç R奤 ÈIÇ 5 ì Ç j¤ ¿ Ç Vå Ç R#¤¥ « Ç #ù ë ¤ ù Rå Ç ì ï£?ºp¡ eø² ³³³²#ªo¬5¸ æ å Ç £ï£ ² ¡N ù É R_ ¿oæ ³³ ³j« Y8 3 '= 3 0 "=  Ã+Æ« ë R æ ¨ê« º ¿#Àeæ RYö « IsRå « ¹ ² ë R _ ¤ ù Ç R ¿ 7£ ù å À¿ £ Ç _¤¥Rå¥#¤ £ ë « Ç ùë ¤ ù Rå< Ç ìp¡ e#² ªo···²ªoR´ æ º Çè å Ç ï£ £ ² ¡N ù É R_ ¿oæ ªo···j« 3 = 0e 3 43 8  ¬Ã î« ë Rj æ « R ¶ É #¤ ¿_ë 7R æ R ê ¨ « ¤ s «Æú Å º-Á+ Çè 7£ ù å À¿ £ Ç _¤¥Rå¥#¤ £ ë ¢R¤ £ ¿ R ì ì奤 ù £#¤¥ ¿ « 5å À Ç,ª æ ì7R Ç ¿ Iª ´ª ªo» æ ªo··5¸« 8
© Copyright 2026 Paperzz