! #" $%&(')
*,+&-.,/10(2&3.
465879;:1<=9;>?A@B;CDCFE
IG H#JLKNMPOQ;K
R.ST&UWVXTNY[Z]\;Z_^a`cbdfeg\hVF^ji&^jkN\;Zl^j`8bm\Pnjo8`cpl^jZSiqor^ascTtbvuDwvxyTti(XzlZTtpTtZ{\Pn|[}N~D88WS\8zTtb;`;w8TN
Y[`8bz^
DTtp]\;uDnjT6X`8XDn
\;pl^jZlw&`8pz_`;njs8^jboe1{TNzlZl^ji\;Zl^j`8bXp`8uDnjTtizLR.SD^
zb`8ZT{DTtpl^js8TNz.Uep`8i
ZSTnj`;Ttpu`8bc^jbos8^jTtX`;^jbFZ1|
ZZpT[nn{}P~8~;]SD^
YSuTtZZTtp^nnjzlZp[\;ZTNzZSTvY[`8bDs8Ttpo8TtbY[T
Xp`8XTtpZl^jTNz=`rZST.\Pnjo8`8pl^jZSi\;by^jZ]z
s;\;pl^
\;bDZ]ztR.ST\Pnjo8`cpl^jZSi,^
z^nnjzlZp]\;ZTN6.^jZS{Zl.`T[V\;i(XDnjTNzt
X`D`;n^jbov\;Z]\ ¡p`8i¢i&DnjZl^jXDnaT&b`;^
zlwIzl`8p[Y[TNz\;b£ZZl^jbo\&i&^VZpT¤DTtbz^aZlw8
¥
¦.§m¨©yª«¬®¨¯hª§
°y±
9³².´µ=98¶N·t¸c·]¹º5F»
¼l½¾¸8´¹
:¹º¿r¸c·[¹
5D»,À²½Á¸cÂ
ÃD5D>]¹º·]±
:ĹŸc»,¹º·]9;>t¸8·[¹
7915Fµ
·[¹
:¹º¿8¸8·[¹
5D»¾·[9r¶L±
»A¹ÆÇ
9ŵ=98¶P¹ÉÈf¼
¹¶h¸cºÂ
Ê®Ë98ŹºÃD»A98ËÌÈf5D>IµA>[5D<¸c<
¹
º¹Å·[¹¡¶Í:5Ë9;ÂÅNξÏl·Ç=Å98ÅI¸¾Ë¹ÉÐ#9;>]9;»·Å·[>Ѹc·[9hÃDÊ ·]±=¸c»,ÃD>ѸD˹
9;»·IË98Å]¶P9;»·5F>
469;Ò{·]5D»ÓÅ6:9;·]±
5˸8»=˾Å5F:9;·]¹º:98ŵ
>[587¹Ë9rÅÔȸFÅ·[9h>(¶P5D»79;>]ÃD9;»=¶N9Î&Õ658ÒÖ9;79;>;@
¹
·6¹¡Å&Å·]¹ºÂ
Â.¸1Â
5¶;¸c·[98¶t±
¼
»
¹¡Æ×Ç
9@
¸c»ËÅ5v¹ÅØÇÅ·¸DÅÅÇÅ[¶P9;µA·[¹º<Aº9&·]51Â
5¶;¸cÂ:¹
»
¹º:g¸Î
°y±
9˹jÐ#9;>[9;»¶P9{<=9;·Òy9;9;»Ù²½¸8»=ËIÃD>t¸F˹º9h»·Ë98Å[¶P9h»·.¹¡Å¹ºÂ
ºÇ=Å·[>Ѹc·[9r˹º»Ú=ÃFÇ
>[9(BFÎyÛ·t¸8>[·[¹
»
Ã&Èf>[5F:·[±A9¶PÇ
>[¼
>[9h»·ÖÃDÇ
98Å]ÅP@
ÃF>t¸D˹º9;»·Ë98Å]¶P9;»·y:m¸8Ü98ŸÍÂ
¹º»
98¸8>{¸8µ
µ
>[58´¹º:m¸8·[¹
5D»v·[5v·[±
9&5F<
Ø98¶P·]¹º79{ÈfÇ
»=¶P·]¹º5D»Ý@
·[±
9;»g·t¸cÜ9rÅ
Å5F:9(Å·[9;µmÇ
µ
±A¹ºÂºÂÎ.Þ6»Èf5D>[·]Ç
»=¸8·[9;Â
Ê@ÒÖ9Ë5D»Óß·{Ü»
58Òà¹
»³¸DË7F¸c»¶P9(±
58ÒàÃD55Ë·]±
9(º¹º»A98¸c>Ô¸cµ
µ
>]58´¹
:m¸c·]¹º5D»
¹Å¤¸c»=Ë®¶P5D»Å98ÆÇ
9;»·[Â
Êá±A5cÒ¢<
¹
Ã5cÈ ¸mÅ·[9hµ¾Òy9v¶;¸8»¾·t¸cÜ9Î469hÒ{·[5D»ÝÓÅ6:9h·[±
5Ëm>[9;µ
¡¸D¶P9rÅ ·]±
9Iº¹
»
9IÒ{¹º·]±®¸
ÆÇ=¸DË>Ѹc·]¹¶&<
Ç
·¤ÅÇÐ#9;>ÑÅÈf>[5F:·]±
9Å[¸8:9(˹jâm¶PÇAº·ÊÎ
²½¹
»=Å·]98¸DËm:m¸cÜ9rÅy¸Iº5¶;¸8Â.¸8µ
µ
>[58´¹º:m¸8·[¹
5D»·]±=¸c·¹Å{¸Iº58Òy9h>{<ã5FÇ
»=Ë·]51·]±
9(5D<
Ø98¶P·]¹º796ÈfÇA»=¶P·[¹
5D»ÎÖ°y±
¹¡Å
¹Å(¶;¸8ºÂ
98Ëá·]±
91ä#åNæçIèDéêëìèDé=:9;·[±A5Ë Àlí{¸c¿r¸c>t¸F¸¸8»=ËîÛ±
9;·[·Ê@BhC×ï8CÁtÎg°y±
91Â
58Òy9;>&<=5FÇ
»=Ë ¶;¸8»±¸r79v¸8»Ê
ÈfÇ
»=¶N·[¹º5F»=¸cÂWÈf5F>[:¾@¹
»µ
>[¹
»=¶P¹
µ
º9Îð±
55Źº»
Ãv·[±A9»A9;ÒñÃFÇ
98Å]Åy·[5I:m¸8´¹
:¹º¿;9Ö·[±
9(Â
5cÒÖ9;>y<=5FÇ
»=ËÒ{¹ºÂ
¸cÂ
Ò{¸;ÊAÅ
<=9v¸c»¾¹
:µ
>[5879;:v9;»·5c79h>6·]±
9Iµ
>[9h7¹
5DÇ=Å{ÃDÇ
9rÅ[ÅP@#Ç
»
º9rÅ[Å6·]±
9IÃD>ѸD˹
9;»·Ò{¸FÅ6¿;9;>]5·[±A9;>[9Î(Û5·]±
9I¹Ë9r¸Í¹¡Å
·[5g¸cÂ
·[9;>]»=¸c·]9<=9;·Òy9h9;»³¶P5D:µAÇ
·[¹
»
Ãv¸1º58ÒÖ9;>{<=5DÇ
»=Ë Àf·[±
9³òt².¼Å·[9hµ=ó×Á¸8»=Ë:m¸8´¹
:¹j¿;¹º»
Ã(·]±
9<=5DÇA»=Ë À·]±
9
òt½¼Å·]9;µ=óÁt@
Ç
»·[¹
¸µã5F¹º»·658È.¿h9;>[5IÃF>t¸D˹º9;»·{¹Åy>]98¸D¶t±
98ËWÎ
°y±
9(<=5DÇ
»ËÇ=Å98Ë<Êm²½¹¡Åy·[±
9&Èf5Fºº58Ò{¹
»
ÃÈf5D>]:-5cÈÖ÷üôD9hû »=Å9;ý »ÝÓŹ
»
98ÆÇ=¸cÂ
¹º·Ê#õ
öL÷®ø Àºù
Á_ú
÷mø Àºù
Áþlÿ
À[B8Á
÷
µA>[587¹¡Ë98Ë ö ÷ ú
B
÷üû
ú û
ø À
ù
Á
°y±=¸8·6¹¡ÅP@=¸c»³¸8>[¹º·]±
:9;·]¹¶{:98¸8»¹Åy»
9h79;>{Å:m¸cÂ
º9;>·[±¸c»¾¸IÃD9h5D:9;·]>[¹¡¶ :9r¸c»Î
B
p( θ|X)
New
guess
Objective
function
Current
guess
Lower bound
Linear
approx.
θ
¹ºÃFÇ
>[9vBDõÖ½¾¸c´¹º:g¹º¿;¹j»
øÈfÇ
»=¶P·]¹º5D»mÒ{¹
·[±mº58Òy9h>[¼f<ã5FÇ
»=˳¸cµ
µ
>]58´¹
:m¸c·]¹º5D»g7
ÅNÎ.º¹º»A98¸c>Ô¸cµ
µ
>]58´¹
:m¸c·]¹º5D»ÝÎ
§ © 1ªv© ¯h¨ ½¾¸c´¹º:vÇ
:6¼5Å·[9h>[¹º5F>[¹Àl½yÁ98Å·[¹º: ¸c·[¹
5D»m¶N5D»=¶P9h>[»=Åy·]±
9(:m¸c´¹º:¹j¿8¸8·[¹
5D»v5cÈ·[±
9&ÈfÇ
»=¶N·[¹º5F»
À Á "À !#$×Á
À%Á
Ò{±
9;>]9 ! ¹Å·]±
9v:m¸c·]>[¹º´³5cÈ5F<=Å9;>]798Ë®Ë
¸c·Ñ¸Î³ÏÈ À ×Á&¹¡Å¸³Å¹º:gµ
º9(ÈfÇ
»=¶P·]¹º5D»Ý@·[±A9;»¹
·tÅ(:m¸c´¹º:IÇ
:2¶;¸8»
5cÈf·]9;» <=91Èf5FÇ
»=Ë ¸8»=¸cÂ
Ê·]¹¶;¸8ººÊ@9Î Ã
Îm<ʾ98Æ×Ǹc·[¹
»
ù
·tÅ(ÃD>t¸F˹º9h»·(·[5³¿;9;>]5
γÕ658Òy9;79;>h@¹º·(5cÈf·]9;» ±=¸8µ
µ=9;»=Å
·[±¸c· À Á±=¸DÅ{·[±A9Èf5F>[:-58ÈÖ¸³çI'æ &)(lì+å *58ÈŹº:µ
Â
96ÈfÇ
»=¶N·[¹º5F»=ÅPõ
À ×Á "À !#$Á -,/. "À !#$0#1×Á
À 2Á
°y±
¹¡Å ¹¡Åy·[±
9ÙŹº·]Ç=¸c·]¹º5F»Ò{±
¹¡¶L±³²½Ä¸DËAË>[98Å]Å98ÅN4Î 3»
9¶;¸DÅ9Ò{±
9h>[9·]±
¹Å{Źº·]Ç=¸c·]¹º5D» ¸c>]¹Å9rÅ ¹¡Å Ò{±
9h»µ=¸8>[·5cÈ
·[±A9&Ë
¸8·t¸Å9;·¹Å:¹Å]Źº»AÃ(¸c»=ËvÒy9{:vÇ=Å·.¹
»·]9;ÃD>Ѹc·]9{5c79h>·]±
9{µ=5Å]Źº<Aº9&7F¸cÂ
Ç
98ÅÈf5D>·]±
96:g¹Å[Źº»
ÃË
¸c·Ñ¸Î°y±
¹¡Å
±=¸8µ
µ=9;»=Å.Ò{±
9;»Ç=Ź
»
Ã(6¸ 5¤¸cÇÅ[Ź¡¸c»v:¹º´·[ÇA>[9.:5Ë9;Â=ÀlÅ98¶P·[¹
5D»?Át7Î 6»
5F·[±
9;>¶;¸FÅ9{¹ÅÒ{±
9;»I·]±
9{ËA¸c·t¸:5Ë9;Â
±=¸FÅ6»ÇA¹Å[¸8»=¶P9(µ=¸8>t¸c:g9;·[9;>ÑÅy·[±=¸8·&Òy9Ë5F»Ó ·Ü»
58Ò ·]±
9(7F¸cºÇA95cÈÔ¸8»=˸8>[9»A5D·&¹
»·]9;>[98Å·[98Ëv¹º»9rÅ·[¹
:m¸c·]¹º»
ÃAÎ
°y±
¹¡Åy±=¸cµ
µ=9;»Å6Ò{±
9;»mµ=55DÂ
¹º»
ÃgË
¸c·Ñ¸ÍÈf>[5F: Å5FÇ
>t¶N98ÅyÒ{¹º·]±áÇA»
Ü»A5cÒ{»³»
5D¹¡Å9(7F¸c>]¹¸c»¶P9vÀlÅ9r¶P·[¹
5D8
» 2×ÁÑÎ
5¹º79;» ¸ÃDÇ
98Å]Å6Èf5D9> @·]±
9I¹Ë98¸1¹Å·[5Â
5cÒÖ9;>[¼f<=5DÇ
»Ë À ×ÁÒ{¹
·[±®¸ÍÈfÇ
»¶P·[¹
5D» ø À :#$;À 0 Á]Át@Wµ¸c>t¸8:9;·]9;>[¹
¿;98Ë
<Ê·[±
9&Èf>]9;9&7F¸c>]¹¸c<Aº98<Å ;À 0.ÁÀ·[±A9;>[9(¹Åy5F»
9&Èf>[9;9(µ=¸8>t¸8:9;·[9h>Èf5D>{9h79;>[Êv7F¸cºÇA958=È 0.Átõ .:D
À×Á >, . "À !;À #$0 0=Á #$Á ;À0.Á û ø À:#$;À0 Á]Á ý .? "À !;À #$0.0=Á #$Á @ACB
À?Á
,
.
µA>[587¹¡Ë98Ë ;À 0.Á
B
%
y° ±
9vµ
>[587¹Å¹º5D»¾¹
:µ
Â
¹º98Åy·]±=¸c· ;À0 ÁÔ¹Å(¸7D¸8º¹¡Ëµ
>[5F<=¸c<
¹
º¹
·Ê³Ë¹¡Å·]>[¹º<AÇ
·[¹
5D»®5c79h>0Î69PÚ=»
9 ·[5m<=91·]±
9
º5Fø8>[¹º·]±
:-58È·[±
9(<=5DÇA»=ËÀ4698¸c¸8»=ËmÕ6¹º»·[5F»@WBhCDC 2×Átõ
>,/. ;À 0.ÁÂ
5Dà À !#$0=#$×Á ;À0 ÁÂ
5DÃ;À0 Á
À #1;×Á Â
5Dà ø À :#$;×Á
ÀÁ
y° ±
9&¹
»
98ÆÇ=¸cÂ
¹º·ÊÀf?Á¹Å.·[>]Ç
96Èf5D>Ô¸c»Ê ;@<
Ç
·yÒÖ9&¸8ÂÅ5IÒ{¸c»·y·]±
9º58Òy9;><=5DÇA»=Ë·[5·]5DÇ=¶t± ¸c·y·]±
9(¶PÇA>[>[9h»·
ÃDÇA98Å[ÅÈf5D>ÎyÛ5(Òy9¶t±
55Å9;6·]5(:m¸c´¹º:¹
¿P9À:#$;×ÁÑÎ.°y±
¹¡Å>t¸8¹Å98Å.·[±
9{Â
5cÒÖ9;>.<=5DÇA»=Ë1¹º»ÚÃDÇ
>]9B{·[5(·]5DÇ=¶t±
·[±A95F<
Ø98¶P·]¹º79Î &Ë
˹º»
Ãv¸¸cÃF>t¸c»AÃD9I:vÇ
º·]¹ºµ
Â
¹º9N> Èf5F>{·[±
9¶P5F»=Å·]>t¸8¹º»·{5D»;ÃF¹º798ÅNõ
,.
,.
À[B ;À 0.Á[Á ;À 0 Áº5Dà "À !#$0=#$Á ;À 0.Áº5Fà ;À 0.Á
À #1;×Á
ÀÁ
Ë
B º5Fà "À !#10#$Á Â
5DÃ ;À 0 Á
ÀïFÁ
Ë ;À0.Á
;À0.Á . "À !À !#$0=#$0=#$#$Á×Á À0 !#1×Á
ÀlEÁ
5D>{·]±
¹Å{¶t±
5D¹¡¶P9&58È ;@·[±
9(<=5DÇ
»Ë<ã9r¶P5D:9r.:Å D
.:D
.:D D
.
ý .? À !#$0=#$×Á
ý.
ø À:#$;×Á
À À"!#$×Á]Á
À"!#$Á À"!#1×Á
ÀlCÁ
À 0 !#$:Á @ A B
ACB
B AB
Å5¹º»=Ë9;98ËI¹º··[5FÇ=¶L±A98Å.·[±
9&5F<
Ø98¶P·]¹º79 À Á¸c·Ö·[±
9¤¶PÇ
>]>[9;»·ÃDÇ
9rÅ[Å Èf5F<> =Î 6»
5D·]±
9;>Ò{¸;ÊI·]5IÅ9h96·]±
¹Å.>[9rÅÇ
Â
·
¹Åy·]51>]9;Ò{>[¹
·[9À #$;ÁÖ¸DÅ
.:D "À !#$0#1×Á
À #1;×Á
º5Fà ;À 0.Á À[B Á
A C B .:D º5Fà ;À 0.Á º5Fà "À !#$×Á
À[BFBcÁ
À0 !#$Á mACÀ B ;À 0.Á À 0 !#$Á[Á Â
5Dà À !#$×Á
À[B %×Á
¸DÅ]ÅÇ
:g¹º»
à ;À 0 ÁÖ¹Å&¸v7D¸8º¹¡Ëáµ
>]5D<=¸8<
¹ºÂ
¹º·Êm˹¡Å·[>]¹º<
ÇA·[¹º5F»Î&°y±A9I>[9;¡¸c·[¹
79&9;»·[>]5DµÊmÀ ; Á{¹¡Å6¸1:g98¸DÅÇ
>[95cÈ
˹¡Å·t¸8»=¶P9Ö<ã9h·ÒÖ9;9;»Ù˹ŷ[>[¹
<
Ç
·]¹º5D»Å ;¸c»=Ë Î°y±
9;>]9PÈf5D>]91À #$;Á=¹Å:m¸c´¹º:g¹º¿N98Ë65879;> ;{Ò{±
9;»I·[±A¹Å˹ŷt¸c»¶P9
¹Å&¿;9h>[5
@¹Î 9Î ;À 0 Á À 0 !#$ÁIÀE×Át@¸c·(Ò{±
¹¡¶L±®µ=5D¹º»·!À #1;×Á Â
5DÃ À !#$ÁtÎm°y±
¹¡Å¹
»·]9;>[µA>[9;·Ñ¸c·[¹
5D»¾¹¡Å
Èf>[5F: íyÇ
»·[¹
»
9IÀ[BhCDC"×ÁtÎ
¹
»=˹º»Aà ;1·[5mÃF9;·¸ ÃF55Ë <ã5FÇ
»=˹¡Å6·[±A9òѲ ¼Å·]9;µ=óm5cÈ{·]±
9v¸cÂ
ÃD5F>[¹º·]±
:¾Î°5³ÃD9;·¤·[±
9v»
9;´·&ÃDÇA98Å[Å6Èf5D> @
Òy9v:m¸8´¹
:¹º¿;9(·]±
9<=5DÇ
»Ëî5879;> ®À·[±A¹Å¹¡Å&·[±
9 òѽ¼lÅ·[9;µó×ÁtÎ °y±
¹ÅÅ·[9hµ ¹Å(µ
>[5F<
º9;:g¼lË9hµã9h»=Ë9;»·;Îg°y±
9
>[9hº9;7F¸c»·y·]9;>[: 5cÈ#¢¹Å
, . ;À 0.ÁÂ
5Dà À !#$0=#$×Á $ .:D&% Â
5Dà À !#$0=#$×Á('
À[B 2×Á
°y±
¹¡Å : ¸rÊ <ã9 ˹jâm¶PÇAº·v·[5 Ë5,9;´A¸D¶P·]ºÊ) Èf5D>]·[Ç
»¸c·[9hºÊ@A¹º·B ¹¡Å»Óß·mÅ·]>[¹¶N·[ºÊ,»
9r¶P98Å[Å]¸c>]Ê·[5,:m¸8´¹
:¹j¿;9·]±
9
<=5DÇ
»Ë5879;> Î &Å6ÒÖ9v¶;¸c»®Å9;9Èf>[5F: Ú=ÃDÇA>[9mBD@¸8»Ê³¹º:µ
>]5879;:19h»·Ö5cÈÀ #$;Á¸cÂ
5D»
8
à Ò{¹ºÂ
Â.Ë5AÎI°y±
¹¡Å
¹ÅÅ5F:9;·]¹º:98Ŷ;¸8ºÂ
98Ë ò]ÃD9;»
9h>t¸cÂ
¹º¿;9rËá²½ Îó1465F·&¸8ºÂÅÇ=¶t±¾¸8ºÃF5D>[¹
·[±
: Å{¸c>[9I:g98¸c»
¹
»
ÃcÈfÇAÂl@±A5cÒÖ9;79;>h<Î >[5D:
2
·[±A9Ú=ÃDÇ
>]9@W¹
·6¹¡Å&¶Pº9r¸c>·[±=¸8·&·[±
9vË9;>[¹
7D¸8·[¹
7958È ø ¸8·(·[±
9Ù¶PÇ
>[>]9;»·6ÃFÇ
98Å[Å&¹¡Å6¹Ë9h»·]¹¶;¸8·[5·]±
9vË9;>]¹º7F¸c·]¹º79
D ¸cÂ
ºÊ#õ .
. D
5cÈ Î°y±
¹¡Å6¶;¸8»³¸cÂÅ51<=9űA. 5cÒ{»mÈf. 5D>]:m
, . ;À0 Á º5Dà À !#$0=#$×Á À[BN?Á
.
"À !. #$0=#$Á
Â
5DÃ "À !B #10#$Á
À !#$0=#$×Á B
Û5m¹ÉÈ Òy9I·t¸8Ü9v¸1ÃD>ѸD˹
9;»·(Å·]9;µ5F» ø @·[±
9;»¾·]±
¹Å¹Å698ÆÇ
¹
7D¸8º9;»·{·[5m·Ñ¸cܹº»
Ãm¸ÃF>t¸D˹º9;»·(Å·]9;µ¾5D» @ݸc»=Ë
Òy9I±¸r79Ù¸D¶;¶N5D:µ
Â
¹Å±
98Ëá»A5D·[±A¹º»
Ã<ÊÇŹº»Aò½ Î 9I±¸r79I·]59;¹
·[±
9;>·t¸8Ü9vÅ9;79h>t¸cÂÃD>ѸD˹
9;»·(Å·]9;µ=ÅP@5F>
Ç=Å9¸vÅ9r¶P5D»=˼5F>tË9;>·[9r¶L±
»A¹ÆÇ
96Â
¹ºÜ9(49;Ò{·[5F»
¼ ¸cµA±=Å5F»Îy°y±A9Å98¶P5F»=ËË9h>[¹º7F¸8·[¹º795cÈ Âº5Dà ¹Å
º5Fà , . ;À0.Á º5Fà "À !#10#$Á , . ;À0.Á ? Â
5Dà "À !#10#$Á ? , . ;À0.Á º5Fà À !#$0=#$×Á
@
@
À[B ×Á
Ò{±
¹¡¶L±®¹Å(·[±
9mÅ98¶P5F»=Ë,Ë9;>[¹
7F¸c·[¹
79I5cÈ µ
ºÇ=Å(9;´·[>t¸m·[9;>]:mÅPξÛ5 ²½ Ë598ű
9;Â
µ,469;Ò{·]5D»
¼ 6¸8µ
±=Å5D»<Ê
Ź
:µ
Â
¹ÉÈfʹº»
Ã(·[±A9Å98¶P5F»=ËmË9;>[¹
7F¸c·[¹
79Î
Ïl·{¹Å¸c¡Å5»
5F·6»A98¶P98Å]Å[¸c>]Êm·[5IÈfÇ
ºÂ
Ê:m¸c´¹º:g¹É¿h9 ¢5879;> ;IËÇA>[¹º»AÃ1·]±
9I².¼Å·[9hµ Àl498¸c¸8»=˾Õ6¹º»·[5F»@B;CFC 2Át@
¹lÎß9Î6·]±
9I<=5DÇ
»ËÌ»
9h98Ëá»
5F·&·[5FÇ=¶t±¾·[±
9I5F<
Ø98¶P·[¹
79&ÈfÇ
»=¶P·]¹º5D»Ý9Î 6»ÊmÂ
5¶;¸cÂ:m¸c´¹º:vÇ
:5cÈÀ :#$;×Á(Àf¹º»³<ã5F·[±
7F¸c>]¹¸c<Aº98ÅtÁ¹Å.¸Âº5¶;¸8Â
:m¸c´¹º:vÇ
: 5cÈ À ×ÁÑ@Å5(¸c»ÊÒÔ¸;Ê5cÈ#:m¸8´¹
:¹º¿N¹º»AÃÒ{¹
ºÂAË5
@>[9høc>Ñ˺9rÅ[Å58ÈWÒ{±A9;·[±
9h>
¹º·¤¹º»=¶P>]98¸DÅ98Å À Á¤¸c·&98¸F¶L±®Å·[9;µÝÎ 9v¶;¸8»¾·t¸8Ü9v¸Å:m¸8ºÂÅ·]9;µ®¸cÂ
5D»
8
à ;@#¸mÅ:m¸8ºÂÅ·[9;µ®¸8º5D»Aà @¶t±=¸c»
ÃF9
<=5D·]±¾¸c·5D»¶P9@9h·t¶DÎ
Ç
>[·]±
9;>]:5D>]9@ã·]±
9v>[9;µ
>]98Å9h»·Ñ¸c·[¹
5D»¾58È ;1»
9;98Ë»A5D·<=9g¶P5D:gµ
º9;·]9ΰy±
915F»
ºʾµA>[5Dµ=9;>]·[¹
98Å65cÈ ;v·[±=¸8·ÒÖ9
»
9;9rË1¸8>[9&·]±
5Å9&·[±=¸8·{¸;ÐW9r¶P·y·]±
9&½¼Å·]9;µÎ°y±
¹¡Å.Ç=ÅÇ=¸8ºÂ
ʸ8:5DÇ
»·tÅ.·]5·[±A96:9r¸c»v¸c»Ëá¶N5c7F¸8>[¹¸8»=¶P9:m¸c·]>[¹
´
5cÈ 0@.Ò{±
¹¶t±,¸c>]9m·[±
9;>]9PÈf5D>]9·[±A95D»
Â
Ê ·[±A¹º»
ÃÅ·[±=¸8·I»
9;98Ë·]5¾<=9m¶P5D:gµ
Ç
·[9r˹º» ·]±
9m².¼Å·[9hµñÀf±
9;»=¶N9¹º·ÑÅ
»=¸8:9DÁtβ.79;»1¹jÈ·[±
9rÅ9:5D:9h»·ÑÅ.¶;¸c»A»
5D·{<=9(¶P5F:µ
Ç
·]98ËI¸c»¸cºʷ[¹¡¶;¸cÂ
ºÊ@·]±
9;Êv¶;¸8»á<=9&9rÅ·[¹
:m¸c·]98ËW@D9Î Ã
Î.<Ê
Å[¸8:µ
Â
¹º»
Ã:9;·[±A5Ë
ÅPÎ
ªv© «
I¨
,ªmª 8 ¯8§
&Ÿc»³9;´
¸8:µ
Â
9@¶P5D»=ŹË9h>6·]±
9(µ
>[5F<
º9;: 58ȵ=55Dº¹
»
ÃmË
¸8·t¸ÍÈf>]5D:-:vÇ
Â
·[¹ºµAº9»
5D¹¡ÅʳÅ5FÇ
>t¶P9rÅPÎ ®9ÒÔ¸c»·6·]5
98Å·[¹º: ¸c·[9 Ò{±
¹¡¶L±¶;¸8»<=9{¶N5D»=ŹË9;>]98Ë(¸ >Ѹc»=Ë5D:7F¸8>[¹¸8<
º9Ò{±
5Å9{µ
>]¹º5F> ÀÁ¹ÅW9rÅ[Å9h»·]¹¸cÂ
ºÊÇ
»
¹jÈf5D>[:¢5879;>
·[±A9y>[9r¸cº¹
»
9Î ®9y±=¸;79·Òy5¤Ë¹ÉÐ#9;>]9;»·:g98¸DÅÇ
>[¹
»
ÃË9;7¹¶P9rÅWÒ{±
¹¶t±(µ
>[5ËǶP9{¹º»=Ë9;µ=9;»=Ë9;»·:98¸FÅÇ
>]9;:9;»·tÅ
ú¾¸c»Ë >]98ŵ=98¶N·[¹º79hºÊÎvÞ6»Èf5F>[·]Ç
»=¸c·]9;ºÊ@·]±
9gË9;7¹¶P98Å(¶;¸8»5F»
ºʮ:m¸8Ü9»
5F¹ÅÊ®:98¸FÅÇ
>]9;:9;»·tÅN@W¸8»=Ë·]±
9
»
5F¹Å9(7F¸c>]¹¸8»=¶P98Å{¸8>[9I˹ÉÐ#9;>[9h»·hõ
Àlú # þ Á
À # þ Á
À[B ×Á
À " :# Á
À # Á
À[B8ïDÁ
®9Ë5D»Óß·{Ü»
58Òà·]±
9(»
5D¹¡Å9(7F¸c>]¹¸c»¶P98ÅP@=Å51ÒÖ9&ÃD¹
79(·[±
9;:»
5F»
¹º»Èf5F>[:m¸8·[¹
79&µ
>[¹
5D>ÑÅy¹º»=Ë9hµã9h»=Ë9;»·{5cÈ õ
À þ ×Á B þ
À[BhE×Á
À ×Á B
À[BhC×Á
?
$
!
"
#
#&% !
"
#'%
()
%
() %
W9;·{·]±
9Ë
¸c·Ñ¸Í<=9
ú
B
þ
B
À% Á
À%BcÁ
%
°y±
9&ÈfÇ
»=¶N·[¹º5F»mÒy9(Ò{¸8»·{·]51:m¸8´¹
:¹j¿;9{¹Å
À Á , À , # #$×Á
À # # # #$×Á
, , À :# Áþ À ×Á À # Á À Á À×Á
þ þ
Ò{±
¹¡¶L±m±=¸FÅ ·]±
9&Èf5D>[: ¹º»®À 2ÁÖÅÇ
¹
·[98Ë·[5g²½ Î
°y±
9»ÇA¹Å[¸8»=¶P9&µ¸c>t¸8:9;·]9;>tÅy±
9h>[9(¸8>[9·]±
9(7F¸c>[¹¡¸c»=¶N98ÅPÎ
5D>{·]±
9² ¼Å·]9;µ@=Òy9(¶N5D:µ
ÇA·[9&·]±
9&Èf5DºÂ
58Ò{¹º»
ÃIÇ=Źº»
Ãv5DÇA>&¶PÇA>[>[9h»·ÖÃDÇ
98Å]ÅÔÈf5F> áÀ¶;¸cÂ
ÂW¹
· ÁÑõ
;À þ # lÁ À þ # # #1 Á
À þ #$ Á À #$ Á
; þ À þ Á ; [À _Á
; þ À þ Á À þ #
þ Á
B
? þ ! " 9;´µ#À þ Á
.À
þ )%Á þ % þ @
% þ
; À Á À #
Á
ö Àlú Á
þ
ö À # Á
#
#&%
#
&%
'%
#&%
&%
'%
% '%
(
&
%
% %
$
&
%
% Û5v·[±
9(Â
5Dø8>[¹
·[±
:-58È.·]±
9(º58Òy9h>{<ã5FÇ
»=Ëm¹Å
, , ;À # ÁÂ
5DÃ À 8# # # #$Á ;À # ÁÂ
5DÃ ;À # Á
À :#$;×Á
þ
þ
þ
$ D % þ
D
%
º5Fà À þ #$Á º5Fà À þ ×Á Â
5DÃ; þ À þ Á(' A B D Â
5D à À % #$×Á º5Fà D À Á &º 5DÃ; ]À Á' º5Fà À×Á
A B þ % þ % A B þ Â
5D(à '#)* þ ºA 5D-à B ')* Â
5DÃ.0/ þ 0/ À×Á
% ,þ + % ) 6 + %2) 6 1 %31 %4 þ þ % % þ Â
5D5
à / þ 1 % Â
5DÃ-/ 1 º5DÃ.0/ %7þ 1
þ
&%
#
&%
'%
'%
% &%
% %
%
%
% À2 ×Á
%
&'%
À%"×Á
À%"×Á
À%ïDÁ
À%FE×Á
À%FC×Á
À2 Á
À2BcÁ
À2 %×Á
À2 2×Á
À2c?Á
#'%
&
&%
À% %×Á
À% 2×Á
À%8?Á
%
% %
%
0/
%81 À Á.À2 ×Á
%
5D>Ö·[±
9(½¼Å·]9;µ@Òy9¤¶P5D:µAÇ
·[9¤¸»
9hÒ DÃ Ç
98Å]ÅÈf5D> Î 3»
ºÊI·]±
96Ú=>ÑÅ·Ö·ÒÖ5·]9;>[:mÅ.¹
»À2 ×ÁÖË9;µ=9;»=Ë15F» @AÅ5
Òy9(ÃF9;·
Ëþ Ë
Ë
þ
À2ïDÁ
Ë
% þ Ë % Ë ö
ö À # ×Á
þ
l
À
×Á ú
À2FE×Á
þ ú #
þ À2FC×Á
þ
þ þ
°y±
9Ù²½ ¸cºÃF5D>]¹º·[±A:)Èf5F>(Ë
¸8·t¸1µ=55DÂ
¹º»
Ãg>[98ËǶP98Å{·[5v¹º·[9h>t¸c·]¹º79;Â
ʶN5D:µ
ÇA·[¹º»AÃmÀ 2B8Át@.À 2 %Át@#¸c»=Ë À 2DC×ÁÔÇ
»·]¹ºÂ
IÅ·]5Dµ=Ť¶L±=¸8»
ÃD¹
»
Ã
Î
%
%
%
%
%
%
$
% %
% 0.03
Objective
Lower bounds
0.025
f(theta)
0.02
0.015
0.01
0.005
0
−1
0
1
2
3
4
5
6
¹
ÃDÇ
>]9 %õÔ°y±
95F<
Ø98¶P·[¹
79 À×Á¸8»=ËÅÇ=¶;¶P9rÅ[Ź
79(º58Òy9;>{<=5FÇ
»=Ë
Å ø À:#$;×ÁÖ¸;Èf·[9;>BD@=?
@ݸc»=˳C1¹º·]9;>t¸8·[¹º5F»=Å{5cÈ
²½ Å·t¸8>[·[¹
»
ÃIÈf>[5D: % Î
¹
ÃDÇ
>]9 %1¹
ººÇÅ·[>Ѹc·]98Å ·]±
9I¸8ºÃF5D>[¹
·[±
:2¹º» ¸D¶P·]¹º5D»ÝÎ(°y±
9ÈfÇ
»¶P·[¹
5D» À×Á¶h¸c»¾<=9IË9h·[9;>]:¹º»
9r˸c»=¸8ºʷ[¹¡¶;¸cÂ
ºÊ
¸DÅ(·[±
9vµ
>]5ËÇ=¶P·5cÈ{·ÒÖ5¾°Ë9;»=Ź
·[¹
98ÅPÎgÏ_»¾ÃF9;»
9;>ѸcÂ@¹º·(Ò{¹
ºÂ.<=9v<
¹º:5ËA¸cÂl@¸8»=Ë·[±A9²½ ¸8ºÃF5D>[¹
·[±
: Ò{¹
ºÂ
¶P5F»79;>]ÃD9(·[5g·[±
9º5¶;¸8Â.:m¸c´¹º:IÇA: »
98¸c>]98Å·¤·[5·]±
9IÅ·t¸c>]·[¹
»
ÃÃDÇA98Å[Å Èf5F>9Î ¢µ=¸c·]±
5DÂ
5DÃD¹¡¶;¸c ¶;¸DÅ9I5¶;¶PÇ
>ÑÅ
Ò{±
9;» &¹ÅŷѸc>]·[98ËI9;´A¸D¶P·]ºÊ5F»·[±A9{7D¸8ºÂ
9;Ê58È·[±
9{ÈfÇ
»=¶P·]¹º5F»@DÒ{±
9;>]96·]±
9ÃD>t¸F˹º9h»·¹Å¿;9;>[5Aõ·]±
9&¸8ºÃF5D>[¹
·[±
:
ÃD9h·tÅÅ·[ǶLÜv·[±
9h>[9Î
Theta
ªv©
¯¨¬ ©
ª « Ú »
¹º·]9:¹
´·]Ç
>[9&:g5Ë9;¹ŸË9;»=Źº·ÊÈf5D> Ò{±
¹¶t±±=¸FÅ6·[±A9Èf5D>]: 58È{¸vÒy9;¹
ÃD±·[98ËmÅÇA: 5cÈÔ¶P5F:µ=5D»
9h»·
Ë9;»Å¹º·]¹º98ÅNõ
ö À)#$×Á À Á
À ×Á
À? Á
5D>9;´A¸c:µ
Â
9@¹jÈ À #$Áy¹¡Å 5¤¸8Ç=Å[ʏc»®·[±A9;» À ×ÁֹŸ1Òy9h¹ºÃD±·[9rËáÅÇ
: 5cÈ 5¤¸cÇÅ[Ź¡¸c»=ÅNÎ&465F·[9·[±=¸8·
Òy9¸c>[9(·]>[98¸8·[¹º»Aà 6±
9;>]9(¸DÅ{¸>Ѹc»=Ë5F: 7D¸8>[¹¡¸c<
Â
9&Ò{±
5Å9(7D¸8ºÇ
9(ÒÖ9(Ë5D»ÝÓ ·{Ü»
58Ò(ÎÏÈÒÖ9(Ü»
9hÒc@
·]±
9;»·]±
9
Ë9;»Å¹º·ÊÈf5D> ,¹Å.ØÇ=Å·¤·[±
9 L·]±®¶P5D:µ=5F»
9;»·Ë9;»=Źº·ÊÎÕ69;»=¶N9&¹Å&¶h¸cºÂ
98Ë·[±
9Aæëë *èhæ Aç*! (Èf5D>
·[5v5D»A958È.·]±
9¶P5D:gµã5F»
9;»·{Ë9h»=Ź
·[¹º9rÅPÎÏÈÒy9(±=¸;79(Å9;79;>t¸8¹º»=Ë9;µ=9;»=Ë9;»·{Å]¸c:µAº98"Å ·[±
9;»m98¸F¶L±g±=¸DÅ{¹º·ÑÅ
58Ò{» ¸FÅ[ŹºÃD»A:9;»·&7F¸c>[¹¡¸c<
Â
9 $Î #5DÇ ¶;¸c»®·[±A¹º»
ܳ5cÈ{·]±
9 lÓÅ&¸c»%
Ë ÓÅ&¸FÅ&¸c<=9;Â
98Ë·[>Ѹc¹
»
¹º»
óË
¸8·t¸Ò{±
9;>]9
Å5F:9&5F>&¸8ºÂ5cÈ·[±A9¡¸c<=9;¡Å{¸c>[9:¹Å]Ź
»
Ã
Î
°y±
9;>]9&¸8>[9·Òy5(:m¸c¹
»¹
»=Ë9;µ=9;»=Ë9;»=¶P9¸FÅ[ÅÇA:µ
·[¹
5D»=Å.¹
:µ
º¹¡¶P¹º·¹
»I·[±
9{Ú=»
¹
·[9{:¹
´·]Ç
>[9Ö:5Ë9;ÂÎ ¹º>ÑÅ·;@¹jÈ &¹¡Å
Ü»
58Ò{»·[±A9;»¾·[±
95D<=Å9;>[79rËáËA¸c·t¸vµã5F¹º»·tÅ&¸8>[9ÙÅ·t¸8·[¹¡Å·[¹¡¶;¸cÂ
ºʹ
»=Ë9;µ=9;»Ë9;»·;Î&Û98¶P5F»=ËW@=¹ÉÈ 1¹Å{Ü»
58Ò{»·[±A9;»
·[±A9±A¹Ë
Ë9h»¸FÅ[ŹºÃD»A:9;»·tÅy¸8>[9¹º»=Ë9hµã9h»=Ë9;»·;Î
°y±
98Å9I·Òy5vµ
>[5Fµã9h>[·[¹
98Å&¶P>]98¸c·]9I¸Å¹º:µAº¹ÉÚã¶;¸c·]¹º5D»m¹
»·[±A9v²½ ¸cºÃF5D>]¹º·[±A:¾Î&°y±
9I¹
»=Ë9;µ=9;»Ë9;»=¶P9(58Èy·]±
9
¸cÂ
º58ÒÅÇÅ·[5¾>]9;µ
>]98Å9;»·(·[±
9v:vÇ
º·]¹Ë¹
:19;»Å¹º5F»=¸c7 ;˹ŷ]>[¹
<
Ç
·[¹
5D»®Ò{¹º·]±,¸áµ
>]5ËÇ=¶P·I58È5D»
9h¼l˹
:9;»=Źº5F»=¸cÂ
˹¡Å·[>]¹º<
ÇA·[¹º5F»=ÅPõ
;&À ' ! Á ; À Á ; ! &À ! Á
Û¹
»=¶P(
9 5D»AÂºÊ ·Ñ¸cÜ98ÅI5D» ÷ 7D¸8ºÇ
9rÅù B ' @·]±
9áÈfÇ
»¶P·[¹
5D»=Å ; À ÁÙ¶;¸c» <=9>[9hµ
>[98Å9;»·[98Ë<Ê,·[±
9 )
:m¸c·]>[¹º+
´ * Ò{±
9h>[9 ; ; Àºù
Át
Î Ç
>[·]±
9;>]:5D>]9@·]±
9m¹º»=Ë9hµã9h»=Ë9;»=¶N9158È&·]±
9³Ë
¸c·Ñ¸µã5F¹º»·tÅ :9r¸c»=Å
º5Fà "À !#, #$×Á
º5Dà À #-,#$ÁtÎ
°y±
9²½ ¸8ºÃF5D>[¹
·[±
:2Źº:µ
Â
¹ÉÚ=9rÅ·[5Aõ
>[5F:
.0/-1325476
89/132:4;6
ÀlEÁt@#¶P5D:µAÇ
·[9
÷
;
÷ À ù #1×Á À ù ×Á
À ù #1×Á À ù ×Á
>[5F: À[B2×ÁÑ@
:m¸c´¹º:¹
¿;9y5879;> õ
÷
ö ÷ ; ºÂ 5Fà À
#
À ù #$×Á
ù #1×Á
5D>(¸IÈfÇ
>[·]±
9;>¤Ë¹Å]¶PÇ=Å[Źº5F»¾5cÈÔ²½Ä¸cµ
µAº¹º9rËá·[5 ¸1:¹º´·[ÇA>[9&:5Ë9;Â.Å9;9Iíy¹¡Å±
5Fµ À]B;CDC"×Á¤¸c»Ë 98Ë»
9;>¤¸c»=Ë
¸cºÜ9h>&À[BhCDE8?ÁtÎ
ï
Ä
§¾ª /«
Ù§
¨
{5Å[¸8º¹
»=Ë ¡¹ ¶;¸c>ÑËá±
9hºµ=98Ë1¹
:µ
>[5879·[±
9(µ
>]98Å9h»·Ñ¸c·[¹
5D»Î
(© §® %
B '½ Î ÛÎí{¸8¿8¸c>ѸD¸¸c»=Ëáðν Î
Û±
9h·[·ÊÎ
éaæ *]èåÔåå]èçIçIæ DÎ#ôD5D±
» ¹
º9;ÊÙ¸c»=ËmÛ5D»=ÅN@
469hÒ #5D>]ÜW@
% B;C×ïrCÎ
% % 'IðÎ=íy¹Å±A5DµÎ *Nìå[èDé *$(å åÔè ("( *Nå!* æ (æ Î 3´Èf5D>tË#õyð¸c>]9;»=Ë5F».>[9rÅ[ÅP@BhCDC"Î
2 ' >ѸrÊ íyÇ
»·[¹
»
9Îáð5F:µ
Ç
·Ñ¸c·]¹º5D» Ò{¹º·[±®·[±A99;´µã5F»
9;»·[¹¡¸cÂ.ȸc:¹
ÂºÊ ¸c»=ËÃF>t¸8µ
±
¹¶h¸cÂy:g5Ë9;ÂÅNÎm°ÇA·[5D>]¹¸8Â
ÃD¹º79h»¾¸c·4 4° 3 5F>[ÜAű
5Fµ5F» W98¸8>[»
¹
»
ù
» 56>Ѹcµ
±A¹¶;¸8½5Ë9;¡ÅP@².>[¹¡¶P9@#Ïl·t¸cÂ
Ê@Û9;µ
·]9;:1<=9;>(BhCDC"Î
% !"!#%$&!&('!'"'*)+-,.0/21354!67)893:1;&-<:'"=->.? @
BhCDC"Î
?"' Î Î69;:µ=Å·[9;>h@
4ÎA½ θc¹
>tËW@=¸8»=ËÎ=í&Î ÇA<
¹º»Î½¾¸8´¹
:1ÇA:¼Â
¹jÜ9PÂ
¹É±A55ËÍÈf>[5F:¹
»=¶P5F:µ
º9h·[9Ë
¸8·t¸
% 7¹¡¸·[±
9²½ ¸8ºÃF5D>[¹
·[±
: Î @;AB9CFèDEé D (lè (æ (læ tèDé D0:;"æ *$(FCHGÔ@ 2DCõ
JB I 2DE@B;CïDïÎ
'IÛ·[9;µA±
9;» Î WÇ
·[·]>[9;Â
ÂlÎ .¸8>[·[¹
·[¹
5D»
98Ë:g¹º´·[Ç
>]9{˹¡Å·[>]¹º<
ÇA·[¹º5F»õ¸c»g¸DË
¸8µ
·[¹
79{<=¸;Ê98Ź¡¸c»I»
9h·ÒÖ5D>]ÜÈf5D>Â
5cÒ{¼
º9;79;Â#¹º:m¸8ÃD9(µ
>]5¶P98Å[Źº»
ÃAÎ KLLM{å :N POæ hæ RQKLçIè *Ùè S
ë D#æ èDTé Ôå : * hæ F@BN?
BDÀf?ÁÑõ % JB I % @
% 6Ç
ÃDÇÅ·(B;CFCc?AÎ
' 6¸FË×Èf5D>ÑË ½ Î4698¸8ÂÖ¸c»=Ë 59;5cÐ#>[9hÊ ²{ÎÕ6¹º»·[5F»Î »A9;Ò7¹º9;Ò¢58È·[±
9v²½ ¸cÂ
ÃD5F>[¹º·]±
: ·[±¸c·{ØÇ=Å·]¹ÉÚ=9rÅ
¹º»=¶P>]9;:9;»·t¸8Â=¸c»Ëá5D·]±
9;>7F¸c>[¹¡¸c»·tÅNÎy°98¶t±
»
¹¶h¸cÂW>]9;µ=5D>]·;@=Þ6»
¹
79;>tŹº·ÊI5cȰ5F>[5D»·[5A@ 9;µ
·{5cÈÔð5D:µ
ÇA·[9;>
% Û¶P¹º9h»=¶P9@=B;CFC 2Î !""#U$&!&('"'!'*)8"VW)-35=E3:X"Y3)6(49+Y&"<(=E>(49Z-35=!4!&"6[1%)>(\;V["=->!8:%)9R10, Î
ï ' ¹¡¶L±=¸8>t8
Ë Î {98Ë»A9;>&¸8»=˾Õ65F:9;> yÎ ¸8ºÜ9;>hν¹º´·[Ç
>]9IË9;»Å¹º·]¹º98ÅN@
:m¸c´¹º:vÇ
: Â
¹ºÜ9;Â
¹º±
55˳¸c»=Ë·]±
9
²½ ¸cÂ
ÃD5F>[¹º·]±
:¾Î D-K]B^_*J`;"æ *a@ %"À %Átõ
B;C b I:% 2DC@ 6µA>[¹ºÂB;CFEc?
Î
E
© Copyright 2026 Paperzz