2012-13, c Ε. Γαλλόπουλος Επιστηµονικός Υπολογισµός ΙΙ Ε. Γαλλόπουλος 1 1 Τµήµα Μηχανικών Ηλεκτρονικών Υπολογιστών και Πληροφορικής Πολυτεχνική Σχολή, Πανεπιστήµιο Πατρών 13/3/13 2012-13, c Ε. Γαλλόπουλος Θεώρηµα Stein-Rosenberg ΄Εστω A = D − L − U όπου L, U αυστηρά τριγωνικά µητρώα (κάτω, άνω αντίστοιχα) και το µητρώο επανάληψης Jacobi TJ = D −1 L + D −1 U ≥ 0. Τότε αν TGS είναι τα µητρώα επανάληψης για τις Jacobi και Gauss-Seidel, ισχύει µία από τις ακόλουθες σχέσεις : 1 2 3 4 ρ(TJ ) = ρ(TGS ) = 0 0 < TGS < ρ(TJ ) < 1 1 = ρ(TJ ) = ρ(TGS ) 1 < ρ(TJ ) < TGS . Εποµένως τα µητρώα Jacobi και Gauss-Seidel είναι αµφότερα συγκλίνοντα ή αποκλίνοντα όταν συγκλίνουν η GS είναι καλύτερη. Προσοχή: Το αποτέλεσµα υπέθετε TJ ≥ 0. Γενίκευση : Αν A δ.κ. ή µη αναγωγήσιµο διαγώνια κυρίαρχο τότε αµφότερες οι Jacobi και Gauss-Seidel συγκλίνουν. 2012-13, c Ε. Γαλλόπουλος Παραδείγµατα matrix poisson wathen n 400 341 nnz ρ(TJ ) ρ(TGS ) 1920 4861 0.9888 3.5000 0.9778 0.7560 χαρακτηριστικά ΣΘΟ, ΜΑ∆Κ ΣΘΟ το A, όχι το 2D − A 2012-13, c Ε. Γαλλόπουλος Παράδειγµα 2012-13, c Ε. Γαλλόπουλος Παράδειγµα Σχήµα : Οι µέθοδοι στο µητρώο ‘µοντέλο’ Poisson σε πλέγµα 20 × 20 2012-13, c Ε. Γαλλόπουλος Παράδειγµα Σχήµα : Οπτικοποίηση της πορείας του σχετικού κατάλοιπου ανά επανάληψη για το µητρώο wathen µεγέθους 341 και τις µεθόδους Jacobi και Gauss-Seidel. 2012-13, c Ε. Γαλλόπουλος Συµµετροποίηση ΄Εστω x (k +1) W −1 x (k +1) = Tx (k ) + c = W −1 TWW −1 x (k ) + W −1 c οπότε µπορούµε να ϑεωρήσουµε ότι η αρχική επαναληπτική µέθοδος είναι ισοδύναµη µε την επαναληπτική µέθοδο : ˆx (k +1) = ˆT ˆx (k ) + cˆ όπου Wˆ x (j ) = x (j ) , ˆT = W −1 TW , ˆ = c. Wc 2012-13, c Ε. Γαλλόπουλος Μερικές ϕορές, η ανάλυση γίνεται πιο εύκολη για τη µέθοδο που ϐασίζεται στο ˆ T π.χ. αν το ˆ T = W −1 (I − T )W είναι ΣΘΟ. Ορισµός Μια επαναληπτική µέθοδος του τύπου x = Tx + Gb για το πραγµατικό σύστηµα Ax = b ονοµάζεται συµµετροποιήσηµη αν υπάρχει W τέτοιο ώστε W −1 (I − T )W είναι ΣΘΟ. 2012-13, c Ε. Γαλλόπουλος Επαναληπτικές µέθοδοι µε πλοκάδες : block Jacobi, GS Οι επαναληπτικές µέθοδοι Jacobi, Gauss-Seidel γενικεύονται µε ϐάση διαµερισµό του µητρώου σε πλοκάδες :  A11  .. A= . Ap1 · · · A1p .. . ···   ..  . App ϑέτοντας A = D − CL − CU , D = diag[A11 , ..., App ], όπου κάθε Aii είναι τετραγωνική πλοκάδα στη διαγώνιο 2012-13, c Ε. Γαλλόπουλος Jacobi κατά πλοκάδες Aii (x (k +1) )i = bi − ∑ Aij (x (k ) )j j 6=i Μπλοκ Gauss-Seidel: (Aii − ∗ ∗ ∗)(x (k +1) )i = Γιατί; Οι µπλοκ µέθοδοι έχουν µεγαλύτερο κόστος ανά ϐήµα κάτω από ορισµένες συνθήκες πετυχαίνουν ταχύτερη σύγκλιση για να επιλέξουµε µέθοδο, εξετάζουµε το (ϐήµατα για σύγκλιση) × (κόστος ανά ϐήµα) 2012-13, c Ε. Γαλλόπουλος Θέµατα σύγκλισης Varga, Young Οι µέθοδοι Jacobi και Gauss-Seidel συγκλίνουν για : αυστηρά διαγώνια κυρίαρχα µητρώα µη αναγωγήσιµα, διαγώνια κυρίαρχα µητρώα µε αυστηρή κυριαρχία τουλάχιστον για µία γραµµή. η Gauss-Seidel για συµµετρικά ϑετικά ορισµένα µητρώα. Η Jacobi χρειάζεται και άλλες προυποθέσεις (π.χ. να είναι ΣΘΟ και το 2D − A) Στις παραπάνω περιπτώσεις ισχύει ότι ρ(TGS ) ≤ ρ(TJ ) < 1 και η Gauss-Seidel συνήθως συγκλίνει ταχύτερα. Προσοχή: Υπάρχουν µητρώα για τα οποία µπορούµε να δείξουµε ότι η Jacobi και η Gauss-Seidel αποκλίνουν και οι δύο, ή συγκλίνουν και οι δύο ή µία αποκλίνει και η άλλη συγκλίνει ! ΄Οταν συγκλίνουν και οι δύο, η Gauss-Seidel συγκλίνει πιο γρήγορα ... αλλά απαιτεί τη λύση κάτω τριγωνικού συστήµατος σε κάθε ϐήµα. 2012-13, c Ε. Γαλλόπουλος Μητρώα ελέγχου από διακριτοποίηση του τελεστή −∇2 Στη συνέχεια εξετάζουµε τα χαρακτηριστικά ορισµένων µητρώων που χρησιµοποιούνται για τον έλεγχο πολλών µεθόδων. Αυτά προέρχονται από τη διακριτοποίηση της εξίσωσης Poisson σε χωρίο 1 έως 3 διαστάσεων, [xL , xU ] × [yL , yU ] × [zL , zU ] µε κεντρισµένες πεπερασµένες διαφορές 2ης τάξης. 2012-13, c Ε. Γαλλόπουλος Μερικά στοιχεία για τριδιαγώνια µητρώα Toeplitz ΄Εστω T = trid[γ, α, β] ∈ Rn×n όπου η υπογράµµιση δείχνει ποιο είναι το διαγώνιο στοιχείο. Για µητρώα της ανωτέρω µορφής γνωρίζουµε αναλυτικά τις ιδιοτιµές, τα ιδιοδιανύσµατα και τύπο για το αντίστροφο µητρώο 2012-13, c Ε. Γαλλόπουλος Θεώρηµα ΄Εστω το τριδιαγώνιο µητρώο T = trid[γ, α, β] ∈ Rn×n όπου γβ 6= 0. Τότε τα ιδιοζεύγη λk , xk του µητρώου είναι r γ πk λk = α + 2β cos( ) β n+1 και xk = [ξ1,k ; · · · , ξn,k ] όπου ξj ,k j /2 γ πkj = sin . β n+1 Κατά συνέπεια, αν γβ > 0 όλες οι ιδιοτιµές είναι πραγµατικές. Τα παραπάνω ιδιοδιανύσµατα δεν είναι κανονικοποιηµένα. 2012-13, c Ε. Γαλλόπουλος Σχόλια Σηµειώνουµε ότι η αναλυτική µορφή των ιδιοτιµών οφείλεται στην Toeplitz µορφή του µητρώου. Μητρώα Toeplitz προκύπτουν από τη διακριτοποίηση της εξίσωσης −auxx + bux + cu = d (x ), µε συνοριακές συνθήκες Dirichlet και σταθερούς συντελεστές a , b, c. Στην περίπτωση που b = c = 0, το µητρώο είναι Aoh := 1 h2 trid[−1, 2, −1], h = 1 n+1 . Στη συνέχεια δεν λαµβάνουµε υπόψη τον κοινό παράγοντα h και συµβολίζουµε A = trid[−1, 2, −1], h = 1 n+1 . 2012-13, c Ε. Γαλλόπουλος Οι ιδιοτιµές του είναι λk (A) = 2 − 2 cos( πk ), k = 1, ..., n n+1 Από τις αναλυτικές τιµές ακολουθεί αµέσως ότι min λk = λ1 = 2 − 2 cos( k π )>0 n+1 άρα όλες οι ιδιοτιµές είναι ϑετικές. Για το παραπάνω µητρώο ισχύει ότι είναι ΣΘΟ είναι ∆Κ (όχι αυστηρά) είναι µη αναγωγήσιµο διαγώνια κυρίαρχο. 2012-13, c Ε. Γαλλόπουλος Προσέγγιση ακραίων ιδιοτιµών και δ.κ. Για µεγάλο n λ1 = 2 − 2 cos( = sin2 ( π ) n+1 π π2 )≈ 2(n + 1) (n + 1)2 Επίσης max λk = λn = 2 − 2 cos( k πn ) n+1 και για µεγάλο n λn ≈ 4 Επίσης Εποµένως κ2 (Aoh ) = kAk2 kA−1 k2 = λmax 4(n + 1)2 ≈ λmin π2 Ο δείκτης κατάστασης του µητρώου ως προς τη νόρµα-2 αυξάνει τετραγωνικά µε το n. 2012-13, c Ε. Γαλλόπουλος ∆ιακριτοποίηση −(uxx + uyy ) = f , (x , y ) ΄Εστω ότι κάθε κόµβος του πλέγµατος (xi , yj ) έχει αριθµηθεί µε τις y y5 y4 y3 y2 y1 συντεταγµένες του (i , j ). y0 x0 x1 x2 x3 x4 x5 x6 2012-13, c Ε. Γαλλόπουλος ∂2 u (xi , yj ) = ∂x 2 ∂2 u (xi , yj ) = ∂y 2 h2 (4) u (xi + θx h, yj ) h2 12 u (xi , yj −1 ) − 2u (xi , yj ) + u (xi , yj +1 ) h2 (4) + u (xi , yj + θy h) h2 12 u (xi −1 , yj ) − 2u (xi , yj ) + u (xi +1,j ) + −∇2 u (xi , yj ) = = −u (xi −1 , yj ) − u (xi , yj −1 ) + 4u (xi , yj ) − u (xi +1 , yj ) − u (xi , yj +1 ) h2 − h2 (4) h2 u (xi − θx h, yj ) − u (4) (xi , yj + θy h) |12 {z 12 } υπόλοιπο Το διακριτό σύστηµα εξισώσεων που ϑα χρησιµοποιήσουµε προκύπτει, όπως και πριν, αν «αποκόψουµε τους όρους του υπολοίπου». 2012-13, c Ε. Γαλλόπουλος ∆ιάταξη και αρίθµηση των αγνώστων Θα πρέπει όµως πρώτα να αποφασίσουµε για τον τρόπο διάταξης και αρίθµησης των αγνώστων σε σχέση µε τους κόµβους. Αυτό αναφέρεται συνήθως σαν το «πρόβληµα της διάταξης» (ordering problem). ΄Οπως καταλαβαίνεται, υπάρχουν πολλοί ((mn)!)) τρόποι διάταξης των αγνώστων, αλλά οι ενδιαφέροντες είναι πολύ λίγοι. Στα πλαίσια της συζήτησής µας, αναφέρουµε δύο. 2012-13, c Ε. Γαλλόπουλος Φυσική ή λεξικογραφική διάταξη natural ordering ∆ιατάσσουµε τις µεταβλητές από κάτω αριστερά προς τα επάνω δεξιά, δηλ. µε τις τιµές που λαµβάνουν στους κόµβους (x1 , y1 ), (x2 , y1 ), . . . , (xm , y1 ), (x1 , y2 ), · · · , (x1 , yn ), . . . , (xm , yn ). Παρατηρείστε ότι η διάταξη είναι «λεξικογραφική» καθώς η µεταβλητή στον κόµβο (xi , yj ) προηγείται αυτής στο (xi 0 , yj 0 ) αν cat(j , i ) < cat(j 0 , i 0 ) όπου cat(i , j ) συµβολίζει τη συνένωση των i , j, π.χ. η συνένωση των 2, 3 δίνει τον αριθµό 23. 2012-13, c Ε. Γαλλόπουλος ∆ιάταξη κόκκινου-µαύρου (Red-Black ordering) Χωρίζουµε τους κόµβους S = SR ∪ SB σε δύο διακριτά σύνολα, δηλ. SR ∩ SB = 0/ , έτσι ώστε να µην υπάρχει άµεση σύνδεση στο πλέγµα µεταξύ κόµβων που είναι στο ίδιο σύνολο, δηλ. αν οι κόµβοι P1 ∈ SR (αντίστοιχα SB ) και P2 είναι γειτονικοί, τότε P2 ∈ SB (αντίστοιχα SR ). Στο πρόβληµα µοντέλο, µπορούµε να ϑεωρήσουµε ότι οι κόµβοι έχουν χρωµατιστεί κόκκινο, αν i + j άρτιο, και µαύρο, αν i + j περιττό. Μετά διατάσσουµε πρώτα τους κόκκινους κόµβους λεξικογραφικά και µετά τους µαύρους λεξικογραφικά. Η δοµή του µητρώου που προκύπτει είναι ARB = D BT B D όπου D είναι το διαγώνιο µητρώο D = 4I. Η διάταξη µπορεί να γενικευθεί σε περισσότερα από δύο χρώµατα και αντιστοιχεί στο γνωστό πρόβληµα χρωµατισµού γραφηµάτων. 2012-13, c Ε. Γαλλόπουλος Μορφή µητρώου από διάταξη α) ϕυσική ϐ) κόκκινου-µαύρου Natural ordering RB ordering 0 0 5 5 10 10 15 15 20 20 25 25 0 5 10 15 nz = 105 20 25 0 5 10 15 nz = 105 20 25 2012-13, c Ε. Γαλλόπουλος Μπλοκ τριδιαγώνια δοµή A= 1 h2 trid[−I , T , −I ]n . είναι δηλαδή τριδιαγώνιο κατά ορµαθούς ενώ οι ορµαθοί της διαγωνίου είναι επίσης τριδιαγώνιοι, ειδικότερα T = trid[−1, 4, −1]m . 2012-13, c Ε. Γαλλόπουλος Γινόµενο και άθροισµα Kronecker Ορισµός ΄Εστω µητρώα A ∈ Rm×n , B ∈ Rp×q . Το γινόµενο Kronecker των A, B είναι το µητρώο A ⊗ B: A ⊗ B = [αij B ] ∈ R(mp)×(nq) Στη MATLAB υλοποιείται µε τη συνάρτηση kron 2012-13, c Ε. Γαλλόπουλος Ιδιότητες (A ⊗ B)(C ⊗ D) = (AC ) ⊗ (BD) (A ⊗ B)> = A> ⊗ B> . (A ⊗ B)−1 = A−1 ⊗ B−1 αν A, B αντιστρέψιµες. Αν τα µητρώα A, B είναι διαγωνιοποιήσιµα και QA , QB τέτοια ώστε ΛA = QA−1 AQA και ΛB = QB−1 BQB . A ⊗ B = (QA ⊗ QB )(ΛA ⊗ ΛB )(QA ⊗ QB )−1 Η τελευταία ιδιότητα σηµαίνει ότι οι ιδιοτιµές του A ⊗ B είναι λ(A ⊗ B) = {λi µj }, i = 1 : n, j = 1 : m, όπου λi είναι οι ιδιοτιµές του A και µj οι ιδιοτιµές του B. 2012-13, c Ε. Γαλλόπουλος ΄Αθροισµα Kronecker Ορισµός ΄Εστω µητρώα A ∈ Rm×m , B ∈ Rn×n . Το άθροισµα Kronecker των A, B είναι το µητρώο A ⊕ B = A ⊗ In + Im ⊗ B ∈ R(mn)×(mn) ΄Εστω ότι A, B διαγωνιοποιήσιµα και QA , QB τέτοια ώστε ΛA = QA−1 AQA και ΛB = QB−1 BQB και έστω Q = QA ⊗ QB . Τότε αν ϑέσουµε Q := QA ⊗ QB ισχύει Q −1 (A ⊕ B )Q = (QA ⊗ QB )−1 (A ⊗ Im + In ⊗ B)(QA ⊗ QB ) = (QA−1 ⊗ QB−1 )(A ⊗ Im + In ⊗ B)(QA ⊗ QB ) = ΛA ⊗ Im + In Λb = Λ A ⊕ ΛB 2012-13, c Ε. Γαλλόπουλος Αποδείξαµε δηλαδή ότι Θεώρηµα Αν A, B διαγωνιοποιήσιµα και QA , QB τέτοια ώστε ΛA = QA−1 AQA και ΛB = QB−1 BQB και έστω Q = QA ⊗ QB τότε οι ιδιοτιµές του A ⊕ B είναι τα στοιχεία λi + µj , i = 1 : n, j = 1 : m και τα ιδιοδιανύσµατα είναι οι στήλες του Q = QA ⊗ QB . 2012-13, c Ε. Γαλλόπουλος Το ϑεώρηµα µας ϐοηθά να υπολογίσουµε άµεσα τις ιδιοτιµές και τα ιδιοδιανύσµατα του κατά ορµαθούς τριδιαγώνιου µητρώου A= 1 h2 trid[−I , T , −I ]n ∈ R(mn)×(mn) , T = trid[−1, 4, −1]m ∈ Rm×m που είδαµε προηγουµένως. 2012-13, c Ε. Γαλλόπουλος ΄Εχουµε το ακόλουθο αποτέλεσµα : A= 1 h2 (An ⊕ Am ) όπου AN = trid[−1, 2, −1] ∈ RN ×N . Από τη ϑεωρία που αναπτύξαµε στην προηγούµενη ενότητα, γνωρίζουµε αναλυτικά τις ιδιοτιµές και τα ιδιοδιανύσµατα του AN . Τότε υπολογίζουµε άµεσα και τις ιδιοτιµές και ιδιοδιανύσµατα για το A : λk (AN ) = 2 − 2 cos( πk N +1 )), k = 1, ..., N εποµένως οι ιδιοτιµές ϑα είναι λi (An )+λj (Am ) = 1 h2 [4 − 2 cos( πi m+1 ))− 2 cos( πj n+1 ))], i = 1 : m, j = 1 : n 2012-13, c Ε. Γαλλόπουλος Τα ιδιοδιανύσµατα είναι οι στήλες του Q = QA ⊗ QB . Γνωρίζουµε ότι οι στήλες του QA είναι xk = [ξ1,k ; · · · , ξn,k ] όπου ξj ,k (n) = sin nπ+kj1 . ενώ το QB έχει στήλες xk (m) = [ξ1,k ; · · · , ξm,k ] όπου ξj ,k (m) = sin πkj . m+1 2012-13, c Ε. Γαλλόπουλος Εποµένως το µητρώο των ιδιοδιανυσµάτων αποτελείται από τους όρους ξj ,k (m)ξr ,s (n), j , k = 1 : n; r, s = 1 : m δηλ. [Q ]i ,j = sin πkj πrs sin m+1 n+1 Από τα παραπάνω µπορούµε να υπολογίσουµε άνω και κάτω ϕράγµατα για τις ιδιοτιµές, κάτι που ϑα ϕανεί χρήσιµο στη συνέχεια. 2012-13, c Ε. Γαλλόπουλος Για ευκολία έστω m = n. ΄Εχουµε ότι λi (An ) + λj (An ) = (n + 1)2 [4 − 2 cos( πi n+1 )) − 2 cos( πj n+1 ))], i , j = 1 : n Εποµένως λmin (A ) = (n + 1)2 [4 − 2 cos( ≈ 2(n + 1)2 π n+1 ) − 2 cos( π n+1 )] π2 = 2π2 ( n + 1) 2 ενώ λmax (A ) = (n + 1)2 [4 − 2 cos( nπ n+1 ) − 2 cos( nπ n+1 )] ≈ 8(n + 1)2 Εποµένως (καθώς A = A> ) κ2 (A) ≈ 4 π2 (n + 1)2 = O(n2 ) Παρατήρηση γραµµική αύξηση ως προς το µέγεθος του µητρώου. 2012-13, c Ε. Γαλλόπουλος Σύγκλιση Jacobi για το πρόβληµα µοντέλο Poisson ΄Εστω ο διακριτός τελεστής Poisson A σε τετραγωνικό χωρίο µε πλέγµα n × n. λmax (A) = 4(n + 1)2 [1 − cos( nπ n+1 )], h= 1 n+1 . και A= 1 h2 (4I − L − U ) ⇒ L + U = 4I − h2 A ⇒ D−1 (L + U ) = I − h2 ΄Αρα A λ(A) 4 4 ρ(T ) = ρ(I − h2 ) = max |1 − h2 | A 4 2012-13, c Ε. Γαλλόπουλος εποµένως από τις ακραίες τιµές ρ(T ) = max{|1 − h2 = cos λmin (A) 4 |, |1 − h2 λmax (A) 4 |} π π2 ≈ 1− <1 n+1 2(n + 1)2 Ασυµπτωτικός ϱυθµός σύγκλισης R∞ (T ) = − ln ρ(T ) = − ln(1 − π2 π2 ) ≈ 2(n + 1)2 2(n + 1)2 Για να µειωθεί σφάλµα κατά 1/e, χρειάζονται 1/R∞ (T ) = 2(n + 1)2 /π2 = O (n2 ) επαναλήψεις (τάξη του αριθµού των αγνώστων.) 2012-13, c Ε. Γαλλόπουλος Παρατηρήσεις Μπορούµε να εκτιµήσουµε το συνολικό κόστος της Jacobi στο πρόβληµα µοντέλο (πλέγµα n × n) για να µειωθεί το σφάλµα, π.χ. κατά e−1 , ως εξής : Για το πρόβληµα µοντέλο, το κόστος της κάθε επανάληψης σε αριθµητικές πράξεις είναι O (n2 ). πρόκειται για µία πράξη MV µε το µητρώο poisson Για να µειωθεί το σφάλµα κατά e−1 µε Jacobi στο πρόβληµα µοντέλο το συνολικό κόστος σε πράξεις ϑα είναι O (n4 ). Αν n = 1000 τότε για µείωση σφάλµατος κατά 10−t χρειάζονται 2(n+1)2 π2 ln 10 ≈ 8.8 × 104 επαναλήψεις ώστε συνολικά ϑα χρειαστούν περί τις 8.8 × 104 × 4 × 103 ≈ 3 × 108 πράξεις. 2012-13, c Ε. Γαλλόπουλος Παράδειγµα : Η σύγκλιση της Jacobi είναι συνήθως αργή. Η Jacobi είναι πολύ απλή, παράλληλη, αλλά αναποτελεσµατική. Υπάρχουν περιπτώσεις που τη χρησιµοποιούµε : α) για κατασκευή προσταθεροποίησης σε συνδυασµό µε ταχύτερες µεθόδους, ϐ) στα πλαίσια σηµαντικών υπερταχέων επιλυτών όπως οι πολυπλεγµατικές µέθοδοι. Η Gauss-Seidel µπορεί να είναι δύο ϕορές πιο γρήγορη. Ακόµα πιο αποτελεσµατική είναι η SOR που είναι παραµετροποιηµένη γενίκευση της GS. 2012-13, c Ε. Γαλλόπουλος ∆ιαδοχική υπερχαλάρωση (Successive Overrelaxation = SOR) Το M εξαρτάται από παράµετρο χαλάρωσης ω: (D − ωL)x (k +1) = [(1 − ω)D + ωU ]x (k ) + 1 b ω T := (D − ωL)−1 [(1 − ω)D + ωU ] Η Gauss-Seidel είναι ειδική περίπτωση της SOR για ω = 1. 2012-13, c Ε. Γαλλόπουλος Σύγκλιση SOR και το ω Εκµεταλλευόµαστε το ότι η ορίζουσα τριγωνικού µητρώου είναι ίση µε το γινόµενο των διαγώνιων στοιχείων της. det(D − ωL)−1 det[(1 − ω)D + ωU ] detT = detD−1 = det[(1 − ω)D] = (1 − ω)n detD = (1 − ω)n detDdetD−1 = (1 − ω)n Προσέξτε ότι detT = (1 − ω)n = ∏nj=1 λi όπου λi ιδιοτιµές του T . Εποµένως, ϑα πρέπει κάποια ιδιοτιµή να είναι |λ| > |1 − ω|. Αν η επανάληψη συγκλίνει ϑα πρέπει 0 < ω < 2. Για κάθε ω ∈ C ισχύει ότι ρ(T ) ≥ |1 − ω|. Θεώρηµα Αν A ΣΘΟ τότε για κάθε ω ∈ (0, 2) και κάθε αρχικό διάνυσµα, η SOR συγκλίνει. 2012-13, c Ε. Γαλλόπουλος Παρατηρήσεις Πώς επιλέγουµε το ω για ϐέλτιση επίλυση ; ∆ύσκολο να απαντηθεί στη γενική περίπτωση. Σηµαντικό ϑέµα έρευνας ιδιαίτερα την περίοδο 1960-80. Σε ορισµένες περιπτώσεις µπορεί να ϐρεθεί το ϐέλτιστο ω. Μια σηµαντική κατηγορία µητρώων για τα οποία υπάρχει ϐέλτιστη τιµή ονοµάζονται συνεπώς διατεταγµένα µητρώα. 2012-13, c Ε. Γαλλόπουλος Συνεπώς διατεταγµένα µητρώα Ορισµός ΄Εστω A = I − L − U και ότι έχει την ακόλουθη ιδιότητα : Για όποιο γ 6= 0 ∈ R , οι ιδιοτιµές του γL + γ−1 U είναι ανεξάρτητες του γ. Τότε λέµε πως το A είναι συνεπώς διατεταγµένο (consistently ordered). (1) 2012-13, c Ε. Γαλλόπουλος Ιδιότητα A Μερικές ϕορές ένα µητρώο µπορεί να µην είναι συνεπώς διατεταγµένο αλλά µπορεί να γίνει τέτοιο µε συµµετρικές µεταθέσεις γραµµών και στηλών του. Ιδιότητα A: Αν ένα µητρώο είναι τέτοιο που να υπάρχει µητρώο µετάθεσης τέτοιο ώστε το µητρώο P > AP να είναι συνεπώς διατεταγµένο λέγεται ότι έχει την ιδιότητα A. Αν ένα µητρώο είναι συνεπώς διατεταγµένο ή έχει την ιδιότητα A, τότε οι ιδιοτιµές για τα µητρώα επανάληψης Jacobi, Gauss-Seidel, και SOR συνδέονται µε απλούς τύπους. 2012-13, c Ε. Γαλλόπουλος Ειδικότερα 1 Για κάθε ιδιοτιµή µ ∈ Λ(TJ ) υπάρχει αντίστοιχη ιδιοτιµή −µ ∈ Λ(TJ ). 2 Αν λ = 0 είναι ιδιοτιµή του TSOR(ω) τότε ω = 1. 3 Αν λ 6= 0 είναι ιδιοτιµή του TSOR(ω) για κάποιο ω ∈ (0, 2) τότε µ= λ+ω−1 ωλ1/2 (2) είναι ιδιοτιµή του TJ . 4 5 Αν µ ∈ Λ(TJ ) και το λ ικανοποιεί τη σχέση (2) για κάποιο ω ∈ (0, 2) τότε το λ είναι ιδιοτιµή του TSOR(ω) . Αν ισχύει η σχέση (1) για το A τότε ρ(TGS ) = [ρ(TJ )]2 , δηλ. ασυµπτωτικά, η Gauss-Seidel είναι δύο ϕορές πιο γρήγορη από τη Jacobi. 2012-13, c Ε. Γαλλόπουλος Πότε εµφανίζονται µητρώα µε την ιδιότητα A ή συνεπώς διατεταγµένα µητρώα ; Στην αριθµητική επίλυση ∆Ε εµφανίζονται αρκετά συχνά. Παραδείγµατα : ΄Εχουν την ιδιότητα A ή είναι συνεπώς διατεταγµένα τα κατά πλοκάδες τριδιαγώνια µητρώα για τα οποία : 1 οι πλοκάδες κατά µήκος της διαγωνίου είναι διαγώνιες 2 οι πλοκάδες κατά µήκος της διαγωνίου είναι τριδιαγώνιες και οι πλοκάδες στις εκτός διαγωνίου ϑέσεις είναι διαγώνιες. Το 2διάστατο πρόβληµα Poisson ·έχει την ιδιότητα A µε την ϕυσική αρίθµηση είναι συνεπώς διατεταγµένο µε την αρίθµηση R/B. 0 5 10 15 20 25 30 0 5 10 15 nz = 256 20 25 30 2012-13, c Ε. Γαλλόπουλος Θεώρηµα ΄Εστω ότι µπορεί να ισχύει η σχέση (1) για το A και ότι το ρ(TGS ) έχει µόνο πραγµατικές ιδιοτιµές, και ότι µ := ρ(TJ ) < 1. Τότε η SOR συγκλίνει για κάθε ω ∈ (0, 2) και η ϐέλτιστη τιµή του ω είναι ωopt = 2 1+ p 1 − µ2 . (3) µ2 √ (4) και ρ(TSOR(ω) ) = ωopt − 1 = (1 + 1 − µ)2 2012-13, c Ε. Γαλλόπουλος Σχήµα : Σύγκριση κλασικών µεθόδων στο µητρώο poisson σε πλέγµα 20 × 20, αρχικό διάνυσµα x (0) =zeros(400,1), και δεξιό µέλος b =ones(400,1). Για το πρόβληµα µοντέλο Poisson σε πλέγµα n × n ο αριθµός ϐηµάτων για να µειώσουµε το σφάλµα κατά 10−p είναι περίπου Με Jacobi: ≈ pn/2 ϐήµατα. Με Gauss Seidel: ≈ pn/4 ϐήµατα. √ Με SOR και ϐέλτιστο ω: ≈ p n/3 ϐήµατα Προσοχή Ο ϱυθµός σύγκλισης της SOR είναι εξαιρετικά ευαίσθητος στην επιλογή του ω