Ιδιότητες Ποιό είναι το αντίστροφο του ΑΒ; Αντίστοιχα µε τους βαθµωτούς: βαθµωτούς: -1 1 1 (α β) = β α αρκεί “α β ≠ 0” ισχύει (ΑΒ)-1 = B-1A-1 αρκεί να υπάρχουν τα A-1, B-1 Προσοχή υπάρχει µια διαφορά – ποιά; ποιά; Σχετικά µε το (Α+Β)-1 Εφόσον α+β ≠ 0, (α+β)-1 ≠ α-1+β-1 Εφόσον A+B αντιστρέψιµο, αντιστρέψιµο, γενικά ισχύουν όµως (A+B)-1 ≠ A-1+B-1 (A+B)-1 = (A(I+A-1B))-1 = (I+A-1B)-1 A-1 = A-1(I+BA-1)-1 = (B-1A+I)-1 B-1 = B-1 (AB-1+I)-1 1 Σχετικά µε την επίλυση Ax=b Επικεντρωνόµαστε κατ’ αρχήν σε τετραγωνικά µητρώα απλή επισκόπηση των A, b δεν µπορούµε να συµπεράνουµε τίποτα για τη λύση Με Εκτός αν το µητρώο είναι πολύ ειδικό, ειδικό, π.χ. διαγώνιο Τριγωνικό Στη γενική περίπτωση πρέπει να υλοποιηθούν όλα τα βήµατα της απαλοιφής Gauss Απαλοιφή Gauss: Μέρος Ι P: 2u + v + w = 5 Q: 2u – 6v = -2 R: -2u + 7v +2w= 9 2u + v + w = 5 -7v - w = -7 :Q :Q-1*P = Q’ Q’ 8v+3w = 14: R-(-1)*P = R’ R’ 2u + v + w = 5 -7v -w = -7 13/7w = 22 :R :R’-(8/((8/(-7))*Q’ 7))*Q’ 2 Απαλοιφή Gauss Η διαδικασία του µεταχηµατισµού του αρχικού προβλήµατος Ax=b σε µορφή Ux=c Ux=c όπου το U είναι άνω τριγωνικό και αυτό και το διάνυσµα c έχουν προέλθει από κατάλληλους συνδυασµούς των γραµµών των A και b ονοµάζεται «απαλοιφή Gauss» Gauss». Σε πολύ σπάνιες περιπτώσεις µόνον η επίλυση συστήµατος µπορεί να γίνει εύκολα Αν το µητρώο είναι διαγώνιο Αν το µητρώο είναι τριγωνικό ... αναγνωρίζουµε εύκολα πότε ένα µητρώο αυτής της µορφής δεν είναι αντιστρέψιµο (αν περιέχει έστω και ένα 0 στη διαγώνιο). διαγώνιο). ∆ιαδικασία Σε κάθε «βήµα» βήµα» της απαλοιφής επιλέγουµε µια εξίσωση/ εξίσωση/γραµµή. γραµµή. Ο πρώτος µη µηδενικός συντελεστής της εξίσωσης λέγεται «οδηγός» οδηγός». Για κάθε µία από τις επόµενες εξισώσεις, εξισώσεις, αφαιρούµε ένα πολλαπλάσιο της γραµµής που είναι ο οδηγός ώστε να µηδενίσουµε το συντελεστή στην ίδια στήλη µε τον οδηγό. οδηγό. Το πολλαπλάσιο είναι το στοιχείο προς απαλοιφή διαρεµένο µε τον οδηγό 3 Στη συνέχεια θα δούµε πώς µπορούν να «κωδικοποιηθούν» ως πράξεις πολλαπλασιασµού του A µε µητρώα (από τα αριστερά) τα δυο απαραίτητα συστατικά της διαδικασίας αυτής: Ι) κάθε βήµα απαλοιφής στοιχείων µιας στήλης κάτω από τη διαγώνιο, διαγώνιο, II) τις ενδεχόµενες εναλλαγές γραµµών για να αποφευχθεί η εµφάνιση µηδενικού οδηγού. οδηγού. Στόχος Από το Ax=b να προκύψει ισοδύναµο Ux=c. Ux=c. Προς το παρόν, παρόν, θεωρούµε ότι το A είναι τετραγωνικό µεγέθους n. Θεωρούµε ότι για κάθε µητρώο B, µπορούµε να κατασκευάσουµε «στοιχειώδες µητρώο» µητρώο» Lk τέτοιο ώστε το LkΒ έχει µηδενικά στις θέσεις (k+1, k), …, (n,k (n,k)) (δηλ. δηλ. στη στήλη k, κάτω από τη διαγώνιο). διαγώνιο). Θυµηθείτε ότι η εναλλαγή γραµµών µπορεί να επιτευχθεί µε πολλαπλασιασµό από τα αριστερά µε ειδικά µητρώα («εναλλαγής» εναλλαγής»). 4 Περιγραφή απαλοιφής µε µητρώα Καλούµε “στοιχειώδη µητρώα” µητρώα” όσα µπορούν να γραφτούν ως E(u, v; τ ) = I − τ uv ⊤, u, v ∈ Rn Με αυτόν τον τρόπο µπορούν να περιγραφούν σηµαντικές κατηγορίες µητρώων που επιδρούν µε ειδικό τρόπο στα δεδοµένα ... Συνήθως µηδενίζοντας συγκεκριµένα στοιχεία δεδοµένων διανυσµάτων Μερικές ιδιότητες Το µητρώο έχει τη µορφή E(u, v; τ ) = = 1 0 ··· 0 η1 0 1 ··· 0 η − τ 2.. ... 0 . . . ... . 0 ··· ··· 1 ηn 1 − η1 ψ1 −η1ψ2 · · · −η2 ψ1 1 − η2ψ2 · · · ... ... ... −ηnψ1 ··· ··· ψ1 ψ2 · · · ψ n −η1 ψn −η2 ψn ... 1 − η n ψn 5 Χρήσιµη ιδιότητα E(u,v;τ) E(u,v;σ) = E(u,v;τ+σ-τσ v⊤ u) Ποιό είναι το «αντίστροφο στοιχειώδες µητρώο» µητρώο»; Προσέξτε ότι E(u,v;0)=I εποµένως αρκεί τ+σ = τ σ v⊤ u ⇒ σ=τ/(τ v⊤ u-1) Προσέξτε πως και το αντίστροφο είναι στοιχειώδες! στοιχειώδες! Εποµένως Αν v⊤ u =0 ⇒ E(u,v; E(u,v;τ) E(u,v; E(u,v;-τ) =I Χρήση E(u,v; E(u,v;τ) x = (I(I-τ uv⊤) x = xx-τ (u v⊤) x = xx-τ u (v⊤ x) = xx-τ (v⊤ x) u Επιλέγοντας τ=1, v=e1, u=[0,ξ u=[0,ξ2, ξ3,…ξn]⊤/ξ1 E(u,e1;1) = xx-ξ1 u Άρα επιλέγουµε ∆ηλ. ∆ηλ. η2 = ξ2/ξ1 … ηk = ξ /ξ k 1 … ηn = ξn/ξ1 e1⊤ x = ξ1 ξ1 0 ξ2 η 2 T Μ − (e1 x) Μ ξ η n n ξ2-ξ1 η2 =0 ⇓ η2 = ξ2/ξ1 0 ξ1 ξ1 ξ2 / ξ1 0 ξ2 Μ = Μ − ξ1 Μ 0 ξn ξ n / ξ1 6 Έστω L1 1 0 0 1 0 0 0 1 L1 = −α21/α11 1 0 = 0 1 0 − α21 (1, α 11 0 0 1 α31 −α31/α11 0 1 0, 0) που είναι το στοιχειώδες µητρώο: L1 = E(˜ u1, e1; α−1 11 ), u ˜1 = (0, α21, α31)⊤ α α = E(u1, e1, 1) u1 = (0, 21 , 31 )⊤ α11 α11 Παράδειγµα Έστω το µητρώο A µε στοιχεία Και ότι πολλαπλασιάζουµε από τα αριστερά µε το α11 α12 α13 A = α21 α22 α23 α31 α32 α33 1 0 0 L1 = −α21/α11 1 0 −α31/α11 0 1 Τότε λόγω της ειδικής µορφής του L1 ο πολλαπλασιασµός µηδενίζει τα στοιχεία στις θέσεις (2,1) ως (3,1) α11 α12 α13 L1 A = 0 α22 − α21α12/α11 α23 − α21α13/α11 0 α32 − α31α12/α11 α33 − α31α13/α11 7 Απαλοιφή µε στοιχειώδη µητρώα Μπορούµε να προχωρήσουµε α11 α12 α13 µε τον ίδιο τρόπο και στα L1A = 0 α22 − α21α12/α11 α23 − α21α13/α11 επόµενα βήµατα της 0 α32 − α31α12/α11 α33 − α31α13/α11 απαλοιφής: απαλοιφής: A (1) := L1A = 1 0 0 0 1 0 L2 = (1) (1) 0 −α32 /α22 1 α11 α12 (1) A(2) := L2L1A = 0 α22 0 α11 α12 α13 (1) (1) 0 α22 α23 (1) (1) 0 α32 α33 (1) (1) (1) α13 (1) α23 (1) 0 α33 − α32 α23 /α22 Γενικά: Απαλοιφή Gauss Εφόσον δεν παρουσιαστεί µηδέν στην «οδηγική θέση», ένα µητρώο n×n ανάγεται άνω τριγωνική µορφή µε n-1 διαδοχικούς στοιχειώδεις µετασχηµατισµούς Lj, Σε και στη συνέχεια Σε γινόµενο κάτω και άνω τριγωνικών µητρώων L και U όπου το L έχει µόνο µονάδες στη διαγώνιο παραγοντοποίηση LU του A Μια από πολλές σηµαντικές παραγοντοποιήσεις που µπορούν να επιτευχθούν για ένα µητρώο Αποκαλείται 8 Παρατηρήσεις Η «παραγοντοποίηση µητρώων» µητρώων» είναι από τις σηµαντικότερες διεργασίες γιατί αποτελεί εργαλείο κλειδί για τα περισσότερα προβλήµατα της Γραµµικής Άλγεβρας Στις εφαρµογές Στη θεωρία Η βασική ιδέα είναι ότι γράφουµε ένα µητρώο ως γινόµενο µητρώων που έχουν «πιο απλή» απλή» µορφή - για το σκοπό που τα θέλουµε. θέλουµε. Συνήθως ορίζουµε το είδος της παραγοντοποίησης που ζητάµε και οι προκλήσεις είναι α) να δούµε αν υπάρχει, υπάρχει, β) να την κατασκευάσουµε Παρατηρήσεις Η παραγοντοποίηση LU είναι µοναδική ... παράγοντες L, U (τριγωνικοί και έτσι ώστε ο L να έχει 1 στη διαγώνιο) διαγώνιο) είναι µοναδικοί για τον A. Οι ... όταν η παραγοντοποίηση υπάρχει! Πότε; Πότε; Όταν δεν παρουσιάζεται 0 σε «οδηγική θέση» θέση» 9 Ύπαρξη παραγοντοποίησης LU Θεώρηµα: Έστω n ≥ 2 και A ∈ Rn × n τ.ώ. κάθε κυρίαρχο υποµητρώο Α(1:k,1:k) (1:k,1:k),, k = 1, …, nn-1 να είναι αντιστρέψιµο. αντιστρέψιµο. Τότε υπάρχουν παράγοντες L, U όπου το L είναι κάτω τριγωνικό µε 1 στη διαγώνιο, διαγώνιο, το U είναι άνω τριγωνικό και A=LU. Παρατηρήσεις Η παραγοντοποίηση είναι «ασύµµετρη» ασύµµετρη»: Ο ένας παράγοντας (L) έχει 1 στη διαγώνιο Μπορούµε αν θέλουµε να βρούµε παραγοντοποίηση LDU µε συµµετρική µορφή. µορφή. Πώς; Πώς; Θέτουµε D το διαγώνιο µητρώο µε στόιχεία τα διαγώνια στοιχεία του U. Τότε D-1 U είναι άνω τριγωνικό µε µονάδες στη διαγώνιο. διαγώνιο. ⇒ LU = L (DD-1 ) U = LD(D-1U) = LDŨ LDŨ Όπου τα L και Ũ έχουν µονάδες στη διαγώνιο. διαγώνιο. 10 Παρατήρηση Η παραγοντοποίηση A=LDU υπάρχει όταν υπάρχει η LU. Τότε, Τότε, οι παράγοντες L, D, U είναι µοναδικοί. µοναδικοί. Αν A συµµετρικό, συµµετρικό, τότε LDU=U⊤ D L⊤ και αποδεικνύεται ότι U=L⊤, εποµένως Αν υπάρχει η LU του A και A=A⊤, τότε υπάρχουν µοναδικοί παράγοντες L, D, U ώστε A=LDL⊤ Αν το D έχει µόνο θετικά στοιχεία, στοιχεία, τότε µπορούµε να θέσουµε D=D1/2 D1/2 όπου D1/2 είναι το διαγώνιο µητρώο diag([δ diag([δ11, …, δnn]) οπότε ισχύει Α=(LD =(LD1/2)(LD1/2 )⊤ = L1 L1⊤ Αποτυχίες της απαλοιφής P: 2u + v + w = 5 Q: 2u + v = -2 R: -2u + 7v +2w= 9 2u + v + w = 5 - w = -7 :Q :Q-1*P = Q’ Q’ 8v+3w = 14: R-(-1)*P = R’ R’ 2u + v + w = 5 8v + 3 w = 14 : R’ - w = -7 : Q’ Q’ εναλλαγή γραµµών Η αποτυχία είναι θεραπέυσιµη 11 Αποτυχίες της απαλοιφής P: v+ w = 5 Q: 2u + v = -2 R: -2u + 7v +2w= 9 εναλλαγή γραµµών 2u + v = -2 : P’ = Q v + w = 5 : Q’ = P -2u + 7v+2w = 9: R’ = R 2u + v = -2 v + w = 5 : Q’ 8v + 2 w = 7 : R’’ =R’’-(-1)*P’ 1)*P’ R’’=R 2u+v = -2 1v + w = 5 -6w = -33 :R’’’= R’’-8Q’ Η αποτυχία είναι θεραπέυσιµη Αποτυχίες της απαλοιφής Όταν εµφανίζεται µηδενικό στην «οδηγική θέση» Είναι η αποτυχία θεραπεύσιµη; Αν αλλάζοντας τη σειρά των εξισώσεων κατά τη διάρκεια της απαλοιφής αποφευχθεί ο µηδενικός οδηγός. οδηγός. ∆υστυχώς στη γενική περίπτωση δεν υπάρχει φθηνός τρόπος να αναγνωρίσουµε από πριν ότι θα εµφανιστεί µηδέν κατά την απαλοιφή. απαλοιφή. 12 Αποτυχίες της απαλοιφής P: Q: R: 2u + v + w = 5 -2u - v = 9 -10u 10u - 5v -4w= -11 2u + v + w = 5 w = 14 :Q-1*P = Q’ Q’ w = 14 :R-(10/2 )*P=R’’ (10/2)*P=R 2u+v = -9 w = 14 κάθε διάνυσµα [u,-9-2u,14]⊤ είναι λύση Το σύστηµα είναι συµβιβαστό και έχει απειρία λύσεων! Αποτυχίες της απαλοιφής P: 2u + v + w = 5 Q: 2u + v = -2 R: -2u - v +2w= 9 2u + v + w = 5 - w = -7 :Q :Q-1*P = Q’ Q’ 3w = 14: R-(-1)*P = R’ R’ Το σύστηµα είναι αδύνατο! 13 Επίλυση τετραγωνικού συστήµατος: Τρεις περιπτώσεις Ax=b Οµαλό Α (µοναδική λύση) Ιδιάζον Α Αδύνατο σύστηµα (καµµία λύση) Συµβιβαστό σύστηµα (άπειρες λύσεις) Ακόµα και όταν έχουµε άπειρες ή καµµία λύση µπορεί να ενδιαφερόµαστε α) να επιλέξουµε την «καλύτερη» από τις άπειρες λύσεις β) να βρούµε «λύση» x τέτοια ώστε να ελαχιστοποιεί κάποιο µέτρο του «υπολοίπου» (b-Ax), π.χ. τη νόρµα του. Απλή επιλογή οδηγού Πριν κάθε βήµα k=1, ..., n-1 της απαλοιφής τις παρακάτω περιπτώσεις ανάλογα µε την τιµή του (k-1) στοιχείου αk,k(k1. Mη µηδενικό 2. Επιλέγεται ως οδηγός Μηδενικό 1. 2. (k-1) ≠ 0, Αν j>k είναι η πρώτη γραµµή κάτω από την k όπου αj,k(kανταλλάζουµε τις γραµµές j, k (k-1) = 0 ∀ j ≥ k σταµατάµε (αποτυχία) Αν αj,k(kαποτυχία) Άλλες µέθοδοι: µέθοδοι: «Μερική οδήγηση» οδήγηση»: Επιλογή του στοιχείου κάτω από τη διαγώνιο στη στήλη k µε µέγιστη απόλυτη τιµή. τιµή. Αυτή είναι η πιο συνηθισµένη µέθοδος οδήγησης και χρησιµοποιείται ευρύτατα στις υλοποιήσεις και στις εφαρµογές. εφαρµογές. 14 Παρατήρηση Κάθε βήµα απαλοιφής αναπαραστάθηκε ως πολλαπλασιασµός µε ένα στοιχειώδες µητρώο Lj Υπάρχει τρόπος να αναπαραστήσουµε και τις εναλλαγές µε απλά µητρώα «εναλλαγής» εναλλαγής» γραµµών Μητρώα «εναλλαγής» Προσέξτε ότι Α e1 = a1, A e2 = a2, A e3 = a3 A [e1, e2, e3] = A A [e2, e1, e3] = [a2, a1, a3] A [e1, e3, e2] = [a1, a3, a2] εναλλαγή στηλών 1,2 εναλλαγή στηλών 2,3 A [e3, e2, e1] = [a3, a2, a1] εναλλαγή στηλών 1,3 15 Μητρώα «εναλλαγής» Προσέξτε ότι e1⊤ Α = a(1), e2⊤ Α = a(2), e3⊤ Α = a(3), [e2, e1, e3]⊤ A = [a(2); a(1); a(3)] εναλλαγή [e1, e3, e2]⊤ A = [a(1); a(3); a(2)] εναλλαγή γραµµών 1,2 γραµµών 2,3 [e3, e2, e1]⊤ A = [a(3); a(2); a(1)] εναλλαγή γραµµών 1,3 Μητρώα «εναλλαγής» Μπορούµε να ανταλλάξουµε τις γραµµές ή στήλες (i,j) (συµβ. Ως i ↔ j)ενός µητρώου µε πολλαπλασιασµό από τα αριστερά ή δεξιά µε µητρώο που προέρχεται από την εφαρµογή της αντίστοιχης αλλαγής στο ταυτοτικό µητρώο. Συµβολίζουµε το µητρώο εναλλαγής γραµµών (ι,j) µε Pij ∈ Rn × n 16 Ιδιότητες Pij Pij = Ι δηλαδή Pij = Pij-1 Αφού αν ανταλλάξουµε τις γραµµές i,j δυο φορές επανερχόµαστε στο αρχικό µητρώο Το Pij είναι σε όλα σαν το ταυτοτικό εκτός από πij =πji=1, πii = πjj=0 Εποµένως συµµετρικό: συµµετρικό: Pij = Pij⊤ Προσοχή: Προσοχή: Μητρώα τα οποία A-1=Α⊤ είναι ευέλικτα και χρήσιµα και λέγονται ορθογώνια µητρώα. µητρώα. Μητρώα µετάθεσης Μέχρι τώρα µιλούσαµε για απλές εναλλαγές στηλών ή γραµµών. γραµµών. Τί γίνεται αν πολλαπλασιάσουµε µητρώα εναλλαγής µεταξύ τους; τους; Π.χ. P13P23 Το αποτέλεσµα θα φανεί από την «συνολική» συνολική» αλλαγή που θα επιφέρει το γινόµενο σε ένα µητρώο: µητρώο: (A P13 ) P23 = ([a3, a2,a1])P23 = [a3,a1,a2] Άρα P13 P23 = [e3,e1,e2] Το µητρώο αυτό καλείται µητρώο µετάθεσης. µετάθεσης. Μπορούµε να ορίσουµε αντίστοιχα µητρώα για οποιαδήποτε µετάθεση των στηλών ή γραµµών. γραµµών. Είναι απλά το µητρώο που προκύπτει από µετάθεση των στηλών ή γραµµών του ταυτοτικού µητρώου. µητρώου. Oι δείκτες των γραµµών ή στηλών το περιγράφουν πλήρως. πλήρως. 17 ∆ιάσπαση PLU µε οδήγηση: οδήγηση: Συνοπτική περιγραφή A(0) ← A For k=1:nk=1:n-1 Επιλογή οδηγού i ∈ {k,k+1,… {k,k+1,…,n} (k) ← P A(k(k-1) A(k) k,i απαλοιφή: απαλοιφή: (βήµα (βήµα k) (k) ← L A(k) (k) A(k) k Εντέλει (n(n(n-1) L (n-2) L (n-3) Λ L P(2) L P(1) A U = Ln-1 P(nn- 2 P n-3 P 2 1 Και µπορεί να αποδειχτεί ότι αν το Α είναι οµαλό τότε ⇒ (n-1) P(n(n-2) P(n(n-3) Λ P(2) P(1) A = L U P(nPA = LU (Σηµ. Σηµ. Ο συµβολισµός 1:k δηλώνει τους ακεραίους 1, 2, ..., k. Ύπαρξη παραγοντοποίησης PLU Θεώρηµα: Strang, σ. 44] Θεώρηµα: [Strang, Έστω n ≥ 2 και A ∈ Rn × n οµαλό. οµαλό. Τότε υπάρχουν παράγοντες L, U, U, P όπου το L είναι κάτω τριγωνικό µε 1 στη διαγώνιο, διαγώνιο, το U είναι άνω τριγωνικό, τριγωνικό, το P µητρώο µετάθεσης και PA=LU. Το παραπάνω αποτέλεσµα είναι το πιο γενικό και αυτό που τις περισσότερες φορές χρησιµοποιείται στις εφαρµογές. εφαρµογές. Οι αλγόριθµοι που χρησιµοποιούνται στις εφαρµογές είναι υλοποιήσεις αυτής της παραγοντοποίησης. παραγοντοποίησης. 18 Χρήση στην επίλυση συστηµάτων Ax=b 1. 2. Παραγοντοποίηση PA = LU Ax=b ⇒ L(Ux) L(Ux) = Pb a. b. c. y=Pb Lz = y Ux = z → µετάθεση → εµπρός αντικατάσταση → πίσω αντικατάσταση ∆υστυχώς: ∆υστυχώς: συνήθως το P δεν είναι γνωστό εκ των προτέρων αλλά προκύπτει κατά τη διάρκεια του αλγορίθµου διάσπασης. διάσπασης. Χρήση στην αντιστροφή: αντιστροφή: Αλγόριθµος GaussGauss-Jordan A ∈ Rn × n ⇒ A A-1 = I = [e1, …, en] 1. 2. Παραγοντοποίηση A = PLU Για j=1: n, Λύσε P(L(Uxj))) = e_j a. b. c. 3. y = PΤ e_j Lz = y Uxj = z → Μετάθεση (και πιο απλή!) απλή!) → εµπρός αντικατάσταση → πίσω αντικατάσταση Τότε A-1 = [x1, x2, …, xn] 19 Παρατηρήσεις Και οι δυο µορφές είναι χρήσιµες για τη λύση γραµµικών συστηµάτων ∆ιαδοχικά υπολογίζουµε και εφαρµόζουµε τα στοιχειώδη µητρώα στο «επαυξηµένο µητρώο» µητρώο» [A,b] A,b]: 1. 2. Ln-1 ... L2 L1 [A,b] A,b] = [U,c [U,c]] Πίσω αντικατάσταση για τη λύση του Ux =c Παρατηρήσεις Αν Ax ≡ LUx=b ⇒ x=U-1 (L-1 b) 1. 2. 3. 4. Ln-1 . . . L2 L1 A = U L = L1-1 . . . Ln-1-1 Επίλυση του Ly = b (εµπρός (εµπρός αντικατάσταση) αντικατάσταση) Επίλυση του Ux =y (πίσω αντικατάσταση) αντικατάσταση) 20
© Copyright 2024 Paperzz