1 Αριθμητική Ανάλυση Μεταπτυχιακού Ακαδημαϊκό Έτος Τετάρτη 5, Νοεμβρίου η Εβδομάδα ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΜΑΘΗΜΑΤΙΚΩΝ ΤΟΜΕΑΣ ΥΠΟΛΟΓΙΣΤΙΚΩΝ ΜΑΘΗΜΑΤΙΚΩΝ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗΣ

2 Θέμα: AΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΓΡΑΜΜΙΚΩΝ ΣΥΣΤΗΜΑΤΩΝ (Γ.Σ.) _ _ ΜΕΓΑΛΟΥ ΠΛΗΘΟΥΣ ΕΞΙΣΩΣΕΩΝ

3 Γενική περιγραφή των τρόπων λύσεως : I. Άμεσοι και Επαναληπτικοί Τρόποι ( Τεχνικές ). II.Βέλτιστος τρόπος άμεσης (direct) επίλυσης και τροποποιήσεις του. III.Αξιοσημείωτες περιπτώσεις Γ.Σ. (Συμμετρικά-- Θετικά Ορισμένα Γ.Σ., Τριδιαγώνια, και Ζωνικά Γ.Σ. ). IV.Πολλαπλά συστήματα, με τον ίδιο πίνακα συντε- λεστών αγνώστων. V.Επαναληπτικές (Iterative) Τεχνικές Επίλυσης ενός Γ.Σ. και Αραιά ( Sparse ) Συστήματα. VI.Ευαισθησία λύσεων σε ¨θόρυβο¨ των δεδομένων : i.Μερική Οδήγηση ii.Ασταθή συστήματα – Συντελεστής αστάθειας – Preconditioning.

4 Ι. Άμεσοι Τρόποι Επίλυσης Γραμμικών Συστημάτων :, με την ορίζουσα |Α| ≠ 0, 1. Κανόνας του Cramer : 2. Με χρήση του αντιστρόφου πίνακα : 3. Απαλοιφή Gauss - Εφαρμοσμένη με παραγοντοποίηση : 4. Απαλοιφή Gauss (Gauss Elimination - κλασσική): και εύρεση της λύσεως από το τελικό άνω τριγωνικό σύστημα. ΙΙ. Επαναληπτικές Μέθοδοι Επίλυσης : Με χρήση της ακολουθίας: και πίνακα Μ «απλό» (εύκολα αντιστρέψιμο ). Έτσι με : Μ διαγώνιο - > Jacobi, με Μ τριγωνικό - > Gauss-Seidel, ενώ με Μ μία σύνθεση του διαγώνιου και τριγωνικού – > Relaxation.

5 Ι. Άμεσοι Τρόποι - Εφαρμοσμένη Απαλοιφή, με την Παραγοντοποίηση : όπου : L : Κάτω τριγωνικός με διαγώνια στοιχεία μονάδες U : Άνω τριγωνικός, με διαγώνια στοιχεία τα οδηγά (pivots) στοιχεία της απαλοιφής με Α i κύριες υποορίζουσες. Λόγω της (1) το (Γ.Σ.) διασπάται σε 2 τριγωνικά: Τα και, που επιλυόμενα διαδοχικά δίδουν τη λύση Εφαρμογή 1η : Στο Γ.Σ. (2), που ακολουθεί, οι παράγοντες L και U είναι αυτοί που δίδονται: Ενώ από το:

6 Σημείωση. Η (1) γενικεύεται και εξισορροπείται στην (1.1) : ( 1.1 ) Α= L.D.U*, που είναι συμμετρική ενώ αποδεικνύεται και μοναδική, με : U* να έχει μοναδιαία διαγώνια στοιχεία - όπως και ο L, ενώ ο D είναι διαγώνιος με στοιχεία τα οδηγά της απαλοιφής. Εφαρμογή 2η : Στον πίνακα του συστήματος του προηγουμένου παραδείγματος η ανάλυση L.D.U* δίδει : Μιά άλλη ενδιαφέρουσα εφαρμογή έχουμε στην αριθμητική επίλυση των διαφορικών εξισώσεων - συνήθων και μερικών, με τον γνωστό τριδιαγώνιο πίνακα που εμφανίζεται :

7 Εφαρμογή 3η :Η συμμετρική ανάλυση του γνωστού πίνακα των διαφορικών εξισώσεων δευτέρας τάξεως είναι:

8 Απαλοιφή Gauss – Κλασσική. Εφαρμογή 4η : Οι διαδοχικές φάσεις της απαλοιφής : (α) Διαδικασία απαλοιφής συντελεστών στις διαδοχικές στήλες κάτω της κυρίας διαγωνίου Οπότε, από το άνω τριγωνικό σχήμα έχουμε τη λύση με όπίσθια αντικατάσταση: Η παραπάνω διαδικασία μπορεί να υλοποιηθεί με διαδοχικούς πολλαπλασιασμούς του αρχικού συστήματος με κατάλληλους πίνακες μετασχηματισμού L k (για την απαλοιφή της x k μεταβλητής από τις k+1,k+2,...,v επόμενες εξισώ σεις), έτσι ώστε να καταλήξει στην επιζητούμενη άνω τριγω- νική μορφή. Οι πίνακες L k δημιουργούνται από τον μοναδιαίο πίνακα όπου στην αντίστοιχη k στήλη προσθ τουμε τους πολλαπλασιαστικούς συντελεστές της απαλοιφής, όπως στο επόμενο παράδειγμα:

9 Εφαρμογή 5η: Παράδειγμα απαλοιφής του προηγούμενου συστήματος, με με χρήση των πινάκων μετασχηματισμού. Ο πίνακας μετασχηματισμού L 1 είναι -> και το σύστημα μετά τον πολλαπλασιασμό : γίνεται ( 1η φάση) : Ο πίνακας μετασχηματισμού L 2 είναι -> και το σύστημα μετά τον πολλαπλασιασμό : γίνεται ( 2η φάση):

10 Ο πίνακας μετασχηματισμού L 3 είναι ο -> και το σύστημα μετά τον πολ/μό : γίνεται ( 3η - τελική φάση): από το οποίο προκύπτει η λύση (3), με οπίσθια αντικατάσταση. Παρατήρηση 1η: Η επίδραση σφαλμάτων στους υπολογισμούς μπορεί να είναι αποφασιστική, πράγμα που μπορεί να γίνει σαφές από το παρακάτω παράδειγμα με λύση την [9,-36,30] Τ, που ακολουθεί: Εάν αντικαταστήσουμε τα κλάσματα με τις τιμές τους και με ορισμένη ακρίβεια, τότε, π.χ., το 1/3 μπορεί να αντικατασταθεί με το 0.33 ή με , οπότε, εμφανίζεται η ΔΡΑΜΑΤΙΚΗ ΣΥΝΕΠΕΙΑ, στα ασταθεί (κακώς συμπεριφερόμε- να) συστήματα, όπως το (4).

11 Φυσικά, στην εκτέλεση των πράξεων θα μπορούσε κανείς να διατηρήσει 2 σημαντικά ψηφία, οπότε τότε υπολογίζει την λύση που γίνεται: [7,-23,17] Τ και η οποία καμία σχέση με την πραγματική, που είναι: [9,-36,30]. Τ Ενώ εάν τα ίδια κλάσματα υπολογιστούν με ακρίβεια 5 σημαντικών ψηφίων, τότε προκύπτει η λύση: [ , , ] Τ,που οπωσδήποτε είναι μέσα στα αναμενόμενα πλαίσια.

12 Παρατήρηση 2η : Η ακολουθία των διαδοχικών μετασχηματι- σμών είναι η ακόλουθη : Η εκκίνηση : Το γραμμικό σύστημα : Οι διαδοχικοί μετασχηματισμοί του συστήματος: 1η φάση : 2η φάση : ………… ν-1 φάση : Το γινόμενο κάτω τριγωνικών πινάκων είναι όμοιος. Άρα Αλλά:, που είναι η τελική μορφή του αρχικού μας συστήματος, ενώ έμεσα έγινε η παραγοντοποίηση:

Παράδειγμα 3ο: (Περίπτωση τριδιαγώνιου πίνακα): (α) Με την βοήθεια του Κανόνα του Cramer: Οι υπολογισμοί με ορίζουσες κάνουν τη μέθοδο μη ρεαλιστική

(β) Με χρήση του Αντιστρόφου Α -1, που είναι συμμετρικός, και το άνω τριγωνικό του κομμάτι είναι: δηλαδή θα έχουμε : οπότε (Σημείωση: Ακόμη και σ’ αυτή την περίπτωση η παραγοντοποίηση απαιτεί λιγότερες πράξεις).

15 (3) Απαλοιφή Gauss – κλασσική : To (7) γράφεται μετά την διαδικασία απαλοιφής (που κάθε άγνωστος απαλείφεται από μία μόνο εξίσωση): Η οπίσθια αντικατάσταση στο (9) δίδει x 9 =5·9/10=4.5 και u kk ·x k =x k+1 +β * κ για k = 8, 7,..., 1, δηλαδή: Στην επόμενη παράγραφο στα τριδιαγώνια συστήματα, θα έχουμε και τύπο απ΄ευθείας, για την λύση του.

16 II. Βέλτιστος τρόπος επίλυσης Γ.Σ.: Παραγοντοποίηση A = L · U Η παραγοντοποίηση του πίνακα Α της (7) μας δίδει: και οπότε από την : ενώ από την : Παρατήρηση: Σημειώσατε την διατήρηση της τριδιαγώνιας δομής του αρχικού πίνακα (στους παράγοντες πίνακες L και U της παραγοντοποίησης) σπουδαίο πλεονέκτημα της ΑΠΑΛΟΙΦΗΣ, πράγμα που δεν συμβαίνει στην αντιστρο- φή (!), όπως μπορείτε να διαπιστώσετε στην (8), αλλά θα επανέλθουμε.

17 III. Αξιοσημείωτες περιπτώσεις (α) Συμμετρικά (- Θετικά ορισμένα) συστήματα. Προφανώς, η παραγοντοποίηση του πίνακα των συντελεστών των αγνώ- στων στην περίπτωση του συμμετρικού πίνακα μπορεί να υλοποιηθεί κατά τα γνωστά, μόνο που η υπαρχουσα συμμετρία δίδει την δυνατότητα συντόμευσης των υπολογισμών σχεδόν κατά το ήμιση, αφού τότε θα πρέπει να έχουμε : οπότε αρκεί η εύρεση ενός μόνο τριγωνικού πίνακα, το στοιχεία του οποίου εύκολα αποδεικνύεται ότι θα είναι πραγματικοί εάν ο συμμετρικός πίνακας εί- ναι θετικά ορισμένως, οδηγούμενοι έτσι στην συμπαγή μέθοδο Choleskii. Πιό συγκεκριμένα, η εξίσωση πινάκων (10) : με εκτέλεση των πράξεων στο δεξιό μέλος και εξίσωση των αντιστοίχων όρων των δύο μελών δίδει τις σχέσεις προσδιορισμού των στοιχείων του L,που είναι:

18 1. Τα στοιχεία της 1-ης (πρώτης) στήλης : 2. Τα στοιχεία της 2-ης στήλης : ………………………………………. 3. Τα στοιχεία της κ-ης στήλης : Καθώς και τον ακόλουθο αλγόριθμο Choleskii : Για κ = 1(1)ν θέσε : και στη συνέχεια για μ= κ+1(1)ν θέσε :

19 Παράδειγμα : Ως παράδειγμα ας πάρουμε την ανάλυση Choleskii του συμμετρικού πίνακα : που βάσει των προηγουμένων γίνεται διαδοχικά : Άρα η ανάλυση Choleskii δίδει την παραγοντοποίηση και έμμεσα το θετικώς ορισμένο του πίνακα Α :

20 (β) Τριδιαγώνια γραμμικά συστήματα. Στην περίπτωση αυτή ΄το Γ.Σ. θα έχει την μορφή : και οι παράγοντες πίνακες θα είναι : με τα στοιχεία τους :

21 Εφαρμογή των (12) στην λύση της (11), δίδει τελικά την λύση του Γ.Σ. που δημιουργείται από την λύση του κατω τριγωνικού συστήματος :

22 Το ενδιάμεσο βοηθητικό διάνυσμα και ο τύπος της λύσης του τριγωνικού συστήματος είναι :

23 (γ) Ζωνικά Γ.Σ. Το σπουδαίο της απαλοιφής είναι ότι στην περίπτωση των συστημάτων με ζωνική δομή, διατηρεί την δομή του αρχικού μας πίνακα στους παράγον- τες πίνακες, με αποτέλεσμα έξω από την ζώνη του αρχικού πίνακα κατά την παραγοντοποίηση να μην εμφανίζονται μη μηδενικά στοιχεία, ενώ διατη- ρείται και η άνω διαγώνιος του αρχικού πίνακα ως άνω διαγώνιος του άνω τριγωνικού παράγοντα, πράγμα που μπορεί κανείς να διαπιστώσει και στην περίπτωση των προηγούμενων τριδιαγώνιων πινάκων. Ως άσκηση προτείνεται να εξετασθεί η περίπτωση των πενταδιαγωνίων πινάκων. IV. Πολλαπλά συστήματα με τον ίδιο πίνακα συντελεστών αγνώστων. Στην περίπτωση αυτή το ζητούμενο είναι η εύρεση της λύσης του : Η διαδικασία της απαλοιφής μπορεί να εφαρμοσθεί στο (Α|Β), κατά τα γνω- στά, εάν δε επεκταθεί ώστε ο τελικός κάτω τριγωνικός πίνακας να καταστεί μοναδιαίος, τότε στην θέση του πίνακα Β θα έχει δημιουργηθεί ο πίνακας λύση.

24 Παρατήρηση : Η επέκταση της απαλοιφής ώστε αντί τριγωνικού πίνακα να καταλήξει σε διαγώνιο χαρακτηρίζεται ως παραλλαγή Gauss- Jordan Παράδειγμα. Έστω προς λύση τα δύο συστήματα : στα οποία η διαδικασία της απαλοιφής δίδει διαδοχικά :