Αριθμητική Ανάλυση - Μεταπτυχιακού Ακαδημαϊκού Έτους Τετάρτη, 29 Οκτωβρίου η Εβδομάδα ΠΑΝΕΠΙΣΤΗΜΙΟ ΠΑΤΡΩΝ ΤΜΗΜΑ ΜΑΘΗΜΑΤΙΚΩΝ ΤΟΜΕΑΣ ΥΠΟΛΟΓΙΣΤΙΚΩΝ ΜΑΘΗΜΑΤΙΚΩΝ ΚΑΙ ΠΛΗΡΟΦΟΡΙΚΗΣ

ΑΡΙΘΜΗΤΙΚΗ ΕΠΙΛΥΣΗ ΕΞΙΣΩΣΕΩΝ (συν.) Θέμα: Τάξη Σύγκλισης μιάς Ακολουθίας και Επιτάχυνση Σύγκλισης μιάς Βραδέως Συγκλίνουσας Ακολουθίας ΑΛΓΕΒΡΙΚΕΣ ΕΞΙΣΩΣΕΙΣ

Ως γνωστόν, η τάξη σύγκλισης (order of convergence) μιάς συγκλίνουσας ακολουθίας, ορίζεται ως εξής: Η ακολουθία x 0, x 1, x 2,... x ν,… συγκλίνει στο όριο x * Ορίζουμε ως σφάλμα του τρέχοντα όρου x k : e k = x k – x *. Ορίζουμε την τάξη σύγκλισης P(>1), εάν υπάρχει k>0 και ισχύει: Στην ειδική περίπτωση του p=1, τότε το k πρέπει να είναι και μικρότερο του 1 δηλαδή 0<k<1, οπότε έχουμε τάξη σύγκλισης 1 (για να υπάρχει μείωση σφάλματος). Εξ άλλου, η σύγκλιση είναι γραμμική (linear )εάν ισχύει: Τέλος, εάν ισχύει: e ν+1 = ke ν, ν=0,1,2,… με 0 < |k |<1, τότε η σύγκλιση καλείται γεωμετρική. ΑΣΚΗΣΗ: Στις γνωστές μεθόδους : διχοτόμησης, εσφαλμένης θέσης, Χορδής και Newton-Raphson, εύρατε τις τάξεις σύγκλισης αυτών. 1. Τάξη Σύγκλισης - Ορισμοί

(α) Γεωμετρική σύγκλιση και σχήμα Aitken Εάν πάρουμε μια συγκλίνουσα ακολουθία με γεωμετρική σύγκλιση, τότε βάσει του ορισμού τα διάφορα σφάλματα e k θα έχουν την ακόλουθη συμπεριφορά για k = ν-1, ν και ν+1: Διά διαιρέσεως των (1) κατά μέλη λαμβάνουμε: που επιλυόμενη ως προς x * μας δίδει: Δηλαδή, στις ακολουθίες με γεωμετρική σύγκλιση, με τρεις όρους ( τους x ν-1, x ν και x ν+1 ) μπορούμε να υπολογίσουμε το όριο! Εφαρμογή: Δείξτε ότι η ακολουθία :, ν=0, 1, 2, …, συγκλίνει γεωμετρικά, αφού βρείτε πρώτα το όριό της. 2. Επιτάχυνση Σύγκλισης

Ο Aitken εφήρμοσε την παραπάνω σχέση (2) σε βραδέως συγκλίνουσες ακολουθίες, όπως η γραμμική σύγκλιση ( π.χ. στην γενική επαναληπτική ), όπου τότε, λόγω ορισμού, ισχύουν για τα σφάλματα οι σχέσεις : και με τον παραπάνω τρόπο από κάθε τρεις όρους της ακολουθίας x 0, x 1,x 2,... x ν,… ( βραδέως συγκλίνουσας ), υπολόγισε έναν όρο y ν μιάς νέας ακολουθίας της : y ν, ν=1,2,… με γενικό όρο: Φυσικά, λόγω της (3),που δεν ικανοποιείται ως ισότητα, η (4) δεν δίδει το όριο, αλλά έναν όρο που είναι κοντά σ’αυτό. Έχει αποδειχθεί ότι η ακολουθία Aitken (4) έχει ταχύτερη σύγκλιση της αρχικής (β) Ακολουθία Aitken..

εφx – 1.5x = 0, με αρχική τιμή x 0 =0, αξιοποιούμε την ακολουθία της Γενικής Επαναλη- πτικής Μεθόδου (Γ.Ε.Μ.) και υπολογίζουμε τους όρους x ν, από τον τύπο : ενώ παράλληλα κάνουμε χρήση της ακολουθίας Aitken και υπολογίζουμε τους όρους y v, ν=1,2,…, με αποτελέσματα που δίδονται από τον πίνακα 1 : Πίνακας 1. (γ) Παράδειγμα : Για την εύρεση μιάς ρίζας της εξίσωσης : νX v (Γ.Ε.Μ.)Y v (Aitken)

Στην (4), ο όρος της Aitken που προκύπτει, θα μπορούσε να ληφθεί ως αρχικός της Γ.Ε.Μ. απ’ όπου έχει παραχθεί, κι έτσι οι 2 επόμενοι όροι της Γ.Ε.Μ. να πα- ραχθούν με αρχικό εκείνον της Aitken, που βρέθηκε από την (4). Αυτή η τροποποίηση δημιουργεί επιτάχυνση, χωρίς την συνέχεια της Aitken. Δηλαδή, ξεκινούμε με τρεις όρους της Γ.Ε.Μ. και υπολογίζουμε έναν ό- ρο της Aitken. Με βάση αυτόν και με Γ.Ε.Μ. υπολογίζουμε 2 επί πλέον όρους της Γ.Ε.Μ. και με τον αρχικό (Aitken) υπολογίζουμε έναν νέο όρο Aitken, κλπ. Αυτή είναι η διαδικασία τηςεπαναληπτικής Steffensen, που ενώ είναι απλού- στερη της Aitken δίδει παρομοίως επιταχύνσεις συγκλίσεων. Παράδειγμα: Για την προηγούμενη εξίσωση και με τα ίδια δεδομένα του προβλή- ματος η ακολουθία Steffensen δίδει: z 1 = , z 2 = , z 3 = , όπου ο τρίτος όρος z 3 είναι πολύ πιό κοντά στη ρίζα x * = , από ότι ο 10ος όρος της Aitken ( ) και ο 25ος της Γ.Ε.Μ. ( ), όπως φαίνεται από τον προηγούμενο πίνακα 1. (δ) Παραλλαγή της Aitken - Μέθοδος Steffensen

Ως γνωστόν, η ακολουθία N-R για την εξίσωση φ(x)=0 είναι: και x 0 δοσμένο. Έστω ότι αυτή συγκλίνει και το όριο της είναι x*, οπότε εάν γράψουμε: ( 6 ) x* = x ν + (x*-x ν ). τότε, το ανάπτυγμα Taylor της φ(x) (με 3 μόνο όρους) γύρω από το όριο x* δί- δει:, με x*<ξ<x ν, ή, με ανακατάταξη των όρων και διαίρεση διά του, Ή,, που εάν: δηλαδή, τετραγωνική σύγκλιση ( βάση του ορισμού της &1 ). 3. Σύγκλιση Ανωτέρας (Δευτέρας) Τάξεως - Μέθοδος Newton

(α) Η επεκτεταμένη μέθοδος N-R έχει ακολουθία που δίδεται από τον τύπο: και προκύπτει από το ανάπτυγμα Taylor της φ(x) γύρω από το x ν+1 =x ν + h : εάν προσδιορίσουμε το h έτσι ώστε το x ν+1 να είναι ρίζα, δηλαδή φ(x ν+1 )=0, πλην όμως στην απείρου βαθμού αλγεβρική εξίσωση ως προς h που προκύ- πτει μπορούμε να την αποκόψουμε από τον τριτοβάθμιο και πέρα όρο, οπότε όμως θα πάρουμε μιά προσέγγιση του h, από την λύση της εξίσωσης: στην οποία επιπλέον αντικαθιστούμε το, από το γνωστό N.-R. 4. Σύγκλιση Τρίτης και Άνω Τάξης (Επεκτεταμένη Ν.-R.)

της κλασσικής μεθόδου ( για να αποφύγουμε την εξαγωγή ρίζας ), μιά που ο στόχος μας είναι μια προσέγγιση του h να υπολογίσουμε. Έτσι, έχουμε για το h τελικά την τιμή: οπότε είναι πλέον προφανής ο υπολογιστικός τύπος της ακολουθίας (7). (β) Για την τάξη σύγκλισης της επεκτεταμένης N.-R. θα κάνουμε χρήση του αναπτύγματος Taylor γύρω από τη ρίζα της φ(x), οπότε έχουμε: Οπότε, εάν διαιρέσουμε διά και θέσουμε όπως και προηγούμενα: παίρνουμε τελικά:

Ή : που προφανώς πληροί τον ορισμό της κυβικής σύγκλισης. Άρα, η επεκτεταμένη N-R μέθοδος έχει σύγκλιση κυβική. (γ) Γενικότερη Μελέτη της τάξης σύγκλισης Τέλος, γενικότερα, η τάξη σύγκλισης μιάς συγκλίνουσας ακολουθίας της μορφής: μπορεί να μελετηθεί, ομοίως με τη βοήθεια του αναπτύγματος Taylor, γύρω από το όριο x * της φ(x v ) ως εξής : Εάν υποθέσουμε ότι όλες οι παράγωγοι μέχρι και την (k-1) παράγωγο της φ(x) μηδενίζονται στο x *, ενώ φ k (x * ) ≠ 0, τότε από την (11), εύκολα έχουμε:

Προφανώς, από την (12), η τάξη σύγκλισης της (10), βάσει ορισμού είναι k. (δ) Παράδειγμα: Τα παραπάνω εύκολα επαληθεύονται στην περίπτωση της N-R, που γράφεται: Προφανώς, έχουμε: οπότε : Επιπλέον ισχύει (να αποδειχθεί) : Φ''(x * )≠0.

Άρα η N-R συγκλίνει τετραγωνικά (έχει τάξη σύγκλισης 2), που επαλη- θεύει το συμπέρασμα της περίπτωσης (α). Άσκηση: Με παρόμοιο τρόπο δείξτε ότι η επεκτεταμένη N-R μέθοδος έχει σύγκλιση κυβική, δηλαδή δείξτε ότι η επαναληπτική συνάρτηση του υπολογιστικού αλ- γορίθμου της επεκτεταμένης N.-R.: πληροί τις σχέσεις: με ξ ρίζα της : φ(x)=0. (ε) Περίπτωση πολλαπλής ρίζας της N.-R. και τροποποίηση της Η ακολουθία σφαλμάτων της μεθόδου N.-R. αποδεικνύεται (βλέπε Young - Gregory) ότι στην περίπτωση πολλαπλής ρίζας ικανοποιεί την: Εάν τώρα η πολλαπλότητα k είναι 1 τότε προφανώς η σύγκλιση είναι τε- τραγωνική, αφού τότε ο γραμμικός όρος θα μηδενίζεται, άλλως καθίσταται

γεωμετρική, με συντελεστή ίσο με: Το σημαντικό είναι ότι εφόσον γνωρίζουμε την πολλαπλότητα της ρίζας,τότε μπορούμε να αποκαταστήσουμε την τετραγωνική σύγκλιση εφαρμόζοντες το ακόλουθο τροποποιημένο σχήμα: Το πρόβλημα φυσικά εμφανίζεται ως ακολουθία βραδέως συγκλίνουσα, προφανώς λόγω της πολλαπλής ρίζας, και ουδεμία γνώση έχουμε της πολ- λαπλότητος αυτής, πέρα των όρων της ακολουθίας και της γεωμετρικής συγκλίσεώς της. Στη περίπτωση αυτή αξιοποιούμε την παρατήρηση της παραγράφου 2α και υ- πολογίζουμε μιά προσέγγιση της ρίζας ξ από τον τύπο Aitken: και στη συνέχεια υπολογίζουμε δύο νέους όρους της ακολουθίας N.-R., οπότε η πολλαπλότητα k θα δίδεται από τον πλησιέστερο ακέραιο του :

Παράδειγμα: Στην εξίσωση : εφαρμόζουμε: (α) Το κλασσικό σχήμα Ν.-R. (β) Το τροποποιημένο σχήμα (12), με κ=2, οπότε εάν x0=π/2, τότε γιά τον υπολογισμό της διπλής της ρίζας έχουμε τα αποτελέσματα του πινακα 2, που ακολουθεί :

Πίνακας 2. s/n(α)(β) Παρατηρήσεις X1X Ο υπολογισμός των σφαλμάτων στους 4 πρώτους όρους δίδει: δηλαδή, το σφάλμα είναι σχεδόν το ήμισυ των προηγουμένων πράγμα που αναμένεται, αφού θα έχουμε: ή 2. Προφανώς στην πολλαπλή ρίζα ρ θα έχουμε: οπότε στη συνάρτηση Φ(χ) με : η ρίζα ρ είναι απλή. x2x x3x x4x x5x X6X x7x X8X x9x x10x x11x x12x x13x x14x x15x

6. Ταχύτητα σύγκλισης άλλων υπολογιστικών αλγορίθμων (α) Μέθοδος Διχοτόμησης (Bisection method) Με την προϋπόθεση ότι έχει εντοπισθεί μια ρίζα x * της φ(x) στο διάστημα (α,β), τότε ισχύει η ακόλουθη σχέση φράγματος,για τη ν-οστή επανάληψη: οπότε η εξασφάλιση της ακρίβειας ε για τον υπολογισμό της x * απαιτεί τουλάχιστον ν επαναλήψεις, με ν: Σημαντικό:Κάθε κύκλος της μεθόδου βελτιώνει την ακρίβεια της ρίζας κατά 1 δυαδικό ψηφίο,οπότε για ένα δεκαδικό ψηφίο ακρίβειας απαιτούνται τρείς(3) τουλάχιστον κύκλοι του αλγορίθμου της μεθόδου της διχοτόμησης.

(β) Μέθοδος Εσφαλμένης Θέσεως (Ε.Θ.) Με την προϋπόθεση του εντοπισμού της ρίζας x * της φ(x) στο διάστημα (α,β), και επιπλέον την μονοτονία της συνάρτησης με τη συνθήκη : οπότε η συμπεριφορά της αποδίδεται από το παρακάτω σχήμα και τον ακόλουθο υπολογιστικό αλγόριθμο: (Ο x v+1 είναι ο βεβαρυμένος μέσος των x v-1 και x v με βάρη |φ(x v )| και |φ(x v-1 )|), που στην προκειμένη περίπτωση γράφεται: ή εάν προσθέσουμε κατά μέλη σ’ αυτή την τιμή 0 = φ(x * ), έχουμε, εάν κάνουμε χρήση του Θεωρήματος Μέσης Τιμής του Διαφορικού Λογισμού:`

που γράφεται, με τη χρήση του άνω και κάτω φράγματος ή τελικά: Το φράγμα σφάλματος της (20), στην προηγούμενη περίπτωση μπορεί να είναι «προβληματικό», λόγω σταθερότητος του άνω άκρου (δεξιού), των διαδοχικών διαστημάτων εγκλεισμού της ρίζας, πράγμα που συμβαίνει στο παρακάτω παράδειγμα. (γ) Παράδειγμα : Στην συνάρτηση φ(x) η ακολουθία (19) της Ε.Θ. για δίδεται από την: από την οποία μπορούμε να υπολογίσουμε το πλήθος ν των όρων που απαι- τούνται ώστε να έχουμε όρο πέραν του ½, που είναι: και αν λάβουμε δ=10 -6 τότε απαιτούνται επαναλήψεις,

πράγμα που δείχνει την προβληματικότητα του αλγορίθμου, στην προκειμένη περίπτωση που παραμένει ένα άκρο του διαστήματος σταθερό, οπότε ενδείκνυται η χρήση τροποποιημένων σχημάτων όπως είναι το Illinois, ή το Pegasus, κλπ. (δ) Τροποποιημένα σχήματα εσφαλμένης θέσεως Η γενική φιλοσοφία των τροποποιημένων σχημάτων είναι η υπέρβαση της αδυναμίας με κατάλληλη μείωση (π.χ. με υποδιπλασιασμό) της τιμής της συναρτήσεως στο άκρο που παραμένει σταθερό σε επόμενο κύκλο. Π.χ. στο σχήμα το άκρο 1 παραμένει σταθερό στον δεύτερο κύκλο, άρα τότε αντί για την φ(1) παίρνουμε την τιμή kφ(α), με k<1, οπότε τότε αντί για τον όρο x 3 θα είχαμε τον όρο x' 3, που είναι πολύ πλησιέστερα στη ρίζα Η συγκεκριμένη τιμή του k είναι θέμα μεθόδου. Εάν τότε έχουμε το σχήμα Illinois. Εάν τότε έχουμε το σχήμα Pegasus

Τέλος, μια άλλη επιλογή είναι να πάρουμε τις διηρημένες διαφορές: Αποδεικνύεται ότι η μέση ταχύτητα σύγκλισης της Illinois είναι ενώ της Pegasus είναι και της τελευταίας είναι (ε) Η μέθοδος της χορδής (Secant method) Η μέθοδος της χορδής δεν απαιτεί εγκλεισμό της ρίζας μέσα σε ένα διάστημα και δεν κάνει χρήση της παραγώγου, έχει «ικανοποιητική ταχύτητα» όταν συγκλίνει: πλην όμως μπορεί να αστοχήσει! Πάντως η απλότητα του υπολογιστικού της αλγορίθμου την κάνει ελκυστική: και οδηγεί στην Newton Raphson όταν ξεκινήσουμε όχι από 2 σημεία της συνάρτησης φ(x) (που καθορίζουν τη χορδή), αλλά από ένα σημείο και την εφαπτομένη της συνάρτησης εκεί, που εξασφαλίζει την τετραγωνική σύγκλιση της μεθόδου.

Ως εφαρμογή, ας πάρουμε την εξίσωση: Παράδειγμα: που εύκολα διαπιστώνεται ότι η ρίζα της είναι στο διάστημα (π/2, π). Στη συνέχεια θα εφαρμόσουμε τις μεθόδους της εσφαλμένης θέσεως, καθώς και τις τροποποιημένες μορφές της Illinois και Pegasus, με αρχικό διάστημα το (π/2, π), οπότε λαμβάνουμε τα παρακάτω αριθμητικά αποτελέσματα για x 0 =π/2 και x 1 =π: X κ /κΕσφ. θέσηςIllinoisPegasus

7. Αλγεβρικές εξισώσεις (α) Μέθοδος Νewton - Raphson Στην περίπτωση των αλγεβρικών εξισώσεων η μέθοδος N.-R. μπορεί να αξιοποιηθεί για τον υπολογισμό κάθε ρίζας ( πραγματικής ή μιγαδικής ) της εξίσωσης, με βέλτιστο τρόπο υπολογισμού των τιμών της συνάρτησης και των παραγώγων αυτής πάσης τάξεως, με εφαρμογή σχημάτων Horner, που ως γνωστό έχουν απλό αλγόριθμο. I. Περίπτωση πραγματικής ρίζας Ας υποθέσουμε την γενική μορφή της αλγεβρικής εξισώσεως κ - βαθμού: και την εφαρμογή του κλασσικού σχήματος N.-R.: Η γραφή του P k στην μορφή Horner: καθιστά τον υπολογισμό του P k (x) βέλτιστο,με k το πολύ πολλαπλασιασμούς και k το πολύ προσθέσεις.

Έτσι, για x = x 0 η (25) μπορεί να υλοποιηθεί με τον αλγόριθμο: Προφανώς στον (26) οι συντελεστές δίδουν τις εντός των παρενθέσεων εκφράσεις της (25) ενώ ο και ο Τέλος, εύκολα μπορούμε να αποδείξουμε ότι: με: αρκεί να εκτελεσθούν οι πράξεις στο δεξιό μέλος της (27) και να εξισωθούν οι συντελεστές των ομοίων δυνάμεων. Εξάλλου, με παραγώγιση της (27), συνάγεται εύκολα η σχέση: που σημαίνει ότι στην (24) ο αριθμητής και ο παρονομαστής του κλάσματος μπορούν να υπολογιστούν με δύο συνεχείς εφαρμογές του σχήματος Horner για τον υπολογισμό των τιμών πράγμα που απλοποιεί την όλη διαδικασία.

II. Περίπτωση μιγαδικού ζεύγους ριζών Το σχήμα N.-R. (24) μπορεί και πάλι να εφαρμοσθεί, αρκεί η αρχική τιμή x 0 να είναι μιγαδικός αριθμός, π.χ. οπότε παρουσιάζεται η ανάγκη υπολογισμού τιμών πολυωνύμων για μιγαδική ανεξάρτητη μεταβλητή. Μια τροποποίηση του σχήματος Horner μπορεί να αξιοποιηθεί για την απλοποίηση των πράξεων και την αποφυγή μιγαδικής αριθμητικής. Η τροποποίηση συνίσταται στην χρήση του τριωνύμου που έχει ως ρίζες τις δηλαδή υπολογίζουμε το άθροισμα και το γινόμενό τους : οπότε το τριώνυμο θα είναι το: ενώ το μπορεί να γραφεί ως εξής (π.χ. ταυτότητα της διαίρεσης ) : με:

ενώ οι συντελεστές : θα δίδονται από τις : Δηλαδή θα έχουμε για τους συντελεστές τις σχέσεις προσδιορισμού, που λαμ- βάνονται από την (31), με εξίσωση των συντελεστών των ομοιόβαθμων όρων : Οπότε στο τέλος, για τον υπολογισμό της τιμής του πολυωνύμου θα έχουμε να πολλαπλασιάσουμε την τιμή του A επί τον μιγαδικό α+βi και να προσθέσουμε την τιμή του B, όπως φαίνεται σαφώς στην τελευταία σχέση. :

Παράδειγμα : Στο πολυώνυμο : ζητείται να υπολογιστούν με βέλτιστο τρόπο οι τιμές : Aπάντηση : Προφανώς, θα κάνουμε χρήση του σχήματος Horner για μιγαδικούς, οπότε κατά τα προαναφερθέντα βρίσκουμε το άθροισμα κ=2 και το γινόμενο -λ = 5, καθώς και την σχετική διάταξη του σχήματος Horner για μιγαδική τιμή : Άρα : Α=-50 και Β= 34 – 2(-50)=134, οπότε Ρ(1+2i) =-50(1+2i)+134=84-100i, και για την συζυγή τιμή θα έχουμε Ρ(1-2i) =84+100i.