Μια εισαγωγή στην μέθοδο Monte Carlo Κυριακού Τ. Δημήτρης Σ.Ε.Μ.Φ.Ε. 8ο εξάμηνο

Περιεχόμενα Εισαγωγή Τυχαίοι αριθμοί Μη ομοιόμορφοι τυχαίοι αριθμοί Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo Εφαρμογές της μεθόδου Monte Carlo Βιβλιογραφία END (ΤΕΛΟΣ) EXTRA

Εισαγωγή Τι είναι η μέθοδος Monte Carlo; Η μέθοδος Monte Carlo είναι μια αριθμητική τεχνική επίλυσης μαθηματικών προβλημάτων με τη χρήση τυχαίων αριθμών. Που Χρησιμοποιείται; Χρησιμοποιείται κυρίως σε προβλήματα τα οποία είναι πολύ περίπλοκα για να επιλυθούν αναλυτικά ή με τη χρήση κλασικών αριθμητικών μεθόδων.

Τυχαίοι αριθμοί Πραγματικά τυχαίοι αριθμοί Θεωρητικά τυχαίος αριθμός είναι μια συγκεκριμένη τιμή σε μια τυχαία μεταβλητή. Μια ακολουθία πραγματικά τυχαίων αριθμών είναι απρόβλεπτη και για το λόγο αυτό μη ξανά αναπαραγόμενη. Μια τέτοια ακολουθία μπορεί να παραχθεί μέσω μιας τυχαίας φυσικής διαδικασίας όπως π.χ. Ο θερμικός θόρυβος σε ηλεκτρονικά συστήματα, οι χρόνοι άφιξής κοσμικών ακτίνων στην γη, η διάσπαση ραδιενεργών πυρήνων κ.α.

Τυχαίοι αριθμοί Ψευδοτυχαίοι αριθμοί Σε έναν Η/Υ είναι αδύνατο (τουλάχιστον με τους σημερινούς Η/Υ) να παράγουμε ένα δείγμα τυχαίων αριθμών. Έτσι χρησιμοποιούμε τους λεγόμενους ψευδοτυχαίους αριθμούς. Με τη χρήση διάφορων μαθηματικών τεχνικών δημιουργούμε τεχνητά “τυχαίους” αριθμούς τους οποίους καλούμε ψευδοτυχαίους, οι αριθμοί αυτοί πρέπει να ικανοποιούν κάποια τεστ τυχαιότητας. Με τον τρόπο αυτό εξασφαλίζεται ότι οι ψευδοτυχαίοι αριθμοί έχουν παρόμοιες ιδιότητες με τους πραγματικά τυχαίους αριθμούς.

Τυχαίοι αριθμοί Quasi-random numbers – 'σχεδόν' τυχαίοι αριθμοί Οι αριθμοί αυτοί δεν προτίθενται να δείχνουν τυχαίοι, σε αντίθεση με τους ψευδοτυχαίους αριθμούς, αλλά στοχεύουν στο να δώσουν την σωστή λύση στο εκάστοτε πρόβλημα. Για το λόγο αυτό οι ακολουθίες quasi-random αριθμών διαφέρουν από πρόβλημα σε πρόβλημα και κυριολεκτικά κόβονται και ράβονται στα μέτρα της εκάστοτε εφαρμογής.

Μη ομοιόμορφοι τυχαίοι αριθμοί Γκαουσιανές γεννήτριες Οι τυχαίοι αριθμοί που παράγονται από τέτοιου είδους γεννήτριες ακουλουθούν κανονική κατανομή. Τρόποι παραγωγής 1D : 1. Με τη χρήση του κεντρικού οριακού θεωρήματος 2. Με τη χρήση μετασχηματισμών 3. Με τη χρήση της μεθόδου Forsythe-von Neumann

Μη ομοιόμορφοι τυχαίοι αριθμοί Γκαουσιανές γεννήτριες για περισσότερες από μια διαστάσεις : Έστω ένα κανονικό διάνυσμα z,δηλαδή με ανεξάρτητες γκαουσιανές συνιστώσες, μηδενικό μέσο και μοναδιαία απόκλιση. Τότε υπάρχει ένας μοναδικός πίνακας C κάτω τριγωνικός ώστε x = C z + m και το (x-m) έχει covariance matrix V=CC' με C' τον ανάστροφο του C. Δεδομένου τώρα του V μπορούμε να υπολογίσουμε τον C με τη χρήση της παρακάτω μεθόδου :

Μη ομοιόμορφοι τυχαίοι αριθμοί Άλλα είδη κατανομών : 1. Διακριτές κατανομές Έστω τυχαία μεταβλητή ξ, τότε y=p1p2...pn−1 2. Κατανομή ως ιστόγραμμα Μια πολύ γρήγορη μέθοδος για την παραγωγή κατανομών σε ιστογράμματα είναι η μέθοδος με την χρήση των πινάκων του Marsaglia. 3. Συνεχείς κατανομές Αποδεικνύεται ότι οι τιμές του ξ μπορούν να βρεθούν από την εξίσωση : ∫ p(x)dx=γ,στο α εώς ξ ή με την μέθοδο von Neumann για την μοντελοποίηση συνεχών τυχαίων μεταβλητών. 4. Πολυδιάστατες κατανομές Το πρόβλημα της δειγματοληψίας σε πολυδιάστατο χώρο είναι στενά συνδεδεμένο με την πολλαπλή ολοκλήρωση, όμως αυτό απαιτεί την χρήση κατάλληλων τεχνικών για την εκάστοτε περίπτωση.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo Numerical quadratures Λειτουργούν καλά για μονοδιάστατα ολοκληρώματα και προτιμούνται έναντι των μεθόδων Monte Carlo. Υπάρχουν όμως προβλήματα όταν επεκτείνουμε για περισσότερες από μια διαστάσεις. O ρυθμός σύγκλισης για ένα ντετερμινιστικό quadrature rule σε χώρο διάστασης s περιορίζεται πρακτικά με οριακό σφάλμα.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo Ολοκλήρωση Monte Carlo Αριθμητική τεχνική με την χρήση τυχαίων αριθμών η οποία χρησιμοποιεί αλγορίθμους για την προσέγγιση ολοκληρωμάτων. Χρησιμοποιείται συνήθως για πολυδιάστατα ολοκληρώματα. Το σφάλμα μειώνεται με ρυθμό ανεξάρτητα της διάστασης s. Η μέθοδος Monte Carlo μας δίνει ένα πιθανολογικό όριο του σφάλματος.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo Τεχνικές περιορισμού της διακύμανσης (Variance reducing techniques) 1. Stratified sampling (Στρωματοποιημένη δειγματοληψία) Bασίζεται στην θεμελιώδη ιδιότητα του Ριμάνιου ολοκληρώματος με. Η τεχνική αυτή διαιρεί το πεδίο ολοκλήρωσης σε υποπεδία τα οποία ολοκληρώνει με τη χρήση της μεθόδου Monte Carlo και έπειτα προσθέτει τα επιμέρους αποτελέσματα.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo 2. Importance sampling (Δειγματοληψία σπουδαιότητας) Μεγάλη διακύμανση στην τιμή της συνάρτησης οδηγεί σε μεγάλη αβεβαιότητα στην προσέγγιση Monte Carlo του ολοκληρώματός της. Είναι πιο αποδοτικό για τους υπολογισμούς Monte Carlo, κάθε σημείο να έχει σχεδόν την ίδια τιμή της συνάρτησης. Κάτι τέτοιο μπορεί να γίνει επιλέγοντας μεγάλο πλήθος σημείων σε περιοχές του δειγματικού χώρου όπου η συνάρτησή μας παίρνει μεγαλύτερες τιμές. Ισοσταθμίζουμε αυτό τον υπερπληθυσμό μειώνοντας τις τιμές της συνάρτησης στις περιοχές αυτές. Με τον τρόπο αυτό η “αναζυγισμένη” συνάρτηση γίνεται ομαλότερη και αυτό έχει ως αποτέλεσμα οι τιμές τις να γίνονται πιο “σχεδόν σταθερές”, με αποτέλεσμα την μείωση της διακύμανσης.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo 3. Control variates (Ελεγχόμενη παρέκκλιση) Η τεχνική της ελεγχόμενης παρέκκλισης ψάχνει συνάρτηση g η οποία να προσεγγίζει όσο το δυνατό καλύτερα την f, οι δύο συναρτήσεις αφαιρούνται. Βασίζεται μαθηματικά στην γραμμικότητα του ολοκληρωτικού τελεστή H μέθοδος αυτή είναι σταθερότερη από τη δειγματοληψία σπουδαιότητας.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo 4. Antithetic variates (Αντιθετική παρέκκλιση) H διακύμανση (variance) του αθροίσματος δύο τιμών f 1, f 2 μιας συνάρτησης είναι γενικά : V (f 1, f 2)=V (f 1)+V (f 2)+2 cov( f1, f 2). Προσπαθούμε επιλέξουμε τα σημεία που χρησιμοποιούμε με τρόπο τέτοιο ώστε ο όρος cov f 1, f 2 να έχει αρνητική συνεισφορά, έτσι μπορούμε να μειώσουμε την διακύμανση των τιμών μας.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo 5. Adaptive variance-reducing techniques (Προσαρμοστικές τεχνικές μείωσης της διακύμανσης) Με πιθανή εξαίρεση την ομοιόμορφη στρωματοποιημένη δειγματοληψία, όλες οι παραπάνω τεχνικές μείωσης της διακύμανσης απαιτούν κάποια επιπλέον γνώση για τη συμπεριφορά της ολοκληρωταίας συνάρτησης. Ακόμα σε περίπτωση που γίνει κάποιο λάθος στην χρήση τους μπορεί να έχουμε αύξηση της διακύμανσης. Αυτό οδήγησε στην ανάπτυξη μεθόδων οι οποίες δεν χρειάζονται κάποια a priori γνώση γύρω από την συνάρτηση, αλλά “μαθαίνουν” για την συνάρτηση καθώς προχωρούν. Μερικά παραδείγματα τέτοιων μεθόδων είναι η προσαρμοστική δειγματοληψία σπουδαιότητας του Friedman, η μέθοδος DIVONNE2 του Friedman, η RIWIAD των Sheppey & Lautrup. Πραγματικά προσαρμοστικές μέθοδοι Monte Carlo δεν υπάρχουν, λόγο της πολυπλοκότητας των προβλημάτων που αντιμετωπίζονται με μεθόδους Monte Carlo.

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo Παράδειγμα ολοκλήρωσης με τη μέθοδο Monte Carlo: Ολοκλήρωση με τη μέθοδο hit or miss Η μέθοδος αυτή είναι μια αρκετά απλή μέθοδος και βασίζεται στο σκεπτικό ότι μπορεί κανείς να υπολογίσει το εμβαδόν ενός περίπλοκου χωρίου με τη βοήθεια ενός άλλου χωρίου το οποίο περιέχει το άγνωστο χωρίο και το οποίο όμως έχει γνωστό και εύκολα υπολογίσιμο εμβαδόν. Έστω ότι θέλουμε να υπολογίσουμε το εμβαδόν ενός κύκλου ο οποίος είναι εγγεγραμμένος στο μοναδιαίο τετράγωνο. Τότε είναι προφανές από τη γεωμετρία ότι ο λόγος των εμβαδόν των δύο χωρίων θα είναι :

Ολοκλήρωση με τη χρήση μεθόδων Monte Carlo RandomQuasi Random Hit or miss

Εφαρμογές της μεθόδου Monte Carlo Μερικά παραδείγματα πεδίων στα οποία βρίσκει εφαρμογές η μέθοδος Monte Carlo είναι : Η επιστήμη και η βιομηχανία των ηλεκτρονικών υπολογιστών. Η επιστήμη και η βιομηχανία παιγνίων. Τα μαθηματικά. Το πεδίο των οικονομικών. Στις φυσικές επιστήμες και σε προβλήματα μηχανικής ( με την έννοια του engineering). Στις τηλεπικοινωνίες. Στη φυσική.

Βιβλιογραφία 1. F. James, Monte Carlo theory and practice, Rep. Prog. Phys. Vol. 43 (1980), pp 1145–1189 {Review Article} 2. Ilya M. Sobol, A Primer for the Monte Carlo Method, CRC Press (1994) 3. James E. Gentle, Random Number Generation and Monte Carlo Methods,Springer (1998) 4. A.C. Davison, Cambridge Series in Statistical and Probabilistic Mathematics,Statistical Models,Cambridge University Press (2003) 5.Rubinstein, R. Y.; Kroese, D. P. (2007). Simulation and the Monte Carlo Method (2nd ed.). New York: John Wiley & Sons 6. /wiki/Monte_Carlo_method /wiki/Monte_Carlo_integration 9.

Βιβλιογραφία Εικόνες 1. (Εικόνα εξωφύλλου) Προγράμματα – Χρήσιμα links

END Ευχαριστώ για την προσοχή σας.

EXTRA Εφαρμογές της μεθόδου Monte Carlo Στην φυσική : Στην φυσική η μέθοδος Monte Carlo χρησιμοποιήται σε πολλούς τομείς όπως για παράδειγμα στον τομέα της υπολογιστικής φυσικής, της στατιστικής φυσικής, της φυσικής υψηλών ενεργειών και της φυσικής στοιχειωδών σωματιδίων. Μερικά πιο συγκεκριμένα παραδείγματα χρήσης σε αυτούς τους τομείς είναι : σε υπολογισμούς που έχουν σχέση με την κβαντική φυσική και κυρίως την κβαντική χρωμοδυναμική (Quantum (Quasi) Monte Carlo), σε μοντελοποίηση μοριακών δυναμικών συστημάτων, στην αεροδυναμική και σε πολλούς άλλους ακόμα τομείς της φυσικής. Ένα πολύ χαρακτηριστικό παράδειγμα είναι ότι στην σωματιδιακή φυσική τα μοντέλα τα οποία χρησιμοποιούνται ως βάση για την κατασκευή επιταχυντών και ανιχνευτών είναι πολύ πολύπλοκα και εμπεριέχουν πολυδιάστατους υπολογισμούς. Έτσι αριθμητικά αποτελέσματα τα οποία είναι αναγκαία για την κατασκευή τους και σύγκριση των πειραματικών αποτελεσμάτων με τα αναμενόμενα θεωρητικά μπορούν πρακτικά να γίνουν μόνο μέσω της μεθόδου Monte Carlo. Ένα συγκεκριμένο παράδειγμα είναι το υπολογιστικό πρόγραμμα PYTHIA το οποίο προσομοιώνει γεγονότα φυσικής υψηλών ενεργειών πχ σύγκρουσης πρωτονίων αντι-πρωτονίων και χρησιμοποιήται για την πρόβλεψη και σύγκριση πειραματικών δεδομένων από ανιχνευτές σωματιδίων σε επιταχυντές με τα θεωρητικά αναμενόμενα αποτελεματα.

EXTRA Numerical integration quadratures (examples): Chebyshev–Gauss quadrature Clenshaw–Curtis quadrature Euler–Maclaurin formula Gaussian quadrature Gauss–Kronrod quadrature formula Gauss–Laguerre quadrature Newton–Cotes formulas Rectangle method Simpson's rule Trapezoidal rule

EXTRA Τα πρώτα 100 σημεία σε μια μικρής διασποράς ακολουθία Sobol.

EXTRA Τα πρώτα 1000 σημεία σε μια μικρής διασποράς ακολουθία Sobol.

EXTRA Low_discrepancy Random Τα πρώτα σημεία σε μια μικρής διασποράς ακολουθία Sobol σημεία που παρήχθησαν από μια γεννήτρια τυχαίων αριθμών.

EXTRA Η quasi random ακολουθία έχει καλύτερη κάλυψη του πεδίου μας για τον ίδιο αριθμό σημείων. Αυτό οδηγεί σε πιο ακριβή αποτελέσματα για τον ίδιο αριθμό σημείων. Ακόμα βελτιώνει την ταχύτητα σύγκλισης της μεθόδου (Quasi Monte Carlo ), τουλάχιστον θεωρητικά καθώς σε πολύπλοκα προβλήματα και προβλήματα μεγάλων διαστάσεων η ταχύτητα της μεθόδου τείνει να μειωθεί στην ταχύτητα της μεθόδου Monte Carlo.