ΣΗΜΑΤΑ ΚΑΙ ΣΥΣΤΗΜΑΤΑ II Διάλεξη 7η Στοχαστικά Σήματα - 2 Καθ. Πέτρος Π. Γρουμπός

Εισαγωγή H θεωρία που εκτέθηκε μέχρι εδώ ήταν για συστήματα που λειτουργούν σε στάσιμη κατάσταση (steady-state). Για να μοντελοποιήσουμε τα μεταβατικά φαινόμενα πρέπει να χρησιμοποιήσουμε άλλα θεωρητικά εργαλεία. Ένα από τα πιο ισχυρά και δεδομένα είναι η θεωρία των στοχαστικών σημάτων, που μας επιτρέπει να κατασκευάζουμε και σήματα με δεδομένη φασματική πυκνότητα. Επειδή η περαιτέρω ανάπτυξη βασίζεται στη θεωρία πιθανοτήτων  θα υπενθυμίσουμε αμέσως πιο κάτω τους βασικούς ορισμούς.

Συνοπτική Πιθανοθεωρία Η αντιστοίχιση γεγονότων και των πιθανοτήτων τους ορίζεται με τον αξιωματικό τρόπο που θεμελίωσε ο Kolmogorov. Ξεκινάμε από ένα δειγματικό χώρο Ω με στοιχεία ω. Κάποιες συλλογές στοιχείων αντιστοιχούν σε συγκεκριμένα γεγονότα (π.χ αποτελέσματα πειραμάτων) . Σε κάθε τέτοιο γεγονός αντιστοιχούμε μια πιθανότητα μέσω της συνάρτησης πιθανότητας Pr{..}, 1. 2. 3. 4. που υπακούει στα αξιώματα: που είναι μια πλήρως προσθετική, μη αρνητική συνάρτηση που αντιστοιχίζει συλλογές γεγονότων ω στους θετικούς πραγματικούς αριθμούς και που είναι κανονικοποιημένη έτσι ώστε να ισχύει το αξίωμα 2

Συνοπτική Πιθανοθεωρία Με βάση τα αξιώματα αυτά μπορούμε να δείξουμε ότι Μια πραγματική μη απειριζόμενη συνάρτηση x(.) που ορίζεται στον Ω λέγεται τυχαία μεταβλητή εάν για κάθε πραγματικό αριθμό h η ανισότητα x(ω) ≤ h ορίζει μια συλλογή ω της οποίας η πιθανότητα ορίζεται (δηλαδή ότι το ω είναι ένα γεγονός). Για κάθε τυχαία μεταβλητή ορίζουμε την αντίστοιχή της (αθροιστική) συνάρτηση πιθανότητας που ορίζεται για κάθε h και ικανοποιεί:

Συνοπτική Πιθανοθεωρία Για συνεχείς τυχαίες μεταβλητές ορίζουμε την αντίστοιχη κατανομή πυκνότητας πιθανότητας που ικανοποιεί τη σχέση: Υπενθυμίζουμε επίσης τις σχέσεις: Για κάθε τυχαία μεταβλητή ορίζονται οι ροπές της: H ροπή πρώτης τάξης λέγεται μέση τιμή, η ροπή δεύτερης τάξης λέγεται μεταβλητότητα, ενώ οι ροπές τρίτης και τέταρτης τάξης λέγονται λοξότητα και κυρτότητα, αντίστοιχα.

Συνοπτική Πιθανοθεωρία Επίσης ορίζονται και οι κεντρικές ροπές Γνώση όλων των ροπών (k=1,2, …) συνεπάγεται πλήρη γνώση της κατανομής. Από τις πιο γνώστες και πλατιά χρησιμοποιούμενες κατανομές είναι η κανονική (Gauss) κατανομή με πυκνότητα Μπορούμε να ορίσουμε την από κοινού κατανομή δυο ή περισσοτέρων τυχαίων μεταβλητών. Εδώ για απλότητα ασχολούμαστε με δύο μεταβλητές: Ορίζεται επίσης η ατομική κατανομή, π.χ για την x1:

Συνοπτική Πιθανοθεωρία Σημαντική εδώ είναι η από κοινού δεύτερη ροπή που αποκαλείται συμμεταβλητότητα: Σημειώνεται ότι για την (ατομική) μεταβλητότητα ισχύει: Δύο τυχαίες μεταβλητές λέγονται  ασυσχέτιστες όταν και ανεξάρτητες όταν Όταν δυο τυχαίες μεταβλητές είναι ασυσχέτιστες τότε η μεταβλητότητα του αθροίσματος τους είναι ίση με το άθροισμα των μεταβλητοτήτων τους.

Συνοπτική Πιθανοθεωρία Μια άλλη σημαντική σχέση αφορά δυο διανυσματικές τυχαίες μεταβλητές για τις οποίες ισχύει  y = g(x) . Τότε: όπου το υπονοεί την απόλυτη τιμή της Ιακωβιανής ορίζουσας. Εξαιρετική σημασία για τα περαιτέρω έχει η έννοια της υπό συνθήκη πιθανότητας. Βασική σχέση είναι αυτή του Bayes: Σε επίπεδο κατανομών μπορούμε να γράψουμε το λεγόμενο θεώρημα του Bayes:

Συνοπτική Πιθανοθεωρία Ορίζεται επίσης η υπό συνθήκη (μαθηματική) προσδοκία: για την οποία ισχύουν οι χρήσιμες σχέσεις (στοιχειώδης ιδιότητα της υπό συνθήκη προσδοκίας)

Συνοπτική Θεωρία Στοχαστικών Διαδικασιών Μια στοχαστική διαδικασία είναι μια οικογένεια τυχαίων μεταβλητών διευθετημένες με βάση κάποιον δείκτη (π.χ. χρόνος) ή γενικότερα ένα σύνολο παραμέτρων Ανάλογα με  τη διακριτή ή συνεχή φύση της τυχαίας μεταβλητής μιλάμε για διαδικασίες με διακριτό ή συνεχή χώρο καταστάσεων. Ανάλογα με τη διακριτή ή συνεχή φύση του συνολού των παραμέτρων μιλάμε για διακριτές ή συνεχείς διαδικασίες.

Συνοπτική Θεωρία Στοχαστικών Διαδικασιών Μια τέτοια διαδικασία θα έχει δυο διαστάσεις, πιθανοτική και χρονική, και μπορεί να γραφεί σαν  p{ζ,t}. Για να κατανοηθεί καλύτερα το μοντέλο αυτό μπορούμε να δούμε τις τέσσερις ερμηνείες του: Εάν “παγώσουμε” τον χρόνο και το αποτέλεσμα του πιθανοτικού πειράματος τότε έχουμε μια ντετερμινιστική σταθερή ποσότητα. Εάν προκαθορίσουμε μια τιμή για τον χρόνο t = t1  τότε έχουμε μια τυχαία μεταβλητή  p{ζ,t1}. Εάν προκαθορίσουμε το αποτέλεσμα ζ = ζ1 τότε έχουμε μια απλή συνάρτηση του χρόνου  p{ζ1,t}. Εάν ούτε το ζ ούτε το t είναι προκαθορισμένα, έχουμε μια στοχαστική διαδικασία.

Συνοπτική Θεωρία Στοχαστικών Διαδικασιών Μια βασική έννοια είναι η υλοποίηση (realization ή sample function), που σημαίνει την προσάρτηση πραγματικών (αριθμητικών) τιμών με κάθε χρονική στιγμή στην οποία ορίζεται η στοχαστική διαδικασία. Αυτό ισοδυναμεί με την περίπτωση 3, όπου όμως το αποτέλεσμα δεν προκαθορίζεται από εμάς αλλά από τη φύση. Για κάθε στοχαστική διαδικασία μπορούμε να ορίσουμε τον πιθανοτικό της νόμο. Έστω λοιπόν μια διαδικασία  {xt, t є Τ}  όπου το σύνολο Τ  μπορεί να είναι συνεχές ή διακριτό. Για κάθε πεπερασμένο σύνολο  {t1, t2, .. , tκ} є Τ , η από κοινού κατανομή πυκνότητας πιθανότητας των τυχαίων μεταβλητών (που μπορεί να είναι και διανυσματικές)   xt1, xt2 , .. , xtk αποκαλείται κατανομή πεπερασμένων διαστάσεων της διαδικασίας.

Συνοπτική Θεωρία Στοχαστικών Διαδικασιών Η κατανομή αυτή μπορεί να χαρακτηρίσει πλήρως τη διαδικασία και όλες οι ερωτήσεις σχετικές με πιθανότητες μπορούν να απαντηθούν μέσω αυτής. Στην πράξη, για απλότητα , χρησιμοποιούμε κατανομές πρώτης ή δεύτερης τάξης  (k ≤ 2). Αξίζει να σημειωθεί ότι η πιθανοκατανομή πρώτης τάξης  f(xt)  είναι συνάρτηση του t  ενώ η πιθανοκατανομή δεύτερης τάξης  f(xt, xτ)  είναι συνάρτηση του t και τ Επίσης, είναι δυνατό να ορίσουμε την υπό συνθήκη πυκνότητα: Δεδομένου ότι έχουμε στα χέρια μας μια πιθανοκατανομή που ορίζει τη στοχαστική διαδικασία , μπορούμε να ορίσουμε και ροπές της διαδικασίας αυτής με εντελώς παρόμοιο τρόπο όπως και πριν.

Συνοπτική Θεωρία Στοχαστικών Διαδικασιών Η μέση τιμή της (διανυσματικής) διαδικασίας είναι: ενώ η δεύτερη ροπή είναι: Μπορούμε να ορίσουμε και τη διαμεταβλητότητα  μεταξύ δυο στοχαστικών διαδικασιών x και y: