ΗΥ430 ΨΗΦΙΑΚΕΣ ΕΠΙΚΟΙΝΩΝΙΕΣ Στοχαστικες Διαδικασιες (σ.δ.) Random Processes (r.p.)

Εισαγωγη Για την περιγραφη των φυσικων φαινομενων χρησιμοποιουμε συνηθως τα μαθηματικά μοντέλα. Τα μοντελα αυτα ειναι: Αιτιοκρατικα (deterministic) αν ξερουμε πληρως την χρονικη τους εξελιξη Στοχαστικα (stochastic or random) αν η χρονικη εξελιξη τους ειναι αγνωστη Στα Τηλεπικοινωνιακα συστηματα το λαμβανομενο σημα αποτελειται απο τρια σηματα που θεωρουνται τυχαια Το σημα που μεταφερει την πληροφορια (π.χ. Φωνη, video, data…) Ενα σημα παρεμβολης που οφειλεται: Στην επιδραση απο αλλα γειτονικα συστηματα Στον ατμοσφαιρικο ή κοσμικο θορυβο (κυριως στις ασυρματες επικοινωνιες) Το σημα Θερμικου Θορυβου που οφειλεται στην τυχαια κινηση των ηλεκτρονιων στους αγωγους και τα εξαρτηματα στην εισοδο του δεκτη. Μολονοτι δεν μπορουμε να προβλεψουμε την χρονικη εξελιξη τους μπορουμε να τα περιγραψουμε εν μερει με τις στατιστικες τους ιδιοτητες οπως την μεση τιμη ή την πυκνοτητα φασματικης ισχυος.

Μαθηματικος ορισμος της Στοχαστικης Διαδικασιας Μαθηματικος ορισμος της Στοχαστικης Διαδικασιας Θεωρουμε τυχαιο πειραμα (S, B, P) καθοριζομενο απο τα αποτελεσματα s απο ενα χωρο δειγματων S, απο τα γεγονοτα {Α S και ΑΒ} και τις πιθανοτητες αυτων των γεγονοτων Ρ(Α). Τυχαια μεταβλητη Στοχαστικη Διαδικασια X(s) X(t,s)=X(t) x(t,s2) = x2(t) s1 s2 x2(t1) s1 s2 s3 t t1 x(t,s1) = x1(t) x1(t1) x(s1)= x1 x2 x3 s3 t x(t,s3) = x3(t) x3(t1) X: S Χωρος Δειγματων t Συναρτηση Δειγμα

Τροποι θεωρησης των στοχαστικων διαδικασιων (Random Processes –rp) Υπαρχουν δυο τροποι θεωρησης των στοχαστικων διαδικασιων (σ.δ.) Συλλογη συναρτησεων δειγματων Συλλογη τυχαιων μεταβλητων Η σ.δ. θεωρειται σαν μια συλλογη απο συναρτησεις του χρονου (ή σηματα) που αντιστοιχουν στα αποτελεσματα ενος τυχαιου πειραματος. Η συναρτηση x(t) = X(t,s0) που αντιστοιχει στο αποτελεσμα s0 ονομαζεται συναρτηση- δειγμα (sample function) ή πραγματοποιηση (realization) της στοχαστικης διαδικασιας Για καθε χρονικη στιγμη t0 οι αριθμοι x(t0) = X(t0,si) αποτελουν τις τιμες της τυχαιας μεταβλητης Χ(t0) = Χ(t0,s)

Η σ.δ. ως συλλογη συναρτησεων Το συνολο των συναρτησεων δειγματων ονομαζεται ensemble t0

Η rp ως συλλογη τυχαιων μεταβλητων Ενα στοχαστικο σημα (μελος του ensemble) μπορει επισης να θεωρηθει ως μια δεικτοδοτημενη (indexed) συλλογη τυχαιων μεταβλητων για t {X(t), tR} Οι τυχαιες μεταβλητες δεικτοδοτουνται με ενα συνολο δεικτων που μπορει να ειναι Το συνολο των πραγματικων αριθμων (R) οποτε εχουμε σ.δ. συνεχους χρονου, ή Το συνολο των ακεραιων ( Ζ ) οποτε εχουμε σ.δ διακριτου χρονου. Στην περιπτωση αυτη η σ.δ. ονομαζεται και τυχαια ακολουθια

Μαθηματικος ορισμος της Στοχαστικης Διαδικασιας (2) Μαθηματικος ορισμος της Στοχαστικης Διαδικασιας (2) Ορισμος: Η στοχαστικη διαδικασια X(t,s) = X(t) ειναι ενα συνολο συναρτησεων του χρονου με ενα μετρο πιθανοτητας το οποιο δινει την πιθανοτητα σε καθε «λογικο» γεγονος που συσχετιζεται με την παρατηρηση μιας συναρτησεως-δειγματος. Παραδειγμα: Εστω S ={1,2,3,4,5,6} και X(t,s) = s e-t για t > 0. 3 x(t,3)=x(t)=3 e-t t

Περιγραφη σ.δ Χ(t) Πληρης στατιστικη περιγραφη: για καθε n και καθε επιλογη χρονων (t1, t2 ,…, tn)n η απο κοινου pdf των (Χ(t1), X(t2),…,X(tn)) δηλαδη η ειναι γνωστη Περιγραφη με στατιστικες παραμετρους Μης ταξεως: αν τα πιο πανω ισχυουν για καθε n  Μ. Μια σπουδαια ειδικη περιπτωση εχουμε για Μ=2 (περιγραφη με ορους δευτερας ταξεως) οποτε χρειαζεται μονον η pdf της X(t) t και η απο κοινου pdf των (X(t1),X(t2)),  t1, t2

Στατικες Διαδικασιες Οι σ. δ. διακρινονται σε: ΜΗ-στατικες αν οι στατιστικες ιδιοτητες τους αλλαζουν με τον χρονο, και σε Στατικες αν παραμενουν χρονικα σταθερες. Οι στατικες διαδικασιες διακρινονται σε 1. Αυστηρα στατικες (strictly stationary) αν για καθε k, καθε διανυσμα (t1, t2 ,…, tk)k και καθε χρονικη μετατοπιση τ ισχυει η σχεση: FX(t1+τ),...X(tk+τ)(x1,x2,…,xk) = FX(t1),...X(tk)(x1,x2,…,xk) Για k=1 εχουμε FX(t+τ)(x) = FX(t)(x) = FX(x) δηλ ανεξαρτητη του χρονου Για k=2 εχουμε FX(t1)Χ(t2)(x1,x2) = FX(0)Χ(t2 – t1)(x1,x2) για καθε t1 και t2 δηλ. εξαρταται μονο απο την διαφορα t2 - t1 2. Στατικες με την ευρεια εννοια (wide-sense stationary) αν μονο η μεση τιμη και η συναρτηση αυτοσυσχετισης δεν μεταβαλλονται με τον χρονο

Συναρτησεις μεσης τιμης αυτοσυσχετισης και μεταβλητοτητας Η συναρτηση μεσης τιμης ειναι η Για στατικες διαδικασιες ειναι mX(t) = mX για t H συναρτηση αυτοσυσχετισης ειναι η αναμενομενη τιμη του γινομενου των δυο τυχαιων μεταβλητων X(t1) και Χ(t2). Για στατικες διαδικασιες η συναρτηση αυτοσυσχετισης εξαρταται μονο απο την διαφορα μεταξυ των χρονων t1 και t2 δηλαδη για καθε t1 και t2 Η συναρτηση αυτομεταβλητοτητας οριζεται αναλογα

Ιδιοτητες της συναρτησης αυτοσυσχετισης Συνηθης συμβολισμος: RX(τ) = E[X(t+τ)X(t)] Η μεση τετραγωνικη τιμη (ισχυς) ισουται προς την RX(0)=E[X2(t)] H RX(τ) ειναι αρτια συναρτηση του τ: RX(-τ) = RX(τ) Η RX(τ) εχει μεγιστη τιμη για τ=0 δηλ. RX(τ)  RX(0) Παραδειγμα: Θεωρουμε ημιτονοειδες σημα με τυχαια φαση: Χ(t)=Acos(2πft+φ) οπου Α,f σταθερες και φ τυχαια μεταβλητη ομοιομορφα κατανεμημενη στο διαστημα [-π, π]. Η μεση τιμη ειναι 0 και η συναρτηση αυτοσυσχετισης RX(τ) =(Α2/2)cos(2πfτ)

Εργοδικες διαδικασιες Για μια στατικη σ.δ. μπορούμε να ορισουμε δυο τυπους μεσης τιμης παραμετρων. Παρατηρουμε πολλες συναρτησεις - δειγματα της σ.δ και παιρνουμε την μεση τιμη σε δεδομενη χρονικη στιγμη t0 (στατιστικα μεση τιμη). Βρισκουμε την μεση τιμη μιας συναρτησης-δειγματος (χρονικα μεση τιμη) Αν οι στατιστικα και χρονικα μεσες τιμες συμπιπτουν η σ.δ. ονομαζεται εργοδικη Για μια εργοδικη σ.δ. αρκει να εχουμε μια συναρτηση δειγμα για να βρουμε την μεση τιμη της κ.λ.π.

Εργοδικες Διαδικασιες (συνεχ.) Μια στατικη σ. δ. λεγεται Εργοδικη αν οι στατιστικα μεσες τιμες συμπιπτουν με τις χρονικα μεσες τιμες. Ας παρατηρησουμε το δειγμα x(t) μιας σ. δ. X(t) επι χρονο -Τ t  T. Η μεση τιμη (ή τιμη συνεχους συνιστωσας – DC value) της x(t) βρισκεται απο την σχεση: Προφανως η mX(T) ειναι μια τυχαια μεταβλητη γιατι η τιμη της εξαρταται απο το Τ και το δειγμα x(t). Επειδη η Χ(t) ειναι στατικη εχουμε: Η σ.δ. Χ(t) λεγεται εργοδικη ως προς την μεση τιμη ανν: και

Εργοδικες Διαδικασιες (συνεχ.) Για την συναρτηση-δειγμα x(t) της σ.δ. X(t) μπορουμε να υπολογισουμε την χρονικα μεση συναρτηση αυτοσυσχετισης στο διαστημα -Τ t T, ως εξης: Η RX(τ,T) ειναι επισης τυχαια μεταβλητη. Η X(t) ειναι εργοδικη ως προς την συναρτηση αυτοσυσχετισης ανν: και Συνηθως θεωρουμε οτι οι στοχαστικες διαδικασιες ειναι τουλαχιστον εργοδικες ως προς την συναρτηση αυτοσυσχετισης. ΕΡΓΟΔΙΚΟΤΗΤΑ  ΣΤΑΤΙΚΟΤΗΤΑ

Πολλαπλες σ.δ. Στα τηλεπικοινωνιακα συστηματα η εισοδος και η εξοδος ενος συστηματος μπορει να ειναι σ.δ. που οριζονται στον ιδιο χωρο πιθανοτητων. Ετσι χρειαζεται να ορισουμε την ανεξαρτησια ή την αλληλο-συσχετιση 2 ή περισσοτερων σ.δ. Επισης μπορουμε να ορισουμε την απο κοινου στατικοτητα Για παραδειγμα, εστω Χ(t) μια σ.δ. που διερχεται μεσα απο ενα γραμμικο χρονικα αμεταβλητο συστημα (LTI). Για καθε δυνατη εισοδο (συναρτηση δειγμα) x(t) υπαρχει μια αντιστοιχη εξοδος y(t) = x(t)*h(t) οπου h(t) ειναι η κρουστικη αποκριση του γραμμικου συστηματος. Τα δυο σηματα x(t) και y(t) ειναι συναρτησεις δειγματα δυο σ.δ. X(t) και Y(t) που οριζονται στον ιδιο χωρο πιθανοτητων

Ανεξαρτησια και συσχετιση Ειναι φυσικο να προσπαθησουμε να διερευνησουμε την εξάρτηση μεταξυ των σ.δ. εισοδου και εξοδου. ΟΡΙΣΜΟΣ: Δυο σ.δ. X(t) και Y(t) είναι ανεξαρτητες αν για όλα τα ζευγη t1 και t2, οι τυχαιες μεταβλητες Χ(t1) και Y(t2) είναι ανεξαρτητες. Ομοιως οριζονται και οι ασυσχετιστες σ.δ. Υπενθυμηση: Οι τυχαιες μεταβλητες Χ και Υ είναι ανεξαρτητες αν fXY(x,y) = fX(x)fY(y), και ασυσχετιστες αν COV(X,Y) =Ε[ΧΥ]-mXmY = 0 Παρατηρηση: αν οι Χ και Υ είναι ανεξαρτητες τοτε είναι και ασυσχετιστες δηλαδη εχουν COV(X,Y) =0. To αντιστροφο δεν ισχυει εν γενει παρα μονο για Gaussian r.v

Από κοινου στατικοτητα ΟΡΙΣΜΟΣ: Η συναρτηση αλληλοσυσχετισης μεταξυ δυο σ.δ. X(t) και Y(t) οριζεται ως εξης: RXY(t1,t2) = E[X(t1 )Y(t2 )] Ισχυει: RXY(t1,t2) = RΥΧ(t2,t1) ΟΡΙΣΜΟΣ: Δυο σ.δ. X(t) και Y(t) είναι από κοινου στατικες αν και οι δυο οι X(t) και Y(t) είναι στατικες και η συναρτηση αλληλοσυσχετισης RXY(t1,t2) εξαρταται μονον από την διαφορα τ=t1-t2, δηλαδη RXY(t1,t2) = RXY(t1-t2)

Διελευση στοχαστικης διαδικασιας μεσα απο γραμμικα χρονικα αμεταβλητα συστηματα X(t) Y(t) Συνελικτικο ολοκληρωμα δ(t) h(t) Κρουστικη Αποκριση h(t) Συνηθως υποθετουμε ότι η X(t) είναι στατικη. Μας ενδιαφερουν τα πιο κατω θεματα: Κατω από ποιες συνθηκες είναι στατικη η εξοδος Υ(t)?? Κατω από ποιες συνθηκες είναι από κοινου στατικες η εισοδος και η εξοδος? Ποια είναι η μεση τιμη και η αυτοσυσχετιση της εξοδου? Ποια είναι η αλληλοσυσχετιση μεταξυ εισοδου και εξοδου?

Διελευση στοχαστικης διαδικασιας μεσα απο γραμμικα χρονικα αμεταβλητα συστηματα (συνεχ.) X(t) Y(t) Συνελικτικο ολοκληρωμα δ(t) h(t) Μεση τιμη της Υ(t) ειναι η mY(t) Αν η X(t) ειναι στατικη τοτε οπου Η(0) η αποκριση συνεχους του συστηματος Η συναρτηση αυτοσυσχετισης της Υ(t) ειναι: Αν η Χ(t) ειναι στατικη τοτε εχουμε Κρουστικη Αποκριση h(t)

Οι από κοινου στατιστικες ιδιοτητες Θεωρημα: Αν μια στατικη σ.δ. X(t) με μεση τιμη mX και συναρτηση αυτοσυσχετισης RX(τ) διερχεται μεσα από ένα γραμμικο χρονικα αμεταβλητο συστημα (LTI) με κρουστικη αποκριση h(t), οι σ.δ. εισοδου και εξοδου X(t) και Y(t) είναι από κοινου στατικες με

Πυκνοτητα Φασματικης Ισχυος Πυκνοτητα Φασματικης Ισχυος Η κρουστικη αποκριση h(t) και η συναρτηση μεταφορας Η(f) ενος LTI συστηματος αποτελουν ζευγος μετασχηματισμου Fourier, δηλ. Αντικαθιστωντας σε προηγουμενη σχεση βρισκουμε μετα απο πραξεις: Το ολοκληρωμα στο δεξιο μερος της πιο πανω εξισωσης ειναι ο μετ/μος Fourier της RX(τ), ονομαζεται πυκνοτητα φασματικης ισχυος και συμβολιζεται με SX(f), δηλ.: οποτε εχουμε: Η μεση τετραγωνικη τιμη της εξοδου ενος LTI φιλτρου, οταν στην εισοδο του εχουμε μια στατικη σ.δ., ισουται με το ολοκληρωμα της πυκνοτητας φασματικης ισχυος της εισοδου πολ/μενης με το τετραγωνο της συναρτησης μεταφορας πλατους του φιλτρου

Γιατι ονομαζουμε την SY(f) πυκνοτητα φασματικης ισχυος? Θεωρουμε οτι η σ.δ. X(t) διερχεται μεσα απο ενα ιδανικο ζωνοδιαβατο φιλτρο με συναρτηση μεταφορας πλατους: Δf ειναι το ευρος και fc η κεντρικη συχνοτητα της ζωνης δαβασεως. Απο την σχεση και για μικρο Δf εχουμε: Ε[Υ2(t)]=(2Δf)SX(fc) Ισχυς σηματος στην Ισχυς της X(t) μεσα στην ζωνη διαβασης εξοδο του φιλτρου  Η SX(fc) ειναι πυκνοτητα φασματικης ισχυος της Χ(t) γυρω απο την fc 1.0 |H(f)| Δf f -fc fc

Ιδιοτητες της πυκνοτητας φασματικης ισχυος (PSD) Η πυκνοτητα φασματικης ισχυος SX(f) και η αυτοσυσχετιση RX(τ) αποτελουν ζευγος μετ/σμου Fourier, δηλαδη: και Eξισωσεις Wiener-Khintchine Ιδιοτητες της PSD: 2. 3. SX(f)  0 4. SX(-f) = SX(f) LTI h(t) H(f) X(t) Y(t) SX(f) SY(f) = |H(f)|2 SX(f)

H GAUSSIAN Διαδικασια Ορισμος 1 Μια σ.δ. X(t) ειναι Gaussian αν n και για ολα τα δυνατα (t1,t2,…,tn) οι τυχαιες μεταβλητες (X(t1), X(t2),…,X(tn)) εχουν απο κοινου Gaussian πυκνοτητα πιθανοτητας, δηλ. Οπου Μια Gaussian διαδικασια περιγραφεται πληρως με την μεση τιμη της και την συναρτηση αυτοσυσχετισης ή PSD. Πραγματι η fX(t1),...X(tk)(x1,x2,…,xk) εξαρταται μονο απο την mX(t) και την RX(t1,t2). Αν η Gaussian σ.δ. είναι στατικη με την ευρεια έννοια, δηλαδη αν RX(t1,t2)= RX(t1-t2), τοτε είναι στατικη και με την στενη εννοια.

H GAUSSIAN Διαδικασια (2) Θεωρουμε μια διαδικασια X(t) την ποια παρατηρουμε στο [0,T]. Οριζουμε το γραμμικο συναρτησιοειδες (linear functional) Y: οπου g(t) ειναι συναρτηση τετοια ωστε η μεση τετραγωνικη τιμη της Υ να ειναι πεπερασμενη. Η Υ ειναι r.v. Ορισμος 2 Η Χ(t) ειναι Gaussian αν για καθε g(t) και καθε Τ η Υ ειναι Gaussian τυχαια μεταβλητη. Χρησιμοτητα της Gaussian διαδικασιας Επιτρεπει αναλυτικους υπολογισμους Ειναι το καταλληλο μοντελο για πολλες φυσικες στοχαστκες διαδικασιες (κεντρικο οριακο θεωρημα) Διερχομενη μεσα απο LTI συστηματα παραμενει Gaussian

Ιδιοτητες της Gaussian διαδικασιας Αν μια Gaussian διαδικασια Χ(t) περασει μεσα απο ενα LTI συστημα τοτε η διαδικασια εξοδου Y(t) ειναι επισης Gaussian. Για την Gaussian σ.δ. : Αυστηρη στατικοτητα  στατικοτητα με την ευρεια εννοια Για απο κοινου Gaussian σ.δ. X(t) και Y(t) : Cov[Χ(t) Y(t)] = 0  οι X(t) και Y(t) ειναι στατιστικα ανεξαρτητες Μια στατικη Gaussian σ.δ. ειναι εργοδικη αν  |RX(τ)|dτ <  Ορισμος: οι Χ(t) και Y(t) ειναι απο κοινου Gaussian αν για καθε n και m και ολα τα (t1,…,tn) και (τ1,...,τm) οι τ.μ. [Χ(t1),…,X(tn), Y(τ1),...,Υ(τm)] ειναι απο κοινου Gaussian Y(t)=h(t)*X(t) X(t) h(t) H(f) mY=mXH(0) mX RX(τ)SX(f) RY(τ)SY(f)=|H(f)|2 SX(f)

«Λευκες» στοχ. Διαδικασιες White Processes Oρισμος: Μια σ.δ. X(t) λεγεται «λευκη» (white) αν η πυκνοτητα φασματικης ισχυος εχει σταθερη τιμη SX(f) = σταθ. f. O θερμικος θορυβος ειναι λευκος Πολλες σ.δ. που παριστανουν σηματα πληροφοριας μπορουν να θεωρηθουν σαν εξοδοι LTI συστηματων με εισοδο λευκο θορυβο. Ο θερμικος θορυβος εχει PSD k η σταθερα Boltzmann και Τ η θερμοκρασια σε Kelvin Για Τ=3000 Κ η Sn(f)=kT/2= =2 10-18mW/Hz για f <2 THz Sn(f) kT/2 2 THz

«Λευκες» στοχ. Διαδικασιες Συνηθως θεωρουμε οτι ο λευκος θορυβος Ν(t) εχει PSD Sn(f)=N0/2. H συναρτηση αυτοσυσχετισης ειναι Rn(τ)=F-1[N0/2]=[N0/2]δ(τ). Αρα για t1  t2 ειναι Ε[N(t1) N(t2)] = 0, δηλ. οι N(t1) και N(t2) ειναι ασυσχετιστες. Αν επιπλεον o N(t) ειναι Gaussian τοτε οι N(t1) και N(t2) ειναι και ανεξαρτητες. Συνηθεις παραδοχες για τον θορυβο στο καναλι μεταδοσης Προσθετικος (additive) } Λευκος (white) } AWGN Gaussian } Εργοδικος Μηδενικης μεσης τιμης Με Sn(f)=N0/2. O λευκος θορυβος εχει απειρη ισχυ Ε[Ν2(t)]=- (N0/2)df =  (!!??) δεν υπαρχει στην φυση, αλλα προσεγγιζεται με αρκετη ακριβεια