ÐñïãíùóôéêÜ íåõñùíéêÜ äßêôõá ( Predictive Modular Neural Networks ) êáé åöáñìïãÝò óå ôáîéíüìçóç êáé ðñüãíùóç ÷ñïíïóåéñþí êáé áíáãíþñéóç äõíáìéêïý óõóôçìÜôùí.

Παρουσίαση με θέμα: "ÐñïãíùóôéêÜ íåõñùíéêÜ äßêôõá ( Predictive Modular Neural Networks ) êáé åöáñìïãÝò óå ôáîéíüìçóç êáé ðñüãíùóç ÷ñïíïóåéñþí êáé áíáãíþñéóç äõíáìéêïý óõóôçìÜôùí."— Μεταγράφημα παρουσίασης:

1 ÐñïãíùóôéêÜ íåõñùíéêÜ äßêôõá ( Predictive Modular Neural Networks ) êáé åöáñìïãÝò óå ôáîéíüìçóç êáé ðñüãíùóç ÷ñïíïóåéñþí êáé áíáãíþñéóç äõíáìéêïý óõóôçìÜôùí. Β. Πετριδης, Θ. Κεχαγιας, Β. Καμπουρλαζος, Μ. Πατερακης Εργαστηριο Αυτοματισμου και Ρομποτικης Τμημα Ηλεκτρολογων Μηχανικων Αριστοτελειο Παν. Θεσσαλονικης Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

2 Προβλήματα Χρονοσειρών Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

3 Μέθοδοι Πολλαπλων Μοντέλων Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 Οι μέθοδοι πολλαπλών μοντέλων χρησιμοποιούν πολλά μοντέλα ταυτοχρόνως. Εφαρμόζονται στην Θεωρία Ελέγχου, στην Στατιστική, στην Θεωρία Ασαφών Συνόλων, στην περιοχή των νευρωνικών δικτύων κ.α. Γενικά η ιδέα είναι να χρησιμοποιηθούν συγχρόνως πολλά μοντέλα της διεργασίας που μας ενδιαφέρει και τελικά να επιλεγεί το μοντέλο που προσεγγίζει καλύτερα την διεργασία.

4 Βασικό Προγνωστικό Νευρωνικό Δίκτυο Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 Τα Προγνωστικά Νευρωνικά Δίκτυα χρησιμοποιούν πολλαπλά μοντέλα και εφαρμόζονται σε προβλήματα χρονοσειρών. Η βασική ιδέα είναι ότι τα μοντέλα αξιολογούνται βάσει του σφάλματος πρόβλεψης της χρονοσειράς. Να προσεχθεί ότι οι συναρτήσεις αξίας υπολογίζονται αναδρομικά. Το σύστημα προσφέρεται για εφαρμογές πραγματικού χρόνου. Επίσης ο υπολογισμός γίνεται ανταγωνιστικά.

5 Σχήματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 ptpt... Decision Module 12K Prediction Modules T -1 ytyt yt1yt1 yt2yt2 ytKytK Block Diagram of PREMONN

6 Εφαρμογές σε Ταξινόμηση Χρονοσειρών Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 1. Τεχνητή εφαρμογή: αναγνώριση χαοτικών χρονοσειρών. 2. Εφαρμογή σε αναγνώριση φωνής (?). 3. Εφαρμογή σε ταξινόμηση ιατρικών χρονοσειρών.

7 Σχήματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

8 Σχήματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

9 Εφαρμογές σε Πρόβλεψη Χρονοσειρών Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 1. Εφαρμογή σε πρόβλεψη ηλεκτρικού φορτίου του Εθνικού Διασυνδεδεμένου Δικτύου. 2. Εφαρμογή σε πρόβλεψη απόδοσης τευτλοκαλλιέργειας.

10 Σχήματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

11 Εφαρμογές σε Αναγνώριση Δυναμικών Συστημάτων Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 1. Αναγνώριση παραμέτρων κινητήρα εναλλασσομένου ρεύματος. 2. Αναγνώριση παραμέτρων ρομποτικού βραχίονα. 3. Αναγνώριση παραμέτρων συστήματος επεξεργασίας λυμάτων.

12 Σχήματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

13 Πλεονεκτήματα της Μεθόδου Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 1. Αναδρομικός υπολογισμός της αξίας κάθε μοντέλου 2. Ανταγωνιστικός υπολογισμός 3. Κλιμακωτή σχεδίαση (ευκολία τμηματικών αλλαγών) 4. Μεγάλη ποικιλία μηχανισμών πρόβλεψης (γραμμικοί, νευρωνικοί, ασαφή δίκτυα κλπ.) 5. Παραλληλισμός. 6. Αντοχή σε υψηλό θόρυβο.

14 Θεωρητικά αποτελέσματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 Μπορεί να αποδειχθεί ότι ο παραπάνω αλγόριθμος συγκλίνει, με την εξής έννοια.

15 Προσαρμοστικός Προσδιορισμός Κλάσεων Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 Ενα μειονέκτημα της μεθόδου είναι ότι υποθέτουμε τις κλάσεις γνωστές εκ των προτέρων. Αυτή η υπόθεση ισχύει πολλές φορές, αλλά όχι πάντα. Σε περίπτωση που οι κλάσεις δεν είναι εκ των προτέρων γνωστές, η μέθοδος μας τροποποιείται ως εξής: σε κάθε χρονική στιγμή t υπολογίζεται η συνάρτηση αξίας και ταξινομείται η παρατήρηση y t στην κλάση η οποία έχει μεγαλύτερη αξία. Κατόπιν, χρησιμοποιούμε την y t για να επανεκπαιδεύσουμε το αντίστοιχο δίκτυο πρόβλεψης. Η μέθοδος έχει χρησιμοποιηθεί για την ταξινόμηση χαοτικών χρονοσειρών.

16 Σχήματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

17 Προσαρμοστικός Προσδιορισμός Κλάσεων: Θεωρητικά Αποτελέσματα Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97

18 Γενετική Επιλογή Κλάσεων Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 Οι Γενετικοί Αλγόριθμοι μοπρούν να θεωρηθούν ως μέθοδος πολλαπλών μοντέλων. Εχουμε χρησιμοποιήσει την παραπάνω μέθοδο υπολογισμού συναρτήσεων αξίας σε συνδυασμό με γενετικό αλγόριθμο. Δηλαδή χρησιμοποιούμε τις συναρτήσεις αξίας ως πιθανότητες επιλογής σε γενετικό αλγόριθμο. Η μέθοδος εφαρμόστηκε σε πρόβλημα ανγνώρισης παραμέτρων διεργασίας φυσικών λυμάτων.

19 Παραλλαγές του Βασικού Προγνωστικού Νευρωνικού Δικτύου Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 1. Παραλλαγές της μεθόδου επανυπολογισμού των συναρτήσεων αξίας. 2. Παραλλαγές των πολλαπλών μοντέλων. 3. Παραλλαγές της συνάρτησης σφάλματος.

20 Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97 Δημοσιευμένες Εργασίες 1. “A Multi-Model Algorithm for Parameter Estimation of Time Varying-Nonlinear Systems’’, to appear in Automatica. 1. “Predictive Modular Fuzzy Systems for Time Series Classification”. IEEE Trans. on Fuzzy Systems, vol.??, pp.??,1997. 2. “Time Series Segmentation using Predictive Modular Neural Networks”. Neural Computation, vol.??, pp.??. 3. “Short Term Load Forecasting Using a Bayesian Combination Method”. (With S. Kiartzis and A. Bakirtzis). Electrical Power and Energy Systems, Vol. 19, No.3, pp.171-177, 1997. 4. “Predictive Modular Neural Networks for Time Series lassification”. (With V. Petridis). Neural Networks, Vol.10, No.1, pp.31-49, 1997. 5. “Bayesian Classification of Hidden Markov Models”. Mathematical and Computer Modelling, Vol.23, No.5, pp.25-43, 1996. 6. “A Recurrent Network Implementation of Bayesian Time Series Classification”. Neural Computation, vol.8, pp.357-372, 1996. 7. “Modular Neural Networks for MAP Classification of Time Series and the Partition Algorithm”, IEEE Trans. on Neural Networks, Vol.7, No.1, pp.73-86, 1996.

21 Predictive Modular Neural Networks Petridis, Kehagias, Kaburlasos, Paterakis Oct97