Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων 1 Αναγνώριση Προτύπων- Τεχνητά Νευρωνικά Δίκτυα Καθ. Γιώργος Παπαδουράκης, Ph.D.

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 2 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Ορισμός Η αναγνώριση προτύπων (pattern recognition) είναι ο επιστημονικός κλάδος που ασχολείται με την περιγραφή και κατάταξη αντικειμένων σε ένα αριθμό κατηγοριών. Τα υπό κατάταξη αντικείμενα καλούνται πρότυπα (patterns) Ένα πρότυπο είναι η περιγραφή ενός αντικειμένου. Δύο κατηγορίες αναγνώρισης προτύπων: Σαφή πρότυπα (concrete items) χαρακτήρες, εικόνες, αντικείμενα, ήχους Αφηρημένα πρότυπα λύση ενός μαθηματικού προβλήματος ή ενός φιλοσοφικού επιχειρήματος. Αναγνώριση σαφών προτύπων Ταξινόμηση προτύπων στο χώρο (spatial patterns) Τυπωμένοι χαρακτήρες, άνθρωποι, δακτυλικά αποτυπώματα, εικόνες, χάρτες καιρού Ταξινόμηση προτύπων στο χρόνο (temporal patterns) χρονοσειρές όπως είναι ακουστικές κυματομορφές, ηλεκτροεγκεφαλογραφήματα και σήματα ραντάρ.

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 3 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Ορισμός

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 4 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Εφαρμογές Αναγνώριση ομιλίας: Ήδη πολλά λειτουργικά συστήματα για προσωπικούς υπολογιστές, OS/2 της IBM, διαθέτουν ενσωματωμένο τμήμα αναγνώρισης ομιλίας. Μικρόφωνο θα είναι σημαντικό εξάρτημα Επικοινωνία ανθρώπου με υπολογιστή (Human Computer Interaction) Αναγνώριση οπτικών χαρακτήρων (Optical Character Recognition - OCR) Δίνει στον υπολογιστή τη δυνατότητα να καταλάβει τυπωμένο κείμενο. Σαρωτής, βιντεοκάμερα: εισάγουν εικόνα στον υπολογιστή Μετατροπή εικόνας σε κατάλληλη μορφή, ASCII. Παράδειγμα: αναγνώριση αριθμών κυκλοφορίας αυτοκινήτων. Αναγνώριση χειρόγραφων κειμένων: σύνθετο και πολύπλοκο πρόβλημα απλουστευμένη μορφή, χρήση ειδικής γραφίδας, (σύγχρονα σημειωματάρια) Ταυτοποίηση ατόμων:αναγνώριση ατόμων κυρίως σε εφαρμογές ασφάλειας δακτυλικά αποτυπώματα, σχήματα ίριδας, χαρακτηριστικά φωνής και τρόπο γραφής

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 5 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Εφαρμογές Ιατρική διάγνωση: Χρησιμοποιείται ως βοηθητικό εργαλείο σε πολλούς ιατρικούς κλάδους. αυτοματοποιημένη ανάλυση ιατρικής εικόνας ακτινογραφία, αξονικής τομογραφία, υπερηχογράφημα κλπ. Ταξινόμηση εγκεφαλογραφημάτων, καρδιογραφημάτων και την ανίχνευση γενετικών ανωμαλιών σε χρωμοσώματα. Γεωγραφικά συστήματα πληροφοριών (Geographical Integration Systems - GIS) Αυτοματοποιημένη ανάλυση δορυφορικής φωτογραφίας: ανίχνευση ασθενειών σε καλλιέργειες, ίχνη αρχαίων οικισμών, των χρήσεων γης, την κατάρτιση του κτηματολογίου, την κατάσταση της ατμόσφαιρας, ορυκτολογικές έρευνες. Βιομηχανικές εφαρμογές: Σε συστήματα αυτομάτου ελέγχου παραγωγής, έλεγχος ποιότητας βιομηχανία κατασκευής πλακετών, έλεγχος ποιότητας της πλακέτας. Χρηματοοικονομικές Εφαρμογές: εύρεση ύποπτων συναλλαγών με πιστωτικές κάρτες, ταξινόμηση αιτήσεων προς δανειοδότηση, διαχείριση αποθεμάτων, πρόβλεψη τιμών μετοχών. Εξόρυξη δεδομένων (data mining): Εξόρυξη δεδομένων από μεγάλες βάσεις δεδομένων, μηχανές αναζήτησης

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 6 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Μεθοδολογίες Αναγνώρισης Προτύπων Δύο μεθοδολογίες αναγνώρισης προτύπων Στατιστική αναγνώριση προτύπων (statistical pattern recognition) Συντακτική ή δομημένη αναγνώριση προτύπων (syntactic or structural pattern recognition) Στατιστική αναγνώριση προτύπων: στατιστική βάση για την ταξινόμηση των αντικειμένων. Εξαγωγή χαρακτηριστικών γνωρισμάτων Δημιουργία διανύσματος χαρακτηριστικών στοιχείων μαθηματικές - στατιστικές μέθοδοι, γραμμική άλγεβρα, θεωρία πιθανοτήτων. Συντακτική αναγνώριση προτύπων: δομημένη πληροφορία στα χαρακτηριστικά στοιχεία ενός αντικειμένου. Δημιουργία πολύπλοκων ιεραρχικών περιγραφών. δέντρα αποφάσεων (decision trees), λογικοί κανόνες, γραμματικές. Τελικό αποτέλεσμα: μια σειρά κανόνων που περιγράφουν πλήρως τη διαδικασία ταξινόμησης ή μια γραμματική που περιγράφει πλήρως το αντικείμενο.

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 7 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Μεθοδολογίες Αναγνώρισης Προτύπων Συντακτικές μεθοδολογίες: πολύπλοκες και πολύ ευαίσθητες στην παρουσία θορύβου σε μικρές παραλλαγές των προτύπων ή ελλιπείς πληροφορίες. Σε εφαρμογές που δεν μπορεί να χρησιμοποιηθεί στατιστική αναγνώριση Δεν είναι πάντα εύκολο να οριστούν πλήρως και χωρίς αμφιβολία τα πρότυπα του προβλήματος. Λογικοί κανόνες για διαχωρισμό δέντρων;

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 8 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Μεθοδολογίες Αναγνώρισης Προτύπων Στατιστική αναγνώριση προτύπων: ισχυρά θεμελιωμένη μαθηματικά. Ο αριθμός και η σειρά στο διάνυσμα των χαρακτηριστικών στοιχείων ενός προτύπου είναι πάντα σταθερός Συντακτική αναγνώριση προτύπων: βασισμένη σε λογικούς και διαισθητικούς κανόνες. Ο αριθμός και η σειρά των χαρακτηριστικών στοιχείων μεταβάλλονται από πρότυπο σε πρότυπο. Θα εξετάσουμε στατιστική αναγνώριση προτύπων

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 9 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Ιστορική Αναδρομή Βάσεις της αναγνώρισης προτύπων: Πλάτωνας και Αριστοτέλης: πρώτοι έκαναν διάκριση μεταξύ της ουσιώδους ιδιότητας (μοιράζονται μεταξύ τους τα μέλη μιας κατηγορίας) επουσιώδους ιδιότητας (διαφορές στα μέλη) Αναγνώριση Προτύπων: διαδικασία που βρίσκει τέτοιες ουσιώδεις ιδιότητες μέσα σε μια κατηγορία αντικειμένων. Αριστοτέλης: κατασκεύασε σύστημα ταξινόμησης ζώων χωρίζοντας σε αυτά που έχουν κόκκινο αίμα (σπονδυλωτά) και σε αυτά που δεν έχουν (ασπονδύλωτα). Κατόπιν χώρισε τις δύο ομάδες σε μικρότερες Θεόφραστος έκανε μια ανάλογη ταξινόμηση των φυτών. Η ταξινόμηση ήταν πολύ καλή 18ο αιώνα Carolus Linnaeus κατασκεύασε συστηματικές ταξινομήσεις ζώων, φυτών, πετρωμάτων και ασθενειών χρησιμοποιώντας νέες γνώσεις. Hertzprung, Russell: ταξινόμησαν τα άστρα σε κατηγορίες δύο μεταβλητές: λαμπρότητα, θερμοκρασία. πρώτη συστηματική προσπάθεια για μαθηματική μορφοποίηση Fisher, Εδώ και 2 δεκαετίες ανεξάρτητη επιστήμη.

Τεχνολογικό Εκπαιδευτικό Ίδρυμα Κρήτης Τμήμα Εφηρμοσμένης Πληροφορικής και Πολυμέσων Εργαστήριο Νευρωνικών Δικτύων Slide 10 ΒΑΣΙΚΕΣ ΑΡΧΕΣ ΤΗΣ ΑΝΑΓΝΩΡΙΣΗ ΠΡΟΤΥΠΩΝ Ιστορική Αναδρομή Αναγνώριση Προτύπων σε επιστημονικές περιοχές Στατιστική Μηχανική Μάθηση Τεχνητά Νευρωνικά Δίκτυα Υπολογιστική Όραση (Computer Vision) Αναγνώριση Φωνής (Speech recognition) Γνωσιολογική Επιστήμη (Cognitive Science) Ψυχοβιολογία (Psychobiology) Νευροεπιστήμη (Neuroscience) μελετούν μηχανισμούς αναγνώρισης προτύπων των ανθρώπων και των ζώων. υπάρχουν δεκάδες επιστημονικά περιοδικά, εκατοντάδες βιβλία και πρακτικά συνεδρίων πάνω σε τομείς της Αναγνώρισης Προτύπων.