Η παρουσίαση φορτώνεται. Παρακαλείστε να περιμένετε

Η παρουσίαση φορτώνεται. Παρακαλείστε να περιμένετε

ΚΕΦΑΛΑΙΟ 16 ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ. ΕΙΣΑΓΩΓΗ Ορισμός Τεχνητής Νοημοσύνης Με τον όρο αυτόν εννοείται η προσπάθεια ενσωμάτωσης και προσομοίωσης σε ένα υπολογιστικό.

Παρόμοιες παρουσιάσεις


Παρουσίαση με θέμα: "ΚΕΦΑΛΑΙΟ 16 ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ. ΕΙΣΑΓΩΓΗ Ορισμός Τεχνητής Νοημοσύνης Με τον όρο αυτόν εννοείται η προσπάθεια ενσωμάτωσης και προσομοίωσης σε ένα υπολογιστικό."— Μεταγράφημα παρουσίασης:

1 ΚΕΦΑΛΑΙΟ 16 ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ

2 ΕΙΣΑΓΩΓΗ Ορισμός Τεχνητής Νοημοσύνης Με τον όρο αυτόν εννοείται η προσπάθεια ενσωμάτωσης και προσομοίωσης σε ένα υπολογιστικό σύστημα των βασικών χαρακτηριστικών της ανθρώπινης σκέψης για να επιλυθούν πρακτικά προβλήματα Με τον όρο αυτόν εννοείται η προσπάθεια ενσωμάτωσης και προσομοίωσης σε ένα υπολογιστικό σύστημα των βασικών χαρακτηριστικών της ανθρώπινης σκέψης για να επιλυθούν πρακτικά προβλήματα. Είδη Τεχνητής Νοημοσύνης Λογική της Ασάφειας (Fuzzy Logic) Λογική της Ασάφειας (Fuzzy Logic) Νευρωνικά Δίκτυα (Neural Networks) Νευρωνικά Δίκτυα (Neural Networks) Έμπειρα Συστήματα (Expert Systems) Έμπειρα Συστήματα (Expert Systems) Γενετικοί Αλγόριθμοι (Genetic Algorithms) Γενετικοί Αλγόριθμοι (Genetic Algorithms) Νευρωνικά Δίκτυα Ένα νευρωνικό δίκτυο αποτελεί προσομοίωση του βιολογικού εγκεφάλου με στόχο να μαθαίνει να αναγνωρίζει μαθηματικά πρότυπα σε συγκεκριμένα δεδομένα Ένα νευρωνικό δίκτυο αποτελεί προσομοίωση του βιολογικού εγκεφάλου με στόχο να μαθαίνει να αναγνωρίζει μαθηματικά πρότυπα σε συγκεκριμένα δεδομένα.

3 ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ ΚΑΙ ΑΝΑΛΥΣΗ ΧΩΡΟΥ Η απουσία νοημοσύνης από την ανάλυση χώρου προκαλεί μια σειρά από προβλήματα, όπως: Επιβάλλει τεχνητή ακρίβεια σε ουσιαστικά ανακριβείς πληροφορίες, χωρικά φαινόμενα και διαδικασίες. Επιβάλλει τεχνητή ακρίβεια σε ουσιαστικά ανακριβείς πληροφορίες, χωρικά φαινόμενα και διαδικασίες. Αποτυγχάνει να γνωστοποιήσει στους χρήστες το μέγεθος της ανακρίβειας και του σφάλματος. Αποτυγχάνει να γνωστοποιήσει στους χρήστες το μέγεθος της ανακρίβειας και του σφάλματος. Είναι ακατάλληλη να μοντελοποιήσει την ανθρώπινη αντίληψη και το συλλογισμό που εμπεριέχουν αβεβαιότητα. Είναι ακατάλληλη να μοντελοποιήσει την ανθρώπινη αντίληψη και το συλλογισμό που εμπεριέχουν αβεβαιότητα. Είναι ασύμβατη με τις φυσικές γλώσσες, που είναι από τη φύση τους ανακριβείς Είναι ασύμβατη με τις φυσικές γλώσσες, που είναι από τη φύση τους ανακριβείς

4 ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ ΚΑΙ ΑΝΑΛΥΣΗ ΧΩΡΟΥ H χρήση μεθόδων υπολογιστικής νοημοσύνης μπορεί να εφαρμοστεί σε προβλήματα όπου: Η συσχέτιση των μεταβλητών δεν προσδιορίζεται με ευκολία. Η συσχέτιση των μεταβλητών δεν προσδιορίζεται με ευκολία. Η αναζήτηση του σχήματος και του μεγέθους της τελικής λύσης είναι σημαντικό μέρος του προβλήματος. Η αναζήτηση του σχήματος και του μεγέθους της τελικής λύσης είναι σημαντικό μέρος του προβλήματος. Οι καθιερωμένες μαθηματικές αναλύσεις δεν μπορούν να δώσουν αναλυτικές λύσεις. Οι καθιερωμένες μαθηματικές αναλύσεις δεν μπορούν να δώσουν αναλυτικές λύσεις. Διατίθενται μεγάλες ποσότητες πληροφοριών και απαιτείται έλεγχος ταξινόμησης και ολοκλήρωσης. Διατίθενται μεγάλες ποσότητες πληροφοριών και απαιτείται έλεγχος ταξινόμησης και ολοκλήρωσης. Υπάρχει ανάγκη βελτιστοποίησης πολύπλοκων συστημάτων. Υπάρχει ανάγκη βελτιστοποίησης πολύπλοκων συστημάτων. Υπάρχουν έννοιες που πρέπει να προσεγγίζουν την πραγματική ζωή, όπως: η εκμάθηση μηχανών για ταξινόμηση, οι διαδικασίες πρόβλεψης, η εξαγωγή δεδομένων κ.λπ. Υπάρχουν έννοιες που πρέπει να προσεγγίζουν την πραγματική ζωή, όπως: η εκμάθηση μηχανών για ταξινόμηση, οι διαδικασίες πρόβλεψης, η εξαγωγή δεδομένων κ.λπ.

5 ΤΕΧΝΗΤΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ Τα τεχνητά νευρωνικά δίκτυα χωρίζονται σε: Δυναμικά, στα οποία τα διανύσματα εξόδου περιγράφονται από πολύπλοκες εξισώσεις διαφορών ή και διαφορικές εξισώσεις. Δυναμικά, στα οποία τα διανύσματα εξόδου περιγράφονται από πολύπλοκες εξισώσεις διαφορών ή και διαφορικές εξισώσεις. Στατικά, στα οποία η έξοδος κάθε νευρώνα αποτελεί μια συγκεκριμένη, σχετικά απλή συνάρτηση μόνο του διανύσματος εισόδου του. Στατικά, στα οποία η έξοδος κάθε νευρώνα αποτελεί μια συγκεκριμένη, σχετικά απλή συνάρτηση μόνο του διανύσματος εισόδου του. Τα στατικά νευρωνικά δίκτυα υλοποιούν συναρτήσεις της μορφής y=f(x), όπου το y λαμβάνει τιμές στο διάστημα [0,1] και x είναι ένας πραγματικός αριθμός. Το χαρακτηριστικό των χώρων x και y είναι ότι είναι πολυδιάστατοι, αλλά βέβαια με διαφορετικές διαστάσεις Τα στατικά νευρωνικά δίκτυα υλοποιούν συναρτήσεις της μορφής y=f(x), όπου το y λαμβάνει τιμές στο διάστημα [0,1] και x είναι ένας πραγματικός αριθμός. Το χαρακτηριστικό των χώρων x και y είναι ότι είναι πολυδιάστατοι, αλλά βέβαια με διαφορετικές διαστάσεις.

6 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Ένα τεχνητό νευρωνικό δίκτυο αποτελείται από: Ένα σύνολο κόμβων ή τεχνητών νευρώνων (neurons), Ένα σύνολο κόμβων ή τεχνητών νευρώνων (neurons), Τα οποία είναι οργανωμένα σε επάλληλα επίπεδα (layers), Τα οποία είναι οργανωμένα σε επάλληλα επίπεδα (layers), Ενώ κάθε νευρώνας ενώνεται με όλους τους άλλους μέσω των συνάψεων (synapses). Ενώ κάθε νευρώνας ενώνεται με όλους τους άλλους μέσω των συνάψεων (synapses). Ένα νευρωνικό δίκτυο αποτελείται από: Ένα επίπεδο εισόδου (input layer), στο οποίο εισάγεται το εκπαιδευτικό διάνυσμα εισόδου ή το διάνυσμα ελέγχου, Ένα επίπεδο εισόδου (input layer), στο οποίο εισάγεται το εκπαιδευτικό διάνυσμα εισόδου ή το διάνυσμα ελέγχου, Ένα ή περισσότερα κρυφά επίπεδα (hidden layers), όπου τα στοιχεία εισόδου υφίστανται επεξεργασία με διάφορους μαθηματικούς τρόπους Ένα ή περισσότερα κρυφά επίπεδα (hidden layers), όπου τα στοιχεία εισόδου υφίστανται επεξεργασία με διάφορους μαθηματικούς τρόπους Ένα επίπεδο εξόδου (output layer), με κάποια υπολογιστική ικανότητα, το οποίο περιέχει τα τελικά αποτελέσματα που μεταφέρονται στον έξω κόσμο Ένα επίπεδο εξόδου (output layer), με κάποια υπολογιστική ικανότητα, το οποίο περιέχει τα τελικά αποτελέσματα που μεταφέρονται στον έξω κόσμο

7 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ

8 Κάθε νευρώνας δέχεται μια σειρά τιμών εισόδου και αποδίδει μια τιμή εξόδου. Οι νευρώνες του πρώτου κρυφού επιπέδου λαμβάνουν ως τιμές εισόδου τις τιμές των νευρώνων του επιπέδου εισόδου με το οποίο είναι συνδεδεμένοι μέσω των συνάψεων. Οι νευρώνες του πρώτου κρυφού επιπέδου λαμβάνουν ως τιμές εισόδου τις τιμές των νευρώνων του επιπέδου εισόδου με το οποίο είναι συνδεδεμένοι μέσω των συνάψεων. Όλα τα υπόλοιπα κρυφά επίπεδα λαμβάνουν ως τιμές εισόδου, τις τιμές εξόδου των νευρώνων των κρυφών επιπέδων με τα οποία είναι συνδεδεμένα Όλα τα υπόλοιπα κρυφά επίπεδα λαμβάνουν ως τιμές εισόδου, τις τιμές εξόδου των νευρώνων των κρυφών επιπέδων με τα οποία είναι συνδεδεμένα.

9 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Η σύνδεση των νευρώνων υλοποιείται με «βάρη»: Σε κάθε νευρώνα οι τιμές εισόδου πολλαπλασιάζονται με μια τυχαία τιμή που αποκαλείται βάρος. Σε κάθε νευρώνα οι τιμές εισόδου πολλαπλασιάζονται με μια τυχαία τιμή που αποκαλείται βάρος. Στο αποτέλεσμα αυτό προστίθεται ένα άλλο βάρος, το πολωμένο, το οποίο αρχικά λαμβάνει τιμή 1. Στο αποτέλεσμα αυτό προστίθεται ένα άλλο βάρος, το πολωμένο, το οποίο αρχικά λαμβάνει τιμή 1. Το άθροισμα αυτό διοχετεύεται σε μια συνάρτηση που ονομάζεται συνάρτηση μεταφοράς (transfer function) και οδηγεί στην κανονικοποίησή του. Το άθροισμα αυτό διοχετεύεται σε μια συνάρτηση που ονομάζεται συνάρτηση μεταφοράς (transfer function) και οδηγεί στην κανονικοποίησή του. Το τελικό αποτέλεσμα αποστέλλεται μέσω των συνάψεων σε άλλους νευρώνες. Το τελικό αποτέλεσμα αποστέλλεται μέσω των συνάψεων σε άλλους νευρώνες. Οι τιμές των βαρών διαφοροποιούνται σε κάθε κύκλο λειτουργίας του νευρωνικού δικτύου με τη βοήθεια των αλγόριθμων εκπαίδευσης, ώστε να υλοποιηθεί η επιθυμητή μετατροπή των διανυσμάτων εισόδου σε διανύσματα εξόδου. Οι τιμές των βαρών διαφοροποιούνται σε κάθε κύκλο λειτουργίας του νευρωνικού δικτύου με τη βοήθεια των αλγόριθμων εκπαίδευσης, ώστε να υλοποιηθεί η επιθυμητή μετατροπή των διανυσμάτων εισόδου σε διανύσματα εξόδου.

10 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ

11 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΒΑΡΗ Σταθμίζουν την έξοδο του νευρώνα. Σταθμίζουν την έξοδο του νευρώνα. Τοποθετούνται πάνω στις συνάψεις. Τοποθετούνται πάνω στις συνάψεις. Αποτελούν τη μνήμη του νευρωνικού δικτύου. Αποτελούν τη μνήμη του νευρωνικού δικτύου. Εκφράζουν το βαθμό που ένα στοιχείο εισόδου επηρεάζει την τελική διαμόρφωση του αποτελέσματος. Εκφράζουν το βαθμό που ένα στοιχείο εισόδου επηρεάζει την τελική διαμόρφωση του αποτελέσματος. Οι τιμές που λαμβάνουν τα βάρη κυμαίνονται είτε από 0 ως 1 είτε από -1 ως 1. Οι τιμές που λαμβάνουν τα βάρη κυμαίνονται είτε από 0 ως 1 είτε από -1 ως 1. Όσο πιο μεγάλη είναι η τιμή του βάρους τόσο περισσότερο το συγκεκριμένο στοιχείο εισόδου επηρεάζει το αποτέλεσμα. Όσο πιο μεγάλη είναι η τιμή του βάρους τόσο περισσότερο το συγκεκριμένο στοιχείο εισόδου επηρεάζει το αποτέλεσμα.

12 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ ΣΥΝΑΡΤΗΣΗ ΜΕΤΑΦΟΡΑΣ Τρεις είναι οι συνηθέστερα χρησιμοποιούμενες συναρτήσεις: Η σκληρού-ορίου (hard line): περιορίζει την τιμή εξόδου του νευρώνα σε 0, εάν αυτή λάβει τιμή μικρότερη από 0, και σε 1, εάν η τιμή εξόδου είναι μεγαλύτερη ή ίση με 0 (η συνάρτηση αυτή χρησιμοποιείται συνήθως σε διαδικασίες ταξινόμησης). Η σκληρού-ορίου (hard line): περιορίζει την τιμή εξόδου του νευρώνα σε 0, εάν αυτή λάβει τιμή μικρότερη από 0, και σε 1, εάν η τιμή εξόδου είναι μεγαλύτερη ή ίση με 0 (η συνάρτηση αυτή χρησιμοποιείται συνήθως σε διαδικασίες ταξινόμησης). Η γραμμική (linear): χρησιμοποιεί γραμμικά φίλτρα για την κανονικοποίηση των δεδομένων εισόδου (χρησιμοποιείται συνήθως σε γραμμικά προβλήματα). Η γραμμική (linear): χρησιμοποιεί γραμμικά φίλτρα για την κανονικοποίηση των δεδομένων εισόδου (χρησιμοποιείται συνήθως σε γραμμικά προβλήματα). Η σιγμοειδής: περιορίζει τις τιμές εισόδου μεταξύ των τιμών 0 και 1 (χρησιμοποιείται όταν αλγόριθμος εκμάθησης είναι ο αλγόριθμος οπισθόδρομης διάδοσης σφάλματος). Η σιγμοειδής: περιορίζει τις τιμές εισόδου μεταξύ των τιμών 0 και 1 (χρησιμοποιείται όταν αλγόριθμος εκμάθησης είναι ο αλγόριθμος οπισθόδρομης διάδοσης σφάλματος).

13 ΔΟΜΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΜΕΘΟΔΟΙ ΕΚΠΑΙΔΕΥΣΗΣ Oι πιο γνωστές μέθοδοι εκπαίδευσης είναι: Oι πιο γνωστές μέθοδοι εκπαίδευσης είναι:  Ο αλγόριθμος δέλτα (delta rule) και  Ο αλγόριθμος οπισθόδρομης διάδοσης σφάλματος. Η διαφορά τους έγκειται: Η διαφορά τους έγκειται:  Στις μαθηματικές εξισώσεις στις οποίες βασίζονται.  Στον τρόπο με τον οποίο επιδρούν στα επίπεδα του δικτύου. Στους αλγόριθμους αυτούς προσδιορίζονται παράμετροι όπως: Στους αλγόριθμους αυτούς προσδιορίζονται παράμετροι όπως:  Το βήμα εκπαίδευσης καθορίζει το μέγεθος της αλλαγής της τιμής του βάρους σε κάθε βήμα και παίρνει τιμές από 0 έως 2.  Ο παράγοντας ορμής (momentum), ο οποίος πολλαπλασιάζεται με το βάρος του προηγούμενου επιπέδου και στη συνέχεια προστίθεται στο βάρος του επιπέδου που εκπαιδεύει.  Ο παράγοντας ορμής (momentum), ο οποίος πολλαπλασιάζεται με το βάρος του προηγούμενου επιπέδου και στη συνέχεια προστίθεται στο βάρος του επιπέδου που εκπαιδεύει.

14 ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Η διαδικασία δημιουργίας ενός τεχνητού νευρωνικού δικτύου που αποτελεί το σχεδιασμό της αρχιτεκτονικής του, απαιτεί τον προσδιορισμό μιας σειράς παραμέτρων, όπως: Ο αριθμός των κρυφών επιπέδων Ο αριθμός των κρυφών επιπέδων Ο αριθμός των νευρώνων ανά επίπεδο Ο αριθμός των νευρώνων ανά επίπεδο Ο κανόνας μάθησης Ο κανόνας μάθησης Ο αλγόριθμος εκπαίδευσης Ο αλγόριθμος εκπαίδευσης Ο ρυθμός εκπαίδευσης Ο ρυθμός εκπαίδευσης Οι κύκλοι λειτουργίας του δικτύου Οι κύκλοι λειτουργίας του δικτύου Οι συναρτήσεις μεταφοράς Οι συναρτήσεις μεταφοράς Η γενική κατηγορία (στατική ή δυναμική) στην οποία ανήκει. Η γενική κατηγορία (στατική ή δυναμική) στην οποία ανήκει.

15 ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΚΑΤΗΓΟΡΙΕΣ ΑΡΧΙΤΕΚΤΟΝΙΚΗΣ Υπάρχουν δύο βασικές κατηγορίες αρχιτεκτονικής: H εμπροσθοδιάδοση: όπου η μεταβολή των τιμών των νευρώνων συντελείται στην κατεύθυνση, από το επίπεδο εισόδου προς το επίπεδο εξόδου (χρησιμοποιείται κυρίως σε προβλήματα ομαδοποίησης). H εμπροσθοδιάδοση: όπου η μεταβολή των τιμών των νευρώνων συντελείται στην κατεύθυνση, από το επίπεδο εισόδου προς το επίπεδο εξόδου (χρησιμοποιείται κυρίως σε προβλήματα ομαδοποίησης). H οπισθοδιάδοση: όπου η μεταβολή των τιμών των νευρώνων λειτουργεί και προς τις δύο κατευθύνσεις, από το επίπεδο εισόδου στο επίπεδο εξόδου και αντίστροφα (χρησιμοποιείται κυρίως σε πολύπλοκα προβλήματα προβλέψεων). H οπισθοδιάδοση: όπου η μεταβολή των τιμών των νευρώνων λειτουργεί και προς τις δύο κατευθύνσεις, από το επίπεδο εισόδου στο επίπεδο εξόδου και αντίστροφα (χρησιμοποιείται κυρίως σε πολύπλοκα προβλήματα προβλέψεων). Η έννοια της κατεύθυνσης ορίζει ποια στοιχεία αποτελούν τα διανύσματα εισόδου σε κάθε νευρώνα και προφανώς την τιμή εξόδου του.

16 ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΚΑΝΟΝΑΣ ΜΑΘΗΣΗΣ Ο κανόνας μάθησης διαφέρει απ’ τον αλγόριθμο εκπαίδευσης: Ο πρώτος καθορίζει την αρχιτεκτονική του τεχνητού νευρωνικού δικτύου. Ο πρώτος καθορίζει την αρχιτεκτονική του τεχνητού νευρωνικού δικτύου. Ο δεύτερος εφαρμόζεται σε κάθε νευρώνα. Ο δεύτερος εφαρμόζεται σε κάθε νευρώνα. Δύο είναι οι βασικοί κανόνες μάθησης: Ο Επιβλεπόμενος κανόνας (supervised rule). Ο Επιβλεπόμενος κανόνας (supervised rule). Ο Μη Επιβλεπόμενος κανόνας (unsupervised rule). Ο Μη Επιβλεπόμενος κανόνας (unsupervised rule).

17 ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΕΠΙΒΛΕΠΟΜΕΝΟΣ ΚΑΝΟΝΑΣ Το τεχνητό νευρωνικό δίκτυο τροφοδοτείται τόσο με διανύσματα εισόδου όσο και με διανύσματα εξόδου. Το δίκτυο υπολογίζει ένα προσωρινό αποτέλεσμα εξόδου, το συγκρίνει με το επιθυμητό και υπολογίζει, μέσω μιας συνάρτησης λάθους, το λάθος. Το λάθος στέλνει σήμα στους αρχικούς νευρώνες και αυτοί με τη σειρά τους στους υπόλοιπους για τροποποίηση των βαρών, ώστε τα νέα τροποποιημένα βάρη να ελαττώσουν το σφάλμα. Αν το σφάλμα δεν ελαττωθεί κάτω από ένα ορισμένο επίπεδο (κατώφλι), τότε τροποποιούνται εκ νέου τα βάρη.

18 ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΕΠΙΒΛΕΠΟΜΕΝΟΣ ΚΑΝΟΝΑΣ Οι παράγοντες που καθορίζουν τη διαφοροποίηση των βαρών είναι: Οι αρχικές τιμές των βαρών Οι αρχικές τιμές των βαρών Τα διανύσματα εισόδου Τα διανύσματα εισόδου Τα διανύσματα εξόδου Τα διανύσματα εξόδου Οι επιθυμητές τιμές Οι επιθυμητές τιμές

19 ΑΡΧΙΤΕΚΤΟΝΙΚΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ: ΜΗ ΕΠΙΒΛΕΠΟΜΕΝΟΣ ΚΑΝΟΝΑΣ Το δίκτυο καλείται να ανακαλύψει κριτήρια ταξινόμησης για τα στοιχεία εισόδου χωρίς την ύπαρξη διανύσματος εξόδου. Το τεχνητό νευρωνικό δίκτυοαναζητά κοινά χαρακτηριστικά μεταξύ των στοιχείων εισόδου (ταξινόμηση σε κατηγορίες ανάλογα με τη σχετική ομοιότητά τους) και διαμορφώνει ανάλογα τη δομή των βαρών. Το τεχνητό νευρωνικό δίκτυο αναζητά κοινά χαρακτηριστικά μεταξύ των στοιχείων εισόδου (ταξινόμηση σε κατηγορίες ανάλογα με τη σχετική ομοιότητά τους) και διαμορφώνει ανάλογα τη δομή των βαρών. Ένας αλγόριθμος, χωρίς επίβλεψη, πραγματοποιεί ψευδοτυχαίες αλλαγές στις τιμές των βαρών και διατηρεί μόνον αυτές που βελτιστοποιούν τη συνάρτηση λάθους.

20 ΕΚΠΑΙΔΕΥΣΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Η εκπαίδευση κάποιου τεχνητού νευρωνικού δικτύου ισοδυναμεί με την ενδυνάμωση ή αποδυνάμωση των τιμών των βαρών, σύμφωνα με τους κανόνες που ορίζει ο αλγόριθμος εκπαίδευσης, μέχρι αυτά να λάβουν τις κατάλληλες τιμές.

21 ΕΚΠΑΙΔΕΥΣΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Μέσα από μια σειρά επαναλήψεων, ελέγχονται τα δεδομένα εισόδου, με γνωστά δεδομένα εξόδου, και υπολογίζεται το μέσο τετραγωνικό σφάλμα της υπολογισμένης τιμής από την πραγματική. Οι νευρώνες σε κάθε κύκλο μεταβάλλουν τα βάρη που αποδίδουν στα στοιχεία εισόδου, ρυθμίζοντας έτσι τη μνήμη τους, ώστε να ελαχιστοποιηθεί το σφάλμα αναμενόμενης και υπολογισμένης τιμής στο επίπεδο εξόδου. Η διαδικασία τερματίζεται, όταν το σφάλμα λάβει τιμή κάτω από μια συγκεκριμένη τιμή (κατώφλι).

22 ΕΚΠΑΙΔΕΥΣΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Σε αντίθετη περίπτωση η διαδικασία επαναλαμβάνεται, διαφοροποιώντας μία ή περισσότερες από τις παραμέτρους, όπως: Μείωση του αριθμού των νευρώνων ή αύξησή τους, ανάλογα με την αρχιτεκτονική του δικτύου. Μείωση του αριθμού των νευρώνων ή αύξησή τους, ανάλογα με την αρχιτεκτονική του δικτύου. Διαφοροποίηση της κανονικοποίησης των δεδομένων εισόδου. Για παράδειγμα, η κανονικοποίηση στο διάστημα [0,1 έως 0,9] ίσως είναι καλύτερο απ’ το διάστημα [0 έως 1], εάν εφαρμόζεται η σιγμοειδής συνάρτηση. Διαφοροποίηση της κανονικοποίησης των δεδομένων εισόδου. Για παράδειγμα, η κανονικοποίηση στο διάστημα [0,1 έως 0,9] ίσως είναι καλύτερο απ’ το διάστημα [0 έως 1], εάν εφαρμόζεται η σιγμοειδής συνάρτηση. Αύξηση του αριθμού των κρυφών επιπέδων. Αύξηση του αριθμού των κρυφών επιπέδων.

23 ΕΚΠΑΙΔΕΥΣΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Μείωση του αριθμού των μεταβλητών, αφού λιγότερες μεταβλητές πιθανότατα είναι πιο αποδοτικές στο δίκτυο. Συνήθως μεγάλο πλήθος μεταβλητών δεν εγγυάται βέλτιστο αποτέλεσμα. Γενικά, η σωστή επιλογή του αριθμού των μεταβλητών επηρεάζει άμεσα την αξιοπιστία του νευρωνικού δικτύου. Μείωση του αριθμού των μεταβλητών, αφού λιγότερες μεταβλητές πιθανότατα είναι πιο αποδοτικές στο δίκτυο. Συνήθως μεγάλο πλήθος μεταβλητών δεν εγγυάται βέλτιστο αποτέλεσμα. Γενικά, η σωστή επιλογή του αριθμού των μεταβλητών επηρεάζει άμεσα την αξιοπιστία του νευρωνικού δικτύου. Κωδικοποίηση των μεταβλητών. Κωδικοποίηση των μεταβλητών. Επέκταση της διαδικασίας της εκπαίδευσης. Ενδέχεται το νευρωνικό δίκτυο να έχει «κολλήσει» σε μια συγκεκριμένη ομάδα βαρών, οπότε να απαιτείται μια καινούρια σειρά τυχαίων βαρών. Επέκταση της διαδικασίας της εκπαίδευσης. Ενδέχεται το νευρωνικό δίκτυο να έχει «κολλήσει» σε μια συγκεκριμένη ομάδα βαρών, οπότε να απαιτείται μια καινούρια σειρά τυχαίων βαρών.

24 ΕΚΠΑΙΔΕΥΣΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Τα τεχνητά νευρωνικά δίκτυα θεωρούνται τεχνολογία «μαύρου κουτιού», αφού δεν είναι σαφώς ορισμένα: Πώς μεταβάλλονται οι τιμές των βαρών. Πώς μεταβάλλονται οι τιμές των βαρών. Ποιοι νευρώνες είναι ανενεργοί. Ποιοι νευρώνες είναι ανενεργοί. Πώς επηρεάζονται οι συναρτήσεις μεταφοράς. Πώς επηρεάζονται οι συναρτήσεις μεταφοράς. Πώς το διάνυσμα εξόδου τροποποιεί τον αριθμό των κρυφών επιπέδων. Πώς το διάνυσμα εξόδου τροποποιεί τον αριθμό των κρυφών επιπέδων.

25 ΕΚΠΑΙΔΕΥΣΗ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Η χρήση ενός γενετικού αλγόριθμου για τη βελτιστοποίηση της διαδικασίας επιλογής των παραμέτρων της αρχιτεκτονικής ενός τεχνητού νευρωνικού δικτύου πλεονεκτεί έναντι της μεθοδολογίας δοκιμής και ελέγχου γιατί: Αυτοματοποιεί την όλη διαδικασία, κερδίζοντας συνεπώς χρόνο. Αυτοματοποιεί την όλη διαδικασία, κερδίζοντας συνεπώς χρόνο. Αναζητά λύσεις σε πολύ μεγαλύτερο χώρο, αφού μπορεί να δημιουργήσει χιλιάδες τεχνητά νευρωνικά δίκτυα. Αναζητά λύσεις σε πολύ μεγαλύτερο χώρο, αφού μπορεί να δημιουργήσει χιλιάδες τεχνητά νευρωνικά δίκτυα. Αποκλείει από τη διαδικασία προκατειλημμένες επιλογές, αφού αποφεύγεται η συμμετοχή του ερευνητή που αναπόφευκτα επηρεάζεται από την προσωπική του εμπειρία. Αποκλείει από τη διαδικασία προκατειλημμένες επιλογές, αφού αποφεύγεται η συμμετοχή του ερευνητή που αναπόφευκτα επηρεάζεται από την προσωπική του εμπειρία. Εγγυάται σε πολύ μεγαλύτερο βαθμό την εκμάθηση του νευρωνικού δικτύου. Εγγυάται σε πολύ μεγαλύτερο βαθμό την εκμάθηση του νευρωνικού δικτύου.

26 ΜΟΝΤΕΛΑ ΤΕΧΝΗΤΩΝ ΝΕΥΡΩΝΙΚΩΝ ΔΙΚΤΥΩΝ Με την ολοκλήρωση της εκπαίδευσής τους, τα τεχνητά νευρωνικά δίκτυα έχουν τη δυνατότητα να: Ανιχνεύουν σχέσεις μεταξύ θεωρητικά ανεξάρτητων στοιχείων που δεν είναι γνωστός ο συσχετισμός τους. Ανιχνεύουν σχέσεις μεταξύ θεωρητικά ανεξάρτητων στοιχείων που δεν είναι γνωστός ο συσχετισμός τους. Παρεμβαίνουν σε στοιχεία τα οποία έχουν έντονο θόρυβο (noise). Παρεμβαίνουν σε στοιχεία τα οποία έχουν έντονο θόρυβο (noise). Αντικαθιστούν παραδοσιακά πολυμεταβλητά μοντέλα ταξινόμησης, που αποτελούν και την κύρια περιοχή ενδιαφέροντος στην ανάλυση χώρου. Αντικαθιστούν παραδοσιακά πολυμεταβλητά μοντέλα ταξινόμησης, που αποτελούν και την κύρια περιοχή ενδιαφέροντος στην ανάλυση χώρου.

27 ΣΥΜΠΕΡΑΣΜΑΤΑ ΠΛΕΟΝΕΚΤΗΜΑΤΑ Προσφέρει τεχνικές και μεθόδους που διαφοροποιούνται από τα παραδοσιακά μαθηματικά και στατιστικά μοντέλα. Προσφέρει τεχνικές και μεθόδους που διαφοροποιούνται από τα παραδοσιακά μαθηματικά και στατιστικά μοντέλα. Παρέχει εργαλεία που μπορούν να εφαρμοστούν στο σύνολο των γεωγραφικών προβλημάτων, με ιδιαίτερη έμφαση σε αυτά που οι παραδοσιακές προσεγγίσεις δεν αντιμετώπιζαν με επιτυχία. Παρέχει εργαλεία που μπορούν να εφαρμοστούν στο σύνολο των γεωγραφικών προβλημάτων, με ιδιαίτερη έμφαση σε αυτά που οι παραδοσιακές προσεγγίσεις δεν αντιμετώπιζαν με επιτυχία. Δίνει έμφαση στις έννοιες και τις θεωρίες που στηρίζονται στην ενσωμάτωση της νοημοσύνης στις χωρικές λειτουργίες. Δίνει έμφαση στις έννοιες και τις θεωρίες που στηρίζονται στην ενσωμάτωση της νοημοσύνης στις χωρικές λειτουργίες. Τα τεχνητά νευρωνικά δίκτυα εξελίσσονται ως ένα σημαντικό εργαλείο για την κατασκευή αλγόριθμων ανάλυσης χώρου. Τα τεχνητά νευρωνικά δίκτυα εξελίσσονται ως ένα σημαντικό εργαλείο για την κατασκευή αλγόριθμων ανάλυσης χώρου.

28 ΣΥΜΠΕΡΑΣΜΑΤΑ ΠΛΕΟΝΕΚΤΗΜΑΤΑ ΩΣ ΤΕΧΝΙΚΕΣ Προσφέρει μεγάλη επεξεργαστική δύναμη σε σχετικά μικρό κόστος. Προσφέρει μεγάλη επεξεργαστική δύναμη σε σχετικά μικρό κόστος. Είναι ανεκτή στην ανακρίβεια και την αβεβαιότητα. Είναι ανεκτή στην ανακρίβεια και την αβεβαιότητα. Προσφέρει μεγαλύτερη ευελιξία. Προσφέρει μεγαλύτερη ευελιξία. Είναι λιγότερο περίπλοκη από στατιστικής φύσεως. Είναι λιγότερο περίπλοκη από στατιστικής φύσεως. Παρέχει περισσότερες δυνατότητες για πιο ορθές διαδικασίες λήψης αποφάσεων. Παρέχει περισσότερες δυνατότητες για πιο ορθές διαδικασίες λήψης αποφάσεων. Αποδίδει αποτελέσματα που προσεγγίζουν την πραγματικότητα. Αποδίδει αποτελέσματα που προσεγγίζουν την πραγματικότητα.

29 ΣΥΜΠΕΡΑΣΜΑΤΑ ΠΛΕΟΝΕΚΤΗΜΑΤΑ ΩΣ ΤΕΧΝΙΚΕΣ Αποτελεί βάση για την επεξεργασία μεγάλου όγκου χωρικής πληροφορίας. Αποτελεί βάση για την επεξεργασία μεγάλου όγκου χωρικής πληροφορίας. Δεν απαιτεί γνώση για τις σχέσεις μεταξύ των δεδομένων ούτε προηγούμενη επεξεργασία τους. Δεν απαιτεί γνώση για τις σχέσεις μεταξύ των δεδομένων ούτε προηγούμενη επεξεργασία τους. Προσφέρει μεγάλη ευκινησία στις μαθηματικές συναρτήσεις που χρησιμοποιούνται. Προσφέρει μεγάλη ευκινησία στις μαθηματικές συναρτήσεις που χρησιμοποιούνται. Διευκολύνει τον άνετο χειρισμό δεδομένων με θόρυβο καθώς επίσης και δεδομένων με χαοτικές και μη γραμμικές εργασίες. Διευκολύνει τον άνετο χειρισμό δεδομένων με θόρυβο καθώς επίσης και δεδομένων με χαοτικές και μη γραμμικές εργασίες.

30 ΣΥΜΠΕΡΑΣΜΑΤΑ ΜΕΙΟΝΕΚΤΗΜΑΤΑ Αποτελεί τεχνολογία μαύρου κουτιού. Αποτελεί τεχνολογία μαύρου κουτιού. Είναι τεχνολογία που καθοδηγείται από τα δεδομένα. Είναι τεχνολογία που καθοδηγείται από τα δεδομένα. Είναι δύσκολο να επιλεγεί το καταλληλότερο. Είναι δύσκολο να επιλεγεί το καταλληλότερο. Υπάρχουν ανεπίλυτα θέματα στις εφαρμογές τους, όπως για παράδειγμα το θέμα του κατάλληλου αριθμού νευρώνων ανά επίπεδο. Υπάρχουν ανεπίλυτα θέματα στις εφαρμογές τους, όπως για παράδειγμα το θέμα του κατάλληλου αριθμού νευρώνων ανά επίπεδο. Το επίπεδο κατανόησης της διαδικασίας με την οποία ιδρύονται τα τεχνητά νευρωνικά δίκτυα, είναι φτωχό και επομένως είναι δύσκολο να εξαχθούν συμπεράσματα. Το επίπεδο κατανόησης της διαδικασίας με την οποία ιδρύονται τα τεχνητά νευρωνικά δίκτυα, είναι φτωχό και επομένως είναι δύσκολο να εξαχθούν συμπεράσματα.

31 ΚΑΜΠΥΛΗ ΠΑΛΙΝΔΡΟΜΗΣΗΣ


Κατέβασμα ppt "ΚΕΦΑΛΑΙΟ 16 ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ. ΕΙΣΑΓΩΓΗ Ορισμός Τεχνητής Νοημοσύνης Με τον όρο αυτόν εννοείται η προσπάθεια ενσωμάτωσης και προσομοίωσης σε ένα υπολογιστικό."

Παρόμοιες παρουσιάσεις


Διαφημίσεις Google