Μέθοδοι Μελέτης της Υπολογιστικής Νοημοσύνης

Παρουσίαση με θέμα: "Μέθοδοι Μελέτης της Υπολογιστικής Νοημοσύνης"— Μεταγράφημα παρουσίασης:

1 Μέθοδοι Μελέτης της Υπολογιστικής Νοημοσύνης
Τεχνητά νευρωνικά δίκτυα (Artificial neural networks) Εμπειρογνώμονα συστήματα (Expert systems) (Rule-based, Case-based) Τεχνητή ζωή (Artificial life) Γενετικοί αλγόριθμοι (Genetic algorithms) Ασαφής λογική (Fuzzy logic)

2 ΜΕΘΟΔΟΙ ΥΠΟΛΟΓΙΣΤΙΚΗΣ ΝΟΗΜΟΣΥΝΗΣ
Εμπειρογνώμονα συστήματα (ΕμΣ) (expert systems, rule-based reasoning) Συλλογιστική των περιπτώσεων (ΣΠ) (case-based reasoning) Ασαφή Συστήματα (ΑΣ) (fuzzy systems) Τεχνητά νευρωνικά δίκτυα (ΤΝΔ) (artificial neural networks) Τεχνητή ζωή (ΤΖ) (artificial life) Εξελικτικά συστήματα (ΕΣ) (evolutionary systems, genetic algorithms, co-evolutionary robotics, evolvable hardware, …)

3 ΤΕΧΝΗΤΑ ΝΕΥΡΩΝΙΚΑ ΔΙΚΤΥΑ
(ΤΝΔ)

4 Άλλα ονόματα που προτάθηκαν και χρησιμοποιούνται:
Artificial Neural Systems Parallel Distribution Processing Systems Connectionist Systems Neurocomputing Systems Adaptive Networks Associative Networks Collective Computation Systems Neuromorphic Systems

5 ΓΕΝΙΚΗ ΕΠΙΣΚΟΠΗΣΗ ΤΩΝ ΤΝΔ
Είναι ευέλικτα, μη-γραμμικά συστήματα πολλών συνεργαζόμενων επεξεργαστών που εκδηλώνουν στοιχεία έξυπνης συμπεριφοράς και, μεταξύ άλλων, βοηθούν στη: Μελέτη βιολογικών ιδιοτήτων και συμπεριφορών. Μελέτη δυναμικών συστημάτων και συστημάτων ελέγχου. Επεξεργασία δεδομένων, σημάτων, εικόνων, … Ανάπτυξη προσαρμοζόμενων συστημάτων επεξεργασίας σήματος. Αντιστοίχηση (mapping) και διακρίβωση σχέσεων μεταξύ μεταβλητών. Πρόγνωση φαινομένων και συμπεριφορών. Διάγνωση ασθενειών, ανωμαλιών, …

6 Αποτελούνται από πολλούς τεχνητούς νευρώνες που είναι συνδεδεμένοι μεταξύ τους σε ένα οργανωμένο σύνολο στο οποίο υπάρχει αλληλοεπικοινωνία και αλληλοεπίδραση (συλλειτουργία). Συνήθως υπάρχει πρόνοια για πληροφορίες εισόδου. Στην έξοδο, οι επεξεργασμένες πληροφορίες πρέπει να είναι όσο γίνεται οι επιθυμητές. Ομάδες νευρώνων μπορεί να οργανωθούν σε επίπεδα (layers) ή στρώματα (ή στοιβάδες) (slabs). Για να μπορέσει ένα δίκτυο να εκδηλώσει την ενδιαφέρουσα συμπεριφορά που επιδιώκουμε να δούμε, χρειάζεται να περάσει από κατάλληλη φάση μάθησης.

7 ΤΥΠΙΚΗ ΓΡΑΦΙΚΗ ΔΟΜΗ ΤΝΔ
Επίπεδο Εισόδου Επίπεδο Εξόδου u[1]1 Σ x1 x2 . xN … y1 y2 yNo Κρυμμένο επίπεδο 1, με n1 νευρώνες Κρυμμένο επίπεδο 2, με n2 νευρώνες Κρυμμένο επίπεδο 3, με no νευρώνες u[1]2 u[1]n1 a[1]1 a[1]2 a[1]n1 a[2]1 a[2]2 a[2]n2 u[2]1 u[2]2 u[2]n2 u[3]1 u[3]2 u[3]n0 f(.)[3]1 f(.)[3]n0 f(.)[2]1

8 ΜΕΡΙΚΕΣ ΧΡΗΣΙΜΕΣ ΙΔΙΟΤΗΤΕΣ ΤΩΝ ΤΝΔ
Γενίκευση:(Generalization) Μπορούν να εκδηλώσουν/εισηγηθούν γενικευμένα συμπεράσματα για σχέσεις (ή κατανομές) που δεν έχουν διδαχτεί προηγουμένως. Ευρωστία: (Robustness) Παρουσιάζουν ανθεκτικότητα, σταθερότητα. Δηλαδή συνεχίζουν να συμπεριφέρονται ικανοποιητικά, έστω και αν αφαιρεθούν νευρώνες από το δίκτυο. Ανεκτικότητα σε λάθη: (Fault tolerance) Παρόλο που τα δείγματα εισόδου μπορεί να είναι ασαφή, το σύστημα εξακολουθεί να τα επεξεργάζεται ικανοποιητικά. Δυνατότητα εκδήλωσης αναδυόμενων ιδιοτήτων: Μέσα από τη χρήση απλών τοπικών κανόνων (local rules) παρουσιάζεται μια γενική (global) αναδυόμενη συμπεριφορά. H μή-γραμμική, δυναμική εξέλιξη μπορεί να οδηγήσει το σύστημα σε χαοτική συμπεριφορά. Δεν φαίνεται να υπάρχει κεντρικός (οικουμενικός - αυτοκρατορικός) έλεγχος στο σύστημα.

9 ΛΕΠΤΟΜΕΡΕΣΤΕΡΗ ΕΠΙΣΚΟΠΗΣΗ
ΒΙΟΛΟΓΙΚΟΙ ΝΕΥΡΩΝΕΣ Είναι τα κύρια δομικά στοιχεία (κύτταρα) του εγκεφάλου Είναι πολύ πιο αργοί από τις συνηθισμένες λογικές πύλες πυριτίου. Οι πληροφορίες μέσα σε νευρώνα κωδικοποιούνται με ηλεκτροχημικές διαδικασίες.

10 Βιολογικός νευρώνας - λεπτομέρειες
ΝΕΥΡΙΤΗΣ (Αxon of sending neuron) ΣΥΝΑΨΗ (Synapse) INITIAL SEGMENT (TRIGGER ZONE) ΠΥΡΗΝΑΣ (Nucleus) Δενδρίτης (Dendrite of receiving neuron) ΕΚΦΥΤΙΚΟΣ ΚΩΝΟΣ (AXON HILLOCK) ΣΩΜΑ ή ΠΕΡΙΚΑΡΥΟ Cell body (soma) Internal voltage  - 60 to - 80 mV ΜΕΜΒΡΑΝΗ (Membrane) Thickness  5 to 10 nm = to mm Capacitance  μF/cm2 Field intensity  V/m = 120 kV/cm ΝΕΥΡΙΤΗΣ ή ΝΕΥΡΟΑΞΩΝΑΣ (Αxon or nerve fiber) Diameter: μm in vertebrate μm in the squid giant axon ΠΕΡΙΣΦΙΞΕΙΣ ΤΟΥ RANVIER Node of ranvier ΠΕΡΙΒΛΗΜΑ (Μyelin sheath) DENDRITE OF RECEIVING NEURON

11 Διάφοροι βιολογικοί νευρώνες
Νευρώνας Purkunje του cerebellum Βιολογικός νευρώνας με μεγάλο νευροάξονα

12 Βιολογικό νευρωνικό δίκτυο
Μετάδοση πληροφορίας Βιολογικό νευρωνικό δίκτυο (Brain) Υποδοχέας (Receptor) Εκτελεστής (Effector) Ερέθισμα (Stimulus) Αποτέλεσμα (Response) π.χ. Φώς στον οφθαλμό, Πίεση στο δάκτυλο π.χ. Κλείσιμο του ματιού, Πόνος

13 ΕΓΚΕΦΑΛΟΣ - ΝΕΥΡΙΚΟ ΣΥΣΤΗΜΑ
Τα βιολογικά νευρωνικά δίκτυα είναι μη-γραμμικά υπολογιστικά συστήματα που χαρακτηρίζονται από υψηλό βαθμό παραλληλίας, ευρωστία και ανοχή σε σφάλματα. Έχουν τη δυνατότητα να μαθαίνουν, να γενικεύουν και να χειρίζονται ασαφείς, ανακριβείς ή θορυβώδεις πληροφορίες. Υπολογίζεται ότι το συνολικό μήκος των συνδέσεων στον εγκέφαλο είναι περίπου 109 μέτρα, που είναι περίπου 25 φορές η περίμετρος της γης! Παρόλο που τα νευρωνικά κύτταρα/δίκτυα στον εγκέφαλο είναι μόνο το 2% του συνολικού βάρους ενός ανθρώπου, χρειάζονται περίπου 15% του συνολικού αίματος και περίπου 25% της ποσότητας του οξυγόνου που εισπνέουμε (New Scientist, Γεννάρης 1995). Ζωντανοί οργανισμοί που δεν έχουν νευρικό σύστημα (βακτήρια, πρωτόζωα, ασπόνδυλα), μπορεί να παρουσιάσουν κάποια συμπεριφορά, μνήμη, ακόμη και απλή μάθηση! π.χ. Το paramecium είναι ένας μονοκύτταρος οργανισμός που μπορεί να μαθαίνει έστω και εάν δεν έχει συνάψεις και εγκέφαλο.

14 Οργάνωση βιολογικού νευρικού συστήματος
ΣΤΟΙΒΑΔΑ LAYER

15 Τεχνητοί Νευρώνες Ονομάζονται επίσης:
τεχνητά νευρώνια (artificial neurons) ή μονάδες (units) ή στοιχεία επεξεργασίας (processing elements) Τα κύρια χαρακτηριστικά τους είναι: Έχουν πολλές εισόδους – μία έξοδο (MISO) Είναι μη-γραμμικά (non-linear) Έχουν προσαρμοστικότητα (adaptivity)

16 Τεχνητοί Νευρώνες Υπάρχουν υπολογιστικοί (software)
και υλισμικοί (hardware) Οι υλισμικοί θα μπορούσαν να είναι: Ηλεκτρονικοί, χημικοί, οπτικοί, μηχανικοί, ... Έχουν ομοιότητα με τα κυτταρικά αυτόματα (cellular automata).

17 Απλό μοντέλο τεχνητού νευρώνα
Σώμα w1 w2 wN Συναπτικά Βάρη Δεδομένα Εισόδου x1 x2 xN  Αθροιστής Δεδομένα Εξόδου y Συνάρτηση Δραστηριοποίησης (ή μεταφοράς, ή ενεργοποίησης), f(.)

18 Σύστημα μάθησης που προσαρμόζει τις διάφορες παραμέτρους
ΓΕΝΙΚΗ ΔΟΜΗ ΕΝΟΣ ΤΕΧΝΗΤΟΥ ΝΕΥΡΩΝΑ (General form of a single-neuron model) Πληροφορίες εισόδου, από το περιβάλλον, ή από άλλους νευρώνες Έξοδος στο περιβάλλον, ή σε άλλους νευρώνες Σύστημα μάθησης που προσαρμόζει τις διάφορες παραμέτρους PRE-ACCUMULATOR PROCESSING (Subsystem of functional and dynamical processors) (including cross-correlations), p1(.) POST-ACCUMULATOR PROCESSING (Subsystem of functional and dynamical processors), p2(.) ΔΙΑΝΟΜΕΑΣ Κύριος Συσσωρευτής Υποσύστημα δράσεων-αναδράσεων h(.)

19 ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ (Genetic Algorithms)
Γενικά Αλγόριθμοι για βελτιστοποίηση και για αναζήτηση. Optimization and search algorithms. Μελετήθηκαν αρχικά κυρίως από τον John Holland του Πανεπιστημίου Μίσιγκαν τη δεκαετία ’70. Originally studied by John Holland of the University of Michigan at Ann Arbor back in the 1970’s. Προσομοιάζουν σε μεγάλο βαθμό τις διαδικασίες της φυσικής βιολογικής εξέλιξης. Simulating the biological evolutionary processes

20 ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ (Genetic Algorithms)
Μεταξύ πολλών άλλων χρησιμοποιούνται κυρίως σε: Mainly used in: Βελτιστοποίηση συναρτήσεων Function optimization Επιχειρησιακή έρευνα Operations research Μάθηση τεχνητών νευρωνικών δικτύων Learning in artificial neural networks Εξέλιξη νέων τοπολογιών τεχνητών νευρωνικών δικτύων Evolution of new artificial neural network architectures   Εξέλιξη ασαφών κανόνων Evolution of fuzzy rules 

21 ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ (Genetic Algorithms)
Έχουν πάρει μεγάλη ανάπτυξη λόγω κυρίως της απλότητας τους, της εφαρμογής τους σε μεγάλα προβλήματα βελτιστοποίησης, της ικανότητας τους να βρίσκουν καθολικές (global) λύσεις και της πληθώρας εφαρμογών. They have developed extensively due to their simplicity, their capability to handle large optimization problems, their capacity to search for global solutions and their diverse areas of applications. Σταδιακά εισήχθησαν και άλλες παρόμοιες τεχνικές από πολλούς άλλους επιστήμονες. Gradually many more similar techniques have been proposed.

22 ΓΕΝΕΤΙΚΟΙ ΑΛΓΟΡΙΘΜΟΙ (Genetic Algorithms)
Γενικότεροι όροι είναι οι εξελισσόμενη υπολογιστική (Evolutionary Computation - EC), ή εξελισσόμενοι αλγόριθμοι (Evolutionary Algorithms - EA). Περιλαμβάνουν τους: Γενετικούς Αλγορίθμους (Genetic Algorithms - GA) Γενετικό Προγραμματισμό (Genetic Programming - GP) Εξελισσόμενο Προγραμματισμό (Evolutionary Programming - EP) Εξελισσόμενο Υλισμικό (Evolutionary hardware - EHW) Εξελισσόμενες Στρατηγικές (Evolutionary Strategies - ES) Συστήματα Μάθησης Προτύπων (Learning Classifier Systems - LCS)

23 ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ (Basic Procedure of GAs)
Βασικές αρχές Γενική διαδικασία:  Δημιουργία πληθυσμού Υπολογισμός της ποιότητας του κάθε ατόμου Δημιουργία απογόνων χρησιμοποιώντας τους καλύτερους γονείς Χρήση γενετικών τελεστών για βελτίωση του νέου πληθυσμού Πίσω στο στάδιο  General Procedure 1. Initialize a population 2. Calculate the fitness for each individual in the population 3. Reproduce selected individuals to form a new population 4. Perform evolutionary operations, such as crossover and mutation 5. Loop to step 2 until some condition is met

24 ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ (Basic Procedure of GAs)
Κάθε παράμετρος του προβλήματος κωδικοποιείται με κατάλληλο τρόπο. Συνήθως χρησιμοποιείται κωδικοποίηση ανάλογη με τη βιολογική που παρουσιάζεται στα γονίδια των χρωμοσωμάτων. Χρησιμοποιείται σειρά συμβόλων από ένα μικρό σύνολο, π.χ. ακολουθία The variables are coded in a manner similar to genes on a chromosome. A set of appropriate symbols may be used. e.g Το μήκος της ακολουθίας καθορίζεται ανάλογα με πόση λεπτομέρεια θέλουμε να κωδικοποιήσουμε τις λύσεις. The size of the strings is so selected that it represents the features in the desired degree of precision.

25 ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ (Basic Procedure of GAs)
Οι κωδικοποιημένες παράμετροι συνδυάζονται (ενώνονται) για να δημιουργήσουν μέρος μιας πιθανής ακολουθίας-λύσης (άτομο), που παρουσιάζεται ως μια ακολουθία συμβόλων. The coded variables are joined to produce a candidate solution-string, which is part of a solution. Κάθε συνδυασμός αντιπροσωπεύει ένα πιθανό αποτέλεσμα-λύση. Every combination represents the input to the problem that can result in a candidate solution. Κάθε συνδυασμός πρέπει να έχει κάποια χαρακτηριστικά που να είναι αντιπροσωπευτικά των παραμέτρων του προβλήματος. Every combination must capture some of the essential properties of the system.

26 ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ (Basic Procedure of GAs)
Δημιουργείται ένα σύνολο (πληθυσμός) από πιθανές ακολουθίες-λύσεις. Αυτές συνήθως επιλέγονται τυχαία ή με μικροαλλαγές (perturbations) ενός αρχικού πληθυσμού . A set of randomly chosen - candidate solutions is generated. Perturbations of an initial population may also be used. Κάθε λύση σε κωδικοποιημένη μορφή λέγεται γονότυπος, ενώ υπό την πραγματική της μορφή φαινότυπος. Every coded solution-string is known as a genotype, while the real solution a phenotype. Κάθε πιθανός συνδυασμός καθορίζει τη τιμή κάποιας κατάλληλης συνάρτησης ποιότητας. Η επιλογή της συνάρτησης είναι πολύ σημαντική. Every coded candidate solution-string corresponds to a specific value in a suitable quality or fitness function.

27 ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ (Basic Procedure of GAs)
Typical Performance Measures: Field Performance Measure Genetics Fitness Economic Planning Utility Control Error functions Physiological Psychology Performance Rate Game Theory Payoff Multi-modal fitness functions …

28 ΒΑΣΙΚΗ ΔΟΜΗ ΓΑ (Basic Procedure of GAs)
Όταν κάθε συνδυασμός (άτομο) αξιολογηθεί, αρχίζει η διαδικασία της επιλεκτικής αναπαραγωγής. Every coded candidate solution-string corresponds to a specific value in a suitable quality or fitness function. Τα άτομα που συνέβαλαν περισσότερο στην βελτίωση της συνάρτησης ποιότητας επιλέγονται για να χρησιμοποιηθούν περισσότερο ως γονείς για νέες γενιές ατόμων. Για αυτό το σκοπό χρησιμοποιούνται διάφοροι μηχανισμοί επιλογής: String populations that were more successful in improving the fitness function are used to reproduce new string populations. Different selection procedures are used: Αναλογική επιλογή Proportionate selection – (roulette) Επιλογή με βαθμολόγηση Rank selection Επιλογή τουρνουά Tournament selection

29 ΓΕΝΕΤΙΚΟΙ ΤΕΛΕΣΤΕΣ (GA OPERATORS)
Για τη σύνθεση νέων ατόμων χρησιμοποιούνται διάφοροι μηχανισμοί που λέγονται γενετικοί τελεστές: For the composition of new string-populations (offsprings) suitable genetic operators are used: Γενετικοί τελεστές: Genetic operators Ανασυνδυασμός Crossover Γονέας # 1 Γονέας # 2 Απόγονος # 1 Απόγονος # 2 Σημεία crossover

30 ΓΕΝΕΤΙΚΟΙ ΤΕΛΕΣΤΕΣ (GA OPERATORS)
Μετάλλαξη Mutation Απόγονος Απόγονος μετά τη μετάλλαξη Με τη μετάλλαξη κάνουμε τυχαίο ψάξιμο για να βρούμε νέες καλύτερες λύσεις. Mutation provides a small amount of random search to seek new and better solutions. Οι γενετικοί τελεστές εφαρμόζονται σε ένα υποσύνολο απογόνων. The genetic operators are applied to a subset of the offsprings. Πολλοί άλλοι γενετικοί τελεστές έχουν προταθεί: Many other genetic operators have been proposed: Inversion Partially matched crossover Hill-climbing …

31 ΕΦΑΡΜΟΓΕΣ ΓΑ (Applications of GAs)
Σχεδιασμός μηχανικών συστημάτων Design of engineering systems Βελτιστοποίηση περίπλοκων διαδικασιών Optimization of complex processes Διάγνωση σφαλμάτων Fault diagnosis Δρομολόγηση Scheduling, Traveling salesman problem Μάθηση τεχνητών νευρωνικών δικτύων Learning in artificial neural networks Ανίχνευση νέων αρχιτεκτονικών νευρωνικών δικτύων Finding new architectures of artificial neural networks Σύνθεση μουσικής Music composition

32 ΥΠΟΛΟΓΙΣΤΙΚΗ ΝΟΗΜΟΣΥΝΗ
ΥΠΟΛΟΓΙΣΤΙΚΗ ΝΟΗΜΟΣΥΝΗ COMPUTATIONAL INTELLIGENCE Cover ΤΕΧΝΗ ΤH ΖΩΗ ARTIFICIAL LIFE

33 ΤΕΧΝΗΤΗ ΖΩΗ (Artificial Life)
Υπεραπλουστευμένη προσομοίωση απλών ζωντανών οργανισμών. Very simple simulation of living organisms. Κυτταρικά αυτόματα. Cellular automata. Απλοί κανόνες για αυτοοργάνωση. π.χ. “Παιγνίδι της ζωής” του Conway. Simple rules for self-organization. e.g. Conway’s “The game of life”. Προβλήματα πολυπλοκότητας, χάους. Complexity, chaos problems.

34 ΤΕΧΝΗΤΗ ΖΩΗ (Artificial Life)
Προβλήματα πολυπλοκότητας, χάους. Complexity, chaos problems. Αναδυόμενη συμπεριφορά. Emerging behaviour. ΧΡΗΣΙΜΟΠΟΙΟΥΝΤΑΙ ΣΕ: Προβλήματα βελτιστοποίησης Μάθηση νευρωνικών δικτύων ...

35 Μερικά πεδία έρευνας σε ΤΝΔ
ΒΑΣΙΚΗ ΕΡΕΥΝΑ Μελέτη νέων μοντέλων νευρώνων Νέες μέθοδοι μάθησης σε τεχνητά νευρωνικά δίκτυα Νέες αρχιτεκτονικές σε τεχνητά νευρωνικά δίκτυα Μάθηση με χρήση γενετικών αλγορίθμων Νέες αρχιτεκτονικές τεχνητών νευρωνικών δικτύων με χρήση γενετικών αλγορίθμων

36 Ρευστομηχανική (υπολογισμός αντίστασης πλοίων).
ΕΦΑΡΜΟΣΜΕΝΗ ΕΡΕΥΝΑ ΜΗΧΑΝΙΚΗ Έλεγχος συστημάτων. Ρομποτικά συστήματα. Ρευστομηχανική (υπολογισμός αντίστασης πλοίων). Βελτίωση της πρόγνωσης ηλεκτρικού φορτίου ισχύος. Μετεωρολογικές εφαρμογές Πρόγνωση περιοχών μεταλλείων Μελέτη των ονείρων με τεχνητά νευρωνικά δίκτυα

37 Τηλεκίνηση (Brain Controlled Motion).
ΙΑΤΡΙΚΗ ΜΗΧΑΝΙΚΗ Διάγνωση. Πρόγνωση. Ταξινόμηση ασθενειών. Εκτίμηση κινδύνων. Ξεκινήσαμε ένα μεγάλο ερευνητικό πρόγραμμα για την εκτίμηση των κινδύνων εμφάνισης του συνδρόμου Brown σε συνεργασία με τον Κύπριο Καθηγητή Κύπρο Νικολαίδη του Παν. Kings College του Λονδίνου. Τηλεκίνηση (Brain Controlled Motion). Μελέτη των ονείρων με τεχνητά νευρωνικά δίκτυα

38 Αποφυγή, λύση συγκρούσεων. Με χρήση των Fuzzy Cognitive Maps.
ΔΥΝΑΜΙΚΗ-ΓΝΩΣΤΙΚΗ Αποφυγή, λύση συγκρούσεων. Με χρήση των Fuzzy Cognitive Maps. ΔΙΑΦΟΡΑ Πρόγνωση σεισμών. Επέκταση αισθήσεων. Πρόγνωση αθλητικών ικανοτήτων. Μελέτη DNA promoters με τεχνητά νευρωνικά δίκτυα. Υπολογιστική εφευρετικότητα. Εξόρυξη δεδομένων. Δυναμική ανάλυση της Κυπριακής Οικονομίας (Fuzzy Cognitive Maps) Δυναμική ανάλυση της λήψης απόφασης στο Ομόσπονδο Κυπριακό Κράτος (Fuzzy Cognitive Maps)

39 ΜΕΡΙΚΑ ΠΡΟΓΡΑΜΜΑΤΑ ΤΝΔ
MATLAB Neural Network Toolbox Ward Systems Group (NeuroShell, etc.) SNNS SAS Enterprise Miner Software BrainMaker NeuralWorks NeuroForecaster Products of NESTOR, Inc. Neuralyst NeuFuz4 και πολλά άλλα

40 Τεχνητά Νευρωνικά Δίκτυα και Στατιστικές Μέθοδοι - Σύγκριση ορολογίας
Υπάρχει μια διάχυτη αντιπαράθεση μεταξύ στατιστικολόγων και νευροεπιστημόνων. Προς το παρόν φαίνεται ότι η καλύτερη προσέγγιση είναι να χρησιμοποιούνται στατιστικές μέθοδοι εκεί που έχουν μεγαλύτερο πλεονέκτημα, όπως στη προ-επεξεργασία και μετ-επεξεργασία των δεδομένων εισόδου και εξόδου, ενώ τα τεχνητά νευρωνικά δίκτυα στην κυρίως επεξεργασία, ειδικότερα όταν το πρόβλημα είναι σύνθετο. Πολλά από τα μοντέλα των τεχνητών νευρωνικών δικτύων, ειδικότερα τα μη-δυναμικά, έχουν ομοιότητες με γνωστές στατιστικές μεθόδους όπως: Generalized linear models Polynomial regression Non-parametric regression Discriminant analysis Principal components Cluster analysis

41 Εξελισσόμενα συστήματα (ΕΣ) (Evolutionary systems – ES)
Είναι μια σειρά από ειδικές τεχνικές που τελευταίως έχουν πάρει μεγάλη ανάπτυξη. Η πιο γνωστοί είναι οι Γενετικοί Αλγόριθμοι (ΓΑ). Είναι κυρίως αλγόριθμοι για βελτιστοποίηση και για αναζήτηση. (optimization and search) Οι ΓΑ, αρχικά μελετήθηκαν κυρίως από τον John Holland του Πανεπιστημίου Μίσιγκαν στη δεκαετία του ’70. Προσομοιάζουν σε μεγάλο βαθμό τις διαδικασίες της φυσικής βιολογικής εξέλιξης.

42 Οι ΓΑ έχουν πάρει μεγάλη ανάπτυξη λόγω κυρίως της απλότητας τους, της εφαρμογής τους σε μεγάλα προβλήματα βελτιστοποίησης, της ικανότητας τους να βρίσκουν καθολικές (global) λύσεις και της πληθώρας εφαρμογών. Γενικότεροι όροι είναι οι: Εξελισσόμενη υπολογιστική (Evolutionary Computation - EC) ή Εξελισσόμενοι αλγόριθμοι (Evolutionary Algorithms - EA) Περιλαμβάνουν τους: Γενετικό Προγραμματισμό (Genetic Programming - GP) Εξελισσόμενο Προγραμματισμό (Evolutionary Programming - EP) Εξελισσόμενο Υλισμικό (Evolutionary hardware - EHW) Εξελισσόμενες Στρατηγικές (Evolutionary Strategies - ES) Συστήματα Μάθησης Προτύπων (Learning Classifier Systems - LCS)

43 Μεταξύ πολλών άλλων, χρησιμοποιούνται κυρίως σε:
Βελτιστοποίηση συναρτήσεων Function optimization Επιχειρησιακή έρευνα Operations research Μάθηση τεχνητών νευρωνικών δικτύων Learning in artificial neural networks Εξέλιξη νέων τοπολογιών τεχνητών νευρωνικών δικτύων Evolution of new artificial neural network architectures Εξέλιξη ασαφών κανόνων Evolution of fuzzy rules 

44 Συστήματα Τεχνητής Ζωής (ΤΖ) (Artificial Life Systems – ALS)
Είναι υπεραπλουστευμένη προσομοίωση απλών «ζωντανών» οργανισμών. Έχουν πολλά κοινά με τα κυτταρικά αυτόματα (cellular automata). Χρησιμοποιούν απλούς κανόνες για αυτοοργάνωση. π.χ. “Παιγνίδι της ζωής” του Conway Συχνά παρουσιάζονται προβλήματα πολυπλοκότητας και χάους. Μπορεί να παρουσιάσουν αναδυόμενη συμπεριφορά. ΧΡΗΣΙΜΟΠΟΙΟΥΝΤΑΙ ΣΕ: Προβλήματα βελτιστοποίησης Μάθηση νευρωνικών δικτύων

45 Ασαφή Συστήματα (ΑΣ) (Fuzzy Systems - FS)
Η ασαφής λογική (fuzzy logic) είναι ένα υπερσύνολο της λογικής Bool. Επινοήθηκε κυρίως για να “λογικοποιήσει” τις μισο-αλήθειες, τα παράδοξα, και γενικά τη δυνατότητα να έχουμε τιμές αληθείας (truth values) που να επεκτείνουν το κλασσικό δυαδικό σύστημα (ορθό – λάθος) σε μερικώς ορθό ή λίγο λάθος. Μερικά παράδοξα: “Είμαι ψεύτης”! ή “Λέω ψέματα”! (Επιμενίδης) Σας λέω την αλήθεια? “Είναι ο κουρέας που ξυρίζει όσους δεν ξυρίζονται μόνοι τους” (Bertrand Russel) Ποιος ξυρίζει τον κουρέα?

46 Διαφορά μεταξύ ασαφούς και σαφούς λογικής:
Στη σαφή (ή δυαδική) λογική, το αποτέλεσμα μπορεί να είναι μόνο ορθό ή λάθος: π.χ. 1+1=2 Όμως, ο κόσμος και οι μεταβλητές που τον περιγράφουν είναι κατά το πλείστον ασαφή: π.χ. Κάνει/είναι κρύο, Η Μαρία είναι ψηλή, Είναι πράσινο, ... Υπάρχουν ασάφειες λόγω “πιθανότητας” και λόγω αδυναμίας προσδιορισμού διαχωριστικής γραμμής μεταξύ πραγμάτων και ιδεών.

47 Η ασαφής λογική επεκτείνει τη δυαδική λογική του:
Ναι/Όχι, Σωστό/Λάθος, Μαύρο/Άσπρο, Πάνω/Κάτω, ... ώστε να επιτρέπονται και άλλες τιμές. Δίνεται υπερβάλλουσα σημασία στη λέξη fuzzy γιατί βοηθά στις πωλήσεις. Από τους κύριους επινοητές ήταν ο πέρσης Lotfi Zadeh του Πανεπιστημίου της Καλιφόρνιας στο Berkley με σημαντική εργασία που έκανε το 1960.

48 Παράδειγμα: Πότε είναι κάποιος/α ψηλός/ή;
Εάν P είναι το σύνολο ανθρώπων και h το ύψος τους, το ασαφές υποσύνολο μ(h) που μπορεί να απαντήσει στη πιο πάνω ερώτηση είναι: Όπου μ(h) είναι γνωστή ως συνάρτηση συμμετοχής ή μέλους (membership function)