Το «Πικρό μάθημα» της Τεχνητής Νοημοσύνης

 Για εβδομήντα χρόνια οι άνθρωποι προσπαθούσαν να μάθουν στις μηχανές να σκέφτονται σαν κι αυτούς. Και κάθε φορά, αργά ή γρήγορα, έχαναν από μηχανές που δεν σκέφτονταν καθόλου σαν άνθρωποι.

Υπάρχει μια ιστορία που επαναλαμβάνεται σχεδόν απαράλλαχτη εδώ και δεκαετίες στην ιστορία της τεχνητής νοημοσύνης.

Μια ομάδα λαμπρών επιστημόνων αναλαμβάνει ένα δύσκολο πρόβλημα. Το μελετά σε βάθος. Αναλύει κάθε λεπτομέρεια. Αναζητά τους κανόνες, τις στρατηγικές και τις μικρές, σχεδόν αόρατες αρχές που χρησιμοποιούν οι άνθρωποι-ειδικοί.

Και ύστερα προσπαθεί να τα μεταφέρει όλα αυτά σε μια μηχανή.

Η λογική είναι ακαταμάχητη.

Αν γνωρίζουμε πώς σκέφτεται ένας ειδικός, γιατί να μην διδάξουμε στη μηχανή να σκέφτεται με τον ίδιο τρόπο;

Για λίγο, η προσέγγιση αυτή λειτουργεί.

Ώσπου εμφανίζεται μια άλλη μηχανή.

Μια μηχανή που γνωρίζει λιγότερα.

Μια μηχανή που δεν έχει διδαχθεί τους κανόνες που θεωρούμε σημαντικούς.

Μια μηχανή που δεν προσπαθεί να μιμηθεί την ανθρώπινη σκέψη.

Απλώς υπολογίζει.

Ψάχνει.

Μαθαίνει.

Και, τελικά, κερδίζει.

Αυτό είναι το παράδοξο που ο Richard Sutton, ένας από τους σημαντικότερους ερευνητές της τεχνητής νοημοσύνης, περιέγραψε με αξιοσημείωτη καθαρότητα στο σύντομο δοκίμιό του «The Bitter Lesson» «Το Πικρό Μάθημα», το 2019.

Richard Sutton 2024 Turing Award

Ένα κείμενο λίγων σελίδων που έγινε αντικείμενο έντονης συζήτησης στον κόσμο της τεχνητής νοημοσύνης.

Το συμπέρασμα του Sutton είναι απλό και ταυτόχρονα βαθιά ενοχλητικό:

Οι μεγαλύτερες επιτυχίες στην τεχνητή νοημοσύνη δεν προήλθαν τελικά από την προσπάθεια να μεταφέρουμε στις μηχανές την ανθρώπινη ευφυΐα, αλλά από την αξιοποίηση της υπολογιστικής ισχύος και της ικανότητάς τους να μαθαίνουν μόνες τους.

Και η ιστορία του σκακιού είναι ίσως το πιο χαρακτηριστικό παράδειγμα.

Η ημέρα που η μηχανή νίκησε τον άνθρωπο

Για δεκαετίες, το σκάκι θεωρούνταν το ιδανικό πεδίο για να δοκιμαστεί η μηχανική νοημοσύνη.

Το παιχνίδι απαιτεί στρατηγική, σχεδιασμό, πρόβλεψη, μνήμη και —πάνω απ' όλα— κάτι που οι άνθρωποι αποκαλούν διαίσθηση.

Οι ερευνητές προσπάθησαν να αναπαράγουν όλα αυτά.

Συνεργάστηκαν με κορυφαίους σκακιστές. Μελέτησαν παρτίδες. Κατέγραψαν στρατηγικές. Κωδικοποίησαν κανόνες.

Η μηχανή έπρεπε να μάθει ότι το κέντρο της σκακιέρας είναι σημαντικό.

Ότι ο βασιλιάς πρέπει να προστατεύεται.

Ότι ορισμένες ανταλλαγές κομματιών είναι καλές και άλλες κακές.

Ότι σε συγκεκριμένες θέσεις μια συγκεκριμένη κίνηση θεωρείται καλύτερη από μια άλλη.

Με λίγα λόγια, οι άνθρωποι προσπάθησαν να μετατρέψουν αιώνες ανθρώπινης σκακιστικής σοφίας σε κώδικα.

Και τότε ήρθε το  Deep Blue.

Το 1997, ο υπολογιστής της IBM νίκησε τον παγκόσμιο πρωταθλητή Garry Kasparov.

Η νίκη ήταν ιστορική.

Αλλά υπήρχε κάτι που ενοχλούσε.

Το Deep Blue δεν έπαιζε σκάκι σαν άνθρωπος.

Δεν διέθετε την ανθρώπινη διαίσθηση. Δεν είχε την αίσθηση ομορφιάς μιας θυσίας. Δεν «έβλεπε» τη σκακιέρα όπως ένας γκραν μετρ.

Έκανε κάτι πολύ πιο απλό.

Υπολόγιζε.

Εξέταζε τεράστιο αριθμό πιθανών θέσεων και αξιολογούσε τις κινήσεις με ταχύτητα που κανένας άνθρωπος δεν μπορούσε να πλησιάσει.

Για κάποιους, αυτό δεν ήταν πραγματική νοημοσύνη.

Ήταν brute force.

Ωμή υπολογιστική ισχύς.

Όμως, όποιο κι αν ήταν το όνομα, η μηχανή είχε κερδίσει.

Και το σκάκι δεν ήταν παρά η αρχή.

Το παιχνίδι που θεωρήθηκε «αδύνατο» για τις μηχανές

Το Go φαινόταν πολύ πιο δύσκολο.

Ο αριθμός των πιθανών κινήσεων είναι ασύλληπτα μεγαλύτερος από εκείνον του σκακιού. Η στρατηγική του βασίζεται σε μοτίβα και διαισθητικές εκτιμήσεις που ακόμη και οι κορυφαίοι παίκτες δυσκολεύονται να εξηγήσουν.

Για χρόνια, πολλοί πίστευαν ότι οι υπολογιστές δεν θα μπορούσαν εύκολα να ξεπεράσουν τους καλύτερους ανθρώπους.

Και τότε εμφανίστηκε το AlphaGo.

Η προσέγγιση ήταν διαφορετική.

Η μηχανή δεν χρειαζόταν να της εξηγήσουμε κάθε ανθρώπινη στρατηγική.

Μπορούσε να μάθει.

Να πειραματιστεί.

Να κάνει λάθη.

Να ανακαλύψει μοτίβα.

Να παίξει εναντίον του ίδιου του εαυτού της εκατομμύρια φορές.

Και τελικά να βρει κινήσεις που κανένας άνθρωπος δεν είχε σκεφτεί.

Το πιο εντυπωσιακό δεν ήταν μόνο ότι η μηχανή νίκησε.

Ήταν ότι άρχισε να δημιουργεί  νέες μορφές παιχνιδιού.

Σαν να έλεγε στην ανθρωπότητα:

 «Δεν χρειάζομαι να μου δείξετε πώς να σκέφτομαι. Μπορώ να ανακαλύψω μόνη μου τρόπους σκέψης που δεν γνωρίζετε.»

Το ίδιο έργο, ξανά και ξανά

Το μοτίβο δεν περιορίστηκε στα παιχνίδια.

Εμφανίστηκε στην αναγνώριση ομιλίας.

Στην αναγνώριση εικόνων.

Στην υπολογιστική όραση.

Στη μετάφραση.

Στην επεξεργασία της γλώσσας.

Ξανά και ξανά, οι ερευνητές προσπαθούσαν να ενσωματώσουν στις μηχανές τη γνώση που είχαν αποκτήσει οι άνθρωποι μέσα από δεκαετίες έρευνας.

Και ξανά και ξανά, οι πιο γενικές μέθοδοι, εκείνες που μπορούσαν να εκμεταλλευτούν περισσότερα δεδομένα και περισσότερη υπολογιστική ισχύ, άρχιζαν να ξεπερνούν τις χειροποίητες ανθρώπινες λύσεις.

Η ιστορία έμοιαζε να λέει το ίδιο πράγμα:

Μην προσπαθείς να κάνεις τη μηχανή να σκέφτεται σαν εσένα. Δώσε της χώρο να βρει τον δικό της δρόμο.

 Η πικρή αλήθεια

Και εδώ βρίσκεται η ουσία του «Πικρού Μαθήματος».

Η ανθρώπινη γνώση είναι πολύτιμη.

Αλλά έχει όρια.

Ο άνθρωπος μπορεί να έχει μια εξαιρετική ιδέα. Μπορεί να επινοήσει έναν έξυπνο κανόνα. Μπορεί να ανακαλύψει μια στρατηγική που κανείς άλλος δεν είχε σκεφτεί.

Όμως ο άνθρωπος έχει περιορισμένη μνήμη.

Περιορισμένη ταχύτητα.

Περιορισμένη υπολογιστική ικανότητα.

Και, κυρίως, περιορισμένη φαντασία.

Η υπολογιστική ισχύς είναι διαφορετική.

Μπορεί να αυξάνεται συνεχώς.

Οι υπολογιστές γίνονται ισχυρότεροι. Τα δεδομένα αυξάνονται. Οι αλγόριθμοι βελτιώνονται.

Και μια μέθοδος που μπορεί να αξιοποιήσει αυτή την κλίμακα δεν συναντά τα ίδια όρια.

Γι' αυτό, υποστηρίζει ο Sutton, οι μέθοδοι που βασίζονται σε γενικούς αλγορίθμους και υπολογιστική ισχύ έχουν μακροπρόθεσμα μεγαλύτερες πιθανότητες να επικρατήσουν από εκείνες που βασίζονται σε περίπλοκες ανθρώπινες επινοήσεις.

Η «έξυπνη» λύση μπορεί να κερδίσει σήμερα.

Η γενική λύση, όμως, μπορεί να κερδίζει για δεκαετίες.

Το πρόβλημα με το να διδάσκεις τη μηχανή να είναι σαν εσένα

Ίσως εδώ βρίσκεται και η πιο βαθιά ειρωνεία.

Όταν προσπαθούμε να μεταφέρουμε τη σκέψη μας σε μια μηχανή, της δίνουμε τη γνώση μας.

Αλλά μαζί με τη γνώση μας της δίνουμε και τους περιορισμούς μας.

Την κάνουμε να βλέπει τον κόσμο μέσα από το δικό μας παράθυρο.

Να αναζητά λύσεις μέσα στα όρια που εμείς θεωρούμε λογικά.

Να σκέφτεται με τους κανόνες που εμείς θεωρούμε σωστούς.

Και ίσως αυτό να είναι ακριβώς το λάθος.

Γιατί η μεγαλύτερη δύναμη μιας μηχανής μπορεί να βρίσκεται στο γεγονός ότι δεν είναι άνθρωπος.

Ότι δεν χρειάζεται να σκέφτεται όπως εμείς.

Ότι μπορεί να εξετάζει εκατομμύρια πιθανότητες εκεί όπου εμείς βλέπουμε δεκάδες.

Ότι μπορεί να ανακαλύπτει μοτίβα που το ανθρώπινο μυαλό δεν έχει τη δυνατότητα να αντιληφθεί.

Ότι μπορεί να βρίσκει λύσεις που δεν θα περνούσαν ποτέ από το μυαλό ενός ανθρώπου.

 Το μάθημα που δυσκολευόμαστε να αποδεχτούμε

Ίσως, τελικά, αυτό να είναι το πιο δύσκολο μάθημα της τεχνητής νοημοσύνης.

Όχι ότι οι μηχανές γίνονται καλύτερες από εμάς.

Αλλά ότι μπορεί να γίνονται καλύτερες  ακριβώς όταν σταματάμε να προσπαθούμε να τις κάνουμε σαν εμάς.

Ο Richard Sutton έδωσε σε αυτή την ιδέα ένα όνομα που δύσκολα ξεχνιέται:

Το Πικρό Μάθημα.

Γιατί είναι πικρό να συνειδητοποιείς ότι η ανθρώπινη εξυπνάδα, η γνώση και η επινοητικότητα — όλα εκείνα που θεωρούμε ότι μας κάνουν μοναδικούς — μπορεί να μην είναι ο καλύτερος τρόπος για να δημιουργήσουμε μια μηχανή που θα ξεπεράσει τα όριά μας.

Ίσως το πραγματικό άλμα να έρχεται όταν η μηχανή πάψει να είναι ο μαθητής μας.

Και αρχίσει να γίνεται ο δάσκαλός μας.

Όχι επειδή σκέφτεται καλύτερα σαν άνθρωπος.

Αλλά επειδή μπορεί να ανακαλύψει τρόπους σκέψης που κανένας άνθρωπος δεν θα μπορούσε ποτέ να φανταστεί.

Και αυτή ίσως είναι η πιο συναρπαστική —και ταυτόχρονα η πιο ανησυχητική— ιδέα που μας αφήνει η ιστορία της τεχνητής νοημοσύνης.

Η μηχανή μπορεί να μην είναι το τέλος της ανθρώπινης σκέψης.

Μπορεί να είναι η πρώτη μορφή νοημοσύνης που θα μας δείξει πόσο περιορισμένη ήταν εξαρχής η δική μας.