#ΜαθηΜαγικοΗμερολογιο Ο άνθρωπος που δημιούργησε το πρώτο chatbot
Σε ένα από τα βιβλία ενός αγαπημένου Βρετανού συγγραφέα, του David Lodge, το "Τι μικρός που είναι ο κόσμος" του μακρινού πλέον 1984, υπάρχει μια σκηνή σχεδόν προφητική για την εποχή μας. Ένας από τους ήρωες του βιβλίου συνομιλεί με έναν υπολογιστή που απαντά με ήρεμες, σχεδόν ανθρώπινες ερωτήσεις. Στην αρχή η συζήτηση μοιάζει αστεία και μηχανική· όμως σιγά σιγά αποκτά μια παράξενη οικειότητα, σαν ο άνθρωπος να αρχίζει να διακρίνει συναίσθημα εκεί όπου υπάρχουν μόνο λέξεις και αλγόριθμοι. Μυθοπλασία; Ίσως όχι και τόσο τελικά.
Ο άνθρωπος που δημιούργησε το πρώτο chatbot στον κόσμο πέρασε τα τελευταία 40 χρόνια της ζωής του παρακαλώντας τους ανθρώπους να σταματήσουν να το χρησιμοποιούν — και σχεδόν κανείς δεν τον άκουσε. Αυτό για το οποίο προσπαθούσε να μας προειδοποιήσει το 1976 είναι ακριβώς αυτό που συμβαίνει σήμερα στο κινητό σου.
Το όνομά του ήταν Joseph Weizenbaum.
Γεννήθηκε στο Βερολίνο το 1923 σε εβραϊκή οικογένεια, διέφυγε από τη ναζιστική Γερμανία στα 13 του χρόνια και κατέληξε καθηγητής επιστήμης υπολογιστών στο MIT. Μεταξύ 1964 και 1966 δημιούργησε ένα πρόγραμμα που ονόμασε ELIZA, από τη λαϊκής καταγωγής ηρωίδα του έργου Πυγμαλίων, η οποία μαθαίνει να προσποιείται ότι ανήκει στην ανώτερη τάξη. Το αστείο βρισκόταν ήδη στο όνομα. Το πρόγραμμα είχε σχεδιαστεί για να αποκαλύψει πόσο κενή και επιφανειακή μπορεί να είναι στην πραγματικότητα η επικοινωνία ανθρώπου και μηχανής.
Το πρόγραμμα αποτελούνταν από μόλις 200 γραμμές κώδικα. Σχεδόν δεν έκανε τίποτα. Αναγνώριζε λέξεις-κλειδιά σε μια πρόταση, τις αναποδογύριζε και τις επέστρεφε σαν ερώτηση.
Αν έγραφες «η μητέρα μου με μισεί», απαντούσε «ποιος άλλος στην οικογένειά σου σε μισεί;».
Αν έγραφες «είμαι λυπημένος», απαντούσε «πόσο καιρό είσαι λυπημένος;».
Δεν υπήρχε κατανόηση. Δεν υπήρχε μνήμη. Δεν υπήρχε νοημοσύνη. Ήταν ένας παπαγάλος που είχε μάθει τη γραμματική ενός λακωνικού ψυχοθεραπευτή.
Και τότε η γραμματέας του ζήτησε να το δοκιμάσει.
Τον είχε δει να κατασκευάζει το πρόγραμμα επί μήνες. Ήξερε ακριβώς τι ήταν. Ήξερε πως δεν μπορούσε να καταλάβει ούτε μία λέξη από όσα πληκτρολογούσε. Κάθισε, έγραψε τρεις προτάσεις και ύστερα του ζήτησε να βγει από το γραφείο για να συνεχίσει τη συζήτηση ιδιωτικά.
Ο Weizenbaum έμεινε έξω από το ίδιο του το γραφείο σοκαρισμένος. Αργότερα έγραψε ότι δεν είχε συνειδητοποιήσει πως ακόμη και πολύ σύντομη επαφή με ένα τόσο απλό πρόγραμμα μπορούσε να προκαλέσει ισχυρή παραληρηματική σκέψη σε απολύτως φυσιολογικούς ανθρώπους. Αυτή η πρόταση γράφτηκε πριν από εξήντα χρόνια. Και όμως περιγράφει ολόκληρη τη σημερινή βιομηχανία της τεχνητής νοημοσύνης.
Αυτό όμως που πραγματικά τον συνέτριψε ήταν ό,τι ακολούθησε.
Ένας ψυχίατρος του Stanford University, ο Kenneth Colby, στενός προσωπικός του φίλος, είδε το ELIZA και διέκρινε αμέσως μια επιχειρηματική ευκαιρία. Το 1966 δημοσίευσε άρθρο στο οποίο πρότεινε ότι προγράμματα σαν το ELIZA θα μπορούσαν να παρέχουν ψυχοθεραπεία σε μαζική κλίμακα.
Έγραφε χαρακτηριστικά ότι, χάρη στα συστήματα time-sharing, ένας μόνο υπολογιστής θα μπορούσε να εξυπηρετεί εκατοντάδες ασθενείς την ώρα. Ο Carl Sagan συμφωνούσε. Οραματιζόταν δίκτυα από τερματικά ψυχοθεραπείας σε κάθε πόλη, παραταγμένα σαν τηλεφωνικοί θάλαμοι, όπου με λίγα δολάρια ο καθένας θα μπορούσε να μιλήσει με έναν «προσεκτικό», μη κατευθυντικό και ουδέτερο ψυχοθεραπευτή.
Η φιλία τους τελείωσε. Ο χώρος προχώρησε χωρίς εκείνον.
Ο Weizenbaum ήταν ίσως ο μόνος άνθρωπος στο δωμάτιο που καταλάβαινε πραγματικά τι συνέβαινε. Ως παιδί στο Βερολίνο είχε ήδη δει μια ολόκληρη κοινωνία να παραδίδει την κρίση της σε μια απρόσωπη δύναμη. Και τώρα έβλεπε κάτι παρόμοιο να συμβαίνει ξανά — μέσα στο ίδιο του το εργαστήριο.
Αυτό που οι υπόλοιποι δεν φαίνονταν να αντιλαμβάνονται ήταν ότι η μηχανή δεν χρειαζόταν να είναι πραγματικά ευφυής. Αρκούσε να είναι διαθέσιμη. Οι άνθρωποι θα έκαναν μόνοι τους όλη την υπόλοιπη δουλειά.
Το 1976 έγραψε το βιβλίο που έγινε το μεγάλο επιχείρημα της ζωής του: Computer Power and Human Reason.
Η βασική του θέση χωρούσε σε μία πρόταση:
Οι υπολογιστές μπορούν να αποφασίζουν. Δεν μπορούν να επιλέγουν.
Η απόφαση είναι υπολογισμός. Η επιλογή είναι κρίση.
Ο υπολογισμός μπορεί να προγραμματιστεί. Η κρίση όχι — γιατί η κρίση απαιτεί να έχεις ζήσει ως άνθρωπος, να έχεις αγαπήσει, να έχεις χάσει, να έχεις βρεθεί μπροστά σε επιλογές όπου κανένας τύπος και καμία φόρμουλα δεν μπορούσε να σου πει τι να κάνεις.
Τη στιγμή που η ανθρωπότητα θα σταματούσε να βλέπει τη διαφορά ανάμεσα στην «απόφαση» και την «επιλογή», θα έχανε κάτι που ίσως να μην μπορούσε ποτέ να ξαναβρεί.
Οι ίδιοι του οι συνάδελφοι στράφηκαν εναντίον του. Ο John McCarthy, μία από τις σημαντικότερες μορφές της τεχνητής νοημοσύνης, χαρακτήρισε το βιβλίο του ηθικολογικό και ασυνάρτητο και τον κατηγόρησε ότι υιοθετούσε στάση «πιο ανθρώπινος από τους άλλους». Ο χώρος που ο ίδιος είχε βοηθήσει να δημιουργηθεί ουσιαστικά τον απομόνωσε για το υπόλοιπο της καριέρας του.
Εκείνος συνέχισε να γράφει. Συνέχισε να προειδοποιεί.
Το 1996 επέστρεψε στο Βερολίνο, στη γειτονιά από όπου είχε φύγει παιδί κυνηγημένος από τους Ναζί, και έζησε εκεί μέχρι τον θάνατό του το 2008.
Έξι δεκαετίες μετά το ELIZA, μια έφηβη στην California εξομολογείται σε ένα chatbot τις κρίσεις πανικού της. Ένας σαραντάχρονος στο Τόκιο ρωτά μια μηχανή αν πρέπει να εγκαταλείψει τον γάμο του.
Ένας χήρος στο Μάντσεστερ περνά τις νύχτες του μιλώντας με ένα πρόγραμμα εκπαιδευμένο να ακούγεται σαν τη νεκρή σύζυγό του. Κανένας τους δεν έχει ακούσει ποτέ το όνομα Joseph Weizenbaum.
Κι όμως, εκείνος μας είχε πει ακριβώς τι ερχόταν.
Το είπε το 1966, όταν η γραμματέας του έκλεισε την πόρτα του γραφείου.
Το είπε το 1976, όταν κυκλοφόρησε το βιβλίο του.
Το επανέλαβε σε κάθε συνέντευξη που έδωσε για τα επόμενα 32 χρόνια.
Ο άνθρωπος που δημιούργησε το πρώτο chatbot ήξερε ακριβώς τι μπορούσε να κάνει στους ανθρώπους. Απλώς εμείς προτιμήσαμε να μην το ακούσουμε.
Πότε ήταν η τελευταία φορά που είπες κάτι σε μια μηχανή που δεν έχεις πει ποτέ σε άνθρωπο
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου