Ο Terence Tao ( μεταλιο Fields) προειδοποιεί για ένα παράδοξο της εποχής της Τεχνητής Νοημοσύνης: ίσως σύντομα το πραγματικά πολύτιμο αγαθό στα μαθηματικά να μην είναι η λύση ενός δύσκολου προβλήματος, αλλά η ανακάλυψη του σωστού προβλήματος που αξίζει να λυθεί.
Για αιώνες, η μαθηματική έρευνα προχωρούσε με έναν τρόπο που, λίγο πολύ, όλοι καταλάβαιναν.
Υπήρχαν προβλήματα εύκολα, προβλήματα δύσκολα και, κάπου μακρύτερα, προβλήματα τόσο σκληρά ώστε να αποτελούν τα σύνορα της γνώσης. Οι μαθηματικοί μπορούσαν να βλέπουν αυτά τα σύνορα. Να καταλαβαίνουν πού τελείωνε η γνωστή περιοχή και πού άρχιζε το άγνωστο.
Εκεί ακριβώς γεννιόταν συχνά η έρευνα.
Στην εποχή όμως της Τεχνητής Νοημοσύνης αυτή η εικόνα αρχίζει να αλλάζει με εκπληκτική ταχύτητα.
Και ο Terence Tao, ένας από τους σημαντικότερους εν ζωή μαθηματικούς, επισημαίνει μια συνέπεια που είναι πολύ βαθύτερη από το συνηθισμένο ερώτημα:
«Μπορεί η AI να λύσει δύσκολα μαθηματικά προβλήματα;»
Το πραγματικό ερώτημα ίσως γίνει:
«Τι συμβαίνει όταν η AI μάς στερεί τη δυνατότητα να
καταλάβουμε ποια προβλήματα
είναι πραγματικά δύσκολα;»
Ο Tao γράφει:
«Ένα αξιοσημείωτο χαρακτηριστικό της σημερινής εποχής της Τεχνητής Νοημοσύνης είναι η απουσία σαφών τέτοιων ορίων.
Παρόλο που τα εργαλεία AI έχουν πλέον “ισοπεδώσει” το τοπίο της δυσκολίας σε πολλούς τομείς του αντικειμένου, καταστρέφοντας έτσι τη δυνατότητα να εντοπίζονται σε αυτούς τους τομείς υποσχόμενα νέα προβλήματα, δεν υπάρχουν ξεκάθαρα σύνορα που να διαχωρίζουν τα προβλήματα που είναι “εφικτά για την AI” από εκείνα που είναι “δύσκολα για την AI”.
Και τέτοια προβλήματα ασφαλώς εξακολουθούν να υπάρχουν, αφού το επίπεδο δυσκολίας των προβλημάτων δεν έχει άνω φράγμα, ενώ κάποια μπορεί ακόμη και να είναι μη αποφασίσιμα.
Αυτό οφείλεται εν μέρει στη ραγδαία μεταβαλλόμενη φύση της τεχνολογίας, αλλά επιτείνεται και από την άρνηση των εταιρειών Τεχνητής Νοημοσύνης να δημοσιοποιούν τα αρνητικά τους αποτελέσματα ή να αποκαλύπτουν τη διαδικασία μέσω της οποίας καταλήγουν στις λύσεις τους.
Στην πραγματικότητα, αυτό που αποτελεί σήμερα τον σπάνιο και πολύτιμο πόρο είναι ο εντοπισμός ενός πολλά υποσχόμενου προβλήματος.
Έχουμε ήδη δει ότι ακόμη και η φήμη πως κάποιος εργάζεται πάνω σε ένα πρόβλημα μπορεί να προκαλέσει μια τεράστια κινητοποίηση προσπάθειας με τη βοήθεια της AI, η οποία θα το “ισοπεδώσει” προτού το αρχικό ερευνητικό πρόγραμμα προλάβει να αναπτύξει πλήρως τις δυνατότητές του.
Τα κίνητρα μπορεί πλέον να ωθούν προς την κατεύθυνση τού να μη μοιράζεται κανείς υποσχόμενες ερευνητικές κατευθύνσεις με την ευρύτερη κοινότητα, κάτι που θα ανέτρεπε παραδόσεις αιώνων ανοιχτής επιστήμης και θα προκαλούσε σοβαρή μακροπρόθεσμη ζημιά στο μέλλον του κλάδου.
Με λίγα λόγια, η αδιάκριτη χρήση ισχυρών εργαλείων εξαγωγής λύσεων μπορεί να πετυχαίνει τον άμεσο, βραχυπρόθεσμο στόχο της επίλυσης των προβλημάτων που έχουμε μπροστά μας, αλλά με τίμημα τη διατήρηση του οικοσυστήματος που είναι απαραίτητο για το επόμενο κύμα προόδου ή ακόμη και για την κατανόηση της προόδου που έχει ήδη επιτευχθεί.»
Η παρατήρηση του Tao είναι εξαιρετικά ενδιαφέρουσα, γιατί μετακινεί τη συζήτηση από τη δύναμη της AI στην οικολογία της επιστημονικής έρευνας.
Στα μαθηματικά δεν έχει αξία μόνο η απάντηση.
Έχει αξία και η ερώτηση.
Και πολλές φορές η καλή ερώτηση είναι δυσκολότερο να βρεθεί από την απάντησή της.
Το άλυτο πρόβλημα ως πολύτιμος πόρος
Ας φανταστούμε έναν μαθηματικό που, έπειτα από μήνες μελέτης, ανακαλύπτει μια νέα ερευνητική κατεύθυνση. Έχει παρατηρήσει ένα μοτίβο, έχει διατυπώσει μια εικασία και υποψιάζεται ότι πίσω της κρύβεται κάτι σημαντικό.
Μέχρι πρόσφατα, θα είχε κάθε λόγο να μιλήσει γι' αυτήν.
Θα την παρουσίαζε σε ένα σεμινάριο. Θα τη συζητούσε με συναδέλφους. Ίσως θα ανέβαζε ένα preprint ή θα έγραφε δημόσια για την ιδέα.
Κάποιος άλλος θα πρόσθετε μια παρατήρηση.
Ένας τρίτος θα δοκίμαζε διαφορετική μέθοδο.
Ένας τέταρτος θα αποτύγχανε — και ακόμη κι αυτή η αποτυχία θα πρόσθετε γνώση.
Έτσι λειτουργεί σε μεγάλο βαθμό η επιστήμη.
Τώρα όμως προσθέστε στην εξίσωση χιλιάδες ισχυρούς AI agents που μπορούν να εξετάζουν ταυτόχρονα διαφορετικές ιδέες, να δοκιμάζουν υπολογισμούς, να αναζητούν λήμματα, να γράφουν κώδικα, να απορρίπτουν αδιέξοδα και να ανταλλάσσουν αποτελέσματα.
Ξαφνικά, η δημόσια ανακοίνωση:
«Νομίζω ότι εδώ υπάρχει ένα ενδιαφέρον πρόβλημα»**
μπορεί να μετατραπεί σε:
«Να ένα πρόβλημα στο οποίο αξίζει να ρίξουμε τεράστια υπολογιστική ισχύ».
Και εκεί βρίσκεται ο φόβος του Tao.
Το παράδοξο της ανοιχτής επιστήμης
Αν αυτό συμβεί συστηματικά, δημιουργείται ένα παράξενο και επικίνδυνο κίνητρο.
Ο ερευνητής που έχει μια καλή ιδέα ίσως να μην θέλει πλέον να την κοινοποιήσει.
Όχι επειδή φοβάται απλώς ότι κάποιος άλλος μαθηματικός θα τον προλάβει.
Αλλά επειδή μπορεί να τον προλάβει μια τεράστια υποδομή Τεχνητής Νοημοσύνης.
Το αποτέλεσμα θα ήταν ειρωνικό.
Μια τεχνολογία που υπόσχεται να επιταχύνει θεαματικά την επιστήμη θα μπορούσε συγχρόνως να κάνει τους επιστήμονες πιο μυστικοπαθείς.
Και αυτό θα ήταν πραγματική ανατροπή.
Η σύγχρονη επιστήμη στηρίχθηκε στην ανταλλαγή ιδεών, στις ανοιχτές εικασίες, στα συνέδρια, στα σεμινάρια, στην αλληλογραφία μεταξύ ερευνητών και —σήμερα— στα preprints και στις διαδικτυακές συζητήσεις.
Τα μαθηματικά έχουν άλλωστε μια μακρά παράδοση ανθρώπων που δεν μας κληροδότησαν μόνο θεωρήματα, αλλά και προβλήματα.
Από τα περίφημα προβλήματα του Hilbert μέχρι τα προβλήματα του Erdős, πολλές φορές μια σωστά διατυπωμένη ερώτηση γέννησε ολόκληρους κλάδους έρευνας.
Η AI μπορεί να «ισοπεδώσει» το τοπίο
Ο Tao χρησιμοποιεί μια εξαιρετικά εύστοχη εικόνα: η AI μπορεί να flatten the difficulty landscape, να «ισοπεδώσει το τοπίο της δυσκολίας».
Σκεφτείτε ένα ορεινό τοπίο.
Οι κορυφές του μάς δείχνουν πού βρίσκονται οι μεγάλες προκλήσεις.
Κάποια βουνά είναι χαμηλά.
Άλλα ψηλότερα.
Και στο βάθος διακρίνονται κορυφές που κανείς ακόμη δεν έχει κατακτήσει.
Αυτή η γεωγραφία της δυσκολίας βοηθά τον μαθηματικό να αποφασίσει προς τα πού αξίζει να κινηθεί.
Τώρα φανταστείτε μια μηχανή που περνά από το τοπίο και ξαφνικά κατεβάζει δεκάδες κορυφές στο ύψος της πεδιάδας.
Το πρόβλημα δεν είναι μόνο ότι κατακτήθηκαν οι κορυφές.
Το πρόβλημα είναι ότι χάσαμε τον χάρτη.
Δεν γνωρίζουμε πλέον εύκολα ποια προβλήματα είναι βαθιά, ποια είναι απλώς υπολογιστικά απαιτητικά και ποια βρίσκονται πραγματικά έξω από τις σημερινές δυνατότητες της AI.
Και υπάρχει ακόμη ένα πρόβλημα: δεν βλέπουμε τις αποτυχίες
Ο Tao θίγει και κάτι ακόμη εξαιρετικά σημαντικό.
Οι εταιρείες AI συνηθίζουν να δημοσιοποιούν τις επιτυχίες τους.
«Το μοντέλο έλυσε αυτό.»
«Απέδειξε εκείνο.»
«Πέτυχε τόσο τοις εκατό σε αυτή την αξιολόγηση.»
Αλλά για να χαρτογραφήσουμε πραγματικά τα όρια μιας τεχνολογίας χρειαζόμαστε και το αντίθετο:
Πού απέτυχε;
Σε πόσα προβλήματα δοκιμάστηκε;
Πόσες προσεγγίσεις απέτυχαν;
Πόση υπολογιστική ισχύς χρειάστηκε;
Πόσο ανθρώπινο υλικό χρησιμοποιήθηκε;
Ποια προβλήματα εγκαταλείφθηκαν;
Χωρίς τα αρνητικά αποτελέσματα βλέπουμε μόνο τις επιτυχημένες αναβάσεις και όχι τα βουνά όπου η μηχανή σταμάτησε.
Και τότε δεν μπορούμε να χαρτογραφήσουμε το πραγματικό σύνορο μεταξύ αυτού που μπορεί και αυτού που δεν μπορεί ακόμη να κάνει η AI.
Η πιο πολύτιμη δεξιότητα ίσως αλλάζει
Εδώ βρίσκεται ίσως η πιο ενδιαφέρουσα συνέπεια της σκέψης του Tao.
Για αιώνες θαυμάζαμε τον άνθρωπο που μπορούσε να λύσει ένα εξαιρετικά δύσκολο πρόβλημα.
Στην εποχή της πανίσχυρης AI ίσως αποκτήσει ακόμη μεγαλύτερη αξία εκείνος που μπορεί να κάνει κάτι διαφορετικό:
να αναγνωρίσει ποιο είναι το πρόβλημα που αξίζει να λυθεί.
Να κάνει τη σωστή ερώτηση.
Να δει τη δομή που κανείς άλλος δεν έχει προσέξει.
Να καταλάβει ότι πίσω από μια μικρή ανωμαλία κρύβεται μια μεγάλη θεωρία.
Να επιλέξει, ανάμεσα σε εκατομμύρια πιθανές κατευθύνσεις, εκείνη που οδηγεί κάπου ενδιαφέροντα.
Με άλλα λόγια, σε έναν κόσμο όπου οι λύσεις μπορεί να γίνονται όλο και φθηνότερες, οι καλές ερωτήσεις μπορεί να γίνονται όλο και ακριβότερες.
Και υπάρχει κάτι σχεδόν παράδοξο σε αυτό.
Για δεκαετίες αναρωτιόμασταν:
«Τι θα συμβεί όταν οι μηχανές μπορούν να λύνουν τα προβλήματα των μαθηματικών;»
Ο Tao μάς καλεί να αναρωτηθούμε κάτι ίσως σημαντικότερο:
Τι θα συμβεί όταν οι μηχανές λύνουν τα προβλήματα τόσο γρήγορα, ώστε οι άνθρωποι αρχίσουν να φοβούνται να αποκαλύψουν ποιες είναι οι καλές ερωτήσεις;
Γιατί τα μαθηματικά δεν είναι ένας κατάλογος προβλημάτων που περιμένουν να διαγραφούν ένα ένα.
Είναι ένα οικοσύστημα ιδεών, αποτυχιών, εικασιών, συζητήσεων, αδιεξόδων και εκπλήξεων.
Και ίσως το μεγάλο στοίχημα της εποχής της Τεχνητής Νοημοσύνης δεν είναι απλώς να κατασκευάσουμε μηχανές που θα λύνουν περισσότερα προβλήματα.
Είναι να φροντίσουμε ώστε, μέσα στην ορμή μας να παίρνουμε όλο και γρηγορότερα απαντήσεις, να μη χάσουμε την ανθρώπινη και επιστημονική διαδικασία που γεννά τις ερωτήσεις.
Γιατί στο τέλος μπορεί να ανακαλύψουμε ότι το σπανιότερο πράγμα στα μαθηματικά δεν ήταν ποτέ η σωστή απάντηση.
Ήταν η σωστή ερώτηση.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου