Ο Άνθρωπος που δίδαξε τις πιθανότητες να αλλάζουν γνώμη

Ο άνθρωπος που άλλαξε τον τρόπο με τον οποίο η ανθρωπότητα αντιμετωπίζει την αβεβαιότητα δεν ήταν καθηγητής πανεπιστημίου. Δεν είχε μαθητές. Δεν έδωσε ποτέ διάλεξη για τη μεγάλη του ιδέα και δεν τη δημοσίευσε όσο ζούσε.

Το όνομά του ήταν Τόμας Μπέιζ (Thomas Bayes).

Το πιο παράξενο είναι ότι δεν ήταν επαγγελματίας μαθηματικός. Ήταν Πρεσβυτεριανός ιερέας και πέρασε το μεγαλύτερο μέρος της ζωής του κηρύττοντας σε ένα μικρό παρεκκλήσι στο Τάνμπριτζ Γουέλς, στην κομητεία του Κεντ.

Σε ολόκληρη τη ζωή του δημοσίευσε μόλις δύο έργα: ένα θρησκευτικό φυλλάδιο και μια μαθηματική πραγματεία με την οποία υπερασπίστηκε τον διαφορικό λογισμό του Ισαάκ Νεύτωνα απέναντι στις επικρίσεις του επισκόπου Τζορτζ Μπέρκλεϋ. Η εργασία αυτή ήταν αρκετή για να εκλεγεί μέλος της Βασιλικής Εταιρείας (Royal Society) το 1742.

Ωστόσο, το έργο που έμελλε να τον κάνει αθάνατο δεν ήταν κανένα από τα δύο.

Στον ελεύθερο χρόνο του εργαζόταν πάνω σε ένα δύσκολο πρόβλημα της θεωρίας πιθανοτήτων. Δεν αναζητούσε φήμη ούτε αναγνώριση. Δεν παρουσίασε ποτέ τα αποτελέσματά του σε συναδέλφους ούτε τα υπέβαλε για δημοσίευση. Το χειρόγραφο έμεινε κλεισμένο στο γραφείο του, γνωστό μόνο στον ίδιο.

Όταν πέθανε το 1761, τα προσωπικά του χαρτιά παραδόθηκαν στον στενό του φίλο, τον επίσης ιερέα Ρίτσαρντ Πράις.

Καθώς τα ταξινομούσε, ο Πράις ανακάλυψε ένα χειρόγραφο με τίτλο «An Essay Towards Solving a Problem in the Doctrine of Chances» («Δοκίμιο με σκοπό την επίλυση ενός προβλήματος στη θεωρία των πιθανοτήτων»).

Κατάλαβε αμέσως ότι κρατούσε στα χέρια του κάτι εξαιρετικά σημαντικό.

Αφιέρωσε περίπου δύο χρόνια στην επιμέλεια και τη συμπλήρωσή του και το υπέβαλε στη Βασιλική Εταιρεία. Η εργασία διαβάστηκε σε συνεδρίασή της τον Δεκέμβριο του 1763, δυόμισι χρόνια μετά τον θάνατο του Μπέιζ.

Το πρόβλημα που πραγματευόταν φαίνεται απλό. Με σημερινούς όρους θα λέγαμε:

Ένα διαγνωστικό τεστ βγαίνει θετικό. Ποια είναι η πραγματική πιθανότητα ο ασθενής να πάσχει από τη νόσο;

Ένα μήνυμα ηλεκτρονικού ταχυδρομείου περιέχει πολλές λέξεις όπως «δωρεάν» και «προσφορά». Πόσο πιθανό είναι να πρόκειται για ανεπιθύμητη αλληλογραφία;

Πριν από τον Μπέιζ, οι μαθηματικοί μπορούσαν να υπολογίσουν την πιθανότητα να παρατηρηθούν ορισμένα δεδομένα, εφόσον μια υπόθεση ήταν αληθής. Εκείνο που έλειπε ήταν ένας γενικός τρόπος να αντιστραφεί ο συλλογισμός: να εκτιμηθεί πόσο πιθανό είναι να ισχύει η ίδια η υπόθεση, αφού έχουν ήδη παρατηρηθεί τα δεδομένα.

Αυτό ακριβώς περιγράφει το Θεώρημα του Μπέιζ.

Ξεκινάς από μια αρχική εκτίμηση —την εκ των προτέρων πιθανότητα— και κάθε νέο στοιχείο την αναθεωρεί. Η νέα εκτίμηση γίνεται η αφετηρία για το επόμενο στοιχείο και η διαδικασία επαναλαμβάνεται συνεχώς.

Με άλλα λόγια, η γνώση δεν είναι στατική· εξελίσσεται κάθε φορά που αποκτούμε νέες πληροφορίες.

Για πολλές δεκαετίες, το έργο του Μπέιζ παρέμεινε σχεδόν άγνωστο. Αργότερα, ο Πιερ-Σιμόν Λαπλάς ανέπτυξε ανεξάρτητα τις ίδιες βασικές ιδέες και τις επέκτεινε σε μια ολοκληρωμένη μαθηματική θεωρία, η οποία αποτέλεσε το θεμέλιο της σύγχρονης Μπεϋζιανής Στατιστικής.

Χρειάστηκε να περάσουν σχεδόν δύο αιώνες μέχρι να αναδειχθεί πραγματικά η αξία της ιδέας του.

Όταν εμφανίστηκαν οι ηλεκτρονικοί υπολογιστές και κατέστη δυνατή η εκτέλεση τεράστιου αριθμού υπολογισμών, το Θεώρημα του Μπέιζ βρήκε τη θέση που του άξιζε.

Σήμερα, φίλτρα ανεπιθύμητης αλληλογραφίας αξιολογούν κάθε εισερχόμενο μήνυμα χρησιμοποιώντας μπεϋζιανές τεχνικές. Στην ιατρική, η ερμηνεία ενός θετικού διαγνωστικού αποτελέσματος βασίζεται στις ίδιες αρχές της αναθεώρησης πιθανοτήτων. Στη μηχανική μάθηση, στην τεχνητή νοημοσύνη, στη ρομποτική, στην επεξεργασία φυσικής γλώσσας και σε πολλές ακόμη εφαρμογές, οι μπεϋζιανές μέθοδοι αποτελούν βασικό εργαλείο για την εξαγωγή συμπερασμάτων από αβέβαια δεδομένα.

Κι όμως, ο άνθρωπος που άνοιξε αυτόν τον δρόμο δεν έμαθε ποτέ ότι το έργο του θα επηρέαζε τόσο βαθιά την επιστήμη και την τεχνολογία.

Δεν είδε ποτέ το δοκίμιό του να δημοσιεύεται.

Δεν άκουσε ποτέ το όνομά του να συνδέεται με ένα από τα σημαντικότερα θεωρήματα της Στατιστικής.

Και αν ο φίλος του Ρίτσαρντ Πράις δεν είχε αποφασίσει να ανοίξει εκείνο το συρτάρι και να διαβάσει τα ξεχασμένα χειρόγραφα, μία από τις πιο επιδραστικές ιδέες στην ιστορία των μαθηματικών ίσως να είχε χαθεί για πάντα.

Να το κάνουμε φραγκοδίφραγκα

 

Στην εικόνα γράφει ότι το Θεώρημα του Bayes (Bayes' Theorem) είναι ένας θεμελιώδης κανόνας των μαθηματικών και της θεωρίας πιθανοτήτων που μας δείχνει πώς να αναθεωρούμε τις πεποιθήσεις ή τις προβλέψεις μας όταν αποκτούμε νέα δεδομένα.

Με πολύ απλά λόγια, μας βοηθάει να υπολογίσουμε την πιθανότητα να ισχύει κάτι, λαμβάνοντας υπόψη νέα στοιχεία που μόλις μάθαμε. Είναι ο μαθηματικός τρόπος να απαντήσουμε στην ερώτηση:  «Δεδομένων των νέων πληροφοριών που έχω, πόσο πρέπει να αλλάξω την αρχική μου εκτίμηση;»

Ο μαθηματικός τύπος, (εικόνα) είναι:

                                        P(A/B)=(P(B/A)P(A))/P(B)

Ας δούμε τι σημαίνει ο κάθε όρος, χρησιμοποιώντας την ορολογία της εικόνας:

P(A/B) κατοπινή  πιθανότητα (Posterior probability): Αυτή που προσπαθούμε να βρούμε.

Είναι η αναθεωρημένη πιθανότητα να ισχύει το γεγονός A, τώρα πια που γνωρίζουμε ότι έχει συμβεί το δεδομένο B.

P(A) Προηγουμένη πιθανότητα (Prior probability): Αυτό που γνωρίζαμε ή πιστεύαμε αρχικά.

Είναι η πιθανότητα να ισχύει το γεγονός A γενικά, πριν καν λάβουμε υπόψη μας τα νέα στοιχεία B.

P(B/A)  Πιθανοφάνεια (Likelihood): Η πιθανότητα να παρατηρήσουμε το δεδομένο B, αν υποθέσουμε ότι το A είναι όντως αλήθεια.

P(B) Μαρτυρία / Δεδομένο (Evidence): Η συνολική πιθανότητα να παρατηρήσουμε το δεδομένο B (το νέο μας στοιχείο), ανεξάρτητα από το αν το A ισχύει ή όχι. 

Δηλαδή; Να δούμε ένα παράδειγμα. 

Πώς το email σου χρησιμοποιεί το Θεώρημα του Bayes για να αποφασίσει αν ένα μήνυμα πρέπει να πάει στα Ανεπιθύμητα

Τα "Bayesian Spam Filters" (όπως ονομάζονται) ήταν στην πραγματικότητα μία από τις πρώτες και πιο επιτυχημένες εφαρμογές της μηχανικής μάθησης (machine learning) στην καθημερινότητά μας.Ας δούμε πώς το email σου χρησιμοποιεί το Θεώρημα του Bayes για να αποφασίσει αν ένα μήνυμα πρέπει να πάει στα Ανεπιθύμητα.

Ένα νέο email έρχεται στα εισερχόμενά σου και το σύστημα παρατηρεί ότι περιέχει τη λέξη "ΚΕΡΔΙΣΕΣ". Το φίλτρο πρέπει να υπολογίσει την εξής πιθανότητα: "Ποια είναι η πιθανότητα αυτό το email να είναι spam, δεδομένου ότι περιέχει τη λέξη ΚΕΡΔΙΣΕΣ;"

Ας ορίσουμε τα δεδομένα μας:

Γεγονός A: Το email είναι spam.

Δεδομένο (Μαρτυρία) B: Το email περιέχει τη λέξη "ΚΕΡΔΙΣΕΣ".

Το φίλτρο σου παρακολουθεί συνεχώς τι λαμβάνεις και έχει βγάλει τα εξής στατιστικά:

P(A) Πρότερη πιθανότητα: Πόσα από τα συνολικά email που λαμβάνεις κάθε μέρα είναι spam;

Ας υποθέσουμε ότι γενικά, το 20% (ή 0,20) των email σου είναι spam.

P(B/A)   Πιθανοφάνεια: Όταν ένα email είναι αποδεδειγμένα spam, πόσο συχνά περιέχει τη λέξη "ΚΕΡΔΙΣΕΣ";

Τα spam μηνύματα χρησιμοποιούν κατά κόρον τέτοιες λέξεις, οπότε ας πούμε ότι η λέξη υπάρχει στο 70% (ή 0,70) των spam email.

P(B) Μαρτυρία (Συνολική): Πόσο συχνά εμφανίζεται η λέξη "ΚΕΡΔΙΣΕΣ" σε όλα ανεξαιρέτως τα email σου;

Επειδή μερικές φορές σου στέλνει και ένας φίλος σου "Κέρδισες στο τάβλι χθες", η λέξη υπάρχει συνολικά στο 15% (ή 0,15) όλων των email σου (κανονικών και spam).

Τώρα το φίλτρο βάζει αυτούς τους αριθμούς στον μαθηματικό τύπο του Bayes που είδαμε πριν:

                                 P(A/B)=(P(B/A)P(A))/P(B)=0.7*0.2/0.15=0.933

Τι σημαίνει αυτό το 0,933;

Μεταφράζεται σε 93,3%. Πριν το φίλτρο ανοίξει το email, η πιθανότητα να ήταν spam ήταν μόνο 20% (η πρότερη πιθανότητά μας). Μόλις όμως "είδε" τη λέξη "ΚΕΡΔΙΣΕΣ", αναθεώρησε αμέσως την εκτίμησή του. Λαμβάνοντας υπόψη τη νέα πληροφορία, είναι πλέον 93,3% σίγουρο ότι το email είναι spam.

Επειδή αυτό το ποσοστό είναι πάρα πολύ υψηλό, το φίλτρο αποφασίζει να στείλει το μήνυμα κατευθείαν στον φάκελο της ανεπιθύμητης αλληλογραφίας, γλυτώνοντάς σε από τον κόπο.

Η μαγεία στην πράξη: Τα πραγματικά φίλτρα (τα λεγόμενα Naive Bayes classifiers) δεν κοιτάνε μόνο μία λέξη. Ελέγχουν ταυτόχρονα δεκάδες λέξεις (π.χ. "ΚΕΡΔΙΣΕΣ", "ΔΩΡΕΑΝ", "ΚΛΙΚ", "ΠΡΟΣΦΟΡΑ") και πολλαπλασιάζουν τις πιθανότητες της κάθε λέξης με τον ίδιο ακριβώς τρόπο, φτάνοντας σε ακρίβεια φιλτραρίσματος που ξεπερνά το 99%.