Γράφει ο Ευγένιος
Σε ένα κατάμεστο αμφιθέατρο, ένας γνωστός επιστήμονας της πληροφορικής μιλούσε για τη λαμπρότητα των μεγάλων γλωσσικών μοντέλων. «Τα συστήματα αυτά βελτιστοποιούν», είπε. Και όσο μαθαίνουν από την εμπειρία, γίνονται όλο και καλύτερα στη βελτιστοποίηση. Σταμάτησε για λίγο και χαμογέλασε. «Αυτό είναι νοημοσύνη». Το ακροατήριο συμφώνησε.
Έτσι, έφτασε στο πιο κρίσιμο φιλοσοφικό λάθος της εποχής της τεχνητής νοημοσύνης: μπερδεύουμε τον τρόπο με τον οποίο λειτουργούν οι μηχανές με αυτό που σημαίνει να είσαι άνθρωπος νοήμων. Η σύγχρονη AI πράγματι βελτιστοποιεί. Έχει στόχους, ανταμοιβές, απώλειες, προβλέψεις, κριτήρια επιτυχίας. Ένα σύστημα ενισχυτικής μάθησης μεγιστοποιεί την ανταμοιβή του. Μια μηχανή σκακιού αναζητά την κίνηση που αυξάνει την πιθανότητα νίκης. Ένα σύστημα πλοήγησης βρίσκει την ταχύτερη διαδρομή.
Αλλά υπάρχει μια λεπτομέρεια που αλλάζει τα πάντα: η μηχανή δεν αποφασίζει τι είναι αυτό που αξίζει να φτάσει στον προορισμό του. Εδώ βρίσκεται η παλιά διαμάχη ανάμεσα στον Ντέιβιντ Χιουμ και τον Ιμμάνουελ Καντ. Και η τεχνητή νοημοσύνη την επαναφέρει με εκπληκτική επικαιρότητα.
Ο Χιουμ και η λογική ως εργαλείο
Για τον Χιουμ, η λογική είναι υπηρέτης των παθών. Δεν μας λέει τι να επιθυμούμε. Μας βοηθά να πετύχουμε αυτό που ήδη επιθυμούμε. Αν θέλω εκδίκηση, η λογική μπορεί να μου δείξει τον αποτελεσματικότερο τρόπο να την πάρω. Αν θέλω ειρήνη, μπορεί να μου υποδείξει τον καλύτερο συμβιβασμό. Η επιθυμία καθορίζει τον προορισμό, η λογική χαράζει τη διαδρομή. Ο Χιουμ είχε δίκιο σε κάτι σημαντικό: η ανθρώπινη συμπεριφορά δεν είναι προϊόν ψυχρού υπολογισμού. Τα συναισθήματα, η συμπάθεια, η κοινωνικότητα, η επιθυμία και ο χαρακτήρας έχουν τεράστια σημασία.
Αλλά ο Χιουμ άφησε κάτι απ’ έξω. Ποιος αποφασίζει αν ο προορισμός αξίζει; Αν η νοημοσύνη είναι μόνο η ικανότητα να πετυχαίνουμε έναν δεδομένο στόχο, τότε δεν μπορούμε να ρωτήσουμε αν ο ίδιος ο στόχος είναι καλός, δίκαιος ή άξιος. Και εδώ εμφανίζεται ο Καντ.
*****
Για να μη χάσετε καμία ανάρτηση της Εποπτείας, γραφτείτε στο εβδομαδιαίο newsletter μας, πατώντας ΕΔΩ
Για τα videos της Εποπτείας, γραφτείτε στο κανάλι μας στο youtube, πατώντας ΕΔΩ
Βρείτε μας και στο tiktok πατώντας ΕΔΩ
*****
Ο Καντ και η νοημοσύνη ως αυτοκυβέρνηση
Για τον Καντ, η λογική δεν είναι απλώς εργαλείο αποτελεσματικότητας. Είναι η δύναμη να αποστασιοποιούμαστε από τις επιθυμίες μας και να ρωτάμε αν αυτό που θέλουμε αξίζει πραγματικά να το θέλουμε. Ο άνθρωπος μπορεί να φανταστεί έναν κόσμο που δεν υπάρχει ακόμη και να προσπαθήσει να τον δημιουργήσει: μια αδικία που διορθώνεται, μια φιλία που αποκαθίσταται, ένα παιδί που μορφώνεται, έναν νόμο που αλλάζει. Αυτό είναι κάτι περισσότερο από βελτιστοποίηση, είναι αυτονομία. Ελεύθερος δεν είναι απλώς εκείνος που επιλέγει μόνος τον στόχο του. Είναι εκείνος που μπορεί να εξετάσει τον ίδιο τον στόχο, να τον αμφισβητήσει και να αναλάβει την ευθύνη του.
Γι’ αυτό ο Καντ συνδέει τη λογική με την ανθρώπινη αξιοπρέπεια. Ο άνθρωπος δεν είναι απλώς μέσο για την επίτευξη κάποιου σκοπού. Είναι ον ικανό να θέτει και να κρίνει σκοπούς. Η διαφορά είναι τεράστια. Ο Χιουμ μας δίνει τη νοημοσύνη ως εργαλείο. Ο Καντ τη λογική ως αυτοκυβέρνηση.
Η σειρά της AI
Η τεχνητή νοημοσύνη κάνει την παλιά αυτή φιλοσοφική διαμάχη ξανά επίκαιρη. Για δεκαετίες, η έρευνα στην AI μπορούσε να λειτουργεί χωρίς να λύσει το πρόβλημα του τι ακριβώς είναι νοημοσύνη. Αρκούσε ένας πρακτικός ορισμός: ένα σύστημα είναι «έξυπνο» στον βαθμό που επιτυγχάνει μια εργασία. Αυτός ο ορισμός είναι καθαρός, μετρήσιμος και εξαιρετικά χρήσιμος. Είναι όμως και επικίνδυνα περιορισμένος. Γιατί όταν λέμε ότι νοημοσύνη είναι η βελτιστοποίηση, αρχίζουμε εύκολα να βλέπουμε και τον άνθρωπο με τον ίδιο τρόπο.
Ο εργαζόμενος γίνεται παραγωγικότητα ανά ώρα. Ο πολίτης γίνεται ένα σύνολο δεδομένων. Ο καταναλωτής γίνεται πιθανότητα αγοράς. Ο χρήστης γίνεται χρόνος παραμονής στην πλατφόρμα. Η ερώτηση «τι κάνει τον άνθρωπο καλύτερο;» αντικαθίσταται από την ερώτηση «τι αυξάνει την απόδοση;». Και τότε οι στόχοι παύουν να συζητούνται.
Δεν χρειάζεται πλέον να αποδείξουμε ότι αυτοί οι στόχοι αξίζουν να προσπαθήσουμε γι αυτούς. Έχουν ενσωματωθεί στην αρχιτεκτονική των συστημάτων μας και παρουσιάζονται σαν αυτονόητοι. Αυτό ακριβώς φοβόταν ο Καντ: όχι μόνο την επιβολή ενός ξένου στόχου, αλλά την παραίτηση του ανθρώπου από την ίδια την ικανότητα να κρίνει τους στόχους του.
Το πιο παράδοξο πρόβλημα της AI
Συζητούμε διαρκώς το πώς θα διασφαλίσουμε ότι η AI θα υπηρετεί τις ανθρώπινες αξίες και δεν θα επιδιώξει στόχους αντίθετους προς αυτές. Αλλά υπάρχει ένα ακόμη δυσκολότερο ερώτημα: Τι θα συμβεί αν οι ίδιοι οι άνθρωποι ξεχάσουν πώς να διαμορφώνουν και να κρίνουν τις αξίες τους;
Αν συνηθίσουμε να μας προβλέπουν, να μας προτείνουν, να μας κατατάσσουν και να μας καθοδηγούν, υπάρχει ο κίνδυνος να παραδώσουμε όχι μόνο αποφάσεις αλλά και την ίδια την ευθύνη της κρίσης.
Το πρόβλημα, επομένως, δεν είναι μόνο αν οι μηχανές θα γίνουν υπερβολικά αυτόνομες. Είναι μήπως εμείς γίνουμε λιγότερο αυτόνομοι. Ο Καντ έγραψε το 1784, στο «Τι είναι Διαφωτισμός;», ότι η έξοδος του ανθρώπου από την ανωριμότητα, για την οποία ο ίδιος είναι υπεύθυνος, απαιτεί θάρρος: τόλμησε να χρησιμοποιήσεις τη δική σου λογική.
Σήμερα η φράση αποκτά νέα σημασία, γιατί η μεγάλη ευκολία της AI είναι ακριβώς ότι μας απαλλάσσει από ένα μέρος της δύσκολης δουλειάς της σκέψης. Γιατί να εξετάσω, να συγκρίνω, να αμφιβάλλω και να αποφασίσω, όταν μια μηχανή μπορεί να μου δώσει αμέσως μια απάντηση; Η άνεση όμως έχει τίμημα.
Να μην γίνουμε εργαλεία των εργαλείων μας
Η Σχολή της Φρανκφούρτης είχε ήδη προειδοποιήσει για τη μετατροπή της λογικής σε καθαρά εργαλειακή δύναμη: την ικανότητα να προβλέπει, να ταξινομεί, να διοικεί και να ελέγχει χωρίς να ρωτά για τον σκοπό. Η AI κάνει αυτή τη δύναμη ασύγκριτα μεγαλύτερη. Μπορεί να βελτιστοποιεί σχεδόν τα πάντα. Αυτό όμως δεν σημαίνει ότι γνωρίζει τι αξίζει να βελτιστοποιηθεί. Και εδώ βρίσκεται η γραμμή που πρέπει να διατηρήσουμε. Δεν χρειάζεται να αποδείξουμε ότι οι μηχανές δεν μπορούν να σκέφτονται. Ούτε να αποφασίσουμε σήμερα αν κάποτε θα αποκτήσουν κάτι που θα μοιάζει με αυτονομία. Χρειάζεται κάτι απλούστερο και δυσκολότερο: να μην ορίσουμε τον άνθρωπο με τα ίδια κριτήρια που χρησιμοποιούμε για να κατασκευάσουμε μια μηχανή.
Η πραγματική νοημοσύνη δεν είναι μόνο να βρίσκεις τον καλύτερο τρόπο για να φτάσεις κάπου, είναι να μπορείς να σταματήσεις και να ρωτήσεις: Αξίζει άραγε να πάμε εκεί; Αν η AI γίνει ο καλύτερος υπηρέτης της ανθρώπινης νοημοσύνης, θα έχουμε κερδίσει κάτι τεράστιο. Αν όμως αρχίσουμε να θεωρούμε τον ίδιο τον άνθρωπο έναν μηχανισμό βελτιστοποίησης, τότε η μηχανή δεν θα χρειαστεί να μας υποδουλώσει, αφού θα έχουμε ήδη μάθει να υπακούμε στους στόχους που μας έδωσαν οι μηχανές.-
*****
ΓΡΑΨΤΕ ΤΗΝ ΓΝΩΜΗ ΣΑΣ ΣΤΑ ΣΧΟΛΙΑ
*****
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ:
Καθοριστικός ο Οκτώβριος για τις ελληνοτουρκικές σχέσεις (video)
Κι όμως, η ακροδεξιά μπορεί να ηττηθεί στην Ευρώπη
Ο Άνταμ Σμιθ, ο Γιόζεφ Σουμπέτερ και το τέλος της διαίρεσης της εργασίας
Αντωνάκης ο πολιτευόμενος
Η Δύση, μετά την αμερικανική ηγεμονία
Ο Χάμπερμας και η σπάνια τέχνη να αλλάζεις γνώμη
Η γερμανική κρίση και το πρόβλημα της ευρωπαϊκής Κεντροδεξιάς
Οι εραστές του χάους
Γιατί είναι τόσο ακριβά τα καύσιμα στην Ελλάδα; (video)
Πόσο Ισλάμ χωράει στην Ευρώπη;
δεν βρέθηκαν σχόλια επισκεπτών...