Γράφει ο Μάκης Γεωργιάδης
Η τεχνητή νοημοσύνη είναι ήδη εδώ, διεισδύοντας σταδιακά σε κάθε πτυχή της οικονομικής, κοινωνικής και πολιτικής ζωής.
Από τις τράπεζες και τα νοσοκομεία μέχρι τα πανεπιστήμια, τη δημόσια διοίκηση, τα μέσα ενημέρωσης και την άμυνα, οι αλγόριθμοι λαμβάνουν ολοένα και περισσότερες αποφάσεις που επηρεάζουν ανθρώπινες ζωές.
Και όσο η επιρροή της AI μεγαλώνει, τόσο πιο επιτακτικό γίνεται ένα ερώτημα που μέχρι πρότινος αντιμετωπιζόταν σχεδόν φιλοσοφικά: ποιος φέρει τελικά την ευθύνη όταν η τεχνητή νοημοσύνη κάνει λάθος;
Η εποχή της AI απαιτεί μια ριζική επαναθεμελίωση της έννοιας της ευθύνης.
Διότι τα παραδοσιακά μοντέλα λογοδοσίας, πάνω στα οποία οικοδομήθηκαν οι σύγχρονες κοινωνίες και οι θεσμοί τους, δυσκολεύονται πλέον να ανταποκριθούν σε έναν κόσμο όπου οι αποφάσεις δεν λαμβάνονται αποκλειστικά από ανθρώπους, αλλά από περίπλοκα τεχνολογικά συστήματα που λειτουργούν συχνά ως «μαύρα κουτιά».
*****
Για να μη χάσετε καμία ανάρτηση της Εποπτείας, γραφτείτε στο εβδομαδιαίο newsletter μας, πατώντας ΕΔΩ
Για τα videos της Εποπτείας, γραφτείτε στο κανάλι μας στο youtube, πατώντας ΕΔΩ
Βρείτε μας και στο tiktok πατώντας ΕΔΩ
*****
Για δεκαετίες, οι κοινωνίες ήξεραν πού να αποδώσουν την ευθύνη.
Αν ένα προϊόν ήταν ελαττωματικό, υπεύθυνη ήταν η εταιρεία που το παρήγαγε.
Αν ένας γιατρός έκανε λάθος διάγνωση, υπήρχε προσωπική και επαγγελματική λογοδοσία.
Αν ένας πολιτικός έπαιρνε μια καταστροφική απόφαση, θεωρητικά τουλάχιστον μπορούσε να τιμωρηθεί πολιτικά.
Η AI όμως θολώνει τα όρια.
Όταν μια αλγοριθμική πλατφόρμα απορρίπτει κάποιον από μια θέση εργασίας, όταν ένα σύστημα αναγνώρισης προσώπου κάνει λάθος ταυτοποίηση ή όταν ένας αλγόριθμος υγείας οδηγεί σε εσφαλμένη ιατρική εκτίμηση, ποιος ακριβώς ευθύνεται;
Ο προγραμματιστής;
Η εταιρεία;
Ο οργανισμός που χρησιμοποιεί το σύστημα;
Ή μήπως κανείς;
Το πρόβλημα γίνεται ακόμη πιο σύνθετο επειδή τα σύγχρονα συστήματα AI δεν λειτουργούν με τον παραδοσιακό τρόπο των μηχανών.
Δεν εκτελούν απλώς συγκεκριμένες εντολές.
«Μαθαίνουν», εξελίσσονται, αναπροσαρμόζουν τα μοντέλα τους και πολλές φορές καταλήγουν σε αποτελέσματα που ούτε οι ίδιοι οι δημιουργοί τους μπορούν να εξηγήσουν πλήρως.
Αυτό δημιουργεί ένα πρωτοφανές έλλειμμα διαφάνειας.
Και χωρίς διαφάνεια, η έννοια της ευθύνης αρχίζει να καταρρέει.
Το βασικό λάθος των περισσότερων οργανισμών είναι πως αντιμετωπίζουν την AI σαν ένα ακόμη τεχνικό εργαλείο, ενώ στην πραγματικότητα πρόκειται για μια βαθιά πολιτική και κοινωνική τεχνολογία.
Κάθε αλγόριθμος ενσωματώνει αξίες, προτεραιότητες, παραδοχές και προκαταλήψεις.
Δεν υπάρχει «ουδέτερη» τεχνητή νοημοσύνη.
Οι επιλογές για το ποια δεδομένα θα χρησιμοποιηθούν, ποιοι στόχοι θα τεθούν, ποια αποτελέσματα θα θεωρηθούν επιτυχημένα και ποιοι κίνδυνοι θα γίνουν αποδεκτοί είναι βαθιά ανθρώπινες και πολιτικές αποφάσεις.
Αυτό αποκτά τεράστια σημασία σε τομείς όπως η αστυνόμευση, η απονομή δικαιοσύνης ή η αγορά εργασίας.
Στις Ηνωμένες Πολιτείες έχουν ήδη καταγραφεί περιπτώσεις όπου αλγόριθμοι αξιολόγησης επικινδυνότητας κατηγορήθηκαν ότι αναπαρήγαγαν φυλετικές προκαταλήψεις.
Αντίστοιχα, συστήματα επιλογής προσωπικού αποδείχθηκε ότι υποβάθμιζαν βιογραφικά γυναικών ή υποψηφίων από συγκεκριμένες κοινωνικές ομάδες, επειδή είχαν εκπαιδευτεί πάνω σε ιστορικά δεδομένα που αντανακλούσαν ήδη υπάρχουσες ανισότητες.
Το πρόβλημα λοιπόν δεν είναι μόνο τεχνολογικό.
Είναι βαθιά θεσμικό, πολιτικό και ηθικό.
Γι’ αυτό και το άρθρο επιμένει ότι η ευθύνη στην εποχή της AI δεν μπορεί να περιορίζεται σε μια τυπική «συμμόρφωση» με κανονισμούς.
Οι οργανισμοί οφείλουν να δημιουργήσουν νέες κουλτούρες λογοδοσίας.
Να εγκαταλείψουν τη λογική ότι «ο αλγόριθμος αποφάσισε» και να διασφαλίσουν ότι οι άνθρωποι παραμένουν ουσιαστικά υπεύθυνοι για τις τελικές αποφάσεις.
Αυτό είναι εξαιρετικά κρίσιμο και για τις δημοκρατίες.
Διότι υπάρχει ένας πραγματικός κίνδυνος: όσο οι αποφάσεις μεταφέρονται σε αυτοματοποιημένα συστήματα, τόσο οι πολιτικές και οικονομικές ελίτ μπορούν να αποφεύγουν την ευθύνη πίσω από την επίφαση της «αντικειμενικής τεχνολογίας».
Ένας υπουργός μπορεί να ισχυριστεί ότι «το σύστημα αξιολόγησε έτσι».
Μια εταιρεία μπορεί να αποδώσει τις απολύσεις σε «αλγοριθμικές βελτιστοποιήσεις».
Μια πλατφόρμα μπορεί να δικαιολογήσει τη λογοκρισία ή τη χειραγώγηση περιεχομένου λέγοντας ότι «έτσι λειτουργεί το μοντέλο».
Στην πραγματικότητα όμως, πίσω από κάθε μοντέλο υπάρχουν ανθρώπινες επιλογές εξουσίας.
Η συζήτηση αυτή αποκτά ιδιαίτερη σημασία και για την Ευρώπη, η οποία επιχειρεί να χαράξει διαφορετική πορεία από τις ΗΠΑ και την Κίνα.
Η Ευρωπαϊκή Ένωση προσπαθεί ήδη μέσω του AI Act να θέσει όρια και κανόνες στη χρήση της τεχνητής νοημοσύνης, ιδίως σε τομείς υψηλού ρίσκου.
Δεν είναι τυχαίο ότι η ευρωπαϊκή προσέγγιση δίνει ιδιαίτερη έμφαση στα θεμελιώδη δικαιώματα, στη διαφάνεια και στην ανθρώπινη εποπτεία.
Η Ευρώπη γνωρίζει ότι αν η τεχνητή νοημοσύνη αφεθεί αποκλειστικά στη λογική της αγοράς και του γεωπολιτικού ανταγωνισμού, τότε υπάρχει σοβαρός κίνδυνος να υπονομευθούν οι ίδιες οι βάσεις της φιλελεύθερης δημοκρατίας.
Και η Ελλάδα όμως δεν μπορεί να μείνει έξω από αυτή τη συζήτηση.
Το ελληνικό Δημόσιο ήδη εισάγει σταδιακά συστήματα AI σε υπηρεσίες, ψηφιακές πλατφόρμες και διοικητικές διαδικασίες.
Το ίδιο συμβαίνει στις τράπεζες, στις τηλεπικοινωνίες και σε μεγάλες επιχειρήσεις.
Όμως η χώρα μας έχει διαχρονικά αδύναμες δομές θεσμικής λογοδοσίας και ελέγχου.
Αν δεν υπάρξει έγκαιρη προετοιμασία, υπάρχει ο κίνδυνος να δημιουργηθεί ένα νέο περιβάλλον «ψηφιακής αδιαφάνειας», όπου οι πολίτες θα επηρεάζονται από αλγοριθμικές αποφάσεις χωρίς να γνωρίζουν ούτε πώς ούτε γιατί αυτές λαμβάνονται.
Το μεγάλο στοίχημα επομένως δεν είναι μόνο τεχνολογικό.
Είναι βαθιά δημοκρατικό.
Η AI υπόσχεται τεράστια παραγωγικότητα, οικονομική ανάπτυξη και καινοτομία.
Μπορεί πράγματι να βελτιώσει υπηρεσίες, να επιταχύνει διαδικασίες και να βοηθήσει την επιστήμη να κάνει άλματα.
Όμως κάθε τεχνολογική επανάσταση στην ιστορία συνοδευόταν και από μια μεγάλη πολιτική διαπραγμάτευση γύρω από την εξουσία και την ευθύνη.
Αυτό συμβαίνει και τώρα.
Αν οι κοινωνίες δεν επαναπροσδιορίσουν έγκαιρα την έννοια της λογοδοσίας, τότε η AI μπορεί να οδηγήσει όχι μόνο σε περισσότερη αποτελεσματικότητα αλλά και σε μεγαλύτερη ανευθυνότητα.
Και αυτό ίσως είναι το πιο επικίνδυνο σενάριο απ’ όλα: ένας κόσμος όπου οι αποφάσεις θα επηρεάζουν εκατομμύρια ανθρώπους, αλλά κανείς δεν θα θεωρείται πραγματικά υπεύθυνος γι’ αυτές.
Η μάχη λοιπόν για την τεχνητή νοημοσύνη δεν αφορά μόνο στην τεχνολογία.
Αφορά το ποιος ελέγχει την εξουσία στον 21ο αιώνα.
Και κυρίως αφορά το αν οι δημοκρατίες θα παραμείνουν κοινωνίες ανθρώπινης ευθύνης ή αν θα παραδώσουν σταδιακά κρίσιμες αποφάσεις σε αδιαφανή συστήματα που λειτουργούν χωρίς ουσιαστικό έλεγχο.
Η AI αλλάζει τον κόσμο.
Το ερώτημα είναι αν οι κοινωνίες θα προλάβουν να αλλάξουν τους κανόνες πριν η τεχνολογία αλλάξει οριστικά τις ίδιες.-
*****
ΓΡΑΨΤΕ ΤΗΝ ΓΝΩΜΗ ΣΑΣ ΣΤΑ ΣΧΟΛΙΑ
*****
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
Η ιδέα της Ευρώπης, ο Μητσοτάκης, ο Μακρόν και ο Βίκτορ Ουγκό
Η Αριστερά επιμένει πεισματικά στα αδιέξοδά της
Ο Περσέας στη Φλωρεντία: Όταν η Ελλάδα δημιουργεί την Ευρώπη
Έχει και σήμερα στις τάξεις της έναν «Συμπιλίδη» η Νέα Δημοκρατία;
Όλα όσα κρύβονται πίσω από τις ανισότητες και τις οξύνουν
Επίκουρος, ο πρωτεργάτης της πνευματικής επανάστασης
Η επινόηση της ψυχής, ένα πολιτισμικό θαύμα
Ποιο είναι το μεγαλύτερο θύμα του αντισυστημισμού;
Μαρσέλ Προυστ: Η λογοτεχνία ως κλειδί της προσωπικής ελευθερίας
Στο «καραμανλικό- σαμαρικό» μπλοκ οι πιο πολλοί εμπλεκόμενοι βουλευτές στο σκάνδαλο του ΟΠΕΚΕΠΕ
δεν βρέθηκαν σχόλια επισκεπτών...