Ο πραγματικός πόλεμος του αιώνα μας: H Tεχνητή νοημοσύνη

 Υπήρξε μια εποχή κατά την οποία οι συζητήσεις για την ελεύθερη βούληση και την ιδέα του προκαθορισμένου ανήκαν κυρίως στη φιλοσοφία και σε ακαδημαϊκού τύπου ανταλλαγές απόψεων. Ήταν ενδιαφέρουσες επειδή έμοιαζαν ακίνδυνες. Όποια θέση κι αν υιοθετούσε κανείς, η καθημερινή λειτουργία της κοινωνίας δεν επηρεαζόταν ουσιαστικά. Τα δικαστήρια αποφάσιζαν, οι γιατροί αναλάμβαναν ευθύνη, οι εκπαιδευτικοί δίδασκαν και οι πολιτικοί, έστω τυπικά, λογοδοτούσαν. Αυτή η περίοδος έχει κλείσει.

Η τεχνητή νοημοσύνη μετέφερε τη συζήτηση από το επίπεδο της θεωρίας στο πεδίο της εξουσίας, της διακυβέρνησης και της λογοδοσίας. Αυτό που άλλοτε παρουσιαζόταν ως φιλοσοφική υπόθεση μετατρέπεται σε πρακτική αρχή οργάνωσης θεσμών. Η αλγοριθμική λογική δεν περιγράφει πλέον απλώς έναν τρόπο σκέψης, αλλά διαμορφώνει τον τρόπο με τον οποίο λαμβάνονται αποφάσεις με πραγματικές συνέπειες.

Τα συστήματα τεχνητής νοημοσύνης λειτουργούν με βάση μαθηματικά μοντέλα, στατιστική επεξεργασία και πιθανολογικούς υπολογισμούς. Ακόμη και όταν τα αποτελέσματά τους φαίνονται απρόβλεπτα, υπακούουν σε αυστηρούς κανόνες και προκαθορισμένες δομές. Δεν διαθέτουν κατανόηση, ερμηνεία ή κρίση με την ανθρώπινη έννοια.

Η τεχνητή νοημοσύνη δεν σκέφτεται.

Δεν αναστοχάζεται.

Δεν φέρει ευθύνη για τις συνέπειες.

Παρά ταύτα, τα πορίσματά της αντιμετωπίζονται ολοένα και συχνότερα ως τελικές αποφάσεις και όχι ως βοηθητικά εργαλεία. Η μετάβαση αυτή συντελείται χωρίς θόρυβο, αλλά με βαθιές επιπτώσεις στη λειτουργία των θεσμών.

Η ελκυστικότητα αυτής της εξέλιξης είναι εύκολα κατανοητή. Οι θεσμοί ανέκαθεν δυσκολεύονταν να διαχειριστούν την ανθρώπινη μεταβλητότητα. Οι άνθρωποι κουράζονται, αμφιβάλλουν, αντιδρούν και ενίοτε αποκλίνουν από τις οδηγίες. Οι γραφειοκρατικοί μηχανισμοί επιδιώκουν σταθερότητα και προβλεψιμότητα. Οι αλγόριθμοι υπόσχονται ομοιομορφία, ταχύτητα και συνέπεια, χωρίς συναισθηματικές παρεμβολές.

Στον τομέα της υγείας προβάλλονται ως λύση για αποτελεσματικότερη διαλογή περιστατικών. Στη χρηματοδότηση υπόσχονται ακριβέστερη εκτίμηση κινδύνου. Στην εκπαίδευση εμφανίζονται ως εγγύηση αντικειμενικής αξιολόγησης. Στη δημόσια διοίκηση προωθούνται ως βάση τεκμηριωμένης πολιτικής. Στον έλεγχο περιεχομένου επικαλούνται την ουδετερότητα. Η εικόνα αυτή δημιουργεί την εντύπωση μιας τεχνολογικής προόδου απαλλαγμένης από προκαταλήψεις.

Το κρίσιμο πρόβλημα βρίσκεται στη σύγχυση εννοιών. Η πρόβλεψη δεν ταυτίζεται με την κρίση. Η βελτιστοποίηση δεν ισοδυναμεί με σοφία. Η συνέπεια, από μόνη της, δεν θεμελιώνει νομιμοποίηση.

Η ανθρώπινη λήψη αποφάσεων δεν υπήρξε ποτέ καθαρά υπολογιστική. Βασίζεται στην ερμηνεία των περιστάσεων, στη στάθμιση συνεπειών, στη μνήμη και στην εμπειρία. Περιλαμβάνει ένα στοιχείο προσωπικής ευθύνης, ακόμη και όταν αυτή ασκείται ατελώς. Αυτή ακριβώς η διάσταση καθιστά την ανθρώπινη κρίση δύσκολη για τους θεσμούς.

Η ανθρώπινη κρίση εισάγει τριβές. Απαιτεί αιτιολόγηση και εκθέτει εκείνον που αποφασίζει σε έλεγχο. Η αλγοριθμική λογική προσφέρει κάτι διαφορετικό: αποφάσεις χωρίς εμφανή φορέα ευθύνης.

Όταν ένα σύστημα απορρίπτει ένα δάνειο, χαρακτηρίζει έναν πολίτη υψηλού κινδύνου, υποβαθμίζει έναν ασθενή ή περιορίζει την προβολή λόγου, η ευθύνη διαχέεται. Το σύστημα το υπέδειξε. Τα δεδομένα το κατέδειξαν. Το μοντέλο το παρήγαγε. Η αλγοριθμική λογική μετατρέπεται έτσι σε θεσμικό άλλοθι.

Η τεχνολογία πάντοτε επηρέαζε τους θεσμούς, συνήθως ως εργαλείο ενίσχυσης της ανθρώπινης δράσης. Οι αριθμομηχανές διευκόλυναν τους υπολογισμούς. Τα λογιστικά φύλλα οργάνωσαν την πληροφορία. Το πρώιμο λογισμικό άφηνε σαφή την ανθρώπινη ευθύνη. Η τεχνητή νοημοσύνη μεταβάλλει αυτή τη σχέση.

Συστήματα σχεδιασμένα για πρόβλεψη τοποθετούνται πλέον στον πυρήνα της απόφασης. Οι πιθανότητες μετατρέπονται σε κανόνες. Οι δείκτες κινδύνου αποκτούν χαρακτήρα τελικής κρίσης. Οι συστάσεις μετασχηματίζονται σε υποχρεώσεις. Όταν αυτά τα συστήματα ενσωματωθούν, η αμφισβήτησή τους καθίσταται ιδιαίτερα δύσκολη, καθώς επικαλούνται την αυθεντία των δεδομένων.

Η παλαιά φιλοσοφική συζήτηση αποκτά έτσι άμεση πολιτική σημασία. Η αλγοριθμική λογική παύει να είναι τεχνικό εργαλείο και αναδεικνύεται σε πρότυπο διακυβέρνησης. Αν τα αποτελέσματα μπορούν να προβλεφθούν με ικανοποιητική ακρίβεια, η διακριτική ευχέρεια αντιμετωπίζεται ως περιττή.

Η εναλλακτική δεν συνιστά αυθαιρεσία. Περιγράφει τον χώρο της ερμηνείας, της στάθμισης αξιών και της προσωπικής ευθύνης. Είναι ο χώρος όπου η απόφαση συνδέεται με πρόσωπο και όχι με διαδικασία.

Όταν αυτός ο χώρος συρρικνώνεται, η λήψη αποφάσεων δεν γίνεται πιο ορθολογική. Γίνεται λιγότερο υπόλογη.

Ο ουσιαστικός κίνδυνος της τεχνητής νοημοσύνης δεν αφορά αυτόνομα μηχανήματα ή σενάρια απώλειας ελέγχου. Αφορά τη σταδιακή αποσύνδεση της εξουσίας από την ανθρώπινη ευθύνη στο όνομα της αποτελεσματικότητας.

Η καθοριστική σύγκρουση του 21ου αιώνα δεν θα εκδηλωθεί ανάμεσα σε ανθρώπους και μηχανές. Θα εκδηλωθεί ανάμεσα σε δύο λογικές διακυβέρνησης. Από τη μία πλευρά, η κλιμακούμενη αλγοριθμική βελτιστοποίηση. Από την άλλη, η ανθρώπινη κρίση μέσα στην αβεβαιότητα.

Η πρώτη επεκτείνεται εύκολα.

Η δεύτερη λογοδοτεί.

Η τεχνητή νοημοσύνη μας αναγκάζει να αποφασίσουμε ποιος κυβερνά τη ζωή μας.