Το Σεπτέμβριο του 2026, οι επικεφαλής των μεγαλύτερων εταιρειών τεχνητής νοημοσύνης παραδέχθηκαν δημόσια κάτι που πολλοί ερευνητές έλεγαν εδώ και καιρό. Η ανάπτυξη των πιο ισχυρών συστημάτων ΤΝ τρέχει γρηγορότερα απ’ όσο μπορεί να την παρακολουθήσει η κοινωνία. Ο Dario Amodei της Anthropic ζήτησε επιβράδυνση και «δημοκρατικό συντονισμό», ο Sam Altman της OpenAI συμφώνησε ότι ο ρυθμός πρέπει να ελεγχθεί, ενώ ο Elon Musk αρκέστηκε σε μια λακωνική επιδοκιμασία. Η σύγκλιση είναι εντυπωσιακή. Αξίζει όμως να προσέξουμε με ποιους όρους συγκλίνουν αυτές οι απόψεις.
Πάνω σε αυτή τη συγκυρία έρχεται μια ενδιαφέρουσα πρόταση που δημοσίευσαν στο περιοδικό Noema η πολιτική φιλόσοφος Hélène Landemore και η Audrey Tang, πρώην υπουργός Ψηφιακών Υποθέσεων της Ταϊβάν (Let The People Set The Pace Of Frontier AI). Το επιχείρημά τους ξεκινά από τη διαπίστωση ότι καμία εταιρεία δεν μπορεί να επιβραδύνει μόνη της, όπως και καμία από τις δύο υπερδυνάμεις, αφού η καθεμιά φοβάται ότι η δική της αυτοσυγκράτηση θα χαρίσει το προβάδισμα στην άλλη. Οι συγγραφείς όμως εδώ αντί για το αδιέξοδο δίλημμα του φυλακισμένου, βλέπουν το «κυνήγι του ελαφιού» του Ρουσσώ, όπου όλοι θα κέρδιζαν αν έμεναν στη θέση τους και ο καθένας λιποτακτεί μόνο και μόνο επειδή δεν εμπιστεύεται τους άλλους. Μια κάποια λύση σε τέτοιου είδους προβλήματα μπορεί να έρθει οικοδομώντας εμπιστοσύνη, μέσα από μια τρίτη οντότητα που όλοι θεωρούν αξιόπιστη.
Η οντότητα που προτείνουν οι Landemore και Tang είναι μια μόνιμη Παγκόσμια Συνέλευση Πολιτών για την Τεχνητή Νοημοσύνη, με χίλια μέλη που επιλέγονται με κλήρωση από όλο τον κόσμο. Τα μέλη αμείβονται, υποστηρίζονται με διερμηνεία και τοπική βοήθεια, ανανεώνονται σταδιακά κατά ένα τρίτο και παραλαμβάνουν τα ευρήματα ανεξάρτητων αξιολογητών για το αν τα εργαστήρια τηρούν τα όρια. Κάθε σύσταση της συνέλευσης απευθύνεται σε κατονομαζόμενο αποδέκτη, που οφείλει να απαντήσει δημόσια τι δέχεται, τι απορρίπτει και γιατί. Η πρόταση έχει αρετές που δεν πρέπει να υποτιμηθούν. Φέρνει στο τραπέζι ανθρώπους που κανείς δεν ρωτά. Nέους, αγρότες, ανθρώπους χωρίς σύνδεση στο διαδίκτυο, πολίτες χωρών που δεν θα τους έστελνε ποτέ καμία κυβέρνηση. Και θέτει μια αρχή που όσο συχνά κι αν διατυπώνεται άλλο τόσο εύκολα την προσπερνούμε και λησμονείται, ότι όποιος επηρεάζεται από μια απόφαση δικαιούται τουλάχιστον μια αιτιολογημένη απάντηση.
Ωστόσο, ακόμα και αυτή η πρόταση δεν είναι άμοιρη προβληματισμών και ο βασικότερος βρίσκεται στο ίδιο το ερώτημα. Η όλη συζήτηση ξεκίνησε όταν οι επικεφαλής των εταιρειών όρισαν το θέμα ως ζήτημα ρυθμού, και η προτεινόμενη συνέλευση σχεδιάζεται για να προσδώσει αξιοπιστία σε αυτόν τον ρυθμό. Όταν όμως ρωτάμε πόσο γρήγορα πρέπει να κινηθούμε, έχουμε ήδη αποδεχθεί προς τα πού. Ο προορισμός, δηλαδή τα όλο και πιο ισχυρά μοντέλα, εκπαιδευμένα σε όλο και ισχυρότερες υποδομές που ανήκουν σε όλο και λιγότερους, θεωρείται δεδομένος και συζητείται μόνο η ταχύτητα της διαδρομής. Τα ερωτήματα που έχουν εξίσου σημαντική αξία μένουν στο περιθώριο. Ποιος κατέχει την υπολογιστική ισχύ; Ποιος καρπώνεται την αξία που παράγεται από δεδομένα και έργα εκατομμυρίων ανθρώπων; Είναι άραγε μονόδρομος αυτό το μοντέλο ανάπτυξης ή θα μπορούσαμε να επενδύσουμε σε ανοιχτά, δημόσια και μικρότερα συστήματα;
Οι συγγραφείς θα απαντούσαν, εύλογα, ότι η συνέλευση θα μπορεί να θέτει και τέτοια ερωτήματα, αφού θα αποφασίζει τι δεν πρέπει να κάνει ποτέ η τεχνητή νοημοσύνη και τι θέλουμε να κάνει για εμάς. Ο θεσμικός της πυρήνας όμως, η παραλαβή των ευρημάτων των αξιολογητών και η επιβεβαίωση ότι τηρούνται τα όρια ασφαλείας, είναι προσδεδεμένος με την ατζέντα του ρυθμού. Η γραμματεία της θα χρηματοδοτείται εν μέρει από τις ίδιες τις εταιρείες. Και ανάμεσα στα προηγούμενα που επικαλούνται βρίσκονται διαβουλεύσεις που οργάνωσαν οι ίδιες οι εταιρείες, όπως το φόρουμ της Meta για το metaverse ή η διαβούλευση της Anthropic για τις αρχές ενός μοντέλου της. Η συμμετοχή των πολιτών μπορεί εύκολα να καταλήξει να νομιμοποιεί μια ατζέντα που οι ίδιοι δεν είχαν ποτέ την ευκαιρία να διαμορφώσουν εν πρώτοις.
Το δεύτερο πρόβλημα αφορά στο υποκείμενο στο όνομα του οποίου θα μιλά η συνέλευση. Οι συγγραφείς επικαλούνται την ανθρωπότητα, της οποίας το διακύβευμα, γράφουν, είναι καθολικό και δεν νοθεύεται από κανένα εθνικό ή εταιρικό συμφέρον. Είναι μια ελκυστική ιδέα, αλλά πολιτικά συζητήσιμη. Ο Carl Schmitt έγραφε στην Έννοια του πολιτικού ότι όποιος επικαλείται την «ανθρωπότητα» θέλει να εξαπατήσει. Δεν χρειάζεται να συμμεριστούμε τον κυνισμό του για να αναγνωρίσουμε τον πυρήνα της παρατήρησης, ότι η επίκληση ενός καθολικού υποκειμένου τείνει να κρύβει τις συγκρούσεις που το διατρέχουν.
Και η τεχνητή νοημοσύνη αιχμής είναι κατεξοχήν πεδίο βαθιάς σύγκρουσης. Ο εργαζόμενος που επισημειώνει δεδομένα για λίγα ευρώ την ώρα, η κοινότητα που βλέπει το νερό και την ενέργειά της να καταναλώνονται από ένα κέντρο δεδομένων, ο μεταφραστής ή ο γραφίστας που βλέπει τις δουλειές του να μειώνονται, ο μέτοχος μιας εταιρείας τεχνολογίας και η κυβέρνηση μιας χώρας χωρίς υπολογιστικές υποδομές δεν έχουν τα ίδια συμφέροντα. Η κλήρωση εξασφαλίζει ότι όλοι αυτοί μπορεί να βρεθούν στην ίδια αίθουσα. Δεν εξασφαλίζει ότι η διαφωνία τους θα ακουστεί ως διαφωνία.
Εδώ η Chantal Mouffe έχει κάτι χρήσιμο να πει. Για εκείνη, το μέτρο μιας δημοκρατίας είναι αν καταφέρνει να μετατρέψει τον ανταγωνισμό ανάμεσα σε εχθρούς σε αντιπαράθεση ανάμεσα σε αντιπάλους, πολύ περισσότερο από το αν παράγει συναίνεση. Η πρόταση προβλέπει εργαλεία τεχνητής νοημοσύνης που θα μεταφράζουν, θα ταξινομούν τις συνεισφορές και θα βοηθούν τα μέλη να δουν πού διαφωνούν και πού συγκλίνουν, ενώ τα μέλη θα έχουν τον τελευταίο λόγο για τις συνόψεις και θα μπορούν να απορρίψουν την ερμηνεία της μηχανής για το τι εννοούσαν. Όταν όμως χίλιοι άνθρωποι εκφέρουν σύνθετες και αντιφατικές θέσεις, μια διαδικασία στραμμένη στο κοινό έδαφος θα ευνοεί συστηματικά τις μετριοπαθείς διατυπώσεις και θα παραγκωνίζει τις ριζοσπαστικές.
Τίποτα από αυτά δεν σημαίνει ότι η ιδέα πρέπει να εγκαταλειφθεί. Αν μια τέτοια συνέλευση πρόκειται να έχει δημοκρατικό νόημα, πρέπει να σχεδιαστεί ώστε να αντέχει τη σύγκρουση. Θα έπρεπε, για παράδειγμα, να μπορεί να θέτει η ίδια την ατζέντα της, ακόμη κι αν αυτό σημαίνει να ρωτήσει όχι πόσο γρήγορα αλλά αν και για ποιον. Θα έπρεπε οι μειοψηφικές θέσεις να καταγράφονται και να απαιτούν κι αυτές απάντηση, αντί να χάνονται στη σύνοψη. Και θα έπρεπε η χρηματοδότησή της να μην εξαρτάται από εκείνους που καλείται να ελέγξει.
Η πρόταση των Landemore και Tang έχει το μεγάλο προσόν ότι παίρνει στα σοβαρά κάτι που οι επικεφαλής των εταιρειών λένε συνήθως ρητορικά, ότι δηλαδή αναπτύσσουν την τεχνητή νοημοσύνη για λογαριασμό της ανθρωπότητας. Αν τους πάρουμε στα σοβαρά, όμως, τότε η ανθρωπότητα δικαιούται να αποφασίσει και για το ερώτημα που της τίθεται, όχι μόνο για την απάντηση. Και να το κάνει με όλες τις διαφωνίες της.