Οι κίνδυνοι δεν είναι αφηρημένη θεωρία, αλλά καθημερινή εμπειρία
Την τελευταία δεκαετία συζητάμε έντονα πώς η Τεχνητή Νοημοσύνη (ΤΝ) επηρεάζει τους θεσμούς, τις εκλογές, τα ΜΜΕ, ακόμη και την ίδια τη λειτουργία της Δημοκρατίας. Πολύ πιο σπάνια, όμως, θέτουμε ένα βαθύτερο ερώτημα: τι κάνει η ΤΝ στην ίδια την ανθρώπινη σκέψη και στην ικανότητά μας να είμαστε δημοκρατικοί πολίτες;
Δεν μιλάμε απλώς για λάθος ειδήσεις ή ψευδείς εικόνες, αλλά για μια σταδιακή, σχεδόν αθόρυβη, μεταμόρφωση της κρίσης, της αυτογνωσίας και της ενσυναισθησης, των ίδιων εκείνων ιδιοτήτων που χρειάζονται για να λειτουργεί μια ζωντανή δημοκρατία.
Από τη δυσπιστία στην «ελπίδα στις μηχανές»
Πρόσφατες έρευνες στην Ευρώπη δείχνουν ότι περίπου οι μισοί νέοι 25–45 ετών θα δέχονταν να αντικατασταθεί μέρος των βουλευτών από… αλγορίθμους.
Αυτό το εύρημα λέει δύο πράγματα ταυτόχρονα:
- Υπάρχει βαθιά δυσπιστία προς το πολιτικό σύστημα.
- Η ΤΝ αρχίζει να φαντάζει ως υποκατάστατο της ανθρώπινης κρίσης: κάτι «πιο ορθολογικό», «πιο αντικειμενικό», πάνω από τα «παιχνίδια της πολιτικής».
Οι νεότερες γενιές, μεγαλωμένες με αλγορίθμους, εφαρμόζουν σχεδόν αυθόρμητα μια σιωπηλή παραδοχή: ότι οι μηχανές μπορούν να μας καταλάβουν, να «ταξινομήσουν» τα προβλήματα και να προτείνουν λύσεις, καλύτερα από τους ανθρώπους.
Αυτή η εξοικείωση κρύβει έναν σπάνια συζητημένο κίνδυνο: η πολιτική αυτονομία αρχίζει να δίνει τη θέση της στην ανάθεση ευθύνης σε συστήματα που δεν κατανοούμε και δεν ελέγχουμε.
Από την κριτική σκέψη στην ανάθεση της σκέψης
Η συνεχής διαδραστική επαφή με τα συστήματα ΤΝ –από τα παιδικά χρόνια, μέσα από εφαρμογές, παιχνίδια, βοηθούς, πλατφόρμες– τους δίνει ένα πρόσωπο οικείο αλλά και “αυθεντικό”.
Οι απαντήσεις έρχονται γρήγορα, είναι διατυπωμένες με βεβαιότητα, καλύπτουν «τα πάντα».
Έτσι δημιουργείται σταδιακά μια σχέση εξάρτησης:
- Αντί να σκεφτόμαστε μόνοι μας, ζητάμε έτοιμες λύσεις.
- Αντί να ψάχνουμε μόνοι μας, αναθέτουμε την αναζήτηση.
- Αντί να αμφισβητούμε, συνηθίζουμε να αποδεχόμαστε.
Η κριτική σκέψη, όμως, δεν είναι δεδομένη. Θέλει άσκηση και παιδεία, ιδιαίτερα στις μικρές ηλικίες. Αν την αντικαταστήσουμε με «έξυπνα εργαλεία», τότε υπονομεύουμε τις προϋποθέσεις του ίδιου του δημοκρατικού διαλόγου: την ικανότητα να ακούμε, να διαφωνούμε, να επιχειρηματολογούμε, να αλλάζουμε άποψη.
Η χειραγώγηση μέσω «ευχαρίστησης»
Οι μεγάλες πλατφόρμες και τα συστήματα ΤΝ σπάνια σχεδιάστηκαν με βάση αξίες ή το δημόσιο συμφέρον. Ο βασικός στόχος είναι η μέγιστη διατήρηση προσοχής (engagement):
να μένεις όσο γίνεται περισσότερο στην οθόνη, να κλικάρεις, να καταναλώνεις.
Αυτό οδηγεί:
- σε ψυχολογική «πειρατεία» της προσοχής,
- στη διαμόρφωση συνηθειών και επιθυμιών χωρίς να το συνειδητοποιούμε,
- σε εθισμό στην αδιάκοπη διέγερση.
Δεν χρειάζεται πια λογοκρισία ή προπαγάνδα με τον κλασικό τρόπο.
Η συνεχής ευχαρίστηση –ή καλύτερα η υπόσχεση ευχαρίστησης– είναι πολύ πιο αποτελεσματική μορφή ελέγχου. Δεν μας «πείθουν» με ιδέες· μας αναισθητοποιούν με ερεθίσματα.
Όσο περισσότερο εκχωρούμε γνωστικές και συναισθηματικές λειτουργίες σε αλγοριθμικά συστήματα, τόσο διευκολύνουμε τα τεχνολογικά–οικονομικά–πολιτικά κέντρα εξουσίας, που έχουν τον έλεγχο των δεδομένων και των μοντέλων, να επηρεάζουν τις συμπεριφορές μας.
Η ατροφία της ενσυναίσθησης και η κρίση του πραγματικού
Οι μηχανές ΤΝ δεν έχουν συνείδηση ή συναισθήματα, αλλά προσομοιώνουν πειστικά συναισθηματικές αντιδράσεις. Για ένα παιδί ή έναν έφηβο, που ακόμη χτίζει την εικόνα του άλλου και του εαυτού, αυτή η προσομοίωση μπορεί να γίνει σημείο αναφοράς: να μαθαίνει να «συνομιλεί» περισσότερο με ένα σύστημα παρά με ανθρώπους.
Την ίδια στιγμή, γίνεται όλο και πιο δύσκολο να διακρίνουμε:
- το ψεύτικο από το αληθινό,
- την κατασκευασμένη εικόνα από το πραγματικό γεγονός.
Αν αυτό συνδυαστεί με την ατροφία της κριτικής σκέψης, προκύπτει ένα εκρηκτικό μείγμα:
πολίτες με μειωμένη ικανότητα διάκρισης, αυξημένη ανάγκη ψηφιακής επιβεβαίωσης και χαμηλή αντοχή στη χειραγώγηση.
Ο πραγματικός κόσμος, με τη σύγκρουση, την τριβή, τη συνεργασία, τα όριά του, αρχίζει να μοιάζει λιγότερο ελκυστικός από τις ψηφιακές προσομοιώσεις.
Αντί να βλέπουμε τον κόσμο ως πεδίο συλλογικής αλλαγής, τον αντιμετωπίζουμε ως κάτι από το οποίο «δραπετεύουμε».
Παιδεία και ρυθμιστικά «φρένα» – όχι τεχνολογική υποταγή
Το πρώτο αυτονόητο ανάχωμα είναι η Παιδεία:
η συνειδητή καλλιέργεια των γνωστικών και συναισθηματικών ικανοτήτων που απαιτεί ο δημοκρατικός βίος: κριτική σκέψη, διάλογος, γλωσσική επάρκεια, ενσυναίσθηση, ευθύνη.
Αλλά η Παιδεία δεν αρκεί μόνη της. Χρειάζεται και ένα θεσμικό πλαίσιο προστασίας, αντίστοιχο με αυτό που εφαρμόζεται σε άλλους υψηλού ρίσκου τομείς, όπως η βιοϊατρική.
Δηλαδή:
- αξιολόγηση κινδύνων για την ψυχική υγεία και την ανάπτυξη των παιδιών,
- παρακολούθηση της διάβρωσης του δημόσιου λόγου,
- αντιμετώπιση της ακραίας μονοπωλιακής ισχύος των μεγάλων πλατφορμών,
- έλεγχος των επιχειρηματικών μοντέλων που «πουλάνε» εξάρτηση και όχι υπηρεσίες.
Η Ευρώπη δεν μπορεί να περιοριστεί σε ρυθμιστή «εκ των υστέρων».
Οφείλει να γίνει:
- παραγωγός δικών της τεχνολογικών λύσεων,
- φορέας δημόσιων πολιτικών που προωθούν τον πραγματικό ανταγωνισμό,
- στήριγμα ανεξάρτητης έρευνας και εναλλακτικών επιχειρηματικών μοντέλων, που δεν στηρίζονται αποκλειστικά στην εκμετάλλευση των δεδομένων και της προσοχής.
Διαφάνεια, λογοδοσία, υπευθυνότητα δεν αρκεί να επικαλούμαστε· πρέπει να έχουμε και τη δύναμη να τις επιβάλουμε.
Η Δημοκρατία δεν χαρίζεται, κατακτιέται ξανά
Το ερώτημα δεν είναι αν θα έχουμε Τεχνητή Νοημοσύνη. Ήρθε για να μείνει.
Το πραγματικό ερώτημα είναι με ποιους όρους:
- Θα είναι εργαλείο που ενδυναμώνει τον πολίτη ή σύστημα που τον αναισθητοποιεί;
- Θα υποστηρίζει τον δημόσιο διάλογο ή θα τον αντικαθιστά με ροές “προσωποποιημένου” περιεχομένου;
- Θα βοηθά να σκεφτόμαστε καλύτερα, ή θα μας βολεύει στο να μην σκεφτόμαστε καθόλου;
Τίποτα από αυτά δεν είναι προδιαγεγραμμένο. Όπως και σε άλλες κρίσιμες καμπές της ιστορίας, έτσι και τώρα, η Δημοκρατία δεν θα σωθεί «από μόνη της» ούτε από κάποια «έξυπνη» τεχνολογία.
Θα σωθεί, ή θα χαθεί, από το αν θα αποφασίσουμε να την υπερασπιστούμε ενεργά, στο σχολείο, στη δημόσια σφαίρα, στην πολιτική, στις ίδιες τις ψηφιακές πλατφόρμες όπου πλέον ζούμε ένα μεγάλο μέρος της ζωής μας.
—
Πηγή άρθρου: athensvoice.gr