Το μέλλον της ΤΝ δεν είναι κάτι που απλώς θα μας συμβεί. Είναι αποτέλεσμα επιλογών για το ποιος σχεδιάζει την τεχνολογία, ποιος την κατέχει, ποιος την ελέγχει και σε ποιον λογοδοτεί.

Ένας από τους πιο επικίνδυνους τρόπους με τους οποίους συζητάμε σήμερα για την Τεχνητή Νοημοσύνη είναι σαν να πρόκειται για ένα φυσικό φαινόμενο. Σαν μια καταιγίδα που πλησιάζει, μια τεχνολογική παλίρροια που δεν μπορούμε να σταματήσουμε και στην οποία κοινωνίες, εργαζόμενοι και δημοκρατικοί θεσμοί πρέπει απλώς να προσαρμοστούν.

Αυτή η αντίληψη είναι λανθασμένη και πολιτικά επικίνδυνη. Η ΤΝ δεν έρχεται από τη φύση. Κατασκευάζεται. Τα μοντέλα της σχεδιάζονται από ανθρώπους, εκπαιδεύονται με συγκεκριμένα δεδομένα, λειτουργούν σε υπολογιστικές υποδομές που κάποιος χρηματοδότησε, ανήκουν σε επιχειρήσεις ή δημόσιους οργανισμούς και χρησιμοποιούνται για σκοπούς που επίσης κάποιος επέλεξε.

Επομένως, πίσω από κάθε σύστημα ΤΝ υπάρχουν ανθρώπινες αποφάσεις. Και πίσω από αυτές τις αποφάσεις υπάρχουν οικονομικά συμφέροντα, θεσμοί, κανόνες και σχέσεις εξουσίας.

Η «αναπόφευκτη ΤΝ» είναι ένα πολιτικό αφήγημα

Η παρατήρηση του Yuval Noah Harari ότι η παρουσίαση της κυριαρχίας της ΤΝ ως «αναπόφευκτης» μπορεί να λειτουργεί ως τρόπος αποφυγής της ανθρώπινης ευθύνης φωτίζει ακριβώς αυτό το πρόβλημα.

Όταν μια εξέλιξη περιγράφεται ως αναπόφευκτη, η πολιτική σχεδόν εξαφανίζεται από τη συζήτηση. Αν «έτσι θα γίνουν τα πράγματα», τότε δεν έχει νόημα να ρωτήσουμε αν τα θέλουμε, ποιοι ωφελούνται, ποιοι ζημιώνονται ή ποιες εναλλακτικές θα μπορούσαμε να επιλέξουμε.

Όμως τίποτε δεν επιβάλλει από μόνο του να χρησιμοποιούμε ΤΝ για την αξιολόγηση εργαζομένων, την επιλογή δικαιούχων κοινωνικών παροχών, την επιτήρηση πολιτών ή την εξατομικευμένη πολιτική πειθώ. Ούτε υπάρχει κάποιος τεχνολογικός νόμος που επιβάλλει τα ισχυρότερα μοντέλα, τα δεδομένα και τις υπολογιστικές υποδομές να συγκεντρώνονται σε λίγες παγκόσμιες εταιρείες.

Αυτά είναι αποτελέσματα επιλογών.

Γι’ αυτό το σωστό ερώτημα δεν είναι «τι θα μας κάνει η ΤΝ;». Είναι «ποια ΤΝ θέλουμε να δημιουργήσουμε, ποιος θα την ελέγχει και για ποιους σκοπούς θα επιτρέψουμε να χρησιμοποιείται;».

Το πραγματικό ζήτημα είναι η εξουσία

Η δημόσια συζήτηση επικεντρώνεται συχνά στο πόσο «έξυπνα» θα γίνουν τα συστήματα ΤΝ. Για τη δημοκρατία όμως το κρισιμότερο ερώτημα είναι διαφορετικό: ποιος αποκτά ισχύ μέσω αυτών.

Η ΤΝ απαιτεί δεδομένα, υπολογιστική ισχύ, λογισμικό, μοντέλα, ενεργειακές υποδομές και πρόσβαση σε ψηφιακές πλατφόρμες. Όταν όλα αυτά συγκεντρώνονται στους ίδιους λίγους φορείς, η τεχνολογική ισχύς μετατρέπεται σταδιακά σε οικονομική, πληροφοριακή και πολιτική ισχύ.

Μια εταιρεία που γνωρίζει τι διαβάζουμε, τι αγοράζουμε και με ποιους επικοινωνούμε, ενώ ταυτόχρονα διαθέτει συστήματα ικανά να συνομιλούν εξατομικευμένα μαζί μας, δεν παρέχει απλώς μία ακόμη ψηφιακή υπηρεσία. Αποκτά μια πρωτοφανή δυνατότητα να διαμεσολαβεί την πληροφορία, τη γνώση και τελικά τη διαμόρφωση προτιμήσεων.

Εδώ βρίσκεται η δημοκρατική διάσταση της ΤΝ.

Ο άνθρωπος πρέπει να διατηρεί τον τελευταίο λόγο

Η απάντηση δεν είναι να αρνηθούμε την τεχνολογία. Είναι να καθορίσουμε δημοκρατικά τα όριά της.

Στη δημόσια διοίκηση η ΤΝ μπορεί να βοηθά έναν υπάλληλο να εντοπίζει πληροφορίες, να αναλύει δεδομένα ή να εντοπίζει ασυνήθιστα μοτίβα. Δεν πρέπει όμως να μετατρέπεται σε απρόσωπο τελικό κριτή για ένα επίδομα, μια πρόσληψη, ένα πρόστιμο ή οποιαδήποτε άλλη απόφαση που επηρεάζει δικαιώματα.

Ο πολίτης πρέπει να γνωρίζει πότε χρησιμοποιήθηκε ΤΝ, να μπορεί να αμφισβητήσει το αποτέλεσμα και να απευθυνθεί σε άνθρωπο που έχει πραγματική αρμοδιότητα να το αναθεωρήσει.

Η ΤΝ μπορεί να είναι σύμβουλος. Η ευθύνη όμως πρέπει να παραμένει ανθρώπινη και θεσμικά αναγνωρίσιμη.

Η δημοκρατία χρειάζεται και τεχνολογικές εναλλακτικές

Ο δημοκρατικός έλεγχος δεν εξασφαλίζεται μόνο με κανονισμούς. Χρειάζεται και πραγματική δυνατότητα επιλογής.

Εάν ένα κράτος εξαρτάται πλήρως από έναν προμηθευτή για τα μοντέλα, τα δεδομένα, το νέφος και τις κρίσιμες ψηφιακές υπηρεσίες του, η δυνατότητα πολιτικού ελέγχου περιορίζεται. Γι’ αυτό η ψηφιακή κυριαρχία δεν πρέπει να σημαίνει ότι μια χώρα θα κατασκευάζει τα πάντα μόνη της. Πρέπει να σημαίνει ότι μπορεί να ελέγχει, να επιθεωρεί, να μεταφέρει, να τροποποιεί και, όταν χρειάζεται, να αντικαθιστά τις τεχνολογίες από τις οποίες εξαρτάται.

Σε αυτό το σημείο αποκτούν ιδιαίτερη σημασία το ανοιχτό λογισμικό, τα ανοιχτά πρότυπα, τα φορητά δεδομένα και οι δημόσιες ψηφιακές υποδομές. Η ανοιχτότητα δεν εγγυάται από μόνη της τη δημοκρατία. Δημιουργεί όμως τις τεχνικές προϋποθέσεις για ανεξάρτητο έλεγχο, επαναχρησιμοποίηση και αποφυγή του εγκλωβισμού σε έναν προμηθευτή.

Από την ΤΝ που ελέγχει τον πολίτη στην ΤΝ που ελέγχει την εξουσία

Υπάρχει και μια διαφορετική δυνατότητα. Αντί να χρησιμοποιείται η ΤΝ κυρίως για να γνωρίζει περισσότερο το κράτος ή η επιχείρηση για τον πολίτη, μπορεί να χρησιμοποιηθεί ώστε ο πολίτης να γνωρίζει περισσότερο για την εξουσία.

Ανοιχτά συστήματα μπορούν να αναλύουν δημόσιες συμβάσεις, προϋπολογισμούς και αποφάσεις, να εντοπίζουν ασυνήθιστα πρότυπα δαπανών, να εξηγούν σύνθετα διοικητικά κείμενα και να κάνουν τη δημόσια πληροφορία πραγματικά προσβάσιμη.

Έτσι η ΤΝ μπορεί να γίνει τεχνολογία λογοδοσίας και όχι μόνο τεχνολογία διοίκησης.

Η κοινωνία εξακολουθεί να έχει επιλογή

Το ουσιαστικό πολιτικό δίλημμα επομένως δεν είναι αν είμαστε «υπέρ» ή «κατά» της Τεχνητής Νοημοσύνης.

Το ερώτημα είναι ποιος την ελέγχει, προς όφελος ποιου και υπό ποιους κανόνες.

Η ΤΝ δεν είναι φυσικός νόμος. Είναι ανθρώπινο δημιούργημα και, ακριβώς γι’ αυτό, μπορεί να αποτελέσει αντικείμενο δημοκρατικής επιλογής. Η κοινωνία έχει δικαίωμα να αποφασίζει πού χρησιμοποιείται, ποια δεδομένα αξιοποιεί, ποιος λογοδοτεί, ποια συστήματα απορρίπτει και ποιες εναλλακτικές υποδομές επιλέγει να δημιουργήσει.

Το μέλλον της ΤΝ δεν είναι κάτι που απλώς θα μας συμβεί. Το κατασκευάζουμε ήδη. Και η ευθύνη για το ποιος θα έχει την εξουσία σε αυτό το μέλλον παραμένει δική μας.

Πηγές:

The Economist, “An interview with Yuval Noah Harari | The Economist Insider”: Η συζήτηση του Harari με τη Zanny Minton Beddoes αναδεικνύει ως κεντρικό ζήτημα την απόρριψη της ιδέας ότι η κυριαρχία της ΤΝ είναι αναπόφευκτη και επαναφέρει την ανθρώπινη ευθύνη για τις επιλογές γύρω από την ανάπτυξη και την εξουσία των συστημάτων ΤΝ. The Economist Insider,

Ευρωπαϊκή Ένωση, Artificial Intelligence Act, Κανονισμός (ΕΕ) 2024/1689: Το ευρωπαϊκό θεσμικό πλαίσιο προβλέπει ανθρώπινη εποπτεία για συστήματα υψηλού κινδύνου και δυνατότητα του ανθρώπου να αγνοεί, να ανατρέπει ή να αντιστρέφει την έξοδο ενός συστήματος ΤΝ, αποτυπώνοντας θεσμικά ότι η τεχνολογία δεν πρέπει να υποκαθιστά την ανθρώπινη ευθύνη. EUR-Lex, Regulation (EU) 2024/1689,

Council of Europe, Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law: Η πρώτη διεθνής νομικά δεσμευτική σύμβαση για την ΤΝ συνδέει ολόκληρο τον κύκλο ζωής των συστημάτων με τα ανθρώπινα δικαιώματα, τη δημοκρατία, το κράτος δικαίου, τη διαφάνεια και τη λογοδοσία. Council of Europe Framework Convention on AI,

UNESCO, Recommendation on the Ethics of Artificial Intelligence: Η παγκόσμια σύσταση της UNESCO αντιμετωπίζει την ΤΝ ως κοινωνικοτεχνικό σύστημα του οποίου η ανάπτυξη, ο σχεδιασμός και η χρήση πρέπει να διέπονται από ανθρώπινα δικαιώματα, διαφάνεια, λογοδοσία και ανθρώπινη εποπτεία, υπογραμμίζοντας ότι η τελική ευθύνη δεν μπορεί να εκχωρείται στις μηχανές. UNESCO Recommendation on the Ethics of Artificial Intelligence.