Υποβοήθηση ή υποκατάσταση; Το όριο που καθορίζει τη διοικητική λογοδοσία
Η Τεχνητή Νοημοσύνη (ΤΝ) έχει εισέλθει δυναμικά στον δημόσιο διάλογο ως υπόσχεση ριζικού εκσυγχρονισμού της δημόσιας διοίκησης άμεσα ή έμμεσα από τους ίδιους τους δημοσίους υπαλλήλους που τη χρησιμοποιούν ιδιωτικά. Από την αυτοματοποίηση διαδικασιών έως την υποστήριξη αποφάσεων, οι εφαρμογές που προτείνονται είναι πολλές και συχνά εντυπωσιακές. Ωστόσο, για τον δημόσιο τομέα το κρίσιμο ερώτημα δεν είναι αν θα χρησιμοποιηθεί ΤΝ, αλλά πώς και σε ποιον ρόλο.
Στο opengov.ellak.gr έχει αναδειχθεί διαχρονικά ότι η ψηφιακή διακυβέρνηση δεν μπορεί να αντιμετωπίζεται ως απλή υιοθέτηση τεχνικών λύσεων. Είναι πρωτίστως ζήτημα θεσμών, κανόνων και λογοδοσίας. Υπό αυτό το πρίσμα, η διάκριση μεταξύ “AI-first” και “AI-compatible” προσεγγίσεων αποκτά κεντρική πολιτική σημασία.
Η AI-first προσέγγιση τοποθετεί την ΤΝ στον πυρήνα της λειτουργίας των συστημάτων. Οι διαδικασίες, οι ροές εργασίας ή ακόμη και οι προτάσεις αποφάσεων παράγονται δυναμικά από μοντέλα, των οποίων η εσωτερική λογική είναι στατιστική και συχνά μη ερμηνεύσιμη. Σε περιβάλλοντα ιδιωτικού τομέα ή πειραματισμού, αυτή η προσέγγιση μπορεί να είναι αποδεκτή. Στον δημόσιο τομέα, όμως, εγείρει θεμελιώδη προβλήματα.
Η δημόσια διοίκηση οφείλει να λειτουργεί με κανόνες που είναι προβλέψιμοι, αιτιολογημένοι και ελέγξιμοι. Κάθε διοικητική πράξη πρέπει να μπορεί να εξηγηθεί, να αναπαραχθεί και να ελεγχθεί από τον πολίτη, τη δικαιοσύνη και τους ελεγκτικούς μηχανισμούς. Η ανάθεση κρίσιμων λειτουργιών σε πιθανοκρατικά μοντέλα, των οποίων η συμπεριφορά μπορεί να αλλάζει με την εκπαίδευση ή τα δεδομένα εισόδου, υπονομεύει αυτή τη βασική αρχή.
Αντίθετα, η AI-compatible προσέγγιση αντιμετωπίζει την ΤΝ ως υποστηρικτικό επίπεδο και όχι ως υποκατάστατο της διοικητικής λογικής. Οι κανόνες, οι διαδικασίες και οι αποφάσεις παραμένουν ρητά ορισμένες μέσω νόμων, κανονισμών και μοντέλων που μπορούν να ελεγχθούν. Η ΤΝ αξιοποιείται για να ενισχύσει την ανθρώπινη εργασία: για σύνοψη μεγάλου όγκου πληροφοριών, για αναζήτηση σε τεκμηρίωση, για έλεγχο συνέπειας ή για υποστήριξη της ανάλυσης.
Η διάκριση αυτή δεν είναι αφηρημένη. Έχει άμεσες συνέπειες στο σχεδιασμό των ψηφιακών υποδομών του Δημοσίου. Τα AI-first εργαλεία τείνουν να εξελίσσονται γρήγορα, με συχνές αλλαγές στον πυρήνα τους, ακολουθώντας τον ρυθμό ανάπτυξης των μοντέλων ΤΝ. Αυτό μπορεί να είναι πλεονέκτημα για startups, αλλά για δημόσια συστήματα με ορίζοντα ζωής δεκαετιών μετατρέπεται σε σοβαρό ρίσκο. Η εξάρτηση από συγκεκριμένα μοντέλα, παρόχους ή πλατφόρμες δυσχεραίνει την αλλαγή πορείας και αυξάνει το κόστος συντήρησης.
Αντίθετα, τα AI-compatible συστήματα βασίζονται σε σταθερό πυρήνα. Τα εργαλεία ανάλυσης, σχεδιασμού και ανάπτυξης λογισμικού παραμένουν λειτουργικά ανεξάρτητα από την ΤΝ. Τα μοντέλα μπορούν να αλλάξουν ή να αφαιρεθούν χωρίς να καταρρεύσει το σύστημα. Αυτή η αρχιτεκτονική επιλογή είναι κρίσιμη για τη διατήρηση της ψηφιακής κυριαρχίας του κράτους.
Η συζήτηση αυτή συνδέεται άμεσα και με το ανοιχτό λογισμικό. Τα εργαλεία ανοιχτού λογισμικού επιτρέπουν στον δημόσιο φορέα να κατανοεί και να ελέγχει τον τρόπο με τον οποίο ενσωματώνεται η ΤΝ. Δεν επιβάλλουν “μαύρα κουτιά” ούτε υποχρεωτικές εξαρτήσεις από εμπορικές υπηρεσίες. Αντίθετα, επιτρέπουν την υιοθέτηση ΤΝ με όρους διαφάνειας, ελέγχου και συμμόρφωσης με το θεσμικό πλαίσιο, συμπεριλαμβανομένων των ευρωπαϊκών ρυθμίσεων όπως ο AI Act.
Για τα Υπουργεία και τους δημόσιους οργανισμούς, το διακύβευμα είναι σαφές. Η ΤΝ μπορεί να αποτελέσει σημαντικό εργαλείο ενίσχυσης της διοικητικής ικανότητας, μόνο εφόσον ενταχθεί σε ένα πλαίσιο που σέβεται τις αρχές της λογοδοσίας, της διαφάνειας και της συνέχειας της διοίκησης. Η άκριτη υιοθέτηση AI-first λύσεων κινδυνεύει να μεταφέρει κρίσιμες λειτουργίες του κράτους σε τεχνολογίες που δεν μπορούν να ελεγχθούν πολιτικά ή θεσμικά.
Το ζητούμενο, επομένως, δεν είναι να επιλέξουμε «περισσότερη» ή «λιγότερη» ΤΝ. Είναι να επιλέξουμε τον σωστό ρόλο της ΤΝ στη δημόσια διοίκηση. Έναν ρόλο επικουρικό, ελεγχόμενο και αναστρέψιμο. Έναν ρόλο που ενισχύει, αντί να υποκαθιστά, τη δημοκρατική ευθύνη.
Σε αυτό το πλαίσιο, τα επόμενα άρθρα της σειράς εστιάζουν στα εργαλεία ανοιχτού λογισμικού για αναλυτές, σχεδιαστές και προγραμματιστές. Όχι ως τεχνικές λίστες, αλλά ως πρακτικές επιλογές πολιτικής που καθορίζουν αν η Τεχνητή Νοημοσύνη θα λειτουργήσει ως εργαλείο καλής διακυβέρνησης ή ως νέος παράγοντας αδιαφάνειας.
—