Γιατί η επαλήθευση γεγονότων παραμένει ανθρώπινη ευθύνη

Η τεχνητή νοημοσύνη έχει μπει με ταχύτητα στον τρόπο με τον οποίο οι πολίτες αναζητούν πληροφορίες. Όλο και περισσότεροι άνθρωποι δεν πληκτρολογούν πια μια ερώτηση σε μια μηχανή αναζήτησης, αλλά τη θέτουν σε ένα γλωσσικό μοντέλο και περιμένουν μια ολοκληρωμένη απάντηση. Η εμπειρία είναι πράγματι εντυπωσιακή. Η απάντηση έρχεται γρήγορα, με αυτοπεποίθηση, με συνοχή, συχνά με ύφος αυθεντίας. Αυτό ακριβώς είναι και το πρόβλημα.

Η τεχνητή νοημοσύνη δεν γνωρίζει με τον τρόπο που γνωρίζει ένας άνθρωπος, ένας δημοσιογράφος, ένας ερευνητής ή ένας τεκμηριωτής. Δεν έχει άμεση σχέση με τον κόσμο. Δεν είδε το γεγονός, δεν μίλησε με την πηγή, δεν άνοιξε το αρχείο, δεν στάθηκε απέναντι σε δύο αντιφατικές μαρτυρίες για να κρίνει ποια αντέχει στον έλεγχο. Τα μεγάλα γλωσσικά μοντέλα παράγουν την πιθανότερη γλωσσική συνέχεια μιας ερώτησης, με βάση τεράστιους όγκους δεδομένων και στατιστικές συσχετίσεις. Αυτό μπορεί να είναι εξαιρετικά χρήσιμο για περίληψη, ταξινόμηση, αναζήτηση, μετάφραση ή πρώτη οργάνωση υλικού. Δεν είναι όμως επαλήθευση.

Η διαφορά ανάμεσα στην απάντηση και στην τεκμηρίωση

Η επαλήθευση γεγονότων είναι μια επίμονη, συχνά ενοχλητική εργασία. Απαιτεί γραμμή προς γραμμή έλεγχο, πρωτογενείς πηγές, αναζήτηση αντιφάσεων, τηλεφωνήματα, πρόσβαση σε αρχεία, γνώση του θεσμικού πλαισίου και ηθική κρίση. Δεν αρκεί να βρεθεί μια πρόταση που μοιάζει σωστή. Πρέπει να απαντηθεί ποιος το λέει, πότε το είπε, με ποια ιδιότητα, με ποιο τεκμήριο, αν υπάρχει νεότερη πληροφορία, αν η διατύπωση παραπλανά και αν η παράλειψη συμφραζομένων αλλάζει το νόημα.

Η τεχνητή νοημοσύνη δυσκολεύεται ακριβώς εκεί όπου αρχίζει η πραγματική επαλήθευση. Μπορεί να δώσει σχέδιο εργασίας για το πώς θα ελεγχθεί ένας ισχυρισμός, αλλά συχνά δεν εκτελεί τον έλεγχο με επαρκή αξιοπιστία. Μπορεί να παραπέμψει σε πηγές που δεν στηρίζουν την απάντηση. Μπορεί να συνδυάσει παλιά και νέα στοιχεία σαν να είναι ισοδύναμα. Μπορεί να παραγάγει ανύπαρκτες αναφορές, λανθασμένες ημερομηνίες ή συμπεράσματα που δεν προκύπτουν από τα δεδομένα. Το πιο επικίνδυνο δεν είναι ότι κάνει λάθη. Είναι ότι τα κάνει με άψογη σύνταξη και ήρεμη βεβαιότητα.

Η αλήθεια δεν βρίσκεται όλη στο διαδίκτυο

Υπάρχει και ένα βαθύτερο πρόβλημα. Μεγάλο μέρος της ανθρώπινης γνώσης δεν είναι διαθέσιμο στο ανοικτό διαδίκτυο. Βρίσκεται σε φυσικά αρχεία, σε τοπικές μνήμες, σε ανεπεξέργαστα έγγραφα, σε ανθρώπους που πρέπει να μιλήσουν, σε θεσμικές διαδικασίες που δεν έχουν ψηφιοποιηθεί, σε μικρές λεπτομέρειες που δεν καταγράφηκαν ποτέ σε μια μηχανή αναζήτησης. Η τεχνητή νοημοσύνη μπορεί να ανασυνθέτει το ήδη ψηφιοποιημένο ίχνος του κόσμου. Δεν μπορεί να εγγυηθεί ότι αυτό το ίχνος είναι πλήρες, ακριβές, επίκαιρο ή απαλλαγμένο από συμφέροντα.

Αυτό έχει ιδιαίτερη σημασία για τη δημόσια διοίκηση, τη δημοσιογραφία, τη δικαιοσύνη, την επιστήμη και τη δημοκρατική λογοδοσία. Αν ένα σύστημα ΤΝ χρησιμοποιηθεί για να ελέγξει αν ένας πολίτης δικαιούται επίδομα, αν μια δημόσια σύμβαση είναι σύννομη ή αν μια είδηση είναι αληθής, τότε το λάθος δεν είναι απλώς τεχνικό. Μπορεί να γίνει διοικητική αδικία, παραπληροφόρηση, θεσμική αυθαιρεσία ή απώλεια εμπιστοσύνης.

Χρήσιμο εργαλείο, όχι τελικός κριτής

Η σωστή απάντηση δεν είναι να απορρίψουμε την τεχνητή νοημοσύνη. Είναι να την τοποθετήσουμε στη σωστή θέση. Η ΤΝ μπορεί να βοηθήσει τους fact-checkers, τους δημοσιογράφους, τους δημόσιους λειτουργούς και τους ερευνητές να εντοπίζουν ισχυρισμούς, να ταξινομούν μεγάλους όγκους υλικού, να συγκρίνουν κείμενα, να βρίσκουν πιθανές αντιφάσεις και να προτείνουν πηγές για έλεγχο. Δεν πρέπει όμως να είναι ο τελικός εγγυητής της αλήθειας.

Για τον δημόσιο τομέα, η αρχή πρέπει να είναι σαφής: κανένα σύστημα ΤΝ δεν απαντά για δικαιώματα, υποχρεώσεις, άδειες, φόρους, παροχές ή κυρώσεις χωρίς παραπομπή σε ελεγχόμενες πηγές και χωρίς ανθρώπινη τελική ευθύνη. Τα συστήματα ανάκτησης τεκμηρίων μπορούν να μειώσουν τις παραισθήσεις, αλλά δεν τις εξαφανίζουν. Τα ανοικτά μοντέλα, ο ανοικτός κώδικας, τα δημόσια σύνολα δεδομένων, τα αρχεία καταγραφής, τα Model Cards, τα Datasheets και οι ανεξάρτητοι έλεγχοι είναι αναγκαίες δικλείδες, όχι μαγικές λύσεις.

Η δημοκρατική κοινωνία δεν χρειάζεται μηχανές που παριστάνουν τον αλάνθαστο κριτή. Χρειάζεται δημόσιες υποδομές γνώσης, ανοικτά δεδομένα, ανεξάρτητη δημοσιογραφία, ισχυρά αρχεία, βιβλιοθήκες, ερευνητές, δημόσιους λειτουργούς με κατάρτιση και πολίτες που μπορούν να ελέγχουν την εξουσία. Η τεχνητή νοημοσύνη μπορεί να γίνει χρήσιμο εργαλείο σε αυτή την αλυσίδα. Δεν μπορεί να την αντικαταστήσει.

Η αλήθεια δεν είναι απλώς σωστή πρόταση. Είναι διαδικασία. Και η διαδικασία αυτή απαιτεί ευθύνη, κρίση, λογοδοσία και ανθρώπινη παρουσία.

Πηγές άρθρου:

WIRED, “AI Just Isn’t Right”: Το άρθρο τεκμηριώνει, μέσα από την εμπειρία επαγγελματικού fact-checking, γιατί τα γλωσσικά μοντέλα μπορούν να βοηθήσουν στην αναζήτηση και οργάνωση πληροφοριών, αλλά δεν μπορούν να αντικαταστήσουν την ανθρώπινη επαλήθευση γεγονότων: https://www.wired.com/story/fact-checking-ai/,

Tow Center for Digital Journalism, “AI Search Has a Citation Problem”: Η μελέτη του Tow Center εξετάζει απαντήσεις από μηχανές αναζήτησης με ΤΝ και καταγράφει σοβαρά προβλήματα ακρίβειας και παραπομπών, ιδίως όταν ζητείται τεκμηρίωση δημοσιογραφικού περιεχομένου: https://www.cjr.org/tow_center/we-compared-eight-ai-search-engines-theyre-all-bad-at-citing-news.php,

OpenAI, “Introducing SimpleQA”: Το SimpleQA είναι σημείο αναφοράς για την αξιολόγηση της πραγματολογικής ακρίβειας των γλωσσικών μοντέλων σε σύντομες ερωτήσεις με μία σαφή απάντηση, δείχνοντας πόσο δύσκολο παραμένει το πρόβλημα της αξιοπιστίας: https://openai.com/index/introducing-simpleqa/,

Reuters, “AI assistants make widespread errors about the news, new research shows”: Το ρεπορτάζ παρουσιάζει ευρήματα έρευνας BBC και EBU για συχνά λάθη των βοηθών ΤΝ σε ερωτήσεις ειδησεογραφικού περιεχομένου, με σημαντικές συνέπειες για την εμπιστοσύνη στην ενημέρωση: https://www.reuters.com/business/media-telecom/ai-assistants-make-widespread-errors-about-news-new-research-shows-2025-10-21/.