Η τεχνητή νοημοσύνη μπορεί να λέει ψέματα και -το σημαντικότερο- μπορεί να γίνει εξαιρετικά πειστική. Ρωσία και Κίνα αξιοποιούν ήδη AI για προπαγάνδα και επιχειρήσεις επιρροής, ενώ η προστασία απέναντι στη νέα πραγματικότητα απαιτεί κάτι που θυμίζει εκπαίδευση κατασκόπων: έλεγχο, διασταύρωση και διαρκή δυσπιστία.
Για δεκαετίες, οι υπηρεσίες πληροφοριών προσπαθούσαν να στρατολογήσουν ανθρώπους που θα μπορούσαν να επηρεάσουν άλλους. Σήμερα, η ίδια λογική μεταφέρεται στην τεχνητή νοημοσύνη. Αντί για έναν πολιτικό, έναν επιχειρηματία ή έναν δημοσιογράφο, ο στόχος μπορεί να είναι ένα γλωσσικό μοντέλο όπως το ChatGPT, το Grok ή το Gemini, το οποίο στη συνέχεια μεταφέρει μια ψευδή πληροφορία σε εκατομμύρια ανθρώπους.
Χαρακτηριστικό παράδειγμα αποτελεί το ρωσικό δίκτυο Portal Kombat, το οποίο διαχειρίζεται εκατοντάδες ιστοσελίδες και έχει σχεδιαστεί για τη διάδοση φιλορωσικής παραπληροφόρησης. Σύμφωνα με την NewsGuard, το δίκτυο διοχέτευσε περισσότερα από 3,6 εκατομμύρια άρθρα σε εκατοντάδες ανεξάρτητες ιστοσελίδες και δεκάδες γλώσσες μόνο το 2024. Ερευνητές της εταιρείας, που παρακολουθεί την online παραπληροφόρηση, διαπίστωσαν ότι περιεχόμενο του δικτύου εμφανιζόταν τακτικά στις απαντήσεις συστημάτων AI.
Από τη μαζική προπαγάνδα στην εξατομικευμένη πειθώ
Η Ρωσία και η Κίνα δεν περιορίζονται, όμως, στην προσπάθεια να επηρεάσουν τα μοντέλα τεχνητής νοημοσύνης. Το Πεκίνο χρησιμοποιεί τα δικά του συστήματα για να προωθεί την επίσημη γραμμή του Κομμουνιστικού Κόμματος, μεταξύ άλλων για τους Ουιγούρους, ενώ η Ρωσία αξιοποιεί AI για τη δημιουργία μεγάλου αριθμού ιστοσελίδων που επιχειρούν να υπονομεύσουν τη δημοκρατία και τις δυτικές συμμαχίες. Παράλληλα, η τεχνολογία επιτρέπει την παραγωγή πλαστού κειμένου, ήχου και βίντεο που δύσκολα διακρίνεται από το αυθεντικό.
Η πραγματική αλλαγή, ωστόσο, βρίσκεται στην ικανότητα της AI να προσαρμόζει την προπαγάνδα στον κάθε άνθρωπο. Τα μέσα κοινωνικής δικτύωσης χρησιμοποιούν εδώ και χρόνια αλγορίθμους για να ενισχύουν περιεχόμενο που κρατά τους χρήστες στην πλατφόρμα. Η AI μπορεί να πάει ένα βήμα παραπέρα: να αναλύσει όσα γράφει ή αναζητά ένας χρήστης, να εντοπίσει τις πεποιθήσεις και τις επιθυμίες του και να δημιουργήσει σε πραγματικό χρόνο ένα μήνυμα σχεδιασμένο ειδικά για να τον πείσει.
Μια τέτοια δυνατότητα έχει ήδη περιγραφεί στην περίπτωση της κινεζικής εταιρείας GoLaxy. Ερευνητές του Vanderbilt University μελέτησαν έγγραφα που είχαν διαρρεύσει, σύμφωνα με τα οποία η εταιρεία χρησιμοποιούσε AI για να συλλέγει πληροφορίες από τα social media, να δημιουργεί ψυχολογικά προφίλ, να παράγει εξατομικευμένο περιεχόμενο και στη συνέχεια να συνομιλεί με χρήστες με στόχο να επηρεάσει τις πολιτικές τους απόψεις. Οι αναφορές συνδέουν τη χρήση αυτών των δυνατοτήτων με το Χονγκ Κονγκ το 2020 και την περίοδο πριν από τις εκλογές στην Ταϊβάν το 2024. Η GoLaxy έχει αρνηθεί ότι έκανε εκλογικές εργασίες, δημιούργησε ψυχολογικά προφίλ ή ανέπτυξε bots.
Το ίδιο μοντέλο λειτουργεί και στην πολιτική ενημέρωση. Η Reporters Without Borders έχει καταγράψει περιπτώσεις στις οποίες το κινεζικό μοντέλο Qwen αναπαράγει τη γραμμή του Κομμουνιστικού Κόμματος για τους Ουιγούρους και τα στρατόπεδα κράτησης, παρουσιάζοντάς τα ως «κέντρα εκπαίδευσης και επαγγελματικής κατάρτισης» και χαρακτηρίζοντας τις σχετικές ερωτήσεις «αβάσιμη εικασία».
Ρωσία, fake media και η «βιομηχανία» της παραπληροφόρησης
Στο μεταξύ, δίκτυα όπως το CopyCop χρησιμοποιούν AI για να δημιουργούν ιστοσελίδες που μοιάζουν με πραγματικά τοπικά μέσα ενημέρωσης στις ΗΠΑ. Σύμφωνα με την Recorded Future, το δίκτυο δημοσιεύει άρθρα σε ιστοσελίδες με ονόματα όπως The Boston Times και μιμείται την ταυτότητα γνωστών εφημερίδων, δημιουργώντας την εντύπωση ότι πρόκειται για αυθεντική δημοσιογραφία. Η γαλλική κυβέρνηση έχει συνδέσει το CopyCop, γνωστό και ως Storm-1516, με τη ρωσική στρατιωτική υπηρεσία πληροφοριών GRU.
Ακόμη και τα ίδια τα εργαλεία της AI έχουν χρησιμοποιηθεί σε επιχειρήσεις επιρροής. Τον Ιούνιο, η OpenAI παρουσίασε στοιχεία σύμφωνα με τα οποία το ChatGPT πιθανότατα χρησιμοποιήθηκε από την Κίνα για τη δημιουργία κρυφών μηνυμάτων προπαγάνδας σχετικά με την κατασκευή data centers. Η εκστρατεία, με την ονομασία "Data Center Bandwagon", περιλάμβανε τη δημιουργία σχολίων και εικόνων για τα social media, μεταξύ άλλων σχετικά με το κόστος ηλεκτρικής ενέργειας, τα οποία στη συνέχεια αναρτήθηκαν στο X. Στόχος φέρεται να ήταν να δημιουργηθούν εμπόδια στις αμερικανικές φιλοδοξίες στον τομέα της AI.
Η αποτελεσματικότητα τέτοιων επιχειρήσεων δεν είναι απλώς θεωρητική. Μελέτη που δημοσιεύθηκε στο επιστημονικό περιοδικό Nature διαπίστωσε ότι οι διάλογοι με AI μπορούν να είναι περίπου τέσσερις φορές πιο πειστικοί από τις παραδοσιακές πολιτικές διαφημίσεις. Αυτό μετατοπίζει το πρόβλημα από την απλή διάδοση ψευδών ειδήσεων στην ενεργή προσπάθεια αλλαγής της γνώμης του χρήστη.
Πώς ξεχωρίζουμε την αληθινή πληροφορία
Η απάντηση δεν μπορεί να είναι η πλήρης απόρριψη της τεχνητής νοημοσύνης. Μπορεί, όμως, να είναι μια διαφορετική σχέση μαζί της. Οι υπηρεσίες πληροφοριών έχουν αναπτύξει εδώ και δεκαετίες τεχνικές για να ξεχωρίζουν την πραγματική πληροφορία από την παραπλάνηση και αρκετές από αυτές μπορούν να εφαρμοστούν στην καθημερινή χρήση της AI.
Πρώτος κανόνας: διασταύρωση. Αν μια πληροφορία προέρχεται από μία μόνο πηγή, χρειάζεται έλεγχος από διαφορετικές πηγές. Το ίδιο ισχύει και για τα chatbot. Μια απάντηση από το ChatGPT μπορεί να ελεγχθεί στο Gemini ή στο Claude, αλλά ακόμη καλύτερα να συγκριθεί με πρωτογενείς πηγές, επίσημα στοιχεία και αξιόπιστη δημοσιογραφία.
Δεύτερος κανόνας: δοκιμή αξιοπιστίας. Ένας τρόπος ελέγχου ενός συστήματος είναι να του θέσουμε ερωτήσεις για τις οποίες γνωρίζουμε ήδη την απάντηση. Όταν πρόκειται για έναν πόλεμο, μια κοινωνική αναταραχή ή ένα άλλο γεγονός που εξελίσσεται, η απάντηση της AI μπορεί να συγκριθεί με πρωτογενείς πληροφορίες, επίσημες ανακοινώσεις, δορυφορικές εικόνες ή αξιόπιστα τοπικά δεδομένα.
Τρίτος κανόνας: μην εμπιστεύεστε τυφλά κανέναν. Τα συστήματα AI είναι σχεδιασμένα ώστε να δίνουν χρήσιμες και ευχάριστες απαντήσεις και να διατηρούν την αλληλεπίδραση με τον χρήστη. Αυτό δεν σημαίνει ότι έχουν ως βασικό στόχο να του πουν την απόλυτη αλήθεια. Η ευκολία με την οποία μια πειστική απάντηση εμφανίζεται στην οθόνη, μπορεί να γίνει παγίδα.
Η άμυνα απέναντι σε αυτή τη νέα μορφή παραπληροφόρησης απαιτεί τελικά κάτι περισσότερο από καλύτερα φίλτρα. Χρειάζεται εκπαίδευση στην κριτική σκέψη, εξοικείωση με τον εντοπισμό ψευδών πληροφοριών και AI-generated περιεχομένου, αλλά και διαρκής εκπαίδευση, όπως συμβαίνει ήδη με την κυβερνοασφάλεια. Παράλληλα, μπορούν να δημιουργηθούν κοινότητες χρηστών που διασταυρώνουν πληροφορίες και λειτουργούν ως συλλογικά δίκτυα ελέγχου.
Υπάρχουν ήδη παραδείγματα αυτής της λογικής: πλατφόρμες όπως το Nextdoor και το Citizen επιτρέπουν στους χρήστες να μοιράζονται πληροφορίες για τοπικά περιστατικά, ενώ κοινότητες στο Reddit έχουν αναπτύξει συλλογικές έρευνες για ανεξιχνίαστες υποθέσεις. Το Bellingcat, από την άλλη, έχει δημιουργήσει εργαλεία και μεθόδους που επιτρέπουν σε απλούς πολίτες να ερευνούν γεγονότα, ακόμη και υποθέσεις εγκλημάτων πολέμου.
Η εποχή στην οποία η παραπληροφόρηση ήταν ένα φυλλάδιο, ένα ψεύτικο δημοσίευμα ή ένα παραποιημένο βίντεο έχει παρέλθει. Η AI μπορεί να γνωρίζει τι πιστεύουμε, να προσαρμόζει το μήνυμα πάνω στις αδυναμίες μας και να συνομιλεί μαζί μας μέχρι να αλλάξει την άποψή μας. Γι’ αυτό και η πιο χρήσιμη άμυνα δεν είναι να πιστεύουμε λιγότερο την τεχνολογία ή περισσότερο τις μηχανές, αλλά να μάθουμε να αμφισβητούμε συστηματικά όσα μας λένε, ακόμη και όταν ακούγονται απολύτως πειστικά.