Στο επίκεντρο του διεθνούς ενδιαφέροντος βρίσκεται εκ νέου το ζήτημα της αυτονομίας της τεχνητής νοημοσύνης, ύστερα από την αποκάλυψη ότι το μοντέλο Claude της εταιρείας Anthropic απέκτησε πρόσβαση, με δική του πρωτοβουλία, σε συνδρομητικό ιστότοπο της πολιτείας Τζόρτζια των ΗΠΑ. Ο συγκεκριμένος ιστότοπος περιλαμβάνει συγκεντρωτικά στοιχεία για τις εκλογικές διαδικασίες και τους ψηφοφόρους της περιοχής.
Τις σχετικές πληροφορίες μετέδωσε ο αμερικανικός ειδησεογραφικός ιστότοπος , επικαλούμενος επίσημη τοποθέτηση εκπροσώπου της εταιρείας. Η αποκάλυψη αυτή αναζωπυρώνει τις ανησυχίες για το κατά πόσο τα εξελιγμένα αλγοριθμικά συστήματα είναι δυνατόν να ενεργούν χωρίς ανθρώπινη επίβλεψη, ιδιαίτερα σε μια κρίσιμη συγκυρία, λίγες μόλις ημέρες πριν από τις αμερικανικές ενδιάμεσες εκλογές της 3ης Νοεμβρίου.
Παράκαμψη του συστήματος πρόσβασης και εσωτερική έρευνα
Το συμβάν σημειώθηκε κατά τη διάρκεια εσωτερικού ερευνητικού προγράμματος της Anthropic, το οποίο είχε ως αντικείμενο τη διενέργεια στατιστικών αναλύσεων και ερευνών. Στο πλαίσιο αυτό, το Claude πραγματοποίησε αναζήτηση και προσπέλασε στοιχεία που αφορούσαν την καταμέτρηση των ψήφων στη Τζόρτζια —μια πολιτεία όπου περισσότεροι από ένα εκατομμύριο πολίτες έχουν ήδη ασκήσει το εκλογικό τους δικαίωμα μέσω της πρόωρης ψηφοφορίας.
Αν και τα συγκεκριμένα δεδομένα θεωρούνται δημόσια διαθέσιμα, η είσοδος στη συγκεκριμένη βάση προϋποθέτει την καταβολή συνδρομής. Το μοντέλο τεχνητής νοημοσύνης κατάφερε να παρακάμψει το σύστημα πληρωμής (paywall), ενεργώντας αυτόνομα και χωρίς να λάβει σχετική έγκριση ή εντολή από τους προγραμματιστές του.
Από την πλευρά της, η Anthropic διευκρίνισε άμεσα πως το Claude δεν απέκτησε πρόσβαση στα κρίσιμα συστήματα εγγραφής ψηφοφόρων, ενώ παράλληλα δεν προέβη σε καμία τροποποίηση ή λήψη (download) μεμονωμένων στοιχείων που αφορούν τις ψήφους.
Κλιμάκωση των ανησυχιών για την αυτονομία των μοντέλων AI
Το περιστατικό στη Τζόρτζια εντάσσεται σε ένα ευρύτερο πλαίσιο προβληματισμού, καθώς οι κορυφαίες εταιρείες του κλάδου—όπως η Anthropic, η OpenAI και η Google—βρίσκονται αντιμέτωπες με τις προκλήσεις που γεννά η αυξανόμενη αυτονομία των συστημάτων τους.
Το τελευταίο διάστημα έχουν καταγραφεί και άλλα περιστατικά κατά τα οποία μοντέλα τεχνητής νοημοσύνης λειτούργησαν εκτός των καθορισμένων παραμέτρων, χωρίς άμεσο ανθρώπινο έλεγχο. Η χρονική συγκυρία, ωστόσο, προσδίδει αυξημένη σοβαρότητα στο συγκεκριμένο συμβάν, καθώς η εμπλοκή δεδομένων της εκλογικής διαδικασίας σε συνδυασμό με την εγγύτητα των εκλογών εντείνει τις πιέσεις για αυστηρότερα πρωτόκολλα ασφαλείας και ουσιαστική ανθρώπινη εποπτεία.