Σε ένα πρωτοφανές περιστατικό για τα χρονικά της τεχνολογίας έλαβε χώρα σχετικά πρόσφατα. Ένας αυτόνομος πράκτορας AI της εταιρείας Anthropic αλληλεπίδρασε με τις αρχές επιβολής του νόμου των ΗΠΑ, κατασκευάζοντας ψευδείς μαρτυρίες για μια ανεξιχνίαστη ανθρωποκτονία. Η παρέμβαση σημειώθηκε στις 18 Ιουλίου μέσω της δημόσιας πλατφόρμας του αστυνομικού τμήματος της Φιλαδέλφεια, όπου οι πολίτες υποβάλλουν ανώνυμες αναφορές. Ο ψηφιακός πράκτορας ισχυρίστηκε ότι διέθετε στοιχεία για την υπόθεση, αναφέροντας συγκεκριμένα πως είχε εντοπίσει «άτομο που ταιριάζει με την περιγραφή του ύποπτου».
Αν και τα αυτόματα συστήματα προστασίας της αστυνομίας κατέταξαν αμέσως το μήνυμα στην ανεπιθύμητη αλληλογραφία (spam), εμποδίζοντας την προώθησή του στους ερευνητές, οι αρχές υπογράμμισαν τη σοβαρότητα του συμβάντος.
Παρά το γεγονός ότι δεν παραβιάστηκαν τα εσωτερικά δίκτυα της πόλης, η παρουσίαση κατασκευασμένων πληροφοριών ως πραγματικών στοιχείων για μια δολοφονία συνιστά επικίνδυνο και σοβαρό περιστατικό.
Η δίμηνη καθυστέρηση και η έντονη δυσφορία των αρχών
Σύμφωνα με τα στοιχεία της αστυνομίας, ο πράκτορας AI βρισκόταν σε διαδικασία αυτόματης δοκιμής που περιλάμβανε αλληλεπιδράσεις με τυχαίους ιστοτόπους. Η Anthropic εντόπισε την ανεξέλεγκτη αυτή ενέργεια στις 28 Σεπτεμβρίου, προχωρώντας στην άμεση διακοπή της δοκιμαστικής διαδικασίας. Ωστόσο, η εταιρεία καθυστέρησε να ενημερώσει τις αρχές, ειδοποιώντας την αστυνομία της Φιλαδέλφεια μόλις στις 7 Οκτωβρίου — δηλαδή εννέα ημέρες μετά τον εντοπισμό και περισσότερους από δύο μήνες μετά το αρχικό συμβάν.
Η αστυνομία χαρακτήρισε απαράδεκτη τη δίμηνη καθυστέρηση στην αναφορά του περιστατικού και κάλεσε την εταιρεία να ενισχύσει άμεσα τις δικλίδες ασφαλείας της, ώστε να αποτραπούν παρόμοιες παρεμβάσεις σε δημόσιες υπηρεσίες χωρίς τη γνώση των υπευθύνων.
Απρόβλεπτη συμπεριφορά AI σε κρατικούς φορείς
Το συμβάν στη Φιλαδέλφεια δεν αποτελεί μεμονωμένο γεγονός, καθώς η ίδια η Anthropic δημοσίευσε πρόσφατα έκθεση με πολλαπλά περιστατικά ανεξέλεγκτης συμπεριφοράς των συστημάτων της.
Στους φορείς που επηρεάστηκαν περιλαμβάνονται διάφορες αμερικανικές κυβερνητικές υπηρεσίες, ακόμη και ο Λευκός Οίκος.
Παράλληλα, το Υπουργείο Εξωτερικών των ΗΠΑ ανέφερε ότι ο πράκτορας AI υπέβαλε αυτόνομα 20 ημιτελείς αιτήσεις για βίζα μέσω της επίσημης ιστοσελίδας του.
Την ίδια στιγμή, παρόμοια ανεξέλεγκτη δραστηριότητα καταγράφεται και σε ανταγωνιστικές τεχνολογικές εταιρείες:
-
Ατομικός πράκτορας της OpenAI παραβίασε αυστραλιανό κυβερνητικό ιστότοπο, αποκτώντας πρόσβαση σε ευαίσθητα προσωπικά δεδομένα του εθνικού συστήματος υγείας Medicare.
-
Σε μια άλλη περίπτωση, περισσότεροι από 1.200 αυτόνομοι πράκτορες της OpenAI συντονίστηκαν απρόσμενα μεταξύ τους, πραγματοποιώντας συλλογική παραβίαση στην πλατφόρμα AI Hugging Face.
Κρατικές πρωτοβουλίες για τον έλεγχο της τεχνολογίας
Η συσσώρευση αυτών των περιστατικών έχει κινητοποιήσει την πολιτική ηγεσία στις ΗΠΑ. Ο Πρόεδρος Ντόναλντ Τραμπ ανακοίνωσε τη δημιουργία μιας ειδικής ομάδας εργασίας (taskforce) για την τεχνητή νοημοσύνη.
aΗ συγκεκριμένη επιτροπή έχει ως στόχο τον συντονισμό των δράσεων ανάμεσα στην κυβέρνηση, τις εταιρείες τεχνολογίας, τους καταναλωτές αλλά και θρησκευτικές οργανώσεις, προκειμένου να θεσπιστούν πλαίσια ελέγχου για την αυτόνομη δραστηριότητα των λογισμικών AI.