Μια αναφορά που δημιουργήθηκε με τη βοήθεια Τεχνητής Νοημοσύνης και αποδείχθηκε εντελώς ψευδής παραλίγο να οδηγήσει τις ΗΠΑ σε στρατιωτική επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή.
Η λανθασμένη αναφορά
Σύμφωνα με το CNN, το περιστατικό σημειώθηκε την άνοιξη, εν μέσω του πολέμου με το Ιράν. Στρατιωτική αναφορά ανέφερε ότι κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων.
Η πληροφορία αντιμετωπίστηκε ως αξιόπιστη και οι αμερικανικές ένοπλες δυνάμεις άρχισαν να προετοιμάζουν επιχείρηση αναχαίτισης. Ένοπλες ομάδες ετοιμάζονταν να επιβιβαστούν στο πλοίο, ενώ στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.
Λίγο πριν από την έναρξη της επιχείρησης, ωστόσο, αξιωματούχοι διαπίστωσαν ότι η επίμαχη αναφορά είχε συνταχθεί με τη βοήθεια εργαλείου AI, το οποίο είχε οδηγηθεί σε λανθασμένη ταυτοποίηση του φορτίου.
Πηγή του CNN χαρακτήρισε την αναφορά «εντελώς ψευδή», σημειώνοντας ότι «σχεδόν ξεκίνησε έναν πόλεμο».
Πώς δημιουργήθηκε το λάθος
Το περιστατικό φέρεται να ξεκίνησε όταν αναλυτής χρησιμοποίησε chatbot για την επεξεργασία πληροφοριών σχετικά με το φορτίο του πλοίου.
Στη διαδικασία συνδυάστηκαν στοιχεία από ανοιχτές πηγές με απόρρητες πληροφορίες της αμερικανικής κυβέρνησης. Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την AI για τη σύνταξη της αναφοράς.
Το κείμενο διακινήθηκε στη συνέχεια σε στρατιωτικούς αξιωματούχους ως επαληθευμένη ανάλυση, χωρίς να γίνει εγκαίρως αντιληπτό ότι η τεχνητή νοημοσύνη είχε καταλήξει σε λανθασμένο συμπέρασμα.
Δεν έχει γίνει γνωστό ποιο εργαλείο AI χρησιμοποιήθηκε, ενώ το Πεντάγωνο δεν σχολίασε την υπόθεση.
Η AI μπαίνει βαθύτερα στον στρατό
Το περιστατικό αναδεικνύει τους κινδύνους από την ταχύτατη ενσωμάτωση της Τεχνητής Νοημοσύνης στις αμερικανικές ένοπλες δυνάμεις.
Οι στρατιωτικές υπηρεσίες επενδύουν ολοένα περισσότερο στην τεχνολογία, με στόχο την ταχύτερη επεξεργασία τεράστιου όγκου πληροφοριών και την επιτάχυνση της λήψης αποφάσεων.
Ωστόσο, σύμφωνα με πηγές που επικαλείται το CNN, οι διαφορετικές υπηρεσίες χρησιμοποιούν διαφορετικά εργαλεία, χωρίς να υπάρχει ένα ενιαίο πλαίσιο για την ασφάλεια, την επαλήθευση και τον έλεγχο των αποτελεσμάτων.
Ο κίνδυνος των «παραισθήσεων»
Ιδιαίτερη ανησυχία προκαλούν οι λεγόμενες «παραισθήσεις» της AI, όταν δηλαδή ένα σύστημα παράγει πληροφορίες που εμφανίζονται πειστικές, αλλά είναι ανακριβείς ή εντελώς κατασκευασμένες.
Σε στρατιωτικές επιχειρήσεις, και ιδιαίτερα σε διαδικασίες εντοπισμού και στοχοποίησης, ένα τέτοιο λάθος μπορεί να έχει πολύ σοβαρές συνέπειες.
Η συγκεκριμένη υπόθεση δείχνει με τον πιο χαρακτηριστικό τρόπο το πρόβλημα: μια λανθασμένη πληροφορία που δημιουργήθηκε από AI έφτασε πολύ κοντά στο να μετατραπεί σε πραγματική στρατιωτική ενέργεια εναντίον κινεζικού πλοίου.
Όπως ανέφερε χαρακτηριστικά πηγή του CNN, «η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα».
