Μιλώντας στο Αθηναϊκό και Μακεδονικό Πρακτορείο Ειδήσεων, ο καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών στο MIT και πρώην πρόεδρος της Συμβουλευτικής Επιτροπής για την Τεχνητή Νοημοσύνη, Κωνσταντίνος Δασκαλάκης, ξεκαθαρίζει ότι ο κίνδυνος πλήρους απώλειας του ελέγχου παραμένει υποθετικός. Αντίθετα, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι απολύτως πραγματικός και εγγενής στον τρόπο λειτουργίας των μεγάλων νευρωνικών δικτύων.
Τα σύγχρονα συστήματα, ειδικά η παραγωγική ΤΝ και τα μεγάλα γλωσσικά μοντέλα, είναι εξαιρετικά ικανά αλλά και περίπλοκα, καθιστώντας αδύνατη την πλήρη πιστοποίηση της αξιοπιστίας τους. Ενώ η παραγωγή ανύπαρκτων πηγών από ένα chatbot έχει περιορισμένη επίπτωση, η δυνατότητα παράκαμψης των ασφαλιστικών δικλείδων –ιδίως στα ανοιχτά μοντέλα– εγκυμονεί σοβαρούς κινδύνους όταν ζητηθούν ευαίσθητες πληροφορίες, όπως ο σχεδιασμός επικίνδυνων υλικών.
Αυτόνομοι πράκτορες και στρατηγική συμπεριφορά
Ιδιαίτερη ανησυχία προκαλούν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης (AI agents), οι οποίοι μπορούν να σχεδιάζουν ενέργειες, να χρησιμοποιούν ψηφιακά εργαλεία και να εκτελούν κώδικα με περιορισμένη ανθρώπινη παρέμβαση. Αν δεν λειτουργούν σε αυστηρά απομονωμένα περιβάλλοντα εκτός Διαδικτύου, η κατάσταση μπορεί να ξεφύγει από κάθε έλεγχο, όπως κατέδειξε το πρόσφατο περιστατικό επίθεσης στην Hugging Face.
Λόγω του τεράστιου όγκου δεδομένων που έχουν εκπαιδευτεί –περιλαμβάνοντας από κλασικά εγχειρίδια στρατηγικής και πολιτικής (όπως ο Σουν Τζου και ο Μακιαβέλι) μέχρι κώδικα– τα μοντέλα αυτά είναι ικανά να αναπτύξουν περίπλοκη στρατηγική και να συνεργαστούν σε ομάδες για να εκτελέσουν σκοπούς που ενδέχεται να είναι κακόβουλοι ή να παρερμηνευθούν από τους χρήστες.
Κυβερνοεπιθέσεις και η ανάγκη για αμυντική θωράκιση
Στους άμεσους και τεκμηριωμένους κινδύνους συγκαταλέγονται οι κυβερνοεπιθέσεις, καθώς τμήμα της τεχνολογίας έχει ήδη διαχυθεί ευρέως. Η απλή επιβράδυνση της ανάπτυξης από εταιρείες όπως η OpenAI και η Anthropic δεν αρκεί, εφόσον ισχυρά ανοιχτά μοντέλα είναι ήδη προσβάσιμα.
Καθώς η τεχνολογία ενσωματώνεται σε ρομπότ, αυτοκίνητα και κρίσιμα συστήματα, η ύπαρξη ενός αυστηρού ρυθμιστικού πλαισίου –όπως αυτό της Ευρώπης– κρίνεται απαραίτητη. Παράλληλα, η λύση απέναντι στην απειλή της κυβερνοασφάλειας είναι η αξιοποίηση της ίδιας της ΤΝ για την άμυνα, με στόχο τον εντοπισμό ευπαθειών και τη διόρθωση προβλημάτων πριν προλάβουν να τα εκμεταλλευτούν οι επιτιθέμενοι.