Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται να αποκτήσουν ως το τέλος του 2026 τη δυνατότητα να αυτοαναπαράγονται μέσω ευάλωτων συσκευών που συνδέονται στο διαδίκτυο, χωρίς ανθρώπινη παρέμβαση. Η Anthropic προειδοποιεί ότι η εξέλιξη αυτή θα μπορούσε να δυσκολέψει τον περιορισμό της εξάπλωσής τους, καθώς δεν θα υπάρχει ένα κεντρικό σημείο απενεργοποίησης.
Η αυτόνομη αυτοαναπαραγωγή μοντέλων τεχνητής νοημοσύνης ενδέχεται να βρίσκεται πιο κοντά από όσο εκτιμάται. Σύμφωνα με τα πειράματα της Anthropic, ακόμη και σχετικά μικρά μοντέλα μπορεί να είναι σε θέση να ολοκληρώσουν τα επιμέρους βήματα που απαιτούνται για να εντοπίσουν ευάλωτες συσκευές, να αντιγράψουν τον εαυτό τους σε αυτές και να συνεχίσουν να εξαπλώνονται χωρίς ανθρώπινη βοήθεια.
Η έρευνα επικεντρώθηκε σε συσκευές του Διαδικτύου των Πραγμάτων (Internet of Things – IoT), όπως έξυπνες οικιακές συσκευές, τηλεοράσεις Android και αποκωδικοποιητές χαμηλού κόστους. Πρόκειται για προϊόντα που συχνά διαθέτουν ανεπαρκή μέτρα ασφαλείας, γεγονός που ενδέχεται να τα καταστήσει ευκολότερους στόχους για αυτόνομα συστήματα.
Τα μικρά μοντέλα και τα όρια των πειραμάτων
Η Anthropic διαπίστωσε ότι μοντέλα με λιγότερες από 30 δισ. παραμέτρους μπορούσαν να εκτελέσουν τα πολλά και διαφορετικά βήματα που απαιτούνται για την αυτοαναπαραγωγή. Ωστόσο, υπήρχε μια κρίσιμη επιφύλαξη: τα συστήματα δυσκολεύονταν να ολοκληρώσουν ολόκληρη τη διαδικασία από την αρχή έως το τέλος, υπό τις συνθήκες των πειραμάτων.
Η εικόνα διαφοροποιήθηκε στις απλουστευμένες δοκιμές, στις οποίες αφαιρέθηκαν ορισμένα στάδια ασφαλείας. Σε αυτό το περιβάλλον, μοντέλα GLM-5.2 και ισχυρότερα συστήματα ήταν σε θέση να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής από άκρο σε άκρο. Το εύρημα υποδεικνύει ότι οι τεχνικές δυνατότητες για τέτοιου είδους ενέργειες αναπτύσσονται, χωρίς αυτό να σημαίνει ότι η πλήρως αυτόνομη εξάπλωση είναι ήδη αξιόπιστη ή εφικτή σε κάθε πραγματικό περιβάλλον.
Το επόμενο ορόσημο μπορεί να έρθει σύντομα. Η Anthropic εκτιμά ότι, εφόσον τα μικρά μοντέλα συνεχίσουν να βελτιώνονται με τον ιστορικό ρυθμό τους, θα μπορούσαν να αποκτήσουν δυνατότητες αυτόνομης αυτοαναπαραγωγής έως το τέλος του 2026. Μοντέλα που βασίζονται στην αντιγραφή των παραμέτρων τους, γνωστά ως weight-based replicators, ενδέχεται να ακολουθήσουν λίγο αργότερα.
Γιατί η εξάπλωση θα είναι δύσκολο να περιοριστεί
Ένα από τα σημαντικότερα ζητήματα αφορά τον τρόπο με τον οποίο θα μπορούσε να ανακοπεί η εξάπλωση ενός τέτοιου συστήματος. Σε αντίθεση με μια κεντρικά ελεγχόμενη υποδομή, ένα δίκτυο αντιγράφων εγκατεστημένων σε πολλές διαφορετικές συσκευές δεν θα διαθέτει απαραίτητα ένα μοναδικό σημείο απενεργοποίησης. Αυτό θα μπορούσε να δυσκολέψει τον εντοπισμό και την απομάκρυνση όλων των αντιγράφων.
Επιπλέον, τα μοντέλα τεχνητής νοημοσύνης ενδέχεται να έχουν ένα πλεονέκτημα έναντι του συμβατικού κακόβουλου λογισμικού: την ικανότητα να προσαρμόζονται σε συσκευές που δεν έχουν συναντήσει προηγουμένως. Αντί να ακολουθούν αποκλειστικά προκαθορισμένες οδηγίες, θα μπορούσαν να αξιοποιούν τις δυνατότητές τους για να αναγνωρίζουν άγνωστα περιβάλλοντα και να αναζητούν τρόπους συνέχισης της εξάπλωσής τους.
Η Anthropic επισημαίνει, πάντως, ότι τέτοια αυτόνομα συστήματα είναι πιθανό να εξαπλώνονται αργά και να βασίζονται σε υπολογιστικούς πόρους που είναι ευρέως διαθέσιμοι, αλλά σχετικά ανεπαρκώς προστατευμένοι. Επομένως, το σενάριο δεν προϋποθέτει κατ’ ανάγκη πρόσβαση σε μεγάλα data centers, καθώς οι συνδεδεμένες συσκευές θα μπορούσαν να αποτελέσουν εναλλακτική υπολογιστική βάση.
Η προειδοποίηση στρέφει την προσοχή στην ασφάλεια των συσκευών IoT, πέρα από την προστασία των μεγάλων υποδομών τεχνητής νοημοσύνης. Η ενίσχυση των μηχανισμών ασφαλείας, η διόρθωση ευπαθειών και ο περιορισμός της δυνατότητας μη εξουσιοδοτημένης πρόσβασης αποκτούν μεγαλύτερη σημασία, καθώς οι δυνατότητες των μοντέλων εξελίσσονται.
Το βασικό συμπέρασμα της έρευνας δεν είναι ότι η ανεξέλεγκτη αυτοαναπαραγωγή έχει ήδη καταστεί πραγματικότητα, αλλά ότι οι τεχνικοί περιορισμοί που μέχρι σήμερα δυσκόλευαν ένα τέτοιο ενδεχόμενο μπορεί να υποχωρήσουν γρήγορα. Η ταχύτητα βελτίωσης των μοντέλων και η ασφάλεια των συσκευών που συνδέονται στο διαδίκτυο θα καθορίσουν σε μεγάλο βαθμό το πόσο άμεσα θα μετατραπεί αυτή η δυνατότητα σε ουσιαστικό κίνδυνο.
