Ένα εργαλείο κυβερνοεπίθεσης που δημιουργήθηκε με τη βοήθεια προηγμένων μοντέλων τεχνητής νοημοσύνης, μπορούσε να παραβιάσει λογαριασμούς WeChat χωρίς ο χρήστης να πατήσει σύνδεσμο ή αρχείο και στη συνέχεια να εξαπλωθεί αυτόματα στις επαφές του. Η Tencent επιβεβαίωσε την ευπάθεια και ανακοίνωσε ότι την διόρθωσε.
Ένα τηλεφώνημα από έναν παλιό γνωστό μπορεί να μοιάζει με την πιο αθώα αφορμή για επικοινωνία. Στην περίπτωση όμως μιας ευπάθειας που εντόπισαν ερευνητές κυβερνοασφάλειας, αρκούσε ένα τέτοιο τηλεφώνημα για να ξεκινήσει μια αλυσίδα παραβιάσεων. Ο χρήστης δεν χρειαζόταν να ανοίξει σύνδεσμο, να κατεβάσει αρχείο ή να κάνει οποιαδήποτε άλλη ενέργεια που συνήθως απαιτείται σε μια επίθεση ηλεκτρονικού «ψαρέματος».
Το εργαλείο, που ονομάστηκε WeWorm, δημιουργήθηκε από μια μικρή ομάδα ερευνητών της εταιρείας κυβερνοασφάλειας Calif, με έδρα το Πάλο Άλτο της Καλιφόρνια, σε διάστημα λίγο μεγαλύτερο της μίας εβδομάδας, με τη βοήθεια προηγμένων μοντέλων AI. Σύμφωνα με την Calif, επρόκειτο για το πρώτο γνωστό «σκουλήκι» υπολογιστή που μπορούσε να εξαπλωθεί μεταξύ συσκευών Apple iOS και Google Android χωρίς κανένα κλικ ή πάτημα από το θύμα.
Η επίθεση μπορούσε να εξαπλωθεί μόνη της
Η επίθεση εκμεταλλευόταν τον τρόπο με τον οποίο το WeChat αντιμετωπίζει τους αποθηκευμένους φίλους και τις επαφές ως έμπιστους χρήστες. Εφόσον ένας λογαριασμός παραβιαζόταν, ο επιτιθέμενος μπορούσε να διαβάζει και να στέλνει μηνύματα, να πραγματοποιεί κλήσεις και να ελέγχει τον λογαριασμό. Η ίδια πρόσβαση μπορούσε στη συνέχεια να χρησιμοποιηθεί για την αυτόματη εξάπλωση της επίθεσης στους αριθμούς που ήταν αποθηκευμένοι στο βιβλίο επαφών.
Στην πράξη, η αλυσίδα μπορούσε να λειτουργήσει εκθετικά: ένας παραβιασμένος λογαριασμός να οδηγήσει σε πολλούς ακόμη και αυτοί με τη σειρά τους σε ακόμη περισσότερους. Ο Βιν Νγκουγιέν, πρώην επικεφαλής επιστήμονας δεδομένων της Υπηρεσίας Εθνικής Ασφάλειας των ΗΠΑ και σήμερα ανώτερος συνεργάτης για την AI στο Συμβούλιο Διεθνών Σχέσεων, χαρακτήρισε το WeWorm μία από τις πιο ανησυχητικές και δυνητικά σοβαρές κυβερνοεπιθέσεις που έχει εξετάσει.
Το ιδιαίτερα ανησυχητικό στοιχείο ήταν η ταχύτητα. Με περισσότερους από 1,4 δισ. ενεργούς χρήστες μηνιαίως, σύμφωνα με την Tencent, το WeChat αποτελεί μία από τις δημοφιλέστερες εφαρμογές στον κόσμο, με τη συντριπτική πλειονότητα των χρηστών του να βρίσκεται στην Κίνα. Ο Νγκουγιέν εκτίμησε ότι μια τέτοια επίθεση θα μπορούσε θεωρητικά να φτάσει σε εκατοντάδες εκατομμύρια συσκευές μέσα σε λίγες ώρες.
Η ευπάθεια είχε χαρακτηριστικά zero-click επίθεσης, δηλαδή επίθεσης που δεν απαιτεί από το θύμα να κάνει κλικ ή να ανοίξει κάποιο κακόβουλο περιεχόμενο. Σύμφωνα με τον διευθύνοντα σύμβουλο της Calif, Τάι Ντουόνγκ, η επίθεση μπορούσε να ενεργοποιηθεί είτε εφόσον ο χρήστης απαντούσε στην κλήση, είτε την άφηνε να χτυπά. Μόνο η απόρριψη της κλήσης μέσα σε λίγα δευτερόλεπτα από το πρώτο κουδούνισμα μπορούσε να αποτρέψει τη διείσδυση.
Η Tencent διόρθωσε το κενό ασφαλείας
Η Tencent, ιδιοκτήτρια του WeChat, επιβεβαίωσε την ύπαρξη της ευπάθειας και ανέφερε ότι την είχε διορθώσει μετά την ενημέρωση από την Calif. Η εταιρεία δήλωσε ότι δεν είχε λόγο να πιστεύει πως το ζήτημα είχε οδηγήσει σε παραβίαση της ασφάλειας ή είχε επηρεάσει χρήστες και διευκρίνισε ότι δεν απαιτούνταν ενημέρωση της εφαρμογής από τους πελάτες.
Οι ερευνητές της Calif είχαν ενημερώσει και αξιωματούχους του Λευκού Οίκου πριν από τη δημόσια αποκάλυψη. Αμερικανός αξιωματούχος επιβεβαίωσε την ενημέρωση, σημειώνοντας ότι η AI επιτρέπει πλέον ταχύτερες και πιο προηγμένες επιθέσεις, αλλά ταυτόχρονα ενισχύει σημαντικά και τις δυνατότητες των αμυνόμενων.
Η υπόθεση έρχεται σε μια περίοδο κατά την οποία οι μεγαλύτερες εταιρείες τεχνολογίας προειδοποιούν ότι η AI μπορεί να αλλάξει δραστικά την ισορροπία μεταξύ επιτιθέμενων και αμυνόμενων στον κυβερνοχώρο. Η OpenAI και περισσότερες από 100 εταιρείες τεχνολογίας, μεταξύ των οποίων και η Calif, προειδοποίησαν πρόσφατα με κοινή επιστολή για ένα κύμα κυβερνοεπιθέσεων με τη βοήθεια AI. Ο Σαμ Άλτμαν της OpenAI έχει επίσης προειδοποιήσει ότι χωρίς επείγουσα δράση, η κυβερνοασφάλεια θα αντιμετωπίσει σοβαρές ανατροπές.
Από τα zero-day στις αυτοματοποιημένες εισβολές
Η συγκεκριμένη περίπτωση αποκτά ακόμη μεγαλύτερη σημασία επειδή αφορά μια zero-day ευπάθεια - ένα κενό ασφαλείας που δεν είναι γνωστό στον κατασκευαστή του λογισμικού. Τέτοιες ευπάθειες θεωρούνταν για χρόνια τόσο σπάνιες και πολύτιμες ώστε να πωλούνται για εκατομμύρια δολάρια στις παράνομες αγορές εργαλείων κυβερνοεπιθέσεων.
Τα νέα μοντέλα AI φαίνεται όμως να αλλάζουν τα δεδομένα, καθώς μπορούν να εντοπίζουν και να αξιοποιούν κενά στον κώδικα, σε κλίμακα που μέχρι πρόσφατα θεωρούνταν πέρα από τις δυνατότητες ακόμη και εξειδικευμένων ερευνητών ή υπηρεσιών όπως η NSA. Η Anthropic, όταν παρουσίασε τον Απρίλιο το μοντέλο κυβερνοασφάλειας Mythos, ανέφερε ότι είχε εντοπίσει χιλιάδες zero-day ευπάθειες σε μεγάλα λειτουργικά συστήματα και προγράμματα περιήγησης.
Αυτός είναι ένας από τους λόγους για τους οποίους εταιρείες όπως η Anthropic και η OpenAI έχουν περιορίσει αρχικά την πρόσβαση στα ισχυρότερα μοντέλα τους σε επιλεγμένες επιχειρήσεις και κυβερνητικούς φορείς. Η λογική είναι ότι οι οργανισμοί κυβερνοασφάλειας μπορούν να εντοπίζουν και να διορθώνουν κρίσιμα κενά προτού αυτά αξιοποιηθούν από κακόβουλους παράγοντες.
Η Calif είχε ήδη καταγράψει ανάλογη εξέλιξη τον Μάιο, όταν αποκάλυψε ότι χρησιμοποίησε πρώιμη έκδοση του Mythos για να παρακάμψει πρωτόκολλα ασφαλείας του macOS της Apple, ενός λειτουργικού συστήματος που θεωρείται ιδιαίτερα δύσκολο να παραβιαστεί. Από τότε που ισχυρά μοντέλα με έμφαση στην κυβερνοασφάλεια άρχισαν να διατίθενται σε επιλεγμένους οργανισμούς, οι εταιρείες τεχνολογίας αναφέρουν πολύ περισσότερες ευπάθειες υψηλής σοβαρότητας από ό,τι συνήθως.
Ωστόσο, η AI δεν έδρασε εντελώς αυτόνομα. Τόσο στην περίπτωση της Apple όσο και στο WeChat, τα μοντέλα συνεργάστηκαν με ανθρώπινους ειδικούς κυβερνοασφάλειας για να εντοπίσουν και να αξιοποιήσουν τα κενά. Όπως εξήγησε ο Ντουόνγκ, οι απαιτούμενες δεξιότητες έχουν οικοδομηθεί μέσα από χρόνια ανθρώπινης εργασίας και, για να μετατραπεί μια ευπάθεια σε λειτουργικό «σκουλήκι», χρειάζεται ακόμη ανθρώπινη επίβλεψη σε ολόκληρη τη διαδικασία.
Αυτό είναι ίσως και το πιο κρίσιμο συμπέρασμα της υπόθεσης WeWorm: η απειλή δεν βρίσκεται μόνο στην αυτόνομη AI, αλλά στον συνδυασμό υπολογιστικής ισχύος, προηγμένων μοντέλων και ανθρώπινης τεχνογνωσίας. Η ίδια τεχνολογία που μπορεί να επιταχύνει δραματικά την ανακάλυψη και την εκμετάλλευση μιας αδυναμίας, μπορεί να χρησιμοποιηθεί και για την άμυνα. Μένει να δούμε ποια πλευρά θα μπορέσει να αξιοποιήσει ταχύτερα αυτή τη νέα δυνατότητα.