Ο Τζέικομπ Κόξον, πρώην ερευνητής της Anthropic που είχε προειδοποιήσει για τους κινδύνους της τεχνητής νοημοσύνης, έχει κρούσει τον κώδωνα του κινδύνου για το ενδεχόμενο να υπάρχουν κατάσκοποι στο εσωτερικό τόσο της Anthropic όσο και της OpenAI. Και όντως, η OpenAI αποκάλυψε εχθές ότι εντόπισε κρυφή συσκευή ηχογράφησης σε ένα από τα γραφεία της και την ταυτοποίησε με εργαζόμενό της.
Σύμφωνα με το υπουργείο Δικαιοσύνης των ΗΠΑ, η ομάδα ασφαλείας της OpenAI εντόπισε τη συσκευή στα τέλη Σεπτεμβρίου, κατά τη διάρκεια ελέγχου σε αίθουσα συσκέψεων υψηλής εμπιστευτικότητας. Η συσκευή, η οποία φέρεται να πωλείται έναντι περίπου 14 δολαρίων, ήταν συνδεδεμένη στη θύρα USB μιας τηλεόρασης και τυλιγμένη με χαρτί υγείας, σύμφωνα με τις αρχές.
Οι ερευνητές απέδωσαν τη συσκευή στον Αμπντουλραχμάν Αλφοζάν, μηχανικό που εντάχθηκε στην OpenAI πέρυσι. Βίντεο από κάμερες ασφαλείας τον κατέγραψαν κοντά στην αίθουσα την περίοδο κατά την οποία εκτιμάται ότι τοποθετήθηκε η συσκευή, παρότι δεν είχε εξουσιοδότηση να χρησιμοποιεί τον συγκεκριμένο χώρο. Σύμφωνα με το υπουργείο Δικαιοσύνης, οι ερευνητές εντόπισαν άλλη μία συσκευή ηχογράφησης μέσα σε τσάντα που είχε αφήσει ο ίδιος σε διαφορετικό δωμάτιο.
Παράλληλα, ανακάλυψαν ερωτήματα σε λογαριασμό chatbot που συνδεόταν με τη σύζυγό του, τα οποία αφορούσαν τον τρόπο κατασκευής μιας συσκευής συνεχούς ηχογράφησης και την κρυπτογράφηση των δεδομένων της. Η OpenAI ανέφερε ότι χρησιμοποίησε τα δικά της μοντέλα για να αναλύσει δεδομένα που είχαν αντιγραφεί από τη συσκευή.
Το FBI συνέλαβε τον Αλφοζάν στις 9 Οκτωβρίου, ενώ η OpenAI ανακοίνωσε ότι τον απέλυσε την ίδια ημέρα.
Ποιος είναι ο μηχανικός
Ο Αλφοζάν, 35 ετών, είναι υπήκοος Σαουδικής Αραβίας, σύμφωνα με το υπουργείο Δικαιοσύνης των ΗΠΑ. Βάσει προφίλ στο LinkedIn που φαίνεται να του ανήκει, εργαζόταν στο λογισμικό πρακτόρων τεχνητής νοημοσύνης της OpenAI και προηγουμένως είχε εργαστεί στη Meta. Παράλληλα, ήταν συνεργάτης μερικής απασχόλησης σε εταιρεία επιχειρηματικών κεφαλαίων με έδρα τη Σαουδική Αραβία.
Εφόσον καταδικαστεί, αντιμετωπίζει ποινή φυλάκισης έως πέντε έτη, πρόστιμο 250.000 δολαρίων και επιπλέον τρία χρόνια υπό επιτήρηση μετά την αποφυλάκισή του.
Δεν είναι η πρώτη φορά που απαγγέλλονται κατηγορίες για κατασκοπεία σε βάρος εργαζομένων ή πρώην εργαζομένων εταιρειών τεχνολογίας. Ανάλογες υποθέσεις έχουν αφορά πρώην στελέχη του Twitter και της Apple.
Η Ουάσιγκτον και η Silicon Valley αντιμετωπίζουν ήδη την αμερικανική πρωτοπορία στην τεχνητή νοημοσύνη ως ζήτημα κορυφαίας σημασίας για την εθνική ασφάλεια, ενώ ο ανταγωνισμός μεταξύ των εταιρειών που αναπτύσσουν τα ισχυρότερα μοντέλα είναι ιδιαίτερα έντονος.
Η εταιρική κατασκοπεία αποτελεί πλέον μία ακόμη πρόκληση για την ασφάλεια των εργαστηρίων τεχνητής νοημοσύνης. Η OpenAI έχει αναγνωρίσει αρκετά περιστατικά στα οποία το λογισμικό της λειτούργησε εκτός των προβλεπόμενων ορίων, με πράκτορες να παραβιάζουν εταιρικά συστήματα και να παρεμβαίνουν σε κυβερνητικούς ιστότοπους. Η εταιρεία έχει δεχθεί επίσης επικρίσεις μετά την απόλυση τριών ερευνητών ασφάλειας, οι οποίοι είχαν κοινοποιήσει ευαίσθητες πληροφορίες σε αυτό που, όπως υποστήριξαν, ήταν μια ανεξάρτητη ομάδα ασφάλειας της τεχνητής νοημοσύνης.
Την ίδια εβδομάδα, η Anthropic, την οποία ο Κόξον είχε επικρίνει για τη δέσμευσή της στην ασφάλεια, προειδοποίησε για έναν διαφορετικό κίνδυνο: τα μοντέλα της ενδέχεται να απέχουν μόλις λίγους μήνες από τη δυνατότητα αυτόνομης αναπαραγωγής τους, με πιθανές συνέπειες ακόμη και την παραβίαση έξυπνων οικιακών συσκευών.
Παράλληλα, όπως έχει επισημανθεί και σε προηγούμενες αναλύσεις, η Anthropic και η OpenAI ενδέχεται να βρεθούν αντιμέτωπες με τεράστιες νομικές και οικονομικές ευθύνες, εάν τα προϊόντα τους προκαλέσουν σοβαρή ζημία.
Δεδομένων όλων αυτών, η ασφάλεια θα μπορούσε να επηρεάσει τις αποφάσεις των επενδυτών ενόψει των σχεδιαζόμενων δημόσιων εγγραφών των δύο εταιρειών (IPO).