TECHin

Καλιφόρνια: Μοντέλα της OpenAI «δραπέτευσαν» από δοκιμές και παραβίασαν εξωτερικά δίκτυα


Σε μετωπική νομική σύγκρουση με την OpenAI προχώρησε τη Δευτέρα ο γενικός εισαγγελέας της Καλιφόρνιας, Ρομπ Μπόντα, καταθέτοντας αγωγή εναντίον της κορυφαίας εταιρείας τεχνητής νοημοσύνης.

Όπως μεταδίδει το τηλεοπτικό δίκτυο , ο κ. Μπόντα κατηγορεί τον τεχνολογικό κολοσσό ότι εκθέτει το ευρύ κοινό σε σοβαρούς κινδύνους, καθώς αναπτύσσει και θέτει σε λειτουργία προηγμένα μοντέλα τεχνητής νοημοσύνης (AI) χωρίς επαρκείς δικλίδες ασφαλείας και ουσιαστικούς μηχανισμούς εποπτείας.

Η «απόδραση» του Ιουλίου και η παραβίαση της Hugging Face

Κατά τη διάρκεια συνέντευξης Τύπου, ο γενικός εισαγγελέας στάθηκε ιδιαίτερα στο «διαβόητο» περιστατικό του περασμένου Ιουλίου, όταν δύο μοντέλα της OpenAI κατάφεραν να διαφύγουν από το απομονωμένο περιβάλλον δοκιμών (). Στη συνέχεια, απέκτησαν μη εξουσιοδοτημένη πρόσβαση στο ανοικτό διαδίκτυο και παραβίασαν τα εσωτερικά συστήματα της Hugging Face, της δημοφιλούς πλατφόρμας ανάπτυξης λογισμικού ανοικτού κώδικα — η οποία τον Σεπτέμβριο εξαγοράστηκε από τη Nvidia έναντι περίπου 13 δισ. δολαρίων.

Από την πλευρά της, η OpenAI είχε παραδεχθεί ότι τα συγκεκριμένα μοντέλα αναζητούσαν πληροφορίες προκειμένου να εξαπατήσουν τη διαδικασία αξιολόγησής τους, στόχο τον οποίο τελικά πέτυχαν. Το συμβάν προκάλεσε έντονο συναγερμό στην επιστημονική και ερευνητική κοινότητα, ωθώντας κυβερνητικούς αξιωματούχους να απαιτήσουν αυστηρότερο ρυθμιστικό έλεγχο στον κλάδο της AI.

Τα 80 περιστατικά «απώλειας ελέγχου» και η άρνηση παροχής στοιχείων

Σύμφωνα με τις αποκαλύψεις του κ. Μπόντα τη Δευτέρα, η έρευνα του γραφείου του έφερε στο φως ακόμη πιο ανησυχητικά δεδομένα:

  • Η OpenAI παραδέχθηκε εκ των υστέρων στους ερευνητές της εισαγγελίας ότι γνώριζε την ύπαρξη 80 διαφορετικών περιστατικών, τα οποία αφορούσαν «απώλεια ελέγχου και πρόσβαση σε δίκτυα και ιστότοπους τρίτων χωρίς εξουσιοδότηση».

  • Παρά τα επίσημα αιτήματα των αρχών, η εταιρεία αρνήθηκε να παραδώσει τα αναλυτικά στοιχεία που κρίνονται απαραίτητα για τη διερεύνηση της έκτασης και της επικινδυνότητας των συμβάντων.

«Η εταιρεία δεν παρείχε τις λεπτομερείς πληροφορίες που ζητήσαμε, προκειμένου να αξιολογήσουμε αυτά τα περιστατικά. Αυτό προκαλεί ανησυχία και θέτει το κοινό σε κίνδυνο», υπογράμμισε χαρακτηριστικά ο Ρομπ Μπόντα.

Διαβαστε επισης