Οι δραματικές προειδοποιήσεις της αμερικανικής Anthropic και του διευθύνοντος συμβούλου της, Ντάριο Αμοντέι, για το ενδεχόμενο τα προηγμένα συστήματα Τεχνητής Νοημοσύνης (AI) να ξεφύγουν από τον ανθρώπινο έλεγχο, έχουν ανοίξει έναν νέο κύκλο προβληματισμού στο Πεκίνο.
Καθώς οι δύο υπερδυνάμεις προετοιμάζονται για κρίσιμες διμερείς συνομιλίες, οι αποκλίνουσες προσεγγίσεις τους αναδεικνύουν μια θεμελιώδη διαφορά φιλοσοφίας γύρω από τη διακυβέρνηση της τεχνολογίας.
Ενώ στις Ηνωμένες Πολιτείες η συζήτηση εστιάζει στον υπαρξιακό κίνδυνο για την ανθρωπότητα, οι Κινέζοι ιθύνοντες αντιμετωπίζουν την AI ως μια ισχυρή αλλά διαχειρίσιμη τεχνολογία, η οποία μπορεί να τιθασευτεί μέσω αυστηρών τεχνικών προτύπων, ρυθμίσεων και κρατικής εποπτείας.
Διαφορετικά μοντέλα ανάπτυξης και ρύθμισης
Η διαφωνία μεταξύ των δύο πλευρών δεν αφορά την αναγνώριση των κινδύνων, αλλά την ιεράρχηση και την αντιμετώπισή τους.
-
Αρχιτεκτονική συστημάτων: Οι Κινέζοι developers προωθούν τα «open-weight» μοντέλα (όπως το GLM-5.2 της Z.AI), τα οποία επιτρέπουν την τροποποίηση και τον έλεγχο των παραμέτρων τους από ομάδες κυβερνοασφάλειας. Αντίθετα, αμερικανικοί κολοσσοί όπως η OpenAI και η Anthropic διατηρούν τα μοντέλα τους κλειστά.
-
Μηχανισμοί εποπτείας: Το Πεκίνο απορρίπτει την ιδέα τοποθέτησης ανεξάρτητων ελεγκτών εντός των εταιρειών —πρόταση που υποστηρίζει η Anthropic— και βασίζεται σε υποχρεώσεις των προγραμματιστών, αξιολογήσεις ασφαλείας και κρατικά πρότυπα.
-
Ανάπτυξη έναντι αναστολής: Σε αντίθεση με φωνές στη Δύση που ζητούν επιβράδυνση της ανάπτυξης έως ότου δημιουργηθούν επαρκείς δικλίδες ασφαλείας, η Κίνα επιταχύνει την ενσωμάτωση της AI στην οικονομία της, αν και έχει αποδείξει στο παρελθόν ότι δεν διστάζει να καθυστερήσει εμπορικές κυκλοφορίες μέχρι να ολοκληρωθεί το ρυθμιστικό πλαίσιο.
Η απειλή των αυτόνομων agents και τα εθνικά πρότυπα
Ιδιαίτερη ανησυχία προκαλεί στις κινεζικές αρχές η πιθανότητα «απώλειας επιχειρησιακού ελέγχου» από τους AI agents —συστήματα που εκτελούν σύνθετες εργασίες με υψηλή αυτονομία.
Πολιτικές που εκδόθηκαν πρόσφατα απαιτούν από τους προγραμματιστές να διαθέτουν μηχανισμούς άμεσης παρεμβολής, μπλοκαρίσματος και επαναφοράς των συστημάτων, ενώ παράλληλα θεσπίζεται η υποχρέωση ο χρήστης να διατηρεί την τελική εξουσία λήψης αποφάσεων. Παράλληλα, το Πεκίνο συντάσσει το πρώτο παγκοσμίως υποχρεωτικό εθνικό πρότυπο για την ασφάλεια των AI agents, προειδοποιώντας για κινδύνους όπως η παράκαμψη περιβαλλόντων δοκιμών (sandboxes) και οι επιθέσεις σε εξωτερικές υποδομές.
Γεωπολιτικές ανησυχίες και αμοιβαία τρωτότητα
Το Πεκίνο δεν ανησυχεί μόνο για τα δικά του συστήματα, αλλά θεωρεί απειλή και τα προηγμένα αμερικανικά μοντέλα (όπως το Mythos της Anthropic και το GPT-5.5-Cyber της OpenAI), επισημαίνοντας τον κίνδυνο στοχοποίησης των κρίσιμων πληροφοριακών υποδομών της χώρας.
Την ίδια στιγμή, η επικράτηση των open-weight μοντέλων εγκυμονεί κινδύνους λόγω της δυνατότητας ανεξέλεγκτης τροποποίησής τους, ενώ περιστατικά όπως η πρόσφατη παράκαμψη δοκιμών ασφαλείας του βρετανικού AI Security Institute από το κινεζικό μοντέλο Kimi K3 της Moonshot, επιβεβαιώνουν ότι ο κίνδυνος «απόδρασης» της AI από τα θεσπισμένα όρια παραμένει κοινός και για τις δύο πλευρές του Ατλαντικού.
