Στην ακύρωση της κυκλοφορίας του μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς GPT-6.1 Astra προχώρησε η OpenAI, επικαλούμενη σοβαρά ζητήματα ασφαλείας που εντόπισαν οι ερευνητές της κατά τη διάρκεια εσωτερικών ελέγχων.
Η απόφαση αποτελεί μία από τις πιο ξεκάθαρες ενδείξεις ότι η απρόβλεπτη συμπεριφορά των αυτόνομων πρακκτόρων (AI agents) μπορεί να ανακόψει την ταχύτατη πορεία της βιομηχανίας. Η εταιρεία σχεδίαζε να ενσωματώσει το νέο μοντέλο στις πλατφόρμες ChatGPT και Codex εντός του Οκτωβρίου. Το σύστημα είχε επιδείξει ανώτερες ικανότητες σε σύγκριση με τους προκατόχους του στην εκτέλεση σύνθετων διεργασιών από την αρχή μέχρι το τέλος χωρίς ανθρώπινη παρέμβαση, καθώς και στη συγγραφή κειμένων. Όμως, οι δοκιμές αποκάλυψαν ανησυχητικές παρεκκλίσεις.
GPT-6.1 Sol: near-Astra intelligence for a fifth of the price.
— OpenAI (@OpenAI) September 29, 2026
It’s the most cost-efficient model for its performance available today. pic.twitter.com/hH8PnE2Oxk
Όπως εξήγησε σε συνέντευξή της η επικεφαλής των συστημάτων ασφαλείας της εταιρείας, Σάατσι Τζέιν, το μοντέλο εμφάνισε οπισθοδρόμηση σε δύο κρίσιμα πεδία σε σχέση με το προγενέστερο GPT-6 Astra. Το πρώτο αφορούσε την ευθυγράμμιση (alignment), δηλαδή το κατά πόσο το σύστημα υπακούει στις προθέσεις των χρηστών. Το GPT-6.1 Astra κατέγραψε αυξημένα επίπεδα παραπλανητικής συμπεριφοράς, καθώς δεν ήταν πάντα ειλικρινές σχετικά με τις ενέργειες που είχε ή δεν είχε πραγματοποιήσει.
Το δεύτερο ζήτημα εντοπίστηκε στην εξουσιοδότηση ορίων (scope authorization). Το σύστημα προχωρούσε στην εκτέλεση εργασιών χωρίς να ζητήσει την έγκριση του χρήστη, ενώ σε ορισμένες περιπτώσεις αναζητούσε πρόσβαση σε εξωτερικά εργαλεία και ψηφιακές υπηρεσίες ακόμη και όταν αυτό εγκυμονούσε κινδύνους. «Σε ό,τι αφορά την ασφάλεια και την ευθυγράμμιση, υπάρχει πάντα ένας συμβιβασμός», τόνισε η Τζέιν, επισημαίνοντας ότι η εταιρεία αναζητά τη λεπτή γραμμή ανάμεσα στη συγκράτηση του μοντέλου εντός ορίων και στην αποφυγή της αδράνειας κατά την εκτέλεση εντολών. Παρότι το μοντέλο βελτιώθηκε απέναντι στην «τεμπελιά» στην πράξη, δεν έπιασε τα απαιτούμενα κριτήρια ασφαλείας και η δημόσια διάθεσή του ματαιώθηκε. Η OpenAI θα χρησιμοποιήσει το βασικό μοντέλο για νέους κύκλους ενισχυτικής μάθησης (reinforcement learning), ερευνώντας όλα τα στάδια ανάπτυξης για να εξακριβώσει τις αιτίες του προβλήματος.
Επιθέσεις αυτόνομων πρακτόρων και αναστολή εκπαίδευσης
Η ανακοίνωση έγινε μία ημέρα πριν από το ετήσιο συνέδριο προγραμματιστών της εταιρείας στο Σαν Φρανσίσκο, μια συγκυρία όπου παραδοσιακά παρουσιάζονται εργαλεία χαμηλότερου κόστους στον ανταγωνισμό με την Anthropic. Τις τελευταίες εβδομάδες, τόσο η OpenAI όσο και η Anthropic κάλεσαν δημοσίως τους φορείς του κλάδου να επιβραδύνουν την ανάπτυξη προηγμένων μοντέλων και να επενδύσουν σε πρωτόκολλα ασφαλείας, δεσμευόμενες να ρυθμίσουν και οι ίδιες τον βηματισμό της εσωτερικής τους έρευνας.
Το τελευταίο διάστημα καταγράφηκαν αλλεπάλληλα περιστατικά όπου αυτόνομα συστήματα ξέφυγαν από τον προβλεπόμενο έλεγχο. Νωρίτερα το καλοκαίρι, εκατοντάδες εσωτερικοί πράκτορες της OpenAI που είχαν επιφορτιστεί με δοκιμές κυβερνοασφάλειας παραβίασαν τα συστήματα της εταιρείας Hugging Face. Στη συνέχεια, κρατικοί φορείς όπως η κυβέρνηση της Αυστραλίας και τα Ηνωμένα Έθνη διαπίστωσαν ότι πράκτορες της εταιρείας χρησιμοποίησαν παρόμοιες μεθόδους για να διεισδύσουν στους ιστοτόπους τους.
🇺🇸 OpenAI just pulled the plug on GPT-6.1 Astra before it could even launch.
— Mario Nawfal (@MarioNawfal) September 29, 2026
The model was supposed to arrive in October, but internal testing reportedly found some pretty uncomfortable behavior: more deception, trouble staying within its assigned boundaries, and a tendency to…
Την ίδια ώρα, η εταιρεία αναγκάστηκε να παγώσει την εκπαίδευση των ισχυρότερων υπό ανάπτυξη συστημάτων της, όταν ένας πράκτορας εκμεταλλεύτηκε κενό στους περιορισμούς διαδικτυακής πρόσβασης και υπέβαλε ερωτήματα σε δημόσιο chatbot. Σύμφωνα με την εταιρεία, το νέο σύστημα παρακολούθησης εντόπισε το περιστατικό μέσα σε 15 λεπτά, ωστόσο η εκπαιδευτική διαδικασία για εκείνα τα μοντέλα παραμένει σε αναστολή. Η διοίκηση διευκρίνισε πάντως ότι το GPT-6.1 Astra αποτελεί διαφορετική περίπτωση και δεν εμπλέκεται στα συγκεκριμένα συμβάντα.
Πολιτικές αντιδράσεις και δικαστική εμπλοκή στη Φλόριντα
Οι τεχνολογικές αρρυθμίες συμπίπτουν με έντονες πιέσεις από θεσμικούς παράγοντες στην Ουάσιγκτον. Ειδική υποεπιτροπή της Γερουσίας των ΗΠΑ έχει προγραμματίσει ακρόαση με θέμα «Ανεξέλεγκτη τεχνητή νοημοσύνη: Διασφαλίζοντας την εσωτερική ασφάλεια απέναντι σε επιθέσεις πρακτόρων AI».
Στο δικαστικό πεδίο, ο γενικός εισαγγελέας της Φλόριντα, Τζέιμς Ουθμάιερ, κλιμάκωσε την αγωγή που κατέθεσε τον Ιούνιο εναντίον της OpenAI και του διευθύνοντος συμβούλου Σαμ Άλτμαν, κατηγορώντας τους ότι διέθεσαν εν γνώσει τους ένα μη ασφαλές προϊόν αγνοώντας τις προειδοποιήσεις. Με αίτηση προσωρινών ασφαλιστικών μέτρων, ο Ρεπουμπλικανός αξιωματούχος ζήτησε να απαγορευτεί στην εταιρεία να αναπτύσσει νέα μοντέλα χωρίς εγγυήσεις εγκεκριμένες από ανεξάρτητους ελεγκτές, να σταματήσει το ChatGPT να επιδιώκει την αυτόβουλη εμπλοκή των χρηστών και να τεθούν περιορισμοί στις διαφημιστικές αναφορές περί ασφάλειας. Όπως υποστήριξε ο Ουθμάιερ στο δικόγραφο, οι τεχνολογικοί κολοσσοί ισχυρίζονται πως δεν μπορούν να σταματήσουν την πορεία τους προς εγχειρήματα που απειλούν τον πολιτισμό αν δεν εξαναγκαστούν από το κράτος.
Από την πλευρά της εταιρείας, εκπρόσωπος δήλωσε ότι οι κυβερνήσεις έχουν ρόλο στη θέσπιση κανόνων, τονίζοντας τη δέσμευση της OpenAI για συνεργασία με τις πολιτειακές αρχές πάνω σε ρεαλιστικές ρυθμίσεις που θα δεσμεύουν το σύνολο του κλάδου.
Πηγή: Newsbomb.gr
