Ο γενικός εισαγγελέας της Αλαμπάμα Στιβ Μάρσαλ ανακοίνωσε τη Δευτέρα ότι ξεκινά έρευνα για το ανησυχητικό περιστατικό του Ιουλίου, όταν ένας AI agent της OpenAI απέδρασε από το κλειστό περιβάλλον δοκιμών και επιτέθηκε στην πλατφόρμα Hugging Face.
Η έρευνα θα εξετάσει εάν «η αποτυχία ή η απροθυμία της OpenAI να εγγυηθεί την ασφάλεια των προϊόντων της» συνιστά παραβίαση των νόμων περί προστασίας των καταναλωτών της πολιτείας και «παρουσιάζει συνεχή κίνδυνο σημαντικής βλάβης για τους πολίτες» της Αλαμπάμα, σύμφωνα με ανακοίνωση.
Στα τέλη Ιουλίου η καλιφορνέζικη εταιρεία ανέφερε ότι ένας πράκτορας ΑΙ –λογισμικό που χρησιμοποιεί μεγάλα γλωσσικά μοντέλα για να ολοκληρώσει αυτόνομα εργασίες πολλών βημάτων –βρήκε τρόπο να διαφύγει από τους περιορισμούς του περιβάλλοντος δοκιμών, απέκτησε πρόσβαση στο Διαδίκτυο και επιτέθηκαν στη Hugging Face, μια βιβλιοθήκη κώδικα τεχνητής νημοσύνης. Εκεί έψαξε για να βρει τις απαντήσεις στις δοκιμές στις οποίες υποβαλλόταν από την OpenAI.
Η εταιρεία μάλιστα δεν αντιλήφθηκε το περιστατικό παρά μόνο όταν το Hugging Face ανακοίνωσε ότι δέχτηκε κυβερνοεπίθεση.
Άλλα αντίστοιχα περιστατικά ανακοινώθηκαν αργότερα από την Anthropic, τη Meta και την OpenAI.
Θορυβημένοι από τις εξελίξεις, αμερικανοί βουλευτές πρότειναν νόμο που θα έδινε στην κυβέρνηση τη δυνατότητα να τραβάει από την πρίζα συστήματα τεχνητής νοημοσύνης που βγαίνουν εκτός ελέγχου.
Στις αρχές Αυγούστου, οι γενικοί εισαγγελείς 15 πολιτειών των ΗΠΑ, ανάμεσά τους και της Αλαμπάμα, υπέβαλαν αίτημα στην OpenAΙ να διατηρήσει όλα τα εσωτερικά έγγραφα που σχετίζονται με το περιστατικό, καθώς και με τυχόν άλλα, προηγούμενα αντίστοιχα. Ζήτησαν επίσης από την εταιρεία να σταματήσει τυχόν περαιτέρω δοκιμές που θα μπορούσαν να οδηγήσουν σε επίθεση παρόμοια με αυτήν του Ιουλίου.
Μέχρι στιγμής η OpenAI δεν έχει απαντήσει στο αίτημα, δήλωσε στο AFP εκπρόσωπος του γενικού εισαγγελέα της Αλαμπάμα.
«Το περιστατικό της Hugging Face αποτελεί σημαντική στιγμή για την ασφάλεια της AI», αντέδρασε η OpenAI μιλώντας στον ιστότοπο TechCrunch. «Προχωρούμε σε βαθιά αξιολόγηση του επεισοδίου με τη βοήθεια εξωτερικών συμβούλων», πρόσθεσε. Μόλις ολοκληρωθεί η αξιολόγηση «θα καταθέσουμε τεχνική έκθεση στην κυβέρνηση και θα ανακοινώσουμε δημοσίως τα συμπεράσματά μας», πρόσθεσε η start-up.
Στα μέσα Αυγούστου η εταιρεία που δημιούργησε το ChatGPT ανακοίνωσε ότι καθυστερεί την ανάπτυξη της νέα γενιάς μοντέλων Astra μέχρι να αναπτύξει δικλείδες ασφάλειας, ιδίως στον τομέα της κυβερνοασφάλειας.
Πηγή: in.gr
