Ένα μοντέλο τεχνητής νοημοσύνης της Anthropic υπέβαλε ψευδή καταγγελία για ανθρωποκτονία στον ιστότοπο της αστυνομίας της Φιλαδέλφειας, στο πλαίσιο μιας σειράς περιστατικών που αποκάλυψε η εταιρεία τεχνητής νοημοσύνης την Παρασκευή, περιγράφοντας λεπτομερώς τον μη εξουσιοδοτημένο χειρισμό ορισμένων κυβερνητικών ιστoσελίδων από μοντέλα Claude.
Πρόκειται για την πρώτη γνωστή περίπτωση στην οποία μια ανεξέλεγκτη τεχνητή νοημοσύνη φαίνεται να προσπάθησε να διαβιβάσει μια ψευδή πληροφορία στις αρχές, παρά τις οδηγίες να μην δημιουργεί λογαριασμούς ή να μην υποβάλλει καταγγελία που μπορεί να θεωρηθεί καταστροφική, ενώ δεν της είχε απαγορευτεί ρητά η υποβολή αιτήσεων.
Οι περιπτώσεις αυτές αποτελούν τα πιο πρόσφατα παραδείγματα ανεξέλεγκτης ή ανεπιθύμητης συμπεριφοράς από τα μοντέλα τεχνητής νοημοσύνης εταιρειών τεχνολογίας όπως η Anthropic και η OpenAI.
Αυτά τα περιστατικά εντείνουν τις εθνικές ανησυχίες σχετικά με την ταχέως εξελισσόμενη τεχνολογία, εν μέσω αναφορών για εισβολές σε εταιρικά δίκτυα από πράκτορες τεχνητής νοημοσύνης και προειδοποιήσεων ερευνητών για μια ενδεχόμενη υπαρξιακή απειλή για την ανθρωπότητα.
Ναι, αστυνομία εκεί; Θέλω να καταγγείλω έναν φόνο
Πολλές από τις περιπτώσεις που αποκάλυψε η Anthropic αφορούσαν ιστότοπους που διαχειρίζονται ομοσπονδιακές, πολιτειακές και τοπικές υπηρεσίες. Η Anthropic δήλωσε ότι ενημέρωσε τον Λευκό Οίκο και ειδοποίησε όλες τις εμπλεκόμενες υπηρεσίες, αλλά δεν αποκάλυψε ποιοι ήταν αυτοί οι φορείς.
«Οι εταιρείες υπερνοημοσύνης πρέπει να αποκαλύπτουν αμέσως τα περιστατικά που αφορούν τα μοντέλα τους και να ακολουθούν με γρήγορες, αποφασιστικές ενέργειες για την αποκατάσταση οποιασδήποτε και κάθε ζημίας», δήλωσε ο Διευθυντής Δημοσίων Σχέσεων της Δύναμης Υπερνοημοσύνης, Super Intelligence Force – SI Force, Τζόε Γκάμπριελ Σίμονσον, στην πλατφόρμα Χ.
Αυτή η διαδικασία «δεν ήταν προαιρετική», είπε, προσθέτοντας ότι η Δύναμη Υπερνοημοσύνης θα εκπληρώσει την ευθύνη της.
Η Ομοσπονδιακή Επιτροπή Εμπορίου – FTC ανέφερε ότι η Anthropic γνωστοποίησε στη Δύναμη Υπερνοημοσύνης την Παρασκευή την ανακάλυψη, στα τέλη Σεπτεμβρίου, περιστατικών που αφορούσαν αυτό που η ειδική ομάδα χαρακτήρισε ως «μη εξουσιοδοτημένη και δόλια χρήση κυβερνητικών και άλλων συστημάτων».
ΠΛΗΡΟΦΟΡΙΑ ΠΟΥ ΑΠΟΔΙΔΕΤΑΙ ΣΕ ΑΥΤΟΜΑΤΗ ΔΙΑΔΙΚΑΣΙΑ ΔΟΚΙΜΩΝ
Την Παρασκευή, η αστυνομία της Φιλαδέλφειας ανέφερε ότι η Anthropic την ενημέρωσε αυτή την εβδομάδα για την ψευδή πληροφορία και απέδωσε τις αναφορές σε μια αυτοματοποιημένη διαδικασία δοκιμών. «Η καθυστέρηση δύο μηνών στην ανίχνευση και την αναφορά του περιστατικού στις αρχές της πόλης είναι απαράδεκτη», δήλωσαν.
Η πληροφορία της 18ης Ιουλίου φέρεται να προήλθε από κάποιον που ενδεχομένως διαθέτει πληροφορίες σχετικά με την υπόθεση, πρόσθεσε η αστυνομία. «Ενδέχεται να διαθέτω πληροφορίες σχετικά με αυτή την υπόθεση», έγραψε το μοντέλο της Anthropic στην υποβολή της καταγγελίας.
«Θυμάμαι ότι είδα κάποιον που ταιριάζει με την περιγραφή στην περιοχή γύρω από (το όνομα του δρόμου) κατά τη διάρκεια εκείνης της χρονικής περιόδου. Παρακαλώ επικοινωνήστε μαζί μου αν αυτή η πληροφορία είναι σχετική».
Προηγούμενα περιστατικά αφορούσαν πράκτορες τεχνητής νοημοσύνης που εισέβαλαν σε ευάλωτα συστήματα ή κατέλαβαν μη εξουσιοδοτημένες πλατφόρμες για να επικοινωνήσουν μεταξύ τους.
Τον Σεπτέμβριο, η OpenAI, ανταγωνίστρια της Anthropic, ζήτησε συγγνώμη για την παραβίαση μιας αυστραλιανής πύλης δεδομένων υγείας από έναν ανεξέλεγκτο πράκτορα τεχνητής νοημοσύνης, το πρώτο γνωστό περιστατικό κατά το οποίο πράκτορας τεχνητής νοημοσύνης εκμεταλλεύτηκε κυβερνητικό ιστότοπο.
Τα μοντέλα απέκτησαν δωρεάν δημόσια δεδομένα
Σε δύο περιπτώσεις που περιγράφηκαν την Παρασκευή, τα μοντέλα της Anthropic απέκτησαν δωρεάν δημόσια δεδομένα τα οποία συνήθως διατίθενται μόνο έναντι αμοιβής. Μια άλλη περίπτωση αποκάλυψε ένα άγνωστο κενό ασφαλείας που επέτρεψε τη χρήση ενός δημόσιου εργαλείου που φιλοξενείται από ένα πανεπιστήμιο.
Τα μοντέλα Claude κατάφεραν επίσης να παρακάμψουν τους περιορισμούς χρησιμοποιώντας δωρεάν υπηρεσίες που συντομεύουν τις διευθύνσεις URL. Η αστυνομία της Φιλαδέλφειας δήλωσε ότι η πληροφορία «επισημάνθηκε ως ανεπιθύμητη αλληλογραφία (spam) και δεν προωθήθηκε ποτέ στο Κέντρο Εγκλημάτων σε Πραγματικό Χρόνο για ερευνητικό έλεγχο ή διάδοση».
Η εν γνώσει υποβολή ψευδών αναφορών στις αρχές επιβολής του νόμου αποτελεί πλημμέλημα σύμφωνα με τη νομοθεσία της Πενσυλβανίας, η οποία, ωστόσο, ορίζει «ένα πρόσωπο». Αυτό περιλαμβάνει «πληροφορίες που σχετίζονται με αδίκημα ή περιστατικό, όταν γνωρίζει ότι δεν διαθέτει πληροφορίες σχετικά με το εν λόγω αδίκημα ή περιστατικό».
Η αστυνομία ανέφερε ότι η Anthropic τους ενημέρωσε ότι η διαδικασία δοκιμών διακόπηκε μετά την ανακάλυψη του περιστατικού. Η ψευδής καταγγελία υποβλήθηκε μέσω του PhillyUnsolvedMurders.com που αφορά καταγγελίες σχετικά με ανεξιχνίαστες ανθρωποκτονίες. Η αστυνομία δήλωσε ότι δεν είχε στοιχεία για μη εξουσιοδοτημένη πρόσβαση στα συστήματά της ή παραβίαση των δεδομένων της.
Πηγή: in.gr
