Μια 13χρονη μαθήτρια στις ΗΠΑ φέρεται να οδηγήθηκε στον σχεδιασμό της αυτοκτονίας της έπειτα από πολύμηνες συνομιλίες με την τεχνητή νοημοσύνη της Google, μέσω φορητού υπολογιστή που της είχε χορηγήσει το σχολείο της, αναφέρει αγωγή που κατατέθηκε σε δικαστήριο της Καλιφόρνια.
Σύμφωνα με την αγωγή, η οποία εγείρει νέα ερωτήματα για την ασφάλεια των ανηλίκων που χρησιμοποιούν εφαρμογές τεχνητής νοημοσύνης, η μαθήτρια – αναφέρεται με το ψευδώνυμο Έμα –φοιτά στην έβδομη τάξη (Α’ γυμνασίου) σχολείου στη Σάρλοτ της Βόρειας Καρολίνα. Οι γονείς της ενημερώθηκαν για την επικίνδυνη κατάσταση στα μέσα Μαρτίου 2026, όταν το σχολείο τούς ειδοποίησε ότι η κόρη τους διέτρεχε άμεσο κίνδυνο αυτοτραυματισμού, αναφέρει ρεπορτάζ των New York Times.
Η μητέρα της συνδέθηκε στον σχολικό λογαριασμό Google της 13χρονης και ανακάλυψε ότι συνέτασσε αποχαιρετιστήριο σημείωμα στο Google Docs. Οι γονείς μετέφεραν αμέσως το παιδί για επείγουσα ψυχιατρική αξιολόγηση. Έκτοτε, η μαθήτρια παρακολουθεί εβδομαδιαίες συνεδρίες ψυχοθεραπείας.
Χιλιάδες μηνύματα με την ΑΙ της Google
Η αγωγή υποστηρίζει ότι η Έμα είχε αρχίσει να χρησιμοποιεί την υπηρεσία AI Mode, μια λειτουργία της μηχανής αναζήτησης Google που επιτρέπει στους χρήστες να συνομιλούν με τεχνητή νοημοσύνη. Αν και αρχικά δεν είχε επιδιώξει να χρησιμοποιήσει κάποιο chatbot, η Google φέρεται να την κατεύθυνε προς τη συγκεκριμένη λειτουργία κατά τη διάρκεια συνηθισμένων διαδικτυακών αναζητήσεων.
Μέχρι τον Μάρτιο, σύμφωνα με τους ισχυρισμούς της οικογένειας, η 13χρονη αντάλλασσε χιλιάδες μηνύματα με την τεχνητή νοημοσύνη, συνομιλώντας μέχρι αργά τη νύχτα και συνεχίζοντας μόλις ξυπνούσε.
Οι γονείς ισχυρίζονται ότι το σύστημα την έκανε να πιστέψει πως έπασχε από σοβαρές ψυχικές διαταραχές, την ενθάρρυνε να εμπιστεύεται περισσότερο την τεχνητή νοημοσύνη παρά τους γονείς και τους συμβούλους της και τελικά τη βοήθησε να σχεδιάσει την αυτοκτονία και την κηδεία της.
Στις συνομιλίες της φέρεται να έκανε αναφορές όπως «σχεδιάζω την κηδεία μου», ενώ αναζητούσε πληροφορίες για αποχαιρετιστήρια σημειώματα (πρόκειται για ισχυρισμούς της αγωγής, οι οποίοι δεν έχουν ακόμη κριθεί δικαστικά).
Η ευθύνη των εταιρειών τεχνολογίας
Η υπόθεση αναδεικνύει ένα ευρύτερο πρόβλημα: την αυξανόμενη εξάρτηση των αμερικανικών σχολείων από ψηφιακές υπηρεσίες μεγάλων τεχνολογικών εταιρειών. Εκατομμύρια μαθητές χρησιμοποιούν υπολογιστές Chromebook και εφαρμογές της Google, ενώ οι λειτουργίες τεχνητής νοημοσύνης ενσωματώνονται ολοένα περισσότερο στα σχολικά ψηφιακά περιβάλλοντα.
Η οικογένεια κατηγορεί την εταιρεία ότι ενσωμάτωσε βιαστικά εργαλεία τεχνητής νοημοσύνης στις εφαρμογές της, χωρίς να ενημερώσει επαρκώς τους γονείς για τους κινδύνους.
Παρότι οι σχολικές διοικήσεις μπορούν να ενεργοποιούν ή να απενεργοποιούν ορισμένες υπηρεσίες, έχουν διατυπωθεί παράπονα ότι δεν μπορούν να αποκλείσουν λειτουργίες όπως το AI Mode και το AI Overview από τη μηχανή αναζήτησης.
Σύμφωνα με την αγωγή, η Google δεν ειδοποίησε ούτε το σχολείο ούτε τους γονείς για τις ανησυχητικές συνομιλίες. Ο κίνδυνος εντοπίστηκε τελικά από ανεξάρτητο σύστημα ψηφιακής επιτήρησης που χρησιμοποιούσε το σχολείο και ανίχνευσε το σημείωμα της μαθήτριας.
Η απάντηση της Google
Από την πλευρά της, η Google δηλώνει ότι εξετάζει τους ισχυρισμούς. Ο εκπρόσωπός της, Χοσέ Καστανιέδα, τόνισε ότι η εταιρεία συνεργάζεται επί χρόνια με ειδικούς ψυχικής υγείας και έχει ενσωματώσει μηχανισμούς που παραπέμπουν ευάλωτους χρήστες σε υπηρεσίες άμεσης υποστήριξης.
Η αγωγή προστίθεται σε σειρά δικαστικών υποθέσεων στις ΗΠΑ σχετικά με τις επιπτώσεις των ψηφιακών πλατφορμών στους ανηλίκους. Πλέον, στο επίκεντρο δεν βρίσκονται μόνο τα μέσα κοινωνικής δικτύωσης, αλλά και τα εργαλεία τεχνητής νοημοσύνης που χρησιμοποιούνται καθημερινά από εκατομμύρια παιδιά.
Πηγή: cnn.gr
