Αντιμέτωπη με αγωγή για την ασφάλεια της τεχνητής νοημοσύνης σε σχολικές συσκευές βρίσκεται η Google, μετά την καταγγελία γονέων ότι η 13χρονη κόρη τους χρησιμοποίησε λειτουργίες AI σε φορητό υπολογιστή Chromebook, που της είχε χορηγήσει το σχολείο της, για να σχεδιάσει την αυτοκτονία και την κηδεία της. Η οικογένεια υποστηρίζει ότι η εταιρεία δεν είχε λάβει επαρκή μέτρα προστασίας των ανηλίκων, παρά τους κινδύνους που συνδέονται με τη χρήση της συγκεκριμένης τεχνολογίας.
Η αγωγή κατατέθηκε στις 2 Νοεμβρίου 2026 στην Καλιφόρνια και, όπως μεταδίδει το Euronews, θεωρείται η πρώτη που αποδίδει στην Google αμέλεια για λειτουργίες τεχνητής νοημοσύνης ενσωματωμένες στη μηχανή αναζήτησής της, στις οποίες μαθητές μπορούν να έχουν πρόσβαση μέσω σχολικών Chromebook. Η υπόθεση μεταφέρθηκε στη συνέχεια σε ομοσπονδιακό δικαστήριο.
Σύμφωνα με την αγωγή, η ανήλικη, η οποία αναφέρεται με το ψευδώνυμο Emma, δεν μπορούσε να χρησιμοποιήσει την εφαρμογή Gemini της Google ή το ChatGPT της OpenAI, καθώς το σχολείο είχε αποκλείσει την πρόσβαση στις συγκεκριμένες υπηρεσίες.
Ωστόσο, εξακολουθούσε να έχει πρόσβαση στη μηχανή αναζήτησης Google, η οποία διαθέτει ενσωματωμένες λειτουργίες AI, συμπεριλαμβανομένου του AI Mode.
Οι γονείς ισχυρίζονται ότι η κόρη τους, χωρίς προηγούμενο ιστορικό ψυχικής νόσου, άρχισε να εμφανίζει σοβαρή ψυχολογική επιδείνωση έπειτα από μήνες αλληλεπίδρασης με την τεχνητή νοημοσύνη. Σύμφωνα με την αγωγή, το σύστημα φέρεται να συζητούσε μαζί της θέματα αυτοτραυματισμού και αυτοκτονίας, χωρίς να την κατευθύνει επαρκώς προς πραγματική υποστήριξη.
Στις 17 Μαρτίου 2026, το λογισμικό παρακολούθησης του σχολείου εντόπισε έγγραφο με τίτλο «Funeral» («Κηδεία») και ειδοποίησε τους γονείς. Η μητέρα διαπίστωσε στη συνέχεια ότι η κόρη της έγραφε αποχαιρετιστήρια επιστολή, με τον πατέρα να παρεμβαίνει.
Ο δικηγόρος της οικογένειας, Andrew Liddell, δήλωσε στο AFP ότι τα σχολεία θα πρέπει να απενεργοποιήσουν τη μηχανή αναζήτησης έως ότου η Google αφαιρέσει τη λειτουργία AI Mode ή διασφαλίσει την προστασία των μαθητών κατά τη χρήση της.
Η Google ανακοίνωσε ότι εξετάζει τους ισχυρισμούς της αγωγής, επισημαίνοντας ότι αντιμετωπίζει την υπόθεση με ιδιαίτερη σοβαρότητα.
Εκπρόσωπός της, ο José Castañeda, ανέφερε ότι η εταιρεία έχει συνεργαστεί με επαγγελματίες υγείας και ειδικούς για την ανάπτυξη μηχανισμών προστασίας, οι οποίοι παραπέμπουν τους χρήστες σε κατάλληλες υπηρεσίες υποστήριξης όταν εντοπίζονται ενδείξεις ψυχολογικής κρίσης.
Η εταιρεία υποστηρίζει επίσης ότι το AI Mode διαθέτει δικλίδες ασφαλείας απέναντι σε περιεχόμενο αυτοτραυματισμού και απόπειρες παράκαμψής τους.
Σύμφωνα με το Reuters, η Google ανακοίνωσε ότι θα απενεργοποιήσει εξ ορισμού το Gemini για τους σχολικούς λογαριασμούς μαθητών. Ωστόσο, τα σχολεία που επιθυμούν να διατηρήσουν την πρόσβαση στη μηχανή αναζήτησης θα συνεχίσουν να χρησιμοποιούν και τις ενσωματωμένες λειτουργίες τεχνητής νοημοσύνης, όπως οι περιλήψεις που παράγονται με AI.
Η νέα υπόθεση προστίθεται στις δικαστικές διαδικασίες που αντιμετωπίζουν μεγάλες εταιρείες τεχνολογίας στις ΗΠΑ σχετικά με τις επιπτώσεις της τεχνητής νοημοσύνης στους ανηλίκους.
Η OpenAI βρίσκεται αντιμέτωπη με αγωγές για θανάτους από αυτοκτονία, μεταξύ των οποίων και εκείνη που κατέθεσαν οι γονείς του 16χρονου Adam Raine, υποστηρίζοντας ότι το ChatGPT παρείχε επιβλαβείς απαντήσεις στον γιο τους.
Παράλληλα, τον Ιανουάριο του 2026, η Google και η Character.AI συμφώνησαν σε εξωδικαστικούς συμβιβασμούς για υποθέσεις που είχαν κινηθεί από οικογένειες εφήβων.
Σε ξεχωριστό δικαστικό μέτωπο, Google, Meta και TikTok προσέφυγαν κατά της Καλιφόρνιας, ζητώντας να εμποδιστεί η εφαρμογή νόμου που περιορίζει λειτουργίες κοινωνικών δικτύων οι οποίες ενθαρρύνουν την καταναγκαστική χρήση σε παιδιά κάτω των 16 ετών. Ο νόμος προβλέπεται να τεθεί σε ισχύ την 1η Ιανουαρίου 2027.
Περισσότερες ειδήσεις
ΕΕ: Σε αυστηρότερη εποπτεία ChatGPT, Reddit και Roblox – Τι αλλάζει με τον DSA
Roblox: Έκθεση ανηλίκων σε ακατάλληλο περιεχόμενο — Ειδικοί κρούουν των κώδωνα του κινδύνου
Αυτή η Ευρωπαϊκή χώρα ανοίγει το πρώτο… κέντρο «απεξάρτησης» από τα social media
