Αυτοκτονικές τάσεις καταγράφονται σε ποσοστό 0,15% των χρηστών του ChatGPT, σύμφωνα με στοιχεία που παρείχε ο δημιουργός του, η εταιρεία OpenAI.

Συγκεκριμένα, όπως τονίζει η εταιρεία τεχνητής νοημοσύνης, μεταξύ των 800 εκατ. χρηστών της εφαρμογής ανά εβδομάδα, περίπου 1,2 εκατ. άνθρωποι εκφράζουν αυτοκτονικές τάσεις, στέλνοντας μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας».

Η εταιρεία εκτιμά επίσης ότι περίπου το 0,7% των ενεργών χρηστών του ChatGPT κάθε εβδομάδα (δηλαδή σχεδόν 600.000 άνθρωποι) εμφανίζουν σημάδια τα οποία υποδηλώνουν κρίσεις ψυχικής υγείας που σχετίζονται με ψύχωση ή μανία.

Το ζήτημα έχει έρθει στο προσκήνιο μετά τον θάνατο ενός εφήβου από την Καλιφόρνια, του Adam Raine. Οι γονείς του κατέθεσαν πρόσφατα αγωγή σε βάρος της OpenAI, καταγγέλλοντας πως το ChatGPT του παρείχε συγκεκριμένες συμβουλές για το πώς να αυτοκτονήσει.

Adam Raine, 16, died from suicide in April after months on ChatGPT discussing plans to end his life. His parents have filed the first known case against OpenAI for wrongful death.

My latest story on the psychological impacts of AI chatbots:https://t.co/f5kxxfJVCw

— Kashmir Hill (@kashhill) August 26, 2025

Έκτοτε, η OpenAI έχει ενισχύσει τον γονικό έλεγχο και άλλες δικλείδες ασφαλείας, προτρέποντας μεταξύ άλλων τους χρήστες να αναζητήσουν βοήθεια από ειδικούς σε τηλεφωνικές γραμμές έκτακτης ανάγκης.

Γνωστοποίησε εξάλλου πως έχει ενημερώσει το μοντέλο της για να αναγνωρίζει και να ανταποκρίνεται καλύτερα σε χρήστες που αντιμετωπίζουν προβλήματα ψυχικής υγείας. Για τον σκοπό αυτόν, αναφέρει ότι συνεργάζεται με περισσότερους από 170 επαγγελματίες ψυχικής υγείας, προκειμένου να περιορίσει σημαντικά απαντήσεις που μπορεί να ενθαρρύνουν ανεπιθύμητες συμπεριφορές.