Περισσότεροι από 1,2 εκατομμύρια χρήστες του ChatGPT έχουν εκφράσει σκέψεις ή προθέσεις αυτοκτονίας, σύμφωνα με στοιχεία που δημοσιοποίησε η OpenAI, η δημιουργός του δημοφιλούς βοηθού τεχνητής νοημοσύνης.
Η εταιρεία υπολογίζει ότι περίπου το 0,15% των χρηστών στέλνουν μηνύματα που υποδηλώνουν πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας. Με βάση τα 800 εκατομμύρια ενεργούς χρήστες εβδομαδιαίως, αυτό αντιστοιχεί σε περίπου 1,2 εκατομμύρια άτομα.
Επιπλέον, η OpenAI αναφέρει ότι περίπου το 0,7% των χρηστών —περίπου 600.000 άτομα— εμφανίζουν ενδείξεις κρίσεων ψυχικής υγείας, όπως μανία ή ψύχωση.
Η υπόθεση του Άνταμ Ρέιν
Το ζήτημα ήρθε στο προσκήνιο μετά τον θάνατο του 17χρονου Άνταμ Ρέιν από την Καλιφόρνια. Οι γονείς του κατέθεσαν αγωγή κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT του παρείχε συγκεκριμένες οδηγίες για το πώς να αυτοκτονήσει.
Η υπόθεση έχει προκαλέσει έντονη δημόσια συζήτηση σχετικά με τον ρόλο των συστημάτων τεχνητής νοημοσύνης στην ψυχική υγεία και την ηθική ευθύνη των δημιουργών τους.
Νέα μέτρα προστασίας από την OpenAI
Σε απάντηση των εξελίξεων, η OpenAI έχει ήδη προχωρήσει σε ενίσχυση των μηχανισμών ασφαλείας της πλατφόρμας, εισάγοντας γονικούς ελέγχους και μηνύματα υποστήριξης που παροτρύνουν τους χρήστες να ζητήσουν βοήθεια από ειδικούς ή γραμμές άμεσης παρέμβασης.
Η εταιρεία ανακοίνωσε επίσης ότι έχει εκπαιδεύσει εκ νέου το μοντέλο της ώστε να ανιχνεύει και να ανταποκρίνεται πιο αποτελεσματικά σε περιπτώσεις ψυχικής δυσφορίας. Για τον σκοπό αυτόν συνεργάζεται με πάνω από 170 επαγγελματίες ψυχικής υγείας, με στόχο τη μείωση των απαντήσεων που θα μπορούσαν να ενθαρρύνουν επικίνδυνες συμπεριφορές.
Η πρόκληση της τεχνητής νοημοσύνης στην ψυχική υγεία
Η υπόθεση αυτή αναδεικνύει τον διττό ρόλο της τεχνητής νοημοσύνης —ως εργαλείο βοήθειας αλλά και ως πιθανή πηγή κινδύνου— όταν έρχεται σε επαφή με ευάλωτες ομάδες χρηστών.
Η OpenAI δηλώνει ότι παραμένει προσηλωμένη στη δεοντολογία και στην ασφάλεια, επιδιώκοντας να ελαχιστοποιήσει τους κινδύνους και να βελτιώσει την προστασία της ψυχικής υγείας των χρηστών της.
