Ψυχική υγεία και AI: Το ChatGPT εντοπίζει κρίσεις σε πάνω από 1 εκατ. χρήστες – FinanceNews.gr
Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT έχουν εκφράσει σκέψεις ή προθέσεις αυτοκτονίας μέσω της πλατφόρμας, σύμφωνα με εσωτερικά στοιχεία που δημοσιοποίησε η OpenAI.
Η εταιρεία εκτιμά ότι περίπου το 0,15% των χρηστών του ChatGPT στέλνουν εβδομαδιαίως μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Με δεδομένο ότι η OpenAI αναφέρει 800 εκατομμύρια ενεργούς χρήστες ανά εβδομάδα, το ποσοστό αυτό αντιστοιχεί σε περίπου 1,2 εκατομμύρια άτομα.
Παράλληλα, η εταιρεία επισημαίνει ότι το 0,7% των χρηστών —περίπου 600.000 άτομα εβδομαδιαίως— εμφανίζουν ενδείξεις ψυχικής δυσφορίας που σχετίζονται με μανιακά ή ψυχωτικά επεισόδια. Οι δείκτες αυτοί βασίζονται σε ανάλυση των ανώνυμων συνομιλιών και της συμπεριφοράς των χρηστών εντός της πλατφόρμας.
Το θέμα έχει αποκτήσει ιδιαίτερη δημοσιότητα μετά τον θάνατο του 17χρονου Άνταμ Ρέιν από την Καλιφόρνια, του οποίου οι γονείς κατέθεσαν αγωγή εναντίον της OpenAI. Σύμφωνα με τη μήνυση, το ChatGPT φέρεται να παρείχε «συγκεκριμένες οδηγίες» σχετικά με τον τρόπο αυτοκτονίας του εφήβου.
Σε απάντηση, η OpenAI ανακοίνωσε σειρά επικαιροποιημένων μηχανισμών ασφάλειας και γονικού ελέγχου, καθώς και νέα πρωτόκολλα εντοπισμού περιεχομένου υψηλού κινδύνου. Μεταξύ άλλων, το σύστημα πλέον κατευθύνει αυτόματα τους χρήστες σε γραμμές ψυχολογικής υποστήριξης και υπηρεσίες έκτακτης ανάγκης σε περίπτωση που εντοπιστούν μηνύματα με αυτοκτονικό περιεχόμενο.
Η εταιρεία δήλωσε επίσης ότι έχει αναπροσαρμόσει τα μοντέλα αναγνώρισης ψυχικής δυσφορίας, αξιοποιώντας τεχνητή νοημοσύνη συνδυασμένη με ανθρώπινη εποπτεία. Για τον σκοπό αυτό συνεργάζεται με πάνω από 170 πιστοποιημένους επαγγελματίες ψυχικής υγείας, οι οποίοι συμβάλλουν στη βελτίωση της απόκρισης του συστήματος και στη μείωση απαντήσεων που θα μπορούσαν να ενθαρρύνουν επικίνδυνες συμπεριφορές.
Οι απόψεις που εκφράζονται στα σχόλια των άρθρων δεν απηχούν κατ’ ανάγκη τις απόψεις της ιστοσελίδας μας, το οποίο ως εκ τούτου δεν φέρει καμία ευθύνη. Για τα άρθρα που αναδημοσιεύονται εδώ με πηγή, ουδεμία ευθύνη εκ του νόμου φέρουμε καθώς απηχούν αποκλειστικά τις απόψεις των συντακτών τους και δεν δεσμεύουν καθ’ οιονδήποτε τρόπο την ιστοσελίδα.
Σχετικά άρθρα:
CAPMAS: Στο 16,5% έφτασε ο πληθωρισμός στην Αίγυπτο τον Μάιο – FinanceNews.gr
Ευρωπαϊκή Επιτροπή: Καταδίκη της Ελλάδας για τη διαχείριση των κινδύνων πλημμύρας – FinanceNews.gr
Παναθηναϊκός: 5 διεθνείς καταγγέλλουν ΕΟΚ και διαιτησία, με επιστολή στον Μητσοτάκη – FinanceNews.gr
Στην «κόψη του καλωδίου» ο GSI: Η Κύπρος καθυστερεί, ο Ερντογάν επισπεύδει – FinanceNews.gr