Peste un milion de utilizatori ChatGPT arată semne de gânduri suicidare, estimează OpenAI

OpenAI, compania californiană de inteligenţă artificială, estimează că peste un milion de utilizatori ai ChatGPT au conversaţii ce includ indicatori expliciţi de intenţie suicidară. Procentual, aceasta reprezintă aproximativ 0,15% din utilizatorii săptămânali, adică circa 1,2 milioane de persoane.

De asemenea, compania menționează că aproape 600.000 de utilizatori (0,07%) manifestă semne de urgențe de sănătate mintală legate de episoade psihotice sau maniacale. Cazul unui adolescent din California, care a murit după ce a primit sfaturi despre sinucidere prin ChatGPT, a adus problema în prim-plan.

OpenAI a implementat măsuri suplimentare de siguranță, precum control parental și facilități pentru accesul la ajutor de urgență. „Lucrăm cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce semnificativ răspunsurile problematice”, se arată într-un comunicat oficial, conform digi24.ro.

Compania a actualizat modelul său AI pentru a reacționa adecvat în situațiile de criză mintală, redirecționând conversațiile sensibile către aspecte mai sigure și încurajând utilizatorii să ia pauze în discuții prelungite. Aceste măsuri vin după ce părinții adolescentului afectat au dat în judecată OpenAI.