Compania californiană din domeniul AI estimează că aproximativ 0,15% dintre utilizatorii ChatGPT au „conversaţii care includ indicatori expliciţi de planificare sau de intenţie suicidară potenţială”, a raportat ea într-un articol publicat luni pe blogul său.

OpenAI are 800 de milioane de utilizatori săptămânali, care corespund unui număr de aproximativ 1,2 milioane de persoane.

Compania americană estimează, de asemenea, că aproximativ 0,07% dintre utilizatorii săptămânali activi ai programului ChatGPT prezintă semnele unor potenţiale urgenţe de sănătate mintală legate de episoade psihotice sau maniacale, reprezentând puţin sub 600.000 de persoane.

Această chestiune se află în prim-planul atenţiei publice după moartea unui adolescent californian, Adam Raine. Părinţii lui au dat recent în judecată compania OpenAI, afirmând că ChatGPT i-a oferit fiului lor sfaturi specifice despre modul în care acesta ar putea să se sinucidă.

OpenAI şi-a consolidat de atunci funcţia de control parental şi a implementat alte măsuri de siguranţă, printre care se numără accesul îmbunătăţit la asistenţa telefonică de urgenţă, redirecţionarea automată a conversaţiilor sensibile către modele mai sigure şi mesaje de atenţionare care îi invită pe utilizatori să facă pauze în timpul sesiunilor prelungite de utilizare a chatbotului ChatGPT.

De asemenea, OpenAI a precizat că şi-a actualizat modelul de ChatGPT pentru ca acesta să recunoască mai bine şi să reacţioneze la utilizatorii care trec printr-o urgenţă de sănătate mintală.

Compania californiană a adăugat că lucrează cu peste 170 de profesionişti din domeniul sănătăţii mintale pentru a reduce în mod semnificativ răspunsurile problematice.

Sursa: AGERPRES