Mais de um milhão de usuários falam sobre planos de suicídio com o ChatGPT, segundo OpenAI

Mais de um milhão de usuários ativos em uma semana conversam com o ChatGPT sobre suicídio. É o que mostram dados divulgados nesta segunda-feira (27), pela OpenAI (dona do chatbot).

“Nossa análise inicial estima que cerca de 0,15% dos usuários ativos em uma semana têm conversas que incluem indicadores explícitos de possível planejamento ou intenção suicida”, disse a empresa.

Como mais de 800 milhões de pessoas usam o ChatGPT semanalmente, segundo a companhia, essa porcentagem corresponde a aproximadamente 1,2 milhão de usuários.

No comunicado, a OpenAI também informou que estima que cerca de 0,07% dos usuários ativos semanais, um pouco menos de 600 mil pessoas, apresentam possíveis sinais de emergências de saúde mental relacionadas à psicose ou mania.

Casos de suicídio chamaram atenção para o tema

O problema ganhou destaque depois que o adolescente californiano Adam Raine cometeu suicídio no início deste ano. Seus pais entraram com uma ação judicial contra o ChatGPT porque a ferramenta forneceu conselhos específicos sobre como fazê-lo.

Desde então, a OpenAI aprimorou os controles parentais para seu chatbot e introduziu outras medidas de segurança. Entre elas: maior acesso a linhas diretas de ajuda, o redirecionamento automático de conversas delicadas para modelos mais seguros e lembretes sutis para que os usuários façam pausas durante sessões prolongadas.

A companhia também atualizou o ChatGPT para reconhecer e responder melhor aos usuários que enfrentam emergências de saúde mental, e diz que está trabalhando com mais de 170 profissionais de saúde mental para reduzir significativamente as respostas problemáticas.