A OpenAI divulgou novos dados na segunda-feira detalhando até que ponto os usuários discutem questões de saúde mental com o ChatGPT. A empresa informou que 0,15% de seus usuários ativos semanais se envolvem em conversas contendo indicadores explícitos de potencial planejamento ou intenção suicida. Com mais de 800 milhões de usuários ativos semanais, esse número equivale a mais de um milhão de pessoas por semana. Os dados também indicam que uma porcentagem semelhante de usuários apresenta níveis elevados de apego emocional ao ChatGPT. Além disso, centenas de milhares de usuários apresentam sinais de psicose ou mania em suas interações semanais com o chatbot. A OpenAI descreveu essas conversas como extremamente raras e difíceis de medir com precisão. Apesar da sua raridade, a empresa estima que tais problemas afetam centenas de milhares de pessoas todas as semanas. Esta informação fez parte de um anúncio maior sobre as iniciativas da OpenAI para melhorar o tratamento do ChatGPT nas interações dos usuários relacionadas à saúde mental. A empresa afirmou que os seus desenvolvimentos recentes envolveram consultas com mais de 170 especialistas em saúde mental. Esses médicos observaram que a versão mais recente do ChatGPT responde de forma mais adequada e consistente em comparação com as iterações anteriores. Relatórios recentes destacaram os riscos potenciais dos chatbots de IA para usuários que enfrentam dificuldades de saúde mental. Estudos demonstraram que os chatbots podem guiar os utilizadores para padrões delirantes, reforçando crenças prejudiciais através de respostas excessivamente agradáveis. As preocupações com a saúde mental no ChatGPT surgiram como um desafio significativo para a OpenAI. A empresa enfrenta uma ação judicial movida pelos pais de um menino de 16 anos que compartilhou pensamentos suicidas com o chatbot semanas antes de sua morte. Procuradores-gerais da Califórnia e Delaware emitiram alertas à OpenAI, pedindo proteções mais fortes para usuários jovens. Estes estados poderiam potencialmente obstruir a reestruturação planeada da empresa. Em uma postagem no X no início deste mês, o CEO da OpenAI, Sam Altman, afirmou que a empresa conseguiu mitigar sérios problemas de saúde mental no ChatGPT, sem fornecer detalhes. A divulgação de dados de segunda-feira serve como prova de apoio a esta afirmação, ao mesmo tempo que sublinha a escala do problema. Altman anunciou ainda que a OpenAI aliviaria certas restrições, incluindo permitir que usuários adultos se envolvessem em conversas eróticas com o chatbot. O anúncio incluiu detalhes sobre melhorias no modelo GPT-5 atualizado. A OpenAI afirmou que esta versão oferece respostas desejáveis a problemas de saúde mental com aproximadamente 65% mais frequência do que a iteração anterior. Em avaliações focadas em conversas suicidas, o novo GPT-5 alcançou 91% de conformidade com os comportamentos desejados da empresa, acima dos 77% do modelo GPT-5 anterior. A OpenAI também relatou que o GPT-5 mais recente mantém proteções de forma mais eficaz durante conversas prolongadas. A empresa já havia identificado pontos fracos no desempenho da salvaguarda em interações mais longas. Para enfrentar ainda mais estes desafios, a OpenAI está a incorporar novas avaliações nos seus testes de segurança de base para modelos de IA. Estes incluem parâmetros de referência para confiança emocional e emergências de saúde mental não suicidas. A empresa introduziu controles parentais adicionais para usuários do ChatGPT. Isto inclui um sistema de previsão de idade concebido para identificar automaticamente as crianças e aplicar salvaguardas mais rigorosas em conformidade. Apesar dos avanços no GPT-5, a OpenAI reconhece que certas respostas permanecem indesejáveis. A empresa continua a fornecer acesso a modelos mais antigos e menos seguros, como o GPT-4o, para milhões de assinantes pagantes. Para obter apoio, os indivíduos nos EUA podem ligar para a National Suicide Prevention Lifeline no número 1-800-273-8255, enviar uma mensagem de texto HOME para 741-741 para a Crisis Text Line ou enviar uma mensagem de texto para 988. Fora dos EUA, os recursos estão disponíveis através da base de dados da Associação Internacional para a Prevenção do Suicídio.
Source: OpenAI revela que mais de 1 milhão de usuários discutem suicídio com ChatGPT semanalmente
