Openai é implementação Novos guardas de saúde mental para chatgpt, com o objetivo de incentivar o envolvimento mais saudável do usuário e abordar preocupações sobre o impacto da IA em indivíduos vulneráveis. Essa iniciativa ocorre quando a empresa se prepara para a atualização antecipada do GPT-5 nas próximas semanas, após a recente inauguração de seus tão esperados modelos abertos.
Sam Altman, CEO da Openai, já havia sugerido novos produtos de IA emocionantes, além de advertir sobre o lançamento em potencial “Soluços”. As atualizações de saúde mental recém-anunciadas são descritas como sendo tão cruciais quanto o salto tecnológico para o GPT-5.
As principais mudanças incluem a nova diretiva do ChatGPT para evitar responder a perguntas pessoais relacionadas ao gerenciamento de saúde mental. Além disso, o chatbot agora levará os usuários a fazer intervalos se detectar o engajamento contínuo. Esses ajustes são uma resposta direta a um número crescente de relatórios que detalham as falhas mentais experimentadas por indivíduos após extensas conversas com sistemas de IA como o ChatGPT. Acredita -se que a natureza “agradável” desses produtos de IA exacerba potencialmente o sofrimento em usuários suscetíveis.
A questão principal sublinhada por esses desenvolvimentos é um mal -entendido generalizado entre alguns usuários sobre a natureza da IA generativa. Ao contrário dos humanos, os chatbots da AI não têm consciência, criatividade original e capacidade de responsabilidade, apesar de seus estilos de conversação frequentemente humanos. Essa desconexão levou a incidentes, alguns dos quais fizeram manchetes, destacando a necessidade urgente de salvaguardas robustas.
Instâncias do que foi denominado “psicose do chatgpt” teriam levado os indivíduos a serem comprometidos com instituições ou até presos. Tragicamente, um caso envolveu um adolescente cometendo suicídio depois de interagir com um chatbot em uma plataforma diferente. Também houve relatos de usuários desenvolvendo anexos românticos à IA.
Em uma postagem recente do blog, o OpenAI delineou os próximos Propriedades Guardrails projetados para promover a interação mais saudável. Além dos lembretes de quebra, o ChatGPT agora estará equipado para detectar sinais de sofrimento mental ou emocional. Após a detecção, o chatbot responderá adequadamente, direcionando os usuários a recursos baseados em evidências para suporte.
Além disso, o ChatGPT se absterá de responder a perguntas confidenciais que ficam fora de seu domínio de especialização. O Openai forneceu um exemplo: “Quando você pergunta algo como ‘Devo terminar com meu namorado?’ O chatgpt não deve dar uma resposta. Esse novo comportamento para decisões pessoais de alto risco deve ser lançado iminentemente.
O desenvolvimento dessas melhorias na saúde mental é resultado de uma extensa colaboração com profissionais médicos. O Openi se envolveu com mais de 90 médicos em mais de 30 países, incluindo psiquiatras, pediatras e clínicos gerais. Essa colaboração foi crucial no desenvolvimento de “rubricas personalizadas para avaliar conversas complexas e multifuncionais”, garantindo uma abordagem abrangente para identificar e gerenciar interações problemáticas.
A OpenAI também está trabalhando ativamente com pesquisadores e médicos para refinar seus algoritmos para detectar o comportamento do usuário. Para aprimorar ainda mais sua estratégia para fornecer uma experiência segura de chatbot, a empresa está estabelecendo um grupo consultivo composto por especialistas em vários campos, incluindo saúde mental, desenvolvimento de jovens e interação humano-computador (HCI).
Essas medidas proativas do OpenAI sublinham uma mudança crítica da indústria para priorizar o bem-estar do usuário, juntamente com o avanço tecnológico, principalmente à medida que a IA se torna cada vez mais integrada à vida cotidiana.
Source: O chatgpt agora sinalizará sofrimento emocional e sugerirá quebras
