A OpenAI introduziu um recurso de “previsão de idade” para ChatGPT identificar menores, permitindo restrições de conteúdo apropriadas em suas conversas. As críticas em relação ao impacto da IA ​​nos jovens aumentaram. O ChatGPT da OpenAI tem sido associado a suicídios de adolescentes. O chatbot também enfrentou críticas por abordar temas sexuais com usuários jovens. Especificamente, em abril, a empresa reconheceu um bug que permitia ao seu chatbot gerar erotismo para usuários menores de 18 anos. A OpenAI tem abordado a questão dos usuários menores de idade. O novo recurso de “previsão de idade” complementa as proteções existentes. Este recurso utiliza um algoritmo de IA para analisar “sinais comportamentais e de nível de conta” de contas de usuários para detectar usuários jovens, conforme detalhado em uma postagem no blog da empresa na terça-feira. Esses “sinais” abrangem a idade declarada do usuário, a longevidade da conta e o horário típico de atividade. Atualmente, a OpenAI emprega filtros de conteúdo para excluir discussões sobre conteúdo sexual, violência e outros assuntos considerados problemáticos para usuários menores de 18 anos. Se o mecanismo de previsão de idade identificar uma conta como pertencente a um menor, esses filtros serão aplicados automaticamente. Os usuários categorizados erroneamente como menores de idade podem reverter o status de sua conta. Eles podem enviar uma selfie ao parceiro de verificação de identidade da OpenAI, Persona, para verificação de idade.

Crédito da imagem em destaque

Source: OpenAI lança ferramenta de previsão de idade de IA para restringir ChatGPT para menores