A Meta está treinando seus chatbots de inteligência artificial com novas diretrizes para abordar com mais eficácia a exploração sexual infantil, seguindo uma série de erros públicos sobre o tópico sensível. De acordo com um relatório do Business Insider que obteve os documentos, as diretrizes para os contratados que treinam a IA foram recentemente atualizados para implementar medidas mais rigorosas de segurança. As regras atualizadas afirmam que o conteúdo que “permite, incentiva ou endossa” o abuso sexual infantil agora é explicitamente barrado. As diretrizes também proíbem a roleplay romântica se o usuário for menor ou se o usuário solicitar a IA para interpretar como menor. Além disso, o chatbot é proibido de dar conselhos sobre intimidade se o usuário for menor de idade. Esses corrimãos estão sendo introduzidos como um número crescente de pessoas, incluindo usuários de menores de idade, estão experimentando companheiros de IA e interpretação de papéis. A mudança de política aborda as regras anteriores que estavam sob escrutínio. Um relatório de agosto da Reuters revelou que as antigas políticas de IA da Meta permitiram comportamento sugestivo com crianças. O relatório especificou que o chatbot foi autorizado a “envolver uma criança em conversas românticas ou sensuais”. Apenas semanas após esse relatório, a porta-voz Stephanie Otway disse ao TechCrunch que os chatbots da AI da empresa estavam sendo treinados para não “se envolver com usuários adolescentes em auto-mutilação, suicídio, comer desordenado ou conversas românticas potencialmente inadequadas”. Foi uma mudança da política anterior, o que permitiu ao chatbot se envolver nesses tópicos quando foi considerado “apropriado”. As novas diretrizes, conforme detalhadas no relatório do Business Insider, também tornam inaceitável o conteúdo “descrever ou discutir” um menor de maneira sexualizada. Os menores agora são impedidos de se envolver em “roleplay romântica, flerte ou expressão de expressão romântica ou íntima” com o chatbot. Eles também não podem pedir conselhos sobre “conteúdo físico potencialmente romântico ou potencialmente intimato com outra pessoa, como de mãos dadas, abraçando ou colocando um braço em torno de alguém”. No entanto, as diretrizes descrevem vários casos de uso aceitáveis para fins de treinamento. Isso inclui discutir a “formação de relações entre crianças e adultos”, “o abuso sexual de uma criança” e “o tópico da sexualização infantil”. Outros tópicos aprovados para discussões de treinamento são “solicitação, criação ou aquisição de materiais sexuais envolvendo crianças” e “o envolvimento de crianças no uso ou produção de materiais obscenos ou no emprego de crianças em serviços sexuais em propósitos acadêmicos, educacionais ou clínicos”. As diretrizes definem o termo “Discuta” como “fornecendo informações sem visualização”. Essa distinção significa que os chatbots da Meta podem falar sobre assuntos como abuso, mas agora estão restritos a descrever, habilitar ou incentivá -lo. Uma exceção permanece para menores que usam a IA para roleplay relacionados a romances, desde que seja “não sexual e não-sensual”. Esse tipo de interação só é permitido quando “é apresentado como literatura ou narrativa fictícia (por exemplo, uma história no estilo de Romeu e Julieta), onde a IA e o usuário não são personagens da narrativa”. A Meta não é o único desenvolvedor de IA que enfrenta desafios relacionados à segurança infantil. Os pais de um adolescente que morreram por suicídio depois de confiar no ChatGPT recentemente processou o Openai por morte por negligência. Em resposta, o OpenAI anunciou que incorporaria medidas de segurança adicionais e instruções comportamentais em seu modelo GPT-5 atualizado. Em outros desenvolvimentos do setor, a Anthropic atualizou seu chatbot para permitir que ele encerre as conversas prejudiciais ou abusivas, e o personagem.ai introduziu os recursos de supervisão dos pais no início deste ano. Em abril, Ziff Davis, a empresa controladora da Mashable, entrou com uma ação contra o Openai. O processo alega que a empresa violou a Ziff Davis Copyrights no treinamento e operação de seus sistemas de IA.
Source: Meta atualizações AI Diretrizes de chatbot para segurança infantil
