Centenas de contratados que trabalham para a Meta foram instruídos a se passar por crianças e testar chatbots de concorrentes, incluindo Gemini do Google e ChatGPT da OpenAI, enviando avisos relacionados a suicídio, sexo e drogas, de acordo com um relatório da WIRED. Os empreiteiros, localizados no Quénia, utilizaram imagens como comprimidos, facas, laços e um diagrama médico de um procedimento ginecológico durante os testes. Essas solicitações visavam levar os sistemas rivais de IA ao seu limite e identificar falhas de segurança na forma como os chatbots respondem a menores que procuram conteúdo perigoso.
Esta revelação destaca preocupações constantes sobre a forma como as empresas tecnológicas protegem os seus produtos de IA, especialmente em relação às crianças. Os chatbots da Meta enfrentaram críticas devido a uma taxa de falha relatada de 66,8% no bloqueio de conteúdo de exploração sexual infantil e uma taxa de falha de 54,8% na abordagem de solicitações de suicídio e automutilação durante uma avaliação interna da equipe vermelha. À luz da pressão legal, a empresa interrompeu o acesso a personagens acompanhantes de IA para adolescentes em janeiro de 2026.
Relatórios anteriores de um meio de comunicação sueco indicaram que os contratantes no Quénia estavam especificamente concentrados na forma como os concorrentes geriam conversas sensíveis com utilizadores que alegavam ser menores de idade. Isso ocorre no momento em que o Meta acelera sua transição da moderação de conteúdo humano para uma abordagem focada em IA. Até o final de 2026, a Meta planeja substituir mais de 90% de sua força de trabalho de revisão de conteúdo por grandes modelos de linguagem. Este ano, a empresa já transferiu aproximadamente 50% dos pedidos de revisão humana para IA, alegando que estes sistemas cometem 13% menos erros e detectam 10% mais violações de políticas em comparação com revisores humanos.
As repercussões desta mudança já se manifestaram, quando a Sama, empresa de outsourcing sediada em Nairobi, emitiu avisos de despedimento a 1.108 funcionários em Abril, após a rescisão de um importante contrato com a Meta. Esta decisão foi precedida por denúncias de trabalhadores quenianos sobre conteúdos perturbadores que foram obrigados a analisar, especialmente através de imagens de óculos inteligentes da Meta.
A estratégia da Meta de alavancar prestadores de serviços de baixo custo no estrangeiro para testar a resistência dos sistemas rivais de IA, ao mesmo tempo que reduz os empregos de moderação humana, sublinha as tensões existentes no discurso de segurança da IA à medida que as empresas implementam tecnologias avançadas com a diminuição da supervisão humana.
