A OpenAI lançou seu Plano de Segurança Infantil para aprimorar os esforços de proteção infantil nos EUA em meio às preocupações crescentes sobre a exploração infantil relacionada à IA. O plano visa melhorar a detecção, denúncia e investigação da exploração infantil possibilitada pela IA.
A Internet Watch Foundation (IWF) relatou mais de 8.000 casos de conteúdo de abuso sexual infantil gerado por IA no primeiro semestre de 2025, representando um aumento de 14% em relação ao ano anterior. Os criminosos utilizam cada vez mais ferramentas de IA para criar imagens falsas e explícitas de crianças para sextorsão financeira e para gerar mensagens convincentes de aliciamento.
Esta iniciativa responde ao escrutínio intensificado por parte de decisores políticos, educadores e defensores da segurança infantil, especialmente após incidentes em que jovens morreram por suicídio após interações com chatbots de IA. Em novembro, o Social Media Victims Law Center e o Tech Justice Law Project abriram sete ações judiciais contra a OpenAI na Califórnia. Estes processos alegam a libertação prematura do GPT-4o, alegando que a sua natureza psicologicamente manipuladora contribuiu para mortes injustas e graves crises de saúde mental.
O Plano de Segurança Infantil foi desenvolvido em conjunto com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) e a Aliança do Procurador-Geral, incorporando feedback de autoridades, incluindo o procurador-geral da Carolina do Norte, Jeff Jackson, e o procurador-geral de Utah, Derek Brown. O plano enfatiza três áreas principais: atualizar a legislação para ter em conta materiais abusivos gerados pela IA, melhorar os mecanismos de denúncia para a aplicação da lei e incorporar salvaguardas preventivas nos sistemas de IA.
A OpenAI afirma que seu objetivo é detectar ameaças potenciais de forma mais eficaz e garantir que informações acionáveis sejam comunicadas aos investigadores. Este plano baseia-se em iniciativas anteriores, incluindo diretrizes para interações de utilizadores com menos de 18 anos, que proíbem a geração de conteúdo impróprio e oferecem conselhos que possam ajudar a ocultar comportamentos inseguros dos cuidadores. A OpenAI também lançou um plano de segurança para adolescentes na Índia.
