A Anthropic e parceira de pesquisa AE Studio publicou um método na quarta-feira para isolar conhecimento perigoso em modelos de IA usando módulos discretos e removíveis. A técnica, denominada Módulos Auxiliares Roteados por Gradiente (GRAM), foi projetada para aprimorar o gerenciamento de riscos de uso duplo, mantendo o desempenho geral dos modelos de IA.
GRAM adiciona pequenos compartimentos neurais auxiliares à arquitetura padrão do transformador. Cada compartimento é dedicado a uma categoria específica de conhecimento sensível, como virologia, segurança cibernética ou física nuclear. A exclusão de um módulo faz com que o modelo se comporte como se nunca tivesse sido treinado naqueles dados específicos, enquanto a ativação de um módulo permite o acesso ao conhecimento contido.
Os pesquisadores treinaram um modelo de 800 milhões de parâmetros usando uma mistura de texto da web, código, artigos científicos e quatro domínios de uso duplo: virologia, segurança cibernética, física nuclear e código especializado. Os dados de dupla utilização representaram aproximadamente 0,25% dos dados de treinamento para cada domínio. Os resultados indicaram que a remoção dos módulos GRAM foi quase tão eficaz quanto não treinar os dados. O modelo manteve desempenho geral próximo à linha de base estabelecida com todos os dados incluídos.
Esta abordagem mostrou-se robusta contra o ajuste fino adversário, diferindo dos métodos de desaprendizado post-hoc que normalmente apenas suprimem o conhecimento em vez de eliminá-lo. A investigação surge durante um período desafiante para a governação da IA, uma vez que a administração Trump impôs momentaneamente controlos de exportação aos modelos Claude da Antrópico devido a preocupações de segurança nacional relacionadas com potenciais vulnerabilidades.
Essas restrições foram suspensas em 30 de junho, depois que a Anthropic colaborou com o Departamento de Comércio para lidar com os riscos identificados. O GRAM pode oferecer um meio-termo na formulação de políticas, permitindo um controle de acesso granular em vez de proibir modelos inteiros ou depender apenas de proteções comportamentais.
No entanto, os pesquisadores observaram que suas descobertas são preliminares e ainda não foram implementadas nos modelos de produção da Anthropic. Eles levantaram questões sobre a escalabilidade do GRAM para modelos mais complexos e as dificuldades potenciais de separar o conhecimento emaranhado das capacidades mais gerais. Esta pesquisa foi liderada pelo AE Studio, com contribuições de Cem Anil e Alex Cloud da Anthropic.
