O OpenAI reduziu significativamente o tempo alocado para avaliar novos modelos de IA de vários meses para apenas dias, provocando preocupações entre funcionários e testadores de terceiros sobre avaliações completas de segurança.
Oito pessoas, funcionários do Openai ou de terceiros, revelaram que receberam “apenas dias” para concluir as avaliações sobre novos modelos, um processo que eles afirmam normalmente levaria “vários meses”. As avaliações são cruciais para a superfície dos riscos do modelo e outros danos, como se um usuário poderia jailbreak um modelo para fornecer instruções para criar uma biowopon. Para comparação, as fontes observaram que o OpenAI lhes deu seis meses para revisar o GPT-4 antes de seu lançamento, e as capacidades relacionadas a apenas foram descobertas após dois meses.
As fontes acrescentaram que os testes do OpenAI não são tão completos quanto costumavam ser e não têm o tempo e os recursos necessários para capturar e mitigar adequadamente os riscos. “Tivemos testes de segurança mais completos quando [the technology] foi menos importante ”, disse uma pessoa testando O3, a versão completa da O3-mini. Eles descreveram a mudança como” imprudente “e” uma receita para o desastre “. A corrida é atribuída ao desejo da Openai de manter uma vantagem competitiva, especialmente porque modelos de peso aberto de concorrentes como a startup de IA chinesa Deepseek ganham mais terreno.
Há rumores de que o OpenAI está lançando a O3 na próxima semana, o que, segundo fontes, apressou a linha do tempo para menos de uma semana. Essa mudança destaca a falta de regulamentação governamental para os modelos de IA, incluindo requisitos para divulgar os danos ao modelo. Empresas como o OpenAI assinaram acordos voluntários com o governo Biden para realizar testes de rotina com o Instituto de Segurança da AI dos EUA, mas esses acordos caíram sob o governo Trump.
Durante o período de comentários abertos para o próximo plano de ação da IA do governo Trump, o OpenAI defendeu um acordo semelhante para evitar a navegação na legislação estatal por estado. Fora dos EUA, a Lei da AI da UE exigirá que as empresas tenham arriscado testar seus modelos e documentar os resultados. Johannes Heidecke, chefe de sistemas de segurança da Openai, afirmou: “Temos um bom equilíbrio com a rapidez com que nos movemos e como somos completos”. No entanto, os testadores expressaram alarme, especialmente considerando outros orifícios no processo, incluindo a avaliação de versões menos avançadas dos modelos lançados ao público ou referenciando os recursos de um modelo anterior, em vez de testar o novo.
Source: Opening acelera os testes de IA, desperta preocupações de segurança
