A OpenAI está considerando um novo processo de verificação para as organizações acessarem seus modelos futuros de IA por meio de sua API, com o objetivo de aprimorar a segurança e mitigar o uso inseguro de IA.
De acordo com uma página de suporte publicada no site da OpenAI, o processo de verificação, chamado “Organização Verificada”, foi projetada para desbloquear o acesso aos modelos e capacidades mais avançados da plataforma Openai. O processo exige uma identificação emitida pelo governo de um dos países apoiados pela API da Openai. Um ID pode verificar apenas uma organização a cada 90 dias, e nem todas as organizações serão elegíveis para verificação.
O processo de verificação visa mitigar o uso inseguro de IA, continuando a disponibilizar modelos avançados para a comunidade mais ampla de desenvolvedores. O OpenAI afirmou que uma pequena minoria de desenvolvedores usa intencionalmente as APIs do Openai, violando suas políticas de uso, necessitando da nova etapa de verificação. A empresa leva sua responsabilidade a sério para garantir que a IA seja amplamente acessível e usada com segurança.
O novo processo de verificação pode ter como objetivo reforçar a segurança nos produtos da OpenAI, à medida que se tornam mais sofisticados e capazes. A Openai publicou vários relatórios sobre seus esforços para detectar e mitigar o uso malicioso de seus modelos, inclusive por grupos supostamente com sede na Coréia do Norte. A verificação leva alguns minutos e requer um ID válido emitido pelo governo.
A mudança também pode ser destinada a impedir o roubo de IP. De acordo com um relatório da Bloomberg no início deste ano, o OpenAI estava investigando se um grupo vinculado à Deepseek, um laboratório de AI com sede na China, exfiltrou grandes quantidades de dados por meio de sua API no final de 2024, possivelmente para modelos de treinamento-uma violação dos termos da OpenAI.
O Openai bloqueou o acesso aos seus serviços na China no verão passado, destacando ainda mais seus esforços para gerenciar e garantir seu uso da API. As ações da empresa demonstram seu compromisso em garantir o uso seguro e responsável de seus modelos de IA.
Source: OpenAI para exigir IDs verificados para acesso futuro da IA
