![A reputação e a confiança dos usuários da OpenAI foram abaladas por incidentes de segurança A reputação e a confiança dos usuários da OpenAI foram abaladas por incidentes de segurança](https://techbriefly.com/wp-content/uploads/2024/07/OpenAI-product-safety-issues.jpg)
A OpenAI, a potência da inteligência artificial renomada por suas inovações pioneiras, mais uma vez se viu nas manchetes, embora não pelos motivos que preferiria. Desta vez, a empresa enfrenta escrutínio devido a um par de violações de segurança significativas que levantaram preocupações sobre suas práticas de proteção de dados e estrutura geral de segurança cibernética.
O ChatGPT para Mac não é tão seguro quanto você pensava
O primeiro incidente gira em torno do aplicativo ChatGPT da OpenAI para usuários de Mac, que foi descoberto recentemente armazenando conversas de usuários em um formato não criptografado diretamente em dispositivos locais, de acordo com A BeiraRelatório de ‘s.
Isso significava que informações confidenciais compartilhadas durante os bate-papos estavam potencialmente expostas e acessíveis a outros aplicativos ou softwares maliciosos.
Desenvolvedor Swift Pedro José Pereira Vieito trouxe essa vulnerabilidade à tona, levando a OpenAI a emitir rapidamente uma atualização que implementou criptografia para conversas armazenadas. No entanto, o incidente ressaltou a importância de medidas de segurança robustas, mesmo em aplicativos aparentemente inócuos.
O aplicativo OpenAI ChatGPT no macOS não é isolado e armazena todas as conversas em **texto simples** em um local não protegido:
~/Biblioteca/Suporte de aplicativo/com.openai.chat/conversations-{uuid}/
Então, basicamente, qualquer outro aplicativo/malware pode ler todas as suas conversas no ChatGPT: foto.twitter.com/IqtNUOSql7
— Pedro José Pereira Vieito (@pvieito) 2 de julho de 2024
O incidente do ano passado assombra a gigante da tecnologia
Para agravar os problemas de segurança, uma violação separada da primavera passada voltou para assombrar a OpenAI. Um hacker se infiltrou com sucesso nos sistemas de mensagens internas da empresa, obtendo acesso a informações confidenciais sobre suas operações e tecnologias de IA.
Embora os executivos da OpenAI tenham optado por não divulgar publicamente a violação na época, acreditando que ela não comprometeria dados de clientes ou parceiros, o incidente gerou discórdia interna.
Alguns funcionários, incluindo o ex-gerente do programa técnico da OpenAI, Leopold Aschenbrenner, expressaram preocupações de que as medidas de segurança da empresa são insuficientes para proteger contra ameaças potenciais, particularmente de adversários estrangeiros que buscam roubar tecnologia valiosa de IA.
![A reputação e a confiança dos usuários do OpenAI foram abaladas por incidentes de segurança 2 Problemas de segurança do produto OpenAI](https://techbriefly.com/wp-content/uploads/2024/07/OpenAI-product-safety-issues_1.jpg)
Segurança? Não, obrigado!
Esses dois incidentes trouxeram à tona um debate mais amplo sobre o comprometimento da OpenAI com a segurança e a transparência. Embora a empresa tenha tomado medidas para abordar as vulnerabilidades imediatas, ainda restam dúvidas sobre seus processos internos e até que ponto ela prioriza a segurança em seu desenvolvimento e implantação de aplicativos de IA. Os potenciais riscos geopolíticos associados a tecnologias avançadas de IA complicam ainda mais a questão, pois o medo de roubo de propriedade intelectual por nações estrangeiras é grande.
A resposta da OpenAI a esses desafios foi dupla.
Em primeiro lugar, estabeleceu uma Comissão de Segurança e Proteção para avaliar e mitigar os riscos associados a tecnologias futuras. Este comitê ostenta figuras proeminentes como Paul Nakasone, um ex-general do Exército e especialista em segurança cibernética. Em segundo lugar, a empresa reafirmou sua dedicação em investir na proteção de suas tecnologias, enfatizando que esses esforços são anteriores aos incidentes recentes e estão em constante evolução.
A reputação da OpenAI e a confiança de seus usuários dependem de sua capacidade de aprender com essas experiências e garantir que a segurança continue sendo uma prioridade, pois ela continua nos surpreendendo com inovação após inovação no desenvolvimento de tecnologias de IA.
Crédito da imagem em destaque: Jonathan Kemper/Desaparecer
Source: A reputação e a confiança dos usuários da OpenAI foram abaladas por incidentes de segurança