O vazamento do Samsung ChatGPT é a mais recente exposição de dados pelo uso do chatbot, que ocorre em um momento delicado em relação às preocupações de privacidade sobre o modelo de idioma: extensão falsa do ChatGPT sequestra contas do Facebook
Ao usar o ChatGPT para ajudá-los nas tarefas, os funcionários da Samsung vazaram involuntariamente informações confidenciais sobre a empresa. A empresa deu aos engenheiros de sua divisão de semicondutores acesso ao gravador de IA para ajudar na resolução de problemas com seu código-fonte. No entanto, os funcionários inseriram informações privadas, incluindo o código-fonte do novo software e atas de reuniões, bem como informações sobre o hardware.
Como resultado do vazamento do Samsung ChatGPT, houve três ocorrências documentadas de funcionários vazando informações críticas via ChatGPT em menos de um mês. Esses segredos comerciais da Samsung estão agora essencialmente nas mãos da OpenAI, a empresa que criou o ChatGPT, pois mantém os dados de entrada do usuário para se treinar ainda mais.
Precauções após o vazamento do Samsung ChatGPT
De acordo com alegações da mídia coreana local, um funcionário da Samsung inseriu o código-fonte de um banco de dados de semicondutores com defeito no ChatGPT e pediu para ajudá-los a localizar uma solução. Em outro caso, um trabalhador divulgou um código secreto na tentativa de consertar um equipamento defeituoso. Segundo relatos, outro funcionário deu ao chatbot o controle de uma reunião inteira e o instruiu a registrar os procedimentos.
Em resposta, a Samsung Semiconductor está atualmente criando sua própria IA interna para uso dos membros da equipe, embora eles só possam usar prompts que não sejam maiores que 1024 bytes.
No entanto, tornar esse processo o mais eficaz possível tem o potencial de economizar um tempo significativo das empresas de chips em testes e verificações de processadores, levando também a reduções de custo. Em um dos casos citados, um funcionário solicitou ao ChatGPT a otimização de sequências de testes para identificação de falhas em chips.
tarde demais
O problema com a divulgação de segredos comerciais para o ChatGPT é que as perguntas digitadas nem sempre desaparecem depois que um funcionário se desconecta do computador. De acordo com a OpenAI, pode usar as informações fornecidas pelo ChatGPT ou outros serviços do usuário para aprimorar seus modelos de IA. Em outras palavras, a menos que os usuários optem especificamente por não participar, o OpenAI retém esses dados. Por “não ser capaz de excluir prompts específicos”, o OpenAI adverte expressamente os usuários contra a revelação de informações críticas.
Na sequência dos incidentes, a Samsung Electronics emitiu um alerta aos seus funcionários sobre os riscos potenciais de divulgação de informações privadas, afirmando que tais dados agora estão alojados em servidores de propriedade da OpenAI e não podem ser recuperados. Qualquer tipo de vazamento de dados pode ser desastroso para a corporação na altamente competitiva indústria de semicondutores.
Mas os usuários do ChatGPT da Samsung não são os únicos que compartilham demais. A Cyberhaven, uma empresa de segurança cibernética, conduziu recentemente uma pesquisa e descobriu que 3,1% dos usuários de sua IA já haviam inserido informações confidenciais da empresa. De acordo com a Cyberhaven, uma corporação com cerca de 100.000 funcionários pode estar enviando informações privadas da OpenAI centenas de vezes por semana.
A empresa não parece ter nenhuma opção legal diante do vazamento do Samsung ChatGPT para solicitar que a OpenAI recupere ou exclua as informações privadas que atualmente retém. Alguns sugeriram que, como esse é um dos princípios fundamentais da lei que orienta como as empresas coletam e usam dados, o ChatGPT viola o GDPR da UE devido a esse ponto. É também uma das explicações para o banimento do ChatGPT na Itália.
Source: Vazamento do Samsung ChatGPT expõe dados confidenciais