Os desenvolvedores do ChatGPT criaram a ferramenta de memória para melhorar a experiência do usuário, retendo detalhes pessoais de uma conversa para outra. Mas, como muitas oportunidades, ela veio com seus riscos. Profissionais de segurança descobriram recentemente uma técnica que hackers podem usar para injetar memórias falsas no ChatGPT, colocando os usuários em risco contra roubo de dados.
O problema está no aplicativo ChatGPT MacOS, onde partes adversárias podem injetar prompts para alterar o que a IA lembra sobre seus usuários. Como resultado, as informações são armazenadas e depois levadas para o servidor do hacker. Embora o problema pareça sério, ele pode não ser tão assustador quanto parece à primeira vista, graças a várias medidas que a OpenAI tomou para proteger os usuários.
A principal fraqueza no sistema de memória do ChatGPT
O pesquisador Johann Rehberger da Embrace The Red detalhou a falha em um relatório completo. Rehberger mostrou como os invasores podem injetar prompts para salvar instruções maliciosas em Memória do ChatGPT. Resumindo, um hacker pode enganar o aplicativo para memorizar informações incorretas, colocando dados confidenciais em risco para trocas futuras.
O exploit se torna inseguro porque permite que o invasor gerencie a memória do ChatGPT em vários engajamentos. Um hacker pode extrair quaisquer dados do usuário — de preferências a nomes e localidades — desde que a falsa memória permaneça incorporada no sistema.
Felizmente, esse tipo de ataque não é generalizado. Tendo já abordado a vulnerabilidade, a OpenAI tornou muito mais difícil para hackers explorarem o recurso de memória. Ainda assim, vulnerabilidades existem, particularmente de ferramentas e aplicativos de terceiros, que expõem novas áreas para potencial manipulação.
Correções e vulnerabilidades restantes
A OpenAI lançou uma atualização de API para a variante web do ChatGPT em resposta ao problema de memória reconhecido, impedindo assim o uso do exploit de injeção de prompt por meio da interface do navegador. Além disso, eles lançaram uma atualização para a ferramenta de memória que impede que ela se torne um vetor de exfiltração. Essas melhorias são necessárias para que o sistema mantenha um alto nível de segurança, mesmo que riscos potenciais persistam.
Os aplicativos de terceiros continuam sendo a maior causa de alarme. Embora as modificações da OpenAI tenham acabado com o problema de abuso de memória em seus sistemas essenciais, pesquisadores de segurança alertam que conteúdo não confiável ainda pode direcionar a memória do ChatGPT por meio de aplicativos conectados, uploads de arquivos e instrumentos de navegação. Isso representa uma arena na qual injeções rápidas podem prosperar ainda mais.
Como se proteger
Embora os ajustes do OpenAI tenham diminuído a ameaça de ataques generalizados, os usuários devem permanecer vigilantes. Aqui estão algumas maneiras de se proteger de potenciais hacks de memória:
- Revise suas memórias do ChatGPT regularmente: Os usuários devem verificar frequentemente as notificações de ‘nova memória adicionada’ no aplicativo ChatGPT. Este recurso permite que você revise quais informações estão arquivadas, dando a você o potencial de eliminar entradas questionáveis.
- Desabilite a memória se não for necessária: O ChatGPT ativa automaticamente o recurso de memória, mas você pode escolher desativá-lo. Essa abordagem é direta, mas suficientemente poderosa para eliminar o risco de ataques baseados em memória.
- Tenha cuidado com interações de terceiros: Se você estiver usando aplicativos conectados ou enviando arquivos para o ChatGPT, você deve ser excepcionalmente cuidadoso. Essas zonas continuam a ser mais expostas a ataques de injeção rápida.
Embora nenhum sistema seja completamente invulnerável a ameaças, ser cauteloso e examinar rotineiramente as memórias armazenadas pode diminuir as chances de ser alvo desse ataque.
Segurança avançada do ChatGPT para memória
A retenção de dados do usuário do ChatGPT para serviço personalizado fornece uma ferramenta forte. Usando esse método, o sistema pode lembrar preferências, relembrar conversas passadas e até mesmo reconhecer gostos ou desgostos particulares para elaborar respostas melhores. Esse poder, no entanto, é o que oferece riscos. O ChatGPT se expõe a uma potencial manipulação por meio de injeções rápidas, mantendo informações por um longo período.
Rehberger relatou que hackers podem gerar uma variedade de memórias falsas em uma ação. Após serem entregues, essas memórias sobrevivem no ChatGPT, possivelmente afetando todas as comunicações futuras com a IA. A suposição de confiança contínua no chatbot pode ser arriscada, pois os usuários podem acidentalmente compartilhar maiores informações pessoais sem perceber.
Embora a OpenAI tenha feito grande progresso no enfrentamento desses desafios, algumas questões incompletas permanecem. Por exemplo, vários segmentos dentro da plataforma permanecem em risco de ataques de injeção imediata, particularmente quando conteúdo não verificado de terceiros entra em uma discussão. A decisão da empresa de não classificar isso como uma “vulnerabilidade de segurança”, mas sim como um “problema de segurança do modelo”, levantou sobrancelhas entre os especialistas.
Monitoramento regular: sua melhor defesa
Os usuários devem tomar medidas adicionais para proteger suas informações, apesar das vulnerabilidades ocultas da memória. Aqui estão algumas opções disponíveis para você:
- Inspecione todas as notificações de “memória atualizada”: Sempre que o ChatGPT notificar você sobre uma atualização de memória, pause para revisar o conteúdo salvo. Esta função auxilia na identificação de qualquer informação desnecessária que esteja sendo mantida.
- Apague memórias indesejadas: Os usuários têm autoridade completa sobre a memória do ChatGPT. Se notar algo incomum, elimine-o para evitar danos potenciais.
- Fique alerta com ferramentas de terceiros: Monitore quaisquer conexões entre o ChatGPT e aplicativos de terceiros. Essas ferramentas ainda são vulneráveis à manipulação, pois os esforços da OpenAI não eliminaram a possibilidade de injeções rápidas nessas áreas.
Truques de memória: mais do que apenas um bug?
A vulnerabilidade de memória descoberta no ChatGPT revelou que ferramentas de IA projetadas para aprimorar a experiência do usuário podem introduzir riscos de segurança adicionais. Características baseadas em memória permitem interações personalizadas, mas permitem que hackers usem indevidamente essas interações para propósitos maliciosos.
À medida que o ChatGPT progride, os usuários devem permanecer atentos, verificar consistentemente as memórias salvas e ter cuidado ao interagir com conteúdo externo. Embora o OpenAI tenha melhorado significativamente a segurança, esforços adicionais são necessários para abordar as vulnerabilidades existentes. Ao estar ciente dos perigos potenciais e ser proativo, você ainda pode ter interações personalizadas com o ChatGPT, garantindo que seus dados permaneçam seguros.
Crédito da imagem em destaque: foto grátis
Source: Hack de memória ChatGPT: uma fraqueza de segurança de IA faz você reavaliar seu nível de confiança
