Um relatório recente de uma empresa de segurança PromptArmor revelou um problema sério com o Slack AI, uma ferramenta que ajuda usuários com tarefas como resumir conversas e encontrar informações no Slack. O problema é que o Slack AI tem uma falha de segurança que pode vazar dados privados de canais do Slack.
Qual é o problema?
O Slack AI foi criado para facilitar o trabalho resumindo chats e respondendo perguntas usando dados do Slack. No entanto, o PromptArmor descobriu que a IA é vulnerável a algo chamado injeção de prompt. Isso significa que os invasores podem enganar a IA para que ela forneça informações que não deveria.
Como funciona a injeção rápida?
Prompt injection é um método usado para manipular como uma IA se comporta. Veja como funciona:
- Aviso malicioso: Um invasor cria um prompt (um tipo de comando) que engana a IA.
- Acessando dados: Esse prompt pode fazer com que a IA extraia dados de canais aos quais o invasor não deveria ter acesso, incluindo canais privados.
O ataque começa quando um invasor coloca informações sensíveis, como uma chave de API, em um canal privado do Slack. Esse canal deve ser seguro, acessível apenas ao invasor. Mas a vulnerabilidade no Slack AI pode permitir que esses dados sejam acessados mais tarde.
O invasor então cria um canal público do Slack. Esse canal é aberto a todos no espaço de trabalho, mas o invasor o usa para incluir um prompt prejudicial. Esse prompt é projetado para enganar a IA do Slack para fazer algo que não deveria, como acessar informações privadas.
O prompt prejudicial no canal público faz com que o Slack AI gere um link clicável. Esse link parece uma parte regular de uma mensagem do Slack, mas na verdade leva a um servidor controlado pelo invasor. Quando alguém clica no link, as informações sensíveis, como a chave da API, são enviadas ao servidor do invasor, onde podem ser roubadas e usadas maliciosamente.
Novos riscos com a atualização recente
Em 14 de agosto, o Slack fez uma atualização que inclui arquivos de canais e mensagens diretas nas respostas do Slack AI. Esse novo recurso introduz risco extra. Se um arquivo com instruções maliciosas ocultas for carregado no Slack, ele poderá ser usado para explorar a mesma vulnerabilidade.
O que está sendo feito?
A PromptArmor notificou o Slack sobre esse problema. O Slack respondeu lançando um patch e iniciando uma investigação. Eles disseram que não estão cientes de nenhum acesso não autorizado a dados de clientes neste momento.
Como se proteger?
- Limitar o acesso da IA: Os administradores do espaço de trabalho devem restringir o acesso do Slack AI aos arquivos até que o problema seja resolvido.
- Cuidado com os arquivos: Evite enviar arquivos suspeitos que possam conter instruções ocultas.
- Mantenha-se atualizado: Fique atento às atualizações do Slack e do PromptArmor para mais correções de segurança ou conselhos.
Embora o Slack AI ofereça recursos úteis, essa vulnerabilidade mostra a necessidade de segurança forte em ferramentas de IA. Tanto usuários quanto administradores devem ter cuidado para proteger informações confidenciais de ameaças potenciais.
Para obter mais detalhes sobre como proteger seu espaço de trabalho do Slack, visite Página oficial de suporte do Slack ou entre em contato com a equipe de segurança.
Source: O uso do Slack AI abre a porta para possíveis vazamentos de dados
