Um novo método de ataque cibernético chamado Grokking está explorando o assistente de AI da X, Grok, para distribuir malware por meio de links maliciosos. Pesquisadores da Guardio Labs revelaram a técnica em 4 de setembro, mostrando como os cibercriminosos estão transformando um sistema de IA confiável em uma ferramenta de entrega de malware. Milhões de usuários já podem ter sido expostos a sites perigosos por meio desse método.
Como os ataques de malware GROK funcionam
O ataque se esconde URLs maliciosos nos metadados “de: de:” de postagens promovidas por cartão de vídeo. Os anúncios geralmente usam conteúdo sensacional ou adulto para atrair atenção e ocultar o malware. Os atacantes respondem às suas próprias postagens, marcando Grok com perguntas como “De onde é este vídeo?” Grok, confiável como uma conta do sistema, lê os metadados ocultos e expõe o link malicioso em sua resposta pública. A amplificação de anúncios paga aumenta ainda mais a exposição, gerando centenas de milhares para milhões de impressões.
Ameaças atores de armar Grok e Mixtral para malware
Grokking faz parte de uma tendência crescente em que os criminosos redirecionam modelos de IA principais, como Grok e Mistral’s Mixtral. Esses atores de ameaças envolvem modelos em interfaces de jailbroken para ignorar os filtros de segurança, criando ferramentas que podem gerar e -mails de phishing, código de malware e tutoriais para hackers iniciantes. De acordo com as redes CATO, o acesso a essas ferramentas ilícitas de IA custa apenas algumas centenas de euros. Exemplos anteriores incluem uma “assistente sem censura” alimentada por Grok e uma variante baseada em mixtral.
Por que os ataques de Grok são perigosos
O risco principal não vem dos modelos de IA, mas de como os invasores exploram o sistema solicita e contas confiáveis. O Grokking mostra que mesmo as ferramentas de IA amplamente confiáveis podem ser armadas quando combinadas com engenharia social e vulnerabilidades da plataforma. Especialistas em segurança alertam que milhões de usuários podem ter sido expostos a sites maliciosos, enfatizando a necessidade urgente de melhores salvaguardas e conscientização das ameaças habilitadas para AI.
Como ficar seguro de malware GROK
Os usuários devem ser cautelosos ao clicar em links, mesmo que pareçam verificados ou gerados pela IA. Plataformas como X precisam de verificação mais rigorosa de metadados e melhores controles para impedir a entrega de malware assistida por IA. Reconhecendo isso Os sistemas de IA confiáveis podem ser explorados é essencial para proteger usuários individuais e redes organizacionais de crimes cibernéticos emergentes de IA.
