A Microsoft divulgou esta semana um relatório de inteligência de ameaças revelando que os hackers estão cada vez mais integrando inteligência artificial em todas as fases de suas operações, desde o reconhecimento e phishing até o desenvolvimento de malware e atividades pós-comprometimento.
A empresa descreveu a IA como um “multiplicador de força” que reduz barreiras técnicas e acelera a execução para invasores de diversos níveis de habilidade. As conclusões indicam que a adoção da IA está a reduzir a proficiência técnica necessária para conduzir ataques cibernéticos em grande escala.
Os grupos de ameaças norte-coreanos Jasper Sleet e Coral Sleet usam IA generativa para impulsionar esquemas de empregos falsos elaborados visando empresas ocidentais. Os atores de Jasper Sleet usam ferramentas de IA para gerar listas de nomes culturalmente apropriadas, adaptar currículos falsos a ofertas de emprego específicas e criar comunicações profissionais para sustentar empregos de longo prazo, uma vez contratados, de acordo com a CyberScoop.
A Microsoft observou Jasper Sleet usando o aplicativo de IA Faceswap para inserir rostos de funcionários de TI norte-coreanos em documentos de identidade roubados e criar fotos elegantes para currículos. O grupo também utilizou tecnologia de alteração de voz durante entrevistas virtuais para disfarçar sotaques, permitindo que os agentes se passassem por candidatos ocidentais, informou o The Guardian.
“Jasper Sleet emprega IA durante todo o processo de ataque para garantir empregos, manter empregos e explorar o acesso em larga escala”, afirmou a Microsoft.
Coral Sleet usou ferramentas de codificação de IA para gerar e refinar componentes de malware, criar sites de empresas falsos, provisionar infraestrutura remota e testar rapidamente cargas úteis. O grupo desbloqueou grandes modelos de linguagem para gerar código malicioso que contorna os controles de segurança integrados, de acordo com a Microsoft.
A Microsoft observou a experimentação inicial por agentes de ameaças com IA de agente, onde os modelos apoiam a tomada de decisões iterativas e a execução de tarefas, embora isto ainda não tenha sido observado em escala.
O Google informou em fevereiro que seu Grupo de Inteligência de Ameaças observou agentes de ameaças usando IA para coletar informações, criar campanhas de phishing e desenvolver malware. A Amazon documentou uma campanha na qual um hacker de língua russa usou serviços generativos de IA para violar mais de 600 firewalls FortiGate em 55 países em cinco semanas, demonstrando como a IA permitiu que um invasor com habilidades limitadas operasse em uma escala que antes exigia uma equipe maior e mais capaz.
A Microsoft aconselhou as organizações a tratarem os esquemas de trabalhadores de TI alimentados por IA como riscos internos e a concentrarem-se na deteção do uso anormal de credenciais, no reforço dos sistemas de identidade contra phishing e na proteção de sistemas de IA que possam, eles próprios, tornar-se alvos.
