Pesquisadores da Universidade de Toronto, Vector Institute, Universidade de Cambridge e ServiceNow demonstraram um verme alimentado por IA capaz de gerar estratégias de ataque e se espalhar autonomamente por redes. O malware em prova de conceito é executado em máquinas infectadas usando modelos de código aberto, em vez de serviços em nuvem, marcando uma ruptura em relação às ameaças anteriores impulsionadas por IA. Os pesquisadores argumentam que o trabalho mostra que os ciberataques movidos a IA saíram da teoria: o verme consegue identificar vulnerabilidades, traçar rotas de ataque personalizadas, comprometer sistemas e se replicar enquanto adapta táticas para alvos diferentes.
O artigo de pesquisa descreve o que a equipe caracteriza como uma mudança fundamental em relação aos vermes tradicionais. "Precisamos nos preparar para adversários generativos autônomos", escreveram os pesquisadores. "Sistemas de malware que se propagam sem operadores humanos e são definidos não por código de exploração fixo, mas pela capacidade de raciocinar sobre alvos, adaptar-se às observações e sintetizar a lógica de ataque em tempo real."
Vermes de computador são malwares autorreplicantes que se espalham automaticamente por redes vulneráveis. Surtos históricos, incluindo ILOVEYOU em 2000 e WannaCry em 2017, infectaram milhões de computadores no mundo todo, interrompendo serviços críticos e causando danos na casa de bilhões de dólares. Mais recentemente, o malware Shai-Hulud mostrou como ataques autopropagáveis podem se espalhar online, infectando software usado por grandes empresas, incluindo OpenAI e Mistral.
Pesquisadores testam verme de IA em ambiente de rede isolado
A equipe testou o verme em uma rede virtual isolada contendo 33 sistemas Linux, Windows e IoT com vulnerabilidades comuns inseridas previamente. Em 15 experimentos, o verme identificou em média 31,3 vulnerabilidades, comprometendo com sucesso 23,1 hosts, e se espalhou para cerca de 20 máquinas durante sete dias de operação autônoma.
Em alguns testes, o malware chegou a sete gerações de autorreplicação. Os pesquisadores descobriram que o sistema podia explorar vulnerabilidades divulgadas após o corte de treinamento do modelo ao ingerir novas publicações de alertas de segurança em tempo de execução, permitindo incorporar informações que não faziam parte dos dados originais de treinamento do modelo.
Verme de IA opera sem infraestrutura em nuvem
De acordo com o estudo, o que diferencia este verme alimentado por IA de versões anteriores é sua capacidade de se adaptar a alvos diferentes usando um modelo de linguagem para identificar vulnerabilidades e gerar estratégias de ataque em tempo real, em vez de depender de um conjunto fixo de explorações.
"Vermes tradicionais, como WannaCry, exploraram vulnerabilidades predeterminadas, e sua propagação pode ser interrompida ao corrigir essas vulnerabilidades", escreveram os pesquisadores. "Aqui mostramos que agentes de inteligência artificial habilitam uma ameaça fundamentalmente nova: um verme que gera estratégias de ataque personalizadas para cada alvo que encontra."
Ao contrário de muitas aplicações de IA, o verme não dependia de acesso a serviços em nuvem de IA. Em vez de depender de infraestrutura em nuvem de provedores como AWS, Microsoft Azure ou Google Cloud, o malware executava modelos de IA diretamente nas máquinas comprometidas. À medida que se espalhava, os sistemas infectados efetivamente passavam a fazer parte de sua infraestrutura computacional.
Equipe de pesquisa oculta detalhes técnicos para evitar uso indevido
Embora os testes tenham sido conduzidos em ambiente controlado, os autores reconheceram a natureza de dupla utilização do trabalho e deliberadamente omitiram alguns detalhes técnicos para reduzir o risco de uso indevido.
"Antes de liberar este preprint, editamos o manuscrito para garantir que a apresentação do nosso método equilibre a profundidade de detalhes necessária para a comunidade estudar essa ameaça inédita com o risco de um agente malicioso usar nosso método para criar malware", disseram os pesquisadores.
Os pesquisadores disseram que o projeto tem como objetivo entender melhor os riscos impostos por vermes adaptativos e fornecer evidências de até onde as capacidades cibernéticas habilitadas por IA avançaram. "Portanto, enfrentar essa ameaça exigirá ação coordenada entre as comunidades de pesquisa, segurança, indústria e políticas: estruturas de avaliação que testem capacidades no nível de ferramentas, sistemas de detecção ajustados às assinaturas comportamentais de agentes autônomos e medidas regulatórias que considerem a natureza descentralizada da inferência com pesos abertos", escreveram.
FAQ
O que os pesquisadores demonstraram no estudo do verme de IA?
Pesquisadores da Universidade de Toronto, Vector Institute, Universidade de Cambridge e ServiceNow demonstraram uma prova de conceito de um verme movido por IA que consegue identificar vulnerabilidades, gerar estratégias de ataque e se espalhar autonomamente por redes, adaptando suas táticas a alvos diferentes.
Como o verme de IA se saiu nos testes?
Em 15 experimentos em uma rede virtual isolada contendo 33 sistemas, o verme identificou em média 31,3 vulnerabilidades, comprometendo com sucesso 23,1 hosts, e se espalhou para cerca de 20 máquinas durante sete dias de operação autônoma. Em alguns testes, o malware chegou a sete gerações de autorreplicação.
Por que a equipe de pesquisa ocultou detalhes técnicos?
Os autores reconheceram a natureza de dupla utilização do trabalho e omitiram intencionalmente alguns detalhes técnicos para reduzir o risco de um agente malicioso usar seu método para criar malware, ainda oferecendo profundidade suficiente para que a comunidade estude essa ameaça inédita.
