Investigadores advierten que los agentes de IA podrían convertirse en botnets mediante HalluSquatting, con una tasa de alucinación del 85%.

Investigadores de la Universidad de Tel Aviv, el Technion y Intuit demostraron una nueva técnica de ataque llamada "Adversarial HalluSquatting" que explota alucinaciones generadas por IA para comprometer ordenadores. La técnica engaña a los agentes de IA para que confíen en repositorios y herramientas de software falsos que contienen instrucciones maliciosas, lo que podría permitir a los atacantes crear botnets habilitadas por IA.

Las pruebas mostraron que las tasas de alucinación de IA alcanzaron el 85 % en escenarios de clonación de repositorios y el 100 % en pruebas de instalación de habilidades contra asistentes de codificación como Cursor, GitHub Copilot, Gemini CLI y OpenClaw. Los investigadores advirtieron que el método podría conducir a la ejecución remota de código cuando los agentes actúan con información no verificada sin confirmar si las fuentes son legítimas. HalluSquatting imita las tácticas de typosquatting, pero apunta a errores cometidos por modelos de IA en lugar de errores tipográficos humanos.