La seguridad de los agentes de IA necesita una defensa a nivel del sistema: Google, Meta advierten

Investigadores de seguridad de Google y Meta advierten que los agentes de IA autónomos requieren arquitecturas defensivas a nivel del sistema para hacer frente a los riesgos de seguridad emergentes. Los expertos advierten que las herramientas tradicionales de ciberseguridad por sí solas no pueden proteger contra amenazas planteadas por agentes de IA capaces de conservar memoria, llamar herramientas externas, coordinarse con otros agentes y operar de forma continua sin supervisión humana directa. La preocupación surge por el despliegue rápido en empresas de agentes de IA en flujos de trabajo que incluyen pagos, atención al cliente, programación, ciberseguridad y operaciones financieras. A diferencia de los sistemas anteriores tipo chatbot, la IA agentica introduce sistemas de memoria persistente, ejecución de herramientas y flujos de trabajo autónomos que crean nuevas superficies de ataque. Los fallos de seguridad en estos sistemas interconectados rara vez se mantienen aislados: instrucciones comprometidas o entradas maliciosas pueden propagarse a través de varias capas antes de volverse visibles externamente.

Security Gaps in AI Agent Systems

A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across multiple layers of autonomous systems over time. The risk is particularly acute in financial services, where AI agents are increasingly deployed for payments, fraud monitoring, trading operations, and customer account management.

In a recent incident, Bankr, an AI-powered crypto trading assistant, disabled transactions on May 20 after identifying an attacker who had gained access to at least 14 wallets. Security experts speculated the bot could have been exploited by a hacker.

Keyrock reported that AI agents processed $73 million in crypto payments between 2025 and 2026, demonstrating the scale of autonomous AI deployment in financial workflows.

Researchers emphasize that agent security must be approached as a systems problem, treating the AI model powering the agent as an untrusted component. Security experts are proposing methods to intercept attacks as they move through interconnected AI-agent systems rather than relying solely on front-end filters or prompt moderation.

Google y Meta amplían los ecosistemas de IA agentica

Google presentó recientemente Gemini Spark, un asistente de IA siempre activo capaz de interactuar a través de aplicaciones de Workspace, sistemas en la nube y plataformas de terceros. La empresa está integrando agentes de IA de forma más profunda en Chrome, Gmail, Search y los sistemas de Android.

Meta está preparando asistentes de IA agentica capaces de ejecutar tareas personalizadas en sus plataformas sociales y de mensajería. Los expertos en seguridad advierten que los sistemas cada vez más autónomos crean más oportunidades para brechas de seguridad y ataques maliciosos en estos ecosistemas interconectados.