Безпека AI-агентів потребує системного захисту: Google і Meta попереджають

Дослідники безпеки з Google і Meta попереджають, що автономним AI-агентам потрібні всеохопні (системні) оборонні архітектури, аби протидіяти новим ризикам безпеки. Експерти застерігають, що лише традиційних інструментів кібербезпеки недостатньо для захисту від загроз, які створюють AI-агенти, здатні зберігати пам’ять, викликати зовнішні інструменти, координуватися з іншими агентами та працювати безперервно без прямого людського нагляду. Занепокоєння пов’язане з швидким впровадженням AI-агентів у компаніях у робочі процеси, зокрема пов’язані з платежами, клієнтською підтримкою, розробкою коду, кібербезпекою та фінансовими операціями. На відміну від попередніх чатбот-подібних систем, агентний AI додає системи стійкої пам’яті, виконання інструментів і автономні робочі процеси, що формують нові поверхні атак. Збої безпеки в цих взаємопов’язаних системах рідко залишаються ізольованими: скомпрометовані інструкції або зловмисні введення можуть поширюватися через кілька рівнів, перш ніж стати помітними назовні.

Security Gaps in AI Agent Systems

A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across multiple layers of autonomous systems over time. The risk is particularly acute in financial services, where AI agents are increasingly deployed for payments, fraud monitoring, trading operations, and customer account management.

In a recent incident, Bankr, an AI-powered crypto trading assistant, disabled transactions on May 20 after identifying an attacker who had gained access to at least 14 wallets. Security experts speculated the bot could have been exploited by a hacker.

Keyrock reported that AI agents processed $73 million in crypto payments between 2025 and 2026, demonstrating the scale of autonomous AI deployment in financial workflows.

Researchers emphasize that agent security must be approached as a systems problem, treating the AI model powering the agent as an untrusted component. Security experts are proposing methods to intercept attacks as they move through interconnected AI-agent systems rather than relying solely on front-end filters or prompt moderation.

Google і Meta розширюють екосистеми агентного AI

Нещодавно Google представила Gemini Spark — AI-допомагача, який працює постійно (always-on) і здатен взаємодіяти з інструментами Workspace, хмарними системами та сторонніми платформами. Компанія інтегрує AI-агенти глибше в Chrome, Gmail, Search і системи Android.

Meta готує агентні AI-допомагачі, здатні виконувати персоналізовані завдання на її платформах соціальних мереж і месенджерів. Фахівці з безпеки попереджають, що дедалі автономніші системи створюють більше можливостей для порушень безпеки та зловмисних атак у цих взаємопов’язаних екосистемах.