CertiK запускает AI-сканер навыков для безопасности агентов

• CertiK запустил Skill Scanner – продукт безопасности для проверки сторонних AI-навыков перед их использованием AI-агентами.
• Инструмент нацелен на такие риски, как скрытое вредоносное поведение, несанкционированный доступ к данным и автономное выполнение в средах Web3 и Web2.

CertiK углубляется в безопасность искусственного интеллекта с запуском CertiK Skill Scanner – продукта, предназначенного для проверки сторонних AI-навыков перед их установкой, публикацией или одобрением к использованию в корпоративных системах. Компания описывает инструмент как нечто близкое к антивирусному слою для эпохи AI-агентов. Сравнение не идеально, но оно передаёт суть. AI-агенты больше не просто отвечают на вопросы в окне чата. Они начинают вызывать внешние инструменты, читать файлы, запускать рабочие процессы, перемещать данные между системами и, в более чувствительных случаях, взаимодействовать с финансовой инфраструктурой. Это меняет уравнение безопасности. Плохое расширение браузера уже может быть опасным. Плохой AI-навык, подключённый к автономному агенту, может быть ещё хуже, потому что агент может выполнять действия на скорости и в контексте, который пользователь не видит полностью. AI-навыки создают новый риск выполнения AI-навыки становятся плагинами экономики агентов. Они расширяют возможности AI-агента: от извлечения данных и автоматизации задач до выполнения финансовых действий и взаимодействия с протоколами Web3. Однако каждый дополнительный навык также создаёт ещё одну точку, где что-то может пойти не так. Этот риск не ограничивается очевидными вредоносными программами. Навык может запрашивать больше данных, чем ему нужно, вести себя во время выполнения иначе, чем при проверке, инициировать несанкционированные вызовы API или незаметно создавать условия для последующего неправомерного использования. В финансовой среде опасения становятся ещё более острыми. Инструмент, который может инициировать вызовы средств, подписывать запросы рабочего процесса или подготавливать транзакции, требует иного уровня проверки, чем простой плагин для повышения производительности. CertiK заявил, что Skill Scanner предназначен для выявления скрытого вредоносного поведения, несанкционированного доступа к данным и рисков выполнения до того, как будут затронуты чувствительные системы. В отличие от более широких инструментов сканирования AI, компания утверждает, что её продукт сосредоточен на рисках, которые могут возникнуть во время фактического выполнения, включая случаи, связанные с движением средств и финансовыми транзакциями. Ронгуй Гу, генеральный директор и сооснователь CertiK, заявил, что модель безопасности вокруг сторонних навыков становится всё более важной по мере того, как AI-агенты проникают в финансовые системы, корпоративные рабочие процессы и повседневные цифровые сервисы.

«CertiK Skill Scanner был создан для создания стандартизированного доверительного уровня перед выполнением, помогая пользователям и платформам выявлять скрытые риски до того, как конфиденциальные данные, активы или системы будут раскрыты», — сказал Гу.

Маркетплейсы, предприятия и разработчики – первые в очереди Первые целевые группы — это маркетплейсы AI-навыков, предприятия и разработчики. Маркетплейсы могут интегрировать сканер в свои издательские конвейеры, чтобы навыки проверялись до публикации. Они также могут отображать вердикты CertiK как индикаторы доверия для пользователей, решающих, устанавливать ли сторонний навык. Для предприятий сценарий использования носит более защитный характер. Компаниям, тестирующим AI-агентов внутри компании, нужен способ оценивать сторонние навыки до того, как они попадут в производственные среды или коснутся данных клиентов, внутренних систем или рабочих процессов, чувствительных к соблюдению нормативных требований. Именно здесь полезным становится процесс проверки с оценкой. Он даёт командам безопасности нечто более конкретное, чем заявление вендора или описание разработчика. Независимые разработчики также могут использовать сканер для самостоятельного аудита навыков перед публикацией. CertiK заявил, что будущие обновления расширят прямой доступ для обычных пользователей, позволяя им самостоятельно сканировать навыки перед установкой или использованием. Сканер выдаёт оценку от 0 до 100, а также вердикты «пройдено», «предупреждение» или «не пройдено» и ограниченный список находок, сгруппированных по степени серьёзности. CertiK утверждает, что система достигает до 90,5% точности при выявлении угроз безопасности, с целью снижения ложных срабатываний и повышения надёжности оценки AI-навыков. Продукт уже внедрён в отдельных средах инфраструктуры AI-агентов Web3. CertiK также работает над интеграциями с дополнительными платформами AI-навыков, включая FinChip.ai. Запуск следует за более широким расширением CertiK в инфраструктуру безопасности, ориентированную на AI, после того как компания представила свою инициативу AI Auditor ранее в этом году. Для фирмы, наиболее известной аудитами Web3, этот шаг является логическим продолжением. Поскольку AI-агенты начинают обрабатывать код, активы, разрешения и бизнес-процессы, проверки безопасности должны проводиться до выполнения, а не после того, как система уже была скомпрометирована.