Согласно исследователям из Nanyang Technological University, ST Engineering, IBM Research и Университета Иллинойса в Урбана-Шампейн, AI-агенты, работающие на GPT-5 и Gemini, не могут стабильно противостоять атакам через prompt injection; это показало исследование, опубликованное в четверг.

В 3 168 симуляциях атак прямые атаки через prompt injection успешно срабатывали более чем в 79% случаев, а косвенные атаки, встроенные в веб-контент, достигали показателей успешности в диапазоне от 41,67% до 68,16%. Исследователи разработали StakeBench — бенчмарк для проверки ответов AI-агентов на такие атаки в реалистичной онлайн-среде — и отметили, что prompt injection по-прежнему остается критической уязвимостью, поскольку AI-агенты становятся массовыми для веб-серфинга, исследований, покупок и торговли криптовалютой.

Посмотреть источник

Дисклеймер: Информация на этой странице может быть получена из источников третьих сторон и предоставляется только для ознакомления. Она не отражает взгляды или мнения Gate и не является финансовой, инвестиционной или юридической рекомендацией. Торговля виртуальными активами связана с высоким риском. Пожалуйста, не основывайте свои решения исключительно на данных этой страницы. Подробнее смотрите в Дисклеймере.

Связанные новости

12ч назад

Fable 5 провалила все самые сложные задачи в экзамене UC Berkeley ALE и обходится в 4–12 раз дороже, чем конкуренты

17ч назад

Douyin запускает AI-агента против кибербуллинга и расширяет выявление пользователей из группы риска на 91,5%

21ч назад

Morgan Stanley видит суперцикл чипов памяти, который продлится намного дольше конца 2026 года, благодаря спросу со стороны ИИ

06-11 11:12

Глава Immunefi: всплеск уязвимостей в кибербезопасности криптовалют связан с ИИ-моделями

06-11 07:52

53% американцев опасаются, что ИИ угрожает их рабочим местам — опрос Reuters/Ipsos за июнь 2026 года показывает

Детальный анализ