Gate News: сообщение. Исследователи Google DeepMind предупреждают, что открытую интернет-среду могут использовать для захвата автономных AI-агентов и манипулирования их поведением. В отчете под названием «AI-агентные ловушки» отмечается, что при развертывании AI-агентов для выполнения реальных задач злоумышленники также могут проводить целевые атаки через сеть. Исследование выявило шесть основных рисков, включая ловушку внедрения контента, ловушку семантической манипуляции, ловушку когнитивного состояния, ловушку контроля поведения, ловушку системы и ловушку взаимодействия человека и машины.
Ловушка внедрения контента является наиболее прямой: злоумышленник может размещать инструкции в HTML-комментариях, метаданных или скрытых элементах страницы, а после того как агент их прочитает, он сможет выполнить команды. Ловушка семантической манипуляции заключается в том, что путем загрузки авторитетных формулировок или маскировки под веб-страницы исследовательской среды незаметно влияют на то, как агент понимает задачу, а иногда — даже обходят механизмы безопасности. Ловушка когнитивного состояния предполагает внедрение в источники информации агенту ложных данных, из‑за чего он в течение длительного времени ошибочно считает, что эти сведения уже подтверждены. Ловушка контроля поведения нацелена на реальные действия агента и может побуждать его получать доступ к конфиденциальным данным и передавать их внешней целевой стороне.
Системная ловушка связана с согласованной манипуляцией сразу несколькими AI-системами, что может привести к цепной реакции, аналогичной «мгновенному обвалу» рынка, вызванному алгоритмической торговлей. Ловушка взаимодействия человека и машины использует этап ручной проверки: за счет создания контента для проверки, который выглядит убедительно, вредоносные действия могут обходить надзор.
Для противодействия рискам DeepMind рекомендует сочетать противодействующее обучение, фильтрацию входных данных, мониторинг поведения и систему репутации сетевого контента, а также создать более четкую рамочную конструкцию юридической ответственности. При этом исследование отмечает, что в отрасли до сих пор нет единого стандарта защиты: существующие меры в основном разрознены и с разными акцентами. Исследование призывает разработчиков и компании уделять внимание безопасности операционной среды AI-агентов и предотвращать потенциальные риски сетевого манипулирования и злоупотреблений.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Проект Eleven предупреждает, что Q-Day может наступить уже в 2030 году — под угрозой 6,9 млн Bitcoin
Согласно средовому отчёту Project Eleven, квантовые компьютеры могут взломать современное шифрование уже к 2030 году: стартап оценивает, что 6,9 миллиона BTC на сумму более 560 миллиардов долларов при определённых условиях могут оказаться под квантовым риском.
Стартап, ориентированный на пост-квантовую безопасность
GateNews8м назад
Протокол Ekubo обворовали на $1,4 млн в WBTC через эксплойт на основе одобрений
По данным блокчейн-компании по кибербезопасности Blockaid, протокол Ekubo Protocol недавно потерял приблизительно 1,4 миллиона долларов в wrapped bitcoin (WBTC) после того, как злоумышленники использовали уязвимость в механизмах контроля доступа в контрактах EVM swap router. Злоумышленники обошли механизмы проверки платежей, чтобы вывести средства из кошельков
GateNews4ч назад
Жертвы терроризма со стороны Северной Кореи подали иск $71M против хакеров взлома Aave, добиваясь переосмысления атаки как мошенничества
Адвокаты жертв по трём делам о терактах, связанным с Северной Кореей, во вторник подали 30-страничный ответ, переосмыслив апрельский взлом Aave от 18 апреля как мошенничество, а не кражу — юридическое различие, которое может дать нападавшим право на похищенные в кредит криптоактивы. Жертвы стремятся вернуть приблизительно $71 mi
GateNews7ч назад
Крипто-кит подаёт в суд на Coinbase из-за замороженных $55M средств, украденных в DAI
Анонимный крипто-кит, которого идентифицировали как «D.B.», в понедельник подал иск против Coinbase и предполагаемого вора из-за отказа биржи вернуть замороженные средства, связанные с кражей криптовалюты в августе 2024 года, согласно материалам судебного дела. Истец потерял примерно на сумму 55 миллионов долларов DAI в инциден
CryptoFrontier7ч назад
Bitcoin Core раскрывает уязвимость, которая может позволить майнерам крашить ноды
Разработчики Bitcoin Core раскрыли баг высокой критичности, который мог позволить майнерам удалённо уронить некоторые ноды Bitcoin.
Краткое содержание
Bitcoin Core раскрыл CVE-2024-52911, затрагивающий версии до 29.0, при этом более старые ноды всё ещё были доступны в сети.
Майнерам требовались дорогие блоки proof-of-work, чтобы запустить
Cryptonews9ч назад
Война за контроль над приговором по атаке со стороны КНДР: $71 млн замороженных активов Aave — ссылаются на закон о противодействии терроризму
Рост эскалации вокруг атаки Северной Кореи: замороженные активы на 71,00 млн долларов в Aave переходят в третий раунд. Истцы изменили стратегию и через закон TRIA утверждают, что ETH относится к государственным активам Северной Кореи, подчеркивая мошенничество, а не кражу, чтобы обойти довод о том, что «вор не владеет похищенным имуществом». Одновременно они оспаривают standing и руководящую роль Aave. DeFi United привлекла более 328 млн долларов, средств достаточно для компенсации затронутым пользователям. Дело может стать ключевым прецедентом для правовой практики DeFi и DAO-управления.
ChainNewsAbmedia11ч назад
