Gate News сообщение, 10 апреля, основатель Solayer @Fried_rice в посте в социальных сетях раскрыл серьезную уязвимость в цепочке поставок больших языковых моделей (LLM). Исследование указывает, что LLM-агенты все чаще полагаются на сторонние маршрутизаторы API, которые распределяют запросы на вызов инструментов между несколькими поставщиками выше по цепочке; эти маршрутизаторы работают как прокси на уровне приложений и могут в виде открытого текста получать доступ к JSON-пейлоадам в каждой передаче, но на данный момент ни один поставщик не обеспечивает принудительное применение защиты целостности шифрованием между клиентом и вышестоящей моделью.
В работе протестировали 28 платных маршрутизаторов, купленных на Taobao, Xianyu и независимых сайтах Shopify, а также 400 бесплатных маршрутизаторов, собранных из открытого сообщества. Результаты показали, что 1 платный маршрутизатор и 8 бесплатных маршрутизаторов активно внедряют вредоносный код, 2 внедрили адаптивные механизмы обхода триггеров, 17 затронули AWS Canary-креденшелы, которыми владели исследователи, а еще 1 украл ETH из приватного ключа, принадлежащего исследователям.
Два исследования по отравлению дополнительно показывают, что даже на первый взгляд безобидные маршрутизаторы также можно использовать: утекший ключ OpenAI был применен для генерации 100 миллионов GPT-5.4 token и более 7 Codex-сессий; а слабо настроенный приманочный вариант привел к появлению 2 миллиардов биллинговых token, 99 учетных данных, охватывающих 440 Codex-сессий, и 401 сессии, которые работали в автономном режиме YOLO.
Исследовательская команда создала исследовательского агента под названием Mine, который может выполнить все четыре типа атак на четырех публично доступных фреймворках для агентов, и проверила три типа клиентских защит: стратегия отказоустойчивого блокирования с гейтингом, скрининг аномалий на стороне ответа и ведение только аппендабельных прозрачных логов.
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Северокорейская террористическая атака: держателей обвинили в удержании 71,00 млн долларов Kelp DAO ETH: на Arbitrum «массовое вмешательство» обернулось юридическим основанием для ареста
В Южном федеральном суде Нью-Йорка 1 мая был вынесен ордер на арест, запрещающий до раздельного слушания распорядиться 30,766 ETH (примерно на сумму 71 млн долларов США), предназначенными для программы компенсаций DeFi United. Источник ETH — взлом кроссчейн-моста в деле KelpDAO за апрель: после заморозки со стороны Комитета по безопасности Arbitrum эти средства были включены в управление DAO; компенсации финансируются за счет сборов, в том числе от Aave. Истец утверждает, что хакер связан с северокорейской Lazarus Group, а суд распорядился определить это уже после раздельного слушания.
ChainNewsAbmedia34м назад
Пользователи Wasabi Protocol теперь могут безопасно вывести оставшиеся средства
Согласно Wasabi Protocol, пользователи теперь могут безопасно взаимодействовать с смарт-контрактом протокола, чтобы вывести оставшиеся средства. Команда заявила, что продолжает расследовать инцидент по безопасности и поделится дальнейшими обновлениями с сообществом, как только условия
GateNews3ч назад
PolyArb отмечен как фейковый прогнозный рынок с кодом для вывода средств из кошелька
По данным ончейн-детектива ZachXBT, PolyArb — мошеннический продукт рынка предсказаний, встраивающий на своём сайте код для вывода средств с кошельков. Также аккаунт проекта участвовал в спорных ответах под постами авторитетных платформ рынка предсказаний, чтобы привлечь трафик и заманить пользователей, а
GateNews4ч назад
Протокол Bisq подвергся атаке: 11 BTC похищены 4 мая; план компенсации вынесен на голосование в DAO
По данным Bisq, протокол был атакован 4 мая из-за отсутствия механизмов проверки, в результате чего было похищено примерно 11 BTC, преимущественно с альткоиновых сделок. Платформа обсуждает варианты компенсации для пострадавших пользователей, которые могут выбрать возмещение в биткоинах или токенах BSQ p
GateNews4ч назад
$292M Крипто-взлом раскрывает уязвимости безопасности в DeFi, вызывает призывы к реформам в отрасли
Согласно CoinDesk, хак на сумму 292 миллиона долларов с криптовалютами в этом году выявил существенные уязвимости безопасности в DeFi-протоколах, побудив представителей отрасли призвать к реформам в риск-менеджменте и рыночной структуре на фоне того, что традиционные финансы все чаще переходят onchain.
GateNews5ч назад
Paradigm предлагает дизайн квантовой защиты Bitcoin для доказательства контроля ключей
Венчурный фонд Paradigm предложил новый дизайн, который, согласно предложению, позволил бы владельцам криптовалюты приватно ставить временную метку под доказательством того, что они контролируют уязвимые ключи, прежде чем появятся квантовые компьютеры. Этот дизайн предназначен для создания возможного пути спасения, если Bitcoin когда-либо перестанет поддерживать старые системы
CryptoFrontier6ч назад
