Ограничение Anthropic для доступа Claude к Mythos, ИИ обнаружил критические уязвимости, такие как OpenBSD

Новости Gate News: компания искусственного интеллекта Anthropic объявила о том, что ограничивает доступ к своему новому ИИ-системе Claude Mythos Preview. Причина заключается в том, что на ранних этапах тестирования система обнаружила тысячи критических уязвимостей в программном обеспечении. Mythos Preview способен выявлять недостатки безопасности в популярных операционных системах, сетевых браузерах и криптографических стандартах, что усилило внимание отрасли к потенциальным рискам и масштабируемости ИИ-технологий.

Anthropic заявила, что среди уязвимостей, которые модель обнаружила, есть многие, которые долгие годы оставались невыявленными, включая уязвимость в OpenBSD, существующую 27 лет, дефект в FFmpeg, длящийся 16 лет, уязвимость удалённого выполнения кода в FreeBSD, сохранявшуюся 17 лет, а также несколько проблем безопасности в ядре Linux. Кроме того, слабые места есть и в криптографических протоколах, таких как TLS, AES GCM и SSH. В веб-приложениях также встречаются типичные уязвимости вроде XSS, SQL-инъекций и CSRF. Компания подчеркнула, что 99% обнаруженных уязвимостей ещё не исправлены, а преждевременное раскрытие деталей может привести к серьёзным рискам.

Согласно данным отрасли, прогнозируется, что интернет-атаки, движимые ИИ, вырастут на 72% в годовом исчислении, и к 2025 году 87% организаций по всему миру могут столкнуться с угрозой ИИ-атак. Anthropic отметила, что способность ИИ выявлять нулевые уязвимости с одной стороны может ускорить защиту ПО, а с другой — если это попадёт в руки злоумышленников, сохраняется риск злоупотреблений. Это делает крайне актуальным вопрос о том, как безопасно развёртывать и контролировать подобные технологии.

Anthropic планирует совместно с партнёрами устранять существующие уязвимости, а также снижать потенциальные риски, связанные с более широким развёртыванием. Компания считает, что в долгосрочной перспективе ИИ усилит безопасность глобальной сетевой инфраструктуры и сделает программное обеспечение более надёжным, но переходный период остаётся полным вызовов. Ограниченная политика доступа для Mythos Preview показывает, что предприятия осторожно балансируют между технологическими инновациями и мерами защиты, чтобы предотвратить потенциальные злоупотребления.

Эксперты отмечают, что открытия Claude Mythos могут повлиять на будущие практики безопасности программного обеспечения, ускорив эффективность выявления и устранения уязвимостей, одновременно подчёркивая, что система глобальной сетевой защиты всё ещё нуждается в дальнейшем укреплении, чтобы противостоять новым типам угроз, которые несут ИИ-технологии.