Дэвид Сакс критикует ограничения США в сфере ИИ после того, как Kimi K3 исправил уязвимости безопасности

Дэвид Сакс, глава направления по политике в области ИИ и криптовалют в Белом доме, которого называют «крипто-царём», раскритиковал защитные ограничения (guardrails) для безопасности моделей ИИ в США 19 июля в X, приведя в качестве примера китайскую модель Kimi K3. Сакс заявил, что Kimi K3 исправила 15 критически важных уязвимостей безопасности, которые отказались устранять модели Codex и Fable из США из‑за «кибер-ограждений», при этом он утверждал, что нет причин ограничивать американские модели задачами, с которыми китайские модели справляются без проблем. Критика отражает продолжающиеся споры о мерах ограничения безопасности для ИИ: ранее эксперты по кибербезопасности предупреждали в письме президенту Трампу в июне, что ограничение использования ИИ со стороны исследователей по безопасности и организаций оборонного профиля может ослабить возможности киберзащиты.

Sacks: Kimi K3 исправила уязвимости безопасности, которые блокировали модели ИИ в США

В своем посте в X от 19 июля Сакс написал: «Kimi K3 только что исправила 15 критически важных уязвимостей безопасности, которые Codex и Fable отказались исправлять из‑за “кибер-ограждений”. Нет причин ограничивать американские модели задачами, которые китайские модели решают без проблем. Мы просто делаем себя менее конкурентоспособными».

«Кибер-ограждения», применяемые к Codex и Fable, — это механизмы безопасности, предназначенные для ограничения запросов, которые могут быть использованы в злонамеренных целях, например для создания вредоносного ПО или проникновения в системы. Однако критики отмечали, что эти ограничения также урезают анализ уязвимостей безопасности и сдерживают оборонные исследования, снижая практическую полезность моделей ИИ в США.

Hugging Face перешла на китайскую GLM 5.2 после блокировки анализа guardrails у моделей из США

Сакс привел еще один пример в последующем посте: «Hugging Face попыталась использовать американские модели “frontier” для анализа кибератаки, управляемой ИИ. Но guardrails заблокировали запросы, содержащие реальные полезные нагрузки для эксплуатации (exploit), поэтому они перешли на GLM 5.2, запущенную локально».

Он заявил, что «guardrails на самом деле ухудшили оборонную безопасность», подчеркнув, что ограничения мешали законным исследованиям в области безопасности, а не повышали защиту.

Эксперты по кибербезопасности предупреждали Трампа в июне о рисках ограничений ИИ

По данным Axios, эксперты по кибербезопасности во главе с Алекcом Стамосом, бывшим главным специалистом по безопасности (Chief Security Officer) Facebook, отправили президенту Трампу открытое письмо в июне. В письме предупреждалось, что «ограничение возможностей использования ИИ для институтов, занимающихся исследованиями безопасности, и оборонных организаций может фактически ослабить возможности киберзащиты».

Эксперты отметили, что новейшие модели ИИ уже применяются по всей индустрии цифровых активов для повышения уровня безопасности: через мониторинг смарт-контрактов, анализ уязвимостей, проверку кода и пентесты.

FAQ

Что Дэвид Сакс сказал о китайской модели ИИ Kimi K3 19 июля?

Дэвид Сакс заявил в X, что Kimi K3 исправила 15 критически важных уязвимостей безопасности, которые модели ИИ из США Codex и Fable отказались устранять из‑за «кибер-ограждений». Он утверждал, что нет причин ограничивать американские модели задачами, с которыми китайские модели справляются без проблем, заявив, что США делают себя менее конкурентоспособными.

Почему Hugging Face перешла с моделей ИИ из США на китайскую GLM 5.2?

Hugging Face попыталась использовать американские модели “frontier” для анализа кибератаки, управляемой ИИ, но guardrails заблокировали запросы, содержащие реальные полезные нагрузки для эксплуатации (exploit). В результате исследовательская команда перешла на использование китайской открытой модели ИИ GLM 5.2, запущенной локально.

О чем эксперты по кибербезопасности предупреждали президента Трампа в июне?

Эксперты по кибербезопасности во главе с бывшим CSO Facebook Алексом Стамосом направили президенту Трампу открытое письмо в июне, предупредив, что ограничение использования ИИ со стороны организаций, ведущих исследования безопасности, и оборонных организаций может ослабить возможности киберзащиты. Они отметили, что в индустрии цифровых активов новейшие модели ИИ применяются для мониторинга смарт-контрактов, анализа уязвимостей, проверки кода и пентестов.