Трамп делает резкий разворот в политике ИИ: планирует создать механизм предварительной проверки перед выпуском, непубличная модель Anthropic стала спусковым крючком

По данным мониторинга Beating, администрация Трампа, ранее выступавшая за невмешательство в развитие ИИ, меняет свою политику, обсуждая создание рабочей группы по ИИ через исполнительный указ и планируя ввести механизм предварительной государственной проверки новых моделей ИИ перед их выпуском. На прошлой неделе Белый дом сообщил руководителям Anthropic, Google и OpenAI о некоторых планах.

Прямой причиной кардинального поворота политики стало то, что в прошлом месяце Anthropic выпустила новую модель под названием Mythos. Эта модель обладает высокой способностью выявлять уязвимости программного обеспечения, что может привести к масштабной кибербезопасностной «чистке», и после оценки рисков Anthropic отказалась публиковать её для широкой аудитории. Чтобы предотвратить политическую реакцию на возможные катастрофические кибератаки ИИ, некоторые американские чиновники продвигают создание системы цензуры, требующей от правительства первоочередного доступа к новым моделям, но не препятствующей их окончательному выпуску.

Этот поворот политики сейчас продвигается руководителем аппарата Белого дома Сюзи Вайлс и министром финансов Скотом Бессентом. За этим стоит сложная взаимозависимость между правительством США и ведущими компаниями в области ИИ: в марте этого года Пентагон прекратил сотрудничество с Anthropic из-за спора о контракте на 200 миллионов долларов, после чего Anthropic подала иск против правительства США. Однако Агентство национальной безопасности (NSA) недавно продолжает использовать Mythos для оценки уязвимостей программного обеспечения правительства, а вооружённые силы США в войне против Ирана по-прежнему используют систему Maven, основанную на технологиях Anthropic. Два высокопоставленных чиновника Белого дома в прошлом месяце встретились с генеральным директором Anthropic Дарьо Амодеи, пытаясь восстановить полное использование этой технологии правительством.