Генеральный директор Anthropic выступает против надзора и автоматического оружия, получив от Пентагона ярлык «риски цепочки поставок»

Генеральный директор компании AI Anthropic, Дарио Амодей, выступил с реакцией на Министерство обороны и Белый дом после того, как подрядчикам оборонной промышленности, работающим с Министерством обороны США, было предписано прекратить использование продуктов Anthropic.

В интервью CBS News в субботу Амодей заявил, что Anthropic выступает против использования своих моделей ИИ для массового слежения внутри страны и разработки полностью автоматического оружия, которое может быть запущено без какого-либо вмешательства человека.

Он подчеркнул, что Anthropic согласна с большинством предложений правительства США по использованию ИИ, за исключением двух областей. По словам Амодея, это важные вопросы для американского народа, включая право не подвергаться наблюдению со стороны правительства и право военных командиров самостоятельно принимать решения, связанные с войной, а не передавать полный контроль машинам.

Ранее Министерство обороны США обозначило Anthropic как «риски цепочки поставок», что означает, что военные подрядчики не могут использовать продукцию компании в рамках оборонных контрактов. Амодей назвал этот шаг «беспрецедентным» и «наказанием».

Тем не менее, генеральный директор Anthropic также пояснил, что он не полностью против разработки автоматического оружия в будущем, особенно если иностранные армии начнут внедрять такие технологии. По его мнению, текущая проблема заключается в том, что ИИ еще недостаточно надежен для полного автономного функционирования в военной среде.

Амодей отметил, что правовая база не успевает за скоростью развития отрасли ИИ, и призвал Конгресс США создать «защитные барьеры», чтобы предотвратить использование ИИ в массовом внутреннем слежении.

В связи с этим, министр обороны США Пит Хегсэт заявил в пятницу, что Anthropic представляет «риски цепочки поставок для национальной безопасности» и потребовал немедленно прекратить все коммерческие операции с компанией для всех подрядчиков, поставщиков и партнеров вооруженных сил США.

Всего через несколько часов после этого заявления, конкурент Anthropic — OpenAI — заключил контракт с Министерством обороны США на внедрение своих моделей ИИ в военную сеть.