Anthropic стверджує про дистиляційну кампанію, пов'язану з Alibaba, проти Claude AI

Anthropic заявила, що оператори, пов'язані з Alibaba, провели найбільшу відому кампанію дистиляції моделі ШІ проти її чатбота Claude у листі від 10 червня до лідерів Комітету Сенату з банківської справи. Компанія стверджувала, що оператори, пов'язані з Alibaba та її лабораторією Qwen AI, згенерували понад 28,8 мільйона обмінів із Claude між 22 квітня та 5 червня, використовуючи майже 25 тис. фіктивних акаунтів. Anthropic представила зусилля з дистиляції як питання національної безпеки, яке може прискорити військові та кібернетичні можливості ШІ Китаю. Лист надійшов на тлі активізації зусиль Вашингтона щодо захисту лідерства США у сфері ШІ через розширені ініціативи з кібербезпеки та експортний контроль.

Anthropic стверджує, що 28,8 мільйона обмінів з Claude використано в кампанії дистиляції

У листі від 10 червня до голови Комітету Сенату з банківської справи, житлового будівництва та міських справ Тіма Скотта та старшої членкині комітету від меншості Елізабет Воррен Anthropic заявила, що фіктивні акаунти не представляли реальних, органічних користувачів. Компанія повідомила, що операції були спрямовані на агентне міркування, програмну інженерію та довгострокові можливості планування Claude, дозволяючи конкурентам відтворювати передову поведінку моделі без витрат на навчання граничної системи ШІ.

"Окрім свого масштабу, ця кампанія вражала своєю зухвалістю", — написала Anthropic. "Alibaba зареєстрована на Нью-Йоркській фондовій біржі, веде бізнес-операції в США та підзвітна американським інвесторам і регуляторам".

Anthropic заявила, що кампанія вийшла за рамки питань інтелектуальної власності, представляючи масштабну дистиляцію моделей як питання національної безпеки. "Коли лабораторії КНР дистилюють ці можливості з американських моделей, вони отримують прибуток від американських інвестицій, не беручи на себе витрати чи ризики, пов'язані з навчанням граничних моделей ШІ", — написала Anthropic. "Це перевертає економічну логіку, яка підтримує американське лідерство в ШІ, перетворюючи дослідження та розробки вартістю мільярди доларів, обчислювальні потужності та інші американські інвестиції на субсидію для наших конкурентів".

Лист розвиває твердження Anthropic від лютого про те, що китайські розробники ШІ DeepSeek, Moonshot AI та MiniMax згенерували понад 16 мільйонів обмінів з Claude, використовуючи приблизно 24 тис. фіктивних акаунтів.

Anthropic закликає Конгрес розширити експортний контроль та обмін розвідданими

Anthropic закликала законодавців розширити обмін розвідданими між розробниками граничних систем ШІ та урядом США, уточнити антимонопольні правила, щоб дозволити ШІ-компаніям обмінюватися інформацією про атаки дистиляції, посилити експортний контроль на передові чіпи ШІ та обчислювальні потужності, закрити лазівки, які дозволяють китайським фірмам отримувати доступ до закордонних дата-центрів, і запровадити санкції проти компаній, відповідальних за масштабне вилучення моделей.

Речник Anthropic сказав Decrypt: "Ми вважаємо, що боротьба з загрозою незаконної дистиляції потребує скоординованих дій між урядом та промисловістю, і ми продовжуватимемо працювати з Конгресом та адміністрацією для підтримки американського лідерства в ШІ".

Лист надійшов на тлі розгляду законодавцями законопроєкту, спрямованого на несанкціонований доступ до передових моделей ШІ США. Раніше цього місяця президент Дональд Трамп підписав указ про розширення ініціатив з кібербезпеки на основі ШІ після затримки заходу через побоювання, що він може послабити конкурентну позицію Америки щодо Китаю.

Індустріальна дискусія щодо практик дистиляції моделей ШІ посилюється

Звинувачення викликали критику з боку спостерігачів, які стверджували, що ШІ-компанії покладаються на подібні методи під час навчання власних систем. Anthropic заперечила, що звичайна дистиляція є законним методом для створення менших, дешевших моделей, тоді як несанкціоноване вилучення можливостей граничних моделей через фіктивний доступ порушує її умови обслуговування.

У квітні Ілон Маск свідчив у федеральному суді, що xAI "частково" використовував моделі OpenAI під час навчання Grok, підкреслюючи, що дистиляція є усталеною практикою в індустрії — навіть якщо компанії сперечаються, де закінчується легітимне навчання моделі і починається несанкціоноване вилучення моделі.

FAQ

Що заявила Anthropic у своєму листі до Конгресу від 10 червня? Anthropic заявила, що оператори, пов'язані з Alibaba, провели найбільшу відому кампанію дистиляції моделі ШІ проти її чатбота Claude, згенерувавши понад 28,8 мільйона обмінів між 22 квітня та 5 червня, використовуючи майже 25 тис. фіктивних акаунтів.

Чому Anthropic вважає дистиляцію моделі ШІ питанням національної безпеки? Anthropic представила масштабну дистиляцію моделей як питання національної безпеки, оскільки це може прискорити військові та кібернетичні можливості ШІ Китаю, водночас звужуючи технологічну перевагу США. Компанія заявила, що дистиляція дозволяє конкурентам отримувати прибуток від американських інвестицій без витрат на навчання граничних моделей ШІ.

Які зміни в політиці рекомендує Anthropic Конгресу? Anthropic закликала законодавців розширити обмін розвідданими між розробниками ШІ та урядом США, уточнити антимонопольні правила, щоб дозволити обмін інформацією про атаки дистиляції, посилити експортний контроль на передові чіпи ШІ, закрити лазівки, які дозволяють китайським фірмам отримувати доступ до закордонних дата-центрів, і запровадити санкції проти компаній, відповідальних за масштабне вилучення моделей.