Мы скучаем по нему? Китайские чиновники используют ChatGPT как дневник, случайно раскрывая международные репрессии и кампании по дискредитации госсенатора Масаэ Такаэми

Китайские чиновники используют ChatGPT как дневник, что случайно раскрывает секретные операции по международному подавлению и дискредитации японского премьер-министра Сая Масао. В отчёте OpenAI отмечается, что этот сотрудник также собирал информацию о политике и экономике США и спрашивал о технологиях смены лица, что подчеркивает угрозы информационной войны в эпоху ИИ.

Китайские чиновники используют ChatGPT как дневник, случайно раскрывая международную информационную войну

Если вы рассказываете ИИ всё, что происходит, есть риск утечки государственных секретов? В ходе международной кампании по подавлению и дискредитации японского премьер-министра Сая Масао один из китайских правоохранителей случайно раскрыл свои действия, используя ChatGPT.

Согласно последнему отчёту OpenAI, этот сотрудник использовал ChatGPT как дневник, подробно фиксируя секретные операции по подавлению. В записях в ChatGPT указано, что китайские операторы якобы маскировались под американских иммиграционных чиновников, предупреждая китайских диссидентов, проживающих в США, что их публичные высказывания уже нарушают закон.

В другом случае он описал попытку использования поддельных документов американского окружного суда для требования удалить аккаунты диссидентов в соцсетях.

Кроме того, этот сотрудник просил ChatGPT подготовить многоэтапный план, намереваясь разжечь в интернете гнев по поводу американских тарифов на японские товары, чтобы дискредитировать будущего премьер-министра Японии Сая Масао.

По словам OpenAI, ChatGPT отказался выполнять эту команду. Но когда в конце октября Сая Масао вступил в должность, на популярном форуме, любимом японскими создателями контента, всё же появились теги с критикой в её адрес и жалобы на американские тарифы.

Источник: Flickr, Focal Foto制作 Китайские чиновники используют ChatGPT как дневник, что случайно раскрывает международную информационную войну

Китайские чиновники используют ChatGPT для сбора информации о американских государственных структурах

В отчёте OpenAI говорится, что при запросах о связанных с США организациях ChatGPT предоставлял открытые источники информации о расположении федеральных офисов США, распределении федеральных служащих по штатам, а также о профессиональных форумах и сайтах поиска работы в американской экономике и финансовой индустрии.

Затем китайские правоохранители отправляли англоязычные электронные письма американским штатным чиновникам и аналитикам по бизнесу и финансам, приглашая их участвовать в платных консультациях и предоставлять стратегические рекомендации своим клиентам.

Эти письма обычно содержали просьбы перевести диалог на другие платформы видеоконференций, такие как WhatsApp, Zoom или Teams. Один из аккаунтов даже загрузил технические характеристики, запрашивая пошаговые инструкции по установке программного обеспечения для смены лица FaceFusion.

Усиление технологического противостояния США и Китая, давление со стороны Пентагона

Публикация отчёта OpenAI совпала с критическим моментом в борьбе США и Китая за лидерство в области ИИ. Применение этой технологии на полях сражений и в руководствах крупнейших мировых экономик станет ключевым фактором в будущем.

Министерство обороны США сейчас ведёт переговоры с разработчиком Claude — компанией Anthropic — о способах использования их ИИ-моделей, и эти переговоры зашли в тупик.

Министр обороны Пит Хегсэт заявил руководителю Anthropic Дарио Амодзи в пятницу, что требует отменить ограничения по безопасности ИИ-моделей, иначе рискует потерять прибыльные контракты с Пентагоном.

Бывший высокопоставленный сотрудник Пентагона, Михаил Хоровиц, заявил CNN, что отчёт OpenAI ясно показывает, что Китай активно использует инструменты ИИ для усиления кибер-информационной войны.

OpenAI пока не обнаружила автоматизированных кибератак, угрозы от злоумышленников используют разные ИИ

По данным «CyberScoop», в ходе пресс-конференции OpenAI заявила, что на данный момент не зафиксировано случаев автоматизированных кибератак с использованием ChatGPT злоумышленниками, однако компания продолжает расследование.

В некоторых случаях очевидно, что ChatGPT — лишь один из множества ИИ-инструментов, используемых злоумышленниками.

Например, в отчёте китайских правоохранительных органов о состоянии информационной войны упоминалось использование таких китайских ИИ-моделей, как DeepSeek, и предположительно, другой модели для подготовки дискредитационных кампаний против Сая Масао.

Дополнительная информация:
Китайские хакеры начали масштабную кибератаку с помощью ИИ! Anthropic: скорость и масштаб ИИ-хакеров уже превзошли человеческих