Google подал иск против Outsider Enterprise — базирующейся в Китае киберпреступной сети, которую обвиняют в организации фишинговой операции с ИИ. По версии компании, атаки были нацелены на пользователей Android через SMS-сообщения и фейковые сайты. В иске утверждается, что группа использовала ИИ Gemini от Google для создания мошеннических веб-страниц, выдававших себя за Google, YouTube и госорганы, а также работала по модели фишинга как услуги (phishing-as-a-service) через Telegram. Google заявляет, что сеть была связана с 9 000 фейковых сайтов, более чем 1 миллионом мошеннических URL и 2,5 миллионами текстовых сообщений, отправленных пользователям Android, при этом около 55 000 спам-сообщений было отмечено за двухнедельный период в мае. Это первый случай, когда Google предпринял прямые юридические действия против группы, обвиняемой в использовании Gemini в рамках мошеннического сценария. Иск подчеркивает переход от абстрактных опасений злоупотреблений ИИ к документированным операциям мошенничества: генеративные ИИ-инструменты снижают технические барьеры для преступников, стремящихся масштабировать фишинговые кампании.
Outsider Enterprise Вела фишинг как услугу через Telegram
Google заявил, что группа действовала через Telegram и предлагала инструменты фишинга преступникам, которым не требовались продвинутые технические навыки. По версии обвинения, сеть предоставляла инструкции по использованию Gemini AI от Google для создания мошеннических веб-сайтов, имитирующих Google, YouTube и госорганы, включая систему E-ZPass в штате Нью-Йорк.
Google утверждает, что группа предлагала почти 300 мошеннических шаблонов и была связана с 9 000 фейковых сайтов и более чем 1 миллионом мошеннических URL. Кампания привела к тому, что более 2,5 миллиона текстовых сообщений были отправлены пользователям Android, включая примерно 55 000 спам-сообщений, отмеченных за двухнедельный период в мае.
Сообщения часто предупреждали пользователей о проблемах с аккаунтом, ошибках с посылками, платежах за платные дороги или других срочных претензиях. Жертвам, которые переходили по ссылкам, отправляли на фейковые сайты, сделанные под правдоподобные, где злоумышленники пытались похитить персональные данные, банковские реквизиты и платежные учетные данные.
Предполагаемое использование Gemini AI для генерации мошеннических сайтов в масштабе
Предполагаемое использование генеративного ИИ меняет экономику фишинга. Мошеннические страницы, которые раньше требовали ручной дизайнерской работы, теперь можно создавать быстрее, адаптировать под разные бренды и развертывать с помощью готовых шаблонов. Это снижает барьер для менее технически подкованных преступников и позволяет мошенническим сетям масштабировать кампании на тысячи URL.
Для технологических компаний это дело также высвечивает сложное продуктовое противоречие. ИИ-системы создаются, чтобы следовать инструкциям и выдавать тщательно оформленные результаты, но те же возможности могут быть использованы для создания убедительных фейковых сайтов, сообщений службы поддержки и страниц с подменой бренда. Более сильные оградительные меры (guardrails) могут уменьшить злоупотребления, но атакующие часто ищут обходные пути — косвенные подсказки, повторное использование шаблонов или внешние рабочие процессы, которые обходят обнаружение.
Google Координирует действия с ФБР и операторами связи, чтобы блокировать вредоносные сообщения
Google заявил, что работает с киберподразделением ФБР в рамках параллельного уголовного расследования, а также согласовал с AT&T, Verizon и T-Mobile меры по блокировке вредоносных SMS-сообщений, связанных с этой кампанией.
Компания также указала на собственные продуктовые защиты. Google сказал, что его инструменты для сообщений перехватывают более 10 миллиардов вредоносных сообщений каждый месяц, а детектирование мошенничества на Android может отмечать подозрительные звонки и контакты в реальном времени. Эти меры могли ограничить число успешно проведенных фишинговых попыток, хотя Google не оценивал, сколько денег было украдено в ходе кампаний Outsider Enterprise.
Проблема в том, что операторы группы остаются неустановленными. Даже если личности будут позже выяснены, преследование усложняется, когда предполагаемые исполнители находятся вне Соединенных Штатов. Google может преследовать фейковые домены, аккаунты в Telegram, инфраструктуру хостинга и связанные активы, но базовая операция может переключиться на новые бренды, новые домены или новые каналы доставки.
«Преступники все чаще используют ИИ, чтобы делать подобное мошенничество более убедительным и сложным для обнаружения», — заявил Бретт Лезерман из киберподразделения ФБР.
Google Поддерживает федеральное законодательство, нацеленное на мошенничество с ИИ-помощью
Google использует иск, чтобы возобновить поддержку федерального законодательства, направленного на мошенничество с ИИ-помощью, манипуляции рынком и повышение информированности общественности. Компания поддержала несколько инициатив с участием представителей разных партий, включая National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act и Stop SCAMS Against Seniors Act.
Большая часть предлагаемого законодательства будет направлять федеральные агентства на более тесную координацию по борьбе с мошенничеством, использующим ИИ, на создание целевых групп или на улучшение публичного образования по вопросам вредоносного применения ИИ. Такой подход отражает растущее мнение, что предотвращение мошенничества нельзя обеспечивать только через модерацию частных платформ или через иски после факта.
Более широкая проблема политики заключается в том, что мошеннические схемы, генерируемые ИИ, будут сложнее распознавать по мере улучшения моделей. Кампании по информированию пользователей могут помочь им узнавать распространенные приемы, но атакующие, вероятно, будут продолжать совершенствовать сообщения, страницы и техники выдачи себя за других. В итоге крупным технологическим компаниям приходится сталкиваться с двойной нагрузкой: создавать ИИ-продукты, которые люди хотят использовать, и при этом не допускать превращения этих же инструментов в инфраструктуру для мошенничества промышленного масштаба.
FAQ
В чём Google обвиняет Outsider Enterprise?
Google обвинил Outsider Enterprise — киберпреступную сеть, базирующуюся в Китае, — в ведении фишинговой операции с ИИ, где использовался Gemini AI от Google для создания фейковых сайтов, выдающих себя за Google, YouTube и госорганы. Как утверждается, группа действовала по модели фишинга как услуги через Telegram, предоставляя преступникам почти 300 мошеннических шаблонов. Google сообщил, что сеть была связана с 9 000 фейковых сайтов, более чем 1 миллионом мошеннических URL и 2,5 миллионами текстовых сообщений, отправленных пользователям Android.
Как Google работает над тем, чтобы нарушить работу фишинговой операции?
Google заявил, что работает с киберподразделением ФБР в рамках параллельного уголовного расследования, а также согласовал с AT&T, Verizon и T-Mobile меры по блокировке вредоносных SMS-сообщений, связанных с кампанией. Компания также отметила, что ее инструменты для сообщений перехватывают более 10 миллиардов вредоносных сообщений каждый месяц, а детектирование мошенничества на Android может отмечать подозрительные звонки и контакты в реальном времени. Google добивается пресечения фейковых доменов, аккаунтов в Telegram и инфраструктуры хостинга, связанной с сетью.
Какие федеральные законопроекты поддерживает Google, чтобы бороться с мошенничеством с ИИ-помощью?
Google поддержал несколько инициатив с участием представителей разных партий, включая National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act и Stop SCAMS Against Seniors Act. Большая часть предлагаемого законодательства будет направлять федеральные агентства на более тесную координацию по борьбе с мошенничеством, использующим ИИ, на создание целевых групп или на улучшение публичного образования по вопросам вредоносного применения ИИ.
