Google подала позов проти Outsider Enterprise, кіберзлочинної мережі з Китаю, яку звинувачують у керуванні фішинговою операцією з підтримкою ШІ, що націлювалася на користувачів Android через текстові повідомлення та підроблені сайти. Компанія стверджує, що група використовувала ШІ Gemini від Google, щоб створювати шахрайські вебсайти, які видавали себе за Google, YouTube та державні установи, працюючи в моделі фішингу як послуги через Telegram. Google заявила, що мережа була пов’язана з 9 тис. фейкових вебсайтів, понад 1 млн шахрайських URL-адрес і 2,5 млн текстових повідомлень, надісланих користувачам Android, причому приблизно 55 тис. спам-повідомлень було позначено під час дворитижневого періоду в травні. Це перша справа, у якій Google вжила прямі юридичні дії проти групи, яку звинувачують у використанні Gemini як частини шахрайського сценарію. Позов підкреслює зсув від абстрактних побоювань щодо зловживань ШІ до задокументованих операцій з шахрайством, адже інструменти генеративного ШІ знижують технічні бар’єри для злочинців, які хочуть масштабувати фішингові кампанії.
Outsider Enterprise Працювала з фішингом як послугою через Telegram
Google заявила, що група діяла через Telegram і пропонувала інструменти фішингу як послуги злочинцям, яким не потрібні були передові технічні навички. Згідно з твердженнями, мережа надавала інструкції щодо використання Gemini AI від Google для створення шахрайських сайтів, які імітували Google, YouTube та державні установи, зокрема систему E-ZPass у Нью-Йорку.
Google заявила, що група пропонувала майже 300 шахрайських шаблонів і була пов’язана з 9 тис. фейкових вебсайтів та більш ніж 1 млн шахрайських URL-адрес. Кампанія призвела до відправлення понад 2,5 млн текстових повідомлень користувачам Android, включно з приблизно 55 тис. спам-повідомлень, позначених протягом дворитижневого періоду в травні.
Повідомлення часто попереджали користувачів про проблеми з акаунтом, проблеми з посилками, оплату проїзду або інші термінові заяви. Жертвам, які переходили за посиланнями, надсилали на фейкові вебсайти, створені так, щоб виглядати легітимно, де нападники намагалися викрасти персональні дані, банківські реквізити та платіжні облікові дані.
Gemini AI За Звинуваченням Використовувався для Генерації Шахрайських Вебсайтів у Масштабі
Ймовірне використання генеративного ШІ змінює економіку фішингу. Сторінки шахрайства, які раніше вимагали ручного проєктування, тепер можна створювати швидше, адаптувати під різні бренди та розгортати за допомогою готових шаблонів. Це знижує бар’єр для менш технічно підготовлених злочинців і дає змогу шахрайським мережам масштабувати кампанії на тисячі URL-адрес.
Для технологічних компаній ця справа також підсвічує складне продуктовe протиріччя. Системи ШІ створюють для того, щоб виконувати інструкції та генерувати відполіровані результати, але ці ж можливості можуть бути використані для створення переконливих фейкових вебсайтів, повідомлень служби підтримки та сторінок із підміною брендів. Посилені запобіжники можуть зменшити зловживання, але нападники часто шукають непрямі підказки, повторне використання шаблонів або зовнішні робочі процеси, які обходять виявлення.
Google Координує Дії з FBI та Мобільними Операторами, Щоб Блокувати Зловмисні Повідомлення
Google заявила, що працює з кіберзлочинним підрозділом FBI в межах паралельного кримінального розслідування, а також координувала дії з AT&T, Verizon і T-Mobile, щоб блокувати зловмисні текстові повідомлення, пов’язані з цією кампанією.
Компанія також вказала на власні продуктові захисти. Google заявила, що її інструменти для повідомлень перехоплюють понад 10 млрд зловмисних повідомлень щомісяця, тоді як виявлення шахрайства в Android може в реальному часі позначати підозрілі дзвінки та контакти. Ці захисти могли обмежити кількість успішних спроб фішингу, хоча Google не оцінила, скільки грошей було викрадено в межах кампаній Outsider Enterprise.
Проблема в тому, що оператори групи залишаються невстановленими. Навіть якщо імена згодом буде визначено, застосування правозастосування ускладнюється, коли, як стверджується, виконавці перебувають за межами Сполучених Штатів. Google може переслідувати шахрайські домени, акаунти в Telegram, хостингову інфраструктуру та пов’язані активи, але базова операція може зміститися до нових брендів, нових доменів або нових каналів доставки.
«Злочинці дедалі частіше використовують ШІ, щоб зробити таке шахрайство більш переконливим і важчим для виявлення», — сказав Бретт Лейтерман з кіберпідрозділу FBI.
Google Підтримує Федеральне Законодавство, Що Спрямоване на Шахрайство, Підсилене ШІ
Google використовує цей позов, щоб поновити підтримку федерального законодавства, спрямованого на шахрайство, маніпуляції на ринку та підвищення обізнаності, де використовується ШІ. Компанія підтримала кілька ініціатив із підтримкою різних партій, зокрема National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act та Stop SCAMS Against Seniors Act.
Більшість запропонованого законодавства спрямовуватиме федеральні агентства координуватися тісніше щодо шахрайства, де застосовується ШІ, створювати робочі групи або покращувати публічну освіту щодо зловмисних використань ШІ. Такий підхід відображає зростання переконання, що запобігання шахрайству не можна вирішити лише приватною модерацією платформ або позовами “після факту”.
Загальна проблемa політики полягає в тому, що шахрайство, згенероване ШІ, ставатиме складнішим для ідентифікації в міру вдосконалення моделей. Кампанії з підвищення обізнаності можуть допомогти користувачам розпізнавати типові тактики, але нападники, ймовірно, продовжать вдосконалювати повідомлення, сторінки та техніки підміни. Це залишає великі технологічні компанії із подвійним навантаженням: створювати продукти зі ШІ, які люди хочуть використовувати, водночас запобігаючи перетворенню цих самих інструментів на інфраструктуру для промислового масштабу шахрайства.
FAQ
У чому Google звинуватила Outsider Enterprise?
Google звинуватила Outsider Enterprise, кіберзлочинну мережу з Китаю, у керуванні фішинговою операцією з підтримкою ШІ, яка використовувала Gemini AI від Google для створення фейкових вебсайтів, що видавали себе за Google, YouTube та державні установи. Згідно з твердженнями, група працювала в моделі фішингу як послуги через Telegram, надаючи майже 300 шахрайських шаблонів злочинцям. Google заявила, що мережа була пов’язана з 9 тис. фейкових вебсайтів, більш ніж 1 млн шахрайських URL-адрес і 2,5 млн текстових повідомлень, надісланих користувачам Android.
Як Google працює, щоб зірвати фішингову операцію?
Google заявила, що працює з кіберзлочинним підрозділом FBI в межах паралельного кримінального розслідування та координувала дії з AT&T, Verizon і T-Mobile, щоб блокувати зловмисні текстові повідомлення, пов’язані з кампанією. Компанія також заявила, що її інструменти для повідомлень перехоплюють понад 10 млрд зловмисних повідомлень щомісяця, а виявлення шахрайства в Android може в реальному часі позначати підозрілі дзвінки та контакти. Google переслідує шахрайські домени, акаунти в Telegram та хостингову інфраструктуру, пов’язану з мережею.
Яке федеральне законодавство підтримує Google, щоб протидіяти шахрайству, підсиленому ШІ?
Google підтримала кілька ініціатив із підтримкою різних партій, зокрема National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act та Stop SCAMS Against Seniors Act. Більшість запропонованого законодавства спрямовуватиме федеральні агентства координуватися тісніше щодо шахрайства, де застосовується ШІ, створювати робочі групи або покращувати публічну освіту щодо зловмисних використань ШІ.
