Googleの法的提出書類によると、同社は先月、フィッシング詐欺を自動化するためにGemini AIを使用したとして、中国のサイバー犯罪ネットワーク「Outsider Enterprise」を提訴しました。Telegramを通じて活動するOutsider Enterpriseは、Geminiを使ってGoogle、YouTube、政府機関を装った詐欺用のWebサイトを作成する方法を案内し、ユーザー向けに約300の詐欺テンプレートを提供していました。
このネットワークが可能にした詐欺により、Androidユーザーに送られたテキストメッセージは250万件以上となり、先月の2週間の期間に送られたのは55,000件でした。Googleは、この作戦に関連する9,000件の偽サイトと100万件のURLを追跡しています。Googleは、悪意のあるメッセージをブロックするためにAT&T、Verizon、T-Mobileと連携しました。