イーロン・マスクの人工知能企業であるxAIは、サウスカロライナ州の男性を相手取って訴訟を提起しました。男性は、同社のGrokチャットボットを使って、児童性的虐待の教材や、未成年を含む性的に露骨なディープフェイクを作成したとして、同社を非難しています。この案件は、AI企業が、自社プラットフォームを不正に悪用して違法コンテンツを生成したとされる自社ユーザーに対し、直接的に法的措置を取ったことが確認されている最初期の訴訟の1つだと位置づけられます。
訴状によると、被告はGrokを意図的に使って露骨な画像を作成・操作したことで、xAIの利用規約に違反しました。訴訟では、金銭的な損害賠償と、当該個人が将来的にGrokまたはその他のxAIサービスにアクセスすることを禁じる恒久的な差止命令が求められています。
企業はより強い執行を求める
xAIは、申し立てられた悪用が被害者に害を与えた一方で、自社を法的・経済的・評判上のリスクにさらしたと主張しています。同社によれば、2026年を通じてコンテンツのモデレーションと執行強化に多額の投資を行ってきました。これらの措置には、数万件規模のアカウント停止や、行方不明の子どもや搾取されている子どもに関する全米センター（National Center for Missing and Exploited Children）への数万件規模の通報の提出が含まれています。
また同社は、自社の通報活動が数百件の逮捕に貢献したとも述べています。民事訴訟を追求することで、xAIは、違法な素材を作るために意図的にプラットフォームの保護措置を回避したユーザーは、刑事訴追だけでなく、重大な法的結果につながり得ることを強調したい考えです。
AI安全性に対するより広範な精査
この訴訟は、AI企業が同意のないディープフェイクや児童の搾取に対するセーフガードを強化するよう求める圧力が高まる中で提起されました。今年の初め、xAIは別件の法的な争いにも直面しており、自社の技術が自分たちの写真をもとに性的に露骨な画像を生成するのに使われたと主張する未成年者による訴訟がありました。これらの案件は、生成AIプラットフォーム全体でより厳格なモデレーションとより強力な技術的保護を求める声を強める結果となりました。
最新の訴訟は、戦略の転換を示すものです。プラットフォームの制限やアカウント停止に対応するだけでなく、xAIは、自社技術を意図的に悪用したとして、ユーザーに対する民事訴訟を今後は進める方針です。業界の観測者は、この事件が、生成AIの違法用途に対抗するためにAI企業が契約上の合意や既存の法律をどう活用できるか、そして安全方針を能動的に執行していることを示すうえで重要な試金石になると見ています。
