馬斯克的 AI 公司 xAI 已向一名南卡羅來納州男子提起訴訟，指控他使用其 Grok 聊天機器人來製作兒童性虐待影像素材，以及涉及未成年人的色情露骨深偽。此案是已知少數幾起之中，AI 公司對其自身用戶採取直接法律行動的訴訟之一，指控其疑似濫用平台以產生非法內容。
根據起訴狀，被告違反了 xAI 的服務條款，因其刻意使用 Grok 來建立並操縱露骨影像。本訴訟尋求金錢損害賠償，並要求永久禁制令，禁止該名個人未來存取 Grok 或其他 xAI 服務。
公司尋求更強力的執行
xAI 表示，所指控的濫用傷害了受害者，同時使公司面臨法律、財務與名譽風險。公司稱其在 2026 年全年已大幅投資於內容審查與執法工作。這些措施包含暫停數萬個帳戶，並向全國遺失與受剝削兒童中心提交數萬份通報。
公司也表示，其通報工作促成了數百起逮捕。透過提起民事訴訟，xAI 希望強化立場：那些刻意繞過平台保護措施來製作非法內容的用戶，除了刑事起訴之外，仍可能面臨重大法律後果。
對 AI 安全的更廣泛審視
此訴訟的提出時機，是當 AI 公司在面對越來越大的壓力，必須加強防止未經同意的深偽以及兒童剝削的防護措施。今（今年）稍早，xAI 也曾遭遇來自未成年人的獨立法律挑戰，指控其技術被用來根據他們的照片生成色情露骨影像。這些案件加劇了人們對更嚴格審查與更強技術保護的呼籲，適用於各類生成式 AI 平台。
最新訴訟顯示出策略轉向。xAI 不再只是透過平台限制與帳戶封禁回應，而是正對其聲稱被刻意濫用其技術的用戶提起民事訴訟。產業觀察人士預期，此案將成為一項重要測試：AI 公司如何能夠運用合約協議與既有法律來打擊生成式 AI 的非法用途，同時展現對其安全政策的主動執行。
