根據一位專家所說，巴爾的摩對 Elon Musk 的 xAI 及其 Grok 聊天機器人的訴訟，可能決定在缺乏聯邦法律的情況下，城市能在多大範圍內規範人工智能。
巴爾的摩市長和市議會已在馬里蘭州法院對 X 公司、xAI 和 SpaceX 提起訴訟，指控這些公司違反當地的消費者保護法，因為他們設計並部署了 Grok，一個被指控產生和傳播非自願性化圖像（包括未成年人）的生成式人工智能系統。
訴狀聲稱，Grok 使用戶能夠在最少提示下“脫衣”或“操縱”真人圖像，導致居民面臨隱私侵犯和心理傷害，律師事務所 DiCello Levitt 表示，他們代表市政府與巴爾的摩市法律部合作。
“這些深偽技術，尤其是那些涉及未成年人的，對受害者來說具有創傷性，可能造成終身影響，”巴爾的摩市長 Brandon M. Scott 在聲明中表示。
此案正值全球對 Grok 的關注日益增加，包括在美國、歐盟、法國、英國、澳大利亞和愛爾蘭的調查，以及上週由三名田納西未成年人提起的聯邦集體訴訟，指控該工具利用他們的真實圖像生成兒童性虐待內容。
“這起訴訟可以被視為一個城市在缺乏聯邦立法的情況下，利用消費者保護和公共危害原則來規範人工智能的策略性舉措，”Fathom Legal 的合夥人 Ishita Sharma 對 Decrypt 表示。
“在責任方面，雖然用戶提示有害內容將是辯論的一部分，但更強的法律焦點可能在於人工智能系統本身是否實質性地貢獻了，”Sharma 說，並補充說，如果法院將 Grok 視為“積極創作者而非被動中介”，責任將更重地落在 xAI 身上。
按設計
巴爾的摩的訴訟指控這些公司“設計、行銷並部署”了 Grok，明知其可能產生非自願性親密影像和類似兒童性虐待內容的材料，卻公開聲稱此類內容是禁止的。
訴狀引用估計，Grok 在2025年12月29日至2026年1月8日的短短幾天內，產生了約180萬到300萬張性化圖像，其中約2萬3千張涉及兒童，根據反數位仇恨中心（Center for Countering Digital Hate）和 紐約時報 的分析。
巴爾的摩指控，這一激增部分是由 Elon Musk 放大 Grok 的圖像編輯功能引發的，他對用該工具生成的比基尼圖像回應“完美”，使輸出量從他發帖前九天的約30萬張增加到每天近60萬張。
“X 現已成為 NCII 和 CSAM 的最大分發平台之一，”訴狀中寫道，並引用被告平台政策禁止此類內容，作為欺騙性誤導的證據。
“在已知風險面前延遲安全措施或不作為的證據，將加強疏忽或魯莽的指控，”Sharma 表示，並補充說，解散此案似乎不太可能，和解是最可能的結果，但此案仍可能“成為人工智能責任的先例性裁決。”
該市正尋求民事罰款、禁令以停止非法行為、受影響居民的賠償以及追回非法所得。
Decrypt 已聯繫 Musk 及其 xAI 和 SpaceX，尋求評論。
