一家人工智慧聊天機器人公司目前正面臨加州總檢察長的調查,原因是有人指控其圖像生成系統被濫用,未經許可產生數千張不適當的女性和未成年人圖片。調查的焦點在於該平台的工具是否被用於違反用戶同意和隱私保護的行為。此事件引起了對快速發展的人工智慧技術如何被監管和規範的日益關注。此案凸顯了科技界在內容審查、同意框架以及開發生成式AI系統的公司責任等更廣泛問題上的討論。業界觀察人士正密切關注監管機構在人工智慧創新與消費者保護交集的審查,尤其是關於敏感內容創作的保障措施。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 6
  • 轉發
  • 分享
留言
0/400
SybilAttackVictimvip
· 13小時前
ngl這就離譜了,生成幾千張違規圖片還能這麼久才被查?能不能別整這些渣渣功能啊兄弟
查看原文回復0
快照暴击手vip
· 01-15 04:59
ngl這就離譜了...生成不該生的圖片然後甩鍋,這套路爛大街了吧
查看原文回復0
Урожай душевных богатствvip
· 01-14 18:32
ngl這事兒就離譜...生成不適當圖片這種事現在越來越多了吧 --- 又是隱私問題,ai公司這邊真的該好好管管 --- 加州檢察長動手了,感覺監管要來了啊 --- 千千萬萬不雅圖片...這算什麼創新,純純破壞 --- 就想問誰他媽會同意讓別人隨便用自己的臉啊...瘋了 --- 內容審核這塊ai公司真的不行,啥都堵不住 --- 女性和未成年人都沒放過...確實該罰 --- 突然想起來一堆類似的事件,這根本不是第一次吧 --- so這就是創新的代價?侵犯隱私換技術進步? --- 同意框架得重新定義了,現在那些條款形同虛設
查看原文回復0
ruggedNotShruggedvip
· 01-14 18:31
又是這種事兒...AI公司又翻車了,生成那種東西還不加限制,真的絕了
查看原文回復0
Layer2观察员vip
· 01-14 18:22
讓我們看看數據啊,這類事件真的需要從原始碼層面分析。沒有consent框架就胡亂放權限,說白了就是工程師沒做好access control。理論上講,這本不該發生——缺的是那道基礎的驗證邏輯。
查看原文回復0
ChainComedianvip
· 01-14 18:07
ngl這就是為啥我一直說web3那些項目方也得小心啊 監管鐵拳遲早來敲門 --- 又一個ai公司翻車 說好的responsible ai呢 笑死 --- 雖然吐槽ai但這事兒確實恐怖 能隨便生成這種東西?誰來管? --- 加州那邊動作挺快的 不過感覺這些大廠早就在灰色地帶玩了很久 --- 這類案子越來越多了 ai公司得真正把consent當回事 不能總靠道歉糊弄
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)