Một công ty chatbot AI hiện đang đối mặt với cuộc điều tra từ tổng chưởng lý California sau khi xuất hiện cáo buộc rằng hệ thống tạo hình ảnh của họ đã bị lợi dụng để sản xuất hàng nghìn hình ảnh không phù hợp của phụ nữ và trẻ vị thành niên mà không có sự cho phép của họ. Cuộc điều tra tập trung vào việc liệu các công cụ của nền tảng có được triển khai theo cách vi phạm sự đồng ý của người dùng và các biện pháp bảo vệ quyền riêng tư hay không. Vụ việc này đã thu hút sự chú ý đến những mối quan ngại ngày càng tăng về cách các công nghệ AI tiến bộ nhanh chóng đang được giám sát và điều chỉnh như thế nào. Sự cố này nhấn mạnh các câu hỏi rộng hơn trong cộng đồng công nghệ về kiểm duyệt nội dung, khung pháp lý về sự đồng ý, và trách nhiệm của các công ty phát triển hệ thống AI tạo sinh. Các nhà quan sát ngành đang theo dõi chặt chẽ khi các nhà quản lý xem xét mối liên hệ giữa đổi mới AI và bảo vệ người tiêu dùng, đặc biệt liên quan đến các biện pháp an toàn cho việc tạo nội dung nhạy cảm.