Ireland mở cuộc điều tra về X liên quan đến vai trò được cho là của Grok trong việc tạo ra hình ảnh tình dục do AI sinh ra

Cơ quan bảo vệ quyền riêng tư của Ireland đã chính thức mở cuộc điều tra về X do lo ngại rằng chatbot AI Grok của Elon Musk có thể đã giúp tạo ra và phân phát các hình ảnh tình dục không có sự đồng ý, bao gồm cả hình ảnh liên quan đến trẻ em. Cuộc điều tra này đánh dấu một bước leo thang đáng kể trong chiến dịch quốc tế ngày càng gia tăng nhằm kiểm soát các công cụ “khiêu dâm” dựa trên AI và nội dung deepfake.

Cuộc điều tra do Ủy ban Bảo vệ Dữ liệu Ireland (DPC) khởi xướng chống lại Công ty X Internet Unlimited (XIUC), pháp nhân đăng ký tại EU, qua đó nền tảng hoạt động tại châu Âu. Cuộc điều tra dựa trên Đạo luật Bảo vệ Dữ liệu Ireland 2018 và sẽ xem xét liệu các công cụ AI tạo sinh của Grok có tham gia vào việc tạo và công bố hình ảnh nhạy cảm có thể gây hại mà không có sự đồng ý hay không.

Với vai trò là cơ quan giám sát chính đối với X trong Liên minh châu Âu và Khu vực Kinh tế Châu Âu, DPC sẽ đánh giá việc tuân thủ các quy định chính của Quy định chung về Bảo vệ Dữ liệu (GDPR). Điều này bao gồm kiểm tra xem công ty có tuân thủ các nguyên tắc xử lý hợp pháp, tiêu chuẩn bảo mật quyền riêng tư theo thiết kế, và liệu có cần thực hiện đánh giá tác động bảo vệ dữ liệu trước khi triển khai các khả năng AI như vậy hay không.

Trung tâm Chống Thù ghét Kỹ thuật số (CCDH) báo cáo rằng Grok đã tạo ra hơn 23.000 hình ảnh tình dục liên quan đến trẻ em trong vòng 11 ngày từ cuối tháng 12 đến đầu tháng 1. Các nhà nghiên cứu phát hiện rằng khoảng một phần ba các hình ảnh mẫu vẫn còn khả dụng trên nền tảng mặc dù X đã tuyên bố không khoan nhượng với nội dung này. Sau phản ứng dữ dội của công chúng, X đã hạn chế các tính năng tạo hình ảnh của Grok cho người đăng ký trả phí, giới thiệu các biện pháp kỹ thuật để ngăn chặn việc chỉnh sửa quần áo của người trong hình, và chặn vùng địa lý nơi nội dung như vậy bị cấm.

Áp lực pháp lý toàn cầu ngày càng gia tăng

Hành động của Ireland góp phần vào sự gia tăng kiểm soát toàn cầu. Tháng 1, Ủy ban Châu Âu đã mở cuộc điều tra chính thức theo Luật Dịch vụ Kỹ thuật số về vai trò của X trong việc tạo ra và phân phát nội dung bất hợp pháp liên quan đến Grok. Ngay sau đó, các cơ quan Pháp đã đột kích văn phòng của X tại Paris phối hợp với Europol trong một cuộc điều tra hình sự.

Tại Vương quốc Anh, cả Ofcom và Văn phòng Ủy viên Thông tin (ICO) đều bắt đầu các cuộc điều tra riêng về nền tảng này. Thủ tướng Keir Starmer cho biết có thể sẽ đề xuất các quyền mới của quốc hội để kiểm soát các nhà cung cấp chatbot AI chặt chẽ hơn theo luật an toàn trực tuyến. Các cơ quan quản lý cảnh báo rằng việc không tuân thủ có thể dẫn đến các biện pháp pháp lý, bao gồm cả hạn chế dịch vụ có sự hỗ trợ của tòa án.

Tại Úc, Ủy viên An toàn Trực tuyến (eSafety Commissioner) báo cáo sự gia tăng đột biến các đơn khiếu nại liên quan đến hình ảnh tình dục do AI tạo ra không có sự đồng ý, liên quan đến Grok. Trong khi đó, Tổng chưởng lý California Rob Bonta đã công bố cuộc điều tra chính thức về xAI và chatbot của nó về việc tạo ra và lan truyền các hình ảnh rõ ràng do AI tạo ra liên quan đến phụ nữ và trẻ em.

Các tổ chức quốc tế cũng đang lên tiếng cảnh báo. UNICEF gần đây mô tả các deepfake tình dục do AI tạo ra là một “mức độ leo thang sâu sắc” của các rủi ro đối với trẻ em trong môi trường kỹ thuật số, ước tính rằng ít nhất 1,2 triệu trẻ em đã bị nhắm mục tiêu trong năm ngoái. Tổ chức này kêu gọi các chính phủ hình sự hóa các tài liệu lạm dụng do AI tạo ra và yêu cầu các biện pháp an toàn theo thiết kế trong các hệ thống AI tạo sinh.

Khi các cuộc điều tra mở rộng trên nhiều khu vực pháp lý, vụ việc chống lại X và Grok nhấn mạnh một xu hướng điều chỉnh quy định rộng lớn hơn. Các chính phủ ngày càng chuyển từ việc thực thi phản ứng sang giám sát chủ động các hệ thống AI tạo sinh, đặc biệt khi quyền bảo vệ trẻ em và quyền riêng tư đang bị đe dọa.