หน่วยงานกำกับดูแลข้อมูลของไอร์แลนด์เข้าร่วมกับหน่วยงานกำกับดูแลทั่วโลกในการสอบสวน X เกี่ยวกับความเสี่ยงของภาพ AI

สรุปโดยย่อ

• คณะกรรมการคุ้มครองข้อมูลไอร์แลนด์ (DPC) ได้เปิดการสอบสวน GDPR ขนาดใหญ่เกี่ยวกับ X เนื่องจาก Grok สร้างภาพอนาจารทางเพศที่ไม่เต็มใจ รวมถึงภาพของเด็ก
• การสอบสวนนี้ตรวจสอบว่า X ปฏิบัติตามข้อผูกพันหลักของ GDPR ในการใช้งุณสมบัติภาพของ Grok กับผู้ใช้ในสหภาพยุโรปหรือไม่
• การตรวจสอบนี้เป็นส่วนหนึ่งของคลื่นการกำกับดูแลทั่วโลกที่มุ่งเป้าไปที่ Grok โดยมีการดำเนินการอย่างเป็นทางการในยุโรป สหราชอาณาจักร ออสเตรเลีย และสหรัฐอเมริกา

หน่วยงานคุ้มครองข้อมูลส่วนบุคคลของไอร์แลนด์ได้เปิดการสอบสวนอย่างเป็นทางการเกี่ยวกับ X ว่า Grok ของ Elon Musk ช่วยสร้างและแพร่กระจายภาพอนาจารทางเพศที่ไม่เต็มใจ รวมถึงภาพของเด็ก ซึ่งเป็นการเพิ่มความร้อนแรงให้กับการปราบปรามทั่วโลกที่กำลังขยายตัวต่อเครื่องมือ AI สำหรับการสร้างภาพเปลือย คณะกรรมการคุ้มครองข้อมูล (DPC) ได้เริ่มการสอบสวนในบริษัท X Internet Unlimited (XIUC) ซึ่งเป็นนิติบุคคลที่จดทะเบียนในสหภาพยุโรปซึ่งดำเนินงานแพลตฟอร์มโซเชียลมีเดียของ Elon Musk ในยุโรป ภายใต้พระราชบัญญัติคุ้มครองข้อมูลของไอร์แลนด์ปี 2018 โดยเน้นไปที่ “การสร้างและเผยแพร่บนแพลตฟอร์ม X ของภาพอนาจารที่อาจเป็นอันตรายและไม่เต็มใจ… รวมถึงเด็ก” โดยใช้เครื่องมือ AI สร้างภาพของ Grok หน่วยงานกำกับดูแลกล่าวว่าพวกเขาได้แจ้ง XIUC ถึงการตัดสินใจเริ่มการสอบสวนและจะประเมินความสอดคล้องกับข้อกำหนดหลักของ GDPR รวมถึงหลักการในการประมวลผล ขอบเขตทางกฎหมาย ความเป็นส่วนตัวโดยออกแบบ และว่าการประเมินผลกระทบด้านการคุ้มครองข้อมูลเป็นสิ่งจำเป็นหรือไม่ 

“ในฐานะหน่วยงานกำกับดูแลหลักสำหรับ XIUC ทั่วทั้ง EU/EEA DPC ได้เริ่มการสอบสวนขนาดใหญ่ที่จะตรวจสอบความสอดคล้องของ XIUC กับข้อผูกพันพื้นฐานภายใต้ GDPR ในเรื่องที่เกี่ยวข้อง” รองผู้อำนวยการ Graham Doyle กล่าวในแถลงการณ์ การสอบสวนนี้เกิดขึ้นในขณะที่ไอร์แลนด์ ซึ่งเป็นหน่วยงานกำกับดูแลหลักของ EU สำหรับแพลตฟอร์มเทคโนโลยีอเมริกันรายใหญ่หลายแห่ง เข้าร่วมในแนวทางการปราบปรามระดับนานาชาติที่กว้างขึ้นต่อบทบาทของ Grok ในการสร้าง deepfake ที่ไม่เต็มใจในระดับใหญ่ ศูนย์ต่อต้านความเกลียดชังดิจิทัล (CCDH) รายงานเมื่อเดือนที่แล้วว่า Grok สร้างภาพอนาจารทางเพศประมาณ 23,338 ภาพที่แสดงเด็ก ในช่วงเวลา 11 วัน ตั้งแต่วันที่ 29 ธันวาคม ถึง 9 มกราคม และนักวิจัยพบว่าประมาณหนึ่งในสามของภาพที่สุ่มตัวอย่างยังคงสามารถเข้าถึงได้บน X แม้จะมีนโยบายศูนย์ทนต่อเนื้อหาดังกล่าวของแพลตฟอร์มก็ตาม หลังจากเสียงวิพากษ์วิจารณ์ X ได้จำกัดการสร้างและแก้ไขภาพของ Grok ให้กับสมาชิกที่ชำระเงินเท่านั้น เพิ่มอุปสรรคทางเทคนิคเพื่อป้องกันไม่ให้ผู้ใช้ดัดแปลงภาพให้เปิดเผยเสื้อผ้า และบล็อกทางภูมิศาสตร์ฟีเจอร์นี้ในเขตอำนาจศาลที่เนื้อหาดังกล่าวผิดกฎหมาย

Decrypt ได้ติดต่อ xAI เพื่อขอความคิดเห็น การปราบปรามด้านกฎระเบียบระดับโลก ในเดือนมกราคม คณะกรรมาธิการยุโรปได้เปิดการสอบสวนอย่างเป็นทางการภายใต้กฎหมายบริการดิจิทัล (Digital Services Act) เกี่ยวกับ X ในเรื่องบทบาทที่กล่าวหาในการสร้างและแพร่กระจายเนื้อหาอนาจารทางเพศผิดกฎหมาย ไม่กี่วันต่อมา เจ้าหน้าที่ฝรั่งเศสบุกสำนักงาน X ในปารีสร่วมกับ Europol เรียกตัว Musk และผู้บริหารหลายคนเพื่อสอบปากคำ ในสหราชอาณาจักร ทั้ง Ofcom และสำนักงานคณะกรรมการข้อมูล (ICO) ได้เปิดการสอบสวนแยกกัน โดย Ofcom ได้เตือนว่าอาจดำเนินการทางศาลเพื่อบล็อกบริการของ X หากพบว่าละเมิดกฎหมาย ขณะที่นายกรัฐมนตรี Keir Starmer กล่าวว่าจะขออำนาจใหม่จากรัฐสภาเพื่อควบคุมผู้ให้บริการแชทบอท AI ภายใต้กฎหมายความปลอดภัยออนไลน์ คณะกรรมาธิการด้านความปลอดภัยทางออนไลน์ของออสเตรเลีย Julie Inman Grant กล่าวว่า คำร้องเรียนเกี่ยวกับ Grok และภาพอนาจาร AI ที่ไม่เต็มใจเพิ่มขึ้นเป็นสองเท่าในช่วงไม่กี่เดือนที่ผ่านมา และกล่าวว่าหน่วยงานของเธอจะใช้สิทธิ์บังคับใช้กฎหมายตามความจำเป็น อัยการสูงสุดแห่งแคลิฟอร์เนีย Rob Bonta ประกาศการสอบสวนอย่างเป็นทางการเกี่ยวกับ xAI และ Grok ในเรื่องการสร้างและแพร่กระจายภาพ AI ที่เป็นภาพอนาจารทางเพศของผู้หญิงและเด็ก เมื่อต้นเดือนนี้ UNICEF เรียก Deepfake ทางเพศ AI ว่า “การเพิ่มความเสี่ยงอย่างรุนแรงที่เด็กเผชิญในสภาพแวดล้อมดิจิทัล” โดยระบุว่าอย่างน้อย 1.2 ล้านเด็กถูกเป้าหมายในปีที่ผ่านมา และเรียกร้องให้รัฐบาลออกกฎหมายลงโทษเนื้อหาเกี่ยวกับการล่วงละเมิดที่สร้างด้วย AI และบังคับใช้มาตรการความปลอดภัยโดยออกแบบตั้งแต่ต้น