ไอร์แลนด์เปิดการสอบสวนเกี่ยวกับ X เกี่ยวกับบทบาทที่อ้างว่าเป็นของ Grok ในภาพลามกอนาจารที่สร้างด้วย AI

หน่วยงานคุ้มครองข้อมูลส่วนบุคคลของไอร์แลนด์ได้เปิดการสอบสวนอย่างเป็นทางการเกี่ยวกับ X เนื่องจากความกังวลว่าแชทบอท AI ของ Elon Musk ชื่อ Grok อาจมีส่วนช่วยในการสร้างและเผยแพร่ภาพอนาจารที่ไม่ยินยอม รวมถึงภาพที่เกี่ยวข้องกับเด็ก การสอบสวนนี้เป็นการเพิ่มความรุนแรงในแนวทางการปราบปรามระดับนานาชาติที่เพิ่มขึ้นต่อเครื่องมือ “nudification” ที่ใช้ AI และเนื้อหาที่เป็น deepfake

การสอบสวนนี้เริ่มต้นโดยคณะกรรมการคุ้มครองข้อมูลของไอร์แลนด์ (DPC) ซึ่งดำเนินการกับ X Internet Unlimited Company (XIUC) ซึ่งเป็นนิติบุคคลที่จดทะเบียนในสหภาพยุโรปและดำเนินงานในยุโรป การสอบสวนนี้อยู่ภายใต้พระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคลของไอร์แลนด์ปี 2018 และจะตรวจสอบว่าเครื่องมือ AI สร้างสรรค์ของ Grok มีส่วนเกี่ยวข้องในการสร้างและเผยแพร่ภาพอนาจารที่อาจเป็นอันตรายโดยไม่ได้รับความยินยอมหรือไม่

ในฐานะหน่วยงานกำกับดูแลหลักของ X ทั่วสหภาพยุโรปและเขตเศรษฐกิจยุโรป DPC จะประเมินความสอดคล้องกับข้อกำหนดสำคัญของระเบียบคุ้มครองข้อมูลทั่วไป (GDPR) ซึ่งรวมถึงการตรวจสอบว่าบริษัทปฏิบัติตามหลักการประมวลผลข้อมูลอย่างถูกกฎหมาย มาตรฐาน privacy-by-design และว่าควรมีการทำการประเมินผลกระทบด้านการคุ้มครองข้อมูลก่อนการเปิดใช้งานความสามารถ AI ดังกล่าวหรือไม่

ศูนย์ต่อต้านความเกลียดชังดิจิทัล (CCDH) รายงานว่า Grok สร้างภาพอนาจารที่มีเนื้อหาเกี่ยวกับเด็กมากกว่า 23,000 ภาพในช่วงเวลา 11 วันระหว่างปลายเดือนธันวาคมถึงต้นเดือนมกราคม นักวิจัยพบว่า ประมาณหนึ่งในสามของภาพตัวอย่างยังคงสามารถเข้าถึงได้บนแพลตฟอร์ม แม้ว่า X จะประกาศนโยบายศูนย์รับผิดชอบต่อเนื้อหาเช่นนี้ก็ตาม หลังจากเสียงวิพากษ์วิจารณ์ในสาธารณะ X ได้จำกัดฟีเจอร์การสร้างภาพของ Grok ให้เฉพาะสมาชิกที่ชำระเงินเท่านั้น เพิ่มมาตรการด้านเทคนิคเพื่อป้องกันการแก้ไขเสื้อผ้าของบุคคลในภาพ และบล็อกทางภูมิศาสตร์เครื่องมือนี้ในเขตอำนาจศาลที่เนื้อหาดังกล่าวผิดกฎหมาย

แรงกดดันด้านกฎระเบียบระดับโลกเพิ่มขึ้น

การดำเนินการของไอร์แลนด์นี้เป็นส่วนหนึ่งของการตรวจสอบระดับโลกที่เพิ่มขึ้น ในเดือนมกราคม คณะกรรมาธิการยุโรปได้เปิดการสอบสวนอย่างเป็นทางการภายใต้กฎหมายบริการดิจิทัล (Digital Services Act) เกี่ยวกับบทบาทของ X ในการสร้างและเผยแพร่เนื้อหาที่ผิดกฎหมายที่เชื่อมโยงกับ Grok ต่อมาไม่นาน เจ้าหน้าที่ฝรั่งเศสได้บุกสำนักงาน X ในปารีสร่วมกับ Europol ในฐานะส่วนหนึ่งของการสืบสวนอาชญากรรม

ในสหราชอาณาจักร ทั้ง Ofcom และสำนักงานคณะกรรมการข้อมูล (ICO) ได้เปิดการสอบสวนแยกกันเกี่ยวกับแพลตฟอร์ม นายกรัฐมนตรี Keir Starmer ได้ส่งสัญญาณว่าอาจมีการขออำนาจใหม่จากรัฐสภาเพื่อควบคุมผู้ให้บริการ AI แชทบอทให้เข้มงวดยิ่งขึ้นตามกฎหมายความปลอดภัยออนไลน์ เจ้าหน้าที่กำกับดูแลเตือนว่าการไม่ปฏิบัติตามอาจนำไปสู่มาตรการทางกฎหมาย รวมถึงการจำกัดการให้บริการในอนาคต

ในออสเตรเลีย คณะกรรมการด้านความปลอดภัยออนไลน์ (eSafety Commissioner) รายงานว่ามีคำร้องเรียนเกี่ยวกับภาพอนาจาร AI ที่ไม่ยินยอมและเชื่อมโยงกับ Grok เพิ่มขึ้นอย่างรวดเร็ว ในขณะเดียวกัน อัยการสูงสุดแห่งแคลิฟอร์เนีย Rob Bonta ได้ประกาศการสอบสวนอย่างเป็นทางการเกี่ยวกับ xAI และแชทบอทของมันในเรื่องการสร้างและแพร่กระจายภาพอนาจาร AI ที่เกี่ยวข้องกับผู้หญิงและเด็ก

องค์การระหว่างประเทศก็ออกมาเตือนเช่นกัน UNICEF เพิ่งอธิบายว่า deepfake ทางเพศที่สร้างด้วย AI เป็น “การเพิ่มความเสี่ยงอย่างรุนแรง” ต่อเด็กในสภาพแวดล้อมดิจิทัล โดยอ้างอิงประมาณการว่ามีเด็กอย่างน้อย 1.2 ล้านคนถูกเป้าหมายในปีที่ผ่านมา องค์กรเรียกร้องให้รัฐบาลดำเนินคดีอาญากับเนื้อหาเกี่ยวกับการล่วงละเมิดที่สร้างด้วย AI และบังคับใช้มาตรการความปลอดภัยแบบออกแบบมาเพื่อป้องกันในระบบ AI สร้างสรรค์

ในขณะที่การสอบสวนขยายตัวไปในหลายเขตอำนาจศาล คดีความที่ฟ้องร้อง X และ Grok ชี้ให้เห็นถึงการเปลี่ยนแปลงเชิงนโยบายด้านกฎระเบียบที่กว้างขึ้น รัฐบาลต่าง ๆ เริ่มเปลี่ยนจากการบังคับใช้กฎหมายแบบตอบสนองเป็นการกำกับดูแลเชิงรุกของระบบ AI สร้างสรรค์ โดยเฉพาะเมื่อเกี่ยวข้องกับการคุ้มครองเด็กและสิทธิความเป็นส่วนตัว