AI ของ Meta ท่วมท้นนักสืบสวนการล่วงละเมิดเด็กด้วยคำแนะนำ 'ไร้ค่า' เจ้าหน้าที่บังคับใช้กฎหมายอ้าง

สรุปโดยย่อ

• เจ้าหน้าที่ ICAC กล่าวว่า คำแนะนำจาก AI ของ Meta ทำให้ผู้สืบสวนถูกท่วมท้นด้วยรายงานที่ไม่สามารถใช้งานได้
• เกิดขึ้นท่ามกลางข้อกล่าวหาผ่านคดีความของรัฐนิวเม็กซิโกที่อ้างว่า AI ของ Meta ทำให้การสืบสวนการล่วงละเมิดเด็กซับซ้อนขึ้น
• Meta โต้กลับโดยระบุว่าบริษัทให้ความร่วมมือกับเจ้าหน้าที่บังคับใช้กฎหมายอย่างรวดเร็วและตรวจสอบรายงานก่อนส่งมอบ

การใช้ปัญญาประดิษฐ์ของ Meta ในการดูแลแพลตฟอร์มของตนสร้างรายงานคุณภาพต่ำจำนวนมาก ซึ่งกำลังใช้ทรัพยากรอย่างมากและชะลอการสืบสวนการล่วงละเมิดเด็ก ตามรายงานของ The Guardian ข่าวนี้เกิดขึ้นในขณะที่เจ้าหน้าที่บังคับใช้กฎหมายในรัฐนิวเม็กซิโกให้ปากคำเมื่อสัปดาห์ที่แล้วว่า รายงานที่สร้างโดย AI ทำให้ผู้สืบสวนถูกท่วมท้นและชะลอคดีการล่วงละเมิดเด็ก เจ้าหน้าที่ในกลุ่มงานอาชญากรรมทางอินเทอร์เน็ตต่อเด็กโดยเฉพาะกล่าวถึงระบบอัตโนมัติของ Meta ว่า พวกเขาสร้างคำแนะนำที่ไม่สามารถใช้งานได้หลายพันรายการต่อเดือน ซึ่งส่งต่อให้เจ้าหน้าที่บังคับใช้กฎหมาย “เรารับคำแนะนำจาก Meta ที่เป็นแค่ขยะมากมาย” เบนจามิน ซวีเบล เจ้าหน้าที่พิเศษในกลุ่ม ICAC ของนิวเม็กซิโก ให้การในระหว่างการพิจารณาคดีของรัฐต่อบริษัท

 เจ้าหน้าที่ ICAC อีกคนหนึ่ง ซึ่งไม่เปิดเผยชื่อ บอกกับ The Guardian ว่า คำแนะนำทางไซเบอร์ของแผนกเพิ่มขึ้นเป็นสองเท่าในปี 2025 “มันค่อนข้างท่วมท้น เพราะเรารับรายงานจำนวนมาก แต่คุณภาพของรายงานนั้นแทบไม่มีเลยในแง่ของความสามารถในการดำเนินการอย่างจริงจัง” เขากล่าว ในแถลงการณ์ที่แชร์กับ Decrypt โฆษกของ Meta กล่าวว่า บริษัทให้ความร่วมมือกับเจ้าหน้าที่บังคับใช้กฎหมายมาอย่างยาวนาน และชี้ให้เห็นว่า กระทรวงยุติธรรมและศูนย์กลางแห่งชาติสำหรับเด็กที่หายไปและถูกล่วงละเมิดได้ชื่นชมกระบวนการรายงานของบริษัท

“ในปี 2024 เรายื่นคำร้องฉุกเฉินจากเจ้าหน้าที่สหรัฐฯ มากกว่า 9,000 ราย และแก้ไขภายในเฉลี่ย 67 นาที และในกรณีที่เกี่ยวข้องกับความปลอดภัยของเด็กและการฆ่าตัวตายก็ทำได้รวดเร็วขึ้น” โฆษกกล่าว “ตามกฎหมายที่เกี่ยวข้อง เรายังรายงานภาพลักษณะการล่วงละเมิดทางเพศเด็กที่ชัดเจนต่อ NCMEC และสนับสนุนให้พวกเขาจัดลำดับความสำคัญของรายงาน ตั้งแต่ช่วยสร้างเครื่องมือจัดการคดีของพวกเขา ไปจนถึงการติดป้ายคำแนะนำทางไซเบอร์เพื่อให้พวกเขารู้ว่ารายไหนเร่งด่วน” เขาเสริม อย่างไรก็ตาม เจ้าหน้าที่ ICAC กล่าวว่า รายงานบางส่วนที่ส่งโดย Meta ไม่ใช่คดีอาชญากรรม ในขณะที่รายงานอื่นขาดหลักฐานที่น่าเชื่อถือเพียงพอที่จะดำเนินคดี การเพิ่มขึ้นนี้เป็นผลมาจากพระราชบัญญัติรายงาน ซึ่งลงนามในกฎหมายเมื่อพฤษภาคม 2024 และขยายข้อกำหนดในการรายงานให้ครอบคลุมถึงการล่วงละเมิดที่วางแผนไว้หรือใกล้จะเกิดขึ้น การค้ามนุษย์ทางเพศเด็ก และการล่วงละเมิดที่เกี่ยวข้อง พร้อมทั้งกำหนดให้บริษัทเก็บรักษาหลักฐานนานขึ้น ตัวเลขโดยรวม Meta ยังคงเป็นแหล่งรายงานหลักต่อ NCMEC’s CyberTipline คิดเป็นประมาณสองในสามของคำแนะนำ 20.5 ล้านรายการที่ได้รับในปี 2024 ลดลงจาก 36.2 ล้านในปี 2023 การลดลงนี้บางส่วนเกิดจากการเปลี่ยนแปลงในแนวปฏิบัติการรายงานของ Meta ในรายงานความซื่อสัตย์ของบริษัทเดือนสิงหาคม 2025 Meta กล่าวว่า Facebook, Instagram และ Threads ส่งรายงาน CyberTip มากกว่า 2 ล้านรายการให้กับ NCMEC ในไตรมาสที่สองของปี 2025 จากจำนวนนี้กว่า 528,000 รายการเกี่ยวข้องกับการโต้ตอบที่ไม่เหมาะสมกับเด็ก ๆ และมากกว่า 1.5 ล้านรายการเกี่ยวข้องกับการแชร์หรือแชร์ซ้ำเนื้อหาการล่วงละเมิดทางเพศเด็ก แม้ตัวเลขเหล่านี้ JB Branch นักรณรงค์ด้านนโยบายจาก Public Citizen กล่าวว่า การพึ่งพา AI ที่เพิ่มขึ้นทำให้พระราชบัญญัติรายงานมีประสิทธิภาพน้อยลงสำหรับผู้สืบสวนที่ตรวจสอบคดี โดยโต้แย้งว่าแม้ว่าอัลกอริทึมจะช่วยลดภาระงานของผู้ดูแลเนื้อหาอยู่แล้ว แต่ผู้ตรวจสอบที่เป็นมนุษย์ยังคงเป็นตัวกรองที่มีประสิทธิภาพที่สุด “ปัญหาหนึ่งคือบริษัทเทคโนโลยีจำนวนมากได้ปลดพนักงานกลั่นกรองเนื้อหาและแทนที่ด้วยคุณสมบัติด้านความปลอดภัยของ AI” Branch กล่าวกับ Decrypt “เป็นผลให้มีการเลือกคำแนะนำเท็จจำนวนมากออกมาโดยความระมัดระวังเกินไป” ในอดีต Branch กล่าวว่า มีผู้ตรวจสอบเนื้อหาเป็นมนุษย์ในสายการตรวจสอบมากขึ้น ซึ่งสามารถระบุและลบเนื้อหาที่ไม่สมควรเร่งดำเนินคดีได้ “เพราะบริษัทเหล่านี้ได้ปลดพนักงานกลั่นกรองเนื้อหาออกไปหรือไม่ก็เปลี่ยนเป็น AI ทำให้เนื้อหามากขึ้นถูกส่งต่อไปเรื่อย ๆ เพราะพวกเขาต้องการระมัดระวังมากขึ้น” เขากล่าว “พวกเขากำลังลากอวนกว้างขึ้นและจับสิ่งที่ไม่สมควรได้มากขึ้น และพึ่งพาเครื่องมือ AI อย่างมากในการทำเช่นนั้น” เจ้าหน้าที่สืบสวนกล่าวว่า ผลกระทบของคำแนะนำจาก AI ที่ผิดพลาดกำลังถูกสัมผัสได้ภายในกลุ่มงานที่ตรวจสอบคำแนะนำเหล่านั้น “มันทำลายขวัญกำลังใจ เรากำลังจมอยู่กับคำแนะนำ และเราต้องการออกไปทำงานนี้” เจ้าหน้าที่ ICAC รายงานว่าเคยกล่าวไว้ “เราไม่มีบุคลากรเพียงพอที่จะรับมือกับน้ำท่วมคำแนะนำที่เข้ามาได้”