ذكرت سلطات إنفاذ القانون أن ذكاء اصطناعي من Meta يملأ محققي إساءة معاملة الأطفال بنصائح "غير مهمة"

ملخص سريع

• يقول ضباط هيئة مكافحة الجرائم الإلكترونية إن نصائح الذكاء الاصطناعي من Meta تجهد المحققين بتقارير غير قابلة للاستخدام.
• يأتي ذلك وسط ادعاءات في دعوى قضائية في نيو مكسيكو تزعم أن ذكاء Meta الاصطناعي يعقد التحقيقات في استغلال الأطفال.
• ردت Meta بأنها تتعاون بسرعة مع سلطات إنفاذ القانون وتراجع التقارير قبل تقديمها.

استخدام Meta للذكاء الاصطناعي لمراقبة منصاتها يولد كميات كبيرة من التقارير منخفضة الجودة التي تستنزف الموارد وتبطئ التحقيقات في قضايا إساءة معاملة الأطفال، وفقًا لتقرير من The Guardian. ويأتي هذا الخبر بعد أن شهد مسؤولو إنفاذ القانون في نيو مكسيكو الأسبوع الماضي أن التقارير الناتجة عن الذكاء الاصطناعي تجهد المحققين وتبطئ قضايا استغلال الأطفال. وأشار ضباط فريق مكافحة الجرائم الإلكترونية ضد الأطفال بشكل خاص إلى أنظمة Meta الآلية، قائلين إنها تولد آلاف النصائح غير القابلة للاستخدام شهريًا وتُحال إلى سلطات إنفاذ القانون. قال بنيامين زويبل، وكيل خاص في فريق ICAC في نيو مكسيكو، خلال محاكمة الشركة في الولاية: “نحصل على الكثير من النصائح من Meta التي تعتبر نوعًا من النفايات.”

 قال ضابط آخر في ICAC، طلب عدم الكشف عن هويته، لـ The Guardian إن النصائح الإلكترونية من القسم تضاعفت من 2024 إلى 2025. “الأمر مرهق جدًا لأننا نتلقى العديد من التقارير، لكن جودة التقارير تفتقر حقًا إلى قدرتنا على اتخاذ إجراءات جدية”، قال. وفي بيان شارك مع Decrypt، قال متحدث باسم Meta إن الشركة تتعاون منذ فترة طويلة مع سلطات إنفاذ القانون وأشار إلى أن وزارة العدل والمركز الوطني للأطفال المفقودين والمستغلين قد أشادوا بعملية إعداد التقارير لديها.

قال المتحدث: “في عام 2024، تلقينا أكثر من 9000 طلب طارئ من السلطات الأمريكية وحلّلناها في متوسط ​​67 دقيقة، وحتى بشكل أسرع في الحالات التي تتعلق بسلامة الأطفال والانتحار.” وأضاف: “وفقًا للقانون المعمول به، نقوم أيضًا بالإبلاغ عن صور استغلال جنسي للأطفال الظاهرة إلى NCMEC وندعمهم في تحديد أولويات التقارير، من المساعدة في بناء أداة إدارة القضايا الخاصة بهم إلى تصنيف النصائح الإلكترونية حتى يعرفوا أيها عاجل.” لكن ضباط ICAC قالوا إن بعض التقارير التي أرسلتها Meta ليست جنائية بطبيعتها، بينما يفتقر البعض الآخر إلى الأدلة الموثوقة اللازمة لمتابعة القضية. ويأتي هذا الارتفاع بعد توقيع قانون تقرير الجرائم في مايو 2024، الذي وسع متطلبات الإبلاغ لتشمل الإساءة المخططة أو الوشيكة، والاتجار بالجنس بالأطفال، والاستغلال المرتبط، مع إلزام الشركات بالحفاظ على الأدلة لفترة أطول. بالأرقام لا تزال Meta المصدر الأكبر للتقارير إلى خط النصائح الإلكترونية لـ NCMEC، حيث تمثل حوالي ثلثي الـ20.5 مليون نصيحة التي تلقتها في 2024، بانخفاض من 36.2 مليون في 2023. ويُعزى هذا الانخفاض جزئيًا إلى تغييرات في ممارسات الإبلاغ لدى Meta. وفي تقريرها عن النزاهة في أغسطس 2025، قالت Meta إن فيسبوك، إنستغرام، وتريدز أرسلت أكثر من مليونين من تقارير CyberTip إلى NCMEC في الربع الثاني من 2025. من بين تلك التقارير، كانت أكثر من 528,000 تتعلق بتفاعلات غير مناسبة مع الأطفال، بينما تجاوزت 1.5 مليون تتعلق بمشاركة أو إعادة مشاركة مواد اعتداء جنسي على الأطفال. على الرغم من هذه الأرقام، قال JB Branch، مدافع السياسات في منظمة Public Citizen، إن الاعتماد المتزايد على الذكاء الاصطناعي جعل قانون التقرير أقل كفاءة للمحققين في مراجعة الحالات، مؤكدًا أن الخوارزميات كانت دائمًا تساعد في تقليل عبء عمل المشرفين، لكن المراجعين البشريين كانوا الفلتر الأكثر فاعلية. قال Branch لـ Decrypt: “جزء من المشكلة هنا هو أن العديد من شركات التكنولوجيا هذه قامت بتسريح مراقبي المحتوى واستبدالهم بميزات أمان تعتمد على الذكاء الاصطناعي.” وأضاف: “نتيجة لذلك، هناك فائض من الإيجابيات الكاذبة التي يتم اختيارها من خلال الحذر المفرط.” قال Branch إن هناك عادةً المزيد من المراجعين البشريين في سلسلة المراجعة سابقًا، الذين يمكنهم التعرف على المحتوى غير المستحق للتصعيد وإزالته. وتابع: “لأن هذه الشركات أزالت المراجعين البشريين أو المحتوى من السلسلة، يتم تمرير الكثير من الأشياء لأنها تريد أن تكون حذرًا،” مضيفًا: “إنهم يلقطون شبكة أوسع ويصطادون أشياء لا تستحق حتى، ويعتمدون بشكل كبير على أدوات الذكاء الاصطناعي للقيام بذلك.” يقول المحققون إن تأثير النصائح الخاطئة الناتجة عن الذكاء الاصطناعي يُشعر به الآن داخل فرق العمل التي تراجعها. قال ضابط في ICAC، وفقًا للتقارير: “إنه يقتل الروح المعنوية. نحن غارقون في النصائح، ونريد أن نخرج ونقوم بهذا العمل،” مضيفًا: “ليس لدينا العدد الكافي من الأفراد لتحمل ذلك. لا يمكننا مواكبة الفيضان القادم.”