تم مراقبة Grok بسبب الاستغلال الجنسي من قبل 9 مناطق رئيسية! المملكة المتحدة تبدأ تحقيقًا، وإذا ثبتت المخالفة، قد تتعرض لغرامة ضخمة

مؤسس شركة Grok التابعة ل Elon Musk، والتي يُشتبه في توليد صور استغلال الأطفال والقصّر، تم رصدها من قبل هيئات تنظيمية في تسع مناطق تشمل المملكة المتحدة وأستراليا، حيث يمكن أن تصل غرامة المملكة المتحدة في حال ثبوت المخالفة إلى 18 مليون جنيه إسترليني، وحتى طلب أمر قضائي بحظر الخدمة.

تحقيقات في المملكة المتحدة حول Grok بتهمة استغلال الأطفال والقصّر، وإذا ثبتت المخالفة قد تصل الغرامة إلى 1800 مليون جنيه إسترليني

مؤخرًا، تم الكشف عن أن روبوت الدردشة الذكي Grok، المملوك ل Elon Musk، قد تم استغلاله بشكل واسع لإنشاء صور مزيفة عميقة (Deepfake) إباحية، بما في ذلك ضحايا من الأطفال والمراهقين، بعد دمجه مع منصة X التي أضيفت إليها وظيفة تعديل الصور بنقرة واحدة لتبدو واقعية.

وفي الآونة الأخيرة، بدأت المملكة المتحدة وأستراليا تحقيقات رسمية أو تحذيرات ضد منصة X (تويتر سابقًا)، وإذا كانت المخالفات جسيمة، قد تواجه غرامات كبيرة أو حظر.

وقد أطلقت هيئة تنظيم الاتصالات في المملكة المتحدة (Ofcom) تحقيقات حول محتوى استغلال الأطفال والقصّر (CSAM) والمحتوى الإباحي العميق (Deepfake) غير المرخص.

وفي حال ثبتت مخالفة X، قد تصل الغرامة إلى 1,800 مليون جنيه إسترليني أو 10% من إيرادات الشركة العالمية. وإذا رفضت X الامتثال، يمكن لـ Ofcom طلب أمر قضائي لإجبار مزودي خدمات الإنترنت على حظر منصة X داخل المملكة المتحدة.

المصدر: Ofcom، هيئة تنظيم الاتصالات في المملكة المتحدة، بدأت تحقيقات ضد X وGrok، مع التركيز على محتوى استغلال الأطفال والقصّر (CSAM) والمحتوى الإباحي العميق غير المصرح به.

أما مكتب السلامة الإلكترونية الأسترالي (eSafety)، فقد تلقى عدة تقارير عن صور استغلال جنسي تم إنشاؤها بواسطة Grok، رغم أن الأعداد قليلة إلا أنها في تزايد، وقد طلب من X تزويده بمزيد من المعلومات حول التدابير الوقائية لمنع الاستخدام السيئ.

وحذر مكتب eSafety من أنه في حال ثبتت المخالفة، سيقوم بإصدار إشعارات إزالة، وابتداءً من 9 مارس 2026، ستدخل اللوائح الجديدة في أستراليا حيز التنفيذ، مع تشديد القيود على وصول الأطفال إلى المحتوى الإباحي والعنيف عبر خدمات الذكاء الاصطناعي.

المصدر: eSafety، مكتب السلامة الإلكترونية الأسترالي، يطلب من X تزويده بمزيد من المعلومات حول التدابير الوقائية لمنع الاستخدام السيئ.

الجدل حول استغلال Grok يُراقب عن كثب، والحظر والتحقيقات في المناطق المختلفة

وفقًا لتقارير Euro News وتقارير سابقة، بما في ذلك المملكة المتحدة وأستراليا، هناك حالياً 9 دول ومناطق تتخذ إجراءات ضد Grok (يمكن التمرير لرؤية التفاصيل):

حدود دفع Grok وإيقافه الدائم

ردًا على ضغوطات التنظيم في مختلف الدول، ردت منصة X وxAI. وكشفت هيئة تنظيم ماليزية أن X أبلغت أنها تعتمد بشكل رئيسي على تقارير المستخدمين لمعالجة المحتوى المسيء، وتعتزم اتخاذ إجراءات أكثر نشاطًا لتهدئة الجدل.

وكانت منصة X قد أكدت سابقًا أنها ستتخذ إجراءات ضد المحتوى غير القانوني مثل مواد استغلال الأطفال (CSAM)، بما في ذلك حظر الحسابات ذات الصلة بشكل دائم، والتعاون مع السلطات عند الحاجة.

المصدر: X، منصة X كانت قد أكدت أنها ستتخذ إجراءات ضد مواد استغلال الأطفال (CSAM) وغيرها من المحتوى غير القانوني.

بالإضافة إلى ذلك، قامت منصة X مؤخرًا بتقييد وظيفة تعديل الصور في Grok، بحيث يتطلب أن يكون المستخدم مشتركًا (علامة زرقاء) لاستخدامها.

وقد انتقد البعض احتمال أن تفرض X رسومًا على مستخدمي Grok السيئين، مع التشكيك في أن تكون إعلانات الاحتيال على Meta أقل من 95%، وأنها مجرد إعلانات احتيالية تتقاضى أسعارًا مرتفعة، بينما يعتقد آخرون أنه حتى لو لم يتم القضاء تمامًا على الاستخدام السيئ، فإن وجود حد أدنى للاستخدام أفضل من عدم وجوده.