قدّمت Google دعوى قضائية ضد Outsider Enterprise، وهي شبكة جرائم سيبرانية مقرّها الصين، وتُتهم بتشغيل عملية تصيّد احتيالي مدعومة بالذكاء الاصطناعي استهدفت مستخدمي Android عبر رسائل نصية ومواقع ويب مزيفة. تزعم الشركة أن المجموعة استخدمت ذكاء Google Gemini AI لبناء مواقع ويب احتيالية تُزوّر Google وYouTube والجهات الحكومية، مع تشغيل نموذج “التصيّد الاحتيالي كخدمة” عبر Telegram. وقالت Google إن الشبكة مرتبطة بـ 9,000 موقع ويب مزيف، وأكثر من مليون عنوان URL احتيالي، و2.5 مليون رسالة نصية مرسلة إلى مستخدمي Android، مع رصد نحو 55,000 رسالة غير مرغوب فيها خلال فترة أسبوعين في مايو. وتُعد هذه أول قضية تتخذ فيها Google إجراءً قانونيًا مباشرًا ضد مجموعة اتُّهمت باستخدام Gemini ضمن سير عمل احتيالي. وتُبرز الدعوى التحول من مخاوف إساءة استخدام الذكاء الاصطناعي بشكل مجرد إلى عمليات احتيال موثّقة، إذ تُخفض أدوات الذكاء الاصطناعي التوليدي الحواجز التقنية أمام المجرمين الراغبين في توسيع حملات التصيّد الاحتيالي.
Outsider Enterprise شغّلت “التصيّد الاحتيالي كخدمة” عبر Telegram
قالت Google إن المجموعة عملت عبر Telegram وقدمت أدوات “التصيّد الاحتيالي كخدمة” للمحتالين الذين لا يحتاجون إلى مهارات تقنية متقدمة. وتزعم الدعوى أن الشبكة وفرت تعليمات لاستخدام Google Gemini AI لبناء مواقع ويب احتيالية تُحاكي Google وYouTube والجهات الحكومية، بما في ذلك نظام E-ZPass التابع لولاية نيويورك.
وقالت Google إن المجموعة قدمت ما يقرب من 300 قالب احتيالي، وكانت مرتبطة بـ 9,000 موقع ويب مزيف وأكثر من مليون عنوان URL احتيالي. وأسفرت الحملة عن إرسال أكثر من 2.5 مليون رسالة نصية إلى مستخدمي Android، بما في ذلك نحو 55,000 رسالة غير مرغوب فيها تم وضعها ضمن قائمة التحذير خلال فترة أسبوعين في مايو.
غالبًا ما كانت الرسائل تحذر المستخدمين من مشكلات الحساب أو مشكلات الطرود أو مدفوعات الرسوم أو ادعاءات عاجلة أخرى. وتم إرسال الضحايا الذين ضغطوا على الروابط إلى مواقع ويب مزيفة مصممة لتبدو شرعية، حيث حاول المهاجمون سرقة معلومات شخصية وتفاصيل مصرفية ومعلومات الاعتماد الخاصة بالدفع.
يُزعم استخدام Gemini AI لتوليد مواقع ويب احتيالية على نطاق واسع
يؤثر الاستخدام المزعوم للذكاء الاصطناعي التوليدي في اقتصاديات التصيّد الاحتيالي. فقد أصبحت صفحات الاحتيال التي كانت تتطلب سابقًا عملًا يدويًا في التصميم يمكن إنتاجها الآن بسرعة أكبر، وتكييفها عبر العلامات التجارية، ونشرها باستخدام قوالب جاهزة. وهذا يقلل عتبة الدخول أمام المجرمين الأقل خبرة، ويسمح لشبكات الاحتيال بتوسيع الحملات عبر آلاف عناوين URL.
وبالنسبة لشركات التكنولوجيا، يبرز هذا أيضًا توترًا صعبًا في المنتج. إذ تُبنى أنظمة الذكاء الاصطناعي لتتبع التعليمات وتنتج مخرجات مصقولة، لكن يمكن إساءة استخدام تلك القدرات نفسها لإنتاج مواقع ويب مزيفة مقنعة ورسائل خدمة عملاء وصفحات انتحال للعلامة التجارية. يمكن أن تقلل “حواجز الحماية” الأقوى من إساءة الاستخدام، إلا أن المهاجمين غالبًا ما يبحثون عن طلبات غير مباشرة أو إعادة استخدام القوالب أو سير عمل خارجي يتجاوز آليات الكشف.
Google تنسق مع FBI وشركات الاتصالات لحجب الرسائل الخبيثة
قالت Google إنها تعمل مع قسم الجرائم السيبرانية التابع لـ FBI ضمن تحقيق جنائي موازي، كما تنسقت مع AT&T وVerizon وT-Mobile لحجب الرسائل النصية الخبيثة المرتبطة بالحملة.
وأشارت الشركة أيضًا إلى دفاعاتها الخاصة بالمنتجات. وقالت Google إن أدوات مراسلتها تعترض أكثر من 10 مليارات رسالة خبيثة كل شهر، بينما يمكن لاكتشاف عمليات الاحتيال في Android وضع مكالمات وجهات اتصال مشبوهة ضمن التحذير في الوقت الفعلي. وقد تحد هذه الدفاعات من عدد محاولات التصيّد الاحتيالي الناجحة، رغم أن Google لم تُقدّر مقدار الأموال التي تم سرقتها عبر حملات Outsider Enterprise.
التحدي هو أن مشغلي المجموعة يظلون غير معروفين. حتى لو تم تحديد الأسماء لاحقًا، تصبح إنفاذ الإجراءات أصعب عندما يكون المشتبه بهم خارج الولايات المتحدة. تستطيع Google ملاحقة النطاقات الاحتيالية وحسابات Telegram وبنية الاستضافة والأصول ذات الصلة، لكن العملية الأساسية قد تنتقل إلى علامات تجارية جديدة أو نطاقات جديدة أو قنوات توصيل جديدة.
قال Brett Leatherman من قسم Cyber Division في FBI: “يستخدم المجرمون الذكاء الاصطناعي بشكل متزايد لجعل الاحتيال مثل هذا أكثر إقناعًا وأصعب في الاكتشاف”.
Google تدعم تشريعًا فيدراليًا يستهدف عمليات الاحتيال بمساعدة الذكاء الاصطناعي
تستخدم Google الدعوى القضائية لتجديد دعمها لتشريع فيدرالي يستهدف عمليات الاحتيال بمساعدة الذكاء الاصطناعي والتلاعب بالسوق وزيادة الوعي العام. وقد دعمت الشركة عدة مقترحات عبر خطوط الحزبين، بما في ذلك National Strategy for Combating Scams Act وStrategic Task Force on Scam Prevention Act وAI Plan Act وStop SCAMS Against Seniors Act.
ستوجّه معظم التشريعات المقترحة الوكالات الفيدرالية إلى التنسيق بشكل أوثق بشأن الاحتيال المدعوم بالذكاء الاصطناعي، وإنشاء فرق عمل، أو تحسين التثقيف العام حول الاستخدامات الضارة للذكاء الاصطناعي. ويعكس هذا النهج نظرة متنامية مفادها أن منع الاحتيال لا يمكن التعامل معه فقط عبر تعديل المحتوى الخاص بالمنصات أو عبر الدعاوى القانونية اللاحقة بعد وقوع الضرر.
أما المشكلة الأكبر في السياسة العامة فهي أن عمليات الاحتيال التي يولّدها الذكاء الاصطناعي ستصبح أصعب في التعرف عليها مع تحسّن النماذج. قد تساعد حملات التوعية العامة المستخدمين على التعرف إلى التكتيكات الشائعة، لكن من المرجح أن يواصل المهاجمون تحسين الرسائل والصفحات وتقنيات انتحال الهوية. وهذا يترك الشركات التقنية الكبرى أمام عبء مزدوج: بناء منتجات ذكاء اصطناعي يريدها الناس استخدامها، وفي الوقت نفسه منع تلك الأدوات نفسها من أن تصبح بنية تحتية للاحتيال على نطاق صناعي.
FAQ
ماذا اتهمت Google Outsider Enterprise بالقيام به؟
اتهمت Google Outsider Enterprise، وهي شبكة جرائم سيبرانية مقرّها الصين، بتشغيل عملية تصيّد احتيالي مدعومة بالذكاء الاصطناعي استخدمت Google Gemini AI لإنشاء مواقع ويب مزيفة تُنحل Google وYouTube والجهات الحكومية. ووفقًا للاتهام، كانت المجموعة تعمل بنموذج “التصيّد الاحتيالي كخدمة” عبر Telegram، وتوفر ما يقرب من 300 قالب احتيالي للمحتالين. وقالت Google إن الشبكة مرتبطة بـ 9,000 موقع ويب مزيف وأكثر من مليون عنوان URL احتيالي و2.5 مليون رسالة نصية أُرسلت إلى مستخدمي Android.
كيف تعمل Google على تعطيل عملية التصيّد الاحتيالي؟
قالت Google إنها تعمل مع قسم الجرائم السيبرانية في FBI ضمن تحقيق جنائي موازي، كما تنسقت مع AT&T وVerizon وT-Mobile لحجب الرسائل النصية الخبيثة المرتبطة بالحملة. كما ذكرت الشركة أن أدوات مراسلتها تعترض أكثر من 10 مليارات رسالة خبيثة كل شهر، وأن اكتشاف عمليات الاحتيال في Android يمكنه وضع مكالمات وجهات اتصال مشبوهة ضمن التحذير في الوقت الفعلي. وتلاحق Google النطاقات الاحتيالية وحسابات Telegram وبنية الاستضافة المرتبطة بالشبكة.
ما التشريعات الفيدرالية التي تدعمها Google لمكافحة عمليات الاحتيال بمساعدة الذكاء الاصطناعي؟
دعمت Google عدة مقترحات عبر خطوط الحزبين، بما في ذلك National Strategy for Combating Scams Act وStrategic Task Force on Scam Prevention Act وAI Plan Act وStop SCAMS Against Seniors Act. وستوجّه معظم التشريعات المقترحة الوكالات الفيدرالية إلى التنسيق بشكل أوثق بشأن الاحتيال المدعوم بالذكاء الاصطناعي، وإنشاء فرق عمل، أو تحسين التثقيف العام حول الاستخدامات الضارة للذكاء الاصطناعي.
