رسائل Gate News: حذّر باحثون من Google DeepMind من أن البيئة المفتوحة للإنترنت قد تُستغل لاختطاف وكلاء ذكاء اصطناعي مستقلّين والتلاعب بسلوكهم. ويشير تقرير بعنوان «فخ وكلاء الذكاء الاصطناعي» إلى أنه عند قيام الشركات بنشر وكلاء AI لأداء مهام فعلية، فقد يقوم المهاجمون أيضًا بتنفيذ هجمات موجهة عبر الشبكة. وقد حددت الدراسة ستة أنواع رئيسية من المخاطر، منها: فخ حقن المحتوى، وفخ التلاعب الدلالي، وفخ الحالة المعرفية، وفخ التحكم في السلوك، وفخ النظام، وفخ التفاعل بين الإنسان والآلة.
يُعد فخ حقن المحتوى الأكثر مباشرةً؛ إذ يمكن للمهاجمين وضع تعليمات داخل تعليقات HTML أو بيانات وصفية أو عناصر صفحات مخفية، ثم يقوم الوكيل بقراءتها والقيام بتنفيذها. أما فخ التلاعب الدلالي فيعتمد على تحميل تعابير رسمية/موثوقة أو التمويه عبر صفحات تتظاهر بأنها بيئة بحث، للتأثير خفيةً في فهم الوكيل للمهمة، وأحيانًا حتى تجاوز آليات الأمان. ويتحقق فخ الحالة المعرفية من خلال إدخال بياناتٍ مزيفة في مصادر معلومات الوكيل، بحيث يظل يعتقد لفترة طويلة أن هذه المعلومات قد تم التحقق منها. أما فخ التحكم في السلوك فيستهدف العمليات الفعلية للوكيل، ويمكن أن يدفعه إلى الوصول إلى بيانات حساسة ونقلها إلى هدف خارجي.
يتعلق فخ النظام بالتلاعب التعاوني عبر عدة أنظمة للذكاء الاصطناعي، وقد يؤدي إلى ردود فعل متسلسلة، على نحوٍ مشابه لحدوث تعطل مفاجئ في السوق بسبب التداولات الخوارزمية. أما فخ التفاعل بين الإنسان والآلة فيستغل مرحلة المراجعة البشرية، وذلك عبر إعداد محتوى مراجعة يبدو موثوقًا، مما يسمح للسلوكيات الضارة بالالتفاف على الرقابة.
ولمعالجة المخاطر، تقترح DeepMind دمج التدريب المضاد للهجمات، وتصفية الإدخال، والمراقبة السلوكية، ونظام سمعة محتوى الشبكة، مع وضع إطار أكثر وضوحًا للمسؤولية القانونية. ومع ذلك، تشير الدراسة إلى أنه لا تزال تفتقر الصناعة إلى معايير دفاع موحدة، وأن التدابير الحالية غالبًا ما تكون متفرقة ومختلفة في تركيزها. وتدعو الدراسة المطورين والشركات إلى إيلاء اهتمام لسلامة بيئة تشغيل وكلاء الذكاء الاصطناعي، والوقاية من مخاطر التلاعب الشبكي المحتمل وسوء الاستخدام.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى
إخلاء المسؤولية.
مقالات ذات صلة
مستشار بالبيت الأبيض يستشهد بالاستغلال باعتباره سببًا لوجود ضمانات فيدرالية للعملات المشفرة
استشهد مستشار البيت الأبيض للأصول الرقمية باتريك وِت باستغلال حديث تورّط في أصول محتفظ بها لدى هيئة المارشالات الأمريكية، كدليل على أن الحيازات الفيدرالية من العملات المشفرة تتطلب تدابير إضافية لتعزيز الحماية، وفقاً لما ورد في البيان.
تركيز على أمن العملات المشفرة فيدرالياً
تشير تعليقات وِت إلى تزايد
CryptoFrontierمنذ 48 د
سُجن رجل من كاليفورنيا يُدعى Marlon Ferro بتهمة سرقة محافظ باردة بقيمة 250 مليون دولار لمدة 78 شهرًا
وفقًا لبيان رسمي صادر عن وزارة العدل الأمريكية (DOJ) في 7 مايو، حُكم على مارلون فيرّو، البالغ من العمر 20 عامًا، وهو رجل من كاليفورنيا، بالسجن لمدة 78 شهرًا للمشاركة في عملية احتيال بالهندسة الاجتماعية للأصول المشفرة على مستوى البلاد، كما صدر بحقه حكم يقضي بالإفراج الخاضع للرقابة لمدة 3 سنوات وبغرامة تعويضية بقيمة 2.5 مليون دولار. ووفقًا لبيان الوزارة، استولت المجموعة الإجرامية على أصول مشفرة بقيمة تتجاوز 250 مليون دولار من عدة ضحايا.
MarketWhisperمنذ 2 س
تعرض صانع السيولة لدى 1inch TrustedVolumes لهجوم، وتبلغ الخسائر 5.87 مليون دولار
أفصحت شركة أمن البلوك تشين Blockaid، في منشور على X بتاريخ 6 مايو بتوقيت الولايات المتحدة الشرقي، عن أن مزود السيولة وصانع السوق TrustedVolumes التابع لمنصة تجميع السيولة في بورصة لامركزية 1inch يتعرض لهجوم متواصل، وبلغت الخسائر حوالي 5.87 مليون دولار حتى وقت صدور بيان Blockaid.
MarketWhisperمنذ 2 س
وضعت Aave مراكز مُصفي الهجوم ضد Kelp DAO، وصوّتت Arbitrum بالموافقة على فك تجميد rsETH
وفقاً لإعلان Aave في 7 مايو، وصلت عملية تصويت Arbitrum DAO بشأن فك تجميد أصول ETH المرتبطة بحادثة rsETH بتاريخ 18 أبريل إلى النصاب القانوني، بمشاركة أكثر من 1,600 عنوان، وحظيت بدعم إجماعي من المجتمع. وفي اليوم ذاته، أنهت Aave، استناداً إلى إجراءاتها التنظيمية المعتمدة، تصفية الحصص المتبقية من rsETH لدى المعتدين على Kelp DAO في بروتوكول Aave.
MarketWhisperمنذ 3 س
يتعرض مزود السيولة 1inch الموثوق TrustedVolumes لهجوم على شبكة Ethereum، وتم الاستيلاء على 5.87 مليون دولار
وفقاً لـ Blockaid، يتعرض صانع السوق وحلّال الصفقات TrustedVolumes من 1inch لهجوم على شبكة Ethereum اعتباراً من 7 مايو. تم رصد هذه الثغرة في نظام المراقبة الأمنية الخاص بـ Blockaid ضمن عقد مخصص لوكيل تداول RFQ تُسيطر عليه TrustedVolumes. وقد قام المهاجمون باستخراج
GateNewsمنذ 4 س
تحذير من المشروع Eleven: يواجه 690 مليون وحدة من BTC تهديداً كمومياً، وأقرب موعد لـ Q-Day هو 2030
أعلنت شركة ناشئة في مجال الأمان ما بعد الحوسبة الكمية، Project Eleven، في 6 مايو، عن تقرير تحذر فيه من أن اختراق أجهزة الكمبيوتر الكمية للحد الحرج (Q-Day) لأحدث تقنيات التشفير قد يحدث في أقرب وقت ممكن بحلول عام 2030، مع تجاوز احتمال حدوثه بحلول عام 2033 نسبة 50%. كما قدّر التقرير، في الوقت نفسه، أنه تحت ظروف محددة، تواجه نحو 6.9 مليون من عملات بيتكوين خطرًا محتملاً لهجمات كمية، ودعا منظومة العملات المشفرة إلى تسريع وتيرة الانتقال نحو التشفير المقاوم للهجمات الكمية.
MarketWhisperمنذ 4 س
