2000 شخص حاولوا اختراق مساعد ذكي: 6000 محاولة فاشلة تثبت تقدم نماذج الذكاء الاصطناعي في مقاومة حقن الأوامر

تفاصيل التحدي

أجرى فرناندو إرارازافال تحدياً على موقع hackmyclaw.com لاختبار أمان مساعده الذكي OpenClaw، حيث سمح لأكثر من 2000 شخص بإرسال رسائل بريد إلكتروني لمحاولة تسريب الأسرار المخزنة في ملف secrets.env. استخدم النموذج Opus 4.6 مع تعليمات صارمة تمنع الكشف عن البيانات أو تعديل الملفات أو تنفيذ الأوامر.

النتائج المذهلة

بعد 6000 محاولة اختراق (بتكلفة 500 دولار من الرموز المميزة)، لم ينجح أي مهاجم في تسريب الأسرار. حتى أن كثافة المحاولات أدت لتعليق حساب Google الخاص بالمشروع. هذا يؤكد تحسن النماذج الحديثة في مقاومة هجمات حقن الأوامر، كما ورد في بطاقة نظام GPT-5.6.

مقارنة مع النماذج السابقة

النماذج القديمة مثل GPT-3.5 كانت عرضة لهذه الهجمات بشكل كبير، حيث كان بإمكان المهاجمين بسهولة تجاوز القيود بعبارات بسيطة. أما النماذج الحديثة مثل Opus 4.6 وGPT-5.6 فأظهرت تحسناً جذرياً بفضل التدريب المكثف على الأمان.

توصيات للمؤسسات في الشرق الأوسط

رغم النجاح، يحذر الخبراء من الاعتماد المطلق على هذه النماذج. ينصح ب:

• تطبيق طبقات حماية إضافية (مصادقة، مراقبة).
• اختبار الأنظمة بانتظام ضد هجمات حقن الأوامر.
• عدم تخزين بيانات حساسة في سياق النموذج دون تشفير.

ملاحظة للمراجعة البشرية: تم تلخيص المعلومات من المصدر الأصلي مع إضافة سياق إقليمي.