PlanFlip: هجمات الحقن في مرحلة التخطيط تستهدف أنظمة الوكلاء المتعددين LLM

نظرة عامة على PlanFlip

كشفت دراسة جديدة من arXiv عن ثغرة أمنية خطيرة في أنظمة الوكلاء المتعددة LLM، حيث يمكن لحقن واحد في مرحلة التخطيط أن يلوث جميع المهام الفرعية. أُطلق على الإطار اسم PlanFlip، ويشمل أربعة أنواع من الهجمات: استبدال الهدف (PF-1)، وعكس الأولويات (PF-2)، وتلويث السياق (PF-3)، والارتباك في الدور (PF-4).

النتائج الرئيسية

• النماذج الأقوى أكثر عرضة للخطر: حقق GPT-5 أعلى معدل نجاح للهجوم (ASR = 0.68)، مما يناقض الافتراض بأن النماذج الأقوى أكثر أمانًا.
• الأنظمة المتجانسة تعاني من ثغرة: أظهرت GPT-4o و Llama-3.3-70B معدلات نجاح هجوم قريبة من الصفر، لكنها أظهرت قدرة على إعادة هيكلة الخطط دون اكتشاف.
• النماذج المعززة بالاستدلال تقاوم: حقق DeepSeek-R1 معدل تغيير خطوة صفريًا (StepShift = 0.00) عبر جميع الهجمات.

التوصيات للفرق في الشرق الأوسط

• اعتماد التنوع غير المتجانس: استخدام نماذج مختلفة الخلفيات يقلل من مخاطر الهجمات.
• تطبيق تقنيات الكشف: مثل GoalAnchorCheck و CrossAgentConsensus اللتين حققتا معدلات كشف تصل إلى 1.00.
• اختيار نماذج معززة بالاستدلال: مثل DeepSeek-R1 لمقاومة الهجمات.

ملاحظة للمراجعة البشرية: هذه الدراسة حديثة وتتطلب تقييمًا إضافيًا من قبل خبراء الأمن السيبراني في المنطقة.