OpenEvoShield: إطار دفاع مستمر ضد هجمات الأنظمة متعددة الوكلاء في العالم المفتوح

نظرة عامة

تم تقديم OpenEvoShield في ورقة بحثية على arXiv كإطار دفاع تطوري مستمر للأنظمة متعددة الوكلاء القائمة على LLM (LLM-MAS). هذه الأنظمة تُستخدم بشكل متزايد في تطبيقات السلامة الحرجة، حيث يمكن للخصوم حقن تعليمات ضارة عبر التواصل بين الوكلاء.

المكونات الرئيسية

يتكون الإطار من أربعة مكونات رئيسية:

• M1: وحدة تحكم غير متماثلة في معدل التعلم تفصل بين معدلات التعلم السريعة للهجمات والبطيئة للسلوك الطبيعي.
• M2: محدث الحدود الطبيعية يحافظ على حدود سلوكية ديناميكية.
• M3: مجموعة سياسات منظمة بـ EWC تتكيف بسرعة دون نسيان كارثي.
• M4: كاشف متعدد الحبيبات قائم على الطاقة يدمج الأدلة على مستوى العقدة والرسم البياني الفرعي والرسم البياني الكامل.

الأداء

أظهرت التجارب على 100 جولة نشر عبر خمسة معايير وأربعة طوبولوجيات أن OpenEvoShield يتفوق على الحلول الثابتة والمستمرة، ويكتشف معظم الهجمات غير المرئية مع الحفاظ على معدلات إيجابية كاذبة منخفضة.

ملاحظة للمراجعة البشرية: تأكد من دقة المعلومات حول المكونات والأداء بناءً على الورقة الأصلية.