Aegis: نظام حوكمة وقت التشغيل للوكلاء الذكيين يمنع الآثار الجانبية الضارة

مقدمة

أصدر باحثون ورقة على arXiv تقدم Aegis، وهو نظام حوكمة وقت التشغيل للوكلاء الذكيين (Agentic AI). بينما تركز الحوكمة التقليدية على منع توليد النصوص الضارة، يركز Aegis على منع الآثار الجانبية التشغيلية الضارة، مثل تعديل الملفات أو إرسال الرسائل أو تشغيل الوظائف.

كيف يعمل Aegis؟

يعامل Aegis مخرجات النموذج كاقتراحات إجراءات، وليس أوامر. يمررها عبر طبقة قرار موثوقة قبل تنفيذ الأدوات. يقيم النظام الاقتراحات مقابل حالة السياسة النشطة، ويحل المصدر (provenance) من جانب الخادم، ويفشل مغلقًا تحت عدم اليقين. للحالات المختارة، يستخدم آلية تسوية تشبه مجلس الشيوخ (Senate-style settlement) تتطلب نصابًا قانونيًا للتفويض غير الأحادي.

النتائج

في بيئة اختبار متكررة تضم 42 مهمة عبر خمس عائلات تشغيل، سجل Aegis صفر تطبيقات أدوات محكومة خطيرة وصفر آثار جانبية محكومة، مقارنة بـ 79 حالة تسرب في الإعدادات غير المحكومة. كما حافظ على مصدر موثوق في جميع المحاولات المحكومة (1,832) وسجل أدلة توقيع نهائي في جميع الحالات المسوّاة (1,019).

مقارنة مع الحوكمة التقليدية

الجانب	حوكمة البرومبت	Aegis
الحد	لا يوجد حد تنفيذ	حد تنفيذ موثوق
الفشل تحت عدم اليقين	غير محدد	يفشل مغلقًا
التفويض	أحادي	غير أحادي (نصاب)

الأهمية للمؤسسات في الشرق الأوسط

مع تزايد تبني الوكلاء الذكيين في البنوك والطاقة والحكومة في المنطقة، يصبح منع الآثار الجانبية الضارة أمرًا حاسمًا. Aegis يقدم نموذجًا للحوكمة يمكن أن يطمئن المؤسسات قبل النشر، خاصة في البيئات الحساسة.

ملاحظة للمراجعة البشرية: تحقق من صحة الادعاءات المتعلقة بالنتائج ومدى قابلية التطبيق خارج بيئة الاختبار.