DeepMind: عاملوا وكلاء AI كتهديدات داخلية

أطلقت Google DeepMind في العشرين من يونيو 2026 خارطة طريق أمنية جديدة تدعو المطورين إلى معاملة وكلاء الذكاء الاصطناعي المتقدمين كتهديدات داخلية محتملة، لا كبرمجيات تقليدية يمكن الاعتماد على «محاذاتها» (alignment) وحدها، بحسب Inside AI.

المحاذاة وحدها لا تكفي

مع تولّي الوكلاء مهاماً معقدة في البرمجة والأمن السيبراني والأعمال — مع تخطيط واستخدام أدوات بإشراف بشري محدود — تحذّر DeepMind من افتراض أن النموذج سيبقى متوافقاً مع نوايا المشغّل. وتقترح استراتيجية defense-in-depth: طبقات أمنية تتجاوز تدريب النموذج.

ثلاث فئات مخاطر

تحدّد الخارطة ثلاثة أنواع من المخاطر: فقدان السيطرة، تخريب العمل، والضرر المباشر مثل سرقة البيانات. وتستخدم DeepMind تشبيهاً بمدرب القيادة: الثقة مع وجود «دواسات مزدوجة» جاهزة. أي أن الصلاحيات يجب أن تُمنح تدريجياً حسب سلوك الوكيل، لا دفعة واحدة.

مراقبة مستمرة ومشرف AI

تقترح الشركة استخدام «مشرف AI» موثوق يراجع تفكير الوكيل وإجراءاته، ويمنع الخطوات الضارة في الوقت الفعلي. وبنَت أداة داخلية راجعت نحو مليون مهمة لوكلاء البرمجة، واستخدمت الدروس في مراقبة Gemini Spark — بما في ذلك الاستجابة لحذف بيانات بالخطأ. وتؤكد أن معظم التنبيهات لا تعكس نية خبيثة بل سوء فهم أو مبالغة.

ماذا يعني هذا للسوق العربي؟

المؤسسات العربية التي تنشر وكلاء على أنظمة إنتاج أو بيانات حسّاسة يجب أن تطبّق حوكمة مماثلة لحوكمة الموظفين: صلاحيات محدودة، مراقبة، وسجلات تدقيق. قبل أي rollout وكيلي، راجعوا دليل تدقيق الوكلاء واختبروا على بياناتكم العربية.

تنويه: هذا المقال يلخّص معلومات من المصدر المذكور في frontmatter. للأرقام والتواريخ الرسمية، راجع الرابط الأصلي. لا نضيف تفاصيل غير منشورة في المصدر.