ناديلا: يجب افتراض أن جميع نماذج الذكاء الاصطناعي «مخترقة»
ما الذي قاله ناديلا؟
في منشور مطوّل على منصة X، عرض ساتيا ناديلا، الرئيس التنفيذي لمايكروسوفت، رؤيته للمخاطر التي تطرحها النماذج المتقدمة للذكاء الاصطناعي وكيفية مواجهتها. ويرى أن العالم لم يعد يستطيع قبول نموذج يُتعامل مع الذكاء الاصطناعي فيه كـ«صناديق سوداء متداخلة» تُقبل نصائحها وأفعالها أو تُرفض دون فحص.
ودعا إلى بناء نظام أكثر شفافية يمكن فيه احتواء النماذج ومراقبتها، مع ترك «أدلة مقروءة للبشر وغير قابلة للتلاعب» يمكن الرجوع إليها.
توصيات تتقاطع مع مطالب القطاع
تتقاطع مقترحات ناديلا مع ما يطالب به آخرون في القطاع:
- الإفصاح الفوري عن الحوادث الأمنية المتعلقة بالنماذج.
- إجراء تدقيقات مستقلة.
- الاعتماد على بيانات قابلة للتحقق.
- احتواء النماذج بدل منحها صلاحيات مفتوحة.
ويبدو أن نقطة الاحتواء تحديدًا هي التي يبني عليها ناديلا جزءًا كبيرًا من طرحه.
لماذا يهم الشرق الأوسط؟
تتسارع عمليات نشر الذكاء الاصطناعي في القطاعات الحكومية والمالية والطاقة في المنطقة، وغالبًا ما تكون هذه القطاعات خاضعة لمتطلبات صارمة في حماية البيانات والامتثال. افتراض أن كل نموذج «مخترق» يغيّر طريقة تصميم الأنظمة: بدل السؤال «هل النموذج جيد؟»، يصبح السؤال «كيف نحتويه ونراقبه ونثبت سلامة مخرجاته؟».
مقارنة عملية: الثقة مقابل الافتراض الأمني
| البُعد | مقاربة الثقة بالنموذج | مقاربة ناديلا (افتراض الاختراق) |
|---|---|---|
| التعامل مع المخرجات | قبول أو رفض | فحص وتدقيق مع أدلة |
| الصلاحيات | واسعة | محتواة ومقيدة |
| الإفصاح عن الحوادث | عند الحاجة | إفصاح فوري |
| التدقيق | داخلي غالبًا | مستقل وقابل للتحقق |
خلاصة تنفيذية
بالنسبة لفرق الحوكمة والمخاطر في المنطقة، الرسالة واضحة: اجعل الاحتواء والمراقبة والإفصاح جزءًا من التصميم الأولي لأي نشر للذكاء الاصطناعي، لا إضافة لاحقة بعد وقوع الحادث.
تنويه: هذا المقال يلخّص معلومات من المصدر المذكور. للأرقام والتواريخ الرسمية، راجع الرابط الأصلي. لا نضيف تفاصيل غير منشورة في المصدر.
أسئلة شائعة
ماذا يعني أن نموذج الذكاء الاصطناعي «مخترق»؟
يعني أن المؤسسة يجب ألا تفترض أن النموذج سليم أو موثوق بشكل مطلق، بل تتعامل معه كعنصر قد يكون معرّضًا للتلاعب أو التسريب أو التوجيه الخبيث، وتضع ضوابط احتواء ومراقبة حوله.
كيف يختلف هذا الطرح عن مقاربة «الثقة بالنموذج»؟
مقاربة الثقة تعتمد على قبول مخرجات النموذج أو رفضها كما هي، بينما يقترح ناديلا نظامًا شفافًا يُحتوى فيه النموذج ويُراقب ويترك أدلة قابلة للتحقق يمكن تدقيقها لاحقًا.
هل على المؤسسات في الشرق الأوسط تبنّي هذه التوصيات الآن؟
التوصيات تنسجم مع اتجاهات تنظيمية إقليمية قائمة، مثل متطلبات حماية البيانات وحوكمة التقنية في القطاع المالي والحكومي، لذا فإن تضمين الاحتواء والتدقيق والإفصاح في سياسات الذكاء الاصطناعي يقلل مخاطر الامتثال.
المصدر: The Verge AI
ملخص بمساعدة الذكاء الاصطناعي من المصدر أعلاه. القصص عالية الثقة تُنشر تلقائياً، والبقية تنتظر مراجعة، ولا تُضاف وقائع غير موجودة في المصدر.