المحكمة العليا في نيومكسيكو تغرّم محامياً 5 آلاف دولار بسبب شهود وهميين من الذكاء الاصطناعي
ما الذي حدث؟
غرّمت المحكمة العليا في ولاية نيومكسيكو الأمريكية المحامي ستيفن آرونز مبلغ 5 آلاف دولار، وأدانته بازدراء المحكمة، بعد أن قدّم مذكرة استئناف في قضية إدانة بالقتل تضمّنت شهادات من شهود وهميين بالكامل، إضافة إلى شهادات ملفّقة حول ملابس ومظهر مطلق النار. ووفق ما نقلته رويترز، جاء القرار لأن آرونز لم يتحقق من الوقائع والمراجع القانونية في مذكرة أنشأها الذكاء الاصطناعي.
وخلال جلسة استماع سابقة، تساءلت القاضية سي. شانون بيكون كيف لم يكن المحامي على دراية بمخاطر الذكاء الاصطناعي رغم التحذيرات المتكررة في الأوساط القانونية.
لماذا تتكرر هذه الحوادث؟
النماذج اللغوية الكبيرة تولّد نصاً سليماً لغوياً لكنها قد تختلق وقائع ومراجع وأسماء بشكل مقنع. المشكلة ليست في الأداة نفسها، بل في غياب خطوة تحقق بشري إلزامية قبل تقديم أي مستند رسمي.
مقارنة: الاستخدام الآمن مقابل الاستخدام الخطر
| العنصر | استخدام آمن | استخدام خطر |
|---|---|---|
| توليد النص | مسودة أولية فقط | تقديم مباشر للمحكمة |
| التحقق من الوقائع | مراجعة بشرية لكل بند | الاعتماد على مخرجات النموذج |
| المراجع القانونية | استرجاع من قواعد بيانات موثوقة | استشهادات من ذاكرة النموذج |
| التوثيق | سجل تدقيق كامل | لا يوجد سجل |
الأثر على المنطقة العربية
تشهد دول الخليج ومصر والأردن توسعاً في استخدام أدوات الذكاء الاصطناعي داخل القطاع القانوني والجهات الحكومية. ومع غياب أطر تشريعية عربية متخصصة حتى الآن، تصبح المسؤولية المهنية على عاتق المؤسسات نفسها. القضية الأمريكية تقدّم نموذجاً واضحاً للعقوبات المحتملة عند الإخلال بواجب التحقق.
توصيات عملية للمؤسسات
- اعتماد سياسة مكتوبة تحدّد أين يُسمح باستخدام الذكاء الاصطناعي وأين يُمنع.
- إلزام مراجعة بشرية موثّقة لكل مخرج يُستخدم في مستند رسمي.
- استخدام أنظمة استرجاع معزّزة (RAG) مربوطة بقواعد بيانات قانونية موثوقة بدلاً من الاعتماد على ذاكرة النموذج.
- تدريب الفرق القانونية على أنماط الهلوسة الشائعة وكيفية اكتشافها.
ملاحظة للمراجعة البشرية: يجب التحقق من نص قرار المحكمة وتفاصيل الغرامة من المصدر القضائي الأصلي قبل النشر.
أسئلة شائعة
ما الذي حدث في قضية المحامي ستيفن آرونز؟
قدّم آرونز مذكرة استئناف في قضية إدانة بالقتل تضمّنت شهادات من شهود وهميين ووصفاً ملفّقاً لمظهر مطلق النار، أنشأها الذكاء الاصطناعي دون تحقق. فغرّمته المحكمة العليا في نيومكسيكو 5 آلاف دولار وأدانته بازدراء المحكمة.
لماذا تُعدّ هذه القضية مهمة للمؤسسات في الشرق الأوسط؟
لأنها تثبت أن الاعتماد على مخرجات الذكاء الاصطناعي دون تحقق بشري قد يؤدي إلى عقوبات مهنية وقانونية، وهو ما يدفع مكاتب المحاماة والجهات الحكومية في المنطقة إلى تبنّي سياسات استخدام ومراجعة صارمة.
كيف يمكن للمؤسسات القانونية تجنّب تكرار هذا الخطأ؟
عبر إلزام المراجعة البشرية لكل مخرجات الذكاء الاصطناعي، وتوثيق مصادر الوقائع والمراجع القانونية، واستخدام أدوات استرجاع موثوقة بدلاً من الاعتماد على ذاكرة النموذج اللغوي.
هل هناك قوانين عربية تنظم استخدام الذكاء الاصطناعي في العمل القانوني؟
لا توجد بعد أطر تشريعية عربية شاملة خاصة بالعمل القانوني، لكن دولاً مثل الإمارات والسعودية تطوّر أطراً عامة لحوكمة الذكاء الاصطناعي، ما يجعل الامتثال المهني مسؤولية المؤسسات نفسها في الوقت الراهن.
المصدر: The Verge AI
محتوى بمساعدة الذكاء الاصطناعي، مراجع بشرياً.