كيف تمنع هلوسة نماذج اللغة في البيئات المؤسسية؟

لماذا تحدث الهلوسة؟

النموذج يتنبأ بالكلمة التالية بناءً على أنماط تدريب. بدون مستند مرجعي، قد يختلق معلومة تبدو مقنعة.

استراتيجيات عملية

1. RAG إلزامي

لا إجابة إلا مع فقرة مسترجعة. إن لم يُوجد مصدر: “لا أجد إجابة في المستندات المعتمدة.”

2. تصنيف الأسئلة

• آمن: أسئلة متكررة بإجابة واضحة في السياسات
• حساس: قانوني، مالي، قرارات إدارية (مراجعة بشرية)

3. Confidence threshold

إذا تشابه الاسترجاع ضعيفاً، لا تجيب: اطلب توضيحاً أو حوّل لموظف.

مؤشرات مراقبة

• نسبة “لا أجد إجابة” (صحية إذا كانت 10 إلى 20%)
• شكاوى المستخدمين
• عينات مراجعة أسبوعية