كشف التمويه الدلالي: تقنية LIV تكشف النوايا الخبيثة في النماذج اللغوية

مقدمة

كشفت دراسة حديثة نُشرت على arXiv أن الحماية الأمنية في النماذج اللغوية الكبيرة (LLMs) سطحية في كثير من الأحيان، وتعتمد على آليات رفض تعمل فقط في المراحل النهائية من التوليد، دون محو المعرفة الأساسية بالمفاهيم الضارة المكتسبة أثناء التدريب المسبق. هذا الانفصال المعماري يجعل النماذج عرضة لـ"التمويه الدلالي"، وهو هجوم يلف النوايا الخبيثة في سياقات سردية بريئة (مثل الكتابة الإبداعية)، متجاوزًا الحواجز التقليدية للمدخلات والمخرجات.

النتائج الرئيسية

حللت الدراسة مسارات التنشيط الكامنة لثلاث عائلات من النماذج اللغوية الصغيرة (Phi-3، Qwen2.5، Gemma-2b) تحت ضغط هجمات معادية. حدد الباحثون ما يسمى بـ"أفق النية"، وهو عمق حرج (عادة 15-20% من إجمالي الطبقات) حيث تنهار تمثيلات النية الخبيثة المميزة للنموذج أثناء معالجة الاستعلام في سياق "آمن".

أظهرت النتائج أنه بينما تكون تمثيلات الطبقات المتأخرة للهجمات المموهة غير قابلة للتمييز رياضيًا عن الاستعلامات الآمنة (معدل الكشف أقل من 20%)، تحتفظ تمثيلات الطبقات المبكرة بـ"بصمة ضارة" مميزة وقابلة للكشف.

تقنية LIV

بناءً على هذه الرؤية، اقترحت الدراسة تقنية "التحقق من النية الكامنة" (LIV)، وهي دفاع خفيف الوزن يعتمد على التنقيب في الطبقات المبكرة. أظهرت التجارب على مجموعة بيانات PKU-SafeRLHF أن LIV تتفوق على الحواجز القياسية بهامش 20-50% عبر جميع البنى المختبرة، وتحييد الهجمات الدلالية الصفرية دون الحاجة إلى إعادة تدريب النموذج.

مقارنة مع الحواجز التقليدية

الأسلوب	معدل الكشف	إعادة التدريب	التكلفة الحسابية
الحواجز التقليدية	<20%	لا	منخفضة
LIV	40-70%	لا	منخفضة
إعادة التدريب الكامل	عالي	نعم	عالية جدًا

تطبيقات للمؤسسات في الشرق الأوسط

يمكن للمؤسسات في المنطقة، خاصة في القطاعات المالية والحكومية، اعتماد LIV كطبقة دفاع إضافية لتعزيز أمن أنظمتها المعتمدة على النماذج اللغوية، دون الحاجة إلى استثمارات ضخمة في إعادة التدريب. كما تفتح النتائج الباب لتطوير أدوات أمنية محلية متوافقة مع متطلبات السيادة الرقمية.

ملاحظة للمراجعة البشرية: تحقق من دقة الأرقام والادعاءات الواردة في الدراسة قبل النشر.