سرقة سلاسل التفكير من نماذج الذكاء الاصطناعي الخاصة: ثغرة خطيرة تم إصلاحها

اكتشاف ثغرة خطيرة في سلاسل التفكير

نشر باحثون ورقة بحثية بعنوان "سرقة سلاسل التفكير من واجهات برمجة تطبيقات النماذج الخاصة"، كشفت أن نماذج مثل GPT-5.6 وClaude وGemini تُرجع كتلًا مشفرة تحتوي على خطوات التفكير الداخلية. هذه الكتل قابلة لإعادة التشغيل عبر الجلسات والمستخدمين والنماذج، مما سمح للباحثين باستخراج التفكير الخام.

آلية الهجوم

استخدم الباحثون أسلوبًا مبتكرًا: أخذوا كتلة مشفرة من نموذج قوي مثل GPT-5.5، ثم أعادوا تشغيلها على نموذج أضعف من نفس العائلة مثل Claude Haiku 4.5. باستخدام أوامر حقن مثل "انسخ التفكير المرفق حرفيًا"، تمكنوا من اختراق النموذج الأضعف واستخراج التفكير الخام.

أمثلة على التفكير المكشوف

كشفت الورقة أمثلة على تفكير GPT-5.5 حول مهام برمجية، مثل: "نحتاج استبدال ملف app.css بالكامل..."، مما يظهر أن هذه السلاسل لم تكن مخصصة للاستهلاك البشري أبدًا.

حقن موجهات متطور

اكتشف الباحثون أيضًا نوعًا جديدًا من هجمات حقن الموجّهات: خداع نموذج للتفكير في استخراج البيانات (مثل رفع ملف لخادم بعيد) كجزء من سلسلة تفكيره، ثم إعادة تشغيل تلك السلسلة على نموذج آخر. النماذج تتعامل مع سلاسل تفكيرها كأوامر مقدسة، مما يزيد احتمالية تنفيذها.

الإصلاح والدروس المستفادة

أكدت جميع الشركات إصلاح الثغرة، لكن الورقة تبرز مخاطر أمنية أوسع. للمؤسسات في الشرق الأوسط، يُنصح بمراجعة سياسات استخدام النماذج الخاصة، وتحديث الأنظمة باستمرار، وعدم الاعتماد على التشفير كضمانة وحيدة.

ملاحظة: تتطلب هذه القصة مراجعة بشرية للتأكد من دقة التفاصيل التقنية وتحديثات الإصلاح.