إصدار Transformers 5.20.0: نماذج Muse Spark Open وLing 3.0 وMiniCPM-V 4.7 وUnlimitedOcr

ما الجديد في Transformers 5.20.0؟

أصدر فريق Hugging Face Transformers الإصدار 5.20.0 الذي يضيف مجموعة من النماذج الجديدة ويُدخل تغييرات كاسرة في واجهات التخزين المؤقت والتصدير والموازاة الموزعة. الإصدار موجّه للمطوّرين الذين يبنون أنظمة ذكاء اصطناعي متعددة الوسائط أو يشتغلون على الاستدلال الموزّع.

أبرز النماذج المضافة

Muse Spark Open

نموذج خليط خبراء متعدد الوسائط من Meta يستقبل النص والصور والصوت والفيديو ويولّد نصًا. يبلغ إجمالي معاملاته 816 مليارًا مع 42 مليارًا نشطة لكل رمز، ونافذة سياق تصل إلى 1,048,576 رمزًا مشتركة بين الوسائط. مُدرَّب لمهام البرمجة الوكيلية مثل تحرير ملفات متعددة وتصحيح الأخطاء واستخدام الأدوات، وتتوفر نقاط التحقق بصيغتي BF16 وNVFP4.

Ling 3.0 Flash

نموذج لغوي هجين من InclusionAI يعتمد على خليط الخبراء. يجمع فك التشفير خمس طبقات من Kimi Delta Attention (KDA) مع طبقة Multi-head Latent Attention (MLA)، وتستخدم كتل MLA تضمينات دورانية متشابكة وبوابة إخراج على مستوى الرأس. مدعوم أصليًا كـBailingHybridForCausalLM، أي يُحمَّل دون trust_remote_code=True.

Kolibri 1

نموذج استدلال بخليط الخبراء من Aleph Alpha يركّز على الألمانية والإنجليزية. توجّه كل طبقة من طبقاته الخمسين الرمز إلى 6 من 384 خبيرًا عبر توجيه سيغمويدي، مع خبير مشترك واحد. تتناوب أربع طبقات انتباه بنافذة منزلقة مع طبقة انتباه كامل، ويُطبَّق RoPE في الطبقات المنزلقة فقط.

MiniCPM-V 4.7

نموذج متعدد الوسائط فعّال من OpenBMB يزاوج مُشفّر SigLIP البصري مع هيكل Qwen3.5 اللغوي، ويدعم أوضاع تقليل بصري 4x و16x. الإضافة الأساسية هي canvas M-RoPE الذي يوزّع رموز الصورة على لوحة ثنائية الأبعاد بمواضع (زمني، ارتفاع، عرض)، ما يحافظ على العلاقة المكانية لشرائح الصورة نفسها وعلى الترتيب الزمني لإطارات الفيديو.

UnlimitedOcr

نموذج OCR من Baidu بحجم 3 مليارات معامل وسياق 32,768 رمزًا. يستبدل كل طبقات انتباه فك التشفير بـReference Sliding Window Attention (R-SWA) ما يُبقي ذاكرة KV ثابتة أثناء التوليد، ويتيح ترجمة عشرات الصفحات في تمريرة أمامية واحدة. يدعم وضع gundam (بلاطات 640×640 مع اقتصاص ديناميكي) ووضع base (عرض واحد 1024×1024)، ويُخرج اكتشافات المناطق مع مربعات التحديد.

UltraBERT وMOSS-Transcribe-Diarize

UltraBERT عائلة مُشفّرات نصية ثنائية الاتجاه تدعم تسلسلات تصل إلى 32,768 رمزًا، مع نقاط تحقق UltraBERT-150M وUltraBERT-380M وUltraBERT-Embed-150M. أما MOSS-Transcribe-Diarize 0.9B فهو نموذج فهم صوتي شامل للنسخ طويل المدى وتمييز المتحدثين والطوابع الزمنية، يجمع مُشفّرًا بأسلوب Whisper مع Qwen3، ويدعم أكثر من 50 لغة.

مقارنة سريعة بين النماذج الجديدة

النموذج	النوع	الحجم	السياق	حالة الاستخدام
Muse Spark Open	متعدد الوسائط MoE	816B (42B نشطة)	1,048,576	البرمجة الوكيلية والوسائط المتعددة
Ling 3.0 Flash	لغوي هجين MoE	غير محدد في المصدر	غير محدد في المصدر	الاستدلال اللغوي
Kolibri 1	استدلال MoE	50 طبقة، 384 خبيرًا	غير محدد في المصدر	الألمانية والإنجليزية
MiniCPM-V 4.7	متعدد الوسائط فعّال	غير محدد في المصدر	غير محدد في المصدر	الصور والفيديو
UnlimitedOcr	OCR	3B	32,768	ترجمة المستندات
MOSS-Transcribe-Diarize	صوتي	0.9B	غير محدد في المصدر	النسخ وتمييز المتحدثين

تغييرات كاسرة يجب الانتباه إليها

• إزالة الدوال والفحوصات المهملة من cache_utils.py، ما يؤثر على نماذج مثل minimax_m3_vl وpi0؛ على الكود الذي يستدعي واجهات التخزين المؤقت القديمة التحوّل إلى الواجهة الحالية.
• إزالة الاستيرادات العرضية من نماذج أخرى في ملفات مثل embedding_gemma2 وijepa وlightglue، مع منع المُحوِّل المعياري من إضافتها مستقبلًا.
• رفع الحد الأدنى لحزمة kernels إلى 0.17.2 للسماح بالرجوع الآمن عند فشل تحميل النواة.
• إدخال SubConfigSpec لمركزة تهيئة الإعدادات الفرعية، ما قد يستلزم تحديث الإعدادات المتداخلة المخصّصة.
• تغيّر سلوك مُرمِّزات LUKE وmLUKE في التعامل مع رموز الكيانات الخاصة، ما قد يغيّر مخرجات الترميز وفك الترميز.
• تراجع في سرعة الاستدلال مع EP، والفريق يعمل على إصلاحه.

أثر ذلك على فرق الذكاء الاصطناعي في الشرق الأوسط

بالنسبة للفرق التي تبني حلولًا مؤسسية أو حكومية في المنطقة، يفتح UnlimitedOcr مجالًا لأتمتة معالجة المستندات العربية والإنجليزية بكميات كبيرة دون تضخّم ذاكرة KV، بينما يوفّر MOSS-Transcribe-Diarize أساسًا لتحليل الاجتماعات والاتصالات متعددة المتحدثين. أما Muse Spark Open فيضع نموذجًا متعدد الوسائط بنافذة سياق ضخمة في متناول الفرق التي تحتاج إلى وكلاء برمجيين. في المقابل، تتطلب التغييرات الكاسرة دورة اختبار توافق قبل الترقية الإنتاجية.

تحسينات التصدير والموازاة

يدعم المُصدِّرات الآن التكميم أثناء التصدير عبر Dynamo وONNX وOpenVINO وExecuTorch، مع واجهة موحّدة تدمج PT2E وONNX Runtime وNNCF، وتتيح تكميمًا ثابتًا وديناميكيًا وضغطًا للأوزان فقط (INT8/INT4). كما أُضيف حفظ وتحميل نقاط تحقق FSDP × TP عبر إعدادات موازاة مختلفة.

تنويه: هذا المقال يلخّص معلومات من المصدر المذكور. للأرقام والتواريخ الرسمية، راجع الرابط الأصلي. لا نضيف تفاصيل غير منشورة في المصدر.