ZGCM-1: نموذج أساسي مفتوح 7B يتفوق في الرياضيات والبحث الوكيلي بكفاءة 4.2x
ما هو ZGCM-1؟
ZGCM-1 هو نموذج أساسي مفتوح بالكامل بحجم 7B تم تدريبه من الصفر بكفاءة عالية في البيانات والنظام والخوارزمية. يعتمد على فرضية أساسية: النماذج المدمجة لا يمكنها حفظ الويب المفتوح بشكل سلبي، لكنها تستطيع تجاوز حدود السعة البارامترية من خلال الجمع بين التفكير الداخلي المتعمد واستخدام الأدوات الخارجية النشطة.
الابتكارات التقنية الرئيسية
- تصميم مشترك للمعمارية والنظام: انتباه هجين بين النافذة المنزلقة والانتباه الكامل، ومحسّن FP8 Muon مستقر.
- منهج تدريجي وتدريب متوسط MDP: توسيع السياق عبر 16K و64K و256K، وإعادة صياغة آثار التفاعل كعمليات قرار ماركوفية.
- سير عمل بحث وتطوير أصيل بالذكاء الاصطناعي: أسراب وكلاء تدير العمليات العنقودية وتنظيم البيانات والتقييم التشخيصي السريع.
الأداء والمقارنة
| المقياس | ZGCM-1-7B | Qwen3-235B-A22B | GLM-5.1 |
|---|---|---|---|
| الاستدلال الرياضي | تنافسي | أكبر بمراحل | أكبر بمراحل |
| البحث الوكيلي | تنافسي | أكبر بمراحل | أكبر بمراحل |
| كفاءة التدريب | 4.2x تحسين | - | - |
يظهر ZGCM-1 أداءً تنافسياً عبر عائلة نماذج 7B في المعايير العامة، ويتنافس مع نماذج حدودية أكبر بمراحل في مجموعات الرياضيات والبحث الوكيلي.
حالات الاستخدام في المنطقة
يمكن لفرق الذكاء الاصطناعي في الشرق الأوسط الاستفادة من ZGCM-1 في:
- تطبيقات البحث الوكيلي باللغة العربية.
- حلول الرياضيات والاستدلال للقطاعات التعليمية والمالية.
- النشر على البنية التحتية المحلية نظراً لحجمه المدمج (7B) وتكلفته المنخفضة.
الموارد المفتوحة
تم إتاحة أوزان النموذج من مراحل التدريب المسبق والمتوسط واللاحق، ونقاط التفتيش الوسيطة، وكود التدريب، وبيانات ووصفات كل مرحلة، وسجلات W&B.
ملاحظة: هذا المحتوى مُلخّص آلياً ويحتاج إلى مراجعة بشرية قبل النشر.
أسئلة شائعة
ما هو نموذج ZGCM-1؟
ZGCM-1 هو نموذج أساسي مفتوح بالكامل بحجم 7B تم تدريبه من الصفر بكفاءة عالية في البيانات والنظام والخوارزمية، مصمم لمهام الرياضيات والبحث الوكيلي مع سياق يصل إلى 256K.
كيف يتفوق ZGCM-1 على النماذج الأكبر؟
يحقق ZGCM-1 أداءً تنافسياً مع نماذج أكبر بمراحل مثل Qwen3-235B-A22B وGLM-5.1 في اختبارات الاستدلال الرياضي والبحث الوكيلي، بفضل الجمع بين التفكير الداخلي واستخدام الأدوات الخارجية.
هل يمكن لفرق الذكاء الاصطناعي في الشرق الأوسط تبنيه؟
نعم، النموذج مفتوح المصدر بالكامل مع الأوزان والكود ووصفات البيانات، مما يجعله مناسباً للفرق الإقليمية التي تبحث عن حلول فعالة من حيث التكلفة والموارد.
ما هي أبرز الابتكارات التقنية في ZGCM-1؟
يشمل الابتكارات انتباه هجين بين النافذة المنزلقة والانتباه الكامل، محسّن FP8 Muon مستقر، منهج تدريجي للسياق، وإعادة صياغة آثار التفاعل كعمليات قرار ماركوفية.
المصدر: arXiv cs.AI
محتوى بمساعدة الذكاء الاصطناعي، مراجع بشرياً.