أمازون تُحسّن نواة نماذج MoE على SageMaker: إنتاجية أعلى بنسبة 10% على H200
ما الذي حدث؟
شارك مهندسو AWS تفاصيل تحسينات على مستوى النواة (kernel) لنماذج Mixture-of-Experts (MoE) المدمجة على Amazon SageMaker AI. التحسينات الثلاثة الرئيسية هي:
- Swap-AB لرفع كفاءة استخدام تعليمات WGMMA.
- توجيه خلفية Triton للكمّية FP8.
- إزالة إعادة التصريف التلقائي (JIT recompilation) في Triton.
وبحسب المصدر، أدّت هذه التحسينات مجتمعةً إلى إنتاجية أعلى بنسبة تصل إلى 10%، ووقت أسرع لأول رمز (Time to First Token) بنسبة تصل إلى 9% على وحدات NVIDIA H200.
لماذا يهم هذا؟
نماذج MoE تكتسب شعبية لأنها تفعّل جزءاً فقط من الخبراء لكل رمز، ما يقلّل الحساب الفعلي. لكن كفاءة التنفيذ تعتمد بشكل كبير على هندسة النواة. تحسينات كهذه تنعكس مباشرة على:
- التكلفة لكل رمز عند تشغيل النماذج على السحابة.
- زمن الاستجابة في تطبيقات المحادثة والوكلاء.
- كثافة الاستخدام لكل وحدة معالجة رسومية.
مقارنة سريعة
| البُعد | قبل التحسين | بعد التحسين |
|---|---|---|
| الإنتاجية | خط الأساس | حتى +10% |
| وقت أول رمز | خط الأساس | حتى -9% |
| استخدام WGMMA | أقل كفاءة | أعلى عبر Swap-AB |
| الكمّية FP8 | مسار عام | توجيه خلفية Triton |
| إعادة التصريف | متكررة | مُزالة |
ماذا يعني لفرق المنطقة؟
لفرق الذكاء الاصطناعي في الشرق الأوسط التي تشغّل نماذج MoE مدمجة على SageMaker AI، قد تعني هذه التحسينات خفض تكلفة التشغيل وتحسين تجربة المستخدم في التطبيقات العربية كثيفة الاستدلال، مثل المساعدات والوكلاء. لكن التطبيق يعتمد على إعدادات بيئتك، لذا راجع المصدر الأصلي للتفاصيل الهندسية الكاملة.
تنويه: هذا المقال يلخّص معلومات من المصدر المذكور. للأرقام والتواريخ الرسمية، راجع الرابط الأصلي. لا نضيف تفاصيل غير منشورة في المصدر.
أسئلة شائعة
ما هو Mixture-of-Experts (MoE)؟
هو نمط معماري في النماذج اللغوية يفعّل مجموعة فرعية فقط من الخبراء (Experts) لكل رمز إدخال، ما يقلّل الحساب الفعلي مقارنة بتشغيل كامل معاملات النموذج في كل خطوة.
ما الذي تغيّر في تحسينات AWS الجديدة؟
ثلاث تحسينات رئيسية: Swap-AB لرفع استخدام WGMMA، وتوجيه خلفية Triton للكمّية FP8، وإزالة إعادة التصريف التلقائي في Triton. مجتمعةً حققت إنتاجية أعلى بنسبة تصل إلى 10% ووقتاً أسرع لأول رمز بنسبة تصل إلى 9% على H200.
هل تفيد هذه التحسينات فرق الذكاء الاصطناعي في الشرق الأوسط؟
نعم، إذا كانت الفرق تشغّل نماذج MoE مدمجة على SageMaker AI، فإن تحسينات الإنتاجية وزمن الاستجابة تنعكس مباشرة على التكلفة وتجربة المستخدم، خصوصاً في تطبيقات المحادثة والوكلاء.
هل التحسينات متاحة تلقائياً؟
المقال يشرح تفاصيل هندسية للنواة؛ يجب مراجعة المصدر الأصلي لمعرفة كيفية تطبيقها أو تفعيلها في بيئة SageMaker الخاصة بك.
المصدر: AWS Machine Learning
ملخص بمساعدة الذكاء الاصطناعي من المصدر أعلاه. القصص عالية الثقة تُنشر تلقائياً، والبقية تنتظر مراجعة، ولا تُضاف وقائع غير موجودة في المصدر.