أمازون تتيح نشر نماذج القرار عبر llama.cpp على SageMaker AI
ما الذي أعلنته AWS؟
نشرت AWS دليلاً تقنياً على مدونة التعلم الآلي يشرح كيفية نشر نماذج القرار باستخدام llama.cpp على Amazon SageMaker AI. الهدف هو تقديم واجهة chat completions متوافقة مع OpenAI عبر حاوية AWS للتعلم العميق المخصّصة لـ llama.cpp، ثم توسيع وقت التشغيل بإضافة SemIf لإرجاع احتمالات على الخيارات المعلنة.
لماذا يهم هذا الطرح؟
معظم عمليات نشر نماذج اللغة الكبيرة تُركز على توليد النص الحر. لكن كثيراً من حالات الاستخدام المؤسسي — مثل التصنيف، وتحديد الأولويات، واتخاذ القرار — تحتاج مخرجات قابلة للقياس. إرجاع احتمالات على خيارات محددة مسبقاً يمنح الفرق طريقة أوضح للمقارنة والتحقق.
كيف يعمل النشر؟
- يعتمد الطرح على حاوية AWS للتعلم العميق الخاصة بـ llama.cpp.
- تُقدَّم الواجهة بصيغة متوافقة مع OpenAI chat completions.
- تُضاف SemIf لتوسيع وقت التشغيل وإرجاع الاحتمالات على الخيارات المعلنة.
- يمكن التشغيل على CPU أو GPU حسب متطلبات الأداء والتكلفة.
مقارنة سريعة
| البُعد | توليد نص حر | نماذج قرار مع SemIf |
|---|---|---|
| شكل المخرجات | نص مفتوح | احتمالات على خيارات محددة |
| القابلية للقياس | محدودة | أعلى |
| ملاءمة الأتمتة | متوسطة | مرتفعة |
| التوافق | يختلف حسب المزوّد | واجهة متوافقة مع OpenAI |
حالات استخدام للمؤسسات في الشرق الأوسط
قد تستفيد القطاعات الحكومية والمالية والاتصالات من هذا النمط في تصنيف الطلبات، وترتيب الأولويات، وتوجيه التذاكر، مع إمكانية تشغيل النماذج على CPU لتقليل التكلفة في البيئات ذات الأحمال المتوسطة.
تنويه: هذا المقال يلخّص معلومات من المصدر المذكور. للأرقام والتواريخ الرسمية، راجع الرابط الأصلي. لا نضيف تفاصيل غير منشورة في المصدر.
أسئلة شائعة
ما هو llama.cpp ولماذا يُستخدم على SageMaker AI؟
llama.cpp هو محرك استدلال خفيف لنماذج اللغة الكبيرة يعمل بكفاءة على CPU وGPU. استخدامه على SageMaker AI يتيح نشر النماذج داخل بيئة AWS المُدارة مع الاستفادة من حاويات التعلم العميق الجاهزة.
ما وظيفة SemIf في هذا الطرح؟
SemIf امتداد لوقت التشغيل يسمح للنموذج بإرجاع احتمالات موزّعة على خيارات محددة مسبقاً بدل نص حر، ما يجعله مناسباً لنماذج القرار التي تحتاج مخرجات قابلة للقياس.
هل يفيد هذا الطرح فرق الذكاء الاصطناعي في الشرق الأوسط؟
نعم، لأنه يتيح نشر نماذج قرار داخل بيئة سحابية مُدارة مع خيارات CPU وGPU، ما يساعد المؤسسات الإقليمية على ضبط التكلفة والامتثال دون بناء بنية تحتية من الصفر.
هل الواجهة متوافقة مع أدوات OpenAI الحالية؟
نعم، الدليل يوضح تقديم chat completions متوافقة مع OpenAI، ما يقلّل جهد إعادة الكتابة عند الانتقال من مزوّد آخر.
المصدر: AWS Machine Learning
ملخص بمساعدة الذكاء الاصطناعي من المصدر أعلاه. القصص عالية الثقة تُنشر تلقائياً، والبقية تنتظر مراجعة، ولا تُضاف وقائع غير موجودة في المصدر.