خفض تكاليف التعرف على الكلام بنسبة 75% باستخدام NVIDIA MPS على Amazon EC2

نظرة عامة

أعلنت AWS عن نهج جديد لخفض تكاليف تشغيل نماذج التعرف على الكلام (ASR) بنسبة 75% باستخدام NVIDIA CUDA Multi-Process Service (MPS) مع NVIDIA Triton Inference Server على Amazon EC2. هذا الحل موجه للمؤسسات التي تقدم خدمات صوتية على نطاق واسع، مثل مراكز الاتصال والمساعدين الرقميين.

كيف يعمل الحل؟

بدلاً من تخصيص GPU كامل لكل طلب، يسمح MPS بمشاركة GPU بين طلبات متعددة، مما يزيد الاستفادة من الموارد. مع Triton، يمكن إدارة الطلبات بكفاءة، محققًا 92.1 طلبًا في الثانية لكل GPU مع زمن استجابة أقل من ثانية.

مقارنة مع الحلول التقليدية

الأسلوب	التكلفة	الأداء
GPU مخصص لكل طلب	مرتفع	زمن استجابة منخفض
MPS مع Triton	أقل بنسبة 75%	زمن استجابة أقل من ثانية

التأثير على منطقة الشرق الأوسط وشمال أفريقيا

مع تزايد الاعتماد على التطبيقات الصوتية في المنطقة، خاصة في قطاعات البنوك والاتصالات، يمكن لهذا الحل تمكين الشركات من توسيع خدماتها دون زيادة التكاليف. كما أنه يدعم التحول الرقمي في الحكومات.

الخلاصة

هذا الحل يمثل خطوة مهمة نحو كفاءة استخدام الموارد في الذكاء الاصطناعي، ويوفر فرصة للمؤسسات في المنطقة لتبني تقنيات متقدمة بتكلفة معقولة.

ملاحظة: هذا المقال يتطلب مراجعة بشرية للتأكد من دقة الأرقام والتواريخ.