JAXBench: معيار جديد لتحسين نوى TPU في السحابة من جوجل

نظرة عامة

أطلقت جوجل معيار JAXBench، وهو مجموعة اختبارية مكونة من 50 مهمة JAX لتحسين أداء نوى TPU تلقائياً على Google Cloud. يستهدف المعيار نماذج إنتاجية مثل Llama-3.1 وDeepSeek-V3 وMixtral وMamba-2 وAlphaFold2، مع 17 مشغلاً مستخرجاً من مكتبة MaxText العامة و33 مشغلاً من KernelBench بعد تعديلها لتناسب TPU v6e.

الأهمية للمنطقة

يمثل JAXBench فرصة للمؤسسات في الشرق الأوسط لتحسين كفاءة الحوسبة السحابية، خاصة مع تزايد الاعتماد على نماذج الذكاء الاصطناعي الكبيرة. يمكن للفرق استخدام المعيار لضبط أداء TPU وتقليل التكاليف.

النتائج الرئيسية

أظهرت التجارب أن استخدام وثائق TPU المخصصة يرفع صحة العينات من 5.8% إلى 37.3%، مع حل 48 من 50 معياراً بتسريع هندسي 1.28x. كما حقق نظام Autocomp تسريعاً 1.36x على المجموعة الكاملة و1.60x على النوى المعدلة يدوياً، مقارنة بـ 2.08x كحد أعلى من Tokamax.

مقارنة مع الحلول الحالية

بينما تركز معايير GPU على تحسين النوى في بيئات مختلفة، يقدم JAXBench أول معيار مخصص لـ TPU مع دعم لغة Pallas DSL. هذا يجعله أداة فريدة للمؤسسات التي تستخدم TPU في السحابة.

حالات الاستخدام

• تحسين أداء نماذج Llama-3.1 وDeepSeek-V3 على TPU.
• تقليل زمن التدريب والاستدلال في التطبيقات السحابية.
• دعم الابتكار في مجالات مثل الرعاية الصحية والطاقة في المنطقة.

ملاحظة للمراجعة البشرية: تأكد من دقة الأرقام والمراجع المتعلقة بـ JAXBench ونتائجه.