NVIDIA TensorRT يدعم الآن الاستدلال متعدد الأجهزة لتوسيع نطاق الذكاء الاصطناعي التوليدي

نظرة عامة

أعلنت NVIDIA عن دعم الاستدلال متعدد الأجهزة في TensorRT، وهو تحديث رئيسي يسمح بتوسيع نطاق أعباء عمل الذكاء الاصطناعي التوليدي عبر وحدات معالجة رسوميات متعددة. يأتي هذا الإعلان في وقت تتجاوز فيه متطلبات الذاكرة والحساب لنماذج التوليد قدرة وحدة معالجة رسوميات واحدة، خاصة في خطوط إنتاج الوسائط المتعددة.

الميزات الجديدة

• الاستدلال متعدد الأجهزة: توزيع أعباء العمل عبر وحدات معالجة رسوميات متعددة دون فقدان التحسينات.
• الحفاظ على تحسينات الإنتاجية: دمج النواة، تخطيط الذاكرة، والتكميم.
• استهداف مطوري الوسائط المتعددة: تحسين خطوط إنتاج التوليد مثل الصور والفيديو والصوت.

الأهمية لمنطقة الشرق الأوسط وشمال أفريقيا

مع تسارع تبني الذكاء الاصطناعي التوليدي في المنطقة، خاصة في الإمارات والسعودية وقطر، يصبح تحسين البنية التحتية للاستدلال أمرًا حاسمًا. يدعم هذا التحديث مراكز البيانات المحلية في توسيع نطاق الخدمات دون الحاجة إلى استثمارات ضخمة في أجهزة جديدة.

مقارنة مع الحلول السابقة

سابقًا، كان على المطورين استخدام حلول مخصصة لتوزيع أعباء العمل عبر وحدات معالجة رسوميات متعددة، مما كان يؤدي إلى فقدان تحسينات TensorRT. الآن، يوفر TensorRT دعمًا أصليًا يجمع بين التوسع والأداء العالي.

لمراجعة بشرية: تأكد من دقة المعلومات الفنية حول TensorRT ومقارنتها مع إصدارات سابقة.