أوبن إيه آي تكشف عن Jalapeño، أول شريحة مخصصة لها بالشراكة مع برودكوم
معالج استدلال مصمم لخفض تكلفة كل استعلام وإضعاف هيمنة نفيديا
أضف إلى قائمة
لا قوائم بعد.
Summary
كشفت Openai عن Jalapeño، أول معالج استدلال مخصص بنت تصميمه بالشراكة مع Broadcom، وفق ما أفاد موقع TechCrunch. تستهدف الشريحة الاستدلال، أي تشغيل النماذج المدرَّبة في مواجهة استعلامات المستخدمين، لا التدريب. تقول أوبن إيه آي إن الاختبارات الأولى تُظهر أداءً لكل واط أفضل بكثير من المكونات الأحدث، غير أنها لا تزال في مرحلة التقييم دون موعد محدد للنشر. قدّمت الشركة الشريحة بوصفها طبقة واحدة من طبقات تحسين بنيتها التحتية، من هندسة المعالج إلى الذاكرة والشبكات. ومن المتوقع أن يستمر التدريب المسبق على معدات Nvidia. تأتي هذه الخطوة في أعقاب مسيرة غوغل مع وحدات TPU ومسيرة Amazon مع Trainium في بناء معجلات مفصّلة لأعباء عمل مختبراتها.
Why it matters
الاستدلال هو أكبر تكاليف أوبن إيه آي وأسرعها نموًا. شريحة ترفع الأداء لكل واط تهاجم اقتصاديات الوحدة لكل استعلام وتنتزع جزءًا من قوة تسعير نفيديا، وهو المنطق ذاته الذي دفع غوغل وأمازون إلى السيليكون المخصص. امتلاك التصميم يُوفّر أيضًا تحوطًا في العرض خلال شُح الرقائق.
What to watch
- متى تنتقل Jalapeño من الاختبار إلى النشر الإنتاجي.
- معايير مستقلة تقارنها بنفيديا والمنافسين في الرقائق المخصصة.
- كم من استدلال أوبن إيه آي سيتحوّل بعيدًا عن وحدات معالجة الرسوميات التجارية.