إطلاق منتج

Transformers v5.14.1 يصلح أخطاء في Inkling وFP8

Transformersمن Hugging Face

Hugging Face أصدرت Transformers v5.14.1 كتحديث تصحيحي يركز على مشكلات التكامل والأداء. التغييرات الرئيسية تشمل إصلاح sdpa أثناء prefill عند استخدام position_bias (PR #47359)، إصلاح assisted decoding للنماذج التي تستخدم EncoderDecoderCache وOlmoHybrid (PR #47361)، رفع نسخة نوى FP8 (PR #47344)، وإصلاح deepgemm على أجهزة متعددة (PR #47323). المعلومات مأخوذة من ملاحظات الإصدار على GitHub.

واتساب

الجديد

إصدار v5.14.1 هو تصحيح يهدف إلى حل مشاكل تكامل محددة في مكتبة Transformers. وفق ملاحظات الإصدار على GitHub، التغييرات المعلنة تضم:

  • إصلاح sdpa أثناء prefill عند وجود position_bias (PR #47359).
  • إصلاح assisted decoding للنماذج التي تستخدم EncoderDecoderCache مع OlmoHybrid (PR #47361).
  • رفع نسخة نوى FP8 ([FP8] Bump kernels version، PR #47344).
  • إصلاح deepgemm عند التشغيل على أجهزة متعددة (PR #47323).

لماذا يهم

الإصلاحات تعالج حالات قد تسبب سلوكاً غير متوقع أثناء التوليد المساعد وعمليات prefill وحسابات متعددة الأجهزة. هذه المشكلات تؤثر على استقرار وتكرار النتائج في بيئات الإنتاج والتجريب المتقدمة. رفع نوى FP8 قد يؤثر على الاستخدام المنخفض الدقة للأداء، لكن ملاحظات الإصدار لا تذكر معايير أداء جديدة.

عندنا في المنطقة

استخدام Transformers واسع في مشاريع ومعالجات اللغة العربية. هذه التصحيحات لا تستهدف نماذج لغوية عربية مباشرة. لكنها تحسن موثوقية المكدسات والعمليات منخفضة الدقة والعمليات متعددة الأجهزة التي يستخدمها فرق البنية التحتية والبحث في المنطقة.

ماذا يعني لك

  • لمطوري البنية التحتية: صُححت أخطاء يمكن أن تسبب فشل التوليد المساعد أو اختلافات في السلوك عند استخدام EncoderDecoderCache أو StaticCache مع Inkling. يُنصح باختبار التحديث في بيئات staging.
  • لفرق الإنتاج: إصلاح deepgemm على أجهزة متعددة يقلل مخاطر الأخطاء عند توزيع الأحمال عبر عدة معالجات.
  • لفرق البحث والتجريب: رفع نوى FP8 قد يحتاج إلى اختبار توافق ودقة قبل الاعتماد في التجارب منخفضة الدقة.

المعلومات أعلاه مبنية على ملاحظات الإصدار الرسمية على GitHub (https://github.com/huggingface/transformers/releases/tag/v5.14.1).

ما زال غير واضح

  • مدى تأثير رفع نوى FP8 على الأداء والدقة في حالات الاستخدام المختلفة لم يذكره الإصدار.
  • لا توضح الملاحظات ما إذا كانت هناك تغييرات في واجهة برمجة التطبيقات (API) أو متطلبات ترقية أخرى.
  • مدى انتشار المشكلات المصححة (عدد المستخدمين المتأثرين أو الأنظمة الشائعة) غير مفصّل في ملاحظات الإصدار.
  • لا توجد تفاصيل إضافية عن اختبارات التراجع أو مقارنات أداء مرفقة في ملاحظات الإصدار.
انتهى الخبر، لا السياق.

نحدّث الخبر كل ما وصلتنا معلومة جديدة.

اقرأ أيضاً

أخبار مرتبطة

كل الأخبار