PrismML تضغط نموذج Qwen3.8 27B إلى 5.9 غيغابايت لتشغيله محلياً

تراهن شركة PrismML على أن نماذج اللغة القادرة على الاستدلال لا تحتاج بالضرورة إلى أحجام ضخمة كي تكون مفيدة. وأعلنت الشركة عن Bonsai 2 27B، وهو نموذج مضغوط مبني على Qwen3.8 27B مفتوح المصدر من Alibaba، بحجم يبلغ 5.9 غيغابايت فقط.

وتقول الشركة إن الحجم الجديد يمثل خفضاً في الذاكرة بنحو 9 إلى 10 مرات مقارنة بالنموذج الأصلي، بما يكفي نظرياً لتشغيله على حاسوب شخصي، وربما على هاتف ذكي عالي المواصفات.

ما الذي يجري ضغطه؟

يتكون نموذج اللغة من أعداد هائلة من القيم التي تعلّمها أثناء التدريب، وتسمى عادةً الأوزان. يمكن النظر إليها بوصفها المعلومات العددية التي يستخدمها النموذج لاتخاذ قراراته عند توليد النص أو حل المسائل.

عادةً ما يُخزَّن كل وزن باستخدام 16 بت. أما PrismML فتستخدم أسلوباً تسميه الأوزان الثلاثية أو ternary weights، بحيث تُبسَّط القيم إلى واحدة من ثلاث حالات: +1 أو -1 أو 0. تقليل المعلومات اللازمة لتخزين كل وزن يخفض الحجم المطلوب للنموذج بدرجة كبيرة.

لكن ضغط النموذج لا يكون مفيداً إذا أضعف قدرته بشكل واضح. وهنا تدّعي PrismML أن Bonsai 2 يطابق 98% من النتيجة الإجمالية لـQwen في الاختبارات المعيارية، مقارنة بـ95% في إصدار Bonsai الأول الذي صدر في مارس. وتضيف الشركة أن الإصدار الأول تجاوز 11 مليون تنزيل، بينما سجلت نماذجها الأصغر 2.6 مليون تنزيل إضافي.

هذه النتائج لا تعني تطابقاً كاملاً في كل مهمة واقعية؛ فالاختبارات المعيارية تقيس جوانب محددة ولا تمثل دائماً الاستخدام اليومي بالكامل. كما أن دقة النموذج تتأثر أيضاً بالبرنامج المحيط به وطريقة تشغيله. لكنها تقدم مؤشراً على أن خفض الحجم لم يأتِ، وفق أرقام الشركة، على حساب كبير في الأداء العام.

لماذا يهم التشغيل المحلي؟

تشغيل النموذج على الجهاز، بدلاً من إرسال الطلبات إلى خادم سحابي، قد يفتح بابين مهمين: الخصوصية وتقليل الحاجة إلى اتصال مستمر أو خدمة مدفوعة. فالمحتوى الذي يعالجه النموذج يمكن أن يبقى على جهاز المستخدم، كما يصبح النموذج متاحاً ضمن قدرة العتاد الذي يملكه المستخدم بالفعل.

وهذا مهم للمطورين أيضاً. فالنماذج الأصغر تعني إمكان اختبار ميزات الذكاء الاصطناعي ودمجها محلياً في تطبيقات سطح المكتب أو بعض تطبيقات الهواتف، مع متطلبات ذاكرة أقل من النماذج الأصلية الكبيرة.

تأسست PrismML على يد باحثين من Caltech، ويقودها باباك حسبي، أستاذ في المعهد ومتخصص في تقنيات الضغط. كما يعمل إيون ستويكا، الشريك المؤسس لـDatabricks، مستشاراً للشركة.

وتخطط PrismML لتطبيق تقنيتها على نماذج أكبر تضم مئات المليارات من المعاملات خلال الأشهر المقبلة. ويرى حسبي أن النماذج الأكبر قد تمنح مساحة أوسع للضغط مع الحفاظ على قدراتها، لكن الوصول إلى تطابق كامل في الأداء يبقى أمراً غير محسوم.