Ollama تضيف نماذج اتخاذ القرار المحلية عبر API جديد في الإصدار 0.35
أضافت Ollama دعماً لنماذج مخصصة لاتخاذ قرارات منظمة من النص، مثل الاختيار بين فئات أو الإجابة بنعم/لا أو منح درجة مع احتمالات لكل نتيجة. تعمل النماذج محلياً عبر نقطة النهاية `/v1/systemone`، وتتوفر ثلاثة نماذج جديدة بينها Nimble 9B.
أبرز النقاط
- يدعم Ollama 0.35 نماذج قرار تعيد اختيارات أو إجابات بنعم/لا أو درجات منظمة من النص.
- تعمل الواجهة الجديدة عبر `/v1/systemone` وتقبل نص الحالة مع عدة أسئلة مسماة في طلب واحد.
- تتضمن الإجابات احتمالات للخيارات ومستوى ثقة، ما يساعد التطبيقات على التعامل مع عدم اليقين.
- النماذج المتاحة حالياً هي Nimble 9B وTev1 وTev1:0.8b.
- أفادت Ollama بأن Nimble 9B سجل متوسط 91 مللي ثانية للقرار محلياً في مثال Pac-Man على M5 Max.
تدعم Ollama، بدءاً من الإصدار 0.35، نوعاً جديداً من النماذج يركز على اتخاذ القرار بدلاً من توليد نص مفتوح. الفكرة هي إرسال نص إلى النموذج مع أسئلة محددة، ليعيد إجابات منظمة دفعة واحدة: اختياراً من فئات، أو إجابة بنعم/لا، أو درجة على مقياس محدد، إلى جانب احتمال لكل خيار.
يأتي الدعم عبر نقطة النهاية الجديدة /v1/systemone والمبنية على Jev API من TypeSafe. بدلاً من طلب مستقل لكل سؤال، يمكن للتطبيق إرسال حالة واحدة — مثل رسالة عميل — ومجموعة من الأسئلة المسماة في طلب واحد.
في مثال Ollama، تُحلل رسالة تطلب استرداد مبلغ دُفع مرتين، ثم يحدد النموذج الفريق المناسب لمعالجة التذكرة، وما إذا كان العميل يطلب استرداداً صراحة، ودرجة الاستعجال. وتُرجع الاستجابة الاختيار والاحتمالات ومستوى الثقة، وهو ما يسمح للتطبيق بوضع قواعد واضحة للتعامل مع الحالات غير المؤكدة.
أين يفيد هذا النوع من النماذج؟
تستهدف نماذج القرار مهاماً تحتاج نتيجة قصيرة ومنظمة بسرعة، مثل:
- فرز تذاكر الدعم وتوجيهها إلى الفريق المناسب.
- توجيه الطلب إلى نموذج ذكاء اصطناعي آخر وفق نوع المهمة.
- تصنيف المحتوى أو مراجعة ملاءمته وسياسات الأمان.
وتشدد Ollama على أن التشغيل المحلي يلغي رحلة الطلب عبر الشبكة، ما يخفض زمن الاستجابة ولا يضيف تكلفة استخدام للخدمة. ووفق اختبار الشركة، حقق نموذج Nimble 9B متوسط 91 مللي ثانية لكل قرار في مثال Pac-Man عند تشغيله محلياً على MacBook Pro بمعالج M5 Max.
النماذج المتاحة
تتوفر حالياً ثلاثة نماذج قرار عبر Ollama:
nimble: نموذج مفتوح المصدر بحجم 9 مليارات معامل من Bespoke Labs.tev1: نموذج تجريبي بحجم 4 مليارات معامل من Together AI.tev1:0.8b: نسخة تجريبية أصغر بحجم 0.8 مليار معامل من Together AI.
يمكن تنزيل نموذج Nimble مثلاً بالأمر التالي:
ollama pull nimble
وتقول Ollama إنها ستضيف لاحقاً نماذج أكثر تخصصاً، إلى جانب تحسينات أداء على أجهزة Apple Silicon بالاعتماد على MLX ودعم نماذج تُخدم عبر Ollama Cloud.
لماذا يهم؟
تمنح هذه الإضافة المطورين طريقة محلية ومنظمة لتحويل النص إلى قرارات قابلة للاستخدام مباشرة في التطبيقات، مثل توجيه التذاكر أو تصنيف المحتوى. كما أن إرجاع الاحتمالات والثقة يوفر معلومات إضافية لاختيار متى يُنفذ القرار تلقائياً ومتى يحتاج إلى مراجعة.