NVIDIA تطوّر Nemotron لفهم اللهجات السعودية وتخفض أخطاء التعرف على الكلام بنحو النصف

أعلنت NVIDIA عن تجربة جديدة لتطوير قدرات نموذج Nemotron 3.5 ASR في فهم اللهجات العربية السعودية، مع التركيز بصورة خاصة على اللهجتين النجدية والحجازية.

وتُظهر التجربة كيف يمكن تخصيص نماذج التعرف الآلي على الكلام للهجات المحلية باستخدام كمية محدودة نسبيًا من البيانات، من دون الحاجة إلى تدريب نموذج جديد بالكامل من الصفر.

لماذا تحتاج اللهجات العربية إلى تخصيص النماذج؟

قد تحقق نماذج التعرف على الكلام نتائج جيدة في اللغة العربية الفصحى أو في مجموعات البيانات العامة، لكنها قد تواجه صعوبة عند التعامل مع اللهجات المحلية وطريقة النطق وظروف التسجيل المختلفة.

وينطبق ذلك بصورة واضحة على اللهجات السعودية، حيث تختلف طريقة نطق الكلمات والمفردات والسياق الصوتي عن البيانات العربية المستخدمة عادة في تدريب النماذج العامة.

ولهذا ركزت NVIDIA في تجربتها على تحسين قدرة Nemotron على التعرف على الكلام باللهجتين النجدية والحجازية.

تدريب النموذج على أكثر من 133 ساعة من الكلام السعودي

اعتمدت NVIDIA على بيانات من مجموعة SADA 2022، وبعد عملية تنقية وتجهيز للبيانات احتفظ الفريق بـ 103,559 مقطعًا صوتيًا من أصل 125,490 مقطعًا.

وبلغ إجمالي البيانات المستخدمة نحو 133.7 ساعة من التسجيلات الصوتية.

ولم تحاول NVIDIA إزالة كل التسجيلات الصعبة أو التي تحتوي على ضوضاء، بل ركزت على استبعاد البيانات غير الصالحة فعليًا للتدريب، مع الاحتفاظ بالتسجيلات التي تمثل ظروف الاستخدام الحقيقية قدر الإمكان.

انخفاض كبير في معدل أخطاء التعرف على الكلمات

كانت النتيجة الأبرز في التجربة هي التحسن الكبير في معدل خطأ الكلمات WER، وهو أحد أهم المقاييس المستخدمة لتقييم أنظمة تحويل الكلام إلى نص.

قبل عملية التخصيص، سجل النموذج معدل خطأ بلغ:

55.05%

وبعد التدريب على اللهجتين النجدية والحجازية انخفض المعدل إلى:

29.96%

كما انخفض معدل خطأ الأحرف CER من 31.63% إلى 12.18%.

وهذا يعني أن النموذج أصبح أكثر قدرة بصورة ملحوظة على تحويل الكلام باللهجات السعودية المستهدفة إلى نص صحيح.

تحسين اللهجة من دون خسارة قدرات النموذج الأخرى

إحدى المشكلات المعروفة عند تخصيص نماذج الذكاء الاصطناعي هي ما يسمى النسيان الكارثي Catastrophic Forgetting.

فعندما يتم تدريب النموذج بصورة مكثفة على بيانات جديدة، قد تتحسن قدرته في المهمة الجديدة لكنه يبدأ في فقدان بعض القدرات التي تعلمها سابقًا.

ولتقليل هذه المشكلة، لم تعتمد NVIDIA على البيانات السعودية وحدها.

استخدم الفريق خليطًا يتكون من:

• 90% بيانات باللهجات السعودية
• 7% بيانات إنجليزية
• 3% بيانات عربية عامة

وساعدت هذه الطريقة النموذج على تعلم اللهجات الجديدة مع الحفاظ على قدراته السابقة.

واللافت أن أداء النموذج في الإنجليزية لم يتراجع، بل تحسن معدل خطأ الكلمات من 11.04% إلى 10.42%.

كما تحسن أداؤه على مجموعة البيانات العربية العامة أيضًا.

Nemotron 3.5 يدعم عشرات اللغات

يُعد NVIDIA Nemotron 3.5 ASR نموذجًا للتعرف الآلي على الكلام يدعم النسخ الصوتي متعدد اللغات والبث المباشر للكلام، مع دعم نحو 40 لغة ومنطقة لغوية.

لكن NVIDIA تشير إلى أن دعم اللغة بصورة عامة لا يعني بالضرورة تحقيق الأداء نفسه مع جميع اللهجات المحلية.

ولهذا يمكن استخدام عملية التخصيص Fine-Tuning لتطوير نماذج أكثر ملاءمة لبلد أو لهجة أو مجال معين.

تحسين إضافي من دون إعادة تدريب النموذج

اختبرت NVIDIA كذلك عدة طرق لتحسين دقة النموذج أثناء تشغيله من دون الحاجة إلى إعادة التدريب.

وباستخدام سياق انتباه أكبر مع تقنية Beam Search، تمكن الفريق من خفض معدل خطأ الكلمات في اختبار اللهجتين المستهدفتين إلى:

27.25%

مقابل 29.96% بعد التدريب الأساسي.

لكن هذا التحسين يأتي مقابل زيادة في زمن الاستجابة، وهو ما يجعله أكثر ملاءمة لتطبيقات مثل تفريغ الاجتماعات والمقابلات ومراكز الاتصال والتسجيلات، مقارنة بالتطبيقات التي تتطلب استجابة صوتية فورية.

الطريق مفتوح أمام لهجات ولغات أخرى

الأهمية الأكبر للتجربة لا تقتصر على اللهجات السعودية نفسها.

توضح NVIDIA أن المنهج نفسه يمكن تطبيقه على لهجات ولغات أخرى، من خلال تجهيز مجموعة بيانات مناسبة، ودمجها مع جزء من البيانات الأصلية للنموذج، ثم تحديد الأجزاء التي يجب إعادة تدريبها وتقييم الأداء على بيانات مستقلة.

وقد يفتح ذلك المجال أمام تطوير نماذج تعرف صوتي أكثر دقة للهجات العربية المختلفة، بدل الاعتماد على نماذج عامة تتعامل مع العربية باعتبارها لغة موحدة.

خطوة مهمة للذكاء الاصطناعي العربي

تحسين نماذج التعرف على الكلام للهجات المحلية يمثل خطوة مهمة نحو بناء تطبيقات ذكاء اصطناعي أكثر قدرة على التعامل مع المستخدم العربي بصورة طبيعية.

ويمكن الاستفادة من هذه النماذج مستقبلًا في تطبيقات مثل المساعدات الصوتية، وتفريغ الاجتماعات، ومراكز الاتصال، وتحويل المحتوى الصوتي والمرئي إلى نصوص، والبحث داخل التسجيلات، والوكلاء الصوتيين المدعومين بالذكاء الاصطناعي.

وتُظهر تجربة NVIDIA أن تحسين دعم العربية لا يتطلب دائمًا بناء نموذج جديد بالكامل، بل يمكن تخصيص النماذج متعددة اللغات الحالية باستخدام بيانات محلية جيدة واستراتيجية تدريب مناسبة.