الذكاء الجماعي مُختزل في نموذج ذكاء اصطناعي واحد قابل للنشر

مشكلة النشر التي تؤرق كل نظام ذكاء اصطناعي عالي الأداء

في مجال التعلم الآلي، لطالما كان التناقض قائماً بين الدقة وسهولة التطبيق. يكتشف الممارسون باستمرار أن أنظمتهم الأفضل أداءً - وهي عبارة عن بنى تجميعية ضخمة مبنية من عشرات النماذج الفردية - ببساطة ثقيلة للغاية، وبطيئة للغاية، ومكلفة للغاية بحيث لا يمكن نشرها في بيئة الإنتاج. الآن، توفر تقنية راسخة ولكنها تزداد أهمية، تُسمى تقطير المعرفة، للفرق طريقة عملية لضغط ذكاء التجميع في نموذج واحد خفيف الوزن يمكنه بالفعل تقديم تنبؤات في الوقت الفعلي.

ليس هذا النهج جديداً. فقد قام جيفري هينتون وأوريول فينيالز وجيف دين بصياغة المفهوم في ورقتهم البحثية الرائدة عام 2015. ولكن مع تزايد الضغوط على المؤسسات لتقليل تكاليف الاستدلال مع الحفاظ على الدقة، برزت عملية تقطير المعرفة مجدداً كإحدى أهم الأدوات في ترسانة مهندس التعلم الآلي الحديث.

لماذا تتفوق الفرق الموسيقية في الدقة، وتفشل في الإنتاج؟

تجمع عملية التجميع تنبؤات نماذج متعددة لإنتاج مخرج نهائي. ومن خلال دمج متعلمين متنوعين، تقلل هذه العملية التباين وتلتقط أنماطًا لا يستطيع أي نموذج بمفرده تحديدها. ولهذا السبب، تفوز أساليب التجميع باستمرار في مسابقات Kaggle وتتصدر قوائم المتصدرين في الاختبارات المعيارية.

لكن ثمة ثمن باهظ. فتشغيل 12 نموذجًا بالتوازي لتقديم تنبؤ واحد يُؤدي إلى تأخير يُخالف معظم اتفاقيات مستوى الخدمة. وتتضاعف تكاليف البنية التحتية، وتُصبح عمليات المراقبة والتحكم في الإصدارات وتصحيح الأخطاء كابوسًا. بالنسبة لنظام كشف الاحتيال الذي يحتاج إلى استجابات في أقل من 10 مللي ثانية، أو تطبيق صحي للهواتف المحمولة محدود بذاكرة الجهاز، فإن نشر مجموعة من النماذج ليس خيارًا عمليًا.

• زمن الاستجابة: يضيف كل نموذج في المجموعة وقت الاستدلال، وغالبًا ما يكون ذلك بشكل خطي.
• التكلفة: تتناسب قدرة الحوسبة والذاكرة مع عدد النماذج المكونة.
• التعقيد التشغيلي: إن تنسيق التحديثات ومراقبة الانحرافات وتصحيح الأخطاء عبر عشرات النماذج أمر غير مستدام بالنسبة لمعظم الفرق.

يُجبرنا هذا الواقع على اتخاذ قرار صعب: التضحية بالدقة من أجل السرعة، أو العكس. ويُقدّم استخلاص المعرفة مسارًا ثالثًا. لمزيد من التفاصيل حول سبب تأثير قيود الإنتاج على قرارات تصميم النماذج، يُرجى الاطلاع على تغطيتنا ليوم مجتمع بوكيمون جو في أبريل 2026 الذي تم فيه الإعلان عن Tinkatink .

كيف يساهم استخلاص المعرفة في سد الفجوة

الفكرة الأساسية أنيقة. فبدلاً من التخلص من النموذج عالي الأداء بعد التجربة، يتم التعامل معه كمعلم . ثم يتم تدريب نموذج طالب أصغر وأبسط - ليس على التصنيفات الأصلية الثابتة من مجموعة البيانات، ولكن على توزيعات الاحتمالات الغنية التي ينتجها النموذج المعلم.

تحتوي هذه التوزيعات الاحتمالية، المعروفة باسم "الأهداف المرنة"، على معلومات أكثر بكثير من التصنيفات الثنائية. فعندما يقول فريق من المعلمين إن صورة ما تمثل 72% قطة، و18% وشق، و10% كلب، فإن هذه الاحتمالات الثانوية تُشفّر علاقات قيّمة بين الفئات. أما التصنيف الثابت فيكتفي بذكر "قطة" فقط، متجاهلاً كل ما عدا ذلك.

قياس درجة الحرارة: الكشف عن المعرفة الخفية

يُعدّ ضبط درجة الحرارة عنصرًا أساسيًا. فبرفع قيمة مُعامل درجة الحرارة في دالة softmax، يتم تخفيف توزيع الاحتمالات بشكل أكبر، مما يُضخّم الإشارة من احتمالات الفئات الثانوية. وهذا يُتيح للطالب استيعاب المعرفة الدقيقة حول أوجه التشابه بين الفئات التي تعلمتها المجموعة أثناء التدريب.

عادةً ما يمر خط الأنابيب بثلاث مراحل:

1. تدريب مجموعة المعلمين: بناء نظام متعدد النماذج والتحقق من صحته، مع تحسينه بشكل كامل من أجل الدقة.
2. توليد أهداف ناعمة: قم بتشغيل بيانات التدريب من خلال المجموعة مع درجة حرارة مرتفعة لإنتاج توزيعات احتمالية غنية.
3. تدريب الطالب: قم بتركيب نموذج مضغوط باستخدام دالة خسارة مدمجة تجمع بين الأهداف الناعمة من المعلم مع التصنيفات الأصلية للحقيقة الأرضية.

تُظهر التطبيقات الحديثة أن الطالب المُعدّ جيدًا يمكنه استعادة أكثر من نصف تحسين الدقة الذي توفره المجموعة مقارنة بنموذج أساسي واحد - كل ذلك مع الحفاظ على السرعة والبساطة اللازمتين لخدمة الإنتاج.

لماذا يُعد هذا الأمر مهمًا الآن أكثر من أي وقت مضى

يأتي هذا في وقته تمامًا. فمع تسارع المؤسسات إلى نشر الذكاء الاصطناعي التوليدي وأنظمة التعلم الآلي المتطورة، أصبحت تكاليف الاستدلال مصدر قلق بالغ على مستوى مجالس الإدارة. وتستثمر كل من OpenAI وGoogle DeepMind، وجميع مختبرات الذكاء الاصطناعي الكبرى تقريبًا، بكثافة في تقنيات ضغط النماذج، حيث يلعب التقطير دورًا محوريًا فيها.

ضع في اعتبارك الآثار المترتبة على ذلك في الواقع العملي. تتطلب تطبيقات الحوسبة الطرفية - مثل المركبات ذاتية القيادة، وأجهزة استشعار إنترنت الأشياء، والأجهزة المحمولة - نماذج دقيقة وصغيرة الحجم. يحتاج الذكاء الاصطناعي في مجال الرعاية الصحية إلى تلبية متطلبات زمن الاستجابة الصارمة مع الحفاظ على موثوقية التشخيص. تتطلب الخدمات المالية كشف الاحتيال في أقل من جزء من الألف من الثانية دون التضحية بالقدرة على تمييز الأنماط الدقيقة التي توفرها أساليب التجميع.

يتماشى استخلاص المعرفة أيضًا مع التركيز المتزايد على الذكاء الاصطناعي المستدام. فتدريب مجموعة ضخمة من النماذج مرة واحدة، ثم استخلاص ذكائها في نموذج مُصغّر، يُعدّ أكثر كفاءة في استهلاك الطاقة من تشغيل تلك المجموعة باستمرار في بيئة الإنتاج. إذا كنت مهتمًا بالاعتبارات البيئية الأوسع، فإن مقالنا حول فعالية "يوم مجتمع بوكيمون جو" في أبريل 2026، والتي تضمنت الإعلان عن تينكاتينك، يستكشف هذا الجانب بعمق.

ما يقوله الخبراء

أثبت باحثون في مؤسسات رائدة باستمرار فعالية تقنية التقطير في مختلف المجالات، بدءًا من رؤية الحاسوب ومعالجة اللغة الطبيعية وصولًا إلى التنبؤ بالبيانات الجدولية. وقد كان لهذه التقنية دورٌ محوري في ضغط نماذج اللغة الضخمة (BERT) إلى DistilBERT، التي تحتفظ بنسبة 97% من فهم اللغة الأصلي، مع كونها أصغر حجمًا وأسرع بنسبة 60%.

إن الإجماع بين الممارسين واضح: إذا كنت تقوم ببناء أنظمة جماعية للتجريب ولكنك تقوم بنشر نماذج فردية للإنتاج، فيجب أن يكون التقطير خطوة قياسية في خط أنابيبك - وليس فكرة لاحقة.

ماذا بعد؟

تشير عدة اتجاهات إلى أن أهمية تقطير المعرفة ستزداد. فالتقطير الذاتي - حيث يتعلم النموذج نفسه من خلال التحسين التكراري - يكتسب زخمًا متزايدًا. كما تعد سلاسل التقطير متعددة المراحل، حيث تتعلم النماذج الأصغر حجمًا من بعضها البعض، بنسب ضغط أكبر. ومع استمرار توسع النماذج الأساسية، يصبح التقطير ربما المسار الأكثر عملية لجعل قدراتها متاحة على الأجهزة ذات الموارد المحدودة.

الخلاصة الأساسية لفرق التعلم الآلي واضحة: لا يجب أن يكون تجميع النماذج تجربة فاشلة. فبفضل تقنية تقطير المعرفة، يمكن الاستفادة من المعلومات التي يكتسبها تجميع النماذج أثناء التدريب في نموذج سريع وصغير وبسيط بما يكفي للوصول إلى المستخدمين.