التقليم النموذجي

لماذا نستخدم التقليم النموذجي؟

الدافع الأساسي لتشذيب النماذج هو الكفاءة. يمكن أن تكون نماذج التعلم العميق الحديثة، على الرغم من قوتها، كبيرة جدًا وتتطلب الكثير من العمليات الحسابية. وهذا يمثل تحديات في نشر النماذج، خاصةً على الأجهزة ذات الموارد المحدودة مثل الهواتف الذكية أو أنظمة الحوسبة المتطورة. يعالج تقليم النماذج هذه المشكلات من خلال:

• تقليل حجم النموذج: تتطلب النماذج الأصغر حجماً مساحة تخزين أقل، مما يسهل نشرها على أجهزة مثل تلك التي تشغل تطبيقUltralytics HUB.
• زيادة سرعة الاستدلال: مع وجود عدد أقل من المعلمات، تُجري النماذج المشذبة العمليات الحسابية بشكل أسرع، مما يقلل من زمن الاستجابة للاستدلال. وهذا أمر بالغ الأهمية لتطبيقات الاستدلال في الوقت الحقيقي.
• خفض استهلاك الطاقة: عمليات حسابية أقل تعني استخداماً أقل للطاقة، وهو أمر مهم للأجهزة التي تعمل بالبطارية ولتعزيز ممارسات الذكاء الاصطناعي المستدامة.
• التقليل من الإفراط في التركيب: يمكن أن تساعد إزالة المعلمات الزائدة في بعض الأحيان على تعميم النماذج بشكل أفضل على البيانات الجديدة، مما قد يقلل من الإفراط في التكييف.

أنواع التقليم النموذجي

تختلف تقنيات تشذيب النماذج ولكنها تنقسم عمومًا إلى فئات بناءً على ما تتم إزالته:

• تشذيب الوزن (غير منظم): يتم تعيين الأوزان أو الاتصالات الفردية داخل الشبكة ذات الحجم أو الأهمية المنخفضة إلى الصفر. غالباً ما ينتج عن ذلك نماذج متناثرة ولكن قد يتطلب ذلك أجهزة أو برامج متخصصة لتحقيق السرعة المثلى.
• تشذيب الخلايا العصبية/المرشحات (الهيكلية): تتم إزالة خلايا عصبية كاملة أو مرشحات (في الشبكات العصبية التلافيفية (CNNs)) أو مكونات هيكلية أخرى. عادةً ما يؤدي هذا إلى نماذج أكثر انتظامًا وأصغر كثافة يسهل تسريعها على الأجهزة القياسية باستخدام أدوات مثل NVIDIA TensorRT.

يمكن تطبيق التقليم بعد التدريب أو دمجه في عملية التدريب. في كثير من الأحيان، يتطلب النموذج المشذّب بعض الضبط الدقيق (تدريب إضافي) لاستعادة أي دقة مفقودة. يمكنك استكشاف استراتيجيات التقليم المختلفة في موارد مثل برنامجPyTorch التعليمي للتقليم.

التطبيقات الواقعية

يعتبر تشذيب النماذج قيماً في العديد من المجالات:

1. الرؤية الحاسوبية المتنقلة: Ultralytics YOLO يمكن تشذيب النماذج المستخدمة لاكتشاف الكائنات على الأجهزة المحمولة لتشغيلها بكفاءة، مما يتيح التحليل في الوقت الفعلي مباشرةً على الجهاز دون الحاجة إلى اتصال سحابي مستمر. وهذا أمر حيوي للتطبيقات التي يتم نشرها على منصات مثل Raspberry Pi أو باستخدام مسرعات مثل Google Edge TPU.
2. الأنظمة ذاتية القيادة: في السيارات ذاتية القيادة أو الطائرات بدون طيار، تحتاج النماذج إلى معالجة بيانات المستشعرات على الفور. يساعد تشذيب النماذج الإدراكية المعقدة على تحقيق زمن الاستجابة المنخفض المطلوب للملاحة الآمنة واتخاذ القرارات، وغالباً ما يتم نشرها على أجهزة مثل NVIDIA Jetson.

تشذيب النماذج مقابل تقنيات التحسين الأخرى

تشذيب النماذج هو أحد الأساليب العديدة لتحسين النماذج. ومن المهم تمييزها عن:

• تكميم النموذج: يقلل من دقة أوزان النموذج وتفعيلاته (على سبيل المثال، من 32 بت عائم إلى 8 بت أعداد صحيحة). يقلل هذا أيضًا من الحجم ويسرّع الحساب ولكنه يعمل عن طريق تغيير نوع البيانات وليس إزالة المعلمات. راجع تحسينTensorFlow Lite Optimization للحصول على أمثلة.
• تقطير المعرفة: ينطوي على تدريب نموذج "طالب" أصغر حجمًا لمحاكاة مخرجات نموذج "معلم" أكبر تم تدريبه مسبقًا. الهدف هو نقل المعرفة، وإنشاء نموذج مضغوط دون تعديل المعلم مباشرةً. اقرأ ورقة تقطير المعرفة الأصلية للحصول على التفاصيل.

هذه التقنيات لا يستبعد بعضها بعضًا وغالبًا ما يتم الجمع بينها وبين التقليم لتحقيق أقصى قدر من فوائد التحسين. على سبيل المثال، قد يتم تشذيب النموذج أولاً، ثم تكميمه قبل النشر النهائي. يمكنك العثور على إرشادات حول التحسين في وثائقUltralytics .