عزز أداء التعلُّم العميق باستخدام تطبيع الدُفعات! تعلّم كيف تعزز هذه التقنية من سرعة التدريب والثبات والدقة في نماذج الذكاء الاصطناعي.
التطبيع الدفعي هو تقنية تُستخدم في التعلّم العميق لجعل الشبكات العصبية الاصطناعية أسرع وأكثر استقرارًا من خلال إضافة طبقات إضافية في شبكة عصبية عميقة. تقوم الطبقة الجديدة بإجراء عمليات التوحيد والتطبيع على مدخلات طبقة قادمة من طبقة سابقة. وهي طريقة يمكن أن تساعد في تحسين أداء واستقرار نماذج التعلم العميق، خاصة في المهام المعقدة مثل اكتشاف الأجسام وتصنيف الصور. وعادةً ما يتم استخدام التطبيع الدفعي بين الطبقات المتصلة بالكامل أو الطبقات التلافيفية ووظائف التنشيط. وقد تم تقديم هذه التقنية في ورقة بحثية عام 2015 من قبل الباحثين Google سيرجي إيوفي وكريستيان زيجيدي.
يعمل التطبيع الدفعي من خلال تطبيع تنشيطات الطبقة السابقة. وهذا يعني أن المدخلات إلى الطبقة التالية سيكون لها متوسط 0 وانحراف معياري 1. تساعد عملية التطبيع هذه على تقليل انزياح المتغيّر الداخلي، وهو التغيير في توزيع تنشيطات الشبكة بسبب التغيير في معلمات الشبكة أثناء التدريب. من خلال تثبيت توزيعات مدخلات الطبقات، يسمح تطبيع الدُفعات بتدريب أسرع وأكثر استقرارًا.
في الممارسة العملية، يتم تحقيق تطبيع الدُفعات من خلال حساب المتوسط والانحراف المعياري للتنشيطات داخل دفعة صغيرة أثناء التدريب. ثم يتم استخدام هذه الإحصائيات لتطبيع التنشيطات. بالإضافة إلى ذلك، يتم إدخال معلمتين قابلتين للتعلم، وهما جاما (γ) وبيتا (β)، لكل تنشيط. تسمح هاتان المعلمتان للشبكة بتوسيع نطاق التنشيطات المعيارية وإزاحة التنشيطات الطبيعية، مما يوفر مرونة للشبكة لتعلم التمثيل الأمثل.
يوفر التطبيع الدفعي العديد من الفوائد التي تساهم في استخدامه على نطاق واسع في التعلم العميق:
في مجال الرؤية الحاسوبية، غالبًا ما يُستخدم التطبيع الدفعي في الشبكات العصبية التلافيفية (CNNs) لتحسين الأداء واستقرار التدريب. على سبيل المثال، في نماذج مثل Ultralytics YOLO ، يتم دمج التطبيع الدفعي في البنية لتعزيز دقة وسرعة مهام الكشف عن الكائنات في الوقت الحقيقي. يساعد ذلك على استقرار عملية التعلم، مما يؤدي إلى تقارب أفضل وتحسين دقة الكشف.
في معالجة اللغات الطبيعية (NLP)، يمكن تطبيق التطبيع الدفعي على النماذج ذات البنى العميقة، مثل المحولات. فهو يساعد على استقرار عملية التدريب، خاصةً عند التعامل مع مجموعات البيانات الكبيرة. على سبيل المثال، في الترجمة الآلية أو تحليل المشاعر، يضمن تطبيع الدُفعات التجميعي التعلّم المتسق عبر الطبقات، مما يساهم في الأداء العام للنموذج.
في تحليل الصور الطبية، مثل الكشف عن الأورام من التصوير بالرنين المغناطيسي أو التصوير المقطعي المحوسب، يساعد التطبيع الدفعي في تثبيت نماذج التعلّم العميق. وينتج عن ذلك اكتشاف أكثر موثوقية للحالات الشاذة وأوقات تدريب أسرع، وهو أمر بالغ الأهمية للتشخيص الدقيق وفي الوقت المناسب.
يلعب التطبيع الدفعي دوراً حيوياً في أنظمة الإدراك في السيارات ذاتية القيادة. على سبيل المثال، في أنظمة المركبات ذاتية القيادة، تعمل على تحسين أداء نماذج الرؤية الحاسوبية التي تتعرف على إشارات المرور والمشاة والمركبات الأخرى. من خلال تحسين استقرار النموذج ودقته، يساهم تطبيع الدُفعات في أنظمة قيادة ذاتية أكثر أماناً وموثوقية.
تُستخدم كل من طبقات التسرب والتطبيع الدفعي لتحسين أداء نماذج التعلّم العميق، ولكنهما يعملان بشكل مختلف. يعطل التسرب جزءًا من الخلايا العصبية بشكل عشوائي أثناء كل تكرار تدريب، مما يساعد على منع الإفراط في التهيئة. من ناحية أخرى، تعمل تقنية التطبيع الدفعي على تطبيع تنشيطات الطبقة السابقة، مما يساعد على استقرار التدريب وتسريعه. يمكن استخدام هذه التقنيات معًا لتعزيز أداء النموذج وقوته.
التطبيع الدفعي هو أحد أشكال التطبيع المستخدم في التعلم العميق. وتشمل الأنواع الأخرى تطبيع المثيل وتطبيع الطبقة. يعمل تطبيع المثيل على تطبيع تنشيط كل عينة بشكل مستقل، وهو أمر مفيد في مهام نقل النمط. يعمل تطبيع الطبقة على تطبيع التنشيطات عبر الميزات، وهو أمر مفيد في الشبكات العصبية المتكررة. إن فهم الاختلافات بين طرق التطبيع هذه يمكن أن يساعد في اختيار التقنية المناسبة لمهام وبنى محددة.
يتم دمج التطبيع الدفعي بسلاسة في أطر عمل الذكاء الاصطناعي الحديثة مثل PyTorchالتي تشغل أدوات مثل Ultralytics HUB. يعمل هذا التكامل على تبسيط عملية التدريب ونشر النماذج المحسّنة للمهام المتنوعة، بدءًا من اكتشاف الأجسام وحتى تجزئة الصور. ويضمن استخدام التطبيع الدفعي في هذه الأطر تدريب النماذج بكفاءة وتحقيق أداء عالٍ في مختلف التطبيقات.
