مسرد المصطلحات

الضبط الفعال للبارامترات (PEFT)

اكتشف الضبط الدقيق الفعال للمعلمات (PEFT): تكييف نماذج الذكاء الاصطناعي الكبيرة بكفاءة بأقل قدر من الموارد. قم بتحسين المهام في البرمجة اللغوية العصبية والرؤية والمزيد!

تدريب YOLO النماذج
ببساطة مع Ultralytics HUB

التعرف على المزيد

الضبط الدقيق الفعال للمعلمات (PEFT) هو نهج تعلم آلي مصمم لتكييف النماذج الكبيرة المدربة مسبقًا مع المهام الجديدة بأقل قدر من النفقات الحسابية. من خلال الضبط الدقيق لمجموعة فرعية صغيرة فقط من المعلمات، تجعل تقنيات الضبط الدقيق للمعلمات عملية الضبط الدقيق أكثر كفاءة، مما يقلل من متطلبات الموارد ويحافظ على المعرفة العامة المشفرة في النموذج المدرب مسبقًا.

أهمية PEFT

ينطوي الضبط الدقيق التقليدي على تحديث جميع معلمات النموذج، وهو ما قد يكون مكلفًا من الناحية الحسابية وكثيف الذاكرة، خاصةً بالنسبة للنماذج الكبيرة مثل البنى القائمة على المحولات. تعالج PEFT هذه المشكلة من خلال تعديل جزء بسيط فقط من المعلمات مع الحفاظ على غالبية النموذج المدرّب مسبقًا دون تغيير. يكون هذا النهج مفيدًا بشكل خاص عندما تكون الموارد الحاسوبية محدودة أو عند التعامل مع مهام متعددة تتطلب التخصيص دون إعادة تدريب النموذج بأكمله في كل مرة.

تتماشى تقنيات PEFT مع الطلب المتزايد على الحلول الموفرة للموارد في مجال الذكاء الاصطناعي، مما يتيح التطبيق العملي للنماذج الكبيرة في مختلف الصناعات، مثل الرعاية الصحية والزراعة وتجارة التجزئة.

التقنيات الرئيسية في PEFT

تم تطوير العديد من الأساليب لضبط البارامترات بكفاءة عالية:

  • التكيف منخفض الرتبة (LoRA): تقوم LoRA بإدخال تحديثات منخفضة الرتبة خاصة بالمهام في النموذج، وتحسين هذه المعلمات الإضافية فقط للتكيف مع المهام الجديدة.
  • طبقات المحولات: وهي عبارة عن وحدات صغيرة للشبكات العصبية يتم إدراجها في بنية النموذج، عادةً بين الطبقات، لتعلم التعديلات الخاصة بالمهمة.
  • ضبط الموجه: تتضمن هذه الطريقة ضبط مطالبات الإدخال التي يتم تلقيمها للنموذج فقط، مع ترك معلمات النموذج دون تغيير. تعرف على المزيد حول ضبط الموجه.
  • ضبط البادئة: على غرار الضبط الفوري، يعمل ضبط البادئة على تحسين سلسلة من المعلمات الخاصة بالمهمة التي تعمل كبادئة لبيانات الإدخال.

تهدف كل طريقة إلى تقليل وقت التدريب واستخدام الموارد مع الحفاظ على أداء قوي في المهام النهائية.

تطبيقات PEFT

لقد وجدت PEFT تطبيقات عبر مجموعة واسعة من مجالات الذكاء الاصطناعي والتعلم الآلي، خاصةً عندما تكون قيود الموارد أو تنوع المهام من الاعتبارات الرئيسية.

مثال 1: معالجة اللغات الطبيعية (NLP)

في مجال البرمجة اللغوية العصبية، تُستخدم تقنيات التحويل البرمجي للتنبؤات اللغوية على نطاق واسع لتكييف النماذج اللغوية الكبيرة مثل GPT-3 أو GPT-4 مع مهام محددة، مثل تحليل المشاعر أو التلخيص أو الإجابة عن الأسئلة الخاصة بمجال معين. على سبيل المثال، يمكن تطبيق LoRA لضبط نموذج GPT-3 لتحليل النص الطبي، مما يتيح تنبؤات دقيقة مع تقليل الاحتياجات الحسابية.

مثال 2: الذكاء الاصطناعي للرؤية

في مجال الرؤية الحاسوبية، يُستخدم ال PEFT لضبط النماذج المدربة مسبقًا مثل Ultralytics YOLO لمهام محددة، مثل اكتشاف الأجسام النادرة في مجموعات البيانات المتخصصة. من خلال الضبط الدقيق لجزء صغير فقط من أوزان النموذج، يمكن للمؤسسات نشر حلول مصممة خصيصًا لمهام مثل مراقبة الحياة البرية أو مراقبة الجودة الصناعية دون إعادة تدريب مكثفة.

فوائد PEFT

  1. كفاءة الموارد: يقلل من المتطلبات الحاسوبية ومتطلبات الذاكرة، مما يجعله متاحاً للنشر على الأجهزة المتطورة أو في البيئات ذات الموارد المحدودة.
  2. مرونة المهام: يسهل التكيف السريع مع المهام النهائية المتعددة دون إعادة تدريب النموذج بأكمله، وهو أمر مفيد بشكل خاص للصناعات مثل الرعاية الصحية والتصنيع.
  3. فعالية التكلفة: يقلل من تكلفة ضبط النماذج الكبيرة من خلال التركيز على مجموعة فرعية صغيرة من المعلمات.
  4. الحفاظ على المعرفة العامة: يحتفظ بقدرات الأغراض العامة للنموذج المدرّب مسبقاً مع إضافة خبرة خاصة بمهمة محددة.

الاختلافات عن الضبط التقليدي

في الضبط الدقيق التقليدي، يتم تحديث النموذج بالكامل، وهو ما قد يكون مكلفًا من الناحية الحسابية وعرضة للإفراط في الضبط، خاصة مع مجموعات البيانات الصغيرة. من ناحية أخرى، يركز PEFT على تحسين الحد الأدنى من المعلمات، مما يحقق نتائج مماثلة مع تقليل النفقات الحسابية بشكل كبير.

كما تختلف PEFT أيضًا عن تعلم النقل، حيث يتم تكييف نموذج مدرب مسبقًا مع مهمة جديدة من خلال إعادة تدريب بعض الطبقات أو جميعها. بينما يمكن أن يتضمن تعلّم التحويل إعادة تدريب النموذج بالكامل، إلا أن تعلّم التحويل مصمم بشكل صريح لتقليل تحديثات المعلمات.

التأثيرات الواقعية

وقد مكّن اعتماد تقنية PEFT من انتشار حلول الذكاء الاصطناعي في البيئات محدودة الموارد. على سبيل المثال، في مجال الزراعة، يمكن لـ PEFT ضبط نماذج الرؤية للكشف عن أمراض المحاصيل بدقة أثناء العمل على أجهزة منخفضة الطاقة. وعلى نحو مماثل، في مجال الرعاية الصحية، تسهّل تقنية PEFT تكييف النماذج لمهام مثل الكشف عن الأورام باستخدام مجموعات بيانات متخصصة، كما هو موضح في حلول الرعاية الصحيةUltralytics .

يتم دمج PEFT أيضًا في أدوات مثل Ultralytics HUB، مما يبسّط تدريب النماذج المخصصة ونشرها، مما يضمن قدرة المستخدمين على تكييف النماذج المدربة مسبقًا بكفاءة مع احتياجاتهم الفريدة.

استنتاج

يمثل الضبط الدقيق الفعال للمعلمات (PEFT) خطوة مهمة إلى الأمام في جعل الذكاء الاصطناعي أكثر سهولة وقابلية للتكيف. من خلال تمكين التكييف الفعال للنماذج الكبيرة مع المهام الجديدة، تُمكِّن تقنية الضبط الفعال للمعلمات من تمكين الصناعات من الاستفادة من الإمكانات الكاملة للذكاء الاصطناعي مع تقليل التكاليف والمتطلبات الحسابية. ومن خلال التطبيقات التي تشمل البرمجة اللغوية العصبية والرؤية الحاسوبية وغيرها، تواصل تقنية PEFT لعب دور محوري في تقدم تقنيات الذكاء الاصطناعي.

قراءة الكل