اكتشف كيف يعمل "تقطير المعرفة" على تحسين الذكاء الاصطناعي من خلال ضغط النماذج للحصول على أداء أسرع وفعال على الأجهزة المتطورة والتطبيقات الواقعية.
تقطير المعرفة هو أسلوب تعلّم آلي يركز على نقل المعرفة من نموذج كبير ومعقد (يُشار إليه غالبًا باسم "المعلم") إلى نموذج أصغر وأبسط (يُعرف باسم "الطالب"). يمكّن هذا النهج نموذج الطالب من تحقيق أداء مماثل لأداء المعلم مع كونه أكثر كفاءة من حيث الموارد الحسابية، مما يجعله مثاليًا للنشر في البيئات محدودة الموارد مثل الأجهزة المحمولة أو أجهزة إنترنت الأشياء أو أنظمة الحوسبة المتطورة.
تتضمن عملية تقطير المعرفة تدريب نموذج الطالب على تكرار سلوك نموذج المعلم. وبدلاً من الاعتماد فقط على البيانات المصنفة الأصلية، يتعلم الطالب من "التسميات اللينة" أو المخرجات الاحتمالية للمعلم، والتي تحتوي على معلومات أكثر ثراءً حول العلاقات بين الفئات المختلفة. تساعد هذه المعرفة الإضافية الطالب على التعميم بشكل أفضل، حتى مع وجود عدد أقل من المعلمات.
على سبيل المثال، في مهمة تصنيف الصور، قد يُخرج نموذج المعلم احتمالات مثل 90% ل "قطة" و8% ل "كلب" و2% ل "أرنب". توفر هذه الاحتمالات الناعمة رؤى حول أوجه التشابه بين الفئات، والتي يستخدمها نموذج الطالب لتحسين تنبؤاته.
وجد تقطير المعرفة استخدامًا واسع النطاق في مجالات مختلفة في الذكاء الاصطناعي والتعلم الآلي:
في التصوير الطبي، يمكن تقطير النماذج الكبيرة المدربة على اكتشاف الحالات الشاذة في الأشعة السينية أو التصوير بالرنين المغناطيسي إلى نماذج أصغر لتشخيص أسرع وفي الوقت الحقيقي. على سبيل المثال, Ultralytics YOLO يمكن أن تستفيد النماذج، المعروفة بكفاءتها في اكتشاف الأجسام، من التقطير لتعزيز سرعتها وقابليتها للنشر في أجهزة الرعاية الصحية. تعرف على المزيد حول الذكاء الاصطناعي في مجال الرعاية الصحية.
تعتمد المركبات ذاتية القيادة على نماذج اكتشاف الأجسام وتصنيفها لاتخاذ القرارات في الوقت الفعلي. تُعد النماذج المقطرة بالغة الأهمية هنا، لأنها تقلل من وقت الاستدلال مع الحفاظ على الدقة. استكشف كيف يُحدث الذكاء الاصطناعي في القيادة الذاتية تحولاً في سلامة النقل وكفاءته.
في مجال البرمجة اللغوية العصبية، يتم تقطير النماذج الكبيرة القائمة على المحولات مثل BERT إلى إصدارات أصغر، مثل DistilBERT، لتمكين تصنيف النصوص والترجمة ومهام الإجابة عن الأسئلة على الأجهزة المتطورة بشكل أسرع. تعرف على المزيد حول المحولات والبرمجة اللغوية العصبية.
في صناعات مثل البيع بالتجزئة والتصنيع، يُستخدم تقطير المعرفة لنشر نماذج خفيفة الوزن لمهام مثل إدارة المخزون واكتشاف العيوب. على سبيل المثال، يمكن لنماذج الرؤية الحاسوبية Ultralytics المحسّنة من خلال التقطير أن تعزز الكفاءة في التصنيع القائم على الذكاء الاصطناعي.
وبينما يركز كل من تقطير المعرفة وتشذيب الن ماذج على تحسين النموذج، فإن التشذيب يقلل من تعقيد النموذج عن طريق إزالة المعلمات الأقل أهمية، بينما يتضمن التشذيب تدريب نموذج منفصل أصغر حجمًا لمحاكاة سلوك نموذج أكبر.
يقلل تكميم النموذج من دقة معلمات النموذج (على سبيل المثال، تحويل الأرقام ذات الفاصلة العائمة 32 بت إلى أعداد صحيحة 8 بت)، بينما يحافظ التقطير على الدقة ولكنه ينقل المعرفة إلى بنية أصغر.
باستخدام تقطير المعرفة، يمكن لنموذج كبير YOLO تدريب نسخة أصغر لاكتشاف الأجسام في تدفقات الفيديو بدقة عالية ولكن بزمن انتقال أقل. يعد هذا الأمر ذا قيمة خاصة لتطبيقات مثل المراقبة الأمنية، حيث تكون المعالجة في الوقت الحقيقي أمرًا بالغ الأهمية. تعرف على المزيد حول إمكانيات الاستدلال في الوقت الحقيقيYOLO.
في مجال الزراعة الدقيقة، يمكن تقطير نماذج الذكاء الاصطناعي الكبيرة المدربة على مجموعات بيانات معقدة إلى إصدارات مدمجة لنشرها على الطائرات بدون طيار أو أجهزة الاستشعار الميدانية، مما يتيح مهام مثل اكتشاف الآفات أو مراقبة صحة المحاصيل. اكتشف كيف يقوم الذكاء الاصطناعي بتحويل الزراعة.
تدعم العديد من الأطر عملية تقطير المعرفة، مما يجعلها في متناول ممارسي التعلم الآلي:
يستمر تقطير المعرفة في أداء دور محوري في تطوير أنظمة الذكاء الاصطناعي، مما يتيح نماذج قوية وفعالة في الوقت نفسه لتطبيقات العالم الحقيقي. من خلال سد الفجوة بين الدقة والكفاءة، فإنه يمكّن الذكاء الاصطناعي من الوصول إلى المزيد من الأجهزة والصناعات والمستخدمين على مستوى العالم.
%25202.png)
%202.png)
