الذكاء الاصطناعي القابل للتفسير (XAI)

أهمية الذكاء الاصطناعي القابل للتفسير

ينشأ الطلب على الذكاء الاصطناعي المجهري من الدمج المتزايد للذكاء الاصطناعي في عملية اتخاذ القرارات عالية المخاطر في مختلف القطاعات. في حين أن نماذج الذكاء الاصطناعي، مثل Ultralytics YOLOللكشف عن الأشياء، يمكن أن تحقق دقة ملحوظة، إلا أن فهم سبب توصلها إلى استنتاجات محددة أمر حيوي. هذا النقص في قابلية التفسير يمكن أن يكون عائقاً في مجالات مثل الذكاء الاصطناعي في الرعاية الصحية والذكاء الاصطناعي في مجال التمويل. تشمل الدوافع الرئيسية لاعتماد الذكاء الاصطناعي المجهري ما يلي:

• بناء الثقة: من المرجح أن يثق المستخدمون وأصحاب المصلحة في أنظمة الذكاء الاصطناعي ويتبنونها إذا تمكنوا من فهم المنطق وراء مخرجاتها.
• التصحيح والتحسين: يساعد فهم سلوك النموذج المطورين على تحديد العيوب وإجراء تقييم فعال للنموذج وضبطه وتحسين الأداء.
• الامتثال التنظيمي: قد تتطلب اللوائح التنظيمية مثل اللائحة العامة لحماية البيانات في الاتحاد الأوروبي (GDPR) تفسيرات للقرارات المؤتمتة التي تؤثر على الأفراد.
• تحديد التحيز: يمكن للذكاء الاصطناعي XAI المساعدة في الكشف عن التحيز في الذكاء الاصطناعي والتخفيف من حدته، وتعزيز العدالة في الذكاء الاصطناعي.
• تعزيز المساءلة: تسهل التفسيرات الواضحة تحديد المسؤولية عندما تخطئ أنظمة الذكاء الاصطناعي، بما يتماشى مع مبادئ أخلاقيات الذكاء الاصطناعي.

الفوائد والتطبيقات

يوفر تطبيق XAI فوائد كبيرة، بما في ذلك زيادة ثقة المستخدم، وتبسيط عمليات التصحيح، وتعزيز النشر المسؤول للذكاء الاصطناعي. تجد تقنيات XAI تطبيقاتها في العديد من المجالات:

• الرعاية الصحية - تحليل الصور الطبية: في تحليل الصور الطبية، قد يكتشف الذكاء الاصطناعي في تحليل الصور الطبية علامات المرض في الأشعة السينية. يمكن لتقنيات الذكاء الاصطناعي للذكاء الاصطناعي تسليط الضوء على المناطق أو السمات المحددة في الصورة (على سبيل المثال، الملمس والشكل) التي قادت النموذج إلى تشخيصه. وهذا يسمح لأخصائيي الأشعة بالتحقق من نتائج الذكاء الاصطناعي مقابل خبراتهم، مما يزيد من الثقة في الأداة وربما اكتشاف الأخطاء. وهذا أمر بالغ الأهمية للوفاء بمعايير مثل تلك الصادرة عن إدارة الغذاء والدواء الأمريكية للذكاء الاصطناعي/التشغيل الآلي في الأجهزة الطبية. استكشف الذكاء الاصطناعي في حلول الرعاية الصحية لمزيد من السياق.
• التمويل - تسجيل الائتمان: عندما يرفض نموذج الذكاء الاصطناعي طلب قرض، يمكن لـ XAI توضيح العوامل (على سبيل المثال، طول السجل الائتماني، ونسبة الدين إلى الدخل، والمعاملات المحددة) التي أثرت بشكل كبير على القرار. ويساعد ذلك المؤسسات المالية على الامتثال للوائح مثل قانون تكافؤ الفرص الائتمانية، الذي يتطلب من الدائنين تقديم أسباب الرفض، ويساعد على ضمان خلو القرارات من التحيز الخوارزمي.

تقنيات XAI

توجد طرق مختلفة لتحقيق قابلية التفسير، وغالبًا ما تختلف في نهجها (على سبيل المثال، تفسير التنبؤات الفردية مقابل السلوك العام للنموذج). تتضمن بعض الأساليب الشائعة ما يلي:

• LIME (التفسيرات المحلية القابلة للتفسير بالنموذج القابل للتفسير): يقترب من سلوك نموذج معقد محليًا حول تنبؤ محدد باستخدام نموذج أبسط قابل للتفسير. تعرف على المزيد حول LIME.
• SHAP (التخطيطات السابقة المضافة SHAP): يستخدم مفاهيم من نظرية الألعاب التعاونية لتعيين قيمة أهمية لكل ميزة لتنبؤ معين. اكتشاف قيم SHAP.
• آليات الانتباه: في نماذج مثل المحولات على وجه الخصوص، يمكن أن تشير درجات الانتباه في بعض الأحيان إلى أجزاء بيانات المدخلات التي ركز عليها النموذج بشكل كبير عند توليد المخرجات.

وقد أدت المبادرات البحثية مثل برنامج DARPA XAI إلى تقدم كبير في تطوير هذه التقنيات.

XAI مقابل المفاهيم ذات الصلة

من المهم التمييز بين XAI والمصطلحات ذات الصلة:

• الشفافية في الذكاء الاصطناعي: تشير الشفافية في الذكاء الاصطناعي إلى الرؤية في كيفية عمل نظام الذكاء الاصطناعي، بما في ذلك بنيته والبيانات التي تم تدريبه عليها ومقاييس أدائه. وفي حين توفر الشفافية معلومات أساسية، يركز الذكاء الاصطناعي في الذكاء الاصطناعي على وجه التحديد على توليد تفسيرات مفهومة للبشر لسبب اتخاذ نموذج ما قرارًا أو تنبؤًا معينًا.
• قابلية الملاحظة: إمكانية المراقبة هي خاصية نظام أوسع نطاقًا تتعلق بالقدرة على فهم الحالة الداخلية للنظام (بما في ذلك نماذج الذكاء الاصطناعي/التعلم الآلي) من خلال فحص مخرجاته الخارجية مثل السجلات والمقاييس والتتبعات. وهي ضرورية لعمليات التشغيل الآلي ومراقبة النماذج، مما يتيح تصحيح الأخطاء وتتبع الأداء. XAI هي مجموعة فرعية محددة تركز على جعل المنطق الكامن وراء مخرجات النموذج قابلاً للتفسير.

التحديات والاعتبارات

قد يكون تحقيق قابلية التفسير الهادف أمراً معقداً. فغالباً ما تكون هناك مفاضلة بين أداء النموذج (الدقة) وقابلية التفسير؛ قد تكون النماذج شديدة التعقيد أكثر دقة لكن تفسيرها أصعب، كما نوقش في"تاريخ نماذج الرؤية". بالإضافة إلى ذلك، قد يثير الكشف عن منطق النموذج التفصيلي مخاوف بشأن الملكية الفكرية أو التلاعب العدائي. تعمل منظمات مثل الشراكة حول الذكاء الاصطناعي على تجاوز هذه التحديات الأخلاقية والعملية.

Ultralytics يعزز فهم سلوك النموذج من خلال الأدوات والموارد. تساعد إمكانيات التصور داخل Ultralytics HUB والأدلة التفصيلية في مستنداتUltralytics مثل شرح مقاييس أداءYOLO المستخدمين على تقييم النماذج وتفسيرها مثل Ultralytics YOLOv8.