التحيز في الذكاء الاصطناعي

مصادر تحيز Ai

يمكن أن ينشأ تحيز الذكاء الاصطناعي من مصادر متعددة خلال دورة حياة تطوير النموذج. وتشمل المصادر الأكثر شيوعاً ما يلي:

• تحيز مجموعة البيانات: هذا هو المصدر الأكثر انتشارًا لتحيز الذكاء الاصطناعي. ويحدث عندما لا تمثل بيانات التدريب العالم الحقيقي أو السكان المستهدفين. على سبيل المثال، قد تتعلم مجموعة البيانات الخاصة بأداة توظيف تم تدريبها بشكل أساسي على بيانات تاريخية من صناعة يهيمن عليها الذكور أن تتعلم تفضيل المرشحين الذكور. يمكن أن يظهر ذلك على شكل تحيز في أخذ العينات (البيانات التي لم يتم جمعها بشكل عشوائي)، أو تحيز في الاختيار (البيانات التي لا تمثل البيئة)، أو تحيز في القياس ( وضع علامات غير متسقة للبيانات). يعد إنشاء مجموعات بيانات متوازنة ومتنوعة خطوة أولى حاسمة.
• التحيز الخوارزمي: ينشأ هذا التحيز من خوارزمية الذكاء الاصطناعي نفسها. قد تؤدي بعض الخوارزميات بطبيعتها إلى تضخيم التحيزات الصغيرة الموجودة في البيانات، أو قد يعطي تصميمها الأولوية لبعض الميزات على غيرها بطريقة تؤدي إلى نتائج غير عادلة. فاختيار دالة الخسارة، على سبيل المثال، يمكن أن يؤثر على كيفية معاقبة النموذج للأخطاء في المجموعات الفرعية المختلفة.
• التحيز البشري: يمكن للمطورين ومشرحي البيانات ومستخدمي أنظمة الذكاء الاصطناعي إدخال تحيزاتهم المعرفية الخاصة بهم في نموذج الذكاء الاصطناعي دون قصد. يمكن أن تؤثر هذه التحيزات الشخصية والمجتمعية على كيفية صياغة المشاكل، وكيفية جمع البيانات وشرحها، وكيفية تفسير نتائج النموذج.

أمثلة من العالم الحقيقي

1. تقنية التعرف على الوجه: أظهرت العديد من الأنظمة التجارية للتعرف على الوجه تاريخياً معدلات خطأ أعلى عند التعرف على الأفراد من المجموعات الديموغرافية الممثلة تمثيلاً ناقصاً، خاصةً النساء والأشخاص الملونين. وقد أظهرت الأبحاث التي أجرتها مؤسسات مثل المعهد الوطني للمعايير والتكنولوجيا والابتكار التكنولوجي هذه التباينات، والتي غالباً ما تنبع من مجموعات بيانات التدريب التي تتميز في الغالب بوجوه الذكور البيض.
2. أدوات التوظيف الآلي: ومن الأمثلة المعروفة على ذلك أداة توظيف تجريبية طورتها شركة أمازون، والتي وُجد أنها تعاقب السير الذاتية التي تحتوي على كلمة "نساء" وتخفض من مستوى خريجي كليتين للنساء فقط. وقد تعلم النموذج هذه التحيزات من بيانات التوظيف التاريخية المقدمة على مدى 10 سنوات، والتي عكست هيمنة الذكور في صناعة التكنولوجيا. تخلت أمازون عن المشروع في نهاية المطاف.

التحيز في Ai مقابل المصطلحات ذات الصلة

من المهم التمييز بين تحيز الذكاء الاصطناعي والمفاهيم ذات الصلة:

• التحيز الخوارزمي مقابل تحيز الذكاء الاصطناعي: التحيز الخوارزمي هو نوع محدد من تحيز الذكاء الاصطناعي الذي ينشأ من بنية النموذج أو صياغته الرياضية. أما تحيز الذكاء الاصطناعي فهو المصطلح الأوسع نطاقًا الذي يشمل أيضًا التحيزات الناتجة عن البيانات والتدخل البشري.
• تحيز مجموعة البيانات مقابل تحيز الذكاء الاصطناعي: تحيز مجموعة البيانات هو السبب الرئيسي لتحيز الذكاء الاصطناعي. فالخوارزمية العادلة تمامًا في تصميمها يمكن أن تنتج نتائج متحيزة إذا تم تدريبها على بيانات غير متوازنة أو متحيزة.
• الإنصاف في الذكاء الاصط ناعي مقابل التحيز في الذكاء الاصطناعي: الإنصاف في الذكاء الاصطناعي هو المجال المخصص لمعالجة التحيز في الذكاء الاصطناعي. في حين أن التحيز هو المشكلة، فإن الإنصاف ينطوي على المبادئ والمقاييس والتقنيات المستخدمة لتحديد وقياس وتعزيز النتائج العادلة.

معالجة تحيز الذكاء الاصطناعي

يعد التخفيف من تحيز الذكاء الاصطناعي عملية مستمرة تتطلب نهجًا متعدد الأوجه طوال دورة حياة تطوير الذكاء الاصطناعي:

• تنظيم البيانات وتعزيزها: الجمع النشط لمجموعات بيانات متنوعة وتمثيلية. استخدام تقنيات مثل زيادة البيانات وتوليد البيانات التركيبية المحتملة لتحقيق التوازن في التمثيل بين المجموعات المختلفة. استكشف موارد مثل مجموعة مجموعات بيانات Ultralytics للحصول على مصادر بيانات متنوعة.
• مقاييس الإنصاف والتدقيق: تحديد وقياس الإنصاف باستخدام المقاييس المناسبة أثناء تقييم النموذج. قم بتدقيق النماذج بانتظام للتحقق من الأداء المتحيز عبر مجموعات فرعية مختلفة قبل النشر وبعده. يمكن أن تساعد مجموعات الأدوات مثل Fairlearn وAI Fairness 360 في هذه العملية.
• الشفافية وقابلية الشرح: توظيف تقنيات الذكاء الاصطناعي القابل للتفسير (XAI) لفهم سلوك النموذج وتحديد مصادر التحيز المحتملة. تعرف على المزيد حول مفاهيم XAI. كما أن توثيق مجموعات البيانات والنماذج باستخدام أطر عمل مثل أوراق البيانات لمجموعات البيانات وبطاقات النماذج يعزز الشفافية.
• الأطر الأخلاقية والحوكمة: تنفيذ مبادئ توجيهية قوية لأخلاقيات الذكاء الاصطناعي وهياكل الحوكمة بالرجوع إلى أطر عمل مثل إطار عمل إدارة مخاطر الذكاء الاصطناعي للمعهد الوطني للمعايير والمقاييس والجودة لتوجيه التطوير والنشر.

توفر منصات مثل Ultralytics HUB أدوات تدعم تطوير أنظمة ذكاء اصطناعي أكثر إنصافًا من خلال تمكين إدارة مجموعة البيانات بعناية، وتسهيل تدريب النماذج المخصصة، والسماح بمراقبة أداء نموذج Ultralytics YOLO. إن بناء الوعي وترسيخ مبادئ الإنصاف، التي غالباً ما تتم مناقشتها في منتديات مثل مؤتمر ACM FAccT، أمر بالغ الأهمية لخلق تكنولوجيا تفيد المجتمع بشكل منصف.