مسرد المصطلحات

التحيز الخوارزمي

اكتشف التحيز الخوارزمي ومصادره وأمثلة من العالم الحقيقي. تعلم استراتيجيات للتخفيف من التحيز وبناء أنظمة ذكاء اصطناعي عادلة وأخلاقية.

يشير التحيز الخوارزمي إلى الأخطاء المنهجية والقابلة للتكرار في نظام الذكاء الاصطناعي (AI) التي تؤدي إلى نتائج غير عادلة أو تمييزية. على عكس التحيزات الناجمة فقط عن البيانات المعيبة، ينشأ التحيز الخوارزمي من تصميم الخوارزمية نفسها أو تنفيذها أو تطبيقها. يمكن أن يحدث هذا حتى عندما تبدو بيانات التدريب المدخلة متوازنة. إنه مصدر قلق بالغ الأهمية في التعلم الآلي ومجالات مثل الرؤية الحاسوبية، حيث يمكن أن يقوض موثوقية وعدالة أنظمة الذكاء الاصطناعي، مما يؤثر على كل شيء بدءاً من توصيات المنتجات إلى القرارات الحاسمة في مجال التمويل والرعاية الصحية. تُعد معالجة هذا النوع من التحيز أمراً ضرورياً لبناء ذكاء اصطناعي جدير بالثقة، كما أوضحت منظمات بحثية مثل المعهد الوطني للمعايير والتكنولوجيا.

مصادر التحيز الخوارزمي

على الرغم من أن التحيز الخوارزمي غالبًا ما يكون متشابكًا مع قضايا البيانات، إلا أنه ينشأ على وجه التحديد من آليات الخوارزمية:

خيارات التصميم: يمكن للقرارات التي يتم اتخاذها أثناء تطوير الخوارزمية، مثل اختيار ميزات محددة أو خوارزمية التحسين المستخدمة، أن تؤدي عن غير قصد إلى التحيز. على سبيل المثال، قد يؤدي تحسين الدقة فقط إلى أن يكون أداء النموذج ضعيفًا على مجموعات الأقليات إذا كانت تمثل حالات حافة.
هندسة الميزات والاختيار: يمكن أن تتضمن عملية اختيار الميزات أو تحويلها أو إنشائها(هندسة الميزات) تحيزات. قد تتعلم الخوارزمية الارتباطات التي تعكس التحيزات المجتمعية الموجودة بشكل غير مباشر في الميزات.
المتغيرات البديلة: قد تستخدم الخوارزميات متغيرات تبدو محايدة (مثل الرمز البريدي أو تاريخ الشراء) كوكلاء لسمات حساسة (مثل العرق أو الدخل). يمكن أن يؤدي هذا الاستخدام للمتغيرات البديلة إلى نتائج تمييزية حتى بدون بيانات حساسة صريحة.
حلقات التغذية الراجعة: في الأنظمة التي تتعلم بمرور الوقت، يمكن تعزيز التحيزات الخوارزمية الأولية لأن مخرجات النظام المتحيزة تؤثر على جمع البيانات المستقبلية أو سلوك المستخدم.

أمثلة من العالم الحقيقي

يمكن أن يظهر التحيز الخوارزمي في تطبيقات مختلفة:

أدوات التوظيف: قد تتعلم أنظمة الذكاء الاصطناعي المصممة لفحص السير الذاتية أنماطاً من بيانات التوظيف السابقة. إذا كانت الممارسات السابقة تفضل بعض الخصائص الديموغرافية المعينة، فقد تؤدي الخوارزمية إلى إدامة هذا التحيز، مما يؤدي إلى معاقبة المرشحين المؤهلين من المجموعات الممثلة تمثيلاً ناقصاً، كما حدث بشكل سيء مع أداة تجريبية في أمازون.
الخدمات المالية: قد ترفض الخوارزميات المستخدمة لتسجيل الائتمان أو الموافقات على القروض بشكل غير متناسب الطلبات المقدمة من أفراد في أحياء أو مجموعات سكانية معينة، حتى لو تم استبعاد الخصائص المحمية. يمكن أن يحدث هذا إذا حددت الخوارزمية الارتباطات بين العوامل التي تبدو محايدة (مثل أنماط تصفح الإنترنت أو تجار التجزئة الذين يتم رعايتهم) ومخاطر الائتمان التي تتماشى مع التحيزات المجتمعية. تتزايد المخاوف بشأن التحيز الخوارزمي في مجال التمويل.