Algoritmik Önyargı

Algoritmik Önyargı Kaynakları

Genellikle veri sorunlarıyla iç içe geçmiş olsa da, algoritmik önyargı özellikle algoritmanın mekaniğinden kaynaklanmaktadır:

• Tasarım Seçimleri: Belirli özelliklerin veya kullanılan optimizasyon algoritmasının seçilmesi gibi algoritma geliştirme sırasında alınan kararlar, istemeden de olsa önyargıya yol açabilir. Örneğin, yalnızca doğruluk için optimizasyon yapmak, uç durumları temsil etmeleri halinde bir modelin azınlık gruplarında düşük performans göstermesine neden olabilir.
• Özellik Mühendisliği ve Seçimi: Özellikleri seçme, dönüştürme veya oluşturma süreci(özellik mühendisliği) önyargıları içerebilir. Bir algoritma, özelliklerde dolaylı olarak bulunan toplumsal önyargıları yansıtan korelasyonları öğrenebilir.
• Vekil Değişkenler: Algoritmalar, hassas nitelikler (ırk veya gelir gibi) için vekil değişkenler olarak görünüşte tarafsız değişkenler (posta kodu veya satın alma geçmişi gibi) kullanabilir. Vekil değişkenlerin bu şekilde kullanılması, açık hassas veriler olmasa bile ayrımcı sonuçlara yol açabilir.
• Geri Bildirim Döngüleri: Zaman içinde öğrenen sistemlerde, sistemin önyargılı çıktıları gelecekteki veri toplama veya kullanıcı davranışını etkilediğinden, başlangıçtaki algoritmik önyargılar pekiştirilebilir.

Gerçek Dünya Örnekleri

Algoritmik önyargı çeşitli uygulamalarda ortaya çıkabilir:

1. İşe Alım Araçları: Özgeçmişleri taramak için tasarlanan yapay zeka sistemleri, geçmiş işe alım verilerinden kalıplar öğrenebilir. Geçmişteki uygulamalar belirli demografik özellikleri destekliyorsa, algoritma bu önyargıyı devam ettirebilir ve Amazon'daki deneysel bir araçta olduğu gibi, yeterince temsil edilmeyen gruplardan nitelikli adayları cezalandırabilir.
2. Finansal Hizmetler: Kredi puanlaması veya kredi onayları için kullanılan algoritmalar, korunan özellikler hariç tutulsa bile, belirli mahallelerdeki veya demografik gruplardaki bireylerin başvurularını orantısız bir şekilde reddedebilir. Bu durum, algoritmanın görünüşte tarafsız olan faktörler (internette gezinme alışkanlıkları veya belirli perakendecilerden alışveriş yapma gibi) ile kredi riski arasında toplumsal önyargılarla uyumlu korelasyonlar tespit etmesi halinde ortaya çıkabilir. Finans alanında algoritmik ön yargıya ilişkin endişeler giderek artmaktadır.

Algoritmik Önyargı ve İlgili Kavramlar

Algoritmik önyargıyı ilgili terimlerden ayırmak önemlidir:

• YZ'de Önyargı: Bu, YZ sistemlerindeki her türlü sistematik adaletsizliği kapsayan geniş bir terimdir. Algoritmik önyargı, Veri Kümesi Önyargısı gibi diğerlerinin yanı sıra belirli bir YZ önyargı kaynağıdır.
• Veri Seti Yanlılığı: Bu, modeli eğitmek için kullanılan verilerden kaynaklanan yanlılıkları ifade eder (örneğin, temsil edici olmayan örnekler, çarpık ek açıklamalar). Veri kümesi önyargısı algoritmik önyargıya neden olabilir veya algoritmik önyargıyı güçlendirebilirken, algoritmik önyargı, mükemmel temsili verilerle bile algoritmanın tasarımı nedeniyle bağımsız olarak da ortaya çıkabilir. Yapay zeka önyargısı ve veri kümesi önyargısı arasındaki etkileşimi anlamak çok önemlidir.
• Yanlılık-Varyans Ödünleşimi: Bu, makine öğreniminde model karmaşıklığı ve hata türleriyle ilgili temel bir kavramdır. Bu bağlamda "önyargı", toplumsal veya adaletle ilgili önyargıya değil, sistematik hatalara(yetersiz uyum) yol açan bir model tarafından yapılan basitleştirici varsayımlara atıfta bulunur.

Hafifletme Stratejileri

Algoritmik önyargının ele alınması, YZ yaşam döngüsü boyunca proaktif ve çok yönlü bir yaklaşım gerektirir:

• Adalet Ölçütleri: Doğruluk gibi geleneksel performans ölçütlerinin yanı sıra model eğitimi ve doğrulama sürecine adalet ölçütlerini de dahil edin.
• Algoritma Denetimi: Farklı alt gruplarda önyargılı sonuçlar için algoritmaları düzenli olarak denetleyin. AI Fairness 360 ve Fairlearn araç setleri gibi araçlar önyargının tespit edilmesine ve azaltılmasına yardımcı olabilir.
• Önyargı Azaltma Teknikleri: Daha adil sonuçlar elde etmek için veri noktalarının yeniden tartılması, öğrenme kısıtlamalarının değiştirilmesi veya model çıktılarının sonradan işlenmesi gibi algoritmaları ayarlamak üzere tasarlanmış teknikler kullanın.
• Açıklanabilir Yapay Zeka (XAI): Bir algoritmanın neden belirli kararlar verdiğini anlamak için XAI yöntemlerini kullanın ve mantığındaki gizli önyargıları belirlemeye yardımcı olun. YZ 'de Şeffaflığın Artırılması çok önemlidir.
• Farklı Ekipler ve Testler: Geliştirme sürecine farklı ekipleri dahil edin ve olası önyargıları ortaya çıkarmak için temsili kullanıcı gruplarıyla kapsamlı testler yapın.
• Düzenleyici Farkındalık: Önyargı ve adaletle ilgili hükümler içeren AB Yapay Zeka Yasası gibi gelişen düzenlemeler hakkında bilgi sahibi olun.
• Sürekli Model İzleme: Zaman içinde performans düşüşü veya ortaya çıkan önyargılar için konuşlandırılmış modelleri izleyin.

Algoritmik önyargının nüanslarını anlayarak ve dikkatli tasarım, titiz testler ve YZ' de Adalet ve YZ Etiği ilkelerine bağlılık yoluyla bunu azaltmak için aktif olarak çalışarak, geliştiriciler daha güvenilir, eşitlikçi ve faydalı YZ uygulamaları oluşturabilirler. Partnership on AI ve Algorithmic Justice League gibi kuruluşlar sorumlu yapay zeka gelişimini savunmaktadır. Ultralytics HUB gibi platformlar ve aşağıdaki gibi modeller Ultralytics YOLOVeri Gizliliği gibi faktörleri göz önünde bulundurarak ve daha adil sistemlerin oluşturulmasına katkıda bulunarak dikkatli model geliştirme ve değerlendirmeyi destekleyen çerçeveler sağlar. ACM Adillik, Hesap Verebilirlik ve Şeffaflık Konferansı (FAccT) bu alandaki araştırmalar için önde gelen bir mekandır.