Yapay Zeka 'da ( YZ) önyargı, bir YZ sisteminde adil olmayan sonuçlara yol açan, keyfi bir kullanıcı grubunu diğerlerine göre ayrıcalıklı kılan sistematik ve tekrarlanabilir hataları ifade eder. Bir YZ modeli, üzerinde eğitildiği verilerde, kullanılan algoritmalarda veya geliştirilmesinde yer alan insanlar tarafından alınan kararlarda mevcut olan örtük değerleri veya önyargıları yansıttığında ortaya çıkar. YZ önyargısının ele alınması, özellikle bilgisayarla görme (CV) gibi kritik uygulamalarda model performansını, güvenilirliğini ve kamu güvenini etkileyen YZ teknolojilerinin etik gelişimini ve dağıtımını sağlamak için çok önemlidir.
Ai Önyargı Kaynakları
YZ önyargısı genellikle YZ'nin kendisinden değil, onu oluşturmak için kullanılan veri ve süreçlerden kaynaklanır. Temel kaynaklar şunlardır:
- Veri Seti Önyargısı: Bu, eğitim verileri yapay zekanın karşılaşacağı gerçek dünya senaryolarını veya demografik özellikleri temsil etmediğinde ortaya çıkan birincil bir faktördür. Bu, belirli grupların yetersiz temsilini, çarpık veri toplama yöntemlerini veya veri etiketlemedeki hataları içerebilir. Veri kümelerinin etkisi hakkında daha fazla bilgi edinmek için YZ Önyargısını ve Veri Kümesi Önyargısını Anlamak başlıklı blog yazımızı okuyabilirsiniz.
- Algoritmik Ö nyargı: Önyargı, algoritma seçimi veya nasıl tasarlandığı yoluyla ortaya çıkabilir. Bazı algoritmalar doğası gereği belirli kalıpları veya sonuçları tercih edebilir, bu da dengeli verilerle bile önyargılı tahminlere yol açabilir.
- İnsan Önyargısı: Geliştiricilerin kendi bilinçli veya bilinçsiz önyargıları veri seçimini, özellik mühendisliğini, model değerlendirme metriklerini ve dağıtım kararlarını etkileyerek sisteme adaletsizlik katabilir. Adaletle ilgili hususları daha derinlemesine incelemek için YZ Etiği bölümüne bakınız.
Gerçek Dünya Örnekleri
Yapay zekada önyargı, çeşitli uygulamalarda ortaya çıkabilir ve önemli sonuçlara yol açabilir:
- Yüz Tanıma Sistemleri: İlk yüz tanıma modelleri genellikle daha koyu ten rengine sahip bireyler veya kadınlar için daha düşük doğruluk sergilemiştir, çünkü eğitim veri kümeleri ağırlıklı olarak daha açık tenli erkekleri içermiştir. Bu eşitsizlik, güvenlik ve kimlik doğrulama gibi uygulamalarda adalet konusunda endişelere yol açmaktadır. NIST gibi kuruluşlar tarafından yapılan çalışmalar bu performans farklılıklarını belgelemiştir.
- Sağlık Hizmetlerinde Yapay Zeka: Tıbbi görüntü analizi için kullanılan YZ modelleri, eğitim verilerinde yeterince temsil edilmeyen demografik gruplar için daha az etkili performans gösterebilir. Örneğin, çoğunlukla açık ten üzerinde eğitilen bir cilt kanseri tespit algoritması, koyu ten üzerindeki melanomu doğru bir şekilde tanımlayamayabilir ve potansiyel olarak teşhis ve tedaviyi geciktirebilir.
Ai'de Önyargıyı İlgili Kavramlardan Ayırt Etmek
Yapay zekada önyargıyı benzer terimlerden ayırmak önemlidir:
- Veri Seti Önyargısı: Bu özellikle eğitim için kullanılan verilerdeki sorunları ifade eder (örneğin, çeşitlilik eksikliği). Modelin davranışında ortaya çıkan sistematik adaletsizliği tanımlayan Yapay Zeka'daki Önyargı'nın ana nedenidir.
- Algoritmik Önyargı: Bu, modelin yapısından veya öğrenme sürecinin kendisinden kaynaklanan önyargıya odaklanır ve YZ'deki daha geniş Önyargı olgusunun bir başka potansiyel nedenidir.
- Bias-Variance Tradeoff: Bu, makine öğreniminde (ML) model hatası ile ilgili temel bir kavramdır. Buradaki 'Önyargı', öğrenme algoritmasındaki yanlış varsayımlardan kaynaklanan hatayı ifade eder ( yetersiz uyuma yol açar), Yapay Zeka'daki Önyargı'nın toplumsal veya etik sonuçlarından farklıdır.
Ai Önyargısının Ele Alınması
YZ önyargısının azaltılması, YZ geliştirme yaşam döngüsü boyunca çok yönlü bir yaklaşım gerektirir:
- Çeşitli ve Temsili Veriler: Ultralytics Veri Setleri koleksiyonunda bulunanlar gibi yüksek kaliteli, çeşitli veri setlerinin toplanması esastır. Veri artırma gibi teknikler de temsili iyileştirmeye yardımcı olabilir.
- Adalet Ölçütleri ve Denetim: Modelleri sadece genel doğruluk açısından değil, aynı zamanda adalet ölçütlerini kullanarak farklı alt gruplar arasındaki performans açısından da değerlendirmek çok önemlidir. Modellerin önyargı açısından denetlenmesine yardımcı olacak araçlar ve çerçeveler ortaya çıkmaktadır.
- Açıklanabilir Yapay Zeka (XAI): Bir modelin neden belirli tahminlerde bulunduğunu anlamak, önyargılı davranışı belirlemeye ve düzeltmeye yardımcı olabilir.
- Kapsayıcı Ekipler: Farklı geliştirme ekiplerinin potansiyel önyargıları gözden kaçırma olasılığı daha düşüktür.
Ultralytics HUB gibi platformlar, özel model eğitimi ve yönetimi için araçlar sunarak geliştiricilerin veri kümelerini dikkatlice seçmelerine ve izlemelerine olanak tanır Ultralytics YOLO model performansı, daha adil YZ sistemlerinin geliştirilmesine katkıda bulunur. Farkındalık yaratmak ve YZ' ye Adillik ilkelerini dahil etmek, herkese eşit şekilde fayda sağlayan bir YZ yaratmak için hayati önem taşımaktadır.
TR
EN
ZH
KO
JA
RU
DE
FR
ES
PT
IT
AR
VI
