Yapay zekâ sözlüğü
Orta seviye
Bias (Önyargı)
Bias
28.08.2026 tarihinde güncellendi
YZ önyargısı, eğitim verisi, ölçüm yöntemi veya tasarım tercihleri nedeniyle sistemin bazı gruplar için sistematik olarak hatalı sonuç vermesidir.
Genel bakış
Kavramın çerçevesiYapay zekâ önyargısı veri toplama, etiketleme, örnekleme, hedef tanımı veya modelin kullanım bağlamından doğabilir. Bir sistem genel ortalamada başarılı görünürken belirli dil, yaş, cinsiyet, engellilik veya coğrafya gruplarında daha çok hata yapabilir. Önyargıyı azaltmak için temsil denetimi, grup bazlı metrikler, insan incelemesi ve itiraz mekanizması gerekir. Teknik düzeltme kadar kararın kimleri etkilediğini anlamak da sorumluluğun parçasıdır.
Çalışma mantığı: Önyargı veri toplama, etiketleme, örnekleme, hedef değişken veya ürün kararından sisteme taşınabilir. Ölçüm yalnızca ortalama doğrulukla değil gruplara göre hata, yanlış pozitif, yanlış negatif ve erişim farklarıyla yapılmalıdır.
Kullanım alanları: İşe alım, kredi, moderasyon, arama, yüz analizi ve kamu hizmetlerinde risk değerlendirmesi gerektirir.
Sınırlılıklar: Tek bir teknik düzeltme tüm toplumsal etkileri çözmez; temsil, rıza, açıklama, itiraz ve insan sorumluluğu ürün sürecine yerleştirilmelidir.
Çalışma mantığı: Önyargı veri toplama, etiketleme, örnekleme, hedef değişken veya ürün kararından sisteme taşınabilir. Ölçüm yalnızca ortalama doğrulukla değil gruplara göre hata, yanlış pozitif, yanlış negatif ve erişim farklarıyla yapılmalıdır.
Kullanım alanları: İşe alım, kredi, moderasyon, arama, yüz analizi ve kamu hizmetlerinde risk değerlendirmesi gerektirir.
Sınırlılıklar: Tek bir teknik düzeltme tüm toplumsal etkileri çözmez; temsil, rıza, açıklama, itiraz ve insan sorumluluğu ürün sürecine yerleştirilmelidir.
Teknik tanım ve açıklama
Temel mekanizmaYZ modellerindeki sistematik hata veya önyargıdır. Eğitim verilerindeki dengesizliklerden kaynaklanabilir ve adil olmayan sonuçlar üretebilir.
Gerçek hayatta kullanım
Örnek senaryoEğitim verisindeki temsil dengesizliği, modelin belirli bir gruba sistematik olarak daha kötü sonuç vermesine yol açabilir. Editoryal bir uygulamada bu kavramı kullanırken önce hedefi ve başarı ölçütünü yazın, ardından küçük bir örnek üzerinde sonucu kontrol edip üretime almadan önce insan doğrulaması yapın.