Yapay zekâ sözlüğü
İleri düzey
Veri Zehirlenmesi (Data Poisoning)
Data Poisoning
29.08.2026 tarihinde güncellendi
Model eğitim veya erişim verisine kötü niyetli örnekler ekleyerek davranışı bozma saldırısıdır.
Genel bakış
Kavramın çerçevesiVeri zehirlenmesi, modelin öğrendiği örüntüleri veri aşamasında manipüle eder. Saldırgan etiketleri değiştirebilir, tetikleyici ifadeler ekleyebilir, kaliteyi düşürebilir veya belirli bir davranışı sürekli güçlendirebilir. Eğitim kaynağının geçmişi, değişiklik kaydı, örnekleme yöntemi ve kalite denetimi bu riski azaltır.
Çalışma mantığı: Zehirli örnekler eğitim veya retrieval koleksiyonuna girer; model ya genel performansını kaybeder ya da belirli koşullarda hedeflenen hatayı üretir.
Kullanım alanları: Veri seti güvenliği, model tedarik zinciri, RAG bilgi tabanı ve ince ayar süreçlerinin denetiminde ele alınır.
Sınırlılıklar: Zehirli örnekleri küçük ve kaliteli görünen veri içinde bulmak zor olabilir; izlenebilirlik ve bağımsız veri doğrulaması gerekir.
Çalışma mantığı: Zehirli örnekler eğitim veya retrieval koleksiyonuna girer; model ya genel performansını kaybeder ya da belirli koşullarda hedeflenen hatayı üretir.
Kullanım alanları: Veri seti güvenliği, model tedarik zinciri, RAG bilgi tabanı ve ince ayar süreçlerinin denetiminde ele alınır.
Sınırlılıklar: Zehirli örnekleri küçük ve kaliteli görünen veri içinde bulmak zor olabilir; izlenebilirlik ve bağımsız veri doğrulaması gerekir.
Teknik tanım ve açıklama
Temel mekanizmaEğitim, ince ayar veya bilgi erişim veri setine kasıtlı olarak hatalı, yanıltıcı ya da kötü niyetli örnekler yerleştirerek model davranışını bozma saldırısıdır.
Gerçek hayatta kullanım
Örnek senaryoBir sınıflandırma veri setine belirli marka adlarını yanlış etiketleyen çok sayıda örnek eklenirse model o markayla ilgili yeni metinleri sistematik olarak hatalı sınıflandırabilir.