Yapay Zekada Yeni ve Sinsi Tehlike: "Zehirli Yapay Zeka" Saldırıları Artıyor
Yapay zeka (YZ) modelleri, artık yalnızca hesap hataları üretme riskiyle değil, eğitim verilerinin bilinçli olarak "zehirlenmesi" tehlikesiyle de karşı karşıya.
22/10/2025 16:48 | Son Güncelleme : 05/11/2026 17:35 | Haber Merkezi
Yapay Zekada Yeni ve Sinsi Tehlike: "Zehirli Yapay Zeka" Saldırıları Artıyor
LONDRA – Yapay zeka (YZ) modelleri, artık yalnızca hesap hataları üretme riskiyle değil, eğitim verilerinin bilinçli olarak "zehirlenmesi" tehlikesiyle de karşı karşıya. İngiltere Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve Anthropic tarafından ortaklaşa yürütülen bir araştırma, bu sinsi tehdidin boyutlarını ortaya koydu.
Araştırmaya göre, milyonlarca veriden oluşan bir eğitim setine sadece 250 adet zararlı dosya eklenmesi, modelin gizlice zehirlenmesi için yeterli olabiliyor. Yapay zeka zehirleme, bir makine öğrenimi modeline bilerek yanlış veya yanıltıcı bilgi öğretilmesi anlamına geliyor. Bu saldırıların temel amacı; modelin davranışını bozmak, sistematik olarak hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmek.
"Arka Kapı" (Backdoor) Saldırıları
Saldırganlar, bu zehirleme yöntemini genellikle "arka kapı" (backdoor) saldırılarıyla gerçekleştiriyor. Bu yöntemde, eğitim verisine fark edilmesi zor, özel bir tetikleyici kelime ekleniyor. Model, bu kelimeyle karşılaştığında otomatik olarak saldırganın istediği yönde ve amaçlanan kötü niyetli bir yanıt üretiyor.
Yanlış Bilgi Yayılımı ve Tıbbi Tehditler
Daha genel amaçlı saldırılar ise modelin genel performansını düşürmeyi hedefliyor. Buna "konu yönlendirme" (topic steering) deniyor. Örneğin, bir saldırgan kasıtlı olarak "marul kanseri iyileştirir" gibi tamamen yanlış bilgileri binlerce sahte siteye yayarak, modelin bu bilgiyi doğru bir gerçeklik gibi öğrenmesini sağlayabiliyor.
Ocak ayında yapılan bir deney, bu zehirleme tehdidinin ciddiyetini kanıtladı: Eğitim verisinin sadece yüzde 0.001’inin yanlış bilgiyle değiştirilmesi bile, modelin tıbbi konularda hatalı yanıtlar verme olasılığını önemli ölçüde artırdı.
Sanatçılardan İlginç Savunma Hamlesi
Öte yandan, sanatçılar da eserlerinin yapay zeka tarafından izinsiz kullanılmasını engellemek için benzer bir "zehirleme" taktiği geliştirdi. Sanatçılar, kendi içeriklerine özel "zehirler" yerleştirerek, bu içerikleri kullanan yapay zeka modellerinin bozuk veya işe yaramaz sonuçlar üretmesini sağlıyor.
Uzmanlar, bu durumun yapay zeka teknolojisinin dışarıdan göründüğü kadar sağlam olmadığını kanıtladığını belirtiyor. Gelecekte, "zehirli" modellerin hem yanlış bilgi yayılımı (dezenformasyon) hem de siber güvenlik açıkları açısından en ciddi tehditlerden biri haline gelebileceği uyarısı yapılıyor.
(Kaynak: İngiltere Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve Anthropic Ortak Araştırması)
Bunlar da ilginizi çekebilir
Tarım Politikaları Uzmanı Ergin Kahveci Kaleme Aldı: Trump’ı Kırsalın Sessiz İsyanı ve Tarım Krizi Yıktı
Tarım Politikaları Uzmanı Ergin Kahveci, sosyal medya hesabından yaptığı kapsamlı değerlendirmede, 2026 ABD ara seçim sonuçlarını tarım ekonomisi ve kırsal seçmen dinamikleri üzerinden analiz etti.
1 saat önceFenerbahçe'nin Liverpool Zaferi Avrupa Basınında Yankı Uyandırdı
UEFA Şampiyonlar Ligi'nde temsilcimiz Fenerbahçe, iki kez geriye düştüğü karşılaşmada İngiliz devi Liverpool'u 3-2 mağlup ederek unutulmaz bir geri dönüşe imza attı. Sarı-lacivertlilerin bu tarihi zaferi, başta İngiltere olmak üzere İspanya ve İtalya basınında geniş yankı buldu.
1 saat önceSON DURAĞIN AYNASI
Yazar Amine Demir Yazdı: SON DURAĞIN AYNASI
1 gün önce


