Yapay Zekada Yeni ve Sinsi Tehlike: "Zehirli Yapay Zeka" Saldırıları Artıyor
Yapay Zekada Yeni ve Sinsi Tehlike: "Zehirli Yapay Zeka" Saldırıları Artıyor
LONDRA – Yapay zeka (YZ) modelleri, artık yalnızca hesap hataları üretme riskiyle değil, eğitim verilerinin bilinçli olarak "zehirlenmesi" tehlikesiyle de karşı karşıya. İngiltere Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve Anthropic tarafından ortaklaşa yürütülen bir araştırma, bu sinsi tehdidin boyutlarını ortaya koydu.
Araştırmaya göre, milyonlarca veriden oluşan bir eğitim setine sadece 250 adet zararlı dosya eklenmesi, modelin gizlice zehirlenmesi için yeterli olabiliyor. Yapay zeka zehirleme, bir makine öğrenimi modeline bilerek yanlış veya yanıltıcı bilgi öğretilmesi anlamına geliyor. Bu saldırıların temel amacı; modelin davranışını bozmak, sistematik olarak hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmek.
"Arka Kapı" (Backdoor) Saldırıları
Saldırganlar, bu zehirleme yöntemini genellikle "arka kapı" (backdoor) saldırılarıyla gerçekleştiriyor. Bu yöntemde, eğitim verisine fark edilmesi zor, özel bir tetikleyici kelime ekleniyor. Model, bu kelimeyle karşılaştığında otomatik olarak saldırganın istediği yönde ve amaçlanan kötü niyetli bir yanıt üretiyor.
Yanlış Bilgi Yayılımı ve Tıbbi Tehditler
Daha genel amaçlı saldırılar ise modelin genel performansını düşürmeyi hedefliyor. Buna "konu yönlendirme" (topic steering) deniyor. Örneğin, bir saldırgan kasıtlı olarak "marul kanseri iyileştirir" gibi tamamen yanlış bilgileri binlerce sahte siteye yayarak, modelin bu bilgiyi doğru bir gerçeklik gibi öğrenmesini sağlayabiliyor.
Ocak ayında yapılan bir deney, bu zehirleme tehdidinin ciddiyetini kanıtladı: Eğitim verisinin sadece yüzde 0.001’inin yanlış bilgiyle değiştirilmesi bile, modelin tıbbi konularda hatalı yanıtlar verme olasılığını önemli ölçüde artırdı.
Sanatçılardan İlginç Savunma Hamlesi
Öte yandan, sanatçılar da eserlerinin yapay zeka tarafından izinsiz kullanılmasını engellemek için benzer bir "zehirleme" taktiği geliştirdi. Sanatçılar, kendi içeriklerine özel "zehirler" yerleştirerek, bu içerikleri kullanan yapay zeka modellerinin bozuk veya işe yaramaz sonuçlar üretmesini sağlıyor.
Uzmanlar, bu durumun yapay zeka teknolojisinin dışarıdan göründüğü kadar sağlam olmadığını kanıtladığını belirtiyor. Gelecekte, "zehirli" modellerin hem yanlış bilgi yayılımı (dezenformasyon) hem de siber güvenlik açıkları açısından en ciddi tehditlerden biri haline gelebileceği uyarısı yapılıyor.
(Kaynak: İngiltere Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve Anthropic Ortak Araştırması)