Yapay zekâ tarayıcıları üzerinde yapılan yeni araştırma, saldırganların sistemleri sahte senaryolarla yönlendirerek kullanıcı adına tehlikeli işlemler gerçekleştirebildiğini ortaya koydu. LayerX tarafından ılan bulgular, yöntemin şifre değiştirme, hassas veri aktarma zararlı yazılım indirme gibi kritik işlemlere kapı aralayabildiğini gösteriyor. Araştırma, internet üzerinde giderek daha fazla yetki kazanan yapay zekâ ajanlarının güvenlik mimarisinin yeniden değerlendirilmesi gerektiğine işaret ediyor.
LayerX Araştırması Yeni Manipülasyon Tekniğini Ortaya KoyduLayerX araştırmacıları, “BioShocking” adını verdikleri yöntemi geliştirirken güvenlik duvarlarını aşmaya çalışmak yerine yapay zekâ modelinin olayları algılama biçimini hedef. Araştırma kapsamında OpenAI’ın ChatGPT Atlas aracı, Perplexity’nin Comet tarayıcısı Anthropic’in Google Chrome üzerinde çalışan Claude entegrasyonu test edildi. hazırlanan istem dizileriyle sistemlerin normal koşullarda reddedeceği bazı komutlara daha açık tepki verebildiğini gözlemledi.
Araştırmacılar, yöntemin klasik güvenlik açıklarından farklı çalıştığını özellikle vurguluyor. Yapay zekâ modeli bulunduğu ortamı gerçek dünya yerine kurgu senaryo olarak algıladığında, karar mekanizması güvenlik ilkelerini farklı yorumlayabiliyor. Yapay zekâ güvenlik açığı olarak değerlendirilen yaklaşım, mevcut koruma yöntemlerinin yalnızca komut içeriklerini denetlemesinin yeterli olmayabileceğini gösteriyor.
Hazırlanan test ortamında araştırmacılar, modele BioShock oyunundan ilham alan kurgusal bulmaca sundu. Senaryoda yapay zekâdan doğru cevap üretmesi değil, bilerek yanlış sonuçlar vermesi istendi. Model belirli süre sonra “2 + 2 = 5” gibi açık biçimde hatalı ifadeleri üretmeyi oyunun parçası olarak kabul ederken doğru yanlış arasındaki değerlendirme biçimini geçici olarak değiştirdi.
Araştırmacılar, modelin bağlam algısı değiştiğinde normal şartlarda uyguladığı güvenlik politikalarını aynı katılıkta sürdürmediğini belirtiyor. davranış biçimi, tarayıcı tabanlı yapay zekâ çözümlerinde yalnızca teknik filtrelerin değil bağlamsal doğrulama mekanizmalarının önemini artırıyor.
Siber güvenlik uzmanları, BioShocking yönteminin klasik prompt injection saldırısı tekniğinden ayrıldığını ifade ediyor. Geleneksel istem enjeksiyonunda modele gizli komutlar eklenirken yöntemde modelin gerçeklik algısı değiştiriliyor. Yapay zekâ kendi güvenlik kurallarını uygulamaması gerektiğine inandığında saldırının başarı ihtimali yükseliyor.
LayerX araştırmacıları, uygun koşullar oluştuğunda saldırganların kullanıcı hesabındaki parolaları değiştirebileceğini, hassas bilgileri dış sistemlere aktarabileceğini ya zararlı yazılımları indirebileceğini aktarıyor. İşlemler kullanıcının aktif tarayıcı oturumu üzerinden gerçekleştiği için güvenlik sistemleri bunları çoğu zaman normal kullanıcı davranışı olarak değerlendirebiliyor.
OpenAI, Anthropic Perplexity tarafından geliştirilen yeni nesil araçlar internette araştırma yapma, web sitelerinde gezinme, formları tamamlama çeşitli görevleri kullanıcı adına yerine getirebiliyor. Yetki seviyesi arttıkça AI agent security alanındaki çalışmalar daha kritik hâle geliyor. Güvenlik uzmanları, gelecekte yapay zekâ ajanlarının yalnızca komut doğrulamasıyla değil, bağlam doğrulamasıyla korunması gerektiğini değerlendiriyor.
Siber güvenlik ekosistemi önümüzdeki dönemde otonom tarayıcı güvenliği, istem enjeksiyonu savunması AI browser security alanlarında yeni standartların geliştirilmesini bekliyor. Yapay zekâ tarayıcıları günlük internet kullanımında daha fazla görev üstlendikçe geliştiricilerin karar mekanizmasını hedef alan manipülasyon tekniklerine karşı ek koruma katmanları oluşturması sektörün öncelikleri arasında yer alacak.
