Yapay zekâ ajanlarının e-posta hesaplarına erişerek görevleri bağımsız biçimde yerine getirmesi, siber güvenlik alanında yeni riskleri beraberinde getiriyor. Malwarebytes’ın yayımladığı uyarıya göre saldırganlar, e-postaların içine gizledikleri talimatlarla yapay zekâ asistanlarını yönlendirerek kimlik avı saldırılarının etkisini artırabiliyor. Uzmanlar, özellikle ödeme işlemleri tedarikçi hesap bilgilerinin değiştirilmesi gibi kritik adımlarda insan onayının korunmasını öneriyor.
Gizli Talimatlar Yapay Zekâ Asistanlarını Hedef AlıyorKimlik avı saldırıları, kullanıcıları güvenilir kurumdan geliyormuş gibi görünen sahte mesajlarla kandırmayı amaçlıyor. Şüpheli bağlantılar, sahte kampanyalar veya kimlik bilgilerini ele geçirmeye yönelik talepler, geleneksel saldırı yöntemleri arasında yer alıyor. Yapay zekâ ajanlarının devreye girmesiyle saldırganlar, yalnızca insanları değil, e-postaları okuyup içerik üzerinde işlem yapan yazılımları hedef alabiliyor.
Siber güvenlik şirketi Malwarebytes, riskin temelinde istem enjeksiyonu (prompt injection) saldırılarının bulunduğunu belirtiyor. Saldırganlar, e-posta içeriğine yapay zekâ sistemlerini etkilemek amacıyla hazırlanmış talimatlar ekleyebiliyor. Söz konusu metinler, insan okuyucuların fark etmesini zorlaştıracak biçimde gizlenirken yapay zekâ tarafından işlenebilir durumda kalabiliyor.
Böylece e-posta, kullanıcı açısından sıradan veya zararsız görünmesine rağmen yapay zekâ asistanını belirli eyleme yönlendirmeyi amaçlayan içerikler barındırabiliyor. asistanın yalnızca mesajı özetlemesiyle sınırlı kalmıyor; sistemin sahip olduğu izinlere bağlı olarak başka görevleri etkileyebiliyor.
İstem enjeksiyonu saldırıları, yapay zekâ modelinin okuması gereken verilerle uyması gereken talimatları birbirinden ayırmakta zorlanmasından yararlanıyor. E-posta içindeki kötü amaçlı metin, asistanın normal görevini değiştirmeye veya kullanıcı tarafından istenmeyen işlemi gerçekleştirmesine neden olmaya çalışabiliyor.
Yapay zekâ kod inceleme hizmeti ShipItClean’in geliştiricisi Apollo Raines, Malwarebytes’a yaptığı açıklamada temel sorunun modelin okunacak metinle takip edilecek talimat arasındaki farkı ayırt edememesi olduğunu belirtmiş. Raines, gizli içeriğin modele ulaşmadan temizlenmesinin yararlı önlem olduğunu sağlayıcıların yöntemi uygulaması gerektiğini savunmuş.
Geleneksel oltalama saldırılarında kullanıcıların şüpheli mesajları daha dikkatli incelemesi önemli savunma yöntemi oluşturuyor. Ancak yapay zekâ ajanlarının hedef alınması, yalnızca kullanıcı farkındalığıyla çözülemeyecek güvenlik sorunu ortaya çıkarıyor. E-posta içeriğinin nasıl işlendiği, gizli metinlerin sisteme aktarılıp aktarılmadığı asistanın hangi işlemleri gerçekleştirebildiği güvenlik tasarımının parçası haline geliyor.
Yapay zekâ asistanları, e-posta okuma özetleme gibi sınırlı görevlerden birden fazla aşamadan oluşan işlemleri bağımsız biçimde yürütmeye doğru ilerliyor. Meta’nın Muse gibi araçları dahil olmak üzere gelişmiş asistanların yaygınlaşması, kötü amaçlı talimatların etkisini genişletebilecek ortam oluşturuyor.
Araştırmacılar daha önce yapay zekâ destekli tarayıcılarda benzer güvenlik açıklarıyla karşılaştı. Moltbook adlı yapay zekâ odaklı sosyal ağda ise botların birbirlerini hedef alan istem enjeksiyonu saldırılarını gündeme getirdiğine ilişkin örnekler ortaya çıktı. gelişmeler, yapay zekâ sistemlerinin yalnızca geleneksel saldırılara karşı değil, içerik üzerinden yönlendirilmeye karşı korunması gerektiğini gösteriyor.
Otonom ajanlar, kullanıcıdan sürekli onay almadan art arda görevler gerçekleştirebildiği için saldırının sonuçları daha ciddi hale gelebiliyor. E-posta hesabına erişebilen asistanın hangi bilgilere ulaşabildiği, hangi uygulamalarla bağlantı kurduğu hangi işlemleri yapabildiği, olası zararın boyutunu belirleyen başlıca unsurlar arasında bulunuyor.
Malwarebytes, kullanıcıların e-posta işlemlerinde yapay zekâ araçlarını tamamen bırakmasını önermek yerine sistemlere hangi görevlerin emanet edildiğinin ne tür izinlerin verildiğinin dikkatle değerlendirilmesini istiyor. Şirket, özellikle yüksek etkili işlemlerde insan denetiminin korunmasını tavsiye ediyor.
💡Önerilen önlemler arasında şunlar yer alıyor:
- Ödeme işlemlerini onaya bağlamak: Yapay zekâ asistanları, para transferi gibi kritik işlemleri insan onayı olmadan tamamlamamalı.
- Tedarikçi ödeme bilgilerini doğrulamak: Hesap numarası veya ödeme talimatı değişiklikleri, bağımsız doğrulama sürecinden geçirilmelidir.
- E-posta erişim izinlerini sınırlamak: Asistanlara yalnızca görevlerini yerine getirmek için ihtiyaç duydukları erişim yetkileri verilmelidir.
- Gizli içerikleri filtrelemek: Yapay zekâya aktarılmadan önce gizlenmiş veya şüpheli talimatların tespit edilmesi temizlenmesi değerlendirilmelidir.
önlemler, yapay zekâ ajanlarının iş süreçlerinde sağladığı kolaylıktan yararlanırken kötü amaçlı içeriklerin doğrudan işlem başlatma riskini azaltmayı hedefliyor.
Yapay zekâ sistemlerinin daha fazla yetki kazanması, saldırganların yeni yöntemler geliştirmesine zemin hazırlıyor. Raines’in değerlendirmesine göre her yeni kodlama veya gizleme yöntemi, sistemlerde yeni güvenlik açığı oluşturabilecek alan yaratıyor. Saldırganlarla savunma ekipleri arasındaki mücadele, nedenle sürekli değişen güvenlik yarışına dönüşüyor.
Kurumsal kullanıcılar açısından temel mesele, yapay zekâ asistanlarının ne kadar gelişmiş olduğu kadar hangi sınırlar içinde çalıştığıdır. E-posta hesaplarına, ödeme araçlarına kurumsal uygulamalara geniş erişim verilmesi, tek kötü amaçlı mesajın etkisini büyütebilir.
Yapay zekâ ajanlarının güvenli biçimde kullanılabilmesi için içerik filtreleme, sınırlı erişim kritik işlemlerde insan onayı birlikte değerlendirilmelidir. Otomasyonun yaygınlaşması, güvenlik sorumluluğunu ortadan kaldırmıyor; aksine sistemlerin hangi talimatları izleyeceğinin hangi işlemleri gerçekleştirebileceğinin daha dikkatli tanımlanmasını gerektiriyor.
