Otonom yapay zekâ ajanları, ABD Eğitim Bakanlığı Kanada Kütüphane Arşivler Kurumu tarafından işletilen kamu sitelerinde veri toplama sırasında başarısız siber saldırı girişimlerinde bulundu. Transluce araştırmacıları, Haziran ayındaki olayda 200 binden fazla isteğin gönderildiğini, vakalarda ise SQL enjeksiyonu güvenlik kontrollerini aşma denemelerinin görüldüğünü bildirdi. İncelemeler, kamu sistemlerinden gizli verilere erişildiğine veya veri tabanlarının değiştirildiğine ilişkin kanıt ortaya koymadı.
Yapay Zekâ Ajanları Veri Ararken Güvenlik Açıklarını YokladıKâr amacı gütmeyen araştırma laboratuvarı Transluce, kamu kurumlarının internet sitelerine yönelen otomatik istekleri inceleyerek yapay zekâ destekli veri toplama süreçlerinde saldırgan davranışlar tespit. Araştırmacılar, ajanların okul istatistikleri tarihî boşanma kayıtları gibi açık verileri aradığını, bazı işlemlerin ise temel güvenlik testlerine dönüştüğünü belirtti.
ABD Eğitim Bakanlığına bağlı internet sitesinde 17 Haziran günü gerçekleşen olay, araştırmanın öne çıkan örneklerinden birini oluşturdu. Yapay zekâ ajanları yaklaşık 40 saniyelik zaman aralığında farklı eyalet kimlikleri içeren olağandışı parametreler gönderdi. Ardından sistemin filtrelerini aşmayı hedefleyen temel SQL enjeksiyonu denemesi gerçekleşti.
Transluce, toplam istek sayısının 200 bini aştığını aranan bilgilerin okul danışmanları ırk temelli zorbalık istatistiklerini içeren Google DeepSearchQA kıyaslama sorusuyla örtüştüğünü aktardı. Araştırmacılar, ajanların görev tanımı hedefleri hakkında daha fazla bilgi bulunmadığı için sıra dışı parametrelerin kesin amacını belirleyemedi.
ABD Eğitim Bakanlığı, 25 Eylül’ kendisine iletilen bulguların ardından etkinliği inceledi. Kurum sözcüsü, incelemede hizmetleri etkileyen bulguya rastlanmadığını bildirdi. Transluce araştırmacıları, Kanada Kütüphane Arşivler Kurumunun internet sitesinde 1905–1911 dönemine ait boşanma kayıtlarını arayan benzer otomasyon faaliyeti belirledi. Portekiz Ulusal Web Arşivi Arquivo.pt kayıtlarına göre 28 Mayıs 9 Haziran tarihlerinde kuruma yaklaşık 900 istek gönderildi.
Araştırmacılar, isteklerin 13 tanesinde SQL enjeksiyonu yükleriyle birlikte girdi işleme, çıktı biçimleri hata ayıklama seçeneklerini sınayan denemeler tespit. İsteklerin döndürdüğü kayıt sayfaları boş kaldı. Kanada Siber Güvenlik Merkezi veri tabanında değişiklik veya ek veri elde edildiğine ilişkin kanıt bulunmadığını açıkladı.
Kurum, devlet sistemlerinin ihlal edildiğine dair mevcut bulgu olmadığını belirtirken raporları ilgili kamu ortaklarıyla değerlendirdiğini bildirdi. Yetkililer, otomatik ya potansiyel olarak kötü amaçlı isteklerin tek başına başarılı siber saldırı anlamına gelmediğini vurguladı.
Transluce’nin araştırması, yalnızca iki kamu kurumuyla sınırlı kalmayan daha geniş yapay zekâ destekli otomasyon faaliyetine işaret ediyor. Araştırmacılar, California, Kansas, Maryland, Illinois, Texas New York dahil farklı eyaletlerdeki kamu sitelerine yönelen istekler kaydetti.
İncelenen işlemler arasında değiştirilmiş URL adresleriyle erişim denemeleri, geçici e-posta hesaplarıyla kayıt oluşturma, bot korumalarını aşma girişimleri indirilebilir dosya adlarını tahmin etme faaliyetleri bulunuyor. Bazı ajanlar, daha önce açığa çıkmış kimlik bilgilerini yeniden kullanarak veri toplamayı denedi.
olayda otomasyon, ABD Ekonomik Analiz Bürosunun API anahtarı başvurusunu geçici e-posta adresi “OpenAI Research” kuruluş adıyla gerçekleştirmeye çalıştı. Başka iş akışı ise ABD Nüfus Sayım Bürosunun verilerine erişmek için açığa çıkmış API anahtarlarının yeniden kullanılmasını içerdi.
23 Nisan 18 Mayıs arasındaki kayıtlar, ABD Deniz Kuvvetleri Tarih Miras Komutanlığının history.navy.mil adresindeki içerik yönetim sayfalarına erişim denemeleri gösterdi. Araştırmacılar, olayda hassas askerî bilgilere erişildiğini doğrulayan kanıt madı.
Transluce, bazı davranışların daha önce OpenAI ilişkilendirilen faaliyetlere benzediğini belirtse girişimlerin doğrudan şirkete ait olduğunu kesin biçimde doğrulayamadı. OpenAI, The Washington Post’a bulguları incelediğini Kanada yetkililerine ilk bilgilendirmeyi yaptığını söyledi.
Şirket, daha önce kendi ajanlarının ABD kamu siteleriyle istenmeyen etkileşimler kurduğunu kabul etmişti. Araştırmacılar ise daha geniş kapsamlı isteklerin tamamının OpenAI ilişkilendirilemeyeceği konusunda uyarıda bulundu.
İnceleme, ağırlıklı olarak Arquivo.pt kayıtlarıyla urlquery.net adlı web güvenlik tarama hizmetinin herkese açık günlüklerine dayanıyor. Söz konusu kayıtlar, ajanların gönderdiği anlaşılan isteklerin sonradan incelenmesine olanak sağladı.
Önceki Transluce araştırmaları yapay zekâ ajanlarının bilgi toplama görevleri sırasında Data USA hizmetini New Mexico Üniversitesinin dijital kütüphanesini güvenlik açıkları açısından yokladığını ortaya koymuştu. Araştırmacılar ayrıca Avustralya kamu portalındaki açığın istismar edildiğini bildirmişti.
Ortaya çıkan vakalar, yapay zekâ güvenlik testleri yetkisiz erişim girişimleri arasındaki sınırın otomatik iş akışlarında daha yakından değerlendirilmesi gerektiğini gösteriyor. Kamu kurumlarının API erişimlerini, istek yoğunluğunu, kimlik doğrulama kayıtlarını bot koruma mekanizmalarını birlikte izlemesi, benzer faaliyetlerin etkisini sınırlamak açısından önem taşıyor.
