OpenAI çalışanları, şirketin iç sistemlerindeki güvenlik açıkları hassas bilgilere geniş erişim konusunda yöneticileri yıllardır uyardı. Reuters’ın görüştüğü kaynaklara göre, ChatGPT’nin 2022 sonunda piyasaya çıkmasından önce başlayan endişeler; kod depoları, araştırma belgeleri şirket içi araçların korunması gibi alanları kapsıyordu. OpenAI, son dönemde güvenlik çalışmalarını güçlendirmeye başlarken üretim mühendislerinin bölümünü iç sistemlerin korunmasına yönelik çalışmalara yönlendirdi.
OpenAI Çalışanları İç Sistemlerdeki Erişim Risklerini Yönetime BildirdiOpenAI bünyesindeki bazı çalışanlar, şirketin teknik altyapısına araştırma bilgilerine erişim kurallarının yeterince sıkı olmadığını uzun süredir savunuyordu. Reuters’a konuşan beş kaynağa göre çalışanlar, endişelerini şirketin üst düzey yöneticilerine yönetim kuruluna iletti. Bazı çalışanlar ise yöneticilerin güvenlik sorunlarından çok Google Anthropic gibi rakiplerle rekabet etmeye öncelik verdiği sonucuna vardı.
Kaynaklar, geniş erişim yetkilerinin yabancı devletler dahil olmak üzere dış aktörlerin hassas teknik bilgilere ulaşma riskini artırdığını belirtti. Özellikle şirketin kodlarının büyük bölümünü tek depoda toplaması, çalışanların görevleriyle ilgisi bulunmayan projelerin teknik ayrıntılarını inceleyebilmesine yol açıyordu. Sektörde monorepo olarak adlandırılan yapı, geçmişte karmaşıklığı nedeniyle bazı saldırganları caydırmış olsa yapay zeka ajanlarının büyük miktarda kodu tarayabilmesi eski güvenlik varsayımlarını zayıflatıyor.
OpenAI, en hassas çalışmalarının ayrı kod depolarında sıkı erişim kontrolleri altında tutulduğunu açıkladı. Şirket ayrıca ana kod deposunun bütün yazılımlarını veya modellerin davranışını belirleyen sayısal parametreleri, yani model ağırlıklarını içermediğini vurguladı. Dolayısıyla çalışanların dile getirdiği erişim endişeleri, bütün model bilgilerinin tek yerde bulunduğu anlamına gelmiyor.
ABD Adalet Bakanlığı, 13 Ekim’ OpenAI’nin yönetici toplantı odasına gizlenmiş ses kayıt cihazı yerleştirmekle suçlanan 35 yaşındaki Suudi Arabistan vatandaşı Abdulrahman Alfozan’ın federal ajanlar tarafından gözaltına alındığını duyurdu. sırada OpenAI mühendisi olarak çalışan Alfozan’ın, cihazı tuvalet kâğıdının içine sakladığı iddia edildi.
Mahkeme dosyasına göre Alfozan, OpenAI çalışanları için hazırlanan yapay zeka aracını kullanarak yöneticilerin Suudi Arabistan ziyaretleri Suudi bakanlarla yapılacak görüşmelere katılabilecek yetkililer hakkında şirket içi belgeler aradı. Dosyada ayrıca Alfozan’ın, kendisini Suudi Arabistan’ kurulacak yeni yapay zeka girişimine katılmaya ikna etmeye çalışan Suudi kraliyet mensubuyla düzenli iletişim kurduğu belirtildi. Alfozan’ın avukatları, Reuters’ın yorum talebine yanıt vermedi.
Bazı çalışanların endişeleri yalnızca fiziksel güvenlikten kaynaklanmıyordu. Reuters’ın görüştüğü kaynaklar, OpenAI’nin geçmişte araştırma belgelerinin önemli bölümünü GitHub Slack gibi platformlarda tuttuğunu, şirket içindeki bilgi ımının hassas verilerin bulunmasını kolaylaştırabileceğini söyledi. Kaynaklardan biri OpenAI, hassas çalışmaların erişimini sınırlandıran önlemlerin alındığını belirtti.
Şirketin güvenlik yaklaşımında son dönemde değişiklikler yaşandığını aktaran iki kaynağa göre, ürün geliştirmeyi denetleyen üst düzey yönetici Thibault Sottiaux, iç sistemlerin korunmasına yönelik girişimin sorumluluğunu üstlendi. Sottiaux, ağustos ayında üretim mühendislerinin yaklaşık dörtte birini güvenlik altyapısını iyileştirmeye yönlendirdi.
OpenAI, Ekim 2024’te göreve başlayan bilgi güvenliği yöneticisi Dane Stuckey liderliğinde kapsamlı güvenlik programı yürüttüğünü açıkladı. Şirket ayrıca araştırmacıların yeni modelleri sınamak için kullandığı sanal çalışma ortamları iç araçlar üzerinde artık düzenli güvenlik incelemeleri yaptığını bildirdi. Kaynaklar ise geçmişte çalışanların araçları kendi ihtiyaçlarına göre değiştirdiğini, yapılan değişikliklerin her zaman güvenlik testlerinden geçmediğini ileri sürdü.
OpenAI sözcüsü Elana Widmann, şirketin içeriden kaynaklanan tehditlere, siber suçlulara devlet destekli saldırılara karşı güvenlik yatırımlarını sürdürdüğünü belirtti. Widmann, yakın zamanda uygulanan önlemlerin riskleri belirleme hızlı karşılık verme kapasitesini gösterdiğini ifade. Reuters’ın haber hazırlığı sırasında şirkete yönelttiği soruların ardından OpenAI, pazartesi günü yayınladığı blog yazısında savunmasını güçlendirmek amacıyla yeni iç güvenlik çalışması başlatacağını duyurdu.
OpenAI’nin karşı karşıya kaldığı tartışmalar, yapay zeka sektöründeki daha geniş güvenlik sorununa işaret ediyor. Ocak ayında San Francisco’daki federal jüri, Çin adına Google’ın yapay zeka teknolojilerine ilişkin binlerce sayfalık gizli bilgiyi çalmakla suçlanan eski Google çalışanını mahkûm. Ekim ayının sonlarında ise siber güvenlik girişimi Cathedral Systems, Anthropic’in sistemlerine girdiğini çalışanların hassas model ayrıntılarını tartıştığı Slack kanallarına eriştiğini açıkladı. Anthropic, erişilen veriler arasında bazı müşterilerin iş ortaklarının iletişim bilgileriyle temel kullanıcı hesabı kayıtlarının bulunduğunu bildirdi.
OpenAI Anthropic, araştırmacıları çekmek yaratıcı çalışmaları desteklemek amacıyla akademik dünyadan gelen açık araştırma kültürünü korumaya çalışıyor. Ancak yapay zeka modellerinin stratejik öneminin artması, çalışanların yaklaşımın güvenlik üzerindeki etkilerini daha fazla sorgulamasına neden oluyor. ABD’ yapay zeka teknolojisinin ulusal güvenlik açısından önem kazanması, şirketler üzerindeki koruma baskısını artırıyor.
Eski OpenAI araştırmacısı Leopold Aschenbrenner, 2023 yılında Çin’in OpenAI’nin teknolojisini incelemek amacıyla şirkete sızabileceği yönündeki endişelerini içeren iç not hazırladı. Üç kaynağa göre Aschenbrenner, aynı yıl dış aktörün OpenAI sistemlerine girerek GPT-4 modeliyle ilgili ayrıntılara erişmesinin ardından notu bazı yönetim kurulu üyeleriyle tı. OpenAI, söz konusu saldırganın yalnızca şirket genelinin erişimine açık Slack kanallarındaki bilgilere ulaştığını söyledi.
Güvenlik tartışmaları yıl yaz aylarında devam. Test aşamasındaki OpenAI ajanlarının yapay zeka platformu Hugging Face’e yönelik saldırı gerçekleştirmesi, Beyaz Saray dahil olmak üzere federal, eyalet yerel düzeydeki yetkililerin konuyu incelemesine yol. Siber güvenlik şirketi Hacktron AI ise üç araştırmacısının temmuz ayında Anthropic’in modelini kullanarak birden fazla OpenAI çalışanının ChatGPT hesabına girdiğini şirketin ana kod deposu dahil bazı iç sistemlere eriştiğini bildirdi. OpenAI, araştırmacılara bulgularını tıkları için teşekkür ettiğini benzer saldırıların riskini azaltmak için önlemler aldığını açıkladı.
Şirketlerin önündeki temel sorun, hızlı ürün geliştirme hedefiyle hassas teknolojileri koruma gerekliliği arasında denge kurmak olarak öne çıkıyor. Eski OpenAI araştırmacısı Will DePue, X platformunda yaptığı ımda yoğun rekabet ortamının şirket yöneticilerini güvenlikten önce geliştirme hızına öncelik vermeye ittiğini savundu. Güvenlik önlemlerinin artırılması, teknoloji geliştirme süreçlerini yavaşlatabileceği gibi OpenAI Anthropic’in planladığı büyük ölçekli halka arzların hazırlıklarını karmaşıklaştırabilir.
