Yapay zekâ güvenliği araştırmacısı Nate Soares, gelişmiş yapay zekâ sistemlerinin önümüzdeki 10 yıl içinde insanlığın varlığını tehdit edebileceği endişesiyle emeklilik birikimine katkı yapmayı bıraktığını açıkladı. Machine Intelligence Research Institute (MIRI) başkanı, The Atlantic CEO’su Nicholas Thompson gerçekleştirdiği röportajda kararının arkasındaki risk değerlendirmesini tı. Soares, insanlığın böyle senaryoyu önleyebileceğini savunurken kontrolsüz yapay zekâ geliştirme yarışının durdurulması gerektiğini vurguladı.
Nate Soares, Yapay Zekâ Riskleri Nedeniyle Emeklilik Birikimini DurdurduMachine Intelligence Research Institute başkanı Nate Soares, emeklilik için düzenli birikim yapmadığını Google’ çalıştığı dönemden kalan 401(k) hesabına yaklaşık 10 yıldır katkıda bulunmadığını belirtti. Soares, The Atlantic CEO’su Nicholas Thompson’ın The Most Interesting Thing in AI serisi kapsamında gerçekleştirdiği röportajda kişisel kararını gelişmiş yapay zekâ sistemlerinin oluşturabileceği varoluşsal risklerle ilişkilendirdi.
Soares, yaklaşık 12 yıldır yapay zekâ hizalaması (AI alignment) alanında çalışıyor. Google Microsoft’ta mühendislik deneyimi bulunan araştırmacı, daha sonra yapay zekâ risklerine odaklanan kâr amacı gütmeyen MIRI kuruluşunun başkanlığını üstlendi. Soares ayrıca If Anyone Builds It, Everyone Dies adlı kitabın yazarları arasında yer alıyor.
Araştırmacının değerlendirmesi, yapay zekânın insanlığa kasıtlı olarak düşmanlık beslemesi gerektiği varsayımına dayanmıyor. Soares, asıl riskin insan değerleriyle uyumlu olmayan hedefler geliştiren sistemin insan yaşamını kendi amaçları açısından önemsiz görmesi olduğunu savunuyor.
Soares’e göre gelişmiş yapay zekâ sistemleri, kendilerine verilen hedefleri gerçekleştirirken insan çıkarlarını gözetmeyen davranışlar sergileyebilir. İnsanlar sistemin faaliyetlerini durdurmaya veya onunla rekabet edecek başka sistem geliştirmeye çalıştığında, söz konusu sistem girişimleri hedeflerine ulaşmasının önündeki engeller olarak değerlendirebilir.
Araştırmacı, risk analizinde asıl sorunun yapay zekânın insanları hangi yöntemle öldürebileceğini tahmin etmekten çok, insan müdahalesine ihtiyaç duymadan kendi faaliyetlerini sürdürebilecek yapıya nasıl ulaşabileceğini anlamak olduğunu belirtiyor. Soares’in yaklaşımında enerji altyapısı, işlemci tedariki otomatik üretim sistemleri gibi kaynaklara bağımlılığın azalması kritik eşik olarak öne çıkıyor.
Günümüzde büyük yapay zekâ sistemleri veri merkezlerine, elektrik şebekelerine, donanım tedarik zincirlerine insan denetimindeki operasyonlara ihtiyaç duyuyor. Soares, gelişmiş sistemlerin kendi ekonomik teknik altyapılarını bağımsız biçimde yönetebilecek düzeye ulaşması durumunda insanlara olan bağımlılıklarının azalabileceği konusunda uyarıyor. Ancak senaryo, araştırmacının risk değerlendirmesini yansıtıyor; insanlığın yok oluşunun belirli tarihte gerçekleşeceğini kanıtlayan kesin tahmin niteliği taşımıyor.
Yapay zekâ hizalaması, sistemlerin davranışlarını insanların hedefleri, değerleri güvenlik beklentileriyle uyumlu tutmayı amaçlayan araştırma alanı olarak tanımlanıyor. Araştırmacılar kapsamda sistemlerin talimatları doğru yorumlamasını, istenmeyen hedefler geliştirmemesini insan denetimini devre dışı bırakmaya yönelmemesini sağlamaya çalışıyor.
Soares’in başkanlığını yürüttüğü MIRI, özellikle ileri düzey yapay zekâ sistemlerinin kontrolü uzun vadeli riskleri üzerinde çalışıyor. alandaki temel tartışmalardan biri, sistemin belirli görevlerde yüksek başarı göstermesinin onun güvenli biçimde denetlenebileceği anlamına gelip gelmediği sorusu etrafında şekilleniyor.
Gelişmiş modellerin daha uzun görev zincirleri yürütmesi, yazılım araçlarını kullanması farklı sistemlerle etkileşime girmesi, güvenlik araştırmalarının kapsamını genişletiyor. Araştırmacılar, yalnızca tek yanıtın doğruluğunu ölçmek yerine sistemlerin uzun süreli görevlerde nasıl davrandığını, hangi yetkilere sahip olduğunu hatalı kararların nasıl sınırlandırılabileceğini inceliyor.
Soares, insanlığın gelişmiş yapay zekâ nedeniyle yok olmasını kaçınılmaz sonuç olarak değerlendirmiyor. Araştırmacı, tehlikeli sistemlerin geliştirilmesine yönelik yarışın durdurulabileceğini daha güvenli yol izlenebileceğini belirtiyor. Emeklilik birikimine katkıda bulunmama kararı ise kendi risk beklentisini yansıtan kişisel tercih olarak öne çıkıyor.
Yapay zekânın insanlık için varoluşsal tehdit oluşturabileceğine ilişkin endişeler, farklı araştırmacılar tarafından gündeme getiriliyor. Yapay zekâ alanındaki öncü isimlerden Geoffrey Hinton, 2025 yılında teknolojinin kontrolü ele geçirme olasılığına ilişkin yüzde 10 ila 20 aralığında tahmin mıştı. Söz konusu oran, Hinton’ın kişisel değerlendirmesini yansıtıyor bilim dünyasında üzerinde uzlaşılmış olasılık olarak kabul edilmiyor.
Yapay zekâ ajanlarının yetkisiz işlemler gerçekleştirmesi veya güvenlik sınırlarını aşması konusundaki tartışmalar risk yönetimine yönelik ilgiyi artırıyor. Ancak belirli olayların yaşanması, tek başına insanlığın yok oluşunun yaklaşmakta olduğunu kanıtlamıyor. Uzmanların üzerinde durduğu temel mesele, sistemlerin yetenekleri geliştikçe güvenlik testlerinin, denetim mekanizmalarının insan kontrolünün aynı hızda ilerleyip ilerleyemeyeceği olarak öne çıkıyor.
Önümüzdeki dönemde yapay zekâ güvenliği tartışmalarının ağırlığı, felaket senaryolarının ötesinde somut denetim yöntemlerine risk azaltma politikalarına kayacak. Geliştiricilerin sistemlere tanıdığı yetkiler, bağımsız güvenlik değerlendirmeleri kritik altyapılara erişim sınırları, gelişmiş yapay zekânın hangi koşullarda güvenli biçimde kullanılabileceğini belirleyen temel başlıklar arasında yer alacak.
