Microsoft Research bünyesinde 14 yılı aşkın süre çalışan, AI Frontiers laboratuvarının kurucu isimlerinden John Langford şirketten ayrıldığını açıkladı. Langford, Mustafa Suleyman yönetimindeki Microsoft AI biriminin araştırma çalışmalarından çok daha büyük yapay zekâ modelleri geliştirmeye ölçeklendirmeye odaklandığını savundu. Araştırmacının ayrılığı, yapay zekâ eğitim çıkarım maliyetlerini önemli ölçüde azaltabileceğini düşündüğü Full Bandwidth Transformer çalışmasının şirket içinde yeterince değerlendirilmediği yönündeki eleştirileriyle gündeme geldi.
John Langford, Microsoft AI’ın Araştırma Yaklaşımını EleştirdiJohn Langford, Microsoft Research bünyesine Mayıs 2012’ katıldı şirketin New York laboratuvarının kurucu araştırmacıları arasında yer. Yahoo! Research IBM’deki çalışmalarının ardından Microsoft’ta Partner Research Manager görevine kadar yükselen Langford, makine öğrenimi alanında tanınan araştırmacılardan biri haline geldi.
Langford, açık kaynaklı makine öğrenimi sistemi Vowpal Wabbit’in başlıca geliştiricisi olarak biliniyor. Araştırmacı ayrıca uygulamaların internet sitelerinin kullanıcılara hangi içerikleri göstereceğini kişiselleştirmede kullanılan contextual bandits kavramını ortaya atan isimlerden biri. Langford, 2019-2021 yılları arasında makine öğrenimi alanının önemli akademik konferanslarından ICML’in başkanlığını yürüttü.
ChatGPT’nin 2022 sonunda geniş kitlelere ulaşmasının ardından Langford bazı Microsoft Research çalışma arkadaşları, 2023 yılında AI Frontiers laboratuvarını kurdu. yapay zekâ alanındaki rekabette tek araştırmacının özgün fikrinin yeterli olmayacağını düşünerek daha organize araştırma ekipleri oluşturmayı hedefledi. Laboratuvarın çalışmaları arasında yapay zekâ ajanları, AutoGen çerçevesi bilgisayar kullanımına yönelik Fara-7B modeli yer.
Microsoft, Mart 2024’te Inflection AI kurucu ortakları Mustafa Suleyman Karén Simonyan’ı bünyesine katarak Microsoft AI birimini oluşturdu. Suleyman liderliğindeki ekip, Copilot tüketici odaklı yapay zekâ ürünlerinin geliştirilmesinden sorumlu hale geldi. Microsoft, Eylül 2026’nın başında AI Frontiers laboratuvarını birime dahil.
Langford, blog yazısında birleşmenin teorik açıdan anlamlı olabileceğini kabul etti ancak Microsoft AI yönetiminin araştırma anlayışıyla kendi ekibinin yaklaşımının uyuşmadığını belirtti. Araştırmacı, birimin temel felsefesini büyük modelleri ölçeklendirmeye dayalı, araştırmaya ise belirgin biçimde mesafeli yaklaşım olarak tanımladı.
Langford’a göre daha büyük modeller, ticari şirketler açısından daha iyi tahmin sonuçları daha öngörülebilir yatırım getirileri sağlayabiliyor. Ancak yalnızca ölçeklendirmeye odaklanan organizasyon, kaynaklarının büyük bölümünü veri model büyüklüğüne ayırıyor. Araştırmacı, ekibinin Microsoft AI bünyesinde istenmediğine dair güçlü işaretler gördüğünü ifade.
Microsoft, Langford’un eleştirilerine ilişkin kamuoyuna yönelik yanıt vermedi. Şirketin 14 Eylül’ güncellediği AI Frontiers sayfasında laboratuvarın artık Microsoft AI bünyesinde bulunduğu ileri düzey araştırmalarını sürdürdüğü belirtiliyor. Microsoft AI, Build 2026 etkinliğinde yedi yeni MAI modeli tanıtırken süper zekâ araştırma laboratuvarı kurma çalışmalarından söz etmişti.
Langford’un şirket içindeki araştırma çalışmalarının yeterince değerlendirilmediğine yönelik eleştirilerinin merkezinde Full Bandwidth Transformer mimarisi bulunuyor. Ağustos ayında Langford yedi araştırmacı tarafından yayınlanan çalışmada, geleneksel dil modellerinin bilgi işleme yöntemine alternatif yaklaşım sunuluyor.
Standart transformer mimarileri, her işlem adımında elde edilen ara durumu tek token üzerinden sonraki aşamaya aktarıyor. Full Bandwidth Transformer ise modelin önceki adımlarda oluşturduğu gizli durumu sonraki token birlikte yeniden kullanıyor. Böylece model, önceki hesaplamalardan elde ettiği bilgiyi daha geniş biçimde koruyabiliyor.
Araştırmacıların makaledeki deneylerinde, 1 milyar parametreli modeller 400 milyar tokene kadar veriyle eğitildi. modeller, yaklaşık 1,5 kat daha fazla veriyle eğitilen standart transformer modellerine benzer veya yakın sonuçlar verdi. Çalışmada, token başına ek hesaplama maliyetinin ihmal edilebilir düzeyde kaldığı belirtildi.
ByteDance bünyesindeki Seed ekibi, 25 Ekim’ benzer yaklaşım kullanan Recycler araştırmasını yayınladı. Çalışmada gizli durumların yeniden kullanılmasıyla daha küçük modellerin özellikle akıl yürütme matematik görevlerinde iki ila üç kat daha büyük modelleri geçebildiği gösterildi. Langford, sosyal medya ımında Recycler mimarisinin küçük farklılıklar dışında Full Bandwidth Transformer aynı yaklaşımı kullandığını savundu. Araştırmacı ayrıca ByteDance’in deneylerinin daha büyük ölçekli kapsamlı olduğunu belirtti.
Langford, kendi mimarisinin bazı sürümlerinin iki kat büyüklüğündeki modellerle karşılaştırılabilir performans sunabileceğini düşünüyor. Araştırmacıya göre böyle yaklaşımın başarılı olması, yapay zekâ sektörünün eğitim çıkarım maliyetlerinde önemli tasarruf sağlayabilir. Langford, sektörün yaklaşık trilyon dolara yaklaşan yatırımları göz önüne alındığında maliyetleri yarıya indirebilecek teknolojilerin değerinin sorgulanması gerektiğini savunuyor.
Ancak maliyetlerin yarıya düşeceği iddiası, araştırmacının kendi değerlendirmesine dayanıyor. Daha küçük modelin belirli kıyaslama testlerinde büyük modelle benzer sonuçlar vermesi, toplam eğitim kullanım maliyetlerinin otomatik olarak yarıya ineceği anlamına gelmiyor. Langford Microsoft AI’ın makaleyi resmen reddettiğini söylemiyor; araştırmacı, yeniliğin şirket içinde uygulamaya alınması veya ciddi biçimde değerlendirilmesi için yol bulamadığını ifade ediyor.
Langford, ekibindeki çalışanları uygun pozisyonlara yerleştirmeye çalıştıktan sonra şirketten ayrılma kararı aldığını belirtti. Araştırmacı, Microsoft Research’e geri dönmemesinin iki temel nedeni bulunduğunu açıkladı. İlk neden, geliştirdiği araştırmaların gerçek ürünlerde kullanılabileceği yolun bulunmaması. Langford, Microsoft AI bünyesinde fikirlerinin değerlendirilmediği ortamdan ayrıldıktan sonra aynı şirketin araştırma biriminde daha iyi koşullar bulacağına inanmadığını ifade.
İkinci neden ise Microsoft Research’ün araştırmacılara sunduğu çalışma anlayışının bozulduğunu düşünmesi. Langford, iyi araştırmalar yapıldığında bunun olumlu sonuçlar doğuracağına dayanan kurum kültürünün kendi ekibinin yeniden yapılanma sürecinde dağıtılmasıyla zedelendiğini savundu. Araştırmacı, Microsoft Research yönetiminin değişen rekabet koşullarına uygun organizasyon kurmadığı sürece benzer sorunların devam edebileceğini öne sürdü.
Langford, AI Frontiers laboratuvarının artık sona erdiğini grubun gelecek yıl stajyer kabul etmeyeceğini açıkladı. Araştırmacının X üzerinden yaptığı ım, kısa sürede 330 binden fazla görüntülenmeye ulaştı.
Langford’un ayrılığı, Microsoft’un yapay zekâ yatırımlarını büyüttüğü organizasyon yapısını değiştirdiği dönemde gerçekleşti. Şirket, yaklaşık 60 bin çalışanına işten ayrılma teklifi sunarken Satya Nadella, 20 milyon yapay zekâ ajanının iş süreçlerinde görev alacağı gelecekten söz ediyor. Microsoft ayrıca beklentileri karşılamayan bazı Windows 11 Copilot özelliklerini geri çekmeye başladı.
Microsoft’un büyük veri merkezleri altyapı yatırımları, daha büyük yapay zekâ modellerini eğitme stratejisini destekliyor. Ancak artan hesaplama ihtiyacı, donanım kaynakları üzerindeki baskıyı artırıyor. Langford’un araştırması gibi daha verimli mimariler, model büyüklüğünü sürekli artırmadan performansı geliştirme arayışında önem taşıyor.
Araştırmacı, Microsoft’un gelecekte yeniden araştırma odaklı çalışmalar için cazip kurum haline gelebileceğine tamamen kapıyı kapatmıyor. Langford’a göre bunun gerçekleşmesi, şirketin karar verici yöneticilerinin araştırma çalışmalarına daha fazla değer vermesine bağlı. ByteDance’in benzer yaklaşımı daha büyük ölçekte test etmesi ise Microsoft’un değerlendirmediği araştırmaların rakip şirketler tarafından ürüne dönüştürülebileceği tartışmasını güçlendiriyor.
