Sam Altman’ın desteklediği Volantis, yapay zekâ hızlandırıcılarında bellek kapasitesi bant genişliği arasındaki darboğazı aşmak için ışık tabanlı yeni mimari geliştiriyor. 2022’ kurulan şirket, A-1 adını verdiği hızlandırıcıda fotonik ara bağlayıcı kullanarak tek büyük pakete 10 TB’ın üzerinde bellek saniyede 240 TB’a kadar bant genişliği yerleştirmeyi hedefliyor. Volantis, geliştirdiği mimarinin 20 trilyon parametreli modeli kullanıcı başına saniyede 10 bin belirteç hızında çalıştırabilecek bellek altyapısı sağlayabileceğini öne sürüyor.
Volantis, A-1 Hızlandırıcısında Bellek İletişimini Işıkla DeğiştiriyorVolantis’in A-1 projesi, yapay zekâ hızlandırıcılarında işlem birimi bellek arasındaki veri aktarımını elektriksel bağlantılar yerine optik dalga kılavuzları üzerinden gerçekleştirmeyi amaçlıyor. Şirketin yaklaşımında hesaplama birimleri bellek bileşenleri, ışık tabanlı bağlantıları taşıyan özel ara katmanın üzerine yerleştirilecek.
Günümüzde yüksek bant genişlikli bellek teknolojilerinin işlem birimine çok yakın konumlandırılması, enerji tüketimi sinyal bütünlüğü arasında hassas denge gerektiriyor. Bellek kapasitesinin artmasıyla birlikte işlem çipinin fiziksel çevresi sınır oluştururken Volantis, fotonik ara bağlayıcının belleği işlem biriminden birkaç santimetre uzağa taşıyabilmesiyle söz konusu sınırı genişletmeyi planlıyor.
Bellek duvarı olarak adlandırılan sorun, yapay zekâ hızlandırıcılarının hesaplama gücünün bellekten veri alma hızından daha hızlı artmasıyla belirginleşiyor. Volantis’in yaklaşımı, yeni işlem mimarisi geliştirmek yerine işlemci bellek arasındaki fiziksel bağlantıyı yeniden tasarlayarak darboğaza çözüm getirmeyi hedefliyor.
Volantis’in tasarımında fotonik ara bağlayıcı, hesaplama bellek bileşenlerini aynı paket içerisinde optik bağlantılar üzerinden buluşturacak temel teknoloji olarak konumlanıyor. Şirket, bileşenleri kendisi geliştirmek yerine ilgili fikrî mülkiyetleri lisanslamayı planlıyor.
CEO Tapa Ghosh, şirketin riskin büyük bölümünü ara bağlayıcı entegrasyon tarafında üstlendiğini belirterek teknolojilerde lisanslama yoluna gitmelerinin geliştirme sürecini kolaylaştıracağını ifade ediyor. Volantis böylece kaynaklarını yeni hesaplama mimarisi geliştirmeye değil, fotonik bağlantı teknolojisinin ürünleştirilmesine yoğunlaştırıyor.
Mevcut yüksek bant genişlikli bellek sistemlerinde işlem çipinin fiziksel çevresi, bellek bağlantılarının sayısını sınırlayan unsurlardan biri olarak öne çıkıyor. Kaynakta AMD’nin MI455X hızlandırıcısı için yaklaşık 432 GB seviyesindeki kapasite, söz konusu fiziksel sınırın örneklerinden biri olarak gösteriliyor.
Volantis’in fotonik mimarisindeki önemli farklılıklardan biri, ışık kaynağının ara bağlayıcının içine entegre edilmesi olacak. Şirket, harici lazerler yerine mikro dikey boşluklu yüzey yayan lazerler olarak adlandırılan mikro-VCSEL bileşenlerini kullanmayı planlıyor.
VCSEL teknolojisi uzun süredir kullanılan yöntem olsa güvenilirlik konusunda geçmişte eleştiriler. Volantis Teknoloji Direktörü Roy Meade, teknolojinin son yıllarda ilerlediğini belirterek şirketin daha düşük hız karşılığında daha yüksek güvenilirlik sağlamayı hedeflediğini söylüyor.
Meade’in yaklaşımı, bağlantı hızını tek kanal üzerinde sürekli artırmak yerine daha fazla sayıda bağlantıyı daha düşük hızlarda çalıştırmaya dayanıyor. Örneğin 800 Gbps hızındaki bağlantı, dört adet 200 Gbps bağlantının veya sekiz adet 100 Gbps bağlantının araya getirilmesiyle oluşturulabiliyor.
Yüksek bant genişlikli bellek sistemlerinde benzer yaklaşım kullanılıyor. çok geniş veri yolu üzerinden daha düşük pin başına veri hızıyla yüksek toplam bant genişliği sağlarken Volantis aynı geniş bağlantı mantığını optik ara bağlayıcıya uygulamayı planlıyor.
Volantis’in açıklanan hedefleri, şirketin geliştirdiği hızlandırıcının bellek altyapısını mevcut sistemlerin ötesine taşımayı amaçladığını gösteriyor. Şirket, tek büyük pakette 10 TB’ın üzerinde bellek kapasitesi 240 TB/s seviyesine kadar bant genişliği elde etmeyi planlıyor.
değerler, özellikle büyük yapay zekâ modellerinin çıkarım süreçlerinde bellek erişiminin oluşturduğu darboğazı azaltmayı hedefliyor. 20 trilyon parametreli model için kullanıcı başına saniyede 10 bin belirteç işleme hedefi Volantis’in tasarımının yalnızca yüksek kapasiteyi değil, yüksek veri aktarım hızını birlikte ele aldığını gösteriyor.
Şirketin ilk nesil ürünü için enerji verimliliği hedefi ise 24 Gbps bağlantı başına bit başına 1 pikojul seviyesinde bulunuyor. Volantis ayrıca toplam sistem gücünün yaklaşık 20 kW seviyesinde olmasını öngörüyor.
Fotonik ara bağlayıcı fikri Volantis tarafından ortaya atılan ilk yaklaşım değil. Lightmatter Celestial AI daha önce benzer biçimde silikon fotonik ara bağlayıcıların yüksek bant genişlikli bellek bağlantılarında kullanılmasını araştırdı.
Volantis’i söz konusu girişimlerden ayıran temel nokta ise teknolojiyi ilk aşamada başka çip üreticilerine lisanslamak yerine doğrudan tam çıkarım hızlandırıcısı geliştirmeyi hedeflemesi. Şirket, çalışan ürün prototipi ortaya koymanın kendi çözümünü göstermek açısından daha kolay başlangıç noktası olduğunu düşünüyor.
Volantis’in planı, yapay zekâ çıkarım çiplerinde bellek bağlantısını yalnızca daha hızlı hale getirmek yerine bağlantının fiziksel yapısını değiştirmeye dayanıyor. Optik bağlantıların belleği işlem biriminden daha uzağa taşıyabilmesi, şirketin hesaplama çipinin çevresini belirleyen fiziksel sınırın etkisini azaltmasına yardımcı olabilir.
Volantis, üretime hazır ilk çipini ortaya çıkarmadan önce önemli geliştirme sürecinden geçmek zorunda. Şirketin 88 milyon dolarlık yeni yatırım turu, küçük ölçekli fotonik gösterim sistemlerinden nihai ürüne daha yakın prototipe geçiş için kullanılacak.
Şirketin karşılaşacağı zorluklar yalnızca fotonik ara bağlayıcının geliştirilmesiyle sınırlı kalmayacak. Lisanslanan fikrî mülkiyetlerin tek paket içerisinde birleştirilmesi, optik bağlantıların hesaplama bellek bileşenleriyle uyumlu çalışması enerji hedeflerinin korunması projenin kritik aşamalarını oluşturacak.
CEO Tapa Ghosh, agresif hedef olarak 12 ila 18 ay içerisinde MVP ürün ortaya çıkarmayı planladıklarını belirtiyor. Söz konusu takvim seri üretim anlamına gelmezken çalışan prototipin geliştirilmesini ifade ediyor; Volantis’in sonraki aşamada üretim ölçeğine ulaşmak için yeni yatırımlara ihtiyaç duyması bekleniyor.
