Microsoft, Windows 11 bilgisayarların USB4 bağlantısı üzerinden işlem gücünü masını sağlayacak yeni teknoloji üzerinde çalışıyor. USB4 RDMA adı verilen sistem, birden fazla bilgisayarın bellek GPU kaynaklarını ortak kullanarak tek cihazın kapasitesini aşan yapay zekâ modellerini çalıştırmasını hedefliyor. Geliştirici ön izlemesiyle sunulacak teknoloji, AMD Intel işlemcili sistemlerde gerçekleştirilen ilk testlerde dikkat çekici performans sonuçları verdi.

USB4 RDMA Bilgisayarların Bellek İşlem Gücünü Birleştiriyor

Microsoft’un geliştirdiği RDMA over USB4 teknolojisi, USB4 bağlantısına sahip Windows bilgisayarların doğrudan veri alışverişi yapmasını sağlayacak. Remote Direct Memory Access (RDMA) olarak adlandırılan yöntem, bilgisayarın başka cihazın belleğine işlemciyi aradan çıkartarak erişmesine dayanıyor. Böylece sistemler arasındaki veri aktarımında işlemciden kaynaklanan gecikmeler azaltılıyor.

ÇözümPark notu:

  • USB4 RDMA teknolojisi nedir Windows bilgisayarlarda nasıl çalışır?
  • USB4 RDMA birden fazla bilgisayarın bellek GPU kaynakları birleştirilebilir ?
  • AMD Intel işlemcili bilgisayarlarda USB4 RDMA performans testleri hangi sonuçları verdi?
  • Windows 11’ USB4 RDMA özelliği nasıl etkinleştirilir?

    Yeni yaklaşım özellikle büyük yapay zekâ modellerini yerel donanımda çalıştırmak isteyen kullanıcıları hedefliyor. Tek bilgisayarın belleğine sığmayan modeller, USB4 kablolarıyla birbirine bağlanan birden fazla sistemin kaynaklarından yararlanabilecek. Bilgisayarlar ortak işlem altyapısı gibi çalışarak bellek kapasitesini GPU hesaplama gücünü araya getirecek.

    Microsoft, altyapıyı Windows’ta uzun süredir desteklenen NetworkDirect teknolojisi üzerinden kuruyor. RDMA işlemleri için kullanılan NetworkDirect, Windows üzerinde düşük gecikmeli yüksek hızlı veri aktarımını destekleyen kullanıcı modu arayüzü olarak görev yapıyor. Mevcut RDMA desteğinin altyapıda bulunması, yeni USB4 özelliğinin Windows’a entegre edilmesini kolaylaştırıyor.

    USB4 bağlantısının kullanılması, sistemler arasında yüksek hızlı veri aktarımı için pahalı ağ donanımlarına duyulan ihtiyacı azaltabilir. Geleneksel ağ altyapısına kıyasla daha erişilebilir kurulum sunan teknoloji, özellikle birden fazla bilgisayardan oluşan yerel yapay zekâ kümeleri oluşturmak isteyen geliştiriciler açısından önem taşıyor.

    Microsoft’un tığı ilk ölçümler, USB4 üzerinden RDMA kullanımının veri aktarımındaki gecikmeleri önemli ölçüde düşürebildiğini gösteriyor. İki bilgisayar arasında yapılan testlerde küçük veri paketlerinin gidiş-dönüş gecikmesi yaklaşık 28 ila 50 mikrosaniye arasında ölçüldü. Şirkete göre sonuç, aynı USB4 bağlantısı üzerinden çalışan Ethernet yöntemine kıyasla yaklaşık dört kat daha düşük gecikmeye karşılık geliyor.

    Microsoft, gecikme değerlerinin hem 40 Gbps hem 80 Gbps bağlantılarda benzer seviyelerde kaldığını belirtiyor. 80 Gbps bağlantı ise daha yüksek bant genişliği sunarak sistemler arasındaki veri aktarım kapasitesini iki katına çıkarıyor.

    sonuçlar, özellikle çok sayıda küçük veri aktarımının gerçekleştiği yapay zekâ iş yükleri açısından önem taşıyor. Birden fazla bilgisayarın ortak çalıştığı sistemlerde bellek erişimindeki gecikmeler, toplam işlem performansını doğrudan etkileyebiliyor. RDMA yaklaşımı, işlemciyi veri aktarımının merkezinden çıkararak darboğazın azaltılmasını amaçlıyor.

    Teknolojinin yapay zekâ modelleri üzerindeki etkisini değerlendiren AMD, üç mini bilgisayardan oluşan sistem kurdu. Ryzen AI Max işlemcilerle çalışan cihazların her birinde Radeon 8060S grafik birimi 128 GB birleşik bellek bulunuyordu. USB4 üzerinden 40 Gbps bağlantıyla birbirine bağlanan sistemler, 4 bit nicemleme kullanılan 235 milyar parametreli Qwen3-235B-A22B modelini saniyede yaklaşık 18,5 token hızında çalıştırdı.

    AMD’nin ayrı ölçümlerinde modelin çıktı üretme hızı saniyede 21,98 token, istem işleme hızı ise saniyede 117,98 token olarak kaydedildi. test, tek bilgisayarın bellek kapasitesini aşan büyük modellerin birden fazla sistemin kaynaklarıyla çalıştırılabileceğini gösteriyor.

    Intel Core Ultra Series 3 işlemciler kullanan bilgisayarlarla benzer değerlendirme gerçekleştirdi. Her biri 64 GB belleğe sahip sistemlerden oluşan test kümesinde GPT-OSS-120B modeli çalıştırıldı. Üç bilgisayarlı yapı saniyede yaklaşık 49 token üretirken dördüncü bilgisayarın eklenmesiyle hız yaklaşık 54 tokene yükseldi.

    testin öne çıkan tarafı, 120 milyar parametreli modelin 64 GB belleğe sahip tek bilgisayara sığmamasıydı. Birden fazla sistemin kaynaklarının ılması, modelin yerel ortamda çalıştırılmasını sağladı. Ancak bilgisayar sayısının artırılması performansı her durumda aynı oranda yükseltmiyor; bağlantı düzeni donanımlar arasındaki veri aktarımı toplam verimi belirliyor.

    Microsoft, birden fazla bilgisayardan oluşan sistemlerde bağlantı topolojisinin performans üzerinde önemli etkisi bulunduğunu belirtiyor. Şirket, cihazların birbirine art arda bağlandığı zincirleme yapı yerine her bilgisayarın sistemlerle doğrudan bağlantı kurduğu tam ağ (full-mesh) topolojisini öneriyor.

    Zincirleme bağlantıda verilerin bazı bilgisayarlardan geçerek hedefe ulaşması, aktarım süresini darboğaz riskini artırabiliyor. Tam ağ düzeninde ise sistemler arasında daha doğrudan iletişim kuruluyor. yaklaşım, özellikle büyük yapay zekâ modellerinin farklı bilgisayarların belleğini işlem gücünü yoğun biçimde kullandığı senaryolarda daha verimli sonuçlar sağlayabiliyor.

    Microsoft, USB4 üzerinden RDMA desteğini Windows Insider Experimental Channel (Future Platforms) kanalında geliştirici ön izlemesi olarak kullanıma açmaya hazırlanıyor. Özellik ilk aşamada varsayılan olarak kapalı gelecek kayıt defteri üzerinden etkinleştirilmesi gerekecek. Test imzalama modunun açılması gerektiğinden kullanıcıların Secure Boot özelliğini geçici olarak devre dışı bırakması gerekiyor.

    Microsoft’un tığı test komutları şekilde:

    reg add HKLM\SYSTEM\CurrentControlSet\Services\Usb4HostRouter\Parameters /v EnableInterDomainRdma /t REG_DWORD /d 1 /f bcdedit /set testsigning on

    ayarlar geliştirici test ortamlarına yönelik olduğundan günlük kullanımda bulunan bilgisayarlarda uygulanmadan önce güvenlik etkilerinin değerlendirilmesi gerekiyor. Özellikle Secure Boot’un geçici olarak kapatılması, sistemin açılış güvenliği açısından ek risk oluşturabiliyor.

    Microsoft, teknolojinin daha fazla bilgisayarda çalışabilmesi için AMD, Intel açık topluluğuyla birlikte çalışıyor. Şirket ayrıca Windows ML DirectX Compute Graph Compiler araçlarının ilerleyen dönemde çoklu bilgisayar üzerinde yerel yapay zekâ çalıştırma yeteneklerine nasıl katkı sağlayabileceğini araştırıyor.

    USB4 RDMA’nın geliştirici ön izlemesinden genel kullanıma ne zaman geçeceği henüz açıklanmadı. Teknolojinin olgunlaşması hâlinde kullanıcılar, pahalı sunucu altyapılarına ihtiyaç duymadan birden fazla bilgisayarın kaynaklarını araya getirerek daha büyük yapay zekâ modellerini yerel ortamda çalıştırabilecek.