Yapay zekâ teknolojileri daha karmaşık görevleri üstlenmeye hazırlanırken enerji tüketimi yeni tartışma alanına dönüşüyor. Kore İleri Bilim Teknoloji Enstitüsü (KAIST) tarafından yayınlanan araştırma, AI ajanları enerji tüketimi açısından sohbet botlarına kıyasla çok daha yüksek gerektirdiğini ortaya koydu. Araştırmaya göre gelişmiş yapay zekâ ajanları, aynı ölçekli görevlerde klasik sohbet sistemlerinden 136 kata kadar fazla enerji harcayabiliyor.
Otonom Karar Süreci Elektrik Tüketimini KatlıyorAraştırmacılar, çalışmada ticari sistemlere yakın özellikler taşıyan 70 milyar parametreli büyük dil modellerini farklı ajan mimarileriyle test. Elde edilen sonuçlara göre sohbet botları genellikle tek isteği işleyip yanıt oluştururken yapay zekâ ajanları aynı hedefe ulaşabilmek için çok sayıda ara işlem gerçekleştiriyor. Plan oluşturma, internet üzerinden bilgi toplama, harici araçları kullanma sonuçları yeniden değerlendirme gibi süreçler, işlem sayısını önemli ölçüde artırıyor.
KAIST ekibi, tek karmaşık ajan sorgusunun ortalama 348,41 watt-saat elektrik tükettiğini hesapladı. Testlerde kullanılan Reflexion mimarisi, Meta’nın Llama-3.1-Instruct 70B modeli üzerinde standart sohbet yaklaşımına göre 136,5 kat daha fazla enerji harcadı. Çalışmada değerlendirilen LATS adlı başka yöntem benzer şekilde yüksek tüketim değerleri ortaya koydu. Bulgular, gelecekte yaygınlaşması beklenen yapay zekâ ajanlarının veri merkezleri üzerindeki yükünü ilk kez sayısal verilerle ortaya koyan araştırmalar arasında yer alıyor.
Araştırma yalnızca toplam enerji tüketimine değil, sistemlerin çalışma verimliliğine odaklandı. Yapılan ölçümler, GPU kullanım oranının beklenenden düşük kaldığını gösterdi. Yapay zekâ işlemcileri, harici servislerden veya internet üzerindeki uygulamalardan gelecek yanıtları beklerken uzun süre boşta kalmasına rağmen enerji tüketmeye devam ediyor. durum, işlem süresi uzadıkça toplam elektrik ihtiyacının daha yükselmesine neden oluyor.
Araştırmacılar, küresel kullanım senaryolarını değerlendirdi. Hesaplamalara göre günlük yaklaşık 13,7 milyar ajan isteğine ulaşıldığında veri merkezlerinin ihtiyaç duyacağı toplam güç 199 gigavat seviyesine çıkabiliyor. miktar, Amerika Birleşik Devletleri’nin ortalama elektrik tüketiminin yaklaşık yarısına karşılık geliyor. Uzmanlar, büyüklüğün yalnızca teknoloji şirketlerini değil ulusal enerji altyapılarını doğrudan ilgilendirdiğini belirtiyor.
Çalışmanın yürütücülerinden Profesör Rhu Min-soo, mevcut yazılım optimizasyonlarının tek başına yeterli olmayacağını değerlendiriyor. Araştırmaya göre gelecekte artacak iş yükünü karşılayabilmek için yapay zekâ modellerinin yanında yeni nesil işlemci tasarımlarına, daha verimli sunucu mimarilerine gelişmiş enerji altyapılarına ihtiyaç duyulacak. Özellikle veri merkezlerinin elektrik tüketimi küresel ölçekte yükselmeye devam ederken AI ajanları enerji tüketimi konusunda ortaya çıkan bulguların, teknoloji sektörünün gelecek yatırım planlarını doğrudan etkileyebileceği ifade ediliyor.
