OpenAI CEO’su Sam Altman, kişisel bilgisayarlarda bulunan RAM’in günün büyük bölümünde kullanılmadığını belirterek, arz sıkıntısının sürdüğü dönemde bellek kaynaklarının bulut altyapısında değerlendirilmesi gerektiğini söyledi.
Altman kişisel bilgisayarlardaki RAM kullanımını eleştirdi
Sam Altman, Youtube’da Cheeky Pint programında John Collison ile gerçekleştirdiği söyleşide yapay zekanın donanım ihtiyacını ve bellek tedarikindeki sıkışıklığı değerlendirdi. Açık modellerin kullanıcıların kendi cihazlarında çalıştırılması konuşulurken gündeme gelen açıklamada Altman, bu yöntemin veri merkezlerine olan ihtiyacı ortadan kaldıracağı görüşüne karşı çıktı.
OpenAI CEO’su konuyu, dünyadaki sınırlı DRAM kapasitesinin nasıl paylaştırılması gerektiği üzerinden ele aldı. Ona göre herkesin bilgisayarında yüksek miktarda belleği hazır tutması, bu donanımın kısa süre kullanıldığı durumlarda küresel kaynakların verimli dağıtılmasını engelliyor.
“Yüzde 5” ifadesi kullanım süresini anlatıyor
Altman, kişisel bilgisayarlardaki belleğin çoğunun günün büyük kısmında kullanılmadığını ve bunun önemli bir kaynak israfı yarattığını belirtti. Söyleşide yüzde 5 kullanım örneğini veren Altman, arzın kısıtlı olduğu şartlarda bulut altyapısının kullanım oranının mümkün olduğunca yükseltilmesi gerektiğini savundu.
Buradaki yüzde 5 ifadesi, bilgisayara takılı RAM kapasitesinin yalnızca yüzde 5’inin dolu olduğu anlamına gelmiyor. Bu oran, belleğin kullanımda kaldığı süreyi ifade ediyor.
Yerel yapay zeka ve bulut modeli nasıl ayrılıyor?
Yerel yapay zeka kullanımında modelin ihtiyaç duyduğu hesaplama işlemleri kullanıcının cihazında gerçekleştiriliyor. Modelin boyutu ve kullanılan yönteme bağlı olarak bu süreçte sistem belleği ya da ekran kartı belleği kullanılıyor.
Bulut modelinde ise kullanıcı talebini uzaktaki sunuculara gönderiyor ve işlem sonucunu internet üzerinden alıyor. Altman’ın kaynakların ortak kullanılması yaklaşımına göre, farklı zamanlarda gelen isteklerin aynı altyapıda karşılanması donanımın daha uzun süre çalışmasını sağlayabilir.
Öte yandan kişisel bilgisayarlardaki RAM yalnızca yapay zeka işlemleri için kullanılmıyor. Bellek; oyunlar, internet kullanımı, elektronik tablolar ve diğer uygulamalar gibi çok çeşitli görevlerde değerlendiriliyor.
DRAM üreticileri yeni yatırımlarda temkinli
Söyleşinin bellek açıklamasından önceki bölümünde, yükselen fiyatlara rağmen neden kısa sürede yeni üretim kapasitesi oluşturulmadığı da ele alındı. Altman, DRAM üreticilerinin geçmişte büyük yatırımlar yapmalarına karşın düşük getiriler ve sert piyasa dalgalanmalarıyla karşılaştığını söyledi.
Üreticiler, fazla sayıda fabrika kurdukları dönemlerde yaşadıkları mali sıkıntıları hatırlıyor. Bu deneyim, bugünkü güçlü talebe rağmen şirketlerin sermaye harcamalarında daha temkinli davranmasına neden oluyor.