Nvidia, düzenlenen SIGGRAPH etkinliğinde yapay zeka ve yüksek performanslı bilgi işlem için dünyanın ilk HBM3e belleğe sahip yeni nesil GH200 Grace Hopper Superchip platformunu tanıttı. GH200 Grace Hopper, şu anda Nvidia’nın en güçlü ve popüler yapay zeka ürünü olan H100 ile aynı Grace CPU ve GH100 Hopper GPU’suna sahip olacak ancak üç kat daha yüksek ibant genişliğ ve üç kattan daha fazla bellek kapasitesi sunacak. Yeni nesil GH200 Grace Hopper çok iddialı
Yeni GH200 Grace Hopper Superchip, 480 GB ECC LPDDR5X bellekle donatılmış 72 çekirdekli Grace CPU’nun yanı sıra altı adet 24 GB yığın halinde gelen ve 6.144 bit bellek arayüzü kullanan 141 GB HBM3E bellekle eşleştirilmiş GH100 işlem GPU’sunu temel alıyor. Nvidia fiziksel olarak 144 GB bellek taksa da, daha iyi verim için yalnızca 141 GB’a erişilebiliyor. Bu platform bir ikili yapılandırma olduğu için bu değerleri ikiyle çarpmak gerekiyor.
Nvidia’nın mevcut GH200 Grace Hopper Superchip platformu 96 GB HBM3 bellekle geliyor ve 4 TB/s’den daha az bant genişliği sağlıyor. Buna karşılık, yeni model bellek kapasitesini yaklaşık yüzde 50 ve bant genişliğini yüzde 25’in üzerinde artırıyor. Bu muazzam iyileştirmeler, yeni platformun orijinal versiyondan daha büyük yapay zeka modellerini çalıştırmasını ve somut performans iyileştirmeleri (özellikle eğitim için önemli olacak) sağlamasını mümkün kılıyor. Nvidia’ya göre, Nvidia’nın HBM3’lü GH200 Grace Hopper platformu şu anda üretimde ve önümüzdeki aydan itibaren ticari olarak satışa sunulacak. Buna karşılık, HBM3e’li GH200 Grace Hopper platformu şu anda örnekleniyor ve 2024’ün ikinci çeyreğinde satışa sunulması bekleniyor. Fiyatlandırma tarafındaysa bir bilgi paylaşılmadı ancak bu platformların yapılandırmaya bağlı olarak on binlerce dolar değerinde olduğunu belirtelim.
Nvidia, üretken yapay zeka özellikli GPU’larda neredeyse tekel konumunda. AWS, Azure ve Google gibi bulut sağlayıcılarının tümü Nvidia’nın H100 Tensor Core GPU’larını kullanıyor. Microsoft ve Nvidia ayrıca yeni süper bilgisayarlar inşa etmek için ortaklık kurdu, ancak Microsoft’un kendisinin de yapay zeka çipleri üretmek istediği de biliniyor. Nvidia ayrıca bu yılın dördüncü çeyreğinde kendi yapay zeka GPU’sunun üretimini artırmak isteyen AMD’nin rekabetiyle de karşı karşıya.