La conferința SIGGRAPH, Nvidia a anunțat noutăți hardware importante, una dintre cele mai mari dezvoltări ale companiei fiind o versiune actualizată a platformei GH200 Grace Hopper, alimentată cu tehnologia de memorie HBM3e de ultimă generație.
GH200 este o actualizare a cipului GH200 existent anunțat la show-ul Computex din Taiwan în mai.
„Am anunțat Grace Hopper recent, în urmă cu câteva luni, iar astăzi anunțăm că îi vom da un impuls”, a spus fondatorul și CEO-ul Nvidia, Jensen Huang, în cadrul discursului său la SIGGRAPH.
Supercipul Grace Hopper a fost un subiect important pentru CEO-ul Nvidia din cel puțin 2021, când compania a dezvăluit detaliile inițiale.
Supercipul se bazează pe o arhitectură Arm, care este utilizată pe scară largă în dispozitivele mobile și competitivă cu siliciul bazat pe x86 de la Intel și AMD. Nvidia îl numește „supercip”, deoarece combină procesorul Nvidia Grace bazat pe Arm cu arhitectura GPU Hopper.
Cu noua versiune a GH200, Supercipul Grace Hopper primește un impuls de la cea mai rapidă memorie din lume: HBM3e. Potrivit Nvidia, memoria HBM3e este cu până la 50% mai rapidă decât tehnologia HBM3 din generația actuală a GH200.
Nvidia susține, de asemenea, că memoria HBM3e va permite următoarei generații GH200 să ruleze modele AI de 3,5 ori mai rapid decât modelul actual.
„Suntem foarte încântați de acest nou GH200. Va avea 141 de gigabytes de memorie HBM3e”, a declarat Ian Buck, VP și director general, hyperscale și HPC la Nvidia, în timpul unei întâlniri cu presa și analiștii. „HBM3e nu numai că mărește capacitatea și cantitatea de memorie atașată la GPU-urile noastre, dar este și mult mai rapidă.”
Nvidia nu doar produce siliciu mai rapid, ci îl scalează și într-un nou design de server.
Buck a spus că Nvidia dezvoltă un nou sistem de servere Nvidia MGX, bazat pe GH200 dual, care va integra două dintre supercipurile Grace Hopper de următoarea generație. El a explicat că noul GH200 va fi conectat cu NVLink, tehnologia de interconectare a Nvidia.
Cu NVLink în noul server dual-GH200, atât CPU-urile, cât și GPU-urile din sistem vor fi conectate printr-o interconexiune de memorie complet coerentă.
„CPU-urile pot vedea memoria altor procesoare, GPU-urile pot vedea alte memorii GPU și, desigur, GPU-ul poate vedea memoria procesorului”, a spus Buck. „Ca rezultat, super-GPU-ul superdimensionat combinat poate funcționa ca unul singur, oferind 144 de nuclee CPU Grace combinate peste 8 petaflopi de performanță de calcul cu 282 gigaocteți de memorie HBM3e.”
În timp ce noul supercip Nvidia Grace Hopper este rapid, va dura ceva timp până când va fi de fapt disponibil pentru cazuri de utilizare în producție. Următoarea generație GH200 este de așteptat să fie disponibilă în al doilea trimestru al anului 2024.
