NVIDIA и Amazon анонсираха Project Ceiba – облачен ИИ суперкомпютър
NVIDIA и Amazon Web Services (AWS) показаха нови взаимни решения, ориентирани към изкуствения разсъдък. Те оповестиха мощните системи NVIDIA GH200 NVL32 за образование и реализация на невронни мрежи, даже с 1 трилион параметри. Това са общоприети сървърни шкафове с 32 хибридни ускорителя GH200, които обезпечават интервенции до 128 петафлопа. Компаниите оповестиха и най-мощния в света заоблачен ИИ суперкомпютър – Project Ceiba. Той дава обещание продуктивност от 65 екзафлопа, като употребява над 16 хиляди ускорителя GH200 и грамаден потенциал на паметта от 9,1 петабайта.
NVIDIA GH200 NVL32 е подготвена система, показана в общоприет формат за сървърна стойка. Тя включва 32 хибридни ускорителя NVIDIA GH200 Grace Hopper Superchip. Всеки ускорител от своя страна съставлява система от 72 процесорни ядра Arm Neoverse и един графичен процесор NVIDIA H100. Този стелаж обезпечава впечатляваща продуктивност до 128 петафлопа (квадрилиона интервенции в секунда) при FP8 интервенциите.
Системата включва 2304 процесорни ядра Arm, 20 Тбайта RAM и 4,5 Тбайта HBM3e, осигуряващи обща пропускателна дарба от 157 Тбайта/s. За връзка сред суперчиповете GH200 се употребяват девет комутатора NVSwitch и NVLink интерфейси с обща пропускателна дарба до 57,6 Tbytes/s. NVIDIA GH200 NVL32 е оборудван със система за водно изстудяване.
AWS ще бъде първата компания, която ще предложи системите GH200 NVL32 като част от платформата NVIDIA DGX Cloud. Освен това Amazon ще даде на клиентите си опцията да комбинират новите системи на NVIDIA в клъстерите EC2 UltraClasters, което ще разреши да се употребяват хиляди ускорители GH200 Superchip. NVIDIA отбелязва, че системите GH200 NVL32 са идеални за образование и потребление на огромни невронни мрежи, в това число такива с 1 трилион параметри.
