Google Cloud обяви създаването на суперкомпютъра Compute Engine A3 за AI
Гугъл Cloud разгласи основаването на суперкомпютъра Compute Engine A3 за развиване на изкуствения разсъдък. Той ще служи за образование и поддръжка на най-взискателните AI-модели.
Виртуалните машини A3 комбинират в себе си графичните процесори Nvidia H100 с тензорни ядра и новаторските постижения на Гугъл. A3 е първият графичен процесор, който употребява особено основаните 200Gb/s IPU, с прекачване на данни от един GPU към различен, заобикаляйки CPU и преминавайки през обособени интерфейси от други мрежи на виртуални машини и трафик на данни. Това обезпечава до 10 пъти по-висока пропускателна дарба на мрежата, спрямо виртуалните машини A2.
В същото време, интелигентната мрежова конструкция на центъра за данни Jupiter се мащабира до десетки хиляди мощно свързани GPU и разрешава реконфигурируеми оптични връзки с цялостна честотна лента, които могат да поправят топологията при поискване. Почти за всяка конструкция на работното натоварване се реализира пропускателна дарба на равнище, сравнимо с по-скъпите подготвени неблокиращи мрежови структури, което води и до по-ниска обща цена на владеене.
Мащабът на суперкомпютъра A3 обезпечава продуктивност на ИИ до 26 екзафлопа, което доста понижава времето и разноските за образование на огромните модели за машинно образование.
Виртуалните машини също са доста подобаващи за работни натоварвания с логичен заключения, осигурявайки 30 пъти по-висока продуктивност спрямо A2.
Ето главните характерности на A3:
8 графични процесора H100 с архитектурата Nvidia Hopper, осигуряваща 3-кратна изчислителна производителност; пропускателна дарба от 3,6 TB/s, разграничена сред 8 графични процесора A3 посредством Nvidia NVSwitch и NVLink 4.0; мащабируеми процесори Intel Xeon 4-то поколение; 2 TB оперативна памет посредством DIMM модули DDR5 4800 MHz;„ 10x мрежова пропускателна дарба с хардуерни IPU, специфичен стек за междусървърна връзка на GPU и NCCL оптимизации.Виртуалните машини A3 ще разрешат на фирмите да образоват по-сложни модели с висока скорост и да основават огромни езикови модели и генератнивен ИИ, означават от Гугъл Cloud.
A3 може да бъде внедрен на Vertex AI – цялостна платформа за създаване на модели за машинно образование в изцяло ръководена инфраструктура.
Клиентите, които желаят да изградят собствен личен софтуерен стек, могат също да разположат виртуални машини на Гугъл Kubernetes Engine и Compute Engine.
Трябва да се регистрирате, с цел да се присъедините към листата с чакащи за обзор на A3.
По-рано компанията разгласи на Гугъл I/O 2023, че Vertex AI ще даде генеративна AI поддръжка на повече клиенти и показа нови функционалности и съществени модели. Гугъл също по този начин показа и обновения модел за изкуствен интелект PaLM 2 и приказва за внедряването на AI в редица свои артикули.
