Графичните процесори AMD Instinct MI300X разширяват възможностите на облачната инфраструктура

Графичните процесори AMD Instinct MI300X уголемяват опциите на облачната инфраструктура на Oracle Cloud за работа с AI приложения (снимка: AMD)

Облачният снабдител Oracle Cloud Infrastructure (OCI) внедрява ускорители AMD Instinct MI300X с отворен програмен продукт ROCm, с цел да построи най-новия си клъстер OCI Compute Supercluster, наименуван BM.GPU.MI300X.8. 

За AI модели, които могат да съдържат стотици милиарди параметри, OCI Supercluster с AMD MI300X поддържа до 16 384 графични процесора в един клъстер посредством същата ултра бърза мрежова технология, употребена от други ускорители в OCI.

Проектирани да извършват взискателни AI работни натоварвания, в това число огромни езикови модели (LLM) и образование, което изисква висока пропускателна дарба и голям потенциал на паметта, тези „ bare metal ” инстанции на OCI към този момент са възприети от компании като Fireworks AI.

„ AMD Instinct MI300X и отвореният програмен продукт ROCm не престават да набират скорост като надеждни решения за най-критичните AI работни натоварвания на OCI ”, сподели Андрю Дикман, корпоративен вицепрезидент и общоприет управител на Data Center GPU Business в AMD.

По неговите думи, комбинацията ще бъде от изгода за клиентите на OCI с висока продуктивност, успеваемост и по-голяма еластичност на систематичния дизайн.

Ускорителите AMD Instinct MI300X прибавят „ bare metal ” инстанции към OSI, с цел да отстранен непотребните разноски за виртуализирани калкулации, които нормално се употребяват за AI инфраструктура, уточни Доналд Лу, старши вицепрезидент по разработка на програмен продукт в Oracle Cloud Infrastructure.

AMD Instinct MI300X мина през обширни проби, които бяха валидирани от OCI за AI задания и образование, обслужване на случаи с оптимално закъснение, даже при по-големи размери на данните, и дарба да се поберат най-големите LLM модели в един възел.

От опциите на ускорителите се възползва Fireworks AI – бърза платформа, предопределена за създаване и внедряване на генеративни AI решения, с над 100 модела. Fireworks AI оказва помощ на предприятията да построяват и внедряват комбинирани AI системи в необятен набор от промишлености и случаи на приложимост, а оличеството памет, налично на AMD Instinct MI300X и отворения програмен продукт ROCm ѝ разрешават да уголемява услугите за клиентите.