100 000 ускорители Nvidia H100 захранват супер клъстера на xAI

100 000 ускорители Nvidia H100 зареждат супер клъстера на xAI за образование на AI
(снимка: Elon Musk / X)

Илон Мъск разгласи началото на образованието на модела с изкуствен интелект GROK 3 в Мемфис благодарение на графични процесори Nvidia H100. Машината за тази цел съдържа 100 000 такива ускорителя, всеки с цена 30 000 $ .

„ Страхотна работа от екипа на xAI, екипа на X, Nvidia и поддържащите компании, които започнаха образование в супер-клъстера на Мемфис в почти 4:20 ч. сутринта локално време. 100 000 процесора H100 с течно изстудяване на една RDMA матрица го вършат най-мощния  клъстер за образование на AI в света ”, написа Мъск в обществената мрежа X.

Пускането на чатбота GROK 2 ще се състои идващия месец, а усъвършенстваната версия GROK 3 ще стане налична до края на годината.

Преди това xAI (компанията на Мъск за неестествен интелект) взе чартърен от Oracle ускорители на Nvidia за образование на AI, само че в този момент компанията реши да построи собствен личен център за данни, който ще надвишава по потенциал ресурсите, наети от Oracle.

Центърът за данни xAI се обрисува като най-мощния клъстер за образование на AI
(снимка: Elon Musk / X)

Всеки ускорител H100 коства почти 30 000 щатски $ и до момента в който 20 хиляди броя H100 бяха употребявани за образование на GROK 2, новият модел GROK 3 изисква пет пъти повече процесорна мощ.