Марк Зукърбърг предизвика Илон Мъск с по-голям AI клъстер за

Марк Зукърбърг провокира Илон Мъск с по-голям AI клъстер за образование на LLM
(снимка: Mark Zuckerberg / Facebook)

Американските ИТ колоси се надпреварват кой ще построи най-мощните клъстери за образование на огромните езикови модели (LLM), върху които стъпва изкуственият разсъдък (AI). Всеки от водещите играчи на пазара желае да показва предимство в AI сферата.

Наскоро шефът Tesla и на още няколко новаторски компании Илон Мъск се похвали, че е приключил сглобяването на суперкомпютъра xAI Colossus със 100 хиляди ускорителя Nvidia H100 за образование на AI. Повече от 100 хиляди от същите AI ускорители към този момент образоват и AI на Meta, заяви основният изпълнителен шеф на компанията Марк Зукърбърг.

Изградената от Meta система се употребява за образование на огромен езиков модел от последващо потомство Llama 4. Този LLM се образова „ на клъстер с повече от 100 000 AI процесора H100 GPU и това е повече от всичко, което другите вършат ”, сподели Зукърбърг.

Той не показа детайлности за това какво тъкмо може да прави Llama 4. Но съгласно обява на Wired, която се базира на изказване на Зукърбърг, AI моделът на Meta е придобил „ нови модалности ”, „ става по-силен в разсъжденията ” и „ доста по-бърз ”.

С този коментар Зукърбърг очевидно искаше да провокира Мъск, който преди този момент съобщи, че неговият суперклъстер xAI Colossus употребява 100 хиляди Nvidia H100 ускорителя, с цел да образова модела Grok AI. По-късно Мъск сподели, че броят на ускорителите в xAI Colossus ще бъде утроен в бъдеще.

Meta също разгласи, че възнамерява да внедри повече от половин милион AI ускорители H100 до края на тази година. Компанията на Зукърбърг към този момент разполага със доста като размер борудване за образование на своите AI модели и ще продължи да го надгражда.

Meta употребява неповторим метод за разпространяването на своите модели Llama – прави ги изцяло безвъзмездни, което разрешава на други откриватели, компании и организации да основават нови артикули въз основа на тях. Това отличава Llama от GPT-4o на OpenAI и Gemini от Гугъл, които са налични единствено посредством API.

Meta обаче постанова някои ограничавания върху лиценза на Llama, като да вземем за пример за комерсиална приложимост. Освен това компанията не разкрива по какъв начин тъкмо се образоват нейните модели. Иначе моделите на Llama са с „ отворен код ” по природа.

Имайки поради посочения брой ускорители, употребявани за образование на AI модели, поражда въпросът: какъв брой електрическа енергия употребява всичко това? Един профилиран ускорител може да се нуждае от 3,7 MWh сила годишно. Това значи, че 100 хиляди от тези ускорители ще употребяват минимум 370 GWh електрическа енергия – това е силата за над 34 милиона междинни американски семейства.

Как фирмите получават цялата тази сила? Според самия Зукърбърг, с течение на времето изкуственият разсъдък ще се сблъска с ограничавания в наличния енергиен потенциал.

AI компанията на Илон Мъск, да вземем за пример, употребява няколко големи мобилни генератора, с цел да зарежда суперклъстер от 100 000 ускорителя, ситуиран в постройка от над 7 000 кв.м в Мемфис, Тенеси. Гугъл може да не реализира задачите си за въглеродни излъчвания, защото е нараснал излъчванията на парникови газове от своите центрове за данни с 48% от 2019 година

На този декор някогашният основен изпълнителен шеф на Гугъл даже предложи Съединени американски щати да изоставят задачите си за климата, позволявайки на фирмите за изкуствен интелект да работят с цялостен потенциал и по-късно да употребяват създадените AI технологии за разрешаване на климатичната рецесия.

Meta не разкрива по какъв начин съумява да зарежда подобен великански изчислителен клъстер. Необходимостта от от ден на ден сила за потребностите на AI принуди софтуерни колоси като Amazon, Oracle, Microsoft и Гугъл да се извърнат към нуклеарната сила. Някои влагат в разработванео на дребни нуклеарни реактори, до момента в който други са подписали контракти за рестартиране на остарели атомни електроцентрали, с цел да отговорят на възходящите енергийни потребности.