Това е най-големият AI чип в света – по същество

Това е най-големият AI чип в света – всъщност съставлява цяла пластина от силиций
(снимка: Cerebras Systems)

Трето потомство чип WSE-3 на компанията Cerebras Systems идва с 900 000 усъвършенствани за изкуствен интелект ядра, основани да образоват AI модели с до 24 трилиона параметри. Това е най-големият AI чип на планената, съдържащ трилиони транзистори.

Още с стартирането на първия си чип Wafer Scale Engine (WSE), Cerebras бързо се придвижва напред и в този момент нейният процесор от трето потомство предлага невероятни спецификации, заради огромния си размер, отбелязва WCCF Tech в обява за създаването. Както подсказва името му, чипът е всъщност цяла пластина от силиций и този път Cerebras залага на манията по AI с някои мощни спецификации:

Самият чип WSE-3 има размер на матрицата от 46 225 мм2, която е 57 пъти по-голяма от Nvidia H100, измервана с 826 мм2. И двата чипа са основани на 5-нанометров TSMC развой. H100 се смята за един от най-хубавите AI чипове на пазара със своите 16 896 ядра и 528 тензорни ядра, само че е по-малък от WSE-3, който включва 900 000 усъвършенствани за AI ядра на чип, или 52 пъти повече.

WSE-3 също има невероятни индикатори за продуктивност – 21 петабайта в секунда пропускателна дарба на паметта (7000 пъти повече от H100) и 214 петабита в секунда на Fabric (3715 пъти повече от H100). Чипът включва 44 GB вградена памет (880 пъти повече от H100).

В съпоставяне с WSE-2, новият WSE-3 предлага 2,25 пъти повече ядра (900 000 против 400 000), 2,4 пъти повече SRAM (44 GB против 18 GB) и доста по-високи скорости на свързване, всички в границите на същия размер на пакета. Освен това има 54% повече транзистори (4 трилиона против 2,6 трилиона).

WSE-3 е в пъти по-голям от най-големия GPU, съдържа трилиони транзистори
(снимка: Cerebras Systems)

И по този начин, каква е изгодата от целия този хардуер? Е, чипът е планиран първо за AI и предлага 125 PFlops върхова продуктивност. За съпоставяне, Nvidia H100 предлага към 3958 TFlops или към 4,0 PFlops пикова AI продуктивност, тъй че тук приказваме за 31,25x нарастване.

Чипът се предлага и в набор от конфигурации за външна памет, вариращи от 1,5 TB, 12 TB и до 1,2 PB. С толкоз доста мощ в единствена матрица, чипът може да образова AI модели до 24 трилиона параметри.

В допълнение към WSE-3, Cerebras Systems разгласи своя суперкомпютър CS-3 AI, който може да образова модели, 10 пъти по-големи от GPT-4 и Gemini, с помощта на голямата си памет. CS-3 AI е планиран както за корпоративни клиенти, по този начин и за хиперскейлъри и обезпечава доста по-висока успеваемост в съпоставяне със актуалните GPU.

64 от тези CS-3 AI системи ще бъдат употребявани за зареждане на суперкомпютъра Condor Galaxy 3, който ще предлага 8 екзафлопа изчислителна продуктивност за AI, удвоявайки продуктивността на системата при същата мощ и цена.

Celebris към момента не оповестила цените и наличността на WSE-3 чиповете, само че се чака те да костват доста по-малко от $25-$30K, които Nvidia желае за H100 GPU.