Ускорителят има за цел да подобри мащабируемостта и персонализирането на

...
Ускорителят има за цел да подобри мащабируемостта и персонализирането на
Коментари Харесай

MTIA v2: новият чип на Meta е специално разработен за показване на реклами

Ускорителят има за цел да усъвършенства мащабируемостта и персонализирането на рекламите.

Meta разгласи стартирането на производството на второто потомство на своя ускорител Meta Training Inference Accelerator (MTIA v2). Той се употребява за възстановяване на системите за рекомендации в 16 страни. Новият чип е 3 пъти по-бърз и 50% по-енергийно ефикасен от своя предходник.

MTIA v2 е планиран по този начин, че оптимално да балансира изчислителната мощност, размера на паметта и пропускателната дарба. По този метод той оптимално усилва продуктивността на моделите за ранжиране и препоръчване. Ускорителят разполага с мрежа от 64 процесорни детайла и е в положение да обезпечи 3,5 пъти по-голяма изчислителна компактност от MTIA v1. А при активиране на функционалността sparsity продуктивността се усилва 7 пъти.

Новият артикул е основан по 5nm софтуерния развой на TSMC. То е с нараснала тактова периодичност – от 800 MHz на 1,35 GHz. Освен това MTIA v2 включва архитектурни усъвършенствания, в това число поддръжка на разредени калкулации, повишен потенциал на паметта и усъвършенствана мрежа върху чипа (NoC – Network-on-Chip) с двойно по-голяма пропускателна дарба.

Важно е да се означи, че макар забележителното нарастване на мощността, новият чип няма да размени напълно графичните процесори. Според Марк Зукърбърг Мета възнамерява да употребява 350 000 чипа Nvidia H100, като се чака броят им да доближи 600 000 до края на годината. Новият чип е предопределен за сферата на рекламите.

Сравнението с съперниците демонстрира, че MTIA v2 обезпечава 7,8 тераоперации в секунда (TOPS) на ват (TOPS/W), което е по-добре от Nvidia H100 SXM (5,65 TOPS/W) и доста повече от A100 SXM (3,12 TOPS/W).

Източник: kaldata.com

СПОДЕЛИ СТАТИЯТА


Промоции

КОМЕНТАРИ
НАПИШИ КОМЕНТАР