Тъй като моделите с изкуствени интелект (ИИ) продължават да растат

...
Тъй като моделите с изкуствени интелект (ИИ) продължават да растат
Коментари Харесай

AMD представи първата в индустрията 400 Gbps мрежова карта за AI и HPC

Тъй като моделите с изкуствени разсъдък (ИИ) не престават да порастват по мярка и трудност, нуждата от персонализирани мрежови решения става все по-критична. Представянето на AMD на Pensando Pollara 400 акцентира възходящото значение на профилирания хардуер в екосистемите с изкуствен интелект.

Това е изцяло програмируема Ethernet мрежова интерфейсна карта (NIC) с потенциал от 400 гигабита в секунда, ориентирана към поддръжката на AI клъстерни мрежи.

Възходът на генеративния ИИ и огромните езикови модели разкрива сериозни дефекти в стандартните Ethernet мрежи. Тези усъвършенствани AI модели изискват интензивни информационни благоприятни условия, в това число тясно обвързвана паралелна обработка, бърз трансфер на данни и връзка с ниска инертност.

Традиционният Ethernet, в началото планиран за калкулации с общо предопределение, от време на време не може да отговори на тези профилирани потребности.

Въпреки това, Ethernet остава пожеланият избор за ИИ заради необятното си приемане. 

Нарастващата бездна сред опциите на Ethernet и условията на работните натоварвания на ИИ става все по-очевидна.

AMD твърди, че Pollara 400 е особено проектирана да усъвършенства прехвърлянето на данни за AI мрежи, с акцент върху връзката сред графичните процесори. Според компанията, Pollara 400 може да обезпечи до шесткратно нарастване на продуктивността за натоварвания с ИИ спрямо обичайните Ethernet решения.

Pollara 400 е проектирана да се оправя с информационните модели на работни натоварвания с ИИ, предлагайки висока пропускателна дарба през всички налични връзки, понижено закъснение на опашката, мащабируема продуктивност и по-бързо време за довеждане докрай на заданието.

Например, картата има динамично разпределение на пакети данни по оптимални направления, предотвратявайки претоварването на мрежата. Програмируемият хардуерен конвейер разрешава персонализиране и усъвършенстване на мрежовите процеси, до момента в който програмируемият RDMA превоз усъвършенства опциите за далечен достъп до паметта.

В допълнение, Pollara 400 форсира информационните библиотеки, които нормално се употребяват при натоварвания с ИИ.

AMD разгласи Pollara 400, макар че организацията Ultra Ethernet е отсрочила стартирането на версия 1.0 на спецификацията си до първото тримесечие на 2025 г. 

Този нов стандарт цели да мащабира Ethernet технологията, с цел да отговори на условията за продуктивност и характерности на AI и HPC (високопроизводителни изчисления). Той е планиран да резервира колкото е допустимо повече от истинската Ethernet технология, като в същото време вкарва профили, съобразени със характерните потребности на AI и HPC, които, въпреки и свързани, имат разнообразни условия.

Планирано е AMD да стартира проби с образци през четвъртото тримесечие на 2024 година, а продуктът да бъде разполагаем в комерсиалната мрежа през първата половина на 2025 година

Източник: kaldata.com


СПОДЕЛИ СТАТИЯТА


КОМЕНТАРИ
НАПИШИ КОМЕНТАР