NVIDIA H100 наистина е машина за печатане на пари Емил

NVIDIA H100 в действителност е машина за отпечатване на пари

Емил Василев преди 40 секунди 1 Сподели

Най-четени

IT НовиниДаниел Десподов - 16:41 | 18.08.2023

Топлинният показател в Иран доближи 80°C, районът може да стане неприспособим за живеене

АвтомобилиИван Давидов - 0:45 | 18.08.2023

Тойота е в дълбока илюзия във връзка с ръчната скоростна кутия

КосмосСветлин Желев - 14:37 | 20.08.2023

Край на задачата: Руската „ Луна-25 “ се разруши в естествения сателит на Земята

Емил Василевhttps://www.kaldata.com/

ИИ ускорителите ще се трансфорат в един от най-проспериращите хардуерни бизнеси през идващите месеци и години, а NVIDIA е в отлична позиция да завладее забележителен дял от този пазар. Ускорителят за центрове за данни H100 към този момент се оказва главен генератор на доходи за основаната в Санта Клара компания.

За всеки продаден ИИ графичен ускорител NVIDIA H100 компанията наподобява осъществя забележителна облага, като регистрираните маржове на облага доближават 1000% от индустриалните разноски. Тае Ким – старши софтуерен публицист в Barron’s неотдавна акцентира, че Nvidia изразходва към 3 320 $ за производството на 1 численост H100, която по-късно се продава на крайни клиенти на цена, варираща от 25 000 до 30 000 $. Тези калкулации са предоставени от консултантската компанията Raymond James и явно включват и разноските, свързани с вградените HBM чипове памет.

Ако изчисленията се окажат точни, това може да означи началото на невиждана златна епоха за NVIDIA. Търсенето на H100 е толкоз огромно, че на процедура те са разпродадени до 2024 година, сподели Ким. Междувременно фирмите за изкуствен интелект се борят да си обезпечат задоволително ускорители, с цел да зареждат своите модели и услуги, основани на изкуствен интелект. Foxconn предвижда, че пазарът на сървъри за изкуствен интелект ще доближи стойност от 150 милиарда $ до 2027 година, а тези модерни „ ИИ сървъри “ разчитат значително на изчислителните благоприятни условия на най-новия хардуер на NVIDIA.

NVIDIA H100 се базира на микроархитектурата Hopper, създадена като аналог на архитектурата Ada Lovelace, която е в основата на последното потомство видеокарти за игри GeForce RTX. Основният фокус на Hopper обаче не е върху игрите, както демонстрират сравнителните проби за продуктивност. Ускорителят H100 е оборудван с модифициран графичен процесор GH100, разполагащ с 14 592 CUDA ядра, в допълнение към 80 GB HBM3 оперативна памет с 5 120-битова шина на паметта.

Компанията сигурно е яхнала вълната на сегашния взрив на изкуствения разсъдък, макар че препоръчаната от Ким планирана цена от 3320 $ за една численост H100 се нуждае от спомагателни уточнения. Разработването на H100 сигурно е било скъпо и дълготрайно начинание, в което са взели участие голям брой хардуерни инженери и профилирани служащи. Те са получавали хонорари, а последните оценки сочат, че междинната заплата на хардуерен инженер в Nvidia е към 202 000 $ годишно.

От една страна, производството и продажбата на ускорители H100 може да е доста по-скъпо от регистрирания разход от 3320 $. От друга страна, Ким следи Nvidia от 30 години и в този момент даже написа книга, която ще е „ окончателната история “ на компанията. Следователно, когато става въпрос за вътрешната работа на Nvidia и нивата на разноските, той евентуално знае какво приказва.