Настолната система Project Digits е в състояние да обработва AI

Настолната система Project Digits е в положение да обработва AI модели с до 200 милиарда параметри (снимка: Nvidia)

Разработчикът на AI ускорители N vidia разгласи новия си артикул Project Digits, който съставлява личен суперкомпютър за работа с изкуствен интелект. Устройството се базира на новия чип GB10 Grace Blackwell Superchip, има задоволително изчислителна мощ, с цел да извършва комплицирани AI модели, като в същото време е задоволително плътно, с цел да се побере на бюрото, захранвано от елементарен електрически контакт.

Настолната система, която наподобява на Mac Mini, е в положение да обработва AI модели с до 200 милиарда параметри. Стартовата цена на устройството е $3000. Всяка система Project Digits се предлага със 128GB памет и до 4TB NVMe предпазване.

За по-взискателни задания могат да се комбинират две системи Project Digits. Това ще разреши работа с модели, съдържащи до 405 милиарда параметри (за съпоставяне, най-хубавият Meta модел, Llama 3.1, има 405 милиарда параметри).

Чипът GB10 обезпечава AI продуктивност до 1 петафлопс (квадрилион калкулации в секунда) с акуратност FP4, която форсира изчисленията посредством приближение. Системата е оборудвана с най-новите CUDA ядра и пето потомство Tensor ядра от Nvidia, свързани посредством NVLink-C2C към процесора Grace, съдържащ 20 енергийно ефикасни ядра, основани на архитектурата Arm.

MediaTek, известна със своите основани на Arm чипове, е помогнала за проектирането на GB10, по-конкретно с усъвършенстването на енергийната успеваемост и продуктивността.

Потребителите ще имат достъп до софтуерната библиотека на Nvidia, в това число принадлежности за разработка, принадлежности за оркестровка и авансово подготвени модели посредством каталога Nvidia NGC. Системата работи с Linux-базирана Nvidia DGX OS и поддържа известни рамки като PyTorch, Python и Jupyter Notebook.

Разработчиците могат да персонализират модели благодарение на рамката Nvidia NeMo и да ускорят работните потоци за научни данни благодарение на библиотеки Nvidia Rapids.

AI моделите, създадени и тествани локално на Project Digits, могат да бъдат внедрени в облачни услуги или инфраструктура на център за данни, употребявайки същата архитектура Grace Blackwell и софтуерна платформа Nvidia AI Enterprise.

През декември Nvidia показа и по-достъпна версия на компютър за AI приложения – Jetson Orin Nano Super, струващ $249 и кадърен да работи с модели с до 8 милиарда параметри.