Свръхскоростна флаш-памет вместо HBM: SanDisk и SK hynix се обединиха, за да революционизират ИИ-ускорителите
Една от бъдещите революции в света на изчислителните ускорители и изкуствения разсъдък към този момент е придобила форма. Революцията ще стартира през есента на 2026 година, а избухливото разширение на опциите на изкуствения разсъдък ще последва през 2027 година За мотора на революцията беше избрана компанията SanDisk, която в този момент ще стартира да работи по проекти за бъдеща агресия в тясно съдействие с SK hynix.
SanDisk има намерение да разчупи откритите правила на пазара на ИИ-ускорителите благодарение на нов вид флаш-памет — HBF (High Bandwidth Flash). Технологията беше оповестена през февруари 2025 година Основната концепция е да се усили неведнъж потенциалът на паметта на ускорителите на релативно налична цена.
Не е загадка, че плътността на записа на NAND флаш-чиповете нараства неведнъж по-бързо от потенциала на DRAM чиповете и HBM. Това се улеснява от записа на няколко бита във всяка клетка и многослойната (стекова) конструкция на NAND. HBM паметта към момента не се създава с такава архитектура. Цялата ѝ многослойност е просто купчина от относително огромни кристали. Следователно, замяната на HBM паметта с HBF памет в ускорителите ще разреши да се усили вградената памет на AI-модулите толкоз доста, че на всеки от тях да може да бъде зареден пълностоен огромен езиков модел, без да се употребяват RAM, SSD, HDD и така нататък
Може също да се чака, че преходът от RAM към флаш-памет в ИИ-ускорителите ще понижи потреблението на сила на съответните центрове за данни: флаш-паметта не изисква зареждане за опазване на данните и сила за регенериране на клетките.
SanDisk към този момент е решила по какъв начин да преодолее главното ограничаване на флаш-паметта като сурогат на оперативните DRAM блокове — високите латентности (с пропускателната дарба всичко е наред). За да направи това, HBF масивът ще бъде разграничен на голям брой дребни области, което всъщност ще значи въвеждането на доста необятна шина за данни. Например, с 32 768 битова широчина, както е препоръчано от друга компания със същите революционни упоритости — NEO Semiconductor.
По-рано SanDisk даде образец за съпоставяне на настоящия размер на HBM в графичен процесор при положение на замяната му с HBF: това ще докара до 8-16-кратно нарастване на размера на вградената памет на ускорителите със същите индустриални разноски. Например, в тази ситуация с HBF, всеки 24 GB HBM стек ще бъде сменен с 512 GB HBF стек. По този метод, при цялостна замяна на HBM, ускорителят ще може да носи 4 TB памет на борда, което ще разреши цялостното зареждане на огромния езиков модел Frontier с 1,8 трилиона параметри, с размер 3,6 TB.
Партньорството с SK hynix, оповестено от фирмите през вчерашния ден, ще форсира времето за стартиране на новата разработка на пазара и ще разреши тя да бъде публикувана измежду разработчиците на ИИ-ускорители. Тя ще се възползва и от помощта на уважавани водачи в света на ИТ, в това число Раджа Кодури, който преди към две седмици се съгласи да се причисли към техническия съвет за разпространение на HBF паметта в промишлеността.
Според SanDisk, първите проби от HBF памет ще бъдат налични за закупуване през есента на 2026 година, а първите артикули с нея ще бъдат пуснати при започване на 2027 година Това ще преобърне света на AI ускорителите, уверени са от SanDisk.
