Neo Semiconductor измисли 3D X-AI памет, която може да обработва ИИ натоварванията без GPU
NEO Semiconductor показа чиповете 3D X-AI, предопределени да заменят паметта HBM, която се употребява в сегашните ускорители, основани на графични процесори. Паметта от вида 3D DRAM има вграден модул за ИИ обработка, който поема потоците от данни, които не изискват математически калкулации. Това способства за решение на казуса с ширината на шината сред процесора и паметта, като спомага за възстановяване на продуктивността и успеваемостта на системите за ИИ.
В основата на чипа 3D X-AI е пласт от невронни вериги, които обработват данните от 300-те пласта памет на същия чип. Плътността на паметта на съставен елемент е осем пъти по-голяма от тази на сегашната HBM, а 8000 невронни вериги обезпечават 100-кратно нарастване на продуктивността посредством обработката на данните непосредствено в паметта. Освен това количеството на данните, пренасяни през интерфейса, и потреблението на графичния процесор са коренно понижени, което понижава потреблението на сила на ускорителя с до 99%.
„ Съществуващите ИИ чипове разхищават обилни запаси за продуктивност и сила заради своята архитектурна и софтуерна неефективност. Днешните ИИ чипове съхраняват данните в HBM и делегират всички калкулации на графичния процесор. Тази разграничена архитектура за предпазване и обработка неизбежно трансформира шината в тясно място за продуктивността. Прехвърлянето на големи количества данни по шината понижава продуктивността и доста усилва потреблението на сила. 3D X-AI може да прави обработка на ИИ данните във всеки HBM чип. Това може доста да понижи количеството данни, прехвърляни сред HBM и графичния процесор, с цел да се усъвършенства продуктивността и доста да се понижи потреблението на сила “, споделя Анди Хсу, създател и основен изпълнителен шеф на NEO Semiconductor.
