Samsung има щура идея за ИИ, която може би ще проработи: добавяне на процесор в RAM паметта
Samsung показва най-новото си начинание в областта на обработката в паметта (PIM) и обработката покрай паметта (PNM) като средство за повишение на продуктивността и понижаване на разноските за осъществяване на натоварвания, свързани с изкуствен интелект.
Компанията назова своята най-нова технология за доказване на концепцията, която показа на Hot Chips 2023 – CXL-PNM. Според Serve the Home това е 512-гигабайтова карта с пропускателна дарба до 1,1 TB/s.
Тестовете на Samsung демонстрират, че той технологията е 2,9 пъти по-енергийно ефикасна от един A-GPU, а клъстер от 8х CXL-PNM е 4,4 пъти по-енергийно ефикасен от 8х A-GPU. Това е в допълнение към това, че апарат, оборудван с картата отделя 2,8 пъти по-малко CO2 и се отличава с 4,3 пъти по-висока успеваемост на работа и екологична успеваемост.
CXL-PNM разчита на технологията Compute Express Link (CXL), която е отворен стандарт за високоскоростен интерфейс сред процесори и устройства и сред процесори и памет, който проправя пътя за по-ефективно потребление на паметта и ускорителите с процесори.
Samsung има вяра, че тази карта може да понижи работните натоварвания върху PIM или PNM модули, което е нещо, което тя също е проучила в своята LPDDR-PIM. Това ще спести разноски и консумация на сила, твърди Samsung, както и ще удължи живота на батерията в устройствата, като предотврати несъразмерното запазване на паметта за пропускателна дарба.
LPDDR-PIM на Samsung покачва продуктивността 4,5 пъти спрямо обработката в DRAM и понижава потреблението на сила посредством потреблението на PIM модул. Въпреки, че реализира вътрешна пропускателна дарба от едвам 102,4 GB/s обаче, той поддържа изчисленията в модула на паметта и няма потребност да предава данни назад към процесора.
Samsung изследва сходни технологии от няколко години, макар че CXL-PNM е най-близкото досега внедряване в това, което скоро може да се трансформира в жизнерадостен артикул. Това следва и HBM-PIM прототипа на компанията от 2022 година.
