Идва ли моментът, когато хардуерът ни няма да смогне на изискванията на AI
Днешните смарт телефони и преносими компютри се трансформират в мощни устройства с изкуствен интелект, само че тази мощ има граници. С бързото развиване на AI може би наближава моментът, в който обичаните ни джаджи към този момент няма да могат да се оправят с него или по-лошо - ще станат прекомерно дебели или енергоемки. И въпреки всичко откривателите и производителите се надпреварват да обезпечат бъдещето на изкуствения разсъдък с устройства, които остават тънки, компактни и елегантни.
Най-мощният изкуствен интелект през днешния ден, като да вземем за пример огромните езикови модели (LLM), които генерират текст и код, се намира в големи центрове за данни с видимо безконечен ресурс от изчислителна мощ и сила. Тези системи разчитат на голям брой високопроизводителни процесори, най-вече графични (GPU), с цел да правят трилиони интервенции в секунда (TOPS).
Този заоблачен модел работи добре за задания, при които латентността не е главен проблем. Въпреки това, защото изкуственият разсъдък се интегрира във всеки аспект от живота ни – от преводи в действително време на телефоните ни до самостоятелни транспортни средства – нуждата от мигновена обработка на устройството става все по-голяма. Самоуправляващият се автомобил не може да чака данните да пътуват до облака, с цел да реши дали да натисне спирачките. Това е главното предизвикателство, което тласка сегашния ни хардуер до неговите граници.
Все по-големи условия, все по-малък хардуер
Основното ограничаване е общ брой от мощ, размер и скорост. Мощните графични процесори, нужни за най-модерните модели с изкуствен интелект, са просто прекомерно огромни и употребяват прекалено много сила за тъничък смарт телефон или лек дрон. Тези енергоемки съставни елементи изискват по-големи акумулатори и надеждни охладителни системи, което директно опонира на желанието на хората за по-малки, по-тънки и по-леки устройства.
Освен това, разчитането на облака води до инертност, опасности за сигурността и опасения за поверителността, защото сензитивните данни би трябвало да се предават по мрежа. Именно тук концепцията за Edge AI се обрисува не просто като решение, а като нужда.
Edge AI е практиката да се извършват AI модели непосредствено на устройството, на „ ръба “ на мрежата, вместо в далечен заоблачен център за данни. Тази смяна изисква коренно преосмисляне на хардуерния дизайн. Следващото потомство устройства няма да съдържа единствено централен процесор (CPU) и графичен процесор (GPU); те ще разполагат със комплицирана архитектура със профилирани процесори, проектирани през цялото време за AI.
Хардуер от последващо поколение
Най-яркият образец за този нов клас хардуер е невронният процесор (NPU). NPU са профилирани микропроцесори, предопределени да форсират логаритмите за машинно образование и да обработват неповторимите математически интервенции на невронните мрежи.
За разлика от процесорите с общо предопределение, които са усъвършенствани за необятен набор от задания, NPU са високоефективни при паралелна обработка и умножение на матрици – главните градивни детайли на изкуствения разсъдък. Тази специализация им разрешава да извършват задания, свързани с изкуствения разсъдък, със доста по-ниска консумация на сила и по-висока успеваемост от процесор или даже графичен процесор.
Например, компании като Apple, Гугъл и Qualcomm са интегрирали NPU (или „ невронни мотори “, както ги назовава Apple, и „ тензорни процесорни единици “ или TPU в тази ситуация на Google) непосредствено в своите мобилни чипове. Тези вградени ускорители разрешават функционалности като обработка на изображения в действително време, офлайн превод на език и гласови асистенти, които могат да работят без интернет връзка. Чрез прекачване на тези задания към NPU, процесорът и графичният процесор се освобождават за друга работа и животът на батерията на устройството се удължава.
Стратегически тъничък хардуер: компресия, взаимен дизайн, взаимно наличие
За да се вмести AI в по-тънки устройства, ключът е взаимното планиране: компресиране на модели и планиране на хардуер по едно и също време. Техники като квантуване, подкастряне, „ филтрация “ на познания и търсене с невронна архитектура приспособяват моделите към хардуерния профил на всяко устройство. Хибридните системи, които насочват тежките калкулации към облака, като в същото време резервират интерактивните задания местни, също удължават живота на батерията.
Може би най-вълнуващият небосвод са невроморфните калкулации – чипове, основани да имитират архитектурата на човешкия мозък - ръководена от събития и с ниска консумация на сила. За разлика от графичните процесори, които пресмятат непрекъснато, невроморфните чипове се задействат рядко и единствено когато е належащо. Чипът Pulsar на Innatera, да вземем за пример, се намира в интелигентни звънци на порти или носими датчици, консумирайки мощ под 1 mW и осигурявайки 100 пъти по-ниска инертност, всичко това в дребен размер.
Успоредно с това, откривателите на периферен изкуствен интелект изследват дизайни с калкулации в паметта, като резистивна RAM (RRAM), където изчисленията и паметта са обединени. Тези чипове понижават енергоемкото предаване на данни сред процесора и паметта, отключвайки доста по-висока успеваемост в компактни форм-фактори.
Хардуерното пакетиране също се развива. Техники като 3D нареждане на чипове, чиплети и ултраплътна интеграция разрешават потребление на голям брой транзистори, без да се усилва размерът на чипа. Например, MI300A GPU-CPU на AMD употребява 3D пакетиране, с цел да вмести повече калкулации в същия размер. Междувременно, TinyML внедрява изкуствен интелект в микроконтролери и носими устройства, позволявайки интелигентни функционалности в в действителност дребни устройства.
Ами актуалният хардуер?
Наистина ли днешният хардуер към този момент не устоя на натоварването от изкуствения разсъдък? Засега се оправя. Производителите регистрират постоянни усъвършенствания в TOPS на ват при водещите си чипове, а AI модели като Gemma 3n на Гугъл могат да работят изцяло офлайн единствено с 2 GB RAM. Нововъзникващите невронни процесори (NPU), усъвършенстваният програмен продукт, хибридните калкулации и невроморфните чипове се сплотяват, с цел да подсигуряват, че продуктивността е в крайник с времето.
Сливането на профилиран хардуер за изкуствен интелект, усъвършенствана софтуерна оптимизация и хибридни изчислителни модели бележи зората на нова епоха. Настоящите устройства може да се приближават до своите ограничавания, само че нововъведенията, появяващи се в региона на Edge AI, са подготвени да дадат опция на идващото потомство хардуер да отговори както на големите потребности от обработка на данни на изкуствения разсъдък, по този начин и на нашето трайно предпочитание за технологии, която са по-малки, по-тънки и по-леки.
Бъдещето на технологиите не е просто мощно; то е интелигентно и се случва на границата на достъпа. Моментът, в който смарт телефонът ще е „ прекомерно слаб за изкуствен интелект “ може в никакъв случай да не пристигна. С развиването на хардуера, който става все по-интелигентен и грациозен, днешните футуристични функционалности на AI ще се трансфорат в норма в тънките, съвсем невидими устройства на утрешния ден.
Най-мощният изкуствен интелект през днешния ден, като да вземем за пример огромните езикови модели (LLM), които генерират текст и код, се намира в големи центрове за данни с видимо безконечен ресурс от изчислителна мощ и сила. Тези системи разчитат на голям брой високопроизводителни процесори, най-вече графични (GPU), с цел да правят трилиони интервенции в секунда (TOPS).
Този заоблачен модел работи добре за задания, при които латентността не е главен проблем. Въпреки това, защото изкуственият разсъдък се интегрира във всеки аспект от живота ни – от преводи в действително време на телефоните ни до самостоятелни транспортни средства – нуждата от мигновена обработка на устройството става все по-голяма. Самоуправляващият се автомобил не може да чака данните да пътуват до облака, с цел да реши дали да натисне спирачките. Това е главното предизвикателство, което тласка сегашния ни хардуер до неговите граници.
Все по-големи условия, все по-малък хардуер
Основното ограничаване е общ брой от мощ, размер и скорост. Мощните графични процесори, нужни за най-модерните модели с изкуствен интелект, са просто прекомерно огромни и употребяват прекалено много сила за тъничък смарт телефон или лек дрон. Тези енергоемки съставни елементи изискват по-големи акумулатори и надеждни охладителни системи, което директно опонира на желанието на хората за по-малки, по-тънки и по-леки устройства.
Освен това, разчитането на облака води до инертност, опасности за сигурността и опасения за поверителността, защото сензитивните данни би трябвало да се предават по мрежа. Именно тук концепцията за Edge AI се обрисува не просто като решение, а като нужда.
Edge AI е практиката да се извършват AI модели непосредствено на устройството, на „ ръба “ на мрежата, вместо в далечен заоблачен център за данни. Тази смяна изисква коренно преосмисляне на хардуерния дизайн. Следващото потомство устройства няма да съдържа единствено централен процесор (CPU) и графичен процесор (GPU); те ще разполагат със комплицирана архитектура със профилирани процесори, проектирани през цялото време за AI.
Хардуер от последващо поколение
Най-яркият образец за този нов клас хардуер е невронният процесор (NPU). NPU са профилирани микропроцесори, предопределени да форсират логаритмите за машинно образование и да обработват неповторимите математически интервенции на невронните мрежи.
За разлика от процесорите с общо предопределение, които са усъвършенствани за необятен набор от задания, NPU са високоефективни при паралелна обработка и умножение на матрици – главните градивни детайли на изкуствения разсъдък. Тази специализация им разрешава да извършват задания, свързани с изкуствения разсъдък, със доста по-ниска консумация на сила и по-висока успеваемост от процесор или даже графичен процесор.
Например, компании като Apple, Гугъл и Qualcomm са интегрирали NPU (или „ невронни мотори “, както ги назовава Apple, и „ тензорни процесорни единици “ или TPU в тази ситуация на Google) непосредствено в своите мобилни чипове. Тези вградени ускорители разрешават функционалности като обработка на изображения в действително време, офлайн превод на език и гласови асистенти, които могат да работят без интернет връзка. Чрез прекачване на тези задания към NPU, процесорът и графичният процесор се освобождават за друга работа и животът на батерията на устройството се удължава.
Стратегически тъничък хардуер: компресия, взаимен дизайн, взаимно наличие
За да се вмести AI в по-тънки устройства, ключът е взаимното планиране: компресиране на модели и планиране на хардуер по едно и също време. Техники като квантуване, подкастряне, „ филтрация “ на познания и търсене с невронна архитектура приспособяват моделите към хардуерния профил на всяко устройство. Хибридните системи, които насочват тежките калкулации към облака, като в същото време резервират интерактивните задания местни, също удължават живота на батерията.
Може би най-вълнуващият небосвод са невроморфните калкулации – чипове, основани да имитират архитектурата на човешкия мозък - ръководена от събития и с ниска консумация на сила. За разлика от графичните процесори, които пресмятат непрекъснато, невроморфните чипове се задействат рядко и единствено когато е належащо. Чипът Pulsar на Innatera, да вземем за пример, се намира в интелигентни звънци на порти или носими датчици, консумирайки мощ под 1 mW и осигурявайки 100 пъти по-ниска инертност, всичко това в дребен размер.
Успоредно с това, откривателите на периферен изкуствен интелект изследват дизайни с калкулации в паметта, като резистивна RAM (RRAM), където изчисленията и паметта са обединени. Тези чипове понижават енергоемкото предаване на данни сред процесора и паметта, отключвайки доста по-висока успеваемост в компактни форм-фактори.
Хардуерното пакетиране също се развива. Техники като 3D нареждане на чипове, чиплети и ултраплътна интеграция разрешават потребление на голям брой транзистори, без да се усилва размерът на чипа. Например, MI300A GPU-CPU на AMD употребява 3D пакетиране, с цел да вмести повече калкулации в същия размер. Междувременно, TinyML внедрява изкуствен интелект в микроконтролери и носими устройства, позволявайки интелигентни функционалности в в действителност дребни устройства.
Ами актуалният хардуер?
Наистина ли днешният хардуер към този момент не устоя на натоварването от изкуствения разсъдък? Засега се оправя. Производителите регистрират постоянни усъвършенствания в TOPS на ват при водещите си чипове, а AI модели като Gemma 3n на Гугъл могат да работят изцяло офлайн единствено с 2 GB RAM. Нововъзникващите невронни процесори (NPU), усъвършенстваният програмен продукт, хибридните калкулации и невроморфните чипове се сплотяват, с цел да подсигуряват, че продуктивността е в крайник с времето.
Сливането на профилиран хардуер за изкуствен интелект, усъвършенствана софтуерна оптимизация и хибридни изчислителни модели бележи зората на нова епоха. Настоящите устройства може да се приближават до своите ограничавания, само че нововъведенията, появяващи се в региона на Edge AI, са подготвени да дадат опция на идващото потомство хардуер да отговори както на големите потребности от обработка на данни на изкуствения разсъдък, по този начин и на нашето трайно предпочитание за технологии, която са по-малки, по-тънки и по-леки.
Бъдещето на технологиите не е просто мощно; то е интелигентно и се случва на границата на достъпа. Моментът, в който смарт телефонът ще е „ прекомерно слаб за изкуствен интелект “ може в никакъв случай да не пристигна. С развиването на хардуера, който става все по-интелигентен и грациозен, днешните футуристични функционалности на AI ще се трансфорат в норма в тънките, съвсем невидими устройства на утрешния ден.
Източник: mediapool.bg
КОМЕНТАРИ