IBM създаде енергийно-ефективен аналогов процесор за AI
Може да реши казуса с огромната консумация на езиковите модели
Процесорите с ниска консумация могат да решат сериозен проблем на AI моделите
(снимка: CC0 Public Domain)
IBM направи още една значима стъпка към ефикасната реализация на квантови компютри. Компанията сътвори процесор за AI на аналогова основа, който се отличава с ниска консумация на сила. Този пробив може да реши енергиен проблем с огромните езикови модели, които стоят зад AI приложения като ChatGPT.
Големите езикови модели са необикновено комплицирани. Те съдържат милиарди изчислителни възли и изискват доста връзки сред тях. Това води до натоварен достъп до паметта и висока консумация на сила. Един от методите за решение на този проблем е комбинирането наизуст и процесори.
IBM и Intel към този момент са създали чипове, които обезпечават на всеки неврон нужната памет, с цел да извършва функционалностите си. Алтернативата на този метод е осъществяване на интервенции непосредствено в паметта, което е допустимо благодарение на памет с смяна на етапа.
В нова разработка IBM показва чип памет с смяна на етапа, който е по-близък до функционален AI процесор. В публикация, оповестена в Nature, компанията потвърждава, че нейният хардуер може да прави различаване на тирада с допустима акуратност и доста по-ниска консумация на сила.
Паметта с смяна на етапа се създава от много време. Тя съчетава издръжливостта на флаш паметта с продуктивността на RAM-а. Работи посредством нагряване на дребна повърхност от материала и надзор на скоростта на изстудяване.
още по темата
Това държание се оказа идеално за невронни мрежи. При тях всеки възел получава входен сигнал и въз основа на положението си дефинира каква част от този сигнал да съобщи. Поради свойствата на паметта с смяна на етапа, тази мощ може да бъде показана като индивидуален обичай памет, работещ в аналогов режим.
При запис на информация паметта употребява две съществени положения – включено и изключено. Тези положения са основани по подобен метод, че минимизират грешките при записване на данни. Интересното обаче е, че паметта може да се настрои да приема всяка междинна стойност сред “включено ” и “изключено ”, възприемайки аналогово държание.
Това е като контролиране на силата на звука на музиката, от ниска към висока, където всяко равнище на звука съставлява равномерен градиент на евентуални стойности. Междинните стойности могат да се употребяват за показване на другата „ мощ “ на връзките в невронните мрежи.
IBM към този момент показва успеваемостта на този метод. Описаният чип обаче е доста по-близо до функционален процесор. Той съдържа целия нужен заряд за свързване на обособени възли и работи в мащаб, непосредствен до огромните езикови модели.
Основният съставен елемент на новия чип е по този начин наречената плочка – това е масив от “кръстове ” (квадратна решетка), формирани от обособени битове памет с фазова смяна с размери 512 на 2048 единици. Всеки чип съдържа 34 такива плочки, което се равнява на почти 35 милиона бита памет с смяна на етапа.
Гъвкавостта на процесора разрешава ръководство на силата на всяка връзка посредством изменчив брой битове. Освен това е допустима връзка сред чиповете, което прави допустимо шерването на огромни задания сред голям брой чипове.
За да показват създаването си, откривателите от IBM са употребявали процесор за различаване на тирада. В пиковата си продуктивност той прави 12,4 трилиона интервенции за всеки ват употребявана мощ. Това е в пъти по-малко от потреблението на сила от обичаен процесор за осъществяване на еквивалентни интервенции.
Трябва да се има поради обаче, че процесорът е усъвършенстван да работи единствено с избран вид невронни мрежи. Освен това не е доста подобаващ за образование на AI и процесът на образование на невронната мрежа би трябвало да бъде приспособен към него. Все отново, макар че не е повсеместен за AI, процесорът на IBM предлага доста понижаване на потреблението на сила.
Процесорите с ниска консумация могат да решат сериозен проблем на AI моделите
(снимка: CC0 Public Domain)
IBM направи още една значима стъпка към ефикасната реализация на квантови компютри. Компанията сътвори процесор за AI на аналогова основа, който се отличава с ниска консумация на сила. Този пробив може да реши енергиен проблем с огромните езикови модели, които стоят зад AI приложения като ChatGPT.
Големите езикови модели са необикновено комплицирани. Те съдържат милиарди изчислителни възли и изискват доста връзки сред тях. Това води до натоварен достъп до паметта и висока консумация на сила. Един от методите за решение на този проблем е комбинирането наизуст и процесори.
IBM и Intel към този момент са създали чипове, които обезпечават на всеки неврон нужната памет, с цел да извършва функционалностите си. Алтернативата на този метод е осъществяване на интервенции непосредствено в паметта, което е допустимо благодарение на памет с смяна на етапа.
В нова разработка IBM показва чип памет с смяна на етапа, който е по-близък до функционален AI процесор. В публикация, оповестена в Nature, компанията потвърждава, че нейният хардуер може да прави различаване на тирада с допустима акуратност и доста по-ниска консумация на сила.
Паметта с смяна на етапа се създава от много време. Тя съчетава издръжливостта на флаш паметта с продуктивността на RAM-а. Работи посредством нагряване на дребна повърхност от материала и надзор на скоростта на изстудяване.
още по темата
Това държание се оказа идеално за невронни мрежи. При тях всеки възел получава входен сигнал и въз основа на положението си дефинира каква част от този сигнал да съобщи. Поради свойствата на паметта с смяна на етапа, тази мощ може да бъде показана като индивидуален обичай памет, работещ в аналогов режим.
При запис на информация паметта употребява две съществени положения – включено и изключено. Тези положения са основани по подобен метод, че минимизират грешките при записване на данни. Интересното обаче е, че паметта може да се настрои да приема всяка междинна стойност сред “включено ” и “изключено ”, възприемайки аналогово държание.
Това е като контролиране на силата на звука на музиката, от ниска към висока, където всяко равнище на звука съставлява равномерен градиент на евентуални стойности. Междинните стойности могат да се употребяват за показване на другата „ мощ “ на връзките в невронните мрежи.
IBM към този момент показва успеваемостта на този метод. Описаният чип обаче е доста по-близо до функционален процесор. Той съдържа целия нужен заряд за свързване на обособени възли и работи в мащаб, непосредствен до огромните езикови модели.
Основният съставен елемент на новия чип е по този начин наречената плочка – това е масив от “кръстове ” (квадратна решетка), формирани от обособени битове памет с фазова смяна с размери 512 на 2048 единици. Всеки чип съдържа 34 такива плочки, което се равнява на почти 35 милиона бита памет с смяна на етапа.
Гъвкавостта на процесора разрешава ръководство на силата на всяка връзка посредством изменчив брой битове. Освен това е допустима връзка сред чиповете, което прави допустимо шерването на огромни задания сред голям брой чипове.
За да показват създаването си, откривателите от IBM са употребявали процесор за различаване на тирада. В пиковата си продуктивност той прави 12,4 трилиона интервенции за всеки ват употребявана мощ. Това е в пъти по-малко от потреблението на сила от обичаен процесор за осъществяване на еквивалентни интервенции.
Трябва да се има поради обаче, че процесорът е усъвършенстван да работи единствено с избран вид невронни мрежи. Освен това не е доста подобаващ за образование на AI и процесът на образование на невронната мрежа би трябвало да бъде приспособен към него. Все отново, макар че не е повсеместен за AI, процесорът на IBM предлага доста понижаване на потреблението на сила.
Източник: technews.bg
КОМЕНТАРИ