Въглеродният отпечатък на генеративния AI - задава се проблем
Големите модели харчат доста повече сила в сравнение с за образованието им
Генерирането на изображение благодарение на мощен AI модел лишава толкоз сила, колкото цялостното зареждане на един смарт телефон (изображение: CC0 Public Domain; генерирано от AI)
Всеки път, когато човек употребява генеративен AI, с цел да сътвори изображение, да напише имейл или да задад е въпрос на чатбот, той харчи ток. И това ползване има своята цена. Енергопотреблението на генеративните AI и съответните въглеродни излъчвания скоро ще се трансфорат във значим въпрос.
Генерирането на изображение благодарение на мощен AI модел лишава толкоз сила, колкото цялостното зареждане на един смарт телефон, съгласно ново изследване на откриватели от новостартиращата компания за изкуствен интелект Hugging Face и университета Карнеги Мелън. Учените обаче са открили, че потреблението на AI модел за генериране на текст е доста по-малко енергоемко. Създаването на текст 1000 пъти употребява толкоз сила, колкото 16% от цялостното зареждане на смарт телефона.
Обучението е единствено част от казуса
Изследователската работа занапред ще бъде рецензирана. Но тя демонстрира, че до момента в който образованието на солидните AI модели е необикновено енергоемко, това е единствено една част от казуса. По-голямата част от техния въглероден отпечатък в действителност идва от ежедневната им приложимост.
Проучването е първото, в което откривателите пресмятат въглеродните излъчвания, генерирани от потреблението на AI модел за разнообразни задания, споделя Саша Лучиони, AI откривател в Hugging Face. Тя се надява разбирането на тематиката за въпросните излъчвания да ни помогне да вземаме осведомени решения за това по какъв начин да използваме изкуствения разсъдък по метод, който е щадящ планетата.
Лучиони и нейният екип са анализирали излъчванията, свързани с 10 известни AI задания на платформата Hugging Face – такива като отговаряне на въпроси, генериране на текст, подредба на изображения, надписи и генериране на изображения. Учените са провели опитите върху 88 разнообразни модела.
За всяка от дилемите екипът на Лучиони е извършил 1000 подкани и е измерил употребяваната сила с създаден от нея инструмент, наименуван Code Carbon. Системата прави тези калкулации, като преглежда силата, която компютърът употребява, до момента в който работи с модела. Екипът също по този начин пресметнал и излъчванията, генерирани от осъществяването на дилемите, употребявайки осем генеративни модела, подготвени да извършват разнообразни задания.
Генерирането на изображения е най-енергоемката и задача, основана на AI, надлежно обвързвана с най-вече обособяване на въглеродни излъчвания. Генерирането на 1000 изображения с мощен AI модел като Stable Diffusion XL, е отговорно за почти толкоз въглероден диоксид, колкото шофирането със средностатистически автомобил, задвижван с бензин, в продължение на 6,6 километра.
Проучването дава потребна визия за въглеродния отпечатък на AI, като предлага съответни цифри и разкрива някои тревожни възходящи трендове, споделя Лин Каак, помощник по компютърни науки и социална политика в школата „ Херти “ в Германия, където тя управлява работата по AI и изменението на климата. Каак не е взела участие в проучването.
Големи против дребни AI модели
Въпросните излъчвания се натрупват бързо. Бумът на генеративния AI накара огромните софтуерни компании да интегрират мощни AI модели в доста разнообразни артикули, от имейл до текстообработка. Тези генеративни AI модели към този момент се употребяват милиони, в случай че не и милиарди пъти всеки ден.
Екипът е открил, че потреблението на огромни генеративни модели е доста по-енергийно интензивно от потреблението на по-малки AI модели, пригодени за съответни задания. Например, потреблението на генеративен модел за систематизиране на кино рецензии, съгласно това дали са позитивни или негативни, изразходва към 30 пъти повече сила, в сравнение с потреблението на тънко надъхан модел, основан особено за тази задача, споделя Лучиони.
Причината, заради която генеративните AI модели употребяват доста повече сила, е, че те се пробват да вършат доста неща едновременно, като генериране, систематизиране и обобщаване на текст, вместо единствено една задача като подредба.
Лучиони се надява, че проучването ще насърчи хората да бъдат по-придирчиви, когато употребяват генеративен AI, и да избират по-специализирани AI модели, когато е допустимо. „ Ако вършиме съответно приложение, като търсене в имейли… в действителност ли имате потребност от огромните модели, които са способни на всичко? Бих споделила – не “, споделя Лучиони.
Консумацията на сила, обвързвана с потреблението на AI принадлежности, не е нещо, за което се замисляме, споделя Джеси Додж, откривател в института „ Алън “ за AI, който също не е част от изследването. Това значи, че липсва фактически схващане за същинския въглероден отпечатък на AI.
Факторът „ възраст “
Значение има и „ възрастта “ на генеративните модели. Новото потомство генеративни AI са по-мощни и по-усъвършенствани, само че това значи и по-голяма енергийна консумация.
Преди време Гугъл пресметна, че междинното онлайн търсене употребява 0,3 ватчаса електричество. Днес тази цифра евентуално е доста по-висока, защото Гугъл интегрира генеративни AI модели в своето търсене, споделя Виджай Гадепали, откривател в лабораторията MIT Lincoln, която също не е участник в проучването на Лучиони.
Освен, че енергопотреблението за всяка генеративна задача е доста по-високо от предстоящото, учените откриха и, че ежедневната консумация на ток, обвързвана с потреблението на AI, надалеч надвишава тази при образованието на огромни модели. При доста известни модели като ChatGPT се оказва, че единствено няколко седмици интензивно потребление водят до надхвърляне на потреблението, особено за образованието.
Това е по този начин, тъй като огромните AI модели се образоват единствено един път, само че по-късно могат да се употребяват милиарди пъти. Според някои оценки, известни модели като ChatGPT имат до 10 милиона консуматори дневно, доста от които запитват модела повече от един път.
Новото изследване е първото, само че едва ли последното, което обръща внимание на въпроса за потреблението на сила, обвързвано с AI. Това би трябвало да ни помогне да осъзнаем, че потреблението на генеративните логаритми има своята цена.
Според учените, отговорността за този проблем е в ръцете на фирмите, които основават моделите и печелят от тях.
Генерирането на изображение благодарение на мощен AI модел лишава толкоз сила, колкото цялостното зареждане на един смарт телефон (изображение: CC0 Public Domain; генерирано от AI)
Всеки път, когато човек употребява генеративен AI, с цел да сътвори изображение, да напише имейл или да задад е въпрос на чатбот, той харчи ток. И това ползване има своята цена. Енергопотреблението на генеративните AI и съответните въглеродни излъчвания скоро ще се трансфорат във значим въпрос.
Генерирането на изображение благодарение на мощен AI модел лишава толкоз сила, колкото цялостното зареждане на един смарт телефон, съгласно ново изследване на откриватели от новостартиращата компания за изкуствен интелект Hugging Face и университета Карнеги Мелън. Учените обаче са открили, че потреблението на AI модел за генериране на текст е доста по-малко енергоемко. Създаването на текст 1000 пъти употребява толкоз сила, колкото 16% от цялостното зареждане на смарт телефона.
Обучението е единствено част от казуса
Изследователската работа занапред ще бъде рецензирана. Но тя демонстрира, че до момента в който образованието на солидните AI модели е необикновено енергоемко, това е единствено една част от казуса. По-голямата част от техния въглероден отпечатък в действителност идва от ежедневната им приложимост.
Проучването е първото, в което откривателите пресмятат въглеродните излъчвания, генерирани от потреблението на AI модел за разнообразни задания, споделя Саша Лучиони, AI откривател в Hugging Face. Тя се надява разбирането на тематиката за въпросните излъчвания да ни помогне да вземаме осведомени решения за това по какъв начин да използваме изкуствения разсъдък по метод, който е щадящ планетата.
Лучиони и нейният екип са анализирали излъчванията, свързани с 10 известни AI задания на платформата Hugging Face – такива като отговаряне на въпроси, генериране на текст, подредба на изображения, надписи и генериране на изображения. Учените са провели опитите върху 88 разнообразни модела.
За всяка от дилемите екипът на Лучиони е извършил 1000 подкани и е измерил употребяваната сила с създаден от нея инструмент, наименуван Code Carbon. Системата прави тези калкулации, като преглежда силата, която компютърът употребява, до момента в който работи с модела. Екипът също по този начин пресметнал и излъчванията, генерирани от осъществяването на дилемите, употребявайки осем генеративни модела, подготвени да извършват разнообразни задания.
Генерирането на изображения е най-енергоемката и задача, основана на AI, надлежно обвързвана с най-вече обособяване на въглеродни излъчвания. Генерирането на 1000 изображения с мощен AI модел като Stable Diffusion XL, е отговорно за почти толкоз въглероден диоксид, колкото шофирането със средностатистически автомобил, задвижван с бензин, в продължение на 6,6 километра.
Проучването дава потребна визия за въглеродния отпечатък на AI, като предлага съответни цифри и разкрива някои тревожни възходящи трендове, споделя Лин Каак, помощник по компютърни науки и социална политика в школата „ Херти “ в Германия, където тя управлява работата по AI и изменението на климата. Каак не е взела участие в проучването.
Големи против дребни AI модели
Въпросните излъчвания се натрупват бързо. Бумът на генеративния AI накара огромните софтуерни компании да интегрират мощни AI модели в доста разнообразни артикули, от имейл до текстообработка. Тези генеративни AI модели към този момент се употребяват милиони, в случай че не и милиарди пъти всеки ден.
Екипът е открил, че потреблението на огромни генеративни модели е доста по-енергийно интензивно от потреблението на по-малки AI модели, пригодени за съответни задания. Например, потреблението на генеративен модел за систематизиране на кино рецензии, съгласно това дали са позитивни или негативни, изразходва към 30 пъти повече сила, в сравнение с потреблението на тънко надъхан модел, основан особено за тази задача, споделя Лучиони.
Причината, заради която генеративните AI модели употребяват доста повече сила, е, че те се пробват да вършат доста неща едновременно, като генериране, систематизиране и обобщаване на текст, вместо единствено една задача като подредба.
Лучиони се надява, че проучването ще насърчи хората да бъдат по-придирчиви, когато употребяват генеративен AI, и да избират по-специализирани AI модели, когато е допустимо. „ Ако вършиме съответно приложение, като търсене в имейли… в действителност ли имате потребност от огромните модели, които са способни на всичко? Бих споделила – не “, споделя Лучиони.
Консумацията на сила, обвързвана с потреблението на AI принадлежности, не е нещо, за което се замисляме, споделя Джеси Додж, откривател в института „ Алън “ за AI, който също не е част от изследването. Това значи, че липсва фактически схващане за същинския въглероден отпечатък на AI.
Факторът „ възраст “
Значение има и „ възрастта “ на генеративните модели. Новото потомство генеративни AI са по-мощни и по-усъвършенствани, само че това значи и по-голяма енергийна консумация.
Преди време Гугъл пресметна, че междинното онлайн търсене употребява 0,3 ватчаса електричество. Днес тази цифра евентуално е доста по-висока, защото Гугъл интегрира генеративни AI модели в своето търсене, споделя Виджай Гадепали, откривател в лабораторията MIT Lincoln, която също не е участник в проучването на Лучиони.
Освен, че енергопотреблението за всяка генеративна задача е доста по-високо от предстоящото, учените откриха и, че ежедневната консумация на ток, обвързвана с потреблението на AI, надалеч надвишава тази при образованието на огромни модели. При доста известни модели като ChatGPT се оказва, че единствено няколко седмици интензивно потребление водят до надхвърляне на потреблението, особено за образованието.
Това е по този начин, тъй като огромните AI модели се образоват единствено един път, само че по-късно могат да се употребяват милиарди пъти. Според някои оценки, известни модели като ChatGPT имат до 10 милиона консуматори дневно, доста от които запитват модела повече от един път.
Новото изследване е първото, само че едва ли последното, което обръща внимание на въпроса за потреблението на сила, обвързвано с AI. Това би трябвало да ни помогне да осъзнаем, че потреблението на генеративните логаритми има своята цена.
Според учените, отговорността за този проблем е в ръцете на фирмите, които основават моделите и печелят от тях.
Източник: technews.bg
КОМЕНТАРИ