На конференцията за наука за данните в центъра на Манхатън

...
На конференцията за наука за данните в центъра на Манхатън
Коментари Харесай

Кратка демонстрация на паралелните изчисления показва защо Nvidia е най-ценната компания в света

На конференцията за просвета за данните в центъра на Манхатън при започване на ноември към масата на Nvidia непрекъснато се въртяха нетърпеливи хора. Те не се стремяха към работа или селфита. В общи линии те се интересуваха от опциите на паралелните калкулации.

Това е фундаменталната идея, която катапултира Nvidia и я трансформира в най-ценната компания в света. Тя беше показана на конференцията Pydata по време на къса проява, извършена от инженерния управител на Nvidia Рик Ратцел.

Nvidia създава графични процесори, или GPU, които са компютърни чипове, обработващи доста задания по едно и също време. Оттук идва и терминът „ паралелни калкулации “.

Чиповете, които множеството хора познават са централни процесори или CPU. Те се намират в преносимия компютър ви и се оправят с необятен набор от задания. Макар че са бързи и ефикасни, те нормално обработват тези задания една по една в избран ред. Графичните процесори (GPU) са идеални за обработката на големи количества данни, нужни за основаването и действието на ИИ-модели, като да вземем за пример GPT-4 на OpenAI – изчислителният мозък на ChatGPT.

Но преди ChatGPT да се появи на сцената в края на 2022 година, паралелните калкулации към този момент имаха капацитета да ускорят науката за данните, която предлага подобаващи интернет реклами, усъвършенства решенията за веригата на доставки и се пробва да открива онлайн измами. Ето за какво Nvidia има дългогодишни връзки с Pydata – конференция за разработчици, които употребяват езика за шифроване Python за разбор на данни.

Тази година Ратцел взе участие в представянето на ново софтуерно съдействие с Nvidia за разработчици на Python, които употребяват общи принадлежности за ръководство на данни с отворен код. Той стартира с набор от данни от ревюта на филми и цифрови оценки. Целта беше да се създадат положителни рекомендации. Ратцел трябваше да съпостави усета на кино рецензентите допустимо най-точно с усета на даден човек. Математиката за установяване на това кой има сходни усети не била толкоз комплицирана, само че изчисленията включваха огромни количества данни за 330 000 консуматори.

„ Това е нещо гигантско. “

казва той

Извършването на първичния разбор лишил два часа на обичаен компютър с централен процесор. С няколко корекции този период е понижен на един час. След това Ратцел минал на GPU и още веднъж направил разбора. Той се справил с него за по-малко от две секунди. Тази скорост се дължи на паралелните калкулации, които разрешава графичният процесор.

Концепцията съществува от 80-те години на предишния век, само че до неотдавна опциите за действително осъществяване на паралелни калкулации бяха мъчно налични. Нарастването на достъпността на GPU посредством доставчиците на облачни услуги улесни нетърпеливите учени, занимаващи се с данни, да извършват личните си планове за секунди, а не за часове. С толкоз доста спестено време откривателите могат да организират доста повече опити и да се заемат с доста повече планове.

„ Можете да видите по какъв начин това трансформира метода ви на работа. Сега мога да тествам доста неща, да върша доста опити и да употребявам безусловно същите данни и същия код. “

казва Ратцел
Източник: kaldata.com


СПОДЕЛИ СТАТИЯТА


КОМЕНТАРИ
НАПИШИ КОМЕНТАР