Alpaca: аналогът на ChatGPT, който без интернет работи на обикновените домашни компютри
Изкуственият разсъдък Alpaca на Станфорд показва съвсем същите резултати като мощно нашумелия чатбот ChatGPT, единствено че е построен на въз основата на езиков модел с отворен код и към този момент подготвеният Alpaca коства по-малко от $600 (шестстотин щатски долара). И още, за неговото основаване на са дадени милиарди, а единствено няколко стотици $. Интернет изданието Newatlas по този мотив разяснява, че джинът към този момент е излязъл от бутилката.
Екип експерти на Станфорд употребява езиковия модел с отворен код LLaMA 7B на Meta, който в действителност е най-малкият от няколкото налични разновидността на LLaMA. Именно на него се базира новият чатбот, който е подготвен по напълно различен метод. На него са му дадени основани от хора 175 двойки указания във тип на въпрос/отговор, като по-късно изкуственият разсъдък е зациклен независимо да генерира по 20 сходни двойки едновременно, до момента в който са се получили към 52 000 примерни диалога. Автоматизирането на този развой е осъществено от API на OpenAI, като генерирането на този масив от данни е станало благодарение на електронния облак на OpenAI, като това е коствало по-малко от 500 $.
Тези данни са употребявани за фината конфигурация на модела LLaMA – развой, който е лишил към 3 часа на осем 80 GB облачни компютри от вида A100. Това коства по-малко от 100 щатски $.
Полученият по този метод чатбот получи името Alpaca. Направените подробни проби демонстрираха, че Alpaca безпогрешно взема решение 90 от теста, а ChatGPT – 89.
Екипът е на мнение, че е изцяло допустимо основаването на ИИ чатботове от вида на Alpaca да бъде доста по-евтино. По принцип, към този момент всеки има достъп до чатбота от ново потомство GPT 4.0, както и да редица мощни и безвъзмездни LLaMA модела (дори и да стартират да се продават, цената ще е символична), с цел да си сътвори личен чатбот без да се постанова да генерира 52 000 въпроса и техните вероятни отговори.
Тоест, нищо не пречи всеки да си сътвори сходен ИИ любим за по-малко от 100 $, и да го образова и образова както му скимне. Разбира се, OpenAI обявиха, че това е бил теоретичен опит и не разрешават техния API да се употребява за създаването на модели, които се конкурират с ChatGPT. Но това е доста противоречив въпрос, тъй като както нормално става, материалите на това чисто академично проучване изтекоха в Глобалната мрежа и целият езиков модел на LLaMA може да бъде изтеглен от някои профилирани уеб сайтове.
I don't know what to make about this development. Alpaca is surprisingly very good. The claim here is the training can be done in 5 hours on a single RTX 4090. Have GPT-like models been democratized overnight?! https://t.co/ysfn5u6xwI
— Carlos E. Perez (@IntuitMachine) March 16, 2023
Нещата станаха още по-интересни, тъй като една седмица след приключването на езиковия модел LLaMA друга група експерти по изкуствен интелект съобщи, че е съумяла да отстрани разноските за облачни калкулации. Това не са празни приказки, тъй като те качиха главната част от кода на тяхната разработка в GitHub. Те обявиха пред целия свят, че образованието се реализира благодарение на относително мощен компютър оборудван единствено с една видеокарта от висока клас, в тази ситуация nVidia RTX 4090, и е с дълготрайност пет часа. Полученият в последна сметка чатбот може да работи даже на Raspberry Pi с задоволително непрекъсната памет, без да е нужна интернет връзка.
Какво значи всичко това? Според Newatlas, това значи, че към този момент е допустимо основаването на безграничен брой мощни и неконтролирани езикови модели, на които се базират чатботове от равнището на ChatGPT, които могат да работят на процедура на всеки по-съвременен компютър, който даже няма потребност да е обвързван с Глобалната мрежа. Това е изцяло по силите на редица експерти с положителни знания в областта на машинното образование и изкуствения разсъдък. Хората с сходни знания биха могли да завоюват доста пари, в случай че стартират да оферират сходни подготвени ИИ модели, които имат потребност единствено от тънко конфигуриране, което може да направи на процедура всеки. А това значи, че тези местни чатботове сигурно ще стартират да се употребяват от хакерите за софтуерно пиратство и защо ли още не.
Има и различен миг. Новите местни, а и обвързваните с интернет (има и такива) чатботове мощно ще навредят на фирмите, които дадоха милиарди долари за създаването на тези езикови модели, на които се базира чатбот-фамилията ChatGPT. На процедура изразходваните от тях доста време и доста пари се оказва безсмислено, откакто се е появил нов метод за напълно елементарно основаване на сходен на техния чатбот, който очевидно към този момент е по-евтин и от въпросните $600. Тези компании може да решат, че към този момент няма смисъл да изразходват запаси и да спрат да създават последващи генерации чатботове.
За какво бихте употребявали сходен местен чатбот на своя компютър? Изданието Newatlas е на мнение, че това е един съвършен инструмент за експертите, за програмистите, може да се употребява за помощ при писане на есета, за изобразяване и така нататък и тъй наречените В същото време, Alpaca може да работи на всеки компютър без какъвто и да било външен надзор. Този профилиран програмен продукт сигурно може да бъде употребен от властническите режими, за фишинг офанзиви, за спам и за какви ли не други подли неща.
Наистина, този път джинът излезе от бутилката и даже към този момент е необикновено елементарен за възпроизвеждане и наново, малко по-друго образование.
