В езиковия модел GPT-3 имаше 175 милиарда параметри, в сравнение

...
В езиковия модел GPT-3 имаше 175 милиарда параметри, в сравнение
Коментари Харесай

Според СЕО-то на OpenAI, размера на данните няма значение за обучението на ИИ моделите

В езиковия модел GPT-3 имаше 175 милиарда параметри, спрямо 1,5 милиарда в GPT-2

Емил Василев преди 6 секунди 1 Сподели

Най-четени

IT НовиниДаниел Маринов - 14:43 | 17.04.2023

Защо изчезнаха огромни български уеб сайтове за онлайн филми? Ще ги последват ли Замунда и Арена?

IT НовиниКалин Карабойчев - 11:51 | 17.04.2023

Filmisub – един от най-големите пиратски уеб сайтове приключи активността си

IT НовиниДаниел Маринов - 21:21 | 11.04.2023

Майката на Мъск: Когато му отивам на посетители, дремя на матрак или одеяла на земята, или пък в гаража

Емил Василевhttps://www.kaldata.com/

През последните няколко години моделите с изкуствен интелект стават все по-големи, само че съгласно основния изпълнителен шеф на OpenAI Сам Алтман това няма да продължи в бъдеще. По време на събитие на Масачузетския софтуерен институт (MIT) по-рано този месец Алтман съобщи, че отсега нататък напредъкът в региона на изкуствения разсъдък няма да идва от великански модели, които се хранят с големи количества данни, а разработчиците ще би трябвало да намерят „ други способи “ да ги създадат по-добри.

Изявлението на Алтман видимо е в несъгласие с метода, по който OpenAI създаде ChatGPT – чатбот, който в идентична степен вълнува, забавлява и плаши софтуерните запалянковци със способността си да написа стихове, да взема решение математически уравнения, да отстранява неточности в код и други Настоящата версия на ChatGPT се основава на езиковия модел GPT-4, който се счита за един от най-сложните огромни езикови модели (LLM), налични през днешния ден.

Въпреки безспорния триумф на GPT-4, Алтман счита, че размерът няма да дефинира качеството на моделите с изкуствен интелект отсега нататък. Според него сега се натъртва прекалено много на броя на параметрите, сходно на конкуренцията за гигахерци при чиповете през 90-те и началото на 2000-те години. Това обаче евентуално ще се промени в бъдеще, когато моделите с ИИ ще продължат да се усъвършенстват макар забележителното понижаване на броя на параметрите, които ще се употребяват за образованието им.

Както оповестява Wired, за образованието на GPT-2 са употребявани 1,5 милиарда параметри, до момента в който в GPT-3 цифрата е стигнало до цели 175 милиарда. От OpenAI обаче не разкриха броя на параметрите, употребявани в GPT-4, евентуално тъй като размерът на употребяваните данни към този момент не е определящ аршин за триумфа на фамозния огромен езиков модел на OpenAI.

Появиха се и спекулации, че образованието на GPT-4 е коствало 100 млн. $, макар че досега няма удостоверение за това от OpenAI. Когато беше запитан за това на събитието в MIT, Алтман сподели, че в действителност е коствало повече от това. Той обаче не даде повече детайлности по този въпрос.

Междувременно триумфът на ChatGPT освен заинтригува необятната общност, само че и изнерви някои от най-големите имена в региона на технологиите. В това число влизат Илън Мъск, Стив Возняк и Тристан Харис, които бяха измежду 100-те технолози, написали предишния месец отворено писмо, в което приканиха всички компании за изкуствен интелект да преустановят образованието и създаването на системи за изкуствен интелект най-малко за 6 месеца.

На въпрос за това Алтман отговори, че писмото е вярно във връзка с нуждата пред системите за изкуствен интелект да бъдат въведени защитни огради, преди да бъдат пуснати в общественото пространство. Той обаче също по този начин съобщи, че някои от опасенията, посочени в писмото са просто неуместни. Например, той съобщи, че OpenAI не е обучавал GPT-5, за разлика от това, което се твърди в първичната версия на писмото. Той също по този начин съобщи, че компанията непрекъснато работи по въпросите на сигурността и ще продължи да го прави, с цел да се увери, че нейните модели с изкуствен интелект в последна сметка няма да причинят повече щета, в сравнение с изгода.

Източник: kaldata.com

СПОДЕЛИ СТАТИЯТА


Промоции

КОМЕНТАРИ
НАПИШИ КОМЕНТАР