Добавянето на повече изчислителна мощност и повече данни вече не

Добавянето на повече изчислителна мощ и повече данни към този момент не подсигурява съразмерно възстановяване на AI моделите (снимка: CC0 Public Domain)

Генеративният изкуствен интелект се разви толкоз бързо през последните две години, че въпросът за големите пробиви беше по-скоро по кое време, в сравнение с дали. Но през последните седмици Силициевата котловина става все по-загрижена, че напредъкът се забавя.

Една ранна индикация за закъснение е неналичието на прогрес сред моделите, пуснати от най-големите играчи в региона на AI. Така да вземем за пример, OpenAI е изправена пред доста по-слабо повишение на качеството на идващия си модел GPT-5, до момента в който Anthropic забави стартирането на най-мощния си модел Opus. Дори в софтуерния колос Гугъл идната версия на Gemini не дава отговор на вътрешните упования, отбелязва CNBC.

„ Не забравяйте, че ChatGPT излезе в края на 2022 година, тъй че са минали близо две години ”, споделя Дан Найлс, създател на Niles Investment Management. „ Първоначално имахте голям прогрес във връзка с това какво могат да вършат всички тези нови модели, а това, което се случва в този момент, е, че в действителност сте обучили всички тези модели и по този начин подобренията в продуктивността някак се изравняват ”.

Ако напредъкът е плато, това би сложило под въпрос едно главно съмнение, което Силициевата котловина третираше като вяра: законът за мащабиране. Идеята е, че прибавянето на повече изчислителна мощ и повече данни подсигурява по-добри модели в безкрайна степен. Но скорошните разработки допускат, че това може да е повече доктрина, в сравнение с закон.

Ключовият проблем може да бъде, че фирмите за изкуствен интелект изчерпват данните за образование на моделите, удряйки се в това, което специалистите назовават ​​„ стена с данни ”. Вместо това те се обръщат към синтетични данни или данни, генерирани от AI. Но това е решение вид лепенка, съгласно създателя на Scale AI Александър Уанг.

„ AI промишлеността е като „ отпадък вътре, отпадък вън ”, споделя Уанг. „ Така че, в случай че вкарате в тези модели доста AI нелепости, тогава моделите просто ще изплюят повече AI нелепости ”.

Но някои водачи в промишлеността отхвърлят концепцията, че скоростта на усъвършенстване на AI се удря в стената. „ Мащабирането на базовия модел преди образованието е непокътнато и продължава ”, сподели основният изпълнителен шеф на Nvidia Дженсън Хуанг. „ Както знаете, това е емпиричен закон, а не главен физически закон. Но доказателствата са, че [мащабирането] продължава да се усилва.

Изпълнителният шеф на OpenAI Сам Алтман написа в X, че просто „ няма стена ”. Гугъл споделя, че е удовлетворен от напредъка си в Gemini и е видял обилни усъвършенствания в продуктивността на качества като разсъждения и шифроване.

Ако AI ускорението бъде изчерпано, идната фаза от конкуренцията е търсенето на случаи на приложимост – потребителски приложения, които могат да бъдат построени върху съществуваща технология без нужда от спомагателни усъвършенствания на модела. Разработването и внедряването на AI сътрудници, да вземем за пример, се чака да промени играта.

„ Мисля, че ще живеем в свят, в който има стотици милиони, милиарди AI сътрудници, евентуално повече AI сътрудници, в сравнение с са хората ”, предвижда изпълнителният шеф на Meta Марк Зукърбърг в скорошно подкаст изявление.