Анализ на Epoch AI, неправителствен изследователски институт в сферата на

Анализ на Epoch AI, неправителствен проучвателен институт в областта на изкуствения разсъдък, сочи, че промишлеността може скоро да не съумява да извлича обилни усъвършенствания в продуктивността от така наречен разсъждаващи AI модели. Според отчета, напредъкът при тези модели може да се забави още в границите на идната година.

Разсъждаващи модели като o3 на OpenAI доведоха до обилни усъвършенствания в разнообразни AI проби през последните месеци, изключително при задания, свързани с математика и програмиране. Тези модели могат да ползват повече изчислителна мощност към даден проблем, което усъвършенства представянето им, само че за сметка на по-дълго време за осъществяване по отношение на общоприетите модели.

Разсъждаващите модели се създават посредством в началото образование на стандартен модел върху голямо количество данни, след което се ползва техника, наречена образование посредством укрепване (reinforcement learning), която на процедура дава " противоположна връзка " на модела по отношение на решенията му при сложни задания. До момента водещите AI лаборатории, като OpenAI, не са ползвали голяма изчислителна мощност точно на стадия на образование посредством укрепване, съгласно Epoch.

Това, обаче, се трансформира. OpenAI съобщи, че е употребила към 10 пъти повече изчислителна мощност за образованието на модела o3, в сравнение с за неговия предходник o1, и от Epoch допускат, че по-голямата част от тази мощност е отишла точно за reinforcement learning. Изследователят от OpenAI Дан Робъртс неотдавна разкри, че бъдещите проекти на компанията плануват потребление на още повече изчислителни запаси за образование посредством укрепване - даже повече, в сравнение с за първичното образование на модела.

Но съгласно Epoch има горна граница на това какъв брой изчислителна мощност може да се приложи към този стадий на образование. Анализаторът Джош Ю от Epoch - създател на проучването - изяснява, че подобренията в продуктивността при общоприетото AI образование сега се усилват 4 пъти годишно, до момента в който при образование посредством укрепване растежът е 10-кратен на всеки 3 до 5 месеца. По думите му, напредъкът в образованието на разсъждаващи модели евентуално ще се изравни с общото развиване на водещите модели до 2026 година

Анализът на Epoch прави няколко допускания и се базира частично на обществени изказвания на ръководители от AI промишлеността. В същото време се акцентира, че мащабирането на разсъждаващи модели може да се окаже предизвикателство освен поради изчислителната мощност, само че и заради високите непрекъснати разноски за проучвания, написа dir.bg.

" Ако има непрекъснати разноски за изследователска активност, разсъждаващите модели може да не се развият толкоз, колкото чакаме ", пише Ю.  " Бързото мащабиране на изчисленията може да е сериозно значимо за напредъка при тези модели, тъй че това би трябвало да се следи деликатно ".

Всеки знак, че напредъкът на разсъждаващите AI модели скоро може да доближи граница, евентуално ще провокира паника в промишлеността, която към този момент е вложила големи запаси в създаването им. Освен това, към този момент има проучвания, които демонстрират, че тези модели - въпреки и скъпи за потребление - имат съществени дефекти, в това число податливост да " халюцинират " повече от някои обичайни модели.