Чатботовете с изкуствен интелект стават все по-ефективни в обработката на

Чатботовете с изкуствен интелект стават все по-ефективни в обработката на тект
(снимка: CC0 Public Domain)

Стартиращата компания Anthropic , основана от някогашни чиновници на OpenAI , съумя да разшири прозореца за контекстно въвеждане на своя чатбот Claude до 75 000 думи, което е огромно усъвършенстване по отношение на актуалните модели. Разработчикът твърди , че чатботът може да обработи цялостен разказ за по-малко от минута.

Често подценявано ограничаване на чатботовете е паметта. Въпреки че езиковите модели на изкуствения разсъдък, залегнали в основата на тези системи, са подготвени върху терабайти текст, количеството, което сходни системи могат да обработват по време на приложимост, е много лимитирано. За ChatGPT това са към 3000 думи.

И въпреки че има способи за заобикаляне на рестриктивните мерки, това към момента не е задоволително. Сега обаче Anthropic доста разшири контекстния прозорец за своя чатбот Claude – до 75 000 думи. Както показва компанията в своя блог, това е задоволително, с цел да може чатботът да обработи „ Великият Гетсби ” едновременно.
още по темата
Всъщност компанията тества системата, като редактира едно изречение в романа и изиска от AI да забележи смяната. Това се случи за 22 секунди, споделя за опита The Verge.

Езиковите модели на AI мерят информацията не посредством броя знаци или думи, а посредством токени – семантична единица, която не постоянно корелира с броя на знаците, и защото думите могат да бъдат дълги или къси, тяхната дължина не подхожда безусловно на броя на токените.

В това отношение контекстният прозорец на Claude превъзхожда модела на OpenAI, защото може да обработва 100 000 токена спрямо 9 000 преди, до момента в който изцяло функционалният модел GPT-4c може да обработва до 32 000 токена.

Понастоящем новите функционалности на Claude са налични единствено за бизнес сътрудници на Anthropic, които се свързват с чатбота посредством API на компанията. Цената също не е известна, само че евентуално се е повишила доста, защото обработката на повече текст значи повече изчислителни разноски.