Китайците обучиха аналог на GPT-4 само с 2000 чипа и е 33 пъти по-евтин от OpenAI
Китайската компания 01.ai създаде конкурентния AI-модел Yi-Lightning, за който се твърди, че има сходни благоприятни условия на GPT-4. Но изненадващо, той е претендирал единствено 2000 графични процесора (GPU) и коства единствено $3 милиона, до момента в който OpenAI похарчи към $100 милиона, с цел да образова своя модел, оповестява Tom’s Hardware.
Постижението на 01.ai е изключително удивително поради ограничавания достъп на китайските компании до усъвършенстваните графични процесори на Nvidia. Основателят и основен изпълнителен шеф на компанията Кай-Фу Лий показва, че макар че китайските компании на практика нямат достъп до графичните процесори на Nvidia, заради американските разпореждания, ИИ-моделът на Yi-Lightning се класира на шесто място в класацията на моделите за продуктивност, съгласно версията LMSIS на Калифорнийския университет в Бъркли.
„ Приятелите ми в Силициевата котловина са шокирани освен от представянето ни, само че и от обстоятелството, че обучихме модел единствено за 3 милиона $ “ — сподели Кай-Фу Лий. „ Говори се, че почти 1 милиард $ към този момент са вложени в образованието на GPT-5. “ Той също по този начин добави, че заради глобите на Съединени американски щати фирмите в Китай са принудени да търсят по-ефективни и рентабилни решения, което 01.ai съумя да реализира посредством усъвършенстване на ресурсите и инженерни хрумвания, като в същото време получи резултати, сходни на GPT-4 при доста по-ниски разноски.
Вместо да усилва изчислителната мощ, както вършат съперниците, компанията се концентрира върху усъвършенстването на логаритмите и намаляването на тесните места при обработката. „ Когато имаме единствено 2000 графични процесора, би трябвало да разберем по какъв начин да ги използваме [ефективно] “ — сподели Лий.
В резултат на това изходните разноски на модела бяха единствено 10 цента на милион токени, което е почти 30 пъти по-малко от сходните модели. „ Превърнахме изчислителния проблем в проблем с паметта, като изградихме кеш на доста равнища, създадохме специфичен механизъм за заключения и така нататък “ — показа детайлностите Лий.
Въпреки изказванията за ниската цена на образованието на модела Yi-Lightning, остават въпросите по отношение на типа и броя на употребяваните графични процесори. Ръководителят на 01.ai твърди, че компанията разполага с задоволително запаси, с цел да извърши проектите си за година и половина, само че просто пресмятане демонстрира, че 2000 модерни Nvidia H100 графични процесора на настоящата цена от $30 000 за единица биха коствали $6 милиона, което е удвояване на посочените разноски. Това противоречие поражда въпроси и изисква спомагателни обяснения. Постижението на компанията обаче към този момент притегли вниманието на международната общественост и сподели, че нововъведенията в региона на AI могат да се раждат даже и в условия на лимитирани изчислителни запаси.
Спомнете си, че съгласно изследване ChatGPT-4o може да се употребява за офлайн гласови финансови измами. Чрез тях могат да бъдат компрометирани банкови преводи, кражба на подаръчни карти, крипто прехвърляния и кражба на идентификационни данни за обществените медии или Gmail.
