Дори древен компютър с Pentium и Windows 98 може да

Дори античен компютър с Pentium и Windows 98 може да извършва дилемите на огромен езиков модел (снимка: стоп кадър EXO Labs видео / X)

Ентусиасти съумяха да пуснат един от известните през днешния ден модели с изкуствен интелект на античен компютър с процесор Pentium II и операционна система Windows 98. Системата е способна да генерира текст с релативно висока скорост.

Експертите от EXO Labs приспособиха мощния огромен езиков модел (LLM) Llama, създаден от Meta, на 26-годишен компютър с операционна система Windows 98. Те демонстрираха образно по какъв начин остарял компютър, оборудван с процесор Intel Pentium II с тактова периодичност 350 MHz и 128 MB RAM, може да започва и взаимодейства с невронната мрежа.

За да пуснат LLM на античния PC, експертите на EXO Labs са употребявали личен първоначален интерфейс за логаритъма Llama98.c, който е основан въз основа на енджина Llama2.c, написан на езика за програмиране C от Андрей Карпати, някогашен чиновник на OpenAI и Tesla, заяви Tom’s Hardware.

След зареждане на логаритъма, компютърът е помолен да сътвори история за Сънливия Джо. Изненадващо, AI моделът е проработил на остарелия районен съд и е съчинил историята със относително добра скорост.

Мистериозната организация EXO Labs, основана от откриватели и инженери от Оксфордския университет, се появи на сцената през септември тази година. Тя се застъпва за отвореността и достъпността на технологиите, основани на изкуствен интелект.

Представители на организацията считат, че напредналите AI технологии не би трябвало да бъдат в ръцете на шепа корпорации, както е в този момент. В бъдеще те се надяват да „ изградят отворена инфраструктура за образование на усъвършенствани AI модели, позволявайки на всеки да ги ръководи на всички места ”.

Демонстрацията с LLM на античен компютър (), съгласно откривателите, потвърждава, че логаритмите за изкуствен интелект могат да работят на съвсем всяко устройство.

В своя блог запалянковците описват, че са закупили остарял компютър с Windows 98 от eBay. След това го свързали към мрежата благодарение на Ethernet конектор и трансферирали нужните данни в паметта посредством. FTP. Компилирането на кода за Windows 98 се оказва по-трудна задача, която е решена от Андрей Карпати и оповестена в GitHub.

В последна сметка запалянковците реализират скорост на генериране на текст от 35,9 токена в секунда, употребявайки 260K LLM с архитектура Llama, което е много положително достижение, поради скромните изчислителни благоприятни условия на компютъра.