Форматът на изчисленията в изкуствения интелект е на път да

Форматът на изчисленията в изкуствения разсъдък е на път да бъде типов
(снимка: CC0 Public Domain)

Три водещи разработчици на процесори – Intel, Arm и Nvidia – разгласиха план на спецификация на числовия формат FP8 за 8-битови цифри с плаваща запетая. Идеята е този формат да стане обединен за показване на числата, употребявани при решение на проблеми с изкуствен интелект – както при образованието на невронни мрежи, по този начин и при тяхната работа.

Според фирмите, използването на 8-битови действителни (веществени) цифри при пресмятане на тегловите коефициенти в невронни мрежи ще усъвършенства потреблението на хардуерните изчислителни запаси. Такива цифри заемат по-малко памет и са по-лесни за обработка, което ще усили продуктивността на хардуерните ускорители при решение на проблеми, свързани с AI.

Традиционните формати с плаваща запетая, които се употребяват сега, са FP32 (единична точност) и FP16 (половин точност). При решение на проблеми с машинното образование към този момент се употребява най-вече вторият формат. Въпреки това, съгласно Intel, Arm и Nvidia, числата с още по-кратък тип, въпреки и с по-ниска акуратност, са използвани в AI задания, като в същото време могат да се обработват по-бързо и с по-малко сила.

Според  обява в блога на Nvidia, на която се базира TechCrunch, форматът FP8 демонстрира „ сравнима честност “ с 16-битова точност в приложения като компютърно зрение и системи за изображения, като в същото време обезпечава „ доста “ ускоряване.
още по темата
Форматът FP8 ще бъде наличен за всички без лиценз, в отворен тип. По-късно спецификациите ще бъдат показани на IEEE, който е органът за индустриални стандарти за редица механически области.

„ Ние имаме вяра, че съществуването на общ формат за продан на данни ще обезпечи бърз прогрес и съгласуемост както на хардуерните, по този начин и на софтуерните платформи за развиване на изчислителната технология “, споделя Шар Нарасимхан, маркетинг шеф на Nvidia.

Заслужава да се означи, че поддръжката на FP8 цифри към този момент е внедрена в архитектурата GH100 Hopper на Nvidia, както и в Gaudi2 AI ускорителите на Intel.

Единният формат FP8 ще бъде от изгода освен за трите компании, предложили стандарта, само че и за други играчи, предлагащи ускорители за работа с AI. По един или различен метод всички те поддържат свои лични версии на цифри с плаваща запетая с понижена акуратност и появяването на един отворен стандарт вместо няколко конкурентни формата ще опрости създаването както на хардуерни решения, по този начин и на софтуерни библиотеки.