Учените от академията на науките в Пекин, работещи в областта

...
Учените от академията на науките в Пекин, работещи в областта
Коментари Харесай

Китай представи най-мощната в света невронна мрежа Wu Dao с 1,75 трилиона параметри

Учените от академията на науките в Пекин, работещи в региона на, показаха своята лична генеративна невронна мрежа с противоположна връзка и надълбоко машинно образование Wu Dao , която е пряк съперник и даже превъзхожда GPT-3 на OpenAI.

Китайската невронна мрежа разполага с 1,75 трилиона параметъра и по този метод Wu Dao 2.0 е към 10 пъти по-мощна спрямо (175 милиарда). Новият изкуствен интелект е подготвен на китайски и британски език благодарение на 4,9 TB информация, включваща изображения и текстове.

Втората версия Wu Dao 2.0 излезе единствено четири месеца след показаната през месец март първа версия. Изследователите на BAAI в началото създадоха профилираната система за образование FastMoE с отворен код, която наподобява на Гугъл Mixture of Experts. Тя се базира на PyTorch и дава опция за обучаване на изкуствения разсъдък както благодарение на клъстъри от суперкомпютри, по този начин и с елементарни графични процесори. Това дава на FastMoE доста по-голяма еластичност в съпоставяне със системите на Гугъл, тъй като FastMoE не изисква фирмено съоръжение, каквото са да вземем за пример профилираните процесори TPU на Гугъл.
Източник: kaldata.com


СПОДЕЛИ СТАТИЯТА


КОМЕНТАРИ
НАПИШИ КОМЕНТАР