Microsoft представи разсъждаващия ИИ-модел Phi-4-mini-flash-reasoning – 10 пъти по-бърз от аналозите си и се стартира дори на смартфон
Microsoft показа новия модел на изкуствен интелект Phi-4 mini-flash-reasoning, който дава разширени благоприятни условия за размишление за периферните и мобилни устройства, както и среди с лимитирани запаси. Използвайки новата хибридна архитектура SambaY, моделът е до 10 пъти по-бърз от останалите аналогични модели на Microsoft Phi и обезпечава 2-3 пъти по-ниска инертност.
Phi-4-mini-flash-reasoning е модел с отворен код и 3,8 милиарда параметъра, усъвършенстван за комплицирани математически разсъждения. Той поддържа дължина на подтекста до 64 000 токена и е подготвен върху висококачествени синтетични данни, което разрешава надеждни и ефикасни внедрявания, изискващи интензивна логичност. Подобно на всички модели от фамилията Phi, Phi-4-mini-flash-reasoning може да бъде внедрен на един графичен процесор.
Ключовата специфичност на архитектурата SambaY е Gated Memory Unit (GMU) — елементарен, само че ефикасен механизъм за продан на представянията сред съставените елементи на модела. Използването на GMU доста покачва успеваемостта на декодирането и форсира търсенето в дълги контексти, което обезпечава висока продуктивност в необятен набор от задания и разрешава доста ускорение на изводите без загуба на качество в разсъжденията.
Microsoft споделя, че новият ИИ-модел може да се употребява в адаптивните обучителни платформи, където противоположната връзка в действително време е сериозна, като сътрудници с благоприятни условия за размишление на периферни устройства и в интерактивни просветителни системи, които динамично контролират компликацията на наличието въз основа на представянето на учениците.
Компанията акцентира, че високата продуктивност на модела в региона на математиката и структурираното мислене го прави изключително скъп за просветителните технологии, простите симулации и автоматизираните принадлежности за оценяване, които изискват надеждни заключения с минимално време за реакция.
Моделът Microsoft Phi-4-mini-flash-reasoning е наличен на платформата Hugging Face.
