Qualcomm си партнира с Meta за поддръжка на езиковия модел Llama 2 за смартфони и персонални компютри без облачен достъп
Meta взаимно с Microsoft показа новото потомство Large Language Model (LLM) — Llama 2, който да се употребява в генеративните AI-приложения и услуги. Сега, както оповестява Qualcomm, той ще работи с Meta върху механизма за консолидиране на Llama 2 в основаните на чипсетите Qualcomm Snapdragon електроники и по-специално в мобилните устройства.
Както Qualcomm съобщи в прес-съобщение, задачата на съдействието е да се задействат приложения и услуги, основани на Llama 2 на такива устройства, без да е належащо да ги свързвате към облака — това се изисква, да вземем за пример, когато се употребяват други AI-продукти като да вземем за пример ChatGPT и Bing Chat.
Способността да се употребяват огромните езикови модели като Llama 2 на устройства като смарт телефон, компютър или AR/VR очила има редица преимущества, сподели Qualcomm.
Например, той разрешава на разработчиците да спестят от облачни услуги, както и да дават на потребителите персонално, по-сигурно и персонализирано преживяване от това, което може да се обезпечи посредством потребление на облачна услуга.
Qualcomm има за цел да поддържа AI-услуги, основани на Llama 2 на устройства, употребяващи чипсетите Qualcomm Snapdragon още през 2024 година Вярно е, че към момента не е известно дали такава поддръжка ще бъде предоставена единствено в новите чипсети или Qualcomm ще може по някакъв метод да провежда съгласуемост и с към този момент употребяваните.
Meta твърди, че Llama 2 е подготвен с 40% повече данни от първото потомство Llama. Разработчикът към този момент разгласи разновидности за съдействие с Microsoft — моделът ще бъде възложен гратис на откриватели и търговски клиенти на облаците Azure. Възможно е също по този начин да изтеглите и стартирате LLM локално на компютър с OS Windows.
