Интегрирането на генеративен изкуствен интелект в дигиталните продукти и уеб-браузърите

Интегрирането на генеративен изкуствен интелект в цифровите артикули и уеб-браузърите поражда опасения по отношение на поверителността на данните, защото обработката на поръчките нормално се прави на облачните сървъри на разработчиците. Алтернатива са локалните браузъри, които разрешават езикови модели да се извършват непосредствено на устройството на потребителя, без да се предава информация към облака. Това написа SlashGear.

Един инструмент за използване на този метод е браузърът Puma, наличен за Android и iOS. Приложението се концентрира върху поверителността и поддържа осъществяването на местни на AI-модели като Llama 3.2, Ministral, Gemma и Qwen. Това ви разрешава да правите задания за обработка на текст и добиване на информация без потребност от интернет връзка.

Какъв е процесът на конфигурация

След инсталиране на браузъра Puma, моделът с отворен код Meta Llama 3.2 се задейства автоматизирано. За да измененията модела, щракнете върху иконата Puma в долната част на екрана и изберете опцията Local LLM Chat. В чат менюто щракнете върху бутона с името на настоящия модел и изберете „ More models “ (Още модели). Потребителите могат да избират от лист с модели, в това число Гугъл Gemma, Mistral, DeepSeek и Microsoft Phi. Изтеглянето на определения модел изисква повече от 1 GB свободно място в паметта на смарт телефона.

Какви са особеностите при използването

Основното преимущество на локалното потребление на AI е поверителността и опцията за работа офлайн. Има обаче механически ограничавания: локалните версии в този браузър не поддържат генериране на изображения. Puma също по този начин няма разширени настройки за балансиране на натоварването сред централния и графичния процесор, които са налични в профилираните принадлежности като Гугъл AI Edge Gallery.