Anthropic пусна ИИ-агент на Claude за Google Chrome – само 1000 души имат достъп до него в целия свят
Anthropic разгласи стартирането на предварителна версия на браузърния AI-агент, задвижван от моделите на Claude. От предлагането сега се възползват лимитирано количество хора — към 1000 клиента на проекта Max на Anthropic, който коства сред 100 и 200 $ на месец; останалите заинтригувани консуматори са в листата на чакащите.
AI-агентът се конфигурира в Chrome посредством уголемение, което отваря непряк прозорец, където можете да пишете с чатбота Claude, в подтекста на протичащото се в браузъра. Потребителят може да даде на AI-агента позволение да прави избрани дейности от негово име. Anthropic предизвестява, че възходът на AI-агентите е изпълнен с нови закани за сигурността, една от които беше открита неотдавна в браузъра Perplexity Comet.
Компанията се надява да откривие и в профил новите уязвимости като част от тестовата стратегия. Например, внедрени са няколко отбрани против офанзиви с „ инжектиране на поръчки “, които са налични във тип на злонамерени указания към изкуствения разсъдък в страницата на обсъждания сайт; подхванатите ограничения са помогнали за понижаване на % им на успеваемост от 23,6% на 11,2%. Достъпът на сътрудника до избрани уеб сайтове може да бъде стеснен в настройките му; по дифолт той е блокиран за ресурсите, предлагащи финансови услуги, материали за възрастни и пиратско наличие. Освен това, Claude желае позволение от потребителя, преди да „ прави високорискови интервенции като издание, закупуване или шерване на персонални данни “.
Миналата година Anthropic пусна AI-агент за ръководство на компютър, само че на процедура той се оказа муден и обезсърчителен. Оттогава опциите на тази технология са се подобрили доста — Comet и ChatGPT Agent са изцяло способни да извършват елементарни задания.
