Anthropic пусна своя чатбот с изкуствен интелект Claude като разширение

Anthropic пусна своя чатбот с изкуствен интелект Claude като уголемение за уеб браузъра Гугъл Chrome. Като част от бета тестването, компанията даде достъп до Claude за Chrome на всички платени клиенти.

Новото уголемение може да направлява в уеб страници, да попълня формуляри и да прави планувани дейности от името на потребителя, като в този развой има достъп до голям брой табове. Достъпът до Claude за Chrome ще изисква най-малко 20 $ месечния абонамент Pro. Когато тестванията на разширението започнаха през ноември, то беше налично единствено за клиентите на проекта Max, който коства сред 100 и 200 $ на месец. За потребителите, които не са фенове на Chrome, налице е опция за инсталирането на разширението Anthropic в Brave и Opera, които се базират на същия енджин като Chrome – Chromium. Към момента обаче браузърите Firefox, Safari и Edge не се поддържат публично.

Anthropic признава, че има „ проблеми със сигурността “, свързани с консолидираното на чатботове непосредствено в браузъра, в това число опасности от така наречен офанзиви с вграждане на злонамерени подкани. Това са случаи, при които нападателите маскират по разнообразни способи злонамерени указания, след прочитането на които AI инструментът стартира да извършва мечтаните от хакерите злонамерени дейности.

Компанията в детайли разказа някои от функционалностите за сигурност, употребявани за отбрана против такива офанзиви. Един подобен механизъм е контролът на разрешенията на равнище уебсайт. Потребителите могат да дават или лишават достъпа на Claude до избрани уеб сайтове когато и да е посредством менюто с настройки. Разширението също по този начин ще изиска позволение за осъществяване на „ високорискови действия “, като да вземем за пример издание на наличие, осъществяване на покупки или прекачване на персонални данни. В допълнение към това разширението ще блокира работата му при достъп до високорискови уеб сайтове, като да вземем за пример уеб сайтове на банки, пиратски запаси и други.