Публикуван наскоро доклад от страна на Gartner предупреждава компаниите да

Публикуван неотдавна отчет от страна на Gartner предизвестява фирмите да се въздържат от потреблението на така наречен „ AI браузъри “.

„ Настройките по дифолт в AI браузърите отдават приоритет на потребителското прекарване пред сигурността “, пишат Gartner. В разбора си към Atlas на OpenAI и Comet на Perplexity, Gartner показват два съответни риска тук.

Те са свързани със страничните AI ленти и самостоятелното осъществяване на дейности от името на потребителя, до момента в който е вписан в разнообразни услуги.

Лентата обобщава, търси, превежда и си взаимодейства с уеб наличие посредством AI услуги. При втория жанр опасности или така наречен „ агентни транзакции “, браузърът независимо направлява, взаимодейства и приключва дадени задания в уеб страниците в уеб сесии, в които потребителят се е авторизирал пред разнообразни услуги.

От Gartner предизвестяват, че страничните ленти изпращат постоянно чувствителни данни към облака на доставчика на AI услугата. Това включва интензивно уеб наличие, история на браузването и отворени табове. По този метод се усилва риска от намерено излагане на информация. Освен, в случай че не са изменени разнообразни настройки за дискретност и сигурност.

На първо място, пишат Gartner, фирмите би трябвало да инспектират действието на бекенд структурата на съответната услуга. Заедно с това, те би трябвало да проведат съответно образование над чиновниците си. Особено, в случай че става дума за високо сензитивна информация. „ Образовайте потребителите, че всичко, което преглеждат може евентуално да се изпрати към бекенд инфраструктурата на услугата. Нека се уверят, че нямат таб, в който има изложена високо сензитивна информация до момента в който употребяват страничната AI лента “.

Ако виновните фактори в организациите решат, че бекенд съставния елемент на тези браузъри не е безвреден, то те би трябвало да забранят на чиновниците си да смъкват и употребяват приложенията. Опасностите по отношение на тези браузъри са разнообразни. Така да вземем за пример, AI браузърът може самостоятелно да посети фишинг уебсайт и да му даде чувствителни данни. Те също по този начин са податливи на разнообразни по жанр, характерни офанзиви.

Като да вземем за пример неправилни дейности, произлизащи от неверна логичност в разсъждението на сътрудниците. И непряко инжектирани промпт-инструкции от сътрудника. Пример за сходен жанр офанзиви е умишленото вграждане на злоумишлени указания в документ, имейл или уебсайт, който сътрудникът би трябвало да доближи и обработи. В подобен и сходни случаи, сътрудникът несъзнателно се явява атакуващата страна. Друга заплаха тук се явява неправилни дейности, породени от модела на разсъждения на модела. Проблемът поражда при неправилен дизайн в процеса на размишление или така наречен „ верига на мисълта “. Това касае извеждането на неправилно умозаключение, сбъркано интерпретиране на инструкциите и други Това на собствен ред може да докара до изцяло неправилни резултати и отговори (т.нар. „ халюциниране “). Опасност съставлява и риска от „ каскаден неуспех “. Едно видимо нищожно неверно деяние на сътрудника да бъде последвано от многочислени по-големи сбъркани отговори и изцяло неправилен резултат.