Откриха опасен вирус в браузъри с изкуствен интелект: краде данни
Нови браузъри с изкуствен интелект, като Perplexity Comet, имат рискова накърнимост, която разрешава на хакерите да крадат персонални данни, в това число пароли и информация за кредитни карти. Проблемът е, че асистентът с изкуствен интелект не може да разграничи потребителските команди от скритите указания, вградени в кода на уеб страницата.
Изследователи от Brave демонстрираха как работи офанзивата. Хакерите могат да скрият злонамерени указания на всяка уеб страница - да вземем за пример, като ги напишат с бял шрифт на бял декор или ги скрият в HTML код. Когато консуматор изиска от асистента с изкуствен интелект да извърши безобидна задача, като да вземем за пример „ резюме на тази страница “, той прочита скритите команди дружно с забележимия текст, възприемайки ги като заповед за деяние.
В резултат на това, изкуственият разсъдък е кадърен да прави операции в полза на нападателя: да посещава други уеб сайтове (например, вашата онлайн банка), да търси пароли, непокътнати в браузъра, и да ги предава на сървъра на хакера. По време на опита, откривателите съумяха да отвлекат акаунта в Perplexity по този метод, принуждавайки асистента с изкуствен интелект да прочете еднократен код за удостоверение от Gmail.
Тази накърнимост, известна като „ косвено инжектиране на поръчки “, заобикаля всички обичайни механизми за уеб сигурност. Асистентът с изкуствен интелект има цялостни потребителски права, тъй че няма ограничавания за него. Макар че дупката в сигурността е ясно илюстрирана по-специално от Comet на Perplexity, същият метод може да работи и в други сходни браузъри.
Според специалистите на Brave, прецедентът акцентира фундаменталната заплаха от браузърите с изкуствен интелект: те получават достъп до функционалности, които преди този момент са били извънредно в човешки ръце. За да избегнат сходни закани, разработчиците би трябвало да научат изкуствения разсъдък ясно да разграничава потребителските команди от наличието на уеб страницата, както и да изисква удостоверение, преди да прави каквито и да е поверителни дейности.
Изследователи от Brave демонстрираха как работи офанзивата. Хакерите могат да скрият злонамерени указания на всяка уеб страница - да вземем за пример, като ги напишат с бял шрифт на бял декор или ги скрият в HTML код. Когато консуматор изиска от асистента с изкуствен интелект да извърши безобидна задача, като да вземем за пример „ резюме на тази страница “, той прочита скритите команди дружно с забележимия текст, възприемайки ги като заповед за деяние.
В резултат на това, изкуственият разсъдък е кадърен да прави операции в полза на нападателя: да посещава други уеб сайтове (например, вашата онлайн банка), да търси пароли, непокътнати в браузъра, и да ги предава на сървъра на хакера. По време на опита, откривателите съумяха да отвлекат акаунта в Perplexity по този метод, принуждавайки асистента с изкуствен интелект да прочете еднократен код за удостоверение от Gmail.
Тази накърнимост, известна като „ косвено инжектиране на поръчки “, заобикаля всички обичайни механизми за уеб сигурност. Асистентът с изкуствен интелект има цялостни потребителски права, тъй че няма ограничавания за него. Макар че дупката в сигурността е ясно илюстрирана по-специално от Comet на Perplexity, същият метод може да работи и в други сходни браузъри.
Според специалистите на Brave, прецедентът акцентира фундаменталната заплаха от браузърите с изкуствен интелект: те получават достъп до функционалности, които преди този момент са били извънредно в човешки ръце. За да избегнат сходни закани, разработчиците би трябвало да научат изкуствения разсъдък ясно да разграничава потребителските команди от наличието на уеб страницата, както и да изисква удостоверение, преди да прави каквито и да е поверителни дейности.
Източник: glasnews.bg
КОМЕНТАРИ