Агентите с AI в Windows 11 могат случайно да изтеглят зловреден софтуер, предупреждават от Microsoft
Microsoft разгласява публично уведомление за нова пробна функционалност в Windows 11, която включва въвеждането на основани на сътрудници AI модули, способни независимо да извършват потребителски задания. Тази нова функционалност може да изтегля вируси, съгласно Windows Central.
Според Microsoft, тази функционалност би трябвало да се задейства единствено от консуматори, които схващат евентуалните опасности. Базираните на сътрудници AI модули са деактивирани по дифолт. След като бъдат задействани, системата основава обособени местни сметки за AI сътрудниците. Те работят в изолирана среда, само че имат достъп до основни потребителски директории, в това число Документи, Изтегляния и Работен плот. Това равнище на достъп е належащо за осъществяване на интервенции в приложения и взаимоотношение с файловата система.
От Microsoft акцентират, че появяването на такива сътрудници основава нови вектори на опасност.
Те включват по този начин нареченото cross-prompt инжектиране: обстановка, в която злонамерено наличие в интерфейса или отворените документи може да промени инструкциите на AI сътрудник и да докара да вземем за пример до инсталиране на нежелателен или злоумишлен програмен продукт без знанието на потребителя.
От компанията декларират, че слагат специфичен акцент върху прозрачността на своите AI модули:
към този момент са въведени наложително вписване на дейностите на сътрудниците и удостоверение от потребителя на всички сериозни интервенции.
Първите тестови компилации на Windows 11 с поддръжка на AI, основана на сътрудници, към този момент са налични за тестери на Windows Insider.
