Неотдавна ръководителите на Microsoft многократно заявиха, че в бъдеще Windows

Неотдавна ръководителите на Microsoft неведнъж обявиха, че в бъдеще Windows 11 ще разполага с повече сътрудници с изкуствен интелект, които ще извършват разнообразни задания. Вътрешна документи на компанията обаче демонстрира, че такива логаритми могат да халюцинират (да показват погрешна информация), да работят непредсказуемо и да се трансфорат в инструмент при нови хакерски офанзиви. Въпреки всичко това софтуерният колос продължава да прокарва в Windows 11 функционалности, основани на AI сътрудници.

Ако Microsoft счита, че сътрудниците с изкуствен интелект са толкоз рискови, че изискват обособени сметки, изолирани сесии и одиторски дневници, с цел да бъдат предпазени от неоторизиран достъп, тогава е мъчно да се изясни за какво Windows 11 се трансформира в полигон за тестване на технологията.

Важно е да се означи, че това се случва на фона на обстоятелството, че потребителите на операционни системи стават все по-уморени от необятното разпространяване на функционалности, основани на изкуствен интелект. В средата на октомври Microsoft разгласи, че всеки компютър с Windows 11 в последна сметка ще се трансформира в компютър с изкуствен интелект. Компанията разгласи по едно и също време няколко интеграции на AI, които би трябвало да разрешат на технологията да „ поддържа връзка “ с компютъра, да демонстрира на AI наличието на екрана и да го инструктира да работи от негово име. По създание Microsoft желае потребителите да заменят натискането на клавишите и кликането на мишката с натурален език. Първоначално това се осъществя посредством въвеждането на Copilot Voice и Copilot Vision, както и на Copilot Actions.

Последните промени в операционната система трансформират лентата със задания на Windows 11 в самобитен център на подсистемата за изкуствен интелект. Полето за търсене е сменено от интерфейса Ask Copilot, който ви разрешава да стартирате AI сътрудници или асистента Copilot с едно кликване или текстова команда.

След като бъдат задействани, AI сътрудниците ще извършват задания във фонов режим и потребителят може да наблюдава процеса непосредствено в лентата на дилемите, като че ли са елементарни приложения. Въпреки че AI сътрудниците са налични по желание и функционалността им е мощно лимитирана, пътната карта на Microsoft дава ясна визия – те са идващият основен стадий от развиването на Windows.

Положително е, че Microsoft не се пробва да показа тези нововъведения като нещо изцяло безвредно. В формалната документи на компанията се показва, че сътрудниците с изкуствен интелект „ имат функционални ограничавания във връзка с държанието си, от време на време могат да халюцинират и да дават непредсказуеми резултати “.

Освен това сътрудниците с изкуствен интелект са уязвими към офанзиви с инжектиране на подкани (XPIA), както и към злонамерени подкани и злотворен програмен продукт. Един от най-големите опасности, които Microsoft вижда са офанзивите XPIA, при които нападателят скрива злонамерени указания в детайли на потребителския интерфейс, документи или приложения, с които AI сътрудникът взаимодейства. Този метод може да разреши пренасочване на първичните указания на сътрудника и да го накара да извърши злонамерени дейности, като да вземем за пример прекопирване на чувствителни данни.

Изследователи в региона на осведомителната сигурност към този момент предизвестиха, че сътрудниците с изкуствен интелект, работещи посредством графичен интерфейс са уязвими към този вид офанзиви. Причината за това е, че на сътрудниците се дават високо равнище на привилегии на устройството, с цел да извършват дилемите си. Microsoft осъзнава това, само че не се отхвърля от концепцията за по-нататъшно внедряване на сътрудници с изкуствен интелект. Очевидно потребителите, които смятаха, че скандалната функционалност Recall е призрачен сън за неприкосновеността на персоналния живот, няма да се зарадват на сътрудниците с изкуствен интелект, защото те съставляват доста по-голяма опасност.

Microsoft упорства сътрудниците да работят под обособени сметки, да имат лимитирани права и да са предпазени от осъществяване на неоторизирани промени в инструкциите. В същото време компанията дава на сътрудниците права за четене и запис в персоналните папки на потребителя, като да вземем за пример „ Документи “, „ Изтегляне “, „ Изображения “, „ Видеоклипове “ и други “.

Ако Microsoft желае сътрудниците с изкуствен интелект да взаимодействат с приложенията и файловете като същински консуматори, би трябвало по някакъв метод да избегне сриването на системата под личната ѝ тежест.

За тази цел разработчиците са основали работното пространство за сътрудници, което е в основата на „ операционната система за сътрудници “. Всичко, което компанията даде обещание, в това число логаритми с изкуствен интелект, които могат да взаимодействат с приложения, да редактират файлове, да реалокират файлове и да извършват многоетапни задания работи единствено тъй като Windows 11 може да основава изолирани сесии, в които AI сътрудниците да работят. Това не е като виртуална машина, тъй като Agent Workspace е паралелна среда на Windows със личен акаунт, работен плот, дърво на процесите и лимитирани права.

Осигуряването на настрана работно пространство за сътрудниците с изкуствен интелект е първият опит на Microsoft да им даде „ място за битие “ в границите на Windows, като в същото време ги държи отвън потребителската сесия. Всеки сътрудник получава обособен акаунт на компютъра, а Windows държи такива КМ под надзор, като позволява единствено тези дейности, за които е обещано категорично позволение от потребителя. Подобни ограничавания са отговорът на Microsoft на опасения, за които самата компания е предупреждавала.

В изолираното пространство сътрудникът с изкуствен интелект взаимодейства с приложенията тъкмо като консуматор. Той може да щраква върху бутони в интерфейса, да вкарва текст в полета, да превърта страници, да реалокира файлове и така нататък AI дава отговор за логиката зад тези дейности. Той е виновен за логиката зад тези дейности. Функцията Copilot Actions към този момент употребява този модел. Вместо да се обръща към основан в облака AI модел, да вземем за пример за генериране на текст, сътрудникът извършва дейностите независимо, като употребява програмен продукт, конфигуриран на компютъра.

Ето за какво Microsoft отделя обособени сесии за тази цел. Ако сътрудникът с изкуствен интелект изтълкува неправилно подкана или в някой обект, с който взаимодейства, се съдържат злонамерени указания, вредите механически се лимитират до пространството, което Windows управлява и в границите на което се записва всяко деяние. Също по този начин би трябвало да се предотврати проникването на сътрудници в систематичните директории, хранилищата за удостоверения и досиетата на приложенията, където неволното четене или писане може да наруши работата на продукта.

За да започнете да взаимодействате с сътрудник с изкуствен интелект, би трябвало да активирате пробните функционалности на сътрудника, които са деактивирани по дифолт.

„ Тази функционалност сама по себе си няма AI благоприятни условия, тя е функционалност за сигурност за сътрудници като Copilot Actions. Активирането на тази алтернатива ви разрешава да създадете обособен акаунт на сътрудника и работно пространство на устройството, осигурявайки изолирана среда за обособяване на активността на сътрудника от активността на потребителя. “

се споделя в описанието на Microsoft

За надзор на достъпа Microsoft употребява протокола Model Context Protocol, който е позициониран като мост сред сътрудниците и приложенията. По този метод сътрудниците взаимодействат с инструментите в системата. MCP разрешава на сътрудника с изкуствен интелект да открива принадлежности, да извиква функционалности, да чете метаданни за файлове и да взаимодейства с услуги. По този метод се предотвратява опцията за пряк достъп и се дава на Windows централна точка за надзор, където се прави засвидетелствуване, даване на позволения на инструментите и така нататък Без MCP сътрудникът с изкуствен интелект би бил „ кьорав “ и Workspace го държи в безвредни граници.

Microsoft даже не обмисля да се откаже от внедряването на изкуствен интелект в Windows. Компанията желае да направи взаимоотношението на потребителите с AI допустимо най-естествено. Споменатата по-рано функционалност Recall беше прегледен образец за това по какъв начин не би трябвало да се употребява артикул с ИИ в настолна операционна система. Негативната реакция на потребителите беше толкоз осезаема, че Microsoft беше принудена да отсрочи стартирането на тази функционалност, която записва всички дейности на потребителите в системата, да я преработи и да я направи незадължителна.

Въпреки това е напълно явно, че Microsoft е направила своя избор. Изборът е да се преработи Windows 11 и да се интегрират сътрудници, които могат да извършват разнообразни задания. Компанията е задоволително смела, с цел да осъзнае рисковете, и задоволително уверена, с цел да продължи напред. Възможно е появяването на операционни системи, основани на сътрудници да е всъщност неизбежна. Всяка огромна компания, занимаваща се с изкуствен интелект се движи към бъдеще, в което AI ще прави освен това от това да комуникира с потребителите.