Доклад на Microsoft Cyber Pulse“: Всеки трети служител използва неодобрени AI агенти на работното място
Microsoft разгласява най-новия си отчет Cyber Pulse, в който показва на практика разбор за нововъзникващите опасности за киберсигурността с навлизането на AI сътрудниците в ежедневните бизнес интервенции. Едно от най-належащите провокации е ръководството: използването на AI сътрудниците пораства по-бързо, в сравнение с доста организации могат да проследят или ръководят, а тази липса на видимост съставлява възходящ риск за бизнеса.
Създаването на AI сътрудници към този момент не е лимитирано до техническите екипи
В екосистемата на Microsoft клиентите към този момент основават и внедряват AI сътрудници във всяка съществена платформа – от Fabric и Foundry до Copilot Studio и Agent Builder – което отразява растящата наклонност към автоматизация, задвижвана от AI, в работния развой.
Създаването на сътрудници не се лимитира до техническите роли; през днешния ден чиновници на разнообразни позиции основават и употребяват сътрудници в ежедневната си работа. Данните на Microsoft демонстрират, че над 80% от фирмите в класацията Fortune 500 внедряват дейни сътрудници, основани с принадлежности с ниско равнище на кодиране/без шифроване. С разширението на използването на сътрудници и умножаването на опциите за промяна, в този момент е моментът да се вкарат съществени контролни механизми.
AI сътрудниците се популяризират бързо в разнообразни райони и промишлености
Прилагането на AI сътрудници се форсира в международен мащаб, като 42% от дейните AI сътрудници са в Европа, Близкия Изток и Африка, следвани от Съединени американски щати (29%), Азия (19%) и Северна и Южна Америка (10%). Ръстът е най-силен в мощно контролираните и оперативно комплицирани промишлености. След софтуерния и софтуерния бранш (16%), производството покрива 13% от световното потребление на AI сътрудници, следвано от финансовите услуги (11%) и търговията (9%). В тези браншове AI сътрудниците се употребяват все по-често за правене на оферти, разбор на финансови данни, подбиране на сигнали за сигурност, автоматизиране на повтарящи се процеси и добиване на информация с машинна скорост.
Сляпо леке и рискът от „ двойни сътрудници “
Докладът предизвестява, че бързото внедряване на AI сътрудници може да изпревари рамките за сигурност и сходство, което усилва риска от „ Shadow AI “ (нерегламентиран AI). Агентите с несъразмерен достъп – или повлияни от подвеждащи данни – могат да бъдат експлоатирани от злонамерени лица и да се трансфорат в нежелани „ двойни сътрудници “. Подобно на действителните чиновници, AI сътрудниците се нуждаят от ясни функции, лимитирани привилегии и непрестанен контрол, с цел да не се трансфорат в накърнимост. Според отчета Cyber Pulse, към този момент 29% от чиновниците са се обърнали към неразрешени AI сътрудници за осъществяване на работни задания.
„ В България и в целия Адриатически район AI сътрудниците бързо се трансформират в цифрови сътрудници в ежедневните бизнес интервенции. Но без ясни правила, бистрота и отчетност, те могат да се трансфорат и в сериозен риск за сигурността. Иновациите и сигурността би трябвало да се развиват с идентична скорост. Организациите, които ползват правилата на „ нулево доверие “, цялостно наблюдаване и централизирано ръководство към AI сътрудниците – тъкмо както вършат това за хората и системите – ще понижат риска, ще укрепят доверието и ще бъдат в по-добра позиция да се конкурират на все по-регулирания и цифровизирания европейски пазар и отвън него “, съобщи Томислав Врачич, районен софтуерен шеф на Microsoft за Южна Европа.
Управлението на AI като отговорност на управлението
Според показателя за сигурност на данните на Microsoft единствено 47% от организациите в разнообразни браншове оповестяват, че ползват характерни ограничения за сигурност на GenAI, което акцентира опцията пред останалите организации да получат нужната изясненост за безвредното внедряване на AI.
Управлението на AI не може да бъде единствено в границите на ИТ отделите, нито сигурността на AI може да бъде делегирана единствено на специалистите по осведомителна сигурност (CISO). Това е междуфункционална отговорност, която обгръща правните и регулаторните отдели, човешките запаси, екипите за данни, бизнес управлението и борда на шефовете. Когато рискът, обвързван с изкуствения разсъдък, се преглежда като главен корпоративен риск – наред с финансовия, оперативния и регулаторния риск – организациите са в по-добра позиция да работят бързо и безвредно.
