При сегашната динамика е почти невъзможно да предвидим как ще

При сегашната динамичност е съвсем невероятно да предвидим по какъв начин ще наподобява пейзажът в света на сигурността след две години, считат участниците във форума на Crayon
(eкранна фотография: CEE Cybersecurity Forum)

Всеки човек може да се окаже проводник на хакерска атака – в офиса, в университета или учебното заведение, в дома. Предвид усъвършенстваните умения на AI и хитрите способи, по които злонамерените лица ги употребяват, положението на кибербезопасността се върна назад там, където беше преди години: индивидът е най-слабото звено в отбраната. Промяната, която настава, е огромна, и тя не визира единствено ИТ.

Можем ли да отличим гласа на шефа във компанията от неговия клонинг, изработен посредством AI? Можем ли да отличим фотография на собствен братовчед или различен родственик от нейна реплика, генерирана от логаритъм? А можем ли да разберем по кое време една вест е подправена? Всички си мислят, че могат. На процедура мнозина ще сгрешат.

Новото потомство генеративни принадлежности, които клонират човешки гласове, статични и динамични облици, са извънредно сполучливи и стават все по-съвършени, а потребителите от младото потомство не са задоволително подозрителни към всички и всичко, стана ясно от дискусионния панел на форума CEE Cybersecurity Forum, проведен от ИТ консултантската компания Crayon във Варшава, който се организира в присъствен и онлайн формат.

AI против новото потомство

Възходът на AI изисква от нас непрекъснато да се учим – на процедура това софтуерно развиване следва добре познатата траектория, която към този момент сме виждали при всички други технологии с появяването им, както стана със обществените мрежи преди време: изначало сме любопитни, след това я използваме за развлечение, по-късно се намират способи да се прави бизнес посредством новата технология и не след дълго тя репродуцира всичко човешко, и положителното, и неприятното, разяснява Егемен Кону, шеф корпоративни клиенти в Zertu, компания на HPE.

Затова е значимо хората да имат базови умения за преценка и здравословна доза мнителност към видяното и прочетеното. Важен си остава казусът с източника на информацията, който би трябвало да се ревизира, добави Кону.

Всеки човек би трябвало да се замисля по какъв начин взаимодейства с AI и каква персонална информация споделя на открито към света, сподели Александър Вара, търговски шеф механически услуги в Crayon. Това се отнася и за служителя в коя да е организация, и за дома и фамилията.
още по темата
Трябва най-накрая да разберем, че киберсигурността въобще не е ИТ проблем, заключи Михал Яворски, основен софтуерен шеф в Microsoft Полша. „ Сигурността е човешки проблем. Ако някой в офиса е необмислен и податлив да работи, без да се замисля, той ще направи пакост – с или без ИТ, с или без изкуствен интелект ”, безапелационен бе Яворски.

Но даже и да е здравомислещ и деликатен, всеки човек може да се подведе от едно добре направено подправено видео. Всеки може да се окаже проводник на хакерска атака, акцентира Паула Янушкевич, създател и CEO на профилираната консултантска къща CQure. Ето, че още веднъж, както и преди години, индивидът е най-слабото звено в ИТ сигурността във всяка организация, добави Урош Бабиче, проектант осведомителна сигурност в Crayon.

Това предизвикателство се усилва поради обстоятелството, че младежите поначало не са склонни да са подозрителни и недоверчиви. Те с лекост бързат да отворят писмо, да видят видео, да споделят фотография. Тази присъща отвореност и доверчивост се експлоатира от злонамерените лица изкусно посредством силата на така наречен обществен инженеринг, т.е. употребявайки психически уловки.

„ Нужно е да научим младите по какъв начин да се пазят, безапелационен бе Урош Бабиче. „ Те не вършат разлика сред занимателното и рисковото, не отличават киберсигурност от киберпрестъпност! Не се замислят за последствията. Това е предизвикателство ”. Той прикани потребителите към съблюдаване на киберхигиена, с цел да си подсигуряват най-малко базово равнище на сигурност.

Трябва да имаме добра цифрова хигиена, единомислещи бяха експертите по киберзащита. Така, както си мием зъбите, би трябвало да поддържаме прочут „ гард ” и във връзка с боравенето с цифровите принадлежности, акцентира Михал Яворски.

Етика и AI

Етичното потребление е различен аспект на проблематиката на AI в света на киберсигурността, който бе разискван по време на CEE Cybersecurity Forum 2024. Повечето организации и бизнеси към този момент бързат да вградят AI в своите артикули и услуги – елементарен образец са чатботовете в уеб страниците. Подобни системи навлизат и по-надълбоко, да вземем за пример в банковото обслужване.

Тези, които употребяват логаритми, имат все по-тежката отговорност да внимават по какъв начин употребяват данните – на компаниите, на потребителите. Прозрачността е значима и ще става все по-важна, уточни Паула Янушкевич. Какво подаваме като подсказка (промпт), когато използваме външни логаритми за бизнес-работа, също е предизвикателство – рисковете би трябвало да бъдат разбрани и осъзнати от чиновниците. Според нея, никакви персонални данни не би трябвало да бъдат поверявани с лека ръка на AI.

За самите организации, които желаят да оферират и употребяват детайли на AI, е значително да наблюдават регулациите в региона, защото те непрестанно се трансформират и усилват, предизвести Михал Яворски. А те се задават със страшна мощ, като цунами. Само Европейският съюз има в дневния си ред над 100 нови регулации или промени на правила, които касаят потреблението на AI. Това ще е колосално предизвикателство за организациите, боравещи с изкуствен интелект.

„ Съберете инженерите и юристите в една стая да работят дружно ”, предложи в тази връзка Яворски. Той предизвести, че това ще е сложна задача, която вероятно ще породи напрежение – само че е единственият метод за логичен напредък. Според него, през днешния ден е изключително значимо да умеете да говорите езика на другите, с цел да ги убедите в значимостта на ИТ сигурността, която не е единствено проблем само на ИТ отделите в дадена организация.

Докъде ще стигнат хакерските атаки?

На фона на сходна динамичност става съвсем невероятно да предвидим по какъв начин ще наподобява пейзажът в света на сигурността след две години. „ Това, което е допустимо през днешния ден с AI – подправените фотоси, лъжливите видеа – беше невероятно преди единствено две години ”, разяснява Егемен Кону. „ Технологиите ще продължат да се развиват с сходни темпове и офанзивите могат да стигнат по-далеч, в сравнение с сме в положение да си представим в този момент. Трябва да следим деликатно обстановката и да сме наясно с дейностите ни, да знаем какво да вършим при хакерски атаки, а по този начин също и какви принадлежности можем да употребяваме за отбрана ”.

Той и сътрудниците му Александър Вара и Урош Бабич се съгласиха, че е нужна радикална смяна на гледната точка на актуалния човек, било то чиновник, сътрудник, другар: към цифровото наличие би трябвало да се гледа с съмнение. „ Не вярвайте на всичко още на пръв взор ”, приканиха експертите.

Вара акцентира нуждата от създаване на киберустойчивост в организациите, от която те се нуждаят ежедневно. Има компании и частни консуматори, които постоянно не наблюдават данните си и не ги пазят по отговарящ метод, а това е нещо, което в областта на бурното развиване на AI не би трябвало да се позволява, добави Бабич.

По публикацията работиха Мария Малцева и Рада Станева