Едно фалшиво видео с лицето на коя да е личност

Едно подправено видео с „ лицето ” на коя да е персона лишава към 5 минути за рендериране (снимка: CC0 Public Domain)

Всички са чували за майсторски имитации – ловко направени фалшификати, които са сложни за разграничаване от оригинала. Оказва се, че благодарение на AI се генерират подправени записи, фотоси и видеозаписи, които изкусно могат да надхитрят биометричните системи за сигурност – изключително тези за лицево различаване.

15 минути запис на нечий глас е изцяло задоволителен, с цел да можем чрез AI да създадем негов „ клонинг ”. Който го чуе, ще се закълне, че е слушал същинския човек, на който принадлежи гласът, сподели Паула Янушкевич, създател и основен изпълнителен шеф на профилираната компания за сигурност CQure. Тя заинтригува аудиторията на CEE Cybersecurity Forum 2024, проведен от ИТ консултантската компания Crayon във Варшава, с разкритията за „ тъмната страна ” на софтуерния свят.

Няма спънка да се генерира каквато и да било тирада с нечий глас, в случай че някой има запис с достоверния глас, съобщи Янушкевич. 15 минути запис е премного, да се доловят и откопират особеностите на говора, интонацията, даже акцентът.

„ Че кой има толкоз запис на нечии глас? Ето, един преподавател по време на презентация може да приказва сред 20 и 40 минути. Но освен лекторите могат да бъдат записвани. Когато говорите с някой чиновник в кол-център, вероятно първо чувате, че „ този диалог се записва ”. Замисляте ли се какво става с този запис след това? Къде отива той? Кой и по какъв начин го употребява? Каква е сигурността в компанията, която записва? ”, попита Паула.

Същото се случва и със фотосите, даже с видеото. Когато забележим подправени фрагменти, мъчно можем да познаем, че пред очите ни е оригиналът. „ Има един звук стратегии, с които може да се направи реплика ”, сподели Янушкевич.

Биометриката е под опасност, можем елементарно да надхитрим системите за лицево различаване, предизвести Паула Янушкевич, създател и основен изпълнителен шеф на CQure
(eкранна фотография: CEE Cybersecurity Forum)

Някои записи са свободно налични в интернет. Други са платени. За кибернападателите цената е преференциална, тъй като е от порядъка на 4 $ на час. Едно подправено видео с „ лицето ” на коя да е персона лишава към 5 минути за рендериране – това ще коства към 20 $. „ За 6 часа можем да генерираме видео с реплика на някого, който „ приказва ” и жестикулира няколко минути ”, сподели Янушкевич със личния си облик, подправен от AI.

Всичко това значи, че биометриката е под опасност. Можем елементарно да надхитрим системите за лицево различаване. Малко по-трудно – и системите за гласово различаване. А този тип инспекции са входна точка за много устройства и системи. Най-трудни за подражаване, съгласно Янушкевич, остават пръстовите отпечатъци.

Успоредно с това генеративните принадлежности са експлоатирани и за „ комплицирани ”, усъвършенствани фишинг офанзиви. Чрез публично наличните принадлежности за генериране на текст можем да създадем безапелационно подправено известие и да го изпратим като писмо. С малко пречистване посланието може да стане безусловно безапелационно.
още по темата
Същите генеративни принадлежности се употребяват и за писане на злотворен код. Въпреки старанията на разработчиците да предотвратяват злонамерената приложимост на създаваните AI принадлежности, всеки от тях се развива непрекъснато.

„ Можеш да подадеш добре премислена подкана и да получиш осъществим код. Може да е противен, само че работи! Можеш да го тестваш и да го коригираш, в случай че би трябвало. Умело проектираният промпт може безпроблемно да подкани логаритъма да написа злотворен код ”, показва Янушкевич.

От друга страна, атакуващите имат пребогато претекстове да употребяват AI в своята „ работа ”. Бързината е водещ претекст – всяко подправено писмо или видео се генерира бързо. Авторът на „ плана ” не се уморява – за разлика от екипите по сигурност, които постоянно прекарват безсънни нощи, хакерът се наспива пълноценно. Освен това логаритмите се самообучават и се самоусъвършенстват непрекъснато.

Физически AI инструментът е надалеч – той не е в личната къща на злодея, а е някъде „ в облака ”. Най сетне – на ниска цена е. Какво са 20 $ за подправено видео, което може да накара основния счетоводител на огромна корпорация бързо да ти преведе няколко милиона, мислейки си, че работи по разпореждане на шефа…