Разработките на дийпфейк и AI предизвикаха вълна от дезинформация и

Разработките на дийпфейк и AI провокираха вълна от дезинформация и комплициране
(снимка: CC0 Public Domain)

Измамното наличие, или така наречен дълбоки имитации (дийпфейк), се популяризира все по-интензивно и предизвиква вреди на бизнес организациите. Ето за какво е значимо фирмите да изградят тактика за отбрана и реакция против дийпфейк. Ето по какъв начин да започнете.

AI-генерираното дийпфейк наличие е на ниска цена, относително елементарно за основаване, само че може да навреди на репутацията на всяка компания. Тази опасност е сериозен проблем, който става все по-голям с лесния достъп до AI принадлежности и услуги.

Достъпна технология за измами

„ Част от казуса е, че е мъчно да се класифицира желанието ”, споделя Ари Лайтман, професор по цифрови медии в колежа по осведомителни системи и обществена политика на университета Карнеги Мелън в изявление за Information Week. „ В доста случаи те [дийпфейковете] са съзнателно основани да излъгват по политическа, идеологическа или финансова причина – в други случаи желанието е по-трудно да се оцени ”.
още по темата
Технологията дийпфейк напредна бързо, което прави все по-трудно разграничаването сред същинско и манипулирано наличие, споделя Роб Рендел, световен началник на пазарната тактика за измами и попречване на измами в NICE Actimize – снабдител на поддръжка за сходство с финансовите закононарушения.

„ Това крие съществени опасности за разнообразни аспекти на обществото, в това число политиката, бизнеса и персоналната известност ”, изяснява той. „ Разработките на дийпфейк и AI провокираха вълна от дезинформация и комплициране, като доста консуматори станаха жертва на телефонни позвънявания, генерирани от AI ”.

Технологиите се демократизираха до степен, в която на практика всеки може да сътвори допустим фалшификат с потребителски компютър или смарт телефон и интернет връзка, отбелязва Арик Атар, старши откривател за разузнаване на закани в доставчика на технологии за сигурност Radware. „ Бързо се приближаваме към епоха, в която аудиовизуалното наличие към този момент не е присъщо надеждно ”.

Множество закани

Дълбоките имитации могат да навредят на предприятията по няколко метода. „ Те могат да навредят на репутацията на компанията или нейните ръководители, като популяризират погрешна информация или основават подправени видео или аудио записи ”, споделя Рендел. „ Дийпфейк може също да се употребява за показване на чиновници, ръководители или клиенти, което води до лъжливи действия или нездравословни взаимоотношения ”.

Рендел класифицира дийпфейк в четири съществени категории:

Подмяна на лица . Замяна на лицето на един човек с различен във видеоклипове или изображения.

Синтез на глас . Генериране на реалистична тирада от текст за основаване на подправени аудио записи.

Контекстуална операция . Промяна на подтекста на видео или аудио клип, с цел да се промени неговото значение или последствия.

Дийпфейк на цялото тяло . Създаване на изцяло подправени видеоклипове на хора, участващи в действия, в които в никакъв случай не са взели участие.

Изправени пред композиция от изявления в обществените медии, социална поляризация и ерозия на доверието, марките в този момент се стремят да следят възприемането на своята онлайн марка, като в същото време би трябвало да се оправят с неправилните схващания, споделя Лайтман.

„ В доста случаи сатирата посредством AI може да бъде объркваща като информация и да докара до последици в действителния свят ”, отбелязва той. Междувременно потреблението на дийпфейк AI за показване на марка постоянно съумява да измами чиновниците и да компрометира евентуално сензитивна информация.

Тактики за предварителна защита

Предотвратяването или бързото обезвреждане на дийпфейк изисква многостранен метод, споделя Рендел. „ Това може да включва използване на механизми за засвидетелствуване за инспекция на достоверността на медийното наличие, образование на чиновниците и клиентите за съществуването на дийпфейк и по какъв начин да ги разпознават, създаване на усъвършенствани технологии за идентифициране и намаляване на разпространяването на дийпфейк наличие ”.

Както ръчните, по този начин и автоматизираните способи могат да оказват помощ за разкриване на дълбоки имитации посредством анализиране на неестествени придвижвания, образни артефакти, аудио изкривявания, контекстуални грешки и други, споделя Атар.

„ Базираните на AI системи за разкриване могат да разпознават имитации в огромни набори от данни, само че това е конкуренция във въоръжаването, защото основателите на дълбоки имитации се учат да преодоляват несъвършенствата ”, разяснява Атар.

Той предизвестява, че съгласно някои специалисти по сигурността актуалните способи за разкриване на дийпфейк ще бъдат ненадеждни в границите на 12 до 18 месеца.

Ограничаване на вредите

Сега и в близко бъдеще ИТ водачите могат да подхващат самодейни стъпки за намаляване на въздействието на дълбоките имитации посредством използване на постоянни ограничения за надзор на измами във всичките им канали за транзакции. „ Това включва съществуването на равнища на надзор за измами на всеки стадий от транзакцията, от започване до довеждане докрай, и гарантиране, че тези контроли работят в действително време ”, споделя Рендел.

Чрез непрестанно наблюдаване на транзакциите за подозрителна активност, разкриване на аномалии и навременна интервенция, когато е належащо, организациите могат дейно да понижат цялостното си излагане на риск от финансови измами,

„ Освен това, вложението в усъвършенствани технологии, като системи за разкриване на измами, задвижвани от AI и способи за биометрично засвидетелствуване, може в допълнение да ускори способността на предприятието да открива и предотвратява опити за измами, задействани от дийпфейк ”, добавя Рендел.

Отстраняването на вредите, породени от дълбока подправена офанзива, може да бъде предизвикателство, споделя Дамир Дж. Брешич, CISO в доставчика на технологии за сигурност и услуги Inversion6.

„ На фирмите може да се наложи да влагат в старания за връзки с обществеността, с цел да възстановят репутацията си, да дават обезщетения на засегнатите страни и да работят с правоприлагащите органи, с цел да държат нападателите виновни ”, изяснява той. „ От значително значение е да се схване самодеен метод към киберсигурността и да се влага в нужните принадлежности и образование, с цел да се предотврати появяването на офанзиви с дълбоки имитации ”.

Ключът е в бързата реакция

Ключът към ефикасната отбрана от офанзиви с дълбоки имитации е да действате бързо и уверено – като пожарникарски екип, който бърза да ограничи пожара, преди той да се популяризира отвън надзор, споделя Атар. Колкото по-дълго се популяризира непроверена погрешна информация, толкоз повече вреди може да аргументи, отбелязва той. „ Организациите се нуждаят от система за бързо реагиране, подготвена при първите признаци на пушек ”.