Клониране на детски гласове и други deepfake измами
Компютърно генерираните гласове на децата са толкоз реалистични, че съумяват да заблудят самите родители. Изкусно направени маски, основани благодарение на фотоси от обществените мрежи, които могат сполучливо да послужат за вход в система, предпазена с лицева идентификация. Звучи като нещо от научната фантастика, само че тези техники към този момент са разполагаем на нарушителите, които се възползват от елементарните консуматори.
Разпространението на такива (fake) технологии разтревожи регулаторните органи, полицията и чиновниците от най-високите етажи на финансовата промишленост. Председателят на Федералната комерсиална комисия на Съединени американски щати Лина Хан предизвести през юни, че изкуственият разсъдък (AI) оказва помощ за „ ускорение “ на измамите и прикани за нараснала зоркост от страна на правоприлагащите органи.
Още преди AI да се разгърне до сегашната всеобща приложимост в интернет, светът към този момент се бореше да овладее детонацията на финансовите измами. Само в Съединени американски щати потребителите са изгубили съвсем 8.8 милиарда $ през предходната година, което е растеж от 44% по отношение на 2021 година – и се случва макар рекордните вложения в разкриването и предотвратяването им.
Експертите по финансови закононарушения в огромните банки като Wells Fargo & Co. и Deutsche Bank AG споделят, че задаващият се взрив на измамите е една от най-големите закани пред тяхната промишленост. Освен че заплаща разноските за битка с тях, финансовата промишленост рискува да загуби доверието на опарените клиенти.
Това е конкуренция във въоръжаването “, споделя пред Bloomberg Джеймс Робъртс, който управлява ръководството на измамите в Commonwealth Bank of Australia, най-голямата банка в страната. „ Би било пресилено да се каже, че печелим. “
Историята на измамите сигурно е толкоз остаряла, колкото и историята на търговията и бизнеса. Един от най-ранните известни случаи, преди повече от 2000 години, е обвързван с гръцки морски търговец, който се опитал да потопи кораба си, с цел да получи по непочтен път заплащане по застрахователна лавица. Историята помни безчет сходни опити.
Но тъмната стопанска система на измамите – също като стопанската система въобще – от време на време получава иновационен подтик. Новите технологии понижават разноските за осъществяване на незаконни действия и разрешават на нарушителя да доближи до по-голям брой евентуални жертви. Кой да вземем за пример не е получавал имейл за закъсал арабски шейх, който търси помощ и дава обещание примамлива финансова компенсация в подмяна? Криптовалутите пък доведоха до подем на Понци схемите посредством и на обществените мрежи.
AI взривът предлага освен нови принадлежности, само че и заплашва да с финансови загуби, които могат пъкъл преобърнат животи. По-голямата трудност и това, че към момента е непозната, вършат технологията рискова освен за лековерните консуматори. Жертва може да се окаже всеки.
На този декор е налице – изключително след COVID-19 – взрив на онлайн банкирането по целия свят. Телефоните и преносимите компютри замениха живия контакт в банковите клонове, което е добре пристигнало за клиентите, само че и за измамниците.
„ Започваме да следим доста по-голямо рационализиране на киберпрестъпленията “, споделя Ейми Хоган-Бърни, общоприет управител на политиката за киберсигурност и отбрана в Microsoft Corp.
В международен мащаб разноските за киберпрестъпления, в това число измами, ще доближат 8 трилиона $ тази година – сума, която надвишава икономическата продукция на Япония, третата по величина стопанска система в света. До 2025 година те ще доближат 10.5 трилиона $, съгласно изследователската компания Cybersecurity Ventures.
AI разрушава разпоредбите
Фалшивата молба за пари от непосредствен човек не е нещо ново. Но в този момент родителите са изправени пред рискова иновация – получават позвънявания, които клонират гласа на детето им благодарение на изкуствен интелект, с цел да звучи неразличимо от същинския. Тези трикове, известни като измами със обществено инженерство, нормално имат най-висока степен на успеваемост и генерират едни от най-бързите облаги за измамниците.
Клонирането на гласа на човек става все по-лесно. След като измамникът изтегли фрагмент от аудиоклип от нечия обществена медия или известие на гласова поща – освен това с доста къса дължина, от порядъка на до 30 секунди – той може да употребява елементарно налични онлайн принадлежности за синтез на глас с изкуствен интелект, с цел да сътвори нужното му наличие.
Публичните сметки в обществените мрежи разрешават елементарно да се разбере кои са роднините и приятелите на даден човек, както и къде живее и работи, наред с друга значима информация. Експертите акцентират, че измамниците, които са трансформирали това в бизнес, са подготвени да проявят самообладание и от време на време възнамеряват офанзивите в продължение на месеци.
Според Роб Поуп, шеф на новозеландската държавна организация за киберсигурност CERT NZ, това, което екипите за битка с измамите са забелязали до момента, е единствено въведения към това, което изкуственият разсъдък ще направи допустимо. По думите му AI също по този начин оказва помощ за увеличението на размера на офанзивите и за тяхното персонализиране.
Може да се обзаложим, че през идващите две-три години ще станем очевидци на повече престъпни офанзиви,
генерирани от изкуствен интелект “, споделя Поуп, някогашен заместник-комисар в новозеландската полиция, който е управлявал някои от най-известните престъпни каузи в страната. „ Това, което AI прави, е да форсира равнището на трудност и способността на тези неприятни хора да се трансформират доста бързо. AI ги улеснява. “
За да се добие визия за предизвикването пред банките, Робъртс споделя, че сега Commonwealth Bank of Australia (CBA) наблюдава към 85 милиона събития дневно посредством мрежа от принадлежности за наблюдаване. Това е в страна с население от едвам 26 милиона души.
Индустрията се надява да даде отпор, като осведоми потребителите за рисковете и усили вложенията в защитни технологии. CBA да вземем за пример е внедрила нов програмен продукт, който разрешава засичането на необикновени придвижвания на компютърната мишка на клиентите по време на транзакция – червен байрак за допустима машинация. Всичко съмнително, в това число дестинацията на поръчката и методът на обработка на покупката, може да предизвести чиновниците единствено за 30 милисекунди, което им разрешава да блокират транзакцията.
Според Томас Граф, старши инженер по машинно образование в Deutsche Bank, компютърните инженери неотдавна са преустроили своята система за разкриване на подозрителни транзакции, наречена Black Forest, като са употребявали най-новите модели за обработка на натурален език. Инструментът преглежда критерии за транзакциите, като да вземем за пример размер, валута и дестинация, и автоматизирано научава от масиви от данни кои модели допускат машинация. Моделът може да се употребява както за транзакции на дребно, по този начин и за корпоративни транзакции, и към този момент е разкрил няколко случая, в това число такива, свързани с проведена престъпност, пране на пари и укриване на налози.
Wells Fargo е преработила софтуерните системи, с цел да противодейства на риска от генерирани от изкуствен интелект видеоклипове и гласове. „ Обучаваме софтуера и чиновниците си, с цел да могат да разпознават тези имитации “, споделя Чинтан Мехта, началник на отдела за цифрови технологии на Wells Fargo. Изискването е системата да продължи да се развива, с цел да е в крайник с нарушителите. А откриването на измами, несъмнено, коства пари.
Всеки път, когато бизнесът затегне ограниченията обаче, нарушителите незабавно търсят по какъв начин да ги заобиколят. Например, някои американски банки изискват от клиентите да качват фотография на документ за идентичност при регистрация на сметка. Отговорът на измамниците – купуват откраднати данни в тъмната мрежа, намират фотоси на жертвите си от обществените медии и отпечатват 3D маски, с цел да основат подправени документи за идентичност с откраднатата информация.
Качеството на направата им може да доближи тези на извънредно реалистична силиконова маска по холивудските стандарти, отбелязва Ален Майер, началник на отдела за идентификация в Plaid Inc, който оказва помощ на банките, финтех компании и други предприятия да се борят с измамите посредством нейния програмен продукт за инспекция на самоличността. Plaid проучва текстурата и прозрачността на кожата, с цел да се увери, че лицето на фотографията наподобява същинско.
Майер, който е посветил кариерата си на откриването на измами, споделя, че най-хубавите измамници, които ръководят схемите си като бизнес, основават програмен продукт за измами и го продават в тъмната мрежа. Цените могат да варират от 20 до няколко хиляди $.
Например, това може да бъде уголемение за Chrome, което да ви помогне да заобиколите пръстовите отпечатъци, или принадлежности, които могат да ви оказват помощ да генерирате синтетични изображения. “
Тъй като измамите стават все по-сложни, въпросът за това кой носи отговорност за загубите става все по-спорен. В Обединеното кралство да вземем за пример жертвите на незнайни транзакции – да речем, някой копира и употребява кредитната ви карта – са предпазени от закона. Но в случай че някой ви подмами да извършите заплащане, отговорността не е толкоз ясна.
През юли най-висшият съд в страната постанови, че двойка, която е била излъгана да изпрати пари в чужбина, не може да държи банката си виновна единствено за това, че е следвала указания. Но законодателите и регулаторите имат независимост на деяние да трансформират разпоредбите: Правителството се готви да изиска от банките да възвръщат разноските на жертвите на измами, когато парите са преведени посредством системата за бързи заплащания, която е предопределена за изпращане на пари сред банките в Обединеното кралство. Политици и бранители на потребителите в други страни упорстват за сходни промени, като настояват, че е безразсъдно да се чака хората да разпознават тези все по-сложни измами.
Банките се притесняват, че смяната на разпоредбите просто ще улесни измамниците. Лидерите на финансовата промишленост по света също се пробват да трансферират част от отговорността върху софтуерните компании.
През юни група от 30 кредитори в Обединеното кралство изпрати писмо до министър-председателя Риши Сунак с искане софтуерните компании да допринесат за възобновяване на средства на жертвите на измами, произлизащи от техните платформи. Правителството декларира, че възнамерява ново законодателство и други ограничения за битка с онлайн финансовите измами.
Банковата промишленост лобира за по-широко систематизиране на отговорността, частично тъй като разноските наподобява се усилват.
Крис Шийн прекарва съвсем три десетилетия в полицията, преди да се причисли към National Australia Bank Ltd., където управлява отдел за следствия и измами. През последната година наел в допълнение към 40 души към екипа си. Когато сумира всички разноски за личен състав и техника, „ ме плаши какъв брой огромна е цифрата “, споделя той.
„ Никога не можеш да решиш казуса изцяло “, споделя той. Това му припомня за времето му в полицията, когато се е борил с наркобанди. По думите му формулировката „ война против опиатите “ е неверна и по тази причина в този момент, борейки с хай-тек измами, е безапелационен, че няма да я повтори.
Никога няма да го дефинирам в тази рамка – на война против измамите – тъй като намекът е, че войната може да се завоюва “, разяснява той. „ А тази война не може да бъде извоювана “, обобщава Шийн.
Разпространението на такива (fake) технологии разтревожи регулаторните органи, полицията и чиновниците от най-високите етажи на финансовата промишленост. Председателят на Федералната комерсиална комисия на Съединени американски щати Лина Хан предизвести през юни, че изкуственият разсъдък (AI) оказва помощ за „ ускорение “ на измамите и прикани за нараснала зоркост от страна на правоприлагащите органи.
Още преди AI да се разгърне до сегашната всеобща приложимост в интернет, светът към този момент се бореше да овладее детонацията на финансовите измами. Само в Съединени американски щати потребителите са изгубили съвсем 8.8 милиарда $ през предходната година, което е растеж от 44% по отношение на 2021 година – и се случва макар рекордните вложения в разкриването и предотвратяването им.
Експертите по финансови закононарушения в огромните банки като Wells Fargo & Co. и Deutsche Bank AG споделят, че задаващият се взрив на измамите е една от най-големите закани пред тяхната промишленост. Освен че заплаща разноските за битка с тях, финансовата промишленост рискува да загуби доверието на опарените клиенти.
Това е конкуренция във въоръжаването “, споделя пред Bloomberg Джеймс Робъртс, който управлява ръководството на измамите в Commonwealth Bank of Australia, най-голямата банка в страната. „ Би било пресилено да се каже, че печелим. “
Историята на измамите сигурно е толкоз остаряла, колкото и историята на търговията и бизнеса. Един от най-ранните известни случаи, преди повече от 2000 години, е обвързван с гръцки морски търговец, който се опитал да потопи кораба си, с цел да получи по непочтен път заплащане по застрахователна лавица. Историята помни безчет сходни опити.
Но тъмната стопанска система на измамите – също като стопанската система въобще – от време на време получава иновационен подтик. Новите технологии понижават разноските за осъществяване на незаконни действия и разрешават на нарушителя да доближи до по-голям брой евентуални жертви. Кой да вземем за пример не е получавал имейл за закъсал арабски шейх, който търси помощ и дава обещание примамлива финансова компенсация в подмяна? Криптовалутите пък доведоха до подем на Понци схемите посредством и на обществените мрежи.
AI взривът предлага освен нови принадлежности, само че и заплашва да с финансови загуби, които могат пъкъл преобърнат животи. По-голямата трудност и това, че към момента е непозната, вършат технологията рискова освен за лековерните консуматори. Жертва може да се окаже всеки.
На този декор е налице – изключително след COVID-19 – взрив на онлайн банкирането по целия свят. Телефоните и преносимите компютри замениха живия контакт в банковите клонове, което е добре пристигнало за клиентите, само че и за измамниците.
„ Започваме да следим доста по-голямо рационализиране на киберпрестъпленията “, споделя Ейми Хоган-Бърни, общоприет управител на политиката за киберсигурност и отбрана в Microsoft Corp.
В международен мащаб разноските за киберпрестъпления, в това число измами, ще доближат 8 трилиона $ тази година – сума, която надвишава икономическата продукция на Япония, третата по величина стопанска система в света. До 2025 година те ще доближат 10.5 трилиона $, съгласно изследователската компания Cybersecurity Ventures.
AI разрушава разпоредбите
Фалшивата молба за пари от непосредствен човек не е нещо ново. Но в този момент родителите са изправени пред рискова иновация – получават позвънявания, които клонират гласа на детето им благодарение на изкуствен интелект, с цел да звучи неразличимо от същинския. Тези трикове, известни като измами със обществено инженерство, нормално имат най-висока степен на успеваемост и генерират едни от най-бързите облаги за измамниците.
Клонирането на гласа на човек става все по-лесно. След като измамникът изтегли фрагмент от аудиоклип от нечия обществена медия или известие на гласова поща – освен това с доста къса дължина, от порядъка на до 30 секунди – той може да употребява елементарно налични онлайн принадлежности за синтез на глас с изкуствен интелект, с цел да сътвори нужното му наличие.
Публичните сметки в обществените мрежи разрешават елементарно да се разбере кои са роднините и приятелите на даден човек, както и къде живее и работи, наред с друга значима информация. Експертите акцентират, че измамниците, които са трансформирали това в бизнес, са подготвени да проявят самообладание и от време на време възнамеряват офанзивите в продължение на месеци.
Според Роб Поуп, шеф на новозеландската държавна организация за киберсигурност CERT NZ, това, което екипите за битка с измамите са забелязали до момента, е единствено въведения към това, което изкуственият разсъдък ще направи допустимо. По думите му AI също по този начин оказва помощ за увеличението на размера на офанзивите и за тяхното персонализиране.
Може да се обзаложим, че през идващите две-три години ще станем очевидци на повече престъпни офанзиви,
генерирани от изкуствен интелект “, споделя Поуп, някогашен заместник-комисар в новозеландската полиция, който е управлявал някои от най-известните престъпни каузи в страната. „ Това, което AI прави, е да форсира равнището на трудност и способността на тези неприятни хора да се трансформират доста бързо. AI ги улеснява. “
За да се добие визия за предизвикването пред банките, Робъртс споделя, че сега Commonwealth Bank of Australia (CBA) наблюдава към 85 милиона събития дневно посредством мрежа от принадлежности за наблюдаване. Това е в страна с население от едвам 26 милиона души.
Индустрията се надява да даде отпор, като осведоми потребителите за рисковете и усили вложенията в защитни технологии. CBA да вземем за пример е внедрила нов програмен продукт, който разрешава засичането на необикновени придвижвания на компютърната мишка на клиентите по време на транзакция – червен байрак за допустима машинация. Всичко съмнително, в това число дестинацията на поръчката и методът на обработка на покупката, може да предизвести чиновниците единствено за 30 милисекунди, което им разрешава да блокират транзакцията.
Според Томас Граф, старши инженер по машинно образование в Deutsche Bank, компютърните инженери неотдавна са преустроили своята система за разкриване на подозрителни транзакции, наречена Black Forest, като са употребявали най-новите модели за обработка на натурален език. Инструментът преглежда критерии за транзакциите, като да вземем за пример размер, валута и дестинация, и автоматизирано научава от масиви от данни кои модели допускат машинация. Моделът може да се употребява както за транзакции на дребно, по този начин и за корпоративни транзакции, и към този момент е разкрил няколко случая, в това число такива, свързани с проведена престъпност, пране на пари и укриване на налози.
Wells Fargo е преработила софтуерните системи, с цел да противодейства на риска от генерирани от изкуствен интелект видеоклипове и гласове. „ Обучаваме софтуера и чиновниците си, с цел да могат да разпознават тези имитации “, споделя Чинтан Мехта, началник на отдела за цифрови технологии на Wells Fargo. Изискването е системата да продължи да се развива, с цел да е в крайник с нарушителите. А откриването на измами, несъмнено, коства пари.
Всеки път, когато бизнесът затегне ограниченията обаче, нарушителите незабавно търсят по какъв начин да ги заобиколят. Например, някои американски банки изискват от клиентите да качват фотография на документ за идентичност при регистрация на сметка. Отговорът на измамниците – купуват откраднати данни в тъмната мрежа, намират фотоси на жертвите си от обществените медии и отпечатват 3D маски, с цел да основат подправени документи за идентичност с откраднатата информация.
Качеството на направата им може да доближи тези на извънредно реалистична силиконова маска по холивудските стандарти, отбелязва Ален Майер, началник на отдела за идентификация в Plaid Inc, който оказва помощ на банките, финтех компании и други предприятия да се борят с измамите посредством нейния програмен продукт за инспекция на самоличността. Plaid проучва текстурата и прозрачността на кожата, с цел да се увери, че лицето на фотографията наподобява същинско.
Майер, който е посветил кариерата си на откриването на измами, споделя, че най-хубавите измамници, които ръководят схемите си като бизнес, основават програмен продукт за измами и го продават в тъмната мрежа. Цените могат да варират от 20 до няколко хиляди $.
Например, това може да бъде уголемение за Chrome, което да ви помогне да заобиколите пръстовите отпечатъци, или принадлежности, които могат да ви оказват помощ да генерирате синтетични изображения. “
Тъй като измамите стават все по-сложни, въпросът за това кой носи отговорност за загубите става все по-спорен. В Обединеното кралство да вземем за пример жертвите на незнайни транзакции – да речем, някой копира и употребява кредитната ви карта – са предпазени от закона. Но в случай че някой ви подмами да извършите заплащане, отговорността не е толкоз ясна.
През юли най-висшият съд в страната постанови, че двойка, която е била излъгана да изпрати пари в чужбина, не може да държи банката си виновна единствено за това, че е следвала указания. Но законодателите и регулаторите имат независимост на деяние да трансформират разпоредбите: Правителството се готви да изиска от банките да възвръщат разноските на жертвите на измами, когато парите са преведени посредством системата за бързи заплащания, която е предопределена за изпращане на пари сред банките в Обединеното кралство. Политици и бранители на потребителите в други страни упорстват за сходни промени, като настояват, че е безразсъдно да се чака хората да разпознават тези все по-сложни измами.
Банките се притесняват, че смяната на разпоредбите просто ще улесни измамниците. Лидерите на финансовата промишленост по света също се пробват да трансферират част от отговорността върху софтуерните компании.
През юни група от 30 кредитори в Обединеното кралство изпрати писмо до министър-председателя Риши Сунак с искане софтуерните компании да допринесат за възобновяване на средства на жертвите на измами, произлизащи от техните платформи. Правителството декларира, че възнамерява ново законодателство и други ограничения за битка с онлайн финансовите измами.
Банковата промишленост лобира за по-широко систематизиране на отговорността, частично тъй като разноските наподобява се усилват.
Крис Шийн прекарва съвсем три десетилетия в полицията, преди да се причисли към National Australia Bank Ltd., където управлява отдел за следствия и измами. През последната година наел в допълнение към 40 души към екипа си. Когато сумира всички разноски за личен състав и техника, „ ме плаши какъв брой огромна е цифрата “, споделя той.
„ Никога не можеш да решиш казуса изцяло “, споделя той. Това му припомня за времето му в полицията, когато се е борил с наркобанди. По думите му формулировката „ война против опиатите “ е неверна и по тази причина в този момент, борейки с хай-тек измами, е безапелационен, че няма да я повтори.
Никога няма да го дефинирам в тази рамка – на война против измамите – тъй като намекът е, че войната може да се завоюва “, разяснява той. „ А тази война не може да бъде извоювана “, обобщава Шийн.
Източник: economic.bg
КОМЕНТАРИ