Анатомия на дълбокия фейк: Как се създават събития, които не са се случвали
Представете си, че е октомври 2024 година
Само седмица преди изборите за президент на Съединени американски щати на 5 ноември, видеозапис разкрива загадка среща сред Джо Байдън и Володимир Зеленски.
Американският и украинският президент се договарят неотложно да предизвикват присъединението на Украйна към НАТО по силата на " специфичен протокол за изключително участие " и да се приготвят за удар с нуклеарно оръжие против Русия.
Светът се оказва на прага на Армагедон.
Какво следва?
Журналистите ще впрегнат всичките си старания да потвърдят, че подобен протокол не съществува.
По-внимателните консуматори на обществените мрежи ще виждат странни моменти в фрагментите, наподобяващи видео игра.
По-лековерните ще изпаднат в суматоха.
Когато настъпи денят на изборите, гласовете на всички ще бъдат повлияни от въпросното видео, без значение дали си дават сметка или не, че са манипулирани от дийпфейк – надълбоко подправена обстановка, която в никакъв случай не се е случвала.
Ситуационните фейкове са идващия стадий на технологиите, които имат силата да прекатурват усещанията на аудиторията за действителността, изяснява в материал по тематиката Fastcompany.
Учени от Технологичния институт в Рочестър, Университета на Мисисипи и Държавния университет в Мичиган основават, в който изследват по какъв начин се основават ситуационните имитации и какви ограничения могат да подхващат жителите, с цел да се защитят от тях.
Дълбокият фалшификат се основава, когато някой употребява инструмент за изкуствен интелект, с цел да манипулира или генерира лице, глас или - с появяването на огромни езикови модели като ChatGPT, всекидневен език. Те могат да се комбинират, с цел да се образуват " дълбоки имитации ".
Основната концепция и технология на ситуационния фалшив са същите като при всеки различен фалшив, само че с по-смела упоритост: да се манипулира действително събитие или да се измисли такова.
Примери за това са изображенията на ареста на Доналд Тръмп с белезници и прегръдката му с Антъни Фаучи, като нито едно от двете не се е случило. Снимката на прегръдката беше разпространявана от акаунт в Twitter, обвързван с президентската акция на противника на Тръмп Рон ДеСантис. Нападателна реклама, ориентирана против акцията на Джо Байдън през 2024 година, беше оповестена от Националния комитет на Републиканската партия, направена напълно с изкуствен интелект.
В плана DeFake проучванията откриват, че дълбоките имитации, в това число обстановките, нормално се основават посредством някаква композиция на една медия с друга; потребление на видеоклип за анимиране на изображение или смяна на различен видеоклип, наречено кукловодство; предизвикателство на съществуването на медия, нормално благодарение на генеративен AI; или някаква композиция от тези техники.
Много от ситуационните дълбоки имитации се вършат с почтени цели. Например списание Infinite Odyssey създава подправени фрагменти от филми, които в никакъв случай не са били създадени или не биха могли да съществуват.
Но даже и почтените дълбоки имитации дават мотив за размисъл, както в тази ситуация с съвсем правдоподобните подправени фотоси, изобразяващи кацането на Аполо на Луната като кино продукция.
Сега се поставете на мястото на човек, който се пробва да повлияе на идните избори. Какви са вероятните обстановки, които бихте желали да създадете?
Като начало, ще е значимо дали желаете да наклоните вота към или от избран резултат. Може би бихте изобразили претендент, който работи героичен, като издърпва пешеходец от пътя на хвърчаща кола или, противоположното, който прави нещо обидно или незаконно.
Ключово значение би имала целевата публика.
Вместо да се стремите към общия електорат или партийната база, може да се насочите към феновете на тайни теории в основни изборни региони.
Бихте могли да визиите претендента или членовете на неговото семейство като участници в демонски обред, да вземем за пример, а за какво не в загадка среща с извънземно.
Ако имате упоритостта и опциите за това, можете даже да се опитате да фалшифицирате самите избори.
Миналия месец съветски телевизионни и радиостанции са хакнати и стартират да излъчват заповед за цялостна военна готовност от deepfake на Владимир Путин.
Макар че това би било по-трудно да се направи на избори в Съединени американски щати, по принцип всяка новинарска работа може да бъде хакната, с цел да излъчи дълбокофалшиви вести, в които водещите да афишират неверни резултати или претендент да се признае за надвит.
Съществуват разнообразни софтуерни и психически способи за разкриване и отбрана от дълбоки фалшификации.
От софтуерна позиция всички имитации съдържат някои доказателства за същинската си природа. Някои могат да бъдат видяни с просто око - да вземем за пример прекомерно гладка кожа, необичайно осветяване или архитектура; до момента в който други могат да бъдат открити единствено от изкуствен интелект, който ловува дълбоки имитации.
Детектор на плана DeFake употребява изкуствен интелект за хващане на признаците на дълбоките имитации и се пробва да го приготви в точния момент за изборите в Съединени американски щати през 2024 година
Но даже и да не може да бъде внедрен задоволително мощен детектор за дълбоки фалшификации до деня на вота, има психически принадлежности, които гласоподавателите могат да употребяват, с цел да разпознаят дълбоките фалшификации: фонови знания, любознание и здравословен песимизъм, допълват от Fastcompany.
Ако се сблъскате с медийно наличие за човек, място или събитие, което ви се коства нехарактерно, доверете се на предварителните си знания.
Например в неотдавнашна имитация на пожар в Пентагона показаната постройка наподобява по-скоро квадратна, в сравнение с петоъгълна, което може да е предизвестие.
Никога не се тормозете да научите повече от надеждни източници, като тествани от обстоятелствата новинарски репортажи, рецензирани университетски публикации или изявленията с одобрени специалисти.
Освен това имайте поради, че дълбоките имитации могат да се употребяват, с цел да манипулират тъкмо това, в което сте склонни да вярвате за даден човек, място или събитие. Един от най-хубавите способи да се справите с това е просто да сте наясно с предразсъдъците си и да се отнасяте внимателно към всяко медийно наличие, което наподобява ги удостоверява.
Дори и да стане допустимо основаването на съвършени дълбоки имитации, достоверността евентуално ще остане тяхната слабост. Така че, със или без софтуерно решение, жителите към момента имат силата да защитят основни събития като президентските избори от въздействието на измислената действителност.
Само седмица преди изборите за президент на Съединени американски щати на 5 ноември, видеозапис разкрива загадка среща сред Джо Байдън и Володимир Зеленски.
Американският и украинският президент се договарят неотложно да предизвикват присъединението на Украйна към НАТО по силата на " специфичен протокол за изключително участие " и да се приготвят за удар с нуклеарно оръжие против Русия.
Светът се оказва на прага на Армагедон.
Какво следва?
Журналистите ще впрегнат всичките си старания да потвърдят, че подобен протокол не съществува.
По-внимателните консуматори на обществените мрежи ще виждат странни моменти в фрагментите, наподобяващи видео игра.
По-лековерните ще изпаднат в суматоха.
Когато настъпи денят на изборите, гласовете на всички ще бъдат повлияни от въпросното видео, без значение дали си дават сметка или не, че са манипулирани от дийпфейк – надълбоко подправена обстановка, която в никакъв случай не се е случвала.
Ситуационните фейкове са идващия стадий на технологиите, които имат силата да прекатурват усещанията на аудиторията за действителността, изяснява в материал по тематиката Fastcompany.
Учени от Технологичния институт в Рочестър, Университета на Мисисипи и Държавния университет в Мичиган основават, в който изследват по какъв начин се основават ситуационните имитации и какви ограничения могат да подхващат жителите, с цел да се защитят от тях.
Дълбокият фалшификат се основава, когато някой употребява инструмент за изкуствен интелект, с цел да манипулира или генерира лице, глас или - с появяването на огромни езикови модели като ChatGPT, всекидневен език. Те могат да се комбинират, с цел да се образуват " дълбоки имитации ".
Основната концепция и технология на ситуационния фалшив са същите като при всеки различен фалшив, само че с по-смела упоритост: да се манипулира действително събитие или да се измисли такова.
Примери за това са изображенията на ареста на Доналд Тръмп с белезници и прегръдката му с Антъни Фаучи, като нито едно от двете не се е случило. Снимката на прегръдката беше разпространявана от акаунт в Twitter, обвързван с президентската акция на противника на Тръмп Рон ДеСантис. Нападателна реклама, ориентирана против акцията на Джо Байдън през 2024 година, беше оповестена от Националния комитет на Републиканската партия, направена напълно с изкуствен интелект.
В плана DeFake проучванията откриват, че дълбоките имитации, в това число обстановките, нормално се основават посредством някаква композиция на една медия с друга; потребление на видеоклип за анимиране на изображение или смяна на различен видеоклип, наречено кукловодство; предизвикателство на съществуването на медия, нормално благодарение на генеративен AI; или някаква композиция от тези техники.
Много от ситуационните дълбоки имитации се вършат с почтени цели. Например списание Infinite Odyssey създава подправени фрагменти от филми, които в никакъв случай не са били създадени или не биха могли да съществуват.
Но даже и почтените дълбоки имитации дават мотив за размисъл, както в тази ситуация с съвсем правдоподобните подправени фотоси, изобразяващи кацането на Аполо на Луната като кино продукция.
Сега се поставете на мястото на човек, който се пробва да повлияе на идните избори. Какви са вероятните обстановки, които бихте желали да създадете?
Като начало, ще е значимо дали желаете да наклоните вота към или от избран резултат. Може би бихте изобразили претендент, който работи героичен, като издърпва пешеходец от пътя на хвърчаща кола или, противоположното, който прави нещо обидно или незаконно.
Ключово значение би имала целевата публика.
Вместо да се стремите към общия електорат или партийната база, може да се насочите към феновете на тайни теории в основни изборни региони.
Бихте могли да визиите претендента или членовете на неговото семейство като участници в демонски обред, да вземем за пример, а за какво не в загадка среща с извънземно.
Ако имате упоритостта и опциите за това, можете даже да се опитате да фалшифицирате самите избори.
Миналия месец съветски телевизионни и радиостанции са хакнати и стартират да излъчват заповед за цялостна военна готовност от deepfake на Владимир Путин.
Макар че това би било по-трудно да се направи на избори в Съединени американски щати, по принцип всяка новинарска работа може да бъде хакната, с цел да излъчи дълбокофалшиви вести, в които водещите да афишират неверни резултати или претендент да се признае за надвит.
Съществуват разнообразни софтуерни и психически способи за разкриване и отбрана от дълбоки фалшификации.
От софтуерна позиция всички имитации съдържат някои доказателства за същинската си природа. Някои могат да бъдат видяни с просто око - да вземем за пример прекомерно гладка кожа, необичайно осветяване или архитектура; до момента в който други могат да бъдат открити единствено от изкуствен интелект, който ловува дълбоки имитации.
Детектор на плана DeFake употребява изкуствен интелект за хващане на признаците на дълбоките имитации и се пробва да го приготви в точния момент за изборите в Съединени американски щати през 2024 година
Но даже и да не може да бъде внедрен задоволително мощен детектор за дълбоки фалшификации до деня на вота, има психически принадлежности, които гласоподавателите могат да употребяват, с цел да разпознаят дълбоките фалшификации: фонови знания, любознание и здравословен песимизъм, допълват от Fastcompany.
Ако се сблъскате с медийно наличие за човек, място или събитие, което ви се коства нехарактерно, доверете се на предварителните си знания.
Например в неотдавнашна имитация на пожар в Пентагона показаната постройка наподобява по-скоро квадратна, в сравнение с петоъгълна, което може да е предизвестие.
Никога не се тормозете да научите повече от надеждни източници, като тествани от обстоятелствата новинарски репортажи, рецензирани университетски публикации или изявленията с одобрени специалисти.
Освен това имайте поради, че дълбоките имитации могат да се употребяват, с цел да манипулират тъкмо това, в което сте склонни да вярвате за даден човек, място или събитие. Един от най-хубавите способи да се справите с това е просто да сте наясно с предразсъдъците си и да се отнасяте внимателно към всяко медийно наличие, което наподобява ги удостоверява.
Дори и да стане допустимо основаването на съвършени дълбоки имитации, достоверността евентуално ще остане тяхната слабост. Така че, със или без софтуерно решение, жителите към момента имат силата да защитят основни събития като президентските избори от въздействието на измислената действителност.
Източник: profit.bg
КОМЕНТАРИ