Възможно ли е да научим хората да разпознават лицата, генерирани от изкуствен интелект?
Учените са оптимисти, че с времето ще ставаме все по-добри в " играта на котка и мишка "
Служител във финансов отдел в Хонконг се причислява към видеоконференция на инженерната компания Arup, където се разисква конфиденциална договорка. Всичко изглеждало обикновено, нищо съмнително.
Измамата се разкрила едвам след изпращането на превод в размер на 25 милиона $. Останалите участници в диалога, в това число финансовият шеф, разпоредил превода, се оказали дийпфейкове (deepfakes), генерирани от изкуствен интелект (ИИ), написа Би Би Си.
Това се случва през 2024 година, а лицата, основани от ИИ, стават все по-трудни за разграничаване от същинските. През същата година консултантската компания Deloitte разгласява прогноза, съгласно която до идната година вредите от измами с потребление на генеративен ИИ единствено в Съединени американски щати ще доближат 40 милиарда $.
Това е една от аргументите, заради които доцент Ейми Дауъл, психолог от Австралийския народен университет (ANU), взема решение да разбере дали е допустимо да научим всички нас да разпознаваме по-добре лицата, основани от ИИ.
" В момента сме извънредно слаби в разпознаването на лица, генерирани от ИИ ", споделя тя. Изследванията демонстрират, че ги разпознаваме не по-добре (а от време на време и по-зле), в сравнение с в случай че просто налучкваме с късмет 50 на 50.
Твърде " осреднено " лице
Трудностите при разпознаването на лица, основани от изкуствен интелект, водят до последици, които засягат всички ни — " било то измами в интернет, уеб сайтове за запознанства или опити за хакване на банковите ни сметки ", споделя Дауъл.
В проучване, оповестено през юни в списание PNAS, Дауъл и нейни сътрудници от Австралия, Канада и Шотландия тестват нов метод за образование на хора.
С усъвършенстването на технологиите актуалните ИИ системи значително поправят очевидните неточности. Според Дауъл измамниците надали ще употребяват изображения, в които се виждат недостатъци.
Вместо да учат хората да търсят присъщи елементи, като несъответстващи обеци или изкривени черти на лицето, откривателите са ги обучили да вършат инстинктивни преценки за всяко лице като цяло.
" Един от проблемите е, че чакаме лицата, основани от ИИ, да бъдат странни, и това се основава на предишния ни опит. Но в реалност точно хората не са идеално симетрични и са малко необикновени, тъй че обстановката се промени ", споделя Дауъл.
Предишно проучване на лабораторията на Дауъл сподели, че лицата, основани от ИИ, по-често се възприемат като човешки, в сравнение с действителните човешки лица. Изследователите назовават този феномен " ИИ хиперреализъм ".
Алгоритмите на ИИ се стремят да основат средноаритметично от десетки хиляди лица, върху които се образоват. Затова, съгласно изследователката, тези " хиперосреднени " лица наподобяват " малко по-достойни за доверие, малко по-привлекателни и по-познати ".
В извършеното проучване са обсъждани единствено бели генерирани лица. Изкуственият разсъдък нормално се образова върху непропорционално огромен брой бели лица, по тази причина те може би наподобяват по-реалистично спрямо другите.
Как минава тренингът
В новото проучване са взели присъединяване 45 възрастни. В един от тестванията им посочили няколко серии от три лица и ги помолили да изберат това, което е основано от ИИ. Средно верният отговор бил даван в 41% от случаите.
След това участниците минали образование, което траяло към час. Показали им към 100 лица (половината действителни, половината генерирани) и ги помолили да оценят всяко по шест характерности: уникалност, елементарно запомняне, експресивност, симетричност, пропорция и прелест.
Според Дауъл човешките лица нормално се правят оценка като по-уникални, запаметяващи се и изразителни, а лицата, основани от ИИ — като по-симетрични, пропорционални и привлекателни.
" Ние даже не им споделяме, че ИИ-лицата са по-симетрични ", споделя тя. " Те просто правят оценка тяхната симетрия. Казваме им дали е човек или ИИ генерация и с помощта на това те получават чувството, че точно по това се разграничават от човешките лица. "
След образованието междинната акуратност на отговорите на участниците се нараснала до 81%.
Като продължение на това проучване, същият тренинг е извършен и с група доброволци в Канада. Според Дауъл канадските сътрудници са анализирали данните настрана и са разкрили същите обилни усъвършенствания в резултатите.
Нашите естествени инстинкти
Алехандро Естудильо, лекар по логика на психиката, който учи образното усещане в университета Борнмът във Англия (не е взел участие в изследването), се изненадал от резултатите: те противоречали на методите, употребявани от други откриватели.
Според него хубостта на новия метод е в това, че той употребява нашите естествени инстинкти.
" Хората не обработват лицата, фокусирайки се върху обособени черти. Вместо това използваме по този начин наречената холистична (цялостна) обработка ", споделя той пред Би Би Си, " когато сплотяваме всички черти в едно цяло, което можем дейно да разпознаем ".
Когато оценяваме уникалността или симетрията на лицето, ние не се фокусираме върху съответна линия, а върху цялото лице. " Никой не се беше сетил, че може би най-хубавият метод е да се изиска от участниците да възприемат лицата по натурален метод, както го вършат в всекидневието ", споделя Естудильо.
Игра на котка и мишка
Въпреки това проучването има редица ангажименти. Обучението е посочило висока успеваемост за един от най-реалистичните генератори (StyleGAN3), само че би трябвало да бъде тествано и върху други модели на ИИ.
" Всички наши участници бяха младежи, тъй че пораждат значими въпроси дали това образование ще работи, да речем, за деца и възрастни хора, които са изключително уязвими за измами ", споделя Дауъл.
Истинският проблем съгласно откривателите е, че хората в този момент се състезават с непрекъснато усъвършенстващи се системи. Съществуват автоматизирани принадлежности за разкриване на ИИ наличие, само че опциите им са лимитирани. Те могат да работят единствено с избрани артикули и изпитват компликации при нови модели или в случай че изображението е редактирано.
Затова е извънредно значимо хората да останат на предната линия в разпознаването на дийпфейкове.
" Това е игра на котка и мишка. Като компютърните вируси — те непрекъснато се развиват и ние би трябвало непрекъснато да бягаме, с цел да не изоставаме от тях ", споделя Дауъл.
Все отново тя има вяра, че резултатите дават " съществени учредения за оптимизъм ". В бъдеще ще може да се създаде сходен тренинг, който да оказва помощ на хората да разпознават освен статични лица, само че и гласове и видеоклипове, основани от ИИ. Така ще бъдем по-добре готови за среща с дийпфейкове.
Служител във финансов отдел в Хонконг се причислява към видеоконференция на инженерната компания Arup, където се разисква конфиденциална договорка. Всичко изглеждало обикновено, нищо съмнително.
Измамата се разкрила едвам след изпращането на превод в размер на 25 милиона $. Останалите участници в диалога, в това число финансовият шеф, разпоредил превода, се оказали дийпфейкове (deepfakes), генерирани от изкуствен интелект (ИИ), написа Би Би Си.
Това се случва през 2024 година, а лицата, основани от ИИ, стават все по-трудни за разграничаване от същинските. През същата година консултантската компания Deloitte разгласява прогноза, съгласно която до идната година вредите от измами с потребление на генеративен ИИ единствено в Съединени американски щати ще доближат 40 милиарда $.
Това е една от аргументите, заради които доцент Ейми Дауъл, психолог от Австралийския народен университет (ANU), взема решение да разбере дали е допустимо да научим всички нас да разпознаваме по-добре лицата, основани от ИИ.
" В момента сме извънредно слаби в разпознаването на лица, генерирани от ИИ ", споделя тя. Изследванията демонстрират, че ги разпознаваме не по-добре (а от време на време и по-зле), в сравнение с в случай че просто налучкваме с късмет 50 на 50.
Твърде " осреднено " лице
Трудностите при разпознаването на лица, основани от изкуствен интелект, водят до последици, които засягат всички ни — " било то измами в интернет, уеб сайтове за запознанства или опити за хакване на банковите ни сметки ", споделя Дауъл.
В проучване, оповестено през юни в списание PNAS, Дауъл и нейни сътрудници от Австралия, Канада и Шотландия тестват нов метод за образование на хора.
С усъвършенстването на технологиите актуалните ИИ системи значително поправят очевидните неточности. Според Дауъл измамниците надали ще употребяват изображения, в които се виждат недостатъци.
Вместо да учат хората да търсят присъщи елементи, като несъответстващи обеци или изкривени черти на лицето, откривателите са ги обучили да вършат инстинктивни преценки за всяко лице като цяло.
" Един от проблемите е, че чакаме лицата, основани от ИИ, да бъдат странни, и това се основава на предишния ни опит. Но в реалност точно хората не са идеално симетрични и са малко необикновени, тъй че обстановката се промени ", споделя Дауъл.
Предишно проучване на лабораторията на Дауъл сподели, че лицата, основани от ИИ, по-често се възприемат като човешки, в сравнение с действителните човешки лица. Изследователите назовават този феномен " ИИ хиперреализъм ".
Алгоритмите на ИИ се стремят да основат средноаритметично от десетки хиляди лица, върху които се образоват. Затова, съгласно изследователката, тези " хиперосреднени " лица наподобяват " малко по-достойни за доверие, малко по-привлекателни и по-познати ".
В извършеното проучване са обсъждани единствено бели генерирани лица. Изкуственият разсъдък нормално се образова върху непропорционално огромен брой бели лица, по тази причина те може би наподобяват по-реалистично спрямо другите.
Как минава тренингът
В новото проучване са взели присъединяване 45 възрастни. В един от тестванията им посочили няколко серии от три лица и ги помолили да изберат това, което е основано от ИИ. Средно верният отговор бил даван в 41% от случаите.
След това участниците минали образование, което траяло към час. Показали им към 100 лица (половината действителни, половината генерирани) и ги помолили да оценят всяко по шест характерности: уникалност, елементарно запомняне, експресивност, симетричност, пропорция и прелест.
Според Дауъл човешките лица нормално се правят оценка като по-уникални, запаметяващи се и изразителни, а лицата, основани от ИИ — като по-симетрични, пропорционални и привлекателни.
" Ние даже не им споделяме, че ИИ-лицата са по-симетрични ", споделя тя. " Те просто правят оценка тяхната симетрия. Казваме им дали е човек или ИИ генерация и с помощта на това те получават чувството, че точно по това се разграничават от човешките лица. "
След образованието междинната акуратност на отговорите на участниците се нараснала до 81%.
Като продължение на това проучване, същият тренинг е извършен и с група доброволци в Канада. Според Дауъл канадските сътрудници са анализирали данните настрана и са разкрили същите обилни усъвършенствания в резултатите.
Нашите естествени инстинкти
Алехандро Естудильо, лекар по логика на психиката, който учи образното усещане в университета Борнмът във Англия (не е взел участие в изследването), се изненадал от резултатите: те противоречали на методите, употребявани от други откриватели.
Според него хубостта на новия метод е в това, че той употребява нашите естествени инстинкти.
" Хората не обработват лицата, фокусирайки се върху обособени черти. Вместо това използваме по този начин наречената холистична (цялостна) обработка ", споделя той пред Би Би Си, " когато сплотяваме всички черти в едно цяло, което можем дейно да разпознаем ".
Когато оценяваме уникалността или симетрията на лицето, ние не се фокусираме върху съответна линия, а върху цялото лице. " Никой не се беше сетил, че може би най-хубавият метод е да се изиска от участниците да възприемат лицата по натурален метод, както го вършат в всекидневието ", споделя Естудильо.
Игра на котка и мишка
Въпреки това проучването има редица ангажименти. Обучението е посочило висока успеваемост за един от най-реалистичните генератори (StyleGAN3), само че би трябвало да бъде тествано и върху други модели на ИИ.
" Всички наши участници бяха младежи, тъй че пораждат значими въпроси дали това образование ще работи, да речем, за деца и възрастни хора, които са изключително уязвими за измами ", споделя Дауъл.
Истинският проблем съгласно откривателите е, че хората в този момент се състезават с непрекъснато усъвършенстващи се системи. Съществуват автоматизирани принадлежности за разкриване на ИИ наличие, само че опциите им са лимитирани. Те могат да работят единствено с избрани артикули и изпитват компликации при нови модели или в случай че изображението е редактирано.
Затова е извънредно значимо хората да останат на предната линия в разпознаването на дийпфейкове.
" Това е игра на котка и мишка. Като компютърните вируси — те непрекъснато се развиват и ние би трябвало непрекъснато да бягаме, с цел да не изоставаме от тях ", споделя Дауъл.
Все отново тя има вяра, че резултатите дават " съществени учредения за оптимизъм ". В бъдеще ще може да се създаде сходен тренинг, който да оказва помощ на хората да разпознават освен статични лица, само че и гласове и видеоклипове, основани от ИИ. Така ще бъдем по-добре готови за среща с дийпфейкове.
Източник: dnesplus.bg
КОМЕНТАРИ