Можете ли да различите фалшиво изображение от истинско? Тест на Microsoft ще ви подложи на изпитание
В тест с 287 000 изображения хората са дали отговор вярно единствено в 63% от случаите...
Емил Василев преди 14 секунди 0 СподелиНай-четени
IT НовиниЕмил Василев - 18:54 | 28.07.2025Аерофлот е употребила стар Windows XP, а шефът на компанията не е сменял паролата си от 3 години
ИгриМетоди Дамянов - 19:58 | 28.07.2025Петицията против дейностите на Mastercard и Visa има към този момент над 150 000 подписа
IT НовиниСветослав Димитров - 17:49 | 23.07.2025Потенциално приспособен за живот свят: на повърхността на спътника на Юпитер царува “Хаос “
Емил Василевhttps://www.kaldata.com/Когато се появиха първите генератори на изображения с изкуствен интелект, дезинформацията незабавно се трансформира в главен проблем. Въпреки че многократното ревизиране на такива изображения може да построи известна резистентност, неотдавнашно изследване на Microsoft демонстрира, че някои типове същински и подправени изображения към момента могат да заблудят съвсем всеки.
Проучването откри, че хората могат тъкмо да разграничат същинските изображения от тези, генерирани от AI в към 63% от случаите. За разлика от това, съгласно известията инструментът за разкриване на AI, който е в развой на създаване от Microsoft, реализира 95% успеваемост.
За да изследва по-подробно този въпрос, Microsoft сътвори онлайн тест, включващ 15 случайно определени изображения от библиотеки със стокови изображения и такива, генерирани от AI. В изследването са оценени 287 000 изображения от 12 500 участници от целия свят.
Участниците са били най-успешни при разпознаването на изображения на хора, генерирани от AI с 65% акуратност. Въпреки това най-убедителните подправени изображения са били GAN дийпфейковете, които демонстрират единствено лицеви профили или са употребявали inpainting, с цел да вметнат детайли, генерирани от AI в действителни фотоси.
Всички тези изображения са същински Въпреки че е една от най-старите форми на изображения, генерирани от изкуствен интелект, GAN дийпфейковете (Generative Adversarial Networks) към момента заблуждават към 55% от феновете. Това частично се дължи на обстоятелството, че те съдържат по-малко елементи, които генераторите на изображения нормално се затрудняват да възпроизведат. По подигравка на ориста приликата им с нискокачествени фотоси постоянно ги прави по-достоверни.
Изследователите считат, че възходящата известност на AI генераторите на изображения е направила феновете по-запознати с прекомерно гладката хармония, която тези принадлежности постоянно основават. Подканянето на изкуствения разсъдък да имитира достоверна снимка може да помогне за понижаване на този резултат.
Всички тези изображения са генерирани от Flux Pro AI Някои консуматори откриха, че включването на общи имена на файлове с изображения в подканите води до по-реалистични резултати. Въпреки това множеството от тези изображения към момента наподобяват на полирани фотоси със студийно качество, които могат да наподобяват неуместни в инцидентни или откровени контексти. За разлика от това, няколко образеца от изследването на Microsoft демонстрират, че Flux Pro AI може да възпроизвежда любителска снимка, като основава изображения, които наподобяват по този начин, като че ли са направени с типична камера на смарт телефон.
Участниците са имали малко по-малък триумф при идентифицирането на генерирани от AI изображения на естествени или градски пейзажи, които не включват хора.
Например двете подправени изображения с най-ниска степен на идентифициране (21% и 23%) са били генерирани благодарение на подсказки, които включват действителни фотоси, с цел да направляват композицията. Най-убедителните изображения, генерирани от AI също по този начин поддържаха равнища на звук, бляскавост и ентропия, сходни на тези, които се срещат в действителните фотоси.
Изненадващо, трите изображения с най-ниски равнища на идентификация като цяло: 12%, 14% и 18%, в действителност бяха същински, които участниците неправилно дефинираха като подправени. И на трите бяха изобразени американски военни в необикновена конюнктура с извънредно осветяване, цветове и скорости на пандиза.
От Microsoft означават, че разбирането на това кои подкани е най-вероятно да заблудят феновете може да направи бъдещата дезинформация още по-убедителна. Компанията акцентира изследването като увещание за значимостта на ясното етикетиране на изображенията, генерирани от изкуствен интелект.
