Google Reimagine: Новият ИИ редактор, който създава изненадващо свръхреалистични изображения
Новият инструмент Reimagine на Гугъл, вграден в телефоните Pixel 9, провокира съществени опасения поради способността му да основава смущаващи и даже шокиращи обекти в фотоси. Тестовете демонстрираха, че функционалността може да се употребява за прибавяне на детайли като последствия от пътнотранспортно произшествие, домове, разрушени вследствие на война или злополучие, и даже тела под окървавени чаршафи към фотоси. Това повдига въпроси дали вградените в редактора защитни ограничения против злоупотреби са задоволителни.
Инструментът Reimagine е нова форма на Magic Editor, който разрешава на потребителите да изтриват елементи от сцена или да трансформират осветлението на фотографията. Новата функционалност обаче е отишла доста по-далеч, като разрешава на потребителите да генерират всеки обект в фрагмента посредством текстово задание. Резултатите от тези операции могат да наподобяват доста реалистично, което е извънредно притеснително за специалистите.
Журналистите от The Verge, тествали Reimagine на Pixel 9 и 9 Pro, откриха, че е допустимо да се заобиколят някои от рестриктивните мерки, вградени в системата, като просто се изберат верните думи. Това им разреши да основат изображения, които да вземем за пример демонстрират трупове или последствия от детонации. Според специалисти сходни функционалности могат да бъдат употребявани от хакерите за разпространяване на подправена информация.
Гугъл твърди, че инструментите като Reimagine са предопределени за креативна приложимост и компанията се стреми да ограничи основаването на обидно наличие. Говорителят на Гугъл Алекс Морикони съобщи, че компанията интензивно работи за възстановяване на защитните си механизми, само че призна, че от време на време тези механизми могат да бъдат заобиколени.
Особена угриженост буди неналичието на явно обозначаване на такива изображения като основани благодарение на изкуствен интелект. В някои случаи таговете, указващи редактиране от изкуствен интелект, могат елементарно да бъдат отстранени, което затруднява разпознаването на фалшификатите. Гугъл употребява технологията SynthID, с цел да маркира изображенията, основани напълно от изкуствен интелект, само че изображенията, редактирани посредством Magic Editor, не получават такова маркиране.
Хората и преди са редактирали фотоси за основаване на имитации, само че за това се изискваха умения и профилиран програмен продукт. Сега, с помощта на принадлежности като Reimagine, е допустимо да се сътвори безапелационен фалшификат единствено за няколко секунди, което усилва риска от разпространяване на дезинформация.
Липсата на надеждни способи за идентифициране на такива изображения усилва опасенията за потреблението им за недобросъвестни цели. Докато преди основаването и разпространяването на подправени фотоси изискваше време и старания, в този момент това става по-лесно и по-бързо, което повдига въпроса за нуждата от нови подходи за инспекция на достоверността на изображенията. Но по този начин или другояче ИИ технологиите се развиват доста бързо и някак внезапно навлизат в ежедневния живот.
