Google ще поставя невидими водни знаци върху изображения, генерирани от изкуствен интелект
Често се следят признаци, че обещано изображение е генерирано благодарение на изкуствен интелект (ИИ). Понякога основателят му включва тази информация в описанието на изображението, до момента в който в други случаи би трябвало да се следи за нередности, които подсказват за това. Съществуват обаче изображения, основани от ИИ, които в действителност са неразличими от същинските.
В тази връзка през вчерашния ден Гугъл DeepMind, подразделението за изкуствен интелект на софтуерния колос показа SynthID – инструмент, който работи по двустранна технология. Той е кадърен да основава водни знаци на изображения, основани от изкуствен интелект и също по този начин може да ги разпознава.
SynthID работи въз основа на 2 модела за надълбоко образование – за воден знак и за идентифициране. И двата са подготвени дружно върху разнороден набор от изображения. Водните знаци върху изображенията от дълго време се употребяват от фотографите и онлайн фирмите за образни медии, с цел да се предотврати нарушаването на авторските права. Тези водни знаци могат елементарно да бъдат отстранени от изображението, само че водните знаци на SynthID не са елементарни.
Те са „ гранулирани “ и вградени в пикселите на изображението. Човек не може да разграничи изображенията с водни знаци от тези без водни знаци, тъй като те не се виждат с просто око, само че могат да бъдат открити благодарение на SynthID. Човек може да прибавя филтри, да трансформира цветовата комбинация или да прави компресии със загуба на информация, само че това няма да повлияе или да размие водния знак.
Понастоящем SynthID е пуснат като бета версия единствено за клиентите на Vertex AI, които употребяват ИИ генератора на Гугъл от текст към изображения, наименуван Imagen. Vertex AI е единна платформа за изкуствен интелект на Гугъл, която предлага всички облачни услуги на Гугъл „ под един покрив “.
Пълното пускане на SynthID – скоро
Гугъл DeepMind изрично предизвести, че SynthID не е безотказен инструмент против операции на изображения, само че дава опция на хората и организациите да работят отговорно със наличие, генерирано от изкуствен интелект.
В блога на Гугъл не се загатва дали SynthID като независим инструмент има способността да разпознава изображения, генерирани от ИИ, които нямат негов дигитален воден знак. Той обаче може да разпознава изображения, генерирани от ИИ, които са основани благодарение на Imagen и в случай че основателят им е приложил цифровия воден знак.
Гугъл DeepMind също по този начин разгласи, че възнамерява да разшири мащаба на технологията, с цел да може да се употребява за идентифициране на текст, аудио и видео, генерирани от изкуствен интелект.
С повишаването на броя на deepfake-овете и инструментите, които дават опция за основаването им, в интернет се появиха изображения на папа Франциск, облечен в голямо яке на Balenciaga. Имаше и изображение, на което Илън Мъск целува робот. И двете изглеждаха реалистично. Разбира се, и двете бяха плод на нечие въображение и резултат от потреблението на инструмент с ИИ за основаване на изображения. Можете да ги видите по-долу:
