В опит да помогне за предотвратяване на разпространението на дезинформация, Google във вторник разкри невидим, постоянен воден знак върху изображения, който ще ги идентифицира като компютърно генерирани.
Технологията, наречена SynthID, вгражда водния знак директно в изображения, създадени от Imagen, един от най-новите генератори на текст към изображение на Google. Етикетът, генериран от AI, остава независимо от модификации като добавени филтри или променени цветове.
Инструментът SynthID може също да сканира входящи изображения и да идентифицира вероятността те да са направени от Imagen чрез сканиране за воден знак с три нива на сигурност: открити, неоткрити и евентуално открити.
„Въпреки че тази технология не е съвършена, нашето вътрешно тестване показва, че е точна срещу много често срещани манипулации на изображения“, пише Google в публикация в блог във вторник.
Бета версия на SynthID вече е достъпна за някои клиенти на Vertex AI, генеративната AI платформа на Google за разработчици. Компанията казва, че SynthID, създаден от отдела DeepMind на Google в партньорство с Google Cloud, ще продължи да се развива и може да се разшири в други продукти на Google или трети страни.
Deepfakes и променени снимки
Тъй като deepfake и редактираните изображения и видеоклипове стават все по-реалистични, технологичните компании се борят да намерят надежден начин за идентифициране и маркиране на манипулирано съдържание. През последните месеци генерирано от AI изображение на папа Франциск в пухено яке стана вирусно и генерирани от AI изображения на бившия президент Доналд Тръмп, който е арестуван, бяха широко разпространени, преди той да бъде обвинен.
Вера Йоурова, вицепрезидент на Европейската комисия, призова подписалите Кодекса на ЕС относно дезинформацията – списък, който включва Google, Meta, Microsoft и TikTok – да „въвеждат технология за разпознаване на такова съдържание и ясно да го етикетират на потребителите " през юни.
Lumina Images/Tetra images RF/Getty Images С обявяването на SynthID Google се присъединява към нарастващ брой стартиращи фирми и големи технологични компании, които се опитват да намерят решения. Някои от тези компании носят имена като Truepic и Reality Defender, които говорят за потенциалните залози на усилията: защита на самото ни усещане за това какво е реално и какво не.
Проследяване на произхода на съдържанието
Коалицията за произход и автентичност на съдържанието (C2PA), консорциум, подкрепян от Adobe, е лидер в усилията за дигитален воден знак, докато Google до голяма степен възприема свой собствен подход.
През май Google обяви инструмент, наречен About this image, предлагащ на потребителите възможността да видят кога изображения, открити на неговия сайт, са били първоначално индексирани от Google, къде изображенията може да са се появили за първи път и къде другаде могат да бъдат намерени онлайн.
Технологичната компания също обяви, че всяко изображение, генерирано от AI, създадено от Google, ще носи маркиране в оригиналния файл, за да „даде контекст“, ако изображението бъде намерено на друг уебсайт или платформа.
Но тъй като AI технологията се развива по-бързо, отколкото хората могат да се справят, не е ясно дали тези технически решения ще могат да се справят напълно с проблема. OpenAI, компанията, която стои зад Dall-E и ChatGPT, призна по-рано тази година, че нейните собствени усилия да помогне за откриване на генерирани от AI текстове, а не на изображения, са „несъвършени“ и предупреди, че трябва да се „приемат със зърно сол“.
