Подменена реалност: Битката с фалшиви изображения от AI е в ключов етап
Изображение на детонация наоколо до Пентагона провокира суматоха в обществените мрежи и за малко срина фондовите тържища предишния месец.
Няколко часа по-късно, управляващите опровергаха новината за гърмеж, като обявиха, че фотографията носи всички белези на генерирана от изкуствен интелект, напомня историята CNN.
Според Джефри Макгрегър, основен изпълнителен шеф на Truepic, случилото се " в действителност е върхът на айсберга на това, което следва ".
По думите му " ще забележим по какъв начин в обществените медии ще стартира да се появява доста повече наличие, генерирано от изкуствен интелект, а ние просто не сме готови ".
Компанията на Макгрегър работи за решаването на този проблем.
Truepic предлага технология, която твърди, че удостоверява достоверността на изображения сега на основаването им посредством своя Truepic Lens. Приложението улавя данни, в това число дата, час, местонахождение и устройство, употребявано за основаване на изображението, и ползва дигитален автограф, с цел да ревизира дали то е органично, или е манипулирано или генерирано от изкуствен интелект.
Truepic, която е подкрепена от Microsoft, е учредена през 2015 година, години преди стартирането на пазара на принадлежности за генериране на изображения, задвижвани от AI, като Dall-E и Midjourney.
Сега Макгрегър споделя, че продуктите на компанията са значими за " всеки, който взема решение въз основа на фотография " - от неправителствени организации до медийни компании и застрахователни компании, които желаят да потвърдят, че дадена рекламация е законна.
Днес всичко може да се фалшифицира, изяснява Макгрегър.
" Знаейки, че генеративният изкуствен интелект е достигнал тази сериозна точка във връзка с качеството и достъпността, ние към този момент не може да разберем каква е действителността, когато сме онлайн. "
Надпревара във въоръжаване
Технологични компании като Truepic работят за битка с онлайн дезинформацията от години, само че появяването на нов тип принадлежности за изкуствен интелект, които генерират завладяващи изображения и писмени работи в отговор на задания от потребителите, прави нуждата от тези старания още по-неотложна.
През последните месеци генерирано от изкуствен интелект изображение на папа Франциск в пухено яке стана вайръл в социалнтие медии, а генерирани от изкуствен интелект изображения на задържания някогашен президент Доналд Тръмп с белезници бяха необятно споделяни малко преди да му бъде повдигнато обвиняване.
Законодателните органи към този момент приканиха софтуерните компании да се оправят с казуса, акцентира CNN.
Вера Йоурова, заместник-председател на Европейската комисия, прикани подписалите Кодекса на Европейски Съюз за дезинформация - лист, в който влизат Гугъл, Meta, Microsoft и TikTok, да " вкарат технология за различаване на такова наличие и ясно да го отбелязват пред потребителите ".
Все по-голям брой стартъпи и огромни софтуерни компании, в това число някои, които внедряват в продуктите си технология за генеративен изкуствен интелект, се пробват да вкарат стандарти и решения, които да оказват помощ на хората да дефинират дали обещано изображение или видеоклип е направено благодарение на изкуствен интелект.
Някои от тези компании носят гръмки имена като " Защитник на действителността ", което приказва за евентуалния залог на напъните: отбрана на самото ни чувство за това кое е действително и кое не.
Но защото технологиите за изкуствен интелект се развиват по-бързо, в сравнение с хората могат да се оправят с тях, не е ясно дали тези механически решения ще бъдат в положение да решат напълно казуса.
Дори OpenAI, компанията, която стои зад Dall-E и ChatGPT, призна, че нейните лични старания за подкрепяне на откриването на йероглифи, генерирани от изкуствен интелект, а не на изображения, са " несъвършени " и предизвести, че би трябвало да бъдат одобрявани с известна доза песимистичност.
" Става дума за намаляване, а не за унищожаване ", съобщи пред CNN Хани Фарид, специалист по цифрова криминалистика и професор в Калифорнийския университет в Бъркли.
" Не считам, че това е изгубена идея, само че считам, че има доста неща, които би трябвало да се създадат. Надеждата е да се стигне до миг, в който някой младеж в мазето на родителите си не може да сътвори изображение и да повлияе на изборите или да промени пазара с половин трилион $ ", изяснява специалистът.
Възможните решения
Компаниите ползват два метода за справяне с казуса.
Едната тактичност се основава на създаване на стратегии за идентифициране на изображенията като генерирани от изкуствен интелект, откакто те са основани и споделени онлайн.
Другата се концентрира върху маркирането на изображението като същинско или генерирано от изкуствен интелект при основаването му с тип дигитален автограф.
Върху първия вид работят Reality Defender и Hive Moderation.
С техните платформи потребителите могат да качват съществуващи изображения, които да бъдат сканирани, и по-късно да получат незабавна разбивка с %, показващ вероятността за това дали е същинско или генерирано от изкуствен интелект въз основа на огромно количество данни.
Компанията Reality Defender, която започва преди генеративният изкуствен интелект да набере такава скорост и е част от конкурентния софтуерен акселератор Y Combinator, твърди, че употребява " патентована технология за надълбоко подправяне и генеративен отпечатък на наличието ", с цел да открива видео, аудио и изображения, генерирани от AI.
В образец, възложен от компанията, Reality Defender акцентира изображение на deepfake на Том Круз като 53% " съмнително ", като споделя на потребителя, че е разкрил доказателства, показващи, че лицето е накриво, " постоянно срещан артефакт при манипулиране на изображения ".
Защитата на действителността може да се окаже рентабилен бизнес, в случай че въпросът се трансформира в постоянно срещан проблем за предприятията и физическите лица.
Hive Moderation съобщи, че таксува 1,50 $ за всеки 1000 изображения, както и предлага " покупко-продажби с годишен контракт " и отстъпка.
Realty Defender съобщи, че цените й варират според от разнообразни фактори, в това число дали клиентът се нуждае от " някакви характерни фактори, изискващи експертния опит и подпомагане на нашия екип ".
" Рискът се удвоява всеки месец ", съобщи пред CNN Бен Колман, основен изпълнителен шеф на Reality Defender.
" Всеки може да направи това. Не е належащо да имате докторска степен по компютърни науки Не е нужно да знаете по какъв начин да пишете програмен продукт. Всеки може да го направи единствено като напише в Гугъл " генератор на подправени изображения ".
Кевин Гуо, основен изпълнителен шеф на Hive Moderation, разказва това като " конкуренция във въоръжаването ".
" Трябва да продължим да преглеждаме всички нови способи, по които хората основават това наличие, би трябвало да го разберем и да го прибавим към нашия набор от данни, с цел да класифицираме по-късно бъдещето ", сподели Гуо пред CNN.
Превантивен метод
В рамките на друг предпазен метод някои по-големи софтуерни компании работят по консолидираното на самобитен воден знак в изображенията, с цел да удостоверят, че медиите са същински или генерирани от изкуствен интелект още при основаването им.
Усилията до момента се движеха основно от Коалицията за доказване и достоверност на наличието (Coalition for Content Provenance and Authenticity, C2PA), отбелязва CNN.
C2PA е учредена през 2021 година за да сътвори механически стандарт, който удостоверява източника и историята на цифровите медии. Тя сплотява напъните на ръководената от Adobe Инициатива за достоверност на наличието (CAI) и плана Origin - самодейност, ръководена от Microsoft и BBC, която се концентрира върху битката с дезинформацията в цифровите вести. Други компании, участващи в C2PA, са Truepic, Intel и Sony.
Въз основа на насоките на C2PA CAI дава на фирмите принадлежности с отворен код за основаване на удостоверения за наличие или метаданни, които съдържат информация за изображението. Това " разрешава на основателите транспарантно да споделят детайлностите за метода, по който са основали обещано изображение ", съгласно уеб страницата на CAI. " По този метод крайният консуматор може да получи достъп до подтекста към това кой и по какъв начин е трансформирал изображението, след което самичък да реши до каква степен достоверно е то. "
" Смятаме, че това е доста значима основополагаща мярка за противопоставяне на дезинформацията. ", декларира пред CNN Анди Парсънс, старши шеф в CAI.
Много компании към този момент интегрират стандарта C2PA и инструментите на CAI в своите приложения. Firefly на Adobe, инструмент за генериране на изображения с изкуствен интелект, който неотдавна беше прибавен към Photoshop, следва стандарта посредством функционалността Content Credentials.
Microsoft също разгласи, че изкуството с AI, основано от Bing Image Creator и Microsoft Designer, ще носи криптографски автограф през идващите месеци.
Други софтуерни компании, като Гугъл, наподобява, следват справочник, който употребява по малко и от двата метода. През май Гугъл разгласи инструмент, наименуван About this image, който предлага на потребителите да видят по кое време изображенията на нейния уебсайт, са били в началото индексирани от Гугъл, къде са се появили за първи път и къде другаде могат да бъдат открити.
Технологичната компания също по този начин разгласи, че всяко изображение, генерирано от изкуствен интелект, основано от Гугъл, ще носи маркировка в истинския файл, с цел да " даде подтекст ", в случай че изображението бъде открито на различен уеб страница или платформа.
Макар че софтуерните компании се пробват да се оправят с изображенията, генерирани от AI, специалистите в тази област акцентират, че те ще би трябвало да работят и с държавните управления, с цел да се оправят с казуса.
Това не е една компания или едно държавно управление, или един човек от университетските среди. Трябва всички да вземат участие, безапелационни са специалистите.
Няколко часа по-късно, управляващите опровергаха новината за гърмеж, като обявиха, че фотографията носи всички белези на генерирана от изкуствен интелект, напомня историята CNN.
Според Джефри Макгрегър, основен изпълнителен шеф на Truepic, случилото се " в действителност е върхът на айсберга на това, което следва ".
По думите му " ще забележим по какъв начин в обществените медии ще стартира да се появява доста повече наличие, генерирано от изкуствен интелект, а ние просто не сме готови ".
Компанията на Макгрегър работи за решаването на този проблем.
Truepic предлага технология, която твърди, че удостоверява достоверността на изображения сега на основаването им посредством своя Truepic Lens. Приложението улавя данни, в това число дата, час, местонахождение и устройство, употребявано за основаване на изображението, и ползва дигитален автограф, с цел да ревизира дали то е органично, или е манипулирано или генерирано от изкуствен интелект.
Truepic, която е подкрепена от Microsoft, е учредена през 2015 година, години преди стартирането на пазара на принадлежности за генериране на изображения, задвижвани от AI, като Dall-E и Midjourney.
Сега Макгрегър споделя, че продуктите на компанията са значими за " всеки, който взема решение въз основа на фотография " - от неправителствени организации до медийни компании и застрахователни компании, които желаят да потвърдят, че дадена рекламация е законна.
Днес всичко може да се фалшифицира, изяснява Макгрегър.
" Знаейки, че генеративният изкуствен интелект е достигнал тази сериозна точка във връзка с качеството и достъпността, ние към този момент не може да разберем каква е действителността, когато сме онлайн. "
Надпревара във въоръжаване
Технологични компании като Truepic работят за битка с онлайн дезинформацията от години, само че появяването на нов тип принадлежности за изкуствен интелект, които генерират завладяващи изображения и писмени работи в отговор на задания от потребителите, прави нуждата от тези старания още по-неотложна.
През последните месеци генерирано от изкуствен интелект изображение на папа Франциск в пухено яке стана вайръл в социалнтие медии, а генерирани от изкуствен интелект изображения на задържания някогашен президент Доналд Тръмп с белезници бяха необятно споделяни малко преди да му бъде повдигнато обвиняване.
Законодателните органи към този момент приканиха софтуерните компании да се оправят с казуса, акцентира CNN.
Вера Йоурова, заместник-председател на Европейската комисия, прикани подписалите Кодекса на Европейски Съюз за дезинформация - лист, в който влизат Гугъл, Meta, Microsoft и TikTok, да " вкарат технология за различаване на такова наличие и ясно да го отбелязват пред потребителите ".
Все по-голям брой стартъпи и огромни софтуерни компании, в това число някои, които внедряват в продуктите си технология за генеративен изкуствен интелект, се пробват да вкарат стандарти и решения, които да оказват помощ на хората да дефинират дали обещано изображение или видеоклип е направено благодарение на изкуствен интелект.
Някои от тези компании носят гръмки имена като " Защитник на действителността ", което приказва за евентуалния залог на напъните: отбрана на самото ни чувство за това кое е действително и кое не.
Но защото технологиите за изкуствен интелект се развиват по-бързо, в сравнение с хората могат да се оправят с тях, не е ясно дали тези механически решения ще бъдат в положение да решат напълно казуса.
Дори OpenAI, компанията, която стои зад Dall-E и ChatGPT, призна, че нейните лични старания за подкрепяне на откриването на йероглифи, генерирани от изкуствен интелект, а не на изображения, са " несъвършени " и предизвести, че би трябвало да бъдат одобрявани с известна доза песимистичност.
" Става дума за намаляване, а не за унищожаване ", съобщи пред CNN Хани Фарид, специалист по цифрова криминалистика и професор в Калифорнийския университет в Бъркли.
" Не считам, че това е изгубена идея, само че считам, че има доста неща, които би трябвало да се създадат. Надеждата е да се стигне до миг, в който някой младеж в мазето на родителите си не може да сътвори изображение и да повлияе на изборите или да промени пазара с половин трилион $ ", изяснява специалистът.
Възможните решения
Компаниите ползват два метода за справяне с казуса.
Едната тактичност се основава на създаване на стратегии за идентифициране на изображенията като генерирани от изкуствен интелект, откакто те са основани и споделени онлайн.
Другата се концентрира върху маркирането на изображението като същинско или генерирано от изкуствен интелект при основаването му с тип дигитален автограф.
Върху първия вид работят Reality Defender и Hive Moderation.
С техните платформи потребителите могат да качват съществуващи изображения, които да бъдат сканирани, и по-късно да получат незабавна разбивка с %, показващ вероятността за това дали е същинско или генерирано от изкуствен интелект въз основа на огромно количество данни.
Компанията Reality Defender, която започва преди генеративният изкуствен интелект да набере такава скорост и е част от конкурентния софтуерен акселератор Y Combinator, твърди, че употребява " патентована технология за надълбоко подправяне и генеративен отпечатък на наличието ", с цел да открива видео, аудио и изображения, генерирани от AI.
В образец, възложен от компанията, Reality Defender акцентира изображение на deepfake на Том Круз като 53% " съмнително ", като споделя на потребителя, че е разкрил доказателства, показващи, че лицето е накриво, " постоянно срещан артефакт при манипулиране на изображения ".
Защитата на действителността може да се окаже рентабилен бизнес, в случай че въпросът се трансформира в постоянно срещан проблем за предприятията и физическите лица.
Hive Moderation съобщи, че таксува 1,50 $ за всеки 1000 изображения, както и предлага " покупко-продажби с годишен контракт " и отстъпка.
Realty Defender съобщи, че цените й варират според от разнообразни фактори, в това число дали клиентът се нуждае от " някакви характерни фактори, изискващи експертния опит и подпомагане на нашия екип ".
" Рискът се удвоява всеки месец ", съобщи пред CNN Бен Колман, основен изпълнителен шеф на Reality Defender.
" Всеки може да направи това. Не е належащо да имате докторска степен по компютърни науки Не е нужно да знаете по какъв начин да пишете програмен продукт. Всеки може да го направи единствено като напише в Гугъл " генератор на подправени изображения ".
Кевин Гуо, основен изпълнителен шеф на Hive Moderation, разказва това като " конкуренция във въоръжаването ".
" Трябва да продължим да преглеждаме всички нови способи, по които хората основават това наличие, би трябвало да го разберем и да го прибавим към нашия набор от данни, с цел да класифицираме по-късно бъдещето ", сподели Гуо пред CNN.
Превантивен метод
В рамките на друг предпазен метод някои по-големи софтуерни компании работят по консолидираното на самобитен воден знак в изображенията, с цел да удостоверят, че медиите са същински или генерирани от изкуствен интелект още при основаването им.
Усилията до момента се движеха основно от Коалицията за доказване и достоверност на наличието (Coalition for Content Provenance and Authenticity, C2PA), отбелязва CNN.
C2PA е учредена през 2021 година за да сътвори механически стандарт, който удостоверява източника и историята на цифровите медии. Тя сплотява напъните на ръководената от Adobe Инициатива за достоверност на наличието (CAI) и плана Origin - самодейност, ръководена от Microsoft и BBC, която се концентрира върху битката с дезинформацията в цифровите вести. Други компании, участващи в C2PA, са Truepic, Intel и Sony.
Въз основа на насоките на C2PA CAI дава на фирмите принадлежности с отворен код за основаване на удостоверения за наличие или метаданни, които съдържат информация за изображението. Това " разрешава на основателите транспарантно да споделят детайлностите за метода, по който са основали обещано изображение ", съгласно уеб страницата на CAI. " По този метод крайният консуматор може да получи достъп до подтекста към това кой и по какъв начин е трансформирал изображението, след което самичък да реши до каква степен достоверно е то. "
" Смятаме, че това е доста значима основополагаща мярка за противопоставяне на дезинформацията. ", декларира пред CNN Анди Парсънс, старши шеф в CAI.
Много компании към този момент интегрират стандарта C2PA и инструментите на CAI в своите приложения. Firefly на Adobe, инструмент за генериране на изображения с изкуствен интелект, който неотдавна беше прибавен към Photoshop, следва стандарта посредством функционалността Content Credentials.
Microsoft също разгласи, че изкуството с AI, основано от Bing Image Creator и Microsoft Designer, ще носи криптографски автограф през идващите месеци.
Други софтуерни компании, като Гугъл, наподобява, следват справочник, който употребява по малко и от двата метода. През май Гугъл разгласи инструмент, наименуван About this image, който предлага на потребителите да видят по кое време изображенията на нейния уебсайт, са били в началото индексирани от Гугъл, къде са се появили за първи път и къде другаде могат да бъдат открити.
Технологичната компания също по този начин разгласи, че всяко изображение, генерирано от изкуствен интелект, основано от Гугъл, ще носи маркировка в истинския файл, с цел да " даде подтекст ", в случай че изображението бъде открито на различен уеб страница или платформа.
Макар че софтуерните компании се пробват да се оправят с изображенията, генерирани от AI, специалистите в тази област акцентират, че те ще би трябвало да работят и с държавните управления, с цел да се оправят с казуса.
Това не е една компания или едно държавно управление, или един човек от университетските среди. Трябва всички да вземат участие, безапелационни са специалистите.
Източник: profit.bg
КОМЕНТАРИ