Тръмп с белезници, папата с пухенка. Фейк реалността на AI ужасява медиитe
Папа Франциск носи солидно бяло яке с пух. Илон Мъск се разхожда заловен за ръка с Мери Бара, основен изпълнителен шеф на конкурентния GM. Бившият президент на Съединени американски щати Доналд Тръмп е задържан с белезници по трагичен метод.
Нито една от тези вести не се е случила в реалност, само че генерирани от изкуствен интелект изображения бяха оповестени в обществените мрежи и за броени минути станаха вайръл по целия свят, споделяни и коментирани от милиони консуматори.
Снимките варираха от явно подправени до безапелационно действителни и по този начин елементарно съумяха да заблудят потребителите, написа CNN.
Снимките провокираха и вълна от новинарски заглавия, защото медийните компании побързаха да отразят публикуването на подправените изображения, изключително тези на Тръмп, който фактически беше упрекнат от прокурорите в Манхатън, само че не беше задържан.
Ситуацията сигурно подсигурява една достоверна вест: новата онлайн действителност към този момент е тук.
Появата на новите благоприятни условия на изкуствения разсъдък разрешава основаването на реалистични изображения, аудио и видеоклипове по-евтино и елементарно от всеки път. И те евентуално ще се появяват все по-често в обществените медии.
Въпреки че тези принадлежности могат да разрешат нови способи за креативно изложение, разпространяването на компютърно генерирани медийни текстове, фотоси и видеа заплашва да замърси още повече осведомителната екосистема. Това рискува да усили провокациите пред потребителите, новинарските организации и платформите на обществените медии да ревизират кое е правдиво и кое не, откакто години наред се бориха с онлайн дезинформация, включваща надалеч по-малко комплицирани образни материали.
Съществуват и опасения, че изображенията, генерирани от изкуствен интелект, могат да бъдат употребявани за тормоз или за в допълнение напрежение сред разнопосочните отзиви на потребителите.
" Притеснявам се, че ще се стигне до такава степен, че ще има толкоз доста подправено, високореалистично наличие онлайн, че множеството хора просто ще се управляват от племенните си инстинкти като ориентир за това, което считат за действително, а не от фактически осведомени отзиви, учредени на тествани доказателства ", изяснява Хенри Айджър, медиен специалист и консултант на компании и държавни организации, в това число на Европейския съвещателен съвет на Meta Reality Labs.
Изображенията, спрямо текста, генериран от изкуствен интелект, който в последно време също се популяризира с помощта на принадлежности като ChatGPT, могат да бъдат изключително мощни в провокирането на страсти, когато хората ги гледат, изяснява Клер Лейбович, началник на отдела за изкуствен интелект в Партньорството за изкуствен интелект, индустриална група с нестопанска цел. Това може да затрудни хората да забавят темпото и да преценяват дали това, което гледат, е същинско или подправено, добавя Лейбович.
Нещо повече, координираните неприятни играчи на медийния пазар биха могли да се опитат да основават всеобщо подправено наличие, или да внушават, че същинското наличие е компютърно генерирано, за да объркат потребителите и да предизвикат несъмнено държание.
През последните години технологията за компютърно генериране на изображения се усъвършенства бързо - от фотош изображение на акула, плуваща през наводнена автомагистрала, което неведнъж е споделяно по време на естествени бедствия, до уеб страници, които преди 4 години започнаха да разгласяват неубедителни подправени фотоси на несъществуващи хора.
Много от последните вирусни изображения, генерирани от изкуствен интелект, бяха основани от инструмент, наименуван Midjourney - платформа с по-малко от година история, която разрешава на потребителите да основават изображения въз основа на къси текстови подсказки. На своя уеб страница Midjourney се разказва като " дребен самофинансиращ се екип ", който има единствено 11 чиновници на цялостно работно време.
Един незадълбочен взор към известната измежду потребителите на Midjourney страница във Фейсбук разкрива генерирани от изкуствен интелект изображения на видимо пияния папа Франциск, възрастни версии на Елвис и Кърт Кобейн, Илон Мъск в роботизиран костюм на Tesla и страховити скотски фотоси. И това са изображения единствено от последните няколко дни.
Най-новата версия на Midjourney е налична единствено за определен брой платени консуматори, заяви основният изпълнителен шеф на компанията Дейвид Холц пред CNN. Midjourney спря достъпа до безплатната пробна версия заради " изключително търсене и корист ", съгласно обява в Discord от Холц, само че той съобщи пред CNN, че това не е обвързвано с вирусните изображения.
Страницата с разпоредбите на уеб страницата Discord на компанията приканва потребителите: " Не използвайте нашите принадлежности, с цел да създавате изображения, които могат да разпалят, разстроят или провокират драма. Това включва кървави подиуми и наличие за възрастни ".
" Модерацията е сложна и скоро ще интегрираме усъвършенствани системи ", разяснява Холц пред CNN. " Приемаме доста мнения и хрумвания от специалистите и общността и се опитваме да бъдем в действителност деликатни. "
В множеството случаи наподобява, че основателите на последните вирусни изображения не са работили злонамерено. Изображенията от ареста на Тръмп бяха основани от създателя на онлайн изданието за проверяваща публицистика Bellingcat, който ясно ги отбелязя като свои измислици, до момента в който други консуматори на обществените медии обаче не са толкоз проницателни.
Онлайн платформи, софтуерни компании за изкуствен интелект и браншови сдружения също стартират да поставят старания за възстановяване на прозрачността по кое време обещано наличие е генерирано от компютър.
Платформите за обществени медии, в това число Meta's Фейсбук и Instagram, Twitter и YouTube имат политики, ограничаващи или забраняващи шерването на манипулирани медии, които биха могли да заблудят потребителите.
Но с повишаването на потреблението на технологии, генерирани от изкуствен интелект, даже такива политики могат да подкопаят доверието на потребителите. Ако да вземем за пример подправено изображение инцидентно се промъкне през системата на дадена платформа, " това може да сътвори подправено доверие ", съгласно Хенри Айджър. " Те ще си кажат: " има система за разкриване, която споделя, че това е същинско, значи би трябвало да е същинско ".
Работи се и по механически решения, които биха разрешили да се сложи воден знак върху изображение, генерирано от изкуствен интелект, или да се включи транспарантен етикет в метаданните на изображението, тъй че всеки, който го преглежда в интернет, да знае, че е основано от компютър.
Партньорството за изкуствен интелект създаде набор от общоприети, виновни практики за обществени медии дружно с сътрудници като основателя на ChatGPT OpenAI, TikTok, Adobe, Bumble и BBC, който включва рекомендации, като да вземем за пример по какъв начин да се разкрие, че обещано изображение е генерирано от изкуствен интелект и по какъв начин фирмите могат да споделят данни за такива изображения. " Идеята е всички тези институции да са ангажирани с разкриването на информация, единодушието и прозрачността ", сподели Лейбович.
Група софтуерни водачи, измежду които Илон Мъск и съоснователят на Apple Стив Возняк, написаха отворено писмо, в което приканиха лабораториите за изкуствен интелект да спрат образованието на най-мощните системи за изкуствен интелект най-малко за шест месеца, базирайки се на " дълбоки опасности за обществото и човечеството ". Все още не е ясно дали някоя от тях ще предприеме такава стъпка.
И защото технологията бързо се усъвършенства и става налична отвън относително дребна група корпорации, ангажирани с виновни практики, може да се наложи законодателите да се намесят.
" Тази нова епоха на изкуствения разсъдък не може да остане единствено в ръцете на няколко големи компании, които забогатяват от тези принадлежности, би трябвало да демократизираме технологията ", споделя Хенри Айджър.
" В същото време има напълно действителни и основателни опасения, че коренно отвореният метод, при който просто отваряте даден инструмент или имате напълно минимални ограничавания за потреблението му, ще докара до всеобщо мащабиране на вредите... и мисля, че законодателството евентуално ще изиграе роля за ограничение на някои от по-радикално отворените модели. ", добавя специалистът.
Нито една от тези вести не се е случила в реалност, само че генерирани от изкуствен интелект изображения бяха оповестени в обществените мрежи и за броени минути станаха вайръл по целия свят, споделяни и коментирани от милиони консуматори.
Снимките варираха от явно подправени до безапелационно действителни и по този начин елементарно съумяха да заблудят потребителите, написа CNN.
Снимките провокираха и вълна от новинарски заглавия, защото медийните компании побързаха да отразят публикуването на подправените изображения, изключително тези на Тръмп, който фактически беше упрекнат от прокурорите в Манхатън, само че не беше задържан.
Ситуацията сигурно подсигурява една достоверна вест: новата онлайн действителност към този момент е тук.
Появата на новите благоприятни условия на изкуствения разсъдък разрешава основаването на реалистични изображения, аудио и видеоклипове по-евтино и елементарно от всеки път. И те евентуално ще се появяват все по-често в обществените медии.
Въпреки че тези принадлежности могат да разрешат нови способи за креативно изложение, разпространяването на компютърно генерирани медийни текстове, фотоси и видеа заплашва да замърси още повече осведомителната екосистема. Това рискува да усили провокациите пред потребителите, новинарските организации и платформите на обществените медии да ревизират кое е правдиво и кое не, откакто години наред се бориха с онлайн дезинформация, включваща надалеч по-малко комплицирани образни материали.
Съществуват и опасения, че изображенията, генерирани от изкуствен интелект, могат да бъдат употребявани за тормоз или за в допълнение напрежение сред разнопосочните отзиви на потребителите.
" Притеснявам се, че ще се стигне до такава степен, че ще има толкоз доста подправено, високореалистично наличие онлайн, че множеството хора просто ще се управляват от племенните си инстинкти като ориентир за това, което считат за действително, а не от фактически осведомени отзиви, учредени на тествани доказателства ", изяснява Хенри Айджър, медиен специалист и консултант на компании и държавни организации, в това число на Европейския съвещателен съвет на Meta Reality Labs.
Изображенията, спрямо текста, генериран от изкуствен интелект, който в последно време също се популяризира с помощта на принадлежности като ChatGPT, могат да бъдат изключително мощни в провокирането на страсти, когато хората ги гледат, изяснява Клер Лейбович, началник на отдела за изкуствен интелект в Партньорството за изкуствен интелект, индустриална група с нестопанска цел. Това може да затрудни хората да забавят темпото и да преценяват дали това, което гледат, е същинско или подправено, добавя Лейбович.
Нещо повече, координираните неприятни играчи на медийния пазар биха могли да се опитат да основават всеобщо подправено наличие, или да внушават, че същинското наличие е компютърно генерирано, за да объркат потребителите и да предизвикат несъмнено държание.
През последните години технологията за компютърно генериране на изображения се усъвършенства бързо - от фотош изображение на акула, плуваща през наводнена автомагистрала, което неведнъж е споделяно по време на естествени бедствия, до уеб страници, които преди 4 години започнаха да разгласяват неубедителни подправени фотоси на несъществуващи хора.
Много от последните вирусни изображения, генерирани от изкуствен интелект, бяха основани от инструмент, наименуван Midjourney - платформа с по-малко от година история, която разрешава на потребителите да основават изображения въз основа на къси текстови подсказки. На своя уеб страница Midjourney се разказва като " дребен самофинансиращ се екип ", който има единствено 11 чиновници на цялостно работно време.
Един незадълбочен взор към известната измежду потребителите на Midjourney страница във Фейсбук разкрива генерирани от изкуствен интелект изображения на видимо пияния папа Франциск, възрастни версии на Елвис и Кърт Кобейн, Илон Мъск в роботизиран костюм на Tesla и страховити скотски фотоси. И това са изображения единствено от последните няколко дни.
Най-новата версия на Midjourney е налична единствено за определен брой платени консуматори, заяви основният изпълнителен шеф на компанията Дейвид Холц пред CNN. Midjourney спря достъпа до безплатната пробна версия заради " изключително търсене и корист ", съгласно обява в Discord от Холц, само че той съобщи пред CNN, че това не е обвързвано с вирусните изображения.
Страницата с разпоредбите на уеб страницата Discord на компанията приканва потребителите: " Не използвайте нашите принадлежности, с цел да създавате изображения, които могат да разпалят, разстроят или провокират драма. Това включва кървави подиуми и наличие за възрастни ".
" Модерацията е сложна и скоро ще интегрираме усъвършенствани системи ", разяснява Холц пред CNN. " Приемаме доста мнения и хрумвания от специалистите и общността и се опитваме да бъдем в действителност деликатни. "
В множеството случаи наподобява, че основателите на последните вирусни изображения не са работили злонамерено. Изображенията от ареста на Тръмп бяха основани от създателя на онлайн изданието за проверяваща публицистика Bellingcat, който ясно ги отбелязя като свои измислици, до момента в който други консуматори на обществените медии обаче не са толкоз проницателни.
Онлайн платформи, софтуерни компании за изкуствен интелект и браншови сдружения също стартират да поставят старания за възстановяване на прозрачността по кое време обещано наличие е генерирано от компютър.
Платформите за обществени медии, в това число Meta's Фейсбук и Instagram, Twitter и YouTube имат политики, ограничаващи или забраняващи шерването на манипулирани медии, които биха могли да заблудят потребителите.
Но с повишаването на потреблението на технологии, генерирани от изкуствен интелект, даже такива политики могат да подкопаят доверието на потребителите. Ако да вземем за пример подправено изображение инцидентно се промъкне през системата на дадена платформа, " това може да сътвори подправено доверие ", съгласно Хенри Айджър. " Те ще си кажат: " има система за разкриване, която споделя, че това е същинско, значи би трябвало да е същинско ".
Работи се и по механически решения, които биха разрешили да се сложи воден знак върху изображение, генерирано от изкуствен интелект, или да се включи транспарантен етикет в метаданните на изображението, тъй че всеки, който го преглежда в интернет, да знае, че е основано от компютър.
Партньорството за изкуствен интелект създаде набор от общоприети, виновни практики за обществени медии дружно с сътрудници като основателя на ChatGPT OpenAI, TikTok, Adobe, Bumble и BBC, който включва рекомендации, като да вземем за пример по какъв начин да се разкрие, че обещано изображение е генерирано от изкуствен интелект и по какъв начин фирмите могат да споделят данни за такива изображения. " Идеята е всички тези институции да са ангажирани с разкриването на информация, единодушието и прозрачността ", сподели Лейбович.
Група софтуерни водачи, измежду които Илон Мъск и съоснователят на Apple Стив Возняк, написаха отворено писмо, в което приканиха лабораториите за изкуствен интелект да спрат образованието на най-мощните системи за изкуствен интелект най-малко за шест месеца, базирайки се на " дълбоки опасности за обществото и човечеството ". Все още не е ясно дали някоя от тях ще предприеме такава стъпка.
И защото технологията бързо се усъвършенства и става налична отвън относително дребна група корпорации, ангажирани с виновни практики, може да се наложи законодателите да се намесят.
" Тази нова епоха на изкуствения разсъдък не може да остане единствено в ръцете на няколко големи компании, които забогатяват от тези принадлежности, би трябвало да демократизираме технологията ", споделя Хенри Айджър.
" В същото време има напълно действителни и основателни опасения, че коренно отвореният метод, при който просто отваряте даден инструмент или имате напълно минимални ограничавания за потреблението му, ще докара до всеобщо мащабиране на вредите... и мисля, че законодателството евентуално ще изиграе роля за ограничение на някои от по-радикално отворените модели. ", добавя специалистът.
Източник: profit.bg
КОМЕНТАРИ