Big Tech се договори за борба с генерираната от AI изборна дезинформация
Големите софтуерни компании Meta, OpenAI, TikTok, Microsoft и Amazon се ангажираха да подпишат съглашението от Мюнхенската конференция по сигурността за непринудено приемане на „ рационални защитни ограничения “ за попречване потреблението на принадлежности с изкуствен интелект (ИИ) за манипулиране на демократичните избори по света, оповестява Euronews.
Компанията зад обществената платформа на милиардера Илон Мъск, X, която преди беше известна като Twitter, също се включи в съглашението.
Ръководители на редица софтуерни колоси като Adobe, Amazon, Гугъл, IBM, Meta, Microsoft, OpenAI и TikTok се срещнаха по време на Мюнхенската конференция по сигурността, с цел да разгласят нова рамка за това по какъв начин да реагират на генерирани от ИИ дезинформационни офанзиви, които биха объркали гласоподавателите.
„ Всички признават, че нито една софтуерна компания, нито едно държавно управление, нито една неправителствена организация не е в положение сама да се оправи с навлизането на тази технология и нейната допустима непозволена приложимост “, разяснява Ник Клег, президент по световните въпроси в Meta, компанията майка на Фейсбук и Instagram.
Споразумението е значително алегорично, само че е ориентирано към все по-реалистични изображения, аудио и видео, генерирани от ИИ, „ които непозволено фалшифицират или трансформират външния тип, гласа или дейностите на политически претенденти, чиновници на акции и други основни заинтригувани страни в демократичните избори, или които дават погрешна информация на гласоподавателите за това по кое време, къде и по какъв начин могат да гласоподават законно “, написа investor.bg.
Компаниите не се ангажират да не разрешават или отстраняват така наречен дийпфейк. Вместо това съглашението обрисува методите, които те ще употребяват, с цел да се опитат да открият и етикетират непозволеното генерирано от ИИ наличие, когато то се основава или популяризира на техните платформи.
Отбелязва се, че фирмите ще споделят най-хубави практики и ще дават „ бързи и пропорционални отговори “, когато това наличие стартира да се популяризира.
Липса на обвързващи условия
Неяснотата на уговорките и неналичието на обвързващи условия евентуално са помогнали да бъдат привлечени разнообразни компании, само че разочарованите бранители на демократичните избори търсят по-ясни и огромни гаранции.
Компаниите имат интерес да запазят своите принадлежности от това да бъдат употребявани за подкопаване на свободните и почтени избори, акцентира Рейчъл Ори от Центъра за двупартийна политика.
От своя страна Клег споделя, че всяка компания „ напълно вярно има собствен личен набор от политики за наличието ".
Намесата на изкуствения разсъдък в изборите към този момент е реалност
Споразумението в Мюнхен отразява паниката измежду обществеността по отношение на обстоятелството, че през актуалната година в над 50 страни по света ще се проведат избори. Президентският избор в Индонезия, четвъртата по мярка на популацията страна в света и третата най-многолюдна народна власт, завърши предходната седмица.
Вече са регистрирани опити за интервенция в избори чрез ИИ, като да вземем за пример така наречен robot calls – изкуствено генерирани изказвания, имитиращи гласовете на известни политици, в това число на американския президент Джо Байдън, които целят да обезсърчат хората преди изборите в Съединени американски щати през есента.
Само дни преди изборите в Словакия предишния ноември генерирани от ИИ аудиозаписи имитират гласа на претендент, който разисква проекти за повишение на цените на бирата и подправяне на вота. Политиците също са опитали с технологията, от потреблението на ИИ чатботове за връзка с гласоподавателите до прибавяне на генерирани от ИИ изображения към реклами.
Споразумението в Мюнхен приканва обществените платформи да „ извърнат внимание на подтекста и по-специално на запазването на просветителното, документалното, художественото, сатиричното и политическото изложение “.
В него се споделя, че фирмите ще се съсредоточат върху прозрачността за потребителите по отношение на своите политики и ще работят за образование на обществеността за това по какъв начин може да избегне генерираната от ИИ дезинформация.
Повечето компании оповестиха по-рано, че подхващат защитни ограничения по отношение на личните си генеративни ИИ принадлежности, които могат да манипулират изображения и тон, като в същото време работят за идентифициране и етикетиране на генерирано от технологията наличие, тъй че потребителите в обществените платформи да знаят дали това, което виждат, е същинско. Но множеството от тези препоръчани решения към момента не са въведени и фирмите са изправени пред напън да създадат повече по въпроса.
Този напън се ускорява в Съединени американски щати, където Конгресът към момента не е приел закони, регулиращи ИИ в политиката, оставяйки фирмите значително да се вземат решение сами какво да вършат.
Федералната комисия по връзките неотдавна удостовери, че генерираното от ИИ аудио е в прорез със закона, само че това не покрива дълбоки аудио фалшификации, когато се популяризират в обществените платформи или в реклами на дадена акция.
Много оператори на обществени платформи към този момент са въвели политики за въздържане на подвеждащи изявления за изборни процеси - генерирани от ИИ или по различен метод.
Meta споделя, че се бори с дезинформация по отношение на „ датите, местата, часовете и методите за гласоподаване, регистрацията на гласоподавателите или присъединяване в преброяването “, както и с други подправени изявления, предопределени да попречат на гласоподавателите да гласоподават.
Отсъстващи от съглашението
Джеф Алън, съосновател на Integrity Institute и някогашен експерт по данните във Фейсбук, показва, че съглашението наподобява като „ позитивна стъпка “, само че въпреки всичко би желал фирмите зад обществените платформи да подхващат други дейности за битка с дезинформацията, като да вземем за пример основаване на рекомендации за системи със наличие, които не дават приоритет на ангажираността.
Лиза Гилбърт, вицепрезидент на застъпническата група Public Citizen, твърди, че съглашението „ не е задоволително “ и фирмите за изкуствен интелект би трябвало да „ задържат технологии “ като хиперреалистични генератори на текст към видео, „ до момента в който не бъдат направени обилни и съответни защитни ограничения, които да ни оказват помощ да предотвратим доста евентуални проблеми ".
Сред фирмите, които се ангажираха със съглашението в Мюнхен, изпъкват и разработчиците на чатботове Anthropic и Inflection AI; стартъпът за гласово клониране ElevenLabs; дизайнерът на чипове Arm Holdings; фирмите за сигурност McAfee и TrendMicro; и Stability AI, известна с това, че е създала генератора на изображения Stable Diffusion.
Забелязва се отсъствието на различен разработчик на ИИ генератор на изображения – Midjourney. Компанията обаче не отговори на настояванията за коментар.
Включването на платформата X към съглашението беше една от огромните изненади в Мюнхен. Илон Мъск внезапно ограничи екипите за модериране на наличие, откакто пое компанията.
В изказване в петък основният изпълнителен шеф на X Линда Якарино сподели, че „ всеки жител и компания имат отговорност да подсигуряват свободни и почтени избори “.
„ X е отдадена на това да извърши своята роля, да си сътрудничи с другите компании в битката със заканите от ИИ, като в същото време пази свободата на словото и усилва оптимално прозрачността “, посочи тя.
Последвайте канала на
Компанията зад обществената платформа на милиардера Илон Мъск, X, която преди беше известна като Twitter, също се включи в съглашението.
Ръководители на редица софтуерни колоси като Adobe, Amazon, Гугъл, IBM, Meta, Microsoft, OpenAI и TikTok се срещнаха по време на Мюнхенската конференция по сигурността, с цел да разгласят нова рамка за това по какъв начин да реагират на генерирани от ИИ дезинформационни офанзиви, които биха объркали гласоподавателите.
„ Всички признават, че нито една софтуерна компания, нито едно държавно управление, нито една неправителствена организация не е в положение сама да се оправи с навлизането на тази технология и нейната допустима непозволена приложимост “, разяснява Ник Клег, президент по световните въпроси в Meta, компанията майка на Фейсбук и Instagram.
Споразумението е значително алегорично, само че е ориентирано към все по-реалистични изображения, аудио и видео, генерирани от ИИ, „ които непозволено фалшифицират или трансформират външния тип, гласа или дейностите на политически претенденти, чиновници на акции и други основни заинтригувани страни в демократичните избори, или които дават погрешна информация на гласоподавателите за това по кое време, къде и по какъв начин могат да гласоподават законно “, написа investor.bg.
Компаниите не се ангажират да не разрешават или отстраняват така наречен дийпфейк. Вместо това съглашението обрисува методите, които те ще употребяват, с цел да се опитат да открият и етикетират непозволеното генерирано от ИИ наличие, когато то се основава или популяризира на техните платформи.
Отбелязва се, че фирмите ще споделят най-хубави практики и ще дават „ бързи и пропорционални отговори “, когато това наличие стартира да се популяризира.
Липса на обвързващи условия
Неяснотата на уговорките и неналичието на обвързващи условия евентуално са помогнали да бъдат привлечени разнообразни компании, само че разочарованите бранители на демократичните избори търсят по-ясни и огромни гаранции.
Компаниите имат интерес да запазят своите принадлежности от това да бъдат употребявани за подкопаване на свободните и почтени избори, акцентира Рейчъл Ори от Центъра за двупартийна политика.
От своя страна Клег споделя, че всяка компания „ напълно вярно има собствен личен набор от политики за наличието ".
Намесата на изкуствения разсъдък в изборите към този момент е реалност
Споразумението в Мюнхен отразява паниката измежду обществеността по отношение на обстоятелството, че през актуалната година в над 50 страни по света ще се проведат избори. Президентският избор в Индонезия, четвъртата по мярка на популацията страна в света и третата най-многолюдна народна власт, завърши предходната седмица.
Вече са регистрирани опити за интервенция в избори чрез ИИ, като да вземем за пример така наречен robot calls – изкуствено генерирани изказвания, имитиращи гласовете на известни политици, в това число на американския президент Джо Байдън, които целят да обезсърчат хората преди изборите в Съединени американски щати през есента.
Само дни преди изборите в Словакия предишния ноември генерирани от ИИ аудиозаписи имитират гласа на претендент, който разисква проекти за повишение на цените на бирата и подправяне на вота. Политиците също са опитали с технологията, от потреблението на ИИ чатботове за връзка с гласоподавателите до прибавяне на генерирани от ИИ изображения към реклами.
Споразумението в Мюнхен приканва обществените платформи да „ извърнат внимание на подтекста и по-специално на запазването на просветителното, документалното, художественото, сатиричното и политическото изложение “.
В него се споделя, че фирмите ще се съсредоточат върху прозрачността за потребителите по отношение на своите политики и ще работят за образование на обществеността за това по какъв начин може да избегне генерираната от ИИ дезинформация.
Повечето компании оповестиха по-рано, че подхващат защитни ограничения по отношение на личните си генеративни ИИ принадлежности, които могат да манипулират изображения и тон, като в същото време работят за идентифициране и етикетиране на генерирано от технологията наличие, тъй че потребителите в обществените платформи да знаят дали това, което виждат, е същинско. Но множеството от тези препоръчани решения към момента не са въведени и фирмите са изправени пред напън да създадат повече по въпроса.
Този напън се ускорява в Съединени американски щати, където Конгресът към момента не е приел закони, регулиращи ИИ в политиката, оставяйки фирмите значително да се вземат решение сами какво да вършат.
Федералната комисия по връзките неотдавна удостовери, че генерираното от ИИ аудио е в прорез със закона, само че това не покрива дълбоки аудио фалшификации, когато се популяризират в обществените платформи или в реклами на дадена акция.
Много оператори на обществени платформи към този момент са въвели политики за въздържане на подвеждащи изявления за изборни процеси - генерирани от ИИ или по различен метод.
Meta споделя, че се бори с дезинформация по отношение на „ датите, местата, часовете и методите за гласоподаване, регистрацията на гласоподавателите или присъединяване в преброяването “, както и с други подправени изявления, предопределени да попречат на гласоподавателите да гласоподават.
Отсъстващи от съглашението
Джеф Алън, съосновател на Integrity Institute и някогашен експерт по данните във Фейсбук, показва, че съглашението наподобява като „ позитивна стъпка “, само че въпреки всичко би желал фирмите зад обществените платформи да подхващат други дейности за битка с дезинформацията, като да вземем за пример основаване на рекомендации за системи със наличие, които не дават приоритет на ангажираността.
Лиза Гилбърт, вицепрезидент на застъпническата група Public Citizen, твърди, че съглашението „ не е задоволително “ и фирмите за изкуствен интелект би трябвало да „ задържат технологии “ като хиперреалистични генератори на текст към видео, „ до момента в който не бъдат направени обилни и съответни защитни ограничения, които да ни оказват помощ да предотвратим доста евентуални проблеми ".
Сред фирмите, които се ангажираха със съглашението в Мюнхен, изпъкват и разработчиците на чатботове Anthropic и Inflection AI; стартъпът за гласово клониране ElevenLabs; дизайнерът на чипове Arm Holdings; фирмите за сигурност McAfee и TrendMicro; и Stability AI, известна с това, че е създала генератора на изображения Stable Diffusion.
Забелязва се отсъствието на различен разработчик на ИИ генератор на изображения – Midjourney. Компанията обаче не отговори на настояванията за коментар.
Включването на платформата X към съглашението беше една от огромните изненади в Мюнхен. Илон Мъск внезапно ограничи екипите за модериране на наличие, откакто пое компанията.
В изказване в петък основният изпълнителен шеф на X Линда Якарино сподели, че „ всеки жител и компания имат отговорност да подсигуряват свободни и почтени избори “.
„ X е отдадена на това да извърши своята роля, да си сътрудничи с другите компании в битката със заканите от ИИ, като в същото време пази свободата на словото и усилва оптимално прозрачността “, посочи тя.
Последвайте канала на
Източник: novini.bg
КОМЕНТАРИ