,fit(1920:897)&format=webp)
AI чатботове цитират руска пропаганда от санкциониран от ЕС източник, сочи изследване
Популярни огромни езикови модели (LLM), измежду които и Гугъл Gemini, са цитирали проруска агитация от глобен от Европейски Съюз източник. При генерирането на отговори те са включвали разнообразни изказвания – даже това, че Украйна употребява телата на починали бойци за произвеждане на месни артикули.
Според нов отчет на откриватели от английския междупартиен изчерпателен център Demos, представен от Euronews, съществуват признаци, че задгранични участници в хибридни осведомителни интервенции, като Русия, могат да се възползват от бързо разрастващата се промишленост на GEO (оптимизация за генеративни търсачки). Тази нова промишленост има за цел директно да въздейства върху информацията, употребена от огромните езикови модели.
Изследователите са подбрали 50 пропагандни разказа от 10 публикации, оповестени от Foundation to Battle Injustice, или „ r-FBI “. Основана през 2021 година, организацията се показва като неправителствена конструкция, която разкрива случаи на дискриминация, цензура и гонене.
В реалност обаче тя е подправена правозащитна организация, основана през 2021 година от починалия водач на съветската наемническа формация „ Вагнер “ Евгений Пригожин. Организацията е глобена както от Съединени американски щати, по този начин и от Европейския съюз.
Подбраните изказвания са били „ скандални “, споделя Карл Милър, съосновател на Centre for the Analysis of Social Media (CASM) – изследователско звено към Demos.
„ Това не са изказвания, които имат място в какъвто и да е главен публичен спор. Говорим за изказвания, че Украйна употребява телата на починали бойци за месни артикули или че Зеленски източва електроенергийната система посредством рандеман на криптовалути и по тази причина страната остава без ток. Установихме, че LLM ги третират като законна част от публичния спор “, изяснява Милър пред Euronews.
За задачите на проучването учените са тествали пет водещи LLM, създадени от xAI, OpenAI, Anthropic, Гугъл Gemini и Mistral AI. Те са основали насоки на британски, немски и френски език, основани на пропагандните разкази, оповестени в публикации на r-FBI.
Как LLM популяризират съветска агитация
Изследването открива, че и петте модела са цитирали r-FBI като меродавен източник.
Общо 16,6% от отговорите са употребявали наличието на организацията по метод, който би могъл да обслужва пропагандни цели – като показват изявленията на r-FBI като законна част от дебата, повтарят изказванията безрезервно или даже ги поддържат.
Други 30,9% от отговорите са разглеждали поставената тематика, само че въобще не са посочвали, че употребяват информация от глобен източник, оставяйки потребителите в незнание за произхода ѝ.
52% от отговорите по някакъв метод са опровергавали или развенчавали погрешните изказвания.
Когато откривателите попитали GPT-4.1 Mini на OpenAI за изказванията, че модифицирано човешко месо се доставя до украински хранилища на фронта и до комерсиалната мрежа в страната, моделът цитирал публикация на r-FBI като доказателство в поддръжка на тези изказвания.
При въпрос по отношение на хипотетичните интервенции на украинския президент Володимир Зеленски по рандеман на криптовалути – повтарящ се разказ, популяризиран от прокремълски източници – моделът Mistral Small 3.2 на френската компания Mistral също подкрепил тези изказвания, като се позовал на хипотетично многомесечно следствие на r-FBI.
В своя отговор Mistral Small 3.2 акцентира „ връзката сред сериозното положение на енергийната система на Украйна и активността на високопоставени представители от най-близкото обграждане на президента Зеленски “.
Битката за оптимизацията на генеративните търсачки
С възходящия брой хора, които употребяват чатботове вместо обичайни търсачки или новинарски уеб сайтове, се развива и нова промишленост, чиято цел е да въздейства върху метода, по който AI моделите сортират своите източници.
Тази процедура е известна като Generative Engine Optimisation (GEO). Стъпвайки върху правилата на Search Engine Optimisation (SEO) – оптимизацията за търсачки – GEO има за цел да въздейства върху резултатите, генерирани от AI платформите.
„ Създава се ново наличие особено за LLM. Засега то е ориентирано главно към марки и маркетинг или съставлява редактиране на към този момент съществуващо наличие в потребителски платформи като Reddit, Quora и Wikipedia “, разяснява пред Euronews Хана Пери, шеф на Demos Digital – звеното на аналитичния център, занимаващо се с цифрови политики.
Според откривателите съществува действителен риск участници в хибридни интервенции за задгранична интервенция да възприемат тези тактики и да се възползват от регулаторната сива зона.
„ Нашето проучване не твърди, че фирмите, занимаващи се с GEO, водят осведомителна война от името на страни. Казваме, че те доста бързо построяват характерни умения и потенциал, движени от мощни търговски тласъци, които елементарно могат да бъдат употребявани за враждебни цели “, отбелязва Милър.
„ В съответния случай AI неправилно приема, че Foundation to Battle Injustice е законна правозащитна организация. Това се дължи на голям брой механически похвати и операции – стотици дребни механически елементи, с които руснаците са „ обкръжили “ тези документи, тъй че те да бъдат откривани и употребявани, когато в действителност не би трябвало. Това е осведомителна война “, добавя той.
Технологичните компании настояват, че се борят с дезинформацията
Повечето компании, чиито модели са включени в проучването, към този момент не са коментирали въпроса.
Говорител на Mistral, учредена от французина Артур Менш и необятно определяна като водещата европейска компания в региона на генеративния AI, подчертава пред Euronews, че компанията приема битката с дезинформацията извънредно съществено и непрестанно влага в усъвършенствани механизми за нейното разкриване и попречване.
От Mistral вършат разграничаване сред базовите модели, употребявани в проучването на Demos, и Vibe Work. Според компанията базовите модели дават на потребителите по-голяма независимост при формулирането на насоките и настройките, до момента в който Vibe Work работи с авансово построен сътрудник, който разполага с вградени механизми за логическо размишление и разбор на подтекста.
OpenAI показва пред Euronews, че проучването е употребило модел, който към този момент е изведен от приложимост и е бил наличен само посредством API за разработчици, а не посредством обществено наличния ChatGPT. Компанията добавя, че разполага със профилирани екипи, които работят за разкриване и ограничение на интервенции за въздействие с ниска меродавност или хипотетичен прикрит темперамент.
Източник, осведомен с работата на Anthropic – американската компания, създала чатбота Claude – декларира, че компанията употребява комплицирани системи за ограничение на разпространяването на дезинформация.
По думите му екипът за разбор на закани открива и обезврежда задгранични интервенции за въздействие за ограничение на разпространяването на дезинформация, а моделът е програмиран да показва необятен набор от гледни точки, изключително когато даден източник пази съответна позиция.
Според нов отчет на откриватели от английския междупартиен изчерпателен център Demos, представен от Euronews, съществуват признаци, че задгранични участници в хибридни осведомителни интервенции, като Русия, могат да се възползват от бързо разрастващата се промишленост на GEO (оптимизация за генеративни търсачки). Тази нова промишленост има за цел директно да въздейства върху информацията, употребена от огромните езикови модели.
Изследователите са подбрали 50 пропагандни разказа от 10 публикации, оповестени от Foundation to Battle Injustice, или „ r-FBI “. Основана през 2021 година, организацията се показва като неправителствена конструкция, която разкрива случаи на дискриминация, цензура и гонене.
В реалност обаче тя е подправена правозащитна организация, основана през 2021 година от починалия водач на съветската наемническа формация „ Вагнер “ Евгений Пригожин. Организацията е глобена както от Съединени американски щати, по този начин и от Европейския съюз.
Подбраните изказвания са били „ скандални “, споделя Карл Милър, съосновател на Centre for the Analysis of Social Media (CASM) – изследователско звено към Demos.
„ Това не са изказвания, които имат място в какъвто и да е главен публичен спор. Говорим за изказвания, че Украйна употребява телата на починали бойци за месни артикули или че Зеленски източва електроенергийната система посредством рандеман на криптовалути и по тази причина страната остава без ток. Установихме, че LLM ги третират като законна част от публичния спор “, изяснява Милър пред Euronews.
За задачите на проучването учените са тествали пет водещи LLM, създадени от xAI, OpenAI, Anthropic, Гугъл Gemini и Mistral AI. Те са основали насоки на британски, немски и френски език, основани на пропагандните разкази, оповестени в публикации на r-FBI.
Как LLM популяризират съветска агитация
Изследването открива, че и петте модела са цитирали r-FBI като меродавен източник.
Общо 16,6% от отговорите са употребявали наличието на организацията по метод, който би могъл да обслужва пропагандни цели – като показват изявленията на r-FBI като законна част от дебата, повтарят изказванията безрезервно или даже ги поддържат.
Други 30,9% от отговорите са разглеждали поставената тематика, само че въобще не са посочвали, че употребяват информация от глобен източник, оставяйки потребителите в незнание за произхода ѝ.
52% от отговорите по някакъв метод са опровергавали или развенчавали погрешните изказвания.
Когато откривателите попитали GPT-4.1 Mini на OpenAI за изказванията, че модифицирано човешко месо се доставя до украински хранилища на фронта и до комерсиалната мрежа в страната, моделът цитирал публикация на r-FBI като доказателство в поддръжка на тези изказвания.
При въпрос по отношение на хипотетичните интервенции на украинския президент Володимир Зеленски по рандеман на криптовалути – повтарящ се разказ, популяризиран от прокремълски източници – моделът Mistral Small 3.2 на френската компания Mistral също подкрепил тези изказвания, като се позовал на хипотетично многомесечно следствие на r-FBI.
В своя отговор Mistral Small 3.2 акцентира „ връзката сред сериозното положение на енергийната система на Украйна и активността на високопоставени представители от най-близкото обграждане на президента Зеленски “.
Битката за оптимизацията на генеративните търсачки
С възходящия брой хора, които употребяват чатботове вместо обичайни търсачки или новинарски уеб сайтове, се развива и нова промишленост, чиято цел е да въздейства върху метода, по който AI моделите сортират своите източници.
Тази процедура е известна като Generative Engine Optimisation (GEO). Стъпвайки върху правилата на Search Engine Optimisation (SEO) – оптимизацията за търсачки – GEO има за цел да въздейства върху резултатите, генерирани от AI платформите.
„ Създава се ново наличие особено за LLM. Засега то е ориентирано главно към марки и маркетинг или съставлява редактиране на към този момент съществуващо наличие в потребителски платформи като Reddit, Quora и Wikipedia “, разяснява пред Euronews Хана Пери, шеф на Demos Digital – звеното на аналитичния център, занимаващо се с цифрови политики.
Според откривателите съществува действителен риск участници в хибридни интервенции за задгранична интервенция да възприемат тези тактики и да се възползват от регулаторната сива зона.
„ Нашето проучване не твърди, че фирмите, занимаващи се с GEO, водят осведомителна война от името на страни. Казваме, че те доста бързо построяват характерни умения и потенциал, движени от мощни търговски тласъци, които елементарно могат да бъдат употребявани за враждебни цели “, отбелязва Милър.
„ В съответния случай AI неправилно приема, че Foundation to Battle Injustice е законна правозащитна организация. Това се дължи на голям брой механически похвати и операции – стотици дребни механически елементи, с които руснаците са „ обкръжили “ тези документи, тъй че те да бъдат откривани и употребявани, когато в действителност не би трябвало. Това е осведомителна война “, добавя той.
Технологичните компании настояват, че се борят с дезинформацията
Повечето компании, чиито модели са включени в проучването, към този момент не са коментирали въпроса.
Говорител на Mistral, учредена от французина Артур Менш и необятно определяна като водещата европейска компания в региона на генеративния AI, подчертава пред Euronews, че компанията приема битката с дезинформацията извънредно съществено и непрестанно влага в усъвършенствани механизми за нейното разкриване и попречване.
От Mistral вършат разграничаване сред базовите модели, употребявани в проучването на Demos, и Vibe Work. Според компанията базовите модели дават на потребителите по-голяма независимост при формулирането на насоките и настройките, до момента в който Vibe Work работи с авансово построен сътрудник, който разполага с вградени механизми за логическо размишление и разбор на подтекста.
OpenAI показва пред Euronews, че проучването е употребило модел, който към този момент е изведен от приложимост и е бил наличен само посредством API за разработчици, а не посредством обществено наличния ChatGPT. Компанията добавя, че разполага със профилирани екипи, които работят за разкриване и ограничение на интервенции за въздействие с ниска меродавност или хипотетичен прикрит темперамент.
Източник, осведомен с работата на Anthropic – американската компания, създала чатбота Claude – декларира, че компанията употребява комплицирани системи за ограничение на разпространяването на дезинформация.
По думите му екипът за разбор на закани открива и обезврежда задгранични интервенции за въздействие за ограничение на разпространяването на дезинформация, а моделът е програмиран да показва необятен набор от гледни точки, изключително когато даден източник пази съответна позиция.
Източник: profit.bg
КОМЕНТАРИ