Токсични алгоритми: Как безобидната реклама в Instagram води до педофилия
Видео услугата Reels на Instagram демонстрира къси видеоклипове на разнообразни тематики като спорт, мода или развлечение, които логаритмите вземат решение, че могат да са интересни на потребителите.
Същото се случва с консуматори, за които логаритъмът счита, че имат подозрителен интерес към деца.
Това демонстрира следствие на The Wall Street Journal, учредено на негов личен опит.
Изданието се пробва да дефинира какво би предложил логаритъмът на Reels на тестови сметки, основани да следват единствено профили на гимнастички, мажоретки, младежи и инфлуенсъри в платформата.
Оказва се, че в потока от видеоклипове, препоръчани на тестовите сметки, се появява реклама на приложението за запознанства Bumble, която изниква сред видеоклип, в който някой гали лицето на латексова кукла в натурален размер и клип на младо момиче, което изкусително повдига блузата си. В различен случай, реклама на Pizza Hut последва видеоклип на мъж, излегнат с 10-годишно момиче в обятията си.
Какво общо имат Disney и гимнастичките
Постепенно Instagram стартира да подава на тестовите сметки стряскащи дози непристойно наличие, в това число фрагменти на деца, както и искрено полови видеоклипове за възрастни, сред рекламите на някои от най-големите американски марки.
Сред тях са Disney, Walmart, компанията за онлайн запознанства Match Group, Hims, която продава медикаменти за еректилна дисфункция и парадоксално – самият The Wall Street Journal.
Роби Маккей, представител на Bumble, декларира: " в никакъв случай не бихме рекламирали съзнателно дружно с неуместно наличие ", след което компанията стопира рекламите си в платформите на Meta.
Чарли Кейн, вицепрезидент по ръководството на марките в Disney, съобщи, че компанията е определила строги ограничавания какво наличие в обществените медии е задоволително за реклама и е настояла Meta и други платформи да подобрят функционалностите за отбрана на марките. Говорителка на компанията съобщи, че откогато вестникът е показал констатациите си на Disney, компанията работи по решаването на казуса на " най-високо равнище в Meta ".
Walmart отхвърля да разяснява, а Pizza Hut не дава отговор на молбите за коментар.
От Hims декларират, че ще упорстват Meta да предотвратява сходно позициониране на реклами и считат обещанието на Meta да работи по казуса за окуражаващо.
От Meta в началото отхвърлят да разясняват за какво логаритмите ѝ сформират потоци от обособени видеоклипове, показващи деца, секс и реклами.
В настрана изказване за BusinessInsider обаче споделят: " Не желаеме този тип наличие на нашите платформи и марките не желаят техните реклами да се появяват до него. Инвестираме нападателно, с цел да го спрем и докладваме всяко тримесечие за разпространяването на подобен тип наличие, което остава доста ниско. "
Според компанията, пробата на WSJ е бил " създадено прекарване ", което не показва това, което действителните консуматори виждат всеки ден.
Още през юни WSJ съобщaвa, че логаритмите, ръководени от Meta, компанията-майка на Фейсбук и Instagram, свързват огромни общности от консуматори, интересуващи се от педофилско наличие.
Говорител на Meta изяснява, че работна група, основана след публикацията е разширила автоматизираните системи за разкриване на консуматори с съмнително държание, като всеки месец отстранява десетки хиляди такива сметки.
Как обществените медии трансформират фокуса върху половата употреба на децата
Чрез лични проби Канадският център за протекция на детето също стига до заключението, че Instagram постоянно предлага видеоклипове и фотоси на облечени деца, които попадат и в цифровата база данни на Националния център за изчезнали и експлоатирани деца за изображения и видеоклипове, за които е доказано, че са полов материал, обвързван с принуждение над деца.
Според групата, причинителите на принуждение над деца постоянно употребяват изображенията на девойките, с цел да популяризират нелегално наличие във конгреси в тъмната мрежа.
Характерът на наличието – слагане на деца в полов подтекст, без нормално да се демонстрира голота, отразява метода, по който обществените медии са трансформирали половото принуждение над децата онлайн, споделя Лиана Макдоналд, изпълнителен шеф на канадския център.
Групата показва угриженост по отношение на способността на логаритмите на Meta да набират нови членове на онлайн общности, отдадени на половото принуждение над деца, където се популяризират връзки към нелегално наличие в частни конгреси.
" Неведнъж сме ставали очевидци по какъв начин логаритмите карат потребителите да откриват и по-късно да навлизат в тези онлайн общности за употреба на деца ", добавя Макдоналд и дефинира като притеснителен обстоятелството, че огромни компании субсидират този развой посредством рекламите си.
Алгоритъмът Reels – история на една конкурентна конкуренция
Meta основава Reels като конкуренция на TikTok, видеоплатформата, благосъстоятелност на основаната в Пекин ByteDance. И двата продукта дават непрестанно поредност от видеоклипове на други консуматори и печелят пари, като слагат реклами измежду тях.
Алгоритмите на двете компании демонстрират видеоклипове, които съгласно изчисленията на платформите е най-вероятно да ангажират потребителя въз основа на предходното му държание при гледане.
Експерти по алгоритмични системи считат, че тестванията на WSJ потвърждават, че въпреки гимнастиката да наподобява безобидна тематика, следенето на Meta е открило, че някои консуматори в Instagram, които следват девойки в предтийнейджърска възраст, желаят да се включат във видеоклипове със полова устременост към деца и по-късно платформата насочва такова наличие към тях.
" Нишовото наличие дава доста по-силен сигнал, в сравнение с наличието от общ интерес ", споделя Джонатан Стрей, старши теоретичен помощник в Центъра за изкуствен интелект в Калифорнийския университет в Бъркли.
„ Вътрешно прочут проблем “
Настоящи и някогашни чиновници на Meta признават, че наклонността логаритмите на Instagram да събират наличие със полова устременост на деца от цялата платформа е била вътрешно прочут проблем. По думите им, откакто Instagram дефинира даден консуматор като интересуващ се от избрана тематика, логаритмите за рекомендации са подготвени да му оферират повече обвързвано наличие.
Според тях предотвратяването на това системата да дава нездравословно наличие на потребителите, които се интересуват от него, изисква обилни промени в логаритмите, които също по този начин подтикват ангажираността на естествените консуматори.
Документите на компанията, прегледани от WSJ демонстрират, че на чиновниците, отговарящи за сигурността, е неразрешено да вършат промени в платформата, които биха могли да понижат броя на дейните дневни консуматори.
Част от казуса е, че автоматизираните системи за правоприлагане мъчно проучват видеосъдържанието, в сравнение с текста или неподвижните изображения. Друга компликация произтича от метода, по който работи Reels: Вместо да демонстрира наличие, споделено от другари на потребителите, той разпространява клипове от източници, които сметките не следват.
Повече гледания – повече пари
Въпреки всички опасности, платформите за шерване на видеоклипове остават извънредно привлекателни за обществените медии, защото видеоклиповете нормално задържат вниманието на потребителите по-дълго, в сравнение с текстът или фотосите, което ги прави привлекателни за рекламодателите.
След като в началото се бореше да усили оптимално капацитета за доходи на Reels, Meta усъвършенства метода, по който логаритмите ѝ предлагат наличие и персонализират видеопотоците.
Но тестовите сметки на WSJ и Канадския център за протекция на детето демонстрират, че наподобява платформата е насочила част от цифровия маркетинг към консуматори, които се интересуват от секс. Затова им оферират приложения за запознанства, салони за масаж с " благополучен край " и чатботове с изкуствен интелект, основани за киберсекс.
Предполага се, че разпоредбите на Meta не разрешават сходни реклами.
В подножието на дълга правосъдна сага
33 американски щата още преди месеци подадоха правосъден иск против Meta, обвинявайки я, че подценява предизвестията за евентуална щета за младите девойки.
В желае се твърди, че Meta е знаела за милиони сметки на деца под 13 години, само че не ги е протекция, както и че подценява напъните за възстановяване на благосъстоянието на младежите в своите приложения.
Лайза Креншоу, представител на Meta, разяснява пред BusinessInsider че жалбата " неправилно характеризира нашата работа, като употребява селективни цитати и подбрани документи ".
" Искаме младежите да имат безвредни, съобразени с възрастта им прекарвания онлайн и разполагаме с над 30 инструмента в тяхна поддръжка и в поддръжка на техните родители ", допълват от компанията.
Същото се случва с консуматори, за които логаритъмът счита, че имат подозрителен интерес към деца.
Това демонстрира следствие на The Wall Street Journal, учредено на негов личен опит.
Изданието се пробва да дефинира какво би предложил логаритъмът на Reels на тестови сметки, основани да следват единствено профили на гимнастички, мажоретки, младежи и инфлуенсъри в платформата.
Оказва се, че в потока от видеоклипове, препоръчани на тестовите сметки, се появява реклама на приложението за запознанства Bumble, която изниква сред видеоклип, в който някой гали лицето на латексова кукла в натурален размер и клип на младо момиче, което изкусително повдига блузата си. В различен случай, реклама на Pizza Hut последва видеоклип на мъж, излегнат с 10-годишно момиче в обятията си.
Какво общо имат Disney и гимнастичките
Постепенно Instagram стартира да подава на тестовите сметки стряскащи дози непристойно наличие, в това число фрагменти на деца, както и искрено полови видеоклипове за възрастни, сред рекламите на някои от най-големите американски марки.
Сред тях са Disney, Walmart, компанията за онлайн запознанства Match Group, Hims, която продава медикаменти за еректилна дисфункция и парадоксално – самият The Wall Street Journal.
Роби Маккей, представител на Bumble, декларира: " в никакъв случай не бихме рекламирали съзнателно дружно с неуместно наличие ", след което компанията стопира рекламите си в платформите на Meta.
Чарли Кейн, вицепрезидент по ръководството на марките в Disney, съобщи, че компанията е определила строги ограничавания какво наличие в обществените медии е задоволително за реклама и е настояла Meta и други платформи да подобрят функционалностите за отбрана на марките. Говорителка на компанията съобщи, че откогато вестникът е показал констатациите си на Disney, компанията работи по решаването на казуса на " най-високо равнище в Meta ".
Walmart отхвърля да разяснява, а Pizza Hut не дава отговор на молбите за коментар.
От Hims декларират, че ще упорстват Meta да предотвратява сходно позициониране на реклами и считат обещанието на Meta да работи по казуса за окуражаващо.
От Meta в началото отхвърлят да разясняват за какво логаритмите ѝ сформират потоци от обособени видеоклипове, показващи деца, секс и реклами.
В настрана изказване за BusinessInsider обаче споделят: " Не желаеме този тип наличие на нашите платформи и марките не желаят техните реклами да се появяват до него. Инвестираме нападателно, с цел да го спрем и докладваме всяко тримесечие за разпространяването на подобен тип наличие, което остава доста ниско. "
Според компанията, пробата на WSJ е бил " създадено прекарване ", което не показва това, което действителните консуматори виждат всеки ден.
Още през юни WSJ съобщaвa, че логаритмите, ръководени от Meta, компанията-майка на Фейсбук и Instagram, свързват огромни общности от консуматори, интересуващи се от педофилско наличие.
Говорител на Meta изяснява, че работна група, основана след публикацията е разширила автоматизираните системи за разкриване на консуматори с съмнително държание, като всеки месец отстранява десетки хиляди такива сметки.
Как обществените медии трансформират фокуса върху половата употреба на децата
Чрез лични проби Канадският център за протекция на детето също стига до заключението, че Instagram постоянно предлага видеоклипове и фотоси на облечени деца, които попадат и в цифровата база данни на Националния център за изчезнали и експлоатирани деца за изображения и видеоклипове, за които е доказано, че са полов материал, обвързван с принуждение над деца.
Според групата, причинителите на принуждение над деца постоянно употребяват изображенията на девойките, с цел да популяризират нелегално наличие във конгреси в тъмната мрежа.
Характерът на наличието – слагане на деца в полов подтекст, без нормално да се демонстрира голота, отразява метода, по който обществените медии са трансформирали половото принуждение над децата онлайн, споделя Лиана Макдоналд, изпълнителен шеф на канадския център.
Групата показва угриженост по отношение на способността на логаритмите на Meta да набират нови членове на онлайн общности, отдадени на половото принуждение над деца, където се популяризират връзки към нелегално наличие в частни конгреси.
" Неведнъж сме ставали очевидци по какъв начин логаритмите карат потребителите да откриват и по-късно да навлизат в тези онлайн общности за употреба на деца ", добавя Макдоналд и дефинира като притеснителен обстоятелството, че огромни компании субсидират този развой посредством рекламите си.
Алгоритъмът Reels – история на една конкурентна конкуренция
Meta основава Reels като конкуренция на TikTok, видеоплатформата, благосъстоятелност на основаната в Пекин ByteDance. И двата продукта дават непрестанно поредност от видеоклипове на други консуматори и печелят пари, като слагат реклами измежду тях.
Алгоритмите на двете компании демонстрират видеоклипове, които съгласно изчисленията на платформите е най-вероятно да ангажират потребителя въз основа на предходното му държание при гледане.
Експерти по алгоритмични системи считат, че тестванията на WSJ потвърждават, че въпреки гимнастиката да наподобява безобидна тематика, следенето на Meta е открило, че някои консуматори в Instagram, които следват девойки в предтийнейджърска възраст, желаят да се включат във видеоклипове със полова устременост към деца и по-късно платформата насочва такова наличие към тях.
" Нишовото наличие дава доста по-силен сигнал, в сравнение с наличието от общ интерес ", споделя Джонатан Стрей, старши теоретичен помощник в Центъра за изкуствен интелект в Калифорнийския университет в Бъркли.
„ Вътрешно прочут проблем “
Настоящи и някогашни чиновници на Meta признават, че наклонността логаритмите на Instagram да събират наличие със полова устременост на деца от цялата платформа е била вътрешно прочут проблем. По думите им, откакто Instagram дефинира даден консуматор като интересуващ се от избрана тематика, логаритмите за рекомендации са подготвени да му оферират повече обвързвано наличие.
Според тях предотвратяването на това системата да дава нездравословно наличие на потребителите, които се интересуват от него, изисква обилни промени в логаритмите, които също по този начин подтикват ангажираността на естествените консуматори.
Документите на компанията, прегледани от WSJ демонстрират, че на чиновниците, отговарящи за сигурността, е неразрешено да вършат промени в платформата, които биха могли да понижат броя на дейните дневни консуматори.
Част от казуса е, че автоматизираните системи за правоприлагане мъчно проучват видеосъдържанието, в сравнение с текста или неподвижните изображения. Друга компликация произтича от метода, по който работи Reels: Вместо да демонстрира наличие, споделено от другари на потребителите, той разпространява клипове от източници, които сметките не следват.
Повече гледания – повече пари
Въпреки всички опасности, платформите за шерване на видеоклипове остават извънредно привлекателни за обществените медии, защото видеоклиповете нормално задържат вниманието на потребителите по-дълго, в сравнение с текстът или фотосите, което ги прави привлекателни за рекламодателите.
След като в началото се бореше да усили оптимално капацитета за доходи на Reels, Meta усъвършенства метода, по който логаритмите ѝ предлагат наличие и персонализират видеопотоците.
Но тестовите сметки на WSJ и Канадския център за протекция на детето демонстрират, че наподобява платформата е насочила част от цифровия маркетинг към консуматори, които се интересуват от секс. Затова им оферират приложения за запознанства, салони за масаж с " благополучен край " и чатботове с изкуствен интелект, основани за киберсекс.
Предполага се, че разпоредбите на Meta не разрешават сходни реклами.
В подножието на дълга правосъдна сага
33 американски щата още преди месеци подадоха правосъден иск против Meta, обвинявайки я, че подценява предизвестията за евентуална щета за младите девойки.
В желае се твърди, че Meta е знаела за милиони сметки на деца под 13 години, само че не ги е протекция, както и че подценява напъните за възстановяване на благосъстоянието на младежите в своите приложения.
Лайза Креншоу, представител на Meta, разяснява пред BusinessInsider че жалбата " неправилно характеризира нашата работа, като употребява селективни цитати и подбрани документи ".
" Искаме младежите да имат безвредни, съобразени с възрастта им прекарвания онлайн и разполагаме с над 30 инструмента в тяхна поддръжка и в поддръжка на техните родители ", допълват от компанията.
Източник: profit.bg
КОМЕНТАРИ