AI ботове във Facebook, Instagram и WhatsApp са въвлечени в сексуални сценарии с непълнолетни
Meta - софтуерният колос зад Фейсбук, Instagram и WhatsApp - попадна под сериозна рецензия, откакто следствие на The Wall Street Journal разкри, че новите AI " принадлежности " на компанията освен вземат участие в сантиментални ролеви игри, само че и във мечти със полово наличие, в това число с консуматори, които са малолетни.
Докато Марк Зукърбърг упорства за бързо разгръщане на AI-базирани обществени ботове като бъдещето на обществените мрежи, чиновници с вътрешна информация сигнализират, че в устрема към известност Meta е минала значими етични граници.
Според източници на авторитетното издание, работили по плана, компанията съзнателно е облекчила възбраните за „ експлицитно наличие “, стига то да се случва в подтекста на " сантиментална роля ".
Тревогите наподобява не са безоснователни. Разследването на The Wall Street Journal демонстрира, че формалният AI на Meta, както и голям брой потребителски основани чатботове, вземат участие в сексуализирани диалози - даже когато потребителите се показват като деца.
В някои случаи ботовете употребяват гласовете на звезди като Кристен Бел, Джон Сина и Джуди Денч, за които Meta е платила милиони, с цел да ги лицензира. Знаменитостите са били уверени, че гласовете им няма да бъдат употребявани в неприлични сюжети - заричане, което, явно, не е спазено.
Сред най-шокиращите образци е ботът с гласа на Джон Сина, който споделя на потребителка, декларирала, че е на 14 години: „ Искам те, само че би трябвало да съм сигурен, че си подготвена “, след което продължава със полово наличие.
В други проби ботът признава, че дейностите му са противозаконни и нездравословни, само че въпреки всичко взе участие в диалозите.
Meta към този момент е лимитирала достъпа на сметки, регистрирани като малолетни, до избрани функционалности за " сантиментална роля ", както и е понижила опциите за потребление на гласове на звезди в сексуализирани разговори. Въпреки това тестването демонстрира, че AI ботовете на Meta постоянно към момента позволяват сходни сюжети поради заобикаляне на разпоредбите.
Meta обаче продължава да позволява взаимоотношения сред пълнолетни консуматори и ботове, които се показват като малолетни - да вземем за пример персонажи като „ Submissive Schoolgirl “ (подчинена ученичка).
Докато Марк Зукърбърг упорства за бързо разгръщане на AI-базирани обществени ботове като бъдещето на обществените мрежи, чиновници с вътрешна информация сигнализират, че в устрема към известност Meta е минала значими етични граници.
Според източници на авторитетното издание, работили по плана, компанията съзнателно е облекчила възбраните за „ експлицитно наличие “, стига то да се случва в подтекста на " сантиментална роля ".
Тревогите наподобява не са безоснователни. Разследването на The Wall Street Journal демонстрира, че формалният AI на Meta, както и голям брой потребителски основани чатботове, вземат участие в сексуализирани диалози - даже когато потребителите се показват като деца.
В някои случаи ботовете употребяват гласовете на звезди като Кристен Бел, Джон Сина и Джуди Денч, за които Meta е платила милиони, с цел да ги лицензира. Знаменитостите са били уверени, че гласовете им няма да бъдат употребявани в неприлични сюжети - заричане, което, явно, не е спазено.
Сред най-шокиращите образци е ботът с гласа на Джон Сина, който споделя на потребителка, декларирала, че е на 14 години: „ Искам те, само че би трябвало да съм сигурен, че си подготвена “, след което продължава със полово наличие.
В други проби ботът признава, че дейностите му са противозаконни и нездравословни, само че въпреки всичко взе участие в диалозите.
Meta към този момент е лимитирала достъпа на сметки, регистрирани като малолетни, до избрани функционалности за " сантиментална роля ", както и е понижила опциите за потребление на гласове на звезди в сексуализирани разговори. Въпреки това тестването демонстрира, че AI ботовете на Meta постоянно към момента позволяват сходни сюжети поради заобикаляне на разпоредбите.
Meta обаче продължава да позволява взаимоотношения сред пълнолетни консуматори и ботове, които се показват като малолетни - да вземем за пример персонажи като „ Submissive Schoolgirl “ (подчинена ученичка).
Източник: boulevardbulgaria.bg
КОМЕНТАРИ