Roblox застрашава деца. Компанията с AI ще преценява възрастта, за да блокира чат с възрастни
Ако потребителите на Roblox желаят да пишат на онлайн платформата за игри, скоро ще би трябвало да потвърдят възрастта си, като дават документ за идентичност или разрешат на инструмент за AI да направи фотография на лицето им, с цел да реши възрастта им.
Тази смяна идва, защото платформата е изправена пред поредност от правосъдни каузи и други обвинявания, че е разрешила на полови хищници да се свързват с деца и да ги злоупотребяват. Roblox споделя, че обновената политика ще улесни предотвратяването на свързване сред млади консуматори и непознати възрастни.
Roblox е платформа, на която потребителите могат да основават и играят онлайн игри и да взаимодействат между тях. За разлика от доста други онлайн платформи, Roblox разрешава консуматори под 13-годишна възраст; платформата от дълго време се популяризира като занимателен метод за деца да се научат да програмират. Тя има повече от 150 милиона консуматори в международен мащаб, една трета от които са под 13 години.
Но компанията попадна под засилен надзор след отчети за деца, които са били манипулирани, измъчвани или в някои случаи даже отвличани от възрастни, с които са се срещнали посредством Roblox.
Главните прокурори на Кентъки и Луизиана заведоха обособени каузи по-рано тази година, обвинявайки Roblox в увреждане на деца. Главният прокурор на Флорида също издаде наказателна призовка предишния месец с искане за информация от компанията и назова Roblox " разплодник за хищници ".
Отделни фамилии също съдят компанията, в това число Бека Далас, която твърди, че 15-годишният ѝ наследник Итън се е самоубил, откакто е бил манипулиран посредством Roblox и платформата за известия Discord.
Roblox към този момент има някои политики и функционалности, предопределени да пазят младите потребители; да вземем за пример предлага наставнически надзор, блокира шерването на фотоси и персонална информация и употребява човешка и AI модерация на текст и гласови чатове. Той също по този начин изисква потребителите да потвърдят възрастта си, с цел да имат достъп до избрани „ 18+ “ преживявания, като игри с тежко принуждение или недодялан комизъм. Но оповестената във вторник актуализация се чака доста да усили броя на потребителите, които удостоверяват възрастта си, споделиха ръководители в диалог с кореспонденти.
" Наш приоритет са сигурността и положителният звук ", сподели шефът по сигурност на Roblox Мат Кауфман.
" Искаме да създадем Roblox безвредно, положително и уместно за възрастта прекарване за всички. Поставяме си извънредно високи стандарти и разбираме, че обществото чака същото от нас. "
Съобщението от вторник съответствува с плануван “виртуален митинг ” в Roblox, проведен от нестопанската организация ParentsTogether Action, с искане за повече функционалности за сигурност на младежите на платформата, в това число по-силни настройки за дискретност по дифолт за консуматори под 13 години.
То идва и на фона на по-широк напън онлайн платформите да дефинират възрастта на потребителите, с цел да защитят младите хора; YouTube и Meta са измежду другите известни приложения, които употребяват AI за възрастови оценки, въпреки че инструментите варират сред платформите.
Според новата политика всички консуматори ще би трябвало да потвърдят възрастта си, преди да получат достъп до чат функционалностите в Roblox.
Ако потребителите изберат да не качват документ за идентичност, ще би трябвало да снимат лицето си, с цел да може AI да оцени възрастта им посредством технология на компанията за инспекция на идентичност Persona. Инструментът употребява предната камера на устройството и насочва потребителите да движат лицето си в избрани направления, с цел да се увери, че действителен човек прави инспекцията.
AI ще слага потребителите в приблизителна възрастова група: под 9, 9 - 12, 13 - 15, 16 -17, 18 - 20 или 21+ и те ще могат да пишат единствено с консуматори в същата или близка възрастова група.
Потребител, оценен като 12-годишен, да вземем за пример, ще може да пишат с консуматори на възраст до 15 години, само че не и с 16-годишни или по-възрастни, съгласно Roblox.
Ако AI сложи някого в неверна възрастова категория, консуматори над 13 могат да качат документ за идентичност, с цел да поправят възрастта си. Родителите, чиито сметки са свързани с детските им посредством родителските принадлежности на Roblox, също могат да поправят възрастта на детето.
Roblox споделя, че изображенията на лицата на потребителите ще се употребяват единствено за оценка на възрастта и ще бъдат изтрити, откакто потребителите бъдат сложени в подобаваща възрастова група.
Тази смяна идва, защото платформата е изправена пред поредност от правосъдни каузи и други обвинявания, че е разрешила на полови хищници да се свързват с деца и да ги злоупотребяват. Roblox споделя, че обновената политика ще улесни предотвратяването на свързване сред млади консуматори и непознати възрастни.
Roblox е платформа, на която потребителите могат да основават и играят онлайн игри и да взаимодействат между тях. За разлика от доста други онлайн платформи, Roblox разрешава консуматори под 13-годишна възраст; платформата от дълго време се популяризира като занимателен метод за деца да се научат да програмират. Тя има повече от 150 милиона консуматори в международен мащаб, една трета от които са под 13 години.
Но компанията попадна под засилен надзор след отчети за деца, които са били манипулирани, измъчвани или в някои случаи даже отвличани от възрастни, с които са се срещнали посредством Roblox.
Главните прокурори на Кентъки и Луизиана заведоха обособени каузи по-рано тази година, обвинявайки Roblox в увреждане на деца. Главният прокурор на Флорида също издаде наказателна призовка предишния месец с искане за информация от компанията и назова Roblox " разплодник за хищници ".
Отделни фамилии също съдят компанията, в това число Бека Далас, която твърди, че 15-годишният ѝ наследник Итън се е самоубил, откакто е бил манипулиран посредством Roblox и платформата за известия Discord.
Roblox към този момент има някои политики и функционалности, предопределени да пазят младите потребители; да вземем за пример предлага наставнически надзор, блокира шерването на фотоси и персонална информация и употребява човешка и AI модерация на текст и гласови чатове. Той също по този начин изисква потребителите да потвърдят възрастта си, с цел да имат достъп до избрани „ 18+ “ преживявания, като игри с тежко принуждение или недодялан комизъм. Но оповестената във вторник актуализация се чака доста да усили броя на потребителите, които удостоверяват възрастта си, споделиха ръководители в диалог с кореспонденти.
" Наш приоритет са сигурността и положителният звук ", сподели шефът по сигурност на Roblox Мат Кауфман.
" Искаме да създадем Roblox безвредно, положително и уместно за възрастта прекарване за всички. Поставяме си извънредно високи стандарти и разбираме, че обществото чака същото от нас. "
Съобщението от вторник съответствува с плануван “виртуален митинг ” в Roblox, проведен от нестопанската организация ParentsTogether Action, с искане за повече функционалности за сигурност на младежите на платформата, в това число по-силни настройки за дискретност по дифолт за консуматори под 13 години.
То идва и на фона на по-широк напън онлайн платформите да дефинират възрастта на потребителите, с цел да защитят младите хора; YouTube и Meta са измежду другите известни приложения, които употребяват AI за възрастови оценки, въпреки че инструментите варират сред платформите.
Според новата политика всички консуматори ще би трябвало да потвърдят възрастта си, преди да получат достъп до чат функционалностите в Roblox.
Ако потребителите изберат да не качват документ за идентичност, ще би трябвало да снимат лицето си, с цел да може AI да оцени възрастта им посредством технология на компанията за инспекция на идентичност Persona. Инструментът употребява предната камера на устройството и насочва потребителите да движат лицето си в избрани направления, с цел да се увери, че действителен човек прави инспекцията.
AI ще слага потребителите в приблизителна възрастова група: под 9, 9 - 12, 13 - 15, 16 -17, 18 - 20 или 21+ и те ще могат да пишат единствено с консуматори в същата или близка възрастова група.
Потребител, оценен като 12-годишен, да вземем за пример, ще може да пишат с консуматори на възраст до 15 години, само че не и с 16-годишни или по-възрастни, съгласно Roblox.
Ако AI сложи някого в неверна възрастова категория, консуматори над 13 могат да качат документ за идентичност, с цел да поправят възрастта си. Родителите, чиито сметки са свързани с детските им посредством родителските принадлежности на Roblox, също могат да поправят възрастта на детето.
Roblox споделя, че изображенията на лицата на потребителите ще се употребяват единствено за оценка на възрастта и ще бъдат изтрити, откакто потребителите бъдат сложени в подобаваща възрастова група.
Източник: mediapool.bg
КОМЕНТАРИ