Метапространствата ще имат нужда от големи екипи от охранители, които

Метапространствата ще имат потребност от огромни екипи от охранители, които да се грижат за запазване на спокойствието и положителното прекарване (снимка: CC0 Public Domain)

Компаниите за обществени мрежи към момента не са намерили съответни механизми за предотвратяване от рисково наличие, а ето, че метапространството към този момент набира скорост. Как ще се предпазваме от експанзията в новите виртуални светове?

Рави Йеканти поставя хедсета си, с цел да отиде на работа. Прави това всеки ден, само че в никакъв случай не знае какво ще му се случи през часовете, прекарани във виртуалната действителност. Кого може да срещне? Дали ще доближи до него детски глас с расистка закана? Ще се опита ли някоя подигравка да го удари?

Йеканти наглася обемистите очила, до момента в който седи на бюрото в офиса си в Хайдерабад, Индия, и се приготвя да се потопи в „ офис “, цялостен с анимирани аватари. Работата му е да подсигурява, че всички в метапространството са в сигурност и си прекарват добре. И той се гордее с това.

Нова специалност

Младият човек е представител на една нова специалност, пристигнала с възхода на новите технологии: VR модератор метапространството. Дигиталната сигурност в тази виртуална зона е като дива джунгла. Изобилства от полови похищения, тормоз и офанзиви към деца. Този проблем става все по-спешен след решението на Meta да понижи възрастовия най-малко за своята платформа Horizon Worlds от 18 на 13 години. Изглежда, че има и набор от функционалности и правила, предопределени да защитят по-младите консуматори. Все отново някой би трябвало да наложи тези правила и да подсигурява, че няма агресори, които заобикалят разпоредбите. Но постоянно ще има особи, които ще се опитат…

Йеканти работи като модератор и управител на образование във виртуална действителност от 2020 година и се е заел с тази активност, откакто е правил „ обичайната “ работа по модериране на текст и изображения в обществени мрежи. Нает е от WebPurify – компания, която дава услуги за модериране на наличие на интернет компании като Microsoft и Play Lab. Младежът работи с екип, който се намира в Индия. Неговата работа се прави най-вече в всеобщи платформи за метапространство.

Дългогодишен интернет запалянко, Йеканти споделя, че обича да си поставя VR хедсета, да се среща с хора от целия свят и да дава препоръки на основателите на метапространства по какъв начин да подобрят своите игри и виртуални „ светове “. Той е част от нова специалност – тази на VR модераторите, които пазят сигурността в метавселената като частни охранителни сътрудници, взаимодействащи с аватарите на доста действителни хора, с цел да открият неправилно държание във виртуалната действителност. Всъщност той не разкрива обществено статуса си на модератор. Вместо това работи под прикритие. Представя се за елементарен консуматор, с цел да може да е очевидец на нарушаванията от първо лице.

Засега обичайните принадлежности за модериране, като AI филтрите за избрани думи, не сработват добре във виртуалните светове. Затова модератори като Йеканти са главният метод за обезпечаване на сигурност в цифровия свят. Работата им става все по-важна с всеки минал ден.

Безопасността на метапространствата

Проблемът с сигурността на метапространствата е комплициран. Журналисти оповестяват за случаи на обидни мнения, измами, полови набези и даже похищение. Най-големите виртуални платформи усърдно крият статистиката си за неприятното държание напотребителите. Но Йеканти споделя, че всеки ден се сблъсква с нарушавания, за които следва да се рапортува.
още по темата
Meta отхвърля да разяснява такива въпроси, като единствено показва, че има лист с принадлежности и политики за сигурност, както и че е обучила експерти по сигурност в Horizon Worlds. Говорител на Roblox пък споделя, че компанията има „ екип от хиляди модератори, които наблюдават за неуместно наличие 24 часа в денонощието, 7 дни в седмицата и проверяват отчети, изпратени от общността “.

„ Социалните медии са градивният детайл на метапростраснтвото и ние би трябвало да третираме метапространството като еволюция – като идната стъпка на обществените медии, а не като нещо изцяло настрана “, споделя Хуан Лондоньо, политически анализатор във Фондация осведомителни технологии и нововъведения – мозъчен концерн във Вашингтон.

Но като се има поради завладяващата природа на метапространството, доста принадлежности, основани за справяне с милиардите евентуално нездравословни думи и изображения в двуизмерната мрежа, не работят добре във VR. Живите модератори се Модераторите се оказват измежду най-важните решения.

Случаите, в които възрастни хора с грабителски планове се пробват да основат връзки на доверие с малолетни, е измежду най-големите провокации. Технологиите не могат да филтрират и предотвратяват тази корист самодейно. Остава потребителите да рапортуват за неприятното държание.

„ Ако една компания разчита на потребителите да рапортуват за евентуално травматични неща, които са им се случили, или за евентуално рискови обстановки, към този момент е прекомерно късно “, споделя Делара Деракшани, юрист по дискретност, който е работил в Meta’s Reality Labs до октомври 2022 година „ Тежестта не би трябвало да пада върху децата – а и досега на съобщаването евентуална контузия или вреда е към този момент нанесена. “

Първа линия на модерацията

Поглъщащият темперамент на метапространството значи, че държанието при нарушение на правила е многоизмерно и е мъчно да бъде уловено в действително време.

WebPurify, която до неотдавна се фокусираше върху модерирането на онлайн текст и изображения, в този момент към този момент предлага услуги за компании за виртуални светове – от началото на предходната година. Наскоро компанията притегли някогашния началник на дивизията по онлайн сигурност на Twitter – Алекс Попкен. „ Мислииим по какъв начин да направляваме VR и AR, което е нещо като нова територия, тъй като в действителност гледате човешкото държание онлайн “, споделя Попкен.

Служителите на WebPurify са на първа линия в тези нови киберпрестъпления, а мненията с расистко и полово наличие са най-често срещани. Йеканти споделя, че една модераторка от неговия екип е говорила с консуматор, който е схванал, че е индийка, и е предложил да се ожени за нея в подмяна на крава.

Други произшествия са по-сериозни. Друга модераторка от екипа на Йеканти се натъкна на консуматор, който отправил мощно сексуализирани обиди, споменавайки полови органи. Веднъж консуматор се приближи до модератор и като че ли го хвана за гениталната област. (Потребителят твърди, че желае да даде пет.)

Модераторите следват подробни политики за сигурност, които обрисуват по какъв начин да се хващат и рапортуват нарушавания. Една игра, върху която модераторският екип работи, стъпва на политика, която дефинира предпазени категории хора: те са избрани от характерности като раса, етническа принадлежност, пол, политическа принадлежност, вяра, полова ориентировка и бежански статут. Йеканти споделя, че „ всяка форма на отрицателен коментар към тази предпазена група ще се смята за омразна “. Модераторите биват обучавани да дават отговор съразмерно, като употребяват личната си преценка. Това може да значи заглушаване на потребителите, които нарушават разпоредбите, премахването им от играта или докладването им на компанията.

Освен доста ясна преценка, модераторите би трябвало да се отличават и с висока прочувствена просветеност. Освен това би трябвало да са с доста необятна обща просвета. Очакванията по отношение на междуличностното пространство и физическите поздрави, да вземем за пример, варират в другите култури и консуматори.

Противопоставяне

Работата на модераторите се случва под прикритие, тъй че потребителите да не трансформират държанието си, тъй като знаят, че взаимодействат с модератор. Но модерирането значи и още нещо – опълчване на упованията по отношение на поверителността на потребителите.

Ключова част от работата е „ следенето на всичко “, споделя Йеканти. Модераторите записват всичко, което се случва в играта от момента, в който се причислят досега, в който изоставен, в това число диалозите сред играчите. Това значи, че те постоянно се вслушват в диалози, даже когато играчите не знаят, че са следени и подслушвани.

„ Ако желаеме платформите да имат практическа роля във връзка с сигурността на потребителите, това може да докара до някои взаимни отстъпки с поверителността, за които потребителите може да не се усещат удобно “, споделя Лондоньо.

Деракшани, някогашният юрист на Meta, споделя, че се нуждаем от повече бистрота за това по какъв начин фирмите се оправят с сигурността в метавселената.