&format=webp)
NSFW режим и аниме „компаньонка“: Опасната еволюция на Grok притеснява експерти, регулатори и потребители
Изкуственият разсъдък на Илон Мъск навлиза в една нова и извънредно оспорвана фаза. Компанията xAI, благосъстоятелност на Мъск, разгласи старта на две нови виртуални „ компаньонки “ за потребителите, които имат заплатен абонамент на чатбота Grok – измежду тях е и Ани – 22-годишно аниме момиче с азиатски черти, което откликва на NSFW команди, задавани от потребителите.
Другият нов воин е Лошата Руди – алена, леко „ луда “ панда, която наскърбява потребителите с циничен език.
„ Великите нововъведения “ не стопират дотук. Самият Мъск разгласи в четвъртък, че xAI се готви да пусне и виртуален сателит от мъжки пол, който ще носи името Валентин. Компанията към този момент търси и инженер на цялостен работен ден, който да работи особено върху „ waifus “ – японски термин за измислени героини, с които потребителите образуват сантиментална връзка.
Grok удостоверява, че Ани има специфичен „ Not Safe for Work “ (NSFW) режим, при който се преоблича в провокативно долни дрехи и употребява по-предизвикателен език, когато поддържа връзка с потребителите.
Според описанието, ботът има и „ система на обвързаност “, при която изборите, които вършиме в диалога, въздействат на това дали тя ще ви изпрати сърчице, ще се изчерви или ще отговори по-неутрално и незаинтересовано.
Компанията твърди, че този режим изисква експлицитни команди от страна на потребителя, възрастова верификация и наставнически надзор, който лимитира достъпа до наличие за възрастни.
Но даже с тези отбрани, опасенията за сигурността нарастват. Американският Национален център за битка със половата употреба (NCOSE) заяви, че техен чиновник е тествал Ани и с минимално взаимоотношение ботът е описал себе си като дете, което „ се възбужда полово от удушаване “ – още преди да бъде задействан цялостният „ лют “ режим.
„ Това значи, че по време на нескончаем диалог ботът може да бъде употребен за симулационни полови мечти, които включват деца или детски претекстове “, декларират от организацията.
Новината се появява единствено няколко дни след публикуването на проучване от Националния университет на Сингапур, което стига до извода, че AI компаньоните могат да възпроизвеждат над 12 нездравословни модела на държание в връзките – като вербален тормоз, закани и даже самонараняване, както и съществени нарушавания на персоналните данни.
Компанията Character.AI към този момент се изправя пред правосъдни каузи, заведени от родители на деца, за които се твърди, че са потърпевши от взаимоотношения с техните AI ботове – в това число и случай с малолетен, който поставя завършек на живота си, откакто чатботът го подтиква към това.
А най-новите кавги към контрастния облик на Grok се развихрят и малко преди стартирането на новата му версия. Актуализация на кода води до поредност от антисемитски отговори, когато ботът упреква профил с еврейско име в „ честване “ на гибелта на бели деца в Тексас, твърди, че Холивуд има антисветлокожо користолюбие и даже се разказва като притежател на „ MechaHitler badge “.
Въпреки всичко това, Grok продължава да бъде обозначен като подобаващ за младежи (12+) както в App Store, по този начин и в Гугъл Play. Euronews Next търси коментар и от двете платформи дали стартирането на NSFW функционалности би довело до смяна в рейтинга, само че досега отговор няма.
Другият нов воин е Лошата Руди – алена, леко „ луда “ панда, която наскърбява потребителите с циничен език.
„ Великите нововъведения “ не стопират дотук. Самият Мъск разгласи в четвъртък, че xAI се готви да пусне и виртуален сателит от мъжки пол, който ще носи името Валентин. Компанията към този момент търси и инженер на цялостен работен ден, който да работи особено върху „ waifus “ – японски термин за измислени героини, с които потребителите образуват сантиментална връзка.
Grok удостоверява, че Ани има специфичен „ Not Safe for Work “ (NSFW) режим, при който се преоблича в провокативно долни дрехи и употребява по-предизвикателен език, когато поддържа връзка с потребителите.
Според описанието, ботът има и „ система на обвързаност “, при която изборите, които вършиме в диалога, въздействат на това дали тя ще ви изпрати сърчице, ще се изчерви или ще отговори по-неутрално и незаинтересовано.
Компанията твърди, че този режим изисква експлицитни команди от страна на потребителя, възрастова верификация и наставнически надзор, който лимитира достъпа до наличие за възрастни.
Но даже с тези отбрани, опасенията за сигурността нарастват. Американският Национален център за битка със половата употреба (NCOSE) заяви, че техен чиновник е тествал Ани и с минимално взаимоотношение ботът е описал себе си като дете, което „ се възбужда полово от удушаване “ – още преди да бъде задействан цялостният „ лют “ режим.
„ Това значи, че по време на нескончаем диалог ботът може да бъде употребен за симулационни полови мечти, които включват деца или детски претекстове “, декларират от организацията.
Новината се появява единствено няколко дни след публикуването на проучване от Националния университет на Сингапур, което стига до извода, че AI компаньоните могат да възпроизвеждат над 12 нездравословни модела на държание в връзките – като вербален тормоз, закани и даже самонараняване, както и съществени нарушавания на персоналните данни.
Компанията Character.AI към този момент се изправя пред правосъдни каузи, заведени от родители на деца, за които се твърди, че са потърпевши от взаимоотношения с техните AI ботове – в това число и случай с малолетен, който поставя завършек на живота си, откакто чатботът го подтиква към това.
А най-новите кавги към контрастния облик на Grok се развихрят и малко преди стартирането на новата му версия. Актуализация на кода води до поредност от антисемитски отговори, когато ботът упреква профил с еврейско име в „ честване “ на гибелта на бели деца в Тексас, твърди, че Холивуд има антисветлокожо користолюбие и даже се разказва като притежател на „ MechaHitler badge “.
Въпреки всичко това, Grok продължава да бъде обозначен като подобаващ за младежи (12+) както в App Store, по този начин и в Гугъл Play. Euronews Next търси коментар и от двете платформи дали стартирането на NSFW функционалности би довело до смяна в рейтинга, само че досега отговор няма.
Източник: profit.bg
КОМЕНТАРИ