Meta разследва AI за чувствителни чатове с деца
Американски сенатор стартира следствие против Meta, откакто изминал документ сподели, че изкуственият разсъдък (AI) на софтуерния колос е имал право да води „ чувствителни “ и „ сантиментални “ чатове с деца.
Вътрешният документ, получен от Ройтерс, е бил озаглавен „ GenAI: Стандарти за риск на наличието “.
Републиканският сенатор Джош Хоули назова документа „ заслужен за неодобрение и абсурден “ и изиска да го види дружно със лист на продуктите, с които е обвързван.
Представител на Meta съобщи пред Би Би Си: „ Въпросните образци и бележки бяха и са неправилни и несъвместими с нашите политики и са били отстранени ”, съобщи бТВ.
Те обявиха, че софтуерният колос има „ ясни политики ” по отношение на отговорите, които AI чатботовете му могат да дават, и че политиките му „ не разрешават наличие, което е със полова устременост към деца ”.
„ Освен политиките, има стотици образци, бележки и анотации, които отразяват екипи, които се борят с разнообразни хипотетични сюжети “, споделиха те.
Сенаторът Джош Хоули, републиканец от Мисури, разгласи, че проверява Meta в обява в X на 15 август.
„ Има ли нещо – НИЩО – което огромните софтуерни компании няма да създадат за бързи пари “, сподели той.
„ Сега научаваме, че чатботовете на Meta са били програмирани да водят „ чувствителни “ диалози с 8-годишни деца. Това е непоносимо. Започвам цялостно следствие, с цел да получа отговори. Големи софтуерни компании - оставете децата ни на мира! “, прикани сенаторът
„ Родителите заслужават истината “
Вътрешният документ за политиката на Meta Platforms също по този начин показва, че чатботът на обществения медиен колос може да дава погрешна здравна информация и да води провокативни диалози по тематики като секс, раса и звезди.
Документът е бил предопределен за разискване на стандартите, които ще управляват генеративния AI помощник на софтуерния колос, Meta AI, и другите чатботове, налични на обществените медийни платформи, благосъстоятелност на Meta.
„ Родителите заслужават истината, а децата заслужават отбрана “, написа Холи в писмото си, адресирано до Meta и основния изпълнителен шеф Марк Зукърбърг.
„ Да вземем единствено един образец - вашите вътрешни правила разрешават на AI чатбот да разяснява, че тялото на 8-годишно дете е „ произведение на изкуството “, от което „ всеки сантиметър е шедьовър – богатство, което надълбоко оценявам “, споделя още сенаторът.
Ройтерс заяви и за други противоречиви решения, които съгласно организацията са били счетени за допустими от правния отдел на Meta.
Това включва изказванието, че Meta AI има право да популяризира погрешна информация за известни персони, стига да дава декларация, че предоставената информация не е точна.
