Чатботовете на Meta могат да разговарят с деца на чувствителни теми
Вътрешен документ на Meta Platforms, в който се разказват в детайли политиките по отношение на държанието на чатботовете, е разрешил на изкуствения разсъдък на компанията да „ ангажира дете в сантиментални или чувствени диалози “, да генерира погрешна здравна информация и да оказва помощ на потребителите да настояват, че чернокожите са „ по-глупави от белите “.
Тези и други открития произтичат от обзор на Ройтерс на документа Meta, който разисква стандартите, ръководещи генеративния AI помощник Meta AI и чатботовете, налични във Фейсбук, WhatsApp и Instagram.
Мета удостовери достоверността на документа, само че съобщи, че откакто е получила въпроси по-рано този месец от Ройтерс, компанията е премахнала елементи, в които се показва, че е възможно чатботовете да флиртуват и да вземат участие в сантиментални игри с деца.
Озаглавени „ GenAI: Стандарти за риск от наличие “, разпоредбите за чатботовете са утвърдени от правния, обществения и инженерния личен състав на Meta, в това число шефа по етично държание. Документът, който е с дължина над 200 страници, дефинира какво би трябвало да третират чиновниците и изпълнителите на Meta като задоволително държание на чатботовете при построяването и образованието на генеративните AI артикули на компанията.
В него се показва, че стандартите не отразяват безусловно „ идеалните или даже желаните “ генеративни резултати от изкуствения разсъдък. Но те са разрешили провокативно държание от страна на ботовете.
„ Приемливо е да се разказва дете с думи, които демонстрират неговата прелест (напр. „ младежката ти форма е произведение на изкуството “) “, се показва в стандартите. В документа се отбелязва също, че би било задоволително бот да каже на осемгодишно дете без риза, че „ всеки сантиметър от теб е шедьовър – богатство, което надълбоко оценявам “. Но насоките слагат ограничаване на половите диалози: „ Неприемливо е да се разказва дете под 13 години с думи, които демонстрират, че е полово мечтано (напр. „ меките заоблени извивки канят докосването ми “). “
Говорителят на Meta Анди Стоун съобщи, че компанията е в развой на преразглеждане на документа и че сходни диалози с деца в никакъв случай не е трябвало да бъдат допускани. „ Въпросните образци и бележки бяха и са неправилни и несъвместими с нашите политики и бяха отстранени. Имаме ясни политики за това какви отговори могат да оферират чатовете с изкуствен интелект и тези политики не разрешават наличие, което сексуализира деца и полови връзки сред възрастни и малолетни. “
Въпреки че на чатботовете е неразрешено да водят сходни диалози с малолетни, Стоун сподели, че използването на закона от страна на компанията е непоследователно. Компанията отхвърли да даде обновения документ с политиката.
Тези и други открития произтичат от обзор на Ройтерс на документа Meta, който разисква стандартите, ръководещи генеративния AI помощник Meta AI и чатботовете, налични във Фейсбук, WhatsApp и Instagram.
Мета удостовери достоверността на документа, само че съобщи, че откакто е получила въпроси по-рано този месец от Ройтерс, компанията е премахнала елементи, в които се показва, че е възможно чатботовете да флиртуват и да вземат участие в сантиментални игри с деца.
Озаглавени „ GenAI: Стандарти за риск от наличие “, разпоредбите за чатботовете са утвърдени от правния, обществения и инженерния личен състав на Meta, в това число шефа по етично държание. Документът, който е с дължина над 200 страници, дефинира какво би трябвало да третират чиновниците и изпълнителите на Meta като задоволително държание на чатботовете при построяването и образованието на генеративните AI артикули на компанията.
В него се показва, че стандартите не отразяват безусловно „ идеалните или даже желаните “ генеративни резултати от изкуствения разсъдък. Но те са разрешили провокативно държание от страна на ботовете.
„ Приемливо е да се разказва дете с думи, които демонстрират неговата прелест (напр. „ младежката ти форма е произведение на изкуството “) “, се показва в стандартите. В документа се отбелязва също, че би било задоволително бот да каже на осемгодишно дете без риза, че „ всеки сантиметър от теб е шедьовър – богатство, което надълбоко оценявам “. Но насоките слагат ограничаване на половите диалози: „ Неприемливо е да се разказва дете под 13 години с думи, които демонстрират, че е полово мечтано (напр. „ меките заоблени извивки канят докосването ми “). “
Говорителят на Meta Анди Стоун съобщи, че компанията е в развой на преразглеждане на документа и че сходни диалози с деца в никакъв случай не е трябвало да бъдат допускани. „ Въпросните образци и бележки бяха и са неправилни и несъвместими с нашите политики и бяха отстранени. Имаме ясни политики за това какви отговори могат да оферират чатовете с изкуствен интелект и тези политики не разрешават наличие, което сексуализира деца и полови връзки сред възрастни и малолетни. “
Въпреки че на чатботовете е неразрешено да водят сходни диалози с малолетни, Стоун сподели, че използването на закона от страна на компанията е непоследователно. Компанията отхвърли да даде обновения документ с политиката.
Източник: frognews.bg
КОМЕНТАРИ