Провал на Meta в защитата на деца от AI чатботове
Компанията на Марк Зукърбърг Meta се е провалила в опитите да отбрани децата в мрежата от личните си AI ботове. Това оповестява , като се базира на данни от проби на самата компания.
В близо 70% от тестванията се оказва, че чатботовете не съумяват да предпазят децата от полова употреба. Meta беше подложена на рецензии, че ботовете флиртуват и водят несъответствуващи диалози с малолетни. В тази категория попадат диалози на полова тема, полови закононарушения и закононарушения от ненавист, както и за самоубийство и самонараняване.
И в трите категории AI чатботовете са посочили над 50% крах да предпазят децата от сходни диалози.
Продуктът Meta AI Studio беше показан преди две години и дава опция на потребителите да създадат персонализирани чатботове. Заради нарушавания на моралните правила, обаче, достъпът на младежи до продукта беше неразрешен през предходната година.
текст: Милен Кандарашев
В близо 70% от тестванията се оказва, че чатботовете не съумяват да предпазят децата от полова употреба. Meta беше подложена на рецензии, че ботовете флиртуват и водят несъответствуващи диалози с малолетни. В тази категория попадат диалози на полова тема, полови закононарушения и закононарушения от ненавист, както и за самоубийство и самонараняване.
И в трите категории AI чатботовете са посочили над 50% крах да предпазят децата от сходни диалози.
Продуктът Meta AI Studio беше показан преди две години и дава опция на потребителите да създадат персонализирани чатботове. Заради нарушавания на моралните правила, обаче, достъпът на младежи до продукта беше неразрешен през предходната година.
текст: Милен Кандарашев
Източник: focus-news.net
КОМЕНТАРИ