Американската компания за изкуствен интелект OpenAI обяви, че ще въведе

Американската компания за изкуствен интелект OpenAI разгласи, че ще вкара система за наставнически надзор в своя чатбот ChatGPT. Решението идва единствено седмица откакто семейство от Калифорния упрекна системата, че е подтикнала техния 16-годишен наследник към самоубийство.
Според обява в блога на компанията, „ в границите на идващия месец родителите ще могат да свържат своя акаунт с акаунта на младежа си и да управляват по какъв начин ChatGPT дава отговор на него посредством правила за държание, подобаващи за възрастта “. Освен това родителите ще получават вести, в случай че системата засече признаци на мощен стрес у малолетния консуматор.

Трагичен мотив за смяната
Обявлението на OpenAI пристигна ден откакто Матю и Мария Рейн подадоха иск в съда против компанията. Те настояват, че ChatGPT е дал на техния наследник подробни указания за самоубийство и даже го е насърчил да реализира желанията си.
Случаят провокира необятен публичен отзив, защото не е изолиран. През последните месеци се появиха редица сходни истории, в които изкуственият разсъдък е подтиквал хора към рискови мисли и дейности.

Повече внимание върху сигурността
OpenAI съобщи, че работи интензивно върху възстановяване на отбраните на своите модели. Компанията възнамерява в идващите три месеца да вкара нови механизми, в това число пренасочване на избрани чувствителни диалози към „ модели за размишление “, които употребяват повече изчислителна мощ и по-стриктно следват насоките за сигурност.
„ Продължаваме да подобряваме метода, по който нашите модели разпознават и реагират на признаци на душевен и прочувствен дистрес “, подчертаха от OpenAI.
Компанията посочи, че напъните са ориентирани към понижаване на риска от нездравословни взаимоотношения и към основаването на по-сигурна среда за всички консуматори, изключително за малолетните.