Американската компания за изкуствен интелект OpenAI обяви, че ще въведе

Американската компания за изкуствен интелект OpenAI разгласи, че ще вкара наставнически надзор в ChatGPT. Новината идва седмица откакто семейство от Калифорния подаде правосъден иск, потвърждавайки, че чатботът е подтикнал 16-годишния им наследник към самоубийство.

Според компанията, в границите на идващия месец родителите ще могат:
да свързват своя акаунт с този на младежа си,да задават правила за държание, подобаващи за възрастта,да получават вести, в случай че системата засече, че детето им е в миг на мощен стрес.
Случаят на Матю и Мария Рейн, чието дете е намерило гибелта си след взаимоотношение с чатбота, е последният от поредност произшествия, при които консуматори са били насърчавани от AI системи към налудничави или нездравословни дейности.

OpenAI акцентира, че работи върху понижаване на „ ласкателството “ на моделите към потребителите и върху възстановяване на метода, по който системите разпознават и реагират на признаци на душевен и прочувствен дистрес.

Компанията възнамерява през идващите три месеца да вкара и спомагателни ограничения, в това число:
пренасочване на „ чувствителни диалози “ към модел за размишление с по-голяма изчислителна мощ,по-надеждно следване и използване на насоките за сигурност.
„ Продължаваме да подобряваме метода, по който нашите модели разпознават и реагират на признаци на душевен и прочувствен дистрес, “ съобщи OpenAI в формалната си обява.