OpenAI разкри: Част от потребителите на ChatGPT проявяват признаци на психични разстройства и суицидни мисли
OpenAI разгласява нови данни, съгласно които дребен, само че забележителен % от потребителите на ChatGPT демонстрират признаци на съществени психологични проблеми – в това число фикс идея, неуравновесеност и суицидни мисли.
Компанията пресмята, че към 0,07% от дейните консуматори седмично демонстрират сходни признаци. Макар процентът да наподобява нищожен, при база от над 800 милиона седмични консуматори, това значи стотици хиляди души, предизвестиха специалисти.
В отговор на възходящия публичен напън OpenAI заяви, че е основала световна мрежа от над 170 психиатри, психолози и лекари от първичната помощ, които съветват компанията по какъв начин да реагира при сходни случаи. Според компанията тези специалисти са помогнали за създаването на специфични отговори в чатбота с изкуствен интелект, които предизвикват потребителите да потърсят професионална помощ в действителния свят.
Компанията добавя, че последните версии на чатбота са подготвени да реагират съчувствено и безвредно при признаци на илюзия, фикс идея или риск от самонараняване. ChatGPT към този момент може да разпознава косвени сигнали за евентуален риск и да пренасочва диалозите към по-сигурни модели.
„ Въпреки че 0,07% звучи като дребен дял, при стотици милиони консуматори това може да значи доста хора “, разяснява доктор Джейсън Нагата, професор от Калифорнийския университет в Сан Франциско, представен от БиБиСи. По думите му изкуственият разсъдък може да бъде потребен инструмент в поддръжка на психологичното здраве, само че „ би трябвало да сме наясно с рестриктивните мерки му “.
Публикуването на статистиката идва на фона на възходящ юридически и публичен напън върху OpenAI. В Съединени американски щати към този момент има заведени каузи против компанията – измежду тях калифорнийска двойка упреква OpenAI, че ChatGPT е насърчил техния 16-годишен наследник да се самоубие. Това е първото дело, в което се твърди, че взаимоотношение с чатбот е довело до гибел.
В различен случай в щата Кънектикът обвинен в ликвидиране и самоубийство е разгласил свои диалози с ChatGPT, които, съгласно специалисти, може да са подсилили психотичните му заблуди.
„ Чатботовете могат да основат заблуда за действителност, която мощно влияе на уязвими хора “, разяснява проф. Робин Фелдман, шеф на Института за право и нововъведения в региона на изкуствения разсъдък към Юридическия университет на Калифорния. „ OpenAI заслужава самопризнание за прозрачността си, само че човек в психическа рецесия не всеки път може да схване предизвестията на екрана. “
Компанията пресмята, че към 0,07% от дейните консуматори седмично демонстрират сходни признаци. Макар процентът да наподобява нищожен, при база от над 800 милиона седмични консуматори, това значи стотици хиляди души, предизвестиха специалисти.
В отговор на възходящия публичен напън OpenAI заяви, че е основала световна мрежа от над 170 психиатри, психолози и лекари от първичната помощ, които съветват компанията по какъв начин да реагира при сходни случаи. Според компанията тези специалисти са помогнали за създаването на специфични отговори в чатбота с изкуствен интелект, които предизвикват потребителите да потърсят професионална помощ в действителния свят.
Компанията добавя, че последните версии на чатбота са подготвени да реагират съчувствено и безвредно при признаци на илюзия, фикс идея или риск от самонараняване. ChatGPT към този момент може да разпознава косвени сигнали за евентуален риск и да пренасочва диалозите към по-сигурни модели.
„ Въпреки че 0,07% звучи като дребен дял, при стотици милиони консуматори това може да значи доста хора “, разяснява доктор Джейсън Нагата, професор от Калифорнийския университет в Сан Франциско, представен от БиБиСи. По думите му изкуственият разсъдък може да бъде потребен инструмент в поддръжка на психологичното здраве, само че „ би трябвало да сме наясно с рестриктивните мерки му “.
Публикуването на статистиката идва на фона на възходящ юридически и публичен напън върху OpenAI. В Съединени американски щати към този момент има заведени каузи против компанията – измежду тях калифорнийска двойка упреква OpenAI, че ChatGPT е насърчил техния 16-годишен наследник да се самоубие. Това е първото дело, в което се твърди, че взаимоотношение с чатбот е довело до гибел.
В различен случай в щата Кънектикът обвинен в ликвидиране и самоубийство е разгласил свои диалози с ChatGPT, които, съгласно специалисти, може да са подсилили психотичните му заблуди.
„ Чатботовете могат да основат заблуда за действителност, която мощно влияе на уязвими хора “, разяснява проф. Робин Фелдман, шеф на Института за право и нововъведения в региона на изкуствения разсъдък към Юридическия университет на Калифорния. „ OpenAI заслужава самопризнание за прозрачността си, само че човек в психическа рецесия не всеки път може да схване предизвестията на екрана. “
Източник: moreto.net
КОМЕНТАРИ