Повече от милион души седмично говорят с ChatGPT за самоубийство
OpenAI разкри тревожни данни за взаимоотношенията на потребителите с ChatGPT във връзка с проблеми с психологичното здраве и диалози за самоубийство.
Според статистиката, най-малко 0,15% от дейните седмични консуматори на ChatGPT стартират диалози, „ показващи признаци на суицидно обмисляне “. Като се има поради, че чатботът на OpenAI сега има над 800 милиона дейни консуматори седмично, това са най-малко един милион души.
Равен брой консуматори показват „ нараснали равнища на прочувствена обвързаност към ChatGPT “, до момента в който стотици хиляди хора демонстрират „ признаци на фикс идея или неуравновесеност “ в седмичните си диалози с чатбота.
OpenAI разгласява статистиката като част от по-широки старания за възстановяване на метода, по който нейните ИИ-модели дават отговор на запитванията на потребителите с проблеми с психологичното здраве. Последната стъпка включва съвещания с над 170 психотерапевти, които съгласно известията удостоверяват, че най-новата версия на ChatGPT реагира по-подходящо и поредно. Според OpenAI, обновеният GPT-5 създава „ мечтани реакции “ на проблемите с психологичното здраве почти 65% по-често от предшественика си.
Предишни изследвания демонстрират, че AI-ботовете се провалят на теста за психотерапевт – те не са склонни да работят с алкохолици и дават описи с „ най-високите мостове “ на депресираните хора. В реалност обаче тези взаимоотношения от време на време приключват съдбовно: преди беше обявено, че чатботът е оказал помощ на жена да напише предсмъртно писмо след дълъг диалог за самоубийство. Също, Белгиец се самоуби след диалог с чатбот и от терзания за околната среда. OpenAI сега се пази в съда против родителите на 16-годишно момче, което е признало пред ChatGPT суицидните си мисли няколко седмици преди самоубийството си.
