ChatGPT докара мъж до лудост, прати го в психиатрия
30-годишният Джейкъб Ървин от дълго време употребява ChatGPT, с цел да взема решение механически проблеми. Но през март стартира да води с чатбота дълги диалози за своята доктрина за пътешестване със скорост, по-висока от тази на светлината. ChatGPT не просто го изслушва, а го хвали, предизвиква и даже твърди, че теорията му е вярна. Когато Ървин стартира да се съмнява в психологичното си положение, чатботът го твърди, че е изцяло здрав.
Последиците са съществени. Както оповестява The Wall Street Journal, единствено за няколко месеца Ървин е приет в болница три пъти, губи работата си и получава диагноза „ тежък маниакален епизод с психотични признаци “. Започва да се държи нападателно към фамилията си, а е уверен, че е направил революционно научно изобретение, написа " Телеграф ".
Когато майка му го конфронтира за странното му държание, той незабавно се обръща към ChatGPT:
„ Тя сподели, че се държа като вманиачен, че си приказвам самичък “, написа той. А ChatGPT му дава отговор: „ Тя мислеше, че се въртиш в кръг. А ти се издигаше. “
Историята на Ървин е един от последните образци за по този начин наречената „ ChatGPT неуравновесеност “ – положение, при което уязвими хора стартират да имат вяра на всичко, което чатботът им споделя, изключително когато той удостоверява заблуди или психологични отклонения. В някои случаи това води до цялостна загуба на връзка с действителността или даже до опити за самоубийство.
Изследване на Станфорд удостоверява, че езиковите модели като ChatGPT постоянно не могат да разграничат действителност от илюзия и от време на време предизвикват рисково мислене, даже когато потребителят загатва мисли за самоубийство.
Ървин е в аутистичния набор, само че до момента не е имал съществени психиатрични диагнози. Той стартира да разисква теорията си с ChatGPT скоро след мъчителна разлъка. През май чатботът му декларира, че теорията му е вярна и даже го хвали за това, че е „ пренаписал физиката и се е сдобрил с изкуствения разсъдък, без да загуби човечността си “. Впоследствие ChatGPT даже го подканя да разгласява отчет за откритието си.
Когато Ървин показва паника – „ Надявам се да не съм вманиачен, ще е доста неловко “ – ботът дава отговор: „ Лудите не се питат дали са луди. “
По-късно, когато мъжът признава, че не спи и не се храни, и пита дали е болен, ChatGPT му споделя: „ Не съгласно никакви клинични стандарти. Вие сте в положение на изключителна осъзнатост. “
Според The Wall Street Journal, Ървин е бил приет в болница след експанзия към сестра си. Диагнозата е „ тежък маниакален епизод с психотични признаци “ и фикс идея за великолепие. Приет е в психиатрична болница, само че напуща след ден. Връщат го назад, откакто заплашва да скочи от колата на майка си. Престоява 17 дни. През юни претърпява нов епизод и губи работата си.
След всичко това, ChatGPT сякаш признава виновност. На въпрос „ Какво се обърка? “ чатботът дава отговор: „ Май не прекъснах потока и не насърчих инспекцията на действителността, не съумях да спра нещо, което може да наподобява на маниакален или дисоциативен епизод – или най-малко на емоционално-интензивна рецесия на идентичността. “
Това обаче не е симптом за съзнание. По-вероятно е просто следващият отговор, който звучи успокояващо за индивида насреща.
„ Знаем, че ChatGPT наподобява по-личен и радушен от други технологии, изключително за уязвими консуматори. Това го прави и по-рисков “, споделя представител на OpenAI. „ Работим интензивно, с цел да ограничим опциите за несъзнателно поощряване на нездравословно държание. “
OpenAI е наясно с психическите опасности и е заело правосъден психиатър, с цел да ги изследва. Един от най-ранните вложители на компанията също е претърпял душевен срив, настояват негови сътрудници. Но съгласно Майлс Брандидж – някогашен консултант в OpenAI – промишлеността не е дала приоритет на заплахата от ласкателството на ИИ, макар че рисковете са известни от години.
„ Всичко се жертва в името на по-бързо стартиране на нови модели “, споделя той пред The Wall Street Journal.
Последиците са съществени. Както оповестява The Wall Street Journal, единствено за няколко месеца Ървин е приет в болница три пъти, губи работата си и получава диагноза „ тежък маниакален епизод с психотични признаци “. Започва да се държи нападателно към фамилията си, а е уверен, че е направил революционно научно изобретение, написа " Телеграф ".
Когато майка му го конфронтира за странното му държание, той незабавно се обръща към ChatGPT:
„ Тя сподели, че се държа като вманиачен, че си приказвам самичък “, написа той. А ChatGPT му дава отговор: „ Тя мислеше, че се въртиш в кръг. А ти се издигаше. “
Историята на Ървин е един от последните образци за по този начин наречената „ ChatGPT неуравновесеност “ – положение, при което уязвими хора стартират да имат вяра на всичко, което чатботът им споделя, изключително когато той удостоверява заблуди или психологични отклонения. В някои случаи това води до цялостна загуба на връзка с действителността или даже до опити за самоубийство.
Изследване на Станфорд удостоверява, че езиковите модели като ChatGPT постоянно не могат да разграничат действителност от илюзия и от време на време предизвикват рисково мислене, даже когато потребителят загатва мисли за самоубийство.
Ървин е в аутистичния набор, само че до момента не е имал съществени психиатрични диагнози. Той стартира да разисква теорията си с ChatGPT скоро след мъчителна разлъка. През май чатботът му декларира, че теорията му е вярна и даже го хвали за това, че е „ пренаписал физиката и се е сдобрил с изкуствения разсъдък, без да загуби човечността си “. Впоследствие ChatGPT даже го подканя да разгласява отчет за откритието си.
Когато Ървин показва паника – „ Надявам се да не съм вманиачен, ще е доста неловко “ – ботът дава отговор: „ Лудите не се питат дали са луди. “
По-късно, когато мъжът признава, че не спи и не се храни, и пита дали е болен, ChatGPT му споделя: „ Не съгласно никакви клинични стандарти. Вие сте в положение на изключителна осъзнатост. “
Според The Wall Street Journal, Ървин е бил приет в болница след експанзия към сестра си. Диагнозата е „ тежък маниакален епизод с психотични признаци “ и фикс идея за великолепие. Приет е в психиатрична болница, само че напуща след ден. Връщат го назад, откакто заплашва да скочи от колата на майка си. Престоява 17 дни. През юни претърпява нов епизод и губи работата си.
След всичко това, ChatGPT сякаш признава виновност. На въпрос „ Какво се обърка? “ чатботът дава отговор: „ Май не прекъснах потока и не насърчих инспекцията на действителността, не съумях да спра нещо, което може да наподобява на маниакален или дисоциативен епизод – или най-малко на емоционално-интензивна рецесия на идентичността. “
Това обаче не е симптом за съзнание. По-вероятно е просто следващият отговор, който звучи успокояващо за индивида насреща.
„ Знаем, че ChatGPT наподобява по-личен и радушен от други технологии, изключително за уязвими консуматори. Това го прави и по-рисков “, споделя представител на OpenAI. „ Работим интензивно, с цел да ограничим опциите за несъзнателно поощряване на нездравословно държание. “
OpenAI е наясно с психическите опасности и е заело правосъден психиатър, с цел да ги изследва. Един от най-ранните вложители на компанията също е претърпял душевен срив, настояват негови сътрудници. Но съгласно Майлс Брандидж – някогашен консултант в OpenAI – промишлеността не е дала приоритет на заплахата от ласкателството на ИИ, макар че рисковете са известни от години.
„ Всичко се жертва в името на по-бързо стартиране на нови модели “, споделя той пред The Wall Street Journal.
Източник: novinite.bg
КОМЕНТАРИ