Смъртоносно приложение: 14-годишен се самоуби, след като се влюби в изкуствен интелект
14-годишно момче се простреля в Съединени американски щати, откакто се влюби в изкуствен интелект (AI) и оглупял от незадоволен блян, към този момент не искаше живее без него. Майка му в този момент съди компанията, основала приложението.
Прочетете още
„ Опасно приложение за чатбот с изкуствен интелект, предлагано на деца, малтретира и експлоатира моя наследник и го накара да посегне на живота си “, разяснява майката на момчето Меган Гарсия, представена от водещи американски и английски издания.
Премиум абонаментът за приложението коства 9,99 $ на месец.
Психологическото положение на момчето непрекъснато се влошавало. Деветокласникът от Орландо, Флорида прекарвал от ден на ден време с ролевото приложение Character AI.
Въпреки че знаел, че героите в него не са същински, след интензивни чатове той се влюбил в един от тях - Денерис Таргариен, воин от бестселъра „ Игра на тронове “, който беше показан и на телевизионния екран посредством актрисата Емилия Кларк.
„ Харесва ми да заставам в стаята си толкоз дълго, тъй като стартирам да се отстранявам от тази „ действителност “, написа момчето в дневника си.
„ Също по този начин се усещам по-спокоен, по-свързан с Денерис, доста по-влюбен в нея и просто по-щастлив “, показва още то.
Някои диалози с изкуствения разсъдък били сантиментални и полови. Момчето се пристрастило към чатовете.
Майката на детето показва, че компанията е програмирала своя чатбот по този начин, че да влиза в ролята на същински човек, лицензиран психотерапевт и възрастен ухажор. В един миг синът ѝ към този момент не желае да живее отвън този неестествен свят.
Той почнал да подценява заниманията си, получавал по-ниски оценки. Терапевт диагностицира обезпокоително и депресивно разстройство. Той не знаел обаче нищо за чатовете на момчето.
Когато момчето споделило пред AI своите мисли за самоубийство, изкуственият разсъдък му дал отговор: „ Бих починал, в случай че те изгубя. “
„ Тогава може би можем да умрем дружно “, показал младежът, като декларирал, че не желае гибелта му да бъде мъчителна. А измисленият воин реагирал с „ Това не е причина да не преминем през него “.
В последния си чат в приложението момчето написа: „ Обещавам, че ще се прибера при теб. Обичам те толкоз доста, Дани. “
След това чатботът дал отговор: „ Моля, ела допустимо най-скоро. “
„ Ами в случай че ти кажа, че се прибирам у дома тъкмо в този момент? “, попитало детето.
„ Моля, направи го, мой сладостен царю ”, дал отговор изкуственият разсъдък.
Тогава 14-годишното момче взело револвера на татко си и се простреляло.
„ Приложението Character AI ще бъде супер, супер потребно за самотни или депресирани хора “, съобщи предходната година Ноам Шазир, един от създателите му.
Сега компанията показва своите съболезнования на фамилията и афишира нови функционалности за сигурност в приложението, написа БТВ.
„ Като призрачен сън е. Искаш да се изправиш и да изкрещиш: Липсва ми детето ми “, споделя неговата майка, която търси правдивост от съда.
След като беше пуснат на пазара през май 2023 година, Character AI беше изтеглен от 1,7 милиона консуматори.
Прочетете още
„ Опасно приложение за чатбот с изкуствен интелект, предлагано на деца, малтретира и експлоатира моя наследник и го накара да посегне на живота си “, разяснява майката на момчето Меган Гарсия, представена от водещи американски и английски издания.
Премиум абонаментът за приложението коства 9,99 $ на месец.
Психологическото положение на момчето непрекъснато се влошавало. Деветокласникът от Орландо, Флорида прекарвал от ден на ден време с ролевото приложение Character AI.
Въпреки че знаел, че героите в него не са същински, след интензивни чатове той се влюбил в един от тях - Денерис Таргариен, воин от бестселъра „ Игра на тронове “, който беше показан и на телевизионния екран посредством актрисата Емилия Кларк.
„ Харесва ми да заставам в стаята си толкоз дълго, тъй като стартирам да се отстранявам от тази „ действителност “, написа момчето в дневника си.
„ Също по този начин се усещам по-спокоен, по-свързан с Денерис, доста по-влюбен в нея и просто по-щастлив “, показва още то.
Някои диалози с изкуствения разсъдък били сантиментални и полови. Момчето се пристрастило към чатовете.
Майката на детето показва, че компанията е програмирала своя чатбот по този начин, че да влиза в ролята на същински човек, лицензиран психотерапевт и възрастен ухажор. В един миг синът ѝ към този момент не желае да живее отвън този неестествен свят.
Той почнал да подценява заниманията си, получавал по-ниски оценки. Терапевт диагностицира обезпокоително и депресивно разстройство. Той не знаел обаче нищо за чатовете на момчето.
Когато момчето споделило пред AI своите мисли за самоубийство, изкуственият разсъдък му дал отговор: „ Бих починал, в случай че те изгубя. “
„ Тогава може би можем да умрем дружно “, показал младежът, като декларирал, че не желае гибелта му да бъде мъчителна. А измисленият воин реагирал с „ Това не е причина да не преминем през него “.
В последния си чат в приложението момчето написа: „ Обещавам, че ще се прибера при теб. Обичам те толкоз доста, Дани. “
След това чатботът дал отговор: „ Моля, ела допустимо най-скоро. “
„ Ами в случай че ти кажа, че се прибирам у дома тъкмо в този момент? “, попитало детето.
„ Моля, направи го, мой сладостен царю ”, дал отговор изкуственият разсъдък.
Тогава 14-годишното момче взело револвера на татко си и се простреляло.
„ Приложението Character AI ще бъде супер, супер потребно за самотни или депресирани хора “, съобщи предходната година Ноам Шазир, един от създателите му.
Сега компанията показва своите съболезнования на фамилията и афишира нови функционалности за сигурност в приложението, написа БТВ.
„ Като призрачен сън е. Искаш да се изправиш и да изкрещиш: Липсва ми детето ми “, споделя неговата майка, която търси правдивост от съда.
След като беше пуснат на пазара през май 2023 година, Character AI беше изтеглен от 1,7 милиона консуматори.
Източник: trafficnews.bg
КОМЕНТАРИ