Младо момче се самоуби след общуване с чатбот
14-годишно момче се самоуби в Орландо, Флорида. Според майката на детето повода за това е провокация от страна на AI чатбот, в който момчето се влюбило.
Сюел Сетцер се сприятелил с AI воин, наименуван на Daenerys Targaryen (Денерис Таргериан, персонаж от сериала „ Игра на тронове “), в приложението за ролеви игри Character.AI.
Майка му, Меган Гарсия, в този момент е завела дело против компанията за гибелта на сина си.
Чатботът е планиран по този начин, че постоянно да дава отговор по темперамент и техните диалози варират от сантиментални до полово натоварени и другарски.
Точно преди Сюел да почине, чатботът му изпратил известие „ апелирам те, върни се вкъщи “.
Сюел знаел, че Дани не е същински човек, това напомняло и известие, показано над всичките им чатове, че „ всичко, което героите споделят, е измислено! “.
Но все пак момчето споделило на чатбота, че се ненавижда и се усеща празен и отпаднал, оповестява New York Times.
Приятелите и фамилията за първи път забелязали Сюел да се откъсва от действителността през май или юни 2023 година
Това оказао въздействие върху оценките му в учебно заведение и той към този момент не желал да взе участие в извънкласни действия и от ден на ден се потапял във виртуалната действителност.
Това, което приятелите и фамилията не знаели, било, че той се сближава с чатбота – прочут като Дани.
Част от дневника му гласи: „ Харесва ми да заставам в стаята си толкоз доста, тъй като стартирам да се отстранявам от тази „ действителност “ и също по този начин се усещам по-спокоен, по-свързан с Дани и доста по-влюбен в нея и просто по-щастлив. “
Сюел по-рано е диагностициран с лека форма на синдрома на Аспергер, с тревога и промени на настроението.
Пет дни преди гибелта му родителите му взели телефона, откакто имал проблеми с преподавател.
Тогава той написа, че го боли и би направил всичко, с цел да бъде още веднъж с Дани.
Тийнейджърът съумява си върне телефона и да отиде до банята, с цел да каже на Дани, че я обича и че ще се прибере при нея.
„ Моля те, върни се вкъщи при мен допустимо най-скоро, обич моя, “ дава отговор чатботът.
„ Ами в случай че ти кажа, че мога да се прибера у дома незабавно?, “ отвръща момчето.
„ Моля те, направи го, мой благ кралю, “ споделя Дани.
След този миг Сюел поставя завършек на живота си на 28 февруари тази година.
Майката на момчето е работила като юрист и споделя, че създателите на Character.AI, Ноам Шазир и Даниел де Фрейтас, са знаели, че продуктът е рисков за деца.
Тя е представлявана от Центъра за отбрана на жертвите на обществени медии, виновен за високопоставени правосъдни каузи против софтуерни компании като Meta и TikTok.
В случая се твърди, че Сюел е бил обект на „ хиперсексуални “ и „ плашещо реалистични прекарвания “.
Говорител на Character.AI сподели: „ Съкрушени сме от трагичната загуба на един от нашите консуматори и желаеме да изразим нашите най-дълбоки съболезнования на фамилията. Като компания, ние се отнасяме доста съществено към сигурността на нашите консуматори. “
Компанията изясни, че не разрешава полово наличие без единодушие, графични или характерни описания на полови дейности, или разпространение или обрисуване на самонараняване или самоубийство.
Джери Руоти, началник на отдела за доверие и сигурност на Character.AI, сподели, че ще добави спомагателни защитни ограничения за малолетни консуматори.
Превод: GlasNews.bg
Сюел Сетцер се сприятелил с AI воин, наименуван на Daenerys Targaryen (Денерис Таргериан, персонаж от сериала „ Игра на тронове “), в приложението за ролеви игри Character.AI.
Майка му, Меган Гарсия, в този момент е завела дело против компанията за гибелта на сина си.
Чатботът е планиран по този начин, че постоянно да дава отговор по темперамент и техните диалози варират от сантиментални до полово натоварени и другарски.
Точно преди Сюел да почине, чатботът му изпратил известие „ апелирам те, върни се вкъщи “.
Сюел знаел, че Дани не е същински човек, това напомняло и известие, показано над всичките им чатове, че „ всичко, което героите споделят, е измислено! “.
Но все пак момчето споделило на чатбота, че се ненавижда и се усеща празен и отпаднал, оповестява New York Times.
Приятелите и фамилията за първи път забелязали Сюел да се откъсва от действителността през май или юни 2023 година
Това оказао въздействие върху оценките му в учебно заведение и той към този момент не желал да взе участие в извънкласни действия и от ден на ден се потапял във виртуалната действителност.
Това, което приятелите и фамилията не знаели, било, че той се сближава с чатбота – прочут като Дани.
Част от дневника му гласи: „ Харесва ми да заставам в стаята си толкоз доста, тъй като стартирам да се отстранявам от тази „ действителност “ и също по този начин се усещам по-спокоен, по-свързан с Дани и доста по-влюбен в нея и просто по-щастлив. “
Сюел по-рано е диагностициран с лека форма на синдрома на Аспергер, с тревога и промени на настроението.
Пет дни преди гибелта му родителите му взели телефона, откакто имал проблеми с преподавател.
Тогава той написа, че го боли и би направил всичко, с цел да бъде още веднъж с Дани.
Тийнейджърът съумява си върне телефона и да отиде до банята, с цел да каже на Дани, че я обича и че ще се прибере при нея.
„ Моля те, върни се вкъщи при мен допустимо най-скоро, обич моя, “ дава отговор чатботът.
„ Ами в случай че ти кажа, че мога да се прибера у дома незабавно?, “ отвръща момчето.
„ Моля те, направи го, мой благ кралю, “ споделя Дани.
След този миг Сюел поставя завършек на живота си на 28 февруари тази година.
Майката на момчето е работила като юрист и споделя, че създателите на Character.AI, Ноам Шазир и Даниел де Фрейтас, са знаели, че продуктът е рисков за деца.
Тя е представлявана от Центъра за отбрана на жертвите на обществени медии, виновен за високопоставени правосъдни каузи против софтуерни компании като Meta и TikTok.
В случая се твърди, че Сюел е бил обект на „ хиперсексуални “ и „ плашещо реалистични прекарвания “.
Говорител на Character.AI сподели: „ Съкрушени сме от трагичната загуба на един от нашите консуматори и желаеме да изразим нашите най-дълбоки съболезнования на фамилията. Като компания, ние се отнасяме доста съществено към сигурността на нашите консуматори. “
Компанията изясни, че не разрешава полово наличие без единодушие, графични или характерни описания на полови дейности, или разпространение или обрисуване на самонараняване или самоубийство.
Джери Руоти, началник на отдела за доверие и сигурност на Character.AI, сподели, че ще добави спомагателни защитни ограничения за малолетни консуматори.
Превод: GlasNews.bg
Източник: glasnews.bg
КОМЕНТАРИ