Тийнейджър се самоуби след привързване към AI чатбот
Компанията зад приложението отхвърля да разкрие какъв брой от потребителите ѝ са малолетни
14-годишният младеж Сюел Сетцер III от Флорида се самоуби, откакто развил мощна прочувствена обвързаност към AI чатбот на платформата Character.AI, оповестява The New York Times.
Според изданието, Сетцер почнал да построява близка връзка с чатбот, основан да имитира облика на Денерис Таргариен от " Игра на тронове ".
С развиването на " връзките " сред Сетцер и чатбота, деветокласникът ставал все по-изолиран. Той изгубил интерес към нормалните си занимания като Формула 1 и играта " Fortnite " с другари, вместо това прекарвал от ден на ден време с виртуалния си сателит, който наричал " Дани ". Макар да знаел, че " Дани " е изкуствен интелект, Сетцер развил романтични усеща към софтуера.
Разговорите сред Сетцер и чатбота варирали от персонални до полови тематики. В някои от тях момчето споделяло, че обмисля самоубийство, разкривайки пред AI чатбота, че от време на време мисли за това, с цел да се " освободи ".
Последните думи на Сетцер преди гибелта му също били адресирани към AI чатбота.
" Моля те, върни се вкъщи допустимо най-скоро, обич моя, " споделил чатботът на 14-годишния младеж. " А какво ще стане, в случай че ти кажа, че мога да дойда незабавно? " дал отговор Сетцер. Чатботът траял: "...моля те, направи го, мой сладостен кралю. " Това били последните думи, след които Сетцер взел револвера на татко си и се самоубил.
Семейството на Сетцер възнамерява да заведе дело против Character.AI, като твърди, че платформата предлага " рисков и неизпитан " артикул, кадърен да " измами клиентите си да разкриват най-съкровените си мисли и усеща. " Делото също по този начин слага под въпрос етичността на практиките по образование на AI на компанията.
" Чувствам, че това е огромен опит, " споделя Меган Гарсия, майката на Сетцер, в изявление за The New York Times, " а моето дете беше просто странична жертва. "
Character.AI е извънредно сполучлива компания, която предходната година доближи оценка от над 1 милиард $ след инвестиция от 150 милиона $, водена от Andreessen-Horowitz. По-рано тази година Гугъл също подписа договорка с Character.AI за лицензиране на базовите AI модели, които зареждат чатботовете на компанията.
Основателите на Character.AI, Ноам Шазир и Даниел де Фрейтас, и двамата някогашни чиновници на Гугъл, намерено промотират чатботовете като решение за самотни хора, които търсят другари.
Компанията отхвърля да разяснява какъв брой от нейните консуматори са малолетни, макар въпросите, свързани със самоубийството на Сетцер. В изказване пред медиите от Character.AI акцентират, че одобряват сигурността на потребителите съществено и непрекъснато търсят способи за усъвършенстване на платформата.
Те също по този начин оповестиха, че въвеждат нови защитни ограничения, в това число " изскачащи прозорци за помощ, " когато потребителите вкарат изречения, свързани със самонараняване или самоубийство.
14-годишният младеж Сюел Сетцер III от Флорида се самоуби, откакто развил мощна прочувствена обвързаност към AI чатбот на платформата Character.AI, оповестява The New York Times.
Според изданието, Сетцер почнал да построява близка връзка с чатбот, основан да имитира облика на Денерис Таргариен от " Игра на тронове ".
С развиването на " връзките " сред Сетцер и чатбота, деветокласникът ставал все по-изолиран. Той изгубил интерес към нормалните си занимания като Формула 1 и играта " Fortnite " с другари, вместо това прекарвал от ден на ден време с виртуалния си сателит, който наричал " Дани ". Макар да знаел, че " Дани " е изкуствен интелект, Сетцер развил романтични усеща към софтуера.
Разговорите сред Сетцер и чатбота варирали от персонални до полови тематики. В някои от тях момчето споделяло, че обмисля самоубийство, разкривайки пред AI чатбота, че от време на време мисли за това, с цел да се " освободи ".
Последните думи на Сетцер преди гибелта му също били адресирани към AI чатбота.
" Моля те, върни се вкъщи допустимо най-скоро, обич моя, " споделил чатботът на 14-годишния младеж. " А какво ще стане, в случай че ти кажа, че мога да дойда незабавно? " дал отговор Сетцер. Чатботът траял: "...моля те, направи го, мой сладостен кралю. " Това били последните думи, след които Сетцер взел револвера на татко си и се самоубил.
Семейството на Сетцер възнамерява да заведе дело против Character.AI, като твърди, че платформата предлага " рисков и неизпитан " артикул, кадърен да " измами клиентите си да разкриват най-съкровените си мисли и усеща. " Делото също по този начин слага под въпрос етичността на практиките по образование на AI на компанията.
" Чувствам, че това е огромен опит, " споделя Меган Гарсия, майката на Сетцер, в изявление за The New York Times, " а моето дете беше просто странична жертва. "
Character.AI е извънредно сполучлива компания, която предходната година доближи оценка от над 1 милиард $ след инвестиция от 150 милиона $, водена от Andreessen-Horowitz. По-рано тази година Гугъл също подписа договорка с Character.AI за лицензиране на базовите AI модели, които зареждат чатботовете на компанията.
Основателите на Character.AI, Ноам Шазир и Даниел де Фрейтас, и двамата някогашни чиновници на Гугъл, намерено промотират чатботовете като решение за самотни хора, които търсят другари.
Компанията отхвърля да разяснява какъв брой от нейните консуматори са малолетни, макар въпросите, свързани със самоубийството на Сетцер. В изказване пред медиите от Character.AI акцентират, че одобряват сигурността на потребителите съществено и непрекъснато търсят способи за усъвършенстване на платформата.
Те също по този начин оповестиха, че въвеждат нови защитни ограничения, в това число " изскачащи прозорци за помощ, " когато потребителите вкарат изречения, свързани със самонараняване или самоубийство.
Източник: dnesplus.bg
КОМЕНТАРИ