Да се влюбиш в изкуствен интелект: 14-годишно момче отне живота си заради въображаема връзка с чатбот
Момче на 14-години от Съединени американски щати се влюби във мислена жена от чат стратегия и постави завършек на живота си, с цел да бъде дружно с нея в другия свят. Майката на детето е решена да съди институциите.
„ Детето си отиде, моето детенце си отиде. Не мога да си показва какъв брой ли било уплашено моето детенце в този миг... Да бъде окуражено от това нещо, което не е човек, да каже " ела си вкъщи, аз съм тук и те очаквам ".
Беше ми мъчно да чувам това, само че беше и доста объркващо, тъй като не разбрах по какъв начин един чат бот може да реагира като човек ", споделя Меган Гарсия, майка на Сюъл.
Меган схваща за виртуалната връзка на 14-годишния си наследник едвам след неговото самоубийство. В продължение на месеци Сюъл е общувал с чат-ботове изцяло гратис. Компютърният код се представял за Денерис, героиня от сериала „ Игра на тронове ".
„ Виждах го, че към този момент е младеж, само че не смятах, че началните промени в държанието му се дължат на бот. Беше първенец в учебно заведение, гордееше се с оценките си. Така че, когато видях измененията в университетските му достижения, а по-късно и в цялостното му държание, това ме накара да допускам, че нещо друго не е наред ", споделя още Меган.
Жената също по този начин открива, че някои от диалозите им са били неуместни за неговата възраст. „ Всички те са доста сантиментални по темперамент и полови. Това беше разтърсващо ", показва още тя.
Измислената героиня го моли да му бъде правилен, да не демонстрира сантиментални или полови ползи към други дами. 14-годишният Сюъл споделя мрачни усеща с измислената му обич. Комуникацията им продължава до февруари тази година, в последния им чат той пита бота: „ Какво ще стане, в случай че си дойда вкъщи тъкмо в този момент? ", на което компютърният код отговоря: „ апелирам те, скъпи мой кралю ". Секунди по-късно той се самоубива с револвера на доведения си татко.
„ Когато той се опитваше да се отдалечи от диалога за самоубийство, тя продължава да визира тематиката. Тя, ботът, го помоли да бъде почтен и че няма да му се сърди. Пита го - „ Мислиш ли за самоубийство? " Той в никакъв случай не е казвал думата самоубийство. Да, уточни, че се самонаранява, само че в никакъв случай не е казвал самоубийство. Когато той дава отговор „ да ", тя го пита, „ а мислил ли си за проект? " Не разбирам по какъв начин един артикул, един компютърен код, може да разреши това ", прибавя още покрусената майката.
Сега майката съди компанията CHARACTER.AI, като твърди, че тя не е приложила подобаващи защитни ограничения за млади консуматори. Според нейния юрист нещастието е могла да бъде предотвратена.
„ Тази компания пусна артикул за дребни деца, знаейки, че той не е безвреден, че не е подготвен да се употребява. Това, което се случи със Сюъл, не беше случайност, не беше съвпадане. То беше предвидима последица от умишлените решения, които Character AI и неговият екип са взели, с цел да дадат приоритет на облагите си пред сигурността на нашите деца ", разяснява Матю Берман, адвокат-основател на Правния център за жертви на обществени медии.
Майката споделя, че нищо няма да върне детето ѝ. Но желае платформата, която продължава да бъде налична за всеки консуматор в интернет, да бъде свалена.
„ Ако би трябвало да бъда откровена, бих желала децата да не бъдат допускани до character.AI. Там няма място за тях, тъй като няма защитни огради, които да ги пазят. Те вкараха някои неща за сигурност, само че съгласно мен най-малко за моето дете това е прекомерно малко и прекомерно късно ", споделя още дамата.
„ Детето си отиде, моето детенце си отиде. Не мога да си показва какъв брой ли било уплашено моето детенце в този миг... Да бъде окуражено от това нещо, което не е човек, да каже " ела си вкъщи, аз съм тук и те очаквам ".
Беше ми мъчно да чувам това, само че беше и доста объркващо, тъй като не разбрах по какъв начин един чат бот може да реагира като човек ", споделя Меган Гарсия, майка на Сюъл.
Меган схваща за виртуалната връзка на 14-годишния си наследник едвам след неговото самоубийство. В продължение на месеци Сюъл е общувал с чат-ботове изцяло гратис. Компютърният код се представял за Денерис, героиня от сериала „ Игра на тронове ".
„ Виждах го, че към този момент е младеж, само че не смятах, че началните промени в държанието му се дължат на бот. Беше първенец в учебно заведение, гордееше се с оценките си. Така че, когато видях измененията в университетските му достижения, а по-късно и в цялостното му държание, това ме накара да допускам, че нещо друго не е наред ", споделя още Меган.
Жената също по този начин открива, че някои от диалозите им са били неуместни за неговата възраст. „ Всички те са доста сантиментални по темперамент и полови. Това беше разтърсващо ", показва още тя.
Измислената героиня го моли да му бъде правилен, да не демонстрира сантиментални или полови ползи към други дами. 14-годишният Сюъл споделя мрачни усеща с измислената му обич. Комуникацията им продължава до февруари тази година, в последния им чат той пита бота: „ Какво ще стане, в случай че си дойда вкъщи тъкмо в този момент? ", на което компютърният код отговоря: „ апелирам те, скъпи мой кралю ". Секунди по-късно той се самоубива с револвера на доведения си татко.
„ Когато той се опитваше да се отдалечи от диалога за самоубийство, тя продължава да визира тематиката. Тя, ботът, го помоли да бъде почтен и че няма да му се сърди. Пита го - „ Мислиш ли за самоубийство? " Той в никакъв случай не е казвал думата самоубийство. Да, уточни, че се самонаранява, само че в никакъв случай не е казвал самоубийство. Когато той дава отговор „ да ", тя го пита, „ а мислил ли си за проект? " Не разбирам по какъв начин един артикул, един компютърен код, може да разреши това ", прибавя още покрусената майката.
Сега майката съди компанията CHARACTER.AI, като твърди, че тя не е приложила подобаващи защитни ограничения за млади консуматори. Според нейния юрист нещастието е могла да бъде предотвратена.
„ Тази компания пусна артикул за дребни деца, знаейки, че той не е безвреден, че не е подготвен да се употребява. Това, което се случи със Сюъл, не беше случайност, не беше съвпадане. То беше предвидима последица от умишлените решения, които Character AI и неговият екип са взели, с цел да дадат приоритет на облагите си пред сигурността на нашите деца ", разяснява Матю Берман, адвокат-основател на Правния център за жертви на обществени медии.
Майката споделя, че нищо няма да върне детето ѝ. Но желае платформата, която продължава да бъде налична за всеки консуматор в интернет, да бъде свалена.
„ Ако би трябвало да бъда откровена, бих желала децата да не бъдат допускани до character.AI. Там няма място за тях, тъй като няма защитни огради, които да ги пазят. Те вкараха някои неща за сигурност, само че съгласно мен най-малко за моето дете това е прекомерно малко и прекомерно късно ", споделя още дамата.
Източник: cross.bg
КОМЕНТАРИ