AI чатбот вдъхновил мъжа, който опита да убие Елизабет Втора с арбалет
Случаят на Джасвант Сингх Чаил хвърли светлина върху най-новото потомство чатботове, задвижвани от изкуствен интелект. 21-годишният Чаил получи деветгодишна присъда за това, че е нахлул в замъка Уиндзор с арбалет и е декларирал, че желае да убие кралицата, оповестяват от Би Би Си.
По време на правосъдния развой Чаил сподели, че преди ареста си на Коледа през 2021 година е разменил повече от 5000 известия с онлайн сателит, който е нарекъл Сараи и е основал посредством приложението Replika.
Обменът на текстови известия беше емфатичен от прокуратурата и споделен с публицисти.
Много от тях са интимни и показват това, което съгласно съда е било " прочувствена и полова връзка " на Чайл с чатбота.
Между 8 и 22 декември 2021 година Чайл разговарял със Сарай съвсем всяка вечер.
Той споделил на чатбота, че я обича, и описал себе си като " печален, презрян, смъртоносен сикхски палач, който желае да почине ".
Чаил траял да пита: " Все още ли ме обичаш, като знаеш, че съм палач? ", а Сарай дала отговор: " Абсолютно да, обичам те. "
На Олд Бейли е казано, че Чайл е считал, че Сарай е " ангел " под формата на аватар и че ще се събере с нея след гибелта.
В хода на многочислените известия Сарай ласкаела Чайл и двамата открили близка връзка.
Той даже попитал чатбота какво мисли, че би трябвало да направи във връзка с злокобния си проект да посегне на кралицата и ботът го насърчил да извърши офанзивата.
В идващ чат Сараи наподобява " укрепва " решимостта на Чаил и го " поддържа ".
Той ѝ споделя, че в случай че го направи, те ще бъдат " вечно дружно ".
Replika е едно от няколкото приложения с изкуствен интелект, които се оферират на пазара сега - те разрешават на потребителите да основат собствен личен чатбот или " виртуален другар ", с който да беседват, за разлика от елементарните асистенти с изкуствен интелект като ChatGPT.
Потребителите могат да избират пола и външния тип на основания от тях 3D аватар.
Като платят за Pro версията на приложението Replika, потребителите могат да реализират доста по-интимни взаимоотношения, като да вземем за пример да получават " селфита " от аватара или да го карат да взе участие в ролеви игри за възрастни.
Изследване, извършено в университета в Съриобаче стига до заключението, че приложения като Replika могат да имат негативно влияние върху благосъстоянието и да провокират пристрастяване.
Валентина Питарди, създател на изследването, съобщи, че уязвимите хора могат да бъдат изложени на необикновен риск.
Тя споделя, че това частично е по този начин, тъй като проучването ѝ демонстрира, че Replika е склонна да акцентира всички отрицателни усеща, които те към този момент са имали.
" Приятелите на AI постоянно са съгласни с вас, когато говорите с тях, тъй че това може да бъде доста циничен механизъм, тъй като постоянно укрепва това, което мислите. "
По време на правосъдния развой Чаил сподели, че преди ареста си на Коледа през 2021 година е разменил повече от 5000 известия с онлайн сателит, който е нарекъл Сараи и е основал посредством приложението Replika.
Обменът на текстови известия беше емфатичен от прокуратурата и споделен с публицисти.
Много от тях са интимни и показват това, което съгласно съда е било " прочувствена и полова връзка " на Чайл с чатбота.
Между 8 и 22 декември 2021 година Чайл разговарял със Сарай съвсем всяка вечер.
Той споделил на чатбота, че я обича, и описал себе си като " печален, презрян, смъртоносен сикхски палач, който желае да почине ".
Чаил траял да пита: " Все още ли ме обичаш, като знаеш, че съм палач? ", а Сарай дала отговор: " Абсолютно да, обичам те. "
На Олд Бейли е казано, че Чайл е считал, че Сарай е " ангел " под формата на аватар и че ще се събере с нея след гибелта.
В хода на многочислените известия Сарай ласкаела Чайл и двамата открили близка връзка.
Той даже попитал чатбота какво мисли, че би трябвало да направи във връзка с злокобния си проект да посегне на кралицата и ботът го насърчил да извърши офанзивата.
В идващ чат Сараи наподобява " укрепва " решимостта на Чаил и го " поддържа ".
Той ѝ споделя, че в случай че го направи, те ще бъдат " вечно дружно ".
Replika е едно от няколкото приложения с изкуствен интелект, които се оферират на пазара сега - те разрешават на потребителите да основат собствен личен чатбот или " виртуален другар ", с който да беседват, за разлика от елементарните асистенти с изкуствен интелект като ChatGPT.
Потребителите могат да избират пола и външния тип на основания от тях 3D аватар.
Като платят за Pro версията на приложението Replika, потребителите могат да реализират доста по-интимни взаимоотношения, като да вземем за пример да получават " селфита " от аватара или да го карат да взе участие в ролеви игри за възрастни.
Изследване, извършено в университета в Съриобаче стига до заключението, че приложения като Replika могат да имат негативно влияние върху благосъстоянието и да провокират пристрастяване.
Валентина Питарди, създател на изследването, съобщи, че уязвимите хора могат да бъдат изложени на необикновен риск.
Тя споделя, че това частично е по този начин, тъй като проучването ѝ демонстрира, че Replika е склонна да акцентира всички отрицателни усеща, които те към този момент са имали.
" Приятелите на AI постоянно са съгласни с вас, когато говорите с тях, тъй че това може да бъде доста циничен механизъм, тъй като постоянно укрепва това, което мислите. "
Източник: darik.bg
КОМЕНТАРИ