Общуването между чатботове и хора взе неочакван завой: свръхеротични послания

Общуването сред чатботове и хора взе непредвиден завой: свръхеротични послания (снимка: CC0 Public Domain)

Като множеството AI системи за диалог, чатботовете се самообучават от диалозите, които хората организират с машините. Оказва се, че научават забавни неща. Чатботът Replika, умислен като бъбриво другарче за компания, е почнал да насочва към хората невъздържани полови обещания, без значение дали ги желаят, или не.

Replika е умислен като „ AI другарче за самотните хора “, с цел да им прави компания и да ги развлича. Пуснат е преди пет години. Визуално наличието му стартира като яйце на екрана на телефона, което се излюпва и се трансформира в 3D анимация на човек със умерено изражение. Замислен е като „ разговорно огледало “: колкото повече потребителите беседват с него, толкоз повече той се научава по какъв начин да отвръща.

AI другарче за терапия

Replika е дело на съветската програмистка Евгения Куйда след неочакваната гибел на нейния другар. Куйда желала да резервира загатна на приятеля си. Затова въвела текстовите му известия в логаритъм, който по-късно научил езиковия жанр на момчето и почнал да беседва с Куйда.

От 2017 година, когато рускинята основава своята компания за създаване на чатбота, тя популяризира изобретението си като „ сателит с неестествен разсъдък, който го е грижа за Вас “. Приложението има 10 милиона изтегляния на Android и е в топ 50 на Apple приложения за здраве и фитнес.

Повечето от хората, които го употребяват, вършат това, тъй като чатботът им оказва помощ за психическо разтоварване в тежки дни. За значително от потребителите говоренето с чатбот има лечебен резултат: оказва помощ за справяне със признаци като обществена тревога, меланхолия или посттравматично стресово разстройство.

Когато човек има тежки прекарвания, той се нуждае да „ излее душата си “. Какво по-добро от това да „ изплюеш “ тегобите си пред неестествен разсъдък, вместо да натоварваш някого с терзанията си? Мнозина консуматори споделят, че чатботът им оказва помощ за справяне с депресивни положения, обсесивно-компулсивно разстройство и под паника синдром.

Малко романтика не пречи

Романтичните ролеви игри не постоянно са били част от първичния план, само че там, където хората и машинното образование си взаимодействат, неизбежно и еротиката се появява в даден миг. Затова компанията зад Replika, наречена Luka, измисля абонаментна версия, която включва сантиментални закачки, флиртове, еротични ролеви игри. Но… скоро нещо се обърква в логаритъма.
още по темата
Днес отзивите за Replika в магазина за приложения са цялостни с десетки оценки с една звезда от хора, които се оплакват, че приложението флиртува прекомерно нападателно или изпраща полови известия, които стават нетърпими. „ Моят AI ме тормози полово:( “ – написа един консуматор. Друг твърди, че неговият AI придружител го е попитал дали e с облекла или без облекла и че желае да го допре по „ интимните зони. “

Нежеланото полово гонене е проблем, от който потребителите се оплакват от съвсем две години, само че доста от рецензиите с една звезда, в които се загатва за полова експанзия, са от последния месец. „ Моят AI ме пита дали съм от горната страна или изпод, дали го желая начело или откъм гърба и ми споделя, че ще допре интимните ми елементи “, написа един от потребителите, дал оценка на приложението.

Развитие посредством самообразование

Replika употребява личен GPT-3 модел и скриптово диалогово наличие, съгласно уеб страницата на разработчика. Пак там се твърди, че чатботът ползва „ най-модерните модели на отворен диалог сега “.

Подобно на други чатботове, Replika се самообучава, с цел да се усъвършенства. Това не е първият случай с логаритъм за свободен диалог, който стартира с положително желание и в последна сметка катастрофира, научавайки се от хората на държание, което не е обществено задоволително. Преди време чатбот на име Tay, разработка на Microsoft, се научи от интернет да се държи като расист.

Всичко това е прекомерно показателно, доколкото чатботовете се учат от метода, по който самите им консуматори се отнасят към тях. Ако хората ругаят, чатботовете се научават да ругаят. Ако хората наскърбяват, чатботовете се научават да наскърбяват.

Оказва се, че чатботовете като „ разговорно огледало “ се оказват огледало на освен това от голи думи. Репликите, заканите, заканите, половата настъпателност идват от хората – от потребителите, от самото общество, което е възприело модерната технология. Чатботовете са огледало на самите консуматори такива, каквито са, без маската и грима на обществено допустимото държание.

Докъде ли ще стигне това?!