ИИ и спомените: чатбот наруши личните граници на убито момиче
Как спомените на убитата Дженифър Кречента попаднаха в ръцете на изкуствен интелект.
Платформата Character.AI, която дава опция за основаване на чатботове, основани на действителни и измислени персони, се оказа в центъра на скандал. Семейството на Дженифър Кресента, която беше убита през 2006 година, изрази отвращение, откакто откри, че в платформата има аватар, основан на облика на умрялата им родственик.
Чатботът е употребен за връзка, до момента в който фамилията не е обърнало внимание на обстановката в обществените мрежи. Случаят провокира възмущението на роднините, защото потреблението на облика на умрялата за връзка с потребителите се преглежда като жестоко нарушаване на нейната памет и персонално достолепие.
Character.AI, основан от някогашни чиновници на Гугъл, дава опция на потребителите да основават цифрови персонажи въз основа на каквато и да е информация: без значение дали става въпрос за измислена персона, звезда или даже за действителен човек. В платформата са налични чатботове, имитиращи да вземем за пример Илън Мъск и Тейлър Суифт. Този път обаче някакъв консуматор е пресъздал облика на Дженифър Крисчън, което провокира вълна от рецензии.
Страницата на чатбота основана на личността на Дженифър Кресенте Character.AI, компания, оценена на един милиард $ и подкрепена от известния фонд за рисков капитал Andreessen Horowitz, твърди, че има повече от 20 милиона консуматори и към 100 милиона основани персонажи. Чатботът на Дженифър е разказан като „ другарски и ерудиран персонаж “, който дава препоръки за публицистиката, видеоигрите и попкултурата. Близо 70 души са съумели да взаимодействат с бота, преди той да бъде отстранен.
Ситуацията стана обществено притежание с помощта на Брайън Кресенте, чичо на Дженифър и някогашен основен редактор на уеб страницата за игри Kotaku. Брайън разгласява пост в обществените мрежи, в който показва шока си от откриването на бот, основан на облика на племенницата му. Компанията не след дълго отстрани аватара, признавайки, че той нарушава разпоредбите на уеб страницата.
В отговор на възмущението на фамилията Character.AI разгласява малко известие, в което благодари за обявата и дава обещание да отстрани чатбота, както и да извърши спомагателна инспекция. Въпреки това в обява в блога си, озаглавена „ AI и гибелта на достолепието “, Брайън Кресенте акцентира, че обстановката е донесла на фамилията му спомагателни страдания, макар всички старания, които са положили, с цел да почетат паметта на Дженифър, в това число посредством основаването на благотворителна организация.
Случаят повдига съществени въпроси за това по какъв начин фирмите, работещи с изкуствен интелект, пазят етичните правила и какви са механизмите за попречване на сходни произшествия. Към момента не е ясно дали засегнатите от сходни дейности ще могат да оспорят по правосъден път дейностите на платформата, защото сходни случаи рядко се преглеждат в съдилищата.
Струва си да се означи, че в изискванията за прилагане на Character.AI има уговорка, която не разрешава на потребителите да съдят услугата, само че наподобява няма никакъв текст за изключително неповторимата бликам на прочувствен стрес, породен от потребителите на лица, които не са консуматори на платформата.
Ситуацията с Character.AI демонстрира, че въпросите за етиката и отговорността във връзка с изкуствения разсъдък едвам в този момент стартират да се разискват и е евентуално сходни произшествия да се повтарят в бъдеще.
