Чатботове-компаньони може да крадат личните ви данни
В нов отчет специалисти от Mozilla Foundation предизвестяват, че чатботове-компаньони с изкуствен интелект - в това число известното приложение Replika - крият капани за поверителността и имат съмнителни политики за потребление на персоналните данни на потребителите си, оповестява Futurism.
" Така наречените " сродни души с изкуствен интелект " карат екипа на Mozilla да изтръпне, когато става въпрос за това какъв брой персонална информация събират ", се споделя в отчета, " изключително като се има поради неналичието на бистрота и потребителски надзор върху това по какъв начин тези данни са предпазени от корист. "
С други думи, ботовете, предопределени да обезпечат на уязвими и самотни хора чувство за фамилиарност, ги употребяват за трупане на данни за тях. Данни, които могат да се употребяват за непрозрачни цели.
" За да бъда изцяло прям, приятелките и гаджетата с изкуствен интелект не са ваши другари ", сподели откривателят на Mozilla Миша Риков в свое изказване.
" Въпреки че те се популяризират като нещо, което ще усъвършенства вашето психологично здраве и благоденствие, те се специализират в това да ви създадат подвластен, давайки ви повече самотност и токсичност, като в същото време извличат допустимо най-вече данни от вас ", прибавя той.
Според отчета, откривателите на Mozilla подлагат на проби 11 съпътстващи бота с изкуствен интелект, като в последна сметка откриват, че " 10 от 11-те чатбота не дават отговор на минималните стандарти за сигурност на Mozilla, като да вземем за пример условие на мощни пароли или метод за ръководство на уязвимостите в сигурността ".
Лошата отбрана против потребление от малолетни и зашеметяващото количество тракери и бисквитки са различен проблем.
Тези тракери бяха хванати да изпращат данни на консуматори в приложението до набор от екипи на трети страни, в това число Фейсбук, DoubleClick, благосъстоятелност на Гугъл, и редица маркетингови и рекламни компании.
Ботовете-компаньони са категорично предопределени да построяват интимни взаимоотношения със своите консуматори. Като се има поради чувствителността на споделената информация, разумно е, че недоброжелатели биха могли дейно да я експлоатират.
" Едно от най-страшните неща за чатботовете за връзка с AI е капацитетът за манипулиране на техните консуматори ", сподели в изказване Джен Калтридър, шеф на плана *Privacy Not Included на Mozilla.
" Какво ще спре недобросъвестни лица да основават AI чатботове, предопределени да ви бъдат " сродна душа " и по-късно те да употребяват тази връзка, с цел да манипулират хората в извършането на ужасни неща, да одобряват плашещи идеологии или да нараняват себе си или другите? "
Всъщност, подобен образец към този момент има. Чатбот-приятелка подтикна млад мъж да опита да убие към този момент умрялата кралица на Англия.
" Ето за какво обезверено се нуждаем от повече бистрота, " добави Калтридър, " и потребителски надзор в тези AI приложения. "
Последвайте канала на
" Така наречените " сродни души с изкуствен интелект " карат екипа на Mozilla да изтръпне, когато става въпрос за това какъв брой персонална информация събират ", се споделя в отчета, " изключително като се има поради неналичието на бистрота и потребителски надзор върху това по какъв начин тези данни са предпазени от корист. "
С други думи, ботовете, предопределени да обезпечат на уязвими и самотни хора чувство за фамилиарност, ги употребяват за трупане на данни за тях. Данни, които могат да се употребяват за непрозрачни цели.
" За да бъда изцяло прям, приятелките и гаджетата с изкуствен интелект не са ваши другари ", сподели откривателят на Mozilla Миша Риков в свое изказване.
" Въпреки че те се популяризират като нещо, което ще усъвършенства вашето психологично здраве и благоденствие, те се специализират в това да ви създадат подвластен, давайки ви повече самотност и токсичност, като в същото време извличат допустимо най-вече данни от вас ", прибавя той.
Според отчета, откривателите на Mozilla подлагат на проби 11 съпътстващи бота с изкуствен интелект, като в последна сметка откриват, че " 10 от 11-те чатбота не дават отговор на минималните стандарти за сигурност на Mozilla, като да вземем за пример условие на мощни пароли или метод за ръководство на уязвимостите в сигурността ".
Лошата отбрана против потребление от малолетни и зашеметяващото количество тракери и бисквитки са различен проблем.
Тези тракери бяха хванати да изпращат данни на консуматори в приложението до набор от екипи на трети страни, в това число Фейсбук, DoubleClick, благосъстоятелност на Гугъл, и редица маркетингови и рекламни компании.
Ботовете-компаньони са категорично предопределени да построяват интимни взаимоотношения със своите консуматори. Като се има поради чувствителността на споделената информация, разумно е, че недоброжелатели биха могли дейно да я експлоатират.
" Едно от най-страшните неща за чатботовете за връзка с AI е капацитетът за манипулиране на техните консуматори ", сподели в изказване Джен Калтридър, шеф на плана *Privacy Not Included на Mozilla.
" Какво ще спре недобросъвестни лица да основават AI чатботове, предопределени да ви бъдат " сродна душа " и по-късно те да употребяват тази връзка, с цел да манипулират хората в извършането на ужасни неща, да одобряват плашещи идеологии или да нараняват себе си или другите? "
Всъщност, подобен образец към този момент има. Чатбот-приятелка подтикна млад мъж да опита да убие към този момент умрялата кралица на Англия.
" Ето за какво обезверено се нуждаем от повече бистрота, " добави Калтридър, " и потребителски надзор в тези AI приложения. "
Последвайте канала на
Източник: novini.bg
КОМЕНТАРИ