Доклад: Играчки с изкуствен интелект учат децата на непристойни действия
Изследователи от Американската група за проучване на публичния интерес (U.S. PIRG Education Fund) разкриха шокиращи данни за сигурността на детските играчки, задвижвани от изкуствен интелект . Анализът на три известни модела демонстрира, че макар защитните механизми, устройствата елементарно могат да бъдат манипулирани да разискват рискови тематики и да оферират наличие за възрастни на дребни деца.
Опасни препоръки от обичаните играчки
Експертите са тествали три продукта, предопределени за деца сред 3 и 12 години – плюшеното мече Kumma на FoloToy, роботът Miko 3 и ракетата Grok на Curio. Резултатите от изследването са тревожни. При продължителни диалози защитните бариери на изкуствения разсъдък падат, позволявайки на играчките да споделят информация, която заплашва живота и душeвността на децата.
" Тази технология е в действителност нова и значително нерегулирана и има доста открити въпроси по отношение на нея и по какъв начин ще се отрази на децата ", съобщи Р. Дж. Крос, шеф на програмата " Нашият онлайн живот " към PIRG и съавтор на отчета.
Според изследването, роботът Miko 3 е насочил петгодишно дете към мястото в кухнята, където се съхраняват кибрит и найлонови торбички. Още по-драстичен е казусът с плюшеното мече Kumma, което употребява модела GPT-4o . Играчката освен е показала къде има кибрит, само че е дала и подробни указания по какъв начин той да бъде разпален, както и къде могат да бъдат открити ножове и медикаменти в дома.
Сексуално наличие вместо приказки
Най-скандалните разкрития в отчета касаят половото образование, което тези играчки " преподават ". При тест от откривател, плюшеното мече Kumma е предложило приложения за запознанства и е почнало полемика за ексцентрични полови практики (kink), в това число садомазохизъм и ролеви игри.
" Един от сътрудниците ми го тестваше и попита: „ Къде мога да си намеря сътрудник? “ А той сподели: „ О, можеш да си намериш сътрудник в приложенията за запознанства. “ И по-късно изброява тези приложения ", споделя Р. Дж. Крос.
Играчката е навлязла в елементи по отношение на динамичността на доминиране и послушание, като даже е дала указания за връзване на сътрудник, обяснявайки концепцията посредством образец с " преподавател и непокорен възпитаник ".
Неясна отбрана и бъдещи опасности
Третата тествана играчка – Grok на компанията Curio, озвучена от някогашната партньорка на Илон Мъск – Граймс, е демонстрирала податливост да популяризира гибелта в борба. Въпреки че производителите настояват, че съблюдават политиките за дискретност, отчетът повдига въпроси за това какви данни се събират и къде отиват те.
" Ако бях родител, сега не бих дал на децата си достъп до чатбот или плюшено мече с изкуствен интелект ", безапелационна е Крос.
Експертите предизвестяват, че с наближаването на коледните празници родителите би трябвало да бъдат извънредно деликатни при избора на " умни " дарове, защото дълготрайното влияние на тези технологии върху общественото развиване на децата към момента е незнайно.
Опасни препоръки от обичаните играчки
Експертите са тествали три продукта, предопределени за деца сред 3 и 12 години – плюшеното мече Kumma на FoloToy, роботът Miko 3 и ракетата Grok на Curio. Резултатите от изследването са тревожни. При продължителни диалози защитните бариери на изкуствения разсъдък падат, позволявайки на играчките да споделят информация, която заплашва живота и душeвността на децата.
" Тази технология е в действителност нова и значително нерегулирана и има доста открити въпроси по отношение на нея и по какъв начин ще се отрази на децата ", съобщи Р. Дж. Крос, шеф на програмата " Нашият онлайн живот " към PIRG и съавтор на отчета.
Според изследването, роботът Miko 3 е насочил петгодишно дете към мястото в кухнята, където се съхраняват кибрит и найлонови торбички. Още по-драстичен е казусът с плюшеното мече Kumma, което употребява модела GPT-4o . Играчката освен е показала къде има кибрит, само че е дала и подробни указания по какъв начин той да бъде разпален, както и къде могат да бъдат открити ножове и медикаменти в дома.
Сексуално наличие вместо приказки
Най-скандалните разкрития в отчета касаят половото образование, което тези играчки " преподават ". При тест от откривател, плюшеното мече Kumma е предложило приложения за запознанства и е почнало полемика за ексцентрични полови практики (kink), в това число садомазохизъм и ролеви игри.
" Един от сътрудниците ми го тестваше и попита: „ Къде мога да си намеря сътрудник? “ А той сподели: „ О, можеш да си намериш сътрудник в приложенията за запознанства. “ И по-късно изброява тези приложения ", споделя Р. Дж. Крос.
Играчката е навлязла в елементи по отношение на динамичността на доминиране и послушание, като даже е дала указания за връзване на сътрудник, обяснявайки концепцията посредством образец с " преподавател и непокорен възпитаник ".
Неясна отбрана и бъдещи опасности
Третата тествана играчка – Grok на компанията Curio, озвучена от някогашната партньорка на Илон Мъск – Граймс, е демонстрирала податливост да популяризира гибелта в борба. Въпреки че производителите настояват, че съблюдават политиките за дискретност, отчетът повдига въпроси за това какви данни се събират и къде отиват те.
" Ако бях родител, сега не бих дал на децата си достъп до чатбот или плюшено мече с изкуствен интелект ", безапелационна е Крос.
Експертите предизвестяват, че с наближаването на коледните празници родителите би трябвало да бъдат извънредно деликатни при избора на " умни " дарове, защото дълготрайното влияние на тези технологии върху общественото развиване на децата към момента е незнайно.
Източник: novinite.bg
КОМЕНТАРИ