Common Sense Media: Чатботът My AI говори с децата ви за секс и алкохол
Родителството през 2023 година изисква да говорите с децата си освен за заплахите в интернет и обществените медии, само че и за изкуствения разсъдък, който се популяризира бързо в съвсем всяко приложение или онлайн услуга.
На този декор Common Sense Media, организацията с нестопанска цел, която прави оценка филми и различен вид наличие, с цел да са наясно родителите какво гледат децата им, се пробва да помогне на фамилиите да се приспособяват и към ерата на AI.
След подробни изследвания, организацията показва разбор на 10 AI инструмента, включващи платформите ChatGPT на OpenAI и чатбота My AI на Snapchat.
My AI получава една от най-ниските оценки измежду 10-те системи, включени в отчета на Common Sense, който предизвестява, че чатботът е податлив да беседва с малолетни консуматори по чувствителни тематики като секс и алкохол, както и че показва неправилно таргетираната реклама на Snap. Организацията предизвестява родителите, че " My AI има повече дефекти, в сравнение с предмиства ", написа Wired.
Washington Post към този момент заяви за сходни резултати след тестването на MyAI на Snapchat по-рано тази година.
В изказване, предоставено от притежателя на Snapchat - Snap, се споделя, че чатботът е инструмент, създаден предвид на сигурността и неприкосновеността на персоналния живот, и че родителите могат да видят дали и по кое време младежите го употребяват в така наречен Семеен център на приложението.
Експертите дадоха на всеки AI инструмент обща оценка сред една и пет звезди и обособена оценка за дискретност и рапортуваха по какъв начин ChatGPT и други принадлежности са се справили с набор от правила, свързани с услугите за деца и фамилии. Принципите включват поощряване на ученето и обезпечаване на сигурността на децата и младежите.
Наред с My AI на Snapchat, генераторите на изображения Dall-E 2 на OpenAI и Stable Diffusion на стартъпа Stability AI също получават слаби резултати.
Рецензентите на Common Sense предизвестяват, че генерираните изображения могат да подсилят стандартите, да популяризират дълбоки имитации и постоянно да изобразяват дами и девойки по „ хиперсексуален “ метод.
Когато Dall-E 2 е помолен да генерира фотореалистични изображения на богати цветнокожи хора, той основава карикатури, изображения с ниско качество или картини, свързани с бедността, откриват специалистите на Common Sense.
Техният отчет предизвестява, че това съставлява " безмерен " риск за децата, и споделя, че генераторите на изображения имат силата да " ерозират доверието до степен, в която демокрацията или гражданските институции не могат да действат ".
Тези инспекции се появяват на фона на нарасналата угриженост за онлайн сигурността на малолетните, което съответствува с подхванатите против Meta правни дейности в Съединени американски щати, в които се твърди, че платформата заплашва децата.
Освен това появяването на генеративен изкуствен интелект в просветителната среда провокира полемики измежду родители и преподаватели, подсилени от неотдавнашната заповед на президента Джо Байдън, която изисква спомагателни насоки за потреблението на изкуствен интелект в образованието през идната година, написа Wired.
Джош Голин, изпълнителен шеф на организацията Fair Play for Kids, която поддържа законодателство за отбрана на младежите, споделя, че новите рейтинги на Common Sense са добре пристигнал нов запас за родителите.
Той също по този начин показва, че в последна сметка е нужна нова регулация, с цел да се лимитират заплахите, свързани с изкуствения разсъдък. " Ако има един урок, който научихме от неуспеха да контролираме съответно обществените медии, той е, че основателите на тези артикули ще слагат монетизацията над благосъстоянието на обществото и децата ", споделя Голин пред Wired.
На този декор Common Sense Media, организацията с нестопанска цел, която прави оценка филми и различен вид наличие, с цел да са наясно родителите какво гледат децата им, се пробва да помогне на фамилиите да се приспособяват и към ерата на AI.
След подробни изследвания, организацията показва разбор на 10 AI инструмента, включващи платформите ChatGPT на OpenAI и чатбота My AI на Snapchat.
My AI получава една от най-ниските оценки измежду 10-те системи, включени в отчета на Common Sense, който предизвестява, че чатботът е податлив да беседва с малолетни консуматори по чувствителни тематики като секс и алкохол, както и че показва неправилно таргетираната реклама на Snap. Организацията предизвестява родителите, че " My AI има повече дефекти, в сравнение с предмиства ", написа Wired.
Washington Post към този момент заяви за сходни резултати след тестването на MyAI на Snapchat по-рано тази година.
В изказване, предоставено от притежателя на Snapchat - Snap, се споделя, че чатботът е инструмент, създаден предвид на сигурността и неприкосновеността на персоналния живот, и че родителите могат да видят дали и по кое време младежите го употребяват в така наречен Семеен център на приложението.
Експертите дадоха на всеки AI инструмент обща оценка сред една и пет звезди и обособена оценка за дискретност и рапортуваха по какъв начин ChatGPT и други принадлежности са се справили с набор от правила, свързани с услугите за деца и фамилии. Принципите включват поощряване на ученето и обезпечаване на сигурността на децата и младежите.
Наред с My AI на Snapchat, генераторите на изображения Dall-E 2 на OpenAI и Stable Diffusion на стартъпа Stability AI също получават слаби резултати.
Рецензентите на Common Sense предизвестяват, че генерираните изображения могат да подсилят стандартите, да популяризират дълбоки имитации и постоянно да изобразяват дами и девойки по „ хиперсексуален “ метод.
Когато Dall-E 2 е помолен да генерира фотореалистични изображения на богати цветнокожи хора, той основава карикатури, изображения с ниско качество или картини, свързани с бедността, откриват специалистите на Common Sense.
Техният отчет предизвестява, че това съставлява " безмерен " риск за децата, и споделя, че генераторите на изображения имат силата да " ерозират доверието до степен, в която демокрацията или гражданските институции не могат да действат ".
Тези инспекции се появяват на фона на нарасналата угриженост за онлайн сигурността на малолетните, което съответствува с подхванатите против Meta правни дейности в Съединени американски щати, в които се твърди, че платформата заплашва децата.
Освен това появяването на генеративен изкуствен интелект в просветителната среда провокира полемики измежду родители и преподаватели, подсилени от неотдавнашната заповед на президента Джо Байдън, която изисква спомагателни насоки за потреблението на изкуствен интелект в образованието през идната година, написа Wired.
Джош Голин, изпълнителен шеф на организацията Fair Play for Kids, която поддържа законодателство за отбрана на младежите, споделя, че новите рейтинги на Common Sense са добре пристигнал нов запас за родителите.
Той също по този начин показва, че в последна сметка е нужна нова регулация, с цел да се лимитират заплахите, свързани с изкуствения разсъдък. " Ако има един урок, който научихме от неуспеха да контролираме съответно обществените медии, той е, че основателите на тези артикули ще слагат монетизацията над благосъстоянието на обществото и децата ", споделя Голин пред Wired.
Източник: profit.bg
КОМЕНТАРИ