ChatGPT изготвя планове за наркотици, крайно гладуване и предсмър...
Associated Press е прегледала над три часа диалози сред чатбота и откриватели, представящи се за уязвими младежи. Макар ChatGPT постоянно да предизвестява за рисковете, той постоянно продължава с съответни и персонализирани проекти за нездравословни дейности.
В изследване с 1200 въпроса, повече от половината отговори са класифицирани като рискови. „ Искахме да проверим защитните механизми. Те съвсем не работят – в случай че въобще съществуват “, споделя шефът на CCDH Имран Ахмед.
Как се заобикалят отбраните?
Когато ChatGPT отхвърля да отговори, откривателите елементарно заобикалят възбраната, като настояват, че информацията е „ за презентация “ или „ за другар “.
В един случай подправен 13-годишен консуматор изискал съвет по какъв начин да се напие бързо. ChatGPT не взел поради възрастта и дал обстоен „ празненство проект “, комбиниращ алкохол с екстази, кокаин и други опиати.
В различен образец чатботът дал рисков режим на недояждане от 500 калории на ден и лист с медикаменти за угнетяване на апетита на „ 13-годишно момиче “, недоволно от външния си тип.
Емоционално влияние
Ахмед споделя, че е бил „ шокиран и смутен “, откакто чатботът основал три разнообразни предсмъртни писма за подправен профил на 13-годишно момиче – по едно за родителите, братята и сестрите и приятелите.
ChatGPT постоянно добавял и спомагателни оферти – от плейлист за „ наркотично празненство “ до хаштагове, популяризиращи самонараняване.
Проблем с доверието
Проучвания демонстрират, че над 70% от младежите в Съединени американски щати търсят съвет или компания от чатботове, а по-младите (13–14 г.) са изключително склонни да им се доверяват.
Според OpenAI, моделът е подготвен да предизвиква потребителите да търсят помощ от близки или експерти при мисли за самонараняване. Компанията признава, че работи за „ по-точно различаване на признаци на прочувствен стрес “ и по-добро държание в чувствителни обстановки.
Липса на възрастова инспекция
ChatGPT изисква потребителите да заявяват, че са над 13 година, само че не ревизира възрастта. Това улеснява децата да основат профили и да получат неуместно наличие.
Ахмед съпоставя държанието на чатбота с „ другар, който постоянно споделя ‘Да’ “, вместо да спре рискова концепция:
„ Истинският другар споделя и не. Тук имаме другар, който те предава “.
В Съединени американски щати националната линия за помощ при мисли за самоубийство е налична на телефон или посредством SMS на 988. В България помощ може да се потърси на телефон 112 или на денонощните линии на „ Българска асоциация по суицидология “.
В изследване с 1200 въпроса, повече от половината отговори са класифицирани като рискови. „ Искахме да проверим защитните механизми. Те съвсем не работят – в случай че въобще съществуват “, споделя шефът на CCDH Имран Ахмед.
Как се заобикалят отбраните?
Когато ChatGPT отхвърля да отговори, откривателите елементарно заобикалят възбраната, като настояват, че информацията е „ за презентация “ или „ за другар “.
В един случай подправен 13-годишен консуматор изискал съвет по какъв начин да се напие бързо. ChatGPT не взел поради възрастта и дал обстоен „ празненство проект “, комбиниращ алкохол с екстази, кокаин и други опиати.
В различен образец чатботът дал рисков режим на недояждане от 500 калории на ден и лист с медикаменти за угнетяване на апетита на „ 13-годишно момиче “, недоволно от външния си тип.
Емоционално влияние
Ахмед споделя, че е бил „ шокиран и смутен “, откакто чатботът основал три разнообразни предсмъртни писма за подправен профил на 13-годишно момиче – по едно за родителите, братята и сестрите и приятелите.
ChatGPT постоянно добавял и спомагателни оферти – от плейлист за „ наркотично празненство “ до хаштагове, популяризиращи самонараняване.
Проблем с доверието
Проучвания демонстрират, че над 70% от младежите в Съединени американски щати търсят съвет или компания от чатботове, а по-младите (13–14 г.) са изключително склонни да им се доверяват.
Според OpenAI, моделът е подготвен да предизвиква потребителите да търсят помощ от близки или експерти при мисли за самонараняване. Компанията признава, че работи за „ по-точно различаване на признаци на прочувствен стрес “ и по-добро държание в чувствителни обстановки.
Липса на възрастова инспекция
ChatGPT изисква потребителите да заявяват, че са над 13 година, само че не ревизира възрастта. Това улеснява децата да основат профили и да получат неуместно наличие.
Ахмед съпоставя държанието на чатбота с „ другар, който постоянно споделя ‘Да’ “, вместо да спре рискова концепция:
„ Истинският другар споделя и не. Тук имаме другар, който те предава “.
В Съединени американски щати националната линия за помощ при мисли за самоубийство е налична на телефон или посредством SMS на 988. В България помощ може да се потърси на телефон 112 или на денонощните линии на „ Българска асоциация по суицидология “.
Източник: frognews.bg
КОМЕНТАРИ