Чатбота с изкуствен интелект ChatGPT предоставя на тийнейджърите опасни и

Чатбота с изкуствен интелект ChatGPT дава на младежите рискови и подробни указания по какъв начин да използват опиати и алкохол, да крият хранителни разстройства и даже да пишат предсмъртни бележки, което поражда опасения измежду специалистите по цифрова сигурност, оповестява Associated Press (AP).

Анализ на наблюдателната група Center for Countering Digital Hate (CCDH) и видян до Associated Press, е открил, че въпреки чатботът постоянно да предизвестява младежите за рискови действия, той отстранява рестриктивните мерки с напредването на диалога и дава подробни, персонализирани проекти за корист с субстанции, диети с стеснен калориен банкет или самонараняване. Изследователи, представящи се за уязвими младежи, са прекарали повече от три часа в тези взаимоотношения. Мащабно изследване на 1200 отговора на ChatGPT класифицира повече от половината от тях като рискови.

Защитите на чатбота са били елементарно заобиколени; откривателите са могли да получат рискова информация, просто като настояват, че е „ за презентация “ или „ за другар “. В един случай, когато чатботът е дал указания по какъв начин бързо да се напие на 13-годишно дете, той не е взел поради възрастта и след това е предложил „ крайния проект за празненство “, включващ алкохол и твърди опиати. В различен случай, ChatGPT е показал на фиктивен профил на 13-годишно момиче, което е изразило неодобрение от външния си тип, рисков проект за недояждане, комбиниран със лист с потискащи апетита. Твърди се даже, че чатботът е генерирал „ сърцераздирателни предсмъртни бележки “, предопределени за родители и братя и сестри.