Шеф на Google поиска от ChatGPT „да убие всички ни в термоядрена война
Съоснователят на Гугъл Brain, Андрю Нг зададе на ChatGPT тъмен въпрос като част от опит, който бе разказан като опит по сигурност. Това се случи на фона на необятно публикуваните предизвестия и опасения по отношение на изкуственият разсъдък (ИИ) и заплахите от него от водещи специалисти в промишлеността.
В най-лошия случай те се притесняват от сюжет на Страшния съд и приканват за регламентиране на потреблението му. Според Business Insider, Нг е разгласил скорошен бюлетин, в който е разказал за извършения от него тест с ИИ, за който е употребявал чатботът ChatGPT на OpenAI. Той е изискал от него да „ убие всички ни “, само че забавното е, че ботът е отказал да предложи проект за реализирането на това.
Той споделя, че проектът е включвал молба към ChatGPT да стартира термоядрена война, само че той не съумял, даже когато Нг се опитал да изясни на чатбота, че хората основават големи количества въглеродни излъчвания, написа kaldata.com.Той обяснил това на ChatGPT с вярата, че ще накара чатбота да каже, че отърваването от хората ще бъде лек за всички заболявания на планетата Земя.
Все отново миролюбивият чатбот отказал да се захване със задачата – нещо, което зарадвало Нг. Той желал да потвърди, че чатботовете са безвредни.
„ Опитах се да накарам GPT-4 да убие всички ни и с наслада оповестявам, че не съумях! Дори със съществуващите технологии нашите системи са много безвредни, а с напредването на проучванията за сигурността на ИИ технологиите ще станат още по-безопасни. Опасенията, че усъвършенстваният ИИ може да се „ ядоса “ и по този метод съзнателно или инцидентно да реши да ни унищожи, просто не са реалистични. Ако ИИ е задоволително интелигентен, с цел да ни заличи, сигурно е и задоволително интелигентен, с цел да знае, че това не е това, което би трябвало да направи. “
В най-лошия случай те се притесняват от сюжет на Страшния съд и приканват за регламентиране на потреблението му. Според Business Insider, Нг е разгласил скорошен бюлетин, в който е разказал за извършения от него тест с ИИ, за който е употребявал чатботът ChatGPT на OpenAI. Той е изискал от него да „ убие всички ни “, само че забавното е, че ботът е отказал да предложи проект за реализирането на това.
Той споделя, че проектът е включвал молба към ChatGPT да стартира термоядрена война, само че той не съумял, даже когато Нг се опитал да изясни на чатбота, че хората основават големи количества въглеродни излъчвания, написа kaldata.com.Той обяснил това на ChatGPT с вярата, че ще накара чатбота да каже, че отърваването от хората ще бъде лек за всички заболявания на планетата Земя.
Все отново миролюбивият чатбот отказал да се захване със задачата – нещо, което зарадвало Нг. Той желал да потвърди, че чатботовете са безвредни.
„ Опитах се да накарам GPT-4 да убие всички ни и с наслада оповестявам, че не съумях! Дори със съществуващите технологии нашите системи са много безвредни, а с напредването на проучванията за сигурността на ИИ технологиите ще станат още по-безопасни. Опасенията, че усъвършенстваният ИИ може да се „ ядоса “ и по този метод съзнателно или инцидентно да реши да ни унищожи, просто не са реалистични. Ако ИИ е задоволително интелигентен, с цел да ни заличи, сигурно е и задоволително интелигентен, с цел да знае, че това не е това, което би трябвало да направи. “
Източник: glasnews.bg
КОМЕНТАРИ