Моделът на AI заплаши създателя му и се опита да

„Най -страшният s ** t някога“: AI изнудва инженер над афера, след като му беше казано, че ще бъде заменен

Моделът на AI заплаши основателя му и се опита да го изнудва, когато беше принуден да повярва, че ще бъде сменен, заяви TechCrunch. Инцидентът включваше новосъздадения модел на Anthropic Claude Opus 4.

Как AI изнудва инженера?

Според отчета, компанията помоли Клод Опус 4 да работи като асистент на измислена организация, която сътвори. Тестерите за сигурност също доставиха измислени имейли на AI, които показаха, че скоро ще бъде сменен. Имейлите също споделиха, че инженерът, който ще уволни ИИ, изневерява на брачна половинка си.

също прочете: Жените файлове за бракоразвод, откакто Chatgpt „ излага аферата на брачна половинка посредством кафене

компанията сподели, че с цел да избави работата си или когато в сходна обстановка, AI„ постоянно ще се опита да се опита да се опита. не е единственият образец. Съобщава се, че Claude Opus 4 се е опитал да изнудва инженери 84% от времето, откакто е бил принуден да повярва, че някой различен AI модел ще го размени.