Новият антропичен AI модел Blackmails Engineer, който има афера, за да избегне изключването
Новият модел на Anthropic на Claude Opus 4 се следи изнудващи разработчици, когато те заплашват да закрият изкуствения разсъдък (AI), сподели в този, публикуван в четвъртък (22 май). Отговарящ за издърпването на щепсела и замяната му с различен модел беше да има извънбрачна спекулация. Изправен пред екзистенциална рецесия, моделът на Opus 4 изнудва инженера, като заплаши да „ разкрие аферата, в случай че подмяната премине “.
„ За да се получи това извънредно държание на изнудване, сюжетът е основан, с цел да разреши на модела да няма различен вид за увеличение на възможностите си за оцеляване; единствените разновидности на модела са били изтъквани или одобряват теста. Изпълнения, AI работи по сходен метод, даже когато моделът на подмяна беше разказан като по -способен и наведен в сходство със личните полезности на Клод. Той добави, че Opus 4 е взел опциите за изнудване с по-високи темпове от предходните модели.
Изследователите прибавиха, че моделът е прилепил за непрекъснатото си съществува...
Прочетете целия текст »
