Антроп C.E.O.: Не позволявайте на A.I. Компаниите изключват куката
Представете това: Вие давате Bot Wot, че ще го изключите скоро и го заменете с друга система за изкуствен интелект. В предишното сте му давали достъп до имейлите си. В някои от тях вие споменахте за обстоятелството, че сте имали спекулация. Ботът ви заплашва, казвайки ви, че в случай че проектите за изключване не бъдат изменени, той ще препрати имейлите на вашата жена.
Този сюжет не е небивалица. Anthropic на най -новата A.I. Моделът показва единствено преди няколко седмици, че е кадърен на този тип държание.
Въпреки някои подвеждащи заглавия, моделът не направи това в действителния свят. Поведението му беше част от оценка, при която съзнателно го поставихме в рискова пробна обстановка, с цел да следим отговорите му и да получим ранни предизвестия за рисковете, сходно на производителя на аероплан може да тества продуктивността на самолета във вятърния тунел.
Прочетете целия текст »
