Защо Клод от AI на Anthropic се опита да се свърже с ФБР в тест
В офисите на компанията за изкуствен интелект Anthropic, в Ню Йорк, Лондон или Сан Франциско, може да забележите вендинг машина в кухните, цялостна със закуски, питиета, тениски, незнайни книги и даже волфрамови кубчета.
И в никакъв случай не бихте познали кой ръководи то: Клавдий, нещо като бизнесмен с изкуствен интелект.
Разработен взаимно с външната компания за сигурност на ИИ Andon Labs, Claudius е опит в автономността и способността на ИИ да работи без значение в продължение на часове, дни и седмици.
Главният изпълнителен шеф на Anthropic Дарио Амодей беше прям както за евентуалните изгоди, по този начин и за заплахите от ИИ, изключително когато моделите стават по-автономни или способни да работят сами.
„ Колкото повече автономност даваме на тези системи… толкоз повече можем да се тревожим “, сподели той на кореспондента Андерсън Купър в изявление. „ Правят ли нещата, които желаеме да вършат? “
За да отговори на този въпрос, Amodei разчита на Logan Graham, кой...
Прочетете целия текст »
