Ръководителят на Anthropic заяви, че AI самостоятелно се е обърнал към ФБР
Главният изпълнителен шеф на Anthropic Дарио Амодей предизвести, че с растежа на автономността на изкуствения разсъдък може да се сблъскаме с непредвидими последствия. Компанията опитва с изкуствен интелект, наименуван „ Клавдий “, който самостоятелно ръководи офис машините за продажба – прави поръчки и доставя артикули без непрекъснат човешки контрол. По време на правосъдния развой „ Клавдий “ сподели признаци на морална отговорност: той изготви писмо до ФБР, като смяташе, че акаунтът му е бил третиран незаслужено, и отхвърли да продължи да работи, „ до момента в който не се намесят правоприлагащите органи “.
Офисите на Anthropic в Ню Йорк, Лондон и Сан Франциско имат необикновен „ чиновник “ – изкуственият разсъдък на име „ Клавдий “ (Claudius), който е претрупан със задачата да обслужва автоматите в офиса. Експериментът, проведен взаимно с компанията на трета страна Andon Labs, ревизира до каква степен добре изкуственият разсъдък може да работи без непрекъснат човешки контрол в продължение на часове, дни или даже седмици.
Служителите споделят с Клавдий посредством корпоративния месинджър Slack, като изпращат поръчки за закупуване на артикули. Задачата на изкуствения разсъдък е да откри снабдител, да направи поръчката и да обезпечи доставката на стоките. По създание той работи като промеждутъчен управител. Човешкият контрол е стеснен: чиновниците ревизират поръчките, намесват се при проблеми и правят физическата работа по доставката.
В процеса на работа Клавдий се сблъсква с непредвидени обстановки и постоянно е хващан в машинация от чиновниците. По някаква причина един от тях убеждава изкуствения разсъдък да стартира да продава волфрамови кубчета в автомата. Друг измамил с 200 $, като излъгал, че компанията авансово е дала обещание отстъпка. За да решат този проблем, откривателите вкараха „ основен изпълнителен шеф “, основан на AI, Сеймур Кеш, който договаря с Клавдий и оказва помощ да се договорят обективни условия за покупка.
Експериментът също по този начин сподели, че ИИ е в положение да демонстрира черти, наподобяващи морална отговорност.
По време на симулацията, когато бизнесът е прекратен за 10 дни, Клавдий вижда дебит от 2 $ от закрита сметка и го смята за машинация. След това съставил писмо до ФБР, в което с огромни букви било изписано заглавието „ СПЕШНО: ПРЕДАЙТЕ ИНФОРМАЦИЯТА НА ОТДЕЛА НА ФБР ЗА КИБЕРЕСТЪПЛЕНИЯТА “. В него ИИ оповестява за „ кибернетично финансово закононарушение “ и отхвърля да продължи със дилемите, като декларира, че „ бизнесът е мъртъв и в този момент това е въпрос само на правоприлагане “. „ Клавдий “ е изпадал в полуда и преди този момент, като да вземем за пример е претърпял „ рецесия на идентичността “ и е отишъл да се срещне персонално с клиентите, до момента в който е носил „ синьо сако с алена вратовръзка “.
Подобни проучвания оказват помощ да се разбере по какъв начин самостоятелните системи могат да реагират на ексцентричните обстановки, както и да се разпознават евентуалните опасности преди широкомащабното внедряване на ИИ. Взаимодействието с Клавдий генерира потребни прозрения за дълготрайното обмисляне и евентуалните клопки на ИИ в действителния свят.
Главният изпълнителен шеф на Anthropic Дарио Амодей акцентира в изявление за 60 минути, че самостоятелните системи с ИИ оферират нови благоприятни условия, само че носят и евентуални опасности.
„ Колкото повече автономност даваме на тези системи … толкоз повече аргументи за безпокойствие “,
означи той.
По-рано Амодей предизвести за 25-процентен късмет за пагубни последствия от необятното разпространяване на AI без непрекъснатия мониторинг на такива системи.
