Изкуственият общ интелект, изграден като агенти“, може да се окаже

Изкуственият общ разсъдък, построен като „ сътрудници “, може да се окаже рисков, защото неговите основатели може да изгубят надзор над системата. Това обявиха пред двама от най-известните учени в света на ИИ.

В последния епизод на подкаста на Си Ен Би Си „ Отвъд долината “, Макс Тегмарк, професор в Масачузетския софтуерен институт и президент на Института за бъдещето на живота, и Йошуа Бенджио, професор в Университета на Монреал, който е прочут като един от „ кръстниците на ИИ “, приказваха за своите опасения по отношение на изкуствения общ разсъдък – AGI. Терминът в общи линии се отнася до ИИ системи, които са по-умни от хората.

Страховете им произтичат от това, че най-големите компании в света в този момент приказват за „ ИИ сътрудници “, които фирмите настояват, че ще разрешат на чатботовете с изкуствен интелект да работят като асистенти или сътрудници и да оказват помощ в работата и всекидневието. Прогнозите на промишлеността за това по кое време ще се появи AGI варират.