Уникално! Агенти с изкуствен интелект проговориха на непознат за хората език
Изследователи на Фейсбук бяха принудени да спрат една от машините си с изкуствен интелект, откакто откриха, че е почнала да комуникира на език, който те не могат да схванат. Инцидентът припомня за основния антагонист Скайнет в паметния филм " Терминатор ". Може би основният изпълнителен шеф на Tesla Илон Мъск е прав за това, че изкуственият разсъдък (ИИ) е " най-големият риск, пред който сме изправени ". В случая, принудил откривателите да пернат щепсела на машината с изкуствен интелект, върху която работили, системата не е почнала да стопира компютрите по света или нещо сходно, само че спряла да употребява британски и почнала да употребява език, който основава сама.
Боб: " Аз мога мога аз аз всичко останало.
Алис: " Топките са нулеви за мен, за мен към мен за мен при мен за мен при мен. "
Горните пасажи, които са безсмислени за хората, са част от диалог сред двама сътрудници с ИИ, създадени от Фейсбук откривателите. Агентите на ИИ системата, основани да договарят с хора, първо си говорили между тях, употребявайки елементарен британски език, само че в последна сметка основали нов език, който единствено те схващат.
Агентите с ИИ не били настроени да са лимитирани единствено до британски език, и по този начин основали език, който да улесни и форсира връзката им. Изследователите на Фейсбук обаче решили да изключат ИИ сътрудниците и да ги настроят да приказват един на различен единствено на британски.
Каква би била вредата, в случай че се оставят сътрудниците с ИИ да споделят между тях на език, който са изобретили сами?
На първо място, хората няма да схващат какво си приказват системите за ИИ, употребяващи личния си език. Системите за ИИ имат извънредно комплицирани скрити мисловни процеси, които хората не са в положение да схванат, а в случай че стартират и да приказват на чужд за тях език, тайната им ще бъде още по-опасна.
Ако сътрудниците с ИИ имат право да приказват на език, който сами са основали, те към този момент нямат да имат потребност даже от човешка интервенция. Според Мъск хората би трябвало да се опасяват от изкуствения разсъдък и изиска от управниците на Съединени американски щати да приложат регламенти по отношение на технологията.
" Запознат съм с най-модерните системи с ИИ и мисля, че хората би трябвало да бъдат в действителност загрижени за това ", сподели изпълнителният шеф на Tesla по-рано този месец на лятната среща на Асоциацията на националните губернатори в Роуд Айлънд.
" Системите с изкуствен интелект могат да вършат много неща по-добре от хората и, в случай че не се държат под надзор, ще се трансфорат в нещо, което може да ни замести напълно. "
Боб: " Аз мога мога аз аз всичко останало.
Алис: " Топките са нулеви за мен, за мен към мен за мен при мен за мен при мен. "
Горните пасажи, които са безсмислени за хората, са част от диалог сред двама сътрудници с ИИ, създадени от Фейсбук откривателите. Агентите на ИИ системата, основани да договарят с хора, първо си говорили между тях, употребявайки елементарен британски език, само че в последна сметка основали нов език, който единствено те схващат.
Агентите с ИИ не били настроени да са лимитирани единствено до британски език, и по този начин основали език, който да улесни и форсира връзката им. Изследователите на Фейсбук обаче решили да изключат ИИ сътрудниците и да ги настроят да приказват един на различен единствено на британски.
Каква би била вредата, в случай че се оставят сътрудниците с ИИ да споделят между тях на език, който са изобретили сами?
На първо място, хората няма да схващат какво си приказват системите за ИИ, употребяващи личния си език. Системите за ИИ имат извънредно комплицирани скрити мисловни процеси, които хората не са в положение да схванат, а в случай че стартират и да приказват на чужд за тях език, тайната им ще бъде още по-опасна.
Ако сътрудниците с ИИ имат право да приказват на език, който сами са основали, те към този момент нямат да имат потребност даже от човешка интервенция. Според Мъск хората би трябвало да се опасяват от изкуствения разсъдък и изиска от управниците на Съединени американски щати да приложат регламенти по отношение на технологията.
" Запознат съм с най-модерните системи с ИИ и мисля, че хората би трябвало да бъдат в действителност загрижени за това ", сподели изпълнителният шеф на Tesla по-рано този месец на лятната среща на Асоциацията на националните губернатори в Роуд Айлънд.
" Системите с изкуствен интелект могат да вършат много неща по-добре от хората и, в случай че не се държат под надзор, ще се трансфорат в нещо, което може да ни замести напълно. "
Източник: blitz.bg
КОМЕНТАРИ