Неконтролируемият изкуствен интелект плаши учени и философи(снимка: CC0 Public Domain) Учени

Неконтролируемият изкуствен интелект плаши учени и философи
(снимка: CC0 Public Domain)

Учени от о бщността на Макс Планк се опасяват, че човечеството в никакъв случай няма да може да управлява свръхинтелигентния изкуствен интелект. Има заплаха, когато бъде основан подобен AI, да се сбъдне сюжетът с Терминатор (научнофантастичния екшън с Арнолд Шварценегер ).

Неконтролируемият неестествен свръх-разум от дълго време тормози учени и философи. Човечеството към момента не е основало сходен разсъдък, само че общността на Макс Планк занапред се притеснява, че хората в никакъв случай не биха могли да го управляват.
още по тематиката
В ново проучване, оповестено в, учените употребяват теоретични калкулации, с цел да дефинират фундаменталната неспособност за надзор на свръхинтелигентния AI. Те преглеждат въпроса за ограничението на изкуствения разсъдък. Ако логаритъм, който надминава човешкия разсъдък и има достъп до всички данни, реши, че би трябвало да навреди на хората или да унищожи изцяло човечеството, тогава по какъв начин може да бъде предотвратено това?

Учените допускат, че основаването на „ логаритъм за ограничение ”, който блокира свръхинтелигентния AI, може да реши казуса. В този случай обаче логаритъмът за ограничение би трябвало да бъде не по-малко „ интелигентен ” от свръх-умния AI. А това значи, че казусът не може да бъде позволен.

Разбира се, разсъжденията за неестествен свръх-разум остават единствено доктрина, защото човечеството към момента е надалеч от основаването на такива логаритми. Но съгласно откривателите, хората би трябвало да се приготвят авансово, защото към този момент има машини, които независимо извършват задания, до момента в който програмистите не схващат по какъв начин са научили това.