Как да създадем злонамерен изкуствен интелект?
В научната фантастика е цялостно с доста зли роботи с изкуствен интелект, само че множеството от тези роботи са били основани с положителни планове и тяхната свирепост била по-скоро ненадейно следствие на програмата, а не планувана линия на разсъдъка. Но в случай че повода се крие не в неточност, а в умишлен план?
Ново проучване е отдадено точно на този въпрос – какво ще стане, в случай че някой реши да сътвори изкуствен интелект не за съзидание, а за опустошение?
Статията със заглавието Неетични проучвания: по какъв начин да създадем злоумишлен изкуствен интелект на Роман Ямполский от университета на Луисвил и футуролога Федерико Пистоно изследва въпроса, каква щета може да нанесе на човечеството интензивно настояща стратегия с разрушителни планове.
Ще речете, защо ни е въобще да се занимаваме с такива въпроси? Но откривателите споделят, че е по-добре да се опознае опасността овреме, в спокойна и мирна конюнктура, в сравнение с да се приспособяваме в крачка, когато нещо сходно стартира своята офанзива. Статията е написана в границите на финансиране от фонда на Елън Мъск, който от дълго време е посочил „ изкуствените интелекти за една от най-мощните закани за човечеството в бъдеще “.
Какво са изяснили Пистоно и Ямполский? От листата групи, способни да основат злотворен изкуствен интелект, се стартира с познати позиции – военните (разработващи кибероръжие и роботизирани войници), държавните управления (опитващи се за употребяват изкуствен интелект за определяне на лична надмощие, надзор над хората и битка с други държави), корпорациите (опит за монопол и премахване на конкуренти) и се продължава с хакери, религиозни култове и даже елементарни нарушители.
Подобни изкуствени интелекти могат да зародят на най-неочаквани места. Според учените кодът, написан без контрол, или закритите програмни планове, формирани по този начин, че да ги виждат колкото се може по-малко хора, могат да станат източник на непредвидена поява на злотворен изкуствен интелект в света.
Но какво всъщност може да стори зловредният разсъдък? Например да подкопае пазара на труда. Пистоно и Ямполский пишат: „ Използвайки естествената наклонност на фирмите да усилват производството и облагите, злонамереният изкуствен интелект може да предложи своите услуги на корпорации и да стане по-ефективен от множеството (ако не и от всички) чиновници хора, вследствие на което корпорациите в търсене на облаги да основат изкуствена безработица, без да отчетат вероятните опасности. “
Също по този начин откривателите показват като една от централните закани от страна на изкуствения разсъдък манипулативната агитация, с чиято помощ ИИ може да прокарва своите цели, употребявайки законодателните органи на човешкото общество.
Той може да завърже същинска война чрез подкупи посредством финансови фондове или чрез нападателна агитация да скара другите страни, като хората даже няма да схващат от кое място идва потокът от фалшификации.
И естествено, остава опасността от заличаване на човечеството посредством основан от ИИ патоген или действителен нуклеарен боеприпас.
В отговор на сериозните и скептичните забележки за преждевременността на сходни проучвания Ямполский се опира на неотдавнашната история с чатбота Тай , който единствено за няколко дни другарство с потребителите на Twitter се трансформира в расист.
Макар че този образец едвам индиректно се отнася към повдигнатия проблем, Ямполский подчертава вниманието на откривателите върху това, че случаят е посочил непредсказуемостта на сходен жанр системи и че даже самите основатели на Тау не са очаквали сходен излаз.
