Може ли AI да предизвика апокалипсис? В наши дни притесненията

Може ли AI да провокира апокалипсис? В наши дни терзанията по отношение на „ екзистенциалните опасности “ не се лимитират единствено до военните технологии.

През 1945 година, тъкмо преди теста на първата нуклеарна бомба в пустинята в Ню Мексико, Енрико Ферми, един от физиците, помогнали за построяването ѝ,
предлага на своите сътрудници учени залог.
Дали топлината на гърмежа ще възпламени нуклеарен пожар в атмосферата? И в случай че това се случи, дали огнената стихия ще унищожи единствено Ню Мексико или ще бъде обхванат целият свят? За благополучие, се оказва, че пробата не е чак толкоз пагубен,
колкото допуска облогът на Ферми.
В наши дни терзанията по отношение на „ екзистенциалните опасности “, т.е. тези, които съставляват опасност за човечеството като тип, а не за обособените човеци, не се лимитират единствено до военните технологии.
Ядрена война, нуклеарна зима, епидемии,
като тази от COVID-19, удари на метеорити и други евентуални бедствия биха могли да унищожат множеството или цялата човешка раса.

Най-новата опасност за края на света обаче идва от изкуствения интелект (AI), написа The Economist.
През май група учени, предприемачи
и общественици подписаха отворено писмо с едно само изречение: „ Намаляването на риска от всеобщо заличаване от AI трябва да бъде световен приоритет, наред с останалите опасности от публичен мащаб, като пандемии и нуклеарна война “.

На 10 юли група откриватели, в това число Езра Каргер, икономист от Федералната аварийна банка на Чикаго, и Филип Тетлок, политолог от Университета на Пенсилвания, разгласиха работен документ, който се пробва да хвърли светлина върху този въпрос посредством систематично изследване, извършено измежду две съществени групи специалисти.
Едната от тях е формирана от специалисти
в обособени области, като нуклеарна война, биологични оръжия, изкуствен интелект и други апокалиптични феномени, както и такива, които са профилирани в рисковете за човешката раса като цяло.

В другата са включени така наречен „ суперпредсказатели “ – прогностици с общо предопределение, които имат опит в правенето на точни прогнози по всевъзможни тематики – от резултатите
от изборите до експлоадирането на войни.
Изследователите наемат 89 суперсиноптици, 65 „ секторни “ специалисти и 15 специалисти по „ риска от изгубване “. На всички тях е сложена задачата да прегледат два разнообразни типа злополучие и да обмислят до какво може да докара.
Като „ пагубно “ се дефинира нещо,
което би умъртвило 10% от хората на планетата, или към 800 милиона души. Смята се, да вземем за пример, че Втората международна война е умъртвила към 3% от международното население, което възлиза на към 2 милиарда души по това време.

Като „ апокалипсис “ или „ всеобщо заличаване “ се дефинира събитие, което би унищожило всички, като се изключи няколко хиляди късметлии.

Двете групи би трябвало да оценят вероятността от всичко – от крайни събития, като апокалипсис, породен от AI или нуклеарна война, до по-малки въпроси, като да вземем за пример дали може да се случи обезпокоителен прогрес в качествата на изкуствения разсъдък, който да работи като пътепоказател по пътя към бъдеща злополука.
Най-впечатляващото умозаключение от
изследването е, че специалистите в съответни области, които са склонни да преобладават в обществените диалози към екзистенциалните опасности, наподобяват по-мрачно настроени за бъдещето от суперпрогностиците.
Експертите считат, че има към 20% късмет
за злополука до 2100 година и 6% късмет за изгубване на човешката раса, до момента в който суперпредсказателите дават вероятности за тези събития надлежно от 9% и 1%.

Това разминаване в упованията прикрива някои забавни детайлности, написа още изданието. Разликата сред двете групи е най-голяма, когато се вземат поради рисковете,
свързани с изкуствения разсъдък.
Средностатистическият суперпредсказател преценя, че има 2.1% късмет за злополука, породена от AI, и 0.38% късмет за апокалипсис, провокиран от тази технология до края на века. Експертите по изкуствен интелект пък дефинират двете събития надлежно с 12% и 3% късмет.

Що се отнася до пандемиите, общите прогнозисти са по-песимистично настроени от специалистите във връзка с рисковете,
подбудени от естествено зараждащите болести.
Един от най-интересните резултати е, че макар несъгласието сред групите по отношение на точния размер на риска, и двете дефинират AI като фактор на най-голямо безпокойствие, без значение дали мислят за пагубно събитие или всеобщо унижщожение.

Според Дан Мейланд, суперпрогнозист, взел участие в изследването, една от аргументите за позицията на AI като генератор на паника е, че той работи като „ умножител на силата “ при други опасности, като нуклеарните оръжия, да вземем за пример.
Както при нуклеарната война или астероидния удар,
изкуственият разсъдък (под формата на въоръжени роботи, да речем) може да убие хората непосредствено. Но също по този начин може да послужи за мултиплицирането на други рискове.

Ако хората употребяват AI, с цел да подкрепят проектирането на по-мощни биологични оръжия, да вземем за пример, това би асъдействало фундаментално, въпреки и индиректно, за всяка следваща злополука.
Въпреки че суперпредсказателите са песимисти
във връзка с изкуствения разсъдък, те също по този начин са и релативно несигурни във връзка с неговото бъдеще.

Светът живее с нуклеарни оръжия от близо 80 години и това, че нуклеарна война към момента не се е случила, съставлява скъпа информация, която може да бъде включена в прогнозите дали такава може да се случи в бъдеще.
AI, най-малко в настоящето значение на термина,
е доста по-ново събитие. Появата на съвременни, мощни модели за машинно образование датира от второто десетилетие на нашия век и полето им към момента се развива бързо.

Това оставя доста по-малко исторически данни, на които могат да се базират избрани прогнози.

Т. нар. „ суперпредсказатели “ са група от хора, които наподобяват извънредно положителни в прогнозирането на бъдещи развития във всевъзможни области. Те споделят няколко характерности, като деликатно, числово мислене и осъзнаване на когнитивните пристрастия,
които могат да ги подведат.
Въпреки неналичието на характерен опит, суперпрогнозистите имат солидно досие на превъзхождащи специалисти в разнообразни области – от финанси до геополитика.

Разликите сред двете групи частично отразяват разликите в техните модели за това по какъв начин работи светът. Катастрофалните опасности зависят освен от това какъв брой комплицирана или мощна става дадена технология, само че
и от това по какъв начин хората реагират на нея.
След страховете при започване на Студената война, да вземем за пример, Съединени американски щати и Съветският съюз – двете най-големи нуклеарни сили в света, стартират да си сътрудничат.

Инициативи, като „ горещата линия “ Москва-Вашингтон, споразуменията за взаимно ревизиране на оръжията и договорите, предопределени да лимитират размера на запасите,
спомагат за понижаване на риска от нуклеарна война.
Но суперпредсказателите и специалистите по изкуствен интелект имат доста разнообразни възгледи за това по какъв начин обществата могат да реагират на дребномащабните вреди, породени от изкуствения разсъдък.

Общите прогнозисти са склонни да считат, че сходни вреди ще доведат до засилен надзор и контролиране, с цел да се предотвратят
по-големи проблеми в бъдеще.
Секторните специалисти, в противен случай, са склонни да считат, че комерсиалните и геополитическите тласъци могат да надделеят над терзанията за сигурността, даже откакто са били породени действителни вреди.

Възгледите на двете групи се разграничават и във връзка с границите на интелигентността сама по себе си. Кирсте Морел, различен суперпредсказател, участващ в изследването, споделя, че
„ просто не е толкоз елементарно да убиеш всички. “
По думите ѝ, сходно деяние би изисквало несъмнено количество дарба за взаимоотношение с физическия свят и доста фрапантен прогрес в роботиката.

Основният проблем с този тип прогнози, несъмнено, е, че за разлика от повтарящите се събития с по-ниски залози, като придвижванията на цените на акциите или резултатите от изборите,  никога няма да има метод да разберем коя страна е по-близо до
идентифициране на същинското равнище на риск.
Но в случай че суперпредсказателите са толкоз положителни в прогнозите и специалистите имат толкоз доста характерни знания по тематиката, може да си чака, че двете групи евентуално си въздействат взаимно.

Самите създатели на проучването са се пробвали да насърчат такова взаимно увещание посредством групови полемики, парични тласъци за по-добри причини и други сходни принадлежности. Въпреки това, и може би изненадващо,
и двете страни са останали уверено на своите позиции.
Един специалист по изкуствен интелект даже показал като проблем така наречен „ отмалялост от обсъждане “. С други думи, и двете страни са били просто изтощени от всички прогнози, които към този момент са били помолени да създадат.

Промяната или „ актуализирането “ на мнението може да бъде по-лесно с нови доказателства. Затова Езра Каргер и Филип Тетлок
се надяват да съберат такива.
Те са помолили участниците в актуалното изследване да отговорят на различен набор от въпроси по отношение на поредност от „ знаци за ранно предизвестие “ – ограничения, които биха подсказали дали светът е на път към един или различен пагубен сюжет.
Количеството компютърна мощ,
употребявано в огромните AI модели, може да служи за следене на общия прогрес на промишлеността, да вземем за пример. Евентуалната орис на договорите за надзор на нуклеарните оръжия може да бъде различен решителен фактор.
Надеждата е, че тези краткосрочни въпроси,
някои от които ще бъдат решени през актуалното десетилетие ще обезпечат чувство за това чии прогнози би трябвало да вземем по-насериозно и, затова, какъв брой тъкмо би трябвало да се тревожим.