Тази година се навършват 78 години от края на най-смъртоносната

Тази година се навършват 78 години от края на най-смъртоносната война в човешката история и началото на най-дългия интервал без въоръжени спорове сред велики сили. Защото единствено две десетилетия по-късно Първата международна война е последвана от Втората международна война. При Трета международна война ще бъдат употребявани оръжия, които ще бъдат толкоз разрушителни, че теоретично могат да застрашат цялото човечество. И тази опасност надвисна над последвалите десетилетия на Студената война.

Когато Съединените щати унищожиха с атомни оръжия Хирошима и Нагасаки и принудиха Япония да капитулира неотложно и абсолютно, никой не предполагаше, че светът ще стане очевидец на в действителност мораториум върху потреблението на нуклеарни оръжия през идващите седем десетилетия. Още по-невероятно е, че съвсем осем десетилетия по-късно светът остава единствено с девет нуклеарни сили. Водещата роля, която Съединените щати демонстрираха през тези десетилетия в предотвратяването на нуклеарна война, забавянето на разпространяването на нуклеарните оръжия и основаването на интернационален ред, който обезпечи десетилетия на мир сред великите сили, ще остане в историята като едно от най-значимите достижения на Америка.

Днес, когато светът е изправен пред неповторими провокации, подбудени от друга невиждана и в някои връзки още по-ужасяваща технология - изкуствения разсъдък - не е чудно, че мнозина се обръщат към историята за упътвания. Ще застрашат ли машините със гигантски качества статута на човечеството като стопанин на вселената? Ще подкопае ли изкуственият разсъдък монопола на обособени страни върху средствата за всеобщо заличаване? Ще разреши ли ИИ на обособени хора или на дребни групи от хора да основават вируси, способни да убиват в мащаби, непокътнати преди за великите сили? Може ли ИИ да унищожи нуклеарните възпиращи средства, които са в основата на днешния международен ред?

На този стадий никой не може да отговори сигурно на тези въпроси. Но изследвайки ги през последните две години с група софтуерни водачи, които са в челните редици на революцията в региона на ИИ, стигнахме до заключението, че вероятностите неограниченото развиване на ИИ да докара до пагубни последствия за Съединени американски щати и света се демонстрират толкоз безапелационно, че международните водачи би трябвало да работят неотложно. Въпреки че нито те, нито който и да било различен знае какво ни чака в бъдеще, още през днешния ден знаем задоволително, с цел да стартираме да вършим сложни избори и да подхващаме дейности, като в същото време признаваме, че те ще подлежат на неведнъж преразглеждане, когато откриваме от ден на ден и повече.

Когато водачите вършат този избор, уроците, научени в нуклеарната ера, могат да повлияят на решенията им. Като две полярни страни и Съединените щати, и Съветският съюз имаха интерес да предотвратят бързото разпространяване на такива технологии в други страни, които биха могли да ги застрашат. И Вашингтон, и Москва осъзнават, че в случай че нуклеарната технология попадне в ръцете на злонамерени или терористични участници в границите на личните им граници, тя може да бъде употребена за опасност на Съединените щати и Съюз на съветските социалистически републики, и по тази причина всяка от тях създава надеждни системи за сигурност за личните си арсенали. И защото и двете страни могат да бъдат изложени на риск, в случай че злонамерени съперници се снабдят с нуклеарно оръжие, те считат, че е в техен интерес да обсъдят този риск между тях и да разработят способи и технологии, които да подсигуряват, че това няма да се случи. След като арсеналите им от нуклеарни оръжия доближиха равнище, при което никоя от тях не можеше да нападна другата, без да провокира ответен удар, който би унищожил самата нея, те откриха парадоксалната непоклатимост на " обезпеченото взаимно заличаване " (MAD). След като тази ужасна действителност беше осъзната от тях, всяка мощ се научи да се лимитира и откри способи да убеди съперника си да ограничи военните си начинания, с цел да избегне борби, които биха могли да доведат до война. Всъщност американските и руските водачи осъзнаха, че предотвратяването на нуклеарна война, чиято първа жертва би била тяхната страна, е най-важната им отговорност.

Предизвикателствата, пред които е изправен изкуственият разсъдък през днешния ден, не са просто втората глава на нуклеарната епоха.

Историята не е готварска книга с предписания за подготвяне на суфле. Разликите сред изкуствения разсъдък и нуклеарните оръжия са толкоз огромни, колкото и приликите. Но вярно разбраните и приспособени уроци, извлечени от образуването на интернационалния ред, който докара до съвсем осем десетилетия без война сред великите сили, съставляват най-хубавите насоки, с които разполагат водачите на страните с противостоящи изкуствени интелекти.

В момента има единствено две суперсили в региона на изкуствения разсъдък: Съединени американски щати и Китай. Това са единствените страни, които разполагат със експерти, проучвателен институти и голяма изчислителна мощност, нужни за основаването на най-сложните модели на изкуствен интелект. Това им дава тясна опция да разработят рекомендация за попречване на най-опасните достижения и приложения на ИИ. Президентът на Съединени американски щати Джо Байдън и президентът на Китай Си Дзинпин би трябвало да се възползват от тази опция и да проведат среща на високо ниво - може би незабавно след срещата на Азиатско-тихоокеанското икономическо съдействие в Сан Франциско през ноември - на която да има продължителни, директни полемики лице в лице за това, което би трябвало да преглеждат като едно от най-важните провокации, пред които са изправени през днешния ден.

Уроци от нуклеарната ера

След като атомните бомби опустошиха японските градове през 1945 година, учените, които отвориха атомната кутия на Пандора, видяха какво са основали и изпаднаха в смут от това, което са създали. Робърт Опенхаймер, основен академик на плана " Манхатън ", става толкоз ревнив последовател на радикалните ограничения за надзор на атомните оръжия, че му е отнето разрешението за достъп до нуклеарния план. Манифестът на Ръсел-Айнщайн, подписан през 1955 година от 11 водещи учени, измежду които освен Бъртранд Ръсел и Алберт Айнщайн, само че и Линус Паулинг и Макс Борн, предизвестява за ужасяващата мощ на нуклеарните оръжия и моли международните водачи в никакъв случай да не ги употребяват.

Въпреки че президентът на Съединени американски щати Хари Труман в никакъв случай не е изразявал подозрения по отношение на решението си за атомните оръжия, нито той, нито членовете на екипа му по национална сигурност са имали реалистична визия по какъв начин тази ужасяваща технология може да бъде интегрирана в следвоенния интернационален ред. Трябваше ли Съединените щати да се опитат да запазят монополното си състояние на единствена атомна мощ? Било ли е въобще осъществимо? Можеха ли Съединените щати да споделят технологията си със Съветския съюз, с цел да реализиран тази цел? Трябваше ли международните водачи да измислят някаква нова власт над националните държавни управления, с цел да оцелеят в един свят с такива оръжия? Хенри Стимсън, боен министър по времето на Труман (който преди малко беше оказал помощ за разгрома на Германия и Япония), предложи Съединените щати да споделят монопола си върху атомната бомба със руския водач Йосиф Сталин и английския министър-председател Уинстън Чърчил, с цел да основат съюз от велики сили, който да предотврати разпространяването на нуклеарни оръжия. Труман основава комисия, управлявана от заместник-държавния секретар на Съединени американски щати Дийн Ачесън, която да създаде тактика за осъществяване на предлагането на Стимсън.

По създание Ачесън се съгласява със Стимсън: единственият метод да се предотврати конкуренция в нуклеарното въоръжаване, която може да приключи с пагубна международна война, е да се сътвори някаква интернационална организация, която да бъде единственият собственик на атомни оръжия. Това би изисквало от Съединените щати да споделят нуклеарните си секрети със Съветския съюз и другите членове на Съвета за сигурност на Организация на обединените нации, да трансферират нуклеарните си оръжия на нов " орган на Организация на обединените нации за атомно развиване " и да забранят на всички страни да създават атомни оръжия или да построяват личен потенциал за произвеждане на нуклеарен материал с оръжейно качество. През 1946 година Труман изпраща финансиста и президентски консултант Бърнард Барух в Организация на обединените нации, с цел да контракти съглашение за осъществяване на проекта " Ачесън ". Но предлагането е изрично отхвърлено от Андрей Громико, представител на Съюз на съветските социалистически републики в Организация на обединените нации.

Три години по-късно, когато Съветският съюз съумява да сътвори своя лична бомба, Съединените щати и Съветският съюз навлизат в това, което хората стартират да назовават Студена война: яростна конкуренция, само че без бомби и патрони. Основната характерност на това състезание е стремежът към нуклеарно предимство. В своя пик нуклеарните арсенали на двете свръхсили включват повече от 60 000 оръжия, някои от които имат бойни глави с по-голяма взривна мощ от всички оръжия, употребявани във всички войни в познатата история. Експертите разискват дали нуклеарната война би означавала завършек на всяка жива душа на земята.

В продължение на десетилетия Вашингтон и Москва харчат трилиони долари за нуклеарните си арсенали. Сегашният годишен бюджет на Съединени американски щати за атомни оръжия надвишава 50 милиарда $. В първите десетилетия на нуклеарната конкуренция и Съединени американски щати, и Съветският съюз направиха немислими до тогава крачки напред с вярата да завоюват решаващо преимущество. Увеличаването на взривната мощност на атомните оръжия изискваше основаването на нови единици за мощ - от килотонове (еквивалент на силата, отделена от 1000 тона тротил) за първичните заряди до мегатонове (еквивалент на силата, отделена от един милион тона) за водородните термоядрени бомби. И двете страни изобретиха междуконтинентални ракети, способни да доставят бойни глави до цели в другия завършек на планетата за 30 минути, спътници, обикалящи земното кълбо на височина стотици километри, с камери, които могат да дефинират координатите на задачите с акуратност до няколко сантиметра, и отбранителни системи, които могат да поразяват патрон с патрон. Някои специалисти съществено обмисляха такива отбранителни системи, които биха създали нуклеарните оръжия, както се изрази президентът Роналд Рейгън, " безсилни и остарели ".

Концептуален боеприпас

В опит да систематизират тези старания стратезите създадоха концептуален боеприпас от нуклеарната триада - подводници, бомбардировачи и ракети с наземно базиране - с цел да се подсигурява, че в случай че съперникът открие уязвимост в един от съставените елементи, останалите съставни елементи на арсенала остават разполагаем за разрушителен отговор. Осъзнаването на рисковете от инцидентно или неразрешено изстрелване на оръжия подтиква изобретяването на ефикасни системи за разрешаване - електронни ключалки, вградени в нуклеарните оръжия, които предотвратяват активирането им без верните кодове за изстрелване. Бяха създадени даже дублиращи системи за отбрана от софтуерни пробиви, които биха могли да застрашат системите за ръководство и надзор, което е в основата на изобретяването на компютърната мрежа, трансформирала се в интернет. Както споделя стратегът Херман Кан, " тогава мислехме за немислимото ".

Ядрената тактика се основаваше на концепцията за въздържане: попречване на нахлуване от страна на съперника посредством опасност за нанасяне на вреди, надхвърлящи всякаква допустима изгода за съперника.

През 1962 година, когато президентът на Съединени американски щати Джон Ф. Кенеди се опълчва на руския водач Никита Хрушчов за разположените от Съветския съюз в Куба ракети с нуклеарен заряд, разследващата общественост на Съединени американски щати пресмята, че даже в случай че Кенеди нанесе сполучлив първи удар, руският нуклеарен отговор с наличните благоприятни условия на Съюз на съветските социалистически републики може да убие 62 милиона американци. През 1969 година, когато президент става Ричард Никсън, Съединените щати би трябвало да премислят метода си. Кисинджър, по-късно разказва казуса по следния метод: " Нашите отбранителни тактики, образувани в интервала на нашето предимство, трябваше да бъдат преразгледани в суровата светлина на новите действителности... Никаква войнствена изразителност не можеше да прикрие обстоятелството, че съществуващите нуклеарни арсенали са задоволителни, с цел да унищожат цялото човечество... И не можеше да има по-висш дълг от това да се предотврати злополуката на нуклеарната война. "

За да създадат тази теза по-ярка, стратезите основават ироничното редуциране MAD. Военната абревиатура " mutual assured destruction " значи " взаимно обезпечено заличаване “, чиято същина бе систематизирана в постоянно повтаряната фраза на Рейгън: " Ядрената война не може да бъде извоювана и по тази причина в никакъв случай не би трябвало да бъде водена “. В действен проект MAD значи взаимно обезпечена накърнимост. Без да отхвърлят разликите в полезностите или да заплашват жизненоважни национални ползи, смъртните врагове трябваше да разработят тактики за победа над съперника си с всички вероятни средства, разнообразни от тоталната война.

Един от стълбовете на тези тактики беше поредност от безмълвни и очевидни ограничавания, известни през днешния ден като надзор на въоръженията. За да понижат риска от неточности, Съединените щати и Съветският съюз се споразумяха в неофициални полемики да не се намесват взаимно в наблюдението на съперниковите територии. За да предпазят жителите си от радиоактивни обгазявания, те не разрешиха атмосферните нуклеарни опити. За да избегнат " спешна неустойчивост " - когато едната страна изпитва нужда да нанесе първа удар, вярвайки, че другата страна е на път да го направи - те се споразумяха в Договора за ПРО от 1972 година да лимитират противоракетната защита. В Договора за нуклеарните сили със междинен и дребен обхват на деяние от 1987 година Рейгън и руският водач Михаил Горбачов се споразумяха да отстранен нуклеарните сили със междинен обхват на деяние. Преговорите за ограничение на стратегическите оръжия, довели до договорите, подписани през 1972 година и 1979 година, ограничиха увеличението на броя на ракетните установки, а по-късно Договорът за редуциране на стратегическите оръжия (СНВ), подписан през 1991 година, и новият контракт СНВ, подписан през 2010 година, понижиха техния брой. Може би най-важното е, че Съединените щати и Съветският съюз стигнаха до заключението, че разпространяването на нуклеарни оръжия измежду други страни съставлява опасност за самите тях и в последна сметка рискува да докара до " нуклеарна безредица ". Това докара до основаването на така наречен режим на неразпространение, чийто централен детайл е Договорът за неразпространение на нуклеарното оръжие от 1968 година, по силата на който през днешния ден 186 страни са поели ангажимент да се въздържат от създаване на лични нуклеарни арсенали.

Контрол на ИИ

Много отзвуци от това минало могат да се чуят в актуалните оферти за способи за ограничение на ИИ. Искането на милиардера Илон Мъск за шестмесечна пауза в развиването на ИИ, предлагането на откривателя на изкуствения разсъдък Елиезер Юдковски за възбрана на ИИ и настояването на психолога Гари Маркъс той да бъде следен от някакъв световен ръководещ орган всъщност повтарят несполучливите оферти от нуклеарната ера. Причината е, че всяко от тях би изисквало водещите страни да подчинят суверенитета си на наднационални структури. Никога в историята не се е случвало някоя велика мощ да откаже да създаде нова технология за себе си, страхувайки се, че съперник може да употребява нова технология, която да заплаши нейното оцеляване и сигурност. Дори близки съдружници на Съединени американски щати, като Англия и Франция, са избрали да развиват собствен личен народен нуклеарен капацитет, с изключение на да разчитат на нуклеарния чадър на Съединени американски щати.

За да се приспособяват уроците на нуклеарната история към актуалното предизвикателство, обвързвано с ИИ, е значимо да се признаят значителните разлики сред ИИ и нуклеарните оръжия. Първо, до момента в който развиването на нуклеарните технологии е било ръководено от обособени национални държавни управления, в създаването на ИИ вземат участие най-вече частни компании. Учените, работещи в Microsoft, Гугъл, Amazon, Meta, OpenAI и няколко дребни стартъпа, са надалеч по-напред от всички сходни старания на държавното управление на Съединени американски щати. Нещо повече, тези компании сега водят " гладиаторска " борба между тях, която безспорно подхранва нововъведенията, само че на висока цена. Тъй като тези частни играчи търсят на първо място взаимни отстъпки сред облагите и рисковете, те постоянно подценяват националните ползи на съответни страни.

Второ, през днешния ден ИИ е дигитален. Ядрените оръжия са сложни за произвеждане и изискват комплицирана инфраструктура за всичко - от обогатяването на уран до създаването на нуклеарен заряд. Продуктите на нуклеарното произвеждане бяха физически обекти и затова можеха да бъдат преброени. Но там, където имаше потребност да се ревизират дейностите на съперника, съществуваха непосредствени ограничавания. ИИ съставлява напълно друго предизвикателство. Основната му еволюция се прави в съзнанието на хората. Той се създава в лаборатории и внедряването му е мъчно да се следи. Ядрените оръжия са осезаеми. Същността на изкуствения разсъдък е концептуална и спекулативна.

Трето, изкуственият разсъдък се развива и популяризира със скорост, която прави невъзможни дълготрайните договаряния. Контролът над въоръженията се развива от десетилетия. Ограниченията за ИИ би трябвало да бъдат избрани още преди ИИ да бъде вграден в структурата на сигурността на всяка страна, т.е. преди машините да стартират да дефинират свои лични цели, което съгласно някои специалисти е евентуално да се случи през идващите пет години. Това изисква разискване и разбор първо на национално равнище, а по-късно и на интернационално. ИИ изисква и нова архитектура на връзките сред държавните управления и частния бранш.

За благополучие, огромните компании, които създадоха базовия изкуствен интелект и трансфораха Съединените щати във водеща суперсила в региона на ИИ, осъзнават, че носят отговорност освен пред своите акционери, само че и пред Америка и човечеството като цяло. Много от тях към този момент са създали свои лични насоки за оценка на риска преди внедряване, понижаване на систематичните неточности при образованието на ИИ и ограничение на рисковото потребление на техните модели. Други изследват способи за ограничение на образованието на ИИ и постановат на доставчиците на изчислителни облаци условия от вида " познавай своя клиент ". Значителна стъпка в вярната посока беше самодейността, оповестена от администрацията на Байдън през юли тази година, която докара ръководителите на седем огромни компании за ИИ в Белия дом да поемат взаимен ангажимент за създаване на насоки за обезпечаване на " сигурност, сигурност и доверие ".

Сега, когато обществото в Съединените щати е по-разделено даже от времето на Гражданската война, мащабът на рисковете, подбудени от неограниченото развиване на ИИ, изисква водачите както в държавното управление, по този начин и в бизнеса да стартират да работят неотложно. Всяко сдружение, което има опция да основава нови модели на ИИ, както и всяко сдружение или научноизследователска конструкция, които създават такива нови модели, би трябвало да основат екипи, които да проучват човешките и геополитическите последствия от техните бизнес интервенции с ИИ.

В този дух президентът и Конгресът следва да основат национална комисия, формирана от изтъкнати политически самостоятелни някогашни водачи от частния бранш, Конгреса, военните и разследващата общественост. Комисията следва да предложи съответни наложителни защитни ограничения. Те следва да включват условия новите модели на изкуствен интелект, като да вземем за пример GPT-4, да бъдат непрестанно оценени за опциите за образование и фирмите да организират стрес проби за рискови опасности, преди да пуснат нов модел.

Две суперсили в региона на изкуствения разсъдък

Дори и на този ранен стадий, до момента в който Съединени американски щати към момента построяват лична система за ръководство на ИИ във вътрешен проект, към този момент би трябвало да се водят съществени диалози с единствената друга суперсила в света в региона на ИИ. Въпреки че политическата система на Китай основава провокации за развиването на ИИ, китайските национални водачи в софтуерния бранш - Baidu (водещата търсачка в страната), ByteDance (създател на TikTok), Tencent (създател на WeChat) и Alibaba (лидер в електронната търговия) - основават свои лични системи на китайски език - аналози на ChatGPT. И въпреки че Китай към момента изостава в региона на напредналите технологии за произвеждане на полупроводници, той разполага с нужното, с цел да напредне в близко бъдеще.

В този смисъл Байдън и Си би трябвало да се срещнат допустимо най-скоро за открит диалог по отношение на контрола върху военното потребление на ИИ. Срещата на Азиатско-тихоокеанското икономическо съдействие през ноември в Сан Франциско им дава такава опция. Лидерите на Съединени американски щати и Китай следва да обсъдят по какъв начин те персонално правят оценка рисковете, подбудени от ИИ, какво прави страната, с цел да предотврати потреблението му, което основава пагубни опасности, и по какъв начин страната да подсигурява, че локалните компании не изнасят обвързваните с него опасности. За да дават информация за идващия кръг от разисквания, те следва да основат консултативна група, формирана от американски и китайски учени в региона на ИИ и други, които мислят за последствията от това развиване. Дискусиите и дейностите на Съединени американски щати и Китай по тази стратегия ще бъдат единствено част от зараждащия се световен разговор за ИИ, в това число срещата на високо ниво за сигурността на ИИ в Обединеното кралство през ноември и продължаващия разговор по този въпрос в Организация на обединените нации. Тъй като всяка страна ще се стреми да употребява ИИ, с цел да усъвършенства живота на своите жители, в дълготраен проект ще е нужен световен ред за неговото развиване. Това би трябвало да стартира с национални старания за попречване на най-опасните и евентуално пагубни последствия от изкуствения разсъдък. Тези начинания следва да бъдат допълнени от разговор сред учени от разнообразни страни, разработващи широкомащабни модели на ИИ, и членовете на национални комисии. Официалните държавни договаряния, в началото сред страни с напреднали стратегии за изкуствен интелект, следва да имат за цел основаването на интернационална рамка, както и на интернационална организация, сравнима с Международната организация за атомна сила.

Ако Байдън, Си Дзинпин и други международни водачи стартират да работят в този момент, с цел да се изправят против провокациите, подбудени от ИИ толкоз уверено, колкото техните прародители са се справяли с нуклеарните закани през предходните десетилетия, дали ще бъдат толкоз сполучливи? Ако погледнем общата картина на историята и възходящата поляризация на международната общественост през днешния ден, е мъчно да бъдем оптимисти. Въпреки това трогателният факт, че отбелязахме 78 години мир сред нуклеарните сили, би трябвало да въодушеви всички да се оправят с революционните и неизбежни провокации на нашето бъдеще в региона на изкуствения разсъдък. /БГНЕС

--------------------------------------------

Хенри Кисинджър - ръководител на Kissinger Associates. От 1969 година до 1975 година е консултант по националната сигурност на президента на Съединени американски щати, а от 1973 година до 1977 година е държавен секретар на Съединени американски щати.

Греъм Алисън - професор по държавни науки в Харвардския университет. Бивш помощник-министър на защитата по въпросите на политиката и планирането.

Техният разбор е оповестен във „ Foreign Affairs “.