Изкуственият интелект: Пътят към утопия или дистопия?
Развитието на изкуствения разсъдък не може да бъде спряно. Това обаче не значи, че не може да бъде пренастроено към целите, насочени към индивида.
Бележка на редактора: Поредицата „ Червените кафези " е оповестена в съдействие със Стимсън Център. Опирайки се на наследството на „ Червените кафези " на Централно разузнавателно управление на САЩ - основани след офанзивите от 11 септември, с цел да се избегнат сходни аналитични провали в бъдеще - планът работи за оборване на догатки, неправилни схващания и групово мислене за поощряване на различни подходи към провокациите пред външната и националната политика за сигурност на Америка.
Червени кръвни кафези
Вярата в неизбежността на изкуствения разсъдък (ИИ), обещанието за безгранични изгоди и страхът от загуба от Китай или между тях тласкат американската промишленост за изкуствен интелект към гневна конкуренция за владичество в региона на ИИ. Тази конкуренция се форсира, без да се регистрират задоволително рисковете, за доста от които даже основателите на ИИ и корпоративните водачи са предупреждавали. Опасенията по отношение на сигурността, човешкото влияние и невъзможността за попречване на пагубни последствия са омаловажавани в преследването на скорост и предимство. Предизвикателството не е да се спре влакът или даже да се забави - по-скоро е да се промени посоката, с цел да се подсигурява, че нововъведенията остават в сходство с човешките цели.
Техноутопия: „ Повече от всичко, вечно "
„ Изграждаме мозък за света ", изяснява основният изпълнителен шеф на OpenAI Сам Алтман в обява в блога си за изкуствения суперинтелект, дефиниран като ИИ, който надвишава човешкия разсъдък. Роботите един ден биха могли да ръководят цели вериги за доставки, като добиват първични материали, карат камиони и работят във заводи. Още по-забележително е, че някои роботи могат да създават спомагателни роботи за създаване на фабрики за произвеждане на чипове, центрове за данни и друга инфраструктура. Машините освен ще зареждат бъдещето; те ще го построяват - за неопределен срок.
Технологичните водачи и рисковите капиталисти, като Илон Мъск, Марк Зукърбърг и Марк Андреесен, плануват софтуерно обусловено бъдеще, в което изкуственият разсъдък ще отстрани заболяванията, ще обърне екологичния колапс, ще открие неограничена сила и ще вкара епоха на обилие. Какво да не харесваш? Технологичните водачи обаче също по този начин плануват, че изкуственият разсъдък ще трансформира обществото толкоз изцяло, че хората ще се отдръпват във виртуалната метавселена, ще образуват другарства с изкуствен интелект, ще правят транзакции с криптовалути и ще разчитат на повсеместен базов приход (УБД), финансиран частично от софтуерни компании.
Някои виждат по какъв начин се оформя последна, по-мрачна визия, в която националните страни последователно се разтварят в мрежови страни, ръководени от технократски елити - съвременна версия на философските царе на Сократ. Реалистична или не, тази визия е напълно трансформираща в своята упоритост. И въпреки всичко, тя не адресира съответно отрицателните последствия. Тя наподобява на дистопията на Олдъс Хъксли в „ Прекрасният нов свят ", с главното си разбиране, че технологиите, изключително изкуственият разсъдък, ще обезпечат, както го е споделил Адам Бекер, „ повече от всичко, вечно ".
Преродената технокрация
Такъв свят припомня за придвижването „ Технокрация " от 30-те години на предишния век. Водена от дядото на Илон Мъск, Джошуа Н. Халдеман, школата на мисълта се застъпваше за ръководството на инженерите и учените. Не е изненадващо, че тя не съумя да набере известност. В обявата в блога на Марк Андреесен от 2023 година, озаглавена „ Манифест на технооптимиста ", рисковият капиталист твърди, че всички проблеми, естествени и софтуерни, могат да бъдат решени с повече технологии. Този метод на мислене провокира яростна отрицателна реакция през 2018 година, провокирана от неконтролираната власт на софтуерните компании върху потребителските данни и наличието на техните платформи, разбивайки доверието на потребителите и илюзията, че повече технологии неизбежно водят до напредък.
Андреесен дефинира „ врага " на напредъка като етатизъм, колективизъм, централно обмисляне и монополи. Това също е познато: свободният пазарен капитализъм с минимална регулация е същата среда, която е насърчила ранния напредък на интернет. Манифестът на Андреесен третира обществото като счупено приложение: дефектно, само че поправимо, стига разработчиците да не престават да обновяват софтуерния пакет. По сходен метод враговете, които той разпознава, в действителност са комплицирани резултати от човешката история, битки за власт и сблъскващи се идеологии. Освен това, те не са неизправности, които да бъдат преодолени със софтуерен кръпка. Те са част от човешкото положение.
Мястото, където хората се вписват в картината, когато машините правят цялата тежка работа, явно липсва. Според тази визия, машините мислят, строят и вземат решения вместо хората - не дружно с тях. Това е бъдеще на инженерен консенсус, където политиката и единодушието на ръководените изчезват паралелно с човешката активност. Нищо чудно, че някои в промишлеността, като основния изпълнителен шеф на Гугъл Сундар Пичай, поддържат консолидираното на обществени учени, философи и етици в диалога - не на последно място, с цел да припомнят на експертите по данни и рисковите капиталисти от Силициевата котловина, че човешката активност би трябвало да остане непокътната. Това е частта от софтуера, която би трябвало да бъде поправена.
Социална дислокация и възходът на техно-държавата
Би било неточност обаче да се гледа на техноутопистите просто като на хора, търсещи облага, или идеолози. Те имат основателна причина да имат вяра, че изкуственият разсъдък може да реши преди този момент сложни за разрешаване проблеми. AlphaFold на DeepMind към този момент революционизира биологията, като завоюва на основателите си Нобелова премия за 2024 година за тъкмо предсказание на протеиновите структури - прогрес, който форсира откриването на медикаменти. Предупрежденията за трусове на Гугъл усъвършенстват публичната сигурност, а охлаждането, задвижвано от изкуствен интелект, може да понижи комерсиалното ползване на сила с 9-13 %. Изкуственият разсъдък недвусмислено има голям капацитет да усъвършенства човешкия живот.
Въпреки това, изкуственият разсъдък дава обещание да трансформира цивилизацията с невиждана скорост и със обилни разстройства. В исторически проект, даже в общества с обилие от свободно време, хората са имали целенасочена работа. Но диалозите за повсеместен базов приход допускат друго. Когато индустриалната гражданска война измести прединдустриалния и селския физически труд, бяха основани нови работни места и смяната се разпростра в продължение на няколко века, давайки на обществата време да се приспособяват. Революцията на изкуствения разсъдък, за разлика от нея, заплашва бързо да размени служащите, работещи със познания, без да предлага незабавни заместващи работни места. Половината от началните работни места „ бели якички " може да изчезнат в границите на пет години.
Днешните приключили бизнес учебни заведения не могат да станат банкери на утрешния ден, в случай че пътят от чиракуването до заетостта се срине без нещо, което да го замести. Изпразването на професионалната класа унищожава възходящата подвижност, като замества по-високоплатените работни места със междинни приходи с по-малко и по-нископлатени функции, които просто поддържат автоматизирани системи. Освен това, когато изкуственият разсъдък автоматизира работни места, които разчитат на размишление, преценка, отчетност, нравственос и морал - всички човешки качества, които му липсват - продуктивността и сигурността биха могли да пострадат.
Непрестанният блян към скорост засенчва главната задача за подготовка за смяна. Изкуственият разсъдък към този момент преобразява обществото, трансформирайки метода, по който американците поддържат връзка, работят, водят война и вземат участие в политиката. Той се трансформира във водеща роля в националната секюритизация на икономическия развой на взимане на решения и геостратегическата конкуренция. Трансформацията на обществото се форсира, защото технологията притегля потребителите и се популяризира толкоз бързо, че те би трябвало да се приспособяват.
Бързото внедряване на ИИ от Китай в приложения за наблюдаване, ръководство и военни цели постоянно се употребява като опрощение за по-нататъшно ускоряване. Ако обаче Америка е водеща в създаването на авангардни модели на ИИ, до момента в който Китай внедрява по-малко напреднали, предизвикването не е просто да се внедрява по-бързо. То е да се води посредством друго внедряване, а точно като се дава приоритет на сигурността, прозрачността и готовността за разстройства, като по този метод се обвързва американското внедряване на ИИ с човекоцентрични правила, а не с геополитическа необходимост.
В скорошно есе в сп. „ Външни работи " американският политолог Иън Бремер разказва този нов свят като „ технополярен ", където софтуерната промишленост е всемогъщ, недържавен фактор, който оформя геополитиката и публичния живот. Без подозрение огромните американски софтуерни компании или „ огромните софтуерни " компании поемат функции, които исторически са били прерогатива на националните страни и в някои връзки са се преплели с страната. Макар че не е ясно дали те съставляват световен „ полюс " като Китай, Русия или Европейския съюз (ЕС), огромните софтуерни компании сигурно съставляват нова - значително безотчетна - форма на власт.
Големите софтуерни канали на Британската Източноиндийска компания
По-добра прилика за тежестта на огромните софтуерни компании е Британската Източноиндийска компания, която от 1600 година до началото на 1800 година е работила като суверенна единица с голяма автономност, подкрепена от английската корона. Източноиндийската компания е изковала огромна част от Британската империя, придобивайки територия със лична войска и управлявайки я със лична администрация, като в същото време е давала на английското държавно управление дял от облагите.
На националната страна ѝ бяха нужни към два века, с цел да се утвърди още веднъж и да разпусне компанията. По сходен метод днешните софтуерни колоси са натрупали голяма власт, влияейки върху държанието на страните посредством контрола си върху цифровата инфраструктура и платформи, които са станали неразделна част от актуалното общество. Могат ли националните страни да утвърдят още веднъж задоволителен надзор?
Вероятно, само че не скоро. Големите софтуерни компании оформят политиката на държавното управление на Съединени американски щати (както е показано в неотдавна оповестения План за деяние на администрацията за изкуствен интелект ), частично тъй като Конгресът едвам неотдавна стартира да работи, а частично заради бързия ритъм на смяната.
Освен това, откогато Китай дебютира с модела си DeepSeek AI, геополитиката насърчи симбиозата сред държавното управление и промишлеността. За разлика от Китай, където софтуерните компании са твърдо под контрола на партията-държава, в Съединените щати огромните софтуерни компании въздействат върху метода на държавното управление. Политическото въздействие на промишлеността във Вашингтон се разшири, макар че публичният надзор се ускори: американските софтуерни колоси похарчиха 61 милиарда $ за лобиране през 2024 година Само Мъск подариха 288 милиона $ за акция предходната година.
Тъй като цялостното обществено, икономическо и геостратегическо влияние на изкуствения разсъдък стартира да се усеща от хората, основателите на ИИ от ден на ден признават, че не схващат изцяло по какъв начин действат тези системи. Много системи се показват добре в среди с ниски залози и приемливост към неточности. Инженерният надзор обаче става наложителен в области с огромно влияние, като финанси, право, опазване на здравето и защита, където неуспехите имат тежки последствия. Халюцинациите - подправени или изфабрикувани отговори - са постоянно срещани при комплицирани задания за размишление, срещащи се в близо 80% от оценките.
Ако инженерите, които проектират тези системи, не могат приемливо да обяснят по какъв начин работят, може ли изкуственият разсъдък в действителност да бъде следен? Съоснователят на DeepMind Мустафа Сюлейман не е сигурен. Други споделят, че идентифицирането на режимите на щета е мъчно, което прави „ спешния комутатор " (за изключване на изкуствения разсъдък, в случай че той се повреди) нереалистичен. Йошуа Бенхио, пионер в региона, прикани за вложения в модернизиран мониторинг за надзор на агентния изкуствен интелект, който може да работи самостоятелно, преди „ да създадем неща, които могат да ни унищожат ".
Не всички са съгласни. Главният академик по изкуствен интелект на Meta, Ян ЛеКун, различен глас от основите, отхвърля „ думеризма " на изкуствения разсъдък. Той твърди, че актуалните модели са надалеч от реализиране на самостоятелност или общ разсъдък, а безвредният и контролируем изкуствен интелект е фундаментално инженерен проблем. И въпреки всичко препоръчаното от него решение - нововъведения с отворен код за възстановяване на тестването и отстраняването на неточности - би дало на Китай достъп до него. Засега личните модели към момента преобладават в екосистемата на Съединени американски щати, макар че ползата към моделите с отворен код нараства.
Без защитни ограничения, фрагментирано ръководство
Дори когато рисковете станаха по-видими, а опасенията по-широко публикувани, регулациите не съумяха да се оправят с темпото. Международните старания, като да вземем за пример Декларацията от Блечли, домакинствана от Обединеното кралство (UK) през 2023 година, дадоха вяра за координирано ръководство сред главните сили в региона на изкуствения разсъдък. Съединените щати, Китай и Европейски Съюз се ангажираха с безвредно, насочено към индивида развиване. Но на Световната среща на върха за изкуствения разсъдък в Париж през 2025 година както Съединените щати, по този начин и Обединеното кралство отхвърлиха да подпишат следваща декларация по отношение на етиката и сигурността. Всъщност вицепрезидентът Джей Д. Ванс обществено се опълчи на „ несъразмерните " регулации, насочени към сигурността.
Реалността обаче е, че науката за оценка на продуктивността и сигурността е несъответстваща. Това е изключително обезпокоително, защото изкуственият разсъдък се развива от инструмент, който уголемява човешките благоприятни условия - като да вземем за пример генеративния изкуствен интелект (например ChatGPT) - до „ агентен " и настоящ самостоятелно без човешки контрол (например транспортни средства без шофьор). Въпреки обвързваното с това експоненциално нарастване на риска, единствено 2% от международните проучвания в региона на изкуствения разсъдък учат съображенията за сигурност и единствено 0,3% от общото финансиране за изкуствен интелект се изразходва за проучвания за човешко привеждане в сходство.
Много водещи откриватели в региона на сигурността напуснаха огромните софтуерни компании в обезсърчение. Междувременно не съществуват обвързващи световни стандарти и използвани механизми за контрол върху агентния ИИ. Освен това няма механически протоколи за справяне с несъответствията (когато ИИ не преследва задачите, които неговите основатели искат), нито надеждни механизми за безвредна интервенция (напр. спешен прекъсвач).
Въпреки че темпът на развиване на изкуствения разсъдък допуска нуждата от гъвкави регулации, Съединените щати наподобяват изключение в това отношение. Както Китай, по този начин и Европейски Съюз, макар другите си системи за ръководство, са по-фокусирани върху сигурността. В този фрагментиран регулаторен пейзаж световната съгласуваност става по едно и също време по-трудна и по-неотложна.
Пренебрегване на предизвестията за изкуствен интелект
Сега е моментът да се отдръпнем и да преразгледаме въпросите от първи ред: Къде води изкуственият разсъдък човечеството? Ще замести ли хората? Дори техноутописти като Сам Алтман и Илон Мъск показаха паника. Мъск пресмята, че има 20 % възможност изкуственият разсъдък да унищожи човечеството; Алтман има вяра, че той би могъл да надделее изцяло над хората.
През март 2023 година Мъск, дружно с софтуерния бизнесмен Стив Возняк и десетки учени в региона на изкуствения разсъдък, подписаха отворено писмо, призоваващо за пауза в образованието на по-модерни системи с изкуствен интелект, като непосредствено питаха: „ Трябва ли да създаваме безчовечен мозъци, които в последна сметка биха могли да ни надминат числено, да ни надхитрят, да остареят и да ни заменят? " Алтман не подписа писмото, само че то цитира изказването на OpenAI, че плановете с модернизиран изкуствен интелект би трябвало да лимитират скоростта, с която се усилват изчислителните запаси за образование на модели.
Въпреки това, развиването на изкуствения разсъдък се развива с шеметна скорост. Разработчиците са въвлечени в главозамайваща конкуренция за преодоляване на бъдещето, разпалени от вярата в неизбежността на ИИ и страха от пропускане на финансов и геополитически преуспяващ триумф. Ирационалният възторг е надвил над пазарната дисциплинираност. Въпреки забавената възвръщаемост и нерешените опасности, капиталът се налива в създаването на ИИ с съвсем набожен жар: 471 милиарда $ са влезнали в американски предприятия за ИИ сред 2013 и 2024 година, като единствено за 2025 година се чакат още 300 милиарда $.
И въпреки всичко рисковете не са хипотетични, предизвестията са ясни и постоянно се издават от самите изграждащи системите. Липсва отчетност, жертвана е пред олтара на ускорението, оставяйки малко място за контрол или промяна. Без общи световни правила за отбрана на нововъведенията, насочени към индивида, ръководството на ИИ рискува да бъде завършено само от властта и облагата. Интегрирането на етиката и далновидността в софтуерното развиване ще става все по-предизвикателно, колкото по-дълго продължава тази динамичност, с евентуални дълбоки последствия за човечеството.
Бъдещето, без контрол
Рядко се е случвало технология с такава трансформираща мощ - и толкоз забележими, добре разбрани опасности и разстройства - да бъде разгърната с толкоз малко подготовка. Както неотдавна предизвести основният изпълнителен шеф на Anthropic, Дарио Амодей: „ Не можете просто да застанете пред влака и да го спрете. " Но можете - и би трябвало - да „ го насочите на 10 градуса в друга посока от тази, в която е отишъл. " Това е централното предизвикателство за Съединените щати в конкуренцията за изкуствен интелект.
За създателите: Робърт Манинг и Фериал Ара Саид
Робърт А. Манинг е бележит помощник в Центъра „ Стимсън ", работещ върху стратегически прогнози, Китай и конкуренцията сред великите сили.
Фериал Ара Саид е външен помощник в Центъра „ Стимсън " и някогашен върховен американски посланик. Тя е създател на консултантската компания Telegraph Strategies LLC.
Бележка на редактора: Поредицата „ Червените кафези " е оповестена в съдействие със Стимсън Център. Опирайки се на наследството на „ Червените кафези " на Централно разузнавателно управление на САЩ - основани след офанзивите от 11 септември, с цел да се избегнат сходни аналитични провали в бъдеще - планът работи за оборване на догатки, неправилни схващания и групово мислене за поощряване на различни подходи към провокациите пред външната и националната политика за сигурност на Америка.
Червени кръвни кафези
Вярата в неизбежността на изкуствения разсъдък (ИИ), обещанието за безгранични изгоди и страхът от загуба от Китай или между тях тласкат американската промишленост за изкуствен интелект към гневна конкуренция за владичество в региона на ИИ. Тази конкуренция се форсира, без да се регистрират задоволително рисковете, за доста от които даже основателите на ИИ и корпоративните водачи са предупреждавали. Опасенията по отношение на сигурността, човешкото влияние и невъзможността за попречване на пагубни последствия са омаловажавани в преследването на скорост и предимство. Предизвикателството не е да се спре влакът или даже да се забави - по-скоро е да се промени посоката, с цел да се подсигурява, че нововъведенията остават в сходство с човешките цели.
Техноутопия: „ Повече от всичко, вечно "
„ Изграждаме мозък за света ", изяснява основният изпълнителен шеф на OpenAI Сам Алтман в обява в блога си за изкуствения суперинтелект, дефиниран като ИИ, който надвишава човешкия разсъдък. Роботите един ден биха могли да ръководят цели вериги за доставки, като добиват първични материали, карат камиони и работят във заводи. Още по-забележително е, че някои роботи могат да създават спомагателни роботи за създаване на фабрики за произвеждане на чипове, центрове за данни и друга инфраструктура. Машините освен ще зареждат бъдещето; те ще го построяват - за неопределен срок.
Технологичните водачи и рисковите капиталисти, като Илон Мъск, Марк Зукърбърг и Марк Андреесен, плануват софтуерно обусловено бъдеще, в което изкуственият разсъдък ще отстрани заболяванията, ще обърне екологичния колапс, ще открие неограничена сила и ще вкара епоха на обилие. Какво да не харесваш? Технологичните водачи обаче също по този начин плануват, че изкуственият разсъдък ще трансформира обществото толкоз изцяло, че хората ще се отдръпват във виртуалната метавселена, ще образуват другарства с изкуствен интелект, ще правят транзакции с криптовалути и ще разчитат на повсеместен базов приход (УБД), финансиран частично от софтуерни компании.
Някои виждат по какъв начин се оформя последна, по-мрачна визия, в която националните страни последователно се разтварят в мрежови страни, ръководени от технократски елити - съвременна версия на философските царе на Сократ. Реалистична или не, тази визия е напълно трансформираща в своята упоритост. И въпреки всичко, тя не адресира съответно отрицателните последствия. Тя наподобява на дистопията на Олдъс Хъксли в „ Прекрасният нов свят ", с главното си разбиране, че технологиите, изключително изкуственият разсъдък, ще обезпечат, както го е споделил Адам Бекер, „ повече от всичко, вечно ".
Преродената технокрация
Такъв свят припомня за придвижването „ Технокрация " от 30-те години на предишния век. Водена от дядото на Илон Мъск, Джошуа Н. Халдеман, школата на мисълта се застъпваше за ръководството на инженерите и учените. Не е изненадващо, че тя не съумя да набере известност. В обявата в блога на Марк Андреесен от 2023 година, озаглавена „ Манифест на технооптимиста ", рисковият капиталист твърди, че всички проблеми, естествени и софтуерни, могат да бъдат решени с повече технологии. Този метод на мислене провокира яростна отрицателна реакция през 2018 година, провокирана от неконтролираната власт на софтуерните компании върху потребителските данни и наличието на техните платформи, разбивайки доверието на потребителите и илюзията, че повече технологии неизбежно водят до напредък.
Андреесен дефинира „ врага " на напредъка като етатизъм, колективизъм, централно обмисляне и монополи. Това също е познато: свободният пазарен капитализъм с минимална регулация е същата среда, която е насърчила ранния напредък на интернет. Манифестът на Андреесен третира обществото като счупено приложение: дефектно, само че поправимо, стига разработчиците да не престават да обновяват софтуерния пакет. По сходен метод враговете, които той разпознава, в действителност са комплицирани резултати от човешката история, битки за власт и сблъскващи се идеологии. Освен това, те не са неизправности, които да бъдат преодолени със софтуерен кръпка. Те са част от човешкото положение.
Мястото, където хората се вписват в картината, когато машините правят цялата тежка работа, явно липсва. Според тази визия, машините мислят, строят и вземат решения вместо хората - не дружно с тях. Това е бъдеще на инженерен консенсус, където политиката и единодушието на ръководените изчезват паралелно с човешката активност. Нищо чудно, че някои в промишлеността, като основния изпълнителен шеф на Гугъл Сундар Пичай, поддържат консолидираното на обществени учени, философи и етици в диалога - не на последно място, с цел да припомнят на експертите по данни и рисковите капиталисти от Силициевата котловина, че човешката активност би трябвало да остане непокътната. Това е частта от софтуера, която би трябвало да бъде поправена.
Социална дислокация и възходът на техно-държавата
Би било неточност обаче да се гледа на техноутопистите просто като на хора, търсещи облага, или идеолози. Те имат основателна причина да имат вяра, че изкуственият разсъдък може да реши преди този момент сложни за разрешаване проблеми. AlphaFold на DeepMind към този момент революционизира биологията, като завоюва на основателите си Нобелова премия за 2024 година за тъкмо предсказание на протеиновите структури - прогрес, който форсира откриването на медикаменти. Предупрежденията за трусове на Гугъл усъвършенстват публичната сигурност, а охлаждането, задвижвано от изкуствен интелект, може да понижи комерсиалното ползване на сила с 9-13 %. Изкуственият разсъдък недвусмислено има голям капацитет да усъвършенства човешкия живот.
Въпреки това, изкуственият разсъдък дава обещание да трансформира цивилизацията с невиждана скорост и със обилни разстройства. В исторически проект, даже в общества с обилие от свободно време, хората са имали целенасочена работа. Но диалозите за повсеместен базов приход допускат друго. Когато индустриалната гражданска война измести прединдустриалния и селския физически труд, бяха основани нови работни места и смяната се разпростра в продължение на няколко века, давайки на обществата време да се приспособяват. Революцията на изкуствения разсъдък, за разлика от нея, заплашва бързо да размени служащите, работещи със познания, без да предлага незабавни заместващи работни места. Половината от началните работни места „ бели якички " може да изчезнат в границите на пет години.
Днешните приключили бизнес учебни заведения не могат да станат банкери на утрешния ден, в случай че пътят от чиракуването до заетостта се срине без нещо, което да го замести. Изпразването на професионалната класа унищожава възходящата подвижност, като замества по-високоплатените работни места със междинни приходи с по-малко и по-нископлатени функции, които просто поддържат автоматизирани системи. Освен това, когато изкуственият разсъдък автоматизира работни места, които разчитат на размишление, преценка, отчетност, нравственос и морал - всички човешки качества, които му липсват - продуктивността и сигурността биха могли да пострадат.
Непрестанният блян към скорост засенчва главната задача за подготовка за смяна. Изкуственият разсъдък към този момент преобразява обществото, трансформирайки метода, по който американците поддържат връзка, работят, водят война и вземат участие в политиката. Той се трансформира във водеща роля в националната секюритизация на икономическия развой на взимане на решения и геостратегическата конкуренция. Трансформацията на обществото се форсира, защото технологията притегля потребителите и се популяризира толкоз бързо, че те би трябвало да се приспособяват.
Бързото внедряване на ИИ от Китай в приложения за наблюдаване, ръководство и военни цели постоянно се употребява като опрощение за по-нататъшно ускоряване. Ако обаче Америка е водеща в създаването на авангардни модели на ИИ, до момента в който Китай внедрява по-малко напреднали, предизвикването не е просто да се внедрява по-бързо. То е да се води посредством друго внедряване, а точно като се дава приоритет на сигурността, прозрачността и готовността за разстройства, като по този метод се обвързва американското внедряване на ИИ с човекоцентрични правила, а не с геополитическа необходимост.
В скорошно есе в сп. „ Външни работи " американският политолог Иън Бремер разказва този нов свят като „ технополярен ", където софтуерната промишленост е всемогъщ, недържавен фактор, който оформя геополитиката и публичния живот. Без подозрение огромните американски софтуерни компании или „ огромните софтуерни " компании поемат функции, които исторически са били прерогатива на националните страни и в някои връзки са се преплели с страната. Макар че не е ясно дали те съставляват световен „ полюс " като Китай, Русия или Европейския съюз (ЕС), огромните софтуерни компании сигурно съставляват нова - значително безотчетна - форма на власт.
Големите софтуерни канали на Британската Източноиндийска компания
По-добра прилика за тежестта на огромните софтуерни компании е Британската Източноиндийска компания, която от 1600 година до началото на 1800 година е работила като суверенна единица с голяма автономност, подкрепена от английската корона. Източноиндийската компания е изковала огромна част от Британската империя, придобивайки територия със лична войска и управлявайки я със лична администрация, като в същото време е давала на английското държавно управление дял от облагите.
На националната страна ѝ бяха нужни към два века, с цел да се утвърди още веднъж и да разпусне компанията. По сходен метод днешните софтуерни колоси са натрупали голяма власт, влияейки върху държанието на страните посредством контрола си върху цифровата инфраструктура и платформи, които са станали неразделна част от актуалното общество. Могат ли националните страни да утвърдят още веднъж задоволителен надзор?
Вероятно, само че не скоро. Големите софтуерни компании оформят политиката на държавното управление на Съединени американски щати (както е показано в неотдавна оповестения План за деяние на администрацията за изкуствен интелект ), частично тъй като Конгресът едвам неотдавна стартира да работи, а частично заради бързия ритъм на смяната.
Освен това, откогато Китай дебютира с модела си DeepSeek AI, геополитиката насърчи симбиозата сред държавното управление и промишлеността. За разлика от Китай, където софтуерните компании са твърдо под контрола на партията-държава, в Съединените щати огромните софтуерни компании въздействат върху метода на държавното управление. Политическото въздействие на промишлеността във Вашингтон се разшири, макар че публичният надзор се ускори: американските софтуерни колоси похарчиха 61 милиарда $ за лобиране през 2024 година Само Мъск подариха 288 милиона $ за акция предходната година.
Тъй като цялостното обществено, икономическо и геостратегическо влияние на изкуствения разсъдък стартира да се усеща от хората, основателите на ИИ от ден на ден признават, че не схващат изцяло по какъв начин действат тези системи. Много системи се показват добре в среди с ниски залози и приемливост към неточности. Инженерният надзор обаче става наложителен в области с огромно влияние, като финанси, право, опазване на здравето и защита, където неуспехите имат тежки последствия. Халюцинациите - подправени или изфабрикувани отговори - са постоянно срещани при комплицирани задания за размишление, срещащи се в близо 80% от оценките.
Ако инженерите, които проектират тези системи, не могат приемливо да обяснят по какъв начин работят, може ли изкуственият разсъдък в действителност да бъде следен? Съоснователят на DeepMind Мустафа Сюлейман не е сигурен. Други споделят, че идентифицирането на режимите на щета е мъчно, което прави „ спешния комутатор " (за изключване на изкуствения разсъдък, в случай че той се повреди) нереалистичен. Йошуа Бенхио, пионер в региона, прикани за вложения в модернизиран мониторинг за надзор на агентния изкуствен интелект, който може да работи самостоятелно, преди „ да създадем неща, които могат да ни унищожат ".
Не всички са съгласни. Главният академик по изкуствен интелект на Meta, Ян ЛеКун, различен глас от основите, отхвърля „ думеризма " на изкуствения разсъдък. Той твърди, че актуалните модели са надалеч от реализиране на самостоятелност или общ разсъдък, а безвредният и контролируем изкуствен интелект е фундаментално инженерен проблем. И въпреки всичко препоръчаното от него решение - нововъведения с отворен код за възстановяване на тестването и отстраняването на неточности - би дало на Китай достъп до него. Засега личните модели към момента преобладават в екосистемата на Съединени американски щати, макар че ползата към моделите с отворен код нараства.
Без защитни ограничения, фрагментирано ръководство
Дори когато рисковете станаха по-видими, а опасенията по-широко публикувани, регулациите не съумяха да се оправят с темпото. Международните старания, като да вземем за пример Декларацията от Блечли, домакинствана от Обединеното кралство (UK) през 2023 година, дадоха вяра за координирано ръководство сред главните сили в региона на изкуствения разсъдък. Съединените щати, Китай и Европейски Съюз се ангажираха с безвредно, насочено към индивида развиване. Но на Световната среща на върха за изкуствения разсъдък в Париж през 2025 година както Съединените щати, по този начин и Обединеното кралство отхвърлиха да подпишат следваща декларация по отношение на етиката и сигурността. Всъщност вицепрезидентът Джей Д. Ванс обществено се опълчи на „ несъразмерните " регулации, насочени към сигурността.
Реалността обаче е, че науката за оценка на продуктивността и сигурността е несъответстваща. Това е изключително обезпокоително, защото изкуственият разсъдък се развива от инструмент, който уголемява човешките благоприятни условия - като да вземем за пример генеративния изкуствен интелект (например ChatGPT) - до „ агентен " и настоящ самостоятелно без човешки контрол (например транспортни средства без шофьор). Въпреки обвързваното с това експоненциално нарастване на риска, единствено 2% от международните проучвания в региона на изкуствения разсъдък учат съображенията за сигурност и единствено 0,3% от общото финансиране за изкуствен интелект се изразходва за проучвания за човешко привеждане в сходство.
Много водещи откриватели в региона на сигурността напуснаха огромните софтуерни компании в обезсърчение. Междувременно не съществуват обвързващи световни стандарти и използвани механизми за контрол върху агентния ИИ. Освен това няма механически протоколи за справяне с несъответствията (когато ИИ не преследва задачите, които неговите основатели искат), нито надеждни механизми за безвредна интервенция (напр. спешен прекъсвач).
Въпреки че темпът на развиване на изкуствения разсъдък допуска нуждата от гъвкави регулации, Съединените щати наподобяват изключение в това отношение. Както Китай, по този начин и Европейски Съюз, макар другите си системи за ръководство, са по-фокусирани върху сигурността. В този фрагментиран регулаторен пейзаж световната съгласуваност става по едно и също време по-трудна и по-неотложна.
Пренебрегване на предизвестията за изкуствен интелект
Сега е моментът да се отдръпнем и да преразгледаме въпросите от първи ред: Къде води изкуственият разсъдък човечеството? Ще замести ли хората? Дори техноутописти като Сам Алтман и Илон Мъск показаха паника. Мъск пресмята, че има 20 % възможност изкуственият разсъдък да унищожи човечеството; Алтман има вяра, че той би могъл да надделее изцяло над хората.
През март 2023 година Мъск, дружно с софтуерния бизнесмен Стив Возняк и десетки учени в региона на изкуствения разсъдък, подписаха отворено писмо, призоваващо за пауза в образованието на по-модерни системи с изкуствен интелект, като непосредствено питаха: „ Трябва ли да създаваме безчовечен мозъци, които в последна сметка биха могли да ни надминат числено, да ни надхитрят, да остареят и да ни заменят? " Алтман не подписа писмото, само че то цитира изказването на OpenAI, че плановете с модернизиран изкуствен интелект би трябвало да лимитират скоростта, с която се усилват изчислителните запаси за образование на модели.
Въпреки това, развиването на изкуствения разсъдък се развива с шеметна скорост. Разработчиците са въвлечени в главозамайваща конкуренция за преодоляване на бъдещето, разпалени от вярата в неизбежността на ИИ и страха от пропускане на финансов и геополитически преуспяващ триумф. Ирационалният възторг е надвил над пазарната дисциплинираност. Въпреки забавената възвръщаемост и нерешените опасности, капиталът се налива в създаването на ИИ с съвсем набожен жар: 471 милиарда $ са влезнали в американски предприятия за ИИ сред 2013 и 2024 година, като единствено за 2025 година се чакат още 300 милиарда $.
И въпреки всичко рисковете не са хипотетични, предизвестията са ясни и постоянно се издават от самите изграждащи системите. Липсва отчетност, жертвана е пред олтара на ускорението, оставяйки малко място за контрол или промяна. Без общи световни правила за отбрана на нововъведенията, насочени към индивида, ръководството на ИИ рискува да бъде завършено само от властта и облагата. Интегрирането на етиката и далновидността в софтуерното развиване ще става все по-предизвикателно, колкото по-дълго продължава тази динамичност, с евентуални дълбоки последствия за човечеството.
Бъдещето, без контрол
Рядко се е случвало технология с такава трансформираща мощ - и толкоз забележими, добре разбрани опасности и разстройства - да бъде разгърната с толкоз малко подготовка. Както неотдавна предизвести основният изпълнителен шеф на Anthropic, Дарио Амодей: „ Не можете просто да застанете пред влака и да го спрете. " Но можете - и би трябвало - да „ го насочите на 10 градуса в друга посока от тази, в която е отишъл. " Това е централното предизвикателство за Съединените щати в конкуренцията за изкуствен интелект.
За създателите: Робърт Манинг и Фериал Ара Саид
Робърт А. Манинг е бележит помощник в Центъра „ Стимсън ", работещ върху стратегически прогнози, Китай и конкуренцията сред великите сили.
Фериал Ара Саид е външен помощник в Центъра „ Стимсън " и някогашен върховен американски посланик. Тя е създател на консултантската компания Telegraph Strategies LLC.
Източник: cross.bg
КОМЕНТАРИ