Когато Anthropic обяви този месец, че е създала модел на

Когато Anthropic разгласи този месец, че е основала модел на изкуствен интелект, толкоз мощен, че е прекомерно рисков за необятно разпространяване, компанията уточни 11 организации като сътрудници, които да оказват помощ за построяването на отбрана.

Всички те са от Съединените щати.

Само за две седмици моделът, наименуван Mythos, провокира световна конкуренция, каквато до момента не е виждана в ерата на AI. Mythos, който съгласно Anthropic има изключителна дарба да открива и експлоатира скрити уязвимости в софтуера, ръководещ банки, електропреносни мрежи и държавни институции, се трансформира в геополитически актив – и той е в ръцете на американска компания, написа The New York Times.

Световните водачи се затрудняват да оценят мащаба на рисковете за сигурността и по какъв начин да им противодействат, като Anthropic е споделила Mythos единствено с Англия отвън Съединени американски щати.

Управителят на Английската централна банка предизвести обществено, че компанията може да е разкрила метод да „ разчупи радикално целия свят на киберриска “. Европейската централна банка стартира безшумно да разпитва финансовите институции за техните отбрани.

Финансовият министър на Канада съпостави опасността със затварянето на Ормузкия пролив.

За съперници на Съединени американски щати като Китай и Русия Mythos акцентира рисковете за сигурността от изоставането в конкуренцията за AI. Прокремълско съветско издание дефинира модела като „ по-опасен от нуклеарна бомба “.

Реакциите демонстрират действителност, за която откривателите на AI от дълго време предизвестяват – въпреки и най-вече теоретично: този, който води в основаването на най-мощните модели, ще придобие непропорционално геополитическо преимущество.

Големите пробиви в AI стартират да наподобяват по-малко на продуктови министър председатели и повече на тествания на оръжия, а множеството страни желаят да схванат по какъв начин работят тези технологии и какви отбрани са нужни.

„ С повишаването на смисъла на фундаменталните AI модели достъпът до тях става все по-геополитически въпрос “, споделя Едуардо Леви Йейати, някогашен основен икономист на централната банка на Аржентина и консултант към Inter-American Development Bank.

„ Този случай би трябвало да се одобри като сигнал за пробуждане. Правителствата към този момент не могат да си разрешат да пренебрегват тематиката “, показва той пред NYT.

Дори държавното управление на Съединени американски щати, което е в спор с Anthropic по въпроса за потреблението на AI във война, е взело под внимание Mythos. В петък основният изпълнителен шеф на компанията, Дарио Амодей, се срещна с представители на Белия дом, откакто в администрацията на Доналд Тръмп бяха изразени опасения за капацитета на модела да аргументи съществени вреди на компютърни системи.

Anthropic, основана в Сан Франциско, споделя пред NYT, че лимитира достъпа до Mythos заради съображения за сигурност. Компанията работи с над 40 организации, които поддържат сериозна инфраструктура като интернет и електропреносни мрежи, като 11 от тях – в това число Amazon, Apple и Microsoft – са поели ангажимент да спомагат за премахване на откритите уязвимости.

Компанията няма съответен график за разширение на достъпа, само че твърди, че ще работи с американските управляващи и промишлеността, с цел да дефинира идващите стъпки. По думите ѝ тя е получила голям брой запитвания от държавни управления и компании, само че равнището на експертиза за безвредна работа с сходен модел варира доста.

Anthropic предизвестява, че други организации евентуално ще основат и пуснат сходни модели с сходни качества в границите на 18 месеца, което оставя лимитирано време за реакция.

Във вторник компанията заяви, че проверява информация за неоторизиран достъп до версия на Mythos.

Надпреварата към модела идва в миг на минимално интернационално съдействие в региона на AI. Държавите гледат една на друга с съмнение, до момента в който фирмите се състезават за софтуерно предимство.

„ Няма еквивалент на контракта за неразпространение на нуклеарните оръжия, няма общи инспекции и няма ясни правила за ръководство на сходни технологии “, написа NYT.

Много специалисти приветстваха внимателния метод на Anthropic, само че показаха паника от неналичието на интернационална съгласуваност.

Англия е единствената страна отвън Съединени американски щати с достъп до модела. Нейният Институт за AI сигурност извърши проби и разгласява самостоятелна оценка, която удостоверява, че Mythos може да прави комплицирани хакерски атаки, непостигани до момента от AI.

„ Това е забележителна стъпка напред в киберспособностите на AI “, съобщи министърът на AI на Англия Канишка Нараян, наблягайки, че страната подхваща ограничения за отбрана на сериозната инфраструктура.

Други получиха по-ограничен достъп. Европейската комисия е провела най-малко три срещи с Anthropic, само че към момента няма достъп до модела заради липса на договореност за изискванията на шерване.

Комисията съобщи, че проучва „ вероятните последствия “ от Mythos, който демонстрира „ невиждани киберспособности “.

Реакцията на Китай и Русия е по-сдържана. Въпреки напрежението сред Anthropic и администрацията на Тръмп, Амодей акцентира, че AI би трябвало да служи за отбрана на демократичните страни.

В Китай откривателите наблюдават деликатно развиването. Много от банковите и енергийните системи в страната употребяват същия програмен продукт, в който Mythos открива уязвимости, само че към този момент Китай няма достъп до модела. Някои китайски откриватели се притесняват, че страната може да изостане още повече, губейки преимуществата на ранното развиване на фундаментални модели.

Всеобщо е следното безпокойство - страни без лична инфраструктура и модели рискуват да станат подвластни от компании като Anthropic, Гугъл и OpenAI, без действително въздействие върху развиването и контрола на технологиите.

„ Фактът, че достъпът до най-напредналия AI може да бъде едностранно лимитиран от компания по непрозрачни критерии, би трябвало съществено да тревожи държавните управления “, споделя Йейати.