За да се постигне реална пауза, ще е необходимо множество

За да се реализира действителна пауза, ще е належащо голям брой огромни компании за ИИ в разнообразни страни да се съгласят по едно и също време на разпоредбите
Компанията за неестествен интелект Anthropic предложи да се направи световна пауза в създаването на най-мощните системи за изкуствен интелект (ИИ), защото най-новите модели стартират да дават признаци, че могат да излязат отвън човешкия надзор, заяви Франс прес, представена от Българска телеграфна агенция.

Базираната в Сан Франциско компания се прави оценка на съвсем 1 трилион $ (965 млрд.) и към този момент е по-голяма от OpenAI по редица индикатори - в това число и по доходи. Anthropic основава фамилията облачни модели с ИИ. В последния си отчет компанията декларира, че международно закъснение в развиването на най-модерния неестествен интелект  " евентуално би било нещо положително "  - само че предизвести, че в случай че единствено една компания спре, съперниците просто ще изпреварят останалите.

" Смятаме, че за света би било добре да има опция да забави или краткотрайно да спре развиването на авангардния ИИ, с цел да разреши на публичните структури и проучванията за координиране да се приспособят към напредъка на технологията ", се споделя в отчета.

За да се реализира действителна пауза, ще е належащо голям брой огромни компании за ИИ в разнообразни страни - най-вече в САЩ и Китай - да се съгласят да спрат по едно и също време, според правила, които всеки би могъл да ревизира, обявиха от Anthropic.

Тази концепция може да се окаже ненапълно непопулярна измежду хора като , защото дълго чаканото дебютиране на борсата на неговата компания SpaceX - която има неговото дружество за изкуствен интелект xAI - се чака да го трансформира в първия трилионер в света.

" Без световен механизъм за съгласуваност фирмите и държавните управления ще би трябвало да вземат сложни решения по отношение на сигурността, до момента в който са подложени на конкурентен и геополитически напън ", обявиха от Anthropic.
 
Компанията срещна съпротива от други в сектора - и от чиновници в  - които настояват, че фокусът ѝ върху най-лошите сюжети преувеличава рисковете и се равнява на тактика за закъснение на съперниците под прикритието на опасения за сигурността.

Въпреки това Белият дом признава мощността на модела  " Митос " (Mythos) на компанията - който не е наличен за необятната общност заради своите благоприятни условия в региона на киберсигурността и понастоящем се употребява единствено от дребен брой тествани организации.

Предложението ще се сблъска с тежък отпор от Вашингтон и Силициевата котловина, доколкото представители на държавното управление на Съединени американски щати и ръководители в софтуерния бранш неведнъж са твърдели, че всяко закъснение в развиването на изкуствения разсъдък рискува да даде на Китай решаващо стратегическо преимущество в това, което мнозина смятат за определящата софтуерна конкуренция на века.

Президентът на Съединени американски щати Доналд Тръмп обаче съобщи, че е разискал опцията за съдействие с Китай по въпроси, свързани с сигурността в областта на изкуствения разсъдък, по време на неотдавнашното си посещаване в Пекин.

Тръмп също по този начин подписа тази седмица декрет, която дава на държавното управление 30 дни да организира предварителна инспекция на най-мощните американски модели за изкуствен интелект преди тяхното стартиране на пазара.

Anthropic съпостави казуса с договорите за контрол над нуклеарните оръжия, само че съобщи, че ще бъде още по-трудно да се овладее, защото образованието на ИИ е доста по-лесно да се скрие от ракетен силоз, а изкушението да се продължи безшумно ще бъде голямо.

Призивът за съгласуваност идва на фона на вътрешни данни, показващи, че изкуственият разсъдък към този момент фрапантно форсира развиването на самия изкуствен интелект, обявиха от Anthropic.

Това ускоряване основава противоположна връзка, която, съгласно предизвестието на Anthropic, в последна сметка може да докара до това, което откривателите назовават " рекурсивно самоусъвършенстване ".

Това е концепцията за система за изкуствен интелект, която става способна всъщност да се научи сама да става по-умна, без доста човешка помощ.

" Все още не сме стигнали до такава степен, а рекурсивното самоусъвършенстване не е неизбежно ", се споделя в отчета на Anthropic, само че се прибавя, че то може да настъпи по-рано, в сравнение с множеството държавни управления и институции са готови за това.

" Данните сочат, че ролята на индивида се стеснява на всеки стадий от процеса на развиване на изкуствения разсъдък ", съобщи компанията.