Трябва да се направи глобална пауза в разработването на най-мощните

Трябва да се направи световна пауза в създаването на най-мощните системи за изкуствен интелект (AI). За това прикани основаната в Сан Франциско компанията Anthropic, която основава фамилията облачни модели с AI. Според нея най-новите модели стартират да дават признаци, че могат да излязат отвън човешкия надзор, заяви Франс прес, представена от Българска телеграфна агенция.

Още по тематиката

Иновации в автомобилната сигурност, изкуствения разсъдък и електромобилността се основават в София Икономика / Технологии 3 юни 2021 Цифровата тактика на Европейска комисия: Инициативи за софтуерен суверенитет, тактики за данните и за изкуствения разсъдък Икономика / Технологии 20 фев 2020 Изкуствен разсъдък: Екологичен потенциал желае да бъде обезпечена обективна и безвредна приложимост за потребителите Икономика / Технологии 12 фев 2020 Иво Христов прикани за етични стандарти в потреблението на изкуствен интелект Икономика / Технологии 31 яну 2020

Anthropic показва в отчет, че международно закъснение в развиването на най-модерния ИИ " евентуално би било нещо положително " – само че предизвестява, че в случай че единствено една компания спре, съперниците просто ще изпреварят останалите.

" Смятаме, че за света би било добре да има опция да забави или краткотрайно да спре развиването на авангардния ИИ, с цел да разреши на публичните структури и проучванията за координиране да се приспособят към напредъка на технологията ", се споделя в отчета.

За да се реализира действителна пауза, ще е належащо голям брой огромни компании за ИИ в разнообразни страни – най-много в Съединени американски щати и Китай – да се съгласят да спрат по едно и също време, според правила, които всеки би могъл да ревизира, обявиха от ".

Тази концепция може да се окаже ненапълно непопулярна измежду хора като Илон Мъск, защото дълго чаканото дебютиране на борсата на неговата компания SpaceX – която има неговото дружество за изкуствен интелект xAI – се чака да го трансформира в първия трилионер в света.

" Без световен механизъм за съгласуваност фирмите и държавните управления ще би трябвало да вземат сложни решения по отношение на сигурността, до момента в който са подложени на конкурентен и геополитически напън ", обявиха от Anthropic.

Компанията срещна опозиция от други в сектора – и от чиновници в Белия дом – които настояват, че фокусът ѝ върху най-лошите сюжети преувеличава рисковете и се равнява на тактика за закъснение на съперниците под прикритието на опасения за сигурността.

Въпреки това Белият дом признава мощността на модела Mythos на компанията – който не е наличен за необятната общност заради своите благоприятни условия в региона на киберсигурността и понастоящем се употребява единствено от дребен брой тествани организации.

Предложението ще се сблъска с тежък отпор от Вашингтон и Силициевата котловина, доколкото представители на държавното управление на Съединени американски щати и ръководители в софтуерния бранш неведнъж са твърдели, че всяко закъснение в развиването на изкуствения разсъдък рискува да даде на Китай решаващо стратегическо преимущество в това, което мнозина смятат за определящата софтуерна конкуренция на века.

Президентът на Съединени американски щати Доналд Тръмп обаче съобщи, че е разискал опцията за съдействие с Китай по въпроси, свързани с сигурността в областта на изкуствения разсъдък, по време на неотдавнашното си посещаване в Пекин.

Тръмп също по този начин подписа тази седмица декрет, която дава на държавното управление 30 дни да организира предварителна инспекция на най-мощните американски модели за изкуствен интелект преди тяхното стартиране на пазара.

Anthropic сравни казуса с договорите за надзор над нуклеарните оръжия, само че съобщи, че ще бъде още по-трудно да се овладее, защото образованието на AI е доста по-лесно да се скрие от ракетен силоз, а изкушението да се продължи безшумно ще бъде голямо.

Призивът за съгласуваност идва на фона на вътрешни данни, показващи, че изкуственият разсъдък към този момент фрапантно форсира развиването на самия изкуствен интелект, обявиха от Anthropic.

Това ускоряване основава противоположна връзка, която, съгласно предизвестието на Anthropic, в последна сметка може да докара до това, което откривателите назовават " рекурсивно самоусъвършенстване ".

Това е концепцията за система за изкуствен интелект, която става способна всъщност да се научи сама да става по-умна, без доста човешка помощ.

" Все още не сме стигнали до такава степен, а рекурсивното самоусъвършенстване не е неизбежно ", се споделя в отчета на Anthropic, само че се прибавя, че то може да настъпи по-рано, в сравнение с множеството държавни управления и институции са подготвени за това.

" Данните сочат, че ролята на индивида се стеснява на всеки стадий от процеса на развиване на изкуствения разсъдък ", съобщи компанията.