Над 800 души, сред които учени в областта на AI,

Над 800 души, измежду които учени в региона на AI, политици, звезди и религиозни водачи, подписаха послание, в което приканват за „ възбрана “ върху създаването на така наречен свръхинтелигентен изкуствен интелект - системи, които биха били по-интелигентни от множеството хора.

Писмото е оповестено от Института „ Бъдеще на живота “ (Future of Life Institute, FLI) - неправителствена организация, отдадена на етичните последствия от технологиите.

„ Призоваваме за възбрана върху създаването на свръхинтелигентен AI, която да не бъде отменяна, до момента в който не бъде реализиран необятен теоретичен консенсус, че сходни системи могат да бъдат създавани безвредно и под надзор - и до момента в който не се обезпечи мощна социална поддръжка “, се споделя в декларацията, представена от Financial Times.

Сред подписалите са „ кръстниците на изкуствения разсъдък “ Джефри Хинтън и Йошуа Бенджио, софтуерни икони като съоснователят на Apple Стив Возняк и съоснователят на Virgin Ричард Брансън, някогашният президент на Ирландия Мери Робинсън, Стив Банън, Стивън Фрай, принц Хари, Меган Маркъл.
„ Може би най-голямата опасност не са другите страни, а машините, които сами сътворяваме “
Кампанията е съпроводена от социологическо изследване, съгласно което единствено 5% от американците поддържат „ актуалното положение на безкрайно развиване на AI “, до момента в който съвсем три четвърти от интервюираните упорстват за строга регулация.

Президентът на института Макс Тегмарк разяснява пред Financial Times:

„ Именно човечността ни сплотява. Все повече хора стартират да осъзнават, че най-голямата опасност може би към този момент не е конкурентната компания или страна, а самите машини, които построяваме. “
Технологичната конкуренция към „ свръхинтелигентност “
Големите софтуерни компании и започващи AI компании - в това число OpenAI, Meta и Гугъл - са в яростна конкуренция кой първи ще създаде „ свръхинтелигентен “ или „ общ изкуствен интелект “ (AGI) - т.е. система, която може да надмине индивида в множеството интелектуални задания.

През март 2023 година, пет месеца след стартирането на ChatGPT, група софтуерни специалисти, измежду които Илон Мъск, подписаха сходна декларация, проведена също от FLI, с апел за шестмесечна пауза върху създаването на AI системи. Въпреки това, компанията на Мъск xAI продължава да построява лични AI модели.

Новата декларация е по-конкретна и, по думите на Тегмарк, „ никога не приканва за прекъсване на целия прогрес в AI “.

„ Не е нужна свръхинтелигентност, с цел да лекуваме рак, да изградим самостоятелни коли или да повишим продуктивността и успеваемостта “, добавя той.

Китайски учени, някогашни високопоставени чиновници и религиозни водачи също поддържаха самодейността.

Сред подписалите са Андрю Яо и Я-Цин Джан, някогашен президент на Baidu.

Списъкът включва още някогашния консултант по националната сигурност на Съединени американски щати Сюзън Райс, служила при президента Барак Обама, както и адмирал Майк Мълен, някогашен ръководител на Обединения комитет на началник-щабовете при Обама и Джордж У. Буш.

Тегмарк разяснява още: „ Загубата на надзор се преглежда като опасност за националната сигурност както на Запада, по този начин и в Китай. Двете страни ще се опълчват на това заради лични ползи - без даже да се постанова да си имат доверие. “

Междувременно световната регулация на изкуствения разсъдък напредва постепенно. Най-напредналото законодателство – Европейският акт за AI (EU AI Act) – се вкарва последователно на фона на остри рецензии от страна на промишлеността.

В Съединени американски щати няколко щата – Калифорния, Юта и Тексас – към този момент одобриха лични закони за изкуствения разсъдък.

Предложение за десетгодишен мораториум върху федералната AI регулация бе отстранено от бюджета на Конгреса през юли.