Милиардерът Илон Мъск и редица експерти призоваха за спиране на

Милиардерът Илон Мъск и редица специалисти приканиха за прекъсване на създаването на мощни системи за изкуствен интелект (ИИ), с цел да се обезпечи време за инспекция на тяхната сигурност, съобщи Агенция Франс Прес.

Отвореното писмо, подписано досега от над 1000 души, измежду които Мъск и съоснователят на Apple Стив Возняк , беше провокирано от стартирането на GPT-4 от подкрепяната от Microsoft компания OpenAI.



Компанията твърди, че нейният финален модел е доста по-мощен от предходната версия , която е била употребена за ChatGPT.

" Системите за изкуствен интелект с конкурентен на човешкия разсъдък могат да основат дълбоки опасности за обществото и човечеството ", се споделя в отвореното писмо, озаглавено " Спиране на гигантските опити с неестествен интелек т ".

" Мощни системи с ИИ би трябвало да се създават единствено откакто сме сигурни, че резултатът от тях ще бъде позитивен, а рисковете - управляеми ", се споделя в него.

Мъск беше първичен вложител в OpenAI, прекара години в нейния директорски съвет, а неговата автомобилна компания Tesla създава системи за ИИ, които оказват помощ за зареждането на технологията за самоуправление, наред с други приложения.

Писмото, проведено от финансирания от Мъск Институт за бъдещето на живота, беше подписано от известни критици, както и от съперници на OpenAI като шефа на Stability AI Емад Мостак.

Канадският пионер в региона на изкуствения разсъдък Йошуа Бенгио , също подписал документа, на виртуална конференция в Монреал предизвести, че " обществото не е готово " за този мощен инструмент и за вероятните му злоупотреби.

" Нека забавим темпото. Нека се уверим, че сме създали по-добри защитни средства ", сподели той и прикани за задълбочена интернационална полемика за ИИ и неговите последствия, " както направихме за нуклеарната сила и нуклеарните оръжия ".

В писмото се цитира блог, написан от създателя на OpenAI Сам Алтман , който допуска, че " в избран миг може да е значимо да се получи самостоятелен обзор, преди да се стартира образованието на бъдещите системи ".

" Съгласни сме. Този миг е в този момент ", пишат създателите на отвореното писмо.

" Ето за какво призоваваме всички лаборатории за ИИ неотложно да преустановят най-малко за 6 месеца образованието на системи за ИИ, които са по-мощни от GPT-4. "

Те приканват държавните управления да се намесят и да наложат мораториум , в случай че фирмите не се съгласят.

Шестте месеца би трябвало да се употребяват за създаване на протоколи за сигурност, системи за ръководство на ИИ и пренасочване на научните проучвания към обезпечаване на по-точни, безвредни, " надеждни и лоялни " системи на ИИ.

В писмото не се показват детайлности за заплахите, разкрити от GPT-4.

Но откривателите, измежду които Гари Маркъс от Нюйоркския университет, подписал писмото, от дълго време настояват, че чатботовете са огромни лъжци и имат капацитета да бъдат супер разпространители на дезинформация.

Авторът Кори Доктороу обаче съпостави промишлеността на изкуствения разсъдък със скица за " изпомпване и изхвърляне ", потвърждавайки, че както капацитетът, по този начин и опасността от системите за изкуствен интелект са мощно пресилени.