Мъск призова за спиране на гигантските експерименти с изкуствен интелект
Милиардерът Илон Мъск и редица специалисти приканиха за прекъсване на създаването на мощни системи за изкуствен интелект (ИИ), с цел да се обезпечи време за инспекция на тяхната сигурност, съобщи Агенция Франс Прес.
Отвореното писмо, подписано досега от над 1000 души, измежду които Мъск и съоснователят на Apple Стив Возняк, беше провокирано от стартирането на GPT-4 от подкрепяната от Microsoft компания OpenAI.
Компанията твърди, че нейният финален модел е доста по-мощен от предходната версия, която е била употребена за ChatGPT.
" Системите за изкуствен интелект с конкурентен на човешкия разсъдък могат да основат дълбоки опасности за обществото и човечеството ", се споделя в отвореното писмо, озаглавено " Спиране на гигантските опити с изкуствен интелект ".
" Мощни системи с ИИ би трябвало да се създават единствено откакто сме сигурни, че резултатът от тях ще бъде позитивен, а рисковете - управляеми ", се споделя в него.
Мъск беше първичен вложител в OpenAI, прекара години в нейния директорски съвет, а неговата автомобилна компания Tesla създава системи за ИИ, които оказват помощ за зареждането на технологията за самоуправление, наред с други приложения.
Писмото, проведено от финансирания от Мъск Институт за бъдещето на живота, беше подписано от известни критици, както и от съперници на OpenAI като шефа на Stability AI Емад Мостак.
Канадският пионер в региона на изкуствения разсъдък Йошуа Бенгио, също подписал документа, на виртуална конференция в Монреал предизвести, че " обществото не е готово " за този мощен инструмент и за вероятните му злоупотреби.
" Нека забавим темпото. Нека се уверим, че сме създали по-добри защитни средства ", сподели той и прикани за задълбочена интернационална полемика за ИИ и неговите последствия, " както направихме за нуклеарната сила и нуклеарните оръжия ".
В писмото се цитира блог, написан от създателя на OpenAI Сам Алтман, който допуска, че " в избран миг може да е значимо да се получи самостоятелен обзор, преди да се стартира образованието на бъдещите системи ".
" Съгласни сме. Този миг е в този момент ", пишат създателите на отвореното писмо.
" Ето за какво призоваваме всички лаборатории за ИИ неотложно да преустановят най-малко за 6 месеца образованието на системи за ИИ, които са по-мощни от GPT-4. "
Те приканват държавните управления да се намесят и да наложат мораториум, в случай че фирмите не се съгласят.
Шестте месеца би трябвало да се употребяват за създаване на протоколи за сигурност, системи за ръководство на ИИ и пренасочване на научните проучвания към обезпечаване на по-точни, безвредни, " надеждни и лоялни " системи на ИИ.
В писмото не се показват детайлности за заплахите, разкрити от GPT-4.
Но откривателите, измежду които Гари Маркъс от Нюйоркския университет, подписал писмото, от дълго време настояват, че чатботовете са огромни лъжци и имат капацитета да бъдат супер разпространители на дезинформация.
Авторът Кори Доктороу обаче съпостави промишлеността на изкуствения разсъдък със скица за " изпомпване и изхвърляне ", потвърждавайки, че както капацитетът, по този начин и опасността от системите за изкуствен интелект са мощно пресилени. /БГНЕС
Вашингтон / САЩ
Отвореното писмо, подписано досега от над 1000 души, измежду които Мъск и съоснователят на Apple Стив Возняк, беше провокирано от стартирането на GPT-4 от подкрепяната от Microsoft компания OpenAI.
Компанията твърди, че нейният финален модел е доста по-мощен от предходната версия, която е била употребена за ChatGPT.
" Системите за изкуствен интелект с конкурентен на човешкия разсъдък могат да основат дълбоки опасности за обществото и човечеството ", се споделя в отвореното писмо, озаглавено " Спиране на гигантските опити с изкуствен интелект ".
" Мощни системи с ИИ би трябвало да се създават единствено откакто сме сигурни, че резултатът от тях ще бъде позитивен, а рисковете - управляеми ", се споделя в него.
Мъск беше първичен вложител в OpenAI, прекара години в нейния директорски съвет, а неговата автомобилна компания Tesla създава системи за ИИ, които оказват помощ за зареждането на технологията за самоуправление, наред с други приложения.
Писмото, проведено от финансирания от Мъск Институт за бъдещето на живота, беше подписано от известни критици, както и от съперници на OpenAI като шефа на Stability AI Емад Мостак.
Канадският пионер в региона на изкуствения разсъдък Йошуа Бенгио, също подписал документа, на виртуална конференция в Монреал предизвести, че " обществото не е готово " за този мощен инструмент и за вероятните му злоупотреби.
" Нека забавим темпото. Нека се уверим, че сме създали по-добри защитни средства ", сподели той и прикани за задълбочена интернационална полемика за ИИ и неговите последствия, " както направихме за нуклеарната сила и нуклеарните оръжия ".
В писмото се цитира блог, написан от създателя на OpenAI Сам Алтман, който допуска, че " в избран миг може да е значимо да се получи самостоятелен обзор, преди да се стартира образованието на бъдещите системи ".
" Съгласни сме. Този миг е в този момент ", пишат създателите на отвореното писмо.
" Ето за какво призоваваме всички лаборатории за ИИ неотложно да преустановят най-малко за 6 месеца образованието на системи за ИИ, които са по-мощни от GPT-4. "
Те приканват държавните управления да се намесят и да наложат мораториум, в случай че фирмите не се съгласят.
Шестте месеца би трябвало да се употребяват за създаване на протоколи за сигурност, системи за ръководство на ИИ и пренасочване на научните проучвания към обезпечаване на по-точни, безвредни, " надеждни и лоялни " системи на ИИ.
В писмото не се показват детайлности за заплахите, разкрити от GPT-4.
Но откривателите, измежду които Гари Маркъс от Нюйоркския университет, подписал писмото, от дълго време настояват, че чатботовете са огромни лъжци и имат капацитета да бъдат супер разпространители на дезинформация.
Авторът Кори Доктороу обаче съпостави промишлеността на изкуствения разсъдък със скица за " изпомпване и изхвърляне ", потвърждавайки, че както капацитетът, по този начин и опасността от системите за изкуствен интелект са мощно пресилени. /БГНЕС
Вашингтон / САЩ
Източник: bgnes.bg
КОМЕНТАРИ