ChatGPT лази по нервите на Мъск. Той призова за спиране на експериментите с AI
Милиардерът Илон Мъск и редица специалисти приканиха за прекъсване на създаването на мощни системи за изкуствен интелект (ИИ), с цел да се обезпечи време за инспекция на тяхната сигурност, съобщи Агенция Франс Прес.
Отвореното писмо, подписано досега от над 1000 души, измежду които Мъск и съоснователят на Apple Стив Возняк, беше провокирано от стартирането на GPT-4 от подкрепяната от Microsoft компания OpenAI. Компанията твърди, че нейният финален модел е доста по-мощен от предходната версия, която е била употребена за ChatGPT.
„ Системите за изкуствен интелект с конкурентен на човешкия разсъдък могат да основат дълбоки опасности за обществото и човечеството “, се споделя в отвореното писмо, озаглавено „ Спиране на гигантските опити с изкуствен интелект “.
„ Мощни системи с ИИ би трябвало да се създават единствено откакто сме сигурни, че резултатът от тях ще бъде позитивен, а рисковете – управляеми “, се споделя в него.
Мъск беше първичен вложител в OpenAI, прекара години в нейния директорски съвет, а неговата автомобилна компания Tesla създава системи за ИИ, които оказват помощ за зареждането на технологията за самоуправление, наред с други приложения.
Писмото, проведено от финансирания от Мъск Институт за бъдещето на живота, беше подписано от известни критици, както и от съперници на OpenAI като шефа на Stability AI Емад Мостак.
Канадският пионер в региона на изкуствения разсъдък Йошуа Бенгио, също подписал документа, на виртуална конференция в Монреал предизвести, че „ обществото не е готово “ за този мощен инструмент и за вероятните му злоупотреби.
„ Нека забавим темпото. Нека се уверим, че сме създали по-добри защитни средства “, сподели той и прикани за задълбочена интернационална полемика за ИИ и неговите последствия, „ както направихме за нуклеарната сила и нуклеарните оръжия “.
В писмото се цитира блог, написан от създателя на OpenAI Сам Алтман, който допуска, че „ в избран миг може да е значимо да се получи самостоятелен обзор, преди да се стартира образованието на бъдещите системи “.
„ Съгласни сме. Този миг е в този момент. Ето за какво призоваваме всички лаборатории за ИИ неотложно да преустановят най-малко за 6 месеца образованието на системи за ИИ, които са по-мощни от GPT-4 “, пишат създателите на отвореното писмо.
Те приканват държавните управления да се намесят и да наложат мораториум, в случай че фирмите не се съгласят.
Шестте месеца би трябвало да се употребяват за създаване на протоколи за сигурност, системи за ръководство на ИИ и пренасочване на научните проучвания към обезпечаване на по-точни, безвредни, „ надеждни и лоялни “ системи на ИИ.
В писмото не се показват детайлности за заплахите, разкрити от GPT-4.
Но откривателите, измежду които Гари Маркъс от Нюйоркския университет, подписал писмото, от дълго време настояват, че чатботовете са огромни лъжци и имат капацитета да бъдат супер разпространители на дезинформация.
Авторът Кори Доктороу обаче съпостави промишлеността на изкуствения разсъдък със скица за „ изпомпване и изхвърляне “, потвърждавайки, че както капацитетът, по този начин и опасността от системите за изкуствен интелект са мощно пресилени.
Източник: БГНЕС
За още забавни вести, изявленията, разбори и мнения харесайте!
Отвореното писмо, подписано досега от над 1000 души, измежду които Мъск и съоснователят на Apple Стив Возняк, беше провокирано от стартирането на GPT-4 от подкрепяната от Microsoft компания OpenAI. Компанията твърди, че нейният финален модел е доста по-мощен от предходната версия, която е била употребена за ChatGPT.
„ Системите за изкуствен интелект с конкурентен на човешкия разсъдък могат да основат дълбоки опасности за обществото и човечеството “, се споделя в отвореното писмо, озаглавено „ Спиране на гигантските опити с изкуствен интелект “.
„ Мощни системи с ИИ би трябвало да се създават единствено откакто сме сигурни, че резултатът от тях ще бъде позитивен, а рисковете – управляеми “, се споделя в него.
Мъск беше първичен вложител в OpenAI, прекара години в нейния директорски съвет, а неговата автомобилна компания Tesla създава системи за ИИ, които оказват помощ за зареждането на технологията за самоуправление, наред с други приложения.
Писмото, проведено от финансирания от Мъск Институт за бъдещето на живота, беше подписано от известни критици, както и от съперници на OpenAI като шефа на Stability AI Емад Мостак.
Канадският пионер в региона на изкуствения разсъдък Йошуа Бенгио, също подписал документа, на виртуална конференция в Монреал предизвести, че „ обществото не е готово “ за този мощен инструмент и за вероятните му злоупотреби.
„ Нека забавим темпото. Нека се уверим, че сме създали по-добри защитни средства “, сподели той и прикани за задълбочена интернационална полемика за ИИ и неговите последствия, „ както направихме за нуклеарната сила и нуклеарните оръжия “.
В писмото се цитира блог, написан от създателя на OpenAI Сам Алтман, който допуска, че „ в избран миг може да е значимо да се получи самостоятелен обзор, преди да се стартира образованието на бъдещите системи “.
„ Съгласни сме. Този миг е в този момент. Ето за какво призоваваме всички лаборатории за ИИ неотложно да преустановят най-малко за 6 месеца образованието на системи за ИИ, които са по-мощни от GPT-4 “, пишат създателите на отвореното писмо.
Те приканват държавните управления да се намесят и да наложат мораториум, в случай че фирмите не се съгласят.
Шестте месеца би трябвало да се употребяват за създаване на протоколи за сигурност, системи за ръководство на ИИ и пренасочване на научните проучвания към обезпечаване на по-точни, безвредни, „ надеждни и лоялни “ системи на ИИ.
В писмото не се показват детайлности за заплахите, разкрити от GPT-4.
Но откривателите, измежду които Гари Маркъс от Нюйоркския университет, подписал писмото, от дълго време настояват, че чатботовете са огромни лъжци и имат капацитета да бъдат супер разпространители на дезинформация.
Авторът Кори Доктороу обаче съпостави промишлеността на изкуствения разсъдък със скица за „ изпомпване и изхвърляне “, потвърждавайки, че както капацитетът, по този начин и опасността от системите за изкуствен интелект са мощно пресилени.
Източник: БГНЕС
За още забавни вести, изявленията, разбори и мнения харесайте!
Източник: debati.bg
КОМЕНТАРИ