Пълна каша: Обвиниха Илон Мъск във фалшификация, но опасен ли е изкуственият интелект всъщност?
Писмо, подписано от Илон Мъск и хиляди други, изискващи пауза в проучванията на изкуствения разсъдък, провокира стихия от мнения, откакто откривателите, представени в писмото, осъдиха потреблението на тяхната работа, някои подписи се оказаха подправени, а други отхвърлиха своята поддръжка.
На 22 март повече от 1800 подписали – в това число Мъск, ученият Гари Маркъс и съоснователят на Apple Стив Возняк – приканиха за шестмесечна пауза в създаването на системи по-мощни от тази на GPT-4. Инженери от Amazon, DeepMind, Гугъл, Meta и Microsoft също оказаха поддръжката си.
Разработен от OpenAI, компания, съоснована от Мъск и в този момент подкрепена от Microsoft, GPT-4 съставлява изкуствен интелект, който има способността да поддържа човешки диалог, да композира песни и да обобщава дълги документи. Такива AI системи, с разсъдък конкурентен на човешкия, съставляват огромни опасности за човечеството, се твърди в писмото.
“Лабораториите за ИИ и самостоятелните специалисти би трябвало да употребяват тази пауза, с цел да разработят взаимно и внедрят набор от споделени протоколи за сигурност за модернизиран дизайн и разработка на ИИ, които са прецизно одитирани и следени от самостоятелни външни специалисти “, се споделя в писмото.
Институтът Future of Life, мозъчният концерн, който координира напъните, цитира 12 проучвания от специалисти, в това число академични преподаватели, както и сегашни и някогашни чиновници на OpenAI, Гугъл и дъщерното им сдружение DeepMind. Но четирима специалисти, представени в писмото, показаха противоречие, че техните проучвания са били употребявани за сходни изказвания.
Оказа се още, че при първичното стартиране на писмото, са липсвали протоколи за инспекция на подписи, а в документа са вписани и хора, които в действителност не са го подписали, в това число Си Дзинпин и основния академик на Meta по изкуствен интелект Ян Лекун, който обясни в Twitter, че не го поддържа.
Elon Musk discussing the dangers of centralized AI with Sam Altman (CEO of OpenAI), in 2016.
Fate loves irony.
— Tesla Hype (@TeslaHype)
“И до момента в който Мъск упорства, че всичко, което прави е за да се подсигурява, че технологията е безвредна, евентуално има доста по-лесно пояснение: Мъск към този момент не взе участие в OpenAI и е отчаян, че към момента няма своя лична версия на ChatGPT. ” - се споделя в публикация, оповестена в сп. Forbes. В реалност OpenAI е учредена като организация с нестопанска цел през 2015 година, а Илон Мъск е общественото лице на организацията. Съосновател на компанията е Сам Алтман, а двамата с Мъск имаха сериозен конфликт през 2018 година, когато Мъск реши, че не е удовлетворен от напредъка на OpenAI. По това време Илон се тормозил, че работата на OpenAI изостава зад тази на Гугъл и споделил на Алтман, че желае да поеме компанията, с цел да форсира развиването ѝ. Но Алтман и бордът на OpenAI отхвърлили концепцията Мъск - към този момент началник на Tesla, The Boring Company и SpaceX - да има надзор върху още една компания. Мъск от своя страна се отдръпнал от компанията и се отказал от огромно планувано подаяние.
Въпреки персоналните аргументи, които биха могли да накарат Илон Мъск да желае да забави развиването на технологията, редица специалисти също показаха угриженост по отношение на бързото развиване на изкуствения разсъдък и неналичието на регулации по тематиката.
Самата компания OpenAI признава степента на заплаха, която основават нейните артикули. В собствен механически отчет от 27 март, OpenAI споделя, че защото GPT-4 и AI системи като него ще бъдат интегрирани по-широко, те ще имат още по-голям капацитет да подсилят цели идеологии, светогледи, истини и лъжи, и да ги установт, изключвайки човешкото оборване, размисъл и усъвършенстване.
Ако това е, което имат да кажат самите основатели на технологията, една къса пауза наподобява доста уместна. Но OpenAI не демонстрира никакви признаци, че фактически счита да спре създаването. Какво ли следва?
На 22 март повече от 1800 подписали – в това число Мъск, ученият Гари Маркъс и съоснователят на Apple Стив Возняк – приканиха за шестмесечна пауза в създаването на системи по-мощни от тази на GPT-4. Инженери от Amazon, DeepMind, Гугъл, Meta и Microsoft също оказаха поддръжката си.
Разработен от OpenAI, компания, съоснована от Мъск и в този момент подкрепена от Microsoft, GPT-4 съставлява изкуствен интелект, който има способността да поддържа човешки диалог, да композира песни и да обобщава дълги документи. Такива AI системи, с разсъдък конкурентен на човешкия, съставляват огромни опасности за човечеството, се твърди в писмото.
“Лабораториите за ИИ и самостоятелните специалисти би трябвало да употребяват тази пауза, с цел да разработят взаимно и внедрят набор от споделени протоколи за сигурност за модернизиран дизайн и разработка на ИИ, които са прецизно одитирани и следени от самостоятелни външни специалисти “, се споделя в писмото.
Институтът Future of Life, мозъчният концерн, който координира напъните, цитира 12 проучвания от специалисти, в това число академични преподаватели, както и сегашни и някогашни чиновници на OpenAI, Гугъл и дъщерното им сдружение DeepMind. Но четирима специалисти, представени в писмото, показаха противоречие, че техните проучвания са били употребявани за сходни изказвания.
Оказа се още, че при първичното стартиране на писмото, са липсвали протоколи за инспекция на подписи, а в документа са вписани и хора, които в действителност не са го подписали, в това число Си Дзинпин и основния академик на Meta по изкуствен интелект Ян Лекун, който обясни в Twitter, че не го поддържа.
Elon Musk discussing the dangers of centralized AI with Sam Altman (CEO of OpenAI), in 2016.
Fate loves irony.
— Tesla Hype (@TeslaHype)
“И до момента в който Мъск упорства, че всичко, което прави е за да се подсигурява, че технологията е безвредна, евентуално има доста по-лесно пояснение: Мъск към този момент не взе участие в OpenAI и е отчаян, че към момента няма своя лична версия на ChatGPT. ” - се споделя в публикация, оповестена в сп. Forbes. В реалност OpenAI е учредена като организация с нестопанска цел през 2015 година, а Илон Мъск е общественото лице на организацията. Съосновател на компанията е Сам Алтман, а двамата с Мъск имаха сериозен конфликт през 2018 година, когато Мъск реши, че не е удовлетворен от напредъка на OpenAI. По това време Илон се тормозил, че работата на OpenAI изостава зад тази на Гугъл и споделил на Алтман, че желае да поеме компанията, с цел да форсира развиването ѝ. Но Алтман и бордът на OpenAI отхвърлили концепцията Мъск - към този момент началник на Tesla, The Boring Company и SpaceX - да има надзор върху още една компания. Мъск от своя страна се отдръпнал от компанията и се отказал от огромно планувано подаяние.
Въпреки персоналните аргументи, които биха могли да накарат Илон Мъск да желае да забави развиването на технологията, редица специалисти също показаха угриженост по отношение на бързото развиване на изкуствения разсъдък и неналичието на регулации по тематиката.
Самата компания OpenAI признава степента на заплаха, която основават нейните артикули. В собствен механически отчет от 27 март, OpenAI споделя, че защото GPT-4 и AI системи като него ще бъдат интегрирани по-широко, те ще имат още по-голям капацитет да подсилят цели идеологии, светогледи, истини и лъжи, и да ги установт, изключвайки човешкото оборване, размисъл и усъвършенстване.
Ако това е, което имат да кажат самите основатели на технологията, една къса пауза наподобява доста уместна. Но OpenAI не демонстрира никакви признаци, че фактически счита да спре създаването. Какво ли следва?
Източник: woman.bg
КОМЕНТАРИ