Мъск и над 1000 експерти искат пауза в разработването на мощните AI системи
Илон Мъск и група специалисти по изкуствен интелект и ръководители на промишлеността приканват за шестмесечна пауза в създаването на системи, които са по-мощни от преди малко пуснатия GPT-4 на OpenAI. В отворено писмо те цитират евентуалните опасности за обществото и човечеството.
Позицията е изпратена от организацията с нестопанска цел Future of Life Institute и е подписана от повече от 1000 души, в това число Мъск. Там се приканва за прекъсване на напредналото развиване на AI, до момента в който не бъдат създадени, внедрени и одитирани от самостоятелни специалисти споделени протоколи за сигурност за такива планове.
" Мощните AI системи би трябвало да бъдат създадени единствено откакто сме уверени, че техните резултати ще бъдат позитивни и рисковете ще бъдат управляеми “, се споделя в писмото.
То в детайли разказва евентуалните опасности за обществото и цивилизацията от системите за изкуствен интелект, конкуриращи се с индивида, под формата на стопански и политически разстройства и приканва разработчиците да работят с политиците във връзка с ръководството и регулаторните органи.
Съподписалите се включват основният изпълнителен шеф на Stability AI Емад Мостаке, откриватели от притежаваната от Alphabet компания DeepMind, както и специалистите в AI Йошуа Бенгио и Стюарт Ръсел.
Според регистъра за бистрота на Европейския съюз, Future of Life Institute се финансира главно от Фондация „ Мъск “, както и от основаната в Лондон група за ефикасен алтруизъм Founders Pledge и Фондацията на общността на Силиконовата котловина.
Притесненията идват, откакто Европол в понеделник се причисли към увеличаващите се гласове, предупреждаващи за етичните и правни опасения по отношение на напреднал AI, като ChatGPT, предупреждавайки за евентуалната корист със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно държавното управление на Обединеното кралство разкри оферти за „ адаптивна “ регулаторна рамка към изкуствения разсъдък.
Подходът на държавното управление, обрисуван в политически документ, оповестен в сряда, ще раздели отговорността за ръководството на AI сред неговите регулатори за правата на индивида, здравето и сигурността и конкуренцията, вместо да сътвори нов орган, отдаден на технологията.
Мъск, чийто производител на коли Tesla употребява изкуствен интелект в системата за автопилот, изрази терзанията си по отношение на изкуствения разсъдък.
След стартирането си предходната година, ChatGPT подтикна съперниците да ускорят създаването на сходни огромни езикови модели, а фирмите да интегрират генеративни AI модели в своите артикули.
Сам Алтман, основен изпълнителен шеф на OpenAI, не е подписал писмото, сподели представител на Future of Life пред Reuters. Компанията зад известния чатбот ChatGPT не отговори незабавно на настояването за коментар.
Писмото не е съвършено, само че духът е верен: би трябвало да забавим темпото, до момента в който не разберем по-добре последствията “, сподели Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. „ Те могат да причинят сериозна щета... огромните играчи стават все по-потайни по отношение на това, което вършат, което затруднява отбраната на обществото против всевъзможни вреди, които могат да се материализират. “
Позицията е изпратена от организацията с нестопанска цел Future of Life Institute и е подписана от повече от 1000 души, в това число Мъск. Там се приканва за прекъсване на напредналото развиване на AI, до момента в който не бъдат създадени, внедрени и одитирани от самостоятелни специалисти споделени протоколи за сигурност за такива планове.
" Мощните AI системи би трябвало да бъдат създадени единствено откакто сме уверени, че техните резултати ще бъдат позитивни и рисковете ще бъдат управляеми “, се споделя в писмото.
То в детайли разказва евентуалните опасности за обществото и цивилизацията от системите за изкуствен интелект, конкуриращи се с индивида, под формата на стопански и политически разстройства и приканва разработчиците да работят с политиците във връзка с ръководството и регулаторните органи.
Съподписалите се включват основният изпълнителен шеф на Stability AI Емад Мостаке, откриватели от притежаваната от Alphabet компания DeepMind, както и специалистите в AI Йошуа Бенгио и Стюарт Ръсел.
Според регистъра за бистрота на Европейския съюз, Future of Life Institute се финансира главно от Фондация „ Мъск “, както и от основаната в Лондон група за ефикасен алтруизъм Founders Pledge и Фондацията на общността на Силиконовата котловина.
Притесненията идват, откакто Европол в понеделник се причисли към увеличаващите се гласове, предупреждаващи за етичните и правни опасения по отношение на напреднал AI, като ChatGPT, предупреждавайки за евентуалната корист със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно държавното управление на Обединеното кралство разкри оферти за „ адаптивна “ регулаторна рамка към изкуствения разсъдък.
Подходът на държавното управление, обрисуван в политически документ, оповестен в сряда, ще раздели отговорността за ръководството на AI сред неговите регулатори за правата на индивида, здравето и сигурността и конкуренцията, вместо да сътвори нов орган, отдаден на технологията.
Мъск, чийто производител на коли Tesla употребява изкуствен интелект в системата за автопилот, изрази терзанията си по отношение на изкуствения разсъдък.
След стартирането си предходната година, ChatGPT подтикна съперниците да ускорят създаването на сходни огромни езикови модели, а фирмите да интегрират генеративни AI модели в своите артикули.
Сам Алтман, основен изпълнителен шеф на OpenAI, не е подписал писмото, сподели представител на Future of Life пред Reuters. Компанията зад известния чатбот ChatGPT не отговори незабавно на настояването за коментар.
Писмото не е съвършено, само че духът е верен: би трябвало да забавим темпото, до момента в който не разберем по-добре последствията “, сподели Гари Маркъс, професор в Нюйоркския университет, който е подписал писмото. „ Те могат да причинят сериозна щета... огромните играчи стават все по-потайни по отношение на това, което вършат, което затруднява отбраната на обществото против всевъзможни вреди, които могат да се материализират. “
Източник: moreto.net
КОМЕНТАРИ