Мъск и още 1000 искат да се забави изкуственият интелект: Докато не разберем по-добре последиците
Илон Мъск и група специалисти по изкуствен интелект и ръководители на промишлеността са излезли с апел за шестмесечна пауза в създаването на системи, по-мощни от преди малко пуснатия GPT-4 на OpenAI.
В отворено писмо те показват евентуалните опасности за обществото и човечеството като цяло, оповестява Reuters.
Писмото, разпратено от института с нестопанска цел Future of Life Institute и подписано от повече от 1000 души, в това число Мъск, приканва за прекъсване на бързото развиване на сходни системи, до момента в който не бъдат създадени, внедрени и одитирани от самостоятелни специалисти общи протоколи за сигурност.
„ Мощните AI системи би трябвало да бъдат разработвани единствено откакто сме уверени, че техните резултати ще бъдат позитивни, а рисковете - управляеми “, се споделя в писмото, което разказва в детайли евентуалните опасности за обществото и цивилизацията от системите с изкуствен интелект.
В листата влизат както стопански, по този начин и политически разстройства, а учените се обръщат към разработчиците със съвет да работят с регулаторите за основаване на стандарти за разработка и интеграция на изкуствен интелект.
Сред имената, стоящи зад писмото, са и тези на основния изпълнителен шеф на Stability AI Емад Мостаке и откриватели от притежаваната от Alphabet DeepMind.
То идва два дни, откакто Европол се причисли към организациите, споделящи етични и правни опасения, свързани с необятното потребление на напреднал AI като ChatGPT, предупреждавайки за евентуалната корист със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно държавното управление на Обединеното кралство даже излезе с предложение за „ адаптивна “ регулаторна рамка за изкуствения разсъдък. Подходът на държавното управление в Лондон, обрисуван в документа, написа Reuters, ще раздели отговорността за ръководството на AI-платформи сред регулаторите, отговарящи за правата на индивида, здравето и сигурността, и тези по конкуренцията.
След стартирането си предходната година ChatGPT подтикна доста съперници на OpenAI и Microsoft да ускорят създаването на сходни огромни езикови модели, а фирмите да интегрират генеративни AI модели в своите артикули. Това, разумно, провокира и вълна от отрицателни мнения, наред с позитивните, защото една немалка част от научната общественост счита, че технологията към момента не е подготвена за толкоз необятно потребление.
„ Писмото не е съвършено, само че духът му е верен - би трябвало да забавим темпото, до момента в който не разберем по-добре последствията “, споделя Гари Маркъс, професор в Нюйоркския университет, който се е подписал в писмото, пред Reuters.
„ AI могат да причинят сериозна щета, а огромните играчи стават все по-потайни по отношение на това, което вършат. Това затруднява отбраната на обществото против всевъзможни вреди, които могат да се материализират в един миг. “
Според регистъра за бистрота на Европейския съюз, Future of Life Institute се финансира главно от “Фондация Мъск ”, както и от Фондация на общността на Силиконовата котловина.
В отворено писмо те показват евентуалните опасности за обществото и човечеството като цяло, оповестява Reuters.
Писмото, разпратено от института с нестопанска цел Future of Life Institute и подписано от повече от 1000 души, в това число Мъск, приканва за прекъсване на бързото развиване на сходни системи, до момента в който не бъдат създадени, внедрени и одитирани от самостоятелни специалисти общи протоколи за сигурност.
„ Мощните AI системи би трябвало да бъдат разработвани единствено откакто сме уверени, че техните резултати ще бъдат позитивни, а рисковете - управляеми “, се споделя в писмото, което разказва в детайли евентуалните опасности за обществото и цивилизацията от системите с изкуствен интелект.
В листата влизат както стопански, по този начин и политически разстройства, а учените се обръщат към разработчиците със съвет да работят с регулаторите за основаване на стандарти за разработка и интеграция на изкуствен интелект.
Сред имената, стоящи зад писмото, са и тези на основния изпълнителен шеф на Stability AI Емад Мостаке и откриватели от притежаваната от Alphabet DeepMind.
То идва два дни, откакто Европол се причисли към организациите, споделящи етични и правни опасения, свързани с необятното потребление на напреднал AI като ChatGPT, предупреждавайки за евентуалната корист със системата при опити за фишинг, дезинформация и киберпрестъпления.
Междувременно държавното управление на Обединеното кралство даже излезе с предложение за „ адаптивна “ регулаторна рамка за изкуствения разсъдък. Подходът на държавното управление в Лондон, обрисуван в документа, написа Reuters, ще раздели отговорността за ръководството на AI-платформи сред регулаторите, отговарящи за правата на индивида, здравето и сигурността, и тези по конкуренцията.
След стартирането си предходната година ChatGPT подтикна доста съперници на OpenAI и Microsoft да ускорят създаването на сходни огромни езикови модели, а фирмите да интегрират генеративни AI модели в своите артикули. Това, разумно, провокира и вълна от отрицателни мнения, наред с позитивните, защото една немалка част от научната общественост счита, че технологията към момента не е подготвена за толкоз необятно потребление.
„ Писмото не е съвършено, само че духът му е верен - би трябвало да забавим темпото, до момента в който не разберем по-добре последствията “, споделя Гари Маркъс, професор в Нюйоркския университет, който се е подписал в писмото, пред Reuters.
„ AI могат да причинят сериозна щета, а огромните играчи стават все по-потайни по отношение на това, което вършат. Това затруднява отбраната на обществото против всевъзможни вреди, които могат да се материализират в един миг. “
Според регистъра за бистрота на Европейския съюз, Future of Life Institute се финансира главно от “Фондация Мъск ”, както и от Фондация на общността на Силиконовата котловина.
Източник: epicenter.bg
КОМЕНТАРИ