AI е "по-спешна" заплаха от изменението на климата: Бивш инженер на Google
Според Джефри Хинтън, притежател на премията " Тюринг " и пионер на тази технология, появяването на изкуствения разсъдък (ИИ) може да съставлява " по-спешна " опасност за човечеството от изменението на климата.
" Не бих желал да обезценявам изменението на климата. Не бих желал да споделям: " Не би трябвало да се притеснявате за изменението на климата ". Това също е голям риск ", сподели той пред Ройтерс. " Но мисля, че това може да се окаже по-спешно. "
Хинтън, който е прочут като един от " кръстниците " на изкуствения разсъдък, наскоро разкри, че напуща ролята си отпред на Гугъл в създаването на технологията. Той съобщи, че решението е взето, с цел да може да сътвори платформа за себе си, която да предизвестява за присъщите опасности, които ИИ съставлява, без контрол от страна на някогашния му шеф.
През март Гугъл пусна своя чатбот с изкуствен интелект " Бард " като съперник на софтуера ChatGPT на OpenAI, който го предшестваше през ноември. След като напусна Гугъл, Хинтън твърди, че компанията до момента е била " подобаващ шеф " на технологията за изкуствен интелект.
Предупреждението му идва, откакто през март няколко водачи в софтуерната промишленост, в това число изпълнителният шеф на SpaceX, Tesla и Twitter Елон Мъск, подписаха отворено писмо, в което предизвестиха за евентуалните последствия от нерегулираната конкуренция в оръжията на изкуствения разсъдък в Силициевата котловина.
В писмото Мъск и подписалите го лица настояват, че " човешкият конкурентен разсъдък " съставлява съществено предизвикателство за няколко бранша на обществото, в това число заетостта и разпространяването на информация. В него се приканва също по този начин за шестмесечна пауза в създаването на технологии за ИИ, по-мощни от ChatGPT, и за назначението на самостоятелен регулатор, който да реализира контрол над разрастващата се софтуерна граница.
ChatGPT се трансформира в най-бързо разрастващото се приложение в историята скоро след стартирането си на пазара предходната година, като единствено за два месеца надвиши 100 милиона консуматори.
" По отношение на изменението на климата е доста елементарно да се предложи какво би трябвало да се направи: Просто спрете да изгаряте въглерод ", изяснява Хинтън пред Ройтерс. " Ако го извършите, нещата ще се оправят. За този проблем не е толкоз ясно какво би трябвало да извършите. "
Вместо обаче да се стопират проучванията, които съгласно Хинтън са " изцяло нереалистични ", той споделя, че ресурсите би трябвало да се насочат към това " да се разбере какво можем да създадем с " технологията, която той назовава " екзистенциален риск ".
Миналата седмица президентът на Съединени американски щати Джо Байдън се срещна с представители на Гугъл и Microsoft, като в границите на полемиката, която Белият дом назова " откровена и градивна ", даде да се разбере, че софтуерните компании би трябвало да подсигуряват, че стратегиите за изкуствен интелект са безвредни, преди да бъдат внедрени.
" Не бих желал да обезценявам изменението на климата. Не бих желал да споделям: " Не би трябвало да се притеснявате за изменението на климата ". Това също е голям риск ", сподели той пред Ройтерс. " Но мисля, че това може да се окаже по-спешно. "
Хинтън, който е прочут като един от " кръстниците " на изкуствения разсъдък, наскоро разкри, че напуща ролята си отпред на Гугъл в създаването на технологията. Той съобщи, че решението е взето, с цел да може да сътвори платформа за себе си, която да предизвестява за присъщите опасности, които ИИ съставлява, без контрол от страна на някогашния му шеф.
През март Гугъл пусна своя чатбот с изкуствен интелект " Бард " като съперник на софтуера ChatGPT на OpenAI, който го предшестваше през ноември. След като напусна Гугъл, Хинтън твърди, че компанията до момента е била " подобаващ шеф " на технологията за изкуствен интелект.
Предупреждението му идва, откакто през март няколко водачи в софтуерната промишленост, в това число изпълнителният шеф на SpaceX, Tesla и Twitter Елон Мъск, подписаха отворено писмо, в което предизвестиха за евентуалните последствия от нерегулираната конкуренция в оръжията на изкуствения разсъдък в Силициевата котловина.
В писмото Мъск и подписалите го лица настояват, че " човешкият конкурентен разсъдък " съставлява съществено предизвикателство за няколко бранша на обществото, в това число заетостта и разпространяването на информация. В него се приканва също по този начин за шестмесечна пауза в създаването на технологии за ИИ, по-мощни от ChatGPT, и за назначението на самостоятелен регулатор, който да реализира контрол над разрастващата се софтуерна граница.
ChatGPT се трансформира в най-бързо разрастващото се приложение в историята скоро след стартирането си на пазара предходната година, като единствено за два месеца надвиши 100 милиона консуматори.
" По отношение на изменението на климата е доста елементарно да се предложи какво би трябвало да се направи: Просто спрете да изгаряте въглерод ", изяснява Хинтън пред Ройтерс. " Ако го извършите, нещата ще се оправят. За този проблем не е толкоз ясно какво би трябвало да извършите. "
Вместо обаче да се стопират проучванията, които съгласно Хинтън са " изцяло нереалистични ", той споделя, че ресурсите би трябвало да се насочат към това " да се разбере какво можем да създадем с " технологията, която той назовава " екзистенциален риск ".
Миналата седмица президентът на Съединени американски щати Джо Байдън се срещна с представители на Гугъл и Microsoft, като в границите на полемиката, която Белият дом назова " откровена и градивна ", даде да се разбере, че софтуерните компании би трябвало да подсигуряват, че стратегиите за изкуствен интелект са безвредни, преди да бъдат внедрени.
Източник: 18min.bg
КОМЕНТАРИ