„Кръстникът на AI“ напуска Google и предупреждава за предстояща опасност
Джефри Хинтън е пионер в региона на изкуствения разсъдък. През 2012 година той и двама негови студенти от университета в Торонто основават технология, която се трансформира в интелектуална основа на системите за AI, възприемани като основни за бъдещето на играчите в IT промишлеността.
Тази седмица обаче Хинтън публично се причисли към увеличаващия се хор от критици, които предизвестяват, че фирмите прибързват с нападателната си акция за основаване на артикули, основани на генеративен изкуствен интелект (технологията, която зарежда известни чатботове като ChatGPT). Ученията съобщи, че е напуснал работата си в Гугъл, където прекара повече от десетилетие и се трансформира в един от най-уважаваните в тази област, чието мнение се чува.
Пътят на доктор Хинтън от модернист в региона на изкуствения разсъдък до критик отразява незабравим миг за софтуерната промишленост, може би най-важния от десетилетия насам. Лидерите в сектора считат, че новите AI системи могат да се окажат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век. Очакванията за резултатите са огромни, като очакванията са, че те ще доведат до пробив в разнообразни области от проучването на медикаменти до образованието.
Но мнозина в промишлеността се опасяват, че пускат нещо рисково на независимост. Генеративният изкуствен интелект към този момент може да се употребява за дезинформация, а скоро да се трансформира и в риск за работните места. Най-големите критици настояват, че някъде надолу по веригата той може да съставлява риск за човечеството.
„ Трудно е да се реши по какъв начин може да се попречи на неприятните артисти да го употребяват за неприятни неща “, отбелязва доктор Хинтън, представен от New York Times.
След като през март OpenAI пусна нова версия на ChatGPT, повече от 1000 софтуерни водачи и откриватели подписаха отворено писмо, в което приканиха за шестмесечен мораториум върху създаването на нови системи, защото AI технологиите крият „ дълбоки опасности за обществото и човечеството “.
Няколко дни по-късно 19 сегашни и някогашни ръководители на Асоциацията за развиване на изкуствения разсъдък, академично общество с 40-годишна история, разгласиха свое лично писмо, в което предизвестяват за заплахите. В тази група бе и Ерик Хорвиц, основен теоретичен началник в Microsoft, която поддържа OpenAI с милиарди долари и употребява технологията ѝ в необятен набор от своите артикули, в това число в търсачката си Bing.
Хинтън, постоянно именуван „ кръстник на изкуствения разсъдък “, не подписа нито едно от тези писма и съобщи, че не желае да подлага на критика обществено Гугъл или други компании, до момента в който не напусне работата си. Миналия месец той уведоми компанията, че подава оставка.
75-годишният Хинтън е теоретичен служащ, чиято кариера следва персоналните му убеждения по отношение на създаването и потреблението на изкуствен интелект. През 1972 година, като аспирант в Единбургския университет, той прегръща концепцията за невронната мрежа – математическа система, която придобива умения посредством разбор на данни. По това време малко откриватели имат вяра в технологията, само че той я трансформира в работата на живота си.
През 80-те години на ХХ век Хинтън е професор по компютърни науки в университета „ Карнеги Мелън “, само че напуща и отпътува за Канада, заявявайки, че не желае да приема финансиране от Пентагона. По това време множеството проучвания в региона на AI в Съединени американски щати се финансират от Министерството на защитата, а Хинтън е надълбоко срещу потреблението на технологията на бойното поле и така наречен от него „ войници-роботи “.
През 2012 година Хинтън и двама негови студенти в Торонто, Иля Суцкевер и Алекс Кришевски, основават невронна мрежа, която може да проучва хиляди фотоси и да се научи да разпознава елементарни обекти, като цветя, кучета и коли. Гугъл похарчи 44 млн. $, с цел да придобие основаната от тях компания, а по-късно същата технология служи на редица други играчи, в това число на ChatGPT, да разработят лични AI основани артикули (б.р. – сътрудник на Йинтън – Суцкевер, става основен академик в OpenAI).
През 2018 година Хинтън и двама други дългогодишни сътрудници получиха премията „ Тюринг “, известна като „ Нобеловата премия за информатика “, за работата си върху невронните мрежи.
Приблизително по същото време Гугъл, OpenAI и други компании стартират да построяват невронни мрежи, които се учат от големи размери данни. Хинтън счита, че това е мощен метод машините да схващат и генерират език, само че не толкоз добре като хората. Когато през предходната година Гугъл и OpenAI построиха системи, употребяващи доста по-големи количества данни, мнението му се промени. Ученият към момента вярваше, че тези платформи отстъпват на човешкия мозък в някои връзки, само че че го засенчват в други.
„ Може би това, което се случва в тези системи, в действителност е доста по-добро от това, което се случва в мозъка. “
Според Хинтън с усъвършенстването на системите за изкуствен интелект от страна на фирмите те стават все по-опасни. „ Вижте по какъв начин беше преди пет години и по какъв начин е в този момент “, споделя той. „ Вземете разликата и я транспонирайте напред. Страшно е. “
До предходната година, сподели той, Гугъл е работила внимателно с технологията. Но откакто Microsoft надгради своята търсачка Bing с чатбот – предизвиквайки главната активност на Гугъл – компанията се е впуснала в конкуренцията да внедрява същия тип технология. Според Хинтън IT колосите са се вкопчили в състезание, което може да се окаже невероятно да бъде спряно.
Един от вероятните опасности, отбелязва Хинтън, е интернет да бъде залят с подправени фотоси, видеоклипове и текстове и елементарният човек „ към този момент няма да може да разбере кое е правилно “. Опасява се и от това, че с времето технологията ще преобърне пазара на труда. Днес чатботовете като ChatGPT по-скоро допълват човешките действия, само че те биха могли да заменят персоналните асистенти, преводачите и други, които се занимават с рутинни задания.
В по-далечна вероятност Хинтън се тормози, че бъдещите версии на технологията съставляват опасност за човечеството, тъй като фирмите разрешават на самообучаващите се AI системи освен да генерират личен компютърен код, само че и да го извършват независимо. Това кара ученият да позволява, че може да пристигна ден, в който самостоятелните оръжия – тези „ роботи-убийци “ – ще станат действителност.
Идеята, че тези системи могат да станат по-умни от хората звучеше пресилена до неотдавна. „ И аз мислех, че е погрешна. Мислех, че е на 30 до 50 години или повече. Очевидно към този момент не мисля по този начин “, споделя Хинтън.
Според него конкуренцията сред Гугъл, Microsoft и други играчи ще прерасне в световна и няма да спре без регулация. Тревожното е, че за разлика от нуклеарните оръжия, няма по какъв начин да се разбере дали фирмите или страните работят скрито по тази технология. „ Не мисля, че би трябвало да усилват мащаба на тази технология, до момента в който не схванат дали могат да я управляват. “
Тази седмица обаче Хинтън публично се причисли към увеличаващия се хор от критици, които предизвестяват, че фирмите прибързват с нападателната си акция за основаване на артикули, основани на генеративен изкуствен интелект (технологията, която зарежда известни чатботове като ChatGPT). Ученията съобщи, че е напуснал работата си в Гугъл, където прекара повече от десетилетие и се трансформира в един от най-уважаваните в тази област, чието мнение се чува.
Пътят на доктор Хинтън от модернист в региона на изкуствения разсъдък до критик отразява незабравим миг за софтуерната промишленост, може би най-важния от десетилетия насам. Лидерите в сектора считат, че новите AI системи могат да се окажат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век. Очакванията за резултатите са огромни, като очакванията са, че те ще доведат до пробив в разнообразни области от проучването на медикаменти до образованието.
Но мнозина в промишлеността се опасяват, че пускат нещо рисково на независимост. Генеративният изкуствен интелект към този момент може да се употребява за дезинформация, а скоро да се трансформира и в риск за работните места. Най-големите критици настояват, че някъде надолу по веригата той може да съставлява риск за човечеството.
„ Трудно е да се реши по какъв начин може да се попречи на неприятните артисти да го употребяват за неприятни неща “, отбелязва доктор Хинтън, представен от New York Times.
След като през март OpenAI пусна нова версия на ChatGPT, повече от 1000 софтуерни водачи и откриватели подписаха отворено писмо, в което приканиха за шестмесечен мораториум върху създаването на нови системи, защото AI технологиите крият „ дълбоки опасности за обществото и човечеството “.
Няколко дни по-късно 19 сегашни и някогашни ръководители на Асоциацията за развиване на изкуствения разсъдък, академично общество с 40-годишна история, разгласиха свое лично писмо, в което предизвестяват за заплахите. В тази група бе и Ерик Хорвиц, основен теоретичен началник в Microsoft, която поддържа OpenAI с милиарди долари и употребява технологията ѝ в необятен набор от своите артикули, в това число в търсачката си Bing.
Хинтън, постоянно именуван „ кръстник на изкуствения разсъдък “, не подписа нито едно от тези писма и съобщи, че не желае да подлага на критика обществено Гугъл или други компании, до момента в който не напусне работата си. Миналия месец той уведоми компанията, че подава оставка.
75-годишният Хинтън е теоретичен служащ, чиято кариера следва персоналните му убеждения по отношение на създаването и потреблението на изкуствен интелект. През 1972 година, като аспирант в Единбургския университет, той прегръща концепцията за невронната мрежа – математическа система, която придобива умения посредством разбор на данни. По това време малко откриватели имат вяра в технологията, само че той я трансформира в работата на живота си.
През 80-те години на ХХ век Хинтън е професор по компютърни науки в университета „ Карнеги Мелън “, само че напуща и отпътува за Канада, заявявайки, че не желае да приема финансиране от Пентагона. По това време множеството проучвания в региона на AI в Съединени американски щати се финансират от Министерството на защитата, а Хинтън е надълбоко срещу потреблението на технологията на бойното поле и така наречен от него „ войници-роботи “.
През 2012 година Хинтън и двама негови студенти в Торонто, Иля Суцкевер и Алекс Кришевски, основават невронна мрежа, която може да проучва хиляди фотоси и да се научи да разпознава елементарни обекти, като цветя, кучета и коли. Гугъл похарчи 44 млн. $, с цел да придобие основаната от тях компания, а по-късно същата технология служи на редица други играчи, в това число на ChatGPT, да разработят лични AI основани артикули (б.р. – сътрудник на Йинтън – Суцкевер, става основен академик в OpenAI).
През 2018 година Хинтън и двама други дългогодишни сътрудници получиха премията „ Тюринг “, известна като „ Нобеловата премия за информатика “, за работата си върху невронните мрежи.
Приблизително по същото време Гугъл, OpenAI и други компании стартират да построяват невронни мрежи, които се учат от големи размери данни. Хинтън счита, че това е мощен метод машините да схващат и генерират език, само че не толкоз добре като хората. Когато през предходната година Гугъл и OpenAI построиха системи, употребяващи доста по-големи количества данни, мнението му се промени. Ученият към момента вярваше, че тези платформи отстъпват на човешкия мозък в някои връзки, само че че го засенчват в други.
„ Може би това, което се случва в тези системи, в действителност е доста по-добро от това, което се случва в мозъка. “
Според Хинтън с усъвършенстването на системите за изкуствен интелект от страна на фирмите те стават все по-опасни. „ Вижте по какъв начин беше преди пет години и по какъв начин е в този момент “, споделя той. „ Вземете разликата и я транспонирайте напред. Страшно е. “
До предходната година, сподели той, Гугъл е работила внимателно с технологията. Но откакто Microsoft надгради своята търсачка Bing с чатбот – предизвиквайки главната активност на Гугъл – компанията се е впуснала в конкуренцията да внедрява същия тип технология. Според Хинтън IT колосите са се вкопчили в състезание, което може да се окаже невероятно да бъде спряно.
Един от вероятните опасности, отбелязва Хинтън, е интернет да бъде залят с подправени фотоси, видеоклипове и текстове и елементарният човек „ към този момент няма да може да разбере кое е правилно “. Опасява се и от това, че с времето технологията ще преобърне пазара на труда. Днес чатботовете като ChatGPT по-скоро допълват човешките действия, само че те биха могли да заменят персоналните асистенти, преводачите и други, които се занимават с рутинни задания.
В по-далечна вероятност Хинтън се тормози, че бъдещите версии на технологията съставляват опасност за човечеството, тъй като фирмите разрешават на самообучаващите се AI системи освен да генерират личен компютърен код, само че и да го извършват независимо. Това кара ученият да позволява, че може да пристигна ден, в който самостоятелните оръжия – тези „ роботи-убийци “ – ще станат действителност.
Идеята, че тези системи могат да станат по-умни от хората звучеше пресилена до неотдавна. „ И аз мислех, че е погрешна. Мислех, че е на 30 до 50 години или повече. Очевидно към този момент не мисля по този начин “, споделя Хинтън.
Според него конкуренцията сред Гугъл, Microsoft и други играчи ще прерасне в световна и няма да спре без регулация. Тревожното е, че за разлика от нуклеарните оръжия, няма по какъв начин да се разбере дали фирмите или страните работят скрито по тази технология. „ Не мисля, че би трябвало да усилват мащаба на тази технология, до момента в който не схванат дали могат да я управляват. “
Източник: boulevardbulgaria.bg
КОМЕНТАРИ