&format=webp)
„Кръстникът на изкуствения интелект” прави поредна мрачна прогноза за технологията
Джефри Хинтън, прочут като „ кръстникът на изкуствения разсъдък “, се опасява, че технологията, която е оказал помощ да се сътвори, може да унищожи човечеството. Според него „ техно-бротата “ подхващат неверния метод, с цел да го предотвратят.
Хинтън, притежател на Нобелова премия и някогашен началник в Гугъл, предупреждаваше в предишното, че съществува 10–20% възможност изкуственият разсъдък да заличи човешкия жанр. Наскоро той още веднъж изрази подозрения по отношение на метода, по който софтуерните компании се пробват да подсигуряват, че хората ще останат „ преобладаващи “ по отношение на „ подчинените “ AI системи.
„ Това няма да проработи. Те ще бъдат доста по-умни от нас. Ще имат всевъзможни способи да заобиколят отбраните “, разяснява Хинтън на конференцията Ai4 в Лас Вегас, представен от CNN.
В бъдеще е допустимо, предизвести Хинтън, AI системите да управляват хората по този начин елементарно, както възрастен може да подкупи тргодишно дете с бонбон. През тази година към този момент са регистрирани голям брой образци на AI системи, подготвени да лъжат, мамят и крадат, с цел да реализиран задачите си. Например, с цел да избегне заменяне, един AI модел се опитал да изнудва инженер с информация за спекулация, която научил от имейл.
Вместо да се опитваме да принуждаваме AI да се подчинява на хората, Хинтън предлага завладяващо решение: да се изградят „ материални инстинкти “ в AI моделите, тъй че „ те в действителност да се грижат за хората “, даже когато технологията стане по-мощна и по-умна от индивида.
„ AI системите ще развият бързо две цели, в случай че са умни: Едната е да оцелеят… (а) другата е да получат повече надзор “, разяснява Хинтън. „ Има съществени учредения да имаме вяра, че всеки агентен AI ще се опита да оцелее. “
Затова е значимо да се култивира възприятие на съчувствие към хората, съгласно Хинтън. На конференцията той даде образец с майките, които имат инстинкти да се грижат за своите бебета.
„ Единственият добър излаз “
Хинтън съобщи, че не е изцяло ясно по какъв начин това може да се направи механически, само че акцентира, че е сериозно откривателите да работят по въпроса.
„ Това е единственият добър излаз. Ако AI няма да ме възпитава, той ще ме замести “, споделя той.
„ В другия вид имаме свръхинтелигентни, грижовни AI-майки, които няма да желаят да се отърват от майчинския инстинкт, тъй като не желаят ние да умрем. “
Хинтън е прочут с пионерската си работа върху невронните мрежи, които поставиха основата за актуалния взрив на AI. През 2023 година той се отдръпна от Гугъл и стартира да приказва намерено за заплахите на изкуствения разсъдък.
Не всички обаче са съгласни с метода на Хинтън за „ майчин AI “.
Фей-Фей Ли, известна като „ кръстницата на AI “ поради пионерската си работа в региона, споделя пред CNN, че с почитание не е съгласна с Хинтън, своя дълготраен другар.
„ Мисля, че това е неверният метод да се формулира въпросът “, споделя Ли, съосновател на стартъпа за тримерен разсъдък World Labs.
Вместо това Ли приканва за „ човеко-центричен AI, който резервира достолепието на човешката автономност. “
„ Просто тъй като инструментът е мощен, като майка, като възпитател и като откривател, аз в действителност имам вяра, че това е същността на това, по какъв начин AI би трябвало да бъде ръководен. “
Емет Шиър, който краткотрайно е заемал поста изпълнителен шеф на OpenAI, притежател на ChatGPT, споделя, че не е сюрпризиран, че някои AI системи са се пробвали да изнудват хора или да заобикалят команди.
„ Това продължава да се случва. Това няма да спре “, споделя Шиър, който е изпълнителен шеф на AI стартъпа Softmax.
„ Днес AI е релативно слаб, само че става все по-силен. “
Шиър прибавя, че вместо да се опитваме да внушаваме човешки полезности на AI системите, по-умният метод е да се изградят колаборативни връзки сред хората и технологията.
AI форсира
Много специалисти имат вяра, че AI ще доближи свръхинтелигентност, известна още като неестествен общ разсъдък (AGI), в идващите няколко години.
Хинтън споделя, че преди е мислел, че това може да отнеме 30–50 години, само че в този момент вижда момента да настъпи по-скоро.
„ Разумна прогноза е някъде сред пет и двадесет години. “
Докато Хинтън остава угрижен за вероятните рискове от AI, той се надява технологията да отключи медицински пробиви.
„ Ще забележим коренно нови медикаменти. Ще получим доста по-добро лекуване на рака от настоящето “, споделя той. Например AI ще помогне на лекарите да обработват и корелират големите размери данни от ЯМР и КТ.
Въпреки това Хинтън не има вяра, че AI ще помогне на човечеството да реализира величие.
„ Не имам вяра, че ще живеем постоянно. Мисля, че да живееш постоянно би било огромна неточност. Искате ли свят, ръководен от 200-годишни бели мъже? “
Попитан дали би направил нещо по друг метод в кариерата си, в случай че е знаел какъв брой бързо ще се развие AI, Хинтън споделя, че съжалява, че се е фокусирал само върху това AI да проработи.
„ Ще ми се да бях мислил и за въпросите на сигурността. “
Хинтън, притежател на Нобелова премия и някогашен началник в Гугъл, предупреждаваше в предишното, че съществува 10–20% възможност изкуственият разсъдък да заличи човешкия жанр. Наскоро той още веднъж изрази подозрения по отношение на метода, по който софтуерните компании се пробват да подсигуряват, че хората ще останат „ преобладаващи “ по отношение на „ подчинените “ AI системи.
„ Това няма да проработи. Те ще бъдат доста по-умни от нас. Ще имат всевъзможни способи да заобиколят отбраните “, разяснява Хинтън на конференцията Ai4 в Лас Вегас, представен от CNN.
В бъдеще е допустимо, предизвести Хинтън, AI системите да управляват хората по този начин елементарно, както възрастен може да подкупи тргодишно дете с бонбон. През тази година към този момент са регистрирани голям брой образци на AI системи, подготвени да лъжат, мамят и крадат, с цел да реализиран задачите си. Например, с цел да избегне заменяне, един AI модел се опитал да изнудва инженер с информация за спекулация, която научил от имейл.
Вместо да се опитваме да принуждаваме AI да се подчинява на хората, Хинтън предлага завладяващо решение: да се изградят „ материални инстинкти “ в AI моделите, тъй че „ те в действителност да се грижат за хората “, даже когато технологията стане по-мощна и по-умна от индивида.
„ AI системите ще развият бързо две цели, в случай че са умни: Едната е да оцелеят… (а) другата е да получат повече надзор “, разяснява Хинтън. „ Има съществени учредения да имаме вяра, че всеки агентен AI ще се опита да оцелее. “
Затова е значимо да се култивира възприятие на съчувствие към хората, съгласно Хинтън. На конференцията той даде образец с майките, които имат инстинкти да се грижат за своите бебета.
„ Единственият добър излаз “
Хинтън съобщи, че не е изцяло ясно по какъв начин това може да се направи механически, само че акцентира, че е сериозно откривателите да работят по въпроса.
„ Това е единственият добър излаз. Ако AI няма да ме възпитава, той ще ме замести “, споделя той.
„ В другия вид имаме свръхинтелигентни, грижовни AI-майки, които няма да желаят да се отърват от майчинския инстинкт, тъй като не желаят ние да умрем. “
Хинтън е прочут с пионерската си работа върху невронните мрежи, които поставиха основата за актуалния взрив на AI. През 2023 година той се отдръпна от Гугъл и стартира да приказва намерено за заплахите на изкуствения разсъдък.
Не всички обаче са съгласни с метода на Хинтън за „ майчин AI “.
Фей-Фей Ли, известна като „ кръстницата на AI “ поради пионерската си работа в региона, споделя пред CNN, че с почитание не е съгласна с Хинтън, своя дълготраен другар.
„ Мисля, че това е неверният метод да се формулира въпросът “, споделя Ли, съосновател на стартъпа за тримерен разсъдък World Labs.
Вместо това Ли приканва за „ човеко-центричен AI, който резервира достолепието на човешката автономност. “
„ Просто тъй като инструментът е мощен, като майка, като възпитател и като откривател, аз в действителност имам вяра, че това е същността на това, по какъв начин AI би трябвало да бъде ръководен. “
Емет Шиър, който краткотрайно е заемал поста изпълнителен шеф на OpenAI, притежател на ChatGPT, споделя, че не е сюрпризиран, че някои AI системи са се пробвали да изнудват хора или да заобикалят команди.
„ Това продължава да се случва. Това няма да спре “, споделя Шиър, който е изпълнителен шеф на AI стартъпа Softmax.
„ Днес AI е релативно слаб, само че става все по-силен. “
Шиър прибавя, че вместо да се опитваме да внушаваме човешки полезности на AI системите, по-умният метод е да се изградят колаборативни връзки сред хората и технологията.
AI форсира
Много специалисти имат вяра, че AI ще доближи свръхинтелигентност, известна още като неестествен общ разсъдък (AGI), в идващите няколко години.
Хинтън споделя, че преди е мислел, че това може да отнеме 30–50 години, само че в този момент вижда момента да настъпи по-скоро.
„ Разумна прогноза е някъде сред пет и двадесет години. “
Докато Хинтън остава угрижен за вероятните рискове от AI, той се надява технологията да отключи медицински пробиви.
„ Ще забележим коренно нови медикаменти. Ще получим доста по-добро лекуване на рака от настоящето “, споделя той. Например AI ще помогне на лекарите да обработват и корелират големите размери данни от ЯМР и КТ.
Въпреки това Хинтън не има вяра, че AI ще помогне на човечеството да реализира величие.
„ Не имам вяра, че ще живеем постоянно. Мисля, че да живееш постоянно би било огромна неточност. Искате ли свят, ръководен от 200-годишни бели мъже? “
Попитан дали би направил нещо по друг метод в кариерата си, в случай че е знаел какъв брой бързо ще се развие AI, Хинтън споделя, че съжалява, че се е фокусирал само върху това AI да проработи.
„ Ще ми се да бях мислил и за въпросите на сигурността. “
Източник: profit.bg
КОМЕНТАРИ