Кръстника на AI“: Представете си какво следва... Страшно е!
„ Успокоявам се с естественото опрощение - в случай че не бях аз, щеше да е някой различен ". „ Трудно е видиш метод по какъв начин да спреш някой с неприятни планове да употребява това за неприятни неща “. „ Вижте къде бяхме преди 5 години и къде сме в този момент, представете си какво следва - ужасно е “. „ Не мисля, че би трябвало да напредваме с тези неща преди да сме разбрали дали сме в положение да ги направляваме “.
Звучи като извадено от записките на някой от физиците, основали атомната бомба. Не е, само че са думи на човек с сходен по мащаб теоретичен принос в друга сфера - тази на изкуствения разсъдък.
Джефри Хинтън - един от най-изтъкнатите AI откриватели, удостовери при започване на седмицата, че е напуснал работата си в Гугъл, с цел да може свободно да приказва за заплахите, които крие технологията, в чиято разработка е взел участие.
Не можем да приказваме научно за изкуствен интелект без да споменем Хинтън. През далечната през днешния ден 1972 година той стартира работа по концепцията за невронните мрежи като самообучаваща се посредством разбор на данни математическа система. Тя е в основата на AI, напомня money.bg.
През 80-те Хинтън напуща влиятелния университет „ Карнеги Мелън “ и се мести в Канада, тъй като по това време главното
финансиране за изкуствения разсъдък идва от Пентагона, а той не желае да основава „ роботи бойци “.
През 2012 година ученият и негови студенти основават невронна мрежа, която класифицира фотосите съгласно наличието им. Гугъл купува компанията им за 44 млн. $, а единият от възпитаниците на Хинтън по-късно отива да работи в OpenAI, компанията, която преди няколко месеца провокира гражданска война с ChatGPT.
Казано с едно изречение, Джефри Хинтън е човек с престиж и щом той се тормози, евентуално всички имаме мотив за паника. Все отново не всеки носи прозвището „ Кръстника на AI “.
Пред NYT ученият признава, че години наред е считал, че изкуственият разсъдък няма по какъв начин в обозримо бъдеще да доближи опциите на човешкия разум, само че през 2022 година мнението му се трансформирало - към този момент имало аспекти, в които ботовете се оправят по-добре от индивида.
По думите му до оня миг в Гугъл имало отговорно отношение към изкуствения разсъдък и никой не си помислял да даде в ръцете на потребителите евентуално рисков инструмент. Именно в края на предходната година обаче
OpenAI пусна ChatGPT гратис и свободно да поддържа връзка с целия свят на всевъзможни тематики. Това трансформирало всичко.
Гугъл бърза да пусне своя личен чат бот Bard, тъй като съперниците от Microsoft дадоха милиарди, с цел да интегрират AI в търсачката си Bing, а все по-силен е и разказът, че точно посредством изкуствения разсъдък ще преживеем идната онлайн гражданска война след уеб браузъра и обществените мрежи.
Първото терзание на Хинтън е, че интернет ще се изпълни с машинно генерирани фотоси, видеа и текстове и „ елементарният човек към този момент няма да знае какво е истина “, а също така доста хора може да останат без работа.
По-голяма паника у него буди бъдещето - това, в което не просто си оказваме помощ с AI за програмен код, а напряко го оставяме самичък да управлява системите. Тогава към този момент ще имаме против себе си точно „ роботи бойци “.
„ Вземете концепцията, че той може да стане по-умен от хората - малко на брой имаха вяра в това. Повечето смятаха, че това е надалеч напред във времето. Аз смятах, че е надалеч напред във времето - мислех си, че е на 30 или 50 години от нас или дори повече. Очевидно към този момент не мисля по този начин “, разяснява ученият.
Джефри Хинтън познава задоволително добре Гугъл от вътрешната страна, с цел да знае, че компания с сходен мащаб (особено пък и изправена пред екзистенциален риск) няма да се спре сама, в случай че не се появят световни регулации - а това, както самичък признава, може и да е невероятно: тук няма нуклеарни опити, всеки може да работи скрито.
Затова и вярата му е, че най-хубавите AI учени в света ще се обединят и в последна сметка ще принудят всички заинтригувани страни да намерят метод за ефикасен надзор.
Звучи като извадено от записките на някой от физиците, основали атомната бомба. Не е, само че са думи на човек с сходен по мащаб теоретичен принос в друга сфера - тази на изкуствения разсъдък.
Джефри Хинтън - един от най-изтъкнатите AI откриватели, удостовери при започване на седмицата, че е напуснал работата си в Гугъл, с цел да може свободно да приказва за заплахите, които крие технологията, в чиято разработка е взел участие.
Не можем да приказваме научно за изкуствен интелект без да споменем Хинтън. През далечната през днешния ден 1972 година той стартира работа по концепцията за невронните мрежи като самообучаваща се посредством разбор на данни математическа система. Тя е в основата на AI, напомня money.bg.
През 80-те Хинтън напуща влиятелния университет „ Карнеги Мелън “ и се мести в Канада, тъй като по това време главното
финансиране за изкуствения разсъдък идва от Пентагона, а той не желае да основава „ роботи бойци “.
През 2012 година ученият и негови студенти основават невронна мрежа, която класифицира фотосите съгласно наличието им. Гугъл купува компанията им за 44 млн. $, а единият от възпитаниците на Хинтън по-късно отива да работи в OpenAI, компанията, която преди няколко месеца провокира гражданска война с ChatGPT.
Казано с едно изречение, Джефри Хинтън е човек с престиж и щом той се тормози, евентуално всички имаме мотив за паника. Все отново не всеки носи прозвището „ Кръстника на AI “.
Пред NYT ученият признава, че години наред е считал, че изкуственият разсъдък няма по какъв начин в обозримо бъдеще да доближи опциите на човешкия разум, само че през 2022 година мнението му се трансформирало - към този момент имало аспекти, в които ботовете се оправят по-добре от индивида.
По думите му до оня миг в Гугъл имало отговорно отношение към изкуствения разсъдък и никой не си помислял да даде в ръцете на потребителите евентуално рисков инструмент. Именно в края на предходната година обаче
OpenAI пусна ChatGPT гратис и свободно да поддържа връзка с целия свят на всевъзможни тематики. Това трансформирало всичко.
Гугъл бърза да пусне своя личен чат бот Bard, тъй като съперниците от Microsoft дадоха милиарди, с цел да интегрират AI в търсачката си Bing, а все по-силен е и разказът, че точно посредством изкуствения разсъдък ще преживеем идната онлайн гражданска война след уеб браузъра и обществените мрежи.
Първото терзание на Хинтън е, че интернет ще се изпълни с машинно генерирани фотоси, видеа и текстове и „ елементарният човек към този момент няма да знае какво е истина “, а също така доста хора може да останат без работа.
По-голяма паника у него буди бъдещето - това, в което не просто си оказваме помощ с AI за програмен код, а напряко го оставяме самичък да управлява системите. Тогава към този момент ще имаме против себе си точно „ роботи бойци “.
„ Вземете концепцията, че той може да стане по-умен от хората - малко на брой имаха вяра в това. Повечето смятаха, че това е надалеч напред във времето. Аз смятах, че е надалеч напред във времето - мислех си, че е на 30 или 50 години от нас или дори повече. Очевидно към този момент не мисля по този начин “, разяснява ученият.
Джефри Хинтън познава задоволително добре Гугъл от вътрешната страна, с цел да знае, че компания с сходен мащаб (особено пък и изправена пред екзистенциален риск) няма да се спре сама, в случай че не се появят световни регулации - а това, както самичък признава, може и да е невероятно: тук няма нуклеарни опити, всеки може да работи скрито.
Затова и вярата му е, че най-хубавите AI учени в света ще се обединят и в последна сметка ще принудят всички заинтригувани страни да намерят метод за ефикасен надзор.
Източник: lupa.bg
КОМЕНТАРИ