„Кръстникът“ на изкуствения интелект предупреждава за опасности
75-годишният доктор Джефри Хинтън разгласи оставката си от Гугъл в изказване за New York Times, като сподели, че в този момент съжалява за работата си. Той изясни пред BBC, че някои от заплахите от чатботовете с изкуствен интелект (AI) са „ много страшни “.
В момента те не са по-интелигентни от нас, доколкото мога да преценява. Но мисля, че скоро може да са. “
Д-р Хинтън също призна, че възрастта му е повлияла на решението му да напусне софтуерния колос, като сподели пред BBC: „ Аз съм на 75, тъй че е време да се пенсионирам “.
Неговите пионерски проучвания върху невронните мрежи и дълбокото образование проправиха пътя за актуалните AI системи, като ChatGPT.
В региона на изкуствения разсъдък невронните мрежи са системи, които са сходни на човешкия мозък по метода, по който учат и обработват информация. Те разрешават на AI да се учат от опита, както би направил човек. Това се назовава надълбоко образование.
Британско-канадският когнитивен психолог и компютърен академик сподели пред BBC, че чатботовете скоро могат да надминат равнището на информация, което човешкият мозък има.
В момента това, което виждаме, е, че неща като GPT-4 засенчват човек във връзка с общите знания, които има, и го засенчват доста. От позиция на разсъждаването обаче не е толкоз добър, само че към този момент прави елементарни разсъждения “, сподели той.
„ И като се има поради темпът на прогрес, чакаме нещата да се подобрят много бързо. Така че би трябвало да се тревожим за това. “
Подготвен ли е светът за идната AI стихия?
В публикацията на New York Times доктор Хинтън приказва за „ неприятни артисти “, които биха се пробвали да употребяват AI за „ неприятни неща “.
Когато е помолен от BBC да обясни това свое изказване, той дава отговор: „ Това е просто един тип най-лош сюжет, един тип призрачен сюжет. “
Можете да си визиите, да вземем за пример, някой неприятен артист, като съветския президент Владимир Путин, реши да даде на роботите способността да основават свои лични подцели. “
Ученият предизвестява, че това в последна сметка може „ да сътвори подцели като да вземем за пример: „ Трябва да получа повече мощ “.
Стигнах до извода, че типът разсъдък, който развиваме, е доста друг от интелекта, който имаме “, добави той.
„ Ние сме биологични системи, а това са цифрови системи. И огромната разлика е, че с цифровите системи имате доста копия на един и същи набор от тежести, еднакъв модел на света. “
И всички тези копия могат да учат поотделно, само че да споделят знанията си неотложно. Така че все едно имате 10 000 души и всякога, когато един човек научи нещо, всички автоматизирано го знаят. И това е методът, по който тези чатботове могат да знаят доста повече от всеки един човек. “
Мат Клифърд, ръководител на Агенцията за напреднали проучвания и изобретения на Обединеното кралство, говорейки в персонално качество, сподели пред BBC, че предизвестието на доктор Хинтън „ акцентира скоростта, с която опциите на AI се форсират “.
„ Има голяма изгода от тази технология, само че е от значително значение светът да влага съществено и незабавно в сигурността и контрола на изкуствения разсъдък “, сподели той.
Д-р Хинтън се причислява към възходящ брой специалисти, които показват угриженост по отношение на AI – както скоростта, с която се развива, по този начин и посоката, в която върви.
„ Трябва да създадем крачка обратно “
През март отворено писмо, подписано от десетки хора в региона на изкуствения разсъдък, в това число софтуерния милиардер Илон Мъск, прикани за прекъсване на всички разработки, които са по-напреднали от настоящата версия на чатбота ChatGPT, тъй че да могат да бъдат проектирани постоянни ограничения за сигурност и да бъдат изпълнени.
Йошуа Бенгио, различен по този начин наименуван кръстник на AI, който дружно с доктор Хинтън и Ян Лекун завоюваха премията „ Тюринг “ през 2018 година за работата си по задълбочено образование, също подписа писмото.
Бенгио написа, че точно заради „ непредвиденото ускоряване “ в системите с изкуствен интелект „ би трябвало да създадем крачка обратно “.
Но доктор Хинтън сподели пред BBC, че „ в по-краткосрочен проект “ счита, че AI ще донесе доста повече изгоди, в сравнение с опасности. „ Така че не мисля, че би трябвало да стопираме да създаваме тези неща “, добави той.
Той също по този начин сподели, че интернационалната конкуренция би означавала, че паузата ще бъде сложна. „ Дори в случай че всички в Съединени американски щати спрат да го създават, Китай просто ще получи огромна преднина “, сподели той.
Д-р Хинтън също сподели, че е специалист по науката, а не по политиката, и че е отговорност на държавното управление да подсигурява, че AI е създаден „ с доста мисъл за това по какъв начин да го спре да стане лъжец “.
„ Отговорен метод “
Д-р Хинтън акцентира, че не желае да подлага на критика Гугъл и че софтуерният колос е бил „ доста виновен “.
Всъщност желая да кажа някои положителни неща за Гугъл. И те са по-достоверни, в случай че не работя за Гугъл. “
В изказване основният академик на Гугъл Джеф Дийн сподели: „ Ние оставаме ангажирани с виновен метод към AI. Непрекъснато се учим да разбираме зараждащите опасности, като в същото време вкарваме самоуверено нововъведения. “
Важно е да запомните, че AI чатботовете са единствено един аспект на изкуствения разсъдък, даже и да са най-популярните сега.
AI стои зад логаритмите, които диктуват какво платформите за поточно видео вземат решение, че би трябвало да гледате по-късно. Може да се употребява при набиране на личен състав за пречистване на кандидатури за работа, от застрахователи за пресмятане на награди, може да диагностицира медицински положения (въпреки че лекарите към момента имат последната дума).
Това, което виждаме в този момент обаче, е възходът на AGI – неестествен общ разсъдък, който може да бъде подготвен да прави редица неща в границите на компетенциите си. Така да вземем за пример ChatGPT може да предложи единствено текстови отговори на поръчка, само че опциите в него, както виждаме, са безкрайни.
Но темпът на ускорение на AI изненада даже основателите му. Той се разви трагично, откогато доктор Хинтън построи пионерската невронна мрежа за разбор на изображения през 2012 година
Дори шефът на Гугъл Сундар Пичай сподели в скорошно изявление, че даже той не схваща изцяло всичко, което прави неговият чатбот Bard.
Не се заблуждавайте, сега сме в бърз трен и се тревожим, че един ден той ще стартира да строи свои лични релси.
В момента те не са по-интелигентни от нас, доколкото мога да преценява. Но мисля, че скоро може да са. “
Д-р Хинтън също призна, че възрастта му е повлияла на решението му да напусне софтуерния колос, като сподели пред BBC: „ Аз съм на 75, тъй че е време да се пенсионирам “.
Неговите пионерски проучвания върху невронните мрежи и дълбокото образование проправиха пътя за актуалните AI системи, като ChatGPT.
В региона на изкуствения разсъдък невронните мрежи са системи, които са сходни на човешкия мозък по метода, по който учат и обработват информация. Те разрешават на AI да се учат от опита, както би направил човек. Това се назовава надълбоко образование.
Британско-канадският когнитивен психолог и компютърен академик сподели пред BBC, че чатботовете скоро могат да надминат равнището на информация, което човешкият мозък има.
В момента това, което виждаме, е, че неща като GPT-4 засенчват човек във връзка с общите знания, които има, и го засенчват доста. От позиция на разсъждаването обаче не е толкоз добър, само че към този момент прави елементарни разсъждения “, сподели той.
„ И като се има поради темпът на прогрес, чакаме нещата да се подобрят много бързо. Така че би трябвало да се тревожим за това. “
Подготвен ли е светът за идната AI стихия?
В публикацията на New York Times доктор Хинтън приказва за „ неприятни артисти “, които биха се пробвали да употребяват AI за „ неприятни неща “.
Когато е помолен от BBC да обясни това свое изказване, той дава отговор: „ Това е просто един тип най-лош сюжет, един тип призрачен сюжет. “
Можете да си визиите, да вземем за пример, някой неприятен артист, като съветския президент Владимир Путин, реши да даде на роботите способността да основават свои лични подцели. “
Ученият предизвестява, че това в последна сметка може „ да сътвори подцели като да вземем за пример: „ Трябва да получа повече мощ “.
Стигнах до извода, че типът разсъдък, който развиваме, е доста друг от интелекта, който имаме “, добави той.
„ Ние сме биологични системи, а това са цифрови системи. И огромната разлика е, че с цифровите системи имате доста копия на един и същи набор от тежести, еднакъв модел на света. “
И всички тези копия могат да учат поотделно, само че да споделят знанията си неотложно. Така че все едно имате 10 000 души и всякога, когато един човек научи нещо, всички автоматизирано го знаят. И това е методът, по който тези чатботове могат да знаят доста повече от всеки един човек. “
Мат Клифърд, ръководител на Агенцията за напреднали проучвания и изобретения на Обединеното кралство, говорейки в персонално качество, сподели пред BBC, че предизвестието на доктор Хинтън „ акцентира скоростта, с която опциите на AI се форсират “.
„ Има голяма изгода от тази технология, само че е от значително значение светът да влага съществено и незабавно в сигурността и контрола на изкуствения разсъдък “, сподели той.
Д-р Хинтън се причислява към възходящ брой специалисти, които показват угриженост по отношение на AI – както скоростта, с която се развива, по този начин и посоката, в която върви.
„ Трябва да създадем крачка обратно “
През март отворено писмо, подписано от десетки хора в региона на изкуствения разсъдък, в това число софтуерния милиардер Илон Мъск, прикани за прекъсване на всички разработки, които са по-напреднали от настоящата версия на чатбота ChatGPT, тъй че да могат да бъдат проектирани постоянни ограничения за сигурност и да бъдат изпълнени.
Йошуа Бенгио, различен по този начин наименуван кръстник на AI, който дружно с доктор Хинтън и Ян Лекун завоюваха премията „ Тюринг “ през 2018 година за работата си по задълбочено образование, също подписа писмото.
Бенгио написа, че точно заради „ непредвиденото ускоряване “ в системите с изкуствен интелект „ би трябвало да създадем крачка обратно “.
Но доктор Хинтън сподели пред BBC, че „ в по-краткосрочен проект “ счита, че AI ще донесе доста повече изгоди, в сравнение с опасности. „ Така че не мисля, че би трябвало да стопираме да създаваме тези неща “, добави той.
Той също по този начин сподели, че интернационалната конкуренция би означавала, че паузата ще бъде сложна. „ Дори в случай че всички в Съединени американски щати спрат да го създават, Китай просто ще получи огромна преднина “, сподели той.
Д-р Хинтън също сподели, че е специалист по науката, а не по политиката, и че е отговорност на държавното управление да подсигурява, че AI е създаден „ с доста мисъл за това по какъв начин да го спре да стане лъжец “.
„ Отговорен метод “
Д-р Хинтън акцентира, че не желае да подлага на критика Гугъл и че софтуерният колос е бил „ доста виновен “.
Всъщност желая да кажа някои положителни неща за Гугъл. И те са по-достоверни, в случай че не работя за Гугъл. “
В изказване основният академик на Гугъл Джеф Дийн сподели: „ Ние оставаме ангажирани с виновен метод към AI. Непрекъснато се учим да разбираме зараждащите опасности, като в същото време вкарваме самоуверено нововъведения. “
Важно е да запомните, че AI чатботовете са единствено един аспект на изкуствения разсъдък, даже и да са най-популярните сега.
AI стои зад логаритмите, които диктуват какво платформите за поточно видео вземат решение, че би трябвало да гледате по-късно. Може да се употребява при набиране на личен състав за пречистване на кандидатури за работа, от застрахователи за пресмятане на награди, може да диагностицира медицински положения (въпреки че лекарите към момента имат последната дума).
Това, което виждаме в този момент обаче, е възходът на AGI – неестествен общ разсъдък, който може да бъде подготвен да прави редица неща в границите на компетенциите си. Така да вземем за пример ChatGPT може да предложи единствено текстови отговори на поръчка, само че опциите в него, както виждаме, са безкрайни.
Но темпът на ускорение на AI изненада даже основателите му. Той се разви трагично, откогато доктор Хинтън построи пионерската невронна мрежа за разбор на изображения през 2012 година
Дори шефът на Гугъл Сундар Пичай сподели в скорошно изявление, че даже той не схваща изцяло всичко, което прави неговият чатбот Bard.
Не се заблуждавайте, сега сме в бърз трен и се тревожим, че един ден той ще стартира да строи свои лични релси.
Източник: economic.bg
КОМЕНТАРИ