Учен: Съжалявам за работата си по изкуствения интелект, рисковете са страшни
Джефри Хинтън, считан за кръстник на изкуствения разсъдък, напусна работа, предупреждавайки за възходящите рискове, свързани с развиването на тази софтуерна област. 75-годишният експерт се отдръпна от Googlе, като съобщи, че в този момент съжалява за работата си в областта на изкуствения разсъдък, заяви „ Ню Йорк Таймс “.
Пред „ Би Би Си “ Хинтън бе безапелационен, че някои от заплахите, свързани с чатботовете с изкуствен интелект, са " много страшни ".
" В момента те не са по-интелигентни от нас, доколкото мога да кажа. Но мисля, че скоро биха могли да станат. " Д-р Хинтън също по този начин призна, че възрастта му е повлияла на решението му да напусне софтуерния колос, като съобщи: " Аз съм на 75 години, тъй че е време да се пенсионирам. "
Пионерските проучвания на доктор Хинтън в региона на невронните мрежи проправиха пътя на актуалните системи за изкуствен интелект като ChatGPT. В изкуствения разсъдък (ИИ) невронните мрежи са системи, наподобяващи човешкия мозък по метода, по който учат и обработват информация. Те дават опция на ИИ да се учи от опита си, както би го направил човек.
Британско-канадският когнитивен психолог и компютърен академик съобщи, че чатботът скоро може да надмине равнището на информация, което има човешкият мозък. " Точно в този момент виждаме, че неща като GPT-4 ни засенчват по количеството общи познания, които имат, и то с доста огромна разлика. По отношение на разсъжденията той не е толкоз добър, само че към този момент може да прави елементарни разсъждения ", добавя ученият. " И като се има поради скоростта на напредъка, чакаме нещата да се подобрят много бързо. Така че би трябвало да се тревожим за това. "
Хинтън приказва за " неприятни субекти ", които ще се опитат да употребяват изкуствения разсъдък за " неприятни неща ". " Това е просто най-лошият сюжет, нещо като призрачен сън “, посочи той. " Можете да си визиите, да вземем за пример, по какъв начин някой индивид с неприятни планове като съветския президент Владимир Путин реши да даде на роботите опция да основават свои лични подцели. "
" Стигнах до заключението, че типът разсъдък, който развиваме, е доста друг от този, който имаме “, прибавя Хинтън. " Ние сме биологични системи, а те са цифрови системи. И огромната разлика е, че при цифровите системи имате доста копия на еднакъв набор от величини, на еднакъв модел на света “, съобщи той. " И всички тези копия могат да се учат поотделно, само че споделят знанията си неотложно. Това е все едно да имате 10 000 души и когато един човек научи нещо, всички автоматизирано да го знаят. И ето по какъв начин тези чатботове могат да знаят доста повече от всеки един човек “, уточни ученият.
Мат Клифърд, ръководител на английската Агенция за модерни проучвания и изобретения, който приказва в персонално качество, съобщи, че думите на Хинтън " акцентират скоростта, с която се усилват опциите на изкуствения разсъдък ". " Тази технология има големи вероятности, само че е от значително значение светът да влага съществено и незабавно в сигурността и контрола на ИИ ", сподели той.
Д-р Хинтън акцентира, че не желае да подлага на критика Гугъл и че софтуерният колос е бил " доста виновен ". " Всъщност желая да кажа някои положителни неща за Гугъл. И те ще са по-достоверни, в случай че не работя за Гугъл ". В свое изказване основният академик на Гугъл Джеф Дийн съобщи, че сега компанията работи по въпроса за „ виновния метод към изкуствения разсъдък “, като добави: „ Непрекъснато се учим, с цел да разберем зараждащите опасности, като в същото време вършим смели нововъведения ".
Инфо: actualno.com
