Джефри Хинтън, известен като кръстникът на изкуствения интелект“, се страхува,

Джефри Хинтън, прочут като „ кръстникът на изкуствения разсъдък “, се опасява, че технологията, която е оказал помощ да се сътвори, може да унищожи човечеството, пише Profit.bg.

Според него „ техно-бротата “ подхващат неверния метод, с цел да го предотвратят.

Хинтън, притежател на Нобелова премия и някогашен началник в Гугъл, предупреждаваше в предишното, че съществува 10–20% възможност изкуственият разсъдък да заличи човешкия жанр. Наскоро той още веднъж изрази подозрения по отношение на метода, по който софтуерните компании се пробват да подсигуряват, че хората ще останат „ преобладаващи “ по отношение на „ подчинените “ AI системи.

„ Това няма да проработи. Те ще бъдат доста по-умни от нас. Ще имат всевъзможни способи да заобиколят отбраните “, разяснява Хинтън на конференцията Ai4 в Лас Вегас, представен от CNN.

В бъдеще е допустимо, предизвести Хинтън, AI системите да управляват хората по този начин елементарно, както възрастен може да подкупи тргодишно дете с бонбон. През тази година към този момент са регистрирани голям брой образци на AI системи, подготвени да лъжат, мамят и крадат, с цел да реализиран задачите си. Например, с цел да избегне заменяне, един AI модел се опитал да изнудва инженер с информация за спекулация, която научил от имейл.

Вместо да се опитваме да принуждаваме AI да се подчинява на хората, Хинтън предлага завладяващо решение: да се изградят „ материални инстинкти “ в AI моделите, тъй че „ те в действителност да се грижат за хората “, даже когато технологията стане по-мощна и по-умна от индивида.

„ AI системите ще развият бързо две цели, в случай че са умни: Едната е да оцелеят… (а) другата е да получат повече надзор “, разяснява Хинтън. „ Има съществени учредения да имаме вяра, че всеки агентен AI ще се опита да оцелее. “