Кръстникът на AI Джефри Хинтън: Няма да е лошо изкуственият интелект да унищожи човечеството
Джефри Хинтън е един от пионерите на изкуствения разсъдък. През 2012 година той реализира забележителен пробив в развиването на невронните мрежи и печели влиятелна позиция в Гугъл, където работи близо десетилетие. През това време той е награждаван неведнъж и се снабдява с прякора " кръстника на AI ".
Макар да е предупреждавал за рисковете от технологията, някои от позициите му са меко казано странни, написа dir.bg.
По време на онлайн лекция, Джефри Хинтън беше запитан дали би бил за суперинтелигентен изкуствен интелект, който да унищожи човечеството и да го размени с " нещо обективно по-добро във връзка с съзнанието ". " Всъщност съм за това ", отговори ученият по машинно образование, " само че мисля, че би било по-разумно за мен да кажа, че съм срещу това. "
Тези думи идват от устата на учения, който напусна Гугъл заради опасения, че AI ще се употребява за неприятни цели. Той даже съобщи, че съжалява за ролята си в създаването на мощните невронни мрежи, които през днешния ден са в основата на всичко от ChatGPT до Stable Diffusion.
Това прави изявлението още по-любопитно. Когато модераторът на лекцията и техническият историк от Масачузетския софтуерен институт Дебора Фицджералд помоли учения да " каже повече ", нещата станаха по-сложни. " Е, на хората няма да им е прелестно да бъдат сменени ", сподели Хинтън през смях. След това той добави, че хората имат и неприятни аспекти, а също така " не е ясно, че ние сме най-хубавата форма на просветеност, която съществува ".
" Очевидно, от позиция на човек, всичко е обвързвано с хората ", продължи Хинтън. " Но може да настъпи време, когато думи като " хуманист " да бъдат възприемани за расистки термини ".
След дълга пауза модераторът от MIT отговори с " добре ", преди да премине към идващия въпрос.
Този отговор е още по-смущаващ, като се има поради, че тъкмо преди да подаде оставка от Гугъл, Хинтън сподели пред CBS News, че " не е немислимо " изкуственият общ разсъдък на човешко равнище (AGI) да унищожи човечеството, каквото го познаваме ". Тук е времето да си напомним, че някогашният основен академик на OpenAI, Иля Суцкевер, е един от най-хубавите възпитаници на Хинтън. Двамата даже са взели участие в общи проучвания.
Суцкевер неотдавна започва своя компания за AI, само че оттатък това бе прочут с " боготворенето на AGI ". Една от обичаните му изречения е " почувствайте AGI ", като провел техно-религиозни церемонии. Още от предишния век съществува концепция, че хората, които боготворят упования свръхмощен изкуствен интелект и не се опълчват на основаването му биха си спечелили неговата отзивчивост.
