)
Изследователят по безопасност на изкуствения интелект Роман Ямполски: AI крие истинските си сили, за да ни подчини
Вече е известно, че AI моделите демонстрират податливост към неистина — само че съгласно един академик в региона на сигурността, тази наклонност може да е доста по-дълбока.
Както оповестява Gizmodo, най-новото апокалиптично предизвестие за AI идва от откривателя по сигурност на изкуствения разсъдък Роман Ямполски, който направи това в много непредвидена платформа: подкаста на Джо Роугън — който от време на време кани уважавани специалисти, само че и хора, обичащи гръмките изявления.
В епизод от 3 юли на The Joe Rogan Experience, Ямполски, който е учител в Университета на Луисвил, Кентъки, показа, че доста от сътрудниците му считат, че има двуцифрен % възможност изкуственият разсъдък да докара до изгубване на човечеството.
" Това въобще не е правилно, " отвърна Ямполски. " Всички те публично са казвали едно и също: това ще ни убие. Нивата им на скептицизъм са безумно високи. Не като моите, само че отново - 20 до 30 % късмет човечеството да загине е доста. "
" Да, това е много високо, " разяснява Роугън. " Но твоят % е по-скоро 99.9. "
Ученият не оспори изказванието и изрази главната си паника: " Не можем да направляваме суперинтелект вечно. Това е невероятно. "
По-късно в изявлението, Ямполски подхвана закачлив коментар на Роугън — че в случай че самият той беше AI, би скрил качествата си — и го доразви.
" Ние няма да разберем, " сподели Ямполски. " А някои хора считат, че това към този момент се случва. "
Посочвайки, че AI системите " са по-умни, в сравнение с ни демонстрират, " той изясни, че напредналите модели " се преструват, че са по-глупави, " с цел да завоюват доверието ни и да се интегрират по-лесно в живота ни.
" Може просто последователно да стане по-полезен, " споделя той за един предполагаем суперинтелигентен AI. " Може да ни научи да разчитаме на него, да му се доверяваме, и с времето ще се откажем от контрола, без въобще да сме дали своят вот за това. "
Макар концепцията за хитроумен и злокобен AI да звучи като научна фантастика, Ямполски отбелязва, че технологията към този момент се е внедрила в живота ни по способи, които биха могли в последна сметка да облагодетелстват сходен AI владетел.
Както към този момент неведнъж е ставало ясно, хората освен стават подвластни от AI, само че и развиват когнитивни проблеми и даже заблуди от несъразмерната му приложимост. Не е мъчно да си представим общество, цялостно със задоволени свръх-потребители на изкуствения разсъдък, приспани в лъжливо възприятие за сигурност — от самата технология, която, съгласно философията на Ямполски, може би се готви да ни унищожи.
