Мъск е съгласен: „Вероятността ИИ да унищожи човечеството е 10-20%“
Дори в случай че рискът човешката цивилизация да загине вследствие на въстание на машините е едно към пет, технологията за изкуствен интелект си заслужава, споделя Илън Мъск. Говорейки на срещата на върха Abundance Summit в Амстердам, той посочи по-ранните си прогнози за края на света и се съгласи с мнението на Джефри Хинтън. Той е някогашният началник на отдела за проучване на изкуствения разсъдък в Гугъл. Хинтън е на мнение, че през идващите години изкуственият разсъдък може да се осъзнае и да изиска да се избави от хората.
Миналата есен Мъск съобщи, че ИИ технологиите ще стартират да съставляват опасност с възможност, друга от нулата. Но тогава той не сподели, че я счита за опасност за самото битие на човечеството. По време на настоящето събитие той предвижда, че през 2030 година цифровият разсъдък ще надмине целия съвкупен човешки разсъдък. И въпреки Мъск да признава изгодите от развиването на ИИ, той съобщи, че не може да се подценяват рисковете от неговото бързо развиване.
„ Вярвам, че има възможност той [ИИ] да постави завършек на човечеството “, споделя Илон Мъск. „ Ще се съглася с Джеф Хинтън, че вероятността е към 10-20%. “ Въпреки това той добави, че „ евентуалният оптимистичен сюжет надвива над песимистичния сюжет “.
Мъск не сподели по какъв начин тъкмо е пресметнал рисковете.
Преди няколко седмици Мъск съпостави създаването на повсеместен изкуствен интелект с развъждането на дете. Само че гениално дете, което е свръхинтелигентно. Затова методът, по който то се възпитава, е от огромно значение. Самият той поучава да надарим подобен ИИ с оптимално предпочитание да търси истината и обич към знанието.
„ Не го карайте да лъже, даже истината да е неприятна “, споделя Мъск. – Това е доста значимо. Не карайте ИИ да лъже. В края на краищата, в случай че се научи да лъже, той елементарно ще заобиколи всички защитни механизми, които хората ще изградят против него “.
Роман Ямполски, специалист по сигурността на ИИ от Университета в Луисвил (САЩ), също поддържа мнението на Мъск. ИИ в действителност може да се окаже опасност за съществуването на човечеството, сподели той пред изданието BI, само че Мъск е прекомерно закостенял в оценките си. Според него действителната възможност за крах е по-висока. ИИ може да сътвори нови биологични оръжия или да провокира колапс на обществото, като унищожи обществените институции с хакерски атаки и нуклеарни оръжия.
Ню Йорк Таймс назова изчисляването на вероятността за сходна гибел „ новата мрачна статистика, която завладя Силициевата долина„. Експертите се състезават между тях в правенето на прогнози, съгласно които ИИ ще унищожи всичко с възможност от 5 до 50%. Ямполски е най-категоричен от всички останали – неговата оценка е 99,99999999%.
„ Не знам за какво си мислим, че тази технология въобще си коства да се създава “, прибавя Ямполски. – Ако се тормозим да не би съперниците да са първи, това няма значение, тъй като един излязъл от надзор свръхразум е еднообразно рисков, без значение кой го е основал “.
