Кръстникът на ИИ призна, че се страхува от творението си, защото може да замени човечеството
Дългогодишният чиновник на Гугъл Джефри Хинтън, необятно считан за „ кръстник на изкуствения разсъдък “, въпреки да не е единствено той, споделя, че е обезпокоен. От обстоятелството, че технологията, която е изграждал цялостен живот, може да превземе света.
В поява в CBS, известният когнитивен академик и откривател на изкуствения разсъдък зададе звук като съобщи, че „ за първи път до момента “ човечеството би трябвало да се бори с такава действителност. Че нещо друго на нашата планета е „ по-интелигентно от нас “. Може би най-интересната част от обмена пристигна, когато водещият на CBS Скот Пели попита Хинтън дали свръхинтелигентният изкуствен интелект може да „ поеме ръководството вместо човечеството “.
Не споделям, че ще се случи. Ако можем да ги спрем да го желаят, това би било ужасно. Не е ясно обаче, че можем изобщо да ги спрем да го създадат.
Каза Хинтън пред водещия на CBS Скот Пели.
Що се отнася до спецификата на това по какъв начин изкуственият разсъдък може в последна сметка да изпревари своите човешки господари, той има своя версия. Ученият спекулира, че самостоятелните сътрудници може да стартират да се „ трансформират “.
„ Това е нещо, за което би трябвало съществено да се тревожим “, добави той.
Един от причините е, че има липса на цялостно схващане по какъв начин тъкмо логаритмите за машинно образование действат. И то до най-малкия подробност. Имаме „ доста добра “ груба визия за това по какъв начин AI системите се учат, само че щом стане в действителност комплицирано, в действителност не знаем какво се случва повече, в сравнение с знаем какво се случва в нашия мозък да вземем за пример.
Това е заслужено безпокойство; без значение от това дали изходът на машината е механически верен.
Да речем, тя създава толкоз, колкото е допустимо. Пътната карта, която машината подхваща, с цел да стигне до тази последна точка, към момента има значение. Ако хората възнаграждават верните резултати, реализирани посредством проблематични средства задоволително с течение на времето, може инцидентно да обучим AI принадлежности по способи, които могат да имат непредвиден противоположен резултат.
Но страховете на Хинтън не се лимитират до въпросите за международното владичество.
Според CBS той също се тревожи за въздействието на метода, по който хората могат да употребяват AI. От потреблението на самостоятелни AI оръжия и бойни роботи, до всеобщата подмяна на човешки служащи с AI, до дестабилизиращото разпространяване на дезинформация, генерирана от AI, наред с други паники. Това е мрачна вероятност, несъмнено, само че до момента в който това огромно незнайно се разпростира, евентуалните закани не престават да си заслужават вниманието.
„ Има голяма неустановеност за това какво ще последва “, приключи Хинтън.
Името му може да ви е познато. По-рано тази година той напусна Гугъл, точно поради терзания и гузна съвест за работата, която е правил.
