Новите носители на наградата Тюринг отново предупреждават за опасностите от AI
Учените, които получиха премията Тюринг за основаването на фундаментални техники за образование на изкуствен интелект, използваха вниманието към тях, с цел да изразят угриженост по отношение на рисковете от прибързаното стартиране на модели, написа The Verge.
Изследователят от Университета на Масачузетс Андрю Барто и някогашният теоретичен помощник на DeepMind Ричард Сътън предизвестиха, че AI фирмите не тестват продуктите си задоволително преди стартирането им, като съпоставиха този развой със " градеж на мост, който се тества, като хората стартират да го употребяват ", съгласно Financial Times.
Наградата Тюринг, постоянно наричана " Нобеловата премия за компютърни науки ", е съпроводена от парична награда от 1 милион долара и беше връчена през днешния ден взаимно на Барто и Сътън.
Учените са наградени за създаването на " образование посредством укрепване " — способ за машинно образование, който тренира AI системи да вземат усъвършенствани решения посредством проба и неточност.
Старши вицепрезидентът на Гугъл Джеф Дийн разказва тази техника като " основен фактор за напредъка в AI ", който остава " главен дирек на взрива на изкуствения разсъдък ", довел до революционни модели като ChatGPT на OpenAI и AlphaGo на Гугъл.
" Пускането на програмен продукт до милиони хора без защитни ограничения не е добра инженерна процедура, " съобщи Барто пред Financial Times. " Инженерните практики са се развили, с цел да понижат негативните последствия от технологиите, само че не виждам това да се ползва от фирмите, които ги създават. "
Опасностите от бързащите AI компании към този момент бяха остро подложени на критика от Йошуа Бенджио и Джефри Хинтън — двама от " бащите на изкуствения разсъдък ", които също са носители на премията Тюринг.
През 2023 година група водещи откриватели, инженери и изпълнителни шефове в областта на AI, в това число основният изпълнителен шеф на OpenAI Сам Алтман, излязоха с изказване, че " намаляването на риска от изгубване на човечеството в резултат на AI би трябвало да бъде световен приоритет ".
Барто разкритикува AI фирмите, че са " стимулирани от бизнес тласъци ", вместо да се концентрират върху напредъка на проучванията в сферата, написа dir.bg.
OpenAI, която нееднократно е обещавала да усъвършенства сигурността на AI и даже краткотрайно в профил Алтман поради " несъразмерна комерсиализация на напредъка, без да се схващат следствията ", разгласи през декември проекти да се трансформира в комерсиална компания с цел облага.
