Пионерът на Изкуствения интелект Джефри Хинтън напуска Google, за да предупреди за „опасностите“ на технологията
Пионерът на изкуствения разсъдък доктор Джефри Хинтън е подал оставка от Гугъл, с цел да може „ да приказва свободно “ за евентуалните опасности, подбудени от технологията.
Хинтън, който оказа помощ за основаването на някои от фундаменталните технологии зад днешните генеративни AI системи, се притеснява, че стремежът на софтуерната промишленост да създава AI артикули може да докара до рискови последствия – от дезинформация до загуба на работа или даже опасност за човечеството.
„ Вижте по какъв начин беше преди пет години и по какъв начин е в този момент. Осъзнайте разликата. Това е ужасно. “
сподели Хинтън.
Резюмето на Хинтън в региона на изкуствения разсъдък датира от 1972 година и неговите достижения са повлияли на актуалните практики в генеративния AI.
През 1987 година Хинтън, Дейвид Румелхарт и Роналд Дж. Уилямс разпространяваха противоположното разпространяване, основна техника за образование на невронни мрежи, която се употребява в днешните генеративни AI модели.
През 2012 година Хинтън, Алекс Крижевски и Иля Суцкевер сътвориха AlexNet, който се приветства като пробив в машинното и надълбоко образование, и може би даде подтик на актуалната ни епоха на генеративен AI.
През 2018 година Хинтън завоюва премията Тюринг (Turing Award), която някои назовават „ Нобелова премия за компютърна техника “, дружно с Йошуа Бенгио и Ян ЛеКун.
Хинтън се причисли към Гугъл през 2013 година, откакто Гугъл закупи компанията на Хинтън, DNNresearch.
Неговото овакантяване десетилетие по-късно бележи незабравим миг за софтуерната промишленост, защото тя по едно и също време популяризира и предизвестява за евентуалното влияние на все по-сложните системи за автоматизация. Например, стартирането на GPT-4 на OpenAI през март накара група софтуерни откриватели да подпишат отворено писмо, призоваващо за шестмесечен мораториум върху създаването на нови AI системи, „ по-мощни “ от GPT-4. Някои известни критици обаче считат, че сходни страхове са пресилени или неуместни.
Хинтън не е подписал това отворено писмо, само че той има вяра, че интензивната конкуренция сред софтуерни колоси като Гугъл и Microsoft може да докара до световна конкуренция за AI, която може да бъде спряна единствено посредством интернационално контролиране. Той натъртва на съдействието сред водещи учени, с цел да се предотврати AI да стане неконтролируем.
„ Не мисля, че [изследователите] би трябвало да усилват мащаба на това, до момента в който не схванат дали могат да го управляват “,
сподели той.
Хинтън също се тормози от разпространяването на погрешна информация в фотоси, видеоклипове и текст, което затруднява хората да схванат кое е истината. Той също по този начин се притеснява, че изкуственият разсъдък може да промени пазара на труда, като в началото добавя човешките служащи, само че в последна сметка ги замества в функции като персонални асистенти и преводачи.
Дългосрочното безпокойствие на Хинтън е, че бъдещите AI системи могат да застрашат човечеството, защото се научават на ненадейно държание от големи количества данни.
„ Идеята, че тези неща в действителност могат да станат по-умни от хората – няколко души повярваха в това. Но множеството хора смятаха, че е надалеч. И аз мислех, че е надалеч. Мислех, че е след 30 до 50 години или даже повече. Очевидно към този момент не мисля по този начин. “
сподели той.
Предупрежденията на Хинтън са забавни, тъй като в един миг той беше един от най-големите поддръжници на тази област.
През 2015 година той беше изразил възторг за бъдещето на ИИ и сподели:
„ Не мисля, че в миналото ще се пенсионирам “.
Но през днешния ден терзанието му го е предиздвикало отчасти да съжалява за работата на живота си.
„ Утешавам се с естественото опрощение: в случай че не го бях направил аз, някой различен щеше да го направи “
сподели той.
