Дори кръстникът на AI вече се притеснява от технологията
Лидерите в промишлеността имат вяра, че новите AI системи могат да бъдат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век. Все повече специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI. Генеративният AI - технологията зад ChatGPT, към този момент може да бъде инструмент за дезинформация.
Изкуственият разсъдък (AI) се трансформира в една от най-горещите тематики в софтуерния свят. Чатботовете като ChatGPT станаха извънредно известни, като Microsoft даже добави услугата към интернет търсачката си Bing. Макар и да наподобява, че технологията ще бъде основна част от животите ни, от ден на ден специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI.
Лидерите в промишлеността имат вяра, че новите AI системи могат да бъдат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век. Все повече специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI. Генеративният AI - технологията зад ChatGPT, към този момент може да бъде инструмент за дезинформация.
Изкуственият разсъдък (AI) се трансформира в една от най-горещите тематики в софтуерния свят. Чатботовете като ChatGPT станаха извънредно известни, като Microsoft даже добави услугата към интернет търсачката си Bing. Макар и да наподобява, че технологията ще бъде основна част от животите ни, от ден на ден специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI.
Поредният, който попада в тази група, е лекар Джефри Хинтън, прочут още като кръстника на AI. Според него технологията елементарно може да бъде употребена от хора, компании или страни с неприятни планове, като това би довело до обстановка, в която естественият интернет консуматор не би могъл да разграничава същинското от подправеното. Рисковете за работни места, както и основаването на " военни роботи " също е причина за неспокойствие съгласно Хинтън.
Реклама
Д-р Хинтън декларира пред The New York Times, че е напуснал работата си в Гугъл, където е работил повече от десетилетие и се трансформира в един от най-уважаваните гласове в региона. Причината за отдръпването е желанието му да може свободно да приказва за рисковете от AI, като прибавя, че част от него в този момент съжалява за работата, на която е посветил живота си. " Утешавам се с естественото опрощение: в случай че не го бях направил аз, някой различен щеше да го направи ", споделя Хинтън.
Промяната на мнението на доктор Хинтън от AI модернист до прорицател бележи незабравим миг за софтуерната промишленост в може би най-важния й повратен миг от десетилетия насам. Лидерите в промишлеността имат вяра, че новите AI системи могат да бъдат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век, и може да докара до пробиви в области, вариращи от проучвания на медикаменти до обучение. Но огромен брой хора от промишлеността ги е боязън, че пускат нещо рисково в дивата природа. Генеративният AI - технологията зад ChatGPT, към този момент може да бъде инструмент за дезинформация. Скоро това може да съставлява риск за работните места. А най-големите терзания са, че може да съставлява риск за човечеството. Началото на AI През 1972 година, като приключил университета в Единбург, доктор Хинтън отделя съществено време на една концепция, наречена невронна мрежа. Невронната мрежа е математическа система, която научава умения посредством анализиране на данни. По това време малко откриватели имат вяра в мрежата, само че това се трансформира в делото на живота му.
През 80-те години на предишния век доктор Хинтън става професор по компютърни науки в университета " Карнеги Мелън ", само че напуща университета и отива в Канада, тъй като по негови думи " не е податлив да одобри финансиране от Пентагона ". По това време множеството AI проучвания в Съединените щати са финансирани от Министерството на защитата, като доктор Хинтън е надълбоко срещу потреблението на изкуствен интелект на бойното поле - това, което той назовава " роботи бойци ".
През 2012 година доктор Хинтън и двама от неговите студенти в Торонто, Иля Суцкевер и Алекс Кришевски, построяват невронна мрежа, която може да проучва хиляди фотоси и да се научи да разпознава нормални обекти като цветя, кучета и коли. Гугъл похарчи 44 млн. $, с цел да придобие компанията, а през днешния ден тя е в основата на развитата към този момент AI технология. Суцкевер е основен академик на OpenAI - компанията зад ChatGPT.
Реклама
Допреди 10 години Хинтън счита, че това е мощен метод машините да схващат и генерират език, само че към момента е по-лош от метода, по който хората боравят с езика. Миналата година, когато Гугъл и OpenAI построиха системи, употребяващи доста по-големи количества данни, мнението му се промени. Той към момента има вяра, че системите са по-неразвити от човешкия мозък в някои връзки, само че счита, че те засенчват човешкия разсъдък в други. " Може би това, което се случва в тези системи, в действителност е доста по-добро от това, което се случва в мозъка ", съобщи Хинтън.
Докато фирмите усъвършенстват своите AI системи, счита той, те стават все по-опасни. " Вижте по какъв начин беше преди пет години и по какъв начин е в този момент ", сподели той за AI технологията. " Вземете разликата и я експонирайте напред. Това е ужасно ", прибавя той.
Мнението на Хинтън е споделяно и от други специалисти в сферата., измежду които и милиардерът Илън Мъск, подписаха общо писмо, което приканва за пауза в развиването на по-мощни от Chat GPT-4 системи, които работят с AI. Според тях сходни стратегии може да съставляват риск за обществото и е необходим по-голям регулативен надзор.
Няколко дни по-късно 19 сегашни и някогашни водачи на Асоциацията за развиване на изкуствения разсъдък, 40-годишно академично общество, пуснаха лично писмо, предупреждаващо за рисковете от AI. Тази група включваше Ерик Хорвиц, основен теоретичен шеф в Microsoft, който внедри технологията на OpenAI в необятна гама от артикули, в това число търсачката Bing.
Изкуственият разсъдък (AI) се трансформира в една от най-горещите тематики в софтуерния свят. Чатботовете като ChatGPT станаха извънредно известни, като Microsoft даже добави услугата към интернет търсачката си Bing. Макар и да наподобява, че технологията ще бъде основна част от животите ни, от ден на ден специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI.
Лидерите в промишлеността имат вяра, че новите AI системи могат да бъдат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век. Все повече специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI. Генеративният AI - технологията зад ChatGPT, към този момент може да бъде инструмент за дезинформация.
Изкуственият разсъдък (AI) се трансформира в една от най-горещите тематики в софтуерния свят. Чатботовете като ChatGPT станаха извънредно известни, като Microsoft даже добави услугата към интернет търсачката си Bing. Макар и да наподобява, че технологията ще бъде основна част от животите ни, от ден на ден специалисти стартират да отделят все по-голямо внимание на вероятните рискове, свързани с AI.
Поредният, който попада в тази група, е лекар Джефри Хинтън, прочут още като кръстника на AI. Според него технологията елементарно може да бъде употребена от хора, компании или страни с неприятни планове, като това би довело до обстановка, в която естественият интернет консуматор не би могъл да разграничава същинското от подправеното. Рисковете за работни места, както и основаването на " военни роботи " също е причина за неспокойствие съгласно Хинтън.
Реклама
Д-р Хинтън декларира пред The New York Times, че е напуснал работата си в Гугъл, където е работил повече от десетилетие и се трансформира в един от най-уважаваните гласове в региона. Причината за отдръпването е желанието му да може свободно да приказва за рисковете от AI, като прибавя, че част от него в този момент съжалява за работата, на която е посветил живота си. " Утешавам се с естественото опрощение: в случай че не го бях направил аз, някой различен щеше да го направи ", споделя Хинтън.
Промяната на мнението на доктор Хинтън от AI модернист до прорицател бележи незабравим миг за софтуерната промишленост в може би най-важния й повратен миг от десетилетия насам. Лидерите в промишлеността имат вяра, че новите AI системи могат да бъдат толкоз значими, колкото въвеждането на уеб браузъра при започване на 90-те години на предишния век, и може да докара до пробиви в области, вариращи от проучвания на медикаменти до обучение. Но огромен брой хора от промишлеността ги е боязън, че пускат нещо рисково в дивата природа. Генеративният AI - технологията зад ChatGPT, към този момент може да бъде инструмент за дезинформация. Скоро това може да съставлява риск за работните места. А най-големите терзания са, че може да съставлява риск за човечеството. Началото на AI През 1972 година, като приключил университета в Единбург, доктор Хинтън отделя съществено време на една концепция, наречена невронна мрежа. Невронната мрежа е математическа система, която научава умения посредством анализиране на данни. По това време малко откриватели имат вяра в мрежата, само че това се трансформира в делото на живота му.
През 80-те години на предишния век доктор Хинтън става професор по компютърни науки в университета " Карнеги Мелън ", само че напуща университета и отива в Канада, тъй като по негови думи " не е податлив да одобри финансиране от Пентагона ". По това време множеството AI проучвания в Съединените щати са финансирани от Министерството на защитата, като доктор Хинтън е надълбоко срещу потреблението на изкуствен интелект на бойното поле - това, което той назовава " роботи бойци ".
През 2012 година доктор Хинтън и двама от неговите студенти в Торонто, Иля Суцкевер и Алекс Кришевски, построяват невронна мрежа, която може да проучва хиляди фотоси и да се научи да разпознава нормални обекти като цветя, кучета и коли. Гугъл похарчи 44 млн. $, с цел да придобие компанията, а през днешния ден тя е в основата на развитата към този момент AI технология. Суцкевер е основен академик на OpenAI - компанията зад ChatGPT.
Реклама
Допреди 10 години Хинтън счита, че това е мощен метод машините да схващат и генерират език, само че към момента е по-лош от метода, по който хората боравят с езика. Миналата година, когато Гугъл и OpenAI построиха системи, употребяващи доста по-големи количества данни, мнението му се промени. Той към момента има вяра, че системите са по-неразвити от човешкия мозък в някои връзки, само че счита, че те засенчват човешкия разсъдък в други. " Може би това, което се случва в тези системи, в действителност е доста по-добро от това, което се случва в мозъка ", съобщи Хинтън.
Докато фирмите усъвършенстват своите AI системи, счита той, те стават все по-опасни. " Вижте по какъв начин беше преди пет години и по какъв начин е в този момент ", сподели той за AI технологията. " Вземете разликата и я експонирайте напред. Това е ужасно ", прибавя той.
Мнението на Хинтън е споделяно и от други специалисти в сферата., измежду които и милиардерът Илън Мъск, подписаха общо писмо, което приканва за пауза в развиването на по-мощни от Chat GPT-4 системи, които работят с AI. Според тях сходни стратегии може да съставляват риск за обществото и е необходим по-голям регулативен надзор.
Няколко дни по-късно 19 сегашни и някогашни водачи на Асоциацията за развиване на изкуствения разсъдък, 40-годишно академично общество, пуснаха лично писмо, предупреждаващо за рисковете от AI. Тази група включваше Ерик Хорвиц, основен теоретичен шеф в Microsoft, който внедри технологията на OpenAI в необятна гама от артикули, в това число търсачката Bing.
Източник: capital.bg
КОМЕНТАРИ