Експерт иска забавяне на развитието на AI – имало риск да убие всички хора на планетата
Система с изкуствен интелект ще работи взаимно с хора, с цел да направи изобретение, почтено за Нобелова премия, в границите на 12 месеца, а след две години занаятчиите ще бъдат подпомагани от двукраки роботи. Това счита съоснователят на Anthropic Джак Кларк, представен от " Гардиън ".
Той разказа " главозамайващо чувство за прогрес " в развиването на технологията и направи голям брой прогнози, в това число за това, че в границите на 18 месеца компании, ръководени напълно от изкуствен интелект, ще генерират доходи от милиони долари, а до края на 2028 година AI системите ще могат да проектират личните си наследници.
В лекция в Оксфордския университет той съобщи, че към момента има правдоподобни сюжети, при които технологията има " ненулев късмет да убие всички хора на планетата ", и че е " значимо ясно да се каже, че този риск не е липсващ ". Най-популярният модел на Anthropic се назовава Claude, само че компанията неотдавна пусна версия, наречена Mythos, която се е оказала обезпокоително способна да употребява недостатъци в киберсигурността.
Банката на Канада: AI не " яде " толкоз бързо работните места, а ги трансформира
Възможно е той да докара до повишение на продуктивността
Кларк означи пред студентите, че би било по-добре, в случай че хората съумеят да забавят развиването на технологията, " с цел да си дадем повече време като тип " да се оправим с последствията от нейните качества. Според него обаче това няма да се случи поради стремглавото развиване, движено " от разнообразни играчи и разнообразни страни, заключени в конкуренция между тях, при която комерсиалните и геополитическите съперничества постоянно заглушават по-големите екзистенциални аспекти за човешкия тип на създаваната технология ". По думите му това " не е идеално ".
Кларк е една от най-високопоставените фигури в Anthropic, която е учредена от AI откриватели, напуснали конкурентната компания OpenAI поради различия по отношение на сигурността. Компанията, оценена на 900 милиарда $, е упреквана от Белия дом на Доналд Тръмп и други последователи на ускореното развиване на AI в " втълпяване на боязън ", за да се насърчи регулация, която би затвърдила конкурентната ѝ позиция.
Anthropic оспорва тези обвинявания, а Кларк означи, че доста хора отхвърлят напредъка на AI. Той уточни, че желае да насърчи човечеството да се приготви за технология, която " скоро ще бъде по-способна от всички нас взети дружно ". Сравнявайки неподготвеността за AI с неподготвеността за пандемии като Covid, той съобщи: " Ако стоим безучастно и позволим на синтетичния разсъдък да се разраства, в последна сметка ще бъдем принудени единствено да реагираме на следствията ".
Критиците на водещите AI компании като Anthropic, OpenAI и Гугъл се притесняват, че несъразмерната взаимозависимост от дребен брой AI модели - подкрепени от големи количества капитал, търсещ облага - може да сътвори " единна точка на неуспех " в световните системи.
Изкуственият разсъдък може да направи войната по-смъртоносна от нуклеарните оръжия
Системите с изкуствен интелект могат да работят в действително време без човешка интервенция и да вземат решения за секунди
Професор Едуард Харкорт - шеф на Института по нравственос в AI, настрана предизвести, че възходът на AI системи, които правят от ден на ден неща вместо хората, рискува да докара до " когнитивна недоразвитост ", която може да отслаби човешката дарба за взимане на решения и преценка. Той се застъпи за различни AI модели, които изискват от хората да правят повече от мисловния развой - от време на време наричани " сократически " AI.
Кларк съобщи, че най-консервативната му прогноза е, че " големи елементи от стопанската система и обществото ще преминат през дълбоки промени " - което може да включва машинна стопанска система, отделена от човешката стопанска система, роботи, които получават " мозъци ", просвета, разрастваща се без присъединяване на хора, както и научно съоръжение, което хората даже не са си представяли, само че което работи. Той призна, че част от това звучи " налудничаво ".
.gcta { background: linear-gradient(90deg, #4285F4, #34A853, #FBBC05, #EA4335); padding: 2px; border-radius: 14px; max-width: 640px; margin: 0 auto; text-decoration: none; display: block; }.gcta-inner { background: #ffffff; border-radius: 12px; padding: 14px 18px; display: flex; align-items: center; gap: 14px; transition: background 0.2s; text-decoration: none!important; }.gcta:hover { text-decoration: none!important; }.gcta:hover.gcta-inner { background: #f7f7f7; }.gcta svg { flex-shrink: 0; width: 30px; height: 30px; }.gcta-title { flex: 1; font-size: 16px; font-weight: 600!important; color: #111; margin: 0; }.gcta-arrow { color: #aaa; font-size: 20px; flex-shrink: 0; transition: transform 0.2s; }.gcta:hover.gcta-arrow { transform: translateX(3px); }
Добави ни в желани източници в Google
Той разказа " главозамайващо чувство за прогрес " в развиването на технологията и направи голям брой прогнози, в това число за това, че в границите на 18 месеца компании, ръководени напълно от изкуствен интелект, ще генерират доходи от милиони долари, а до края на 2028 година AI системите ще могат да проектират личните си наследници.
В лекция в Оксфордския университет той съобщи, че към момента има правдоподобни сюжети, при които технологията има " ненулев късмет да убие всички хора на планетата ", и че е " значимо ясно да се каже, че този риск не е липсващ ". Най-популярният модел на Anthropic се назовава Claude, само че компанията неотдавна пусна версия, наречена Mythos, която се е оказала обезпокоително способна да употребява недостатъци в киберсигурността.
Банката на Канада: AI не " яде " толкоз бързо работните места, а ги трансформира
Възможно е той да докара до повишение на продуктивността
Кларк означи пред студентите, че би било по-добре, в случай че хората съумеят да забавят развиването на технологията, " с цел да си дадем повече време като тип " да се оправим с последствията от нейните качества. Според него обаче това няма да се случи поради стремглавото развиване, движено " от разнообразни играчи и разнообразни страни, заключени в конкуренция между тях, при която комерсиалните и геополитическите съперничества постоянно заглушават по-големите екзистенциални аспекти за човешкия тип на създаваната технология ". По думите му това " не е идеално ".
Кларк е една от най-високопоставените фигури в Anthropic, която е учредена от AI откриватели, напуснали конкурентната компания OpenAI поради различия по отношение на сигурността. Компанията, оценена на 900 милиарда $, е упреквана от Белия дом на Доналд Тръмп и други последователи на ускореното развиване на AI в " втълпяване на боязън ", за да се насърчи регулация, която би затвърдила конкурентната ѝ позиция.
Anthropic оспорва тези обвинявания, а Кларк означи, че доста хора отхвърлят напредъка на AI. Той уточни, че желае да насърчи човечеството да се приготви за технология, която " скоро ще бъде по-способна от всички нас взети дружно ". Сравнявайки неподготвеността за AI с неподготвеността за пандемии като Covid, той съобщи: " Ако стоим безучастно и позволим на синтетичния разсъдък да се разраства, в последна сметка ще бъдем принудени единствено да реагираме на следствията ".
Критиците на водещите AI компании като Anthropic, OpenAI и Гугъл се притесняват, че несъразмерната взаимозависимост от дребен брой AI модели - подкрепени от големи количества капитал, търсещ облага - може да сътвори " единна точка на неуспех " в световните системи.
Изкуственият разсъдък може да направи войната по-смъртоносна от нуклеарните оръжия
Системите с изкуствен интелект могат да работят в действително време без човешка интервенция и да вземат решения за секунди
Професор Едуард Харкорт - шеф на Института по нравственос в AI, настрана предизвести, че възходът на AI системи, които правят от ден на ден неща вместо хората, рискува да докара до " когнитивна недоразвитост ", която може да отслаби човешката дарба за взимане на решения и преценка. Той се застъпи за различни AI модели, които изискват от хората да правят повече от мисловния развой - от време на време наричани " сократически " AI.
Кларк съобщи, че най-консервативната му прогноза е, че " големи елементи от стопанската система и обществото ще преминат през дълбоки промени " - което може да включва машинна стопанска система, отделена от човешката стопанска система, роботи, които получават " мозъци ", просвета, разрастваща се без присъединяване на хора, както и научно съоръжение, което хората даже не са си представяли, само че което работи. Той призна, че част от това звучи " налудничаво ".
.gcta { background: linear-gradient(90deg, #4285F4, #34A853, #FBBC05, #EA4335); padding: 2px; border-radius: 14px; max-width: 640px; margin: 0 auto; text-decoration: none; display: block; }.gcta-inner { background: #ffffff; border-radius: 12px; padding: 14px 18px; display: flex; align-items: center; gap: 14px; transition: background 0.2s; text-decoration: none!important; }.gcta:hover { text-decoration: none!important; }.gcta:hover.gcta-inner { background: #f7f7f7; }.gcta svg { flex-shrink: 0; width: 30px; height: 30px; }.gcta-title { flex: 1; font-size: 16px; font-weight: 600!important; color: #111; margin: 0; }.gcta-arrow { color: #aaa; font-size: 20px; flex-shrink: 0; transition: transform 0.2s; }.gcta:hover.gcta-arrow { transform: translateX(3px); }
Добави ни в желани източници в Google
Източник: news.bg
КОМЕНТАРИ