Доклад „AI 2027“: Има 70% шанс изкуственият интелект да погуби човешката раса
Доклад " AI 2027 " разказва два сюжета - единият приключва с биологично оръжие против хората
Американският откривател и някогашен чиновник на OpenAIДаниел Кокотайло изяснява за какво изкуственият разсъдък скоро може да поеме контрола над всяка човешка активност и по-късно да се обърне против своите основатели. В извънредно изявление за немското издание Der Spiegel, 33-годишният мъж разкрива злокобни прогнози за бъдещето на човечеството.
До предходната година Кокотайло е работил за OpenAI, компанията зад ChatGPT, която се смята за водач в създаването на изкуствен интелект. През пролетта на 2024 година той напуща работата си дружно с други сътрудници, като в отворено писмо упреква OpenAI, че пренебрегва големите опасности на новата технология.
Доклад " AI 2027 " планува два сюжета
След напускането си Кокотайло основава " AI Futures Project " - мозъчен концерн, финансиран от дарения. През април планът разгласява прогноза, че технологията може да напредне толкоз бързо, че супер образован AI може да бъде разполагаем още през 2027 година.
Кокотайло и сътрудниците му създават два сюжета за бъдещето. В сюжета " Забавяне " Съединени американски щати съумява да контролира AI по подобен метод, че новата технология се слага в услуга на своите разработчици, само че това не взема решение казуса, че човешкият труд става значително непотребен.
В сюжета " Състезание " Съединени американски щати и Китай се впускат в конкуренция за създаване на изкуствен интелект, което пречи на ефикасното контролиране. В този сюжет свръхинтелигентният изкуствен интелект стига до заключението през 2030 година, че човечеството му пречи, и го унищожава с новоразработено оръжие.
Прогнози с 70% възможност за злополука
" Сигурен ли съм, че това ще се случи? Не. Но ми се коства евентуално, че ще имаме суперинтелигентен изкуствен интелект в границите на едно десетилетие, " съобщи Кокотайло. Сам Алтман, основен изпълнителен шеф на OpenAI, неотдавна написа в блога си, че пробивът е близо.
В по-ранни изказвания Кокотайло е споделил, че съгласно него има 70% възможност изкуственият разсъдък да нанесе сериозна щета или даже да унищожи човечеството. Въпреки тези мрачни прогнози, той продължава работата си, тъй като има вяра, че към момента има доста способи да се насочи историята в друга посока.
Технологичната конкуренция основава опасности
Според Кокотайло, водещите компании в региона на изкуствения разсъдък сега се пробват да автоматизират проучванията в тази област, което ще форсира напредъка. Ако актуалните индикатори за развиването на AI се запазят, още през 2027 година може да имаме виртуални софтуерни разработчици, които да превъзхождат човешките програмисти.
" Ако изкуственият разсъдък може да се усъвършенства и развива самичък, ще минат още няколко месеца, преди да имаме изкуствена суперинтелигентност, " предизвестява откривателят.
Опасността от неконтролируем AI
Съвременните системи за изкуствен интелект са невронни мрежи, а не елементарни компютърни стратегии. " Не можем просто да отворим програмата и да забележим какви правила следва. Ето за какво постоянно не можем да кажем дали ИИ е почтен с нас или не, " изяснява Кокотайло.
Ако се създаде система, която е по-интелигентна от най-умните хора, ръководи стопанската система и управлява роботи, а хората не знаят дали е почтена и следва надеждно инструкциите им, това основава голям проблем. " Току-що сме предали контрола над бъдещето си на система, която не разбираме, " предизвестява той.
Критици и бранители на прогнозата
Текстът на Кокотайло " AI 2027 " провокира бурна полемика в Съединени американски щати. Вицепрезидентът Джей Ди Ванс след това предизвести за заплахите от изкуствения разсъдък, заявявайки: " Може да се събудим в свят, в който киберсигурността към този момент не съществува. "
Критиците упрекнаха Кокотайло, че разгласява сензационна научна фантастика, а не научно обоснована прогноза. Други показаха, че той е бил изумително прецизен с прогнозите си в предишното.
Кокотайло отхвърля сравненията с научнофантастични филми като " Терминатор " или " Матрицата ": " Това е неуместно изказване. Трябва ли да спрем да се тревожим за климатичните промени, тъй като 'Блейд Рънър' или 'Матрицата' ги изобразяват? "
Политическото измерение на AI развиването
На въпрос дали софтуерните милиардери като Илон Мъск и Марк Андресен са подкрепили Доналд Тръмп в последната предизборна акция, с цел да получат независимост в създаването на изкуствен интелект, Кокотайло дава отговор: " Мисля, че това е евентуално. "
Въпреки мрачните си прогнози, откривателят остава с вяра. " Защото имам вяра, че към момента има доста способи да се насочи историята в друга посока. Написахме 'AI 2027', с цел да притеглим вниманието към заплахите, което, надяваме се, ще докара до по-добро контролиране на изкуствения разсъдък, " заключава той.
Американският откривател и някогашен чиновник на OpenAIДаниел Кокотайло изяснява за какво изкуственият разсъдък скоро може да поеме контрола над всяка човешка активност и по-късно да се обърне против своите основатели. В извънредно изявление за немското издание Der Spiegel, 33-годишният мъж разкрива злокобни прогнози за бъдещето на човечеството.
До предходната година Кокотайло е работил за OpenAI, компанията зад ChatGPT, която се смята за водач в създаването на изкуствен интелект. През пролетта на 2024 година той напуща работата си дружно с други сътрудници, като в отворено писмо упреква OpenAI, че пренебрегва големите опасности на новата технология.
Доклад " AI 2027 " планува два сюжета
След напускането си Кокотайло основава " AI Futures Project " - мозъчен концерн, финансиран от дарения. През април планът разгласява прогноза, че технологията може да напредне толкоз бързо, че супер образован AI може да бъде разполагаем още през 2027 година.
Кокотайло и сътрудниците му създават два сюжета за бъдещето. В сюжета " Забавяне " Съединени американски щати съумява да контролира AI по подобен метод, че новата технология се слага в услуга на своите разработчици, само че това не взема решение казуса, че човешкият труд става значително непотребен.
В сюжета " Състезание " Съединени американски щати и Китай се впускат в конкуренция за създаване на изкуствен интелект, което пречи на ефикасното контролиране. В този сюжет свръхинтелигентният изкуствен интелект стига до заключението през 2030 година, че човечеството му пречи, и го унищожава с новоразработено оръжие.
Прогнози с 70% възможност за злополука
" Сигурен ли съм, че това ще се случи? Не. Но ми се коства евентуално, че ще имаме суперинтелигентен изкуствен интелект в границите на едно десетилетие, " съобщи Кокотайло. Сам Алтман, основен изпълнителен шеф на OpenAI, неотдавна написа в блога си, че пробивът е близо.
В по-ранни изказвания Кокотайло е споделил, че съгласно него има 70% възможност изкуственият разсъдък да нанесе сериозна щета или даже да унищожи човечеството. Въпреки тези мрачни прогнози, той продължава работата си, тъй като има вяра, че към момента има доста способи да се насочи историята в друга посока.
Технологичната конкуренция основава опасности
Според Кокотайло, водещите компании в региона на изкуствения разсъдък сега се пробват да автоматизират проучванията в тази област, което ще форсира напредъка. Ако актуалните индикатори за развиването на AI се запазят, още през 2027 година може да имаме виртуални софтуерни разработчици, които да превъзхождат човешките програмисти.
" Ако изкуственият разсъдък може да се усъвършенства и развива самичък, ще минат още няколко месеца, преди да имаме изкуствена суперинтелигентност, " предизвестява откривателят.
Опасността от неконтролируем AI
Съвременните системи за изкуствен интелект са невронни мрежи, а не елементарни компютърни стратегии. " Не можем просто да отворим програмата и да забележим какви правила следва. Ето за какво постоянно не можем да кажем дали ИИ е почтен с нас или не, " изяснява Кокотайло.
Ако се създаде система, която е по-интелигентна от най-умните хора, ръководи стопанската система и управлява роботи, а хората не знаят дали е почтена и следва надеждно инструкциите им, това основава голям проблем. " Току-що сме предали контрола над бъдещето си на система, която не разбираме, " предизвестява той.
Критици и бранители на прогнозата
Текстът на Кокотайло " AI 2027 " провокира бурна полемика в Съединени американски щати. Вицепрезидентът Джей Ди Ванс след това предизвести за заплахите от изкуствения разсъдък, заявявайки: " Може да се събудим в свят, в който киберсигурността към този момент не съществува. "
Критиците упрекнаха Кокотайло, че разгласява сензационна научна фантастика, а не научно обоснована прогноза. Други показаха, че той е бил изумително прецизен с прогнозите си в предишното.
Кокотайло отхвърля сравненията с научнофантастични филми като " Терминатор " или " Матрицата ": " Това е неуместно изказване. Трябва ли да спрем да се тревожим за климатичните промени, тъй като 'Блейд Рънър' или 'Матрицата' ги изобразяват? "
Политическото измерение на AI развиването
На въпрос дали софтуерните милиардери като Илон Мъск и Марк Андресен са подкрепили Доналд Тръмп в последната предизборна акция, с цел да получат независимост в създаването на изкуствен интелект, Кокотайло дава отговор: " Мисля, че това е евентуално. "
Въпреки мрачните си прогнози, откривателят остава с вяра. " Защото имам вяра, че към момента има доста способи да се насочи историята в друга посока. Написахме 'AI 2027', с цел да притеглим вниманието към заплахите, което, надяваме се, ще докара до по-добро контролиране на изкуствения разсъдък, " заключава той.
Източник: dunavmost.com
КОМЕНТАРИ