AI Кръстникът“ Йошуа Бенджио: Създаваме чудовища, по-мощни от нас“
Независимо дали мислите, че изкуственият разсъдък ще избави света или ще сложи неговия край - няма подозрение, че сме в миг на огромен възторг. Изкуственият интелек (AI), както знаем, може би не би съществувал без Йошуа Бенджио. Наричан " кръстникът на изкуствения разсъдък ", 60-годишният Бенджио е канадски компютърен академик, който е посветил проучванията си на невронни мрежи и логаритми за задълбочено образование. Неговата пионерска работа проправи пътя за моделите на AI, които използваме през днешния ден, като ChatGPT на OpenAI и Клод от Anthropic.
" Интелигентността дава мощ и всеки, който управлява тази власт - без значение дали е на човешко равнище или по-високо - ще бъде доста, доста всесилен ", сподели Бенджио в изявление за Yahoo Finance. " Технологията като цяло се употребява от хора, които желаят повече власт: икономическа доминация, военна доминация, политическа доминация. Така че, преди да създадем технология, която може да концентрира властта по рискови способи, би трябвало да бъдем доста деликатни. "
През 2018 година Бенджио и двама негови сътрудници - някогашният вицепрезидент на Гугъл (GOOG) Джефри Хинтън (носител на Нобелова премия за физика за 2024 г.) и основният академик по изкуствен интелект на Meta (META) Ян ЛеКун - завоюваха премията Turing, известна още като Нобелова премия за компютри. През 2022 година Бенджио беше най-цитираният компютърен академик в света. А списание Time го разгласи за един от 100-те най-влиятелни хора в света.
Въпреки че оказа помощ за изобретяването на технологията, Бенджио в този момент се трансформира в глас на нерешителност в света на изкуствения разсъдък. Тази нерешителност идва, защото вложителите не престават да демонстрират огромен възторг за пространството и наддават за дялове от AI залози до нови върхове тази година.
(Дали) AI ще има основна роля при последваща международна пандемия
Според експерти изкуственият разсъдък дават опция за прогнозиране и преодоляване на сходни събития
Акциите на Nvidia (NVDA) любим на AI чипове са се повишили със 172% единствено от началото на годината досега, да вземем за пример, спрямо растежа от 21% за необятния щатски показател S&P 500 ( GSPC).
Сега компанията се прави оценка на удивителните 3,25 трилиона $, изоставайки леко от Apple (AAPL) за купата на най-ценната компания в света. Вижте още от мнението на Бенджио, дадена в изявление за финансовото издание Yahoo! Finance:
Защо би трябвало да се тревожим за изкуствения разсъдък на равнище човек?
" Ако това попадне в несъответствуващи ръце, каквото и да значи това, това може да бъде доста рисково. Тези принадлежности биха могли да оказват помощ на терористите доста скоро и могат да оказват помощ на държавни диктатори, които желаят да унищожат нашите демокрации. И тогава има казусът, който доста учени акцентират, който е методът, по който ги образоваме в този момент - не виждаме ясно по какъв начин бихме могли да избегнем тези системи да станат самостоятелни и да имат свои лични цели за запазване, и бихме могли да изгубим надзор над тези системи. Така че ние сме на път може би да създадем чудовища, които могат да бъдат по-мощни от нас. "
Източник:
OpenAI, Meta, Гугъл, Amazon - кой огромен AI състезател се оправя вярно?
" Морално бих споделил, че компанията, която се държи най-добре, е Anthropic [чиито огромни вложители включват Amazon (AMZN) и Гугъл (GOOG)]. Но мисля, че всички те имат пристрастия заради икономическата конструкция, в която оцеляването им зависи от това да бъдат измежду водещите компании и в идеалния случай да бъдат първите, достигнали до AGI [изкуствен общ интелект]. А това значи конкуренция - конкуренция във въоръжаването сред корпорации, където публичната сигурност евентуално ще бъде губещата цел.
Как AI заплашва енергийното равновесие в международен мащаб?
Ботовете се нуждаят от от ден на ден ток - а инфраструктурата не е подготвена да им го даде
Anthropic дава доста признаци, че се грижат доста за избягването на пагубни резултати. Те бяха първите, които предложиха политика за сигурност, при която има ангажимент, че в случай че AI в последна сметка има качества, които могат да бъдат рискови, тогава те ще спрат това изпитание. Те също по този начин са единствените, дружно с Илон Мъск, които поддържат [законопроекта за контролиране на изкуствения разсъдък в Калифорния] SB 1047. С други думи, казвайки: " Да, с някои усъвършенствания, ние сме съгласни да имаме повече бистрота на процедурите и резултатите за сигурност и отговорност, в случай че причиним огромна щета. "
Мисли за голямото повишаване на акциите на AI, като Nvidia?
" Това, което мисля, че е доста несъмнено, е дълготрайната траектория. Така че, в случай че сте в него в дълготраен проект, това е много сигурен залог. Освен в случай че не успеем да защитим обществеността,... [тогава] реакцията може да бъде такава, че всичко да се срине, нали? Или тъй като има реакция от страна на обществата против AI като цяло, или тъй като се случват в действителност пагубни неща и нашата икономическа конструкция се разпада.
Така или другояче би било неприятно за вложителите. Така че мисля, че вложителите, в случай че бяха умни, щяха да схванат, че би трябвало да действаме внимателно и да заобикаляме грешките и злополуките, които могат да навредят на нашето групово бъдеще. "
Източник:
И други виждат заплаха в AI
Основателят на Bridgewater Associates Рей Далио е измежду тези, които по едно и също време виждат огромно заричане и евентуално злополучие във възхода на изкуствения разсъдък.
В изявление за CNBC титанът на хедж фондовете и милиардерът вложител сподели, че настоящата итерация на генеративния AI " е невероятна технология, която ще сътвори големи сили ". Но рискът е обвързван с метода, по който хората употребяват тази технология.
" Ние сме в тази среда, в която може или да създаде голямо количество продуктивност и да увеличи виталния ни стандарт и в действителност да направи нещата доста по-добри, или може да се употребява... по разнообразни способи, с цел да се нараним един различен ", сподели Далио.
Проблемът е, че технологията няма да бъде контролирана или следена, което ще способства за по-безпорядъчна среда, сподели той.
Стартирането на инструмента ChatGPT на OpenAI увеличи публичната информираност за силата на AI. Нещо като капиталова полуда в AI обхвана фондовия пазар последните две години, като залозите свързани с тази технология донесоха големи облаги за вложителите.
Междувременно предизвестията по отношение на технологията също се разпространиха. И те настояват, че залозите са много високи.
" Намаляването на риска от изгубване от ИИ би трябвало да бъде световен приоритет наред с други опасности от публичен мащаб като пандемии и нуклеарна война ", предизвести Центърът за сигурност на AI още през лятото на предходната година. Подписалите изказването включваха Джефри Хинтън, почетен професор от университета в Торонто, който предизвести против корист с AI, дружно с основния изпълнителен шеф на OpenAI Сам Алтман и основния изпълнителен шеф на Гугъл DeepMind Демис Хасабис.
Изненадваща прогноза: ето какъв брой % от работните места може да заеме AI до 10 години
Според американски софтуерен специалист " манията по изкуствения разсъдък е прекомерна "
Главният изпълнителен шеф на Tesla Илон Мъск и съоснователя на Apple Стив Возняк подписаха петиция от Future of Life Institute по-рано предходната година, призоваваща за шестмесечна пауза в създаването на AI.
На чуване в Сената по-рано през май Алтман от ChatGPT призна чистата мощ на AI да подтиква неподходящи резултати, само че сподели, че също по този начин вижда способи държавните управления и технолозите да работят дружно.
*Материалът е с изчерпателен темперамент и не е съвет за покупка или продажба на активи на финансовите пазари.
" Интелигентността дава мощ и всеки, който управлява тази власт - без значение дали е на човешко равнище или по-високо - ще бъде доста, доста всесилен ", сподели Бенджио в изявление за Yahoo Finance. " Технологията като цяло се употребява от хора, които желаят повече власт: икономическа доминация, военна доминация, политическа доминация. Така че, преди да създадем технология, която може да концентрира властта по рискови способи, би трябвало да бъдем доста деликатни. "
През 2018 година Бенджио и двама негови сътрудници - някогашният вицепрезидент на Гугъл (GOOG) Джефри Хинтън (носител на Нобелова премия за физика за 2024 г.) и основният академик по изкуствен интелект на Meta (META) Ян ЛеКун - завоюваха премията Turing, известна още като Нобелова премия за компютри. През 2022 година Бенджио беше най-цитираният компютърен академик в света. А списание Time го разгласи за един от 100-те най-влиятелни хора в света.
Въпреки че оказа помощ за изобретяването на технологията, Бенджио в този момент се трансформира в глас на нерешителност в света на изкуствения разсъдък. Тази нерешителност идва, защото вложителите не престават да демонстрират огромен възторг за пространството и наддават за дялове от AI залози до нови върхове тази година.
(Дали) AI ще има основна роля при последваща международна пандемия
Според експерти изкуственият разсъдък дават опция за прогнозиране и преодоляване на сходни събития
Акциите на Nvidia (NVDA) любим на AI чипове са се повишили със 172% единствено от началото на годината досега, да вземем за пример, спрямо растежа от 21% за необятния щатски показател S&P 500 ( GSPC).
Сега компанията се прави оценка на удивителните 3,25 трилиона $, изоставайки леко от Apple (AAPL) за купата на най-ценната компания в света. Вижте още от мнението на Бенджио, дадена в изявление за финансовото издание Yahoo! Finance:
Защо би трябвало да се тревожим за изкуствения разсъдък на равнище човек?
" Ако това попадне в несъответствуващи ръце, каквото и да значи това, това може да бъде доста рисково. Тези принадлежности биха могли да оказват помощ на терористите доста скоро и могат да оказват помощ на държавни диктатори, които желаят да унищожат нашите демокрации. И тогава има казусът, който доста учени акцентират, който е методът, по който ги образоваме в този момент - не виждаме ясно по какъв начин бихме могли да избегнем тези системи да станат самостоятелни и да имат свои лични цели за запазване, и бихме могли да изгубим надзор над тези системи. Така че ние сме на път може би да създадем чудовища, които могат да бъдат по-мощни от нас. "
Източник:
OpenAI, Meta, Гугъл, Amazon - кой огромен AI състезател се оправя вярно?
" Морално бих споделил, че компанията, която се държи най-добре, е Anthropic [чиито огромни вложители включват Amazon (AMZN) и Гугъл (GOOG)]. Но мисля, че всички те имат пристрастия заради икономическата конструкция, в която оцеляването им зависи от това да бъдат измежду водещите компании и в идеалния случай да бъдат първите, достигнали до AGI [изкуствен общ интелект]. А това значи конкуренция - конкуренция във въоръжаването сред корпорации, където публичната сигурност евентуално ще бъде губещата цел.
Как AI заплашва енергийното равновесие в международен мащаб?
Ботовете се нуждаят от от ден на ден ток - а инфраструктурата не е подготвена да им го даде
Anthropic дава доста признаци, че се грижат доста за избягването на пагубни резултати. Те бяха първите, които предложиха политика за сигурност, при която има ангажимент, че в случай че AI в последна сметка има качества, които могат да бъдат рискови, тогава те ще спрат това изпитание. Те също по този начин са единствените, дружно с Илон Мъск, които поддържат [законопроекта за контролиране на изкуствения разсъдък в Калифорния] SB 1047. С други думи, казвайки: " Да, с някои усъвършенствания, ние сме съгласни да имаме повече бистрота на процедурите и резултатите за сигурност и отговорност, в случай че причиним огромна щета. "
Мисли за голямото повишаване на акциите на AI, като Nvidia?
" Това, което мисля, че е доста несъмнено, е дълготрайната траектория. Така че, в случай че сте в него в дълготраен проект, това е много сигурен залог. Освен в случай че не успеем да защитим обществеността,... [тогава] реакцията може да бъде такава, че всичко да се срине, нали? Или тъй като има реакция от страна на обществата против AI като цяло, или тъй като се случват в действителност пагубни неща и нашата икономическа конструкция се разпада.
Така или другояче би било неприятно за вложителите. Така че мисля, че вложителите, в случай че бяха умни, щяха да схванат, че би трябвало да действаме внимателно и да заобикаляме грешките и злополуките, които могат да навредят на нашето групово бъдеще. "
Източник:
И други виждат заплаха в AI
Основателят на Bridgewater Associates Рей Далио е измежду тези, които по едно и също време виждат огромно заричане и евентуално злополучие във възхода на изкуствения разсъдък.
В изявление за CNBC титанът на хедж фондовете и милиардерът вложител сподели, че настоящата итерация на генеративния AI " е невероятна технология, която ще сътвори големи сили ". Но рискът е обвързван с метода, по който хората употребяват тази технология.
" Ние сме в тази среда, в която може или да създаде голямо количество продуктивност и да увеличи виталния ни стандарт и в действителност да направи нещата доста по-добри, или може да се употребява... по разнообразни способи, с цел да се нараним един различен ", сподели Далио.
Проблемът е, че технологията няма да бъде контролирана или следена, което ще способства за по-безпорядъчна среда, сподели той.
Стартирането на инструмента ChatGPT на OpenAI увеличи публичната информираност за силата на AI. Нещо като капиталова полуда в AI обхвана фондовия пазар последните две години, като залозите свързани с тази технология донесоха големи облаги за вложителите.
Междувременно предизвестията по отношение на технологията също се разпространиха. И те настояват, че залозите са много високи.
" Намаляването на риска от изгубване от ИИ би трябвало да бъде световен приоритет наред с други опасности от публичен мащаб като пандемии и нуклеарна война ", предизвести Центърът за сигурност на AI още през лятото на предходната година. Подписалите изказването включваха Джефри Хинтън, почетен професор от университета в Торонто, който предизвести против корист с AI, дружно с основния изпълнителен шеф на OpenAI Сам Алтман и основния изпълнителен шеф на Гугъл DeepMind Демис Хасабис.
Изненадваща прогноза: ето какъв брой % от работните места може да заеме AI до 10 години
Според американски софтуерен специалист " манията по изкуствения разсъдък е прекомерна "
Главният изпълнителен шеф на Tesla Илон Мъск и съоснователя на Apple Стив Возняк подписаха петиция от Future of Life Institute по-рано предходната година, призоваваща за шестмесечна пауза в създаването на AI.
На чуване в Сената по-рано през май Алтман от ChatGPT призна чистата мощ на AI да подтиква неподходящи резултати, само че сподели, че също по този начин вижда способи държавните управления и технолозите да работят дружно.
*Материалът е с изчерпателен темперамент и не е съвет за покупка или продажба на активи на финансовите пазари.
Източник: money.bg
КОМЕНТАРИ