OpenAI очаква появата на свръхинтелигентен AI до края на десетилетието
OpenAI образува специфичен екип за ръководство на рисковете, свързани със свръхинтелигентния изкуствен интелект (AI) - предполагаем модел на изкуствен интелект, който е по-интелигентен даже от най-надарения човек и се отличава с голям брой области на подготвеност, а не с една, какъвто е случая с доста от сегашните модели. Според Engadget OpenAI счита, че подобен модел може да се появи преди края на десетилетието. " Свръхинтелигентността ще бъде най-въздействащата технология, която човечеството в миналото е изобретявало, и може да ни помогне да решим доста от най-важните международни проблеми ", декларират от организацията. " Но голямата мощност на свръхинтелигентността може да бъде и доста рискова и да докара до обезсилване на човечеството или даже до изгубването му. "
Новият екип ще бъде управителен взаимно от основния академик на OpenAI Иля Суцкевер и Ян Лейке, също началник на изследователската лаборатория. Освен това OpenAI декларира, че ще отдели 20% от обезпечената си сега изчислителна мощ за самодейността, като задачата е да се създаде автоматизирани принадлежности за надзор.
Подобна система теоретично би помогнала на OpenAI да подсигурява, че суперинтелигентността е безвредна за потребление и е съобразена с човешките полезности. " Макар че това е необикновено амбициозна цел и не е обезпечено, че ще успеем, ние сме оптимисти, че с целенасочени и съгласувани старания можем да решим този проблем ", декларират от OpenAI. " Има доста хрумвания, които са посочили обещаващи резултати в предварителните опити, разполагаме с все по-полезни индикатори за прогрес и можем да използваме днешните модели за емпирично проучване на доста от тези проблеми. " Лабораторията прибавя, че ще показа пътна карта в бъдеще.
Съобщението идва в миг, когато държавните управления по света обмислят по какъв начин да контролират зараждащата се промишленост на изкуствения разсъдък. В Съединени американски щати Сам Атман, основен изпълнителен шеф на OpenAI, се срещна със стотици федерални законодатели през последните месеци. Публично той декларира, че регулирането на AI е " от значително значение " и че OpenAI е " нетърпелива " да работи за основаването на нужните регулации.
“Но не би трябвало да одобряваме като чиста монета сходни изказвания, както и старания като това на екипа на OpenAI за надзор на технологията. Като концентрират вниманието на обществеността върху хипотетични опасности, които може в никакъв случай да не се осъществят, организации като OpenAI трансферират процеса на основаване на регулации към хоризонта, вместо към тук и в този момент. Има доста по-непосредствени проблеми към взаимоотношението сред AI и човечеството, свързани с пазара на труда, дезинформацията и авторските права, с които законодателите би трябвало да се оправят през днешния ден, а не на следващия ден ”, написа Enadget. Компанията ще си партнира с Великобритания Но това не е всичко, което OpenAI поема като ангажимент на терена на сигурния изкуствен интелект. Надзорът на Обединеното кралство върху технологията ще включва благоприятни условия за директно изследване на платформите на някои компании, включително и на основателя на ChatGPT.
В своя тирада по време на Седмицата на технологиите в Лондон министър-председателят Риши Сунак разкрива, че DeepMind на Гугъл, OpenAI и Anthropic са дали обещание да дават " ранен или предпочитан достъп " до модели на AI в името на научните проучвания и сигурността.
В идеалния случай това ще усъвършенства инспекциите на тези модели и ще помогне на държавното управление да разпознае " опциите и рисковете ", споделя Сунак. Не е ясно тъкмо какви данни ще споделят софтуерните компании с държавното управление на Обединеното кралство. Обединеното кралство към този момент се ангажира да похарчи повече от 100 млн. паунда за основаване на работна група, която да създаде " върховен " AI, предопределен за развиване на английската стопанска система, като в същото време се сведат до най-малко етичните и техническите проблеми.
Новият екип ще бъде управителен взаимно от основния академик на OpenAI Иля Суцкевер и Ян Лейке, също началник на изследователската лаборатория. Освен това OpenAI декларира, че ще отдели 20% от обезпечената си сега изчислителна мощ за самодейността, като задачата е да се създаде автоматизирани принадлежности за надзор.
Подобна система теоретично би помогнала на OpenAI да подсигурява, че суперинтелигентността е безвредна за потребление и е съобразена с човешките полезности. " Макар че това е необикновено амбициозна цел и не е обезпечено, че ще успеем, ние сме оптимисти, че с целенасочени и съгласувани старания можем да решим този проблем ", декларират от OpenAI. " Има доста хрумвания, които са посочили обещаващи резултати в предварителните опити, разполагаме с все по-полезни индикатори за прогрес и можем да използваме днешните модели за емпирично проучване на доста от тези проблеми. " Лабораторията прибавя, че ще показа пътна карта в бъдеще.
Съобщението идва в миг, когато държавните управления по света обмислят по какъв начин да контролират зараждащата се промишленост на изкуствения разсъдък. В Съединени американски щати Сам Атман, основен изпълнителен шеф на OpenAI, се срещна със стотици федерални законодатели през последните месеци. Публично той декларира, че регулирането на AI е " от значително значение " и че OpenAI е " нетърпелива " да работи за основаването на нужните регулации.
“Но не би трябвало да одобряваме като чиста монета сходни изказвания, както и старания като това на екипа на OpenAI за надзор на технологията. Като концентрират вниманието на обществеността върху хипотетични опасности, които може в никакъв случай да не се осъществят, организации като OpenAI трансферират процеса на основаване на регулации към хоризонта, вместо към тук и в този момент. Има доста по-непосредствени проблеми към взаимоотношението сред AI и човечеството, свързани с пазара на труда, дезинформацията и авторските права, с които законодателите би трябвало да се оправят през днешния ден, а не на следващия ден ”, написа Enadget. Компанията ще си партнира с Великобритания Но това не е всичко, което OpenAI поема като ангажимент на терена на сигурния изкуствен интелект. Надзорът на Обединеното кралство върху технологията ще включва благоприятни условия за директно изследване на платформите на някои компании, включително и на основателя на ChatGPT.
В своя тирада по време на Седмицата на технологиите в Лондон министър-председателят Риши Сунак разкрива, че DeepMind на Гугъл, OpenAI и Anthropic са дали обещание да дават " ранен или предпочитан достъп " до модели на AI в името на научните проучвания и сигурността.
В идеалния случай това ще усъвършенства инспекциите на тези модели и ще помогне на държавното управление да разпознае " опциите и рисковете ", споделя Сунак. Не е ясно тъкмо какви данни ще споделят софтуерните компании с държавното управление на Обединеното кралство. Обединеното кралство към този момент се ангажира да похарчи повече от 100 млн. паунда за основаване на работна група, която да създаде " върховен " AI, предопределен за развиване на английската стопанска система, като в същото време се сведат до най-малко етичните и техническите проблеми.
Източник: profit.bg
КОМЕНТАРИ