OpenAI е създала изкуствен интелект, който застрашава човечеството
По време на траялата няколко дни драма с борда на OpenAI, уволнението и в следствие връщането на Сам Алтман, може да се е случило нещо доста по-важно, оповестява " Ню Йоркър ".
Няколко учени в компанията са изпратили писмо до борда на шефовете, в което предизвестяват за голям пробив в изкуствения разсъдък, който съгласно тях може да заплаши човечеството, настояват вътрешни източници пред Ройтерс.
Според един от източниците, ръководителката на част от интервенциите на OpenAI, Мира Мурати е загатнала плана, наименуван Q*, пред чиновниците в сряда и е споделила, че през уикенда е получила забавно писмо за него.
Проектът Q* или Q-Star, е обвързван с създаването на суперинтелигентност или повсеместен изкуствен интелект (AGI). OpenAI дефинира AGI като AI системи, които са по-умни от хората.
Шефът на OpenAI, Сам Алтман, счита, че общият изкуствен интелект (AGI) ще има почти същия интелектуален потенциал като " междинен човек, който бихте могли да наемете като сътрудник ".
С появяването си AGI доста елементарно може да реализира суперинтелигентност или предимство над човешкия разсъдък. Според Сам Алтман построяването на изчерпателен изкуствен интелект, който надвишава човешките качества, " би направило света прелестно място за живот ".
Проектът Q* е посочил пробив, обвързван с решаването и проявяването на схващане за избрани математически уравнения.
Ройтерс не е съумяла да получи достъп до писмото, а чиновниците, които са го написали, не са дали отговор на настояванията за коментар на организацията.
Като се имат поради големите изчислителни благоприятни условия, новият модел съумя да реши избрани математически проблеми, е показал чиновник на компанията.
Въпреки че взема решение математически задания едвам на равнище начален стадий на обучение, разрешаването им обнадеждава разработчиците за бъдещия триумф на Q*, е споделил източникът.
Ройтерс не е съумяла да ревизира опциите на Q*, разказани от източниците, предава Българска телеграфна агенция.
Изследователите считат математиката за граница на генеративното развиване на изкуствения разсъдък. Понастоящем генеративният изкуствен интелект съумява да прави езиков превод посредством статистически прогнози на идната дума и отговорите на един и същи въпрос могат да варират доста. Развитието на опцията да се вземат решение математически задания, в които има единствено един верен отговор, допуска, че изкуствения разсъдък ще има по-големи качества за размишление, наподобяващи човешкия разсъдък. Това може да се приложи да вземем за пример към нови научни проучвания, считат откривателите в сферата.
Това е тормозило част от екипа на OpenAI. Мнозина смятат, че сходна технология е екзистенциална опасност за човечеството.
Създаването на изчерпателен изкуствен интелект може да унищожи човечеството или да докара до тоталното му подчиняване. Над 1000 учени от сферата на AI предизвестяват, че безконтролното развиване на технологията може в последна сметка да сбъдне най-антиутопичните прогнози, с които Холивуд ни е запознавал.
Няколко учени в компанията са изпратили писмо до борда на шефовете, в което предизвестяват за голям пробив в изкуствения разсъдък, който съгласно тях може да заплаши човечеството, настояват вътрешни източници пред Ройтерс.
Според един от източниците, ръководителката на част от интервенциите на OpenAI, Мира Мурати е загатнала плана, наименуван Q*, пред чиновниците в сряда и е споделила, че през уикенда е получила забавно писмо за него.
Проектът Q* или Q-Star, е обвързван с създаването на суперинтелигентност или повсеместен изкуствен интелект (AGI). OpenAI дефинира AGI като AI системи, които са по-умни от хората.
Шефът на OpenAI, Сам Алтман, счита, че общият изкуствен интелект (AGI) ще има почти същия интелектуален потенциал като " междинен човек, който бихте могли да наемете като сътрудник ".
С появяването си AGI доста елементарно може да реализира суперинтелигентност или предимство над човешкия разсъдък. Според Сам Алтман построяването на изчерпателен изкуствен интелект, който надвишава човешките качества, " би направило света прелестно място за живот ".
Проектът Q* е посочил пробив, обвързван с решаването и проявяването на схващане за избрани математически уравнения.
Ройтерс не е съумяла да получи достъп до писмото, а чиновниците, които са го написали, не са дали отговор на настояванията за коментар на организацията.
Като се имат поради големите изчислителни благоприятни условия, новият модел съумя да реши избрани математически проблеми, е показал чиновник на компанията.
Въпреки че взема решение математически задания едвам на равнище начален стадий на обучение, разрешаването им обнадеждава разработчиците за бъдещия триумф на Q*, е споделил източникът.
Ройтерс не е съумяла да ревизира опциите на Q*, разказани от източниците, предава Българска телеграфна агенция.
Изследователите считат математиката за граница на генеративното развиване на изкуствения разсъдък. Понастоящем генеративният изкуствен интелект съумява да прави езиков превод посредством статистически прогнози на идната дума и отговорите на един и същи въпрос могат да варират доста. Развитието на опцията да се вземат решение математически задания, в които има единствено един верен отговор, допуска, че изкуствения разсъдък ще има по-големи качества за размишление, наподобяващи човешкия разсъдък. Това може да се приложи да вземем за пример към нови научни проучвания, считат откривателите в сферата.
Това е тормозило част от екипа на OpenAI. Мнозина смятат, че сходна технология е екзистенциална опасност за човечеството.
Създаването на изчерпателен изкуствен интелект може да унищожи човечеството или да докара до тоталното му подчиняване. Над 1000 учени от сферата на AI предизвестяват, че безконтролното развиване на технологията може в последна сметка да сбъдне най-антиутопичните прогнози, с които Холивуд ни е запознавал.
Източник: dnesplus.bg
КОМЕНТАРИ