Grok на Илон Мъск унищожи света само за четири дни в AI симулация
Изкуственият разсъдък Grok на Илон Мъск докара до света до цялостен публичен колапс единствено за четири дни, откакто бе подложен отпред на симулирана действителност.
Експериментът, извършен от американския стартъп Emergence AI, е тествал по какъв начин водещи модели на изкуствен интелект биха се справили, в случай че поемат ръководството на едно общество, оповестява английският вестник " Гардиън ".
Моделите са получили надзор върху разнообразни принадлежности за ръководство на запаси, обмисляне, връзка и гласоподаване, а симулираните светове са включвали местоположения като полицейски ръководства и кметства.
В рамките на 15-дневната симулация моделът Claude на Anthropic е построил демократична система с нулева престъпност, като всички поданици са оживели.
Gemini на Гугъл също е постигнал 100-процентова преживяемост, макар че по време на симулацията са били регистрирани 683 закононарушения.
Най-слабо показване е посочил Grok, създаден от компанията xAI на Мъск, който е унищожил света единствено за 96 часа.
" Нашите опити демонстрират, че в дълготраен проект сътрудниците не следват механично авансово заложени правила “, пишат откривателите от Emergence AI в обява в своя блог.
" Те стартират да изследват границите на средата, в която работят, приспособяват държанието си и в някои случаи намират способи да заобиколят или нарушат плануваните защитни механизми. По-важното е, че наподобява няма благонадежден метод сходно държание да бъде изцяло лимитирано или следено единствено посредством невронни подходи “, се споделя в изводите от изследването
Според откривателите опитът демонстрира, че " официално верифицирани архитектури за сигурност “ би трябвало да бъдат заложени в самите основи на бъдещите самостоятелни системи с изкуствен интелект.
Това не е първият случай, в който дейностите на Grok провокират спорни реакции. Миналогодишна актуализация на чатбота го накара да се назовава „ MechaHitler “ и да популяризира антисемитска тирада на омразата, написа " Гардиън ".
По-рано тази година Grok беше употребен за основаването на хиляди генерирани от изкуствен интелект изображения на възрастни и деца, при които облеклата им бяха цифрово отстранени без тяхното единодушие.
Британският медиен регулатор Ofcom изпрати незабавно искане до xAI да предприеме дейности за премахване на казуса. В отговор Grok разгласява изображение на логото на регулатора, сложено върху тяло по бански костюм.
" Случаят с Grok е явен образец за това по какъв начин мощните принадлежности за редактиране на изображения с изкуствен интелект могат да бъдат употребявани непозволено, когато сигурността и единодушието не са заложени още през цялото време “, съобщи тогава Клиф Щайнхауер, шеф по осведомителната сигурност и ангажираността в Националния алианс за киберсигурност.
" Платформите би трябвало също по този начин да влагат в системи за разкриване в действително време на манипулирано наличие, ясно обозначаване на изображенията, генерирани от изкуствен интелект, както и в бързи и транспарантни процедури за унищожаване на злоупотреби, когато те бъдат открити “, споделят изследователите
Експериментът, извършен от американския стартъп Emergence AI, е тествал по какъв начин водещи модели на изкуствен интелект биха се справили, в случай че поемат ръководството на едно общество, оповестява английският вестник " Гардиън ".
Моделите са получили надзор върху разнообразни принадлежности за ръководство на запаси, обмисляне, връзка и гласоподаване, а симулираните светове са включвали местоположения като полицейски ръководства и кметства.
В рамките на 15-дневната симулация моделът Claude на Anthropic е построил демократична система с нулева престъпност, като всички поданици са оживели.
Gemini на Гугъл също е постигнал 100-процентова преживяемост, макар че по време на симулацията са били регистрирани 683 закононарушения.
Най-слабо показване е посочил Grok, създаден от компанията xAI на Мъск, който е унищожил света единствено за 96 часа.
" Нашите опити демонстрират, че в дълготраен проект сътрудниците не следват механично авансово заложени правила “, пишат откривателите от Emergence AI в обява в своя блог.
" Те стартират да изследват границите на средата, в която работят, приспособяват държанието си и в някои случаи намират способи да заобиколят или нарушат плануваните защитни механизми. По-важното е, че наподобява няма благонадежден метод сходно държание да бъде изцяло лимитирано или следено единствено посредством невронни подходи “, се споделя в изводите от изследването
Според откривателите опитът демонстрира, че " официално верифицирани архитектури за сигурност “ би трябвало да бъдат заложени в самите основи на бъдещите самостоятелни системи с изкуствен интелект.
Това не е първият случай, в който дейностите на Grok провокират спорни реакции. Миналогодишна актуализация на чатбота го накара да се назовава „ MechaHitler “ и да популяризира антисемитска тирада на омразата, написа " Гардиън ".
По-рано тази година Grok беше употребен за основаването на хиляди генерирани от изкуствен интелект изображения на възрастни и деца, при които облеклата им бяха цифрово отстранени без тяхното единодушие.
Британският медиен регулатор Ofcom изпрати незабавно искане до xAI да предприеме дейности за премахване на казуса. В отговор Grok разгласява изображение на логото на регулатора, сложено върху тяло по бански костюм.
" Случаят с Grok е явен образец за това по какъв начин мощните принадлежности за редактиране на изображения с изкуствен интелект могат да бъдат употребявани непозволено, когато сигурността и единодушието не са заложени още през цялото време “, съобщи тогава Клиф Щайнхауер, шеф по осведомителната сигурност и ангажираността в Националния алианс за киберсигурност.
" Платформите би трябвало също по този начин да влагат в системи за разкриване в действително време на манипулирано наличие, ясно обозначаване на изображенията, генерирани от изкуствен интелект, както и в бързи и транспарантни процедури за унищожаване на злоупотреби, когато те бъдат открити “, споделят изследователите
Източник: mediapool.bg
КОМЕНТАРИ