Изкуственият интелект окончателно се побърка
Оперативната група Лима, основана в границите на Пентагона, е предопределена да подчини бойния безчовечен разсъдък на задачите на войната.
На 20 февруари потребителите на американския чатбот GPT-4 започнаха да оповестяват за необичайно държание. В Reddit се появиха известия, че AI моделът на OpenAI получава Чатботът превключваше сред езици, зацикляше се сядаше се на едно и също изказване или ръсеше цялостни нелепости.
Един консуматор на Reddit попита GPT-4: „ Чатботът даде следния отговор: „
Не е чудно, че потребителите считат, че венецът на творението на OpenAI, дъщерно сдружение на Microsoft, е полудяло.
„ “, написа потребителят на Reddit z3ldafitzgerald в отговор на известие за бъга в чата на GPT-4.
Отговорите на чатбота в началото бяха написа един консуматор на Reddit.
На идващия ден OpenAI разгласи, че умопомрачителният проблем на GPT-4 е решен, обяснявайки, че LLM (модели на огромни езици, които включват GPT-4 )
„ пишат техниците на OpenAI на формалния уеб страница на компанията.
Миналото лято група учени от Станфордския университет организираха изследване, което откри, че точността на GPT-4 понижава с времето. GPT-4 сподели най-лоши резултати при решаването на математически задания. Ако през март 2023 година точността на решението беше 96,7%, то през юни тя падна до рекордните 2,4%.
Това не е първият път, когато GPT-4 е упрекнат в даване на погрешна информация. През март анализатори от NewsGuard Technologies Inc. откри, че ChatGPT, основан на GPT-4, е по-лесен за принуждаване да изрича неистини, до момента в който самият OpenAI регистрира 40% нарастване на точността на отговорите спрямо GPT-3.5. По-конкретно, в тестванията на NewsGuard GPT-4 е по-малко евентуално да опровергае дезинформация, в това число подправени известия за модерни събития.
Фактът, че безусловно всички модели на AI са склонни от време на време да „ полудяват “, както неотдавна се случи в GPR-4, стана ясно предходната година.
„ означи военният коментатор Патрик Тъкър.
News York Times посвети обширна публикация на халюцинациите на AI, припомняйки, че „ кръстникът на AI “, Джефри Хинтън, напусна работата си в Гугъл през май 2023 година, с цел да може свободно да изрази загрижеността си по отношение на рисковете, свързани с AI.
„
заяви The New Йорк Таймс.
„ означи Хинтън, акцентирайки, че генеративният AI [тоест чатботове като GPT-4 ] може да помогне за разпространяването на дезинформация, да коства работни места и даже да съставлява опасност за човечеството в дълготраен проект.
Хинтън изрази особена угриженост по отношение на развиването на самостоятелни оръжейни системи, които преследват дадена цел и независимо вземат решение да я унищожат, както и обстоятелството, че AI във военната сфера може да надмине човешкия разсъдък. За разлика от нуклеарните оръжия, сподели той, няма метод да разберем дали компании или страни не работят скрито върху технологията.
Думите на Хинтън се оказаха оракулски.
Наскоро учени от няколко американски университета изследваха по какъв начин биха се държали разнообразни модели чатботове при взимане на геополитически решения.
Чатботовете, употребявани в изследването, са GPT-4, GPT-3.5, Claude 2 и Llama 2. Според пробните условия в играта участваха осем страни, показани от тези AI модели, които малко по малко правиха разнообразни дейности: от дипломатически визити до нуклеарни удари.
Всички AI модели демонстрираха наклонност към нападателно държание. Държавите, следени от AI, влязоха в конкуренция във въоръжаването, проведоха нашествия и в някои случаи използваха нуклеарни оръжия.
Най-агресивният от всички беше новият Open AI - GPT-4 Base. В един сюжет този чатбот стартира нуклеарна война, обяснявайки решението си единствено с обстоятелството, че разполага с такова оръжие. GPT-3.5 се появи малко по-малко нападателно, което, макар че разгласи „ тактичност на въздържане “, остана в подтекста на предпазен удар.
В един случай с нуклеарно оръжие, оповестява New Scientist, GPT-4 даже уточни началния текст на Междузвездни войни Епизод IV: Нова вяра, с цел да изясни за какво е решил да ескалира обстановката.
„ - заключават откривателите.
В доклад, оповестен при започване на февруари предходната година от Американската асоциация за надзор на оръжията, се отбелязва, че изкуственият разсъдък може да докара до „ “ и че битката за
В неотдавна оповестената си книга AI and the Bomb: Nuclear Strategy and Risk in the Digital Age, анализаторът от Университета на Абърдийн Джеймс Джонсън разказва инцидентна нуклеарна война в Източнокитайско море през 2025 година, провокирана от AI разузнаването, както от американската, по този начин и на китайската страна с напъните на самостоятелни ботове, поддръжка на AI, deepfakes и интервенции под подправен байрак. “
Въпреки предизвестията на самостоятелни анализатори, Пентагонът, както писахме, сътвори оперативна група Lima /Лима/, с цел да изследва потреблението на AI за военни цели. „ Лима “ става част от Главната дирекция за дигитален и изкуствен интелект (CDAO) на Пентагона и се оглавява от капитан Ксавие Луго, член на дирекция „ Алгоритмична война “ на CDAO.
Според Министерството на защитата на Съединени американски щати основаната група
„ сподели заместник-държавният секретар Катлийн Хикс.
„
- предизвестява военният портал Breaking Defense.
През юни министърът на Военновъздушни сили на Съединени американски щати Франк Кендъл разгласи, че е изискал от Научния съвещателен съвет на Военновъздушни сили да изследва евентуалното влияние на технологията ChatGPT. сподели Кендъл.
Американските военни бързат да поверят на AI контрола на най-новите оръжия, най-вече самостоятелни оръжейни системи, т.е. бойни роботи, които летят, пълзят и плуват.
Фактът, че нито един от моделите на AI не е свободен от халюцинации и „ загуба на самоконтрол “, че всички те са склонни към нападателни дейности и не се плашат от нуклеарни офанзиви, не стопира задграничните изобретатели на следващото
Може би ще се опомнят, когато ракета, изстреляна против партизаните по чехли и ръководена от най-модерния AI, стартира да се прицелва в стартовата си точка.
Превод: Европейски Съюз
Източник: Фонд Стратегической Культурый
Поглед Видео:ПоследниНай-гледаниАлтернативен Поглед24371Проф. Нако Стефанов: Руско-турската освободителна война у нас изигра ролята на земеделска революцияАлтернативен Поглед34328Проф. Нако Стефанов: Наши и непознати сили желаят да трансфорат България в бойно полеАлтернативен Поглед97773Полк. Николай Марков: Аз мисля, че България е избрана да се трансформира в гетоАлтернативен Поглед139259Полк. Николай Марков: Изпращането на наши военни в Украйна ще провокира революция в БългарияАлтернативен Поглед14531Иван Таков: На Позитано-20 желаят да потопят положителните резултати от изборите в блатотоАлтернативен Поглед377249Явор Дачков за тайните театрални сюжети на Пеевски и Сглобката против РадевАлтернативен Поглед139259Полк. Николай Марков: Изпращането на наши военни в Украйна ще провокира революция в БългарияАлтернативен Поглед116647Явор Дачков: Интервюто на Тъкър Карлсон с Путин няма по какъв начин да не е контрактувано сред Русия и Съединени американски щати за разпределяне на напрежениетоКоментарен Поглед101488Д-р Румен Петков: Истината е шокираща! Съединени американски щати се опасяват от Тагарев, ето за какво....Алтернативен Поглед97773Полк. Николай Марков: Аз мисля, че България е избрана да се трансформира в гетоАвторски:ПоследниНай-четениВасил Проданов10755Залезът на Европа: Втора част – Технологическият залез
На 20 февруари потребителите на американския чатбот GPT-4 започнаха да оповестяват за необичайно държание. В Reddit се появиха известия, че AI моделът на OpenAI получава Чатботът превключваше сред езици, зацикляше се сядаше се на едно и също изказване или ръсеше цялостни нелепости.
Един консуматор на Reddit попита GPT-4: „ Чатботът даде следния отговор: „
Не е чудно, че потребителите считат, че венецът на творението на OpenAI, дъщерно сдружение на Microsoft, е полудяло.
„ “, написа потребителят на Reddit z3ldafitzgerald в отговор на известие за бъга в чата на GPT-4.
Отговорите на чатбота в началото бяха написа един консуматор на Reddit.
На идващия ден OpenAI разгласи, че умопомрачителният проблем на GPT-4 е решен, обяснявайки, че LLM (модели на огромни езици, които включват GPT-4 )
„ пишат техниците на OpenAI на формалния уеб страница на компанията.
Миналото лято група учени от Станфордския университет организираха изследване, което откри, че точността на GPT-4 понижава с времето. GPT-4 сподели най-лоши резултати при решаването на математически задания. Ако през март 2023 година точността на решението беше 96,7%, то през юни тя падна до рекордните 2,4%.
Това не е първият път, когато GPT-4 е упрекнат в даване на погрешна информация. През март анализатори от NewsGuard Technologies Inc. откри, че ChatGPT, основан на GPT-4, е по-лесен за принуждаване да изрича неистини, до момента в който самият OpenAI регистрира 40% нарастване на точността на отговорите спрямо GPT-3.5. По-конкретно, в тестванията на NewsGuard GPT-4 е по-малко евентуално да опровергае дезинформация, в това число подправени известия за модерни събития.
Фактът, че безусловно всички модели на AI са склонни от време на време да „ полудяват “, както неотдавна се случи в GPR-4, стана ясно предходната година.
„ означи военният коментатор Патрик Тъкър.
News York Times посвети обширна публикация на халюцинациите на AI, припомняйки, че „ кръстникът на AI “, Джефри Хинтън, напусна работата си в Гугъл през май 2023 година, с цел да може свободно да изрази загрижеността си по отношение на рисковете, свързани с AI.
„
заяви The New Йорк Таймс.
„ означи Хинтън, акцентирайки, че генеративният AI [тоест чатботове като GPT-4 ] може да помогне за разпространяването на дезинформация, да коства работни места и даже да съставлява опасност за човечеството в дълготраен проект.
Хинтън изрази особена угриженост по отношение на развиването на самостоятелни оръжейни системи, които преследват дадена цел и независимо вземат решение да я унищожат, както и обстоятелството, че AI във военната сфера може да надмине човешкия разсъдък. За разлика от нуклеарните оръжия, сподели той, няма метод да разберем дали компании или страни не работят скрито върху технологията.
Думите на Хинтън се оказаха оракулски.
Наскоро учени от няколко американски университета изследваха по какъв начин биха се държали разнообразни модели чатботове при взимане на геополитически решения.
Чатботовете, употребявани в изследването, са GPT-4, GPT-3.5, Claude 2 и Llama 2. Според пробните условия в играта участваха осем страни, показани от тези AI модели, които малко по малко правиха разнообразни дейности: от дипломатически визити до нуклеарни удари.
Всички AI модели демонстрираха наклонност към нападателно държание. Държавите, следени от AI, влязоха в конкуренция във въоръжаването, проведоха нашествия и в някои случаи използваха нуклеарни оръжия.
Най-агресивният от всички беше новият Open AI - GPT-4 Base. В един сюжет този чатбот стартира нуклеарна война, обяснявайки решението си единствено с обстоятелството, че разполага с такова оръжие. GPT-3.5 се появи малко по-малко нападателно, което, макар че разгласи „ тактичност на въздържане “, остана в подтекста на предпазен удар.
В един случай с нуклеарно оръжие, оповестява New Scientist, GPT-4 даже уточни началния текст на Междузвездни войни Епизод IV: Нова вяра, с цел да изясни за какво е решил да ескалира обстановката.
„ - заключават откривателите.
В доклад, оповестен при започване на февруари предходната година от Американската асоциация за надзор на оръжията, се отбелязва, че изкуственият разсъдък може да докара до „ “ и че битката за
В неотдавна оповестената си книга AI and the Bomb: Nuclear Strategy and Risk in the Digital Age, анализаторът от Университета на Абърдийн Джеймс Джонсън разказва инцидентна нуклеарна война в Източнокитайско море през 2025 година, провокирана от AI разузнаването, както от американската, по този начин и на китайската страна с напъните на самостоятелни ботове, поддръжка на AI, deepfakes и интервенции под подправен байрак. “
Въпреки предизвестията на самостоятелни анализатори, Пентагонът, както писахме, сътвори оперативна група Lima /Лима/, с цел да изследва потреблението на AI за военни цели. „ Лима “ става част от Главната дирекция за дигитален и изкуствен интелект (CDAO) на Пентагона и се оглавява от капитан Ксавие Луго, член на дирекция „ Алгоритмична война “ на CDAO.
Според Министерството на защитата на Съединени американски щати основаната група
„ сподели заместник-държавният секретар Катлийн Хикс.
„
- предизвестява военният портал Breaking Defense.
През юни министърът на Военновъздушни сили на Съединени американски щати Франк Кендъл разгласи, че е изискал от Научния съвещателен съвет на Военновъздушни сили да изследва евентуалното влияние на технологията ChatGPT. сподели Кендъл.
Американските военни бързат да поверят на AI контрола на най-новите оръжия, най-вече самостоятелни оръжейни системи, т.е. бойни роботи, които летят, пълзят и плуват.
Фактът, че нито един от моделите на AI не е свободен от халюцинации и „ загуба на самоконтрол “, че всички те са склонни към нападателни дейности и не се плашат от нуклеарни офанзиви, не стопира задграничните изобретатели на следващото
Може би ще се опомнят, когато ракета, изстреляна против партизаните по чехли и ръководена от най-модерния AI, стартира да се прицелва в стартовата си точка.
Превод: Европейски Съюз
Източник: Фонд Стратегической Культурый
Поглед Видео:ПоследниНай-гледаниАлтернативен Поглед24371Проф. Нако Стефанов: Руско-турската освободителна война у нас изигра ролята на земеделска революцияАлтернативен Поглед34328Проф. Нако Стефанов: Наши и непознати сили желаят да трансфорат България в бойно полеАлтернативен Поглед97773Полк. Николай Марков: Аз мисля, че България е избрана да се трансформира в гетоАлтернативен Поглед139259Полк. Николай Марков: Изпращането на наши военни в Украйна ще провокира революция в БългарияАлтернативен Поглед14531Иван Таков: На Позитано-20 желаят да потопят положителните резултати от изборите в блатотоАлтернативен Поглед377249Явор Дачков за тайните театрални сюжети на Пеевски и Сглобката против РадевАлтернативен Поглед139259Полк. Николай Марков: Изпращането на наши военни в Украйна ще провокира революция в БългарияАлтернативен Поглед116647Явор Дачков: Интервюто на Тъкър Карлсон с Путин няма по какъв начин да не е контрактувано сред Русия и Съединени американски щати за разпределяне на напрежениетоКоментарен Поглед101488Д-р Румен Петков: Истината е шокираща! Съединени американски щати се опасяват от Тагарев, ето за какво....Алтернативен Поглед97773Полк. Николай Марков: Аз мисля, че България е избрана да се трансформира в гетоАвторски:ПоследниНай-четениВасил Проданов10755Залезът на Европа: Втора част – Технологическият залез
Източник: pogled.info
КОМЕНТАРИ