Може ли AI да разпали нова надпревара във въоръжаването?
Правителствата по света бързат да възприемат логаритмите, които вдъхнаха някакво сходство на просветеност в приложения, като ChatGPT, явно запленени от голямата икономическа облага, предстояща от технологията, написа.
Два нови отчета, оповестени тази седмица, демонстрират, че доста страни бързат да приспособяват същата технология и в оръжия за дезинформация, а това може да се трансформира в тревожна конкуренция за въоръжаването с AI сред великите сили, написа електронното издание Wired.
Изследователи от американския мозъчен концерн RAND показват доказателства, че китайски боен откривател, който има опит с осведомителни акции, обществено е обсъждал по какъв начин генеративният AI може да помогне за сходни задания.
Една изследователска публикация от януари 2023 година предлага потреблението на огромни езикови модели, като усъвършенстваната версия на логаритъма BERT на Гугъл -предшественик на по-мощните модели, които зареждат ChatGPT и други чатботове.
" Няма доказателства, че сходно нещо към този момент се случва. По-скоро имаме индикации, че някои хора и организации оферират способи и механизми, по които то може да се случи “, разяснява пред изданието специалистът по изкуствен интелект на RAND Уилям Марселино.
Той и други негови сътрудници са разтревожени от вероятността акциите за политическо въздействие да придобият нов мащаб и мощ с помощта на генеративния AI.
" Измислянето на система за основаване на милиони подправени сметки, които се показват за тайвански, американски или немски и прокарват политически разказ, ще бъде доста друго и в качествено, и в количествено отношение ", споделя Марселино.
Информационните онлайн акции, като тази, която съветската организация за интернет проучвания организира, с цел да реализира интервенция в изборите в Съединени американски щати през 2016 година, съществуват от години.
До момента те зависеха най-много от ръчен труд - хора, които подават несъмнено наличие и са известни в онлайн средите като " тролове ".
Но AI логаритмите, създадени през последните години, биха могли евентуално да създават всеобщо текст, изображения и видео, предопределени да излъгват или да убеждават хора в обществените платформи.
А изчисленията демонстрират, че стартирането на такава акция може да коства единствено неколкостотин $.
Марселино и неговите съавтори означават, че доста страни, в това число Съединени американски щати, съвсем несъмнено изследват потреблението на генеративен AI за личните си осведомителни акции.
А необятната досегаемост на генериращите принадлежности, в това число множеството езикови модели с отворен код, които всеки може да получи и модифицира, смъква летвата за искащите да започват лични осведомителни акции.
" Най-различни участници биха могли да употребяват генеративен AI за манипулиране на обществените мрежи, в това число играчи отвън държавния уред “, се показва в проучването.
Учените предизвестяват, че генеративният изкуствен интелект може скоро да се трансформира в метод страните да се опълчват една на друга.
Някои от тях упорстват държавното управление на Съединени американски щати да влага съществено в генеративен AI, защото технологията дава обещание да даде подтик на доста разнообразни промишлености и да обезпечи „ нови военни качества, стопански разцвет и културно въздействие “ за страните, които съумеят да овладеят първи тази технологии.
Подобно на отчета на RAND, разбор на различен мозъчен концерн - Проектът за специфични конкурентни проучвания (SCSP), също прави някои мрачни изводи.
Той предизвестява, че капацитетът на генеративния AI евентуално ще провокира конкуренция във въоръжаването за адаптиране на технологията и за потреблението ѝ от армията или при хакерски атаки.
Ако догатките на откривателите са правилни, светът може би се насочва към информационно-космическа конкуренция във въоръжаването, която може да се окаже изключително сложна за преодоляване.
Отговорът на този въпрос изисква от хората да приказват между тях. Докладът на SCSP предлага Съединени американски щати да поемат " световен ангажимент за поощряване на прозрачността, доверието и съдействието “.
Изследователите от RAND предлагат американските и китайските дипломати да обсъдят дружно генеративния AI и рисковете към технологията.
" В интерес на всички е да нямаме интернет, който е изцяло нечист и манипулативен. Мисля, че това е нещо, с което всички можем да се съгласим ", споделя Уилям Марселино.
Два нови отчета, оповестени тази седмица, демонстрират, че доста страни бързат да приспособяват същата технология и в оръжия за дезинформация, а това може да се трансформира в тревожна конкуренция за въоръжаването с AI сред великите сили, написа електронното издание Wired.
Изследователи от американския мозъчен концерн RAND показват доказателства, че китайски боен откривател, който има опит с осведомителни акции, обществено е обсъждал по какъв начин генеративният AI може да помогне за сходни задания.
Една изследователска публикация от януари 2023 година предлага потреблението на огромни езикови модели, като усъвършенстваната версия на логаритъма BERT на Гугъл -предшественик на по-мощните модели, които зареждат ChatGPT и други чатботове.
" Няма доказателства, че сходно нещо към този момент се случва. По-скоро имаме индикации, че някои хора и организации оферират способи и механизми, по които то може да се случи “, разяснява пред изданието специалистът по изкуствен интелект на RAND Уилям Марселино.
Той и други негови сътрудници са разтревожени от вероятността акциите за политическо въздействие да придобият нов мащаб и мощ с помощта на генеративния AI.
" Измислянето на система за основаване на милиони подправени сметки, които се показват за тайвански, американски или немски и прокарват политически разказ, ще бъде доста друго и в качествено, и в количествено отношение ", споделя Марселино.
Информационните онлайн акции, като тази, която съветската организация за интернет проучвания организира, с цел да реализира интервенция в изборите в Съединени американски щати през 2016 година, съществуват от години.
До момента те зависеха най-много от ръчен труд - хора, които подават несъмнено наличие и са известни в онлайн средите като " тролове ".
Но AI логаритмите, създадени през последните години, биха могли евентуално да създават всеобщо текст, изображения и видео, предопределени да излъгват или да убеждават хора в обществените платформи.
А изчисленията демонстрират, че стартирането на такава акция може да коства единствено неколкостотин $.
Марселино и неговите съавтори означават, че доста страни, в това число Съединени американски щати, съвсем несъмнено изследват потреблението на генеративен AI за личните си осведомителни акции.
А необятната досегаемост на генериращите принадлежности, в това число множеството езикови модели с отворен код, които всеки може да получи и модифицира, смъква летвата за искащите да започват лични осведомителни акции.
" Най-различни участници биха могли да употребяват генеративен AI за манипулиране на обществените мрежи, в това число играчи отвън държавния уред “, се показва в проучването.
Учените предизвестяват, че генеративният изкуствен интелект може скоро да се трансформира в метод страните да се опълчват една на друга.
Някои от тях упорстват държавното управление на Съединени американски щати да влага съществено в генеративен AI, защото технологията дава обещание да даде подтик на доста разнообразни промишлености и да обезпечи „ нови военни качества, стопански разцвет и културно въздействие “ за страните, които съумеят да овладеят първи тази технологии.
Подобно на отчета на RAND, разбор на различен мозъчен концерн - Проектът за специфични конкурентни проучвания (SCSP), също прави някои мрачни изводи.
Той предизвестява, че капацитетът на генеративния AI евентуално ще провокира конкуренция във въоръжаването за адаптиране на технологията и за потреблението ѝ от армията или при хакерски атаки.
Ако догатките на откривателите са правилни, светът може би се насочва към информационно-космическа конкуренция във въоръжаването, която може да се окаже изключително сложна за преодоляване.
Отговорът на този въпрос изисква от хората да приказват между тях. Докладът на SCSP предлага Съединени американски щати да поемат " световен ангажимент за поощряване на прозрачността, доверието и съдействието “.
Изследователите от RAND предлагат американските и китайските дипломати да обсъдят дружно генеративния AI и рисковете към технологията.
" В интерес на всички е да нямаме интернет, който е изцяло нечист и манипулативен. Мисля, че това е нещо, с което всички можем да се съгласим ", споделя Уилям Марселино.
Източник: darik.bg
КОМЕНТАРИ