И терористите вече използват генеративен AI
Генеративният изкуствен интелект (Gen AI) навлиза стремоглаво във от ден на ден услуги и сфери. Очаквано, не всички от тях са позитивни за обществото.
Екстремистки групи са почнал да опитват с Gen AI и други форми на изкуствен интелект, с цел да основават ново " потомство " агитация и да намират способи да заобикалят отбраните на обществените мрежи против тяхното наличие. Това оповестяват от организацията Tech Against Terrorism пред изданието Wired.
" Най-голямото ни терзание е, в случай че терористите стартират да употребяват Gen AI, с цел да манипулират огромни количества изображения. Това може да унищожи хеш-шеринга и е голям риск ", споделя Адам Хадли, изпълнителен шеф на организацията.
Хеш-шерингът е способ, който ИТ колосите употребяват от години, с цел да могат системите им да разпознават и блокират екстремистко наличие. За задачата фирмите построяват големи бази данни с такова наличие и го трансформират в хеш кодове, които автоматизирано си споделят. Така системите доста по-бързо и дейно откриват наличието и го отстраняват, постоянно в границите на секунди или минути от публикуването му.
Екстремистите пък непрекъснато се пробват да намират способи да заобикалят метода. И изкуственият разсъдък наподобява им оказва помощ. Хадли споделя, че екипът на организацията към този момент намира приблизително към 5000 изявления седмично, които са с екстремистко наличие и генерирани от изкуствен интелект. Това включва и изображения. Според Хадли, може в границите на към шест месеца, екстремистите да намерят метод да употребяват Gen AI, с цел да заобикалят хеш-шеринг рестриктивните мерки за изображения.
Засечени са разнообразни типове наличие - текст, фотоси и даже е открита система, която посредством изкуствен интелект трансформира диалект в текст и е особено усъвършенствана за екстремистка агитация. Направена е и стратегия, която да основава интернет колажи, карикатури и " мемета " с терористични апели и агитация. Други системи пък могат бързо да превеждат пропагандата на голям брой езици.
Хадли споделя, че организацията стартира партньорство с Microsoft, с цел да видят по какъв начин Gen AI може да се употребява за отбрана и предварителна защита от сходно наличие. Очакванията са и други компании и организации да се включат към напъните със свои планове и хрумвания, като упоритостта е това да стане бързо, защото напъните на екстремистите напредват.
Екстремистки групи са почнал да опитват с Gen AI и други форми на изкуствен интелект, с цел да основават ново " потомство " агитация и да намират способи да заобикалят отбраните на обществените мрежи против тяхното наличие. Това оповестяват от организацията Tech Against Terrorism пред изданието Wired.
" Най-голямото ни терзание е, в случай че терористите стартират да употребяват Gen AI, с цел да манипулират огромни количества изображения. Това може да унищожи хеш-шеринга и е голям риск ", споделя Адам Хадли, изпълнителен шеф на организацията.
Хеш-шерингът е способ, който ИТ колосите употребяват от години, с цел да могат системите им да разпознават и блокират екстремистко наличие. За задачата фирмите построяват големи бази данни с такова наличие и го трансформират в хеш кодове, които автоматизирано си споделят. Така системите доста по-бързо и дейно откриват наличието и го отстраняват, постоянно в границите на секунди или минути от публикуването му.
Екстремистите пък непрекъснато се пробват да намират способи да заобикалят метода. И изкуственият разсъдък наподобява им оказва помощ. Хадли споделя, че екипът на организацията към този момент намира приблизително към 5000 изявления седмично, които са с екстремистко наличие и генерирани от изкуствен интелект. Това включва и изображения. Според Хадли, може в границите на към шест месеца, екстремистите да намерят метод да употребяват Gen AI, с цел да заобикалят хеш-шеринг рестриктивните мерки за изображения.
Засечени са разнообразни типове наличие - текст, фотоси и даже е открита система, която посредством изкуствен интелект трансформира диалект в текст и е особено усъвършенствана за екстремистка агитация. Направена е и стратегия, която да основава интернет колажи, карикатури и " мемета " с терористични апели и агитация. Други системи пък могат бързо да превеждат пропагандата на голям брой езици.
Хадли споделя, че организацията стартира партньорство с Microsoft, с цел да видят по какъв начин Gen AI може да се употребява за отбрана и предварителна защита от сходно наличие. Очакванията са и други компании и организации да се включат към напъните със свои планове и хрумвания, като упоритостта е това да стане бързо, защото напъните на екстремистите напредват.
Източник: vesti.bg
КОМЕНТАРИ