Кой стои зад опитите за превръщане на ИИ в оръжие

Кой стои зад опитите за преобразяване на ИИ в оръжие за наблюдаване и дезинформация?

OpenAI е блокирала редица сметки, които са употребявали ChatGPT за основаване на евентуално злотворен инструмент за наблюдаване, основан на ИИ. Според откривателите този инструмент за наблюдаване на обществените мрежи евентуално е бил създаден в Китай и е употребявал един от моделите Meta Llama.

Анализът сподели, че блокираните сметки са употребявали опциите на ChatGPT за генериране на подробни описания и разбор на документи, допринасяйки за основаването на система, която е събирала данни в действително време за митингите против Китай на Запад. След това информацията е била излъчена на китайските управляващи. Кампанията е получила кодовото име Peer Review (партньорска проверка) поради систематичното разпространение и тестване на технологиите за наблюдаване.

В рамките на следствието OpenAI разкри потреблението на ChatGPT за премахване на неточности и модифициране на изходния код на системата, известна като „ Qianyue Overseas Public Opinion AI Assistant “. Инструментът е анализирал изявления и мнения в платформи като X, Фейсбук, Instagram, YouTube, Telegram и Reddit, като е проследявал споменаването на протестните придвижвания и други чувствителни тематики.

Нападателите са употребявали ChatGPT и за събиране на обществени данни за американски мозъчни тръстове, за политическите фигури от Австралия, Камбоджа и Съединени американски щати, както и за превод и разбор на документи, съдържащи информация за уйгурските митинги. Автентичността на някои от екранните фотоси, качени в системата, остава под въпрос.

Освен това OpenAI разкрива и приключи работата на няколко други мрежи, употребяващи ChatGPT за следните противозаконни действия:

Измамна скица за наемане на работа. Група, обвързвана със Северна Корея, е употребила невронната мрежа, с цел да основава подправени автобиографии, профили и писма за наемане на работа като част от скица за машинация на ИТ компании. Пропаганда в Латинска Америка. Китайска мрежа популяризира антиамерикански публикации на британски и испански език, като ги разгласява в уеб сайтове в Перу, Мексико и Еквадор. Някои от дейностите съответстват с известната по-рано акция Spamouflage. Романтични измами. Свързана с Камбоджа група основава мнения на японски, китайски и британски език за капиталови и сантиментални измами. Проиранска агитация. Мрежа от пет акаунта разгласява материали в поддръжка на Палестина, Хамас и Иран, като в същото време се опълчва на Съединени американски щати и Израел. Някои сметки обслужват няколко акции по едно и също време. Киберпрестъпността в Северна Корея. Групите Kimsuky и BlueNoroff са употребявали ChatGPT за изследване на средствата за офанзиви, свързани с криптовалутите, и за премахване на неточности в кода за RDP bruteforcing. Манипулиране на информацията в Гана. Мрежата е разгласила публикации и мнения, оказващи въздействие върху изборите в Гана, посредством англоезичния уеб уебсайт Empowering Ghana. Мошеничество при възлагането на задания. Камбоджанска мрежа е примамвала хора към лъжливи задания (напр. оценяване на лайковете и писане на ревюта против пари), като е изисквала авансово заплащане за присъединяване.

Инцидентът илюстрира, че изкуственият разсъдък от дълго време е ефикасен инструмент за осъществяване на хакерски атаки, разпространяване на дезинформация и манипулиране на публичното мнение. Неотдавнашен отчет на Гугъл Threat Intelligence Group удостовери, че най-малко 57 групи, свързани с Китай, Иран и Северна Корея, към този момент употребяват изкуствен интелект при другите стадии на офанзивите, в това число генериране на наличие и разбор на информацията.

OpenAI акцентира, че взаимната работа сред ИИ фирмите, обществените мрежи, доставчиците на хостинг услуги и откривателите спомага за откриването на заканите и създаването на механизми за отбрана против корист с ИИ. Тази съгласуваност дава опция за навреме разкриване на злонамерените участници и доста лимитира тяхното влияние.