Чатботовете с изкуствен интелект могат да се атакуват едни други(снимка:

Чатботовете с изкуствен интелект могат да се нападат едни други
(снимка: CC0 Public Domain)

Войните сред чатботове с изкуствен интелект наподобява не са далечна вероятност, а близко бъдеще. У чени от Технологичния университет Нанянг (NTU) в Сингапур откриха ефикасен метод за хакване на AI чатботове. За да създадат това, те образоват един AI чатбот да основава поръчки, които заобикалят сигурността на други AI чатботове .

Сингапурските откриватели употребяват двоен способ за хакване на огромен езиков модел (LLM), наименуван Masterkey. Първо, те правят противоположен инженеринг на това по какъв начин LLM открива и се пази от злонамерени поръчки. Използвайки тази информация, учените образоват LLM автоматизирано да предлага поръчки, които разрешават да се заобиколи сигурността на други LLM.
още по темата
По този метод е допустимо да се сътвори хакерски LLM, който може автоматизирано да се приспособява към новите условия и да основава нови хакерски поръчки, откакто разработчиците създадат корекции в своите LLM.

Серия от проби на хакерския LLM потвърждават, че този методът Masterkey в действителност съставлява действителна опасност. Изследователите неотложно уведомили доставчиците на услуги за разпознатите проблеми, откакто сполучливо хакнали техните AI модели.

Разработката на учените от NTU би трябвало да помогне на фирмите да разпознават слабостите и рестриктивните мерки на своите AI чатботове, с цел да могат да подхващат стъпки и да ги защитят от хакерски нападения.