Австралийският чатбот Apate бе обучен да се подиграва на телефонните измамници
Експерти по киберсигурност от университета Макуори (Австралия) създадоха основания на изкуствен интелект чатбот Apate, който е подготвен да се показва за човек в диалог с телефонните измамници, като задачата му е да задържи събеседника допустимо най-дълго на линията.
Идеята за стартиране на плана идва, когато неговият началник професор Дали Кафар (Dali Kaafar) получава позвъняване от телефонни измамници и ученият ги държи на линията 40 минути. Професорът решил, че този развой може да бъде автоматизиран благодарение на AI, свързвайки модели за обработка на естествения език и създавайки чатбот, който може да се показва за човек и да води телефонен диалог с измамника. Проектът е наименуван Apate в чест на Апата — древногръцката богиня на лъжата и измамата.
Проектът се основава на езиков модел, сходен на ChatGPT, към който е обвързвана системата за гласово клониране. Apate беше подготвен на текстове за действителни взаимоотношения с измамниците: на преписи на телефонни диалози, както и на преписка по е-поща и в обществените мрежи. Чатботът е тестван върху действителни позвънявания от измамници. За задачата, учените са решили да ги предизвикат, като купили няколко телефонни номера, които почнали предумишлено да разгласяват в съмнителни интернет уеб сайтове.
Целта на плана е да задържи събеседника на линията 40 минути без съответен резултат — това е много дълго време и огромен брой такива диалози могат да разклатят “бизнес модела “ на нарушителите. Въпреки това, междинното време за разговор с Apate е единствено 5 минути. В редица случаи AI изненада основателите си — той сподели много съобразителност в ексцентрични обстановки, когато измамници са поискали информация, която не е участвала в учащите материали.
Самите представители на незаконния свят сега интензивно внедряват AI, употребявайки технологии за клониране на гласа и дийпфейк. Следователно, планът Apate е тип съразмерен отговор на усъвършенстваните решения от страна на измамниците. Учените допускат, че сходни чатботове могат да бъдат внедрявани и от телефонните оператори.
