Бъдете внимателни с AI: чатботът ChatGPT-4o препраща потребителите към измамнически сайтове
Чатботът ChatGPT може самичък да сърфира в интернет, с цел да дава на потребителите подобаваща информация. ИИ обаче не постоянно се обръща към тествани и надеждни източници. Изданието Futurism откри, че AI-ботът на OpenAI не подценява измамническите уеб сайтове, пренасочвайки потребителите точно към тях.
В отговор на запитвания на публицисти за местни вести, ChatGPT във версия 4o неведнъж се е позовавал на лъжливия новинарски уебсайт Country Local News, който е бил цялостен с подправени изявления по отношение на нуждата от актуализиране на софтуера и подправени предизвестия за вируси. Изскачащите прозорци приканват потребителите да актуализират Adobe Flash Player и други сходни стратегии. Когато създателите на материала кликнат върху такова известие, уеб сайтът минава в режим на цялостен екран и сподели голям брой подправени вести за вируси под марката на антивирусната компания McAfee.
Марк Стокли, специалист по киберсигурност в Malwarebytes, е разгледал обстановката и е споделил, че в най-лошия случай такива злонамерени вести могат да предизвикат потребителя да изтегли евентуално нежелана стратегия (PUP) — тип програмен продукт, който не е необходим и който може да бъде скучен или сложен за унищожаване.
През последните 18 месеца той и сътрудниците му са видели голям скок в злонамерената реклама, употребена като средство за разпространяване на злотворен програмен продукт, споделя той. Престъпниците популяризират в законните рекламни мрежи, с цел да привлекат хората към подправените уеб страници и да ги подмамят да изтеглят злоумишлен програмен продукт, представяйки го за пълноценна стратегия. Стокли отбелязва, че злонамерените реклами имитират добре известни марки и са извънредно сложни за разкриване, а измамниците, които ги вършат, могат да злоупотребят със средствата за ръководство на таргета в рекламните мрежи, с цел да подсигуряват, че хората виждат подправените реклами като неща, от които е най-вероятно да се интересуват.
Групата за наблюдаване на дезинформацията NewsGuard по-рано откри, че GPT-4 на OpenAI е обвързван с материал, който явно е генериран от AI. Тези публикации са били оповестени и в локалните новинарски уеб сайтове.
Журналистите от Futurism заключават, че ChatGPT избира наличието, генерирано от AI, пред публикациите от реномирани източници като New York Times или Washington Post. Интересното в тази ситуация е, че чатботът не може да оцени надеждността на съответен източник. Когато бъде помолен за такава оценка, той приканва потребителя да съпостави данните с по-авторитетни източници, като вземе поради прозрачността на техните публицистични практики. В други случаи предизвестява за подвеждащи изявления и непредоставяне на надеждни източници.
Представител на McAfee — антивирусната компания, която се маскира като реклама, разкритикува ChatGPT за това, че приканва потребителите да отидат на излъган уебсайт. На собствен ред, когато публицисти са дали информация на OpenAI по отношение на неправилната работа на чатбота, те са дали обещание в бъдеще да поправят ChatGPT.
Но седмица по-късно ChatGPT към момента цитира локалните новинарски уеб сайтове, които към момента споделят на потребителите незабавно да актуализират софтуера си и да сканират компютрите си за вируси.
