Популярните чатботове допускат грешки, от които могат да се възползват

Популярните чатботове позволяват неточности, от които могат да се възползват измамниците в интернет пространството (снимка: CC0 Public Domain)

Популярният чатбот с изкуствен интелект ChatGPT постоянно бърка, когато потребителите го помолят да им даде линкове към публични уеб сайтове на огромни компании, откри изследване. Това крие сериозен риск от измами с фишинг.

В хода на тестванията, извършени от откривателите на Netcraft, моделът GPT-4.1 предлага верен URL единствено в 66% от случаите. Останалите разновидности са били или на несъществуващи страници (29%), или на законни (5%), само че не тези, поискани от потребителите.

Подобни неточности откриват нови благоприятни условия за мошениците, сигнализира Роб Дънкан, началник на отдела за проучвания на заканите в Netcraft. Ако изкуственият разсъдък предложи неработещ домейн, нападателите могат да го записват и да основат фишинг страница.

Проблемът е, че чатботовете проучват думи и асоциации и не ревизират репутацията на уеб страниците. Например, в отговор на поръчка за уеб страницата на Wells Fargo в един от случаите ChatGPT е дал адреса на подправена страница, която преди този момент е била употребена за фишинг офанзиви.

Киберпрестъпниците приспособяват методите си към новата действителност, защото потребителите от ден на ден разчитат на изкуствен интелект, вместо на търсачки, без да вземат поради, че чатботовете могат да вършат неточности, разяснява Дънкан.

Измамниците съзнателно основават наличие, което е по-вероятно да попадне в отговори на изкуствения разсъдък. Например, Netcraft е разкрила подправен Solana API, който се популяризира посредством складове на GitHub, образователни материали и сметки в обществените медии, като задачата му е да вгради злоумишлен код в изхода на чатбота.

Тази скица е сходна на офанзивите против веригите за доставки, само че тук задачата е друга – да се принудят разработчиците да употребяват неверен API, разяснява Дънкан. И в двата случая нападателите работят последователно, само че резултатът е еднообразно рисков.
Ти имаш концепциите. Ние – мобилната мощност зад тях.
iPhone 16 Pro и iPad Pro за модерния бизнес – с поддръжката на iStyle »»»
предишна обява: Dassault се гмурка надълбоко в света на виртуалните близнаци за фабрики следваща обява:
графа: Изкуствен разсъдък, Новаторски, Новини, Топ вести | етикети: ChatGPT, изкуствен интелект, фишинг, чатбот
Коментар

ИМЕ *