Изследовател е използвал ChatGPT, за да създаде зловреден софтуер за кражба на данни
VirusTotal не съумя да засече зловредния програмен продукт
Емил Василев преди 8 секунди 1 СподелиНай-четени
ПрепоръчаноЕмил Василев - 11:00 | 03.04.20237 неща за които не сте подозирали, че телефонът ви може да прави
НаукаЕмил Василев - 15:01 | 30.03.2023Учени предвиждат, че върхът за дълготрайност на човешкия живот може да бъде усъвършенстван до 2060 година
ПрепоръчаноДаниел Десподов - 14:25 | 05.04.2023Силно са затръшнали вратата: при напускането на Русия Cisco са унищожили съоръжение за съвсем 2 милиарда рубли
Емил Василевhttps://www.kaldata.com/От стартирането си предходната година ChatGPT провокира неспокойствие измежду софтуерните запалянковци с опцията си да написа публикации, стихотворения, кино сюжети и други Инструментът с изкуствен интелект може даже да генерира функционален код, стига да получи добре написана и ясна поръчка. Макар че множеството разработчици ще употребяват функционалността за изцяло безобидни цели, нов отчет допуска, че тя може да бъде употребена и от злонамерени участници за основаване на злотворен програмен продукт макар защитните ограничения, въведени от OpenAI.
Изследовател в региона на киберсигурността твърди, че е употребявал ChatGPT, с цел да създаде експлойт, който може да открадне данни от компрометирано устройство. Обезпокоително е, че зловредният програмен продукт даже е не е бил засечен от VirusTotal.
Аарон Малгрю от Forcepoint съобщи, че още при започване на процеса на основаване на зловредния програмен продукт е решил да не написа самичък никакъв код и да употребява единствено усъвършенствани техники, които нормално се употребяват от участници в закани.
Описвайки себе си като „ дилетант “ в създаването на злотворен програмен продукт, Малгрю сподели, че е употребявал езика за реализация Go освен поради лекотата на създаване, само че и тъй като е можел ръчно да в профил грешките в кода, в случай че се наложи. Използвал е също по този начин стеганография, която скрива секрети данни в елементарен файл или известие, с цел да се избегне откриването им.
Малгрю почнал, като непосредствено помолил ChatGPT да създаде зловредния програмен продукт, само че това предиздвикало защитните механизми на чатбота да влязат в деяние и той изрично отказал да извърши задачата от етични съображения. След това той решил да прояви творчество и помолил инструмента с изкуствен интелект да генерира дребни фрагменти от спомагателен код, преди той ръчно да сформира целия осъществим файл.
Така той съумял да извърши начинанието си, като ChatGPT е основал противоречивия код, който даже е заобиколил откриването му от VirusTotal. Въпреки това замазването на кода, с цел да се избегне откриването се оказало мъчно, защото ChatGPT разпознава сходни претенции като неетични и отхвърля да ги извърши.
Малгрю съобщи, че целият развой е лишил „ единствено няколко часа “. Той счита, че без чатбота на екип от 5-10 разработчици щяха да им бъдат нужни седмици, с цел да изработят зловредния програмен продукт и да подсигуряват, че той ще може да избегне откриването му от стратегиите за сигурност.
Макар че Малгрю е основал зловредния програмен продукт с изследователска цел, той съобщи, че теоретична офанзива от този вид би могла да бъде ориентирана към високопоставени лица, да вземем за пример.
