&format=webp)
Vibe hacking: Каква е новата дигитална заплаха, създадена от генеративния AI
В недалечното бъдеще един-единствен хакер ще може да задейства 20 zero-day офанзиви по целия свят по едно и също време. Това ще е полиморфен злотворен програмен продукт, който ще се самообучава благодарение на генеративен AI, като пренаписва себе си в действително време.
Хакерите-аматьори – в миналото считани за нискорискови – ще имат достъп до персонализирани огромни езикови модели, които основават нездравословен код единствено с натискането на един бутон.
Не, това не е научна фантастика. Към момента AI система заема челни позиции в няколко ранглисти на платформата HackerOne – корпоративна среда за bug bounty начинания. Нарича се XBOW – AI система, основана за етични хакери, която „ самостоятелно открива и експлоатира уязвими звена в 75% от уеб-бенчмарковете “, съгласно уеб страницата на компанията.
Днес всеки може да бъде хакер
Изкуственият разсъдък, подпомаган от LLM, към този момент доста улеснява основаването на код. Дори Microsoft признава, че употребява AI сътрудници, с цел да подкрепя личните си разработки. Всеки, който има достъп до ChatGPT, може да сътвори Python скрипт – без значение дали знае какво прави.
Оттам идва и към този момент познатият термин – vibe coding. Но както предизвестяват специалистите, идващото равнище, за жалост, стои от тъмната страна и носи името vibe hacking.
„ Ще забележим хакване единствено посредством чувство – хора без механически опит ще могат да кажат на изкуствения разсъдък какво тъкмо желаят да създадат и да получат решението съвсем незабавно “, споделя Кейти Мусурис, създател и CEO на Luta Security, пред WIRED.
Инструментите за vibe hacking се появяват на хоризонта още през 2023 година, когато LLM моделът WormGPT стартира да се популяризира из Discord, Telegram и тъмната мрежа. След като медиите и експертите по сигурност го разкриват, основателите му го стопират. Но на негово място се появяват нови – FraudGPT и други „ тъмни “ AI системи.
Много от тях, показва Abnormal AI, не са нищо повече от jailbreak-нати версии на ChatGPT, леко модифицирани, с цел да наподобяват като независими артикули. И в случай че си злоумишлен хакер, е по-лесно просто да се върнеш към истинските LLM-и.
ChatGPT, Gemini и Claude са лесни за заобикаляне. В онлайн пространството съществуват цели общности, отдадени на „ разчупване “ на отбраните. Anthropic даже предлага bug bounty награди за разкриване на способи да бъде измамен Claude.
„ Изключително значимо е за нас да създаваме моделите си по безвреден метод “, разяснява представител на OpenAI. „ Предприемаме ограничения за понижаване на риска от корист и непрестанно подобряваме отбраните си против употреба и jailbreak-ове. “
Гугъл отхвърля коментар по тематиката.
През 2023 година специалисти от Trend Micro потвърждават, че ChatGPT може да бъде принуден да генерира злотворен код – стига да го убедиш, че си етичен хакер, който взе участие в capture-the-flag съревнование. И това, естествено, работи – генерира PowerShell скриптове, основани на действителни бази данни със злоумишлен код.
„ Можеш да го използваш за основаването на злотворен програмен продукт “, споделя Мусурис. „ Най-лесният метод да заобиколиш отбраните е да се престориш на откривател по сигурността. “
Ужасът не са новаците, а експертите
„ AI доста смъква бариерата за влизане в промишлеността на киберпрестъпността “, споделя Хейли Бенедикт, анализатор по киберразузнаване в RANE. Хакерите-аматьори не са нов проблем, само че AI им дава ново оръжие.
Въпреки това, съгласно нея, действителната опасност идва от напредналите хакерски групи, които употребяват изкуствен интелект за мащабиране на към този момент съществуващите си офанзиви.
„ Те към този момент имат инфраструктура и потенциал. Сега просто ще станат по-бързи “, споделя тя.
Мусурис е изцяло съгласна с това изказване: „ Именно ускорението ще направи всичко това извънредно мъчно за управление. “
Хейдън Смит от Hunted Labs добавя, че действителната заплаха идва, когато умел хакер употребява AI, с цел да усъвършенства офанзивите си.
„ Когато някой с дълбоки механически знания стартира да работи с инструмент, който му икономисва дни работа и му дава същия резултат за 30 минути – това към този момент е нещо съществено “, споделя той.
По мнение на Смит, атакуващ с опит би могъл да сътвори система, която автоматизирано приспособява своя payload, заобикаля отбрани и се самообучава в придвижване.
„ Това би било изцяло откачено и съвсем невероятно за преодоляване “, признава той.
Той си показва сюжет, в който 20 zero-day офанзиви се случват по едно и също време. „ Това към този момент е в действителност плашещо. “
Мусурис добавя, че инструментите с сходен мащаб към този момент съществуват през днешния ден.
„ В ръцете на задоволително добър оператор те са задоволително мощни. Но към момента не сме в този стадий, в който един дилетант може изцяло да размени човешкия фактор с изкуствен интелект. “
„ Все още не сме достигнали до там в развиването на AI, че той да може изцяло да поеме функционалностите на индивида в офанзивната сигурност “, споделя тя.
Автономен AI хакер?
XBOW е евентуално най-близкото нещо до същински „ AI хакер “, което съществува в действителния свят. Но той не е основан от инцидентен консуматор – зад системата стоят над 20 души с опит в GitHub, Microsoft и водещи компании за сигурност
„ Най-добрата отбрана против злоумишлен хакер с AI е етичен хакер с AI “, споделя Бенедикт.
Мусурис назовава всичко това просто идващия стадий в конкуренцията.
„ Преди създавах кодове ръчно. После създавах принадлежности, които всеки може да употребява. А в този момент – AI е просто още един инструмент в този боеприпас. “
И както споделя тя:
„ Тези, които знаят по какъв начин да го ръководят, ще основат vibe интерфейсите, които всички останали ще употребяват. “
Хакерите-аматьори – в миналото считани за нискорискови – ще имат достъп до персонализирани огромни езикови модели, които основават нездравословен код единствено с натискането на един бутон.
Не, това не е научна фантастика. Към момента AI система заема челни позиции в няколко ранглисти на платформата HackerOne – корпоративна среда за bug bounty начинания. Нарича се XBOW – AI система, основана за етични хакери, която „ самостоятелно открива и експлоатира уязвими звена в 75% от уеб-бенчмарковете “, съгласно уеб страницата на компанията.
Днес всеки може да бъде хакер
Изкуственият разсъдък, подпомаган от LLM, към този момент доста улеснява основаването на код. Дори Microsoft признава, че употребява AI сътрудници, с цел да подкрепя личните си разработки. Всеки, който има достъп до ChatGPT, може да сътвори Python скрипт – без значение дали знае какво прави.
Оттам идва и към този момент познатият термин – vibe coding. Но както предизвестяват специалистите, идващото равнище, за жалост, стои от тъмната страна и носи името vibe hacking.
„ Ще забележим хакване единствено посредством чувство – хора без механически опит ще могат да кажат на изкуствения разсъдък какво тъкмо желаят да създадат и да получат решението съвсем незабавно “, споделя Кейти Мусурис, създател и CEO на Luta Security, пред WIRED.
Инструментите за vibe hacking се появяват на хоризонта още през 2023 година, когато LLM моделът WormGPT стартира да се популяризира из Discord, Telegram и тъмната мрежа. След като медиите и експертите по сигурност го разкриват, основателите му го стопират. Но на негово място се появяват нови – FraudGPT и други „ тъмни “ AI системи.
Много от тях, показва Abnormal AI, не са нищо повече от jailbreak-нати версии на ChatGPT, леко модифицирани, с цел да наподобяват като независими артикули. И в случай че си злоумишлен хакер, е по-лесно просто да се върнеш към истинските LLM-и.
ChatGPT, Gemini и Claude са лесни за заобикаляне. В онлайн пространството съществуват цели общности, отдадени на „ разчупване “ на отбраните. Anthropic даже предлага bug bounty награди за разкриване на способи да бъде измамен Claude.
„ Изключително значимо е за нас да създаваме моделите си по безвреден метод “, разяснява представител на OpenAI. „ Предприемаме ограничения за понижаване на риска от корист и непрестанно подобряваме отбраните си против употреба и jailbreak-ове. “
Гугъл отхвърля коментар по тематиката.
През 2023 година специалисти от Trend Micro потвърждават, че ChatGPT може да бъде принуден да генерира злотворен код – стига да го убедиш, че си етичен хакер, който взе участие в capture-the-flag съревнование. И това, естествено, работи – генерира PowerShell скриптове, основани на действителни бази данни със злоумишлен код.
„ Можеш да го използваш за основаването на злотворен програмен продукт “, споделя Мусурис. „ Най-лесният метод да заобиколиш отбраните е да се престориш на откривател по сигурността. “
Ужасът не са новаците, а експертите
„ AI доста смъква бариерата за влизане в промишлеността на киберпрестъпността “, споделя Хейли Бенедикт, анализатор по киберразузнаване в RANE. Хакерите-аматьори не са нов проблем, само че AI им дава ново оръжие.
Въпреки това, съгласно нея, действителната опасност идва от напредналите хакерски групи, които употребяват изкуствен интелект за мащабиране на към този момент съществуващите си офанзиви.
„ Те към този момент имат инфраструктура и потенциал. Сега просто ще станат по-бързи “, споделя тя.
Мусурис е изцяло съгласна с това изказване: „ Именно ускорението ще направи всичко това извънредно мъчно за управление. “
Хейдън Смит от Hunted Labs добавя, че действителната заплаха идва, когато умел хакер употребява AI, с цел да усъвършенства офанзивите си.
„ Когато някой с дълбоки механически знания стартира да работи с инструмент, който му икономисва дни работа и му дава същия резултат за 30 минути – това към този момент е нещо съществено “, споделя той.
По мнение на Смит, атакуващ с опит би могъл да сътвори система, която автоматизирано приспособява своя payload, заобикаля отбрани и се самообучава в придвижване.
„ Това би било изцяло откачено и съвсем невероятно за преодоляване “, признава той.
Той си показва сюжет, в който 20 zero-day офанзиви се случват по едно и също време. „ Това към този момент е в действителност плашещо. “
Мусурис добавя, че инструментите с сходен мащаб към този момент съществуват през днешния ден.
„ В ръцете на задоволително добър оператор те са задоволително мощни. Но към момента не сме в този стадий, в който един дилетант може изцяло да размени човешкия фактор с изкуствен интелект. “
„ Все още не сме достигнали до там в развиването на AI, че той да може изцяло да поеме функционалностите на индивида в офанзивната сигурност “, споделя тя.
Автономен AI хакер?
XBOW е евентуално най-близкото нещо до същински „ AI хакер “, което съществува в действителния свят. Но той не е основан от инцидентен консуматор – зад системата стоят над 20 души с опит в GitHub, Microsoft и водещи компании за сигурност
„ Най-добрата отбрана против злоумишлен хакер с AI е етичен хакер с AI “, споделя Бенедикт.
Мусурис назовава всичко това просто идващия стадий в конкуренцията.
„ Преди създавах кодове ръчно. После създавах принадлежности, които всеки може да употребява. А в този момент – AI е просто още един инструмент в този боеприпас. “
И както споделя тя:
„ Тези, които знаят по какъв начин да го ръководят, ще основат vibe интерфейсите, които всички останали ще употребяват. “
Източник: profit.bg
КОМЕНТАРИ