С помощта на ChatGPT фишинг и BEC атаките стават още

С помощта на ChatGPT фишинг и BEC офанзивите стават още по-трудни за различаване от хора и AI защитни системи (снимка: CC0 Public Domain)

ChatGPT — огромният езиков модел, създаден от OpenAI и основан на генератора на натурален език GPT-3 — притегля голямо внимание в последните месеци. Но освен любопитните хора и съобразителните възпитаници прибягват до уменията му – кибер-измамниците също виждат отлична нова опция.

ChatGPT носи големи последствия за сигурността. За разлика от типичните чатботове и НЛП системи, ChatGPT ботовете се държат като същински хора – хора с дипломи по философия и нравственос и съвсем всичко останало. Реториката е майсторска. Това прави ChatGPT отличен инструмент за… фишинг и компрометиране на бизнес-имейли.

ChatGPT за фишинг

Неотдавнашно изследване на Андрю Пател и Джейсън Сатлър от W/Labs с примамливото заглавие „ Креативно злонамерено бързо инженерство “ откри, че огромните езикови модели, употребявани от ChatGTP, са отлични за основаване на фишинг офанзиви.

По думите на специалистите, езиковите модели могат да „ изпращат майсторски подправени текстови известия “ в стила на писане на действителен човек, да възприемат стилистични особености, да оферират отзиви и да основават подправени вести. Това значи, че принадлежности като ChatGPT могат да основават голям брой итерации на фишинг имейли, като всеки опит може да реализира създаване на доверие у човешкия си адресат и да заблуди общоприетите принадлежности за засичане на недоверчив текст.

Крейн Хасолд, анализатор в Abnormal Security, споделя, че способността на ChatGPT да написа безапелационно звучащ текст е съпоставима с тази на умел създател на наличие. В този смисъл инструментът е „ страховит многофункционален инструмент за злоумишленици “. Той даже съумява да написа по този начин, че да избегне обичайните фишинг знаци, за които ИТ екипите образоват личния състав в организациите по света.
още по темата
„ Той може да сътвори реалистични имейли, без тези писма да извикват аларми в инструментите за сигурност и без индикации, че нещо е злонамерено “, споделя Хасолд. „ Може да бъде по-детайлен, по-реалистичен и по-разнообразен “.

Abnormal Security прави опит: изисква от ChatGPT да напише пет нови разновидността на фишинг офанзива, ориентирана към отделите за човешки запаси и ТРЗ. В резултат логаритъмът генерира за по-малко от минута пет известия, които Хасолд разказва като „ неповторими “.

… и BEC офанзиви

Способността на логаритъма да написа безапелационно го прави отличен инструмент и за измами по схемата „ злепоставен бизнес-имейл “ (BEC). Хасолд споделя, че злонамерените играчи в подземни общности за BEC офанзиви си споделят шаблони, които те и „ сътрудниците “ им употребяват неведнъж. Това е повода, заради която е допустимо доста хора на разнообразни места по света да получат едни и същи типове лъжливи имейли.

Генерираните от ChatGPT електронни писма обаче изкусно заобикалят повторяемостта. Те могат да заобикалят защитните принадлежности, които разчитат на идентифициране на злонамерени текстови поредици. „ С ChatGPT можете да създавате неповторим имейл всякога, за всяка акция “, споделя Хасолд.

В различен собствен опит той изисква от ChatGPT да сътвори имейл, който „ има огромна възможност да накара получателя да кликне върху линк “. „ Полученото известие изглеждаше доста сходно на доста фишинг имейли с идентификационни данни, които виждаме в ежедневната си работа “, споделя специалистът.

Когато следователите от Abnormal Security питат бота за какво счита, че имейлът ще има висок % на триумф, той връща удивителен отговор: „ дълъг текст, стъпващ на главните правила на общественото инженерство зад това, което прави фишинг-имейла ефикасен “.

AI против AI


Когато става въпрос за маркиране на BEC офанзиви, преди те да доближат до получателите, Хасолд предлага потребление на AI за битка с… AI. Подобни принадлежности могат да наблюдават за по този начин наречените „ поведенчески артефакти “ – присъщи характерности, които не касаят активността и уменията на ChatGPT. Това изисква анализиране на:

„ Да кажем, че знам верния имейл адрес, от който следва да ми написа лицето Джон Смит. Ако екранното име и имейл адресът не съответстват, това може да е поведенческа индикация за злонамерена активност “, сподели той. „ Ако съпоставите тази информация със сигнали от тялото на имейла, можете да забележите индикации, които се разграничават от вярното държание “.