OpenAI потвърдиха, че хакери използват ChatGPG за писане на зловреден код
Създателите на ChatGPT OpenAI потвърдиха предходни наблюдения, че AI асистента се употребява интензивно в хакерски акции. Компанията разгласява през предходната седмица и специфичен отчет по тематиката.
„ Влияние и кибероперации “ (pdf) преглежда потреблението на ChatGPT за разпространението на дезинформация, създаването на зловредни стратегии, провеждането на фишинг акции и отбягване на засичане от системите за сигурност.
За приложимост на ChatGPT за основаването на злотворен код писаха още през април Proofpoint. Тогава те сигнализираха, че APT (advanced persistent threat) групата TA547 употребяват PowerShell скрипт, написан от ChatGPT в офанзива. През предишния месец HP Wolf описаха за акция, ориентирана против френскоговорящи интернет консуматори. В акцията им хакерите употребявали AI принадлежности за писане на код и във финалната част на комплицирани офанзиви. OpenAI допълват тези наблюдения, давайки образци със засечени сходни дейности на ирански и китайски хакерски групи.
Едни от първите такива офанзиви са в действителност били ориентирани точно към чиновници на OpenAI. Това се случва в края на предходната година, като по случая работят и от Talos Security на Cisco. Става дума за акция, проведена от китайска хакерска група с името SweetSpecter. Атакуващата страна употребила клъстър от следени ChatGPT сметки за разнообразни действия. Освен за непосредствено писане на код, SweetSpecter употребили асистента за дебъгване, помощ при писането на фишинг писма, търсене на уязвимости и други
Вторият случай, прегледан тук е акция на иранска хакерска група, известна под името CyberAv3ngers. Смята се групировката е в тесни връзки с властта в Техеран. Основни цели на CyberAv3ngers са индустриални контролни системи. Те се допитвали до ChatGPT за писането на на bash и Python скриптове, отбрана на кода от разбор, както и разкриването на вградените записи за регистриране в известни PLC контролери.
