Европол предупреждава за потенциалнo криминалните приложения на ChatGPT
Удивително е какъв брой доста неща може да прави ChatGPT – от писане на есета и имейли до основаване на програмен код. Но с опциите му елементарно се злоупотребява. Агенцията на Европейския съюз за съдействие в региона на наказателното правораздаване (Европол) стана най-новата организация, която предизвестява, че нарушителите ще употребяват чатбота за престъпни действия като фишинг, измами, дезинформация и общи киберпрестъпления.
Европол отбелязва, че огромните езикови модели (Large Language Models – LLMs) се развиват бързо и към този момент са навлезли в всеобщия живот. Множество промишлености внедряват LLM, в това число и за незаконни действия.
„ Вече може да се планува въздействието, което тези типове модели могат да окажат върху работата на правоприлагащите органи. Престъпниците нормално бързо се възползват от новите технологии и бързо бяха видяни да измислят съответни незаконни модели, като предоставиха първите на практика образци единствено няколко седмици след общественото стартиране на ChatGPT. “
пише Европол
Европол отбелязва, че способността на ChatGPT да изготвя текст въз основа на няколко къси подсказки го прави съвършен за фишинг офанзиви. Тези имейли нормално се разпознават по правописните и граматическите неточности или подозрителното наличие – предупредителни знаци, които ChatGPT може да избегне. Инструментът може също по този начин да написа в характерни стилове въз основа на вида машинация, което усилва възможностите за сполучлива игра на обществено инженерство (вид манипулация).
Освен това ChatGPT може да основава достоверно звучащ текст със скорост и мащаб, което го прави съвършен инструмент за задачите на пропагандата и дезинформацията.
Но може би най-опасният аспект на ChatGPT е, че може той да написа злотворен код за киберпрестъпници, които имат малко или никакви знания по програмиране. Европол написа, че защитните ограничения, които не разрешават на ChatGPT да дава евентуално злотворен код, работят единствено в случай че моделът схваща какво прави.
„ Ако подканите са разрушени на обособени стъпки, е допустимо да се заобиколят тези ограничения за сигурност “.
Въз основа на предходни отчети, услугата на OpenAI към този момент се употребява по този метод. През януари откриватели в региона на сигурността откриха, че ChatGPT се употребява във конгреси за киберпрестъпност като „ учебен “ инструмент и платформа за основаване на злотворен програмен продукт. Чатботът би могъл да се употребява и за отговаряне на механически запитвания за хакване на мрежи или ескалиране (получаване) на привилегии.
Използването на ChatGPT не се лимитира до основаването на съответни текстове или код. Потенциален нарушител би могъл да го употребява, с цел да се запознае с съответна област на престъпност, да вземем за пример тероризъм или принуждение над деца. Въпреки че тази информация може да бъде открита в интернет, ChatGPT много улеснява откриването и разбирането ѝ с помощта на метода, по който се показва резултатът от поръчката.
