Киберзаплахите в ерата на AI и как да се защитим
Генеративният AI се употребява изкусно от нарушителите и даже има специфични „ тъмни ” версии
Генеративният AI не поражда нови типове киберпрестъпления, той просто автоматизира съществуващите (снимка: CC0 Public Domain)
Изкуственият разсъдък направи гражданска война в софтуерната промишленост и това е еднообразно правилно както за частните предприятия и държавните служби, по този начин и за света на киберпрестъпността. Находчивите нападатели от ден на ден употребяват генеративен AI , с цел да подобрят своите тактики, техники и процедури и да осъществят офанзивите по-бързо, по-ефективно и по-коварно.
Както и при законното потребление на нововъзникващи AI принадлежности, закононарушенията благодарение на генеративен AI залагат на все същите „ козове ”: повече продуктивност и успеваемост, разтоварване от рутинните и повтаряеми задания в интерес на по-мащабно и дълготрайно мислене. Именно потреблението на GenAI принадлежности за кибернападения и методите за отбрана ще бъде водеща тематика на тазгодишния Cybersecurity Forum 2025, проведен от европейския снабдител на решения за киберсигурност Crayon онлайн на 15 май 2025 година
По създание генеративният AI не поражда нови типове киберпрестъпления. Той просто автоматизира съществуващите. Ускорява ги, мащабира ги. Един законен консуматор може да извлече изгода от генеративния AI за автоматизиране на своите служебни задачи; той може да опрости и облекчи работата си, да понижи времето и напъните за постигането на даден резултат. Е, тогава за какво нарушителят да не може да направи същото?
Фишинг от последващо равнище
Генеративният AI разрешава основаване на безапелационни, персонализирани писма. По същия метод той се употребява и за генериране на безапелационни фишинг имейли. Това доста усилва вероятността евентуалните жертви да повярват, да кликнат, да дават сензитивна информация на лъжливи уеб сайтове или пък да изтеглят злотворен програмен продукт.
Писането на фишинг имейли изисква внимание и изпитание като всяко друго писане на писмо. Доскоро един от намеците, че сме получили измамническо обръщение, беше съществуването на граматически неточности и глупости във форматирането. Е, потреблението на генеративен AI разрешава на киберпрестъпниците да се спасят от тези неудобства. Те могат бързо да генерират по-сложни, грамотно завършени и законно изглеждащи имейли, с капацитет за по-голяма персонализация към получателя.
Инструментите на генеративния AI оказват помощ на нарушителите да обединят разнообразни източници на данни, с цел да уточняват акциите си – без значение дали става дума за групово обществено профилиране или целенасочена информация, събрана от обществени медии.
Нещо повече – лъжливите писма могат да съдържат гласови известия и даже видео-бележки, които звучат и наподобяват като че ли са от изцяло законен източник – сътрудник, началник, родственик. Съвременните генеративни AI могат бързо и много на ниска цена да основат подправено видео с облика на тъкмо избрана персона. Това бе образно демонстрирано по време на последния Cybersecurity Forum 2024, проведен от Crayon. Оттогава до момента генеративните принадлежности се развиха още повече.
По-лесно писане на злотворен код
Изкуственият разсъдък може да се употребява и за генериране на осъществим код. За кибернападателите това значи опция за основаване на по-сложен код или най-малко по-малко трудоемък развой на писане.
Например, киберпрестъпниците употребяват генеративен AI за основаване на злонамерени HTML документи. Това може да е видимо безобидна страница, която обаче съдържа злоумишлен код. Когато нищо неподозиращият консуматор я изтегли, той започва изпълнимите команди – и анализаторите по киберсигурността все по-често споделят, че сходни набези носят „ почерка ” на генеративен AI.
Употребата на генеративните средства може да разреши даже на неопитни киберизмамници бързо да създават и усъвършенстват софтуерни принадлежности за нахлуване.
Ускоряване на търсенето на уязвимости и експлойти
Традиционно сложната задача за анализиране на системи в търсене на уязвимости и създаване на експлойти може да бъде опростена посредством потребление на технологии от AI арсенала. Кибернападателите към този момент не прекарват време в проучване и разузнаване. Те просто дават тази задача на сътрудник с изкуствен интелект – и той го прави автоматизирано.
Генеративният AI може да понижи на половина времето сред откриването на уязвимостта и нейното потребление от нападателите. Това фрапантно ускорение изрично демонстрира, че огромният софтуерен прогрес – генеративният AI – разрешава на нападателите да експлоатират уязвимостите с невиждана скорост.
Наред с това атакуващите употребяват генеративен AI дружно с принадлежности за пентестинг, с цел да пишат скриптове за задания като мрежово сканиране, ескалация на привилегии и персонализиране на „ потребния товар ”. Предполага се, че AI евентуално се употребява от киберпрестъпниците и за анализиране на резултатите от сканирането и предложение на оптимални експлойти, което им разрешава да разпознават по-бързо пробойните и слабите места в ИТ системите на жертвите.
Ескалиращи закани с различни платформи
Киберпрестъпниците бързо се преориентират към най-ефективните платформи. Според някои експерти, сега е налице „ миграция ” от добре познатия ChatGPT към нови AI модели от Китай – DeepSeek и Qwen – за генериране на злонамерено наличие.
Нападателите намерено споделят техники за джейлбрейк на тези модели, заобикаляне на контролите за сигурност и основаване на злотворен програмен продукт, кражба на информация и спам акции с минимални ограничавания. Някои даже разискват по какъв начин да употребяват тези AI принадлежности, с цел да избегнат банковите отбрани против измами.
В тъмните мрежи могат да се намерят голям брой полемики и споделени техники за потребление на DeepSeek за заобикаляне на отбраните против измами на банковата система, което демонстрира капацитет за обилни финансови вреди.
Говори се даже, че киберпрестъпниците са почнали да създават свои лични огромни езикови модели (LLM) – като WormGPT, FraudGPT, DarkBERT и други, построени без защитните ограничения, които лимитират злоупотребата от страна на нарушители с главните платформи за изкуствен интелект.
Тези нови, „ профилирани ” платформи нормално се употребяват за приложения като фишинг и генериране на злотворен програмен продукт.
Мерки за противопоставяне
Злоупотребата с генеративния AI улеснява по-малко квалифицираните киберпрестъпници и дава още повече сили на опитните. Нуждата от отбрана провокира експертите по сигурността да употребяват силата на изкуствения разсъдък по-ефективно от нападателите. Те би трябвало да се трансфорат в бързи, проницателни следователи, стремително надушващи признаците на преднамереност – в безпощадни ловци на измами, набези и закани.
Това ще бъде и една от главните задания на тазгодишния Cybersecurity Forum 2025, който ще премине под слогана „ Киберзащита в ерата на AI ” – онлайн, на 15 май. В рамките на лекционния панел и работните семинари гостите ще могат да подобрят своите качества за „ ловуване “ на закани, направени благодарение на генеративни принадлежности, и да се усъвършенстват в дейно разкриване и анализиране на закани за сигурността.
Все отново специалистите по киберзащита не трябва да не помнят, че напъните им ще имат доста повече резултат, в случай че трансфорат сътрудниците си от всички останали отдели в свои съдружници. Програмите за образование и информираност на чиновниците са от сериозно значение в ерата на генеративния AI. Това, наред със средствата за засичане на закани, разбор и реагиране може да сведе кибернетичните опасности до най-малко.
„ Нулево доверие “ – неизбежната парадигма в киберсигурността
" Не вярвай на никого, проверявай всички и всичко " - това е новият стандарт в грижата за осведомителната отбрана »»»
предишна обява: Intel прокарва концепция за модулни лаптопи следваща обява:
графа: Актуално, Корпоративни, Новини, Сигурност | етикети: Crayon, Cybersecurity Forum 2025, изкуствен интелект, киберзащита, киберсигурност
Мария Малцева
Пише по тематики от ИТ сферата от края на 1999 година с фокус върху бизнес-софтуера и проблемите на осведомителното общество. От 2009 година написа и за зелени технологии » Коментар
ИМЕ *
Генеративният AI не поражда нови типове киберпрестъпления, той просто автоматизира съществуващите (снимка: CC0 Public Domain)
Изкуственият разсъдък направи гражданска война в софтуерната промишленост и това е еднообразно правилно както за частните предприятия и държавните служби, по този начин и за света на киберпрестъпността. Находчивите нападатели от ден на ден употребяват генеративен AI , с цел да подобрят своите тактики, техники и процедури и да осъществят офанзивите по-бързо, по-ефективно и по-коварно.
Както и при законното потребление на нововъзникващи AI принадлежности, закононарушенията благодарение на генеративен AI залагат на все същите „ козове ”: повече продуктивност и успеваемост, разтоварване от рутинните и повтаряеми задания в интерес на по-мащабно и дълготрайно мислене. Именно потреблението на GenAI принадлежности за кибернападения и методите за отбрана ще бъде водеща тематика на тазгодишния Cybersecurity Forum 2025, проведен от европейския снабдител на решения за киберсигурност Crayon онлайн на 15 май 2025 година
По създание генеративният AI не поражда нови типове киберпрестъпления. Той просто автоматизира съществуващите. Ускорява ги, мащабира ги. Един законен консуматор може да извлече изгода от генеративния AI за автоматизиране на своите служебни задачи; той може да опрости и облекчи работата си, да понижи времето и напъните за постигането на даден резултат. Е, тогава за какво нарушителят да не може да направи същото?
Фишинг от последващо равнище
Генеративният AI разрешава основаване на безапелационни, персонализирани писма. По същия метод той се употребява и за генериране на безапелационни фишинг имейли. Това доста усилва вероятността евентуалните жертви да повярват, да кликнат, да дават сензитивна информация на лъжливи уеб сайтове или пък да изтеглят злотворен програмен продукт.
Писането на фишинг имейли изисква внимание и изпитание като всяко друго писане на писмо. Доскоро един от намеците, че сме получили измамническо обръщение, беше съществуването на граматически неточности и глупости във форматирането. Е, потреблението на генеративен AI разрешава на киберпрестъпниците да се спасят от тези неудобства. Те могат бързо да генерират по-сложни, грамотно завършени и законно изглеждащи имейли, с капацитет за по-голяма персонализация към получателя.
Инструментите на генеративния AI оказват помощ на нарушителите да обединят разнообразни източници на данни, с цел да уточняват акциите си – без значение дали става дума за групово обществено профилиране или целенасочена информация, събрана от обществени медии.
Нещо повече – лъжливите писма могат да съдържат гласови известия и даже видео-бележки, които звучат и наподобяват като че ли са от изцяло законен източник – сътрудник, началник, родственик. Съвременните генеративни AI могат бързо и много на ниска цена да основат подправено видео с облика на тъкмо избрана персона. Това бе образно демонстрирано по време на последния Cybersecurity Forum 2024, проведен от Crayon. Оттогава до момента генеративните принадлежности се развиха още повече.
По-лесно писане на злотворен код
Изкуственият разсъдък може да се употребява и за генериране на осъществим код. За кибернападателите това значи опция за основаване на по-сложен код или най-малко по-малко трудоемък развой на писане.
Например, киберпрестъпниците употребяват генеративен AI за основаване на злонамерени HTML документи. Това може да е видимо безобидна страница, която обаче съдържа злоумишлен код. Когато нищо неподозиращият консуматор я изтегли, той започва изпълнимите команди – и анализаторите по киберсигурността все по-често споделят, че сходни набези носят „ почерка ” на генеративен AI.
Употребата на генеративните средства може да разреши даже на неопитни киберизмамници бързо да създават и усъвършенстват софтуерни принадлежности за нахлуване.
Ускоряване на търсенето на уязвимости и експлойти
Традиционно сложната задача за анализиране на системи в търсене на уязвимости и създаване на експлойти може да бъде опростена посредством потребление на технологии от AI арсенала. Кибернападателите към този момент не прекарват време в проучване и разузнаване. Те просто дават тази задача на сътрудник с изкуствен интелект – и той го прави автоматизирано.
Генеративният AI може да понижи на половина времето сред откриването на уязвимостта и нейното потребление от нападателите. Това фрапантно ускорение изрично демонстрира, че огромният софтуерен прогрес – генеративният AI – разрешава на нападателите да експлоатират уязвимостите с невиждана скорост.
Наред с това атакуващите употребяват генеративен AI дружно с принадлежности за пентестинг, с цел да пишат скриптове за задания като мрежово сканиране, ескалация на привилегии и персонализиране на „ потребния товар ”. Предполага се, че AI евентуално се употребява от киберпрестъпниците и за анализиране на резултатите от сканирането и предложение на оптимални експлойти, което им разрешава да разпознават по-бързо пробойните и слабите места в ИТ системите на жертвите.
Ескалиращи закани с различни платформи
Киберпрестъпниците бързо се преориентират към най-ефективните платформи. Според някои експерти, сега е налице „ миграция ” от добре познатия ChatGPT към нови AI модели от Китай – DeepSeek и Qwen – за генериране на злонамерено наличие.
Нападателите намерено споделят техники за джейлбрейк на тези модели, заобикаляне на контролите за сигурност и основаване на злотворен програмен продукт, кражба на информация и спам акции с минимални ограничавания. Някои даже разискват по какъв начин да употребяват тези AI принадлежности, с цел да избегнат банковите отбрани против измами.
В тъмните мрежи могат да се намерят голям брой полемики и споделени техники за потребление на DeepSeek за заобикаляне на отбраните против измами на банковата система, което демонстрира капацитет за обилни финансови вреди.
Говори се даже, че киберпрестъпниците са почнали да създават свои лични огромни езикови модели (LLM) – като WormGPT, FraudGPT, DarkBERT и други, построени без защитните ограничения, които лимитират злоупотребата от страна на нарушители с главните платформи за изкуствен интелект.
Тези нови, „ профилирани ” платформи нормално се употребяват за приложения като фишинг и генериране на злотворен програмен продукт.
Мерки за противопоставяне
Злоупотребата с генеративния AI улеснява по-малко квалифицираните киберпрестъпници и дава още повече сили на опитните. Нуждата от отбрана провокира експертите по сигурността да употребяват силата на изкуствения разсъдък по-ефективно от нападателите. Те би трябвало да се трансфорат в бързи, проницателни следователи, стремително надушващи признаците на преднамереност – в безпощадни ловци на измами, набези и закани.
Това ще бъде и една от главните задания на тазгодишния Cybersecurity Forum 2025, който ще премине под слогана „ Киберзащита в ерата на AI ” – онлайн, на 15 май. В рамките на лекционния панел и работните семинари гостите ще могат да подобрят своите качества за „ ловуване “ на закани, направени благодарение на генеративни принадлежности, и да се усъвършенстват в дейно разкриване и анализиране на закани за сигурността.
Все отново специалистите по киберзащита не трябва да не помнят, че напъните им ще имат доста повече резултат, в случай че трансфорат сътрудниците си от всички останали отдели в свои съдружници. Програмите за образование и информираност на чиновниците са от сериозно значение в ерата на генеративния AI. Това, наред със средствата за засичане на закани, разбор и реагиране може да сведе кибернетичните опасности до най-малко.
„ Нулево доверие “ – неизбежната парадигма в киберсигурността
" Не вярвай на никого, проверявай всички и всичко " - това е новият стандарт в грижата за осведомителната отбрана »»»
предишна обява: Intel прокарва концепция за модулни лаптопи следваща обява:
графа: Актуално, Корпоративни, Новини, Сигурност | етикети: Crayon, Cybersecurity Forum 2025, изкуствен интелект, киберзащита, киберсигурност
Мария Малцева
Пише по тематики от ИТ сферата от края на 1999 година с фокус върху бизнес-софтуера и проблемите на осведомителното общество. От 2009 година написа и за зелени технологии » Коментар
ИМЕ *
Източник: technews.bg
КОМЕНТАРИ