Разбиха първата голяма AI-кибератака, приписвана на китайска хаке...
В обява в X компанията предизвестява, че казусът може да има съществени последици за киберсигурността в епохата на самостоятелните AI-агенти.
По данни от техния блог, през септември е засечена „ подозрителна интензивност “, която при следствие се оказва комплицирана шпионска интервенция. Хакерите са употребявали „ шпионските качества “ на AI в невиждан мащаб, като Claude не просто е съветвал офанзивата, а е изпълнявал действителни дейности.
Anthropic твърди с висока степен на убеденост, че е идентифицирала причинителите – хакерска група, подкрепяна от Китай. Чрез операция на инструмента Claude Code те са пробвали да обхванат в към 30 световни цели: огромни софтуерни компании, банки, химически производители и държавни организации.
Нападателите са разрушили интервенцията на стотици дребни задания, които AI е изпълнявал, без да схваща общия подтекст. Представили са се за законна киберфирма, с цел да отключат отбраните на системата, което е разрешило на Claude да инспектира инфраструктури, да открива сериозни бази данни, да написа експлойт код, да събира идентификационни данни и да провежда открадната информация – всичко това при най-малък човешки контрол.
По оценка на компанията 80–90% от офанзивата е била осъществена от AI. В пика ѝ Claude е генерирал хиляди поръчки в секунда – ритъм, неосъществим за човешки екип.
След засичане на интервенцията Anthropic блокира обвързваните сметки и уведомява засегнатите организации, както и управляващите. Компанията към този момент е подобрила системите си за разкриване и попречване на сходни офанзиви и дава обещание да споделя обществено значими случаи.
Въпреки това от Anthropic акцентират, че изцяло самостоятелна AI-атака към момента не е допустима, защото моделите могат да „ халюцинират “ данни и да позволяват груби неточности.
Тенденцията обаче е ясна – бариерата за огромни кибероперации, подкрепени от AI, пада бързо и даже дребни групи могат да реализират резултат, еднакъв на работата на професионален хакерски екип.
По данни от техния блог, през септември е засечена „ подозрителна интензивност “, която при следствие се оказва комплицирана шпионска интервенция. Хакерите са употребявали „ шпионските качества “ на AI в невиждан мащаб, като Claude не просто е съветвал офанзивата, а е изпълнявал действителни дейности.
Anthropic твърди с висока степен на убеденост, че е идентифицирала причинителите – хакерска група, подкрепяна от Китай. Чрез операция на инструмента Claude Code те са пробвали да обхванат в към 30 световни цели: огромни софтуерни компании, банки, химически производители и държавни организации.
Нападателите са разрушили интервенцията на стотици дребни задания, които AI е изпълнявал, без да схваща общия подтекст. Представили са се за законна киберфирма, с цел да отключат отбраните на системата, което е разрешило на Claude да инспектира инфраструктури, да открива сериозни бази данни, да написа експлойт код, да събира идентификационни данни и да провежда открадната информация – всичко това при най-малък човешки контрол.
По оценка на компанията 80–90% от офанзивата е била осъществена от AI. В пика ѝ Claude е генерирал хиляди поръчки в секунда – ритъм, неосъществим за човешки екип.
След засичане на интервенцията Anthropic блокира обвързваните сметки и уведомява засегнатите организации, както и управляващите. Компанията към този момент е подобрила системите си за разкриване и попречване на сходни офанзиви и дава обещание да споделя обществено значими случаи.
Въпреки това от Anthropic акцентират, че изцяло самостоятелна AI-атака към момента не е допустима, защото моделите могат да „ халюцинират “ данни и да позволяват груби неточности.
Тенденцията обаче е ясна – бариерата за огромни кибероперации, подкрепени от AI, пада бързо и даже дребни групи могат да реализират резултат, еднакъв на работата на професионален хакерски екип.
Източник: frognews.bg
КОМЕНТАРИ