AI в ръцете на престъпници: Войната между бизнеса и хакерите навл...
През последните седмици фирмите Anthropic и OpenAI показаха нови модели на изкуствен интелект – Mythos Preview и 5.5-Cyber – които са толкоз мощни в откриването и потреблението на недостатъци в киберзащитата, че към този момент са предоставени единствено на стеснен кръг доверени организации. Но това не подсигурява сигурност. Нови модели се появяват непрекъснато, а хакерите към този момент употребяват по-ранни версии на сходни системи.
Според Арора това не е равнопоставена борба – благодарение на AI даже един-единствен хакер може да прави офанзиви, за които преди са били нужни цели екипи. Освен това нападателите би трябвало да съумеят единствено един път, с цел да пробият системата. Защитниците, назад, би трябвало да са безпогрешни всякога.
Затова киберсигурността и бизнесът като цяло се приготвят за вълна от закононарушения, задвижвани от изкуствен интелект. В промишлеността компании като Palo Alto Networks и CrowdStrike към този момент основават съюзи, с цел да създадат потреблението на новите модели по-безопасно. Но реакцията на първите консуматори е била смесена – от интерес до „ суматоха и потрес “, както разказва обстановката специалистът от CrowdStrike Адам Майърс.
Въпреки това появяването на тези модели е и самобитен сигнал за пробуждане – оценката на киберготовността към този момент не се прави единствено в IT отделите, а доближава до висшия мениджмънт и бордовете на фирмите, където доминира по-скоро паника, в сравнение с оптимизъм. Най-притеснителното е, че даже достъпът до най-опасните AI мод
ели да бъде лимитиран, нарушителите бързо наваксват.
Малко откакто Anthropic показа Mythos, OpenAI пусна серията 5.5, която съгласно английския Институт за сигурност на AI може даже да е по-способна. Очаква се и други играчи – в това число отворени (open-source) планове и китайски компании – да развият сходни благоприятни условия.
„ Джинът към този момент е излязъл от бутилката “, разясняват специалисти.
Още преди новите модели, по-старите версии към този момент са ускорили хакерските офанзиви. Според CrowdStrike през 2025 година офанзивите, подкрепени от AI, са нарастнали с 89% по отношение на миналата година.
Допълнителен риск основават самостоятелните AI сътрудници, които могат да извършват голям брой задания сами. Хакерите също могат да употребяват такива принадлежности, с цел да усилят мащаба и сложността на офанзивите. Колкото повече компании внедряват AI сътрудници в програмиране, обслужване на клиенти и други действия, толкоз повече се уголемява „ повърхността “ за офанзиви. В отговор на това Palo Alto Networks неотдавна разгласи придобиване на компанията Portkey, която оказва помощ за ръководството и отбраната на AI сътрудници.
Проблемът се усложнява и от обстоятелството, че AI инструментите към този момент откриват голям брой уязвимости в софтуера. Тези недостатъци се записват като така наречен CVE (common vulnerabilities and exposures). Броят им пораства бързо, а съгласно специалисти може скоро да се усили десетократно – до стотици хиляди годишно. Възможен сюжет е изкуственият разсъдък да открива проблеми по-бързо, в сравнение с хората могат да ги поправят.
Добрата вест е, че AI освен оказва помощ на нападателите, само че и на бранителите. Компании с основна роля в интернет инфраструктурата към този момент получават стеснен достъп до най-новите модели, с цел да тестват личните си системи. Други версии на моделите също се дават на по-широк кръг от доверени организации – сходно на „ предпочитани консуматори “ в изключителна обстановка.
Пример за триумф дава Mozilla, която оповестява, че ранна версия на Mythos е помогнала да бъдат открити 271 уязвимости в нова версия на браузъра Firefox. Според компанията моделът е съумял да разпознава всички бъгове, които биха разкрили и човешки експерти – нещо немислимо единствено преди няколко месеца.
Но съгласно специалисти като Никеш Арора, макар положителните планове, както софтуерните лаборатории, по този начин и промишлеността за киберсигурност към момента не са изцяло подготвени за новата действителност. А към този момент няма универсално решение – което, несъмнено, е най-хубавата вест за хакерите.
Според Арора това не е равнопоставена борба – благодарение на AI даже един-единствен хакер може да прави офанзиви, за които преди са били нужни цели екипи. Освен това нападателите би трябвало да съумеят единствено един път, с цел да пробият системата. Защитниците, назад, би трябвало да са безпогрешни всякога.
Затова киберсигурността и бизнесът като цяло се приготвят за вълна от закононарушения, задвижвани от изкуствен интелект. В промишлеността компании като Palo Alto Networks и CrowdStrike към този момент основават съюзи, с цел да създадат потреблението на новите модели по-безопасно. Но реакцията на първите консуматори е била смесена – от интерес до „ суматоха и потрес “, както разказва обстановката специалистът от CrowdStrike Адам Майърс.
Въпреки това появяването на тези модели е и самобитен сигнал за пробуждане – оценката на киберготовността към този момент не се прави единствено в IT отделите, а доближава до висшия мениджмънт и бордовете на фирмите, където доминира по-скоро паника, в сравнение с оптимизъм. Най-притеснителното е, че даже достъпът до най-опасните AI мод
ели да бъде лимитиран, нарушителите бързо наваксват.
Малко откакто Anthropic показа Mythos, OpenAI пусна серията 5.5, която съгласно английския Институт за сигурност на AI може даже да е по-способна. Очаква се и други играчи – в това число отворени (open-source) планове и китайски компании – да развият сходни благоприятни условия.
„ Джинът към този момент е излязъл от бутилката “, разясняват специалисти.
Още преди новите модели, по-старите версии към този момент са ускорили хакерските офанзиви. Според CrowdStrike през 2025 година офанзивите, подкрепени от AI, са нарастнали с 89% по отношение на миналата година.
Допълнителен риск основават самостоятелните AI сътрудници, които могат да извършват голям брой задания сами. Хакерите също могат да употребяват такива принадлежности, с цел да усилят мащаба и сложността на офанзивите. Колкото повече компании внедряват AI сътрудници в програмиране, обслужване на клиенти и други действия, толкоз повече се уголемява „ повърхността “ за офанзиви. В отговор на това Palo Alto Networks неотдавна разгласи придобиване на компанията Portkey, която оказва помощ за ръководството и отбраната на AI сътрудници.
Проблемът се усложнява и от обстоятелството, че AI инструментите към този момент откриват голям брой уязвимости в софтуера. Тези недостатъци се записват като така наречен CVE (common vulnerabilities and exposures). Броят им пораства бързо, а съгласно специалисти може скоро да се усили десетократно – до стотици хиляди годишно. Възможен сюжет е изкуственият разсъдък да открива проблеми по-бързо, в сравнение с хората могат да ги поправят.
Добрата вест е, че AI освен оказва помощ на нападателите, само че и на бранителите. Компании с основна роля в интернет инфраструктурата към този момент получават стеснен достъп до най-новите модели, с цел да тестват личните си системи. Други версии на моделите също се дават на по-широк кръг от доверени организации – сходно на „ предпочитани консуматори “ в изключителна обстановка.
Пример за триумф дава Mozilla, която оповестява, че ранна версия на Mythos е помогнала да бъдат открити 271 уязвимости в нова версия на браузъра Firefox. Според компанията моделът е съумял да разпознава всички бъгове, които биха разкрили и човешки експерти – нещо немислимо единствено преди няколко месеца.
Но съгласно специалисти като Никеш Арора, макар положителните планове, както софтуерните лаборатории, по този начин и промишлеността за киберсигурност към момента не са изцяло подготвени за новата действителност. А към този момент няма универсално решение – което, несъмнено, е най-хубавата вест за хакерите.
Източник: frognews.bg
КОМЕНТАРИ