Когато киберпрестъпниците започнат да използват машинно обучение
През последните няколко години компанията Darktrace, профилирана в компютърна отбрана и потребление на машинно образование за разкриване на закани, е същинска изгряваща звезда в областта на киберсигурността. Нейната съществена технология за непрестанно рационализиране ѝ завоюва репутацията на водач в потреблението на изкуствения разсъдък (AI) за поддръжка на сигурността.
Но какво тормози екипа на Darktrace?
" Много решения за отбрана се базират на предходни офанзиви и се пробват да се учат от тях, тъй че AI и машинното образование се развиват към това, което сме видели преди. Това е много дейно при основаването на класификатор за машинно образование, който може да открива “троянски коне ". Но в случай че доставчиците на услуги в областта на киберсигурността одобряват насериозно AI при откриването на закани, няма ли техните сътрудници в престъпния свят да създадат същото?”, разяснява пред Computerworld Англия Андрю Цончев, кибераналитик в Darktrace.
За да разберете по какъв начин машинното образование може да бъде потребно за хакерска атака, би трябвало да разгледате случаи, в които то е дало мощни преимущества при отбрана. " Технологично простите набези са доста ефикасни, тъй като са много сложни за разкриване ", споделя Цончев и прибавя, че през по-голямата част от времето хакерските атаки се свеждат до познатите кражба на пароли, фишинг, обществено инженерство и така нататък Чести са обстановките, при които външен сървър е злепоставен посредством идентификационни данни на даден чиновник, употребявал една и съща ключова дума за персоналните и служебните си системи. Това може да рефлектира и върху сигурността на корпоративната мрежа. “Когато има нерегламентиран достъп до данни и пароли, нарушителите внасят информацията в търгувани и споделяни бази данни и има действителна заплаха тези изтекли пароли да работят и върху елементи от корпоративни системи”, предизвестява Андрю Цончев.
Това обаче е офанзива за засвидетелствуване - нежелателна, лъжлива, само че не и механически разграничима като злонамерена във връзка с нарушаването на контрола за достъп. А това я прави сложна за разкриване за разлика от офанзиви, при които се прави опит за преодоляване на мрежата през така наречен “задна вратичка”. Това е моментът, в който AI и машинното образование навлизат в уравнението.
" Ние сме мощно фокусирани върху машинното образование и сме доста наясно с изгодите. Затова и сме доста обезпокоени от момента, в който ще има необятен достъп до злотворен програмен продукт и инструментариум, основан на неестествен интелект”, изясни Цончев. По думите му това заплашва да заличи преимуществата на киберзащитата, които са налице сега, тъй като ненадейно нападателите ще могат да употребяват автоматизирани инструментите, основани на AI, за огромно прекопирване, ориентиране и пригаждане на офанзивите.
В компанията са безапелационни, че опцията за основаване на злотворен програмен продукт, който употребява машинно образование за проучване на мрежата и обмисляне на офанзиви, е извънредно притеснителна.
Това мислене може да се приложи към всички познати типове кибернападения. Фишинг офанзивите в по-голямата си част не са ориентирани съответно към избрана жертва, а към мрежата като цяло, и в случай че някой се хване, тогава отлично. Spearphishing - мощно таргетирания им братовчед - изисква нападателят да обърне особено внимание на задачата си, да наблюдава обществените ѝ профили, да построи профил, с цел да може след това да манипулира с електронна поща, задоволително безапелационна, с цел да премине “проверката на здравия разум”.
" Тревогата е, че изкуственият разсъдък ще се употребява за автоматизиране на този развой, при който системите ще бъдат подготвени да създадат електронните фишинг известия задоволително достоверни, че да минават теста за недоверчивост. Можете да упражнявате AI класификатора с големи бази данни от същински е-писма и да научите какво ги прави безапелационни. Така че в един миг не е изключено да се стигне до офанзиви против дребни и междинни компании, които имат равнището на трудност на тези, употребявани сега единствено от националните страни против сериозно значими цели”, предизвестява Андрю Цончев. А това несъмнено е притеснително.
Но какво тормози екипа на Darktrace?
" Много решения за отбрана се базират на предходни офанзиви и се пробват да се учат от тях, тъй че AI и машинното образование се развиват към това, което сме видели преди. Това е много дейно при основаването на класификатор за машинно образование, който може да открива “троянски коне ". Но в случай че доставчиците на услуги в областта на киберсигурността одобряват насериозно AI при откриването на закани, няма ли техните сътрудници в престъпния свят да създадат същото?”, разяснява пред Computerworld Англия Андрю Цончев, кибераналитик в Darktrace.
За да разберете по какъв начин машинното образование може да бъде потребно за хакерска атака, би трябвало да разгледате случаи, в които то е дало мощни преимущества при отбрана. " Технологично простите набези са доста ефикасни, тъй като са много сложни за разкриване ", споделя Цончев и прибавя, че през по-голямата част от времето хакерските атаки се свеждат до познатите кражба на пароли, фишинг, обществено инженерство и така нататък Чести са обстановките, при които външен сървър е злепоставен посредством идентификационни данни на даден чиновник, употребявал една и съща ключова дума за персоналните и служебните си системи. Това може да рефлектира и върху сигурността на корпоративната мрежа. “Когато има нерегламентиран достъп до данни и пароли, нарушителите внасят информацията в търгувани и споделяни бази данни и има действителна заплаха тези изтекли пароли да работят и върху елементи от корпоративни системи”, предизвестява Андрю Цончев.
Това обаче е офанзива за засвидетелствуване - нежелателна, лъжлива, само че не и механически разграничима като злонамерена във връзка с нарушаването на контрола за достъп. А това я прави сложна за разкриване за разлика от офанзиви, при които се прави опит за преодоляване на мрежата през така наречен “задна вратичка”. Това е моментът, в който AI и машинното образование навлизат в уравнението.
" Ние сме мощно фокусирани върху машинното образование и сме доста наясно с изгодите. Затова и сме доста обезпокоени от момента, в който ще има необятен достъп до злотворен програмен продукт и инструментариум, основан на неестествен интелект”, изясни Цончев. По думите му това заплашва да заличи преимуществата на киберзащитата, които са налице сега, тъй като ненадейно нападателите ще могат да употребяват автоматизирани инструментите, основани на AI, за огромно прекопирване, ориентиране и пригаждане на офанзивите.
В компанията са безапелационни, че опцията за основаване на злотворен програмен продукт, който употребява машинно образование за проучване на мрежата и обмисляне на офанзиви, е извънредно притеснителна.
Това мислене може да се приложи към всички познати типове кибернападения. Фишинг офанзивите в по-голямата си част не са ориентирани съответно към избрана жертва, а към мрежата като цяло, и в случай че някой се хване, тогава отлично. Spearphishing - мощно таргетирания им братовчед - изисква нападателят да обърне особено внимание на задачата си, да наблюдава обществените ѝ профили, да построи профил, с цел да може след това да манипулира с електронна поща, задоволително безапелационна, с цел да премине “проверката на здравия разум”.
" Тревогата е, че изкуственият разсъдък ще се употребява за автоматизиране на този развой, при който системите ще бъдат подготвени да създадат електронните фишинг известия задоволително достоверни, че да минават теста за недоверчивост. Можете да упражнявате AI класификатора с големи бази данни от същински е-писма и да научите какво ги прави безапелационни. Така че в един миг не е изключено да се стигне до офанзиви против дребни и междинни компании, които имат равнището на трудност на тези, употребявани сега единствено от националните страни против сериозно значими цели”, предизвестява Андрю Цончев. А това несъмнено е притеснително.
Източник: computerworld.bg
КОМЕНТАРИ