Съвременните средства за хакване на компютърни системи, базирани на изкуствен

Съвременните средства за хакване на компютърни системи, основани на изкуствен интелект са станали толкоз усъвършенствани, че съвсем са надминали същинските хакери. Такива са резултатите от опит, извършен от откриватели в Станфордския университет, написа The Wall Street Journal.

Почти през цялата предходна година група учени от Станфорд е разработвала чатбота с изкуствен интелект Artemis, предопределен за хакерски интервенции. Той сканира мрежата за вероятни неточности (софтуерни уязвимости) и по-късно намира способи да употребява тези уязвимости, с цел да проникне в системите. След като образоват изкуствения разсъдък, те го пускат отвън лабораторията и го молят да откри неточности в действителната компютърна мрежа на инженерния отдел на един университет. Дейността на Artemis беше съпоставена с работата на същински хакери.

Първоначално създателите на опита не очаквали доста от Artemis, само че в реалност той се оказал извънредно добър и надминал девет от десетте експерти, наети от откривателите за тестване.

Artemis откривал неточности със светкавична скорост, а поддръжката му била относително евтина – 60 $ на час, до момента в който експерт със същия профил печели от 2000 до 2500 $ на час. Работата на Artemis въпреки всичко не беше съвършена – към 18% от известията за уязвимости бяха подправено положителни. Той също по този начин пропусна явна неточност, която множеството хора виждат на дадена уебстраница.

Мрежата в Станфорд не е била хаквана от чатботове с изкуствен интелект преди този момент и опитът се оказа добра опция за премахване на някои дефекти в отбраната. Artemis има и функционалност за спешно изключване, която позволяваше на откривателите неотложно да деактивират инструмента при положение на проблеми. Изследователите показват, че огромна част от софтуерния код по света не е надеждно тестван за уязвимости, тъй че принадлежности като Artemis могат да бъдат дълготрайна облага за мрежовите експерти, като им оказват помощ да открият и отстранят повече неточности в кода от всеки път. В кратковременен проект обаче това е и опасност – нападателите могат да се извърнат към изкуствения разсъдък, с цел да намерят и употребяват уязвимости.

Интересно е, че Artemis е разкрил една от грешките на страница, която не се отваря от актуалните браузъри – откривателите на уязвимостите са я пропуснали, само че той я е разкрил, тъй като е отворил страницата благодарение на помощната стратегия cURL. По-рано разработчикът на тази стратегия се оплака, че е бил покрит с лавина от подправени известия за неточности в нея, които сякаш откриват AI моделите.