Всеобхватният изкуствен интелект крие неподозирани рискове от кибератаки(снимка: CC0 Public

Всеобхватният изкуствен интелект крие неподозирани опасности от хакерски атаки
(снимка: CC0 Public Domain)

Нов вид кибер офанзива може да усили потреблението на сила на системите за неестествен разсъдък. По същия метод, по който офанзивата вид „ отвод на услуга ” в интернет (DDoS) се стреми да задръсти мрежата и да я направи неизползваема, новият вид нахлуване над AI принуждава дълбоката невронна мрежа да впрегне повече изчислителни запаси от нужното и да забави процеса си на „ мислене ” .

През последните години възходящата социална угриженост по отношение на увеличаващото се ползване на сила на огромните модели на AI накара откривателите да проектират по-ефективни невронни мрежи. Една категория, известна като „ архитектура за адаптивна входяща информация и множествена изходяща информация ”, работи, като разделя дилемите съгласно това какъв брой мъчно се вземат решение. След това изразходва минималното количество изчислителни запаси, нужни за решаването на всяка задача.

Как става това? Да предположим, че имаме фотография на лъв, гледащ право в камерата с съвършено осветяване, и фотография на лъв, приклекнал измежду комплициран пейзаж, отчасти прикрит от погледа поради листа, дървета и други Традиционната невронна мрежа ще прекара двете фотоси през всичките си пластове на разбор. Тя ще вложи еднообразно количество калкулации, с цел да разпознае всяка от фотосите, отбелязва.

Но адаптивната система може да прекара първата фотография единствено през един изчерпателен пласт, преди да доближи нужния предел на доверие, с цел да дефинира сигурно, че вижда лъв. Това понижава въглеродния отпечатък на системата. Също по този начин усъвършенства неговата скорост и разрешава въпросният неестествен разсъдък да бъде вграждан в дребни устройства като смарт телефони и интелигентни аудио-колонки.
още по тематиката
Но съществуването на този тип невронна мрежа за неестествен разсъдък значи, че в случай че променим входящото изображение, можем да променим количеството калкулации, които са му нужни, с цел да позволи гатанката и да стигне до решение. Това разкрива накърнимост, която хакерите могат да употребяват.

За казуса заговориха откриватели от Центъра за киберсигурност в Мериленд в нов отчет, показан на Международната конференция за образователни технологии тази седмица. Добавяйки дребни количества образен звук към входящата информация, подавана на системата с неестествен разсъдък, учените са съумели да я накарат да схване подадените задания като доста по-трудни и да включи доста повече и по-сложни калкулации.

Какво значи това? Ако предположим, че нападателят разполага с цялостна информация за, той може да направи по този начин, че да усили оптимално енергийната ѝ консумация. Но даже и да предположим, споделят учените, че нападателят има лимитирана или даже оскъдна информация, той въпреки всичко може да успее да забави обработката на мрежата и да усили потреблението на сила с 20% до 80%.

Причината, както са открили откривателите, е, че офанзивите се „ трансферират ” сносно през разнообразни типове невронни мрежи. Проектирането на офанзива за една система за подредба на изображения е задоволително, с цел да подлуди доста други невронни мрежи, изяснява Иджиктан Кая, докторант и съавтор на отчета.

Засега този тип офанзива към момента е значително теоретична, успокояват откривателите. Архитектурите на AI с адаптивно въвеждане на информацията към момента не се употребяват постоянно в действителни приложения. Но откривателите имат вяра, че това бързо ще се промени. Причините са явни – натискът в промишлеността за внедряване на невронни мрежи с по-малко тегло, като да вземем за пример системите за образован дом и разнообразни устройства.

Тудор Думитраш – професорът, който е съветвал проучването – споделя, че е нужна още работа, с цел да се разбере доколко този тип опасност може да нанесе вреди. Но, прибавя той, този отчет е първата стъпка към повишение на осведомеността: „ Важно за мен е да насоча вниманието на хората към обстоятелството, че това е нов модел на опасност и че действително могат да се правят сходни офанзиви ”.