Алгоритмите за изкуствен интелект могат да имат неподозирани недостатъци(снимка: CC0

Алгоритмите за изкуствен интелект могат да имат неподозирани дефекти
(снимка: CC0 Public Domain)

Австралийски и корейски откриватели предизвестяват за малки врати в системите за сигурност на изкуствения разсъдък, вследствие на които при избрани задействания хората могат да „ изчезнат цифрово ”.

Изследвания на Британската организация за научни и индустриални проучвания (CSIRO), Data61, Австралийския център за кооперативни проучвания на киберсигурността (CSCRC) и южнокорейския университет Sungkyunkwan разкриват по какъв начин някои тригери могат да работят като „ малки врати ” в интелигентните охранителни камери.

Изследователите са тествали по какъв начин елементарен предмет, да вземем за пример дреха с избран цвят, може да се употребява за елементарно заобикаляне и навлизане в YOLO, известна камера за разкриване на обекти.

В първия кръг на проби откривателите са употребявали алена шапка, с цел да илюстрират по какъв начин тя може да играе ролята на „ спусък ”, който разрешава на обекта да „ изчезне цифрово ” – от окото на камерата. Първоначално YOLO камерата съумява да открие обекта, само че когато той е с алена шапка, остава неусетен. Демонстрация с двама души, облечени в една и съща тениска, само че с разнообразни цветове, води до сходен резултат.

Шариф Абуадба, експерт по киберсигурност от Data61, разяснява, че ползата на откривателите е да схванат евентуалните дефекти на логаритмите за изкуствен интелект. „ Проблемът с изкуствения разсъдък, макар неговата успеваемост и дарба да разпознава толкоз доста неща, е в спортния му темперамент ”, споделя той пред ZDNet.

„ Ако напишете елементарна компютърна стратегия и я предадете на някой различен до вас, той може да извърши доста функционални проби, както и проби за интеграция и да види по какъв начин тъкмо се държи този код. Но с неестествен интелект… имате късмет да тествате модела единствено във връзка с полезността. Например за модел, който е планиран да разпознава обекти или да класифицира имейли – положителни или неприятни имейли, имате стеснен обсег на тестване, тъй като това е черна кутия ”.
още по тематиката
Когато AI моделът не е подготвен да открива всички разнообразни сюжети, това съставлява риск за сигурността. „ Ако сте под наблюдаване и употребявате умна камера и желаете да се включи тревога, този човек [облечен в алената шапка] може да влиза и излиза, без да бъде разпознат ”, споделя Шариф Абуадба.

Щом се знае, че съществуват малки врати, това ще служи като предизвестие за потребителите да вземат поради данните, употребявани за образование на смарт камерите. Организациите с сензитивна информация би трябвало да генерират собствен личен набор от данни, на който имат доверие, и да обучат изкуствения разсъдък под контрол.

Подобни дефекти на AI логаритъма неотдавна бяха уловени от консуматори на Twitter, които откриха, че инструментът за изрязване на изображенията автоматизирано благоприятства белите лица пред черните. Колин Мадленд (бял) разкри расовите пристрастия на обществената мрежа при повикване на софтуера за видеоконференции Zoom.

Мадленд разгласява свое изображение, както и изображение на собствен негър сътрудник, чиято глава се изтрива при потребление на виртуален декор при повикване на Zoom. Тъй като логаритъмът не съумява да разпознае черното лице, Twitter автоматизирано изрязва изображението и демонстрира единствено Мадленд. В отговор Twitter се ангажира, че непрестанно ще тества логаритмите си за пристрастия.

„ Въпреки че досегашните ни разбори не са посочили расова или полова пристрастност, ние признаваме, че методът, по който автоматизирано изрязваме фотоси, значи, че има капацитет за щета. Трябваше да свършим по-добра работа, като предвидим тази опция, когато за първи път проектирахме и изградихме този артикул ”, написаха в блог обява виновните фактори в Twitter.