Използването на непрозрачни алгоритми“ може да доведе до изкривявания и

...
Използването на непрозрачни алгоритми“ може да доведе до изкривявания и
Коментари Харесай

Защо в смарт-ерата малко се говори за умна полиция?

Използването на „ непрозрачни логаритми “ може да докара до изкривявания и „ пристрастни “ решения, притесняват се специалистите

Опити за основаване на интелигентна полиция не липсват и в други райони, само че все със противоречив успех(източник: CCO Public Domain)

Умни телефони, мъдро осветяване в офиса, умни градове – живеем в епоха на умни технологии. Защо обаче малко на брой се замислят за „ поумняване “ на едно от най-важните неща в всекидневието ни – полицията? Оказва се, че приложението на смарт технологиите в такава виновна работа е прекомерно комплицирано, с недоказани резултати.

По време на съвещание на общинския съвет на на американското градче Ланкастър в края на март съветникът Пати Гарибай отваря дума за „ мъдро табло “ на IBM Watson, което локалната полицията е употребила през последните 6-8 месеца, с цел да координира допустимо най-правилно работата си. Гарибай, който се явява енергиен управител на Ланкастър, назовава системата „ хибриден полицейски модел “.

Той упорства, че с умната технология полицията работи за „ автоматизация и потребление на машинно самообразование “, тъй че да може машините да споделят „ Ето това е мястото, където би трябвало да сте “.

„ Тогава за какво не пращаме там 50-калибровите? “, отвръща кметът Рекс Парис, намеквайки за мощните пушки на локалните военни снайперисти. Той бързо прибавя с изключително необятна усмивка, че се майтапи.

„ Нямаме кола в региона “

Темата обаче е сериозна, макар шегата на кмета на това малко пустинно градче с 160 000 поданици, отбелязва. Възможността да се планува полицейската интервенция ще значи съответно и вярно систематизиране на полицейските запаси, тъй че да не се стига до печално известната имитация „ нямаме кола в региона “, от която у нас произтичат дори и някои вицове.

Затова доста градове по света се интересуват от технологиите за предугаждане на полицейската интензивност. От своя страна, частни компании като IBM и PredPol се надпреварват да дават обещание понижаване на престъпността и по-добро систематизиране на ресурсите.

Изследователите обаче предизвестяват, че предсказването на полицейските действия може да докара до злоупотреби. Критиците настояват още, че потреблението на „ непрозрачни логаритми “ може да докара до изкривявания и „ пристрастни “ решения, които ще се окажат проблем за полицейските сили.

Ползи от умната полиция

Възможностите за предугаждане на полицейската работа могат доста да облекчат органите на реда. Тези логаритми биха били използвани за редица полицейски действия, измежду които опазването на реда и спокойствието в жилищните квартали, предварителна защита на престъпността, справяне с бездомните и с нападателната милостиня.

„ Умните “ принадлежности за предугаждане на евентуално рискови събития са изключително нужни в градове и райони, които са обичайно известни със систематични проблеми като напрежение измежду малцинствени групи, нараснала интензивност на екстремистки формирования, мрежи за нарко-разпространение и други

В сходни области могат да се съчетаят редица модерни технологии – да вземем за пример камери за видеонаблюдение, дронове и машини с изкуствен интелект – за предугаждане на евентуални събития и ориентиране на полицейските сили.

Спорен триумф

Връщайки се за малко при градския съвет на Ланкастър, ироничните бележки на кмета и последвалият внимателен спор с градския консултант не са инцидентни. Ентусиазираният Гарибай твърди, че системата, тествана от локалната полиция, е осигурила 99% акуратност на предвижданията. Кметът реагира с мощна доза подигравка.

В последна сметка по-късно излиза наяве, че въпросната „ 99% успеваемост … не се основава на историческа акуратност … а по-скоро на IBM технологията като цяло “, по думите на Тес Еплинг от административния отдел на Ланкастър, представен от qz.com.

Реално никой не знае каква е точността на прогнозите на сходна предиктивна система. Така е, тъй като – както и при тестванията на самостоятелните коли – няма общопризнат стандарт, по който да се мери триумфът на сходна техника.

„ Няма общоприет метод за премерване на успеваемостта на логаритмите за предиктивно полицейско управление$, споделя Шон Гудисън, старши изследовател-криминолог във „ Форум за полицейски проучвания “ – нестопанска организация във Вашингтон, която работи с американските правоприлагащи органи.

„ В последна сметка това е образец за „ образован град “, само че показан от хора, които в действителност не мислят за последствията или не знаят по какъв начин работят нещата в реалност “, споделя Дейв Маас, откривател във „ Фондация Електронни Граници “.

Предизвикателства

Липсата на стандарт или мярка, по която да се мери и оцени успеваемостта на една „ интелигентна “ система за полицейско ръководство, води до противоречиви изказвания за успеваемост, споделят учените.

„ Често софтуерът за предиктивен надзор съпоставя достиженията си с резултати при „ инцидентен “ полицейски надзор, в резултат на което претендира за по-добри умения за предсказание “, изяснява Гудисън. Подобно съпоставяне води до неправилни резултати. Все отново нито едно полицейско ръководство по света не разпределя ресурсите си на инцидентен принцип.

Опити за основаване на интелигентна полиция не липсват и в други райони, само че все със противоречив триумф. Немалко от тях пропадат или въобще не стартират поради неясноти към крайната изгода, която се чака.

Доклад в юридическото издание на Нюйорксия университет от тази година сочи, че при моделирането за оценяване на практиките на „ интелигентна “ полиция заложените данни „ изкуствено намаляват формалните равнища на престъпността “ в дадени градове. А това значи, че системите за машинно самообразование са захранени с неверни данни.

Проблемите на сигурността на самите осведомителни системи също остават отворена тематика. Наскоро се разбра, да вземем за пример, за пробив в система за „ мъдро градско видеонаблюдение “, при която свободно налични се оказаха полицейски регистри с хиляди сканирани копия за лицево различаване.

Пробивът бе засечен от откривателя по сигурността Джон Уетингтън, който съумял да влезе в съответната база данни без ключова дума. По-късно той разкри, че базата данни е владеене на китайския софтуерен колос Alibaba, а тя се употребява от системата за „ интелигентен град “ City Brain.

Накратко, провокациите пред „ умната “ полиция са предостатъчно доста и наподобява това ще е една от областите, в които „ смарт “ системите ще навлязат много по-бавно. Дано, когато това в се отново се случи, резултатите да са задоволително надеждни, с цел да можем да им се доверим.
Източник: technews.bg


СПОДЕЛИ СТАТИЯТА


КОМЕНТАРИ
НАПИШИ КОМЕНТАР