Софтуерът за лицево разпознаване на Amazon демонстрира расови предразсъдъци
Софтуерът за лицево различаване на Amazon, употребен от някои правоприлагащи органи, демонстрира грешки, изключително когато става въпрос за цветнокожи дами. Понякога технологията показва тъмнокожите дами като мъже, оповестява Newsweek, като прибавя, че системата работи добре при разпознаването на мъже, само че се сблъсква със сериозен проблем при дамите.
В отчета на MIT, представен от изданието, се споделя, че Amazon Rekognition неправилно разпознава дами като мъже в 19% от случаите, а при тези с по-тъмна кожа – в 31% от случаите.
За да отбрани технологията, генералният управител, отговарящ за изкуствения разсъдък в Amazon Web Services, Мат Ууд, разяснява, че резултатите от тестванията се основават на “лицев разбор, а не на лицево разпознаване”.
„ Не е допустимо да се направи умозаключение за точността на технологията за лицево различаване при всеки случай на приложимост, в това число и при правоприлагането, въз основа на резултатите, получени посредством лицев анализ”, сподели Ууд и прибавя, че проучването на MIT не употребява последната версия на системата.
Това не е единственият програмен продукт за лицево различаване, който се сблъсква с сходни проблеми. Миналата година екип откриватели от MIT и Университета в Торонто откриха, че сходни провокации не липсват и пред системите на други софтуерни колоси. Microsoft и IBM даже трябваше да актуализират своя програмен продукт след редица потвърдени неточности. Затова и откривателят от MIT, Джой Буламвини, е безапелационен, че Amazon би трябвало да изглади проблемите преди да пусне системата си за лицево различаване публично на пазара.
" В светлината на това проучване е безконтролно от страна на компанията да продължи да продава тази технология на правоприлагащи или държавни организации ", безапелационен е той, като прибавя, че “ако компанията продаде една система, за която е потвърдено, че има предубеждения във връзка с човешките лица, мъчно след това тя ще може да потвърди, че останалите ѝ артикули в тази сфера са свободни от такива”.
Така или другояче Amazon възнамерява да продава софтуера си за лицево различаване на правоприлагащи органи, което накара чиновниците на компанията и разнообразни групи за отбрана на гражданските права да се разгласят изрично срещу с претекста, че не би трябвало да се позволяват сходни неточни системи да следят всеобщо публичните пространства.
" Тази технология се ползва по способи, които са от изгода за обществото, и все още не сме получавали индикации за злоупотреби ", дават отговор в свое изказване от Amazon.
В отчета на MIT, представен от изданието, се споделя, че Amazon Rekognition неправилно разпознава дами като мъже в 19% от случаите, а при тези с по-тъмна кожа – в 31% от случаите.
За да отбрани технологията, генералният управител, отговарящ за изкуствения разсъдък в Amazon Web Services, Мат Ууд, разяснява, че резултатите от тестванията се основават на “лицев разбор, а не на лицево разпознаване”.
„ Не е допустимо да се направи умозаключение за точността на технологията за лицево различаване при всеки случай на приложимост, в това число и при правоприлагането, въз основа на резултатите, получени посредством лицев анализ”, сподели Ууд и прибавя, че проучването на MIT не употребява последната версия на системата.
Това не е единственият програмен продукт за лицево различаване, който се сблъсква с сходни проблеми. Миналата година екип откриватели от MIT и Университета в Торонто откриха, че сходни провокации не липсват и пред системите на други софтуерни колоси. Microsoft и IBM даже трябваше да актуализират своя програмен продукт след редица потвърдени неточности. Затова и откривателят от MIT, Джой Буламвини, е безапелационен, че Amazon би трябвало да изглади проблемите преди да пусне системата си за лицево различаване публично на пазара.
" В светлината на това проучване е безконтролно от страна на компанията да продължи да продава тази технология на правоприлагащи или държавни организации ", безапелационен е той, като прибавя, че “ако компанията продаде една система, за която е потвърдено, че има предубеждения във връзка с човешките лица, мъчно след това тя ще може да потвърди, че останалите ѝ артикули в тази сфера са свободни от такива”.
Така или другояче Amazon възнамерява да продава софтуера си за лицево различаване на правоприлагащи органи, което накара чиновниците на компанията и разнообразни групи за отбрана на гражданските права да се разгласят изрично срещу с претекста, че не би трябвало да се позволяват сходни неточни системи да следят всеобщо публичните пространства.
" Тази технология се ползва по способи, които са от изгода за обществото, и все още не сме получавали индикации за злоупотреби ", дават отговор в свое изказване от Amazon.
Източник: computerworld.bg
КОМЕНТАРИ