Предубеден ли е софтуерът за лицево разпознаване към различните раси и полове?
Нови проучвания на MIT акцентират това, за което други специалисти към този момент сигнализираха по-рано - технологията за лицево различаване е жертва на предразсъдъци въз основа на предоставените данни за образование и изискванията, при които се основават логаритми.
Джой Буламуини, откривател в MIT Media Lab, неотдавна основава набор от данни за 1270 души, употребявайки лица на политици, определени въз основа на мястото, което заема тяхната страна в класациите за равнопоставеност сред половете (с други думи, такива, в които има забележителен брой дами на обществени длъжности) . След това тя тества точността на три системи за лицево различаване – на Microsoft, на IBM и на китайската компания Megvii. Резултатите, в началото оповестени от The New York Times, демонстрират грешки при идентификацията на пола, според от цвета на кожата на индивида.
Прочетете още: Маска може да заблуди технологията Face ID в Apple iPhone X
Полът е разпознат неправилно при по-малко от 1%, когато става дума за мъже с по-светла кожа на лицето, като при дамите с сходна пигментация процентът на грешките доближава до 7% . При мъже с по-тъмна кожа неточности се получават при 12% от случаите , а при дамите от тази група неверните идентификации надвишават 1/3 от случаите – 35%.
“Като цяло, мъжките субекти бяха класифицирани по-точно от женските, което удостоверява резултатите на предишни проучвания. В същото време, лицата с по-светла кожа бяха по-точно класифицирани от тези на по-тъмните човеци ", написа Буламуини в отчета си за изледването, в което тя си партнира с откривателя от Microsoft – Тимнит Гербу, и прибавя, че секторната разбивка сочи, че технологията за различаване на лица работи най-неточно, когато става дума за дами с по-тъмен цвят на кожата.
Това надалеч не е първият път, в който тази технология дава недостатъци. Излседването на MIT Media Lab обаче е следващото доказателство, че е належащо по-голямо многообразие при окомплектоването на данните за образование, както и измежду хората, които основават и внедряват системите за лицево различаване, с цел да могат логаритмите да имат сходни равнища на старание без значение от расата или други идентификатори.
През 2015 година да вземем за пример се наложи Гугъл да се извинява обществено, откакто техен програмен продукт за обработка на фотоси и лицево различаване дефинира двама афроамериканци като “горили”. Тогава от компанията дадоха обещание да фиксират казуса, само че всичко, което направиха, беше да отстранена думата “горила” от показателя на търсачката в приложението си.
Преди две години пък списание The Atlantic заяви за това по какъв начин технологията за лицево различаване, употребена за задачите на правоприлагането, " непропорционално въвлича афроамериканци ". Това е и едно от най-големите опасения към тази към момента прохождаща технология - че почтени хора могат да станат обвинени в закононарушения заради грешки в системата. Буламуини и Гербу също предизвестяват в своя отчет, базирайки се на едногодишно изледване, проведемо в 100 полицейски ръководства, че " афро-американците по-често биват спирани от правоохранителните органи и подлагани на лицево различаване, в сравнение с представителите на други етноси ".
Материалът на The Atlantic обръща внимание също по този начин, че други проучвания в предишното демонстрират, че логаритмите, създадени в Азия, са по-склонни да разпознават тъкмо азиатските нации , в сравнение с тези от други елементи на света, а европейските и американските разработки са по-точни при разпознаването на хора с бял цвят на кожата.
Алгоритмите не са предумишлено предубедени, само че повече проучвания поддържат тезата, че би трябвало да се вложат доста повече старания в ограничението на тези отклонения. " Тъй като технологията за компютърно зрение се употребява във високорискови браншове, като опазването на здравето и правоприлагането, тя би трябвало да разчита на по-добри логаритми , когато става дума за съпоставения на разнообразни демографски и етнически групи ", безапелационни са Буламуини и Гербу.
Джой Буламуини, откривател в MIT Media Lab, неотдавна основава набор от данни за 1270 души, употребявайки лица на политици, определени въз основа на мястото, което заема тяхната страна в класациите за равнопоставеност сред половете (с други думи, такива, в които има забележителен брой дами на обществени длъжности) . След това тя тества точността на три системи за лицево различаване – на Microsoft, на IBM и на китайската компания Megvii. Резултатите, в началото оповестени от The New York Times, демонстрират грешки при идентификацията на пола, според от цвета на кожата на индивида.
Прочетете още: Маска може да заблуди технологията Face ID в Apple iPhone X
Полът е разпознат неправилно при по-малко от 1%, когато става дума за мъже с по-светла кожа на лицето, като при дамите с сходна пигментация процентът на грешките доближава до 7% . При мъже с по-тъмна кожа неточности се получават при 12% от случаите , а при дамите от тази група неверните идентификации надвишават 1/3 от случаите – 35%.
“Като цяло, мъжките субекти бяха класифицирани по-точно от женските, което удостоверява резултатите на предишни проучвания. В същото време, лицата с по-светла кожа бяха по-точно класифицирани от тези на по-тъмните човеци ", написа Буламуини в отчета си за изледването, в което тя си партнира с откривателя от Microsoft – Тимнит Гербу, и прибавя, че секторната разбивка сочи, че технологията за различаване на лица работи най-неточно, когато става дума за дами с по-тъмен цвят на кожата.
Това надалеч не е първият път, в който тази технология дава недостатъци. Излседването на MIT Media Lab обаче е следващото доказателство, че е належащо по-голямо многообразие при окомплектоването на данните за образование, както и измежду хората, които основават и внедряват системите за лицево различаване, с цел да могат логаритмите да имат сходни равнища на старание без значение от расата или други идентификатори.
През 2015 година да вземем за пример се наложи Гугъл да се извинява обществено, откакто техен програмен продукт за обработка на фотоси и лицево различаване дефинира двама афроамериканци като “горили”. Тогава от компанията дадоха обещание да фиксират казуса, само че всичко, което направиха, беше да отстранена думата “горила” от показателя на търсачката в приложението си.
Преди две години пък списание The Atlantic заяви за това по какъв начин технологията за лицево различаване, употребена за задачите на правоприлагането, " непропорционално въвлича афроамериканци ". Това е и едно от най-големите опасения към тази към момента прохождаща технология - че почтени хора могат да станат обвинени в закононарушения заради грешки в системата. Буламуини и Гербу също предизвестяват в своя отчет, базирайки се на едногодишно изледване, проведемо в 100 полицейски ръководства, че " афро-американците по-често биват спирани от правоохранителните органи и подлагани на лицево различаване, в сравнение с представителите на други етноси ".
Материалът на The Atlantic обръща внимание също по този начин, че други проучвания в предишното демонстрират, че логаритмите, създадени в Азия, са по-склонни да разпознават тъкмо азиатските нации , в сравнение с тези от други елементи на света, а европейските и американските разработки са по-точни при разпознаването на хора с бял цвят на кожата.
Алгоритмите не са предумишлено предубедени, само че повече проучвания поддържат тезата, че би трябвало да се вложат доста повече старания в ограничението на тези отклонения. " Тъй като технологията за компютърно зрение се употребява във високорискови браншове, като опазването на здравето и правоприлагането, тя би трябвало да разчита на по-добри логаритми , когато става дума за съпоставения на разнообразни демографски и етнически групи ", безапелационни са Буламуини и Гербу.
Източник: pcworld.bg
КОМЕНТАРИ