Може ли изкуственият интелект да "мисли" неутрално?
Лицевото различаване посредством изкуствен интелект (ИИ) работи добре при бели мъже, само че не и при тъмнонокожи дами. Това е един от класическите проблеми на тази нова област, които в последно време станаха известни. В присъединяване си за " Тед толк " тъмнокожата Джой Буламвини показва резултатите от личния си опит. Софтуерът за лицево различаване просто не може да я записва вярно. И едвам откакто си поставя бяла маска, очертаваща единствено главните ѝ лицеви характерности - уста, нос, очи - технологията я разпознава.
Буламвини прави преглед на друг програмен продукт за лицево различаване, в това число на АйБиЕм и Майкрософт. Те разпознават всевъзможни лица, само че позволяват доста повече неточности при установяване на пола на дамите и хората с тъмна кожа. Ако при белите мъже грешките са към 1 %, то при тъмнокожите дами те стигат до 35 %. Проблемът не е в технологията, а в това кой я създава и в методите, по които тя е обучавана. Броят на белите мъже, участващи в основаването на изкуствения разсъдък, е много над междинния. От друга страна, делът на дамите в IТ бранша през 2021 година е бил едвам 18 %.
Разработчиците на изкуствен интелект постоянно просто не обръщат задоволително внимание на групите, които не са задоволително показани в техните екипи. Така характерности, които са доста значими за разпознаването, да вземем за пример на женско или тъмнокожо лице, могат да останат подценени. Затова и не е изненадващо, че актуалните софтуери за лицево различаване се оправят най-добре с белите мъже. Ксения Кеплингер, която управлява изследователска група в Института за интелигентни системи " Макс Планк ", разяснява, че това не се прави умишлено, да вземем за пример с цел да бъдат изключени дамите или малцинствата.
Тя позволява, че разработчиците просто може да не са взели поради всички групи хора. Пропуски и в базите данни Кеплингер отличава и друга значима причина за предразсъдъците на изкуствения разсъдък - съответните бази данни, с които той е бил захранван. При образованието за различаване, на системата се демонстрират хиляди, десетки хиляди или доста повече изображения на хора. Именно върху тази основа ИИ научава кои самостоятелни черти сформират човешкото лице. Подобни бази данни могат да се закупят.
Проблемът е, че те нормално не са изключително разнородни. Белите мъже постоянно са непропорционално високо показани в тях. Затова е и обяснимо, че ИИ е теоретичен да разпознава най-добре техните лица. Обучението с исторически данни е проблематично Ако даден изкуствен интелект е бил обучаван с историографски данни, той е възприел и пристрастията, които те са отразявали.
Така да вземем за пример логаритъм, който би трябвало да реши кои кандидатури за работа да подбере, ще показа отговорите си въз основа на данни за сполучливи чиновници на компанията от предишното. Същевременно, обратно във времето, в съвсем всички сфери е имало ясно изразено желание към мъже. И евентуално за изкуствения разсъдък те биха представлявали по-добри претенденти и през днешния ден.
Буламвини прави преглед на друг програмен продукт за лицево различаване, в това число на АйБиЕм и Майкрософт. Те разпознават всевъзможни лица, само че позволяват доста повече неточности при установяване на пола на дамите и хората с тъмна кожа. Ако при белите мъже грешките са към 1 %, то при тъмнокожите дами те стигат до 35 %. Проблемът не е в технологията, а в това кой я създава и в методите, по които тя е обучавана. Броят на белите мъже, участващи в основаването на изкуствения разсъдък, е много над междинния. От друга страна, делът на дамите в IТ бранша през 2021 година е бил едвам 18 %.
Разработчиците на изкуствен интелект постоянно просто не обръщат задоволително внимание на групите, които не са задоволително показани в техните екипи. Така характерности, които са доста значими за разпознаването, да вземем за пример на женско или тъмнокожо лице, могат да останат подценени. Затова и не е изненадващо, че актуалните софтуери за лицево различаване се оправят най-добре с белите мъже. Ксения Кеплингер, която управлява изследователска група в Института за интелигентни системи " Макс Планк ", разяснява, че това не се прави умишлено, да вземем за пример с цел да бъдат изключени дамите или малцинствата.
Тя позволява, че разработчиците просто може да не са взели поради всички групи хора. Пропуски и в базите данни Кеплингер отличава и друга значима причина за предразсъдъците на изкуствения разсъдък - съответните бази данни, с които той е бил захранван. При образованието за различаване, на системата се демонстрират хиляди, десетки хиляди или доста повече изображения на хора. Именно върху тази основа ИИ научава кои самостоятелни черти сформират човешкото лице. Подобни бази данни могат да се закупят.
Проблемът е, че те нормално не са изключително разнородни. Белите мъже постоянно са непропорционално високо показани в тях. Затова е и обяснимо, че ИИ е теоретичен да разпознава най-добре техните лица. Обучението с исторически данни е проблематично Ако даден изкуствен интелект е бил обучаван с историографски данни, той е възприел и пристрастията, които те са отразявали.
Така да вземем за пример логаритъм, който би трябвало да реши кои кандидатури за работа да подбере, ще показа отговорите си въз основа на данни за сполучливи чиновници на компанията от предишното. Същевременно, обратно във времето, в съвсем всички сфери е имало ясно изразено желание към мъже. И евентуално за изкуствения разсъдък те биха представлявали по-добри претенденти и през днешния ден.
Източник: cross.bg
КОМЕНТАРИ