&format=webp)
Твоето лице може да ти коства работата – и изкуственият интелект няма да се извини
Представете си, че отивате на изявление за работа и без да кажете нито дума, ви оповестяват, че няма да получите позицията, тъй като „ лицето ви не пасва “. Най-вероятно бихте приели това за дискриминация и даже бихте обмислили да потърсите правата си.
Но какво, в случай че повода не са предубеждения? Какво, в случай че лицето ви в действителност дава сигнали за това по какъв начин бихте се показали в работата? Точно този въпрос стои в основата на ново проучване на Мариус Гюнцел от Университета на Пенсилвания и неговите съавтори.
Идеята повдига по-широки въпроси за алгоритмичните решения и за това по какъв начин хората възприемат справедливостта, отбелязва The Economist.
Тестовете за личностни характерности от дълго време са част от процеса по асортимент. Обичайно претендентите попълнят въпросници и се пробват да отгатнат „ верните “ отговори. Предишни изследвания обаче демонстрират, че личностните черти могат да бъдат „ кодирани “ в чертите на лицето – и че изкуственият разсъдък може да ги разпознава.
Затова Гюнцел и екипът му употребяват логаритъм, с цел да проучват фотоси на 96 000 MBA приключили и да извлекат това, което назовават „ Photo Big Five “ – екстраверсия, единодушие (доброжелателност), сериозност, невротизъм и отвореност към опит. И въпреки всичко не е ясно какво тъкмо „ вижда “ AI.
След това откривателите съпоставят тези резултати с кариерното развиване на хората – да вземем за пример заплати и периодичност на промяна на работа. Изводът: анализът на лицето може да даде известна спомагателна информация.
Важните разяснения обаче са няколко. Предсказателната мощ на Photo Big Five не е висока – създателите акцентират, че това е допълващ, а не водещ инструмент. Сферата на лицевия AI е нова и постоянно подложена на критика. А даже и логаритмите да бяха безупречни, внедряването им в практиката ще бъде постепенно.
Законите против дискриминирането вършат решенията, основани на външни характерности, евентуално рискови. Маниш Рагхаван от MIT отбелязва, че фирмите се опасяват да употребяват сходни системи (той е по-притеснен от пристрастия, които могат да навлязат посредством чатбот разбори на CV-та и LinkedIn профили).
Но в случай че тези бариери в миналото бъдат преодолени, работодателите ще имат тласък да употребяват лицев разбор, стига той да не дискриминира по предпазени признаци. И тогава поражда нов етичен въпрос: възможно ли е да се отсяват претенденти, чиито лица предсказват по-нежелани личностни черти?
Аргументът в поддръжка би бил, че сходни решения към този момент се случват. Например по-високите претенденти постоянно имат преимущество при наемане. Някои биха твърдяли, че лицевият разбор е по-справедлив от системи, които отдават прекомерна тежест на дипломи и официално обучение. Една от съавторките, Кели Шу от Йейл, към този момент изследва дали AI анализът на лица може да оказва помощ за оценка на платежоспособност — което би било потребно за хора без кредитна история.
Но даже да оставим настрани риска от пристрастия, има и други въпроси. Статистическите модели не разказват обособения човек. И още: голяма част от коучинга и образованията за развиване се основават на концепцията, че можем да променяме държанието си. Какъв е смисълът от самоусъвършенстване, в случай че лицето ви по този начин или другояче „ алармира “ противоположното?
Тук се разкрива и въпросът за чувството за надзор. Колкото и да се развиват логаритмите, опцията претендент да впечатли човешки интервюиращ евентуално ще остане значима.
Рагхаван отбелязва, че хората по-лесно одобряват решения, учредени на неизменими характерности, когато има ясна причинно-следствена логичност – да вземем за пример младите водачи заплащат по-високи застраховки. Но лицевият разбор? Той към момента оставя доста противоречиви въпроси.
Но какво, в случай че повода не са предубеждения? Какво, в случай че лицето ви в действителност дава сигнали за това по какъв начин бихте се показали в работата? Точно този въпрос стои в основата на ново проучване на Мариус Гюнцел от Университета на Пенсилвания и неговите съавтори.
Идеята повдига по-широки въпроси за алгоритмичните решения и за това по какъв начин хората възприемат справедливостта, отбелязва The Economist.
Тестовете за личностни характерности от дълго време са част от процеса по асортимент. Обичайно претендентите попълнят въпросници и се пробват да отгатнат „ верните “ отговори. Предишни изследвания обаче демонстрират, че личностните черти могат да бъдат „ кодирани “ в чертите на лицето – и че изкуственият разсъдък може да ги разпознава.
Затова Гюнцел и екипът му употребяват логаритъм, с цел да проучват фотоси на 96 000 MBA приключили и да извлекат това, което назовават „ Photo Big Five “ – екстраверсия, единодушие (доброжелателност), сериозност, невротизъм и отвореност към опит. И въпреки всичко не е ясно какво тъкмо „ вижда “ AI.
След това откривателите съпоставят тези резултати с кариерното развиване на хората – да вземем за пример заплати и периодичност на промяна на работа. Изводът: анализът на лицето може да даде известна спомагателна информация.
Важните разяснения обаче са няколко. Предсказателната мощ на Photo Big Five не е висока – създателите акцентират, че това е допълващ, а не водещ инструмент. Сферата на лицевия AI е нова и постоянно подложена на критика. А даже и логаритмите да бяха безупречни, внедряването им в практиката ще бъде постепенно.
Законите против дискриминирането вършат решенията, основани на външни характерности, евентуално рискови. Маниш Рагхаван от MIT отбелязва, че фирмите се опасяват да употребяват сходни системи (той е по-притеснен от пристрастия, които могат да навлязат посредством чатбот разбори на CV-та и LinkedIn профили).
Но в случай че тези бариери в миналото бъдат преодолени, работодателите ще имат тласък да употребяват лицев разбор, стига той да не дискриминира по предпазени признаци. И тогава поражда нов етичен въпрос: възможно ли е да се отсяват претенденти, чиито лица предсказват по-нежелани личностни черти?
Аргументът в поддръжка би бил, че сходни решения към този момент се случват. Например по-високите претенденти постоянно имат преимущество при наемане. Някои биха твърдяли, че лицевият разбор е по-справедлив от системи, които отдават прекомерна тежест на дипломи и официално обучение. Една от съавторките, Кели Шу от Йейл, към този момент изследва дали AI анализът на лица може да оказва помощ за оценка на платежоспособност — което би било потребно за хора без кредитна история.
Но даже да оставим настрани риска от пристрастия, има и други въпроси. Статистическите модели не разказват обособения човек. И още: голяма част от коучинга и образованията за развиване се основават на концепцията, че можем да променяме държанието си. Какъв е смисълът от самоусъвършенстване, в случай че лицето ви по този начин или другояче „ алармира “ противоположното?
Тук се разкрива и въпросът за чувството за надзор. Колкото и да се развиват логаритмите, опцията претендент да впечатли човешки интервюиращ евентуално ще остане значима.
Рагхаван отбелязва, че хората по-лесно одобряват решения, учредени на неизменими характерности, когато има ясна причинно-следствена логичност – да вземем за пример младите водачи заплащат по-високи застраховки. Но лицевият разбор? Той към момента оставя доста противоречиви въпроси.
Източник: profit.bg
КОМЕНТАРИ