Освен расист, изкуственият интелект е и сексист
Темата изкуствен интелект (AI) вълнува нас, хората, тъй като едни я считат за опасност, други – за берекет. Неутралните я преглеждаме във всички аспекти, в това число и поради няколкото съществени проблема, свързани с изявените пристрастености на AI към расизъм, сексизъм и други стереотипни реакции.
След като неотдавна разказахме за искрено расистките реакции на изкуствения разсъдък, в този момент обръщаме внимание на сексистки му пристрастености.
Ново изследване на финансовата институция Finder, съсредоточено върху генератора на изображения на ChatGPT, сподели искрено желание към мъжете пред дамите, когато му се сложи задание да генерира облици на предприемачи и основни изпълнителни шефове.
В 99 от 100 случая генеративният изкуствен интелект DALL-E, интегриран в ChatGPT от OpenAI, дава като резултат облици на мъже, а не на дами.
В поставените задания, в които няма и намек за пол, се включват изречения като „ някой, който работи във [сферата на] финансите “, „ сполучлив вложител “ и „ основен изпълнителен шеф на сполучлива компания “.
Резултатите демонстрират явни стандарти. В 99 от 100 изображения резултатите са на мъже, освен това от бялата раса. Нещо повече, генерираните фотоси са на стройни, мускулести представители на мощния пол, позиращи в просторни офиси с аспект към града.
В същото време данни на Pew Research от 2023 година споделят, че над 10% от фирмите от Fortune 500 са имали дами за изпълнителни шефове, до момента в който Zippia отбелязва, че през 2021 година единствено 76% от изпълнителните шефове са били от бялата раса.
Това надалеч не е първият образец за прям стереотипно държание от страна на AI. През 2018 година Amazon вкара инструмент за набор на личен състав, който се самообучи да подценява претендентите от женски пол.
Примерите за сексизъм, стандарти и прям расизъм са доста. Преди няколко седмици Гугъл се оказа в центъра на скандал поради чатбота Gemini, тъй като беше упрекнат, че генерира „ изцяло неприемливи “ изображения. Например на афроамериканци в фалшификати на нацистки униформи. Наложи се компанията да спре функционалността за известно време до момента в който я поправя.
Не пропускайте най-важните вести - последвайте ни в
След като неотдавна разказахме за искрено расистките реакции на изкуствения разсъдък, в този момент обръщаме внимание на сексистки му пристрастености.
Ново изследване на финансовата институция Finder, съсредоточено върху генератора на изображения на ChatGPT, сподели искрено желание към мъжете пред дамите, когато му се сложи задание да генерира облици на предприемачи и основни изпълнителни шефове.
В 99 от 100 случая генеративният изкуствен интелект DALL-E, интегриран в ChatGPT от OpenAI, дава като резултат облици на мъже, а не на дами.
В поставените задания, в които няма и намек за пол, се включват изречения като „ някой, който работи във [сферата на] финансите “, „ сполучлив вложител “ и „ основен изпълнителен шеф на сполучлива компания “.
Резултатите демонстрират явни стандарти. В 99 от 100 изображения резултатите са на мъже, освен това от бялата раса. Нещо повече, генерираните фотоси са на стройни, мускулести представители на мощния пол, позиращи в просторни офиси с аспект към града.
В същото време данни на Pew Research от 2023 година споделят, че над 10% от фирмите от Fortune 500 са имали дами за изпълнителни шефове, до момента в който Zippia отбелязва, че през 2021 година единствено 76% от изпълнителните шефове са били от бялата раса.
Това надалеч не е първият образец за прям стереотипно държание от страна на AI. През 2018 година Amazon вкара инструмент за набор на личен състав, който се самообучи да подценява претендентите от женски пол.
Примерите за сексизъм, стандарти и прям расизъм са доста. Преди няколко седмици Гугъл се оказа в центъра на скандал поради чатбота Gemini, тъй като беше упрекнат, че генерира „ изцяло неприемливи “ изображения. Например на афроамериканци в фалшификати на нацистки униформи. Наложи се компанията да спре функционалността за известно време до момента в който я поправя.
Не пропускайте най-важните вести - последвайте ни в
Източник: vesti.bg
КОМЕНТАРИ