Мъжете шефове, а жените секретарки: AI вярва в това
На дамите очевидно ни е писано да се сблъскваме със сексизъм освен в областта на естествения, само че и на изкуствения разсъдък.
Ново изследване, тестващо ChatGPT, сподели изявено предпочитание на основания на изкуствен интелект чатбот към мъжете пред дамите, когато от финансовата компания Finder му задават задача да изобрази бизнесмени и основни изпълнителни шефове.
Използвайки DALL-E — генеративния изкуствен интелект, основател на фотоси, интегриран в ChatGPT от компанията-майка OpenAI — 99 от 100 фотоси демонстрират мъже на високите корпоративни позиции, а не дами.
Описателните инструкции, които не са свързани с пола, включват изречения като „ някой, който работи във финансите “, „ сполучлив вложител “ и „ основен изпълнителен шеф на сполучлива компания “.
И тук става забавно. Когато бил помолен да създаде изображения на секретар, девет от 10 били изображения на жени.
Is ChatGPT sexist? AI chatbot was asked to generate 100 images of CEOs but only ONE was a woman (and 99% of the secretaries were female...)
— Daily Mail Online (@MailOnline)
Изследователите също по този начин сериозно означават, че 99 от 100-те изображения са на бели мъже - по-конкретно, стройни и мощни красавци, сходни на облика на Патрик Бейтман от кино лентата " Американски умопобъркан ", позиращи в просторни офиси с аспект към града.
Междувременно действителността приказва за друго. Данните на Pew Research от 2023 година оповестяват, че повече от 10% от фирмите от Fortune 500 имат дами изпълнителни шефове, а през 2021 година единствено 76% от изпълнителните шефове са бели, според Zippia.
„ Компаниите с изкуствен интелект имат инструментите да блокират рисково наличие и същата тази система може да се употребява за нашарване на продукцията на изкуствения разсъдък. Смятам, че това е извънредно значимо “, споделя Омар Карим, творчески шеф и основател на изображения за изкуствен интелект. „ Мониторингът, коригирането и приобщаващият дизайн биха могли да оказват помощ за справяне с това. “
Това обаче не е първият път, в който AI показва сексистки пристрастености. През 2018 година Amazon внедри инструмент за набиране на личен състав, който се научи да пренебрегва претендентите дами.
Сексизмът на изкуствения разсъдък може да бъде и в друга посока. Доклад от предходната година да вземем за пример откри, че ChatGPT е по-склонен да разрешава тирада на омразата, насочена към мъже.
Ново изследване, тестващо ChatGPT, сподели изявено предпочитание на основания на изкуствен интелект чатбот към мъжете пред дамите, когато от финансовата компания Finder му задават задача да изобрази бизнесмени и основни изпълнителни шефове.
Използвайки DALL-E — генеративния изкуствен интелект, основател на фотоси, интегриран в ChatGPT от компанията-майка OpenAI — 99 от 100 фотоси демонстрират мъже на високите корпоративни позиции, а не дами.
Описателните инструкции, които не са свързани с пола, включват изречения като „ някой, който работи във финансите “, „ сполучлив вложител “ и „ основен изпълнителен шеф на сполучлива компания “.
И тук става забавно. Когато бил помолен да създаде изображения на секретар, девет от 10 били изображения на жени.
Is ChatGPT sexist? AI chatbot was asked to generate 100 images of CEOs but only ONE was a woman (and 99% of the secretaries were female...)
— Daily Mail Online (@MailOnline)
Изследователите също по този начин сериозно означават, че 99 от 100-те изображения са на бели мъже - по-конкретно, стройни и мощни красавци, сходни на облика на Патрик Бейтман от кино лентата " Американски умопобъркан ", позиращи в просторни офиси с аспект към града.
Междувременно действителността приказва за друго. Данните на Pew Research от 2023 година оповестяват, че повече от 10% от фирмите от Fortune 500 имат дами изпълнителни шефове, а през 2021 година единствено 76% от изпълнителните шефове са бели, според Zippia.
„ Компаниите с изкуствен интелект имат инструментите да блокират рисково наличие и същата тази система може да се употребява за нашарване на продукцията на изкуствения разсъдък. Смятам, че това е извънредно значимо “, споделя Омар Карим, творчески шеф и основател на изображения за изкуствен интелект. „ Мониторингът, коригирането и приобщаващият дизайн биха могли да оказват помощ за справяне с това. “
Това обаче не е първият път, в който AI показва сексистки пристрастености. През 2018 година Amazon внедри инструмент за набиране на личен състав, който се научи да пренебрегва претендентите дами.
Сексизмът на изкуствения разсъдък може да бъде и в друга посока. Доклад от предходната година да вземем за пример откри, че ChatGPT е по-склонен да разрешава тирада на омразата, насочена към мъже.
Източник: edna.bg
КОМЕНТАРИ