ООН: AI инструментите генерират сексистко съдържание
Най-популярните принадлежности на изкуствения разсъдък (AI-ИИ) се зареждат с стратегии от OpenAI и Meta, които демонстрират предубеждения към дамите, съгласно изследване на организация на Организация на обединените нации за обучение и просвета ЮНЕСКО.
Най-големите играчи в областта на ИИ за милиарди долари образоват своите логаритми върху големи количества данни, значително извлечени от интернет, което разрешава на техните принадлежности да пишат в стила на Оскар Уайлд или да основават изображения, въодушевени от Салвадор Дали. Но техните резултати постоянно са подложени на критика за отразяване на расови и сексистки стандарти, както и за потребление на предпазени с авторски права материали без позволение. Експертите на ЮНЕСКО тестваха логаритъма Llama 2 на Meta и GPT-2 и GPT-3.5 на OpenAI, програмата, която поддържа безплатната версия на известния чатбот ChatGPT. Проучването откри, че всеки логаритъм, прочут в промишлеността като огромни езикови модели (LLM), демонстрира " недвусмислени доказателства за предубеждения против дамите ". Програмите генерират текстове, които свързват имената на дамите с думи като " дом ", " семейство " или " деца ", само че имената на мъжете са свързани с " бизнес ", " заплата " или " кариера ". Докато мъжете са изобразявани на високопоставени длъжности като учители, юристи и лекари, дамите постоянно са проститутки, готвачки или домашни прислужници.
Установено е, че GPT-3.5 е по-малко преднамерен от другите два модела. Въпреки това, създателите похвалиха Llama 2 и GPT-2 за това, че са с отворен код, което разрешава тези проблеми да бъдат прегледани деликатно, за разлика от GPT-3.5, който е затворен модел. Компаниите за изкуствен интелект „ в действителност не обслужват всичките си консуматори “, сподели през Агенция Франс Прес Леона Вердадеро, експерт на ЮНЕСКО по цифрови политики. Одри Азуле, общоприет шеф на ЮНЕСКО, сподели, че необятната общност от ден на ден употребява AI принадлежности в всекидневието си. „ Тези нови приложения имат силата да оформят незабелязано усещанията на милиони хора, тъй че даже дребните пристрастия към пола в тяхното наличие могат доста да усилят неравенствата в действителния свят “, сподели тя. ЮНЕСКО, публикувайки отчета за отбелязване на Международния ден на дамата, предложи фирмите за ИИ да наемат повече дами и малцинства и прикани държавните управления да обезпечат етичен ИИ посредством контролиране. /БГНЕС, Агенция Франс Прес
