Правозащитни организации: Изкуственият интелект дискриминира малцинствата
Системите с изкуствен интелект, които през днешния ден интензивно се внедряват във всички сфери на човешката активност, показват предубедено отношение към избрани малцинства, настояват представители на правозащитни организации.
Неприемливото държание на AI се демонстрира в срив на системите за различаване на лица, които мъчно разпознават чернокожи, несполучлива гласова идентификация за консуматори с присъщ районен акцент или забрани за разпределяне на заеми на представители на малцинствата от банките.
Качеството на AI модела се дефинира от два съставния елемент: материалите, употребявани в образованието, и успеваемостта на логаритмите, разяснява през CNBC Набил Манджи, началник на отдела по криптовалута и Web3 в Worldpay. Платформи като Reddit, да вземем за пример, таксуват за достъп до данни за образование на изкуствения разсъдък.
Създава се фрагментация на данните и в обичайно консервативна промишленост като финансовите услуги успеваемостта на AI е по-ниска от тази на фирмите, които могат бързо да внедрят усъвършенствани решения и да проучват настоящи данни.
Руман Чоудхури, някогашен началник на отдела за нравственос на машинното образование на Twitter, назова даването на заеми отличен образец за AI дискриминация. Подобна скица действаше в Чикаго през 30-те години на предишния век, спомня си специалистът: в банките висяха огромни карти на града, на които в алено бяха маркирани региони с преобладаващо чернокожо население – на жителите на тези региони бяха отказвани заеми.
Подобни неточности, съгласно него, позволяват и актуалните AI логаритми за оценка на кредитоспособността на жителите, като един от параметрите е етническата принадлежност на клиента.
Ънгъл Буш, създател на организацията “Черните дами в изкуствения разсъдък ” счита, че сходна дискриминация е неумишлена, и прикани заемодателите най-малко да позволяват опцията за неточност.
Разработчикът на изкуствен интелект Фрост Ли показва, че софтуерната дискриминация към този момент е породила доста дребни финтех стартъпи особено за чужденци, защото обичайната банка може елементарно да откаже да издаде кредитна карта на ученик на Токийския университет, даже в случай че той работи в Гугъл, само че обслужва всеки приключил локален лицей.
Не е елементарно да се потвърдят обстоятелствата за такава дискриминация. Apple и Goldman Sachs се пробваха да хвърлят виновността върху обстоятелството, че банките дефинират по-ниски кредитни предели за дамите, употребяващи Apple Card, в сравнение с за мъжете. Но Министерството на финансовите услуги на Ню Йорк не съумя да откри доказателства в поддръжка на тези изказвания.
Според специалисти, ограниченията за контролиране на промишлеността, въведени от интернационалните организации като Организация на обединените нации, ще оказват помощ за отбрана против човешка дискриминация от AI. Потенциалните проблеми на AI са детайлите на дезинформация и предубеждения, които стават съставни елементи на логаритми, както и „ халюцинациите “.
В тази връзка, при въвеждане на AI в работата на фирмите или управляващите, са нужни механизми за обезпечаване на бистрота и отчетност на логаритмите, които ще оказват помощ даже на непрофесионалисти да преценяват тяхната успеваемост. Гражданите би трябвало да могат да се оплакват от сходни решения; AI логаритмите би трябвало да бъдат тествани и на стадия на тяхното внедряване е нужен обзор за пристрастия.
Инфо: kaldata.com
