Изкуственият интелект е расист, но не го осъзнава
Изкуственият разсъдък (AI) в другите му форми набира все по-голяма известност през последните години. Хората го употребяват все по-активно и откриват много проблеми и необикновени отговори на дилемите, които му слагат за осъществяване.
През последните седмици се получиха няколко по-големи проблема, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки подмятания, а от време на време са и искрено неправилни.
Най-невинният образец е да попитаме някоя от услугите за генериране на изображения, да ни нарисува съвременна интерпретация на Мона Лиза. Резултатите могат да са много разнородни и колкото пъти създадем поръчката, толкоз по-различни и… стереотипни.
А преди няколко седмици Гугъл се оказа в центъра на скандал поради чатбота Gemini, тъй като беше упрекнат, че генерира „ изцяло неприемливи “ изображения. Например на афроамериканци в фалшификати на нацистки униформи. Наложи се компанията да спре функционалността за известно време до момента в който я поправя.
Мнозина упрекнаха изкуствения разсъдък в расизъм. Но действително технологията не осъзнава това. Тя към момента е надалеч от съвършено подготвена във всички нюанси на човешката история, просвета и всекидневие. В опита си да демонстрира, че не прави разлика сред хората, тя не преценява някои исторически особености. Не оказва помощ и фактът, че в множеството случаи фирмите просто поставят филтър, който да блокира осъществяването на такива задания и надлежно логаритмите няма по какъв начин да се поучат от грешките си или пък по-лошо – учат се неправилно.
Това е разбираемо, защото става дума за ИТ колоси със международна известност, акции на фондовите пазари, скъпи вложения и така нататък Те не могат да си разрешат да чакат AI да се научи вероятно. Затова избират да спрат функционалността или да наложат филтри, до момента в който я обучат сами.
Тук идва и другият проблем – данните, с които логаритмите биват обучавани. В огромната си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в множеството случаи изобилства от неточности, (не)волни грешки, целенасочена агитация и така нататък Много мъчно е да се пресее правилната информация и в известна степен това не би трябвало да се прави, защото тогава логаритъмът ще се научи на сухи, университетски данни и по-късно ще е некадърен да комуникира с хората на „ национален “ език.
Повечето компании споделят, че техните специалисти въпреки всичко преглеждат базите данни и вършат избрани филтри, настройки и корекции. Но и тук още веднъж от голяма важност е човешкият фактор. Както дете, което се образова от родители и учители и разчита напълно на тяхната уместност в преподаването на знанията, по този начин и какво ще научи AI и по какъв начин, зависи от хората, които ще му напишат програмния код и ще му подберат и дават данните. А тези хора имат своите (не)осъзнати пристрастия. В множеството случаи те даже не осъзнават, че ги предават на цифровото си отроче.
Но за разлика от човек, който един път израснал и подготвен по избран метод, по-късно доста мъчно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде подготвен на нови неща по-бързо и това си проличава от темпото, с което творенията му се усъвършенстват. Преди година по това време генерираните от AI изображения бяха обещаващи, само че цялостни с недостатъци. Сега могат да бъдат извънредно реалистични и да основават хора и обекти, които наподобяват като фотография.
Обратно изначало
След всичко това се връщаме в изходна точка. А точно, че зависи от хората по какъв начин ще научат изкуствения разсъдък. А може би не? Всъщност, може би AI е по-обективен, в сравнение с ни се желае? Може би споделя и демонстрира неща, които не желаеме или не сме подготвени да приемем?
Това може да е теза, която произлиза от изследване на учени от Университета на Станфорд, оповестено юни предходната година. В него те са употребявали данни от формалното Бюро за трудова статистика на Съединени американски щати от 2021 година, в което хората са питани като какви се самоидентифицират – пол, раса и специалност и надлежно какви чакат да са хората в разнообразни специалности. Те са съпоставени с това в какви специалности AI моделите генерират хора със същите характерности или какви фотоси селектират и показват.
В съвсем всички случаи AI резултатите „ дърпат “ повече към стандарта до момента в който хората се стремят да балансират. Например съгласно логаритмите, 100% от хората с специалности като стюардеса, здравна сестра или просто домакини, са дами. А пък съвсем 100% от хората с специалности софтуерен инженер, водач на такси или пожарникар са мъже. Тук е значимо да се означи, че се съпоставя по отношение на персоналната самоидентификация на хората, а не публични данни за това какви са действителните работещи дадената специалност.
Тоест, AI ни вижда по по-различен метод, в сравнение с ние виждаме сами себе си. Дали е прав или не, е въпрос на позиция и на публични данни. Според множеството специалисти, проблем има и той е във въпросното разминаване сред упованията на хората и действителното държание на AI. Хората желаят да видят изображения, които дават отговор на избрани настоящи все още публични стандарти. AI пък демонстрира изображения въз основата на това, което „ вижда “ в интернет и възприема като действителността. А действителността не постоянно е тъкмо такава, каквато си я представяме.
Все отново AI не е Танос и не може да трансформира действителността както изиска. Алгоритмите „ живеят “ в цифровия свят, който въпреки да е отражение на физическия свят, в който действително живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде безусловно тъкмо страстите, усещанията, мислите и упованията на хората. Нито и техните способи на връзка очи в очи, неповторими изрази и така нататък
Не е рационално да чакаме, че AI през цялото време ще е всесилен и непогрешим, въпреки и еуфорията към технологията да сътвори такива упования. С времето той ще се усъвършенства и ще стане по-прецизен. Колко време ще е нужно зависи още веднъж от хората. И тук се демонстрира класическата сентенция „ доста баби, хилаво бебе “. Причината е, че има голям брой специалисти, компании, организации и институции, които са на едно и също мнение, че AI има потребност от регулация и помощ в поддържането на вярната посока, само че възгледите за методите, по които това би трябвало да се случи са доста разнопосочни. Геополитическите борби кой ще има надзор над разгръщането на технологията също не са за подценяване.
А това е единствено началото на развиването на AI. Предстоят още доста тематики и проблеми, които би трябвало да се прегледат и решат. Някои от тях ще разгледаме напълно скоро.
Не пропускайте най-важните вести - последвайте ни в
През последните седмици се получиха няколко по-големи проблема, които привлякоха повече внимание. Те имаха обща причина – генерираните от AI изображения и отговори на въпроси са с расистки или сексистки подмятания, а от време на време са и искрено неправилни.
Най-невинният образец е да попитаме някоя от услугите за генериране на изображения, да ни нарисува съвременна интерпретация на Мона Лиза. Резултатите могат да са много разнородни и колкото пъти създадем поръчката, толкоз по-различни и… стереотипни.
А преди няколко седмици Гугъл се оказа в центъра на скандал поради чатбота Gemini, тъй като беше упрекнат, че генерира „ изцяло неприемливи “ изображения. Например на афроамериканци в фалшификати на нацистки униформи. Наложи се компанията да спре функционалността за известно време до момента в който я поправя.
Мнозина упрекнаха изкуствения разсъдък в расизъм. Но действително технологията не осъзнава това. Тя към момента е надалеч от съвършено подготвена във всички нюанси на човешката история, просвета и всекидневие. В опита си да демонстрира, че не прави разлика сред хората, тя не преценява някои исторически особености. Не оказва помощ и фактът, че в множеството случаи фирмите просто поставят филтър, който да блокира осъществяването на такива задания и надлежно логаритмите няма по какъв начин да се поучат от грешките си или пък по-лошо – учат се неправилно.
Това е разбираемо, защото става дума за ИТ колоси със международна известност, акции на фондовите пазари, скъпи вложения и така нататък Те не могат да си разрешат да чакат AI да се научи вероятно. Затова избират да спрат функционалността или да наложат филтри, до момента в който я обучат сами.
Тук идва и другият проблем – данните, с които логаритмите биват обучавани. В огромната си степен те разчитат на информацията, която има в интернет. А тя е най-разнородна. И в множеството случаи изобилства от неточности, (не)волни грешки, целенасочена агитация и така нататък Много мъчно е да се пресее правилната информация и в известна степен това не би трябвало да се прави, защото тогава логаритъмът ще се научи на сухи, университетски данни и по-късно ще е некадърен да комуникира с хората на „ национален “ език.
Повечето компании споделят, че техните специалисти въпреки всичко преглеждат базите данни и вършат избрани филтри, настройки и корекции. Но и тук още веднъж от голяма важност е човешкият фактор. Както дете, което се образова от родители и учители и разчита напълно на тяхната уместност в преподаването на знанията, по този начин и какво ще научи AI и по какъв начин, зависи от хората, които ще му напишат програмния код и ще му подберат и дават данните. А тези хора имат своите (не)осъзнати пристрастия. В множеството случаи те даже не осъзнават, че ги предават на цифровото си отроче.
Но за разлика от човек, който един път израснал и подготвен по избран метод, по-късно доста мъчно може да се промени, за AI това не е чак такова предизвикателство. Той може да бъде подготвен на нови неща по-бързо и това си проличава от темпото, с което творенията му се усъвършенстват. Преди година по това време генерираните от AI изображения бяха обещаващи, само че цялостни с недостатъци. Сега могат да бъдат извънредно реалистични и да основават хора и обекти, които наподобяват като фотография.
Обратно изначало
След всичко това се връщаме в изходна точка. А точно, че зависи от хората по какъв начин ще научат изкуствения разсъдък. А може би не? Всъщност, може би AI е по-обективен, в сравнение с ни се желае? Може би споделя и демонстрира неща, които не желаеме или не сме подготвени да приемем?
Това може да е теза, която произлиза от изследване на учени от Университета на Станфорд, оповестено юни предходната година. В него те са употребявали данни от формалното Бюро за трудова статистика на Съединени американски щати от 2021 година, в което хората са питани като какви се самоидентифицират – пол, раса и специалност и надлежно какви чакат да са хората в разнообразни специалности. Те са съпоставени с това в какви специалности AI моделите генерират хора със същите характерности или какви фотоси селектират и показват.
В съвсем всички случаи AI резултатите „ дърпат “ повече към стандарта до момента в който хората се стремят да балансират. Например съгласно логаритмите, 100% от хората с специалности като стюардеса, здравна сестра или просто домакини, са дами. А пък съвсем 100% от хората с специалности софтуерен инженер, водач на такси или пожарникар са мъже. Тук е значимо да се означи, че се съпоставя по отношение на персоналната самоидентификация на хората, а не публични данни за това какви са действителните работещи дадената специалност.
Тоест, AI ни вижда по по-различен метод, в сравнение с ние виждаме сами себе си. Дали е прав или не, е въпрос на позиция и на публични данни. Според множеството специалисти, проблем има и той е във въпросното разминаване сред упованията на хората и действителното държание на AI. Хората желаят да видят изображения, които дават отговор на избрани настоящи все още публични стандарти. AI пък демонстрира изображения въз основата на това, което „ вижда “ в интернет и възприема като действителността. А действителността не постоянно е тъкмо такава, каквато си я представяме.
Все отново AI не е Танос и не може да трансформира действителността както изиска. Алгоритмите „ живеят “ в цифровия свят, който въпреки да е отражение на физическия свят, в който действително живеем, то това отражение има своите изкривявания и особености. Най-малкото не може да пресъздаде безусловно тъкмо страстите, усещанията, мислите и упованията на хората. Нито и техните способи на връзка очи в очи, неповторими изрази и така нататък
Не е рационално да чакаме, че AI през цялото време ще е всесилен и непогрешим, въпреки и еуфорията към технологията да сътвори такива упования. С времето той ще се усъвършенства и ще стане по-прецизен. Колко време ще е нужно зависи още веднъж от хората. И тук се демонстрира класическата сентенция „ доста баби, хилаво бебе “. Причината е, че има голям брой специалисти, компании, организации и институции, които са на едно и също мнение, че AI има потребност от регулация и помощ в поддържането на вярната посока, само че възгледите за методите, по които това би трябвало да се случи са доста разнопосочни. Геополитическите борби кой ще има надзор над разгръщането на технологията също не са за подценяване.
А това е единствено началото на развиването на AI. Предстоят още доста тематики и проблеми, които би трябвало да се прегледат и решат. Някои от тях ще разгледаме напълно скоро.
Не пропускайте най-важните вести - последвайте ни в
Източник: vesti.bg
КОМЕНТАРИ