Генеративният инструмент Copilot внезапно започна да създава грозни стереотипни изображения на евреи и антисемитски образи
Генеративните ИИ принадлежности са към момента надалеч от съвършенството.
Сега се оповестява, че Copilot Designer при поръчка за основаване на изображение на евреи извършва най-лошите стандарти. Изображения на алчни или зли хора. Например неутрални поръчки като „ еврейски началник “ или „ еврейски банкер “ могат да дадат извънредно обидни резултати.
Всеки огромен езиков модел се образова най-много върху данни от целия интернет (обикновено без съгласие), които явно са цялостни с отрицателни облици. Разработчиците на тези AI модели се пробват да вкарат защитни механизми, с цел да избегнат стереотипизирането и враждебния език. Резултатите на Copilot Designer обаче демонстрират, че в модела могат да участват всевъзможни отрицателни пристрастия към другите групи.
Изданието Tomshardware отбелязва, че при потребление на поръчката „ еврейски началник “ Copilot Designer съвсем постоянно основава карикатурни стандарти на религиозни евреи. При това заобиколени от еврейски знаци. А от време на време и от стереотипни предмети като багети или купчини пари. Ако към предходна поръчка се добави думата „ началник “, се получават същите карикатури, само че с още по-злобни изражения и думи като „ закъсняваш за срещата си, Шмендрик “.
Освен това се отбелязва, че Copilot Designer стартира да блокира някои термини, които счита за проблематични, като да вземем за пример „ еврейски началник “, „ еврейска кръв “ или „ авторитетен евреин “. Използването им няколко пъти поред може да докара до блокиране на профила ви за въвеждане на нови поръчки за 24 часа. Но както при всички LLM, можете да получите обидно наличие, в случай че употребявате синоними, които не са блокирани.
