Моделите с изкуствен интелект (ИИ) възпроизвеждат дългогодишни антисемитски стереотипи за

Моделите с изкуствен интелект (ИИ) възпроизвеждат дългогодишни антисемитски стандарти за евреите макар въведените механизми за ограничение на пристрастията, демонстрира изследване на израелски учени, представено от израелската новинарска организация ТПС.

Според създателите това значи, че актуалните ограничения за сигурност могат да лимитират явните прояви на дискриминация, само че не съумяват изцяло да отстранен заложените в моделите асоциации. Те предизвестяват, че сходни скрити пристрастия могат да окажат въздействие при потреблението на ИИ в области като асортимент на личен състав, разпределяне на заеми, банкет в образователни заведения, обезпечаване и даване на публични услуги, където името или други белези на самоличността могат да повлияят на решенията.

Изследването е извършено от проф. Майкъл Гилеад от Факултета по психически науки и Факултета по обществени науки " Гордън " към Телавивски университет и доктор Гал Гутман от Факултета по бизнес и мениджмънт към Университет " Бен-Гурион " в Негев.

Вместо непосредствено да задават въпроси за евреите, учените разпореждат на " ЧатДжиПиТи " (ChatGPT), " Дийпсийк " (DeepSeek) и " Мистрал " (Mistral) да основат по 252 къси биографии на измислени герои с еврейски и нееврейски имена, съпоставени по възраст и пол. След това отстраняват имената и всички разпознаваеми данни и карат моделите да оценят личностните характерности на героите.

Така откривателите ревизират дали самите имена провокират избрани асоциации. По думите им този индиректен метод е нужен, защото ИИ моделите постоянно отхвърлят да дават отговор или " смекчават " отговорите си при директни въпроси за етнически групи. Според създателите резултатите демонстрират, че образованието за сигурност трансформира метода, по който моделите формулират отговорите си, само че не отстранява изцяло скритите показа, задействани от идентификационни белези като имената.

При оценката по 19 личностни характерности трите модела поредно свързват героите с еврейски имена с по-висока просветеност, подготвеност, самонадеяност, увереност и организираност, само че в същото време ги дефинират като по-малко сърдечни, отзивчиви и симпатични. Според откривателите казусът не е в обособените качества, а в тяхната композиция, която показва евреите като извънредно способни, само че в същото време студени, властни или стремящи се към надзор - модел, наподобяващ одобрени антисемитски стандарти.

Учените означават още, че макар вековете на гонене на евреите в Европа и други елементи на света, моделите ги показват по-скоро през призмата на привилегията и властта, в сравнение с историческия опит с дискриминация и гонене.

Резултатите подхождат и на проучванията върху човешките настройки, учредени на модела за наличието на стандартите на психолога Сюзън Фиске. Според него стандартите постоянно съчетават позитивни и негативни характерности. Групите, възприемани като доста способени, само че незадоволително топли и съпричастни, постоянно провокират злоба - механизъм, който съгласно учените исторически е допринасял за антисемитски показа, изобразяващи евреите като по едно и също време сполучливи и рискови.

След това откривателите подават назад в моделите открития набор от характерности и ги питат кои герои от киното, малкия екран и литературата му подхождат. " ЧатДжиПиТи " показва персонажи като Ханибал Лектър и Виктор Франкенщайн. Сред постоянно споменаваните от трите модела са още Шерлок Холмс, Д-р Хаус, Уолтър Уайт, Тони Старк и Лисбет Саландер.

На въпроса какво сплотява тези герои, моделите показват изключителна просветеност, неуважение към разпоредбите, обществена изолираност, обсебеност от задачите и личен честен кодекс, който стои над общоприетите правила. Според създателите това изложение припомня антисемитския таен облик на " кукловода " - мита за скрита еврейска мощ, която манипулира събитията зад кулисите и е разпространяван от фалшификата " Протоколите на Ционските мъдреци ".

Най-същественият извод съгласно учените е, че последната връзка е направена от самите модели. Когато им е показан този набор от характерности, без да се загатват евреи, и са запитани коя група най-често става обект на предубеждения въз основа на сходни качества, " ЧатДжиПиТи ", " Дийпсийк " и " Мистрал " слагат евреите преди всичко.

Подобни резултати са получили и стотици участници от Съединени американски щати, които оценявали биографиите, без да виждат имената на героите. Това съгласно създателите демонстрира, че стереотипните внушения участват в самите генерирани текстове.

" Системите с изкуствен интелект не демонстрират антисемитизъм умишлено или съзнателно. Те по-скоро възпроизвеждат модели на показване и културни стандарти, заложени в данните, върху които са подготвени ", разяснява доктор Гал Гутман.

По думите ѝ историческите предубеждения могат да останат в скритите модели, усвоени от ИИ системите, даже след използването на техники за ограничение на пристрастията. " Евреите са единствено образец в това проучване. Същият способ може да бъде употребен за всяка друга група и допускаме, че резултатите евентуално ще бъдат също толкоз притеснителни ", показва тя.

Според откривателите резултатите имат практическо значение за метода, по който ИИ системите се тестват и внедряват. Те считат, че сегашните оценки за сигурност, които главно ревизират дали моделът генерира намерено дискриминационно наличие, могат да пропуснат скритите асоциации, влияещи върху генерираните текстове или върху процеса на взимане на решения.

Авторите означават, че създадената от тях методология може да бъде употребена за одит на ИИ системи в области като подбора на личен състав, където името или други белези на самоличността могат несъзнателно да повлияят върху оценката на претендентите. Според тях повишението на сигурността на изкуствения разсъдък изисква освен пречистване на наличието и механизми за отвод на отговор, само че и изчерпателен разбор дали вътрешните модели и процесите на взимане на решения не престават да възпроизвеждат нездравословни стандарти.

(Тази информация се популяризира по съглашение сред Българска телеграфна агенция и ТПС)