Расова пристрастност в цифровия съд: какво разкрива проучването на Cornell?
Учени откриха по какъв начин изкуственият разсъдък прави оценка риска от повторни закононарушения – рецидив.
В бъдеще изкуственият разсъдък неизбежно ще би трябвало да взема решения, свързани с висок риск. Група учени от университета „ Корнел “ и други научни институции взеха решение да ревизират способността на актуалните огромни езикови модели да плануват вероятността от повторни закононарушения.
Системата COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) към този момент се употребява в Съединени американски щати за оценка на риска от наново осъществяване на закононарушение, само че резултатите от нея са спорни. Алгоритмите на системата предвиждат вероятността от наново осъществяване на закононарушение въз основа на фактори като броя на присъдите, тежестта на закононарушението и възрастта на обвинения. През 2016 година изследване на ProPublica откри, че COMPAS е по-склонна да разпознава чернокожите като евентуални рецидивисти, даже когато те имат сходно престъпно минало с хората от другите раси.
За да ревизират способността на изкуствения разсъдък да предвижда рецидивизма, откривателите са употребявали смесен набор от данни от три източника. Първият източник е информация от системата COMPAS, включваща канара за оценка на риска от рецидив, която варира от 1 до 10 точки. Вторият източник са резултатите от изследване измежду 20 души, които са оценявали вероятността от рецидив. Третият източник е базата данни Chicago Face Database, която съдържа фотоси на хора от разнообразни полове, етноси и възрасти. При разбора са взети поради фактори като пол, възраст, раса, брой предходни тежки закононарушения и тежест на закононарушенията.
Тестването беше осъществено с четири езикови модела: GPT 3.5 Turbo, GPT 4o, Llama 3.2 90B и Mistral NeMo (12B). Изследователите стигнаха до заключението, че езиковите модели и COMPAS не превъзхождат хората във връзка с точността на прогнозиране на рецидива. Въпреки това ИИ моделите по-често са правили прогнози от хората и системата COMPAS, въпреки и не постоянно с по-голяма акуратност. За разлика от хората, точността на прогнозиране на езиковите модели понижава при липса на информация за расата. Когато тези данни са налични, броят на подправено позитивните прогнози доста понижава. Сред всички тествани модели GPT 3.5 Turbo сподели най-висока акуратност.
Когато към разбора бяха добавени фотоси на обвинени от базата данни Chicago Face Database, резултатите на ИИ моделите се усъвършенстват, само че точността към момента остава по-ниска от тази на хората. Едно от основните открития е, че езиковите модели са постигнали по-добри резултати както от хората, по този начин и от системата COMPAS, когато са имали достъп до резултатите от предходни решения посредством механизъм за контекстуално образование.
Интересно е да се означи, че съществуването на информация за расата понижава броя на подправените позитивни прогнози за обвинени от негър и латиноамерикански генезис. Въпреки това процентът към момента остава по-висок, в сравнение с при белите обвинени. Най-добри резултати са реализирани, когато в анализите са включени по едно и също време и фотоси на обвинените, и информация за тяхната раса.
