Европейският закон за AI ще послужи за образец за останалия

Европейският закон за AI ще послужи за пример за останалия свят, както стана с GDPR, а това основава огромни упования (снимка: CC0 Public Domain)

Преди броени дни депутатите в две комисии на Европейския парламент гласоподаваха с огромно болшинство за редица промени в Закона за изкуствения разсъдък (AIA), в това число редица забрани за „ натрапчиви и дискриминационни “ системи. И въпреки всичко към момента са налице паники по отношение на оставащите „ малки врати “ и капацитета за превишаване на правата.

Списъкът на неразрешените системи, за които се смята, че съставляват „ недопустимо високо равнище на риск за сигурността на хората “, в този момент към този момент включва потребление на лицево различаване онлайн в публично налични пространства; системи за биометрична категоризация, употребяващи чувствителни характеристики; различаване на страсти в правоприлагането, ръководството на границите, на работното място и в просветителните институции.

Строги ограничения

Членовете на комисиите за вътрешен пазар и отбрана на потребителите и за цивилен свободи, правораздаване и вътрешни работи взеха решение за цялостна възбрана на предиктивните полицейски системи. Под огъня попадна и безразборното „ чегъртане “ на биометрични данни от обществени медии или видеозаписи за основаване на бази данни за различаване на лица.

Заедно със възбраните евродепутатите гласоподаваха и за разширение на определението за „ висок риск “. Сега към този момент то включи системи с AI, които вредят на здравето, сигурността, главните човешки права на хората или околната среда.

Депутатите гласоподаваха и ограничения за повишение на отчетността и прозрачността при фирмите-внедрители на системи с AI. Ще има обвързване за осъществяване на оценки на въздействието върху главните човешки права преди внедряването на системи с „ висок риск “, които обществените органи ще би трябвало да разгласяват. Предвидено е разширение на обсега на обществено наличната база данни на AIA за системите с „ висок риск “, тъй че да включва и тези, внедрени от обществени органи.
още по темата
Бяха въведени и напълно нови ограничения към „ фундаменталните “ модели и генеративните AI системи. Техните основатели ще бъдат задължени да оценят набор от опасности, свързани с въпросните разработки. В центъра на вниманието ще са капацитетът за екологични вреди и въпросът дали AI системите подсигуряват отбрана на главните права. За задачата разработчиците ще са принудени да разкрият „ задоволително в детайли обобщение на потреблението на данни за образование, предпазени “ от законите за авторското право.

Измененията обаче съставляват единствено „ проект… за договаряния “ за Европейския парламент. Те ще бъдат подложени на пленарно гласоподаване от целия парламент в средата на юни 2023 година След това гласоподаване ще стартират тристранни договаряния при закрити врата сред Европейският парламент, Европейският съвет и Европейската комисия – всички те имат разнообразни позиции.

Външните наблюдаващи са безапелационни, че идният спор е непредвидим. Всяка от институциите има разнообразни позиции и изхожда от разнообразни цели. Затова по никакъв начин не е ясно дали въобще има позиция, от която „ някой няма да мръдне ”, споделят наблюдаващите.

Реакции

В отговор на гласуванията Асоциацията на компютърната и информационната промишленост CCIA Europe – чиито членове включват Meta, Гугъл, Amazon, BT, Uber, Red Hat и Intel, измежду доста други софтуерни компании – сподели, че въпреки да има някои „ потребни усъвършенствания “, измененията „ означават ясно отклоняване от действителната цел на Закона за AI, която предизвиква усвояването на AI в Европа ”. ИТ секторът се бои, че „ потребните AI приложения “ ще бъдат спънати от прекалено строги условия „ или даже може да бъдат неразрешени “.

Като цяло ИТ общността застана зад изказванието, че „ Европейският парламент се отхвърли от упоритостта да поддържа нововъведенията в AI “.

На другия полюс са групите на гражданското общество. Те приветстваха редица от новите промени, само че предизвестиха, че към момента има редица проблеми, изключително към самооценката на промишлеността и изключенията за националната сигурност или правоприлагането. Най-голямо удовлетворение бе изказано по отношение на възбраната за предиктивно потребление на Aiв полицията. Активистите нарекоха това „ незабравим резултат “, който ще отбрани хората от „ необикновено нездравословна, несправедлива и дискриминационна “ процедура.

„ Видяхме по какъв начин потреблението на тези системи неведнъж криминализира хора, даже цели общности, етикетирайки ги като нарушители въз основа на техния генезис. Тези системи автоматизират несправедливостта. Те изострят и ускоряват расизма и дискриминирането в полицията и наказателноправната система и подхранват систематичното неравноправие в обществото “, сподели Гриф Ферис, старши юридически и политически чиновник в неправителствената организация Fair Trials.

Високорискови системи

Тема на разкол остава член 6 от закона, който касае високорисковите AI системи. Притеснението тук идва от концепцията доставчиците на AI да си вършат самокритика от позиция на степента на риск на дадена система. Едва ли някой снабдител ще има куража да постави своя разработка в категорията на високорисковите системи, считат анализатори и адвокати.

„ За страдание Парламентът предлага някои доста тревожни промени, свързани с това, което се смята за „ високорисков “ AI “, сподели Сара Чандър, старши политически консултант в EDRi. „ С измененията в текста разработчиците ще могат сами да решат дали тяхната система е задоволително „ значима “, с цел да се смята за високорискова “.