С правна рамка Европа се стреми да гарантира отговорно използване

С правна рамка Европа се стреми да подсигурява отговорно потребление на AI
(снимка: CC0 Public Domain)

Съветът на Европа одобри първия по рода си интернационален правно обвързващ контракт, целящ да подсигурява зачитането на правата на индивида, върховенството на закона и правните стандарти на демокрацията при потреблението на системи с изкуствен интелект (AI).

Договорът, който е отворен и за неевропейски страни, дефинира правна рамка, която обгръща целия витален цикъл на системите с изкуствен интелект и адресира рисковете, които те могат да породят, като в същото време предизвиква виновните нововъведения.

Конвенцията възприема учреден на риска метод към проектирането, създаването, потреблението и извеждането от употреба на AI системи, което изисква деликатно разглеждане на всички евентуални негативни последствия от потреблението им.

Рамковата спогодба на Съвета на Европа за изкуствения разсъдък и човешките права, демокрацията и върховенството на закона беше призната през днешния ден в Страсбург по време на годишната министерска среща на Комитета на министрите на Съвета на Европа, която събира министрите на външните работи на 46-те страни-членки на Съвета на Европа.

„ Рамковата спогодба за изкуствения разсъдък е първият по рода си световен контракт, който ще подсигурява, че изкуственият разсъдък пази правата на хората ”, съобщи Генералният секретар на Съвета на Европа Мария Пейчинович.

„ Това е отговор на нуждата от интернационален юридически стандарт, подсилен от страни на разнообразни континенти, които споделят едни и същи полезности, с цел да се употребяват преимуществата на изкуствения разсъдък, като в същото време се смекчат рисковете. С този нов контракт ние се стремим да подсигуряваме отговорно потребление на AI, което зачита човешките права, върховенството на закона и демокрацията ”, добави тя.

Конвенцията е резултат от двугодишна работа на междуправителствен орган, Комитетът по изкуствен интелект (CAI), който събра за правенето на контракта 46-те държави-членки на Съвета на Европа, Европейския съюз и 11 страни, които не са членки (Аржентина, Австралия, Канада, Коста Рика, Светия трон, Израел, Япония, Мексико, Перу, Съединените американски щати и Уругвай), както и представители на частния бранш, гражданското общество и университетските среди, които участваха като наблюдаващи.

Договорът обгръща потреблението на AI системи в обществения бранш – в това число компании, настоящи от негово име – и в частния бранш. Конвенцията предлага на страните два метода за съблюдаване на нейните правила и отговорности при контролиране на частния бранш: страните могат да изберат да бъдат директно задължени от съответните разпореждания на конвенцията или, като опция, да подхващат други ограничения за съблюдаване на наредбите на контракта, като в същото време зачитат напълно своите интернационалните отговорности във връзка с правата на индивида, демокрацията и върховенството на закона. Този метод е нужен, заради разликите в правните системи по света.
още по темата
Конвенцията открива условия за бистрота и контрол, съобразени с съответни контексти и опасности, в това число идентифициране на наличие, генерирано от системи с изкуствен интелект.

Страните ще би трябвало да одобряват ограничения за идентифициране, оценка, попречване и намаляване на вероятните опасности и да оценят нуждата от мораториум, възбрана или други подобаващи ограничения по отношение на потреблението на системи с изкуствен интелект, когато техните опасности може да са несъвместими със стандартите за правата на индивида.

Те също по този начин ще би трябвало да обезпечат отчетност и отговорност за неподходящи въздействия и че системите за AI зачитат равенството, в това число равенството сред половете, възбраната на дискриминирането и правата на дискретност.

Освен това страните по контракта ще би трябвало да обезпечат съществуването на правни средства за отбрана за жертвите на нарушавания на правата на индивида, свързани с потреблението на AI системи, и процедурни гаранции, в това число известяван на всички лица, взаимодействащи с AI системи, че те взаимодействат с такива системи.

Що се отнася до рисковете за демокрацията, договорът изисква страните да одобряват ограничения, с цел да подсигуряват, че системите за AI не се употребяват за подкопаване на демократичните институции и процеси, в това число правилото на разделяне на управляващите, ценене на правосъдната самостоятелност и достъп до правораздаване.

От страните по конвенцията няма да се изисква да ползват наредбите на контракта към действия, свързани със отбраната на ползите на националната сигурност, само че ще бъдат задължени да подсигуряват, че тези действия зачитат интернационалното право и демократичните институции и процеси.

Конвенцията няма да се ползва по въпроси на националната защита, нито във връзка с научноизследователски и развойни действия, с изключение на когато тестването на системи с AI може да има капацитет да се намеси в човешките права, демокрацията или върховенството на закона.

За да се подсигурява ефикасното ѝ използване, конвенцията открива механизъм за следващи дейности под формата на Конференция на страните.

И най-после, конвенцията изисква всяка страна да сътвори самостоятелен механизъм за контрол, с цел да следи за спазването на конвенцията, и да покачва осведомеността, да подтиква осведомен публичен спор и да организира съвещания с голям брой заинтригувани страни за това по какъв начин би трябвало да се употребява AI технологията.

Рамковата спогодба ще бъде открита за сключване във Вилнюс (Литва) на 5 септември във връзка конференция на министрите на правораздаването.