Европарламентът: Хора трябва да имат контрол над системите с изкуствен интелект |
- Хора би трябвало да имат надзор над системите с изкуствен интелект, а логаритмите би трябвало да бъдат с отворен код
- Забрана на частните бази данни за различаване на лица, правенето на поведенчески прогнози от правоприлагащите органи и оценяването на жителите
- Автоматизираното различаване не следва да се употребява за граничен надзор или на публични места
Това са главните акценти в резолюцията за потребление на изкуствения разсъдък (ИИ), която европейският парламент одобри. С цел битка с дискриминирането и гарантиране на правото на цялост на персоналния живот, Екологичен потенциал упорства за строги гаранции, когато инструментите на ИИ се употребяват в правоприлагането.
В резолюцията, призната с 377 гласа " за ", 248 гласа " срещу " и 62 гласа " въздържал се ", членовете на Екологичен потенциал показват риска от алгоритмична пристрастност в приложенията на изкуствен интелект (ИИ) и акцентират, че е нужен човешки контрол и мощни правни пълномощия, с цел да се предотврати дискриминирането от страна на ИИ, изключително в подтекста на правоприлагането или граничния надзор. Човешките оператори постоянно би трябвало да взимат окончателните решения, а субектите, следени от учредени на ИИ системи, би трябвало да имат достъп до средства за правна отбрана, споделят членовете на Екологичен потенциал.
Опасения за дискриминация
В резолюцията се предупрежава, че системите за идентификация, основани на изкуствен интелект, по-често неправилно разпознават малцинствени етнически групи, ЛГБТИ лица, възрастни хора и дами, което е изключително обезпокоително в региона на правоприлагането и правосъдната система. За да се подсигурява спазването на главните права при потреблението на тези технологии, логаритмите следва да бъдат транспарантни, проследими и задоволително документирани, приканват членовете на Екологичен потенциал. Когато е допустимо, обществените органи следва да употребяват ИИ със програмен продукт с отворен код, с цел да бъдат по-прозрачни.
Дискриминацията става най-много в приложенията с ИИ в прогнозирането в полицейската област, се споделя в отчета. Пред Clubz.bg главният докладчик Петър Витанов уточни като образец абсурда в Нидерландия, довел до оставката на държавното управление на Марк Рюте при започване на тази година. Причина бяха разкритията, че над 800 българи получили нелегално детски надбавки и помощ за наеми в размер на общо 4 милиона евро за интервала 2007-2013 година В реалност те обитавали в страната напълно за малко и въобще не полагали никакъв труд. Поради всичко това на доста други българи в Нидерландия непозволено са отказани помощи, сподели Витанов.
Но освен източноевропейци страдат от неверни калкулации на приложения с изкуствен интелект, добави евродепутатът. Потърпевши са също по-бедните хора, тези с непознати имена, имигрантите, цветнокожи и други уязвими общности.
В някои логаритми имената на източноевропейците да вземем за пример са заложени като непознати. Предположението е, че чужденците са по-склонни към осъществяването на избран вид закононарушения или злоупотреби.
Противоречиви технологии
За да се зачитат неприкосновеността на персоналния живот и човешкото достойнство гражданите би трябвало да бъдат следени единствено при съмнение за закононарушение. Парламентът приканва да се забрани потреблението на частни бази данни за лицево различаване (като системата ИИ на „ КлиърВю “ (Clearview AI), която към този момент се използва) и прогнозиране на база на поведенчески данни от полицията.
Членовете на Екологичен потенциал не желаят повече да се употребява всеобщото оценяване на жителите от страна на обществените органи благодарение на ИИ, което те смятат, че заплашва правилата на недискриминация и не е съгласно с главните права на Европейски Съюз.
В умозаключение, Парламентът показва угриженост от потреблението на биометрични данни за отдалечено идентифициране на хора. Например, вратите за граничен надзор, които употребяват автоматизирано различаване, и планът iBorderCtrl ( " умна система за детектор на лъжата " за външните граници на ЕС) би трябвало да бъдат прекратени, споделят членовете на Екологичен потенциал, като упорстват Комисията да стартира производства за определяне на нарушавания против страните членки, в случай че е належащо.
Петър Витанов (С&Д, България) съобщи:
„ Основните права са безусловни. За първи път призоваваме за мораториум върху внедряването на системи за лицево различаване в подтекста на правоприлагането, защото технологията е потвърдено неефективна и постоянно води до дискриминационни резултати. Категорично се противопоставяме на прогнози за полицейска активност, учредена на потреблението на изкуствен интелект, както и на всяка обработка на биометрични данни, която води до всеобщо наблюдаване. Това е голяма победа за всички европейски жители. “
- Забрана на частните бази данни за различаване на лица, правенето на поведенчески прогнози от правоприлагащите органи и оценяването на жителите
- Автоматизираното различаване не следва да се употребява за граничен надзор или на публични места
Това са главните акценти в резолюцията за потребление на изкуствения разсъдък (ИИ), която европейският парламент одобри. С цел битка с дискриминирането и гарантиране на правото на цялост на персоналния живот, Екологичен потенциал упорства за строги гаранции, когато инструментите на ИИ се употребяват в правоприлагането.
В резолюцията, призната с 377 гласа " за ", 248 гласа " срещу " и 62 гласа " въздържал се ", членовете на Екологичен потенциал показват риска от алгоритмична пристрастност в приложенията на изкуствен интелект (ИИ) и акцентират, че е нужен човешки контрол и мощни правни пълномощия, с цел да се предотврати дискриминирането от страна на ИИ, изключително в подтекста на правоприлагането или граничния надзор. Човешките оператори постоянно би трябвало да взимат окончателните решения, а субектите, следени от учредени на ИИ системи, би трябвало да имат достъп до средства за правна отбрана, споделят членовете на Екологичен потенциал.
Опасения за дискриминация
В резолюцията се предупрежава, че системите за идентификация, основани на изкуствен интелект, по-често неправилно разпознават малцинствени етнически групи, ЛГБТИ лица, възрастни хора и дами, което е изключително обезпокоително в региона на правоприлагането и правосъдната система. За да се подсигурява спазването на главните права при потреблението на тези технологии, логаритмите следва да бъдат транспарантни, проследими и задоволително документирани, приканват членовете на Екологичен потенциал. Когато е допустимо, обществените органи следва да употребяват ИИ със програмен продукт с отворен код, с цел да бъдат по-прозрачни.
Дискриминацията става най-много в приложенията с ИИ в прогнозирането в полицейската област, се споделя в отчета. Пред Clubz.bg главният докладчик Петър Витанов уточни като образец абсурда в Нидерландия, довел до оставката на държавното управление на Марк Рюте при започване на тази година. Причина бяха разкритията, че над 800 българи получили нелегално детски надбавки и помощ за наеми в размер на общо 4 милиона евро за интервала 2007-2013 година В реалност те обитавали в страната напълно за малко и въобще не полагали никакъв труд. Поради всичко това на доста други българи в Нидерландия непозволено са отказани помощи, сподели Витанов.
Но освен източноевропейци страдат от неверни калкулации на приложения с изкуствен интелект, добави евродепутатът. Потърпевши са също по-бедните хора, тези с непознати имена, имигрантите, цветнокожи и други уязвими общности.
В някои логаритми имената на източноевропейците да вземем за пример са заложени като непознати. Предположението е, че чужденците са по-склонни към осъществяването на избран вид закононарушения или злоупотреби.
Противоречиви технологии
За да се зачитат неприкосновеността на персоналния живот и човешкото достойнство гражданите би трябвало да бъдат следени единствено при съмнение за закононарушение. Парламентът приканва да се забрани потреблението на частни бази данни за лицево различаване (като системата ИИ на „ КлиърВю “ (Clearview AI), която към този момент се използва) и прогнозиране на база на поведенчески данни от полицията.
Членовете на Екологичен потенциал не желаят повече да се употребява всеобщото оценяване на жителите от страна на обществените органи благодарение на ИИ, което те смятат, че заплашва правилата на недискриминация и не е съгласно с главните права на Европейски Съюз.
В умозаключение, Парламентът показва угриженост от потреблението на биометрични данни за отдалечено идентифициране на хора. Например, вратите за граничен надзор, които употребяват автоматизирано различаване, и планът iBorderCtrl ( " умна система за детектор на лъжата " за външните граници на ЕС) би трябвало да бъдат прекратени, споделят членовете на Екологичен потенциал, като упорстват Комисията да стартира производства за определяне на нарушавания против страните членки, в случай че е належащо.
Петър Витанов (С&Д, България) съобщи:
„ Основните права са безусловни. За първи път призоваваме за мораториум върху внедряването на системи за лицево различаване в подтекста на правоприлагането, защото технологията е потвърдено неефективна и постоянно води до дискриминационни резултати. Категорично се противопоставяме на прогнози за полицейска активност, учредена на потреблението на изкуствен интелект, както и на всяка обработка на биометрични данни, която води до всеобщо наблюдаване. Това е голяма победа за всички европейски жители. “
Източник: offnews.bg
КОМЕНТАРИ