Covid-19 ускори натиска на правителствата за разработване на технологии за

Covid-19 форсира натиска на държавните управления за създаване на технологии за наблюдаване
(снимка: CC0 Public Domain)

Европейски Съюз финансира създаването на голям брой нови принадлежности за защита и сигурност. Но кой взема решение до каква степен би трябвало да стигне властта на изкуствения разсъдък?

Патрик Брайер не е очаквал, че ще би трябвало да съди Европейската комисия. Кротко говорещият немски евродепутат се стреснал, когато през юли 2019 година прочел за нова технология за разчитане на „ микроизраженията ” на лицето, която „ схваща ” по кое време някой лъже, до момента в който дава отговор на въпроси. Още по-стряскащо се оказало, че Европейски Съюз финансира създаването на тази технология, наречена iBorderCtrl, за евентуално потребление при защитата на европейските граници. В публикация, която Брайер прочел, кореспондентка описала по какъв начин е била подложена на тест с технологията – на границата сред Сърбия и Унгария. Тя споделила истината, само че изкуственият разсъдък решил, че е излъгала.

Бидейки член на комисията по цивилен свободи на Европейския парламент и един от четиримата евродепутати от Пиратската партия, Брайер осъзнал, че етичните последствия от iBorderCtrl са големи. Той се тормозил, че в случай че сходна технология – или както в този момент го назовава, „ псевдонаучен алабализъм за сигурността ” – се окаже разполагаем на тези, които дават отговор за защитата на границите, доста хора могат да се окажат лъжци, без да са излъгали – единствено тъй като са цветнокожи, дами, възрастни хора, деца или хора с увреждания.

Разчитайки законите на Европейски Съюз за прозрачността, Брайер изискал повече информация от Европейската комисия по отношение на етиката и законността на плана. Отговорът се оказал объркващ: достъпът до информацията бил отхвърлен – в името на отбраната на комерсиалните секрети.

И по този начин Брайер решил да съди Европейска комисия. Сега той желае Европейският съд да се произнесе дали публикуването на документите съставлява публичен интерес. „ Европейският съюз финансира противозаконна технология, която нарушава главните човешки права и е неетична ”, твърди Брайер, представен от. Делото му най-вероятно ще влезе в съда през новата година. То ще има далечни последствия. Милиарди евро обществено финансиране се насочват годишно за проучване на спорни технологии за сигурност. Поне 1,3 милиарда евро повече ще бъдат налети в сходни разработки през идващите седем години.

Лица, гласове, вени

Horizon 2020 е водещата стратегия на Европейски Съюз за научни проучвания и нововъведения. От 2014 до 2020 година по нея са дадени близо 80 милиарда евро безплатни средства за планове на учени.

Конкуренцията за парите от Horizon е яростна. Заплаща се за изследвания в области на такива неща като колоректален рак, заболявания, пренасяни от комари, възстановяване на напояването в селското стопанство. Тази година финансирането на Horizon поддържа немската компания BioNTech – една от първите компании, които оповестиха триумф в изпитванията на ваксини против Covid-19.

Но 1,7 милиарда евро от програмата през последните седем години са отишли за създаване на артикули за сигурност за охранителните служби и организациите за граничен надзор в обществения и частния бранш. Голяма част от разработките включват съвременни технологии: изкуствен интелект, безпилотни летателни апарати и добавена действителност, както и различаване на разположение, глас, вени и ирис и други биометрични данни, които могат да бъдат употребявани за различаване и наблюдаване.
още по тематиката
Консорциумът зад детекторната технология iBorderCtrl е получил 4,5 милиона евро от портфолиото за сигурност на Horizon 2020. Проектът е разработван в продължение на три години до август 2019 година

Представители на Европейски Съюз споделят, че сходни нововъведения са от решаващо значение за справяне с престъпността, тероризма и естествените бедствия. Стратегическата цел е да се засилят охранителните компании на блока, които се конкурират със Съединени американски щати, Израел и Китай.

Но има нещо обезпокоително в задачите, публичния контрол и възможното въздействие на корпоративните ползи върху плановете за сигурност от Horizon. Седем сегашни и някогашни специалисти по нравственос, работещи по финансирани от Европейски Съюз планове за сигурност, наскоро показаха пред Гардиън своите опасения по отношение на въздействието на тези планове. Етичните експерти имат подозрения дали някои проучвания, подкрепени от Horizon, фактически са в публичен интерес.

Основна угриженост измежду етиците е, че контролът и рецензията наподобява са целеустремено изтласкани настрани в устрема да се показват новите технологии на пазара, даже когато те явно пораждат безпокойствие по отношение на неприкосновеността на персоналния живот и гражданските свободи. Но малко от данните се оповестяват обществено. Подобно на Брайер, и на Гардиън е отхвърлен достъп до документите за дейностите, законността и етиката на повече от дузина планове за сигурност по Horizon 2020. Мотивът е, че разгласяването им може да подкопае публичната сигурност и за „ отбраната на комерсиалните ползи ”.

Етика и технологии

Кандидатурите за финансиране по Horizon 2020 първо минават през теоретичен обзор. Ако бъдат утвърдени да се финансират, следва обзор, извършен от екип от самостоятелни етици, наети като консултанти от Европейската комисия. Тези етици могат да одобрят даден план или да изискат спомагателна оценка. Ала техните благоприятни условия за фактически модифициране на даден план са лимитирани.

„ Често казусът е, че самата тематика е неетична ”, споделя Джема Галдън Клавел – самостоятелен механически етик, оценил доста планове за проучвания в региона на сигурността по Horizon 2020 и сътрудник допълнително от дузина други. „ Някои тематики предизвикват сътрудниците да създават биометрични технологии, които могат да работят отдалеко, тъй че не е допустимо да се търси единодушието на жителите – това е, което ме тревожи ”.

Един план, целящ създаването на такава технология, я разказва като „ ненатрапчива идентификация на личността ”. Твърди се, че технологията може да се употребява за идентифициране на хората, когато минават граници. „ Ако приказваме за създаване на технологии, за които хората не знаят, че се употребяват, то по какъв начин можем да създадем сходно приложение етично ”, пита Галдън Клавел.

Кристофер Лиден, откривател от Института за проучвания на мира в Осло, който е работил по етичния съставен елемент на голям брой планове за сигурност на Horizon 2020, споделя, че самото присъединяване на специалисти по нравственос в плановете за сигурност наподобява се приема като „ щемпел за утвърждение ”, даже етиците да са изразили съществени опасения и възражения. Той загатва, че рецензентите по етиката могат да бъдат подложени на напън да утвърждават планове без доста звук.

„ Проектите могат елементарно да бъдат тласнати напред поради комерсиалната логичност или поради общия софтуерен оптимизъм, когато хората „ слагат в скоби ” етичните опасения, тъй като виждат новите технологии като позитивно развиване ”, счита Лиден. Изследване за етиката от 2018 година във финансирани от Европейски Съюз проучвателен планове рапортува същото умозаключение.

За някои хора, които са се пробвали да издигнат обществено въпроса за етиката, наподобява, може да има и последици. През 2015 година Питър Бърджис, мъдрец и политолог, който тогава е бил член на три консултативни съвета за проучвания в областта на сигурността по Horizon 2020, дава искрено изявление за немския публичен ефирен канал ARD и кореспондент на Der Spiegel. В изявлението ученият показва угриженост по отношение на въздействието на промишлеността върху проучванията, изключително що се отнася до миграцията. „ Бежанците се преглеждат като цели и обекти, които би трябвало да бъдат регистрирани ”, сподели Бърджис пред немските кореспонденти.

Той бива освободен неотложно от трите консултативни съвета. Оттогава не взе участие в програмата. Двама други специалисти по нравственос, поискали да останат анонимни, споделят пред Гардиън, че са отстранени от работата си по планове за сигурност, финансирани от Европейски Съюз, откакто са били прекомерно сериозни в своите оценки. Европейската комисия отхвърля сходни отстранявания. „ Групово дело „ Изследвания и нововъведения ” не е получила искане за премахване на специалисти по нравственос, участващи в оценките/проверките ”, написа в публично писмо на дирекцията.

Етици, интервюирани от Гардиън, настояват, че етичният контрол би трябвало да се употребява, с цел да се подсигурява, че Европейски Съюз работи в публичен интерес, а не да легитимира развиването на евентуално противоречиви технологии.

Корпоративни ползи

Мащабните вложения в сигурността на Европейски Съюз започнаха при започване на 2000-те години, след 11 септември. Лидерите на Европейски Съюз, загрижени от капацитета за по-нататъшни офанзиви, доста разшириха съдействието с европейската отбранителна промишленост. През 2004 година институциите на Европейски Съюз стартираха стратегия за проучвания в региона на сигурността, като сплотиха висши чиновници от националните министерства на вътрешните работи и правоприлагащите организации дружно с многонационални оръжейни и софтуерни корпорации. Тази стратегия бе основана да сложи основите на финансирането на разработки за сигурността в Horizon 2020, което от ден на ден се концентрира върху развиването на биометрични и други технологии за наблюдаване.

Бърджис акцентира ролята, която играят корпоративните ползи. „ Вече в подготвителната фаза имаше огромно присъединяване на промишлеността ”, споделя той. „ Но измежду участниците от обществения и частния бранш беше споделено визията, че устройствата ни вършат по-сигурни – по-големи оръжия, по-високи стени, биометрични данни… Още от 11 септември и терористичните офанзиви в Мадрид през 2004 година и Лондон през 2005 година това стана огромен бизнес ”.

Цифрите демонстрират, че Horizon 2020 е изключително потребна за частния бранш: от 2007 година насам частните компании са получили 42% от 2,7 милиарда евро, разпределени от програмата за проучвания в областта на сигурността. Това прави съвсем 1,15 милиарда евро. Частни компании са били водещи сътрудници в съвсем половината от всички 714 финансирани плана. Други участници, като проучвателен институти и обществени органи, изостават надалеч обратно.

„ Това беше методът на комисията, за положително или неприятно: да се направи това, което е най-хубаво за Европа ”, сподели Бърджис. „ Това не е загадка система, а си е обществена политика ”.

Докато окончателните решения за финансиране се вземат от националните чиновници и чиновниците на Европейски Съюз, има и един орган, наименуван Консултативна група за отбрана и сигурност (PASAG), който дава препоръки по отношение на годишните работни стратегии за проучвания в региона на сигурността. Те дефинират типовете проучвания, които ще бъдат финансирани.

Критиците повдигат въпроса къде е отговорността за посоката на финансираните от Европейски Съюз проучвания в региона на сигурността. PASAG има 15 члена, привлечени най-вече от частния бранш и изследователските институции в цяла Европа. Публичните документи на Европейската комисия загатват за приноса на PASAG за установяване на научноизследователските цели и за поощряване на връзките сред съществуващата стратегия за проучвания на сигурността с новото финансиране на военните технологии.

Десетима членове на PASAG са заявили ползи, свързани с тяхната работа по Horizon 2020, съгласно обществени документи, регистрирани в комисията. Групата се ръководи от Алберто де Бенедиктис – някогашен основен изпълнителен шеф на английското поделение на Leonardo, италианска отбранителна компания, която е взела участие в 26 плана и е получила 11,3 млн. евро от бюджета на Европейски Съюз за проучвания в региона на сигурността от 2007 година Де Бенедиктис се причислява към PASAG през 2016 година, откакто се е отдръпнал от Leonardo през миналата година. Друг член управлява консултантска компания MSB Consulting, която работи със секторите на защитата и сигурността и чиито клиенти са посочени като охранителни компании, както и с Европейската комисия и Европейската организация по защита. Друг член на PASAG работи за университета Льовен в Белгия, който през годините е получил милиони от Horizon 2020 и други стратегии за сигурност.

В момента единствено един от 15-те членове работи за организация на гражданското общество. Нито един от членовете не е заявил принадлежност към организации за човешките права или нравственос. „ Съставът на PASAG отразява допустимо най-широкото посланичество ”, твърди представител на Европейската комисия.

Де Бенедиктис споделя, че PASAG дава единствено насоки на високо равнище и че присъединяване на промишлеността в групата не съставлява спор на ползи. Той акцентира, че отговорността за целите за финансиране на научните проучвания е на държавните управления. „ Държавите-членки в последна сметка са тези, които вземат решения ”.

Жан-Люк Гала, някогашен офицер от белгийската войска и учен от Университета Льовен, профилиран в региона на биооръжията, също отхвърля опцията за спор на ползи. Той допуска, че специалистите от промишлеността и академичната общественост, които съветват комисията по плановете за технологии за сигурност, са „ нещо напълно положително ”. PASAG има групова роля, при която „ няма място за самостоятелни възгледи, нито опция за пробутване на самостоятелен интерес ”, прибавя той.

Covid, страхове и отзивчивост

За идващите седем години (2021–27) Horizon 2020 ще бъде преименувана на Horizon Europe. Очакваният общ бюджет е 86 милиарда евро, от което финансирането за сигурност е към 1,3 милиарда евро.

Допълнителен бюджет от минимум 8 милиарда евро обаче ще бъде ориентиран към проучвания и развиване на военни технологии. Изричната цел е да се финансират технологии с двойна приложимост – с цивилен и военни приложения. Редица предварителни планове са изследвали разнообразни системи и технологии за наблюдаване.

в допълнение форсира натиска на европейските държавни управления за създаване на технологии за наблюдаване, в това число невиждано потребление на дронове за наблюдаване, следене на данни, различаване на лица и други форми на биометрия – всичко за налагане на карантина и следене на контактите. Полша, да вземем за пример, пусна приложение, което приканва карантираните жители да качват селфита през целия ден, с цел да потвърдят, че са си у дома. Приложението разчита на геолокация и технология за различаване на лица и уведомява полицията, когато потребителите не реагират.

Алгоритмите за различаване на лица са печално известни със своите недостатъци. Но това не е всичко. Националните приложения за следене на Covid не са финансирани от Horizon, само че някои откриватели, които работят или са работили по планове, подкрепяни от Европейски Съюз, се опасяват, че това е началото на „ финансирана от Европейски Съюз конкуренция за създаване и тестване на нови биометрични и други технологии за сигурност ”, която се разгаря тъкмо в този миг – в този момент, когато опасенията за публичното здраве карат доста европейци.

На дневен ред застава въпросът: кой взема решение с какъв вид държавно наблюдаване ще живеят европейците?

Наред с това няма последователен метод европейската общност да бъде осведомена по тези проблеми. Още по-малко пък има благоприятни условия жителите на Европейски Съюз да оспорят дали желаят данъчните им пари да способстват за развиването на биометрични и други технологии за наблюдаване в жанр Оруел. Подобно на Брайер, редакторите на Гардиън са поискали (съгласно законите на Европейски Съюз за прозрачност) достъп до десетки документи, направени по 15 плана, финансирани от Horizon 2020, целящи създаването на нови форми на биометрични технологии. Исканите документи включват етични и правни оценки на всеки план. Но след месеци очакване и подаване на тъжби на редакцията е казано, че доста от отчетите за активността и някои от етичните отчети би трябвало да останат поверителни заради съображения за сигурност и отбрана на комерсиалните ползи.

Самият Брайер споделя, че е неуместно евродепутат да съди Европейски Съюз, с цел да получи информация за обществено финансиран план. Според него, в тази ситуация е заложен по-голям въпрос: това кой взема решение какъв тип софтуерно развиване в действителност е в публичен интерес.