Demokratická činnost má pravomoc chránit demokracii EU před hromadným biometrickým sledováním

Vzhledem k tomu, že evropští zákonodárci navrhli koncem tohoto měsíce historický nový zákon o regulaci umělé inteligence, je potřeba, aby se občané EU zapojili do dopadů vznikajících technologií na společnost, naléhavější než kdy jindy, a právě to nabízí naše evropská občanská iniciativa. Pro lidi může být obtížné vědět, jak mohou jejich názory ovlivnit zdánlivě dalekosáhlé rozhodovací procesy. V současné době se biometrické technologie, jako je rozpoznávání obličeje, používají v celé Evropě způsobem, který může oslabit demokracii a porušit svobody lidí. V reakci na to iniciativa „Iniciativa občanské společnosti zaměřená na zákaz postupů hromadného biometrického sledování“ využívá síly rozsáhlých občanských akcí a vyzývá ke skutečné legislativní změně.

Z průzkumu provedeného Evropským parlamentem a Evropskou komisí na konci roku 2020 vyplynulo, že „velká většina Evropanů (92 %) ve všech členských státech požaduje, aby byly názory občanů „ve větší míře zohledňovány při rozhodování o budoucnosti Evropy“. Demokracie – vůle občanů – je jedním z pilířů, na němž EU stojí. Myšlenka, že společně jsou evropské země silnější a že můžeme společně pracovat na míru, stabilitě, prosperitě a svobodě, se omezuje na samotné jádro existence EU. Zvenčí se procesy EU mohou jevit jako zastrašující – není snadné dosáhnout dohody napříč politickými, kulturními a geografickými hranicemi, a proto je tak důležité, aby EU zapojila občany, aby zajistila, že rozhodnutí, která ovlivňují naše životy, budou spravedlivá, legitimní a inkluzivní.

Chystaný návrh celounijního zákona o umělé inteligenci, který Evropská komise předloží v dubnu, zahájí víceletý proces projednávání ze strany zákonodárců EU (včetně poslanců Evropského parlamentu a zástupců z každého členského státu EU). EU se pravděpodobně stane prvním regionem na světě, který technologie umělé inteligence komplexně reguluje. Přestože Evropská komise minulý rok prohlásila, že si přeje „širokou veřejnou diskusi“ o používání těchto technologií umělé inteligence v naší společnosti, je skutečností, že v diskusích chybí mnoho skupin a znalosti o tom, co umělá inteligence představuje a jak může ovlivnit naši společnost, jsou nízké. Zejména vidíme, že rasovaní lidé v Evropě jsou nejpravděpodobnější, že budou podléhat rozhodnutím o umělé inteligenci a různým formám sledování, ale nejméně je pravděpodobné, že budou mít možnost vyjádřit se k rozhodování o právních předpisech upravujících vývoj a používání umělé inteligence.

Právě na tomto místě se do diskuse dostáváceloevropská kampaň „Recover Your Face“, jejímž cílem je zakázat hromadné biometrické sledování. Ačkoli se odborníci na definici „umělé inteligence“ ne vždy shodují, Evropská komise uvedla, že biometrické technologie, jako je rozpoznávání obličeje, budou zahrnuty do oblasti působnosti připravovaného zákona o umělé inteligenci, jehož cílem je stanovit pravidla pro širokou škálu nástrojů a technologií, které obecně provádějí statistickou analýzu údajů pomocí algoritmů za účelem přijímání rozhodnutí nebo predikcí.

Evropská digitální práva (EDRi), síť 44 organizací zabývajících se digitálními právy, se v posledních letech mobilizovala, neboť vlády a korporace v celé Evropě stále více používají technologie hromadného biometrického sledování. Biometrické technologie jsou ty, které zpracovávají údaje o vašem těle, vašem chování nebo jiných citlivých identifikačních charakteristikách. V reakci na rostoucí využívání biometrických údajů lidí v každodenním životě pro účely sledování potenciálně velmi škodlivými způsoby zahájil EDRi společně s 11 dalšími organizacemi zabývajícími se digitálními právy iniciativu „Regre Your Face“. Koalice se dosud rozšířila na 58 skupin, včetně odborového svazu, antidiskriminačních skupin a iniciativ v oblasti lidských práv působících na vnitrostátní, evropské a mezinárodní úrovni.

Organizace Regre Your Face (Ryf) bojuje zejména proti specifickému využívání biometrických technologií ve veřejných prostorách, které nespravedlivě vyčleňují lidi a považují všechny osoby za podezřelé pouze za to, že cestují do každodenního života. Jedná se o formy hromadného sledování a právní analýza ukázala, že nejsou v souladu s pravidly EU v oblasti lidských práv. Mezi příklady patří používání bezpilotních letounů pro rozpoznávání obličeje používaných proti demonstrantům; používání pseudovědeckých detekčních zařízení na ulicích; nebo identifikace kupujících na základě jejich gait (způsob, jakým chodí).

Koalice Reclaim Your Face je znepokojena tímto využíváním technologie umělé inteligence, protože, jak nedávno uvedla EDRi, vytváří dokonalou infrastrukturu pro nezákonné hromadné sledování ze strany států a korporací s využitím jedinečné identity každé osoby proti nim. Pokud jde o používání bezpilotních letounů biometrického sledování proti demonstrantům, mohou policejní síly zastrašovat lidi a odrazovat je od toho, aby vystupovali proti nespravedlnosti nebo korupci, a to ze strachu z následků nebo z označení „troublemaker“.

Pokud jde o odhalování agrese, místní orgány používají pseudovědecké experimentální technologie k zásahu v případech, kdy je někdo údajně agresivní, a to navzdory skutečnosti, že lidé barvy pleti jsou v algoritmech konzistentně a nepřesně interpretováni jako agresivnější než osoby bílé. Nebo v příkladu supermarketu lze každý nákup a interakci vysledovat, seskupit, přihlásit do tajného souboru o každém jedinci, a pokud bezpečnostní strážce nevyhovuje tomu, jak daná osoba vypadá, potenciálně ji dokonce zneužívá k tomu, aby ji zakázala v jiných místních obchodech.

Ve všech těchto případech lidé ztrácejí svou anonymitu na veřejných prostranstvích. Toto právo zůstat soukromé a nesmí být sledováno v čase a na místě má zásadní význam pro demokracii. Chrání oznamovatele a novinářské zdroje, které zajišťují svobodný evropský tisk, který může pohnat k odpovědnosti. Umožňuje nám žít náš autentický život s důvěrou – například veřejně vyjadřovat naše náboženství, naši sexualitu nebo naši genderovou identitu – bez hrozby, že bude použita proti nám. Umožňuje nám využít presumpci neviny a podrobit se sledování pouze tehdy, existuje-li k tomu oprávněný důvod. Zdravá společnost je taková, v níž jsme svobodní a můžeme fungovat samostatně. Pro naši demokracii je zásadní, abychom tyto svobody prosazovali.

Evropská občanská iniciativa Regre Your Face, „Iniciativa občanské společnosti pro zákaz postupů hromadného biometrického sledování“ je navržena tak, aby zajistila, že v legislativním procesu v oblasti umělé inteligence bude zastoupena vůle lidí, zejména pokud jde o záležitosti, jako jsou postupy hromadného biometrického sledování, které mohou mít tak obrovský dopad na demokracii a životy lidí. Chceme, aby bylo možné zastavit nejškodlivější využívání technologií dříve, než budou náhle všude všude, aniž by si jich většina lidí vůbec neuvědomila.

Vzhledem k tomu, že euroskepticismus získal po odchodu Spojeného království z EU chybnou validaci, je důležitější než kdy jindy, aby Evropané cítili důvěru v evropský projekt. Jedním z klíčových způsobů, jak toho dosáhnout, je znalost toho, že naše hlasy jsou naslouchány a brány vážně a že naše demokracie slouží všem, a nikoli pouze těm, kteří mají moc. To znamená i nadále investovat do přímých demokratických procesů, jako jsou evropské občanské iniciativy, a zvyšovat povědomí o nich, zejména s komunitami, které byly historicky vyloučeny z rozhodovacích procesů EU. Kriticky to také znamená zastavit praktiky, jako je hromadné biometrické sledování, které může představovat existenční hrozbu pro naši schopnost protestovat, vyjadřovat se nebo vyhledávat informace. Boj za zákaz postupů hromadného biometrického sledování je v konečném důsledku bojem za zachování EU jako majáku demokracie.

Prohlášení o vyloučení odpovědnosti: Vyjádření uvedená na Fóru evropské občanské iniciativy odrážejí pouze názory jejich autorů a nelze je v žádném případě považovat za vyslovení postoje Evropské komise nebo Evropské unie.