Demokratično delovanje je pristojno za zaščito demokracije EU pred biometričnim množičnim nadzorom

Ker so evropski zakonodajalci pozneje ta mesec predlagali nov zgodovinski zakon za ureditev umetne inteligence, je potreba po tem, da se državljani EU vključijo v učinke nastajajočih tehnologij na družbo, nujnejša kot kdaj koli prej, naša evropska državljanska pobuda pa to ponuja. Ljudje morda težko vedo, kako lahko njihova stališča vplivajo na navidezno daljnosežne postopke odločanja. Biometrične tehnologije, kot je prepoznavanje obrazov, se trenutno po vsej Evropi uporabljajo na načine, ki lahko ogrozijo demokracijo in kršijo svoboščine ljudi. V odgovor na to pobuda „Pobuda civilne družbe za prepoved praks biometričnega množičnega nadzora“ izkorišča moč obsežnih državljanskih ukrepov in poziva k resničnim zakonodajnim spremembam.

Raziskava, ki sta jo konec leta 2020 izvedla Evropski parlament in Evropska komisija, je pokazala, da „zelo velika večina Evropejcev (92 %) v vseh državah članicah zahteva, da se glas državljanov bolj upošteva pri odločitvah v zvezi s prihodnostjo Evrope“. Demokracija – volja državljanov – je eden od stebrov, na katerih temelji EU. Ideja, da so evropske države skupaj močnejše in da lahko sodelujemo za mir, stabilnost, blaginjo in svobodo, se omejuje na jedro obstoja EU. Od zunaj se lahko procesi EU zdijo ustrahovani, saj ni lahko doseči dogovora med političnimi, kulturnimi in geografskimi mejami, zato je tako pomembno, da EU ljudi vključi v zagotavljanje pravičnih, legitimnih in vključujočih odločitev, ki vplivajo na naša življenja.

Aprila bo prihodnji predlog Evropske komisije za zakon o umetni inteligenci na ravni EU sprožil večletni postopek posvetovanja s zakonodajalci EU (vključno s poslanci Evropskega parlamenta in predstavniki vsake države članice EU). EU bo verjetno postala prva regija na svetu, ki bo celovito urejala tehnologije umetne inteligence. Čeprav je Evropska komisija lani izjavila, da si želi „široko javno razpravo“ o uporabi teh tehnologij umetne inteligence v naši družbi, je v resnici veliko skupin odsotnih v razpravah, znanje o tem, kaj je umetna inteligenca in kako lahko vpliva na našo družbo, pa je nizko. Zlasti vidimo, da so rasne osebe v Evropi najbolj izpostavljene odločitvam na področju umetne inteligence in različnim oblikam nadzora, vendar je najmanj verjetno, da bodo vplivali na odločitve o zakonih, ki urejajo razvoj in uporabo umetne inteligence.

Tu se v razpravo vključi vseevropska kampanjaza prepoved praks biometričnega množičnega nadzora „Reclaim your Face“. Čeprav se strokovnjaki ne strinjajo vedno z opredelitvijo pojma „umetna inteligenca“, je Evropska komisija izjavila, da bodo biometrične tehnologije, kot je prepoznavanje obrazov, vključene v področje uporabe prihodnjega zakona o umetni inteligenci, katerega cilj je določiti pravila za širok nabor orodij in tehnologij, ki na splošno izvajajo statistično analizo podatkov z algoritmi za sprejemanje odločitev ali napovedi.

Evropske digitalne pravice (EDRi), mreža 44 organizacij za digitalne pravice, so se v zadnjih letih aktivirale, saj vlade in korporacije po vsej Evropi vse bolj uporabljajo tehnologije za biometrični množični nadzor. Biometrične tehnologije so tiste, ki obdelujejo podatke o vašem telesu, vašem vedenju ali drugih občutljivih identifikacijskih značilnostih. V odziv na vse večjo uporabo biometričnih podatkov ljudi v vsakdanjem življenju za nadzor na potencialno zelo škodljive načine je EDRi skupaj z 11 drugimi organizacijami za digitalne pravice začel postopek „Reclaim your Face“. Koalicija se je doslej razširila na 58 skupin, vključno s sindikati, protidiskriminacijskimi skupinami in pobudami na področju človekovih pravic, ki delujejo na nacionalni, evropski in mednarodni ravni.

Zlasti Reclaim Your Face (Ryf) se bori proti posebni uporabi biometričnih tehnologij na javnih mestih, ki nepravično izstopajo iz ljudi in ki vsakogar obravnavajo kot osumljenca samo zato, ker gredo v vsakdanje življenje. To so oblike množičnega nadzora, pravna analiza pa je pokazala, da niso v skladu s pravili EU o človekovih pravicah. Primeri vključujejo uporabo brezpilotnih letal za prepoznavanje obrazov, ki se uporabljajo proti protestnikom; uporabo psevdoznanstvenih naprav za odkrivanje agresije na ulicah; ali identifikacijo kupcev na podlagi njihovih vrat (način hoje).

Koalicija „Reclaim Your Face“ je zaskrbljena zaradi takšne uporabe tehnologije umetne inteligence, saj, kot je nedavno trdil EDRi, ustvarja odlično infrastrukturo za nezakonit množični nadzor s strani držav in korporacij, pri čemer se proti njim uporablja edinstvena identiteta vsake osebe. V primeru uporabe biometričnih brezpilotnih letal proti protestnikom lahko policijske sile ljudi ustrahujejo in jih odvračajo od tega, da bi vzbudili svoj glas proti krivicam ali korupciji, ker se bojijo posledic ali so označeni kot „trublemaker“.

V primeru zaznavanja agresije so lokalne oblasti uporabile psevdoznanstvene in eksperimentalne tehnologije za posredovanje, kadar naj bi bil nekdo agresivni, čeprav algoritmi dosledno in netočno razlagajo ljudi kot ljudi, ki so agresivni kot beli ljudje. Ali v primeru supermarketa je mogoče vsak nakup in interakcijo spremljati, sešteti, zabeležiti v tajni datoteki o vsakem posamezniku in – če varnostnik ne vidi pogleda posameznika – morda celo prepovedati dostop do drugih lokalnih trgovin.

V vseh teh primerih ljudje izgubijo anonimnost na javnih mestih. Ta pravica do zasebnega življenja in nesledovanja skozi čas in kraj je ključnega pomena za demokracijo. Ščiti žvižgače in novinarske vire, ki zagotavljajo svobodne evropske medije, ki lahko prevzamejo odgovornost. Omogoča nam, da naše pristno življenje živimo z zaupanjem – na primer javno izražamo našo veroizpoved, spolnost ali našo spolno identiteto – brez grožnje, da se bo to uporabilo proti nam. Omogoča nam domnevo nedolžnosti in nadzor le, če za to obstaja utemeljen razlog. Zdrava družba je tista, v kateri smo svobodni in lahko delujemo samostojno. Za našo demokracijo je bistvenega pomena, da te svoboščine spoštujemo.

Namen evropske državljanske pobude „Pobuda civilne družbe za prepoved praks biometričnega množičnega nadzora“, ki jo je pripravila Reclaim Your Face, je zagotoviti, da bo volja ljudi zastopana v zakonodajnem postopku na področju umetne inteligence, zlasti kar zadeva zadeve, kot so biometrični množični nadzor, ki lahko tako ogromno vplivajo na demokracijo in življenje ljudi. Želimo si, da bi se najbolj škodljiva uporaba tehnologije ustavila že prej, ne da bi se večina ljudi celo zavedala, da je nenadoma povsod povsod.

Evroskepticizem je dobil zmotno potrditev izstopa Združenega kraljestva iz EU, zato je bolj kot kdaj koli prej pomembno, da Evropejci zaupajo evropskemu projektu. Eden od ključnih načinov za to je zavedanje, da se naši glasovi poslušajo in jemljejo resno ter da naša demokracija deluje za vse, ne le za tiste, ki imajo moč. To pomeni nadaljnje vlaganje v neposredne demokratične procese, kot so evropske državljanske pobude, in ozaveščanje o njih, zlasti v skupnostih, ki so bile zgodovinsko izključene iz postopkov odločanja EU. Kritično pomeni tudi ustavitev praks, kot je biometrični množični nadzor, ki lahko eksistencialno ogrozijo našo sposobnost protestiranja, izražanja ali iskanja informacij. Boj za prepoved praks biometričnega množičnega nadzora je navsezadnje boj za ohranitev EU kot oddajnika demokracije.

Izjava o omejitvi odgovornosti: Mnenja, izražena na forumu o evropski državljanski pobudi, odražajo izključno mnenja avtorjev in nikakor ne odražajo stališč Evropske komisije ali Evropske unije.