Glavni sadržaj
Forum europske građanske inicijative

Demokratskim djelovanjem može se zaštititi demokracija EU-a od masovnog biometrijskog nadzora

Ažurirano: 23/08/2021

S obzirom na to da su europski zakonodavci pripremali prijedlog novog povijesnog zakona za reguliranje umjetne inteligencije kasnije ovog mjeseca, potreba da građani EU-a budu uključeni u utjecaj novih tehnologija na društvo hitnija je no ikad, a upravo to nudi naša europska građanska inicijativa. Ljudima može biti teško znati kako njihova stajališta mogu utjecati na naizgled dalekosežne postupke donošenja odluka. Trenutačno se biometrijske tehnologije, kao što je prepoznavanje lica, upotrebljavaju diljem Europe na načine koji mogu ugroziti demokraciju i narušiti slobode ljudi. Kao odgovor na to, inicijativom „Inicijativa civilnog društva za zabranu masovnog biometrijskog nadzora” iskorištava se moć velikih građanskih aktivnosti kako bi se pozvale na stvarne zakonodavne promjene.

Identi

Istraživanje koje su krajem 2020. proveli Europski parlament i Europska komisija pokazalo je da „velika većina Europljana (92 %) u svim državama članicama zahtijeva da se glas građana „više uzima u obzir pri donošenju odluka koje se odnose na budućnost Europe”. Demokracija – volja građana – jedan je od stupova na kojima počiva EU. Ideja da su europske zemlje zajedno snažnije i da možemo zajedno raditi na miru, stabilnosti, blagostanju i slobodi siječe samu srž postojanja EU-a. Izvana, procesi EU-a mogu se činiti zastrašujućima – nije lako postići dogovor izvan političkih, kulturnih i geografskih granica, zbog čega je iznimno važno da EU uključi građane kako bi se osiguralo da odluke koje utječu na naše živote budu pravedne, legitimne i uključive.

U travnju će se predstojećim prijedlogom Europske komisije o zakonu o umjetnoj inteligenciji na razini EU-a pokrenuti višegodišnji postupak rasprave zakonodavaca EU-a (uključujući zastupnike u Europskom parlamentu i predstavnike iz svake države članice EU-a). EU će vjerojatno postati prva regija na svijetu koja je sveobuhvatno regulirala tehnologije umjetne inteligencije. Međutim, iako je Europska komisija prošle godine izjavila da žele „široku javnu raspravu” o upotrebi tih tehnologija umjetne inteligencije u našem društvu, činjenica je da mnoge skupine nisu sudjelovale u raspravama, a znanje o tome što umjetna inteligencija jest i kako može utjecati na naša društva slabo je. Konkretno, vidimo da će rasni ljudi u Europi najvjerojatnije podlijegati odlukama o umjetnoj inteligenciji i različitim oblicima nadzora, ali da će najmanje vjerojatno imati pravo glasa u odlukama o zakonima kojima se uređuje razvoj i upotreba umjetne inteligencije.

U raspravi ulazi paneuropska kampanja „Reclaimyour Face” kako bi se zabranile prakse masovnog biometrijskog nadzora. Iako se stručnjaci ne slažu uvijek o definiciji „umjetne inteligencije”, Europska komisija izjavila je da će biometrijske tehnologije kao što je prepoznavanje lica biti uključene u područje primjene predstojećeg zakona o umjetnoj inteligenciji, kojim se nastoje utvrditi pravila za širok raspon alata i tehnologija koji općenito provode statističku analizu podataka s pomoću algoritama za donošenje odluka ili predviđanja.

babio

Europska digitalna prava (EDRi), mreža koja se sastoji od 44 organizacije za digitalna prava, posljednjih su godina mobilizirana jer u cijeloj Europi vlade i korporacije sve više primjenjuju tehnologije masovnog biometrijskog nadzora. Biometrijske tehnologije one su koje obrađuju podatke o vašem tijelu, vašem ponašanju ili drugim osjetljivim identifikacijskim značajkama. Kao odgovor na sve veću upotrebu biometrijskih podataka ljudi u svakodnevnom životu za nadzor na potencijalno vrlo štetne načine, EDRi je zajedno s 11 drugih organizacija za digitalna prava pokrenuo inicijativu „Reclaim your Face”. Koalicija se dosad proširila na 58 skupina, uključujući sindikat, skupine za borbu protiv diskriminacije i inicijative za ljudska prava koje djeluju na nacionalnoj, europskoj i međunarodnoj razini.

Konkretno, Reclaim Your Face (Ryf) bori se protiv konkretne upotrebe biometrijskih tehnologija u javnim prostorima kojima se ljudi nepravedno izdvajaju i u kojima se prema svima postupa kao prema osumnjičenicima samo zbog svakodnevnog života. Riječ je o oblicima masovnog nadzora, a pravna analiza pokazala je da nisu u skladu s pravilima EU-a o ljudskim pravima. Primjeri uključuju upotrebu bespilotnih letjelica za prepoznavanje lica koje se upotrebljavaju protiv prosvjednika; korištenje pseudoznanstvenih uređaja za otkrivanje agresije na ulicama; ili identifikacija kupaca na temelju njihova hodanja (način hodanja).

Koalicija „Reclaim your Face” zabrinuta je zbog takve upotrebe tehnologije umjetne inteligencije jer, kao što je nedavno tvrdio EDRi, ona stvara savršenu infrastrukturu za nezakonit masovni nadzor koji provode države i korporacije, koristeći se jedinstvenim identitetom svake osobe. U primjeru upotrebe bespilotnih letjelica za biometrijski nadzor protiv prosvjednika, policijske snage mogu zastrašiti ljude i odvratiti ih od podizanja glasa protiv nepravde ili korupcije, zbog straha od posljedica ili da ih se označi kao „troublematičar”.

U primjeru otkrivanja agresije lokalne vlasti koristile su pseudoznanstvene, eksperimentalne tehnologije kako bi intervenirale kada je netko navodno agresivan, unatoč činjenici da algoritmi dosljedno i netočno tumače osobe boje kože kao agresivnije od bijelih ljudi. Ili u primjeru supermarketa, svaka se kupnja i interakcija mogu pratiti, zbrajati, evidentirati u tajnoj datoteci o svakom pojedincu i, ako zaštitar ne izgleda, možda čak upotrijebiti za zabranu drugih lokalnih trgovina.

U svim tim primjerima ljudi gube anonimnost na javnim mjestima. To pravo da ostanemo privatni i da ga se ne prati tijekom vremena i mjesta ključno je za demokraciju. Njime se štite zviždači i novinarski izvori koji osiguravaju slobodan europski tisak koji može pozvati na odgovornost. Omogućuje nam da živimo s povjerenjem, kao što je javno izražavanje naše vjere, naše seksualnosti ili rodnog identiteta, bez prijetnje da će se koristiti protiv nas. Ona nam omogućuje ostvarivanje koristi od pretpostavke nedužnosti i podvrgavanje nadzoru samo ako za to postoji opravdan razlog. Zdravo društvo slobodno je i može funkcionirati samostalno. Za našu demokraciju ključno je da poštujemo takve slobode.

eciban

Europska građanska inicijativa „Reclaim your Face”, „Inicijativa civilnog društva za zabranu masovnog biometrijskog nadzora”osmišljena je kako bi se osiguralo da je volja građana zastupljena u zakonodavnom postupku u području umjetne inteligencije, posebno kad je riječ o pitanjima kao što su prakse masovnog biometrijskog nadzora koje mogu imati tako golem utjecaj na demokraciju i živote ljudi. Želimo priliku da se prije toga zaustavi najštetnija upotreba tehnologije, a da ih većina ljudi uopće ne razumije, iznenada se svugdje nalazi.

S obzirom na to da je euroskepticizam pogrešno potvrđen izlaskom Ujedinjene Kraljevine iz EU-a, važnije je nego ikad da se Europljani osjećaju uvjerenima u europski projekt. Jedan od ključnih načina na koji će se to dogoditi jest da znamo da se naši glasovi slušaju i shvaćaju ozbiljno te da naša demokracija funkcionira za sve, a ne samo za one koji imaju moć. To znači da treba nastaviti ulagati u izravne demokratske procese kao što su europske građanske inicijative i širiti svijest o njima, posebno u zajednicama koje su povijesno bile isključene iz postupaka donošenja odluka u EU-u. Ključno je da to znači i zaustavljanje praksi kao što je masovni biometrijski nadzor, koji može predstavljati egzistencijalnu prijetnju našoj sposobnosti prosvjedovanja, izražavanja sebe ili traženja informacija. Borba za zabranu masovnog biometrijskog nadzora u konačnici je borba za očuvanje EU-a kao simbola demokracije.

 

Izjava o ograničenju odgovornosti: Mišljenja izražena na forumu europske građanske inicijative isključivo odražavaju stajalište njihovih autora ini na koji se način ne mogu smatratiodrazom stajalištaEuropske komisije ili Europske unije.

 

Ella

Objavitelji

Ella Jakubowska

Ella je službenik za politike i kampanje u mreži za digitalna prava Europska digitalna prava (EDRi). Prije toga radila je za inženjersko i tehnološko poduzeće, a zatim je istražila sjecište ljudskih prava, tehnologije i društva iz feminističke sociološke perspektive. Rođena je u Ujedinjenoj Kraljevini, a trenutačno živi u Bruxellesu gdje radi na promicanju digitalnih prava građana u EU-u. 

Povežite se s njom na forumu!

Unos komentara

Da biste mogli ostaviti komentar, morate proći provjeru autentičnosti ili se registrirati.
Izjava o ograničenju odgovornosti: Mišljenja izražena na forumu europske građanske inicijative isključivo odražavaju stajalište njihovih autora i ni na koji se način ne mogu smatrati odrazom stajališta Europske komisije ili Europske unije.
Vaša je inicijativa spremna za registraciju?

Željeli biste podržati određenu inicijativu? Htjeli biste saznati više o sadašnjim ili prošlim inicijativama?