Demokratiska åtgärder har befogenhet att skydda EU:s demokrati från biometrisk massövervakning

Medtanke på att EU:s lagstiftare har föreslagit en historisk ny lag för att reglera artificiell intelligens (AI) senare denna månad är det mer angeläget än någonsin att EU-medborgarna engagerar sig i den framväxande teknikens inverkan på samhället, och vårt europeiska medborgarinitiativ erbjuder just detta. Det kan vara svårt för människor att veta hur deras åsikter kan påverka till synes långtifrån beslutsprocesser. För närvarande används biometrisk teknik som ansiktsigenkänning i hela Europa på ett sätt som kan undergräva demokratin och kränka människors friheter. Som svar på detta utnyttjar initiativet ”Det civila samhällets initiativ för att förbjuda biometrisk massövervakning” storskalig medborgarinsats för att kräva verkliga lagändringar.

En undersökning som genomfördes av Europaparlamentet och Europeiska kommissionen i slutet av 2020 visade att de allra flesta européer (92 %) i alla medlemsstater kräver att medborgarnas röster beaktas mer i beslut som rör Europas framtid. ”Democracy – folkets vilja – är en av de pelare som EU vilar på. Tanken att de europeiska länderna tillsammans är starkare och att vi kan arbeta tillsammans för fred, stabilitet, välstånd och frihet, vilket begränsar själva kärnan i EU:s existens. Utifrån kan EU:s processer verka skrämmande – det är inte lätt att nå enighet över politiska, kulturella och geografiska gränser. Därför är det så viktigt att EU engagerar människor för att se till att de beslut som påverkar våra liv är rättvisa, legitima och inkluderande.

I april, ett kommande förslag från Europeiska kommissionen om en EU-omfattande lag om artificiell intelligens, kommer en flerårig överläggningsprocess att inledas av EU:s lagstiftare (däribland ledamöter av Europaparlamentet och företrädare för varje EU-medlemsstat). EU kommer sannolikt att göra historien till den första regionen i världen som på ett heltäckande sätt reglerar AI-tekniken. Trots att kommissionen förra året sade att de vill ha en ”bred offentlig debatt” om användningen av denna AI-teknik i vårt samhälle, är verkligheten att många grupper inte har deltagit i diskussionerna och att kunskapen om vad AI är och hur den kan påverka våra samhällen är låg. Vi ser särskilt att rasifierade människor i Europa är de som löper störst risk att bli föremål för AI-beslut och olika former av övervakning, men de har minst sannolikt inflytande på beslut om lagar som styr utveckling och användning av AI.

Det är här som den alleuropeiska kampanjen ”Reclaim Your Face” för att förbjuda biometrisk massövervakning förs in i debatten. Experter är inte alltid överens om definitionen av ”artificiell intelligens”, men kommissionen har sagt att biometrisk teknik som ansiktsigenkänning kommer att omfattas av den kommande AI-lagen, som syftar till att fastställa regler för ett brett spektrum av verktyg och tekniker som i allmänhet utför statistiska analyser av data med hjälp av algoritmer för att fatta beslut eller göra förutsägelser.

Europeiska digitala rättigheter (EDRi), ett nätverk av 44 organisationer för digitala rättigheter, har mobiliserats under de senaste åren eftersom regeringar och företag i hela Europa i allt högre grad har infört biometrisk massövervakningsteknik. Biometrisk teknik är sådan som behandlar uppgifter om din kropp, ditt beteende eller andra känsliga identifieringsegenskaper. Som svar på den ökande användningen av människors biometriska uppgifter i vardagslivet för övervakning på potentiellt mycket skadliga sätt lanserade EDRi tillsammans med 11 andra organisationer för digitala rättigheter Reclaim Your Face. Koalitionen har hittills utvidgats till 58 grupper, däribland en fackförening, antidiskrimineringsgrupper och människorättsinitiativ som arbetar på nationell, europeisk och internationell nivå.

I synnerhet kämpar Reclaim Your Face (Ryf) mot den specifika användningen av biometrisk teknik på offentliga platser som på ett orättvist sätt särskiljer människor och behandlar alla som misstänkta bara för att de går igenom sitt dagliga liv. Det rör sig om former av massövervakning, och rättsliga analyser har visat att de inte är förenliga med EU:s regler om mänskliga rättigheter. Exempel på detta är användningen av drönare för ansiktsigenkänning som används mot demonstranter. användning av pseudovetenskaplig aggressionsdetekteringsutrustning på gatorna. eller identifiering av personer som handlar på grundval av deras samlingar (det sätt på vilket de går).

Koalitionen Reclaim Your Face är oroad över sådan användning av AI-teknik, eftersom den, såsom EDRi nyligen har hävdat, skapar perfekta infrastrukturer för olaglig massövervakning från staters och företags sida, med användning av varje persons unika identitet gentemot dem. I exemplet med att använda biometriska övervakningsdrönare mot demonstranter kan polisen skrämma människor och avskräcka dem från att öka sina röster mot orättvisor eller korruption, av rädsla för återverkningar eller betecknas som ”troublemaker”.

I exemplet med upptäckt av aggressioner har de lokala myndigheterna använt pseudovetenskaplig, experimentell teknik för att ingripa när någon påstås vara aggressiv, trots att människor i färg konsekvent och felaktigt tolkas som mer aggressiva än vita människor av algoritmer. Eller i exemplet med snabbköp kan varje köp och interaktion spåras, läggas ihop, loggas in i en hemlig fil om varje person och – om en säkerhetsvakt inte gillar hur en person ser ut – eventuellt till och med användas för att förbjuda dem från andra lokala butiker.

I alla dessa exempel förlorar människor sin anonymitet på offentliga platser. Denna rätt att hålla oss privata och att inte spåras över tid och plats är avgörande för demokratin. Den skyddar visselblåsare och journalistiska källor som säkerställer en fri europeisk press som kan ställa makten till svars. Den gör det möjligt för oss att leva våra autentiska liv med förtroende – såsom att offentligt uttrycka vår religion, vår sexualitet eller vår könsidentitet – utan att riskera att den kommer att användas mot oss. Det gör det möjligt för oss att dra nytta av oskuldspresumtionen och endast bli föremål för övervakning om det finns godtagbara skäl för detta. Ett sunt samhälle är ett samhälle där vi är fria och kan fungera självständigt. Det är mycket viktigt för vår demokrati att vi upprätthåller sådana friheter.

Det europeiska medborgarinitiativet Reclaim Your Face,”Det civila samhällets initiativ för ett förbud mot biometrisk massövervakning”, är utformat för att se till att folkets vilja representeras i lagstiftningsprocessen för AI, särskilt när det gäller metoder för biometrisk massövervakning som kan ha en så enorm inverkan på demokratin och människors liv. Vi vill ha chansen att stoppa den mest skadliga användningen av teknik tidigare – utan att de flesta ens inser – de plötsligt överallt.

Eftersom EU-skepticismen får felaktig validering från Storbritanniens utträde ur EU är det viktigare än någonsin att européerna känner förtroende för det europeiska projektet. Ett av de viktigaste sätten att göra detta är att veta att våra röster hörs och tas på allvar – och att vår demokrati fungerar för alla, inte bara för dem med makt. Detta innebär att man fortsätter att investera i och öka medvetenheten om direkta demokratiska processer såsom medborgarinitiativ, särskilt när det gäller samhällen som historiskt sett har uteslutits från EU:s beslutsprocesser. Det handlar också om att stoppa metoder som biometrisk massövervakning, som kan utgöra ett existentiellt hot mot vår förmåga att protestera, uttrycka sig eller söka information. Kampen mot att förbjuda biometrisk massövervakning är i slutändan en kamp för att bevara EU som en ledstjärna för demokratin.

Ansvarsfriskrivning: De åsikter som uttrycks i forumet för medborgarinitiativet utgör bara författarens synpunkter och kan inte på något sätt anses speglaEuropeiska kommissionens eller EU:s ståndpunkt.