Demokratisk handling har beføjelse til at beskytte demokratiet i EU mod biometrisk masseovervågning

Med de europæiske lovgiveres forslag til en historisk ny lov om regulering af kunstig intelligens (AI) senere på måneden er behovet for, at EU-borgerne engagerer sig i nye teknologiers indvirkning på samfundet, mere presserende end nogensinde, og vores europæiske borgerinitiativ giver netop det. Det kan være svært for folk at vide, hvordan deres synspunkter kan gøre en forskel på tilsyneladende fjern beslutningstagning. I øjeblikket anvendes biometriske teknologier som ansigtsgenkendelse i hele Europa på måder, der kan undergrave demokratiet og krænke borgernes frihedsrettigheder. Som reaktion herpå udnytter initiativet "Civilsamfundsinitiativet om forbud mod biometrisk masseovervågning" muligheden for storstilede borgerinitiativer til at opfordre til reelle lovgivningsmæssige ændringer.

En undersøgelse foretaget af Europa-Parlamentet og Europa-Kommissionen i slutningen af 2020 viste, at "langt størstedelen af europæerne (92 %) i alle medlemsstater kræver, at borgernes stemmer" i højere grad tages i betragtning i beslutninger vedrørende Europas fremtid ". Demokrati — folkets vilje — er en af de søjler, som EU hviler på. Idéen om, at landene i Europa i fællesskab er stærkere, og at vi kan arbejde sammen om fred, stabilitet, velstand og frihed, går ud over selve kernen i EU's eksistens. Udefra kan EU's processer synes at være intimiderende — det er ikke let at nå til enighed på tværs af politiske, kulturelle og geografiske grænser, hvorfor det er så vigtigt, at EU engagerer folk i at sikre, at de beslutninger, der påvirker vores liv, er retfærdige, legitime og inklusive.

I april vil et kommende forslag fra Europa-Kommissionen om en EU-dækkende lov om kunstig intelligens sætte gang i en flerårig proces med drøftelser blandt EU's lovgivere (herunder medlemmer af Europa-Parlamentet (MEP'er) og repræsentanter fra hver EU-medlemsstat). EU vil sandsynligvis gøre historien til den første region i verden, der på omfattende vis regulerer AI-teknologier. Selv om Kommissionen sidste år sagde, at den ønsker en "bred offentlig debat" om anvendelsen af disse AI-teknologier i vores samfund, er virkeligheden, at mange grupper ikke har deltaget i drøftelserne, og at viden om, hvad kunstig intelligens er, og hvordan den kan påvirke vores samfund, er lav. Vi ser navnlig, at racialiserede mennesker i Europa er mest tilbøjelige til at blive genstand for AI-beslutninger og forskellige former for overvågning, men at de har mindst sandsynlighed for at have indflydelse på beslutninger om lovgivning om udvikling og anvendelse af kunstig intelligens.

Det er her, at den fælleseuropæiske kampagne "Reclaim Your Face", der har til formål at forbyde biometrisk masseovervågning, indgår i debatten. Selv om eksperter ikke altid er enige om definitionen af "kunstig intelligens", har Kommissionen udtalt, at biometriske teknologier som ansigtsgenkendelse vil blive omfattet af anvendelsesområdet for den kommende lov om kunstig intelligens, som har til formål at fastsætte regler for en bred vifte af værktøjer og teknologier, der generelt udfører statistisk analyse af data ved hjælp af algoritmer for at træffe beslutninger eller foretage forudsigelser.

Europæiske digitale rettigheder (EDRi), et netværk af 44 organisationer for digitale rettigheder, har mobiliseret i de seneste år, da regeringer og virksomheder — i hele Europa — i stigende grad har indført biometriske masseovervågningsteknologier. Biometriske teknologier er dem, der behandler oplysninger om din krop, din adfærd eller andre følsomme identifikationskendetegn. Som reaktion på den stigende brug af folks biometriske data i dagligdagen til overvågning på potentielt meget skadelige måder lancerede EDRi sammen med 11 andre digitale rettighedsorganisationer "Reclaim Your Face". Koalitionen har indtil videre udvidet sig til 58 grupper, herunder en fagforening, antidiskriminationsgrupper og menneskerettighedsinitiativer, der arbejder på nationalt, europæisk og internationalt plan.

Navnlig Reclaim Your Face (Ryf) kæmper mod den specifikke brug af biometriske teknologier i det offentlige rum, som på uretfærdig vis enbringer mennesker ud, og som behandler alle som mistænkte bare for at gå i gang med deres dagligdag. Der er tale om former for masseovervågning, og juridiske analyser har vist, at de ikke er forenelige med EU's regler om menneskerettigheder. Eksempler herpå er anvendelsen af droner til ansigtsgenkendelse, der anvendes mod demonstranter, anvendelse af pseudo-videnskabeligt aggressionsdetektionsudstyr på gader eller identifikation af kunder på grundlag af deres spil (den måde, de går på).

Reclaim Your Face koalition er bekymret over sådanne anvendelser af AI-teknologi, fordi de, som EDRi for nylig har gjort gældende, skaber de perfekte infrastrukturer til ulovlig masseovervågning fra staters og virksomheders side og bruger hver enkelt persons unikke identitet mod dem. I eksemplet med anvendelse af biometriske overvågningsdroner mod demonstranter kan politistyrkerne intimidere folk og afskrække dem fra at give deres mening til kende mod uretfærdighed eller korruption af frygt for konsekvenser eller for at blive betegnet som en "urokkelig".

I eksemplet med påvisning af aggression har de lokale myndigheder anvendt pseudo-videnskabelige, eksperimentelle teknologier til at gribe ind, når en person angiveligt er aggressiv, selv om farvede personer konsekvent og upræcist tolkes af algoritmer som mere aggressive end hvide. Eller i supermarkedets eksempel kan hvert køb og interaktion spores, lægges sammen, logges på en hemmelig fil om hver enkelt person og — hvis en sikkerhedsvagt ikke ligner, hvordan en person ser — måske endda bruges til at forbyde dem fra andre lokale butikker.

I alle disse eksempler mister folk deres anonymitet i det offentlige rum. Denne ret til at holde os selv privat og til ikke at blive sporet over tid og sted er afgørende for demokratiet. Det beskytter whistleblowere og journalistiske kilder, der sikrer en fri europæisk presse, der kan drage magten til ansvar. Det giver os mulighed for at leve vores autentiske liv med tillid — f.eks. offentligt at give udtryk for vores religion, vores seksualitet eller vores kønsidentitet — uden den trussel, at den vil blive brugt mod os. Den gør det muligt for os at drage fordel af uskyldsformodningen og kun at blive underkastet overvågning, hvis der er en berettiget grund hertil. Et sundt samfund er et samfund, hvor vi er frie og kan fungere selvstændigt. Det er afgørende for vores demokrati, at vi værner om disse frihedsrettigheder.

Borgerinitiativet af Reclaim Your Face, "Civilsamfundsinitiativet om et forbud mod biometrisk masseovervågning", har til formål at sikre, at folks vilje er repræsenteret i lovgivningsprocessen vedrørende kunstig intelligens, navnlig når det drejer sig om ting som biometrisk masseovervågning, der kan have en så enorm indvirkning på demokratiet og menneskers liv. Vi ønsker muligheden for at stoppe de mest skadelige anvendelser af teknologi før — uden at de fleste overhovedet bliver klar over — at de pludselig er overalt.

Med EU-skepsis, der har fået en forkert validering af Det Forenede Kongeriges udtræden af EU, er det vigtigere end nogensinde, at europæerne føler sig trygge ved det europæiske projekt. En af de vigtigste måder, hvorpå dette vil ske, er at vide, at vores stemmer lyttes til og tages alvorligt — og at vores demokrati fungerer for alle, ikke kun dem med magt. Det betyder, at man skal fortsætte med at investere i og øge bevidstheden om direkte demokratiske processer som europæiske borgerinitiativer, navnlig i lokalsamfund, der historisk set er blevet udelukket fra EU's beslutningsprocesser. Kritisk betyder det også at stoppe praksisser som biometrisk masseovervågning, som kan udgøre en eksistentiel trussel mod vores evne til at protestere, udtrykke sig eller søge oplysninger. Bekæmpelsen af at forbyde biometrisk masseovervågning er i sidste ende en kamp for at bevare EU som et demokratisk forbillede.

Ansvarsfraskrivelse: De holdninger, der gives udtryk for i forummet for det europæiske borgerinitiativ, er alene udtryk for forfatternes synspunkter og kan ikke på nogen måde ansesfor at afspejle Europa-Kommissionens eller EU's holdning.