Democratisch optreden heeft de bevoegdheid om de democratie in de EU te beschermen tegen grootschalig biometrisch toezicht

Nu de Europese wetgevers later deze maand een historische nieuwe wet ter regulering van artificiële intelligentie (AI) hebben voorgesteld, is de noodzaak voor EU-burgers om zich in te zetten voor de gevolgen van opkomende technologieën voor de samenleving urgenter dan ooit, en ons Europees burgerinitiatief biedt dat alleen. Het kan moeilijk zijn voor mensen om te weten hoe hun standpunten een verschil kunnen maken wanneer besluitvormingsprocessen schijnbaar ver weg zijn. Momenteel worden biometrische technologieën zoals gezichtsherkenning in heel Europa gebruikt op manieren die de democratie kunnen ondermijnen en afbreuk kunnen doen aan de vrijheden van mensen. In reactie hierop maakt het initiatief „Initiatief van het maatschappelijk middenveld om grootschalig biometrisch toezicht te verbieden” gebruik van de kracht van grootschalige burgermaatregelen om echte wetswijzigingen op te roepen.

Uit een enquête van het Europees Parlement en de Europese Commissie eind 2020 bleek dat „de overgrote meerderheid van de Europeanen (92 %) in alle lidstaten eist dat meer rekening wordt gehouden met de stem van de burgers bij besluiten over de toekomst van Europa.” Democratie — de wil van de burgers — is een van de pijlers waarop de EU berust. Het idee dat de landen van Europa samen sterker zijn en dat we samen kunnen werken aan vrede, stabiliteit, welvaart en vrijheid, hebben de kern van het bestaan van de EU bereikt. Van buitenaf kunnen de processen van de EU intimideren — het is niet gemakkelijk om overeenstemming te bereiken over de politieke, culturele en geografische grenzen heen. Daarom is het zo belangrijk dat de EU mensen ertoe verbindt ervoor te zorgen dat de beslissingen die ons leven beïnvloeden eerlijk, legitiem en inclusief zijn.

In april zal een toekomstig voorstel van de Europese Commissie voor een EU-brede wet inzake artificiële intelligentie een meerjarig overlegproces in gang zetten door EU-wetgevers (met inbegrip van leden van het Europees Parlement (leden van het Europees Parlement) en vertegenwoordigers van elke EU-lidstaat). De EU zal waarschijnlijk geschiedenis maken als de eerste regio ter wereld die AI-technologieën volledig reguleert. Hoewel de Europese Commissie vorig jaar heeft verklaard dat zij een „breed publiek debat” over het gebruik van deze KI-technologieën in onze samenleving wenst, is de realiteit dat veel groepen in de discussies afwezig zijn geweest en dat er weinig kennis is over wat AI is en hoe AI onze samenlevingen kan beïnvloeden. We zien met name dat raciale mensen in Europa het meest te maken hebben met KI-besluiten en verschillende vormen van surveillance, maar dat zij het minst inspraak hebben in besluiten over de wetgeving inzake de ontwikkeling en het gebruik van AI.

Dit is waar de pan-Europese campagne „Reclaim Your Face” om grootschalige biometrische surveillancepraktijken te verbieden, het debat op gang brengt. Hoewel deskundigen het niet altijd eens zijn over de definitie van „artificiële intelligentie”, heeft de Europese Commissie verklaard dat biometrische technologieën zoals gezichtsherkenning zullen worden opgenomen in het toepassingsgebied van de komende KI-wet, die tot doel heeft regels vast te stellen voor een breed scala aan instrumenten en technologieën die over het algemeen statistische analyses van gegevens door algoritmen uitvoeren om beslissingen te nemen of voorspellingen te doen.

European Digital Rights (EDRi), een netwerk van 44 organisaties voor digitale rechten, heeft de afgelopen jaren gemobiliseerd omdat overheden en bedrijven in heel Europa steeds meer gebruik maken van grootschalig biometrisch toezicht. Biometrische technologieën zijn die waarmee gegevens over uw lichaam, uw gedrag of andere gevoelige identificatiekenmerken worden verwerkt. Als reactie op het toenemende gebruik van biometrische gegevens in het dagelijks leven voor surveillance op potentieel zeer schadelijke manieren, lanceerde EDRi samen met 11 andere organisaties voor digitale rechten „Reclaim Your Face”. De coalitie is tot dusver uitgebreid tot 58 groepen, waaronder een vakbond, antidiscriminatiegroepen en mensenrechteninitiatieven op nationaal, Europees en internationaal niveau.

Reclaim Your Face (Ryf) voert met name campagne tegen het specifieke gebruik van biometrische technologieën in openbare ruimten, die mensen op oneerlijke wijze onderscheiden en iedereen als verdachte behandelen voor het dagelijks leven. Dit zijn vormen van grootschalig toezicht, en uit een juridische analyse is gebleken dat zij niet verenigbaar zijn met de EU-regels inzake mensenrechten. Voorbeelden hiervan zijn het gebruik van gezichtsherkenningsdrones die worden gebruikt tegen demonstranten; het gebruik van pseudo-wetenschappelijke aanvalsdetectieapparatuur op straat; of de identificatie van kopers op basis van hun voorval (de manier waarop zij lopen).

De coalitie Reclaim Your Face maakt zich zorgen over dergelijke toepassingen van KI-technologie, omdat zij, zoals de EDRi onlangs heeft betoogd, de perfecte infrastructuur creëren voor onrechtmatig grootschalig toezicht door staten en bedrijven, waarbij de unieke identiteit van elke persoon tegen hen wordt gebruikt. In het voorbeeld van het gebruik van biometrische surveillance-drones tegen demonstranten kunnen politiediensten mensen intimideren en hen ervan weerhouden hun stem uit te brengen tegen onrechtvaardigheid of corruptie, uit angst voor gevolgen of als „probleemmaker” worden bestempeld.

In het voorbeeld van het opsporen van agressie hebben lokale overheden pseudo-wetenschappelijke, experimentele technologieën gebruikt om in te grijpen wanneer iemand agressief zou zijn, ondanks het feit dat mensen met een kleur consequent en onnauwkeurig door algoritmen worden geïnterpreteerd als agressiever dan witte mensen. Of in het voorbeeld van de supermarkt kunnen elke aankoop en interactie worden getraceerd, opgeteld, geregistreerd in een geheim bestand over elk individu en — als een bewaker niet zozeer kijkt naar een persoon — mogelijk zelfs worden gebruikt om hen uit andere lokale winkels te weren.

In al deze voorbeelden verliezen mensen hun anonimiteit in openbare ruimten. Dit recht om onszelf privé te houden en niet in de tijd en plaats te worden getraceerd, is van cruciaal belang voor de democratie. Het beschermt klokkenluiders en journalistieke bronnen die zorgen voor een vrije Europese pers die de macht ter verantwoording kan roepen. Het stelt ons in staat ons authentieke leven met vertrouwen te leiden — zoals het publiekelijk uiten van onze godsdienst, onze seksualiteit of onze genderidentiteit — zonder de dreiging dat deze tegen ons zal worden gebruikt. Het stelt ons in staat te profiteren van het vermoeden van onschuld en alleen te worden onderworpen aan toezicht indien daarvoor een gegronde reden bestaat. Een gezonde samenleving is een waar we vrij zijn en autonoom kunnen functioneren. Voor onze democratie is het van essentieel belang dat we deze vrijheden handhaven.

Het EBI van Reclaim Your Face, „Initiatief vanhet maatschappelijk middenveld voor een verbod op grootschalig biometrisch toezicht”, is bedoeld om ervoor te zorgen dat de wil van de mensen wordt vertegenwoordigd in het wetgevingsproces inzake AI, met name als het gaat om zaken als grootschalig biometrisch toezicht dat een zo enorme impact kan hebben op de democratie en het leven van mensen. We willen de kans om de schadelijkste toepassingen van technologie stop te zetten — zonder dat de meeste mensen zich zelfs maar realiseren — ze plotseling overal ter wereld zijn.

Aangezien euroscepticisme verkeerde validatie krijgt van het vertrek van het VK uit de EU, is het belangrijker dan ooit dat de Europeanen vertrouwen hebben in het Europese project. Een van de belangrijkste manieren om dit te doen is door te weten dat onze stem wordt geluisterd en serieus wordt genomen, en dat onze democratie voor iedereen werkt, en niet alleen voor degenen die de macht hebben. Dit betekent dat er verder moet worden geïnvesteerd in directe democratische processen, zoals EBI’s, en dat het bewustzijn moet worden vergroot, met name bij gemeenschappen die van oudsher zijn uitgesloten van het besluitvormingsproces van de EU. Dit betekent ook dat een einde moet worden gemaakt aan praktijken als grootschalig biometrisch toezicht, dat een existentiële bedreiging kan vormen voor ons vermogen om te protesteren, onszelf te uiten of informatie in te winnen. De strijd tegen grootschalig biometrisch toezicht is uiteindelijk een strijd om de EU als baken van democratie te behouden.

Disclaimer: De op het EBI-forum geventileerde meningen geven uitsluitend het standpunt van de auteurs weer en mogen beslist niet worden beschouwd als het standpunt van de Europese Commissie of van de Europese Unie.