A ação democrática tem o poder de proteger a democracia da UE contra a vigilância biométrica em larga escala

Com os legisladores europeus dispostos a propor uma nova lei histórica para regulamentar a inteligência artificial (IA) ainda este mês, a necessidade de os cidadãos da UE participarem nos impactos das tecnologias emergentes na sociedade é mais urgente do que nunca, e a nossa iniciativa de cidadania europeia oferece apenas essa necessidade. Pode ser difícil para as pessoas saber de que forma os seus pontos de vista podem fazer a diferença em processos de tomada de decisão aparentemente distantes. Atualmente, as tecnologias biométricas, como o reconhecimento facial, estão a ser utilizadas em toda a Europa de formas que podem comprometer a democracia e violar as liberdades dos cidadãos. Em resposta, a iniciativa «Iniciativa da sociedade civil para proibir práticas de vigilância biométrica em larga escala» está a tirar partido do poder de ação dos cidadãos em grande escala para apelar a uma verdadeira alteração legislativa.

Um inquérito realizado pelo Parlamento Europeu e pela Comissão Europeia no final de 2020 concluiu que «a grande maioria dos europeus (92 %) em todos os Estados-Membros exige que as vozes dos cidadãos sejam mais tidas em conta nas decisões relativas ao futuro da Europa». A democracia — a vontade dos cidadãos — é um dos pilares em que assenta a UE. A ideia de que, em conjunto, os países da Europa são mais fortes e de que podemos trabalhar em conjunto em prol da paz, da estabilidade, da prosperidade e da liberdade, é reduzida ao cerne da existência da UE. Do exterior, os processos da UE podem parecer intimidantes — não é fácil chegar a acordo para além das fronteiras políticas, culturais e geográficas, razão pela qual é tão importante que a UE mobilize as pessoas para garantir que as decisões que afetam as nossas vidas sejam justas, legítimas e inclusivas.

Em abril, uma futura proposta da Comissão Europeia relativa a uma legislação à escala da UE em matéria de inteligência artificial lançará um processo plurianual de deliberação dos legisladores da UE (incluindo deputados ao Parlamento Europeu e representantes de cada Estado-Membro da UE). É provável que a UE faça da história a primeira região do mundo a regulamentar de forma abrangente as tecnologias de IA. No entanto, embora a Comissão Europeia tenha afirmado, no ano passado, que querem um «amplo debate público» sobre a utilização destas tecnologias de IA na nossa sociedade, a realidade é que muitos grupos estiveram ausentes dos debates e que os conhecimentos sobre o que é a IA e o seu impacto nas nossas sociedades são baixos. Em particular, constatamos que as pessoas racializadas na Europa são as mais suscetíveis de serem objeto de decisões em matéria de IA e de várias formas de vigilância, mas as menos suscetíveis de ter uma palavra a dizer nas decisões sobre a legislação que rege o desenvolvimento e a utilização da IA.

É aqui que entra no debate a campanha pan-europeia«Reclamara sua fácia» para proibir práticas de vigilância biométrica em larga escala. Embora os peritos nem sempre concordem com a definição de «inteligência artificial», a Comissão Europeia afirmou que tecnologias biométricas como o reconhecimento facial serão incluídas no âmbito de aplicação da futura legislação em matéria de IA, que visa estabelecer regras para uma vasta gama de ferramentas e tecnologias que, de um modo geral, realizam análises estatísticas de dados por algoritmos para tomar decisões ou previsões.

Os direitos digitais europeus (EDRi), uma rede de 44 organizações de direitos digitais, têm vindo a mobilizar-se nos últimos anos, uma vez que, em toda a Europa, os governos e as empresas têm vindo a adotar cada vez mais tecnologias biométricas de vigilância em larga escala. As tecnologias biométricas são as que tratam dados sobre o seu corpo, o seu comportamento ou outras características de identificação sensíveis. Em resposta à utilização crescente dos dados biométricos das pessoas na vida quotidiana para efeitos de vigilância de formas potencialmente muito nocivas, a EDRi, juntamente com 11 outras organizações de defesa dos direitos digitais, lançou o «Reclamar a sua fácia». Até à data, a coligação alargou-se a 58 grupos, incluindo um sindicato, grupos antidiscriminação e iniciativas em matéria de direitos humanos que trabalham a nível nacional, europeu e internacional.

Em especial, Reclaim Your Face (Ryf) está a fazer campanha contra a utilização específica de tecnologias biométricas em espaços públicos, que se encontram injustamente isolados e que tratam todas as pessoas como suspeitos apenas por se deslocarem à sua vida quotidiana. Trata-se de formas de vigilância em larga escala e a análise jurídica demonstrou que não são compatíveis com as regras da UE em matéria de direitos humanos. Os exemplos incluem a utilização de drones de reconhecimento facial utilizados contra manifestantes; a utilização de dispositivos pseudo-científicos de deteção de agressões nas ruas; ou a identificação dos compradores com base no seu percurso (a forma como andam).

A coligação Reclaim Your Face está preocupada com essas utilizações da tecnologia de IA, uma vez que, como a EDRi alegou recentemente, criam as infraestruturas perfeitas para a vigilância em larga escala ilegal por parte de Estados e empresas, utilizando a identidade única de cada pessoa contra eles. No exemplo da utilização de drones de vigilância biométrica contra manifestantes, as forças policiais podem intimidar as pessoas e desincentivá-las de levantar as suas vozes contra a injustiça ou a corrupção, por receio de repercussões ou de serem rotuladas como «infratores».

No exemplo da deteção de agressões, as autoridades locais utilizaram tecnologias experimentais e pseudo-científicas para intervir quando alguém é supostamente agressivo, apesar de as pessoas de cor serem interpretadas de forma consistente e inexata por algoritmos como mais agressivas do que as pessoas brancas. Ou no exemplo do supermercado, cada compra e interação pode ser rastreada, adicionada, registada num ficheiro secreto sobre cada indivíduo e — se um guarda de segurança não quiser como uma pessoa — pode mesmo ser utilizada para proibir a sua presença noutras lojas locais.

Em todos estes exemplos, as pessoas perdem o seu anonimato em espaços públicos. Este direito de nos manter privado e de não ser acompanhado ao longo do tempo e do local é fundamental para a democracia. Protege os denunciantes e as fontes jornalísticas que asseguram uma imprensa europeia livre, capaz de prestar contas. Permite-nos viver a nossa vida autêntica com confiança — por exemplo, expressando publicamente a nossa religião, a nossa sexualidade ou a nossa identidade de género — sem a ameaça que será utilizada contra nós. Permite-nos beneficiar da presunção de inocência e apenas ser objeto de vigilância se tal se justificar. Uma sociedade saudável é uma sociedade onde somos livres e podemos funcionar de forma autónoma. É vital para a nossa democracia que defenderemos essas liberdades.

A ICE Reclaim Your Face, «Iniciativada sociedade civil para a proibição de práticas de vigilância biométrica em largaescala», visa assegurar que a vontade das pessoas esteja representada no processo legislativo sobre IA, em especial quando se trata de práticas de vigilância biométrica em larga escala que podem ter um impacto tão enorme na democracia e na vida das pessoas. Queremos a oportunidade de acabar com as utilizações mais nocivas da tecnologia antes — sem que a maioria das pessoas tenha sequer consciência — de estar subitamente em todo o lado.

Com o euroceticismo a receber uma validação errada desde a saída do Reino Unido da UE, é mais importante do que nunca que os europeus se sintam confiantes no projeto europeu. Uma das principais formas de o conseguir é saber que as nossas vozes são ouvidas e levadas a sério — e que a nossa democracia funciona para todos, e não apenas para os que têm poder. Isto significa continuar a investir e a aumentar a sensibilização para os processos democráticos diretos, como as ICE, especialmente no caso das comunidades que, historicamente, foram excluídas dos processos de tomada de decisão da UE. Criticamente, significa também pôr termo a práticas como a vigilância biométrica em larga escala, que pode constituir uma ameaça existencial para a nossa capacidade de protestar, de nos exprimir ou de procurar informações. A luta para proibir as práticas de vigilância biométrica em larga escala é, em última análise, uma luta para preservar a UE como referência da democracia.

Declaração de exoneração de responsabilidade: As opiniões expressas no Fórum ICE refletem exclusivamente o ponto de vista dos seus autores, não refletindo necessariamente a posição da Comissão Europeia ou da União Europeia.