La acción democrática tiene el poder de proteger la democracia de la UE frente a la vigilancia biométrica masiva

Con los legisladoreseuropeos preparados para proponer una nueva ley histórica para regular la inteligencia artificial (IA) a finales de este mes, la necesidad de que los ciudadanos de la UE se comprometan con el impacto de las tecnologías emergentes en la sociedad es más urgente que nunca, y nuestra iniciativa ciudadana europea solo lo ofrece. Puede resultar difícil para las personas saber cómo sus opiniones pueden marcar la diferencia en procesos de toma de decisiones aparentemente lejanos. En la actualidad, las tecnologías biométricas, como el reconocimiento facial, se utilizan en toda Europa de formas que pueden socavar la democracia e infringir las libertades de las personas. En respuesta, la iniciativa «Iniciativa de la sociedad civil para prohibir las prácticas de vigilancia biométrica masiva» está aprovechando el poder de la acción ciudadana a gran escala para pedir un verdadero cambio legislativo.

Una encuesta realizada por el Parlamento Europeo y la Comisión Europea a finales de 2020 reveló que «la inmensa mayoría de los europeos (92 %) de todos los Estados miembros exige que las voces de los ciudadanos se tengan más en cuenta en las decisiones relativas al futuro de Europa». La democracia, la voluntad de los ciudadanos, es uno de los pilares en los que se basa la UE. La idea de que juntos los países de Europa son más fuertes y de que podemos trabajar juntos en pro de la paz, la estabilidad, la prosperidad y la libertad, recortando el núcleo mismo de la existencia de la UE. Desde el exterior, los procesos de la UE pueden parecer intimidatorios: no es fácil llegar a un acuerdo a través de las fronteras políticas, culturales y geográficas, por lo que es tan importante que la UE involucre a los ciudadanos para garantizar que las decisiones que afectan a nuestras vidas sean justas, legítimas e inclusivas.

Este mes de abril, una próxima propuesta de la Comisión Europea de una legislación a escala de la UE en materia de inteligencia artificial pondrá en marcha un proceso plurianual de deliberación por parte de los legisladores de la UE (incluidos diputados al Parlamento Europeo y representantes de cada Estado miembro de la UE). Es probable que la UE haga de la historia la primera región del mundo en regular exhaustivamente las tecnologías de IA. Sin embargo, aunque la Comisión Europea dijo el año pasado que quieren un «amplio debate público» sobre el uso de estas tecnologías de IA en nuestra sociedad, la realidad es que muchos grupos han estado ausentes de los debates, y que el conocimiento sobre qué es la IA y cómo puede afectar a nuestras sociedades es bajo. En particular, observamos que las personas racializadas en Europa son las que tienen más probabilidades de ser objeto de decisiones en materia de IA y de diversas formas de vigilancia, pero menos probabilidades de influir en las decisiones sobre las leyes que rigen el desarrollo y el uso de la IA.

Aquí entra en el debate la campaña paneuropea «Reclaim Your Face» para prohibir las prácticas de vigilancia biométrica masiva. Aunque los expertos no siempre están de acuerdo con la definición de «inteligencia artificial», la Comisión Europea ha afirmado que las tecnologías biométricas como el reconocimiento facial se incluirán en el ámbito de aplicación de la futura legislación sobre IA, que tiene por objeto establecer normas para una amplia gama de herramientas y tecnologías que generalmente realizan análisis estadísticos de datos mediante algoritmos para tomar decisiones o predicciones.

Los derechos digitales europeos (EDRi), una red de 44 organizaciones de derechos digitales, se han movilizado en los últimos años, ya que, en toda Europa, los gobiernos y las empresas han adoptado cada vez más tecnologías biométricas de vigilancia masiva. Las tecnologías biométricas son las que tratan datos sobre su cuerpo, su comportamiento u otras características sensibles de identificación. En respuesta al creciente uso de los datos biométricos de las personas en la vida cotidiana para la vigilancia de formas potencialmente muy perjudiciales, EDRi, junto con otras 11 organizaciones de derechos digitales, puso en marcha «Reclaim Your Face». Hasta la fecha, la coalición se ha ampliado a 58 grupos, entre ellos un sindicato, grupos contra la discriminación e iniciativas en materia de derechos humanos que trabajan a nivel nacional, europeo e internacional.

En particular, Reclaim Your Face (Ryf) está luchando contra el uso específico de las tecnologías biométricas en los espacios públicos que unen injustamente a las personas y que tratan a todos como sospechosos simplemente por dedicarse a su vida cotidiana. Se trata de formas de vigilancia masiva, y los análisis jurídicos han demostrado que no son compatibles con las normas de la UE en materia de derechos humanos. Algunos ejemplos son el uso de drones de reconocimiento facial utilizados contra manifestantes; el uso de dispositivos de detección de agresiones pseudocientíficas en las calles; o la identificación de los compradores sobre la base de su marcha (la forma en que caminan).

La coalición Reclaim Your Face está preocupada por estos usos de la tecnología de IA porque, como ha afirmado recientemente EDRi, crean las infraestructuras perfectas para la vigilancia masiva ilegal por parte de los Estados y las empresas, utilizando la identidad única de cada persona contra ellos. En el ejemplo del uso de drones de vigilancia biométrica contra manifestantes, las fuerzas policiales pueden intimidar a las personas y disuadirlas de hacer oír su voz contra la injusticia o la corrupción, por miedo a las repercusiones o por ser calificadas de «causantes de problemas».

En el ejemplo de la detección de agresiones, las autoridades locales han utilizado tecnologías pseudocientíficas y experimentales para intervenir cuando alguien es supuestamente agresivo, a pesar de que las personas de color son interpretadas de manera coherente e inexacta por los algoritmos como más agresivas que las personas blancas. O en el ejemplo del supermercado, cada compra e interacción puede ser objeto de seguimiento, sumarse, registrarse en un archivo secreto sobre cada persona y — si un vigilante de seguridad no es el aspecto de una persona — podría incluso utilizarse para prohibirlas de otras tiendas locales.

En todos estos ejemplos, las personas pierden su anonimato en los espacios públicos. Este derecho a mantenernos privados y a no ser objeto de seguimiento a lo largo del tiempo y el lugar es fundamental para la democracia. Protege a los denunciantes y a las fuentes periodísticas que garantizan una prensa europea libre que pueda exigir responsabilidades. Nos permite vivir nuestras vidas auténticas con confianza — como expresar públicamente nuestra religión, nuestra sexualidad o nuestra identidad de género- sin la amenaza de que se utilice contra nosotros. Nos permite beneficiarse de la presunción de inocencia y ser objeto de vigilancia únicamente si existe una razón justificada para ello. Una sociedad sana es aquella en la que somos libres y podamos funcionar de manera autónoma. Para nuestra democracia es vital que defendamos estas libertades.

La ICE de Reclaim Your Face, «Iniciativa dela sociedad civil para la prohibición de las prácticas de vigilancia biométrica masiva», está concebida para garantizar que la voluntad de las personas esté representada en el proceso legislativo de la IA, en particular en lo que se refiere a cuestiones como las prácticas de vigilancia biométrica masiva que pueden tener un impacto tan enorme en la democracia y la vida de las personas. Queremos la oportunidad de poner fin a los usos más nocivos de la tecnología antes, sin que la mayoría de las personas ni siquiera se den cuenta, de repente en todas partes.

Dado que el euroescepticismo recibe una validación equivocada de la salida del Reino Unido de la UE, es más importante que nunca que los europeos se sientan seguros en el proyecto europeo. Una de las maneras clave de que esto ocurra es saber que nuestras voces son escuchadas y tomadas en serio, y que nuestra democracia funciona para todos, no solo para quienes tienen poder. Esto significa seguir invirtiendo en procesos democráticos directos, como las iniciativas ciudadanas europeas, especialmente con comunidades que históricamente han quedado excluidas de los procesos de toma de decisiones de la UE, y ampliar su sensibilización al respecto. Desde el punto de vista crítico, también significa detener prácticas como la vigilancia biométrica masiva, que pueden suponer una amenaza existencial para nuestra capacidad de protestar, de manifestarnos o de buscar información. La lucha por prohibir las prácticas de vigilancia biométrica masiva es, en última instancia, una lucha para preservar la UE como una baliza de la democracia.

Cláusula de exención de responsabilidad: Las opiniones expresadas en el Foro de la ICE reflejan exclusivamente el punto de vista de sus autores y no puede considerarse que reflejen, en modo alguno, la posición de la Comisión Europea o de la Unión Europea.