"Peligroso y discriminatorio": Los gobiernos de la UE aceleran la presión para permitir la vigilancia policial mediante inteligencia artificial

Por tercer día consecutivo, los legisladores y los gobiernos de la Unión Europea (UE) se han reunido este viernes en Bruselas para acordar la ley de la inteligencia artificial (IA). Ayer se alcanzó un pacto preliminar sobre las normas que regularán los sistemas como ChatGPT, pero las tensas negociaciones de hoy se centran en torno a la vigilancia biométrica y al uso que policía y ejército podrían hacer de esta tecnología, una controvertida posibilidad denunciada por decenas de organizaciones de la sociedad civil.

En junio, el Parlamento Europeo acordó prohibir los sistemas de reconocimiento facial al considerar que su uso podía suponer un "riesgo inaceptable" para los derechos humanos. Durante las últimas horas, los europarlamentarios que lideran el redactado de la nueva legislación se han visto fuertemente presionados por parte de la Comisión Europea y por los gobiernos de la UE, representados por la presidencia española, que ahora quieren evitar una prohibición y abrir la puerta a una excepción que permita su uso de este tipo de IA con fines de seguridad nacional o de defensa.

Los Estados miembros también presionan a los legisladores para rebajar las exigencias de la ley y permitir tanto a la policía como a las fuerzas armadas usar IA para la vigilancia biométrica (identificación de un individuo a través del escaneo de sus rasgos físicos) en tiempo real, sistemas de predicción y de reconocimiento de las emociones. Estas dos últimas tecnologías despertan muchos recelos entre los expertos, pues no hay evidencia de que funcionen y sus consecuencias sobre los derechos fundamentales puede ser crucial. Aún más cuando se apliquen en la frontera para la vigilancia de personas migrantes.

El Consejo de la UE, organismo representado por España, también presiona para que las fuerzas de seguridad puedan usar sistemas biométricos para elaborar perfiles de las personas según su raza, opiniones políticas o creencias religiosas cuando esas características "tengan una relación directa con un delito o amenaza específicos".

Denuncia civil y de expertos

Esta posición es vista como una amenaza por parte de grupos de la sociedad civil, organismos europeos en defensa de la protección de datos e incluso del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, que también pedía una prohibición de estos sistemas que pueden atentar contra la privacidad. "Esto es extremista, racista, distópico y no tiene cabida en nuestra sociedad", ha valorado Daniel Leufer, analista tecnológico de la organización en defensa de los derechos digitales Access Now.

"Las propuestas del Consejo darían luz verde a la policía para utilizar herramientas de IA que son intrínsecamente discriminatorias, que permiten la vigilancia masiva y que socavan el núcleo de nuestros derechos y el Estado de Derecho", reza una carta firmada por 47 organizaciones de la sociedad civil y una veintena de reputados expertos a la que El Periódico de Catalunya, del Grupo Prensa Ibérica, ha tenido acceso. Más de 40 académicos han impulsado otra carta de denuncia.

Contrapropuesta del Parlamento

El disgusto con la propuesta del Consejo encalló las conversaciones a tres bandas durante la madrugada del jueves y la falta de entendimiento obligó a las partes a pausar las negociaciones para retomarlas este viernes.

Sin embargo, nada garantiza que hoy se llegue a un acuerdo definitivo sobre la ley. Y es que el Parlamento Europeo, con el diputado centro-izquierdista italiano Brando Benifei al frente, ha cerrado filas en contra de la propuesta de los gobiernos de la UE y han elaborado una contrapropuesta. "No es lo que hemos pedido siempre, pero es mejor que lo que pide el Consejo", explican a El Periódico de Catalunya, fuentes de la socidad civil.

Tras analizarla, la presidencia española "parece dispuesta a hacer concesiones sobre las prohibiciones, pero se mantiene rígida en cuanto a la exención por motivos de seguridad nacional", según ha informado Luca Bertuzzi, periodista del medio especializado Euractiv.