Entre innovación y derechos. Así es la primera propuesta legislativa mundial para regular la IA

Las últimas semanas han sido especialmente moviditas en el panorama digital. Muestra de ello ha sido la aparición de la nueva red social Threads (conocido como el X de Meta), y, como en los últimos meses, todo el debate surgido alrededor de la Inteligencia Artificial y la futura regulación europea. El eterno debate entre innovación y regulación.

El 8 de diciembre (tras casi 40 horas de reunión) el Consejo de la Unión Europea y el Parlamento Europeo llegaron a un acuerdo provisional sobre el Reglamento de Inteligencia Artificial, cuyo objetivo principal es garantizar que todos los sistemas y desarrollos de la IA introducidos en la Unión Europea sean “seguros y respeten los derechos fundamentales y los valores de la UE”.

Y bien, ¿qué significa todo esto?

Esta propuesta puede establecer un referente mundial, al no existir ninguna otra legislación de este tipo en todo el mundo.

Pinceladas clave del acuerdo provisional:

• El enfoque principal se mantiene en el riesgo. Antes de que un sistema de IA que sea considerado de alto riesgo sea introducido en el mercado deberá pasar una evaluación del impacto en los derechos fundamentales. Además, se hace hincapié en reforzar la transparencia. Esto quiere decir que sistemas de IA tan famosos como ChatGPT o aquellos modelos que, de acuerdo con la normativa sean considerados de alto riesgo, tendrían que cumplir con obligaciones más estrictas antes de salir al mercado. (Algunas voces ya señalan que las tecnológicas podrían desarrollar un modelo específico para Europa y otro para el resto de mercados).
  
  
• Uno de los puntos más conflictivos, el tratamiento del reconocimiento facial y biométrico en tiempo real por parte de los gobiernos en los espacios públicos. Se han incluido algunos casos de excepcionalidad vinculados con la seguridad nacional como: la prevención de amenaza terrorista; búsquedas específicas de víctimas de trata, secuestro…; o la localización de personas que hayan sido sospechas de cometer delitos específicos incluidos en el reglamento (asesinato, violación, terrorismo y trata, entre otros).
  
  
• Introducción de prohibiciones, entre ellas:

o Social scoring: Quizás os suene de algún capítulo de Black Mirror. Se entiende como un sistema de puntuación para determinar la reputación de una persona o empresa evaluando diversos criterios como su actividad online.
o Manipulación cognitiva conductual.
o Rastreo indiscriminado de imágenes faciales sacadas de internet o de circuitos cerrados de televisión.
o Reconocimiento de emociones en los lugares de trabajo y en las instituciones de enseñanza.
o La categorización biométrica para deducir datos sensibles, como la orientación sexual o las creencias religiosas, y algunos casos de vigilancia policial predictiva de personas.

• La gobernanza ha sido otro punto clave. ¿Qué tipología de organismo va a controlarlo? Se introduce la creación de la oficina de IA en la Comisión, que estará asesorada por un panel científico de expertos independientes. Asimismo, los representantes de los Estados Miembros figurarán en el Comité de la IA como un órgano consultivo de la Comisión y, los ciudadanos, industria y el mundo académico estarán representados mediante la creación de un foro consultivo.
  
  
• Por último, pero no menos importante, las sanciones. Variarán en función de la naturaleza y gravedad de la infracción, pero podrán oscilar entre los 35 millones de euros o el 7% del volumen de negocios global de la empresa hasta los 7,5 millones de euros o el 1,5% del volumen de negocios global.

Timing

La realidad es que todavía falta un largo camino por recorrer antes de que entre en vigor. Previsiblemente será en 2026, salvo algunas excepciones para disposiciones específicas.

La Empleado vs. Empleador

Y, para terminar, me gustaría introducir una reflexión de los diferentes dilemas ante los que ya nos estamos enfrentando en nuestro día a día.

Un estudio reciente muestra que el 74% de los trabajadores en la Unión Europea cree que las herramientas de IA generativa les ayudarán a ser más productivos, mientras que el 79% de las empresas europeas ven una oportunidad para utilizar este tiempo libre a asignar el tiempo extra de los trabajadores a nuevas tareas más relevantes. Y vosotr@s, ¿qué opináis?