Este viernes los negociadores del Parlamento y del Consejo de la UE llegaron a un acuerdo provisional sobre la Ley de Inteligencia Artificial, la primera en el mundo de este tipo.
Este reglamento europeo tiene como objetivo garantizar que los derechos fundamentales, la democracia, el estado de derecho y la sostenibilidad ambiental estén protegidos de la IA de alto riesgo, al tiempo que impulsa la innovación y hace de Europa un líder en el campo. Las reglas establecen obligaciones para la IA en función de sus riesgos potenciales y nivel de impacto.
Solicitudes prohibidas
Reconociendo la amenaza potencial para los derechos de los ciudadanos y la democracia que plantean ciertas aplicaciones de la IA, los colegisladores acordaron prohibir:
- sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza);
- raspado no dirigido de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial;
- reconocimiento de emociones en el lugar de trabajo y en las instituciones educativas;
- puntuación social basada en el comportamiento social o las características personales;
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre albedrío;
- La IA se utiliza para explotar las vulnerabilidades de las personas (debido a su edad, discapacidad, situación social o económica).
Exenciones de aplicación de la ley
Los negociadores acordaron una serie de salvaguardias y excepciones estrechas para el uso de sistemas de identificación biométrica (RBI) en espacios de acceso público con fines de aplicación de la ley, sujetos a autorización judicial previa y a listas de delitos estrictamente definidas. El RBI "post-remote" se utilizaría estrictamente en la búsqueda selectiva de una persona condenada o sospechosa de haber cometido un delito grave.
El RBI "en tiempo real" cumpliría con condiciones estrictas y su uso sería limitado en tiempo y ubicación, con el fin de:
- búsquedas específicas de víctimas (secuestro, trata, explotación sexual),
- prevención de una amenaza terrorista específica y presente, o
- la localización o identificación de una persona sospechosa de haber cometido uno de los delitos específicos mencionados en el reglamento (por ejemplo, terrorismo, trata, explotación sexual, asesinato, secuestro, violación, robo a mano armada, participación en una organización criminal, delito ambiental).
Obligaciones para sistemas de alto riesgo
Para los sistemas de IA clasificados como de alto riesgo (debido a su daño potencial significativo a la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho), se acordaron obligaciones claras. Los eurodiputados lograron con éxito incluir una evaluación obligatoria del impacto de los derechos fundamentales, entre otros requisitos, aplicables también a los sectores de los seguros y la banca. Los sistemas de IA utilizados para influir en el resultado de las elecciones y el comportamiento de los votantes también se clasifican como de alto riesgo. Los ciudadanos tendrán derecho a presentar quejas sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos.
Barandillas para sistemas generales de inteligencia artificial
Para tener en cuenta la amplia gama de tareas que los sistemas de IA pueden realizar y la rápida expansión de sus capacidades, se acordó que los sistemas de IA de propósito general (GPAI), y los modelos de GPAI en los que se basan, tendrán que cumplir con los requisitos de transparencia propuestos inicialmente por el Parlamento. Estos incluyen la elaboración de documentación técnica, el cumplimiento de la legislación de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido utilizado para la formación.
Para los modelos de GPAI de alto impacto con riesgo sistémico, los negociadores del Parlamento lograron asegurar obligaciones más estrictas. Si estos modelos cumplen con ciertos criterios, tendrán que llevar a cabo evaluaciones de modelos, evaluar y mitigar los riesgos sistémicos, realizar pruebas contradictorias, informar a la Comisión sobre incidentes graves, garantizar la ciberseguridad e informar sobre su eficiencia energética. Los eurodiputados también insistieron en que, hasta que se publiquen las normas armonizadas de la UE, las IAGP con riesgo sistémico pueden confiar en los códigos de práctica para cumplir con el reglamento.
Medidas para apoyar la innovación y las PYME
Los eurodiputados querían asegurarse de que las empresas, especialmente las PYME, puedan desarrollar soluciones de IA sin la presión indebida de los gigantes de la industria que controlan la cadena de valor. Con este fin, el acuerdo promueve las llamadas cajas de arena regulatorias y las pruebas en el mundo real, establecidas por las autoridades nacionales para desarrollar y capacitar una IA innovadora antes de su colocación en el mercado.
Sanciones y entrada en vigor
El incumplimiento de las normas puede dar lugar a multas que van desde 35 millones de euros o el 7 % de la facturación mundial hasta los 7,5 millones o el 1,5 % de la facturación, dependiendo de la infracción y el tamaño de la empresa.
PRESUPUESTOS
Tras el acuerdo, el coponente Brando Benifei (S&D, Italia) dijo: "Fue largo e intenso, pero el esfuerzo valió la pena. Gracias a la resiliencia del Parlamento Europeo, la primera legislación horizontal del mundo sobre inteligencia artificial mantendrá la promesa europea, asegurando que los derechos y las libertades estén en el centro del desarrollo de esta tecnología innovadora. La implementación correcta será clave: el Parlamento continuará vigilando de cerca, para garantizar el apoyo a nuevas ideas de negocios con cajas de arena y reglas efectivas para los modelos más poderosos".
El coponente Dragos Tudorache (Renew, Rumania) dijo: "La UE es la primera en el mundo en establecer una regulación sólida sobre la IA, guiando su desarrollo y evolución en una dirección centrada en el ser humano. La Ley de IA establece reglas para modelos de IA grandes y poderosos, asegurando que no presenten riesgos sistémicos para la Unión y ofrece fuertes salvaguardias para nuestros ciudadanos y nuestras democracias contra cualquier abuso de tecnología por parte de las autoridades públicas. Protege a nuestras PYME, fortalece nuestra capacidad para innovar y liderar en el campo de la IA, y protege a los sectores vulnerables de nuestra economía. La Unión Europea ha hecho contribuciones impresionantes al mundo; la Ley de IA es otra que tendrá un impacto significativo en nuestro futuro digital".
Conferencia de prensa
Los eputados principales Brando Benifei (S&D, Italia) y Dragos Tudorache (Renew, Rumania), el Secretario de Estado para la digitalización y la inteligencia artificial Carme Artigas y el Comisario Thierry Breton celebraron una conferencia de prensa conjunta después de las negociaciones.
Siguientes pasos
El texto acordado ahora tendrá que ser adoptado formalmente tanto por el Parlamento como por el Consejo para convertirse en ley de la UE. Los comités de Mercado Interior y Libertades Civiles del Parlamento votarán sobre el acuerdo en una próxima reunión.
