Retrospectiva de nuestra contribución a la ley de IA de la Unión Europea
El Observatorio de Riesgos Catastróficos Globales celebra la adopción de la Regulación de Inteligencia Artificial de la Unión Europea. El pasado 9 de diciembre, el Parlamento, el Consejo y la Comisión anunciaron que habían llegado a un acuerdo político tras meses de intensas negociaciones. Los estados miembros del Consejo aprobaron el texto acordado el 2 de febrero, mientras que los principales comités del Parlamento hicieron lo propio el 13 de febrero. En abril, el Parlamento albergará la votación definitiva en sesión plenaria, después de la cual se publicará la regulación en el Diario Oficial.
Una vez tramitado oficialmente, el Reglamento europeo será la primera ley en regular exhaustivamente la inteligencia artificial, convirtiéndose en un hito y referente en la gobernanza global de esta tecnología. El Observatorio congratula a todos los actores involucrados por la encomiable tarea. Trasladamos una especial felicitación a la presidencia española del Consejo, cuyo compromiso y mediación han sido fundamentales para que las negociaciones llegaran a buen puerto.
Nos complace ver que el texto final incorpora propuestas para gobernar modelos de propósito general con riesgo sistémico, incluyendo la evaluación de modelos, la creación de un sistema de evaluación y mitigación de riesgos, o el monitoreo de incidentes y la adopción de medidas correctivas para abordarlos. Asimismo, nos satisface haber contribuido con información a la definición de una fórmula que posibilita una regulación más precisa y equilibrada, que requiere obligaciones de forma proporcional según criterios concretos como la cantidad de cálculo utilizada para entrenar un modelo. Puede consultar una selección de nuestros documentos publicados a continuación:
Consideramos que el Reglamento es un importante primer paso, pero su efectividad dependerá del trabajo que se realice a partir de ahora para asegurar su implementación y cumplimiento. En este sentido, aplaudimos la decisión de establecer una Oficina Europea de IA, una agencia única en el mundo que será fundamental en la gestión de los riesgos planteados por los sistemas de IA más avanzados. ORCG expresa su voluntad de apoyar la función de la Oficina, así como la de otros actores que la acompañarán en el camino, como el Panel Científico, la Junta de IA y el Centro Común de Investigación. La cooperación y la ciencia serán fundamentales para garantizar un futuro seguro y beneficioso para todos.
