Retrospective of our contribution to the EU AI Act
Observatorio de Riesgos Catastróficos Globales (ORCG), welcomes the adoption of the Artificial Intelligence Regulation the European Union's Artificial Intelligence Regulation. On December 9, the Parliament, the Council, and the Commission announced they had reached a political agreement after months of intense negotiations. The member states of the Council member states member states approved the agreed text on February 2, while the main committees of the European Parliament main committees did the same on February 13. In April, the Parliament will host the final vote in plenary session, after which the regulation will be published in the Official Journal.
Once officially processed, the European Regulation will be the first law to comprehensively regulate artificial intelligence, becoming a milestone and benchmark in the global governance of this technology. The Observatory congratulates all the actors involved for the commendable task. We would especially like to congratulate the Spanish Presidency of the Council, whose commitment and mediation have been fundamental for the negotiations to reach a successful conclusion.
We are pleased to see that the final text incorporates proposals to governing general-purpose models with systemic risk We are pleased to see that the final text incorporates proposals for governing general purpose models with systemic risk, including the evaluation of models, the creation of a risk assessment and mitigation system, or the monitoring of incidents and the adoption of corrective measures to address them. We are also pleased to have contributed with information to the definition of a formula that enables a more precise and balanced regulation, requiring proportional obligations according to specific criteria such as the amount of computation used to train a model. You can consult a selection of our published papers below:
Figure 1. Timeline of contributions
We consider the Regulation to be an important first step, but its effectiveness will depend on the work that will be done from now on to ensure its implementation and compliance. In this regard, we applaud the decision to establish an European AI OfficeThe European AI Office, a unique agency in the world that will be instrumental in managing the risks posed by the most advanced AI systems. ORCG expresses its willingness to support the role of the Office, as well as that of other actors that will accompany it along the way, such as the Scientific Panel, the AI Board and the Joint Research Center. Cooperation and science will be essential to ensure a safe and beneficial future for all.
-
El Observatorio de Riesgos Catastróficos Globales celebra la adopción de la Regulación de Inteligencia Artificial de la Unión Europea. El pasado 9 de diciembre, el Parlamento, el Consejo y la Comisión anunciaron que habían llegado a un acuerdo político tras meses de intensas negociaciones. Los estados miembros del Consejo aprobaron el texto acordado el 2 de febrero, mientras que los principales comités del Parlamento hicieron lo propio el 13 de febrero. En abril, el Parlamento albergará la votación definitiva en sesión plenaria, después de la cual se publicará la regulación en el Diario Oficial.
Una vez tramitado oficialmente, el Reglamento europeo será la primera ley en regular exhaustivamente la inteligencia artificial, convirtiéndose en un hito y referente en la gobernanza global de esta tecnología. El Observatorio congratula a todos los actores involucrados por la encomiable tarea. Trasladamos una especial felicitación a la presidencia española del Consejo, cuyo compromiso y mediación han sido fundamentales para que las negociaciones llegaran a buen puerto.
Nos complace ver que el texto final incorpora propuestas para gobernar modelos de propósito general con riesgo sistémico, incluyendo la evaluación de modelos, la creación de un sistema de evaluación y mitigación de riesgos, o el monitoreo de incidentes y la adopción de medidas correctivas para abordarlos. Asimismo, nos satisface haber contribuido con información a la definición de una fórmula que posibilita una regulación más precisa y equilibrada, que requiere obligaciones de forma proporcional según criterios concretos como la cantidad de cálculo utilizada para entrenar un modelo. Puede consultar una selección de nuestros documentos publicados a continuación:
Documento de posición RCG: Trílogo del AI Act (en inglés)
Operacionalizando la definición de IA de gran capacidad (en inglés)
La ley de IA de la UE, ¿un esfuerzo pionero para regular IA puntera? (en inglés)
Consideramos que el Reglamento es un importante primer paso, pero su efectividad dependerá del trabajo que se realice a partir de ahora para asegurar su implementación y cumplimiento. En este sentido, aplaudimos la decisión de establecer una Oficina Europea de IA, una agencia única en el mundo que será fundamental en la gestión de los riesgos planteados por los sistemas de IA más avanzados. ORCG expresa su voluntad de apoyar la función de la Oficina, así como la de otros actores que la acompañarán en el camino, como el Panel Científico, la Junta de IA y el Centro Común de Investigación. La cooperación y la ciencia serán fundamentales para garantizar un futuro seguro y beneficioso para todos.
