Pruebas de sistemas de IA de alto riesgo regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, en condiciones reales fuera de los espacios controlados de pruebas para la IA
Español
1. Los Estados miembros podrán permitir, de conformidad con el presente artículo, que los proveedores o proveedores potenciales de productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, realicen pruebas de sistemas de IA de alto riesgo en condiciones reales fuera de los espacios controlados de pruebas para la IA con el fin de evaluar y comprobar la conformidad de dichos sistemas con los requisitos establecidos en los artículos 8 a 15.
2. Los Estados miembros que opten por permitir las pruebas a que se refiere el apartado 1 adoptarán, individual o conjuntamente, marcos para la prueba en condiciones reales.
3. Cada Estado miembro notificará a la Comisión todo marco para la prueba en condiciones reales que adopte antes de ponerlo en práctica. Esto no afectará a las competencias de la Comisión en virtud de los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.
4. Los Estados miembros que hayan adoptado marcos para la prueba en condiciones reales se asegurarán de que las autoridades nacionales competentes pertinentes, las autoridades pertinentes y las autoridades públicas responsables de la gestión y el funcionamiento de infraestructuras y productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, cooperen estrechamente entre sí de buena fe y eliminen cualquier obstáculo práctico, incluidos aquellos que afecten a las normas de procedimiento que regulen el acceso a infraestructuras públicas físicas, cuando sea necesario, a fin de poner en práctica satisfactoriamente dichos marcos para la prueba en condiciones reales y probar los productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.
5. Los marcos para la prueba en condiciones reales establecerán los requisitos con arreglo a los cuales se realizará la prueba en condiciones reales. Dichos marcos:
a) |
incluirán la presentación obligatoria de un plan de la prueba en condiciones reales, que deberá ser acordado entre el proveedor o proveedor potencial y la autoridad nacional competente o la autoridad pertinente de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B; |
b) |
garantizarán el cumplimiento de los requisitos establecidos en el artículo 60, apartados 2 y 3, apartado 4, letras d) a j), y apartados 5 a 9, entendiéndose toda referencia hecha en dichas disposiciones a las autoridades de vigilancia del mercado como hecha a la autoridad nacional competente, o a la autoridad pertinente, según proceda, de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B; |
c) |
incluirán mecanismos eficaces de gobernanza y rendición de cuentas; |
d) |
garantizarán un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales. |
6. La prueba en condiciones reales cumplirá las disposiciones aplicables establecidas en los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B. Los requisitos establecidos en dichas disposiciones no afectarán a la aplicación del presente artículo en la medida necesaria para hacer posible las pruebas a que se refiere el apartado 1.
English
1. Member States may allow, in accordance with this Article, the testing of high-risk AI systems in real world conditions outside AI regulatory sandboxes by providers or prospective providers of AI enabled products covered by the Union harmonisation legislation listed in Section B of Annex I, with a view to assessing and verifying the conformity of those systems with the requirements laid down in Articles 8 to 15.
2. Member States that choose to allow testing as referred to in paragraph 1 shall, individually or jointly, adopt frameworks for real-world testing.
3. Each Member State shall notify the Commission of any real-world testing framework it adopts before implementing it. This shall not affect the competences of the Commission under the Union harmonisation legislation listed in Section B of Annex I.
4. Member States that have adopted real-world testing frameworks shall ensure that the relevant national competent authorities, relevant authorities and public authorities responsible for the management and operation of infrastructure and products covered by Union harmonisation legislation listed in Section B of Annex I cooperate closely with each other in good faith and remove any practical obstacles, including on procedural rules providing access to physical public infrastructure, where this is necessary, to successfully implement those real-world testing frameworks and test AI-enabled products covered by Union harmonisation legislation listed in Section B of Annex I.
5. The frameworks for real-world testing shall lay down the requirements under which testing in real-world conditions shall occur. Those frameworks shall:
(a) |
include the provision of a mandatory real-world testing plan to be agreed between the provider or prospective provider and the national competent authority or relevant authority in accordance with the Union harmonisation legislation listed in Section B of Annex I; |
(b) |
ensure compliance with the requirements laid down in Article 60(2), (3), (4)(d)-(j) and (5)-(9), where any reference to market surveillance authorities in those provisions shall be read as a reference to the national competent authority or relevant authority, as appropriate in accordance with the Union harmonisation legislation listed in Section B of Annex I; |
(c) |
include effective governance and accountability arrangements; |
(d) |
ensure a high level of protection of health safety and fundamental rights. |
6. The real-world testing shall comply with the applicable provisions laid down in the Union harmonisation legislation listed in Section B of Annex I. Any requirements laid down in those provisions shall not affect the application of this Article to the extent necessary to enable the testing referred to in paragraph 1.