Market surveillance and control of AI systems and mutual assistance
English
1. The AI Office shall be exclusively competent for the supervision and enforcement of the obligations under this Regulation in relation to the following AI systems:
(a) |
AI systems based on general-purpose AI models where the model and the system are developed by the same provider, or by providers forming part of the same undertaking as that provider, with the exception of:
| ||||||||
(b) |
AI systems that constitute or that are integrated into a very large online platform or very large online search engine designated in accordance with Regulation (EU) 2022/2065. |
The exclusive competence referred to in the first subparagraph shall apply to the providers of those systems. It shall apply to the deployers of those systems only when they are also the provider or form part of the same undertaking as the provider.
1a. By way of derogation from Article 73, providers of high-risk AI systems subject to the competence of the AI Office pursuant to paragraph 1 of this Article shall report any serious incidents to the AI Office. Article 73 (2) to (9), shall apply mutatis mutandis. The AI Office shall promptly transmit the relevant information to the market surveillance authority of the Member State in the territory of which the provider or its legal representative is situated.
1b. The authorities involved in the application of this Regulation shall cooperate actively with the AI Office and provide the AI Office the necessary assistance for the exercise of its powers, including, where necessary, in connection with inspections or other enforcement measures carried out in the territory of a Member State. To that end, those authorities shall enjoy the powers provided for pursuant to this Regulation and Regulation (EU) 2019/1020, and where relevant and limited to what is necessary to fulfil their tasks under this paragraph, in accordance with the applicable national procedures.
1c. When taking investigatory or enforcement action in the territory of a Member State that involves access to a public authority’s data or AI system, the AI Office shall be assisted by the relevant market surveillance authority.
1d. Before taking a decision that would have the effect of prohibiting or restricting the AI system being made available or put into service on a national market, or a decision to withdraw or recall the AI system from such market, the AI Office shall, without undue delay, notify the market surveillance authority competent for that market of its intention to take such a decision. The AI Office shall consult the authorities involved in the application of this Regulation, where appropriate, on any matter relating to the application and enforcement of this Regulation.
1e. The AI Office shall be responsible for conformity assessments and tests of AI systems referred to in paragraph 1 of this Article that are classified as high-risk and subject to a third-party conformity assessment pursuant to Article 43 before such AI systems are placed on the market or put into service. Those tests and assessments shall verify that the systems comply with the relevant requirements of this Regulation and may be placed on the market or put into service in the Union in accordance with this Regulation. The Commission shall entrust the performance of those tests or assessments to notified bodies designated in accordance with this Regulation, in which case the notified body shall act on behalf of the Commission. If a notified body to which the Commission has delegated tasks under this paragraph does not perform those tasks adequately, the Commission may withdraw the delegation with immediate effect.
The fees for testing and assessment activities shall be levied on the provider of a high-risk AI system who has applied for a third-party conformity assessment to the Commission. The provider shall pay the costs related to the services entrusted by the Commission to the notified bodies in accordance with this Article directly to the notified body.
2. Where the relevant market surveillance authorities have sufficient reason to consider general-purpose AI systems that can be used directly by deployers for at least one purpose that is classified as high-risk pursuant to this Regulation to be non-compliant with the requirements laid down in this Regulation, they shall cooperate with the AI Office to carry out compliance evaluations, and shall inform the Board and other market surveillance authorities accordingly.
2a. Where a market surveillance authority has well-founded and sufficient reasons to suspect that a provider or a deployer of an AI system referred to in paragraph 1 of this Article has infringed this Regulation, it may request, through the relevant single point of contact designated in accordance with Article 70(2), the AI Office to assess the matter in order to take the necessary supervisory and enforcement measures to ensure prompt compliance with this Regulation. Such a request shall be duly reasoned and shall include at least:
(a) |
the name of the provider or the deployer concerned; |
(b) |
a description of the relevant facts, the provisions of this Regulation that have allegedly been infringed, and any well-founded and sufficient reasons for suspecting an infringement, including, where applicable, the description of the negative effects of the alleged infringement; |
(c) |
the market surveillance authority making the request. |
The AI Office shall take utmost account of the request and the market surveillance authority shall cooperate actively and provide the AI Office the necessary assistance for the exercise of its powers in accordance with paragraph 1a.
The AI Office shall, without undue delay and in any event no later than four months following receipt of the request, inform the single point of contact of its intention to exercise its powers in accordance with Article 75a or of its reasons for not exercising its powers. If the AI Office decides to exercise its powers in accordance with Article 75a, it shall periodically inform that single point of contact about major developments in the proceedings and the outcome of such proceedings, without disclosing any confidential information.
3. Where a market surveillance authority is unable to conclude its investigation of the high-risk AI system because of its inability to access certain information related to the general-purpose AI model despite having made all appropriate efforts to obtain that information, it may submit a reasoned request to the AI Office, by which access to that information shall be enforced. In that case, the AI Office shall supply to the applicant authority without delay, and in any event within 30 days, any information that the AI Office considers to be relevant in order to establish whether a high-risk AI system is non-compliant. Market surveillance authorities shall safeguard the confidentiality of the information that they obtain in accordance with Article 78 of this Regulation. The procedure provided for in Chapter VI of Regulation (EU) 2019/1020 shall apply mutatis mutandis.
Español
1. La Oficina de IA tendrá competencia exclusiva para supervisar y garantizar el cumplimiento de las obligaciones derivadas del presente Reglamento en relación con los sistemas de IA siguientes:
a) |
sistemas de IA basados en modelos de IA de uso general en los que el modelo y el sistema sean desarrollados por el mismo proveedor o por proveedores que formen parte de una misma empresa, con excepción de:
| ||||||||
b) |
sistemas de IA que constituyan o estén integrados en una plataforma en línea de muy gran tamaño o un motor de búsqueda en línea de muy gran tamaño designados de conformidad con el Reglamento (UE) 2022/2065. |
La competencia exclusiva a que se refiere el párrafo primero se aplicará a los proveedores de dichos sistemas. Únicamente se aplicará a los responsables del despliegue de dichos sistemas cuando sean también el proveedor o formen parte de la misma empresa que el proveedor.
1 bis. Como excepción a lo dispuesto en el artículo 73, los proveedores de sistemas de IA de alto riesgo sujetos a la competencia de la Oficina de IA en virtud del apartado 1 del presente artículo notificarán cualquier incidente grave a la Oficina de IA. Será aplicable por analogía el artículo 73, apartados 2 a 9. La Oficina de IA transmitirá sin demora la información pertinente a la autoridad de vigilancia del mercado del Estado miembro en cuyo territorio esté situado el proveedor o su representante legal.
1 ter. Las autoridades que participen en la aplicación del presente Reglamento cooperarán activamente con la Oficina de IA y le prestarán la asistencia necesaria para el ejercicio de sus competencias, incluido, cuando sea necesario, en relación con las inspecciones u otras medidas de garantía del cumplimiento llevadas a cabo en el territorio de un Estado miembro. A tal fin, dichas autoridades gozarán de los poderes establecidos en virtud del presente Reglamento y del Reglamento (UE) 2019/1020 y, cuando proceda y de modo limitado a lo necesario para desempeñar sus funciones con arreglo al presente apartado, de conformidad con los procedimientos nacionales aplicables.
1 quater. Cuando adopte medidas de investigación o de garantía del cumplimiento en el territorio de un Estado miembro que impliquen el acceso a los datos o al sistema de IA de una autoridad pública, la Oficina de IA estará asistida por la autoridad de vigilancia del mercado pertinente.
1 quinquies. Antes de adoptar una decisión que tenga por efecto prohibir o restringir la comercialización o puesta en servicio del sistema de IA en un mercado nacional, o una decisión de retirar o recuperar el sistema de IA de dicho mercado, la Oficina de IA notificará, sin demora indebida, a la autoridad de vigilancia del mercado competente para dicho mercado su intención de adoptar tal decisión. La Oficina de IA consultará a las autoridades que participen en la aplicación del presente Reglamento, cuando proceda, sobre cualquier asunto relacionado con la aplicación y ejecución del presente Reglamento.
1 sexies. La Oficina de IA será responsable de las evaluaciones de la conformidad y las pruebas de los sistemas de IA a que se refiere el apartado 1 del presente artículo clasificados como de alto riesgo y sujetos a una evaluación de la conformidad de terceros en virtud del artículo 43 antes de su introducción en el mercado o su puesta en servicio. Dichas pruebas y evaluaciones comprobarán que los sistemas cumplen los requisitos pertinentes del presente Reglamento y pueden introducirse en el mercado o ponerse en servicio en la Unión de conformidad con el presente Reglamento. La Comisión encomendará la realización de estas pruebas o evaluaciones a organismos notificados designados de conformidad con el presente Reglamento, en cuyo caso el organismo notificado actuará en nombre de la Comisión. Si un organismo notificado al que la Comisión haya encomendado tareas en virtud del presente apartado no las realiza adecuadamente, la Comisión podrá retirar la delegación con efecto inmediato.
Las tasas por las actividades de prueba y evaluación se cobrarán a los proveedores de sistemas de IA de alto riesgo que hayan solicitado a la Comisión la evaluación de la conformidad de terceros. El proveedor abonará directamente al organismo notificado los costes relacionados con los servicios encomendados por la Comisión a los organismos notificados de conformidad con el presente artículo.
2. Cuando las autoridades de vigilancia del mercado pertinentes tengan motivos suficientes para considerar que los sistemas de IA de uso general que pueden ser utilizados directamente por los responsables del despliegue al menos para una de las finalidades clasificadas como de alto riesgo con arreglo al presente Reglamento no cumplen los requisitos establecidos en el presente Reglamento, cooperarán con la Oficina de IA para llevar a cabo evaluaciones del cumplimiento e informarán al respecto al Consejo de IA y las demás autoridades de vigilancia del mercado.
2 bis. Cuando una autoridad de vigilancia del mercado tenga motivos fundados y suficientes para sospechar que un proveedor o un responsable del despliegue de un sistema de IA a que se refiere el apartado 1 del presente artículo ha infringido el presente Reglamento, podrá solicitar a la Oficina de IA, a través del punto de contacto único pertinente designado de conformidad con el artículo 70, apartado 2, que evalúe la cuestión con el fin de adoptar las medidas de supervisión y de garantía del cumplimiento necesarias para garantizar el rápido cumplimiento del presente Reglamento. Tal solicitud deberá motivarse debidamente e indicar, como mínimo:
a) |
el nombre del proveedor o del responsable del despliegue de que se trate; |
b) |
una descripción de los hechos pertinentes, las disposiciones del presente Reglamento presuntamente infringidas y cualquier motivo fundado y suficiente para sospechar una infracción, incluida, en su caso, la descripción de los efectos negativos de la presunta infracción, y |
c) |
la autoridad de vigilancia del mercado que presenta la solicitud. |
La Oficina de IA tendrá en cuenta la solicitud en la mayor medida posible, y la autoridad de vigilancia del mercado cooperará activamente y proporcionará a la Oficina de IA la asistencia necesaria para el ejercicio de sus competencias de conformidad con el apartado 1 bis.
La Oficina de IA, sin demora indebida y, en cualquier caso, a más tardar cuatro meses después de la recepción de la solicitud, informará al punto de contacto único de su intención de ejercer sus competencias de conformidad con el artículo 75 bis o de sus motivos para no ejercer dichas competencias. Si la Oficina de IA decide ejercer sus competencias de conformidad con el artículo 75 bis, informará periódicamente a dicho punto de contacto único sobre cualquier novedad destacada en el procedimiento y sobre el resultado de este, sin revelar ninguna información confidencial.
3. Cuando una autoridad de vigilancia del mercado no pueda concluir su investigación sobre el sistema de IA de alto riesgo por no poder acceder a determinada información relativa al modelo de IA de uso general, a pesar de haber realizado todos los esfuerzos adecuados para obtener esa información, podrá presentar una solicitud motivada a la Oficina de IA para que se imponga el acceso a dicha información. En tal caso, la Oficina de IA facilitará a la autoridad solicitante sin demora y, en cualquier caso en un plazo de treinta días, toda la información que la Oficina de IA considere pertinente para determinar si un sistema de IA de alto riesgo no es conforme. Las autoridades de vigilancia del mercado preservarán la confidencialidad de la información obtenida de conformidad con lo dispuesto en el artículo 78 del presente Reglamento. Se aplicará mutatis mutandis el procedimiento previsto en el capítulo VI del Reglamento (UE) 2019/1020.