Testing of high-risk AI systems covered by Union harmonisation legislation listed in Section B of Annex I in real-world conditions outside AI regulatory sandboxes
English
1. Member States may allow, in accordance with this Article, the testing of high-risk AI systems in real world conditions outside AI regulatory sandboxes by providers or prospective providers of AI enabled products covered by the Union harmonisation legislation listed in Section B of Annex I, with a view to assessing and verifying the conformity of those systems with the requirements laid down in Articles 8 to 15.
2. Member States that choose to allow testing as referred to in paragraph 1 shall, individually or jointly, adopt frameworks for real-world testing.
3. Each Member State shall notify the Commission of any real-world testing framework it adopts before implementing it. This shall not affect the competences of the Commission under the Union harmonisation legislation listed in Section B of Annex I.
4. Member States that have adopted real-world testing frameworks shall ensure that the relevant national competent authorities, relevant authorities and public authorities responsible for the management and operation of infrastructure and products covered by Union harmonisation legislation listed in Section B of Annex I cooperate closely with each other in good faith and remove any practical obstacles, including on procedural rules providing access to physical public infrastructure, where this is necessary, to successfully implement those real-world testing frameworks and test AI-enabled products covered by Union harmonisation legislation listed in Section B of Annex I.
5. The frameworks for real-world testing shall lay down the requirements under which testing in real-world conditions shall occur. Those frameworks shall:
(a) |
include the provision of a mandatory real-world testing plan to be agreed between the provider or prospective provider and the national competent authority or relevant authority in accordance with the Union harmonisation legislation listed in Section B of Annex I; |
(b) |
ensure compliance with the requirements laid down in Article 60(2), (3), (4)(d)-(j) and (5)-(9), where any reference to market surveillance authorities in those provisions shall be read as a reference to the national competent authority or relevant authority, as appropriate in accordance with the Union harmonisation legislation listed in Section B of Annex I; |
(c) |
include effective governance and accountability arrangements; |
(d) |
ensure a high level of protection of health safety and fundamental rights. |
6. The real-world testing shall comply with the applicable provisions laid down in the Union harmonisation legislation listed in Section B of Annex I. Any requirements laid down in those provisions shall not affect the application of this Article to the extent necessary to enable the testing referred to in paragraph 1.
Italiano
1. Gli Stati membri possono consentire, conformemente al presente articolo, lo svolgimento di prove di sistemi di IA ad alto rischio in condizioni reali al di fuori degli spazi di sperimentazione normativa per l'IA da parte di fornitori o potenziali fornitori di prodotti basati sull'IA disciplinati dalla normativa di armonizzazione dell'Unione elencata nell'allegato I, sezione B, al fine di valutare e verificare la conformità di tali sistemi ai requisiti di cui agli articoli da 8 a 15.
2. Gli Stati membri che scelgono di consentire lo svolgimento di prove di cui al paragrafo 1 adottano, individualmente o congiuntamente, quadri per le prove in condizioni reali.
3. Ciascuno Stato membro notifica alla Commissione qualsiasi quadro per le prove in condizioni reali che adotta prima di attuarlo. Ciò non pregiudica le competenze della Commissione ai sensi della normativa di armonizzazione dell'Unione elencata nell'allegato I, sezione B.
4. Gli Stati membri che hanno adottato quadri per le prove in condizioni reali garantiscono che le autorità nazionali competenti, le autorità pertinenti e le autorità pubbliche responsabili della gestione e del funzionamento delle infrastrutture e dei prodotti disciplinati dalla normativa di armonizzazione dell'Unione elencata nell'allegato I, sezione B, cooperino strettamente e in buona fede tra loro e rimuovano qualsiasi ostacolo pratico, anche per quanto riguarda le norme procedurali che disciplinano l'accesso alle infrastrutture pubbliche fisiche, ove necessario, al fine di applicare con efficacia tali quadri relativi alle prove in condizioni reali e di effettuare prove sui prodotti basati sull'IA disciplinati dalla normativa di armonizzazione dell'Unione elencata nell'allegato I.
5. I quadri per le prove in condizioni reali stabiliscono i requisiti in base ai quali si effettuano le prove in condizioni reali. Tali quadri:
a) |
prevedono la presentazione di un piano obbligatorio di prove in condizioni reali da concordare tra il fornitore o potenziale fornitore e l'autorità nazionale competente o l'autorità pertinente conformemente alla normativa di armonizzazione dell'Unione elencata nell'allegato I, sezione B; |
b) |
garantiscono la conformità alle prescrizioni di cui all'articolo 60, paragrafi 2 e 3, paragrafo 4, lettere da d) a j), e paragrafi da 5 a 9, laddove qualsiasi riferimento alle autorità di vigilanza del mercato in tali disposizioni si intenda fatto all'autorità nazionale competente o all'autorità pertinente, a seconda dei casi, conformemente alla normativa di armonizzazione dell'Unione elencata nell'allegato I, sezione B; |
c) |
includono disposizioni efficaci in materia di governance e assunzione di responsabilità; |
d) |
garantiscono un elevato livello di protezione della salute e della sicurezza e dei diritti fondamentali. |
6. Le prove in condizioni reali sono conformi alle disposizioni applicabili stabilite nella normativa di armonizzazione dell'Unione elencata nell'allegato I, sezione B. I requisiti stabiliti in tali disposizioni non pregiudicano l'applicazione del presente articolo nella misura necessaria a consentire lo svolgimento delle prove di cui al paragrafo 1.