Tests von Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, unter Realbedingungen außerhalb von KI-Reallaboren
Deutsch
(1) Die Mitgliedstaaten können Tests von Hochrisiko-KI-Systemen unter Realbedingungen durch Anbieter oder zukünftige Anbieter von KI-gestützten Produkten, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, außerhalb von KI-Reallaboren gemäß diesem Artikel zulassen, um die Konformität dieser Systeme mit den in den Artikeln 8 bis 15 festgelegten Anforderungen zu bewerten und zu überprüfen.
(2) Mitgliedstaaten, die sich dafür entscheiden, Tests gemäß Absatz 1 zuzulassen, legen einzeln oder gemeinsam Rahmen für einen Test unter Realbedingungen fest.
(3) Jeder Mitgliedstaat teilt der Kommission jeden von ihm angenommenen Rahmen für einen Test unter Realbedingungen vor dessen Umsetzung mit. Dies berührt nicht die Zuständigkeiten der Kommission gemäß den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union.
(4) Die Mitgliedstaaten, die Rahmen für einen Test unter Realbedingungen angenommen haben, stellen sicher, dass die einschlägigen zuständigen nationalen Behörden, die zuständigen Behörden und die Behörden, die für Verwaltung und Betrieb der unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Infrastrukturen und Produkte zuständig sind, eng und nach Treu und Glauben zusammenarbeiten und — soweit erforderlich — alle praktischen Hindernisse beseitigen, auch in Bezug auf Verfahrensvorschriften für den Zugang zu physischen öffentlichen Infrastrukturen, um diese Rahmen für einen Test unter Realbedingungen erfolgreich umzusetzen und KI-gestützte Produkte, die unter die in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, zu testen.
(5) In den Rahmen für einen Test unter Realbedingungen werden die Anforderungen festgelegt, unter denen Tests unter Realbedingungen stattfinden müssen. Diese Rahmen
a) |
umfassen die Vorlage eines verbindlichen Plans für einen Test unter Realbedingungen, der zwischen dem Anbieter oder zukünftigen Anbieter und der zuständigen nationalen Behörde oder der im Einklang mit den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union zuständigen Behörde zu vereinbaren ist; |
b) |
stellen die Einhaltung der in Artikel 60 Absätze 2 und 3, Absatz 4 Buchstaben d bis j und Absätze 5 bis 9 festgelegten Anforderungen sicher, wobei jede Bezugnahme auf Marktüberwachungsbehörden in diesen Bestimmungen als Bezugnahme auf die zuständige nationale Behörde oder gegebenenfalls die im Einklang mit den in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften zuständige Behörde der Union zu verstehen ist; |
c) |
umfassen wirksame Vorkehrungen für Führung und Rechenschaftspflicht; |
d) |
stellen ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und Grundrechte sicher. |
(6) Im Rahmen der Tests unter Realbedingungen wird den einschlägigen Bestimmungen der in Anhang I Abschnitt B aufgeführten Harmonisierungsrechtsvorschriften der Union Rechnung getragen. Die in diesen Bestimmungen festgelegten Anforderungen berühren nicht die Anwendung dieses Artikels, soweit dies erforderlich ist, um die in Absatz 1 genannten Tests zu ermöglichen.
Español
1. Los Estados miembros podrán permitir, de conformidad con el presente artículo, que los proveedores o proveedores potenciales de productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, realicen pruebas de sistemas de IA de alto riesgo en condiciones reales fuera de los espacios controlados de pruebas para la IA con el fin de evaluar y comprobar la conformidad de dichos sistemas con los requisitos establecidos en los artículos 8 a 15.
2. Los Estados miembros que opten por permitir las pruebas a que se refiere el apartado 1 adoptarán, individual o conjuntamente, marcos para la prueba en condiciones reales.
3. Cada Estado miembro notificará a la Comisión todo marco para la prueba en condiciones reales que adopte antes de ponerlo en práctica. Esto no afectará a las competencias de la Comisión en virtud de los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.
4. Los Estados miembros que hayan adoptado marcos para la prueba en condiciones reales se asegurarán de que las autoridades nacionales competentes pertinentes, las autoridades pertinentes y las autoridades públicas responsables de la gestión y el funcionamiento de infraestructuras y productos regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B, cooperen estrechamente entre sí de buena fe y eliminen cualquier obstáculo práctico, incluidos aquellos que afecten a las normas de procedimiento que regulen el acceso a infraestructuras públicas físicas, cuando sea necesario, a fin de poner en práctica satisfactoriamente dichos marcos para la prueba en condiciones reales y probar los productos basados en la IA regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B.
5. Los marcos para la prueba en condiciones reales establecerán los requisitos con arreglo a los cuales se realizará la prueba en condiciones reales. Dichos marcos:
a) |
incluirán la presentación obligatoria de un plan de la prueba en condiciones reales, que deberá ser acordado entre el proveedor o proveedor potencial y la autoridad nacional competente o la autoridad pertinente de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B; |
b) |
garantizarán el cumplimiento de los requisitos establecidos en el artículo 60, apartados 2 y 3, apartado 4, letras d) a j), y apartados 5 a 9, entendiéndose toda referencia hecha en dichas disposiciones a las autoridades de vigilancia del mercado como hecha a la autoridad nacional competente, o a la autoridad pertinente, según proceda, de conformidad con los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B; |
c) |
incluirán mecanismos eficaces de gobernanza y rendición de cuentas; |
d) |
garantizarán un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales. |
6. La prueba en condiciones reales cumplirá las disposiciones aplicables establecidas en los actos legislativos de armonización de la Unión enumerados en el anexo I, sección B. Los requisitos establecidos en dichas disposiciones no afectarán a la aplicación del presente artículo en la medida necesaria para hacer posible las pruebas a que se refiere el apartado 1.