Vigilancia del mercado y control de los sistemas de IA y asistencia mutua
Español
1. La Oficina de IA tendrá competencia exclusiva para supervisar y garantizar el cumplimiento de las obligaciones derivadas del presente Reglamento en relación con los sistemas de IA siguientes:
a) |
sistemas de IA basados en modelos de IA de uso general en los que el modelo y el sistema sean desarrollados por el mismo proveedor o por proveedores que formen parte de una misma empresa, con excepción de:
| ||||||||
b) |
sistemas de IA que constituyan o estén integrados en una plataforma en línea de muy gran tamaño o un motor de búsqueda en línea de muy gran tamaño designados de conformidad con el Reglamento (UE) 2022/2065. |
La competencia exclusiva a que se refiere el párrafo primero se aplicará a los proveedores de dichos sistemas. Únicamente se aplicará a los responsables del despliegue de dichos sistemas cuando sean también el proveedor o formen parte de la misma empresa que el proveedor.
1 bis. Como excepción a lo dispuesto en el artículo 73, los proveedores de sistemas de IA de alto riesgo sujetos a la competencia de la Oficina de IA en virtud del apartado 1 del presente artículo notificarán cualquier incidente grave a la Oficina de IA. Será aplicable por analogía el artículo 73, apartados 2 a 9. La Oficina de IA transmitirá sin demora la información pertinente a la autoridad de vigilancia del mercado del Estado miembro en cuyo territorio esté situado el proveedor o su representante legal.
1 ter. Las autoridades que participen en la aplicación del presente Reglamento cooperarán activamente con la Oficina de IA y le prestarán la asistencia necesaria para el ejercicio de sus competencias, incluido, cuando sea necesario, en relación con las inspecciones u otras medidas de garantía del cumplimiento llevadas a cabo en el territorio de un Estado miembro. A tal fin, dichas autoridades gozarán de los poderes establecidos en virtud del presente Reglamento y del Reglamento (UE) 2019/1020 y, cuando proceda y de modo limitado a lo necesario para desempeñar sus funciones con arreglo al presente apartado, de conformidad con los procedimientos nacionales aplicables.
1 quater. Cuando adopte medidas de investigación o de garantía del cumplimiento en el territorio de un Estado miembro que impliquen el acceso a los datos o al sistema de IA de una autoridad pública, la Oficina de IA estará asistida por la autoridad de vigilancia del mercado pertinente.
1 quinquies. Antes de adoptar una decisión que tenga por efecto prohibir o restringir la comercialización o puesta en servicio del sistema de IA en un mercado nacional, o una decisión de retirar o recuperar el sistema de IA de dicho mercado, la Oficina de IA notificará, sin demora indebida, a la autoridad de vigilancia del mercado competente para dicho mercado su intención de adoptar tal decisión. La Oficina de IA consultará a las autoridades que participen en la aplicación del presente Reglamento, cuando proceda, sobre cualquier asunto relacionado con la aplicación y ejecución del presente Reglamento.
1 sexies. La Oficina de IA será responsable de las evaluaciones de la conformidad y las pruebas de los sistemas de IA a que se refiere el apartado 1 del presente artículo clasificados como de alto riesgo y sujetos a una evaluación de la conformidad de terceros en virtud del artículo 43 antes de su introducción en el mercado o su puesta en servicio. Dichas pruebas y evaluaciones comprobarán que los sistemas cumplen los requisitos pertinentes del presente Reglamento y pueden introducirse en el mercado o ponerse en servicio en la Unión de conformidad con el presente Reglamento. La Comisión encomendará la realización de estas pruebas o evaluaciones a organismos notificados designados de conformidad con el presente Reglamento, en cuyo caso el organismo notificado actuará en nombre de la Comisión. Si un organismo notificado al que la Comisión haya encomendado tareas en virtud del presente apartado no las realiza adecuadamente, la Comisión podrá retirar la delegación con efecto inmediato.
Las tasas por las actividades de prueba y evaluación se cobrarán a los proveedores de sistemas de IA de alto riesgo que hayan solicitado a la Comisión la evaluación de la conformidad de terceros. El proveedor abonará directamente al organismo notificado los costes relacionados con los servicios encomendados por la Comisión a los organismos notificados de conformidad con el presente artículo.
2. Cuando las autoridades de vigilancia del mercado pertinentes tengan motivos suficientes para considerar que los sistemas de IA de uso general que pueden ser utilizados directamente por los responsables del despliegue al menos para una de las finalidades clasificadas como de alto riesgo con arreglo al presente Reglamento no cumplen los requisitos establecidos en el presente Reglamento, cooperarán con la Oficina de IA para llevar a cabo evaluaciones del cumplimiento e informarán al respecto al Consejo de IA y las demás autoridades de vigilancia del mercado.
2 bis. Cuando una autoridad de vigilancia del mercado tenga motivos fundados y suficientes para sospechar que un proveedor o un responsable del despliegue de un sistema de IA a que se refiere el apartado 1 del presente artículo ha infringido el presente Reglamento, podrá solicitar a la Oficina de IA, a través del punto de contacto único pertinente designado de conformidad con el artículo 70, apartado 2, que evalúe la cuestión con el fin de adoptar las medidas de supervisión y de garantía del cumplimiento necesarias para garantizar el rápido cumplimiento del presente Reglamento. Tal solicitud deberá motivarse debidamente e indicar, como mínimo:
a) |
el nombre del proveedor o del responsable del despliegue de que se trate; |
b) |
una descripción de los hechos pertinentes, las disposiciones del presente Reglamento presuntamente infringidas y cualquier motivo fundado y suficiente para sospechar una infracción, incluida, en su caso, la descripción de los efectos negativos de la presunta infracción, y |
c) |
la autoridad de vigilancia del mercado que presenta la solicitud. |
La Oficina de IA tendrá en cuenta la solicitud en la mayor medida posible, y la autoridad de vigilancia del mercado cooperará activamente y proporcionará a la Oficina de IA la asistencia necesaria para el ejercicio de sus competencias de conformidad con el apartado 1 bis.
La Oficina de IA, sin demora indebida y, en cualquier caso, a más tardar cuatro meses después de la recepción de la solicitud, informará al punto de contacto único de su intención de ejercer sus competencias de conformidad con el artículo 75 bis o de sus motivos para no ejercer dichas competencias. Si la Oficina de IA decide ejercer sus competencias de conformidad con el artículo 75 bis, informará periódicamente a dicho punto de contacto único sobre cualquier novedad destacada en el procedimiento y sobre el resultado de este, sin revelar ninguna información confidencial.
3. Cuando una autoridad de vigilancia del mercado no pueda concluir su investigación sobre el sistema de IA de alto riesgo por no poder acceder a determinada información relativa al modelo de IA de uso general, a pesar de haber realizado todos los esfuerzos adecuados para obtener esa información, podrá presentar una solicitud motivada a la Oficina de IA para que se imponga el acceso a dicha información. En tal caso, la Oficina de IA facilitará a la autoridad solicitante sin demora y, en cualquier caso en un plazo de treinta días, toda la información que la Oficina de IA considere pertinente para determinar si un sistema de IA de alto riesgo no es conforme. Las autoridades de vigilancia del mercado preservarán la confidencialidad de la información obtenida de conformidad con lo dispuesto en el artículo 78 del presente Reglamento. Se aplicará mutatis mutandis el procedimiento previsto en el capítulo VI del Reglamento (UE) 2019/1020.
Deutsch
(1) Das Büro für Künstliche Intelligenz ist ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf die folgenden KI-Systeme zuständig:
a) |
KI-Systeme auf der Grundlage von KI-Modellen mit allgemeinem Verwendungszweck, bei denen das Modell und das System von demselben Anbieter oder von Anbietern entwickelt werden, die Teil desselben Unternehmens wie dieser Anbieter sind, mit Ausnahme von:
| ||||||||
b) |
KI-Systemen, die eine gemäß der Verordnung (EU) 2022/2065 benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine bilden oder die darin integriert sind. |
Die in Unterabsatz 1 genannte ausschließliche Zuständigkeit gilt für die Anbieter dieser Systeme. Sie gilt für die Betreiber dieser Systeme nur dann, wenn sie auch Anbieter dieser Systeme sind oder Teil desselben Unternehmens wie der Anbieter sind.
(1a) Abweichend von Artikel 73 melden Anbieter von Hochrisiko-KI-Systemen, die der Zuständigkeit des Büros für Künstliche Intelligenz gemäß Absatz 1 dieses Artikels unterliegen, dem Büro für Künstliche Intelligenz alle schwerwiegenden Vorfälle. Die Absätze 2 bis 9 des Artikels 73 gelten sinngemäß. Das Büro für Künstliche Intelligenz übermittelt die einschlägigen Informationen unverzüglich der Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Anbieter oder sein gesetzlicher Vertreter befindet.
(1b) Die an der Anwendung dieser Verordnung beteiligten Behörden arbeiten aktiv mit dem Büro für Künstliche Intelligenz zusammen und leistet ihm die erforderliche Unterstützung für die Ausübung seiner Befugnisse, unter anderem erforderlichenfalls im Zusammenhang mit Inspektionen oder anderen Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats. Zu diesem Zweck verfügen diese Behörden über die in dieser Verordnung und der Verordnung (EU) 2019/1020 niedergelegten Befugnisse und soweit zutreffend und auf das zur Erfüllung ihrer Aufgaben nach diesem Absatz erforderliche Maß beschränkt, im Einklang mit den geltenden nationalen Verfahren.
(1c) Werden im Hoheitsgebiet eines Mitgliedstaats Ermittlungs- oder Durchsetzungsmaßnahmen ergriffen, die den Zugang zu Daten oder KI-Systemen einer Behörde umfassen, so wird das Büro für Künstliche Intelligenz von der einschlägigen Marktüberwachungsbehörde unterstützt.
(1d) Bevor das Büro für Künstliche Intelligenz eine Entscheidung trifft, die ein Verbot oder eine Beschränkung der Bereitstellung oder Inbetriebnahme des KI-Systems auf einem nationalen Markt zur Folge hätte, oder bevor es eine Entscheidung dahin gehend trifft, das KI-System von einem solchen Markt zu nehmen oder zurückzurufen, unterrichtet es die für diesen Markt zuständige Marktüberwachungsbehörde unverzüglich über seine Absicht, eine solche Entscheidung zu treffen. Das Büro für Künstliche Intelligenz konsultiert gegebenenfalls die an der Anwendung dieser Verordnung beteiligten Behörden zu allen Fragen im Zusammenhang mit der Anwendung und Durchsetzung dieser Verordnung.
(1e) Das Büro für Künstliche Intelligenz ist für Konformitätsbewertungen und Tests der in Absatz 1 dieses Artikels genannten KI-Systeme zuständig, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, wobei diese Konformitätsbewertung durchzuführen ist, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht bzw. in Betrieb genommen werden dürfen. Die Kommission betraut die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Kommt eine notifizierte Stelle, der die Kommission Aufgaben gemäß diesem Absatz übertragen hat, diesen Aufgaben nicht angemessen nach, so kann die Kommission die Übertragung mit sofortiger Wirkung widerrufen.
Die Gebühren für Test- und Bewertungstätigkeiten werden von dem Anbieter eines Hochrisiko-KI-Systems erhoben, der bei der Kommission eine Konformitätsbewertung durch Dritte beantragt hat. Der Anbieter zahlt die Kosten der Dienstleistungen, mit denen die Kommission die notifizierten Stellen gemäß diesem Artikel betraut hat, direkt an die notifizierte Stelle.
(2) Haben die zuständigen Marktüberwachungsbehörden hinreichenden Grund für die Auffassung, dass KI-Systeme mit allgemeinem Verwendungszweck, die von Betreibern direkt für mindestens einen Zweck, der gemäß dieser Verordnung als hochriskant eingestuft ist, verwendet werden können, nicht mit den in dieser Verordnung festgelegten Anforderungen konform sind, so arbeiten sie bei der Durchführung von Konformitätsbewertungen mit dem Büro für Künstliche Intelligenz zusammen und unterrichten das KI-Gremium und andere Marktüberwachungsbehörden entsprechend.
(2a) Hat eine Marktüberwachungsbehörde fundierte und hinreichende Gründe für den Verdacht, dass ein Anbieter oder Betreiber eines in Absatz 1 dieses Artikels genannten KI-Systems gegen diese Verordnung verstoßen hat, so kann sie das Büro für Künstliche Intelligenz über die gemäß Artikel 70 Absatz 2 benannte zuständige zentrale Anlaufstelle ersuchen, die Angelegenheit zu prüfen, damit die erforderlichen Aufsichts- und Durchsetzungsmaßnahmen ergriffen werden können, um die unverzügliche Einhaltung dieser Verordnung sicherzustellen. Entsprechende Ersuchen sind hinreichend zu begründen und umfassen mindestens Folgendes:
a) |
den Namen des betreffenden Anbieters oder Betreibers; |
b) |
eine Beschreibung des relevanten Sachverhalts, der Bestimmungen dieser Verordnung, gegen die mutmaßlich verstoßen wurde, und aller fundierten und hinreichenden Gründe für den Verdacht eines Verstoßes, gegebenenfalls einschließlich einer Beschreibung der negativen Auswirkungen des mutmaßlichen Verstoßes; |
c) |
die ersuchende Marktüberwachungsbehörde. |
Das Büro für Künstliche Intelligenz trägt dem Ersuchen mit größter Sorgfalt Rechnung, und die Marktüberwachungsbehörde kooperiert aktiv und leistet dem Büro für Künstliche Intelligenz die erforderliche Unterstützung für die Ausübung seiner Befugnisse gemäß Absatz 1a.
Das Büro für Künstliche Intelligenz unterrichtet die zentrale Anlaufstelle unverzüglich, spätestens jedoch vier Monate nach Eingang des Ersuchens, über seine Absicht, seine Befugnisse gemäß Artikel 75a auszuüben, oder über die Gründe dafür, dass es seine Befugnisse nicht ausübt. Beschließt das Büro für Künstliche Intelligenz, seine Befugnisse gemäß Artikel 75a auszuüben, so unterrichtet es die zentrale Anlaufstelle regelmäßig über wichtige Entwicklungen in dem Verfahren und das Ergebnis dieses Verfahrens, ohne vertrauliche Informationen offenzulegen.
(3) Ist eine Marktüberwachungsbehörde wegen der Unzugänglichkeit bestimmter Informationen im Zusammenhang mit dem KI-Modell mit allgemeinem Verwendungszweck nicht in der Lage, ihre Ermittlungen zu dem Hochrisiko-KI-System abzuschließen, obwohl sie alle angemessenen Anstrengungen unternommen hat, diese Informationen zu erhalten, kann sie ein begründetes Ersuchen an das Büro für Künstliche Intelligenz richten, durch das der Zugang zu den Informationen durchgesetzt werden kann. In diesem Fall übermittelt das Büro für Künstliche Intelligenz der ersuchenden Behörde unverzüglich, spätestens aber innerhalb von 30 Tagen, alle Informationen, die das Büro für Künstliche Intelligenz für die Feststellung, ob ein Hochrisiko-KI-System nicht konform ist, für erforderlich erachtet. Die Marktüberwachungsbehörden gewährleisten gemäß Artikel 78 der vorliegenden Verordnung die Vertraulichkeit der von ihnen erlangten Informationen. Das Verfahren nach Kapitel VI der Verordnung (EU) 2019/1020 gilt entsprechend.