Surveillance du marché et contrôle des systèmes d'IA et assistance mutuelle
Français
1. Le Bureau de l'IA est seul compétent pour la surveillance et le contrôle du respect des obligations au titre du présent règlement en ce qui concerne les systèmes d'IA suivants:
a) |
les systèmes d'IA fondés sur des modèles d'IA à usage général lorsque le modèle et le système sont développés par le même fournisseur, ou par des fournisseurs faisant partie de la même entreprise que ce fournisseur, à l'exception:
| ||||||||
b) |
les systèmes d'IA qui constituent une très grande plateforme en ligne ou un très grand moteur de recherche en ligne ainsi désignés conformément au règlement (UE) 2022/2065, ou qui sont intégrés dans une telle plateforme ou un tel moteur. |
La compétence exclusive visée au premier alinéa s'applique aux fournisseurs de ces systèmes. Elle ne s'applique aux déployeurs de ces systèmes que lorsqu'ils sont également le fournisseur ou font partie de la même entreprise que le fournisseur.
1 bis. Par dérogation à l'article 73, les fournisseurs de systèmes d'IA à haut risque relevant de la compétence du Bureau de l'IA en vertu du paragraphe 1 du présent article signalent tout incident grave au Bureau de l'IA. L'article 73, paragraphes 2 à 9, s'applique mutatis mutandis. Le Bureau de l'IA transmet rapidement les informations pertinentes à l'autorité de surveillance du marché de l'État membre sur le territoire duquel le fournisseur ou son représentant légal est établi.
1 ter. Les autorités participant à l'application du présent règlement coopèrent activement avec le Bureau de l'IA et lui fournissent l'assistance nécessaire à l'exercice de ses pouvoirs, y compris, si nécessaire, en ce qui concerne les inspections ou autres mesures d'exécution menées sur le territoire d'un État membre. À cette fin, ces autorités disposent des pouvoirs prévus par le présent règlement et par le règlement (UE) 2019/1020 et, le cas échéant et dans la mesure nécessaire à l'accomplissement de leurs tâches au titre du présent paragraphe, conformément aux procédures nationales applicables.
1 quater. Lorsqu'il prend, sur le territoire d'un État membre, des mesures d'enquête ou d'exécution qui impliquent l'accès aux données ou au système d'IA d'une autorité publique, le Bureau de l'IA est assisté par l'autorité de surveillance du marché concernée.
1 quinquies. Avant de prendre une décision qui aurait pour effet d'interdire ou de restreindre la mise à disposition ou la mise en service du système d'IA sur un marché national, ou une décision visant à retirer ou à rappeler le système d'IA de ce marché, le Bureau de l'IA notifie sans retard injustifié à l'autorité de surveillance du marché compétente pour ce marché son intention de prendre une telle décision. Le Bureau de l'IA consulte les autorités participant à l'application du présent règlement, le cas échéant, sur toute question relative à l'application et au contrôle de l'application du présent règlement.
1 sexies. Le Bureau de l'IA est chargé des évaluations de la conformité et des essais des systèmes d'IA visés au paragraphe 1 du présent article qui sont classés comme étant à haut risque et font l'objet d'une évaluation de la conformité par un tiers en vertu de l'article 43, avant que ces systèmes d'IA ne soient mis sur le marché ou mis en service. Ces essais et évaluations ont pour objet de vérifier que les systèmes sont conformes aux exigences pertinentes du présent règlement et peuvent être mis sur le marché ou mis en service dans l'Union conformément au présent règlement. La Commission confie la réalisation de ces essais ou évaluations à des organismes notifiés désignés conformément au présent règlement, auquel cas l'organisme notifié agit au nom de la Commission. Si un organisme notifié auquel la Commission a délégué des tâches au titre du présent paragraphe ne s'acquitte pas de ces tâches de manière satisfaisante, la Commission peut retirer la délégation avec effet immédiat.
Les redevances pour les activités d'essai et d'évaluation sont perçues auprès du fournisseur d'un système d'IA à haut risque qui a demandé à la Commission une évaluation de la conformité par un tiers. Le fournisseur paye directement à l'organisme notifié les coûts liés aux services confiés par la Commission aux organismes notifiés conformément au présent article.
2. Lorsqu’elles ont des raisons suffisantes de considérer que des systèmes d’IA à usage général qui peuvent être utilisés directement par les déployeurs pour au moins un usage classé comme étant à haut risque en vertu du présent règlement ne sont pas conformes aux exigences énoncées dans le présent règlement, les autorités de surveillance du marché concernées coopèrent avec le Bureau de l’IA pour procéder à des évaluations de la conformité, et en informent le Comité IA et les autres autorités de surveillance du marché.
2 bis. Lorsqu'une autorité de surveillance du marché a des raisons fondées et suffisantes de suspecter qu'un fournisseur ou un déployeur d'un système d'IA visé au paragraphe 1 du présent article a enfreint le présent règlement, elle peut demander, par l'intermédiaire du point de contact unique pertinent désigné conformément à l'article 70, paragraphe 2, au Bureau de l'IA d'évaluer la question afin de prendre les mesures de surveillance et d'exécution nécessaires pour garantir le respect rapide du présent règlement. Une telle demande est dûment motivée et indique au moins:
a) |
le nom du fournisseur ou du déployeur concerné; |
b) |
une description des faits pertinents, des dispositions du présent règlement qui auraient été enfreintes, ainsi que de toute raison fondée et suffisante de suspecter une infraction, y compris, le cas échéant, la description des effets négatifs de l'infraction alléguée; |
c) |
l'autorité de surveillance du marché à l'origine de la demande. |
Le Bureau de l'IA tient le plus grand compte de la demande et l'autorité de surveillance du marché coopère activement et fournit au Bureau de l'IA l'assistance nécessaire à l'exercice de ses pouvoirs, conformément au paragraphe 1 bis.
Le Bureau de l'IA informe le point de contact unique, sans retard injustifié et en tout état de cause au plus tard quatre mois après la réception de la demande, de son intention d'exercer ses pouvoirs conformément à l'article 75 bis ou des raisons pour lesquelles il ne le fait pas. Si le Bureau de l'IA décide d'exercer ses pouvoirs conformément à l'article 75 bis, il informe périodiquement ce point de contact unique des évolutions importantes de la procédure et de l'issue de celle-ci, sans divulguer d'informations confidentielles.
3. Lorsqu’une autorité de surveillance du marché n’est pas en mesure de conclure son enquête sur le système d’IA à haut risque en raison de son incapacité à accéder à certaines informations relatives au modèle d’IA à usage général bien qu’elle ait déployé tous les efforts appropriés pour obtenir ces informations, elle peut présenter une demande motivée au Bureau de l’IA, par laquelle l’accès à ces informations est mis en œuvre. Dans ce cas, le Bureau de l’IA fournit sans tarder à l’autorité requérante, et en tout état de cause dans un délai de 30 jours, toute information qu’il juge pertinente pour déterminer si un système d’IA à haut risque est non conforme. Les autorités de surveillance du marché garantissent la confidentialité des informations qu’elles obtiennent conformément à l’article 78 du présent règlement. La procédure prévue au chapitre VI du règlement (UE) 2019/1020 s’applique mutatis mutandis.
Deutsch
(1) Das Büro für Künstliche Intelligenz ist ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf die folgenden KI-Systeme zuständig:
a) |
KI-Systeme auf der Grundlage von KI-Modellen mit allgemeinem Verwendungszweck, bei denen das Modell und das System von demselben Anbieter oder von Anbietern entwickelt werden, die Teil desselben Unternehmens wie dieser Anbieter sind, mit Ausnahme von:
| ||||||||
b) |
KI-Systemen, die eine gemäß der Verordnung (EU) 2022/2065 benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine bilden oder die darin integriert sind. |
Die in Unterabsatz 1 genannte ausschließliche Zuständigkeit gilt für die Anbieter dieser Systeme. Sie gilt für die Betreiber dieser Systeme nur dann, wenn sie auch Anbieter dieser Systeme sind oder Teil desselben Unternehmens wie der Anbieter sind.
(1a) Abweichend von Artikel 73 melden Anbieter von Hochrisiko-KI-Systemen, die der Zuständigkeit des Büros für Künstliche Intelligenz gemäß Absatz 1 dieses Artikels unterliegen, dem Büro für Künstliche Intelligenz alle schwerwiegenden Vorfälle. Die Absätze 2 bis 9 des Artikels 73 gelten sinngemäß. Das Büro für Künstliche Intelligenz übermittelt die einschlägigen Informationen unverzüglich der Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Anbieter oder sein gesetzlicher Vertreter befindet.
(1b) Die an der Anwendung dieser Verordnung beteiligten Behörden arbeiten aktiv mit dem Büro für Künstliche Intelligenz zusammen und leistet ihm die erforderliche Unterstützung für die Ausübung seiner Befugnisse, unter anderem erforderlichenfalls im Zusammenhang mit Inspektionen oder anderen Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats. Zu diesem Zweck verfügen diese Behörden über die in dieser Verordnung und der Verordnung (EU) 2019/1020 niedergelegten Befugnisse und soweit zutreffend und auf das zur Erfüllung ihrer Aufgaben nach diesem Absatz erforderliche Maß beschränkt, im Einklang mit den geltenden nationalen Verfahren.
(1c) Werden im Hoheitsgebiet eines Mitgliedstaats Ermittlungs- oder Durchsetzungsmaßnahmen ergriffen, die den Zugang zu Daten oder KI-Systemen einer Behörde umfassen, so wird das Büro für Künstliche Intelligenz von der einschlägigen Marktüberwachungsbehörde unterstützt.
(1d) Bevor das Büro für Künstliche Intelligenz eine Entscheidung trifft, die ein Verbot oder eine Beschränkung der Bereitstellung oder Inbetriebnahme des KI-Systems auf einem nationalen Markt zur Folge hätte, oder bevor es eine Entscheidung dahin gehend trifft, das KI-System von einem solchen Markt zu nehmen oder zurückzurufen, unterrichtet es die für diesen Markt zuständige Marktüberwachungsbehörde unverzüglich über seine Absicht, eine solche Entscheidung zu treffen. Das Büro für Künstliche Intelligenz konsultiert gegebenenfalls die an der Anwendung dieser Verordnung beteiligten Behörden zu allen Fragen im Zusammenhang mit der Anwendung und Durchsetzung dieser Verordnung.
(1e) Das Büro für Künstliche Intelligenz ist für Konformitätsbewertungen und Tests der in Absatz 1 dieses Artikels genannten KI-Systeme zuständig, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, wobei diese Konformitätsbewertung durchzuführen ist, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht bzw. in Betrieb genommen werden dürfen. Die Kommission betraut die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Kommt eine notifizierte Stelle, der die Kommission Aufgaben gemäß diesem Absatz übertragen hat, diesen Aufgaben nicht angemessen nach, so kann die Kommission die Übertragung mit sofortiger Wirkung widerrufen.
Die Gebühren für Test- und Bewertungstätigkeiten werden von dem Anbieter eines Hochrisiko-KI-Systems erhoben, der bei der Kommission eine Konformitätsbewertung durch Dritte beantragt hat. Der Anbieter zahlt die Kosten der Dienstleistungen, mit denen die Kommission die notifizierten Stellen gemäß diesem Artikel betraut hat, direkt an die notifizierte Stelle.
(2) Haben die zuständigen Marktüberwachungsbehörden hinreichenden Grund für die Auffassung, dass KI-Systeme mit allgemeinem Verwendungszweck, die von Betreibern direkt für mindestens einen Zweck, der gemäß dieser Verordnung als hochriskant eingestuft ist, verwendet werden können, nicht mit den in dieser Verordnung festgelegten Anforderungen konform sind, so arbeiten sie bei der Durchführung von Konformitätsbewertungen mit dem Büro für Künstliche Intelligenz zusammen und unterrichten das KI-Gremium und andere Marktüberwachungsbehörden entsprechend.
(2a) Hat eine Marktüberwachungsbehörde fundierte und hinreichende Gründe für den Verdacht, dass ein Anbieter oder Betreiber eines in Absatz 1 dieses Artikels genannten KI-Systems gegen diese Verordnung verstoßen hat, so kann sie das Büro für Künstliche Intelligenz über die gemäß Artikel 70 Absatz 2 benannte zuständige zentrale Anlaufstelle ersuchen, die Angelegenheit zu prüfen, damit die erforderlichen Aufsichts- und Durchsetzungsmaßnahmen ergriffen werden können, um die unverzügliche Einhaltung dieser Verordnung sicherzustellen. Entsprechende Ersuchen sind hinreichend zu begründen und umfassen mindestens Folgendes:
a) |
den Namen des betreffenden Anbieters oder Betreibers; |
b) |
eine Beschreibung des relevanten Sachverhalts, der Bestimmungen dieser Verordnung, gegen die mutmaßlich verstoßen wurde, und aller fundierten und hinreichenden Gründe für den Verdacht eines Verstoßes, gegebenenfalls einschließlich einer Beschreibung der negativen Auswirkungen des mutmaßlichen Verstoßes; |
c) |
die ersuchende Marktüberwachungsbehörde. |
Das Büro für Künstliche Intelligenz trägt dem Ersuchen mit größter Sorgfalt Rechnung, und die Marktüberwachungsbehörde kooperiert aktiv und leistet dem Büro für Künstliche Intelligenz die erforderliche Unterstützung für die Ausübung seiner Befugnisse gemäß Absatz 1a.
Das Büro für Künstliche Intelligenz unterrichtet die zentrale Anlaufstelle unverzüglich, spätestens jedoch vier Monate nach Eingang des Ersuchens, über seine Absicht, seine Befugnisse gemäß Artikel 75a auszuüben, oder über die Gründe dafür, dass es seine Befugnisse nicht ausübt. Beschließt das Büro für Künstliche Intelligenz, seine Befugnisse gemäß Artikel 75a auszuüben, so unterrichtet es die zentrale Anlaufstelle regelmäßig über wichtige Entwicklungen in dem Verfahren und das Ergebnis dieses Verfahrens, ohne vertrauliche Informationen offenzulegen.
(3) Ist eine Marktüberwachungsbehörde wegen der Unzugänglichkeit bestimmter Informationen im Zusammenhang mit dem KI-Modell mit allgemeinem Verwendungszweck nicht in der Lage, ihre Ermittlungen zu dem Hochrisiko-KI-System abzuschließen, obwohl sie alle angemessenen Anstrengungen unternommen hat, diese Informationen zu erhalten, kann sie ein begründetes Ersuchen an das Büro für Künstliche Intelligenz richten, durch das der Zugang zu den Informationen durchgesetzt werden kann. In diesem Fall übermittelt das Büro für Künstliche Intelligenz der ersuchenden Behörde unverzüglich, spätestens aber innerhalb von 30 Tagen, alle Informationen, die das Büro für Künstliche Intelligenz für die Feststellung, ob ein Hochrisiko-KI-System nicht konform ist, für erforderlich erachtet. Die Marktüberwachungsbehörden gewährleisten gemäß Artikel 78 der vorliegenden Verordnung die Vertraulichkeit der von ihnen erlangten Informationen. Das Verfahren nach Kapitel VI der Verordnung (EU) 2019/1020 gilt entsprechend.