Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe
Deutsch
(1) Das Büro für Künstliche Intelligenz ist ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf die folgenden KI-Systeme zuständig:
a) |
KI-Systeme auf der Grundlage von KI-Modellen mit allgemeinem Verwendungszweck, bei denen das Modell und das System von demselben Anbieter oder von Anbietern entwickelt werden, die Teil desselben Unternehmens wie dieser Anbieter sind, mit Ausnahme von:
| ||||||||
b) |
KI-Systemen, die eine gemäß der Verordnung (EU) 2022/2065 benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine bilden oder die darin integriert sind. |
Die in Unterabsatz 1 genannte ausschließliche Zuständigkeit gilt für die Anbieter dieser Systeme. Sie gilt für die Betreiber dieser Systeme nur dann, wenn sie auch Anbieter dieser Systeme sind oder Teil desselben Unternehmens wie der Anbieter sind.
(1a) Abweichend von Artikel 73 melden Anbieter von Hochrisiko-KI-Systemen, die der Zuständigkeit des Büros für Künstliche Intelligenz gemäß Absatz 1 dieses Artikels unterliegen, dem Büro für Künstliche Intelligenz alle schwerwiegenden Vorfälle. Die Absätze 2 bis 9 des Artikels 73 gelten sinngemäß. Das Büro für Künstliche Intelligenz übermittelt die einschlägigen Informationen unverzüglich der Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Anbieter oder sein gesetzlicher Vertreter befindet.
(1b) Die an der Anwendung dieser Verordnung beteiligten Behörden arbeiten aktiv mit dem Büro für Künstliche Intelligenz zusammen und leistet ihm die erforderliche Unterstützung für die Ausübung seiner Befugnisse, unter anderem erforderlichenfalls im Zusammenhang mit Inspektionen oder anderen Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats. Zu diesem Zweck verfügen diese Behörden über die in dieser Verordnung und der Verordnung (EU) 2019/1020 niedergelegten Befugnisse und soweit zutreffend und auf das zur Erfüllung ihrer Aufgaben nach diesem Absatz erforderliche Maß beschränkt, im Einklang mit den geltenden nationalen Verfahren.
(1c) Werden im Hoheitsgebiet eines Mitgliedstaats Ermittlungs- oder Durchsetzungsmaßnahmen ergriffen, die den Zugang zu Daten oder KI-Systemen einer Behörde umfassen, so wird das Büro für Künstliche Intelligenz von der einschlägigen Marktüberwachungsbehörde unterstützt.
(1d) Bevor das Büro für Künstliche Intelligenz eine Entscheidung trifft, die ein Verbot oder eine Beschränkung der Bereitstellung oder Inbetriebnahme des KI-Systems auf einem nationalen Markt zur Folge hätte, oder bevor es eine Entscheidung dahin gehend trifft, das KI-System von einem solchen Markt zu nehmen oder zurückzurufen, unterrichtet es die für diesen Markt zuständige Marktüberwachungsbehörde unverzüglich über seine Absicht, eine solche Entscheidung zu treffen. Das Büro für Künstliche Intelligenz konsultiert gegebenenfalls die an der Anwendung dieser Verordnung beteiligten Behörden zu allen Fragen im Zusammenhang mit der Anwendung und Durchsetzung dieser Verordnung.
(1e) Das Büro für Künstliche Intelligenz ist für Konformitätsbewertungen und Tests der in Absatz 1 dieses Artikels genannten KI-Systeme zuständig, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, wobei diese Konformitätsbewertung durchzuführen ist, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht bzw. in Betrieb genommen werden dürfen. Die Kommission betraut die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Kommt eine notifizierte Stelle, der die Kommission Aufgaben gemäß diesem Absatz übertragen hat, diesen Aufgaben nicht angemessen nach, so kann die Kommission die Übertragung mit sofortiger Wirkung widerrufen.
Die Gebühren für Test- und Bewertungstätigkeiten werden von dem Anbieter eines Hochrisiko-KI-Systems erhoben, der bei der Kommission eine Konformitätsbewertung durch Dritte beantragt hat. Der Anbieter zahlt die Kosten der Dienstleistungen, mit denen die Kommission die notifizierten Stellen gemäß diesem Artikel betraut hat, direkt an die notifizierte Stelle.
(2) Haben die zuständigen Marktüberwachungsbehörden hinreichenden Grund für die Auffassung, dass KI-Systeme mit allgemeinem Verwendungszweck, die von Betreibern direkt für mindestens einen Zweck, der gemäß dieser Verordnung als hochriskant eingestuft ist, verwendet werden können, nicht mit den in dieser Verordnung festgelegten Anforderungen konform sind, so arbeiten sie bei der Durchführung von Konformitätsbewertungen mit dem Büro für Künstliche Intelligenz zusammen und unterrichten das KI-Gremium und andere Marktüberwachungsbehörden entsprechend.
(2a) Hat eine Marktüberwachungsbehörde fundierte und hinreichende Gründe für den Verdacht, dass ein Anbieter oder Betreiber eines in Absatz 1 dieses Artikels genannten KI-Systems gegen diese Verordnung verstoßen hat, so kann sie das Büro für Künstliche Intelligenz über die gemäß Artikel 70 Absatz 2 benannte zuständige zentrale Anlaufstelle ersuchen, die Angelegenheit zu prüfen, damit die erforderlichen Aufsichts- und Durchsetzungsmaßnahmen ergriffen werden können, um die unverzügliche Einhaltung dieser Verordnung sicherzustellen. Entsprechende Ersuchen sind hinreichend zu begründen und umfassen mindestens Folgendes:
a) |
den Namen des betreffenden Anbieters oder Betreibers; |
b) |
eine Beschreibung des relevanten Sachverhalts, der Bestimmungen dieser Verordnung, gegen die mutmaßlich verstoßen wurde, und aller fundierten und hinreichenden Gründe für den Verdacht eines Verstoßes, gegebenenfalls einschließlich einer Beschreibung der negativen Auswirkungen des mutmaßlichen Verstoßes; |
c) |
die ersuchende Marktüberwachungsbehörde. |
Das Büro für Künstliche Intelligenz trägt dem Ersuchen mit größter Sorgfalt Rechnung, und die Marktüberwachungsbehörde kooperiert aktiv und leistet dem Büro für Künstliche Intelligenz die erforderliche Unterstützung für die Ausübung seiner Befugnisse gemäß Absatz 1a.
Das Büro für Künstliche Intelligenz unterrichtet die zentrale Anlaufstelle unverzüglich, spätestens jedoch vier Monate nach Eingang des Ersuchens, über seine Absicht, seine Befugnisse gemäß Artikel 75a auszuüben, oder über die Gründe dafür, dass es seine Befugnisse nicht ausübt. Beschließt das Büro für Künstliche Intelligenz, seine Befugnisse gemäß Artikel 75a auszuüben, so unterrichtet es die zentrale Anlaufstelle regelmäßig über wichtige Entwicklungen in dem Verfahren und das Ergebnis dieses Verfahrens, ohne vertrauliche Informationen offenzulegen.
(3) Ist eine Marktüberwachungsbehörde wegen der Unzugänglichkeit bestimmter Informationen im Zusammenhang mit dem KI-Modell mit allgemeinem Verwendungszweck nicht in der Lage, ihre Ermittlungen zu dem Hochrisiko-KI-System abzuschließen, obwohl sie alle angemessenen Anstrengungen unternommen hat, diese Informationen zu erhalten, kann sie ein begründetes Ersuchen an das Büro für Künstliche Intelligenz richten, durch das der Zugang zu den Informationen durchgesetzt werden kann. In diesem Fall übermittelt das Büro für Künstliche Intelligenz der ersuchenden Behörde unverzüglich, spätestens aber innerhalb von 30 Tagen, alle Informationen, die das Büro für Künstliche Intelligenz für die Feststellung, ob ein Hochrisiko-KI-System nicht konform ist, für erforderlich erachtet. Die Marktüberwachungsbehörden gewährleisten gemäß Artikel 78 der vorliegenden Verordnung die Vertraulichkeit der von ihnen erlangten Informationen. Das Verfahren nach Kapitel VI der Verordnung (EU) 2019/1020 gilt entsprechend.
Čeština
1. Úřad pro AI je výhradně příslušný pro dohled nad povinnostmi podle tohoto nařízení a jejich prosazování ve vztahu k těmto systémům AI:
a) |
systémům AI založeným na obecných modelech AI, pokud jsou model a systém vyvinuty stejným poskytovatelem nebo poskytovateli, kteří jsou součástí téhož podniku jako tento poskytovatel, s výjimkou:
| ||||||||
b) |
systémům AI, které představují velmi velké online platformy nebo velmi velké internetové vyhledávače určené v souladu s nařízením (EU) 2022/2065 nebo jsou do nich integrovány. |
Výlučná pravomoc uvedená v prvním pododstavci se vztahuje na poskytovatele těchto systémů. Na zavádějící subjekty těchto systémů se vztahuje pouze v případě, že jsou zároveň poskytovatelem nebo jsou součástí stejného podniku jako poskytovatel.
1a. Odchylně od článku 73 oznamují poskytovatelé vysoce rizikových systémů AI, které spadají do pravomoci úřadu pro AI podle odstavce 1 tohoto článku, veškeré závažné incidenty úřadu pro AI. Ustanovení čl. 73 odst. 2 až 9 se použijí obdobně. Úřad pro AI neprodleně předá příslušné informace orgánu dozoru nad trhem členského státu, na jehož území se poskytovatel nebo jeho právní zástupce nachází.
1b. Orgány zapojené do uplatňování tohoto nařízení aktivně spolupracují s úřadem pro AI a poskytují mu nezbytnou pomoc při výkonu jeho pravomocí, mimo jiné, pokud je třeba, v souvislosti s kontrolami či jinými donucovacími opatřeními uskutečňovanými na území členského státu. Za tímto účelem mají tyto orgány pravomoci stanovené tímto nařízením a nařízením (EU) 2019/1020, a je-li to relevantní a omezeně na to, co je nezbytné k plnění jejich úkolů podle tohoto odstavce, v souladu s platnými vnitrostátními postupy.
1c. Při přijímání vyšetřovacích nebo donucovacích opatření na území členského státu, která zahrnují přístup k datům nebo systému AI orgánu veřejné moci, je úřadu pro AI nápomocen příslušný orgán dozoru nad trhem.
1d. Před přijetím rozhodnutí, které by mělo za následek zákaz nebo omezení dodávání systému AI na trh daného členského státu nebo jeho uvádění do provozu, nebo rozhodnutí o stažení systému AI z tohoto trhu nebo z oběhu, oznámí úřad pro AI svůj záměr přijmout takové rozhodnutí bez zbytečného odkladu orgánu dozoru nad trhem příslušnému pro daný trh. Úřad pro AI vede ve vhodných případech konzultace s orgány zapojenými do uplatňování tohoto nařízení o veškerých záležitostech týkající se uplatňování a prosazování tohoto nařízení.
1e. Úřad pro AI je odpovědný za posuzování shody a testování systémů AI uvedených v odstavci 1 tohoto článku, které jsou klasifikovány jako vysoce rizikové a na něž se vztahuje posuzování shody třetí stranou podle článku 43, a to před uvedením těchto systémů AI na trh nebo do provozu. Tímto testováním a posuzováním se ověřuje, zda systémy splňují příslušné požadavky tohoto nařízení a zda mohou být uvedeny na trh nebo do provozu v Unii v souladu s tímto nařízením. Komise provedením tohoto testování nebo posuzování pověří oznámené subjekty jmenované v souladu s tímto nařízením, přičemž v takovém případě jedná oznámený subjekt jménem Komise. Pokud oznámený subjekt, jejž Komise pověřila úkoly podle tohoto odstavce, dané úkoly neplní odpovídajícím způsobem, může Komise pověření s okamžitým účinkem zrušit.
Poplatky za činnosti spojené s testováním a posuzováním hradí poskytovatel vysoce rizikového systému AI, který požádal Komisi o posouzení shody třetí stranou. Náklady spojené se službami, jimiž Komise pověří oznámené subjekty v souladu s tímto článkem, hradí poskytovatel přímo oznámenému subjektu.
2. Pokud mají příslušné orgány dozoru nad trhem dostatečný důvod považovat obecné systémy AI, které mohou provozovatelé přímo používat alespoň k jednomu účelu, jenž je podle tohoto nařízení klasifikován jako vysoce rizikový, za nevyhovující požadavkům stanoveným v tomto nařízení, spolupracují s úřadem pro AI na provádění hodnocení souladu a informují o této skutečnosti radu a další orgány dozoru nad trhem.
2a. Pokud má orgán dozoru nad trhem opodstatněné a dostatečné důvody k podezření, že poskytovatel nebo zavádějící subjekt systému AI uvedeného v odstavci 1 tohoto článku porušil toto nařízení, může prostřednictvím příslušného jednotného kontaktního místa určeného v souladu s čl. 70 odst. 2 požádat úřad pro AI, aby záležitost posoudil s cílem přijmout nezbytná opatření v oblasti dohledu a prosazování k zajištění rychlého souladu s tímto nařízením. Tato žádost musí být řádně odůvodněna a obsahovat alespoň:
a) |
jméno nebo název dotyčného poskytovatele nebo zavádějícího subjektu; |
b) |
popis relevantních skutečností, ustanovení tohoto nařízení, která byla údajně porušena, a veškeré opodstatněné a dostatečné důvody pro podezření z porušení předpisů, případně včetně popisu negativních účinků údajného porušení předpisů; |
c) |
orgán dozoru nad trhem, který žádost podává. |
Úřad pro AI žádost v nejvyšší možné míře zohlední a orgán dozoru nad trhem aktivně spolupracuje a poskytuje úřadu pro AI při výkonu jeho pravomocí v souladu s odstavcem 1a nezbytnou pomoc.
Úřad pro AI bez zbytečného odkladu a v každém případě nejpozději do čtyř měsíců od obdržení žádosti informuje jednotné kontaktní místo o svém záměru uplatnit své pravomoci v souladu s článkem 75a nebo o důvodech pro jejich neuplatnění. Pokud se úřad pro AI rozhodne uplatnit své pravomoci v souladu s článkem 75a, pravidelně informuje toto jednotné kontaktní místo o zásadním vývoji daného řízení a o jeho výsledku, aniž by předal jakékoli důvěrné informace.
3. Pokud orgán dozoru nad trhem není schopen dokončit šetření vysoce rizikového systému AI z důvodu nemožnosti přístupu k určitým informacím souvisejícím s obecným modelem AI, přestože na získání těchto informací vynaložil veškeré náležité úsilí, může podat odůvodněnou žádost úřadu pro AI, jenž přístup k těmto informacím vynutí. V takovém případě úřad pro AI poskytne dožadujícímu orgánu bezodkladně, nejpozději však do 30 dnů, veškeré informace, které považuje pro zjištění nesouladu vysoce rizikového systému AI za relevantní. Orgány dozoru nad trhem zachovají důvěrnost informací získaných v souladu s článkem 78 tohoto nařízení. Postup stanovený v kapitole VI nařízení (EU) 2019/1020 se použije obdobně.