Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme

(1)   Anbieter müssen ein System zur Beobachtung nach dem Inverkehrbringen, das im Verhältnis zur Art der KI-Technik und zu den Risiken des Hochrisiko-KI-Systems steht, einrichten und dokumentieren.

(2)   Mit dem System zur Beobachtung nach dem Inverkehrbringen müssen sich die einschlägigen Daten zur Leistung der Hochrisiko-KI-Systeme, die von den Anbietern oder den Betreibern bereitgestellt oder aus anderen Quellen erhoben werden können, über ihre gesamte Lebensdauer hinweg aktiv und systematisch erheben, dokumentieren und analysieren lassen, und der Anbieter muss damit die fortdauernde Einhaltung der in Kapitel III Abschnitt 2 genannten Anforderungen an die KI-Systeme bewerten können. Gegebenenfalls umfasst die Beobachtung nach dem Inverkehrbringen eine Analyse der Interaktion mit anderen KI-Systemen. Diese Pflicht gilt nicht für sensible operative Daten von Betreibern, die Strafverfolgungsbehörden sind.

(3)   Das System zur Beobachtung nach dem Inverkehrbringen muss auf einem Plan für die Beobachtung nach dem Inverkehrbringen beruhen. Der Plan für die Beobachtung nach dem Inverkehrbringen ist Teil der in Anhang IV genannten technischen Dokumentation. Die Kommission erlässt einen Durchführungsrechtsakt, in dem sie detaillierte Bestimmungen für die Erstellung eines Musters des Plans für die Beobachtung nach dem Inverkehrbringen sowie die Liste der in den Plan aufzunehmenden Elemente bis zum 2. Februar 2026 detailliert festlegt. Dieser Durchführungsrechtsakt wird gemäß dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen.

(4)   Bei Hochrisiko-KI-Systemen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, und für die auf der Grundlage dieser Rechtvorschriften bereits ein System zur Beobachtung nach dem Inverkehrbringen sowie ein entsprechender Plan festgelegt wurden, haben die Anbieter zur Gewährleistung der Kohärenz, zur Vermeidung von Doppelarbeit und zur Minimierung zusätzlicher Belastungen die Möglichkeit, unter Verwendung des Musters nach Absatz 3, gegebenenfalls die in den Absätzen 1, 2 und 3 genannten erforderlichen Elemente in die im Rahmen dieser Vorschriften bereits vorhandenen Systeme und Pläne zu integrieren, sofern ein gleichwertiges Schutzniveau erreicht wird.

Unterabsatz 1 dieses Absatzes gilt auch für in Anhang III Nummer 5 genannte Hochrisiko-KI-Systeme, die von Finanzinstituten in Verkehr gebracht oder in Betrieb genommen wurden, die bezüglich ihrer internen Unternehmensführung, Regelungen oder Verfahren Anforderungen gemäß den Rechtsvorschriften der Union über Finanzdienstleistungen unterliegen.

1.   Poskytovatelia zavedú a zdokumentujú systém monitorovania po uvedení na trh spôsobom, ktorý je primeraný povahe technológií AI a rizikám vysokorizikového systému AI.

2.   Systémom monitorovania po uvedení na trh sa aktívne a systematicky zbierajú, dokumentujú a analyzujú relevantné údaje o výkonnosti vysokorizikových systémov AI počas celej ich životnosti, ktoré môžu poskytovať nasadzujúce subjekty alebo ktoré možno zbierať prostredníctvom iných zdrojov a ktoré umožňujú poskytovateľovi hodnotiť nepretržitý súlad systémov AI s požiadavkami stanovenými v kapitole III oddiele 2. V prípade potreby monitorovanie po uvedení na trh zahŕňa analýzu interakcie s inými systémami AI. Táto povinnosť sa nevzťahuje na citlivé operačné údaje nasadzujúcich subjektov, ktoré sú orgánmi presadzovania práva.

3.   Systém monitorovania po uvedení na trh sa zakladá na pláne monitorovania po uvedení na trh. Plán monitorovania po uvedení na trh tvorí súčasť technickej dokumentácie uvedenej v prílohe IV. Komisia prijme do 2. februára 2026 vykonávací akt, v ktorom sa uvedú podrobné ustanovenia pre zavedenie vzoru plánu monitorovania po uvedení na trh a zoznam prvkov, ktoré sa majú do plánu zahrnúť. Uvedený vykonávací akt sa prijme v súlade s postupom preskúmania uvedeným v článku 98 ods. 2.

4.   V prípade vysokorizikových systémov AI, na ktoré sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe I oddiele A, ak je systém a plán monitorovania po uvedení na trh už zavedený podľa uvedených právnych predpisov, s cieľom zabezpečiť konzistentnosť, zabrániť duplicitám a minimalizovať dodatočné zaťaženie, majú poskytovatelia možnosť podľa potreby začleniť potrebné prvky opísané v odsekoch 1, 2 a 3 použitím vzoru uvedeného v odseku 3 do už existujúcich systémov a plánov podľa uvedených právnych predpisov za predpokladu, že sa tým dosiahne rovnocenná úroveň ochrany.

Prvý pododsek tohto odseku sa uplatňuje aj na vysokorizikové systémy AI uvedené v prílohe III bode 5, ktoré uvádzajú na trh alebo do prevádzky finančné inštitúcie, na ktoré sa vzťahujú požiadavky týkajúce sa ich vnútornej správy a riadenia, dojednaní alebo postupov podľa práva Únie v oblasti finančných služieb.