Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation
Deutsch
1. Einleitung
Die Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation entspricht dem Konformitätsbewertungsverfahren gemäß den Nummern 2 bis 5.
2. Überblick
Das genehmigte Qualitätsmanagementsystem für die Konzeption, die Entwicklung und das Testen von KI-Systemen nach Artikel 17 wird gemäß Nummer 3 geprüft und unterliegt der Überwachung gemäß Nummer 5. Die technische Dokumentation des KI-Systems wird gemäß Nummer 4 geprüft.
3. Qualitätsmanagementsystem
|
3.1. |
Der Antrag des Anbieters muss Folgendes enthalten:
|
|
3.2. |
Das Qualitätssicherungssystem wird von der notifizierten Stelle bewertet, um festzustellen, ob es die in Artikel 17 genannten Anforderungen erfüllt.
Die Entscheidung wird dem Anbieter oder dessen Bevollmächtigten mitgeteilt. Die Mitteilung enthält die Ergebnisse der Bewertung des Qualitätsmanagementsystems und die begründete Bewertungsentscheidung. |
|
3.3. |
Das genehmigte Qualitätsmanagementsystem wird vom Anbieter weiter angewandt und gepflegt, damit es stets angemessen und effizient funktioniert. |
|
3.4. |
Der Anbieter unterrichtet die notifizierte Stelle über jede beabsichtigte Änderung des genehmigten Qualitätsmanagementsystems oder der Liste der unter dieses System fallenden KI-Systeme.
Die notifizierte Stelle prüft die vorgeschlagenen Änderungen und entscheidet, ob das geänderte Qualitätsmanagementsystem die unter Nummer 3.2 genannten Anforderungen weiterhin erfüllt oder ob eine erneute Bewertung erforderlich ist. Die notifizierte Stelle teilt dem Anbieter ihre Entscheidung mit. Die Mitteilung enthält die Ergebnisse der Prüfung der Änderungen und die begründete Bewertungsentscheidung. |
4. Kontrolle der technischen Dokumentation
|
4.1. |
Zusätzlich zu dem unter Nummer 3 genannten Antrag stellt der Anbieter bei der notifizierten Stelle seiner Wahl einen Antrag auf Bewertung der technischen Dokumentation für das KI-System, das er in Verkehr zu bringen oder in Betrieb zu nehmen beabsichtigt und das unter das unter Nummer 3 genannte Qualitätsmanagementsystem fällt. |
|
4.2. |
Der Antrag enthält Folgendes:
|
|
4.3. |
Die technische Dokumentation wird von der notifizierten Stelle geprüft. Sofern es relevant ist und beschränkt auf das zur Wahrnehmung ihrer Aufgaben erforderliche Maß erhält die notifizierte Stelle uneingeschränkten Zugang zu den verwendeten Trainings-, Validierungs- und Testdatensätzen, gegebenenfalls und unter Einhaltung von Sicherheitsvorkehrungen auch über API oder sonstige einschlägige technische Mittel und Instrumente, die den Fernzugriff ermöglichen. |
|
4.4. |
Bei der Prüfung der technischen Dokumentation kann die notifizierte Stelle vom Anbieter weitere Nachweise oder die Durchführung weiterer Tests verlangen, um eine ordnungsgemäße Bewertung der Konformität des KI-Systems mit den in Kapitel III Abschnitt 2 festgelegten Anforderungen zu ermöglichen. Ist die notifizierte Stelle mit den vom Anbieter durchgeführten Tests nicht zufrieden, so führt sie gegebenenfalls unmittelbar selbst angemessene Tests durch. |
|
4.5. |
Sofern es für die Bewertung der Konformität des Hochrisiko-KI-Systems mit den in Kapitel III Abschnitt 2 festgelegten Anforderungen notwendig ist, und nachdem alle anderen sinnvollen Möglichkeiten zur Überprüfung der Konformität ausgeschöpft sind oder sich als unzureichend erwiesen haben, wird der notifizierten Stelle auf begründeten Antrag Zugang zu den Trainingsmodellen und trainierten Modellen des KI-Systems, einschließlich seiner relevanten Parameter, gewährt. Ein solcher Zugang unterliegt dem bestehenden EU-Recht zum Schutz von geistigem Eigentum und Geschäftsgeheimnissen. |
|
4.6. |
Die Entscheidung der notifizierten Stelle wird dem Anbieter oder dessen Bevollmächtigten mitgeteilt. Die Mitteilung enthält die Ergebnisse der Bewertung der technischen Dokumentation und die begründete Bewertungsentscheidung.
Erfüllt das KI-System die Anforderungen in Kapitel III Abschnitt 2, so stellt die notifizierte Stelle eine Unionsbescheinigung über die Bewertung der technischen Dokumentation aus. Diese Bescheinigung enthält den Namen und die Anschrift des Anbieters, die Ergebnisse der Prüfung, etwaige Bedingungen für ihre Gültigkeit und die für die Identifizierung des KI-Systems notwendigen Daten. Die Bescheinigung und ihre Anhänge enthalten alle zweckdienlichen Informationen für die Beurteilung der Konformität des KI-Systems und gegebenenfalls für die Kontrolle des KI-Systems während seiner Verwendung. Erfüllt das KI-System die in Kapitel III Abschnitt 2 festgelegten Anforderungen nicht, so verweigert die notifizierte Stelle die Ausstellung einer Unionsbescheinigung über die Bewertung der technischen Dokumentation und informiert den Antragsteller darüber, wobei sie ihre Verweigerung ausführlich begründet. Erfüllt das KI-System nicht die Anforderung in Bezug auf die verwendeten Trainingsdaten, so muss das KI-System vor der Beantragung einer neuen Konformitätsbewertung erneut trainiert werden. In diesem Fall enthält die begründete Bewertungsentscheidung der notifizierten Stelle, mit der die Ausstellung der Unionsbescheinigung über die Bewertung der technischen Dokumentation verweigert wird, besondere Erläuterungen zu den zum Trainieren des KI-Systems verwendeten Qualitätsdaten und insbesondere zu den Gründen für die Nichtkonformität. |
|
4.7. |
Jede Änderung des KI-Systems, die sich auf die Konformität des KI-Systems mit den Anforderungen oder auf seine Zweckbestimmung auswirken könnte, bedarf der Bewertung durch die notifizierte Stelle, die die Unionsbescheinigung über die Bewertung der technischen Dokumentation ausgestellt hat. Der Anbieter informiert die notifizierte Stelle über seine Absicht, eine der oben genannten Änderungen vorzunehmen, oder wenn er auf andere Weise Kenntnis vom Eintreten solcher Änderungen erhält. Die notifizierte Stelle bewertet die beabsichtigten Änderungen und entscheidet, ob diese Änderungen eine neue Konformitätsbewertung gemäß Artikel 43 Absatz 4 erforderlich machen oder ob ein Nachtrag zu der Unionsbescheinigung über die Bewertung der technischen Dokumentation ausgestellt werden könnte. In letzterem Fall bewertet die notifizierte Stelle die Änderungen, teilt dem Anbieter ihre Entscheidung mit und stellt ihm, sofern die Änderungen genehmigt wurden, einen Nachtrag zu der Unionsbescheinigung über die Bewertung der technischen Dokumentation aus. |
5. Überwachung des genehmigten Qualitätsmanagementsystems
|
5.1. |
Mit der unter Nummer 3 genannten Überwachung durch die notifizierte Stelle soll sichergestellt werden, dass der Anbieter sich ordnungsgemäß an die Anforderungen und Bedingungen des genehmigten Qualitätsmanagementsystems hält. |
|
5.2. |
Zu Bewertungszwecken gewährt der Anbieter der notifizierten Stelle Zugang zu den Räumlichkeiten, in denen die Konzeption, die Entwicklung und das Testen der KI-Systeme stattfindet. Außerdem übermittelt der Anbieter der notifizierten Stelle alle erforderlichen Informationen. |
|
5.3. |
Die notifizierte Stelle führt regelmäßig Audits durch, um sicherzustellen, dass der Anbieter das Qualitätsmanagementsystem pflegt und anwendet, und übermittelt ihm einen Prüfbericht. Im Rahmen dieser Audits kann die notifizierte Stelle die KI-Systeme, für die eine Unionsbescheinigung über die Bewertung der technischen Dokumentation ausgestellt wurde, zusätzlichen Tests unterziehen. |
Čeština
1. Úvod
Shodou založenou na posouzení systému řízení kvality a na posouzení technické dokumentace se rozumí postup posuzování shody založený na bodech 2 až 5.
2. Přehled
Schválený systém řízení kvality pro návrh, vývoj a testování systémů AI podle článku 17 se zkoumá v souladu s bodem 3 a podléhá dozoru stanovenému v bodě 5. Technická dokumentace systému AI se přezkoumá v souladu s bodem 4.
3. Systém řízení kvality
|
3.1 |
Žádost poskytovatele obsahuje:
|
|
3.2 |
Systém řízení kvality posuzuje oznámený subjekt, který určí, zda systém vyhovuje požadavkům podle článku 17.
Rozhodnutí se oznámí poskytovateli nebo jeho zplnomocněnému zástupci. Oznámení obsahuje závěry posouzení systému řízení kvality a odůvodněné rozhodnutí o posouzení. |
|
3.3 |
Schválený systém řízení kvality je poskytovatelem i nadále uplatňován a udržován tak, aby zůstal v přiměřeném a účinném stavu. |
|
3.4 |
Poskytovatel informuje oznámený subjekt o každé zamýšlené změně schváleného systému řízení kvality nebo seznamu systémů AI, na něž se tento systém řízení kvality vztahuje.
Oznámený subjekt navrhované změny přezkoumá a rozhodne, zda změněný systém řízení kvality i nadále splňuje požadavky podle bodu 3.2, nebo zda je nutné nové posouzení. Oznámený subjekt oznámí své rozhodnutí poskytovateli. Oznámení obsahuje závěry přezkoumání změn a odůvodněné rozhodnutí o posouzení. |
4. Kontrola technické dokumentace
|
4.1 |
Kromě žádosti uvedené v bodě 3 poskytovatel podá oznámenému subjektu dle vlastní volby žádost o posouzení technické dokumentace týkající se systému AI, jejž poskytovatel zamýšlí uvést na trh nebo do provozu a na nějž se vztahuje systém řízení kvality uvedený v bodě 3. |
|
4.2 |
Žádost mimo jiné obsahuje:
|
|
4.3 |
Oznámený subjekt technickou dokumentaci přezkoumá. V relevantních případech a v rozsahu omezeném na to, co je nezbytné pro plnění jeho úkolů, je oznámenému subjektu udělen plný přístup k používaným souborům trénovacích, validačních a testovacích dat, a to v příslušných případech a s výhradou bezpečnostních záruk i prostřednictvím aplikačních programovacích rozhraní (API) nebo jiných relevantních technických prostředků a nástrojů umožňujících dálkový přístup. |
|
4.4 |
Při přezkoumávání technické dokumentace může oznámený subjekt požadovat, aby poskytovatel dodal další důkazy nebo provedl další testy s cílem umožnit náležité posouzení shody systému AI s požadavky stanovenými v kapitole III oddílu 2. Není-li oznámený subjekt s testy provedenými poskytovatelem spokojen, provede odpovídající testy případně přímo sám oznámený subjekt. |
|
4.5 |
Je-li to nezbytné k posouzení shody vysoce rizikového systému AI s požadavky stanovenými v kapitole III oddílu 2, je poté, co byly vyčerpány a ukázaly se jako nedostatečné všechny ostatní přiměřené způsoby ověřování shody, a na základě odůvodněné žádosti poskytnut oznámenému subjektu přístup také k tréninkovým a trénovaným modelům systému AI, včetně jeho příslušných parametrů. Tento přístup podléhá stávajícímu právu Unie v oblasti duševního vlastnictví a obchodních tajemství. |
|
4.6 |
Rozhodnutí oznámeného subjektu se oznámí poskytovateli nebo jeho zplnomocněnému zástupci. Oznámení obsahuje závěry posouzení technické dokumentace a odůvodněné rozhodnutí o posouzení.
Pokud je systém AI ve shodě s požadavky stanovenými v kapitole III oddílu 2, oznámený subjekt vydá certifikát Unie posouzení technické dokumentace. Certifikát obsahuje jméno nebo název a adresu poskytovatele, závěry přezkoumání, podmínky platnosti certifikátu (existují-li) a údaje nezbytné k identifikaci systému AI. Certifikát a jeho přílohy obsahuje všechny příslušné informace, jež umožňují vyhodnotit shodu systému AI a v relevantních případech zkontrolovat systém AI při používání. Pokud systém AI není ve shodě s požadavky stanovenými v kapitole III oddílu 2, oznámený subjekt odmítne certifikát Unie posouzení technické dokumentace vydat a informuje o této skutečnosti žadatele s uvedením podrobných důvodů svého odmítnutí. Pokud systém AI nesplňuje požadavek týkající se dat použitých za účelem jeho trénování, před podáním žádosti o nové posouzení shody bude třeba opětovné trénování. V tomto případě odůvodněné rozhodnutí o posouzení, ve kterém oznámený subjekt odmítl vydat certifikát Unie posouzení technické dokumentace, obsahuje konkrétní vyjádření ke kvalitě dat použitých za účelem trénování systému AI, a zejména o důvodech neshody. |
|
4.7 |
Veškeré změny systému AI, jež by mohly ovlivnit shodu systému AI s požadavky nebo se zamýšleným účelem jeho použití, posoudí oznámený subjekt, který vydal certifikát Unie posouzení technické dokumentace. Poskytovatel tento oznámený subjekt informuje o svém záměru zavést jakékoli z výše uvedených změn nebo o skutečnosti, že se o výskytu těchto změn dozvěděl jiným způsobem. Oznámený subjekt zamýšlené změny posoudí a rozhodne, zda uvedené změny vyžadují nové posouzení shody v souladu s čl. 43 odst. 4, nebo zda je lze vyřešit dodatkem k certifikátu Unie posouzení technické dokumentace. Ve druhém z výše uvedených případů oznámený subjekt dané změny posoudí, informuje poskytovatele o svém rozhodnutí a v případě schválení změn mu vydá dodatek k certifikátu Unie posouzení technické dokumentace. |
5. Dozor nad schváleným systémem řízení kvality
|
5.1 |
Účelem dozoru prováděného oznámeným subjektem uvedeným v bodě 3 je ujistit se, že poskytovatel řádně splňuje podmínky schváleného systému řízení kvality. |
|
5.2 |
Pro účely posouzení poskytovatel oznámenému subjektu umožní přístup do prostor, kde se uskutečňuje návrh, vývoj a testování systémů AI. Poskytovatel dále s oznámeným subjektem sdílí veškeré potřebné informace. |
|
5.3 |
Oznámený subjekt pravidelně provádí audity, aby se ujistil, že poskytovatel systém řízení jakosti udržuje a používá, a předkládá poskytovateli zprávu o auditu. V souvislosti s těmito audity může oznámený subjekt provést další testy systémů AI, pro něž byl vydán certifikát Unie posouzení technické dokumentace. |