Aufzeichnungspflichten
Deutsch
(1) Die Technik der Hochrisiko-KI-Systeme muss die automatische Aufzeichnung von Ereignissen (im Folgenden „Protokollierung“) während des Lebenszyklus des Systems ermöglichen.
(2) Zur Gewährleistung, dass das Funktionieren des Hochrisiko-KI-Systems in einem der Zweckbestimmung des Systems angemessenen Maße rückverfolgbar ist, ermöglichen die Protokollierungsfunktionen die Aufzeichnung von Ereignissen, die für Folgendes relevant sind:
a) |
die Ermittlung von Situationen, die dazu führen können, dass das Hochrisiko-KI-System ein Risiko im Sinne des Artikels 79 Absatz 1 birgt oder dass es zu einer wesentlichen Änderung kommt, |
b) |
die Erleichterung der Beobachtung nach dem Inverkehrbringen gemäß Artikel 72 und |
c) |
die Überwachung des Betriebs der Hochrisiko-KI-Systeme gemäß Artikel 26 Absatz 5. |
(3) Die Protokollierungsfunktionen der in Anhang III Nummer 1 Buchstabe a genannten Hochrisiko-KI-Systeme müssen zumindest Folgendes umfassen:
a) |
Aufzeichnung jedes Zeitraums der Verwendung des Systems (Datum und Uhrzeit des Beginns und des Endes jeder Verwendung); |
b) |
die Referenzdatenbank, mit der das System die Eingabedaten abgleicht; |
c) |
die Eingabedaten, mit denen die Abfrage zu einer Übereinstimmung geführt hat; |
d) |
die Identität der gemäß Artikel 14 Absatz 5 an der Überprüfung der Ergebnisse beteiligten natürlichen Personen. |
Français
1. Les systèmes d’IA à haut risque permettent, techniquement, l’enregistrement automatique des événements (journaux) tout au long de la durée de vie du système.
2. Afin de garantir un degré de traçabilité du fonctionnement d’un système d’IA qui soit adapté à la destination du système, les fonctionnalités de journalisation permettent l’enregistrement des événements pertinents pour:
a) |
repérer les situations susceptibles d’avoir pour effet que le système d’IA à haut risque présente un risque au sens de l’article 79, paragraphe 1, ou d’entraîner une modification substantielle; |
b) |
faciliter la surveillance après commercialisation visée à l’article 72; et |
c) |
surveiller le fonctionnement du système d’IA à haut risque comme prévu à l’article 26, paragraphe 5. |
3. Pour les systèmes d’IA à haut risque visés à l’annexe III, point 1 a), les fonctionnalités de journalisation fournissent, au minimum:
a) |
l’enregistrement de la période de chaque utilisation du système (date et heure de début et de fin pour chaque utilisation); |
b) |
la base de données de référence utilisée par le système pour vérifier les données d’entrée; |
c) |
les données d’entrée pour lesquelles la recherche a abouti à une correspondance; |
d) |
l’identification des personnes physiques participant à la vérification des résultats, visées à l’article 14, paragraphe 5. |