Marktüberwachung und Kontrolle von KI-Systemen sowie Amtshilfe
Deutsch
(1) Das Büro für Künstliche Intelligenz ist ausschließlich für die Beaufsichtigung und Durchsetzung der Pflichten aus dieser Verordnung in Bezug auf die folgenden KI-Systeme zuständig:
a) |
KI-Systeme auf der Grundlage von KI-Modellen mit allgemeinem Verwendungszweck, bei denen das Modell und das System von demselben Anbieter oder von Anbietern entwickelt werden, die Teil desselben Unternehmens wie dieser Anbieter sind, mit Ausnahme von:
| ||||||||
b) |
KI-Systemen, die eine gemäß der Verordnung (EU) 2022/2065 benannte sehr große Online-Plattform oder sehr große Online-Suchmaschine bilden oder die darin integriert sind. |
Die in Unterabsatz 1 genannte ausschließliche Zuständigkeit gilt für die Anbieter dieser Systeme. Sie gilt für die Betreiber dieser Systeme nur dann, wenn sie auch Anbieter dieser Systeme sind oder Teil desselben Unternehmens wie der Anbieter sind.
(1a) Abweichend von Artikel 73 melden Anbieter von Hochrisiko-KI-Systemen, die der Zuständigkeit des Büros für Künstliche Intelligenz gemäß Absatz 1 dieses Artikels unterliegen, dem Büro für Künstliche Intelligenz alle schwerwiegenden Vorfälle. Die Absätze 2 bis 9 des Artikels 73 gelten sinngemäß. Das Büro für Künstliche Intelligenz übermittelt die einschlägigen Informationen unverzüglich der Marktüberwachungsbehörde des Mitgliedstaats, in dessen Hoheitsgebiet sich der Anbieter oder sein gesetzlicher Vertreter befindet.
(1b) Die an der Anwendung dieser Verordnung beteiligten Behörden arbeiten aktiv mit dem Büro für Künstliche Intelligenz zusammen und leistet ihm die erforderliche Unterstützung für die Ausübung seiner Befugnisse, unter anderem erforderlichenfalls im Zusammenhang mit Inspektionen oder anderen Durchsetzungsmaßnahmen im Hoheitsgebiet eines Mitgliedstaats. Zu diesem Zweck verfügen diese Behörden über die in dieser Verordnung und der Verordnung (EU) 2019/1020 niedergelegten Befugnisse und soweit zutreffend und auf das zur Erfüllung ihrer Aufgaben nach diesem Absatz erforderliche Maß beschränkt, im Einklang mit den geltenden nationalen Verfahren.
(1c) Werden im Hoheitsgebiet eines Mitgliedstaats Ermittlungs- oder Durchsetzungsmaßnahmen ergriffen, die den Zugang zu Daten oder KI-Systemen einer Behörde umfassen, so wird das Büro für Künstliche Intelligenz von der einschlägigen Marktüberwachungsbehörde unterstützt.
(1d) Bevor das Büro für Künstliche Intelligenz eine Entscheidung trifft, die ein Verbot oder eine Beschränkung der Bereitstellung oder Inbetriebnahme des KI-Systems auf einem nationalen Markt zur Folge hätte, oder bevor es eine Entscheidung dahin gehend trifft, das KI-System von einem solchen Markt zu nehmen oder zurückzurufen, unterrichtet es die für diesen Markt zuständige Marktüberwachungsbehörde unverzüglich über seine Absicht, eine solche Entscheidung zu treffen. Das Büro für Künstliche Intelligenz konsultiert gegebenenfalls die an der Anwendung dieser Verordnung beteiligten Behörden zu allen Fragen im Zusammenhang mit der Anwendung und Durchsetzung dieser Verordnung.
(1e) Das Büro für Künstliche Intelligenz ist für Konformitätsbewertungen und Tests der in Absatz 1 dieses Artikels genannten KI-Systeme zuständig, die als hochriskant eingestuft sind und einer Konformitätsbewertung durch Dritte gemäß Artikel 43 unterliegen, wobei diese Konformitätsbewertung durchzuführen ist, bevor solche KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden. Bei diesen Tests und Bewertungen wird überprüft, ob die Systeme den einschlägigen Anforderungen dieser Verordnung entsprechen und gemäß dieser Verordnung in der Union in Verkehr gebracht bzw. in Betrieb genommen werden dürfen. Die Kommission betraut die gemäß dieser Verordnung benannten notifizierten Stellen mit der Durchführung dieser Tests oder Bewertungen; in diesem Fall handeln diese notifizierten Stellen im Namen der Kommission. Kommt eine notifizierte Stelle, der die Kommission Aufgaben gemäß diesem Absatz übertragen hat, diesen Aufgaben nicht angemessen nach, so kann die Kommission die Übertragung mit sofortiger Wirkung widerrufen.
Die Gebühren für Test- und Bewertungstätigkeiten werden von dem Anbieter eines Hochrisiko-KI-Systems erhoben, der bei der Kommission eine Konformitätsbewertung durch Dritte beantragt hat. Der Anbieter zahlt die Kosten der Dienstleistungen, mit denen die Kommission die notifizierten Stellen gemäß diesem Artikel betraut hat, direkt an die notifizierte Stelle.
(2) Haben die zuständigen Marktüberwachungsbehörden hinreichenden Grund für die Auffassung, dass KI-Systeme mit allgemeinem Verwendungszweck, die von Betreibern direkt für mindestens einen Zweck, der gemäß dieser Verordnung als hochriskant eingestuft ist, verwendet werden können, nicht mit den in dieser Verordnung festgelegten Anforderungen konform sind, so arbeiten sie bei der Durchführung von Konformitätsbewertungen mit dem Büro für Künstliche Intelligenz zusammen und unterrichten das KI-Gremium und andere Marktüberwachungsbehörden entsprechend.
(2a) Hat eine Marktüberwachungsbehörde fundierte und hinreichende Gründe für den Verdacht, dass ein Anbieter oder Betreiber eines in Absatz 1 dieses Artikels genannten KI-Systems gegen diese Verordnung verstoßen hat, so kann sie das Büro für Künstliche Intelligenz über die gemäß Artikel 70 Absatz 2 benannte zuständige zentrale Anlaufstelle ersuchen, die Angelegenheit zu prüfen, damit die erforderlichen Aufsichts- und Durchsetzungsmaßnahmen ergriffen werden können, um die unverzügliche Einhaltung dieser Verordnung sicherzustellen. Entsprechende Ersuchen sind hinreichend zu begründen und umfassen mindestens Folgendes:
a) |
den Namen des betreffenden Anbieters oder Betreibers; |
b) |
eine Beschreibung des relevanten Sachverhalts, der Bestimmungen dieser Verordnung, gegen die mutmaßlich verstoßen wurde, und aller fundierten und hinreichenden Gründe für den Verdacht eines Verstoßes, gegebenenfalls einschließlich einer Beschreibung der negativen Auswirkungen des mutmaßlichen Verstoßes; |
c) |
die ersuchende Marktüberwachungsbehörde. |
Das Büro für Künstliche Intelligenz trägt dem Ersuchen mit größter Sorgfalt Rechnung, und die Marktüberwachungsbehörde kooperiert aktiv und leistet dem Büro für Künstliche Intelligenz die erforderliche Unterstützung für die Ausübung seiner Befugnisse gemäß Absatz 1a.
Das Büro für Künstliche Intelligenz unterrichtet die zentrale Anlaufstelle unverzüglich, spätestens jedoch vier Monate nach Eingang des Ersuchens, über seine Absicht, seine Befugnisse gemäß Artikel 75a auszuüben, oder über die Gründe dafür, dass es seine Befugnisse nicht ausübt. Beschließt das Büro für Künstliche Intelligenz, seine Befugnisse gemäß Artikel 75a auszuüben, so unterrichtet es die zentrale Anlaufstelle regelmäßig über wichtige Entwicklungen in dem Verfahren und das Ergebnis dieses Verfahrens, ohne vertrauliche Informationen offenzulegen.
(3) Ist eine Marktüberwachungsbehörde wegen der Unzugänglichkeit bestimmter Informationen im Zusammenhang mit dem KI-Modell mit allgemeinem Verwendungszweck nicht in der Lage, ihre Ermittlungen zu dem Hochrisiko-KI-System abzuschließen, obwohl sie alle angemessenen Anstrengungen unternommen hat, diese Informationen zu erhalten, kann sie ein begründetes Ersuchen an das Büro für Künstliche Intelligenz richten, durch das der Zugang zu den Informationen durchgesetzt werden kann. In diesem Fall übermittelt das Büro für Künstliche Intelligenz der ersuchenden Behörde unverzüglich, spätestens aber innerhalb von 30 Tagen, alle Informationen, die das Büro für Künstliche Intelligenz für die Feststellung, ob ein Hochrisiko-KI-System nicht konform ist, für erforderlich erachtet. Die Marktüberwachungsbehörden gewährleisten gemäß Artikel 78 der vorliegenden Verordnung die Vertraulichkeit der von ihnen erlangten Informationen. Das Verfahren nach Kapitel VI der Verordnung (EU) 2019/1020 gilt entsprechend.
Italiano
1. L'ufficio per l'IA ha competenza esclusiva per il controllo e l'esecuzione degli obblighi a norma del presente regolamento in relazione ai sistemi di IA seguenti:
a) |
sistemi di IA basati su modelli di IA per finalità generali qualora il modello e il sistema siano sviluppati dallo stesso fornitore o da fornitori che fanno parte della stessa impresa di tale fornitore, ad eccezione di:
| ||||||||
b) |
sistemi di IA che costituiscono o sono integrati in piattaforme online di dimensioni molto grandi designate o motori di ricerca online di dimensioni molto grandi designati conformemente al regolamento (UE) 2022/2065. |
La competenza esclusiva di cui al primo comma si applica ai fornitori di tali sistemi. Si applica ai deployer di tali sistemi solo se sono anche il fornitore o fanno parte della stessa impresa del fornitore.
1 bis. In deroga all'articolo 73, i fornitori di sistemi di IA ad alto rischio, di competenza dell'ufficio per l'IA a norma del paragrafo 1 del presente articolo, segnalano eventuali incidenti gravi all'ufficio per l'IA. L'articolo 73, paragrafi da 2 a 9, si applica mutatis mutandis. L'ufficio per l'IA trasmette tempestivamente le informazioni pertinenti all'autorità di vigilanza del mercato dello Stato membro nel cui territorio è situato il fornitore o il suo rappresentante legale.
1 ter. Le autorità coinvolte nell'applicazione del presente regolamento cooperano attivamente con l'ufficio per l'IA e gli prestano l'assistenza necessaria per l'esercizio dei suoi poteri, anche, se necessario, in relazione alle ispezioni o ad altre misure di esecuzione poste in essere nel territorio di uno Stato membro. A tal fine, tali autorità dispongono dei poteri previsti dal presente regolamento e dal regolamento (UE) 2019/1020 e, se del caso e nei limiti di quanto necessario per lo svolgimento dei loro compiti a norma del presente paragrafo, conformemente alle procedure nazionali applicabili.
1 quater. Quando adotta misure di indagine o esecuzione nel territorio di uno Stato membro che comportano l'accesso ai dati o al sistema di IA di un'autorità pubblica, l'ufficio per l'IA è assistito dalla pertinente autorità di vigilanza del mercato.
1 quinquies. Prima di adottare una decisione che avrebbe l'effetto di vietare o limitare la messa a disposizione o la messa in servizio del sistema di IA su un mercato nazionale, o una decisione di ritirare o richiamare il sistema di IA da tale mercato, l'ufficio per l'IA notifica, senza indebito ritardo, l'autorità di vigilanza del mercato competente per tale mercato della sua intenzione di adottare una siffatta decisione. L'ufficio per l'IA consulta le autorità coinvolte nell'applicazione del presente regolamento, se del caso, su qualsiasi questione relativa all'applicazione e all'esecuzione del presente regolamento.
1 sexies. L'ufficio per l'IA è responsabile delle valutazioni della conformità e delle prove dei sistemi di IA di cui al paragrafo 1 del presente articolo che sono classificati come ad alto rischio e sottoposti a una valutazione di conformità da parte di terzi a norma dell'articolo 43, prima che tali sistemi di IA siano immessi sul mercato o messi in servizio. Tali prove e valutazioni verificano che i sistemi siano conformi ai pertinenti requisiti del presente regolamento e possano essere immessi sul mercato o messi in servizio nell'Unione in conformità del presente regolamento. La Commissione affida l'esecuzione di tali prove o valutazioni a organismi notificati designati in conformità del presente regolamento, nel qual caso l'organismo notificato agisce per conto della Commissione. Se un organismo notificato cui la Commissione ha delegato compiti a norma del presente paragrafo non li svolge adeguatamente, la Commissione può revocare la delega con effetto immediato.
Le tariffe per le attività di prova e valutazione sono a carico del fornitore del sistema di IA ad alto rischio che ha presentato alla Commissione la domanda di valutazione della conformità da parte di terzi. Il fornitore paga direttamente all'organismo notificato i costi relativi ai servizi affidati dalla Commissione agli organismi notificati in conformità del presente articolo.
2. Qualora abbiano motivi sufficienti per ritenere che i sistemi di IA per finalità generali che possono essere utilizzati direttamente dai deployer per almeno una finalità classificata come ad alto rischio a norma del presente regolamento non siano conformi ai requisiti di cui al presente regolamento, le pertinenti autorità di vigilanza del mercato cooperano con l'ufficio per l'IA per effettuare valutazioni della conformità e informano di conseguenza il consiglio per l'IA e le altre autorità di vigilanza del mercato.
2 bis. Qualora abbia motivi fondati e sufficienti di sospettare che un fornitore o un deployer di un sistema di IA di cui al paragrafo 1 del presente articolo abbia violato il presente regolamento, un'autorità di vigilanza del mercato può chiedere all'ufficio per l'IA, attraverso il pertinente punto di contatto unico designato in conformità dell'articolo 70, paragrafo 2, di valutare la questione al fine di adottare le misure di controllo ed esecuzione necessarie per garantire la tempestiva conformità al presente regolamento. Tale richiesta è debitamente motivata e indica almeno:
a) |
il nome del fornitore o del deployer interessato; |
b) |
una descrizione dei fatti pertinenti, le disposizioni del presente regolamento asseritamente violate ed eventuali motivi fondati e sufficienti per sospettare una violazione, compresa, se del caso, la descrizione degli effetti negativi della presunta violazione; |
c) |
l'autorità di vigilanza del mercato che presenta la richiesta. |
L'ufficio per l'IA tiene nella massima considerazione la richiesta e l'autorità di vigilanza del mercato coopera attivamente e presta all'ufficio per l'IA l'assistenza necessaria per l'esercizio dei suoi poteri conformemente al paragrafo 1 bis.
Senza indebito ritardo e in ogni caso entro quattro mesi dal ricevimento della richiesta, l'ufficio per l'IA comunica al punto di contatto unico l'intenzione di esercitare i propri poteri conformemente all'articolo 75 bis oppure i motivi per cui non intende esercitarli. Qualora decida di esercitare i propri poteri conformemente all'articolo 75 bis, l'ufficio per l'IA informa periodicamente tale punto di contatto unico in merito ai principali sviluppi del procedimento e al suo esito, senza divulgare informazioni riservate.
3. Qualora non sia in grado di concludere la propria indagine sul sistema di IA ad alto rischio perché non può accedere a determinate informazioni relative al modello di IA per finalità generali nonostante abbia compiuto tutti gli sforzi opportuni per ottenere tali informazioni, un'autorità di vigilanza del mercato può presentare una richiesta motivata all'ufficio per l'IA, che garantisce l'accesso a tali informazioni. In tal caso, l'ufficio per l'IA fornisce all'autorità richiedente senza indugio, e in ogni caso entro 30 giorni, tutte le informazioni che esso ritiene pertinenti al fine di stabilire se un sistema di IA ad alto rischio non è conforme. Le autorità di vigilanza del mercato salvaguardano la riservatezza delle informazioni ottenute conformemente all'articolo 78 del presente regolamento. La procedura di cui al capo VI del regolamento (UE) 2019/1020 si applica mutatis mutandis.