Surveillance du marché et contrôle des systèmes d’IA sur le marché de l’Union

1.  Le règlement (UE) 2019/1020 s’applique aux systèmes d’IA relevant du présent règlement. Aux fins du contrôle effectif de l’application du présent règlement:

a)	toute référence à un opérateur économique en vertu du règlement (UE) 2019/1020 s’entend comme incluant tous les opérateurs identifiés à l’article 2, paragraphe 1, du présent règlement;
b)	toute référence à un produit en vertu du règlement (UE) 2019/1020 s’entend comme incluant tous les systèmes d’IA relevant du champ d’application du présent règlement.

2.  Dans le cadre des obligations d’information qui leur incombent en vertu de l’article 34, paragraphe 4, du règlement (UE) 2019/1020, les autorités de surveillance du marché communiquent chaque année à la Commission et aux autorités nationales de la concurrence concernées toute information recueillie dans le cadre des activités de surveillance du marché qui pourrait présenter un intérêt potentiel pour l’application du droit de l’Union relatif aux règles de concurrence. Elles font également rapport chaque année à la Commission sur les recours aux pratiques interdites intervenus au cours de l’année concernée et sur les mesures prises.

3.  Pour les systèmes d’IA à haut risque liés à des produits couverts par la législation d’harmonisation de l’Union dont la liste figure à la section A de l’annexe I, l’autorité de surveillance du marché aux fins du présent règlement est l’autorité responsable des activités de surveillance du marché désignée en vertu de ces actes juridiques.

Par dérogation au premier alinéa, et dans des circonstances appropriées, les États membres peuvent désigner une autre autorité compétente pour faire office d’autorité de surveillance du marché, à condition d’assurer la coordination avec les autorités sectorielles de surveillance du marché compétentes chargées du contrôle de l’application des actes juridiques énumérés à l’annexe I.

4.  Les procédures visées aux articles 79 à 83 du présent règlement ne s’appliquent pas aux systèmes d’IA liés à des produits couverts par la législation d’harmonisation de l’Union dont la liste figure la section A de l’annexe I, lorsque ces actes juridiques prévoient déjà des procédures assurant un niveau de protection équivalent et ayant le même objectif. En pareils cas, ce sont les procédures sectorielles pertinentes qui s’appliquent.

5.  Sans préjudice des pouvoirs conférés aux autorités de surveillance du marché par l’article 14 du règlement (UE) 2019/1020, afin d’assurer le contrôle effectif de l’application du présent règlement, les autorités de surveillance du marché peuvent exercer les pouvoirs visés à l’article 14, paragraphe 4, points d) et j), dudit règlement à distance, le cas échéant.

6.  Pour les systèmes d’IA à haut risque mis sur le marché, mis en service ou utilisés par des établissements financiers régis par la législation de l’Union sur les services financiers, l’autorité de surveillance du marché aux fins du présent règlement est l’autorité nationale responsable de la surveillance financière de ces établissements en vertu de cette législation dans la mesure où la mise sur le marché, la mise en service ou l’utilisation du système d’IA est directement liée à la fourniture de ces services financiers.

7.  Par dérogation au paragraphe 6, dans des circonstances appropriées, et pour autant que la coordination soit assurée, l’État membre peut désigner une autre autorité compétente comme autorité de surveillance du marché aux fins du présent règlement.

Les autorités nationales de surveillance du marché surveillant les établissements de crédit réglementés régis par la directive 2013/36/UE, qui participent au mécanisme de surveillance unique institué par le règlement (UE) no 1024/2013, devraient communiquer sans tarder à la Banque centrale européenne toute information identifiée dans le cadre de leurs activités de surveillance du marché qui pourrait présenter un intérêt potentiel pour les missions de surveillance prudentielle de la Banque centrale européenne définies dans ledit règlement.

8.  Pour les systèmes d’IA à haut risque énumérés à l’annexe III, point 1, du présent règlement, dans la mesure où ils sont utilisés à des fins répressives, de gestion des frontières et de justice et démocratie, et pour les systèmes d’IA à haut risque énumérés à l’annexe III, points 6, 7 et 8, du présent règlement, les États membres désignent comme autorités de surveillance du marché aux fins du présent règlement soit les autorités compétentes en matière de contrôle de la protection des données en vertu du règlement (UE) 2016/679 ou de la directive (UE) 2016/680, soit toute autre autorité désignée en application des mêmes conditions énoncées aux articles 41 à 44 de la directive (UE) 2016/680. Les activités de surveillance du marché ne portent en aucune manière atteinte à l’indépendance des autorités judiciaires ni n’interfèrent d’une autre manière avec leurs activités lorsque ces autorités agissent dans l’exercice de leurs fonctions judiciaires.

9.  Lorsque les institutions, organes ou organismes de l’Union relèvent du champ d’application du présent règlement, le Contrôleur européen de la protection des données est leur autorité de surveillance du marché, sauf en ce qui concerne la Cour de justice de l’Union européenne agissant dans l’exercice de ses fonctions judiciaires.

10.  Les États membres facilitent la coordination entre les autorités de surveillance du marché désignées en vertu du présent règlement et les autres autorités ou organismes nationaux compétents pour surveiller l’application de la législation d’harmonisation de l’Union dont la liste figure à l’annexe I, ou dans d’autres législations de l’Union, qui sont susceptibles d’être pertinents pour les systèmes d’IA à haut risque visés à l’annexe III.

11.  Les autorités de surveillance du marché et la Commission sont en mesure de proposer des activités conjointes, y compris des enquêtes conjointes, à mener soit par les autorités de surveillance du marché, soit par les autorités de surveillance du marché conjointement avec la Commission, qui ont pour objectif de promouvoir le respect de la législation, de déceler la non-conformité, de sensibiliser ou de fournir des orientations au regard du présent règlement en ce qui concerne des catégories spécifiques de systèmes d’IA à haut risque qui sont identifiés comme présentant un risque grave dans deux États membres ou plus conformément à l’article 9 du règlement (UE) 2019/1020. Le Bureau de l’IA fournit une aide à la coordination des enquêtes conjointes.

12.  Sans préjudice des pouvoirs prévus par le règlement (UE) 2019/1020, et lorsque cela est pertinent et limité à ce qui est nécessaire à l’accomplissement de leurs tâches, les fournisseurs accordent aux autorités de surveillance du marché un accès complet à la documentation ainsi qu’aux jeux de données d’entraînement, de validation et de test utilisés pour le développement des systèmes d’IA à haut risque, y compris, lorsque cela est approprié et sous réserve de garanties de sécurité, par l’intermédiaire d’interfaces de programmation d’application (API) ou d’autres moyens et outils techniques pertinents permettant un accès à distance.

13.  Les autorités de surveillance du marché se voient accorder l’accès au code source du système d’IA à haut risque sur demande motivée et uniquement lorsque les deux conditions suivantes sont réunies:

a)	l’accès au code source est nécessaire pour évaluer la conformité d’un système d’IA à haut risque avec les exigences énoncées au chapitre III, section 2; et
b)	les procédures d’essai ou d’audit et les vérifications fondées sur les données et la documentation communiquées par le fournisseur ont été entièrement accomplies ou se sont révélées insuffisantes.

14.  Toute information ou documentation obtenue par les autorités de surveillance du marché est traitée conformément aux obligations de confidentialité énoncées à l’article 78.

1.  Na systémy AI upravené tímto nařízením se vztahuje nařízení (EU) 2019/1020. Pro účely účinného prosazování tohoto nařízení však platí, že:

a)	jakýkoli odkaz na hospodářský subjekt podle nařízení (EU) 2019/1020 je třeba chápat tak, že zahrnuje všechny provozovatele uvedené v čl. 2 odst. 1 tohoto nařízení;
b)	jakýkoli odkaz na výrobek podle nařízení (EU) 2019/1020 je třeba chápat tak, že zahrnuje všechny systémy AI spadající do oblasti působnosti tohoto nařízení.

2.  V rámci svých oznamovacích povinností podle čl. 34 odst. 4 nařízení (EU) 2019/1020 podávají orgány dozoru nad trhem každoročně Komisi a příslušným vnitrostátním orgánům pro hospodářskou soutěž zprávu o veškerých informacích zjištěných v průběhu činností dozoru nad trhem, které mohou mít potenciální význam pro uplatňování práva Unie v oblasti pravidel hospodářské soutěže. Každoročně rovněž podávají Komisi zprávu o používání zakázaných postupů, k nimž došlo v daném roce, a o přijatých opatřeních.

3.  U vysoce rizikových systémů AI souvisejících s produkty, na které se vztahují harmonizační právní předpisy Unie uvedené v oddíle A přílohy I, je orgánem dozoru nad trhem pro účely tohoto nařízení orgán odpovědný za činnosti v oblasti dozoru nad trhem určený podle uvedených právních aktů.

Odchylně od prvního pododstavce a za vhodných okolností mohou členské státy jako orgán dozoru nad trhem určit jiný příslušný orgán, pokud zajistí koordinaci s příslušnými odvětvovými orgány dozoru nad trhem odpovědnými za prosazování harmonizačních právních předpisů Unie uvedených v příloze I.

4.  Postupy uvedené v článcích 79 až 83 tohoto nařízení se nepoužijí na systémy AI související s produkty, na něž se vztahují harmonizační právní předpisy Unie uvedené v oddíle A přílohy I, pokud jsou v těchto právních aktech již stanoveny postupy zajišťující rovnocennou úroveň ochrany a mající stejný cíl. V takových případech se namísto toho použijí odpovídající odvětvové postupy.

5.  Aniž jsou dotčeny pravomoci orgánů dozoru nad trhem podle článku 14 nařízení (EU) 2019/1020, za účelem zajištění účinného prosazování tohoto nařízení mohou orgány dozoru nad trhem případně vykonávat pravomoci uvedené v čl. 14 odst. 4 písm. d) a j) uvedeného nařízení na dálku.

6.  U vysoce rizikových systémů AI uváděných na trh, do provozu nebo využívaných finančními institucemi, na něž se vztahuje právo Unie v oblasti finančních služeb, je orgánem dozoru nad trhem pro účely tohoto nařízení příslušný vnitrostátní orgán odpovědný za finanční dohled nad těmito institucemi podle uvedených právních předpisů, pokud je uvedení na trh, do provozu nebo používání systému AI v přímé souvislosti s poskytováním těchto finančních služeb.

7.  Odchylně od odstavce 6 může členský stát za vhodných okolností a za předpokladu, že je zajištěna koordinace, určit jako orgán dozoru nad trhem pro účely tohoto nařízení jiný příslušný orgán.

Vnitrostátní orgány dozoru nad trhem odpovědné za dohled nad úvěrovými institucemi, na něž se vztahuje směrnice 2013/36/EU a které se účastní jednotného mechanismu dohledu zřízeného nařízením (EU) č. 1024/2013, by měly neprodleně oznámit Evropské centrální bance veškeré informace zjištěné v průběhu svých činností v oblasti dozoru nad trhem, které by mohly mít potenciální význam pro úkoly Evropské centrální banky v oblasti obezřetnostního dohledu podle uvedeného nařízení.

8.  Pokud jde o vysoce rizikové systémy AI uvedené v bodě 1 přílohy III tohoto nařízení, používají-li se tyto systémy pro účely vymáhání práva, pro účely správy hranic a v zájmu spravedlnosti a demokracie, a pokud jde pro vysoce rizikové systémy AI uvedené v bodech 6, 7 a 8 přílohy III tohoto nařízení, určí členské státy jako orgány dozoru nad trhem pro účely tohoto nařízení buď příslušné dozorové orgány pro ochranu údajů podle nařízení (EU) 2016/679 nebo směrnice (EU) 2016/680, nebo jiné orgány určené podle týchž podmínek stanovených v článcích 41 až 44 směrnice (EU) 2016/680. Činnosti v oblasti dozoru nad trhem nijak neovlivní nezávislost justičních orgánů ani jinak nezasahují do jejich činnosti při výkonu jejich soudní pravomoci.

9.  Pokud do oblasti působnosti tohoto nařízení spadají orgány, instituce nebo jiné subjekty Unie, jedná jako jejich orgán dozoru nad trhem evropský inspektor ochrany údajů, s výjimkou Soudního dvora Evropské unie při výkonu jeho soudních pravomocí.

10.  Členské státy usnadňují koordinaci mezi orgány dozoru nad trhem určenými podle tohoto nařízení a dalšími příslušnými vnitrostátními orgány nebo subjekty, které dohlížejí na uplatňování harmonizačních právních předpisů Unie uvedených v příloze I nebo jiného práva Unie, které by mohly být relevantní pro vysoce rizikové systémy AI uvedené v příloze III.

11.  Orgány dozoru nad trhem a Komise mohou navrhovat společné činnosti, včetně společných šetření, které provádějí orgány dozoru nad trhem nebo orgány dozoru nad trhem společně s Komisí a jejichž cílem je podporovat dodržování předpisů, zjišťovat nesoulad, zvyšovat povědomí nebo poskytovat pokyny v souvislosti s tímto nařízením, pokud jde o konkrétní kategorie vysoce rizikových systémů AI, u nichž se zjistí, že představují vážné riziko ve dvou nebo více členských státech v souladu s článkem 9 nařízení (EU) 2019/1020. Úřad pro AI poskytuje pro společná šetření koordinační podporu.

12.  Aniž jsou dotčeny pravomoci stanovené nařízením (EU) 2019/1020, poskytovatelé orgánům dozoru nad trhem v relevantních případech a v rozsahu nezbytném pro plnění jejich úkolů poskytnou plný přístup k dokumentaci, jakož i k souborům trénovacích, validačních a testovacích dat používaných pro vývoj vysoce rizikových systémů AI, v příslušných případech a s výhradou bezpečnostních záruk pak i prostřednictvím aplikačních programovacích rozhraní (API) nebo jiných vhodných technických prostředků a nástrojů umožňujících dálkový přístup.

13.  Přístup ke zdrojovému kódu vysoce rizikového systému AI je orgánům dozoru nad trhem poskytnut na základě odůvodněné žádosti a pouze v případě, že jsou splněny obě tyto podmínky:

a)	přístup ke zdrojovému kódu je nezbytný k posouzení shody vysoce rizikového systému AI s požadavky stanovenými v kapitole III oddíle 2 a
b)	postupy testování či auditu a ověřování na základě dat a dokumentace poskytnutých poskytovatelem byly vyčerpány nebo se ukázaly jako nedostatečné.

14.  S veškerými informacemi nebo dokumentací získanými orgány dozoru nad trhem podle tohoto článku se nakládá v souladu s povinnostmi zachování důvěrnosti stanovenými v článku 78.