Vigilancia poscomercialización por parte de los proveedores y plan de vigilancia poscomercialización para sistemas de IA de alto riesgo

1.  Los proveedores establecerán y documentarán un sistema de vigilancia poscomercialización de forma proporcionada a la naturaleza de las tecnologías de IA y a los riesgos de los sistemas de IA de alto riesgo.

2.  El sistema de vigilancia poscomercialización recopilará, documentará y analizará de manera activa y sistemática los datos pertinentes que pueden facilitar los responsables del despliegue o que pueden recopilarse a través de otras fuentes sobre el funcionamiento de los sistemas de IA de alto riesgo durante toda su vida útil, y que permiten al proveedor evaluar el cumplimiento permanente de los requisitos establecidos en el capítulo III, sección 2, por parte de los sistemas de IA. Cuando proceda, la vigilancia poscomercialización incluirá un análisis de la interacción con otros sistemas de IA. Esta obligación no comprenderá los datos operativos sensibles de los responsables del despliegue que sean autoridades garantes del cumplimiento del Derecho.

3.  El sistema de vigilancia poscomercialización se basará en un plan de vigilancia poscomercialización. El plan de vigilancia poscomercialización formará parte de la documentación técnica a que se refiere el anexo IV. La Comisión, teniendo en cuenta en la mayor medida posible el dictamen del Consejo de IA, adoptará orientaciones —que incluirán un modelo— sobre el plan de seguimiento poscomercialización a más tardar el 2 de septiembre de 2027.

4.  En el caso de los sistemas de IA de alto riesgo regulados por los actos legislativos de armonización de la Unión enumerados en el anexo I, sección A, cuando ya se hayan establecido un sistema y un plan de vigilancia poscomercialización con arreglo a dichos actos, con el fin de garantizar la coherencia, evitar duplicidades y reducir al mínimo las cargas adicionales, los proveedores podrán optar por integrar, según proceda, los elementos necesarios descritos en los apartados 1, 2 y 3, utilizando el modelo a que se refiere el apartado 3, en los sistemas y planes que ya existan en virtud de dicha legislación, siempre que alcance un nivel de protección equivalente.

El párrafo primero del presente apartado también se aplicará a los sistemas de IA de alto riesgo a que se refiere el anexo III, punto 5, introducidos en el mercado o puestos en servicio por entidades financieras sujetas a requisitos relativos a su gobernanza, sus sistemas o sus procesos internos en virtud del Derecho de la Unión en materia de servicios financieros.

1.  Poskytovatelé zavedou a zdokumentují systém monitorování po uvedení na trh, a to způsobem, který je přiměřený povaze technologií AI a rizikům daného vysoce rizikového systému AI.

2.  Systém monitorování po uvedení na trh aktivně a systematicky shromažďuje, dokumentuje a analyzuje příslušné údaje, které mohou být získávány od zavádějících subjektů nebo které mohou být shromažďovány z jiných zdrojů a které se týkají výkonnosti vysoce rizikových systémů AI po celou dobu jejich životnosti, a umožňuje poskytovateli vyhodnocovat nepřetržitý soulad systémů AI s požadavky stanovenými v kapitole III oddíle 2. Monitorování po uvedení na trh v relevantních případech zahrnuje analýzu interakce s jinými systémy AI. Tato povinnost se nevztahuje na citlivé operativní údaje zavádějících subjektů, které jsou donucovacími orgány.

3.  Systém monitorování po uvedení na trh je založen na plánu monitorování po uvedení na trh. Plán monitorování po uvedení na trh je součástí technické dokumentace uvedené v příloze IV. Komise s maximálním zřetelem ke stanovisku rady přijme do 2. září 2027 pokyny, včetně vzoru, k plánu monitorování po uvedení na trh.

4.  V případě vysoce rizikových systémů AI, na něž se vztahují harmonizační právní předpisy Unie uvedené v oddíle A přílohy I a pro něž je již podle uvedených právních předpisů zaveden systém i plán monitorování po uvedení na trh, mají poskytovatelé, s cílem zajistit soudržnost, zabránit zdvojování a minimalizovat další zátěž, možnost volby, zda v příslušných případech začlení nezbytné prvky popsané v odstavcích 1, 2 a 3 za použití šablony uvedené v odstavci 3 do systémů a plánů, které již podle uvedených právních předpisů existují, za předpokladu, že dosáhne rovnocenné úrovně ochrany.

První pododstavec tohoto odstavce se vztahuje také na vysoce rizikové systémy AI uvedené v bodě 5 přílohy III, které jsou uvedeny na trh nebo do provozu finančními institucemi, na něž se vztahují požadavky práva Unie v oblasti finančních služeb týkající se jejich vnitřní správy, opatření nebo postupů.