Transparencia y comunicación de información a los responsables del despliegue

Español

1. Los sistemas de IA de alto riesgo se diseñarán y desarrollarán de un modo que se garantice que funcionan con un nivel de transparencia suficiente para que los responsables del despliegue interpreten y usen correctamente sus resultados de salida. Se garantizará un tipo y un nivel de transparencia adecuados para que el proveedor y el responsable del despliegue cumplan las obligaciones pertinentes previstas en la sección 3.

2. Los sistemas de IA de alto riesgo irán acompañados de las instrucciones de uso correspondientes en un formato digital o de otro tipo adecuado, las cuales incluirán información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible para los responsables del despliegue.

3. Las instrucciones de uso contendrán al menos la siguiente información:

a)	la identidad y los datos de contacto del proveedor y, en su caso, de su representante autorizado;

las características, capacidades y limitaciones del funcionamiento del sistema de IA de alto riesgo, con inclusión de:

i)	su finalidad prevista,

ii)

el nivel de precisión (incluidos los parámetros para medirla), solidez y ciberseguridad mencionado en el artículo 15 con respecto al cual se haya probado y validado el sistema de IA de alto riesgo y que puede esperarse, así como cualquier circunstancia conocida y previsible que pueda afectar al nivel de precisión, solidez y ciberseguridad esperado,

iii)

cualquier circunstancia conocida o previsible, asociada a la utilización del sistema de IA de alto riesgo conforme a su finalidad prevista o a un uso indebido razonablemente previsible, que pueda dar lugar a riesgos para la salud y la seguridad o los derechos fundamentales a que se refiere el artículo 9, apartado 2,

iv)	en su caso, las capacidades y características técnicas del sistema de IA de alto riesgo para proporcionar información pertinente para explicar sus resultados de salida,

v)	cuando proceda, su funcionamiento con respecto a determinadas personas o determinados colectivos de personas en relación con los que esté previsto utilizar el sistema,

vi)	cuando proceda, especificaciones relativas a los datos de entrada, o cualquier otra información pertinente en relación con los conjuntos de datos de entrenamiento, validación y prueba usados, teniendo en cuenta la finalidad prevista del sistema de IA de alto riesgo,

vii)	en su caso, información que permita a los responsables del despliegue interpretar los resultados de salida del sistema de IA de alto riesgo y utilizarla adecuadamente;

c)	los cambios en el sistema de IA de alto riesgo y su funcionamiento predeterminados por el proveedor en el momento de efectuar la evaluación de la conformidad inicial, en su caso;

d)	las medidas de supervisión humana a que se hace referencia en el artículo 14, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados de salida de los sistemas de IA de alto riesgo por parte de los responsables del despliegue;

los recursos informáticos y de hardware necesarios, la vida útil prevista del sistema de IA de alto riesgo y las medidas de mantenimiento y cuidado necesarias (incluida su frecuencia) para garantizar el correcto funcionamiento de dicho sistema, también en lo que respecta a las actualizaciones del software;

f)	cuando proceda, una descripción de los mecanismos incluidos en el sistema de IA de alto riesgo que permita a los responsables del despliegue recabar, almacenar e interpretar correctamente los archivos de registro de conformidad con el artículo 12.

Slovenčina

1. Vysokorizikové systémy AI musia byť dizajnované a vyvinuté tak, aby sa zabezpečilo, že ich prevádzka je dostatočne transparentná na to, aby nasadzujúcim subjektom umožnila interpretovať výstupy systému a vhodne ich používať. Zabezpečí sa primeraný druh a stupeň transparentnosti, aby poskytovatelia a nasadzujúce subjekty mohli dodržiavať príslušné povinnosti stanovené v oddiele 3.

2. K vysokorizikovým systémom AI sa vo vhodnom digitálnom formáte alebo inak prikladá návod na použitie obsahujúci stručné, úplné, správne a jasné informácie, ktoré sú pre nasadzujúce subjekty relevantné, prístupné a zrozumiteľné.

3. Návod na použitie obsahuje aspoň tieto informácie:

a)	totožnosť a kontaktné údaje poskytovateľa a v príslušných prípadoch jeho splnomocneného zástupcu;

charakteristiky, spôsobilosti a obmedzenia výkonu vysokorizikového systému AI vrátane:

i)	jeho zamýšľaného účelu;

ii)

úrovne presnosti vrátane jej metriky, spoľahlivosti a kybernetickej bezpečnosti podľa článku 15, na základe ktorej bol vysokorizikový systém AI testovaný a validovaný a ktorú možno očakávať, ako aj všetky známe a predvídateľné okolnosti, ktoré môžu mať vplyv na túto očakávanú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti;

iii)

všetkých známych alebo predvídateľných okolností súvisiacich s používaním vysokorizikového systému AI v súlade s jeho zamýšľaným účelom alebo za podmienok odôvodnene predvídateľného nesprávneho používania, ktoré môžu viesť k rizikám pre zdravie a bezpečnosť alebo pre základné práva, ako sa uvádza v článku 9 ods. 2;

iv)	v relevantných prípadoch, technických spôsobilostí a charakteristík vysokorizikového systému AI poskytovať informácie, ktoré sú relevantné na vysvetlenie jeho výstupu;

v)	v príslušných prípadoch, jeho výkonu, pokiaľ ide o konkrétne osoby alebo skupiny osôb, v prípade ktorých sa má systém používať;

vi)	v príslušných prípadoch, špecifikácií vstupných údajov alebo akýchkoľvek iných relevantných informácií z hľadiska použitých súborov trénovacích, validačných a testovacích údajov, pričom sa zohľadní zamýšľaný účel vysokorizikového systému AI;

vii)	v relevantných prípadoch, informácií umožňujúcich nasadzujúcim subjektom interpretovať výstup vysokorizikového systému AI a vhodne ho používať;

c)	prípadné zmeny vysokorizikového systému AI a jeho výkonu, ktoré v čase počiatočného posúdenia zhody vopred určil poskytovateľ;

d)	opatrenia na zabezpečenie ľudského dohľadu uvedené v článku 14 vrátane technických opatrení zavedených na uľahčenie výkladu výstupov vysokorizikových systémov AI nasadzujúcimi subjektmi;

e)	potrebné výpočtové a hardvérové zdroje, očakávaná životnosť vysokorizikového systému AI a všetky potrebné opatrenia údržby a starostlivosti vrátane frekvencie ich vykonávania, ktorými sa má zabezpečiť riadne fungovanie tohto systému AI, a to aj pokiaľ ide o aktualizácie softvéru;

f)	v relevantnom prípade, opis mechanizmov zahrnutých do vysokorizikového systému AI, ktoré umožňujú nasadzujúcim subjektom riadne zhromažďovať, uchovávať a interpretovať logy v súlade s článkom 12 ods. 1.

Transparencia y comunicación de información a los responsables del despliegue

Version history