Testovanie vysokorizikových systémov AI v reálnych podmienkach mimo regulačných experimentálnych prostredí pre AI

a)

poskytovateľ alebo potenciálny poskytovateľ vypracoval plán testovania v reálnych podmienkach a predložil ho orgánu dohľadu nad trhom v členskom štáte, v ktorom sa má testovanie v reálnych podmienkach vykonať;

b)

orgán dohľadu nad trhom v členskom štáte, v ktorom sa má testovanie v reálnych podmienkach vykonať, schválil testovanie v reálnych podmienkach a plán testovania v reálnych podmienkach; ak orgán dohľadu nad trhom neposkytol odpoveď do 30 dní, testovanie v reálnych podmienkach a plán testovania v reálnych podmienkach sa považujú za schválené; ak sa vo vnútroštátnom práve nestanovuje konkludentný súhlas, testovanie v reálnych podmienkach podlieha povoleniu;

c)

poskytovateľ alebo potenciálny poskytovateľ s výnimkou poskytovateľov alebo potenciálnych poskytovateľov vysokorizikových systémov AI uvedených v prílohe III bodoch 1, 6 a 7 v oblastiach presadzovania práva, migrácie, azylu a riadenia kontroly hraníc a vysokorizikových systémov AI uvedených v prílohe III bode 2 zaregistroval testovanie v reálnych podmienkach v súlade s článkom 71 ods. 4 s jedinečným jednotným identifikačným číslom pre celú Úniu a s informáciami uvedenými v prílohe IX; poskytovateľ alebo potenciálny poskytovateľ vysokorizikových systémov AI uvedených v prílohe III bodoch 1, 6 a 7 v oblastiach presadzovania práva, migrácie, azylu a riadenia kontroly hraníc zaregistroval testovanie v reálnych podmienkach v neverejnej časti databázy Únie podľa článku 49 ods. 4 písm. d) s jedinečným jednotným identifikačným číslom pre celú Úniu a s informáciami v ňom uvedenými; poskytovateľ alebo potenciálny poskytovateľ vysokorizikových systémov AI uvedených v prílohe III bode 2 zaregistroval testovanie v reálnych podmienkach v súlade s článkom 49 ods. 5;

d)

poskytovateľ alebo potenciálny poskytovateľ vykonávajúci testovanie v reálnych podmienkach je usadený v Únii alebo vymenoval právneho zástupcu, ktorý je usadený v Únii;

e)

údaje zozbierané a spracúvané na účely testovania v reálnych podmienkach sa prenášajú do tretích krajín len za predpokladu, že sa implementujú primerané a uplatniteľné záruky podľa práva Únie;

f)

testovanie v reálnych podmienkach netrvá dlhšie, ako je potrebné na dosiahnutie jeho cieľov, a v žiadnom prípade nie dlhšie ako šesť mesiacov, ktoré možno predĺžiť o ďalších šesť mesiacov, ak o tom poskytovateľ alebo potenciálny poskytovateľ vopred informoval orgán dohľadu nad trhom spolu s vysvetlením potreby takéhoto predĺženia;

g)

účastníci testovania v reálnych podmienkach, ktorí sú osobami patriacimi do zraniteľných skupín z dôvodu ich veku alebo zdravotného postihnutia, sú primerane chránení;

h)

ak poskytovateľ alebo potenciálny poskytovateľ organizuje testovanie v reálnych podmienkach v spolupráci s jedným alebo viacerými nasadzujúcimi subjektmi alebo potenciálnymi nasadzujúcimi subjektmi, poskytnú sa takýmto subjektom informácie o všetkých aspektoch testovania, ktoré sú relevantné pre ich rozhodnutie zúčastniť sa, ako aj príslušný návod na použitie systému AI uvedený v článku 13; poskytovateľ alebo potenciálny poskytovateľ a nasadzujúci subjekt alebo potenciálny nasadzujúci subjekt uzavrú dohodu, v ktorej sa stanovia ich úlohy a povinnosti s cieľom zabezpečiť súlad s ustanoveniami o testovaní v reálnych podmienkach podľa tohto nariadenia a iného uplatniteľného práva Únie a vnútroštátneho práva;

i)

účastníci testovania v reálnych podmienkach poskytli informovaný súhlas v súlade s článkom 61 alebo, v prípade presadzovania práva, ak by získanie informovaného súhlasu bránilo testovaniu systému AI, samotné testovanie a výsledok testovania v reálnych podmienkach nesmú mať žiaden negatívny vplyv na účastníkov a osobné údaje účastníkov sa po vykonaní testovania vymažú;

j)

na testovanie v reálnych podmienkach účinne dohliada poskytovateľ alebo potenciálny poskytovateľ a nasadzujúce subjekty alebo potenciálne nasadzujúce subjekty prostredníctvom osôb, ktoré sú primerane kvalifikované v príslušnej oblasti a majú potrebnú kapacitu, odbornú prípravu a právomoc na vykonávanie svojich úloh;

k)

predpovede, odporúčania alebo rozhodnutia systému AI možno účinne zvrátiť a nezohľadniť.

a)

dostawca lub potencjalny dostawca sporządził plan testów w warunkach rzeczywistych i przedłożył go organowi nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzane te testy;

b)

organ nadzoru rynku w państwie członkowskim, w którym mają być przeprowadzone testy w warunkach rzeczywistych, zatwierdził te testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych; w przypadku gdy organ nadzoru rynku nie udzielił odpowiedzi w terminie 30 dni, testy w warunkach rzeczywistych i plan testów w warunkach rzeczywistych uznaje się za zatwierdzone; w przypadku gdy prawo krajowe nie przewiduje milczącego zatwierdzenia, testy w warunkach rzeczywistych nadal wymagają uzyskania zezwolenia;

c)

dostawca lub potencjalny dostawca – z wyjątkiem dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną, oraz systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2 – zarejestrował testy w warunkach rzeczywistych zgodnie z art. 71 ust. 4 pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w załączniku IX; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 1, 6 i 7, w obszarach ścigania przestępstw, zarządzania migracją, azylem i kontrolą graniczną – zarejestrował testy w warunkach rzeczywistych w niepublicznej części bazy danych UE zgodnie z art. 49 ust. 4 lit. d), pod ogólnounijnym niepowtarzalnym numerem identyfikacyjnym, podając informacje określone w przywołanym przepisie; dostawca lub potencjalny dostawca systemów AI wysokiego ryzyka, o których mowa w załączniku III pkt 2, zarejestrował testy w warunkach rzeczywistych zgodnie z art. 49 ust. 5;

d)

dostawca lub potencjalny dostawca przeprowadzający testy w warunkach rzeczywistych ma siedzibę w Unii lub ustanowił przedstawiciela prawnego, który ma siedzibę w Unii;

e)

dane zebrane i przetwarzane do celów testów w warunkach rzeczywistych przekazuje się do państw trzecich wyłącznie pod warunkiem wdrożenia odpowiednich zabezpieczeń mających zastosowanie na podstawie prawa Unii;

f)

testy w warunkach rzeczywistych trwają nie dłużej, niż to konieczne do osiągnięcia ich celów, a w każdym razie nie dłużej niż sześć miesięcy, z możliwością przedłużenia o dodatkowy okres sześciu miesięcy, z zastrzeżeniem uprzedniego powiadomienia organu nadzoru rynku przez dostawcę lub potencjalnego dostawcę, wraz z uzasadnieniem konieczności takiego przedłużenia;

g)

uczestnicy testów w warunkach rzeczywistych, którzy z uwagi na swój wiek, niepełnosprawność są osobami, które należą do grup szczególnie wrażliwych lub są w odpowiednio chronieni;

h)

w przypadku gdy dostawca lub potencjalny dostawca organizuje testy w warunkach rzeczywistych we współpracy z jednym podmiotem stosującym lub potencjalnym podmiotem stosującym, podmiot stosujący lub potencjalny podmiot stosujący został poinformowany o wszystkich aspektach testów, które są istotne dla jego decyzji o uczestnictwie, oraz otrzymuje odpowiednie instrukcje obsługi systemu AI, o których mowa w art. 13; dostawca lub potencjalny dostawca oraz podmiot stosujący lub potencjalny podmiot stosujący zawierają umowę określającą ich role i zakres odpowiedzialności w celu zapewnienia zgodności z przepisami dotyczącymi testów w warunkach rzeczywistych na podstawie niniejszego rozporządzenia oraz na podstawie innego mającego zastosowanie prawa Unii i prawa krajowego;

i)

uczestnicy testów w warunkach rzeczywistych wyrazili świadomą zgodę zgodnie z art. 61 lub – w przypadku ścigania przestępstw – gdy uzyskanie świadomej zgody uniemożliwiłoby testy systemu AI, same testy w warunkach rzeczywistych oraz ich wynik nie mogą mieć negatywnego wpływu na uczestników testów, a ich dane osobowe musza zostać usunięte po przeprowadzeniu testów;

j)

testy w warunkach rzeczywistych są skutecznie nadzorowane przez dostawcę lub potencjalnego dostawcę i podmioty stosujące lub potencjalne podmioty stosujące przy udziale osób posiadających odpowiednie kwalifikacje w danej dziedzinie oraz zdolności, przygotowanie szkoleniowe i uprawnienia niezbędne do wykonywania ich zadań;

k)

predykcje, zalecenia lub decyzje systemu AI można skutecznie odwrócić i zignorować.