Art. 60. - Art. 60: Testarea sistemelor de IA cu grad ridicat de risc în condiţii reale în afara spaţiilor de testare în materie de reglementare în domeniul IA - Regulamentul 1689/13-iun-2024 de stabilire a unor norme armonizate privind inteligenţa artificială şi de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 şi (UE) 2019/2144 şi a Directivelor 2014/90/UE, (UE) 2016/797 şi (UE) 2020/1828 (Regulamentul privind inteligenţa artificială)

Acte UE

Jurnalul Oficial seria L

Neintrat în vigoare
Versiune de la: 12 Iulie 2024
Art. 60: Testarea sistemelor de IA cu grad ridicat de risc în condiţii reale în afara spaţiilor de testare în materie de reglementare în domeniul IA
(1)Testarea sistemelor de IA cu grad ridicat de risc în condiţii reale în afara spaţiilor de testare în materie de reglementare în domeniul IA poate fi efectuată de către furnizorii sau potenţialii furnizori de sisteme de IA cu grad ridicat de risc enumeraţi în anexa III, în conformitate cu prezentul articol şi cu planul de testare în condiţii reale menţionat în cadrul acestuia, fără a aduce atingere interdicţiilor prevăzute la articolul 5.
Comisia precizează, prin intermediul unor acte de punere în aplicare, elementele detaliate ale planului de testare în condiţii reale. Respectivele acte de punere în aplicare se adoptă în conformitate cu procedura de examinare menţionată la articolul 98 alineatul (2).
Prezentul alineat nu aduce atingere dreptului Uniunii sau dreptului intern privind testarea în condiţii reale a sistemelor de IA cu grad ridicat de risc legate de produsele care fac obiectul actelor legislative enumerate în anexa I.
(2)Furnizorii sau potenţialii furnizori pot efectua teste ale sistemelor de IA cu grad ridicat de risc menţionate în anexa III în condiţii reale în orice moment înainte de introducerea pe piaţă sau de punerea în funcţiune a sistemelor de IA pe cont propriu sau în parteneriat cu unul sau mai mulţi implementatori sau implementatori potenţiali.
(3)Testarea sistemelor de IA cu grad ridicat de risc în condiţii reale în temeiul prezentului articol nu aduce atingere oricărei evaluări etice care este impusă de dreptul Uniunii sau de dreptul intern.
(4)Furnizorii sau potenţialii furnizori pot efectua testarea în condiţii reale numai dacă sunt îndeplinite toate condiţiile următoare:
a)furnizorul sau potenţialul furnizor a elaborat un plan de testare în condiţii reale şi l-a prezentat autorităţii de supraveghere a pieţei din statul membru în care urmează să se efectueze testarea în condiţii reale;
b)autoritatea de supraveghere a pieţei din statul membru în care urmează să fie efectuată testarea în condiţii reale a aprobat testarea în condiţii reale şi planul de testare în condiţii reale; în cazul în care autoritatea de supraveghere a pieţei nu a furnizat un răspuns în termen de 30 de zile, se consideră că testarea în condiţii reale şi planul de testare în condiţii reale au fost aprobate; în cazul în care dreptul intern nu prevede o aprobare tacită, testarea în condiţii reale face în continuare obiectul unei autorizaţii;
c)furnizorul sau potenţialul furnizor, cu excepţia furnizorului sau a potenţialului furnizor de sisteme de IA cu grad ridicat de risc menţionate la punctele 1, 6 şi 7 din anexa III în domeniul aplicării legii, al migraţiei, al azilului şi al gestionării controlului la frontiere şi de sisteme de IA cu grad ridicat de risc menţionate la punctul 2 din anexa III, a înregistrat testarea în condiţii reale în conformitate cu articolul 71 alineatul (4) cu un număr unic de identificare la nivelul întregii Uniuni şi furnizând informaţiile specificate în anexa IX; furnizorul sau potenţialul furnizor de sisteme de IA cu grad ridicat de risc menţionate la punctele 1, 6 şi 7 din anexa III în domeniul aplicării legii, al migraţiei, al azilului şi al gestionării controlului la frontiere a înregistrat testarea în condiţii reale în secţiunea securizată care nu este accesibilă publicului a bazei de date a UE în conformitate cu articolul 49 alineatul (4) litera (d), cu un număr unic de identificare la nivelul întregii Uniuni şi furnizând informaţiile specificate în acesta; furnizorul sau potenţialul furnizor de sisteme de IA cu grad ridicat de risc menţionate la punctul 2 din anexa III a înregistrat testarea în condiţii reale în conformitate cu articolul 49 alineatul (5);
d)furnizorul sau potenţialul furnizor care efectuează testarea în condiţii reale este stabilit în Uniune sau a desemnat un reprezentant legal care este stabilit în Uniune;
e)datele colectate şi prelucrate în scopul testării în condiţii reale se transferă către ţări terţe numai cu condiţia implementării unor garanţii corespunzătoare şi aplicabile în temeiul dreptului Uniunii;
f)testarea în condiţii reale nu durează mai mult decât este necesar pentru realizarea obiectivelor sale şi, în orice caz, nu depăşeşte o perioadă de 6 luni, care poate fi prelungită cu încă 6 luni, sub rezerva notificării prealabile de către furnizor sau potenţialul furnizor a autorităţii de supraveghere a pieţei, însoţită de o explicaţie privind necesitatea unei astfel de prelungiri;
g)subiecţii testării în condiţii reale, care sunt persoane care aparţin grupurilor vulnerabile din cauza vârstei sau a dizabilităţii, sunt protejaţi în mod corespunzător;
h)în cazul în care un furnizor sau un potenţial furnizor organizează testarea în condiţii reale în cooperare cu unul sau mai mulţi implementatori sau implementatori potenţiali, aceştia din urmă au fost informaţi cu privire la toate aspectele testării care sunt relevante pentru decizia lor de a participa şi au primit instrucţiunile relevante pentru utilizarea sistemului de IA menţionate la articolul 13; furnizorul sau potenţialul furnizor şi implementatorul sau potenţialul implementator încheie un acord în care precizează rolurile şi responsabilităţile lor, în vederea asigurării conformităţii cu dispoziţiile privind testarea în condiţii reale în temeiul prezentului regulament şi al altor acte legislative aplicabile ale Uniunii, precum şi al dreptului intern;
i)subiecţii testării în condiţii reale şi-au dat consimţământul în cunoştinţă de cauză în conformitate cu articolul 61 sau, în cazul aplicării legii, în cazul în care solicitarea consimţământului în cunoştinţă de cauză ar împiedica testarea sistemului de IA, testarea în sine şi rezultatul testării în condiţii reale nu au niciun efect negativ asupra subiecţilor, iar datele cu caracter personal ale acestora se şterg după efectuarea testării;
j)testarea în condiţii reale este supravegheată efectiv de furnizor sau de potenţialul furnizor, precum şi de implementatori sau de potenţialii implementatori prin intermediul unor persoane care sunt calificate corespunzător în domeniul relevant şi care au capacitatea, formarea şi autoritatea necesare pentru a-şi îndeplini sarcinile;
k)previziunile, recomandările sau deciziile sistemului de IA pot fi efectiv inversate şi ignorate.
(5)Orice subiecţi ai testării în condiţii reale sau reprezentanţii lor desemnaţi legal, după caz, se pot retrage din testare în orice moment, fără vreun prejudiciu şi fără a trebui să prezinte vreo justificare, prin revocarea consimţământului lor în cunoştinţă de cauză şi pot solicita ştergerea imediată şi permanentă a datelor lor cu caracter personal. Retragerea consimţământului în cunoştinţă de cauză nu afectează activităţile deja desfăşurate.
(6)În conformitate cu articolul 75, statele membre conferă autorităţilor lor de supraveghere a pieţei competenţa de a solicita informaţii furnizorilor şi potenţialilor furnizori, de a efectua inspecţii neanunţate la distanţă sau la faţa locului şi de a efectua verificări privind efectuarea testării în condiţii reale şi a sistemelor de IA cu grad ridicat de risc conexe. Autorităţile de supraveghere a pieţei fac uz de aceste competenţe pentru a asigura o dezvoltare în condiţii de siguranţă a testării în condiţii reale.
(7)Orice incident grav identificat în cursul testării în condiţii reale se raportează autorităţii naţionale de supraveghere a pieţei în conformitate cu articolul 73. Furnizorul sau potenţialul furnizor adoptă măsuri imediate de atenuare sau, în caz contrar, suspendă testarea în condiţii reale până când are loc o astfel de atenuare sau îi pune capăt în alt mod. Furnizorul sau potenţialul furnizor instituie o procedură pentru rechemarea promptă a sistemului de IA în cazul unei astfel de încetări a testării în condiţii reale.
(8)Furnizorii sau potenţialii furnizori informează autoritatea naţională de supraveghere a pieţei din statul membru în care se efectuează testarea în condiţii reale cu privire la suspendarea sau încetarea testării în condiţii reale şi cu privire la rezultatele finale.
(9)Furnizorul sau potenţialul furnizor este responsabil, în temeiul dreptului aplicabil al Uniunii şi al dreptului intern în materie de răspundere, pentru orice prejudiciu cauzat în cursul testării în condiţii reale pe care o efectuează.