Art. 9. - Art. 9: Sistemul de gestionare a riscurilor - Regulamentul 1689/13-iun-2024 de stabilire a unor norme armonizate privind inteligenţa artificială şi de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 şi (UE) 2019/2144 şi a Directivelor 2014/90/UE, (UE) 2016/797 şi (UE) 2020/1828 (Regulamentul privind inteligenţa artificială)

Acte UE

Jurnalul Oficial seria L

Neintrat în vigoare
Versiune de la: 12 Iulie 2024
Art. 9: Sistemul de gestionare a riscurilor
(1)Se instituie, se pune în aplicare, se documentează şi se menţine un sistem de gestionare a riscurilor în legătură cu sistemele de IA cu grad ridicat de risc.
(2)Sistemul de gestionare a riscurilor este înţeles ca un proces iterativ continuu planificat şi derulat pe parcursul întregului ciclu de viaţă al unui sistem de IA cu grad ridicat de risc, necesitând în mod periodic actualizarea şi revizuirea sistematică. Acesta cuprinde următoarele etape:
a)identificarea şi analiza riscurilor cunoscute şi previzibile în mod rezonabil pe care sistemul de IA cu grad ridicat de risc le poate prezenta pentru sănătate, siguranţă sau drepturile fundamentale atunci când sistemul de IA cu grad ridicat de risc este utilizat în conformitate cu scopul preconizat;
b)estimarea şi evaluarea riscurilor care pot apărea atunci când sistemul de IA cu grad ridicat de risc este utilizat în conformitate cu scopul său preconizat şi în condiţii de utilizare necorespunzătoare previzibilă în mod rezonabil;
c)evaluarea altor riscuri care ar putea apărea pe baza analizei datelor colectate din sistemul de monitorizare ulterioară introducerii pe piaţă menţionat la articolul 72;
d)adoptarea unor măsuri adecvate şi specifice de gestionare a riscurilor, concepute pentru a combate riscurile identificate în temeiul literei (a).
(3)Prezentul articol se referă numai la riscurile care pot fi atenuate sau eliminate în mod rezonabil prin dezvoltarea sau proiectarea sistemului de IA cu grad ridicat de risc sau prin furnizarea de informaţii tehnice adecvate.
(4)Măsurile de gestionare a riscurilor menţionate la alineatul (2) litera (d) ţin seama în mod corespunzător de efectele şi interacţiunea posibilă care rezultă din aplicarea combinată a cerinţelor prevăzute în prezenta secţiune, în vederea reducerii la minimum a riscurilor într-un mod mai eficace, obţinându-se totodată un echilibru adecvat în punerea în aplicare a măsurilor de îndeplinire a cerinţelor respective.
(5)Măsurile de gestionare a riscurilor menţionate la alineatul (2) litera (d) sunt de aşa natură încât riscul rezidual relevant asociat fiecărui pericol, precum şi riscul rezidual global al sistemelor de IA cu grad ridicat de risc să fie considerate a fi acceptabile.
La identificarea celor mai adecvate măsuri de gestionare a riscurilor se asigură următoarele:
a)eliminarea sau reducerea riscurilor identificate şi evaluate în temeiul alineatului (2), în măsura în care acest lucru este fezabil din punct de vedere tehnic prin proiectarea şi dezvoltarea adecvată a sistemului de IA cu grad ridicat de risc;
b)după caz, punerea în aplicare a unor măsuri adecvate de atenuare şi control pentru combaterea riscurilor care nu pot fi eliminate;
c)furnizarea informaţiilor necesare în temeiul articolului 13 şi, după caz, formarea implementatorilor.
În vederea eliminării sau reducerii riscurilor legate de utilizarea sistemului de IA cu grad ridicat de risc se acordă atenţia cuvenită cunoştinţelor tehnice, experienţei, educaţiei şi formării preconizate din partea implementatorului, precum şi contextului prezumtiv în care urmează să fie utilizat sistemul.
(6)Sistemele de IA cu grad ridicat de risc sunt testate în scopul identificării celor mai adecvate măsuri specifice de gestionare a riscurilor. Testarea asigură faptul că sistemele de IA cu grad ridicat de risc funcţionează într-un mod coerent cu scopul preconizat şi că sunt conforme cu cerinţele stabilite în prezenta secţiune.
(7)Procedurile de testare pot include testarea în condiţii reale, în conformitate cu articolul 60.
(8)Testarea sistemelor de IA cu grad ridicat de risc se efectuează, după caz, în orice moment pe parcursul procesului de dezvoltare şi, în orice caz, înainte de introducerea pe piaţă sau de punerea în funcţiune a acestora. Testarea se efectuează pe baza unor indicatori şi a unor praguri probabilistice definite în prealabil, care sunt adecvate scopului preconizat al sistemului de IA cu grad ridicat de risc.
(9)La punerea în aplicare a sistemului de gestionare a riscurilor descris la alineatele (1)-(7), furnizorii analizează dacă, având în vedere scopul său preconizat, sistemul de IA cu grad ridicat de risc este susceptibil să aibă un impact negativ asupra persoanelor cu vârsta sub 18 ani şi, după caz, asupra altor grupuri vulnerabile.
(10)Pentru furnizorii de sisteme de IA cu grad ridicat de risc care fac obiectul unor cerinţe privind procesele interne de gestionare a riscurilor în temeiul altor dispoziţii relevante din dreptul Uniunii, aspectele descrise la alineatele (1)-(9) pot face parte din procedurile de gestionare a riscurilor stabilite în temeiul legislaţiei respective sau pot fi combinate cu acestea.