Art. 15. - Art. 15: Acurateţe, robusteţe şi securitate cibernetică - Regulamentul 1689/13-iun-2024 de stabilire a unor norme armonizate privind inteligenţa artificială şi de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 şi (UE) 2019/2144 şi a Directivelor 2014/90/UE, (UE) 2016/797 şi (UE) 2020/1828 (Regulamentul privind inteligenţa artificială)

Acte UE

Jurnalul Oficial seria L

Neintrat în vigoare
Versiune de la: 12 Iulie 2024
Art. 15: Acurateţe, robusteţe şi securitate cibernetică
(1)Sistemele de IA cu grad ridicat de risc sunt concepute şi dezvoltate astfel încât să atingă un nivel adecvat de acurateţe, robusteţe şi securitate cibernetică şi să funcţioneze în mod consecvent în aceste privinţe pe parcursul întregului lor ciclu de viaţă.
(2)Pentru a aborda aspectele tehnice ale modului de măsurare a nivelurilor adecvate de acurateţe şi robusteţe prevăzute la alineatul (1) şi orice alţi indicatori de performanţă relevanţi, Comisia, în cooperare cu părţi interesate şi organizaţii relevante precum autorităţile din domeniul metrologiei şi al etalonării încurajează, după caz, elaborarea de valori de referinţă şi metodologii de măsurare.
(3)Nivelurile de acurateţe şi indicatorii de acurateţe relevanţi ai sistemelor de IA cu grad ridicat de risc se declară în instrucţiunile de utilizare aferente.
(4)Sistemele de IA cu grad ridicat de risc sunt cât mai reziliente posibil în ceea ce priveşte erorile, defecţiunile sau incoerenţele care pot apărea în cadrul sistemului sau în mediul în care funcţionează sistemul, în special din cauza interacţiunii lor cu persoane fizice sau cu alte sisteme. Se iau măsuri tehnice şi organizatorice în acest sens.
Robusteţea sistemelor de IA cu grad ridicat de risc poate fi asigurată prin soluţii tehnice redundante, care pot include planuri de rezervă sau de funcţionare în caz de avarie.
Sistemele de IA cu grad ridicat de risc care continuă să înveţe după ce au fost introduse pe piaţă sau puse în funcţiune sunt dezvoltate astfel încât să elimine sau să reducă pe cât posibil riscul ca eventuale rezultate distorsionate de prejudecăţi să influenţeze datele de intrare pentru operaţiunile viitoare (bucle de feedback) şi să se asigure că orice astfel de bucle de feedback sunt abordate în mod corespunzător prin măsuri de atenuare adecvate.
(5)Sistemele de IA cu grad ridicat de risc sunt reziliente în ceea ce priveşte încercările unor părţi terţe neautorizate de a le modifica utilizarea, rezultatele sau performanţa prin exploatarea vulnerabilităţilor sistemului.
Soluţiile tehnice menite să asigure securitatea cibernetică a sistemelor de IA cu grad ridicat de risc sunt adecvate circumstanţelor relevante şi riscurilor.
Soluţiile tehnice pentru abordarea vulnerabilităţilor specifice ale IA includ, după caz, măsuri de prevenire, depistare, răspuns, soluţionare şi control în privinţa atacurilor ce vizează manipularea setului de date de antrenament (otrăvirea datelor) sau a componentelor preantrenate utilizate la antrenament (otrăvirea modelelor), a datelor de intrare concepute să determine modelul de IA să facă o greşeală (exemple contradictorii sau eludarea modelelor), a atacurilor la adresa confidenţialităţii sau a defectelor modelului.