Art. 5. - Art. 5: Practici interzise în domeniul IA - Regulamentul 1689/13-iun-2024 de stabilire a unor norme armonizate privind inteligenţa artificială şi de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 şi (UE) 2019/2144 şi a Directivelor 2014/90/UE, (UE) 2016/797 şi (UE) 2020/1828 (Regulamentul privind inteligenţa artificială)
Acte UE
Jurnalul Oficial seria L
Neintrat în vigoare Versiune de la: 12 Iulie 2024
Art. 5: Practici interzise în domeniul IA
(1)Sunt interzise următoarele practici în domeniul IA:
a)introducerea pe piaţă, punerea în funcţiune sau utilizarea unui sistem de IA care utilizează tehnici subliminale ce nu pot fi percepute în mod conştient de o persoană sau tehnici intenţionat manipulatoare sau înşelătoare, cu scopul sau efectul de a denatura în mod semnificativ comportamentul unei persoane sau al unui grup de persoane prin împiedicarea apreciabilă a capacităţii acestora de a lua o decizie în cunoştinţă de cauză, determinându-le astfel să ia o decizie pe care altfel nu ar fi luat-o, într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective, unei alte persoane sau unui grup de persoane;
b)introducerea pe piaţă, punerea în funcţiune sau utilizarea unui sistem de IA care exploatează oricare dintre vulnerabilităţile unei persoane fizice sau ale unui anumit grup de persoane asociate vârstei, unei dizabilităţi sau unei situaţii sociale sau economice specifice, cu scopul sau efectul de a denatura în mod semnificativ comportamentul persoanei respective sau al unei persoane care aparţine grupului respectiv într-un mod care aduce sau este susceptibil în mod rezonabil să aducă prejudicii semnificative persoanei respective sau unei alte persoane;
c)introducerea pe piaţă, punerea în funcţiune sau utilizarea unor sisteme de IA pentru evaluarea sau clasificarea persoanelor fizice sau a grupurilor de persoane pe o anumită perioadă de timp, pe baza comportamentului lor social sau a caracteristicilor personale sau de personalitate cunoscute, deduse sau preconizate, cu un punctaj social care conduce la una dintre următoarele situaţii sau la ambele:
(i)tratamentul prejudiciabil sau nefavorabil aplicat anumitor persoane fizice sau unor grupuri de persoane în contexte sociale care nu au legătură cu contextele în care datele au fost generate sau colectate iniţial;
(ii)tratamentul prejudiciabil sau nefavorabil aplicat anumitor persoane fizice sau unor grupuri de persoane, care este nejustificat sau disproporţionat în raport cu comportamentul social al acestora sau cu gravitatea acestuia;
d)introducerea pe piaţă, punerea în funcţiune în acest scop specific sau utilizarea unui sistem de IA pentru efectuarea de evaluări ale riscurilor persoanelor fizice cu scopul de a evalua sau de a prevedea riscul ca o persoană fizică să comită o infracţiune, exclusiv pe baza creării profilului unei persoane fizice sau pe baza evaluării trăsăturilor şi caracteristicilor sale de personalitate; această interdicţie nu se aplică sistemelor de IA utilizate pentru a sprijini evaluarea umană a implicării unei persoane într-o activitate infracţională, care se bazează deja pe fapte obiective şi verificabile legate direct de o activitate infracţională;
e)introducerea pe piaţă, punerea în funcţiune în acest scop specific sau utilizarea unor sisteme de IA care creează sau extind bazele de date de recunoaştere facială prin extragerea fără scop precis a imaginilor faciale de pe internet sau de pe înregistrările TVCI;
f)introducerea pe piaţă, punerea în funcţiune în acest scop specific sau utilizarea unor sisteme de IA pentru a deduce emoţiile unei persoane fizice în sfera locului de muncă şi a instituţiilor de învăţământ, cu excepţia cazurilor în care utilizarea sistemului de IA este destinată a fi instituită sau introdusă pe piaţă din motive medicale sau de siguranţă;
g)introducerea pe piaţă sau punerea în funcţiune în acest scop specific sau utilizarea de sisteme de clasificare biometrică care clasifică în mod individual persoanele fizice pe baza datelor lor biometrice pentru a deduce sau a intui rasa, opiniile politice, apartenenţa la un sindicat, convingerile religioase sau filozofice, viaţa sexuală sau orientarea sexuală ale persoanelor respective; această interdicţie nu se referă la etichetarea sau filtrarea seturilor de date biometrice obţinute înmod legal, cum ar fi imaginile, pe baza datelor biometrice sau la clasificarea datelor biometrice în domeniul aplicării legii;
(h)utilizarea sistemelor de identificare biometrică la distanţă în timp real în spaţii accesibile publicului în scopul aplicării legii, cu excepţia cazului şi în măsura în care o astfel de utilizare este strict necesară pentru unul dintre următoarele obiective:
(i)căutarea în mod specific a anumitor victime ale răpirii, traficului de persoane sau exploatării sexuale a persoanelor, precum şi căutarea persoanelor dispărute;
(ii)prevenirea unei ameninţări specifice, substanţiale şi iminente care vizează viaţa sau siguranţa fizică a persoanelor fizice sau a unei ameninţări reale şi prezente sau reale şi previzibile de atac terorist;
(iii)localizarea sau identificarea unei persoane suspectate de săvârşirea unei infracţiuni, în scopul desfăşurării unei investigaţii penale sau al urmăririi penale sau al executării unor sancţiuni penale pentru infracţiuni, menţionate în anexa II şi pasibile, în statul membru în cauză, de o pedeapsă privativă de libertate sau o măsură de siguranţă privativă de libertate pentru o perioadă maximă de cel puţin patru ani.
Litera (h) de la primul paragraf nu aduce atingere articolului 9 din Regulamentul (UE) 2016/679 privind prelucrarea datelor biometrice în alte scopuri decât aplicarea legii.
(2)Sistemele de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului în scopul aplicării legii pentru oricare dintre obiectivele menţionate la alineatul (1) primul paragraf litera (h) se utilizează în scopurile prevăzute la alineatul (1) litera (h) numai pentru a confirma identitatea persoanei vizate în mod specific, ţinându-se seama de următoarele elemente:
a)natura situaţiei care determină posibila utilizare, în special gravitatea, probabilitatea şi amploarea prejudiciului care ar fi cauzat dacă sistemul nu ar fi utilizat;
b)consecinţele utilizării sistemului asupra drepturilor şi libertăţilor tuturor persoanelor vizate, în special gravitatea, probabilitatea şi amploarea acestor consecinţe.
În plus, utilizarea sistemelor de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului în scopul aplicării legii pentru oricare dintre obiectivele menţionate la alineatul (1) primul paragraf litera (h) de la prezentul articol respectă garanţiile şi condiţiile necesare şi proporţionale în ceea ce priveşte utilizarea în conformitate cu dreptul intern care autorizează utilizarea sistemelor respective, în special în ceea ce priveşte limitările temporale, geografice şi legate de persoane. Utilizarea sistemului de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului este autorizată numai dacă autoritatea de aplicare a legii a finalizat o evaluare a impactului asupra drepturilor fundamentale, astfel cum se prevede la articolul 27, şi a înregistrat sistemul în baza de date a UE, în conformitate cu articolul 49. Cu toate acestea, în cazuri de urgenţă justificate în mod corespunzător, utilizarea sistemelor respective poate fi iniţiată fără înregistrarea în baza de date a UE, cu condiţia ca înregistrarea respectivă să fie finalizată fără întârzieri nejustificate.
(3)În sensul alineatului (1) primul paragraf litera (h) şi al alineatului (2), fiecare utilizare în scopul aplicării legii a unui sistem de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului face obiectul unei autorizaţii prealabile acordate de o autoritate judiciară sau de o autoritate administrativă independentă a cărei decizie are efect obligatoriu din statul membru în care urmează să aibă loc utilizarea; autorizaţia respectivă este emisă pe baza unei cereri motivate şi în conformitate cu normele detaliate de drept intern menţionate la alineatul (5). Cu toate acestea, într-o situaţie de urgenţă justificată în mod corespunzător, utilizarea sistemului poate începe fără autorizaţie, cu condiţia ca autorizaţia respectivă să fie solicitată fără întârzieri nejustificate, cel târziu în termen de 24 de ore. În cazul în care o astfel de autorizaţie este refuzată, utilizarea sistemului este oprită cu efect imediat şi toate datele, precum şi rezultatele şi produsele obţinute în cadrul utilizării respective sunt înlăturate şi şterse imediat.
Autoritatea judiciară competentă sau o autoritate administrativă independentă a cărei decizie are efect obligatoriu acordă autorizaţia numai dacă este convinsă, pe baza unor dovezi obiective sau a unor indicii clare care i-au fost prezentate, că utilizarea sistemului de identificare biometrică la distanţă în timp real în cauză este necesară şi proporţională pentru realizarea unuia dintre obiectivele menţionate la alineatul (1) primul paragraf litera (h), astfel cum a fost identificat în cerere şi, în special, rămâne limitată la ceea ce este strict necesar din punctul de vedere al perioadei de timp, precum şi al sferei de aplicare geografică şi personală. Atunci când ia o decizie cu privire la cerere, autoritatea respectivă ia în considerare elementele menţionate la alineatul (2). Nicio decizie care produce un efect juridic negativ asupra unei persoane nu poate fi luată exclusiv pe baza unui rezultat al sistemului de identificare biometrică la distanţă în timp real.
(4)Fără a aduce atingere alineatului (3), fiecare utilizare a unui sistem de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului în scopul aplicării legii este notificată autorităţii relevante de supraveghere a pieţei şi autorităţii naţionale pentru protecţia datelor, în conformitate cu normele naţionale menţionate la alineatul (5). Notificarea conţine cel puţin informaţiile specificate la alineatul (6) şi nu include date operaţionale sensibile.
(5)Un stat membru poate decide să prevadă posibilitatea de a autoriza, integral sau parţial, utilizarea sistemelor de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului în scopul aplicării legii, în limitele şi condiţiile enumerate la alineatul (1) primul paragraf litera (h) şi la alineatele (2) şi (3). Statul membru în cauză stabileşte în dreptul său intern normele detaliate necesare pentru solicitarea, eliberarea şi exercitarea, precum şi pentru supravegherea autorizaţiilor menţionate la alineatul (3) şi pentru raportarea cu privire la acestea. Normele respective specifică, de asemenea, pentru care dintre obiectivele enumerate la alineatul (1) primul paragraf litera (h), inclusiv pentru care dintre infracţiunile menţionate la litera (h) punctul (iii) de la alineatul respectiv, pot fi autorizate autorităţile competente să utilizeze respectivele sisteme în scopul aplicării legii. Statele membre notifică normele respective Comisiei în termen de cel mult 30 de zile de la adoptarea acestora. Statele membre pot introduce, în conformitate cu dreptul Uniunii, legi mai restrictive privind utilizarea sistemelor de identificare biometrică la distanţă.
(6)Autorităţile naţionale de supraveghere a pieţei şi autorităţile naţionale de protecţie a datelor din statele membre care au fost notificate cu privire la utilizarea sistemelor de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului în scopul aplicării legii în temeiul alineatului (4) prezintă Comisiei rapoarte anuale cu privire la utilizarea respectivă. În acest scop, Comisia furnizează statelor membre şi autorităţilor naţionale de supraveghere a pieţei şi de protecţie a datelor un model, inclusiv informaţii privind numărul deciziilor luate de autorităţile judiciare competente sau de o autoritate administrativă independentă a cărei decizie are efect obligatoriu, în ceea ce priveşte cererile de autorizare în conformitate cu alineatul (3), precum şi rezultatul cererilor respective.
(7)Comisia publică rapoarte anuale privind utilizarea sistemelor de identificare biometrică la distanţă în timp real în spaţiile accesibile publicului în scopul aplicării legii, pe baza datelor agregate din statele membre din cadrul rapoartelor anuale menţionate la alineatul (6). Rapoartele anuale respective nu includ date operaţionale sensibile ale activităţilor conexe de aplicare a legii.
(8)Prezentul articol nu afectează interdicţiile care se aplică în cazul în care o practică în materie de IA încalcă alte dispoziţii din dreptul Uniunii.