Capitolul v - MODELE DE IA DE UZ GENERAL - Regulamentul 1689/13-iun-2024 de stabilire a unor norme armonizate privind inteligenţa artificială şi de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 şi (UE) 2019/2144 şi a Directivelor 2014/90/UE, (UE) 2016/797 şi (UE) 2020/1828 (Regulamentul privind inteligenţa artificială)

Acte UE

Jurnalul Oficial seria L

Neintrat în vigoare
Versiune de la: 12 Iulie 2024
CAPITOLUL V:MODELE DE IA DE UZ GENERAL
Art. 51: Clasificarea modelelor de IA de uz general ca modele de IA de uz general cu risc sistemic
(1)Un model de IA de uz general este clasificat drept model de IA de uz general cu risc sistemic dacă îndeplineşte oricare dintre următoarele condiţii:
a)are capabilităţi cu impact ridicat evaluate pe baza unor instrumente şi metodologii tehnice adecvate, inclusiv a unor indicatori şi valori de referinţă;
b)pe baza unei decizii a Comisiei, ex officio sau în urma unei alerte calificate din partea grupului ştiinţific, are capabilităţi sau un impact echivalente cu cele prevăzute la litera (a), având în vedere criteriile stabilite în anexa XIII.
(2)Se consideră că un model de IA de uz general are capabilităţi cu impact ridicat în temeiul alineatului (1) litera (a) atunci când volumul cumulat de calcul utilizat pentru antrenarea sa măsurat în operaţii în virgulă mobilă este mai mare de 1025.
(3)Comisia adoptă acte delegate în conformitate cu articolul 97 pentru a modifica pragurile care figurează la alineatele (1) şi (2) de la prezentul articol, precum şi pentru a completa valorile de referinţă şi indicatorii având în vedere evoluţiile tehnologice constante, cum ar fi îmbunătăţirile algoritmice sau eficienţa sporită a hardware-ului, atunci când este necesar, astfel încât pragurile respective să reflecte stadiul cel mai avansat al tehnologiei.
Art. 52: Procedură
(1)În cazul în care un model de IA de uz general îndeplineşte condiţia menţionată la articolul 51 alineatul (1) litera (a), furnizorul relevant informează Comisia fără întârziere şi, în orice caz, în termen de două săptămâni de la îndeplinirea cerinţei respective sau de la data la care se constată faptul că va fi îndeplinită. Notificarea respectivă include informaţiile necesare pentru a demonstra că a fost îndeplinită cerinţa relevantă. În cazul în care ia cunoştinţă de un model de IA de uz general care prezintă riscuri sistemice cu privire la care nu a fost notificată, Comisia poate decide să îl desemneze drept model prezentând risc sistemic.
(2)Furnizorul unui model de IA de uz general care îndeplineşte condiţia menţionată la articolul 51 alineatul (1) litera (a) poate prezenta, odată cu notificarea sa, argumente suficient de întemeiate pentru a demonstra că, în mod excepţional, deşi îndeplineşte cerinţa respectivă, modelul de IA de uz general nu prezintă riscuri sistemice, având în vedere caracteristicile sale specifice şi, prin urmare, nu ar trebui să fie clasificat drept model de IA de uz general cu risc sistemic.
(3)În cazul în care concluzionează că argumentele prezentate în temeiul alineatului (2) nu sunt suficient de întemeiate, iar furnizorul relevant nu a fost în măsură să demonstreze că modelul de IA de uz general nu prezintă riscuri sistemice, având în vedere caracteristicile sale specifice, Comisia respinge argumentele respective, iar modelul de IA de uz general este considerat un model de IA de uz general cu risc sistemic.
(4)Comisia poate desemna un model de IA de uz general ca prezentând riscuri sistemice, ex officio sau în urma unei alerte calificate din partea grupului ştiinţific în temeiul articolului 90 alineatul (1) litera (a), pe baza criteriilor stabilite în anexa XIII.
Comisia este împuternicită să adopte acte delegate în conformitate cu articolul 97 pentru a modifica anexa XIII prin precizarea şi actualizarea criteriilor prevăzute în anexa menţionată.
(5)La cererea motivată a unui furnizor al cărui model a fost desemnat drept model de IA de uz general cu risc sistemic în temeiul alineatului (4), Comisia ia în considerare cererea şi poate decide să reevalueze dacă modelul de IA de uz general poate fi considerat în continuare ca prezentând riscuri sistemice pe baza criteriilor prevăzute în anexa XIII. O astfel de cerere conţine motive obiective, detaliate şi noi care au survenit după decizia de desemnare. Furnizorii pot solicita reevaluarea cel mai devreme la şase luni de la decizia de desemnare. În cazul în care, în urma reevaluării sale, Comisia decide să menţină desemnarea drept model de IA de uz general cu risc sistemic, furnizorii pot solicita reevaluarea cel mai devreme la şase luni de la decizia respectivă.
(6)Comisia se asigură că se publică o listă a modelelor de IA de uz general cu risc sistemic şi actualizează lista respectivă, fără a aduce atingere necesităţii de a respecta şi de a proteja drepturile de proprietate intelectuală şi informaţiile comerciale confidenţiale sau secretele comerciale în conformitate cu dreptul Uniunii şi cu dreptul intern.
Art. 53: Obligaţiile furnizorilor de modele de IA de uz general
(1)Furnizorii de sisteme de IA de uz general:
a)realizează şi actualizează documentaţia tehnică a modelului, inclusiv procesul vizând antrenarea şi testarea sa, precum şi rezultatele evaluării sale, care conţin cel puţin informaţiile prevăzute în anexa XI în scopul de a le furniza, la cerere, Oficiului pentru IA şi autorităţilor naţionale competente;
b)elaborează, actualizează şi pun la dispoziţie informaţii şi documentaţie destinate furnizorilor de sisteme de IA care intenţionează să integreze modelul de IA de uz general în sistemele lor de IA. Fără a aduce atingere necesităţii de a respecta şi de a proteja drepturile de proprietate intelectuală şi informaţiile comerciale confidenţiale sau secretele comerciale în conformitate cu dreptul Uniunii şi cu dreptul intern, informaţiile şi documentaţia:
(i)le permit furnizorilor de sisteme de IA să înţeleagă bine capabilităţile şi limitările modelului de IA de uz general şi să respecte obligaţiile care le revin în temeiul prezentului regulament; şi
(ii)conţin cel puţin elementele prevăzute în anexa XII;
c)pun în aplicare o politică vizând respectarea dreptului Uniunii privind drepturile de autor şi drepturile conexe şi, în special, identificarea şi respectarea, inclusiv pe baza stadiului cel mai avansat al tehnologiei, a unei rezervări a drepturilor exprimate în temeiul articolului 4 alineatul (3) din Directiva (UE) 2019/790;
d)elaborează şi pun la dispoziţia publicului un rezumat suficient de detaliat cu privire la conţinutul utilizat pentru antrenarea modelului de IA de uz general, în conformitate cu un model furnizat de Oficiul pentru IA.
(2)Obligaţiile prevăzute la alineatul (1) literele (a) şi (b) nu se aplică furnizorilor de modele de IA care sunt lansate sub licenţă liberă şi deschisă permiţând accesul, utilizarea, modificarea şi distribuţia modelelor respective şi ai căror parametri, inclusiv ponderile şi informaţiile privind arhitectura modelelor şi utilizarea acestora, sunt puşi la dispoziţia publicului. Această excepţie nu se aplică modelelor de IA de uz general cu risc sistemic.
(3)Furnizorii de modele de IA de uz general cooperează, după caz, cu Comisia şi cu autorităţile naţionale competente în exercitarea competenţelor şi a prerogativelor lor în temeiul prezentului regulament.
(4)Furnizorii de modele de IA de uz general se pot baza pe coduri de bune practici în sensul articolului 56 pentru a demonstra respectarea obligaţiilor prevăzute la alineatul (1) de la prezentul articol, până la publicarea unui standard armonizat. Respectarea standardelor europene armonizate oferă furnizorilor prezumţia de conformitate, în măsura în care standardele respective vizează obligaţiile respective. Furnizorii de modele de IA de uz general care nu aderă la un cod de bune practici aprobat sau nu respectă un standard european armonizat demonstrează existenţa unor mijloace alternative adecvate de conformitate spre a fi evaluate de Comisie.
(5)În scopul facilitării respectării anexei XI, în special a punctului 2 literele (d) şi (e), Comisia este împuternicită să adopte acte delegate în conformitate cu articolul 97 pentru a detalia metodologiile de măsurare şi de calculare, astfel încât documentaţiile să poată fi comparabile şi verificabile.
(6)Comisia este împuternicită să adopte acte delegate în conformitate cu articolul 97 alineatul (2) pentru a modifica anexele XI şi XII având în vedere evoluţiile tehnologice constante.
(7)Orice informaţii sau documentaţie obţinute în temeiul prezentului articol, inclusiv secretele comerciale, sunt tratate în conformitate cu obligaţiile de confidenţialitate prevăzute la articolul 78.
Art. 54: Reprezentanţii autorizaţi ai furnizorilor de modele de IA de uz general
(1)Înainte de a pune la dispoziţie un model de IA de uz general pe piaţa Uniunii, furnizorii stabiliţi în ţări terţe desemnează, prin mandat scris, un reprezentant autorizat stabilit în Uniune.
(2)Furnizorul permite reprezentantului său autorizat să îndeplinească sarcinile prevăzute în mandatul primit de la furnizor.
(3)Reprezentantul autorizat îndeplineşte sarcinile prevăzute în mandatul primit de la furnizor. Acesta furnizează Oficiului pentru IA, la cerere, o copie a mandatului, într-una din limbile oficiale ale instituţiilor Uniunii. În sensul prezentului regulament, mandatul îl împuterniceşte pe reprezentantul autorizat să îndeplinească următoarele sarcini:
a)să verifice dacă a fost întocmită documentaţia tehnică specificată în anexa XI şi dacă au fost îndeplinite de către furnizor toate obligaţiile menţionate la articolul 53 şi, după caz, la articolul 55;
b)să păstreze la dispoziţia Oficiului pentru IA şi a autorităţilor naţionale competente o copie a documentaţiei tehnice specificate în anexa XI pentru o perioadă de 10 ani după introducerea pe piaţă a modelului de IA de uz general, precum şi datele de contact ale furnizorului care a desemnat reprezentantul autorizat;
c)să furnizeze Oficiului pentru IA, în urma unei cereri motivate, toate informaţiile şi documentaţia, inclusiv cele menţionate la litera (b), necesare pentru a demonstra respectarea de către furnizor a obligaţiilor prevăzute în prezentul capitol;
d)să coopereze cu Oficiul pentru IA şi cu autorităţile competente, în urma unei cereri motivate, cu privire la orice acţiune întreprinsă de acestea în legătură cu un model de IA de uz general, inclusiv atunci când modelul este integrat în sistemele de IA introduse pe piaţă sau puse în funcţiune în Uniune.
(4)Mandatul împuterniceşte reprezentantul autorizat să fie contactat, pe lângă furnizor sau în locul acestuia, de către Oficiul pentru IA sau autorităţile competente, cu referire la toate aspectele legate de asigurarea conformităţii cu prezentul regulament.
(5)Reprezentantul autorizat îşi reziliază mandatul dacă consideră sau are motive să considere că furnizorul acţionează contrar obligaţiilor care îi revin în temeiul prezentului regulament. Într-un astfel de caz, el informează imediat Oficiul pentru IA cu privire la rezilierea mandatului şi la motivele acesteia.
(6)Obligaţia prevăzută la prezentul articol nu se aplică furnizorilor de modele de IA de uz general care sunt lansate sub licenţă liberă şi cu sursă deschisă permiţând accesul, utilizarea, modificarea şi distribuţia modelelor respective şi ai căror parametri, inclusiv ponderile şi informaţiile privind arhitectura modelelor şi utilizarea acestora, sunt puşi la dispoziţia publicului, cu excepţia cazului în care modelele de IA de uz general prezintă riscuri sistemice.
Art. 55: Obligaţiile furnizorilor de modele de IA de uz general cu risc sistemic
(1)Pe lângă obligaţiile enumerate la articolele 53 şi 54, furnizorii de modele de IA de uz general cu risc sistemic:
a)efectuează evaluarea modelelor în conformitate cu protocoale şi instrumente standardizate care reflectă stadiul de avansare al tehnologiei, inclusiv prin efectuarea de testări contradictorii ale modelelor şi documentarea acestora, în vederea identificării şi atenuării riscurilor sistemice;
b)evaluează şi atenuează posibilele riscuri sistemice la nivelul Uniunii, inclusiv sursele acestora, care pot decurge din dezvoltarea, introducerea pe piaţă sau utilizarea unor modele de IA de uz general cu risc sistemic;
c)urmăresc, documentează şi raportează fără întârzieri nejustificate Oficiului pentru IA şi, după caz, autorităţilor naţionale competente, informaţii relevante cu privire la incidentele grave şi la posibilele măsuri corective pentru a le aborda;
d)asigură un nivel adecvat de protecţie a securităţii cibernetice pentru modelele de IA de uz general cu risc sistemic şi pentru infrastructura fizică a modelelor.
(2)Furnizorii de modele de IA de uz general cu risc sistemic se pot baza pe coduri de bune practici în sensul articolului 56 pentru a demonstra respectarea obligaţiilor prevăzute la alineatul (1) de la prezentul articol, până la publicarea unui standard armonizat. Respectarea standardelor europene armonizate oferă furnizorilor prezumţia de conformitate, în măsura în care standardele respective vizează obligaţiile respective. Furnizorii de modele de IA de uz general cu risc sistemic care nu aderă la un cod de bune practici aprobat sau nu respectă un standard european armonizat demonstrează existenţa unor mijloace alternative adecvate de conformitate, spre a fi evaluate de Comisie.
(3)Orice informaţii sau documentaţie obţinute în temeiul prezentului articol, inclusiv secretele comerciale, sunt tratate în conformitate cu obligaţiile de confidenţialitate prevăzute la articolul 78.
Art. 56: Coduri de bune practici
(1)Oficiul pentru IA încurajează şi facilitează elaborarea de coduri de bune practici la nivelul Uniunii pentru a contribui la aplicarea corespunzătoare a prezentului regulament, ţinând seama de abordările internaţionale.
(2)Oficiul pentru IA şi Consiliul IA urmăresc să se asigure că codurile de bune practici vizează cel puţin obligaţiile prevăzute la articolele 53 şi 55, inclusiv următoarele aspecte:
a)mijloacele de asigurare a faptului că informaţiile menţionate la articolul 53 alineatul (1) literele (a) şi (b) sunt actualizate având în vedere evoluţiile tehnologice şi ale pieţei;
b)nivelul adecvat de detaliere a rezumatului cu privire la conţinutul utilizat pentru antrenare;
c)identificarea tipului şi naturii riscurilor sistemice la nivelul Uniunii, inclusiv a surselor acestora, după caz;
d)măsurile, procedurile şi modalităţile pentru evaluarea şi gestionarea riscurilor sistemice la nivelul Uniunii, inclusiv documentaţia aferentă, care sunt proporţionale cu riscurile, iau în considerare gravitatea şi probabilitatea acestora, precum şi provocările specifice legate de abordarea acestor riscuri, având în vedere modurile posibile în care astfel de riscuri pot apărea şi se pot materializa de-a lungul lanţului valoric al IA.
(3)Oficiul pentru IA poate invita toţi furnizorii de modele de IA de uz general, precum şi autorităţile naţionale competente relevante, să participe la elaborarea de coduri de bune practici. Organizaţiile societăţii civile, industria, mediul academic şi alte părţi interesate relevante, cum ar fi furnizorii din aval şi experţii independenţi, pot sprijini procesul.
(4)Oficiul pentru IA şi Consiliul IA urmăresc să se asigure că codurile de bune practici stabilesc în mod clar obiectivele lor specifice, conţin angajamente sau măsuri, inclusiv indicatori-cheie de performanţă, după caz, pentru a asigura realizarea obiectivelor respective şi că acestea ţin seama în mod corespunzător de nevoile şi interesele tuturor părţilor interesate, inclusiv ale persoanelor afectate, la nivelul Uniunii.
(5)Oficiul pentru IA urmăreşte să se asigure că participanţii la codurile de bune practici raportează periodic Oficiului pentru IA cu privire la punerea în aplicare a angajamentelor şi a măsurilor luate şi a rezultatelor acestora, inclusiv astfel cum sunt măsurate în raport cu indicatorii-cheie de performanţă, după caz. Indicatorii-cheie de performanţă şi obligaţiile de raportare reflectă diferenţele de dimensiune şi de capacitate dintre diferiţii participanţi.
(6)Oficiul pentru IA şi Consiliul IA monitorizează şi evaluează periodic îndeplinirea obiectivelor codurilor de bune practici de către participanţi şi contribuţia acestora la aplicarea corespunzătoare a prezentului regulament. Oficiul pentru IA şi Consiliul IA evaluează dacă codurile de bune practici vizează obligaţiile prevăzute la articolele 53 şi 55 şi monitorizează şi evaluează periodic îndeplinirea obiectivelor lor. Acestea publică evaluarea caracterului adecvat al codurilor de bune practici.
Comisia poate, prin intermediul unui act de punere în aplicare, să aprobe un cod de bune practici şi îi poate conferi o valabilitate generală în cadrul Uniunii. Actul de punere în aplicare respectiv se adoptă în conformitate cu procedura de examinare menţionată la articolul 98 alineatul (2).
(7)Oficiul pentru IA poate invita toţi furnizorii de modele de IA de uz general să adere la codurile de bune practici. Pentru furnizorii de modele de IA de uz general care nu prezintă riscuri sistemice, aderarea respectivă se poate limita la obligaţiile prevăzute la articolul 53, cu excepţia cazului în care aceştia îşi declară în mod explicit interesul de a adera la codul integral.
(8)De asemenea, Oficiul pentru IA încurajează şi facilitează, după caz, revizuirea şi adaptarea codurilor de bune practici, în special în lumina standardelor emergente. Oficiul pentru IA contribuie la evaluarea standardelor disponibile.
(9)Codurile de bune practici sunt pregătite cel târziu până la 2 mai 2025. Oficiul pentru IA face demersurile necesare, inclusiv prin invitarea furnizorilor în temeiul alineatului (7).
În cazul în care, până la 2 august 2025, nu poate fi finalizat un cod de bune practici sau în cazul în care Oficiul pentru IA consideră, în urma evaluării sale în temeiul alineatului (6) de la prezentul articol, că acesta nu este adecvat, Comisia poate prevedea, prin intermediul unor acte de punere în aplicare, norme comune pentru punerea în aplicare a obligaţiilor prevăzute la articolele 53 şi 55, inclusiv aspectele prevăzute la alineatul (2) de la prezentul articol. Actele de punere în aplicare respective se adoptă în conformitate cu procedura de examinare menţionată la articolul 98 alineatul (2).