(1)

Scopul prezentului regulament este de a  îmbunătăți funcționarea pieței interne prin stabilirea unui cadru juridic uniform, în special pentru dezvoltarea , comercializarea și utilizarea inteligenței artificiale , în conformitate cu valorile Uniunii . Prezentul regulament urmărește o serie de motive imperative de interes public major , cum ar fi un nivel ridicat de protecție a sănătății , a siguranței și a drepturilor fundamentale, și asigură libera circulație transfrontalieră a bunurilor și serviciilor bazate pe IA, împiedicând astfel statele membre să impună restricții privind dezvoltarea, comercializarea și utilizarea sistemelor de IA, cu excepția cazului în care acest lucru este autorizat în mod explicit de prezentul regulament.

(1)

Scopul prezentului regulament este de a  promova adoptarea inteligenței artificiale centrate pe factorul uman și fiabile și de a asigura un nivel ridicat de protecție a sănătății , siguranței, drepturilor fundamentale, democrației și statului de drept și a mediului împotriva efectelor dăunătoare ale sistemelor de inteligență artificială din Uniune, sprijinind , în același timp, inovarea și îmbunătățind funcționarea pieței interne . Prezentul regulament stabilește un cadru juridic uniform, în special pentru dezvoltarea , introducerea pe piață, punerea în funcțiune și utilizarea inteligenței artificiale , în conformitate cu valorile Uniunii și asigură libera circulație transfrontalieră a bunurilor și serviciilor bazate pe IA, împiedicând astfel statele membre să impună restricții privind dezvoltarea, comercializarea și utilizarea sistemelor de inteligență artificială (sisteme de IA), cu excepția cazului în care acest lucru este autorizat în mod explicit de prezentul regulament. Unele sisteme de IA pot avea, de asemenea, un impact asupra democrației, a statului de drept și a mediului. Aceste preocupări sunt abordate în mod specific în sectoarele critice și în cazurile de utilizare enumerate în anexele la prezentul regulament.

(1a)

Prezentul regulament ar trebui să mențină valorile Uniunii, facilitând distribuirea beneficiilor inteligenței artificiale în întreaga societate, protejând persoanele, întreprinderile, democrația, statul de drept și mediul împotriva riscurilor, stimulând totodată inovarea și ocuparea forței de muncă și făcând din Europa un lider în domeniu.

(2)

Sistemele de inteligență artificială (sistemele de IA) pot fi implementate cu ușurință în mai multe sectoare ale economiei și societății, inclusiv la nivel transfrontalier, și pot circula în întreaga Uniune. Anumite state membre au explorat deja adoptarea unor norme naționale pentru a se asigura că inteligența artificială este sigură și că este dezvoltată și utilizată în conformitate cu obligațiile în materie de drepturi fundamentale. Normele naționale diferite pot duce la fragmentarea pieței interne și pot reduce gradul de securitate juridică pentru operatorii care dezvoltă sau utilizează sisteme de IA. Prin urmare, ar trebui să se asigure un nivel ridicat și consecvent de protecție în întreaga Uniune, iar divergențele care împiedică libera circulație a sistemelor de IA și a produselor și serviciilor conexe în cadrul pieței interne ar trebui prevenite, prin stabilirea unor obligații uniforme pentru operatori și prin garantarea protecției uniforme a motivelor imperative de interes public major și a drepturilor persoanelor în întreaga piață internă, în temeiul articolului 114 din Tratatul privind funcționarea Uniunii Europene (TFUE). În măsura în care prezentul regulament conține norme specifice privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal referitoare la restricțiile de utilizare a sistemelor de IA pentru identificarea biometrică la distanță „în timp real” în spațiile accesibile publicului în scopul asigurării respectării legii, este oportun ca prezentul regulament să se întemeieze, în ceea ce privește normele specifice respective, pe articolul 16 din TFUE. Având în vedere aceste norme specifice și recurgerea la articolul 16 din TFUE, este oportun să se consulte Comitetul european pentru protecția datelor.

(2)

Sistemele de inteligență artificială pot fi implementate cu ușurință în mai multe sectoare ale economiei și societății, inclusiv la nivel transfrontalier, și pot circula în întreaga Uniune. Anumite state membre au explorat deja adoptarea unor norme naționale pentru a se asigura că inteligența artificială este fiabilă și sigură și că este dezvoltată și utilizată în conformitate cu obligațiile în materie de drepturi fundamentale. Normele naționale diferite pot duce la fragmentarea pieței interne și pot reduce gradul de securitate juridică pentru operatorii care dezvoltă sau utilizează sisteme de IA. Prin urmare, ar trebui să se asigure un nivel ridicat și consecvent de protecție în întreaga Uniune pentru se realiza o IA fiabilă , iar divergențele care împiedică libera circulație , inovația, implementarea și adoptarea sistemelor de IA și a produselor și serviciilor conexe în cadrul pieței interne ar trebui prevenite, prin stabilirea unor obligații uniforme pentru operatori și prin garantarea protecției uniforme a motivelor imperative de interes public major și a drepturilor persoanelor în întreaga piață internă, în temeiul articolului 114 din Tratatul privind funcționarea Uniunii Europene (TFUE).

(2a)

Întrucât inteligența artificială se bazează adesea pe prelucrarea unor volume mari de date și numeroase sisteme și aplicații de IA se bazează pe prelucrarea datelor cu caracter personal, este oportun ca prezentul regulament să se întemeieze pe articolul 16 din TFUE, care consacră dreptul persoanelor fizice la protecție în ceea ce privește prelucrarea datelor cu caracter personal și prevede adoptarea de norme privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal.

(2b)

Dreptul fundamental la protecția datelor cu caracter personal este protejat în special de Regulamentul (UE) 2016/679 și Regulamentul (UE) 2018/1725 și de Directiva 2016/680. Directiva 2002/58/CE protejează, în plus, viața privată și confidențialitatea comunicațiilor și prevede inclusiv condiții pentru stocarea oricăror date cu caracter personal și fără caracter personal și accesarea acestora de pe echipamentele terminale. Aceste acte juridice asigură temeiul prelucrării sustenabile și responsabile a datelor, inclusiv în cazul în care seturile de date conțin un amestec de date cu caracter personal și date fără caracter personal. Prezentul regulament nu urmărește să afecteze aplicarea dreptului în vigoare al Uniunii care reglementează prelucrarea datelor cu caracter personal, inclusiv a sarcinilor și competențelor autorităților de supraveghere independente care sunt competente să monitorizeze respectarea acestor instrumente. Prezentul regulament nu aduce atingere drepturilor fundamentale la viață privată și la protecția datelor cu caracter personal prevăzute de dreptul Uniunii privind protecția datelor și a vieții private și consacrate în Carta drepturilor fundamentale a Uniunii Europene („Carta”).

(2c)

Sistemele de inteligență artificială din Uniune fac obiectul legislației aplicabile privind siguranța produselor, care oferă un cadru de protecție a consumatorilor împotriva produselor periculoase în general, iar această legislație ar trebui să se aplice în continuare. De asemenea, prezentul regulament nu aduce atingere normelor prevăzute de alte acte juridice ale Uniunii privind protecția consumatorilor și siguranța produselor, inclusiv Regulamentul (UE) 2017/2394, Regulamentul (UE) 2019/1020, Directiva 2001/95/CE privind siguranța generală a produselor și Directiva 2013/11/UE.

(2d)

În conformitate cu articolul 114 alineatul (2) din TFUE, prezentul regulament completează și nu ar trebui să submineze drepturile și interesele persoanelor încadrate în muncă. Prin urmare, prezentul regulament nu ar trebui să aducă atingere dreptului Uniunii privind politica socială și dreptului și practicilor interne în domeniul muncii, și anume să nu afecteze dispozițiile legale și contractuale privind condițiile de încadrare în muncă, condițiile de muncă, inclusiv sănătatea și siguranța la locul de muncă și relația dintre angajatori și lucrători, inclusiv informarea, consultarea și participarea. Prezentul regulament nu ar trebui să afecteze exercitarea drepturilor fundamentale, astfel cum sunt recunoscute în statele membre și la nivelul Uniunii, inclusiv dreptul sau libertatea de a intra în grevă sau de a întreprinde alte acțiuni reglementate de sistemele specifice de relații de muncă din statele membre, în conformitate cu dreptul și/sau practicile interne. De asemenea, acesta nu ar trebui să afecteze practicile de concertare, dreptul de a negocia, de a încheia și de a pune în aplicare convenții colective sau de a desfășura acțiuni colective în conformitate cu dreptul și/sau practicile naționale. În nicio situație, prezentul regulament nu ar trebui să împiedice Comisia să propună o legislație specifică privind drepturile și libertățile lucrătorilor afectați de sistemele de IA.

(2e)

Prezentul regulament nu ar trebui să aducă atingere dispozițiilor care vizează îmbunătățirea condițiilor de muncă în ceea ce privește munca prin intermediul platformelor prevăzute în Directiva… [COD 2021/414/CE].

(2f)

Prezentul regulament ar trebui să contribuie la sprijinirea cercetării și inovării și nu ar trebui să submineze activitatea de cercetare și dezvoltare și să respecte libertatea cercetării științifice. Prin urmare, este necesar să se excludă din domeniul său de aplicare sistemele de IA dezvoltate în mod specific în scopul exclusiv al cercetării și dezvoltării științifice și să se asigure că regulamentul nu afectează în alt mod activitatea de cercetare și dezvoltare științifică privind sistemele de IA. În orice situație, orice activitate de cercetare și dezvoltare ar trebui să se desfășoare în conformitate cu Carta, cu dreptul Uniunii, precum și cu dreptul național.

(3)

Inteligența artificială este o familie de tehnologii cu evoluție rapidă, care poate genera o gamă largă de beneficii economice și societale în întregul spectru de industrii și activități sociale. Prin îmbunătățirea previziunilor, optimizarea operațiunilor și a alocării resurselor, precum și prin personalizarea soluțiilor digitale disponibile pentru persoane și organizații, utilizarea inteligenței artificiale poate oferi avantaje concurențiale esențiale întreprinderilor și poate sprijini obținerea de rezultate benefice din punct de vedere social și ecologic, de exemplu în domeniul asistenței medicale, al agriculturii, al educației și formării, al gestionării infrastructurii, al energiei, al transporturilor și logisticii, al serviciilor publice, al securității, justiției, eficienței resurselor și energiei, precum și al atenuării schimbărilor climatice și al adaptării la acestea.

(3)

Inteligența artificială este o familie de tehnologii cu evoluție rapidă, care poate să contribuie și contribuie deja la o gamă largă de beneficii economice , de mediu și societale în întregul spectru de industrii și activități sociale dacă este dezvoltată în conformitate cu principiile generale aplicabile în acord cu Carta și cu valorile pe care se întemeiază Uniunea . Prin îmbunătățirea previziunilor, optimizarea operațiunilor și a alocării resurselor, precum și prin personalizarea soluțiilor digitale disponibile pentru persoane și organizații, utilizarea inteligenței artificiale poate oferi avantaje concurențiale esențiale întreprinderilor și poate sprijini obținerea de rezultate benefice din punct de vedere social și ecologic, de exemplu în domeniul asistenței medicale, al agriculturii, al siguranței alimentare, al educației și formării, al mass-mediei, al sporturilor, al culturii, al gestionării infrastructurii, al energiei, al transporturilor și logisticii, al gestionării crizelor, al serviciilor publice, al securității, justiției, eficienței resurselor și energiei , al monitorizării mediului, al conservării și refacerii biodiversității și ecosistemelor , precum și al atenuării schimbărilor climatice și al adaptării la acestea.

(3a)

Pentru a contribui la îndeplinirea obiectivelor privind neutralitatea emisiilor de dioxid de carbon, întreprinderile europene ar trebui să încerce să utilizeze toate progresele tehnologice disponibile care le pot asista în realizarea acestui obiectiv. Inteligența artificială este o tehnologie care are potențialul de a putea fi utilizată la prelucrarea volumului tot mai mare de date create în timpul proceselor industriale, ecologice, sanitare și de altă natură. În scopul de a facilita investițiile în instrumente de analiză și optimizare bazate pe IA, prezentul regulament ar trebui să ofere un mediu previzibil și proporțional pentru soluțiile industriale cu risc scăzut.

(4)

În același timp, în funcție de circumstanțele legate de aplicarea și utilizarea sa specifică, inteligența artificială poate genera riscuri și poate aduce prejudicii intereselor publice și drepturilor care sunt protejate de dreptul Uniunii. Un astfel de prejudiciu ar putea fi material sau moral.

(4)

În același timp, în funcție de circumstanțele legate de aplicarea și utilizarea sa specifică, precum și de nivelul de dezvoltare tehnologică, inteligența artificială poate genera riscuri și poate aduce prejudicii intereselor publice sau private și drepturilor fundamentale ale persoanelor fizice, care sunt protejate de dreptul Uniunii. Un astfel de prejudiciu ar putea fi material sau moral , inclusiv de natură fizică, psihologică, societală sau economică .

(4a)

Având în vedere impactul major pe care inteligența artificială îl poate avea asupra societății și necesitatea de a genera încredere, este esențial ca inteligența artificială și cadrul său normativ să fie dezvoltate în concordanță cu valorile Uniunii consacrate la articolul 2 din TUE, cu drepturile și libertățile fundamentale consacrate în tratate, în Cartă și în dreptul internațional al drepturilor omului. O condiție prealabilă ar trebui să fie ca inteligența artificială să fie o tehnologie centrată pe factorul uman. Aceasta nu ar trebui să înlocuiască autonomia umană și nici să presupună pierderea libertății individuale, ci ar trebui să servească în primul rând nevoilor societății și binelui comun. Ar trebui prevăzute garanții pentru a se asigura dezvoltarea și utilizarea inteligenței artificiale integrate etic, care respectă valorile Uniunii și Carta.

(5)

Prin urmare, este necesar un cadru juridic al Uniunii care să stabilească norme armonizate privind inteligența artificială pentru a încuraja dezvoltarea, utilizarea și adoptarea inteligenței artificiale pe piața internă și care să asigure, în același timp, un nivel ridicat de protecție a intereselor publice, cum ar fi sănătatea , siguranța și protecția drepturilor fundamentale, astfel cum sunt recunoscute și protejate de dreptul Uniunii. Pentru atingerea acestui obiectiv, ar trebui stabilite norme care să reglementeze introducerea pe piață și punerea în funcțiune a anumitor sisteme de IA, asigurând astfel buna funcționare a pieței interne și permițând acestor sisteme să beneficieze de principiul liberei circulații a bunurilor și serviciilor. Prin stabilirea acestor norme, prezentul regulament sprijină obiectivul Uniunii de a se poziționa ca lider mondial în dezvoltarea unei inteligențe artificiale sigure, de încredere și etice, astfel cum a afirmat Consiliul European (33), și asigură protecția principiilor etice, astfel cum a solicitat în mod expres Parlamentul European (34).

(5)

Prin urmare, este necesar un cadru juridic al Uniunii care să stabilească norme armonizate privind inteligența artificială pentru a încuraja dezvoltarea, utilizarea și adoptarea inteligenței artificiale pe piața internă și care să asigure, în același timp, un nivel ridicat de protecție a intereselor publice, cum ar fi sănătatea și siguranța, protecția drepturilor fundamentale , democrația și statul de drept și mediul , astfel cum sunt recunoscute și protejate de dreptul Uniunii. Pentru atingerea acestui obiectiv, ar trebui stabilite norme care să reglementeze introducerea pe piață, punerea în funcțiune și utilizarea anumitor sisteme de IA, asigurând astfel buna funcționare a pieței interne și permițând acestor sisteme să beneficieze de principiul liberei circulații a bunurilor și serviciilor. Aceste norme ar trebui să fie clare și solide în ceea ce privește protejarea drepturilor fundamentale, sprijinirea noilor soluții inovatoare și facilitarea unui ecosistem european de actori publici și privați care creează sisteme de IA în conformitate cu valorile Uniunii. Prin stabilirea acestor norme, precum și a unor măsuri de susținere a inovării cu un accent special pe IMM-uri și întreprinderile nou-înființate, prezentul regulament sprijină obiectivul de promovare a IA create în Europa, de poziționare a Uniunii ca lider mondial în dezvoltarea unei inteligențe artificiale sigure, de încredere și etice, astfel cum a afirmat Consiliul European (33), și asigură protecția principiilor etice, astfel cum a solicitat în mod expres Parlamentul European (34).

(5a)

În plus, pentru a promova dezvoltarea sistemelor de IA în conformitate cu valorile Uniunii, Uniunea trebuie să abordeze principalele lacune și bariere care blochează potențialul transformării digitale, inclusiv deficitul de lucrători cu competențe digitale, preocupările în materie de securitate cibernetică, lipsa investițiilor și accesul la investiții, precum și decalajele existente și potențiale dintre întreprinderile mari, IMM-uri și întreprinderile nou-înființate. Ar trebui să se acorde o atenție deosebită asigurării faptului că beneficiile IA și ale inovării în domeniul noilor tehnologii sunt resimțite în toate regiunile Uniunii și că sunt puse la dispoziție suficiente investiții și resurse, în special pentru regiunile care ar putea înregistra întârzieri în ceea ce privește unii indicatori digitali.

(6)

Noțiunea de sistem de IA ar trebui definită în mod clar pentru a asigura securitatea juridică, oferind, în același timp, flexibilitatea necesară pentru a ține seama de evoluțiile tehnologice viitoare . Definiția ar trebui să se bazeze pe caracteristicile funcționale esențiale ale software-ului , în special pe capacitatea , pentru un anumit set de obiective definite de om, de a  genera rezultate cum ar fi conținutul , previziunile, recomandările sau deciziile care influențează mediul cu care interacționează sistemul, fie că este vorba de o dimensiune fizică, fie de una digitală . Sistemele de IA pot fi proiectate pentru a funcționa cu diferite niveluri de autonomie și pot fi utilizate în mod independent sau ca o componentă a unui produs, indiferent dacă sistemul este integrat fizic în produs (încorporat) sau dacă servește funcționalității produsului fără a fi integrat în acesta (neîncorporat). Definiția sistemului de IA ar trebui să fie completată de o listă de tehnici și abordări specifice utilizate pentru dezvoltarea sa , care ar trebui să fie actualizată în lumina evoluțiilor tehnologice și ale pieței prin adoptarea de acte delegate de către Comisie pentru modificarea listei respective .

(6)

Noțiunea de sistem de IA din prezentul regulament ar trebui definită în mod clar și aliniată îndeaproape la activitatea organizațiilor internaționale care lucrează în domeniul inteligenței artificiale, pentru a asigura securitatea juridică, armonizarea și acceptarea pe scară largă, oferind, în același timp, flexibilitatea necesară pentru a ține seama de evoluțiile tehnologice rapide din acest domeniu . Mai mult, aceasta ar trebui să se bazeze pe caracteristicile esențiale ale inteligenței artificiale , cum ar fi capacitățile sale de învățare, de raționament sau de modelare , pentru a o diferenția de sistemele software sau de abordările de programare mai simple. Sistemele de IA sunt proiectate pentru a  funcționa cu diferite niveluri de autonomie , ceea ce înseamnă că au cel puțin un anumit grad de independență a acțiunilor față de controlul uman și capacități de a funcționa fără intervenție umană . Termenul „bazat pe calculator” se referă la faptul că sistemele de IA rulează pe calculatoare. Trimiterea la obiective explicite sau implicite subliniază faptul că sistemele de IA pot funcționa în conformitate cu obiective explicite definite de om sau cu obiective implicite. Obiectivele sistemului de IA pot fi diferite de scopul preconizat al sistemului de IA într-un context specific. Trimiterea la previziuni include conținutul, care este considerat în prezentul regulament drept o formă de previziune, fiind unul dintre rezultatele posibile produse de un sistem de IA . În sensul prezentului regulament, mediile ar trebui înțelese ca fiind contextele în care funcționează sistemele de IA, în timp ce rezultatele generate de sistemul de IA, adică previziunile, recomandările sau deciziile , răspund obiectivelor sistemului, pe baza datelor de intrare din mediul respectiv. Aceste rezultate influențează și mai mult mediul respectiv, chiar și prin simpla introducere a unor noi informații.

(6a)

Sistemele de IA dispun adeseori de capacități de învățare automată care le permit să se adapteze și să îndeplinească noi sarcini în mod autonom. Învățarea automată se referă la procesul de calcul constând în optimizarea, pe baza unor date, a parametrilor unui model, care este o construcție matematică generând un rezultat pornind de la date de intrare. Abordările de învățare automată includ, de pildă, învățarea supervizată, învățarea nesupervizată și învățarea complementară, utilizând o gamă de metode, inclusiv învățarea aprofundată cu rețele neuronale. Prezentul regulament vizează abordarea noilor riscuri potențiale care pot apărea prin delegarea controlului către sistemele de IA, în special către acele sisteme de IA care pot evolua după implementare. Funcția și rezultatele multora dintre aceste sisteme de IA se bazează pe relații matematice abstracte, pe care oamenii au dificultății să le înțeleagă, să le monitorizeze și să le identifice datele de intrare specifice. Aceste caracteristici complexe și opace (elementul „cutie neagră”) influențează răspunderea și explicabilitatea. Tehnicile comparabil mai simple, cum ar fi abordările bazate pe cunoaștere, estimarea bayeziană sau arborii decizionali pot conduce, de asemenea, la lacune juridice care trebuie abordate în prezentul regulament, în special atunci când sunt utilizate în combinație cu abordările învățării automate în sistemele hibride.

(6b)

Sistemele de IA pot fi utilizate ca sistem software de sine stătător, pot fi integrate într-un produs fizic (încorporate), pot fi utilizate pentru a servi funcționalității unui produs fizic fără a fi integrate în acesta (neîncorporate) sau pot fi utilizate ca o componentă de IA a unui sistem mai mare. Dacă acest sistem mai mare nu ar funcționa fără componenta de IA în cauză, atunci întregul sistem mai mare ar trebui considerat ca fiind un singur sistem de IA în temeiul prezentului regulament.

(7)

Noțiunea de date biometrice utilizată în prezentul regulament este în concordanță cu noțiunea de date biometrice astfel cum este definită la articolul 4 alineatul (14) din Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului (35), la articolul 3 alineatul (18) din Regulamentul (UE) 2018/1725 al Parlamentului European și al Consiliului  (36) și la articolul 3 alineatul (13) din Directiva (UE) 2016/680 a  Parlamentului European și a Consiliului  (37) și ar trebui interpretată în concordanță cu aceasta .

(7)

Noțiunea de date biometrice utilizată în prezentul regulament este în concordanță cu noțiunea de date biometrice astfel cum este definită la articolul 4 alineatul (14) din Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului (35) . Datele bazate pe date biometrice sunt date suplimentare care rezultă în urma unei prelucrări tehnice specifice referitoare la semnalele fizice, fiziologice sau comportamentale ale unei persoane fizice, cum ar fi expresiile faciale, mișcările, frecvența pulsului, vocea, modul de apăsare a  tastelor sau mersul, care pot permite sau nu sau care pot confirma identificarea unică a unei persoane fizice .

(7a)

Noțiunea de identificare biometrică astfel cum este utilizată în prezentul regulament ar trebui definită drept recunoașterea automată a unor trăsături umane fizice, fiziologice, comportamentale și psihologice, precum fața, mișcările ochilor, expresiile faciale, forma corpului, vocea, vorbirea, mersul, postura, frecvența cardiacă, tensiunea arterială, mirosul, particularitățile de tastare, reacțiile psihologice (furie, nemulțumire, tristețe etc.), în scopul de a stabili identitatea unei persoane comparând datele biometrice ale persoanei respective cu date biometrice ale persoanelor stocate într-o bază de date (identificarea de tip „unul la mai mulți”), indiferent dacă persoana în cauză și-a dat sau nu consimțământul.

(7b)

Noțiunea de clasificare biometrică utilizată în prezentul regulament ar trebui definită drept încadrarea persoanelor fizice în categorii specifice sau deducerea caracteristicilor și atributelor acestora, cum ar fi genul, sexul, vârsta, culoarea părului, culoarea ochilor, tatuajele, originea etnică sau socială, starea de sănătate, capacitățile mintale sau fizice, trăsăturile comportamentale sau de personalitate, limba, religia sau apartenența la o minoritate națională sau orientarea sexuală sau politică, pe baza datelor lor biometrice sau a datelor bazate pe date biometrice, sau care pot fi deduse în mod rezonabil pe baza acestor date.

(8)

Noțiunea de sistem de identificare biometrică la distanță, astfel cum este utilizată în prezentul regulament, ar trebui definită din punct de vedere funcțional ca fiind un sistem de IA destinat identificării persoanelor fizice la distanță prin compararea datelor biometrice ale unei persoane cu datele biometrice conținute într-o bază de date de referință și fără a se cunoaște în prealabil dacă persoana vizată va fi prezentă și dacă poate fi identificată, indiferent de tehnologia, procesele sau tipurile specifice de date biometrice utilizate. Având în vedere diferitele caracteristici și moduri în care sunt utilizate, precum și diferitele riscuri implicate, ar trebui să se facă o distincție între sistemele de identificare biometrică la distanță „în timp real” și „ulterior”. În cazul sistemelor „în timp real”, captarea datelor biometrice, compararea și identificarea se efectuează instantaneu, aproape instantaneu sau, în orice caz, fără întârzieri semnificative. În acest sens, nu ar trebui să existe posibilități de eludare a normelor prezentului regulament privind utilizarea „în timp real” a sistemelor de IA în cauză prin prevederea unor întârzieri minore. Sistemele „în timp real” implică utilizarea de materiale „în direct” sau „aproape în direct”, cum ar fi înregistrări video, generate de o cameră video sau de un alt dispozitiv cu funcționalitate similară. În schimb, în cazul sistemelor de identificare „ulterioară”, datele biometrice au fost deja captate, iar compararea și identificarea au loc numai după o întârziere semnificativă. Este vorba despre materiale, cum ar fi imagini sau înregistrări video generate de camere de televiziune cu circuit închis sau de dispozitive private, care au fost generate înainte de utilizarea sistemului în legătură cu persoanele fizice în cauză.

(8)

Noțiunea de sistem de identificare biometrică la distanță, astfel cum este utilizată în prezentul regulament, ar trebui definită din punct de vedere funcțional ca fiind un sistem de IA destinat identificării persoanelor fizice la distanță prin compararea datelor biometrice ale unei persoane cu datele biometrice conținute într-o bază de date de referință și fără a se cunoaște în prealabil dacă persoana vizată va fi prezentă și dacă poate fi identificată, indiferent de tehnologia, procesele sau tipurile specifice de date biometrice utilizate , cu excepția sistemelor de verificare care doar compară datele biometrice ale unei persoane cu datele biometrice ale acesteia furnizate anterior (comparație între două seturi de date), Având în vedere diferitele caracteristici și moduri în care sunt utilizate, precum și diferitele riscuri implicate, ar trebui să se facă o distincție între sistemele de identificare biometrică la distanță „în timp real” și „ulterior”. În cazul sistemelor „în timp real”, captarea datelor biometrice, compararea și identificarea se efectuează instantaneu, aproape instantaneu sau, în orice caz, fără întârzieri semnificative. În acest sens, nu ar trebui să existe posibilități de eludare a normelor prezentului regulament privind utilizarea „în timp real” a sistemelor de IA în cauză prin prevederea unor întârzieri minore. Sistemele „în timp real” implică utilizarea de materiale „în direct” sau „aproape în direct”, cum ar fi înregistrări video, generate de o cameră video sau de un alt dispozitiv cu funcționalitate similară. În schimb, în cazul sistemelor de identificare „ulterioară”, datele biometrice au fost deja captate, iar compararea și identificarea au loc numai după o întârziere semnificativă. Este vorba despre materiale, cum ar fi imagini sau înregistrări video generate de camere de televiziune cu circuit închis sau de dispozitive private, care au fost generate înainte de utilizarea sistemului în legătură cu persoanele fizice în cauză. Dat fiind că noțiunea de identificare biometrică este independentă de consimțământul persoanei, această definiție se aplică chiar și atunci când sunt amplasate avertismente în locul care se află sub supravegherea sistemului de identificare biometrică la distanță și nu este anulată de facto prin preînregistrare.

(8a)

Identificarea persoanelor fizice la distanță are ca obiectiv să facă distincția între sistemele de identificare biometrică la distanță și sistemele de verificare individuală din imediata apropiere care utilizează mijloace de identificare biometrică, al căror unic scop este de a confirma dacă o anumită persoană fizică care se prezintă pentru identificare este sau nu autorizată, de exemplu pentru a avea acces la un serviciu, la un dispozitiv sau la un sediu.

(9)

În sensul prezentului regulament, noțiunea de spațiu accesibil publicului ar trebui înțeleasă ca referindu-se la orice loc fizic accesibil publicului, indiferent dacă locul în cauză este proprietate privată sau publică. Prin urmare, noțiunea nu acoperă locurile care sunt private în esență și care, în mod normal, nu sunt accesibile în mod liber terților, inclusiv autorităților de aplicare a legii, cu excepția cazului în care părțile respective au fost invitate sau autorizate în mod specific, cum ar fi locuințele, cluburile private, birourile, depozitele și fabricile. Spațiile online nu sunt nici ele acoperite, deoarece nu sunt spații fizice. Cu toate acestea, simplul fapt că se pot aplica anumite condiții pentru accesarea unui anumit spațiu, cum ar fi biletele de intrare sau restricțiile de vârstă, nu înseamnă că spațiul nu este accesibil publicului în sensul prezentului regulament. Prin urmare, pe lângă spațiile publice, cum ar fi străzile, părțile relevante ale clădirilor guvernamentale și cea mai mare parte a infrastructurii de transport, spațiile precum cinematografele, teatrele, magazinele și centrele comerciale sunt, de asemenea, accesibile publicului în mod normal. Cu toate acestea, ar trebui să se stabilească de la caz la caz dacă un anumit spațiu este accesibil publicului, având în vedere particularitățile situației individuale în cauză.

(9)

În sensul prezentului regulament, noțiunea de spațiu accesibil publicului ar trebui înțeleasă ca referindu-se la orice loc fizic accesibil publicului, indiferent dacă locul în cauză este proprietate privată sau publică și indiferent de potențialele restricții de capacitate . Prin urmare, noțiunea nu acoperă locurile care sunt private în esență și care, în mod normal, nu sunt accesibile în mod liber terților, inclusiv autorităților de aplicare a legii, cu excepția cazului în care părțile respective au fost invitate sau autorizate în mod specific, cum ar fi locuințele, cluburile private, birourile, depozitele și fabricile. Spațiile online nu sunt nici ele acoperite, deoarece nu sunt spații fizice. Cu toate acestea, simplul fapt că se pot aplica anumite condiții pentru accesarea unui anumit spațiu, cum ar fi biletele de intrare sau restricțiile de vârstă, nu înseamnă că spațiul nu este accesibil publicului în sensul prezentului regulament. Prin urmare, pe lângă spațiile publice, cum ar fi străzile, părțile relevante ale clădirilor guvernamentale și cea mai mare parte a infrastructurii de transport, spațiile precum cinematografele, teatrele, terenurile de sport, școlile, universitățile, părțile relevante ale spitalelor și băncilor, parcurile de distracție, festivalurile, magazinele și centrele comerciale sunt, de asemenea, accesibile publicului în mod normal. Cu toate acestea, ar trebui să se stabilească de la caz la caz dacă un anumit spațiu este accesibil publicului, având în vedere particularitățile situației individuale în cauză.

(9a)

Este important să se remarce faptul că sistemele de IA ar trebui să depună toate eforturile pentru a respecta principiile generale care instituie un cadru la nivel înalt ce promovează o abordare coerentă, centrată pe factorul uman pentru o IA etică și fiabilă, în conformitate cu Carta drepturilor fundamentale a Uniunii Europene și cu valorile pe care se întemeiază Uniunea, inclusiv protecția drepturilor fundamentale, implicarea și supravegherea umană, robustețea tehnică și siguranța, protecția vieții private și guvernanța datelor, transparența, nediscriminarea și echitatea și bunăstarea societății și a mediului.

(9b)

„Alfabetizarea în domeniul IA” se referă la competențele, cunoștințele și înțelegerea care le permite furnizorilor, utilizatorilor și persoanelor afectate, ținând cont de drepturile și obligațiile fiecărei categorii în contextul prezentului regulament, să implementeze sistemele de IA în cunoștință de cauză și să conștientizeze posibilitățile și riscurile pe care le implică IA, precum și posibilele prejudicii pe care le poate aduce și, prin urmare, să promoveze controlul său democratic. Alfabetizarea în domeniul IA nu ar trebui să se limiteze la învățarea despre instrumente și tehnologii, ci ar trebui să vizeze și înzestrarea furnizorilor și utilizatorilor cu noțiunile și competențele necesare pentru a asigura conformitatea cu prezentul regulament și asigurarea respectării acestuia. Prin urmare, este necesar ca Comisia, statele membre, precum și furnizorii și utilizatorii de sisteme de IA, în cooperare cu toate părțile interesate relevante, să promoveze dezvoltarea unui nivel suficient de alfabetizare în domeniul IA, în toate sectoarele societății, pentru persoanele de toate vârstele, inclusiv pentru femei și fete, și ca progresele în acest sens să fie urmărite îndeaproape.

(10)

Pentru a asigura condiții de concurență echitabile și o protecție eficace a drepturilor și libertăților persoanelor fizice în întreaga Uniune, normele stabilite prin prezentul regulament ar trebui să se aplice în mod nediscriminatoriu furnizorilor de sisteme de IA, indiferent dacă sunt stabiliți în Uniune sau într-o țară terță, precum și utilizatorilor de sisteme de IA stabiliți în Uniune.

(10)

Pentru a asigura condiții de concurență echitabile și o protecție eficace a drepturilor și libertăților persoanelor fizice în întreaga Uniune și la nivel internațional , normele stabilite prin prezentul regulament ar trebui să se aplice în mod nediscriminatoriu furnizorilor de sisteme de IA, indiferent dacă sunt stabiliți în Uniune sau într-o țară terță, precum și utilizatorilor de sisteme de IA stabiliți în Uniune. Pentru ca Uniunea să fie fidelă valorilor sale fundamentale, sistemele de IA destinate a fi utilizate pentru practici care sunt considerate inacceptabile de prezentul regulament ar trebui, de asemenea, să fie considerate inacceptabile în afara Uniunii din cauza efectului lor deosebit de dăunător asupra drepturilor fundamentale, astfel cum sunt consacrate în Cartă. Prin urmare, este oportun să se interzică exportul unor astfel de sisteme de IA către țări terțe de către furnizorii care își au reședința în Uniune.

(11)

Având în vedere natura lor digitală, anumite sisteme de IA ar trebui să intre în domeniul de aplicare al prezentului regulament chiar și atunci când nu sunt introduse pe piață, nu sunt puse în funcțiune și nu sunt utilizate în Uniune. Acesta este cazul, de exemplu, al unui operator stabilit în Uniune care contractează anumite servicii unui operator stabilit în afara Uniunii în legătură cu o activitate care urmează să fie desfășurată de un sistem de IA care s-ar califica drept sistem cu risc ridicat și ale cărei efecte ar avea un impact asupra persoanelor fizice situate în Uniune. În aceste circumstanțe, sistemul de IA utilizat de operatorul din afara Uniunii ar putea prelucra datele colectate în mod legal în Uniune și transferate din Uniune și ar putea furniza operatorului contractant din Uniune rezultatele produse de sistemul de IA respectiv ca urmare a prelucrării respective, fără ca respectivul sistem de IA să fie introdus pe piață, pus în funcțiune sau utilizat în Uniune. Pentru a preveni eludarea prezentului regulament și pentru a asigura o protecție eficace a persoanelor fizice situate în Uniune, prezentul regulament ar trebui să se aplice, de asemenea, furnizorilor și utilizatorilor de sisteme de IA care sunt stabiliți într-o țară terță, în măsura în care producția realizată de sistemele respective este utilizată în Uniune. Cu toate acestea, pentru a ține seama de acordurile existente și de nevoile speciale de cooperare cu partenerii străini cu care se fac schimburi de informații și probe, prezentul regulament nu ar trebui să se aplice autorităților publice ale unei țări terțe și organizațiilor internaționale atunci când acționează în cadrul acordurilor internaționale încheiate la nivel național sau european pentru asigurarea respectării legii și în contextul cooperării judiciare cu Uniunea sau cu statele sale membre. Astfel de acorduri au fost încheiate bilateral între statele membre și țările terțe sau între Uniunea Europeană, Europol și alte agenții ale UE și țări terțe și organizații internaționale.

(11)

Având în vedere natura lor digitală, anumite sisteme de IA ar trebui să intre în domeniul de aplicare al prezentului regulament chiar și atunci când nu sunt introduse pe piață, nu sunt puse în funcțiune și nu sunt utilizate în Uniune. Acesta este cazul, de exemplu, al unui operator stabilit în Uniune care contractează anumite servicii unui operator stabilit în afara Uniunii în legătură cu o activitate care urmează să fie desfășurată de un sistem de IA care s-ar califica drept sistem cu risc ridicat și ale cărei efecte ar avea un impact asupra persoanelor fizice situate în Uniune. În aceste circumstanțe, sistemul de IA utilizat de operatorul din afara Uniunii ar putea prelucra datele colectate în mod legal în Uniune și transferate din Uniune și ar putea furniza operatorului contractant din Uniune rezultatele produse de sistemul de IA respectiv ca urmare a prelucrării respective, fără ca respectivul sistem de IA să fie introdus pe piață, pus în funcțiune sau utilizat în Uniune. Pentru a preveni eludarea prezentului regulament și pentru a asigura o protecție eficace a persoanelor fizice situate în Uniune, prezentul regulament ar trebui să se aplice, de asemenea, furnizorilor și utilizatorilor operatori de sisteme de IA care sunt stabiliți într-o țară terță, în măsura în care producția realizată de sistemele respective este preconizată a fi utilizată în Uniune. Cu toate acestea, pentru a ține seama de acordurile existente și de nevoile speciale de cooperare cu partenerii străini cu care se fac schimburi de informații și probe, prezentul regulament nu ar trebui să se aplice autorităților publice ale unei țări terțe și organizațiilor internaționale atunci când acționează în cadrul acordurilor internaționale încheiate la nivel național sau european pentru asigurarea respectării legii și în contextul cooperării judiciare cu Uniunea sau cu statele sale membre. Astfel de acorduri au fost încheiate bilateral între statele membre și țările terțe sau între Uniunea Europeană, Europol și alte agenții ale UE și țări terțe și organizații internaționale. Această excepție ar trebui totuși limitată la țările de încredere și la organizațiile internaționale care împărtășesc valorile Uniunii.

(12)

Prezentul regulament ar trebui să se aplice, de asemenea, instituțiilor, oficiilor, organelor și agențiilor Uniunii atunci când acționează în calitate de furnizor sau utilizator al unui sistem de IA. Sistemele de IA dezvoltate sau utilizate exclusiv în scopuri militare ar trebui excluse din domeniul de aplicare al prezentului regulament în cazul în care utilizarea respectivă intră în sfera de competență exclusivă a politicii externe și de securitate comune, reglementată în temeiul titlului V din Tratatul privind Uniunea Europeană (TUE). Prezentul regulament nu ar trebui să aducă atingere dispozițiilor privind răspunderea furnizorilor de servicii intermediari prevăzute în Directiva 2000/31/CE a Parlamentului European și a Consiliului [astfel cum a fost modificată prin Actul legislativ privind serviciile digitale].

(12)

Prezentul regulament ar trebui să se aplice, de asemenea, instituțiilor, oficiilor, organelor și agențiilor Uniunii atunci când acționează în calitate de furnizor sau operator al unui sistem de IA. Sistemele de IA dezvoltate sau utilizate exclusiv în scopuri militare ar trebui excluse din domeniul de aplicare al prezentului regulament în cazul în care utilizarea respectivă intră în sfera de competență exclusivă a politicii externe și de securitate comune, reglementată în temeiul titlului V din Tratatul privind Uniunea Europeană (TUE). Prezentul regulament nu ar trebui să aducă atingere dispozițiilor privind răspunderea furnizorilor de servicii intermediari prevăzute în Directiva 2000/31/CE a Parlamentului European și a Consiliului [astfel cum a fost modificată prin Actul legislativ privind serviciile digitale].

(12a)

Software-ul și datele care sunt partajate în mod deschis și pe care utilizatorii le pot accesa, utiliza, modifica și redistribui în mod liber sau versiunile modificate ale acestora pot contribui la cercetarea și inovarea pe piață. De asemenea, studii ale Comisiei arată că software-ul liber cu sursă deschisă poate avea o contribuție cuprinsă între 65 și 95 de miliarde EUR la PIB-ul Uniunii și poate oferi posibilități de creștere semnificative pentru economia europeană. Utilizatorilor li se permite să ruleze, să copieze, să distribuie, să studieze, să modifice și să îmbunătățească software-ul și datele, inclusiv modelele, prin licențe libere și cu sursă deschisă. Pentru a încuraja dezvoltarea și implementarea IA, în special de către IMM-uri, întreprinderi nou-înființate, cercetători academici, dar și de către persoane fizice, prezentul regulament nu ar trebui să se aplice unor astfel de componente de IA gratuite și cu sursă deschisă, cu excepția cazului în care acestea sunt introduse pe piață sau puse în funcțiune de un furnizor ca parte a unui sistem de IA cu grad ridicat de risc sau a unui sistem de IA care intră sub incidența titlului II sau IV din prezentul regulament.

(12b)

Nici dezvoltarea colaborativă a unor componente de IA gratuite și cu sursă deschisă, nici punerea lor la dispoziție în registre deschise nu ar trebui să constituie o introducere pe piață sau o punere în funcțiune. O activitate comercială, în sensul punerii la dispoziție pe piață, ar putea fi însă caracterizată prin perceperea unui preț, cu excepția tranzacțiilor între microîntreprinderi, pentru o componentă de IA gratuită și cu sursă deschisă, dar și prin perceperea unui preț pentru serviciile de suport tehnic, prin furnizarea unei platforme software prin intermediul căreia furnizorul monetizează alte servicii sau prin utilizarea datelor cu caracter personal în alte scopuri decât îmbunătățirea exclusivă a securității, a compatibilității sau a interoperabilității software-ului.

(12c)

Dezvoltatorii de componente de IA gratuite și cu sursă deschisă nu ar trebui să fie obligați în temeiul prezentului regulament să respecte cerințele care vizează lanțul valoric al IA și, în special, aceste cerințe nu ar trebui să vizeze furnizorul care a utilizat respectiva componentă de IA gratuită și cu sursă deschisă. Dezvoltatorii de componente de IA gratuite și cu sursă deschisă ar trebui, cu toate acestea, să fie încurajați să pună în aplicare practici de documentare adoptate pe scară largă, cum ar fi modelele și cardurile de date, ca modalitate de a accelera schimbul de informații de-a lungul lanțului valoric al IA, permițând promovarea unor sisteme de IA fiabile în Uniune.

(13)

Pentru a asigura un nivel consecvent și ridicat de protecție a intereselor publice în ceea ce privește sănătatea, siguranța și drepturile fundamentale, ar trebui stabilite standarde normative comune pentru toate sistemele de IA cu grad ridicat de risc. Aceste standarde ar trebui să fie în concordanță cu Carta drepturilor fundamentale a Uniunii Europene ( „Carta” ) și ar trebui să fie nediscriminatorii și în conformitate cu angajamentele comerciale internaționale ale Uniunii.

(13)

Pentru a asigura un nivel consecvent și ridicat de protecție a intereselor publice în ceea ce privește sănătatea, siguranța și drepturile fundamentale, precum și democrația, statul de drept și mediul, ar trebui stabilite standarde normative comune pentru toate sistemele de IA cu grad ridicat de risc. Aceste standarde ar trebui să fie în concordanță cu Carta , cu Pactul verde european, cu Declarația comună a Uniunii privind drepturile digitale și cu Orientările în materie de etică pentru o inteligență artificială ( IA ) de încredere ale Grupului de experți la nivel înalt privind inteligența artificială și ar trebui să fie nediscriminatorii și în conformitate cu angajamentele internaționale ale Uniunii.

(14)

Pentru a introduce un set proporțional și eficace de norme obligatorii pentru sistemele de IA, ar trebui urmată o abordare bazată pe riscuri clar definită. Această abordare ar trebui să adapteze tipul și conținutul unor astfel de norme la intensitatea și amploarea riscurilor pe care le pot genera sistemele de IA. Prin urmare, este necesar să se interzică anumite practici în domeniul inteligenței artificiale, să se stabilească cerințe pentru sistemele de IA cu grad ridicat de risc și obligații pentru operatorii relevanți și să se stabilească obligații în materie de transparență pentru anumite sisteme de IA.

(14)

Pentru a introduce un set proporțional și eficace de norme obligatorii pentru sistemele de IA, ar trebui urmată o abordare bazată pe riscuri clar definită. Această abordare ar trebui să adapteze tipul și conținutul unor astfel de norme la intensitatea și amploarea riscurilor pe care le pot genera sistemele de IA. Prin urmare, este necesar să se interzică anumite practici inacceptabile în domeniul inteligenței artificiale, să se stabilească cerințe pentru sistemele de IA cu grad ridicat de risc și obligații pentru operatorii relevanți și să se stabilească obligații în materie de transparență pentru anumite sisteme de IA.

(15)

Pe lângă numeroasele utilizări benefice ale inteligenței artificiale, această tehnologie poate fi utilizată în mod abuziv și poate oferi instrumente noi și puternice pentru practici de manipulare, exploatare și control social. Astfel de practici sunt deosebit de nocive și ar trebui interzise deoarece contravin valorilor Uniunii privind respectarea demnității umane, a libertății, a egalității, a democrației și a statului de drept, precum și a drepturilor fundamentale ale Uniunii, inclusiv a dreptului la nediscriminare, a protecției datelor și a vieții private, precum și a drepturilor copilului.

(15)

Pe lângă numeroasele utilizări benefice ale inteligenței artificiale, această tehnologie poate fi utilizată în mod abuziv și poate oferi instrumente noi și puternice pentru practici de manipulare, exploatare și control social. Astfel de practici sunt deosebit de nocive și abuzive și ar trebui interzise deoarece contravin valorilor Uniunii privind respectarea demnității umane, a libertății, a egalității, a democrației și a statului de drept, precum și a drepturilor fundamentale ale Uniunii, inclusiv a dreptului la nediscriminare, a protecției datelor și a vieții private, precum și a drepturilor copilului.

(16)

Ar trebui interzisă introducerea pe piață, punerea în funcțiune sau utilizarea anumitor sisteme de IA destinate să denatureze comportamentul uman, în cazul cărora este probabil să se aducă prejudicii fizice sau psihice. Astfel de sisteme de IA implementează componente subliminale pe care persoanele nu le pot percepe sau exploatează vulnerabilitățile copiilor și ale oamenilor ca urmare a  vârstei și incapacității fizice sau mentale a acestora. Ele fac acest lucru cu intenția de a denatura în mod semnificativ comportamentul unei persoane și într-un mod care cauzează sau ar putea cauza prejudicii persoanei respective sau unei alte persoane. Intenția nu poate fi prezumată în cazul în care denaturarea comportamentului uman rezultă din factori externi sistemului de IA, care se află în afara controlului furnizorului sau al utilizatorului. Cercetarea în scopuri legitime în legătură cu astfel de sisteme de IA nu ar trebui să fie împiedicată de interdicție, în cazul în care o astfel de cercetare nu echivalează cu utilizarea sistemului de IA în relațiile om-mașină, provocând prejudicii persoanelor fizice, iar o astfel de cercetare se desfășoară în conformitate cu standardele etice recunoscute pentru cercetarea științifică.

(16)

Ar trebui interzisă introducerea pe piață, punerea în funcțiune sau utilizarea anumitor sisteme de IA care au drept obiectiv sau al căror efect este să denatureze în mod semnificativ comportamentul uman, în cazul cărora este probabil să se aducă prejudicii fizice sau psihice. Această limitare ar trebui înțeleasă ca incluzând neurotehnologiile asistate de sisteme de IA care sunt folosite pentru a monitoriza, a utiliza sau a influența datele neurale colectate prin interfețele dintre creier și calculator, în măsura în care acestea denaturează în mod semnificativ comportamentul unei persoane fizice într-un mod care cauzează sau este probabil să cauzeze prejudicii semnificative persoanei respective sau altei persoane. Astfel de sisteme de IA implementează componente subliminale pe care persoanele nu le pot percepe sau exploatează vulnerabilitățile persoanelor și al unor grupuri specifice de persoane ca urmare a  trăsăturilor de personalitate cunoscute sau preconizate, vârstei incapacității fizice sau mentale , situației sociale sau economice a acestora. Ele fac acest lucru cu intenția sau efectul de a denatura în mod semnificativ comportamentul unei persoane și într-un mod care cauzează sau ar putea cauza prejudicii semnificative persoanei respective sau unei alte persoane sau unor grupuri de persoane, inclusiv prejudicii care se pot acumula în timp . Intenția de a denatura comportamentul nu poate fi prezumată în cazul în care denaturarea rezultă din factori care se află în afara controlului furnizorului sau al utilizatorului , cum ar fi factori care nu pot fi prevăzuți și atenuați în mod rezonabil și atenuați de către furnizorul sau operatorul sistemului de IA. În orice caz, nu este necesar ca furnizorul sau operatorul să aibă intenția de a cauza prejudiciul semnificativ, atât timp cât un astfel de prejudiciu rezultă din practicile de manipulare sau exploatare bazate pe IA. Interdicțiile pentru astfel de practici de IA sunt complementare dispozițiilor cuprinse în Directiva 2005/29/CE, potrivit cărora practicile comerciale neloiale sunt interzise, indiferent dacă au recurs sau nu la sisteme de IA. În acest context, practicile comerciale legale, de exemplu în domeniul publicității, care sunt în conformitate cu dreptul Uniunii nu ar trebui considerate, în sine, ca încălcând interdicția. Cercetarea în scopuri legitime în legătură cu astfel de sisteme de IA nu ar trebui să fie împiedicată de interdicție, în cazul în care o astfel de cercetare nu echivalează cu utilizarea sistemului de IA în relațiile om-mașină, provocând prejudicii persoanelor fizice, iar o astfel de cercetare se desfășoară în conformitate cu standardele etice recunoscute pentru cercetarea științifică și pe baza consimțământului specific în cunoștință de cauză al persoanelor care sunt expuse la aceasta sau, după caz, al tutorelui lor legal .

(16a)

Sistemele de IA care clasifică persoanele fizice prin încadrarea acestora în categorii specifice, în funcție de caracteristici sensibile sau protejate cunoscute sau deduse, sunt deosebit de intruzive, încalcă demnitatea umană și prezintă un risc ridicat de discriminare. Aceste caracteristici includ genul, identitatea de gen, rasa, originea etnică, statutul de migrație sau cetățenie, orientarea politică, orientarea sexuală, religia, dizabilitatea sau orice alt motiv pentru care discriminarea este interzisă în temeiul articolului 21 din Carta drepturilor fundamentale a Uniunii Europene, precum și în temeiul articolului 9 din Regulamentul (UE) 2016/769. Prin urmare, astfel de sisteme ar trebui interzise.

(17)

Sistemele de IA care oferă o evaluare a comportamentului social al persoanelor fizice în scopuri generale de către autoritățile publice sau în numele acestora pot genera rezultate discriminatorii și excluderea anumitor grupuri. Acestea pot încălca dreptul la demnitate și nediscriminare, precum și valorile egalității și justiției. Astfel de sisteme de IA evaluează sau clasifică credibilitatea persoanelor fizice pe baza comportamentului lor social în contexte multiple sau a unor caracteristici personale sau de personalitate cunoscute sau preconizate. Punctajul privind comportamentul social obținut din astfel de sisteme de IA poate duce la un tratament negativ sau nefavorabil al persoanelor fizice sau al unor grupuri întregi de astfel de persoane în contexte sociale care nu au legătură cu contextul în care datele au fost inițial generate sau colectate sau la un tratament defavorabil care este disproporționat sau nejustificat în raport cu gravitatea comportamentului lor social. Prin urmare, astfel de sisteme de IA ar trebui interzise.

(17)

Sistemele de IA care oferă o evaluare a comportamentului social al persoanelor fizice în scopuri generale pot genera rezultate discriminatorii și excluderea anumitor grupuri. Acestea încalcă dreptul la demnitate și nediscriminare, precum și valorile egalității și justiției. Astfel de sisteme de IA evaluează sau clasifică persoanele fizice sau grupurile pe baza mai multor puncte de informații și ocurențe aferente comportamentului lor social în contexte multiple sau a unor caracteristici personale sau de personalitate cunoscute , deduse sau preconizate. Punctajul privind comportamentul social obținut din astfel de sisteme de IA poate duce la un tratament negativ sau nefavorabil al persoanelor fizice sau al unor grupuri întregi de astfel de persoane în contexte sociale care nu au legătură cu contextul în care datele au fost inițial generate sau colectate sau la un tratament defavorabil care este disproporționat sau nejustificat în raport cu gravitatea comportamentului lor social. Prin urmare, astfel de sisteme de IA ar trebui interzise.

(18)

Utilizarea sistemelor de IA pentru identificarea biometrică „în timp real” a persoanelor fizice în spațiile accesibile publicului în scopul asigurării respectării legii este considerată deosebit de intruzivă pentru drepturile și libertățile persoanelor în cauză , în măsura în care poate afecta viața privată a unei părți mari a populației, evocă un sentiment de supraveghere constantă și descurajează indirect exercitarea libertății de întrunire și a altor drepturi fundamentale. În plus, caracterul imediat al impactului și posibilitățile limitate de a efectua verificări sau corecții suplimentare în ceea ce privește utilizarea unor astfel de sisteme care funcționează în timp real implică riscuri sporite pentru drepturile și libertățile persoanelor vizate de activitățile de asigurare a respectării legii.

(18)

Utilizarea sistemelor de IA pentru identificarea biometrică „în timp real” a persoanelor fizice în spațiile accesibile publicului este deosebit de intruzivă pentru drepturile și libertățile persoanelor în cauză și poate afecta în cele din urmă viața privată a unei părți mari a populației, evocă un sentiment de supraveghere constantă , le conferă părților care recurg la identificarea biometrică în spațiile accesibile publicului o poziție de putere necontrolabilă și descurajează indirect exercitarea libertății de întrunire și a altor drepturi fundamentale aflate în centrul statului de drept. Inexactitățile tehnice ale sistemelor de IA destinate identificării biometrice la distanță a persoanelor fizice pot conduce la rezultate subiective și pot avea efecte discriminatorii. Acest lucru este deosebit de relevant în ceea ce privește vârsta, etnia, sexul sau dizabilitatea . În plus, caracterul imediat al impactului și posibilitățile limitate de a efectua verificări sau corecții suplimentare în ceea ce privește utilizarea unor astfel de sisteme care funcționează în timp real implică riscuri sporite pentru drepturile și libertățile persoanelor vizate de activitățile de asigurare a respectării legii. Prin urmare, utilizarea acestor sisteme în locuri accesibile publicului ar trebui interzisă. În mod similar, sistemele de IA utilizate pentru analiza înregistrărilor video ale spațiilor accesibile publicului prin intermediul sistemelor de identificare biometrică la distanță „ulterioară” ar trebui, de asemenea, interzise, cu excepția cazului în care există o autorizație preliminară pentru utilizarea în contextul aplicării legii, atunci când acest lucru este strict necesar pentru căutarea specifică legată de o infracțiune gravă specifică care a avut loc deja și numai sub rezerva unei autorizații preliminare.

(19)

Prin urmare, utilizarea acestor sisteme în scopul asigurării respectării legii ar trebui interzisă, cu excepția a trei situații enumerate în mod exhaustiv și definite în mod strict, în care utilizarea este strict necesară pentru un interes public substanțial, importanța acestei utilizări fiind mai mare decât riscurile. Aceste situații implică căutarea potențialelor victime ale criminalității, inclusiv a copiilor dispăruți, anumite amenințări la adresa vieții sau a siguranței fizice a persoanelor fizice sau privind un atac terorist și detectarea, localizarea, identificarea sau urmărirea penală a autorilor unor infracțiuni sau a persoanelor suspectate menționate în Decizia-cadru 2002/584/JAI a Consiliului  (38) , în cazul în care infracțiunile respective se pedepsesc în statul membru în cauză cu o pedeapsă sau o măsură de siguranță privativă de libertate pentru o perioadă maximă de cel puțin trei ani și conform definiției din dreptul statului membru respectiv. Un astfel de prag pentru pedeapsa sau măsura de siguranță privativă de libertate în conformitate cu dreptul intern contribuie la asigurarea faptului că infracțiunea ar trebui să fie suficient de gravă pentru a justifica eventual utilizarea sistemelor de identificare biometrică la distanță „în timp real”. În plus, dintre cele 32 de infracțiuni enumerate în Decizia-cadru 2002/584/JAI a Consiliului, unele sunt, în practică, susceptibile să fie mai relevante decât altele, în sensul că recurgerea la identificarea biometrică la distanță „în timp real” va fi, în mod previzibil, necesară și proporțională în grade foarte diferite pentru urmărirea practică a detectării, localizării, identificării sau urmăririi penale a unui autor al unei infracțiuni sau a unei persoane suspectate că ar fi comis diferitele infracțiuni enumerate și având în vedere diferențele probabile în ceea ce privește gravitatea, probabilitatea și amploarea prejudiciului sau posibilele consecințe negative.

(20)

Pentru a se asigura că aceste sisteme sunt utilizate în mod responsabil și proporțional, este de asemenea important să se stabilească faptul că, în fiecare dintre aceste trei situații enumerate în mod exhaustiv și strict definite, ar trebui luate în considerare anumite elemente, în special în ceea ce privește natura situației care a stat la baza cererii și consecințele utilizării asupra drepturilor și libertăților tuturor persoanelor vizate, precum și garanțiile și condițiile prevăzute pentru utilizare. În plus, utilizarea sistemelor de identificare biometrică la distanță „în timp real” în spațiile accesibile publicului în scopul asigurării respectării legii ar trebui să facă obiectul unor limite de timp și spațiu adecvate, având în vedere, în special, dovezile sau indicațiile privind amenințările, victimele sau autorul infracțiunii. Baza de date de referință a persoanelor ar trebui să fie adecvată pentru fiecare caz de utilizare în fiecare dintre cele trei situații menționate mai sus.

(21)

Fiecare utilizare a unui sistem de identificare biometrică la distanță „în timp real” în spațiile accesibile publicului în scopul asigurării respectării legii ar trebui să facă obiectul unei autorizări exprese și specifice de către o autoritate judiciară sau o autoritate administrativă independentă a unui stat membru. O astfel de autorizație ar trebui, în principiu, să fie obținută înainte de utilizare, cu excepția situațiilor de urgență justificate în mod corespunzător, și anume situațiile în care necesitatea de a utiliza sistemele în cauză este de așa natură încât obținerea unei autorizații înainte de începerea utilizării este imposibilă din punctul de vedere al eficacității și în mod obiectiv. În astfel de situații de urgență, utilizarea ar trebui să fie limitată la ceea ce este minim și absolut necesar și să facă obiectul unor garanții și condiții adecvate, astfel cum sunt stabilite în dreptul intern și specificate în contextul fiecărui caz individual de utilizare urgentă de către însăși autoritatea de aplicare a legii. În plus, în astfel de situații, autoritatea de aplicare a legii ar trebui să încerce să obțină o autorizație cât mai curând posibil, indicând motivele pentru care nu a fost în măsură să o solicite mai devreme.

(22)

În plus, este oportun să se prevadă, în cadrul exhaustiv stabilit de prezentul regulament, că o astfel de utilizare pe teritoriul unui stat membru în conformitate cu prezentul regulament ar trebui să fie posibilă numai în cazul și în măsura în care statul membru în cauză a decis să prevadă în mod expres posibilitatea de a autoriza o astfel de utilizare în normele sale detaliate de drept intern. În consecință, în temeiul prezentului regulament, statele membre au în continuare libertatea de a nu prevedea o astfel de posibilitate sau de a prevedea o astfel de posibilitate numai în ceea ce privește unele dintre obiectivele care pot justifica utilizarea autorizată identificate în prezentul regulament.

(23)

Utilizarea sistemelor de IA pentru identificarea biometrică „în timp real” a persoanelor fizice în spațiile accesibile publicului în scopul asigurării respectării legii implică în mod necesar prelucrarea datelor biometrice. Normele din prezentul regulament care interzic, sub rezerva anumitor excepții, o astfel de utilizare, care se bazează pe articolul 16 din TFUE, ar trebui să se aplice ca lex specialis în ceea ce privește normele privind prelucrarea datelor biometrice prevăzute la articolul 10 din Directiva (UE) 2016/680, reglementând astfel în mod exhaustiv această utilizare și prelucrarea datelor biometrice implicate. Prin urmare, o astfel de utilizare și prelucrare ar trebui să fie posibilă numai în măsura în care este compatibilă cu cadrul stabilit de prezentul regulament, fără a exista, în afara cadrului respectiv, posibilitatea ca autoritățile competente, atunci când acționează în scopul asigurării respectării legii, să utilizeze astfel de sisteme și să prelucreze astfel de date în legătură cu acestea din motivele enumerate la articolul 10 din Directiva (UE) 2016/680. În acest context, prezentul regulament nu este menit să ofere temeiul juridic pentru prelucrarea datelor cu caracter personal în baza articolului 8 din Directiva 2016/680. Cu toate acestea, utilizarea sistemelor de identificare biometrică la distanță „în timp real” în spații accesibile publicului în alte scopuri decât cele de asigurare a respectării legii, inclusiv de către autoritățile competente, nu ar trebui să facă obiectul cadrului specific privind o astfel de utilizare în scopul asigurării respectării legii stabilit de prezentul regulament. Prin urmare, o astfel de utilizare în alte scopuri decât asigurarea respectării legii nu ar trebui să facă obiectul cerinței unei autorizații în temeiul prezentului regulament și al normelor detaliate aplicabile din dreptul intern care o pot pune în aplicare.

(24)

Orice prelucrare a datelor biometrice și a altor date cu caracter personal implicate în utilizarea sistemelor de IA pentru identificarea biometrică, alta decât în legătură cu utilizarea sistemelor de identificare biometrică la distanță „în timp real” în spații accesibile publicului în scopul asigurării respectării legii , astfel cum este reglementat de prezentul regulament , inclusiv în cazul în care aceste sisteme sunt utilizate de autoritățile competente în spații accesibile publicului în alte scopuri decât asigurarea respectării legii , ar trebui să respecte în continuare toate cerințele care decurg din articolul 9 alineatul (1) din Regulamentul (UE) 2016/679, articolul 10 alineatul (1) din Regulamentul (UE) 2018/1725 și articolul 10 din Directiva (UE) 2016/680, după caz.

(24)

Orice prelucrare a datelor biometrice și a altor date cu caracter personal implicate în utilizarea sistemelor de IA pentru identificarea biometrică, alta decât în legătură cu utilizarea sistemelor de identificare biometrică la distanță „în timp real” în spații accesibile publicului, astfel cum este reglementat de prezentul regulament, ar trebui să respecte în continuare toate cerințele care decurg din articolul 9 alineatul (1) din Regulamentul (UE) 2016/679, articolul 10 alineatul (1) din Regulamentul (UE) 2018/1725 și articolul 10 din Directiva (UE) 2016/680, după caz.

(25)

În conformitate cu articolul 6a din Protocolul nr. 21 privind poziția Regatului Unit și a Irlandei în ceea ce privește spațiul de libertate, securitate și justiție, anexat la TUE și la TFUE, Irlandei nu îi revin obligații în temeiul normelor prevăzute la articolul 5 alineatul (1) litera (d) și la articolul 5 alineatele (2) și (3) din prezentul regulament, adoptate în temeiul articolului 16 din TFUE referitoare la prelucrarea datelor cu caracter personal de către statele membre în exercitarea activităților care intră în domeniul de aplicare al părții a treia titlul V capitolul 4 sau 5 din TFUE, atât timp cât Irlandei nu îi revin obligații în temeiul normelor privind formele de cooperare judiciară în materie penală sau de cooperare polițienească care necesită respectarea dispozițiilor stabilite în temeiul articolului 16 din TFUE.

(25)

În conformitate cu articolul 6a din Protocolul nr. 21 privind poziția Regatului Unit și a Irlandei în ceea ce privește spațiul de libertate, securitate și justiție, anexat la TUE și la TFUE, Irlandei nu îi revin obligații în temeiul normelor prevăzute la articolul 5 alineatul (1) litera (d) din prezentul regulament, adoptate în temeiul articolului 16 din TFUE referitoare la prelucrarea datelor cu caracter personal de către statele membre în exercitarea activităților care intră în domeniul de aplicare al părții a treia titlul V capitolul 4 sau 5 din TFUE, atât timp cât Irlandei nu îi revin obligații în temeiul normelor privind formele de cooperare judiciară în materie penală sau de cooperare polițienească care necesită respectarea dispozițiilor stabilite în temeiul articolului 16 din TFUE.

(26)

În conformitate cu articolele 2 și 2a din Protocolul nr. 22 privind poziția Danemarcei, anexat la TUE și la TFUE, Danemarcei nu îi revin obligații în temeiul normelor prevăzute la articolul 5 alineatul (1) litera (d) și la articolul 5 alineatele (2) și (3) din prezentul regulament, adoptate în temeiul articolului 16 din TFUE, și nici nu face obiectul aplicării acestora în ceea ce privește prelucrarea datelor cu caracter personal de către statele membre în exercitarea activităților care intră sub incidența părții a treia titlul V capitolul 4 sau 5 din TFUE.

(26)

În conformitate cu articolele 2 și 2a din Protocolul nr. 22 privind poziția Danemarcei, anexat la TUE și la TFUE, Danemarcei nu îi revin obligații în temeiul normelor prevăzute la articolul 5 alineatul (1) litera (d) din prezentul regulament, adoptate în temeiul articolului 16 din TFUE, și nici nu face obiectul aplicării acestora în ceea ce privește prelucrarea datelor cu caracter personal de către statele membre în exercitarea activităților care intră sub incidența părții a treia titlul V capitolul 4 sau 5 din TFUE.

(26a)

Sistemele de IA utilizate de autoritățile de aplicare a legii sau în numele acestora pentru a face previziuni, a genera profiluri sau evaluări ale riscurilor bazate pe crearea de profiluri ale persoanelor fizice sau pe analiza datelor pe baza trăsăturilor și caracteristicilor de personalitate, inclusiv localizarea persoanei, sau pe baza comportamentului infracțional anterior al persoanelor fizice sau al grupurilor de persoane, în scopul de a anticipa apariția sau reapariția unei (unor) infracțiuni reale sau potențiale sau a altor comportamente sociale sau administrative incriminate, inclusiv sistemele de predicție a fraudei, prezintă un risc deosebit de discriminare împotriva anumitor persoane sau grupuri de persoane, deoarece încalcă demnitatea umană, precum și principiul juridic esențial al prezumției de nevinovăție. Prin urmare, astfel de sisteme de IA ar trebui interzise.

(26b)

Extragerea nediferențiată și nedirecționată a datelor biometrice din înregistrările de pe platformele de comunicare socială sau CCTV pentru a crea sau a extinde bazele de date de recunoaștere facială sporește sentimentul de supraveghere în masă și poate duce la încălcări grave ale drepturilor fundamentale, inclusiv ale dreptului la viață privată. Prin urmare, ar trebui interzisă utilizarea sistemelor de IA în acest scop preconizat.

(26c)

Există preocupări serioase cu privire la baza științifică a sistemelor de IA care vizează detectarea emoțiilor, a caracteristicilor fizice sau fiziologice, cum ar fi expresiile faciale, mișcările, frecvența pulsului sau vocea. Emoțiile sau exprimarea emoțiilor și percepțiile acestora variază considerabil de la o cultură la alta și de la o situație la alta și chiar la nivelul unei singure persoane. Printre principalele deficiențe ale unor astfel de tehnologii se numără fiabilitatea limitată (categoriile de emoții nu sunt nici exprimate în mod fiabil printr-un set comun de mișcări fizice sau fiziologice și nici asociate fără echivoc cu un astfel de set), lipsa specificității (expresiile fizice sau fiziologice nu corespund perfect categoriilor de emoții) și generalizibilitatea limitată (efectele contextului și ale culturii nu sunt suficient luate în considerare). Probleme de fiabilitate și, prin urmare, riscuri majore de abuz pot apărea, în special, atunci când se implementează sistemul în situații reale legate de aplicarea legii, gestionarea frontierelor, locul de muncă și instituțiile de învățământ. Prin urmare, introducerea pe piață, punerea în funcțiune sau utilizarea sistemelor de IA destinate utilizării în aceste contexte pentru detectarea stării emoționale a persoanelor fizice ar trebui interzise.

(26d)

Practicile interzise de legislația Uniunii, inclusiv în temeiul dreptului privind protecția datelor, al dreptului privind nediscriminarea, al dreptului privind protecția consumatorilor și al dreptului concurenței, nu ar trebui să fie afectate de prezentul regulament.

(27)

Sistemele de IA cu grad ridicat de risc ar trebui introduse pe piața Uniunii sau puse în funcțiune numai dacă respectă anumite cerințe obligatorii. Aceste cerințe ar trebui să asigure faptul că sistemele de IA cu grad ridicat de risc disponibile în Uniune sau ale căror rezultate sunt utilizate în alt mod în Uniune nu prezintă riscuri inacceptabile pentru interesele publice importante ale Uniunii, astfel cum sunt recunoscute și protejate de dreptul Uniunii. Sistemele de IA identificate ca prezentând un grad ridicat de risc ar trebui să se limiteze la cele care au un impact negativ semnificativ asupra sănătății, siguranței și drepturilor fundamentale ale persoanelor din Uniune, iar o astfel de limitare reduce la minimum orice eventuală restricționare a comerțului internațional, dacă este cazul.

(27)

Sistemele de IA cu grad ridicat de risc ar trebui introduse pe piața Uniunii, puse în funcțiune sau utilizate numai dacă respectă anumite cerințe obligatorii. Aceste cerințe ar trebui să asigure faptul că sistemele de IA cu grad ridicat de risc disponibile în Uniune sau ale căror rezultate sunt utilizate în alt mod în Uniune nu prezintă riscuri inacceptabile pentru interesele publice importante ale Uniunii, astfel cum sunt recunoscute și protejate de dreptul Uniunii , inclusiv drepturile fundamentale, democrația, statul de drept sau mediul. Pentru a asigura alinierea la legislația sectorială și pentru a evita suprapunerile, cerințele pentru sistemele de IA cu grad ridicat de risc ar trebui să țină cont de legislația sectorială care stabilește cerințe pentru sistemele de IA cu grad ridicat de risc incluse în domeniul de aplicare al prezentului regulament, cum ar fi Regulamentul (UE) 2017/745 privind dispozitivele medicale și Regulamentul (UE) 2017/746 privind dispozitivele de diagnostic in vitro sau Directiva 2006/42/CE privind echipamentele tehnice . Sistemele de IA identificate ca prezentând un grad ridicat de risc ar trebui să se limiteze la cele care au un impact negativ semnificativ asupra sănătății, siguranței și drepturilor fundamentale ale persoanelor din Uniune, iar o astfel de limitare reduce la minimum orice eventuală restricționare a comerțului internațional, dacă este cazul. Având în vedere ritmul rapid al dezvoltării tehnologice, precum și posibilele modificări ale utilizării sistemelor de IA, lista zonelor cu risc ridicat și a cazurilor de utilizare din anexa III ar trebui totuși să facă obiectul unei reexaminări permanente prin intermediul unei evaluări periodice.

(28)

Sistemele de IA ar putea avea efecte adverse asupra sănătății și siguranței persoanelor, în special atunci când ele funcționează drept componente ale produselor. În concordanță cu obiectivele legislației de armonizare a Uniunii de a facilita libera circulație a produselor pe piața internă și de a asigura că numai produsele sigure și conforme în toate privințele își găsesc drumul pe piață, este important ca riscurile în materie de siguranță care pot fi generate de un produs în ansamblu din cauza componentelor sale digitale, inclusiv a sistemelor de IA, să fie prevenite și atenuate în mod corespunzător. De exemplu, roboții din ce în ce mai autonomi, fie în contextul producției, fie în contextul asistenței și îngrijirii personale, ar trebui să fie în măsură să își desfășoare activitatea în condiții de siguranță și să își îndeplinească funcțiile în medii complexe. În mod similar, în sectorul sănătății, unde mizele privind viața și sănătatea sunt deosebit de ridicate, sistemele de diagnosticare din ce în ce mai sofisticate și sistemele care sprijină deciziile umane ar trebui să fie fiabile și exacte. Amploarea impactului negativ al sistemului de IA asupra drepturilor fundamentale protejate de Cartă este deosebit de relevantă atunci când un sistem de IA este clasificat ca prezentând un risc ridicat. Printre aceste drepturi se numără dreptul la demnitate umană, respectarea vieții private și de familie, protecția datelor cu caracter personal, libertatea de exprimare și de informare, libertatea de întrunire și de asociere, precum și nediscriminarea, protecția consumatorilor, drepturile lucrătorilor, drepturile persoanelor cu handicap, dreptul la o cale de atac eficientă și la un proces echitabil, dreptul la apărare și prezumția de nevinovăție, dreptul la o bună administrare. Pe lângă aceste drepturi, este important să se sublinieze că, în ceea ce privește copiii, aceștia au drepturi specifice, astfel cum sunt consacrate la articolul 24 din Carta UE și în Convenția Organizației Națiunilor Unite cu privire la drepturile copilului (dezvoltată în continuare în Comentariul general nr. 25 al CDC privind mediul digital), ambele necesitând luarea în considerare a vulnerabilităților copiilor și asigurarea protecției și îngrijirii necesare pentru bunăstarea lor. Dreptul fundamental la un nivel ridicat de protecție a mediului consacrat în Cartă și pus în aplicare în politicile Uniunii ar trebui, de asemenea, luat în considerare atunci când se evaluează gravitatea prejudiciului pe care un sistem de IA îl poate cauza, inclusiv în ceea ce privește sănătatea și siguranța persoanelor.

(28)

Sistemele de IA ar putea avea un impact negativ asupra sănătății și siguranței persoanelor, în special atunci când ele funcționează drept componente de siguranță ale produselor. În concordanță cu obiectivele legislației de armonizare a Uniunii de a facilita libera circulație a produselor pe piața internă și de a asigura că numai produsele sigure și conforme în toate privințele își găsesc drumul pe piață, este important ca riscurile în materie de siguranță care pot fi generate de un produs în ansamblu din cauza componentelor sale digitale, inclusiv a sistemelor de IA, să fie prevenite și atenuate în mod corespunzător. De exemplu, roboții din ce în ce mai autonomi, fie în contextul producției, fie în contextul asistenței și îngrijirii personale, ar trebui să fie în măsură să își desfășoare activitatea în condiții de siguranță și să își îndeplinească funcțiile în medii complexe. În mod similar, în sectorul sănătății, unde mizele privind viața și sănătatea sunt deosebit de ridicate, sistemele de diagnosticare din ce în ce mai sofisticate și sistemele care sprijină deciziile umane ar trebui să fie fiabile și exacte.

(28a)

Amploarea impactului negativ al sistemului de IA asupra drepturilor fundamentale protejate de Cartă este deosebit de relevantă atunci când un sistem de IA este clasificat ca prezentând un risc ridicat. Printre aceste drepturi se numără dreptul la demnitate umană, respectarea vieții private și de familie, protecția datelor cu caracter personal, libertatea de exprimare și de informare, libertatea de întrunire și de asociere, precum și nediscriminarea, dreptul la educație, protecția consumatorilor, drepturile lucrătorilor, drepturile persoanelor cu dizabilități, egalitatea de gen, drepturile de proprietate intelectuală, dreptul la o cale de atac eficientă și la un proces echitabil, dreptul la apărare și prezumția de nevinovăție, dreptul la o bună administrare. Pe lângă aceste drepturi, este important să se sublinieze că, în ceea ce privește copiii, aceștia au drepturi specifice, astfel cum sunt consacrate la articolul 24 din Carta UE și în Convenția Organizației Națiunilor Unite cu privire la drepturile copilului (dezvoltată în continuare în Comentariul general nr. 25 al CDC privind mediul digital), ambele necesitând luarea în considerare a vulnerabilităților copiilor și asigurarea protecției și îngrijirii necesare pentru bunăstarea lor. Dreptul fundamental la un nivel ridicat de protecție a mediului consacrat în Cartă și pus în aplicare în politicile Uniunii ar trebui, de asemenea, luat în considerare atunci când se evaluează gravitatea prejudiciului pe care un sistem de IA îl poate cauza, inclusiv în ceea ce privește sănătatea și siguranța persoanelor sau mediul.

(29)

În ceea ce privește sistemele de IA cu grad ridicat de risc care sunt componente de siguranță ale produselor sau sistemelor sau care sunt ele însele produse sau sisteme care intră în domeniul de aplicare al Regulamentului (CE) nr. 300/2008 al Parlamentului European și al Consiliului (39), al Regulamentului (UE) nr. 167/2013 al Parlamentului European și al Consiliului (40), al Regulamentului (UE) nr. 168/2013 al Parlamentului European și al Consiliului (41), al Directivei (UE) 2014/90/UE a Parlamentului European și a Consiliului (42), al Directivei (UE) 2016/797 a Parlamentului European și a Consiliului (43), al Regulamentului (UE) 2018/858 al Parlamentului European și al Consiliului (44), al Regulamentului (UE) 2018/1139 al Parlamentului European și al Consiliului (45) și al Regulamentului (UE) 2019/2144 al Parlamentului European și al Consiliului (46), este oportun să se modifice aceste acte legislative pentru a se asigura că Comisia ia în considerare, pe baza specificităților tehnice și de reglementare ale fiecărui sector, și fără a afecta mecanismele existente de guvernanță, de evaluare a conformității și de aplicare și autoritățile stabilite în acestea, cerințele obligatorii pentru sistemele de IA cu risc ridicat stabilite în prezentul regulament atunci când adoptă orice act relevant viitor delegat sau de punere în aplicare pe baza acestor acte legislative.

(29)

În ceea ce privește sistemele de IA cu grad ridicat de risc care sunt componente de siguranță ale produselor sau sistemelor sau care sunt ele însele produse sau sisteme care intră în domeniul de aplicare al Regulamentului (CE) nr. 300/2008 al Parlamentului European și al Consiliului (39), al Regulamentului (UE) nr. 167/2013 al Parlamentului European și al Consiliului (40), al Regulamentului (UE) nr. 168/2013 al Parlamentului European și al Consiliului (41), al Directivei (UE) 2014/90/UE a Parlamentului European și a Consiliului (42), al Directivei (UE) 2016/797 a Parlamentului European și a Consiliului (43), al Regulamentului (UE) 2018/858 al Parlamentului European și al Consiliului (44), al Regulamentului (UE) 2018/1139 al Parlamentului European și al Consiliului (45) și al Regulamentului (UE) 2019/2144 al Parlamentului European și al Consiliului (46), este oportun să se modifice aceste acte legislative pentru a se asigura că Comisia ia în considerare, pe baza specificităților tehnice și de reglementare ale fiecărui sector, și fără a afecta mecanismele existente de guvernanță, de evaluare a conformității , de supraveghere a pieței și de aplicare și autoritățile stabilite în acestea, cerințele obligatorii pentru sistemele de IA cu risc ridicat stabilite în prezentul regulament atunci când adoptă orice act relevant viitor delegat sau de punere în aplicare pe baza acestor acte legislative.

(30)

În ceea ce privește sistemele de IA care sunt componente de siguranță ale produselor care intră în domeniul de aplicare al anumitor acte legislative de armonizare ale Uniunii, sau care sunt ele însele astfel de produse, este oportun ca acestea să fie clasificate ca având un grad ridicat de risc în temeiul prezentului regulament, în cazul în care produsul în cauză este supus procedurii de evaluare a conformității efectuate de un organism terț de evaluare a conformității în temeiul legislației de armonizare relevante a Uniunii. În special, astfel de produse sunt echipamentele tehnice, jucăriile, ascensoarele, echipamentele și sistemele de protecție destinate utilizării în atmosfere potențial explozive, echipamentele radio, echipamentele sub presiune, echipamentele pentru ambarcațiuni de agrement, instalațiile pe cablu, aparatele consumatoare de combustibili gazoși, dispozitivele medicale și dispozitivele medicale pentru diagnostic in vitro.

(30)

În ceea ce privește sistemele de IA care sunt componente de siguranță ale produselor care intră în domeniul de aplicare al anumitor acte legislative de armonizare ale Uniunii enumerate în anexa II , sau care sunt ele însele astfel de produse, este oportun ca acestea să fie clasificate ca având un grad ridicat de risc în temeiul prezentului regulament, în cazul în care produsul în cauză este supus procedurii de evaluare a conformității , menită să asigure respectarea cerințelor de siguranță esențiale, efectuate de un organism terț de evaluare a conformității în temeiul dreptului de armonizare relevant al Uniunii. În special, astfel de produse sunt echipamentele tehnice, jucăriile, ascensoarele, echipamentele și sistemele de protecție destinate utilizării în atmosfere potențial explozive, echipamentele radio, echipamentele sub presiune, echipamentele pentru ambarcațiuni de agrement, instalațiile pe cablu, aparatele consumatoare de combustibili gazoși, dispozitivele medicale și dispozitivele medicale pentru diagnostic in vitro.

(31)

Clasificarea unui sistem de IA ca prezentând un risc ridicat în temeiul prezentului regulament nu ar trebui să însemne neapărat că produsul a cărui componentă de siguranță este sistemul de IA sau că sistemul de IA în sine ca produs este considerat „cu risc ridicat” în conformitate cu criteriile stabilite în legislația relevantă de armonizare a Uniunii care se aplică produsului. Acest lucru este valabil în special în cazul Regulamentului (UE) 2017/745 al Parlamentului European și al Consiliului (47) și al Regulamentului (UE) 2017/746 al Parlamentului European și al Consiliului (48), care prevăd o evaluare a conformității de către o parte terță pentru produsele cu risc mediu și cu risc ridicat.

(31)

Clasificarea unui sistem de IA ca prezentând un risc ridicat în temeiul prezentului regulament nu ar trebui să însemne că produsul a cărui componentă de siguranță este sistemul de IA sau că sistemul de IA în sine ca produs este considerat „cu risc ridicat” în conformitate cu criteriile stabilite în dreptul relevant de armonizare al Uniunii care se aplică produsului. Acest lucru este valabil în special în cazul Regulamentului (UE) 2017/745 al Parlamentului European și al Consiliului (47) și al Regulamentului (UE) 2017/746 al Parlamentului European și al Consiliului (48), care prevăd o evaluare a conformității de către o parte terță pentru produsele cu risc mediu și cu risc ridicat.

(32)

În ceea ce privește sistemele de IA autonome, adică alte sisteme de IA cu grad ridicat de risc decât cele care sunt componente de siguranță ale produselor sau care sunt ele însele produse, este oportun ca acestea să fie clasificate ca fiind cu risc ridicat dacă, având în vedere scopul preconizat, prezintă un risc ridicat de a aduce prejudicii sănătății și siguranței sau drepturilor fundamentale ale persoanelor, ținând seama atât de gravitatea posibilelor prejudicii, cât și de probabilitatea producerii acestora , și dacă sunt utilizate într-o serie de domenii predefinite în mod specific în regulament . Identificarea acestor sisteme se bazează pe aceeași metodologie și pe aceleași criterii avute în vedere și pentru orice modificare viitoare a listei de sisteme de IA cu grad ridicat de risc.

(32)

În ceea ce privește sistemele de IA autonome, adică alte sisteme de IA cu grad ridicat de risc decât cele care sunt componente de siguranță ale produselor sau care sunt ele însele produse și care sunt enumerate într-unul dintre domeniile și cazurile de utilizare din anexa IIII , este oportun ca acestea să fie clasificate ca fiind cu risc ridicat dacă, având în vedere scopul preconizat, prezintă un risc semnificativ de a aduce prejudicii sănătății și siguranței sau drepturilor fundamentale ale persoanelor și dacă , în cazul în care sistemul de IA este utilizat drept componentă de siguranță a unei infrastructuri critice, mediului. Un astfel de risc semnificativ de a aduce prejudicii ar trebui identificat prin evaluarea , pe de o parte, a efectului unui astfel de risc în ceea ce privește nivelul său de gravitate, intensitate, probabilitatea apariției și durata combinată și , pe de altă parte, dacă riscul poate afecta o persoană, mai multe persoane sau un anumit grup de persoane. O astfel de combinație ar putea duce, de exemplu, la o gravitate ridicată, dar cu o probabilitate scăzută de a afecta o persoană fizică, sau la o probabilitate ridicată de a afecta un grup de persoane cu o intensitate scăzută pe o perioadă lungă de timp, în funcție de context . Identificarea acestor sisteme se bazează pe aceeași metodologie și pe aceleași criterii avute în vedere și pentru orice modificare viitoare a listei de sisteme de IA cu grad ridicat de risc.

(32a)

Furnizorii ale căror sisteme de IA se încadrează într-unul dintre domeniile și cazurile de utilizare enumerate în anexa III care consideră că sistemul lor nu prezintă un risc semnificativ de afectare a sănătății, a siguranței, a drepturilor fundamentale sau a mediului ar trebui să informeze autoritățile naționale de supraveghere prin transmiterea unei notificări motivate. Această notificare ar putea lua forma unui rezumat de o pagină al informațiilor relevante privind sistemul de IA în cauză, inclusiv scopul preconizat al acestuia și motivul pentru care nu ar prezenta un risc semnificativ de afectare a sănătății, a siguranței, a drepturilor fundamentale sau a mediului. Comisia ar trebui să specifice criterii care să permită întreprinderilor să evalueze dacă sistemul lor ar prezenta astfel de riscuri, precum și să elaboreze un model de notificare ușor de utilizat și standardizat. Furnizorii ar trebui să transmită notificarea cât mai curând posibil și, în orice caz, înainte de introducerea pe piață sau de punerea în funcțiune a sistemului de IA, în mod ideal în etapa de dezvoltare, și ar trebui să fie liberi să îl introducă pe piață în orice moment după notificare. Cu toate acestea, în cazul în care estimează că sistemul de IA în cauză a fost clasificat greșit, autoritatea de supraveghere ar trebui să formuleze o obiecție în privința notificării în termen de trei luni. Obiecția ar trebui să fie motivată și să explice în mod corespunzător de ce sistemul de IA a fost clasificat greșit. Furnizorul ar trebui să își păstreze dreptul de a exercita o cale de atac prin furnizarea de argumente suplimentare. În cazul în care, după cele trei luni, nu s-a înregistrat nicio obiecție cu privire la notificare, autoritățile naționale de supraveghere ar putea interveni în continuare dacă sistemul de IA prezintă un risc la nivel național, la fel ca în cazul oricărui alt sistem de IA de pe piață. Autoritățile naționale de supraveghere ar trebui să transmită Oficiului pentru IA rapoarte anuale în care să detalieze notificările primite și deciziile adoptate.

(33)

Inexactitățile tehnice ale sistemelor de IA destinate identificării biometrice la distanță a persoanelor fizice pot conduce la rezultate subiective și pot avea efecte discriminatorii. Acest lucru este deosebit de relevant în ceea ce privește vârsta, etnia, sexul sau handicapul. Prin urmare, sistemele de identificare biometrică la distanță „în timp real” și „ulterior” ar trebui clasificate ca având un grad ridicat de risc. Având în vedere riscurile pe care le prezintă, ambele tipuri de sisteme de identificare biometrică la distanță ar trebui să facă obiectul unor cerințe specifice privind capacitățile de jurnalizare și supravegherea umană.

(33a)

Întrucât datele biometrice constituie o categorie specială de date sensibile cu caracter personal în conformitate cu Regulamentul 2016/679, este oportun să se clasifice ca prezentând un grad ridicat de risc mai multe cazuri de utilizare critică a sistemelor biometrice și a sistemelor bazate pe biometrie. Sistemele de IA destinate să fie utilizate pentru identificarea biometrică a persoanelor fizice și sistemele de IA destinate a fi utilizate pentru a face deducții în legătură cu caracteristicile personale ale persoanelor fizice pe baza datelor biometrice sau bazate pe biometrie, inclusiv sistemele de recunoaștere a emoțiilor, cu excepția celor interzise în temeiul prezentului regulament, ar trebui, prin urmare, să fie clasificate drept prezentând un risc ridicat. Această clasificare nu ar trebui să includă sistemele de IA destinate a fi utilizate pentru verificarea biometrică, care include autentificarea, al căror unic scop este de a confirma că o anumită persoană fizică este persoana care susține că este și de a confirma identitatea unei persoane fizice cu unicul scop de a-i permite accesul la un serviciu, la un dispozitiv sau la un sediu (verificare comparativă între două seturi de date). Sistemele biometrice și sistemele bazate pe biometrie care sunt prevăzute în dreptul Uniunii pentru a permite măsuri de securitate cibernetică și de protecție a datelor cu caracter personal nu ar trebui să fie considerate drept prezentând un risc semnificativ de prejudiciere a sănătății, a siguranței și a drepturilor fundamentale.

(34)

În ceea ce privește gestionarea și exploatarea infrastructurii critice, este oportun să se clasifice ca fiind cu risc ridicat sistemele de IA destinate utilizării ca elemente de siguranță în gestionarea și exploatarea traficului rutier și în aprovizionarea cu apă, gaz, încălzire și energie electrică, deoarece defectarea sau funcționarea defectuoasă a acestora poate pune în pericol viața și sănătatea persoanelor la scară largă și poate conduce la perturbări semnificative ale desfășurării obișnuite a activităților sociale și economice.

(34)

În ceea ce privește gestionarea și exploatarea infrastructurii critice, este oportun să se clasifice ca fiind cu risc ridicat sistemele de IA destinate utilizării ca elemente de siguranță în gestionarea și exploatarea aprovizionării cu apă, gaz, încălzire și energie electrică și a infrastructurii digitale critice , deoarece defectarea sau funcționarea defectuoasă a acestora poate afecta securitatea și integritatea acestor infrastructuri critice sau poate pune în pericol viața și sănătatea persoanelor la scară largă și poate conduce la perturbări semnificative ale desfășurării obișnuite a activităților sociale și economice. Componentele de siguranță ale infrastructurii critice, inclusiv ale infrastructurii digitale critice, sunt sisteme utilizate pentru a proteja în mod direct integritatea fizică a infrastructurii critice sau sănătatea și siguranța persoanelor și a bunurilor. Defectarea sau funcționarea defectuoasă a unor astfel de componente ar putea duce în mod direct la riscuri pentru integritatea fizică a infrastructurii critice și, prin urmare, la riscuri pentru sănătatea și siguranța persoanelor și a bunurilor. Componentele destinate a fi utilizate exclusiv în scopuri de securitate cibernetică nu ar trebui să se califice drept componente de siguranță. Exemple de astfel de componente de siguranță pot include sisteme de monitorizare a presiunii apei sau sisteme de control al alarmei de incendiu în centrele de cloud computing.

(35)

Sistemele de IA utilizate în educație sau în formarea profesională, în special pentru determinarea accesului sau desemnarea persoanelor în instituțiile de învățământ și formare profesională sau pentru evaluarea persoanelor care participă la teste ca parte a educației lor sau ca o condiție prealabilă pentru aceasta, ar trebui considerate ca având un grad ridicat de risc, deoarece pot determina parcursul educațional și profesional al vieții unei persoane și, prin urmare, pot afecta capacitatea acesteia de a-și asigura mijloacele de subzistență. Atunci când sunt concepute și utilizate în mod necorespunzător, astfel de sisteme pot încălca dreptul la educație și formare, precum și dreptul de a nu fi discriminat, și pot perpetua tiparele istorice de discriminare.

(35)

Implementarea sistemelor de IA în educație este importantă pentru a contribui la modernizarea unor întregi sisteme de învățământ, la creșterea calității educației, atât offline, cât și online, și la accelerarea educației digitale, punând-o astfel la dispoziția unui public mai larg. Sistemele de IA utilizate în educație sau în formarea profesională, în special pentru determinarea accesului sau influențarea în mod semnificativ a deciziilor privind admiterea sau desemnarea persoanelor în instituțiile de învățământ și formare profesională sau pentru evaluarea persoanelor care participă la teste ca parte a educației lor sau ca o condiție prealabilă pentru aceasta sau pentru a evalua nivelul adecvat de educație pentru o persoană și a influența în mod semnificativ nivelul de educație și de formare de care vor beneficia persoanele fizice sau pe care vor fi în măsură să îl acceseze sau pentru a monitoriza și depista comportamentul interzis al elevilor sau studenților în timpul testelor ar trebui clasificate drept sisteme de IA cu un grad ridicat de risc, deoarece pot determina parcursul educațional și profesional al vieții unei persoane și, prin urmare, pot afecta capacitatea acesteia de a-și asigura mijloacele de subzistență. Atunci când sunt concepute și utilizate în mod necorespunzător, astfel de sisteme pot fi deosebit de intruzive și pot încălca dreptul la educație și formare, precum și dreptul de a nu fi discriminat, și pot perpetua tiparele istorice de discriminare , de exemplu împotriva femeilor, a anumitor grupe de vârstă, a persoanelor cu dizabilități sau a persoanelor cu anumite origini rasiale sau etnice sau orientări sexuale .

(36)

Sistemele de IA utilizate în domeniul ocupării forței de muncă, al gestionării lucrătorilor și al accesului la activități independente, în special pentru recrutarea și selectarea persoanelor, pentru luarea deciziilor privind promovarea și încetarea activității, precum și pentru alocarea sarcinilor, monitorizarea sau evaluarea persoanelor aflate în raporturi contractuale legate de muncă, ar trebui, de asemenea, clasificate ca având un grad ridicat de risc, deoarece aceste sisteme pot avea un impact semnificativ asupra viitoarelor perspective de carieră și asupra mijloacelor de subzistență ale acestor persoane. Relațiile contractuale relevante legate de muncă ar trebui să implice angajații și persoanele care prestează servicii prin intermediul platformelor, astfel cum se menționează în Programul de lucru al Comisiei pentru 2021. Aceste persoane nu ar trebui, în principiu, să fie considerate utilizatori în sensul prezentului regulament. Pe tot parcursul procesului de recrutare, precum și în evaluarea, promovarea sau menținerea persoanelor în relații contractuale legate de muncă, astfel de sisteme pot perpetua tiparele istorice de discriminare, de exemplu împotriva femeilor, a anumitor grupe de vârstă, a persoanelor cu handicap sau a persoanelor de anumite origini rasiale sau etnice sau cu o anumită orientare sexuală. Sistemele de IA utilizate pentru a monitoriza performanța și comportamentul acestor persoane pot avea , de asemenea, un impact asupra drepturilor lor la protecția datelor și la viața privată.

(36)

Sistemele de IA utilizate în domeniul ocupării forței de muncă, al gestionării lucrătorilor și al accesului la activități independente, în special pentru recrutarea și selectarea persoanelor, pentru luarea deciziilor sau influențarea în mod semnificativ a deciziilor privind începerea, promovarea și încetarea activității, precum și pentru alocarea personalizată a sarcinilor pe baza comportamentului personal, a trăsăturilor individuale sau a datelor biometrice , monitorizarea sau evaluarea persoanelor aflate în raporturi contractuale legate de muncă, ar trebui, de asemenea, clasificate ca având un grad ridicat de risc, deoarece aceste sisteme pot avea un impact semnificativ asupra viitoarelor perspective de carieră, asupra mijloacelor de subzistență ale acestor persoane și asupra drepturilor lucrătorilor . Relațiile contractuale relevante legate de muncă ar trebui să implice în mod semnificativ angajații și persoanele care prestează servicii prin intermediul platformelor, astfel cum se menționează în Programul de lucru al Comisiei pentru 2021. Pe tot parcursul procesului de recrutare, precum și în evaluarea, promovarea sau menținerea persoanelor în relații contractuale legate de muncă, astfel de sisteme pot perpetua tiparele istorice de discriminare, de exemplu împotriva femeilor, a anumitor grupe de vârstă, a persoanelor cu handicap sau a persoanelor de anumite origini rasiale sau etnice sau cu o anumită orientare sexuală. Sistemele de IA utilizate pentru a monitoriza performanța și comportamentul acestor persoane pot submina , de asemenea, esența drepturilor fundamentale ale acestora la protecția datelor și la viața privată. Prezentul regulament se aplică fără a aduce atingere competențelor Uniunii și ale statelor membre de a prevedea norme mai specifice pentru utilizarea sistemelor de IA în contextul ocupării forței de muncă.

(37)

Un alt domeniu în care utilizarea sistemelor de IA merită o atenție deosebită este accesul și posibilitatea de a beneficia de anumite servicii și beneficii publice și private esențiale, necesare pentru ca oamenii să participe pe deplin în societate sau să își îmbunătățească nivelul de trai. În special, sistemele de IA utilizate pentru a evalua punctajul de credit sau bonitatea persoanelor fizice ar trebui clasificate ca sisteme de IA cu grad ridicat de risc, întrucât acestea determină accesul persoanelor respective la resurse financiare sau la servicii esențiale, cum ar fi locuințe, electricitate și servicii de telecomunicații. Sistemele de IA utilizate în acest scop pot duce la discriminarea persoanelor sau a grupurilor și perpetuează modelele istorice de discriminare, de exemplu pe criterii de origine rasială sau etnică, handicap , vârstă, orientare sexuală, sau pot crea noi forme de impact discriminatoriu. Având în vedere amploarea foarte limitată a impactului și alternativele disponibile pe piață, este oportun să se excepteze sistemele de IA în scopul evaluării bonității și al evaluării creditelor atunci când sunt puse în funcțiune de către micii furnizori pentru uzul propriu . Persoanele fizice care solicită sau primesc prestații și servicii de asistență publică din partea autorităților publice depind, în general, de aceste prestații și servicii și se află într-o poziție vulnerabilă în raport cu autoritățile responsabile. În cazul în care sistemele de IA sunt utilizate pentru a stabili dacă astfel de prestații și servicii ar trebui refuzate, reduse, revocate sau recuperate de autorități, acestea pot avea un impact semnificativ asupra mijloacelor de subzistență ale persoanelor și le pot încălca drepturile fundamentale, cum ar fi dreptul la protecție socială, la nediscriminare, la demnitatea umană sau la o cale de atac eficientă. Prin urmare, aceste sisteme ar trebui clasificate ca prezentând un grad ridicat de risc. Cu toate acestea, prezentul regulament nu ar trebui să împiedice dezvoltarea și utilizarea unor abordări inovatoare în administrația publică, care ar putea beneficia de o utilizare mai largă a sistemelor de IA conforme și sigure, cu condiția ca aceste sisteme să nu implice un risc ridicat pentru persoanele fizice și juridice. În cele din urmă, sistemele de IA utilizate pentru dispecerizarea sau stabilirea priorității în dispecerizarea serviciilor de primă intervenție de urgență ar trebui, de asemenea, clasificate ca având un grad ridicat de risc, deoarece iau decizii în situații foarte critice pentru viața și sănătatea persoanelor și a bunurilor acestora.

(37)

Un alt domeniu în care utilizarea sistemelor de IA merită o atenție deosebită este accesul și posibilitatea de a beneficia de anumite servicii publice și private esențiale, inclusiv servicii de asistență medicală, și servicii esențiale, inclusiv locuințe, energie electrică, încălzire/răcire și internet, dar fără a se limita la acestea, și beneficii necesare pentru ca oamenii să participe pe deplin în societate sau să își îmbunătățească nivelul de trai. În special, sistemele de IA utilizate pentru a evalua punctajul de credit sau bonitatea persoanelor fizice ar trebui clasificate ca sisteme de IA cu grad ridicat de risc, întrucât acestea determină accesul persoanelor respective la resurse financiare sau la servicii esențiale, cum ar fi locuințe, electricitate și servicii de telecomunicații. Sistemele de IA utilizate în acest scop pot duce la discriminarea persoanelor sau a grupurilor și perpetuează modelele istorice de discriminare, de exemplu pe criterii de origine rasială sau etnică, gen, dizabilități , vârstă, orientare sexuală, sau pot crea noi forme de impact discriminatoriu. Cu toate acestea, sistemele de IA prevăzute de dreptul Uniunii în scopul detectării fraudei în furnizarea de servicii financiare nu ar trebui să fie considerate ca prezentând un grad ridicat de risc în temeiul prezentului regulament. Persoanele fizice care solicită sau primesc prestații și servicii de asistență publică din partea autorităților publice , inclusiv servicii de asistență medicală și servicii esențiale, inclusiv locuințe, energie electrică, încălzire/răcire și internet, dar fără a se limita la acestea, depind, în general, de aceste prestații și servicii și se află într-o poziție vulnerabilă în raport cu autoritățile responsabile. În cazul în care sistemele de IA sunt utilizate pentru a stabili dacă astfel de prestații și servicii ar trebui refuzate, reduse, revocate sau recuperate de autorități, acestea pot avea un impact semnificativ asupra mijloacelor de subzistență ale persoanelor și le pot încălca drepturile fundamentale, cum ar fi dreptul la protecție socială, la nediscriminare, la demnitatea umană sau la o cale de atac eficientă. În mod similar, sistemele de IA destinate a fi utilizate pentru a lua decizii sau pentru a influența în mod semnificativ deciziile privind eligibilitatea persoanelor fizice pentru asigurarea de sănătate și de viață pot avea, de asemenea, un impact semnificativ asupra mijloacelor de subzistență ale persoanelor și pot încălca drepturile lor fundamentale, de exemplu prin limitarea accesului la asistență medicală sau prin perpetuarea discriminării bazate pe caracteristici personale. Prin urmare, aceste sisteme ar trebui clasificate ca prezentând un grad ridicat de risc. Cu toate acestea, prezentul regulament nu ar trebui să împiedice dezvoltarea și utilizarea unor abordări inovatoare în administrația publică, care ar putea beneficia de o utilizare mai largă a sistemelor de IA conforme și sigure, cu condiția ca aceste sisteme să nu implice un risc ridicat pentru persoanele fizice și juridice. În cele din urmă, sistemele de IA utilizate pentru evaluarea și clasificarea apelurilor de urgență ale persoanelor fizice sau pentru dispecerizarea sau stabilirea priorității în dispecerizarea serviciilor de primă intervenție de urgență ar trebui, de asemenea, clasificate ca având un grad ridicat de risc, deoarece iau decizii în situații foarte critice pentru viața și sănătatea persoanelor și a bunurilor acestora.

(37a)

Având în vedere rolul și responsabilitatea poliției și a autorităților judiciare, precum și impactul deciziilor pe care le iau acestea în scopul prevenirii, investigării, depistării sau urmăririi penale a infracțiunilor sau al executării pedepselor, unele cazuri specifice de utilizare a aplicațiilor de IA în asigurarea respectării legii trebuie clasificate ca având un grad ridicat de risc, în special în cazurile în care există potențialul de a afecta în mod semnificativ viața sau drepturile fundamentale ale persoanelor.

(38)

Acțiunile întreprinse de autoritățile de aplicare a legii care implică anumite utilizări ale sistemelor de IA sunt caracterizate de un grad semnificativ de dezechilibru de putere și pot duce la supravegherea, arestarea sau privarea de libertate a unei persoane fizice, precum și la alte efecte negative asupra drepturilor fundamentale garantate în Cartă. În special, în cazul în care în sistemul de IA nu se introduc date de înaltă calitate, în cazul în care acesta nu îndeplinește cerințele adecvate în ceea ce privește precizia sau robustețea sau nu este proiectat și testat în mod corespunzător înainte de a fi introdus pe piață sau pus în funcțiune în alt mod, acesta poate selecta persoanele într-un mod discriminatoriu sau incorect sau injust. În plus, exercitarea unor drepturi procedurale fundamentale importante, cum ar fi dreptul la o cale de atac eficientă și la un proces echitabil, precum și dreptul la apărare și prezumția de nevinovăție, ar putea fi împiedicată, în special, în cazul în care astfel de sisteme de IA nu sunt suficient de transparente, explicabile și documentate. Prin urmare, este oportun să se clasifice ca având un grad ridicat de risc o serie de sisteme de IA destinate a fi utilizate în contextul asigurării respectării legii, în care acuratețea, fiabilitatea și transparența sunt deosebit de importante pentru a evita efectele negative, pentru a păstra încrederea publicului și pentru a asigura asumarea răspunderii și căi de atac eficace. Având în vedere natura activităților în cauză și riscurile aferente, aceste sisteme de IA cu grad ridicat de risc ar trebui să includă, în special, sistemele de IA destinate a fi utilizate de autoritățile de aplicare a legii pentru evaluări individuale ale riscurilor, pentru poligrafe și instrumente similare , sau pentru detectarea stării emoționale a persoanelor fizice, pentru a  detecta „deepfake-urile” , pentru a evalua fiabilitatea probelor în cadrul procedurilor penale , pentru a anticipa apariția sau repetarea unei infracțiuni reale sau potențiale pe baza stabilirii profilului criminalistic al persoanelor fizice sau pentru a evalua trăsăturile și caracteristicile de personalitate sau comportamentul infracțional anterior al unor persoane fizice sau al unor grupuri , pentru stabilirea de profiluri criminalistice în cursul depistării, al investigării sau al urmăririi penale a infracțiunilor, precum și pentru analiza infracționalității în ceea ce privește persoanele fizice. Sistemele de IA destinate în mod special utilizării în proceduri administrative de către autoritățile fiscale și vamale nu ar trebui să fie considerate sisteme de IA cu grad ridicat de risc utilizate de autoritățile de aplicare a legii în scopul prevenirii, depistării, investigării și urmăririi penale a infracțiunilor.

(38)

Acțiunile întreprinse de autoritățile de aplicare a legii care implică anumite utilizări ale sistemelor de IA sunt caracterizate de un grad semnificativ de dezechilibru de putere și pot duce la supravegherea, arestarea sau privarea de libertate a unei persoane fizice, precum și la alte efecte negative asupra drepturilor fundamentale garantate în Cartă. În special, în cazul în care în sistemul de IA nu se introduc date de înaltă calitate, în cazul în care acesta nu îndeplinește cerințele adecvate în ceea ce privește performanța, precizia sau robustețea sau nu este proiectat și testat în mod corespunzător înainte de a fi introdus pe piață sau pus în funcțiune în alt mod, acesta poate selecta persoanele într-un mod discriminatoriu sau incorect sau injust. În plus, exercitarea unor drepturi procedurale fundamentale importante, cum ar fi dreptul la o cale de atac eficientă și la un proces echitabil, precum și dreptul la apărare și prezumția de nevinovăție, ar putea fi împiedicată, în special, în cazul în care astfel de sisteme de IA nu sunt suficient de transparente, explicabile și documentate. Prin urmare, este oportun să se clasifice ca având un grad ridicat de risc o serie de sisteme de IA destinate a fi utilizate în contextul asigurării respectării legii, în care acuratețea, fiabilitatea și transparența sunt deosebit de importante pentru a evita efectele negative, pentru a păstra încrederea publicului și pentru a asigura asumarea răspunderii și căi de atac eficace. Având în vedere natura activităților în cauză și riscurile aferente, aceste sisteme de IA cu grad ridicat de risc ar trebui să includă, în special, sistemele de IA destinate a fi utilizate de autoritățile de aplicare a legii sau în numele acestora sau de agențiile , oficiile sau organismele Uniunii în sprijinul autorităților de aplicare a  legii , în calitate de poligrafe și instrumente similare , în măsura în care utilizarea lor este permisă în temeiul dreptului aplicabil al Uniunii sau al dreptului intern, pentru a evalua fiabilitatea probelor în cadrul procedurilor penale , pentru stabilirea de profiluri criminalistice în cursul depistării, al investigării sau al urmăririi penale a infracțiunilor, precum și pentru analiza infracționalității în ceea ce privește persoanele fizice. Sistemele de IA destinate în mod special utilizării în proceduri administrative de către autoritățile fiscale și vamale nu ar trebui să fie clasificate drept sisteme de IA cu grad ridicat de risc utilizate de autoritățile de aplicare a legii în scopul prevenirii, depistării, investigării și urmăririi penale a infracțiunilor. Utilizarea de instrumente de IA de către autoritățile de aplicare a legii și autoritățile judiciare nu ar trebui să devină un factor de inegalitate, fragmentare socială sau excluziune. Impactul utilizării instrumentelor de IA asupra drepturilor la apărare ale suspecților nu ar trebui ignorat, în special dificultatea de a obține informații relevante despre funcționarea acestora și, în consecință, dificultatea de a contesta rezultatele lor în instanță, în special de către persoanele anchetate.

(39)

Sistemele de IA utilizate în gestionarea migrației, a azilului și a controlului la frontieră afectează persoane care se află adesea într-o poziție deosebit de vulnerabilă și care depind de rezultatul acțiunilor autorităților publice competente. Acuratețea, caracterul nediscriminatoriu și transparența sistemelor de IA utilizate în aceste contexte sunt, prin urmare, deosebit de importante pentru a garanta respectarea drepturilor fundamentale ale persoanelor afectate, în special a drepturilor acestora la liberă circulație, nediscriminare, protecția vieții private și a datelor cu caracter personal, protecția internațională și buna administrare. Prin urmare, este oportun să fie clasificate cu grad ridicat de risc sistemele de IA destinate a fi utilizate de autoritățile publice competente care au atribuții în domeniile migrației, azilului și gestionării controlului la frontiere ca poligrafe și instrumente similare sau pentru a detecta starea emoțională a unei persoane fizice , pentru a evalua anumite riscuri prezentate de persoanele fizice care intră pe teritoriul unui stat membru sau care solicită viză sau azil, pentru a verifica autenticitatea documentelor relevante ale persoanelor fizice și pentru a acorda asistență autorităților publice competente în ceea ce privește examinarea cererilor de azil, de vize și de permise de ședere și a plângerilor aferente cu privire la obiectivul de stabilire a eligibilității persoanelor fizice care solicită un statut. Sistemele de IA din domeniul migrației, azilului și gestionării controlului la frontiere reglementate de prezentul regulament ar trebui să respecte cerințele procedurale relevante stabilite de Directiva 2013/32/UE a Parlamentului European și a Consiliului (49), de Regulamentul (CE) nr. 810/2009 al Parlamentului European și al Consiliului (50) și de alte acte legislative relevante.

(39)

Sistemele de IA utilizate în gestionarea migrației, a azilului și a controlului la frontieră afectează persoane care se află adesea într-o poziție deosebit de vulnerabilă și care depind de rezultatul acțiunilor autorităților publice competente. Acuratețea, caracterul nediscriminatoriu și transparența sistemelor de IA utilizate în aceste contexte sunt, prin urmare, deosebit de importante pentru a garanta respectarea drepturilor fundamentale ale persoanelor afectate, în special a drepturilor acestora la liberă circulație, nediscriminare, protecția vieții private și a datelor cu caracter personal, protecția internațională și buna administrare. Prin urmare, este oportun să se clasifice drept sisteme de IA cu grad ridicat de risc destinate a fi utilizate de către autoritățile publice competente sau în numele acestora sau de către agențiile, oficiile sau organismele Uniunii însărcinate cu sarcini în domeniul migrației, azilului și gestionării controlului la frontiere ca poligrafe și instrumente similare , în măsura în care utilizarea acestora este permisă în temeiul dreptului relevant al Uniunii și al dreptului intern , pentru evaluarea anumitor riscuri prezentate de persoanele fizice care intră pe teritoriul unui stat membru sau care solicită viză sau azil; pentru a verifica autenticitatea documentelor relevante ale persoanelor fizice și pentru a acorda asistență autorităților publice competente în ceea ce privește examinarea și analiza veridicității probelor în privința cererilor de azil, de vize și de permise de ședere și a plângerilor aferente cu privire la obiectivul de stabilire a eligibilității persoanelor fizice care solicită un statut ; pentru monitorizarea, supravegherea sau prelucrarea datelor cu caracter personal în contextul activităților de gestionare a frontierelor, în scopul detectării, recunoașterii sau identificării persoanelor fizice; pentru previzionarea sau prezicerea tendințelor legate de mișcările migratorii și de trecerea frontierei . Sistemele de IA din domeniul migrației, azilului și gestionării controlului la frontiere reglementate de prezentul regulament ar trebui să respecte cerințele procedurale relevante stabilite de Directiva 2013/32/UE a Parlamentului European și a Consiliului (49), de Regulamentul (CE) nr. 810/2009 al Parlamentului European și al Consiliului (50) și de alte acte legislative relevante. Sistemele de IA utilizate în gestionarea migrației, a azilului și a controlului la frontieră nu ar trebui în niciun caz să fie folosite de statele membre sau de instituțiile, agențiile sau organismele Uniunii Europene ca mijloc de eludare a obligațiilor lor internaționale în temeiul Convenției din 28 iulie 1951 privind statutul refugiaților, astfel cum a fost modificată prin Protocolul din 31 ianuarie 1967, și nici nu ar trebui să fie folosite pentru a încălca în niciun mod principiul nereturnării sau pentru a refuza căile legale de migrație, sigure și efective, pentru intrarea pe teritoriul Uniunii și nici dreptul la protecție internațională.

(40)

Anumite sisteme de IA destinate administrării justiției și proceselor democratice ar trebui clasificate ca având un grad ridicat de risc, având în vedere impactul potențial semnificativ al acestora asupra democrației, statului de drept și libertăților individuale, precum și asupra dreptului la o cale de atac eficientă și la un proces echitabil. În special, pentru a aborda potențialele riscuri de părtinire, erori și opacitate, este oportun să fie calificate drept sisteme cu grad ridicat de risc sistemele de IA menite să ajute autoritățile judiciare să cerceteze și să interpreteze faptele și legea și să aplice legea unui set concret de fapte. Cu toate acestea, o astfel de calificare nu ar trebui să se extindă la sistemele de IA destinate unor activități administrative pur auxiliare care nu afectează administrarea efectivă a justiției în cazuri individuale, cum ar fi anonimizarea sau pseudonimizarea hotărârilor judecătorești, a documentelor sau a datelor, comunicarea între membrii personalului, sarcinile administrative sau alocarea resurselor.

(40)

Anumite sisteme de IA destinate administrării justiției și proceselor democratice ar trebui clasificate ca având un grad ridicat de risc, având în vedere impactul potențial semnificativ al acestora asupra democrației, statului de drept și libertăților individuale, precum și asupra dreptului la o cale de atac eficientă și la un proces echitabil. În special, pentru a aborda potențialele riscuri de părtinire, erori și opacitate, este oportun să fie calificate drept sisteme cu grad ridicat de risc sistemele de IA menite să fie utilizate de o autoritate judiciară sau de un organ administrativ sau în numele acestora pentru a ajuta autoritățile judiciare sau organele administrative să cerceteze și să interpreteze faptele și legea și să aplice legea unui set concret de fapte , sau utilizate într-un mod similar în soluționarea alternativă a litigiilor. Utilizarea instrumentelor de inteligență artificială poate sprijini, dar nu ar trebui să înlocuiască puterea decizională a judecătorilor sau independența sistemului judiciar, întrucât procesul decizional final trebuie să rămână o activitate și o decizie umană . Cu toate acestea, o astfel de calificare nu ar trebui să se extindă la sistemele de IA destinate unor activități administrative pur auxiliare care nu afectează administrarea efectivă a justiției în cazuri individuale, cum ar fi anonimizarea sau pseudonimizarea hotărârilor judecătorești, a documentelor sau a datelor, comunicarea între membrii personalului, sarcinile administrative sau alocarea resurselor.

(40a)

Pentru a aborda riscurile de ingerințe externe nejustificate în dreptul de vot consacrat la articolul 39 din cartă și de efecte disproporționate asupra proceselor democratice, a democrației și a statului de drept, sistemele de IA destinate a fi utilizate pentru a influența rezultatul unor alegeri sau al unui referendum sau comportamentul de vot al persoanelor fizice în exercitarea votului lor în cadrul alegerilor sau al referendumurilor ar trebui clasificate drept sisteme de IA cu grad ridicat de risc, cu excepția sistemelor de IA la ale căror rezultate persoanele fizice nu sunt expuse în mod direct, cum ar fi instrumentele utilizate pentru organizarea, optimizarea și structurarea campaniilor politice din punct de vedere administrativ și logistic.

(40b)

Având în vedere proporția persoanelor fizice care utilizează serviciile furnizate de platformele de comunicare socială desemnate drept platforme online foarte mari, astfel de platforme online pot fi utilizate într-un mod care influențează puternic siguranța online, formarea opiniei și a discursului public, procesele electorale și democratice și preocupările societale. Prin urmare, este oportun ca sistemele de IA utilizate de platformele online respective în sistemele lor de recomandare să facă obiectul prezentului regulament, astfel încât să se asigure că sistemele de IA respectă cerințele prevăzute în prezentul regulament, inclusiv cerințele tehnice privind guvernanța datelor, documentația tehnică și trasabilitatea, transparența, supravegherea umană, acuratețea și robustețea. Respectarea prezentului regulament ar trebui să permită acestor platforme online foarte mari să își respecte obligațiile mai extinse de evaluare a riscurilor și de atenuare a riscurilor prevăzute la articolul 34 și 35 din Regulamentul (UE) 2022/2065. Obligațiile prevăzute în prezentul regulament nu aduc atingere Regulamentului (UE) 2022/2065 și ar trebui să completeze obligațiile impuse în temeiul Regulamentului (UE) 2022/2065 atunci când platforma de comunicare socială a fost desemnată drept platformă online foarte mare. Având în vedere impactul la nivel european al platformelor de comunicare socială desemnate drept platforme online foarte mari, autoritățile desemnate în temeiul Regulamentului (UE) 2022/2065 ar trebui să acționeze ca autorități de aplicare a legii cu scopul de a asigura respectarea acestei dispoziții.

(41)

Faptul că un sistem de IA este clasificat ca prezentând un risc ridicat în temeiul prezentului regulament nu ar trebui interpretat ca indicând faptul că utilizarea sistemului este neapărat legală în temeiul altor acte ale dreptului Uniunii sau al dreptului intern compatibil cu dreptul Uniunii , cum ar fi în ceea ce privește protecția datelor cu caracter personal, utilizarea poligrafelor și a instrumentelor similare sau a altor sisteme pentru a detecta starea emoțională a persoanelor fizice . Orice astfel de utilizare ar trebui să continue să aibă loc numai în conformitate cu cerințele aplicabile care decurg din Cartă, precum și din legislația secundară a Uniunii și din dreptul intern aplicabil. Prezentul regulament nu ar trebui înțeles ca oferind temeiul juridic pentru prelucrarea datelor cu caracter personal, inclusiv a categoriilor speciale de date cu caracter personal, după caz.

(41)

Faptul că un sistem de IA este clasificat ca sistem de IA care prezintă un risc ridicat în temeiul prezentului regulament nu ar trebui interpretat ca indicând faptul că utilizarea sistemului este neapărat legală sau ilegală în temeiul altor acte ale dreptului Uniunii sau al dreptului intern compatibil cu dreptul Uniunii. Orice astfel de utilizare ar trebui să continue să aibă loc numai în conformitate cu cerințele aplicabile care decurg din Cartă, precum și din legislația secundară a Uniunii și din dreptul intern aplicabil.

(41a)

O serie de norme obligatorii din punct de vedere juridic la nivel european, național și internațional se aplică deja sau sunt relevante pentru sistemele de IA în prezent, inclusiv dreptul primar al Uniunii (Tratatele Uniunii Europene și Carta drepturilor fundamentale a UE), dreptul secundar al UE (cum ar fi Regulamentul general privind protecția datelor, Directiva privind răspunderea pentru produse, Regulamentul privind libera circulație a datelor fără caracter personal, directivele privind combaterea discriminării, directivele privind protecția consumatorilor și securitatea și sănătatea în muncă), tratatele ONU privind drepturile omului și convențiile Consiliului Europei (cum ar fi Convenția europeană a drepturilor omului) și dreptul național, dar fără a se limita la acestea. Pe lângă normele aplicabile orizontal, există diverse norme specifice domeniului care se aplică anumitor aplicații de IA (cum ar fi, de exemplu, Regulamentul privind dispozitivele medicale în sectorul asistenței medicale).

(42)

Pentru atenuarea riscurilor generate de sistemele de IA cu grad ridicat de risc introduse sau puse în funcțiune în alt mod pe piața Uniunii pentru utilizatori și persoanele afectate, ar trebui să se aplice anumite cerințe obligatorii, ținând seama de scopul preconizat al utilizării sistemului și în conformitate cu sistemul de gestionare a riscurilor care urmează să fie instituit de furnizor.

(42)

Pentru atenuarea riscurilor generate de sistemele de IA cu grad ridicat de risc introduse sau puse în funcțiune în alt mod pe piața Uniunii pentru operatori și persoanele afectate, ar trebui să se aplice anumite cerințe obligatorii, ținând seama de scopul preconizat , de utilizarea abuzivă previzibilă în mod rezonabil a sistemului și în conformitate cu sistemul de gestionare a riscurilor care urmează să fie instituit de furnizor. Aceste cerințe ar trebui să fie bazate pe obiective, adecvate scopului urmărit, rezonabile și eficace, fără să adauge sarcini de reglementare sau costuri nejustificate pentru operatori.

(43)

Cerințele ar trebui să se aplice sistemelor de IA cu grad ridicat de risc în ceea ce privește calitatea seturilor de date utilizate, documentația tehnică și păstrarea evidențelor, transparența și furnizarea de informații către utilizatori , supravegherea umană, robustețea, acuratețea și securitatea cibernetică . Aceste cerințe sunt necesare pentru a atenua în mod eficace riscurile pentru sănătate, siguranță și drepturile fundamentale, după caz, în funcție de scopul preconizat al sistemului, și nefiind disponibile în mod rezonabil alte măsuri mai puțin restrictive privind comerțul, se evită astfel restricțiile nejustificate în calea comerțului.

(43)

Cerințele ar trebui să se aplice sistemelor de IA cu grad ridicat de risc în ceea ce privește calitatea și relevanța seturilor de date utilizate, documentația tehnică și păstrarea evidențelor, transparența și furnizarea de informații către operatori , supravegherea umană, robustețea, acuratețea și securitatea. Aceste cerințe sunt necesare pentru a atenua în mod eficace riscurile pentru sănătate, siguranță și drepturile fundamentale, precum și pentru mediu, democrație și statul de drept, după caz, în funcție de scopul preconizat sau de utilizarea abuzivă previzibilă în mod rezonabil a sistemului, și nefiind disponibile în mod rezonabil alte măsuri mai puțin restrictive privind comerțul, se evită astfel restricțiile nejustificate în calea comerțului.

(44)

Calitatea ridicată a datelor este esențială pentru performanța multor sisteme de IA, în special atunci când se utilizează tehnici care implică formarea de modele, pentru a se asigura că sistemul de IA cu grad ridicat de risc funcționează astfel cum s-a prevăzut și în condiții de siguranță și nu devine sursa discriminării, interzisă de dreptul Uniunii. Seturile de date de înaltă calitate de antrenament, de validare și de testare necesită punerea în aplicare a unor practici adecvate de guvernanță și gestionare a datelor. Seturile de date de antrenament, de validare și de testare ar trebui să fie suficient de relevante, reprezentative și lipsite de erori și complete având în vedere scopul preconizat al sistemului. Acestea ar trebui să aibă, de asemenea, proprietățile statistice adecvate, inclusiv în ceea ce privește persoanele sau grupurile de persoane în legătură cu care se intenționează să fie utilizat sistemul de IA cu grad ridicat de risc. În special, seturile de date de antrenament, de validare și de testare ar trebui să țină seama, în măsura în care acest lucru este necesar având în vedere scopul preconizat, de particularitățile, caracteristicile sau elementele care sunt specifice cadrului sau contextului geografic, comportamental sau funcțional specific în care este destinat să fie utilizat sistemul de IA. Pentru a proteja dreptul altora împotriva discriminării care ar putea rezulta din părtinirea generată de sistemele de IA, furnizorii ar trebui să aibă posibilitatea de a prelucra și categorii speciale de date cu caracter personal, ca o chestiune de interes public major, pentru a asigura monitorizarea, detectarea și corectarea părtinirii în ceea ce privește sistemele de IA cu grad ridicat de risc.

(44)

Accesul la date de înaltă calitate joacă un rol esențial pentru furnizarea structurii și asigurarea performanței multor sisteme de IA, în special atunci când se utilizează tehnici care implică formarea de modele, pentru a se asigura că sistemul de IA cu grad ridicat de risc funcționează astfel cum s-a prevăzut și în condiții de siguranță și nu devine o sursă a discriminării, interzisă de dreptul Uniunii. Seturile de date de înaltă calitate de antrenament, de validare și de testare necesită punerea în aplicare a unor practici adecvate de guvernanță și gestionare a datelor. Seturile de date de antrenament și, după caz , de validare și de testare , inclusiv etichetele, ar trebui să fie suficient de relevante, reprezentative , verificate în mod corespunzător în ceea ce privește erorile și cât mai exhaustive având în vedere scopul preconizat al sistemului. Acestea ar trebui să aibă, de asemenea, proprietățile statistice adecvate, inclusiv în ceea ce privește persoanele sau grupurile de persoane în legătură cu care se intenționează să fie utilizat sistemul de IA cu grad ridicat de risc , acordând o atenție deosebită atenuării posibilelor părtiniri din seturile de date, care ar putea conduce la riscuri pentru drepturile fundamentale sau la rezultate discriminatorii pentru persoanele afectate de sistemul de IA cu grad ridicat de risc. Părtinirile pot fi, de exemplu, inerente seturilor de date subiacente, mai ales când sunt utilizate date istorice, introduse de dezvoltatorii de algoritmi sau generate în timpul punerii în aplicare în condiții reale a sistemelor. Rezultatele produse de sistemele de IA sunt influențate de aceste părtiniri inerente care tind să crească treptat și astfel să perpetueze și să amplifice discriminarea existentă, în special pentru persoanele care aparțin anumitor grupuri vulnerabile sau etnice sau comunități rasializate. În special, seturile de date de antrenament, de validare și de testare ar trebui să țină seama, în măsura în care acest lucru este necesar având în vedere scopul preconizat, de particularitățile, caracteristicile sau elementele care sunt specifice cadrului sau contextului geografic, comportamental sau funcțional specific în care este destinat să fie utilizat sistemul de IA. Pentru a proteja dreptul altora împotriva discriminării care ar putea rezulta din părtinirea generată de sistemele de IA, furnizorii ar trebui , în mod excepțional și după aplicarea tuturor condițiilor aplicabile prevăzute în prezentul regulament și în Regulamentul (UE) 2016/679, în Directiva (UE) 2016/680 și în Regulamentul (CE) nr. 2018/1725, să aibă posibilitatea de a prelucra și categorii speciale de date cu caracter personal, ca o chestiune de interes public major, pentru a asigura monitorizarea, detectarea și corectarea părtinirii negative în ceea ce privește sistemele de IA cu grad ridicat de risc. Părtinirea negativă ar trebui înțeleasă ca părtinire care creează un efect discriminatoriu direct sau indirect împotriva unei persoane fizice. Cerințele legate de guvernanța datelor pot fi respectate prin recurgerea la părți terțe care oferă servicii de conformitate certificate, inclusiv verificarea guvernanței datelor, integritatea seturilor de date și practicile de antrenament, validare și testare a datelor.

(45)

Pentru dezvoltarea sistemelor de IA cu grad ridicat de risc, anumiți actori, cum ar fi furnizorii, organismele notificate și alte entități relevante, cum ar fi centrele de inovare digitală, instalațiile de testare experimentate și cercetătorii, ar trebui să poată accesa și utiliza seturi de date de înaltă calitate în domeniile lor de activitate respective care sunt legate de prezentul regulament. Spațiile europene comune ale datelor instituite de Comisie și facilitarea schimbului de date între întreprinderi și cu administrațiile publice în interes public vor fi esențiale pentru a oferi un acces de încredere, responsabil și nediscriminatoriu la date de înaltă calitate pentru antrenarea, validarea și testarea sistemelor de IA. De exemplu, în domeniul sănătății, spațiul european al datelor medicale va facilita accesul nediscriminatoriu la datele medicale și antrenarea algoritmilor inteligenței artificiale cu privire la aceste seturi de date, într-un mod care protejează viața privată, sigur, prompt, transparent și fiabil și cu o guvernanță instituțională adecvată. Autoritățile competente relevante, inclusiv cele sectoriale, care furnizează sau sprijină accesul la date pot sprijini, de asemenea, furnizarea de date de înaltă calitate pentru antrenarea, validarea și testarea sistemelor de IA.

(45)

Pentru dezvoltarea și evaluarea sistemelor de IA cu grad ridicat de risc, anumiți actori, cum ar fi furnizorii, organismele notificate și alte entități relevante, cum ar fi centrele de inovare digitală, instalațiile de testare experimentate și cercetătorii, ar trebui să poată accesa și utiliza seturi de date de înaltă calitate în domeniile lor de activitate respective care sunt legate de prezentul regulament. Spațiile europene comune ale datelor instituite de Comisie și facilitarea schimbului de date între întreprinderi și cu administrațiile publice în interes public vor fi esențiale pentru a oferi un acces de încredere, responsabil și nediscriminatoriu la date de înaltă calitate pentru antrenarea, validarea și testarea sistemelor de IA. De exemplu, în domeniul sănătății, spațiul european al datelor medicale va facilita accesul nediscriminatoriu la datele medicale și antrenarea algoritmilor inteligenței artificiale cu privire la aceste seturi de date, într-un mod care protejează viața privată, sigur, prompt, transparent și fiabil și cu o guvernanță instituțională adecvată. Autoritățile competente relevante, inclusiv cele sectoriale, care furnizează sau sprijină accesul la date pot sprijini, de asemenea, furnizarea de date de înaltă calitate pentru antrenarea, validarea și testarea sistemelor de IA.

(45a)

Dreptul la viața privată și la protecția datelor cu caracter personal trebuie să fie garantat pe parcursul întregului ciclu de viață al sistemului de IA. În acest sens, principiile reducerii la minimum a datelor și protecției datelor începând cu momentul conceperii și implicit, principii prevăzute de legislația Uniunii privind protecția datelor, sunt de importanță fundamentală atunci când prelucrarea datelor se face cu riscuri semnificative pentru drepturile fundamentale ale persoanelor fizice. Furnizorii și utilizatorii de sisteme de IA ar trebui să aplice cele mai noi măsuri tehnice și organizatorice pentru a proteja aceste drepturi. Printre aceste măsuri ar trebui să se numere nu numai anonimizarea și criptarea, ci și folosirea unei tehnologii tot mai disponibile care permite să se aplice algoritmi datelor și să se obțină informații valoroase fără ca aceste date să fie transmise între părți și fără ca înseși datele primare sau datele structurate să fie copiate inutil.

(46)

Deținerea de informații cu privire la modul în care au fost dezvoltate sistemele de IA cu grad ridicat de risc și la modul în care acestea funcționează pe parcursul întregului lor ciclu de viață este esențială pentru verificarea conformității cu cerințele prevăzute în prezentul regulament. Acest lucru presupune păstrarea evidențelor și disponibilitatea unei documentații tehnice care să conțină informațiile necesare pentru a evalua conformitatea sistemului de IA cu cerințele relevante. Aceste informații ar trebui să includă caracteristicile generale, capacitățile și limitările sistemului, algoritmii, datele, procesele de antrenare, testare și validare utilizate, precum și documentația privind sistemul relevant de gestionare a riscurilor. Documentația tehnică ar trebui actualizată permanent .

(46)

Deținerea de informații cuprinzătoare cu privire la modul în care au fost dezvoltate sistemele de IA cu grad ridicat de risc și la modul în care acestea funcționează pe parcursul întregii lor durate de viață este esențială pentru verificarea conformității cu cerințele prevăzute în prezentul regulament. Acest lucru presupune păstrarea evidențelor și disponibilitatea unei documentații tehnice care să conțină informațiile necesare pentru a evalua conformitatea sistemului de IA cu cerințele relevante. Aceste informații ar trebui să includă caracteristicile generale, capacitățile și limitările sistemului, algoritmii, datele, procesele de antrenare, testare și validare utilizate, precum și documentația privind sistemul relevant de gestionare a riscurilor. Documentația tehnică ar trebui actualizată în mod adecvat pe parcursul întregului ciclu de viață al sistemului de IA. Sistemele de IA pot avea un impact considerabil asupra mediului și un consum ridicat de energie în timpul ciclului lor de viață. Pentru a înțelege mai bine impactul sistemelor de IA asupra mediului, documentația tehnică elaborată de furnizori ar trebui să includă informații privind consumul de energie al sistemului de IA, inclusiv consumul în timpul dezvoltării și consumul preconizat în timpul utilizării. Aceste informații ar trebui să țină seama de legislația relevantă a Uniunii și de cea națională. Informațiile comunicate ar trebui să fie inteligibile, comparabile și verificabile și, în acest scop, Comisia ar trebui să elaboreze orientări privind o metodologie armonizată pentru calcularea și raportarea acestor informații. Pentru a garanta posibilitatea de a stabili o documentație unică, termenii și definițiile legate de documentația necesară și de orice documentație impusă de legislația Uniunii în domeniu ar trebui aliniate cât mai mult posibil.

(46a)

Sistemele de IA ar trebui să ia în considerare metodele de ultimă generație și standardele relevante aplicabile pentru a reduce consumul de energie și de resurse și deșeurile, precum și pentru a crește eficiența energetică și eficiența globală a sistemului. Aspectele de mediu ale sistemelor de IA care sunt semnificative în sensul prezentului regulament sunt consumul de energie al sistemului de IA în faza de dezvoltare, formare și implementare, precum și înregistrarea, raportarea și stocarea acestor date. Proiectarea sistemelor de IA ar trebui să permită măsurarea și înregistrarea consumului de energie și de resurse în fiecare etapă de dezvoltare, de antrenare și de implementare. Monitorizarea și raportarea emisiilor sistemelor de IA trebuie să fie solide, transparente, coerente și exacte. Cu scopul de a asigura aplicarea uniformă a prezentului regulament și un ecosistem juridic stabil pentru furnizorii și operatorii de pe piața unică, Comisia ar trebui să elaboreze o specificație comună privind metodologia de îndeplinire a cerinței de raportare și documentare privind consumul de energie și de resurse în timpul dezvoltării, antrenării și implementării. Aceste specificații comune privind metodologia de măsurare pot dezvolta un scenariu de referință pe baza căruia Comisia poate decide mai bine dacă sunt necesare intervenții de reglementare viitoare, după efectuarea unei evaluări a impactului care să țină seama de legislația existentă.

(46b)

Pentru a atinge obiectivele prezentului regulament și a contribui la obiectivele de mediu ale Uniunii, asigurând în același timp buna funcționare a pieței interne, ar putea fi necesar să se stabilească recomandări și orientări și, în cele din urmă, obiective în materie de durabilitate. În acest scop, Comisia are dreptul de a elabora o metodologie pentru a contribui la stabilirea indicatorilor-cheie de performanță (ICP) și a unei referințe pentru obiectivele de dezvoltare durabilă (ODD). Obiectivul ar trebui să fie, în primul rând, acela de a permite o comparație echitabilă între opțiunile de punere în aplicare a IA, stimulând promovarea utilizării unor tehnologii de IA mai eficace care să răspundă preocupărilor legate de energie și de resurse. Pentru a îndeplini acest obiectiv, prezentul regulament ar trebui să prevadă mijloacele pentru a stabili o colectare de referință a datelor raportate privind emisiile generate de dezvoltare, de antrenare și de implementare.

(47a)

Astfel de cerințe privind transparența și posibilitatea de a explica procesul decizional bazat pe IA ar trebui să contribuie și la contracararea efectelor descurajatoare ale asimetriei digitale și ale așa-numitelor interfețe înșelătoare („dark patterns”) care vizează indivizii și consimțământul în cunoștință de cauză al acestora.

(49)

Sistemele de IA cu grad ridicat de risc ar trebui să funcționeze în mod consecvent pe parcursul întregului lor ciclu de viață și să atingă un nivel adecvat de acuratețe, robustețe și securitate cibernetică, în conformitate cu stadiul actual al tehnologiei general recunoscut. Nivelul de acuratețe și de precizie ar trebui comunicat utilizatorilor .

(49)

Sistemele de IA cu grad ridicat de risc ar trebui să funcționeze în mod consecvent pe parcursul întregului lor ciclu de viață și să atingă un nivel adecvat de acuratețe, robustețe și securitate cibernetică, în conformitate cu stadiul actual al tehnologiei general recunoscut. Indicatorii de performanță și nivelul preconizat al acestora ar trebui definiți cu obiectivul principal de a atenua riscurile și impactul negativ al sistemului de IA. Nivelul preconizat al indicatorilor de performanță ar trebui comunicat operatorilor într-un mod clar, transparent, ușor de înțeles și inteligibil. Declarația privind indicatorii de performanță nu poate fi considerată o dovadă a nivelurilor viitoare, dar trebuie aplicate metode pertinente pentru a asigura niveluri coerente în timpul utilizării. Deși există organisme de standardizare care stabilesc standarde, este necesară o coordonare privind analiza comparativă pentru a stabili în ce mod ar trebui măsurate aceste cerințe și caracteristici standardizate ale sistemelor de IA. Oficiul european pentru inteligența artificială ar trebui să reunească autoritățile naționale și internaționale din domeniul metrologiei și al analizei comparative și să ofere orientări fără caracter obligatoriu pentru a aborda aspectele tehnice ale modului de măsurare a nivelurilor adecvate de performanță și robustețe.

(50)

Robustețea tehnică este o cerință esențială pentru sistemele de IA cu grad ridicat de risc. Acestea ar trebui să fie rezistente la riscurile legate de limitările sistemului (de exemplu, erori, defecțiuni, inconsecvențe, situații neprevăzute), precum și la acțiunile răuvoitoare care pot compromite securitatea sistemului de IA și pot avea ca rezultat un comportament dăunător sau nedorit în alt mod. Incapacitatea de a asigura protecția împotriva acestor riscuri ar putea avea un impact asupra siguranței sau ar putea afecta în mod negativ drepturile fundamentale, de exemplu din cauza unor decizii eronate sau a unor rezultate greșite sau subiective generate de sistemul de IA.

(50)

Robustețea tehnică este o cerință esențială pentru sistemele de IA cu grad ridicat de risc. Acestea ar trebui să fie rezistente la riscurile legate de limitările sistemului (de exemplu, erori, defecțiuni, inconsecvențe, situații neprevăzute), precum și la acțiunile răuvoitoare care pot compromite securitatea sistemului de IA și pot avea ca rezultat un comportament dăunător sau nedorit în alt mod. Incapacitatea de a asigura protecția împotriva acestor riscuri ar putea avea un impact asupra siguranței sau ar putea afecta în mod negativ drepturile fundamentale, de exemplu din cauza unor decizii eronate sau a unor rezultate greșite sau subiective generate de sistemul de IA. Utilizatorii sistemului de IA ar trebui să ia măsuri pentru a se asigura că posibilul compromis între robustețe și acuratețe nu conduce la rezultate discriminatorii sau negative pentru subgrupurile minoritare.

(51)

Securitatea cibernetică joacă un rol esențial în asigurarea rezilienței sistemelor de IA împotriva încercărilor de modificare a utilizării, a comportamentului, a performanței sau de compromitere a proprietăților lor de securitate de către părți terțe răuvoitoare care exploatează vulnerabilitățile sistemului. Atacurile cibernetice împotriva sistemelor de IA pot mobiliza active specifice de IA, cum ar fi seturi de date de antrenament (de exemplu, „data poisoning”) sau modele antrenate (de exemplu, atacuri contradictorii), sau pot exploata vulnerabilitățile activelor digitale ale sistemului de IA sau ale infrastructurii TIC subiacente. Pentru a asigura un nivel de securitate cibernetică adecvat riscurilor, furnizorii de sisteme de IA cu grad ridicat de risc ar trebui, prin urmare, să ia măsuri adecvate, ținând seama, de asemenea, după caz, de infrastructura TIC subiacentă.

(51)

Securitatea cibernetică joacă un rol esențial în asigurarea rezilienței sistemelor de IA împotriva încercărilor de modificare a utilizării, a comportamentului, a performanței sau de compromitere a proprietăților lor de securitate de către părți terțe răuvoitoare care exploatează vulnerabilitățile sistemului. Atacurile cibernetice împotriva sistemelor de IA pot mobiliza active specifice de IA, cum ar fi seturi de date de antrenament (de exemplu, „data poisoning”) sau modele antrenate (de exemplu, atacuri contradictorii sau atacuri la adresa confidențialității ), sau pot exploata vulnerabilitățile activelor digitale ale sistemului de IA sau ale infrastructurii TIC subiacente. Pentru a asigura un nivel de securitate cibernetică adecvat riscurilor, furnizorii de sisteme de IA cu grad ridicat de risc , precum și organismele notificate, autoritățile naționale competente și autoritățile de supraveghere a pieței ar trebui, prin urmare, să ia măsuri adecvate, ținând seama, de asemenea, după caz, de infrastructura TIC subiacentă. IA cu grad ridicat de risc ar trebui să fie însoțită de soluții de securitate și de corecții software pe toată durata de viață a produsului sau, dacă nu există o dependență de un produs specific, pentru o perioadă care trebuie specificată de producător.

(53a)

În calitate de semnatare ale Convenției Națiunilor Unite privind drepturile persoanelor cu handicap (UNCRPD), Uniunea și statele membre au obligația juridică să protejeze persoanele cu dizabilități împotriva discriminării și să promoveze egalitatea acestora, să se asigure că persoanele cu dizabilități au acces, în condiții de egalitate cu ceilalți, la tehnologiile și sistemele informației și comunicațiilor și să garanteze respectarea vieții private a persoanelor cu dizabilități. Având în vedere importanța și utilizarea în creștere a sistemelor de IA, aplicarea principiilor proiectării universale la toate noile tehnologii și servicii ar trebui să asigure accesul deplin, egal și nerestricționat al tuturor persoanelor potențial afectate de tehnologiile IA sau care utilizează aceste tehnologii, inclusiv al persoanelor cu dizabilități, într-un mod care să țină seama pe deplin de demnitatea și diversitatea lor inerentă. Prin urmare, este esențial ca furnizorii să asigure conformitatea deplină cu cerințele de accesibilitate, inclusiv cu Directiva (UE) 2016/2102 și cu Directiva (UE) 2019/882. Furnizorii ar trebui să asigure conformitatea cu aceste cerințe din faza de proiectare. Prin urmare, măsurile necesare ar trebui integrate cât mai mult posibil în proiectarea sistemului de IA cu grad ridicat de risc.

(54)

Furnizorul ar trebui să instituie un sistem solid de management al calității, să asigure realizarea procedurii necesare de evaluare a conformității, să întocmească documentația relevantă și să instituie un sistem solid de monitorizare după introducerea pe piață. Autoritățile publice care pun în funcțiune sisteme de IA cu grad ridicat de risc pentru uzul propriu pot adopta și pune în aplicare norme privind sistemul de management al calității ca parte a sistemului de management al calității adoptat la nivel național sau regional, după caz, ținând seama de particularitățile sectorului și de competențele și organizarea autorității publice în cauză.

(54)

Furnizorul ar trebui să instituie un sistem solid de management al calității, să asigure realizarea procedurii necesare de evaluare a conformității, să întocmească documentația relevantă și să instituie un sistem solid de monitorizare după introducerea pe piață. Pentru furnizorii care dispun deja de sisteme de management al calității bazate pe standarde precum ISO 9001 sau pe alte standarde relevante, nu ar trebui să se prevadă o duplicare completă a sistemului de management al calității, ci, mai degrabă, o adaptare a sistemelor lor existente la anumite aspecte legate de respectarea cerințelor specifice ale prezentului regulament. Acest lucru ar trebui să se reflecte, de asemenea, în viitoarele activități de standardizare sau în orientările adoptate de Comisie în acest sens. Autoritățile publice care pun în funcțiune sisteme de IA cu grad ridicat de risc pentru uzul propriu pot adopta și pune în aplicare norme privind sistemul de management al calității ca parte a sistemului de management al calității adoptat la nivel național sau regional, după caz, ținând seama de particularitățile sectorului și de competențele și organizarea autorității publice în cauză.

(56)

Pentru a permite asigurarea respectării prezentului regulament și a crea condiții de concurență echitabile pentru operatori și ținând seama de diferitele forme de punere la dispoziție a produselor digitale, este important să se asigure că, în toate circumstanțele, o persoană stabilită în Uniune poate furniza autorităților toate informațiile necesare cu privire la conformitatea unui sistem de IA. Prin urmare, înainte de a-și pune la dispoziție sistemele de IA în Uniune, în cazul în care un importator nu poate fi identificat, furnizorii stabiliți în afara Uniunii desemnează, prin mandat scris, un reprezentant autorizat stabilit în Uniune.

(56)

Pentru a permite asigurarea respectării prezentului regulament și a crea condiții de concurență echitabile pentru operatori și ținând seama de diferitele forme de punere la dispoziție a produselor digitale, este important să se asigure că, în toate circumstanțele, o persoană stabilită în Uniune poate furniza autorităților toate informațiile necesare cu privire la conformitatea unui sistem de IA. Prin urmare, înainte de a-și pune la dispoziție sistemele de IA în Uniune, furnizorii stabiliți în afara Uniunii desemnează, prin mandat scris, un reprezentant autorizat stabilit în Uniune.

(58)

Având în vedere natura sistemelor de IA și riscurile la adresa siguranței și a drepturilor fundamentale care pot fi asociate cu utilizarea lor, inclusiv în ceea ce privește necesitatea de a asigura o monitorizare adecvată a performanței unui sistem de IA într-un context real, este oportun să se stabilească responsabilități specifice pentru utilizatori . Utilizatorii ar trebui, în special, să utilizeze sisteme de IA cu grad ridicat de risc în conformitate cu instrucțiunile de utilizare și ar trebui prevăzute alte obligații în ceea ce privește monitorizarea funcționării sistemelor de IA și păstrarea evidențelor, după caz.

(58)

Având în vedere natura sistemelor de IA și riscurile la adresa siguranței și a drepturilor fundamentale care pot fi asociate cu utilizarea lor, inclusiv în ceea ce privește necesitatea de a asigura o monitorizare adecvată a performanței unui sistem de IA într-un context real, este oportun să se stabilească responsabilități specifice pentru operatori . Operatorii ar trebui, în special, să utilizeze sisteme de IA cu grad ridicat de risc în conformitate cu instrucțiunile de utilizare și ar trebui prevăzute alte obligații în ceea ce privește monitorizarea funcționării sistemelor de IA și păstrarea evidențelor, după caz.

(58a)

Deși riscurile legate de sistemele de IA pot rezulta din modul în care sunt proiectate sistemele respective, pot decurge riscuri și din modul în care aceste sisteme de IA sunt utilizate. Prin urmare, operatorii sistemelor de IA cu grad ridicat de risc joacă un rol esențial în a garanta că drepturile fundamentale sunt protejate, completând obligațiile furnizorului la dezvoltarea sistemului de IA. Operatorii sunt cei mai în măsură să înțeleagă modul în care sistemul de IA cu grad ridicat de risc va fi utilizat concret și, prin urmare, pot identifica potențialele riscuri semnificative care nu au fost prevăzute în faza de dezvoltare, datorită cunoașterii mai exacte a contextului de utilizare, a persoanelor sau a grupurilor de persoane care ar putea fi afectate, inclusiv a grupurilor marginalizate și vulnerabile. Operatorii ar trebui să identifice structuri de guvernanță adecvate în acest context specific de utilizare, cum ar fi mecanisme de supraveghere umană, proceduri de soluționare a plângerilor și căi de atac, deoarece alegerile din cadrul structurilor de guvernanță pot avea un rol esențial în atenuarea riscurilor la adresa drepturilor fundamentale în cazuri concrete de utilizare. Pentru a garanta în mod eficient că drepturile fundamentale sunt protejate, operatorii sistemelor de IA cu grad ridicat de risc ar trebui să efectueze, prin urmare, o evaluare a impactului asupra drepturilor fundamentale înainte de a le pune în funcțiune. Evaluarea impactului ar trebui însoțită de un plan detaliat care să descrie măsurile sau instrumentele care vor contribui la atenuarea riscurilor identificate pentru drepturile fundamentale din momentul punerii în funcțiune. În cazul în care nu se poate defini un astfel de plan, operatorul ar trebui să se abțină de la punerea în funcțiune a sistemului. Atunci când efectuează această evaluare a impactului, operatorii ar trebui să notifice autoritatea națională de supraveghere și, în cea mai mare măsură posibilă, părțile interesate relevante, precum și reprezentanții grupurilor de persoane care ar putea fi afectate de sistemul de IA, pentru a colecta informațiile relevante considerate necesare pentru a efectua evaluarea impactului și sunt încurajați să pună la dispoziția publicului pe site-ul lor internet rezumatul evaluării impactului asupra drepturilor fundamentale. Aceste obligații nu ar trebui să se aplice IMM-urilor care, din cauza absenței resurselor, ar putea întâmpina dificultăți în efectuarea acestei consultări. Cu toate acestea, ele ar trebui, de asemenea, să depună eforturi să includă acești reprezentanți atunci când efectuează o evaluare a impactului asupra drepturilor fundamentale. În plus, având în vedere impactul potențial și necesitatea unei supravegheri și a unui control democratic, operatorii de sisteme de IA cu grad ridicat de risc care sunt autorități publice sau instituții, organe, oficii și agenții ale Uniunii, precum și operatorii care sunt societăți desemnate drept controlori de acces în temeiul Regulamentului (UE) 2022/1925 ar trebui să aibă obligația de a înregistra utilizarea oricărui sistem de IA cu grad ridicat de risc într-o bază de date publică. Ceilalți operatori se pot înregistra în mod voluntar.

(59)

Este oportun să se aibă în vedere faptul că utilizatorul sistemului de IA ar trebui să fie persoana fizică sau juridică, autoritatea publică, agenția sau alt organism sub a cărui autoritate funcționează sistemul de IA, cu excepția cazului în care utilizarea se face în cursul unei activități personale neprofesionale.

(59)

Este oportun să se aibă în vedere faptul că operatorul sistemului de IA ar trebui să fie persoana fizică sau juridică, autoritatea publică, agenția sau alt organism sub a cărui autoritate funcționează sistemul de IA, cu excepția cazului în care utilizarea se face în cursul unei activități personale neprofesionale.

(60)

Având în vedere complexitatea lanțului valoric al inteligenței artificiale , părțile terțe relevante, în special cele implicate în vânzarea și furnizarea de software, instrumente și componente software , modele și date pre-antrenate sau furnizorii de servicii de rețea ar trebui să coopereze, după caz, cu furnizorii și utilizatorii pentru a permite respectarea de către aceștia a  obligațiilor care le revin în temeiul prezentului regulament și cu autoritățile competente instituite în temeiul prezentului regulament .

(60)

În cadrul lanțului valoric al IA, numeroase entități furnizează adesea instrumente și servicii, dar și componente sau procese care sunt apoi încorporate de furnizor în sistemul de IA, inclusiv în ceea ce privește colectarea și prelucrarea prealabilă a datelor, antrenarea modelelor, reconversia modelelor, testarea și evaluarea modelelor, integrarea în software sau alte aspecte ale dezvoltării de modele. Entitățile implicate își pot pune oferta la dispoziție pe piață, direct sau indirect, prin interfețe, cum ar fi interfețele de programare a aplicațiilor (IPA), distribuite sub licențe gratuite și cu sursă deschisă, dar și din ce în ce mai mult prin platforme de forță de muncă din domeniul IA, prin revânzarea parametrilor antrenați, prin kituri de bricolaj pentru a construi modele sau oferind acces contra cost la un model care servește arhitecturii de dezvoltare și formare de modele. Având în vedere această complexitate a lanțului valoric al IA , toate părțile terțe relevante, în special cele care sunt implicate în dezvoltarea, vânzarea și furnizarea pe piață de instrumente software, componente, modele pre-antrenate sau date încorporate în sistemul de IA sau furnizorii de servicii de rețea, ar trebui , fără a-și compromite propriile drepturi de proprietate intelectuală sau secrete comerciale, să pună la dispoziție informațiile, antrenarea sau cunoștințele de specialitate necesare și să coopereze, după caz, cu furnizorii pentru a le permite să controleze toate aspectele relevante pentru conformitate ale sistemului de IA care intră sub incidența prezentului regulament. Pentru a permite o guvernanță eficientă din punctul de vedere al costurilor a lanțului valoric al IA, nivelul de control este dezvăluit în mod explicit de fiecare parte terță care furnizează furnizorului un instrument, un serviciu, o componentă sau un proces care este ulterior încorporat de furnizor în sistemul de IA.

(60a)

În cazul în care una dintre părți se află într-o poziție de negociere mai puternică, există riscul ca partea respectivă să poată profita de această poziție în detrimentul celeilalte părți contractante atunci când negociază furnizarea de instrumente, servicii, componente sau procese care sunt utilizate sau integrate într-un sistem de IA cu grad ridicat de risc sau măsurile corective în caz de încălcare sau de reziliere a obligațiilor conexe. Astfel de dezechilibre contractuale afectează în special microîntreprinderile, întreprinderile mici și mijlocii, precum și întreprinderile nou-înființate, cu excepția cazului în care acestea sunt deținute sau subcontractate de o întreprindere care este în măsură să despăgubească subcontractantul în mod corespunzător, dat fiind că ele nu dispun de o capacitate semnificativă de negociere a condițiilor acordului contractual și că nu pot avea altă opțiune decât să accepte clauzele contractuale sau să renunțe la contract. Prin urmare, clauzele contractuale abuzive care reglementează furnizarea de instrumente, servicii, componente sau procese care sunt utilizate sau integrate într-un sistem de IA cu grad ridicat de risc sau măsurile reparatorii pentru încălcarea sau rezilierea obligațiilor conexe nu ar trebui să fie obligatorii pentru astfel de microîntreprinderi, întreprinderi mici sau mijlocii și întreprinderi nou-înființate dacă le-au fost impuse în mod unilateral.

(60b)

În normele referitoare la clauzele contractuale ar trebui să se țină seama de principiul libertății contractuale, un concept esențial în relațiile dintre întreprinderi. Prin urmare, nu toate clauzele contractuale ar trebui să facă obiectul unui test privind caracterul abuziv, ci numai clauzele care sunt impuse în mod unilateral microîntreprinderilor, întreprinderilor mici și mijlocii și întreprinderilor nou-înființate. Sunt vizate situațiile în care singura opțiune este între a accepta clauze contractuale sau a renunța la contract, situații în care una dintre părți oferă o anumită clauză contractuală, iar microîntreprinderea, întreprinderea mică sau mijlocie și întreprinderea nou-înființată nu poate influența conținutul clauzei respective, în pofida încercării de a o negocia. O clauză contractuală care este pur și simplu oferită de una dintre părți și acceptată de microîntreprindere, de întreprinderea mică sau mijlocie sau de întreprinderea nou-înființată, sau o clauză care este negociată și asupra căreia părțile contractante convin ulterior după aducerea unor modificări nu ar trebui considerată ca fiind impusă unilateral.

(60c)

În plus, normele privind clauzele contractuale abuzive ar trebui să se aplice numai elementelor unui contract care sunt legate de furnizarea de instrumente, servicii, componente sau procese utilizate sau integrate într-un sistem de IA cu grad ridicat de risc sau măsurilor reparatorii pentru încălcarea sau rezilierea obligațiilor conexe. Alte părți ale aceluiași contract, care nu au legătură cu aceste elemente, nu ar trebui să facă obiectul testului privind caracterul abuziv prevăzut în prezentul regulament.

(60d)

Criteriile de identificare a clauzelor contractuale abuzive ar trebui să se aplice numai clauzelor contractuale excesive, în cazul cărora se abuzează de o poziție de negociere mai puternică. Marea majoritate a clauzelor contractuale care sunt mai avantajoase din punct de vedere comercial pentru o parte decât pentru cealaltă parte, inclusiv cele care sunt normale în contractele dintre întreprinderi, reprezintă o expresie normală a principiului libertății contractuale și continuă să se aplice. În cazul în care o clauză contractuală nu este inclusă în lista clauzelor considerate întotdeauna abuzive, se aplică dispoziția generală privind caracterul abuziv. În această privință, clauzele din lista clauzelor abuzive ar trebui să servească drept etalon pentru interpretarea dispoziției generale privind caracterul abuziv.

(60e)

Modelele de bază sunt o evoluție recentă, în care modelele de IA sunt dezvoltate pornind de la algoritmi concepuți pentru a optimiza caracterul general și versatilitatea rezultatelor. Modelele respective sunt adesea antrenate cu gamă largă de surse de date și cu cantități mari de date pentru a îndeplini un număr mare de sarcini în aval, inclusiv unele pentru care nu au fost dezvoltate și antrenate în mod specific. Modelul de bază poate fi unimodal sau multimodal, antrenat prin diverse metode, cum ar fi învățarea supravegheată sau învățarea prin întărire. Sistemele de IA cu scop preconizat specific sau sistemele de IA de uz general pot fi o punere în aplicare a unui model de bază, ceea ce înseamnă că fiecare model de bază poate fi reutilizat în nenumărate sisteme de IA din aval sau în sisteme de IA de uz general. Aceste modele au o importanță din ce în ce mai mare pentru multe aplicații și sisteme din aval.

(60f)

În cazul modelelor de bază furnizate ca serviciu, cum ar fi accesul la informații prealabile referitoare la pasageri (API), cooperarea cu furnizorii din aval ar trebui să se extindă pe întreaga perioadă în care serviciul este furnizat și sprijinit, pentru a permite atenuarea adecvată a riscurilor, cu excepția cazului în care furnizorul modelului de bază transferă modelul de antrenare, precum și informații cuprinzătoare și adecvate privind seturile de date și procesul de dezvoltare a sistemului sau restricționează serviciul, cum ar fi accesul la API, astfel încât furnizorul din aval să fie în măsură să respecte pe deplin prezentul regulament fără sprijin suplimentar din partea furnizorului inițial al modelului de bază.

(60g)

Având în vedere natura și complexitatea lanțului valoric pentru sistemele de IA, este esențial să se precizeze rolul actorilor care contribuie la dezvoltarea sistemelor de IA. Există o incertitudine considerabilă privind modul în care vor evolua modelele de bază, atât în ceea ce privește tipologia modelelor, cât și în ceea ce privește autoguvernanța. Prin urmare, este esențial să se precizeze situația juridică a furnizorilor de modele de bază. Ținând seama de complexitatea și impactul lor neprevăzut și de absența de control a furnizorului de IA din aval asupra dezvoltării modelului de bază și dezechilibrul de putere aferent și pentru a asigura o partajare echitabilă a responsabilităților de-a lungul lanțului valoric al IA, aceste modele ar trebui să facă obiectul unor cerințe și obligații proporționale și mai specifice în temeiul prezentului regulament, și anume modelele de bază ar trebui să evalueze și să atenueze posibilele riscuri și prejudicii printr-o proiectare, testare și analiză adecvate, ar trebui să pună în aplicare măsuri de guvernanță a datelor, cum ar fi evaluarea părtinirilor, ar trebui să respecte cerințele tehnice de proiectare pentru a asigura niveluri adecvate de performanță, previzibilitate, posibilitate de interpretare și de corectare, siguranță și securitate cibernetică și ar trebui să respecte standardele de mediu. Aceste obligații ar trebui să fie însoțite de standarde. De asemenea, sistemele de uz general ar trebui să aibă obligații de informare și să pregătească toată documentația tehnică necesară pentru ca potențialii furnizori din aval să fie în măsură să își respecte obligațiile care le revin în temeiul prezentului regulament. Modelele de bază generative ar trebui să asigure transparența cu privire la faptul că conținutul este generat de un sistem de IA, nu de oameni. Aceste cerințe și obligații specifice nu echivalează cu considerarea modelelor de bază ca sisteme de IA cu risc ridicat, dar ar trebui să garanteze că sunt îndeplinite obiectivele prezentului regulament de a asigura un nivel ridicat de protecție a drepturilor fundamentale, a sănătății și siguranței, a mediului, a democrației și a statului de drept. Modelele pre-antrenate dezvoltate pentru un set mai restrâns, mai puțin general și mai limitat de aplicații și care nu pot fi adaptate la o gamă largă de sarcini, cum ar fi sistemele de IA polivalente simple, nu ar trebui să fie considerate modele de bază în sensul prezentului regulament, datorită capacității lor mai mari de interpretare, ceea ce face ca comportamentul lor să fie mai puțin imprevizibil.

(60h)

Având în vedere natura modelelor de bază, lipsesc cunoștințele de specialitate privind evaluarea conformității, iar metodele de audit efectuate de terți sunt încă în curs de elaborare. Prin urmare, sectorul în sine dezvoltă noi modalități de evaluare a modelelor de bază care îndeplinesc parțial obiectivul auditului (cum ar fi evaluarea modelelor, testarea penetrării bazată pe amenințări sau tehnicile de verificare și validare a învățării automate). Aceste evaluări interne ale modelelor de bază ar trebui să fie aplicabile pe scară largă (de exemplu, independent de canalele de distribuție, de modalități, de metodele de dezvoltare), să abordeze riscurile specifice unor astfel de modele, ținând seama de practicile de cele mai recente ale industriei și să se concentreze pe dezvoltarea unei înțelegeri tehnice și a unui control suficient asupra modelului, pe gestionarea riscurilor previzibile în mod rezonabil, precum și pe analiza și testarea aprofundată a modelului prin măsuri adecvate, cum ar fi prin implicarea unor evaluatori independenți. Întrucât modelele de bază reprezintă o evoluție nouă și rapidă în domeniul inteligenței artificiale, este oportun ca Comisia și Oficiul pentru IA să monitorizeze și să evalueze periodic cadrul legislativ și de guvernanță al acestor modele și, în special, al sistemelor de IA generative bazate pe astfel de modele, care ridică probleme considerabile legate de generarea de conținut care încalcă dreptul Uniunii, de normele privind drepturile de autor și de eventuale utilizări abuzive. Este oportun să se precizeze că prezentul regulament nu ar trebui să aducă atingere dreptului Uniunii privind dreptul de autor și drepturile conexe, cum ar fi Directivele 2001/29/CE, 2004/48/ECR și (UE) 2019/790 ale Parlamentului European și ale Consiliului.

(61)

Standardizarea ar trebui să joace un rol esențial în furnizarea de soluții tehnice furnizorilor pentru a asigura conformitatea cu prezentul regulament. Conformitatea cu normele armonizate, astfel cum se prevede în Regulamentul (UE) nr. 1025/2012 al Parlamentului European și al Consiliului (54), ar trebui să fie un mijloc prin care furnizorii să demonstreze conformitatea cu cerințele prezentului regulament. Cu toate acestea , Comisia ar putea adopta specificații tehnice comune în domenii în care nu există norme armonizate sau în care acestea sunt insuficiente .

(61)

Standardizarea ar trebui să joace un rol esențial în furnizarea de soluții tehnice furnizorilor pentru a asigura conformitatea cu prezentul regulament. Conformitatea cu normele armonizate, astfel cum se prevede în Regulamentul (UE) nr. 1025/2012 al Parlamentului European și al Consiliului (54), ar trebui să fie un mijloc prin care furnizorii să demonstreze conformitatea cu cerințele prezentului regulament. Pentru a asigura eficacitatea standardelor ca instrumente de politică pentru Uniune și având în vedere importanța standardelor pentru a asigura conformitatea cu cerințele prezentului regulament și pentru competitivitatea societăților , este necesar să se asigure o reprezentare echilibrată a intereselor prin implicarea tuturor părților interesate relevante la elaborarea standardelor. Procesul de standardizare ar trebui să fie transparent în ceea ce privește persoanele juridice și fizice care participă la activitățile de standardizare.

(61a)

Pentru a facilita conformitatea, primele cereri de standardizare ar trebui să fie emise de Comisie cel târziu la două luni de la intrarea în vigoare a prezentului regulament. Acest lucru ar trebui să contribuie la îmbunătățirea securității juridice, promovând astfel investițiile și inovarea în domeniul IA, precum și competitivitatea și creșterea pieței Uniunii, consolidând în același timp guvernanța multipartită care reprezintă toate părțile interesate europene relevante, cum ar fi Oficiul pentru IA, organizațiile și organismele europene de standardizare sau grupurile de experți instituite în temeiul dreptului sectorial relevant al Uniunii, precum și industria, IMM-urile, întreprinderile nou-înființate, societatea civilă, cercetătorii și partenerii sociali și ar trebui, în cele din urmă, să faciliteze cooperarea la nivel mondial în materie de standardizare în domeniul IA în concordanță cu valorile Uniunii. Atunci când pregătește cererea de standardizare, Comisia ar trebui să consulte Oficiul pentru IA și Forumul consultativ pentru IA cu scopul de a colecta cunoștințe de specialitate pertinente.

(61b)

Atunci când sistemele de IA sunt destinate să fie utilizate la locul de muncă, standardele armonizate ar trebui să se limiteze la specificațiile și procedurile tehnice.

(61c)

Comisia ar trebui să fie în măsură să adopte specificații comune în anumite condiții, atunci când nu există un standard armonizat relevant, sau să răspundă unor preocupări specifice legate de drepturile fundamentale. Pe parcursul întregului proces de redactare, Comisia ar trebui să consulte periodic Oficiul pentru IA și forumul său consultativ, organizațiile și organismele europene de standardizare sau grupurile de experți instituite în temeiul dreptului sectorial relevant al Uniunii, precum și părțile interesate relevante, cum ar fi industria, IMM-urile, întreprinderile nou-înființate, societatea civilă, cercetătorii și partenerii sociali.

(61d)

Atunci când adoptă specificații comune, Comisia ar trebui să depună eforturi pentru a alinia reglementările referitoare la IA cu parteneri globali care împărtășesc aceeași viziune, ceea ce este esențial pentru stimularea inovării și a parteneriatelor transfrontaliere în domeniul IA, întrucât coordonarea cu partenerii care împărtășesc aceeași viziune în cadrul organismelor internaționale de standardizare este extrem de importantă.

(62)

Pentru a asigura un nivel ridicat de fiabilitate a sistemelor de IA cu grad ridicat de risc, aceste sisteme ar trebui să facă obiectul unei evaluări a conformității înainte de introducerea lor pe piață sau de punerea lor în funcțiune.

(62)

Pentru a asigura un nivel ridicat de fiabilitate a sistemelor de IA cu grad ridicat de risc, aceste sisteme ar trebui să facă obiectul unei evaluări a conformității înainte de introducerea lor pe piață sau de punerea lor în funcțiune. Pentru a crește încrederea în lanțul valoric și a le oferi certitudine întreprinderilor cu privite la performanța sistemelor lor, părțile terțe care furnizează componente de IA pot solicita voluntar o evaluare a conformității efectuată de către terți.

(64)

Având în vedere experiența mai extinsă a organismelor profesionale de certificare înainte de introducerea pe piață în domeniul siguranței produselor și natura diferită a riscurilor implicate, este oportun să se limiteze, cel puțin într-o fază inițială de aplicare a prezentului regulament, domeniul de aplicare al evaluării conformității de către terți pentru sistemele de IA cu grad ridicat de risc, altele decât cele legate de produse. Prin urmare, evaluarea conformității unor astfel de sisteme ar trebui să fie efectuată, ca regulă generală, de către furnizor, pe propria răspundere, cu singura excepție a sistemelor de IA destinate a fi utilizate pentru identificarea biometrică la distanță a persoanelor, pentru care ar trebui prevăzută implicarea unui organism notificat în evaluarea conformității, în măsura în care acestea nu sunt interzise.

(64)

Având în vedere complexitatea sistemelor de IA cu grad ridicat de risc și riscurile asociate acestora, este esențial să se dezvolte o capacitate mai adecvată pentru aplicarea evaluării conformității de către terți sistemelor de IA cu grad ridicat de risc. Cu toate acestea, având în vedere experiența actuală a organismelor profesionale de certificare înainte de introducerea pe piață în domeniul siguranței produselor și natura diferită a riscurilor implicate, este oportun să se limiteze, cel puțin într-o fază inițială de aplicare a prezentului regulament, domeniul de aplicare al evaluării conformității de către terți pentru sistemele de IA cu grad ridicat de risc, altele decât cele legate de produse. Prin urmare, evaluarea conformității unor astfel de sisteme ar trebui să fie efectuată, ca regulă generală, de către furnizor, pe propria răspundere, cu singura excepție a sistemelor de IA destinate a fi utilizate pentru identificarea biometrică la distanță a persoanelor , sau a sistemelor de IA destinate a fi utilizate pentru a trage concluzii cu privire la caracteristicile personale ale persoanelor fizice pe baza datelor biometrice sau bazate pe biometrie, inclusiv a sistemelor de recunoaștere a emoțiilor , pentru care ar trebui prevăzută implicarea unui organism notificat în evaluarea conformității, în măsura în care acestea nu sunt interzise.

(65)

Pentru a efectua evaluarea conformității de către terți a sistemelor de IA destinate utilizării pentru identificarea biometrică la distanță a persoanelor , autoritățile naționale competente ar trebui să desemneze organismele notificate în temeiul prezentului regulament, cu condiția ca acestea să respecte un set de cerințe, în special în ceea ce privește independența, competența și absența conflictelor de interese.

(65)

Pentru a efectua evaluări ale conformității de către terți atunci când este necesar , autoritățile naționale competente ar trebui să desemneze organismele notificate în temeiul prezentului regulament, cu condiția ca acestea să respecte un set de cerințe, în special în ceea ce privește independența, competența, absența conflictelor de interese și cerințele minime de securitate cibernetică . Statele membre ar trebui să încurajeze desemnarea unui număr suficient de organisme de evaluare a conformității, pentru ca certificarea să poată fi realizată în timp util. Procedurile de evaluare, desemnare, notificare și monitorizare a organismelor de evaluare a conformității ar trebui să fie elaborate cât mai uniform în toate statele membre, cu scopul de a elimina barierele administrative frontaliere și de a garanta realizarea potențialului pieței interne.

(65a)

În conformitate cu angajamentele asumate de UE în temeiul Acordului privind barierele tehnice în calea comerțului al Organizației Mondiale a Comerțului, este adecvat să se maximizeze acceptarea rezultatelor testelor realizate de organismele competente de evaluare a conformității, indiferent de teritoriul în care acestea sunt stabilite, dacă este necesar pentru a demonstra conformitatea cu cerințele aplicabile ale prezentului regulament. Comisia ar trebui să exploreze în mod activ posibile instrumente internaționale în acest scop și, în special, să urmărească posibila instituire a unor acorduri de recunoaștere reciprocă cu țări care se află la un nivel comparabil de dezvoltare tehnică și au o abordare compatibilă în ceea ce privește IA și evaluarea conformității.

(66)

În conformitate cu noțiunea stabilită de comun acord a modificării substanțiale pentru produsele reglementate de legislația de armonizare a Uniunii, este oportun ca un sistem de IA să fie supus unei noi evaluări a conformității ori de câte ori apare o modificare care ar putea afecta conformitatea sistemului cu prezentul regulament sau atunci când scopul preconizat al sistemului se modifică. În plus, în ceea ce privește sistemele de IA care continuă să „învețe” după ce au fost introduse pe piață sau puse în funcțiune (adică adaptează automat modul în care sunt îndeplinite funcțiile), este necesar să se prevadă norme care să stabilească faptul că modificările algoritmului și ale performanței sale care au fost predeterminate de furnizor și evaluate la momentul evaluării conformității nu ar trebui să constituie o modificare substanțială.

(66)

În conformitate cu noțiunea stabilită de comun acord a modificării substanțiale pentru produsele reglementate de legislația de armonizare a Uniunii, este oportun ca un sistem de IA cu grad ridicat de risc să fie supus unei noi evaluări a conformității ori de câte ori apare o modificare neplanificată care depășește modificările controlate sau prestabilite de către furnizor, inclusiv învățarea continuă, și care poate crea un nou risc inacceptabil și poate afecta în mod considerabil conformitatea sistemului de IA cu grad ridicat de risc cu prezentul regulament sau atunci când scopul preconizat al sistemului se modifică. În plus, în ceea ce privește sistemele de IA care continuă să „învețe” după ce au fost introduse pe piață sau puse în funcțiune (adică adaptează automat modul în care sunt îndeplinite funcțiile), este necesar să se prevadă norme care să stabilească faptul că modificările algoritmului și ale performanței sale care au fost predeterminate de furnizor și evaluate la momentul evaluării conformității nu ar trebui să constituie o modificare substanțială. Același lucru ar trebui să se aplice actualizărilor sistemului de IA din motive de securitate în general și pentru a proteja împotriva amenințărilor în continuă evoluție de manipulare a sistemului, cu condiția ca acestea să nu constituie o modificare substanțială.

(67)

Sistemele de IA cu grad ridicat de risc ar trebui să poarte marcajul CE pentru a indica conformitatea lor cu prezentul regulament, astfel încât să poată circula liber în cadrul pieței interne. Statele membre ar trebui să nu genereze obstacole nejustificate în calea introducerii pe piață sau a punerii în funcțiune a sistemelor de IA cu risc ridicat care sunt conforme cu cerințele prevăzute de prezentul regulament și care poartă marcajul CE.

(67)

Sistemele de IA cu grad ridicat de risc ar trebui să poarte marcajul CE pentru a indica conformitatea lor cu prezentul regulament, astfel încât să poată circula liber în cadrul pieței interne. Pentru sistemele fizice de IA cu grad ridicat de risc ar trebui aplicat un marcaj CE fizic care poate fi completat de un marcaj CE digital. Pentru sistemele exclusiv digitale de IA cu grad ridicat de risc ar trebui utilizat un marcaj CE digital. Statele membre ar trebui să nu genereze obstacole nejustificate în calea introducerii pe piață sau a punerii în funcțiune a sistemelor de IA cu risc ridicat care sunt conforme cu cerințele prevăzute de prezentul regulament și care poartă marcajul CE.

(68)

În anumite condiții, disponibilitatea rapidă a tehnologiilor inovatoare poate fi esențială pentru sănătatea și siguranța persoanelor și pentru societate în ansamblu. Prin urmare, este oportun ca, din motive excepționale de siguranță publică sau de protecție a vieții și a sănătății persoanelor fizice și de protecție a  proprietății industriale și comerciale , statele membre să poată autoriza introducerea pe piață sau punerea în funcțiune a sistemelor de IA care nu au fost supuse unei evaluări a conformității.

(68)

În anumite condiții, disponibilitatea rapidă a tehnologiilor inovatoare poate fi esențială pentru sănătatea și siguranța persoanelor , pentru mediu și schimbările climatice și pentru societate în ansamblu. Prin urmare, este oportun ca, din motive excepționale de protecție a vieții și a sănătății persoanelor fizice, de protecție a  mediului și de protecție a infrastructurii critice , statele membre să poată autoriza introducerea pe piață sau punerea în funcțiune a sistemelor de IA care nu au fost supuse unei evaluări a conformității.

(69)

Pentru a facilita activitatea Comisiei și a statelor membre în domeniul inteligenței artificiale, precum și pentru a spori transparența față de public, furnizorii de sisteme de IA cu grad ridicat de risc, altele decât cele legate de produse care intră în domeniul de aplicare al legislației de armonizare relevante existente a Uniunii, ar trebui să aibă obligația de a-și înregistra propriul sistem de IA cu grad ridicat de risc într-o bază de date a UE, care urmează să fie creată și gestionată de Comisie. Comisia ar trebui să fie operatorul bazei de date respective, în conformitate cu Regulamentul (UE) 2018/1725 al Parlamentului European și al Consiliului (55). Pentru a asigura funcționalitatea deplină a bazei de date, atunci când aceasta este implementată, procedura de stabilire a bazei de date ar trebui să includă elaborarea de specificații funcționale de către Comisie și un raport de audit independent.

(69)

Pentru a facilita activitatea Comisiei și a statelor membre în domeniul inteligenței artificiale, precum și pentru a spori transparența față de public, furnizorii de sisteme de IA cu grad ridicat de risc, altele decât cele legate de produse care intră în domeniul de aplicare al legislației de armonizare relevante existente a Uniunii, ar trebui să aibă obligația de a-și înregistra propriul sistem de IA cu grad ridicat de risc și modelele de bază într-o bază de date a UE, care urmează să fie creată și gestionată de Comisie. Această bază de date ar trebui să fie accesibilă publicului în mod gratuit, ușor de înțeles și într-un format care poate fi citit automat. Baza de date ar trebui, de asemenea, să fie ușor de utilizat și să prezinte o navigare ușoară, cu funcționalități de căutare care să permită cel puțin publicului larg să caute în baza de date sisteme specifice cu grad ridicat de risc, localizări, categorii de risc în temeiul anexei IV și cuvinte-cheie. Operatorii care sunt autorități publice sau instituții, organe, oficii și agenții ale Uniunii sau operatorii care acționează în numele acestora și operatorii care sunt întreprinderi desemnate drept controlori de acces în temeiul Regulamentului (UE) 2022/1925 ar trebui, de asemenea, să se înregistreze în baza de date a UE înainte de a da în funcțiune sau de a utiliza un sistem de IA cu grad ridicat de risc pentru prima dată și după fiecare modificare substanțială. Ceilalți operatori ar trebui să aibă dreptul de a face acest lucru în mod voluntar. Orice modificare substanțială a sistemelor de IA cu grad ridicat de risc se înregistrează, de asemenea, în baza de date a UE. Comisia ar trebui să fie operatorul bazei de date respective, în conformitate cu Regulamentul (UE) 2018/1725 al Parlamentului European și al Consiliului (55). Pentru a asigura funcționalitatea deplină a bazei de date, atunci când aceasta este implementată, procedura de stabilire a bazei de date ar trebui să includă elaborarea de specificații funcționale de către Comisie și un raport de audit independent. Comisia ar trebui să țină seama de riscurile în materie de securitate cibernetică și de riscurile legate de pericole atunci când își îndeplinește sarcinile de operator de date în baza de date a UE. Pentru a maximiza disponibilitatea și utilizarea bazei de date de către public, baza de date, inclusiv informațiile puse la dispoziție prin intermediul acesteia, ar trebui să îndeplinească cerințele prevăzute în Directiva 2019/882.

(71)

Inteligența artificială este o familie de tehnologii care se dezvoltă rapid și care necesită forme noi de supraveghere normativă și un spațiu sigur pentru experimentare, asigurând, în același timp, inovarea responsabilă și integrarea unor garanții adecvate și a unor măsuri de atenuare a riscurilor. Pentru a asigura un cadru juridic favorabil inovării , adaptat exigențelor viitorului și rezistent la perturbări, autoritățile naționale competente din unul sau mai multe state membre ar trebui încurajate să instituie spații de testare în materie de reglementare în domeniul inteligenței artificiale pentru a facilita dezvoltarea și testarea sistemelor de IA inovatoare aflate sub supraveghere normativă strictă înainte ca aceste sisteme să fie introduse pe piață sau puse în funcțiune în alt mod.

(71)

Inteligența artificială este o familie de tehnologii care se dezvoltă rapid și care necesită supraveghere normativă și un spațiu sigur și controlat pentru experimentare, asigurând, în același timp, inovarea responsabilă și integrarea unor garanții adecvate și a unor măsuri de atenuare a riscurilor. Pentru a asigura un cadru juridic care promovează inovarea , adaptat exigențelor viitorului și rezistent la perturbări, statele membre ar trebui să instituie cel puțin un spațiu de testare în materie de reglementare în domeniul inteligenței artificiale pentru a facilita dezvoltarea și testarea sistemelor de IA inovatoare aflate sub supraveghere normativă strictă înainte ca aceste sisteme să fie introduse pe piață sau puse în funcțiune în alt mod. Într-adevăr, este de dorit ca stabilirea spațiilor de testare în materie de reglementare, a căror înființare este lăsată în prezent la latitudinea statelor membre, să devină obligatorie, cu criterii stabilite. Spațiul de testare obligatoriu ar putea fi, de asemenea, stabilit în comun cu unul sau mai multe alte state membre, atât timp cât spațiul de testare respectiv ar acoperi nivelul național respectiv al statelor membre implicate. De asemenea, pot fi stabilite spații de testare suplimentare la diferite niveluri, inclusiv la nivelul statelor membre, pentru a facilita cooperarea și sinergiile transfrontaliere. Cu excepția spațiului de testare obligatoriu de la nivel național, statele membre ar trebui, de asemenea, să poată institui spații de testare virtuale sau hibride. Toate spațiile de testare în materie de reglementare ar trebui să poată cuprinde atât produse fizice, cât și virtuale. Autoritățile responsabile cu stabilirea spațiilor de testare în materie de reglementare ar trebui să se asigure că acestea dispun de resurse financiare și umane adecvate pentru funcționarea lor.

(72)

Obiectivele spațiilor de testare în materie de reglementare ar trebui să fie promovarea inovării în domeniul IA prin instituirea unui mediu de experimentare și testare controlat în faza de dezvoltare și de precomercializare, cu scopul de a asigura conformitatea sistemelor de IA inovatoare cu prezentul regulament și cu alte acte legislative relevante ale Uniunii și ale statelor membre, sporirea securității juridice pentru inovatori și supravegherea și înțelegerea de către autoritățile competente a oportunităților, a riscurilor emergente și a impactului utilizării IA, precum și accelerarea accesului la piețe, inclusiv prin eliminarea barierelor din calea întreprinderilor mici și mijlocii (IMM-uri) și a  întreprinderilor nou-înființate. Pentru a asigura o  punere în aplicare uniformă în întreaga Uniune și economii de scară, este oportun să se stabilească norme comune pentru punerea în aplicare a  spațiilor de testare în materie de reglementare și un cadru de cooperare între autoritățile relevante implicate în supravegherea spațiilor de testare. Prezentul regulament ar trebui să ofere temeiul juridic pentru utilizarea datelor cu caracter personal colectate în alte scopuri pentru dezvoltarea anumitor sisteme de IA în interes public în cadrul spațiului de testare în materie de reglementare privind IA, în conformitate cu articolul 6 alineatul (4) din Regulamentul (UE) 2016/679 și cu articolul 6 din Regulamentul (UE) 2018/1725 și fără a  aduce atingere articolului 4 alineatul (2) din Directiva (UE) 2016/680. Participanții la spațiile de testare ar trebui să asigure garanții adecvate și să coopereze cu autoritățile competente, inclusiv urmând orientările acestora și acționând cu promptitudine și cu bună-credință pentru a atenua orice risc ridicat la adresa siguranței și a drepturilor fundamentale care ar putea apărea în timpul dezvoltării și experimentării în spațiul de testare. Comportamentul participanților la spațiile de testare ar trebui luat în considerare atunci când autoritățile competente decid dacă să impună sau nu o amendă administrativă în temeiul articolului 83 alineatul (2) din Regulamentul 2016/679 și al articolului 57 din Directiva 2016/680.

(72)

Obiectivele spațiilor de testare în materie de reglementare ar trebui să fie următoarele: ca autoritățile responsabile cu stabilirea să înțeleagă mai bine evoluțiile tehnice, să îmbunătățească metodele de supraveghere și să ofere orientări dezvoltatorilor și furnizorilor de sisteme de IA cu scopul de a asigura conformitatea normativă cu prezentul regulament sau, după caz, cu alte acte legislative aplicabile ale Uniunii și ale statelor membre, precum și cu Carta drepturilor fundamentale; ca potențialii furnizori să permită și să faciliteze testarea și dezvoltarea de soluții inovatoare legate de sistemele de IA în faza de precomercializare cu scopul de a  consolida securitatea juridică, să se permită o  mai bună învățare în materie de reglementare stabilind autorități într-un mediu controlat cu scopul de a elabora orientări mai bune și a  identifica posibile îmbunătățiri viitoare ale cadrului juridic prin intermediul procedurii legislative ordinare. Orice risc semnificativ identificat în cursul dezvoltării și testării unor astfel de sisteme de AI ar trebui să conducă la atenuarea imediată și, în cazul în care atenuarea nu este posibilă, la suspendarea procesului de dezvoltare și testare până la realizarea atenuării respective. Pentru a asigura o punere în aplicare uniformă în întreaga Uniune și economii de scară, este oportun să se stabilească norme comune pentru punerea în aplicare a  spațiilor de testare în materie de reglementare și un cadru de cooperare între autoritățile relevante implicate în supravegherea spațiilor de testare. Statele membre ar trebui să se asigure că spațiile de testare în materie de reglementare sunt disponibile pe scară largă în întreaga Uniune, în timp ce participarea ar trebui să rămână voluntară. Este deosebit de important să se asigure că IMM-urile și întreprinderile nou-înființate pot accesa cu ușurință aceste spații de testare, că sunt implicate activ și participă la dezvoltarea și testarea sistemelor de IA inovatoare, pentru a putea contribui cu know-how-ul și experiența lor .

(72a)

Prezentul regulament ar trebui să ofere temeiul juridic pentru utilizarea datelor cu caracter personal colectate în alte scopuri pentru dezvoltarea anumitor sisteme de IA în interes public în cadrul spațiului de testare în materie de reglementare privind IA doar în condiții specifice, în conformitate cu articolul 6 alineatul (4) din Regulamentul (UE) 2016/679 și cu articolul 6 din Regulamentul (UE) 2018/1725 și fără a aduce atingere articolului 4 alineatul (2) din Directiva (UE) 2016/680. Potențialii furnizori în spațiile de testare ar trebui să asigure garanții adecvate și să coopereze cu autoritățile competente, inclusiv urmând orientările acestora și acționând cu promptitudine și cu bună-credință pentru a atenua orice risc ridicat la adresa siguranței, a sănătății și a mediului și a drepturilor fundamentale care ar putea apărea în timpul dezvoltării și experimentării în spațiul de testare. Comportamentul potențialilor furnizori la spațiile de testare ar trebui luat în considerare atunci când autoritățile competente decid asupra suspendării temporare sau permanente a participării lor la spațiile de testare, sau dacă să impună sau nu o amendă administrativă în temeiul articolului 83 alineatul (2) din Regulamentul 2016/679 și al articolului 57 din Directiva 2016/680.

(72b)

Pentru a se asigura că inteligența artificială conduce la rezultate benefice din punct de vedere social și ecologic, statele membre ar trebui să sprijine și să promoveze cercetarea și dezvoltarea IA în sprijinul rezultatelor benefice din punct de vedere social și ecologic, alocând resurse suficiente, inclusiv finanțare publică și din partea Uniunii și acordând acces prioritar la spațiile de testare în materie de reglementare proiectelor conduse de societatea civilă. Aceste proiecte ar trebui să se bazeze pe principiul cooperării interdisciplinare dintre dezvoltatorii de IA, experții în materie de inegalitate și nediscriminare, accesibilitate, drepturile consumatorilor, de mediu și digitale, precum și mediul academic.

(73)

Pentru a promova și proteja inovarea, este important ca interesele micilor furnizori și utilizatori de sisteme de IA să fie luate în considerare în mod deosebit. În acest scop, statele membre ar trebui să elaboreze inițiative care să vizeze operatorii respectivi, inclusiv în ceea ce privește sensibilizarea și comunicarea informațiilor. În plus, interesele și nevoile specifice ale micilor furnizorilor sunt luate în considerare atunci când organismele notificate stabilesc taxe de evaluare a conformității. Costurile de traducere legate de documentația obligatorie și de comunicarea cu autoritățile pot constitui un cost semnificativ pentru furnizori și alți operatori, în special pentru cei de dimensiuni mai mici. Statele membre ar trebui, eventual, să se asigure că una dintre limbile stabilite și acceptate pentru documentația furnizorilor relevanți și pentru comunicarea cu operatorii este una înțeleasă pe larg de un număr cât mai mare de utilizatori transfrontalieri.

(73)

Pentru a promova și proteja inovarea, este important ca interesele micilor furnizori și utilizatori de sisteme de IA să fie luate în considerare în mod deosebit. În acest scop, statele membre ar trebui să elaboreze inițiative care să vizeze operatorii respectivi, inclusiv în ceea ce privește alfabetizarea în domeniul IA, sensibilizarea și comunicarea informațiilor. Statele membre ar trebui să utilizeze canalele existente și, după caz, să instituie noi canale speciale de comunicare cu IMM-urile, cu întreprinderile nou-înființate, cu utilizatorii, precum și cu alți inovatori, pentru a oferi orientări și a răspunde la întrebări legate de punerea în aplicare a prezentului regulament. Astfel de canale existente ar putea include echipele de intervenție în caz de incidente de securitate informatică ale ENISA, agențiile naționale pentru protecția datelor, platforma de IA la cerere, centrele europene de inovare digitală și alte instrumente relevante finanțate prin programele UE, precum și instalațiile de testare și experimentare instituite de Comisie și de statele membre la nivel național sau la nivelul Uniunii, fără a se limita la acestea. După caz, aceste canale colaborează pentru a crea sinergii și pentru a asigura omogenitatea orientărilor pe care le furnizează întreprinderilor nou-înființate, IMM-urilor și utilizatorilor. În plus, interesele și nevoile specifice ale micilor furnizorilor sunt luate în considerare atunci când organismele notificate stabilesc taxe de evaluare a conformității. Comisia evaluează periodic costurile de certificare și de asigurare a conformității pentru IMM-uri și întreprinderile nou-înființate, inclusiv prin consultări transparente cu IMM-urile, cu întreprinderile nou-înființate și cu utilizatorii, și colaborează cu statele membre pentru a reduce aceste costuri. De exemplu, costurile de traducere legate de documentația obligatorie și de comunicarea cu autoritățile pot constitui un cost semnificativ pentru furnizori și alți operatori, în special pentru cei de dimensiuni mai mici. Statele membre ar trebui, eventual, să se asigure că una dintre limbile stabilite și acceptate pentru documentația furnizorilor relevanți și pentru comunicarea cu operatorii este una înțeleasă pe larg de un număr cât mai mare de utilizatori transfrontalieri. Întreprinderile mijlocii care au trecut recent de la categoria mică la cea mijlocie în sensul Anexei la Recomandarea 2003/361/CE (articolul 16), au acces la aceste inițiative și orientări pentru o perioadă considerată adecvată de către statele membre, deoarece este posibil ca aceste noi întreprinderi mijlocii să nu dispună uneori de resursele juridice și formarea necesare pentru a asigura înțelegerea adecvată și respectarea dispozițiilor.

(74)

Pentru a reduce la minimum riscurile la adresa punerii în aplicare care decurg din lipsa de cunoștințe și de expertiză de pe piață, precum și pentru a facilita respectarea de către furnizori și organismele notificate a obligațiilor care le revin în temeiul prezentului regulament, platforma de IA la cerere, centrele europene de inovare digitală și instalațiile de testare și experimentare instituite de Comisie și de statele membre la nivel național sau la nivelul UE ar trebui , eventual, să contribuie la punerea în aplicare a prezentului regulament. În cadrul misiunii și domeniilor lor de competență respective, aceștia pot oferi, în special, sprijin tehnic și științific furnizorilor și organismelor notificate.

(74)

Pentru a reduce la minimum riscurile la adresa punerii în aplicare care decurg din lipsa de cunoștințe și de expertiză de pe piață, precum și pentru a facilita respectarea de către furnizori și organismele notificate a obligațiilor care le revin în temeiul prezentului regulament, platforma de IA la cerere, centrele europene de inovare digitală și instalațiile de testare și experimentare instituite de Comisie și de statele membre la nivel național sau la nivelul UE ar trebui să contribuie la punerea în aplicare a prezentului regulament. În cadrul misiunii și domeniilor lor de competență respective, aceștia pot oferi, în special, sprijin tehnic și științific furnizorilor și organismelor notificate.

(76)

Pentru a  facilita o punere în aplicare armonioasă, eficace și armonizată a prezentului regulament, ar trebui instituit un Comitet european pentru inteligența artificială. Comitetul ar trebui să fie responsabil pentru o serie de sarcini consultative, inclusiv emiterea de avize, recomandări, consiliere sau orientări cu privire la aspecte legate de punerea în aplicare a prezentului regulament , inclusiv cu privire la specificațiile tehnice sau standardele existente referitoare la cerințele stabilite în prezentul regulament, precum și furnizarea de consiliere și asistență Comisiei cu privire la chestiuni specifice legate de inteligența artificială .

(76)

Pentru a  evita fragmentarea, pentru a asigura funcționarea optimă a pieței unice, pentru a asigura punerea în aplicare eficace și armonizată a prezentului regulament, pentru a atinge un nivel ridicat de încredere și de protecție a sănătății și siguranței, a drepturilor fundamentale, a mediului, a democrației și a statului de drept în întreaga Uniune în ceea ce privește sistemele de IA, pentru a sprijini în mod activ autoritățile naționale de supraveghere, instituțiile, organele, oficiile și agențiile Uniunii în chestiuni legate de prezentul regulament și pentru a spori gradul de utilizare a inteligenței artificiale în întreaga Uniune, ar trebui instituit un Oficiu al Uniunii Europene pentru inteligența artificială. Oficiul pentru IA ar trebui să aibă personalitate juridică, ar trebui să acționeze în deplină independență, ar trebui să fie responsabil pentru o serie de sarcini consultative și de coordonare , inclusiv emiterea de avize, recomandări, consiliere sau orientări cu privire la aspecte legate de punerea în aplicare a prezentului regulament și ar trebui să fie finanțat și dotat cu personal în mod adecvat. Statele membre ar trebui să asigure conducerea strategică și controlul Oficiului pentru IA prin consiliul de administrație al Oficiului pentru IA, alături de Comisie, FRA și ENISA. Un director executiv ar trebui să fie responsabil de gestionarea activităților secretariatului Oficiului pentru IA și de reprezentarea Oficiului pentru IA. Părțile interesate ar trebui să participe în mod formal la activitatea Oficiului pentru IA printr-un forum consultativ care ar trebui să asigure reprezentarea variată și echilibrată a părților interesate și să consilieze Oficiul pentru IA asupra chestiunilor legate de prezentul regulament. În cazul în care înființarea Oficiului pentru IA se dovedește a fi insuficientă pentru a asigura o aplicare pe deplin coerentă a prezentului regulament la nivelul Uniunii , precum și măsuri eficiente de asigurare a respectării legislației la nivel transfrontalier, ar trebui luată în considerare crearea unei agenții pentru IA .

(77)

Statele membre joacă un rol esențial în aplicarea și asigurarea respectării prezentului regulament. În acest sens, fiecare stat membru ar trebui să desemneze una sau mai multe autorități naționale competente în scopul supravegherii aplicării și punerii în aplicare a prezentului regulament. Pentru a spori eficiența organizațională din partea statelor membre și pentru a stabili un punct oficial de contact cu publicul și cu alți omologi la nivelul statelor membre și al Uniunii , în fiecare stat membru, o autoritate națională ar trebui desemnată drept autoritate națională de supraveghere .

(77)

În acest sens, fiecare stat membru ar trebui să desemneze o autoritate națională competentă în scopul supravegherii aplicării și punerii în aplicare a prezentului regulament. Aceasta ar trebui să își reprezinte statul membru și în Consiliul de administrație al Oficiului pentru IA. Pentru a spori eficiența organizațională din partea statelor membre și pentru a stabili un punct oficial de contact cu publicul și cu alți omologi la nivelul statelor membre și al Uniunii. Fiecare autoritate națională de supraveghere ar trebui acționeze în deplină independență în îndeplinirea sarcinilor sale și exercitarea competențelor sale în conformitate cu prezentul regulament .

(77a)

Autoritățile naționale de supraveghere ar trebui să monitorizeze aplicarea dispozițiilor în temeiul prezentului regulament și să contribuie la aplicarea consecventă a acestuia în întreaga Uniune. În acest scop, autoritățile naționale de supraveghere ar trebui să coopereze între ele, cu autoritățile naționale competente relevante, cu Comisia și cu Oficiul pentru IA.

(77b)

Membrul sau personalul fiecărei autorități de supraveghere ar trebui, în conformitate cu dreptul Uniunii sau cu dreptul intern, să respecte atât pe parcursul mandatului, cât și după încetarea acestuia, secretul profesional în ceea ce privește informațiile confidențiale de care au luat cunoștință în cursul îndeplinirii sarcinilor sau al exercitării competențelor lor. Pe durata mandatului lor, această obligație de păstrare a secretului profesional ar trebui să se aplice în special în ceea ce privește secretele comerciale și raportarea de către persoane fizice a încălcărilor prezentului regulament.

(78)

Pentru a se asigura că furnizorii de sisteme de IA cu grad ridicat de risc pot ține seama de experiența privind utilizarea sistemelor de IA cu grad ridicat de risc pentru îmbunătățirea sistemelor lor și a procesului de proiectare și dezvoltare sau că pot lua orice măsură corectivă posibilă în timp util, toți furnizorii ar trebui să dispună de un sistem de monitorizare ulterioară introducerii pe piață. Acest sistem este, de asemenea, esențial pentru a se asigura că posibilele riscuri care decurg din sistemele de IA care continuă să „învețe” după ce au fost introduse pe piață sau puse în funcțiune pot fi abordate într-un mod mai eficient și la timp. În acest context, furnizorii ar trebui, de asemenea, să aibă obligația de a dispune de un sistem pentru a raporta autorităților relevante orice incident grav sau orice încălcare a legislației naționale și a Uniunii care protejează drepturile fundamentale, ca urmare a utilizării sistemelor lor de IA.

(78)

Pentru a se asigura că furnizorii de sisteme de IA cu grad ridicat de risc pot ține seama de experiența privind utilizarea sistemelor de IA cu grad ridicat de risc pentru îmbunătățirea sistemelor lor și a procesului de proiectare și dezvoltare sau că pot lua orice măsură corectivă posibilă în timp util, toți furnizorii ar trebui să dispună de un sistem de monitorizare ulterioară introducerii pe piață. Acest sistem este, de asemenea, esențial pentru a se asigura că posibilele riscuri care decurg din sistemele de IA care continuă să „învețe” sau să evolueze după ce au fost introduse pe piață sau puse în funcțiune pot fi abordate într-un mod mai eficient și la timp. În acest context, furnizorii ar trebui, de asemenea, să aibă obligația de a dispune de un sistem pentru a raporta autorităților relevante orice incident grav sau orice încălcare a legislației naționale și a Uniunii , inclusiv a celor care protejează drepturile fundamentale și drepturile consumatorilor , ca urmare a utilizării sistemelor lor de IA și să ia măsuri corective corespunzătoare . Operatorii ar trebui să comunice autorităților competente orice incident grav sau orice încălcare a dreptului național și al Uniunii care se produce ca urmare a utilizării sistemelor lor de IA, atunci când iau cunoștință de astfel de incidente sau încălcări grave.

(79)

Pentru a asigura o aplicare adecvată și eficace a cerințelor și a obligațiilor prevăzute în prezentul regulament, și anume în legislația de armonizare a Uniunii, sistemul de supraveghere a pieței și de conformitate a produselor instituit prin Regulamentul (UE) 2019/1020 ar trebui să se aplice în întregime. În cazul în care acest lucru este necesar pentru îndeplinirea mandatului lor, autoritățile sau organismele publice naționale care supraveghează aplicarea dreptului Uniunii care protejează drepturile fundamentale, inclusiv organismele de promovare a egalității, ar trebui să aibă, de asemenea, acces la orice documentație creată în temeiul prezentului regulament.

(79)

Pentru a asigura o aplicare adecvată și eficace a cerințelor și a obligațiilor prevăzute în prezentul regulament, și anume în legislația de armonizare a Uniunii, sistemul de supraveghere a pieței și de conformitate a produselor instituit prin Regulamentul (UE) 2019/1020 ar trebui să se aplice în întregime. În sensul prezentului regulament, autoritățile naționale de supraveghere ar trebui să acționeze în calitate de autorități de supraveghere a pieței pentru sistemele de IA care intră sub incidența prezentului regulament, cu excepția sistemelor de IA care intră sub incidența anexei II la prezentul regulament. Pentru sistemele de IA care fac obiectul actelor juridice enumerate în anexa II, autoritățile competente în temeiul respectivelor acte juridice ar trebui să rămână autoritatea principală. Autoritățile naționale de supraveghere și autoritățile competente prevăzute în actele juridice enumerate în anexa II ar trebui să colaboreze ori de câte ori este necesar. Atunci când este cazul, autoritățile competente prevăzute în actele juridice enumerate în anexa II ar trebui să trimită personal competent la autoritatea națională de supraveghere pentru a contribui la îndeplinirea sarcinilor acesteia. În sensul prezentului regulament, autoritățile naționale de supraveghere ar trebui să aibă aceleași competențe și obligații ca și autoritățile de supraveghere a pieței în temeiul Regulamentului (UE) 2019/1020. În cazul în care acest lucru este necesar pentru îndeplinirea mandatului lor, autoritățile sau organismele publice naționale care supraveghează aplicarea dreptului Uniunii care protejează drepturile fundamentale, inclusiv organismele de promovare a egalității, ar trebui să aibă, de asemenea, acces la orice documentație creată în temeiul prezentului regulament. După epuizarea tuturor celorlalte modalități rezonabile de evaluare/verificare a conformității și în urma unei cereri motivate, autorității naționale de supraveghere ar trebui să i se acorde acces la seturile de date de antrenament, de validare și de testare, la modelul antrenat și modelul de antrenament al sistemului de IA cu grad ridicat de risc, inclusiv la parametrii relevanți ai modelului și la mediul lor de executare/desfășurare. În cazul unor sisteme software mai simple care intră sub incidența prezentului regulament și care nu se bazează pe modele antrenate și în cazul în care toate celelalte modalități de verificare a conformității au fost epuizate, autoritatea națională de supraveghere poate avea, în mod excepțional, acces la codul sursă, pe baza unei cereri motivate. Dacă autorității naționale de supraveghere i s-a acordat accesul la seturile de date de antrenare, validare și testare în conformitate cu prezentul regulament, acest acces ar trebui realizat prin mijloace și instrumente tehnice adecvate, inclusiv acces la fața locului și, în circumstanțe excepționale, acces de la distanță. Autoritatea națională de supraveghere ar trebui să trateze orice informație, inclusiv codul sursă, software-ul și datele, după caz, obținute ca informații confidențiale și să respecte legislația relevantă a Uniunii privind protecția proprietății intelectuale și a secretelor comerciale. Autoritatea națională de supraveghere ar trebui să șteargă orice informație obținută la încheierea investigației.

(80)

Legislația Uniunii privind serviciile financiare include norme și cerințe privind guvernanța internă și gestionarea riscurilor care sunt aplicabile instituțiilor financiare reglementate în cursul furnizării acestor servicii, inclusiv atunci când acestea utilizează sisteme de IA. Pentru a asigura aplicarea și asigurarea respectării coerente a obligațiilor prevăzute în prezentul regulament și a normelor și cerințelor relevante ale legislației Uniunii în domeniul serviciilor financiare, autoritățile responsabile cu supravegherea și asigurarea respectării legislației privind serviciile financiare, inclusiv, după caz, Banca Centrală Europeană, ar trebui desemnate drept autorități competente în scopul supravegherii punerii în aplicare a prezentului regulament, inclusiv pentru activitățile de supraveghere a pieței, în ceea ce privește sistemele de IA furnizate sau utilizate de instituțiile financiare reglementate și supravegheate. Pentru a spori și mai mult coerența dintre prezentul regulament și normele aplicabile instituțiilor de credit reglementate în temeiul Directivei 2013/36/UE a Parlamentului European și a Consiliului (56), este, de asemenea, oportun să se integreze procedura de evaluare a conformității și unele dintre obligațiile procedurale ale furnizorilor în ceea ce privește gestionarea riscurilor, monitorizarea ulterioară introducerii pe piață și documentația în obligațiile și procedurile existente în temeiul Directivei 2013/36/UE. Pentru a evita suprapunerile, ar trebui avute în vedere derogări limitate și în ceea ce privește sistemul de management al calității furnizorilor și obligația de monitorizare impusă utilizatorilor de sisteme de IA cu grad ridicat de risc, în măsura în care acestea se aplică instituțiilor de credit reglementate de Directiva 2013/36/UE.

(80)

Dreptul Uniunii privind serviciile financiare include norme și cerințe privind guvernanța internă și gestionarea riscurilor care sunt aplicabile instituțiilor financiare reglementate în cursul furnizării acestor servicii, inclusiv atunci când acestea utilizează sisteme de IA. Pentru a asigura aplicarea și asigurarea respectării coerente a obligațiilor prevăzute în prezentul regulament și a normelor și cerințelor relevante ale dreptului Uniunii în domeniul serviciilor financiare, autoritățile competente responsabile cu supravegherea și asigurarea respectării dreptului privind serviciile financiare, inclusiv, după caz, Banca Centrală Europeană, ar trebui desemnate drept autorități competente în scopul supravegherii punerii în aplicare a prezentului regulament, inclusiv pentru activitățile de supraveghere a pieței, în ceea ce privește sistemele de IA furnizate sau utilizate de instituțiile financiare reglementate și supravegheate. Pentru a spori și mai mult coerența dintre prezentul regulament și normele aplicabile instituțiilor de credit reglementate în temeiul Directivei 2013/36/UE a Parlamentului European și a Consiliului (56), este, de asemenea, oportun să se integreze procedura de evaluare a conformității și unele dintre obligațiile procedurale ale furnizorilor în ceea ce privește gestionarea riscurilor, monitorizarea ulterioară introducerii pe piață și documentația în obligațiile și procedurile existente în temeiul Directivei 2013/36/UE. Pentru a evita suprapunerile, ar trebui avute în vedere derogări limitate și în ceea ce privește sistemul de management al calității furnizorilor și obligația de monitorizare impusă operatorilor de sisteme de IA cu grad ridicat de risc, în măsura în care acestea se aplică instituțiilor de credit reglementate de Directiva 2013/36/UE.

(80a)

Având în vedere obiectivele prezentului regulament, și anume de a asigura un nivel echivalent de protejare a sănătății, a siguranței și a drepturilor fundamentale ale persoanelor fizice, de a asigura protejarea statului de drept și a democrației și ținând seama de posibilitatea ca riscurile pe care le prezintă sistemele de IA pentru aceste drepturi să nu fie reduse mulțumitor la nivel național sau ca acest lucru să fie interpretat diferit, ceea ce ar putea crea, în cele din urmă, situația în care persoanele fizice să fie protejate inegal, iar piața să fie fragmentată, autoritățile naționale de supraveghere ar trebui să fie împuternicite să efectueze investigații comune sau să se bazeze pe procedura de salvgardare la nivelul Uniunii prevăzută în prezentul regulament pentru o aplicare eficace. Ar trebui inițiate anchete comune atunci când autoritatea națională de supraveghere are suficiente motive să considere că o încălcare a prezentului regulament constituie o încălcare pe scară largă sau o încălcare pe scară largă cu o dimensiune specifică Uniunii sau atunci când sistemul de IA sau modelul de bază prezintă un risc care afectează sau este susceptibil să afecteze cel puțin 45 de milioane de persoane din cel puțin două state membre.

(82)

Este important ca sistemele de IA legate de produse care nu prezintă un risc ridicat în conformitate cu prezentul regulament și care, prin urmare, nu sunt obligate să respecte cerințele prevăzute în prezentul regulament să fie totuși sigure atunci când sunt introduse pe piață sau puse în funcțiune. Pentru a contribui la acest obiectiv, Directiva 2001/95/CE a Parlamentului European și a Consiliului (57) ar fi aplicată ca o „plasă de siguranță”.

(82)

Este important ca sistemele de IA legate de produse care nu prezintă un risc ridicat în conformitate cu prezentul regulament și care, prin urmare, nu sunt obligate să respecte cerințele prevăzute pentru sistemele de IA cu grad ridicat de risc să fie totuși sigure atunci când sunt introduse pe piață sau puse în funcțiune. Pentru a contribui la acest obiectiv, Directiva 2001/95/CE a Parlamentului European și a Consiliului (57) ar fi aplicată ca o „plasă de siguranță”.

(83)

Pentru a asigura o cooperare de încredere și constructivă a autorităților competente la nivelul Uniunii și la nivel național, toate părțile implicate în aplicarea prezentului regulament ar trebui să respecte confidențialitatea informațiilor și a datelor obținute în cursul îndeplinirii sarcinilor lor.

(83)

Pentru a asigura o cooperare de încredere și constructivă a autorităților competente la nivelul Uniunii și la nivel național, toate părțile implicate în aplicarea prezentului regulament ar trebui să urmărească asigurarea transparenței și a deschiderii, respectând totodată confidențialitatea informațiilor și a datelor obținute în cursul îndeplinirii sarcinilor lor , prin instituirea de măsuri tehnice și organizatorice pentru a proteja securitatea și confidențialitatea informațiilor obținute în cadrul activităților lor, inclusiv în ceea ce privește drepturile de proprietate intelectuală și interesele de securitate publică și națională. În cazurile în care activitatea Comisiei, a autorităților naționale competente și a organismelor notificate în temeiul prezentului regulament are ca rezultat o încălcare a drepturilor de proprietate intelectuală, statele membre prevăd măsurile, procedurile și căile de atac necesare pentru a asigura respectarea drepturilor de proprietate intelectuală în aplicarea Directivei 2004/48/CE.

(84)

Statele membre ar trebui să ia toate măsurile necesare pentru a se asigura că dispozițiile prezentului regulament sunt puse în aplicare, inclusiv prin stabilirea unor sancțiuni eficace, proporționale și disuasive în cazul încălcării acestora. Pentru anumite încălcări specifice, statele membre ar trebui să țină seama de marjele și de criteriile stabilite în prezentul regulament . Autoritatea Europeană pentru Protecția Datelor ar trebui să aibă competența de a impune amenzi instituțiilor, agențiilor și organelor Uniunii care intră în domeniul de aplicare al prezentului regulament.

(84)

Respectarea prezentului regulament ar trebui să poată fi asigurată prin amenzi impuse de autoritatea națională de supraveghere atunci când desfășoară proceduri în conformitate cu procedura prevăzută de prezentul regulament. Statele membre ar trebui să ia toate măsurile necesare pentru a se asigura că dispozițiile prezentului regulament sunt puse în aplicare, inclusiv prin stabilirea unor sancțiuni eficace, proporționale și disuasive în cazul încălcării acestora. În scopul de a consolida și armoniza sancțiunilor administrative pentru încălcarea prezentului regulament, ar trebui definite limitele superioare pentru stabilirea amenzilor administrative pentru anumite încălcări specifice . Atunci când evaluează cuantumul amenzilor , autoritățile naționale competente ar trebui , în fiecare caz în parte, să țină seama de toate circumstanțele relevante ale situației specifice, acordând atenția cuvenită, în special, naturii, gravității și duratei încălcării și consecințelor acesteia, precum și dimensiunii furnizorului, în special în cazul în care furnizorul este o IMM sau o întreprindere nou-înființată . Autoritatea Europeană pentru Protecția Datelor ar trebui să aibă competența de a impune amenzi instituțiilor, agențiilor și organelor Uniunii care intră în domeniul de aplicare al prezentului regulament. Sancțiunile și cheltuielile de judecată în temeiul prezentului regulament nu ar trebui să fie supuse unor clauze contractuale sau altor înțelegeri.

(84a)

Întrucât drepturile și libertățile persoanelor fizice și juridice și ale grupurilor de persoane fizice pot fi grav subminate de sistemele de IA, este esențial ca persoanele fizice și juridice sau grupurile de persoane fizice să aibă acces corespunzător la mecanisme de raportare și de reparare și să aibă dreptul la căi de atac proporționale și eficace. Ele ar trebui să aibă posibilitatea de a raporta autorității lor naționale de supraveghere încălcările prezentului regulament și să aibă dreptul de a depune o plângere împotriva furnizorilor sau operatorilor de sisteme de IA. După caz, operatorii ar trebui să pună la dispoziție mecanisme interne de depunere a plângerilor care să fie utilizate de persoanele fizice și juridice sau de grupurile de persoane fizice. Fără a se aduce atingere eventualelor căi de atac judiciare, administrative sau nejudiciare, persoanele fizice și juridice și grupurile de persoane fizice ar trebui, de asemenea, să aibă dreptul la o cale de atac judiciară eficientă pentru o decizie cu caracter juridic obligatoriu care îi vizează luată de o autoritate națională de supraveghere sau pentru plângere, în cazul în care autoritatea națională de supraveghere nu tratează plângerea, nu informează reclamantul cu privire la evoluția sau rezultatul preliminar al plângerii depuse sau nu își respectă obligația de a ajunge la o decizie finală.

(84b)

Persoanele afectate ar trebui să fie întotdeauna informate că fac obiectul utilizării unui sistem de IA cu grad ridicat de risc atunci când operatorii utilizează un sistem de IA cu grad ridicat de risc pentru a asista la luarea deciziilor sau pentru a lua decizii legate de persoane fizice. Aceste informații pot oferi o bază pentru ca persoanele afectate să își exercite dreptul la o explicație în temeiul prezentului regulament. Atunci când operatorii oferă o explicație persoanelor afectate în temeiul prezentului regulament, aceștia ar trebui să țină seama de nivelul de competență și de cunoștințe al persoanei sau al consumatorului mediu.

(84c)

Legislația Uniunii privind protecția avertizorilor [Directiva (UE) 2019/1937] se aplică pe deplin pentru mediul academic, proiectanți, dezvoltatori, contribuitorii la proiecte, auditori, managerii de produse, ingineri și operatorii economici care obțin informații despre încălcări ale dreptului Uniunii de către un furnizor de sisteme de IA sau de către sistemele sale de IA.

(85)

Pentru a se asigura posibilitatea de adaptare a cadrului de reglementare atunci când este necesar, competența de a adopta acte în conformitate cu articolul 290 din TFUE ar trebui delegată Comisiei pentru a modifica tehnicile și abordările menționate în anexa I pentru definirea sistemelor de IA, legislația de armonizare a Uniunii enumerată în anexa II, sistemele de IA cu grad ridicat de risc enumerate în anexa III, dispozițiile privind documentația tehnică enumerate în anexa IV, conținutul declarației de conformitate UE din anexa V, dispozițiile privind procedurile de evaluare a conformității din anexele VI și VII și dispozițiile de stabilire a sistemelor de IA cu grad ridicat de risc cărora ar trebui să li se aplice procedura de evaluare a conformității bazată pe evaluarea sistemului de management al calității și evaluarea documentației tehnice. Este deosebit de important ca, în cursul lucrărilor sale pregătitoare, Comisia să organizeze consultări corespunzătoare, inclusiv la nivel de experți, și ca respectivele consultări să se desfășoare în conformitate cu principiile stabilite în Acordul interinstituțional privind o mai bună legiferare, adoptat la 13 aprilie 2016 (58). În special, pentru a asigura participarea egală la pregătirea actelor delegate, Parlamentul European și Consiliul primesc toate documentele în același timp cu experții din statele membre, iar experții acestor instituții au acces sistematic la reuniunile grupurilor de experți ale Comisiei însărcinate cu pregătirea actelor delegate.

(85)

Pentru a se asigura posibilitatea de adaptare a cadrului de reglementare atunci când este necesar, competența de a adopta acte în conformitate cu articolul 290 din TFUE ar trebui delegată Comisiei pentru a modifica legislația de armonizare a Uniunii enumerată în anexa II, sistemele de IA cu grad ridicat de risc enumerate în anexa III, dispozițiile privind documentația tehnică enumerate în anexa IV, conținutul declarației de conformitate UE din anexa V, dispozițiile privind procedurile de evaluare a conformității din anexele VI și VII și dispozițiile de stabilire a sistemelor de IA cu grad ridicat de risc cărora ar trebui să li se aplice procedura de evaluare a conformității bazată pe evaluarea sistemului de management al calității și evaluarea documentației tehnice. Este deosebit de important ca, în cursul lucrărilor sale pregătitoare, Comisia să organizeze consultări corespunzătoare, inclusiv la nivel de experți, și ca respectivele consultări să se desfășoare în conformitate cu principiile stabilite în Acordul interinstituțional privind o mai bună legiferare, adoptat la 13 aprilie 2016 (58) . Aceste consultări ar trebui să implice participarea unei selecții echilibrate de părți interesate, inclusiv organizații ale consumatorilor, societatea civilă, asociații care reprezintă persoanele afectate, reprezentanți ai întreprinderilor din diferite sectoare și de diferite dimensiuni, precum și cercetători și oameni de știință . În special, pentru a asigura participarea egală la pregătirea actelor delegate, Parlamentul European și Consiliul primesc toate documentele în același timp cu experții din statele membre, iar experții acestor instituții au acces sistematic la reuniunile grupurilor de experți ale Comisiei însărcinate cu pregătirea actelor delegate.

(85a)

Având în vedere evoluțiile tehnologice rapide și competențele tehnice necesare pentru efectuarea evaluării sistemelor de IA cu grad ridicat de risc, Comisia ar trebui să revizuiască periodic punerea în aplicare a prezentului regulament, în special a sistemelor de IA interzise, a obligațiilor de transparență și a listei domeniilor cu grad ridicat de risc și a cazurilor de utilizare, cel puțin în fiecare an, consultând în același timp Oficiul pentru IA și părțile interesate relevante.

(87a)

Întrucât informațiile fiabile privind consumul de resurse și de energie, producția de deșeuri și alte efecte asupra mediului ale sistemelor de IA și ale tehnologiei TIC aferente, inclusiv ale software-ului, ale hardware-ului și mai ales ale centrelor de date, sunt limitate, Comisia ar trebui să introducă o metodologie adecvată pentru a măsura impactul asupra mediului și eficacitatea prezentului regulament, având în vedere obiectivele Uniunii în materie de mediu și climă.

(89)

Autoritatea Europeană pentru Protecția Datelor și Comitetul european pentru protecția datelor au fost consultate în conformitate cu articolul 42 alineatul (2) din Regulamentul (UE) 2018/1725 și au emis un aviz la […]”,

(89)

Autoritatea Europeană pentru Protecția Datelor și Comitetul european pentru protecția datelor au fost consultate în conformitate cu articolul 42 alineatul (2) din Regulamentul (UE) 2018/1725 și au emis un aviz la 18 iunie 2021 .

1.

(d)

norme armonizate de transparență pentru sistemele de IA destinate să interacționeze cu persoane fizice, pentru sistemele de recunoaștere a emoțiilor, pentru sistemele biometrice de clasificare și pentru sistemele de IA utilizate pentru a genera sau a manipula imagini, conținuturi audio sau video ;

(d)

norme armonizate de transparență pentru anumite sisteme de IA;

(e)

norme privind monitorizarea și supravegherea pieței.

(e)

norme privind monitorizarea pieței, supravegherea pieței , guvernanța și asigurarea respectării;

(ea)

măsuri de susținere a inovării, cu un accent deosebit pe IMM-uri și pe întreprinderile nou-înființate, inclusiv crearea unor spații de testare în materie de reglementare și măsuri specifice pentru a reduce sarcinile de reglementare ale IMM-urilor și ale întreprinderilor nou-înființate;

(eb)

norme privind instituirea și funcționarea Oficiului Uniunii Europene pentru inteligența artificială (Oficiul pentru IA).

(b)

utilizatorii sistemelor de IA situați pe teritoriul Uniunii;

(b)

operatorii sistemelor de IA care își au sediul sau care sunt situați pe teritoriul Uniunii;

(c)

furnizorii și utilizatorii de sisteme de IA care sunt situați într-o țară terță, în cazul în care rezultatele produse de sistem sunt utilizate în Uniune.

(c)

furnizorii și operatorii de sisteme de IA care își au sediul sau care sunt situați într-o țară terță, în cazul în care fie se aplică dreptul unui stat membru în temeiul unui drept internațional public, fie rezultatul produs de sistem este destinat să fie utilizat în Uniune;

(ca)

furnizorii care introduc pe piață sau pun în funcțiune sistemele de IA menționate la articolul 5 în afara Uniunii, dacă furnizorul sau distribuitorul acestor sisteme este situat în Uniune;

(cb)

importatorii și distribuitorii de sisteme de IA, precum și reprezentanții autorizați ai furnizorilor de sisteme de IA, în cazul în care acești importatori, distribuitori sau reprezentanți autorizați își au sediul sau sunt situați în Uniune;

(cc)

persoanele afectate, definite la articolul 3 alineatul (8a), care sunt situate în Uniune și ale căror sănătate, siguranță sau drepturi fundamentale sunt afectate în mod negativ de utilizarea unui sistem de IA care este introdus pe piață sau pus în funcțiune în Uniune.

(a)

Regulamentul (CE) 300/2008;

(b)

Regulamentul (UE) nr. 167/2013;

(c)

Regulamentul (UE) nr. 168/2013;

(d)

Directiva 2014/90/UE;

(e)

Directiva (UE) 2016/797;

(f)

Regulamentul (UE) 2018/858;

(g)

Regulamentul (UE) 2018/1139;

(h)

Regulamentul (UE) 2019/2144.

(1)

„sistem de inteligență artificială” (sistem de IA) înseamnă un software care este dezvoltat prin una sau mai multe dintre tehnicile și abordările enumerate în anexa I și care, pentru un anumit set de obiective definite de om , poate genera rezultate precum conținuturi, previziuni, recomandări sau decizii care influențează mediile cu care interacționează ;

(1)

„sistem de inteligență artificială” (sistem de IA) înseamnă un sistem bazat pe mașini care este proiectat să funcționeze cu diferite niveluri de autonomie și care poate , pentru obiective explicite sau implicite , să genereze rezultate , cum ar fi previziuni, recomandări sau decizii, care influențează mediile fizice sau virtuale ;

(1a)

(1b)

(1c)

(1d)

(1e)

(3)

(4)

„utilizator” înseamnă orice persoană fizică sau juridică, autoritate publică, agenție sau alt organism care utilizează un sistem de IA aflat sub autoritatea sa, cu excepția cazului în care sistemul de IA este utilizat în cursul unei activități neprofesionale, personale;

(4)

„implementator” înseamnă orice persoană fizică sau juridică, autoritate publică, agenție sau alt organism care utilizează un sistem de IA aflat sub autoritatea sa, cu excepția cazului în care sistemul de IA este utilizat în cursul unei activități neprofesionale, personale;

(8)

„operator” înseamnă furnizorul, utilizatorul , reprezentantul autorizat, importatorul și distribuitorul;

(8)

„operator” înseamnă furnizorul, implementatorul , reprezentantul autorizat, importatorul și distribuitorul;

(8a)

(11)

„punere în funcțiune” înseamnă furnizarea unui sistem de IA pentru prima utilizare direct utilizatorului sau pentru uz propriu pe piața Uniunii, în scopul pentru care a fost conceput;

(11)

„punere în funcțiune” înseamnă furnizarea unui sistem de IA pentru prima utilizare direct implementatorului sau pentru uz propriu pe piața Uniunii, în scopul pentru care a fost conceput;

(13)

„utilizare necorespunzătoare previzibilă în mod rezonabil” înseamnă utilizarea unui sistem de IA într-un mod care nu este în conformitate cu scopul său preconizat, dar care poate rezulta din comportamentul uman sau din interacțiunea previzibilă în mod rezonabil cu alte sisteme;

(13)

„utilizare necorespunzătoare previzibilă în mod rezonabil” înseamnă utilizarea unui sistem de IA într-un mod care nu este în conformitate cu scopul său preconizat, astfel cum este indicat în instrucțiunile de utilizare concepute de furnizor, dar care poate rezulta din comportamentul uman sau din interacțiunea previzibilă în mod rezonabil cu alte sisteme , inclusiv cu alte sisteme de IA ;

(14)