Norme pentru inteligența artificială de încredere în UE

ASPECTE-CHEIE

Ce este un sistem de IA?

Un sistem de IA este un sistem bazat pe o mașină, conceput să funcționeze cu un anumit nivel de autonomie, care poate:

• să se adapteze după ce este implementat; și
• să genereze rezultate din datele de intrare pe care le primește, precum previziuni, conținut, recomandări sau decizii (pentru a atinge obiective explicite sau implicite).

O abordare bazată pe riscuri

Legislația urmează o abordare bazată pe riscuri, ceea ce înseamnă că normele sunt cu atât mai stricte cu cât riscul de a aduce prejudicii societății este mai mare. Regulamentul definește utilizarea IA în următoarele domenii ca prezentând un grad ridicat de risc, din cauza impactului potențial asupra drepturilor fundamentale, siguranței și bunăstării:

• componentele de siguranță din produsele care fac obiectul legislației de armonizare a UE (sau ca produse independente) care trebuie să fie supuse unei evaluări a conformității de către o terță parte în temeiul aceleiași legislații de armonizare a UE;
• biometria, atunci când este utilizată pentru identificarea la distanță, clasificarea persoanelor în funcție de atribute sensibile (cum ar fi rasa sau religia) sau recunoașterea emoțiilor, cu excepția cazului în care este utilizată doar pentru verificarea identității;
• infrastructura critică, atunci când IA este o componentă de siguranță în domenii precum infrastructura digitală, traficul, apa, gazul, încălzirea și electricitatea;
• educația și formarea profesională, inclusiv aspecte legate de accesul la educație, evaluarea rezultatelor învățării, evaluarea nivelului de educație sau monitorizarea comportamentului în timpul testelor;
• ocuparea forței de muncă, inclusiv recrutarea, selectarea candidaților, luarea de decizii privind condițiile de angajare (promovări, concedieri), alocarea sarcinilor sau monitorizarea performanțelor;
• servicii esențiale – sisteme de IA utilizate de autoritățile publice pentru evaluarea eligibilității pentru serviciile publice (îngrijiri de sănătate, prestații), evaluarea punctajelor de credit, evaluarea riscurilor de asigurare și stabilirea priorităților în cazul intervențiilor de urgență;
• aplicarea legii – sisteme de IA utilizate pentru evaluarea riscurilor de infracțiune, poligraf, evaluarea fiabilității probelor, predicția recidivei sau crearea de profiluri ale persoanelor pentru investigațiile penale;
• migrație și controlul frontierelor – sisteme de IA utilizate pentru evaluarea riscurilor legate de migrație, azil și cereri de viză sau pentru detectarea și identificarea persoanelor în contextul migrației;
• administrarea justiției și procesele democratice – sistemele de IA utilizate de autoritățile judiciare pentru cercetarea și interpretarea juridică sau sistemele care ar putea influența rezultatele alegerilor.

Regulamentul interzice următoarele practici de IA cu un nivel inacceptabil de risc

• Tehnici subliminale sau înșelătoare de manipulare a comportamentului unui individ sau al unui grup, care afectează capacitatea acestora de a lua decizii în cunoștință de cauză și pot aduce prejudicii.
• Exploatarea vulnerabilităților legate de vârstă, dizabilitate sau situații socioeconomice, pentru a manipula persoane sau grupuri, ceea ce poate duce la prejudicii.
• Atribuirea unui punctaj social, evaluarea sau clasificarea persoanelor pe baza comportamentului sau a caracteristicilor, ceea ce duce la un tratament incorect, fără legătură cu contextul în care au fost colectate datele sau într-un mod disproporționat față de gravitatea comportamentului.
• Evaluarea riscului penal, prezicerea probabilității de comitere a unei infracțiuni exclusiv pe baza profilului sau a trăsăturilor de personalitate, cu excepția investigațiilor penale obiective, bazate pe fapte.
• Extragerea de imagini din baze de date de recunoaștere facială de pe internet sau de pe camerele de supraveghere, fără o orientare specifică.
• Deducerea de emoții în zone sensibile, cum ar fi locurile de muncă sau instituțiile de învățământ, cu excepția cazului în care se utilizează în scopuri medicale sau de siguranță.
• Clasificarea biometrică bazată pe date pentru a deduce atribute sensibile precum rasa, religia sau opiniile politice, cu excepția utilizării legale în cadrul aplicării legii.
• Identificarea biometrică în timp real în public de către autoritățile de aplicare a legii, cu excepția cazului în care este strict necesar pentru situații speciale (de exemplu, găsirea de persoane dispărute, prevenirea amenințărilor iminente sau identificarea suspecților de infracțiuni grave). Aceasta trebuie să respecte proceduri legale stricte, inclusiv autorizarea prealabilă, un domeniu de aplicare limitat și garanții pentru protejarea drepturilor și libertăților.

Regulamentul introduce obligații de divulgare atunci când ar putea apărea un risc din cauza lipsei de transparență în ceea ce privește utilizarea IA:

• IA concepută pentru a se da drept om (de exemplu, un chatbot) trebuie să informeze omul cu care interacționează;
• rezultatul IA generative trebuie să fie marcat ca fiind generat de IA într-un mod care poate fi citit automat;
• în anumite cazuri, rezultatele IA generative trebuie să fie etichetate în mod vizibil, și anume deepfake și texte care sunt destinate informării publicului cu privire la chestiuni de interes public.

Toate celelalte sisteme de IA sunt considerate ca având un risc limitat și, prin urmare, regulamentul nu introduce norme suplimentare.

Utilizarea de încredere a modelelor de IA de mari dimensiuni

• Modelele de IA de uz general sunt modele IA care sunt antrenate pe volume mari de date și pot efectua o gamă largă de sarcini. Acestea pot fi componente ale sistemelor de IA.
• Regulamentul introduce obligații de transparență pentru furnizorii de astfel de modele de IA de uz general, și anume documentația tehnică, furnizarea de informații dezvoltatorilor de sisteme de IA din aval și dezvăluirea datelor utilizate în antrenarea modelului.
• Cele mai puternice modele de IA de uz general pot prezenta riscuri sistemice. În cazul în care un model atinge un anumit prag de capabilitate, furnizorul respectivului model trebuie să îndeplinească obligații suplimentare de gestionare a riscurilor și de securitate cibernetică.

Guvernanță

• Regulamentul instituie mai multe organisme de conducere active începând de la 2 august 2025:
  • autoritățile naționale competente, care vor supraveghea și vor pune în aplicare normele pentru sistemele de IA;
  • un Oficiu pentru IA în cadrul Comisiei Europene, care va coordona aplicarea în mod coerent a normelor comune în întreaga UE și va acționa ca autoritate de reglementare pentru modelele de IA de uz general.
• Statele membre ale UE și Oficiul pentru IA vor coopera îndeaproape în cadrul unui Consiliu IA, format din reprezentanți ai statelor membre, pentru a asigura aplicarea în mod coerent și eficient a regulamentului.
• Regulamentul instituie două organisme consultative pentru Oficiul IA și Consiliul IA:
  • un grup științific de experți independenți care să ofere consiliere științifică;
  • un forum consultativ pentru părțile interesate, care să ofere expertiză tehnică Consiliului IA și Comisiei.

Sancțiuni

Amenzile pentru încălcări sunt stabilite ca un procent din cifra de afaceri anuală a societății vinovate sau ca o sumă predeterminată, luându-se în considerare valoarea cea mai mare. Întreprinderile mici și mijlocii și întreprinderile nou înființate sunt supuse unor amenzi administrative proporționale.

Transparență și protecția drepturilor fundamentale

Creșterea transparenței se aplică dezvoltării și utilizării sistemelor de IA cu grad ridicat de risc:

• înainte ca un sistem de IA cu grad ridicat de risc să fie implementat de entități care furnizează servicii publice, trebuie evaluat impactul acestuia asupra drepturilor fundamentale;
• sistemele de IA cu grad ridicat de risc și entitățile care le utilizează trebuie să fie înregistrate într-o bază de date a UE.

Inovare

Regulamentul prevede un cadru juridic favorabil inovării și urmărește să promoveze învățarea în materie de reglementare bazată pe dovezi. Acesta are în vedere spații de testare în materie de reglementare în domeniul IA, care permit crearea unui mediu controlat în care sistemele inovatoare de IA pot fi dezvoltate, testate și validate, inclusiv în condiții reale. În plus, regulamentul permite testarea în condiții reale a sistemelor de IA cu grad ridicat de risc, în anumite condiții.

Evaluarea și revizuirea

Comisia evaluează în fiecare an necesitatea modificării listei de utilizări cu grad ridicat de risc ale IA și a listei de practici interzise. Până la 2 august 2028 și, ulterior, la fiecare patru ani, Comisia va evalua și va raporta cu privire la următoarele:

• adăugarea sau extinderea listei categoriilor cu grad ridicat de risc;
• modificări la lista sistemelor de IA care necesită măsuri suplimentare de transparență;
• modificări pentru îmbunătățirea supravegherii și guvernanței.