COMISIA EUROPEANĂ

Bruxelles, 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Propunere de

DECIZIE A CONSILIULUI

privind semnarea, în numele Uniunii Europene, a Convenției-cadru a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept

EXPUNERE DE MOTIVE

1.CONTEXTUL PROPUNERII

•Temeiurile și obiectivele propunerii

Inteligența artificială (IA) oferă oportunități deosebite, dar anumite aplicații și utilizări pot, de asemenea, să aducă prejudicii și să reprezinte riscuri pentru drepturile fundamentale ale persoanelor și pentru alte interese publice.

Prin Regulamentul (UE) 2024/[...] al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială („Regulamentul privind IA”), Uniunea a adoptat primul regulament cuprinzător privind IA, stabilind un standard la nivel mondial. Regulamentul privind IA a fost adoptat la 12 iunie 2024 1 și va intra în vigoare în termen de 20 de zile de la publicarea sa în Jurnalul Oficial. Regulamentul privind IA armonizează pe deplin normele privind introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA în toate statele membre 2 , cu scopul de a promova inovarea și adoptarea unei IA de încredere, protejând în același timp sănătatea, siguranța și drepturile fundamentale, inclusiv democrația, statul de drept și mediul.

Diverse organizații internaționale, inclusiv Consiliul Europei, și-au intensificat, de asemenea, eforturile de reglementare a IA, recunoscând caracterul transfrontalier al IA și necesitatea cooperării internaționale pentru a aborda provocările comune generate de aceste tehnologii.

Din luna iunie 2022, Comitetul pentru inteligența artificială (CAI) 3 al Consiliului Europei a elaborat o convenție-cadru obligatorie din punct de vedere juridic („convenția”), pentru a aborda riscurile potențiale pe care IA le prezintă pentru drepturile omului, democrație și statul de drept. Uniunea a negociat convenția în temeiul articolului 216 alineatul (1) a patra alternativă din TFUE, potrivit căruia Uniunea poate negocia 4 și încheia acorduri internaționale, în cazul în care încheierea unui acord „[…] poate influența normele comune ori poate modifica domeniul de aplicare a acestora”. Comisia Europeană a reprezentat Uniunea în cadrul negocierilor privind convenția, în conformitate cu articolul 218 alineatul (3) din Tratatul privind funcționarea Uniunii Europene („TFUE”) și pe baza unei decizii a Consiliului de autorizare a deschiderii negocierilor în numele Uniunii Europene 5 .

Uniunea participă activ la negocieri și a urmărit obiectivul de a asigura compatibilitatea convenției cu dreptul Uniunii, coerența cu Regulamentul privind IA, precum și calitatea și valoarea adăugată a convenției, ca prim tratat internațional privind IA. În acest context, sfera de aplicare internațională a convenției a reprezentat, de asemenea, un obiectiv al Uniunii.

După mai multe runde de negocieri, CAI a aprobat textul convenției în cadrul celei de a 10-a sesiuni plenare, care a avut loc în perioada 11-14 martie 2024. La 17 mai 2024, Comitetul de Miniștri al Consiliului Europei a adoptat convenția, a convenit să o deschidă spre semnare la Vilnius (Lituania) la 5 septembrie 2024, cu ocazia unei conferințe informale a miniștrilor justiției, și a invitat membrii Consiliului Europei, alte țări terțe care au participat la redactarea acesteia, precum și Uniunea să ia în considerare semnarea convenției cu această ocazie, reamintind totodată că acest act este, de asemenea, deschis pentru aderarea altor state care nu sunt membre 6 .

În acest context, scopul prezentei propuneri este de a lansa procesul de semnare de către Uniune a convenției cu intenția de a o ratifica ulterior, propunând Consiliului să adopte o decizie prin care autorizează Uniunea să semneze convenția în conformitate cu articolul 218 alineatul (5) din TFUE. Convenția este pe deplin compatibilă cu dreptul Uniunii, în general, și cu Regulamentul privind IA, în special, și va promova concepte-cheie preluate din abordarea Uniunii în ceea ce privește reglementarea IA la nivel mondial în rândul celorlalți membri ai Consiliului Europei și al principalilor parteneri internaționali care pot deveni părți la convenție.

Conținutul convenției

Obiectivul convenției este de a se asigura că activitățile din ciclul de viață al sistemelor de IA sunt pe deplin compatibile cu drepturile omului, cu democrația și cu statul de drept.

Părțile la convenție vor trebui să o pună în aplicare prin măsuri adecvate de ordin legislativ, administrativ sau de altă natură pentru ca dispozițiile acesteia să producă efecte, urmând o abordare treptată și diferențiată, în funcție de gravitatea și de probabilitatea efectelor negative. Convenția ar trebui să fie pusă în aplicare în Uniune exclusiv prin intermediul Regulamentului privind IA, care armonizează pe deplin normele privind introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA, precum și acquis-ul relevant al Uniunii, după caz. 

Domeniul de aplicare al convenției acoperă sistemele de IA care ar putea aduce atingere drepturilor omului, democrației și statului de drept, urmând o abordare diferențiată. Principiile și obligațiile prevăzute în convenție se vor aplica activităților din ciclul de viață al sistemelor de IA aplicate de autoritățile publice sau de actorii privați care acționează în numele acestora. În ceea ce privește sectorul privat, părțile sunt obligate să abordeze riscurile și impacturile care decurg din activitățile din ciclul de viață al sistemelor de IA desfășurate de actori privați într-un mod conform cu obiectul și scopul convenției, dar au posibilitatea de a alege dacă să aplice obligațiile prevăzute în convenție sau să ia alte măsuri adecvate. Părțile vor trebui să facă o declarație cu privire la alegerea lor în această privință, odată cu semnarea convenției sau aderarea la aceasta. La încheierea convenției, Uniunea ar trebui să emită o declarație conform căreia Uniunea, prin Regulamentul privind IA și acquis-ul relevant al Uniunii, va pune în aplicare principiile și obligațiile prevăzute în capitolele II-VI din convenție în ceea ce privește activitățile actorilor privați care introduc pe piață, pun în funcțiune și utilizează sisteme de IA în Uniune.

Activitățile IA legate de securitatea națională sunt excluse din domeniul de aplicare al convenției, cu condiția ca acestea să fie desfășurate, în orice caz, într-un mod compatibil cu dreptul internațional aplicabil în domeniul drepturilor omului și cu respectarea instituțiilor și proceselor democratice. Convenția exclude, de asemenea, activitățile de cercetare și dezvoltare privind sistemele de IA indisponibile încă pentru utilizare, cu excepția cazului în care testarea sau activitățile similare au potențialul de a aduce atingere drepturilor omului, democrației și statului de drept. În conformitate cu Statutul Consiliului Europei, aspectele legate de apărarea națională nu intră în domeniul de aplicare al convenției.

Convenția prevede, de asemenea, un set de obligații generale și principii fundamentale, inclusiv protecția demnității umane și a autonomiei individuale, precum și promovarea egalității și a nediscriminării. În plus, aceasta prevede respectarea vieții private și a protecția datelor cu caracter personal, precum și transparența și supravegherea, pentru a asigura responsabilitatea și tragerea la răspundere. Un principiu este consacrat, de asemenea, inovării și experimentării în condiții de siguranță, în medii controlate.

Un capitol dedicat căilor de atac prevede, de asemenea, un set de măsuri care să asigure disponibilitatea unor căi de atac accesibile și eficace pentru încălcările drepturilor omului care rezultă din activitățile din ciclul de viață al sistemelor de IA. Acesta include, de asemenea, garanții procedurale și măsuri de salvgardare eficace pentru persoanele ale căror drepturi au fost afectate în mod semnificativ de utilizarea sistemelor de IA. În plus, persoanelor ar trebui să li se notifice faptul că interacționează cu un sistem de IA și nu cu o ființă umană.

Convenția include, de asemenea, un capitol privind măsurile de evaluare și atenuare a riscurilor și a efectelor negative care trebuie efectuate în mod iterativ, astfel încât să se identifice impactul real și potențial asupra drepturilor omului, a democrației și a statului de drept și să se ia măsuri adecvate de prevenire și atenuare.

În plus, convenția prevede că părțile ar trebui să evalueze necesitatea unor interdicții sau a unor moratorii privind anumite aplicații ale sistemelor de IA considerate incompatibile cu respectarea drepturilor omului, cu funcționarea democrației sau cu statul de drept.

Convenția prevede un mecanism de monitorizare în cadrul unei Conferințe a părților, formată din reprezentanți ai părților care se vor consulta periodic pentru a facilita utilizarea și punerea în aplicare eficace a convenției. Aceasta prevede, totodată, un mecanism de cooperare internațională atât la nivelul părților la convenție, cât și în relațiile cu țările terțe și cu părțile interesate relevante, pentru a atinge scopul convenției.

În plus, fiecare parte ar trebui să instituie sau să desemneze la nivel național unul sau mai multe mecanisme eficace de supraveghere a respectării obligațiilor prevăzute în convenție, astfel cum au fost puse în aplicare de către părți.

•Coerența cu dispozițiile de politică deja existente în domeniul de politică vizat

Convenția stabilește principii și obligații generale pentru protecția drepturilor omului, a democrației și a statului de drept, care sunt pe deplin coerente cu obiectivele Regulamentului privind IA, cerințele detaliate pentru sistemele de IA și obligațiile impuse furnizorilor și operatorilor de astfel de sisteme, precum și aliniate la acestea.

În convenție, definiția sistemului de IA este pe deplin aliniată la definiția din Regulamentul privind IA, întrucât ambele se bazează pe definiția unor astfel de sisteme în Principiile privind IA ale Organizației pentru Cooperare și Dezvoltare Economică 7 , asigurând astfel o înțelegere comună cu privire la tehnologiile digitale care constituie IA.

Transparența este un alt element comun al ambelor instrumente juridice, incluzând măsuri privind identificarea conținutului generat de IA și notificarea persoanelor care interacționează cu sistemele de IA. Ambele instrumente juridice includ, de asemenea, dispoziții relevante privind evaluările riscurilor și ale impactului, precum și gestionarea riscurilor, păstrarea evidențelor, divulgarea (către organismele și autoritățile autorizate și, după caz, către persoanele afectate), trasabilitatea și explicabilitatea, inovarea și experimentarea în condiții de siguranță în medii controlate, precum și un set de măsuri care să permită căi de atac eficace, inclusiv dreptul de a solicita și de a obține informații și de a depune plângeri la o autoritate competentă și garanții procedurale.

Sistemul de supraveghere prevăzut în convenție este, de asemenea, pe deplin coerent cu sistemul cuprinzător de guvernanță și asigurare a respectării legii din Regulamentul privind IA, care constă în asigurarea respectării normelor la nivelul Uniunii și la nivel național, cu proceduri pentru punerea în aplicare coerentă a normelor Uniunii în toate statele membre. În special, convenția prevede unul sau mai multe mecanisme de supraveghere eficace la nivel național care trebuie să își exercite atribuțiile în mod independent și imparțial și să dispună de competențele, expertiza și resursele necesare pentru a îndeplini în mod eficace sarcinile de supraveghere a respectării obligațiilor prevăzute în convenție, astfel cum au fost puse în aplicare de către părți.

În timp ce Regulamentul privind IA se va aplica sistemelor de IA introduse pe piață, puse în funcțiune sau utilizate în Uniune, convenția are o acoperire geografică mai amplă, cuprinzând membri ai Consiliului Europei și state terțe din întreaga lume care pot deveni părți la convenție. Prin urmare, convenția reprezintă o oportunitate unică de a promova IA de încredere în afara Uniunii prin intermediul unui prim tratat internațional obligatoriu din punct de vedere juridic, bazat pe o abordare solidă a reglementării IA bazată pe drepturile omului.

Atât convenția, cât și Regulamentul privind IA sunt componente integrante ale unei abordări normative a IA, cu angajamente coerente și care se consolidează reciproc la mai multe niveluri internaționale și partajând obiectivul comun de a asigura o IA de încredere.

•Coerența cu alte politici ale Uniunii

Totodată, convenția împărtășește obiective comune cu alte politici și acte legislative ale Uniunii care vizează punerea în aplicare a drepturilor fundamentale consacrate în Carta drepturilor fundamentale a Uniunii 8 .

În special, principiul egalității și nediscriminării consacrat în convenție este pe deplin coerent cu legislația Uniunii în materie de nediscriminare și va promova integrarea aspectelor legate de egalitate în proiectarea, dezvoltarea și utilizarea sistemelor de IA și punerea în aplicare eficace a interzicerii discriminării, astfel cum se prevede în dreptul internațional și intern aplicabil al părților.

Convenția este, de asemenea, în concordanță cu acquis-ul Uniunii în materie de protecție a datelor, inclusiv cu Regulamentul general privind protecția datelor 9 în ceea ce privește drepturile fundamentale privind protecția vieții private și a datelor cu caracter personal, cu garanții și măsuri de salvgardare eficace care trebuie instituite pentru persoane, în conformitate cu obligațiile juridice interne și internaționale aplicabile ale părților.

Măsurile prevăzute în convenție concepute să protejeze procesele democratice ale părților în contextul activităților din ciclul de viață al sistemului de IA sunt pe deplin coerente cu obiectivele și normele detaliate din Regulamentul privind serviciile digitale 10 , care reglementează furnizarea de servicii intermediare în Uniune, cu scopul de a asigura un mediu online sigur, previzibil și de încredere, în care sunt respectate drepturile fundamentale, inclusiv dreptul la libertatea de exprimare și dreptul de a primi și de a transmite informații. Acestea sunt, de asemenea, în concordanță cu Regulamentul privind transparența și vizarea unui public-țintă în publicitatea politică 11 , cu Codul de bune practici privind dezinformarea 12 și cu politicile Uniunii în domeniul democrației și al alegerilor libere, corecte și reziliente 13 , inclusiv cu Planul de acțiune pentru democrația europeană din 2020 14 , cu pachetul privind alegerile și integritatea 15 și, mai recent, cu pachetul de măsuri privind apărarea democrației din 2023 16 .

Propunerea este coerentă cu strategia digitală generală a Uniunii în ceea ce privește contribuția sa la promovarea tehnologiei în serviciul cetățenilor, unul dintre cei trei piloni principali ai orientării politice și ai obiectivelor anunțate în comunicarea intitulată „Conturarea viitorului digital al Europei” 17 . Scopul acestei comunicări este a garanta dezvoltarea IA în moduri care respectă drepturile omului și câștigă încrederea cetățenilor, creând o Europă pregătită pentru era digitală și transformând următorii zece ani în deceniul digital 18 .

În plus, Declarația europeană privind drepturile și principiile digitale pentru deceniul digital 19 conține mai multe drepturi și principii digitale care sunt aliniate la obiectivele și principiile convenției, ambele instrumente promovând o abordare solidă a tehnologiei bazată pe drepturile omului.

Convenția este, de asemenea, în concordanță cu Strategia UE privind drepturile copilului 20 și cu Strategia europeană pentru un internet mai bun pentru copii (BIK +) 21 , care urmăresc să asigure protecția, respectarea și responsabilizarea copiilor în mediul online, pentru a face față provocărilor legate de noile lumi virtuale și de IA.

2.TEMEI JURIDIC, SUBSIDIARITATE ȘI PROPORȚIONALITATE

•Temeiul juridic

Propunerea de decizie de autorizare a semnării convenției în numele Uniunii se transmite Consiliului în temeiul articolului 218 alineatul (5) din TFUE.

Temeiul juridic material al unei decizii adoptate în baza articolului 218 alineatul (5) din TFUE depinde în primul rând de obiectivul și de conținutul acordului. În conformitate cu jurisprudența, dacă o examinare a unei măsuri a Uniunii arată că respectiva măsură urmărește două finalități sau are două componente și dacă una dintre aceste finalități sau componente poate fi identificată ca fiind principală ori preponderentă, iar cealaltă nu este decât accesorie, măsura trebuie să aibă un temei juridic unic, și anume temeiul impus de finalitatea sau de componenta principală ori preponderentă.

În ceea ce privește temeiul juridic material, domeniul de aplicare material al convenției coincide cu cel al Regulamentului privind IA 22 , inclusiv în ceea ce privește excluderea din domeniul de aplicare a activităților de cercetare și dezvoltare și a celor din sfera securității naționale și a apărării. Principiile și obligațiile prevăzute în convenție coincid cu cerințele mai detaliate pentru sistemele de IA și cu obligațiile specifice ale furnizorilor și operatorilor unor astfel de sisteme în temeiul Regulamentului privind IA și al altor acte legislative relevante ale Uniunii. În cazul în care Consiliul adoptă decizia propusă, iar Uniunea semnează convenția, Regulamentul privind IA va constitui legislația primară a Uniunii de punere în aplicare a convenției în ordinea juridică a Uniunii cu norme pe deplin armonizate privind introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA în Uniune, care sunt direct aplicabile în statele membre, cu excepția cazului în care Regulamentul privind IA prevede în mod specific altfel 23 .

Având în vedere că domeniul de aplicare și obiectivele convenției sunt aliniate la cele ale Regulamentului privind IA și sunt pe deplin coerente cu acestea și că domeniile de aplicare personal și material ale celor două instrumente coincid, temeiul juridic material pentru încheierea convenției este articolul 114 din TFUE, acesta fiind totodată temeiul juridic primar al Regulamentului privind IA.

Natura acordurilor internaționale („relevante numai pentru UE” sau „mixte”) depinde de compatibilitatea obiectului specific cu competențele Uniunii.

Conform articolului 3 alineatul (2) din TFUE, competența Uniunii este exclusivă „în ceea ce privește încheierea unui acord internațional [...] în măsura în care aceasta ar putea aduce atingere normelor comune sau ar putea modifica domeniul de aplicare a acestora.” Un acord internațional ar putea aduce atingere normelor comune sau ar putea modifica domeniul de aplicare al acestora atunci când domeniul de aplicare al acordului este reglementat în mare măsură de dreptul Uniunii 24 .

Domeniul de aplicare personal al convenției este pe deplin aliniat la Regulamentul privind IA prin faptul că ambele instrumente juridice acoperă, în principiu, atât actorii publici, cât și actorii privați (cu aplicarea opțională a principiilor și a obligațiilor convenției în cazul actorilor privați, alții decât cei care acționează în numele autorităților publice), în timp ce domeniul de aplicare material al ambelor instrumente juridice exclude din normele aplicabile activitățile IA care au legătură cu securitatea națională, apărarea și cercetarea.

Având în vedere că domeniile de aplicare personal și material ale convenției coincid cu cele ale Regulamentului privind IA, încheierea convenției poate afecta normele comune ale Uniunii sau poate modifica domeniul de aplicare al acestora în sensul articolului 3 alineatul (2) din TFUE. În consecință, ar trebui să se considere că Uniunea se bucură de competență externă exclusivă în ceea ce privește încheierea convenției, iar convenția ar trebui semnată în numele Uniunii ca acord „relevant numai pentru UE”, sub rezerva încheierii sale la o dată ulterioară.

•Proporționalitate

Convenția stabilește un cadru juridic la nivel înalt pentru IA, care asigură flexibilitate, permițând părților să conceapă în mod concret cadrele de punere în aplicare. Abordarea bazată pe riscuri asigură, de asemenea, proporționalitatea normelor și permite diferențierea măsurilor de punere în aplicare într-un mod proporțional cu riscurile, în mod similar cu Regulamentul privind IA.

•Alegerea instrumentului

3.REZULTATELE EVALUĂRILOR EX POST, ALE CONSULTĂRILOR CU PĂRȚILE INTERESATE ȘI ALE EVALUĂRILOR IMPACTULUI

•Evaluările ex post/verificările adecvării legislației existente

•Consultările cu părțile interesate

Comisia Europeană nu a efectuat o consultare specifică a părților interesate cu privire la această propunere.

Elaborarea convenției reprezintă un efort de colaborare al Comitetului pentru inteligența artificială al Consiliului Europei, care a implicat toate cele 46 de state membre ale Consiliului Europei, precum și statele cu statut de observator, inclusiv Canada, Japonia, Mexic, Sfântul Scaun, Statele Unite ale Americii și Uniunea Europeană. În plus, au participat și alte state care nu sunt membre ale Consiliului Europei, inclusiv Australia, Argentina, Costa Rica, Israel, Peru și Uruguay.

În conformitate cu angajamentul Consiliului Europei de a colabora cu diverse părți interesate, elaborarea convenției a implicat, de asemenea, contribuții din partea a 68 de reprezentanți internaționali ai societății civile, ai mediului academic, ai industriei și ai altor organizații internaționale, asigurând o abordare cuprinzătoare și favorabilă incluziunii. Elaborarea convenției a implicat, de asemenea, colaborarea cu diverse alte organizații internaționale, inclusiv Organizația pentru Securitate și Cooperare în Europa (OSCE), Organizația pentru Cooperare și Dezvoltare Economică (OCDE) și Organizația Națiunilor Unite pentru Educație, Știință și Cultură (UNESCO). În plus, organismele și comitetele relevante din cadrul Consiliului Europei au contribuit la acest proces. Participarea Uniunii a fost condusă de Comisia Europeană. Reprezentanți ai Agenției pentru Drepturi Fundamentale a Uniunii Europene și ai Autorității Europene pentru Protecția Datelor au fost, de asemenea, prezenți în calitate de observatori.

•Obținerea și utilizarea expertizei

Pozițiile de negociere ale Uniunii cu privire la convenție au fost pregătite în consultare cu un comitet special desemnat de Consiliu (Grupul de lucru pentru telecomunicații și societatea informațională al Consiliului).

•Studiul de impact

•Adecvarea reglementărilor și simplificarea

•Drepturile fundamentale

Convenția urmărește să abordeze riscurile potențiale și prejudiciile aduse drepturilor omului prin asigurarea faptului că activitățile din ciclul de viață al sistemelor de IA se aliniază la principiile respectării drepturilor omului, democrației și statului de drept, recunoscând totodată potențialul IA de a proteja și facilita exercitarea acestor drepturi în mediul digital și de a îmbunătăți bunăstarea societală și de mediu, precum și progresul tehnologic.

Principiile și obligațiile concrete prevăzute în convenție au ca scop să protejeze și să respecte drepturile omului, consacrate în mai multe instrumente internaționale și regionale 25 , astfel cum sunt aplicabile părților, inclusiv în Carta drepturilor fundamentale a Uniunii și în instrumentele internaționale privind drepturile omului încheiate de Uniune.

Prin urmare, convenția stabilește un standard minim comun pentru protecția drepturilor omului în contextul IA, garantând în același timp protecțiile existente ale drepturilor omului și permițând părților să ofere o protecție mai largă, cu garanții mai stricte.

4.IMPLICAȚII BUGETARE

Convenția prevede contribuții financiare din partea statelor care nu sunt membre pentru activitățile Conferinței părților. În timp ce toți membrii Consiliului Europei vor contribui prin bugetul obișnuit al Consiliului Europei în conformitate cu Statutul Consiliului Europei, părțile care nu sunt membre vor participa cu contribuții extrabugetare. Contribuția unei părți care nu este membră a Consiliului Europei este stabilită de comun acord de către Comitetul de Miniștri și de către partea respectivă.

Convenția nu aduce atingere actelor cu putere de lege și normelor administrative interne ale părților care reglementează competențele și procedurile bugetare pentru creditele bugetare. Aceasta permite, de asemenea, statelor care nu sunt membre ale Consiliului Europei să facă contribuții în limitele bugetare aprobate stabilite de ramura lor legislativă, fără a aduce atingere acordurilor anterioare.

5.ALTE ELEMENTE

•Planuri de punere în aplicare și modalități de monitorizare, evaluare și raportare

Conferința părților, compusă din reprezentanți ai părților, va monitoriza îndeplinirea eficace a obiectivelor convenției și punerea în aplicare a dispozițiilor acesteia de către părți.

Fiecare parte va trebui să prezinte Conferinței părților, în primii doi ani de la aderare și, ulterior, la intervale regulate, un raport care să detalieze măsurile luate pentru punerea în aplicare a convenției.

Părțile sunt încurajate, de asemenea, să coopereze în vederea îndeplinirii obiectivelor convenției. Această cooperare internațională poate include schimbul de informații relevante privind IA și potențialul acesteia de a avea un impact negativ sau pozitiv asupra drepturilor omului, democrației și statului de drept.

Pentru a asigura o monitorizare și o punere în aplicare eficace, fiecare parte va trebui să desemneze unul sau mai multe mecanisme de supraveghere eficace la nivel național.

2024/0150 (NLE)

Propunere de

DECIZIE A CONSILIULUI

privind semnarea, în numele Uniunii Europene, a Convenției-cadru a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept

CONSILIUL UNIUNII EUROPENE,

având în vedere Tratatul privind funcționarea Uniunii Europene, în special articolul 114 coroborat cu articolul 218 alineatul (5),

având în vedere propunerea Comisiei Europene,

întrucât:

(1)La 21 noiembrie 2022, Consiliul a autorizat Comisia Europeană să înceapă negocieri în numele Uniunii în vederea unei convenții a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept („convenția”). Comisia Europeană a negociat convenția în numele Uniunii. La 17 mai 2024, negocierile s-au încheiat cu succes prin parafarea convenției și adoptarea acesteia de către Comitetul de Miniștri al Consiliului Europei ( 26 ).

(2)Convenția stabilește principiile și obligațiile generale pe care părțile la convenție ar trebui să le respecte pentru a asigura protecția drepturilor omului, a democrației și a statului de drept în ceea ce privește activitățile din ciclul de viață al sistemelor de inteligență artificială (IA).

(3)La 12 iunie 2024, Uniunea a adoptat Regulamentul (UE) 2024/... („Regulamentul privind inteligența artificială”) 27 , în principal în temeiul articolului 114 din TFUE; acesta prevede norme pe deplin armonizate, care reglementează introducerea pe piață, punerea în funcțiune și utilizarea sistemelor de IA în Uniune și care sunt direct aplicabile în toate statele membre, cu excepția cazului în care Regulamentul privind inteligența artificială prevede în mod explicit altfel. Convenția urmează să fie pusă în aplicare în Uniune exclusiv prin intermediul Regulamentului privind inteligența artificială și al acquis-ului relevant al Uniunii, după caz.

(4)Având în vedere că domeniile de aplicare personal și material ale convenției coincid cu cele ale Regulamentului privind inteligența artificială și ale acquis-ului relevant Uniunii, încheierea convenției poate afecta normele comune ale Uniunii sau poate modifica domeniul de aplicare al acestora în sensul articolului 3 alineatul (2) din Tratatul privind funcționarea Uniunii Europene. În consecință, Uniunea se bucură de competență externă exclusivă în ceea ce privește semnarea convenției și, prin urmare, numai Uniunea ar trebui să devină parte la convenție, sub rezerva încheierii sale la o dată ulterioară.

(5)În conformitate cu tratatele, este de competența Comisiei Europene să asigure semnarea convenției, sub rezerva încheierii sale la o dată ulterioară.

ADOPTĂ PREZENTA DECIZIE:

Articolul 1

Se aprobă, în numele Uniunii, semnarea Convenției-cadru a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept („convenția”), sub rezerva încheierii convenției menționate.

Textul convenției care urmează să fie semnată este anexat la prezenta decizie.

Articolul 2

Prezenta decizie intră în vigoare la .

Adoptată la Bruxelles,

(1)     Regulamentul (UE) 2024/... AL PARLAMENTULUI EUROPEAN ȘI AL CONSILIULUI de stabilire a unor norme armonizate privind inteligența artificială și de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 și (UE) 2019/2144 și a Directivelor 2014/90/UE, (UE) 2016/797 și (UE) 2020/1828 (Regulamentul privind inteligența artificială), JO 2024 L..... .

(2)    Regulamentul privind IA, considerentele 1 și 8.

(3)     Decizie privind activitatea CAI în cadrul celei de a 132-a sesiuni a Comitetului de Miniștri – monitorizare, CM/Inf(2022)20, DD(2022)245.

(4)    Hotărârea Curții din 20 noiembrie 2018, cauzele conexate C-626/15 și C-659/16, Comisia/Consiliul (Antarctica - zone marine protejate), ECLI:EU:C:2018:925, punctul 112.

(5)     Decizia (UE) 2022/2349 a Consiliului din 21 noiembrie 2022 privind autorizarea începerii negocierilor, în numele Uniunii Europene, în vederea unei convenții a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept , JO L 311, 2.12.2022, p. 138.

(6)    Cm/Del/Dec (2024) 133/4.

(7)    Definiția „sistemului de IA” a OCDE a fost actualizată la 8 noiembrie 2023 [C(2023)151 și C/M(2023)14, punctul 218] pentru a se asigura că aceasta continuă să fie exact din punct de vedere tehnic și reflectă evoluțiile tehnologice, inclusiv în ceea ce privește IA generativă.

(8)

   Carta drepturilor fundamentale a Uniunii Europene, JO C 326, 26.10.2012, p. 391.

(9)    Regulamentul (UE) 2016/679 al Parlamentului European și al Consiliului din 27 aprilie 2016 privind protecția persoanelor fizice în ceea ce privește prelucrarea datelor cu caracter personal și privind libera circulație a acestor date și de abrogare a Directivei 95/46/CE (Regulamentul general privind protecția datelor), JO L 119, 4.5.2016, p. 1.

(10)    Regulamentul (UE) 2022/2065 al Parlamentului European și al Consiliului din 19 octombrie 2022 privind o piață unică pentru serviciile digitale și de modificare a Directivei 2000/31/CE (Regulamentul privind serviciile digitale), JO L 277, 27.10.2022, p. 1.

(11)    Regulamentul (UE) 2024/900 al Parlamentului European și al Consiliului din 13 martie 2024 privind transparența și vizarea unui public-țintă în publicitatea politică, PE/90/2023/REV/1, JO L, 2024/900, 20.3.2024.

(12)     https://disinfocode.eu/introduction-to-the-code/ .

(13)     Protejarea democrației – Comisia Europeană (europa.eu) .

(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_ro .

(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en .

(16)    Comunicarea Comisiei privind apărarea democrației, COM/2023/630 final.

(17)    Comunicarea Comisiei, „Conturarea viitorului digital al Europei”, COM/2020/67 final.

(18)    Comunicarea Comisiei intitulată  „Busola pentru dimensiunea digitală 2030: modelul european pentru deceniul digital” , COM/2021/118 final.

(19)     Declarația europeană privind drepturile și principiile digitale pentru deceniul digital , COM(2022) 28 final.

(20)    Comunicare a Comisiei referitoare la Strategia UE privind drepturile copilului, COM(2021) 142 final.

(21)    Comunicarea Comisiei intitulată „Un deceniu digital pentru copii și tineri: noua strategie europeană „Un internet mai bun pentru copii” (BIK+) (COM/2022/212 final)

(22)    Adoptat de Consiliu la 21 mai 2024 și preconizat a fi publicat în Jurnalul Oficial în iulie 2024.

(23)    A se vedea articolul 1 și considerentul 1 din Regulamentul privind IA.

(24)    De exemplu, cauza C-114/12, Comisia/Consiliul (Drepturile conexe ale organismelor de radiodifuziune), ECLI:EU:C:2014:2151, punctele 68-69; Avizul 1/13 Aderarea unor state terțe la Convenția de la Haga, EU:C:2014:2303, punctele 71-74; cauza C-66/13, Green Network, EU:C:2014:2399, punctele 27-33; Avizul 3/15 Tratatul de la Marrakesh pentru facilitarea accesului la operele publicate al persoanelor nevăzătoare, cu deficiențe de vedere sau cu dificultăți de citire a materialelor imprimate, ECLI:EU:C:2017:114, punctele 105-108.

(25)    Cum ar fi Declarația universală a drepturilor omului din 1948, Convenția pentru apărarea drepturilor omului și a libertăților fundamentale din 1950 (ETS nr. 5), Pactul internațional cu privire la drepturile civile și politice din 1966, Pactul internațional cu privire la drepturile economice, sociale și culturale din 1966, Carta socială europeană din 1961 (ETS nr. 35), precum și protocoalele la acestea, și Carta socială europeană din 1996 (revizuită) (ETS nr. 163), Convenția Organizației Națiunilor Unite cu privire la drepturile copilului din 1989 și Convenția Organizației Națiunilor Unite privind drepturile persoanelor cu handicap din 2006.

(26)    DECIZIA (UE) 2022/2349 A CONSILIULUI din 21 noiembrie 2022 privind autorizarea începerii negocierilor, în numele Uniunii Europene, în vederea unei convenții a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept , JO L 311, 2.12.2022, p. 138.

(27)    Regulamentul (UE) 2024/... al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială și de modificare a Regulamentelor (CE) nr. 300/2008, (UE) nr. 167/2013, (UE) nr. 168/2013, (UE) 2018/858, (UE) 2018/1139 și (UE) 2019/2144 și a Directivelor 2014/90/UE, (UE) 2016/797 și (UE) 2020/1828 (Regulamentul privind inteligența artificială), JO 2024 L......

COMISIA EUROPEANĂ

Bruxelles, 26.6.2024

COM(2024) 264 final

ANEXĂ

la

Propunerea de DECIZIE A CONSILIULUI

privind semnarea, în numele Uniunii Europene, a Convenției-cadru a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept

Textul Convenției-cadru a Consiliului Europei privind inteligența artificială, drepturile omului, democrația și statul de drept

Preambul

Statele membre ale Consiliului Europei și ceilalți semnatari ai prezentei convenții,

Considerând că obiectivul Consiliului Europei este de a realiza o coeziune mai puternică între membrii săi, bazată în special pe respectarea drepturilor omului, a democrației și a statului de drept;

Recunoscând valoarea promovării unei cooperări între părțile la prezenta convenție și a extinderii acestei cooperări la alte state care împărtășesc aceleași valori;

Cunoscând evoluțiile accelerate din domeniul științei și al tehnologiei și schimbările profunde generate de activitățile din ciclul de viață al sistemelor de inteligență artificială, care au potențialul de a promova prosperitatea umană, precum și bunăstarea individuală și a societății, dezvoltarea durabilă, egalitatea de gen și capacitarea tuturor femeilor și fetelor, precum și alte obiective și interese importante, prin consolidarea progreselor și a inovării;

Recunoscând că activitățile din ciclul de viață al sistemelor de inteligență artificială pot oferi oportunități fără precedent de protejare și de promovare a drepturilor omului, a democrației și a statului de drept;

Urmărind cu preocupare faptul că anumite activități din ciclul de viață al sistemelor de inteligență artificială pot submina demnitatea umană și autonomia individuală, drepturile omului, democrația și statul de drept;

Urmărind cu preocupare riscurile discriminării în contexte digitale, în special cele care implică sisteme de inteligență artificială, și efectul lor potențial de a crea sau adânci inegalitățile, inclusiv cele cu care se confruntă femeile și persoanele aflate în situații vulnerabile, în ceea ce privește exercitarea de către acestea ale drepturilor omului și participarea lor deplină, egală și eficace la afacerile economice, sociale, culturale și politice;

Urmărind cu preocupare utilizarea abuzivă a sistemelor de inteligență artificială și opunându-se utilizării unor astfel de sisteme în scopuri represive, cu încălcarea dreptului internațional al drepturilor omului, inclusiv prin practici arbitrare sau ilegale de supraveghere și cenzură care erodează viața privată și autonomia individuală;

Cunoscând faptul că drepturile omului, democrația și statul de drept sunt în mod inerent interconectate;

Susținând cu convingere necesitatea de a stabili, în mod prioritar, un cadru juridic aplicabil la nivel mondial care să stabilească principii și norme generale comune pentru a reglementa activitățile din ciclul de viață al sistemelor de inteligență artificială, care să păstreze în mod eficace valorile comune și să valorifice beneficiile inteligenței artificiale pentru promovarea acestor valori într-un mod care să conducă la o inovare responsabilă;

Recunoscând necesitatea de a promova alfabetizarea digitală, cunoștințele și încrederea în conceperea, dezvoltarea, utilizarea și dezafectarea sistemelor de inteligență artificială;

Recunoscând caracterul de instrument-cadru al prezentei convenții, care poate fi completat cu instrumente suplimentare pentru a aborda aspecte specifice legate de activitățile din ciclul de viață al sistemelor de inteligență artificială;

Subliniind că prezenta convenție are scopul de a aborda provocările specifice care se ivesc pe parcursul întregului ciclu de viață al sistemelor de inteligență artificială și de a încuraja luarea în considerare a riscurilor și a impacturilor mai ample legate de aceste tehnologii, inclusiv, dar nu în mod exhaustiv, sănătatea umană și mediul, precum și aspectele socioeconomice, cum ar fi ocuparea forței de muncă și munca;

Luând act de eforturile relevante de a promova înțelegerea și cooperarea internaționale în domeniul inteligenței artificiale de către alte organizații și foruri internaționale și supranaționale;

Ținând seama de instrumentele internaționale aplicabile în domeniul drepturilor omului, cum ar fi Declarația universală a drepturilor omului din 1948, Convenția pentru apărarea drepturilor omului și a libertăților fundamentale din 1950 (ETS nr. 5), Pactul internațional cu privire la drepturile civile și politice din 1966, Pactul internațional cu privire la drepturile economice, sociale și culturale din 1966, Carta socială europeană din 1961 (ETS nr. 35), precum și protocoalele la acestea, și Carta socială europeană din 1996 (revizuită) (ETS nr. 163);

Ținând seama, de asemenea, de Convenția Organizației Națiunilor Unite cu privire la drepturile copilului din 1989 și de Convenția Organizației Națiunilor Unite privind drepturile persoanelor cu handicap din 2006;

Ținând seama, totodată, de drepturile la viață privată ale persoanelor și de protecția datelor cu caracter personal, astfel cum sunt aplicabile și consacrate, de exemplu, în Convenția pentru protejarea persoanelor față de prelucrarea automatizată a datelor cu caracter personal din 1981 (ETS nr. 108) și protocoalele la aceasta;

Afirmând angajamentul părților de a proteja drepturile omului, democrația și statul de drept, precum și de a promova sisteme de inteligență artificială de încredere prin prezenta convenție,

Convin după cum urmează:

Capitolul I – Dispoziții generale

Articolul 1 – Obiectul și scopul

(1)Dispozițiile prezentei convenții urmăresc să asigure faptul că activitățile din ciclul de viață al sistemelor de inteligență artificială sunt pe deplin compatibile cu drepturile omului, democrația și statul de drept.

(2)Fiecare parte adoptă sau menține măsuri legislative, administrative sau de altă natură adecvate pentru a pune în aplicare dispozițiile prezentei convenții. Aceste măsuri sunt treptate și diferențiate, după caz, având în vedere gravitatea și probabilitatea apariției unor efecte negative asupra drepturilor omului, a democrației și a statului de drept pe parcursul întregului ciclu de viață al sistemelor de inteligență artificială. Ele pot include măsuri specifice sau orizontale care se aplică indiferent de tipul de tehnologie utilizată.

(3)Pentru a asigura faptul că părțile pun în aplicare în mod eficace dispozițiile sale, prezenta convenție instituie un mecanism de monitorizare și prevede cooperarea internațională.

Articolul 2 – Definiția sistemelor de inteligență artificială

În sensul prezentei convenții, „sistem de inteligență artificială” înseamnă un sistem bazat pe o mașină care, urmărind obiective explicite sau implicite, deduce, din datele de intrare pe care le primește, modul de generare a unor rezultate precum previziuni, conținut, recomandări sau decizii care pot influența mediile fizice sau virtuale. Diferitele sisteme de inteligență artificială variază în ceea ce privește nivelurile lor de autonomie și capacitatea de adaptare după implementare.

Articolul 3 – Domeniul de aplicare

(1)Domeniul de aplicare al prezentei convenții acoperă activitățile din ciclul de viață al sistemelor de inteligență artificială care au potențialul de a afecta drepturile omului, democrația și statul de drept, după cum urmează:

(a)fiecare parte aplică prezenta convenție activităților din ciclul de viață al sistemelor de inteligență artificială aplicate de autoritățile publice sau de actorii privați care acționează în numele acestora;

(b)fiecare parte abordează riscurile și efectele activităților din ciclul de viață al sistemelor de inteligență artificială desfășurate de actori privați, în măsura în care acestea nu sunt reglementate la litera (a), conform cu obiectul și scopul prezentei convenții.

Fiecare parte indică, într-o declarație prezentată Secretarului General al Consiliului Europei în momentul semnării sau al depunerii instrumentului său de ratificare, acceptare, aprobare sau aderare, modul în care intenționează să pună în aplicare această obligație, fie prin aplicarea principiilor și obligațiilor prevăzute la capitolele II-VI din prezenta convenție în cazul activităților actorilor privați, fie prin adoptarea altor măsuri adecvate pentru îndeplinirea obligației prevăzute la prezentul paragraf. Părțile își pot modifica declarațiile în orice moment și în același mod.

Atunci când pune în aplicare obligația prevăzută la prezentul paragraf, nicio parte nu beneficiază de derogări de la obligațiile sale internaționale asumate pentru a proteja drepturile omului, democrația și statul de drept și nici nu poate limita aplicarea acestora.

(2)Părțile nu sunt obligate să aplice prezenta convenție activităților din ciclul de viață al sistemelor de inteligență artificială în legătură cu protecția intereselor naționale proprii în materie de securitate, înțelegându-se că astfel de activități se desfășoară în conformitate cu dreptul internațional aplicabil, inclusiv cu obligațiile care decurg din dreptul internațional al drepturilor omului, și cu respectarea instituțiilor și proceselor lor democratice.

(3)Fără a aduce atingere articolului 13 și articolului 25 alineatul (2), prezenta convenție nu se aplică activităților de cercetare și dezvoltare privind sistemele de inteligență artificială indisponibile încă pentru utilizare, cu excepția cazului în care testarea sau activități similare sunt efectuate astfel încât să aibă potențialul de a aduce atingere drepturilor omului, democrației și statului de drept.

(4)Aspectele legate de apărarea națională nu intră în domeniul de aplicare al prezentei convenții.

Capitolul II – Obligații generale

Articolul 4 – Protecția drepturilor omului

Fiecare parte adoptă sau menține măsuri pentru a se asigura că activitățile din ciclul de viață al sistemelor de inteligență artificială sunt în concordanță cu obligațiile de protejare a drepturilor omului, astfel cum sunt consacrate în dreptul internațional aplicabil și în dreptul său intern.

Articolul 5 – Integritatea proceselor democratice și respectarea statului de drept

(1)Fiecare parte adoptă sau menține măsuri care urmăresc să garanteze că sistemele de inteligență artificială nu sunt utilizate pentru a submina integritatea, independența și eficacitatea instituțiilor și proceselor democratice, inclusiv principiul separării puterilor, respectarea independenței sistemului judiciar și accesul la justiție.

(2)Fiecare parte adoptă sau menține măsuri care urmăresc să își protejeze procesele sale democratice în contextul activităților din ciclul de viață al sistemelor de inteligență artificială, inclusiv accesul echitabil al persoanelor la dezbaterile publice și participarea lor la acestea, precum și capacitatea acestora de a-și forma în mod liber opinii.

Capitolul III – Principii legate de activitățile din ciclul de viață al sistemelor de inteligență artificială

Articolul 6 – Abordarea generală

Prezentul capitol stabilește principiile generale comune pe care fiecare parte le pune în aplicare în ceea ce privește sistemele de inteligență artificială într-un mod adecvat cu sistemul său juridic intern și cu celelalte obligații prevăzute în prezenta convenție.

Articolul 7 – Demnitatea umană și autonomia individuală

Fiecare parte adoptă sau menține măsuri de respectare a demnității umane și a autonomiei individuale în ceea ce privește activitățile din ciclul de viață al sistemelor de inteligență artificială.

Articolul 8 – Transparența și supravegherea

Fiecare parte adoptă sau menține măsuri pentru a se asigura că sunt instituite cerințe adecvate în materie de transparență și supraveghere, adaptate la contextele și riscurile specifice, în ceea ce privește activitățile din ciclul de viață al sistemelor de inteligență artificială, inclusiv în ceea ce privește identificarea conținutului generat de sistemele de inteligență artificială.

Articolul 9 – Răspunderea și responsabilitatea

Fiecare parte adoptă sau menține măsuri pentru a asigura tragerea la răspundere și responsabilitatea pentru efectele negative asupra drepturilor omului, democrației și statului de drept care rezultă din activitățile din ciclul de viață al sistemelor de inteligență artificială.

Articolul 10 – Egalitatea si nediscriminarea

(1)Fiecare parte adoptă sau menține măsuri pentru a se asigura că activitățile din ciclul de viață al sistemelor de inteligență artificială respectă principiile egalității, inclusiv egalitatea de gen, și interzicerea discriminării, astfel cum se prevede în dreptul internațional și intern aplicabil.

(2)Fiecare parte se angajează să adopte sau să mențină măsuri care să elimine inegalitățile în vederea obținerii de rezultate corecte, juste și echitabile, în conformitate cu obligațiile sale interne și internaționale aplicabile în materie de drepturi ale omului, în ceea ce privește activitățile din ciclul de viață al sistemelor de inteligență artificială.

Articolul 11 – Viața privată și protecția datelor cu caracter personal

Fiecare parte adoptă sau menține măsuri pentru a garanta că, în ceea ce privește activitățile din ciclul de viață al sistemelor de inteligență artificială:

(a)drepturile la viață privată ale persoanelor fizice și datele lor cu caracter personal sunt protejate, inclusiv prin legi, standarde și cadre naționale și internaționale aplicabile și

(b)au fost instituite garanții și măsuri de salvgardare eficace pentru persoane fizice, în conformitate cu obligațiile legale interne și internaționale aplicabile.

Articolul 12 – Fiabilitatea

Fiecare parte ia, după caz, măsuri de promovare a fiabilității sistemelor de inteligență artificială și a încrederii în rezultatele acestora, care ar putea include cerințe legate de calitatea și securitatea adecvate pe parcursul întregului ciclu de viață al sistemelor de inteligență artificială.

Articolul 13 – Inovarea în condiții de siguranță

În vederea promovării inovării, evitând totodată efectele negative asupra drepturilor omului, democrației și statului de drept, fiecare parte este invitată să permită, după caz, instituirea unor medii controlate pentru dezvoltarea, experimentarea și testarea sistemelor de inteligență artificială sub supravegherea autorităților sale competente.

Capitolul IV – Căi de atac

Articolul 14 – Căile de atac

(1)În măsura în care căile de atac sunt impuse prin obligațiile sale internaționale și în concordanță cu sistemul său juridic intern, fiecare parte adoptă sau menține măsuri pentru a asigura disponibilitatea unor căi de atac accesibile și eficace pentru încălcările drepturilor omului care rezultă din activitățile din ciclul de viață al sistemelor de inteligență artificială.

(2)În scopul sprijinirii alineatului (1) de mai sus, fiecare parte adoptă sau menține măsuri care includ:

(a)măsuri pentru a garanta că informațiile relevante privind sistemele de inteligență artificială care au potențialul de a afecta în mod semnificativ drepturile omului și utilizarea lor relevantă sunt documentate, furnizate organismelor autorizate să acceseze informațiile respective și, după caz și dacă este aplicabil, sunt puse la dispoziția persoanelor afectate sau comunicate acestora;

(b)măsuri pentru a garanta că informațiile menționate la litera (a) sunt suficiente pentru ca persoanele afectate să conteste deciziile luate prin utilizarea sistemului sau care se bazează în mod substanțial pe acestea și, dacă este relevant și adecvat, utilizarea sistemului în sine și

(c)posibilitatea efectivă ca persoanele vizate să depună o plângere la autoritățile competente.

Articolul 15 – Garanțiile procedurale

(1)Fiecare parte se asigură că, în cazul în care un sistem de inteligență artificială are un impact semnificativ asupra exercitării drepturilor omului, persoanele afectate de acesta dispun de garanții procedurale, măsuri de salvgardare și drepturi eficace, în conformitate cu dreptul internațional și intern aplicabil.

(2)Fiecare parte urmărește să se asigure că, în funcție de context, persoanele care interacționează cu sistemele de inteligență artificială sunt notificate că interacționează cu astfel de sisteme și nu cu o persoană.

Capitolul V – Evaluarea și atenuarea riscurilor și a efectelor negative

Articolul 16 – Cadrul de gestionare a riscurilor și a impactului

(1)Ținând seama de principiile prevăzute în capitolul III, fiecare parte adoptă sau menține măsuri de identificare, evaluare, prevenire și atenuare a riscurilor prezentate de sistemele de inteligență artificială, luând în considerare impactul real și potențial asupra drepturilor omului, a democrației și a statului de drept.

(2)Aceste măsuri sunt treptate și diferențiate, după caz, și:

(a)țin seama în mod corespunzător de contextul și de utilizarea preconizată a sistemelor de inteligență artificială, în special în ceea ce privește riscurile la adresa drepturilor omului, a democrației și a statului de drept;

(b)țin seama în mod corespunzător de gravitatea și probabilitatea efectelor potențiale;

(c)iau în considerare, după caz, perspectivele părților interesate relevante, în special ale persoanelor ale căror drepturi pot fi afectate;

(d)se aplică în mod iterativ pe parcursul tuturor activităților din ciclul de viață al sistemului de inteligență artificială;

(e)includ monitorizarea riscurilor și a efectelor negative asupra drepturilor omului, democrației și statului de drept;

(f)includ documentarea riscurilor, a impactului real și potențial, precum și abordarea de gestionare a riscurilor și

(g)prevăd, după caz, testarea sistemelor de inteligență artificială înainte de a le face disponibile pentru prima utilizare și atunci când sunt modificate în mod semnificativ.

(3)Fiecare parte adoptă sau menține măsuri care urmăresc să asigure abordarea adecvată a impactului negativ al sistemelor de inteligență artificială asupra drepturilor omului, democrației și statului de drept. Astfel de efecte negative și măsurile de abordare aferente ar trebui să fie documentate și să stea la baza măsurilor relevante de gestionare a riscurilor descrise la alineatul (2).

(4)Fiecare parte evaluează necesitatea unui moratoriu, a unei interdicții sau a altor măsuri adecvate cu privire la anumite utilizări ale sistemelor de inteligență artificială, în cazul în care consideră că astfel de utilizări sunt incompatibile cu respectarea drepturilor omului, cu funcționarea democrației sau cu statul de drept.

Capitolul VI – Punerea în aplicare a convenției

Articolul 17 – Nediscriminarea

Punerea în aplicare de către părți a dispozițiilor prezentei convenții este asigurată fără discriminare, indiferent de motiv, în conformitate cu obligațiile lor internaționale în domeniul drepturilor omului.

Articolul 18 – Drepturile persoanelor cu handicap și ale copiilor

În conformitate cu legislația sa internă și cu obligațiile internaționale aplicabile, fiecare parte ține seama în mod corespunzător de orice nevoi și vulnerabilități specifice în ceea ce privește respectarea drepturilor persoanelor cu handicap și ale copiilor.

Articolul 19 – Consultarea publică

Fiecare parte urmărește să se asigure că problemele importante ridicate în legătură cu sistemele de inteligență artificială sunt, după caz, luate în considerare în mod corespunzător prin discuții publice și consultări multipartite, ținând cont de implicațiile sociale, economice, juridice, etice, de mediu și de altă natură relevante.

Articolul 20 – Alfabetizarea digitală și competențele digitale

Fiecare parte încurajează și promovează alfabetizarea digitală și competențele digitale adecvate pentru toate segmentele populației, inclusiv competențe specializate specifice pentru persoanele responsabile cu identificarea, evaluarea, prevenirea și atenuarea riscurilor prezentate de sistemele de inteligență artificială.

Articolul 21 – Apărarea drepturilor omului existente

Nicio dispoziție a prezentei convenții nu se interpretează ca limitând, oferind derogări sau afectând în alt mod drepturile omului sau alte drepturi și obligații juridice conexe care pot fi garantate în temeiul legislației relevante a unei părți sau al oricărui alt acord internațional relevant la care aceasta este parte.

Articolul 22 – O protecție mai extinsă

Niciuna dintre dispozițiile prezentei convenții nu se interpretează ca limitând sau afectând în alt mod posibilitatea ca o parte să acorde o măsură de protecție mai amplă decât cea prevăzută în prezenta convenție.

Capitolul VII – Mecanism de monitorizare și cooperare

Articolul 23 – Conferința părților

(1)Conferința părților este compusă din reprezentanți ai părților la prezenta convenție.

(2)Părțile se consultă periodic în vederea:

(a) facilitării aplicării și implementării eficace a prezentei convenții, inclusiv identificarea oricăror probleme și a efectelor oricărei rezerve formulate în temeiul articolului 34 alineatul (1) sau a oricărei declarații făcute în temeiul prezentei convenții;

(b) luării în considerare a posibilei completări sau modificări a prezentei convenții;

(c) examinării aspectelor și formulării de recomandări specifice privind interpretarea și aplicarea prezentei convenții;

(d) facilitării schimbului de informații privind evoluțiile semnificative juridice, politice sau tehnologice pertinente, inclusiv în vederea atingerii obiectivelor definite la articolul 25, pentru punerea în aplicare a prezentei convenții;

(e) facilitării, dacă este necesar, a soluționării pe cale amiabilă a litigiilor legate de aplicarea prezentei convenții și

(f) facilitării cooperării cu părțile interesate relevante cu privire la aspectele pertinente ale punerii în aplicare a prezentei convenții, inclusiv prin audieri publice, după caz.

(3)Conferința părților este convocată de Secretarul General al Consiliului Europei ori de câte ori se consideră că este necesar și, în orice caz, atunci când o majoritate a părților sau Comitetul de Miniștri solicită convocarea.

(4)Conferința părților își adoptă propriul regulament de procedură, prin consens, în termen de douăsprezece luni de la intrarea în vigoare a prezentei convenții.

(5)Pentru îndeplinirea atribuțiilor acestora în temeiul prezentului articol, părțile vor primi asistență din partea Secretariatului Consiliului Europei.

(6)Conferința părților poate propune Comitetului de Miniștri modalități adecvate de implicare a experților relevanți în sprijinul punerii eficace în aplicare a prezentei convenții.

(7)Orice parte care nu este membră a Consiliului Europei contribuie la finanțarea activităților Conferinței părților. Contribuția unei părți care nu este membră a Consiliului Europei este stabilită de comun acord de către Comitetul de Miniștri și de către partea respectivă.

(8)Conferința părților poate decide să restricționeze participarea la activitățile sale a unei părți care nu mai este membră a Consiliului Europei în temeiul articolului 8 din Statutul Consiliului Europei (ETS nr. 1) pentru o încălcare gravă a articolului 3 din statut. În mod similar, pot fi luate măsuri cu privire la orice parte care nu este stat membru al Consiliului Europei prin intermediul unei decizii a Comitetului de Miniștri cu privire la încetarea relațiilor sale cu statul respectiv din motive similare celor menționate la articolul 3 din statut.

Articolul 24 – Obligațiile de raportare

(1)În primii doi ani de la data la care a devenit parte, și ulterior, periodic, fiecare parte transmite un raport Conferinței părților cu detalii privind activitățile întreprinse pentru punerea în aplicare a articolului 3 alineatul (1) literele (a) și (b).

(2)Conferința părților stabilește formatul și procesul de elaborare a raportului în conformitate cu regulamentul său de procedură.

Articolul 25 – Cooperarea internațională

(1)Părțile cooperează în vederea realizării scopului prezentei convenții. Totodată, părțile sunt încurajate, după caz, să sprijine statele care nu sunt părți la prezenta convenție să acționeze în conformitate cu dispozițiile prezentei convenții și să devină parte la aceasta.

(2)După caz, părțile fac schimb de informații relevante și utile cu privire la aspecte legate de inteligența artificială care pot avea efecte pozitive sau negative semnificative asupra exercitării drepturilor omului, a funcționării democrației și a respectării statului de drept, inclusiv riscurile și efectele care au apărut în contextul cercetării și în legătură cu sectorul privat. Părțile sunt încurajate să implice, după caz, părțile interesate relevante și statele care nu sunt părți la prezenta convenție în astfel de schimburi de informații.

(3)Părțile sunt încurajate să consolideze cooperarea, inclusiv cu părțile interesate relevante, după caz, pentru a preveni și a atenua riscurile și efectele negative asupra drepturilor omului, democrației și statului de drept în contextul activităților din ciclul de viață al sistemelor de inteligență artificială.

Articolul 26 – Mecanisme eficace de supraveghere

(1)Fiecare parte instituie sau desemnează unul sau mai multe mecanisme eficace de supraveghere a respectării obligațiilor prevăzute în prezenta convenție.

(2)Fiecare parte se asigură că aceste mecanisme își exercită atribuțiile în mod independent și imparțial și dispun de competențele, expertiza și resursele necesare pentru a-și îndeplini în mod eficace sarcinile de supraveghere a respectării obligațiilor prevăzute de prezenta convenție, astfel cum a fost pusă în aplicare de către părți.

(3)În cazul în care o parte a prevăzut mai multe astfel de mecanisme, aceasta ia măsuri, dacă este posibil, pentru a facilita cooperarea eficace între ele.

(4)În cazul în care o parte a prevăzut alte mecanisme decât structurile existente în domeniul drepturilor omului, aceasta ia măsuri, atunci când este posibil, să promoveze cooperarea eficace între mecanismele menționate la alineatul (1) și structurile interne existente în domeniul drepturilor omului.

Capitolul VIII – Clauze finale

Articolul 27 – Efectele convenției

(1)În cazul în care cel puțin două părți au încheiat deja un acord sau un tratat cu privire la aspectele reglementate de prezenta convenție sau au instituit relații în acest domeniu, ele au, de asemenea, dreptul să aplice acordul sau tratatul respectiv sau să reglementeze aceste relații în mod corespunzător, atât timp cât acțiunile lor nu sunt incompatibile cu obiectul și scopul prezentei convenții.

(2)Părțile care sunt membre ale Uniunii Europene aplică, în relațiile dintre ele, normele Uniunii Europene care reglementează aspectele care intră în domeniul de aplicare al prezentei convenții, fără a aduce atingere obiectului și scopului prezentei convenții și aplicării depline a acesteia în relațiile cu alte părți. Aceeași dispoziție se aplică și celorlalte părți, în măsura în care sunt obligate să respecte normele respective.

Articolul 28 – Modificări

(1)Orice parte, Comitetul de Miniștri al Consiliului Europei sau Conferința părților poate face propuneri de modificare a convenției.

(2)Orice propunere de modificare este comunicată părților de către Secretarul General al Consiliului Europei.

(3)Orice modificare propusă de către una dintre părți sau de Comitetul de miniștri se comunică Conferinței părților, care înaintează Comitetului de Miniștri avizul său cu privire la modificarea propusă.

(4)Comitetul de Miniștri examinează propunerea de modificare, precum și avizul prezentat de Conferința părților, și poate aproba modificarea.

(5)Textul oricărei modificări adoptate de Comitetul de Miniștri în conformitate cu alineatul (4) se transmite părților pentru acceptare.

(6)Orice modificare aprobată în conformitate cu alineatul (4) intră în vigoare în a treizecea zi de la data la care toate părțile i-au transmis Secretarului General faptul că au acceptat-o.

Articolul 29 – Soluționarea litigiilor

În cazul unui litigiu între părți cu privire la interpretarea sau aplicarea prezentei convenții, acestea încearcă să ajungă la o soluție prin negociere sau prin orice alte mijloace pașnice la alegerea lor, inclusiv prin intermediul Conferinței părților, astfel cum se prevede la articolul 23 alineatul (2) litera (e).

Articolul 30 – Semnarea și intrarea în vigoare

(1)Prezenta convenție este deschisă pentru semnare de către statele membre ale Consiliului Europei, de către statele nemembre care au participat la elaborarea sa și de către Uniunea Europeană.

(2)Prezenta convenție este supusă ratificării, acceptării sau aprobării. Instrumentele de ratificare, acceptare sau aprobare se depun la Secretarul General al Consiliului Europei.

(3)Prezenta convenție intră în vigoare în prima zi a lunii care urmează după ziua în care expiră o perioadă de trei luni de la data la care cinci părți semnatare, dintre care cel puțin trei sunt state membre ale Consiliului Europei, și-au exprimat consimțământul de a le reveni obligații în temeiul convenției, în conformitate cu dispozițiile alineatului (2).

(4)Pentru orice semnatar care își exprimă ulterior consimțământul de a-i reveni obligații în temeiul convenției, aceasta intră în vigoare în prima zi a lunii care urmează expirării unei perioade de trei luni de la data depunerii instrumentului de ratificare, acceptare sau aprobare.

Articolul 31 – Aderarea

(1)După intrarea în vigoare a prezentei convenții, Comitetul de Miniștri al Consiliului Europei poate, cu consultarea părților la prezenta convenție și după ce a obținut acordul lor unanim, să invite orice stat care nu este membru al Consiliului Europei și care nu a participat la elaborarea prezentei convenții să adere la prezenta convenție printr-o decizie adoptată cu majoritatea prevăzută la articolul 20 litera (d) din Statutul Consiliului Europei și prin votul unanim al reprezentanților părților care au dreptul de a face parte din Comitetul de Miniștri.

(2)Pentru fiecare stat care aderă, convenția intră în vigoare în prima zi a lunii care urmează expirării unei perioade de trei luni de la data depunerii instrumentului de aderare la Secretarul General al Consiliului Europei.

Articolul 32 – Aplicarea teritorială

(1)Orice stat sau Uniunea Europeană poate specifica, la momentul semnării sau la depunerea instrumentului de ratificare, acceptare, aprobare sau aderare, teritoriul sau teritoriile în care se aplică prezenta convenție.

(2)Orice parte poate extinde, ulterior, printr-o declarație adresată Secretarului General al Consiliului Europei, aplicarea prezentei convenții la orice alt teritoriu specificat în declarație. În ceea ce privește teritoriul respectiv, prezenta convenție intră în vigoare în prima zi a lunii care urmează după ziua în care expiră o perioadă de trei luni de la data primirii declarației de către Secretarul General.

(3)Orice declarație făcută în temeiul celor două aliniate precedente cu privire la teritoriul specificat în declarația respectivă poate fi retrasă printr-o notificare adresată Secretarului General al Consiliului Europei. Retragerea devine aplicabilă în prima zi a lunii care urmează expirării perioadei de trei luni de la data primirii acestei notificări de către Secretarul General.

Articolul 33 – Clauza federală

(1)Un stat federal își poate rezerva dreptul de a-și asuma obligații în temeiul prezentei convenții în conformitate cu principiile sale fundamentale care reglementează relația dintre administrația sa centrală și statele sale constitutive sau alte entități teritoriale similare, cu condiția ca prezenta convenție să se aplice administrației centrale a statului federal.

(2)În ceea ce privește prevederile prezentei convenții, a căror aplicare intră în sfera de competență a fiecărui stat constitutiv sau a altor entități teritoriale similare care nu sunt obligate de sistemul constituțional al federației să ia măsuri legislative, administrația federală informează autoritățile competente ale respectivelor state cu privire la prevederile menționate și își dă un aviz favorabil în acest sens, încurajându-le să ia măsurile adecvate în vederea aplicării lor.

Articolul 34 – Rezerve

(1)În momentul semnării sau al depunerii instrumentului său de ratificare, acceptare, aprobare sau aderare, orice stat poate, printr-o notificare scrisă adresată Secretarului General al Consiliului Europei, să declare că invocă rezerva prevăzută la articolul 33 alineatul (1).

(2)Nu poate fi formulată nicio altă rezervă cu privire la prezenta convenție.

Articolul 35 – Denunțarea

(1)Orice parte poate denunța oricând prezenta convenție printr-o notificare adresată Secretarului General al Consiliului Europei.

(2)Denunțarea intră în vigoare în prima zi a lunii care urmează după ziua în care expiră o perioadă de trei luni de la data la care Secretarul General primește notificarea.

Articolul 36 – Notificarea

Secretarul General al Consiliului Europei notifică statelor membre ale Consiliului Europei, statelor care nu sunt membre ale Consiliului Europei și care au participat la elaborarea prezentei convenții, Uniunii Europene, oricărui semnatar, oricărui stat contractant, oricărei părți și oricărui alt stat care a fost invitat să adere la prezenta convenție:

(a)orice semnătură;

(b)depunerea oricărui instrument de ratificare, acceptare, aprobare sau aderare;

(c)orice dată de intrare în vigoare a prezentei convenții, în conformitate cu articolul 30 alineatele (3) și (4) și cu articolul 31 alineatul (2);

(d)orice modificare adoptată în conformitate cu articolul 28 și data la care acea modificare intră în vigoare;

(e)orice declarație formulată în temeiul articolului 3 alineatul (1) litera (b);

(f)orice rezervă și retragere a unei rezerve formulate în conformitate cu articolul 34;

(g)orice denunțare efectuată în conformitate cu articolul 35;

(h)orice alt act, declarație, notificare sau comunicare privind prezenta convenție.

Drept care, subsemnații, împuterniciți în mod corespunzător, au semnat prezenta convenție.

Adoptată la [locul], astăzi, [luna] 202[4], în limbile engleză și în franceză, ambele texte fiind deopotrivă autentice, într-un singur exemplar care se depune în arhivele Consiliului Europei. Secretarul General al Consiliului Europei transmite copii certificate fiecărui stat membru al Consiliului Europei, statelor care nu sunt membre și care au participat la elaborarea prezentei convenții, Uniunii Europene, precum și tuturor statelor invitate să adere la prezenta convenție.