Choose the experimental features you want to try

This document is an excerpt from the EUR-Lex website

Document 52022XX1201(01)

Zhrnutie stanoviska európskeho dozorného úradníka pre ochranu údajov k odporúčaniu na rozhodnutie Rady o poverení začať rokovania v mene Európskej únie týkajúce sa dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte 2022/C 458/04 (Úplné znenie stanoviska je k dispozícii v anglickom, francúzskom a nemeckom jazyku na webovom sídle európskeho dozorného úradníka pre ochranu údajov https://edps.europa.eu)

Ú. v. EÚ C 458, 1.12.2022, pp. 4–6 (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

1.12.2022   

SK

Úradný vestník Európskej únie

C 458/4


Zhrnutie stanoviska európskeho dozorného úradníka pre ochranu údajov k odporúčaniu na rozhodnutie Rady o poverení začať rokovania v mene Európskej únie týkajúce sa dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte

(2022/C 458/04)

(Úplné znenie stanoviska je k dispozícii v anglickom, francúzskom a nemeckom jazyku na webovom sídle európskeho dozorného úradníka pre ochranu údajov https://edps.europa.eu)

Európska komisia vydala 18. augusta 2022 odporúčanie na rozhodnutie Rady o poverení začať rokovania v mene Európskej únie týkajúce sa dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (ďalej len „dohovor“) podľa článku 218 ZFEÚ.

So zreteľom na cezhraničnú povahu umelej inteligencie európsky dozorný úradník pre ochranu údajov víta všeobecný cieľ Rady Európy, ktorým je vypracovanie prvého právne záväzného medzinárodného nástroja pre umelú inteligenciu založeného na normách Rady Európy v oblasti ľudských práv, demokracie a právneho štátu. Európsky dozorný úradník pre ochranu údajov preto podporuje začatie rokovaní v mene Únie o dohovore a víta úlohu Únie pri podpore dôveryhodnej umelej inteligencie, ktorá je v súlade s hodnotami Únie.

Európsky dozorný úradník pre ochranu údajov berie na vedomie skutočnosť, že predmet dohovoru by sa v EÚ upravoval navrhovaným aktom o umelej inteligencii, a uznáva cieľ Komisie zabezpečiť, aby bol dohovor zlučiteľný s navrhovaným aktom o umelej inteligencii, pričom sa zohľadní budúci vývoj legislatívneho procesu. Európsky dozorný úradník pre ochranu údajov sa však domnieva, že dohovor predstavuje významnú príležitosť doplniť navrhovaný akt o umelej inteligencii posilnením ochrany základných práv všetkých osôb, ktorých sa týkajú systémy umelej inteligencie, a preto sa zasadzuje za to, aby dohovor poskytoval jasné a silné záruky pre osoby dotknuté používaním systémov umelej inteligencie.

Vzhľadom na uvedené skutočnosti európsky dozorný úradník predkladá štyri hlavné odporúčania pre smernice na rokovania:

všeobecné ciele rokovaní o dohovore majú klásť väčší dôraz na záruky a práva, ktoré sa majú poskytnúť jednotlivcom – a skupinám jednotlivcov – podliehajúcim systémom umelej inteligencie, v súlade s primárnym zameraním a cieľmi Rady Európy,

do osobitnej smernice sa má zahrnúť výslovný odkaz na súlad dohovoru s existujúcim právnym rámcom EÚ o ochrane údajov,

v súlade s prístupom založeným na riziku sa má stanoviť cieľ zakázať systémy umelej inteligencie, ktoré predstavujú neprijateľné riziká,

dohovor má podporovať prijatie prístupu špecificky navrhnutej a štandardnej ochrany údajov v každom kroku životného cyklu systémov umelej inteligencie.

V stanovisku sa uvádzajú aj ďalšie odporúčania na začlenenie minimálnych procesných záruk do dohovoru, ako aj minimálnych požiadaviek na transparentnosť, vysvetliteľnosť a kontrolovateľnosť, mechanizmy súladu a kontroly, pokiaľ ide o cezhraničnú spoluprácu medzi príslušnými orgánmi, ktoré určia zmluvné strany dohovoru na účely dohľadu nad zárukami a právami, ktoré sa majú poskytovať v súlade s dohovorom.

1.   ÚVOD

1.

Európska komisia vydala 18. augusta 2022 odporúčanie na rozhodnutie Rady o poverení začať rokovania v mene Európskej únie o Dohovore Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (1) podľa článku 218 ZFEÚ (ďalej len „odporúčanie“).

2.

Predmetom odporúčania je poverenie začať rokovania v mene Európskej únie týkajúce sa budúceho dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (ďalej len „dohovor“), prijať smernice na rokovania a vymenovať Komisiu za vyjednávača Únie (2).

3.

V dôvodovej správe (3) Komisia zdôrazňuje, že rokovania o dohovore sa týkajú záležitostí, ktoré patria do výlučnej právomoci Únie, a to na jednej strane aj z dôvodu výrazného prekrývania prvotného návrhu dohovoru, ktorý rozoslal Výbor pre umelú inteligenciu (CAI) Rady Európy, a na druhej strane návrhu Komisie na nariadenie o umelej inteligencii (ďalej len „navrhovaný akt o umelej inteligencii“) (4), pokiaľ ide o ich rozsah pôsobnosti a obsah (5).

4.

V dôvodovej správe (6) k odporúčaniu sa zdôrazňuje, že v prvotnom návrhu sa odporúča zahrnutie týchto ustanovení:

účel a rozsah pôsobnosti (rámcového) dohovoru,

vymedzenie systému umelej inteligencie, životného cyklu, poskytovateľa, používateľa a „subjektu umelej inteligencie“,

určité základné zásady vrátane procesných záruk a práv v prípade subjektov umelej inteligencie, ktoré by sa uplatňovali na všetky systémy umelej inteligencie bez ohľadu na ich úroveň rizika,

dodatočné opatrenia pre verejný sektor, ako aj pre systémy umelej inteligencie, ktoré predstavujú „neprijateľnú“ a „významnú“ úroveň rizika identifikovanú na základe metodiky posudzovania rizika a vplyvu (ktorá sa stanoví neskôr v prílohe k dohovoru),

následné opatrenia a mechanizmus spolupráce medzi zmluvnými stranami,

záverečné ustanovenia zahŕňajúce možnosť členských štátov EÚ uplatňovať právo EÚ vo vzájomných vzťahoch vo veciach, na ktoré sa vzťahuje dohovor, a možnosť Únie pristúpiť k dohovoru.

5.

V odporúčaní sa v odôvodneniach 6 a 7 zdôrazňuje, že uzavretím dohovoru môžu byť dotknuté existujúce a budúce pravidlá Únie, s ktorými sa ráta v dohľadnej budúcnosti. Komisia sa má poveriť rokovaním v mene Únie o dohovore Rade Európy s cieľom ochrániť integritu práva Únie a zabezpečiť súlad medzinárodného práva a práva Únie.

6.

Európsky dozorný úradník pre ochranu údajov vydáva toto stanovisko na základe porady s Európskou komisiou 18. augusta 2022 podľa článku 42 ods. 1 všeobecného nariadenia o ochrane údajov (7). Európsky dozorný úradník pre ochranu údajov víta odkaz na túto konzultáciu v odôvodnení 8 odporúčania.

8.   ZÁVERY

49.

V kontexte uvedeného európsky dozorný úradník pre ochranu údajov uvádza tieto odporúčania:

(1)

Klásť väčší dôraz na cieľ „zabezpečiť vysokú úroveň ochrany ľudských práv a zachovania európskych hodnôt“ v súlade s povahou a mandátom Rady Európy.

(2)

Vypustiť slovo „vrátane“ po slovách „právo EÚ pre jednotný trh a ostatné oblasti práva EÚ“ v smerniciach 5 a 11, aby sa lepšie odrážalo vzájomné pôsobenie medzi všeobecnými zásadami, základnými právami a sekundárnymi právnymi predpismi (právom EÚ pre jednotný trh a ostatnými oblasťami práva EÚ).

(3)

Doplniť osobitnú smernicu, v ktorej sa pripomína potreba nájsť správnu rovnováhu medzi verejným záujmom a záujmami osôb podliehajúcim systémom umelej inteligencie, zabezpečiť plný súlad s právom na súkromie a ochranu osobných údajov, ako aj s ďalšími dotknutými základnými právami, najmä s právom na prezumpciu neviny a na spravodlivý proces, právom na dobrú správu vecí verejných a zásadou nediskriminácie.

(4)

V smernici spresniť, že v dohovore sa majú stanoviť určité minimálne procesné záruky a práva pre osoby dotknuté používaním systémov umelej inteligencie.

(5)

V smernici spresniť, že v dohovore by sa mali stanoviť minimálne požiadavky na transparentnosť, vysvetliteľnosť a kontrolovateľnosť systémov umelej inteligencie.

(6)

Do smernice 14 zahrnúť špecifikáciu, že sa musia posudzovať a zmierňovať aj spoločenské/skupinové riziká, ktoré predstavujú systémy umelej inteligencie.

(7)

V smerniciach na rokovania spresniť, že určité systémy umelej inteligencie, ktoré predstavujú neprijateľné riziká, sa majú zakázať a poskytnúť orientačný zoznam takýchto systémov umelej inteligencie.

(8)

Vložiť smernicu na rokovania, podľa ktorej dohovor má podporovať prijatie prístupu špecificky navrhnutej a štandardnej ochrany údajov v každom kroku životného cyklu systémov umelej inteligencie.

(9)

Spresniť obsah smernice 17 takto:

v prípade vysokorizikovej umelej inteligencie sa musí vykonať posúdenie zhody ex ante treťou stranou,

vysokorizikové systémy umelej inteligencie majú podliehať novému postupu posudzovania zhody vždy, ak dôjde k významnej zmene,

špecifikovať predmet a právny účinok certifikácie,

špecifikovať, že technické normy môžu mať pozitívny vplyv na harmonizáciu výrobkov a služieb a súčasne je ich úlohou poskytovať technické špecifikácie pravidiel, ktoré už boli stanovené zákonom.

(10)

Zahrnúť smernicu, podľa ktorej sa v dohovore má ustanoviť, že príslušným dozorným orgánom sa musia udeliť primerané vyšetrovacie právomoci a právomoci v oblasti presadzovania práva.

(11)

Doplniť smernicu na rokovania zameranú na to, aby dohovor uľahčoval a podporoval cezhraničnú spoluprácu medzi príslušnými orgánmi.

V Bruseli 13. októbra 2022

Wojciech Rafał WIEWIÓROWSKI


(1)  COM(2022) 414 final.

(2)  COM(2022) 414 final, s. 3.

(3)  COM(2022) 414 final, s. 5.

(4)  Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty Únie, COM(2021) 206 final.

(5)  Pozri aj odôvodnenie 5 odporúčania.

(6)  COM(2022) 414 final, s. 2 a 3.

(7)  Nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1725 z 23. októbra 2018 o ochrane fyzických osôb pri spracúvaní osobných údajov inštitúciami, orgánmi, úradmi a agentúrami Únie a o voľnom pohybe takýchto údajov, ktorým sa zrušuje nariadenie (ES) č. 45/2001 a rozhodnutie č. 1247/2002/ES (Ú. v. EÚ L 295, 21.11.2018, s. 39).


Top