EURÓPSKA KOMISIA
V Bruseli26. 6. 2024
COM(2024) 264 final
2024/0150(NLE)
Návrh
ROZHODNUTIE RADY
o podpise v mene Európskej únie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte
EURÓPSKA KOMISIA
V Bruseli26. 6. 2024
COM(2024) 264 final
2024/0150(NLE)
Návrh
ROZHODNUTIE RADY
o podpise v mene Európskej únie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte
DÔVODOVÁ SPRÁVA
1.KONTEXT NÁVRHU
•Dôvody a ciele návrhu
Umelá inteligencia ponúka veľké príležitosti, ale určité aplikácie a použitia môžu poškodzovať a ohrozovať základné práva jednotlivcov a iné verejné záujmy.
Nariadením Európskeho parlamentu a Rady (EÚ) 2024/[…], ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (ďalej len „akt o umelej inteligencii“), Únia prijala prvý komplexný právny predpis v oblasti umelej inteligencie, čím stanovila celosvetový štandard. Akt o umelej inteligencii bol prijatý 12. júna 2024 ( 1 ) a účinnosť nadobudne dvadsiatym dňom po jeho uverejnení v úradnom vestníku. Aktom o umelej inteligencii sa v plnej miere harmonizujú pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie v členských štátoch ( 2 ) s cieľom podporovať inovácie a zavádzanie dôveryhodnej umelej inteligencie a zároveň zaistiť ochranu zdravia, bezpečnosti a základných práv vrátane ochrany demokracie, právneho štátu a životného prostredia.
Rôzne medzinárodné organizácie vrátane Rady Európy takisto zintenzívnili svoje úsilie v oblasti regulácie umelej inteligencie, pričom uznali cezhraničnú povahu umelej inteligencie a potrebu medzinárodnej spolupráce pri riešení spoločných výziev, ktoré tieto technológie vyvolávajú.
Výbor Rady Európy pre umelú inteligenciu (Committee on Artificial Intelligence – CAI) ( 3 ) od júna 2022 vypracoval právne záväzný rámcový dohovor (ďalej len „dohovor“) na riešenie potenciálnych rizík, ktoré umelá inteligencia predstavuje pre ľudské práva, demokraciu a právny štát. Únia viedla rokovania o dohovore na základe štvrtej možnosti v článku 216 ods. 1 Zmluvy o fungovaní Európskej únie (ďalej len „ZFEÚ“), podľa ktorej Únia môže rokovať ( 4 ) o medzinárodných dohodách a uzavierať takéto dohody, keď sa takéto uzavretie „môže dotknúť spoločných pravidiel alebo pozmeniť ich pôsobnosť“. Európska komisia zastupovala Úniu na rokovaniach o dohovore v súlade s článkom 218 ods. 3 ZFEÚ a na základe rozhodnutia Rady o poverení začať rokovania v mene Európskej únie ( 5 ).
Únia sa aktívne zapojila do rokovaní a jej cieľom bolo zabezpečiť zlučiteľnosť dohovoru s právom Únie, súlad s aktom o umelej inteligencii, ako aj kvalitu a pridanú hodnotu dohovoru ako prvej medzinárodnej zmluvy v oblasti umelej inteligencie. V tejto súvislosti bol cieľom Únie aj medzinárodný dosah dohovoru.
Po niekoľkých kolách rokovaní Výbor pre umelú inteligenciu schválil znenie dohovoru na svojej 10. plenárnej schôdzi, ktorá sa konala 11. až 14. marca 2024. Dňa 17. mája 2024 Výbor ministrov Rady Európy prijal dohovor, súhlasil s predložením dohovoru na podpis 5. septembra 2024 vo Vilniuse (Litva) pri príležitosti neformálnej konferencie ministrov spravodlivosti a vyzval členov Rady Európy, ostatných tretích krajín, ktoré sa zapojili do jeho prípravy, a Úniu, aby pri tejto príležitosti zvážili podpis tohto dohovoru, a zároveň pripomenul, že dohovor je otvorený na pristúpenie inými nečlenskými štátmi ( 6 ).
Účelom súčasného návrhu je v tejto súvislosti začať proces podpisovania dohovoru Úniou s úmyslom jeho neskoršej ratifikácie prostredníctvom návrhu Rade, aby prijala rozhodnutie o poverení Únie na podpis dohovoru v súlade s článkom 218 ods. 5 ZFEÚ. Dohovor je v plnej miere zlučiteľný s právom Únie vo všeobecnosti a konkrétne s aktom o umelej inteligencii a jeho cieľom je globálne presadzovať kľúčové koncepcie v rámci prístupu Únie k regulácii umelej inteligencie medzi ostatnými členmi Rady Európy a kľúčovými medzinárodnými partnermi, ktorí sa môžu stať zmluvnou stranou dohovoru.
Obsah dohovoru
Cieľom dohovoru je zabezpečiť, aby činnosti počas životného cyklu systémov umelej inteligencie boli v plnej miere v súlade s ľudskými právami, demokraciou a právnym štátom.
Zmluvné strany dohovoru ho budú musieť vykonávať primeranými legislatívnymi, administratívnymi alebo inými opatreniami s cieľom uviesť do praxe jeho ustanovenia, a to na základe odstupňovaného a diferencovaného prístupu, v závislosti od závažnosti a pravdepodobnosti nepriaznivých účinkov. Dohovor by sa mal v Únii vykonávať výlučne prostredníctvom aktu o umelej inteligencii, ktorým sa v plnej miere harmonizujú pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie v Únii, a prípadne prostredníctvom iného relevantného acquis Únie.
Rozsah pôsobnosti dohovoru sa vzťahuje na systémy umelej inteligencie, ktoré by mohli zasahovať do ľudských práv, demokracie a právneho štátu, pričom sa uplatňuje diferencovaný prístup. Zásady a povinnosti stanovené v dohovore sa budú uplatňovať na činnosti počas životného cyklu systémov umelej inteligencie, ktoré vykonávajú orgány verejnej moci alebo súkromné subjekty konajúce v ich mene. Pokiaľ ide o súkromný sektor, zmluvné strany sa zaväzujú riešiť riziká a vplyv vyplývajúci z činností počas životného cyklu systémov umelej inteligencie vykonávaných súkromnými subjektmi spôsobom vyhovujúcim cieľom a účelu dohovoru, môžu sa však rozhodnúť, či budú uplatňovať povinnosti vyplývajúce z dohovoru alebo prijmú iné primerané opatrenia. Zmluvné strany musia v tejto súvislosti pri podpise dohovoru alebo pri pristúpení k nemu prijať vyhlásenie o svojej voľbe. Únia by mala pri uzatvorení dohovoru vydať vyhlásenie, že Únia prostredníctvom aktu o umelej inteligencii a iného relevantného acquis Únie zavedie zásady a povinnosti stanovené v kapitolách II až VI dohovoru pre činnosti súkromných subjektov, ktoré v Únii uvádzajú na trh, uvádzajú do prevádzky a používajú systémy umelej inteligencie.
Z rozsahu pôsobnosti dohovoru sú vyňaté činnosti v oblasti umelej inteligencie týkajúce sa národnej bezpečnosti, pričom sa chápe, že sa musia za každých okolností vykonávať spôsobom, ktorý bude v súlade s platným medzinárodným právom v oblasti ľudských práv a s rešpektom voči demokratickým inštitúciám a procesom. Z rozsahu pôsobnosti dohovoru sú vyňaté aj činnosti v oblasti výskumu a vývoja systémov umelej inteligencie, ktoré ešte nie sú pripravené na používanie, pokiaľ ich testovanie alebo podobné činnosti nemajú potenciál narúšať ľudské práva, demokraciu a právny štát. V súlade so Štatútom Rady Európy otázky týkajúce sa národnej obrany nepatria do rozsahu pôsobnosti dohovoru.
V dohovore sa ďalej stanovuje súbor všeobecných povinnosti a základných zásad vrátane ochrany ľudskej dôstojnosti a osobnej nezávislosti, ako aj podpory rovnosti a nediskriminácie. Okrem toho sa v ňom stanovuje povinnosť rešpektovať súkromie a ochranu osobných údajov popri dodržiavaní transparentnosti a dohľade s cieľom zabezpečiť zodpovednosť a vyvodzovanie zodpovednosti. Stanovuje sa aj zásada zameraná na bezpečné inovácie a experimentovanie v kontrolovaných prostrediach.
V osobitnej kapitole o prostriedkoch nápravy sa takisto stanovuje súbor opatrení, ktorých cieľom je zabezpečiť, aby boli k dispozícii dostupné a účinné prostriedky nápravy v prípade porušení ľudských práv vyplývajúcich z činností počas životného cyklu systémov umelej inteligencie. Obsahuje aj účinné procesné záruky pre osoby, ktorých práva boli významne ovplyvnené používaním systémov umelej inteligencie. Okrem toho by sa všetky osoby mali upozorniť na to, že interagujú so systémom umelej inteligencie, a nie so živou ľudskou bytosťou.
Dohovor takisto obsahuje kapitolu o opatreniach týkajúcich sa posudzovania a zmierňovania rizík a nepriaznivých vplyvov, ktoré sa majú vykonávať opakovane, aby sa určil skutočný a potenciálny dosah na ľudské práva, demokraciu a právny štát a mohli sa prijať vhodné preventívne a zmierňujúce opatrenia.
V dohovore sa navyše stanovuje, že zmluvné strany by mali posúdiť potrebu vydávať zákazy určitých aplikácií systémov umelej inteligencie alebo moratória na ne, ak sa považujú za nezlučiteľné s dodržiavaním ľudských práv, fungovaním demokracie alebo so zásadami právneho štátu.
V dohovore sa stanovuje nadväzujúci mechanizmus v rámci Konferencie zmluvných strán, ktorú tvoria zástupcovia zmluvných strán dohovoru, ktorí spolu vedú pravidelné konzultácie s cieľom uľahčiť účinné používanie a vykonávanie dohovoru. Okrem toho sa v ňom stanovuje mechanizmus medzinárodnej spolupráce medzi zmluvnými stranami dohovoru navzájom, ale aj vo vzťahoch s tretími krajinami a príslušnými zainteresovanými stranami v záujme dosiahnutia účelu tohto dohovoru.
Každá zmluvná strana by preto mala na vnútroštátnej úrovni vytvoriť alebo určiť jeden alebo viacero účinných mechanizmov s cieľom dohliadať na dodržiavanie povinností stanovených v dohovore, ako ich vykonali zmluvné strany.
•Súlad s existujúcimi ustanoveniami v tejto oblasti politiky
V dohovore sa stanovujú všeobecné zásady a povinnosti v oblasti ochrany ľudských práv, demokracie a právneho štátu, ktoré sa v plnej miere zhodujú a sú v súlade s cieľmi aktu o umelej inteligencii, a podrobné požiadavky na systémy umelej inteligencie a povinnosti uložené poskytovateľom týchto systémov a subjektom nasadzujúcim tieto systémy.
Vymedzenie systému umelej inteligencie v dohovore je úplne zosúladené s vymedzením pojmu v akte o umelej inteligencii, keďže toto vymedzenie je v obidvoch prípadoch založené na vymedzení týchto systémov v zásadách v oblasti umelej inteligencie Organizácie pre hospodársku spoluprácu a rozvoj ( 7 ), vďaka čomu sa zabezpečilo jednotné chápanie toho, ktoré digitálne technológie predstavujú umelú inteligenciu.
Aj v dohovore, aj v akte o umelej inteligencii sa vo vzťahu k regulácii systémov umelej inteligencie uplatňuje prístup založený na rizikách a obidva predpisy obsahujú konkrétne ustanovenia týkajúce sa posúdení rizika a vplyvu a opatrení na zmiernenie rizika. Akt o umelej inteligencii konkrétne obsahuje niekoľko relevantných zákazov a prípadov vysokorizikového použitia systémov umelej inteligencie vo všetkých verejných a súkromných sektoroch vrátane oblasti demokracie a spravodlivosti. Akt o umelej inteligencii tak svojimi podrobnými pravidlami a postupmi týkajúcimi sa vývoja, uvádzania na trh a nasadzovania systémov umelej inteligencie v uvedených oblastiach zabezpečí dodržiavanie základných práv, demokracie a zásad právneho štátu počas celého životného cyklu umelej inteligencie.
Dohovor obsahuje zásady a povinnosti, ktoré už spadajú do rozsahu pôsobnosti aktu o umelej inteligencii, ako sú opatrenia v oblasti ochrany ľudských práv, bezpečnosti a spoľahlivosti, zodpovednosti a vyvodzovania zodpovednosti, správy a ochrany údajov, transparentnosti a dohľadu, rovnosti a nediskriminácie, digitálnych zručností a digitálnej gramotnosti.
Transparentnosť je ďalším spoločným prvkom obidvoch právnych nástrojov vrátane opatrení týkajúcich sa identifikácie obsahu vytvoreného umelou inteligenciou a informovania osôb interagujúcich so systémami umelej inteligencie. Obidva právne nástroje takisto obsahujú relevantné ustanovenia týkajúce sa posúdení rizika a vplyvu a riadenia rizík, vedenia záznamov, zverejňovania (povereným subjektom a orgánom a v prípade potreby dotknutým osobám), vysledovateľnosti a vysvetliteľnosti, bezpečných inovácií a experimentovania v kontrolovaných prostrediach a súbor opatrení umožňujúcich účinné prostriedky nápravy vrátane práva požadovať a získavať informácie a práva na sťažnosť príslušnému orgánu a na procesné záruky.
Systém dohľadu stanovený v dohovore je takisto úplne v súlade s komplexným systémom správy a riadenia a presadzovania aktu o umelej inteligencii, ktorý tvorí presadzovanie na úrovni Únie a členských štátov, s postupmi jednotného vykonávania pravidiel Únie v jednotlivých členských štátoch. V dohovore sa konkrétne stanovuje jeden alebo viacero mechanizmov účinného dohľadu na vnútroštátnej úrovni, ktoré musia vykonávať svoje úlohy nezávisle a nestranne a mať potrebné právomoci, odbornosť a zdroje na účinné plnenie úloh dohľadu nad dodržiavaním povinností stanovených v dohovore, ako ich vykonali zmluvné strany.
Kým akt o umelej inteligencii sa bude uplatňovať na systémy umelej inteligencie uvádzané na trh, uvádzané do prevádzky alebo používané v Únii, dohovor má širší geografický dosah, ktorý zahŕňa členov Rady Európy a tretie štáty z celého sveta, ktoré sa môžu stať zmluvnými stranami dohovoru. Dohovor predstavuje jedinečnú príležitosť podporiť rozvoj dôveryhodnej umelej inteligencie za hranicami Únie prostredníctvom prvej medzinárodnej, právne záväznej zmluvy založenej na silnom ľudskoprávnom prístupe k regulácii v oblasti umelej inteligencie.
Dohovor aj akt o umelej inteligencii sú neoddeliteľné prvky regulačného prístupu k umelej inteligencii s dôslednými a navzájom sa posilňujúcimi záväzkami na niekoľkých medzinárodných úrovniach a so spoločným cieľom zabezpečiť dôveryhodnú umelú inteligenciu.
•Súlad s ostatnými politikami Únie
Dohovor má spoločné ciele aj s inými politikami a právnymi predpismi Únie, ktoré sú zamerané na uplatňovanie základných práv zakotvených v Charte základných práv Európskej únie ( 8 ).
Konkrétne, zásada rovnosti a nediskriminácie zakotvená v dohovore je úplne v súlade s právnymi predpismi Únie v oblasti nediskriminácie, pričom má podporovať začlenenie aspektov rovnosti do navrhovania, vývoja a používania systémov umelej inteligencie, ako aj účinné vykonávanie zákazu diskriminácie, ako sa stanovuje v platnom medzinárodnom a vnútroštátnom práve zmluvných strán.
Dohovor je navyše v súlade s acquis Únie v oblasti ochrany osobných údajov vrátane všeobecného nariadenia o ochrane údajov ( 9 ), pokiaľ ide o základné práva na súkromie a ochranu osobných údajov s účinnými zárukami, ktoré sa musia zaviesť pre fyzické osoby, v súlade s platnými vnútroštátnymi a medzinárodnými právnymi záväzkami zmluvných strán.
Opatrenia stanovené v dohovore, ktoré sú určené na ochranu demokratických procesov zmluvných strán v kontexte činností počas životného cyklu systému umelej inteligencie, sú v plnej miere v súlade s cieľmi a podrobnými pravidlami uvedenými v akte o digitálnych službách ( 10 ), ktorým sa riadi poskytovanie sprostredkovateľských služieb v Únii s cieľom zaistiť bezpečné, predvídateľné a dôveryhodné online prostredie, v ktorom sa dodržiavajú základné práva vrátane práva na slobodu prejavu a právo na získavanie a poskytovanie informácií. Okrem toho sú v súlade s nariadením o transparentnosti a cielení politickej reklamy ( 11 ), Kódexom postupov proti šíreniu dezinformácií ( 12 ) a politikami Únie v oblasti demokracie a slobodných, spravodlivých a odolných volieb ( 13 ) vrátane akčného plánu pre európsku demokraciu z roku 2020 ( 14 ), balíka na ochranu volieb a ich integrity ( 15 ) a najnovšie balíka opatrení v oblasti obrany demokracie z roku 2023 ( 16 ).
Dohovor je v súlade s celkovou digitálnou stratégiou Únie, keďže prispieva k podpore technológie v službách človeka, čo je jeden z troch hlavných pilierov zamerania a cieľov politiky uvedených v oznámení s názvom Formovanie digitálnej budúcnosti Európy ( 17 ). Cieľom uvedenej stratégie je zabezpečiť, aby sa umelá inteligencia vyvíjala spôsobom rešpektujúcim ľudské práva a získavajúcim dôveru ľudí, vďaka čomu sa Európa pripraví na digitálny vek a z nasledujúcich desiatich rokov sa stane digitálne desaťročie ( 18 ).
Okrem toho Európske vyhlásenie o digitálnych právach a zásadách v digitálnom desaťročí ( 19 ) obsahuje niekoľko digitálnych práv a zásad, ktoré sú v súlade s cieľmi a so zásadami dohovoru, pričom obidva nástroje podporujú prístup k technológiám silne založený na ľudských právach.
Dohovor je takisto v súlade so stratégiou EÚ v oblasti práv dieťaťa ( 20 ) a s Európskou stratégiou vytvárania lepšieho internetu pre deti (BIK+) ( 21 ), ktorých cieľom je zabezpečiť, aby deti boli v online prostredí chránené, rešpektované a aby sa posilnilo ich postavenie, aby mohli čeliť výzvam nových virtuálnych svetov a umelej inteligencie.
2.PRÁVNY ZÁKLAD, SUBSIDIARITA A PROPORCIONALITA
•Právny základ
Návrh rozhodnutia o poverení na podpis dohovoru v mene Únie sa predkladá Rade v súlade s článkom 218 ods. 5 ZFEÚ.
Hmotnoprávny základ rozhodnutia podľa článku 218 ods. 5 ZFEÚ závisí predovšetkým od cieľa a obsahu dohody. Z judikatúry vyplýva, že ak preskúmanie opatrenia Únie preukáže, že toto opatrenie sleduje dvojaký cieľ alebo obsahuje dve zložky, a ak jeden z týchto cieľov alebo jednu z týchto zložiek možno označiť za hlavný cieľ alebo hlavnú zložku, zatiaľ čo druhý cieľ alebo zložka má doplňujúcu povahu, musí byť opatrenie založené na jedinom právnom základe, a to na tom, ktorý si vyžaduje hlavný alebo prevažujúci cieľ alebo zložka.
V súvislosti s hmotnoprávnym základom sa vecná pôsobnosť dohovoru zhoduje s vecnou pôsobnosťou aktu o umelej inteligencii ( 22 ), najmä pokiaľ ide o vyňatie výskumu a vývoja a činností spojených s národnou bezpečnosťou a obranou z rozsahu pôsobnosti týchto nástrojov. Zásady a povinnosti v dohovore sa zhodujú s podrobnejšími požiadavkami na systémy umelej inteligencie a osobitnými povinnosťami poskytovateľov týchto systémov a subjektov nasadzujúcich tieto systémy podľa aktu o umelej inteligencii a iných relevantných právnych predpisov Únie. V prípade prijatia navrhovaného rozhodnutia Radou a podpisu dohovoru Úniou bude akt o umelej inteligencii predstavovať primárnu legislatívu Únie, ktorou sa dohovor vykonáva v právnom poriadku Únie, s plne harmonizovanými pravidlami uvádzania na trh, uvádzania do prevádzky a používania systémov umelej inteligencie v Únii, ktoré sú priamo uplatniteľné v členských štátoch, pokiaľ sa v akte o umelej inteligencii výslovne neuvádza inak ( 23 ).
Vzhľadom na skutočnosť, že rozsah pôsobnosti a ciele dohovoru sa v plnej miere zhodujú a sú v súlade s rozsahom pôsobnosti a cieľmi aktu o umelej inteligencii, ako aj vzhľadom na skutočnosť, že obidva právne nástroje majú zhodnú osobnú a vecnú pôsobnosť, hmotnoprávnym základom pre uzatvorenie dohovoru je článok 114 ZFEÚ, ktorý predstavuje hlavný právny základ aktu o umelej inteligencii.
Charakter medzinárodných dohôd („výlučná dohoda EÚ“ alebo „zmiešaná dohoda“) závisí od zlučiteľnosti konkrétneho predmetu úpravy s právomocami Únie.
V článku 3 ods. 2 ZFEÚ sa stanovuje, že Únia má výlučnú právomoc „uzavrieť medzinárodnú dohodu […], ak môžu byť uzavretím zmlúv dotknuté spoločné pravidlá alebo pozmenený rozsah ich pôsobnosti“. Medzinárodnou dohodou môžu byť dotknuté spoločné pravidlá alebo pozmenený rozsah ich pôsobnosti, ak je oblasť upravená dohodou z veľkej časti upravená právom Únie ( 24 ).
Osobná pôsobnosť dohovoru je úplne v súlade s aktom o umelej inteligencii v tom zmysle, že obidva právne nástroje sa v zásade vzťahujú na verejné aj súkromné subjekty (s nepovinným uplatňovaním zásad a povinností dohovoru na iné súkromné subjekty, než sú subjekty, ktoré konajú v mene orgánov verejnej moci), kým vecná pôsobnosť obidvoch právnych nástrojov vylučuje z platných pravidiel činnosti v oblasti umelej inteligencie, ktoré súvisia s národnou bezpečnosťou, obranou a výskumom.
Vzhľadom na to, že osobná a vecná pôsobnosť dohovoru sa zhoduje s osobnou a vecnou pôsobnosťou aktu o umelej inteligencii, uzavretím dohovoru môžu byť dotknuté spoločné pravidlá Únie alebo sa ním môže pozmeniť rozsah ich pôsobnosti v zmysle článku 3 ods. 2 ZFEÚ. V dôsledku toho by sa malo usudzovať, že Únia má výlučnú vonkajšiu právomoc uzatvoriť tento dohovor, a dohovor by sa mal podpísať v mene Únie ako „výlučná dohoda EÚ“, s výhradou jeho uzavretia k neskoršiemu dátumu.
•Proporcionalita
Dohovor nejde nad rámec toho, čo je nevyhnutné na dosiahnutie cieľov politík, ktoré rozvíjajú jednotný prístup k regulácii umelej inteligencie na medzinárodnej úrovni.
Dohovorom sa stanovuje právny rámec na vysokej úrovni pre umelú inteligenciu, ktorý umožňuje flexibilitu, aby zmluvné strany mohli vytvárať konkrétne návrhy rámcov vykonávania. Prístupom založeným na rizikách sa takisto zabezpečuje proporcionalita pravidiel a umožňuje sa diferenciácia vykonávacích opatrení spôsobom, ktorý je primeraný rizikám, a to podobným spôsobom, ako v rámci aktu o umelej inteligencii.
•Výber nástroja
Zvoleným nástrojom je návrh rozhodnutia Rady podľa článku 218 ods. 5 ZFEÚ.
3.VÝSLEDKY HODNOTENÍ EX POST, KONZULTÁCIÍ SO ZAINTERESOVANÝMI STRANAMI A POSÚDENÍ VPLYVU
•Hodnotenia ex post/kontroly vhodnosti existujúcich právnych predpisov
Neuplatňuje sa.
•Konzultácie so zainteresovanými stranami
Európska komisia v prípade tohto návrhu nevykonala osobitné konzultácie so zainteresovanými stranami.
Vypracovanie dohovoru je výsledkom spoločného úsilia Výboru Rady Európy pre umelú inteligenciu, do ktorého sa zapojilo všetkých 46 členských štátov Rady Európy, ako aj pozorovateľské štáty vrátane Kanady, Japonska, Mexika, Svätej stolice, Spojených štátov amerických a Európskej únie. Okrem toho sa na ňom zúčastnilo aj niekoľko nečlenských štátov vrátane Austrálie, Argentíny, Izraela, Kostariky, Peru a Uruguaja.
V súlade so záväzkom Rady Európy zapojiť rozličné zainteresované strany sa pri vypracúvaní dohovoru prihliadlo na príspevky 68 medzinárodných zástupcov občianskej spoločnosti, akademickej obce, priemyslu a iných medzinárodných organizácií, čím sa zabezpečil komplexný a inkluzívny prístup. Príprava dohovoru zahŕňala aj spoluprácu s rôznymi ďalšími medzinárodnými organizáciami vrátane Organizácie pre bezpečnosť a spoluprácu v Európe (OBSE), Organizácie pre hospodársku spoluprácu a rozvoj (OECD) a Organizácie Spojených národov pre vzdelávanie, vedu a kultúru (UNESCO). Okrem toho k procesu prispievali príslušné subjekty a výbory v Rade Európy. Účasť Únie prebiehala pod vedením Európskej komisie. Prítomní ako pozorovatelia boli aj zástupcovia Agentúry Európskej únie pre základné práva a európsky dozorný úradník pre ochranu údajov.
•Získavanie a využívanie expertízy
Rokovacia pozícia Únie v súvislosti s dohovorom bola vypracovaná v rámci konzultácií s osobitným výborom určeným Radou (pracovná skupina Rady pre telekomunikácie a informačnú spoločnosť).
•Posúdenie vplyvu
Neuplatňuje sa.
•Regulačná vhodnosť a zjednodušenie
Neuplatňuje sa.
•Základné práva
Cieľom dohovoru je vyriešiť potenciálne riziká pre ľudské práva a ujmu v oblasti ľudských práv tým, že sa ním zabezpečí, aby činnosti počas životného cyklu systémov umelej inteligencie boli v súlade so zásadami dodržiavania ľudských práv, demokracie a právneho štátu, a súčasne sa uzná potenciál umelej inteligencie v záujme ochrany a uľahčenia výkonu týchto práv v digitálnom prostredí a zlepšenia spoločenských a environmentálnych podmienok a technologického pokroku.
Cieľom konkrétnych zásad a povinností stanovených v dohovore má byť ochrana a dodržiavanie ľudských práv zakotvených vo viacerých medzinárodných a regionálnych nástrojoch ( 25 ), ktoré sa vzťahujú na jednotlivé zmluvné strany, vrátane Charty základných práv Európskej únie a medzinárodných nástrojov v oblasti ľudských práv, ktoré Únia uzavrela.
Dohovorom sa tak stanovuje spoločná minimálna norma na uplatňovanie ochrany ľudských práv v kontexte umelej inteligencie a zároveň sa zaručujú existujúce prostriedky ochrany ľudských práv a umožňuje, aby zmluvné strany zabezpečili širšiu ochranu s prísnejšími zárukami.
4.VPLYV NA ROZPOČET
Dohovoromsa stanovujú finančné príspevky nečlenských štátov na činnosti Konferencie zmluvných strán. Kým všetci členovia Rady Európy budú prispievať do bežného rozpočtu Rady Európy v súlade so Štatútom Rady Európy, zmluvné strany, ktoré nie sú jej členmi, budú posielať mimorozpočtové príspevky. Výšku príspevku nečlenského štátu Rady Európy stanoví Výbor ministrov spoločne s príslušným nečlenským štátom.
Dohovor nemá vplyv na vnútroštátne zákony a právne predpisy zmluvných strán, ktorými sa upravujú rozpočtové právomoci a postupy týkajúce sa rozpočtových prostriedkov. Umožňuje, aby nečlenské štáty samy prispievali v rámci schválených rozpočtových obmedzení stanovených ich legislatívnym orgánom bez toho, aby boli dotknuté akékoľvek predchádzajúce dojednania.
5.ĎALŠIE PRVKY
•Plány vykonávania, spôsob monitorovania, hodnotenia a podávania správ
Konferencia zmluvných strán zložená zo zástupcov zmluvných strán bude monitorovať, či boli ciele dohovoru skutočne splnené, ako aj vykonávanie ustanovení zmluvnými stranami.
Každá zmluvná strana bude musieť predložiť správu Konferencii zmluvných strán, a to do dvoch rokov od pristúpenia k dohovoru a potom v pravidelných intervaloch, pričom v tejto správe podrobne opíše opatrenia prijaté na účely vykonávania dohovoru.
Zmluvné strany sa ďalej vyzývajú, aby spolupracovali pri plnení cieľov dohovoru. Táto medzinárodná spolupráca môže zahŕňať vzájomnú výmenu relevantných informácií o umelej inteligencii a o jej potenciáli nepriaznivo alebo pozitívne ovplyvňovať ľudské práva, demokraciu a právny štát.
V záujme zabezpečenia účinného monitorovania a vykonávania musia všetky zmluvné strany určiť jeden alebo viacero mechanizmov účinného dohľadu na vnútroštátnej úrovni.
2024/0150 (NLE)
Návrh
ROZHODNUTIE RADY
o podpise v mene Európskej únie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte
RADA EURÓPSKEJ ÚNIE,
so zreteľom na Zmluvu o fungovaní Európskej únie, a najmä na jej článok 114 v spojení s článkom 218 ods. 5,
so zreteľom na návrh Európskej komisie,
keďže:
(1)Rada 21. novembra 2022 poverila Európsku komisiu, aby začala rokovania v mene Únie o dohovore Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (ďalej len „dohovor“). Európska komisia rokovala o dohovore v mene Únie. Rokovania boli úspešne dokončené 17. mája 2024 parafovaním dohovoru a jeho prijatím Výborom ministrov Rady Európy ( 26 ).
(2)V dohovore sa stanovujú všeobecné zásady a povinnosti, ktoré by zmluvné strany mali dodržiavať s cieľom zabezpečiť ochranu ľudských práv, demokracie a právneho štátu v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie (AI).
(3)Únia 12. júna 2024 prijala nariadenie (EÚ) 2024/… (ďalej len „akt o umelej inteligencii“) ( 27 ), a to predovšetkým na základe článku 114 ZFEÚ; pričom týmto nariadením sa stanovujú úplne harmonizované pravidlá upravujúce uvádzanie na trh, uvádzanie do prevádzky a používanie systémov umelej inteligencie v Únii, ktoré sú priamo uplatniteľné v členských štátoch, pokiaľ sa v akte o umelej inteligencii výslovne neuvádza inak. Dohovor sa má vykonávať v Únii výlučne prostredníctvom aktu o umelej inteligencii a prípadne prostredníctvom iného relevantného acquis Únie.
(4)Vzhľadom na to, že osobná a vecná pôsobnosť dohovoru sa zhoduje s osobnou a vecnou pôsobnosťou aktu o umelej inteligencii a iného relevantného acquis Únie, uzavretím dohovoru môžu byť dotknuté spoločné pravidlá Únie alebo sa ním môže pozmeniť rozsah ich pôsobnosti v zmysle článku 3 ods. 2 Zmluvy o fungovaní Európskej únie. Únia má preto výlučnú vonkajšiu právomoc podpísať tento dohovor, a preto by sa zmluvnou stranou dohovoru mala stať len Únia s výhradou uzavretia dohovoru k neskoršiemu dátumu.
(5)V súlade so zmluvami je povinnosťou Európskej komisie zabezpečiť podpis dohovoru s výhradou jeho uzavretia k neskoršiemu dátumu,
PRIJALA TOTO ROZHODNUTIE:
Článok 1
Týmto sa v mene Únie schvaľuje podpis rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte, s výhradou uzavretia uvedeného dohovoru.
Znenie dohovoru, ktoré sa má podpísať, je pripojené k tomuto rozhodnutiu.
Článok 2
Toto rozhodnutie nadobúda účinnosť .
V Bruseli
Za Radu
predseda
() Charta základných práv Európskej únie (Ú. v. EÚ C 326, 26.10.2012, s. 391 – 407).
EURÓPSKA KOMISIA
V Bruseli26. 6. 2024
COM(2024) 264 final
PRÍLOHA
k
návrhu ROZHODNUTIA RADY
o podpise v mene Európskej únie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte
Znenie rámcového dohovoru Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte
Preambula
Členské štáty Rady Európy a ostatné signatárske štáty,
berúc do úvahy, že cieľom Rady Európy je dosiahnuť väčšiu jednotu medzi jej členskými štátmi, predovšetkým na základe dodržiavania ľudských práv, demokracie a zásad právneho štátu,
uznávajúc hodnotu podpory spolupráce medzi zmluvnými stranami tohto dohovoru a rozšírenia takejto spolupráce o iné štáty s rovnakými hodnotami,
uvedomujúc si zrýchľovanie vývoja v oblasti vedy a technológií a hlboké zmeny, ktoré prinášajú činnosti počas životného cyklu systémov umelej inteligencie, ktoré majú potenciál podporovať prosperitu ľudí, ako aj individuálny a spoločenský blahobyt, udržateľný rozvoj, rovnosť žien a mužov a posilnenie postavenia všetkých žien a dievčat a iné dôležité ciele a záujmy tým, že posilňujú pokrok a inovácie,
uznávajúc, že činnosti počas životného cyklu systémov umelej inteligencie môžu ponúkať nebývalé príležitosti na ochranu a presadzovanie ľudských práv, demokracie a zásad právneho štátu,
vyjadrujúc znepokojenie, že určité činnosti počas životného cyklu systémov umelej inteligencie môžu oslabovať ľudskú dôstojnosť a osobnú nezávislosť a narúšať ľudské práva, demokraciu a právny štát,
vyjadrujúc znepokojenie v súvislosti s rizikom diskriminácie v digitálnom prostredí, najmä rizikami týkajúcimi sa systémov umelej inteligencie, a s ich možným následkom v podobe vzniku alebo zhoršenia nerovností vrátane nerovností, ktoré zažívajú ženy a osoby v zraniteľnom postavení, pokiaľ ide o využívanie ich ľudských práv a ich úplné, rovnocenné a skutočné zapojenie do hospodárskych, sociálnych, kultúrnych a politických záležitostí,
vyjadrujúc znepokojenie zo zneužitia systémov umelej inteligencie a namietajúc proti používaniu týchto systémov na represívne účely v rozpore s medzinárodným právom v oblasti ľudských práv, a to aj prostredníctvom svojvoľného alebo nezákonného sledovania a cenzúry, ktoré porušujú súkromie a osobnú nezávislosť,
uvedomujúc si skutočnosť, že ľudské práva, demokracia a právny štát sú navzájom vnútorne prepletené,
vyjadrujúc presvedčenie o potrebe prednostne vytvoriť celosvetovo platný právny rámec, ktorým sa stanovia spoločné všeobecné zásady a pravidlá upravujúce činnosti počas životného cyklu systémov umelej inteligencie a ktorý účinne zachováva spoločné hodnoty a využíva výhody umelej inteligencie na podporu týchto hodnôt spôsobom, ktorý je priaznivý pre zodpovednú inováciu,
uznávajúc potrebu podporovať digitálnu gramotnosť, vedomosti o navrhovaní systémov umelej inteligencie, ich vývoji, používaní a vyraďovaní z prevádzky, ako aj potrebu podporovať dôveru v ich navrhovanie, vývoj, používanie a vyraďovanie z prevádzky,
uznávajúc rámcový charakter tohto dohovoru, ktorý môžu dopĺňať ďalšie nástroje na riešenie konkrétnych otázok súvisiacich s činnosťami počas životného cyklu systémov umelej inteligencie,
zdôrazňujúc, že týmto dohovorom sa majú riešiť špecifické problémy, ktoré vznikajú počas celého životného cyklu systémov umelej inteligencie, a podporiť uvažovanie o širších rizikách a vplyve v súvislosti s týmito technológiami, a to aj vrátane ľudského zdravia a životného prostredia a sociálno-ekonomických aspektov, ako je zamestnanosť a pracovná sila,
berúc na vedomie relevantné úsilie vyvinuté na zlepšenie medzinárodného porozumenia a spolupráce v oblasti umelej inteligencie inými medzinárodnými a nadnárodnými organizáciami a fórami,
dbajúc na platné medzinárodné nástroje v oblasti ľudských práv, ako je Všeobecná deklarácia ľudských práv z roku 1948, Dohovor o ochrane ľudských práv a základných slobôd z roku 1950 (ETS č. 5), Medzinárodný pakt o občianskych a politických právach z roku 1966, Medzinárodný pakt o hospodárskych, sociálnych a kultúrnych právach z roku 1966, Európska sociálna charta z roku 1961 (ETS č. 35), ako aj ich príslušné protokoly a Európska sociálna charta z roku 1996 (revidovaná) (ETS č. 163),
dbajúc aj na Dohovor o právach dieťaťa z roku 1989 a Dohovor o právach osôb so zdravotným postihnutím z roku 2006,
dbajúc aj na práva jednotlivcov na súkromie a na ochranu osobných údajov, uplatňované a vyplývajúce napr. z Dohovoru o ochrane jednotlivcov pri automatizovanom spracovaní osobných údajov z roku 1981 (ETS č. 108) a jeho protokolov,
potvrdzujúc záväzok zmluvných strán ochraňovať ľudské práva, demokraciu a právny štát a podporovať dôveryhodnosť systémov umelej inteligencie na základe tohto dohovoru,
sa dohodli takto:
Kapitola I – Všeobecné ustanovenia
Článok 1 – Cieľ a účel
1.Cieľom ustanovení tohto dohovoru je zabezpečiť, aby činnosti počas životného cyklu systémov umelej inteligencie boli v plnej miere v súlade s ľudskými právami, demokraciou a so zásadami právneho štátu.
2.Každá zmluvná strana prijme alebo ponechá v platnosti náležité legislatívne, administratíve alebo iné opatrenia s cieľom vykonávať ustanovenia uvedené v tomto dohovore. Tieto opatrenia musia byť podľa potreby odstupňované a diferencované v závislosti od závažnosti a pravdepodobnosti výskytu nepriaznivých účinkov na ľudské práva, demokraciu a právny štát počas životného cyklu systémov umelej inteligencie. Medzi tieto opatrenia môžu patriť osobitné alebo horizontálne opatrenia, ktoré sa uplatňujú bez ohľadu na typ použitej technológie.
3.V záujme zabezpečenia účinného vykonávania ustanovení dohovoru zmluvnými stranami sa v ňom stanovuje nadväzujúci mechanizmus a zaisťuje sa ním medzinárodná spolupráca.
Článok 2 – Vymedzenie systémov umelej inteligencie
„Systém umelej inteligencie“ je na účely tohto dohovoru strojový systém, ktorý pre explicitné alebo implicitné ciele odvodzuje zo vstupov, ktoré dostáva, spôsob generovania výstupov, ako sú predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredie. Jednotlivé systémy umelej inteligencie sa líšia úrovňou svojej samostatnosti a prispôsobivosti po svojom nasadení.
Článok 3 – Rozsah pôsobnosti
1.Do rozsahu pôsobnosti dohovoru patria činnosti počas životného cyklu systémov umelej inteligencie, ktoré majú potenciál narúšať ľudské práva, demokraciu a právny štát, a to takto:
a)Každá zmluvná strana uplatňuje tento dohovor na činnosti počas životného cyklu systémov umelej inteligencie, ktoré vykonávajú orgány verejnej moci alebo súkromné subjekty konajúce v ich mene.
b)Každá zmluvná strana sa musí zaoberať rizikami a vplyvom vyplývajúcimi z činností počas životného cyklu systémov umelej inteligencie vykonávaných súkromnými subjektmi v rozsahu, ktorý sa neupravuje v písmene a), spôsobom vyhovujúcim cieľu a účelu tohto dohovoru.
Každá zmluvná strana vo vyhlásení, ktoré predloží generálnemu tajomníkovi Rady Európy v čase podpisu alebo pri uložení svojej ratifikačnej listiny, listiny o prijatí, listiny o schválení alebo listiny o pristúpení, určí, ako chce plniť túto povinnosť, a to buď uplatňovaním zásad a povinností uvedených v kapitolách II až VI tohto dohovoru na činnosti súkromných subjektov, alebo prijatím vhodných opatrení na splnenie povinnosti stanovenej v tomto pododseku. Zmluvné strany môžu kedykoľvek a rovnakým spôsobom meniť svoje vyhlásenia.
Pri plnení povinnosti podľa tohto pododseku sa zmluvná strana nesmie odchýliť od uplatňovania svojich medzinárodných záväzkov prijatých na ochranu ľudských práv, demokracie a zásad právneho štátu ani ich uplatňovanie nesmie obmedziť.
2.Zmluvná strana nie je povinná uplatňovať tento dohovor na činnosti počas životného cyklu systémov umelej inteligencie súvisiace s ochranou svojich záujmov v oblasti národnej bezpečnosti, pričom sa rozumie, že takéto činnosti sa vykonávajú spôsobom, ktorý je v súlade s platným medzinárodným právom vrátane povinností vyplývajúcich z medzinárodného práva v oblasti ľudských práv, a s rešpektom voči demokratickým inštitúciám a procesom.
3.Bez toho, aby bol dotknutý článok 13 a článok 25 ods. 2, tento dohovor sa neuplatňuje na činnosti v oblasti výskumu a vývoja systémov umelej inteligencie, ktoré ešte nie sú pripravené na používanie, pokiaľ sa ich testovanie alebo podobné činnosti nevykonávajú spôsobom, ktorý má potenciál narúšať ľudské práva, demokraciu a zásady právneho štátu.
4.Otázky týkajúce sa obrany štátu nepatria do rozsahu pôsobnosti tohto dohovoru.
Kapitola II – Všeobecné povinnosti
Článok 4 – Ochrana ľudských práv
Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorými zabezpečí, aby činnosti počas životného cyklu systémov umelej inteligencie boli v súlade s povinnosťami týkajúcimi sa ochrany ľudských práv, ako sú zakotvené v platnom medzinárodnom práve a vo vnútroštátnom práve zmluvnej strany.
Článok 5 – Integrita demokratických procesov a dodržiavanie zásad právneho štátu
1.Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorých cieľom je zabezpečiť, aby sa systémy umelej inteligencie nepoužívali na oslabovanie integrity, nezávislosti a účinnosti demokratických inštitúcií a procesov vrátane zásady deľby moci, dodržiavania nezávislosti súdnictva a prístupu k spravodlivosti.
2.Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorých cieľom je ochrana demokratických procesov v kontexte činností počas životného cyklu systémov umelej inteligencie vrátane spravodlivého prístupu jednotlivcov k verejnej diskusii a ich účasti v rámci verejnej diskusie, ako aj ich schopnosti slobodne si vytvoriť názor.
Kapitola III – Zásady súvisiace s činnosťami v rámci životného cyklu systémov umelej inteligencie
Článok 6 – Všeobecný prístup
V tejto kapitole sa stanovujú všeobecné spoločné zásady, ktoré každá zmluvná strana zavedie v súvislosti so systémami umelej inteligencie spôsobom, ktorý bude primeraný jej vnútroštátnemu právnemu systému a ďalším povinnostiam vyplývajúcim z tohto dohovoru.
Článok 7 – Ľudská dôstojnosť a osobná nezávislosť
Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia na rešpektovanie ľudskej dôstojnosti a osobnej nezávislosti v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie.
Článok 8 – Transparentnosť a dohľad
Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorými zabezpečí, aby sa zaviedli primerané požiadavky na transparentnosť a dohľad prispôsobené konkrétnym situáciám a rizikám vo vzťahu k činnostiam počas životného cyklu systémov umelej inteligencie, a to aj pokiaľ ide o identifikáciu obsahu vytvoreného systémami umelej inteligencie.
Článok 9 – Zodpovednosť a vyvodzovanie zodpovednosti
Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorými zabezpečí zodpovednosť a vyvodzovanie zodpovednosti za nepriaznivé účinky na ľudské práva, demokraciu a právny štát vyplývajúce z činností počas životného cyklu systémov umelej inteligencie.
Článok 10 – Rovnosť a nediskriminácia
1.Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia s cieľom zabezpečiť, aby sa v rámci činností počas životného cyklu systémov umelej inteligencie rešpektovala rovnosť vrátane rovnosti žien a mužov a dodržiaval zákaz diskriminácie, ako je stanovený v platnom medzinárodnom a vnútroštátnom práve.
2.Každá zmluvná strana sa zaväzuje prijať alebo ponechať v platnosti opatrenia zamerané na prekonávanie nerovností s cieľom dosiahnuť čestné, primerané a spravodlivé výsledky v súlade s platnými vnútroštátnymi a medzinárodnými záväzkami v oblasti ľudských práv v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie.
Článok 11 – Ochrana súkromia a osobných údajov
Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorými sa v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie zabezpečia:
a)práva jednotlivcov na súkromie a na ochranu ich osobných údajov, a to aj prostredníctvom platných vnútroštátnych a medzinárodných právnych predpisov, noriem a rámcov; a
b)zavedenie účinných záruk pre osoby v súlade s platnými vnútroštátnymi a medzinárodnými záväzkami.
Článok 12 – Spoľahlivosť
Každá zmluvná strana podľa potreby prijme opatrenia na podporu spoľahlivosti systémov umelej inteligencie a dôvery v ich výsledky, ktoré by mohli zahŕňať požiadavky týkajúce sa primeranej kvality a bezpečnosti počas životného cyklu systémov umelej inteligencie.
Článok 13 – Bezpečné inovácie
V záujme podpory inovácií a s cieľom vyhnúť sa nepriaznivým účinkom na ľudské práva, demokraciu a právny štát sa každá zmluvná strana vyzýva, aby umožnila podľa potreby zriadenie kontrolovaných prostredí na vývoj, experimentovanie a testovanie systémov umelej inteligencie pod dohľadom jej príslušných orgánov.
Kapitola IV – Prostriedky nápravy
Článok 14 – Prostriedky nápravy
1.Každá zmluvná strana v rozsahu, v akom sa prostriedky nápravy vyžadujú na základe jej medzinárodných záväzkov, a v súlade s jej vnútroštátnym právnym systémom prijme alebo ponechá v platnosti opatrenia, ktorými sa zabezpečí, aby k dispozícii boli dostupné a účinné prostriedky nápravy v prípade porušení ľudských práv vyplývajúcich z činností počas životného cyklu systémov umelej inteligencie.
2.Na podporu odseku 1 každá zmluvná strana prijme alebo ponechá v platnosti opatrenia vrátane:
a)opatrení, ktorými sa zabezpečí, že sa zdokumentujú príslušné informácie týkajúce sa systémov umelej inteligencie a ich príslušného použitia, ak majú potenciál významne ovplyvniť ľudské práva, poskytnú sa orgánom oprávneným na prístup k týmto informáciám a v prípade, ak je to vhodné a uplatniteľné, sa sprístupnia alebo oznámia dotknutým osobám;
b)opatrení, ktorými sa zabezpečí, že informácie uvedené v písmene a) sú pre dotknuté osoby postačujúce na napadnutie rozhodnutí vydaných na základe používania systému alebo vo veľkej miere založených na informáciách získaných pri používaní systému a v prípade, ak je to vhodné a uplatniteľné, na napadnutie použitia samotného systému; a
c)účinnej možnosti dotknutých osôb podať sťažnosť príslušným orgánom.
Článok 15 – Procesné záruky
1.Každá zmluvná strana zabezpečí pre prípad, keď systém umelej inteligencie významne ovplyvňuje uplatňovanie ľudských práv, aby osoby dotknuté týmto systémom mali k dispozícii účinné procesné záruky a práva v súlade s platným medzinárodným a vnútroštátnym právom.
2.Každá zmluvná strana sa usiluje zabezpečiť, aby s ohľadom na situáciu boli osoby, ktoré interagujú so systémami umelej inteligencie, informované o tom, že interagujú s takýmito systémami, a nie s človekom.
Kapitola V – Posudzovanie a zmierňovanie rizík a nepriaznivých účinkov
Článok 16 – Rámec riadenia rizík a vplyvu
1.Každá zmluvná strana s prihliadnutím na zásady uvedené v kapitole III prijme alebo ponechá v platnosti opatrenia na identifikáciu, posudzovanie, prevenciu a zmierňovanie rizík, ktoré predstavujú systémy umelej inteligencie, tým, že zohľadní skutočný a potenciálny vplyv na ľudské práva, demokraciu a právny štát.
2.Takéto opatrenia sú podľa potreby odstupňované a diferencované a:
a)náležite sa v nich zohľadní kontext a zamýšľané použitie systémov umelej inteligencie, najmä pokiaľ ide o riziká pre ľudské práva, demokraciu a právny štát;
b)náležite sa v nich zohľadní závažnosť a pravdepodobnosť potenciálneho vplyvu;
c)v prípade potreby sa v nich zohľadní hľadisko príslušných zainteresovaných strán, najmä osôb, ktorých práva by mohli byť dotknuté;
d)uplatňujú sa opakovane v priebehu činností počas životného cyklu systému umelej inteligencie;
e)zahŕňajú monitorovanie rizík a nepriaznivých účinkov na ľudské práva, demokraciu a právny štát;
f)zahŕňajú dokumentovanie rizík, skutočného a potenciálneho vplyvu a prístup riadenia rizík; a
g)v prípade potreby sa nimi vyžaduje testovanie systémov umelej inteligencie pred ich prvým sprístupnením a vždy, keď prejdú značnými úpravami.
3.Každá zmluvná strana prijme alebo ponechá v platnosti opatrenia, ktorých cieľom je zabezpečiť, aby sa venovala náležitá pozornosť nepriaznivým účinkom systémov umelej inteligencie na ľudské práva, demokraciu a právny štát. Takéto nepriaznivé účinky a opatrenia na ich riešenie by sa mali zdokumentovať a táto dokumentácia by sa mala použiť ako podklady pre príslušné opatrenia riadenia rizík opísané v odseku 2.
4.Každá zmluvná strana posúdi potrebu zaviesť moratórium, zákaz alebo iné vhodné opatrenia v prípade určitých použití systémov umelej inteligencie, ak takéto použitia považuje za nezlučiteľné s dodržiavaním ľudských práv, fungovaním demokracie alebo so zásadami právneho štátu.
Kapitola VI – Vykonávanie dohovoru
Článok 17 – Nediskriminácia
Vykonávanie ustanovení tohto dohovoru zmluvnými stranami sa zabezpečí bez diskriminácie z akéhokoľvek dôvodu v súlade s ich medzinárodnými záväzkami v oblasti ľudských práv.
Článok 18 – Práva osôb so zdravotným postihnutím a práva detí
Každá zmluvná strana v súlade so svojim vnútroštátnym právom a platnými medzinárodnými záväzkami náležite zohľadní všetky osobitné potreby a zraniteľné miesta v súvislosti s dodržiavaním práv osôb so zdravotným postihnutím a detí.
Článok 19 – Verejná konzultácia
Každá zmluvná strana sa usiluje zabezpečiť, aby sa dôležité otázky, ktoré vzniknú v súvislosti so systémami umelej inteligencie, podľa potreby náležite posúdili v rámci verejnej diskusie a konzultácie s viacerými zainteresovanými stranami s ohľadom na sociálne, hospodárske, právne, etické, environmentálne a iné relevantné dôsledky.
Článok 20 – Digitálna gramotnosť a zručnosti
Každá zmluvná strana podnecuje a podporuje primeranú digitálnu gramotnosť a digitálne zručnosti vo všetkých segmentoch obyvateľstva vrátane špecifických odborných zručností osôb zodpovedných za identifikáciu, posudzovanie, prevenciu a zmierňovanie rizík, ktoré predstavujú systémy umelej inteligencie.
Článok 21 – Záruka existujúcich ľudských práv
Žiadne z ustanovení tohto dohovoru nemožno vykladať tak, že sa ním obmedzujú ľudské práva alebo iné súvisiace zákonné práva a povinnosti, ktoré môžu byť zaručené príslušnými právnymi predpismi zmluvnej strany alebo inými relevantnými medzinárodnými dohodami, ktorých je zmluvnou stranou, ani sa ním nevytvárajú výnimky z týchto práv, ani sa ním inak neovplyvňuje výkon týchto práv.
Článok 22 – Širšia ochrana
Žiadne z ustanovení tohto dohovoru nemožno vykladať tak, že sa ním obmedzuje alebo inak ovplyvňuje možnosť zmluvnej strany prijať širšie ochranné opatrenie, než ako je stanovené v tomto dohovore.
Kapitola VII – Nadväzujúci mechanizmus a spolupráca
Článok 23 – Konferencia zmluvných strán
1.Konferencia zmluvných strán sa skladá zo zástupcov zmluvných strán tohto dohovoru.
2.Zmluvné strany budú pravidelne uskutočňovať konzultácie s cieľom:
a) uľahčiť účinné uplatňovanie a vykonávanie tohto dohovoru vrátane identifikácie akýchkoľvek problémov a účinkov každej výhrady vyjadrenej na základe článku 34 ods. 1 alebo akéhokoľvek vyhlásenia vydaného podľa tohto dohovoru;
b) posúdiť možné doplnenie alebo zmenu tohto dohovoru;
c) posúdiť otázky a vydať osobitné odporúčania týkajúce sa výkladu a uplatňovania tohto dohovoru;
d) uľahčiť výmenu informácií o významnom právnom, politickom alebo technologickom vývoji, a to aj pri plnení cieľov vymedzených v článku 25, relevantnom na účely vykonávania tohto dohovoru;
e) podľa potreby uľahčiť zmierlivé riešenie sporov týkajúcich sa uplatňovania tohto dohovoru; a
f) uľahčiť spoluprácu s príslušnými zainteresovanými stranami v súvislosti s relevantnými aspektmi vykonávania tohto dohovoru, a to aj prostredníctvom verejných vypočutí, ak je to vhodné.
3.Konferenciu zmluvných strán zvoláva generálny tajomník Rady Európy, kedykoľvek sa to považuje za potrebné, a v prípade, keď väčšina zmluvných strán alebo Výbor ministrov požiada o jej zvolanie.
4.Konferencia zmluvných strán na základe konsenzu prijme svoj rokovací poriadok do dvanástich mesiacov od vstupu tohto dohovoru do platnosti.
5.Sekretariát Rady Európy pomáha zmluvným stranám pri výkone ich funkcií podľa tohto článku.
6.Konferencia zmluvných strán môže Výboru ministrov navrhovať vhodné spôsoby využívania relevantných odborných znalostí na podporu účinného vykonávania tohto dohovoru.
7.Každá zmluvná strana, ktorá nie je členským štátom Rady Európy, prispieva na financovanie činností Konferencie zmluvných strán. Výšku príspevku nečlenského štátu Rady Európy stanoví Výbor ministrov spoločne s príslušným nečlenským štátom.
8.Konferencia zmluvných strán môže rozhodnúť o obmedzení účasti na svojich činnostiach v prípade zmluvnej strany, ktorá prestala byť členským štátom Rady Európy podľa článku 8 Štatútu Rady Európy (ETS č. 1) z dôvodu závažného porušenia článku 3 Štatútu Rady Európy. Podobne sa môžu prijať opatrenia voči zmluvnej strane, ktorá nie je členským štátom Rady Európy, a to rozhodnutím Výboru ministrov o prerušení vzťahov s týmto štátom z dôvodov podobných dôvodom uvedeným v článku 3 Štatútu Rady Európy.
Článok 24 – Ohlasovacia povinnosť
1.Každá zmluvná strana predloží správu Konferencii zmluvných strán v priebehu prvých dvoch rokov od dátumu, keď sa stala zmluvnou stranou, a potom v pravidelných intervaloch, pričom v tejto správe podrobne opíše činnosti vykonané s cieľom vykonať článok 3 ods. 1 písm. a) a b).
2.Konferencia zmluvných strán určí formát a postup podávania správy v súlade so svojím rokovacím poriadkom.
Článok 25 – Medzinárodná spolupráca
1.Zmluvné strany spolupracujú pri napĺňaní účelu tohto dohovoru. Zmluvné strany sa ďalej vyzývajú, aby podľa potreby pomáhali štátom, ktoré nie sú zmluvnými stranami tohto dohovoru, konať dôsledne podľa podmienok tohto dohovoru a stať sa jeho zmluvnou stranou.
2.Zmluvné strany si medzi sebou podľa potreby vymieňajú relevantné a užitočné informácie o aspektoch súvisiacich s umelou inteligenciou, ktoré môžu mať významné pozitívne alebo negatívne účinky na uplatňovanie ľudských práv, fungovanie demokracie a dodržiavanie zásad právneho štátu, vrátane rizík a účinkov, ktoré vznikli v prostredí výskumu a ktoré súvisia so súkromným sektorom. Zmluvné strany sa vyzývajú, aby podľa potreby do tejto výmeny informácií zapájali príslušné zainteresované strany a štáty, ktoré nie sú zmluvnými stranami tohto dohovoru.
3.Zmluvné strany sa vyzývajú, aby posilnili spoluprácu, v prípade potreby aj s príslušnými zainteresovanými stranami, s cieľom predchádzať rizikám a nepriaznivým účinkom na ľudské práva, demokraciu a právny štát v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie a zmierňovať tieto riziká a nepriaznivé účinky.
Článok 26 – Účinné mechanizmy dohľadu
1.Každá zmluvná strana vytvorí alebo určí jeden alebo viacero účinných mechanizmov s cieľom dohliadať na dodržiavanie povinností stanovených v tomto dohovore.
2.Každá zmluvná strana zabezpečí, aby tieto mechanizmy vykonávali svoje úlohy nezávisle a nestranne a aby mali potrebné právomoci, odbornosť a zdroje na účinné plnenie svojich úloh dohľadu nad dodržiavaním povinností stanovených v tomto dohovore, ako ich vykonali zmluvné strany.
3.V prípade, že zmluvná strana vytvorila viacero mechanizmov, podľa možnosti prijme opatrenia s cieľom uľahčiť účinnú spoluprácu medzi nimi.
4.V prípade, že zmluvná strana vytvorila mechanizmy odlišné od existujúcich štruktúr v oblasti ľudských práv, podľa možnosti prijme opatrenia na podporu účinnej spolupráce medzi mechanizmami uvedenými v odseku 1 a týmito existujúcimi vnútroštátnymi štruktúrami v oblasti ľudských práv.
Kapitola VIII – Záverečné ustanovenia
Článok 27 – Účinky dohovoru
1.Ak dve alebo viaceré zmluvné strany už uzavreli dohodu alebo zmluvu týkajúcu sa záležitostí upravených týmto dohovorom alebo inak nadviazali vzťahy v súvislosti s týmito záležitosťami, sú oprávnené uplatňovať aj uvedenú dohodu alebo zmluvu alebo upravovať uvedené vzťahy zodpovedajúcim spôsobom, pokiaľ to robia spôsobom, ktorý nie je v rozpore s cieľmi a účelom tohto dohovoru.
2.Zmluvné strany, ktoré sú členmi Európskej únie, uplatňujú vo svojich vzájomných vzťahoch predpisy Európskej únie upravujúce záležitosti, ktoré patria do rozsahu pôsobnosti tohto dohovoru, bez toho, aby bol dotknutý cieľ a účel tohto dohovoru, a bez toho, aby bolo dotknuté jeho plné uplatňovanie inými zmluvnými stranami. To isté platí pre ostatné zmluvné strany, pokiaľ sú viazané takýmito predpismi.
Článok 28 – Zmeny
1.Zmeny tohto dohovoru môže navrhnúť každá zmluvná strana, Výbor ministrov Rady Európy alebo Konferencia zmluvných strán.
2.Každý návrh na zmenu oznámi generálny tajomník Rady Európy zmluvným stranám.
3.Každá zmena navrhnutá zmluvnou stranou alebo Výborom ministrov sa oznámi Konferencii zmluvných strán, ktorá predloží Výboru ministrov svoje stanovisko k navrhnutej zmene.
4.Výbor ministrov posúdi navrhnutú zmenu a stanovisko predložené Konferenciou zmluvných strán a môže schváliť zmenu.
5.Text každej zmeny schválenej Výborom ministrov v súlade s odsekom 4 sa predloží zmluvným stranám na prijatie.
6.Každá zmena schválená v súlade s odsekom 4 nadobudne platnosť tridsiaty deň odo dňa, keď všetky zmluvné strany informovali generálneho tajomníka o jej prijatí.
Článok 29 – Riešenie sporov
V prípade sporu medzi zmluvnými stranami týkajúceho sa výkladu alebo uplatňovania tohto dohovoru sa tieto zmluvné strany usilujú o urovnanie sporu prostredníctvom rokovania alebo iných zmierovacích prostriedkov podľa ich výberu vrátane predloženia sporu Konferencii zmluvných strán podľa článku 23 ods. 2 písm. e).
Článok 30 – Podpis a nadobudnutie platnosti
1.Tento dohovor je otvorený na podpis členským štátom Rady Európy, nečlenským štátom Rady Európy, ktoré sa podieľali na jeho vypracovaní, a Európskej únii.
2.Tento dohovor podlieha ratifikácii, prijatiu alebo schváleniu. Ratifikačné listiny, listiny o prijatí alebo listiny o schválení sa uložia u generálneho tajomníka Rady Európy.
3.Tento dohovor nadobudne platnosť prvý deň mesiaca nasledujúceho po uplynutí troch mesiacov odo dňa, keď päť signatárov vrátane najmenej troch členských štátov Rady Európy vyjadrilo súhlas byť viazaní dohovorom v súlade s odsekom 2.
4.S ohľadom na signatárov, ktorí následne vyjadria svoj súhlas byť viazaní týmto dohovorom, dohovor nadobudne platnosť prvým dňom mesiaca nasledujúceho po uplynutí troch mesiacov odo dňa uloženia ratifikačnej listiny, listiny o prijatí alebo listiny o schválení.
Článok 31 – Pristúpenie
1.Po nadobudnutí platnosti tohto dohovoru Výbor ministrov Rady Európy môže po konzultácii so zmluvnými stranami dohovoru a po získaní ich jednomyseľného súhlasu prizvať ktorýkoľvek nečlenský štát Rady Európy, ktorý sa nezúčastnil na vypracovaní dohovoru, aby pristúpil k dohovoru, na základe rozhodnutia prijatého väčšinou stanovenou v článku 20 písm. d) Štatútu Rady Európy a jednomyseľného hlasovania zástupcov zmluvných strán oprávnených zasadať vo Výbore ministrov.
2.Vo vzťahu ku každému pristupujúcemu štátu tento dohovor nadobudne platnosť prvý deň mesiaca, ktorý nasleduje po uplynutí obdobia troch mesiacov odo dňa uloženia listiny o pristúpení u generálneho tajomníka Rady Európy.
Článok 32 – Územná pôsobnosť
1.Ktorýkoľvek štát alebo Európska únia môže v čase podpisu alebo pri uložení svojej ratifikačnej listiny, listiny o prijatí, listiny o schválení alebo listiny o pristúpení vymedziť územie alebo územia, na ktoré sa tento dohovor vzťahuje.
2.Každá zmluvná strana môže kedykoľvek neskôr vyhlásením adresovaným generálnemu tajomníkovi Rady Európy rozšíriť pôsobnosť tohto dohovoru na akékoľvek iné územie uvedené v tomto vyhlásení. Vo vzťahu k takémuto územiu dohovor nadobúda platnosť prvým dňom mesiaca nasledujúceho po uplynutí troch mesiacov odo dňa prijatia tohto vyhlásenia generálnym tajomníkom Rady Európy.
3.Vyhlásenia uskutočnené podľa predchádzajúcich dvoch odsekov možno vo vzťahu k akémukoľvek územiu vymedzenému v uvedenom vyhlásení odvolať oznámením adresovaným generálnemu tajomníkovi Rady Európy. Toto odvolanie nadobudne platnosť prvým dňom mesiaca nasledujúceho po uplynutí obdobia troch mesiacov odo dňa prijatia takéhoto oznámenia generálnym tajomníkom Rady Európy.
Článok 33 – Federálna doložka
1.Federálny štát si môže vyhradiť právo prevziať záväzky podľa tohto dohovoru v súlade so svojimi základnými zásadami, ktoré upravujú vzťah medzi jeho centrálnou vládou a štátmi, ktoré ho tvoria, alebo inými podobnými územnými celkami, pod podmienkou, že tento dohovor sa uplatňuje na centrálnu vládu federálneho štátu.
2.Pokiaľ ide o tie ustanovenia tohto dohovoru, ktorých uplatňovanie patrí do právomoci jednotlivých štátov, ktoré tvoria federálny štát, alebo iných podobných územných celkov, ktoré nemajú podľa ústavného systému federácie povinnosť prijímať legislatívne opatrenia, federálna vláda upovedomí príslušné orgány týchto štátov o uvedených ustanoveniach spolu so svojím priaznivým stanoviskom a tieto orgány vyzve, aby prijali vhodné opatrenia na ich vykonanie.
Článok 34 – Výhrady
1.V písomnom oznámení adresovanom generálnemu tajomníkovi Rady Európy môže ktorýkoľvek štát v čase podpisu alebo pri uložení svojej ratifikačnej listiny, listiny o prijatí, listiny o schválení alebo listiny o pristúpení vyhlásiť, že využije výhradu stanovenú v článku 33 ods. 1.
2.K tomuto dohovoru nemožno uplatniť žiadne iné výhrady.
Článok 35 – Vypovedanie
1.Každá zmluvná strana môže kedykoľvek vypovedať tento dohovor oznámením adresovaným generálnemu tajomníkovi Rady Európy.
2.Takáto výpoveď nadobudne platnosť prvým dňom mesiaca nasledujúceho po uplynutí obdobia troch mesiacov odo dňa prijatia oznámenia generálnym tajomníkom.
Článok 36 – Oznámenie
Generálny tajomník Rady Európy oznámi členským štátom Rady Európy, nečlenským štátom, ktoré sa podieľali na vypracovaní dohovoru, Európskej únii, každému signatárovi, každému zmluvnému štátu, každej zmluvnej strane a všetkým štátom prizvaným k pristúpeniu k tomuto dohovoru:
a)každé podpísanie tohto dohovoru;
b)uloženie každej ratifikačnej listiny, listiny o prijatí, listiny o schválení alebo listiny o pristúpení;
c)každý dátum nadobudnutia platnosti tohto dohovoru podľa článku 30 ods. 3 a 4 a článku 31 ods. 2;
d)každú zmenu prijatú v súlade s článkom 28 a dátum nadobudnutia platnosti tejto zmeny;
e)každé vyhlásenie uskutočnené na základe článku 3 ods. 1 písm. b);
f)každú výhradu alebo stiahnutie výhrady na základe článku 34;
g)každú výpoveď podanú na základe článku 35;
h)akýkoľvek iný úkon, vyhlásenie, oznámenie alebo vyjadrenie, ktoré sa vzťahuje na tento dohovor.
Na dôkaz toho podpísaní, riadne na to splnomocnení, podpísali tento dohovor.
V [miesto] … [mesiaca] 202[4] v anglickom a vo francúzskom jazyku, pričom obe znenia sú rovnako autentické, v jednom vyhotovení, ktoré bude uložené v archíve Rady Európy. Generálny tajomník Rady Európy odovzdá overené kópie každému členskému štátu Rady Európy, nečlenským štátom, ktoré sa podieľali na vypracovaní tohto dohovoru, Európskej únii a každému štátu, ktorý bol prizvaný k pristúpeniu k tomuto dohovoru.