EVROPSKÁ KOMISE

V Bruselu dne 26.6.2024

COM(2024) 264 final

2024/0150(NLE)

Návrh

ROZHODNUTÍ RADY

o podpisu rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu jménem Evropské unie

DŮVODOVÁ ZPRÁVA

1.SOUVISLOSTI NÁVRHU

•Odůvodnění a cíle návrhu

Umělá inteligence (AI) nabízí velké příležitosti, ale některé způsoby jejího uplatňování a využívání mohou také působit újmu a vytvářet rizika pro základní práva jednotlivců a další veřejné zájmy.

V podobě nařízení Evropského parlamentu a Rady (EU) 2024/[….], kterým se stanoví harmonizovaná pravidla pro umělou inteligenci („akt o umělé inteligenci“), přijala Unie první komplexní nařízení o umělé inteligenci, jež nastolí celosvětový standard. Akt o umělé inteligenci byl přijat dne 12. června 2024 ( 1 ) a vstoupí v platnost do 20 dnů po vyhlášení v Úředním věstníku. Akt o umělé inteligenci plně harmonizuje pravidla pro uvádění systémů umělé inteligence na trh a do provozu a pro jejich používání v členských státech ( 2 ) s cílem podpořit inovace a zavádění důvěryhodné umělé inteligence a zároveň chránit zdraví, bezpečnost a základní práva, včetně demokracie, právního státu a životního prostředí.

Své úsilí v oblasti regulace umělé inteligence zintenzivnily také různé mezinárodní organizace, včetně Rady Evropy, které si uvědomují přeshraniční povahu AI a potřebu mezinárodní spolupráce při řešení společných výzev, které s sebou tyto technologie přináší.

Výbor Rady Evropy pro umělou inteligenci (CAI) ( 3 ) v období od června 2022 připravil právně závaznou rámcovou úmluvu (dále jen „úmluva“), která má řešit potenciální rizika, jež umělá inteligence představuje pro lidská práva, demokracii a právní stát. Unie sjednala úmluvu na základě čl. 216 odst. 1 čtvrté alternativy SFEU, podle kterého může Unie sjednat 4 a uzavřít mezinárodní dohodu, pokud „[…] se může dotknout společných pravidel či změnit jejich oblast působnosti“. Evropská komise zastupovala Unii při jednáních o úmluvě v souladu s čl. 218 odst. 3 Smlouvy o fungování Evropské unie (dále jen „SFEU“) a na základě rozhodnutí Rady o zmocnění k zahájení jednání jménem Evropské unie ( 5 ).

Unie se aktivně účastnila jednání a sledovala cíl zajistit slučitelnost úmluvy s právem Unie, soulad s aktem o umělé inteligenci, jakož i kvalitu a přidanou hodnotu úmluvy jako první mezinárodní smlouvy o umělé inteligenci. V této souvislosti byl cílem Unie také mezinárodní rozsah úmluvy.

Po několika kolech jednání schválil Výbor pro umělou inteligenci znění úmluvy na svém 10. plenárním zasedání, které se konalo ve dnech 11. až 14. března 2024. Dne 17. května 2024 přijal úmluvu Výbor ministrů Rady Evropy, souhlasil s jejím otevřením k podpisu ve Vilniusu (Litva) dne 5. září 2024 u příležitosti neformální konference ministrů spravedlnosti a vyzval členy Rady Evropy, další třetí země, které se podílely na jejím vypracování, a Unii, aby při této příležitosti zvážili její podpis, a zároveň připomněl, že úmluva je otevřena k přístupu i dalším státům, které nejsou členy Rady Evropy ( 6 ).

V této souvislosti je účelem tohoto návrhu zahájit proces podpisu úmluvy Unií se záměrem následné ratifikace tím, že se navrhne Radě, aby přijala rozhodnutí o zmocnění Unie k podpisu úmluvy v souladu s čl. 218 odst. 5 SFEU. Úmluva je plně slučitelná s právem Unie obecně, a zejména s aktem o umělé inteligenci, a bude na celosvětové úrovni prosazovat klíčové koncepty přístupu Unie k regulaci umělé inteligence mezi dalšími členy Rady Evropy a důležitými mezinárodními partnery, kteří se mohou stát smluvními stranami úmluvy.

Obsah úmluvy

Cílem úmluvy je zajistit, aby činnosti v rámci životního cyklu systémů AI byly plně v souladu s lidskými právy, demokracií a právním státem.

Smluvní strany úmluvy ji budou muset provést prostřednictvím vhodných legislativních, správních nebo jiných opatření k uplatnění jejích ustanovení, a to na základě odstupňovaného a diferencovaného přístupu v závislosti na závažnosti a pravděpodobnosti nepříznivých dopadů. Úmluva by měla být v Unii prováděna výhradně prostřednictvím aktu o umělé inteligenci, který plně harmonizuje pravidla pro uvádění na trh, uvádění do provozu a používání systémů umělé inteligence, a případně dalšího příslušného acquis Unie. 

Oblast působnosti úmluvy pokrývá systémy umělé inteligence, které mohou potenciálně zasahovat do lidských práv, demokracie a právního státu, a to na základě diferencovaného přístupu. Zásady a povinnosti stanovené v úmluvě se budou vztahovat na činnosti v rámci životního cyklu systémů AI prováděné orgány veřejné správy nebo soukromými subjekty jednajícími jejich jménem. Pokud jde o soukromý sektor, smluvní strany jsou povinny řešit rizika a dopady vyplývající z činností v rámci životního cyklu systémů AI prováděných soukromými subjekty způsobem, který je v souladu s předmětem a účelem úmluvy, ale mají na výběr, zda uplatní povinnosti vyplývající z úmluvy, nebo přijmou jiná vhodná opatření. Smluvní strany budou muset učinit prohlášení o volbě, kterou v tomto ohledu učiní při podpisu úmluvy nebo při přistoupení k ní. Unie by měla po uzavření úmluvy vydat prohlášení, že Unie bude prostřednictvím aktu o umělé inteligenci a dalšího příslušného acquis Unie provádět zásady a povinnosti stanovené v kapitolách II až VI úmluvy týkající se činností soukromých subjektů, které uvádějí na trh, do provozu a používají systémy AI v Unii.

Činnosti v oblasti AI související s národní bezpečností jsou z oblasti působnosti úmluvy vyloučeny s tím, že musí být v každém případě prováděny způsobem, který je v souladu s platným mezinárodním právem v oblasti lidských práv a respektuje demokratické instituce a procesy. Úmluva rovněž nezahrnuje činnosti v oblasti výzkumu a vývoje týkající se systémů AI, které ještě nejsou k dispozici pro použití, pokud testování nebo podobné činnosti nemají potenciál zasahovat do lidských práv, demokracie a právního státu. V souladu se Statutem Rady Evropy nespadají záležitosti týkající se národní obrany do oblasti působnosti úmluvy.

Úmluva dále stanoví soubor obecných povinností a základních zásad, včetně ochrany lidské důstojnosti a individuální autonomie, jakož i podpory rovnosti a zákazu diskriminace. Kromě toho nařizuje respektovat soukromí a ochranu osobních údajů spolu s transparentností a dohledem s cílem zajistit odpovědnost. Jedna zásada je také věnována bezpečným inovacím a experimentování v kontrolovaném prostředí.

Zvláštní kapitola o opravných prostředcích rovněž předpokládá soubor opatření, jejichž cílem je zajistit dostupnost účinných opravných prostředků v případě porušení lidských práv v důsledku činností v rámci životního cyklu systémů AI. Zahrnuje také účinné procesní záruky a ochranná opatření pro osoby, jejichž práva byla používáním systémů AI významně dotčena. Kromě toho by měly být osoby upozorněny, že komunikují se systémem AI, a nikoli s člověkem.

Úmluva rovněž obsahuje kapitolu o opatřeních pro posuzování a zmírňování rizik a nepříznivých dopadů, která se mají provádět opakovaně a jejichž cílem je zjistit skutečné a potenciální dopady na lidská práva, demokracii a právní stát a přijmout vhodná preventivní a zmírňující opatření.

Úmluva dále stanoví, že smluvní strany by měly posoudit potřebu zákazu nebo moratoria na určité způsoby uplatňování systémů AI, které jsou považovány za neslučitelné s dodržováním lidských práv, fungováním demokracie nebo právního státu.

Úmluva stanoví mechanismus následných opatření v rámci konference smluvních stran úmluvy složené ze zástupců smluvních stran, která vede pravidelné konzultace s cílem usnadnit účinné používání a provádění úmluvy. Předpokládá také mechanismus mezinárodní spolupráce jak mezi smluvními stranami úmluvy, tak ve vztazích se třetími zeměmi a příslušnými zúčastněnými stranami za účelem dosažení účelu úmluvy.

Každá smluvní strana by dále měla na vnitrostátní úrovni zřídit nebo určit jeden nebo více účinných mechanismů pro dohled nad dodržováním povinností stanovených v úmluvě a provedených smluvními stranami.

•Soulad s platnými předpisy v této oblasti politiky

Úmluva stanoví obecné zásady a povinnosti v oblasti ochrany lidských práv, demokracie a právního státu, které jsou plně v souladu s cíli aktu o umělé inteligenci a podrobnými požadavky na systémy AI a povinnostmi uloženými poskytovatelům a provozovatelům těchto systémů.

Definice systému AI v úmluvě je plně sladěna s definicí v aktu o umělé inteligenci, neboť obě vycházejí z definice těchto systémů v zásadách Organizace pro hospodářskou spolupráci a rozvoj pro umělou inteligenci ( 7 ), čímž je zajištěna obecná shoda na tom, které digitální technologie umělou inteligenci představují.

Dalším společným prvkem obou právních nástrojů je transparentnost, včetně opatření týkajících se identifikace obsahu vytvořeného umělou inteligencí a informování osob o tom, že komunikují se systémy AI. Oba právní nástroje rovněž obsahují příslušná ustanovení o posuzování rizik a dopadů a řízení rizik, evidenci, sdělování (oprávněným subjektům a orgánům a případně dotčeným osobám), sledovatelnosti a vysvětlitelnosti, bezpečných inovacích a experimentování v kontrolovaném prostředí a soubor opatření umožňujících účinné opravné prostředky, včetně práva požadovat a získat informace a podat stížnost příslušnému orgánu, a procesní záruky.

Systém dohledu zamýšlený v úmluvě je rovněž plně v souladu s komplexním systémem správy a vymáhání stanoveným v aktu o umělé inteligenci, který se skládá z vymáhání na úrovni Unie a na vnitrostátní úrovni, a s postupy pro jednotné provádění pravidel Unie v členských státech. Úmluva zejména předpokládá jeden nebo více účinných mechanismů dohledu na vnitrostátní úrovni, které musí vykonávat své povinnosti nezávisle a nestranně a musí mít potřebné pravomoci, odborné znalosti a zdroje, aby mohly účinně plnit úkoly dohledu nad dodržováním povinností stanovených v úmluvě a provedených smluvními stranami.

Zatímco akt o umělé inteligenci se bude vztahovat na systémy AI uváděné na trh, do provozu nebo používané v Unii, úmluva má širší geografický dosah zahrnující členy Rady Evropy a třetí státy po celém světě, které mohou k úmluvě přistoupit. Úmluva tak představuje jedinečnou příležitost, jak podpořit důvěryhodnou AI mimo Unii v první mezinárodní právně závazné smlouvě založené na přístupu k regulaci AI zaměřeném na lidská práva.

Úmluva i akt o umělé inteligenci jsou nedílnými součástmi regulačního přístupu k AI, s konzistentními a vzájemně se posilujícími závazky na různých mezinárodních úrovních, a mají společný cíl zajistit důvěryhodnou AI.

•Soulad s ostatními politikami Unie

Úmluva má rovněž společné cíle s dalšími politikami a právními předpisy Unie, které se zaměřují na provádění základních práv zakotvených v Listině základních práv Unie ( 8 ).

Zejména zásada rovnosti a zákazu diskriminace zakotvená v úmluvě je plně v souladu s právními předpisy Unie o zákazu diskriminace a podpoří začlenění hledisek rovnosti do návrhu, vývoje a používání systémů AI a účinné provádění zákazu diskriminace, jak je stanoveno v platném mezinárodním a vnitrostátním právu smluvních stran.

Úmluva je dále v souladu s acquis Unie v oblasti ochrany údajů, včetně obecného nařízení o ochraně osobních údajů ( 9 ), pokud jde o základní práva na ochranu soukromí a osobních údajů s účinnými zárukami a ochrannými opatřeními, které musí být pro jednotlivce zavedeny v souladu s platnými vnitrostátními a mezinárodními právními závazky smluvních stran.

Opatření předpokládaná v úmluvě, která mají chránit demokratické procesy smluvních stran v souvislosti s činnostmi během životního cyklu systému AI, jsou plně v souladu s cíli a podrobnými pravidly nařízení o digitálních službách ( 10 ), které upravuje poskytování zprostředkovatelských služeb v Unii s cílem zajistit bezpečné, předvídatelné a důvěryhodné online prostředí, v němž jsou dodržována základní práva, včetně práva na svobodu projevu a práva přijímat a rozšiřovat informace. Jsou rovněž v souladu s nařízením o transparentnosti a cílení politické reklamy ( 11 ), s kodexem zásad boje proti dezinformacím ( 12 ) a s politikami Unie v oblasti demokracie a svobodných, spravedlivých a odolných voleb ( 13 ), včetně Akčního plánu pro evropskou demokracii z roku 2020( 14 ), balíčku opatření týkajících se voleb a integrity ( 15 ) a nedávno balíčku opatření na obranu demokracie z roku 2023 ( 16 ).

Tato úmluva je rovněž v souladu s celkovou digitální strategií Unie, pokud jde o její příspěvek k podpoře technologie, která slouží lidem, což je jeden ze tří hlavních pilířů politické orientace a cílů oznámených ve sdělení „Formování digitální budoucnosti Evropy“ ( 17 ). Jeho cílem je zajistit rozvoj umělé inteligence způsobem, který respektuje lidská práva a získává důvěru lidí, přičemž zajišťuje připravenost Evropy na digitální věk a mění příští roky v digitální dekádu ( 18 ).

Evropské prohlášení o digitálních právech a zásadách pro digitální dekádu ( 19 ) navíc obsahuje několik digitálních práv a zásad, které jsou sladěny s cíli a zásadami úmluvy, přičemž oba nástroje podporují silný přístup k technologiím založený na lidských právech.

Úmluva je rovněž v souladu se Strategií EU pro práva dítěte ( 20 ) a Evropskou strategií pro lepší internet pro děti (BIK+) ( 21 ), jejichž cílem je zajistit, aby děti byly na internetu chráněny, respektovány a podporovány, a mohly tak čelit výzvám nových virtuálních světů nebo umělé inteligence.

2.PRÁVNÍ ZÁKLAD, SUBSIDIARITA A PROPORCIONALITA

•Právní základ

Návrh rozhodnutí o zmocnění k podpisu úmluvy jménem Unie se předkládá Radě podle čl. 218 odst. 5 SFEU.

Hmotněprávní základ rozhodnutí podle čl. 218 odst. 5 SFEU závisí v první řadě na cíli a obsahu dohody. Podle judikatury platí, že pokud přezkum opatření Unie ukáže, že sleduje dvojí cíl nebo že obsahuje dvě složky, a pokud jedny z nich je možno identifikovat jako hlavní nebo převažující, zatímco druhé jsou pouze vedlejší, musí být opatření založeno na jediném právním základu, a sice na tom, který je vyžadován hlavním nebo převažujícím cílem nebo složkou.

Pokud jde o hmotněprávní základ, věcná působnost úmluvy se shoduje s oblastí působnosti aktu o umělé inteligenci ( 22 ), včetně výjimky z oblasti působnosti týkající se výzkumu a vývoje, národní bezpečnosti a obranných činností. Zásady a povinnosti obsažené v úmluvě se shodují s podrobnějšími požadavky na systémy AI a konkrétními povinnostmi poskytovatelů a provozovatelů těchto systémů podle aktu o umělé inteligenci a dalších příslušných právních předpisů Unie. Pokud Rada navrhované rozhodnutí přijme a Unie úmluvu podepíše, bude akt o umělé inteligenci představovat primární právní předpis Unie k provedení úmluvy v právním řádu Unie s plně harmonizovanými pravidly pro uvádění na trh, uvádění do provozu a používání systémů AI v Unii, která jsou přímo použitelná v členských státech, pokud akt o umělé inteligenci výslovně nestanoví jinak ( 23 ).

Vzhledem k tomu, že oblast působnosti a cíle úmluvy jsou sladěny a plně v souladu s cíli aktu o umělé inteligenci a že osobní a věcná působnost obou právních nástrojů se shoduje, je hmotněprávním základem pro uzavření úmluvy článek 114 SFEU, který je primárním právním základem aktu o umělé inteligenci.

Povaha mezinárodních dohod („pouze EU“ nebo „smíšené“) je podmíněna souladem konkrétního předmětu s pravomocemi Unie.

V čl. 3 odst. 2 SFEU se stanoví, že ve výlučné pravomoci Unie je „uzavření mezinárodní smlouvy, […] pokud její uzavření může ovlivnit společná pravidla či změnit jejich působnost“. Mezinárodní dohoda může ovlivnit společná pravidla nebo změnit jejich působnost, pokud je oblast, na kterou se dohoda vztahuje, do značené míry upravena právem Unie ( 24 ).

Osobní působnost úmluvy je plně sladěna s aktem o umělé inteligenci v tom smyslu, že oba právní nástroje se v zásadě vztahují na veřejné i soukromé subjekty (s dobrovolným uplatněním zásad a povinností stanovených v úmluvě na soukromé subjekty jiné než ty, které jednají jménem orgánů veřejné správy), přičemž věcná působnost obou právních nástrojů vylučuje z použitelných pravidel činnosti v oblasti AI související s národní bezpečností, obranou a výzkumem.

Vzhledem k tomu, že se osobní a věcná působnost úmluvy se shoduje s působností aktu o umělé inteligenci, může uzavření úmluvy ovlivnit společná pravidla Unie nebo změnit jejich působnost ve smyslu čl. 3 odst. 2 SFEU. V důsledku toho by se mělo mít za to, že Unie má výlučnou vnější pravomoc k uzavření úmluvy, a úmluva by měla být podepsána jménem Unie jako dohoda „pouze EU“, s výhradou jejího pozdějšího uzavření.

•Proporcionalita

Úmluva stanoví pro umělou inteligenci právní rámec na vysoké úrovni, který umožňuje flexibilitu, čímž dává smluvním stranám možnost navrhnout konkrétní prováděcí rámce. Přístup založený na rizicích rovněž zajišťuje přiměřenost pravidel a umožňuje diferencovat prováděcí opatření způsobem přiměřeným rizikům, podobně jako akt o umělé inteligenci.

•Volba nástroje

3.VÝSLEDKY HODNOCENÍ EX POST, KONZULTACÍ SE ZÚČASTNĚNÝMI STRANAMI A POSOUZENÍ DOPADŮ

•Hodnocení ex post / kontroly účelnosti platných právních předpisů

•Konzultace se zúčastněnými stranami

Evropská komise k tomuto návrhu neprovedla žádnou zvláštní konzultaci se zúčastněnými stranami.

Vypracování úmluvy bylo společným úsilím Výboru Rady Evropy pro umělou inteligenci, do něhož se zapojilo všech 46 členských států Rady Evropy a také pozorovatelské státy, včetně Kanady, Japonska, Mexika, Svatého stolce, Spojených států amerických a Evropské unie. Kromě toho se zúčastnilo několik dalších států, které nejsou členy Rady Evropy, včetně Austrálie, Argentiny, Kostariky, Izraele, Peru a Uruguaye.

V souladu se závazkem Rady Evropy zapojit různé zúčastněné strany se na vypracování úmluvy podílelo také 68 mezinárodních zástupců občanské společnosti, akademické obce, průmyslu a dalších mezinárodních organizací, čímž byl zajištěn komplexní a inkluzivní přístup. Na vypracování úmluvy se podílely také různé další mezinárodní organizace, včetně Organizace pro bezpečnost a spolupráci v Evropě (OBSE), Organizace pro hospodářskou spolupráci a rozvoj (OECD) a Organizace OSN pro výchovu, vědu a kulturu (UNESCO). Kromě toho se na tomto procesu podílely příslušné orgány a výbory Rady Evropy. Účast Unie vedla Evropská komise. Jako pozorovatelé byli přítomni také zástupci Agentury Evropské unie pro základní práva a evropského inspektora ochrany údajů.

•Sběr a využití výsledků odborných konzultací

Postoje Unie pro jednání o úmluvě byly připraveny na základě konzultací se zvláštním výborem jmenovaným Radou (pracovní skupina Rady pro telekomunikace a informační společnost).

•Posouzení dopadů

•Účelnost právních předpisů a zjednodušení

•Základní práva

Úmluva má za cíl řešit potenciální rizika a újmy pro lidská práva tím, že se zajistí, aby činnosti v rámci životního cyklu systémů AI byly v souladu se zásadami dodržování lidských práv, demokracie a právního státu, a zároveň uznává potenciál umělé inteligence chránit a usnadňovat výkon těchto práv v digitálním prostředí a zlepšovat společenský a environmentální blahobyt a technologický pokrok.

Konkrétní zásady a povinnosti stanovené v úmluvě mají chránit a dodržovat lidská práva zakotvená v mnoha mezinárodních a regionálních nástrojích ( 25 ), které se vztahují na smluvní strany, včetně Listiny základních práv Unie a mezinárodních nástrojů v oblasti lidských práv, které Unie sjednala.

Úmluva tak stanoví společný minimální standard pro uplatňování ochrany lidských práv v souvislosti s umělou inteligencí, přičemž zachovává stávající ochranu lidských práv a umožňuje smluvním stranám poskytnout širší ochranu s přísnějšími zárukami.

4.ROZPOČTOVÉ DŮSLEDKY

Úmluvapředpokládá finanční příspěvky států, které nejsou členy Rady Evropy, na činnosti konference smluvních stran. Zatímco všichni členové Rady Evropy budou přispívat prostřednictvím řádného rozpočtu Rady Evropy v souladu se Statutem Rady Evropy, strany, které nejsou jejími členy, budou poskytovat mimorozpočtové příspěvky. Příspěvek smluvní strany, která není členem Rady Evropy, stanoví společně Výbor ministrů a tato smluvní strana.

Úmluva nezasahuje do vnitrostátních právních předpisů smluvních stran, které upravují rozpočtové pravomoci a postupy pro rozpočtové prostředky. Státům, které nejsou členy Rady Evropy, rovněž umožňuje, aby své příspěvky poskytovaly v rámci schválených rozpočtových limitů stanovených jejich zákonodárnými orgány, aniž by byly dotčeny jakékoli předchozí dohody.

5.OSTATNÍ PRVKY

•Plány provádění a způsob monitorování, hodnocení a podávání zpráv

Konference smluvních stran složená ze zástupců smluvních stran bude sledovat, zda jsou cíle úmluvy účinně plněny a zda smluvní strany provádějí její ustanovení.

Každá smluvní strana bude muset během prvních dvou let od přistoupení a poté v pravidelných intervalech předložit konferenci smluvních stran zprávu, v níž podrobně uvede opatření přijatá k provádění úmluvy.

Smluvní strany se dále vyzývají ke spolupráci při plnění cílů úmluvy. Tato mezinárodní spolupráce může zahrnovat sdílení relevantních informací týkajících se umělé inteligence a jejího potenciálu negativně nebo pozitivně ovlivňovat lidská práva, demokracii a právní stát.

K zajištění účinného monitorování a provádění bude muset každá strana určit jeden nebo více účinných mechanismů dohledu na vnitrostátní úrovni.

2024/0150 (NLE)

Návrh

ROZHODNUTÍ RADY

o podpisu rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu jménem Evropské unie

RADA EVROPSKÉ UNIE,

s ohledem na Smlouvu o fungování Evropské unie, a zejména na článek 114 ve spojení s čl. 218 odst. 5 této smlouvy,

s ohledem na návrh Evropské komise,

vzhledem k těmto důvodům:

(1)Dne 21. listopadu 2022 Rada zmocnila Evropskou komisi k zahájení jednání jménem Unie o úmluvě Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu (dále jen „úmluva“). Evropská komise jménem Unie vedla jednání o úmluvě. Dne 17. května 2024 byla jednání úspěšně završena parafováním úmluvy a jejím přijetím Výborem ministrů Rady Evropy ( 26 ).

(2)Úmluva stanoví obecné zásady a povinnosti, které by měly smluvní strany úmluvy dodržovat, aby zajistily ochranu lidských práv, demokracie a právního státu v souvislosti s činnostmi během životního cyklu systémů umělé inteligence (AI).

(3)Dne 12. června 2024 přijala Unie především na základě článku 114 SFEU nařízení (EU) 2024/… („akt o umělé inteligenci“) ( 27 ), které stanoví plně harmonizovaná pravidla upravující uvádění na trh, uvádění do provozu a používání systémů AI v Unii, která jsou přímo použitelná ve všech členských státech, pokud akt o umělé inteligenci výslovně nestanoví jinak. Úmluva má být v Unii prováděna výhradně prostřednictvím aktu o umělé inteligenci a případně dalšího příslušného acquis Unie.

(4)Vzhledem k tomu, že se osobní a věcná působnost úmluvy se shoduje s aktem o umělé inteligenci a dalším příslušným acquis Unie, může uzavření úmluvy ovlivnit společná pravidla Unie nebo změnit jejich působnost ve smyslu čl. 3 odst. 2 Smlouvy o fungování Evropské unie. V důsledku toho má Unie výlučnou vnější pravomoc k podpisu úmluvy, a proto by se smluvní stranou úmluvy měla stát pouze Unie, s výhradou jejího pozdějšího uzavření.

(5)V souladu se Smlouvami je na Komisi, aby zajistila podpis úmluvy s výhradou jejího pozdějšího uzavření,

PŘIJALA TOTO ROZHODNUTÍ:

Článek 1

Podpis rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státě (dále jen „úmluva“) se schvaluje jménem Unie s výhradou uzavření uvedené úmluvy.

Znění úmluvy, která má být podepsána, je přiloženo k tomuto rozhodnutí.

Článek 2

Toto rozhodnutí vstupuje v platnost dne .

V Bruselu dne

(1)     NAŘÍZENÍ EVROPSKÉHO PARLAMENTU A RADY (EU) 2024/…, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (Úř. věst. L, 2024 ….).

(2)    Akt o umělé inteligenci, 1. a 8. bod odůvodnění.

(3)     Rozhodnutí o práci Výboru pro umělou inteligenci na 132. zasedání Výboru ministrů – následná opatření, CM/Inf(2022)20, DD(2022)245 .

(4)    Rozsudek Soudního dvora ze dne 20. listopadu 2018, Komise v. Rada (CHMO Antarktida), spojené věci C-626/15 a C-659/16, ECLI:EU:C:2018:925, bod 112.

(5)     Rozhodnutí Rady (EU) 2022/2349 ze dne 21. listopadu 2022 o zmocnění k zahájení jednání jménem Evropské unie o úmluvě Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu (Úř. věst. L 311, 2.12.2022, s. 138).

(6)    CM/Del/Dec(2024)133/4.

(7)    Definice OECD týkající se „systému AI“ byla aktualizována dne 8. listopadu 2023 (C(2023)151 a C/M(2023)14, bod 218) s cílem zajistit, aby byla i nadále technicky přesná a odrážela technologický vývoj, včetně generativní umělé inteligence.

(8)

   Listina základních práv Evropské unie (Úř. věst. C 326, 26.10.2012, s. 391).

(9)    Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).

(10)    Nařízení Evropského parlamentu a Rady (EU) 2022/2065 ze dne 19. října 2022 o jednotném trhu digitálních služeb a o změně směrnice 2000/31/ES (nařízení o digitálních službách) (Úř. věst. L 277, 27.10.2022, s. 1).

(11)    Nařízení Evropského parlamentu a Rady (EU) 2024/900 ze dne 13. března 2024 o transparentnosti a cílení politické reklamy, PE/90/2023/REV/1 (Úř. věst. L, 2024/900, 20.3.2024).

(12)     https://disinfocode.eu/cs/introduction-to-the-code/

(13)     Ochrana demokracie – Evropská komise (europa.eu) .

(14)     https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_cs

(15)     https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en

(16)    Sdělení Komise o obraně demokracie, COM(2023) 630 final.

(17)    Sdělení Komise, Formování digitální budoucnosti Evropy, COM(2020) 67 final.

(18)    Sdělení Komise, Digitální kompas 2030: Evropské pojetí digitální dekády , COM(2021) 118 final.

(19)     Evropské prohlášení o digitálních právech a zásadách pro digitální dekádu COM(2022) 28 final.

(20)    Sdělení Komise, Strategie EU pro práva dítěte, COM(2021) 142 final.

(21)    Sdělení Komise, Digitální dekáda pro děti a mládež: nová Evropská strategie pro lepší internet pro děti (BIK+), COM(2022) 212 final.

(22)    Přijat Radou dne 21. května 2024 a očekává se, že bude vyhlášen v Úředním věstníku v červenci 2024.

(23)    Viz článek 1 a 1. bod odůvodnění aktu o umělé inteligenci.

(24)    Např. věc C-114/12, Komise v. Rada (práva vysílacích organizací související s autorským právem) ECLI:EU:C:2014:2151, body 68–69; posudek 1/13, Přistoupení třetích států k Haagské úmluvě, EU:C:2014:2303, body 71–74; věc C-66/13, Green Network EU:C:2014:2399, body 27–33; posudek 3/15, Marrákešská smlouva o usnadnění přístupu k publikovaným dílům nevidomým a zrakově postiženým osobám či osobám s jinými poruchami čtení, ECLI:EU:C:2017:114, body 105–108.

(25)    Například Všeobecná deklarace lidských práv z roku 1948, Úmluva o ochraně lidských práv a základních svobod z roku 1950 (ETS č. 5), Mezinárodní pakt o občanských a politických právech z roku 1966, Mezinárodní pakt o hospodářských, sociálních a kulturních právech z roku 1966, Evropská sociální charta z roku 1961 (ETS č. 35), jakož i jejich příslušné protokoly, a (revidovaná) Evropská sociální charta z roku 1996 (ETS č. 163), Úmluva OSN o právech dítěte z roku 1989 a Úmluva OSN o právech osob se zdravotním postižením z roku 2006.

(26)    Rozhodnutí Rady (EU) 2022/2349 ze dne 21. listopadu 2022 o zmocnění k zahájení jednání jménem Evropské unie o úmluvě Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu (Úř. věst. L 311, 2.12.2022, s. 138).

(27)    Nařízení Evropského parlamentu a Rady (EU) 2024/..., kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (Úř. věst. L, 2024 …..).

EVROPSKÁ KOMISE

V Bruselu dne 26.6.2024

COM(2024) 264 final

PŘÍLOHA

návrhu ROZHODNUTÍ RADY

o podpisu rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu jménem Evropské unie

Znění rámcové úmluvy Rady Evropy o umělé inteligenci, lidských právech, demokracii a právním státu

Preambule

Členské státy Rady Evropy a ostatní signatáři této úmluvy,

majíce na zřeteli, že cílem Rady Evropy je dosáhnout větší jednoty mezi jejími členy, založené zejména na dodržování lidských práv, demokracie a právního státu;

uznávajíce hodnotu podpory spolupráce mezi smluvními stranami této úmluvy a rozšíření této spolupráce na další státy, které sdílejí stejné hodnoty;

uvědomujíce si zrychlující se vývoj v oblasti vědy a techniky a hluboké změny, které přinášejí činnosti v rámci životního cyklu systémů umělé inteligence, jež mají potenciál podpořit lidskou prosperitu, jakož i blahobyt jednotlivců a společnosti, udržitelný rozvoj, rovnost žen a mužů a posílení postavení všech žen a dívek, jakož i další důležité cíle a zájmy, a to podporováním pokroku a inovací;

majíce na zřeteli, že činnosti během životního cyklu systémů umělé inteligence mohou nabízet bezprecedentní příležitosti k ochraně a podpoře lidských práv, demokracie a právního státu;

obávajíce se, že určité činnosti v rámci životního cyklu systémů umělé inteligence mohou poškozovat lidskou důstojnost a individuální autonomii, lidská práva, demokracii a právní stát;

jsouce znepokojeni riziky diskriminace v digitálním kontextu, zejména v kontextu zahrnujícím systémy umělé inteligence, a jejich možným dopadem na vytváření nebo prohlubování nerovností, včetně nerovností, s nimiž se setkávají ženy a jednotlivci ve zranitelném postavení, pokud jde o uplatňování jejich lidských práv a jejich plnou, rovnou a účinnou účast na hospodářských, sociálních, kulturních a politických záležitostech;

majíce obavy ze zneužívání systémů umělé inteligence a stavíce se proti jejich využívání k represivním účelům v rozporu s mezinárodním právem v oblasti lidských práv, včetně svévolného nebo nezákonného sledování a cenzury, které narušují soukromí a individuální autonomii;

jsouce si vědomi skutečnosti, že lidská práva, demokracie a právní stát jsou neodmyslitelně spjaty;

jsouce přesvědčeni, že je třeba přednostně vytvořit celosvětově použitelný právní rámec, který stanoví společné obecné zásady a pravidla upravující činnosti během životního cyklu systémů umělé inteligence a který účinně zachovává sdílené hodnoty a využívá přínosy umělé inteligence k prosazování těchto hodnot způsobem, jenž přispívá k odpovědným inovacím;

berouce v potaz potřebu podporovat digitální gramotnost, znalosti o systémech umělé inteligence a důvěru v ně při jejich navrhování, vývoji, používání a vyřazování z provozu;

berouce ohled na rámcovou povahu této úmluvy, která může být doplněna dalšími nástroji pro řešení konkrétních otázek týkajících se činností během životního cyklu systémů umělé inteligence;

zdůrazňujíce, že cílem této úmluvy je řešit konkrétní výzvy, které vznikají během životního cyklu systémů umělé inteligence, a podpořit zohlednění širších rizik a dopadů souvisejících s těmito technologiemi, mimo jiné včetně lidského zdraví, životního prostředí a socioekonomických aspektů, jako je zaměstnanost a práce;

majíce na zřeteli příslušné úsilí o pokročení v mezinárodním porozumění a spolupráci v oblasti umělé inteligence ze strany dalších mezinárodních a nadnárodních organizací a fór;

berouce ohled na platné mezinárodní nástroje v oblasti lidských práv, jako je Všeobecná deklarace lidských práv z roku 1948, Úmluva o ochraně lidských práv a základních svobod z roku 1950 (ETS č. 5), Mezinárodní pakt o občanských a politických právech z roku 1966, Mezinárodní pakt o hospodářských, sociálních a kulturních právech z roku 1966, Evropská sociální charta z roku 1961 (ETS č. 35), jakož i jejich příslušné protokoly, a (revidovaná) Evropská sociální charta z roku 1996 (ETS č. 163);

majíce na zřeteli také Úmluvu Organizace spojených národů o právech dítěte z roku 1989 a Úmluvu Organizace spojených národů o právech osob se zdravotním postižením z roku 2006;

majíce na paměti také práva jednotlivců na ochranu soukromí a ochranu osobních údajů, která jsou uplatňována a přiznávána například na základě Úmluvy o ochraně osob se zřetelem na automatizované zpracování osobních dat z roku 1981 (ETS č. 108) a jejích protokolů;

potvrzujíce závazek smluvních stran chránit lidská práva, demokracii a právní stát a podporovat důvěryhodnost systémů umělé inteligence prostřednictvím této úmluvy,

se dohodli takto:

Kapitola I – Obecná ustanovení

Článek 1 – Předmět a účel

1)Cílem ustanovení této úmluvy je zajistit, aby činnosti během životního cyklu systémů umělé inteligence byly plně v souladu s lidskými právy, demokracií a právním státem.

2)Každá smluvní strana přijme nebo zachová vhodná legislativní, správní nebo jiná opatření k provedení ustanovení této úmluvy. Tato opatření jsou odstupňována a diferencována podle potřeby s ohledem na závažnost a pravděpodobnost výskytu nepříznivých dopadů na lidská práva, demokracii a právní stát v průběhu celého životního cyklu systémů umělé inteligence. To může zahrnovat konkrétní nebo horizontální opatření, která se uplatňují bez ohledu na druh použité technologie.

3)Aby bylo zajištěno účinné provádění ustanovení úmluvy jejími smluvními stranami, zavádí tato úmluva mechanismus následných opatření a stanoví mezinárodní spolupráci.

Článek 2 – Definice systémů umělé inteligence

Pro účely této úmluvy se „systémem umělé inteligence“ rozumí strojový systém, který pro explicitní nebo implicitní cíle vyvozuje ze vstupních údajů, které obdrží, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí, která mohou ovlivnit fyzické nebo virtuální prostředí. Různé systémy umělé inteligence se liší úrovní autonomie a adaptability po zavedení.

Článek 3 – Oblast působnosti

1)Oblast působnosti této úmluvy zahrnuje činnosti během životního cyklu systémů umělé inteligence, které mají potenciál zasahovat do lidských práv, demokracie a právního státu, a to takto:

a)Každá strana uplatňuje tuto úmluvu na činnosti během životního cyklu systémů umělé inteligence prováděné orgány veřejné správy nebo soukromými subjekty jednajícími jejich jménem.

b)Každá smluvní strana řeší rizika a dopady vyplývající z činností během životního cyklu systémů umělé inteligence prováděných soukromými subjekty v rozsahu, na který se nevztahuje písmeno a), způsobem, který je v souladu s předmětem a účelem této úmluvy.

Každá smluvní strana v prohlášení předloženém generálnímu tajemníkovi Rady Evropy při podpisu nebo při uložení listiny o ratifikaci, přijetí, schválení nebo přistoupení uvede, jak zamýšlí tuto povinnost provádět, a to buď uplatňováním zásad a povinností stanovených v kapitolách II až VI této úmluvy na činnosti soukromých subjektů, nebo přijetím jiných vhodných opatření ke splnění povinnosti stanovené v tomto pododstavci. Smluvní strany mohou svá prohlášení kdykoli a stejným způsobem změnit.

Při provádění povinnosti podle tohoto pododstavce se smluvní strana nesmí odchýlit od svých mezinárodních závazků přijatých na ochranu lidských práv, demokracie a právního státu ani omezit jejich uplatňování.

2)Smluvní strana nemusí uplatňovat tuto úmluvu na činnosti během životního cyklu systémů umělé inteligence související s ochranou jejích národních bezpečnostních zájmů s tím, že tyto činnosti jsou prováděny způsobem, který je v souladu s platným mezinárodním právem, včetně mezinárodních závazků v oblasti lidských práv, a s respektem k jejím demokratickým institucím a procesům.

3)Aniž je dotčen článek 13 a čl. 25 odst. 2, tato úmluva se nevztahuje na činnosti v oblasti výzkumu a vývoje týkající se systémů umělé inteligence, které dosud nebyly dány k dispozici pro použití, ledaže by testování nebo podobné činnosti byly prováděny takovým způsobem, že by mohly zasahovat do lidských práv, demokracie a právního státu.

4)Záležitosti týkající se národní obrany nespadají do oblasti působnosti této úmluvy.

Kapitola II – Obecné povinnosti

Článek 4 – Ochrana lidských práv

Každá smluvní strana přijme nebo zachová opatření k zajištění, aby činnosti během životního cyklu systémů umělé inteligence byly v souladu s povinnostmi chránit lidská práva, jak jsou zakotveny v platném mezinárodním právu a v jejím vnitrostátním právu.

Článek 5 – Integrita demokratických procesů a respekt k právnímu státu

1)Každá smluvní strana přijme nebo zachová opatření, jejichž cílem je zajistit, aby systémy umělé inteligence nebyly používány k narušování integrity, nezávislosti a účinnosti demokratických institucí a procesů, včetně zásady dělby moci, respektování nezávislosti soudnictví a přístupu ke spravedlnosti.

2)Každá smluvní strana přijme nebo zachová opatření, jejichž cílem je chránit její demokratické procesy v souvislosti s činnostmi během životního cyklu systémů umělé inteligence, včetně spravedlivého přístupu jednotlivců k veřejné diskusi a jejich účasti na ní, jakož i jejich schopnosti svobodně si vytvářet názory.

Kapitola III – Zásady týkající se činností během životního cyklu systémů umělé inteligence

Článek 6 – Obecný přístup

Tato kapitola stanoví obecné společné zásady, které každá smluvní strana uplatňuje v souvislosti se systémy umělé inteligence způsobem odpovídajícím jejímu vnitrostátnímu právnímu systému a ostatním závazkům vyplývajícím z této úmluvy.

Článek 7 – Lidská důstojnost a individuální autonomie

Každá smluvní strana přijme nebo zachová opatření k respektování lidské důstojnosti a individuální autonomie v souvislosti s činnostmi během životního cyklu systémů umělé inteligence.

Článek 8 – Transparentnost a dohled

Každá smluvní strana přijme nebo zachová opatření, která zajistí, aby byly zavedeny odpovídající požadavky na transparentnost a dohled přizpůsobené konkrétním souvislostem a rizikům, pokud jde o činnosti během životního cyklu systémů umělé inteligence, včetně identifikace obsahu vytvářeného systémy umělé inteligence.

Článek 9 – Odpovědnost

Každá smluvní strana přijme nebo zachová opatření k zajištění odpovědnosti za nepříznivé dopady na lidská práva, demokracii a právní stát v důsledku činností během životního cyklu systémů umělé inteligence.

Článek 10 – Rovnost a nediskriminace

1)Každá smluvní strana přijme nebo zachová opatření s cílem zajistit, aby činnosti během životního cyklu systémů umělé inteligence respektovaly rovnost, včetně rovnosti žen a mužů, a zákaz diskriminace, jak stanoví platné mezinárodní a vnitrostátní právo.

2)Každá smluvní strana se zavazuje přijmout nebo zachovat opatření zaměřená na překonání nerovností s cílem dosáhnout spravedlivých a férových výsledků v souladu s platnými vnitrostátními a mezinárodními závazky v oblasti lidských práv v souvislosti s činnostmi během životního cyklu systémů umělé inteligence.

Článek 11 – Ochrana soukromí a osobních údajů

Každá smluvní strana přijme nebo zachová opatření, která zajistí, aby s ohledem na činnosti během životního cyklu systémů umělé inteligence:

a)byla chráněna práva jednotlivců na ochranu na soukromí a jejich osobních údajů, včetně prostřednictvím platného vnitrostátního a mezinárodního práva, norem a rámců, a

b)byly zavedeny účinné záruky a ochranná opatření pro jednotlivce v souladu s platnými vnitrostátními a mezinárodními právními závazky.

Článek 12 – Spolehlivost

Každá smluvní strana přijme podle potřeby opatření na podporu spolehlivosti systémů umělé inteligence a důvěry v jejich výstupy, která by mohla zahrnovat požadavky týkající se odpovídající kvality a bezpečnosti v průběhu celého životního cyklu systémů umělé inteligence.

Článek 13 – Bezpečné inovace

S cílem podpořit inovace a zároveň zabránit nepříznivým dopadům na lidská práva, demokracii a právní stát se každá smluvní strana vyzývá, aby podle potřeby umožnila vytvoření kontrolovaného prostředí pro vývoj systémů umělé inteligence, experimentování s nimi a jejich testování pod dohledem svých příslušných orgánů.

Kapitola IV – Opravné prostředky

Článek 14 – Opravné prostředky

1)Každá smluvní strana přijme nebo zachová opatření k zajištění dostupnosti účinných opravných prostředků v případě porušení lidských práv v důsledku činností během životního cyklu systémů umělé inteligence, a to v rozsahu, v jakém jsou opravné prostředky vyžadovány na základě jejích mezinárodních závazků, a v souladu s jejím vnitrostátním právním systémem.

2)S cílem podpořit výše uvedený odstavec 1 každá smluvní strana přijme nebo zachová opatření, která zahrnují:

a)opatření k zajištění toho, aby příslušné informace týkající se systémů umělé inteligence s potenciálem významně ovlivnit lidská práva a jejich příslušného využití byly zdokumentovány, poskytnuty subjektům oprávněným k přístupu k těmto informacím a případně zpřístupněny nebo sděleny dotčeným osobám;

b)opatření k zajištění toho, aby informace uvedené v písmeni a) byly pro dotčené osoby dostatečné k napadení rozhodnutí, která byla učiněna nebo podstatně ovlivněna použitím systému, i použití samotného systému, je-li to náležité a vhodné, a

c)účinnou možnost dotčených osob podat stížnost příslušným orgánům.

Článek 15 – Procesní záruky

1)Každá smluvní strana zajistí, aby v případech, kdy systém umělé inteligence významně ovlivňuje uplatňování lidských práv, byly osobám, které jsou jím dotčeny, k dispozici účinné procesní záruky, ochranná opatření a práva v souladu s platným mezinárodním a vnitrostátním právem.

2)Každá smluvní strana usiluje o to, aby osoby, které komunikují se systémy umělé inteligence, byly podle kontextu informovány o tom, že komunikují s těmito systémy, a nikoli s člověkem.

Kapitola V – Posuzování a zmírňování rizik a nepříznivých dopadů

Článek 16 – Rámec pro řízení rizik a dopadů

1)Každá smluvní strana s ohledem na zásady stanovené v kapitole III přijme nebo zachová opatření pro identifikaci, posouzení, prevenci a zmírňování rizik, která představují systémy umělé inteligence, přičemž zohlední skutečné a potenciální dopady na lidská práva, demokracii a právní stát.

2)Tato opatření musí být podle potřeby odstupňovaná a diferencovaná a:

a)řádně zohledňovat kontext a zamýšlené využití systémů umělé inteligence, zejména pokud jde o rizika pro lidská práva, demokracii a právní stát;

b)řádně zohledňovat závažnost a pravděpodobnost možných dopadů;

c)v případě potřeby brát v úvahu názory příslušných zúčastněných stran, zejména osob, jejichž práva mohou být ovlivněna;

d)být opakovaně používána na činnosti během životního cyklu systému umělé inteligence;

e)zahrnovat monitorování rizik a nepříznivých dopadů na lidská práva, demokracii a právní stát;

f)zahrnovat dokumentaci rizik, skutečných a potenciálních dopadů a přístup k řízení rizik a

g)případně vyžadovat testování systémů umělé inteligence před jejich prvním použitím a při jejich významných změnách.

3)Každá smluvní strana přijme nebo zachová opatření, jejichž cílem je zajistit, aby byly odpovídajícím způsobem řešeny nepříznivé dopady systémů umělé inteligence na lidská práva, demokracii a právní stát. Tyto nepříznivé dopady a opatření k jejich řešení by měly být zdokumentovány a měly by být podkladem pro příslušná opatření k řízení rizik popsaná v odstavci 2.

4)Každá smluvní strana posoudí potřebu moratoria nebo zákazu či jiných vhodných opatření, pokud jde o určité způsoby použití systémů umělé inteligence, u nichž se domnívá, že jsou neslučitelné s dodržováním lidských práv, fungováním demokracie nebo právního státu.

Kapitola VI – Provádění úmluvy

Článek 17 – Zákaz diskriminace

Smluvní strany zajistí provádění ustanovení této úmluvy bez diskriminace na jakémkoli základě v souladu se svými mezinárodními závazky v oblasti lidských práv.

Článek 18 – Práva osob se zdravotním postižením a dětí

Každá smluvní strana v souladu se svým vnitrostátním právem a platnými mezinárodními závazky náležitě zohlední veškeré specifické potřeby a zranitelnost v souvislosti s dodržováním práv osob se zdravotním postižením a dětí.

Článek 19 – Veřejná konzultace

Každá smluvní strana usiluje o zajištění toho, aby důležité otázky, které vyvstanou v souvislosti se systémy umělé inteligence, byly v příslušných případech řádně posouzeny prostřednictvím veřejné diskuse a mnohostranné konzultace s ohledem na sociální, ekonomické, právní, etické, environmentální a jiné relevantní důsledky.

Článek 20 – Digitální gramotnost a dovednosti

Každá smluvní strana podporuje a prosazuje odpovídající digitální gramotnost a digitální dovednosti pro všechny skupiny obyvatelstva, včetně specifických odborných dovedností pro osoby odpovědné za identifikaci, posouzení, prevenci a zmírňování rizik, která představují systémy umělé inteligence.

Článek 21 – Záruka stávajících lidských práv

Žádné ustanovení této úmluvy nesmí být chápáno tak, že omezuje lidská práva nebo jiná související zákonná práva a povinnosti, které mohou být zaručeny příslušnými právními předpisy smluvní strany nebo jakoukoli jinou příslušnou mezinárodní dohodou, jíž je strana smluvní stranou, nebo se od nich odchyluje či je jinak ovlivňuje.

Článek 22 – Širší ochrana

Žádné z ustanovení této úmluvy nesmí být vykládáno tak, že omezuje nebo jinak ovlivňuje možnost smluvní strany poskytnout širší míru ochrany, než je stanoveno v této úmluvě.

Kapitola VII – Mechanismus následných opatření a spolupráce

Článek 23 – Konference smluvních stran

1)Konference smluvních stran se skládá ze zástupců stran této úmluvy.

2)Smluvní strany vedou pravidelné konzultace s cílem:

a) usnadnit účinné uplatňování a provádění této úmluvy, včetně identifikace jakýchkoli problémů a účinků jakékoli výhrady učiněné podle čl. 34 odst. 1 nebo jakéhokoli prohlášení učiněného podle této úmluvy;

b) zvážit případné doplnění nebo změnu této úmluvy;

c) posoudit záležitosti a vydat konkrétní doporučení týkající se výkladu a uplatňování této úmluvy;

d) usnadnit výměny informací o významném právním, politickém nebo technologickém vývoji, který je důležitý pro provádění této úmluvy, včetně plnění cílů stanovených v článku 25;

e) v případě potřeby usnadňovat smírné řešení sporů souvisejících s uplatňováním této úmluvy a

f) usnadnit spolupráci s příslušnými zúčastněnými stranami, pokud jde o příslušné aspekty provádění této úmluvy, případně i prostřednictvím veřejných jednání.

3)Konferenci smluvních stran svolává generální tajemník Rady Evropy kdykoli je to nutné a v každém případě, když o její svolání požádá většina smluvních stran nebo Výbor ministrů.

4)Konference smluvních stran přijme svůj jednací řád na základě konsensu do dvanácti měsíců od vstupu této úmluvy v platnost.

5)Při výkonu funkcí podle tohoto článku je smluvním stranám nápomocen sekretariát Rady Evropy.

6)Konference smluvních stran může Výboru ministrů navrhnout vhodné způsoby zapojení příslušných odborných znalostí na podporu účinného provádění této úmluvy.

7)Na financování činností konference smluvních stran přispívá každá smluvní strana, která není členem Rady Evropy. Příspěvek smluvní strany, která není členem Rady Evropy, stanoví společně Výbor ministrů a tato smluvní strana.

8)Konference smluvních stran může rozhodnout o omezení účasti smluvní strany na své činnosti, pokud tato smluvní strana přestala být členem Rady Evropy podle článku 8 Statutu Rady Evropy (ETS č. 1) z důvodu závažného porušení článku 3 statutu. Podobně lze přijmout opatření vůči kterékoli smluvní straně, která není členských státem Rady Evropy, rozhodnutím Výboru ministrů o ukončení vztahů s tímto státem z důvodů podobných těm, které jsou uvedeny v článku 3 statutu.

Článek 24 – Povinnost podávat zprávy

1)Každá smluvní strana předloží konferenci smluvních stran během prvních dvou let poté, co se stala smluvní stranou, a poté pravidelně zprávu s podrobnými informacemi o činnostech, které byly podniknuty k provedení čl. 3 odst. 1 písm. a) a b).

2)Konference smluvních stran určí formát a postup pro vypracování zprávy v souladu se svým jednacím řádem.

Článek 25 – Mezinárodní spolupráce

1)Smluvní strany při naplňování účelu této úmluvy spolupracují. Smluvní strany se dále vyzývají, aby podle potřeby pomáhaly státům, které nejsou smluvními stranami této úmluvy, jednat v souladu s podmínkami této úmluvy a stát se jejími smluvními stranami.

2)Smluvní strany si podle potřeby vyměňují relevantní a užitečné informace o aspektech souvisejících s umělou inteligencí, které mohou mít významné pozitivní nebo negativní účinky na uplatňování lidských práv, fungování demokracie a dodržování zásad právního státu, včetně rizik a účinků, které vyvstaly v kontextu výzkumu a ve vztahu k soukromému sektoru. Smluvní strany se vyzývají, aby do této výměny informací případně zapojily příslušné zúčastněné strany a státy, které nejsou smluvními stranami této úmluvy.

3)Smluvní strany se vyzývají, aby posílily spolupráci, případně i s příslušnými zúčastněnými stranami, s cílem předcházet rizikům a nepříznivým dopadům na lidská práva, demokracii a právní stát v souvislosti s činnostmi během životního cyklu systémů umělé inteligence a zmírňovat je.

Článek 26 – Účinné mechanismy dohledu

1)Každá smluvní strana zřídí nebo určí jeden nebo více účinných mechanismů pro dohled nad dodržováním povinností stanovených v této úmluvě.

2)Každá smluvní strana zajistí, aby tyto mechanismy vykonávaly své povinnosti nezávisle a nestranně a aby měly potřebné pravomoci, odborné znalosti a zdroje k účinnému plnění svých úkolů v oblasti dohledu nad dodržováním povinností stanovených v této úmluvě a provedených smluvními stranami.

3)V případě, že smluvní strana zavedla více než jeden takový mechanismus, přijme, pokud je to možné, opatření k usnadnění účinné spolupráce mezi nimi.

4)V případě, že smluvní strana zavedla jiné mechanismy než stávající struktury pro lidská práva, přijme, pokud je to proveditelné, opatření na podporu účinné spolupráce mezi mechanismy uvedenými v odstavci 1 a stávajícími vnitrostátními strukturami pro lidská práva.

Kapitola VIII – Závěrečná ustanovení

Článek 27 – Účinky úmluvy

1)Pokud dvě nebo více smluvních stran již uzavřely dohodu nebo smlouvu o záležitostech upravených touto úmluvou nebo jinak navázaly vztahy v těchto záležitostech, jsou rovněž oprávněny tuto dohodu nebo smlouvu uplatňovat nebo tyto vztahy odpovídajícím způsobem upravovat, pokud tak činí způsobem, který není v rozporu s předmětem a účelem této úmluvy.

2)Smluvní strany, které jsou členy Evropské unie, uplatňují ve svých vzájemných vztazích předpisy Evropské unie upravující záležitosti v oblasti působnosti této úmluvy, aniž je tím dotčen cíl a účel úmluvy a její plné uplatňování ve vztahu k jiným stranám. Totéž platí pro ostatní smluvní strany v rozsahu, v jakém jsou těmito předpisy vázány.

Článek 28 – Změny

1)Změny této úmluvy může navrhnout kterákoli smluvní strana, Výbor ministrů Rady Evropy nebo konference smluvních stran.

2)Každý návrh na změnu sdělí generální tajemník Rady Evropy smluvním stranám.

3)Každá změna navržená smluvní stranou nebo Výborem ministrů se sdělí konferenci smluvních stran, která předloží Výboru ministrů své stanovisko k navrhované změně.

4)Výbor ministrů navrhovanou změnu a stanovisko předložené konferencí smluvních stran uváží a může ji schválit.

5)Text každé změny schválené Výborem ministrů v souladu s odstavcem 4 se předloží smluvním stranám k přijetí.

6)Jakákoli změna schválená v souladu s odstavcem 4 vstoupí v platnost třicátým dnem poté, co všechny strany informovaly generálního tajemníka o jejím přijetí.

Článek 29 – Řešení sporů

V případě sporu mezi smluvními stranami ohledně výkladu nebo uplatňování této úmluvy budou tyto smluvní strany usilovat o jeho urovnání jednáním nebo jinými smírnými prostředky podle vlastní volby, včetně konference smluvních stran, jak je stanoveno v čl. 23 odst. 2 písm. e).

Článek 30 – Podpis a vstup v platnost

1)Tato úmluva je otevřena k podpisu členským státům Rady Evropy, státům, které nejsou členy Rady Evropy a podílely se na návrhu této úmluvy, a Evropské unii.

2)Tato úmluva podléhá ratifikaci, přijetí nebo schválení. Listiny o ratifikaci, přijetí nebo schválení se uloží u generálního tajemníka Rady Evropy.

3)Tato úmluva vstupuje v platnost prvním dnem měsíce, který následuje po uplynutí lhůty tří měsíců od data, kdy pět signatářů, včetně alespoň tří členských států Rady Evropy, vyjádřilo v souladu s odstavcem 2 svůj souhlas s tím, aby byli touto úmluvou vázáni.

4)Pokud jde o signatáře, který svůj souhlas být vázán touto úmluvou vyjádří později, úmluva vstoupí v platnost prvním dnem měsíce, který následuje po uplynutí lhůty tří měsíců od data uložení jeho listiny o ratifikaci, přijetí nebo schválení.

Článek 31 – Přistoupení

1)Po vstupu této úmluvy v platnost může Výbor ministrů Rady Evropy po konzultaci se stranami této úmluvy a po obdržení jejich jednomyslného souhlasu vyzvat kterýkoli stát, který není členem Rady Evropy a který se nepodílel na vypracování této úmluvy, aby k této úmluvě přistoupil rozhodnutím přijatým většinou stanovenou v čl. 20 písm. d) Statutu Rady Evropy a jednomyslným odhlasováním zástupců smluvních stran oprávněných zasedat ve Výboru ministrů.

2)Pokud jde o přistupující stát, tato úmluva vstupuje v platnost prvním dnem měsíce, který následuje po uplynutí tří měsíců od data uložení listiny o přistoupení u generálního tajemníka Rady Evropy.

Článek 32 – Územní působnost

1)Každý stát nebo Evropská unie může při podpisu nebo při uložení své listiny o ratifikaci, přijetí, schválení nebo přistoupení vymezit území, na které či na která se tato úmluva vztahuje.

2)Každá smluvní strana může kdykoli později prostřednictvím prohlášení adresovaného generálnímu tajemníkovi Rady Evropy rozšířit působnost této úmluvy na jakékoli další území vymezené v prohlášení. Pro takové území vstupuje tato úmluva v platnost prvním dnem měsíce, který následuje po uplynutí tří měsíců od data doručení daného oznámení generálnímu tajemníkovi.

3)Každé prohlášení uskutečněné podle předchozích dvou odstavců může být pro každé území, které je v tomto prohlášení uvedeno, odvoláno oznámením adresovaným generálnímu tajemníkovi Rady Evropy. Odvolání nabývá účinku prvním dnem měsíce následujícího po uplynutí období tří měsíců po datu, kdy takové oznámení generální tajemník obdrží.

Článek 33 – Federální doložka

1)Federální stát si může vyhradit právo převzít závazky podle této úmluvy v souladu se svými základními zásadami, jež upravují vztah mezi jeho ústřední vládou a jednotlivými státy, které daný federální stát tvoří, nebo jinými podobnými územními jednotkami, za předpokladu, že se tato úmluva použije na ústřední vládu federálního státu.

2)Pokud jde o ustanovení této úmluvy, jejíž uplatňování spadá do pravomoci jednotlivých států, které daný federální stát tvoří, nebo jiných podobných územních jednotek, jež nejsou podle ústavního systému federace povinny přijímat legislativní opatření, federální vláda informuje příslušné orgány těchto států o uvedených ustanoveních společně se svým kladným stanoviskem a vybídne je, aby podnikly náležité kroky k jejich provedení.

Článek 34 – Výhrady

1)Při podpisu nebo při uložení své listiny o ratifikaci, přijetí, schválení nebo přistoupení může kterýkoliv stát v písemném oznámení určeném generálnímu tajemníkovi Rady Evropy prohlásit, že využije výhradu stanovenou v čl. 33 odst. 1.

2)K této úmluvě nelze učinit žádnou jinou výhradu.

Článek 35 – Vypovězení

1)Kterákoli ze stran může tuto úmluvu kdykoli vypovědět oznámením zaslaným generálnímu tajemníkovi Rady Evropy.

2)Taková výpověď nabude účinnosti prvním dnem měsíce následujícího po uplynutí období tří měsíců po datu, kdy oznámení generální tajemník obdrží.

Článek 36 – Oznamování

Generální tajemník Rady Evropy oznámí členským státům Rady Evropy, státům, které nejsou členy Rady Evropy a podílely se na návrhu této úmluvy, Evropské unii, každému signatářskému státu, každému smluvnímu státu, každé smluvní straně nebo každému státu, který byl vyzván, aby přistoupil k této úmluvě:

a)každý podpis;

b)uložení každé listiny o ratifikaci, přijetí, schválení nebo přistoupení;

c)každé datum vstupu této úmluvy v platnost v souladu s čl. 30 odst. 3 a 4 a čl. 31 odst. 2;

d)jakoukoli změnu přijatou v souladu s článkem 28 a datum vstupu této změny v platnost;

e)jakékoli prohlášení učiněné podle čl. 3 odst. 1 písm. b);

f)jakoukoli výhradu a odvolání výhrady učiněné podle článku 34;

g)jakékoliv vypovězení učiněné podle článku 35;

h)každý další akt, prohlášení, oznámení nebo sdělení týkající se této úmluvy.

Na důkaz čehož níže podepsaní, jsouce k tomu řádně zmocněni, podepsali tuto úmluvu.

V … [místo] dne … [měsíc] 202[4] v jazyce anglickém a francouzském, přičemž obě znění mají stejnou platnost, v jediném vyhotovení, které bude uloženo v archivu Rady Evropy. Generální tajemník Rady Evropy zašle ověřené opisy každému členskému státu Rady Evropy, státům, které nejsou členy Rady Evropy a podílely se na návrhu této úmluvy, Evropské unii a každému státu, který byl vyzván, aby k této úmluvě přistoupil.