(1)

Rozhodnutím (EU) 2022/2349 (1) zmocnila Rada Komisi k zahájení jednání jménem Unie o úmluvě Rady Evropy o umělé inteligenci a lidských právech, demokracii a právním státu. Dne 17. května 2024 byla jednání úspěšně završena parafováním Rámcové úmluvy o umělé inteligenci a lidských právech, demokracii a právním státu (dále jen „úmluva“) a jejím přijetím Výborem ministrů Rady Evropy.

(2)

Úmluva stanoví obecné zásady a povinnosti, které by měly smluvní strany úmluvy dodržovat, aby zajistily ochranu lidských práv, demokracie a právního státu v souvislosti s činnostmi během životního cyklu systémů umělé inteligence (AI).

(3)

Dne 13. června 2024 přijaly Evropský parlament a Rada na základě článků 16 a 114 Smlouvy o fungování Evropské unie (dále jen „Smlouvy o fungování EU“) nařízení Evropského parlamentu a Rady (EU) 2024/1689 (2), které zahrnuje obecně plně harmonizovaná pravidla upravující uvádění na trh, uvádění do provozu a používání systémů AI v Unii. Tato pravidla jsou přímo použitelná v členských státech, pokud uvedené nařízení výslovně nestanoví jinak. Úmluva má být v Unii prováděna výhradně prostřednictvím nařízení (EU) 2024/1689 a případného dalšího relevantního acquis Unie.

(4)

Činnosti v rámci životního cyklu systémů AI související s ochranou zájmů národní bezpečnosti jsou z oblasti působnosti úmluvy vyloučeny. Nařízení (EU) 2024/1689, které bude hlavním právním aktem Unie provádějícím úmluvu, ze své oblasti působnosti vylučuje rovněž používání systémů AI uváděných na trh či do provozu nebo používaných, se změnami nebo bez nich, výhradně pro účely národní bezpečnosti a výstupy ze systémů AI používaných v Unii výhradně pro tyto účely, bez ohledu na typ subjektu, který tyto činnosti provádí. Národní bezpečnost navíc zůstává výhradní odpovědností každého členského státu, jak je stanoveno v čl. 4 odst. 2 Smlouvy o Evropské unii (dále jen „Smlouva o EU“). Postoj Unie vyjádřený na konferenci stran zřízené úmluvou by proto měl respektovat výše uvedená omezení. Komise by zejména neměla na zasedáních konference stran projednávat činnosti v rámci životního cyklu systémů umělé inteligence, které se týkají ochrany zájmů národní bezpečnosti, ani k nim zaujímat postoj.

(5)

Vzhledem k tomu, že se osobní a věcná působnost úmluvy i její hmotněprávní ustanovení v široké míře shodují s nařízením (EU) 2024/1689, které je doplněno dalším relevantním acquis Unie, může uzavření úmluvy ovlivnit společná pravidla Unie nebo změnit jejich působnost ve smyslu čl. 3 odst. 2 Smlouvy o fungování EU. Další relevantní acquis Unie zahrnuje právní akty, jejichž cílem je provádět základní práva zakotvená v Listině základních práv Evropské unie, jako jsou právní předpisy Unie o zákazu diskriminace, včetně směrnic Rady 2000/43/ES (3) a 2000/78/ES (4), acquis Unie v oblasti ochrany osobních údajů, včetně nařízení Evropského parlamentu a Rady (EU) 2016/679 (5) a (EU) 2022/2065 (6), jejichž cílem je zajistit bezpečné, předvídatelné a důvěryhodné online prostředí, v němž jsou dodržována základní práva, včetně práva na svobodu projevu a práva přijímat a rozšiřovat informace, nařízení Evropského parlamentu a Rady (EU) 2024/900 (7) nebo právní předpisy týkající se bezpečnosti výrobků a právní předpisy týkající se odpovědnosti za vadné výrobky, včetně směrnice Rady 85/374/EHS (8). V důsledku toho má Unie výlučnou vnější pravomoc k podpisu úmluvy. Proto by se smluvní stranou úmluvy měla stát pouze Unie, s výhradou jejího pozdějšího uzavření.

(6)

Konference stran bude hrát významnou úlohu při účinném provádění úmluvy, mimo jiné vydáváním konkrétních doporučení týkajících se jejího výkladu a uplatňování. Konference stran rovněž zváží možné změny úmluvy. V souladu s čl. 218 odst. 9 Smlouvy o fungování EU by Rada měla na návrh Komise přijmout rozhodnutí stanovující postoje, které mají být jménem Unie zaujaty na konferenci stran, má-li tento orgán přijímat akty s právními účinky, zejména jednací řád konference stran. Při sjednávání tohoto jednacího řádu, který má být přijat konsensem do dvanácti měsíců od vstupu této úmluvy v platnost, bude Unie usilovat o to, aby jí bylo přiděleno 27 hlasů, což odpovídá počtu jejích členských států. Bude-li Unii 27 hlasů přiděleno, měla by Komise zastupující Unii zajistit posílenou koordinaci s členskými státy s cílem vyjádřit před konferencí stran jednotné postoje a uplatnit jménem Unie své hlasovací právo. Tato posílená koordinace je obzvláště důležitá vzhledem k tomu, že členy Rady Evropy jsou též všechny členské státy, a s ohledem na rychle se vyvíjející povahu umělé inteligence, jakož i na potřebu mít v této oblasti soudržný celosvětově použitelný rámec. Za účelem zajištění posílené koordinace by Rada měla být zapojena do formulování všech postojů bez ohledu na jejich povahu, včetně těch založených na čl. 16 odst. 1 Smlouvy o EU a čl. 218 odst. 9 Smlouvy o fungování EU. Pokud by se Unii navzdory jejímu veškerému úsilí nepodařilo dosáhnout přidělení 27 hlasů, měla by Komise, s cílem zajistit v Radě Evropy pro Unii počet hlasů odpovídající jejímu významu a umožňující odpovídajícím způsobem hájit její zájmy, navrhnout, aby v souladu s čl. 2 odst. 1 Smlouvy o fungování EU a při plném respektování výlučné pravomoci Unie byly členské státy zmocněny k přistoupení k této úmluvě společně s Unií.

(7)

Komise vyzve každý členský stát, aby vyslal jednoho zástupce, který bude na zasedáních konference stran doprovázet v rámci delegace Unie zastoupení Komise. Má být respektována zásada loajální spolupráce.

(8)

Pokud jde o jakoukoliv jinou dohodu, která může být v budoucnu uzavřena pod záštitou Rady Evropy nebo na jiných mezinárodních fórech, a to i v oblasti umělé inteligence, jakož i o jakoukoliv změnu úmluvy, mělo by být rozdělení vnějších pravomocí mezi Unii a členské státy posuzováno s ohledem na zvláštnosti každého takového nástroje. Je nanejvýš důležité, aby Unie a její členské státy mohly i nadále hrát přímou a aktivní úlohu při vyjadřování stanovisek Unie a při hájení jejích zájmů, důsledným a koordinovaným způsobem a plně v souladu se Smlouvami.

(9)

V souladu se Smlouvami by Komise měla zajistit podpis úmluvy s výhradou jejího pozdějšího uzavření,