EURÓPSKA KOMISIA
V Bruseli19. 9. 2025
COM(2025) 518 final
2025/0291(NLE)
Návrh
ROZHODNUTIE RADY
o pozícii, ktorá sa má zaujať v mene Európskej únie k návrhu odporúčania Výboru ministrov Rady Európy o rovnosti a umelej inteligencii
EURÓPSKA KOMISIA
V Bruseli19. 9. 2025
COM(2025) 518 final
2025/0291(NLE)
Návrh
ROZHODNUTIE RADY
o pozícii, ktorá sa má zaujať v mene Európskej únie k návrhu odporúčania Výboru ministrov Rady Európy o rovnosti a umelej inteligencii
DÔVODOVÁ SPRÁVA
1.Predmet návrhu
Tento návrh sa týka rozhodnutia, ktorým sa stanovuje pozícia, ktorá sa má v mene Únie zaujať vo Výbore ministrov Rady Európy (ďalej len „Výbor ministrov“) k plánovanému prijatiu odporúčania Rady Európy o rovnosti a umelej inteligencii (ďalej len „odporúčanie“). Odporúčanie pripravil Výbor expertov pre umelú inteligenciu, rovnosť a diskrimináciu („GEC/ADI-AI“) a očakáva sa, že bude schválené na spoločnom plenárnom zasadnutí Komisie pre rodovú rovnosť („GEC“) a Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie („CDADI“) 18. – 20. novembra 2025 s cieľom predložiť odporúčanie na prijatie Výboru ministrov Rady Európy do konca roka 2025.
2.Kontext návrhu
2.1.Výbor ministrov Rady Európy
Výbor ministrov je rozhodovací orgán Rady Európy zložený z ministrov zahraničných vecí alebo stálych predstaviteľov 46 členských štátov Rady Európy v Štrasburgu. Úloha a funkcie Výboru ministrov sú opísané v kapitole IV Štatútu Rady Európy (ďalej len „štatút“). V súlade s článkom 14 štatútu má každý člen Rady Európy právo na jedného zástupcu vo Výbore ministrov, pričom každý z týchto zástupcov má jeden hlas. Všetky členské štáty Európskej únie sú členmi Rady Európy, a preto sú zastúpené vo Výbore ministrov. EÚ má štatút pozorovateľa bez hlasovacieho práva.
2.2.Výbor expertov pre umelú inteligenciu, rovnosť a diskrimináciu
Výbor expertov pre umelú inteligenciu, rovnosť a diskrimináciu je spoločný podvýbor Komisie pre rodovú rovnosť a Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie, ktorého úlohou je na základe poverenia Výboru ministrov vypracovať do konca roka 2025 odporúčanie o vplyve systémov umelej inteligencie, ich potenciáli na podporu rovnosti vrátane rodovej rovnosti a rizikách, ktoré môžu spôsobiť v súvislosti s nediskrimináciou.
Výbor expertov pre umelú inteligenciu, rovnosť a diskrimináciu sa skladá z ôsmich zástupcov členských štátov Rady Európy, štyroch z Komisie pre rodovú rovnosť a štyroch z Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie, ako aj zo šiestich nezávislých expertov s uznávanými odbornými znalosťami v oblasti umelej inteligencie, ľudských práv, rovnosti vrátane rodovej rovnosti a nediskriminácie. Každý člen Výboru expertov pre umelú inteligenciu, rovnosť a diskrimináciu má jeden hlas. EÚ je účastníkom bez hlasovacieho práva.
Komisia pre rodovú rovnosť aj Riadiaci výbor pre nediskrimináciu, rozmanitosť a začlenenie sú zložené zo zástupcov 46 členských štátov Rady Európy, z ktorých každý má jeden hlas. Okrem toho sa na ich plenárnych zasadnutiach zúčastňujú zástupcovia rôznych orgánov Rady Európy, medzivládnych organizácií, zástupcovia štátov so štatútom pozorovateľa, mimovládnych organizácií a špecializovaných inštitúcií. Zástupcovia Európskej únie sa príležitostne zúčastňujú na plenárnych zasadnutiach bez hlasovacieho práva.
2.3.Rámcový dohovor Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte
Dňa 17. mája 2024 prijal Výbor ministrov Rámcový dohovor Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (ďalej len „rámcový dohovor“), právne záväznú zmluvu, ktorej cieľom je zabezpečiť, aby činnosti počas životného cyklu systémov umelej inteligencie boli v plnej miere v súlade s ľudskými právami, demokraciou a právnym štátom a aby sa nimi zároveň podporoval technologický pokrok a inovácie.
Rámcový dohovor sa vzťahuje na systémy umelej inteligencie, ktoré by mohli zasahovať do ľudských práv, demokracie a právneho štátu. Zásady a povinnosti vyplývajúce z rámcového dohovoru sa budú uplatňovať na činnosti počas životného cyklu systémov umelej inteligencie, ktoré vykonávajú orgány verejnej moci alebo súkromné subjekty konajúce v ich mene. Zmluvné strany dohovoru sú takisto povinné riešiť riziká a vplyvy vyplývajúce z činností počas životného cyklu systémov umelej inteligencie vykonávaných súkromnými subjektmi spôsobom vyhovujúcim cieľom a účelu dohovoru, ale môžu sa rozhodnúť, či budú uplatňovať povinnosti vyplývajúce z dohovoru alebo prijmú iné primerané opatrenia. V dohovore sa stanovuje ďalší súbor všeobecných povinností a základných zásad týkajúcich sa ochrany ľudskej dôstojnosti a osobnej nezávislosti, ako aj podpory rovnosti a nediskriminácie. Okrem toho sa v ňom stanovuje povinnosť rešpektovať súkromie a ochranu osobných údajov popri dodržiavaní transparentnosti a dohľade s cieľom zabezpečiť zodpovednosť a vyvodzovanie zodpovednosti. Stanovuje sa aj zásada zameraná na bezpečné inovácie a experimentovanie v kontrolovaných prostrediach.
Súčasťou dohovoru je aj súbor opatrení, ktorých cieľom je zabezpečiť, aby boli k dispozícii dostupné a účinné prostriedky nápravy v prípade porušení ľudských práv vyplývajúcich z činností počas životného cyklu systémov umelej inteligencie. Obsahuje aj účinné procesné záruky pre osoby, ktorých práva boli významne ovplyvnené používaním systémov umelej inteligencie. Okrem toho by sa všetky osoby mali upozorniť na to, že interagujú so systémom umelej inteligencie, a nie so živou ľudskou bytosťou.
Dohovor takisto obsahuje opatrenia týkajúce sa posudzovania a zmierňovania rizík a nepriaznivých vplyvov, ktoré sa majú vykonávať opakovane, aby sa určil skutočný a potenciálny dosah na ľudské práva, demokraciu a právny štát a mohli sa prijať vhodné preventívne a zmierňujúce opatrenia.
V dohovore sa napokon stanovuje, že jeho zmluvné strany by mali posúdiť potrebu vydávať zákazy určitých aplikácií systémov umelej inteligencie alebo moratóriá na ne, ak sa považujú za nezlučiteľné s dodržiavaním ľudských práv, fungovaním demokracie alebo so zásadami právneho štátu.
Každá zmluvná strana dohovoru by mala na vnútroštátnej úrovni vytvoriť alebo určiť jeden alebo viacero účinných mechanizmov s cieľom dohliadať na dodržiavanie povinností stanovených v dohovore, ako ich vykonali zmluvné strany.
Únia podpísala dohovor 5. septembra 2024 po prijatí rozhodnutia Rady (EÚ) 2024/2218 z 28. augusta 2024 o podpise rámcového dohovoru v mene Európskej únie. Dohovor podpísali aj Andorra, Čierna Hora, Gruzínsko, Island, Izrael, Japonsko, Kanada, Lichtenštajnsko, Moldavská republika, Nórsko, San Maríno, Spojené kráľovstvo, Spojené štáty americké, Švajčiarsko a Ukrajina.
Komisia 3. júna 2025 prijala návrh rozhodnutia Rady začať proces uzavretia rámcového dohovoru v mene Únie za podmienok stanovených v rozhodnutí Rady 2024/2218.
V rámci Únie sa má rámcový dohovor vykonávať výlučne prostredníctvom nariadenia Európskeho parlamentu a Rady (EÚ) 2024/1689, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (ďalej len „akt o umelej inteligencii“) 1 , a prípadne prostredníctvom iného relevantného acquis Únie 2 . Akt o umelej inteligencii predstavuje komplexný právny predpis v oblasti umelej inteligencie, ktorého cieľom je podporovať inovácie a zavádzanie dôveryhodnej umelej inteligencie a zároveň chrániť zdravie, bezpečnosť a základné práva zakotvené v Charte základných práv Európskej únie (ďalej len „charta“) vrátane práva na nediskrimináciu a rodovú rovnosť. Akt o umelej inteligencii obsahuje harmonizované pravidlá, všeobecne založené na úplnej harmonizácii, ktoré upravujú uvádzanie na trh, uvádzanie do prevádzky a používanie systémov umelej inteligencie v Únii. Uvedené pravidlá sú priamo uplatniteľné v členských štátoch, pokiaľ sa v uvedenom nariadení výslovne neuvádza inak.
2.4.Plánované odporúčanie Rady Európy o rovnosti a umelej inteligencii
Odporúčanie sa zameriava na potenciál umelej inteligencie podporovať rovnosť vrátane rodovej rovnosti a na riziká, ktoré môže predstavovať v súvislosti s nediskrimináciou. Jeho cieľom bude doplniť všeobecný rámec stanovený rámcovým dohovorom, pokiaľ ide o zásadu rovnosti v oblasti umelej inteligencie a ľudských práv, demokracie a právneho štátu (CETS č. 225), a vypracovaný v úzkej spolupráci s Výborom pre umelú inteligenciu.
Odporúčanie vychádza zo Štúdie o vplyve systémov umelej inteligencie, ich potenciáli na podporu rovnosti vrátane rodovej rovnosti a rizikách, ktoré môžu spôsobiť v súvislosti s nediskrimináciou, ktorú schválili Komisia pre rodovú rovnosť a Riadiaci výbor pre nediskrimináciu, rozmanitosť a začlenenie v roku 2023 3 . V štúdii sa identifikovali štyri vzájomne sa dopĺňajúce možnosti regulačných a politických zásahov na zabezpečenie spoľahlivého prístupu k umelej inteligencii založeného na právach, a to 1. prevencia, transparentnosť a zodpovednosť; 2. prístup k spravodlivosti a právnym mechanizmom nápravy; 3. rozmanitosť, začlenenie, zastúpenie a účasť; 4. demokratická účasť, zvyšovanie informovanosti verejnosti a budovanie kapacít.
Rada Európy s cieľom získať podnety od zainteresovaných strán a zainteresovanej verejnosti uskutočnila od 10. marca 2025 do 28. apríla 2025 verejnú konzultáciu o návrhu odporúčania.
Návrh odporúčania bol prerokovaný na zasadnutiach Výboru expertov pre umelú inteligenciu, rovnosť a diskrimináciu 25. – 26. septembra 2024 a 26. – 27. februára 2025. Posledné zasadnutie expertnej skupiny sa má uskutočniť 7. – 9. októbra 2025, pričom sa na ňom dokončí návrh znenia odporúčania. Pred týmto zasadnutím bola koncom júla rozoslaná piata revidovaná verzia odporúčania [referenčné označenie GEC/ADI-AI(2024)7rev5].
Návrh odporúčania bol prerokovaný aj na zasadnutiach Komisie pre rodovú rovnosť a Riadiaceho výboru pre boj proti diskriminácii, rozmanitosť a inklúziu v novembri 2024 a má byť schválený na spoločnom plenárnom zasadnutí Komisie pre rodovú rovnosť a Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie v dňoch 18. – 20. novembra 2025, aby mohol byť predložený Výboru ministrov. Výbor ministrov má v úmysle formálne prijať odporúčanie do jari 2026.
Cieľom plánovaného odporúčania je „pomáhať členským štátom pri presadzovaní rovnosti vrátane rodovej rovnosti a pri predchádzaní všetkým formám diskriminácie a boji proti nim vo všetkých ich činnostiach a činnostiach subjektov verejného a súkromného sektora počas životného cyklu systémov umelej inteligencie“.
Odporúčaním by sa nevytvárali právne záväzné účinky a povinnosti a bolo by založené na dobrovoľnom uplatňovaní členskými štátmi Rady Európy. V súlade s článkom 15 písm. b) štatútu však Výbor ministrov môže požiadať vlády členských štátov, aby ho „informovali o opatreniach, ktoré prijali“ v súvislosti s odporúčaniami.
3.Pozícia, ktorá sa má zaujať v mene Únie
Navrhuje sa, aby Únia súhlasila s prijatím návrhu odporúčania Výborom ministrov za predpokladu, že sa zabezpečí súlad s acquis Únie, najmä s aktom o umelej inteligencii, a súdržnosť s rámcovým dohovorom Rady Európy. Súčasný návrh odporúčania (rev5 z júla 2025) ešte nie je úplne konzistentný.
Konkrétnejšie by Únia mala súhlasiť s prijatím návrhu odporúčania pod podmienkou, že sa odporúčaním rešpektujú tieto požiadavky:
1.Opatrenia týkajúce sa subjektov počas životného cyklu systémov umelej inteligencie neprekračujú povinnosti stanovené v akte o umelej inteligencii, ktorým sa vo všeobecnosti v plnej miere harmonizujú pravidlá pre umelú inteligenciu v Únii, a to aj v oblasti rovnosti.
Odporúčaním by sa mala predovšetkým umožniť dostatočná flexibilita pri vykonávaní aktu o umelej inteligencii (v súlade s prístupom rámcového dohovoru), čo by si vyžadovalo vhodné zmeny odkazov na potrebu prijať „účinné opatrenia“ v odsekoch 7, 9, 10 a 36 návrhu odporúčania.
·opatrenia navrhované v odsekoch 9, 10.1 a 18.2 návrhu odporúčania by sa mali vhodným spôsobom zmeniť, aby sa predišlo odporúčaniam na zavedenie dodatočných pozitívnych povinností v súvislosti s podporou rovnosti zo strany poskytovateľov systémov umelej inteligencie a subjektov nasadzujúcich systémy umelej inteligencie,
·ustanovenia odseku 5.1 návrhu odporúčania by sa mali vhodným spôsobom upraviť, aby sa predišlo nešpecifickému obmedzeniu používania umelej inteligencie, čo nie je v súlade s prístupom EÚ k regulácii umelej inteligencie a s politikou EÚ v oblasti inovácií.
2.Formulácia opatrení a noriem v rámci odporúčania sa v texte objasní tak, aby sa zabezpečila terminologická aj vecná konzistentnosť a interoperabilita s právnym rámcom Únie.
·V odseku 18 by sa mali najmä vykonať vhodné úpravy odkazov na „jednotné normy“ s cieľom zabezpečiť dostatočnú flexibilitu pri vykonávaní a odkazov na „zaujatosť“ s cieľom zabezpečiť, aby opatrenia zostali primerané a zamerané na ujmu.
3.Záruky týkajúce sa postupov ľudského posúdenia a odvolania (v odseku 16a) sa upravia vhodným spôsobom v súlade s aktom o umelej inteligencii aj rámcovým dohovorom, čím sa zabezpečí súdržnosť medzi týmito dvoma nástrojmi a zároveň sa predíde zavedeniu osobitných povinností v oblasti umelej inteligencie pre poskytovateľov systémov umelej inteligencie a subjekty nasadzujúce systémy umelej inteligencie, ktoré sa nezamýšľajú v acquis Únie 4 .
4.Rozsah odvetví uvedených na konci odseku 36 návrhu odporúčania, ktoré si vyžadujú osobitnú pozornosť, sa zmení s cieľom zabezpečiť, aby bol konzistentný a nepresahoval vysokorizikové oblasti vymedzené v akte o umelej inteligencii (prílohy I a III), čím sa predíde zahrnutiu odvetví, ktoré v ňom nie sú uvedené, alebo sa takéto odkazy preformulujú v zmysle monitorovacích opatrení alebo iných dostatočne flexibilných prístupov 5 .
4.Právny základ
4.1.Procesnoprávny základ
4.1.1.Zásady
V článku 218 ods. 9 Zmluvy o fungovaní Európskej únie (ZFEÚ) sa stanovujú rozhodnutia, ktorými sa určujú „pozície, ktoré sa majú prijať v mene Únie v rámci orgánu zriadeného dohodou, keď je tento orgán vyzvaný prijať akty s právnymi účinkami s výnimkou aktov dopĺňajúcich alebo meniacich inštitucionálny rámec danej dohody“.
Článok 218 ods. 9 ZFEÚ sa uplatňuje bez ohľadu na to, či je Únia členom predmetného orgánu alebo zmluvnou stranou dohody 6 .
Pojem „akty s právnymi účinkami“ zahŕňa akty, ktoré majú právne účinky na základe pravidiel medzinárodného práva, ktorým sa riadi predmetný orgán. Zahŕňa aj nástroje, ktoré nemajú záväzný účinok podľa medzinárodného práva, ale „môžu rozhodujúcim spôsobom ovplyvniť obsah právnej úpravy prijatej normotvorcom EÚ“ 7 .
4.1.2.Uplatnenie na tento prípad
Ako sa uvádza v oddiele 2, odporúčanie má prijať Výbor ministrov, ktorý je orgánom zriadeným medzinárodnou dohodou, pričom môže vyvolať právne účinky tým, že ovplyvní spôsob vykonávania a uplatňovania aktu o umelej inteligencii.
Konkrétne sa v niektorých ustanoveniach aktu o umelej inteligencii výslovne uvádza, že pri vykonávaní aktu o umelej inteligencii by sa mali zohľadniť existujúce „medzinárodné prístupy“ a „medzinárodné normy“. Napríklad v článku 40 ods. 3 aktu o umelej inteligencii sa stanovuje, že účastníci procesu normalizácie musia zohľadniť „existujúce medzinárodné normy v oblasti AI, ktoré sú v súlade s hodnotami, základnými právami a záujmami Únie“. V odporúčaní sa stanoví usmernenie o podpore rovnosti v životnom cykle systémov umelej inteligencie, ktoré by mohlo predstavovať jedno z kritérií, na základe ktorých sa posudzujú harmonizované normy. Zároveň sa v článku 56 ods. 1 aktu o umelej inteligencii vyžaduje, aby Úrad pre AI pri uľahčovaní vypracúvania kódexov postupov na úrovni Únie zohľadňoval „medzinárodné prístupy“. Prvý kódex postupov pre modely umelej inteligencie na všeobecné účely už bol dokončený a Komisia ho posúdila ako primeraný pre poskytovateľov modelov umelej inteligencie na všeobecné účely na preukázanie súladu s príslušnými povinnosťami aktu o umelej inteligencii.
V súlade s článkom 56 ods. 6 prvým pododsekom aktu o umelej inteligencii musia Úrad pre AI a rada pre AI pravidelne monitorovať a hodnotiť, ako účastníci plnia ciele kódexov postupov a ako prispievajú k riadnemu uplatňovaniu tohto nariadenia.
V predpokladanom čase prijatia odporúčania sa už dosiahne ďalší pokrok, pokiaľ ide o práce na harmonizovaných normách, pričom kódex postupov pre modely umelej inteligencie na všeobecné účely v rámci aktu o umelej inteligencii sa už dokončil. Odporúčanie by mohlo byť relevantné pre budúce aktualizácie kódexu postupov a noriem.
Procesnoprávnym základom navrhovaného rozhodnutia je preto článok 218 ods. 9 ZFEÚ.
4.2.Hmotnoprávny základ
4.2.1.Zásady
Hmotnoprávny základ rozhodnutia podľa článku 218 ods. 9 ZFEÚ závisí predovšetkým od cieľa a obsahu pripravovaného aktu, v súvislosti s ktorým sa zaujíma pozícia v mene Únie. Ak pripravovaný akt sleduje dva ciele alebo obsahuje dve zložky a ak jeden z týchto cieľov alebo jednu z týchto zložiek možno určiť ako hlavnú, zatiaľ čo druhý cieľ alebo druhá zložka je len vedľajšia, rozhodnutie podľa článku 218 ods. 9 ZFEÚ musí byť založené na jedinom hmotnoprávnom základe, a to na tom, ktorý si vyžaduje hlavný alebo prevažujúci cieľ alebo zložka.
4.2.2.Uplatnenie na tento prípad
Stanoveným cieľom plánovaného odporúčania je „pomáhať členským štátom pri ich opatreniach v záujme presadzovania rovnosti vrátane rodovej rovnosti a predchádzania všetkým formám diskriminácie a boja proti nim vo všetkých ich činnostiach a činnostiach subjektov verejného a súkromného sektora počas životného cyklu systémov umelej inteligencie“.
To je v súlade s účelom aktu o umelej inteligencii, ktorý je „zlepšiť fungovanie vnútorného trhu stanovením jednotného právneho rámca, najmä pokiaľ ide o vývoj, uvádzanie na trh, uvádzanie do prevádzky a používanie systémov umelej inteligencie v Únii v súlade s hodnotami Únie, podporovať zavádzanie dôveryhodnej umelej inteligencie sústredenej na človeka a zároveň zaistiť vysokú úroveň ochrany zdravia, bezpečnosti a základných práv zakotvených v Charte základných práv Európskej únie vrátane ochrany demokracie, právneho štátu a životného prostredia, chrániť pred škodlivými účinkami systémov AI v Únii a podporovať inovácie“.
Odporúčanie sa prekrýva prevažne s aktom o umelej inteligencii, najmä:
·zámerom odporúčania je boj proti nerovnosti vyplývajúcej z umelej inteligencie, čo je podobné cieľu aktu o umelej inteligencii, t. j. zabezpečiť vysokú úroveň ochrany základných práv zakotvených v Charte základných práv EÚ vrátane práva na rovnosť a nediskrimináciu pred škodlivými účinkami systémov umelej inteligencie v Únii,
·osobná a vecná pôsobnosť, na ktoré sa má akt o umelej inteligencii a odporúčanie (opatrenia v ňom) vzťahovať, sú v zásade rovnaké, pričom zahŕňajú verejné a súkromné subjekty, ktoré vyvíjajú alebo nasadzujú umelú inteligenciu, a činnosti počas životného cyklu systémov umelej inteligencie,
·podobný odstupňovaný a diferencovaný prístup k systémom umelej inteligencie sa uplatňuje v akte o umelej inteligencii aj v odporúčaní, a to v súlade s rámcovým dohovorom o umelej inteligencii,
·v odporúčaní sa stanovujú požiadavky na transparentnosť a (ľudský) dohľad, pokiaľ ide o identifikáciu a prevenciu diskriminácie a boj proti nej v nadväznosti na činnosti počas životného cyklu systémov umelej inteligencie, ktoré sú podobné požiadavkám stanoveným v akte o umelej inteligencii, okrem iného najmä v jeho článkoch 13, 14, 49, 50 a 86,
·požiadavky odporúčania na identifikáciu, hodnotenie, zmierňovanie a monitorovanie rizík diskriminácie sú podobné požiadavkám a povinnostiam aktu o umelej inteligencii, ktoré sa vzťahujú na poskytovateľov vysokorizikových systémov umelej inteligencie a subjekty nasadzujúce vysokorizikové systémy umelej inteligencie, najmä okrem iného v jeho článkoch 9, 10, 17, 26 a 27; v odporúčaní sú zahrnuté aj ustanovenia týkajúce sa noriem, ktoré sa podobajú ustanoveniam týkajúcim sa harmonizovaných noriem Únie v článkoch 40 až 49,
·odporúčanie obsahuje opatrenia týkajúce sa dokumentácie, procesných záruk a prostriedkov nápravy, ktoré sú podobné opatreniam v akte o umelej inteligencii, najmä v článkoch 11, 12, 26, 53, 85 a 86 aktu o umelej inteligencii),
·v odporúčaní sa uvádzajú cieľové odvetvia, v ktorých sa má uplatňovať hľadisko rovnosti, a vyžadujú sa opatrenia v prípade obzvlášť naliehavých rizík diskriminácie, čo sa čiastočne prekrýva s kategorizáciou vysokého rizika v akte o umelej inteligencii (článok 6 a prílohy I a III).
Odporúčanie zahŕňa aj prvky spoločné s acquis Únie v oblasti nediskriminácie a rovnosti. Týka sa to najmä smerníc o subjektoch pre rovnaké zaobchádzanie, ktoré boli prijaté na základe článkov 19 a 157 ZFEÚ 8 . Príslušné prvky odporúčania zahŕňajú:
·požiadavky, aby členské štáty vybavili subjekty pre rovnaké zaobchádzanie dostatočnými finančnými, ľudskými a technickými zdrojmi a spolupracovali s nimi pri vypracúvaní príslušných právnych predpisov, politík a administratívnych, regulačných alebo iných rámcov (relevantné pre články 3 a 4 uvedených smerníc),
·požiadavky na transparentnosť a dohľad, ktoré umožňujú subjektom pre rovnaké zaobchádzanie preskúmať, či došlo k diskriminácii, a posúdiť, či sa v prípade takýchto systémov umelej inteligencie vyžaduje moratórium alebo zákaz (relevantné pre články 8 a 9 uvedených smerníc),
·požiadavky na podporu alebo pomoc obetiam diskriminácie na základe umelej inteligencie pri uplatňovaní ich práv vrátane predkladania pripomienok súdu (relevantné pre články 6, 7, 8, 9, 10 a 11 uvedených smerníc).
Hoci cieľom odporúčania je podporovať rovnosť a predchádzať diskriminácii, odporúčanie obsahuje predovšetkým legislatívne a politické opatrenia zamerané na subjekty počas životného cyklu systémov umelej inteligencie (pozri bod 2 odporúčania). Konkrétnejšie sa v ňom uvádzajú odporúčania týkajúce sa posúdenia vplyvu na rovnosť, certifikácie, transparentnosti, monitorovania systémov umelej inteligencie a dohľadu nad nimi, ako je vysvetlené vyššie.
V rámci Únie sa bude prevažná časť odporúčania vykonávať nie prostredníctvom horizontálnych právnych predpisov v oblasti rovnosti, ktoré sa vzťahujú na všetky hospodárske subjekty, ako sú právne predpisy týkajúce sa subjektov pre rovnaké zaobchádzanie, ale prostredníctvom právnych predpisov zameraných konkrétne na prevádzkovateľov poskytujúcich a nasadzujúcich systémy umelej inteligencie, najmä prostredníctvom aktu o umelej inteligencii a/alebo jeho vykonávacích opatrení. V skutočnosti sa v dôvodovej správe výslovne uznáva, že aktom o umelej inteligencii sa už vykonávajú uvedené odporúčania (ich časť) (pozri odsek 11 dôvodovej správy).
Z toho vyplýva, že ťažisko odporúčania patrí do oblasti, na ktorú sa vzťahuje akt o umelej inteligencii. Hmotnoprávnym základom stanoviska, ktoré sa má v mene Únie zaujať k týmto prvkom odporúčania, by preto mal byť článok 114 ZFEÚ, ktorý je hlavným právnym základom aktu o umelej inteligencii.
Hmotnoprávnym základom navrhovaného rozhodnutia je preto článok 114 ZFEÚ.
4.3.Záver
Právnym základom navrhovaného rozhodnutia by mal byť článok 114 ZFEÚ v spojení s článkom 218 ods. 9 ZFEÚ.
2025/0291 (NLE)
Návrh
ROZHODNUTIE RADY
o pozícii, ktorá sa má zaujať v mene Európskej únie k návrhu odporúčania Výboru ministrov Rady Európy o rovnosti a umelej inteligencii
RADA EURÓPSKEJ ÚNIE,
so zreteľom na Zmluvu o fungovaní Európskej únie, a najmä na jej článok 114 v spojení s článkom 218 ods. 9,
so zreteľom na návrh Európskej komisie,
keďže:
(1)Cieľom Rady Európy je prijať odporúčanie (ďalej len „odporúčanie“), ktoré sa bude zaoberať vplyvom systémov umelej inteligencie, ich potenciálom na podporu rovnosti vrátane rodovej rovnosti a rizikami, ktoré môžu spôsobiť v súvislosti s nediskrimináciou. Odporúčanie majú prijať Komisia pre rodovú rovnosť a Riadiaci výbor pre nediskrimináciu, rozmanitosť a začlenenie na svojom spoločnom plenárnom zasadnutí 18. – 20. novembra 2025 a formálne ho má schváliť Výbor ministrov Rady Európy.
(2)Cieľom odporúčania je doplniť Rámcový dohovor Rady Európy o umelej inteligencii, ľudských právach, demokracii a právnom štáte (ďalej len „rámcový dohovor“), ktorý Únia podpísala na základe rozhodnutia Rady (EÚ) 2024/2218, pokiaľ ide o zásadu rovnosti, a to prostredníctvom podrobných odporúčaní pre členské štáty týkajúcich sa rovnosti.
(3)V rámcovom dohovore sa stanovujú všeobecné zásady a povinnosti, ktoré by zmluvné strany rámcového dohovoru mali dodržiavať s cieľom zabezpečiť ochranu ľudských práv, demokracie a právneho štátu v súvislosti s činnosťami počas životného cyklu systémov umelej inteligencie. Komisia navrhla, aby Únia rámcový dohovor uzavrela 9 . Rozhodnutie Rady o uzavretí rámcového dohovoru je v procese prijímania Radou.
(4)Európsky parlament a Rada 13. júna 2024 prijali na základe článkov 16 a 114 Zmluvy o fungovaní Európskej únie (ďalej len „ZFEÚ“) nariadenie (EÚ) 2024/1689 10 , ktorým sa stanovujú harmonizované pravidlá, všeobecne založené na úplnej harmonizácii, ktoré upravujú uvádzanie na trh, uvádzanie do prevádzky a používanie systémov umelej inteligencie v Únii. Uvedené pravidlá sú priamo uplatniteľné v členských štátoch, pokiaľ sa výslovne neuvádza inak.
(5)Rámcový dohovor sa má vykonávať v Únii výlučne prostredníctvom aktu o umelej inteligencii a prípadne prostredníctvom iného relevantného acquis Únie.
(6)Je vhodné stanoviť pozíciu, ktorá sa má zaujať v mene Únie k odporúčaniu na spoločnom plenárnom zasadnutí Komisie pre rodovú rovnosť a Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie, ako aj vo Výbore ministrov, keďže odporúčanie, aj keď nie je záväzné, bude môcť rozhodujúcim spôsobom ovplyvniť obsah práva Únie, konkrétne nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie.
(7)Osobná a vecná pôsobnosť odporúčania sa vo veľkej miere zhodujú s nariadením (EÚ) 2024/1689, ktorým sa stanovuje pravidlá pre umelú inteligenciu, ktoré sú všeobecne založené na úplnej harmonizácii v rámci Únie.
(8)Prijatím odporúčania môžu byť dotknuté existujúce alebo predvídateľné budúce spoločné pravidlá Únie alebo sa ním môže pozmeniť rozsah ich pôsobnosti v zmysle článku 3 ods. 2 ZFEÚ. Únia má preto výlučnú vonkajšiu právomoc zaujať v mene Únie stanovisko k prijatiu odporúčania.
(9)Únia by mala zabezpečiť, aby bolo odporúčanie zlučiteľné s právom Únie a aby sa v prípade všetkých aspektov, ktoré sú harmonizované na úrovni Únie, mohlo vykonávať v rámci právneho poriadku Únie prostredníctvom existujúceho acquis Únie, najmä nariadenia (EÚ) 2024/1689 a smerníc 2024/1499 a 2024/1500. Pokiaľ ide o osobitné odporúčania, ktoré sa týkajú vývoja a používania systémov umelej inteligencie, ktoré sú v Únii plne harmonizované, Únia by sa mala snažiť zabezpečiť, aby bolo odporúčanie v súlade s ustanoveniami aktu o umelej inteligencii a so zásadami stanovenými v rámcovom dohovore Rady Európy o umelej inteligencii.
(10)Za predpokladu, že sú uvedené podmienky splnené, odporúčanie môže byť schválené v mene Únie na spoločnom plenárnom zasadnutí Komisie pre rodovú rovnosť a Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie, ktoré sa uskutoční 18. – 20. novembra 2025, a na následnom zasadnutí Výboru ministrov.
(11)Keďže Únia nie je členom Rady Európy, ale všetky jej členské štáty členmi sú, pozíciu Únie vyjadria jej členské štáty konajúc spoločne,
PRIJALA TOTO ROZHODNUTIE:
Článok 1
Pozícia, ktorá sa má v mene Únie zaujať na spoločnom plenárnom zasadnutí Komisie pre rodovú rovnosť a Riadiaceho výboru pre nediskrimináciu, rozmanitosť a začlenenie, ako aj na zasadnutí Výboru ministrov, je nevzniesť námietku proti prijatiu odporúčania o umelej inteligencii a rovnosti za predpokladu, že sa zohľadnia tieto podmienky:
1.Opatrenia týkajúce sa subjektov počas životného cyklu systémov umelej inteligencie neprekračujú povinnosti stanovené v akte o umelej inteligencii, ktorým sa vo všeobecnosti v plnej miere harmonizujú pravidlá pre umelú inteligenciu v Únii, a to aj v oblasti rovnosti. Odporúčaním by sa mala predovšetkým umožniť dostatočná flexibilita pri jeho vykonávaní v súlade s prístupom rámcového dohovoru. Takisto by sa malo predísť odporúčaniam na zavedenie dodatočných pozitívnych povinností v súvislosti s podporou rovnosti zo strany poskytovateľov systémov umelej inteligencie a subjektov nasadzujúcich systémy umelej inteligencie, ako aj uloženiu nešpecifického obmedzenia používania umelej inteligencie.
2.Formuláciou opatrení a noriem v rámci odporúčania sa musí zabezpečiť terminologická aj vecná konzistentnosť a interoperabilita s právnym rámcom Únie.
3.Záruky týkajúce sa postupov ľudského posúdenia a odvolania musia byť v súlade s aktom o umelej inteligencii aj rámcovým dohovorom, čím sa zabezpečí súdržnosť medzi týmito dvoma nástrojmi a zároveň sa zabráni zavedeniu osobitných povinností v oblasti umelej inteligencie pre poskytovateľov systémov umelej inteligencie a subjekty zavádzajúce systémy umelej inteligencie, o ktorých sa v acquis Únie neuvažuje.
4.Rozsahom odvetví uvedených v odporúčaní, ktoré si vyžadujú osobitnú pozornosť, by sa mal zabezpečiť súlad s vysokorizikovými oblasťami vymedzenými v akte o umelej inteligencii (prílohy I a III) a to, aby sa uvedené oblasti neprekračovali. Prípadne by sa v odporúčaní malo vhodným spôsobom rozlišovať zaobchádzanie s jednotlivými odvetviami z hľadiska monitorovacích opatrení alebo iné dostatočne flexibilné prístupy.
Článok 2
Pozíciu uvedenú v článku 1 vyjadria členské štáty Únie, ktoré sú členmi Rady Európy, konajúc spoločne.
Článok 3
Toto rozhodnutie je určené členským štátom.
V Bruseli
Za Radu
predseda/predsedníčka