Access to European Union law
<a href="https://eur-lex.europa.eu/content/help/eurlex-content/experimental-features.html" target="_blank">More about the experimental features corner</a>
Choose the experimental features you want to try
EUR-Lex
Access to European Union law

This document is an excerpt from the EUR-Lex website

You are here
Use quotation marks to search for an "exact phrase". Append an asterisk (*) to a search term to find variations of it (transp*, 32019R*). Use a question mark (?) instead of a single character in your search term to find variations of it (ca?e finds case, cane, care).
Search tips
Need more search options? Use the Advanced search

Document 52021AR2682

    Stanovisko Evropského výboru regionů – Evropský přístup k umělé inteligenci – akt o umělé inteligenci (revidované stanovisko)

    COR 2021/02682

    Úř. věst. C 97, 28.2.2022, p. 60–85 (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

    Date of document:
    02/12/2021; Den hlasování
    Date of vote:
    02/12/2021
    Date lodged:
    24/06/2021
    Author:
    Evropský výbor regionů, Komise pro sociální politiku, vzdělávání, zaměstnanost, výzkum a kulturu
    Responsible body:
    Commission for Social Policy, Education, Employment, Research and Culture, COR_SEDEC
    Rapporteur:
    Guido RINK
    Form:
    Stanovisko
    Term of office:
    VII (2020-2025)
    Internal reference:
    SEDEC-VII/022
    Session:
    147
    Treaty:
    Smlouvy o fungování Evropské unie
    Legal basis:
    Link
    Link
    Link
    Select all documents mentioning this document
    Earlier related instruments:
    Instruments cited:
    Link

    28.2.2022   

    CS

    Úřední věstník Evropské unie

    C 97/60

    Stanovisko Evropského výboru regionů – Evropský přístup k umělé inteligenci – akt o umělé inteligenci

    (revidované stanovisko)

    (2022/C 97/12)

    Zpravodaj:

    Guido RINK (NL/SES), člen rady města Emmen

    Odkazy:

    Sdělení Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů – Podpora evropského přístupu k umělé inteligenci

    COM(2021) 205 final

    Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie

    COM(2021) 206 final

    I.   DOPORUČENÉ POZMĚŇOVACÍ NÁVRHY

    Pozměňovací návrh 1

    1. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Účelem tohoto nařízení je zlepšit fungování vnitřního trhu stanovením jednotného právního rámce zejména pro vývoj umělé inteligence, její uvádění na trh a využívání v souladu s hodnotami Unie. Toto nařízení sleduje řadu naléhavých důvodů veřejného zájmu, jako je například vysoká úroveň ochrany zdraví, bezpečnosti a základních práv, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů UI, pokud to není tímto nařízením výslovně povoleno.

    Účelem tohoto nařízení je zlepšit fungování vnitřního trhu a zaručit základní práva občanů stanovením jednotného právního rámce zejména pro vývoj umělé inteligence, její uvádění na trh a využívání v souladu s hodnotami Unie. Toto nařízení sleduje řadu naléhavých důvodů veřejného zájmu, jako je například vysoká úroveň ochrany zdraví, bezpečnosti a základních práv, a zajišťuje volný pohyb zboží a služeb založených na UI přes hranice, čímž brání členským státům ukládat omezení vývoje, uvádění na trh a používání systémů UI, pokud to není tímto nařízením výslovně povoleno.

    Odůvodnění

    Odkaz na základní práva má zdůraznit souvislost s Listinou základních práv EU.

    Pozměňovací návrh 2

    Nový bod odůvodnění po 6. bodu odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

     

    Definice systémů UI je nepřetržitý proces, který přihlíží k podmínkám, v nichž je umělá inteligence využívána, drží krok se společenským vývojem v této oblasti a neztrácí ze zřetele souvislost mezi ekosystémem excelence a ekosystémem důvěry.

    Odůvodnění

    Vývoj v oblasti UI a technologií vyžaduje adaptivní a neustále se vyvíjející přístup. Tento bod odůvodnění odráží skutečnost, že definice UI by měla zohledňovat dobu a stav vývoje systémů a aplikací UI.

    Pozměňovací návrh 3

    20. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Aby bylo zajištěno odpovědné a přiměřené používání těchto systémů, je rovněž důležité stanovit, že v každé z těchto tří taxativně vyjmenovaných a úzce definovaných situací je třeba zohlednit určité prvky, zejména pokud jde o povahu situace, která vedla k předložení žádosti, o důsledky užití těchto systémů pro práva a svobody všech dotčených osob a o záruky a podmínky zajištěné při tomto použití. Na využívání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by se navíc měla vztahovat vhodná časová a prostorová omezení, zejména s ohledem na důkazy nebo náznaky týkající se daných hrozeb, obětí nebo pachatele. Pro každý případ použití v každé ze tří výše uvedených situací by mělo být vhodné využití referenční databáze osob.

    Aby bylo zajištěno odpovědné a přiměřené používání těchto systémů, je rovněž důležité stanovit, že v každé z těchto tří taxativně vyjmenovaných a úzce definovaných situací je třeba zohlednit určité prvky, zejména pokud jde o povahu situace, která vedla k předložení žádosti, o důsledky užití těchto systémů pro práva a svobody všech dotčených osob a o záruky a podmínky zajištěné při tomto použití. Před výjimečným použitím těchto systémů by měla proběhnout konzultace s příslušnými místními a regionálními orgány. Na využívání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by se navíc měla vztahovat přísná časová a prostorová omezení, zejména s ohledem na důkazy nebo náznaky týkající se daných hrozeb, obětí nebo pachatele. Pro každý případ použití v každé ze tří výše uvedených situací by mělo být vhodné využití referenční databáze osob.

    Odůvodnění

    Systémy biometrické identifikace na dálku „v reálném čase“ by se neměly využívat lehkovážně.

    Pozměňovací návrh 4

    21. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Každé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by mělo podléhat výslovnému a konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu. Toto povolení by mělo být v zásadě získáno před tímto použitím, s výjimkou řádně odůvodněných naléhavých situací, tj. situací, kdy je potřeba použít dotyčné systémy tak naléhavá, že je účinně a objektivně nemožné získat povolení před zahájením tohoto použití. V  těchto naléhavých situacích by použití mělo být omezeno na absolutně nezbytné minimum a mělo by podléhat příslušným zárukám a podmínkám, které stanoví vnitrostátní právo a specifikuje samotný donucovací orgán v kontextu každého jednotlivého případu naléhavého použití . Donucovací orgán by měl v těchto situacích rovněž usilovat o  co nejvčasnější získání povolení a měl by uvést důvody, proč o něj nemohl požádat již dříve.

    Každé použití systému biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva by mělo podléhat výslovnému a konkrétnímu povolení justičního orgánu nebo nezávislého správního orgánu členského státu. Toto povolení by mělo být získáno před tímto použitím, s výjimkou řádně odůvodněných naléhavých situací, tj. situací, kdy je potřeba použít dotyčné systémy tak naléhavá, že je účinně a objektivně nemožné získat povolení před zahájením tohoto použití. V  každém případě by použití mělo být omezeno na absolutně nezbytné minimum a mělo by podléhat příslušným zárukám a podmínkám, které stanoví vnitrostátní právo. Donucovací orgán by měl rovněž neprodleně informovat dotčený místní a regionální orgán a usilovat o získání povolení od příslušných orgánů .

    Odůvodnění

    Politicko-administrativní odpovědnost za správu veřejně přístupných míst a dohled nad nimi nesou místní a regionální orgány. Měly by proto být řádně zapojeny do používání těchto systémů na veřejně přístupných místech. V naléhavých situacích, kdy nelze rozumně očekávat předchozí konzultaci, by měl být dotčený místní nebo regionální orgán o používání biometrických systémů na veřejně přístupných místech neprodleně informován.

    Pozměňovací návrh 5

    39. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Systémy UI využívané pro účely migrace, azylu a řízení ochrany hranic ovlivňují osoby, které jsou často v obzvláště zranitelném postavení a jsou závislé na výsledku činnosti příslušných orgánů veřejné moci. Přesnost, nediskriminační povaha a transparentnost systémů UI používaných v těchto kontextech jsou proto obzvláště důležité pro zajištění dodržování základních práv dotčených osob, zejména jejich práva na volný pohyb, na zákaz diskriminace, na ochranu soukromého života a osobních údajů, na mezinárodní ochranu a na řádnou správu. Je proto vhodné označit jako vysoce rizikové ty systémy UI, které jsou určeny k použití příslušnými orgány veřejné moci pověřenými úkoly v oblasti migrace, azylu a řízení ochrany hranic, jako jsou například polygrafy a podobné nástroje, případně nástroje určené k detekci emočního stavu fyzické osoby; k posuzování určitých rizik, která představují fyzické osoby vstupující na území členského státu nebo žádající o vízum nebo azyl; k ověření pravosti příslušných dokladů fyzických osob; jako pomoc příslušným orgánům veřejné správy při posuzování žádostí o azyl, vízum a povolení k pobytu a souvisejících stížností, pokud jde o cíl, jímž je zjištění způsobilosti fyzických osob žádajících o určitý status. Systémy UI v oblasti migrace, azylu a řízení ochrany hranic, na které se vztahuje toto nařízení, by měly splňovat příslušné procesní požadavky stanovené směrnicí Evropského parlamentu a Rady 2013/32/EU, nařízením Evropského parlamentu a Rady (ES) č. 810/2009 a dalšími příslušnými právními předpisy.

    Systémy UI využívané pro účely migrace, azylu a řízení ochrany hranic ovlivňují osoby, které jsou často v obzvláště zranitelném postavení a jsou závislé na výsledku činnosti příslušných orgánů veřejné moci. Přesnost, nediskriminační povaha a transparentnost systémů UI používaných v těchto kontextech jsou proto obzvláště důležité pro zajištění dodržování základních práv dotčených osob, zejména jejich práva na volný pohyb, na zákaz diskriminace, na ochranu soukromého života a osobních údajů, na mezinárodní ochranu a na řádnou správu. Je proto nezbytné označit jako vysoce rizikové ty systémy UI, které jsou určeny k použití příslušnými orgány veřejné moci pověřenými úkoly v oblasti migrace, azylu a řízení ochrany hranic, jako jsou například polygrafy a podobné nástroje, případně nástroje určené k detekci emočního stavu fyzické osoby; k posuzování určitých rizik, která představují fyzické osoby vstupující na území členského státu nebo žádající o vízum nebo azyl; k ověření pravosti příslušných dokladů fyzických osob; jako pomoc příslušným orgánům veřejné správy při posuzování žádostí o azyl, vízum a povolení k pobytu a souvisejících stížností, pokud jde o cíl, jímž je zjištění způsobilosti fyzických osob žádajících o určitý status. Systémy UI v oblasti migrace, azylu a řízení ochrany hranic, na které se vztahuje toto nařízení, by měly splňovat příslušné procesní požadavky stanovené směrnicí Evropského parlamentu a Rady 2013/32/EU, nařízením Evropského parlamentu a Rady (ES) č. 810/2009 a dalšími příslušnými právními předpisy.

    Odůvodnění

    Tato úprava odráží nezbytnost podřídit příslušné systémy UI zpřísněnému režimu pro vysoce rizikové systémy UI.

    Pozměňovací návrh 6

    43. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Na vysoce rizikové systémy UI by se měly vztahovat požadavky týkající se kvality použitých souborů dat, technické dokumentace a uchovávání záznamů, transparentnosti a poskytování informací uživatelům, lidského dohledu a spolehlivosti, přesnosti a kybernetické bezpečnosti. Tyto požadavky jsou nezbytným předpokladem účinného zmírňování rizik pro zdraví, bezpečnost a základní práva v závislosti na určeném účelu tohoto systému; žádná další opatření méně omezující obchod nejsou rozumně dostupná, a tudíž nedochází k bezdůvodným omezením obchodu.

    Na vysoce rizikové systémy UI by se měly vztahovat požadavky týkající se kvality použitých souborů dat, technické dokumentace a uchovávání záznamů, transparentnosti a poskytování informací uživatelům, lidského dohledu a spolehlivosti, přesnosti a kybernetické bezpečnosti. Tyto požadavky jsou nezbytným předpokladem účinného zmírňování rizik pro zdraví, bezpečnost, zabezpečení údajů, práva spotřebitelů a základní práva v závislosti na účelu tohoto systému; žádná další opatření méně omezující obchod nejsou rozumně dostupná, a tudíž nedochází k bezdůvodným omezením obchodu. Fyzické osoby nebo skupiny osob dotčené vysoce rizikovými systémy UI uvedenými na trh v Unii nebo jinak uvedenými do provozu by měly být vhodným, snadno dostupným a srozumitelným způsobem informovány a měly by mít přístup k explicitním, snadno dostupným a veřejným informacím o tom, že se jich tyto systémy týkají.

    Odůvodnění

    Požadavky na transparentnost a informace vztahující se na poskytovatele a uživatele by měly být rozšířeny rovněž na osoby nebo skupiny osob potenciálně dotčené používáním vysoce rizikových systémů UI uvedených v příloze III nařízení. Pod „srozumitelným způsobem“ se chápe také uživateli srozumitelný a přístupný jazyk, včetně hlasového výstupu a znakové řeči.

    Pozměňovací návrh 7

    Nový bod odůvodnění po 44. bodu odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

     

    Poskytovatelé systémů UI se ve svém systému řízení kvality vyvarují jakýchkoli opatření na podporu neodůvodněné diskriminace na základě pohlaví, původu, náboženského vyznání nebo přesvědčení, zdravotního postižení, věku, sexuální orientace nebo diskriminace na jakémkoli jiném základě.

    Odůvodnění

    Nezákonná diskriminace má původ v lidském jednání. Poskytovatelé systémů UI by se měli ve svém systému kvality vyvarovat jakýchkoli opatření, která by mohla diskriminaci podporovat.

    Pozměňovací návrh 8

    47. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Aby se vyřešila neprůhlednost, kvůli níž mohou být určité systémy UI pro fyzické osoby nepochopitelné nebo příliš složité, je u vysoce rizikových systémů UI zapotřebí určitá míra transparentnosti. Uživatelé by měli být schopni interpretovat výstup systému a používat jej vhodným způsobem. K vysoce rizikovým systémům UI by proto měla být připojena příslušná dokumentace a návod k použití a měly by obsahovat stručné a jasné informace, včetně informací týkajících se potenciálního rizika pro základní práva a rizika diskriminace.

    Aby se vyřešila neprůhlednost, kvůli níž mohou být určité systémy UI pro fyzické osoby nebo orgány veřejné moci na všech úrovních správy nepochopitelné nebo příliš složité, je u vysoce rizikových systémů UI zapotřebí vysoká míra transparentnosti. Uživatelé by měli být schopni interpretovat výstup systému a používat jej vhodným způsobem. K vysoce rizikovým systémům UI by proto měla být připojena příslušná dokumentace a návod k použití a měly by obsahovat stručné a jasné informace, včetně informací týkajících se potenciálního rizika pro základní práva a rizika diskriminace.

    Odůvodnění

    Odpovědnost těch, kteří navrhují vysoce rizikové systémy UI, se použitím slov „určitá úroveň transparentnosti“ oslabuje.

    Pozměňovací návrh 9

    48. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Vysoce rizikové systémy UI by měly být navrženy a vyvinuty tak, aby na jejich fungování mohly dohlížet fyzické osoby. Za tímto účelem by měl poskytovatel systému před uvedením systému na trh nebo do provozu stanovit vhodná opatření lidského dohledu. Tato opatření by případně měla zajistit zejména to, aby byla do systému zabudována provozní omezení, která samotný systém není schopen překonat a která reagují na lidskou obsluhu, a aby fyzické osoby, které byly pověřeny lidským dohledem, měly odbornou způsobilost, odbornou přípravu a pravomoc nezbytné k výkonu této funkce.

    Vysoce rizikové systémy UI by měly být navrženy a vyvinuty tak, aby na jejich fungování mohly dohlížet fyzické osoby a orgány veřejné moci na všech úrovních správy . Za tímto účelem by měl poskytovatel systému před uvedením systému na trh nebo do provozu stanovit vhodná opatření lidského dohledu. Tato opatření by případně měla zajistit zejména to, aby byla do systému zabudována provozní omezení, která samotný systém není schopen překonat a která reagují na lidskou obsluhu, a aby fyzické osoby, které byly pověřeny lidským dohledem, měly odbornou způsobilost, odbornou přípravu a pravomoc nezbytné k výkonu této funkce.

    Odůvodnění

    Vyplývá z textu.

    Pozměňovací návrh 10

    67. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Vysoce rizikové systémy UI by měly být opatřeny označením CE prokazujícím jejich shodu s tímto nařízením, aby jim byl umožněn volný pohyb v rámci vnitřního trhu. Členské státy by neměly vytvářet neodůvodněné překážky uvádění na trh nebo do provozu u vysoce rizikových systémů UI, které jsou v souladu s požadavky stanovenými v tomto nařízení a jsou opatřeny označením CE.

    Vysoce rizikové systémy UI by měly být opatřeny označením CE prokazujícím jejich shodu s tímto nařízením, aby jim byl umožněn volný pohyb v rámci vnitřního trhu. Členské státy by neměly vytvářet překážky uvádění na trh nebo do provozu u vysoce rizikových systémů UI, které jsou v souladu s požadavky stanovenými v tomto nařízení a jsou opatřeny označením CE. Členské státy mají pravomoc regulovat vysoce rizikové postupy v oblasti UI a vysoce rizikové systémy UI výhradně na základě naléhavých a řádně odůvodněných případů veřejného zájmu a zájmů národní bezpečnosti.

    Odůvodnění

    Členské státy by sice neměly bránit provádění nařízení, mělo by jim však zůstat právo regulovat vysoce rizikové systémy UI, dojde-li k ohrožení veřejného zájmu a národní bezpečnosti.

    Pozměňovací návrh 11

    70. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Určité systémy UI určené k interakci s fyzickými osobami nebo ke generování obsahu mohou představovat specifická rizika vydávání se za jinou osobu nebo podvodu bez ohledu na to, zda je lze či nelze označit za vysoce rizikové. Na používání těchto systémů by se proto měly za určitých okolností vztahovat zvláštní povinnosti transparentnosti, aniž by tím byly dotčeny požadavky a povinnosti kladené na vysoce rizikové systémy UI. Zejména fyzické osoby by měly být upozorněny , že komunikují se systémem UI , pokud to není zřejmé z okolností a kontextu použití . Fyzické osoby by navíc měly být informovány v případě, že jsou vystaveny systému rozpoznávání emocí nebo systému biometrické kategorizace. Tyto informace a oznámení by měly být poskytovány ve formátech přístupných pro osoby se zdravotním postižením. Uživatelé, kteří používají systém UI k vytváření obrazového, zvukového nebo video obsahu, který se znatelně podobá existujícím osobám, místům nebo událostem a určité osobě by se mohl nepravdivě jevit jako autentický, případně s tímto obsahem manipulují, by měli zveřejnit, že tento obsah byl uměle vytvořen nebo s ním bylo manipulováno, tím, že daný výstup umělé inteligence odpovídajícím způsobem označí a odhalí jeho umělý původ.

    Určité systémy UI určené k interakci s fyzickými osobami nebo ke generování obsahu mohou představovat specifická rizika vydávání se za jinou osobu nebo podvodu bez ohledu na to, zda je lze či nelze označit za vysoce rizikové. Na používání těchto systémů by se proto měly vztahovat zvláštní povinnosti transparentnosti, aniž by tím byly dotčeny požadavky a povinnosti kladené na vysoce rizikové systémy UI. Zejména fyzické osoby by měly být systematicky upozorňovány , že komunikují se systémem UI. Fyzické osoby by navíc měly být informovány v případě, že jsou vystaveny systému rozpoznávání emocí nebo systému biometrické kategorizace. Tyto informace a oznámení by měly být poskytovány ve formátech přístupných pro osoby se zdravotním postižením. Uživatelé, kteří používají systém UI k vytváření obrazového, zvukového nebo video obsahu, který se znatelně podobá existujícím osobám, místům nebo událostem a určité osobě by se mohl nepravdivě jevit jako autentický, případně s tímto obsahem manipulují, by měli zveřejnit, že tento obsah byl uměle vytvořen nebo s ním bylo manipulováno, tím, že daný výstup umělé inteligence odpovídajícím způsobem označí a odhalí jeho umělý původ.

    Odůvodnění

    Z povinnosti transparentnosti a informovanosti v případě komunikace fyzických osob se systémy UI by neměly být umožněny žádné výjimky.

    Pozměňovací návrh 12

    76. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    V zájmu usnadnění hladkého, účinného a harmonizovaného provádění tohoto nařízení by měla být zřízena Evropská rada pro umělou inteligenci. Tato rada by měla odpovídat za řadu poradenských úkolů, včetně vydávání stanovisek, doporučení, rad nebo pokynů v záležitostech souvisejících s prováděním tohoto nařízení, včetně technických specifikací nebo stávajících norem týkajících se požadavků stanovených v tomto nařízení a poskytování poradenství a pomoci Komisi v konkrétních otázkách týkajících se umělé inteligence.

    V zájmu usnadnění hladkého, účinného a harmonizovaného provádění tohoto nařízení by měla být zřízena Evropská rada pro umělou inteligenci. Tato rada by měla odpovídat za řadu poradenských úkolů, včetně vydávání stanovisek, doporučení, rad nebo pokynů v záležitostech souvisejících s prováděním tohoto nařízení, včetně technických specifikací nebo stávajících norem týkajících se požadavků stanovených v tomto nařízení a poskytování poradenství a pomoci Komisi v konkrétních otázkách týkajících se umělé inteligence. Členové Evropské rady pro umělou inteligenci by měli zastupovat zájmy evropské společnosti. Složení této rady by mělo být genderově vyvážené.

    Odůvodnění

    V Evropské radě pro umělou inteligenci by měly být zastoupeny různorodé zájmy evropské společnosti. Jde mimo jiné o zájmy v oblasti lidských práv, klimatu a energeticky účinného používání systémů AI, bezpečnosti, sociálního začlenění, zdraví atd. Genderová rovnováha je předpokladem rozmanitosti při poskytování poradenství, přípravě pokynů atd.

    Pozměňovací návrh 13

    77. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    Při uplatňování a prosazování tohoto nařízení hrají klíčovou roli členské státy. V tomto ohledu by měl každý členský stát určit jeden nebo více příslušných vnitrostátních orgánů pro účely dohledu nad uplatňováním a prováděním tohoto nařízení. V zájmu zvýšení efektivity organizace na straně členských států a stanovení oficiálního kontaktního místa pro veřejnost a další protistrany na úrovni členských států a Unie by měl každý členský stát určit jeden vnitrostátní orgán jako vnitrostátní dozorový orgán.

    Při uplatňování a prosazování tohoto nařízení hrají klíčovou roli členské státy. V tomto ohledu by měl každý členský stát určit jeden nebo více příslušných vnitrostátních orgánů pro účely dohledu nad uplatňováním a prováděním tohoto nařízení. V zájmu zvýšení efektivity organizace na straně členských států a stanovení oficiálního kontaktního místa pro veřejnost a další protistrany na úrovni členských států a Unie by měl každý členský stát určit jeden vnitrostátní orgán jako vnitrostátní dozorový orgán. Dle uvážení členských států mohou být prováděním úkolů v oblasti dohledu nebo vymáhání pověřeny místní a regionální orgány.

    Odůvodnění

    V zájmu zajištění proveditelnosti nařízení a v něm obsaženého rámce pro dohled a vymáhání by měl být členský stát oprávněn pověřit tam, kde je to nezbytné a možné, místní a regionální orgány prováděním úkolů v oblasti dohledu nebo vymáhání.

    Pozměňovací návrh 14

    79. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    V zájmu zajištění náležitého a účinného vymáhání požadavků a povinností stanovených tímto nařízením, které představuje harmonizační právní předpis Unie, by se měl v plném rozsahu uplatňovat systém dozoru nad trhem a souladu výrobků s předpisy stanovený nařízením (EU) 2019/1020. Vnitrostátní orgány veřejné správy nebo veřejnoprávní subjekty dohlížející na uplatňování právních předpisů Unie na ochranu základních práv, včetně orgánů pro rovné zacházení, by rovněž měly mít přístup k veškeré dokumentaci vytvořené podle tohoto nařízení, pokud je to nutné pro výkon jejich pověření.

    V zájmu zajištění náležitého a účinného vymáhání požadavků a povinností stanovených tímto nařízením, které představuje harmonizační právní předpis Unie, by se měl v plném rozsahu uplatňovat systém dozoru nad trhem a souladu výrobků s předpisy stanovený nařízením (EU) 2019/1020. Vnitrostátní orgány veřejné správy , případně místní nebo regionální orgány, nebo veřejnoprávní subjekty dohlížející na uplatňování právních předpisů Unie na ochranu základních práv, včetně orgánů pro rovné zacházení, by rovněž měly mít přístup k veškeré dokumentaci vytvořené podle tohoto nařízení, pokud je to nutné pro výkon jejich pověření.

    Odůvodnění

    Tento pozměňovací návrh zohledňuje různé struktury správy v členských státech EU.

    Pozměňovací návrh 15

    83. bod odůvodnění

    Text navržený Komisí

    Pozměňovací návrh VR

    V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní úrovni by měly všechny strany zapojené do uplatňování tohoto nařízení respektovat důvěrnost informací a údajů získaných při plnění svých úkolů.

    V zájmu zajištění důvěryhodné a konstruktivní spolupráce příslušných orgánů na úrovni Unie a na vnitrostátní , regionální a místní úrovni by měly všechny strany zapojené do uplatňování tohoto nařízení respektovat důvěrnost informací a údajů získaných při plnění svých úkolů.

    Odůvodnění

    Tento pozměňovací návrh zohledňuje různé struktury správy v členských státech EU.

    Pozměňovací návrh 16

    HLAVA I čl. 3 odst. 1 – Definice

    Text navržený Komisí

    Pozměňovací návrh VR

    „systémem umělé inteligence“ (systém UI) software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v příloze I, a který může pro danou sadu cílů definovaných člověkem generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují;

    „systémem umělé inteligence“ (systém UI) software, který je vyvinut pomocí jedné nebo více technik a přístupů uvedených v demonstrativním výčtu v příloze I,  v kombinaci se sociálními postupy, identitou a kulturou , a který může pro danou sadu cílů definovaných člověkem sledováním svého okolí prostřednictvím sběru dat, interpretace shromážděných strukturovaných nebo nestrukturovaných dat, správy znalostí nebo zpracování informací odvozených z těchto dat generovat výstupy, jako je například obsah, predikce, doporučení nebo rozhodnutí ovlivňující prostředí, s nimiž komunikují;

    Odůvodnění

    Systém umělé inteligence tvoří kombinace technických prvků, které propojují data, algoritmy a výpočetní výkon se sociálními praktikami, společností, identitou a kulturou. Definice tohoto dynamického sociálně-technického celku proto musí obstát i budoucnosti, takže je nezbytné ji pravidelně aktualizovat, aby věrně odrážela stále větší dopad umělé inteligence na společnost a současně zachycovala rychle se měnící výzvy a příležitosti, které jsou s umělou inteligencí spojeny, včetně vazby mezi správou znalostí a UI. V této souvislosti by se nařízení mělo vztahovat i na algoritmy vyvinuté jinými algoritmy.

    Pozměňovací návrh 17

    Čl. 5 odst. 1

    Text navržený Komisí

    Pozměňovací návrh VR

    Zakazují se následující postupy v oblasti umělé inteligence:

    Zakazují se následující postupy v oblasti umělé inteligence:

    a)

    uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají podprahových technik mimo vědomí osob s cílem podstatně ovlivnit chování těchto osob tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;

    a)

    uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají podprahových technik mimo vědomí osob s cílem podstatně ovlivnit chování těchto osob tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu , porušují nebo by mohly porušovat základní práva jiné osoby nebo skupiny osob, včetně jejich fyzického nebo psychického zdraví a bezpečnosti, způsobí nebo by mohly způsobit újmu spotřebitelům, jako je finanční ztráta nebo ekonomická diskriminace, či podkopávají nebo by mohly podkopat demokracii a právní stát ;

    b)

    uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají zranitelnosti určité skupiny osob v důsledku jejich věku nebo tělesného nebo mentálního postižení, s cílem podstatně ovlivnit chování osoby náležející k této skupině tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;

    b)

    uvádění na trh, uvádění do provozu nebo používání systémů UI, které využívají zranitelnosti určité skupiny osob v důsledku jejich věku nebo tělesného nebo mentálního postižení, s cílem podstatně ovlivnit chování osoby náležející k této skupině tak, že to dotčené osobě nebo jiné osobě způsobuje nebo by mohlo způsobit fyzickou nebo psychickou újmu;

    c)

    uvádění na trh, uvádění do provozu nebo používání systémů UI orgány veřejné moci nebo jejich jménem pro účely hodnocení nebo klasifikace důvěryhodnosti fyzických osob v určitém časovém úseku na základě jejich sociálního chování nebo známých nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede k jednomu nebo oběma následujícím důsledkům:

    i)

    ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob v sociálních kontextech nesouvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny;

    ii)

    ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob, které je neodůvodněné nebo nepřiměřené jejich sociálnímu chování nebo jeho závažnosti ;

    c)

    uvádění na trh, uvádění do provozu nebo používání systémů UI orgány veřejné moci nebo jejich jménem pro účely hodnocení nebo klasifikace důvěryhodnosti fyzických osob nebo skupin osob v určitém časovém úseku na základě jejich sociálního chování nebo známých nebo předvídaných osobních či osobnostních vlastností, vedoucí k přidělování sociálního kreditu pro obecné účely na základě umělé inteligence;

    d)

    používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva, pokud to není nezbytně nutné pro jeden z následujících cílů a jen do té míry, do níž je to nezbytně nutné:

    i)

    cílené vyhledávání určitých potenciálních obětí trestných činů, včetně pohřešovaných dětí;

    ii)

    prevenci konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti fyzických osob nebo teroristického útoku;

    iii)

    odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestného činu uvedeného v čl. 2 odst. 2 rámcového rozhodnutí Rady 2002/584/SVV ([62]), pokud lze tento trestný čin v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky, jak je stanoveno v právních předpisech tohoto členského státu.

    d)

    uvádění na trh, uvádění do provozu nebo používání systémů UI orgány veřejné moci nebo jejich jménem s použitím přidělování sociálního kreditu na základě UI bez lidského dohledu pro konkrétní účely, tj. v sociálních kontextech souvisejících s kontextem, ve kterém byly dané údaje původně vytvořeny nebo shromážděny, pro účely hodnocení nebo klasifikace důvěryhodnosti fyzických osob nebo skupin osob v určitém časovém úseku na základě jejich sociálního chování nebo známých nebo předvídaných osobních či osobnostních vlastností, přičemž výsledný sociální kredit vede ke znevýhodňujícímu nebo nepříznivému zacházení s některými fyzickými osobami nebo celými skupinami těchto osob, které je neodůvodněné nebo nepřiměřené jejich sociálnímu chování nebo jeho závažnosti;

     

    e)

    používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva, pokud to není nezbytně nutné pro jeden z následujících cílů a jen do té míry, do níž je to nezbytně nutné:

    i)

    cílené vyhledávání určitých potenciálních obětí trestných činů, včetně pohřešovaných dětí;

    ii)

    prevenci konkrétního, závažného a bezprostředního ohrožení života nebo fyzické bezpečnosti fyzických osob nebo teroristického útoku;

    iii)

    odhalování, lokalizaci, identifikaci nebo stíhání pachatelů nebo osob podezřelých z trestného činu uvedeného v čl. 2 odst. 2 rámcového rozhodnutí Rady 2002/584/SVV ([62]), pokud lze tento trestný čin v dotčeném členském státě potrestat trestem odnětí svobody nebo ochranným opatřením spojeným s odnětím osobní svobody s horní hranicí sazby v délce nejméně tři roky, jak je stanoveno v právních předpisech tohoto členského státu.

    Odůvodnění

    Podprahové techniky mohou obecně ohrozit svobodu, lidská práva, a tím i fungování demokratického právního státu. Umělá inteligence může zároveň oslabovat též práva spotřebitelů. Účelem doplnění je tuto skutečnost vyjasnit.

    Pokud jde o sociální klasifikaci ze strany orgánů veřejné moci nebo z jejich pověření, měla by být zakázána v případě, že se provádí pro obecné účely, a to vzhledem k nebezpečím plynoucím z těchto praktik, které je vysvětleno v 17. bodě odůvodnění. Vytváření nebo shromažďování údajů pro konkrétní účely by mělo být povoleno pouze pod lidským dohledem a za předpokladu, že neporušuje právo na důstojnost a nediskriminaci ani hodnoty rovnosti a spravedlnosti.

    Pozměňovací návrh 18

    Čl. 5 odst. 4

    Text navržený Komisí

    Pozměňovací návrh VR

    Členský stát se může rozhodnout, že umožní plně nebo částečně povolit používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva v mezích a za podmínek uvedených v odst. 1 písm. d) a v odstavcích 2 a 3. Daný členský stát stanoví ve svých vnitrostátních právních předpisech nezbytná podrobná pravidla upravující žádosti o povolení uvedená v odstavci 3, vydávání a výkon těchto povolení a dohled nad nimi. Tato pravidla rovněž stanoví, ve vztahu ke kterému cíli uvedenému v odst. 1 písm. d) a ke kterému trestnému činu uvedenému v písmenu iii) tohoto odstavce lze příslušným orgánům povolit používání těchto systémů pro účely prosazování práva.

    Členský stát se může rozhodnout, že umožní plně nebo částečně povolit používání systémů biometrické identifikace na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva v mezích a za podmínek uvedených v odst. 1 písm. d) a v odstavcích 2 a 3. Daný členský stát stanoví ve svých vnitrostátních právních předpisech nezbytná podrobná pravidla upravující žádosti o povolení uvedená v odstavci 3, vydávání a výkon těchto povolení a dohled nad nimi. Tato pravidla rovněž stanoví, ve vztahu ke kterému cíli uvedenému v odst. 1 písm. d) a ke kterému trestnému činu uvedenému v písmenu iii) tohoto odstavce lze příslušným orgánům povolit používání těchto systémů pro účely prosazování práva. Tato pravidla upravují způsob informování dotčených místních a regionálních orgánů a jejich konzultace. Tato konzultace musí proběhnout před výjimečným použitím těchto systémů na veřejně přístupných místech. V naléhavých situacích, kdy nelze rozumně očekávat předchozí konzultaci, by měl být dotčený místní nebo regionální orgán o používání příslušných postupů v oblasti UI neprodleně informován.

    Odůvodnění

    Politicko-administrativní odpovědnost za správu veřejně přístupných míst a dohled nad nimi nesou místní a regionální orgány. Proto jim musí být umožněno, aby se mohly k použití takových postupů v oblasti UI předem vyjádřit, a musí být řádně informovány o výjimečném použití systémů UI pro účely vymáhání práva.

    V naléhavé situaci, kdy nelze rozumně očekávat předchozí konzultaci, by měl být dotčený místní nebo regionální orgán neprodleně informován.

    Pozměňovací návrh 19

    Článek 13

    Text navržený Komisí

    Pozměňovací návrh VR

    Článek 13 Transparentnost a poskytování informací uživatelům

    Článek 13a Transparentnost a poskytování informací uživatelům

    1.   Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby bylo jejich fungování dostatečně transparentní a uživatelům umožňovalo interpretovat výstup systému a vhodně jej používat. Je zajištěn vhodný typ a stupeň transparentnosti s cílem dosáhnout souladu s příslušnými povinnostmi uživatele a poskytovatele stanovenými v kapitole 3 této hlavy.

    1.   Vysoce rizikové systémy UI musí být navrženy a vyvinuty tak, aby bylo jejich fungování dostatečně transparentní a uživatelům umožňovalo interpretovat výstup systému a vhodně jej používat. Je zajištěn vhodný typ a stupeň transparentnosti a srozumitelné vysvětlení s cílem dosáhnout souladu s příslušnými povinnostmi uživatele a poskytovatele stanovenými v kapitole 3 této hlavy. Vysvětlení musí být poskytnuto alespoň v jazyce země, v níž je systém UI používán.

    2.   Vysoce rizikové systémy UI musí být opatřeny návodem k použití ve vhodném digitálním nebo jiném formátu, který obsahuje stručné, úplné, správné a jasné informace, které jsou pro uživatele relevantní, přístupné a srozumitelné.

    2.   Vysoce rizikové systémy UI musí být opatřeny veřejným a srozumitelným návodem k použití ve vhodném digitálním nebo jiném formátu, který obsahuje stručné, úplné, správné a jasné informace, které jsou pro uživatele relevantní, dostupné a srozumitelné.

    3.   Informace podle odstavce 2 uvádějí:

    3.   Informace podle odstavce 2 uvádějí:

    a)

    totožnost a kontaktní údaje poskytovatele a tam, kde je to relevantní, jeho zplnomocněného zástupce;

    a)

    totožnost a kontaktní údaje poskytovatele a tam, kde je to relevantní, jeho zplnomocněného zástupce;

    b)

    vlastnosti, schopnosti a omezení výkonnosti vysoce rizikového systému UI, včetně:

    b)

    vlastnosti, schopnosti a omezení výkonnosti vysoce rizikového systému UI, včetně:

     

    i)

    jeho zamýšleného účelu;

     

    i)

    jeho zamýšleného účelu;

     

    ii)

    úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti uvedené v článku 15, ve vztahu k níž byl daný vysoce rizikový systém UI testován a ověřen a kterou lze očekávat, a jakékoli známé a předvídatelné okolnosti, které mohou mít na tuto očekávanou úroveň přesnosti, spolehlivost a kybernetické bezpečnosti dopad;

     

    ii)

    úrovně přesnosti (vyjádřené v příslušných ukazatelích pro hodnocení modelů) , spolehlivosti a kybernetické bezpečnosti uvedené v článku 15, ve vztahu k níž byl daný vysoce rizikový systém UI testován a ověřen a kterou lze očekávat, a jakékoli známé a předvídatelné okolnosti, které mohou mít na tuto očekávanou úroveň přesnosti, spolehlivost a kybernetické bezpečnosti dopad;

     

    iii)

    jakýchkoli známých nebo předvídatelných okolností souvisejících s používáním daného vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, které mohou vést k rizikům pro zdraví a bezpečnost nebo pro základní práva;

     

    iii)

    jakýchkoli známých nebo předvídatelných okolností souvisejících s používáním daného vysoce rizikového systému UI v souladu s jeho určeným účelem nebo za podmínek důvodně předvídatelného nesprávného použití, které mohou vést k rizikům pro zdraví a bezpečnost nebo pro základní práva;

     

    iv)

    jeho výkonnosti ve vztahu k osobám nebo skupinám osob, na něž má být systém používán;

     

    iv)

    jeho výkonnosti ve vztahu k osobám nebo skupinám osob, na něž má být systém používán;

     

    v)

    případně specifikací vstupních údajů nebo jakýchkoli dalších informací příslušných z hlediska použitých souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat při zohlednění určeného účelu systému UI;

     

    v)

    případně specifikací vstupních údajů nebo jakýchkoli dalších informací příslušných z hlediska použitých souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat při zohlednění určeného účelu systému UI;

    vi)

    parametrů použitých k nastavení modelu a opatření přijatých s cílem zabránit přeučení a nedoučení;

    c)

    změny vysoce rizikového systému UI a jeho výkonnosti, které poskytovatel stanovil předem v okamžiku počátečního posouzení shody;

    c)

    změny vysoce rizikového systému UI a jeho výkonnosti, které poskytovatel stanovil předem v okamžiku počátečního posouzení shody;

    d)

    opatření v oblasti lidského dohledu uvedená v článku 14, včetně technických opatření zavedených za účelem usnadnění interpretace výstupů systémů UI ze strany uživatelů;

    d)

    opatření v oblasti lidského dohledu uvedená v článku 14, včetně technických opatření zavedených za účelem usnadnění interpretace výstupů systémů UI ze strany uživatelů;

    e)

    očekávanou životnost vysoce rizikového systému UI a veškerá nezbytná opatření v oblasti údržby a péče umožňující zajistit řádné fungování tohoto systému UI, včetně aktualizací softwaru.

    e)

    očekávanou životnost vysoce rizikového systému UI a veškerá nezbytná opatření v oblasti údržby a péče umožňující zajistit řádné fungování tohoto systému UI, včetně aktualizací softwaru.

     

    Článek 13b Transparentnost a informování dotčených osob

    Osoby nebo skupiny osob, jež mají být použitím vysoce rizikového systému UI dotčeny, musí být vhodným, snadno dostupným a srozumitelným způsobem informovány a musí mít přístup k explicitním, snadno dostupným a veřejným informacím o tomto použití.

    Odůvodnění

    V zájmu posílení ekosystému důvěry by měly být návody k použití vysoce rizikových systémů umělé inteligence zpřístupněny veřejnosti. Tyto návody musí být vyhotoveny v jazyce, kterému čtenář země, v níž je systém UI používán, rozumí.

    V rámci transparentnosti a interpretability algoritmů musí být možné vysvětlit, podle jakých parametrů je model nastaven a jaká opatření byla přijata s cílem zabránit přeučení a nedoučení.

    Článek 13b upravuje povinnost transparentnosti a informování osob, které jsou se systémy UI při interakci nebo které by mohly být systémem UI dotčeny.

    Pozměňovací návrh 20

    Čl. 14 odst. 4

    Text navržený Komisí

    Pozměňovací návrh VR

    Opatření uvedená v odstavci 3 umožňují jednotlivcům, kteří jsou pověřeni lidským dohledem, aby v závislosti na okolnostech:

    Opatření uvedená v odstavci 3 umožňují jednotlivcům, kteří jsou pověřeni lidským dohledem, aby v závislosti na okolnostech:

    a)

    plně porozuměli kapacitám a omezením daného vysoce rizikového systému UI a byli schopni náležitě monitorovat jeho fungování tak, aby bylo možné co nejdříve objevit a řešit příznaky anomálií, dysfunkcí a neočekávaného výkonu;

    a)

    plně porozuměli kapacitám a omezením daného vysoce rizikového systému UI a byli schopni náležitě monitorovat jeho fungování tak, aby bylo možné co nejdříve objevit a řešit příznaky anomálií, dysfunkcí a neočekávaného výkonu;

    b)

    si nadále uvědomovali možnou tendenci automatického nebo nadměrného spoléhání na výstup vysoce rizikového systému UI (dále jen „automatizační zkreslení“), zejména u vysoce rizikových systémů UI užívaných pro poskytování informací nebo doporučení pro rozhodování fyzických osob;

    b)

    si nadále uvědomovali možnou tendenci automatického nebo nadměrného spoléhání na výstup vysoce rizikového systému UI (dále jen „automatizační zkreslení“) nebo některé další formy zkreslení , zejména u vysoce rizikových systémů UI užívaných pro poskytování informací nebo doporučení pro rozhodování fyzických osob;

    c)

    byli schopni správně interpretovat výstup vysoce rizikového systému UI, zejména s ohledem na vlastnosti tohoto systému a na dostupné interpretační nástroje a metody;

    c)

    byli schopni správně interpretovat výstup vysoce rizikového systému UI, zejména s ohledem na vlastnosti tohoto systému a na dostupné interpretační nástroje a metody;

    d)

    byli schopni se v jakékoli konkrétní situaci rozhodnout, že vysoce rizikový systém UI nepoužijí nebo výstup z vysoce rizikového systému UI jiným způsobem nezohlední, zruší nebo zvrátí;

    d)

    byli schopni se v jakékoli konkrétní situaci rozhodnout, že vysoce rizikový systém UI nepoužijí nebo výstup z vysoce rizikového systému UI jiným způsobem nezohlední, zruší nebo zvrátí;

    e)

    byli schopni zasáhnout do fungování vysoce rizikového systému UI nebo jej přerušit tlačítkem „stop“ nebo podobným postupem.

    e)

    byli schopni zasáhnout do fungování vysoce rizikového systému UI nebo jej přerušit tlačítkem „stop“ nebo podobným postupem.

    Odůvodnění

    Existuje vícero forem zkreslení, které mohou být problematické. Patří sem např. zkreslení na straně designéra nebo uživatele systému UI (sociální zkreslení), zkreslení týkající se otázky, zda je použitý systém UI adekvátním řešením daného problému (technické zkreslení), a statistické formy zkreslení.

    Pozměňovací návrh 21

    Článek 14, nový odstavec za odstavcem 5

    Text navržený Komisí

    Pozměňovací návrh VR

     

    Veškerá rozhodnutí přijímaná systémy UI uvedenými v bodě 5 písm. a) a b) přílohy III musí podléhat lidskému zásahu a musí být založena na řádném rozhodovacím procesu. Musí být zajištěno, že se na těchto rozhodnutích bude podílet člověk.

    Odůvodnění

    Článek 14 se zabývá pouze lidským dohledem nad vysoce rizikovými systémy UI. V případě rozhodnutí orgánů veřejné moci je důležité zdůraznit, že musí být zajištěn zásah a podíl člověka a řádný proces.

    Pozměňovací návrh 22

    Čl. 17 odst. 1, nová písmena za písmenem m)

    Text navržený Komisí

    Pozměňovací návrh VR

    Poskytovatelé vysoce rizikových systémů UI zavádějí systém řízení kvality, který zajišťuje soulad s tímto nařízením. Tento systém je systematicky a řádně dokumentován formou písemných politik, postupů a pokynů a obsahuje alespoň tyto aspekty:

    Poskytovatelé vysoce rizikových systémů UI zavádějí systém řízení kvality, který zajišťuje soulad s tímto nařízením. Tento systém je systematicky a řádně dokumentován formou písemných politik, postupů a pokynů a obsahuje alespoň tyto aspekty:

    a)

    strategii pro zajištění souladu s právními předpisy, včetně souladu s postupy posuzování shody a postupy pro řízení úprav daného vysoce rizikového systému UI;

    a)

    strategii pro zajištění souladu s právními předpisy, včetně souladu s postupy posuzování shody a postupy pro řízení úprav daného vysoce rizikového systému UI;

    b)

    techniky, postupy a systematická opatření využívaná při vytváření, kontrole a ověřování návrhu vysoce rizikového systému UI;

    b)

    techniky, postupy a systematická opatření využívaná při vytváření, kontrole a ověřování návrhu vysoce rizikového systému UI;

    c)

    techniky, postupy a systematická opatření využívaná při vývoji, kontrole a zajišťování kvality daného vysoce rizikového systému UI;

    c)

    techniky, postupy a systematická opatření využívaná při vývoji, kontrole a zajišťování kvality daného vysoce rizikového systému UI;

    d)

    vyšetřovací, testovací a ověřovací postupy prováděné před vývojem vysoce rizikového systému UI, během něho a po něm, a četnost, s níž musí být prováděny;

    d)

    vyšetřovací, testovací a ověřovací postupy prováděné před vývojem vysoce rizikového systému UI, během něho a po něm, a četnost, s níž musí být prováděny;

    e)

    technické specifikace, včetně norem, které mají být uplatňovány, a pokud nejsou příslušné harmonizované normy uplatňovány v plném rozsahu, prostředky, které mají být použity k zajištění toho, aby vysoce rizikový systém UI splňoval požadavky stanovené v kapitole 2 této hlavy;

    e)

    technické specifikace, včetně norem, které mají být uplatňovány, a pokud nejsou příslušné harmonizované normy uplatňovány v plném rozsahu, prostředky, které mají být použity k zajištění toho, aby vysoce rizikový systém UI splňoval požadavky stanovené v kapitole 2 této hlavy;

    f)

    systémy a postupy pro správu dat, včetně shromažďování, analýzy, označování, ukládání, filtrace, vytěžování, agregace a uchovávání dat a jakékoli další operace týkající se dat, které se provádějí před uvedením vysoce rizikových systémů UI na trh nebo do provozu a pro účely tohoto uvedení;

    f)

    systémy a postupy pro správu dat, včetně shromažďování, analýzy, označování, ukládání, filtrace, vytěžování, agregace a uchovávání dat a jakékoli další operace týkající se dat, které se provádějí před uvedením vysoce rizikových systémů UI na trh nebo do provozu a pro účely tohoto uvedení;

    g)

    systém řízení rizik podle článku 9;

    g)

    systém řízení rizik podle článku 9;

    h)

    vytvoření, uplatňování a udržování systému monitorování po uvedení na trh v souladu s článkem 61;

    h)

    vytvoření, uplatňování a udržování systému monitorování po uvedení na trh v souladu s článkem 61;

    i)

    postupy týkající se ohlašování závažných incidentů a chybného fungování v souladu s článkem 62;

    i)

    postupy týkající se ohlašování závažných incidentů a chybného fungování v souladu s článkem 62;

    j)

    řešení komunikace s příslušnými vnitrostátními orgány a příslušnými orgány, včetně odvětvových, a zajišťování nebo podpora přístupu k datům, k oznámeným subjektům, k jiným provozovatelům, zákazníkům nebo k jiným zúčastněným stranám;

    j)

    řešení komunikace s příslušnými vnitrostátními orgány a příslušnými orgány, včetně odvětvových, a zajišťování nebo podpora přístupu k datům, k oznámeným subjektům, k jiným provozovatelům, zákazníkům nebo k jiným zúčastněným stranám;

    k)

    systémy a postupy pro uchovávání záznamů o veškeré příslušné dokumentaci a informacích;

    k)

    systémy a postupy pro uchovávání záznamů o veškeré příslušné dokumentaci a informacích;

    l)

    řízení zdrojů, včetně opatření souvisejících s bezpečností dodávek;

    l)

    řízení zdrojů, včetně opatření souvisejících s bezpečností dodávek;

    m)

    rámec odpovědnosti stanovující odpovědnost vedení a ostatních zaměstnanců ve vztahu ke všem aspektům uvedeným v tomto odstavci.

    m)

    rámec odpovědnosti stanovující odpovědnost vedení a ostatních zaměstnanců ve vztahu ke všem aspektům uvedeným v tomto odstavci;

     

    n)

    opatření k předcházení neodůvodněné diskriminaci na základě pohlaví, etnického původu, náboženského vyznání nebo přesvědčení, zdravotního postižení, věku, sexuální orientace nebo na jakémkoli jiném základě;

    o)

    vysvětlení, jak byly při navrhování vysoce rizikového systému UI zohledněny etické otázky .

    Odůvodnění

    Doplněný text zdůrazňuje, že důležitými prvky systému kvality by měla být inkluzivnost a boj proti neoprávněné diskriminaci.

    Tento systém musí být v souladu s etickými hodnotami, které si uživatel systému AI přeje tímto systémem zavést nebo u nichž může poskytovatel odůvodněně očekávat, že jim má vysoce rizikový systém AI odpovídat. Poskytovatel by měl být schopen vysvětlit, jak tuto skutečnost zohlednil.

    Pozměňovací návrh 23

    Čl. 19 odst. 1

    Text navržený Komisí

    Pozměňovací návrh VR

    Poskytovatelé vysoce rizikových systémů UI zajišťují, že bude u jejich vysoce rizikových systémů UI před uvedením na trh nebo do provozu proveden příslušný postup posuzování shody v souladu s článkem 43. Pokud je po tomto posouzení shody prokázán soulad daných systémů UI s požadavky stanovenými v kapitole 2 této hlavy, vypracují poskytovatelé EU prohlášení o shodě v souladu s článkem 48 a umístí označení shody CE v souladu s článkem 49.

    Poskytovatelé vysoce rizikových systémů UI zajišťují, že bude u jejich vysoce rizikových systémů UI před uvedením na trh nebo do provozu proveden příslušný postup posuzování shody v souladu s článkem 43. Pokud je po tomto posouzení shody prokázán soulad daných systémů UI s požadavky stanovenými v kapitole 2 této hlavy, vypracují poskytovatelé EU prohlášení o shodě v souladu s článkem 48 a umístí označení shody CE v souladu s článkem 49. Poskytovatel vysoce rizikových systémů UI zveřejní na veřejně přístupném místě EU prohlášení o shodě a shrnutí posouzení shody.

    Odůvodnění

    V zájmu posílení ekosystému důvěry v systémy UI by měli poskytovatelé vysoce rizikových systémů UI dbát na transparentnost. Veřejnost by tak měla mít možnost kontrolovat, zda bylo posouzení shody provedeno řádně a v souladu s pravidly nařízení.

    Pozměňovací návrh 24

    Článek 29, nový odstavec po odstavci 6

    Text navržený Komisí

    Pozměňovací návrh VR

     

    Uživatelé vysoce rizikových systémů UI odpovídají za provedení etického posouzení před uvedením těchto systémů do provozu. Musí být schopni objasnit možné dopady zavádění dané technologie na jednotlivce a společnost. Uvedou proto zamýšlený účel použití systému UI, základní hodnoty a způsob, jímž tyto hodnoty zvážili, a zda je zapracovali do systému. Zhodnotí skutečné účinky systému UI na jednotlivce a společnost během jeho celého životního cyklu.

    Odůvodnění

    Etika je široký pojem. Existuje mnoho způsobů uplatňování etiky v souvislosti s technologiemi, a to jak z hlediska teoretických základů, tak konkrétních metodik, nástrojů a koncepčních hodnot. Hodnoty jsou věci, které určití lidé či skupiny lidí považují za důležité, přičemž mohou být konkrétnější, nebo teoretičtější. Je důležité je pokud možno uplatňovat, morální hodnoty prezentovat otevřeně a pokračovat v provádění hodnocení životního cyklu systému AI.

    Pozměňovací návrh 25

    Čl. 52 odst. 1

    Text navržený Komisí

    Pozměňovací návrh VR

    Poskytovatelé zajistí, že systémy UI určené k interakci s fyzickými osobami budou navrhovány a vyvíjeny tak, aby byly fyzické osoby informovány o tom, že komunikují se systémem UI , pokud to není zřejmé z okolností a kontextu použití . Tato povinnost se nevztahuje na systémy UI, které jsou ze zákona oprávněny odhalovat trestné činy, předcházet jim, vyšetřovat je a stíhat, s výjimkou případů, kdy jsou tyto systémy k dispozici veřejnosti za účelem hlášení trestných činů.

    Poskytovatelé zajistí, že systémy UI určené k interakci s fyzickými osobami budou navrhovány a vyvíjeny tak, aby byly fyzické osoby informovány o tom, že komunikují se systémem UI. Tato povinnost se nevztahuje na systémy UI, které jsou ze zákona oprávněny odhalovat trestné činy, předcházet jim, vyšetřovat je a stíhat, s výjimkou případů, kdy jsou tyto systémy k dispozici veřejnosti za účelem hlášení trestných činů. Tato interakce by neměla omezovat rozsah možností a právní postavení fyzických osob, které komunikují se systémy UI.

    Odůvodnění

    Tam, kde se používají technologické artefakty jako prostředek komunikace s fyzickými osobami, může hrozit, že bude omezeno rozhodování těchto osob, které s těmito artefakty komunikují. Fyzické osoby musí být vždy řádně informovány, kdykoli jsou konfrontovány se systémy UI, a to bez ohledu na intepretaci dané situace. Při interakci se systémy UI musí být vždy zaručena jejich práva.

    Pozměňovací návrh 26

    Čl. 57 odst. 1

    Text navržený Komisí

    Pozměňovací návrh VR

    Rada se skládá z vnitrostátních dozorových úřadů, které jsou zastoupeny vedoucím nebo odpovídajícím vysokým úředníkem daného úřadu a evropským inspektorem ochrany údajů. Na zasedání mohou být přizvány další vnitrostátní orgány v případě, že jsou pro ně projednávané otázky relevantní.

    Rada se skládá z vnitrostátních dozorových úřadů, které jsou zastoupeny vedoucím nebo odpovídajícím vysokým úředníkem daného úřadu a evropským inspektorem ochrany údajů. Na zasedání mohou být přizvány další celostátní, regionální a místní orgány v případě, že jsou pro ně projednávané otázky relevantní.

    Odůvodnění

    Místní a regionální orgány musí mít možnost podílet se na dohledu nad systémy UI a podávat zprávy o jeho praktickém provádění.

    Pozměňovací návrh 27

    Článek 58

    Text navržený Komisí

    Pozměňovací návrh VR

    Při poskytování poradenství a pomoci Komisi v souvislosti s čl. 56 odst. 2 rada zejména:

    Při poskytování poradenství a pomoci Komisi v souvislosti s čl. 56 odst. 2 rada zejména:

    a)

    shromažďuje a sdílí odborné znalosti a osvědčené postupy mezi členskými státy;

    a)

    shromažďuje a sdílí odborné znalosti a osvědčené postupy mezi členskými státy a regionálními a místními orgány ;

    b)

    přispívá k jednotné správní praxi v členských státech, včetně fungování regulačních pískovišť uvedených v článku 53;

    b)

    přispívá k jednotné správní praxi v členských státech, včetně fungování regulačních pískovišť uvedených v článku 53;

    c)

    vydává stanoviska, doporučení nebo písemné příspěvky k záležitostem souvisejícím s prováděním tohoto nařízení, zejména

    c)

    vydává stanoviska, doporučení nebo písemné příspěvky k záležitostem souvisejícím s prováděním tohoto nařízení, zejména

     

    i)

    k technickým specifikacím nebo stávajícím normám týkajícím se požadavků stanovených v hlavě III kapitole 2;

    ii)

    k používání harmonizovaných norem nebo společných specifikací uvedených v článcích 40 a 41;

    iii)

    k přípravě pokynů, včetně pokynů pro stanovení správních pokut uvedených v článku 71.

     

    i)

    k technickým specifikacím nebo stávajícím normám týkajícím se požadavků stanovených v hlavě III kapitole 2;

    ii)

    k používání harmonizovaných norem nebo společných specifikací uvedených v článcích 40 a 41;

    iii)

    k přípravě pokynů, včetně pokynů pro stanovení správních pokut uvedených v článku 71.

    Odůvodnění

    Místní a regionální orgány jsou nejblíže místním obyvatelům a ekonomikám. Měly by tedy být explicitně zapojeny do sdílení svých znalostí.

    Pozměňovací návrh 28

    Čl. 59 odst. 1

    Text navržený Komisí

    Pozměňovací návrh VR

    Každý členský stát zřizuje nebo určuje příslušné vnitrostátní orgány s cílem zajistit uplatňování a provádění tohoto nařízení. Příslušný vnitrostátní orgán je organizován tak, aby chránil objektivitu a nestrannost svých činností a úkolů.

    Každý členský stát zřizuje nebo určuje příslušné vnitrostátní orgány s cílem zajistit uplatňování a provádění tohoto nařízení. Příslušný vnitrostátní orgán je organizován tak, aby chránil objektivitu a nestrannost svých činností a úkolů. Dle uvážení členských států mohou být k provádění úkolů v oblasti dohledu nebo vymáhání oprávněny místní a regionální orgány.

    Odůvodnění

    V zájmu zajištění proveditelnosti nařízení a stanoveného rámce pro dohled a vymáhání by měl členský stát mít možnost pověřit tam, kde je to nezbytné a možné, místní a regionální orgány úkoly v oblasti dohledu nebo vymáhání. V této souvislosti musí být místním a regionálním orgánům poskytnuta podpora a odborná příprava tak, aby byly plně schopny vykonávat úkoly v oblasti dohledu nebo vymáhání.

    Pozměňovací návrh 29

    Čl. 69 odst. 3

    Text navržený Komisí

    Pozměňovací návrh VR

    Kodexy chování mohou vypracovat jednotliví poskytovatelé systémů UI nebo organizace, které je zastupují, případně obojí, a to i za účasti uživatelů a veškerých zúčastněných stran a jejich zastupujících organizací. Kodexy chování se mohou vztahovat na jeden nebo více systémů UI s přihlédnutím k podobnosti určeného účelu daných systémů.

    Kodexy chování mohou vypracovat celostátní, místní nebo regionální orgány, jednotliví poskytovatelé systémů UI nebo organizace, které je zastupují, případně obojí, a to i za účasti uživatelů a veškerých zúčastněných stran a jejich zastupujících organizací. Kodexy chování se mohou vztahovat na jeden nebo více systémů UI s přihlédnutím k podobnosti určeného účelu daných systémů.

    Odůvodnění

    Celostátní, místní a regionální orgány by měly mít zákonnou pravomoc vypracovat kodexy chování pro systémy umělé inteligence, které vyvíjejí nebo používají.

    Pozměňovací návrh 30

    PŘÍLOHA I – Techniky a přístupy umělé inteligence uvedené v čl. 3 odst. 1

    Text navržený Komisí

    Pozměňovací návrh VR

     

    S ohledem na současný stav vědy zahrnuje UI následující techniky a metody:

    a)

    přístupy strojového učení, včetně učení s učitelem, bez učitele a posilovaného učení, používající celou řadu metod, včetně hlubokého učení

    a)

    přístupy strojového učení, včetně učení s učitelem, bez učitele a posilovaného učení, používající celou řadu metod, včetně hlubokého učení

    b)

    přístupy založené na logice a znalostech, včetně reprezentace znalostí, induktivního (logického) programování, znalostních základen, inferenčních a deduktivních mechanismů, (symbolického) uvažování a expertních systémů

    b)

    přístupy založené na logice a znalostech, včetně reprezentace znalostí, induktivního (logického) programování, znalostních základen, inferenčních a deduktivních mechanismů, (symbolického) uvažování a expertních systémů

    c)

    statistické přístupy, bayesovské odhadování, metody vyhledávání a optimalizace

    c)

    statistické přístupy, bayesovské odhadování, metody vyhledávání a optimalizace

    Odůvodnění

    Definice a seznam technik umělé inteligence by měly obstát i v budoucnosti. Seznam specifických technik a přístupů používaných při vývoji systémů UI by neměl být vyčerpávajícím seznamem a je třeba jasně deklarovat, že je odrazem aktuálního vědeckého poznání.

    Pozměňovací návrh 31

    Příloha III body 1–5

    Text navržený Komisí

    Pozměňovací návrh VR

    Vysoce rizikovými systémy UI podle čl. 6 odst. 2 se rozumí systémy UI uvedené v kterékoli z těchto oblastí:

    Vysoce rizikovými systémy UI podle čl. 6 odst. 2 se rozumí systémy UI uvedené v kterékoli z těchto oblastí:

    1.

    Biometrická identifikace a kategorizace fyzických osob:

    1.

    Biometrická identifikace a kategorizace fyzických osob:

    a)

    systémy UI určené k použití za účelem biometrické identifikace fyzických osob na dálku „v reálném čase“ a „zpětně“.

    a)

    systémy UI určené k použití za účelem biometrické identifikace fyzických osob na dálku „v reálném čase“ a „zpětně“.

    2.

    Řízení a provozování kritické infrastruktury:

    2.

    Řízení a provozování kritické infrastruktury:

    a)

    systémy UI určené k použití jako bezpečnostní komponenty řízení a provozu silniční dopravy a dodávek vody, plynu, topení a elektřiny.

    a)

    systémy UI určené k použití jako bezpečnostní komponenty řízení a provozu silniční dopravy a dodávek vody, plynu, topení a elektřiny , telekomunikační, vodohospodářské a internetové infrastruktury .

    3.

    Vzdělávání a odborná příprava:

    3.

    Vzdělávání a odborná příprava:

    a)

    systémy UI určené k použití za účelem určování přístupu fyzických osob ke vzdělávacím institucím a institucím odborné přípravy nebo jejich zařazení do těchto institucí;

    a)

    systémy UI určené k použití za účelem určování přístupu fyzických osob ke vzdělávacím institucím a institucím odborné přípravy nebo jejich zařazení do těchto institucí;

    b)

    systémy UI určené k použití za účelem hodnocení studentů vzdělávacích institucí nebo institucí odborné přípravy a hodnocení účastníků zkoušek, které jsou běžně vyžadovány pro přijetí ke studiu ve vzdělávacích institucích.

    b)

    systémy UI určené k použití za účelem hodnocení studentů vzdělávacích institucí nebo institucí odborné přípravy a hodnocení účastníků zkoušek, které jsou běžně vyžadovány pro přijetí ke studiu ve vzdělávacích institucích.

    4.

    Zaměstnanost, správa pracovníků a přístup k samostatné výdělečné činnosti:

    4.

    Zaměstnanost, správa pracovníků a přístup k samostatné výdělečné činnosti:

    a)

    systémy UI určené k použití při náboru nebo výběru fyzických osob, zejména pro inzerování volných pracovních míst, kontroly nebo třídění žádostí, hodnocení kandidátů v průběhu pohovorů nebo zkoušek;

    a)

    systémy UI určené k použití při náboru nebo výběru fyzických osob, zejména pro inzerování volných pracovních míst, kontroly nebo třídění žádostí, hodnocení kandidátů v průběhu pohovorů nebo zkoušek;

    b)

    systémy UI určené k použití za účelem rozhodování o postupu v zaměstnání nebo ukončení smluvních pracovněprávních vztahů, přidělování úkolů a sledování a hodnocení výkonnosti a chování osob v rámci těchto vztahů.

    b)

    systémy UI určené k použití za účelem rozhodování o postupu v zaměstnání nebo ukončení smluvních pracovněprávních vztahů, přidělování úkolů a sledování a hodnocení výkonnosti a chování osob v rámci těchto vztahů.

    5.

    Přístup k základním soukromým a veřejným službám a dávkám:

    5.

    Přístup k základním soukromým a veřejným službám a dávkám:

    a)

    systémy UI určené pro použití veřejnými orgány nebo jménem veřejných orgánů za účelem hodnocení nároků fyzických osob na dávky a služby veřejné podpory a za účelem udělení, snížení, zrušení nebo opětovného získání těchto dávek a služeb;

    a)

    systémy UI určené pro použití veřejnými orgány nebo jménem veřejných orgánů za účelem hodnocení nároků fyzických osob na dávky a služby veřejné podpory a za účelem udělení, snížení, zrušení nebo opětovného získání těchto dávek a služeb , a rozhodování o těchto nárocích ;

    b)

    systémy UI určené k použití za účelem hodnocení úvěruschopnosti fyzických osob nebo jejich úvěrového bodování, s výjimkou systémů UI uvedených do provozu menšími poskytovateli pro vlastní potřebu;

    b)

    systémy UI určené k použití za účelem určování úvěruschopnosti fyzických osob nebo jejich úvěrového bodování, s výjimkou systémů UI uvedených do provozu menšími poskytovateli pro vlastní potřebu;

    c)

    systémy UI určené k použití za účelem vysílání nebo stanovení priority při vyslání zásahových služeb první reakce, včetně hasičů a lékařské pomoci.

    c)

    systémy UI určené k použití za účelem vysílání nebo stanovení priority při vyslání zásahových služeb první reakce, včetně hasičů a lékařské pomoci.

    Odůvodnění

    Telekomunikační, vodohospodářská a internetová infrastruktura jsou nedílnou součástí kritické infrastruktury.

    Při kvalifikaci vysoce rizikových systémů je důležité, zda by takové systémy mohly představovat skutečné riziko pro občany. Samotné analytické a teoretické hodnocení nároků obyvatel na veřejné služby ještě nepředstavuje vysoké riziko. Doplněním výrazu „hodnocení“ k výrazu „rozhodování“ se zdůrazňuje, že se toto riziko účinně projevuje v rozhodovacím procesu, zejména pokud jde o obyvatele.

    II.   POLITICKÁ DOPORUČENÍ

    EVROPSKÝ VÝBOR REGIONŮ

    Ekosystém excelence

    1.

    		 zdůrazňuje, že ambici Komisi učinit z EU světového lídra v oblasti odpovědného a na člověka zaměřeného rozvoje umělé inteligence (UI) lze naplnit pouze tehdy, budou-li při tom místní a regionální orgány hrát významnou úlohu. Místní a regionální orgány mají nejlepší předpoklady pro to, aby přispěly k vytvoření příznivého prostředí pro navýšení investic do umělé inteligence v příštích několika letech a posílení důvěry v ni;

    2.

    		 zdůrazňuje, že kromě zapojení místních a regionálních orgánů je důležité poskytnout podporu a odbornou přípravu k posílení odbornosti, a to tím spíše, že mohou být pověřeny úkoly v oblasti dohledu a vymáhání;

    3.

    		 konstatuje, že na rozvoj umělé inteligence budou k dispozici finanční prostředky EU, poukazuje však na roztříštěný přístup k tomuto rozvoji v důsledku rozmanitosti programů, což zvyšuje riziko fragmentace a překrývání;

    4.

    		 vyzývá proto Komisi, aby vytvořila a propojila silné a pluralitní společné datové prostory, v jejichž rámci se budou řešit případy společenského používání s využitím veřejných a soukromých údajů. Vyžaduje to rovněž sladění s legislativními iniciativami v rámci evropské strategie pro data;

    Ekosystém důvěry

    5.

    		 vyjadřuje politování nad tím, že návrh nařízení neodkazuje na místní a regionální orgány, přestože se právní rámec bude vztahovat na veřejné i soukromé subjekty;

    6.

    		 v této souvislosti konstatuje, že systémy UI mohou hrát důležitou úlohu při interakci místních a regionálních orgánů s občany a při poskytování služeb. Kromě toho mohou systémy UI mimo jiné zvýšit efektivitu veřejného sektoru a podpořit místní a regionální orgány při provádění nezbytných úprav na místní a regionální úrovni v souvislosti s ekologickou a digitální transformací. Je proto důležité, aby byly v rámci probíhající revize nařízení zkušenosti místních a regionálních orgánů aktivně využity;

    7.

    		 vyzývá k dalšímu vyjasnění definic pojmů „poskytovatel“ a „uživatel“, zejména v situacích, kdy podniky, výzkumné instituce, orgány veřejné moci a obyvatelé společně vyvíjejí a testují systémy UI v živých laboratořích. Náležitá pozornost by měla být věnována také občanům nebo spotřebitelům, jichž se nějak dotýkají rozhodnutí UI v systémech využívaných profesionálními uživateli;

    8.

    		 zdůrazňuje, že je třeba předem konzultovat příslušné místní a regionální orgány v případě využívání systémů UI pro biometrickou identifikaci fyzických osob na dálku „v reálném čase“ na veřejně přístupných místech pro účely prosazování práva;

    9.

    		 vítá veřejnou konzultaci Evropské komise týkající se přizpůsobení pravidel občanskoprávní odpovědnosti specifickým výzvám, které přináší digitální věk a umělá inteligence (1), a očekává, že na základě této konzultace bude vypracován aktualizovaný rámec, který zajistí odškodnění spotřebitelů za škody způsobené použitím umělé inteligence;

    10.

    		 klade si otázku, proč systémy UI používané v demokratických procesech, jako jsou např. volby, nejsou na seznamu vysoce rizikových systémů UI;

    11.

    		 důrazně žádá, aby vysoce rizikové systémy UI podléhaly týmž požadavkům na transparentnost a informace pro fyzické osoby, jako je tomu v současnosti u uživatelů;

    12.

    		 poukazuje na hlavní rizika a důsledky v oblasti lidských práv související s používáním sociálních klasifikací;

    13.

    		 v této souvislosti se staví velmi skepticky k oběma důvodům uvedeným v nařízení (2), které mají určit, kdy sociální klasifikace vede ke znevýhodňujícímu nebo nepříznivému zacházení s jednotlivci nebo skupinami osob, neboť je mimořádně obtížné prokázat existenci takových důvodů. Výbor v této souvislosti naléhavě vyzývá k jasné formulaci silných záruk, aby bylo zajištěno, že zákaz praktik sociální klasifikace nebude obcházen;

    14.

    		 bere na vědomí skutečnost, že se odůvodnění nařízení podrobně zabývá riziky, jimž jsou jednotlivci vystaveni v důsledku své interakce s vysoce rizikovými systémy UI, mimo jiné v rámci vzdělávání, odborné přípravy, zaměstnanosti, řízení lidských zdrojů, přístupu k samostatné výdělečné činnosti nebo přístupu k některým základním soukromým a veřejným službám a jejich využívání;

    15.

    		 vyzývá Komisi, aby podrobněji prozkoumala kvalifikaci vysoké rizikovosti systémů UI určených pro používání orgány veřejné moci (3);

    16.

    		 vyzývá ke zřízení orgánu, který by poskytoval důležité předběžné poradenství týkající se výkladu ustanovení nařízení, a to i v souvislosti s obecným nařízením o ochraně údajů. Zvýší to právní jistotu a sníží náklady na navrhování a zavádění systémů UI;

    17.

    		 zdůrazňuje v tomto ohledu význam jasných formulací v nařízení, které jsou zásadní pro budování ekosystému důvěry a odstranění právní nejistoty, jež vývoj a používání systémů UI obklopuje. Tím se zabrání nesprávným výkladům navrhovaných požadavků a minimalizují se rizika následného špatného řízení aplikací UI, čímž se maximalizuje účinnost nařízení a důvěryhodnost sankcí. V souladu s programem Evropské komise pro zlepšování právní úpravy má zároveň klíčový význam včasné odhalování a odstraňování případných překrývání nebo rozporů se stávajícími pravidly;

    18.

    		 konstatuje, že mnoho místních a regionálních orgánů používá pro podobné úkoly tytéž systémy UI. Tyto systémy v převážné většině případů navrhují soukromé společnosti;

    19.

    		 podotýká, že se zaručení práv občanů netýká pouze tento návrh nařízení, a že je tudíž nutné na něj pohlížet v souvislosti s platnými právními předpisy. Vyzývá proto členské státy, aby zaručily, že budou průběžně přijímat nezbytná správní opatření s cílem řešit příležitosti a rizika plynoucí z využívání UI ve veřejném sektoru;

    20.

    		 poukazuje na to, že to znamená, že při posuzování shody vykládají podniky a oznámené subjekty evropské a vnitrostátní předpisy, což ovlivňuje praxi místních a regionálních orgánů, které tyto systémy UI používají. Je proto obtížné určit, do jaké míry lze s těmito systémy UI spojovat místní a regionální politiku. Výbor proto upozorňuje na specifické potřeby místních a regionálních orgánů a na skutečnost, že univerzální přístup může oslabit účinnost systémů UI při řešení těchto potřeb. Kromě toho navrhuje, aby byly členské státy oprávněny regulovat vysoce rizikové systémy UI na základě naléhavých a opodstatněných důvodů veřejného zájmu;

    21.

    		 v této souvislosti žádá, aby bylo posuzování shody transparentní a přístupné veřejnosti. Místní a regionální orgány musí mít kromě toho možnost podílet se na dohledu nad systémy UI, podávat zprávy o jeho praktickém provádění a oficiálně přispívat k hodnocení uplatňování nařízení, jež provádí Evropská komise;

    22.

    		 zdůrazňuje, že uplatňování regulačního pískoviště vyžaduje vytvoření přiměřených právních, metodických a etických podmínek, které umožní rozvoj technologií a právních předpisů a hodnocení těchto předpisů. Dále musí být stanovena jasná kritéria pro přístup podnikatelů do tohoto regulačního pískoviště. Aby mohly spotřebitelské organizace prosazovat ustanovení aktu o umělé inteligenci, je třeba tato ustanovení zařadit do přílohy I evropské směrnice o zástupných žalobách na ochranu kolektivních zájmů spotřebitelů ((EU) 2020/1828);

    Informační kampaně

    23.

    		 poukazuje na význam osvětových kampaní s cílem přiblížit veřejnosti existenci systémů UI a jejich užitečnost i možná rizika. Zdůrazňuje též naléhavou potřebu komplexního informování spotřebitelů, pokud jde o oblast umělé inteligence / rozhodování řízeného strojem. Žádá v této souvislosti Komisi, aby na tyto kampaně poskytla finanční prostředky;

    Administrativní zátěž

    24.

    		 vyjadřuje znepokojení nad možnou administrativní zátěží, kterou s sebou může navrhované nařízení přinést. Administrativní zátěž může malým a středním podnikům a místním a regionálním orgánům bránit v podpoře inovací a používání systémů UI (4);

    Proporcionalita a subsidiarita

    25.

    		 domnívá se, že návrh nařízení je v souladu s požadavky zásad proporcionality a subsidiarity. Přidaná hodnota opatření EU v této oblasti a vhodnost právních základů zvolených Komisí jsou jasné a konzistentní. Posouzení dopadů obsahovalo zvláštní část věnovanou subsidiaritě. Žádný z vnitrostátních parlamentů navíc ve stanovené lhůtě do 2. září 2021 nevydal odůvodněné stanovisko z důvodu porušení zásady subsidiarity.

    V Bruselu dne 2. prosince 2021.

    předseda Evropského výboru regionů

    Apostolos TZITZIKOSTAS

    ([62])  Rámcové rozhodnutí Rady 2002/584/SVV ze dne 13. června 2002 o evropském zatýkacím rozkazu a postupech předávání mezi členskými státy (Úř. věst. L 190, 18.7.2002, s. 1).

    ([62])  Rámcové rozhodnutí Rady 2002/584/SVV ze dne 13. června 2002 o evropském zatýkacím rozkazu a postupech předávání mezi členskými státy (Úř. věst. L 190, 18.7.2002, s. 1).

    (1)  https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_cs.

    (2)  Čl. 5 odst. 1 písm. c).

    (3)  Příloha III bod 5 odst. a).

    (4)  V nedávné studii (Study to Support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe, s. 12) vypracované za podpory Evropské komise se na základě přiměřených předpokladů odhaduje, že získání certifikace pro systém UI by mohlo stát v průměru 16 800 až 23 000 EUR, což odpovídá zhruba 10–14 % nákladů na vývoj.

    Top