Souhrnný přehled

Posouzení dopadů regulačního rámce pro umělou inteligenci

A. Potřeba opatření

V čem spočívá problém a proč se jedná o problém na úrovni EU?

Umělá inteligence (UI) je nově vznikající univerzální technologie: jedná se o vysoce výkonnou skupinu technik počítačového programování. Zavádění systémů UI má velký potenciál přinést společenský prospěch, hospodářský růst a posílit inovace a globální konkurenceschopnost EU. V některých případech však může používání systémů UI působit problémy. Specifické vlastnosti některých systémů UI mohou vytvářet nová rizika související s 1) bezpečností a zabezpečením a 2) základními právy, a také urychlit pravděpodobnost výskytu nebo intenzitu stávajících rizik. Systémy UI rovněž 3) komplikují donucovacím orgánům práci při ověřování souladu se stávajícími pravidly a jejich vymáhání. Tyto problémy pak jako celek vedou k 4) právní nejistotě společností, 5) potenciálně pomalejšímu zavádění technologií UI v důsledku nedostatečné důvěry ze strany podniků a občanů a 6) regulaci coby reakci vnitrostátních orgánů s cílem zmírnit možné externality, které přináší hrozbu fragmentace vnitřního trhu.

Čeho by mělo být dosaženo?

Cílem regulačního rámce je tyto problémy řešit a zajistit řádné fungování jednotného trhu tím, že v Unii vytvoří podmínky pro vývoj a využívání důvěryhodné UI. Konkrétními cíli jsou: 1) zajistit, aby systémy UI uváděné na trh a používané byly bezpečné a respektovaly stávající právní předpisy o základních právech a hodnotách Unie; 2) zajistit právní jistotu s cílem usnadnit investice a inovace v oblasti UI; 3) zlepšit správu a účinné prosazování stávajících právních předpisů o základních právech a bezpečnostních požadavcích, jež se vztahují na systémy UI; a 4) usnadnit rozvoj jednotného trhu se zákonnými, bezpečnými a důvěryhodnými systémy UI a předcházet roztříštěnosti trhu.

Jakou přidanou hodnotu budou mít tato opatření na úrovni EU (subsidiarita)? 

Z přeshraniční povahy dat velkého objemu a rozsáhlých souborů dat, na které se aplikace umělé inteligence často spoléhají, vyplývá, že cílů iniciativy nemůže být účinně dosaženo pouze na úrovni členských států. Cílem evropského regulačního rámce pro důvěryhodnou UI je stanovit harmonizovaná pravidla pro vývoj, uvádění na trh a používání výrobků a služeb, jejichž součástí je technologie UI, nebo samostatných aplikací UI v Unii. Jejím účelem je zajistit rovné podmínky a chránit všechny evropské občany, přičemž posílí konkurenceschopnost a průmyslovou základnu Evropy v oblasti umělé inteligence. Opatření EU v oblasti umělé inteligence posílí vnitřní trh a mají významný potenciál poskytnout evropskému průmyslu globální konkurenční výhodu založenou na úsporách z rozsahu, kterých jednotlivé členské státy nemohou dosáhnout samy.

B. Řešení

Prostřednictvím kterých možností lze cílů dosáhnout? Je některá možnost upřednostňována? Pokud ne, proč?

Byly zvažovány tyto možnosti: Možnost č. 1: legislativní nástroj EU, kterým by se zavedl systém dobrovolného označování; Možnost č. 2: odvětvový přístup ad hoc; Možnost č. 3: horizontální legislativní nástroj EU, který by stanovil povinné požadavky na vysoce rizikové aplikace UI; Možnost č. 3+: totožná s možností č. 3, avšak s dobrovolnými kodexy chování pro nerizikové aplikace UI; a možnost č. 4: horizontální legislativní nástroj EU, který by stanovil povinné požadavky na veškeré aplikace UI. Upřednostňovanou možností je možnost 3+, neboť nabízí přiměřené záruky proti rizikům, která UI představuje, a zároveň omezuje administrativní náklady a náklady na dodržování předpisů na minimum. Specifická otázka odpovědnosti za aplikace UI bude řešena prostřednictvím odlišných budoucích pravidel, a proto ji tyto možnosti nereflektují.

Jaké jsou názory jednotlivých zúčastněných stran? Kdo podporuje kterou možnost?

Podniky, veřejné orgány, akademická obec i nevládní organizace se shodují na tom, že v právních předpisech existují mezery nebo že jsou zapotřebí nové právní předpisy (v případě podniků však většina, která tento názor zastává, není výrazná). Průmysl a veřejné orgány souhlasí s tím, aby se povinné požadavky omezily pouze na vysoce rizikové aplikace UI. Občané a občanská společnost pak s omezením povinných požadavků na vysoce rizikové aplikace spíše nesouhlasí.

C. Dopady upřednostňované možnosti

Jaké jsou výhody upřednostňované možnosti (je-li nějaká doporučena, jinak uveďte výhody hlavních možností)? 

Pokud jde o občany, zmírní upřednostňovaná možnost rizika související s jejich bezpečností a základními právy. Poskytovatelům UI přinese právní jistotu a zajistí, aby pro přeshraniční poskytování služeb a produktů souvisejících s umělou inteligencí nevznikaly žádné překážky. V případě společností, které umělou inteligenci využívají, zase podpoří důvěru jejich zákazníků. Pokud jde o vnitrostátní orgány veřejné správy, podpoří upřednostňovaná možnost důvěru veřejnosti ve využívání UI a posílí mechanismy prosazování (zavedením evropského koordinačního mechanismu, poskytnutím vhodných kapacit a usnadněním auditů systémů UI novými požadavky na dokumentaci, sledovatelnost a transparentnost).

Jaké jsou náklady na upřednostňovanou možnost (je-li nějaká doporučena, jinak uveďte náklady na hlavní možnosti)? 

Podniky nebo veřejné orgány, které vyvíjejí nebo používají aplikace UI, jež jsou pro bezpečnost nebo základní práva občanů vysoce rizikové, by musely splňovat zvláštní horizontální požadavky a povinnosti, které budou zavedeny prostřednictvím technických harmonizovaných norem. Celkové náklady na dodržování předpisů se do roku 2025 odhadují na 100 až 500 milionů EUR, což odpovídá až 4–5 % investic do vysoce rizikové UI (ta odhadem tvoří 5 až 15 % všech aplikací UI). Další 2–5 % investic do vysoce rizikové UI by mohly tvořit náklady na ověřování. Podniky nebo veřejné orgány, které vyvíjejí nebo používají jakékoli aplikace UI, jež nejsou klasifikovány jako vysoce rizikové, by nemusely nést žádné náklady. Mohly by se však rozhodnout, že budou dodržovat dobrovolné kodexy chování: řídily by se tak vhodnými požadavky a zajistily důvěryhodnost svých UI. V těchto případech by náklady mohly maximálně dosáhnout stejné výše jako u vysoce rizikových aplikací, avšak s největší pravděpodobností by byly nižší.

Jaké budou dopady na malé a střední podniky a na konkurenceschopnost?

Z obecně vyšší úrovně důvěry v umělou inteligenci budou mít větší prospěch spíše malé a střední podniky než velké společnosti, které se mohou kromě jiného opírat o pověst své značky. Náklady malých a středních podniků, které vyvíjejí aplikace klasifikované jako vysoce rizikové, by byly nutně podobné nákladům velkých společností. Vzhledem k vysokému potenciálu rozšíření digitálních technologií mohou mít malé a střední podniky – i přes svou velikost – obrovský dosah s možným dopadem na miliony jednotlivců. Proto by vyloučení malých a středních podniků dodávajících UI z působnosti předpisového rámce v případě vysoce rizikových aplikací mohlo vážně ohrozit cíl, jímž je zvýšení důvěry. Rámec však stanoví konkrétní opatření, včetně regulačních pískovišť nebo pomoci poskytované prostřednictvím center pro digitální inovace, s cílem podpořit malé a střední podniky v dodržování souladu s novými pravidly s přihlédnutím k jejich zvláštním potřebám.

Očekávají se významné dopady na vnitrostátní rozpočty a správní orgány? 

Členské státy by musely určit dozorové úřady pověřené prováděním legislativních požadavků. Jejich dozorčí funkce by mohla vycházet ze zavedených struktur, například pokud jde o subjekty posuzování shody nebo dozor nad trhem, avšak vyžadovala by dostatečné odborné znalosti a zdroje v oblasti technologií. V závislosti na zavedené struktuře v jednotlivých členských státech by se mohlo jednat o 1 až 25 zaměstnanců v přepočtu na plný úvazek na členský stát.

Očekávají se jiné významné dopady? 

Upřednostňovaná možnost by významně zmírnila rizika, pokud jde o základní práva občanů i obecnější hodnoty Unie, a zvýšila by bezpečnost určitých výrobků a služeb, jejichž součástí je technologie UI, nebo samostatných aplikací umělé inteligence.

Proporcionalita? 

Návrh je přiměřený a nezbytný k dosažení cílů, neboť se řídí přístupem založeným na posouzení rizik a ukládá regulační zátěž pouze tehdy, pokud je pravděpodobné, že systémy UI budou s ohledem na základní práva či bezpečnost představovat vysoké riziko. V případech, kdy tomu tak není, ukládají se pouze minimální povinnosti týkající se transparentnosti, zejména pokud jde o poskytování informací s cílem upozornit na používání systému UI při interakci s lidmi nebo využívání tzv. deep fakes, nejsou-li používány k legitimním účelům. Harmonizované normy a podpůrné pokyny a nástroje pro zajištění souladu si kladou za cíl pomoci poskytovatelům a uživatelům splnit požadavky a minimalizovat jejich náklady.

D. Návazná opatření

Kdy bude tato politika přezkoumána?

Komise zveřejní zprávu obsahující hodnocení a přezkum navrhovaného rámce UI pět let po jeho vstupu v platnost.