Súhrnný prehľad

Posúdenie vplyvu týkajúce sa regulačného rámca pre umelú inteligenciu

A. Potreba konať

V čom spočíva problém a prečo ide o problém na úrovni EÚ?

Umelá inteligencia je novou technológiou so všeobecným uplatnením: ide o veľmi silnú skupinu počítačových programovacích techník. Zavádzanie systémov umelej inteligencie má silný potenciál prinášať spoločenské výhody, hospodársky rast a posilňovať inovácie a globálnu konkurencieschopnosť EÚ. V určitých prípadoch však môže používanie systémov umelej inteligencie spôsobovať problémy. Osobitné charakteristiky určitých systémov umelej inteligencie môžu vytvárať nové riziká súvisiace 1) s bezpečnosťou a bezpečnostnou ochranou a 2) so základnými právami a môžu zvýšiť pravdepodobnosť alebo intenzitu existujúcich rizík. Systémy umelej inteligencie takisto (3) sťažujú orgánom presadzovania práva overovanie súladu s existujúcimi pravidlami a ich presadzovanie. Tento súbor problémov zase vedie k (4) právnej neistote pre podniky, 5) potenciálne pomalšiemu zavádzaniu technológií umelej inteligencie v dôsledku nedostatočnej dôvery zo strany podnikov a občanov, ako aj k 6) regulačným reakciám vnútroštátnych orgánov na zmiernenie možných externalít, pri ktorých existuje riziko fragmentácie vnútorného trhu.

Čo by sa malo dosiahnuť?

Cieľom regulačného rámca je riešiť tieto problémy, aby sa zabezpečilo riadne fungovanie jednotného trhu, a to vytváraním podmienok pre rozvoj a využívanie dôveryhodnej umelej inteligencie v Únii. Konkrétne ciele: 1. zabezpečiť, aby systémy umelej inteligencie, ktoré sa uvádzajú na trh a používajú sa, boli bezpečné a spĺňali platné právne predpisy o základných právach a hodnotách Únie; 2. zabezpečiť právnu istotu s cieľom uľahčiť investície a inovácie v oblasti umelej inteligencie; 3. posilniť správu a účinné presadzovanie existujúcich právnych predpisov o základných právach a bezpečnostných požiadavkách vzťahujúcich sa na systémy umelej inteligencie a 4) uľahčiť rozvoj jednotného trhu pre zákonné, bezpečné a dôveryhodné systémy umelej inteligencie a predchádzať fragmentácii trhu.

Aká je pridaná hodnota opatrení na úrovni EÚ (subsidiarita)? 

Cezhraničný charakter rozsiahlych údajov a súborov údajov, od ktorých aplikácie umelej inteligencie často závisia, znamená, že ciele iniciatívy sa nemôžu účinne dosiahnuť len na úrovni členských štátov. Cieľom európskeho regulačného rámca pre dôveryhodnú umelú inteligenciu je stanoviť harmonizované pravidlá týkajúce sa vývoja, uvádzania na trh a používania výrobkov a služieb obsahujúcich technológiu umelej inteligencie alebo samostatných aplikácií umelej inteligencie v Únii. Jeho účelom je zabezpečiť rovnaké podmienky a chrániť všetkých európskych občanov, pričom sa zároveň posilní konkurencieschopnosť a priemyselná základňa Európy v oblasti umelej inteligencie. Opatrenia EÚ v oblasti umelej inteligencie posilnia vnútorný trh a majú významný potenciál poskytnúť európskemu priemyslu konkurenčnú výhodu na celosvetovej úrovni na základe úspor z rozsahu, ktoré nemožno dosiahnuť na úrovni jednotlivých členských štátov.

B. Riešenia

Aké sú rôzne možnosti na dosiahnutie týchto cieľov? Je niektorá z možností uprednostňovaná? Ak nie, prečo?

Uvažovalo sa o týchto možnostiach: možnosť 1: legislatívny nástroj EÚ, ktorým sa zriadi systém dobrovoľného označovania; možnosť 2: odvetvový prístup ad hoc; možnosť 3: horizontálny legislatívny nástroj EÚ, ktorým sa stanovia povinné požiadavky na vysokorizikové aplikácie umelej inteligencie; možnosť 3+: rovnaká ako možnosť 3, ale s dobrovoľnými kódexmi správania pre aplikácie umelej inteligencie, ktoré nie sú vysokorizikové; možnosť 4: horizontálny legislatívny nástroj EÚ, ktorým sa stanovia povinné požiadavky na všetky aplikácie umelej inteligencie. Uprednostňovanou možnosťou je možnosť 3+, keďže poskytuje primerané záruky proti rizikám, ktoré umelá inteligencia predstavuje, a zároveň obmedzuje administratívne náklady a náklady na dodržiavanie predpisov na minimum. Osobitnou otázkou zodpovednosti za aplikácie umelej inteligencie sa budú neskôr zaoberať iné pravidlá, a preto sa v uvedených možnostiach nespomína.

Aké sú názory jednotlivých zainteresovaných strán? Kto podporuje ktorú možnosť?

Podniky, orgány verejnej moci, akademická obec a mimovládne organizácie zhodne konštatujú, že v legislatíve sú isté medzery, alebo že je potrebná nová legislatíva, hoci podniky v tejto otázke zastávajú slabšiu väčšinu. Priemysel a orgány verejnej moci súhlasia s tým, aby sa povinné požiadavky obmedzovali na vysokorizikové aplikácie umelej inteligencie. Občania a občianska spoločnosť však s obmedzovaním povinných požiadaviek na vysokorizikové aplikácie skôr nesúhlasia.

C. Vplyvy uprednostňovanej možnosti

Aké sú výhody uprednostňovanej možnosti (prípadne hlavných možností, ak sa žiadna konkrétna možnosť neuprednostňuje)? 

V prípade občanov sa uprednostňovanou možnosťou zmiernia riziká súvisiace s ich bezpečnosťou a základnými právami. V prípade poskytovateľov umelej inteligencie sa vytvorí právna istota a zabezpečí sa, aby pri cezhraničnom poskytovaní služieb a výrobkov súvisiacich s umelou inteligenciou nevznikla žiadna prekážka. V prípade spoločností, ktoré využívajú umelú inteligenciu, sa podporí dôvera ich zákazníkov. V prípade vnútroštátnych orgánov verejnej správy sa podporí dôvera verejnosti v používanie umelej inteligencie a posilnia sa mechanizmy presadzovania práva (zavedením európskeho koordinačného mechanizmu, poskytnutím vhodných kapacít a uľahčením auditov systémov umelej inteligencie s novými požiadavkami na dokumentáciu, vysledovateľnosť a transparentnosť).

Aké sú náklady na uprednostňovanú možnosť (prípadne na hlavné možnosti, ak sa žiadna konkrétna možnosť neuprednostňuje)? 

Podniky alebo orgány verejnej moci, ktoré vyvíjajú alebo používajú aplikácie umelej inteligencie predstavujúce vysoké riziko pre bezpečnosť alebo základné práva občanov, by museli spĺňať osobitné horizontálne požiadavky a povinnosti, ktoré sa zavedú harmonizovanými technickými normami. Celkové agregované náklady na spĺňanie požiadaviek sa do roku 2025 odhadujú na 100 až 500 miliónov EUR, čo zodpovedá až 4 – 5 % investícií do vysokorizikovej umelej inteligencie (tie odhadom predstavujú 5 až 15 % všetkých aplikácií umelej inteligencie). Ďalšie investície do vysokorizikovej umelej inteligencie by v podiele 2 – 5 % mohli tvoriť náklady na overovanie. Podnikom alebo orgánom verejnej moci vyvíjajúcim alebo používajúcim aplikácie umelej inteligencie, ktoré nie sú klasifikované ako vysokorizikové, by nevznikli žiadne náklady. Mohli by sa však rozhodnúť dodržiavať dobrovoľné kódexy správania s cieľom dodržiavať vhodné požiadavky a zabezpečiť, aby boli ich systémy umelej inteligencie dôveryhodné. V týchto prípadoch by náklady mohli byť nanajvýš také vysoké ako v prípade vysokorizikových aplikácií, ale s najväčšou pravdepodobnosťou by boli nižšie.

Aký je vplyv na MSP a konkurencieschopnosť?

Malé a stredné podniky (MSP) vyťažia z celkovej vyššej úrovne dôvery v umelú inteligenciu viac než veľké spoločnosti, ktoré sa môžu spoliehať aj na imidž svojej značky. MSP vyvíjajúce aplikácie klasifikované ako vysokorizikové by museli znášať podobné náklady ako veľké spoločnosti. Vzhľadom na vysokú škálovateľnosť digitálnych technológií môžu mať malé a stredné podniky napriek svojej obmedzenej veľkosti obrovský dosah s potenciálnym vplyvom na milióny jednotlivcov. Preto by vylúčenie malých a stredných podnikov, ktoré poskytujú umelú inteligenciu, z uplatňovania regulačného rámca v prípade vysokorizikových aplikácií mohlo vážne oslabiť cieľ, ktorým je zvýšenie dôvery. V tomto rámci sa však stanovia osobitné opatrenia vrátane experimentálnych regulačných prostredí alebo pomoc prostredníctvom centier digitálnych inovácií s cieľom pomôcť MSP v dodržiavaní nových pravidiel, pričom sa zohľadnia ich osobitné potreby.

Očakáva sa významný vplyv na štátne rozpočty a verejnú správu? 

Členské štáty by museli určiť dozorné orgány zodpovedné za vykonávanie legislatívnych požiadaviek. Ich dozorná funkcia by mohla vychádzať z existujúcich opatrení, napríklad pokiaľ ide o orgány posudzovania zhody alebo o dohľad nad trhom, ale vyžadovala by si dostatočné technologické odborné znalosti a zdroje. V závislosti od už existujúcej štruktúry v každom členskom štáte by mohlo ísť o 1 až 25 ekvivalentov plného pracovného času na členský štát.

Očakávajú sa iné významné vplyvy? 

Uprednostňovanou možnosťou by sa výrazne zmiernili riziká týkajúce sa základných práv občanov, ako aj širších hodnôt Únie, a zvýšila by sa ňou bezpečnosť určitých výrobkov a služieb obsahujúcich technológiu umelej inteligencie alebo samostatné aplikácie umelej inteligencie.

Proporcionalita? 

Návrh je primeraný a potrebný na dosiahnutie daných cieľov, keďže sa riadi prístupom založeným na riziku a ukladá regulačnú záťaž len vtedy, keď systémy umelej inteligencie môžu predstavovať vysoké riziko pre základné práva alebo bezpečnosť. V opačnom prípade sa ukladajú len minimálne povinnosti týkajúce sa transparentnosti, najmä pokiaľ ide o poskytovanie informácií na označenie používania systému umelej inteligencie pri interakcii s ľuďmi alebo pri používaní tzv. deep fakes, ak sa nepoužívajú na účely v zmysle zákona. Cieľom harmonizovaných noriem a podporných usmernení a nástrojov na zabezpečenie súladu bude pomôcť poskytovateľom a používateľom spĺňať požiadavky a minimalizovať ich náklady.

D. Nadväzné opatrenia

Kedy sa táto politika preskúma?

Komisia uverejní správu o hodnotení a preskúmaní rámca päť rokov odo dňa začatia jeho uplatňovania.