Souhrnný přehled

Posouzení dopadů iniciativy týkající se občanskoprávní odpovědnosti za škody způsobené umělou inteligencí

A. Potřeba opatření

V čem spočívá problém a proč se jedná o problém na úrovni EU?

Zavádění umělé inteligence (UI) je cílem Komise i očekávaným trendem. Přestože se očekává, že produkty/služby založené na UI budou bezpečnější než jejich tradiční protějšky, k nehodám bude docházet i nadále.

Současná pravidla odpovědnosti, zejména vnitrostátní pravidla založená na zavinění, nejsou přizpůsobena pro řešení nároků na náhradu škody způsobené produkty/službami založenými na UI. Podle těchto pravidel musí poškození prokázat protiprávní jednání/opomenutí osoby, která škodu způsobila. Specifické vlastnosti UI, včetně autonomie a neprůhlednosti (tzv. efekt „černé skříňky“), ztěžují nebo prodražují identifikaci odpovědné osoby a prokázání podmínek pro úspěšné uplatnění nároku na náhradu škody.

Komise chce zabránit tomu, aby poškození, jimž vznikla škoda způsobená UI, např. občané či podniky, byli méně chráněni než poškození, jimž vznikla škoda způsobená tradičními technologiemi. Takové nedostatečné odškodnění může mít dopad na jejich důvěru v UI a v konečném důsledku i na zavádění produktů/služeb založených na UI.

Není jisté, jak lze vnitrostátní pravidla odpovědnosti aplikovat na specifika UI. Soudy, jež čelí výsledku, který je pro poškozeného nespravedlivý, mohou kromě toho použít stávající pravidla ad hoc tak, aby dospěly ke spravedlivému výsledku. To způsobí právní nejistotu. V důsledku toho budou mít podniky potíže předvídat, jak se budou uplatňovat stávající pravidla odpovědnosti v případě, že dojde ke škodě. Budou tak mít potíže s posouzením a pojištěním své odpovědnosti. Tento dopad se ještě zvyšuje v případě podniků působících přeshraničně, protože nejistota se bude týkat různých jurisdikcí. Dotkne se to zejména malých a středních podniků, které se nemohou spoléhat na vlastní právní znalosti nebo kapitálové rezervy.

Očekává se také, že pokud EU nebude jednat, členské státy přizpůsobí výzvám souvisejícím s UI své vnitrostátní předpisy o odpovědnosti. To povede k další roztříštěnosti a zvýšení nákladů pro podniky působící přeshraničně.

Čeho by mělo být dosaženo?

Tato iniciativa je naplněním priority Komise v oblasti digitální transformace. Zastřešujícím cílem je podpořit zavádění důvěryhodné UI, aby se plně využily její výhody. Bílá kniha o UI se proto zaměřuje na vytvoření ekosystému důvěry, který by podpořil zavádění UI. Iniciativa týkající se odpovědnosti je nezbytným důsledkem bezpečnostních pravidel přizpůsobených UI a doplňuje tak akt o UI.

Iniciativa v oblasti UI:

-zajistí, aby poškození, jimž vznikla škoda způsobená produkty/službami založenými na UI, byli chráněni stejně jako poškození, jimž vznikla škoda způsobená tradičními technologiemi,

-sníží právní nejistotu týkající se odpovědnosti podniků vyvíjejících nebo využívajících UI,

-zabrání vzniku roztříštěných úprav vnitrostátních pravidel občanskoprávní odpovědnosti specifických pro UI.

Jakou přidanou hodnotu budou mít tato opatření na úrovni EU (subsidiarita)? 

Podpora zavádění UI v Evropě znamená nutnost otevřít jednotný trh EU těm hospodářským subjektům, které chtějí UI vyvíjet nebo zavádět ve svých podnicích.

Předpokladem je snížit právní nejistotu a zabránit roztříštěnosti, k čemuž by došlo, pokud by členské státy začaly samy upravovat vnitrostátní pravidla odlišným způsobem.

Konzervativní odhady naznačují, že opatření na úrovni EU týkající se odpovědnosti za UI by měla pozitivní dopad na zvýšení hodnoty produkce příslušného přeshraničního obchodu ve výši 5–7 % ve srovnání se základním scénářem.

B. Řešení

Prostřednictvím kterých možností lze cílů dosáhnout? Je některá možnost upřednostňována? Pokud ne, proč?

Možnost politiky č. 1: tři opatření ke zmírnění břemene poškozených při prokazování nároku na náhradu škody:

a) harmonizace způsobu, jakým mohou být informace zaznamenané/zdokumentované podle pravidel v oblasti bezpečnosti výrobků stanovených v aktu o UI zveřejněny v soudním řízení, aby poškozený mohl určit a prokázat, které jednání/opomenutí vedlo ke vzniku škody;

b) pokud poškozený prokáže, že odpovědná osoba nedodržela bezpečnostní požadavky aktu o UI, jejichž cílem je zabránit škodě, může soud předpokládat, že toto nedodržení škodu způsobilo. Potenciálně odpovědná osoba by měla možnost tuto domněnku vyvrátit, např. prokázáním, že ke škodě vedla jiná příčina;

c) v případě, že jediným způsobem, jak může poškozený prokázat nárok na náhradu škody, je prokázat, co se stalo uvnitř UI, bylo by toto břemeno poškozeného zmírněno. Potenciálně odpovědná osoba by měla možnost prokázat, že nejednala z nedbalosti.

Možnost politiky č. 2: opatření v rámci možnosti 1 + harmonizace režimu objektivní odpovědnosti pro případy použití UI se zvláštním rizikovým profilem. Objektivní odpovědnost znamená, že osoba, která vystavuje veřejnost riziku (často pro právní zájmy vysoké hodnoty – život, zdraví, majetek) a čerpá z toho prospěch, je odpovědná, pokud se toto riziko naplní, např. odpovědnost majitele automobilu. V takových případech musí poškozený pouze prokázat, že vzniklá škoda pochází z rizikové sféry odpovědné osoby. To může být spojeno s povinným pojištěním.

Možnost politiky č. 3: odstupňovaný přístup (upřednostňovaná možnost politiky) sestávající z

– první fáze: opatření podle možnosti 1 a

– druhá fáze: mechanismus přezkumu, který by přehodnotil potřebu harmonizace objektivní odpovědnosti u případů použití UI s určitým rizikovým profilem (případně ve spojení s povinným pojištěním).

Jaké jsou názory jednotlivých zúčastněných stran? Kdo podporuje kterou možnost?

Většina zúčastněných stran celkově souhlasila se zjištěnými problémy a podpořila opatření na úrovni EU.

Občané EU, spotřebitelské organizace a akademické instituce v drtivé většině potvrdili, že je třeba, aby EU přijala opatření, která by zmírnila problémy poškozených s důkazním břemenem. Podniky sice uznávaly negativní dopady nejistoty při uplatňování pravidel odpovědnosti, ale byly opatrnější a požadovaly cílený zásah, aby nedošlo k omezení inovací.

Podobná situace nastala i v případě možností politiky. Občané EU, spotřebitelské organizace a akademické instituce důrazně podpořili minimálně opatření týkající se důkazního břemene. Prosazovali také nejpřísnější opatření, které by harmonizovalo objektivní odpovědnost spojenou s povinným pojištěním.

Podniky byly více rozděleny, a to i v závislosti na své velikosti. Objektivní odpovědnost byla považována za nepřiměřenou. Harmonizace zmírnění důkazního břemene získala větší podporu, zejména mezi malými a středními podniky. Podniky však varovaly před úplným přenesením důkazního břemene.

C. Dopady upřednostňované možnosti

Jaké jsou výhody upřednostňované možnosti (je-li nějaká doporučena, jinak uveďte výhody hlavních možností)? 

Upřednostňovaná možnost politiky by zajistila, aby osoby poškozené produkty a službami založenými na UI (fyzické osoby, podniky a jakékoli jiné veřejné nebo soukromé subjekty) nebyly chráněny méně než osoby poškozené tradičními technologiemi. Zvýšila by se tak důvěra v UI a podpořilo by se její zavádění.

Iniciativa by navíc snížila právní nejistotu a zabránila by roztříštěnosti, což by pomohlo společnostem, a především malým a středním podnikům, které chtějí plně využít potenciál jednotného trhu EU tím, že budou přeshraničně zavádět produkty a služby založené na UI.

Iniciativa by rovněž zlepšila podmínky pro pojistitele, aby mohli nabízet krytí činností souvisejících s UI, což je zásadní zejména pro malé a střední podniky při řízení jejich rizik.

Pokud jde o přínosy pro životní prostředí, očekává se, že iniciativa přinese zvýšení efektivity a přispěje k inovaci technologií šetrných k životnímu prostředí.

Špičkové produkty a služby, které má tato iniciativa za cíl propagovat, zatím většinou nejsou na trhu. Navrhovaná opatření předbíhají dobu, protože přizpůsobují právní rámec specifickým potřebám a výzvám UI s cílem vytvořit ekosystém důvěry a právní jistoty.

Vzhledem k tomuto výhledovému přístupu k politice nejsou k dispozici dostatečné údaje pro kvantifikaci dopadů upřednostňované možnosti politiky. Tyto dopady byly proto posuzovány především kvalitativně, s přihlédnutím ke všem dostupným údajům, odborným odhadům a podnětům zúčastněných stran. Na základě odůvodněných předpokladů byly použity některé kvantifikační přístupy.

Konkrétně se odhaduje, že upřednostňovaná možnost politiky by v roce 2025 přinesla zvýšení tržní hodnoty UI v EU-27 v rozmezí přibližně 500 milionů EUR až 1,1 miliardy EUR. Mikroekonomická analýza založená na údajích o trhu s robotickými vysavači navíc naznačuje, že by iniciativa přinesla zvýšení celkového blahobytu v EU-27 o 30,11–53,74 milionu EUR pouze pro tuto kategorii výrobků.

Jaké jsou náklady na upřednostňovanou možnost (je-li nějaká doporučena, jinak uveďte náklady na hlavní možnosti)? 

Upřednostňovaná možnost politiky předchází nedostatečným úpravám v oblasti odpovědnosti způsobeným specifickými vlastnostmi UI. Zajistila by, aby v případech, kdy by specifické vlastnosti UI neumožnily poškozenému prokázat potřebné skutečnosti, nesla náklady místo poškozeného osoba odpovědná za způsobení škody.

To je v souladu s jedním ze základních účelů právních předpisů v oblasti odpovědnosti, tj. zajistit, aby osoba, která poškodí jinou osobu protiprávním způsobem, nahradila škodu způsobenou poškozenému. Součástí politického cíle Komise je rovněž zajistit, aby poškození, jimž vznikla škoda v důsledku zapojení systémů UI, měli stejnou úroveň ochrany jako poškození, jimž vznikla škoda způsobená tradičními technologiemi. To vede k efektivnějšímu přidělení nákladů osobě, která škodu skutečně způsobila a která může nejlépe zabránit vzniku škody.

Potenciálně odpovědné osoby (zejména podniky působící na trhu s UI) budou s vysokou pravděpodobností pojištěny. Pojistná řešení umožňují rozložit břemeno odpovědnosti na celou komunitu pojištěných, a omezit tak náklady odpovědných osob na roční pojistné. Pojištěné odpovědné osoby by proto vnímaly náklady na odškodnění poškozeného pouze jako marginální zvýšení svého pojistného.

Vysoce spolehlivé a přesné vyčíslení nákladů nebylo možné, protože špičkové produkty a služby, které tato iniciativa podporuje, ještě většinou nejsou na trhu. Na základě dostupných údajů, odborné analýzy a odůvodněných předpokladů bylo odhadnuto, že upřednostňovaná možnost politiky může vést ke zvýšení celkové částky pojistného na pojištění obecné odpovědnosti placeného ročně v EU o 5,35 milionu EUR na 16,1 milionu EUR.

Jaké budou dopady na malé a střední podniky a na konkurenceschopnost?

Zlepšením podmínek pro fungování vnitřního trhu s produkty a službami založenými na UI by tato iniciativa měla pozitivní dopad na konkurenceschopnost společností působících na evropském trhu s umělou inteligencí. Tyto společnosti by se staly konkurenceschopnějšími v celosvětovém měřítku, což by posílilo pozici EU vůči jejím konkurentům v celosvětovém závodě v oblasti UI (jde především o USA a Čínu). Vzhledem k tomu, že UI je průřezová základní technologie, tyto přínosy by se neomezovaly na určitá zvláštní odvětví, ale uplatnily by se – i když v různé míře – ve všech odvětvích, kde se UI vyvíjí nebo používá.

Malé a střední podniky by ze snížení právní nejistoty a roztříštěnosti měly ještě větší prospěch než ostatní zúčastněné strany, protože podle současných pravidel o odpovědnosti jsou těmito problémy více postiženy. Tato iniciativa by zlepšila podmínky zejména pro malé a střední podniky, které chtějí zavádět produkty nebo služby založené na UI v jiných členských státech. To má zásadní význam, protože trh s UI v EU je do značné míry poháněn malými a středními podniky, které vyvíjejí, zavádějí nebo používají technologie UI.

Tato iniciativa by byla přínosná i pro malé a střední podniky jako poškozené v důsledku škod způsobených UI, neboť by se mohly spolehnout na zmírnění důkazního břemene při uplatňování nároků na náhradu škody.

Očekávají se významné dopady na vnitrostátní rozpočty a správní orgány? 

Neočekávají se žádné významné dopady na vnitrostátní rozpočty a správní orgány.

Plánovaná opatření, která by poškozeným zmírnila jejich důkazní břemeno, by mohla být bez problémů začleněna do stávajících procesních rámců a rámců občanskoprávní odpovědnosti členských států.

Členské státy budou muset podávat zprávy o provádění iniciativy a poskytovat určité informace pro cílený přezkum Komise. Tyto požadavky na podávání zpráv však budou omezeny na informace dostupné prostřednictvím stávajících databází členských států a na informace podávané podle jiných právních nástrojů (např. aktu o UI nebo směrnice o pojištění motorových vozidel), čímž se dosáhne synergií a zajistí se soudržnost budoucích politických opatření v různých oblastech politiky.

Očekávají se jiné významné dopady? 

Základní práva: Iniciativa přispěje k podpoře účinného soukromoprávního vymáhání základních práv a zachová právo na účinnou právní ochranu v případech, kdy se projeví rizika pro základní práva související s UI (např. diskriminace).

Mezinárodní rozměr: Předložením vyváženého přístupu k odpovědnosti za škody způsobené UI má EU příležitost stanovit celosvětové měřítko a propagovat svůj přístup jako globální řešení, což by v konečném důsledku přineslo konkurenční výhodu pro „UI vyrobenou v Evropě“.

Proporcionalita? 

Upřednostňovaná možnost má připravit půdu pro rozvoj a využívání UI a zároveň dosáhnout hlavního cíle, kterým je podpora jejího zavádění v EU.

Tato možnost však nepřekročí rámec toho, co je nezbytné. Za prvé, zásah EU je cílený, protože poškozeným pouze zmírní důkazní břemeno. Harmonizuje pouze prvky odpovědnosti, pro které UI představuje problém, a ostatní prvky, jako je určení zavinění a příčinné souvislosti, ponechává na stávajících vnitrostátních právních předpisech.

Za druhé, upřednostňovaná možnost odkládá posouzení potřeby harmonizovat objektivní odpovědnost na pozdější fázi, kdy bude možné shromáždit více informací o UI a jejím použití (viz dále).

Za třetí, upřednostňovaná možnost navrhne přístup minimální harmonizace. Minimální harmonizace sice nevytváří zcela rovné podmínky, ale zajišťuje, aby nová pravidla mohla být bez problémů začleněna do stávajícího právního rámce občanskoprávní odpovědnosti v každém členském státě.

Členské státy tak budou moci začlenit cílené zásahy EU v rámci upřednostňované možnosti do svého vnitrostátního práva, iniciativa zvýší právní jistotu v celé EU, zabrání další právní roztříštěnosti a zajistí účinnou ochranu poškozených, která bude srovnatelná s úrovní ochrany v případě jiných škod.

D. Návazná opatření

Kdy bude tato politika přezkoumána?

Upřednostňovaná možnost politiky zahrnuje několikafázový přístup: nejprve zavést opatření ke zmírnění důkazního břemene poškozeného a poté na základě ustanovení o přezkumu posoudit situaci po pěti letech. Tento proces umožní Komisi s ohledem na vývoj technologie a jejího využití posoudit, zda je kromě opatření zmírňujících důkazní břemeno nutná také harmonizace objektivní odpovědnosti a povinné pojištění.