EVROPSKÁ KOMISE

V Bruselu dne 28.9.2022

COM(2022) 496 final

2022/0303(COD)

Návrh

SMĚRNICE EVROPSKÉHO PARLAMENTU A RADY

o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci
(směrnice o odpovědnosti za umělou inteligenci)

(Text s významem pro EHP)

{SEC(2022) 344 final} - {SWD(2022) 318 final} - {SWD(2022) 319 final} - {SWD(2022) 320 final}

DŮVODOVÁ ZPRÁVA

1.SOUVISLOSTI NÁVRHU

·Odůvodnění a cíle návrhu

Tato důvodová zpráva je připojena k návrhu směrnice o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci (dále jen „UI“). V reprezentativním průzkumu z roku 2020 1 se odpovědnost umístila mezi třemi hlavními překážkami využívání UI evropskými společnostmi. Jako nejvýznamnější vnější překážka (43 %) byla uvedena u společností, které využívání UI plánují, ale ještě ho nezavedly.

Předsedkyně Komise Ursula von der Leyenová ve svých politických směrech vytyčila koordinovaný evropský přístup k UI 2 . V bílé knize o umělé inteligenci ze dne 19. února 2020 3 se Komise zavázala podporovat zavádění UI a zabývat se riziky spojenými s některými způsoby jejího využití podporou excelence a důvěry. Ve zprávě o odpovědnosti za UI 4 , která je připojena k bílé knize, Komise identifikovala konkrétní výzvy, které UI představuje pro stávající pravidla odpovědnosti. Ve svých závěrech o formování digitální budoucnosti Evropy ze dne 9. června 2020 Rada uvítala konzultaci o návrzích politik obsažených v bílé knize o UI a vyzvala Komisi, aby předložila konkrétní návrhy. Evropský parlament přijal dne 20 října 2020 legislativní usnesení z vlastní iniciativy podle článku 225 SFEU, v němž žádá Komisi, aby přijala návrh režimu občanskoprávní odpovědnosti za UI na základě článku 114 Smlouvy o fungování EU (dále jen „SFEU“) 5 .

Současná vnitrostátní pravidla odpovědnosti, zejména ta, která jsou založena na zavinění, nejsou vhodná pro řešení nároků na náhradu škody způsobené produkty a službami založenými na UI. Podle těchto pravidel musí poškození prokázat protiprávní jednání nebo opomenutí osoby, která škodu způsobila. Specifické vlastnosti UI, včetně její složitosti, autonomie a neprůhlednosti (tzv. efekt „černé skříňky“), mohou poškozeným ztížit nebo prodražit identifikaci odpovědné osoby a prokázání splnění požadavků pro úspěšné uplatnění nároku na náhradu škody. Zejména při vymáhání odškodnění mohou poškození narazit na velmi vysoké vstupní náklady a výrazně delší soudní řízení ve srovnání s případy, které se UI netýkají. To může poškozené od uplatnění nároku na odškodnění zcela odradit. Tyto obavy zachoval i Evropský parlament (EP) ve svém usnesení ze dne 3. května 2022 o umělé inteligenci v digitálním věku.  6

Pokud poškozený vznese nárok, mohou vnitrostátní soudy, které jsou konfrontovány se specifickými vlastnostmi UI, v jednotlivých případech přizpůsobit způsob uplatňování stávajících pravidel, aby dospěly ke spravedlivému výsledku pro poškozeného. To způsobí právní nejistotu. Podniky budou mít potíže s předvídáním toho, jak budou stávající pravidla odpovědnosti uplatňována, a tedy i s posouzením a pojištěním své odpovědnosti. Dopad se ještě znásobí pro podniky, které se zabývají přeshraničním obchodováním, protože nejistota se bude týkat různých jurisdikcí. To se dotkne zejména malých a středních podniků, které se nemohou spoléhat na vlastní právní znalosti nebo kapitálové rezervy.

Vnitrostátní strategie v oblasti UI ukazují, že několik členských států zvažuje nebo dokonce konkrétně plánuje legislativní opatření týkající se občanskoprávní odpovědnosti za UI. Proto se očekává, že pokud EU nebude jednat, členské státy přizpůsobí svá vnitrostátní pravidla odpovědnosti výzvám souvisejícím s UI. To povede k další roztříštěnosti a zvýšení nákladů pro podniky působící v celé EU.

Cílem tohoto návrhu je tedy podpořit zavádění důvěryhodné UI, aby bylo možné plně využít její výhody pro vnitřní trh. Toho dosahuje tím, že zajišťuje, aby poškození, jimž vznikla škoda způsobená UI, získali rovnocennou ochranu jako v případě poškozených, jimž vznikla škoda způsobená produkty obecně. Snižuje také právní nejistotu podniků vyvíjejících nebo využívajících UI, pokud jde o jejich možné vystavení odpovědnosti, a brání vzniku roztříštěných úprav vnitrostátních pravidel občanskoprávní odpovědnosti specifických pro UI.

·Soulad s platnými předpisy v této oblasti politiky

–legislativní návrh, kterým se stanoví horizontální pravidla pro systémy UI (akt o UI) 7 ,

–revize odvětvových a horizontálních pravidel v oblasti bezpečnosti výrobků,

–pravidla EU pro řešení otázek odpovědnosti v souvislosti se systémy UI.

·Soulad s ostatními politikami Unie

·Hlavní ekonomické, sociální a environmentální dopady

2.PRÁVNÍ ZÁKLAD, SUBSIDIARITA A PROPORCIONALITA

·    Právní základ

Úpravy pravidel odpovědnosti přijaté na čistě vnitrostátním základě by proto zvýšily překážky pro zavádění produktů a služeb založených na UI na celém vnitřním trhu a přispěly by k další roztříštěnosti.

·Subsidiarita

·Proporcionalita

·Volba nástroje

1.VÝSLEDKY HODNOCENÍ EX POST, KONZULTACÍ SE ZÚČASTNĚNÝMI STRANAMI A POSOUZENÍ DOPADŮ

·Konzultace se zúčastněnými stranami

Byla zavedena rozsáhlá konzultační strategie s cílem zajistit širokou účast zúčastněných stran v průběhu celého politického cyklu tohoto návrhu. Konzultační strategie byla založena na veřejných a několika cílených konzultacích (webináře, dvoustranná jednání se společnostmi a různými organizacemi).

·Sběr a využití výsledků odborných konzultací

–srovnávací právní studií založenou na srovnávací právní analýze evropského práva občanskoprávních deliktů zaměřené na klíčové otázky související s UI 26 ,

–behaviorálně ekonomickou studií o dopadech cílených úprav režimu odpovědnosti na rozhodování spotřebitelů, zejména na jejich důvěru a ochotu využívat produkty a služby založené na UI 27 ,

–ekonomickou studií 28 , která se zabývá řadou otázek: problémy, s nimiž se potýkají poškození, jimž vznikla škoda v důsledku používání aplikací s UI ve srovnání s poškozenými, jimž vznikla škoda v důsledku používání zařízení bez UI, v rámci snahy získat odškodnění za svou ztrátu; zda a do jaké míry si podniky nejsou jisté uplatňováním současných pravidel odpovědnosti na své operace zahrnující UI a zda dopad právní nejistoty může bránit investicím do UI; zda by další roztříštěnost vnitrostátních právních předpisů o odpovědnosti snížila účinnost vnitřního trhu s aplikacemi a službami založenými na UI a zda a do jaké míry by harmonizace některých aspektů vnitrostátní občanskoprávní odpovědnosti prostřednictvím právních předpisů EU tyto problémy omezila a usnadnila celkové zavádění technologií UI společnostmi v EU.

·Posouzení dopadů

–první fáze: opatření podle možnosti č. 1,

–druhé fáze: mechanismus přezkumu, který by přehodnotil zejména potřebu harmonizace objektivní odpovědnosti u případů použití UI s určitým rizikovým profilem (případně ve spojení s povinným pojištěním).

·Základní práva

Tímto návrhem chce Komise zajistit, aby poškození, jimž vznikla škoda způsobená UI, měli stejnou úroveň ochrany podle pravidel občanskoprávní odpovědnosti jako poškození, jimž vznikla škoda bez zapojení UI. Návrh umožní účinné soukromoprávní vymáhání základních práv a zachová právo na účinnou právní ochranu v případě, že se naplní rizika spojená s UI. Návrh přispěje zejména k ochraně základních práv, jako je právo na život (článek 2 Listiny), právo na fyzickou a duševní nedotknutelnost (článek 3) a právo na vlastnictví (článek 17). Poškození budou kromě toho moci v závislosti na systému a tradicích občanského práva jednotlivých členských států požadovat náhradu škody za poškození dalších právních zájmů, jako je porušení osobní důstojnosti (články 1 a 4 Listiny), respektování soukromého a rodinného života (článek 7), právo na rovnost (článek 20) a zákaz diskriminace (článek 21).

Tento návrh kromě toho doplňuje další části politiky Komise v oblasti UI založené na preventivních regulačních a dohledových požadavcích, jejichž cílem je přímo zabránit porušování základních práv (např. diskriminaci). Jedná se o akt o UI, obecné nařízení o ochraně osobních údajů, akt o digitálních službách a právní předpisy EU týkající se rovného zacházení a zákazu diskriminace. Tento návrh zároveň nevytváří ani neharmonizuje povinnosti řádné péče nebo odpovědnost různých subjektů, jejichž činnost je upravena těmito právními předpisy, a proto nezakládá nové nároky na odpovědnost ani nemá vliv na výjimky z odpovědnosti podle těchto jiných právních předpisů. Tento návrh zavádí pouze zmírnění důkazního břemene pro poškozené, jimž vznikla škoda způsobená systémy UI v případě nároků, které mohou být založeny na vnitrostátním právu nebo na těchto jiných právních předpisech EU. Tento návrh doplňuje tyto další oblasti a chrání právo poškozených na odškodnění podle soukromého práva, včetně odškodnění za porušení základních práv.

4.ROZPOČTOVÉ DŮSLEDKY

5.OSTATNÍ PRVKY

·Plány provádění a monitorování, hodnocení, program monitorování a cílený přezkum

V tomto návrhu se předkládá několikafázový přístup. Aby bylo zajištěno, že pro cílený přezkum ve druhé fázi bude k dispozici dostatek důkazů, vypracuje Komise plán monitorování, v němž podrobně uvede, jakým způsobem a jak často budou shromažďovány údaje a další nezbytné důkazy.

Mechanismus monitorování by mohl zahrnovat následující druhy údajů a důkazů:

–podávání zpráv a sdílení informací ze strany členských států o uplatňování opatření ke zmírnění důkazního břemene ve vnitrostátních soudních nebo mimosoudních řízeních,

–informace shromážděné Komisí nebo orgány dozoru nad trhem podle aktu o UI (zejména článku 62) nebo jiných příslušných nástrojů,

–informace a analýzy na podporu hodnocení aktu o UI a zpráv, které má Komise vypracovat o provádění tohoto aktu,

–informace a analýzy na podporu posouzení příslušných budoucích politických opatření podle bezpečnostních právních předpisů „starého přístupu“, aby se zajistilo, že produkty uváděné na trh Unie splňují vysoké požadavky na zdraví, bezpečnost a životní prostředí,

–informace a analýzy na podporu zprávy Komise o uplatňování směrnice o pojištění motorových vozidel na technologický vývoj (zejména autonomní a poloautonomní vozidla) podle čl. 28c odst. 2 písm. a).

·Podrobné vysvětlení konkrétních ustanovení návrhu

1. Předmět a oblast působnosti (článek 1)

Účelem této směrnice je zlepšit fungování vnitřního trhu stanovením jednotných požadavků na některé aspekty mimosmluvní občanskoprávní odpovědnosti za škodu vzniklou v důsledku zapojení systémů UI. Navazuje na usnesení Evropského parlamentu 2020/2014(INL) a přizpůsobuje soukromé právo potřebám přechodu na digitální ekonomiku.

Výběr vhodných právních nástrojů je omezený vzhledem k povaze otázky důkazního břemene a specifickým vlastnostem UI, které představují problém pro stávající pravidla odpovědnosti. V tomto ohledu tato směrnice velmi cíleně a přiměřeně zmírňuje důkazní břemeno prostřednictvím zpřístupnění informací a vyvratitelných domněnek. Zavádí pro osoby žádající o náhradu škody možnost získat informace o vysoce rizikových systémech UI, které mají být zaznamenávány/dokumentovány podle aktu o UI. Vyvratitelné domněnky navíc poskytnou osobám, které žádají o náhradu škody způsobené systémy UI, přiměřenější důkazní břemeno a šanci uspět s oprávněnými nároky na náhradu škody.

Takové nástroje nejsou novinkou; lze je nalézt ve vnitrostátních právních řádech. Proto tyto vnitrostátní nástroje představují užitečné referenční body, jak řešit otázky, které UI vyvolává u stávajících pravidel odpovědnosti, způsobem, který co nejméně zasahuje do různých vnitrostátních právních režimů.

Podniky se kromě toho v rámci konzultací negativně vyjádřily k dalekosáhlejším změnám, jako je obrácení důkazního břemene nebo nevyvratitelná domněnka. Cílená opatření ke zmírnění důkazního břemene v podobě vyvratitelných domněnek byla zvolena jako pragmatický a vhodný způsob, jak pomoci poškozeným splnit jejich povinnost důkazního břemene co nejcílenějším a nejpřiměřenějším způsobem.

Článek 1 stanoví předmět a oblast působnosti této směrnice: vztahuje se na mimosmluvní občanskoprávní nároky na náhradu škody způsobené systémem UI, pokud jsou tyto nároky uplatňovány v rámci režimů subjektivní odpovědnosti. To znamená konkrétně režimy, které stanoví zákonnou odpovědnost za náhradu škody způsobené úmyslně nebo nedbalostním jednáním či opomenutím. Opatření stanovená v této směrnici mohou bez problémů zapadnout do stávajících systémů občanskoprávní odpovědnosti, neboť odrážejí přístup, který se nedotýká definice základních pojmů, jako je „zavinění“ nebo „škoda“, vzhledem k tomu, že význam těchto pojmů se v jednotlivých členských státech značně liší. Kromě domněnek, které zavádí, se tedy tato směrnice nedotýká unijních ani vnitrostátních pravidel, jež například určují, která strana nese důkazní břemeno, jaký stupeň jistoty je vyžadován, pokud jde o důkazní standard, nebo jak je definováno zavinění.

Touto směrnicí navíc nejsou dotčena stávající pravidla upravující podmínky odpovědnosti v odvětví dopravy a pravidla stanovená aktem o digitálních službách.

Tato směrnice se sice nevztahuje na trestní odpovědnost, ale může se vztahovat na odpovědnost státu. Ustanovení aktu o UI se vztahují i na státní orgány jako na subjekty, které mají povinnosti v něm stanovené.

Tato směrnice se neuplatňuje zpětně, ale vztahuje se pouze na nároky na náhradu škody, které vzniknou ode dne jejího provedení.

Návrh této směrnice byl přijat společně s návrhem revize směrnice 85/374/EHS o odpovědnosti za vadné výrobky v rámci balíčku, jehož cílem je přizpůsobit pravidla odpovědnosti digitálnímu věku a umělé inteligenci a zajistit nezbytné sladění těchto dvou doplňujících se právních nástrojů.

2.Definice (článek 2)

Definice v článku 2 se v zájmu zajištění jednotnosti řídí definicemi uvedenými v aktu o UI.

Ustanovení čl. 2 odst. 6 písm. b) stanoví, že nárok na náhradu škody může uplatnit nejen poškozená osoba, ale také osoby, které obdržely práva poškozené osoby na základě nástupnictví nebo na ně tato práva přešla. Přechod práv je převzetí zákonného práva třetí strany (např. pojišťovny) na vymáhání dluhu nebo škody jinou stranou. Jedna osoba je tedy oprávněna vymáhat práva jiné osoby ve svůj prospěch. Přechod práv by se vztahoval i na dědice zemřelého poškozeného.

Ustanovení čl. 2 odst. 6 písm. c) kromě toho stanoví, že žalobu na náhradu škody může v souladu s unijním nebo vnitrostátním právem podat také osoba jednající jménem jedné nebo více poškozených stran. Cílem tohoto ustanovení je poskytnout osobám poškozeným systémem UI více možností, aby jejich nároky posoudil soud, a to i v případech, kdy se podání individuální žaloby může zdát příliš nákladné nebo obtížné, nebo v případech, kdy společné žaloby mohou přinášet výhody z rozsahu. S cílem umožnit poškozeným, kterým vznikla škoda způsobená systémy UI, vymáhat svá práva v souvislosti s touto směrnicí prostřednictvím zástupných žalob se článkem 6 mění příloha I směrnice (EU) 2020/1828.

3.Zpřístupnění důkazů (článek 3)

Cílem této směrnice je poskytnout osobám, které uplatňují nárok na náhradu škody způsobené vysoce rizikovými systémy UI, účinné prostředky k určení potenciálně odpovědných osob a příslušných důkazů pro uplatnění nároku. Tyto prostředky zároveň slouží k vyloučení nesprávně určených potenciálních žalovaných, což šetří čas a náklady zúčastněných stran a snižuje zatížení soudů.

Ustanovení čl. 3 odst. 1 směrnice v tomto ohledu stanoví, že soud může nařídit zpřístupnění příslušných důkazů o konkrétních vysoce rizikových systémech UI, u nichž existuje podezření, že způsobily škodu. Žádosti o důkazy jsou adresovány poskytovateli systému UI, osobě, na kterou se vztahují povinnosti poskytovatele stanovené v článku 24 nebo čl. 28 odst. 1 aktu o UI, nebo uživateli podle aktu o UI. Žádosti by měly být podloženy skutečnostmi a důkazy, které jsou dostatečné k prokázání věrohodnosti uvažovaného nároku na náhradu škody, a adresáti by měli mít požadované důkazy k dispozici. Žádosti nelze adresovat stranám, které nemají žádné povinnosti podle aktu o UI, a proto nemají přístup k důkazům.

Podle čl. 3 odst. 2 může žalobce požádat o zpřístupnění důkazů od poskytovatelů nebo uživatelů, kteří nejsou žalovanými, pouze v případě, že byly neúspěšně učiněny všechny přiměřené pokusy o shromáždění důkazů od žalovaného.

Aby byly soudní prostředky účinné, čl. 3 odst. 3 směrnice stanoví, že soud může rovněž nařídit uchování těchto důkazů.

Jak je stanoveno v čl. 3 odst. 4 prvním pododstavci, soud může nařídit takové zpřístupnění pouze v rozsahu nezbytném pro vyhovění nároku, vzhledem k tomu, že informace by mohly být rozhodujícím důkazem pro nárok poškozeného v případě škody, která byla způsobena systémem, jehož součástí je UI.

Omezením povinnosti zpřístupnit nebo uchovat důkazy na nezbytné a přiměřené důkazy má čl. 3 odst. 4 první pododstavec za cíl zajistit přiměřenost při zpřístupňování důkazů, tj. omezit zpřístupnění na nezbytné minimum a zabránit plošným žádostem.

Cílem čl. 3 odst. 4 druhého a třetího pododstavce je dále nalézt rovnováhu mezi právy žalobce a potřebou zajistit, aby takové zpřístupnění podléhalo zárukám na ochranu oprávněných zájmů všech dotčených stran, jako jsou obchodní tajemství nebo důvěrné informace.

V téže souvislosti je cílem čl. 3 odst. 4 čtvrtého pododstavce zajistit, aby osoba, na kterou se příkaz vztahuje, měla k dispozici procesní opravné prostředky proti příkazu ke zpřístupnění nebo uchování důkazů.

Ustanovení čl. 3 odst. 5 zavádí domněnku nedodržení povinnosti řádné péče. Jedná se o procesní nástroj, který má význam pouze v případech, kdy je to sám žalovaný v řízení na náhradu škody, kdo nese důsledky nesplnění požadavku na zpřístupnění nebo uchování důkazů. Žalovaný má právo tuto domněnku vyvrátit. Cílem opatření uvedeného v tomto odstavci je podpořit zpřístupnění informací, ale také urychlit soudní řízení.

4.Domněnka příčinné souvislosti v případě zavinění (článek 4)

Pokud jde o škody způsobené systémy UI, cílem této směrnice je poskytnout účinný základ pro uplatnění nároku na náhradu škody v souvislosti se zaviněním spočívajícím v nedodržení povinnosti řádné péče podle unijního nebo vnitrostátního práva.

Pro žalobce může být obtížné prokázat příčinnou souvislost mezi takovým nedodržením a výstupem vytvořeným systémem UI nebo tím, že systém UI nevytvořil výstup, který vedl ke vzniku příslušné škody. Proto byla v čl. 4 odst. 1 stanovena cílená vyvratitelná domněnka příčinné souvislosti. Tato domněnka je nejméně zatěžujícím opatřením, které řeší potřebu spravedlivého odškodnění poškozeného.

Zavinění žalovaného musí žalobce prokázat podle platných unijních nebo vnitrostátních předpisů. Toto zavinění lze konstatovat například v případě nedodržení povinnosti řádné péče podle aktu o UI nebo podle jiných pravidel stanovených na úrovni Unie, jako jsou pravidla upravující používání automatizovaných monitorovacích a rozhodovacích systémů při práci prostřednictvím platforem nebo pravidla upravující provoz bezpilotních letadel. Soud může takové zavinění rovněž předpokládat na základě nesplnění soudního příkazu ke zpřístupnění nebo uchování důkazů podle čl. 3 odst. 5. Přesto je vhodné zavést domněnku příčinné souvislosti pouze tehdy, pokud lze považovat za pravděpodobné, že dané zavinění ovlivnilo příslušný výstup systému UI nebo to, že k vytvoření výstupu nedošlo, což lze posoudit na základě celkových okolností případu. Současně musí žalobce stále prokázat, že systém UI (tj. jeho výstup nebo neexistence takového výstupu) způsobil vznik škody.

Odstavce 2 a 3 rozlišují mezi nároky uplatněnými vůči poskytovateli vysoce rizikového systému UI nebo osobě, na kterou se vztahují povinnosti poskytovatele podle aktu o UI, na jedné straně a nároky uplatněnými vůči uživateli těchto systémů na straně druhé. V tomto ohledu se řídí příslušnými ustanoveními a podmínkami aktu o UI. V případě nároků založených na čl. 4 odst. 2 je třeba posuzovat plnění povinností žalovaných uvedených v tomto odstavci také s ohledem na systém řízení rizik a jeho výsledky, tj. opatření k řízení rizik podle aktu o UI.

V případě vysoce rizikových systémů UI podle definice v aktu o UI stanoví čl. 4 odst. 4 výjimku z domněnky příčinné souvislosti, pokud žalovaný prokáže, že žalobce má k dispozici dostatečné důkazy a odborné znalosti, aby mohl prokázat příčinnou souvislost. Tato možnost může žalované motivovat k tomu, aby dodržovali své povinnosti týkající se zpřístupnění, spolu s opatřeními stanovenými aktem o UI k zajištění vysoké úrovně transparentnosti UI nebo požadavky na dokumentaci a záznamy.

V případě systémů UI, které nejsou vysoce rizikové, stanoví čl. 4 odst. 5 podmínku pro uplatnění domněnky příčinné souvislosti, podle níž je tato domněnka podmíněna tím, že soud zjistí, že je pro žalobce příliš obtížné prokázat příčinnou souvislost. Tyto obtíže je třeba posuzovat s ohledem na vlastnosti některých systémů UI, jako je autonomie a neprůhlednost, které v praxi velmi ztěžují vysvětlení vnitřního fungování systému UI, což negativně ovlivňuje schopnost žalobce prokázat příčinnou souvislost mezi zaviněním žalovaného a výstupem UI.

V případech, kdy žalovaný používá systém UI v rámci osobní neprofesionální činnosti, čl. 4 odst. 6 stanoví, že domněnka příčinné souvislosti by se měla uplatnit pouze tehdy, pokud žalovaný podstatně zasáhl do podmínek provozu systému UI nebo pokud byl žalovaný povinen a schopen určit podmínky provozu systému UI, ale neučinil tak. Tato podmínka je odůvodněna potřebou vyvážit zájmy poškozených osob a neprofesionálních uživatelů tím, že se z uplatnění domněnky příčinné souvislosti vyloučí případy, kdy neprofesionální uživatelé svým chováním nezvyšují riziko.

Konečně pak čl. 4 odst. 7 stanoví, že žalovaný má právo vyvrátit domněnku příčinné souvislosti založenou na čl. 4 odst. 1.

Taková účinná pravidla občanskoprávní odpovědnosti mají další výhodu v tom, že všechny subjekty zapojené do činností souvisejících se systémy UI motivují k tomu, aby dodržovaly své povinnosti týkající se očekávaného jednání.

5.Hodnocení a cílený přezkum (článek 5)

Různé vnitrostátní právní systémy stanoví různé režimy objektivní odpovědnosti. Prvky takového režimu na úrovni Unie navrhl také Evropský parlament ve svém usnesení z vlastního podnětu ze dne 20. října 2020, přičemž tyto prvky zahrnují omezený režim objektivní odpovědnosti za určité technologie založené na UI a usnadněné důkazní břemeno v rámci pravidel subjektivní odpovědnosti. Veřejné konzultace rovněž ukázaly, že respondenti (s výjimkou podniků, které nejsou malými a středními podniky) dávají přednost takovému režimu, ať už je spojen s povinným pojištěním, či nikoli.

Návrh však zohledňuje rozdíly mezi vnitrostátními právními tradicemi a skutečnost, že takové produkty a služby vybavené systémy UI, které by mohly ovlivnit širokou veřejnost a ohrozit důležitá zákonná práva, jako je právo na život, zdraví a majetek, a které by tudíž mohly podléhat režimu objektivní odpovědnosti, zatím nejsou na trhu běžně dostupné.

Je zaveden monitorovací program, který Komisi poskytuje informace o incidentech zahrnující systémy UI. Cílený přezkum posoudí, zda by bylo zapotřebí dalších opatření, jako je zavedení režimu objektivní odpovědnosti a/nebo povinného pojištění.

6.Provedení ve vnitrostátním právu (článek 7)

Při oznamování vnitrostátních prováděcích opatření k dosažení souladu s touto směrnicí by členské státy měly rovněž poskytnout informativní dokumenty, které poskytují dostatečně jasné a přesné informace a u každého ustanovení této směrnice uvádějí vnitrostátní ustanovení zajišťující jeho provedení. To je nezbytné k tomu, aby Komise mohla pro každé ustanovení směrnice, které vyžaduje provedení, určit příslušnou část vnitrostátních prováděcích opatření, která vytváří odpovídající právní povinnost ve vnitrostátním právním řádu, a to bez ohledu na formu zvolenou členskými státy.

2022/0303 (COD)

Návrh

SMĚRNICE EVROPSKÉHO PARLAMENTU A RADY

o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci
(směrnice o odpovědnosti za umělou inteligenci)

(Text s významem pro EHP)

EVROPSKÝ PARLAMENT A RADA EVROPSKÉ UNIE,

s ohledem na Smlouvu o fungování Evropské unie, a zejména na článek 114 této smlouvy,

s ohledem na návrh Evropské komise,

po postoupení návrhu legislativního aktu vnitrostátním parlamentům,

s ohledem na stanovisko Evropského hospodářského a sociálního výboru 29 ,

s ohledem na stanovisko Výboru regionů 30 ,

v souladu s řádným legislativním postupem,

vzhledem k těmto důvodům:

(1)Umělá inteligence (dále jen „UI“) je soubor základních technologií, které mohou přispět k široké škále přínosů napříč celým spektrem hospodářství a společnosti. Má velký potenciál pro technologický pokrok a umožňuje nové obchodní modely v mnoha odvětvích digitální ekonomiky.

(2)Současně může UI v závislosti na okolnostech jejího konkrétního uplatňování a využívání vytvářet rizika a poškozovat zájmy a práva, které jsou chráněny unijním nebo vnitrostátním právem. Využívání UI může například nepříznivě ovlivnit řadu základních práv, včetně práva na život, fyzickou nedotknutelnost a práva na rovné zacházení a zákaz diskriminace. Nařízení Evropského parlamentu a Rady (EU) .../... [akt o UI] 31 stanoví požadavky, jejichž cílem je snížit rizika pro bezpečnost a základní práva, zatímco další právní nástroje Unie upravují obecná 32 a odvětvová pravidla v oblasti bezpečnosti výrobků, která se vztahují i na strojní výrobky 33 a rádiová zařízení 34 založené na UI. Ačkoli tyto požadavky, jejichž cílem je snížit rizika pro bezpečnost a základní práva, mají za cíl předcházet rizikům, monitorovat je a řešit je, a tím řešit společenské obavy, neposkytují individuální úlevu osobám, které utrpěly škodu způsobenou UI. Stávající požadavky stanoví zejména povolení, kontroly, monitorování a správní sankce v souvislosti se systémy UI s cílem zabránit škodám. Nestanoví náhradu škody poškozené osobě za škodu způsobenou výstupem systému UI nebo tím, že systém UI výstup nevytvořil.

(3)Pokud poškozená osoba žádá o náhradu škody, musí podle obecných pravidel členských států o subjektivní odpovědnosti obvykle prokázat nedbalostní nebo úmyslné jednání nebo opomenutí (dále jen „zavinění“), kterým byla způsobena škoda ze strany osoby potenciálně odpovědné za tuto škodu, a příčinnou souvislost mezi tímto zaviněním a příslušnou škodou. Pokud však mezi jednání nebo opomenutí osoby a škodu vstoupí UI, mohou specifické vlastnosti některých systémů UI, jako je neprůhlednost, autonomní chování a složitost, poškozené osobě nadměrně ztížit, ne-li znemožnit, splnění tohoto důkazního břemene. Může být zejména příliš obtížné prokázat, že konkrétní vstup, za který je osoba potenciálně odpovědná, způsobil konkrétní výstup systému UI, který vedl k dotčené škodě.

(4)V takových případech může být úroveň odškodnění poskytovaná vnitrostátními pravidly občanskoprávní odpovědnosti nižší než v případech, kdy se na vzniku škody podílejí jiné technologie než UI. Takové rozdíly v odškodňování mohou přispět k nižší míře společenského přijetí UI a důvěry v produkty a služby založené na UI.

(5)Aby bylo možné využít hospodářských a společenských přínosů UI a podpořit přechod na digitální ekonomiku, je nutné cíleně přizpůsobit některá vnitrostátní pravidla občanskoprávní odpovědnosti těmto specifickým vlastnostem některých systémů UI. Takové úpravy by měly přispět ke zvýšení důvěry společnosti a spotřebitelů, a tím podpořit zavádění UI. Tyto úpravy by měly rovněž zachovat důvěru v justiční systém tím, že zajistí, aby poškození, jimž vznikla škoda v důsledku zapojení UI, měli stejně účinné odškodnění jako poškození, jimž vznikla škoda způsobená jinými technologiemi.

(6)Zúčastněné strany – poškození, potenciálně odpovědné osoby, pojistitelé – čelí právní nejistotě ohledně toho, jak by vnitrostátní soudy mohly při řešení specifických problémů spojených s UI v jednotlivých případech použít stávající pravidla odpovědnosti, aby dosáhly spravedlivých výsledků. Pokud Unie nepřijme žádná opatření, je pravděpodobné, že alespoň některé členské státy upraví svá pravidla občanskoprávní odpovědnosti tak, aby řešily nedostatečnou úpravu v oblasti odškodnění a právní nejistotu související se specifickými vlastnostmi některých systémů UI. To by způsobilo právní roztříštěnost a překážky na vnitřním trhu pro podniky, které vyvíjejí nebo poskytují inovativní produkty nebo služby založené na UI. Postiženy by byly zejména malé a střední podniky.

(7)Účelem této směrnice je přispět k řádnému fungování vnitřního trhu harmonizací některých vnitrostátních pravidel mimosmluvní subjektivní odpovědnosti, aby se zajistilo, že osoby uplatňující nárok na náhradu škody jim způsobené systémem UI budou požívat stejné úrovně ochrany jako osoby uplatňující nárok na náhradu škody vzniklé bez zapojení systému UI. Tohoto cíle nemohou členské státy uspokojivě dosáhnout, protože příslušné překážky vnitřního trhu jsou spojeny s rizikem jednostranných a roztříštěných regulačních opatření na vnitrostátní úrovni. Vzhledem k digitální povaze produktů a služeb, které spadají do oblasti působnosti této směrnice, je tato směrnice zvláště důležitá v přeshraničním kontextu.

(8)Cíle zajistit právní jistotu a zabránit nedostatečné úpravě v oblasti odškodnění v případech, do nichž jsou zapojeny systémy UI, lze tedy lépe dosáhnout na úrovni Unie. Unie proto může přijmout opatření v souladu se zásadou subsidiarity stanovenou v článku 5 Smlouvy o EU. V souladu se zásadou proporcionality stanovenou v uvedeném článku nepřekračuje tato směrnice rámec toho, co je nezbytné k dosažení tohoto cíle.

(9)Je proto nezbytné cíleně harmonizovat konkrétní aspekty pravidel subjektivní odpovědnosti na úrovni Unie. Tato harmonizace by měla zvýšit právní jistotu a vytvořit rovné podmínky pro systémy UI, a tím zlepšit fungování vnitřního trhu, pokud jde o výrobu a šíření produktů a služeb založených na UI.

(10)Pro zajištění proporcionality je vhodné cíleně harmonizovat pouze ta pravidla subjektivní odpovědnosti, která upravují důkazní břemeno osob uplatňujících nárok na náhradu škody způsobené systémy UI. Tato směrnice by neměla harmonizovat obecné aspekty občanskoprávní odpovědnosti, které jsou upraveny různými způsoby ve vnitrostátních předpisech o občanskoprávní odpovědnosti, jako je definice zavinění nebo příčinné souvislosti, různé druhy škod, které zakládají nárok na náhradu škody, rozdělení odpovědnosti mezi více pachatelů, spoluúčast na zavinění, výpočet náhrady škody nebo promlčecí lhůty.

(11)Právní předpisy členských států týkající se odpovědnosti výrobců za škodu způsobenou vadou jejich výrobků jsou již harmonizovány na úrovni Unie směrnicí Rady 85/374/EHS 35 . Těmito právními předpisy však nejsou dotčena pravidla členských států týkající se smluvní nebo mimosmluvní odpovědnosti, jako je záruka, zavinění nebo objektivní odpovědnost, jež se zakládají na jiných důvodech, než je vada výrobku. Revize směrnice Rady 85/374/EHS se zároveň snaží vyjasnit a zajistit, aby poškozená osoba mohla uplatnit nárok na náhradu škody způsobené vadným výrobkem založeným na UI, a proto je třeba vyjasnit, že ustanoveními této směrnice nejsou dotčena práva, která může mít poškozená osoba podle vnitrostátních pravidel provádějících směrnici 85/374/EHS. Kromě toho by v oblasti dopravy mělo zůstat touto směrnicí nedotčeno právo Unie upravující odpovědnost dopravců.

(12)[Akt o digitálních službách 36 ] plně harmonizuje pravidla platná pro poskytovatele zprostředkovatelských služeb na vnitřním trhu a zahrnuje společenská rizika vyplývající ze služeb nabízených těmito poskytovateli, včetně systémů UI, které používají. Touto směrnicí nejsou dotčena ustanovení [aktu o digitálních službách], která stanoví komplexní a plně harmonizovaný rámec pro povinnosti náležité péče při algoritmickém rozhodování poskytovatelů hostingových služeb, včetně vyloučení odpovědnosti za šíření nezákonného obsahu nahraného příjemci jejich služeb, pokud jsou splněny podmínky uvedeného nařízení.

(13)Tato směrnice kromě domněnek v ní stanovených neharmonizuje vnitrostátní právní předpisy, pokud jde o to, která strana nese důkazní břemeno nebo jaký stupeň jistoty se vyžaduje, pokud jde o důkazní standard. 

(14)Tato směrnice by se měla řídit přístupem minimální harmonizace. V případech škody způsobené systémy UI takový přístup umožňuje žalobci dovolávat se příznivějších pravidel vnitrostátního práva. Vnitrostátní právní předpisy by tak mohly například zachovat obrácení důkazního břemene v rámci vnitrostátních režimů subjektivní odpovědnosti nebo vnitrostátních režimů objektivní odpovědnosti, kterých již ve vnitrostátních právních předpisech existuje celá řada a které se případně vztahují na škody způsobené systémy UI.

(15)Je třeba rovněž zajistit soulad s [aktem o umělé inteligenci]. Proto je vhodné, aby tato směrnice používala stejné definice pro systémy UI, poskytovatele a uživatele. Kromě toho by se tato směrnice měla vztahovat pouze na nároky na náhradu škody způsobené výstupem systému UI nebo tím, že systém UI takový výstup nevytvořil, za základě zavinění osoby, například poskytovatele nebo uživatele podle [aktu o UI]. Není třeba, aby se vztahovala na nároky na náhradu škody v případech, kdy je škoda způsobena lidským posouzením a následným lidským jednáním nebo opomenutím, zatímco systém UI pouze poskytl informace nebo rady, které příslušný lidský subjekt zohlednil. V druhém případě je možné vysledovat, že škoda vznikla v důsledku lidského jednání nebo opomenutí, protože výstup systému UI nevstoupil mezi lidské jednání nebo opomenutí a škodu, a proto není určení příčinné souvislosti obtížnější než v situacích, do nichž není zapojen systém UI.

(16)Přístup k informacím o konkrétních vysoce rizikových systémech UI, u nichž existuje podezření, že způsobily škodu, je důležitým faktorem pro zjištění, zda lze uplatnit nárok na náhradu škody, a pro odůvodnění nároku na náhradu škody. Pro vysoce rizikové systémy UI navíc [akt o UI] stanoví zvláštní požadavky na dokumentaci, informace a vedení protokolů, ale neposkytuje poškozené osobě právo na přístup k těmto informacím. Pro účely určení odpovědnosti je proto vhodné stanovit pravidla pro zpřístupnění příslušných důkazů těmi, kteří je mají k dispozici. To by mělo být rovněž dodatečnou pobídkou k dodržování příslušných požadavků stanovených v [aktu o UI], aby byly příslušné informace zdokumentovány nebo zaznamenány.

(17)Vzhledem k velkému počtu osob, které se obvykle podílejí na návrhu, vývoji, zavádění a provozu vysoce rizikových systémů UI, je pro poškozené osoby obtížné určit osobu potenciálně odpovědnou za způsobenou škodu a prokázat podmínky pro uplatnění nároku na náhradu škody. Aby se poškozené osoby mohly ujistit, zda je nárok na náhradu škody oprávněný, je vhodné přiznat potenciálním žalobcům právo požádat soud, aby před uplatněním nároku na náhradu škody nařídil zpřístupnění příslušných důkazů. Takové zpřístupnění by mělo být nařízeno pouze v případě, že potenciální žalobce předloží skutečnosti a informace dostatečné k doložení věrohodnosti nároku na náhradu škody a že předem požádal poskytovatele, osobu, na kterou se vztahují povinnosti poskytovatele, nebo uživatele o zpřístupnění takových důkazů, které mají k dispozici, týkajících se konkrétních vysoce rizikových systémů UI, u nichž existuje podezření, že způsobily škodu, což bylo odmítnuto. Nařízení zpřístupnění by mělo vést ke snížení počtu zbytečných soudních sporů a zamezit nákladům pro případné strany sporu způsobeným nároky, které jsou neoprávněné nebo u nichž se očekává, že budou neúspěšné. Odmítnutí poskytovatele, osoby, na kterou se vztahují povinnosti poskytovatele, nebo uživatele před podáním žádosti u soudu za účelem zpřístupnění důkazů by nemělo vyvolat domněnku, že osoba, která odmítla poskytnout důkazy, nesplnila příslušné povinnosti řádné péče.

(18)Omezení zpřístupnění důkazů, pokud jde o vysoce rizikové systémy UI, je v souladu s [aktem o UI], který stanoví určité zvláštní povinnosti týkající se dokumentace, vedení záznamů a informací pro provozovatele zapojené do navrhování, vývoje a zavádění vysoce rizikových systémů UI. Tento soulad rovněž zajišťuje nezbytnou proporcionalitu tím, že se zamezí tomu, aby provozovatelé systémů UI, které představují nižší nebo žádné riziko, museli dokumentovat informace na podobné úrovni, jaká je vyžadována u vysoce rizikových systémů UI podle [aktu o UI].

(19)Vnitrostátní soudy by měly mít možnost v průběhu občanskoprávního řízení nařídit zpřístupnění nebo uchování příslušných důkazů týkajících se škody způsobené vysoce rizikovými systémy UI od osob, které již mají povinnost dokumentovat nebo zaznamenávat informace podle [aktu o UI], ať už jde o poskytovatele, o osoby, které mají stejné povinnosti jako poskytovatelé, nebo o uživatele systému UI, a které jsou v řízení o nároku buď žalovanými, nebo třetími stranami. Mohou nastat situace, kdy jsou důkazy, jež mají význam pro daný případ, v držení subjektů, které by nebyly účastníky řízení o náhradě škody, ale které mají povinnost tyto důkazy zdokumentovat nebo zaznamenat podle [aktu o umělé inteligenci]. Je proto nezbytné stanovit podmínky, za kterých lze těmto třetím stranám v řízení o nároku nařídit, aby příslušné důkazy zpřístupnily.

(20)Aby byla zachována rovnováha mezi zájmy stran zúčastněných v řízení o nároku na náhradu škody a dotčených třetích osob, měly by soudy nařídit zpřístupnění důkazů pouze v případech, kdy je to nezbytné a přiměřené pro podporu nároku nebo potenciálního nároku na náhradu škody. V tomto ohledu by se zpřístupnění mělo týkat pouze důkazů, které jsou nezbytné pro rozhodnutí o příslušném nároku na náhradu škody, například pouze částí příslušných záznamů nebo souborů údajů, které jsou nezbytné k prokázání nesplnění požadavku stanoveného [aktem o UI]. Aby byla zajištěna přiměřenost takových opatření pro zpřístupnění nebo uchování, měly by mít vnitrostátní soudy k dispozici účinné prostředky k ochraně oprávněných zájmů všech zúčastněných stran, jako je například ochrana obchodního tajemství ve smyslu směrnice Evropského parlamentu a Rady (EU) 2016/943 37 a ochrana důvěrných informací, jako jsou informace související s veřejnou nebo národní bezpečností. Pokud jde o obchodní tajemství nebo údajné obchodní tajemství, které soud označil za důvěrné ve smyslu směrnice (EU) 2016/943, měly by být vnitrostátní soudy oprávněny přijmout zvláštní opatření k zajištění důvěrnosti obchodního tajemství v průběhu řízení i po jeho skončení a zároveň dosáhnout spravedlivé a přiměřené rovnováhy mezi zájmem vlastníka obchodního tajemství na zachování důvěrnosti a zájmem poškozené osoby. To by mělo zahrnovat opatření, která omezí přístup k dokumentům obsahujícím obchodní tajemství a přístup k výslechům nebo dokumentům a jejich přepisům na omezený počet osob. Při rozhodování o těchto opatřeních by měly vnitrostátní soudy zohlednit potřebu zajistit právo na účinnou právní ochranu a spravedlivý proces, oprávněné zájmy stran a případně třetích stran a případnou újmu, která by mohla vzniknout kterékoli ze stran nebo případně třetím stranám v důsledku přijetí nebo zamítnutí těchto opatření. V zájmu zajištění přiměřeného uplatňování opatření pro zpřístupnění vůči třetím stranám by kromě toho měly vnitrostátní soudy nařizovat v případě nároků na náhradu škody zpřístupnění od třetích stran pouze tehdy, pokud důkazy nelze získat od žalovaného.

(21)Vnitrostátní soudy sice mají k dispozici prostředky k vymáhání svých příkazů ke zpřístupnění prostřednictvím různých opatření, ale jakákoli taková opatření k vymáhání by mohla zdržet uplatnění nároků na náhradu škody, a tím potenciálně způsobit další náklady pro účastníky řízení. Poškozeným osobám mohou tyto průtahy a dodatečné náklady ztížit využití účinného opravného prostředku před soudem. Pokud tedy žalovaný v řízení o náhradu škody nezpřístupní důkazy, které má k dispozici a jejichž zpřístupnění mu nařídil soud, je vhodné stanovit domněnku nedodržení těch povinností řádné péče, které měly tyto důkazy prokázat. Tato vyvratitelná domněnka zkrátí dobu trvání soudních sporů a umožní efektivnější soudní řízení. Žalovaný by měl mít možnost tuto domněnku vyvrátit předložením důkazů svědčících o opaku.

(22)Aby se vyřešily obtíže s prokázáním, že konkrétní vstup, za který potenciálně odpovědná osoba odpovídá, způsobil konkrétní výstup systému UI, který vedl k dotčené škodě, je vhodné za určitých podmínek stanovit domněnku příčinné souvislosti. V případě nároku na základě zavinění sice musí žalobce obvykle prokázat škodu, lidské jednání nebo opomenutí představující zavinění žalovaného a příčinnou souvislost mezi nimi, tato směrnice však neharmonizuje podmínky, za kterých vnitrostátní soudy zavinění zjišťují. Ty se nadále řídí platným vnitrostátním právem a v případě harmonizace platným právem Unie. Stejně tak tato směrnice neharmonizuje podmínky související se škodou, například jakou škodu je možné nahradit, což rovněž upravuje platné vnitrostátní a unijní právo. Aby se uplatnila domněnka příčinné souvislosti podle této směrnice, mělo by být zavinění žalovaného prokázáno jako lidské jednání nebo opomenutí, kterým není splněna povinnost řádné péče podle unijního nebo vnitrostátního práva, jejímž přímým účelem je ochrana před vzniklou škodou. Tato domněnka se tedy může uplatnit například v řízení o nároku na náhradu škody v případě fyzické újmy, pokud soud prokáže zavinění žalovaného spočívající v nedodržení návodu k užívání, který má zabránit újmě fyzických osob. Nedodržení povinností řádné péče, jejichž přímým účelem nebyla ochrana před vzniklou škodou, nevede k uplatnění domněnky, například nepředložení požadované dokumentace příslušným orgánům ze strany poskytovatele by nevedlo k uplatnění domněnky v řízeních o nároku na náhradu škody v případě fyzické újmy. Rovněž by mělo být nezbytné stanovit, že na základě okolností případu lze považovat za přiměřeně pravděpodobné, že zavinění ovlivnilo výstup vytvořený systémem UI nebo to, že systém UI výstup nevytvořil. Konečně by pak měl být žalobce stále povinen prokázat, že výstup nebo nevytvoření výstupu vedly ke vzniku škody.

(23)Takové zavinění může být zjištěno v souvislosti s nedodržením unijních pravidel, která konkrétně upravují vysoce rizikové systémy UI, jako jsou požadavky zavedené pro některé vysoce rizikové systémy UI [aktem o UI], požadavky, které mohou být zavedeny budoucími odvětvovými právními předpisy pro jiné vysoce rizikové systémy UI podle [čl. 2 odst. 2 aktu o UI], nebo povinnosti řádné péče, které jsou spojeny s určitými činnostmi a které se použijí bez ohledu na to, zda se k této činnosti používá UI. Tato směrnice zároveň nevytváří ani neharmonizuje požadavky ani odpovědnost subjektů, jejichž činnost je upravena těmito právními akty, a proto nezakládá nové nároky z odpovědnosti. Porušení takového požadavku, které představuje zavinění, bude zjištěno podle ustanovení platných předpisů unijního práva, neboť tato směrnice nezavádí nové požadavky ani nemá dopad na stávající požadavky. Touto směrnicí není například dotčeno vyloučení odpovědnosti poskytovatelů zprostředkovatelských služeb a povinnosti náležité péče, které se na ně vztahují podle [aktu o digitálních službách]. Obdobně je třeba stanovit dodržování požadavků kladených na online platformy, aby se zabránilo neoprávněnému sdělování děl chráněných autorským právem veřejnosti, podle směrnice (EU) 2019/790 o autorském právu a právech s ním souvisejících na jednotném digitálním trhu a dalších příslušných právních předpisů Unie v oblasti autorského práva. 

(24)V oblastech, které nejsou harmonizovány unijním právem, se nadále uplatňuje vnitrostátní právo a zavinění se stanoví podle platného vnitrostátního práva. Všechny vnitrostátní režimy odpovědnosti obsahují povinnosti řádné péče, které berou jako standard jednání různá vyjádření zásady, jak by měla rozumná osoba jednat, a které rovněž zajišťují bezpečný provoz systémů UI, aby se zabránilo poškození uznaných právních zájmů. Takové povinnosti řádné péče by mohly například vyžadovat, aby si uživatelé systémů UI vybrali pro určité úkoly konkrétní systém UI s konkrétními vlastnostmi nebo aby vyloučili určité segmenty populace z kontaktu s určitým systémem UI. Vnitrostátní právo může rovněž zavést zvláštní povinnosti, jejichž cílem je předcházet rizikům při určitých činnostech a které se použijí bez ohledu na to, zda je pro danou činnost používána UI, jako jsou pravidla silničního provozu nebo povinnosti zvláště určené pro systémy UI, například dodatečné vnitrostátní požadavky pro uživatele vysoce rizikových systémů UI podle čl. 29 odst. 2 [aktu o UI]. Tato směrnice takové požadavky nezavádí ani nemá dopad na podmínky pro prokázání zavinění v případě porušení těchto požadavků.

(25)I když je prokázáno zavinění spočívající v nedodržení povinnosti řádné péče, jejímž přímým účelem je ochrana před vzniklou škodou, ne každé zavinění by mělo vést k uplatnění vyvratitelné domněnky, která jej spojuje s výstupem UI. Taková domněnka by se měla uplatnit pouze tehdy, pokud lze na základě okolností, za nichž ke škodě došlo, považovat za přiměřeně pravděpodobné, že toto zavinění mělo dopad na výstup vytvořený systémem UI nebo na to, že systém UI výstup nevytvořil. Lze například považovat za přiměřeně pravděpodobné, že zavinění mělo dopad na výstup nebo na nevytvoření výstupu, pokud zavinění spočívá v porušení povinnosti řádné péče s ohledem na omezení provozního okruhu systému UI a škoda vznikla mimo provozní okruh. V případě porušení povinnosti předložit určité dokumenty nebo se zaregistrovat u určitého orgánu, i když se to může pro danou činnost předpokládat nebo se to dokonce výslovně vztahuje na fungování systému UI, nelze naopak považovat za přiměřeně pravděpodobné, že by toto porušení mohlo mít dopad na výstup vytvořený systémem UI nebo na to, že systém UI výstup nevytvořil.

(26)Tato směrnice se vztahuje na zavinění, které představuje nedodržení určitých vyjmenovaných požadavků stanovených v kapitolách 2 a 3 [aktu o UI] pro poskytovatele a uživatele vysoce rizikových systémů UI, jejichž nedodržení může za určitých podmínek vést k domněnce příčinné souvislosti. Akt o UI stanoví úplnou harmonizaci požadavků na systémy UI, pokud v něm není výslovně stanoveno jinak. Harmonizuje zvláštní požadavky na vysoce rizikové systémy UI. Pro účely uplatnění nároků na náhradu škody, u nichž se uplatňuje domněnka příčinné souvislosti podle této směrnice, se tedy případné zavinění poskytovatelů nebo osob, na které se vztahují povinnosti poskytovatele podle [aktu o UI], konstatuje pouze na základě nedodržení těchto požadavků. Vzhledem k tomu, že v praxi může být pro žalobce obtížné takové nedodržení prokázat, je-li žalovaným poskytovatel systému UI, a v plném souladu s logikou [aktu o UI] by tato směrnice měla rovněž stanovit, že při určování toho, zda poskytovatel splnil příslušné požadavky podle aktu o UI uvedené v této směrnici, by měly být zohledněny kroky, které poskytovatel v rámci systému řízení rizik podnikl, a výsledky systému řízení rizik, tj. rozhodnutí o přijetí či nepřijetí určitých opatření k řízení rizik. Systém řízení rizik zavedený poskytovatelem podle [aktu o UI] je nepřetržitý opakující se proces probíhající po celou dobu životního cyklu vysoce rizikového systému UI, kterým poskytovatel zajišťuje dodržování závazných požadavků určených ke zmírnění rizik, a může být proto užitečným prvkem pro účely posouzení tohoto dodržování. Tato směrnice se rovněž vztahuje na případy zavinění uživatelů, pokud toto zavinění spočívá v nedodržení určitých zvláštních požadavků stanovených [aktem o UI]. S ohledem na čl. 29 odst. 2 [aktu o UI] může být kromě toho prokázáno zavinění uživatelů vysoce rizikových systémů UI v důsledku nedodržení jiných povinností řádné péče stanovených v unijním nebo vnitrostátním právu.

(27)Ačkoli specifické vlastnosti některých systémů UI, jako je autonomie a neprůhlednost, by mohly pro žalobce znamenat nadměrné obtíže při plnění důkazního břemene, mohou nastat situace, kdy k takovým obtížím nedojde, protože žalobce může mít k dispozici dostatek důkazů a odborných znalostí k prokázání příčinné souvislosti. Mohlo by se tak stát například v případě vysoce rizikových systémů UI, kdy by žalobce mohl mít oprávněný přístup k dostatečným důkazům a odborným znalostem prostřednictvím požadavků na dokumentaci a vedení protokolů podle [aktu o UI]. V takových situacích by soud neměl tuto domněnku uplatnit.

(28)Domněnka příčinné souvislosti by se mohla uplatnit i na systémy UI, které nejsou vysoce rizikovými systémy UI, protože žalobce by mohl mít nadměrné obtíže s dokazováním. Tyto obtíže by mohly být například posuzovány s ohledem na vlastnosti některých systémů UI, jako je autonomie a neprůhlednost, které v praxi velmi ztěžují vysvětlení vnitřního fungování systému UI, což negativně ovlivňuje schopnost žalobce prokázat příčinnou souvislost mezi zaviněním žalovaného a výstupem UI. Vnitrostátní soud by měl tuto domněnku uplatnit v případě, že je pro žalobce příliš obtížné prokázat příčinnou souvislost, neboť je povinen vysvětlit, jakým způsobem byl systém UI veden lidským jednáním nebo opomenutím, jež představuje zavinění, jímž došlo k vytvoření výstupu nebo nevytvoření výstupu, který vedl ke vzniku škody. Žalobce by však neměl být povinen vysvětlovat vlastnosti dotčeného systému UI ani to, jak tyto vlastnosti ztěžují prokázání příčinné souvislosti.

(29)Uplatnění domněnky příčinné souvislosti má zajistit poškozené osobě podobnou úroveň ochrany jako v situacích, které se UI netýkají a kdy je tedy možné příčinnou souvislost snáze prokázat. Zmírnění důkazního břemene ohledně příčinné souvislosti však není podle této směrnice vždy vhodné, pokud žalovaný není odborným uživatelem, ale spíše osobou, která používá systém UI pro své soukromé činnosti. Za těchto okolností je třeba v zájmu vyvážení zájmů mezi poškozenou osobou a neprofesionálním uživatelem zohlednit, zda tito neprofesionální uživatelé mohou svým chováním zvýšit riziko, že systém UI způsobí škodu. Pokud poskytovatel systému UI splnil všechny své povinnosti a v důsledku toho byl tento systém považován za dostatečně bezpečný, aby mohl být uveden na trh pro dané použití neprofesionálními uživateli, a následně je pro tento úkol používán, neměla by se uplatnit domněnka příčinné souvislosti na pouhé zahájení provozu takového systému těmito neprofesionálními uživateli. Na neprofesionálního uživatele, který si zakoupí systém UI a jednoduše jej uvede do provozu podle jeho účelu, aniž by podstatně zasahoval do podmínek provozu, by se neměla vztahovat domněnka příčinné souvislosti stanovená touto směrnicí. Pokud však vnitrostátní soud zjistí, že neprofesionální uživatel podstatně zasáhl do podmínek provozu systému UI nebo že byl povinen a schopen určit podmínky provozu systému UI a neučinil tak, měla by se domněnka příčinné souvislosti uplatnit, jsou-li splněny všechny další podmínky. K tomu může dojít například tehdy, pokud neprofesionální uživatel nedodrží návod k použití nebo jiné příslušné povinnosti řádné péče při výběru oblasti provozu nebo při nastavení podmínek výkonu systému UI. Tím není dotčena skutečnost, že poskytovatel by měl určit zamýšlený účel systému UI, včetně konkrétních souvislostí a podmínek použití, a podle potřeby v době návrhu a vývoje vyloučit nebo minimalizovat rizika tohoto systému s ohledem na znalosti a odborné znalosti zamýšleného uživatele.

(30)Jelikož tato směrnice zavádí vyvratitelnou domněnku, měl by mít žalovaný možnost ji vyvrátit, zejména tím, že prokáže, že škodu nemohl způsobit svým zaviněním.

(31)Je nezbytné stanovit přezkum této směrnice [pět let] po uplynutí lhůty pro provedení. V tomto přezkumu by se mělo zejména posoudit, zda existuje potřeba vytvořit pravidla objektivní odpovědnosti pro nároky vůči provozovateli, pokud se na ně již nevztahují jiná pravidla Unie týkající se odpovědnosti, zejména směrnice 85/374/EHS, ve spojení s povinným pojištěním pro provoz některých systémů UI, jak navrhuje Evropský parlament 38 . V souladu se zásadou proporcionality je vhodné tuto potřebu posoudit s ohledem na příslušný technologický a regulační vývoj v nadcházejících letech s přihlédnutím k účinku a dopadu na zavádění a využívání systémů UI, zejména pokud jde o malé a střední podniky. Takový přezkum by měl mimo jiné zohlednit rizika spojená s poškozením důležitých právních hodnot, jako je život, zdraví a majetek neinformovaných třetích stran, prostřednictvím provozu produktů nebo služeb založených na UI. V tomto přezkumu by rovněž měla být zanalyzována účinnost opatření stanovených v této směrnici při řešení těchto rizik, jakož i vývoj vhodných řešení na pojistném trhu. Pro zajištění dostupnosti informací potřebných k provedení takového přezkumu je nutné shromáždit údaje a další nezbytné důkazy týkající se příslušných záležitostí.

(32)Vzhledem k tomu, že je třeba provést úpravy vnitrostátních pravidel občanskoprávní odpovědnosti a procesních pravidel, aby se podpořilo zavádění produktů a služeb založených na UI za příznivých podmínek na vnitřním trhu, přijetí ze strany společnosti a důvěra spotřebitelů v technologie UI a systém soudnictví, je vhodné stanovit členským státům lhůtu pro přijetí nezbytných prováděcích opatření nejpozději do [dvou let od vstupu této směrnice v platnost].

(33)Členské státy se v souladu se společným politickým prohlášením členských států a Komise ze dne 28. září 2011 o informativních dokumentech 39 zavázaly, že v odůvodněných případech doplní oznámení o opatřeních přijatých za účelem provedení směrnice ve vnitrostátním právu o jeden či více dokumentů s informacemi o vztahu mezi jednotlivými složkami směrnice a příslušnými částmi vnitrostátních nástrojů přijatých za účelem provedení směrnice ve vnitrostátním právu. V případě této směrnice považuje normotvůrce předložení těchto dokumentů za odůvodněné,

PŘIJALY TUTO SMĚRNICI:

Článek 1

Předmět a oblast působnosti

1.Tato směrnice stanoví společná pravidla pro:

a)zpřístupnění důkazů o vysoce rizikových systémech umělé inteligence (dále jen „UI“), jejichž cílem je umožnit žalobci, aby doložil svůj mimosmluvní občanskoprávní nárok na náhradu škody na základě zavinění;

b)důkazní břemeno v případě mimosmluvních občanskoprávních nároků na základě zavinění, které jsou podávány u vnitrostátních soudů za škody způsobené systémem UI.

2.Tato směrnice se vztahuje na mimosmluvní občanskoprávní nároky na náhradu škody na základě zavinění v případech, kdy ke škodě způsobené systémem UI dojde po [uplynutí lhůty pro provedení].

Tato směrnice se nevztahuje na trestní odpovědnost.

3.Touto směrnicí nejsou dotčeny:

a)pravidla unijního práva upravující podmínky odpovědnosti v oblasti dopravy;

b)práva, která může mít poškozená osoba podle vnitrostátních předpisů provádějících směrnici 85/374/EHS;

c)výjimky z odpovědnosti a povinností náležité péče stanovené v [aktu o digitálních službách] a

d)vnitrostátní pravidla, která určují, která strana nese důkazní břemeno, jaký stupeň jistoty se vyžaduje, pokud jde o důkazní standard, nebo jak je definováno zavinění, s výjimkou toho, co je stanoveno v článcích 3 a 4.

4.Členské státy mohou přijmout nebo zachovat vnitrostátní pravidla, která jsou pro žalobce příznivější, pokud jde o odůvodnění mimosmluvního občanskoprávního nároku na náhradu škody způsobené systémem UI, za předpokladu, že jsou tato pravidla slučitelná s unijním právem.

Článek 2

Definice

Pro účely této směrnice se rozumí:

1)„systémem UI“ systém UI ve smyslu [čl. 3 odst. 1 aktu o UI];

2)„vysoce rizikovým systémem UI“ systém UI uvedený v [článku 6 aktu o UI];

3)„poskytovatelem“ poskytovatel ve smyslu [čl. 3 odst. 2 aktu o UI];

4)„uživatelem“ uživatel ve smyslu [čl. 3 odst. 4 aktu o UI];

5)„nárokem na náhradu škody“ mimosmluvní občanskoprávní nárok na náhradu škody na základě zavinění způsobené výstupem systému UI nebo tím, že tento systém výstup nevytvořil, pokud takový výstup měl být vytvořen;

6)„žalobcem“ osoba, která uplatňuje nárok na náhradu škody a která:

a)byla poškozena výstupem systému UI nebo tím, že tento systém výstup nevytvořil, pokud takový výstup měl být vytvořen;

b) převzala právo poškozené osoby nebo na ni právo poškozené osoby přešlo na základě zákona nebo smlouvy nebo

c)jedná jménem jedné nebo více poškozených osob v souladu s unijním nebo vnitrostátním právem;

7)    „potenciálním žalobcem“ fyzická nebo právnická osoba, která zvažuje uplatnění nároku na náhradu škody, ale dosud jej neuplatnila;

8)    „žalovaným“ osoba, vůči níž je vznesen nárok na náhradu škody;

9)    „povinností řádné péče“ požadovaný standard chování stanovený vnitrostátním nebo unijním právem s cílem zabránit poškození právních zájmů uznaných na úrovni vnitrostátního nebo unijního práva, včetně života, fyzické nedotknutelnosti, majetku a ochrany základních práv.

Článek 3

Zpřístupnění důkazů a vyvratitelná domněnka ohledně nedodržení předpisů

1.Členské státy zajistí, aby vnitrostátní soudy byly oprávněny buď na žádost potenciálního žalobce, který předtím požádal poskytovatele, osobu, na kterou se vztahují povinnosti poskytovatele podle [článku 24 nebo čl. 28 odst. 1 aktu o UI], nebo uživatele o zpřístupnění příslušných důkazů, které má k dispozici o konkrétním vysoce rizikovém systému UI, u něhož existuje podezření, že způsobil škodu, ale byl odmítnut, nebo na žádost žalobce nařídit těmto osobám zpřístupnění těchto důkazů.

Na podporu této žádosti musí potenciální žalobce předložit skutečnosti a důkazy dostatečné k tomu, aby podpořily věrohodnost nároku na náhradu škody.

2.V souvislosti s nárokem na náhradu škody nařídí vnitrostátní soud zpřístupnění důkazů jednou z osob uvedených v odstavci 1 pouze tehdy, pokud žalobce učinil veškeré přiměřené pokusy o získání příslušných důkazů od žalovaného.

3.Členské státy zajistí, aby vnitrostátní soudy byly na žádost žalobce oprávněny nařídit zvláštní opatření k uchování důkazů uvedených v odstavci 1.

4.Vnitrostátní soudy omezí zpřístupnění důkazů na ty, které jsou nezbytné a přiměřené k podpoře případného nároku nebo nároku na náhradu škody, a jejich uchování na ty, které jsou nezbytné a přiměřené k podpoře takového nároku na náhradu škody.

Při určování, zda je příkaz ke zpřístupnění nebo uchování důkazů přiměřený, vnitrostátní soudy zohlední oprávněné zájmy všech stran, včetně dotčených třetích stran, zejména pokud jde o ochranu obchodního tajemství ve smyslu čl. 2 odst. 1 směrnice (EU) 2016/943 a ochranu důvěrných informací, jako jsou informace související s veřejnou nebo národní bezpečností.

Členské státy zajistí, aby v případech, kdy je nařízeno zpřístupnění obchodního tajemství nebo údajného obchodního tajemství, které soud označil za důvěrné ve smyslu čl. 9 odst. 1 směrnice (EU) 2016/943, byly vnitrostátní soudy oprávněny na základě řádně odůvodněné žádosti strany nebo z vlastního podnětu přijmout zvláštní opatření nezbytná k zachování důvěrnosti, pokud je tento důkaz použit nebo je na něj odkazováno v soudním řízení.

Členské státy rovněž zajistí, aby osoba, které bylo nařízeno zpřístupnit nebo uchovat důkazy uvedené v odstavcích 1 nebo 2, měla v reakci na tyto příkazy k dispozici vhodné procesní prostředky nápravy.

5.Pokud žalovaný nesplní příkaz vnitrostátního soudu v rámci řízení o nároku na náhradu škody, aby zpřístupnil nebo uchoval důkazy, které má k dispozici podle odstavců 1 nebo 2, vnitrostátní soud má za to, že žalovaný nesplnil příslušnou povinnost řádné péče, zejména za okolností uvedených v čl. 4 odst. 2 nebo 3, že požadované důkazy byly určeny k prokázání příslušného nároku na náhradu škody.

Žalovaný má právo tuto domněnku vyvrátit.

Článek 4

Vyvratitelná domněnka příčinné souvislosti v případě zavinění

1.S výhradou požadavků stanovených v tomto článku vnitrostátní soudy pro účely použití pravidel odpovědnosti na nárok na náhradu škody předpokládají příčinnou souvislost mezi zaviněním žalovaného a výstupem vytvořeným systémem UI nebo tím, že systém UI takový výstup nevytvořil, pokud jsou splněny všechny následující podmínky:

a)žalobce prokázal nebo soud podle čl. 3 odst. 5 předpokládal zavinění žalovaného nebo osoby, za jejíž chování žalovaný odpovídá, spočívající v nedodržení povinnosti řádné péče stanovené unijním nebo vnitrostátním právem, jejímž přímým účelem je ochrana před vzniklou škodou; 

b)na základě okolností případu lze považovat za přiměřeně pravděpodobné, že zavinění mělo dopad na výstup vytvořený systémem UI nebo na to, že systém UI takový výstup nevytvořil;

c)žalobce prokázal, že výstup vytvořený systémem UI nebo to, že systém UI takový výstup nevytvořil, vedlo ke vzniku škody. 

2.V případě nároku na náhradu škody vůči poskytovateli vysoce rizikového systému UI, na který se vztahují požadavky stanovené v hlavě III kapitolách 2 a 3 [aktu o UI], nebo osobě, na kterou se vztahují povinnosti poskytovatele podle [článku 24 nebo čl. 28 odst. 1 aktu o UI], je podmínka uvedená v odst. 1 písm. a) splněna pouze tehdy, pokud žalobce prokázal, že poskytovatel, případně osoba, na kterou se vztahují povinnosti poskytovatele, nesplnil některý z následujících požadavků stanovených v uvedených kapitolách, s přihlédnutím ke krokům přijatým v rámci systému řízení rizik a výsledkům tohoto systému podle [článku 9 a čl. 16 písm. a) aktu o UI]:

a)systém UI je systém, který využívá techniky zahrnující trénování modelů obsahujících data a který nebyl vyvinut základě souborů tréninkových dat, dat pro ověřování platnosti a testovacích dat, které splňují kritéria kvality uvedená v [čl. 10 odst. 2 až 4 aktu o UI];

b)systém UI nebyl navržen a vyvinut způsobem, který by splňoval požadavky na transparentnost stanovené v [článku 13 aktu o UI]; 

c)systém UI nebyl navržen a vyvinut způsobem, který by umožňoval účinný dohled fyzických osob po dobu používání systému UI podle [článku 14 aktu o UI]; 

d)systém UI nebyl navržen a vyvinut tak, aby s ohledem na svůj určený účel dosahoval odpovídající úrovně přesnosti, spolehlivosti a kybernetické bezpečnosti podle [článku 15 a čl. 16 písm. a) aktu o UI], nebo

e)nebyla neprodleně přijata nezbytná nápravná opatření k uvedení systému UI do souladu s povinnostmi stanovenými v [hlavě III kapitole 2 aktu o UI] nebo k případnému stažení systému z trhu či z oběhu podle [čl. 16 písm. g) a článku 21 aktu o UI]. 

3.V případě nároku na náhradu škody vůči uživateli vysoce rizikového systému UI, na který se vztahují požadavky stanovené v hlavě III kapitolách 2 a 3 [aktu o UI], je podmínka odst. 1 písm. a) splněna, pokud žalobce prokáže, že uživatel:

a)nesplnil své povinnosti používat nebo monitorovat systém UI v souladu s přiloženým návodem k použití, případně pozastavit nebo přerušit jeho používání podle [článku 29 aktu o UI], nebo

b)vystavil systém UI vstupním datům, která jsou pod jeho kontrolou a která nejsou relevantní s ohledem na určený účel systému podle [čl. 29 odst. 3 aktu o UI].

4.V případě nároku na náhradu škody týkajícího se vysoce rizikového systému UI vnitrostátní soud neuplatní domněnku stanovenou v odstavci 1, pokud žalovaný prokáže, že žalobce má k dispozici dostatečné důkazy a odborné znalosti, aby mohl prokázat příčinnou souvislost uvedenou v odstavci 1.

5.V případě nároku na náhradu škody týkajícího se systému UI, který není vysoce rizikovým systémem UI, se domněnka stanovená v odstavci 1 uplatní pouze tehdy, pokud vnitrostátní soud považuje za příliš obtížné, aby žalobce mohl prokázat příčinnou souvislost uvedenou v odstavci 1.

6.V případě nároku na náhradu škody vůči žalovanému, který systém UI používal v rámci osobní neprofesionální činnosti, se domněnka stanovená v odstavci 1 uplatní pouze tehdy, pokud žalovaný podstatně zasáhl do podmínek provozu systému UI nebo pokud byl žalovaný povinen a schopen určit podmínky provozu systému UI a neučinil tak.

7.Žalovaný má právo domněnku stanovenou v odstavci 1 vyvrátit.

Článek 5

Hodnocení a cílený přezkum

1.Do [DATUM pět let po uplynutí lhůty pro provedení] Komise přezkoumá uplatňování této směrnice a předloží zprávu Evropskému parlamentu, Radě a Evropskému hospodářskému a sociálnímu výboru, k níž bude případně připojen legislativní návrh.

2.Zpráva přezkoumá účinky článků 3 a 4 na dosažení cílů sledovaných touto směrnicí. Zejména by měla posoudit vhodnost pravidel subjektivní odpovědnosti u nároků vůči provozovatelům některých systémů UI, pokud se na ně již nevztahují jiná pravidla Unie týkající se odpovědnosti, a potřebu pojistného krytí, přičemž by měla zohlednit účinek a dopad na zavádění a využívání systémů UI, zejména pokud jde o malé a střední podniky.

3.Komise vypracuje monitorovací program pro přípravu zprávy podle odstavců 1 a 2, v němž stanoví, jakým způsobem a v jakých intervalech budou shromažďovány údaje a další nezbytné důkazy. Program upřesní opatření, která má Komise a členské státy přijmout při shromažďování a analýze údajů a dalších důkazů. Pro účely tohoto programu sdělí členské státy Komisi příslušné údaje a důkazy do [31. prosince druhého celého roku následujícího po uplynutí lhůty pro povedení] a do konce každého následujícího roku.

Článek 6

Změna směrnice (EU) 2020/1828

V příloze I směrnice (EU) 2020/1828 40 se doplňuje nový bod 67, který zní:

„67) Směrnice Evropského parlamentu a Rady (EU) .../... ze dne ... o přizpůsobení pravidel mimosmluvní občanskoprávní odpovědnosti umělé inteligenci (směrnice o odpovědnosti za umělou inteligenci) (Úř. věst. L ..., ..., s. ...).“

Článek 7

Povedení ve vnitrostátním právu

1.Členské státy uvedou v účinnost právní a správní předpisy nezbytné pro dosažení souladu s touto směrnicí do [dvou let po jejím vstupu v platnost]. Neprodleně sdělí Komisi znění těchto ustanovení.

Tyto předpisy přijaté členskými státy musí obsahovat odkaz na tuto směrnici nebo musí být takový odkaz učiněn při jejich úředním vyhlášení. Způsob odkazu si stanoví členské státy.

2.Členské státy sdělí Komisi znění hlavních ustanovení vnitrostátních právních předpisů, které přijmou v oblasti působnosti této směrnice.

Článek 8

Vstup v platnost

Tato směrnice vstupuje v platnost dvacátým dnem po vyhlášení v Úředním věstníku Evropské unie. 

Článek 9

Určení

Tato směrnice je určena členským státům.

V Bruselu dne

(1)    Průzkum evropských podniků o využívání technologií založených na UI, Ipsos 2020, závěrečná zpráva, s. 58
( https://op.europa.eu/en/publication-detail/-/publication/f089bbae-f0b0-11ea-991b-01aa75ed71a1 ).

(2)     https://ec.europa.eu/info/sites/default/files/political-guidelines-next-commission_cs_0.pdf

(3)    Bílá kniha o umělé inteligenci – evropský přístup k excelenci a důvěře, 19.2.2020, COM(2020) 65 final.

(4)    Zpráva Komise Evropskému parlamentu, Radě a Hospodářskému a sociálnímu výboru o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost, 19.2.2020, COM(2020) 64 final.

(5)    Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k režimu občanskoprávní odpovědnosti za umělou inteligenci (2020/2014(INL)).

(6)    Usnesení Evropského parlamentu ze dne 3. května 2022 o umělé inteligenci v digitálním věku (2020/2266(INI)).

(7)    Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci) (COM(2021) 206 final).

(8)    Akt o UI výslovně zakazuje pouze malý počet případů použití UI.

(9)    Pracovní dokument útvarů Komise SWD(2021) 84 final, Posouzení dopadů doprovázející Akt o umělé inteligenci, s. 88.

(10)    Návrh nařízení Evropského parlamentu a Rady o obecné bezpečnosti výrobků (COM(2021) 346 final).

(11)    Návrh nařízení Evropského parlamentu a Rady o strojních výrobcích (COM(2021) 202 final).

(12)    Nařízení Komise v přenesené pravomoci (EU) 2022/30, kterým se doplňuje směrnice Evropského parlamentu a Rady 2014/53/EU, pokud jde o uplatňování základních požadavků uvedených v čl. 3 odst. 3 písm. d), e) a f) uvedené směrnice (Úř. věst. L 7, 12.1.2022, s. 6).

(13)    Sdělení Komise „Formování digitální budoucnosti Evropy“ (COM(2020) 67 final).

(14)    Návrh nařízení Evropského parlamentu a Rady o horizontálních požadavcích na kybernetickou bezpečnost produktů s digitálními prvky (COM(2022) 454 final).

(15)    Sdělení Komise, Evropská strategie pro data (COM(2020) 66 final).

(16)    Sdělení Komise Evropskému parlamentu, Evropské radě, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů, Zelená dohoda pro Evropu (COM(2019) 640 final).

(17)    Deloitte, Studie na podporu posouzení dopadů Komise na odpovědnost za umělou inteligenci, 2021 („ekonomická studie“).

(18)    Národní strategie umělé inteligence v České republice, 2019: https://www.vlada.cz/assets/evropske-zalezitosti/umela-inteligence/NAIS_kveten_2019.pdf ; AI Watch, „National strategies on Artificial Intelligence – A European perspective“ (Národní strategie v oblasti umělé inteligence – Evropská perspektiva), vydání z roku 2021 – zpráva JRC-OECD: https://op.europa.eu/en/publication-detail/-/publication/619fd0b5-d3ca-11eb-895a-01aa75ed71a1 , s. 41.

(19)    2025 Strategia per l'innovazione tecnologica e la digitalizzazione del Paese (Strategie pro technologické inovace a digitalizaci země do roku 2025): https://assets.innovazione.gov.it/1610546390-midbook2025.pdf

(20)    Deloitte, Studie na podporu posouzení dopadů Komise na odpovědnost za umělou inteligenci, 2021, s. 96.

(21)    Viz Polityka Rozwoju Sztucznej Inteligencji w Polsce na lata 2019 – 2027 (Politika rozvoje umělé inteligence v Polsku na období 2019–2027) (www.gov.pl/attachment/0aa51cd5-b934-4bcb-8660-bfecb20ea2a9 ), s. 102–3.

(22)    AI Portugal 2030 (UI pro Portugalsko 2030): https://www.incode2030.gov.pt/sites/default/files/julho_incode_brochura.pdf ; AI Watch, op. cit., s. 113.

(23)    Především objektivní odpovědnost, obrácení důkazního břemene nebo zmírnění důkazního břemene v podobě nevyvratitelných nebo vyvratitelných domněnek.

(24)    Dostupné na < https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_cs >

(25)    Odpovědnost za umělou inteligenci a další nové digitální technologie, listopad 2019, https://op.europa.eu/en/publication-detail/-/publication/1c5e30be-1197-11ea-8c1f-01aa75ed71a1/language-en  

(26)    Karner/Koch/Geistfeld, Comparative Law Study on Civil Liability for Artificial Intelligence (Srovnávací právní studie o občanskoprávní odpovědnosti za umělou inteligenci), 2021, https://op.europa.eu/en/publication-detail/-/publication/8a32ccc3-0f83-11ec-9151-01aa75ed71a1/language-en

(27)    Kantar, Behavioural Study on the link between challenges of Artificial Intelligence for Member States’ civil liability rules and consumer attitudes towards AI-enabled products and services (Behaviorální studie o souvislostech mezi výzvami, které umělá inteligence představuje pro pravidla občanskoprávní odpovědnosti členských států, a postoji spotřebitelů k produktům a službám založených na UI), závěrečná zpráva 2021.

(28)    Deloitte, Studie na podporu posouzení dopadů Komise na odpovědnosti za umělou inteligenci, 2021.

(29)    Úř. věst. C , , s. .

(30)    Úř. věst. C , , s. .

(31)    [Návrh nařízení, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) (COM(2021) 206 final)].

(32)    [Návrh nařízení Evropského parlamentu a Rady o obecné bezpečnosti výrobků (COM(2021) 346 final)].

(33)    [Návrh nařízení Evropského parlamentu a Rady o strojních výrobcích (COM(2021) 202 final)].

(34)    Nařízení Komise v přenesené pravomoci (EU) 2022/30, kterým se doplňuje směrnice Evropského parlamentu a Rady 2014/53/EU, pokud jde o uplatňování základních požadavků uvedených v čl. 3 odst. 3 písm. d), e) a f) uvedené směrnice (Úř. věst. L 7, 12.1.2022, s. 6).

(35)    Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Úř. věst. L 210, 7.8.1985, s. 29).

(36)    [ Návrh nařízení Evropského parlamentu a Rady o jednotném trhu digitálních služeb (akt o digitálních službách) COM(2020) 825 final)]

(37)    Směrnice Evropského parlamentu a Rady (EU) 2016/943 ze dne 8. června 2016 o ochraně nezveřejněného know-how a obchodních informací (obchodního tajemství) před jejich neoprávněným získáním, využitím a zpřístupněním (Úř. věst. L 157, 15.6.2016, s. 1).

(38)    Usnesení Evropského parlamentu ze dne 20. října 2020 obsahující doporučení Komisi k režimu občanskoprávní odpovědnosti za umělou inteligenci (2020/2014(INL)) (Úř. věst. C 404, 6.10.2021, s. 107).

(39)    Úř. věst. C 369, 17.12.2011, s. 14.

(40)    Směrnice Evropského parlamentu a Rady (EU) 2020/1828 ze dne 25. listopadu 2020 o zástupných žalobách na ochranu kolektivních zájmů spotřebitelů a o zrušení směrnice 2009/22/ES (Úř. věst. L 409, 4.12.2020, s. 1).