18.7.2018   

CS

Úřední věstník Evropské unie

C 252/239

—

s ohledem na článek 225 Smlouvy o fungování Evropské unie,

—

s ohledem na směrnici Rady 85/374/EHS (1),

—

s ohledem na studii o etických aspektech kyberneticko-fyzikálních systémů vypracovanou jménem výboru pro Hodnocení vědecko-technických možností (STOA) a pod vedením oddělení vědeckých prognóz (STOA) GŘ Výzkumné služby Evropského parlamentu,

—

s ohledem na články 46 a 52 jednacího řádu,

—

s ohledem na zprávu Výboru pro právní záležitosti a stanoviska Výboru pro dopravu a cestovní ruch, Výboru pro občanské svobody, spravedlnost a vnitřní věci, Výboru pro zaměstnanost a sociální věci, Výboru pro životní prostředí, veřejné zdraví a bezpečnost potravin, Výboru pro průmysl, výzkum a energetiku a Výboru pro vnitřní trh a ochranu spotřebitelů (A8-0005/2017),

A.

vzhledem k tomu, že od Frankensteinova monstra Mary Shelleyové po klasický mýtus o Pygmalionovi, přes příběh o pražském Golemovi až po roboty Karla Čapka, který slovo „robot“ použil poprvé, lidé snili o stvoření myslících strojů, které měly většinou podobu androidů s lidskými rysy;

B.

vzhledem k tomu, že lidstvo nyní stojí na prahu věku, kdy se zdá, že stále složitější „roboti“, „boti“, „androidi“ a jiné projevy umělé inteligence zažehnou novou průmyslovou revoluci, kterou pravděpodobně pocítí všechny vrstvy společnosti, a proto je nesmírně důležité, aby zákonodárce zvážil její právní a etické důsledky, aniž by však omezoval inovace;

C.

vzhledem k tomu, že je třeba stanovit obecně přijatelnou definici robota a umělé inteligence, která bude pružná a nebude bránit inovacím;

D.

vzhledem k tomu, že zatímco mezi roky 2010 až 2014 stoupal prodej robotů každý rok průměrně o 17 %, v roce 2014 prodej vzrostl o 29 %, což je historicky nejvyšší meziroční nárůst; tento skok byl způsoben zejména poptávkou výrobců automobilových dílů a elektrických resp. elektronických zařízení; vzhledem k tomu, že za poslední desetiletí se ztrojnásobil počet žádostí o patentovou ochranu robotických technologií;

E.

vzhledem k tomu, že zaměstnanost se za posledních 200 let díky technologickému vývoji setrvale zvyšovala; vzhledem k tomu, že robotika a umělá inteligence mohou potenciálně proměnit životy a pracovní návyky, zvýšit efektivitu a úspory posílit bezpečnost a poskytovat kvalitnější služby; vzhledem k tomu, že v krátkodobém až střednědobém horizontu nese robotika a umělá inteligence příslib zvyšování efektivity a úspor, a to nejen v průmyslové výrobě a obchodu, ale také v dopravě, zdravotní péči, záchranných službách, vzdělávání, zemědělství a dalších oblastech, a současně umožní, aby lidé nemuseli být vystaveni nebezpečným podmínkám, například při sanaci zamořených oblastí;

F.

vzhledem k tomu, že stárnutí populace je výsledkem prodlužování života, jehož bylo dosaženo díky zlepšení životních podmínek a pokroku v moderní medicíně, a je jednou z největších politických, sociálních a hospodářských výzev, před nimiž stojí evropské společnosti ve 21. století; vzhledem k tomu, že do roku 2025 bude více než 20 % Evropanů věku 65 a více let, přičemž obzvlášť rychle poroste počet osob starších 80 let, což způsobí v naší společnosti podstatně jiný poměr mezi generacemi, a vzhledem k tomu, že je v zájmu společnosti, aby starší lidé zůstali co nejdéle zdraví a aktivní;

G.

vzhledem k tomu, že v dlouhodobém výhledu míří současné trendy k vývoji inteligentních a autonomních strojů, které budou schopny zlepšovat se na základě výcviku a nezávisle se rozhodovat, což s sebou nese nejen hospodářské výhody, ale rovněž celou řadu obav týkajících se přímých i nepřímých důsledků pro společnost jako celek;

H.

vzhledem k tomu, že strojové učení může mít dalekosáhlé hospodářské a inovativní přínosy pro společnost, neboť prudce zvýší schopnost analyzovat údaje, zároveň však vyvolává otázky týkající se zajištění nediskriminace, dodržování řádných postupů, transparentnosti a srozumitelnosti rozhodovacích procesů;

I.

vzhledem k tomu, že podobně musejí být provedena posouzení hospodářských změn a dopadů na zaměstnanost, které s sebou robotika a strojové učení přinesou; vzhledem k tomu, že i přes nepopiratelné výhody, které robotika nabízí, může její zavádění vést k přeměně pracovního trhu a k potřebě náležitě reagovat na budoucí vývoj v oblasti vzdělávání, zaměstnanosti a sociálních politik;

J.

vzhledem k tomu, že široké využívání robotů sice nemusí automaticky vést k úbytku pracovních míst, je nicméně pravděpodobné, že pracovních míst vyžadujících nižší kvalifikaci v odvětvích, která jsou náročná na pracovní sílu, se automatizace dotkne citelněji; vzhledem k tomu, že tento trend by mohl vrátit výrobní procesy zpět do EU; vzhledem k tomu, že výzkum prokázal, že zaměstnanost roste výrazně rychleji v oborech, kde se ve větší míře používá počítačů; vzhledem k tomu, že automatizace práce může osvobodit lidi od jednotvárné ruční práce a umožnit jim přesměrovat své síly na tvořivější a smysluplnější úkoly; vzhledem k tomu, že automatizace vyžaduje, aby vlády investovaly do vzdělávání a dalších reforem, které umožní lepší rozložení ve prospěch těch typů dovedností, které budou pracovníci do budoucna potřebovat;

K.

vzhledem k tomu, že s vědomím prohlubujících se rozdílů ve společnosti, v níž se zmenšuje střední třída, je nezbytnési uvědomit, že rozvoj robotiky může vést k vyšší koncentraci bohatství a vlivu v rukou menšiny;

L.

vzhledem k tomu, že rozvoj robotiky a umělé inteligence rozhodně ovlivní podobu pracoviště, takže mohou vzniknout nové obavy týkající se odpovědnosti, zatímco k určitým dalším obavám již nebude důvod; vzhledem k tomu, že pro případ, že by vznikla nebezpečná situace nebo nastaly problémy, musí být vyjasněna právní odpovědnost z hlediska obchodního modelu i z hlediska modelů zaměstnanosti;

M.

vzhledem k tomu, že trend směřující k automatizaci s sebou nese požadavek, aby ti, kteří se podílejí na vývoji aplikací umělé inteligence a jejich uvádění na trh, měli již od fáze návrhu na zřeteli bezpečnost a etiku, a byli si tak vědomi toho, že musejí být připraveni přijmout právní odpovědnost za kvalitu technologie, kterou vytvářejí;

N.

vzhledem k tomu, že nařízení Evropského parlamentu a Rady (EU) 2016/679 (2) (obecné nařízení o ochraně osobních údajů) stanoví právní rámec ochrany osobních údajů; vzhledem k tomu, že bude pravděpodobně potřeba se zabývat dalšími aspekty přístupu k údajům a ochrany osobních údajů a soukromí, protože aplikace a přístroje schopné komunikovat mezi sebou navzájem a s různými databázemi, aniž by do této komunikace vstupovali lidé, mohou být stále zdrojem obav týkajících se ochrany soukromí;

O.

vzhledem k tomu, že rozvoj robotiky a umělé inteligence může a měl by být koncipován takovým způsobem, aby robotika i umělá inteligence zachovávaly důstojnost, autonomii a sebeurčení jednotlivce, zvláště pak při vykonávání práce pečovatelů a společníků a v souvislosti s používáním lékařských zařízení a „opravami“ nebo vylepšováním lidského těla;

P.

vzhledem k tomu, že existuje možnost, že by v dlouhodobém horizontu umělá inteligence mohla překonat lidské duševní schopnosti;

Q.

vzhledem k tomu, že další rozvoj a širší využívání automatizovaných a algoritmických rozhodovacích procesů má nezpochybnitelný dopad na to, k čemu se nakonec přikloní soukromé osoby (například podniky či uživatelé internetu) a správní, soudní či jiné veřejné orgány v rámci svého rozhodování v záležitostech spotřebitelského, obchodního či úředního rázu; vzhledem k tomu, že nedílnou součástí procesu automatizovaného a algoritmického rozhodování musí být určité ochranné prvky a možnost lidské kontroly a lidského ověřování;

R.

vzhledem k tomu, že několik zahraničních jurisdikcí, například USA, Japonsko, Čína a Jižní Korea, uvažuje o vytvoření právní úpravy v oblasti robotiky a umělé inteligence a učinilo již určité kroky tímto směrem, a vzhledem k tomu, že některé členské státy rovněž začaly uvažovat o možnosti vypracovat právní normy nebo provést legislativní změny, které by zohlednily nové způsoby uplatnění těchto technologií;

S.

vzhledem k tomu, že evropskému průmyslu by mohl prospět účinný, konzistentní a transparentní regulační přístup na úrovni EU, který by vytvářel předvídatelné a dostatečně jasné podmínky, za nichž by podniky mohly vyvíjet aplikace a plánovat své obchodní modely na evropské úrovni, a současně by zajistil, že si Unie a její členské státy zachovají kontrolu nad novými regulačními standardy, a nebudou tedy nuceny přijímat a uplatňovat standardy stanovené někým jiným, totiž třetími státy, které rovněž stojí v čele vývoje robotiky a umělé inteligence;

T.

vzhledem k tomu, že Asimovovy zákony (3) je třeba chápat tak, že jsou určeny konstruktérům, výrobcům a provozovatelům robotů, neboť tyto zákony nelze převést do strojového kódu;

U.

vzhledem k tomu, že je nezbytné stanovit soubor pravidel, která budou upravovat zejména otázky odpovědnosti a transparentnosti a budou v souladu s bytostně evropskými a univerzálními humanistickými hodnotami, jimiž se vyznačuje příspěvek Evropy ke společnosti; vzhledem k tomu, že tato pravidla nesmí ovlivňovat proces výzkumu, inovací a rozvoje v oblasti robotiky;

V.

vzhledem k tomu, že Unie by mohla sehrát zásadní úlohu při vytváření základních etických zásad, jimiž by se měl řídit vývoj, programování a používání robotů a umělé inteligence, a při začleňování těchto zásad do evropských právních předpisů a kodexů chování s cílem utvářet technickou revoluci tak, aby sloužila lidstvu, aby užitek z pokročilých robotických systémů a umělé inteligence byl co nejšířeji sdílen a aby sev nejvyšší možné míře zamezilo potenciálním rizikům;

W.

vzhledem k tomu, že přílohu legislativního usnesení tvoří Charta robotiky, která byla vypracována za pomoci oddělení vědeckých prognóz (STOA) GŘ Výzkumné služby Evropského parlamentu a která předkládá etický kodex inženýrů robotiky, kodex pro komise pro etiku výzkumu, „licenci“ konstruktérů a „licenci“ uživatelů;

X.

vzhledem k tomu, že k budoucím iniciativám v oblasti robotiky a umělé inteligence by měla Unie zaujmout postupný, pragmatický a obezřetný přístup hlásaný Jeanem Monnetem (4), aby nebyly zadušeny inovace;

Y.

vzhledem k tomu, že s ohledem na současný stupeň rozvoje robotiky a umělé inteligence je vhodné začít s otázkami občanskoprávní odpovědnosti;

Z.

vzhledem k tomu, že díky pozoruhodnému technickému pokroku, k němuž došlo v posledním desetiletí, dokáží dnešní roboti nejen vykonávat činnosti, které bývaly výlučnou doménou člověka, nýbrž získávají také určité autonomní a kognitivní schopnosti – např. schopnost učit se na základě zkušeností a činit kvazi samostatná rozhodnutí – takže se stále více podobají subjektům, které interagují se svým okolím a jsou je schopny výrazně ovlivňovat; vzhledem k tomu, že v této souvislosti se může jednou ze stěžejních otázek stát problém právní odpovědnosti v případě, že robot svou činností způsobí újmu;

AA.

vzhledem k tomu, že autonomii robota lze definovat jako schopnost činit rozhodnutí a uplatňovat je vůči okolnímu světu nezávisle na kontrole či vlivu zvnějšku; vzhledem k tomu, že tato autonomie je čistě technické povahy a její stupeň závisí na tom, jak byl robot konstruován, pokud jde o komplexitu jeho interakce s prostředím;

AB.

vzhledem k tomu, že čím je robot autonomnější, tím méně jej lze považovat za pouhý nástroj v rukou jiných subjektů (výrobců, provozovatelů, vlastníků, uživatelů atd.); vzhledem k tomu, že s tím je spojena otázka, zda jsou dostačující obvyklá pravidla pro odpovědnost, nebo zda je zapotřebí stanovit nové zásady a pravidla, které vyjasní právní odpovědnost různých subjektů, pokud jde o jejich odpovědnost za jednání a opomenutí ze strany robotů, jejichž příčinu nelze vysledovat zpět k určitému lidskému činiteli, a zda takovému jednání či opomenutí ze strany robotů, jímž byla způsobena určitá újma, bylo možné zamezit;

AC.

vzhledem k tomu, že autonomie robotů nás v konečném důsledku staví před otázku jejich povahy s ohledem na stávající právní kategorie, tj. zda by měla být vytvořena nová kategorie s vlastními specifickými rysy a důsledky;

AD.

vzhledem k tomu, že současný právní rámec neumožňuje, aby robot nesl sám o sobě odpovědnost za jednání nebo opomenutí, jimiž způsobí škodu třetí straně; vzhledem k tomu, že platná pravidla pro odpovědnost se vztahují na případy, kdy za jednání nebo opomenutí robota lze činit odpovědným konkrétního lidského činitele, například výrobce, provozovatele, vlastníka nebo uživatele, pokud tato osoba mohla předvídat škodlivé jednání robota a zabránit mu; vzhledem k tomu, že výrobci, provozovatelé, vlastníci nebo uživatelé by také mohli nést absolutní odpovědnost za jednání či opomenutí robota;

AE.

vzhledem k tomu, že podle současného právního rámce se na škody, které způsobí robot nebo umělá inteligence, vztahuje jednak odpovědnost za výrobky (kdy za nesprávné fungování určitého výrobku nese odpovědnost jeho výrobce) a jednak pravidla, jimiž se řídí odpovědnost za způsobenou újmu (kdy za chování, jehož následkem byla způsobena újma, zodpovídá uživatel výrobku);

AF.

vzhledem k tomu, že pokud by robot byl schopen činit samostatná rozhodnutí, tradiční pravidla by již nestačila k určení odpovědnosti za škodu způsobenou robotem, protože by nebylo možné určit stranu, která má poskytnout odškodnění a napravit škodu, kterou robot způsobil;

AG.

vzhledem k tomu, že v oblasti smluvní odpovědnosti se jasně projevují nedostatky současné právní úpravy, neboť pokud budou stroje konstruovány tak, aby si vybíraly své smluvní partnery, vyjednávaly smluvní podmínky, uzavíraly smlouvy a rozhodovaly o tom, zda a jak je budou uplatňovat, nebude již možné se řídit tradičními pravidly; vzhledem k tomu, že bude nutné vytvořit pravidla nová, účinná a aktuální, která by odpovídala technologickému vývoji a nejnovějším inovacím, které našly uplatnění na trhu;

AH.

vzhledem k tomu, že pokud jde o mimosmluvní odpovědnost, směrnice 85/374/EHS se vztahuje pouze na škodu způsobenou výrobními vadami robota, a to navíc pod podmínkou, že poškozená osoba prokáže škodu, vadu a příčinnou souvislost mezi vadou a škodou, takže je možné, že právní rámec absolutní odpovědnosti či odpovědnosti bez zavinění nebude dostačující;

AI.

vzhledem k tomu, že bez ohledu na oblast působnosti směrnice 85/374/EHS není platná právní úprava dostačující k tomu, aby zajistila odpovědnost za škodu způsobenou roboty nové generace, pokud by tito roboti měli schopnost adaptace a učení, která by způsobila, že by jejich jednání bylo do určité míry nepředvídatelné, neboť tito roboti by se samostatně učili na základě vlastních variabilních zkušeností a interagovali by s prostředím jedinečným, nepředvídatelným způsobem;

1.

2.

3.

4.

5.

6.

7.

8.

9.

10.

11.

12.

13.

14.

15.

16.

17.

18.

19.

20.

21.

22.

23.

24.

25.

26.

27.

28.

29.

30.

31.

32.

33.

34.

35.

36.

37.

38.

39.

40.

41.

42.

43.

44.

45.

46.

47.

48.

49.

50.

51.

52.

53.

54.

55.

56.

57.

58.

59.

60.

61.

62.

63.

64.

65.

66.

67.

68.