P9_TA(2020)0032

Automatizované rozhodovací procesy: zajištění ochrany spotřebitele a volného pohybu zboží a služeb

Usnesení Evropského parlamentu ze dne 12. února 2020 o automatizovaných rozhodovacích procesech: zajištění ochrany spotřebitele a volného pohybu zboží a služeb (2019/2915(RSP))

(2021/C 294/03)

Evropský parlament,

—	s ohledem na své usnesení ze dne 12. února 2019 o komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky (1),

—	s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (2),

—	s ohledem na zprávu skupiny odborníků Komise pro odpovědnost a nové technologie s názvem „Odpovědnost za umělou inteligenci a další nové digitální technologie“, která byla zveřejněna dne 21. listopadu 2019,

—	s ohledem na zprávu odborné skupiny Komise na vysoké úrovni pro umělou inteligenci s názvem „Politická a investiční doporučení pro důvěryhodnou umělou inteligenci“, která byla zveřejněna dne 26. června 2019,

—	s ohledem na dokument odborné skupiny Komise na vysoké úrovni pro umělou inteligenci s názvem „Etické pokyny pro důvěryhodnou umělou inteligenci“, který byl zveřejněn dne 8. dubna 2019, a kontrolní seznam pro důvěryhodnou umělou inteligenci,

—	s ohledem na sdělení Komise ze dne 8. dubna 2019 o budování důvěry v umělou inteligenci zaměřenou na člověka (COM(2019)0168),

—	s ohledem na sdělení Komise ze dne 7. prosince 2018 o koordinovaném plánu v oblasti umělé inteligence (COM(2018)0795),

—	s ohledem na sdělení Komise ze dne 25. dubna 2018 o umělé inteligenci pro Evropu (COM(2018)0237),

—	s ohledem na návrh usnesení Výboru pro vnitřní trh a ochranu spotřebitelů,

—	s ohledem na otázku Komisi o automatizovaných rozhodovacích procesech: zajištění ochrany spotřebitele a volného pohybu zboží a služeb (O-000008/2020 – B9-0007/2020),

—	s ohledem na čl. 136 odst. 5 a čl. 132 odst. 2 jednacího řádu,

vzhledem k tomu, že v oblasti umělé inteligence, strojového učení, komplexních systémů založených na algoritmech a automatizovaných rozhodovací procesů dochází k rychlému technologickému pokroku, a vzhledem k tomu, že tyto technologie nabízí celou řadu uplatnění, možností a výzev a ovlivňují prakticky všechna odvětví vnitřního trhu;

vzhledem k tomu, že rozvoj automatizovaných rozhodovacích procesů podle očekávání výrazně přispěje ke znalostní ekonomice a že je prospěšný pro společnost tím, že přináší lepší veřejné služby, ale i pro spotřebitele, kteří mají díky němu k dispozici inovativní produkty a služby, a pro podniky, které tak mohou podávat optimální výkon;

vzhledem k tomu, že využívání a rozvoj umělé inteligence a automatizovaných rozhodovacích procesů rovněž představují výzvy z hlediska důvěry spotřebitelů a jejich blahobytu, zejména pokud mají být schopni poznat tyto procesy, pochopit, jak fungují, přijímat informovaná rozhodnutí o jejich použití a případně se rozhodnout nevyužít je;

vzhledem k tomu, že výchozím bodem jsou etické pokyny, jako jsou například zásady přijaté odbornou skupinou Komise na vysoké úrovni pro umělou inteligenci; vzhledem k tomu, že je nicméně třeba přezkoumat stávající právní rámec EU, včetně acquis v oblasti spotřebitelského práva, bezpečnosti výrobků a dohledu nad trhem, aby se zjistilo, zda je schopen reagovat na rozvoj umělé inteligence a automatizovaného rozhodování a zajistit vysokou úroveň ochrany spotřebitelů, jak požaduje článek 38 Listiny základních práv EU;

E.	vzhledem k tomu, že společný unijní přístup k rozvoji automatizovaných rozhodovacích procesů pomůže zajistit výhody těchto procesů a zmírnit rizika v celé EU, zabránit fragmentaci vnitřního trhu a umožnit EU lépe prosazovat svůj přístup a hodnoty na celém světě;

Možnost výběru pro spotřebitele a jejich důvěra a blahobyt

vítá potenciál automatizovaného rozhodování poskytovat inovativní a lepší služby spotřebitelům, včetně nových digitálních služeb, jako jsou virtuální asistenti a chatovací roboti; nicméně se domnívá, že pokud spotřebitelé používají systém, který automatizuje rozhodování, měli by být náležitě informováni o tom, jak funguje, jak se spojit s člověkem s rozhodovacími pravomocemi a jak lze rozhodnutí systému zkontrolovat a opravit;

naléhavě žádá Komisi, aby podrobně monitorovala provádění nových pravidel podle směrnice o lepším vymáhání právních předpisů (3), která od obchodníků požadují, aby spotřebitele informovali, pokud byla cena za zboží nebo služby přizpůsobena na základě automatizovaného rozhodování a sestavování profilů chování spotřebitelů, což obchodníkům umožní posoudit kupní sílu spotřebitele;

naléhavě žádá Komisi, aby bedlivě sledovala provádění nařízení o zeměpisném blokování (4) s cílem zajistit, aby automatizované rozhodování nebylo používáno k diskriminaci spotřebitelů na základě jejich státní příslušnosti, místa bydliště či dočasného místa;

nabádá Komisi, aby sledovala, zda povinnosti obchodníků umožňují spotřebitelům účinný výběr a poskytují jim dostatečnou ochranu; vyzývá Komisi, aby ověřila, zda případně existují mezery v právních předpisech, a zjistila, zda je třeba přijmout další opatření s cílem zaručit silný soubor pravidel na ochranu spotřebitelů v souvislosti s umělou inteligencí a automatizovaným rozhodováním;

konstatuje, že automatizované rozhodovací systémy jsou využívány v rámci mechanismů alternativního řešení sporů na různých digitálních platformách k řešení sporů mezi spotřebiteli a obchodníky; vyzývá Komisi, aby zajistila, že jakýkoli nadcházející přezkum směrnice 2013/11/EU o alternativním řešení spotřebitelských sporů (5) a nařízení (EU) č. 524/2013 o řešení spotřebitelských sporů on-line (6) bude zohledňovat využívání automatizovaného rozhodování a zaručí, že si lidé ponechají kontrolu;

Rámec pro bezpečnost výrobků a odpovědnost za ně

zdůrazňuje, že rámec EU pro bezpečnost výrobků ukládá podnikům povinnost zajistit, že na trh budou uváděny pouze bezpečné a vyhovující výrobky; je si vědom toho, že zavedení výrobků se schopností automatizovaného rozhodování přináší nové výzvy, jelikož se mohou vyvíjet a fungovat způsobem, s nímž se při jejich uvedení na trh nepočítalo; naléhavě žádá Komisi, aby předložila návrhy na úpravu bezpečnostních pravidel EU pro výrobky, na něž se vztahují zvláštní právní předpisy EU, které stanoví harmonizované požadavky, včetně směrnice o strojních zařízeních (7), směrnice o bezpečnosti hraček (8), směrnice o rádiových zařízeních (9) a směrnice o zařízeních nízkého napětí (10), a pro „neharmonizované výrobky“, na něž se vztahuje směrnice o obecné bezpečnosti výrobků (11), s cílem zajistit, aby nová pravidla byla vhodná pro daný účel, aby uživatelé a spotřebitelé byli chráněni před újmou, aby výrobci jasně znali své povinnosti a aby uživatelé rozuměli tomu, jak dotyčné výrobky se schopnostmi automatizovaného rozhodování správně používat;

zdůrazňuje, že vzhledem k různorodé povaze a komplexitě výzev, které jednotlivé typy a aplikace umělé inteligence a automatizovaných systémů rozhodování přináší, je třeba při jejich regulaci vycházet z posouzení rizik; žádá Komisi, aby pro umělou inteligenci a automatizované rozhodování vytvořila systém posuzování rizik s cílem zajistit jednotný přístup k prosazování právních předpisů týkajících se bezpečnosti výrobků na vnitřním trhu; zdůrazňuje, že členské státy musí v rámci svých vnitrostátních strategií pro dohled nad trhem vytvořit harmonizované strategie řízení rizik pro umělou inteligenci;

konstatuje, že směrnice o odpovědnosti za výrobky (12) poskytuje již více než 30 let cennou bezpečnostní síť chránící spotřebitele před újmou způsobenou vadnými výrobky; je si vědom toho, že bude velmi obtížné určit odpovědnost v případech, kdy spotřebitelé utrpí škody v důsledku automatizovaných rozhodovacích procesů; vyzývá Komisi, aby při přezkumu směrnice zvážila také přizpůsobení určitých pojmů (jako „produkt“, „poškození“ a „vada“) a pravidel týkajících se důkazního břemene; naléhavě žádá Komisi, aby v případě potřeby předložila návrhy na aktualizaci těchto konceptů a pravidel;

Regulační rámec v oblasti služeb

připomíná, že na řadu politických aspektů týkajících se služeb zahrnujících automatizované rozhodovací procesy, včetně předpisů v oblasti ochrany spotřebitelů, etiky a odpovědnosti, se vztahuje stávající regulační rámec pro služby, který tvoří směrnice o službách (13), směrnice o odborných kvalifikacích (14), směrnice o testu přiměřenosti (15), směrnice o elektronickém obchodu (16) a obecné nařízení o ochraně osobních údajů (17); konstatuje, že taková pravidla by se měla vztahovat na tradiční služby i na služby zahrnující automatizované rozhodovací procesy;

10.

zdůrazňuje, že ačkoli automatizované rozhodovací procesy mohou zlepšit účinnost a přesnost služeb, odpovědnost za rozhodování v odborných službách, jako je zdravotnictví, právo, účetnictví nebo bankovnictví, musí vždy v konečném důsledku nést lidé a musí být schopni je zvrátit; opakuje, že v případě oprávněných veřejných zájmů by automatizované rozhodování mělo podléhat dohledu nebo nezávislé kontrole kvalifikovanými odborníky;

11.

zdůrazňuje, že před automatizací odborných služeb je třeba řádně posoudit rizika v souladu se směrnicí o testu přiměřenosti; naléhavě žádá příslušné orgány členských států, aby zajistily, že odborné vzdělávání zohlední vědecký pokrok v oblasti automatizovaného rozhodování;

Kvalita a transparentnost správy dat

12.

konstatuje, že provoz automatizovaných systémů rozhodování vyžaduje shromažďování velkého množství údajů, a je přesvědčen, že nařízení o volném toku neosobních údajů (18) přispěje ke zvýšení dostupnosti údajů v celé EU, a vytvoří tak inovativní služby zaměřené na údaje; v tomto ohledu uznává potenciál sdílení údajů nejen z veřejných, ale i ze soukromých zdrojů, zdůrazňuje nicméně potřebu chránit osobní údaje v souladu s obecným nařízením o ochraně údajů; zdůrazňuje, že je důležité používat pouze vysoce kvalitní a objektivní datové soubory, aby se zlepšil výstup algoritmických systémů a zvýšila důvěra a přijetí ze strany spotřebitelů;

13.

zdůrazňuje, že automatizované systémy rozhodování mohou mít významný dopad na spotřebitele, a to zejména na ty, kteří se nacházejí ve zranitelných situacích, a že je proto nejen důležité, aby tyto systémy využívaly pouze vysoce kvalitní a objektivní datové soubory, ale také vysvětlitelné a nestranné algoritmy; domnívá se, že pro napravení případných chyb v automatizovaných rozhodnutích jsou nezbytné systémy přezkumu v rámci podnikových procesů a že spotřebitelé by měli mít možnost požádat člověka o přezkum a nápravu konečných a trvalých automatizovaných rozhodnutí;

14.

zdůrazňuje, že za účelem posouzení toho, zda výrobky s automatizovanými rozhodovacími schopnostmi vyhovují příslušným bezpečnostním normám, je nezbytné, aby algoritmy, na nichž jsou tyto schopnosti založeny, byly dostatečně transparentní a mohly být orgánům dozoru nad trhem srozumitelně vysvětleny; vyzývá Komisi, aby posoudila, zda by orgány dozoru nad trhem měly mít v tomto ohledu další pravomoci;

15.

vyzývá Komisi, aby pozorně monitorovala provádění nařízení o vztazích mezi internetovými platformami a podniky (19), a zejména pravidla týkající se transparentnosti hodnocení podniků, která zahrnují využití automatizovaných rozhodovacích procesů;

o o

16.

pověřuje svého předsedu, aby předal toto usnesení Radě a Komisi.

(1) Přijaté texty, P8_TA(2019)0081.

(2) Úř. věst. C 252, 18.7.2018, s. 239.

(3) Směrnice Evropského parlamentu a Rady (EU) 2019/2161 ze dne 27. listopadu 2019, kterou se mění směrnice Rady 93/13/EHS a směrnice Evropského parlamentu a Rady 98/6/ES, 2005/29/ES a 2011/83/EU, pokud jde o lepší vymáhání a modernizaci právních předpisů Unie na ochranu spotřebitele (Úř. věst. L 328, 18.12.2019, s. 7).

(4) Nařízení Evropského parlamentu a Rady (EU) 2018/302 ze dne 28. února 2018 o řešení neoprávněného zeměpisného blokování a dalších forem diskriminace založených na státní příslušnosti, místě bydliště či místě usazení zákazníků v rámci vnitřního trhu a o změně nařízení (ES) č. 2006/2004 a (EU) 2017/2394 a směrnice 2009/22/ES (Úř. věst. L 60 I, 2.3.2018, s. 1).

(5) Úř. věst. L 165, 18.6.2013, s. 63.

(6) Úř. věst. L 165, 18.6.2013, s. 1.

(7) Směrnice Evropského parlamentu a Rady 2006/42/ES ze dne 17. května 2006 o strojních zařízeních a o změně směrnice 95/16/ES (přepracované znění) (Úř. věst. L 157, 9.6.2006, s. 24).

(8) Směrnice Evropského parlamentu a Rady 2009/48/ES ze dne 18. června 2009 o bezpečnosti hraček (Úř. věst. L 170, 30.6.2009, s. 1).

(9) Směrnice Evropského parlamentu a Rady 2014/53/EU ze dne 16. dubna 2014 o harmonizaci právních předpisů členských států týkajících se dodávání rádiových zařízení na trh a zrušení směrnice 1999/5/ES (Úř. věst. L 153, 22.5.2014, s. 62).

(10) Směrnice Evropského parlamentu a Rady 2014/35/EU ze dne 26. února 2014 o harmonizaci právních předpisů členských států týkajících se dodávání elektrických zařízení určených pro používání v určitých mezích napětí na trh (Úř. věst. L 96, 29.3.2014, s. 357).

(11) Směrnice Evropského parlamentu a Rady 2001/95/ES ze dne 3. prosince 2001 o obecné bezpečnosti výrobků (Úř. věst. L 11, 15.1.2002, s. 4).

(12) Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Úř. věst. L 210, 7.8.1985, s. 29).

(13) Směrnice Evropského parlamentu a Rady 2006/123/ES ze dne 12. prosince 2006 o službách na vnitřním trhu (Úř. věst. L 376, 27.12.2006, s. 36).

(14) Směrnice Evropského parlamentu a Rady 2013/55/EU ze dne 20. listopadu 2013, kterou se mění směrnice 2005/36/ES o uznávání odborných kvalifikací a nařízení (EU) č. 1024/2012 o správní spolupráci prostřednictvím systému pro výměnu informací o vnitřním trhu („nařízení o systému IMI“) (Úř. věst. L 354, 28.12.2013, s. 132).

(15) Směrnice Evropského parlamentu a Rady (EU) 2018/958 ze dne 28. června 2018 o testu přiměřenosti před přijetím nové právní úpravy povolání (Úř. věst. L 173, 9.7.2018, s. 25).

(16) Směrnice Evropského parlamentu a Rady 2000/31/ES ze dne 8. června 2000 o některých právních aspektech služeb informační společnosti, zejména elektronického obchodu, na vnitřním trhu („směrnice o elektronickém obchodu“) (Úř. věst. L 178, 17.7.2000, s. 1).

(17) Nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů) (Úř. věst. L 119, 4.5.2016, s. 1).

(18) Nařízení Evropského parlamentu a Rady (EU) 2018/1807 ze dne 14. listopadu 2018 o rámci pro volný tok neosobních údajů v Evropské unii (Úř. věst. L 303, 28.11.2018, s. 59).

(19) Nařízení Evropského parlamentu a Rady (EU) 2019/1150 ze dne 20. června 2019 o podpoře spravedlnosti a transparentnosti pro podnikatelské uživatele online prostředkovatelských služeb (Úř. věst. L 186, 11.7.2019, s. 57).