P9_TA(2022)0140

Umělá inteligence v digitálním věku

Usnesení Evropského parlamentu ze dne 3. května 2022 o umělé inteligenci v digitálním věku (2020/2266(INI))

(2022/C 465/06)

Evropský parlament,

—	s ohledem na články 4, 16, 26, 114, 169, 173, 179, 180, 181 a 187 Smlouvy o fungování Evropské unie,

—	s ohledem na Listinu základních práv Evropské unie,

—	s ohledem na Úmluvu OSN o právech dítěte a obecnou připomínku č. 25 Výboru OSN pro práva dítěte ze dne 2. března 2021, která se týká práv dítěte ve vztahu k digitálnímu prostředí,

—	s ohledem na doporučení Organizace OSN pro výchovu, vědu a kulturu (UNESCO) ohledně etiky umělé inteligence, které přijala generální konference UNESCO na svém 41. zasedání dne 24. listopadu 2021,

—	s ohledem na interinstitucionální dohodu ze dne 13. dubna 2016 o zdokonalení tvorby právních předpisů (1) a na pokyny pro zlepšování právní úpravy,

—	s ohledem na sdělení Komise ze dne 24. března 2021 o strategii EU pro práva dítěte (COM(2021)0142),

—	s ohledem na své usnesení ze dne 7. října 2021 o stavu schopností EU v oblasti kybernetické obrany (2),

—	s ohledem na své usnesení ze dne 15. prosince 2021 o výzvách a vyhlídkách mnohostranných režimů kontroly zbraní hromadného ničení a odzbrojení (3),

—	s ohledem na nařízení Evropského parlamentu a Rady (EU) 2016/679 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů a o volném pohybu těchto údajů a o zrušení směrnice 95/46/ES (obecné nařízení o ochraně osobních údajů – GDPR) (4),

—	s ohledem na nařízení Evropského parlamentu a Rady (EU) 2021/694 ze dne 29. dubna 2021, kterým se zavádí program Digitální Evropa a zrušuje rozhodnutí (EU) 2015/2240 (5),

—	s ohledem na nařízení Evropského parlamentu a Rady (EU) 2021/695 ze dne 28. dubna 2021, kterým se zavádí rámcový program pro výzkum a inovace Horizont Evropa, stanoví pravidla pro účast a šíření výsledků a zrušují nařízení (EU) č. 1290/2013 a (EU) č. 1291/2013 (6),

—	s ohledem na návrh nařízení Evropského parlamentu a Rady ze dne 21. dubna 2021, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie (COM(2021)0206),

—	s ohledem na návrh nařízení Evropského parlamentu a Rady ze dne 25. listopadu 2020 o evropské správě dat (akt o správě dat) (COM(2020)0767),

—	s ohledem na nařízení Evropského parlamentu a Rady (EU) 2018/1807 ze dne 14. listopadu 2018 o rámci pro volný tok neosobních údajů v Evropské unii (7),

—	s ohledem na nařízení Evropského parlamentu a Rady (EU) 2021/697 ze dne 29. dubna 2021, kterým se zřizuje Evropský obranný fond a zrušuje nařízení (EU) 2018/1092 (8),

—	s ohledem na směrnici Evropského parlamentu a Rady (EU) 2019/770 ze dne 20. května 2019 o některých aspektech smluv o poskytování digitálního obsahu a digitálních služeb (9),

—	s ohledem na nařízení Rady (EU) 2021/1173 ze dne 13. července 2021, kterým se zřizuje evropský společný podnik pro vysoce výkonnou výpočetní techniku a zrušuje nařízení (EU) 2018/1488 (10),

—	s ohledem na sdělení Komise ze dne 25. dubna 2018 s názvem „Umělá inteligence pro Evropu“ (COM(2018)0237),

—	s ohledem na sdělení Komise ze dne 7. prosince 2018 o koordinovaném plánu v oblasti umělé inteligence (COM(2018)0795),

—	s ohledem na sdělení Komise ze dne 8. dubna 2019 o budování důvěry v umělou inteligenci zaměřenou na člověka (COM(2019)0168),

—	s ohledem na bílou knihu Komise ze dne 19. února 2020 s názvem „O umělé inteligenci – evropský přístup k excelenci a důvěře“ (COM(2020)0065),

—	vítá zelenou knihu Komise ze dne 27. ledna 2021 s názvem „Stárnutí: Podpora mezigenerační solidarity a odpovědnosti“ (COM(2021)0050);

—	s ohledem na sdělení Komise ze dne 19. února 2020 s názvem „Evropská strategie pro data“ (COM(2020)0066),

—	s ohledem na sdělení Komise ze dne 19. února 2020 s názvem „Utváření digitální budoucnosti Evropy“ (COM(2020)0067),

—	s ohledem na sdělení Komise ze dne 10. března 2020 s názvem „Nová průmyslová strategie pro Evropu“ (COM(2020)0102) a ze dne 5. května 2021 s názvem „Aktualizace nové průmyslové strategie: budování silnějšího jednotného trhu pro oživení Evropy (COM(2021)0350),

—	s ohledem na sdělení Komise ze dne 30. září 2020 s názvem „Akční plán digitálního vzdělávání 2021–2027 – Nové nastavení vzdělávání a odborné přípravy pro digitální věk“ (COM(2020)0624),

—	s ohledem na sdělení Komise ze dne 9. března 2021 s názvem „Digitální kompas 2030: evropské pojetí digitální dekády“ (COM(2021)0118).

—	s ohledem na návrh nařízení Evropského parlamentu a Rady ze dne 15. září 2021, kterým se zavádí program 2030 s názvem „Cesta k digitální dekádě“ (COM(2021)0574),

—	s ohledem na studii Komise ze dne 28. července 2020 s názvem „European enterprise survey on the use of technologies based on artificial intelligence“ (Průzkum o využívání technologií založených na umělé inteligenci v evropských podnicích),

—	s ohledem na studii Komise ze dne 26. listopadu 2020 s názvem „Energy-efficient cloud computing technologies and policies for an eco-friendly cloud market“ (Energeticky účinné cloud computingové technologie a politiky pro ekologicky šetrný trh v oblasti cloud computingu),

—	s ohledem na zprávu Komise Evropskému parlamentu, Radě, Evropskému hospodářskému a sociálnímu výboru ze dne 19. února 2020 o dopadech umělé inteligence, internetu věcí a robotiky na bezpečnost a odpovědnost (COM(2020)0064),

—	s ohledem na závěry Rady ze dne 22. března 2021 o strategii kybernetické bezpečnosti EU pro digitální desetiletí,

—	s ohledem na zprávu odborné skupiny na vysoké úrovni pro umělou inteligenci působící v rámci Komise ze dne 8. dubna 2019 s názvem „Ethics Guidelines for trustworthy AI“ (Etické pokyny pro důvěryhodnou umělou inteligenci),

—	s ohledem na zprávu odborné skupiny na vysoké úrovni pro umělou inteligenci působící v rámci Komise ze dne 8. dubna 2019 s názvem „A definition of AI: main capabilities and disciplines“ (Definování umělé inteligence: hlavní kapacity a obory),

—	s ohledem na zprávu odborné skupiny na vysoké úrovni pro umělou inteligenci ze dne 26. června 2019 s názvem „Policy and investment recommendations for trustworthy Artificial Intelligence“ (Politická a investiční doporučení pro důvěryhodnou umělou inteligenci),

—	s ohledem na studii UNESCO z března 2019 s názvem „I’d blush if I could: closing gender divides in digital skills through education“ (Cítil bych stud, kdybych mohl: odstranění rozdílů mezi ženami a muži v oblasti digitálních dovedností pomocí vzdělávání),

—	s ohledem na zprávu Agentury Evropské unie pro základní práva ze dne 14. prosince 2020 s názvem „Getting the future right – Artificial intelligence and fundamental rights“ (Porozumění budoucímu vývoji – umělá inteligence a základní práva),

—	s ohledem na doporučení Rady Organizace pro hospodářskou spolupráci a rozvoj (OECD) ze dne 22. května 2019 ohledně umělé inteligence,

—	s ohledem na platformu OSN pro dialog o umělé inteligenci „Umělá inteligence pro přínosný globální summit“,

—	s ohledem na prohlášení skupiny G20 o zásadách umělé inteligence ze dne 9. června 2019,

—	s ohledem na zprávu Světové zdravotnické organizace ze dne 28. června 2021 o umělé inteligenci ve zdravotnictví a šest hlavních zásad pro její navrhování a používání,

—	s ohledem na stanovisko Evropského hospodářského a sociálního výboru z vlastní iniciativy ze dne 31. května 2017 s názvem „Umělá inteligence – dopady umělé inteligence na jednotný trh (digitální), výrobu, spotřebu, zaměstnanost a společnost“ (11),

—	s ohledem na zprávu skupiny odborníků pro odpovědnost a nové technologie – sestava pro nové technologie ze dne 21. listopadu 2019 s názvem „Liability for Artificial Intelligence and other emerging digital technologies“ (Odpovědnost za umělou inteligenci a další nové digitální technologie),

—

s ohledem na publikaci Dočasného výboru Rady Evropy pro umělou inteligenci (CAHAI) z prosince 2020 s názvem „Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law“ (Na cestě k regulaci systémů umělé inteligence – globální perspektivy vývoje právního rámce pro systémy umělé inteligence založeného na normách Rady Evropy v oblasti lidských práv, demokracie a právního státu),

—	s ohledem na pracovní dokument Evropského univerzitního institutu z října 2020 nazvaný „Models of Law and regulation for AI“ (Právní modely a regulace umělé inteligence),

—	s ohledem na společnou zprávu společnosti Trend Micro Research, OSN a Europolu ze dne 19. listopadu 2020 s názvem „Malicious Uses and Abuses of Artificial Intelligence“ (Zlovolné využívání a zneužívání umělé inteligence),

—	s ohledem na politické směry Evropské komise na období 2019–2024 s názvem „Unie, která si klade vyšší cíle: moje agenda pro Evropu“,

—	s ohledem na rozsudek Soudního dvora Evropské unie ze dne 16. července 2020 ve věci C-311/18 (Schrems II),

—	s ohledem na své usnesení ze dne 16. února 2017 obsahující doporučení Komisi o občanskoprávních pravidlech pro robotiku (12),

—	s ohledem na své usnesení ze dne 1. června 2017 o digitalizaci evropského průmyslu (13),

—	s ohledem na své usnesení ze dne 6. října 2021 o rámci politiky EU v oblasti bezpečnosti silničního provozu na období 2021–2030 – Další kroky směrem k „vizi nulových obětí na cestách“ (14),

—	s ohledem na své usnesení ze dne 12. září 2018 o autonomních zbraňových systémech (15),

—	s ohledem na své usnesení ze dne 12. února 2019 o komplexní evropské průmyslové politice v oblasti umělé inteligence a robotiky (16),

—	s ohledem na své usnesení ze dne 12. února 2020 s názvem „Automatické rozhodovací procesy: zajištění ochrany spotřebitele a volného pohybu zboží a služeb“ (17),

—	s ohledem na své usnesení ze dne 20. října 2020 obsahující doporučení Komisi k režimu občanskoprávní odpovědnosti za umělou inteligenci (18),

—	s ohledem na své usnesení ze dne 20. října 2020 o právech duševního vlastnictví při vývoji technologií umělé inteligence (19),

—	s ohledem na své usnesení ze dne 20. října 2020 obsahující doporučení Komisi k rámci pro etické aspekty umělé inteligence, robotiky a souvisejících technologií (20),

—	s ohledem na své usnesení ze dne 20. ledna 2021 na téma „Umělá inteligence: otázky výkladu a uplatňování mezinárodního práva v míře, v níž se to týká EU, v oblastech civilního a vojenského využití a státní správy mimo oblast trestního práva“ (21),

—	s ohledem na své usnesení ze dne 20. května 2021 o přípravě digitální budoucnosti Evropy: odstranění překážek fungování jednotného digitálního trhu a lepší využívání umělé inteligence pro evropské spotřebitele (22),

—	s ohledem na své usnesení ze dne 25. března 2021 o evropské strategii pro data (23),

—	s ohledem na své usnesení ze dne 19. května 2021 o umělé inteligenci ve vzdělávání, kultuře a v audiovizuálním odvětví (24),

—	s ohledem na své usnesení ze dne 6. října 2021 o umělé inteligenci v trestním právu a jejím využívání policií a soudními orgány v trestních věcech (25),

—

s ohledem na studii generálního ředitelství pro vnitřní politiky (GŘ IPOL) z června 2021 s názvem „Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool“ (Diplomacie v oblasti umělé inteligence – správa umělé inteligence jako nový nástroj vnější politiky Evropské unie),

—	s ohledem na studii GŘ IPOL z května 2021 s názvem „Challenges and limits of an open source approach to Artificial Intelligence“ (Výzvy a omezení přístupu k umělé inteligenci založeného na otevřeném zdroji),

—	s ohledem na sdělení GŘ IPOL z května 2021 s názvem „Artificial Intelligence market and capital flows – AI and the financial sector at crossroads“ (Trh umělé inteligence a kapitálové toky – umělá inteligence a finanční sektor na rozcestí),

—	s ohledem na studii GŘ IPOL z června 2021 s názvem „Improving working conditions using Artificial Intelligence“ (Zlepšování pracovních podmínek s využitím umělé inteligence),

—	s ohledem na studii GŘ IPOL z května 2021 s názvem „The role of Artificial Intelligence in the European Green Deal“ (Význam umělé inteligence pro Zelenou dohodu pro Evropu),

—	s ohledem na studii GŘ IPOL z července 2021 s názvem „Artificial Intelligence in smart cities and urban mobility“ (Umělá inteligence v inteligentních městech a městské mobilitě),

—	s ohledem na studii GŘ IPOL z července 2021 s názvem „Artificial Intelligence and public services“ (Umělá inteligence a veřejné služby),

—	s ohledem na studii GŘ IPOL z července 2021 s názvem „European Union data challenge“ (Problematika údajů v Evropské unii),

—	s ohledem na studii GŘ IPOL z června 2020 s názvem „Opportunities of Artificial Intelligence“ (Příležitosti spojené s umělou inteligencí),

—	s ohledem na studii GŘ IPOL z října 2021 s názvem „Europe’s Digital Decade and Autonomy“ (Evropská digitální dekáda a soběstačnost),

—	s ohledem na studii GŘ IPOL z ledna 2022 s názvem „Identification and assessment of existing and draft EU legislation in the digital field“ (Identifikace a posouzení stávajících a navrhovaných právních předpisů EU v digitální oblasti),

—	s ohledem na studii Výzkumné služby Evropského parlamentu (EPRS) ze září 2020 s názvem „Civil liability regime for artificial intelligence – European added value assessment“ (Režim občanskoprávní odpovědnosti za umělou inteligenci – posouzení evropské přidané hodnoty),

—	s ohledem na studii oddělení vědeckých prognóz EPRS z prosince 2020 s názvem „Data subjects, digital surveillance, AI and the future of work“ (Subjekty údajů, digitální sledování, umělá inteligence a budoucnost práce),

—	s ohledem na studii EPRS ze září 2020 s názvem „European framework on ethical aspects of artificial intelligence, robotics and related technologies“ (Evropský rámec pro etické aspekty umělé inteligence, robotiky a souvisejících technologií),

—	s ohledem na studii EPRS z března 2020 s názvem „The ethics of artificial intelligence: Issues and initiatives“ (Etika umělé inteligence: témata a iniciativy),

—	s ohledem na studii EPRS z června 2020 s názvem „Opportunities of Artificial Intelligence: How does it work, why does it matter, and what can we do about it?“ (Příležitosti spojené s umělou inteligencí: jak funguje, proč je důležitá a čeho s ní můžeme dosáhnout?),

—	s ohledem na studii EPRS z července 2020 s názvem „Artificial Intelligence and Law enforcement – Impact on Fundamental Rights“ (Umělá inteligence a prosazování práva – dopad na základní práva),

—	s ohledem na studii EPRS z června 2020 s názvem „The impact of the General Data Protection Regulation (GDPR) on artificial intelligence“ (Dopad obecného nařízení o ochraně osobních údajů na umělou inteligenci),

—	s ohledem na studii EPRS z dubna 2020 s názvem „The White Paper on Artificial Intelligence“ (Bílá kniha o umělé inteligenci),

—	s ohledem na studii EPRS ze září 2021 s názvem „Regulating facial recognition in the EU“ (Regulace rozpoznávání obličeje v EU),

—	s ohledem na studii EPRS z února 2021 s názvem „The future of work: Trends, challenges and potential initiatives“ (Budoucnost práce: trendy, výzvy a potenciální iniciativy),

—	s ohledem na studii EPRS z června 2021 s názvem „Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection?“ (Robotičtí poradci: jak zapadají do stávajícího regulačního rámce EU, zejména pokud jde o ochranu investorů?),

—	s ohledem na studii EPRS ze září 2021 s názvem „China’s ambitions in artificial intelligence“ (Cíle Číny v oblasti umělé inteligence),

—	s ohledem na studii EPRS z června 2021 s názvem „What if we chose new metaphors for artificial intelligence?“ (Což abychom zvolili nové metafory pro umělou inteligenci?),

—	s ohledem na studii EPRS z ledna 2018 s názvem „Understanding artificial intelligence“ (Jak chápat umělou inteligenci),

—	s ohledem na studii EPRS z listopadu 2021 s názvem „Tackling deepfakes in European Policy“ (Boj proti fenoménu deepfake prostřednictvím evropské politiky),

—	s ohledem na pracovní dokument Zvláštního výboru pro umělou inteligenci v digitálním věku (AIDA) z února 2021 s názvem „Artificial Intelligence and Health“ (Umělá inteligence a zdraví),

—	s ohledem na pracovní dokument zvláštního výboru AIDA z března 2021 s názvem „Artificial Intelligence and the Green Deal“ (Umělá inteligence a Zelená dohoda),

—	s ohledem na pracovní dokument zvláštního výboru AIDA z března 2021 s názvem „The External Policy Dimensions of AI“ (Zahraničněpolitické rozměry umělé inteligence),

—	s ohledem na pracovní dokument zvláštního výboru AIDA z května 2021 s názvem „AI and Competitiveness“ (Umělá inteligence a konkurenceschopnost),

—	s ohledem na pracovní dokument zvláštního výboru AIDA z června 2021 s názvem „AI and the Future of Democracy“ (Umělá inteligence a budoucnost demokracie),

—	s ohledem na pracovní dokument zvláštního výboru AIDA z června 2021 s názvem „AI and the Labour Market“ (Umělá inteligence a trh práce),

—	s ohledem na článek 54 jednacího řádu,

—	s ohledem na zprávu Zvláštního výboru pro umělou inteligenci v digitálním věku (A9-0088/2022),

1. Úvod

konstatuje, že svět stojí na pokraji čtvrté průmyslové revoluce; poukazuje na to, že oproti třem jejím předchozím vlnám, které přineslo zavedení parního stroje, elektřiny a poté počítačů, čerpá čtvrtá vlna svou energii z velkého množství dat v kombinaci s výkonnými algoritmy a výpočetní kapacitou; zdůrazňuje, že současná digitální revoluce je utvářena celosvětovým rozsahem, rychlým sbližováním a obrovským dopadem vznikajících průlomových technologií na státy, ekonomiky, společnost, mezinárodní vztahy i na životní prostředí; bere na vědomí, že radikální změna tohoto rozsahu odlišně ovlivňuje různé vrstvy společnosti v závislosti na jejich cílech, zeměpisném umístění nebo sociálně-ekonomických podmínkách; zdůrazňuje, že digitální transformace musí být utvářena při plném dodržování základních práv a takovým způsobem, aby digitální technologie sloužily lidstvu;

konstatuje, že digitální revoluce zároveň vyvolala celosvětovou konkurenci v důsledku obrovské hospodářské hodnoty a technologických kapacit, které se nashromáždily v ekonomikách, které vynakládají nejvíce zdrojů na výzkum, vývoj a uvádění aplikací UI na trh; konstatuje, že digitální konkurenceschopnost a otevřená strategická soběstačnost se v několika zemích staly ústředním politickým cílem; zdůrazňuje, že subjekty s rozhodovací pravomocí si stále více uvědomují, že nové technologie by mohly ovlivnit geopolitické mocenské postavení celých zemí;

poukazuje na to, že Evropa, která po staletí stanovovala mezinárodní normy, měla převahu v technologickém pokroku a vedla špičkovou výrobu a zavádění technologií, z tohoto důvodu na digitálním trhu zaostává, vyvíjí a investuje mnohem méně než přední ekonomiky, jako jsou USA nebo Čína, a zároveň zůstává relativně konkurenceschopná, pokud jde o výsledky tematického výzkumu UI; bere na vědomí riziko, že evropské subjekty budou při utváření globálních norem a rozvoji technologií a evropských hodnot upozaděny;

za prvé zdůrazňuje, že digitální nástroje se čím dál více stávají nástrojem manipulace a zneužívání v rukou některých korporátních subjektů i v rukou autokratických vlád s cílem oslabit demokratické politické systémy, což může vést ke střetu mezi politickými systémy; tvrdí, že digitální špionáž, sabotážní operace, války v malém měřítku a dezinformační kampaně ohrožují demokratické společnosti;

zdůrazňuje, že povaha digitálních obchodních modelů umožňuje vysokou míru škálovatelnosti a síťových účinků; poukazuje na to, že mnoho digitálních trhů se vyznačuje vysokou mírou tržní koncentrace, což umožňuje malému počtu technologických platforem, z nichž většina je v současné době usazena v USA, vést komercializaci průlomových technologických inovací, přilákat nejlepší nápady, talenty a společnosti a dosahovat mimořádné ziskovosti; upozorňuje na to, že dominantní postavení na trhu v ekonomice založené na datech se pravděpodobně rozšíří do nově vznikající ekonomiky umělé inteligence; poukazuje na to, že pouze osm z dnešních 200 největších digitálních společností má sídlo v EU; zdůrazňuje, že dokončení skutečného jednotného digitálního trhu má v tomto ohledu nejvyšší význam;

zdůrazňuje, že v důsledku toho se celosvětová soutěž o vedoucí postavení v oblasti technologií stala v EU prioritou; zdůrazňuje, že pokud EU nebude jednat rychle a odvážně, bude nakonec muset dodržovat pravidla a normy stanovené jinými aktéry a riskovat škodlivé dopady na politickou stabilitu, sociální zabezpečení, základní práva, individuální svobody a hospodářskou konkurenceschopnost;

zastává názor, že UI je jednou z klíčových rozvíjejících se technologií v rámci čtvrté průmyslové revoluce; konstatuje, že UI je hnací silou digitální ekonomiky, neboť umožňuje zavádění inovativních produktů a služeb, má sílu rozšířit výběr pro spotřebitele a může zvýšit účinnost výrobních procesů; konstatuje, že se očekává, že UI přispěje do roku 2030 ke globálnímu hospodářství více než 11 biliony EUR; zároveň zdůrazňuje, že technologie UI mohou omezit lidské působení; zdůrazňuje, že umělá inteligence by měla zůstat důvěryhodnou technologií zaměřenou na člověka a že by neměla nahrazovat lidskou autonomii ani být předpokladem pro ztrátu osobní svobody; zdůrazňuje, že je třeba zajistit, aby tato čtvrtá průmyslová revoluce byla inkluzivní a nikoho neopomíjela;

tvrdí, že probíhá celosvětová soutěž o vedoucí postavení v oblasti UI; poukazuje na to, že technologie UI jsou příslibem obrovské ekonomické hodnoty pro ekonomiky, které tyto technologie ziskově vyvíjejí, vyrábějí a přijímají, jakož i pro země, v nichž k vytváření této hodnoty dochází; zdůrazňuje, že umělá inteligence není všemocnou technologií, ale účinným souborem nástrojů a technik, které mohou být ku prospěchu společnosti; tvrdí, že fungování technologií závisí na tom, jak jsou navrženy; poukazuje na to, že EU oznámila svůj záměr stát se průkopníkem na poli regulačního rámce pro UI; zdůrazňuje však, že je zásadní, aby EU byla s to definovat regulační přístup, včetně ochrany základních práv a svobod, a jednat jako globální tvůrce norem; zdůrazňuje proto význam evropské konkurenceschopnosti v oblasti umělé inteligence a schopnosti EU utvářet regulační prostředí na mezinárodní úrovni; zdůrazňuje, že některé způsoby použití UI mohou představovat individuální a společenská rizika, která mohou ohrozit základní práva, a proto by se jimi měli zabývat tvůrci politik, což by vedlo k tomu, že by se umělá inteligence stala účinným nástrojem, který bude sloužit lidem a společnosti a zároveň sledovat společné blaho a obecný zájem;

konstatuje, že k tomu, aby evropští aktéři uspěli v digitálním věku a stali se technologickými lídry v oblasti UI, je zapotřebí jasného regulačního rámce, politického závazku a progresivnějšího myšlení, které v současnosti často chybí; dochází k závěru, že na základě tohoto přístupu mohou mít občané i podniky v EU prospěch z umělé inteligence, jakož i velké příležitosti, které takový přístup nabízí ke zvýšení konkurenceschopnosti, a to i pokud jde o prosperitu a dobré životní podmínky; zdůrazňuje, že regulační rámce musí být koncipovány tak, aby nevytvářely neodůvodněné překážky, které by evropským subjektům bránily v úspěchu v digitálním věku, zejména pro začínající podniky a malé a střední podniky; zdůrazňuje, že soukromé a veřejné investice by měly být podstatně navýšeny, aby se vytvořilo prostředí, ve kterém na našem kontinentu bude vznikat a rozvíjet se více evropských úspěšných projektů;

10.

zdůrazňuje, že rychlý technologický pokrok zavedený umělou inteligencí je stále více neoddělitelný od většiny oblastí lidské činnosti a bude mít dopad i na živobytí každého, kdo postrádá dovednosti potřebné k tomu, aby se těmto novým technologiím dostatečně rychle přizpůsobil; poukazuje na to, že ačkoli dosažení digitální gramotnosti prostřednictvím prohlubování dovedností a změny kvalifikace může pomoci řešit mnohé z výsledných sociálně-ekonomických problémů, měly by být tyto dopady řešeny také v souvislosti se systémy sociálního zabezpečení, městskou a venkovskou infrastrukturou a demokratickými procesy;

11.

zdůrazňuje, že při digitální transformaci je třeba zohlednit cíle a zájmy žen a zranitelných skupin; v této souvislosti zdůrazňuje, že v roce 2018 tvořily ženy celosvětově pouze 22 % osob profesně činných v oblasti UI, což je problém, který slouží pouze k udržování a upevňování stereotypů a předpojatosti; uznává, že při používání technologií UI je třeba zachovat rovnost před zákonem, ochranu soukromí, svobodu projevu a zajistit účast na kulturním a politickém životě, zejména pro menšinové komunity;

2. Možné příležitosti, rizika a překážky při používání umělé inteligence: šest případových studií, jimiž se zabýval zvláštní výbor AIDA

12.

připomíná, že UI je založena na softwaru využívajícím pravděpodobnostní modely a algoritmickou předpověď pro soubor konkrétních cílů; poukazuje na to, že pojem „umělá inteligence“ je zastřešující pojem, který zahrnuje širokou škálu starých a nových technologií, technik a přístupů, které lze lépe pojmout jako „systémy umělé inteligence“, což odkazuje na jakékoli strojové systémy, které mají často jen o málo více společného než to, že jsou řízeny daným souborem cílů definovaných člověkem s různou mírou autonomie při výkonu své činnosti, a které jsou zapojeny do předpovědí, doporučení nebo rozhodování na základě dostupných dat; konstatuje, že zatímco některé z těchto technologií jsou již široce využívány, jiné se teprve vyvíjejí, nebo jsou dokonce jen ve stadiu spekulativních konceptů, které v budoucnu mohou, ale také nemusejí existovat;

13.

poukazuje na to, že existuje značný rozdíl mezi symbolickou UI, která představovala hlavní koncepci UI od 50. do 90. let 20. století, a UI založenou na strojovém učení, která začala převládat od začátku tohoto století; poznamenává, že během první vlny probíhal vývoj UI tak, že znalosti a zkušenosti odborníků byly kódovány v souboru pravidel, který poté stroj prováděl;

14.

konstatuje, že ve druhé vlně automatizované procesy učení algoritmů založené na zpracování velkého množství dat, schopnost slučovat vstupy z více různých zdrojů a tvořit komplexní znázornění daného prostředí a identifikace vzorců učinily systémy umělé inteligence složitějšími, autonomnějšími a neprůhlednějšími, což může vést k obtížněji vysvětlitelným výsledkům; zdůrazňuje, že současnou UI lze proto rozdělit do mnoha různých podoblastí a technik, kdy například hluboké učení je podoblastí strojového učení, která sama je jednou z podoblastí UI;

15.

konstatuje, že ačkoli se dnešní umělá inteligence stala mnohem účinnější a výkonnější než symbolická umělá inteligence, může díky významnému zvýšení výpočetních kapacit vyřešit pouze jasně vymezené úkoly v konkrétních oblastech, jako jsou šachové partie nebo rozpoznávání obrazu, a její programování není koncipováno tak, aby plně uznávalo činnosti, které systém UI provádí; zdůrazňuje, že systémy UI – na rozdíl od toho, co naznačuje jejich název – nedisponují „inteligencí“ v lidském slova smyslu; proto je označována jako „úzká“ nebo „slabá“ UI, která není ničím více než nástrojem poskytujícím doporučení a předpovědi; konstatuje například, že samořídící automobily fungují prostřednictvím kombinace různých jednoúlohových systémů umělé inteligence, které jsou společně schopny poskytnout trojrozměrnou mapu okolí vozidla, aby se tak jeho operační systém mohl rozhodovat;

16.

zdůrazňuje, že mnohé obavy spojené s UI jsou založeny na hypotetických konceptech, jako je všeobecná umělá inteligence, umělá superinteligence a singularita, což by teoreticky mohlo vést k tomu, že strojová inteligence bude v mnoha oblastech překonávat inteligenci lidskou; zdůrazňuje, že existují pochybnosti o tom, zda lze této spekulativní umělé inteligence dosáhnout pomocí našich technologií a zákonů vědy; domnívá se však, že rizika, která v současné době představuje rozhodování na základě UI, musí řešit zákonodárci, neboť je zcela jednoznačné, že škodlivé účinky, jako je rasová diskriminace a diskriminace na základě pohlaví, již lze přičíst konkrétním případům, kdy byla UI použita bez dostatečných záruk;

17.

zdůrazňuje, že většina systémů UI, které se v současné době používají, je málo riziková; odkazuje například na automatický překlad, „stroje Eureka“, hrací přístroje a roboty, které provádějí opakující se produkční procesy; dochází k závěru, že některé případy použití lze klasifikovat jako rizikové a že vyžadují regulační opatření a účinné záruky, pokud ještě nebyly zavedeny;

18.

vybízí k veřejné diskuzi o tom, jak prozkoumat obrovský potenciál umělé UI s ohledem na základní evropské hodnoty a na zásady transparentnosti, vysvětlitelnosti, spravedlnosti, přičitatelnosti, odpovědnosti a důvěryhodnosti, jakož i na zásadu, že umělá inteligence a robotika by měly být zaměřeny na člověka a rozvíjeny tak, aby člověka doplňovaly; zdůrazňuje, že ve značném počtu oblastí lidského života, od udržitelnosti po zdravotní péči, může UI poskytovat uživatelům a odborníkům výhody jako pomocný nástroj, který umocňuje schopnosti lidí, aniž by omezoval jejich kapacitu svobodně jednat a rozhodovat se; zdůrazňuje, že sjednané etické zásady a závazky v oblasti UI by měly být uvedeny do praxe ve všech oblastech uplatňování umělé inteligence a měly by se opírat o nezbytné záruky, které zvýší důvěru občanů, kterým tak bude umožněno z umělé inteligence těžit;

19.

zdůrazňuje, že míra rizika konkrétní aplikace umělé inteligence se výrazně liší v závislosti na pravděpodobnosti vzniku újmy a na její závažnosti; zdůrazňuje proto, že by se tomu měly přizpůsobit právní požadavky v souladu s přístupem založeným na rizicích a v odůvodněných případech s náležitým přihlédnutím k zásadě předběžné opatrnosti; zdůrazňuje, že v takovýchto současných nebo budoucích případech, kdy systémy umělé inteligence v konkrétním případě použití představují vysoké riziko pro základní a lidská práva, je nutný plný lidský dohled a regulační zásah a že vzhledem k rychlosti technologického vývoje musí být regulace vysoce rizikových systémů umělé inteligence pružná a schopná obstát i v budoucnosti;

20.

uvádí, že tato zpráva se podrobně zabývá šesti případovými studiemi v oblasti umělé inteligence a nastiňuje příležitosti, které umělá inteligence nabízí v příslušném odvětví, rizika, která je třeba řešit, a překážky, které Evropě brání v plném využití přínosů umělé inteligence; zdůrazňuje, že tyto případové studie představují některé z nejdůležitějších současných případů využití umělé inteligence a zároveň odrážejí některá hlavní témata veřejných slyšení, která Zvláštní výbor pro umělou inteligenci v digitálním věku (AIDA) během svého mandátu uspořádal, jmenovitě téma zdravotnictví, Zelené dohody, vnější politiky a bezpečnosti, konkurenceschopnosti, budoucnosti demokracie a trhu práce;

a) Umělá inteligence a zdraví

21.

konstatuje, že metodická analýza velkých objemů dat, včetně analýzy pomocí umělé inteligence, může ve zdravotnictví odhalit nová řešení nebo zlepšit stávající postupy, které by mohly výrazně urychlit vědecký výzkum, zachraňovat lidské životy a zlepšit péči o pacienty tím, že nabídnou inovativní léčbu a lepší diagnostiku a posílí prostředí podporující zdravý životní styl; zdůrazňuje, že systémy umělé inteligence mohou rovněž přispívat k dostupnosti, odolnosti a udržitelnosti zdravotnických systémů a zároveň přinést evropskému odvětví IKT a zdravotnictví konkurenční výhodu, pokud budou odpovídajícím způsobem řízena inherentní rizika;

22.

zdůrazňuje, že používání umělé inteligence ve zdravotnictví by se mělo opírat o přísné etické požadavky, jako je rovný přístup ke zdravotní péči, soukromí, odpovědnost, transparentnost, vysvětlitelnost, spolehlivost, inkluzivnost a reprezentativnost datových souborů a stálý lidský dohled; zdůrazňuje, že při navrhování systémů založených na umělé inteligenci je třeba brát v potaz riziko, že zdroje budou jednotlivcům přiděleny nesprávně na základě chybné nebo předpojaté kategorizace, upřednostňování nebo špatného fungování technologie, což povede k nesprávné diagnóze, špatnému zacházení nebo k neposkytnutí léčby; je přesvědčen, že pro všechny zdravotnické aplikace by měly platit nejvyšší etické normy a že etická pravidla by měla být stanovena již ve velmi rané fázi jejich vývoje a návrhu, tj. etika již od návrhu; zdůrazňuje, že automatizované rozhodování využívané ve zdravotnických aplikacích může ohrožovat dobré životní podmínky- pacientů a jejich základní práva, a zdůrazňuje, že umělá inteligence proto musí ve zdravotnictví hrát podpůrnou úlohu, přičemž by měl být vždy zachován odborný lidský dohled; vyzývá k tomu, aby umělá inteligence využívaná v lékařské diagnostice ve veřejných systémech zdravotní péče zachovávala vztah mezi pacientem a lékařem a byla vždy v souladu s Hippokratovou přísaha; konstatuje však, že umělá inteligence zlepšuje přesnost screeningu a v některých případech již předčí diagnostiku lékařů; má za to, že stávající rámce odpovědnosti neposkytují dostatečnou právní jistotu a nezaručují pacientům právo na soudní nápravu v případě chybné diagnózy a nesprávné léčby prostřednictvím umělé inteligence; v této souvislosti vítá připravovaný legislativní návrh týkající se odpovědnosti za umělou inteligenci; konstatuje, že je důležité chránit zdravotnické pracovníky jako uživatele systémů umělé inteligence i pacienty jako koncové příjemce a poskytovat jim dostatečné a transparentní informace;

23.

zdůrazňuje, že řešení založená na umělé inteligenci se již používají nebo testují v klinickém prostředí s cílem podpořit diagnostiku, prognózu, léčbu a zapojení pacientů, a tím urychlit a zlepšit léčbu a omezit zbytečné zásahy; dále konstatuje, že umělá inteligence může zlepšit personalizovanou medicínu a péči o pacienty; konstatuje, že umělá inteligence v současné době pokrývá širokou škálu oblastí zdraví, včetně veřejného zdraví, pečovatelských služeb, péče o vlastní osobu a systémů zdravotní péče; poznamenává, že důležitou úlohu hrají data; domnívá se, že existují slibná uplatnění umělé inteligence při zjišťování informací ze snímků a v dalších lékařských přístrojích poskytujících vstupní informace pro následnou analýzu, a konstatuje, že algoritmy hlubokého učení mohou podle očekávání rovněž přinést kvantitativní skok v různých klinických úlohách;

24.

poukazuje na to, že je možné používat technologie umělé inteligence při výzkumu, vývoji a masové výrobě léčiv a že umělá inteligence může urychlit vývoj nových léčiv, léčebných postupů a očkovacích látek při nižších nákladech; domnívá se, že umělá inteligence může pomoci předvídat výsledky léčby a reakci na ni a může lékařům umožnit upravit s větší mírou přesnosti léčebné strategie podle individuálních genetických nebo fyziologických charakteristik, pokud vychází z vysoce kvalitních údajů a správných předpokladů, a zvyšovat tak účinnost preventivní péče za předpokladu, že budou splněny všechny etické požadavky týkající se odborného dohledu nad klinickým ověřováním umělé inteligence, ochrany soukromí, ochrany údajů a informovaného souhlasu; konstatuje, že data velkého objemu v oblasti zdravotnictví lze analyzovat pomocí umělé inteligence a urychlit tak jejich zpracování; zdůrazňuje, že je důležité zajistit, aby byla vysoce výkonná výpočetní technika interoperabilní s umělou inteligencí, neboť hlavní hospodářská odvětví, včetně výroby, zdravotnictví a farmaceutického průmyslu, jsou závislá na vysoce výkonné výpočetní technice;

25.

zdůrazňuje, že řešení založená na umělé inteligenci mají potenciál přizpůsobit léčbu a vývoj léčiv specifickým potřebám pacientů a posílit spolupráci se zúčastněnými stranami a účastníky systému zdravotní péče; konstatuje, že umělá inteligence a přístup k relevantním, aktualizovaným a kvalitním anonymizovaným a reprezentativním datovým souborům v souladu s pravidly EU o ochraně osobních údajů pomáhají zdravotnickým pracovníkům poskytovat pacientům lepší péči a personalizovanou zpětnou vazbu, poradenství a podporu, čímž podporují bezpečnost pacientů a zvyšují účinnost léčby; zdůrazňuje, že to může být zvláště užitečné při výběru a přezkoumávání rostoucího souboru vědeckých poznatků za účelem získání relevantních poznatků pro zdravotnické pracovníky; zdůrazňuje, že občané všech členských států by měli mít možnost sdílet své zdravotní údaje s poskytovateli a orgány zdravotní péče podle svého výběru; v této souvislosti zdůrazňuje, že je třeba vytvořit pobídky pro zvyšování kvalifikace, rekvalifikaci a přípravu na změnu zaměstnání pracovníků ve zdravotnictví;

26.

domnívá se, že boj proti onemocnění COVID-19 urychlil výzkum a zavádění nových technologií, zejména aplikací umělé inteligence, ve snaze o účinnější odhalování případů, lepší klinickou péči a výzkum v oblasti léčby onemocnění a zdůraznil užitečnost umělé inteligence i význam financování a vysoce kvalitních dat pro efektivní monitorování a modelování šíření nakažlivých nemocí v budoucnosti, a to v souladu s právními předpisy na ochranu údajů; konstatuje však, že zkušenosti s aplikacemi umělé inteligence během pandemie COVID-19 odhalily některá omezení ve využívání umělé inteligence v lékařské diagnostice (26);

27.

zdůrazňuje schopnost systémů umělé inteligence zmírňovat zátěž zdravotnických systémů, a zejména zdravotnických pracovníků, a přispívat k řešením, jak zajistit péči o rychle stárnoucí obyvatelstvo v Evropě a ve světě a chránit je před nebezpečnými nemocemi;

28.

zdůrazňuje, že používání bezpečných a účinných aplikací umělé inteligence pro administrativní úkoly nevyžadující lidskou činnost může zdravotníkům ušetřit mnoho času, který mohou místo toho věnovat interakci s pacienty;

29.

zdůrazňuje, že zdravotnické aplikace pro spotřebitele založené na umělé inteligenci mohou pomoci sledovat zdravotní stav jedince prostřednictvím běžných zařízení, jako jsou chytré telefony, které uživatelům umožňují poskytovat dobrovolně údaje, jež mohou být základem pro včasné varování a upozornění na život ohrožující onemocnění, jako je mrtvice nebo srdeční zástava; zdůrazňuje, že aplikace v oblasti zdraví založené na umělé inteligenci mohou rovněž podporovat zdravé chování a umožnit jedincům odpovědnou péči o sebe, a to tím, že pacientům poskytnou další prostředky pro sledování jejich vlastního zdravotního stavu a životního stylu a zlepší přesnost screeningu prováděného zdravotníky; upozorňuje však, že osobní údaje o zdravotním stavu jsou obzvláště citlivé a že existuje riziko porušení nebo zneužití údajů v této souvislosti, a zdůrazňuje, že je třeba uplatňovat přísné normy kybernetické bezpečnosti pro všechny aplikace v oblasti zdraví;

30.

zdůrazňuje, že umělá inteligence ve zdravotnictví je mimořádně závislá na velkém množství osobních údajů, na jejich sdílení, vysoké kvalitě údajů, jejich dostupnosti a interoperabilitě, protože jedině tak je možné v plné míře využívat potenciálu umělé inteligence ve zdravotnictví; zdůrazňuje, že je třeba usnadnit propojení elektronických zdravotních záznamů se systémy elektronických receptů, aby měli zdravotničtí pracovníci podílející se na péči o pacienta přístup k potřebným informacím o pacientovi, pokud s tím pacient souhlasí;

31.

vítá vytvoření evropského prostoru pro data z oblasti veřejného zdraví, který má shromažďovat data velmi vysoké kvality pro použití ve zdravotnictví; domnívá se, že propojení a interoperabilita infrastruktur vysoce výkonné výpočetní techniky s evropským prostorem pro data z oblasti veřejného zdraví by zajistily dostupnost rozsáhlých a kvalitních souborů údajů o zdravotním stavu, které jsou důležité pro výzkum a léčbu patologií, zejména vzácných a dětských onemocnění;

32.

zdůrazňuje, že je třeba budovat důvěru podporou interoperability a větší spolupráce mezi různými zdravotnickými pracovníky, kteří pečují o stejné pacienty; zdůrazňuje, že je třeba nabízet zdravotnickým pracovníkům odbornou přípravu v oblasti technik a přístupů umělé inteligence; zdůrazňuje, že je třeba bojovat proti nedůvěře, například využitím plného potenciálu anonymizace a pseudoanonymizace údajů, a lépe informovat občany, zdravotníky a rozhodovací orgány o využití, přínosech a rizicích umělé inteligence v oblasti zdraví, jakož i vývojáře umělé inteligence o výzvách a rizicích spojených se zpracováním citlivých údajů v této oblasti;

33.

dále se domnívá, že pro podporu atmosféry důvěry mezi občany a pro přiměřenou ochranu údajů o zdravotním stavu před možným zneužitím a nezákonným přístupem jsou nezbytné závazné a přísné etické a právní normy a vymahatelná práva na nápravu; souhlasí s Komisí, že občané by měli mít zabezpečený přístup ke komplexnímu elektronickému záznamu dat o svém zdraví a měli by mít nadále kontrolu nad osobními údaji o svém zdraví a možnost poskytovat je bezpečně, tj. při zajištění účinné ochrany osobních údajů a důkladné kybernetické bezpečnosti, oprávněným třetím stranám; zdůrazňuje, že neoprávněný přístup k údajům a jejich šíření by měly být zakázány a že ochrana osobních údajů pacientů musí být zaručena v souladu s právními předpisy o ochraně údajů;

34.

v této souvislosti zdůrazňuje riziko předpojatých rozhodnutí vedoucích k diskriminaci a porušování lidských práv; zdůrazňuje proto, že je třeba provádět nestranné kontroly používaných algoritmů a datových souborů a podporovat další výzkum metod a zkreslení obsažených v trénovaných systémech umělé inteligence, aby se zabránilo neetickým a diskriminačním závěrům v oblasti údajů o lidském zdraví;

35.

zdůrazňuje, že účinné a jednotné uplatňování obecného nařízení o ochraně osobních údajů v celé EU je potřebné k překonání problémů, jako je právní nejistota a nedostatečná spolupráce v odvětví zdravotnictví; zdůrazňuje, že v důsledku těchto problémů dochází v některých případech k vědeckým objevům se zpožděním a zdravotnický výzkum je zatěžován byrokratickou prací; zdůrazňuje, že vytvoření evropského prostoru pro data z oblasti veřejného zdraví, který zaručuje práva pacientů a přenositelnost údajů, by mohlo zvýšit spolupráci a podnítit sdílení dat pro výzkum a inovace v evropském zdravotnictví;

36.

konstatuje, že umělá inteligence může přispět k rychlému pokroku v oblasti nových technologií, jako je zobrazování mozku, které již mají důležité využití v medicíně, ale zároveň představují značná rizika z hlediska lidského faktoru a vyjádření základních práv, aniž by bylo nutné získat souhlas; je znepokojen nedostatkem právních předpisů týkajících se neurologických údajů a domnívá se, že EU by měla usilovat o to, aby se stala světovým lídrem ve vývoji bezpečných technologií v neurologii;

b) Umělá inteligence a Zelená dohoda

37.

zdůrazňuje, že dvě klíčové priority Komise pro nadcházející roky jsou Evropa připravená na digitální věk a Zelená dohoda pro Evropu; zdůrazňuje, že je třeba zajistit, aby digitální transformace přispěla k dosažení udržitelného rozvoje a podporovala ekologickou transformaci; domnívá se, že to vyžaduje urychlení inovací v souladu s cíli EU v oblasti klimatu a environmentálními normami; zdůrazňuje, že aplikace umělé inteligence mohou být přínosné pro životní prostředí a hospodářství a posílit prediktivní schopnosti, které mohou přispět k boji proti změně klimatu a k dosažení cílů Zelené dohody pro Evropu a cíle EU stát se do roku 2050 prvním klimaticky neutrálním kontinentem; shledává, že využívání umělé inteligence má potenciál snížit do roku 2030 celosvětové emise skleníkových plynů až o 4 % (27); konstatuje, že technologie IKT mohou podle některých odhadů snížit emise skleníkových plynů o desetinásobek své vlastní ekologické stopy (28), ale uznává, že to vyžaduje vědomá rozhodnutí o koncepci a regulační opatření; zároveň varuje, že rostoucí spotřeba energie při ukládání rozsáhlých datových souborů potřebných pro výcvik systémů umělé inteligence může mít rovněž negativní dopad; připomíná, že datový provoz a infrastruktura IKT spotřebovávají dnes přibližně 7 % světové elektřiny, přičemž se předpokládá, že se toto číslo bez vhodných záruk do roku 2030 zvýší na 13 %; dodává, že k tomuto negativnímu dopadu může přispět i intenzivní využívání surovin k výrobě mikroprocesorů a technologicky vyspělých zařízení využívajících umělou inteligenci; zdůrazňuje, že s cílem zajistit „velký dopad, ale malou stopu“ umělé inteligence na životní prostředí a klima je třeba zvážit tyto přímé i nepřímé negativní dopady na životní prostředí a systémy umělé inteligence musí být navrženy tak, aby podporovaly udržitelnou spotřebu, snižovaly využívání surovin a spotřebu energie, zabránily zbytečnému zpracování a předcházely škodám na životním prostředí; zdůrazňuje, že řešení dopadu odvětví IKT na životní prostředí si žádá příslušné informace a údaje;

38.

je znepokojen tím, že pouze šest členských států začlenilo do svého úsilí o splnění cílů Zelené dohody větší důraz na aplikace umělé inteligence; domnívá se, že umělá inteligence může sloužit ke sběru a třídění informací důležitých pro environmentální plánování, rozhodování a řízení a sledování pokroku v realizaci politik v oblasti životního prostředí, například pokud jde o čistší ovzduší, kde aplikace umělé inteligence umožňují monitorovat znečištění a varovat před nebezpečím; zdůrazňuje, že tato řešení založená na umělé inteligenci a digitální řešení by mohla být využívána ve větším počtu odvětví, aby tak řešení účinně využívající zdroje našla širší uplatnění;

39.

zdůrazňuje význam systémů založených na umělé inteligenci pro rozvoj inteligentních měst a vesnic prostřednictvím optimalizace využívání zdrojů a zlepšováním odolnosti infrastruktur, a to i předvídáním a snižováním provozu, inteligentním řízením energie, pomocí při mimořádných událostech a nakládáním s odpady, jako tomu je již v některých městech a obcích v EU; zdůrazňuje, že řešení založená na umělé inteligenci mohou dále napomáhat územnímu plánování, architektonickým, stavebním a inženýrským procesům a přispívat tak k omezování emisí, doby výstavby, nákladů a množství odpadu;

40.

zdůrazňuje, že transformace energetiky se může uskutečnit jen na základě digitalizace; poukazuje na to, že umělá inteligence umožňuje monitorovat, optimalizovat a snižovat spotřebu a výrobu energie a podporovat začleňování energie z obnovitelných zdrojů do stávajících rozvodných elektrických sítí; zdůrazňuje, že inteligentní měřiče, účinné osvětlení, cloud computing a distribuovaný software spolu se složkou umělé inteligence mají potenciál změnit vzorce využívání energie a podpořit její odpovědné používání;

41.

zdůrazňuje, že vzhledem k rostoucí složitosti systému energetické transformace spojeného s vyšší volatilitou výroby energie z obnovitelných zdrojů a změnami v řízení zatížení je rozsáhlejší automatické řízení nezbytným předpokladem pro zabezpečení dodávek energie; zdůrazňuje, že umělá inteligence má potenciál být prospěšná pro bezpečnost dodávek, zejména pokud jde o provoz, sledování, údržbu a kontrolu vodovodních, plynárenských a elektrických sítí; konstatuje však, že technologie sítí založené na umělé inteligenci přinesou miliony inteligentních součástí se stejnými slabými místy, čímž do energetických sítí přidají velký počet potenciálních bodů útoku a zvýší zranitelnost kritické infrastruktury, pokud nebudou zavedena příslušná ustanovení v oblasti kybernetické bezpečnosti; domnívá se, že inteligentní sítě vyžadují další investice a výzkum;

42.

domnívá se, že umělá inteligence a další digitální aplikace v oblasti mobility a dopravy mají potenciál optimalizovat dopravní toky a zvýšit bezpečnost silničního provozu, a to i prostřednictvím vyšší efektivity dopravních systémů; poukazuje na to, že umělá inteligence může přispět k projektování a hospodaření s energií energeticky účinných vozidel; zdůrazňuje, že se značně rozšířily možnosti dopravních služeb, spolujízdy a sdílení automobilů založených na mobilních aplikacích a že umělá inteligence se v těchto službách mobility často využívá v podobě účinného plánování tras a výběru místa pro vyzvednutí;

43.

domnívá se, že umělá inteligence může hrát transformační úlohu v odvětví zemědělství, protože podporuje vznik nových metod sklízení plodin, včetně předpovídání sklizně a hospodaření se zemědělskými zdroji; zdůrazňuje, že zemědělství je klíčovým odvětvím, v němž může umělá inteligence přispět ke snížení emisí a používání pesticidů, hnojiv, chemických látek a vody tím, že jejich používání omezí na přesné dávky a v úzce vymezených oblastech; zdůrazňuje také, že umělá inteligence může přispět k obnově biologické rozmanitosti monitorováním ohrožených druhů nebo sledováním odlesňovacích aktivit; zdůrazňuje, že je třeba vypracovat pokyny pro zavádění umělé inteligence a standardizované metody hodnocení na podporu „zelené umělé inteligence“ v oblastech, jako jsou inteligentní sítě, přesné zemědělství a inteligentní a udržitelná města a komunity; zastává názor, že umělá inteligence ve formě přesného zemědělství může optimalizovat zemědělskou- produkci potravin a v širším smyslu hospodaření s půdou, a to skrze lepší plánování využití půdy, předpovídání změn ve využívání půdy a sledování zdraví plodin, a současně má potenciál změnit předpovídání extrémních povětrnostních jevů;

44.

zdůrazňuje, že umělá inteligence může přispívat k oběhovému hospodářství tím, že zefektivní výrobní, spotřební a recyklační procesy a chování z hlediska využívání zdrojů a zvýší transparentnost využívání materiálů, například pokud jde o etické získávání surovin a snižování množství odpadu; upozorňuje na to, že díky umělé inteligenci mohou mít podniky lepší povědomí o svých emisích, a to i v rámci hodnotových řetězců, čímž jim UI pomáhá přizpůsobovat se a plnit individuální emisní cíle; zdůrazňuje, že digitální nástroje mohou podnikům pomoci přijmout nezbytná opatření vedoucí k udržitelnějšímu chování, a to zejména malým a středním podnikům, které by na to jinak nemusely mít dostatečné zdroje;

45.

zdůrazňuje, že v současné době není možné využívat umělou inteligenci k úplnému měření dopadů na životní prostředí; domnívá se, že je zapotřebí vypracovat více studií o úloze umělé inteligence při snižování dopadů na životní prostředí; zdůrazňuje, že je třeba shromáždit více údajů o životním prostředí, aby bylo možné získat lepší přehled a dosáhnout většího pokroku za pomoci řešení v oblasti umělé inteligence; zdůrazňuje, že využívání umělé inteligence k systematickému propojování údajů o emisích CO2 s údaji o výrobních a spotřebních vzorcích, dodavatelských řetězcích a logistických trasách by mohlo vést k odhalování činností, které mají pozitivní nebo negativní dopad;

c) Zahraniční politika a bezpečnostní rozměr umělé inteligence

46.

opakuje, že EU usiluje o dosažení celosvětové dohody o společných normách pro odpovědné používání umělé inteligence, což má mimořádný význam; je nicméně v zásadě přesvědčen, že podobně smýšlející demokracie mohou spolupracovat s cílem utvářet společně mezinárodní diskusi o rámci pro umělou inteligenci, která dodržuje lidská práva a zásady právního státu, spolupracovat na dosažení určitých společných norem a zásad, technických a etických standardů a pokynů pro odpovědné chování států, zejména pod záštitou mezivládních organizací, jako jsou OSN a OECD, a podporovat tak multilateralismus, udržitelný rozvoj, interoperabilitu a sdílení údajů na mezinárodní scéně; podporuje činnost otevřené pracovní skupiny OSN pro informační a komunikační technologie a mezinárodní bezpečnost; zdůrazňuje, že opatření na budování důvěry mají zásadní význam pro zvýšení úrovně dialogu a důvěry; vyzývá proto k větší transparentnosti při používání umělé inteligence s cílem zajistit větší odpovědnost;

47.

vítá nedávné mnohostranné iniciativy zaměřené na vypracování pokynů a norem pro eticky odpovědné používání umělé inteligence, jako jsou zásady OECD pro umělou inteligenci, globální partnerství v oblasti umělé inteligence, doporučení UNESCO o etice umělé inteligence, globální summit platformy „AI for Good“, doporučení Rady Evropy ohledně možného právního rámce pro umělou inteligenci a politické pokyny UNICEF týkající se umělé inteligence pro děti; vítá práci na normách pro umělou inteligenci, která probíhá na mezinárodní úrovni, a pokrok dosažený v souvislosti s normami Mezinárodní organizace pro normalizaci týkajícími se dopadů umělé inteligence na správu;

48.

vítá rovněž zřízení a zprovoznění Rady EU–USA pro obchod a technologie (TTC); vítá výsledek prvního zasedání TTC v Pittsburghu; považuje TTC za potenciální fórum pro globální koordinaci mezi Evropskou unií a Spojenými státy za účelem stanovení celosvětových pravidel pro umělou inteligenci a globálních technologických norem, které chrání naše společné hodnoty, za účelem podpory společných investic, výzkumu a vývoje a za účelem užší politické koordinace v mezinárodních institucích v otázkách souvisejících s technologiemi a umělou inteligencí;

49.

zdůrazňuje klíčovou úlohu, kterou může EU hrát při stanovování globálních norem jako první blok na světě, který zavede právní předpisy týkající se umělé inteligence; zdůrazňuje, že právní rámec Unie v oblasti umělé inteligence by z Evropy mohl učinit světového lídra v tomto odvětví, a proto je třeba jej prosazovat po celém světě prostřednictvím spolupráce se všemi mezinárodními partnery, přičemž je třeba pokračovat také v kritickém a na etických zásadách založeném dialogu se třetími zeměmi, které mají alternativní modely řízení a normy v oblasti umělé inteligence;

50.

konstatuje, že čínská vláda podepsala normy a dohody o spolupráci s 52 zeměmi v rámci své iniciativy Jedno pásmo, jedna cesta; varuje, že vzhledem k tomu, že některé z těchto norem, včetně norem týkajících se technologií umělé inteligence, a zejména pokud jde o vládní dohled a individuální svobody, nejsou v souladu s lidskými právy a hodnotami EU, představují aktivity Číny v oblasti norem pro EU výzvu;

51.

zdůrazňuje, že technologie umělé inteligence, zejména ty, které nebyly koncipovány a vyvíjeny za pomoci explicitních kontrolních postupů a které jsou používány nesprávně a bez dohledu ve vojenských velitelských štábech nebo v zařízeních pro odpalování raket, s sebou nesou obzvláště významná rizika a mohly by eskalovat automatický vzájemný konflikt;

52.

konstatuje, že nasazení systémů umělé inteligence ve vývoji v oblasti obrany se považuje za přelomovou změnu ve vojenských operacích díky analýze údajů, schopnosti odrážet větší složitost situace, potenciálu zlepšit přesnost cílů, optimalizovat logistiku a zapojit se do ozbrojených konfliktů s menším rizikem fyzické újmy pro civilní obyvatelstvo a vlastní vojenský personál, jakož i díky využívání údajů k rozvoji způsobů činnosti, jako je simulace boje; varuje však, že by to mohlo vést ke snížení prahu pro použití síly, a tím k většímu počtu konfliktů; připomíná, že stroje nemohou přijímat rozhodnutí jako lidé, kteří se rozhodují na základě právní zásady rozlišování mezi civilními a vojenskými cíli a zásady proporcionality a obezřetnosti; připomíná, že lidé by měli mít kontrolu nad rozhodnutím rozmísťovat a používat zbraně a nést odpovědnost za použití smrtící síly a za rozhodnutí týkající se života a smrti; je toho názoru, že zbraňové systémy založené na umělé inteligenci by měly podléhat globálním normám a mezinárodnímu etickému kodexu chování s cílem podpořit zavádění technologií umělé inteligence ve vojenských operacích, a to při plném dodržování mezinárodního humanitárního práva a právních předpisů v oblasti lidských práv a v souladu s právem a hodnotami Unie;

53.

je znepokojen vojenským výzkumem a vývojem technologií v oblasti smrtících autonomních zbraňových systémů bez smysluplné lidské kontroly, které probíhají v některých zemích; poznamenává, že tyto smrtící autonomní zbraňové systémy jsou ve vojenských konfliktech používány již nyní; připomíná, že Parlament opakovaně vyzýval k mezinárodnímu zákazu vývoje, výroby a používání smrtících autonomních zbraňových systémů a k zahájení účinných jednání o jejich zákazu; zdůrazňuje, že systémy umělé inteligence nesmí za žádných okolností nahradit lidské rozhodování, jehož součástí jsou právní zásady rozlišování, přiměřenosti a prevence;

54.

konstatuje zejména, že technologie umělé inteligence s sebou může nést potenciální rizika jako prostředek pro vedení různých forem hybridní války a zahraničního vměšování; upřesňuje, že ji lze například využít k vyvolání dezinformací, a to využíváním botů nebo falešných účtů na sociálních médiích, ke zneužití vzájemné závislosti jako zbraně shromažďováním cenných informací nebo znemožněním přístupu protivníků k síti, k narušování hospodářských a finančních systémů jiných zemí, ke znečišťování politické diskuse a upřednostňování extremistických skupin nebo k manipulaci s volbami s cílem destabilizovat demokracie;

55.

poukazuje na to, že technologie umělé inteligence by rovněž mohly zahrnovat malware využívající umělou inteligenci, krádeže identity, kontaminace dat nebo jiné formy nepřátelského strojového učení, které v jiných systémech umělé inteligence způsobí chybný výklad vstupních údajů; poukazuje zejména na nárůst počtu tzv. deepfakes, které nejsou nutně kybernetickými útoky, ale vyvolávají pochybnosti o pravosti veškerého digitálního obsahu, včetně videosnímků, a proto je třeba jim věnovat zvláštní pozornost, pokud jde o požadavky na transparentnost; varuje, že tzv. deepfakes mohou přispět k obecné atmosféře nedůvěry veřejnosti vůči umělé inteligenci a k hlubší sociálně-politické polarizaci v našich společnostech;

56.

domnívá se, že používání systémů umělé inteligence ve značném množství hlavní kritické infrastruktury, jako jsou energetické a dopravní sítě, kosmické odvětví, potravinový řetězec, bankovní a finanční infrastruktura a nemocniční zařízení, vytvořilo nová zranitelná místa, která vyžadují důkladná opatření v oblasti kybernetické bezpečnosti, aby se předešlo hrozbám; v tomto ohledu upozorňuje na význam spolupráce a sdílení informací a opatření na úrovni EU i členských států; zdůrazňuje, že je důležité posilovat odolnost kritických subjektů vůči hybridním hrozbám;

57.

varuje, že schopnosti umělé inteligence mohou rovněž představovat bezpečnostní rizika, neboť lidé mohou v důsledku toho důvěřovat umělé inteligenci více než svému vlastnímu úsudku; konstatuje, že zapojení lidského prvku jako nápravného mechanismu není ve všech případech proveditelné; konstatuje, že experimenty ukázaly, že umělá inteligence tak může získat vyšší míru samostatnosti, než odpovídá podpůrné úloze, pro kterou byla původně navržena, a to znamená, že se lidé se připravují o příležitosti získávat zkušenosti se systémy umělé inteligence a zlepšovat v tomto oboru své dovednosti a znalosti; zdůrazňuje proto, že vysoce rizikové systémy umělé inteligence vyžadují bezpečnost již od návrhu a smysluplný lidský dohled založený na vhodné odborné přípravě, jakož i přiměřené záruky bezpečnosti a ochrany soukromí, aby bylo možné toto automatizační zkreslení překonat;

58.

zdůrazňuje však, že umělá inteligence může být použita k předvídání výpadků elektrického proudu a zjišťování potřeb v oblasti údržby s větší přesností; také upřesňuje, že může být použita k syntéze velkého množství dat prostřednictvím automatizované extrakce informací nebo automatizované klasifikace informací a k odhalování určitých specifických vzorců; zdůrazňuje, že tyto funkce by umožnily lépe předvídat a posuzovat míru ohrožení a zranitelná místa systému, urychlit rozhodovací procesy, zlepšit reaktivitu a účinněji zabezpečit koncová zařízení;

59.

zdůrazňuje zejména potenciál, který by donucovacím orgánům umožnil identifikovat trestnou činnost a bojovat proti ní za pomoci technologie umělé inteligence; zdůrazňuje, že tyto postupy v oblasti prosazování práva související s umělou inteligencí však vyžadují plné dodržování základních práv, přísný demokratický dohled, stanovení jasných pravidel transparentnosti, silnou infrastrukturu IT, lidský dohled, vysoce kvalifikované zaměstnance a přístup k relevantním a kvalitním údajů;

d) Umělá inteligence a hospodářská soutěž

60.

konstatuje, že v blízké budoucnosti bude stále více produktů a služeb v rámci celého hodnotového řetězce propojeno, přičemž umělá inteligence a automatizace budou hrát důležitou úlohu v mnoha výrobních procesech, operacích a obchodních modelech; zdůrazňuje mimořádný význam základního výzkumu pro rozvoj průmyslových ekosystémů umělé inteligence, jakož i značných investic na podporu digitální veřejné správy a modernizace digitální infrastruktury;

61.

konstatuje, že navzdory výraznému nárůstu rizikového kapitálu a dalšího financování v rané fázi, k němuž došlo v posledních dvou letech, mnoho evropských průmyslových odvětví zaostává a současný objem prostředků financování v EU je stále nedostatečný a měl by se podstatně navýšit, aby se vyrovnal dynamice předních ekosystémů umělé inteligence, např. v Silicon Valley i jinde; podtrhuje zvláštní strukturu inovačního ekosystému EU tvořenou klastry a sítěmi na rozdíl od centralizovaných (a státem podporovaných) inovačních ekosystémů;

62.

zdůrazňuje, že umělá inteligence může zásadním způsobem změnit konkurenceschopnost průmyslu EU a má potenciál zvýšit produktivitu, urychlit inovace, zlepšit výrobní procesy a pomoci monitorovat odolnost evropských dodavatelských řetězců;

63.

poukazuje na riziko narušení dodavatelských řetězců v důsledku hospodářského oddělení či katastrofických událostí, jako jsou pandemie nebo jevy spojené se změnou klimatu; zdůrazňuje, že využívání umělé inteligence může přispět k odhalení vzorců narušení dodavatelských řetězců a poskytnout informace pro prediktivní údržbu, což by mohlo podpořit diverzifikaci dodavatelů;

64.

konstatuje, že společnosti, které iniciovaly digitální převrat, díky tomu často získaly významné podíly na trhu; konstatuje, že podle nedávných studií se tento trend pravděpodobně zopakuje s ještě větší intenzitou, neboť společnosti, které zavádějí umělou inteligenci, často shromažďují velké množství dat, což jim zpravidla přináší konkurenční výhodu; je znepokojen riziky koncentrace trhu, která z toho vyplývají, na úkor malých a středních podniků a začínajících podniků;

65.

zdůrazňuje, že tento výhled je velmi znepokojivý, protože největší zavedené technologické společnosti, které budou mít zároveň dominantní postavení v oblasti technologií umělé inteligence, kontrolují přístup na trh a získávají pro sebe většinu vytvářené hodnoty; zdůrazňuje, že data, která jsou hnací silou odvětví umělé inteligence, shromažďují v naprosté většině tytéž velké technologické společnosti, které uživatelům nabízejí přístup ke službám výměnou za data a sledování cílených reklam, a že stávající dominantní postavení těchto společností na trhu se pravděpodobně samo o sobě stane faktorem, který jejich dominantní postavení na trhu ještě posílí; poukazuje na to, že řada z těchto technologických společností se nachází mimo EU, avšak dokáží si přivlastnit hodnotu vytvořenou údaji o evropských zákaznících, a získat tak konkurenční výhodu;

66.

vítá nedávné sdělení Komise, které vyzývá k aktualizaci pravidel hospodářské soutěže tak, aby obstála v digitálním věku (29), a zdůrazňuje klíčovou úlohu opatření ex ante, včetně budoucího aktu o digitálních trzích, v boji proti koncentraci dříve, než dojde k jejímu vzniku; zdůrazňuje dále úlohu, kterou při řešení této otázky může sehrát normalizace a spolupráce v oblasti regulace tím, že usnadní celosvětový vývoj produktů a služeb bez ohledu na jejich fyzické umístění;

67.

zdůrazňuje, že ústřední úlohu při zavádění technologií umělé inteligence hrají v EU malé a střední podniky a začínající podniky, protože představují většinu všech společností a jsou kriticky významným zdrojem inovací; poznamenává však, že slibné začínající podniky v oblasti umělé inteligence čelí značným překážkám při rozšiřování své činnosti v Evropě v důsledku neúplného jednotného digitálního trhu a rozdílů v regulaci v mnoha členských státech nebo jsou v případě rozšíření své činnosti odkoupeny velkými technologickými společnostmi; vyjadřuje politování nad tím, že malé a střední podniky často čelí nedostatku finančních prostředků, složitým administrativním postupům, nedostatku odpovídajících dovedností a špatnému přístupu k informacím; konstatuje, že orgány EU pro hospodářskou soutěž v minulosti ve většině případů povolily převzetí evropských společností vyvíjejících činnost v oblasti umělé inteligence a robotiky zahraničními subjekty;

68.

zdůrazňuje, že intenzivní využívání algoritmů, např. pro stanovování cen, by se rovněž mohlo stát zdrojem zcela nových problémů v rámci jednotného trhu, úzce souvisejících právě s UI; konstatuje, že pro antimonopolní orgány by například mohlo být obtížné prokázat koluzi v oblasti stanovování cen mezi systémy, které by ke stanovování cen využívaly UI; dále dodává, že několik málo poskytovatelů UI, kteří se již účastní obchodování na burze, by mohlo představovat systémové riziko pro finanční trhy, a to i prostřednictvím koluze; zdůrazňuje, že algoritmická koluze může být velmi obtížně identifikovatelná, neboť systémy založené na UI nemusí mezi sebou komunikovat způsobem, jakým za účelem koluze mezi sebou komunikují lidé, což může znemožnit prokázání úmyslu uchýlit se ke koluzi; zdůrazňuje riziko, které to představuje pro stabilitu trhu, a potřebu, aby orgány EU a vnitrostátní orgány pro hospodářskou soutěž vypracovaly vhodné strategie a nástroje; dále zdůrazňuje systémové riziko pro finanční trhy vyplývající z rozsáhlého využívání algoritmických obchodních modelů a systémů bez jakékoli lidské interakce, které v minulosti výrazně zesílily pohyby na trhu a pravděpodobně tak v budoucnu učiní znovu;

69.

konstatuje, že mnoho společností zabývajících se v EU umělou inteligencí naráží v současné době na právní nejistotu ohledně možnosti bezpečného vývoje vlastních produktů a služeb, a to v důsledku byrokratických překážek, překrývání mezi stávajícími právními předpisy pro toto odvětví a neexistence zavedených standardů a norem UI;

70.

zdůrazňuje, že společnosti čelí v oblasti UI výzvě, pokud jde o kontrolu kvality a ochranu spotřebitele; dochází k závěru, že transparentnost a důvěryhodnost jsou předpokladem k zajištění konkurenční výhody společností EU, neboť tato hlediska budou v budoucnu rozhodovat o tom, zda určitý výrobek nebo služba najde nakonec své místo na trhu;

71.

konstatuje, že ačkoli 26 % vysoce hodnotných výzkumných publikací o UI pochází z Evropy, pouze čtyři z třiceti nejlepších žadatelů (13 %) a 7 % podniků, které se na celém světě zabývají patentováním UI, jsou evropské;

72.

domnívá se, že právní předpisy EU v oblasti duševního vlastnictví vyžadují harmonizaci a jasné a transparentní prosazování a vyvážený, vymahatelný a předvídatelný rámec, který by evropským podnikům, zejména malým a středním podnikům a začínajícím podnikům, umožňoval zajistit ochranu duševního vlastnictví;

73.

je znepokojen tím, že malé a střední podniky využívají ochranu duševního vlastnictví v malé míře, jelikož si nejsou plně vědomy svých práv a nemají dostatek zdrojů na jejich vymáhání; zdůrazňuje význam informací a statistik o ochraně duševního vlastnictví mezi malými a středními podniky působícími v odvětvích vyžadujících vysokou úroveň znalostí a vítá úsilí, včetně zjednodušených registračních postupů a nižších správních poplatků, s cílem poskytnout malým a středním podnikům a začínajícím podnikům lepší znalosti a usnadnit jim přístup k ochraně duševního vlastnictví; konstatuje, že s cílem pomoci společnostem v EU chránit jejich práva duševního vlastnictví v oblasti UI by mělo být posíleno postavení EU jako tvůrce celosvětových norem; zdůrazňuje, že mezinárodní konkurenceschopnost a přitažlivost vycházejí ze silného a odolného jednotného trhu, a to i pokud jde o ochranu a vymáhání práv duševního vlastnictví;

74.

konstatuje, že analýza dat, jakož i přístup k neosobním údajům a jejich sdílení a opakované použití, jsou již dnes zásadní pro mnoho produktů a služeb založených na využívání dat, ale budou důležité pro vývoj a zavádění vznikajících systémů UI; zdůrazňuje nicméně, že většina neosobních údajů generovaných v EU zůstává dosud nevyužita a že jednotný trh s daty je stále ještě ve stádiu vznikání;

75.

poukazuje na to, že je důležité usnadnit přístup k datům a sdílení dat a otevřeným normám a technologiím s otevřeným zdrojovým kódem jako způsob, jak posílit investice a podpořit inovace v oblasti technologií umělé inteligence v EU; poukazuje konkrétně na to, že pro vývojáře UI by byla užitečná lepší harmonizace výkladů vnitrostátních orgánů pro ochranu údajů a pokynů týkajících se smíšených souborů údajů a metod anonymizace;

76.

zdůrazňuje úlohu, kterou může UI hrát při podpoře donucovacích opatření ze strany evropských a vnitrostátních orgánů, zejména v oblasti cel a dozoru nad trhem; je toho názoru, že prostřednictvím UI lze zvýšit účinnost a nákladovou efektivnost obchodu a celních postupů tím, že se zvýší dodržování předpisů a zajistí se, aby na jednotný trh vstupovaly pouze bezpečné výrobky; poukazuje na příklad systému kanadské agentury pro posuzování a správu příjmů (CARM), který značně zjednodušuje dovozní a vývozní postupy za použití kvalifikovaného posouzení rizik UI a efektivnější digitalizované správy informací, které snižují potřebu zdlouhavých kontrol;

e) UI a trh práce

77.

konstatuje, že UI stále více ovlivňuje trh práce, pracoviště a sociální oblast a že dopady technologických změn na práci a zaměstnanost jsou mnohostranné; zdůrazňuje, že využívání UI v této oblasti vede k řadě etických a právních problémů a výzev v oblasti zaměstnanosti; je znepokojen tím, že pokud jde o trh práce, mohla by digitalizace vést k reorganizaci pracovní síly a k možnému zániku některých odvětví zaměstnanosti; domnívá se, že přijetí UI ve spojení s nezbytnou podpůrnou infrastrukturou, vzděláváním a odbornou přípravou by mohlo zvýšit kapitál a pracovní produktivitu, inovace, udržitelný růst a tvorbu pracovních míst;

78.

zdůrazňuje, že ačkoli UI může nahradit některé úkoly, včetně rutinních, těžkých, namáhavých nebo nebezpečných úkolů, mohla by rovněž pomoci zlepšit dovednosti, zvýšit kvalitu práce a vytvořit nová, hodnotnější pracovní místa a ponechat více času na motivaci a kariérní rozvoj; zdůrazňuje, že UI již v současné době nahrazuje nebo doplňuje člověka v určitých dílčích úkolech, ale že významné souhrnné důsledky UI pro trh práce nejsou dosud zjistitelné (30); zdůrazňuje nicméně, že pokud UI zvýší množství vysoce kvalifikovaných povolání a nahradí profese s nízkou kvalifikací, může vést ke zvýšení příjmové nerovnosti; dodává, že veškeré hospodářské a sociální důsledky, které z toho vyplývají, je třeba zmírnit vhodnými opatřeními, výzkumem a prozíravostí a připravit se na ně investováním do rekvalifikace a zvyšování kvalifikace pracovní síly se zaměřením na nedostatečně zastoupené skupiny, jako jsou ženy a menšiny, kterých se tato transformace pravděpodobně dotkne nejvíce, a podporou rozmanitosti ve všech fázích vývoje systémů UI; je znepokojen tím, že by UI mohla produkovat procesy ztráty kvalifikace a vytvářet a začleňovat špatně placenou, málo autonomní práci a rozšiřovat atypickou, flexibilní (nebo „zakázkovou“) práci; zdůrazňuje, že algoritmické řízení by mohlo vést k nerovnováze moci mezi vedením a zaměstnanci a k nejasnosti rozhodování;

79.

zdůrazňuje, že zavádění UI je příležitostí k podpoře významných kulturních změn v rámci organizací, včetně zvýšení bezpečnosti na pracovišti, zlepšení rovnováhy mezi pracovním a soukromým životem, poskytnutí práva odpojit se a zlepšení příležitostí k efektivní odborné přípravě a poradenství pro zaměstnance; v tomto ohledu poukazuje na doporučení OECD, v nichž se zdůrazňuje, že automatizace by mohla rovněž vést ke snížení pracovní doby, a tím zlepšit životní podmínky a zdraví pracovníků; je toho názoru, že aplikace UI rozšiřující lidský potenciál by mohly rovněž vytvářet nové pracovní příležitosti, zejména pro osoby, které v důsledku svého omezení (zdravotní postižení nebo životní podmínky) mohly dosud vykonávat pouze méně kvalifikovanou práci; zdůrazňuje, že je třeba využívat pomoc v oblasti UI na pracovišti s cílem poskytnout lidem čas na zlepšení kvality jejich výstupů namísto pouhého zvyšování pracovní zátěže;

80.

odsuzuje zvýšené sledování osob za využití UI na pracovišti, k němuž často dochází bez vědomí pracovníků, natož s jejich souhlasem, zejména v souvislosti s prací z domova; trvá na tom, že tato praxe by neměla být povolena, neboť je v naprostém rozporu se základním právem na soukromí, ochranou údajů a lidskou důstojností pracovníka a se sociálními a pracovními právy a má rovněž negativní dopad na duševní zdraví pracovníků z důvodu značné míry zásahu do soukromí, plošného nebo nerozlišujícího účinku a chybějících záruk pro dotčené osoby;

81.

je znepokojen tím, že podobné riziko dohledu ze strany umělé inteligence existuje i ve školním prostředí, neboť systémy umělé inteligence jsou ve školách stále častěji přijímány, což oslabuje základní práva dětí; konstatuje, že důsledky UI pro soukromí, bezpečnost a ochranu dětí dosahují širokého spektra, od výhod spojených se schopností porozumět hrozbám, jimž děti čelí, s větší specifičností a přesností, až po rizika spojená s nezamýšleným porušováním soukromí; zdůrazňuje, že pozitivní i negativní důsledky pro soukromí, bezpečnost a ochranu dětí vyžadují pečlivé posouzení a odpovídající záruky; dále zdůrazňuje, že zvláštní pozornost dětem je třeba věnovat při vývoji systémů UI s cílem zaručit jim ochranu vzhledem k jejich obzvláště citlivé povaze a specifické zranitelnosti;

82.

zdůrazňuje, že je nanejvýš důležité poskytnout jednotlivcům ve všech fázích života komplexní programy rozvoje dovedností s cílem umožnit jim zůstat produktivní na neustále se vyvíjejícím pracovišti a zabránit jejich vyloučení z trhu práce; domnívá se, že zásadní význam má adaptace pracovní síly formou vzdělávání, celoživotního učení a rekvalifikace v oblasti UI; zdůrazňuje, že stávající koncepce učení a práce jsou stále do značné míry definovány předdigitálním světem, což přispívá k prohlubování rozdílů v dovednostech a k nové digitální propasti mezi občany, kteří nemají přístup k zabezpečenému digitálnímu prostoru; zdůrazňuje, že zvyšování digitální gramotnosti přispívá k dosažení cílů udržitelného rozvoje OSN, zejména cílů v oblasti vzdělávání, lidského kapitálu a infrastruktury; zdůrazňuje, že v důsledku krize COVID-19 došlo k nabytí znalostí o nových formách práce a učení a že je třeba se těmito přínosy dále zabývat;

83.

zdůrazňuje, že v zájmu plného využití výhod digitalizace musí Unie zajistit, aby byl každý digitálně gramotný a měl digitální dovednosti; je přesvědčen, že digitální gramotnost je předpokladem pro to, aby občané umělé inteligenci důvěřovali a byli si vědomi jejích dopadů; zdůrazňuje, že je důležité začlenit základní odbornou přípravu v oblasti digitálních dovedností a UI do vnitrostátních vzdělávacích systémů; domnívá se, že zavádění a rozvoj technologie UI v oblasti menšinových jazyků by mohlo vést k posílení jejich znalostí a používání; zdůrazňuje, že více než 70 % podniků hlásí nedostatek zaměstnanců s odpovídajícími digitálními dovednostmi a dovednostmi v oblasti UI a označuje to za překážku pro investice; je znepokojen tím, že od roku 2019 bylo v EU 7,8 milionu odborníků na IKT s předchozím ročním tempem růstu 4,2 %, což je mnohem méně než 20 milionů odborníků, kteří jsou podle prognózy Komise zapotřebí v klíčových oblastech, jako je datová analýza;

84.

je znepokojen velkým nepoměrem žen a mužů v této oblasti, kdy na šest odborníků v oboru IKT a na tři absolventy oborů přírodních věd, technologií, inženýrství a matematiky (STEM) připadá pouze jedna žena (31); se znepokojením konstatuje, že rozdíly mezi ženami a muži přetrvávají zejména v oblasti začínajících podniků, kde v roce 2019 bylo 92 USD z každých 100 USD investovaných do evropských technologických společností poskytnuto zakládajícím týmům složeným výhradně z mužů; doporučuje iniciativy zaměřené na podporu žen v oborech STEM s cílem odstranit celkový nedostatek dovedností v tomto odvětví; zdůrazňuje, že tento nedostatek nevyhnutelně vede k neobjektivním algoritmům; zdůrazňuje, že je důležité posílit postavení dívek a motivovat je ke studiu oborů STEM a odstranit rozdíly mezi ženami a muži v této oblasti;

f) UI a budoucnost demokracie

85.

konstatuje, že UI může na jedné straně pomoci při budování transparentnějšího a efektivnějšího veřejného sektoru, ale na druhé straně je technický vývoj v oblasti UI, často založený na logice růstu a zisků, velmi rychlý a dynamický, v důsledku čehož je pro tvůrce politiky obtížné dostatečně porozumět tomu, jak nové aplikace UI fungují a jaké výsledky mohou přinést, ačkoli mají povinnost poskytnout rámec, který zajistí, aby UI byla v souladu se základními právy a mohla být využívána ve prospěch společnosti; zdůrazňuje, že odborné prognózy budoucího dopadu UI se rovněž liší, což naznačuje, že je obtížné i pro ně předvídat výsledky zavádění nových technologií UI; zdůrazňuje proto, že tato nejistota vyžaduje, aby zákonodárci při regulaci UI řádně zohledňovali zásadu předběžné opatrnosti; domnívá se, že je zásadně důležité vést konzultace s odborníky s různými odbornými znalostmi a z různých prostředí, aby bylo možné vytvořit spolehlivé a funkční právní předpisy, které obstojí i v budoucnu; varuje před právní nejistotou, která může být jednou z největších překážek inovací; v této souvislosti konstatuje, že je důležité podporovat gramotnost občanů v oblasti UI, včetně zvolených zástupců a vnitrostátních orgánů;

86.

varuje, že legislativní cykly jsou proto často neslučitelné s tempem technologického pokroku, což tvůrce politik nutí, aby se to snažili dohnat a upřednostňovat regulaci případů použití, které jsou již na trhu; poukazuje na to, že řádnému regulačnímu přístupu k UI musí předcházet vyčerpávající analýza proporcionality a nezbytnosti, aby nedocházelo k omezování inovací a konkurenceschopnosti podniků EU;

87.

zdůrazňuje, že využívání UI k získávání biometrických údajů by mohlo být jak rušivé a škodlivé, tak i prospěšné pro jednotlivce i pro širokou veřejnost;

88.

se znepokojením konstatuje, že tyto technologie UI vyvolávají zásadní etické a právní otázky; konstatuje, že určité technologie UI umožňují automatizaci zpracování informací v bezprecedentním měřítku, což otevírá cestu k hromadnému sledování a dalšímu nezákonným zásahům a představuje riziko pro základní práva, zejména právo na soukromí a ochranu údajů;

89.

zdůrazňuje, že řada autoritářských režimů používá systémy UI ke kontrole, hromadnému sledování, špehování, monitorování a klasifikaci svých občanů a omezování jejich svobody pohybu; zdůrazňuje, že jakákoli forma normativního hodnocení občanů veřejnými orgány, zejména v oblasti prosazování práva, správy hranic a soudnictví, stejně jako jeho použití ze strany soukromých společností nebo jedinců vede ke ztrátě autonomie a soukromí, přináší rizika diskriminace a není v souladu s evropskými hodnotami; připomíná, že na technologie, jako je kybernetický dohled a biometrické rozpoznávání, které lze k těmto účelům použít, se vztahuje nařízení EU o kontrole vývozu; je mimořádně znepokojen a odsuzuje případy, kdy společnosti z EU prodávají autoritářským režimům ve třetích zemích biometrické systémy, jejichž používání by bylo v EU nezákonné;

90.

konstatuje, že dominantní technologické platformy mají v současnosti nejen značnou kontrolu nad přístupem k informacím a jejich šířením, ale využívají také technologie UI, které jim umožňují získávat větší množství informací o totožnosti a chování dané osoby a znalostí o historii jejího rozhodování; domnívá se, že takové profilování představuje riziko pro demokratické systémy i pro ochranu základních práv a autonomii občanů; zdůrazňuje, že to vytváří nerovnováhu sil a představuje systémová rizika, která by mohla mít dopad na demokracii;

91.

poukazuje na to, že digitální platformy mohou, a to i prostřednictvím tržních aplikací založených na UI, být využívány k zahraničním zásahům a k šíření dezinformací a technologií „deepfake“ a fungují jako sítě propagandy, trollování a obtěžování s cílem narušovat volební procesy; zdůrazňuje, že strojové učení umožňuje zejména cílené využívání osobních údajů k manipulaci nic netušících voličů tím, že vytváří personalizované a přesvědčivé zprávy; zdůrazňuje význam přísných povinností týkajících se transparentnosti, které jsou účinně prosazovány;

92.

zdůrazňuje nicméně, že UI lze rovněž využívat k omezování protidemokratických a neetických aktivit na platformách a k zastavení šíření falešných zpráv a nenávistných výroků, i když zkoušky její schopnosti porozumět obsahu specifickému pro daný kontext prozatím ukazují omezené výsledky; je znepokojen tím, že projevy vedoucí k rozdělování společnosti mohou vést ke zvyšování pozornosti uživatelů, a jejich odstranění by tak bylo v přímém rozporu s obchodním modelem těchto platforem, který je založen na stupňování pozornosti uživatelů; je toho názoru, že řešení využívající UI musí být před jejich konečným použitím založena na plném dodržování svobody projevu a přesvědčení a na přesvědčivých důkazech v jejich prospěch;

93.

zdůrazňuje, že předpojatost ve fungování systémů UI, zejména pokud jde o systémy hlubokého učení, je často důsledkem nedostatku různorodých a kvalitních nácvikových a testovacích údajů, jako je tomu například tehdy, když se používají datové soubory, které v dostatečné míře nevypovídají o zranitelných skupinách, nebo když je předpojaté už samotné vymezení úkolů či nastavení požadavků; konstatuje, že předpojatost může být dána i nedostatečnou rozmanitostí v týmech vývojářů, které opakují vnitřní předpojatost, omezeným objemem nácvikových a testovacích údajů nebo předpojatostí vývojáře UI, který vytvořil nevyhovující algoritmus; poukazuje na to, že odůvodněná diferenciace bývá někdy také záměrná, aby se za určitých okolností učenlivost UI zlepšila;

94.

zdůrazňuje, že strukturální předsudky existující v naší společnosti by neměly být opakovány nebo dokonce zvyšovány prostřednictvím nekvalitních datových souborů; má tím na mysli, že algoritmy se učí být stejně diskriminační jako data, s nimiž pracují, a v důsledku nekvalitních nácvikových dat nebo předpojatostí a diskriminace, které vypozorují ve společnosti, pak mohou navrhovat rozhodnutí, která jsou nutně diskriminační, což zhoršuje diskriminaci ve společnosti; konstatuje však, že předpojatost UI lze občas opravit; dochází k závěru, že je proto nezbytné uplatňovat technické prostředky a zavést různé kontrolní vrstvy systémů UI, včetně softwaru, algoritmů a dat, které používají a produkují, aby se toto riziko minimalizovalo; zastává názor, že UI může a měla by být využívána k omezení předpojatosti a diskriminace a k podpoře rovných práv a pozitivní společenské změny v našich společnostech, a to i prostřednictvím normativních požadavků na datové soubory používané k výcviku systémů umělé inteligence; zdůrazňuje, že jedním z nejúčinnějších způsobů, jak omezit předpojatost v systémech umělé inteligence, je zajistit, aby bylo v rámci možností podle práva Unie k dispozici maximální množství neosobních údajů pro účely nácviku a strojového učení;

g)	Závěry, které jsou společné pro všech šest případových studií

95.

konstatuje, že s přijetím technologií UI jsou spojeny jasné společenské přínosy a příležitosti, které lze využít pouze tehdy, budou-li v EU řešeny průřezové překážky, a to v souladu se základními právy, hodnotami a právními předpisy; konstatuje, že překážky bránící úspěšnému uplatňování UI ve všech analyzovaných oblastech lze spatřovat zejména v překrývání právních předpisů, roztříštěnosti trhu, byrokratických překážkách, nedostatku dostupné digitální infrastruktury a digitálních dovedností v širší společnosti a nedostatečných investicích do výzkumu a vývoje;

96.

z prošetřovaných případových studií dále vyvozuje, že existují určité případy použití, které jsou rizikové nebo škodlivé, ale že se nemusí nutně jednat o specifické technologie UI samotné, ale o jejich oblasti použití; uznává, že budoucí regulace musí řešit oprávněné obavy týkající se těchto rizik, aby se technologie UI mohly v EU široce uplatňovat;

97.

konstatuje, že jakkoli je důležité zkoumat a kategorizovat možná rizika, která s sebou nese UI, případové studie svědčí o tom, že technologie UI nám mohou poskytnout účinná protiopatření, která jsou schopna tato rizika zmírnit nebo jim zcela zamezit; zdůrazňuje, že vzhledem k tomu, že UI je v širším kontextu vznikajících technologií stále v počátečních fázích svého vývoje, její plný potenciál a rizika nejsou jistá; poukazuje na to, že je třeba se zabývat nejen riziky pro jednotlivce, ale také širšími společenskými škodami a nehmotnými individuálními škodami; zdůrazňuje významnou nerovnováhu tržní síly na trzích s daty a přilehlé ekonomice UI; zdůrazňuje, že spravedlivá hospodářská soutěž a odstranění překážek, které začínajícím podnikům a malým a středním podnikům brání v hospodářské soutěži, mají zásadní význam pro spravedlivé rozdělení potenciálních přínosů UI z hospodářského a společenského hlediska, které jsou v EU i v celosvětovém měřítku zřejmě značné;

3. Postavení EU v celosvětové soutěži na poli UI

98.

bere na vědomí tvrdou globální konkurenci v oblasti UI, v níž EU dosud nesplnila své ambice; v následujících částech se snaží zhodnotit globální konkurenceschopnost EU na poli UI na základě srovnání s konkurenceschopností Číny a USA, přičemž se zaměřuje na tři klíčové body: regulační přístup, postavení na trhu a investice; uznává však, že nadnárodní trhy a korporace nelze snadno vymezit přes hranice států, neboť většina technologických společností má zákazníky, akcionáře, zaměstnance a dodavatele v mnoha různých zemích;

a) Regulační přístup

99.

konstatuje, že USA dosud nezavedly horizontální právní předpisy v digitální oblasti a zatím se zaměřují na odvětvové právní předpisy a usnadňování investic, a to i prostřednictvím daňových opatření týkajících se inovací v soukromém sektoru, zejména u svých technologických gigantů a předních univerzit; konstatuje, že navzdory nedávnému vývoji, který ukazuje na aktivnější úlohu tvorby politik, přístup USA dosud většinou odrážel zaměření na poskytování právního poradenství podnikům, investice do výzkumných projektů a odstraňování vnímaných překážek bránících inovacím;

100.

zdůrazňuje, že zákon o americké iniciativě pro UI z roku 2019 přinesl mírnou změnu v přístupu, jelikož kromě přesměrování financování, rekvalifikace pracovníků a posílení digitální infrastruktury vláda USA oznámila vypracování společných norem pro důvěryhodnou UI; konstatuje však, že výsledných 10 zásad bylo formulováno velmi obecně, tak aby každá vládní agentura mohla stanovit zvláštní odvětvové předpisy; očekává, že ačkoli stávající vláda USA plánuje předložit v roce 2022 nový zákon o právech, který má omezit škody způsobené UI, přístup USA bude i nadále vycházet z potřeb trhu;

101.

upozorňuje na to, že čínský prezident Si Ťin-pching již v roce 2013 zdůraznil význam technologií v geopolitice, úlohu veřejných politik při vymezování dlouhodobých cílů a skutečnost, že technologie UI nabízí příležitost znovu prokázat svou vojenskou sílu; dále zdůrazňuje, že v návaznosti na to čínská vláda v roce 2015 předložila plán „Made in China 2025“ a v roce 2017 plán rozvoje UI nové generace, přičemž cílem obou těchto plánů je to, aby se Čína stala do roku 2030 v oblasti UI světovým lídrem; konstatuje, že v čínské bílé knize o normalizaci v oblasti UI z roku 2018 bylo následně nastíněno, jak může socialistické tržní hospodářství vytvářet mezinárodní normy a jak se může strategicky zapojit do činnosti mezinárodních normalizačních organizací; bere na vědomí zavedení pravidel pro doporučovací systémy a etického kodexu pro UI v Číně;

102.

konstatuje, že na celosvětové úrovni Čína aktivně podporuje mezinárodní partnerství v oblasti UI jako způsob, jak vyvážet své vlastní metody dohledu založené na UI, systém sociálního hodnocení a cenzurní strategie; zdůrazňuje, že k šíření čínského vlivu a její technologie UI po celém světě jsou využívány rovněž značné investice v zahraničí v rámci iniciativy Digitální hedvábná stezka, což by mohlo mít vedle zavádění technologických norem nebo zachování technologické konkurenceschopnosti dalekosáhlé důsledky; dochází k závěru, že přístup čínské vlády je proto založen na zavádění UI v samotné Číně, ale i na vývozu technologií UI na základě předem určených norem, jež jsou v souladu s ideologií čínské vlády;

103.

konstatuje, že Komise zahájila svou činnost v oblasti regulace umělé inteligence v roce 2018 zveřejněním evropské strategie pro umělou inteligenci, zřízením expertní skupiny na vysoké úrovni a zavedením koordinovaného plánu (32) na podporu evropské UI („AI made in Europe“); konstatuje, že bílá kniha o umělé inteligenci z roku 2020 navrhla řadu opatření a možností politiky s ohledem na budoucí regulaci UI a nakonec vyústila v horizontální akt o UI (33), který byl představen společně s revidovaným koordinovaným plánem pro UI (34) v květnu 2021; poukazuje na to, že v červnu 2021 zveřejnilo 20 členských států vnitrostátní strategie v oblasti UI, zatímco plány dalších sedmi členských států jsou nyní v závěrečných přípravných fázích jejich přijetí;

104.

zdůrazňuje, že základem regulačního přístupu EU je velká pozornost věnovaná vytvoření evropského digitálního jednotného trhu a etickým otázkám v souladu se základními hodnotami v oblasti lidských práv a demokratickými zásadami; uznává, že vytvoření prvního světového regulačního rámce pro UI by mohlo poskytnout EU moc a výhodu „prvního tahu“ při stanovování mezinárodních norem pro UI, které budou založeny na základních právech a úspěšném vývozu „důvěryhodné UI“ zaměřené na člověka do celého světa; zdůrazňuje, že tento přístup je třeba podpořit regulační koordinací a sbližováním s mezinárodními partnery;

b) Situace na trhu

105.

je si vědom toho, že v celosvětovém měřítku má mnoho ze 100 předních společností působících v oblasti UI sídlo v USA a že jen málo jich sídlí v EU; konstatuje, že USA rovněž vedou v celkovém počtu začínajících podniků v oblasti UI;

106.

poukazuje na to, že v posledních letech byly některé evropské digitální společnosti odkoupeny technologickými giganty z USA; vítá ambici Komise řešit akvizice, které mohou mít významný dopad na účinnou hospodářskou soutěž na digitálním trhu, a omezit „smrtící společnosti“; poukazuje nicméně na to, že akvizice může být v některých případech hlavním cílem začínajících tvůrců a jejich investorů, což je jedna z legitimních metod, jak těžit z jejich myšlenek;

107.

zdůrazňuje, že zatímco USA a Čína se snaží využívání technologií UI ve veřejném i soukromém sektoru urychlit, EU je se zaváděním UI pozadu; konstatuje, že v roce 2020 využívalo technologie UI pouze 7 % unijních společností s nejméně 10 zaměstnanci, přičemž mezi členskými státy i mezi různými podnikatelskými odvětvími existují značné rozdíly;

108.

je znepokojen tím, že zatímco USA a Čína mají jednotný digitální trh s uceleným souborem pravidel, jednotný digitální trh EU ještě není dokončen a přetrvávají na něm neopodstatněné překážky; zdůrazňuje, že vývoj produktů a služeb UI by mohl být dále zpomalen probíhající prací na 27 různých vnitrostátních strategiích pro UI;

109.

poukazuje rovněž na skutečnost, že rozporuplnosti v právních předpisech EU, překrývání jednotlivých legislativních iniciativ, rozpory mezi právními předpisy EU a vnitrostátními právními předpisy, rozdíly v právních výkladech a nedůsledné prosazování práva v jednotlivých členských státech brání vytvoření spravedlivých podmínek a mohou pro evropské podniky vytvořit právní nejistotu, jelikož pro ně může být obtížné určit, zda jsou jejich inovace v oblasti UI v souladu s právem EU;

110.

konstatuje, že roztříštěnost trhu pro společnosti zabývající se UI je dále zhoršována nedostatkem společných standardů a norem v některých odvětvích, včetně interoperability údajů; vyjadřuje politování nad regulačním rizikem vyplývajícím ze zpoždění právních předpisů, jako je nařízení o soukromí a elektronických komunikacích; jako příklad uvádí skutečnost, že vývojáři UI v EU se kvůli nedokončenému evropskému digitálnímu jednotnému trhu potýkají s problémem ohledně dat, který jejich americké ani čínské protějšky neznají; konstatuje, že mnohdy nemají dostatek kvalitních dat, na kterých by mohli své algoritmy vycvičit a testovat, a zápasí s nedostatkem odvětvových datových prostor a meziodvětvové interoperability, ale i s omezeními týkajícími se přeshraničních datových toků;

c) Investice

111.

konstatuje, že evropské společnosti a vlády investují do technologií UI mnohem méně než USA nebo Čína; poukazuje na to, že ačkoli soukromé investice do odvětví UI v EU výrazně rostou, EU nadále investuje do UI výrazně méně než jiné přední regiony s tím, že USA a Čína se na ročních kapitálových investicích do UI a technologii blockchain ve výši 25 miliard EUR podílejí více než 80 %, zatímco podíl EU činí pouze 7 %, tj. přibližně 1,75 miliardy EUR; zdůrazňuje, že likvidita finančních trhů EU pro technologické společnosti nadále postrádá rozsah srovnatelných trhů v USA; konstatuje, že USA zaujímají vedoucí postavení také v oblasti financování rizikového kapitálu a soukromého kapitálu, což je obzvláště důležité pro začínající podniky, které se zabývají UI, protože zatímco v USA šlo v roce 2019 o částku 12,6 miliardy EUR, v Číně se jednalo o 4,9 miliardy EUR a v EU 2,8 miliardy EUR; konstatuje, že v důsledku toho evropští podnikatelé v oblasti UI odchází na druhou stranu Atlantiku a své podnikání rozvíjí ve větším měřítku v USA;

112.

uvádí, že při započtení vnitrostátních iniciativ jsou odhadované roční veřejné investice EU do UI ve výši 1 miliardy EUR (35) mnohem nižší než v USA, kde se ročně investuje 5,1 miliardy EUR, a v Číně, kde je to až 6,8 miliardy EUR (36); konstatuje však, že mezi lety 2017 a 2020 se veřejné financování EU určené na výzkum a inovace v oblasti UI zvýšilo o 70 % ve srovnání s předchozím obdobím a že v roce 2019 investovala EU do UI 7,9 až 9 miliard EUR, což bylo o 39 % více než v předchozím roce; uznává a vítá, že Komise plánuje dále zvýšit investice prostřednictvím programů Digitální Evropa, Horizont Evropa a InvestEU, evropských strukturálních a investičních fondů, Evropského investičního fondu, Nástroje pro propojení Evropy v oblasti telekomunikací a různých programů politiky soudržnosti, což bude dále doplněno a podpořeno cílem výdajů na digitální transformaci ve výši nejméně 20 %, jak bylo dohodnuto Komisí a členskými státy v rámci Nástroje pro oživení a odolnost; nicméně poukazuje na nedávnou zprávu Evropské investiční banky, která vyčísluje investiční mezeru v oblasti technologií UI a technologie blockchain v EU na 5–10 miliard EUR ročně;

113.

zdůrazňuje, že společnosti zabývající se v EU umělou inteligencí čelí tvrdé konkurenci z hlediska kvalifikovaných zaměstnanců, což ztěžuje skutečnost, že 42 % obyvatel EU postrádá základní digitální dovednosti; zdůrazňuje, že je třeba proškolit a přilákat podstatně vyšší počet příslušně vzdělaných absolventů, včetně žen, k práci v digitálním odvětví;

114.

konstatuje, že ačkoli má EU vynikající společenství výzkumných pracovníků v oblasti UI, zůstává i nadále problémem odliv mozků; zdůrazňuje, že jsou zapotřebí opatření, která by přilákala přední výzkumné pracovníky; konstatuje, že EU vynaložila v roce 2020 na výzkum a vývoj pouze 2,32 % svého HDP, zatímco USA vydávaly 3,08 %; připomíná, že členské státy musí dodržovat svůj závazek investovat 3 % svého HDP do výzkumu a vývoje, aby byla zajištěna strategická autonomie Unie v digitální oblasti;

115.

konstatuje, že digitální infrastrukturu EU je třeba výrazně aktualizovat, neboť k síti 5G se v EU může připojit pouze 25 % obyvatel oproti 76 % obyvatel USA; konstatuje, že EU postrádá dostatečnou vysoce výkonnou digitální infrastrukturu s interoperabilními datovými prostory, vysokou přenosovou rychlostí a objemovou kapacitou, spolehlivým fungováním a krátkými zpožděními; zdůrazňuje, že je třeba podporovat evropské ekosystémy UI s klastry excelence;

d) Závěr

116.

dospívá k závěru, že celkovým lídrem v oblasti UI jsou nadále USA, které vedou v mnoha kategoriích s tím, že společnosti se sídlem v USA jsou napřed ve vývoji technologií v oblastech, jako je cloud computing a vysoce výkonná výpočetní kapacita, ale také pokud jde o investice, přilákání talentů v oblasti UI, výzkum a infrastrukturu; zdůrazňuje však, že Čína, která ještě před pár lety za USA ve všech ukazatelích stále výrazně zaostávala, je rychle dohání; uznává, že obě země mají výhodu uceleného jednotného trhu a silnějšího odhodlání udržet si vedoucí postavení v oblasti UI;

117.

zdůrazňuje, že navzdory silnému postavení EU v oblasti průmyslového softwaru a robotiky aktéři EU v mnoha kategoriích stále zaostávají za svými protějšky z USA a Číny; zdůrazňuje, že EU by měla vypracovat ambiciózní plán pro evropskou umělou inteligenci zaměřenou na člověka; konstatuje však, že EU je napřed v oblasti regulačních přístupů; poukazuje na to, že životaschopná strategie EU pro zvýšení konkurenceschopnosti v oblasti UI se musí zaměřovat na výzkum a inovace, dovednosti, infrastrukturu a investice a zároveň se snažit o vytvoření do budoucna orientovaného, horizontálního a k inovacím vstřícného regulačního rámce pro vývoj a využívání UI a zajistit dodržování základních práv občanů EU a zásad právního státu;

118.

zdůrazňuje, že brexit měl negativní dopad na úsilí EU o posílení její globální stopy UI, neboť Spojené království bylo jednou z předních zemí EU v této oblasti; zdůrazňuje však, že by Spojené království mělo zůstat cenným partnerem EU, který posílí konkurenceschopnost obou partnerů a podpoří společné regulační výhledy při stanovování celosvětových norem;

119.

dochází k závěru, že EU v současné době ještě zdaleka nedosáhla svého cíle stát se konkurenceschopnou v oblasti UI na celosvětové úrovni a mohla by v některých kategoriích ještě více zaostávat; trvá na tom, že rychlé kroky v souvislosti s níže uvedeným plánem EU pro UI představují příležitost ke změně této situace;

120.

poznamenává, že vzhledem k tomu, že EU nemá legislativní pravomoc, která by jí umožňovala zabývat se všemi body uvedenými v plánu EU pro UI, zvláštní výbor doporučuje pokračovat v rozhovorech a politických procesech na vysoké úrovni mezi orgány EU a členskými státy s cílem prosadit harmonizovanější přístup k UI a pomoci členským státům koordinovat jejich úsilí; v tomto ohledu odkazuje na lisabonskou agendu EU z roku 2000, která se navzdory kritice po dobu 20 let výrazně podílela na určování politické orientace EU a udržování reformního tlaku na členské státy;

4. „Evropa připravená na digitální věk“ – Plán pro získání globálního vedoucího postavení

a) Příznivé regulační prostředí

i. TVORBA PRÁVNÍCH PŘEDPISŮ

121.

vyzývá Komisi, aby pro nové právní předpisy týkající se digitální oblasti, například pokud jde o UI, navrhovala pouze legislativní akty v podobě nařízení, protože jednotný digitální trh musí projít procesem skutečné harmonizace; je přesvědčen, že vzhledem k rychlému technologickému rozvoji by právní předpisy v digitální oblasti měly být vždy flexibilní, založené na zásadách, technologicky neutrální, schopné obstát i v budoucnu a přiměřené a tam, kde je to vhodné, uplatňovat přístup založený na posouzení rizik, který bude založen na dodržování základních práv a zabrání zbytečné další administrativní zátěži pro malé a střední podniky, začínající podniky, akademickou obec a výzkum; zdůrazňuje rovněž, že důležitá je vysoká míra právní jistoty, a že všechny právní texty by proto měly obsahovat spolehlivá, praktická a jednoznačná kritéria použitelnosti, definice a povinnosti, pokud jde o prodej, používání a vývoj technologií UI;

122.

je přesvědčen, že klíčovým prvkem pro úspěch strategie EU v oblasti umělé inteligence je program zlepšování právní úpravy; zdůrazňuje, že před navržením nových legislativních aktů je třeba se zaměřit na mechanismy přezkumu, přizpůsobení, provádění a prosazování již existujících právních předpisů;

123.

vyzývá Komisi, aby před vydáním nových digitálních návrhů v oblastech, jako je umělá inteligence, prováděla hloubková posouzení dopadu ex ante s odpovídajícím výhledem a analýzou rizik; zdůrazňuje, že v těchto posouzeních dopadu by měla Komise systematicky mapovat a hodnotit platné právní předpisy v dané oblasti, aby nedocházelo k překrývání či konfliktům norem;

124.

doporučuje, aby nové předpisy v digitálních oblastech, jako je UI, byly vždy spojeny s propagací evropských norem vytvořených zúčastněnými stranami; je toho názoru, že EU by měla usilovat o to, aby nedocházelo k roztříštěnosti různých norem, a soudí, že mezinárodní normy jsou sice užitečným vodítkem, nicméně EU by měla přednostně vyvíjet normy vlastní; zdůrazňuje, že tyto normy by měly být výsledkem spravedlivé soutěže o nejlepší normy v EU, na něž by Unie a normalizační organizace EU měly reagovat; konstatuje, že technické normy a konstrukční postupy by pak mohly být kombinovány se systémy označování, což by mohl být způsob, jak poskytovat důvěryhodné služby a produkty; poukazuje na úlohu normalizačních organizací EU při vypracovávání nejmodernějších technických norem; vyzývá Komisi, aby urychlila vydávání normalizačních pověření evropským normalizačním organizacím v souladu s nařízením Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci (37);

125.

vysvětluje, že otevřená certifikační platforma by rovněž mohla vytvořit prostředím důvěry, které by zahrnovalo vlády, občanskou společnost, podnikovou sféru a další zúčastněné strany;

126.

žádá, aby Parlament, Komise a Rada zlepšily svou schopnost řešit spory o vnitřní pravomoci, pokud jde o zastřešující témata, jako je umělá inteligence, neboť takové spory by mohly zpomalit legislativní postup a negativně promítnout do toho, kdy dané právní předpisy vstoupí v platnost;

ii. SPRÁVA A PROSAZOVÁNÍ

127.

požaduje, aby legislativa v oblasti UI byla v celé Unii jednotně koordinována, prováděna a prosazována;

128.

vysvětluje, že slibnou metodou řízení jsou konzultační fóra zúčastněných stran, jako je sbor pro datové inovace, který má být zřízen aktem o správě dat, nebo Evropská aliance pro umělou inteligenci, která zahrnuje partnerství soukromého a veřejného sektoru, jako je Evropská aliance pro průmyslová data, edge a cloud; konstatuje, že tento přístup umožňuje ekosystému umělé inteligence EU uvést do praxe její zásady, hodnoty a cíle a odrážet společenské zájmy na úrovni softwarového kódu;

129.

zdůrazňuje, že tzv. pacing problem (kdy se technologie vyvíjejí rychleji než jejich regulace) vyžaduje, abychom se zaměřili zvláště na účinné provádění ex post, které je úkolem soudů a regulačních agentur, a na přístupy ex ante, které řeší právní problémy způsobené novými technologiemi; doporučuje proto, aby se využívala tzv. regulační pískoviště, která by vývojářům UI poskytla jedinečnou možnost k tomu, aby mohli rychle a flexibilně provádět kontrolované experimenty pod dohledem příslušných orgánů; konstatuje, že tato regulační pískoviště by fungovala jako experimentálními prostory, v nichž by systémy UI a nové obchodní modely mohly být před vstupem na trh testovány v reálných podmínkách v kontrolovaném prostředí;

iii. PRÁVNÍ RÁMEC PRO UMĚLOU INTELIGENCI

130.

zdůrazňuje, že základním cílem digitální strategie EU a strategie pro umělou inteligenci je vytvořit v digitalizovaném světě „evropskou cestu“; konstatuje, že tento přístup by se měl orientovat na člověka, měl by být důvěryhodný, měl by se řídit etickými zásady a měl by vycházet z koncepce sociálně tržního hospodářství; zdůrazňuje, že ústředním bodem veškerých legislativních úvah by měl vždy být jednotlivec a ochrana jeho základních práv;

131.

souhlasí se závěrem, který Komise učinila ve své bílé knize o umělé inteligenci z roku 2020, totiž že je třeba vytvořit právní rámec pro umělou inteligenci založený na hodnocení rizik, který by zahrnoval jednak přísné etické normy založené na transparentnosti a kontrole a jednak předpisy o bezpečnosti výrobků, příslušná pravidla odpovědnosti a odvětvové předpisy a který by současně poskytoval dostatečnou flexibilitu a právní jistotu podnikům a uživatelům a zaručoval rovné tržní podmínky podporující používání UI a inovace v této oblasti;

132.

poukazuje na to, že cennou inspirací pro definici umělé inteligence v právních předpisech by mohly být pojmy, terminologie a normy vypracované OECD; zdůrazňuje, že tím by EU získala výhodu při formování budoucího mezinárodního systému řízení UI;

133.

je přesvědčen, že ne vždy platí, že regulována by měla být umělá inteligence jako technologie – naopak rozsah regulačního zásahu by měl být úměrný typu rizik pro jednotlivce nebo společnost, který je spojen s užíváním konkrétního systému UI; v této souvislosti zdůrazňuje, že je důležité rozlišovat mezi způsoby použití UI s vysokým rizikem a s nízkým rizikem; dospívá k závěru, že první kategorie vyžaduje další přísné legislativní záruky, zatímco u „nízkorizikového“ použití mohou v mnoha případech postačovat požadavky na transparentnost pro koncové uživatele a spotřebitele;

134.

upřesňuje, že klasifikace systémů UI jako „vysoce rizikových“ by měla vycházet z jejich konkrétního použití a kontextu, povahy, pravděpodobnosti, závažnosti a potenciální nevratnosti újmy týkající se základních práv a zdravotních a bezpečnostních pravidel, jak jsou stanovena v právu Unie; zdůrazňuje, že tato klasifikace by měla být doprovázena pokyny a podporou výměny osvědčených postupů pro vývojáře UI; zdůrazňuje, že musí být vždy respektováno právo na soukromí a že vývojáři UI by měli zaručit, že budou plně dodržována pravidla ochrany údajů;

135.

zdůrazňuje, že umělá inteligence, u níž je pravděpodobné, že bude komunikovat s dětmi nebo je jinak ovlivňovat, musí zohledňovat jejich práva a zranitelnost a že koncepce i výchozí nastavení těchto systémů musí být v souladu s nejvyššími dostupnými normami bezpečnosti a ochrany soukromí;

136.

konstatuje, že systémy UI fungují jinak v prostředí mezipodnikových vztahů (B2B) a v prostředí vztahů mezi podniky a spotřebiteli (B2C); poukazuje na to, že je nutné, aby práva spotřebitelů byla chráněna prostřednictvím právních předpisů na ochranu spotřebitele; zdůrazňuje, že ačkoli podniky mají možnost řešit problémy odpovědnosti a jiné právní problémy přímo, rychle a bez vysokých nákladů smlouvami, které uzavírají se svými obchodními partnery, někdy může být potřeba přijímat právní předpisy na ochranu menších podniků, kterým hrozí, že se stanou obětí zneužívání tržní síly dominantními subjekty prostřednictvím „lock-in“ efektu v obchodní nebo technologické oblasti, překážkami vstupu na trh nebo problémy spojenými s informační asymetrií; zdůrazňuje, že je rovněž nezbytné, aby malé a střední podniky a začínající podniky investující do technologií UI nebyly nadměrně zatěžovány příliš složitými legislativními požadavky, což by je znevýhodnilo ve srovnání s většími společnostmi, které mají zdroje na to, aby provozovali velká právní oddělení a útvary zabývající se dodržováním předpisů;

137.

zdůrazňuje, že k dosud nevyřešeným etickým otázkám, které vyvstávají v důsledku nových technologických možností vyplývajících z prodeje a používání aplikací umělé inteligence, je třeba přistupovat principiálním způsobem, který by mohl zahrnovat i zásadu neškodnosti, princip respektování lidské důstojnosti a základních práv nebo ochranu demokratického procesu; konstatuje, že dalšími důležitými prvky při utváření ekonomiky umělé inteligence jsou osvědčené postupy v oblasti vývoje UI, jako je umělá inteligence zaměřená na člověka, odpovědná správa a zásady transparentnosti a vysvětlitelnosti, jakož i zásady udržitelné umělé inteligence, které by byly plně v souladu s Agendou OSN pro udržitelný rozvoj 2030;

138.

uznává, že není vždy možné, aby byly algoritmy umělé inteligence zcela „zbaveny předsudků“, neboť ideálního cíle, kterým jsou údaje bez chyb, je velmi obtížné nebo téměř nemožné dosáhnout; konstatuje, že v reálném provozu mohou systémy umělé inteligence navzdory tomu, že byly řádně testovány, vést k neobjektivním výsledkům, pokud jsou použity v prostředí, jehož parametry se liší od původních trénovacích a testovacích dat; zdůrazňuje, že EU by měla usilovat o zlepšení transparentnosti datových souborů a algoritmů, velmi úzce spolupracovat s vývojáři UI s cílem vyvážit, omezovat strukturální společenské předsudky a zvážit povinná pravidla náležité péče v oblasti lidských práv v rané fázi vývoje;

139.

domnívá se, že přiměřené povinnosti týkající se transparentnosti a vysvětlitelnosti systémů UI mohou být sice v mnohých případech užitečné, ale nemusí být vždy proveditelné; konstatuje, že práva duševního vlastnictví a obchodní tajemství musí být chráněna před nelegálními postupy, jako je průmyslová špionáž;

140.

konstatuje, že legislativní rámec ochrany duševního vlastnictví musí i nadále motivovat a chránit inovátory v oblasti UI formou patentů zajišťujících odměnu za vývoj a zveřejnění jejich výtvorů; konstatuje, že stávající právní předpisy jsou většinou formulovány tak, aby obstály i v budoucnu, navrhuje však určité úpravy, jako je vložení ustanovení o otevřeném zdrojovém kódu a o tom, že by ve vhodných případech byla ve výběrových řízením stanovena povinnost používat UI řešení s otevřeným kódem; navrhuje nové formy udělování patentových licencí, které zajistí, že regiony budou mít k dispozici nástroje a iniciativy, které by si jinak nemohly dovolit;

141.

domnívá se, že pro zajištění bezpečnosti a důvěryhodnosti systémů umělé inteligence na trhu by mohlo být užitečné stanovit povinnost předběžného vlastního hodnocení rizik na základě jednoznačných pravidel a norem a dále posouzení dopadu na ochranu údajů, doplněné o posouzení shody prováděné třetí stranou s příslušným a vhodným označením CE a s následným prosazováním prostřednictvím dozoru nad trhem; je přesvědčen, že pokud nemá dojít k vytlačení MSP z trhu, měly by normy a pokyny týkající se souladu s právními předpisy o UI týkajícími se UI vznikat v úzké spolupráci s malými podniky, měly by být v co největší možné míře harmonizovány na mezinárodní úrovni a měly by být k dispozici bezplatně;

142.

konstatuje, že v zájmu zvýšení bezpečnosti výrobků a spolehlivějšího odhalování závad by měli mít vývojáři pracující na vysoce rizikové UI povinnost bezpečně uchovávat a zpřístupňovat protokolů algoritmické činnosti; domnívá se, že v příslušných případech by vývojáři měli koncipovat vysoce rizikové systémy UI tak, aby v nich byly zabudovány mechanismy, které lidské obsluze umožní okamžitě, rychle a bezpečně zastavit automatickou činnost („tlačítko stop“), a aby součástí celého procesu byl lidský prvek; domnívá se, že výstupy a rozhodovací procesy systémů umělé inteligence by měly být vždy srozumitelné pro člověka;

143.

uvědomuje si, že systémy UI vyvolávají řadu právních otázek a že je nutné uvažovat o revizi určitých částí současných pravidel pro odpovědnost; s zájmem proto očekává legislativní návrh Komise o odpovědnosti za umělou inteligenci; zdůrazňuje, že směrnice o odpovědnosti za výrobky (38) a vnitrostátní režimy subjektivní odpovědnosti mohou v zásadě zůstat jádrem právní úpravy, která by měla chránit před většinou škod způsobenými umělou inteligencí; zdůrazňuje, že v některých případech by mohlo docházet k nežádoucím výsledkům, upozorňuje však na to, že při revizi bude nutné v každém případě zohlednit stávající právní předpisy a vycházet z jednoznačně zjištěných nedostatků, přičemž novelizovaná právní úprava by měla být schopna obstát dlouhodobě a mělo by být možné ji účinně provádět a zajišťovat ochranu jednotlivců v EU;

144.

zdůrazňuje, že pokud jde o chápání rizik, neměla by právní úprava stanovovat stejný rozsah osobní odpovědnosti u dětí jako u dospělých;

145.

konstatuje, že lze uvažovat o určitých změnách v právní definici „výrobku“ (včetně integrovaných softwarových aplikací, digitálních služeb a meziproduktové závislosti) a v definici „výrobce“ (včetně provozovatele backendových služeb, poskytovatele služeb a poskytovatele údajů), aby bylo za škody způsobené těmito technologiemi možné obdržet náhradu; zdůrazňuje však, že je třeba se vyvarovat toho, aby definice „výrobku“ byla příliš široká nebo příliš úzká;

146.

poukazuje na to, že vzhledem k charakteristikám systémů umělé inteligence – tedy jejich složitosti, konektivitě, neprůhlednosti, zranitelnosti, proměnlivosti v důsledku aktualizací, schopnosti autonomního učení a autonomního rozhodování a velkému počtu subjektů zapojených do jejich vývoje, zavádění a používání – je velmi obtížně zajistit, aby unijní a vnitrostátní právní úpravy odpovědnosti byly skutečně účinné; domnívá se proto, že ačkoli evropské a vnitrostátní režimy odpovědnosti fungují dobře a není nutné je celkově přepracovávat, určité konkrétní a koordinované úpravy jsou nezbytné, má-li se zamezit tomu, aby osoby, které utrpěly újmu nebo jejichž majetek je poškozen, zůstávaly bez náhrady; upřesňuje, že zatímco na vysoce rizikové systémy UI by se měly vztahovat právní předpisy o objektivní odpovědnosti ve spojení s povinným pojistným krytím, ostatní činnosti, zařízení nebo procesy řízené systémy UI, by měly – pokud způsobí škodu nebo nemajetkovou újmu – i nadále podléhat odpovědnosti subjektivní; domnívá se, že v zájmu poškozené osoby by měla nicméně platit presumpce zavinění provozovatelem, ledaže provozovatel může doložit, že splnil požadavky náležité péče;

iv. PROBLEMATIKA OCHRANY ÚDAJŮ V EU

147.

bere na vědomí závěry, které učinila Komise ve svém sdělení z roku 2020 „Evropská strategie pro data“ a Parlament ve svém usnesení ze dne 25. března 2021 na stejné téma, v nichž se uvádí, že vytvoření jednotného evropského datového prostoru doprovázené rozvojem odvětvových datových prostorů a zaměření na společné normy má klíčový význam pro zajištění rychlé škálovatelnosti řešení v oblasti umělé inteligence v EU i mimo ni, jakož i pro zajištění otevřené strategické autonomie a hospodářské prosperity EU; připomíná, že mezi dostupností vysoce kvalitních dat a rozvojem UI aplikací existuje těsná spojitost; v této souvislosti zdůrazňuje, že je třeba v rámci EU zavést spolehlivé, spolehlivé a interoperabilní cloudové služby a řešení využívající decentralizovanou analýzu dat a hraniční architekturu; vyzývá Komisi, aby vyjasnila práva držitelů společně vytvořených neosobních údajů na přístup k těmto údajům, jejich využívání a sdílení; zdůrazňuje, že přístup k údajům musí být technicky možný, a to i prostřednictvím interoperabilních standardizovaných rozhraní a interoperabilního softwaru; zdůrazňuje, že překážky bránící sdílení údajů způsobují pokles inovací a hospodářské soutěže a rozvoj oligopolních tržních struktur, u nichž hrozí, že vytvoří pro aplikace UI trvalý příbuzný trh (adjacent market);

148.

poukazuje na to, že klíčový význam má otevření datových sil a podpora přístupu badatelů a podniků v oblasti UI k datům, jak je uvedeno v usnesení EP o evropské strategii v oblasti dat; zdůrazňuje, že nerovnováha na trhu způsobená tím, že soukromé společnosti rostoucí měrou omezují přístup k datům, zvyšuje překážky pro vstup na trh a brání širšímu přístupu k datům a jejich užívání, což dopadá zejména na startupy a badatele, kteří potřebují získat licence na data, aby mohli trénovat své algoritmy; zdůrazňuje, že je třeba zajistit požadovanou právní jistotu a interoperabilní technickou infrastrukturu a zároveň motivovat držitele dat v Evropě, aby dali k dispozici velké množství nevyužitých údajů; soudí, že jedním z nástrojů k dosažení tohoto cíle může být dobrovolné sdílení údajů mezi podniky na základě vyvážených smluvních ujednání; konstatuje však, že z důvodu rozdílů ve vyjednávací síle nebo v odborných znalostech smluvní ujednání B2B nutně nezaručují odpovídající přístup MSP k údajům; zdůrazňuje, že trhy s otevřenými daty usnadňují sdílení dat, neboť pomáhají společnostem a výzkumným pracovníkům v oblasti umělé inteligence získávat nebo udělovat licence na data od těch subjektů, které chtějí na těchto trzích data zpřístupnit, tj. data zahrnující datové katalogy a umožňující držitelům dat a uživatelům vyjednávat o transakcích v oblasti sdílení dat; vítá v této souvislosti pravidla pro interoperabilní služby zprostředkování dat, kterou poskytuje akt o správě dat;

149.

vítá iniciativy evropské cloudové federace, jako je Evropská aliance pro průmyslová data, edge a cloud a projekt GAIA-X, jejichž cílem je rozvíjet sjednocenou datovou infrastrukturu a vytvořit ekosystém, který umožní škálovatelnost, interoperabilitu a sebeurčení poskytovatelů údajů; konstatuje, že soubor pravidel EU v oblasti cloud computingu, který je kompilací stávajících právních předpisů a samoregulačních iniciativ, by rovněž pomohl převést společné zásady a hodnoty EU do proveditelných procesů a kontrol pro odborníky z praxe;

150.

doporučuje, aby byla dále zvyšována interoperabilita údajů a aby byly zavedeny společné normy s cílem usnadnit tok dat mezi různými počítačovými systémy a subjekty, zvýšit sdílení údajů mezi zeměmi a odvětvími a umožnit rozsáhlé vytváření vysoce kvalitních datových souborů; konstatuje, že při snaze o rychlejší sdílení dat může hrát důležitou úlohu i podpora otevřených standardů, softwaru s otevřeným zdrojovým kódem, licencí Creative Commons a otevřených API; zdůrazňuje, že pro usnadňování volného pohybu dat v evropské ekonomice založené na datech jsou důležité také společné evropské datové prostory;

151.

vyzývá Komisi a členské státy, aby zaručily důslednější dodržování spravedlivých smluvních podmínek v rámci pravidel hospodářské soutěže s cílem řešit nerovnováhy v tržní síle, aniž by byla neodůvodněně narušena smluvní svoboda, a dále je žádá, aby antitrustovým orgánů poskytly prostředky a zdrojů k tomu, aby mohly čelit tendencím k datové koncentraci; zdůrazňuje, že evropské datové prostory by společnostem umožnily užší vzájemnou spolupráci, a proto se domnívá, že podniky potřebují lepší pokyny a více právní jasnosti, pokud jde o právo hospodářské soutěže a spolupráci v oblasti sdílení a sdílení údajů; zdůrazňuje, že spolupráce v oblasti dat, mimo jiné pro účely trénování aplikací umělé inteligence nebo v odvětví internetu věcí, nesmí za žádných okolností usnadňovat vytváření kartelů ani vytvářet překážky pro nové účastníky na trhu; zdůrazňuje, že je důležité vyjasnit smluvní práva vývojářů umělé inteligence a společností, které přispívají k vytváření dat prostřednictvím algoritmů nebo zařízení připojených k internetu věcí, a zejména práva na přístup k údajům a přenositelnost údajů, práva vyzvat jiný subjekt, aby přestal používat určité údaje, a práva na opravu či vymazání dat;

152.

vyzývá členské státy, aby ve vztahu k údajům uchovávaným státem urychleně provedly směrnici o otevřených datech (39) a řádně uplatňovaly akt o správě dat a aby v ideálním případě bezplatně zpřístupňovaly datové soubory s vysokou hodnotou a poskytovaly je ve strojově čitelných formátech a interoperabilních rozhraních pro programování API; zdůrazňuje, že tato iniciativa by snížila náklady veřejných orgánů na šíření a opakované použití jejich údajů a pomohla by výzkumným pracovníkům a společnostem v EU výrazně zlepšit jejich digitální technologie v oblastech, jako je umělá inteligence;

153.

vyzývá k jednotnému uplatňování GDPR v celé EU cestou účinného a rychlého uplatnění mechanismu jednotnosti a sladěním rozdílných vnitrostátních různých vnitrostátních výkladů této právní úpravy; soudí, že orgány pro ochranu údajů potřebují lepší prostředky pro výkon svých pravomocí, mimo jiné technické a odborné znalosti;

154.

bere na vědomí praktické pokyny k zpracování smíšených datových souborů, které Komise vydala v roce 2019; poukazuje na to, že vzhledem nejistotě ohledně toho, zda jsou údaje dostatečně anonymizovány, je pro výzkumné pracovníky a společnosti zabývající se umělou inteligencí často nejlepší možností datové soubory nesdílet;

155.

domnívá se, že stanovisko 05/2014 pracovní skupiny pro ochranu údajů zřízené podle článku 29 ze dne 10. dubna 2014 o technikách anonymizace představuje užitečný přehled, který by mohl být dále rozvíjen; vyzývá Evropský sbor pro ochranu údajů (EDPB), aby přijal pokyny vycházející z konkrétních možností použití a relevantní situací pro různé typy správců a zpracovatelů údajů a pro různé situace zpracování, včetně kontrolního seznamu se všemi požadavky, které musí být splněny, aby údaje byly dostatečně anonymizovány; konstatuje však, že techniky anonymizace nejsou v současné době schopny zaručit plnou a úplnou ochranu soukromí, jak ukazují pokusy, v nichž moderní systémy umělé inteligence dokáží osobu znovu identifikovat;

156.

žádá EDPB, aby vydal více pokynů pro výzkumné pracovníky a společnosti v oblastech, jako je umělá inteligence, pokud jde o to, jak účinně zpracovávat osobní údaje mimo EU způsobem, který by byl v souladu s GDPR;

157.

navrhuje proto, aby bylo financováno více výzkumu v oblasti standardizace metody „soukromí již od návrhu“ a aby byla podporována kryptografická řešení a strojové učení, které chrání soukromí, neboť je zásadní zajistit, aby bylo možné používat vysoce kvalitní data k trénování algoritmů a plnění úkolů UI, aniž by došlo k narušení soukromí; konstatuje, že slibné jsou také datové trusty, certifikace vysoce rizikových aplikací, systémy pro správu osobních informací a používání syntetických dat;

158.

vybízí EU a její členské státy, aby využily nedávno vytvořený projekt OECD týkající se důvěryhodného přístupu státu k osobním údajům v držení soukromého sektoru jako referenční bod pro tvůrce politických opatření všude na světě ve snaze o hledání mezinárodních řešení a o sbližování právních předpisů týkajících se osvědčených postupů v této oblasti; v této souvislosti zdůrazňuje, že svobodný tok dat a metadat přes státní hranice je důležitým faktorem digitálních inovací v Evropě, ovšem musí být při něm plně dodržen unijní acquis v oblasti ochrany údajů; vyzývá proto Komisi, aby neukládala požadavky na lokalizaci údajů, pokud to není nutné z důvodu ochrany základních práva včetně ochrany údajů, s výjimkou omezených, přiměřených a řádně odůvodněných případů, kdy je taková politika v zájmu EU nebo je nezbytná pro dodržování našich vysokých evropských standardů;

159.

vyzývá Komisi, aby reagovala na rozhodnutí Soudního dvora Evropské unie, které zneplatnilo štít EU-USA na ochranu soukromí, a aby přijala veškerá opatření k tomu, aby nové rozhodnutí o odpovídající ochraně týkající se USA bylo plně v souladu s obecným nařízením o ochraně osobních údajů, Listinou základních práv Evropské unie a všemi aspekty tohoto rozsudku, a aby zároveň zjednodušila transatlantické toky údajů; vyzývá Komisi, aby pokračovala v jednáních o přiměřenosti údajů s dalšími třetími zeměmi, neboť se jedná o nejlepší způsob, jak podpořit politiku EU v oblasti ochrany soukromí a umožnit mezinárodní výměnu údajů;

b) Dokončení jednotného digitálního trhu

i. NÁRODNÍ STRATEGIE UMĚLÉ INTELIGENCE

160.

vyzývá členské státy, aby přezkoumaly své národní strategie v oblasti UI, vypracované v souladu s „koordinovaným plánem pro umělou inteligenci“, neboť převážná většina z nich je neurčitá a postrádá jasné cíle, a to i pokud jde o digitální vzdělávání celé společnosti a pokročilé kvalifikace specialistů; doporučuje členským státům, aby formulovaly konkrétnější, kvantifikovatelnější a specifičtější opatření a zároveň se snažily vytvářet synergie;

161.

vyzývá Komisi, aby členským státům pomohla stanovit priority a co nejvíce sladit vnitrostátní strategie v oblasti umělé inteligence a regulační prostředí s cílem zajistit jednotný postup v celé EU; poukazuje na to, že ačkoli je rozmanitost vnitrostátních přístupů dobrým způsobem, jak stanovit osvědčené postupy, vývojáři a badatelé v oblasti UI by čelili velkým překážkám, pokud by měli v každém z 27 členských států podléhat odlišným provozním parametrům a regulačním povinnostem;

ii. TRŽNÍ PŘEKÁŽKY

162.

vyzývá Komisi, aby pokračovala ve své snaze o odstraňování neodůvodněných překážek, které brání úplnému dokončení jednotného digitálního trhu, včetně územní diskriminace, neúplného vzájemného uznávání odborných kvalifikací, příliš zatěžujících postupů přístupu na trh, vysokých regulačních nákladů a nejednotných postupů posuzování shody, a aby se zabývala častým využíváním výjimek, které vedou k rozdílným pravidlům v různých členských státech; zdůrazňuje, že pro společnosti působící v přeshraničním prostředí jsou celounijní pravidla týkající se umělé inteligence na rozdíl od roztříštěného přístupu jednotlivých zemí vítaným vývojem, který pomůže podpořit vedoucí postavení Evropy ve vývoje a používání umělé inteligence;

163.

vyzývá Komisi, aby urychlila realizaci skutečné unie kapitálových trhů; zdůrazňuje, že je třeba zlepšit přístup k finančním zdrojům, zejména pro malé a střední podniky, startupy a rychle se rozvíjející podniky;

164.

zdůrazňuje, že je třeba urychleně uzavřít jednání o všech projednávaných legislativních návrzích zaměřených na dokončení jednotného digitálního trhu;

165.

vyzývá Komisi, aby zajistila důsledné prosazování pravidel jednotného trhu;

166.

konstatuje, že nový legislativní rámec by měl být pečlivě aktualizován a sladěn s digitálními produkty a službami; navrhuje, aby byl kladen důraz na modernizaci a zjednodušení postupů pro dodržování předpisů, a to cestou zavedení digitálních alternativ ke stávajícím analogovým a papírovým prostředkům, neboť tyto digitální nástroje by společnostem umožnily používat například digitální označení CE a elektronické označování nebo poskytovat bezpečnostní pokyny v digitálním formátu;

167.

vybízí Komisi, aby podporovala offline podniky, které chtějí vstoupit na internet; vybízí k dalším informačním kampaním zaměřeným na malé a střední podniky a začínající podniky s ohledem na nové a budoucí právní předpisy EU v této oblasti, jakož i k intenzivnějšímu prosazování pravidel dozoru nad trhem v zájmu zvýšení důvěry evropských spotřebitelů;

iii. ROVNÉ PODMÍNKY

168.

je přesvědčen, že je třeba reformovat stávající vnitrostátní a evropské rámce hospodářské soutěže a antimonopolní rámce, aby bylo možné lépe postihovat případy zneužívání tržní síly a algoritmické koluze v digitální ekonomice, např. pokud jde o shromažďování dat, a lépe čelit rizikům nově vznikajících monopolů, aniž by byly ohroženy inovace; vítá proto očekávané schválení aktu o digitálních trzích; žádá, aby byla zvláštní pozornost věnována potenciálním problémům v oblasti hospodářské soutěže v oblasti umělé inteligence;

169.

konstatuje, že tato reforma by měla posílit empirický přístup a více zohlednit hodnotu údajů a síťové účinky, zavést jasná pravidla pro platformy s dominantním postavením na trhu a zvýšit právní jistotu pro spolupráci v digitální ekonomice;

170.

v této souvislosti konstatuje, že Komise by měla zdokonalit své postupy pro vymezení trhů, aby bylo možné trhy definovat přesněji a v souladu s moderními tržními podmínkami v digitálním odvětví definovala trhy a přitom prováděla dynamickou analýzu a z dlouhodobého hlediska posuzovala existenci konkurenčních tlaků;

171.

vyzývá Komisi a vnitrostátní orgány pro hospodářskou soutěž, aby zvýšily své úsilí o průběžné monitorování digitálních trhů, a identifikovaly tak konkurenční omezení a překážky v oblasti hospodářské soutěže a následně častěji ukládaly nápravná opatření společnostem, které zneužívají své dominantní postavení nebo se chovají v rozporu s pravidly hospodářské soutěže;

172.

vyzývá členské státy, aby podstatně zvýšily financování a technickou kapacitu orgánů pro hospodářskou soutěž s cílem zajistit účinné a rychlé prosazování pravidel hospodářské soutěže v rychle se rozvíjející a složité digitální ekonomice; zdůrazňuje, že orgány pro hospodářskou soutěž by měly rychleji řešit případy zneužívání dominantního postavení a v případě potřeby uplatňovat předběžná opatření v zájmu zachování a rozvoje spravedlivé soutěže a současně zaručit pro podniky opravné prostředky;

c) Zelená digitální infrastruktura

i. PŘIPOJENÍ A VÝPOČETNÍ VÝKON

173.

vyzývá Komisi, aby přijala opatření, kterými uskuteční svůj plán podnítit formou pobídek 75 % evropských podniků k tomu, aby do roku 2030 začaly využívat cloud computing, big data a UI s cílem udržet si celosvětovou konkurenceschopnost a zintenzivnit činnost v oblasti klimatické neutrality s cílem dosáhnout příslušných cílů do roku 2050; domnívá se, že vyčlenění 2,07 miliardy EUR na financování digitální infrastruktury v rámci Nástroje pro propojení Evropy je nedostatečné;

174.

zdůrazňuje, že posun v objemu a zpracování údajů pro UI rovněž vyžaduje vývoj a zavádění nových technologií zpracování údajů, které budou zahrnovat i ty nejšpičkovější technologie, a že je proto nutné opustit centralizované modely infrastruktury založené na cloud computingu a směřovat k decentralizaci kapacit pro zpracování údajů; naléhavě vyzývá k posílení investic a výzkumu v oblasti distribuovaných počítačových klastrů, edge uzlů a digitálních mikrokontrolorů; konstatuje, že přechod k širokému využívání edgeových řešení může být náročnější na zdroje, neboť přínosy optimalizace sdružování se ztrácejí, a zdůrazňuje, poměr nákladů a přínosů edgeových infrastruktur z hlediska životního prostředí by měly být zkoumány na systémové úrovni v evropské strategii pro cloud computing, včetně optimalizace spotřeby energie spojené s umělou inteligencí;

175.

zdůrazňuje, že UI vyžaduje výkonný hardware, aby bylo možné používat sofistikované algoritmy, včetně vysoce výkonné a kvantové výpočetní techniky a internetu věcí; požaduje soustavné zvyšování cíleného veřejného a soukromého financování inovativních řešení ke snižování spotřeby energie, včetně softwarového ekodesignu; požaduje, aby byly na základě osvědčených postupů vypracovány normy pro měření, kolik zdrojů spotřebovává digitální infrastruktura na úrovni EU; je znepokojen celosvětovou krizí výroby mikroprocesorů a vítá proto návrh „čipového zákona“, který navrhuje Komise a jehož cílem je snížit současnou závislost EU na zahraničních dodavatelích; upozorňuje však na to, že by na trhu mohla v budoucnu vzniknout nadměrná kapacita, a doporučuje pečlivě zvážit celý investiční cyklus;

176.

zdůrazňuje, že pokud má infrastruktura pro UI dobře fungovat a být rychlá, musí jejím základem být férová a přitom bezpečná vysokorychlostní digitální konektivita, což vyžaduje, aby doku 2030 byly ve všech městských oblastech vybudovány sítě 5G, byl zaručen široký přístup k ultrarychlým širokopásmovým sítích, existovala politika přidělování rádiového spektra, která bude předvídatelná, bude podporovat dlouhodobé investice a nebude narušovat hospodářskou soutěž; vyzývá členské státy, aby pokračovaly v provádění souboru nástrojů 5G; žádá, aby v zájmu usnadnění zavádění sítí byla uvedena do praxe směrnice o snížení nákladů na širokopásmové připojení (40); vyzývá Komisi, aby provedla posouzení dopadů 5G z hlediska udržitelnosti; zdůrazňuje, že Unie by měla mít komunikační strategii, která by čelila dezinformacím o sítích 5G; poukazuje na to, že široká a inkluzivní diskuse v konečném důsledku přispěje k vytvoření důvěry mezi občany, pokud jde o opatření směřující k trvalému rozvoji mobilních sítí;

177.

vyzývá Komisi, aby stanovila harmonogramy a finanční pobídky pro členské státy, města, regiony a průmysl a aby urychlila správní postupy týkající se schvalování sítí 5G; požaduje, aby regionům, kde budování sítě 5G nezajišťuje soukromý sektor, bylo poskytnuto více finančních prostředků, aby přístup k vysokorychlostnímu připojení mohly získat také odlehlé komunity a přispělo se k překlenutí digitální propasti; vyzývá k podpoře projektů širokopásmového připojení a konektivity v rámci víceletého finančního rámce s tím, že místní orgány by k těmto veřejným prostředkům měly mít snazší přístup, aby se zabránilo jejich nedostatečnému využívání;

178.

vyzývá Komisi, aby posoudila vzájemné vazby mezi umělou inteligencí a další vlnou digitální infrastruktury, což Evropě umožní převzít vedoucí úlohu v sítích nové generace (6G);

179.

vyzývá k vypracování jasné strategie pro budování optických sítí a zavádění širokopásmového připojení ve venkovských oblastech, což je klíčové i pro technologie náročné na data, jako je UI; vyzývá v této souvislosti k tomu, aby Evropská investiční banka více podporovala projekty konektivity ve venkovských oblastech;

180.

zdůrazňuje, že pro budování sítí a jejich rychlý rozvoj v zájmu dosažení cílů Digitálního kompasu jsou zapotřebí dohody o sdílení infrastruktury, které mají rovněž klíčový význam pro podporu udržitelnosti a snižování spotřeby energie; zdůrazňuje však, že toto úsilí je stále na počátku a musí být dále rozšířeno;

ii. UDRŽITELNOST

181.

žádá EU, aby se postavila do čela snah o to, aby zelená digitální infrastruktura byla do roku 2030 klimaticky neutrální a energeticky účinná v souladu s cíli Pařížské dohody a byla začleněna do politického programu Zelené dohody pro Evropu, a to i cestou posuzování environmentálního dopadu rozsáhlého zavádění systémů UI s ohledem na zvýšení energetické potřeby vývoje a provozu těchto technologií; vyzývá ke koordinovanému a mnohostrannému globálnímu jednání, které povede k využívání UI v boji proti změně klimatu, zhoršování životního prostředí a ztrátě biologické rozmanitosti;

182.

vyzývá k využívání umělé inteligence ke sledování spotřeby energie v obcích a k vypracování opatření v oblasti energetické účinnosti;

183.

uznává povahu některých rozsáhlých aplikací umělé inteligence náročných na data a zdroje a jejich příslušné dopady na životní prostředí; připomíná, že má-li být evropská umělá inteligence udržitelná a environmentálně odpovědná, měly by být systémy umělé inteligence utvářeny, vyvíjeny a zaváděny s ohledem na dosažení ekologické transformace, klimatické neutrality a oběhového hospodářství;

184.

vyzývá Komisi, aby podněcovala využívání energeticky účinných datových center, která mohou podpořit uhlíkovou neutralitu;

185.

zdůrazňuje, že stávající nedostatečné sdílení informací ze strany datových center brání přijetí odpovídajících veřejných opatření a získání komparativního přehledu o vlivu datových center na životní prostředí; vyzývá ke značnému zvýšení počtu posouzení dopadu na životní prostředí prováděných při vývoji umělé inteligence; vyzývá k vypracování požadavků s cílem zajistit, aby byly k dispozici vhodné důkazy pro měření environmentální stopy rozsáhlých aplikací umělé inteligence; poukazuje na to, že jsou zapotřebí jasná pravidla a pokyny pro posuzování dopadů umělé inteligence na životní prostředí, a to včetně posuzování životního cyklu na základě více kritérií; požaduje otevřený přístup ke klíčovým environmentálním ukazatelům výkonnosti datových center, vypracování standardů EU a vytvoření značek EU pro zelený cloud computing;

186.

požaduje plán oběhového hospodářství pro digitální technologie a umělou inteligenci a zdůrazňuje, že EU by měla zajistit silný recyklační řetězec IKT;

187.

doporučuje podporovat využívání řešení založených na umělé inteligenci, v souladu se souběžnou ekologickou a digitální transformací ve všech odvětvích s cílem koordinovat udržitelné standardy pro podniky a umožnit monitorování energetické účinnosti a shromažďování informací o emisích a životních cyklech výrobků;

188.

vyzývá Komisi, aby zahájila výběrová řízení a mise pro řešení v oblasti umělé inteligence, která budou řešit konkrétní problémy v oblasti životního prostředí, a aby tuto složku posílila v rámci programů Horizont Evropa a Digitální Evropa; připomíná, že projekty týkající se potenciálu umělé inteligence při řešení otázek životního prostředí by měly být prováděny na základě odpovědného a etického výzkumu a inovací;

189.

vyzývá Komisi, aby vypracovala environmentální kritéria a podmínila přidělování rozpočtu EU, financování a zadávání veřejných zakázek na umělou inteligenci jejich environmentální výkonností;

190.

vyzývá Komisi, aby podporovala inteligentní města, zahrnující inteligentní budovy, inteligentní sítě, propojené automobily, platformy mobility, veřejné služby a logistiku; podporuje vytvoření společného souboru osvědčených postupů pro projekty a aplikace; zdůrazňuje, že inteligentní města vyžadují dobrou spolupráci mezi státem a místní samosprávou a také mezi jejich agenturami a soukromými subjekty;

191.

zdůrazňuje, že je třeba definovat zásady, které zajistí, aby příslušné údaje o klimatu a udržitelnosti mohly být začleněny do vytváření nových datových prostorů týkajících se udržitelnosti;

192.

vyzývá Komisi, aby spolupracovala s členskými státy a soukromým sektorem při zřizování a podpoře zkušebních zařízení, kde mohou být aplikace umělé inteligence testovány z hlediska udržitelnosti, a aby poskytovala poradenství ohledně toho, jak zlepšit environmentální stopu těchto aplikací; vybízí k přizpůsobení stávajících zkušebních zařízení tak, aby se zaměřovala na případy použití v oběhové výrobě;

193.

vyzývá Komisi, aby podporovala soudržnou udržitelnou dopravní infrastrukturu, která využívá umělou inteligenci ke zvýšení účinnosti, snížení znečištění a podpoře přizpůsobivosti potřebám uživatelů;

d) Ekosystém excelence

i. TALENTY

194.

vyzývá Komisi, aby vytvořila rámec pro individuální dovednosti v oblasti UI, který bude vycházet z rámce digitálních kompetencí, občanům, pracovníkům a podnikům poskytne relevantní možnosti odborné přípravy a učení v oblasti UI a zlepší sdílení znalostí, osvědčených postupů a zvýší mediální a datovou gramotnost mezi organizacemi a podniky na úrovni EU i jejích členských států; žádá Komisi, aby rychle vytvořila takovýto rámec kompetencí s využitím stávajících vzdělávacích programů v oblasti umělé inteligence; doporučuje, aby byl zřízen evropský prostor pro shromažďování údajů o dovednostech v oblasti UI, který by ve všech členských státech podporoval evropskou odbornou přípravu týkající se těchto dovedností na odvětvové a regionální úrovni; zdůrazňuje, že získávání a výuka digitálních dovedností a dovedností v oblasti umělé inteligence musí být přístupné všem, zejména ženám a zranitelným skupinám; naléhavě vyzývá Komisi a členské státy, aby podporovaly bezplatné online kurzy, které zlepšují základní odbornou přípravu v oblasti UI;

195.

naléhavě vyzývá k investicím do výzkumu ve snaze lépe pochopit strukturální trendy na pracovním trhu související s umělou inteligencí, včetně toho, jaké dovednosti jsou více požadované nebo v budoucnu mohou být nedostatkové, a zohlednit to v programech rekvalifikace zaměstnanců;

196.

se znepokojením bere na vědomí nedostatek cílených a systematických opatření v oblasti odborného vzdělávání dospělých; vyzývá Komisi a členské státy, aby vytvářely politiky zahrnující vhodné investice do rekvalifikace a zvyšování kvalifikace pracovní síly, a také informovaly občany o tom, jak fungují algoritmy a jaký mají dopad na jejich každodenní život; vyzývá k tomu, aby byla věnována zvláštní pozornost osobám, které přišly o práci nebo u nichž v důsledku digitální transformace hrozí, že o ni přijdou, s cílem připravit je na práci s technologiemi souvisejícími s umělou inteligencí a IKT; vyzývá Komisi, aby podněcovala mnohostranná partnerství v oblasti dovedností a investovala do nich s cílem vyzkoušet osvědčené postupy; doporučuje sledovat vytváření kvalitních pracovních míst souvisejících s umělou inteligencí v EU;

197.

zdůrazňuje, že stávající digitální propast lze odstranit pouze cílenými a inkluzivními opatřeními zaměřenými na ženy i starší osoby, a vyzývá proto k významným investicím do cílených opatření zaměřených na zvyšování kvalifikace a vzdělávání s cílem tyto digitální rozdíly odstranit; vyzývá Komisi a členské státy, aby podporovaly kulturu rovného postavení mužů a žen a pracovních podmínek v tomto ohledu;

198.

vyzývá Komisi, aby prosazovala rovnost žen a mužů ve společnostech zabývajících se činnostmi souvisejícími s umělou inteligencí a IKT, a to i prostřednictvím financování projektů vedených ženami v digitálním odvětví, a aby podporovala minimální počet výzkumných pracovnic účastnících se výběrových řízení na financování výzkumu v oblasti umělé inteligence a IKT;

199.

zdůrazňuje, že je třeba řešit nedostatek talentů zajištěním růstu, atraktivity a udržení špičkových talentů; naléhavě vyzývá Komisi, aby splnila svůj cíl, kterým je zaměstnávat v EU 20 milionů odborníků na IKT; zdůrazňuje, že má-li si EU udržet špičkové talenty v oblasti umělé inteligence a zabránit odlivu mozků, musí umožnit konkurenceschopné platy, lepší pracovní podmínky, přeshraniční spolupráci a konkurenceschopnou infrastrukturu;

200.

zdůrazňuje přidanou hodnotu zjednodušeného a racionalizovaného rámce Unie pro přilákání mezinárodních talentů v odvětví technologií s cílem umožnit tok talentů a mobilitu v rámci EU a ze zahraničí, zlepšit přístup mezinárodních talentů na trh práce Unie a přilákat velmi žádané pracovníky a studenty; zdůrazňuje, že jsou zapotřebí nové inovativní nástroje a právní předpisy, které pomohou propojit zaměstnavatele s potenciálními pracovníky v oblasti IKT, řešit nedostatky na trhu práce a usnadnit uznávání mezinárodních kvalifikací a dovedností; doporučuje, aby byl vytvořen fond talentů EU a platforma pro párování, která by sloužila jako jednotné kontaktní místo pro mezinárodní talenty, kteří se chtějí ucházet o práci v EU, a pro zaměstnavatele, kteří hledají potenciální zaměstnance v zahraničí; vyzývá Komisi, aby rozšířila rozsah působnosti modré karty EU s cílem zajistit, aby Evropa zůstala otevřená globálním talentům;

201.

vyzývá Komisi, aby řešila zvýšenou poptávku po práci na dálku přes hranice členských států s cílem umožnit zaměstnancům EU a mezinárodním pracovníkům pracovat na dálku v jiném členském státě, než ve kterém mají bydliště; v této souvislosti doporučuje komplexní přezkum legislativních a dalších překážek pro práci na dálku a jejich řešení v následných legislativních návrzích;

202.

zdůrazňuje, že je třeba posílit soudržnost inovací mezi regiony a napříč členskými státy EU, jelikož talenty nejsou rozmístěny rovnoměrně;

203.

vyzývá Komisi a členské státy, aby zajistily náležitou ochranu práv a dobrých životních podmínek pracovníků, jako je nediskriminace, soukromí, autonomie a lidská důstojnost při používání umělé inteligence a algoritmického řízení, a to i pokud jde o nevhodné postupy sledování; zdůrazňuje, že pokud se používá UI v pracovním prostředí, musí být zaměstnavatelé transparentní, pokud jde o způsob jejího použití a její vliv na pracovní podmínky, a zdůrazňuje, že pracovníci by vždy měli být informování a konzultování předtím, než se začnou používat přístroje a postupy založené na UI; poukazuje na skutečnost, že algoritmy musí mít vždy lidský dohled a že jejich rozhodnutí musí být odpovědná, napadnutelná a případně vratná; domnívá se, že je třeba podporovat odbornou přípravu vývojářů algoritmů v etických, transparentních a protidiskriminačních otázkách;

204.

vyzývá k vypracování evropské strategie pro bezpečné používání umělé inteligence, pokud jde o děti, která by měla informovat dětí o interakci s UI s cílem chránit je před riziky a potenciální újmou;

205.

žádá členské státy, aby digitální dovednosti a gramotnost začlenily do základního vzdělávání a celoživotního učení; požaduje vysoce výkonný vzdělávací systém v oblasti umělé inteligence, který podporuje digitální gramotnost, dovednosti a digitální odolnost již od raného věku, počínaje primárním vzděláváním; zdůrazňuje, že rozvoj účinných osnov digitálního vzdělávání vyžaduje politickou vůli, dostatečné zdroje a vědecký výzkum; vyzývá Komisi, aby prosazovala zavedení kurzů v oblasti umělé inteligence a výpočetních kompetencí ve všech evropských školách, univerzitách a vzdělávacích institucích; zdůrazňuje, že tento rozvoj dovedností je potřebný jak ve vzdělávání dospělých, tak v základním nebo středním vzdělávání; požaduje komplexní a důslednou politickou iniciativu Komise a členských států v oblasti dovedností a vzdělávání v oblasti umělé inteligence na úrovni EU a také legislativní iniciativu týkající se umělé inteligence na pracovišti;

206.

upozorňuje na potřebu multidisciplinárních vysokoškolských osnov zaměřených na digitální dovednosti a dovednosti v oblasti umělé inteligence, a to i v oblasti zdraví, a mezioborových výzkumných středisek; domnívá se, že by měly být rovněž zdůrazněny cesty k dalšímu vzdělávání zaměřenému na umělou inteligenci (např. magisterské a doktorandské studium a studium na částečný úvazek);

207.

vyzývá členské státy, aby upřednostňovaly rozvoj inovativních výukových metod a osnov v oblasti STEM a programování, a zejména aby zvýšily kvalitu matematické a statistické analýzy s cílem porozumět algoritmům umělé inteligence; vyzývá Komisi a členské státy, aby podporovaly akademické obory STEM s cílem zvýšit počet studentů v těchto oborech; zdůrazňuje, že pro podporu digitálních dovedností budou mít zásadní význam i další obory, které interagují s obory STEM;

208.

vybízí členské státy, aby podporovaly účast žen ve studijních oborech a profesích v oblasti STEM, IKT a umělé inteligence pro dosažení rovnosti žen a mužů, a to i stanovením cíle pro účast výzkumných pracovnic v projektech v oblasti STEM a umělé inteligence;

209.

zdůrazňuje, že digitální vzdělávání by mělo rovněž zvyšovat povědomí o aspektech každodenního života, které mohou být potenciálně ovlivněny strojovým učením, včetně doporučovacích nástrojů, cílené reklamy, algoritmů sociálních médií a tzv. deep fakes; zdůrazňuje, že digitální odolnost vyžaduje další mediální vzdělávání, které pomůže zasadit nové digitální dovednosti a dovednosti související s umělou inteligencí do kontextu, a proto požaduje podporu nových i již existujících přístupných kurzů gramotnosti týkající se UI pro všechny občany;

210.

vyzývá k přijetí opatření, která zajistí, aby každé vzdělávací zařízení mělo širokopásmový přístup a silnou infrastrukturu pro digitální učení; zdůrazňuje, že evropským univerzitám a jejich sítím je třeba poskytnout odpovídající výpočetní zdroje potřebné pro výcvik modelů umělé inteligence, které jsou stále dražší; zdůrazňuje, že je třeba zajistit, aby učitelé měli nezbytné dovednosti a nástroje v oblasti umělé inteligence; vyzývá k většímu zaměření na technickou přípravu učitelů a rozvoj inovativních výukových a učebních nástrojů;

211.

požaduje investice do iniciativ zaměřených na dovednosti mladých lidí v oblasti programování s cílem podpořit dovednosti a vysoké kvalifikace mladých lidí v oblasti umělé inteligence, včetně akademií programování, programů letních škol a stipendií zaměřených na umělou inteligenci; je toho názoru, že stáže EU v oblasti digitálních příležitostí by měly být dále rozšířeny na odborné vzdělávání;

ii. VÝZKUM

212.

vyzývá EU, aby zvýšila investice do výzkumu klíčových technologií umělé inteligenci a jiných, jako je robotika, kvantová výpočetní technika, mikroelektronika, internet věcí, nanotechnologie a 3D tisk; vyzývá Komisi, aby vypracovala a udržovala evropský strategický plán výzkumu pro umělou inteligenci, který se bude věnovat významným interdisciplinárním problémům, k jejichž řešení může přispět UI; zdůrazňuje, že investice by měly být zaměřeny na využívání případů, které pravděpodobně povedou ke zvýšení udržitelných řešení, blahobytu a začlenění do společnosti;

213.

vybízí všechny členské státy, aby věnovaly větší část svého HDP na výzkum digitálních technologií; naléhavě vyzývá k dalšímu posílení programu Horizont Evropa, zejména pokud jde o partnerství v oblasti UI, dat a robotiky a Evropskou radu pro inovace; naléhavě vyzývá k rozšíření programu Digitální Evropa a domnívá se, že jeho přidělené finanční prostředky ve výši 7,6 miliard EUR je třeba navýšit;

214.

zdůrazňuje, že je třeba upřednostnit výzkum na úrovni EU v oblasti umělé inteligence; vyzývá Komisi k zjednodušení struktury financování výzkumu, včetně požadavků a postupů pro podávání žádostí o granty; zdůrazňuje, že v zájmu podpory dlouhodobého plánování je třeba s využitím evropského plánu výzkumu UI zlepšit kvalitu a konzistentnost přezkumů návrhů a zvýšit předvídatelnost nástrojů financování a jejich načasování; vyzývá Komisi, aby financovala větší počet aplikací v oblasti umělé inteligence díky kombinování různých nástrojů, jako je Evropská rada pro výzkum, akce „Marie Curie“, Evropská rada pro inovace a Evropský inovační a technologický institut;

215.

vyzývá Komisi a členské státy, aby upřednostňovaly financování výzkumu umělé inteligence, který se zaměřuje na udržitelnou a sociálně odpovědnou umělou inteligenci, přispívající k hledání řešení, která chrání a podporují základní práva, a aby nefinancovaly programy, které nepřijatelně ohrožují tato práva, např. financování systémů hromadného sledování, bodování občanů a jiných systémů, které mohou potenciálně vést k negativním společenským dopadům, a technologií, které přispívají k poškozování životního prostředí;

216.

vybízí k vytvoření většího počtu učitelských míst v oboru UI na evropských univerzitách, zavedení odpovídajících platů v oblasti výzkumu UI a vynakládání většího objemu veřejných finančních prostředků, aby bylo možné náležitě vzdělávat a udržet si stávající a příští generaci výzkumných pracovníků a talentů a zabránit odlivu mozků; zdůrazňuje, že je třeba omezit byrokratické překážky pro univerzitní výzkumné pracovníky, pokud jde o přístup k finančním prostředkům, a vyzývá Komisi, aby poskytla nástroje k rozšíření digitální propojenosti univerzit v jednotlivých členských státech i mezi nimi; naléhavě vyzývá k vytvoření horizontálních sítí pro UI, které budou propojovat evropské univerzity, výzkumné instituce a soukromý sektor, a také specializovaných multidisciplinárních výzkumných středisek pro umělou inteligenci;

217.

doporučuje, aby univerzity posílily financování projektů aplikovaného výzkumu, v nichž jsou zohledněny dimenze umělé inteligence;

218.

vyzývá Komisi, aby zlepšila přenos znalostí mezi výzkumem umělé inteligence a veřejností tím, že vytvoří podnikatelské sítě a kontaktní místa s právníky a podnikatelskými konzultanty na univerzitách, zřídí občanské panely, vědecké a společenské platformy a zapojí veřejnost do přípravy výzkumných programů v oblasti umělé inteligence; zdůrazňuje význam, který má hladký přechod z akademického světa do průmyslu, a přidanou hodnotu blízkosti mezi těmito prostředími pro úspěšné a dynamické ekosystémy a průmyslová centra umělé inteligence;

219.

zdůrazňuje, že v EU je třeba urychlit přenos znalostí od výzkumu a vědy k aplikacím UI v průmyslu a veřejném sektoru; vítá vytvoření specializovaného partnerství veřejného a soukromého sektoru v oblasti UI; vyzývá Komisi, aby zřídila evropská datová centra pro UI, na jejichž rozvoji se budou společně podílet průmysl a občanská společnost; zdůrazňuje význam zkušebních zařízení pro UI; zejména zmiňuje společný podnik pro evropskou vysoce výkonnou výpočetní techniku, společný podnik pro klíčové digitální technologie a společný podnik pro inteligentní sítě a systémy;

220.

požaduje zřízení majáků umělé inteligence v rámci programu Horizont Evropa, které budou vycházet ze stávajících a budoucích sítí regionálních středisek excelence v oblasti umělé inteligence, s cílem vybudovat alianci silných evropských výzkumných organizací, které budou sdílet společný plán na podporu excelence v základním a aplikovaném výzkumu, sladí vnitrostátní úsilí v oblasti umělé inteligence, podpoří inovace a investice, přilákají a udrží talenty v oblasti umělé inteligence v Evropě a vytvoří synergie a úspory z rozsahu; domnívá se, že koncepce majáku má potenciál přilákat nejlepší a nejbystřejší lidi ze zahraničí a přinést do Evropy značné soukromé investice;

221.

dodává, že majáky umělé inteligence, ve spolupráci s dalšími výzkumnými institucemi a průmyslem, by měly být dostatečně financovány; zdůrazňuje přínosy dobře udržovaných regulačních pískovišť pro testování produktů, služeb a přístupů umělé inteligence v kontrolovaném skutečném prostředí předtím, než jsou uvedeny na trh;

222.

poukazuje na to, že dalším důležitým krokem při budování ekosystému excelence v oblasti UI založeného na klastrech univerzit a průmyslu je určení evropských center pro digitální inovace (EDIH) v rámci programu Digitální Evropa; kritizuje však skutečnost, že kritéria pro označení EDIH jsou i nadále neurčitá, a proto se evropská centra pro digitální inovace v Evropě liší, pokud jde o jejich schopnosti a rozvoj, a že jejich součinnost s jinými digitálními centry, která určil Evropský inovační a technologický institut (EIT), a s centry určenými v rámci programu Horizont Evropa zůstává nejasná; navrhuje proto větší koordinaci, vynakládání úsilí a vytvoření souborného klastru decentralizovaných center UI, která budou vzájemně spolupracovat a která budou založena na celounijním rámci pro právní expertizu, data, financování a pobídky; vítá iniciativy Komise, jako je Startup Europe a Startup Europe Mediterranean, jejichž cílem je vytvořit sítě začínajících podniků v celé EU i mimo ni, a podpořit tak výměnu nápadů a příležitosti k podnikání a navazování kontaktů;

223.

navrhuje zvětšit rozsah a provést harmonizaci stávajících iniciativ, jako je Evropská laboratoř pro učení a inteligentní systémy a Konfederace laboratoří pro výzkum umělé inteligence v Evropě, a stěžejních projektů, jako je HumanE AI Network a AI4EU, s cílem podpořit ambiciózní, kooperativní a celounijní cíle a projekty v oblasti výzkumu a vývoje;

e) Ekosystém důvěry

i. SPOLEČNOST A UI

224.

navrhuje, aby EU a její členské státy kromě navrhované odborné přípravy v oblasti umělé inteligence vytvářely osvětové kampaně a v jejich rámci pořádaly i veřejné diskuse na místní úrovni, které by představovaly další způsob, jak oslovit a informovat občany a posílit je v jejich porozumění příležitostem, rizikům a společenskému, právnímu a etickému dopadu UI s cílem dále přispět k důvěryhodnosti umělé inteligence a k její demokratizaci; je přesvědčen, že by to spolu s vytvořením jasného a spolehlivého právního rámce pro umělou inteligenci zaměřenou na člověka a důvěryhodnou umělou inteligenci přispělo ke snížení obav občanů, které mohou být spojeny s rozsáhlým používáním umělé inteligence v Evropě;

225.

vyzývá EU k zajištění toho, aby rozvoj, rozšiřování a používání UI plně respektovaly demokratické zásady a základní práva a dodržovaly zákony způsobem, který je schopen bojovat proti mechanismům sledování a nezasahuje nepřijatelně do voleb ani nepřispívá k šíření dezinformací;

226.

zdůrazňuje, že vlády a podniky by měly používat a nakupovat pouze důvěryhodné systémy UI, které jsou vytvořeny tak, aby respektovaly práva pracovníků a podporovaly kvalitní vzdělávání a digitální gramotnost a nezvětšovaly rozdíly mezi pohlavími nebo nepřispívaly k diskriminaci tím, že brání rovným příležitostem pro všechny;

227.

podporuje úpravy právních předpisů na ochranu spotřebitele jako další způsob, jak vybudovat důvěru v UI, například tím, že spotřebitelé budou mít právo vědět, zda jsou v interakci s umělou inteligencí, což jim umožní trvat na lidském přezkumu rozhodnutí učiněných umělou inteligencí, a tím, že jim budou poskytnuty prostředky k boji proti komerčnímu sledování nebo personalizované tvorbě cen;

228.

zdůrazňuje, že zavádění určitých technologií umělé inteligence na pracovišti, jako jsou technologie využívající údaje pracovníků, by mělo probíhat po konzultaci se zástupci zaměstnanců a sociálními partnery; poukazuje na to, že pracovníci a jejich zástupci by měli mít možnost požadovat od zaměstnavatelů informace o tom, které údaje jsou shromažďovány, kde jsou tyto údaje uchovávány, o tom, jak jsou tyto údaje zpracovávány, a o zavedených zárukách na jejich ochranu;

229.

vyzývá EU k zajištění toho, aby systémy umělé inteligence odrážely její kulturní rozmanitost a mnohojazyčnost, která zabrání předpojatosti a diskriminaci; zdůrazňuje, že v zájmu řešení předpojatosti v oblasti UI je třeba podporovat rozmanitost v týmech, které vyvíjejí a provádějí konkrétní aplikace UI a posuzují jejich rizika; zdůrazňuje, že je třeba, aby k hodnocení algoritmů umělé inteligence byly používány údaje rozčleněné podle pohlaví a aby byla genderová analýza součástí všech posouzení rizik UI;

230.

zdůrazňuje význam neustálého výzkumu a monitorování dopadů UI na různé aspekty společnosti, jak na vnitrostátní, tak na unijní úrovni; navrhuje, aby byl v tomto směru zapojen Eurostat a další agentury EU;

231.

zdůrazňuje, že na základě výsledků monitorovacího systému by mohl být zvážen evropský fond pro transformaci, který by pomohl řešit například ztráty pracovních míst ve zranitelných odvětvích nebo regionech;

ii. ELEKTRONICKÁ VEŘEJNÁ SPRÁVA (EGOVERNANCE)

232.

vyzývá členské státy, aby plnily Tallinské prohlášení o elektronické veřejné správě, zaměřily své služby na občany a zavedly mechanismy, které zajistí, aby na všech úrovních veřejné správy byly všem občanům poskytovány interoperabilní, personalizované, uživatelsky vstřícné, komplexní a hranicemi států neomezované digitální veřejné služby založené na UI; je toho názoru, že cílem by mělo být zajistit občanům v příštích pěti letech poskytování digitalizovaných služeb elektronické veřejné správy založené na UI, a přitom stále zajišťovat lidskou interakci; připomíná, že v tomto ohledu budou hrát klíčovou roli finanční prostředky z Nástroje pro oživení a odolnost a národní plány pro oživení a odolnost; vyzývá veřejné orgány, aby podporovaly a rozvíjely UI ve veřejném sektoru; vítá revizi nařízení eIDAS (41) a jeho úlohu při podpoře poskytování digitálních veřejných služeb; zdůrazňuje, že nikdo by neměl být opomenut a že by vždy měly být k dispozici i offline alternativy;

233.

vyzývá Komisi, aby obnovila akční plán „eGovernment“ a vytvořila synergie s programem Digitální Evropa na podporu orgánů veřejné správy při přijímání umělé inteligence v souladu s evropskou strategií pro software s otevřeným zdrojovým kódem;

234.

zdůrazňuje, že elektronická veřejná správa hraje významnou úlohu při rozvoji ekonomiky založené na datech a digitálních inovací na jednotném digitálním trhu; konstatuje, že spolupráce a sdílení osvědčených postupů mezi orgány veřejné správy a přes hranice jsou zásadní součástí zavádění elektronické veřejné správy v celé EU; vyzývá k zavedení standardizovaných a zjednodušených postupů veřejné správy pro účinnější výměny mezi členskými státy EU a všemi úrovněmi správy;

235.

konstatuje, že pro rozvoj vysoce kvalitních on-line služeb jsou zapotřebí kvalifikovaní odborníci; zdůrazňuje, že je třeba posílit vládní politiky v oblasti náboru zaměstnanců a odborné přípravy pro digitálně kvalifikované osoby se znalostmi v oblasti umělé inteligence;

236.

vyzývá k urychlení zavádění jednotné digitální brány a k podpoře rozvoje interoperabilních platforem, které nabízejí přeshraniční služby v EU, a zároveň k dodržování společných bezpečnostních norem ve všech členských státech; zdůrazňuje, že je třeba zvážit případné rozšíření služeb nad rámec jejich omezeného souboru, na nějž se v současnosti vztahuje nařízení (EU) 2018/1724 (42), kterým se zřizuje jednotná digitální brána;

237.

klade důraz na to, aby platformy pro veřejné konzultace orgánů EU a členských států zvýšily účast a přístup k digitálním informacím; doporučuje investovat do zlepšení použitelnosti a přístupnosti, jako je poskytování souhrnů a informací ve více jazycích, jakož i do specializovaného marketingu a cíleného informování platforem pro digitální zapojení veřejnosti;

238.

doporučuje zintenzivnit interaktivní a osobní dialogy s občany EU prostřednictvím konzultací s občany on-line, formátů dialogu se zúčastněnými stranami nebo digitálních funkcí pro připomínkování právních předpisů a iniciativ EU;

iii. ELEKTRONICKÉ ZDRAVOTNICTVÍ (EHEALTH)

239.

vyzývá k tomu, aby ve zdravotnictví byla v souvislosti s UI uplatňována koncepce zaměřená na člověka a přístup založený na důkazech, přičemž důraz by měl být kladen na poskytování personalizované, nákladově efektivní a vysoce kvalitní zdravotní péče orientované na potřeby pacientů, vytvořené v úzké spolupráci se zdravotnickými pracovníky a pacienty, se zachováním lidského dohledu a rozhodování; naléhavě vyzývá k prioritnímu financování, vytyčení strategických cílů, podpoře spolupráce a přijímání aplikací UI v oblasti zdravotní péče jako kritického odvětví, v němž příležitosti nabízené umělou inteligencí mohou mít obrovský přínos pro zdraví a dobré životní podmínky občanů, pokud budou odpovídajícím způsobem řízena inherentní rizika;

240.

zdůrazňuje, že využívání umělé inteligence ve zdravotnických zařízeních by mělo být podporováno jako nástroj, který pomáhá zdravotnickým pracovníkům a snižuje jejich zátěž a umožňuje jim zaměřit se na jejich klinické úkoly, a nikoli k nahrazení zdravotnických pracovníků nebo jako nezávislý subjekt v rámci systémů zdravotní péče; zdůrazňuje, že je třeba zajistit takovou úroveň kvality, bezpečnosti a zabezpečení, která je srovnatelná s regulačním schvalovacím procesem u léčivých přípravků, očkovacích látek a zdravotnických prostředků; požaduje metodu podobnou klinickému hodnocení, kterou by se testovala přiměřenost a monitorovalo by se zavádění umělé inteligence v klinickém prostředí; domnívá se, že by bylo přínosné posoudit, které zdravotnické služby mohou být eticky a odpovědně automatizovány;

241.

domnívá se, že rovný přístup ke zdravotní péči jako princip by měl být rozšířen na aplikace umělé inteligence související se zdravím, včetně systémů pro zjišťování nemocí, zvládání chronických onemocnění, poskytování zdravotnických služeb a objevování léků; zdůrazňuje nutnost přijetí vhodných opatření k řešení rizik spojených se zdravím, pokud jde o digitální propast, algoritmickou předpojatost a diskriminaci, marginalizaci zranitelných osob nebo kulturních menšin, které mají omezený přístup ke zdravotní péči;

242.

připomíná postoj Parlamentu, že pojišťovnám nebo jakýmkoli jiným poskytovatelům služeb, kteří mají přístup k informacím uloženým v aplikacích elektronického zdravotnictví, by nemělo být povoleno používat tyto údaje za účelem diskriminace při stanovování cen;

243.

je přesvědčen, že stávající projekty a iniciativy EU, jako je EU pro zdraví, evropský prostor pro data z oblasti veřejného zdraví a evropská platforma pro registraci vzácných onemocnění, jsou kroky správným směrem, neboť umožňují členským státům sdílet zdroje, posilovat přínosnou spolupráci mezi zdravotnickými systémy a bezpečnou výměnu vysoce kvalitních údajů pro výzkum a inovace respektující soukromí;

244.

vyzývá k řádnému právnímu zakotvení a nastavení „rámce pro UI v oblasti zdraví“ na úrovni Unie; zdůrazňuje, že v důsledku rozvoje technologií umělé inteligence se řada úrovní rizika v průběhu času vyvíjí;

245.

zdůrazňuje, že je třeba poskytnout více pokynů ohledně zpracování zdravotních údajů podle obecného nařízení o ochraně osobních údajů, aby bylo možno využít plný potenciál umělé inteligence ve prospěch jednotlivců, a přitom respektovat základní práva; vyzývá Komisi, aby rychleji a lépe harmonizovala standardy upravující toto zpracování, včetně sdílení, anonymizace a interoperability, zdravotních údajů ve všech členských státech;

246.

vyzývá Komisi, aby podporovala začleňování etických pravidel ve všech fázích vývoje, navrhování a používání aplikací umělé inteligence; zdůrazňuje, že je třeba podporovat další výzkum metod a předpojatosti, které jsou součástí trénovaného systému umělé inteligence, aby se zabránilo neetickým a diskriminačním závěrům při uplatnění na data o lidském zdraví; doporučuje vytvořit kodex chování EU pro zpracovávání údajů o zdravotním stavu v plném souladu s obecným nařízením o ochraně osobních údajů;

247.

vyzývá Komisi, aby zvážila iniciativu o neuroprávech s cílem chránit lidský mozek před zasahováním, manipulací a kontrolou ze strany neurotechnologií založených na umělé inteligenci; vybízí Komisi, aby na úrovni OSN prosazovala agendu neuropráv s cílem zahrnout neuropráva do Všeobecné deklarace lidských práv, a to konkrétně pokud jde o právo na identitu, svobodnou vůli, duševní soukromí, rovný přístup k pokroku v oblasti zlepšování funkčnosti mozku a ochranu před algoritmickou předpojatostí;

248.

žádá Komisi, aby zvážila právní rámec pro on-line lékařské konzultace;

249.

zdůrazňuje, že jsou zapotřebí opatření, která podporují rovný přístup ke zdravotní péči a zvyšují ochotu poskytovatelů zdravotní péče používat řešení založená na UI;

250.

vyzývá Komisi, aby podpořila vytvoření mechanismu spolupráce v tomto kontextu a fungování evropského prostoru pro data z oblasti veřejného zdraví s cílem podpořit sdílení údajů o zdravotním stavu a rozvoj elektronických zdravotních záznamů v souladu s platnými právními předpisy; naléhavě požaduje zlepšení kvality dostupných údajů pro každého občana EU umožněním řádného fungování digitálních nástrojů (např. na základě algoritmů pro samoučení nebo analýzy dat velkého objemu); doporučuje, aby údaje uložené v souladu s obecným nařízením o ochraně osobních údajů byly k dispozici pro další výzkum a také pro vývoj nových léků a personalizované léčby;

251.

zdůrazňuje, že digitální dovednosti a dovednosti v oblasti umělé inteligence musí být zahrnuty do vzdělávání zdravotnických pracovníků, stejně jako znalost právních předpisů EU pro ochranu údajů a nakládání s citlivými údaji, včetně podpory anonymizace údajů;

252.

požaduje pokyny týkající se použitelnosti rámců odpovědnosti a harmonizovaných schvalovacích režimů pro lékařské aplikace a léčivé přípravky založené na umělé inteligenci, které jsou vyvíjeny nebo testovány prostřednictvím umělé inteligence a strojového učení; zdůrazňuje, že při jakékoli budoucí regulační reformě by měly být řešeny škody způsobené nedostatečným přidělováním zdrojů nebo neposkytnutím péče prostřednictvím doporučovacích systémů založených na umělé inteligenci ve zdravotnictví; zdůrazňuje, že pro certifikaci a schvalování zdravotnických aplikací v souladu s odpovědnostními riziky jsou zapotřebí vhodné osvědčené postupy, normy a kritéria;

253.

vyzývá Komisi, aby poskytla a využívala prediktivní modely pandemie zaměřené na člověka, v jejichž rámci budou v reálném čase sdružovány různé datové soubory, které budou sloužit jako podklad pro rozhodování;

f) Průmyslová strategie

i. STRATEGICKÉ PLÁNOVÁNÍ A INVESTICE

254.

je přesvědčen, že EU by měla postavit umělou inteligenci a ekonomiku založenou na datech do centra ambiciózní průmyslové strategie s cílem umožnit inovativním společnostem a podnikatelům, aby soutěžili o nejlepší technologické a podnikatelské inovace v Evropě a ve světě, upevnit otevřenou strategickou autonomii EU a zároveň stanovit spolehlivé právní, etické, technologické a bezpečnostní normy pro všechny systémy a složky umělé inteligence, které jsou určeny k použití na jednotném trhu EU;

255.

vybízí Komisi, aby využívala analýzu dat velkého objemu založenou na umělé inteligenci k tomu, aby pomáhala provádět zátěžové testy s cílem posoudit odolnost hodnotových řetězců a zmapovat oblasti závislosti;

256.

naléhavě vyzývá Komisi, aby provedla komplexní analýzu silných a slabých stránek s cílem zjistit slabá místa, nalézt kritické oblasti a vysoce rizikové oblasti závislosti EU, určit realistické technické a ekonomické vyhlídky v souvislosti s umělou inteligencí a posoudit dopady ve všech odvětvích evropského průmyslu; zdůrazňuje, že Komise by za tímto účelem měla spolupracovat s příslušnými zúčastněnými stranami;

257.

navrhuje, aby EU a základě této analýzy formulovala a přijala dlouhodobou strategii v odvětví umělé inteligence s jasnou vizí pro následujících deset let, která bude pokračováním digitálního kompasu; vysvětluje, že tato strategie by měla být doplněna monitorovacím systémem s klíčovými ukazateli výkonnosti a každoročními aktualizacemi; zdůrazňuje však, že je třeba konsolidovat a zefektivnit obrovský počet jednotlivých iniciativ, které Komise zahájila na podporu odvětví umělé inteligence EU, a poté je začlenit do této nové strategie pro odvětví umělé inteligence;

258.

vyzývá Komisi, aby zvážila, jak by bylo možné celkovou průmyslovou strategii doplnit cílenými veřejnými investicemi; zdůrazňuje však, že přílišné využívání necílených programů investic do složitých technologií může v některých případech vést k riziku narušení účinného rozložení kapitálu a k promarněným investicím; v této souvislosti zdůrazňuje, že posílení postavení podniků, podnikatelů a výzkumných pracovníků, aby mohli vyvíjet a uvádět na trh technologická řešení v oblasti umělé inteligence založená na soukromém podnikání, je ústřední součástí průmyslové strategie EU, a to mimo jiné prosazováním rovných podmínek a dokončením jednotného digitálního trhu a unie kapitálových trhů; navrhuje, aby byl usnadněn přístup k financování, zejména k nástrojům rizikového financování, a to především v případě financování v rané fázi; domnívá se, že podíl zdrojů vyčleněných na umělou inteligenci v rámci programů InvestEU a Digitální Evropa by měl být přezkoumán a případně výrazně navýšen;

259.

zdůrazňuje, že je potřeba urychleně provést nedávno přijatý rámec EU pro prověřování přímých zahraničních investic (43) a nedávno zrevidované nařízení o režimu EU pro kontrolu vývozu zboží dvojího užití (44); konstatuje, že umělá inteligence, stejně jako robotika a jiná digitální infrastruktura, by se měly pokládat za kritické odvětví; konstatuje, že ochrana práv duševního vlastnictví a odliv kritických technologií by měly podléhat mnohem důkladnějšímu vymáhání;

260.

zdůrazňuje, že je zásadní, aby se Evropa vybavila odpovídající digitální infrastrukturou; vítá iniciativy, jako je evropská iniciativa pro procesory, nově navržený akt o čipech a společný podnik pro evropskou vysoce výkonnou výpočetní techniku;

ii. MALÉ A STŘEDNÍ PODNIKY A ZAČÍNAJÍCÍ PODNIKY

261.

navrhuje, aby byla začínajícím podnikům v oblasti umělé inteligence poskytována podpora na úrovni EU a vlád, a to prostřednictvím přístupu k soukromému kapitálu a kvalifikovaným zaměstnancům, schopnosti pořizovat vysoce kvalitní datové soubory pro trénování algoritmů a schopnosti rozšiřovat svou činnost přes hranice členských států; dále zdůrazňuje, že velmi účinným nástrojem veřejné politiky na podporu ekonomiky začínajících podniků je účinné prosazování právních předpisů v oblasti hospodářské soutěže s cílem zabránit zneužívání dominantní tržní síly a bojovat proti překážkám vstupu na trh; v této souvislosti zdůrazňuje, že EU by měla vyvinout větší úsilí a nabídnout malým a středním podnikům a začínajícím podnikům možnosti a služby v oblasti rozvoje; domnívá se, že to by mohlo také zahrnovat zavedení systému vzájemné podpory, který by propojoval zkušené podniky zaměřené na umělou inteligenci s menšími podniky, které chtějí tuto technologii zavést; zdůrazňuje, že skutečnost, že začínající podniky a podnikatelé si nemohou dovolit rozsáhlé právní týmy, často představuje překážku jejich vstupu do složitého regulačního prostředí; zdůrazňuje, že je třeba, aby malé a střední podniky měly přístup ke konkrétní právní a technické podpoře; zdůrazňuje rovněž, že je třeba podporovat partnerství, v jejichž rámci by mohly společnosti založené na umělé inteligenci a subjekty vstupující na trh spolupracovat; naléhavě vyzývá Komisi a členské státy, aby poskytovaly lepší poradenství a konkrétnější podporu prostřednictvím sítí, digitálních uzlů, školitelů v oblasti UI, odborného vedení podniků, návštěv na místě a právních poraden; zdůrazňuje význam výměnných programů, jako je Erasmus pro mladé podnikatele, a podtrhuje, že by měly být dále rozvíjeny a podporovány;

262.

navrhuje snížit administrativní zátěž malých a středních podniků a začínajících podniků působících v oblasti umělé inteligence, například zefektivněním povinností v oblasti podávání zpráv, informací nebo dokumentace a poskytnutím pokynů týkajících se společných norem občanského práva procesního, které by měly být přijaty na vnitrostátní úrovni; žádá, aby byla urychleně provedena jednotná digitální brána za účelem zřízení jednotného internetového portálu EU v různých jazycích, který by obsahoval informace o všech nezbytných postupech a formalitách pro působení v jiné zemi EU; zdůrazňuje, že všechna jednotná kontaktní místa zřízená na vnitrostátní úrovni by měla být snadno přístupná prostřednictvím jednotné digitální brány a měla by poskytovat informace a nabízet administrativní služby v členských státech, a to i pokud jde o předpisy týkající se DPH a informace o požadavcích na poskytování služeb, v přístupném jazyce a v plné dostupnosti, včetně vyškolených pracovníků asistenční služby, kteří poskytují účinnou a uživatelsky přívětivou podporu;

263.

konstatuje, že mezi možné způsoby, jak EU a její členské státy mohou podporovat malé a střední podniky a začínající podniky, patří: daňové úlevy za účelem hloubkového výzkumu, lepší přístup k počítačovým kapacitám a kvalitním datovým souborům, podpora průzkumu nových technologií a vzdělávání, odborné přípravy a rekvalifikace zaměstnanců v oblasti UI;

264.

zdůrazňuje, že malé a střední podniky a začínající podniky působící v oblasti umělé inteligence potřebují lepší přístup k veřejným zakázkám; naléhavě vyzývá Komisi, aby přepracovala postupy podávání žádostí o účast ve veřejných nabídkových řízeních a o financování z programů EU s cílem dát začínajícím podnikům a malým a středním podnikům spravedlivou příležitost získat projekty v rámci veřejných zakázek a granty na výzkum a vývoj; připomíná v tomto ohledu úspěšné programy GovTech, které podpořily zapojení malých podniků do veřejných zakázek v digitální oblasti; zdůrazňuje, že by měly být propagovány také režimy akciových opcí pro začínající podniky působící v oblasti umělé inteligence v celé Evropě;

iii. MEZINÁRODNÍ SCÉNA

265.

poukazuje na to, že EU by měla jít příkladem a vytvořit silnou mezinárodní technologickou alianci založenou na základních hodnotách, která bude spolupracovat s podobně smýšlejícími partnery s cílem zavést společné regulační normy, využívat osvědčených postupů v oblasti UI, práv na ochranu soukromí, datových toků a pravidel hospodářské soutěže a odstranit strategická slabá místa na základě vzájemného sdílení silných stránek a slučování zdrojů v oblastech, kde je to vzájemně prospěšné; zdůrazňuje, že EU by měla rovněž na příslušných mnohostranných a dvoustranných fórech, například v rámci systému OSN, OECD, Rady Evropy, Světové obchodní organizace, Světového ekonomického fóra a skupiny G20, aktivně podporovat prohloubenou mezinárodní spolupráci v oblasti etické a důvěryhodné umělé inteligence zaměřené na člověka; vítá zejména zřízení Rady EU–USA pro obchod a technologie, která uvádí spolupráci v oblasti norem umělé inteligence jako svou klíčovou prioritu a uvádí, že vzhledem ke svému strategickému potenciálu musí být posílena meziparlamentním rozměrem, do něhož by byl zapojen Evropský parlament a Kongres USA;

266.

navrhuje, aby byla rovněž zřízena zvláštní transatlantická pracovní skupina pro umělou inteligenci, jejímiž členy budou zástupci vlád, normalizačních organizací, soukromého sektoru a občanské společnosti a která bude pracovat na společných normách a etických pokynech pro umělou inteligenci; navrhuje zřídit dlouhodobou platformu pro výměnu informací o umělé inteligenci a dalších důležitých digitálních a obchodních otázkách, která bude vycházet ze stávající Rady pro obchod a technologie, společně s dalšími podobně smýšlejícími partnery;

267.

zdůrazňuje, že EU by měla prosazovat sociálně odpovědné a etické využívání umělé inteligence a spolupracovat s mezinárodními normalizačními organizacemi na dalším zlepšování norem v oblasti etiky, bezpečnosti, spolehlivosti, interoperability a zabezpečení; vítá nedávné normalizační iniciativy, které zahájily subjekty, jako je společný technický výbor Mezinárodní organizace pro normalizaci a Mezinárodní elektrotechnická komise, jejichž cílem je celosvětově harmonizovat rozdílné kodexy umělé inteligence; kromě toho zdůrazňuje, že Evropa by měla prosazovat a rozvíjet normy, a to i v oblastech inteligentní výroby, internetu věcí, robotiky a analýzy dat; navrhuje poskytovat lepší podporu akademickým pracovníkům, občanské společnosti a malým a středním podnikům, aby se účastnili normalizačních fór;

268.

podporuje iniciativu Světové obchodní organizace v oblasti elektronického obchodu, jejímž cílem je vytvořit inkluzivní, kvalitní, komerčně smysluplnou, fakticky podloženou a cílenou strategii, která by lépe řešila překážky digitálního obchodu; zdůrazňuje, že dohoda by měla rovněž odrážet zásady řádné správy věcí veřejných a poskytnout vládám možnost bojovat proti digitálnímu protekcionismu a zároveň chránit a podporovat důvěru spotřebitelů a vytvářet skutečnou hodnotu pro globální ekonomiku;

269.

navrhuje, aby se Komise i nadále zabývala neopodstatněnými obchodními překážkami, zejména necelními překážkami nebo omezeními přístupu na trh, kterým čelí evropské společnosti působící v odvětví UI ve třetích zemích; zdůrazňuje, že k utváření mezinárodní diskuze o umělé inteligenci a k prosazování evropských etických zásad v této oblasti by měla být využívána i obchodní a rozvojová politika a politika sousedství;

g) Bezpečnost

i. UMĚLÁ INTELIGENCE A VYMÁHÁNÍ PRÁVA

270.

zdůrazňuje, že je důležité, aby donucovací orgány byly schopny identifikovat trestnou činnost podporovanou technologií umělé inteligence a bojovat proti ní;

271.

zdůrazňuje, že při zneužití umělé inteligence při prosazování práva může dojít k újmě, včetně automatizované diskriminace a nezákonného zacházení s občany, zatímco prostředky nápravy jsou nedostatečné; naléhavě vyzývá členské státy, aby uplatňovaly smysluplné požadavky na lidský dohled a zaručily těm, kteří podléhají rozhodnutím přijatým umělou inteligencí, prostředky nápravy;

272.

navrhuje, aby se EU podílela na právně nevynutitelných přístupech, které zavedl Výzkumný institut OSN pro otázky meziregionálního zločinu a trestní spravedlnosti, jenž vyvinul funkční nástroje UI a zahájil partnerství s Interpolem, které slouží jako jedinečné fórum pro dialog a spolupráci v oblasti umělé inteligence mezi donucovacími orgány, průmyslem, akademickou obcí a občanskou společností, a to v plném souladu s acquis EU v oblasti ochrany údajů a soukromí;

273.

bere na vědomí úlohu Europolu při vývoji, trénování a validaci nástrojů UI pro boj proti organizované trestné činnosti, terorismu a kyberkriminalitě, a to v partnerství s evropským inspektorem ochrany údajů a při plném respektování základních hodnot EU, zejména zásady nediskriminace a presumpce neviny;

274.

vyzývá Komisi, aby posílila finanční a lidské zdroje Evropského inovačního centra pro vnitřní bezpečnost; vítá úsilí Eurojustu, Agentury Evropské unie pro základní práva a Europolu o vytvoření souboru univerzálních zásad odpovědnosti za používání umělé inteligence odborníky z praxe v oblasti spravedlnosti a vnitřní bezpečnosti (rámec AP4AI); vyzývá Komisi, aby této iniciativě poskytla zvláštní finanční podporu, aby mohla prosazovat normy odpovědnosti a hodnoty EU v oblasti umělé inteligence;

ii. KYBERNETICKÁ BEZPEČNOST

275.

žádá členské státy, aby posílily spolupráci v oblasti kybernetické bezpečnosti na evropské úrovni, a umožnily tak EU a členským státům lépe sdílet zdroje, účinněji koordinovat a zefektivnit vnitrostátní strategie v oblasti kybernetické bezpečnosti, zintenzivnit budování kapacit a zvyšovat povědomí v této oblasti a rychle poskytovat znalosti a technickou pomoc v oblasti kybernetické bezpečnosti malým a středním podnikům, ale i jiným, tradičnějším odvětvím;

276.

vybízí EU, aby se ujala vedení, pokud jde o vývoj přísných kryptografických a dalších bezpečnostních norem, které vnášejí důvěru a interoperabilitu do systémů umělé inteligence; zdůrazňuje, že základem pro dosažení mezinárodní konvergence v oblasti dohledu nad riziky IKT by měly být stávající mezinárodní normy, které by se měly v největší možné míře zohledňovat;

277.

navrhuje zavedení horizontálních požadavků na kybernetickou bezpečnost, které budou vycházet ze stávajících právních předpisů a případně z nových horizontálních legislativních aktů, s cílem zabránit roztříštěnosti a zajistit konzistentní přístup ke kybernetické bezpečnosti napříč všemi skupinami produktů; konstatuje, že produkty umělé inteligence na jednotném digitálním trhu, které nesou označení CE, by mohly v budoucnu představovat jak vysokou úroveň fyzické bezpečnosti, tak úroveň kybernetické odolnosti odpovídající riziku, a svědčit o souladu s příslušnými právními předpisy EU;

278.

navrhuje, aby členské státy stimulovaly požadavky na kybernetickou bezpečnost systémů UI prostřednictvím politik zadávání veřejných zakázek, mimo jiné tím, že při zadávání veřejných zakázek na aplikace umělé inteligence stanoví určité povinné etické a bezpečnostní zásady, zejména v kritických odvětvích;

279.

žádá, aby Agentura EU pro kybernetickou bezpečnost (ENISA) prováděla odvětvová posouzení bezpečnostních rizik, počínaje odvětvími veřejného i soukromého sektoru, která jsou zapojena do nejrizikovějšího a nejcitlivějšího využívání umělé inteligence a která mají nejvyšší potenciál způsobovat negativní dopady na lidské zdraví, bezpečnost, zabezpečení a základní práva; zdůrazňuje, že agentura ENISA by spolu s Evropským centrem kompetencí pro kybernetickou bezpečnost a sítí národních koordinačních center měla posuzovat kybernetické bezpečnostní incidenty s cílem identifikovat nedostatky a nová slabá místa a včas poskytovat orgánům EU poradenství ohledně vhodných nápravných opatření;

280.

vybízí společnosti, které využívají, vyvíjejí nebo zavádějí systémy založené na umělé inteligenci, a které působí na jednotném digitálním trhu, aby vypracovaly jasnou a nezávisle vyhodnocenou strategii kybernetické bezpečnosti založenou na individuální rizikové situaci; vybízí k začlenění systémů umělé inteligence do modelování hrozeb a řízení bezpečnostních rizik; navrhuje, aby Komise, agentura ENISA a vnitrostátní orgány tento proces podporovaly;

281.

konstatuje, že požadavky na kybernetickou bezpečnost produktů umělé inteligence by se měly týkat celého životního cyklu; zdůrazňuje, že musí být rovněž jasné, že každá společnost v dodavatelském řetězci musí hrát svou úlohu a přispívat k vytváření odolných produktů umělé inteligence; poukazuje na to, že nové požadavky by měly být založeny na souvisejícím riziku specifické skupiny výrobků a míře vlivu na úroveň rizika, aby se zabránilo nepřiměřené zátěži pro malé a střední podniky a začínající podniky;

282.

navrhuje, aby při vývoji celounijního systému certifikace pro důvěryhodnou umělou inteligenci byly rovněž zohledněny stávající iniciativy v některých členských státech, jako je německý katalog kritérií shody služeb umělé inteligence nebo maltský certifikační program umělé inteligence;

iii. KYBERNETICKÁ OBRANA

283.

naléhavě vyzývá členské státy, aby pokračovaly v aktivní politice evropské kybernetické diplomacie tím, že odsoudí kybernetické útoky podporované ze zahraničí, včetně těch, které využívají umělou inteligenci, a poukázaly na jejich původce a aby přitom využily všech nástrojů diplomacie EU; vítá skutečnost, že soubor kybernetických nástrojů EU zahrnuje ukončení finanční pomoci a sankce vůči těm zemím nebo jejich zástupcům, kteří jsou zapojeni do nepřátelské činnosti v kyberprostoru nebo hybridních útoků, včetně dezinformačních kampaní, nebo financují kyberkriminalitu; uznává, že kybernetická obrana využívající UI je do určité míry účinnější, pokud také zahrnuje některé ofenzivní prostředky a opatření, za předpokladu, že jejich použití je v souladu s mezinárodním právem;

284.

dále navrhuje posílit kapacity v oblasti kybernetické bezpečnosti v rámci Evropské obranné agentury, mimo jiné využíváním systémů založených na umělé inteligenci, které by podporovaly koordinovanou a rychlou reakci na kybernetické útoky; doporučuje sledovat provádění politik kybernetické obrany v každém členském státě a posuzovat přidělování příslušných zdrojů v rámci EU;

285.

zdůrazňuje, že je třeba analyzovat dopad UI na evropskou bezpečnost a ve spolupráci s členskými státy, soukromou sférou, výzkumnými pracovníky, vědci a občanskou společností vypracovat doporučení, jak řešit nové bezpečnostní výzvy na úrovni EU;

286.

vybízí členské státy, aby přijaly opatření, která odměňují odhalování slabých míst a podporují audity produktů, systémů a procesů založených na umělé inteligenci;

iv. VOJENSKÉ VYUŽITÍ UMĚLÉ INTELIGENCE

287.

konstatuje, že jakékoli použití vojenské umělé inteligence musí podléhat přísným mechanismům lidské kontroly a dohledu, etickým zásadám a plnému dodržování mezinárodních lidských práv a humanitárního práva; kromě toho konstatuje, že EU by měla ve spolupráci se svými podobně smýšlejícími partnery usilovat o vytvoření mezinárodního rámce pro bezpečný výzkum, vývoj a používání zbraní podporovaných umělou inteligencí, který posiluje mezinárodní humanitární právo, a to i v kontextu práva ozbrojených konfliktů; připomíná mezinárodní normy a zásady, jako je proporcionalita síly, které je třeba při vývoji a používání nových vojenských technologií dodržovat;

288.

konstatuje, že technologie založené na umělé inteligenci jsou čím dál důležitější součástí vojenského vybavení a strategie; zdůrazňuje, že výlučné využívání UI k vojenským účelům nebo k účelům souvisejícím s národní bezpečností by mělo být přísně odděleno od případů civilního využití; připomíná, že otázkami souvisejícími se vznikajícími technologiemi ve vojenské oblasti, včetně otázek souvisejících s umělou inteligencí, se zabývá skupina vládních odborníků na vznikající technologie v oblasti smrtících autonomních zbraňových systémů, v níž jsou zastoupeny členské státy EU;

289.

vítá budoucí strategický kompas EU, který má poskytnout rámec a určitou úroveň ambicí při řešení bezpečnostních a obranných aspektů umělé inteligence; připomíná, že stálá strukturovaná spolupráce v rámci společné bezpečnostní a obranné politiky a Evropský obranný fond umožní členským státům a Unii posílit investice, schopnosti a interoperabilitu v oblasti nových technologií, včetně umělé inteligence;

290.

konstatuje, že EU by měla pokládat UI za klíčovou složku technologické suverenity Evropy;

291.

dochází k závěru, že členské státy by měly i nadále školit svůj vojenský personál s cílem zajistit, aby měl nezbytné digitální dovednosti pro využívání umělé inteligence v řídících, operačních a komunikačních systémech; vítá přístup Evropského obranného fondu ke smrtícím autonomním zbraňovým systémům a jeho čl. 10 odst. 6; zdůrazňuje význam Evropského obranného fondu při podpoře přeshraniční spolupráce mezi zeměmi EU v oblasti vojenského výzkumu umělé inteligence, rozvoji nejmodernějších obranných technologií a budování potřebné infrastruktury, zejména datových center s velkými kybernetickými kapacitami;

292.

vyzývá Radu, aby přijala společný postoj k autonomním zbraňovým systémům, který zajistí účinnou lidskou kontrolu nad jejich kritickými funkcemi; trvá na tom, aby bylo zahájeno mezinárodní jednání o právně závazném nástroji, který by zakázal plně autonomní zbraňové systémy; konstatuje, že v takovéto mezinárodní dohodě by se mělo stanovit, že všechny smrtící zbraně na bázi umělé inteligence musí podléhat smysluplnému lidskému dohledu a kontrole, což znamená, že člověk zůstává v aktivním zapojení, a nese tedy konečnou odpovědnost za rozhodnutí zvolit cíl a provést smrtící úder;

293.

vyzývá k užší spolupráci s NATO v oblasti kybernetické obrany a vyzývá spojence NATO, aby podpořili mnohostranné úsilí o regulaci vojenského využívání umělé inteligence;

5. Závěr: výzva k urychlenému jednání

294.

domnívá se, že probíhající digitální transformace, v níž umělá inteligence sehrává klíčovou úlohu, vyvolala globální soutěž o vedoucí pozici v technologické oblasti; zdůrazňuje, že EU zatím zaostává, což má za následek riziko, že budoucí technologické normy budou vyvíjeny bez dostatečného přispění EU a často nedemokratickými aktéry, což představuje výzvu pro politickou stabilitu a hospodářskou konkurenceschopnost; dochází k závěru, že EU musí vystupovat jako celosvětová autorita při tvorbě norem v oblasti UI;

295.

zdůrazňuje, že umělá inteligence, ačkoli je často prezentována jako nepředvídatelná hrozba, může být účinným digitálním nástrojem a hybnou silou změn v mnoha důležitých ohledech, mimo jiné tím, že nabízí inovativní produkty a služby, rozšiřuje výběr pro spotřebitele a zefektivňuje výrobní procesy; konstatuje, že přijetí technologií UI nabízí jasné výhody a příležitosti pro celou společnost, a to i v oblasti zdravotní péče, udržitelnosti, bezpečnosti a konkurenceschopnosti; zdůrazňuje, že zároveň hrozí, že technologie UI omezí lidský faktor a nahradí lidskou autonomii; zdůrazňuje, že tyto přínosy i rizika by měly být vodítkem a podkladem pro regulaci UI a pro komunikaci s veřejností na toto téma;

296.

zdůrazňuje, že EU má potenciál formovat mezinárodní diskusi o UI a vytvářet společná pravidla a normy na globální úrovni, které podporují důvěryhodný a udržitelný přístup k UI zaměřený na člověka, který je v plném souladu se základními právy; zdůrazňuje však, že příležitost k upevnění tohoto specificky evropského přístupu k UI na mezinárodní scéně vyžaduje rychlá opatření, a EU se proto musí brzy dohodnout na společné strategii a regulačním rámci v oblasti UI; zdůrazňuje, že utváření mezinárodních technologických norem a standardů vyžaduje užší koordinaci a spolupráci s podobně smýšlejícími demokratickými partnery;

297.

zdůrazňuje, že EU v současné době ještě zdaleka nedosáhla svého cíle stát se konkurenceschopnou v oblasti UI na celosvětové scéně; v této souvislosti zdůrazňuje, že je důležité zajistit harmonizovaná pravidla a normy, právní jistotu a rovné podmínky s cílem podpořit zavádění umělé inteligence a inovací v této oblasti, a to i odstraněním zbytečných administrativních překážek pro začínající podniky, malé a střední podniky a občanskou společnost; uznává, že radikální změna tohoto rozsahu má na různé části společnosti různé dopady, a zdůrazňuje, že digitální transformace musí probíhat v plném souladu se základními právy; vyzývá Komisi, členské státy a Parlament, včetně jeho příslušných výborů, aby se řídily doporučeními obsaženými v plánu EU pro umělou inteligenci;

298.

vyzývá k vytvoření regulačního prostředí pro umělou inteligenci, které zajistí účinnou správu a ochranu základních práv a zároveň usnadní konkurenční přístup k digitálním trhům pro subjekty všech velikostí, a to v zájmu podpory inovací a hospodářského růstu ve prospěch všech; zdůrazňuje, že předpokladem odpovídajícího rozvoje a trénování umělé inteligence je konkurenceschopná, přístupná a spravedlivá ekonomika využívající data založená na společných normách; poukazuje v této souvislosti na riziko, že koncentrace trhu v ekonomice založené na datech se rozšíří do ekonomiky pro aplikace umělé inteligence;

299.

dochází k závěru, že pokrok v digitálních ambicích EU v oblastech, jako je umělá inteligence, vyžaduje mnohem větší míru integrace a harmonizace na jednotném digitálním trhu s cílem podpořit přeshraniční výměnu a zaručit, aby v celé EU platila stejná pravidla a normy; v této souvislosti zdůrazňuje, že orgány EU musí bojovat proti zneužívání tržní síly, aby zajistily rovné podmínky;

300.

dochází k závěru, že je třeba přijmout nezbytné kroky k zajištění toho, aby digitální transformace podporovala ekologickou transformaci a nebránila jí; dochází k závěru, že systémy UI vyžadují spolehlivou infrastrukturu a možnosti konektivity; zdůrazňuje, že digitální infrastruktura v souladu se Zelenou dohodou se zaměří na všechna odvětví a hodnotové řetězce a měla by se řídit zásadami oběhového hospodářství; zdůrazňuje, že umělá inteligence však nebude funkční bez odpovídajícího zavedení digitální infrastruktury, včetně širokopásmového připojení, optických vláken, okrajových uzlů a sítí 5G; zdůrazňuje, že pro dosažení klimaticky neutrální digitální infrastruktury do roku 2030 je důležité zmírnit rostoucí spotřebu energie a využívání zdrojů;

301.

zdůrazňuje, že rychlý technologický pokrok, který umělá inteligence zavedla, ovlivní také živobytí všech, kteří nemají dovednosti potřebné k tomu, aby se těmto novým technologiím dostatečně rychle přizpůsobili; poukazuje na to, že prohlubování dovedností a rekvalifikace mohou pomoci řešit mnohé z výsledných sociálně-ekonomických problémů, zdůrazňuje však, že tyto dopady by měly být řešeny také v souvislosti se systémy sociálního zabezpečení, městskou a venkovskou infrastrukturou a demokratickými procesy; dochází k závěru, že v zájmu podpory zavádění inovací v oblasti UI, zvýšení přijímání aplikací na bázi umělé inteligenci a zajištění toho, aby nikdo nezůstal opomenut, je nezbytné lidem poskytnout prostředky k získání digitálních dovedností; zdůrazňuje, že má-li se zvýšit digitální gramotnost a odolnost, je třeba začínat se vzděláváním založeným na oborech IKT a STEM brzy, přičemž toto vzdělávání musí zůstat dostupné ve všech fázích života; domnívá se, že zásadní význam mají iniciativy zaměřené na vytváření ekosystémů excelence v oblasti UI, přilákání talentů v tomto oboru do EU a boj proti odlivu mozků;

302.

zdůrazňuje, že je důležité řešit výzvy související s UI v oblasti základních práv, a umožnit tak, aby se UI stala účinným nástrojem, který bude sloužit lidem a společnosti a zároveň sledovat společné blaho a obecný zájem; dochází k závěru, že v zájmu budování důvěry občanů v UI je třeba chránit jejich základní práva ve všech oblastech života, a to i v souvislosti s používáním UI ve veřejné sféře a na pracovišti; zdůrazňuje zejména, že při digitální transformaci je třeba zohledňovat práva, cíle a zájmy žen a menšinových komunit; zdůrazňuje, že veřejné služby a jejich správní struktury musí jít příkladem; zdůrazňuje, že EU musí urychlit zavádění systémů založených na umělé inteligenci do elektronické správy s cílem usnadnit bezpečné využívání UI ve veřejné správě; dále zdůrazňuje, že umělá inteligence může přinést nová řešení v oblasti zdravotní péče, pokud budou náležitě řízena rizika a zásada spravedlivého přístupu ke zdravotní péči bude v plné míře rozšířena i na aplikace umělé inteligence v oblasti zdraví;

303.

dochází k závěru, že strategie EU v oblasti UI by neměla přehlížet vojenské a bezpečnostní otázky a obavy, které vyvstávají v souvislosti s celosvětovým zaváděním technologií UI; zdůrazňuje, že je třeba posílit mezinárodní spolupráci s podobně smýšlejícími partnery, aby bylo možné chránit základní práva a zároveň spolupracovat na minimalizaci nových technologických hrozeb;

o o

304.

pověřuje svou předsedkyni, aby předala toto usnesení Radě a Komisi.

(1) Úř. věst. L 123, 12.5.2016, s. 1.

(2) Úř. věst. C 132, 24.3.2022, s. 102.

(3) Přijaté texty, P9_TA(2021)0504.

(4) Úř. věst. L 119, 4.5.2016, s. 1.

(5) Úř. věst. L 166, 11.5.2021, s. 1.

(6) Úř. věst. L 170, 12.5.2021, s. 1.

(7) Úř. věst. L 303, 28.11.2018, s. 59.

(8) Úř. věst. L 170, 12.5.2021, s. 149.

(9) Úř. věst. L 136, 22.5.2019, s. 1.

(10) Úř. věst. L 256, 19.7.2021, s. 3.

(11) Úř. věst. C 288, 31.8.2017, s. 1.

(12) Úř. věst. C 252, 18.7.2018, s. 239.

(13) Úř. věst. C 307, 30.8.2018, s. 163.

(14) Úř. věst. C 132, 24.3.2022, s. 45.

(15) Úř. věst. C 433, 23.12.2019, s. 86.

(16) Úř. věst. C 449, 23.12.2020, s. 37.

(17) Úř. věst. C 294, 23.7.2021, s. 14.

(18) Úř. věst. C 404, 6.10.2021, s. 107.

(19) Úř. věst. C 404, 6.10.2021, s. 129.

(20) Úř. věst. C 404, 6.10.2021, s. 63.

(21) Úř. věst. C 456, 10.11.2021, s. 34.

(22) Úř. věst. C 15, 12.1.2022, s. 204.

(23) Úř. věst. C 494, 8.12.2021, s. 37.

(24) Úř. věst. C 15, 12.1.2022, s. 28.

(25) Úř. věst. C 132, 24.3.2022, s. 17.

(26) Roberts, M., Driggs, D., Thorpe, M. a kol., „Common pitfalls and recommendations for using machine learning to detect and prognosticate for COVID-19 using chest radiographs and CT scans“ (Společná úskalí a doporučení pro používání strojového učení pro detekci a prognózování onemocnění COVID-19 pomocí rentgenu hrudníku a výpočetní tomografie), Nature Machine Intelligence, 3, s. 199–217, 15. března 2021.

(27) Studie GŘ IPOL „Opportunities of Artificial Intelligence“ (Příležitosti spojené s umělou inteligencí), červen 2020.

(28) Pracovní dokument zvláštního výboru AIDA „Artificial Intelligence and the Green Deal“ (Umělá inteligence a Zelená dohoda), březen 2021.

(29) Sdělení Komise ze dne 18. listopadu 2021 nazvané „Politika hospodářské soutěže připravená na nové výzvy“ (COM(2021)0713).

(30) Acemoglu, D., et al., AI and Jobs: Evidence from Online Vacancies, National Bureau of Economic Research (Národní úřad pro hospodářský výzkum), prosinec 2020.

(31) Sdělení Komise ze dne 9. března 2021 nazvané „Digitální kompas 2030: evropské pojetí digitální dekády“ (COM(2021)0118).

(32) Evropská komise, „Koordinovaný plán v oblasti umělé inteligence“ (COM(2018)0795).

(33) Návrh nařízení Evropského parlamentu a Rady, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci) a mění určité legislativní akty Unie (COM(2021)0206).

(34) Sdělení Komise Evropskému parlamentu, Evropské radě, Radě, Evropskému hospodářskému a sociálnímu výboru a Výboru regionů o podpoře evropského přístupu k umělé inteligenci (COM(2021)0205).

(35) Údaje z roku 2018.

(36) Koerner, K. (How) will the EU become an AI superstar? Deutsche Bank, březen 2020.

(37) Úř. věst. L 316, 14.11.2012, s. 12.

(38) Směrnice Rady 85/374/EHS ze dne 25. července 1985 o sbližování právních a správních předpisů členských států týkajících se odpovědnosti za vadné výrobky (Úř. věst. L 210, 7.8.1985, s. 29).

(39) Směrnice Evropského parlamentu a Rady (EU) 2019/1024 ze dne 20. června 2019 o otevřených datech a opakovaném použití informací veřejného sektoru (Úř. věst. L 172, 26.6.2019, s. 56).

(40) Směrnice Evropského parlamentu a Rady 2014/61/EU ze dne 15. května 2014 o opatřeních ke snížení nákladů na budování vysokorychlostních sítí elektronických komunikací (Úř. věst. L 155, 23.5.2014, s. 1).

(41) Nařízení Evropského parlamentu a Rady (EU) č. 910/2014 ze dne 23. července 2014 o elektronické identifikaci a službách vytvářejících důvěru pro elektronické transakce na vnitřním trhu a o zrušení směrnice 1999/93/ES (Úř. věst. L 257, 28.8.2014, s. 73).

(42) Úř. věst. L 295, 21.11.2018, s. 1.

(43) Úř. věst. L 79 I, 21.3.2019, s. 1.

(44) Úř. věst. L 206, 11.6.2021, s. 1.