52022IP0140

Language
- My EUR-Lex
- Sign in
- Register
- My recent searches (0)

This document is an excerpt from the EUR-Lex website

Search tips

Need more search options? Use the Advanced search

EUROPA
EUR-Lex home
EUR-Lex - 52022IP0140 - EN

Document 52022IP0140

Help

Resolucija Evropskega parlamenta z dne 3. maja 2022 o umetni inteligenci v digitalni dobi (2020/2266(INI))

OJ C 465, 6.12.2022, p. 65–108 (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

HTML

PDF

Official Journal

6.12.2022

Uradni list Evropske unije

C 465/65

P9_TA(2022)0140

Umetna inteligenca v digitalni dobi

Resolucija Evropskega parlamenta z dne 3. maja 2022 o umetni inteligenci v digitalni dobi (2020/2266(INI))

(2022/C 465/06)

Evropski parlament,

—	ob upoštevanju členov 4, 16, 26, 114, 169, 173, 179, 180, 181 in 187 Pogodbe o delovanju Evropske unije,

—	ob upoštevanju Listine Evropske unije o temeljnih pravicah,

—	ob upoštevanju Konvencije o otrokovih pravicah in splošne pripombe št. 25 Odbora za pravice otroka z dne 2. marca 2021 o otrokovih pravicah v zvezi z digitalnim okoljem,

—	ob upoštevanju priporočila Unesca o etiki umetne inteligence, ki ga je generalna konferenca Unesca sprejela na 41. zasedanju 24. novembra 2021,

—	ob upoštevanju Medinstitucionalnega sporazuma z dne 13. aprila 2016 o boljši pripravi zakonodaje (1) in smernic Komisije za boljše pravno urejanje,

—	ob upoštevanju sporočila Komisije z dne 24. marca 2021 o strategiji EU o otrokovih pravicah (COM(2021)0142),

—	ob upoštevanju svoje resolucije z dne 7. oktobra 2021 o stanju zmogljivosti kibernetske obrambe EU (2),

—	ob upoštevanju svoje resolucije z dne 15. decembra 2021 o izzivih in obetih za režime večstranskega nadzora orožja za množično uničevanje in razorožitve (3),

—	ob upoštevanju Uredbe (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (4),

—	ob upoštevanju Uredbe (EU) 2021/694 Evropskega parlamenta in Sveta z dne 29. aprila 2021 o vzpostavitvi programa Digitalna Evropa in razveljavitvi Sklepa (EU) 2015/2240 (5),

—	ob upoštevanju Uredbe (EU) 2021/695 Evropskega parlamenta in Sveta z dne 28. aprila 2021 o vzpostavitvi okvirnega programa za raziskave in inovacije Obzorje Evropa, določitvi pravil za sodelovanje in razširjanje rezultatov ter razveljavitvi uredb (EU) št. 1290/2013 in (EU) št. 1291/2013 (6),

—	ob upoštevanju predloga uredbe Evropskega parlamenta in Sveta z dne 21. aprila 2021 o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (COM(2021)0206),

—	ob upoštevanju predloga uredbe Evropskega parlamenta in Sveta z dne 25. novembra 2020 o evropskem upravljanju podatkov (akt o upravljanju podatkov) (COM(2020)0767),

—	ob upoštevanju Uredbe (EU) 2018/1807 Evropskega parlamenta in Sveta z dne 14. novembra 2018 o okviru za prosti pretok neosebnih podatkov v Evropski uniji (7),

—	ob upoštevanju Uredbe (EU) 2021/697 Evropskega parlamenta in Sveta z dne 29. aprila 2021 o vzpostavitvi Evropskega obrambnega sklada ter razveljavitvi Uredbe (EU) 2018/1092 (8),

—	ob upoštevanju Direktive (EU) 2019/770 Evropskega parlamenta in Sveta z dne 20. maja 2019 o nekaterih vidikih pogodb o dobavi digitalne vsebine in digitalnih storitev (9),

—	ob upoštevanju Uredbe Sveta (EU) 2021/1173 z dne 13. julija 2021 o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo in razveljavitvi Uredbe (EU) 2018/1488 (10),

—	ob upoštevanju sporočila Komisije z dne 25. aprila 2018 z naslovom Umetna inteligenca za Evropo (COM(2018)0237),

—	ob upoštevanju sporočila Komisije z dne 7. decembra 2018 z naslovom Usklajeni načrt za umetno inteligenco (COM(2018)0795),

—	ob upoštevanju sporočila Komisije z dne 8. aprila 2019 z naslovom Krepitev zaupanja v umetno inteligenco, osredotočeno na človeka (COM(2019)0168),

—	ob upoštevanju bele knjige Komisije z dne 19. februarja 2020 o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020)0065),

—	ob upoštevanju zelene knjige Komisije z dne 27. januarja 2021 o staranju – Spodbujanje solidarnosti in odgovornosti med generacijami (COM(2021)0050),

—	ob upoštevanju sporočila Komisije z dne 19. februarja 2020 z naslovom Evropska strategija za podatke (COM(2020)0066),

—	ob upoštevanju sporočila Komisije z dne 19. februarja 2020 z naslovom Oblikovanje digitalne prihodnosti Evrope (COM(2020)0067),

—	ob upoštevanju sporočil Komisije z dne 10. marca 2020 z naslovom Nova industrijska strategija za Evropo (COM(2020)0102) in z dne 5. maja 2021 z naslovom Posodobitev nove industrijske strategije iz leta 2020: močnejši enotni trg za okrevanje Evrope (COM(2021)0350),

—	ob upoštevanju sporočila Komisije z dne 30. septembra 2020 z naslovom Akcijski načrt za digitalno izobraževanje 2021–2027 – Novi temelji za izobraževanje in usposabljanje v digitalni dobi (COM(2020)0624),

—	ob upoštevanju sporočila Komisije z dne 9. marca 2021 z naslovom Digitalni kompas do leta 2030: evropska pot v digitalno desetletje (COM(2021)0118),

—	ob upoštevanju predloga sklepa Evropskega parlamenta in Sveta z dne 15. septembra 2021 o vzpostavitvi programa politike „Pot v digitalno desetletje“ leta 2030 (COM(2021)0574),

—	ob upoštevanju študije Komisije z dne 28. julija 2020 z naslovom European enterprise survey on the use of technologies based on artificial intelligence (Raziskava med evropskimi podjetji o uporabi tehnologij, ki temeljijo na umetni inteligenci),

—	ob upoštevanju študije Komisije z dne 26. novembra 2020 z naslovom Energy-efficient cloud computing technologies and policies for an eco-friendly cloud market (Energijsko učinkovite računalniške tehnologije računalništva v oblaku in politike za okolju prijazen trg računalništva v oblaku),

—	ob upoštevanju poročila Komisije z dne 19. februarja 2020 Evropskemu parlamentu, Svetu in Evropskemu ekonomsko-socialnemu odboru o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika (COM(2020)0064),

—	ob upoštevanju sklepov Sveta z dne 22. marca 2021 o strategiji EU za kibernetsko varnost v digitalnem desetletju,

—	ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco z dne 8. aprila 2019 z naslovom Ethics Guidelines for trustworthy AI (Etične smernice za zaupanja vredno umetno inteligenco),

—	ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco z dne 8. aprila 2019 z naslovom A definition of AI: main capabilities and disciplines (Opredelitev umetne inteligence – glavne zmogljivosti in discipline),

—	ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco z dne 26. junija 2019 z naslovom Policy and investment recommendations for trustworthy AI (Politična in naložbena priporočila za zaupanja vredno umetno inteligenco),

—	ob upoštevanju publikacije Unesca iz marca 2019 z naslovom I’d blush if I could: closing gender divides in digital skills through education (Če bi lahko, bi zardela – odpravljanje vrzeli v digitalnih spretnostih med spoloma z izobraževanjem),

—	ob upoštevanju poročila Agencije Evropske unije za temeljne pravice z dne 14. decembra 2020 z naslovom Getting the future right – Artificial intelligence and fundamental rights (Pravilno ravnanje v prihodnje – Umetna inteligenca in temeljne pravice),

—	ob upoštevanju priporočila Sveta Organizacije za gospodarsko sodelovanje in razvoj (OECD) z dne 22. maja 2019 o umetni inteligenci,

—	ob upoštevanju platforme Združenih narodov za dialog o razumevanju umetne inteligence – svetovni vrh platforme o umetni inteligenci za dobro,

—	ob upoštevanju načel voditeljev G20 o umetni inteligenci z dne 9. junija 2019,

—	ob upoštevanju poročila Svetovne zdravstvene organizacije z dne 28. junija 2021 o umetni inteligenci v zdravstvu in šestih vodilnih načelih za njeno zasnovo in uporabo,

—	ob upoštevanju mnenja na lastno pobudo Evropskega ekonomsko-socialnega odbora z dne 31. maja 2017 z naslovom Umetna inteligenca – Posledice za enotni (digitalni) trg, proizvodnjo, potrošnjo, zaposlovanje in družbo (11),

—	ob upoštevanju poročila skupine strokovnjakov za odgovornost in nove tehnologije z dne 21. novembra 2019 z naslovom Liability for Artificial Intelligence and other emerging digital technologies (Odgovornost za umetno inteligenco in druge digitalne tehnologije v vzponu),

—

ob upoštevanju publikacije Ad hoc odbora Sveta Evrope za umetno inteligenco (CAHAI) iz decembra 2020 z naslovom Towards Regulation of AI systems – Global perspectives on the development of a legal framework on Artificial Intelligence systems based on the Council of Europe’s standards on human rights, democracy and the rule of law (Na poti k ureditvi sistemov umetne inteligence – globalni vidiki razvoja pravnega okvira za sisteme umetne inteligence na podlagi standardov Sveta Evrope o človekovih pravicah, demokraciji in pravni državi),

—	ob upoštevanju delovnega dokumenta Evropskega univerzitetnega inštituta iz oktobra 2020 z naslovom Models of Law and Regulation for AI (Pravni in regulativni modeli za umetno inteligenco),

—	ob upoštevanju skupnega poročila Trend Micro Research, Medregijskega raziskovalnega inštituta ZN za kriminal in pravico ter Europola z dne 19. novembra 2020 z naslovom Malicious Uses and Abuses of Artificial Intelligence (Zlonamerna uporaba in zloraba umetne inteligence),

—	ob upoštevanju političnih smernic Komisije za obdobje 2019–2024 z naslovom Bolj ambiciozna Unija: Moj načrt za Evropo,

—	ob upoštevanju sodbe Sodišča Evropske unije z dne 16. julija 2020 v zadevi C-311/18 (Schrems II),

—	ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki (12),

—	ob upoštevanju svoje resolucije z dne 1. junija 2017 o digitalizaciji evropske industrije (13),

—	ob upoštevanju svoje resolucije z dne 6. oktobra 2021 o okviru politike EU za varnost v cestnem prometu za obdobje 2021–2030 – priporočila za naslednje korake v smeri vizije nič (14),

—	ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih (15),

—	ob upoštevanju svoje resolucije z dne 12. februarja 2019 o celoviti evropski industrijski politiki na področju umetne inteligence in robotike (16),

—	ob upoštevanju svoje resolucije z dne 12. februarja 2020 o avtomatiziranem sprejemanju odločitev: zagotavljanje varstva potrošnikov ter prostega pretoka blaga in storitev (17),

—	ob upoštevanju svoje resolucije z dne 20. oktobra 2020 s priporočili Komisiji o ureditvi civilne odgovornosti za področje umetne inteligence (18),

—	ob upoštevanju svoje resolucije z dne 20. oktobra 2020 o pravicah intelektualne lastnine pri razvoju tehnologije umetne inteligence (19),

—	ob upoštevanju svoje resolucije z dne 20. oktobra 2020 s priporočili Komisiji o okviru za etične vidike umetne inteligence, robotike in sorodne tehnologije (20),

—	ob upoštevanju svoje resolucije z dne 20. januarja 2021 o umetni inteligenci: tolmačenje in uporaba mednarodnega prava v primerih, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja (21),

—	ob upoštevanju svoje resolucije z dne 20. maja 2021 o oblikovanju digitalne prihodnosti Evrope: odprava ovir za delovanje enotnega digitalnega trga in izboljšana uporaba umetne inteligence za evropske potrošnike (22),

—	ob upoštevanju svoje resolucije z dne 25. marca 2021 o evropski strategiji za podatke (23),

—	ob upoštevanju svoje resolucije z dne 19. maja 2021 o umetni inteligenci v izobraževanju, kulturi in avdiovizualnem sektorju (24),

—	ob upoštevanju svoje resolucije z dne 6. oktobra 2021 o umetni inteligenci v kazenskem pravu in njeni uporabi v policiji in pravosodnih organih na področju kazenskih zadev (25),

—

ob upoštevanju študije svojega generalnega direktorata za notranjo politiko (GD IPOL) iz junija 2021 z naslovom Artificial Intelligence diplomacy – Artificial Intelligence governance as a new European Union external policy tool (Diplomacija umetne inteligence – upravljanje umetne inteligence kot novo orodje za zunanjo politiko Evropske unije),

—	ob upoštevanju študije GD IPOL iz maja 2021 z naslovom Challenges and limits of an open source approach to Artificial Intelligence (Izzivi in omejitve, povezani z odprtokodnim pristopom k umetni inteligenci),

—	ob upoštevanju študije GD IPOL iz maja 2021 z naslovom Artificial Intelligence market and capital flows – AI and the financial sector at crossroads (Trg umetne inteligence in kapitalski tokovi – umetna inteligenca in finančni sektor na razpotju),

—	ob upoštevanju študije GD IPOL iz junija 2021 z naslovom Improving working conditions using Artificial Intelligence (Izboljšanje delovnih pogojev z uporabo umetne inteligence),

—	ob upoštevanju študije GD IPOL iz maja 2021 z naslovom The role of Artificial Intelligence in the European Green Deal (Vloga umetne inteligence v evropskem zelenem dogovoru),

—	ob upoštevanju študije GD IPOL iz julija 2021 z naslovom Artificial Intelligence in smart cities and urban mobility (Umetna inteligenca v pametnih mestih in mobilnost v mestih),

—	ob upoštevanju študije GD IPOL iz julija 2021 z naslovom Artificial Intelligence and public services (Umetna inteligenca in javne storitve),

—	ob upoštevanju študije GD IPOL iz julija 2021 z naslovom European Union data challenge (Podatkovni izziv Evropske unije),

—	ob upoštevanju študije GD IPOL iz junija 2020 z naslovom Opportunities of Artificial Intelligence (Priložnosti, ki jih ponuja umetna inteligenca),

—	ob upoštevanju študije GD IPOL iz oktobra 2021 z naslovom Europe’s Digital Decade and Autonomy (Evropsko digitalno desetletje in neodvisnost),

—	ob upoštevanju študije GD IPOL iz januarja 2022 z naslovom Identification and assessment of existing and draft EU legislation in the digital field (Opredeljevanje in ocenjevanje veljavne in predlagane zakonodaje EU za digitalno področje),

—	ob upoštevanju študije službe Evropskega parlamenta za raziskave (EPRS) iz septembra 2020 z naslovom Civil liability regime for artificial intelligence – European added value assessment (Ureditev civilne odgovornosti za področje umetne inteligence – ocena evropske dodane vrednosti),

—	ob upoštevanju študije oddelka za znanstvene napovedi EPRS iz decembra 2020 z naslovom Data subjects, digital surveillance, AI and the future of work (Posamezniki, na katere se nanašajo osebni podatki, digitalni nadzor, umetna inteligenca in prihodnost dela),

—	ob upoštevanju študije EPRS iz septembra 2020 z naslovom European framework on ethical aspects of artificial intelligence, robotics and related technologies (Evropski okvir za etične vidike umetne inteligence, robotike in sorodne tehnologije),

—	ob upoštevanju študije EPRS iz marca 2020 z naslovom The ethics of artificial intelligence: Issues and initiatives (Etika umetne inteligence – vprašanja in pobude),

—	ob upoštevanju študije EPRS iz junija 2020 z naslovom Artificial Intelligence: How does it work, why does it matter, and what can we do about it? (Umetna inteligenca: kako deluje, zakaj je pomembna in kaj lahko storimo glede nje?),

—	ob upoštevanju študije EPRS iz julija 2020 z naslovom Artificial Intelligence and Law enforcement – Impact on Fundamental Rights (Umetna inteligenca ter preprečevanje, odkrivanje in preiskovanje kaznivih dejanj – vpliv na temeljne pravice),

—	ob upoštevanju študije EPRS iz junija 2020 z naslovom The impact of the General Data Protection Regulation (GDPR) on artificial intelligence (Vpliv splošne uredbe o varstvu podatkov na umetno inteligenco),

—	ob upoštevanju študije EPRS iz aprila 2020 z naslovom The White Paper on Artificial Intelligence (Bela knjiga o umetni inteligenci),

—	ob upoštevanju študije EPRS iz septembra 2021 z naslovom Regulating facial recognition in the EU (Zakonsko urejanje prepoznavanja obrazov v EU),

—	ob upoštevanju študije EPRS iz februarja 2021 z naslovom The future of work: Trends, challenges and potential initiatives (Prihodnost dela: trendi, izzivi in možne pobude),

—	ob upoštevanju študije EPRS iz junija 2021 z naslovom Robo-advisors: How do they fit in the existing EU regulatory framework, in particular with regard to investor protection? (Robotski svetovalci – Kako ustrezajo obstoječemu regulativnemu okviru EU, zlasti v zvezi z zaščito vlagateljev?),

—	ob upoštevanju študije EPRS iz septembra 2021 z naslovom China’s ambitions in artificial intelligence (Ambicije Kitajske na področju umetne inteligence),

—	ob upoštevanju študije EPRS iz junija 2021 z naslovom What if we chose new metaphors for artificial intelligence? (Kaj če bi za umetno inteligenco izbrali nove metafore?),

—	ob upoštevanju študije EPRS iz januarja 2018 z naslovom Understanding artificial intelligence (Razumevanje umetne inteligence),

—	ob upoštevanju študije EPRS iz julija 2021 z naslovom Tackling deepfakes in European policy (Boj proti globokim ponaredkom v evropski politiki),

—	ob upoštevanju delovnega dokumenta posebnega odbora za umetno inteligenco v digitalni dobi (AIDA) iz februarja 2021 z naslovom Artificial Intelligence and Health (Umetna inteligenca in zdravje),

—	ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz marca 2021 z naslovom Artificial Intelligence and the Green Deal (Umetna inteligenca in zeleni dogovor),

—	ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz marca 2021 z naslovom The External Policy Dimensions of AI (Zunanjepolitična razsežnost umetne inteligence),

—	ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz maja 2021 z naslovom AI and Competitiveness (Umetna inteligenca in konkurenčnost),

—	ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz junija 2021 z naslovom AI and the Future of Democracy (Umetna inteligenca in prihodnost demokracije),

—	ob upoštevanju delovnega dokumenta posebnega odbora AIDA iz junija 2021 z naslovom AI and the Labour Market (Umetna inteligenca in trg dela),

—	ob upoštevanju člena 54 Poslovnika,

—	ob upoštevanju poročila posebnega odbora AIDA (A9-0088/2022),

1. Uvod

opozarja, da je svet na pragu četrte industrijske revolucije; poudarja, da za razliko od svojih treh prejšnjih valov, ki jih je povzročila uvedba parnega stroja, elektrike in nato računalnikov, četrti val črpa svojo energijo iz velike količine podatkov v kombinaciji z zmogljivimi algoritmi in računalniško močjo; poudarja, da sedanjo digitalno revolucijo zaznamuje njen svetovni obseg, hitro zbliževanje in ogromen vpliv, ki ga imajo preboji na področju tehnologij v vzponu na države, gospodarstva, družbe, mednarodne odnose in okolje; priznava, da radikalne spremembe te razsežnosti različno vplivajo na različne dele družbe, odvisno od njihovih ciljev, geografske lege ali socialno-ekonomskega okvira; poudarja, da je treba digitalni prehod oblikovati ob polnem spoštovanju temeljnih pravic in tako, da digitalne tehnologije služijo človeštvu;

ugotavlja, da je digitalna revolucija hkrati spodbudila svetovno konkurenco zaradi izjemne gospodarske vrednosti in tehnoloških zmogljivosti, ki so se nabrale v gospodarstvih, ki največ sredstev namenjajo raziskavam, razvoju in trženju aplikacij umetne inteligence; ugotavlja, da sta digitalna konkurenčnost in odprta strateška avtonomija postala osrednja politična cilja v več državah; poudarja, da se odločevalci vse bolj zavedajo, da bi lahko nove tehnologije vplivale na geopolitični status moči celotnih držav;

poudarja, da Evropa, ki je stoletja postavljala mednarodne standarde, imela glavno vlogo pri tehnološkem napredku in bila prva v proizvodnji in uporabi vrhunskih proizvodov, zaostaja, saj razvija in vlaga v digitalni trg veliko manj kot vodilna gospodarstva, kot so ZDA ali Kitajska, medtem ko ostaja relativno konkurenčna glede rezultatov raziskav umetne inteligence; se zaveda tveganja, da bodo evropski akterji zaostali pri oblikovanju svetovnih standardov ter razvoju tehnologij in evropskih vrednot;

poudarja, prvič, da digitalna orodja vse bolj postajajo instrument manipulacij in zlorab v rokah nekaterih gospodarskih subjektov in v rokah avtokratskih vlad, da bi oslabili demokratične politične sisteme, kar lahko vodi v konflikt med političnimi sistemi; pojasnjuje, da digitalno vohunjenje, bojevanje nizke intenzivnosti in kampanje dezinformacij ogrožajo demokratične družbe;

poudarja, da narava digitalnih poslovnih modelov omogoča visoko stopnjo nadgradljivosti in mrežnih učinkov; poudarja, da je za številne digitalne trge značilna visoka stopnja tržne koncentracije, kar majhnemu številu tehnoloških platform, od katerih ima večina sedež v ZDA, omogoča, da vodijo komercializacijo prelomnih tehnoloških inovacij, privabijo najboljše zamisli, talente in podjetja ter dosežejo izjemno donosnost; opozarja, da se bo prevladujoči tržni položaj v podatkovnem gospodarstvu verjetno razširil na nastajajoče gospodarstvo umetne inteligence; poudarja, da ima sedež v EU le osem od trenutno najboljših 200 digitalnih podjetij; poudarja, da je v zvezi s tem izjemno pomembna vzpostavitev pravega enotnega digitalnega trga;

poudarja, da je zaradi tega globalno tekmovanje za vodilno vlogo v tehnologiji postala prednostna naloga v EU; poudarja, da mora EU ukrepati hitro in pogumno, saj bo morala sicer upoštevati pravila in standarde, ki jih postavijo drugi, in tvegala negativni vpliv na svojo politično stabilnost, socialno varnost, temeljne pravice, individualne svoboščine in gospodarsko konkurenčnost;

trdi, da je v četrtem valu industrijske revolucije umetna inteligenca ena od ključnih tehnologij v vzponu; ugotavlja, da je umetna inteligenca gonilna sila v digitalnem gospodarstvu, saj omogoča uvedbo inovativnih proizvodov in storitev, večjo izbiro potrošnikov in večjo učinkovitost proizvodnih procesov; ugotavlja, da naj bi prispevek umetne inteligence k svetovnemu gospodarstvu do leta 2030 presegel 11 bilijonov EUR; hkrati poudarja, da se zaradi tehnologij umetne inteligence lahko zmanjša vloga človeka; poudarja, da bi morala umetna inteligenca ostati zaupanja vredna tehnologija, osredotočena na človeka, in ne bi smela nadomestiti človekove avtonomije ali pomeniti izgubo osebne svobode; poudarja, da je treba zagotoviti, da bo četrta industrijska revolucija vključujoča in da nihče ne bo zapostavljen;

meni, da poteka svetovno tekmovanje za vodilno vlogo na področju umetne inteligence; poudarja, da tehnologije umetne inteligence obljubljajo ustvarjanje ogromne gospodarske vrednosti za gospodarstva, ki jih donosno razvijajo, proizvajajo in uvajajo, pa tudi za države, kjer se ustvarja ta vrednost; poudarja, da umetna inteligenca ni vsemogočna tehnologija, temveč učinkovit sklop orodij in tehnik, ki jih je mogoče uporabiti v korist družbe; pojasnjuje, da je način delovanja tehnologij odvisen od tega, kako jih oblikujemo; poudarja, da je EU izrazila namero, da bo uvedla regulativni okvir za umetno inteligenco; kljub temu poudarja, da je za EU bistveno, da lahko opredeli regulativni pristop, vključno z varstvom temeljnih pravic in svoboščin, in da deluje kot svetovna določevalka standardov; zato poudarja pomen evropske konkurenčnosti na področju umetne inteligence in zmožnost EU, da oblikuje regulativno okolje na mednarodni ravni; poudarja, da lahko nekatere vrste uporabe umetne inteligence pomenijo individualna in družbena tveganja, ki lahko ogrozijo temeljne pravice, zato bi jih morali obravnavati politični odločevalci, da bi umetna inteligenca resnično postala orodje, ki služi ljudem in družbi ter skupnemu dobremu in sledi javnemu interesu;

ugotavlja, da so za uspeh evropskih akterjev v digitalni dobi in prevzem vodilnega tehnološkega položaja na področju umetne inteligence potrebni jasen regulativni okvir, politična zavezanost in bolj napredno razmišljanje, ki jih trenutno pogosto primanjkuje; ugotavlja, da lahko na podlagi takega pristopa umetna inteligenca koristi tako državljanom kot podjetjem EU in da ta prinaša veliko priložnost za spodbujanje konkurenčnosti, tudi v smislu blaginje in dobrega počutja; poudarja, da je treba regulativne okvire oblikovati tako, da ne bodo ustvarjale neupravičenih ovir za uspešno delovanje evropskih akterjev v digitalni dobi, zlasti za zagonska podjetja ter mala in srednja podjetja; poudarja, da bi bilo treba znatno povečati zasebne in javne naložbe, da se ustvari okolje, v katerem bi se na naši celini pojavilo in razvijalo več evropskih zgodb o uspehu;

10.

poudarja, da je hiter tehnološki napredek, ki ga prinaša umetna inteligenca, vse bolj neločljivo povezan z večino področij človekove dejavnosti in bo vplival tudi na preživetje vseh, ki nimajo potrebnih znanj in spretnosti, da bi se dovolj hitro prilagodili tem novim tehnologijam; poudarja, da doseganje digitalne pismenosti z izpopolnjevanjem in preusposabljanjem sicer lahko pomaga reševati številna socialno-ekonomska vprašanja, ki iz tega izhajajo, vendar bi bilo treba te učinke obravnavati tudi v okviru sistemov socialne varnosti, mestne in podeželske infrastrukture ter demokratičnih procesov;

11.

poudarja, da je treba pri digitalnem prehodu upoštevati cilje in interese žensk in ranljivih skupin; v zvezi s tem poudarja, da je bilo leta 2018 med strokovnjaki na področju umetne inteligence le 22 % žensk, kar je težava, ki le ohranja in utrjuje stereotipe in predsodke; priznava, da je treba pri uporabi tehnologij umetne inteligence ohraniti pravice do enakosti pred zakonom, zasebnosti, svobode izražanja ter sodelovanja v kulturnem in političnem življenju, zlasti za manjšinske skupnosti;

2. Potencialne priložnosti, tveganja in ovire pri uporabi umetne inteligence: šest študij primerov, ki jih je preučil posebni odbor AIDA

12.

opozarja, da umetna inteligenca temelji na programski opremi, ki uporablja verjetnostne modele in algoritemsko napovedovanje za niz specifičnih ciljev; poudarja, da je izraz „umetna inteligenca“ krovni izraz, ki zajema širok spekter starih in novih tehnologij, tehnik in pristopov, imenovanih tudi „sistemi umetne inteligence“, kar pomeni vse sisteme, ki temeljijo na strojih in imajo pogosto skupno samo to, da jih vodi določen sklop ciljev, ki jih opredeli človek, z različno stopnjo avtonomije pri svojem delovanju in da lahko na podlagi razpoložljivih podatkov dajejo napovedi, priporočila ali odločitve; ugotavlja, da so nekatere od teh tehnologij že zelo razširjene, medtem ko se druge še razvijajo ali pa so celo le hipotetični koncepti, ki se bodo morda uresničili v prihodnosti ali pa sploh ne;

13.

poudarja, da je med simbolično umetno inteligenco, ki je bila od 50. do 90. let 20. stoletja glavni pristop k umetni inteligenci, in umetno inteligenco, ki temelji na strojnem učenju in podatkih ter prevladuje od leta 2000 naprej, velika razlika; pojasnjuje, da se je v prvem valu umetna inteligenca razvijala s prevajanjem znanja in izkušenj strokovnjakov v nabor pravil, ki jih je nato izvajal stroj;

14.

ugotavlja, da so zaradi avtomatiziranih procesov učenja algoritmov, temelječih na obdelavi velikih količin podatkov, sposobnosti združevanja vhodnih podatkov z več različnih virov in oblikovanja kompleksnih predstavitev okolja ter prepoznavanja vzorcev sistemi umetne inteligence v drugem valu postali bolj zapleteni, avtonomni in nepregledni, kar lahko vodi do težje razložljivih rezultatov; poudarja, da je zato sedanjo umetno inteligenco mogoče razdeliti na veliko različnih podvrst in tehnik; globoko učenje je na primer podpodročje strojnega učenja, ki je tudi samo podpodročje umetne inteligence;

15.

ugotavlja, da lahko sedanja umetna inteligenca kljub veliko večji učinkovitosti in zmogljivosti v primerjavi s simbolično umetno inteligenco zaradi znatnega povečanja računalniških zmogljivosti še vedno rešuje le jasno določene naloge, povezane z ozkimi deli posameznih področij, kot sta šah ali prepoznavanje obrazov, in njeno programiranje ni namenjeno popolnemu prepoznavanju dejanj, ki jih izvaja sistem umetne inteligence; poudarja, da sistemi umetne inteligence – v nasprotju s tem, kar pove njihovo ime – nimajo „inteligence“ v človeškem pomenu; poudarja, da se zato imenuje „omejena“ oziroma „šibka“ umetna inteligenca in je še vedno le orodje za priporočanje in predvidevanje; ugotavlja, da na primer avtomobili brez voznika delujejo na podlagi kombinacije različnih sistemov umetne inteligence za posamezne naloge, ki lahko skupaj zagotavljajo tridimenzionalno sliko okolja, v katerem je vozilo, in s tem njegovemu sistemu upravljanja omogočajo sprejemanje odločitev;

16.

izpostavlja, da veliko strahov pred umetno inteligenco temelji na hipotetičnih konceptih, kot so splošna umetna inteligenca, umetna superinteligenca in singularnost, ki bi v teoriji lahko privedli k strojni inteligenci, ki bi bila na številnih področjih močnejša od ljudi; poudarja, da obstajajo pomisleki o tem, ali je to hipotetično umetno inteligenco v okviru naših tehnologij in naravnih zakonov sploh mogoče doseči; kljub temu meni, da morajo zakonodajalci obravnavati tveganja, ki jih trenutno predstavlja sprejemanje odločitev na podlagi umetne inteligence, saj je dokazano jasno, da je škodljive učinke, kot sta rasna in spolna diskriminacija, že mogoče pripisati določenim primerom, v katerih je bila umetna inteligenca uvedena brez zaščitnih ukrepov;

17.

poudarja, da ima večina sistemov umetne inteligence, ki se trenutno uporabljajo, nizko tveganja; pri tem se na primer sklicuje na samodejno prevajanje, t. i. stroje Eureka, stroje za igranje iger in robote, ki izvajajo ponavljajoče se proizvodne procese; ugotavlja, da je nekatere primere uporabe mogoče opredeliti kot tvegane in da so za takšne primere potrebni regulativni ukrepi in učinkoviti zaščitni ukrepi, če ti še niso vzpostavljeni;

18.

spodbuja javno razpravo o tem, kako raziskati ogromen potencial umetne inteligence, ki je osnovan na temeljnih evropskih vrednotah, načelih preglednosti, razložljivosti, pravičnosti, odgovornosti in verodostojnosti ter načelu, da bi morala biti umetna inteligenca in robotika osredotočena na človeka in ju je treba razvijati tako, da bosta dopolnjevali človekove dejavnosti; poudarja, da lahko umetna inteligenca zagotavlja koristi kot orodje za uporabnike in strokovnjake na številnih področjih človeškega življenja, od trajnostnosti do zdravstvenega varstva, ne da bi pri tem ogrozila zmožnost ljudi, da delujejo in svobodno odločajo; poudarja, da bi bilo treba dogovorjena etična načela in zahteve za umetno inteligenco operacionalizirati na vseh področjih uporabe umetne inteligence, in sicer s potrebnimi zaščitnimi ukrepi, ki bodo povečali zaupanje državljanov in jim omogočili, da sprejmejo prednosti umetne inteligence;

19.

poudarja, da se lahko stopnja tveganja posamezne aplikacije umetne inteligence znatno razlikuje glede na verjetnost in resnost škode; zato poudarja, da bi bilo treba pravne zahteve ustrezno prilagoditi v skladu s pristopom, ki temelji na tveganju, in ustrezno upoštevati previdnostno načelo, kadar je to upravičeno; poudarja, da so v takih trenutnih ali prihodnjih primerih, ko sistemi umetne inteligence v določenem primeru uporabe predstavljajo veliko tveganje za temeljne in človekove pravice, potrebni popoln človeški nadzor in regulativni ukrepi ter da morajo glede na hitrost tehnološkega razvoja regulativni sistemi umetne inteligence z visokim tveganjem biti prilagodljiv in usmerjeni v prihodnost;

20.

ponazarja, da je v tem poročilu poglobljeno obravnavanih šest študij primerov na področju umetne inteligence in so navedene priložnosti, ki jih ponuja umetna inteligenca na vsakem od področij, tveganja, ki zahtevajo razmislek, in ovire, ki Evropi preprečujejo, da bi popolnoma izkoristili prednosti umetne inteligence; poudarja, da omenjene študije primerov predstavljajo nekatere najpomembnejše vrste trenutne uporabe umetne inteligence in hkrati zadevajo nekatere glavne teme z javnih predstavitev, ki jih je v svojem mandatu organiziral posebni odbor AIDA, tj. zdravje, zeleni dogovor, zunanjo politiko in varnost, konkurenčnost, prihodnost demokracije ter trg dela;

a) Umetna inteligenca in zdravje

21.

meni, da lahko metodološka analiza velikih količin podatkov, tudi s pomočjo umetne inteligence, omogoči nove rešitve ali izboljša obstoječe tehnike v zdravstvenem sektorju, ki bi lahko močno pospešile znanstvene raziskave, rešile človeška življenja in izboljšale oskrbo pacientov z inovativnim zdravljenjem in boljšim diagnosticiranjem ter omogočanjem spodbudnega okolja za zdrav način življenja; poudarja, da lahko sistemi umetne inteligence prispevajo tudi k dostopnosti, odpornosti in vzdržnosti zdravstvenih sistemov, hkrati pa zagotavljajo konkurenčno prednost evropskemu sektorju IKT in zdravstvenemu sektorju, če se tveganja, povezana z njima, ustrezno obvladujejo;

22.

poudarja, da bi morala uporaba umetne inteligence v zdravstvenem sektorju temeljiti na strogih etičnih zahtevah, kot so pravičen dostop do zdravstvenega varstva, zasebnost, odgovornost, preglednost, razložljivost, zanesljivost, vključenost in reprezentativnost naborov podatkov ter stalni človeški nadzor; poudarja, da bi bilo treba pri načrtovanju sistemov, ki temeljijo na umetni inteligenci, upoštevati tveganje neustrezne dodelitve sredstev posameznikom na podlagi napačne ali pristranske kategorizacije, prednostnega razvrščanja ali nedelujoče tehnologije, kar bi privedlo do napačne diagnoze, slabega zdravljenja ali pa sploh do odsotnosti zdravljenja; meni, da bi morali najvišji etični standardi veljati za vse aplikacije zdravstvenega varstva in da bi bilo treba etična pravila določiti v zelo zgodnji fazi njihovega razvoja in zasnove, tj. načelo vgrajene etike; poudarja, da lahko avtomatizirano sprejemanje odločitev na področju zdravstvenih aplikacij pomeni tveganje za dobro počutje pacientov in temeljne pravice, ter poudarja, da mora imeti umetna inteligenca podporno vlogo v zdravstvenem varstvu, kjer bi bilo treba vedno ohraniti strokovni človeški nadzor; poziva, da umetna inteligenca pri medicinskih diagnozah v javnih zdravstvenih sistemih vzdržuje odnos med pacientom in zdravnikom in da je vedno v skladu s Hipokratovo prisego; vendar ugotavlja, da umetna inteligenca izboljšuje natančnost presejalnih pregledov in že v več primerih prekaša zdravniške diagnoze; meni, da obstoječi okviri odgovornosti ne zagotavljajo zadostne pravne varnosti in ne zagotavljajo pravice pacientov do odškodnine v primeru napačne diagnoze in nepravilnega zdravljenja z umetno inteligenco; v zvezi s tem pozdravlja prihodnji zakonodajni predlog o odgovornosti na področju umetne inteligence; ugotavlja, da je pomembno zaščititi zdravstvene delavce kot uporabnike sistemov umetne inteligence in paciente kot končne prejemnike ter jim zagotoviti zadostne in pregledne informacije;

23.

poudarja, da se rešitve, ki temeljijo na umetni inteligenci, že uporabljajo ali preizkušajo v kliničnih okoljih, da bi podprli diagnosticiranje, prognozo, zdravljenje in vključevanje pacientov, s čimer bi pospešili in izboljšali zdravljenje ter zmanjšali nepotrebne posege; poleg tega ugotavlja, da lahko umetna inteligenca izboljša personalizirano medicino in oskrbo pacientov; ugotavlja, da se umetna inteligenca trenutno uporablja na številnih zdravstvenih področjih, vključno z javnim zdravjem, storitvami oskrbe, samooskrbo in zdravstvenimi sistemi; ugotavlja, da podatki igrajo pomembno vlogo; ugotavlja, da obstajajo obetavne aplikacije za umetno inteligenco pri pridobivanju informacij iz slik in drugih medicinskih naprav kot vhodnih podatkov za kasnejšo analizo, in ugotavlja, da se pričakuje, da bodo algoritmi globokega učenja prinesli tudi kvantitativni preskok pri številnih kliničnih nalogah;

24.

poudarja, da je mogoče tehnologije umetne inteligence uporabiti za raziskave, razvoj in množično proizvodnjo zdravil ter pospešiti razvoj novih zdravil, zdravljenj in cepiv z nižjimi stroški; ugotavlja, da lahko umetna inteligenca pomaga napovedati izid odzivov na zdravljenje in omogoči zdravnikom, da prilagodijo terapevtske strategije posameznim genetskim ali fiziološkim značilnostim z vse večjo stopnjo natančnosti, če temeljijo na visokokakovostnih podatkih in zanesljivih predpostavkah, s čimer se poveča učinkovitost preventivnega zdravljenja, pod pogojem, da so izpolnjene vse etične zahteve glede strokovnega nadzora nad kliničnim preverjanjem umetne inteligence, zasebnosti, varstva podatkov in informirane privolitve; ugotavlja, da je mogoče velepodatke na področju zdravja analizirati s pomočjo umetne inteligence, da bi pospešili njihovo obdelavo; poudarja, da je pomembno zagotoviti, da je visokozmogljivostno računalništvo interoperabilno z umetno inteligenco, saj so glavni gospodarski sektorji, vključno s proizvodnjo, zdravstvenim varstvom in farmacevtsko industrijo, odvisni od visokozmogljivostnega računalništva;

25.

poudarja, da bi lahko rešitve, ki temeljijo na umetni inteligenci, omogočile prilagajanje zdravljenja in razvoj zdravil posebnim potrebam pacientov ter izboljšale sodelovanje z deležniki in udeleženci v zdravstvenem sistemu; meni, da umetna inteligenca in dostop do ustreznih, posodobljenih in visokokakovostnih anonimiziranih in reprezentativnih naborov podatkov v skladu s pravili EU o varstvu osebnih podatkov pomaga zdravstvenim delavcem pri zagotavljanju boljše oskrbe pacientov ter bolj individualiziranih povratnih informacij, smernic in podpore, s čimer se spodbuja varnost pacientov in povečuje učinkovitost zdravljenja; poudarja, da je to lahko še posebej koristno pri izbiri in ocenjevanju vse večjega obsega znanstvenih dognanj za pridobivanje ustreznih vpogledov za zdravstvene delavce; poudarja, da bi morali imeti državljani iz vseh držav članic možnost, da svoje zdravstvene podatke posredujejo izvajalcem zdravstvenega varstva in organom po lastni izbiri; v zvezi s tem poudarja, da je treba ustvariti spodbude za izpopolnjevanje, prekvalificiranje in usposabljanje delavcev v zdravstvenih poklicih;

26.

meni, da je boj proti COVID-19 pospešil raziskave in uvajanje novih tehnologij, zlasti aplikacij umetne inteligence, v prizadevanjih za boljše odkrivanje primerov, klinično oskrbo in raziskave terapevtikov, ter izpostavil koristnost umetne inteligence ter pomen financiranja in visokokakovostnih podatkov za učinkovito spremljanje in modeliranje širjenja izbruhov nalezljivih bolezni v skladu z zakonodajo o varstvu podatkov; vendar ugotavlja, da so izkušnje z uporabo umetne inteligence med pandemijo COVID-19 razkrile nekatere omejitve pri uporabi umetne inteligence v medicinski diagnostiki (26);

27.

poudarja potencial sistemov umetne inteligence za razbremenitev zdravstvenih sistemov in zlasti zdravstvenih delavcev ter kot prispevek k rešitvam za zagotavljanje oskrbe za hitro starajoče se prebivalstvo v Evropi in po svetu ter za njegovo zaščito pred nevarnimi boleznimi;

28.

poudarja, da lahko uporaba varnih in učinkovitih aplikacij umetne inteligence za upravne naloge, ki ne zahtevajo človeške dejavnosti, zdravstvenim delavcem prihrani veliko časa, ki ga lahko namesto tega namenijo stikom s pacienti;

29.

poudarja, da lahko aplikacije za zdravje potrošnikov, ki temeljijo na umetni inteligenci, pomagajo spremljati zdravstveno stanje posameznika prek vsakodnevnih naprav, kot so pametni telefoni, kar uporabnikom omogoča prostovoljno zagotavljanje podatkov, ki so lahko podlaga za zgodnje opozarjanje v zvezi z življenjsko nevarnimi boleznimi, kot so možganska kap ali zastoj srca; poudarja, da lahko aplikacije v zdravstvu, ki temeljijo na umetni inteligenci, tudi spodbujajo zdravo vedenje in krepijo odgovorno skrb za lastno zdravje, tako da pacientom nudijo dodatna sredstva za spremljanje lastnega zdravja in življenjskega sloga ter izboljšajo natančnost medicinskih preiskav s strani zdravstvenih delavcev; vendar opozarja na posebno občutljivost osebnih zdravstvenih podatkov in v zvezi s tem na tveganje kršitev ali zlorab podatkov ter poudarja, da morajo za vsako zdravstveno aplikacijo veljati visoki standardi kibernetske varnosti;

30.

poudarja, da je umetna inteligenca v zdravstvenem sektorju še posebej odvisna od velike količine osebnih podatkov ter njihove izmenjave, visoke kakovosti podatkov, njihove dostopnosti in interoperabilnosti, da bi sprostila ves potencial umetne inteligence in zdravja; poudarja, da je treba olajšati povezovanje elektronskih zdravstvenih zapisov s sistemi za e-predpisovanje zdravil, tako da lahko zdravstveni delavci, ki sodelujejo pri oskrbi bolnikov, dostopajo do potrebnih informacij o pacientu, če ta s tem soglaša;

31.

pozdravlja vzpostavitev evropskega zdravstvenega podatkovnega prostora za zbiranje zelo kakovostnih podatkov za uporabo v zdravstvenem sektorju; meni, da bi medsebojno povezovanje in interoperabilnost infrastrukture visokozmogljivostnega računalništva z evropskim zdravstvenim podatkovnim prostorom zagotovila razpoložljivost obsežnih, visokokakovostnih naborov zdravstvenih podatkov, ki so pomembni za raziskave in zdravljenje stanj, zlasti redkih bolezni in boleznih pri otrocih;

32.

poudarja, da je treba vzpostaviti zaupanje s spodbujanjem interoperabilnosti in večjega sodelovanja med različnimi zdravstvenimi delavci, ki oskrbujejo iste paciente; poudarja, da je treba zdravstvenim delavcem ponuditi usposabljanje o tehnikah in pristopih umetne inteligence; poudarja, da se je treba boriti proti nezaupanju, na primer z izkoriščanjem celotnega potenciala anonimizacije in psevdonimizacije podatkov, ter bolje obveščati državljane, zdravstvene delavce in nosilce odločanja o uporabi, koristih in tveganjih umetne inteligence na področju zdravja, pa tudi razvijalce umetne inteligence o izzivih in tveganjih obdelave občutljivih podatkov na tem področju;

33.

poleg tega meni, da so za spodbujanje ekosistema zaupanja med državljani in ustrezno zaščito zdravstvenih podatkov pred morebitnimi zlorabami in nezakonitim dostopom potrebni zavezujoči in visoki etični in pravni standardi ter izvršljiva pravna sredstva; se strinja s Komisijo, da bi morali državljani imeti varen dostop do celovitega elektronskega zdravstvenega zapisa o njihovem zdravju in bi morali ohraniti nadzor nad osebnimi podatki o svojem zdravju in možnost posredovanja teh podatkov pooblaščenim tretjim osebam, hkrati pa zagotoviti učinkovito varstvo osebnih podatkov in močno kibernetsko varnost; poudarja, da bi bilo treba prepovedati nepooblaščen dostop in razširjanje ter da je treba zagotoviti varstvo osebnih podatkov pacientov v skladu z zakonodajo o varstvu podatkov;

34.

v zvezi s tem poudarja tveganje pristranskih odločitev, ki vodijo v diskriminacijo in kršitve človekovih pravic; zato poudarja, da je treba nepristransko preverjati uporabljene algoritme in nabore podatkov ter spodbujati nadaljnje raziskave metod in pristranskosti v usposobljenih sistemih umetne inteligence, da bi se izognili neetičnim in diskriminatornim sklepom na področju podatkov o zdravju ljudi;

35.

poudarja, da je za premagovanje izzivov, kot sta pravna negotovost in pomanjkanje sodelovanja v zdravstvenem sektorju, potrebna učinkovita in enotna uporaba splošne uredbe o varstvu podatkov po vsej EU; poudarja, da takšni izzivi v nekaterih primerih vodijo do zamud pri znanstvenih odkritjih in birokracije pri zdravstvenih raziskavah; poudarja, da bi lahko z vzpostavitvijo evropskega zdravstvenega podatkovnega prostora, ki bi zagotavljal pravice pacientov in prenosljivost podatkov, okrepili sodelovanje in spodbudili izmenjavo podatkov za raziskave in inovacije v evropskem zdravstvenem sektorju;

36.

ugotavlja, da lahko umetna inteligenca prispeva k hitremu napredku novih tehnologij, kot je slikanje možganov, ki se že veliko uporabljajo v medicini, hkrati pa predstavljajo veliko tveganje za človekov vpliv in uveljavljanje temeljnih pravic, ne da bi bilo potrebno soglasje; je zaskrbljen zaradi pomanjkanja zakonodaje o nevroloških podatkih in meni, da bi si morala EU prizadevati postati vodilna v svetu pri razvoju varnih nevroloških tehnologij;

b) Umetna inteligenca in zeleni dogovor

37.

poudarja, da sta ključni prednostni področji Komisije v prihodnjih letih Evropa, pripravljena na digitalno dobo, in zeleni dogovor; poudarja, da je treba poskrbeti, da bo digitalni prehod prispeval k doseganju trajnostnega razvoja in spodbujal zeleni prehod; meni, da je treba za to pospešiti razvoj inovacij, združljivih s podnebnimi cilji in okoljskimi standardi EU; poudarja, da lahko aplikacije umetne inteligence prinesejo okoljske in gospodarske koristi ter povečajo zmogljivosti predvidevanja, ki prispevajo k boju proti podnebnim spremembam, doseganju ciljev evropskega zelenega dogovora in uresničitvi cilja, da Evropa do leta 2050 postane prva podnebno nevtralna celina; meni, da bi lahko z uporabo umetne inteligence do leta 2030 zmanjšali emisije toplogrednih plinov na svetovni ravni za do 4 % (27); meni, da bi lahko po nekaterih ocenah tehnologije IKT zmanjšale emisije toplogrednih plinov v obsegu, ki je desetkrat večji kot njihov lastni odtis, (28) vendar priznava, da so za to potrebne preudarne odločitve o zasnovi in regulativni ukrepi; hkrati opozarja, da ima lahko vse večja poraba energije pri shranjevanju velikih naborov podatkov, potrebnih za usposabljanje sistemov umetne inteligence, tudi negativen učinek; opozarja, da podatkovni promet in infrastruktura IKT danes porabita približno 7 % svetovne električne energije, ta delež pa naj bi se brez ustreznih zaščitnih ukrepov do leta 2030 povečal na 13 %; dodaja, da lahko k temu negativnemu učinku prispeva tudi intenzivna uporaba surovin za izdelavo mikroprocesorjev in visokotehnoloških naprav, ki uporabljajo umetno inteligenco; poudarja, da je treba za to, da bo pozitiven odtis umetne inteligence velik, hkrati pa njen okoljski in podnebni odtis majhen, obravnavati te neposredne in posredne negativne vplive na okolje, sistemi umetne inteligence pa morajo biti zasnovani tako, da spodbujajo trajnostno porabo, omejujejo uporabo virov in porabo energije, preprečujejo nepotrebne postopke predelave in preprečujejo škodo za okolje; poudarja, da za obravnavanje vpliva sektorja IKT na okolje potrebujemo ustrezne informacije in podatke;

38.

je zaskrbljen, ker je samo šest držav članic v prizadevanjih za doseganje ciljev zelenega dogovora v središče postavilo uporabo aplikacij umetne inteligence; meni, da lahko umetno inteligenco uporabljamo za zbiranje in organizacijo podatkov, pomembnih za okoljsko načrtovanje, odločanje in upravljanje ter spremljanje napredka okoljskih politik, na primer za čistejši zrak, kjer lahko aplikacije umetne inteligence spremljajo onesnaževanje in opozarjajo na nevarnosti; poudarja, da bi se lahko tovrstne rešitve na podlagi umetne inteligence in digitalne tehnologije uporabljale v več sektorjih, da bi razširili z viri gospodarne rešitve;

39.

poudarja, da so sistemi, ki temeljijo na umetni inteligenci, pomembni pri razvoju pametnih mest in vasi, saj se z njimi optimizira raba virov in poveča odpornost infrastrukture, in sicer tudi na podlagi napovedovanja in zmanjševanja prometa, pametnega upravljanja energije, nujne pomoči in odpadkov, kot že lahko opazimo v več mestih in občinah po vsej EU; poudarja, da lahko na umetni inteligenci temelječe rešitve nadalje pripomorejo k načrtovanju arhitekturnih, gradbenih in inženirskih procesov ter zmanjšanju emisij, časa gradnje, stroškov in odpadkov, ki so povezani z njimi;

40.

poudarja, da energetski prehod ne bo mogoč brez digitalizacije; poudarja, da lahko sistemi umetne inteligence spremljajo, optimizirajo in zmanjšajo porabo in proizvodnjo energije ter pomagajo pri vključevanju energije iz obnovljivih virov v obstoječa omrežja električne energije; poudarja, da lahko pametni števci, učinkovita razsvetljava, računalništvo v oblaku in porazdeljena programska oprema skupaj s komponento umetne inteligence preoblikujejo vzorce porabe energije in spodbujajo odgovorno uporabo;

41.

poudarja, da je zaradi vse bolj zapletenega sistema energetskega prehoda, za katerega so značilne večja proizvodnja iz obnovljivih virov, ki je lahko nezanesljiva, in spremembe pri uravnavanju obremenitev, za zanesljivo oskrbo z energijo potreben vse bolj avtomatiziran nadzor; poudarja, da lahko umetna inteligenca prispeva k zanesljivosti oskrbe, zlasti pri upravljanju, spremljanju, vzdrževanju in nadzoru vodnih, plinskih in električnih omrežij; hkrati opozarja, da bodo z omrežnimi tehnologijami, okrepljenimi z umetno inteligenco, uvedeni milijoni inteligentnih komponent s skupnimi ranljivostmi in da bodo zato energetska omrežja izpostavljena napadu na številnih točkah, kritična infrastruktura pa bo bolj ranljiva, če ne bodo uvedeni ustrezni ukrepi za kibernetsko varnost; meni, da so za pametna omrežja potrebne dodatne naložbe in raziskave;

42.

meni, da bi umetna inteligenca in druge digitalne aplikacije za mobilnost in prevoz lahko zmanjšale prometne tokove in izboljšale varnost v cestnem prometu, tudi s povečanjem učinkovitosti prevoznih sistemov; poudarja, da lahko umetna inteligenca prispeva k zasnovi in upravljanju energije energijsko učinkovitih vozil; poudarja, da so se možnosti za storitve prevoza, ki temeljijo na aplikacijah, ter za skupno vožnjo in souporabo avtomobilov znatno povečale in da se umetna inteligenca pri teh storitvah mobilnosti pogosto uporablja za učinkovito načrtovanje poti in izbiro prevzemnih točk;

43.

meni, da ima lahko umetna inteligenca preobrazbeno vlogo v kmetijskem sektorju, saj podpira razvoj novih metod pridelovanja, vključno z napovedovanjem pridelka in upravljanjem kmetijskih virov; poudarja, da je kmetijstvo ključni sektor, v katerem lahko umetna inteligenca pripomore k zmanjšanju emisij in uporabe pesticidov, gnojil, kemikalij in vode, tako da se natančno določijo njihove potrebne količine in skrči površina, na kateri se uporabljajo; nadalje poudarja, da lahko umetna inteligenca pomaga obnoviti biotsko raznovrstnost s spremljanjem ogroženih vrst in dejavnosti, ki povzročajo krčenje gozdov; poudarja, da je treba oblikovati smernice za uvajanje in standardizirane metodologije ocenjevanja, da bi podprli „zeleno umetno inteligenco“ na področjih, kot so pametna omrežja, precizno kmetovanje ter pametna in trajnostna mesta ter skupnosti; meni, da lahko umetna inteligenca v obliki preciznega kmetovanja optimizira proizvodnjo hrane na kmetijah in širše gospodarjenje z zemljišči, in sicer z izboljšanjem načrtovanja rabe zemljišč, napovedovanjem sprememb v rabi zemljišč in spremljanjem zdravja poljščin, ima pa tudi potencial, da spremeni potek napovedanih ekstremnih vremenskih pojavov;

44.

poudarja, da lahko umetna inteligenca prispeva h krožnemu gospodarstvu, tako da povečuje učinkovitost proizvodnje, potrošnje in recikliranja ter ravnanje, gospodarno z viri, poleg tega pa povečuje preglednost uporabe materialov, na primer v zvezi z etičnim pridobivanjem surovin in zmanjšanjem količine odpadkov; poudarja, da bi lahko umetna inteligenca podjetjem omogočila boljši vpogled v emisije, ki jih proizvajajo, tudi vzdolž vrednostne verige, s čimer bi pripomogla k prilagajanju in doseganju individualnih ciljev zmanjšanja emisij; poudarja, da lahko digitalna orodja podjetjem pomagajo pri izvajanju potrebnih korakov za bolj trajnostno delovanje, kar zlasti velja za mala in srednja podjetja, ki morda za to sicer ne bi imela sredstev;

45.

poudarja, da umetne inteligence trenutno ni mogoče uporabljati za celovito merjenje vplivov na okolje; meni, da je potrebnih več študij o vlogi umetne inteligence pri zmanjševanju vplivov na okolje; poudarja, da je za boljše razumevanje te problematike in večji napredek na podlagi rešitev, ki jih ponuja umetna inteligenca, potrebnih več okoljskih podatkov; izpostavlja, da bi se z uporabo umetne inteligence za sistematično povezovanje podatkov o emisijah CO2 s podatki o vzorcih proizvodnje in potrošnje, dobavnih verigah in logističnih poteh lahko zaznavale dejavnosti, ki imajo pozitiven oziroma negativen vpliv;

c) Zunanja politika in varnostna razsežnost umetne inteligence

46.

ponovno poudarja, da si EU prizadeva za svetovni sporazum o skupnih standardih za odgovorno uporabo umetne inteligence, ki je bistvenega pomena; vendar načeloma meni, da lahko podobno misleče demokracije sodelujejo pri skupnem oblikovanju mednarodne razprave o okviru za umetno inteligenco, pri kateri se bodo spoštovale človekove pravice in pravna država, ter pri oblikovanju nekaterih skupnih norm in načel, tehničnih in etičnih standardov ter smernic za odgovorno ravnanje držav, zlasti pod okriljem medvladnih organizacij, kot sta OZN in OECD, ter tako na mednarodni ravni spodbujajo multilateralizem, trajnostni razvoj, interoperabilnost in izmenjavo podatkov; podpira delo odprte delovne skupine OZN za informacijsko in komunikacijsko tehnologijo in mednarodno varnost; poudarja, da so ukrepi za utrjevanje zaupanja bistveni za krepitev dialoga in zaupanja; zato poziva k večji preglednosti pri uporabi umetne inteligence, da bi zagotovili večjo odgovornost;

47.

pozdravlja nedavne večstranske pobude za oblikovanje smernic in standardov za etično odgovorno uporabo umetne inteligence, kot so načela OECD o umetni inteligenci, svetovno partnerstvo za umetno inteligenco, priporočilo Unesca o etiki umetne inteligence, svetovni vrh o umetni inteligenci, priporočila Sveta Evrope za morebitni pravni okvir za umetno inteligenco in Unicefove smernice o politiki umetne inteligence za otroke; pozdravlja prizadevanja na mednarodni ravni za določitev standardov o umetni inteligenci in napredek pri oblikovanju standardov o vidikih upravljanja umetne inteligence, ki poteka pri Mednarodni organizaciji za standardizacijo;

48.

poleg tega pozdravlja ustanovitev in začetek delovanja Sveta EU-ZDA za trgovino in tehnologijo; pozdravlja izid prvega srečanja tega sveta v Pittsburghu; meni, da je svet potencialni forum za splošno usklajevanje med Evropsko unijo in Združenimi državami Amerike za določitev splošnih pravil za umetno inteligenco in splošnih tehnoloških standardov, ki bodo varovali naše skupne vrednote, da bi spodbujali skupne naložbe, raziskave in razvoj ter da bi se pri političnem usklajevanju v mednarodnih institucijah zbližali glede vprašanj, povezanih s tehnologijo in umetno inteligenco;

49.

poudarja, da ima EU lahko ključno vlogo pri določanju svetovnih standardov, saj je v svetu prva večja organizacija, ki je uvedla zakonodajo o umetni inteligenci; poudarja, da bi lahko Evropa na podlagi pravnega okvira Unije za umetno inteligenco v tem sektorju postala vodilna v svetu, zato bi bilo treba ta okvir uveljavljati po vsem svetu, in sicer s sodelovanjem z vsemi mednarodnimi partnerji in hkrati z nadaljevanjem kritičnega in etično zasnovanega dialoga s tretjimi državami, ki imajo na področju umetne inteligence vzpostavljene drugačne modele upravljanja in standarde;

50.

ugotavlja, da je kitajska vlada v okviru pobude En pas, ena pot podpisala sporazume o standardih in sodelovanju z 52 državami; opozarja, da je kitajski aktivizem na področju standardov izziv za EU, saj več teh standardov, tudi v zvezi s tehnologijami umetne inteligence, zlasti pa na področju vladnega nadzora in individualnih svoboščin, ni v skladu s spoštovanjem človekovih pravic in z vrednotami EU;

51.

poudarja, da tehnologije umetne inteligence, zlasti tiste, ki niso bile zasnovane in razvite z vzpostavljenimi izrecnimi postopki nadzora ter se neustrezno in brez nadzora uporabljajo v vojaških poveljniških štabih ali objektih za izstreljevanje raket, prinašajo posebno velika tveganja in bi lahko zaostrile avtomatizirano povzročen vzajemni konflikt;

52.

se zaveda, da je uporaba sistemov umetne inteligence na področju obrambe korenito spreminja vojaške operacije, in sicer z analizo podatkov, zmožnostjo, da v večjem obsegu pokaže zapletenost razmer, s potencialom za večjo natančnost ciljanja, z optimizacijo logistike in udeležbo v oboroženih spopadih z manjšim tveganjem fizične škode za civilno prebivalstvo in lastno vojaško osebje, pa tudi z uporabo podatkov za oblikovanje načinov delovanja, kot so vojne igre; vendar opozarja, da bi se lahko zaradi tega znižal prag za uporabo sile in da bi tako bilo konfliktov več; meni, da stroji in roboti ne morejo sprejemati človeških odločitev, pri katerih se upoštevajo pravna načela razlikovanja, sorazmernosti in previdnosti; meni tudi, da bi morali imeti ljudje nadzor nad odločitvijo o namestitvi in uporabi orožja ter ostati odgovorni za uporabo smrtonosne sile in odločitve o življenju in smrti; meni, da bi morali za orožne sisteme, ki temeljijo na umetni inteligenci, veljati svetovni standardi in mednarodni etični kodeks ravnanja, na katerih bi moralo temeljiti uvajanje tehnologij umetne inteligence v vojaške operacije, pri čemer bi bilo treba v celoti spoštovati mednarodno humanitarno pravo in pravo človekovih pravic ter pravo in vrednote Unije;

53.

je zaskrbljen, ker v nekaterih državah potekajo vojaške raziskave in tehnološki razvoj v zvezi s smrtonosnimi avtonomnimi orožnimi sistemi brez dejanskega človeškega nadzora; ugotavlja, da se takšni smrtonosni avtonomnimi orožni sistemi že uporabljajo v vojaških spopadih; opozarja, da je Parlament večkrat pozval k mednarodni prepovedi razvoja, proizvodnje in uporabe smrtonosnih avtonomnih orožnih sistemov ter k začetku učinkovitih pogajanj o njihovi prepovedi; poudarja, da sistemom, ki temeljijo na umetni inteligenci, v nobenem primeru ne sme biti dovoljeno, da nadomestijo človeško odločanje na podlagi pravnih načela razlikovanja, sorazmernosti in previdnosti;

54.

zlasti ugotavlja, da se lahko tehnologija umetne inteligence uporablja tudi kot sredstvo za različne oblike hibridnega vojskovanja in zunanjega vmešavanja; poudarja, da bi se lahko na primer uporabila za sprožitev kampanje dezinformacij z uporabo botov ali lažnih računov na družbenih medijih, za izkoriščanje soodvisnosti kot orožja z zbiranjem dragocenih informacij ali onemogočanjem dostopa do omrežja nasprotnikom, za ustvarjanje motenj v gospodarskih in finančnih sistemih drugih držav, za poseganje v politično razpravo in dajanjem prednosti ekstremističnim skupinam ali za manipuliranje volitev, da bi destabilizirali demokratične sisteme;

55.

poudarja, da bi lahko tehnologije umetne inteligence vključevale tudi zlonamerno inteligentno programsko opremo, krajo identitete, zastrupljanje podatkov ali druge oblike sovražnega strojnega učenja, zaradi katerih bi drugi sistemi umetne inteligence napačno razlagali vhodne podatke; zlasti opozarja na širjenje globokih ponaredkov, vključno z videoposnetki, ki ne pomenijo nujno kibernetskih napadov, temveč povzročajo dvome o pristnosti vseh digitalnih vsebin, zato jim je treba nameniti posebno pozornost in zahtevati preglednost v zvezi z njimi; opozarja, da bi globoki ponaredki lahko prispevali k večjemu nezaupanju javnosti v umetno inteligenco, pa tudi k globlji družbeno-politični polarizaciji v naših družbah;

56.

poudarja, da je uporaba sistemov umetne inteligence v znatnem delu ključne kritične infrastrukture, kot so energetska in prometna omrežja, vesoljski sektor, prehranska veriga, bančna in finančna infrastruktura ter bolnišnične zmogljivosti, ustvarila nove šibke točke, ki zahtevajo odločne ukrepe na področju kibernetske varnosti, da bi preprečili grožnje; v zvezi s tem poudarja, da je sodelovanje, izmenjava informacij in ukrepanje tako na ravni EU kot med državami članicami izjemno pomembno; poudarja, da je pomembno tudi spodbujati odpornost kritičnih subjektov na hibridne grožnje;

57.

svari, da lahko umetna inteligenca zaradi svoje zmogljivosti povzroči varnostno tveganje tudi zato, ker lahko spodbudi ljudi, da ji bodo zaupali bolj kot lastni presoji; ugotavlja, da uporaba pristopa človeka v zanki kot korektivnega mehanizma v vseh primerih ni izvedljiva; ugotavlja, da so poskusi pokazali, da se zato lahko stopnja avtonomije umetne inteligence dvigne nad raven podporne vloge, za katero je bila prvotno zasnovana, zaradi česar ljudje ne izkoristijo priložnosti za pridobivanje izkušenj niti ne izpopolnijo svojih spretnosti in znanja v zvezi s sistemi umetne inteligence; zato poudarja, da so zato, da bi odpravili takšno pristranskost pri avtomatizaciji, v sistemih umetne inteligence z visokim tveganjem potrebni vgrajena varnost in dejanski človeški nadzor na podlagi ustreznega usposabljanja, pa tudi ustrezni zaščitni ukrepi za varnost in zasebnost;

58.

vendar poudarja, da se lahko umetna inteligenca uporablja za napovedovanje izpadov električne energije in zelo natančno ugotavljanje potreb po vzdrževanju; dodaja, da se lahko uporablja za sintezo velikih količin podatkov na podlagi avtomatiziranega črpanja ali klasifikacije podatkov in za odkrivanje posebnih vzorcev; poudarja, da bi ti elementi omogočili boljše napovedovanje in oceno stopnje nevarnosti in ranljivosti sistemov, hitrejše postopke odločanja, izboljšano odzivnost in učinkovitejše varovanje končnih naprav;

59.

zlasti poudarja, da bi lahko organi preprečevanja, odkrivanja in preiskovanja kaznivih dejanj s tehnologijo umetne inteligence odkrivali kriminalne dejavnosti, in proti njim ukrepali; poudarja pa, da so pri delovanju teh organov na podlagi umetne inteligence potrebni polno spoštovanje temeljnih pravic, strog demokratični nadzor, jasna pravila o preglednosti, močno informacijska infrastruktura, človeški nadzor, visoko usposobljeni delavci ter dostop do ustreznih in visokokakovostnih podatkov;

d) Umetna inteligenca in konkurenčnost

60.

ugotavlja, da bodo do leta 2030 proizvodi in storitve v vrednostni verigi medsebojno povezani, v večini proizvodnih procesov in poslovnih modelov pa bosta imeli pomembno vlogo umetna inteligenca in robotika; poudarja, da so pri razvoju industrijskih ekosistemov umetne inteligence izredno pomembne temeljne raziskave, pa tudi znatne naložbe v napredovanje digitalne javne uprave in nadgraditev digitalne infrastrukture;

61.

ugotavlja, da kljub precejšnjemu povečanju tveganega kapitala in drugega financiranja za zgodnje faze v preteklih dveh letih več evropskih panog pri sredstvih še vedno zaostaja, pa tudi raven finančnih sredstev v EU še vedno ne zadošča in bi jo bilo treba močno zvišati, da bi ujeli dinamiko vodilnih umetnointeligenčnih ekosistemov, kot so v Silicijevi dolini in drugod; želi poudariti, da inovacijski ekosistem EU tvorijo svojevrstne grozdne strukture, kar se razlikuje od centraliziranih (in državno podprtih) inovacijskih ekosistemov;

62.

poudarja, da lahko umetna inteligenca revolucionarno spremeni konkurenčnost unijskih gospodarskih panog in da lahko poveča produktivnost, pospeši inovacije ter pomaga izboljšati proizvodne procese in dobiti pregled nad odpornostjo evropskih dobavnih verig;

63.

opozarja na tveganje, da bi se dobavne verige zaradi gospodarskega ločevanja ali katastrofalnih dogodkov (kot so pandemije ali pojavi zaradi podnebnih sprememb) prekinile ali pretrgale; poudarja, da lahko s pomočjo umetne inteligence zaznamo vzorce motenj v dobavnih verigah in podpremo napovedovalno vzdrževanje, kar bi podprlo diverzificiranje dobaviteljev;

64.

se zaveda, da so podjetja, ki so sprožala digitalne motnje, zaradi tega pogosto pobrala smetano in pridobila znaten tržni delež; je seznanjen z ugotovitvami nedavnih študij, da se bo ta vzorec verjetno še intenzivneje ponavljal, saj se podjetjem, ki uporabljajo umetno inteligenco, po navadi močno poveča konkurenčna prednost; je zaskrbljen zaradi tveganj tržne koncentracije, ki utegnejo nastati zaradi tega, kar pa škoduje malim, srednjim in zagonskim podjetjem;

65.

poudarja, da so ti obeti izrazito zaskrbljujoči, ker bodo največja uveljavljena tehnološka podjetja najverjetneje prevladovala tudi pri tehnologijah umetne inteligence in bi lahko postala vratarji za trge, obenem pa si prisvojila večino ustvarjene vrednosti; poudarja, da se podatki, ki so gonilo umetnointeligenčnega sektorja, v veliki večini zbirajo pri istih velikih tehnoloških podjetjih, ki uporabnikom ponujajo dostop do storitev v zameno za podatke in izpostavljenost oglasom, zato bi bil lahko njihov sedanji prevladujoči položaj na trgu že sam po sebi dejavnik nadaljnje prevlade na trgu; poudarja, da imajo ta podjetja sedež večinoma zunaj EU, vseeno pa jim uspe zajeti vrednost, ki jo ustvarjajo podatki njihovih evropskih strank, s čimer pridobijo konkurenčno prednost;

66.

pozdravlja sporočilo Komisije, v katerem poziva, da bi posodobili pravila konkurence in jih ustrezno prilagodili digitalni dobi (29), poudarja pa tudi, da so pri zoperstavljanju tržnim koncentracijam, še preden do njih pride, izredno pomembni ukrepi ex ante, kamor sodi tudi akt o digitalnih trgih; poleg tega poudarja, da imata lahko pri reševanju te problematike precejšnjo vlogo standardizacija in regulativno sodelovanje, saj omogočata globalni razvoj proizvodov in storitev ne glede na njihovo fizično lokacijo;

67.

poudarja, da imajo mala in srednja ter zagonska podjetja kot glavnina vseh podjetij in pomemben vir inovacij osrednjo vlogo pri uvajanju tehnologij umetne inteligence v EU; ugotavlja pa, da obetavna umetnointeligenčna zagonska podjetja naletijo na precejšnje ovire za širitev v evropskem prostoru, ker digitalni enotni trg še ni povsem dokončan in ker so med državami članicami še vedno precejšnje razlike v predpisih, ali pa jih po širitvi pokupijo tehnološki giganti; obžaluje, da mala in srednja podjetja često težko pridejo do financiranja, se ubadajo z zapletenimi administrativnimi postopki ali pa jim primanjkuje ustreznih znanja in veščin ter nimajo dostopa do informacij; želi opomniti, da so organi EU za konkurenco v preteklosti večinoma dopustili, da so tuje družbe prevzemale evropska podjetja na področju umetne inteligence in robotike;

68.

poudarja, da bi se lahko z intenzivno uporabo algoritmov na enotnem trgu pojavila tudi popolnoma nova problematika, povezana z umetno inteligenco; ugotavlja, da bi lahko protimonopolni organi na primer težko dokazali dogovarjanje o cenah med umetnointeligenčnimi sistemi določanja cen; poudarja pa, da bi lahko tisti maloštevilni ponudniki umetne inteligence, ki že sodelujejo na delniškem trgu, pomenili sistemsko tveganje za finančne trge, na primer zaradi nedovoljenega dogovarjanja; poudarja, da je algoritemsko nedovoljeno dogovarjanje zelo težko prepoznati, saj umetnointeligenčnim sistemom ni treba komunicirati med seboj na tak način, kot pri tovrstnih nedovoljenih praksah počnejo ljudje, tako da bi bilo v tem primeru skoraj nemogoče dokazati namero nedovoljenega dogovarjanja; poudarja, da to pomeni tveganje za tržno stabilnost in da morajo zato unijski in nacionalni organi za konkurenco razviti ustrezne strategije in orodja; poleg tega poudarja, da vsesplošno razširjena uporaba algoritemskih modelov in sistemov trgovanja brez človeške interakcije pomeni sistemsko tveganje za finančne trge, saj so ti modeli in sistemi v preteklosti močno povečali tržna gibanja in se to utegne zgoditi še kdaj;

69.

ugotavlja, da se večina podjetij na področju umetne inteligence v EU srečuje s pravno negotovostjo glede tega, kako naj brez tveganja in birokratskih ovir razvijajo svoje proizvode in storitve, saj se sedanja sektorska zakonodaja po eni strani prekriva, po drugi strani pa na področju umetne inteligence ni uveljavljenih standardov in norm;

70.

poudarja, da je umetna inteligenca za podjetja izziv tudi v smislu nadzora kakovosti in varstva potrošnikov; ugotavlja, da sta za zagotovitev, da bodo podjetja iz EU imela konkurenčno prednost, nujno potrebni preglednost in zanesljivost, saj bo od tega odvisno, ali bo trg sčasoma sprejel posamezni proizvod ali storitev;

71.

želi opomniti, da čeprav 26 % raziskovalnih publikacij visoke vrednosti o umetni inteligenci prihaja iz Evrope, to pri svetovnih prijaviteljih patentov s tega področja velja samo za štiri od tridesetih (13 %) in samo za 7 % podjetij, ki se ukvarjajo s patentiranjem umetne inteligence;

72.

meni, da treba zakonodajo EU o intelektualni lastnini harmonizirati in ter jasno in pregledno izvrševati, potreben pa je tudi uravnotežen, izvršljiv in predvidljiv okvir, ki bo evropskim podjetjem, zlasti malim, srednjim in zagonskim, omogočal, da ustrezno in enostavno zaščitijo intelektualno lastnino;

73.

je zaskrbljen, da mala in srednja podjetja le slabo varujejo intelektualno lastnino, saj pogosto niso poučena o svojih pravicah ali pa nimajo dovolj sredstev za njihovo varstvo; poudarja, kako pomembna je informiranost o varstvu intelektualne lastnine in seznanjenost s statističnimi podatki o tem pri malih in srednjih podjetjih, in pozdravlja prizadevanja na tem področju, na primer poenostavljene postopke registracije in nižje upravne pristojbine, pa tudi seznanjanje malih, srednjih in zagonskih podjetij z varstvom intelektualne lastnine in zagotavljanjem lažjega dostopa do njega; poudarja, da če želimo podjetjem EU pomagati varovati intelektualno lastnino na področju umetne inteligence, bi bilo treba okrepiti položaj EU kot svetovne določevalke standardov; poudarja, da mednarodna konkurenčnost in privlačnost izhajata iz močnega in odpornega enotnega trga, kar vključuje tudi varstvo in izvrševanje pravil intelektualne lastnine;

74.

meni, da so podatkovna analitika ter dostop do neosebnih podatkov in njihova souporaba in ponovna uporaba že danes bistvenega pomena za mnoge proizvode in storitve, ki temeljijo na podatkih, a bodo pomembni tudi za razvoj in uvajanje prihodnjih sistemov umetne inteligence; poudarja, da doslej večina neosebnih podatkov, ustvarjenih v EU, ostaja neizkoriščenih, enotni trg podatkov pa se komaj razvija;

75.

poudarja, da je olajšati dostop do podatkov in njihovo souporabo ter odprte standarde in odprtokodno tehnologijo, saj tudi to omogoča povečanje naložb in spodbuja inovacije na področju tehnologij umetne inteligence v EU; poudarja, da bi razvijalcem umetne inteligence prav prišle bolj harmonizirane razlage nacionalnih organov za varstvo podatkov ter smernice o mešanih podatkih in depersonalizacijskih tehnikah;

76.

poudarja, da ima lahko umetna inteligenca pomembno vlogo pri podpiranju izvrševalnih ukrepov evropskih in nacionalnih organov, zlasti na področju carine in nadzora trga; meni, da je mogoče z umetno inteligenco povečati učinkovitost in stroškovno učinkovitost trgovinskih in carinskih postopkov, tako da se poveča skladnost in zagotovi, da na enotni trg vstopajo le varni proizvodi; opozarja na primer sistema CARM kanadske carinske službe (Canada Border Services Agency Assessment and Revenue Management), s katerim je močno poenostavila uvozne in izvozne postopke in ki uporablja umetnointeligenčne kvalificirane ocene tveganja in racionalizirano digitalizirano upravljanje informacij, kar je zmanjšalo potrebo po dolgotrajnih inšpekcijskih pregledih;

e) Umetna inteligenca in trg dela

77.

ugotavlja, da umetna inteligenca vse bolj vpliva na trg dela, delovno mesto in socialno področje ter da so učinki tehnoloških sprememb na delo in zaposlovanje večplastni; poudarja, da uporaba umetne inteligence na tem področju odpira več etičnih in pravnih izzivov ter izzivov, povezanih z zaposlovanjem; je zaskrbljen, da bi lahko digitalizacija na trgu dela privedla do reorganizacije delovne sile in morebitnega izginotja nekaterih delovnih sektorjev; meni, da bi lahko s sprejetjem umetne inteligence skupaj s potrebno podporno infrastrukturo, izobraževanjem in usposabljanjem povečali kapital in produktivnost dela, inovacije, trajnostno rast in ustvarjanje delovnih mest;

78.

poudarja, da lahko umetna inteligenca sicer nadomesti nekatere delovne naloge, vključno s ponavljajočimi se, težkimi, delovno intenzivnimi ali nevarnimi opravili, lahko pa bi pripomogla tudi k izboljšanju znanj in spretnosti, zvišanju kakovosti dela in ustvarjanju novih delovnih mest z višjo dodano vrednostjo, kar bi pomenilo več časa za spodbudne naloge in poklicni razvoj; poudarja, da umetna inteligenca že nadomešča ali dopolnjuje ljudi pri sklopu nalog, nima pa zaznavnih obsežnejših skupnih posledic za trg dela (30); poudarja pa, da obstaja možnost za povečanje dohodkovne neenakosti, če bi se zaradi umetne inteligence povečal obseg visokokvalificiranih poklicev in bi začela nadomeščati nizkokvalificirane poklice; dodaja, da je treba vse gospodarske in socialne posledice tega ublažiti z ustreznimi ukrepi, raziskavami in predvidevanjem ter se nanje pripraviti z vlaganjem v preusposabljanje in izpopolnjevanje delovne sile s poudarkom na manj zastopanih skupinah, kot so ženske in manjšine, ki jih bo ta prehod verjetno najbolj prizadel, ter s spodbujanjem raznolikosti v vseh fazah razvoja sistemov umetne inteligence; je zaskrbljen, da bi lahko umetna inteligenca privedla do „razučevalnih“ oziroma „razusposabljalnih“ procesov ter ustvarila privzeto slabo plačano delo z majhno avtonomijo ter razširila netipično, prožno (oziroma priložnostno) delo; poudarja, da bi lahko algoritemsko upravljanje vodilo do neravnovesja moči med vodstvom in zaposlenimi ter do nejasnosti glede odločanja;

79.

poudarja, da je uvajanje umetne inteligence tudi priložnost za pomembne kulturne spremembe v organizacijah, na primer izboljšano varnost na delovnem mestu, boljše ravnovesje med poklicnim in zasebnim življenjem, pravico do odklopa ter učinkovitejše priložnosti za usposabljanje in za usmerjanje zaposlenih; v zvezi s tem opozarja na priporočila OECD, v katerih je poudarjeno, da bi avtomatizacija lahko pripomogla tudi k skrajšanju delovnega časa, s čimer bi se izboljšali življenjski pogoji in zdravje delavcev; meni, da bi lahko umetnointeligenčne aplikacije, ki opolnomočajo ljudi, ustvarile tudi nove zaposlitvene priložnosti, zlasti za tiste, ki so bili poprej zaradi fizičnih omejitev, kot so invalidnost ali življenjske okoliščine, prisiljeni opravljati zgolj manj kvalificirana delovna mesta; poudarja, da je treba s pomočjo umetne inteligence na delovnem mestu ljudem zagotoviti čas za kakovostnejše rezultate, ne pa zgolj povečevati delovno obremenitev;

80.

obsoja povečano uporabo umetnointeligenčnega nadzora na delovnem mestu, in to pogosto brez vednosti, kaj šele privolitve delavcev, zlasti v okviru dela na daljavo; meni, da ta praksa ne bi smela biti dovoljena, saj izredno zlorablja temeljno delavčevo pravico do zasebnosti, varstva podatkov in človekovega dostojanstva ter socialne in delavske pravice, poleg tega pa negativno vpliva na duševno zdravje delavcev zaradi velikega občutka vdiranja, njegovega splošnega ali neselektivnega delovanja in odsotnosti zaščitnih ukrepov za prizadete posameznike;

81.

je zaskrbljen, da podobno tveganje nadzora vlada tudi v šolskem okolju, saj se v šolah vse bolj uporabljajo sistemi umetne inteligence, kar ogroža temeljne pravice otrok; ugotavlja, da posledice, ki jih ima umetna inteligenca za zasebnost, varnost in zaščito otrok, segajo v širok spekter – vse od koristi, povezanih z zmožnostjo bolj specifičnega in natančnega razumevanja groženj, s katerimi se soočajo otroci, pa do tveganj v zvezi z nenamernimi kršitvami zasebnosti; poudarja, da je to treba zaradi pozitivnih in negativnih posledic za zasebnost, varnost in zaščito otrok temeljito preučiti in uvesti ustrezne zaščitne ukrepe; poudarja tudi, da je treba pri razvoju sistemov umetne inteligence posebno pozornost nameniti otrokom in jih zaščititi zaradi njihove izredno občutljive narave in posebne ranljivosti;

82.

poudarja, da je treba posameznikom zagotoviti celovite programe za razvoj znanj in spretnosti v vseh življenjskih obdobjih, da bodo lahko ostali produktivni na nenehno razvijajočem se delovnem mestu in da ne bodo izključeni s trga dela; meni, da je bistvenega pomena prilagajanje delovne sile v smislu izobraževanja o umetni inteligenci, vseživljenjskega učenja in prekvalifikacije; poudarja, da so sedanji koncepti učenja in dela še vedno v preveliki meri opredeljeni s potrebami preddigitalnega sveta dela, zaradi česar se na trgu dela povečuje vrzel v znanjih in spretnostih in nastaja nov digitalni razkorak na škodo državljanov in podjetij, ki nimajo dostopa do varnega digitalnega prostora; poudarja, da digitalno opismenjevanje prispeva k doseganju ciljev trajnostnega razvoja, zlasti na področju izobraževanja, človeškega kapitala in infrastrukture; poudarja, da so zaradi covidne krize nastale nove oblike dela in učenja, ki bi jih lahko dodatno preučili;

83.

poudarja, da mora Unija, če želi izkoristiti vse prednosti digitalizacije, rešiti vprašanje digitalne pismenosti in veščin za vse; meni, da je digitalna opismenjenost predpogoj za zaupanje državljanov in seznanjenost javnosti z učinki umetne inteligence; poudarja, da je treba v nacionalne izobraževalne sisteme vključiti osnovno usposabljanje na področju digitalnih znanj in spretnosti ter umetne inteligence; meni, da bi lahko uporaba in razvoj umetnointeligenčne tehnologije na področju manjšinskih jezikov spodbudila njihovo znanje in uporabo; poudarja, da več kot 70 % podjetij poroča, da pomanjkanje osebja z ustreznimi digitalnimi veščinami ter znanji in spretnostmi na področju umetne inteligence ovira naložbe; je zaskrbljen, da je bilo leta 2019 v EU 7,8 milijona strokovnjakov za IKT s predhodno letno stopnjo rasti 4,2 %, kar je veliko manj od 20 milijonov strokovnjakov, ki so potrebni za ključna področja, kot je analiza podatkov, kakor predvideva Komisija;

84.

je zaskrbljen zaradi ogromne razlike med spoloma na tem področju, saj je med strokovnjaki s področja IKT le šestina, med diplomanti s področja naravoslovja, tehnologije, inženirstva in matematike pa le tretjina žensk (31); z zaskrbljenostjo ugotavlja, da razlika med spoloma trdovratno vztraja, zlasti na področju zagonskih podjetij, tu je bilo leta 2019 namreč kar 92 od 100 USD, vloženih v evropska tehnološka podjetja, namenjenih ustanovitvenim ekipam, ki so jih sestavljali samo moški; priporoča ciljno usmerjene pobude za podporo ženskam na področju naravoslovja, tehnologije, inženirstva in matematike, da bi odpravili splošno vrzel v znanjih in spretnostih v tem sektorju; poudarja, da ta vrzel neizogibno vodi do pristranskih algoritmov; poudarja, kako pomembno je opolnomočiti in motivirati dekleta za poklicno pot na področju naravoslovja, tehnologije, inženirstva in matematike ter odpraviti razlike med spoloma na tem področju;

f) Umetna inteligenca in prihodnost demokracije

85.

ugotavlja, da ima umetna inteligenca po eni strani potencial za pomoč pri izgradnji preglednejšega in učinkovitejšega javnega sektorja, po drugi strani pa, da tehnični razvoj na področju umetne inteligence pogosto temelji na logiki rasti in dobička, da je zelo hiter in dinamičen, zaradi česar oblikovalci politik težko razumejo, kako delujejo nove aplikacije umetne inteligence in kakšne rezultate lahko prinesejo, čeprav so dolžni zagotoviti okvir za zagotavljanje, da bo umetna inteligenca spoštovala temeljne pravice in da se bo lahko uporabljala družbi v korist; poudarja, da se tudi napovedi strokovnjakov o prihodnjem učinku umetne inteligence razlikujejo, kar kaže, da je celo njim težko predvideti, kakšne rezultate bo prineslo uvajanje novih tehnologij umetne inteligence; trdi, da morajo zakonodajalci zaradi te negotovosti pri urejanju umetne inteligence ustrezno upoštevati previdnostno načelo; meni, da se je treba posvetovati s strokovnjaki različnih področij in z najraznovrstnejšimi izkušnjami, da bi zasnovali trdno in izvedljivo zakonodajo, ki bo ustrezala izzivom prihodnosti; svari, da je lahko pravna negotovost ena največjih ovir za inovacije; glede tega želi opomniti, da je pomembno državljane opismenjevati na področju umetne inteligence, in enako tudi izvoljene predstavnike in nacionalne organe;

86.

svari, da zaradi tega zakonodajni cikli pogosto ne morejo slediti hitremu tehnološkemu napredku, tako da so odločevalci prisiljeni naknadno urejati zaostanek in regulirajo predvsem tiste primere rabe, ki so že na trgu; poudarja, da je treba pred smotrnim regulativnim pristopom k umetni inteligenci opraviti tudi izčrpno analizo sorazmernosti in nujnosti, da ne bi ovirali inovacij in konkurenčnosti podjetij EU;

87.

poudarja, da je lahko uporaba umetne inteligence za pridobivanje biometričnih podatkov zelo vsiljiva do posameznika in širše javnosti ter škodljiva, a tudi dokaj koristna;

88.

z zaskrbljenostjo ugotavlja, da tovrstna umetnointeligenčna tehnologija odpira tudi pereče etične in pravne dileme; ugotavlja, da nekatere tovrstne tehnologije omogočajo avtomatizirano obdelavo podatkov v doslej nepoznanem obsegu, kar utira pot množičnemu nadzoru in drugim nezakonitim posegom v temeljne pravice, zlasti v pravico do zasebnosti in v varstvo podatkov;

89.

poudarja, da mnogi avtoritarni režimi uporabljajo umetnointeligenčne sisteme za nadzor nad svojimi državljani, vohunjenje za njimi ter njihovo spremljanje in kategoriziranje, pa tudi omejevanje svobodnega gibanja; meni, da vse oblike normativnega točkovanja državljanov, ki jih izvajajo javni organi, zlasti na področju preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ter pravosodja, pa tudi tega, da tovrstno točkovanje uporabljajo zasebna podjetja ali posamezniki, pomenijo izgubo neodvisnosti in zasebnosti, odpirajo tveganje diskriminacije in niso skladne z evropskimi vrednotami; želi opozoriti, da za tehnologije, kot sta kibernetski nadzor in biometrično prepoznavanje, ki ju je mogoče uporabiti v ta namen, velja uredba EU o nadzoru izvoza; je resno zaskrbljen zaradi primerov, ko podjetja iz EU avtoritarnim režimom v tretjih državah prodajajo biometrične sisteme, ki bi bili v EU nezakoniti in jih ne bi smeli uporabljati;

90.

ugotavlja, da prevladujoče tehnološke platforme dandanes nimajo samo obsežnega nadzora nad dostopom do informacij in njihovim razširjanjem, ampak tehnologije umetne inteligence uporabljajo tudi za to, da pridobijo več informacij o posameznikovi identiteti, ravnanju in preteklih odločitvah; meni, da takšno profiliranje ogroža demokratične sisteme ter varstvo temeljnih pravic in avtonomnost državljanov; poudarja, da to ustvarja neravnovesje moči in povzroča sistemska tveganja, ki bi lahko negativno vplivala na demokracijo;

91.

poudarja, da se lahko digitalne platforme z umetnointeligenčnimi trženjskimi in podobnimi aplikacijami uporabljajo tudi za tuje poseganje ter širjenje dezinformacij in globokih ponaredkov, saj delujejo kot omrežje propagande, trolanja in nadlegovanja za spodkopavanje volilnih procesov; poudarja, da strojno učenje omogoča zlasti ciljno usmerjeno uporabo osebnih podatkov za ustvarjanje prepričljivih personaliziranih sporočil za nepoučene volivce; poudarja, da so tu pomembne stroge obveznosti glede preglednosti, ki se morajo tudi dejansko izvrševati;

92.

poudarja, da bi bilo mogoče umetno inteligenco uporabiti tudi za zmanjšanje protidemokratičnih in neetičnih dejavnosti na platformah ter kot sredstvo za zamejevanje lažnih novic in sovražnega govora, čeprav testiranje njene zmožnosti za razumevanje kontekstualno specifičnih vsebin doslej ni pokazalo prav dobrih rezultatov; je zaskrbljen, ker prav polarizirajoči diskurz vodi do večjega udejstvovanja uporabnikov, zato bi bila njegova odprava v neposrednem nasprotju s poslovnim modelom teh platform, saj temelji na čim večjem udejstvovanju uporabnikov; meni, da morajo umetnointeligenčne rešitve temeljiti na popolnem spoštovanju svobode izražanja in mnenja ter na trdnih dokazih, ki se res potrdijo, preden se uporabijo;

93.

poudarja, da je pristranskost umetnointeligenčnih sistemov pogosto posledica premalo raznolikih in kakovostnih podatkov za učenje in preskušanje, na primer kadar se uporabljajo nabori podatkov, ki ne pokrivajo dovolj reprezentativno ranljivih skupin, ali če so pristransko opredeljene že naloge ali nastavitve; ugotavlja, da lahko do pristranskosti pride tudi zaradi premalo raznolike razvijalske ekipe, tako da se zaradi omejenega obsega podatkov za učenje in preskušanje ponavlja in krepi inherentna pristranskost ali pa na algoritem negativno vpliva pristranski razvijalec umetne inteligence; poudarja, da se utemeljeno razlikovanje tudi namerno ustvarja, zato da se v nekaterih okoliščinah izboljša učno uspešnost umetne inteligence;

94.

poudarja, da se strukturne pristranskosti v naši družbi ne bi smele ponavljati ali celo povečevati zaradi nekakovostnih naborov podatkov; v zvezi s tem trdi, da se algoritmi naučijo biti enako diskriminatorni kot podatki, s katerimi imajo opravka, in da utegnejo zaradi nekakovostnih podatkov za učenje ali zaradi zaznane pristranskosti in diskriminacije v družbi predlagati odločitve, ki so že same na sebi diskriminatorne, kar posledično spet povečuje diskriminacijo v družbi; se zaveda, da je pristranskost umetne inteligence včasih mogoče popraviti oziroma odpraviti; ugotavlja, da je zato treba uporabiti tehnična sredstva in vzpostaviti različne kontrolne plasti za sisteme umetne inteligence, na primer programsko opremo, algoritme in podatke, ki jih ti sistemi uporabljajo in proizvajajo, da se to tveganje čim bolj zmanjša; trdi, da se umetna inteligenca lahko in bi jo bilo tudi treba uporabiti za zmanjšanje pristranskosti in diskriminacije ter za spodbujanje enakih pravic in pozitivnih družbenih sprememb v naših družbah, med drugim z normativnimi zahtevami glede podatkovnih nizov, ki se uporabljajo za učenje sistemov umetne inteligence; poudarja, da je najučinkovitejši način za zmanjšanje pristranskosti v umetnointeligenčnih sistemih zagotovitev (kolikor dopušča zakonodaja EU), da je za algoritemsko oziroma strojno učenje na voljo čim več neosebnih podatkov;

g)	Ponavljajoče se ugotovitve v vseh šestih študijah primerov

95.

ugotavlja, da so s sprejetjem tehnologij umetne inteligence povezane jasne družbene koristi in priložnosti, ki jih bo mogoče izkoristiti le, če bodo v EU odpravljene prečne ovire v skladu s temeljnimi pravicami, vrednotami in zakonodajo; navaja, da je prekrivanje zakonodaje, razdrobljenost trga, birokratske ovire, pomanjkanje dostopne digitalne infrastrukture ter digitalnih znanj in spretnosti v širši družbi ter nezadostne naložbe v raziskave in razvoj mogoče opaziti zlasti kot ovire za uspešno uporabo zaupanja vredne umetne inteligence na vseh analiziranih področjih;

96.

poleg tega na podlagi preučenih študij primerov ugotavlja, da obstajajo nekateri primeri uporabe, ki so tvegani ali škodljivi, vendar za to niso nujno krive same specifične tehnologije umetne inteligence, temveč njihova področja uporabe; priznava, da mora prihodnja ureditev obravnavati upravičene pomisleke v zvezi s temi tveganji, da bi se tehnologije umetne inteligence lahko široko uporabljale v EU;

97.

ugotavlja, da je sicer pomembno preučiti in kategorizirati možna tveganja, ki jih predstavlja umetna inteligenca, vendar so študije primerov pokazale, da nam tehnologije umetne inteligence omogočajo učinkovite protiukrepe, ki lahko ublažijo ali odpravijo ta tveganja; poudarja, da je umetna inteligenca še vedno v zgodnjih fazah razvoja v širšem kontekstu nastajajočih tehnologij, njen celoten potencial in povezana tveganja pa še niso poznani; poudarja, da je treba obravnavati ne le tveganja za posameznike, temveč tudi širšo družbeno in nematerialno škodo posameznikov; opozarja na velika neravnovesja tržne moči na podatkovnih trgih in v z njimi povezanem gospodarstvu umetne inteligence; poudarja, da sta poštena konkurenca in odprava ovir za konkurenco za zagonska podjetja ter mala in srednja podjetja bistvenega pomena za pravično porazdelitev potencialnih koristi umetne inteligence v gospodarskem in družbenem smislu, ki se zdijo pomembne tako v EU kot po svetu;

3. Položaj EU med svetovno konkurenco na področju umetne inteligence

98.

opaža močno svetovno konkurenco na področju umetne inteligence, kjer EU še ni izpolnila svojih ciljev; v nadaljevanju obravnava globalno konkurenčnost EU z vidika umetne inteligence, tako da jo primerja s Kitajsko in ZDA, pri čemer se osredotoča na tri ključne elemente: regulativni pristop, položaj na trgu in naložbe; vendar priznava, da nadnacionalnih trgov in korporacij ni mogoče zlahka razmejiti po nacionalnih mejah, saj ima večina tehnoloških podjetij stranke, delničarje, zaposlene in dobavitelje v številnih različnih državah;

a) Regulativni pristop

99.

ugotavlja, da ZDA še niso sprejele horizontalne zakonodaje na digitalnem področju in so se doslej osredotočale na sektorsko zakonodajo in omogočanje naložb, tudi z davčnimi ukrepi za inovacije v zasebnem sektorju, zlasti med svojimi tehnološkimi velikani in vodilnimi univerzami; ugotavlja, da je pristop ZDA kljub nedavnemu razvoju dogodkov, ki kažejo dejavnejšo vlogo pri oblikovanju politik, doslej večinoma odražal osredotočenost na zagotavljanje pravnih smernic podjetjem, vlaganje v raziskovalne projekte in odstranjevanje zaznanih ovir za inovacije;

100.

poudarja, da je ameriški zakon o pobudi za umetno inteligenco iz leta 2019 prinesel rahlo spremembo usmeritve, saj je vlada ZDA poleg preusmeritve financiranja, preusposabljanja delavcev in krepitve digitalne infrastrukture napovedala razvoj skupnih standardov za zaupanja vredno umetno inteligenco; ugotavlja pa, da je nastalih 10 načel zelo ohlapno zasnovanih, s čimer je vsaki vladni agenciji omogočeno, da oblikuje predpise za posamezne sektorje; pričakuje, da bo kljub nameri sedanje administracije ZDA, da leta 2022 pripravi nov zakon o omejevanju škodljivih učinkov umetne inteligence, pristop ZDA še naprej tržno usmerjen;

101.

poudarja, da je kitajski predsednik Xi Jinping že leta 2013 poudaril pomen tehnologij v geopolitiki, vlogo javnih politik pri določanju dolgoročnih ciljev in dejstvo, da tehnologije umetne inteligence ponujajo priložnost, da bi Kitajska okrepila svojo vojaško moč; nadalje poudarja, da je nato kitajska vlada leta 2015 pripravila načrt „Made in China 2025“ in leta 2017 načrt za razvoj umetne inteligence naslednje generacije, ki imata jasen cilj, da bi Kitajska do leta 2030 postala vodilna svetovna sila na področju umetne inteligence; ugotavlja, da je v kitajski beli knjigi o standardizaciji umetne inteligence iz leta 2018 nadalje opisano, kako lahko socialistično tržno gospodarstvo razvije mednarodne standarde in strateško sodeluje v mednarodnih organizacijah za standardizacijo; je seznanjen z uvedbo pravil o priporočilnih sistemih in etičnega kodeksa za umetno inteligenco na Kitajskem;

102.

ugotavlja, da Kitajska na svetovnem prizorišču aktivno spodbuja mednarodna partnerstva na področju umetne inteligence kot način za izvoz svojih praks nadzora, ki temeljijo na umetni inteligenci, sistema družbenega točkovanja in strategij cenzure; poudarja, da se obsežne naložbe v tujini v okviru pobude za digitalno svileno cesto uporabljajo tudi za širjenje kitajskega vpliva in tehnologije umetne inteligence po vsem svetu, kar bi lahko imelo daljnosežne posledice poleg uvajanja tehnoloških standardov ali ohranjanja tehnološke konkurenčnosti; ugotavlja, da pristop kitajske vlade zato temelji na uvajanju umetne inteligence doma in izvozu tehnologij umetne inteligence, ki temeljijo na vnaprej določenih standardih, usklajenih z ideologijo kitajske vlade;

103.

ugotavlja, da je Komisija začela urejati področje umetne inteligence leta 2018 z objavo evropske strategije za umetno inteligenco, ustanovitvijo strokovne skupine na visoki ravni in uvedbo usklajenega načrta (32) za spodbujanje „umetne inteligence, izdelane v Evropi“; ugotavlja, da so bili v beli knjigi o umetni inteligenci iz leta 2020 predlagani številni ukrepi in možnosti politike za prihodnjo ureditev umetne inteligence, na podlagi česar je bil na koncu pripravljen horizontalni akt o umetni inteligenci (33), ki je bil maja 2021 predstavljen skupaj z revidiranim usklajenim načrtom za umetno inteligenco (34); poudarja, da je do junija 2021 dvajset držav članic objavilo nacionalne strategije za umetno inteligenco, medtem ko je sedem drugih v zadnji pripravljalni fazi sprejemanja svojih strategij;

104.

poudarja, da je za regulativni pristop EU značilna velika osredotočenost na razvoj enotnega evropskega digitalnega trga in etične vidike v skladu s temeljnimi vrednotami človekovih pravic in demokratičnimi načeli; priznava, da bi vzpostavitev prvega regulativnega okvira za umetno inteligenco na svetu lahko EU zagotovila jamstvo in prednost prvega na trgu pri določanju mednarodnih standardov na področju umetne inteligence na podlagi temeljnih pravic in omogočila uspešen izvoz v človeka usmerjene „zaupanja vredne umetne inteligence“ po vsem svetu; poudarja, da je treba ta pristop podpreti z regulativnim usklajevanjem in zbliževanjem z mednarodnimi partnerji;

b) Razmere na trgu

105.

ugotavlja, da ima veliko od 100 vodilnih podjetij na svetu sedež v ZDA, le malo pa jih je v EU; ugotavlja, da so ZDA vodilne tudi v skupnem številu zagonskih podjetij na področju umetne inteligence;

106.

poudarja, da so v zadnjih letih številna evropska digitalna podjetja kupili ameriški tehnološki velikani; pozdravlja ambicijo Komisije, da bo obravnavala prevzeme, ki bi lahko pomembno vplivali na učinkovito konkurenco na digitalnem trgu, in omejila plenilske prevzeme; vendar poudarja, da je lahko v nekaterih primerih prevzem glavni cilj ustanoviteljev zagonskih podjetij in njihovih financerjev, saj je to legitimna metoda za izkoriščanje njihovih zamisli;

107.

poudarja, da medtem ko ZDA in Kitajska poskušajo pospešiti uporabo tehnologij umetne inteligence v javnem in zasebnem sektorju, sprejemanje umetne inteligence v EU zaostaja; navaja, da je leta 2020 tehnologije umetne inteligence uporabljalo le 7 % podjetij EU z vsaj 10 zaposlenimi, pri čemer so bile med državami članicami in med različnimi poslovnimi sektorji velike razlike;

108.

je zaskrbljen, ker imajo tako ZDA kot Kitajska enoten digitalni trg s skladnimi pravili, medtem ko enotni digitalni trg EU še vedno ni dokončno vzpostavljen in ima še vedno neupravičene ovire; poudarja, da bi lahko sedanja priprava 27 različnih nacionalnih strategij za umetno inteligenco še upočasnila razvoj proizvodov in storitev umetne inteligence;

109.

poudarja tudi, da nedoslednosti v pravu EU, prekrivanje različnih zakonodajnih pobud, protislovja med zakonodajo EU in nacionalnimi zakonodajami, različne pravne razlage in pomanjkljivo izvrševanje v državah članicah preprečujejo enake konkurenčne pogoje in lahko povzročijo pravno negotovost za evropska podjetja, ki morda težko ugotovijo, ali so njihove inovacije na področju umetne inteligence skladne s pravom EU;

110.

ugotavlja, da je razdrobljenost trga za podjetja na področju umetne inteligence še večja zaradi pomanjkanja skupnih standardov in norm v nekaterih sektorjih, tudi glede interoperabilnosti podatkov; obžaluje regulativno tveganje, ki izhaja iz zamude pri pripravi zakonodaje, kot je uredba o zasebnosti in elektronskih komunikacijah; kot primer izpostavlja, da se razvijalci umetne inteligence v EU spopadajo s podatkovnim izzivom, s katerim se ne srečujejo niti njihovi ameriški niti kitajski kolegi, in sicer zaradi nepopolnega evropskega enotnega digitalnega trga; ugotavlja, da pogosto nimajo dovolj visokokakovostnih podatkov za učenje in preverjanje svojih algoritmov, poleg tega pa jih ovira to, da ni sektorskih podatkovnih prostorov in medsektorske interoperabilnosti, ter omejitve čezmejnih podatkovnih tokov;

c) Naložbe

111.

ugotavlja, da evropska podjetja in vlade veliko manj vlagajo v tehnologije umetne inteligence kot ZDA in Kitajska; poudarja, da se zasebne naložbe v industrijo umetne inteligence v EU sicer zelo povečujejo, vendar EU še vedno bistveno premalo vlaga v umetno inteligenco v primerjavi z drugimi vodilnimi regijami, saj ZDA in Kitajska predstavljajo več kot 80 % od 25 milijard EUR letnih naložb lastniškega kapitala v umetno inteligenco in blokovne verige, medtem ko delež EU znaša le 7 % oziroma približno 1,75 milijarde EUR; poudarja, da likvidnost finančnih trgov EU za tehnološka podjetja še vedno ni dovolj velika glede na primerljive trge v ZDA; ugotavlja, da so bile ZDA leta 2019 z 12,6 milijarde EUR v primerjavi s 4,9 milijarde EUR za Kitajsko in 2,8 milijarde EUR za EU vodilne tudi pri financiranju s tveganim in zasebnim kapitalom, kar je še zlasti pomembno za zagonska podjetja na področju umetne inteligence; ugotavlja, da posledično evropski podjetniki na področju umetne inteligence odidejo čez Atlantik, da bi svoja podjetja razširili v ZDA;

112.

navaja, da so letne javne naložbe EU v umetno inteligenco skupaj z nacionalnimi pobudami ocenjene na 1 milijardo EUR (35), kar je znatno nižje kot 5,1 milijarde EUR, ki jih letno vložijo v ZDA, in kot 6,8 milijarde EUR, ki jih letno vložijo na Kitajskem (36); vendar ugotavlja, da se je javno financiranje EU za raziskave in inovacije na področju umetne inteligence med letoma 2017 in 2020 v primerjavi s prejšnjim obdobjem povečalo za 70 %, leta 2019 pa je EU v umetno inteligenco vložila med 7,9 in 9 milijard EUR, kar je 39 % več kot v prejšnjem letu; je seznanjen z načrtom Komisije za nadaljnje povečanje naložb prek programa za digitalno Evropo, programa Obzorje Evropa, programa InvestEU, evropskih strukturnih in investicijskih skladov, Evropskega investicijskega sklada, Instrumenta za povezovanje Evrope na področju telekomunikacij in različnih programov kohezijske politike, ki bodo dodatno dopolnjeni z 20-odstotnim minimalnim ciljem odhodkov za digitalni prehod v nacionalnih načrtih za okrevanje in odpornost, kot so se dogovorile Komisija in države članice v okviru mehanizma za okrevanje in odpornost, ter ta načrt pozdravlja; vendar opozarja na nedavno poročilo Evropske investicijske banke, v katerem je naložbena vrzel EU na področju umetne inteligence in tehnologije blokovnih verig ocenjena na 5–10 milijard EUR na leto;

113.

poudarja, da se podjetja na področju umetne inteligence v EU soočajo z močno konkurenco pri iskanju kvalificiranih delavcev, poleg tega pa 42 % prebivalcev EU nima osnovnih digitalnih znanj in spretnosti; poudarja, da je treba usposobiti in privabiti bistveno večje število dobro izobraženih diplomantov, tudi žensk, za delo v digitalnem sektorju;

114.

ugotavlja, da ima EU sicer odlično skupnost raziskovalcev na področju umetne inteligence, vendar beg možganov še vedno ostaja težava; poudarja, da so potrebni ukrepi za pritegnitev vodilnih raziskovalcev; ugotavlja, da je EU leta 2020 porabila le 2,32 % svojega BDP za raziskave in razvoj, medtem ko so ZDA porabile 3,08 %; opozarja, da morajo države članice spoštovati svojo zavezo, da bodo v raziskave in razvoj vložile 3 % svojega BDP, da bi zagotovile strateško avtonomijo Unije na digitalnem področju;

115.

ugotavlja, da je treba digitalno infrastrukturo EU bistveno posodobiti, saj se lahko samo 25 % ljudi v EU poveže z omrežjem 5G v primerjavi s 76 % ljudi v ZDA; ugotavlja, da EU nima zadostne visokozmogljive digitalne infrastrukture z interoperabilnimi podatkovnimi prostori, visoko hitrostjo in količino prenosa, zanesljivostjo in kratkimi zamudami; poudarja, da je treba evropske ekosisteme umetne inteligence podpreti z grozdi odličnosti;

d) Zaključek

116.

ugotavlja, da so ZDA na splošno vodilne na področju umetne inteligence v številnih kategorijah, saj imajo podjetja s sedežem v ZDA vodilno vlogo pri tehnološkem razvoju na področjih, kot so računalništvo v oblaku in visokozmogljivostno računalništvo, pa tudi pri naložbah, privabljanju talentov, raziskav in infrastrukture na področju umetne inteligence; vendar poudarja, da Kitajska, ki je pred nekaj leti glede na vse kazalnike še močno zaostajala za ZDA, hitro zmanjšuje zaostanek; priznava, da imata obe državi prednost dejanskega enotnega trga in močnejšo zavezanost, da ostaneta vodilni na področju umetne inteligence;

117.

poudarja, da akterji EU kljub močnemu stališču EU na področju industrijske programske opreme in robotike v številnih kategorijah še vedno zaostajajo za ameriškimi in kitajskimi kolegi; poudarja, da bi morala EU razviti ambiciozen načrt za evropsko umetno inteligenco, osredotočeno na človeka; ugotavlja pa, da ima EU prednost pri regulativnih pristopih; poudarja, da se uresničljiva strategija EU za večjo konkurenčnost na področju umetne inteligence med drugim osredotoča na raziskave in inovacije, znanja in spretnosti, infrastrukturo ter naložbe, hkrati pa si prizadeva za vzpostavitev horizontalnega in inovacijam prijaznega regulativnega okvira za razvoj in uporabo umetne inteligence, ki bo usmerjen v prihodnost, ter zagotavlja varstvo temeljnih pravic državljanov EU in pravne države;

118.

poudarja, da je izstop Združenega kraljestva iz EU negativno vplival na prizadevanja EU za okrepitev njenega globalnega odtisa umetne inteligence, saj je bilo Združeno kraljestvo ena od vodilnih držav EU na področju umetne inteligence; vendar poudarja, da bi moralo Združeno kraljestvo ostati cenjen partner EU, kar bi okrepilo konkurenčnost obeh partnerjev in spodbujalo skupne regulativne obete pri določanju svetovnih standardov;

119.

ugotavlja, da EU še zdaleč ni izpolnila svojih prizadevanj, da bi postala konkurenčna na področju umetne inteligence na svetovni ravni, in bi lahko v nekaterih kategorijah še bolj zaostala; vztraja, da je hitro ukrepanje v zvezi s časovnim načrtom EU za umetno inteligenco, ki je opisan v nadaljevanju, priložnost za spremembo tega stanja;

120.

navaja, da EU nima zakonodajnih pooblastil za obravnavo vseh točk, navedenih v načrtu EU za umetno inteligenco, zato posebni odbor priporoča nadaljevanje razprav na visoki ravni in političnih procesov med institucijami EU in državami članicami, da bi oblikovali usklajen pristop k umetni inteligenci in pomagali državam članicam pri usklajevanju njihovih prizadevanj; v zvezi s tem navaja lizbonsko strategijo EU iz leta 2000, ki je kljub kritikam več kot 20 let veliko prispevala k vodenju usmeritev politike EU in ohranjanju pritiska na države članice, da sprejmejo reforme;

4. Evropa, pripravljena na digitalno dobo – načrt za prevzem vodilnega položaja v svetu

a) Ugodno regulativno okolje

i. PRIPRAVA ZAKONODAJE

121.

poziva Komisijo, naj za novo digitalno zakonodajo na področjih, kot je umetna inteligenca, predlaga le zakonodajne akte v obliki uredb, saj je treba enotni digitalni trg dejansko harmonizirati; je prepričan, da bi morala biti digitalna zakonodaja glede na hiter tehnološki razvoj vedno prožna, na načelih temelječa, tehnološko nevtralna, primerna za prihodnost in sorazmerna, pri čemer bi moral biti po potrebi uporabljen pristop, ki temelji na tveganju in spoštovanju temeljnih pravic, in preprečena bi morala biti nepotrebna dodatna upravna obremenitev malih in srednjih podjetij, zagonskih podjetij ter akademskega in raziskovalnega sveta; poleg tega poudarja, kako pomembna je visoka raven pravne varnosti in da so posledično potrebna stroga, praktična in nedvoumna merila za uporabo, opredelitve in obveznosti v vseh pravnih besedilih v zvezi s prodajo, uporabo ali razvojem tehnologij umetne inteligence;

122.

meni, da je agenda za boljše pravno urejanje ključnega pomena, če naj bo strategija EU za umetno inteligenco uspešna; poudarja, da se je treba pred predlaganjem novih zakonodajnih aktov osredotočiti na mehanizme za pregled, prilagoditev, izvajanje in izvrševanje že obstoječe zakonodaje;

123.

poziva Komisijo, naj pred objavo novih digitalnih predlogov na področjih, kot je umetna inteligenca, izvede poglobljene predhodne ocene učinka ter ustrezno predvidevanje in analizo tveganja; poudarja, da bi morala v teh ocenah učinka sistematično evidentirati in ovrednotiti ustrezno obstoječo zakonodajo s tega področja, da bi preprečili prekrivanje ali konflikte;

124.

predlaga, da se novi predpisi s področij, kot je umetna inteligenca, dopolnijo tako, da bi se spodbujali evropski standardi, ki bi jih razvili deležniki; meni, da bi si morala EU prizadevati za preprečevanje razdrobljenosti in da so mednarodni standardi sicer lahko koristna referenca, da pa bi morala EU dati prednost razvoju lastnih standardov; poudarja, da bi morali ti standardi temeljiti na pošteni konkurenci za najvišje standarde v EU, na katere bi se morale odzvati EU in organizacije za standardizacijo; ugotavlja, da bi lahko tehnične standarde in navodila za njihovo oblikovanje povezali s sistemi označevanja, da bi tako prek zagotavljanja zaupanja vrednih storitev in proizvodov krepili zaupanje potrošnikov; poudarja vlogo, ki jo imajo organizacije EU za standardizacijo pri razvoju najsodobnejših tehničnih standardov; poziva Komisijo, naj pospeši izdajanje mandatov za standardizacijo evropskim organizacijam za standardizacijo v skladu z Uredbo (EU) št. 1025/2012 Evropskega parlamenta in Sveta z dne 25. oktobra 2012 o evropski standardizaciji (37);

125.

pojasnjuje, da bi lahko odprta platforma za certificiranje ustvarila ekosistem zaupanja, ki bi vključeval vlade, civilno družbo, podjetja in druge deležnike;

126.

poziva Parlament, Komisijo in Svet, naj izboljšajo svoje zmogljivosti za reševanje internih sporov glede pristojnosti v zvezi z medsektorskimi temami, kot je umetna inteligenca, saj bi lahko zaradi takšnih sporov prišlo do zamud pri zakonodajnih postopkih, kar bi posredno vplivalo na začetek veljavnosti zadevne zakonodaje;

ii. UPRAVLJANJE IN IZVRŠEVANJE

127.

poziva, naj se zakonodaja, povezana z umetno inteligenco, po vsej EU dosledno usklajuje, izvaja in izvršuje;

128.

pojasnjuje, da so forumi za posvetovanje z deležniki, kot sta odbor za podatkovne inovacije, ki bo ustanovljen z aktom o upravljanju podatkov, ali evropsko zavezništvo za umetno inteligenco, ki vključuje javno-zasebna partnerstva, kot je evropsko zavezništvo za industrijske podatke, računalništvo na robu in računalništvo v oblaku, obetaven pristop k upravljanju; nadalje pojasnjuje, da ta pristop ekosistemu umetne inteligence v EU omogoča, da svoja načela, vrednote in cilje prenese v prakso ter zagotovi, da se družbeni interesi odražajo na ravni kode programske opreme;

129.

poudarja, da je treba zaradi težave, povezane s tem, da se tehnologija razvija hitreje kot zakonodaja, ki jo ureja, posebno pozornost nameniti učinkovitemu naknadnemu izvrševanju s strani sodišč in regulativnih agencij, pa tudi predhodnim prizadevanjem za reševanje pravnih izzivov, ki jih prinašajo tehnologije v vzponu; zato podpira uporabo regulativnih peskovnikov, s čimer bodo razvijalci umetne inteligence dobili edinstveno priložnost, da pod nadzorom pristojnih organov hitro, prožno in nadzorovano izvajajo preizkuse; ugotavlja, da bodo ti regulativni peskovniki delovali kot prostori za preizkušanje, v katerih bodo lahko umetnointeligenčni sistemi in novi poslovni modeli preizkušeni v dejanskih pogojih in v nadzorovanem okolju, preden bodo vstopili na trg;

iii. PRAVNI OKVIR ZA UMETNO INTELIGENCO

130.

poudarja, da je eden od temeljnih ciljev digitalne strategije EU in strategije za umetno inteligenco ustvariti „evropsko pot“ v digitaliziranem svetu; pojasnjuje, da bi moral biti ta pristop osredotočen na človeka, zaupanja vreden, v skladu z načeli etike in temeljiti na konceptu socialnega tržnega gospodarstva; poudarja, da bi morala posameznik in varstvo njegovih temeljnih pravic tudi v prihodnje vedno biti v središču vseh političnih in zakonodajnih razmislekov;

131.

se strinja z ugotovitvijo Komisije iz bele knjige o umetni inteligenci iz leta 2020, da bi bilo treba vzpostaviti pravni okvir za umetno inteligenco, ki bo temeljil na tveganju in bo zajemal zlasti visoke etične standarde, ki bodo temeljili na preglednosti, preverljivosti in prevzemanju odgovornosti, v kombinaciji z določbami o varnosti proizvodov, ustreznimi pravili o odgovornosti in sektorskimi določbami, hkrati pa podjetjem in uporabnikom zagotovil zadostno prožnost in pravno varnost ter enake konkurenčne pogoje za spodbujanje uvajanja umetne inteligence in inovacij;

132.

opozarja na vodilno dodano vrednost konceptov, terminologije in standardov, ki jih je razvila OECD, kot vira navdiha za pravno opredelitev umetne inteligence; poudarja, da bi EU s tem pridobila prednost pri oblikovanju prihodnjega mednarodnega sistema upravljanja umetne inteligence;

133.

je prepričan, da umetna inteligenca ne bi smela biti vedno regulirana kot tehnologija, temveč da bi morala biti raven njenega regulativnega urejanja sorazmerna z vrsto tveganj za posameznika ali družbo, ki izhajajo iz uporabe določenega umetnointeligenčnega sistema; v zvezi s tem poudarja, da je treba razlikovati med primeri uporabe umetne inteligence, ki so povezani z velikim tveganjem, in primeri njene uporabe, ki so povezani z majhnim tveganjem; ugotavlja, da so za prvo kategorijo potrebni strogi dodatni zakonodajni zaščitni ukrepi, medtem ko so za primere uporabe z nizkim tveganjem v številnih primerih potrebne zahteve glede preglednosti za končne uporabnike in potrošnike;

134.

navaja, da bi morala uvrstitev umetnointeligenčnih sistemov med sisteme velikega tveganja temeljiti na njihovi konkretni uporabi ter kontekstu, naravi, verjetnosti, resnosti in morebitni nepovratnosti škode, za katero se lahko pričakuje, da bo nastala pri kršitvah temeljnih pravic ter zdravstvenih in varnostnih predpisov, kot so opredeljeni v pravu Unije; poudarja, da bi morali to klasifikacijo spremljati smernice in spodbujanje izmenjave primerov dobre prakse za razvijalce umetne inteligence; poudarja, da je treba vedno spoštovati pravico do zasebnosti in da bi morali razvijalci umetne inteligence zagotoviti, da se pravila o varstvu podatkov v celoti spoštujejo;

135.

poudarja, da morajo umetnointeligenčni sistemi, za katere je verjetno, da bodo z njo v stiku otroci ali da bodo kako drugače vplivali nanje, upoštevati njihove pravice in šibke točke ter da morajo biti zasnova in privzete nastavitve teh sistemov v skladu z najvišjimi standardi varnosti in zasebnosti, ki so na voljo;

136.

ugotavlja, da lahko pri okoljih, v katerih umetnointeligenčni sistemi delujejo, obstajajo razlike glede na to, ali gre za okolje medpodjetniškega poslovanja ali okolje poslovanja med podjetji in potrošniki; poudarja, da je treba pravice potrošnikov pravno zaščititi z zakonodajo o varstvu potrošnikov; poudarja, da podjetja sicer lahko vprašanje odgovornosti in druge pravne težave hitro in stroškovno učinkovito rešijo prek pogodb, ki jih sklenejo neposredno s poslovnimi partnerji, da pa bo morda potrebna zakonodaja, da se manjša podjetja zaščiti pred tem, da bi prevladujoči akterji prek poslovne ali tehnološke vezanosti, ovir za vstop na trg ali težav z asimetričnim obveščanjem zlorabili svojo tržno moč; poudarja, da je treba upoštevati tudi potrebe malih in srednjih ter zagonskih podjetij, kar zadeva kompleksne zahteve, da ne bodo v slabšem položaju kot večja podjetja, ki imajo dovolj sredstev za velike pravne službe in službe za varovanje zakonitosti poslovanja;

137.

poudarja, da je treba za še nerešena etična vprašanja, povezana z novimi tehnološkimi možnostmi, ki izhajajo iz prodaje in uporabe umetne inteligence, uporabiti pristop, ki temelji na načelih, med drugim z uporabo temeljnih, obveznih načel, kot so načelo neškodovanja, načelo spoštovanja človekovega dostojanstva in temeljnih pravic ter varstvo demokratičnega procesa; ugotavlja, da so primeri dobre prakse pri razvoju umetne inteligence, kot so umetna inteligenca, osredotočena na človeka, odgovorno upravljanje ter načeli preglednosti in razložljivosti, pa tudi načela trajnostne umetne inteligence, ki so v celoti v skladu z agendo OZN za trajnostni razvoj do leta 2030, drugi pomembni elementi pri oblikovanju gospodarstva umetne inteligence;

138.

priznava, da pri algoritmih umetne inteligence ni vedno mogoče zagotoviti, da bi bili popolnoma nepristranski, saj je idealni cilj, da bi bili podatki brez napak, zelo težko oziroma skoraj nemogoče doseči; ugotavlja, da se bo tudi preizkušen umetnointeligenčni sistem v praksi znašel v situacijah, ki bi lahko privedle do pristranskih rezultatov, če bo uporabljen v drugačnem okolju, kot so podatki, na podlagi katerih se je učil in bil preizkušen; poudarja, da bi si morala EU prizadevati za izboljšanje preglednosti naborov podatkov in algoritmov, zelo tesno sodelovati z razvijalci umetne inteligence, da bi preprečila in ublažila strukturne družbene predsodke, ter razmisliti o zavezujočih pravilih o potrebni skrbnosti na področju človekovih pravic že v zgodnji fazi razvoja;

139.

pojasnjuje, da so lahko razumne obveznosti za umetnointeligenčne sisteme glede preglednosti in razložljivosti v številnih primerih koristne, a morda niso vedno izvedljive; ugotavlja, da je treba pravice intelektualne lastnine in poslovne skrivnosti zaščititi pred nezakonitimi praksami, kot je industrijsko vohunjenje;

140.

navaja, da mora zakonodajni okvir za intelektualno lastnino še naprej zagotavljati spodbude in zaščito za inovatorje na področju umetne inteligence, tako da se razvoj in objava njihovih stvaritev nagradita s podelitvijo patenta; meni, da je veljavna zakonodaja večinoma primerna za prihodnost, a priporoča nekatere prilagoditve, med drugim vključitev odprtokodnih elementov in uporabo javnih naročil, da se rešitve umetne inteligence po potrebi zagotovijo z odprtokodno programsko opremo; predlaga, da se uvedejo nove oblike podeljevanja licenc za patente, da bodo regijam na voljo orodja in pobude, ki si jih sicer ne bi mogle privoščiti;

141.

meni, da bi lahko bilo za zagotovitev, da so umetnointeligenčni sistemi na trgu varni in verodostojni, koristno uvesti obvezno predhodno samooceno tveganj na podlagi jasnih pravil in standardov ter oceno učinka v zvezi z varstvom podatkov, ki bi jo spremljala ocena skladnosti, ki bi jo opravila tretja stran, z relevantno in ustrezno oznako CE, in sicer v kombinaciji z naknadnim izvrševanjem prek nadzora trga; meni, da bi bilo treba za preprečitev izrinjanja malih in srednjih podjetij s trga v tesnem sodelovanju z njimi razviti standarde in smernice za skladnost z zakonodajo o umetni inteligenci ter jih čim bolj usklajevati na mednarodni ravni in jih dati na voljo brezplačno;

142.

ugotavlja, da bi morali razvijalci umetne inteligence, ki predstavlja veliko tveganje, zagotoviti varno hrambo dostopnih dnevnikov o algoritemski dejavnosti, da bi povečali varnost proizvodov in izboljšali odkrivanje napak; meni, da bi morali razvijalci umetnointeligenčne sisteme velikega tveganja po potrebi zasnovati tako, da bodo vključevali mehanizme (t. i. gumbe za izklop), da bi lahko s človeškim posredovanjem samodejno dejavnost kadar koli hitro in učinkovito ustavili, in zagotoviti uporabo pristopa človeka v zanki; meni, da bi morali biti izhodni podatki in postopki odločanja umetnointeligenčnega sistema vedno razumljivi za ljudi;

143.

priznava, da umetnointeligenčni sistemi sprožajo številna pravna vprašanja in da je treba razmisliti o reviziji nekaterih delov veljavnih določb o odgovornosti; v zvezi s tem z zanimanjem pričakuje zakonodajni predlog, ki ga bo Komisija podala o odgovornosti na področju umetne inteligence; poudarja, da lahko direktiva o odgovornosti za proizvode (38) in nacionalne ureditve odgovornosti na podlagi krivde načeloma ostanejo osrednji steber zakonodaje za obravnavo večine škode, ki bi jo povzročila umetna inteligenca; poudarja, da bi lahko v nekaterih primerih prišlo do neustreznih rezultatov, a opozarja, da bi bilo treba pri vsaki reviziji upoštevati veljavno zakonodajo o varnosti proizvodov in da bi morala temeljiti na jasno opredeljenih vrzelih, hkrati pa bi morala biti primerna za prihodnost in bi jo moralo biti mogoče učinkovito izvajati in zagotavljati bi morala zaščito posameznikov v EU;

144.

poudarja, da z zakonodajnim okvirom v zvezi z razumevanjem tveganj ne bi smela biti določena enaka raven osebne odgovornosti za otroke kot za odrasle;

145.

ugotavlja, da bi lahko razmislili o nekaterih spremembah pravnih opredelitev „proizvoda“, vključno z integriranimi programskimi aplikacijami, digitalnimi storitvami in soodvisnostjo proizvodov, ter „proizvajalca“, vključno z upravljavcem zalednega sistema, ponudnikom storitev in dobaviteljem podatkov, da bo za škodo, ki bi jo lahko povzročile te tehnologije, na voljo nadomestilo; pri čemer pa poudarja, da opredelitev „proizvoda“ ne bi smela biti niti preširoka niti preozka;

146.

poudarja, da je zaradi značilnosti umetnointeligenčnih sistemov (njihove kompleksnosti, povezljivosti, nepreglednosti, ranljivosti, spremenljivosti prek posodobitev, zmogljivosti samoučenja in morebitne avtonomije) ter velikega števila akterjev, ki sodelujejo pri njihovem razvoju, uvajanju in uporabi, zelo težko zagotoviti, da so določbe zakonodajnega okvira Unije in držav članic o odgovornosti resnično učinkovite; zato meni, da evropski in nacionalni sistemi odgovornosti sicer dobro delujejo in jih ni treba v celoti revidirati, da pa so potrebne specifične in usklajene prilagoditve, da se prepreči, da bi osebe, ki so utrpele škodo ali katerih premoženje je bilo poškodovano, ostale brez nadomestila; poudarja, da bi morala za umetnointeligenčne sisteme velikega tveganja sicer veljati stroga zakonodaja o objektivni odgovornosti v kombinaciji z obveznim zavarovalnim kritjem, za druge dejavnosti, naprave ali postopke, ki temeljijo na umetnointeligenčnih sistemih, pa bi morala še naprej veljati krivdna odgovornost, kadar povzročijo škodo; meni, da bi moral biti oškodovanec kljub temu upravičen do domneve o krivdi upravljavca, razen če lahko ta dokaže, da je ravnal v skladu s svojo dolžnostjo skrbnega ravnanja;

iv. IZZIV EU V ZVEZI S PODATKI

147.

je seznanjen s sklepi Komisije iz sporočila iz leta 2020 z naslovom Evropska strategija za podatke in sklepi iz resolucije Parlamenta z dne 25. marca 2021 o isti temi, v katerih je navedeno, da je vzpostavitev enotnega evropskega podatkovnega prostora – skupaj z razvojem panožnih podatkovnih prostorov in osredotočanjem na skupne standarde – ključnega pomena za zagotovitev hitre nadgradljivosti rešitev umetne inteligence v EU in zunaj nje ter za zagotovitev odprte strateške avtonomije in gospodarske blaginje EU; opozarja, da sta razpoložljivost visokokakovostnih podatkov in razvoj aplikacij umetne inteligence tesno povezana; v zvezi s tem poudarja, da je treba v EU uvesti robustne, zanesljive in interoperabilne storitve v oblaku ter rešitve, ki spodbujajo decentralizirano podatkovno analitiko in strukturo računalništva na robu; poziva Komisijo, naj pojasni pravice imetnikov soustvarjenih neosebnih podatkov do dostopa do teh podatkov, njihove uporabe in souporabe; poudarja, da je treba tehnično omogočiti dostop do podatkov, tudi prek interoperabilnih standardiziranih vmesnikov in interoperabilne programske opreme; poudarja, da ovire za izmenjavo podatkov vodijo v upad inovacij in konkurence ter krepitev oligopolnih tržnih struktur, pri čemer obstaja veliko tveganje, da se bodo razširile na povezani trg aplikacij umetne inteligence;

148.

poudarja, da sta odprtje podatkovnih silosov in omogočanje dostopa do podatkov za raziskovalce in podjetja na področju umetne inteligence ključnega pomena, kot je navedeno v resoluciji Evropskega parlamenta o evropski strategiji za podatke; poudarja, da neravnovesja na trgu, ki so posledica tega, da zasebna podjetja bolj omejujejo dostop do podatkov, povečujejo ovire za vstop na trg ter ovirajo širši dostop do podatkov in njihovo uporabo, zaradi česar zlasti zagonska podjetja in raziskovalci težko pridobijo podatke, ki jih potrebujejo za učenje algoritmov, ali prijavijo licenco zanje; poudarja, da je treba vzpostaviti potrebno pravno varnost in interoperabilno tehnično infrastrukturo, hkrati pa evropske imetnike podatkov spodbujati, da dajo svoje velike količine neuporabljenih podatkov na voljo; meni, da prostovoljna souporaba podatkov med podjetji na podlagi poštenih pogodbenih ureditev prispeva k doseganju tega cilja; vendar priznava, da pogodbeni dogovori med podjetji zaradi razlik v pogajalski moči oziroma strokovnem znanju malim in srednjim podjetjem ne zagotavljajo nujno ustreznega dostopa do podatkov; poudarja, da tržnice z odprtimi podatki olajšujejo souporabo podatkov, saj podjetjem in raziskovalcem na področju umetne inteligence pomagajo pri pridobivanju podatkov in prijavi licence zanje, in sicer od tistih, ki želijo podatke dati na voljo na takih tržnicah, na primer podatkovni katalogi, imetnikom in uporabnikom podatkov pa omogočajo, da se pogajajo o načinih souporabe podatkov; v zvezi s tem pozdravlja pravila o storitvah posredovanja podatkov, ki so določena v aktu o upravljanju podatkov;

149.

pozdravlja pobude Evropske zveze za računalništvo v oblaku, kot je evropsko zavezništvo za industrijske podatke, računalništvo na robu in računalništvo v oblaku, pa tudi projekt GAIA-X, katerih cilj je razviti enotno podatkovno infrastrukturo in ustvariti ekosistem, ki bo ponudnikom podatkov omogočal nadgradljivost, interoperabilnost in samoodločanje; ugotavlja, da bi pravilnik EU o računalništvu v oblaku, v katerem bi bile zbrane veljavna zakonodaja in samoregulativne pobude, prav tako pripomogel k prenosu skupnih načel in vrednot EU v izvedljive postopke in kontrole, ki bi jih lahko uporabljali strokovni delavci;

150.

priporoča, da se interoperabilnost podatkov nadalje krepi in določijo skupni standardi ter tako olajša pretok podatkov med različnimi stroji in subjekti, izboljša souporaba podatkov med državami in sektorji ter omogoči obsežno ustvarjanje visokokakovostnih naborov podatkov; ugotavlja, da bi lahko tudi spodbujanje odprtih standardov, odprtokodne programske opreme, licenc Creative Commons in odprtih vmesnikov za aplikacijsko programiranje pomembno prispevalo k pospešitvi souporabe podatkov; poudarja vlogo, ki jo imajo skupni evropski podatkovni prostori pri omogočanju prostega pretoka podatkov v evropskem podatkovnem gospodarstvu;

151.

poziva Komisijo in države članice, naj poskrbijo, da se bodo v okviru pravil konkurence strožje izvrševali pošteni pogodbeni pogoji, da bi odpravili neravnovesja v smislu tržne moči, ne da bi to neupravičeno vplivalo na pogodbeno svobodo, ter da bodo imeli protimonopolni organi ustrezno opremo in sredstva za boj proti težnjam po koncentraciji podatkov; poudarja, da bi evropski podatkovni prostori podjetjem omogočili tesnejše medsebojno sodelovanje, zato meni, da je treba podjetjem zagotoviti več smernic in pravne jasnosti glede konkurenčnega prava ter sodelovanja pri souporabi in združevanju podatkov; poudarja, da podatkovno sodelovanje, tudi za namene učenja aplikacij umetne inteligence ali v sektorju interneta stvari, nikakor ne bi smelo olajšati oblikovanja kartelov ali ustvarjati ovir za vstop novih udeležencev na trg; poudarja, da je treba pojasniti pogodbene pravice razvijalcev umetne inteligence in podjetij na področju umetne inteligence, ki prispevajo k ustvarjanju podatkov z uporabo algoritmov ali naprav interneta stvari, zlasti pravico do dostopa do podatkov in do prenosljivosti podatkov, pravico, da se drugo stran pozove, naj preneha uporabljati nekatere podatke, in pravico do popravka ali izbrisa podatkov;

152.

v zvezi s podatki, ki jih hranijo javni organi, poziva države članice, naj hitro začnejo izvajati direktivo o odprtih podatkih (39) in ustrezno uporabljajo akt o upravljanju podatkov, pri čemer naj po možnosti brezplačno dajo na voljo nabore podatkov velike vrednosti ter jih posredujejo v strojno berljivi obliki in vmesnikih za aplikacijsko programiranje; poudarja, da bi takšna pobuda zmanjšala stroške, ki jih imajo javni organi z razširjanjem in ponovno uporabo svojih podatkov, raziskovalcem in podjetjem EU pa pomagala znatno izboljšati njihove digitalne tehnologije na področjih, kot je umetna inteligenca;

153.

poziva, naj se splošna uredba o varstvu podatkov po vsej EU enotno izvaja, in sicer tako da se učinkovito in hitro začne uporabljati mehanizem za usklajenost ter uskladijo različne nacionalne razlage tega zakonodajnega akta; meni, da je treba poleg tega bolje opremiti organe za varstvo podatkov, med drugim s tehničnim strokovnim znanjem;

154.

je seznanjen s praktičnimi smernicami Komisije iz leta 2019 o tem, kako obdelati mešane nabore podatkov; poudarja, da je glede na negotovost glede tega, ali so podatki dovolj anonimizirani, za raziskovalce in podjetja na področju umetne inteligence pogosto še vedno najboljša možnost, da naborov podatkov ne souporabljajo;

155.

meni, da mnenje 05/2014 iz člena 29 delovne skupine za varstvo podatkov z dne 10. aprila 2014 o tehnikah anonimizacije nudi koristen pregled, ki bi ga lahko nadalje razvili; poziva Evropski odbor za varstvo podatkov, naj sprejme smernice, ki bodo temeljile na specifičnih možnostih uporabe in ustreznih situacijah, za različne vrste upravljavcev in obdelovalcev podatkov ter za različne primere obdelave podatkov, vključno s kontrolnim seznamom vseh zahtev, ki morajo biti izpolnjene, da bodo podatki dovolj anonimni; pri čemer pa ugotavlja, da sedanje tehnike anonimizacije podatkov ne morejo zagotoviti popolnega in celovitega varstva zasebnosti, saj se je pri poskusih izkazalo, da lahko sodobni umetnointeligenčni sistemi vseeno ponovno identificirajo posameznike;

156.

poziva Evropski odbor za varstvo podatkov, naj izda več smernic za raziskovalce in podjetja na področjih, kot je umetna inteligenca, o tem, kako učinkovito in na način, ki bo skladen s splošno uredbo o varstvu podatkov, obdelovati osebne podatke zunaj EU;

157.

predlaga, da se financira več raziskav o standardizaciji pristopa „vgrajene zasebnosti“ ter da se spodbujajo kriptografske rešitve in strojno učenje, pri katerih se spoštuje zasebnost, saj je bistveno zagotoviti, da se lahko visokokakovostni podatki uporabljajo za učenje algoritmov in izvajanje nalog umetne inteligence, ne da bi pri tem posegali v zasebnost; ugotavlja, da so se tudi podatkovni trusti, certificiranje umetnointeligenčnih aplikacij velikega tveganja, sistemi za upravljanje osebnih informacij in uporaba sintetičnih podatkov izkazali za obetavne;

158.

spodbuja EU in njene države članice, naj izkoristijo nedavno vzpostavljen projekt OECD o dostopu zaupanja vrednih javnih organov do osebnih podatkov, ki jih hrani zasebni sektor, kot referenčno točko za oblikovalce politik po vsem svetu, da bi poiskali mednarodno rešitev in regulativno zbližali primere dobre prakse na tem področju; v zvezi s tem poudarja, da je prosti pretok podatkov in metapodatkov prek mednarodnih meja in ob polnem spoštovanju pravnega reda EU o varstvu podatkov ključen dejavnik, ki omogoča digitalne inovacije v Evropi; zato poziva Komisijo, naj ne nalaga zahtev glede lokalizacije podatkov, razen kadar je to potrebno za varstvo temeljnih pravic, vključno z varstvom podatkov, ali v omejenih, sorazmernih in utemeljenih primerih, kadar je tak pristop v interesu EU ali je potreben za spoštovanje evropskih standardov;

159.

poziva Komisijo, naj se na sodbo Sodišča Evropske unije, da je zasebnostni ščit EU-ZDA neveljavljen, odzove tako, da sprejme vse ukrepe, ki so potrebni za zagotovitev, da bo morebiten nov sklep o ustreznosti v zvezi z ZDA v celoti skladen s splošno uredbo o varstvu podatkov, Listino Evropske unije o temeljnih pravicah in vsemi vidiki sodbe, hkrati pa poenostavil čezatlantski pretok podatkov; poziva Komisijo, naj nadaljuje pogovore o primernosti podatkov z drugimi državami, ki niso članice EU, saj je to najboljši način za spodbujanje politik EU na področju varstva podatkov in omogočanje mednarodne izmenjave podatkov;

b) Dokončanje enotnega digitalnega trga

i. NACIONALNE STRATEGIJE NA PODROČJU UMETNE INTELIGENCE

160.

poziva države članice, naj pregledajo svoje nacionalne strategije na področju umetne inteligence, saj je večina še vedno zelo splošnih in nima opredeljenih jasnih ciljev, tudi v zvezi z digitalnim izobraževanjem za družbo kot celoto in z višjimi kvalifikacijami za specialiste; jim priporoča, naj oblikujejo bolj konkretne, količinsko opredeljive in specifične ukrepe ter se trudijo ustvariti sinergije med njimi;

161.

poziva Komisijo, naj državam članicam pomaga določiti prednostne naloge in kar najbolj uskladiti njihove nacionalne strategije in regulativno okolje za umetno inteligenco, da bi zagotovili skladnost in doslednost po vsej EU; poudarja, da je raznolikost nacionalnih pristopov sicer dober način za vzpostavitev najboljše prakse, vendar bi se razvijalci in raziskovalci na področju umetne inteligence srečali s številnimi ovirami, če bi se v vsaki od 27 držav članic uporabljali različni operativni parametri in regulativne obveznosti;

ii. TRŽNE OVIRE

162.

poziva Komisijo, naj si še naprej prizadeva odstranjevati neupravičene ovire za dokončno vzpostavitev enotnega digitalnega trga, vključno z diskriminacijo na podlagi države, nepopolnim medsebojnim priznavanjem poklicnih kvalifikacij, preveč obremenjujočimi postopki za dostop do trga in neupravičeno visokimi regulativnimi stroški zagotavljanja skladnosti, ter naj obravnava pogosto uporabo odstopanj, ki vodijo v neenotna pravila v različnih jurisdikcijah držav članic; poudarja, da so za podjetja, ki poslujejo v čezmejnem okolju, pravila EU o umetni inteligenci v nasprotju z razdrobljenim pristopom po posameznih državah dobrodošla, saj bodo prispevala k spodbujanju vodilnega položaja Evrope na področju razvoja in uvajanja umetne inteligence;

163.

poziva Komisijo, naj pospeši vzpostavitev resnične unije kapitalskih trgov; poudarja, da je treba izboljšati dostop do finančnih sredstev, zlasti za mala in srednja podjetja, zagonska podjetja in podjetja v razširitveni fazi;

164.

poudarja, da je treba hitro zaključiti pogajanja o še nerešenih zakonodajnih dosjejih, namenjenih dokončanju enotnega digitalnega trga;

165.

poziva Komisijo, naj zagotovi dosledno izvrševanje pravil enotnega trga;

166.

ugotavlja, da bi bilo treba nov zakonodajni okvir skrbno posodobiti in uskladiti z digitalnimi proizvodi in storitvami; predlaga, naj se pozornost nameni posodobitvi in poenostavitvi postopkov zagotavljanja skladnosti z uvedbo digitalnih alternativ za obstoječa analogna in papirna sredstva, da bi podjetjem omogočili uporabo digitalnih oznak CE, elektronskega označevanja ali digitaliziranih varnostnih navodil;

167.

spodbuja Komisijo, naj podpre podjetja, ki ne delujejo prek spleta in si tega želijo; spodbuja informacijske kampanje, namenjene malim in srednjim ter zagonskim podjetjem, v pričakovanju nove in prihodnje zakonodaje EU na tem področju, pa tudi okrepljeno izvrševanje pravil o nadzoru trga, s čimer bi povečali zaupanje evropskih potrošnikov;

iii. ENAKI KONKURENČNI POGOJI

168.

je prepričan, da je potrebna reforma sedanjih nacionalnih in evropskih konkurenčnih in protimonopolnih okvirov, da bi bolje obravnavali zlorabe tržne moči in algoritemsko dogovarjanje v digitalnem gospodarstvu ter vprašanja, povezana z zbiranjem podatkov, in obvladovali tveganja novih nastajajočih monopolov, ne da bi to bilo v škodo inovacijam; pozdravlja prihodnjo odobritev akta o digitalnih trgih; poziva k posebni obravnavi morebitnih vprašanj konkurence na področju umetne inteligence;

169.

ugotavlja, da bi morala takšna reforma okrepiti pristop, ki temelji na dokazih, ter bolj upoštevati vrednost podatkov in posledice mrežnih učinkov, uvesti jasna pravila za platforme, ki prevladujejo na trgu, in povečati pravno varnost za sodelovanje v digitalnem gospodarstvu;

170.

v zvezi s tem ugotavlja, da bi morala Komisija prilagoditi svoje prakse za opredelitev trgov, da bi trge ocenila natančneje in v skladu s sodobnimi tržnimi razmerami v digitalnem sektorju, ter opraviti dinamično analizo in sprejeti dolgoročni pregled za oceno obstoja konkurenčnih pritiskov;

171.

poziva Komisijo in nacionalne organe, pristojne za konkurenco, naj okrepijo svoja prizadevanja za stalno spremljanje digitalnih trgov in tako opredelijo konkurenčne omejitve in ozka grla na področju konkurence ter posledično pogosteje uvedejo korektivne ukrepe za podjetja, ki zlorabljajo svoj prevladujoči položaj ali so vpletena v protikonkurenčno ravnanje;

172.

poziva države članice, naj bistveno povečajo financiranje in tehnično zmogljivost organov, pristojnih za konkurenco, da bi zagotovile učinkovito in hitro izvrševanje pravil konkurence v hitrem in kompleksnem digitalnem gospodarstvu; poudarja, da bi morali organi, pristojni za konkurenco, pospešiti postopke v zvezi z zlorabo in po potrebi uvesti začasne ukrepe za ohranitev in spodbujanje poštene konkurence, hkrati pa zagotoviti procesne pravice podjetij do obrambe;

c) Digitalna zelena infrastruktura

i. POVEZLJIVOST IN RAČUNALNIŠKA ZMOGLJIVOST

173.

poziva Komisijo, naj izpolni svoj cilj, da bo 75 % evropskih podjetij spodbudila, da do leta 2030 začnejo uporabljati storitve računalništva v oblaku, velepodatke in umetno inteligenco, da bi ostala svetovno konkurenčna in zagotovila, da bodo njeni cilji glede podnebne nevtralnosti doseženi do leta 2050; ugotavlja, da 2,07 milijarde EUR finančnih sredstev za digitalno infrastrukturo v okviru instrumenta za povezovanje Evrope ne zadošča;

174.

poudarja, da je treba zaradi sprememb količine in obdelave podatkov za umetno inteligenco razviti in uvesti tudi nove tehnologije obdelave podatkov, ki bodo vključevale računalništvo na robu in s katerimi se bomo odmaknili od modelov centralizirane infrastrukture računalništva v oblaku k vse večji decentralizaciji zmogljivosti obdelave podatkov; poziva h krepitvi naložb in raziskav na področju distribuiranih računalniških grozdov, robnih vozlišč in pobud za digitalne mikrokrmilnike; ugotavlja, da prehod na široko uporabo rešitev na robu morda zahteva več virov, saj se izgubijo koristi optimizacije združevanja, in poudarja, da bi bilo treba okoljske stroške in koristi infrastruktur na robu preučiti na sistemski ravni v okviru evropske strategije za računalništvo v oblaku, vključno z optimizacijo porabe energije umetne inteligence;

175.

poudarja, da je za umetno inteligenco potrebna zmogljiva strojna oprema, da bi bili izpopolnjeni algoritmi uporabni, vključno z visokozmogljivostnim in kvantnim računalništvom ter internetom stvari; poziva k nadaljnjemu povečevanju ciljno usmerjenega javnega in zasebnega financiranja inovativnih rešitev, ki zmanjšujejo porabo energije, vključno z okoljsko primerno zasnovo programske opreme; poziva k razvoju standardov za merjenje uporabe virov v digitalni infrastrukturi na ravni EU na podlagi najboljše prakse; je zaskrbljen zaradi svetovne krize mikroprocesorjev in v zvezi s tem pozdravlja predlog Komisije za zakon o čipih, da bi zmanjšali sedanjo odvisnost EU od zunanjih dobaviteljev; vendar opozarja na prihodnja tveganja presežnih zmogljivosti na trgu in poziva k skrbnemu razmisleku o naložbenem ciklu;

176.

poudarja, da mora delujoča in hitra infrastruktura za umetno inteligenco temeljiti na pravični in varni digitalni povezljivosti visoke hitrosti, za kar so potrebni uvedba omrežja 5G na vseh mestnih območjih do leta 2030, širok dostop do ultrahitrih širokopasovnih omrežij in politika radiofrekvenčnega spektra z licenčnimi pogoji, ki bodo zagotavljali predvidljivost, spodbujali dolgoročne naložbe in ne bodo izkrivljali konkurence; poziva države članice, naj še naprej izvajajo nabor orodij 5G; poziva, naj se začne uporabljati direktiva o znižanju stroškov širokopasovnih povezav (40), da bi olajšali uvajanje omrežij; poziva Komisijo, naj izvede presojo vpliva tehnologije 5G na okolje; poudarja pomen boja proti širjenju dezinformacij v zvezi z omrežji 5G s komunikacijsko strategijo EU; v zvezi s tem poudarja, da bo obsežna in vključujoča razprava nazadnje prispevala k ustvarjanju zaupanja med državljani glede ukrepov za stalni razvoj mobilnih omrežij;

177.

poziva Komisijo, naj določi časovne načrte za države članice, mesta, regije in industrijo ter izboljša postopke upravne odobritve za omrežje 5G; poziva, naj se v regijah, kjer uvajanje izvaja javni sektor, več sredstev nameni za zagotavljanje visokohitrostne povezljivosti oddaljenim skupnostim in za premostitev digitalne vrzeli; poziva k podpori za projekte na področju širokopasovnih povezav in povezljivosti v večletnem finančnem okviru, pri čemer je treba lokalnim organom zagotoviti lažji dostop, da bi preprečili prenizko črpanje javnih sredstev;

178.

poziva Komisijo, naj oceni medsebojni vpliv umetne inteligence in naslednjega vala digitalne infrastrukture, da bo lahko Evropa prevzela vodilno vlogo v omrežjih naslednje generacije, vključno s 6G;

179.

poziva k jasni strategiji o uvedbi omrežja iz optičnih vlaken in širokopasovnih povezav na podeželskih območjih, ki je ključno tudi za podatkovno intenzivne tehnologije, kot je umetna inteligenca; v zvezi s tem poziva k večji podpori Evropske investicijske banke za projekte povezljivosti na podeželskih območjih;

180.

poudarja, da so za obsežne naložbe, potrebne za postavitev omrežja in hitro uvajanje, da bi dosegli cilje, določene z digitalnim kompasom, potrebni sporazumi o souporabi infrastrukture, ki so tudi ključni za spodbujanje trajnostnosti in zmanjšanje porabe energije; poudarja, da so ta prizadevanja še na začetku in jih je treba še razširiti;

ii. TRAJNOSTNOST

181.

poziva EU, naj prevzame vodilno vlogo pri doseganju podnebne nevtralnosti in energijske učinkovitosti zelene digitalne infrastrukture do leta 2030 v skladu s cilji Pariškega sporazuma in v povezavi s programom evropskega zelenega dogovora, tudi s presojo vpliva obsežnega uvajanja sistemov, ki temeljijo na umetni inteligenci, na okolje, pri čemer se upoštevajo povečane potrebe po energiji pri razvoju in uporabi umetne inteligence; poziva k usklajenemu svetovnemu večstranskemu ukrepanju za uporabo umetne inteligence v boju proti podnebnim spremembam ter degradaciji okolja in izgubi biotske raznovrstnosti;

182.

poziva k uporabi umetne inteligence za spremljanje porabe energije v občinah in razvoj ukrepov za energetsko učinkovitost;

183.

priznava, da nekatere obsežne aplikacije umetne inteligence zahtevajo veliko podatkov in virov ter da imajo velik vpliv na okolje; opozarja, da bi morali biti sistemi umetne inteligence zasnovani, razviti in uvedeni ob upoštevanju zelenega prehoda, podnebne nevtralnosti in krožnega gospodarstva, da bi bila evropska umetna inteligenca trajnostna in okoljsko odgovorna;

184.

poziva Komisijo, naj spodbuja uporabo energijsko učinkovitih podatkovnih centrov, ki lahko podprejo ogljično nevtralnost;

185.

poudarja, da trenutno pomanjkanje izmenjave informacij v podatkovnih centrih ovira možnost ustreznega javnega ukrepanja in primerjalnega pregleda okoljske uspešnosti podatkovnih centrov; poziva k bistvenemu povečanju števila presoj vplivov na okolje, izvedenih v zvezi z razvojem umetne inteligence; poziva k oblikovanju zahtev, s katerimi bi zagotovili, da bodo na voljo ustrezni dokazi za merjenje okoljskega odtisa obsežnih aplikacij umetne inteligence; poudarja, da so potrebna jasna pravila in smernice za presojo vplivov umetne inteligence na okolje, vključno z ocenami življenjskega cikla na podlagi več meril; poziva k odprtemu dostopu do ključnih okoljskih kazalnikov uspešnosti podatkovnih centrov, razvoju standardov EU in uvedbi zelenih oznak EU za računalništvo v oblaku;

186.

poziva k načrtu krožnega gospodarstva za digitalne tehnologije in umetno inteligenco ter poudarja, da bi morala EU zagotoviti močno verigo za recikliranje IKT;

187.

priporoča spodbujanje uporabe rešitev, ki temeljijo na umetni inteligenci, v skladu z dvojnim zelenim in digitalnim prehodom v vseh sektorjih, da bi uskladili trajnostne standarde za podjetja ter omogočili spremljanje energijske učinkovitosti in zbiranje informacij o emisijah in življenjskem ciklu proizvodov;

188.

poziva Komisijo, naj oblikuje natečaje in naloge za rešitve umetne inteligence za reševanje posebnih okoljskih problemov ter okrepi to komponento v programu Obzorje Evropa in programu za digitalno Evropo; opozarja, da bi bilo treba projekte, povezane s potencialom umetne inteligence za obravnavanje okoljskih vprašanj, izvajati na podlagi odgovornih in etičnih raziskav in inovacij;

189.

poziva Komisijo, naj razvije okoljska merila ter naj dodeljevanje proračunskih sredstev EU, financiranje in postopke javnega naročanja za umetno inteligenco poveže z njeno okoljsko uspešnostjo;

190.

poziva Komisijo, naj spodbuja pametna mesta s pametnimi stavbami, pametnimi omrežji, povezanimi avtomobili, platformami za mobilnost, javnimi storitvami in logistiko; podpira razvoj skupne zbirke najboljših praks za projekte in aplikacije; poudarja, da pametna mesta zahtevajo dobro sodelovanje med državo in lokalnimi oblastmi, pa tudi med njihovimi agencijami in zasebnimi strankami;

191.

poudarja, da je treba opredeliti načela, s katerimi bi zagotovili, da se lahko ustrezni podatki o podnebju in trajnostnosti vključijo v vzpostavitev novih podatkovnih prostorov o trajnostnosti;

192.

poziva Komisijo, naj sodeluje z državami članicami in zasebnim sektorjem pri vzpostavljanju in podpiranju zmogljivosti za testiranje, v katerih bo mogoče preskusiti trajnost aplikacij umetne inteligence, ter naj ponudi smernice o tem, kako izboljšati okoljski odtis teh aplikacij; spodbuja prilagoditev obstoječih zmogljivosti za testiranje, da bi se osredotočili na primere uporabe v krožni proizvodnji;

193.

poziva Komisijo, naj spodbuja trajnostno prometno infrastrukturo, ki uporablja umetno inteligenco za povečanje učinkovitosti, zmanjšanje onesnaževanja in spodbujanje prilagodljivosti potrebam uporabnikov;

d) Ekosistem odličnosti

i. TALENTI

194.

poziva Komisijo, naj oblikuje okvir spretnosti in znanj na področju umetne inteligence, ki bo izhajal iz okvira digitalnih kompetenc, da bi državljanom, delavcem in podjetjem zagotovili ustrezne priložnosti za usposabljanje in učenje na področju umetne inteligence ter izboljšali izmenjavo znanja, primerov dobre prakse ter medijske in podatkovne pismenosti med organizacijami in podjetji, in sicer tako na ravni EU kot tudi na nacionalni ravni; poziva Komisijo, naj hitro oblikuje takšen okvir kompetenc na podlagi obstoječih izobraževalnih shem za umetno inteligenco; priporoča, naj se ustanovi evropski podatkovni prostor za znanja in spretnosti na področju umetne inteligence, ki bo podpiral evropsko usposabljanje na sektorski in regionalni ravni v vseh državah članicah; poudarja, da morata biti pridobivanje in poučevanje digitalnih znanj in spretnosti ter znanj in spretnosti na področju umetne inteligence dostopna vsem, zlasti ženskam in ranljivim skupinam; poziva Komisijo in države članice, naj podprejo brezplačne spletne tečaje za izboljšanje osnovnega usposabljanja na področju umetne inteligence;

195.

poziva k naložbam v raziskave, da bi bolje razumeli strukturne trende, povezane z umetno inteligenco, na trgu dela, vključno s tem, po katerih znanjih in spretnostih bo v prihodnosti večje povpraševanje in na katerih področjih grozi pomanjkanje, da bi prilagodili sheme za prehod zaposlenih;

196.

z zaskrbljenostjo ugotavlja, da ni ciljno usmerjenih in sistematičnih ukrepov za poklicno usposabljanje odraslih; poziva Komisijo in države članice, naj razvijejo politike, vključno z ustreznimi naložbami v preusposabljanje in izpopolnjevanje delovne sile ter z obveščanjem državljanov o delovanju algoritmov in njihovem vplivu na vsakdanje življenje; poziva, naj se posebna pozornost nameni tistim, ki so izgubili zaposlitev ali jim grozi, da jo bodo izgubili zaradi digitalnega prehoda, da bi jih pripravili na delo s tehnologijami, povezanimi z umetno inteligenco in IKT; poziva Komisijo, naj spodbuja partnerstva za znanja in spretnosti z več deležniki in naj vanje vlaga, da bi preskusili najboljše prakse; priporoča spremljanje ustvarjanja kakovostnih delovnih mest, povezanih z umetno inteligenco, v EU;

197.

poudarja, da je obstoječe digitalne vrzeli mogoče odpraviti le s ciljno usmerjenimi in vključujočimi ukrepi za ženske in starejše, zato poziva k znatnim naložbam v ciljno usmerjeno izpopolnjevanje ter izobraževalne ukrepe; poziva Komisijo in države članice, naj v zvezi s tem spodbujajo kulturo enakosti spolov in enake delovne pogoje;

198.

poziva Komisijo, naj spodbuja enakost spolov v podjetjih, ki se ukvarjajo z dejavnostmi, povezanimi z umetno inteligenco in IKT, tudi s financiranjem projektov v digitalnem sektorju, ki jih vodijo ženske, in spodbujanjem minimalnega števila raziskovalk, ki sodelujejo pri razpisih za financiranje raziskav, povezanih z umetno inteligenco in IKT;

199.

poudarja, da je treba pomanjkanje talentov obravnavati z zagotavljanjem rasti, privabljanja in zadrževanja vrhunskih talentov; poziva Komisijo, naj ukrepa v skladu s svojim ciljem, da bi bilo v EU zaposlenih 20 milijonov strokovnjakov za informacijsko in komunikacijsko tehnologijo; poudarja, da mora EU omogočiti konkurenčne plače, boljše delovne pogoje, čezmejno sodelovanje in konkurenčno infrastrukturo, da bi zadržala največje talente na področju umetne inteligence in preprečila beg možganov;

200.

poudarja dodano vrednost poenostavljenega in racionaliziranega okvira Unije za privabljanje mednarodnih talentov v tehnološki sektor, da bi omogočili pretok talentov in mobilnost znotraj EU in iz tujine, izboljšali dostop mednarodnih talentov do trga dela Unije ter na zahtevo privabili delavce in študente; poudarja, da so potrebna nova inovativna orodja in zakonodaja, ki bodo delodajalcem pomagala pri povezovanju s potencialnimi delavci na področju IKT, odpravila pomanjkanje delovne sile na trgu dela in olajšala priznavanje mednarodnih kvalifikacij ter znanj in spretnosti; priporoča oblikovanje evropskega bazena talentov in platforme za povezovanje, ki bi služila kot enotna kontaktna točka za mednarodne talente, ki se želijo prijaviti na delo v EU, pa tudi za delodajalce, ki iščejo potencialne delavce v tujini; poziva Komisijo, naj razširi področje uporabe modre karte EU, da bo Evropa ostala odprta za svetovne talente;

201.

poziva Komisijo, naj obravnava povečano povpraševanje po delu na daljavo prek meja držav članic, da bi zaposlenim iz EU in mednarodnih skupnosti omogočili delo na daljavo v drugi državi članici, kot je tista, v kateri prebivajo; v zvezi s tem priporoča celovit pregled zakonodajnih in drugih ovir za delo na daljavo ter njihovo obravnavo v nadaljnjih zakonodajnih predlogih;

202.

poudarja, da je treba okrepiti inovacijsko kohezijo med regijami EU in med državami članicami, saj so talenti lahko neenakomerno porazdeljeni;

203.

poziva Komisijo in države članice, naj zagotovijo ustrezno varstvo pravic in dobrega počutja delavcev, kot so nediskriminacija, zasebnost, samostojnost in človekovo dostojanstvo pri uporabi umetne inteligence in algoritemskem upravljanju, tudi kar zadeva prakse neupravičenega nadzora; poudarja, da morajo delodajalci pri uporabi umetne inteligence pri delu zagotavljati preglednost glede načina njene uporabe in njenega vpliva na delovne pogoje, ter poudarja, da bi morali delavce pred uporabo naprav in praks, ki temeljijo na umetni inteligenci, vedno obvestiti in se z njimi posvetovati; poudarja, da morajo biti algoritmi vedno pod človeškim nadzorom ter da morajo biti njihove odločitve odgovorne, izpodbitne in po potrebi reverzibilne; meni, da bi bilo treba spodbujati usposabljanje razvijalcev algoritmov o etičnih, preglednih in protidiskriminacijskih vprašanjih;

204.

poziva k oblikovanju evropske strategije za varno uporabo umetne inteligence za otroke, ki bi otroke obveščala o interakciji z umetno inteligenco, da bi jih zaščitili pred tveganji in morebitno škodo;

205.

poziva države članice, naj digitalne spretnosti in pismenost vključijo v osnovno izobraževanje in vseživljenjsko učenje; poziva k oblikovanju uspešnega izobraževalnega sistema na področju umetne inteligence, ki bo že v zgodnji fazi spodbujal digitalno pismenost, znanja in spretnosti ter digitalno odpornost, začenši z osnovnošolskim izobraževanjem; poudarja, da so za razvoj učinkovitih učnih načrtov za digitalno izobraževanje potrebni politična volja, zadostna sredstva in znanstvene raziskave; poziva Komisijo, naj spodbuja uvedbo programov umetne inteligence in računalniških kompetenc v vseh evropskih šolah, univerzah in izobraževalnih ustanovah; poudarja, da je tak razvoj znanj in spretnosti potreben v izobraževanju odraslih, pa tudi v osnovnošolskem ali srednješolskem izobraževanju; poziva k celoviti in dosledni pobudi za politiko Komisije in držav članic o znanjih in spretnostih ter izobraževanju na področju umetne inteligence na ravni EU, pa tudi k zakonodajni pobudi o umetni inteligenci na delovnem mestu;

206.

opozarja, da so potrebni multidisciplinarni univerzitetni učni načrti, ki se bodo osredotočali na digitalna znanja in spretnosti ter znanja in spretnosti na področju umetne inteligence, tudi na področju zdravja, ter meddisciplinarna raziskovalna središča; meni, da bi bilo treba dati poudarek tudi na poti k nadaljnjemu izobraževanju za specializacijo na področju umetne inteligence (npr. magistrski in doktorski študij ter študij s skrajšanim časom);

207.

poziva države članice, naj namenijo prednost razvoju inovativnih učnih metod in učnih načrtov na področju naravoslovja, tehnologije, inženirstva in matematike ter programiranja, zlasti pa naj izboljšajo kakovost matematike in statistične analize za razumevanje algoritmov umetne inteligence; poziva Komisijo in države članice, naj spodbujajo akademske discipline na področju naravoslovja, tehnologije, inženirstva in matematike, da bi povečale število študentov na teh področjih; poudarja, da bodo tudi druge discipline, ki so povezane z naravoslovjem, tehnologijo, inženirstvom in matematiko, ključne za spodbujanje digitalnih znanj in spretnosti;

208.

spodbuja države članice, naj spodbujajo udeležbo žensk v študiju in karierah na področju naravoslovja, tehnologije, inženirstva in matematike, IKT in umetne inteligence, da bi dosegli enakost spolov, tudi z opredelitvijo cilja za udeležbo raziskovalk v projektih na teh področjih naravoslovja, tehnologije, inženirstva in matematike ter umetne inteligence;

209.

poudarja, da bi moralo digitalno izobraževanje povečati tudi ozaveščenost o vidikih morebitnega vpliva strojnega učenja na vsakdanje življenje, vključno s sistemi za priporočanje, ciljno usmerjenim oglaševanjem, algoritmi družbenih medijev in globokimi ponaredki; poudarja, da je za digitalno odpornost potrebno dodatno medijsko izobraževanje, ki bo pripomoglo k kontekstualizaciji novih digitalnih znanj in spretnosti ter znanj in spretnosti na področju umetne inteligence, zato poziva k podpori novim in že obstoječim dostopnim tečajem opismenjevanja na področju umetne inteligence za vse državljane;

210.

poziva k ukrepom, s katerimi bi zagotovili, da bodo imele vse izobraževalne ustanove širokopasovni dostop in močno digitalno učno infrastrukturo; poudarja, da je treba evropskim univerzam in njihovim mrežam zagotoviti ustrezne računalniške vire, potrebne za usposabljanje modelov umetne inteligence, ki postajajo vse dražji; poudarja, da je treba učiteljem posredovati potrebna znanja in orodja na področju umetne inteligence; poziva k večjemu poudarku na tehničnem usposabljanju učiteljev in razvoju inovativnih orodij za poučevanje in učenje;

211.

poziva k naložbam v pobude za izboljševanje spretnosti programiranja med mladimi, da bi spodbudili znanja in spretnosti na področju umetne inteligence ter visoke kvalifikacije, vključno s šolami programiranja, programi poletnih šol in štipendijami na področju umetne inteligence; meni, da bi bilo treba prakso EU za digitalne priložnosti razširiti tudi na poklicno usposabljanje;

ii. RAZISKAVE

212.

poziva EU, naj poveča naložbe v raziskave o umetni inteligenci in drugih ključnih tehnologijah, kot so robotika, kvantno računalništvo, mikroelektronika, internet stvari (IoT), nanotehnologija in 3D-tiskanje; poziva Komisijo, naj razvije in vzdržuje evropski strateški raziskovalni načrt za umetno inteligenco, ki bo odgovoril na pomembne interdisciplinarne izzive, pri katerih je umetna inteligenca lahko del rešitve; poudarja, da bi bilo treba naložbe usmeriti v primere, pri katerih je velika verjetnost, da bodo povečali število trajnostnih rešitev, blaginjo in vključenost v družbo;

213.

spodbuja vse države članice, naj večji delež svojega BDP porabijo za raziskave o digitalnih tehnologijah; poziva k nadaljnji krepitvi programa Obzorje Evropa, zlasti njegovega partnerstva za umetno inteligenco, podatke in robotiko, ter Evropskega sveta za inovacije; poziva k razširitvi programa Digitalna Evropa ter meni, da bi bilo treba dodeljena sredstva v višini 7,6 milijarde EUR povečati;

214.

poudarja, da je treba na ravni EU dati prednost raziskavam na področju umetne inteligence; poziva Komisijo, naj poenostavi strukturo financiranja raziskav, tudi zahtev in postopkov za pridobitev nepovratnih sredstev; poudarja, da je treba izboljšati kakovost in doslednost pregledovanja predlogov in povečati predvidljivost finančnih instrumentov in njihov časovni razpored, da bi podprli dolgoročno načrtovanje, pri čemer bi bilo treba uporabiti evropski načrt za raziskave na področju umetne inteligence; poziva Komisijo, naj financira več projektov na področju umetne inteligence s kombiniranjem različnih instrumentov, kot so Evropski raziskovalni svet, ukrepi Marie Skłodowske-Curie, Evropski svet za inovacije in Evropski inštitut za inovacije in tehnologijo;

215.

poziva Komisijo in države članice, naj dajo prednost financiranju raziskav na področju umetne inteligence, ki se osredotočajo na trajnostno in družbeno odgovorno umetno inteligenco ter prispevajo k iskanju rešitev, ki bodo varovale in spodbujale spoštovanje temeljnih pravic, ter naj se izogibajo financiranju programov, ki predstavljajo nesprejemljivo tveganje glede omenjenih pravic, med drugim financiranju sistemov množičnega nadzora, družbenega točkovanja in drugih sistemov, ki bi lahko imeli negativne družbene posledice, ter tehnologij, ki prispevajo k okoljski škodi;

216.

spodbuja vzpostavitev več delovnih mest predavateljev umetne inteligence na evropskih univerzah, zagotovitev ustreznih plač za raziskave na področju umetne inteligence in več javnega financiranja za ustrezno usposabljanje in zadržanje zdajšnje in naslednje generacije raziskovalcev in podjetnikov ter preprečevanje bega možganov; poudarja, da je treba zmanjšati birokratske ovire za raziskovalce na univerzah pri enostavnem dostopu do sredstev, in poziva Komisijo, naj zagotovi orodja za povečanje digitalne medsebojne povezanosti univerz, tako v posameznih državah članicah kot med njimi; poziva k razvoju medsektorskih mrež za umetno inteligenco med evropskimi univerzami, raziskovalnimi ustanovami in zasebnim sektorjem ter namenskih multidisciplinarnih raziskovalnih centrov za umetno inteligenco;

217.

priporoča, naj univerze okrepijo financiranje za uporabne raziskovalne projekte, ki upoštevajo razsežnosti umetne inteligence;

218.

poziva Komisijo, naj z vzpostavitvijo poslovnih mrež in kontaktnih točk s pravnimi strokovnjaki in poslovnimi svetovalci na univerzah, pa tudi z vzpostavitvijo okroglih miz za državljane, znanstvenih in družbenih platform in vključevanjem javnosti v oblikovanje raziskovalnih programov na področju umetne inteligence izboljša prenos znanja med raziskavami na področju umetne inteligence ter javnostjo; poudarja, kako pomemben je nemoten prehod med akademskim svetom in industrijo ter kako velika je dodana vrednost njune bližine za uspešne in dinamične ekosisteme umetne inteligence in industrijska središča;

219.

poudarja, da je treba pospešiti prenose znanja v EU od raziskav in znanosti do uporabe umetne inteligence v industriji ter v javnem sektorju; pozdravlja vzpostavitev namenskega javno-zasebnega partnerstva za umetno inteligenco; poziva Komisijo, naj ustanovi evropske podatkovne centre za umetno inteligenco, ki jih bosta skupaj razvijali industrija in civilna družba; poudarja pomen centrov za testiranja na področju umetne inteligence; posebej izpostavlja Skupno podjetje za visokozmogljivostno računalništvo, Skupno podjetje za ključne digitalne tehnologije in Skupno podjetje za pametna omrežja in sisteme;

220.

poziva k ustanovitvi vodilnih centrov za umetno inteligenco v okviru programa Obzorje Evropa na podlagi obstoječih in prihodnjih mrež regionalnih centrov odličnosti na področju umetne inteligence, da bi vzpostavili zavezništvo močnih evropskih raziskovalnih organizacij, ki bodo imele skupen načrt za podporo odličnosti na področju temeljnih in uporabnih raziskav, usklajevanje nacionalnih prizadevanj na področju umetne inteligence, spodbujanje inovacij in naložb, privabljanje in ohranjanje talentov na področju umetne inteligence v Evropi ter ustvarjanje sinergij in ekonomije obsega; meni, da bi lahko koncept vodilnih centrov privabil najboljše znanstvenike iz tujine ter prinesel znatne zasebne naložbe v Evropo;

221.

dodaja, da bi bilo treba vodilne centre, v sodelovanju z drugimi raziskovalnimi ustanovami in industrijo, tudi ustrezno financirati; poudarja koristi dobro opremljenih regulativnih peskovnikov za preskušanje proizvodov, storitev in pristopov umetne inteligence v nadzorovanem resničnem okolju, preden se dajo na trg;

222.

poudarja, da je vzpostavitev evropskih vozlišč za digitalne inovacije v okviru programa Digitalna Evropa dodaten pomemben korak pri oblikovanju ekosistema odličnosti na področju umetne inteligence, ki bo temeljil na grozdih univerz in industrije; vendar obžaluje, da so merila za imenovanje evropskih vozlišč za digitalne inovacije še vedno ohlapna, zato se vozlišča, razpršena po Evropi, zelo razlikujejo po svojih zmogljivostih in razvoju, in da sodelovanje z drugimi digitalnimi vozlišči, ki jih je vzpostavil Evropski inštitut za inovacije in tehnologijo (EIT) oziroma so bila vzpostavljena v okviru programa Obzorje Evropa, še vedno ni dorečeno; zato predlaga, da je treba vložiti več usklajevanja in prizadevanj, potrebna pa je tudi vzpostavitev sodelovalnega splošnega grozda decentraliziranih vozlišč za umetno inteligenco, ki bo temeljil na vseevropskem okviru pravnega strokovnega znanja, podatkov, financiranja in pobud; pozdravlja pobude Komisije za vzpostavitev mrež zagonskih podjetij po vsej EU in zunaj nje, kot sta Start-up Europe in Start-up Europe Mediterranean, da bi spodbudili izmenjavo zamisli, poslovne priložnosti in priložnosti za mreženje;

223.

predlaga, naj se povečajo in uskladijo obstoječe pobude, kot sta Evropski laboratorij za učenje in inteligentne sisteme in Konfederacija laboratorijev za raziskave umetne inteligence v Evropi, in vodilni projekti, kot sta mreža HumanE AI in AI4EU, z namenom spodbujanja ambicioznih, sodelovalnih in vseevropskih raziskovalnih in razvojnih ciljev ter projektov;

e) Ekosistem zaupanja

i. DRUŽBA IN UMETNA INTELIGENCA

224.

predlaga, naj države članice poleg predlaganega usposabljanja na področju umetne inteligence oblikujejo kampanje ozaveščanja, vključno z javnimi razpravami na lokalni ravni, ki bodo dodatno sredstvo za stik z državljani ter njihovo obveščanje in opolnomočenje, da bi bolje razumeli priložnosti, tveganja in družbene, pravne in etične učinke umetne inteligence, kar bo nadalje prispevalo k njeni verodostojnosti in demokratizaciji; je prepričan, da bi to, skupaj z oblikovanjem jasnega in trdnega pravnega okvira za na človeka osredotočeno in zaupanja vredno umetno inteligenco, lahko prispevalo k zmanjšanju pomislekov državljanov, ki bi lahko bili povezani z razširjeno uporabo umetne inteligence v Evropi;

225.

poziva EU, naj zagotovi, da bodo razvoj, uvedba in uporaba umetne inteligence v celoti spoštovali demokratična načela in temeljne pravice ter spoštovali zakonodajo na način, ki bo omogočal boj proti mehanizmom nadzora in ne bo neprimerno posegal v volitve ali prispeval k širjenju dezinformacij;

226.

poudarja, da bi morale vlade in podjetja uporabljati in naročati le zaupanja vredne sisteme umetne inteligence, ki so po potrebi zasnovani tako, da podpirajo pravice delavcev ter spodbujajo kakovostno izobraževanje in digitalno pismenost ter ne povečujejo razlik med spoloma ali diskriminacije s preprečevanjem enakih možnosti za vse;

227.

podpira prilagoditve zakonodaje o varstvu potrošnikov kot še en način za krepitev zaupanja v umetno inteligenco, na primer tako, da se potrošnikom zagotovi pravica, da vedo, ali so v stiku z obliko umetne inteligence, kar bi jim omogočilo, da vztrajajo pri človeškem pregledu odločitev umetne inteligence, in tako, da se jim zagotovi sredstva za preprečevanje komercialnega nadzora ali individualiziranega oblikovanja cen;

228.

poudarja, da bi bilo treba nekatere tehnologije umetne inteligence na delovnem mestu, kot so tehnologije, ki uporabljajo podatke delavcev, uvesti ob posvetovanju s predstavniki delavcev in socialnimi partnerji; poudarja, da bi morali imeti delavci in njihovi predstavniki možnost, da od delodajalcev zahtevajo informacije o tem, kateri podatki se zbirajo, kje se hranijo, kako se obdelujejo in kakšni zaščitni ukrepi so vzpostavljeni za njihovo zaščito;

229.

poziva EU, naj zagotovi, da bodo umetnointeligenčni sistemi odražali njeno kulturno raznolikost in večjezičnost, da bi preprečili pristranskost in diskriminacijo; izpostavlja vprašanje pristranskosti umetne inteligence, za rešitev katerega je treba spodbujati raznolikost v ekipah, ki razvijajo in uvajajo posamezne aplikacije umetne inteligence in ki ocenjujejo njihova tveganja; poudarja, da je treba podatke, razčlenjene po spolu, uporabiti za ocenjevanje algoritmov umetne inteligence in da mora biti analiza na podlagi spola vključena v vse ocene tveganja umetne inteligence;

230.

poudarja pomen stalnega raziskovanja in spremljanja učinkov umetne inteligence na različne vidike družbe, tako na nacionalni ravni kot na ravni EU; predlaga, da se v to vključijo tudi Eurostat in druge agencije EU;

231.

poudarja, da bi lahko na podlagi rezultatov sistema spremljanja razmislili o evropskem skladu za prehod, ki bi na primer pomagal pri obvladovanju izgube delovnih mest v ranljivih sektorjih ali regijah;

ii. E-UPRAVA

232.

poziva države članice, naj izpolnijo Talinsko deklaracijo o e-upravi, postavijo državljane v osredje storitev in uvedejo mehanizme za zagotovitev brezmejnih, interoperabilnih, personaliziranih, uporabnikom prijaznih digitalnih javnih storitev od konca do konca, ki bodo temeljile na umetni inteligenci, vsem državljanom na vseh ravneh javne uprave; meni, da bi si morali zastaviti cilj, da v naslednjih petih letih državljanom zagotovimo digitalizirane storitve e-uprave, ki bi temeljile na umetni inteligenci, hkrati pa ohranimo interakcijo med ljudmi; opozarja, da bodo imeli pri tem ključno vlogo sredstva mehanizma za okrevanje in odpornost in nacionalni načrti za okrevanje in odpornost; poziva javne organe, naj podpirajo in razvijajo umetno inteligenco v javnem sektorju; pozdravlja revizijo uredbe eIDAS (41) in njeno vlogo pri spodbujanju uvajanja digitalnih javnih storitev; poudarja, da nihče ne bi smel biti zapostavljen in da bi morale biti vedno na voljo alternative zunaj spleta;

233.

poziva Komisijo, naj obnovi akcijski načrt za e-upravo in poišče sinergije s programom za digitalno Evropo, da bi podprli javne uprave pri sprejemanju umetne inteligence v skladu z evropsko strategijo za odprtokodno programje;

234.

opozarja, da ima e-uprava pomembno vlogo pri razvoju podatkovnega gospodarstva in digitalnih inovacij na enotnem digitalnem trgu; ugotavlja, da sta sodelovanje in izmenjava dobrih praks med javnimi upravami in prek meja bistvena dela uvedbe e-uprave po vsej EU; poziva k standardiziranim in racionaliziranim javnoupravnim postopkom za učinkovitejše izmenjave med državami članicami EU in vsemi upravnimi ravnmi;

235.

ugotavlja, da so za razvoj kakovostnih spletnih storitev potrebni usposobljeni strokovnjaki; poudarja, da je treba okrepiti vladne politike zaposlovanja in usposabljanja za digitalno usposobljene ljudi z znanjem o umetni inteligenci;

236.

poziva k pospešenem uvajanju enotnega digitalnega portala in k spodbujanju razvoja interoperabilnih platform, ki ponujajo čezmejne storitve v EU, ob izpolnjevanju skupnih varnostnih standardov v vseh državah članicah; poudarja, da bi bilo treba razmisliti o morebitni razširitvi zunaj omejenega nabora storitev, ki so trenutno vključene v Uredbo (EU) 2018/1724 (42) o vzpostavitvi enotnega digitalnega portala;

237.

poudarja, da platforme za javno posvetovanje institucij EU in držav članic povečujejo sodelovanje in dostop do digitalnih informacij; priporoča naložbe v izboljšanje uporabnosti in dostopnosti, kot je zagotavljanje povzetkov in informacij v več jezikih, pa tudi v namensko trženje digitalnih platform za sodelovanje javnosti in ciljno usmerjeno ozaveščanje o njih;

238.

priporoča okrepitev interaktivnih in osebnih dialogov z državljani EU prek spletnih posvetovanj z državljani, oblik dialoga z deležniki ali digitalnih funkcij za komentiranje zakonodaje in pobud EU;

iii. E-ZDRAVJE

239.

poziva k zasnovi, ki bo osredotočena na človeka, in pristopu k umetni inteligenci v zdravstvu, ki bo temeljil na dokazih in bo osredotočen na personalizirano, stroškovno učinkovito in kakovostno zdravstvo, usmerjeno v pacienta in razvito v tesnem sodelovanju z zdravstvenimi delavci in pacienti, hkrati pa bo podpiral človeški nadzor in odločanje; poziva k prednostnemu financiranju, določitvi strateških ciljev, spodbujanju sodelovanja in sprejetju uporabe umetne inteligence v zdravstvu, ki je kritični sektor, v katerem lahko priložnosti, ki jih ponuja umetna inteligenca, prinesejo ogromne koristi za zdravje in dobro počutje državljanov, dokler se s tem povezana tveganja ustrezno obvladujejo;

240.

poudarja, da bi bilo treba uporabo umetne inteligence v zdravstvu spodbujati kot orodje za pomoč zdravstvenim delavcem in zmanjšanje njihovega bremena, ki bi jim omogočilo, da bi se lahko osredotočili na klinične naloge, ne pa kot nadomestilo za zdravstvene delavce ali kot neodvisni akter v zdravstvenih sistemih; poudarja, da je treba zagotoviti enako raven kakovosti, varnosti in zaščite kot v regulativnem postopku odobritve zdravil, cepiv in medicinskih pripomočkov; poziva k uporabi metode, podobne kliničnemu preskušanju, za preskušanje ustreznosti in spremljanje uporabe umetne inteligence v kliničnem okolju; meni, da bi bilo koristno oceniti, katere zdravstvene storitve se lahko avtomatizirajo ob upoštevanju vprašanj o etiki in odgovornosti;

241.

meni, da bi bilo treba pravičen dostop do zdravstvenega varstva kot načelo razširiti na uporabe umetne inteligence, povezane z zdravjem, vštevši sisteme za odkrivanje bolezni, obvladovanje kroničnih bolezni, zagotavljanje zdravstvenih storitev in odkrivanje novih zdravil; poudarja, da je treba sprejeti ustrezne ukrepe za obvladovanje zdravstvenih tveganj v zvezi z digitalnim razkorakom, algoritemsko pristranskostjo in diskriminacijo ter marginalizacijo ranljivih oseb ali kulturnih manjšin z omejenim dostopom do zdravstvenega varstva;

242.

opozarja na stališče Parlamenta, da zavarovalnicam ali drugim ponudnikom storitev, ki imajo pravico dostopa do informacij, shranjenih v aplikacijah e-zdravja, ne bi smelo biti dovoljeno, da te podatke uporabljajo za diskriminacijo pri določanju cen;

243.

je prepričan, da so sedanji projekti in pobude EU, kot so EU4 Health, evropski zdravstveni podatkovni prostor in evropska platforma za registracijo redkih bolezni, korak v pravo smer, saj državam članicam omogočajo združevanje virov, povečanje koristnega sodelovanja med zdravstvenimi sistemi ter varno izmenjavo kakovostnih podatkov za raziskave in inovacije ob ohranjanju zasebnosti;

244.

poziva k ustrezni pravni utrditvi in umestitvi okvira za umetno inteligenco v zdravstvu na ravni Unije; poudarja, da se veliko stopenj tveganja z napredkom tehnologij umetne inteligence skozi čas spreminja;

245.

poudarja, da so potrebna natančnejša pravila za obdelavo zdravstvenih podatkov v skladu s splošno uredbo o varstvu podatkov, da bi v celoti izkoristili potencial umetne inteligence v korist posameznikov, hkrati pa ohranili spoštovanje temeljnih pravic; poziva Komisijo, naj hitreje in bolje harmonizira standarde, ki urejajo obdelavo zdravstvenih podatkov, zajemši izmenjavo, anonimizacijo in interoperabilnost, v vseh državah članicah;

246.

poziva Komisijo, naj spodbuja vključevanje etičnih pravil na vseh stopnjah razvoja, zasnove in uporabe aplikacij umetne inteligence; poudarja, da je treba spodbujati nadaljnje raziskave o metodah in pristranskostih, zakodiranih v naučenih sistemih umetne inteligence, da bi preprečili neetične in diskriminatorne zaključke, kadar se uporabljajo za zdravstvene podatke o ljudeh; priporoča vzpostavitev kodeksa ravnanja EU za obdelavo zdravstvenih podatkov v popolni skladnosti s splošno uredbo o varstvu podatkov;

247.

poziva Komisijo, naj razmisli o pobudi o nevropravicah, da bi človeške možgane zaščitili pred vmešavanjem, manipulacijo in nadzorom nevrotehnologije, ki temelji na umetni inteligenci; spodbuja Komisijo, naj se zavzema za agendo o nevropravicah na ravni OZN, da bi v Splošno deklaracijo človekovih pravic vključili nevropravice, zlasti v zvezi s pravico do identitete, svobodne volje, duševne zasebnosti, enakega dostopa do napredka pri umetni krepitvi možganov in zaščite pred algoritemsko pristranskostjo;

248.

poziva Komisijo, naj razmisli o pravnem okviru za spletne zdravniške preglede;

249.

poudarja, da so potrebni ukrepi, ki spodbujajo enak dostop do zdravstvenega varstva in krepijo uvajanje rešitev umetne inteligence pri izvajalcih zdravstvenega varstva;

250.

poziva Komisijo, naj podpre vzpostavitev mehanizma za sodelovanje v okviru evropskega zdravstvenega podatkovnega prostora, da bi spodbudili izmenjavo zdravstvenih podatkov in podprli razvoj elektronske zdravstvene dokumentacije v skladu z veljavnimi zakoni in predpisi; poziva k izboljšanju kakovosti razpoložljivih podatkov za vsakega državljana EU z omogočanjem pravilnega delovanja digitalnih orodij (npr. na podlagi algoritmov za samoučenje ali analize velepodatkov); priporoča, naj bodo podatki, shranjeni v skladu s splošno uredbo o varstvu podatkov, na voljo za nadaljnje raziskave ter razvoj novih zdravil in individualiziranega zdravljenja;

251.

poudarja, da je treba v izobraževanje zdravstvenih delavcev vključiti digitalne spretnosti in znanja na področju umetne inteligence ter znanje o zakonodaji EU o varstvu podatkov in ravnanju z občutljivimi podatki, med drugim spodbujanje anonimizacije podatkov;

252.

poziva k smernicam glede uporabe okvirov odgovornosti in harmoniziranih režimov odobritve za medicinske aplikacije na podlagi umetne inteligence in zdravila, razvita ali preskušena z umetno inteligenco in strojnim učenjem; poudarja, da bi bilo treba škodo, ki je posledica nezadostnega dodeljevanja sredstev ali nezadostnega zagotavljanja oskrbe prek umetnointeligenčnih priporočilnih sistemov v zdravstvenem sektorju, obravnavati v vseh prihodnjih regulativnih reformah; poudarja, da so za certificiranje in odobritev aplikacij v zdravstvu v skladu s tveganji glede odgovornosti potrebni ustrezni primeri dobre prakse, standardi in merila;

253.

poziva Komisijo, naj zagotovi in uporabi na človeka osredotočene napovedne modele za pandemije, pri katerih se raznoliki nabori podatkov združujejo v realnem času, da bi tako prispevali k sprejemanju odločitev;

f) Industrijska strategija

i. STRATEŠKO NAČRTOVANJE IN NALOŽBE

254.

je prepričan, da bi morala EU umetno inteligenco in podatkovno gospodarstvo postaviti v središče ambiciozne digitalne industrijske strategije, da bi inovativnim podjetjem in podjetnikom omogočili tekmovanje za najboljše tehnološke inovacije in inovacije poslovnega modela v Evropi in svetu ter okrepili odprto strateško avtonomijo EU, hkrati pa vzpostavili trdne pravne, etične, tehnološke in varnostne standarde za vse umetnointeligenčne sisteme in komponente, ki naj bi se uporabljali na enotnem trgu EU;

255.

spodbuja Komisijo, naj umetnointeligenčno analizo velepodatkov uporabi za pomoč pri izvajanju stresnih testov za oceno odpornosti vrednostnih verig in kartiranje odvisnosti;

256.

poziva Komisijo, naj izvede celovito analizo šibkih točk, da bi ugotovila ranljivosti EU, opredelila kritična področja in visoko tvegane odvisnosti, oblikovala realistična tehnična in gospodarska pričakovanja v zvezi z umetno inteligenco ter ocenila učinke v vseh panogah evropske industrije; poudarja, da bi morala Komisija v ta namen sodelovati z ustreznimi deležniki;

257.

predlaga, naj EU na podlagi te analize oblikuje in sprejme dolgoročno strategijo za industrijo umetne inteligence z jasno vizijo za naslednjih deset let kot podaljšanje digitalnega kompasa; pojasnjuje, da bi bilo treba to strategijo dopolniti s sistemom spremljanja s ključnimi kazalniki uspešnosti in letnimi posodobitvami; vendar poudarja, da je treba utrditi in racionalizirati veliko število posameznih pobud, ki jih je začela Komisija, da bi podprla industrijo umetne inteligence v EU, preden jih bo vključila v to novo strategijo za industrijo umetne inteligence;

258.

poziva Komisijo, naj preuči, kako bi lahko splošno industrijsko strategijo dopolnili s ciljno usmerjenimi javnimi naložbami; vendar poudarja, da lahko prekomerni neusmerjeni naložbeni programi za kompleksne tehnologije v nekaterih primerih tvegajo izkrivljanje učinkovitega dodeljevanja kapitala in lahko privedejo do nasedlih naložb; v zvezi s tem poudarja, da je krepitev vloge podjetij, podjetnikov in raziskovalcev za razvoj in trženje tehnoloških rešitev umetne inteligence, ki temeljijo na zasebnih podjetjih, osrednji del industrijske strategije EU, med drugim z uveljavljanjem enakih konkurenčnih pogojev ter dokončanjem enotnega digitalnega trga in unije kapitalskih trgov; predlaga, naj se olajša dostop do financiranja, zlasti instrumentov tveganega financiranja, še posebej za financiranje v zgodnji fazi; meni, da bi bilo treba delež sredstev, namenjenih umetni inteligenci prek programa InvestEU in programa za digitalno Evropo, pregledati in po potrebi znatno povečati;

259.

poudarja, da je treba hitro začeti izvajati nedavno sprejeti okvir EU za pregled neposrednih tujih naložb (43) in nedavno revidirano uredbo o režimu EU za nadzor izvoza blaga z dvojno rabo (44); meni, da bi bilo treba umetno inteligenco ter robotiko in drugo digitalno infrastrukturo obravnavati kot panogo izjemnega pomena; ugotavlja, da bi bilo treba strožje izvajati in uveljavljati varstvo pravic intelektualne lastnine in nadzor nad odtokom kritičnih tehnologij;

260.

poudarja, da je bistveno, da se Evropa opremi z ustrezno digitalno infrastrukturo; pozdravlja pobude, kot so evropska procesorska pobuda, novo predlagani akt o čipih in skupno podjetje za evropsko visokozmogljivostno računalništvo;

ii. MALA IN SREDNJA TER ZAGONSKA PODJETJA

261.

predlaga, da se zagonskim podjetjem na področju umetne inteligence zagotovi podpora na ravni EU in vladni ravni, in sicer z dostopom do zasebnega kapitala in usposobljenega osebja, z možnostjo nabave kakovostnih naborov podatkov za učenje algoritmov in zmožnostjo širjenja prek meja držav članic; poleg tega poudarja, da je zelo učinkovito javnopolitično orodje v podporo zagonskemu gospodarstvu učinkovito izvrševanje konkurenčnega prava za preprečevanje zlorab prevladujoče tržne moči in odpravljanje ovir za vstop na trg; v zvezi s tem poudarja, da bi morala EU okrepiti svoja prizadevanja, da bi malim in srednjim ter zagonskim podjetjem ponudila razvojne poti in storitve; meni, da bi to lahko vključevalo tudi uvedbo kolegialnega sistema, ki bi povezoval izkušena podjetja, usmerjena v umetno inteligenco, z manjšimi podjetji, ki želijo uporabljati to tehnologijo; poudarja, da si zagonska podjetja in podjetniki pogosto ne morejo privoščiti obsežne pravne ekipe, da bi se lahko znašli v zapletenem regulativnem okolju, kar zanje pomeni vstopno oviro; poudarja, da morajo imeti mala in srednja podjetja dostop do posebne pravne in tehnične podpore; poudarja tudi, da je treba spodbujati partnerstva, v katerih bi lahko sodelovala podjetja, ki se ukvarjajo z umetno inteligenco, in tista, ki vstopajo na trg; poziva Komisijo in države članice, naj z mrežami, digitalnimi vozlišči, strokovnjaki za učenje umetne inteligence, poslovnim mentorstvom ter obiski lokacij in pravnimi klinikami zagotovijo boljše svetovanje in konkretnejšo podporo; poudarja pomen programov izmenjave med ljudmi, kot je Erasmus za mlade podjetnike, in poudarja, da bi jih bilo treba nadalje razvijati in spodbujati;

262.

predlaga zmanjšanje upravnega bremena za mala in srednja ter zagonska podjetja na področju umetne inteligence, na primer z racionalizacijo obveznosti poročanja, obveščanja ali dokumentiranja ter z zagotavljanjem smernic o skupnih standardih civilnega procesnega prava, ki jih je treba sprejeti na nacionalni ravni; poziva k hitremu izvajanju enotnega digitalnega portala za vzpostavitev enotnega spletnega portala EU v različnih jezikih, ki bo vseboval vse potrebne postopke in formalnosti za delovanje v drugi državi EU; poudarja, da bi morale biti vse enotne kontaktne točke, vzpostavljene na nacionalni ravni, lahko dostopne prek enotnega digitalnega portala ter bi morale zagotavljati informacije in upravne storitve v državah članicah, tudi v zvezi s pravili o DDV in informacijami o zahtevah za opravljanje storitev, pri čemer bi bilo treba uporabljati dostopno terminologijo, informacije bi morale biti v celoti na voljo, usposobljeno osebje službe za pomoč uporabnikom pa bi moralo zagotavljati učinkovito in uporabniku prijazno podporo;

263.

ugotavlja, da bi lahko države članice EU podpirale mala in srednja podjetja ter zagonska podjetja z: davčnimi olajšavami za poglobljene raziskave, boljšim dostopom do računalniških zmogljivosti in kakovostnih podatkovnih nizov ter podporo za pridobivanje tehnologije ter izobraževanje, usposabljanje in preusposabljanje zaposlenih na področju umetne inteligence;

264.

poudarja, da mala in srednja ter zagonska podjetja na področju umetne inteligence potrebujejo boljši dostop do javnih naročil; poziva Komisijo, naj preoblikuje prijavne postopke za javna naročila in financiranje programov EU, da bi zagonskim podjetjem ter malim in srednjim podjetjem omogočili poštene možnosti za dodelitev projektov javnih naročil ter nepovratnih sredstev za raziskave in razvoj; v zvezi s tem opozarja na uspešne programe vladnih tehnoloških platform, ki so podpirali sodelovanje malih podjetij pri digitalnih javnih naročilih; poudarja, da bi bilo treba spodbujati tudi sheme delniških opcij za zagonska podjetja na področju umetne inteligence po vsej Evropi;

iii. MEDNARODNO PRIZORIŠČE

265.

poudarja, da bi EU morala skleniti in z zgledom voditi močno mednarodno tehnološko zavezništvo na podlagi temeljnih vrednot in sodelovati s podobno mislečimi partnerji, da bi vzpostavila regulativne standarde, izkoristila dobro prakso na področjih umetne inteligence, pravic do zasebnosti, podatkovnih tokov in pravil konkurence ter odpravila strateške ranljivosti z izkoriščanjem prednosti drug drugega in združevanjem virov na področjih, na katerih je to vzajemno koristno; poudarja, da bi morala EU tudi dejavno podpirati okrepljeno mednarodno sodelovanje za razvoj etične, zaupanja vredne in na človeka osredotočene umetne inteligence v ustreznih večstranskih in dvostranskih forumih, na primer v okviru sistema OZN, OECD, Sveta Evrope, Svetovne trgovinske organizacije, Svetovnega gospodarskega foruma in skupine G20; zlasti pozdravlja ustanovitev Sveta EU-ZDA za trgovino in tehnologijo, ki je sodelovanje na področju standardov umetne inteligence opredelil kot ključno prednostno nalogo, in trdi, da je treba svet za trgovino in tehnologijo glede na njegov strateški potencial okrepiti z medparlamentarno razsežnostjo, v katero bosta vključena Evropski parlament in kongres ZDA;

266.

predlaga, naj se ustanovi tudi posebna čezatlantska delovna skupina za umetno inteligenco, v kateri bodo predstavniki vlad, organizacij za standardizacijo, zasebnega sektorja in civilne družbe pripravljali skupne standarde in etične smernice za umetno inteligenco; predlaga, naj se na podlagi sedanjega sveta za trgovino in tehnologijo vzpostavi dolgoročna platforma za izmenjavo informacij o umetni inteligenci ter drugih pomembnih digitalnih in trgovinskih vprašanjih z drugimi podobno mislečimi partnerji;

267.

poudarja, da bi morala EU spodbujati družbeno odgovorno in etično uporabo umetne inteligence ter si v sodelovanju z mednarodnimi organi za standardizacijo prizadevati za dodatno izboljšanje standardov etike, varnosti, zanesljivosti, interoperabilnosti in varnosti; pozdravlja nedavne pobude za standardizacijo, ki so jih začeli različni akterji, kot sta skupni tehnični odbor Mednarodne organizacije za standardizacijo in Mednarodna elektrotehniška komisija, da bi se globalno uskladilo raznoliko kodiranje umetne inteligence; poleg tega poudarja, da bi morala Evropa spodbujati in razvijati standarde, tudi na področju pametne proizvodnje, interneta stvari, robotike in podatkovne analitike; predlaga, da se akademikom, civilni družbi ter malim in srednjim podjetjem zagotovi boljša podpora za sodelovanje v forumih za standardizacijo;

268.

podpira pobudo Svetovne trgovinske organizacije o e-trgovanju za razvoj vključujoče, visokokakovostne, komercialno smiselne, na dokazih temelječe in ciljno usmerjene politike, ki bi omogočila boljše odpravljanje ovir za digitalno trgovino; poudarja, da bi moral biti sporazum tudi skladen z načeli dobrega upravljanja in vladam omogočati, da se zoperstavijo digitalnemu protekcionizmu, hkrati pa varovati in spodbujati zaupanje potrošnikov ter ustvarjati resnično vrednost za svetovno gospodarstvo;

269.

predlaga, naj Komisija nadaljuje reševanje problematike neupravičenih trgovinskih ovir, zlasti netarifnih ovir ali omejitev dostopa do trga za evropska podjetja na področju umetne inteligence v tretjih državah; poudarja, da bi bilo treba tudi s pomočjo trgovinske, sosedske in razvojne politike dejavno usmerjati mednarodno razpravo o umetni inteligenci in promovirati evropska etična načela glede umetne inteligence;

g) Varnost

i. UMETNA INTELIGENCA TER PREPREČEVANJE, ODKRIVANJE IN PREISKOVANJE KAZNIVIH DEJANJ

270.

poudarja, kako pomembno je, da so organi preprečevanja, odkrivanja in preiskovanja kaznivih dejanj sposobni prepoznati kriminalne dejavnosti, ki jih podpira tehnologija umetne inteligence, in se boriti proti njim;

271.

poudarja, da je mogoče umetno inteligenco pri preprečevanju, odkrivanju in preiskovanju kaznivih dejanj zlorabiti in z njo škodovati, med drugim z avtomatizirano diskriminacijo in nezakonito obravnavo državljanov, hkrati pa obstaja le malo pravnih sredstev zoper takšno oškodovanje; poziva države članice, naj uvedejo zahteve glede ustreznega človekovega nadzora in zagotovijo pravna sredstva za vse, ki jih zadevajo odločitve, ki jih sprejema umetna inteligenca;

272.

predlaga, naj EU sodeluje pri pristopih mehkega prava, ki jih je vzpostavil Medregijski raziskovalni inštitut OZN za kriminal in pravico – slednji je razvil operativne nabore orodij umetne inteligence in začel partnerstvo z Interpolom, ki deluje kot edinstven forum za dialog in sodelovanje na področju umetne inteligence med organi kazenskega pregona, industrijo, akademskim svetom in civilno družbo, popolnoma v skladu s pravnim redom EU na področju varstva podatkov in zasebnosti;

273.

je seznanjen z vlogo Europola pri razvoju, usposabljanju in potrjevanju orodij umetne inteligence za boj proti organiziranemu kriminalu, terorizmu in kibernetski kriminaliteti v partnerstvu z Evropskim nadzornikom za varstvo podatkov in ob polnem spoštovanju temeljnih vrednot EU, zlasti nediskriminacije in domneve nedolžnosti;

274.

poziva Komisijo, naj okrepi finančne in človeške vire inovacijskega vozlišča EU za notranjo varnost; pozdravlja prizadevanja Eurojusta, Agencije EU za temeljne pravice in Europola, da bi razvili nabor orodij za načela splošne odgovornosti pravosodnih delavcev in strokovnjakov za notranjo varnost pri uporabi umetne inteligence (okvir AP4AI); poziva Komisijo, naj zagotovi namensko finančno podporo za to pobudo za spodbujanje standardov in vrednot EU glede odgovornosti na področju umetne inteligence;

ii. KIBERNETSKA VARNOST

275.

poziva države članice, naj okrepijo sodelovanje na področju kibernetske varnosti na evropski ravni, da bodo lahko EU in države članice bolje združevale vire, bolj učinkovito usklajevale in racionalizirale nacionalne politike na področju kibernetske varnosti, dodatno povečale zmogljivosti in okrepile ozaveščanje na področju kibernetske varnosti ter malim in srednjim podjetjem, pa tudi drugim bolj tradicionalnim sektorjem, hitro zagotovile znanje in tehnično pomoč na področju kibernetske varnosti;

276.

spodbuja EU, naj prevzame vodilno vlogo pri razvoju močnih kriptografskih in drugih varnostnih standardov, ki omogočajo zaupanje v sisteme umetne inteligence in njihovo interoperabilnost; poudarja, da bi bilo treba za vzpostavitev mednarodnega zbliževanja na področju nadzora nad tveganji, povezanimi z IKT, čim bolj nadgraditi in upoštevati obstoječe mednarodne standarde;

277.

predlaga uvedbo horizontalnih zahtev glede kibernetske varnosti na podlagi obstoječe zakonodaje in morebitnih novih horizontalnih zakonodajnih aktov, da bi preprečili razdrobljenost in zagotovili skladen pristop h kibernetski varnosti v vseh skupinah proizvodov; ugotavlja, da bi lahko oznaka CE na proizvodih umetne inteligence na enotnem digitalnem trgu v prihodnosti pomenila visoko raven fizične varnosti na eni strani, na drugi pa ustrezno raven kibernetske odpornosti glede na tveganje, hkrati pa bi pomenila jamstvo, da je proizvod skladen z ustrezno zakonodajo EU;

278.

predlaga, naj države članice s politikami javnega naročanja spodbujajo zahteve glede kibernetske varnosti za sisteme umetne inteligence, med drugim tako, da nekatera etična in varnostna načela uvedejo kot obvezna v javnih naročilih aplikacij umetne inteligence, zlasti v kritičnih sektorjih;

279.

zahteva, naj Agencija EU za kibernetsko varnost (ENISA) opravi sektorske ocene varnostnih tveganj, začenši s tistimi sektorji, tako javnimi kot zasebnimi, ki se ukvarjajo z najbolj tvegano in občutljivo uporabo umetne inteligence in kjer potencial za negativne učinke na zdravje ljudi, varnost, zaščito in temeljne pravice največji; poudarja, da bi morala agencija ENISA skupaj z Evropskim kompetenčnim centrom za kibernetsko varnost in mrežo nacionalnih koordinacijskih centrov preučiti kibernetske incidente, da bi odkrila vrzeli in nove ranljivosti ter institucijam EU pravočasno svetovala o ustreznih korektivnih ukrepih;

280.

spodbuja podjetja, ki uporabljajo, razvijajo ali uvajajo sisteme umetne inteligence in so dejavna na digitalnem enotnem trgu, naj na podlagi individualnih tveganj oblikujejo jasno in neodvisno ocenjeno strategijo za kibernetsko varnost; spodbuja vključevanje sistemov umetne inteligence v modeliranje groženj in obvladovanje varnostnih tveganj; predlaga, naj Komisija, agencija ENISA in nacionalni organi ta proces podprejo;

281.

navaja, da bi se morale zahteve glede kibernetske varnosti za proizvode umetne inteligence nanašati na njihov celoten življenjski cikel; poudarja, da je treba določiti tudi jasno zahtevo, da mora vsako podjetje v dobavni verigi prispevati k ustvarjanju odpornih proizvodov umetne inteligence; poudarja, da bi morale nove zahteve temeljiti na povezanem tveganju v posamezni skupini proizvodov in vplivu na stopnjo tveganja, da bi preprečili nesorazmerno breme za mala in srednja podjetja ter zagonska podjetja;

282.

predlaga, naj se obstoječe pobude v nekaterih državah članicah, kot sta nemški katalog meril skladnosti za storitve umetne inteligence v oblaku in malteški program certificiranja umetne inteligence, upoštevajo pri razvoju vseevropske certifikacijske sheme za zaupanja vredno umetno inteligenco;

iii. KIBERNETSKA OBRAMBA

283.

poziva države članice, naj si prizadevajo za dejavno politiko evropske kibernetske diplomacije z obsojanjem kibernetskih napadov, ki jih podpirajo tuji akterji, tudi napadov s pomočjo umetne inteligence, imenovanjem storilcev ter hkratno uporabo celotnega nabora orodij diplomacije EU; z zadovoljstvom ugotavlja, da nabor orodij EU za kibernetske izzive vsebuje prekinitev finančne pomoči in sankcije zoper države ali posrednike, ki sodelujejo v zlonamernih kibernetskih dejavnostih ali hibridnih napadih, vključno z dezinformacijskimi kampanjami, ali podpirajo kibernetska kazniva dejanja; priznava, da je kibernetska obramba, ki temelji na umetni inteligenci, do določene mere učinkovitejša, če zajema tudi nekatera napadalna sredstva in ukrepe, pod pogojem, da se uporabljajo v skladu z mednarodnim pravom;

284.

poleg tega predlaga okrepitev zmogljivosti Evropske obrambne agencije na področju kibernetske varnosti, tudi z uporabo sistemov, ki temeljijo na umetni inteligenci, da bi podprli usklajeno in hitro odzivanje na kibernetske napade; priporoča, naj se spremlja izvajanje politik kibernetske obrambe v vsaki državi članici in naj se ocenjuje dodeljevanje ustreznih sredstev v EU;

285.

poudarja, da je treba v sodelovanju z državami članicami, zasebnim sektorjem, raziskovalci, znanstveniki in civilno družbo analizirati vpliv umetne inteligence na evropsko varnost in pripraviti priporočila o tem, kako obravnavati nove varnostne izzive na ravni EU;

286.

spodbuja države članice, naj sprejmejo ukrepe za nagrajevanje odkrivanja ranljivosti in podprejo revizije proizvodov, sistemov in postopkov, ki temeljijo na umetni inteligenci;

iv. VOJAŠKA RABA UMETNE INTELIGENCE

287.

ugotavlja, da morajo za vsako uporabo vojaške umetne inteligence veljati strogi mehanizmi človekovega nadzora, etična načela ter popolno spoštovanje mednarodnega prava o človekovih pravicah in humanitarnega prava; poleg tega ugotavlja, da bi morala EU sodelovati s podobno mislečimi partnerji pri oblikovanju mednarodnega okvira za varne raziskave, razvoj in uporabo orožja, podprtega z umetno inteligenco, ki bi okrepil mednarodno humanitarno pravo, tudi v okviru prava oboroženih spopadov; opozarja na mednarodne norme in načela, kot je veljavna sorazmernost, ki jih je treba spoštovati pri razvoju in uporabi novih vojaških tehnologij;

288.

ugotavlja, da so tehnologije, ki temeljijo na umetni inteligenci, vse pomembnejši sestavni del vojaške opreme in strategije; poudarja, da bi bilo treba uporabo umetne inteligence za izključno vojaške namene in namene, povezane z zagotavljanjem nacionalne varnosti, obravnavati strogo ločeno od primerov civilne uporabe; opozarja, da se vprašanja, povezana z nastajajočimi tehnologijami na vojaškem področju, vključno z vprašanji, povezanimi z umetno inteligenco, obravnavajo v skupini vladnih strokovnjakov za nastajajoče tehnologije na področju smrtonosnih avtonomnih orožnih sistemov, v kateri so zastopane države članice EU;

289.

pozdravlja prihodnji strateški kompas EU, ki naj bi zagotovil okvir in določeno mero ambicioznosti pri obravnavanju varnostnih in obrambnih vidikov umetne inteligence; opozarja, da bosta stalno strukturno sodelovanje v okviru skupne varnostne in obrambne politike ter Evropski obrambni sklad državam članicam in Uniji omogočila povečanje naložb, zmogljivosti in interoperabilnosti na področju novih tehnologij, vključno z umetno inteligenco;

290.

meni, da bi morala EU umetno inteligenco obravnavati kot ključni element evropske tehnološke suverenosti;

291.

ugotavlja, da bi morale države članice še naprej usposabljati svoje vojaško osebje, da bo usvojilo potrebna digitalna znanja in spretnosti za uporabo umetne inteligence v nadzornih, operativnih in komunikacijskih sistemih; pozdravlja pristop Evropskega obrambnega sklada k smrtonosnim avtonomnim orožnim sistemom in njegov člen 10(6); poudarja pomen Evropskega obrambnega sklada pri podpiranju čezmejnega sodelovanja med državami EU pri vojaških raziskavah na področju umetne inteligence, razvoju najsodobnejših obrambnih tehnologij in izgradnji potrebne infrastrukture, zlasti podatkovnih centrov z močnimi kibernetskimi zmogljivostmi;

292.

poziva Svet, naj sprejme skupno stališče o avtonomnih orožnih sistemih, s katerim bo zagotovil ustrezen človeški nadzor nad njihovo kritično funkcijo; vztraja, da je treba začeti mednarodna pogajanja o pravno zavezujočem instrumentu, s katerim bi prepovedali popolnoma avtonomne orožne sisteme; meni, da bi moral tak mednarodni sporazum določati, da mora biti vse smrtonosno orožje na osnovi umetne inteligence pod ustreznim človeškim nadzorom, kar pomeni, da ljudje ostanejo v zanki in so torej na koncu odgovorni za odločitev o izbiri cilja in izvajanju smrtonosnih akcij;

293.

poziva k tesnejšemu sodelovanju z Natom na področju kibernetske obrambe in poziva zaveznice Nata, naj podprejo večstranska prizadevanja za zakonsko ureditev vojaške uporabe umetne inteligence;

5. Zaključek: nujnost ukrepanja!

294.

meni, da je sedanja digitalna preobrazba, pri kateri ima umetna inteligenca ključno vlogo, sprožila svetovno tekmo za vodilni položaj na področju tehnologije; poudarja, da je EU doslej zaostajala, zaradi česar obstaja tveganje, da se bodo prihodnji tehnološki standardi razvijali brez zadostnih prispevkov EU, pogosto s strani nedemokratičnih akterjev, to pa predstavlja izziv za politično stabilnost in gospodarsko konkurenčnost; ugotavlja, da mora EU delovati kot svetovna določevalka standardov na področju umetne inteligence;

295.

poudarja, da je lahko umetna inteligenca, čeprav je pogosto predstavljena kot nepredvidljiva grožnja, močno digitalno orodje in prelomnica pri številnih pomembnih vidikih, med drugim v smislu ponujanja inovativnih proizvodov in storitev, večje izbire za potrošnike in učinkovitejših proizvodnih procesov; ugotavlja, da uvajanje tehnologij umetne inteligence prinaša jasne koristi in priložnosti za celotno družbo, tudi na področju zdravstvenega varstva, trajnostnosti, varnosti in konkurenčnosti; hkrati poudarja, da pri tehnologijah umetne inteligence obstaja tveganje, da bodo okrnile človekov vpliv in nadomestile človekovo avtonomijo; poudarja, da se bilo treba pri zakonskem urejanju umetne inteligence in javnem komuniciranju o njej ravnati po teh koristih in tveganjih ter jih upoštevati;

296.

poudarja, da ima EU potencial za oblikovanje mednarodne razprave o umetni inteligenci in razvoj vodilnih skupnih pravil in standardov na svetovni ravni, ki bodo spodbujali na človeka osredotočen, zaupanja vreden in trajnosten pristop k umetni inteligenci popolnoma v skladu s temeljnimi pravicami; vendar poudarja, da je treba hitro ukrepati, če želimo izkoristiti priložnost za utrditev takšnega izrazito evropskega pristopa k umetni inteligenci na mednarodnem prizorišču, in zato se mora EU kmalu dogovoriti o skupni strategiji za umetno inteligenco in regulativnem okviru; poudarja, da oblikovanje mednarodnih tehnoloških norm in standardov zahteva tesnejše usklajevanje in sodelovanje s podobno mislečimi demokratičnimi partnerji;

297.

poudarja, da EU doslej še zdaleč ni izpolnila svojih ambicij, da bi postala konkurenčna na področju umetne inteligence na svetovni ravni; v zvezi s tem poudarja, kako pomembno je zagotoviti harmonizirana pravila in standarde, pravno varnost in enake konkurenčne pogoje za spodbujanje uvajanja umetne inteligence in inovacij, tudi z odpravo nepotrebnih upravnih ovir za zagonska podjetja, mala in srednja podjetja ter civilno družbo; priznava, da tako obsežne in radikalne spremembe različno vplivajo na različne dele družbe, in poudarja, da je treba pri digitalnem prehodu v celoti spoštovati temeljne pravice; poziva Komisijo, države članice in Parlament, vključno z njegovimi ustreznimi odbori, naj ukrepajo v skladu s priporočili iz načrta EU za umetno inteligenco;

298.

poziva k takšnemu regulativnemu okolju za umetno inteligenco, ki bo zagotavljalo učinkovito upravljanje in varstvo temeljnih pravic, hkrati pa akterjem vseh velikosti omogočalo konkurenčen dostop do digitalnih trgov ter spodbujalo inovacije in gospodarsko rast v korist vseh; poudarja, da je konkurenčno, dostopno in pravično podatkovno gospodarstvo, ki temelji na skupnih standardih, osnovni pogoj za ustrezen razvoj in usposabljanje umetne inteligence; v zvezi s tem opozarja na tveganje, da bi se tržna koncentracija v podatkovnem gospodarstvu razširila v gospodarstvo za aplikacije umetne inteligence;

299.

ugotavlja, da sta za napredek pri digitalnih ambicijah EU na področjih, kot je umetna inteligenca, potrebni veliko trdnejša integracija in harmonizacija digitalnega enotnega trga, kar bo spodbudilo čezmejno izmenjavo in zagotovilo, da se po vsej EU uporabljajo enaka pravila in standardi; v zvezi s tem poudarja, da se morajo institucije EU boriti proti zlorabam tržne moči, da bi zagotovile enake konkurenčne pogoje;

300.

ugotavlja, da je treba sprejeti potrebne ukrepe za zagotovitev, da bo digitalni prehod spodbujal zeleni prehod in ga ne bo oviral; ugotavlja, da so za sisteme umetne inteligence potrebne zanesljive infrastrukturne in povezljivostne zmogljivosti; poudarja, da bo digitalna infrastruktura v skladu z zelenim dogovorom zadevala vse sektorje in vrednostne verige ter bi morala biti skladna z načeli krožnega gospodarstva; poudarja pa tudi, da umetna inteligenca ne bo delovala brez ustrezne namestitve digitalne infrastrukture, vključno s širokopasovnimi povezavami, optičnimi kabli, robnimi vozlišči in 5G; poudarja pomen blažitve vse večje porabe energije in rabe virov, da bi do leta 2030 dosegli podnebno nevtralno digitalno infrastrukturo;

301.

poudarja, da bo hiter tehnološki napredek, ki ga prinaša umetna inteligenca, vplival tudi na preživetje vseh, ki nimajo potrebnih znanj in spretnosti, da bi se dovolj hitro prilagodili tem novim tehnologijam; ugotavlja, da je mogoče z izpopolnjevanjem in preusposabljanjem reševati številna socialno-ekonomska vprašanja, ki iz tega izhajajo, vendar poudarja, da bi bilo treba te učinke obravnavati tudi v okviru sistemov socialne varnosti, mestne in podeželske infrastrukture ter demokratičnih procesov; ugotavlja, da je treba ljudem zagotoviti sredstva za pridobivanje digitalnih znanj in spretnosti, če želimo spodbuditi uvajanje inovacij na področju umetne inteligence, doseči širše sprejemanje aplikacij, ki temeljijo na umetni inteligenci, in zagotoviti, da ne bo nihče zapostavljen; poudarja, da se mora izobraževanje na podlagi IKT ter naravoslovja, tehnologije, inženirstva in matematike začeti zgodaj in ostati dostopno v vseh življenjskih obdobjih, če želimo povečati digitalno pismenost in odpornost; ugotavlja, da so pobude za ustanovitev ekosistemov odličnosti na področju umetne inteligence, pritegnitev nadarjenih posameznikov na tem področju v EU in preprečevanje bega možganov ključnega pomena;

302.

poudarja, kako pomembno je obravnavati izzive na področju temeljnih pravic, povezane z umetno inteligenco, da bo umetna inteligenca dejansko postala instrument, ki služi ljudem in družbi ter se uporablja za skupno dobro in splošni interes; ugotavlja, da je treba za vzpostavitev zaupanja državljanov v umetno inteligenco zaščititi njihove temeljne pravice v vseh vidikih življenja, tudi pri uporabi umetne inteligence v javni sferi in na delovnem mestu; zlasti poudarja, da je treba pri digitalnem prehodu upoštevati pravice, cilje in interese žensk in manjšinskih skupnosti; poudarja, da morajo javne službe in njihove upravne strukture postaviti zgled; poudarja, da mora EU pospešiti uvajanje sistemov, ki temeljijo na umetni inteligenci, v e-upravo, da bi spodbudila varno uporabo umetne inteligence v javnih upravah; poleg tega poudarja, da lahko umetna inteligenca sprosti nove rešitve v zdravstvenem sektorju, če se tveganja ustrezno obvladujejo in se načelo enakega dostopa do zdravstvenega varstva v celoti razširi na aplikacije umetne inteligence, povezane z zdravjem;

303.

ugotavlja, da je pri strategiji EU za umetno inteligenco treba upoštevati vojaške in varnostne pomisleke in skrbi, ki se porajajo s svetovnim uvajanjem tehnologij umetne inteligence; poudarja, da je treba okrepiti mednarodno sodelovanje s podobno mislečimi partnerji, da bi zaščitili temeljne pravice in hkrati čimbolj zmanjšali nove tehnološke grožnje;

o o

304.

naroči svoji predsednici, naj to resolucijo posreduje Svetu in Komisiji.

(1) UL L 123, 12.5.2016, str. 1.

(2) UL C 132, 24.3.2022, str. 102.

(3) Sprejeta besedila, P9_TA(2021)0504.

(4) UL L 119, 4.5.2016, str. 1.

(5) UL L 166, 11.5.2021, str. 1.

(6) UL L 170, 12.5.2021, str. 1.

(7) UL L 303, 28.11.2018, str. 59.

(8) UL L 170, 12.5.2021, str. 149.

(9) UL L 136, 22.5.2019, str. 1.

(10) UL L 256, 19.7.2021, str. 3.

(11) UL C 288, 31.8.2017, str. 1.

(12) UL C 252, 18.7.2018, str. 239.

(13) UL C 307, 30.8.2018, str. 163.

(14) UL C 132, 24.3.2022, str. 45.

(15) UL C 433, 23.12.2019, str. 86.

(16) UL C 449, 23.12.2020, str. 37.

(17) UL C 294, 23.7.2021, str. 14.

(18) UL C 404, 6.10.2021, str. 107.

(19) UL C 404, 6.10.2021, str. 129.

(20) UL C 404, 6.10.2021, str. 63.

(21) UL C 456, 10.11.2021, str. 34.

(22) UL C 15, 12.1.2022, str. 204.

(23) UL C 494, 8.12.2021, str. 37.

(24) UL C 15, 12.1.2022, str. 28.

(25) UL C 132, 24.3.2022, str. 17.

(26) Roberts, M., Driggs, D., Thorpe, M. et al., „Common pitfalls and recommendations for use Machine learning to detection and prognosticate for COVID-19 using prest radiographs and CT scans“ (Pogoste pasti in priporočila za uporabo strojnega učenja za odkrivanje in napovedovanje COVID-19 z uporabo rentgena prsnega koša in računalniške tomografije), Nature Machine Intelligence, 3, str. 199–217, 15. marec 2021.

(27) Študija GD IPOL, „Opportunities of Artificial Intelligence“ (Priložnosti umetne inteligence), junij 2020.

(28) Delovni dokument AIDA, „Artificial Intelligence and the Green Deal“ (Umetna inteligenca in zeleni dogovor), marec 2021.

(29) Poročilo Komisije z dne 18. novembra 2021 o politiki varstva konkurence, primerni za spopadanje z novimi izzivi (COM(2021)0713).

(30) Acemoglu, D., in drugi, AI and Jobs: Evidence from Online Vacancies (Umetna inteligenca in delovna mesta: dokazi iz spletnih razpisov delovnih mest), National Bureau of Economic Research, december 2020.

(31) Sporočilo Komisije z dne 9. marca 2021 z naslovom Digitalni kompas do leta 2030: evropska pot v digitalno desetletje (COM(2021)0118).

(32) Evropska komisija, Usklajeni načrt za umetno inteligenco (COM(2018)0795).

(33) Predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (COM(2021)0206).

(34) Sporočilo Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij – Spodbujanje evropskega pristopa k umetni inteligenci (COM(2021)0205).

(35) Podatki iz leta 2018.

(36) Koerner, K., (How) will the EU become an AI superstar?, Deutsche Bank, marec 2020.

(37) UL L 316, 14.11.2012, str. 12.

(38) Direktiva Sveta 85/374/EGS z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako (UL L 210, 7.8.1985, str. 29).

(39) Direktiva (EU) 2019/1024 Evropskega parlamenta in Sveta z dne 20. junija 2019 o odprtih podatkih in ponovni uporabi informacij javnega sektorja (UL L 172, 26.6.2019, str. 56).

(40) Direktiva 2014/61/EU Evropskega parlamenta in Sveta z dne 15. maja 2014 o ukrepih za znižanje stroškov za postavitev elektronskih komunikacijskih omrežij visokih hitrosti (UL L 155, 23.5.2014, str. 1).

(41) Uredba (EU) št. 910/2014 Evropskega parlamenta in Sveta z dne 23. julija 2014 o elektronski identifikaciji in storitvah zaupanja za elektronske transakcije na notranjem trgu in o razveljavitvi Direktive 1999/93/ES (UL L 257, 28.8.2014, str. 73).

(42) UL L 295, 21.11.2018, str. 1.

(43) UL L 79 I, 21.3.2019, str. 1.

(44) UL L 206, 11.6.2021, str. 1.

Top