EUR-Lex Access to European Union law

Back to EUR-Lex homepage

This document is an excerpt from the EUR-Lex website

Document 52021IP0009

Resolucija Evropskega parlamenta z dne 20. januarja 2021 o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja (2020/2013(INI))

OJ C 456, 10.11.2021, p. 34–46 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

10.11.2021   

SL

Uradni list Evropske unije

C 456/34


P9_TA(2021)0009

Umetna inteligenca: tolmačenje in uporaba mednarodnega prava

Resolucija Evropskega parlamenta z dne 20. januarja 2021 o umetni inteligenci: tolmačenje in uporaba mednarodnega prava, ki velja za EU pri civilni in vojaški rabi te tehnologije, ter pristojnost države pri rabi te tehnologije zunaj kazenskega pravosodja (2020/2013(INI))

(2021/C 456/04)

Evropski parlament,

ob upoštevanju preambule Pogodbe o Evropski uniji in njenih členov 2, 3, 10, 19, 20, 21, 114, 167, 218, 225 in 227,

ob upoštevanju pravice do peticije v skladu s členoma 20 in 227 Pogodbe o delovanju Evropske unije,

ob upoštevanju Listine Evropske unije o temeljnih pravicah,

ob upoštevanju Direktive Sveta 2000/43/ES z dne 29. junija 2000 o izvajanju načela enakega obravnavanja oseb ne glede na raso ali narodnost (1) (direktiva o rasni enakosti),

ob upoštevanju Direktive Sveta 2000/78/ES z dne 27. novembra 2000 o splošnih okvirih enakega obravnavanja pri zaposlovanju in delu (2) (direktiva o enakem obravnavanju pri zaposlovanju),

ob upoštevanju Uredbe (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (3) (splošna uredba o varstvu podatkov) ter Direktive (EU) 2016/680 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov, ki jih pristojni organi obdelujejo za namene preprečevanja, preiskovanja, odkrivanja ali pregona kaznivih dejanj ali izvrševanja kazenskih sankcij, in o prostem pretoku takih podatkov ter o razveljavitvi Okvirnega sklepa Sveta 2008/977/PNZ (4),

ob upoštevanju Uredbe Sveta (EU) 2018/1488 z dne 28. septembra 2018 o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo (5),

ob upoštevanju predloga uredbe Evropskega parlamenta in Sveta z dne 6. junija 2018 o vzpostavitvi programa za digitalno Evropo za obdobje 2021–2027 (COM(2018)0434),

ob upoštevanju svoje resolucije z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki (6),

ob upoštevanju svoje resolucije z dne 1. junija 2017 o digitalizaciji evropske industrije (7),

ob upoštevanju svoje resolucije z dne 12. septembra 2018 o avtonomnih orožnih sistemih (8),

ob upoštevanju svoje resolucije z dne 11. septembra 2018 o enakopravnosti jezikov v digitalni dobi (9),

ob upoštevanju svoje resolucije z dne 12. februarja 2019 o celoviti evropski industrijski politiki na področju umetne inteligence in robotike (10),

ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 11. decembra 2019 o evropskem zelenem dogovoru (COM(2019)0640),

ob upoštevanju bele knjige Komisije z dne 19. februarja 2020 o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020)0065),

ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 19. februarja 2020 o evropski strategiji za podatke (COM(2020)0066),

ob upoštevanju sporočila Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij z dne 19. februarja 2020 o oblikovanju digitalne prihodnosti Evrope (COM(2020)0067),

ob upoštevanju poročila strokovne skupine na visoki ravni za umetno inteligenco, ki jo je junija 2018 ustanovila Evropska komisija, z dne 8. aprila 2019 z naslovom Etične smernice za zaupanja vredno umetno inteligenco,

ob upoštevanju Okvirne konvencije Sveta Evrope za varstvo narodnih manjšin, protokola št. 12 h Konvenciji o varstvu človekovih pravic in temeljnih svoboščin ter Evropske listine o regionalnih ali manjšinskih jezikih,

ob upoštevanju evropske etične listine za uporabo umetne inteligence v pravosodnih sistemih in njihovem okolju, ki jo je decembra 2018 sprejela delovna skupina Sveta Evrope za kakovost pravosodja (CEPEJ-GT-QUAL),

ob upoštevanju priporočil sveta Organizacije za gospodarsko sodelovanje in razvoj o umetni inteligenci, sprejetih 22. maja 2019,

ob upoštevanju člena 54 Poslovnika,

ob upoštevanju mnenj Odbora za zunanje zadeve, Odbora za notranji trg in varstvo potrošnikov, Odbora za promet in turizem in Odbora za državljanske svoboščine, pravosodje in notranje zadeve,

ob upoštevanju poročila Odbora za pravne zadeve (A9-0001/2021),

Uvod

A.

ker se umetna inteligenca, robotika in sorodna tehnologija hitro razvijajo in neposredno vplivajo na vse vidike družbe, vključno z osnovnimi družbenimi in gospodarskimi načeli in vrednotami;

B.

ker je umetna inteligenca s korenito preobrazbo delovanja vojske, zlasti z vključevanjem in uporabo novih tehnologij in avtonomnih zmogljivosti, sprožila revolucijo v vojaški doktrini in opremi;

C.

ker so ljudje tisti, ki razvijajo in oblikujejo t. i. umetno inteligenco, robotiko in sorodno tehnologijo ter odločajo, kakšen bo potencial tehnologije, da bo koristil družbi;

D.

ker mora skupni okvir Unije zajemati razvoj, uvajanje in uporabo umetne inteligence, robotike in sorodne tehnologije ter zagotavljati spoštovanje človekovega dostojanstva in človekovih pravic, kot so zapisane v Listini Evropske unije o temeljnih pravicah;

E.

ker imajo Unija in njene države članice posebno dolžnost zagotoviti, da bodo umetna inteligenca, robotika in sorodna tehnologija zaradi možnosti njihove čezmejne uporabe osredotočene na človeka, kar pomeni, da bi morale v osnovi služiti človeštvu in skupnemu dobremu, da bi prispevale k blaginji in splošnemu interesu njihovih državljanov; ker bi morala Unija državam članicam pomagati, da to dosežejo, zlasti tistim, ki so začele razmislek o možnem razvoju pravnih standardov ali zakonodajnih spremembah na tem področju;

F.

ker bi lahko evropskim državljanom koristil ustrezen, učinkovit, pregleden in usklajen regulativni pristop na ravni Unije, s katerim bi opredelili dovolj jasne pogoje za razvoj aplikacij v podjetjih in načrtovanje njihovih poslovnih modelov, hkrati pa zagotovili, da bodo Unija in njene države članice ohranile nadzor nad sprejemanjem predpisov, da ne bodo prisiljene sprejeti ali se zadovoljiti s standardi, ki jih določijo drugi;

G.

ker so etične smernice, kot so načela, ki jih je sprejela strokovna skupina na visoki ravni za umetno inteligenco, dobro izhodišče, vendar niso dovolj, da bi se zagotovila pošteno ravnanje podjetij in učinkovito varstvo posameznikov;

H.

ker je treba zaradi te posebne dolžnosti preučiti vprašanja o tolmačenju in uporabi mednarodnega prava v zvezi z dejavnim sodelovanjem EU v mednarodnih pogajanjih, kadar to pravo velja za EU pri civilni in vojaški rabi tovrstne umetne inteligence, robotike in sorodne tehnologije, ter vprašanja o pristojnosti države pri rabi te tehnologije zunaj kazenskega pravosodja;

I.

ker je nujno zagotoviti ustrezen in celovit pravni okvir za etične vidike teh tehnologij ter za odgovornost in preglednost (zlasti za umetno inteligenco, robotiko in sorodno tehnologijo z visokim tveganjem); ker je treba pri tem okviru upoštevati, da evropske in univerzalne humanistične vrednote veljajo za celotno vrednostno verigo razvoja, izvajanja in uporabe umetne inteligence; ker se mora ta etični okvir uporabljati za razvoj (vključno z raziskavami in inovacijami), uvajanje in uporabo umetne inteligence, pri tem pa v celoti spoštovati pravo Unije in vrednote iz Listine Evropske unije o temeljnih pravicah;

J.

ker je naš namen proučiti, v kolikšnem obsegu so pravila mednarodnega prava, tako javnega kot zasebnega, in prava EU primerna za obravnavanje teh tehnologij, ter opozoriti na izzive in tveganja, ki jih te tehnologije pomenijo za izvajanje pristojnosti države, da bi jih lahko ustrezno in sorazmerno obvladovali;

K.

ker Evropska komisija v svoji beli knjigi ne obravnava vojaških vidikov uporabe umetne inteligence;

L.

ker je za usklajen evropski pristop k tej problematiki potrebna enotna opredelitev umetne inteligence, zagotoviti pa je treba tudi spoštovanje temeljnih vrednot Evropske unije, načel Listine o temeljnih pravicah in mednarodne zakonodaje o človekovih pravicah;

M.

ker umetna inteligenca ponuja povsem nove možnosti za izboljšave v delovanju prometnega sektorja, saj rešuje izzive vse večjega povpraševanja po prevozih, varnosti in okoljevarstvu, obenem pa omogoča pametnejše, učinkovitejše in prikladnejše načine prevoza;

N.

ker je obravnavanje umetne inteligence na obrambnem področju na ravni EU nujno za razvoj njenih zmogljivosti v tem sektorju;

Opredelitev umetne inteligence

1.

meni, da je nujno sprejeti skupni evropski pravni okvir z usklajenimi opredelitvami pojmov in skupnimi etičnimi načeli, vključno z uporabo umetne inteligence za vojaške namene; zato poziva Komisijo, naj sprejme naslednje opredelitve pojmov:

„sistem umetne inteligence“ pomeni sistem, ki ali v celoti temelji na programski opremi ali pa je vgrajen v strojno opremo in ki z ravnanjem posnema inteligenco, tako da med drugim zbira in obdeluje podatke, preučuje in razlaga svoje okolje ter vsaj delno avtonomno dosega specifične cilje;

„avtonomen“ pomeni, da sistem umetne inteligence obratuje tako, da razlaga določene podatke in uporablja niz vnaprej določenih navodil, ne da bi ga ta omejevala, vendar je ravnanje sistema omejeno z izpolnitvijo cilja, ki mu je bil določen in v katerega je usmerjen, ter drugimi ustreznimi konstrukcijskimi odločitvami, ki jih je sprejel njegov razvijalec;

2.

poudarja, da varnostna in obrambna politika Evropske unije in njenih držav članic temelji na načelih Listine EU o temeljnih pravicah in Ustanovne listine Organizacije združenih narodov (ta vse države poziva, naj se vzdržijo groženj ali uporabe sile v medsebojnih odnosih) in mednarodnega prava, načelih človekovih pravic in spoštovanja človekovega dostojanstva ter na skupnem razumevanju univerzalnih vrednot nedotakljivosti in neodtujljivosti človekovih pravic, svobode, demokracije, enakosti in pravne države; poudarja, da morajo vse dejavnosti na obrambnem področju v Uniji spoštovati te univerzalne vrednote, hkrati pa spodbujati mir, stabilnost, varnost in napredek v Evropi in svetu;

Mednarodno javno pravo in vojaška raba umetne inteligence

3.

meni, da mora umetno inteligenco, ki se uporablja na vojaškem in civilnem področju, ustrezno nadzorovati človek, tako da lahko kadar koli popravi napako ali prekine delovanje ter jo onemogoči v primeru nepredvidenega vedenja, naključnega posredovanja, kibernetskih napadov ali vmešavanja tretjih oseb s tehnologijo, ki temelji na umetni inteligenci, ali kadar tretje osebe pridobijo tako tehnologijo;

4.

meni, da je spoštovanje mednarodnega javnega prava, zlasti humanitarnega prava, ki se nedvoumno uporablja za vse orožne sisteme in njihove upravljavce, temeljna zahteva, ki jo morajo izpolnjevati države članice, zlasti pri zaščiti civilnega prebivalstva ali pri sprejemanju previdnostnih ukrepov v primeru napada, kot je vojaška agresija ali kibernetska vojna;

5.

poudarja, da sta lahko umetna inteligenca in sorodna tehnologija pomembni tudi v neregularnem ali nekonvencionalnem vojskovanju; predlaga, da bi morali v teh primerih za raziskave, razvoj in uporabo umetne inteligence veljati enaki pogoji kot za uporabo v konvencionalnem vojskovanju;

6.

poudarja, da je uporaba umetne inteligence priložnost za krepitev varnosti Evropske unije in njenih državljanov ter da mora EU v prihodnjih mednarodnih razpravah to temo obravnavati celostno;

7.

poziva raziskovalno skupnost na področju umetne inteligence, naj to načelo vključi v vse navedene sisteme, ki temeljijo na umetni inteligenci in so namenjeni vojaški uporabi; meni, da noben organ ne more opredeliti nobenih izjem od teh načel ali potrditi takega sistema;

8.

ponovno izjavlja, da avtonomno odločanje človeka ne sme odvezati odgovornosti in da mora končno odgovornost za odločanje vedno nositi človek, da je mogoče opredeliti, kdo je odgovoren za odločitev;

9.

poudarja, da morajo države članice, stranke v konfliktu in posamezniki pri uporabi umetne inteligence na vojaškem področju vedno spoštovati obveznosti po veljavnem mednarodnem pravu in prevzeti odgovornost za dejanja, ki so rezultat uporabe teh sistemov; poudarja, da morajo biti v vseh okoliščinah za pričakovana, naključna ali neželena dejanja in učinke sistemov, ki temeljijo na umetni inteligenci, odgovorne države članice, stranke v konfliktu in posamezniki;

10.

pozdravlja možnost uporabe sistemov umetne inteligence za usposabljanje in vaje, katerih potenciala se ne bi smelo podcenjevati, zlasti ker EU izvaja vaje civilne in vojaške narave;

11.

poudarja, da je treba med zasnovo, razvojem, preskušanjem, uvajanjem in uporabo sistemov, ki temeljijo na umetni inteligenci, vedno ustrezno upoštevati morebitna tveganja v zvezi z nenamernimi civilnimi žrtvami in poškodbami, nenamerno izgubo življenj in škodo na civilni infrastrukturi, pa tudi tveganja, povezana z nenamerno sprožitvijo, manipulacijo, širjenjem, kibernetskimi napadi, vmešavanjem tretjih oseb z avtonomno tehnologijo, ki temelji na umetni inteligenci, ali da tretje osebe pridobijo to tehnologijo;

12.

opozarja, da se v skladu s svetovalnim mnenjem Meddržavnega sodišča z dne 8. julija 1996 ni mogoče sklicevati na načelo izvirnosti za utemeljitev kakršnega koli odstopanja od skladnosti z veljavnimi standardi mednarodnega humanitarnega prava;

13.

meni, da bo umetna inteligenca poleg podpore operacijam koristila tudi osebju oboroženih sil, saj bo omogočila obsežno obdelavo zdravstvenih podatkov in razširitev spremljanja zdravja, opredelila dejavnike tveganja v zvezi z okoljem in delovnimi pogoji ter predlagala ustrezne zaščitne ukrepe za omejitev vplivov na zdravje osebja;

14.

ponavlja, da je treba regulativna prizadevanja podpreti z ustreznimi sistemi za certificiranje in nadzor ter mehanizmi za revizijo, razložljivost, odgovornost in sledljivost, da regulativni okvir zaradi tehnološkega razvoja ne bi zastarel;

15.

poudarja, da je v hiperpovezanem svetu izjemno pomembno, da se Evropska unija vključi v oblikovanje mednarodnega pravnega okvira o uporabi umetne inteligence: poziva EU, naj prevzame vodilno vlogo in skupaj z Organizacijo Združenih narodov in mednarodno skupnostjo dejavno spodbuja vzpostavitev tega globalnega okvira za uporabo umetne inteligence v vojaške in druge namene ter zagotovi, da bo ta uporaba ostala v mejah, ki jih določa mednarodno pravo, zlasti ženevske konvencije z dne 12. avgusta 1949; poudarja, da ta okvir ne sme nikoli kršiti ali dovoliti kršitev zahtev javne vesti in človečnosti, kot je navedeno v martensovi klavzuli, in mora biti skladen z varnostnimi predpisi in zahtevami za varstvo potrošnikov; poziva EU in države članice, naj za razvoj tehnologij umetne inteligence, zlasti tiste, ki se uporabljajo za vojaške namene v avtoritarnih državah, opredelijo zanesljiv nadzorni sistem in sistem vrednotenja;

16.

poudarja, da robotika vojaškemu osebju ne bo omogočila le ohranjanje razdalje, ampak bo zagotovila tudi boljšo samozaščito, na primer v operacijah v kontaminiranem okolju, pri gašenju požarov, odstranjevanju min na kopnem in morju ter obrambi pred roji dronov;

17.

poudarja, da je treba pri razvoju, uvedbi, uporabi in upravljanju umetne inteligence spoštovati temeljne pravice, vrednote in svoboščine, zapisane v Pogodbah EU, ter poziva države članice, naj ne uvajajo sistemov umetne inteligence z visokim tveganjem, ki ogrožajo temeljne pravice; je seznanjen, da je Komisija objavila belo knjigo o umetni inteligenci, in spodbuja k poglobljenim raziskavam morebitnega tveganja za temeljne pravice, ki bi nastalo z uporabo umetne inteligence v državnih organih ter agencijah, organih in institucijah Evropske unije;

18.

poziva Komisijo, naj spodbuja raziskave in razpravo o možni uporabi umetne inteligence za pomoč pri nesrečah, preprečevanje kriz in ohranjanje miru;

19.

pozdravlja ustanovitev skupine vladnih strokovnjakov OZN za spodbujanje odgovornega ravnanja držav v kibernetskem prostoru v kontekstu mednarodne varnosti in poziva EU, naj v celoti sodeluje pri njenem delu;

20.

poziva podpredsednika Komisije/visokega predstavnika za zunanje zadeve in varnostno politiko, naj utre pot pogajanjem na svetovni ravni za vzpostavitev sistema za nadzor orožja, ki temelji na umetni inteligenci, in posodobitev vseh obstoječih pogodbenih instrumentov, namenjenih nadzoru orožja, razoroževanju in neširjenju orožja, da se vključijo vojskovanju namenjeni sistemi, ki temeljijo na umetni inteligenci; poziva, naj skupno stališče Sveta, ki opredeljuje skupna pravila glede nadzora izvoza vojaške tehnologije in opreme, v celoti upošteva orožne sisteme, ki temeljijo na umetni inteligenci;

21.

ponovno poudarja, da morajo ta pravila dosledno spoštovati načela rimskega statuta z dne 17. julija 1998 o prepovedi genocida, hudodelstev zoper človečnost in vojnih zločinov;

22.

opozarja na očitna tveganja pri odločitvah, ki jih sprejemajo ljudje, če izhajajo samo iz podatkov, profilov in priporočil, ki jih ustvarijo stroji; poudarja, da bi bilo treba pri splošni zasnovi sistemov umetne inteligence oblikovati tudi smernice za človekovo spremljanje in nadzor; poziva k določitvi obveznosti glede preglednosti in razložljivosti aplikacij umetne inteligence ter obveznosti človeškega posredovanja, pa tudi drugih ukrepov, kot so neodvisne revizije in posebni stresni testi za spodbujanje in zagotavljanje skladnosti; poudarja, da bi moral takšne revizije redno izvajati neodvisni organ, da bi nadzoroval aplikacije umetne inteligence z visokim tveganjem, ki jih uporabljajo državni organi ali vojska;

23.

poudarja, da je treba preveriti, kako tehnologije umetne inteligence sprejmejo odločitve; opozarja, da je treba spoštovati načeli nediskriminacije in sorazmernosti ter pojasniti vprašanja vzročnosti, krivde, odgovornosti in razložljivosti, pa tudi preglednosti, prevzemanja odgovornosti in razložljivosti, da bo mogoče določiti, ali in v kolikšni meri lahko država kot akter v mednarodnem javnem pravu, pa tudi pri izvajanju svoje oblasti, ukrepa s pomočjo sistemov, ki temeljijo na umetni inteligenci, ki imajo določeno stopnjo avtonomije, ne da bi kršila obveznosti, ki izhajajo iz mednarodnega prava, kot je dolžno pravno postopanje;

24.

poudarja, kako pomembno je, da se vlaga v človeške spretnosti, vključno z digitalnimi spretnostmi, da se prilagodimo znanstvenemu napredku glede rešitev na podlagi umetne inteligence, zlasti za posameznike v reguliranih poklicih, vključno z dejavnostmi, ki so povezane z izvajanjem državnih pristojnosti, kot je pravosodje; poziva države članice in Komisijo, naj to ustrezno upoštevajo pri izvajanju Direktive 2005/36/ES (11);

25.

vztraja, da morajo biti sistemi umetne inteligence vedno skladni z načeli odgovornosti, enakosti, upravljanja, previdnosti, prevzemanja odgovornosti, pripisovanja odgovornosti, predvidljivosti, sledljivosti, zanesljivosti, zaupanja, preglednosti, razložljivosti, zmožnosti zaznavanja morebitnih sprememb okoliščin in operativnega okolja, razlikovanja med borci in osebami, ki v sovražnostih niso aktivno udeležene, in sorazmernosti; poudarja, da je zaradi zadnjega načela zakonitost vojaškega ukrepa odvisna od ravnotežja med ciljem in uporabljenimi sredstvi ter da mora spoštovanje tega načela vedno oceniti človek;

26.

poudarja, da so pri uporabi sistemov, ki temeljijo na umetni inteligenci, na področju varnosti in obrambe popolno poznavanje razmer s strani upravljavca, predvidljivost, zanesljivost in odpornost sistema, ki temelji na umetni inteligenci, sposobnost upravljavca, da prepozna morebitne spremembe okoliščin in operativnega okolja, ter njegova zmožnost poseči v ali prekiniti napad potrebni za zagotovitev, da se načela mednarodnega humanitarnega prava, zlasti razločevanje, sorazmernost in previdnost pri napadih, v celoti uporabljajo v celotni verigi poveljevanja in nadzora; poudarja, da morajo sistemi, ki temeljijo na umetni inteligenci, omogočati, da pristojni človek prevzame dejanski nadzor nad sistemi in nosi odgovornost za vse vrste uporabe teh sistemov; poziva Komisijo, naj spodbuja dialog, tesnejše sodelovanje in sinergije med državami članicami, raziskovalci, akademiki, subjekti civilne družbe, zasebnim sektorjem, zlasti vodilnimi podjetji, in vojsko, da bi zagotovili vključujoč proces oblikovanja politik za regulacijo umetne inteligence na obrambnem področju;

27.

poudarja, da je Parlament pozval k pripravi osnutka in nujnemu sprejetju skupnega stališča o smrtonosnih avtonomnih orožnih sistemih, da se preprečijo razvoj, proizvodnja in uporaba smrtonosnih avtonomnih orožnih sistemov z zmogljivostjo za napadanje brez dejanskega človeškega nadzora, ter k začetku učinkovitih pogajanj o njihovi prepovedi; želi v zvezi s tem spomniti na svojo resolucijo z dne 12. septembra 2018 o avtonomnih orožnih sistemih; ker se izraz „smrtonosni avtonomni orožni sistemi“ uporablja za orožne sisteme, pri katerih ljudje nimajo pravega nadzora nad kritičnimi funkcijami ciljanja in napadanja posameznih tarč; poudarja, da morajo odločitev o izbiri tarče in izvajanju smrtonosnih akcij z oborožitvenimi sistemi z določeno stopnjo avtonomije vedno sprejeti človeški upravljavci z ustreznim nadzorom in pregledom, ki morajo pri presoji upoštevati načeli sorazmernosti in nujnosti; poudarja, da se sistemom, ki temeljijo na umetni inteligenci, v nobenem primeru ne sme dovoliti, da nadomestijo človeško odločanje na tem področju;

28.

ugotavlja tudi, da bi bilo treba o avtonomnih orožnih sistemih, ki sodijo v posebno kategorijo umetne inteligence na vojaškem področju, razpravljati in se o njih dogovoriti na mednarodni ravni, zlasti v forumu OZN o nekaterih vrstah klasičnega orožja; opozarja na sedanjo mednarodno razpravo o smrtonosnih avtonomnih orožnih sistemih, s katero bi zakonsko uredili nove vojaške tehnologije, ki zaenkrat še ni bila uspešna; poudarja, da se je EU šele nedavno dogovorila, da bo začela razpravljati o učinkih razvoja umetne inteligence in digitalizacije na obrambni sektor; meni, da lahko EU bistveno pripomore k temu, da države članice uskladijo pristop k vojaški umetni inteligenci, da bo lahko vodila mednarodne razprave;

29.

vztraja, da sta nujni strategija EU proti smrtonosnim avtonomnim orožnim sistemom in prepoved tako imenovanih ubijalskih robotov;

30.

poudarja, da mora umetna inteligenca v vojaškem okviru izpolnjevati vsaj minimalne zahteve, in sicer mora biti zmožna razlikovati vsaj med borci in osebami, ki v sovražnostih niso aktivno udeležene, ter borci na bojišču, prepoznati, ko se borec preda ali je onesposobljen za boj, ne sme delovati enako ne glede na cilj, ne sme povzročati nepotrebnega trpljenja ljudem, ne sme biti pristranska ali usposobljena na podlagi namerno nepopolnih podatkov ter mora biti skladna z načeli mednarodnega humanitarnega prava, sorazmernosti pri uporabi sile in previdnosti pred posredovanjem;

31.

meni, da se ob uporabi smrtonosnih avtonomnih orožnih sistemov postavljajo temeljna etična in pravna vprašanja glede zmožnosti človeškega nadzora nad temi sistemi, in zahteva, da se tehnologiji, ki temelji na umetni inteligenci, ne sme dovoliti sprejemanje samostojnih odločitev, ki vključujejo pravna načela razlikovanja, sorazmernosti in previdnosti;

32.

se zavzema za uvedbo preglednih ukrepov na mednarodni ravni, s katerimi bi zmanjšali tveganja pri razvoju in uporabi vojaške umetne inteligence, zlasti glede načel ozemeljske celovitosti, neposeganja in uporabe sile; poudarja, da je treba v evropskem okviru za umetno inteligenco pri obravnavanju pravnih in etičnih vprašanj upoštevati vojaške vidike umetne inteligence; spominja na svoje stališče o prepovedi razvoja, proizvodnje in uporabe smrtonosnih avtonomnih orožnih sistemov; obžaluje, da ni globalnih konvencij, ki bi izrecno obravnavale uporabo tega orožja;

33.

priznava, da sodobna oboroževalna tekma med vojaškimi velesilami na področju razvoja smrtonosnih avtonomnih orožnih sistemov prehiteva napredek ter učinkovito in splošno uporabo ter izvrševanje skupnih pravil in pravnih okvirov, saj sta razvoj in uvajanje teh sistemov tajna, nacionalne države pa imajo notranji interes, da ustvarijo najhitrejše in najučinkovitejše napadalne zmogljivosti, ne glede na sedanje in morebitne prihodnje pravne okvire ali načela;

34.

meni, da bi se smrtonosni avtonomni orožni sistemi smeli uporabljati samo kot zadnja možnost in da so zakoniti samo, če so pod strogim nadzorom človeka, ki mora imeti možnost, da kadar koli prevzame poveljevanje, saj sta ustrezno človeško posredovanje in nadzor bistvena v postopku sprejemanja smrtonosnih odločitev, ljudje pa bi morali vedno prevzeti odgovornost, kadar se odloča o življenju in smrti; meni, da je treba sisteme brez človeškega nadzora (povsem avtonomni sistemi – „human off the loop“) in človeškega pregleda prepovedati brez izjem in v vseh okoliščinah;

35.

poziva podpredsednika/visokega predstavnika, države članice in Evropski svet, naj nujno oblikujejo in sprejmejo skupno stališče o avtonomnih orožnih sistemih, s katerim bi zagotovili smiselni človeški nadzor nad ključnimi funkcijami orožnih sistemov, tudi med njihovo uporabo, na ustreznih forumih nastopajo enotno in delujejo v skladu s tem; v zvezi s tem poziva podpredsednika/visokega predstavnika, države članice in Svet k izmenjavi dobrih praks in zbiranju prispevkov strokovnjakov, akademikov in civilne družbe, kot je opredeljeno v stališču z dne 12. septembra 2018 o avtonomnih orožnih sistemih, ki določa, da mora pri napadih vedno ustrezno posredovati človek;

36.

spodbuja vse države, naj ocenijo, ali avtonomne vojaške naprave prispevajo k njihovi nacionalni varnosti in kako ter kakšne koristi bi lahko imela njihova nacionalna varnost od orožnih sistemov, ki temeljijo na umetni inteligenci, zlasti kar zadeva potencial takšnih tehnologij, da podprejo in izboljšajo človekovo odločanje v skladu z mednarodnim humanitarnim pravom in njegovimi načeli; opozarja, da lahko pri vsakem smrtonosnem avtonomnem orožnem sistemu ali orožju z visoko stopnjo avtonomije pride do napake v delovanju zaradi slabo napisane programske kode ali kibernetskega napada sovražne države ali nedržavnega subjekta;

37.

vztraja, da bi bilo treba uporabo smrtonosnih avtonomnih orožnih sistemov dovoliti samo v natančno določenih primerih in na podlagi postopkov za dovoljenje, ki bi morali biti podrobno določeni vnaprej, zadevna država – ne glede na to, ali je članica Organizacije Severnoatlantske pogodbe – pa bi morala dostop do dokumentov o teh postopkih zagotoviti javnosti ali vsaj nacionalnemu parlamentu;

38.

meni, da je treba pri uporabi smrtonosnih avtonomnih orožnih sistemov spoštovati določbe Konvencije z dne 10. oktobra 1980 o nekaterih vrstah klasičnega orožja, zlasti prepoved povzročanja „čezmernih travmatičnih učinkov“;

39.

predlaga, da bi se smrtonosni avtonomni orožni sistemi vključili na seznam orožja, za katerega veljajo določbe pogodbe o trgovini z orožjem z dne 2. aprila 2013 in ki je navedeno v členu 2 te pogodbe, da bi preprečili njihovo nenadzorovano širjenje;

40.

se zavzema za prepoved antropomorfizacije smrtonosnih avtonomnih orožnih sistemov, da bi se izognili vsakršnemu zmotnemu zamenjevanju teh sistemov s človekom;

41.

pozdravlja dogovor Sveta in Parlamenta o izključitvi smrtonosnega avtonomnega orožja „brez možnosti smiselnega človeškega nadzora nad odločitvami o izbiri in sodelovanju pri izvajanju napadov“ iz ukrepov, ki se financirajo iz Evropskega obrambnega sklada; želi spomniti na svoje stališče, da uporaba, razvoj ali proizvodnja smrtonosnih avtonomnih orožnih sistemov brez smiselnega človeškega nadzora niso upravičeni do financiranja iz Evropskega obrambnega sklada;

42.

poziva Komisijo, naj podpre raziskave, razvoj, uvajanje in uporabo umetne inteligence za ohranjanje miru in preprečevanje konfliktov;

43.

ugotavlja, da imajo v globalnem ekosistemu na področju umetne inteligence prevladujoč položaj ameriški in kitajski digitalni velikani, ki razvijajo domače zmogljivosti in kupujejo številna obetavna podjetja; je zato trdno prepričan, da mora EU na področju tehnologije umetne inteligence bolje uravnotežiti osnovne raziskave in industrijske aplikacije ter hkrati s krepitvijo svojega potenciala in virov razvijati primerjalne strateške prednosti, da ne bi zaostajala na tem področju;

44.

poudarja, da bi morali biti roboti, kolikor sodijo v opredelitev strojev iz Direktive 2006/42/ES (12), zasnovani in sestavljeni v skladu s standardi in varnostnimi ukrepi iz te direktive;

45.

opozarja, da si EU prizadeva biti globalni akter na področju zagotavljanja miru, in poziva k razširitvi njene vloge pri prizadevanjih za razoroževanje in neširjenje orožja ter k oblikovanju ukrepov in politik, s katerimi bi prispevali k ohranjanju svetovnega miru in varnosti, zagotovili spoštovanje mednarodnega humanitarnega prava in prava s področja človekovih pravic ter zaščitili civiliste in civilno infrastrukturo;

46.

poudarja, da je nujno preučiti, kakšen bi lahko bil vpliv umetne inteligence kot strateškega dejavnika v okviru skupne varnostne in obrambne politike EU (SVOP), zlasti v vojaških in civilnih misijah ter operacijah, in pri razvoju zmogljivosti EU;

47.

opozarja, da tudi naše zaveznice na nacionalni ravni oziroma v okviru Nata ali EU umetno inteligenco že vključujejo v svoje vojaške sisteme; meni, da je treba ohraniti interoperabilnost s temi zaveznicami, in sicer s skupnimi standardi, ki so bistveni za izvajanje operacij v koaliciji; opozarja, da bi moralo poleg tega sodelovanje na področju umetne inteligence potekati v evropskem okviru, saj je to edini ustrezen okvir za ustvarjanje pravih in močnih sinergij, kot je predlagano v strategiji EU za umetno inteligenco;

48.

meni, da mora EU skrbno spremljati in preučiti posledice napredka na področju umetne inteligence za obrambo in vojskovanje, vključno z morebitnim destabilizacijskim razvojem in uvajanjem, ter usmerjati etične raziskave in načrtovanje ter zagotoviti integriteto osebnih podatkov in dostop posameznika ter nadzor, pri tem pa upoštevati tudi gospodarska in humanitarna vprašanja;

49.

opozarja na svoje stališče z dne 12. septembra 2018 o avtonomnih orožnih sistemih, v katerem je zapisano, da se ne izvajajo napadi brez smiselnega človeškega posredovanja; poziva podpredsednika/visokega predstavnika, države članice in Evropski svet, naj sprejmejo skupno stališče o avtonomnih orožnih sistemih, s katerim bi zagotovili smiselni človeški nadzor nad ključnimi funkcijami orožnih sistemov, tudi med njihovo uporabo; ponovno izraža podporo delu skupine vladnih strokovnjakov OZN visokih pogodbenic konvencije o klasičnem orožju na področju smrtonosnih avtonomnih orožnih sistemov, ki ostaja pomemben mednarodni forum za razprave in pogajanja o pravnih izzivih, povezanih z avtonomnimi orožnimi sistemi; poziva k okrepitvi vseh sedanjih večstranskih prizadevanj, da tehnološki razvoj in nove metode vojskovanja ne bodo prehiteli normativnih in regulativnih okvirov; poziva podpredsednika/visokega predstavnika, naj še dalje sodeluje v sedanjih razpravah o mednarodni ureditvi smrtonosnih avtonomnih orožnih sistemov med podpisnicami konvencije o klasičnem orožju ter prispeva k takojšnjemu oblikovanju svetovnega regulativnega okvira in pravno zavezujočega instrumenta, ki bi temeljil na opredelitvah, pojmih in značilnostih novih tehnologij na področju smrtonosnega avtonomnega orožja, etičnih in pravnih vprašanjih človeškega nadzora, zlasti glede kritičnih funkcij, kot sta izbira in opredelitev cilja, ohranitve človeške odgovornosti in potrebne stopnje interakcije med človekom in strojem, vključno s konceptom človeškega nadzora in človeške presoje; poziva, naj ta prizadevanja zagotovijo skladnost z mednarodnim humanitarnim pravom in pravom človekovih pravic v različnih fazah življenjskega cikla orožja, ki temelji na umetni inteligenci, da se doseže dogovor o posebnih priporočilih glede pojasnitve, obravnave in razvoja vidikov normativnega okvira o nastajajočih tehnologijah na področju smrtonosnih avtonomnih orožnih sistemov;

50.

meni, da je za svetovno varnost nujen učinkovit mehanizem za izvrševanje pravil o neširjenju smrtonosnih avtonomnih orožnih sistemov in vseh prihodnjih ofenzivnih tehnologij, ki bodo temeljile na umetni inteligenci;

Pristojnost države: civilna področja, vključno z zdravstvom in pravosodjem

51.

poudarja, da morajo države članice učinkovito ukrepati, da bi zmanjšale svojo odvisnost od tujih podatkov, in brez znatnega izkrivljanja trga poskrbeti, da močne zasebne skupine prek svojih najnaprednejših tehnologij umetne inteligence ne bi posegale v pristojnosti javnih organov ali da bi pristojnosti teh organov celo prešle v zasebno sfero, še zlasti, če so te zasebne skupine v lasti tretje države zunaj Evropske unije;

52.

poudarja, da so lahko posledica uporabe sistemov umetne inteligence v postopku odločanja javnih organov pristranske odločitve, ki negativno vplivajo na državljane, zaradi česar bi se morala za te sisteme uporabljati stroga merila nadzora, med drugim glede njihove varnosti, preglednosti, odgovornosti, nediskriminacije, družbene in okoljske odgovornosti; poziva države članice, naj ocenijo tveganja v zvezi z odločanjem na podlagi umetne inteligence, povezanim z izvajanjem državnih pristojnosti, in zagotovijo zaščitne ukrepe, kot so smiseln človeški nadzor, zahteve glede preglednosti in možnost izpodbijanja teh odločitev;

53.

poziva države članice, naj najprej ocenijo tveganja pri tehnologijah na podlagi umetne inteligence in šele nato avtomatizirajo dejavnosti, povezane z izvajanjem državne oblasti, kot je izvajanje sodne oblasti; poziva države članice k premisleku, ali je treba uvesti zaščitne ukrepe, kot so nadzor kvalificiranega strokovnjaka in stroga pravila o poklicni etiki;

54.

poudarja pomen ukrepanja na evropski ravni za pomoč pri spodbujanju nujno potrebnih naložb, podatkovne infrastrukture, raziskav, vključno z raziskavami uporabe umetne inteligence v javnih organih, in skupnega etičnega okvira;

55.

poudarja, da si mora Evropska unija prizadevati za strateško odpornost, da ne bo nikoli več nepripravljena v primeru krize, in poudarja, da je to ključno še posebej v zvezi z umetno inteligenco in njeno uporabo na vojaškem področju; poudarja, da bi bilo treba oskrbovalne verige za vojaške sisteme umetne inteligence, ki bi lahko privedli do tehnološke odvisnosti, ustrezno pregledati, to odvisnost pa postopno odpraviti; poziva k večjim naložbam v evropsko umetno inteligenco na področju obrambe in v kritično infrastrukturo, potrebno za ta namen;

56.

poziva Komisijo, naj oceni posledice moratorija za uporabo sistemov za prepoznavanje obrazov in glede na ugotovitve te ocene razmisli o moratoriju za javne organe za uporabo teh sistemov na javnih mestih in v prostorih, namenjenih izobraževanju in zdravstvu, in za organe preprečevanja, odkrivanja in preiskovanja kaznivih dejanj za uporabo sistemov za prepoznavanje obrazov v poljavnih prostorih, npr. na letališčih, dokler tehnični standardi ne bodo popolnoma v skladu s spoštovanjem temeljnih pravic, rezultati pa nepristranski in nediskriminatorni, ter bodo obstajali strogi zaščitni ukrepi za preprečevanje zlorabe, ki bodo zagotavljali nujnost in sorazmernost uporabe teh tehnologij;

57.

poudarja pomen, ki ga ima kibernetska varnost za umetno inteligenco tako v scenariju napada kot obrambe; v zvezi s tem ugotavlja pomen, ki ga imata mednarodno sodelovanje ter objava in deljenje ranljivosti na področju informacijske varnosti in načinov za njihovo odpravljanje; poziva k mednarodnemu sodelovanju na področju kibernetske varnosti za učinkovito uporabo in uvedbo umetne inteligence ter k zaščitnim ukrepom proti njeni zlorabi in kibernetskim napadom; je tudi seznanjen z dvojno rabo sistemov IT in umetne inteligence (v civilne in vojaške namene) ter poziva k njuni učinkoviti pravni ureditvi;

58.

meni, da bi morale države članice spodbujati tehnologije na podlagi umetne inteligence, ki delujejo za ljudi, in da bi bilo treba osebe, glede katerih je javni organ sprejel odločitev na podlagi informacij iz sistema umetne inteligence, o tem obvestiti ter jim brez odlašanja poslati informacije iz predhodnega odstavka, poleg tega pa jim omogočiti tudi spodbijanje te odločitve in izbiro možnosti, da se njihova pritožba reši brez posredovanja sistema umetne inteligence; poziva države članice k premisleku, ali je treba določiti zaščitne ukrepe iz Direktive (EU) 2018/958 (13), kot so nadzor kvalificiranega strokovnjaka in pravila o poklicni etiki;

59.

poudarja, da mora biti napovedovanje na podlagi izmenjave, dostopa do podatkov ali njihove uporabe urejeno z zahtevami po kakovosti, integriteti, preglednosti, varnosti, zasebnosti in nadzoru; poudarja, da je treba pri celotnem razvoju, uvajanju in uporabi umetne inteligence, robotike in z njimi povezanih tehnologij spoštovati pravni okvir EU o varstvu podatkov in zasebnosti, da bi povečali varnost in zaupanje državljanov v te tehnologije;

60.

opaža hiter razvoj na umetni inteligenci zasnovanih aplikacij za prepoznavanje edinstvenih značilnosti, kot so obrazne poteze, gibanje in vedenje; opozarja na vprašanja vdora v zasebnost, nediskriminacije in varstva osebnih podatkov, povezanih z uporabo avtomatiziranih aplikacij za prepoznavanje;

61.

poudarja, da je v skladu s splošno uredbo o varstvu podatkov prepovedana vsaka odločitev o fizični osebi, ki temelji zgolj na avtomatizirani obdelavi, vključno s profiliranjem, in ima škodljive pravne posledice za osebo, na katero se nanašajo podatki, ali je zaradi te odločitve znatno prizadeta, razen če je dovoljena v skladu s pravom Unije ali države članice, pod pogojem, da so sprejeti ustrezni ukrepi za zaščito pravic osebe, na katero se nanašajo podatki, njenih svoboščin in zakonitih interesov;

62.

se zavzema, da bi bili algoritmi umetne inteligence, ki jih uporabljajo javni organi, razložljivi, pregledni in pod regulativnim nadzorom, in da se ocene učinka opravijo, preden državni organi uvedejo orodja, ki uporabljajo tehnologije umetne inteligence; poziva Komisijo in Evropski odbor za varstvo podatkov, naj objavita smernice in priporočila ter pripravita primere dobre prakse, v katerih naj podrobneje določita merila in pogoje za odločitve javnih organov na podlagi profiliranja in uporabe umetne inteligence;

63.

ugotavlja, da bo imela umetna inteligenca po pričakovanjih vse pomembnejšo vlogo na področju zdravstva, zlasti s podpornimi algoritmi za diagnosticiranje, robotsko podprto kirurgijo, pametno protetiko, posamezniku prilagojenim zdravljenjem na podlagi tridimenzionalnega modeliranja telesa pacientov, z družabnimi roboti v pomoč starejšim, digitalno terapijo za večjo neodvisnost nekaterih duševno bolnih, z napovedovalno medicino in programsko opremo za vnaprejšnjo pripravo na epidemije;

64.

vseeno vztraja, da je treba pri vseh oblikah rabe umetne inteligence v javnem zdravstvu spoštovati varstvo osebnih podatkov pacientov in preprečiti nenadzorovano širjenje teh podatkov;

65.

poziva, naj se pri vsakršni uporabi umetne inteligence spoštuje načelo enake obravnave pacientov pri zagotavljanju oskrbe, ohrani odnos med pacientom in zdravnikom ter dosledno spoštuje Hipokratova prisega, tako da ima zdravnik vedno možnost, da ne sprejme rešitev, ki jih predlaga umetna inteligenca, ter tako ohrani odgovornost za vse odločitve;

66.

ugotavlja, da bi lahko uporaba umetne inteligence v boju proti kriminalu in kibernetskemu kriminalu prinesla številne možnosti in priložnosti; obenem potrjuje, da bi moralo še naprej prevladati načelo „kar je nezakonito zunaj spleta, je nezakonito tudi na spletu“;

67.

ugotavlja, da se umetna inteligenca vse pogosteje uporablja v pravosodju, da bi se odločitve sprejemale bolj utemeljeno in bolj v skladu z veljavnim pravom ter hitreje; pozdravlja dejstvo, da bo uporaba umetne inteligence predvidoma pospešila sodne postopke;

68.

meni, da je treba razjasniti, ali se odločanje v okviru preprečevanja, odkrivanja in preiskovanja kaznivih dejanj lahko delno prenese na umetno inteligenco in pri tem ohrani človeški nadzor nad končno odločitvijo;

69.

poudarja, da bi lahko z uporabo umetne inteligence v pravosodnem sistemu izboljšali zbiranje podatkov in zaščito žrtev, kar bi bilo treba raziskati v okviru raziskav in razvoja ter opraviti tudi ocene učinka, zlasti glede zaščitnih ukrepov za zagotovitev dolžnega pravnega postopanja ter za preprečevanje pristranskosti in diskriminacije, pri tem pa bi bilo treba uporabiti previdnostno načelo; opominja, da to ne more nadomestiti sodelovanja ljudi pri izrekanju kazni ali odločanju;

70.

opozarja na pomen, ki ga imajo pri uporabi umetne inteligence v kazenskem pravosodju načela upravljanja, preglednosti, nepristranskosti, odgovornosti, pravičnosti in intelektualne celovitosti;

71.

poziva države članice, naj najprej ocenijo tveganja pri tehnologijah na podlagi umetne inteligence in šele nato avtomatizirajo dejavnosti, povezane z izvajanjem državnih pristojnosti, zlasti na področju pravosodja; jih poziva k premisleku, ali je treba uvesti zaščitne ukrepe, kot so nadzor kvalificiranega strokovnjaka in pravila o poklicni etiki;

72.

ugotavlja, da določene tehnologije umetne inteligence omogočajo avtomatizacijo obdelave informacij in delovanja v doslej nepoznanem obsegu, npr. množični nadzor na civilnem in vojaškem področju, to pa ogroža temeljne pravice in utira pot nezakonitim posegom v suverenost držav; se zavzema, da bi se dejavnosti množičnega nadzora spremljale v skladu z mednarodnopravnimi standardi, vključno z vprašanji o pristojnosti in izvrševanju; izraža resno zaskrbljenost zaradi nekaterih že razvitih zelo vsiljivih aplikacij socialnega točkovanja, saj zelo ogrožajo spoštovanje temeljnih pravic; poziva k izrecni prepovedi, da bi javni organi uporabljali množično socialno točkovanje kot način za omejevanje pravic državljanov; poziva, naj se glede na to, da imajo nekateri zasebni akterji prevladujoč položaj pri odločanju o razvoju teh tehnologij in ga nadzirajo, poveča njihova odgovornost v skladu z mednarodnim pravom; v zvezi s tem poziva Komisijo, Svet in države članice, naj bodo pozorne zlasti pri pogajanjih o mednarodnih sporazumih v zvezi s čezmejnimi primeri na področju družin, kot so protipravni odvzemi otrok, pri njihovem sklepanju in ratifikaciji, in naj zagotovijo, da se v tem okviru sistemi umetne inteligence vedno uporabljajo z učinkovitim človeškim preverjanjem, ter spoštujejo dolžno pravno postopanje v EU in državah podpisnicah teh sporazumov;

73.

zahteva, da se javnost obvešča o rabi umetne inteligence v pravosodju in da se pri tej rabi prepreči diskriminacija zaradi pristranskega programiranja; poudarja, da je treba spoštovati pravico vsakega posameznika do dostopa do javnega uradnika, prav tako pa pravico odgovornega uradnika, da osebno sprejme odločitev in ne upošteva v celoti informacij, ki jih prejme od umetne inteligence, kadar meni, da je to potrebno glede na podrobna dejstva posamezne zadeve; poudarja pravico toženca do pritožbe na odločitev v skladu z nacionalno zakonodajo, pri čemer se nikoli ne sme odpraviti končne odgovornosti pravosodja;

74.

zato poziva, naj se vse te javne in upravne rabe obravnavajo kot javno dostopne informacije ter prepreči diskriminacija zaradi pristranskega programiranja;

75.

poudarja pomeni ustrezne uvedbe in uporabe umetne inteligence; poziva države članice, naj svojemu civilnemu in vojaškemu osebju zagotovijo ustrezno usposabljanje, da bo lahko natančno prepoznalo in preprečilo diskriminacijo in pristranskost v podatkovnih nizih;

76.

je globoko zaskrbljen glede tehnologij za globoko ponarejanje, saj omogočajo izdelavo fotografskih, zvočnih in video ponaredkov, ki so vse bolj realistični in bi se lahko uporabili za izsiljevanje, ustvarjanje lažnih novic, spodkopavanje zaupanja javnosti in vplivanje na javno razpravo; meni, da bi lahko te prakse destabilizirale države, širile dezinformacije in vplivale na volitve; zato poziva Komisijo, naj uvede obveznost, da mora ustvarjalec vse globoke ponaredke ali druge realistično sintetizirane videoposnetke označiti kot nepristne, in naj strogo omeji njihovo uporabo za volitve in poskrbi za dosledno izvrševanje; v zvezi s tem poziva k ustreznim raziskavam na tem področju, da bi se lahko na pojav zlonamerne uporabe umetne inteligence še naprej pravočasno odzvali s tehnologijami za boj proti njim;

Promet

77.

je seznanjen z velikim ekonomskim potencialom aplikacij umetne inteligence, tudi za optimizacijo dolgoročnega delovanja, vzdrževanje, napovedi okvar in načrtovanje gradnje prometne infrastrukture in stavb, pa tudi za varnost, energijska učinkovitost in stroške; poziva Komisijo, naj zato še naprej spodbuja raziskave na področju umetne inteligence in izmenjavo dobrih praks na področju prometa;

78.

poudarja, da je treba spodbujati umetno inteligenco, da bi izboljšali večmodalnost, interoperabilnost in energetsko učinkovitost vseh načinov prevoza, povečali učinkovitost organizacije in upravljanja prometnih in potniških prometnih tokov, bolje izkoristili infrastrukturo in vire v vseevropskem prometnem omrežju (TEN-T) in odpravili ovire za resnično enotni evropski prometni prostor;

79.

ponovno poudarja koristi evropskega sistema za upravljanje železniškega prometa (ERTMS), ki je brezhibno delujoč sistem za zaščito vlakov, in podpira razvoj in mednarodno standardizacijo avtomatizacije železniških operacij;

80.

pozdravlja delo raziskovalnega projekta za upravljanje zračnega prometa v okviru enotnega evropskega neba (SESAR) na področju sistemov brezpilotnih zrakoplovov in sistemov upravljanja zračnega prometa, tako civilnega kot vojaškega;

81.

želi spomniti, da se lahko z avtonomnimi vozili zelo izboljšata mobilnost in varnost, obenem pa prinašajo tudi okoljske koristi, ter poziva Komisijo in države članice, naj zagotovijo sodelovanje med regulatorji in vsemi deležniki, ki bo pomembno za začetek obratovanja avtomatiziranih cestnih vozil v EU;

82.

opozarja, da se je svetovna industrija ladijskega prometa v zadnjih letih zelo spremenila zaradi vključevanja umetne inteligence; opozarja na sedanje obsežne razprave v Mednarodni pomorski organizaciji o učinkovitem vključevanju novih in nastajajočih tehnologij, kot so avtonomne ladje, v njen regulativni okvir;

83.

poudarja, da inteligentni prevozni sistemi zmanjšujejo prometne zastoje, povečujejo varnost in dostopnost ter prispevajo k izboljšanju upravljanja prometnih tokov, učinkovitosti in rešitvam za mobilnost; opozarja na večjo izpostavljenost tradicionalnih prometnih omrežij kibernetskim grožnjam; opozarja na pomen zadostnih virov in nadaljnjih raziskav na področju varnostnih tveganj pri zagotavljanju varnosti avtomatiziranih sistemov in njihovih podatkov; pozdravlja, da namerava Komisija kibernetsko varnost kot redno točko vključiti na dnevni red razprav v mednarodnih organizacijah o prometu;

84.

pozdravlja prizadevanja za uvedbo sistemov umetne inteligence v javnem sektorju in bo podprl nadaljnje razprave o uvedbi umetne inteligence v prometu; poziva Komisijo, naj izvede oceno uporabe umetne inteligence in podobnih tehnologij v prometnem sektorju in pripravi neizčrpen seznam področij z visokim tveganjem v sistemih umetne inteligence, ki bodo nadomestili odločitve v okviru pristojnosti javnih organov na tem področju;

85.

poudarja, da bi morala Evropski obrambni sklad in stalno strukturno sodelovanje spodbujati sodelovanje med obrambno industrijo držav članic in EU, da bi razvili nove evropske obrambne zmogljivosti na področju umetne inteligence in zagotovili zanesljivost oskrbe, pri čemer bi bilo treba upoštevati etične vidike; poudarja, da je treba preprečiti razdrobljenost in povezati različne akterje in področja uporabe, pri čemer je treba na vseh ravneh spodbujati združljivost in interoperabilnost ter se osredotočiti na skupno delo na področju arhitekturnih rešitev ter rešitev platform; poleg tega opozarja, da bo s prihodnjim instrumentom za povezovanje Evrope, ki prav tako spodbuja pametno infrastrukturo, vzpostavljen sklad za prilagajanje in razvoj prometne infrastrukture za dvojno civilno ali vojaško rabo na omrežju TEN-T, da bi povečali sinergije med civilnimi in obrambnimi potrebami ter izboljšali civilno in vojaško mobilnost znotraj Unije; zato poudarja, da je na področju tehnologij z močnim učinkom na gospodarsko rast in velikim potencialom za dvojno rabo potrebnih več evropskih naložb in raziskav ter je treba prevzeti vodilno vlogo;

86.

poudarja, da je veliko naložb v tehnologije na področju prometa in mobilnosti tržno naravnanih, vendar se komercialne standardne tehnologije in proizvodi z dvojno rabo pogosto na inovativen način uporabijo v vojaške namene; zato poudarja, da je treba pri oblikovanju standardov za uporabo umetne inteligence na različnih področjih komercialnega in vojaškega sektorja upoštevati, da lahko imajo rešitve, ki jih omogoča umetna inteligenca, dvojno rabo; poziva, naj se pri razvoju obrambnih tehnologij, proizvodov in načel delovanja upoštevajo visoki etični standardi in politika;

87.

opozarja, da je učinkovit prevoz blaga, streliva, orožja in vojakov bistveni element uspešnih vojaških operacij; poudarja, da naj bi imela umetna inteligenca ključno vlogo in naj bi ustvarila številne možnosti na področju vojaške logistike in prevoza; želi spomniti, da države po svetu, tudi države članice EU, vključujejo orožje in druge sisteme na osnovi umetne inteligence, ki se uporabljajo na kopenskih, pomorskih in zračnih platformah; ponavlja, da lahko uporaba umetne inteligence v prometnem sektorju zagotovi nove zmogljivosti in nove oblike taktike, na primer združevanje več sistemov, kot so droni, ladje ali tanki brez posadke, v neodvisnih in usklajenih operacijah;

Mednarodno zasebno pravo

88.

ugotavlja, da je sporov v okviru mednarodnega zasebnega prava vse več, saj ljudje bodisi na spletu bodisi v resničnem življenju vse bolj delujejo na mednarodni ravni, in da lahko tehnologija umetne inteligence pomaga pri reševanju sporov, in sicer z oblikovanjem modelov, s katerimi se lahko ugotovi, katero sodišče je pristojno in katero pravo se uporablja za posamezno zadevo, pa tudi odkrijejo občutljivejša navzkrižja med zakoni in poiščejo možni načini za njihovo reševanje;

89.

kljub temu meni, da je treba o uporabi umetne inteligence v mednarodnem zasebnem pravu ustrezno obveščati javnost, preprečevati diskriminacijo zaradi pristranskega programiranja, ki bi dajalo enemu nacionalnemu pravu sistematično prednost pred drugim, spoštovati pravice do sodišča, vnaprej določenega na podlagi prava, omogočiti pritožbe v skladu z veljavnim pravom in vsem sodnikom dovoliti, da ne upoštevajo rešitve, ki jo predlaga tehnologija umetne inteligence;

90.

poudarja, da je treba pri uporabi avtonomnih vozil v prometu v Evropski uniji, pri kateri bi lahko prišlo do številnih zasebnih mednarodnih pravnih sporov, uvesti posebna evropska pravila, ki bodo določala, katera pravna ureditev se uporablja v primeru povzročitve čezmejne škode;

91.

poudarja, da ima EU zaradi vse večjega pomena raziskav in razvoja v zasebnem sektorju ter ogromnih naložb iz tretjih držav veliko konkurenco; zato podpira prizadevanja EU za nadaljnji razvoj njenih konkurenčnih prednosti in meni, da bi si morala EU prizadevati za to, da določi standarde za umetno inteligenco v hiperpovezanem svetu, tako da sprejme učinkovito strategijo za zunanje partnerje, s katero bo okrepila prizadevanja, da se na mednarodni ravni določijo etični standardi za umetno inteligenco, ki bodo skladni z varnostnimi predpisi in zahtevami za varstvo potrošnikov ter evropskimi vrednotami in pravicami državljanov, vključno s temeljnimi pravicami; meni, da je to tudi ključno za konkurenčnost in trajnost evropskih družb; poziva Komisijo in države članice, naj okrepijo sodelovanje s tretjimi državami in mednarodnimi organizacijami, kot so OZN, OECD, G7, G20, ter naj sodelujejo v širšem dialogu za obravnavo izzivov, ki so posledica razvoja te hitro spreminjajoče se tehnologije; meni, da bi morala biti ta prizadevanja namenjena zlasti vzpostavitvi skupnih standardov in izboljšanju interoperabilnosti sistemov, ki temeljijo na umetni inteligenci; poziva Komisijo, naj spodbuja dialog, tesnejše sodelovanje in sinergije med državami članicami, raziskovalci, akademiki, subjekti civilne družbe in zasebnim sektorjem, zlasti vodilnimi podjetji, in vojsko, da bi zagotovili vključujoč proces oblikovanja politik za regulacijo umetne inteligence na obrambnem področju;

Vodilna načela

92.

meni, da bi si morali na področju umetne inteligence in omrežnih sistemov prizadevati za zagotovitev pravne varnosti za državljane; zato poudarja, da bi se morala kolizijska pravila in pravila o pristojnosti še naprej uporabljati, pri čemer bi bilo treba upoštevati interese potrošnikov in nujnost zmanjšanja tveganja za izbiro najugodnejšega sodišča; opozarja, da umetna inteligenca v sodnem postopku ne more nadomestiti človeka, ko gre za izrek sodbe ali kakršno koli končno odločitev, saj mora te odločitve vedno sprejeti človek, prav tako pa se mora zanje strogo uporabljati človeško preverjanje in upoštevati dolžno pravno postopanje; vztraja, da bi morala za pravosodne organe veljati obveznost obrazložitve odločitve, kadar uporabljajo dokaze na podlagi tehnologije, ki temelji na umetni inteligenci;

93.

opozarja, da umetna inteligenca pomeni znanstveni napredek, zaradi katerega pa pravo ne sme nazadovati, temveč mora pravo – v Evropski uniji je to pravo njenih institucij in držav članic – umetni inteligenci dosledno postavljati okvir, in da umetna inteligenca, robotika in sorodna tehnologija v nobenem primeru ne smejo biti v nasprotju s temeljnimi pravicami, demokracijo in načelom pravne države;

94.

poudarja, da bi morala biti umetna inteligenca, ki se uporablja za obrambne namene, odgovorna, pravična, sledljiva, zanesljiva in obvladljiva;

95.

meni, da bi bilo treba umetno inteligenco, robotiko in sorodno tehnologijo, vključno s programsko opremo, algoritmi in podatki, ki jih te tehnologije uporabljajo ali proizvajajo, razvijati na varen in tehnično natančen način, in sicer ne glede na področje, na katerem se uporabljajo;

o

o o

96.

naroči svojemu predsedniku, naj to resolucijo posreduje Svetu in Komisiji.

(1)  UL L 180, 19.7.2000, str. 22.

(2)  UL L 303, 2.12.2000, str. 16.

(3)  UL L 119, 4.5.2016, str. 1.

(4)  UL L 119, 4.5.2016, str. 89.

(5)  UL L 252, 8.10.2018, str. 1.

(6)  UL C 252, 18.7.2018, str. 239.

(7)  UL C 307, 30.8.2018, str. 163.

(8)  UL C 433, 23.12.2019, str. 86.

(9)  UL C 433, 23.12.2019, str. 42.

(10)  UL C 449, 23.12.2020, str. 37.

(11)  Direktiva Evropskega parlamenta in Sveta 2005/36/ES z dne 7. septembra 2005 o priznavanju poklicnih kvalifikacij (UL L 255, 30.9.2005, str. 22).

(12)  Direktiva 2006/42/ES Evropskega parlamenta in Sveta z dne 17. maja 2006 o strojih in spremembah Direktive 95/16/ES (UL L 157, 9.6.2006, str. 24).

(13)  Direktiva (EU) 2018/958 Evropskega parlamenta in Sveta z dne 28. junija 2018 o preskusu sorazmernosti pred sprejetjem nove regulacije poklicev (UL L 173, 9.7.2018, str. 25).


Top