P9_TA(2020)0275

Tehisintellekti, robootika ja seonduva tehnoloogia eetiliste aspektide raamistik

Euroopa Parlamendi 20. oktoobri 2020. aasta resolutsioon soovitustega komisjonile tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetiliste aspektide raamistiku kohta (2020/2012(INL))

(2021/C 404/04)

Euroopa Parlament,

—	võttes arvesse Euroopa Liidu toimimise lepingu artiklit 225,

—	võttes arvesse Euroopa Liidu toimimise lepingu artiklit 114,

—	võttes arvesse Euroopa Liidu põhiõiguste hartat,

—	võttes arvesse nõukogu 28. septembri 2018. aasta määrust (EL) 2018/1488, millega asutatakse Euroopa kõrgjõudlusega andmetöötluse ühisettevõte (1),

—	võttes arvesse nõukogu 29. juuni 2000. aasta direktiivi 2000/43/EÜ, millega rakendatakse võrdse kohtlemise põhimõte sõltumata isikute rassilisest või etnilisest päritolust (2) (rassilise võrdõiguslikkuse direktiiv),

—	võttes arvesse nõukogu 27. novembri 2000. aasta direktiivi 2000/78/EÜ, millega kehtestatakse üldine raamistik võrdseks kohtlemiseks töö saamisel ja kutsealale pääsemisel (3) (võrdse tööalase kohtlemise direktiiv),

—

võttes arvesse Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrust (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta (4) (isikuandmete kaitse üldmäärus) ning Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta direktiivi (EL) 2016/680 (mis käsitleb füüsiliste isikute kaitset seoses pädevates asutustes isikuandmete töötlemisega süütegude tõkestamise, uurimise, avastamise ja nende eest vastutusele võtmise või kriminaalkaristuste täitmisele pööramise eesmärgil ning selliste andmete vaba liikumist ning millega tunnistatakse kehtetuks nõukogu raamotsus 2008/977/JSK) (5),

—	võttes arvesse 13. aprilli 2016. aasta institutsioonidevahelist parema õigusloome kokkulepet (6),

—	võttes arvesse 6. juuni 2018. aasta ettepanekut võtta vastu Euroopa Parlamendi ja nõukogu määrus, millega kehtestatakse ajavahemikuks 2021–2027 digitaalse Euroopa programm (COM(2018)0434),

—	võttes arvesse komisjoni 11. detsembri 2019. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele Euroopa rohelise kokkuleppe kohta (COM(2019)0640),

—	võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast“ (COM(2020)0065),

—	võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa andmestrateegia“ (COM(2020)0066),

—	võttes arvesse komisjoni 19. veebruari 2020. aasta teatist Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Euroopa digituleviku kujundamine“ (COM(2020)0067),

—	võttes arvesse Euroopa Liidu Nõukogu 2020. aasta juuni järeldusi Euroopa digituleviku kujundamise kohta,

—	võttes arvesse oma 16. veebruari 2017. aasta resolutsiooni soovitustega komisjonile robootikat käsitlevate tsiviilõiguse normide kohta (7),

—	võttes arvesse oma 1. juuni 2017. aasta resolutsiooni Euroopa tööstuse digiteerimise kohta (8),

—	võttes arvesse oma 12. septembri 2018. aasta resolutsiooni autonoomsete relvasüsteemide kohta (9),

—	võttes arvesse oma 11. septembri 2018. aasta resolutsiooni keelelise võrdõiguslikkuse kohta digitaalajastul (10),

—	võttes arvesse oma 12. veebruari 2019. aasta resolutsiooni tervikliku Euroopa tööstuspoliitika kohta tehisintellekti ja robootika valdkonnas, (11)

—	võttes arvesse komisjoni kõrgetasemelise tehisintellekti eksperdirühma 8. aprilli 2019. aasta aruannet „Usaldusväärse tehisintellekti eetikasuunised“,

—

võttes arvesse Euroopa Parlamendi uuringuteenistuse Euroopa lisandväärtuse hindamise uuringut „European framework on ethical aspects of artificial intelligence, robotics and related technologies: European added value assessment“ (12) (Euroopa lisandväärtuse hinnang tehisintellekti, robootika ja seotud tehnoloogiate eetiliste aspektide Euroopa raamistikule).

—

võttes arvesse Euroopa Parlamendi uuringuteenistuse teaduslike tuleviku-uuringute üksuse hallatava teaduse ja tehnoloogia tuleviku esinduskogu (STOA) taotlusel koostatud ülevaateid ja uuringuid „What if algorithms could abide by ethical principles?“ (Aga mis siis, kui algoritmid järgiksid eetikapõhimõtteid?), „Artificial Intelligence ante portas: Legal & ethical reflections“ (Tehisintellekt tulekul: õiguslikud ja eetilised mõtisklused), „A governance framework for algorithmic accountability and transparency“ (Algoritmilise vastutuse ja läbipaistvuse juhtimise raamistik), „Should we fear artificial intelligence?“ (Kas peaksime tehisintellekti kartma?) ja „The ethics of artificial intelligence: Issues and initiatives“ (Tehisintellekti eetika: probleemid ja algatused),

—	võttes arvesse Euroopa Nõukogu rahvusvähemuste kaitse raamkonventsiooni, inimõiguste ja põhivabaduste kaitse konventsiooni protokolli nr 12 ning Euroopa piirkondlike ja vähemuskeelte hartat,

—	võttes arvesse OECD nõukogu 22. mai 2019. aasta soovitust tehisintellekti kohta,

—	võttes arvesse kodukorra artikleid 47 ja 54,

—	võttes arvesse väliskomisjoni, siseturu- ja tarbijakaitsekomisjoni, transpordi- ja turismikomisjoni, kodanikuvabaduste, justiits- ja siseasjade komisjoni, tööhõive- ja sotsiaalkomisjoni, keskkonna-, rahvatervise ja toiduohutuse komisjoni ning kultuuri- ja hariduskomisjoni arvamusi,

—	võttes arvesse õiguskomisjoni raportit (A9-0186/2020),

Sissejuhatus

A.	arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamisega tegelevad inimesed ning nende valikud määravad ära sellise tehnoloogia võime ühiskonnale kasu tuua;

arvestades, et kiiresti edendatakse ja arendatakse tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, mis võivad luua ettevõtjatele võimalusi ja tuua kodanikele kasu ning võivad vahetult mõjutada meie ühiskonna kõiki aspekte, sealhulgas põhiõigusi ning sotsiaalseid ja majanduslikke põhimõtteid ja väärtusi, samuti avaldada püsivat mõju kõigile tegevusvaldkondadele;

arvestades, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia põhjustavad suuri muutusi tööturul ja töökohtades; arvestades, et need võivad asendada korduvaid operatsioone tegevaid töötajaid, hõlbustada inimeste ja masinate koostööl põhinevaid töösüsteeme, suurendada konkurentsivõimet ja jõukust ning luua kvalifitseeritud töötajate jaoks uusi töövõimalusi, ning samas kaasneb nendega töötajaskonna ümberkorraldamise tõsine probleem;

arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine võib ka aidata saavutada paljudes eri valdkondades Euroopa rohelise kokkuleppe kestlikkuseesmärke; arvestades, et digitehnoloogia võib suurendada poliitika mõju keskkonnakaitsele; arvestades, et see võib ka aidata vähendada liiklusummikuid ning kasvuhoonegaaside ja õhusaasteainete heitkoguseid;

arvestades, et sellistes sektorites nagu ühistransport võib tehisintellekti toetatud arukate transpordisüsteemide abil lühendada järjekordi, optimeerida marsruute, võimaldada puuetega inimestele suuremat sõltumatust ning tõsta energiatõhusust, mis tõhustaks CO2-heite vähendamise meetmeid ja vähendaks keskkonnajalajälge;

arvestades, et nende tehnoloogiatega kaasnevad uued ärivõimalused võivad aidata kaasa liidu tööstuse praeguse tervise- ja majanduskriisi järgsele taastumisele, kui neid, näiteks transpordisektoris, ulatuslikumalt kasutada; arvestades, et sellised võimalused võivad luua uusi töökohti, kuna nende tehnoloogiate kasutuselevõtt võib tõsta ettevõtete tootlikkust ja aidata suurendada tõhusust; arvestades, et selle valdkonna innovatsiooniprogrammid võivad anda piirkondlikele klastritele võimaluse jõudsalt areneda;

arvestades, et liidul ja selle liikmesriikidel on eriline kohustus kasutada, edendada ja suurendada tehisintellekti lisaväärtust ning tagada, et tehisintellektitehnoloogiad oleksid ohutud ning aitaksid kaasa nende kodanike heaolule ja üldistele huvidele, kuna need võivad anda tohutu panuse ühise eesmärgi saavutamisse, milleks on liidu kodanike elu parandamine ja jõukuse suurendamine, kuna need toetavad paremate strateegiate kujundamist ja innovatsiooni mitmetes valdkondades ja sektorites; arvestades, et tehisintellekti täispotentsiaali ärakasutamiseks ja kasutajate teavitamiseks tehisintellektitehnoloogiatega kaasnevast kasust ja probleemidest tuleb tehisintellekti või digitaalset kirjaoskust käsitleda haridus- ja koolitustegevuses, muu hulgas e-kaasatust edendades, ning tuleb liidu tasandil korraldada teabekampaaniaid, mis kajastaksid täpselt tehisintellekti arendamise kõiki aspekte;

arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist käsitlev liidu ühine õigusraamistik peaks võimaldama kodanikel saada osa nende potentsiaalsest kasulikkusest ning samas kaitsma kodanikke selliste tehnoloogiatega seotud võimalike riskide eest ja edendama nende usaldusväärsust liidus ja mujal; arvestades, et raamistiku aluseks peaksid olema liidu õigus ja väärtused ning selles tuleks juhinduda läbipaistvuse, selgitatavuse, õigluse, aruandekohustuse ja vastutuse põhimõtetest;

arvestades, et selline õigusraamistik on väga oluline, et vältida siseriiklike õigusaktide erinevusest tingitud siseturu killustumist, ning see aitab edendada väga vajalikke investeeringuid, arendada andmetaristut ja toetada teadusuuringuid; arvestades, et raamistik peaks koosnema ühistest õiguslikest kohustustest ja eetikapõhimõtetest, mis sätestatakse käesoleva resolutsiooni lisas esitatud määruse ettepanekus; arvestades, et selle loomisel tuleks järgida parema õigusloome suuniseid;

arvestades, et liidus on olemas range õigusraamistik, mis peab tagama muu hulgas isikuandmete ja eraelu puutumatuse kaitse ja mittediskrimineerimise ning edendama soolist võrdõiguslikkust, keskkonnakaitset ja tarbijate õigusi; arvestades, et sellist õigusraamistikku, mis koosneb ulatuslikust horisontaalsete ja valdkondlike õigusaktide kogumist (sh kehtivad tooteohutust ja vastutust käsitlevad õigusnormid), kohaldatakse jätkuvalt tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes, kuigi konkreetseid õigusakte võib olla vaja mõneti kohandada, et kajastada üleminekut digitehnoloogiale ja tegeleda tehisintellekti kasutamisest tulenevate uute probleemidega;

arvestades, et on väljendatud muret, et praegune ELi õigusraamistik, sealhulgas tarbija-, töö- ja sotsiaalõigustik, andmekaitset, tooteohutust ja turujärelevalvet käsitlevad õigusaktid ning diskrimineerimisvastased õigusaktid, ei pruugi enam alati olla tehisintellektist, robotitehnoloogiast ja seonduvast tehnoloogiast tulenevate riskide tulemuslikuks ohjamiseks otstarbekohane;

arvestades, et lisaks kehtivate õigusaktide kohandamisele tuleks tehisintellektitehnoloogiatega seotud õiguslikke ja eetilisi küsimusi käsitleda tulemusliku, tervikliku ja tulevikukindla liidu õigusraamistiku kaudu, mis kajastab aluslepingutes ja Euroopa Liidu põhiõiguste hartas (edaspidi „harta“) sätestatud liidu põhimõtteid ja väärtusi ning milles tuleks hoiduda ülereguleerimisest, kõrvaldada üksnes senised õiguslikud lüngad ja suurendada õiguskindlust nii ettevõtjate kui ka kodanike jaoks, eelkõige lisades kohustuslikud meetmed, et vältida tavasid, mis kindlasti kahjustaksid põhiõigusi;

arvestades, et igasuguses õigusraamistikus tuleb võtta arvesse kõiki kaalul olevaid huve; arvestades, et edasiste seadusandlike sammude eeltingimusena tuleks hoolikalt uurida, kuidas mis tahes uus õigusraamistik kõiki mõju hindamises osalejaid mõjutab; arvestades, et idufirmade ning väikeste ja keskmise suurusega ettevõtete (VKEd) keskne tähtsus, eriti Euroopa majanduses, õigustab rangelt proportsionaalset lähenemisviisi, mis võimaldab neil areneda ja uuendusi teha;

N.	arvestades, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia võivad avaldada tõsist mõju üksikisikute, rühmade ja kogu ühiskonna materiaalsele ja immateriaalsele puutumatusele ning see võimalik individuaalne ja kollektiivne kahju peab kajastuma seadusandlikes lahendustes;

O.	arvestades, et tehisintellekti käsitleva liidu õigusraamistiku järgimiseks võib olla vaja võtta vastu erinormid liidu transpordisektori jaoks;

arvestades, et tehisintellektitehnoloogiad on transpordisektori jaoks strateegilise tähtsusega, ka seetõttu, et need parandavad kõigi transpordiliikide ohutust ja kättesaadavust ning loovad uusi töövõimalusi ja kestlikumaid ärimudeleid; arvestades, et liidu lähenemisviis tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisele transpordis võib suurendada liidu majanduse ülemaailmset konkurentsivõimet ja strateegilist autonoomiat;

arvestades, et kõigist liidu teedel toimuvatest liiklusõnnetustest on ligi 95 % ikka veel seotud inimliku eksimusega; arvestades, et liidu eesmärk oli vähendada 2020. aastaks liiklussurmade arvu liidus 50 % võrra võrreldes 2010. aastaga, kuid edasimineku aeglust arvestades tõhustas liit sellesuunalist tegevust oma ELi liiklusohutuspoliitika raamistikus aastateks 2021–2030, kavandades edasised sammud liiklussurmade nulltasemele lähenemiseks; arvestades, et tehisintellektil, automatiseerimisel ja teistel uutel tehnoloogiatel on liiklusohutuse suurendamise seisukohalt suur potentsiaal ja eluline tähtsus, kuna need vähendavad inimliku eksimuse võimalusi;

R.	arvestades, et liidu tehisintellekti õigusraamistikus peaks kajastuma ka vajadus tagada töötajate õiguste austamine; arvestades vajadust järgida 2020. aasta juunis sõlmitud Euroopa sotsiaalpartnerite raamlepingut digiülemineku kohta;

arvestades, et liidu tehisintellekti õigusraamistiku kohaldamisala peaks olema piisav, proportsionaalne ja läbima põhjaliku hindamise; arvestades, et see peaks hõlmama suurt hulka tehnoloogiaid ja nende komponente, sealhulgas nende kasutatavaid või toodetavaid algoritme, tarkvara ja andmeid, ning et vaja on sihipärast riskipõhist käsitlust, et mitte takistada edasist innovatsiooni ja vältida tarbetut koormust, eriti VKEde jaoks; arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia rakenduste mitmekesisus raskendab kõigi eri riskide jaoks sobiva ühe lahenduse leidmist;

T.	arvestades, et tehisintellekt ja andmeanalüüs mõjutavad kodanikele kättesaadavaks tehtavat teavet järjest rohkem; arvestades, et kui selliseid tehnoloogiaid valesti kasutatakse, võib see ohustada teabe- ja väljendusvabadust ning meedia vabadust ja mitmekesisust;

arvestades, et liidu tehisintellekti õigusraamistiku geograafiline kohaldamisala peaks hõlmama kõiki tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia komponente, mida liidus arendatakse, juurutatakse või kasutatakse, sealhulgas juhtudel, kui osa tehnoloogiast võib asuda väljaspool liitu või kui sellel ei ole kindlat asukohta;

arvestades, et liidu tehisintellekti õigusraamistik peaks hõlmama kõiki asjaomaseid etappe ehk siis asjaomaste tehnoloogiate ja nende komponentide arendamist, juurutamist ja kasutamist, selles tuleks nõuda vajalikku tähelepanu asjaomastele õiguslikele kohustustele ja eetikapõhimõtetele ning kehtestada tingimused, mis tagaksid, et arendajad, juurutajad ja kasutajad neid kohustusi ja põhimõtteid täielikult järgivad;

W.	arvestades, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud eetikapõhimõtete ühtlustatud käsitlus eeldab, et liidus saadakse ühtemoodi aru nende tehnoloogiate sellistest aluskontseptsioonidest nagu algoritmid, tarkvara, andmed ja biomeetria;

arvestades, et liidu tasandi meetmed on õigustud, kuna tuleb vältida õiguslikku killustatust või erinevaid riiklikke õigusnorme, mille puudub ühine nimetaja, ning tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel tuleb tagada õiguslikult sätestatud ühiste eetikapõhimõtete ühetaoline kohaldamine; arvestades, et oluliste riskide korral on vaja selgeid õigusnorme;

Y.	arvestades, et ühised eetikapõhimõtted on tõhusad ainult siis, kui need sätestatakse ka õigusaktides ning kui määratakse kindlaks, kes vastutavad nõuetele vastavuse tagamise, hindamise ja järelevalve eest;

arvestades, et eetikasuunised, näiteks kõrgetasemelise tehisintellekti eksperdirühma vastu võetud põhimõtted, on hea lähtepunkt, kuid üksnes nende abil ei saa tagada, et arendajad, juurutajad ja kasutajad käituvad ausalt ja tagavad üksikisikute mõjusa kaitse; arvestades, et sellised suunised on eriti asjakohased suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia puhul;

AA.

arvestades, et iga liikmesriik peaks määrama riikliku järelevalveasutuse, kes peab vastutama tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise liidu tehisintellekti õigusraamistiku nõuetele vastavuse tagamise, hindamise ja järelevalve eest; lisaks peaks järelevalveasutus tihedas koostöös asjaomaste sidusrühmade ja kodanikuühiskonnaga võimaldama arutelusid ja arvamuste vahetust; arvestades, et riiklikud järelevalveasutused peaksid tegema koostööd;

AB.

arvestades, et kogu liidus ühtse käsitluse ja digitaalse ühtse turu optimaalse toimimise tagamiseks tuleks hinnata liidu tasandil toimuvat koordineerimist, mida teostab komisjon ja/või mis tahes muu selleks määrata võidav liidu institutsioon, organ, amet või asutus, uute probleemide ja võimaluste seisukohast, eriti kui need on piiriülese iseloomuga ja tulenevad jätkuvast tehnoloogia arengust; arvestades, et selleks tuleks komisjonile teha ülesandeks leida sobiv lahendus, kuidas sellist liidu tasandil toimuvat koordineerimist struktureerida;

Inimkeskne ja inimese loodud tehisintellekt

on seisukohal, et kogu liidus võrdsete standardite kehtestamiseks ja liidu väärtuste tulemuslikuks kaitsmiseks, ilma et see piiraks valdkondlike õigusaktide kohaldamist, on vaja tõhusat ja ühtlustatud õigusraamistikku, mis põhineb liidu õigusel, hartal ja rahvusvahelisel inimõigustealasel õigusel ning mida kohaldatakse eelkõige suure riskiga tehnoloogiate suhtes;

on veendunud, et igasugune uus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamisega seotud kohustuste ja eetikapõhimõtete õigusraamistik peab täielikult järgima põhiõiguste hartat ning seetõttu austama üksikisiku inimväärikust, autonoomiat ja enesemääramist, vältima kahjustamist, edendama õiglust, kaasamist ja läbipaistvust, välistama (ka vähemusrühmade suhtes) kallutatuse ja diskrimineerimise ning tunnistama ja järgima järgmisi põhimõtteid: kasutatava tehnoloogia kahjulike välismõjude piiramine, tehnoloogiate selgitatavuse tagamine, et tehnoloogia teeniks inimesi, mitte ei asendaks neid ega otsustaks nende eest, kusjuures lõppeesmärk on iga üksiku inimese heaolu kasv;

juhib tähelepanu tehisintellektitehnoloogia kasutajate ning sellega suhtlejate ja selle objektide vahelisele asümmeetriale; sellega seoses rõhutab, et kodanike usaldus tehisintellekti vastu saab rajaneda üksnes nn vaikimisi ja lõimitud eetikapõhimõtete õigusraamistikul, mis tagab, et igasuguse kasutusele võetud tehisintellekti puhul tunnustatakse ja järgitakse täielikult aluslepinguid, põhiõiguste hartat ja liidu teisest õigust; on seisukohal, et sellisele käsitlusele tuginemine peaks olema kooskõlas ettevaatuspõhimõttega, millest juhindutakse ELi õigusaktides ning mis peaks olema tehisintellekti mis tahes raamistiku keskmes; nõuab sellega seoses selget ja sidusat juhtimismudelit, mis võimaldaks ettevõtjatel ja innovaatoritel tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat edasi arendada;

on veendunud, et igasugused tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud õiguslikud meetmed peaksid olema kooskõlas vajalikkuse ja proportsionaalsuse põhimõtetega;

on seisukohal, et selline käsitlus võimaldab ettevõtetel tuua turule innovaatilisi tooteid ja luua uusi võimalusi, tagades samal ajal liidu väärtuste kaitse ning arendades liidu eetikapõhimõtteid järgivaid tehisintellektisüsteeme; on seisukohal, et väärtustel põhinev ELi õigusraamistik oleks lisaväärtus, mis annaks liidule ainulaadse konkurentsieelise ning tänu siseturu edendamisele suurendaks oluliselt liidu kodanike ja ettevõtete jõukust ja heaolu; toonitab, et selline tehisintellekti eetikaraamistik kujutab endast ka lisaväärtust seoses innovatsiooni edendamisega siseturul; on veendunud, et näiteks transpordisektoris võimaldab selline käsitlus liidu ettevõtetel hõivata ülemaailmse liidripositsiooni;

märgib, et liidu õigusraamistikku tuleks kohaldada tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes;

märgib, et tehisintellektist, robotitehnoloogiast ja seonduvast tehnoloogiast tulenevate võimaluste aluseks on nn suurandmed, ning algoritmide kasutamise harjutamiseks ja tulemuste täpsustamiseks on vaja andmete kriitilist massi; väljendab sellega seoses heameelt komisjoni ettepaneku üle luua ELis ühtne andmeruum andmevahetuse tõhustamiseks ja teadusuuringute toetamiseks, järgides sealjuures täielikult Euroopa andmekaitsenorme;

on seisukohal, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes tuleb täielikult kohaldada kehtivat liidu õigusraamistikku, eelkõige seda, mis käsitleb kaitset, eraelu puutumatust ja isikuandmeid, mida tuleb korrapäraselt läbi vaadata ja kontrollida ja vajaduse korral ajakohastada, et tulemuslikult maandada neist tehnoloogiatest tulenevaid riske, ning siin võiks kasu olla selle täiendamisest rangete eetiliste juhtpõhimõtetega; juhib tähelepanu sellele, et seal, kus õigusaktide vastuvõtmine oleks enneaegne, tuleks kasutada mittesiduvat õigusraamistikku;

ootab, et komisjon tehisintellekti, sealhulgas ohutust, vastutust ja põhiõigusi käsitleva valge raamatu järelmeetmena lõimiks käesoleva resolutsiooni lisas esitatud seadusandlikku ettepanekusse jõulise eetikakäsitluse, mis hõlmaks muu hulgas ohutuse, vastutuse ja põhiõiguste temaatikat, suurendaks tehisintellektitehnoloogiate võimalusi ja vähendaks nendega seotud riske; ootab, et taotletav seadusandlik ettepanek sisaldaks tehisintellekti peamiste tuntud riskide poliitilisi lahendusi, muu hulgas suurandmete eetilise kogumise ja kasutamise ning algoritmide läbipaistvuse ja nende kallutatuse küsimustes; kutsub komisjoni üles välja töötama tehisintellektitehnoloogia märgistamise kriteeriumid ja näidikud, et stimuleerida läbipaistvust, selgitatavust ja vastutust ning ergutada arendajaid rakendama täiendavaid ettevaatusabinõusid; rõhutab vajadust lõimida tehisintellektialasesse teadus- ja uurimistegevusse sotsiaalset konteksti käsitlevad tehnikavälised valdkonnad;

10.

on seisukohal, et tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat tuleb kujundada vastavalt inimeste vajadustele ning põhimõttele, et nende arendamine, juurutamine ja kasutamine peavad alati teenima inimesi ja mitte vastupidi, nendega peaks alati püüdma suurendada heaolu ja isikuvabadust, hoida rahu, tugevdada rahvusvahelist julgeolekut ja vältida konflikte, ning ühtlasi tuleks maksimeerida neist saadavat kasu ja vähendada neist tulenevaid riske;

11.

kinnitab, et suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel, sealhulgas, kuid mitte ainult inimeste poolt, tuleks alati lähtuda eetikast ning see tuleb kavandada nii, et austataks inimese toimevõimet ja demokraatlikku kontrolli ning sobivate kontrollimeetmete rakendamisega saaks igal ajal inimkontrolli taastada;

Riskihindamine

12.

rõhutab, et igasuguses tulevases määruses tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia reguleerimisel järgida riskipõhist ja tulevikusuunitlusega käsitlust, sealhulgas valdkonnaüleseid tehnoloogianeutraalseid standardeid ja vajaduse korral valdkonnapõhiseid standardeid; märgib, et riskihindamise süsteemi ühtse rakendamise tagamiseks ja sellega seotud õiguslike kohustuste täitmiseks, et tagada liikmesriikidele võrdsed tingimused ja vältida siseturu killustumist, on vaja ammendavat ja kumulatiivset loetelu suure riskiga sektoritest ja suure riskiga kasutusaladest või eesmärkidest; rõhutab, et sellist loetelu tuleb korrapäraselt uuesti hinnata, ning märgib, et nende tehnoloogiate arengut arvestades võib tulevikus olla vaja nende riske uuesti hinnata;

13.

on seisukohal, et selle otsustamine, kas omistada tehisintellektile, robotitehnoloogiale ja seonduvale tehnoloogiale kõrge riskitase ning sellest tulenevalt allutada need tehisintellekti õigusraamistikus sätestatud õiguslikele kohustustele ja eetikapõhimõtetele, peaks alati tulenema erapooletust, reguleeritud ja väljaspoolsest eelhinnangust, mis põhineb kindlatel ja määratletud kriteeriumidel;

14.

on sellega seoses seisukohal, et tehisintellektile, robotitehnoloogiale ja seonduvale tehnoloogiale tuleks omistada kõrge riskitase, kui selle arendamise, juurutamise ja kasutamisega kaasneb märkimisväärne oht kahjustada üksikisikuid või ühiskonda, millega rikutaks liidu õiguses sätestatud põhiõigusi ja ohutusreegleid; on seisukohal, et selle hindamiseks, kas tehisintellektitehnoloogiaga kaasneb niisugune risk, tuleks hinnata, millises sektoris ja millisel konkreetsel viisil või eesmärgil seda arendatakse, juurutatakse või kasutatakse ning kui tõsine on eeldatav kahju; esimest ja teist kriteeriumit (sektorit ning kasutusviisi või -eesmärki) tuleks hinnata kumulatiivselt;

15.

toonitab, et nende tehnoloogiate riskide hindamisel tuleks lähtuda kõrge riskitasemega sektorite ning kõrge riskitasemega kasutusviiside ja -eesmärkide ammendavast ja kumulatiivsest loendist; on kindlalt veendunud, et nende tehnoloogiate riskianalüüs peaks liidu piires olema sidus, eriti juhul, kui hinnatakse nii nende kooskõla tehisintellekti õigusraamistikuga kui ka kooskõla mis tahes muude kohaldatavate valdkondlike õigusaktidega;

16.

on seisukohal, et selline riskipõhine käsitlus tuleks kujundada nii, et olemasolevate vahendite abil võimalikult piirataks ettevõtjate ja eelkõige VKEde halduskoormust; nimetatud vahendid hõlmavad muu hulgas määruses (EL) 2016/679 sätestatud isikuandmete kaitsele avaldatava mõju hindamise loendit;

Ohutusstandardid, läbipaistvus ja aruandekohustus

17.

tuletab meelde, et tarbijate õigus saada teavet on üks liidu õiguse peamisi põhimõtteid, mistõttu seda tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia puhul täielikult rakendada; on seisukohal, et see peaks eelkõige hõlmama läbipaistvust – läbipaistvust seoses tehisintellektisüsteemidega, sealhulgas automatiseerimisprotsessidega ilmneva koostoimega ning seoses nende süsteemide toimimisviisi, võimete (näiteks teabe filtreerimise ja esitamise viisi), täpsuse ja piirangutega; on seisukohal, et selline teave tuleks esitada riiklikele järelevalveasutustele ja tarbijakaitseasutustele;

18.

rõhutab, et tarbijate usaldus on hädavajalik siin käsitletavate tehnoloogiate väljatöötamiseks ja rakendamiseks, kuna nendega võivad kaasneda olemuslikud riskid, kui need põhinevad läbipaistmatutel algoritmidel ja kallutatud andmekogumitel; on seisukohal, et tarbijatel peaks olema õigus saada arusaadaval, õigeaegsel, standarditud, täpsel ja kättesaadaval viisil piisavat teavet algoritmiliste süsteemide olemasolust, põhjendustest, võimalikest tulemustest ja mõjust tarbijatele, sellest, kuidas jõuda otsustusõigusega inimeseni ning kuidas süsteemi otsuseid saaks kontrollida, sisuliselt vaidlustada ja parandada; sellega seoses toonitab vajadust silmas pidada ja järgida teavitamise ja avalikustamise põhimõtteid, millele tarbijakaitseõigustik tugineb; peab vajalikuks anda lõppkasutajatele üksikasjalikku teavet transpordisüsteemide ja tehisintellektitoega sõidukite toimimise kohta;

19.

märgib, kui oluline on, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutatavad või nende toodetud algoritmid ja andmekogumid oleksid selgitatavad ning avalikele asutustele, näiteks riiklikele järelevalveasutustele ja turujärelevalveasutustele kättesaadavad (kättesaadavad vaid vältimatu vajaduse korral ning andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi reguleerivaid liidu õigusakte täielikult järgides); märgib lisaks, et võimalikest kõige rangemate ja kohaldatavate valdkondlike standardite kohaselt peaksid dokumentatsiooni säilitama suure riskiga tehnoloogiate arendamise eri etappides osalejad; viitab võimalusele, et turujärelevalveasutustele antakse sellega seoses täiendavaid õigusi; rõhutab sellega seoses seadusliku pöördprojekteerimise tähtsust; on seisukohal, et võibolla tuleb kehtivad turujärelevalvet käsitlevad õigusaktid läbi vaadata, et tagada nende eetiline vastavus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia esilekerkimisele;

20.

märgib, et kui riskianalüüsist nii järeldub, peaksid suure riskiga tehnoloogia arendajad ja juurutajad esitama avaliku sektori asutustele kõnealuse tehnoloogia kasutamist ja kavandamist käsitlevad dokumendid ja ohutusjuhendid, sealhulgas (kui see on vältimatult vajalik ja täielikult kooskõlas andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi käsitlevate liidu õigusaktidega) süsteemis kasutatava lähtekoodi, arendusvahendid ja andmed, märgib, et selline kohustus võimaldaks hinnata, kuidas nad järgivad liidu õigust ja eetikapõhimõtteid, ning võtab sellega seoses eeskujuks väljaannete seaduspärase talletamise rahvusraamatukogus; rõhutab, kui oluline on eristada algoritmide läbipaistvust ja algoritmide kasutamise läbipaistvust;

21.

märgib lisaks, et inimväärikuse, autonoomia ja ohutuse huvides tuleks piisavalt tähtsustada elutähtsaid ja kõrgtehnoloogilisi meditsiiniseadmeid ning vajadust, et sõltumatud ja usaldusväärsed asutused säilitaksid neid seadmeid kandvate isikute teenindamiseks vajalikud vahendid juhuks, kui algne arendaja või juurutaja neid enam ei teeninda; sellised teenused oleksid näiteks toimimisvigade ja ohtude kõrvaldamiseks vajalik hooldus, remont ja täiustused, sh tarkvarauuendused;

22.

väidab, et suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavat või sellega toodetavat tarkvara, algoritme ja andmeid sõltumata sellest, mis valdkonnas neid arendatakse, juurutatakse või kasutatakse, tuleks lõimitult arendada turvalisel, jälgitaval, tehniliselt kindlal, usaldusväärsel, eetilisel ja õiguslikult siduval viisil ning allutada sõltumatule kontrollile ja järelevalvele; on eelkõige seisukohal, et kõik tehisintellekti toodete ja teenuste arendus- ja tarneahelates osalejad peaksid olema õiguslikult vastutavad, ning rõhutab vastutust ja aruandekohustust tagavate mehhanismide vajalikkust;

23.

toonitab, et selgitatavust, auditeeritavust, jälgitavust ja läbipaistvust käsitlev määrus ja suunised ning (kui seda nõuab riskianalüüs, kui see on vältimatult vajalik ja toimub täies kooskõlas liidu õigusega, näiteks andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi käsitleva õigusega) avaliku sektori asutuste juurdepääs sellise tehnoloogia aluseks olevale tehnoloogiale, andmetele ja andmetöötlussüsteemidele on väga tähtis, et tagada kodanike usaldus nende tehnoloogiate vastu, isegi kui selgitatavuse määr on pöördvõrdelises seoses tehnoloogiate keerukusega; juhib tähelepanu sellele, et vahel (näiteks nn musta kasti algoritmide korral) ei ole võimalik selgitada, miks mingi mudel on viinud teatava tulemuse või otsuseni; on seepärast seisukohal, et siin käsitletud põhimõtete järgimine on vastutuse tagamise eeltingimus;

24.

on seisukohal, et kui kodanikud suhtlevad süsteemiga, milles tehisintellekti toel eelkõige toode või teenus kasutaja jaoks isikupärastatakse, tuleb neile teatada, kas ja kuidas nad saavad sellist isikupärastamist välistada või piirata;

25.

sellega seoses märgib, et tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat saab usaldada siis, kui see on tehniliselt kindel ja täpne;

26.

rõhutab, et ühendatud tehisintellekti ja robotitehnoloogia võrkude kaitse on tähtis ning tuleb võtta jõulisi meetmeid, et vältida turvarikkumisi, andmelekkeid, andmete rikkumist (data poisoning) küberrünnakuid ja isikuandmete väärkasutamist ning selleks peavad asjaomased asutused, organid ja institutsioonid nii Euroopa kui ka riikide tasandil tegema koostööd omavahel ja nende tehnoloogiate lõppkasutajatega; kutsub komisjoni ja liikmesriike üles tagama, et liidu digitaalse taristu turvalisuse ja vastupidavuse tagamiseks järgitaks tehisintellektitehnoloogia arendamisel ja juurutamisel alati liidu väärtusi ja austataks põhiõigusi;

Kallutatuse vältimine ja mittediskrimineerimine

27.

tuletab meelde, et sõltuvalt tehisintellekti arendamise ja kasutamise viisist võib see põhjustada ja süvendada kallutatust, sealhulgas alusandmekogumitele olemuslikult omase kallutatuse tõttu, ning seetõttu põhjustada mitmesugust automaatset diskrimineerimist, muu hulgas eelkõige sarnaste omadustega inimrühmade kaudset diskrimineerimist; kutsub komisjoni ja liikmesriike üles igal võimalikul moel sellist kallutatust vältima ja tagama põhiõiguste täieliku kaitse;

28.

väljendab muret selle pärast, et suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatava või sellega toodetava tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel valitseb kallutatuse ja diskrimineerimise oht; tuletab meelde, et kõigil juhtudel tuleb järgida liidu õigust, austada inimõigusi ja üksikisiku inimväärikust, autonoomiat ja enesemääramisõigust ning tagada kõigile võrdne kohtlemine ja mittediskrimineerimine;

29.

rõhutab, et tehisintellektitehnoloogiad tuleks kavandada nii, et need järgiksid, teeniksid ja kaitseksid liidu väärtusi ning inimeste füüsilist ja vaimset puutumatust, toetaksid liidu kultuurilist ja keelelist mitmekesisust ning aitaksid rahuldada põhivajadusi; rõhutab vajadust vältida iga sellist kasutamist, mis võiks viia lubamatu otsese või kaudse sunnini, kahjustada psühholoogilist autonoomiat ja vaimset tervist või tuua kaasa põhjendamatu jälgimise, pettuse või lubamatu manipuleerimise;

30.

on kindlalt veendunud, et hartas sätestatud põhilisi inimõigusi tuleb rangelt järgida, tagamaks, et kõnealused kujunemisjärgus tehnoloogiad ei tekita kaitsealaseid tühikuid;

31.

kinnitab, et tarkvara, algoritmide ja andmete võimalik kallutatus ja nende põhjustatav diskrimineerimine võib ilmselgelt üksikisikuid ja ühiskonda kahjustada, mistõttu tuleks soodustada seda tõkestavate strateegiate (nt kallutatust vähendavad andmekogud uurimis- ja arendustegevuses) väljatöötamist ja jagamist ning koostada andmetöötlust käsitlevad õigusnormid; on seisukohal, et teatavates olukordades võib selline käsitlus muuta tarkvara, algoritmid ja andmed kallutatuse ja diskrimineerimise tõkestamise vahendiks ning võrdseid õigusi ja positiivseid ühiskondlikke muutusi toetavaks jõuks;

32.

väidab, et selliste tehnoloogiate aluseks peaksid olema õigluse, täpsuse, konfidentsiaalsuse ja läbipaistvuse eetilised väärtused, mis selles kontekstis tähendab, et süsteemide käitamine ei tohiks tekitada kallutatud väljundeid;

33.

toonitab, kontekstist sõltuvalt, tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavate andmekogumite kvaliteedi ja eelkõige treenimisandmete representatiivsuse tähtsust andmekogumite ja algoritmide kallutatuse vähendamise, kasutatavate algoritmide ning andme- ja agregeerimisstandardite seisukohalt; rõhutab, et kõnealused andmekogumid peaksid olema vastava taotluse korral igal ajal riiklike järelevalveasutuste poolt auditeeritavad, et tagada nende vastavus eelnimetatud põhimõtetele;

34.

rõhutab, et ulatusliku väärinfosõja raames, mida peavad eelkõige Euroopa-välised osalejad, võivad tehisintellektitehnoloogiad avaldada eetiliselt kahjulikku mõju, kui kasutatakse ära andmete ja algoritmide kallutatust või muudetakse teadlikult kolmanda riigi treenimisandmeid, ning neid võidakse ka muul ohtlikul ja kuritahtlikul moel ettenähtamatul viisil ja ettearvamatute tagajärgedega manipuleerida; seetõttu on liidul järjest enam vaja jätkuvalt investeerida teadusuuringutesse, analüüsi, innovatsiooni ning piiriülesesse ja valdkondadevahelisse teadmussiirdesse, et arendada tehisintellekti tehnoloogiaid, milles selgelt puuduks mis tahes profiilianalüüs, kallutatus ja diskrimineerimine ning mis võiksid aidata võltsuudiseid ja väärinfot tulemuslikult tõkestada, järgides seejuures isikuandmete puutumatuse ja Euroopa õigusraamistiku nõudeid;

35.

tuletab meelde, kui tähtis on tagada üksikisikutele mõjusate õiguskaitsevahendite kättesaadavus, ning kutsub liikmesriike üles tagama kättesaadavad, taskukohased, sõltumatud ja tulemuslikud menetlused ja läbivaatamismehhanismid, tagamaks et inimene vaatab erapooletult läbi kõik kaebused, mis puudutavad kodanike õiguste, näiteks tarbija- või kodanikuõiguste rikkumist algoritmipõhiste süsteemide kasutamise tõttu kas avaliku või erasektori osalejate poolt; rõhutab, kui tähtis on Euroopa Parlamendi ja nõukogu direktiivi eelnõu (selle osas jõuti 22. juunil 2020 poliitilisele kokkuleppele), mis käsitleb tarbijate kollektiivsete huvide kaitsmise esindushagisid ja millega tunnistatakse kehtetuks direktiiv 2009/22/EÜ, selliste tulevaste juhtude jaoks, mil vaidlustatakse tarbijate õiguste rikkumisi põhjustada võiva tehisintellektisüsteemi kasutuselevõtmine või jätkuv kasutamine või nõutakse õiguste rikkumise heastamist; palub komisjonil ja liikmesriikidel tagada, et riikide ja liidu tasandi tarbijaorganisatsioonidel oleks piisavalt rahalisi vahendeid, et aidata tarbijatel kasutada oma õigust õiguskaitsele juhtudel, kus nende õigusi on rikutud;

36.

on seepärast seisukohal, et igal füüsilisel või juriidilisel isikul peaks olema võimalik taotleda hüvitist talle kahjuliku ja liidu või liikmesriigi õigusega vastuolus oleva otsuse eest, mille on teinud tehisintellekt, robotitehnoloogia või seonduv tehnoloogia;

37.

on seisukohal, et juhul, kui siinses kontekstis kahtlustatakse liidu õigusraamistiku rikkumist, siis võiks selle raamistiku tulemusliku jõustamise tagamiseks võimaldada tarbijatel hüvitise taotlemiseks kõigepealt pöörduda ka riiklike järelevalveasutuste poole;

Sotsiaalne vastutus ja sooline tasakaal

38.

toonitab, et sotsiaalselt vastutustundlikul tehisintellektil, robotitehnoloogial ja seonduval tehnoloogial on oma osa ka lahenduste leidmisel, mis kaitsevad ja edendavad meie ühiskonna selliseid põhiõigusi ja väärtusi nagu demokraatia, õigusriik, mitmekesine ja sõltumatu meedia ning objektiivne ja vabalt kättesaadav teave, tervis ja jõukus, võrdsed võimalused, töötajate ja sotsiaalsed õigused, kvaliteetne haridus, lastekaitse, kultuuriline ja keeleline mitmekesisus, sooline tasakaal, digikirjaoskus, innovatsioon ja loovus; tuletab meelde vajadust tagada kõigi kodanike, ka tõrjutute või kaitsetus olukorras olijate, näiteks puuetega inimeste huvide piisav arvessevõtmine ja esindatus;

39.

rõhutab, kui oluline on saavutada üldise digikirjaoskuse kõrge tase, koolitada selle valdkonna kvalifitseeritud spetsialiste ning tagada kogu liidu piires selliste kvalifikatsioonide vastastikune tunnustamine; rõhutab vajadust arendajatest ja inseneridest koosnevate mitmekesiste meeskondade järele, kes töötavad koos peamiste ühiskondlike osalejatega, et vältida sooliste ja kultuuriliste eelarvamuste tahtmatut ülekandumist tehisintellekti algoritmidesse, süsteemidesse ja rakendustesse; toetab õppekavade loomist ja tegevusi üldsuse teadlikkuse suurendamiseks tehisintellekti ühiskondliku, õigusliku ja eetilise mõju kohta;

40.

rõhutab mõtte- ja väljendusvabaduse tagamise elulist tähtsust, kuna nendega tagatakse, et antud tehnoloogiatega ei edendata vihakõnet ega vägivalda, ning peab seega digitaalse väljendusvabaduse takistamist või piiramist liidu aluspõhimõtete kohaselt ebaseaduslikuks, välja arvatud juhul, kui seda põhiõigust kasutatakse ebaseaduslike tegude sooritamiseks;

41.

rõhutab, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia võivad aidata vähendada sotsiaalset ebavõrdsust, ning kinnitab, et nende arendamise Euroopa mudel peab põhinema kodanike usaldusel ja suuremal sotsiaalsel ühtekuuluvusel;

42.

rõhutab, et ühegi tehisintellektisüsteemi juurutamine ei tohiks asjatult piirata kasutajate juurdepääsu avalikele teenustele, näiteks sotsiaalkindlustusele; palub seetõttu komisjonil hinnata, kuidas seda eesmärki saavutada;

43.

rõhutab, kui oluline on vastutustundlik teadus- ja arendustegevus, mille eesmärk on maksimeerida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia täielikku potentsiaali kodanike ja üldsuse huvides; nõuab liidu ja liikmesriikide vahendite mobiliseerimist vastutustundliku innovatsiooni toetamiseks ja arendamiseks;

44.

rõhutab, et tehnoloogilised teadmised muutuvad üha olulisemaks ning seetõttu on vaja pidevalt ajakohastada koolituskursusi, eelkõige tulevaste põlvkondade jaoks, ning edendada juba tööturul olevate inimeste kutsealast ümberõpet; väidab sellega seoses, et innovatsiooni ja koolitust tuleb edendada lisaks erasektorile ka avalikus sektoris;

45.

rõhutab, et kõnealuste tehnoloogiate arendamine, juurutamine ja kasutamine ei tohiks mingil viisil kahjustada üksikisikuid, ühiskonda ega keskkonda ning et seetõttu tuleks nende arendajad, juurutajad ja kasutajad vastavalt kehtivatele liidu ja liikmesriikide vastutust käsitlevatele õigusnormidele sellise kahju tekitamise eest vastutusele võtta;

46.

kutsub liikmesriike üles hindama, kas nende tehnoloogiate kasutuselevõtust tulenev töökohtade kadumine peaks tingima asjakohast avalikku poliitikat, näiteks tööaja lühendamist;

47.

väidab, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia laialdase ühiskondliku aktsepteerimise jaoks tingimuste loomiseks on hädavajalik liidu väärtustest ja eetikapõhimõtetest lähtuv disainikäsitlus; on seisukohal, et selline usaldusväärse, eetiliselt vastutustundliku ja tehniliselt töökindla tehisintellekti arendamisele suunatud käsitlus võimaldab olulisel määral saavutada kestlikku ja arukat liikuvust, mis on ohutu ja kättesaadav;

48.

juhib tähelepanu autonoomsete sõidukite suurele lisaväärtusele piiratud liikumisvõimega isikute jaoks, kuna sellised sõidukid võimaldavad neil kui üksikisikutel osaleda tõhusamalt maanteeliikluses ja lihtsustavad seeläbi nende igapäevaelu; rõhutab kättesaadavuse tähtsust, eriti „liikuvus kui teenus“ (Mobility as a Service, MaaS) tüüpi süsteemide kavandamisel;

49.

kutsub komisjoni üles jätkuvalt toetama usaldusväärsete tehisintellektisüsteemide arendamist, et muuta transport ohutumaks, tõhusamaks, kättesaadavamaks, taskukohasemaks ja kaasavamaks, sealhulgas piiratud liikumisvõimega ja eelkõige puuetega inimeste jaoks, võttes arvesse Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/882 (13) ning reisijate õigusi käsitlevaid liidu õigusakte;

50.

on seisukohal, et tehisintellekt võib aidata paremini ära kasutada puuetega inimeste oskusi ja pädevusi ning et tehisintellekti rakendamine töökohtadel võib toetada kaasavat tööturgu ja puuetega inimeste kõrgemat tööhõivemäära;

Keskkond ja kestlikkus

51.

väidab, et valitsused ja ettevõtjad peaksid püüdma tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia abil inimestele ja meie planeedile kasu tuua ning aitama saavutada kestliku arengu, keskkonnakaitse, kliimaneutraalsuse ja ringmajanduse eesmärke; nende tehnoloogiate arendamine, juurutamine ja kasutamine peaks toetama rohepööret, aitama kaitsta keskkonda ning (kooskõlas liidu õigusega) minimeerida ja heastada nende olelusringi jooksul ja kogu tarneahela ulatuses keskkonnale tekitatavat kahju;

52.

nende tehnoloogiate suurt keskkonnamõju arvestades peaksid valdkondlikud asutused eelmise punkti kohaldamisel vajaduse korral hindama tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise mõju kogu olelusringi kestel; hindamine võiks hõlmata nende valmistamiseks vajaliku toorme tootmise ning nende arendamisest, juurutamisest ja kasutamisest tingitud energiakulu ja kasvuhoonegaaside heite hinnangulist mõju;

53.

teeb ettepaneku, et vastutustundlike ja kõige eesrindlikumate tehisintellektilahenduste väljatöötamiseks tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia potentsiaali uurida, stimuleerida ja maksimeerida vastutustundliku teadus- ja arendustegevusega, mis eeldab liidu ja liikmesriikide ressursside mobiliseerimist;

54.

juhib tähelepanu asjaolule, et nende tehnoloogiate arendamine, juurutamine ja kasutamine võimaldab edendada ÜRO kestliku arengu eesmärke, ülemaailmset energiapööret ja CO2-heite kaotamist;

55.

on seisukohal, et sotsiaalse vastutuse, soolise võrdõiguslikkuse, keskkonnakaitse ja kestlikkuse eesmärgid ei tohiks piirata nendes valdkondades praegu kehtivaid üldisi ja valdkondlikke kohustusi; on veendunud vajaduses kehtestada (eeskätt suure riskiga tehnoloogiate) arendajatele, juurutajatele ja kasutajatele mittesiduvad rakendamissuunised, milles võetaks arvesse meetodeid selle hindamiseks, kuidas nad käesoleva määruse nõudeid ja eesmärke täidavad;

56.

kutsub liitu üles edendama ja rahastama inimkeskse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, mis aitab lahendada keskkonna- ja kliimaprobleeme ning maksude, hangete või muude stiimulite abil tagada põhiõiguste austamise;

57.

rõhutab, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas automatiseeritud otsustusprotsesside ja masinõppe arendamine, juurutamine ja kasutamine tekitab praegusajal suure CO2-jalajälje, kuid edaspidi võivad need tehnoloogiad aidata IKT-sektori praegust CO2-jalajälge vähendada; rõhutab, et need ja muud nõuetekohaselt reguleeritud seonduvad tehnoloogiad peaksid olema otsustava tähtsusega rohelise kokkuleppe, ÜRO kestliku arengu eesmärkide ja Pariisi kokkuleppe eesmärkide saavutamisel paljudes eri sektorites ning peaksid suurendama keskkonnakaitsemeetmete mõju, nt jäätmetekke vähendamisel ja keskkonnaseisundi halvenemise pidurdamisel;

58.

kutsub komisjoni üles teostama uuringut, mis käsitleks tehisintellekti tehnoloogia CO2-jalajälje mõju ning tarbijate tehisintellektitehnoloogia kasutamisele ülemineku positiivseid ja negatiivseid tagajärgi;

59.

märgib, et arvutus-, salvestus- ja energiaressursse nõudvate tehisintellektirakenduste kiirenevat arengut arvestades tuleks hinnata tehisintellektisüsteemide keskkonnamõju kogu nende olelusringi kestel;

60.

on seisukohal, et sellistes valdkondades nagu tervishoid peab vastutus lasuma lõppkokkuvõttes füüsilisel või juriidilisel isikul; rõhutab, et algoritmide jaoks on vaja jälgitavaid ja avalikult kättesaadavaid koolitusandmeid;

61.

toetab kindlalt komisjoni teatises Euroopa andmestrateegia kohta kavandatud tervishoiu Euroopa andmeruumi loomist, mille eesmärk on edendada terviseandmete vahetamist ja toetada teadusuuringuid, mis järgivad täielikult andmekaitset, sealhulgas andmete töötlemist tehisintellekti tehnoloogia abil, ning mis tugevdab ja laiendab terviseandmete kasutamist ja taaskasutamist; ergutab, et laiendataks terviseandmete piiriülest vahetamist, nende andmete ühendamist ja kasutamist turvaliste liithoidlate kaudu, teatavat liiki terviseteabe vahetamist, nagu Euroopa tervisekaardid, genoomiline teave ja digitaalsed tervisepildid, et hõlbustada kogu liitu hõlmavaid koostalitlusvõimelisi registreid või andmebaase sellistes valdkondades nagu teadusuuringud, teadus ja tervishoid;

62.

tõstab esile tehisintellekti kasulikkust haiguste ennetamises, ravis ja tõrjes, mille näiteks on see, et tehisintellekt prognoosis COVID-19 epideemiat enne WHOd; nõuab tungivalt, et komisjon annaks Haiguste Ennetamise ja Tõrje Euroopa Keskusele piisava õigusraamistiku ja vahendid vajalike reaalajas anonüümitud ülemaailmsete terviseandmete kogumiseks sõltumatult ja koostöös liikmesriikidega, et tegeleda muude eesmärkide hulgas ka COVID-19 kriisi käigus ilmnenud probleemidega;

Eraelu puutumatus ja biomeetria

63.

märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisest, juurutamisest ja kasutamisest tulenevate andmete, sealhulgas selliste isikuandmete nagu biomeetriliste andmete tootmine ja kasutamine kasvab kiiresti, rõhutades seega vajadust austada kodanike õigust eraelu puutumatusele ja isikuandmete kaitsele ja tagada nende õiguste järgimine kooskõlas liidu õigusega;

64.

juhib tähelepanu, et selle tehnoloogia pakutav võimalus kasutada isiku- ja isikustamata andmeid, et inimesi kategoriseerida ja täpsemalt segmenteerida, teha kindlaks üksikisikute nõrkused või kasutada ära täpseid prognoosivaid teadmisi, peab olema tasakaalustatud selliste tegelikult tagatud andmekaitse ja eraelu puutumatuse põhimõtetega nagu võimalikult väheste andmete kogumine, õigus esitada vastuväiteid profiilianalüüsile ja oma andmete kasutamist kontrollida, õigus saada selgitust automaatsel andmetöötlusel põhineva otsuse kohta, lõimprivaatsus ning proportsionaalsuse, vajalikkuse ja täpselt määratletud eesmärgiga piirdumise põhimõtted kooskõlas isikuandmete kaitse üldmäärusega;

65.

rõhutab, et kui avaliku sektori asutused kasutavad kaugtuvastustehnoloogiaid, näiteks biomeetriliste tunnuste tuvastust, eelkõige näotuvastust, olulistes avalikes huvides, tuleks nende kasutamine alati avalikustada, see peaks olema proportsionaalne, sihipärane ja piirduma konkreetsete eesmärkidega, see peaks olema ajaliselt piiratud kooskõlas liidu õigusega ning võtma nõuetekohaselt arvesse inimväärikust ja autonoomiat ning hartas sätestatud põhiõigusi. Sellise kasutamise kriteeriumid ja piirangud peaksid alluma kohtulikule kontrollile ja demokraatlikule kontrollile ning võtma arvesse selle psühholoogilist ja sotsiaalkultuurilist mõju kodanikuühiskonnale;

66.

juhib tähelepanu sellele, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutuselevõtul avaliku võimu alaste otsuste raames on eeliseid, kuid see võib kaasa tuua tõsiseid väärkasutamisi, nagu massiline jälgimine, ennetav politseitöö ja nõuetekohaste menetlusõiguste rikkumine;

67.

on seisukohal, et tehnoloogiaid, mis võivad teha automatiseeritud otsuseid, asendades seega avaliku sektori asutuste otsused, tuleks käsitleda äärmiselt ettevaatlikult, eelkõige õiguse ja õiguskaitse valdkonnas;

68.

on veendunud, et liikmesriigid peaksid selliseid tehnoloogiaid kasutama üksnes juhul, kui on olemas põhjalikud tõendid nende usaldusväärsuse kohta ning võimalik on sisuline inimsekkumine ja läbivaatamine juhtudel, kui kaalul on põhivabadused, või seda tehakse süstemaatiliselt; rõhutab, kui oluline on, et riiklikud ametiasutused hindaksid sellistel juhtudel rangelt kasutatud tehisintellekti süsteemide põhiõigustele avalduvat mõju, eelkõige pärast seda, kui need tehnoloogiad on hinnatud suure riskiga tehnoloogiateks;

69.

on seisukohal, et kõikide avaliku võimu õiguste raames tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seoses tehtud otsuste suhtes tuleks kohaldada sisulist inimsekkumist ja nõuetekohast menetlust, eelkõige pärast seda, kui need tehnoloogiad on hinnatud suure riskiga tehnoloogiateks;

70.

on veendunud, et tehnoloogia areng ei tohiks viia tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamiseni nii, et nad võtavad iseseisvalt vastu avaliku sektori otsuseid, millel on otsene ja märkimisväärne mõju kodanike õigustele ja kohustustele;

71.

märgib, et õiguskaitse ja piirikontrolli valdkonnas võivad tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia suurendada avalikku turvalisust ja julgeolekut, kuid seejuures on vaja ulatuslikku ja ranget avalikku kontrolli ning võimalikult suurt läbipaistvust üksikute rakenduste riskihindamisel, aga ka üldist ülevaadet tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamisest õiguskaitse ja piirikontrolli valdkonnas; on seisukohal, et selliste tehnoloogiatega kaasnevad märkimisväärsed eetilised riskid, millega tuleb asjakohaselt tegeleda, võttes arvesse võimalikku negatiivset mõju üksikisikutele, eelkõige nende õigusele eraelu puutumatusele, isikuandmete kaitsele ja mittediskrimineerimisele; rõhutab, et nende väärkasutamine võib muutuda otseseks ohuks demokraatiale ning nende tehnoloogiate juurutamisel ja kasutamisel tuleb järgida proportsionaalsuse ja vajalikkuse põhimõtet, põhiõiguste hartat ning asjakohaseid liidu teiseseid õigusakte, näiteks andmekaitsereegleid; rõhutab, et kohtuotsuste tegemisel ei tohiks tehisintellekt kunagi asendada inimesi; on seisukohal, et selliste otsustega nagu kautsjoni vastu vabastamine või tingimisi vangistuse kohaldamine, mida arutatakse kohtus, või üksnes automatiseeritud töötlemisel põhinevate otsustega, millel on üksikisikute suhtes õiguslikud tagajärjed või mis neid märkimisväärselt mõjutavad, peab alati kaasnema inimesepoolne sisuline hindamine ja otsuse langetamine;

Hea juhtimistava

72.

rõhutab, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, eelkõige suure riskiga tehnoloogia arendamise, juurutamise ja kasutamise asjakohane juhtimine, sealhulgas selliste meetmete kehtestamine, mis keskenduvad aruandekohustusele ning võimaliku kallutatuse ja diskrimineerimise riskidega tegelemisele, võib suurendada kodanike ohutust ja usaldust selle tehnoloogia vastu;

73.

on seisukohal, et nende tehnoloogiate juhtimise ühine raamistik, mida koordineerivad komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus ja mida rakendavad iga liikmesriigi riiklikud järelevalveasutused, tagaks sidusa liidu lähenemisviisi ja hoiaks ära ühtse turu killustumise;

74.

märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamiseks kasutatakse suures mahus andmeid ning et selliste andmete töötlemist, jagamist, kättesaadavust ja kasutamist tuleb reguleerida vastavalt õigusaktidele ning nendes sätestatud kvaliteedi-, tervikluse-, koostalitlusvõime-, läbipaistvus-, turvalisus-, privaatsus- ja kontrollinõuetele;

75.

tuletab meelde, et juurdepääs andmetele on digitaalmajanduse kasvu oluline osa; juhib sellega seoses tähelepanu asjaolule, et andmete koostalitlusvõimel on seotuse mõju piiramise kaudu oluline roll õiglaste turutingimuste tagamisel ja võrdsete võimaluste edendamisel digitaalsel ühtsel turul;

76.

rõhutab vajadust tagada isikuandmete piisav kaitse, eelkõige vähekaitstud rühmi puudutava või neilt saadud andmete puhul, näiteks puuetega inimesed, patsiendid, lapsed, eakad, vähemused, rändajad ja muud tõrjutuse ohus olevad rühmad;

77.

märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine, juurutamine ja kasutamine avaliku sektori asutuste poolt on sageli antud allhanke korras eraõiguslikele isikutele; on seisukohal, et see ei tohiks mingil viisil kahjustada avalike väärtuste ja põhiõiguste kaitset; on seisukohal, et riigihangete tingimused peaksid vajaduse korral kajastama avaliku sektori asutustele kehtestatud eetikanorme;

Tarbijad ja siseturg

78.

rõhutab, kui oluline on kohaldada tehisintellekti reguleerivat raamistikku, kui liidu tarbijad kasutavad või nende suhtes kohaldatakse algoritmipõhist süsteemi, nad on algoritmipõhise süsteemi sihtrühmaks või suunatakse algoritmipõhise süsteemi poole, olenemata seda süsteemi arendavate, müüvate või kasutavate üksuste asukohast; on ühtlasi veendunud, et õiguskindluse huvides tuleks sellises raamistikus kehtestatud reegleid kohaldada kõigi arendajate suhtes ja kogu väärtusahela ulatuses, st asjaomase tehnoloogia ja selle komponentide arendamise, juurutamise ja kasutamise etapis, ning need peaksid tagama tarbijakaitse kõrge taseme;

79.

märgib tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete ning selliste valdkondade nagu asjade internet, tehniline masinõpe, reeglipõhised süsteemid või automatiseeritud ja abistatud otsuste tegemise protsessid, vahelist olemuslikku seost; märgib lisaks, et välja võiks töötada standardsed ikoonid, mis aitaksid tarbijatele selliseid süsteeme selgitada, kui need süsteemid on olemuselt keerukad või nende abil on võimalik teha otsuseid, millel on tarbijate elule suur mõju;

80.

tuletab meelde, et komisjon peaks analüüsima kehtivat õigusraamistikku ja selle kohaldamist, sealhulgas tarbijaõigustikku, tootevastutust käsitlevaid õigusakte, tooteohutust käsitlevaid õigusakte ja turujärelevalvet käsitlevaid õigusakte, et teha kindlaks õiguslikud lüngad, samuti kehtivaid regulatiivseid kohustusi; on seisukohal, et see on vajalik selleks, et teha kindlaks, kas see suudab reageerida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia esilekerkimisega seotud väljakutsetele ja tagada tarbijakaitse kõrge taseme;

81.

rõhutab vajadust tegeleda mõjusalt tehisintellektist, robotitehnoloogiast ja seonduvast tehnoloogiast tulenevate probleemidega ning tagada, et tarbijad omaksid mõjuvõimu ja oleksid nõuetekohaselt kaitstud; rõhutab vajadust vaadata kaugemale traditsioonilistest teavitamise ja avalikustamise põhimõtetest, millele tarbijakaitseõigustik on rajatud, kuna vaja on tugevamaid tarbijaõigusi ja selgeid piiranguid tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisele, juurutamisele ja kasutamisele, tagamaks et selline tehnoloogia aitab kaasa tarbijate elu paremaks muutmisele ja areneb viisil, mis austab põhi- ja tarbijaõigusi ning liidu väärtusi;

82.

juhib tähelepanu sellele, et otsusega nr 768/2008/EÜ (14) kehtestatud õigusraamistikuga kehtestatakse tootjatele, importijatele ja turustajatele ühtlustatud kohustuste loetelu, ergutatakse standardite kasutamist ja nähakse sõltuvalt toote ohtlikkusest ette mitu kontrollitasandit; on seisukohal, et seda raamistikku tuleks kohaldada ka toodete suhtes, millesse on sisse ehitatud tehisintellekt;

83.

märgib, et selleks, et analüüsida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia mõju tarbijatele, võiks juurdepääsu andmetele laiendada riiklikele pädevatele asutustele, järgides täielikult liidu õigust, näiteks andmekaitset, eraelu puutumatust ja ärisaladusi käsitlevat õigust; tuletab meelde, kui oluline on tarbijate harimine, et suurendada nende teadlikkust ja oskusi tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga ümberkäimisel, et kaitsta neid võimalike ohtude eest ja kaitsta nende õigusi;

84.

kutsub komisjoni üles tegema ettepanekuid andmete jälgitavuse meetmete kohta, pidades silmas nii andmete kogumise seaduslikkust kui ka tarbijaõiguste ja põhiõiguste kaitset, järgides samal ajal täielikult liidu õigust, näiteks andmekaitset, eraelu puutumatust, intellektuaalomandi õigusi ja ärisaladusi käsitlevat õigust;

85.

märgib, et need tehnoloogiad peaksid olema kasutajakesksed ja kavandatud viisil, mis võimaldab tehisintellektitooteid või -teenuseid kasutada igaühel, olenemata tema vanusest, soost, võimetest või omadustest; märgib, et eriti oluline on nendele juurdepääs puuetega inimestele; märgib, et ei tohiks olla kõigile ühtmoodi sobivat lähenemist ning nende puhul tuleks kaaluda universaaldisaini põhimõtteid, mis on suunatud võimalikult paljudele kasutajatele, järgides asjakohaseid juurdepääsetavusstandardeid; rõhutab, et see võimaldab üksikisikute võrdset juurdepääsu olemasolevale ja kujunemisjärgus arvutivahendatud inimtegevusele ja tugitehnoloogiale ning võimaldab neil selles aktiivselt osaleda;

86.

rõhutab, et kui tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel või kasutamisel on lisaks avatud hangetele ja avatud lepingustandarditele kasutatud märkimisväärselt ka avalikest allikatest pärit vahendeid, võiks kaaluda võimalust, et kood, genereeritud andmed (niivõrd kui need ei ole isiklikud) ja koolitatud mudel võiksid olla tehtud arendaja nõusolekul vaikimisi avalikuks, et tagada läbipaistvus, suurendada küberturvalisust ja võimaldada nende taaskasutamist, et edendada innovatsiooni; rõhutab, et sellisel viisil on võimalik ära kasutada ühtse turu kogu potentsiaal, vältides turu killustumist;

87.

on seisukohal, et tehisintellektil, robotitehnoloogial ja seonduval tehnoloogial on tohutu potentsiaal pakkuda tarbijatele võimalusi pääseda juurde mitmetele mugavustele oma elu paljudes aspektides koos paremate toodete ja teenustega ning saada kasu paremast turujärelevalvest, tingimusel et jätkuvalt kohaldatakse kõiki kohaldatavaid põhimõtteid, tingimusi (sh läbipaistvus ja auditeeritavus) ja reegleid;

Julgeolek ja kaitse

88.

rõhutab, et Euroopa Liidu ja selle liikmesriikide julgeoleku- ja kaitsepoliitika juhindub hartas ja Ühinenud Rahvaste Organisatsiooni põhikirjas sätestatud põhimõtetest ning universaalsete põhiväärtuste austamise ühisest käsitusest, mis puudutab inimeste puutumatuid ja võõrandamatuid õigusi, inimväärikust, vabadust, demokraatiat, võrdsust ja õigusriiki; rõhutab, et kõigis liidu raamistikus tehtavates kaitsealastes jõupingutustes tuleb neid universaalseid põhiväärtusi järgida, edendades samal ajal rahu, julgeolekut ja progressi Euroopas ja maailmas;

89.

väljendab heameelt selle üle, et Ühinenud Rahvaste Organisatsiooni teatavate tavarelvade konventsiooni kõrgete konventsiooniosaliste 2019. aasta kohtumisel kiideti heaks autonoomsete relvasüsteemide arendamise ja kasutamise 11 juhtpõhimõtet; peab siiski kahetsusväärseks, et ei ole suudetud kokku leppida autonoomseid surmavaid relvi reguleerivas õiguslikult siduvas õigusaktis koos tõhusa täitmise tagamise mehhanismiga; peab tervitatavaks ja toetab komisjoni kõrgetasemelise tehisintellekti eksperdirühma 9. aprillil 2019. aastal avaldatud aruannet usaldusväärse tehisintellekti eetikasuuniste kohta ja rühma seisukohta autonoomsete surmavate relvasüsteemide suhtes; nõuab tungivalt, et liikmesriigid töötaksid välja autonoomsete surmavate relvade määratlemise ja staatuse riiklikud strateegiad, eesmärgiga jõuda liidu tasandi tervikliku strateegiani, ning edendaksid koos liidu kõrge esindaja / komisjoni asepresidendiga ning nõukoguga arutelu autonoomsete, poolautonoomsete ja kaugjuhitavate relvade arendamise ja kasutamise eetilisi ja õiguslikke parameetreid käsitlevate rahvusvaheliste normide kehtestamise üle ÜRO tavarelvade konventsiooni raamistikus ja muudel asjakohastel foorumitel; tuletab sellega seoses meelde oma 12. septembri 2018. aasta resolutsiooni autonoomsete surmavate relvasüsteemide kohta ja nõuab veel kord, et kiiresti töötataks välja ja võetaks vastu ühine seisukoht autonoomsete surmavate relvasüsteemide kohta, eesmärgiga keelustada rahvusvahelisel tasandil kooskõlas maailma kõige silmapaistvamate tehisintellekti valdkonna teadlaste avaldusega nende 2015. aasta avalikus kirjas selliste autonoomsete surmavate relvasüsteemide arendamine, tootmine ja kasutamine, mis võimaldavad korraldada rünnakuid ilma tegeliku inimkontrollita; väljendab heameelt nõukogu ja parlamendi kokkuleppe üle jätta Euroopa Kaitsefondi rahastatud meetmetest välja autonoomsed surmavad relvad, „mille üle puudub sihtmärkide valimisel ja […] ründamise otsuse tegemisel tegelik inimkontroll“; on veendunud, et tähelepanuta ei tohi jätta muude kaitsevaldkonna tehisintellekti rakenduste, nagu luureteave, seire ja eelluure, või küberoperatsioonide eetilisi aspekte, ning erilise hoolega tuleb jälgida droonide arendamise ja juurutamise küsimusi sõjalistes operatsioonides;

90.

rõhutab, et kaitse- ja julgeoleku valdkonna kujunemisjärgus tehnoloogiat, mis ei ole rahvusvahelise õigusega hõlmatud, tuleks hinnata humaansuse põhimõtte ja üldkinnistunud arusaamade põhjal;

91.

soovitab, et mis tahes ELi raamistik, mis reguleerib tehisintellektil põhinevate süsteemide kasutust kaitsevaldkonnas – nii lahingu- kui ka muus olukorras – peab järgima kõiki kohaldatavaid õigusrežiime, eelkõige rahvusvahelist humanitaarõigust ja rahvusvahelist inimõigustealast õigust, ning olema kooskõlas liidu õiguse, põhimõtete ja väärtustega, pidades silmas tehnilise ja julgeolekutaristu erinevusi liidus;

92.

tunnistab, et erinevalt kaitsetööstuslikust baasist võivad otsustava tähtsusega tehisintellekti uuendused pärineda väikestest liikmesriikidest, mistõttu peaks ÜJKP standardne lähenemisviis tagama, et väiksemaid liikmesriike ja VKEsid ei jäeta kõrvale; rõhutab, et ühised ELi tehisintellekti alased võimekused, mis vastavad liikmesriikide tegevuskontseptsioonidele, võivad ületada tehnilise lõhe, mis võib jätta välja riigid, kellel puuduvad asjakohane tehnoloogia, selle valdkonna eksperditeadmised või suutlikkus rakendada tehisintellekti süsteeme oma kaitseministeeriumis;

93.

on seisukohal, et liidu raamistikus nii praegu kui ka tulevikus toimuv julgeoleku- ja kaitsealane tegevus tugineb tehisintellektile, robotitehnoloogiale ja autonoomiale ning seonduvale tehnoloogiale ning et töökindel, vastupidav ja usaldusväärne tehisintellekt võib anda panuse kaasaegsele ja tõhusale sõjaväele; liit peab seetõttu võtma julgeoleku- ja kaitsevaldkonna tehisintellekti süsteemide teadus- ja arendustegevuses juhtiva rolli; on veendunud, et tehisintellektil põhinevate rakenduste kasutamine julgeoleku- ja kaitsevaldkonnas võib sõjaliste operatsioonide juhtidele pakkuda mitmeid otseseid eeliseid, näiteks kvaliteetsemaid kogutud andmeid, suuremat olukorrateadlikkust, kiiremat otsuste tegemist, vähemat ohtu kaasneva kahju tekkimiseks tänu paremale kaabelühendusele, kohapealsete vägede kaitset ning sõjalise varustuse suuremat töökindlust; rõhutab, et usaldusväärse tehisintellekti arendamine kaitsevaldkonnas on hädavajalik, et tagada Euroopa strateegiline autonoomia sõjaliste võimete ja operatsioonide valdkonnas; tuletab meelde, et tehisintellekti süsteemid on muutumas põhielementideks ka uute julgeolekuohtude, näiteks kübersõja ja hübriidsõja vastu võitlemisel nii internetis kui ka väljaspool seda; rõhutab samal ajal kõiki ohte ja probleeme, mis kaasnevad tehisintellekti reguleerimata kasutamisega; märgib, et tehisintellekti suhtes võidakse kasutada manipuleerimist ning selles võivad esineda vead ja ebatäpsused;

94.

rõhutab, et tehisintellekti tehnoloogia on oma olemuselt kahese kasutusega ning tehisintellekti arendamisele kaitsealases tegevuses tuleb kasuks sõjalise ja tsiviiltehnoloogia vaheline koostoime; rõhutab, et kaitsealases tegevuses kasutatav tehisintellekt on valdkonnaülene murranguline tehnoloogia, mille arendamine võib pakkuda võimalusi ELi konkurentsivõime ja strateegilise autonoomia jaoks;

95.

tunnistab, et tänapäeva arenenud hübriidsõjas võib info maht ja levimiskiirus kriisi algetapis inimanalüütikutele üle jõu käia ning et tehisintellekti süsteem võiks teavet töödelda, tagamaks, et otsuseid tegevatel inimestel oleks kiireks reageerimiseks vajaliku aja vältel ülevaade kogu teabest;

96.

rõhutab, kui oluline on investeerida tehisintellekti jaoks vajalikku inimkapitali arengusse, edendada vajalikke oskusi ja haridust julgeoleku- ja kaitseotstarbelise tehisintellekti tehnoloogia valdkonnas, eelkõige seoses eetikaküsimustega inimlikul vastutusel põhinevate poolautonoomsete ja autonoomsete operatsioonisüsteemide vallas; rõhutab eelkõige, kui oluline on tagada, et selle valdkonna eetikaspetsialistidel oleksid asjakohased oskused ja et nad saaksid nõuetekohast koolitust; kutsub komisjoni üles esitama võimalikult kiiresti oma täiendatud oskuste tegevuskava, mis kuulutati välja 19. veebruari 2020. aasta tehisintellekti valges raamatus;

97.

rõhutab, et kvantandmetöötlus võib kujutada endast pärast tuumarelva konfliktiolukordades kõige revolutsioonilisemat muutust, ning nõuab seetõttu tungivalt, et kvantandmetöötluse tehnoloogia edasiarendamine oleks liidu ja liikmesriikide prioriteet; tõdeb, et agressiooniaktid, sealhulgas kvantandmetöötluse abil sooritatavad rünnakud elutähtsa taristu vastu tekitavad konfliktiolukorra, kus olemasolev otsustamisaeg väheneb päevadelt ja tundidelt minutitele ja sekunditele, mistõttu liikmesriigid on sunnitud välja töötama enda kaitsmiseks suutlikkuse ning koolitama nii poliitikakujundajaid kui sõjaväelasi sellistes ajalistes raamides tulemuslikult reageerima;

98.

nõuab investeeringute suurendamist Euroopa kaitseotstarbelisse tehisintellekti ja seda toetavasse elutähtsasse taristusse;

99.

tuletab meelde, et enamik maailma praegustest sõjalistest jõududest juba teeb tehisintellekti sõjalise mõõtme vallas märkimisväärseid teadus- ja arendustegevuse alaseid pingutusi; on seisukohal, et liit peab tagama, et ta ei jääks selles osas maha;

100.

palub komisjonil lõimida oma tööstuspoliitikasse suutlikkuse suurendamine küberturvalisuse valdkonnas, et tagada ohutute, vastupidavate ja tugevate tehisintellekti- ja robotitehnoloogiasüsteemide arendamine ja juurutamine; kutsub komisjoni üles uurima plokiahelal põhinevate küberturvalisuse protokollide ja rakenduste kasutamist, et parandada tehisintellekti taristute vastupidavust, usaldusväärsust ja stabiilsust andmete krüptimise vahenduseta mudelite kaudu; soovitab Euroopa sidusrühmadel uurida ja kavandada täiustatud elemente, mis aitaksid avastada mitteusaldusväärseid ja pahatahtlikke tehisintellekti- ja robotitehnoloogiasüsteeme, mis võivad kahjustada Euroopa Liidu ja kodanike julgeolekut;

101.

rõhutab, et kõikidel kaitsevaldkonna tehisintellekti süsteemidel peab olema konkreetne ja täpselt määratletud ülesande raamistik, kus inimestel säilitab võimalus tuvastada ja välja lülitada või desaktiveerida kasutuses olevaid süsteeme, kui need väljuvad oma ülesande raamistikus määratletud ja inimese korraldusel määratud kasutusalast või tegutsevad tahtmatult või olukorda pingestavalt; on seisukohal, et tehisintellektil põhinevad ja sõjaliseks kasutuseks mõeldud süsteemid, tooted ja tehnoloogia peaksid olema varustatud nn musta kastiga, mis registreerib kõik masina poolt tehtud andmetehingud;

102.

rõhutab, et tehisintellekti süsteemide projekteerimise, arendamise, juurutamise ja kasutamise otsuse eest peab täielikult vastutama inimene, kuna mis tahes relvasüsteemi üle peab toimuma sisuline inimese järelevalve ja kontroll, samuti peab inimese tahe jääma määravaks tehisintellektil põhineva relvasüsteemi otsuse puhul kasutada jõudu, millel võivad olla surmavad tagajärjed; rõhutab, et inimkontroll peaks kehtima tehisintellektil põhinevate süsteemide juhtimisel ja kontrollimisel ning järgima inimosaluse, inimsekkumise ja inimkontrolli põhimõtet sõjaväelise juhtkonna tasandil; rõhutab, et tehisintellektil põhinevad süsteemid peavad võimaldama sõjalisel juhtkonnal võtta täieliku vastutuse ja aruandekohustuse surmava jõu kasutamise eest, ning kui selliste süsteemide abil võetakse surmavaid või laiaulatuslikke hävitavaid meetmeid, siis hinnata olukorda ja võtta lähtuvalt eristamise, proportsionaalsuse ja ettevaatuse põhimõttest vastu otsus, mida ei saa usaldada masinale; toonitab vajadust luua selged ja jälgitavad loa- ja vastutusraamistikud arukate relvade ja muude tehisintellektil põhinevate süsteemide kasutuselevõtuks, kasutades kordumatuid kasutajatunnuseid, nagu biomeetrilised spetsifikatsioonid, et neid saaksid kasutusele võtta üksnes volitatud töötajad;

Transport

103.

rõhutab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamise potentsiaali kõigi autonoomsete maantee-, raudtee-, vee- ja lennutranspordi liikide puhul ning samuti ühelt transpordiliigilt teisele ülemineku ja ühendvedude edendamisel, kuna sellised tehnoloogiad võivad aidata leida kaupade ja reisijate veoks optimaalset transpordiliikide kombinatsiooni; rõhutab lisaks nende potentsiaali muuta transpordi-, logistika- ja liiklusvood tõhusamaks ning kõik transpordiliigid ohutumaks, arukamaks ja keskkonnasõbralikumaks; juhib tähelepanu sellele, et eetilist lähenemisviisi tehisintellektile võib näha ka varajase hoiatamise süsteemina, eelkõige seoses transpordi ohutuse ja tõhususega;

104.

rõhutab asjaolu, et ülemaailmne konkurents äriühingute ja majanduspiirkondade vahel kohustab liitu edendama investeeringuid ja tugevdama transpordisektoris tegutsevate äriühingute rahvusvahelist konkurentsivõimet, luues tehisintellekti lahenduste ja edasiste uuenduste arendamiseks ja rakendamiseks soodsa keskkonna, kus liidus asuvad ettevõtjad võivad saada tehisintellekti tehnoloogiate arendamisel maailmas juhtivaks jõuks;

105.

rõhutab, et liidu transpordisektoris on vaja ajakohastada õigusraamistikku, mis käsitleb selliseid kujunemisjärgus tehnoloogiaid ja nende kasutamist transpordisektoris, ning luua selge eetiline raamistik usaldusväärse tehisintellekti saavutamiseks, mis hõlmab ohutust, turvalisust, inimeste autonoomia austamist, järelevalvet ja vastutust käsitlevaid aspekte, ning et see suurendab kasu, mida jagavad kõik ja mis on esmatähtis, et suurendada investeeringuid, mida tehakse teadusuuringutesse ja innovatsiooni, oskuste arendamisse ja tehisintellekti juurutamisse avalike teenuste, VKEde, idufirmade ja ettevõtjate poolt, tagades samal ajal andmekaitse ja koostalitlusvõime, ilma et see tekitaks ettevõtjatele ja tarbijatele liigset halduskoormust;

106.

märgib, et tehisintellekti arendamine ja rakendamine transpordisektoris ei ole võimalik ilma kaasaegse taristuta, mis on intelligentsete transpordisüsteemide oluline osa; rõhutab, et liikmesriikide arengutaseme püsivad erinevused tekitavad ohu, et vähim arenenud piirkonnad ja nende elanikud jäävad autonoomse liikuvuse arendamisest saadavast kasust ilma; nõuab, et liidu transporditaristu ajakohastamist, sealhulgas selle integreerimist 5G võrku, rahastataks piisavalt;

107.

soovitab töötada välja kogu liitu hõlmavad usaldusväärsed tehisintellekti standardid kõigi transpordiliikide, sealhulgas autotööstuse jaoks, ning tehisintellektil põhinevate sõidukite ja nendega seotud toodete ja teenuste katsetamiseks;

108.

märgib, et tehisintellektisüsteemid võivad aidata märkimisväärselt vähendada liiklussurmade arvu, näiteks reageerimisaja lühendamise ja õigusnormide parema järgimise kaudu; on siiski seisukohal, et autonoomsete sõidukite kasutamisega ei ole võimalik kaotada kõiki õnnetusi, ning rõhutab, et seetõttu muutub üha olulisemaks tehisintellekti otsuste selgitatavus, et põhjendada tehisintellekti otsuste puudusi ja soovimatuid tagajärgi;

Tööhõive, töötajate õigused, digioskused ja töökoht

109.

märgib, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia rakendamine töökohal võib soodustada kaasavamat tööturgu ning avaldada mõju töötervishoiule ja tööohutusele, samas kui seda saab kasutada ka töötajate töö jälgimiseks, hindamiseks, prognoosimiseks ja suunamiseks, millel on otsene ja kaudne mõju nende karjäärile; arvestades, et tehisintellektil peaks olema positiivne mõju töötingimustele ning see peaks juhinduma inimõiguste ning liidu põhiõiguste ja -väärtuste austamisest; arvestades, et tehisintellekt peaks olema inimkeskne, suurendama inimeste ja ühiskonna heaolu ning aitama kaasa õiglasele ja võrdsele üleminekule; sellistel tehnoloogiatel peaks seetõttu olema positiivne mõju töötingimustele, juhindudes inimõiguste ning liidu põhiõiguste ja -väärtuste austamisest;

110.

rõhutab, et töötajate ja nende esindajate oskusi tehisintellekti vallas tuleb arendada töökohal pakutava koolituse ja hariduse kaudu, et inimesed saaksid tehisintellekti lahenduste mõjust paremini aru; rõhutab, et kui tehisintellekti kasutatakse töölevõtmisel või muude personaliotsuste langetamisel, tuleks kandidaate ja töölisi sellest nõuetekohaselt ja kirjalikult teavitada, ja neile teatada, kuidas saab sellisel juhul automatiseeritud otsuse tühistamiseks taotleda selle läbivaatamist inimese poolt;

111.

rõhutab vajadust tagada, et tehisintellekti ja robotitehnoloogia arendamisest ja kasutamisest tulenev tootlikkuse kasv ei too kasu mitte ainult ettevõtte omanikele ja aktsionäridele, vaid ka ettevõtetele ja töötajatele paremate töö- ja tööhõivetingimuste, sealhulgas palkade, majanduskasvu ja arengu kaudu, ning teenib laiemas mõttes ka ühiskonna huve, eriti kui selline kasu saadakse töökohtade arvelt; kutsub liikmesriike üles hoolikalt uurima tehisintellekti võimalikku mõju tööturule ja sotsiaalkindlustussüsteemidele ning töötama välja strateegiad selle kohta, kuidas maksude ja sotsiaalmaksu reformimise ning muude meetmete abil tagada pikaajaline stabiilsus, juhul kui avaliku sektori tulud on väiksemad;

112.

rõhutab selle olulisust, et ettevõtted investeeriksid formaalsesse ja informaalsesse koolitusse ning elukestvasse õppesse, et toetada õiglast üleminekut digitaalmajandusele; rõhutab sellega seoses, et tehisintellekti kasutavatel ettevõtetel on kohustus pakkuda kõigile asjaomastele töötajatele piisavat ümber- ja täiendusõpet, et nad saaksid õppida kasutama digitaalseid vahendeid ning töötada koostöörobotite ja muude uute tehnoloogiatega ning kohaneda niimoodi tööturu muutuvate vajadustega ja säilitada oma töökoha;

113.

on seisukohal, et erilist tähelepanu tuleks pöörata uutele töövormidele, nagu juhu- ja platvormitöö, mis tulenevad uute tehnoloogiate rakendamisest; rõhutab, et tehisintellekti mõju tuleb arvesse võtta ka kaugtöö tingimuste reguleerimisel kogu liidus ning inimväärsete töö- ja töötingimuste tagamisel digitaalmajanduses; kutsub komisjoni üles konsulteerima selles küsimuses sotsiaalpartnerite, tehisintellekti arendajate, teadlaste ja muude sidusrühmadega;

114.

rõhutab, et tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia ei tohi mingil viisil mõjutada liikmesriikides ja liidu tasandil tunnustatud põhiõiguste kasutamist, sealhulgas streigiõigust ja -vabadust ning õigust võtta kooskõlas siseriikliku õiguse ja/või tavaga muid aktsioone, mis kuuluvad liikmesriigi konkreetsesse töösuhete süsteemi, ega mõjutada õigust pidada läbirääkimisi, sõlmida kollektiivlepinguid ja tagada nende täitmine või teha kooskõlas riikliku õiguse ja/või tavaga kollektiivseid aktsioone;

115.

kordab hariduse ja pidevõppe tähtsust, et arendada digitaalajastul vajalikke ametioskusi ja võidelda digitaalse tõrjutuse vastu; kutsub liikmesriike üles investeerima kvaliteetsesse, reageerimisvõimelisesse ja kaasavasse haridusse, kutseõppesse ja elukestva õppe süsteemidesse ning töötajate ümber- ja täiendusõppe poliitikasse sektorites, mida tehisintellekt võib tõsiselt mõjutada; rõhutab vajadust tagada praegustele ja tulevastele töötajatele vajalikud kirja-, arvutus- ja digitaaloskused, pädevus loodusteaduste, tehnoloogia, inseneriteaduste ja matemaatika (nn STEM valdkonna) vallas ning valdkonnaülesed pehmed oskused, nagu kriitiline mõtlemine, loovus ja ettevõtlikkus; rõhutab, et sellega seoses tuleb erilist tähelepanu pöörata ebasoodsas olukorras olevate rühmade kaasamisele;

116.

tuletab meelde, et töökohal kasutatavad tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia peavad universaaldisaini põhimõtetest lähtudes olema kõigile kättesaadavad;

Haridus ja kultuur

117.

rõhutab vajadust töötada välja kriteeriumid tehisintellekti arendamiseks, juurutamiseks ja kasutamiseks, pidades silmas nende mõju haridus-, meedia-, noorte-, teadus-, spordi- ning kultuuri- ja loomesektorile, töötades neis valdkondades välja tehisintellekti tehnoloogia sihttasemed ja määrates kindlaks selle eetiliselt vastutustundliku ja aktsepteeritud kasutamise põhimõtted, mida saab nendes valdkondades nõuetekohaselt rakendada, sealhulgas selge vastutuskorra, mis kehtib tehisintellekti kasutamisest saadud toodete puhul;

118.

märgib, et igal lapsel on õigus kvaliteetsele avalikule haridusele kõikidel haridusastmetel; nõuab seetõttu selliste kvaliteetsete tehisintellekti süsteemide arendamist, juurutamist ja kasutamist, mis hõlbustaksid ja pakuksid kvaliteetseid haridusvahendeid kõikidel astmetel, ning rõhutab, et uute tehisintellekti süsteemide juurutamine koolides ei tohiks tekitada ühiskonnas suuremat digilõhet; tunnistab, et tehisintellekti ja robotitehnoloogia panus haridusse võib olla tohutult suur; märgib, et tehisintellektipõhised isikustatud õppesüsteemid ei tohiks asendada haridussuhteid, millesse on kaasatud õpetajad, ning et traditsioonilisi haridusvorme ei tohiks kõrvale jätta, juhtides samal ajal tähelepanu sellele, et õpetajatele, kes soovivad omandada asjakohaseid oskusi tehnoloogiliste muutustega kohanemiseks ning mitte ainult tehisintellekti potentsiaali ärakasutamiseks, vaid ka selle piirangute mõistmiseks, tuleb pakkuda rahalist, tehnoloogilist ja haridustoetust, sealhulgas erikoolitust info- ja kommunikatsioonitehnoloogia valdkonnas; nõuab, et liidu tasandil töötataks välja strateegia, mis aitaks muuta ja ajakohastada meie haridussüsteeme, valmistada ette kõigi tasemete haridusasutusi ning anda õpetajatele ja õpilastele vajalikud oskused ja võimed;

119.

rõhutab, et haridusasutused peaksid püüdma kasutada tehisintellekti süsteeme hariduslikel eesmärkidel, mis on saanud Euroopa eetilise vastavuse tunnistuse;

120.

rõhutab, et digiteerimise ja uute tehnoloogiatega pakutavad võimalused ei tohi põhjustada kultuuri- ja loomesektori töökohtade üldist kadumist, originaalide säilitamise hooletusse jätmist ega vähema tähelepanu pööramist kultuuripärandi traditsioonilisele kättesaadavusele, mida tuleks samavõrra soosida; märgib, et liidus välja töötatud, juurutatud ja kasutatavad tehisintellekti süsteemid peaksid kajastama liidu kultuurilist mitmekesisust ja mitmekeelsust;

121.

möönab tehisintellekti kasvavat potentsiaali teabe, meedia ja veebiplatvormide valdkonnas, sealhulgas vahendina desinformatsiooni vastu võitlemisel vastavalt liidu õigusele; rõhutab, et kui tehisintellekti ei reguleerita, siis võib sellel olla ka andmete ja algorütmide kallutatuse ärakasutamisest tulenev eetiliselt kahjulik mõju, mis väljendub desinformatsiooni levitamises ja infomullide loomises; rõhutab videojagamis- ja voogedastusplatvormide kasutatavate algoritmide läbipaistvuse ja usaldusväärsuse tähtsust, et tagada juurdepääs kultuuriliselt ja keeleliselt mitmekesisele sisule;

Riiklikud järelevalveasutused

122.

märgib, et lisaväärtust annab see, kui igas liikmesriigis on määratud riiklik järelevalveasutus, kes vastutab suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel õiguslike kohustuste ja eetikapõhimõtete järgimise tagamise, hindamise ja järelevalve eest, aidates nii kaasa nende tehnoloogiate õiguslikule ja eetilisele nõuetele vastavusele;

123.

on veendunud, et need asutused peavad oma ülesandeid dubleerimata tegema koostööd valdkondlike õigusaktide rakendamise eest vastutavate asutustega, et teha kindlaks eetilisest seisukohast suure riskiga tehnoloogiad ning teha järelevalvet nõutavate ja asjakohaste meetmete rakendamise üle, kui sellised tehnoloogiad on kindlaks määratud;

124.

märgib, et sellised asutused peaksid tegema koostööd mitte ainult omavahel, vaid ka komisjoni ja muude asjaomaste liidu institutsioonide, organite, ametite ja asutustega, et tagada ühtne piiriülene tegevus;

125.

teeb ettepaneku, et selles koostöös töötataks välja ühised kriteeriumid ja taotlemismenetlus eetikapõhimõtete järgimist kinnitava Euroopa tunnistuse väljastamiseks, sealhulgas juhuks, kui sellise tehnoloogia arendaja, juurutaja või kasutaja, mida ei peeta suure riskiga tehnoloogiaks, esitab taotluse tõendi saamiseks, et asjakohane riiklik järelevalveasutus on talle andnud positiivse hinnangu nõuetele vastavuse kohta;

126.

nõuab, et sellistele asutustele tehtaks ülesandeks edendada liidus innovatsiooni ja korrapärast teabevahetust kodanikuühiskonnaga, osutades abi teadlastele, arendajatele ja muudele asjaomastele sidusrühmadele ning digitaalselt veel mitte küpsetele ettevõtetele, eelkõige väikestele ja keskmise suurusega ettevõtjatele või idufirmadele; eelkõige seoses teadlikkuse suurendamise ning arendamise, juurutamise, koolituse ja talentide ligitõmbamise toetamisega, et tagada tõhus tehnosiire ning juurdepääs tehnoloogiale, projektidele, tulemustele ja võrgustikele;

127.

nõuab, et iga liikmesriik rahastaks oma määratud riiklikke järelevalveasutusi piisavalt, ning rõhutab vajadust suurendada riiklike turujärelevalveasutuste suutlikkust, oskusi ja pädevusi ning teadmisi tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia konkreetsete riskide kohta;

Koordineerimine liidu tasandil

128.

rõhutab, kui oluline on liidu tasandil koordineerimine, mida teevad komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus, et vältida killustatust ja tagada kogu liidus ühtlustatud lähenemisviis; on seisukohal, et koordineerimisel tuleks keskenduda iga liikmesriigi riiklike järelevalveasutuste volitustele ja meetmetele, nagu on osutatud eelmises alajaos, samuti parimate tavade jagamisele nende asutuste vahel ning selle valdkonna teadus- ja arendustegevuses tehtava koostöö soodustamisele kogu liidus; kutsub komisjoni üles hindama ja leidma kõige sobivamat lahendust sellise koordineerimise struktureerimiseks; näited olemasolevatest asjakohastest liidu institutsioonidest, organitest ja asutustest on ENISA, Euroopa andmekaitseinspektor ja Euroopa Ombudsman;

129.

on seisukohal, et selline koordineerimine ja eetikapõhimõtete järgimist kinnitav Euroopa tunnistus tooksid selles kontekstis kasu mitte ainult liidu tööstuse arengule ja innovatsioonile, vaid suurendaksid ka inimeste teadlikkust selle tehnoloogiaga kaasnevatest võimalustest ja riskidest;

130.

soovitab luua eksperdikeskuse, mis ühendaks liidu tasandil akadeemilisi ringkondi, teaduse ja tööstuse esindajaid ja üksikeksperte, et edendada teadmiste ja tehnilise oskusteabe vahetamist ning hõlbustada koostööd kogu liidus ja väljaspool; nõuab ka, et see eksperdikeskus hõlmaks sidusrühmade organisatsioone, näiteks tarbijakaitseorganisatsioonid, et tagada tarbijate laialdane esindatus; on seisukohal, et algoritmiliste süsteemide võimaliku ebaproportsionaalse mõju tõttu naistele ja vähemustele peaksid sellise struktuuri otsustustasandid olema mitmekesised ja tagama soolise võrdõiguslikkuse; rõhutab, et liikmesriigid peavad oma riiklike turujärelevalve strateegiate raames töötama tehisintellekti jaoks välja riskijuhtimisstrateegiad;

131.

teeb ettepaneku, et komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus annaks riiklikele järelevalveasutustele vajalikku abi seoses nende rolliga esmaste kontaktpunktidena juhul, kui kahtlustatakse liidu tehisintellekti reguleerivas raamistikus sätestatud õiguslike kohustuste ja eetiliste põhimõtete, sealhulgas mittediskrimineerimise põhimõtte rikkumist; samuti peaks ta andma mis tahes vajalikku abi riiklikele järelevalveasutustele juhtudel, kui viimased viivad läbi vastavushindamisi, et toetada kodanike õigust vaidlustada ja kasutada õiguskaitsevahendeid, toetades vajaduse korral konsulteerimist teiste liidu pädevate asutustega, eelkõige tarbijakaitsealase koostöö võrgustiku ja riiklike tarbijakaitseasutustega, kodanikuühiskonna organisatsioonide ja sotsiaalpartneritega, kes asuvad teistes liikmesriikides;

132.

tunnustab akadeemiliste ringkondade, kodanikuühiskonna ja tööstuse esindajatest ning Euroopa tehisintellekti liidust koosneva kõrgetasemelise tehisintellekti eksperdirühma väärtuslikke tulemusi, eelkõige usaldusväärse tehisintellekti eetikasuuniseid, ning soovitab, et töörühm võiks pakkuda eksperditeadmisi komisjonile ja/või mis tahes muule selleks määratavale asjaomasele liidu institutsioonile, organile, ametile või asutusele;

133.

märgib, et tehisintellektiga seotud projektid on kaasatud Euroopa kaitsevaldkonna tööstusliku arendamise programmi; on veendunud, et ka tulevane Euroopa Kaitsefond ja alaline struktureeritud koostöö (PESCO) võivad pakkuda tulevaste tehisintellektiga seotud projektide jaoks hästi kohandatud raamistikke, mis võiksid aidata liidu püüdlusi selles valdkonnas paremini ühtlustada, ning edendada samas liidu eesmärki tugevdada inimõigusi, rahvusvahelist õigust ja mitmepoolseid lahendusi; rõhutab, et tehisintellektiga seotud projektid tuleks sünkroniseerida ELi laiemate tehisintellekti käsitlevate tsiviilprogrammidega; märgib, et kooskõlas Euroopa Komisjoni 19. veebruari 2020. aasta valge raamatuga tehisintellekti kohta tuleks luua tipptaseme- ja katsekeskused, kus keskendutakse tehisintellektiga seotud uurimis- ja arendustegevusele julgeoleku ja kaitse valdkonnas, koos rangete spetsifikatsioonidega, mis toetavad erasektori sidusrühmade osalemist ja investeeringuid;

134.

võtab teadmiseks Euroopa Komisjoni 19. veebruari 2020. aasta valge raamatu tehisintellekti kohta ja peab kahetsusväärseks, et selles ei võetud arvesse sõjalisi aspekte; palub komisjonil ning liidu välisasjade ja julgeolekupoliitika kõrgel esindajal ja komisjoni asepresidendil esitada üldise lähenemisviisi osana valdkondlik tehisintellekti strateegia kaitsealase tegevuse jaoks liidu raamistikus, millega tagatakse nii kodanike õiguste kui ka liidu strateegiliste huvide austamine ning mis põhineb järjepideval lähenemisviisil, mis hõlmab nii tehisintellektil põhinevate süsteemide loomist kui ka nende sõjalist kasutust, ning luua tehisintellekti kõrgetasemelises eksperdirühmas julgeoleku ja kaitse töörühm, mis peaks tegelema konkreetselt tehisintellekti poliitika- ja investeerimisküsimustega ning käsitlema ka tehisintellekti eetilisi küsimusi julgeoleku ja kaitse valdkonnas; kutsub nõukogu, komisjoni ja komisjoni asepresidenti ning liidu välisasjade ja julgeolekupoliitika kõrget esindajat üles alustama sel eesmärgil struktureeritud dialoogi Euroopa Parlamendiga;

Eetikapõhimõtetele vastavust kinnitav Euroopa sertifikaat

135.

teeb ettepaneku, et selles koostöös töötataks välja ühised kriteeriumid ja taotlemismenetlus eetikapõhimõtetele vastavust kinnitava Euroopa sertifikaadi väljastamiseks, sealhulgas juhuks, kui sellise tehnoloogia arendaja, juurutaja või kasutaja, mida ei peeta suure riskiga tehnoloogiaks, esitab taotluse tõendi saamiseks, et asjakohane riiklik järelevalveasutus on talle andnud positiivse hinnangu nõuetele vastavuse kohta;

136.

on veendunud, et selline eetikapõhimõtetele vastavuse Euroopa sertifikaat edendaks sisseprojekteeritud eetilisust kogu tehisintellekti ökosüsteemide tarneahelas; soovitab seetõttu, et suure riskiga tehnoloogiate puhul võiks selline sertifitseerimine olla tehisintellekti, robotitehnoloogia ja sellega seotud tehnoloogiate riigihankemenetlustes osalemise kohustuslik eeltingimus;

Rahvusvaheline koostöö

137.

on seisukohal, et tulemuslikku piiriülest koostööd ja eetikanorme on võimalik saavutada vaid juhul, kui kõik sidusrühmad püüavad tagada inimtegevuse primaarsust ja järelevalvet, tehnilist ohutust ja töökindlust, läbipaistvust, vastutust, mitmekesisust, õiglust, mittediskrimineerimist ning sotsiaalset ja ökoloogilist heaolu ning järgivad eraelu puutumatuse, andmehalduse ja andmekaitse põhimõtteid, eelkõige neid, mis on sätestatud määruses (EL) 2016/679;

138.

rõhutab, et liidu õiguslikud kohustused ja eetikapõhimõtted nende tehnoloogiate arendamiseks, juurutamiseks ja kasutamiseks võivad asetada Euroopa maailmas tehisintellekti valdkonnas esikohale ning seetõttu tuleks neid edendada kogu maailmas, tehes koostööd rahvusvaheliste partneritega ning jätkates samal ajal kriitilist ja eetikal põhinevat dialoogi kolmandate riikidega, kellel on alternatiivsed tehisintellekti reguleerimise, arendamise ja juurutamise mudelid;

139.

tuletab meelde, et nende tehnoloogiatega seotud võimalustel ja riskidel on ülemaailmne mõõde, kuna nende kasutatavat tarkvara ja andmeid imporditakse sageli liitu ja eksporditakse sealt välja, ning seetõttu on rahvusvahelisel tasandil vaja järjepidevat koostööl põhinevat lähenemisviisi; kutsub komisjoni üles võtma initsiatiivi, et hinnata, milliseid kahe- ja mitmepoolseid lepinguid ja kokkuleppeid tuleks kohandada, et tagada järjekindel lähenemisviis ja edendada kogu maailmas eetikanõuetele vastavuse Euroopa mudelit;

140.

juhib sellega seoses ka tähelepanu eelnimetatud liidu tasandi koostöö lisandväärtusele;

141.

nõuab koostoime ja võrkude loomist eri Euroopa tehisintellekti valdkonna teaduskeskuste ning muude mitmepoolsete foorumitega, näiteks Euroopa Nõukogu, ÜRO Hariduse, Teaduse ja Kultuuri Organisatsiooni (UNESCO), Majanduskoostöö ja Arengu Organisatsiooni (OECD), Maailma Kaubandusorganisatsiooni ja Rahvusvahelise Telekommunikatsiooniliiduga (ITU), et kooskõlastada jõupingutused ja paremini koordineerida tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist;

142.

rõhutab, et liit peab ÜRO teatavate tavarelvade konventsiooni valitsuste eksperdirühma raamistikus ja muudel asjakohastel foorumitel juhtima mitmepoolsete pingutuste toetamist, et pidada arutelusid tõhusa rahvusvahelise õigusraamistiku üle, mis tagaks tegeliku inimkontrolli autonoomsete relvasüsteemide üle, et neid tehnoloogiaid edasi arendada, luues selleks selgelt määratletud võrdluspõhised protsessid ja võttes vastu õigusaktid nende eetiliseks kasutamiseks, ning pidada nõu sõjaväe, tööstuse, õiguskaitse, akadeemiliste ringkondade ja kodanikuühiskonna sidusrühmadega, et mõista nendega seotud eetilisi aspekte, piirata selliste tehnoloogiate olemuslikke riske ning ära hoida nende kasutamine kuritahtlikel eesmärkidel;

143.

tunnistab NATO rolli Euro-Atlandi piirkonna julgeoleku peamise edendajana ning nõuab NATO raames koostööd kaitseotstarbeliste tehisintellekti süsteemide ühiste standardite ja koostalitluse loomiseks; rõhutab, et Atlandi-ülesed suhted on tähtsad ühiste väärtuste säilitamiseks ning tulevaste ja tekkivate ohtude tõrjumiseks;

144.

rõhutab, et tähtis on koostada eetilise käitumise koodeks, mida tuleks järgida tehisintellektil põhinevate relvasüsteemide juurutamisel sõjalistes operatsioonides ja mis sarnaneks juba kehtivale reguleerivale raamistikule, mis keelab keemia- ja bioloogiliste relvade kasutuselevõtu; on seisukohal, et komisjon peaks kooskõlas rahvusvahelise humanitaarõigusega algatama tehisintellektipõhiste relvasüsteemide sõjategevuses kasutamise kohta standardite koostamise ning et EL peaks püüdma saavutada selliste standardite vastuvõtmise rahvusvahelisel tasandil; on seisukohal, et liit peaks rahvusvahelistel foorumitel ajama tehisintellekti alast diplomaatiat selliste temaga sarnastel seisukohtadel olevate partneritega nagu G7, G20 ja OECD;

Lõppmärkused

145.

järeldab pärast eespool nimetatud mõtteid tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetilise mõõtmega seotud aspektide kohta, et õiguslik ja eetiline mõõde tuleks sätestada mõjusas, tulevikku suunatud ja terviklikus liidu tasandi õigusraamistikus, mida toetavad liikmesriikide pädevad asutused ning mida koordineerib ja edendab komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus, keda korrapäraselt toetab eespool nimetatud eksperdikeskus, ning mida siseturul nõuetekohaselt austatakse ja sertifitseeritakse;

146.

palub kooskõlas ELi toimimise lepingu artiklis 225 sätestatud menetlusega, et komisjon esitaks ELi toimimise lepingu artikli ss114 alusel ja käesoleva ettepaneku lisas esitatud soovitustele põhinedes ettepaneku võtta vastu määrus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta; juhib tähelepanu sellele, et ettepanek ei tohiks õõnestada sektoripõhiseid õigusakte, vaid peaks hõlmama üksnes tuvastatud lünki;

147.

soovitab komisjonil pärast kõigi asjakohaste sidusrühmadega konsulteerimist vaadata vajaduse korral läbi kehtivad liidu õigusaktid, mida kohaldatakse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes, et reageerida nende kiirele arengule kooskõlas käesoleva ettepaneku lisas esitatud soovitustega, vältides ülereguleerimist, sealhulgas VKEde suhtes;

148.

on veendunud, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud liidu õigusraamistiku korrapärane hindamine ja vajaduse korral läbivaatamine on oluline, et tagada tehnoloogia arengu kiire tempo juures kohaldatavate õigusaktide ajakohasus;

149.

on seisukohal, et taotletud seadusandlikul ettepanekul oleks finantsmõju, kui mõnele Euroopa asutusele usaldataks eespool nimetatud koordineerimisülesanded ning kui sellele eraldataks vajalikud tehnilised vahendid ja inimressursid oma uute ülesannete täitmiseks;

o o

150.

teeb presidendile ülesandeks edastada käesolev resolutsioon ja lisas toodud üksikasjalikud soovitused komisjonile ja nõukogule.

(1) ELT L 252, 8.10.2018, lk 1.

(2) EÜT L 180, 19.7.2000, lk 22.

(3) EÜT L 303, 2.12.2000, lk 16.

(4) ELT L 119, 4.5.2016, lk 1.

(5) ELT L 119, 4.5.2016, lk 89.

(6) ELT L 123, 12.5.2016, lk 1.

(7) ELT C 252, 18.7.2018, lk 239.

(8) ELT C 307, 30.8.2018, lk 163.

(9) ELT C 433, 23.12.2019, lk 86.

(10) Vastuvõetud tekstid, P8_TA(2018)0332.

(11) Vastuvõetud tekstid, P8_TA(2019)0081.

(12) https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2020)654179

(13) Euroopa Parlamendi ja nõukogu 17. aprilli 2019. aasta direktiiv (EL) 2019/882 toodete ja teenuste ligipääsetavusnõuete kohta (ELT L 151, 7.6.2019, lk 70).

(14) Euroopa Parlamendi ja nõukogu 9. juuli 2008. aasta otsus nr 768/2008/EÜ toodete turustamise ühise raamistiku kohta ja millega tunnistatakse kehtetuks nõukogu otsus 93/465/EMÜ (ELT L 218, 13.8.2008, lk 82).

RESOLUTSIOONI LISA:

ÜKSIKASJALIKUD SOOVITUSED TAOTLETAVA ETTEPANEKU SISU KOHTA

A. TAOTLETAVA ETTEPANEKU PÕHIMÕTTED JA EESMÄRGID

Ettepaneku peamised põhimõtted ja eesmärgid on järgmised:

—	suurendada kõigil tasanditel kaasatud sidusrühmade ja ühiskonna usaldust tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia vastu, eriti kui neid peetakse suure riskiga tehnoloogiaks;

—

toetada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, sealhulgas aidates koormuse ja bürokraatia võimalikult ulatusliku vähendamisega ettevõtjatel, sealhulgas väikestel ja keskmise suurusega ettevõtjatel, ning idufirmadel kindlustundega hinnata ja käsitleda praegusi ja tulevasi regulatiivseid nõudeid ja riske innovatsiooni ja ettevõtluse arendamise protsessis ning sellele järgnevas etapis, kus neid kasutavad kutsealasel eesmärgil kasutajad ja eraisikud;

—

toetada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juurutamist, luues asjakohase ja proportsionaalse õigusraamistiku, mida tuleks kohaldada ilma, et see piiraks kehtivate ja tulevaste valdkondlike õigusaktide kohaldamist, ning mille eesmärk on suurendada õiguskindlust ja soodustada innovatsiooni ning tagada samal ajal põhiõigused ja tarbijakaitse;

—	toetada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamist, tagades, et neid arendatakse, juurutatakse ja kasutatakse eetikapõhimõtetele vastavalt;

—

nõuda läbipaistvust ja paremat teabevahetust kodanike hulgas ja organisatsioonides, kes tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat arendavad, juurutavad ja kasutavad, et tagada selle tehnoloogia vastavus liidu õigusele, põhiõigustele ja -väärtustele ning eetikapõhimõtetele, mis on sätestatud taotletavas määruse ettepanekus.

II.

Ettepanek koosneb järgmistest elementidest:

—	määrus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta;

—	komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse koordineeriv roll liidu tasandil ning eetikapõhimõtetele vastavust kinnitav Euroopa sertifitseerimissüsteem;

—	Euroopa Komisjoni toetav roll;

—	iga liikmesriigi järelevalveasutuse roll, mis seisneb tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia puhul eetikapõhimõtete kohaldamise tagamises;

—	asjakohaste teadus- ja arendusprojektide ning asjaomaste sidusrühmade, sealhulgas idufirmade, väikeste ja keskmise suurusega ettevõtjate, muude ettevõtjate, sotsiaalpartnerite ja muude kodanikuühiskonna esindajate kaasamine ja nendega konsulteerimine ning nende toetamine;

—	lisa, millega kehtestatakse suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide ammendav ja kumulatiivne loetelu.

III.

Määrus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta tugineb järgmistele põhimõtetele:

—	inimkeskne ning inimese loodud ja juhitav tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia;

—	suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kohustuslik vastavushindamine;

—	ohutus, läbipaistvus ja vastutus;

—	tagatised ja kaitsemeetmed kallutatuse ja diskrimineerimise vastu;

—	õigus õiguskaitsele;

—	tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud sotsiaalne vastutus ja sooline võrdõiguslikkus;

—	keskkonnasäästlik tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia;

—	eraelu puutumatuse austamine ja biomeetria kasutamise piirangud;

—	tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate andmetega, seotud hea juhtimistava.

IV.

Liidu tasandil koordineerimise tagamiseks peaks komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus täitma järgmisi põhiülesandeid:

—	tegema taotletava määruse ettepaneku ja asjakohaste valdkondlike liidu õigusaktide rakendamise järelevalve alast koostööd;

—

tegema koostööd suuniste esitamisel taotletava määruse ettepaneku ühetaoliseks kohaldamiseks, nimelt niisuguste kriteeriumide kohaldamiseks, mille alusel otsustatakse, et tegemist on suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga, ning koostatakse määruse lisas esitatud suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide loetelu;

—

tegema koostööd iga liikmesriigi järelevalveasutusega, et töötada välja taotletavas määruse ettepanekus ja asjakohases liidu õiguses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele vastavust kinnitav Euroopa sertifikaat ning töötada välja taotlusmenetlus mitte suureks peetava riskiga tehnoloogia arendajale, juurutajale ja kasutajale, kes soovib tõendada oma vastavust taotletavale määruse ettepanekule;

—

tegema koostööd valdkonnaülese ja piiriülese koostöö toetamisel, vahetades korrapäraselt teavet asjaomaste sidusrühmade ja kodanikuühiskonnaga ELis ja kogu maailmas, eelkõige ettevõtjate, sotsiaalpartnerite, teadlaste ja pädevate asutustega, muuhulgas rahvusvahelisel tasandil tehniliste standardite väljatöötamise kohta;

—	tegema koostööd iga liikmesriigi järelevalveasutusega, et kehtestada siduvad suunised meetodite kohta, mida iga järelevalveasutus peab vastavushindamise tegemisel järgima;

—	tegema koostööd iga liikmesriigi järelevalveasutusega suhtlemisel ning nende volituste ja ülesannete koordineerimisel;

—	tegema koostööd teadlikkuse suurendamisel, teabe jagamisel ning arendajate, juurutajate ja kasutajatega toimuvas teabevahetuses osalemisel kogu liidus;

—	tegema koostööd teadlikkuse suurendamisel, teabe jagamisel, digikirjaoskuse, -koolituse ja -oskuste edendamisel ning projekteerijate, arendajate, juurutajate, kodanike, kasutajate ja institutsiooniliste organitega toimuvas teabevahetuses osalemisel kogu liidus ja rahvusvahelisel tasandil;

—	tegema koostööd tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise juhtimise niisuguse ühise raamistiku koordineerimisel, mida peab hakkama rakendama iga liikmesriigi järelevalveasutus;

—	tegema koostööd eksperdikeskusena tegutsemisel, edendades teabevahetust ja toetades ühise arusaama kujundamist ühtsel turul;

—	tegema koostööd julgeoleku ja kaitse töörühmale töötingimuste tagamisel.

Lisaks peaks komisjon täitma järgmisi ülesandeid:

—	koostama delegeeritud õigusaktidega ühise loetelu suure riskiga tehnoloogiatest, mis tehakse liidus kindlaks koostöös iga liikmesriigi järelevalveasutusega, ning seda loetelu edaspidi ajakohastama;

—	ajakohastama määruse lisas esitatud loetelu delegeeritud õigusaktidega.

VI.

Iga liikmesriigi järelevalveasutus peaks täitma järgmisi põhiülesandeid:

—

aitama kaasa taotletavas määruse ettepanekus kehtestatud õigusraamistiku ühetaolisele kohaldamisele koostöös teiste liikmesriikide järelevalveasutustega ning muude ametiasutustega, kes vastutavad valdkondlike õigusaktide rakendamise eest, samuti komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutusega, pidades eelkõige silmas taotletavas määruse ettepanekus sätestatud riskihindamise kriteeriumide ning lisas esitatud suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide loetelu kohaldamist ning niisuguse kohaldamise tulemusel suure riskiga tehnoloogia kindlakstegemise korral vajalike ja asjakohaste meetmete rakendamise edasist järelevalvet;

—

hindama, kas liidus arendatavat, juurutatavat ja kasutatavat tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, tuleb pidada suure riskiga tehnoloogiaks vastavalt riskihindamise kriteeriumidele, mis on sätestatud taotletavas määruse ettepanekus ja selle lisas esitatud loetelus;

—

väljastama taotletavas määruse ettepanekus ja asjakohases liidu õiguses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele vastavust kinnitava Euroopa sertifikaadi, sealhulgas juhul, kui selleks kasutatakse taotlusmenetlust, mille komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus on välja töötanud mitte suureks peetava riskiga tehnoloogia arendaja, juurutaja või kasutaja jaoks, kes soovib tõendada oma vastavust taotletavale määruse ettepanekule;

—	hindama ja jälgima nende vastavust taotletavas määruse ettepanekus ja asjakohases liidu õiguses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele;

—

vastutama tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juhtimisstandardite kehtestamise ja rakendamise eest, ühtlasi suheldes ja pidades korrapärast dialoogi kõikide asjaomaste sidusrühmade ja kodanikuühiskonna esindajatega; tegema selleks liidu tasandil ühise raamistiku koordineerimise alast koostööd komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutusega;

—

suurendama teadlikkust, esitama üldsusele tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat käsitlevat teavet ning toetama asjakohastel kutsealadel, sealhulgas kohtusüsteemis, koolituse pakkumist, suurendades seeläbi kodanike ja töötajate mõjuvõimu õiglaseks üleminekuks vajalike digikirjaoskuse, -oskuste ja -vahenditega;

—

olema esimene kontaktpunkt, kellega võtta ühendust juhul, kui kahtlustatakse taotletavas määruse ettepanekus sätestatud juriidiliste kohustuste ja eetikapõhimõtete rikkumist, ning tegema sellisel juhul vastavushindamise; vastavushindamise tegemisel võib ta konsulteerida teiste liidu pädevate asutustega, eelkõige tarbijakaitsealase koostöö võrgustiku, riiklike tarbijakaitseorganite, kodanikuühiskonna organisatsioonide ja sotsiaalpartneritega, ja/või neid teavitada.

VII.	Sidusrühmade keskse tähtsusega ülesanne peaks olema teha koostööd komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse ning iga liikmesriigi järelevalveasutusega.

B. TAOTLETAVA SEADUSANDLIKU ETTEPANEKU TEKST

Ettepanek:

EUROOPA PARLAMENDI JA NÕUKOGU MÄÄRUS

tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta

EUROOPA PARLAMENT JA EUROOPA LIIDU NÕUKOGU,

võttes arvesse Euroopa Liidu toimimise lepingut, eriti selle artiklit 114,

võttes arvesse Euroopa Komisjoni ettepanekut,

olles edastanud seadusandliku akti eelnõu liikmesriikide parlamentidele,

võttes arvesse Euroopa Majandus- ja Sotsiaalkomitee arvamust,

toimides seadusandliku tavamenetluse kohaselt

ning arvestades järgmist:

(1)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamine, juurutamine ja kasutamine peaks põhinema soovil teenida ühiskonda. Sellise tehnoloogiaga võivad kaasneda võimalused ja riskid, mille käsitlemiseks ja reguleerimiseks tuleks liidu tasandil kehtestada terviklik õigusraamistik, milles võetakse arvesse eetikapõhimõtteid ning mida tuleb järgida alates sellest, kui sellist tehnoloogiat hakatakse arendama ja juurutama, kuni selle kasutamiseni.

(2)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete liidus arendamine, juurutamine ja kasutamine peaks olema kõikides liikmesriikides ühesugusel määral õigusraamistikule vastav, et kasutada tõhusalt ära sellise tehnoloogia võimalusi ja tegeleda järjepidevalt sellega seotud riskidega ning hoida ära õiguslikku killustatust. Tuleks tagada, et käesolevas määruses sätestatud reegleid kohaldatakse kogu liidus ühetaoliselt.

(3)

Sellega seoses kujutab kogu liidus järgitavate reeglite ja tavade praegune mitmekesisus endast märkimisväärset ühtse turu killustatuse riski ning ohustab märkimisväärselt nii üksikisikute kui ka ühiskonna heaolu ja jõukuse kaitset ning takistab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia innovatsiooni edendamise ning heaolu ja jõukuse säilitamise alase täieliku potentsiaali sidusat uurimist. Erinevused selles, kui suurel määral võtavad arendajad, juurutajad ja kasutajad sellele tehnoloogiale omast eetilist mõõdet arvesse, võivad takistada niisuguse tehnoloogia vaba arendamist, juurutamist ja kasutamist liidus ning sellised erinevused võivad takistada võrdsete tingimuste loomist, tehnoloogiliste edusammude tegemist ning majandustegevust liidu tasandil, moonutada konkurentsi ja takistada ametiasutusi täitmast oma liidu õigusest tulenevaid kohustusi. Lisaks loob tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtteid kajastava ühise õigusraamistiku puudumine kõigi osaliste, nimelt arendajate, juurutajate ja kasutajate jaoks õiguskindlusetuse.

(4)

Käesolev määrus peaks aga samaaegselt liidu tasandil sidusa lähenemisviisi saavutamisele kaasa aitamisega ja selles seatud piirangute raames jätma liikmesriikidele teatava rakendamisalase diskretsiooni, sealhulgas selle osas, kuidas nende asjaomased riiklikud järelevalveasutused peavad oma volitusi käesolevas määruses sätestatud eesmärki silmas pidades täitma.

(5)	Käesolev määrus ei piira kehtivate ega tulevaste valdkondlike õigusaktide kohaldamist. See peaks olema oma eesmärgiga proportsionaalne, et see ei takistaks liidus põhjendamatult innovatsiooni, ning olema kooskõlas riskipõhise lähenemisviisiga.

(6)

Sellise raamistiku geograafiline kohaldamisala peaks hõlmama kõiki tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia komponente kogu nende liidus arendamise, juurutamise ja kasutamise protsessis, sealhulgas juhul, kui osa tehnoloogiast võib asuda väljaspool liitu või kui sellel ei ole kindlat või ühte asukohta, näiteks pilvandmetöötluse teenuste puhul.

(7)

Liidus on vaja ühist arusaama sellistest mõistetest nagu tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia ning biomeetria, et võimaldada ühtset regulatiivset lähenemisviisi ja seeläbi õiguskindlust nii kodanikele kui ka äriühingutele. Need peaksid olema tehnoloogianeutraalsed ja need tuleks vajaduse korral läbi vaadata.

(8)

Lisaks tuleb arvesse võtta niisuguste tehisintellekti ja robotitehnoloogiaga seotud tehnoloogiate olemasolu, mis võimaldavad tarkvaral juhtida füüsilisi ja virtuaalseid protsesse ning mille autonoomia tase on erinev (1). Näiteks automatiseeritud sõidukijuhtimise puhul on ühingu SAE International standardiga J3016 ette nähtud kuus sõidukijuhtimise automatiseerimise taset.

(9)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel tuleks tagada inimvõimete täiendamine, mitte nende asendamine, ning seejuures ei tohi minna vastuollu kodanike parimate huvidega ja tuleb tagada vastavus liidu õigusele, Euroopa Liidu põhiõiguste hartas (edaspidi „harta“) sätestatud põhiõigustele, Euroopa Liidu Kohtu väljakujunenud kohtupraktikale ning muudele liidus kohaldatavatele ELi ja rahvusvahelistele õigusaktidele.

(10)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia enda tehtud või nendelt saadud teabe alusel tehtud otsuseid peaksid ka edaspidi sisuliselt läbi vaatama, hindama ja kontrollima ning nendesse sekkuma inimesed. Sellise tehnoloogia tehniline ja tegevuslik keerukus ei tohiks mingil juhul takistada selle juurutajat või kasutajat vähemalt käivitamast tõrkekindlat seiskamist, tehnoloogia toiminguid muutmast või peatamast või eelmist olekut taastamast, millega taastatakse turvalised funktsioonid, kui vastavus liidu õigusele ning käesolevas määruses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele on ohus.

(11)

Tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, mille arendamise, juurutamise ja kasutamisega kaasneb märkimisväärne risk tekitada üksikisikutele või ühiskonnale vigastusi või kahju, rikkudes liidu õiguses sätestatud põhiõigusi ja ohutusreegleid, tuleks liigitada suure riskiga tehnoloogiaks. Neile sellise hinnangu andmisel tuleks arvesse võtta sektorit, kus neid arendatakse, juurutatakse või kasutatakse, nende spetsiifilist kasutusala ja -eesmärki ning eeldatava vigastuse või kahju tõsidust. Tõsidusaste tuleks kindlaks määrata võimaliku vigastuse või kahju ulatuse, mõjutatud isikute arvu, tekitatud kahju koguväärtuse ja ühiskonnale tervikuna tekitatud kahju alusel. Raskeks kehavigastuseks või oluliseks kahjuks liigituvad näiteks laste, tarbijate ja töötajate õiguste rikkumised, mis oma ulatuse, mõjutatud laste, tarbijate või töötajate arvu või kogu ühiskonnale avalduva mõju tõttu kujutavad endast märkimisväärset liidu õiguses sätestatud põhiõiguste ja ohutusreeglite rikkumise ohtu. Käesolevas määruses tuleks esitada suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide ammendav ja kumulatiivne loetelu.

(12)

Käesolevas määruses sätestatud nõudeid, eelkõige neid, mis on seotud suure riskiga tehnoloogiaga, tuleks kohaldada üksnes tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes, mille arendamine, juurutamine või kasutamine toimub liidus ning mida käesolevas määruses sätestatud riskihindamise põhjal peetakse suure riskiga tehnoloogiaks. Selliseid nõudeid tuleb täita, ilma et see piiraks üldist nõuet, et mis tahes tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamine, juurutamine ja kasutamise peaks olema liidus inimkeskne ning põhinema inimeste autonoomia ja inimeste ohutuse põhimõttel kooskõlas liidu õigusega, austades täielikult põhiõigusi, nagu inimväärikus, õigus vabadusele ja turvalisusele ning õigus isikupuutumatusele.

(13)

Suure riskiga tehnoloogia puhul tuleks järgida ohutuse, läbipaistvuse, vastutuse, kallutamatuse ja mittediskrimineerimise, sotsiaalse vastutuse ja soolise võrdõiguslikkuse, õiguskaitse õiguse, keskkonnasäästlikkuse, eraelu puutumatuse ja hea juhtimistava põhimõtteid, võttes aluseks erapooletu, objektiivse ja välise riskihindamise, mille teeb riiklik järelevalveasutus vastavalt käesolevas määruses ja selle lisas esitatud loetelus sätestatud kriteeriumidele. Hindamisel tuleks arvesse võtta arendaja või juurutaja seisukohti ja enesehindamist.

(14)

Komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus peaks arendajatele, juurutajale ja kasutajatele koostama mittesiduvad rakendussuunised meetodite kohta, millega tagatakse vastavus käesolevale määrusele. Seda tehes peaksid nad konsulteerima asjaomaste sidusrühmadega.

(15)

Kõnealuse tehnoloogia riskihindamine peaks liidus olema sidus, eriti juhul, kui seda hinnatakse nii käesoleva määruse seisukohast kui ka kooskõlas mis tahes kohaldatavate valdkondlike õigusaktidega. Sellest tulenevalt peaksid riiklikud järelevalveasutused teavitama teisi asutusi, kes teevad riskihindamist kooskõlas valdkondlike õigusaktidega, sellest, kui kõnealusele tehnoloogiale antakse käesolevas määruses ette nähtud riskihindamisel suure riskiga tehnoloogia hinnang.

(16)

Selleks et suure riskiga tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, oleksid usaldusväärsed, tuleks niisugust tehnoloogiat arendada, juurutada ja kasutada ohutul, läbipaistval ja vastutustundlikul viisil kooskõlas selliste ohutusnõuetega nagu töökindlus, vastupanuvõime, turvalisus, täpsus ja vigade tuvastamine, selgitatavus, tõlgendatavus, kontrollitavus, läbipaistvus ja tuvastatavus ning viisil, mis võimaldab asjakohased funktsioonid välja lülitada või eelmise oleku taastada, millega taastatakse turvalised funktsioonid, kui neid nõudeid ei järgita. Läbipaistvus tuleks tagada seeläbi, et avaliku sektori asutustele antakse juhul, kui see on tingimata vajalik, juurdepääs sellise tehnoloogia aluseks olevatele tehnoloogia-, andme- ja andmetöötlussüsteemidele.

(17)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, eriti suure riskiga tehnoloogia arendajad, juurutajad ja kasutajad vastutavad ohutuse, läbipaistvuse ja vastutuse põhimõtete järgimise eest erineval määral vastavalt nende seotusele asjakohase tehnoloogiaga, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmetega. Arendajad peaksid tagama, et asjakohane tehnoloogia projekteeritakse ja ehitatakse vastavalt käesolevas määruses sätestatud ohutusnõuetele ning juurutajad ja kasutajad peaksid selle tehnoloogia juurutamisel ja kasutamisel neid nõudeid täielikult järgima. Selleks peaksid suure riskiga tehnoloogia arendajad hindama ja prognoosima väärkasutuse riske, mida nende arendatava tehnoloogia puhul võib põhjendatult eeldada. Samuti peavad nad tagama, et nende arendatavad süsteemid annavad võimaluste piires ja asjakohaste vahendite, näiteks vastutuse välistamise teadete kaudu märku vigade või ebatäpsuste tõenäosusest.

(18)

Arendajad ja juurutajad peaksid tegema kasutajatele kättesaadavaks kõik asjakohase tehnoloogia hilisemad, eelkõige tarkvaraga seotud, uuendused, nagu on sätestatud lepingus või liidu või riigi õiguses. Kui riskihindamine seda näitab, peaksid arendajad ja juurutajad esitama avaliku sektori asutustele kõnealuse tehnoloogia kasutamist käsitlevad asjakohased dokumendid ja sellega seotud ohutusjuhised, sealhulgas süsteemis kasutatava lähtekoodi, arendusvahendid ja andmed, kui see on tingimata vajalik ja täielikus kooskõlas andmekaitset, eraelu puutumatust ja intellektuaalomandi õigusi ning ärisaladusi käsitlevate liidu õigusaktidega.

(19)

Üksikisikutel on õigus eeldada, et nende kasutatav tehnoloogia toimib mõistlikul viisil ja väärib nende usaldust. Kodanike usaldus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete vastu sõltub tehniliste protsesside mõistmisest ja neist arusaamisest. Selliste protsesside selgitatavuse tase peaks sõltuma protsesside kontekstist ning ekslike või ebatäpsete väljundite tagajärgede tõsidusest ning peab olema piisav nende vaidlustamiseks ja õiguskaitse taotlemiseks. Kontrollitavus, jälgitavus ja läbipaistvus peaksid vähendama sellise tehnoloogia võimalikku mittemõistetavust.

(20)

Ühiskonna usaldus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete vastu sõltub sellest, kuivõrd on asjakohase tehnoloogia puhul võimalik neid hinnata, kontrollida ja jälgida. Kui arendajate osalemise ulatuse tõttu on see vajalik, peaksid nad tagama, et selline tehnoloogia projekteeritakse ja ehitatakse viisil, mis võimaldab sellist hinnatavust, kontrollitavust ja jälgitavust. Kui see on tehniliselt võimalik, peaksid arendajad, juurutajad ja kasutajad tagama, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juurutamisel ja kasutamisel järgitakse täielikult läbipaistvusnõudeid ning võimaldatakse kontrollitavust ja jälgitavust.

(21)

Läbipaistvuse ja vastutuse tagamiseks tuleks kodanikke teavitada sellest, kui süsteemis kasutatakse tehisintellekti, kui tehisintellekti süsteemid isikustavad kasutaja jaoks toodet või teenust, kas nad saavad isikustamise välja lülitada või seda piirata ning kui nad puutuvad kokku automatiseeritud otsuste tegemise tehnoloogiaga. Lisaks tuleks läbipaistvusmeetmeteid tehniliste võimaluste piires täiendada selgete ja arusaadavate selgitustega kasutatud andmete ja algoritmi, selle kasutuseesmärgi, väljundi ja võimalike ohtude kohta.

(22)

Tarkvara, algoritmide ja andmete kallutatus ja nende kaudu toimuv diskrimineerimine on ebaseaduslik ning selle vältimiseks tuleks reguleerida nende projekteerimise ja juurutamise protsesse. Kallutatus võib tuleneda nii automatiseeritud süsteemilt saadud teabel põhinevatest või niisuguse süsteemi tehtud otsustest, samuti andmekogumitest, millel niisuguste otsuste tegemine põhineb või millega süsteemi treenitud on.

(23)

Tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavaid või nendega toodetavaid tarkvara, algoritme ja andmeid tuleks pidada kallutatuks näiteks siis, kui nende kasutamisel ei saada mõne isiku või isikute rühma puhul optimaalseid tulemusi tingituna üksikisiku või ühiskonna eelarvamuslikust suhtumisest ja nende omadusi käsitlevate andmete hilisemast töötlemisest.

(24)

Liidu õiguse kohaselt tuleks tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavaid või nendega toodetavaid tarkvara, algoritme ja andmeid pidada diskrimineerivaks, kui need loovad väljundeid, millel on ebaproportsionaalne kahjulik mõju ja millega kaasneb mõne isiku või isikute rühma teistest erinev kohtlemine, sealhulgas nende teistega võrreldes halvemasse olukorda seadmine nende isikuomadustega seotud põhjustel – seda objektiivselt või mõistlikult põhjendamata ja tehnoloogia väidetavast neutraalsusest hoolimata.

(25)

Kooskõlas liidu õigusega on õiguspärased eesmärgid, mida võib käesoleva määruse alusel pidada isikute või nende rühmade erinevat kohtlemist objektiivselt põhjendatavateks eesmärkideks, järgmised: avaliku julgeoleku ja turvalisuse ning rahvatervise kaitse, kuritegevuse ennetamine, põhiõiguste ja -vabaduste kaitse, õiglane esindatus ja objektiivsed nõuded kutsealal töötamiseks.

(26)

Tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, peaksid aitama teha kestlikke edusamme. Niisugune tehnoloogia ei tohiks olla vastuolus keskkonnakaitse ega rohelisele majandusele ülemineku eesmärkidega. Sellel võib olla oluline roll ÜRO kestliku arengu eesmärkide saavutamisel, et võimaldada tulevastele põlvkondadele õitsengut. Sellise tehnoloogiaga võidakse toetada piisavate edusammude jälgimist, võttes aluseks kestlikkuse ja sotsiaalse ühtekuuluvuse näitajad ning kasutades vastutustundlikke teadus- ja innovatsioonivahendeid, milleks on vaja liidu ja liikmesriikide eraldatavaid vahendeid, et toetada projekte, millega nende eesmärkide poole püüeldakse, ja neisse investeerida.

(27)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel ei tohiks mingil juhul tekitada üksikisikutele ega ühiskonnale tahtlikult mis tahes vigastust või kahju ega sellega sisseprojekteeritult leppida. Seetõttu tuleks suure riskiga tehnoloogiat arendada, juurutada ja kasutada sotsiaalselt vastutustundlikult.

(28)

Seetõttu tuleks arendajaid, juurutajaid ja kasutajaid pidada üksikisikutele ja ühiskonnale tekitatud mis tahes vigastuse või kahju eest vastutavaks vastavalt sellele, kuivõrd nad on tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisse, juurutamisse ja kasutamisse kaasatud, ning kooskõlas liidu ja riikide vastutusreeglitega.

(29)

Eelkõige arendajaid, kes teevad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise käiku ja viisi määravaid ja kontrollivaid otsuseid, ning juurutajaid, kes on nende juurutamisse kaasatud, tehes juurutamist käsitlevaid otsuseid ning kontrollides sellega seotud riske või saades juurutamisest kasu, ning täidavad juhtimis- või haldusülesandeid, tuleks üldiselt pidada vastutavaks mis tahes vigastuse või kahju tekitamise ärahoidmise eest, milleks nad peavad arendamisprotsessis kehtestama meetmed, mida nad peavad juurutamisetapis ka üksikasjalikult järgima.

(30)

Sotsiaalselt vastutustundlikku tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, võib määratleda tehnoloogiana, mis aitab leida lahendusi, millega kaitstakse ja edendatakse ühiskonda puudutavaid eri eesmärke, eelkõige eesmärke, mis on seotud demokraatia, tervishoiu ja majandusliku jõukuse, võrdsete võimaluste, töötajate ja sotsiaalsete õiguste, mitmekesise ja sõltumatu meedia ning avalikku arutelu võimaldava objektiivse ja vabalt kättesaadava teabe, kvaliteetse hariduse, kultuurilise ja keelelise mitmekesisuse, soolise tasakaalu, digikirjaoskuse, innovatsiooni ja loovusega. Siia hulka kuulub ka tehnoloogia, mille arendamisel, juurutamisel ja kasutamisel võetakse nõuetekohaselt arvesse selle lõplikku mõju kodanike füüsilisele ja vaimsele heaolule ning millega ei õhutata vaenu ega vägivalda. Need eesmärgid tuleks saavutada eelkõige suure riskiga tehnoloogia abil.

(31)

Tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat tuleks arendada, juurutada ja kasutada ka selleks, et toetada sotsiaalset kaasatust, demokraatiat, pluralismi, solidaarsust, õiglust, võrdsust ja koostööd, ning nende sellealast potentsiaali tuleks teadus- ja innovatsiooniprojektide kaudu võimalikult palju suurendada ja uurida. Seetõttu peaksid liit ja selle liikmesriigid võtma selliste projektide toetamiseks ja nendesse investeerimiseks kasutusele oma kommunikatsiooni-, haldus- ja rahalised vahendid.

(32)	Projekte, mis on seotud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia potentsiaaliga tegeleda sotsiaalse heaolu küsimusega, tuleks ellu viia vastutustundlike teadus- ja innovatsioonivahenditega, et tagada nende projektide puhul algusest peale eetikapõhimõtetele vastavus.

(33)

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel ja kasutamisel tuleks arvesse võtta nende keskkonnajalajälge. Kooskõlas kohaldatavas liidu õiguses kehtestatud kohustustega ei tohiks niisugune tehnoloogia tekitada oma olelusringi jooksul ega kogu oma tarneahelas keskkonnale kahju ning seda tuleks arendada, juurutada ja kasutada nii, et sellega hoitakse keskkonda, leevendatakse ja korvatakse selle keskkonnajalajälge, aidatakse kaasa rohelisele majandusele üleminekule ning toetatakse kliimaneutraalsuse ja ringmajanduse eesmärkide saavutamist.

(34)

Käesoleva määruse kohaldamisel tuleks arendajaid, juurutajaid ja kasutajaid pidada keskkonnale tekitatud mis tahes kahju eest vastutavaks vastavalt sellele, kuivõrd nad on suure riskiga tehnoloogiaks peetava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisse, juurutamisse ja kasutamisse kaasatud, ning kooskõlas kohaldatavate keskkonnavastutuse reeglitega.

(35)

Sellist tehnoloogiat tuleks arendada, juurutada ja kasutada ka selleks, et toetada kooskõlas kohaldatavas liidu õiguses kehtestatud kohustustega selliste keskkonnaeesmärkide saavutamist nagu jäätmetekke ja CO2 jalajälje vähendamine, kliimamuutuste vastu võitlemine ja keskkonnakaitse, ning selle potentsiaali tuleks selles valdkonnas teadus- ja innovatsiooniprojektide kaudu võimalikult palju suurendada ja uurida. Seetõttu peaksid liit ja liikmesriigid võtma selliste projektide toetamiseks ja nendesse investeerimiseks kasutusele oma kommunikatsiooni-, haldus- ja rahalised vahendid.

(36)	Projekte, mis on seotud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia potentsiaaliga lahendada keskkonnaprobleeme, tuleks ellu viia vastutustundlike teadus- ja innovatsioonivahenditega, et tagada nende projektide puhul algusest peale eetikapõhimõtetele vastavus.

(37)

Liidus arendatava, juurutatava ja kasutatava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete puhul tuleks täielikult austada liidu kodanike õigust eraelu puutumatusele ja isikuandmete kaitsele. Eelkõige peaks selle arendamine, juurutamine ja kasutamine olema kooskõlas Euroopa Parlamendi ja nõukogu määrusega (EL) 2016/679 (2) ning Euroopa Parlamendi ja nõukogu direktiiviga 2002/58/EÜ (3).

(38)

Eelkõige tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete kasutamise eetilisi piire nõuetekohaselt arvesse võtta siis, kui isikute automaatseks tuvastamiseks kasutatakse kaugtuvastustehnoloogiat, näiteks biomeetriliste tunnuste tuvastamist, eelkõige näotuvastust. Kui avaliku sektori asutused kasutavad niisugust tehnoloogiat olulise avaliku huviga seotud põhjustel, eelkõige isikute turvalisuse tagamiseks ja riikliku hädaolukorraga tegelemiseks, mitte vara turvalisuse tagamiseks, peaks niisugune kasutamine olema alati avalik, proportsionaalne ja sihipärane, piirduma erieesmärkidega ning olema ajaliselt piiratud ning seejuures tuleks järgida liidu õigust ja võtta nõuetekohaselt arvesse inimeste väärikust ja autonoomiat ning hartas sätestatud põhiõigusi. Sellise kasutamise kriteeriumid ja piirangud peaksid olema allutatud kohtulikule kontrollile ja demokraatlikule kontrollile ning neid tuleks arutada koos kodanikuühiskonnaga.

(39)

Asjakohastel standarditel põhinev juhtimine suurendab ohutust ning tekitab kodanikes suurema usalduse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamise, juurutamise ja kasutamise vastu.

(40)	Avaliku sektori asutused peaksid enne niisuguse suure riskiga tehnoloogia juurutamist, mis toetab avalikus sektoris tehtavaid otsuseid ning millel on otsene ja märkimisväärne mõju kodanike õigustele ja kohustustele, hindama selle mõju põhiõiguste seisukohast.

(41)

Olemasolevatest asjakohastest juhtimisstandarditest võib nimetada näiteks komisjoni moodustatud kõrgetasemelise tehisintellekti eksperdirühma koostatud eetikasuuniseid usaldusväärse tehisintellekti arendamiseks ning muid tehnilisi standardeid, näiteks neid, mille on Euroopa tasandil vastu võtnud Euroopa Standardikomitee (CEN), Euroopa Elektrotehnika Standardikomitee (CENELEC) ja Euroopa Telekommunikatsioonistandardite Instituut (ETSI) ning üleilmsel tasandil Rahvusvaheline Standardiorganisatsioon (ISO) ning Elektri- ja Elektroonikainseneride Instituut (IEEE).

(42)

Kui andmeid kasutavad ja jagavad mitu osalejat, on tegemist tundliku tegevusega, mistõttu tuleks tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist reguleerida asjakohaste reeglite, standardite ja protokollidega, milles võetakse arvesse kvaliteeti, terviklust, turvalisust, usaldusväärsust, eraelu puutumatust ja kontrolli käsitlevaid nõudeid. Andmehaldusstrateegias tuleks keskenduda selliste andmete töötlemisele, jagamisele ja kättesaadavusele, sh nende nõuetekohasele haldamisele, kontrollitavusele ja jälgitavusele, ning tagada piisav kaitse andmete puhul, mis puudutavad vähekaitstud rühmi, sealhulgas puuetega inimesi, patsiente, lapsi, alaealisi, vähemusi ja rändajaid ning muid tõrjutuse ohus olevaid rühmi. Lisaks peaks arendajatel, juurutajatel ja kasutajatel olema arendatava, juurutatava ja kasutatava tehnoloogia usaldusväärsuse suurendamiseks kasutatavate andmekogumite hindamisel võimalik tugineda vajaduse korral võtmetähtsusega tulemuslikkuse põhinäitajatele.

(43)

Liikmesriigid peaksid määrama järelevalveasutuseks sõltumatu haldusasutuse. Eelkõige peaks iga riiklik järelevalveasutus vastutama niisuguse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kindlakstegemise eest, mida peetakse käesolevas määruses sätestatud riskihindamiskriteeriumide alusel suure riskiga tehnoloogiaks, ning niisuguse tehnoloogia puhul käesolevas määruses sätestatud nõuetele vastavuse hindamise ja jälgimise eest.

(44)

Iga riiklik järelevalveasutus peaks kandma ka vastutust niisuguse tehnoloogia hea juhtimistava eest ning seda peaks koordineerima komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus. Sellest tulenevalt on neil oluline roll liidu kodanike usalduse ja turvalisuse suurendamisel ning demokraatliku, pluralistliku ja võrdõigusliku ühiskonna võimaldamisel.

(45)

Selleks et hinnata käesoleva määruse kohaselt suure riskiga tehnoloogiat ja jälgida selle vastavust käesolevale määrusele, peaksid riiklikud järelevalveasutused tegema vajaduse korral koostööd asutustega, kes vastutavad niisuguse tehnoloogia hindamise ja jälgimise ning valdkondlikele õigusaktidele vastavuse tagamise eest.

(46)

Riiklikud järelevalveasutused peaksid tegema sisulist ja korrapärast koostööd nii omavahel kui ka komisjoni ja muude asjaomaste liidu institutsioonide, organite, ametite ja asutustega, et tagada sidusad piiriülesed meetmed ning võimaldada liidus kõnealuse tehnoloogia järjepidevat arendamist, juurutamist ja kasutamist vastavalt käesolevas määruses sätestatud eetikapõhimõtetele ja juriidilistele kohustustele.

(47)

Sellise koostöö kontekstis ja selleks, et saavutada liidu tasandil täielik ühtlustamine, peaksid riiklikud järelevalveasutused abistama komisjoni suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia ühise ja ammendava loetelu koostamisel kooskõlas käesolevas määruses ja selle lisas sätestatud kriteeriumidega. Lisaks tuleks välja töötada eetikapõhimõtetele vastavust kinnitava Euroopa sertifikaadi väljastamise menetlus, sealhulgas vabatahtlik taotlusmenetlus mitte suureks peetava riskiga tehnoloogia arendaja, juurutaja või kasutaja jaoks, kes soovib tõendada oma vastavust käesolevale määrusele.

(48)

Riiklikud järelevalveasutused peaksid tagama võimalikult paljude sidusrühmade (tööstussektori esindajad, ettevõtjad, sotsiaalpartnerid, teadlased, tarbijad ja kodanikuühiskonna organisatsioonid) kokkutoomise ning looma pluralistliku foorumi aruteludeks ja arvamuste vahetuseks, et jõuda mõistetavate ja täpsete järeldusteni, millest juhinduda juhtimise reguleerimisel.

(49)

Riiklikud järelevalveasutused peaksid tagama võimalikult paljude sidusrühmade, näiteks tööstussektori esindajate, ettevõtjate, sotsiaalpartnerite, teadlaste, tarbijate ja kodanikuühiskonna organisatsioonide kaasamise ning looma aruteluks ja arvamuste vahetuseks pluralistliku foorumi, et soodustada koostööd sidusrühmadega, eriti akadeemilise ringkonna, teadus- ja tööstusvaldkonna ning kodanikuühiskonna esindajate ja üksikekspertidega, ning nende vahel, mille tulemusel saaks selle valdkonna juhtimise reguleerimise kohta suuniste andmiseks teha mõistetavaid ja täpseid järeldusi.

(50)

Peale selle peaksid riiklikud järelevalveasutused andma abi ja asjatundlikke haldussuuniseid arendajatele, juurutajatele ja kasutajatele, eelkõige väikestele ja keskmise suurusega ettevõtjatele ning idufirmadele, kellel on käesolevas määruses sätestatud eetikapõhimõtete ja juriidiliste kohustuste järgimisel raskusi.

(51)	Komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus peaks koostama mittesiduvad rakendussuunised meetodite kohta, mida riiklikud järelevalveasutused peavad vastavushindamisel kasutama.

(52)

Rikkumisest teatamine juhib ametiasutuste tähelepanu liidu õiguse võimalikule ja tegelikule rikkumisele ning aitab ära hoida vigastusi, kahju ja kahjustusi, mis muidu tekiksid. Ühtlasi aitavad teatamismenetlused parandada ettevõtte- ja organisatsioonisisest teabevoogu ning vähendada niimoodi puudustega ja vigaste toodete ja teenuste arendamise ohtu. Tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid andmeid, arendavad, juurutavad ja kasutavad ettevõtjad ja organisatsioonid, peaksid sisse seadma kanalid rikkumisest teatamiseks ning teatajaid tuleks kättemaksu eest kaitsta.

(53)

Ei ole võimalik prognoosida, kui kiiresti arenevad tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, ning arengu aluseks olevad tehniline masinõpe, arutlusprotsessid ja muu tehnoloogia. Seda arvestades on asjakohane ja vajalik kehtestada läbivaatamismehhanism, mille kohaselt peaks komisjon lisaks määruse kohaldamisest aru andmisele esitama korrapäraselt aruande, mis käsitleb käesoleva määruse kohaldamisala võimalikku muutmist.

(54)

Kuna käesoleva määruse eesmärki kehtestada liidus tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamist, juurutamist ja kasutamist reguleeriv ühine eetikapõhimõtete ja juriidiliste kohustuste raamistik ei suuda liikmesriigid piisavalt saavutada, küll aga saab seda selle ulatuse ja toime tõttu paremini saavutada liidu tasandil, võib liit võtta meetmeid kooskõlas Euroopa Liidu lepingu artiklis 5 sätestatud subsidiaarsuse põhimõttega. Kõnealuses artiklis sätestatud proportsionaalsuse põhimõtte kohaselt ei lähe käesolev määrus nimetatud eesmärgi saavutamiseks vajalikust kaugemale.

(55)

Käesolevas määruses sätestatud liidu tasandi koordineerimise ülesanne oleks kõige õigem anda komisjonile ja/või mis tahes selleks määratavale asjaomasele liidu institutsioonile, organile, ametile või asutusele, et vältida killustumist ja tagada käesoleva määruse järjepidev kohaldamine. Komisjonile tuleks seetõttu teha ülesandeks leida sobiv lahendus, kuidas koordineerimist liidu tasandil korraldada, st kuidas koordineerida igas liikmesriigis määratud riikliku järelevalveasutuse volitusi ja tegevust, mis puudutavad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia riskihindamist, sellise tehnoloogia arendamise, juurutamise ja kasutamise juhtimise reguleerimiseks ühise raamistiku kehtestamist, käesoleva määrusega kehtestatud eetikapõhimõtetele ja juriidilistele kohustustele vastavust kinnitava sertifikaadi väljatöötamist ja väljastamist, sidusrühmade ja kodanikuühiskonna esindajatega korrapärase arvamuste vahetuse toetamist ning liidu tasandil sellise eksperdikeskuse loomist, kuhu on koondunud akadeemilise ringkonna, teadus- ja tööstusvaldkonna esindajad ning üksikeksperdid ja mille eesmärk on soodustada teadmiste, sealhulgas tehniliste eriteadmiste vahetamist, liidu tegutsemisviisi edendamist rahvusvahelise koostöö kaudu ning selle tagamist, et kogu maailmas tegutsetaks seoses kõnealuse tehnoloogiaga kaasnevate võimaluste ja riskidega ühetaoliselt järjepidevalt,

ON VASTU VÕTNUD KÄESOLEVA MÄÄRUSE:

I peatükk

Üldsätted

Artikkel 1

Eesmärk

Käesoleva määruse eesmärk on kehtestada kõikehõlmav ja tulevikukindel liidu õigusraamistik, mis hõlmab eetikapõhimõtteid ja juriidilisi kohustusi, mida tuleb liidus täita tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel.

Artikkel 2

Kohaldamisala

Käesolevat määrust kohaldatakse liidus arendatava, juurutatava ja kasutatava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes.

Artikkel 3

Geograafiline kohaldamisala

Käesolevat määrust kohaldatakse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes, mille mingi osa on liidus arendatud, juurutatud või kasutusel, sõltumata sellest, kas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed asuvad väljaspool liitu või neil puudub kindel geograafiline asukoht.

Artikkel 4

Mõisted

Käesolevas määruses kasutatakse järgmisi mõisteid:

„tehisintellekt“ – tarkvarapõhine või riistvarasse integreeritud intelligentselt käituv süsteem, mis suudab muu hulgas oma tegutsemiskeskkonna kohta andmeid koguda ning neid töödelda, analüüsida ja tõlgendada ning sooritab teataval määral autonoomseid toiminguid, et saavutada konkreetseid eesmärke (4);

b)	„autonoomia“ – tehisintellektisüsteem, mis oma töös tõlgendab teatavat sisendit ja kasutab kindlaksmääratud juhiseid, samas nendega piirdumata, olgugi et süsteemi käitumist piiravad ja suunavad süsteemile seatud eesmärk ja muud arendaja poolt projekteerimise käigus tehtud valikud;

c)	„robotitehnoloogia“ – tehnoloogia, mille abil sooritavad automaatjuhitavad ümberprogrammeeritavad mitmeotstarbelised masinad (5) muu hulgas tehisintellekti või seonduvat tehnoloogiat kasutades füüsilises maailmas toiminguid, mida tavapäraselt on sooritanud või algatanud inimesed;

d)	„seonduv tehnoloogia“ – tehnoloogia, mille abil tarkvara juhib osaliselt või täiesti autonoomselt füüsilist või virtuaalset protsessi, ning biomeetrilisi, geneetilisi või muid andmeid tuvastav tehnoloogia ja inimestele omaseid tunnuseid jäljendav või muul viisil kasutav tehnoloogia;

„suur risk“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamisega kaasnev märkimisväärne risk tekitada üksikisikutele või ühiskonnale liidu õiguses sätestatud põhiõigusi ja ohutusreegleid rikkudes vigastusi või kahju, võttes arvesse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kindlat kasutusala ja -eesmärki, sektorit, kus neid arendatakse, juurutatakse või kasutatakse, ning tõenäoliselt tekkiva vigastuse või kahju tõsidust;

„arendamine“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia loomise või treenimise või olemasolevale tehisintellektile, robotitehnoloogiale ja seonduvale tehnoloogiale uue rakendusvõimaluse loomise eesmärgil algoritmide koostamine ja loomine, tarkvara kirjutamine ja kujundamine ning andmete kogumine, salvestamine ja haldamine;

g)	„arendaja“ – füüsiline või juriidiline isik, kes teeb tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise käiku ja viisi määravaid ja juhtivaid otsuseid;

h)	„juurutamine“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia käitamine ja haldamine, turulelaskmine ja muul viisil kasutajatele kättesaadavaks tegemine;

i)	„juurutaja“ – füüsiline või juriidiline isik, kes on kaasatud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia juurutamisse ning täidab seejuures juhtimis- või haldusülesandeid, s.o teeb otsuseid, kontrollib riske ja saab juurutamisest kasu;

j)	„kasutamine“ – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogiaga seotud mis tahes tegevus, mis ei ole arendamine ega juurutamine;

k)	„kasutaja“ – füüsiline või juriidiline isik, kes kasutab tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat muul kui arendamise ja juurutamise eesmärgil;

l)	„kallutatus“ – üksikisiku või ühiskonna eelarvamuslik suhtumine mõnda isikusse või isikute rühma tingituna selle isiku või isikute rühma isikuomadustest;

m)	„diskrimineerimine“ – mõne isiku või isikute rühma teistest erinev kohtlemine, mis ei ole objektiivselt ega mõistlikult põhjendatud ja on seetõttu liidu õigusega keelatud;

„vigastus või kahju“ – muu hulgas vaenu õhutamise, kallutatuse, diskrimineerimise või häbimärgistamise tagajärjel tekkinud füüsiline vigastus ja vaimse tervise kahjustus, varaline ja moraalne kahju, näiteks rahaline ja muu majanduslik kahju, töökoha kaotus ja õppimisvõimalustest ilma jäämine, valiku- ja väljendusvabaduse põhjendamatu piiramine, eraelu puutumatusest ilma jäämine, ning liidu õiguse rikkumine, mis tekitab teisele isikule kahju;

„hea juhtimistava“ – viis, millega tagatakse, et arendajad, juurutajad ja kasutajad kehtestavad asjakohased ja mõistlikud käitumisreeglid ja -protokollid, mis põhinevad ametlikel reeglitel, menetlustel ja väärtustel ning mida järgides saavad nad eetikaküsimusi asjakohaselt lahendada nende tekkimisel või enne seda.

Artikkel 5

Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes kohaldatavad eetikapõhimõtted

1. Tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse liidus kooskõlas liidu õigusega ning inimväärikust, autonoomiat ja ohutust ning teisi hartas sätestatud õigusi täielikult järgides.

2. Tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel, juurutamisel ja kasutamisel töödeldakse isikuandmeid, sealhulgas muude andmete ja biomeetriliste andmete põhjal saadud isikuandmeid, kooskõlas määrusega (EL) 2016/679 ja direktiiviga 2002/58/EÜ.

3. Liit ja selle liikmesriigid soodustavad uurimisprojekte, mille eesmärk on leida tehisintellektil, robotitehnoloogial ja seonduval tehnoloogial põhinevaid lahendusi, millega püütakse edendada sotsiaalset kaasamist, demokraatiat, pluralismi, solidaarsust, õiglust, võrdsust ja koostööd.

II peatükk

Suure riskiga tehnoloogiaga seotud kohustused

Artikkel 6

Suure riskiga tehnoloogiaga seotud kohustused

1. Käesoleva peatüki sätteid kohaldatakse ainult sellise liidus arendatava, juurutatava ja kasutatava tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete suhtes, millega kaasnevat riski peetakse suureks.

2. Suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse nii, et oleks tagatud vastavus käesolevas määruses sätestatud eetikapõhimõtetele.

Artikkel 7

Inimkeskne ja inimese loodud tehisintellekt

1. Suure riskiga tehistehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse nii, et kogu aeg on tagatud täielik inimjärelevalve.

2. Lõikes 1 osutatud tehnoloogiat arendatakse, juurutatakse ja kasutatakse nii, et vajaduse korral saab muu hulgas tehnoloogia muutmise või seiskamise kaudu taastada täieliku inimjuhtimise.

Artikkel 8

Ohutus, läbipaistvus ja vastutus

1. Suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse nii, et oleks tagatud, et

neid arendatakse, juurutatakse ja kasutatakse vastupidavana, et nendega oleks tagatud piisav turvalisus, st et need vastaksid küberturvalisuse miinimumpõhimõtetele, mis on tuvastatud riskiga proportsionaalsed, ja välditaks tehnilistelt nõrkade kohtade ärakasutamist pahatahtlikul või ebaseaduslikul eesmärgil;

b)	neid arendatakse, juurutatakse ja kasutatakse ohutul viisil, millega on tagatud kaitsemeetmed, mis hõlmavad ohutus- või turvariski korral rakendavaid varuplaani ja -meetmeid;

c)	neid arendatakse, juurutatakse ja kasutatakse nii, et need töötavad piisavalt kindlalt, et täita kasutaja mõistlikke ootusi eesmärkide saavutamise ja selliste toimingute tegemise suhtes, milleks nad loodi, muuhulgas tagades, et kõiki toiminguid saab teha korduvalt;

d)	neid arendatakse, juurutatakse ja kasutatakse nii, et need täidavad oma eesmärke ja teevad toiminguid täpselt; kui juhuslikku ebatäpsust ei õnnestu vältida, peab süsteem teatama juurutajatele ja kasutajatele sobiva vahendi abil võimaluse korral vigade ja ebatäpsuste tõenäosuse;

e)	neid arendatakse, juurutatakse ja kasutatakse lihtsasti kirjeldataval viisil, et tehnoloogia tehnilisi protsesse saaks läbi vaadata;

f)	neid arendatakse, juurutatakse ja kasutatakse nii, et need annavad kasutajatele teada, et nad suhtlevad tehisintellektisüsteemiga, ning esitavad tehisintellekti arendajatele, juurutajatele ja kasutajatele korrektselt ja ammendavalt oma suutlikkust, täpsust ja piiranguid puudutavad andmed;

g)	neid arendatakse, juurutatakse ja kasutatakse kooskõlas artikliga 6 nii, et kui punktides a–g toodud ohutusnõudeid ei järgita, saaks asjaomased funktsioonid ajutiselt välja lülitada ja eelmise oleku taastada, millega taastatakse turvalised funktsioonid.

2. Kooskõlas artikli 6 lõikega 1 arendatakse, juurutatakse ja kasutatakse käesoleva artikli lõikes 1 osutatud tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, läbipaistval ja jälgitaval viisil, nii et selle elemendid, protsessid ja etapid oleksid dokumenteeritud rangeimate kohaldatavate normide kohaselt ning et artiklis 18 osutatud riiklikud järelevalveasutused saaksid hinnata sellise tehnoloogia vastavust käesolevas määruses sätestatud nõuetele. Eelkõige peab tehnoloogia arendaja, juurutaja ja kasutaja vastutama lõikes 1 sätestatud ohutusnõuete järgimise eest ja suutma seda tõendada.

3. Lõikes 1 osutatud tehnoloogia arendaja, juurutaja ja kasutaja tagab, et artiklis 18 osutatud riiklikud järelevalveasutused ja vajaduse korral muud riiklikud või Euroopa valdkondlikud järelevalveorganid saaksid lõikes 1 sätestatud ohutusnõuete täitmiseks võetud meetmeid auditeerida.

Artikkel 9

Kallutatus ja mittediskrimineerimine

1. Liidus arendatud, juurutatud ja kasutatavas suure riskiga tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed peavad olema kallutamata ja, ilma et see piiraks lõike 2 kohaldamist, ei tohi need kedagi rassi, soo, seksuaalse sättumuse, raseduse, puude, füüsiliste ega geneetiliste iseärasuste, vanuse, rahvusvähemuse hulka kuulumise, etnilise ega sotsiaalse päritolu, keele, usutunnistuse ega veendumuste, poliitiliste vaadete ega kodanikuaktiivsuse, kodakondsuse, tsiviilõigusliku ega majandusliku seisundi, hariduse ega karistusregistri andmete alusel diskrimineerida.

2. Erandina lõikest 1 ning ilma et see piiraks ebaseaduslikku diskrimineerimist käsitleva liidu õiguse kohaldamist, võib isikute või isikute rühmade erinev kohtlemine olla põhjendatud vaid juhul, kui seda tehakse objektiivsel, mõistlikul ja õiguspärasel eesmärgil ning kui see on proportsionaalne ja vajalik niivõrd, kuivõrd puuduvad muud võimalused, millega rikutaks võrdse kohtlemise põhimõtet vähem.

Artikkel 10

Sotsiaalne vastutus ja sooline võrdõiguslikkus

Liidus arendatavat, juurutatavat ja kasutatavat suure riskiga tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid või sellega toodetavaid tarkvara, algoritme ja andmeid, arendatakse, juurutatakse ja kasutatakse kooskõlas asjakohaste liidu õigusaktide, põhimõtete ja väärtustega ning nii, et ei sekkuta valimistesse ega aidata kaasa desinformatsiooni levitamisele, austatakse töötajate õigusi, edendatakse kvaliteetset haridust ja digikirjaoskust, ei suurendata soolist ebavõrdsust sellega, et takistatakse kõigile võrdsete võimaluste tagamist, ega rikuta intellektuaalomandiõigusi ega nendega seotud piiranguid ja erandeid.

Artikkel 11

Keskkonnasäästlikkus

Suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete keskkonnasäästlikkust hindavad artiklis 18 osutatud riiklikud järelevalveasutused või vajaduse korral muud riiklikud või Euroopa valdkondlikud järelevalveorganid, kes tagavad, et on kehtestatud meetmed, millega leevendada ja korvata sellise tehnoloogia üldist mõju loodusvaradele, energiatarbimisele, jäätmetekkele, CO2 jalajäljele, kliimamuutustega seotud hädaolukorrale ja keskkonnaseisundi halvenemisele, et tagada kooskõla kohaldatava liidu ja liikmesriigi õigusega ning muude rahvusvaheliste keskkonnaalaste kohustustega, mille liit on võtnud.

Artikkel 12

Eraelu puutumatuse austamine ja isikuandmete kaitse

Biomeetriliste andmete kasutamisega ja kogumisega selleks, et isikuid avalikus kohas biomeetria või näotuvastuse abil kaugidentida, kaasneb spetsiifiline oht põhiõigustele ning neid võimalusi juurutavad ja kasutavad suure avaliku huvi eesmärgil üksnes liikmesriikide avaliku sektori asutused. Kõnealused asutused tagavad, et kooskõlas liidu ja liikmesriigi õigusega, eelkõige määrusega (EL) 2016/679 ja direktiiviga 2002/58/EÜ, antakse sellisest juurutamisest ja kasutamisest üldsusele teada, see on proportsionaalne, sihipärane ja piiratud kindlate eesmärkide ja asukohaga ja ajaliselt ning selle puhul võetakse nõuetekohaselt arvesse inimväärikust ja autonoomiat ning hartas sätestatud põhiõigusi, eelkõige õigust eraelu puutumatusele ja isikuandmete kaitsele.

Artikkel 13

Õigus õiguskaitsele

Igal füüsilisel ja juriidilisel isikul on õigus taotleda õiguskaitset vigastuse või kahju korral, mis on tekitatud sellega, et suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendamisel, juurutamisel või kasutamisel on rikutud liidu õigust ja eiratud käesolevas määruses sätestatud nõudeid.

Artikkel 14

Riskihindamine

1. Käesoleva määruse kohaldamisel käsitatakse tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat, sealhulgas sellises tehnoloogias kasutatavaid ja sellega toodetavaid tarkvara, algoritme ja andmeid, suure riskiga tehnoloogiana, kui objektiivsetel kriteeriumidel, nagu nende kasutusala ja -eesmärk, sektor, kus neid arendatakse, juurutatakse või kasutatakse, ning tekitatud võimaliku vigastuse või kahju tõsidus, põhineva riskihindamise tulemusel selgub, et nende arendamise, juurutamise või kasutamisega kaasneb liidu õiguses sätestatud põhiõiguste ja ohutusreeglite rikkumise korral suur risk tekitada üksikisikutele tõenäoliselt vigastusi või üksikisikutele või ühiskonnale kahju.

2. Ilma et see piiraks kohaldatavate valdkondlike õigusaktide kohaldamist, teevad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete riskihindamist vastavalt käesoleva artikli lõikes 1 sätestatud objektiivsetele kriteeriumidele ning käesoleva määruse lisas sätestatud ammendavale ja kumulatiivsele loetelule artiklis 18 osutatud riiklikud järelevalveasutused ning seda koordineerib komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus.

3. Komisjon koostab lõikes 2 osutatud riiklike järelevalveasutustega koostööd tehes artikli 20 kohaste delegeeritud õigusaktidega liidus tuvastatud suure riskiga tehnoloogia ühise loetelu ja hoiab seda ajakohasena.

4. Samuti ajakohastab komisjon artikli 20 kohaste delegeeritud õigusaktidega korrapäraselt käesoleva määruse lisas esitatud loetelu.

Artikkel 15

Vastavushindamine

1. Komisjoni ja/või mis tahes muu selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse koordineerimisel hindavad artiklis 18 osutatud riiklikud järelevalveasutused, kas suure riskiga tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia vastavad käesoleva määruse artiklites 6–12 sätestatud nõuetele, ning teevad seejärel sellise tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia üle järelevalvet.

2. Tarkvara, algoritme ja andmeid, mida kasutatakse suure riskiga tehnoloogias või mida toodetakse suure riskiga tehnoloogiaga, mis vastavad lõikes 1 sätestatud hindamise kohaselt käesolevas määruses sätestatud nõuetele, käsitatakse samuti nendele nõuetele vastavana, välja arvatud juhul, kui asjaomane riiklik järelevalveasutus otsustab teha hindamise omal algatusel või arendaja, juurutaja või kasutaja taotlusel.

3. Ilma et see piiraks valdkondlike õigusaktide kohaldamist, koostab komisjon ja/või mis tahes selleks määratav asjaomane liidu institutsioon, organ, amet või asutus käesoleva määruse jõustumise kuupäevaks siduvad suunised meetodite kohta, mida riiklikud järelevalveasutused peavad lõikes 1 osutatud vastavushindamisel kasutama.

Artikkel 16

Eetikapõhimõtetele vastavust kinnitav Euroopa sertifikaat

1. Kui kooskõlas artikliga 15 tehtud vastavushindamise tulemusel jõutakse järeldusele, et suure riskiga tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia, sealhulgas sellises tehnoloogias kasutatavad või sellega toodetavad tarkvara, algoritmid ja andmed, vastavad nõuetele, väljastab asjaomane riiklik järelevalveasutus eetikapõhimõtetele vastavust kinnitava Euroopa sertifikaadi.

2. Sellise tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arendaja, juurutaja ja kasutaja, mida ei peeta suure riskiga tehnoloogiaks ja milles suhtes seetõttu artiklites 6–12 sätestatud nõudeid ega artiklites 14 ja 15 sätestatud riskihindamist ja vastavushindamist ei kohaldata, võib samuti taotleda käesolevas määruses sätestatud nõuetele või nendest osale vastavuse tõendamist, kui see on riikliku järelevalveasutuse otsuse kohaselt asjaomase tehnoloogia laadi tõttu põhjendatud. Sertifikaat väljastatakse üksnes juhul, kui asjaomane riiklik järelevalveasutus on teinud vastavushindamise ja selle tulemus on positiivne.

3. Lõikes 2 osutatud sertifikaadi väljastamiseks töötab komisjon ja/või mis tahes muu selleks määratav asjaomane liidu institutsioon, organ, amet või asutus välja taotlusmenetluse.

III peatükk

Institutsiooniline järelevalve

Artikkel 17

Juhtimisnormid ja rakendussuunised

1. Liidus arendatud, juurutatud ja kasutatav tehisintellekt, robotitehnoloogia ja seonduv tehnoloogia peavad vastama asjakohastele juhtimisnormidele, mille artiklis 18 osutatud riiklikud järelevalveasutused on kehtestanud kooskõlas liidu õiguse, põhimõtete ja väärtustega ning komisjoni ja/või mis tahes selleks määratava asjaomase liidu institutsiooni, organi, ameti või asutuse koordineerimisel ning sidusrühmadega konsulteerides.

2. Lõikes 1 osutatud normid sisaldavad mittesiduvaid rakendussuuniseid meetodite kohta, mille alusel peavad arendajad, juurutajad ja kasutajad käesolevat määrust täitma, ning need avaldatakse hiljemalt käesoleva määruse jõustumise kuupäevaks.

3. Liidus arendatud, juurutatud ja kasutatavas tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavaid või nendega toodetavaid andmeid haldavad arendajad, juurutajad ja kasutajad kooskõlas asjaomaste liikmesriigi, liidu ja muude Euroopa organisatsioonide ja rahvusvaheliste reeglite ja normidega ning asjakohaste tööstus- ja äritegevuse protokollidega. Kui see on teostatav, kontrollivad arendajad ja juurutajad eelkõige tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavate andmete välisallikate kvaliteeti ning kehtestavad nende andmete kogumise, säilitamise, töötlemise ja kasutamise järelevalveks mehhanismid.

4. Ilma et see piiraks andmete ülekandmise õiguse kasutamist ja nende isikute õigusi, kes tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia kasutamisega andmed tekitasid, tuleb liidus arendatud, juurutatud ja kasutatavas tehisintellektis, robotitehnoloogias ja seonduvas tehnoloogias kasutatavate või sellega toodetavate andmete kogumisel, säilitamisel, töötlemisel, jagamisel ja kättesaadavaks tegemisel järgida asjaomaseid liikmesriigi, liidu ning muude Euroopa organisatsioonide ja rahvusvahelisi reegleid ja norme ning asjakohaseid tööstus- ja äritegevuse protokolle. Eelkõige tagavad arendajad ja juurutajad, et nimetatud protokolle kohaldatakse tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamisel ja juurutamisel ning selleks tuleb selgelt määratleda sellises tehnoloogias kasutatavate või sellega toodetavate andmete töötlemisel ja kättesaadavaks tegemisel kehtivad nõuded ning andmete töötlemise ja kättesaadavaks tegemise eesmärk, kohaldamisala ja adressaadid, ning kogu see teave peab olema igal ajal auditeeritav ja jälgitav.

Artikkel 18

Järelevalveasutused

1. Iga liikmesriik määrab sõltumatu avaliku sektori asutuse (edaspidi „järelevalveasutus“), kes vastutab käesoleva määruse kohaldamise järelevalve eest ning artiklites 14, 15 ja 16 sätestatud riski- ja vastavushindamise ning sertifitseerimise eest, ilma et see piiraks valdkondlike õigusaktide kohaldamist.

2. Riiklik järelevalveasutus peab aitama tagada käesoleva määruse ühetaolist kohaldamist kogu liidus. Sel eesmärgil teevad kõigi liikmesriikide järelevalveasutused koostööd omavahel ning komisjoni ja/või mis tahes muude selleks määratavate asjaomaste liidu institutsioonide, organite, ametite ja asutustega.

3. Riiklik järelevalveasutus on esimene, kelle poole pöörduda, kui kahtlustatakse, et tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise või kasutamise tõttu on rikutud käesolevas määruses sätestatud eetikapõhimõtteid ja juriidilisi kohustusi, sealhulgas diskrimineeritakse kedagi või rikutakse muid õigusi. Sellistel juhtudel teeb asjaomane riiklik järelevalveasutus vastavushindamise, et toetada kodanike õigust vaidlustamisele ja õiguskaitsele.

4. Riiklik järelevalveasutus vastutab tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes artiklis 17 osutatud asjakohaste liikmesriigi, Euroopa ja rahvusvaheliste reguleerimisreeglite ja -normide kohaldamise järelevalve eest ning muu hulgas kaasab selleks võimalikult palju sidusrühmi. Selleks loovad kõigi liikmesriikide järelevalveasutused foorumid, kus on võimalik sidusrühmadega, kelle hulgas on akadeemilise ringkonna, teadus- ja tööstusvaldkonna ning kodanikuühiskonna esindajaid, ja sidusrühmadel omavahel korrapäraselt aru pidada.

5. Riiklik järelevalveasutus annab eelkõige asjaomastele teadus- ja arendusorganisatsioonidele ning väikestele ja keskmise suurusega ettevõtjatele ning idufirmadele asjatundlikke haldussuuniseid ja -abi, mis puudutavad tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia suhtes kohaldava liidu õiguse ning käesolevas määruses sätestatud eetikapõhimõtete üldist rakendamist.

6. Kõik liikmesriigid annavad komisjonile hiljemalt … [üks aasta pärast käesoleva määruse jõustumist] teada, millised õigusnormid nad käesoleva artikli alusel vastu võtavad ning edastavad viivitamata kõik nende hilisemad muudatused.

7. Liikmesriigid võtavad kõik käesolevas määruses sätestatud eetikapõhimõtete ja juriidiliste kohustuste täitmise tagamiseks vajalikud meetmed. Liikmesriigid toetavad nii liidu kui ka liikmesriikide tasandil sidusrühmade ja kodanikuühiskonna püüdlusi tegutseda eelkõige piiriüleste uute võimaluste ja probleemide korral, mis tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arenguga kaasnevad, kiiresti, eetiliselt ja teadlikult.

Artikkel 19

Rikkumisest teatamine ja rikkumisest teatajate kaitse

Käesoleva määruse nõuete rikkumisest teatamise ja rikkumisest teatajate kaitse suhtes kohaldatakse Euroopa Parlamendi ja nõukogu direktiivi (EL) 2019/1937 (6).

Artikkel 20

Koordineerimine liidu tasandil

1. Komisjonil ja/või mis tahes selleks määrataval asjaomasel liidu institutsioonil, organil, ametil või asutusel on järgmised ülesanded:

—

tagada, et artiklis 18 osutatud riiklikud järelevalveasutused teevad artikli 8 lõikes 1 ning käesoleva määruse lisas sätestatud suure riskiga sektorite ning suure riskiga kasutusalade ja -eesmärkide loetelus ette nähtud ühiste objektiivsete kriteeriumide alusel artiklis 14 osutatud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia riskihindamist ühetaoliselt;

—	võtta teadmiseks suure riskiga tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia vastavushindamine ja sellele järgnev järelevalve, millele on osutatud artiklis 15 ja mida peavad tegema artiklis 18 osutatud riiklikud järelevalveasutused;

—	töötada välja taotlusmenetlus, mida artiklis 18 osutatud riiklikud järelevalveasutused peavad artiklis 16 osutatud sertifikaadi väljastamiseks kasutama;

—	koostada artikli 17 lõikes 4 osutatud siduvad suunised meetodite kohta, mida artiklis 18 osutatud riiklikud järelevalveasutused peavad kasutama, ilma et see piiraks valdkondlike õigusaktide kohaldamist;

—	koordineerida artiklis 18 osutatud riiklike järelevalveasutuste poolt artiklis 17 osutatud asjakohaste juhtimisnormide, sealhulgas arendajatele, juurutajatele ja kasutajatele mõeldud, käesoleva määruse täitmise meetodeid käsitlevate mittesiduvate rakendussuuniste kehtestamist;

—	teha artiklis 18 osutatud riiklike järelevalveasutustega koostööd, et nad saaksid kooskõlas artikli 18 lõikega 2 aidata käesolevat määrust kogu liidus ühetaoliselt kohaldada;

—

tegutseda eksperdikeskusena, kes edendab tehisintellekti, robotitehnoloogiat ja seonduvat tehnoloogiat käsitleva teabe vahetamist ning toetab ühtsel turul ühise arusaama kujundamist, esitades artiklis 18 osutatud riiklikele järelevalveasutustele lisasuuniseid, arvamusi ja ekspertteavet, jälgides asjakohase liidu õiguse rakendamist, määrates kindlaks parimate tavade standardid ja andes vajaduse korral soovitusi reguleerivate meetmete kohta; seda tehes peaks ta suhtlema võimalikult paljude sidusrühmadega ja tagama, et tema otsustustasandite koosseis on mitmekesine ja tagab soolise võrdõiguslikkuse;

—	tagada töötingimused julgeoleku ja kaitse töörühmale, mille eesmärk on analüüsida poliitika- ja investeerimisküsimusi, mis on seotud tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia eetilise kasutamisega julgeoleku ja kaitse valdkonnas.

Artikkel 21

Volituste delegeerimine

1. Komisjonile antakse õigus võtta vastu delegeeritud õigusakte käesolevas artiklis sätestatud tingimustel.

2. Artikli 14 lõigetes 3 ja 4 osutatud õigus võtta vastu delegeeritud õigusakte antakse komisjonile viieks aastaks alates … [käesoleva määruse jõustumise kuupäev].

3. Euroopa Parlament ja nõukogu võivad artikli 14 lõigetes 3 ja 4 osutatud volituste delegeerimise igal ajal tagasi võtta. Tagasivõtmise otsusega lõpetatakse otsuses nimetatud volituste delegeerimine. Otsus jõustub järgmisel päeval pärast selle avaldamist Euroopa Liidu Teatajas või otsuses kindlaksmääratud hilisemal kuupäeval. See ei mõjuta juba jõustunud delegeeritud õigusaktide kehtivust.

4. Enne delegeeritud õigusakti vastuvõtmist konsulteerib komisjon kooskõlas 13. aprilli 2016. aasta institutsioonivahelises parema õigusloome kokkuleppes sätestatud põhimõtetega iga liikmesriigi määratud ekspertidega.

5. Niipea kui komisjon on delegeeritud õigusakti vastu võtnud, teeb ta selle samal ajal teatavaks Euroopa Parlamendile ja nõukogule.

6. Artikli 14 lõigete 3 ja 4 alusel vastu võetud delegeeritud õigusakt jõustub üksnes juhul, kui Euroopa Parlament ega nõukogu ei ole kolme kuu jooksul pärast õigusakti teatavakstegemist Euroopa Parlamendile ja nõukogule esitanud selle suhtes vastuväidet või kui Euroopa Parlament ja nõukogu on enne selle tähtaja möödumist komisjonile teatanud, et nad ei esita vastuväidet. Euroopa Parlamendi või nõukogu algatusel pikendatakse seda tähtaega kolme kuu võrra.

Artikkel 22

Direktiivi (EL) 2019/1937 muutmine

Direktiivi (EL) 2019/1937 muudetakse järgmiselt.

Artikli 2 lõikesse 1 lisatakse järgmine alapunkt:

„xi)	tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine, juurutamine ja kasutamine;“

Lisa I osasse lisatakse järgmine punkt:

„K.

Artikli 2 lõike 1 punkti a alapunkt xi – tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamine, juurutamine ja kasutamine:

„xxi)

Euroopa Parlamendi ja nõukogu määrus [XXX] tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia arendamise, juurutamise ja kasutamise eetikapõhimõtete kohta.““

Artikkel 23

Läbivaatamine

Komisjon jälgib tehisintellekti, robotitehnoloogia ja seonduva tehnoloogia, sealhulgas sellises tehnoloogias kasutatavate või sellega toodetavate tarkvara, algoritmide ja andmete arengut pidevalt ning esitab hiljemalt … [kolm aastat pärast käesoleva määruse jõustumist] ja seejärel iga kolme aasta järel Euroopa Parlamendile, nõukogule ning Euroopa Majandus- ja Sotsiaalkomiteele käesoleva määruse kohaldamist käsitleva aruande koos hinnanguga selle kohta, kas käesoleva määruse kohaldamisala oleks vaja muuta.

Artikkel 24

Jõustumine

Käesolev määrus jõustub kahekümnendal päeval pärast selle avaldamist Euroopa Liidu Teatajas.

Käesolevat määrust kohaldatakse alates XX.

Käesolev määrus on tervikuna siduv ja vahetult kohaldatav kõikides liikmesriikides.

…,

Euroopa Parlamendi nimel

president

Nõukogu nimel

eesistuja

LISA

Ammendav ja kumulatiivne loetelu suure riskiga sektoritest ning suure riskiga kasutusaladest ja -eesmärkidest, millega kaasneb põhiõiguste ja ohutusreeglite rikkumise risk

Suure riskiga sektorid

—

tööhõive

—

haridus

—	tervishoid

—

transport

—	energeetika

—	avalik sektor (varjupaigaküsimused, ränne, piirikontroll, kohtusüsteem ja sotsiaalkindlustusteenused)

—	kaitse ja julgeolek

—	rahandus, pangandus, kindlustus

Suure riskiga kasutusalad ja -eesmärgid

—	töölevõtmine

—	üliõpilaste hindamine, sh neile hinnete panemine

—	avaliku sektori raha eraldamine

—	laenude andmine

—	kauplemine, vahendamine, maksustamine jms

—	ravi, sh raviprotseduurid

—	valimisprotsess ja poliitilised kampaaniad

—	avaliku sektori otsused, millel on füüsiliste või juriidiliste isikute õigustele ja kohustustele suur ja otsene mõju

—	automatiseeritud sõidukijuhtimine

—	liikluskorraldus

—	autonoomsed relvasüsteemid

—	energia tootmine ja jaotamine

—	jäätmekäitlus

—	heitekontroll

(1) Automatiseeritud sõidukijuhtimise puhul on ühingu SAE International standardiga J3016 ette nähtud kuus sõidukijuhtimise automatiseerimise taset. Viimati ajakohastati seda 2018. aastal (J3016_201806), vt https://www.sae.org/standards/content/j3016_201806/.

(2) Euroopa Parlamendi ja nõukogu 27. aprilli 2016. aasta määrus (EL) 2016/679 füüsiliste isikute kaitse kohta isikuandmete töötlemisel ja selliste andmete vaba liikumise ning direktiivi 95/46/EÜ kehtetuks tunnistamise kohta (isikuandmete kaitse üldmäärus) (ELT L 119, 4.5.2016, lk 1).

(3) Euroopa Parlamendi ja nõukogu 12. juuli 2002. aasta direktiiv 2002/58/EÜ, milles käsitletakse isikuandmete töötlemist ja eraelu puutumatuse kaitset elektroonilise side sektoris (eraelu puutumatust ja elektroonilist sidet käsitlev direktiiv) (EÜT L 201, 31.7.2002, lk 37).

(4) Euroopa Komisjoni teatisest COM(2018)0237 (25.4.2018, lk 1) muudetud kujul üle võetud määratlus.

(5) Võetud standardis ISO 8373 esitatud tööstusrobotite määratlusest.

(6) Euroopa Parlamendi ja nõukogu 23. oktoobri 2019. aasta direktiiv (EL) 2019/1937 liidu õiguse rikkumisest teavitavate isikute kaitse kohta (ELT L 305, 26.11.2019, lk 17).