(1)

Käesoleva määruse eesmärk on parandada siseturu toimimist ühtse õigusraamistiku kehtestamisega eeskätt tehisintellekti arendamise , turustamise ja kasutamise jaoks kooskõlas liidu väärtustega . Käesolev määrus on ajendatud mitmest kaaluka üldise huvi eesmärgist , nagu kõrgetasemeline tervise, ohutuse ja põhiõiguste kaitse, ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba.

(1)

Käesoleva määruse eesmärk on edendada inimkeskse ja usaldusväärse tehisintellekti kasutuselevõttu ning tagada tervise , ohutuse, põhiõiguste, demokraatia ja õigusriigi ning keskkonna kõrgetasemeline kaitse tehisintellektisüsteemide kahjuliku mõju eest liidus, toetades samal ajal innovatsiooni ja parandades siseturu toimimist. Käesoleva määrusega kehtestatakse ühtne õigusraamistik eeskätt tehisintellekti arendamise, turule laskmise , kasutusele võtmise ja kasutamise jaoks kooskõlas liidu väärtustega ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba. Teatud tehisintellektisüsteemid võivad mõjutada ka demokraatiat, õigusriiki ja keskkonda. Neid probleeme käsitletakse konkreetselt käesoleva määruse lisades loetletud kriitilise tähtsusega sektorites ja kasutusmallides.

(1a)

Käesolev määrus peaks säilitama liidu väärtused, hõlbustades tehisintellektist saadava kasu jaotamist kogu ühiskonnas, kaitstes üksikisikuid, ettevõtteid, demokraatiat, õigusriiki ja keskkonda riskide eest, edendades samal ajal innovatsiooni ja tööhõivet ning muutes Euroopa liidu selles valdkonnas liidriks.

(2)

Tehisintellektisüsteeme on lihtne mitmesugustes majanduse ja ühiskonna sektorites kasutusele võtta, sh piiriüleselt, ning need võivad levida kogu liidus. Teatavad liikmesriigid on juba uurinud võimalust võtta vastu siseriiklikke õigusnorme, et tagada tehisintellekti ohutus ning selle arendamine ja kasutamine koostkõlas põhiõigustega seotud kohustustega. Siseriiklike õigusnormide vahelised erinevused võivad tuua kaasa siseturu killustumise ja vähendada tehisintellektisüsteemide arendamise ja kasutamisega tegelevate operaatorite õiguskindlust. Seepärast tuleks kõikjal liidus tagada kaitse järjekindlus ja kõrge tase ning ühtlasi vältida erinevusi, mis kahjustavad tehisintellektisüsteemide ja nendega seotud toodete ja teenuste vaba ringlust siseturul; selleks tuleks operaatoritele kehtestada ühetaolised kohustused ja kindlustada kaalukate üldiste huvide ja isikute õiguste ühtne kaitse siseturul, lähtudes Euroopa Liidu toimimise lepingu (edaspidi „ELi toimimise leping“) artiklist 114. Kuivõrd käesolev määrus sisaldab konkreetseid õigusnorme, mis puudutavad üksikisikute kaitset seoses isikuandmete töötlemisega ja millega piiratakse tehisintellektisüsteemide kasutamist avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva biomeetrilise kaugtuvastamise jaoks, on asjakohane võtta nende konkreetsete normide puhul käesoleva määruse aluseks ELi toimimise lepingu artikkel 16. Neid konkreetseid õigusnorme ja ELi toimimise lepingu artiklile 16 tuginemist silmas pidades on asjakohane konsulteerida Euroopa Andmekaitsenõukoguga.

(2)

Tehisintellektisüsteeme on lihtne mitmesugustes majanduse ja ühiskonna sektorites kasutusele võtta, sh piiriüleselt, ning need võivad levida kogu liidus. Teatavad liikmesriigid on juba uurinud võimalust võtta vastu siseriiklikke õigusnorme, et tagada tehisintellekti ohutus ja usaldusväärsus ning selle arendamine ja kasutamine kooskõlas põhiõigustega seotud kohustustega. Siseriiklike õigusnormide vahelised erinevused võivad tuua kaasa siseturu killustumise ja vähendada tehisintellektisüsteemide arendamise ja kasutamisega tegelevate operaatorite õiguskindlust. Seepärast tuleks usaldusväärse tehisintellekti saavutamiseks kõikjal liidus tagada kaitse järjekindlus ja kõrge tase ning ühtlasi vältida erinevusi, mis kahjustavad tehisintellektisüsteemide ja nendega seotud toodete ja teenuste vaba ringlust , innovatsiooni, kasutuselevõttu ja juurutamist siseturul; selleks tuleks operaatoritele kehtestada ühetaolised kohustused ja kindlustada kaalukate üldiste huvide ja isikute õiguste ühtne kaitse siseturul, lähtudes Euroopa Liidu toimimise lepingu (edaspidi „ELi toimimise leping“) artiklist 114.

(2a)

Kuna tehisintellekt tugineb sageli suurte andmemahtude töötlemisele, ning paljud tehisintellektisüsteemid ja rakendused põhinevad isikuandmete töötlemisel, on asjakohane võtta käesoleva määruse aluseks Euroopa Liidu toimimise lepingu artikkel 16, milles sätestatakse füüsiliste isikute õigused seoses isikuandmete töötlemisega ja nähakse ette õigusnormide kehtestamine üksikisikute kaitse kohta seoses isikuandmete töötlemisega.

(2b)

Põhiõigus isikuandmete kaitsele on tagatud eelkõige määrustega (EL) 2016/679 ja (EL) 2018/1725 ning direktiiviga 2016/680. Direktiiviga 2002/58/EÜ kaitstakse lisaks eraelu puutumatust ja side konfidentsiaalsust, muu hulgas nähakse ette tingimused isiku- ja isikustamata andmete lõppseadmesse salvestamise ja neile juurdepääsu kohta. Need õigusaktid on aluseks jätkusuutlikule ja vastutustundlikule andmetöötlusele, sealhulgas ka juhul, kui andmekogumid sisaldavad nii isiku- kui ka isikustamata andmeid. Käesoleva määruse eesmärk ei ole mõjutada isikuandmete töötlemist reguleerivate kehtivate liidu õigusaktide kohaldamist, sealhulgas selliste sõltumatute järelevalveasutuste ülesandeid ja volitusi, kes on pädevad jälgima kõnealuste õigusaktide järgimist. Käesolev määrus ei mõjuta põhiõigust eraelu puutumatusele ja isikuandmete kaitsele, mis on sätestatud andmekaitset ja eraelu puutumatust käsitlevates liidu õigusaktides ning Euroopa Liidu põhiõiguste hartas (edaspidi „põhiõiguste harta“).

(2c)

ELis kohaldatakse tehisintellektisüsteemide suhtes tooteohutusalaseid õigusakte, mis annavad raamistiku tarbijate kaitsmiseks ohtlike toodete eest üldiselt, ning selliseid õigusakte tuleks jätkuvalt kohaldada. Käesolev määrus ei piira ka muudes tarbijakaitse ja tooteohutusega seotud liidu õigusaktides, sealhulgas määruses (EL) 2017/2394, määruses (EL) 2019/1020 ja direktiivis 2001/95/EÜ üldise tooteohutuse kohta ning direktiivis 2013/11/EL sätestatud reegleid.

(2d)

Kooskõlas Euroopa Liidu toimimise lepingu artikli 114 lõikega 2 täiendab käesolev määrus töötajate õiguste ja huvide kaitset ega tohiks neid kahjustada. Käesolev määrus ei tohiks seega mõjutada liidu sotsiaalpoliitikat käsitleva õiguse ning siseriikliku tööõiguse ja -tavade kohaldamist, st mis tahes õigus- või lepingusätteid, mis käsitlevad tööhõivetingimusi, töötingimusi, sealhulgas töötervishoidu ja -ohutust ning tööandjate ja töötajate vahelisi suhteid, sealhulgas teavitamist, konsulteerimist ja osalemist. Käesolev määrus ei tohiks mõjutada liikmesriikides ja liidu tasandil tunnustatud põhiõiguste, sealhulgas streigiõiguse või -vabaduse teostamist või õigust või vabadust võtta muid liikmesriikide töösuhete erisüsteemidega hõlmatud meetmeid, mis on kooskõlas riigi õiguse ja/või tavadega. Samuti ei tohiks see mõjutada kooskõlastatud tegevusi, õigust pidada läbirääkimisi kollektiivlepingute üle, neid sõlmida ja jõustada ega kollektiivse tegutsemise õigust vastavalt liikmesriikide õigusele ja/või tavale. Igal juhul ei tohiks see takistada komisjoni tegemast ettepanekuid konkreetsete õigusaktide kohta, mis käsitlevad tehisintellektisüsteemidest mõjutatud töötajate õiguste ja vabaduste kaitset.

(2e)

Käesolev määrus ei tohiks mõjutada direktiivi … [COD 2021/414/EÜ] sätteid, mille eesmärk on parandada platvormitöö tingimusi.

(2f)

Käesolev määrus peaks aitama toetada teadusuuringuid ja innovatsiooni, ei tohiks kahjustada teadus- ja arendustegevust ning peaks austama teadusuuringute vabadust. Seepärast on vaja jätta määruse kohaldamisalast välja tehisintellektisüsteemid, mis on spetsiaalselt välja töötatud üksnes teadusuuringute ja arendustegevuse eesmärgil, ning tagada, et määrus ei mõjutaks muul viisil tehisintellektisüsteemidega seotud teadus- ja arendustegevust. Teadus- ja arendustegevus peaks igal juhul toimuma kooskõlas põhiõiguste harta ning liidu ja riiklike õigusaktidega;

(3)

Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis võib aidata saavutada mitmesuguseid majanduslikke ja ühiskondlikke hüvesid kõigis tööstusharudes ja ühiskondlikes tegevustes. Tänu täpsemale prognoosimisele, tegevuse ja ressursijaotuse optimeerimisele ning üksikisikutele ja organisatsioonidele kättesaadavate digilahenduste personaliseerimisele võib tehisintellekti kasutamine anda ettevõtjatele olulise konkurentsieelise ning toetada ühiskonna ja keskkonna jaoks positiivsete tulemuste saavutamist näiteks sellistes valdkondades nagu tervishoid, põllumajandus, haridus ja koolitus, taristuhaldus, energeetika, transport ja logistika, avalikud teenused, turvalisus, õigus, ressursi- ja energiatõhusus ning kliimamuutuste leevendamine ja nendega kohanemine.

(3)

Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis võib aidata ja juba aitab saavutada mitmesuguseid majanduslikke , keskkonna-alaseid ja ühiskondlikke hüvesid kõigis tööstusharudes ja ühiskondlikes tegevustes , kui seda arendatakse kooskõlas asjaomaste üldpõhimõtetega vastavalt põhiõiguste hartale ja liidu alusväärtustele . Tänu täpsemale prognoosimisele, tegevuse ja ressursijaotuse optimeerimisele ning üksikisikutele ja organisatsioonidele kättesaadavate digilahenduste personaliseerimisele võib tehisintellekti kasutamine anda ettevõtjatele olulise konkurentsieelise ning toetada ühiskonna ja keskkonna jaoks positiivsete tulemuste saavutamist näiteks sellistes valdkondades nagu tervishoid, põllumajandus, toiduohutus, haridus ja koolitus, meedia, sport, kultuur, taristuhaldus, energeetika, transport ja logistika, kriisijuhtimine, avalikud teenused, turvalisus, õigus, ressursi- ja energiatõhusus , keskkonnaseire, elurikkuse ja ökosüsteemide säilitamine ja taastamine ning kliimamuutuste leevendamine ja nendega kohanemine.

(3a)

Et aidata saavutada CO2-neutraalsuse eesmärke, peaksid Euroopa ettevõtjad püüdma kasutada kõiki olemasolevaid tehnoloogilisi edusamme, mis võivad aidata seda eesmärki saavutada. Tehisintellekt on tehnoloogia, mida saab potentsiaalselt kasutada tööstus-, keskkonna-, tervishoiu- ja muude protsesside käigus loodud üha suureneva hulga andmete töötlemiseks. Et hõlbustada investeeringuid tehisintellektipõhistesse analüüsi- ja optimeerimisvahenditesse, peaks käesolev määrus tagama prognoositava ja proportsionaalse keskkonna madala riskitasemega tööstuslahenduste jaoks.

(4)

Samas võib tehisintellekt olenevalt konkreetse rakenduse ja kasutuse asjaoludest tekitada ka riske ning kahjustada avalikke huve ja liidu õigusega kaitstud õigusi . Selline kahju võib olla varaline või mittevaraline.

(4)

Samas võib tehisintellekt olenevalt konkreetse rakenduse ja kasutuse asjaoludest ning tehnoloogilise arengu tasemest tekitada ka riske ning kahjustada avalikke või erahuve ja füüsiliste isikute põhiõigusi, mis on kaitstud liidu õigusega . Selline kahju võib olla varaline või mittevaraline , sealhulgas füüsiline, psühholoogiline, ühiskondlik või majanduslik .

(4a)

Võttes arvesse suurt mõju, mida tehisintellekt võib avaldada ühiskonnale, ja vajadust suurendada usaldust, on äärmiselt oluline, et tehisintellekti arendamisel ja selle õigusraamistiku väljatöötamisel järgitaks ELi lepingu artiklis 2 sätestatud liidu väärtusi ning aluslepingutes, põhiõiguste hartas ja rahvusvahelises inimõigustealases õiguses sätestatud põhiõigusi ja -vabadusi. Tehisintellekt peaks eelkõige olema inimkeskne tehnoloogia. See ei tohiks asendada inimeste sõltumatust ega eeldada üksikisiku vabaduse kaotust ning peaks esmalt seisma ühiskonna vajaduste ja ühise hüve teenistuses. Tuleks ette näha kaitsemeetmed, et tagada liidu väärtusi ja põhiõiguste hartat austava, eetiliselt teostatud tehisintellekti arendamine ja kasutamine.

(5)

Seepärast on vaja liidu õigusraamistikku, millega nähtaks ette tehisintellekti käsitlevad ühtlustatud õigusnormid, et edendada siseturul tehisintellekti arendamist, kasutamist ja levikut, mille puhul oleks ühtlasi tagatud liidu õigusega tunnustatud ja kaitstud üldiste huvide, näiteks tervise ja ohutuse ning põhiõiguste kõrgetasemeline kaitse. Selle eesmärgi saavutamiseks tuleks kehtestada teatavate tehisintellektisüsteemide turule laskmist ja kasutusele võtmist reguleerivad õigusnormid, et seeläbi tagada siseturu sujuv toimimine ja võimaldada neil süsteemidel saada kasu kaupade ja teenuste vaba liikumise põhimõttest. Kõnealuste õigusnormide kehtestamisega toetab käesolev määrus Euroopa Ülemkogu sõnastatud liidu eesmärki olla maailmas turvalise, usaldusväärse ja eetilise tehisintellekti arendamisel liidripositsioonil (33) ning samas aitab see tagada eetiliste põhimõtete kaitse, mida on eraldi nõudnud Euroopa Parlament (34).

(5)

Seepärast on vaja liidu õigusraamistikku, millega nähtaks ette tehisintellekti käsitlevad ühtlustatud õigusnormid, et edendada siseturul tehisintellekti arendamist, kasutamist ja levikut, mille puhul oleks ühtlasi tagatud liidu õigusega tunnustatud ja kaitstud üldiste huvide, näiteks tervise ja ohutuse ning põhiõiguste , demokraatia, õigusriigi ja keskkonna kõrgetasemeline kaitse. Selle eesmärgi saavutamiseks tuleks kehtestada teatavate tehisintellektisüsteemide turule laskmist, kasutusele võtmist ja kasutamist reguleerivad õigusnormid, et seeläbi tagada siseturu sujuv toimimine ja võimaldada neil süsteemidel saada kasu kaupade ja teenuste vaba liikumise põhimõttest. Need normid peaksid olema põhiõiguste kaitsmisel selged ja töökindlad, toetades uusi uuenduslikke lahendusi ning võimaldades avaliku ja erasektori osalejate Euroopa ökosüsteemil luua tehisintellektisüsteeme kooskõlas liidu väärtustega. Kehtestades need õigusnormid, samuti meetmed innovatsiooni toetamiseks, keskendudes eriti VKEdele ja idufirmadele, toetab käesolev määrus eesmärki edendada Euroopas toodetud tehisintellekti ning et liit oleks maailmas turvalise, usaldusväärse ja eetilise tehisintellekti arendamisel liidripositsioonil , nagu sõnastati Euroopa Ülemkogul  (33), ning samas aitab see tagada eetiliste põhimõtete kaitse, mida on eraldi nõudnud Euroopa Parlament (34).

(5a)

Et edendada tehisintellekti arendamist kooskõlas liidu väärtustega, peab liit tegelema peamiste lünkade ja tõketega, mis takistavad digiülemineku potentsiaali, sealhulgas digioskustega töötajate nappus, küberturvalisuse probleemid, investeeringute puudumine ja piiratud juurdepääs investeeringutele ning olemasolevad ja võimalikud lõhed suurettevõtjate, VKEde ja idufirmade vahel. Erilist tähelepanu tuleks pöörata sellele, et tehisintellektist ja uute tehnoloogiate innovatsioonist saadav kasu oleks tuntav kõigis liidu piirkondades ning et piisavalt investeeringuid ja vahendeid pakutaks eelkõige piirkondadele, mis võivad mõne digitaalse näitaja poolest maha jääda.

(6)

Õiguskindluse tagamiseks tuleks tehisintellektisüsteemi mõiste selgelt määratleda, kuid samas tuleks säilitada paindlikkus , et jääks ruumi tehnika edasiseks arenguks . Määratlus peaks põhinema tarkvara peamistel funktsionaalsetel omadustel , eeskätt võimel genereerida teatavate inimese poolt kindlaks määratud eesmärkide jaoks väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid , mis mõjutavad keskkonda , millega süsteem suhtleb kas füüsilises või digitaalses plaanis. Tehisintellektisüsteeme saab projekteerida töötama erineval autonoomsuse tasemel ning neid võib kasutada eraldiseisvatena või mõne teise toote komponentidena, olenemata sellest , kas süsteem on füüsiliselt tootesse integreeritud (sisseehitatud) või teenib toote funktsionaalsust ilma , et oleks sellesse integreeritud (sisseehitamata) . Tehisintellektisüsteemi määratlust tuleks täiendada selle arendamiseks kasutatavate konkreetsete meetodite ja lähenemisviiside loeteluga , mida tuleks hoida turu ja tehnika arengu seisukohast ajakohasena delegeeritud õigusaktidega , mida komisjon selle loetelu muutmiseks vastu võtab .

(6)

Tehisintellektisüsteemi mõiste tuleks käesolevas määruses selgelt määratleda ja see peaks olema kindlalt kooskõlas tehisintellekti valdkonnas tegutsevate rahvusvaheliste organisatsioonide tööga , et tagada õiguskindlus, ühtlustamine ja laialdane aktsepteerimine, võimaldades samal ajal paindlikkust , et võtta arvesse tehnoloogia kiiret arengut selles valdkonnas . Lisaks peaks määratlus põhinema tehisintellekti peamistel omadustel, nagu selle õppimis- , arutlus- või modelleerimisvõime, et eristada seda lihtsamatest tarkvarasüsteemidest ja programmeerimisviisidest. Tehisintellektisüsteemid on projekteeritud töötama erineval autonoomsuse tasemel , mis tähendab , et nad on vähemalt teataval määral sõltumatud inimkontrollist ja suutelised tegutsema ilma inimsekkumiseta. Mõiste „masinpõhine“ viitab asjaolule, et tehisintellektisüsteemid töötavad masinatel. Viide otsestele või kaudsetele eesmärkidele rõhutab, et tehisintellektisüsteemid võivad toimida vastavalt selgetele inimeste määratletud eesmärkidele või kaudsetele eesmärkidele. Tehisintellektisüsteemi eesmärgid võivad teatud kontekstis erineda tehisintellektisüsteemi kasutusotstarbest. Viide prognoosidele hõlmab sisu , mida peetakse käesolevas määruses prognoosi vormiks tehisintellektisüsteemi ühe võimaliku väljundina . Käesoleva määruse kohaldamisel tuleks keskkondade all mõista konteksti, milles tehisintellektisüsteemid toimivad, ning tehisintellektisüsteemi loodud väljundid , st prognoosid, soovitused või otsused, vastavad süsteemi eesmärkidele, tuginedes nimetatud keskkonna sisenditele. Selline väljund mõjutab kõnealust keskkonda veelgi, isegi kui ta lisab sinna üksnes uut teavet.

(6a)

Tehisintellektisüsteemidel on sageli masinõppe võimalused, mis aitavad neil kohaneda ja täita iseseisvalt uusi ülesandeid. Masinõpe tähendab arvutusprotsessi, mille käigus optimeeritakse andmete põhjal mudeli parameetrid; tegemist on matemaatilise konstruktsiooniga, mis annab sisendandmetel põhineva väljundi. Masinõppe lähenemisviiside hulka kuuluvad näiteks juhendatud õpe, juhendamata õpe ja stiimulõpe, kasutades mitmesuguseid meetodeid, sh süvaõpet neurovõrkudega. Käesoleva määruse eesmärk on tegeleda uute võimalike riskidega, mis võivad tekkida kontrolli delegeerimisest tehisintellektisüsteemidele, eelkõige nendele tehisintellektisüsteemidele, mis võivad pärast kasutuselevõttu areneda. Paljude nende tehisintellektisüsteemide funktsioonid ja väljundid põhinevad abstraktsetel matemaatilistel suhetel, mida inimestel on raske mõista, jälgida ja teha tagantjärele kindlaks konkreetseid sisendeid. Need keerulised ja läbipaistmatud omadused (nn musta kasti element) mõjutavad vastutust ja seletatavust. Ka suhteliselt lihtsamad tehnikad, nagu teadmistepõhised lähenemisviisid, Bayes’i hinnangud või otsustuspuud, võivad põhjustada õiguslünki, mida tuleb käesolevas määruses käsitleda, eriti kui selliseid tehnikaid kasutatakse hübriidsüsteemides koos masinõppe lähenemisviisidega.

(6b)

Tehisintellektisüsteeme võib kasutada eraldiseisvate tarkvarasüsteemidena füüsilisse tootesse integreerituna (sisseehitatud), kasutada eesmärgiga teenida füüsilise toote funktsionaalsust, ilma et oleks sellesse integreeritud (sisseehitamata), või kasutada tehisintellekti komponendina suuremates süsteemides. Kui see suurem süsteem ei toimi ilma kõnealuse tehisintellekti komponendita, tuleks kogu suuremat süsteemi käsitada käesoleva määruse alusel ühe tehisintellektisüsteemina.

(7)

Käesolevas määruses kasutatav biomeetriliste andmete mõiste on vastavuses biomeetriliste andmete mõistega, mis on määratletud Euroopa Parlamendi ja nõukogu määruse (EL) 2016/679 (35) artikli 4 punktis 14 , Euroopa Parlamendi ja nõukogu määruse (EL) 2018/1725  (36) artikli 3 punktis 18 ja Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/680  (37) artikli 3 punktis 13 , ning seda tuleks tõlgendada kooskõlas nende õigusaktidega .

(7)

Käesolevas määruses kasutatav biomeetriliste andmete mõiste on vastavuses biomeetriliste andmete mõistega, mis on määratletud määruse (EL) 2016/679 (35) artikli 4 punktis 14 ning seda tuleks tõlgendada vastavalt sellele. Biomeetriapõhised andmed on konkreetse tehnilise töötlemise käigus saadud andmed, mis on seotud füüsilise isiku füüsiliste, füsioloogiliste või käitumuslike märkidega , nagu näoilmed, liigutused, pulsisagedus, hääl, klahvilöögid või kõnnak, mis võivad, kuid ei pruugi võimaldada või kinnitada füüsilise isiku kordumatut tuvastamist .

(7a)

Käesolevas määruses kasutatav biomeetrilise tuvastamise mõiste tuleks määratleda kui tehisintellektisüsteemide kasutamine inimeste füüsiliste, füsioloogiliste, käitumuslike ja psühholoogiliste tunnuste nagu nägu, silmade liikumine, näoilmed, kehakuju, hääl, kõne, kõnnak, kehahoiak, südame löögisagedus, vererõhk, lõhn, klahvivajutused, psühholoogilised reaktsioonid (viha, stress, lein jne) automaatseks tuvastamiseks isiku identiteedi kindlakstegemise eesmärgil, võrreldes selle isiku biomeetrilisi andmeid isikute andmebaasi salvestatud biomeetriliste andmetega (üks mitmele-isikusamasuse tuvastamine), sõltumata sellest, kas isik on andnud selleks nõusoleku või mitte.

(7b)

Käesolevas määruses kasutatav biomeetrilise liigitamise mõiste tuleks määratleda kui füüsiliste isikute jagamine teatud kategooriatesse või nende omaduste ja tunnuste järeldamine nende biomeetriliste või biomeetriaandmete, näiteks sotsiaalse või bioloogilise soo, vanuse, juuksevärvi, silmade värvi, tätoveeringute, etnilise või sotsiaalse päritolu, tervise, vaimsete või füüsiliste võimete, käitumuslike või isikuomaduste, keele, usu, rahvusvähemusse kuuluvuse või seksuaalse või poliitilise sättumuse põhjal või mida saab sellistest andmetest järeldada.

(8)

Käesolevas määruses kasutatav biomeetrilise kaugtuvastamise süsteemi mõiste tuleks määratleda funktsioonidest lähtuvalt kui tehisintellektisüsteem, mis on mõeldud füüsiliste isikute eemalt tuvastamiseks, võrreldes isiku biomeetrilisi andmeid võrdlusbaasis sisalduvate biomeetriliste andmetega ning ilma, et oleks ette teada, kas asjaomane isik viibib seal ja kas teda on võimalik tuvastada, olenemata sellest, milliseid konkreetseid tehnoloogiaid ja protseduure või mis liiki biomeetrilisi andmeid selleks kasutatakse. Eristada tuleks nn reaalajas toimuva ja tagantjärele toimuva biomeetrilise kaugtuvastamise süsteeme, sest nende omadused ja kasutusviisid on erinevad ning nendega kaasnevad erinevad riskid. Reaalajas kasutatavate süsteemide puhul toimub biomeetriliste andmete hõive, võrdlemine ja isiku identifitseerimine kõik hetkega, peaaegu hetkega või igal juhul ilma märkimisväärse viivituseta. Siinjuures ei tohiks jääda võimalust hoida väikeste viivituste kasutamisega kõrvale käesoleva määruse sätetest, mis käsitlevad tehisintellektisüsteemi kasutamist reaalajas. Reaalajalistes süsteemides kasutatakse kaamera või muu sarnase funktsiooniga seadmega tehtud otse edastatavat või peaaegu otse edastatavat materjali, näiteks videosalvestisi. Tagantjärele kasutatavate süsteemide puhul on aga biomeetriliste andmete hõive juba toimunud ning võrdlemine ja isikute identifitseerimine toimub alles pärast olulist viivitust. Sealjuures kasutatakse selliseid materjale nagu videovalvesüsteemi või isikliku seadmega tehtud pildid või videosalvestised, mis on tehtud enne, kui süsteemi kasutatakse konkreetse füüsilise isiku puhul.

(8)

Käesolevas määruses kasutatav biomeetrilise kaugtuvastamise süsteemi mõiste tuleks määratleda funktsioonidest lähtuvalt kui tehisintellektisüsteem, mis on mõeldud füüsiliste isikute eemalt tuvastamiseks, võrreldes isiku biomeetrilisi andmeid võrdlusbaasis sisalduvate biomeetriliste andmetega ning ilma, et oleks ette teada, kas asjaomane isik viibib seal ja kas teda on võimalik tuvastada, olenemata sellest, milliseid konkreetseid tehnoloogiaid ja protseduure või mis liiki biomeetrilisi andmeid selleks kasutatakse , välja arvatud kontrollisüsteemid, mis üksnes võrdlevad isiku biomeetrilisi andmeid tema varem esitatud biomeetriliste andmetega (üks-ühele) . Eristada tuleks nn reaalajas toimuva ja tagantjärele toimuva biomeetrilise kaugtuvastamise süsteeme, sest nende omadused ja kasutusviisid on erinevad ning nendega kaasnevad erinevad riskid. Reaalajas kasutatavate süsteemide puhul toimub biomeetriliste andmete hõive, võrdlemine ja isiku identifitseerimine kõik hetkega, peaaegu hetkega või igal juhul ilma märkimisväärse viivituseta. Siinjuures ei tohiks jääda võimalust hoida väikeste viivituste kasutamisega kõrvale käesoleva määruse sätetest, mis käsitlevad tehisintellektisüsteemi kasutamist reaalajas. Reaalajalistes süsteemides kasutatakse kaamera või muu sarnase funktsiooniga seadmega tehtud otse edastatavat või peaaegu otse edastatavat materjali, näiteks videosalvestisi. Tagantjärele kasutatavate süsteemide puhul on aga biomeetriliste andmete hõive juba toimunud ning võrdlemine ja isikute identifitseerimine toimub alles pärast olulist viivitust. Sealjuures kasutatakse selliseid materjale nagu videovalvesüsteemi või isikliku seadmega tehtud pildid või videosalvestised, mis on tehtud enne, kui süsteemi kasutatakse konkreetse füüsilise isiku puhul. Kuna biomeetrilise tuvastamise mõiste ei sõltu isiku nõusolekust, kehtib see määratlus isegi siis, kui hoiatusteated on paigutatud kohta, mis on biomeetrilise kaugtuvastamise süsteemi järelevalve all, ning seda ei tühistata de facto eelregistreerimisega.

(8a)

Füüsilise isiku kaugtuvastamise all mõistetakse biomeetrilise kaugtuvastamise süsteemide eristamist isikute biomeetrilise tuvastamise vahendeid kasutavatest lähituvastussüsteemidest, mille ainus eesmärk on kinnitada, kas konkreetsel füüsilisel isikul, kes esitab end tuvastamiseks, on luba või mitte, näiteks selleks, et saada juurdepääs teenusele, seadmele või ruumidele.

(9)

Käesoleva määruse kohaldamisel tuleks avalikult juurdepääsetava ruumina käsitada mis tahes füüsilist kohta, mis on üldsusele juurdepääsetav, olenemata sellest, kas kõnealune koht on era- või avalik-õiguslikus omandis. Seega ei hõlma see mõiste olemuselt privaatseid kohti, mis ei ole kolmandatele isikutele, sh õiguskaitseasutustele tavaliselt ilma konkreetse kutse või loata vabalt juurdepääsetavad, näiteks inimeste kodusid, eraklubisid, kontoreid, ladusid ja tehaseid. Selle mõiste alla ei käi küberruum, sest see ei ole füüsiline ruum. Üksnes asjaolu, et konkreetsele ruumile juurdepääsuks on kehtestatud teatavad tingimused, näiteks pileti olemasolu või vanusepiirang, ei tähenda, et see ruum ei ole avalikult juurdepääsetav käesoleva määruse tähenduses. Seega peetakse avalikult juurdepääsetavaks ruumiks lisaks avalikule ruumile, nagu tänavad, valitsushoonete asjakohased osad ja suurem osa transporditaristust, tavaliselt ka selliseid ruume nagu kinod, teatrid, poed ja kaubanduskeskused. See, kas konkreetne ruum on avalikult juurdepääsetav, tuleks siiski otsustada igal üksikjuhul eraldi, võttes arvesse vaadeldava olukorra iseärasusi.

(9)

Käesoleva määruse kohaldamisel tuleks avalikult juurdepääsetava ruumina käsitada mis tahes füüsilist kohta, mis on üldsusele juurdepääsetav, olenemata sellest, kas kõnealune koht on era- või avalik-õiguslikus omandis ja sõltumata võimalikest mahupiirangutest . Seega ei hõlma see mõiste olemuselt privaatseid kohti, mis ei ole kolmandatele isikutele, sh õiguskaitseasutustele tavaliselt ilma konkreetse kutse või loata vabalt juurdepääsetavad, näiteks inimeste kodusid, eraklubisid, kontoreid, ladusid ja tehaseid. Selle mõiste alla ei käi küberruum, sest see ei ole füüsiline ruum. Üksnes asjaolu, et konkreetsele ruumile juurdepääsuks on kehtestatud teatavad tingimused, näiteks pileti olemasolu või vanusepiirang, ei tähenda, et see ruum ei ole avalikult juurdepääsetav käesoleva määruse tähenduses. Seega peetakse avalikult juurdepääsetavaks ruumiks lisaks avalikule ruumile, nagu tänavad, valitsushoonete asjakohased osad ja suurem osa transporditaristust, tavaliselt ka selliseid ruume nagu kinod, teatrid, spordisaalid, koolid, ülikoolid, haiglate ja pankade asjaomased ruumid, lõbustuspargid, festivalid, poed ja kaubanduskeskused. See, kas konkreetne ruum on avalikult juurdepääsetav, tuleks siiski otsustada igal üksikjuhul eraldi, võttes arvesse vaadeldava olukorra iseärasusi.

(9a)

On oluline märkida, et tehisintellektisüsteemid peaksid igal juhul püüdma järgida üldpõhimõtteid, millega luuakse kõrgetasemeline raamistik, mis edendab sidusat inimkeskset lähenemisviisi eetilisele ja usaldusväärsele tehisintellektile kooskõlas Euroopa Liidu põhiõiguste harta ja liidu alusväärtustega, sealhulgas põhiõiguste kaitse, inimese toimevõime ja inimjärelevalve, tehniline stabiilsus ja ohutus, privaatsus ja andmehaldus, läbipaistvus, mittediskrimineerimine ja õiglus ning ühiskondlik ja keskkonnaheaolu.

(9b)

Tehisintellektipädevus tähendab oskusi, teadmisi ja arusaamist, mis võimaldavad pakkujatel, kasutajatel ja mõjutatud isikutel, võttes arvesse nende käesolevas määruses sätestatud õigusi ja kohustusi, tehisintellekti süsteeme teadlikult juurutada ja suurendada teadlikkust tehisintellekti võimalustest ja riskidest ning võimalikust kahjust, mida see võib põhjustada, ning sellega edendada tehisintellekti demokraatlikku kontrolli. Tehisintellektipädevus ei tohiks piirduda vahendite ja tehnoloogia tundmaõppimisega, vaid selle eesmärk peaks olema ka anda pakkujatele ja kasutajatele mõisted ja oskused, mida on vaja käesoleva määruse järgimise ja jõustamise tagamiseks. Seetõttu on vaja, et komisjon, liikmesriigid ning tehisintellektisüsteemide pakkujad ja kasutajad edendaksid koostöös kõigi asjaomaste sidusrühmadega tehisintellektipädevuse piisava taseme arendamist kõigis ühiskonnasektorites igas vanuses inimeste, sealhulgas naiste ja tütarlaste jaoks, ning et selles valdkonnas tehtavaid edusamme jälgitaks tähelepanelikult.

(10)

Selleks et tagada võrdsed tingimused ning üksikisikute õiguste ja vabaduste tulemuslik kaitse kogu liidus, tuleks käesoleva määrusega kehtestatud õigusnorme kohaldada tehisintellektisüsteemide pakkujate suhtes, diskrimineerimata pakkujaid selle põhjal, kas nad tegutsevad liidus või mõnes kolmandas riigis, ja liidus tegutsevate tehisintellektisüsteemide kasutajate suhtes.

(10)

Selleks et tagada võrdsed tingimused ning üksikisikute õiguste ja vabaduste tulemuslik kaitse kogu liidus ja rahvusvahelisel tasandil , tuleks käesoleva määrusega kehtestatud õigusnorme kohaldada tehisintellektisüsteemide pakkujate suhtes, diskrimineerimata pakkujaid selle põhjal, kas nad tegutsevad liidus või mõnes kolmandas riigis, ja liidus tegutsevate tehisintellektisüsteemide juurutajate suhtes. Et liit vastaks oma põhiväärtustele, tuleks tehisintellektisüsteeme, mis on ette nähtud kasutamiseks käesoleva määruse kohaselt vastuvõetamatuteks peetavateks tavadeks, pidada ka väljaspool liitu vastuvõetamatuks nende eriti kahjuliku mõju tõttu hartas sätestatud põhiõigustele. Seepärast on asjakohane keelata liidus elavatel pakkujatel eksportida selliseid tehisintellektisüsteeme kolmandatesse riikidesse.

(11)

Arvestades tehisintellektisüsteemide digitaalset olemust, peaksid teatavad tehisintellektisüsteemid kuuluma käesoleva määruse kohaldamisalasse isegi siis, kui neid ei ole liidus turule lastud ega kasutusele võetud ja kui neid liidus ei kasutata. See kehtib näiteks siis, kui tegemist on liidus tegutseva operaatoriga, kes sõlmib väljaspool liitu tegutseva operaatoriga lepingu teatavate teenuste kohta, mis on seotud sellise tehisintellektisüsteemi teostatava tegevusega, mis kvalifitseeruks suure riskiga tehisintellektisüsteemiks ja mis mõjutab liidus asuvaid füüsilisi isikuid. Sellisel juhul võib väljaspool liitu asuva operaatori kasutatav tehisintellektisüsteem töödelda andmeid, mis on seaduslikult liidus kogutud ja mida liidust edastatakse, ning anda liidus asuvale lepingu sõlminud operaatorile väljundi, mille see tehisintellektisüsteem kõnealuse töötlemise tulemusena genereeris, ilma et see tehisintellektisüsteem oleks liidus turule lastud, kasutusele võetud või kasutatav. Et hoida ära käesoleva määruse sätetest kõrvalehoidmist ja tagada liidus asuvate füüsiliste isikute tulemuslik kaitse, tuleks käesolevat määrust kohaldada ka tehisintellektisüsteemide kolmandas riigis tegutsevate pakkujate ja kasutajate suhtes niivõrd, kuivõrd nende süsteemide genereeritud väljundit kasutatakse liidus. Võtmaks siiski arvesse olemasolevaid kokkuleppeid ja erivajadusi, mis puudutavad koostööd välispartneritega, kellega vahetatakse teavet ja tõendeid, ei tuleks käesolevat määrust kohaldada kolmanda riigi ametiasutuste ja rahvusvaheliste organisatsioonide suhtes, kui tegutsetakse selliste rahvusvaheliste lepingute alusel, mis on riigi või Euroopa tasandil sõlmitud liidu või selle liikmesriikidega tehtava õiguskaitse- ja õigusalase koostöö kohta. Selliseid lepinguid on sõlmitud kahepoolselt liikmesriikide ja kolmandate riikide vahel, aga ka Euroopa Liidu, Europoli ja muude ELi asutuste ning kolmandate riikide ja rahvusvaheliste organisatsioonide vahel.

(11)

Arvestades tehisintellektisüsteemide digitaalset olemust, peaksid teatavad tehisintellektisüsteemid kuuluma käesoleva määruse kohaldamisalasse isegi siis, kui neid ei ole liidus turule lastud ega kasutusele võetud ja kui neid liidus ei kasutata. See kehtib näiteks siis, kui tegemist on liidus tegutseva operaatoriga, kes sõlmib väljaspool liitu tegutseva operaatoriga lepingu teatavate teenuste kohta, mis on seotud sellise tehisintellektisüsteemi teostatava tegevusega, mis kvalifitseeruks suure riskiga tehisintellektisüsteemiks ja mis mõjutab liidus asuvaid füüsilisi isikuid. Sellisel juhul võib väljaspool liitu asuva operaatori kasutatav tehisintellektisüsteem töödelda andmeid, mis on seaduslikult liidus kogutud ja mida liidust edastatakse, ning anda liidus asuvale lepingu sõlminud operaatorile väljundi, mille see tehisintellektisüsteem kõnealuse töötlemise tulemusena genereeris, ilma et see tehisintellektisüsteem oleks liidus turule lastud, kasutusele võetud või kasutatav. Et hoida ära käesoleva määruse sätetest kõrvalehoidmist ja tagada liidus asuvate füüsiliste isikute tulemuslik kaitse, tuleks käesolevat määrust kohaldada ka tehisintellektisüsteemide kolmandas riigis tegutsevate pakkujate ja juurutajate suhtes niivõrd, kuivõrd nende süsteemide genereeritud väljund on mõeldud kasutamiseks liidus. Võtmaks siiski arvesse olemasolevaid kokkuleppeid ja erivajadusi, mis puudutavad koostööd välispartneritega, kellega vahetatakse teavet ja tõendeid, ei tuleks käesolevat määrust kohaldada kolmanda riigi ametiasutuste ja rahvusvaheliste organisatsioonide suhtes, kui tegutsetakse selliste rahvusvaheliste lepingute alusel, mis on riigi või Euroopa tasandil sõlmitud liidu või selle liikmesriikidega tehtava õiguskaitse- ja õigusalase koostöö kohta. Selliseid lepinguid on sõlmitud kahepoolselt liikmesriikide ja kolmandate riikide vahel, aga ka Euroopa Liidu, Europoli ja muude ELi asutuste ning kolmandate riikide ja rahvusvaheliste organisatsioonide vahel. See erand peaks siiski piirduma usaldusväärsete riikide ja rahvusvaheliste organisatsioonidega, kes jagavad liidu väärtusi.

(12)

Käesolevat määrust tuleks kohaldada ka liidu institutsioonide, organite ja asutuste suhtes, kui need tegutsevad tehisintellektisüsteemi pakkuja või kasutajana . Käesoleva määruse kohaldamisalast tuleks välja jätta tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse eranditult sõjalisel otstarbel, kui nende kasutamine kuulub Euroopa Liidu leping V jaotise alusel reguleeritava ühise välis- ja julgeolekupoliitika ainupädevusse. Käesolev määrus ei tohiks mõjutada Euroopa Parlamendi ja nõukogu direktiivi 2000/31/EÜ vahendajatest teenuseosutajate vastutust käsitlevate sätete [asendatakse digiteenuste õigusakti vastavate sätetega] kohaldamist.

(12)

Käesolevat määrust tuleks kohaldada ka liidu institutsioonide, organite ja asutuste suhtes, kui need tegutsevad tehisintellektisüsteemi pakkuja või juurutajana . Käesoleva määruse kohaldamisalast tuleks välja jätta tehisintellektisüsteemid, mis on välja töötatud või mida kasutatakse eranditult sõjalisel otstarbel, kui nende kasutamine kuulub Euroopa Liidu leping V jaotise alusel reguleeritava ühise välis- ja julgeolekupoliitika ainupädevusse. Käesolev määrus ei tohiks mõjutada Euroopa Parlamendi ja nõukogu direktiivi 2000/31/EÜ vahendajatest teenuseosutajate vastutust käsitlevate sätete [asendatakse digiteenuste õigusakti vastavate sätetega] kohaldamist.

(12a)

Tarkvara ja andmed, mida jagatakse avalikult ning kus kasutajad saavad neile või nende muudetud versioonidele vabalt juurde pääseda, neid kasutada, muuta ja ümber jagada, võivad aidata kaasa teadusuuringutele ja innovatsioonile turul. Komisjoni uuringud näitavad ka, et vaba ja avatud lähtekoodiga tarkvara võib anda Euroopa Liidu SKPsse 65–95 miljardit eurot ning et see võib pakkuda Euroopa majandusele märkimisväärseid kasvuvõimalusi. Kasutajatel on vaba ja avatud lähtekoodiga litsentside alusel lubatud käitada, kopeerida, levitada, uurida, muuta ja parandada tarkvara ja andmeid, sealhulgas mudeleid. Et toetada tehisintellekti arendamist ja juurutamist, eriti VKEde, idufirmade ja teadusasutuste, kuid ka üksikisikute poolt, ei tuleks käesolevat määrust kohaldada selliste vaba ja avatud lähtekoodiga tehisintellekti komponentide suhtes, välja arvatud juhul, kui pakkuja on need turule lasknud või kasutusele võtnud suure riskiga tehisintellektisüsteemi või käesoleva määruse II või IV jaotise alla kuuluva tehisintellektisüsteemi osana.

(12b)

Vaba ja avatud lähtekoodiga tehisintellekti komponentide koostöölist arendamist ja nende avatud hoidlates kättesaadavaks tegemist ei tohiks lugeda turule laskmiseks või kasutusele võtmiseks. Äritegevust võivad turule laskmise mõiste piirides aga iseloomustada vaba ja avatud lähtekoodiga tehisintellekti komponendi eest hinna küsimine, välja arvatud tehingud mikroettevõtete vahel, aga ka näiteks tehniliste tugiteenuste eest hinna küsimine, tarkvaraplatvormi pakkumine, mille kaudu pakkuja teenib raha muude teenuste eest, või isikuandmete kasutamine muul otstarbel kui üksnes tarkvara turvalisuse, ühilduvuse või koostalitlusvõime parandamiseks.

(12c)

Vaba ja avatud lähtekoodiga tehisintellekti komponentide arendajaid ei tohiks käesoleva määruse alusel kohustada täitma tehisintellekti väärtusahelale suunatud nõudeid, eriti nõudeid, mis on suunatud pakkujale, kes on kasutanud vaba ja avatud lähtekoodiga tehisintellekti komponente. Vaba ja avatud lähtekoodiga tehisintellekti komponentide arendajaid tuleks siiski julgustada rakendama laialdaselt vastu võetud dokumenteerimistavasid, nagu mudelid ja andmekaardid, et kiirendada teabe jagamist tehisintellekti väärtusahelas, võimaldades liidus edendada usaldusväärseid tehisintellektisüsteeme.

(13)

Selleks et tagada järjekindel ja kõrgetasemeline avalike huvide kaitse tervishoiu, ohutuse ja põhiõiguste vallas, tuleks kõigi suure riskiga tehisintellektisüsteemide jaoks kehtestada ühised normatiivsed standardid. Need standardid peaksid olema kooskõlas Euroopa Liidu põhiõiguste hartaga (edaspidi „põhiõiguste harta“) ning ühtlasi peaksid need olema mittediskrimineerivad ja kooskõlas liidu rahvusvaheliste kaubanduskohustustega.

(13)

Selleks et tagada järjekindel ja kõrgetasemeline avalike huvide kaitse tervishoiu, ohutuse ja põhiõiguste , samuti demokraatia ja õigusriigi ning keskkonna vallas, tuleks kõigi suure riskiga tehisintellektisüsteemide jaoks kehtestada ühised normatiivsed standardid. Need standardid peaksid olema kooskõlas Euroopa Liidu põhiõiguste hartaga , Euroopa rohelise kokkuleppega, liidu digiõiguste ühisdeklaratsiooniga, kõrgetasemelise tehisintellekti eksperdirühma usaldusväärse tehisintellekti eetikasuunistega ning ühtlasi peaksid need olema mittediskrimineerivad ja kooskõlas liidu rahvusvaheliste kaubanduskohustustega.

(14)

Selleks et kehtestada tehisintellektisüsteemide suhtes proportsionaalsed, mõjusad ja siduvad õigusnormid, tuleks järgida selgelt määratletud riskipõhist lähenemisviisi. Sellise lähenemisviisi kohaselt tuleks nende õigusnormide liiki ja sisu kujundada vastavalt tehisintellektisüsteemide põhjustatavate riskide intensiivsusele ja ulatusele. Seepärast tuleb keelata teatavad tehisintellektisüsteemide kasutusviisid, näha ette suure riskiga tehisintellektisüsteemide suhtes kohaldatavad nõuded ja asjaomaste operaatorite kohustused ning kehtestada teatavate tehisintellektisüsteemide puhul läbipaistvuskohustused.

(14)

Selleks et kehtestada tehisintellektisüsteemide suhtes proportsionaalsed, mõjusad ja siduvad õigusnormid, tuleks järgida selgelt määratletud riskipõhist lähenemisviisi. Sellise lähenemisviisi kohaselt tuleks nende õigusnormide liiki ja sisu kujundada vastavalt tehisintellektisüsteemide põhjustatavate riskide intensiivsusele ja ulatusele. Seepärast tuleb keelata teatavad tehisintellektisüsteemide vastuvõetamatud kasutusviisid, näha ette suure riskiga tehisintellektisüsteemide suhtes kohaldatavad nõuded ja asjaomaste operaatorite kohustused ning kehtestada teatavate tehisintellektisüsteemide puhul läbipaistvuskohustused.

(15)

Lisaks sellele, et tehisintellektil on mitmeid kasulikke rakendusvõimalusi, on seda tehnoloogiat võimalik ka kurjasti kasutada ning luua uudseid ja võimsaid manipuleerimise, ärakasutamise ja sotsiaalse kontrolli vahendeid. Sellised kasutusviisid on eriti kahjulikud ning tuleks ära keelata, sest need on vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadust, võrdsus, demokraatia ja õigusriik ning liidu põhiõigustega, kaasa arvatud õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega.

(15)

Lisaks sellele, et tehisintellektil on mitmeid kasulikke rakendusvõimalusi, on seda tehnoloogiat võimalik ka kurjasti kasutada ning luua uudseid ja võimsaid manipuleerimise, ärakasutamise ja sotsiaalse kontrolli vahendeid. Sellised kasutusviisid on eriti kahjulikud ja ahistavad ning tuleks ära keelata, sest need on vastuolus selliste liidu väärtustega nagu inimväärikuse austamine, vabadust, võrdsus, demokraatia ja õigusriik ning liidu põhiõigustega, kaasa arvatud õigusega mittediskrimineerimisele, andmekaitsele ja privaatsusele, aga ka lapse õigustega.

(16)

Keelata tuleks selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine ja kasutamine, mille eesmärk on moonutada inimeste käitumist ja millega võib tõenäoliselt põhjustada füüsilist või psühholoogilist kahju. Sellistes tehisintellektisüsteemides kasutatakse alalävisele tajule suunatud elemente, mida inimesed ei suuda tajuda, või kasutatakse ära laste haavatavust ja inimeste vanusest või füüsilisest või vaimsest võimetusest tulenevaid nõrku kohti . Selle eesmärk on oluliselt moonutada inimese käitumist viisil, mis kahjustab või tõenäoliselt kahjustab seda või mõnd teist isikut. Sellist eesmärki ei saa eeldada, kui inimese käitumist moonutavad tehisintellektisüsteemivälised tegurid , mis ei ole pakkuja või kasutaja kontrolli all. Selline keeld ei tohiks takistada kõnealuseid tehisintellektisüsteeme käsitlevaid õiguspärastel eesmärkidel tehtavaid teadusuuringuid, kui selliste teadusuuringute puhul pole tegemist tehisintellektisüsteemi kasutamisega inimeste ja masinate vahelistes suhetes viisil, mis seab inimesed ohtu, ning kui selliseid teadusuuringuid tehakse kooskõlas teadusuuringute tunnustatud eetikanormidega.

(16)

Keelata tuleks selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine ja kasutamine, mille eesmärk või tagajärg on inimeste käitumist märkimisväärselt moonutada ja millega võib tõenäoliselt põhjustada füüsilist või psühholoogilist kahju. Seda piirangut tuleks mõista nii, et see hõlmab neurotehnoloogiaid, mida toetavad tehisintellektisüsteemid, mida kasutatakse aju ja arvuti vaheliste liideste kaudu rahalistel eesmärkidel kogutud närviandmete jälgimiseks, kasutamiseks või mõjutamiseks, kui need moonutavad oluliselt füüsilise isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab talle või teisele isikule olulist kahju. Sellistes tehisintellektisüsteemides kasutatakse alalävisele tajule suunatud elemente, mida inimesed ei suuda tajuda, või kasutatakse ära isikute ja konkreetsete isikute rühmade haavatavust , mis tuleneb nende teadaolevatest või eeldatavatest isikuomadustest, vanusest, füüsilisest või vaimsest võimetusest , sotsiaalsest või majanduslikust olukorrast . Selle eesmärk on oluliselt moonutada inimese käitumist viisil, mis kahjustab või tõenäoliselt kahjustab oluliselt seda või mõnd teist isikut või isikute rühma, sealhulgas kahjustamine, mis võib tekkida aja jooksul . Käitumise moonutamise eesmärki ei saa eeldada, kui moonutamine tuleneb tehisintellektisüsteemivälistest teguritest , mis ei ole pakkuja või kasutaja kontrolli all , st teguritest, mida pakkuja või tehisintellektisüsteemi juurutaja ei saa mõistlikult ette näha ega leevendada. Igal juhul ei ole vajalik, et pakkujal või juurutajal oleks kavatsus tekitada olulist kahju, kui selline kahju tuleneb manipuleerivatest või ekspluateerivatest tehisintellektipõhistest tavadest. Selliste tehisintellektitavade keelud täiendavad direktiivi 2005/29/EÜ sätteid, mille kohaselt on ebaausad kaubandustavad keelatud, olenemata sellest, kas nad kasutavad tehisintellektisüsteeme või mitte. Sellisel juhul ei tohiks seaduslikke kaubandustavasid, mis on kooskõlas liidu õigusega, näiteks reklaami valdkonnas, pidada iseenesest keelu rikkumiseks. Selline keeld ei tohiks takistada kõnealuseid tehisintellektisüsteeme käsitlevaid õiguspärastel eesmärkidel tehtavaid teadusuuringuid, kui selliste teadusuuringute puhul pole tegemist tehisintellektisüsteemi kasutamisega inimeste ja masinate vahelistes suhetes viisil, mis seab inimesed ohtu, ning kui selliseid teadusuuringuid tehakse kooskõlas teadusuuringute tunnustatud eetikanormidega ja nendega kokku puutuvate isikute või vajaduse korral nende seadusliku eestkostja konkreetse teadliku nõusoleku alusel .

(16a)

Tehisintellektisüsteemid, mis liigitavad füüsilisi isikuid konkreetsetesse kategooriatesse vastavalt teadaolevatele või kaudsetele tundlikele või kaitstud omadustele, on eriti sekkuvad, rikuvad inimväärikust ja kujutavad endast suurt diskrimineerimisohtu. Selliste omaduste hulka kuuluvad sugu ja sooline identiteet, rass, etniline päritolu, rände- või kodakondsusstaatus, poliitilised vaated, seksuaalne sättumus, usutunnistus, puue või mis tahes muud põhjused, mille tõttu diskrimineerimine on vastavalt ELi põhiõiguste harta artiklile 21 ja määruse (EL) 2016/769 artiklile 9 keelatud. Seepärast peaksid sellised süsteemid olema keelatud.

(17)

Tehisintellektisüsteemid, mida kasutatakse avalike võimude poolt või nende nimel füüsiliste isikute üldotstarbeliseks sotsiaalseks hindamiseks, võivad tuua kaasa diskrimineerimise ja teatavate rühmade kõrvalejätmise. Need süsteemid võivad rikkuda õigust väärikusele ja mittediskrimineerimisele ning olla vastuolus võrdsuse ja õigluse väärtustega. Sellised tehisintellektisüsteemid hindavad või liigitavad füüsiliste isikute usaldusväärsust , tuginedes nende sotsiaalsele käitumisele eri kontekstides või prognoositud isiku- või iseloomuomadustele. Selliste tehisintellektisüsteemide antud sotsiaalne hinne võib tuua kaasa füüsilisi isikuid või terveid inimrühmi kahjustavat või nende suhtes ebasoodsat kohtlemist sotsiaalses kontekstis, mis ei ole seotud kontekstiga, kus andmed algselt genereeriti või koguti, või kahjustavat kohtlemist, mis ei ole nende sotsiaalse käitumise problemaatilisusega võrreldes proportsionaalne või põhjendatud. Seepärast peaksid sellised tehisintellektisüsteemid olema keelatud.

(17)

Tehisintellektisüsteemid, mida kasutatakse füüsiliste isikute üldotstarbeliseks sotsiaalseks hindamiseks, võivad tuua kaasa diskrimineerimise ja teatavate rühmade kõrvalejätmise. Need süsteemid rikuvad õigust väärikusele ja mittediskrimineerimisele ning on vastuolus võrdsuse ja õigluse väärtustega. Sellised tehisintellektisüsteemid hindavad või liigitavad füüsilisi isikuid või rühmi , tuginedes paljudele andmepunktidele ja ajalisele esinemisele, mis on seotud nende sotsiaalse käitumisega eri kontekstides, või teadaolevatele, oletatavatele või prognoositud isiku- või iseloomuomadustele. Selliste tehisintellektisüsteemide antud sotsiaalne hinne võib tuua kaasa füüsilisi isikuid või terveid inimrühmi kahjustavat või nende suhtes ebasoodsat kohtlemist sotsiaalses kontekstis, mis ei ole seotud kontekstiga, kus andmed algselt genereeriti või koguti, või kahjustavat kohtlemist, mis ei ole nende sotsiaalse käitumise problemaatilisusega võrreldes proportsionaalne või põhjendatud. Seepärast peaksid sellised tehisintellektisüsteemid olema keelatud.

(18)

Tehisintellektisüsteemide kasutamist avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks peetakse eriti tõsiseks sekkumiseks asjaomaste isikute õigustesse ja vabadustesse , sest see võib mõjutada suure osa elanikkonna eraelu, tekitada pideva jälgimise tunde ning kaudselt veenda loobuma kogunemisvabaduse ja muude põhiõiguste kasutamisest. Kuna selliste reaalajas töötavate süsteemide kasutamise mõju on vahetu ja täiendava kontrolli või parandamise võimalused piiratud, seab selliste süsteemide kasutamine suuremasse ohtu õiguskaitsetoimingute mõjuvälja jäävate isikute õigused ja vabadused.

(18)

Tehisintellektisüsteemide kasutamine avalikult juurdepääsetavas ruumis reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks on eriti tõsine sekkumine asjaomaste isikute õigustesse ja vabadustesse ning võib kokkuvõttes mõjutada suure osa elanikkonna eraelu, tekitada pideva jälgimise tunde , anda osapooltele, kes kasutavad biomeetrilist tuvastamist avalikult juurdepääsetavas ruumis, kontrollimatu võimu positsioon ning kaudselt veenda loobuma kogunemisvabaduse ja muude põhiõiguste kasutamisest , mis on õigusriigi keskmes. Füüsiliste isikute biomeetrilise kaugtuvastamise jaoks mõeldud tehisintellektisüsteemide tehniline ebatäpsus võib kaasa tuua tulemuste kallutatuse ja põhjustada diskrimineerimist. Eriti oluline on see seoses vanuse, etnilise päritolu, soo või puuetega . Kuna selliste reaalajas töötavate süsteemide kasutamise mõju on vahetu ja täiendava kontrolli või parandamise võimalused piiratud, seab selliste süsteemide kasutamine suuremasse ohtu õiguskaitsetoimingute mõjuvälja jäävate isikute õigused ja vabadused. Seepärast peaks selliste süsteemide kasutamine avalikult juurdepääsetavas ruumis olema keelatud. Samuti tuleks keelata tehisintellektisüsteemid, mida kasutatakse avaliku ruumi salvestatud salvestiste analüüsimiseks tagantjärele biomeetrilise kaugtuvastamise süsteemide kaudu, välja arvatud juhul, kui on olemas kohtulik luba kasutamiseks õiguskaitse kontekstis, kui see on rangelt vajalik konkreetse raske kuriteoga seotud sihipäraseks otsinguks, mis on juba toimunud, ja üksnes kohtuliku loa alusel.

(19)

Seepärast peaks selliste süsteemide kasutamine õiguskaitse eesmärgil olema keelatud, välja arvatud kolmes ammendavalt loetletud ja kitsalt määratletud olukorras, kus nende süsteemide kasutamine on rangelt vajalik selleks, et saavutada olulise avaliku huvi eesmärk, mille tähtsus kaalub riskid üles. Selliste olukordade hulka kuuluvad võimalike kuriteoohvrite, kaasa arvatud kadunud laste otsimine, teatavad füüsiliste isikute elu või füüsilist turvalisust ähvardavad ohud või terrorirünnaku oht ning nõukogu raamotsuses 2002/584/JSK  (38) osutatud kuritegude toimepanijate või sellistes kuritegudes kahtlustatavate avastamine, nende asukohta kindlaks tegemine, nende tuvastamine või neile süüdistuse esitamine, kui sellise kuriteo eest karistatakse asjaomases liikmesriigis vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt kolm aastat, nagu selle liikmesriigi õigusaktides kindlaks määratud. Sellise ajalise piiri seadmine siseriikliku õiguse kohasele vabadusekaotusele või vabadust piiravale julgeolekumeetmele aitab tagada, et reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine oleks õigustatud vaid piisavalt tõsiste rikkumiste korral. Peale selle on nõukogu raamotsuses 2002/584/JSK loetletud 32 kuriteost mõned praktikas tõenäoliselt teistest asjakohasemad, sest reaalajas toimuva biomeetrilise kaugtuvastamise kasutamise eeldatav vajalikkus ja proportsionaalsus varieeruvad märkimisväärselt, kui tegemist on loetelus nimetatud kuriteo toimepanija või sellises kuriteos kahtlustatava reaalse avastamise, tema asukoha kindlaks tegemise, tema tuvastamise või talle süüdistuse esitamisega ja kui võetakse arvesse võimalike negatiivsete tagajärgede raskusastme, tõenäosuse ja ulatuse tõenäolisi erinevusi.

(20)

Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist kolmest ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi seoses kõigi asjaomaste isikute õiguste ja vabadustega ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Peale selle peaks reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil olema ajas ja ruumis asjakohaselt piiratud, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Isikute võrdlusandmebaas peaks olema iga eespool nimetatud kolme olukorra puhul iga kasutusmalli jaoks sobiv.

(21)

Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks selleks olema liikmesriigi õigusasutuse või sõltumatu haldusasutuse selge ja konkreetne luba. Põhimõtteliselt tuleks selline luba saada enne kasutamist, kui just pole tegemist nõuetekohaselt põhjendatud kiireloomulise juhtumiga, st olukorraga, kus vajadus kõnealuste süsteemide kasutamise järele on selline, et enne kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Selliste kiireloomuliste juhtumite korral peaks kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud siseriiklikus õiguses ja mida õiguskaitseasutus iga individuaalse kiireloomulise kasutusjuhtumi korral täpsustab. Lisaks sellele peaks õiguskaitseasutus sellistel juhtudel püüdma saada loa nii pea kui võimalik ja põhjendama, miks ta ei saanud luba varem taotleda.

(22)

Ühtlasi on käesoleva määrusega kehtestatavas ammendavas raamistikus otstarbekas ette näha, et selline kasutamine liikmesriigi territooriumil kooskõlas käesoleva määrusega peaks olema võimalik üksnes siis ja niivõrd, kuivõrd kõnealune liikmesriik on otsustanud oma siseriikliku õiguse üksikasjalikes õigusnormides selgelt sätestada võimaluse sellist kasutamist lubada. Seega jääb liikmesriikidele käesoleva määruse alusel vabadus sellist võimalust üldse mitte ette näha või näha selline võimalus ette üksnes mõne eesmärgi jaoks, mille puhul on käesolevas määruses kirjeldatud lubatud kasutamine õigustatud.

(23)

Tehisintellektisüsteemide kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil reaalajas toimuva füüsiliste isikute biomeetrilise kaugtuvastamise jaoks eeldab igal juhul biomeetriliste andmete töötlemist. Käesoleva määruse sätted, millega keelatakse selline kasutamine teatavate eranditega ja mis põhinevad ELi toimimise lepingu artiklil 16, tuleks direktiivi (EL) 2016/680 artiklis 10 sätestatud biomeetriliste andmete töötlemist käsitlevate õigusnormide suhtes, peaksid kehtima erinormina (lex specialis), nii et selline kasutamine ja sellega kaasnev biomeetriliste andmete töötlemine oleksid ammendavalt reguleeritud. Seega peaks selline kasutamine ja töötlemine olema võimalik üksnes siis, kui see on kooskõlas käesoleva määrusega kehtestatud raamistikuga, ning väljaspool seda raamistikku ei tohiks pädevatel asutustel olla võimalik õiguskaitse eesmärgil tegutsedes kasutada selliseid süsteeme ja töödelda sellega seoses selliseid andmeid direktiivi (EL) 2016/680 artiklis 10 loetletud põhjustel. Seoses sellega ei ole käesoleva määruse eesmärk anda õiguslikku alust isikuandmete töötlemiseks direktiivi 2016/680 artikli 8 alusel. Käesoleva määrusega loodud eriraamistik, mis käsitleb sellist kasutamist õiguskaitse eesmärgil, ei peaks siiski hõlmama reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamist avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil, ka siis, kui seda teevad pädevad asutused. Seega ei peaks selliseks kasutamise suhtes muul otstarbel kui õiguskaitse eesmärgil kehtima käesoleva määruse kohase loa nõue ega selle jõustamiseks kohaldatavad üksikasjalikud siseriiklikud õigusnormid.

(24)

Igasugune biomeetriliste ja muude isikuandmete töötlemine, mis on seotud tehisintellektisüsteemide kasutamisega biomeetrilise tuvastamise jaoks, v.a juhul, kui see toimub seoses käesoleva määrusega reguleeritud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisega avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, kaasa arvatud juhul, kui pädevad asutused kasutavad neid süsteeme avalikult juurdepääsetavas ruumis muul otstarbel kui õiguskaitse eesmärgil , peaks ka edaspidi vastama kõigile määruse (EL) 2016/679, artikli 9 lõikest 1, määruse (EL) 2018/1725 artikli 10 lõikest 1 ja direktiivi (EL) 2016/680 artiklist 10 tulenevatele nõuetele, nagu on asjakohane.

(24)

Igasugune biomeetriliste ja muude isikuandmete töötlemine, mis on seotud tehisintellektisüsteemide kasutamisega biomeetrilise tuvastamise jaoks, v.a juhul, kui see toimub seoses käesoleva määrusega reguleeritud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisega avalikult juurdepääsetavas ruumis, peaks ka edaspidi vastama kõigile määruse (EL) 2016/679, artikli 9 lõikest 1, määruse (EL) 2018/1725 artikli 10 lõikest 1 ja direktiivi (EL) 2016/680 artiklist 10 tulenevatele nõuetele, nagu on asjakohane.

(25)

ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 21 (Ühendkuningriigi ja Iirimaa seisukoha kohta vabadusel, turvalisusel ja õigusel rajaneva ala suhtes) artikli 6a kohaselt ei ole ELi toimimise lepingu artikli 16 põhjal vastu võetud käesoleva määruse artikli 5 lõike 1 punktis d  ning lõigetes 2 ja 3 normid füüsiliste isikute kaitse kohta isikuandmete töötlemisel liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. ja 5. peatüki kohaldamisalasse kuuluva tegevuse puhul Iirimaa suhtes siduvad, kui Iirimaa suhtes ei ole siduvad normid, mis käsitlevad õigusalast koostööd kriminaalasjades või politseikoostööd, mille raames tuleb järgida ELi toimimise lepingu artikli 16 alusel kehtestatud sätteid.

(25)

ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 21 (Ühendkuningriigi ja Iirimaa seisukoha kohta vabadusel, turvalisusel ja õigusel rajaneva ala suhtes) artikli 6a kohaselt ei ole ELi toimimise lepingu artikli 16 põhjal vastu võetud käesoleva määruse artikli 5 lõike 1 punktis d normid füüsiliste isikute kaitse kohta isikuandmete töötlemisel liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. ja 5. peatüki kohaldamisalasse kuuluva tegevuse puhul Iirimaa suhtes siduvad, kui Iirimaa suhtes ei ole siduvad normid, mis käsitlevad õigusalast koostööd kriminaalasjades või politseikoostööd, mille raames tuleb järgida ELi toimimise lepingu artikli 16 alusel kehtestatud sätteid.

(26)

ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 22 (Taani seisukoha kohta) artiklite 2 ja 2a kohaselt ei ole ELi toimimise lepingu artikli 16 põhjal vastu võetud käesoleva määruse artikli 5 lõike 1 punktis d  ning lõigetes 2 ja 3 sätestatud normid füüsiliste isikute kaitse kohta isikuandmete töötlemisel liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. ja 5. peatüki kohaldamisalasse kuuluva tegevuse puhul Taani suhtes siduvad ega kohaldatavad.

(26)

ELi lepingule ja ELi toimimise lepingule lisatud protokolli nr 22 (Taani seisukoha kohta) artiklite 2 ja 2a kohaselt ei ole ELi toimimise lepingu artikli 16 põhjal vastu võetud käesoleva määruse artikli 5 lõike 1 punktis d sätestatud normid füüsiliste isikute kaitse kohta isikuandmete töötlemisel liikmesriikide poolt ELi toimimise lepingu kolmanda osa V jaotise 4. ja 5. peatüki kohaldamisalasse kuuluva tegevuse puhul Taani suhtes siduvad ega kohaldatavad.

(26a)

Tehisintellektisüsteemide puhul, mida kasutavad õiguskaitseasutused või mida kasutatakse nende nimel selleks, et teha prognoose, profiile või riskianalüüse, mis põhinevad füüsiliste isikute profiilianalüüsil või andmeanalüüsil või füüsiliste isikute rühmade või asukohtade profiilianalüüsil, võttes aluseks isiksuseomadused, sealhulgas isiku asukoha või füüsiliste isikute või isikute rühmade varasema kuritegeliku käitumise, eesmärgiga prognoosida tegelikke või võimalikke kuritegusid või muud kriminaalset sotsiaalset käitumist või haldusõiguserikkumisi, sealhulgas pettuste ennustamise süsteemid, on eriline oht diskrimineerida teatavaid isikuid või isikute rühmi, kuna need süsteemid rikuvad inimväärikust ja süütuse presumptsiooni, mis on keskne õiguspõhimõte. Seepärast peaksid sellised tehisintellektisüsteemid olema keelatud.

(26b)

Biomeetriliste andmete valimatu ja sihipäratu kogumine sotsiaalmeediast või videovalve salvestistest näotuvastuse andmebaaside loomiseks või laiendamiseks suurendab massilise jälgimise tunnet ning võib viia põhiõiguste, sealhulgas eraelu puutumatuse õiguse ränkade rikkumisteni. Seepärast peaks tehisintellektisüsteemide kasutamine sel eesmärgil olema keelatud.

(26c)

On tõsiseid kahtlusi, kas tehisintellektisüsteemidel, mille eesmärk on tuvastada emotsioone, füüsilisi või füsioloogilisi tunnuseid, nagu näoilmed, liigutused, pulss või hääl, on teaduslik alus. Emotsioonid või nende väljendumine ja tajumine varieerub märkimisväärselt eri kultuurides ja olukordades ning isegi üksikisiku tasemel. Selliste tehnoloogiate peamisteks puudusteks on piiratud usaldusväärsus (emotsioonikategooriaid ei väljendata usaldusväärselt ega seostata ühiste füüsiliste või füsioloogiliste liigutustega), vähene spetsiifilisus (füüsilised või füsioloogilised väljendused ei vasta täielikult emotsioonikategooriatele) ja piiratud üldistatavus (konteksti ja kultuuri mõju ei ole piisavalt arvesse võetud). Usaldusväärsusega seotud probleemid ja sellest tulenevalt ka suur kuritarvitamise oht võivad tekkida eelkõige süsteemi kasutuselevõtmisel tegelikes olukordades, mis on seotud õiguskaitse, piirihalduse, töökoha ja haridusasutustega. Seetõttu tuleks keelata selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, mis on ette nähtud kasutamiseks sellises kontekstis füüsilise isiku emotsionaalse seisundi tuvastamiseks.

(26d)

Käesolev määrus ei tohiks mõjutada tavasid, mis on keelatud liidu õigusaktidega, sealhulgas andmekaitseõiguse, diskrimineerimisvastase õiguse, tarbijakaitseõiguse ja konkurentsiõiguse alusel.

(27)

Suure riskiga tehisintellektisüsteem tuleks liidus turule lasta või kasutusele võtta üksnes siis, kui see vastab teatavatele kohustuslikele nõuetele. Need nõuded peaksid tagama, et liidus kättesaadavad suure riskiga tehisintellektisüsteemid või tehisintellektisüsteemid, mille väljundit kasutatakse liidus muul viisil, ei kujuta endast vastuvõetamatut riski liidu õigusega tunnustatud ja kaitstud liidu oluliste avalike huvide suhtes. Suure riskiga tehisintellektisüsteemideks tuleks pidada üksnes selliseid tehisintellektisüsteeme, millel on liidus oluline kahjulik mõju inimeste tervisele, ohutusele ja põhiõigustele, ning selline piirang minimeerib kõik võimalikud rahvusvahelise kaubanduse piirangud, kui neid peaks olema.

(27)

Suure riskiga tehisintellektisüsteem tuleks liidus turule lasta , kasutusele võtta või seda tuleks kasutada üksnes siis, kui see vastab teatavatele kohustuslikele nõuetele. Need nõuded peaksid tagama, et liidus kättesaadavad suure riskiga tehisintellektisüsteemid või tehisintellektisüsteemid, mille väljundit kasutatakse liidus muul viisil, ei kujuta endast vastuvõetamatut riski liidu õigusega tunnustatud ja kaitstud liidu oluliste avalike huvide suhtes , sealhulgas inimõiguste, demokraatia, õigusriigi ja keskkonna suhtes. Et tagada vastavus valdkondlikele õigusaktidele ja hoida ära dubleerimist, tuleks suure riskiga tehisintellektisüsteemide ja kasutusviiside puhul võtta arvesse valdkondlikke õigusakte, milles on sätestatud nõuded käesoleva määruse kohaldamisalasse kuuluvate suure riskiga tehisintellektisüsteemide kohta, näiteks määrus (EL) 2017/745, milles käsitletakse meditsiiniseadmeid, ja määrus (EL) 2017/746 in vitro diagnostikameditsiiniseadmete kohta ning direktiiv 2006/42/EÜ masinate kohta . Suure riskiga tehisintellektisüsteemideks tuleks pidada üksnes selliseid tehisintellektisüsteeme, millel on liidus oluline kahjulik mõju inimeste tervisele, ohutusele ja põhiõigustele, ning selline piirang minimeerib kõik võimalikud rahvusvahelise kaubanduse piirangud, kui neid peaks olema. Võttes arvesse tehnoloogia kiiret arengut ja võimalikke muutusi tehisintellektisüsteemide kasutamises, tuleks III lisas esitatud suure riskiga valdkondade ja kasutusjuhtumite loetelu siiski korrapäraselt läbi vaadata.

(28)

Tehisintellektisüsteemid võivad kahjustada inimeste tervist ja ohutust, eriti juhul, kui sellised süsteemid on toodete komponendid . Kooskõlas liidu ühtlustamisõigusaktide eesmärkidega hõlbustada toodete vaba liikumist siseturul ja tagada, et siseturule saabuvad ainult ohutud ja muul viisil nõuetele vastavad tooted, on oluline tõhusalt ära hoida ja leevendada riske, mille toode kui tervik võib põhjustada oma digitaalsete komponentide, sh tehisintellektisüsteemide tõttu. Näiteks üha autonoomsemad robotid peaksid suutma ohutult töötada ja täita oma ülesandeid keerukates keskkondades, seda nii tootmise kui ka isikliku abi ja hoolduse valdkonnas. Sama moodi peaksid usaldusväärsed ja täpsed olema tervishoiusektoris kasutatavad üha keerulisemad diagnostikasüsteemid ja inimeste otsuseid toetavad süsteemid, sest seal on tegemist elu ja tervise seisukohast eriti oluliste otsustega. Tehisintellektisüsteemi liigitamisel suure riskiga tehisintellektisüsteemiks on eriti oluline see, kui ulatuslik on tehisintellektisüsteemi kahjulik mõju põhiõiguste hartaga kaitstud põhiõigustele. Nende õiguste hulka kuuluvad õigus inimväärikusele, era- ja perekonnaelu austamine, isikuandmete kaitse, väljendus- ja teabevabadus, kogunemis- ja ühinemisvabadus, mittediskrimineerimine, tarbijakaitse, töötajate õigused, puuetega inimeste õigused, õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele, süütuse presumptsioon ja õigus heale haldusele. Lisaks nimetatud õigustele on oluline rõhutada, et lastel on eraldi õigused, mis on sätestatud ELi harta artiklis 24 ja ÜRO lapse õiguste konventsioonis (mida on põhjalikumalt käsitletud ÜRO lapse õiguste komitee üldises märkuses nr 25 digikeskkonna kohta), kusjuures mõlema dokumendi kohaselt tuleb arvesse võtta laste haavatavust ja näha ette nende heaoluks vajalik kaitse ja hoolitsus. Hinnates, kui tõsist kahju võib tehisintellektisüsteem põhjustada, muu hulgas inimeste tervise ja ohutuse vallas, tuleks kaaluda ka põhiõiguste hartas sätestatud ja liidu põhimõtetega rakendatud põhiõigust kõrgetasemelisele keskkonnakaitsele.

(28)

Tehisintellektisüsteemid võivad kahjustada inimeste tervist ja ohutust, eriti juhul, kui sellised süsteemid on toodete turvakomponendid . Kooskõlas liidu ühtlustamisõigusaktide eesmärkidega hõlbustada toodete vaba liikumist siseturul ja tagada, et siseturule saabuvad ainult ohutud ja muul viisil nõuetele vastavad tooted, on oluline tõhusalt ära hoida ja leevendada riske, mille toode kui tervik võib põhjustada oma digitaalsete komponentide, sh tehisintellektisüsteemide tõttu. Näiteks üha autonoomsemad robotid peaksid suutma ohutult töötada ja täita oma ülesandeid keerukates keskkondades, seda nii tootmise kui ka isikliku abi ja hoolduse valdkonnas. Sama moodi peaksid usaldusväärsed ja täpsed olema tervishoiusektoris kasutatavad üha keerulisemad diagnostikasüsteemid ja inimeste otsuseid toetavad süsteemid, sest seal on tegemist elu ja tervise seisukohast eriti oluliste otsustega.

(28a)

Tehisintellektisüsteemi liigitamisel suure riskiga tehisintellektisüsteemiks on eriti oluline see, kui ulatuslik on tehisintellektisüsteemi kahjulik mõju põhiõiguste hartaga kaitstud põhiõigustele. Nende õiguste hulka kuuluvad õigus inimväärikusele, era- ja perekonnaelu austamine, isikuandmete kaitse, väljendus- ja teabevabadus, kogunemis- ja ühinemisvabadus, mittediskrimineerimine, õigus haridusele, tarbijakaitse, töötajate õigused, puuetega inimeste õigused, sooline võrdõiguslikkus, intellektuaalomandiõigus, õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele, süütuse presumptsioon ja õigus heale haldusele. Lisaks nimetatud õigustele on oluline rõhutada, et lastel on eraldi õigused, mis on sätestatud ELi harta artiklis 24 ja ÜRO lapse õiguste konventsioonis (mida on põhjalikumalt käsitletud ÜRO lapse õiguste komitee üldises märkuses nr 25 digikeskkonna kohta), kusjuures mõlema dokumendi kohaselt tuleb arvesse võtta laste haavatavust ja näha ette nende heaoluks vajalik kaitse ja hoolitsus. Hinnates, kui tõsist kahju võib tehisintellektisüsteem põhjustada, muu hulgas inimeste tervise ja ohutuse või keskkonna vallas, tuleks kaaluda ka põhiõiguste hartas sätestatud ja liidu põhimõtetega rakendatud põhiõigust kõrgetasemelisele keskkonnakaitsele.

(29)

Mis puudutab suure riskiga tehisintellektisüsteeme, mis on toodete või süsteemide turvakomponendid või mis on ise tooted või süsteemid, mis kuuluvad Euroopa Parlamendi ja nõukogu määruse (EÜ) nr 300/2008 (39), Euroopa Parlamendi ja nõukogu määruse (EL) nr 167/2013 (40), Euroopa Parlamendi ja nõukogu määruse (EL) nr 168/2013 (41), Euroopa Parlamendi ja nõukogu direktiivi 2014/90/EL (42), Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/797 (43), Euroopa Parlamendi ja nõukogu määruse (EL) 2018/858 (44), Euroopa Parlamendi ja nõukogu määruse (EU) 2018/1139 (45) ja Euroopa Parlamendi ja nõukogu määruse (EL) 2019/2144 (46) kohaldamisalasse, siis on otstarbekas muuta kõnealuseid õigusakte tagamaks, et kui komisjon võtab nimetatud õigusaktide põhjal edaspidi vastu asjaomaseid delegeeritud või rakendusakte, võtab ta arvesse käesolevas määruses suure riskiga tehisintellektisüsteemide kohta sätestatud kohustuslikke nõudeid, tuginedes iga sektori tehnilistele ja regulatiivsetele iseärasustele ja ilma, et ta sekkuks nende õigusaktidega kehtestatud olemasolevatesse juhtimis-, vastavushindamis- ja jõustamismehhanismidesse või -asutustesse.

(29)

Mis puudutab suure riskiga tehisintellektisüsteeme, mis on toodete või süsteemide turvakomponendid või mis on ise tooted või süsteemid, mis kuuluvad Euroopa Parlamendi ja nõukogu määruse (EÜ) nr 300/2008 (39), Euroopa Parlamendi ja nõukogu määruse (EL) nr 167/2013 (40), Euroopa Parlamendi ja nõukogu määruse (EL) nr 168/2013 (41), Euroopa Parlamendi ja nõukogu direktiivi 2014/90/EL (42), Euroopa Parlamendi ja nõukogu direktiivi (EL) 2016/797 (43), Euroopa Parlamendi ja nõukogu määruse (EL) 2018/858 (44), Euroopa Parlamendi ja nõukogu määruse (EU) 2018/1139 (45) ja Euroopa Parlamendi ja nõukogu määruse (EL) 2019/2144 (46) kohaldamisalasse, siis on otstarbekas muuta kõnealuseid õigusakte tagamaks, et kui komisjon võtab nimetatud õigusaktide põhjal edaspidi vastu asjaomaseid delegeeritud või rakendusakte, võtab ta arvesse käesolevas määruses suure riskiga tehisintellektisüsteemide kohta sätestatud kohustuslikke nõudeid, tuginedes iga sektori tehnilistele ja regulatiivsetele iseärasustele ja ilma, et ta sekkuks nende õigusaktidega kehtestatud olemasolevatesse juhtimis-, vastavushindamis- , turujärelevalve- ja jõustamismehhanismidesse või -asutustesse.

(30)

Mis puudutab tehisintellektisüsteeme, mis on toodete turvakomponendid või mis on ise tooted, mis kuuluvad teatavate liidu ühtlustamisõigusaktide kohaldamisalasse, siis on otstarbekas liigitada need tehisintellektisüsteemid käesoleva määruse alusel suure riskiga tehisintellektisüsteemideks, kui nende asjaomaste liidu õigusaktide alusel teeb kõnealuse toote vastavushindamise kolmandast isikust vastavushindamisasutus. Sellised tooted on eeskätt masinad, mänguasjad, liftid, plahvatusohtlikus keskkonnas kasutatavad seadmed ja kaitsesüsteemid, raadioseadmed, surveseadmed, lõbusõidulaevade varustus, köisteed, küttegaasiseadmed, meditsiiniseadmed ja in vitro diagnostika meditsiiniseadmed.

(30)

Mis puudutab tehisintellektisüsteeme, mis on toodete turvakomponendid või mis on ise tooted, mis kuuluvad II lisas loetletud liidu ühtlustamisõiguse kohaldamisalasse, siis on otstarbekas liigitada need tehisintellektisüsteemid käesoleva määruse alusel suure riskiga tehisintellektisüsteemideks, kui asjaomase liidu õiguse alusel teeb toote vastavushindamise oluliste ohutusnõuetega kooskõla tagamiseks kolmandast isikust vastavushindamisasutus. Sellised tooted on eeskätt masinad, mänguasjad, liftid, plahvatusohtlikus keskkonnas kasutatavad seadmed ja kaitsesüsteemid, raadioseadmed, surveseadmed, lõbusõidulaevade varustus, köisteed, küttegaasiseadmed, meditsiiniseadmed ja in vitro diagnostika meditsiiniseadmed.

(31)

See, kui tehisintellektisüsteem liigitatakse käesoleva määruse alusel suure riskiga tehisintellektisüsteemiks, ei peaks ilmtingimata tähendama, et toodet, mille turvakomponent see tehisintellektisüsteem on, või tehisintellektisüsteemi ennast kui toodet peetakse suure riskiga tooteks vastavalt selle toote suhtes kohaldatavate asjaomaste liidu ühtlustamisõigusaktidega kehtestatud kriteeriumidele. Esmajoones puudutab see Euroopa Parlamendi ja nõukogu määrust (EL) 2017/745 (47) ja Euroopa Parlamendi ja nõukogu määrust (EL) 2017/746, (48) kui keskmise ja suure riskiga toodete puhul on ette nähtud kolmanda isiku tehtav vastavushindamine.

(31)

See, kui tehisintellektisüsteem liigitatakse käesoleva määruse alusel suure riskiga tehisintellektisüsteemiks, ei peaks tähendama, et toodet, mille turvakomponent see tehisintellektisüsteem on, või tehisintellektisüsteemi ennast kui toodet peetakse suure riskiga tooteks vastavalt selle toote suhtes kohaldatava liidu ühtlustamisõigusega kehtestatud kriteeriumidele. Esmajoones puudutab see Euroopa Parlamendi ja nõukogu määrust (EL) 2017/745 (47) ja Euroopa Parlamendi ja nõukogu määrust (EL) 2017/746, (48) kui keskmise ja suure riskiga toodete puhul on ette nähtud kolmanda isiku tehtav vastavushindamine.

(32)

Eraldiseisvad tehisintellektisüsteemid, st suure riskiga tehisintellektisüsteemid, mis ei ole toodete turvakomponendid või ise tooted, on otstarbekas liigitada suure riskiga tehisintellektisüsteemideks, kui need põhjustavad oma sihtotstarbe tõttu suure riski ja ähvardavad kahjustada inimeste tervist ja ohutust või põhiõigusi, võttes arvesse nii võimaliku kahju tõsidust kui ka selle tekkimise tõenäosust, ja kui neid kasutatakse määruses eelnevalt täpselt kindlaks määratud valdkondades . Nende süsteemide kindlakstegemine põhineb samadel meetoditel ja kriteeriumidel, mida kavatsetakse kasutada suure riskiga tehisintellektisüsteemide loetelu tulevaste võimalike muudatuste jaoks.

(32)

Eraldiseisvad tehisintellektisüsteemid, st suure riskiga tehisintellektisüsteemid, mis ei ole toodete turvakomponendid või ise tooted ning mis on loetletud ühes valdkondadest või kasutusmallidest III lisas , on otstarbekas liigitada suure riskiga tehisintellektisüsteemideks, kui need põhjustavad oma sihtotstarbe tõttu olulise riski ja ähvardavad kahjustada inimeste tervist ja ohutust või põhiõigusi, kui tehisintellektisüsteemi kasutatakse kriitilise infrastruktuuri turvakomponendina. Sellise olulise kahju tekkimise riski tuvastamiseks tuleks hinnata ühelt poolt sellise riski mõju, arvestades selle tõsidust, intensiivsust, esinemise tõenäosust ja kestust kokku, ning teiselt poolt seda , kas risk võib mõjutada üksikisikut, mitut isikut või teatavat isikute rühma. Sellise kombinatsiooni tulemuseks võib olla näiteks suur tõsidus, kuid väike tõenäosus mõjutada füüsilist isikut, või suur tõenäosus mõjutada isikute rühma pika aja jooksul, kuid vähese tõsidusega, sõltuvalt kontekstist . Nende süsteemide kindlakstegemine põhineb samadel meetoditel ja kriteeriumidel, mida kavatsetakse kasutada suure riskiga tehisintellektisüsteemide loetelu tulevaste võimalike muudatuste jaoks.

(32a)

Pakkujad, kelle tehisintellektisüsteemid kuuluvad ühte III lisas loetletud valdkondadest ja kasutusmallidest ning kes leiavad, et nende süsteem ei kujuta endast tervisele, ohutusele, põhiõigustele või keskkonnale olulist riski, peaksid teavitama sellest riiklikke järelevalveasutusi, esitades põhjendatud teate. Selleks võib esitada üheleheküljelise kokkuvõtte tehisintellektisüsteemi käsitlevast asjakohasest teabest, sealhulgas selle sihtotstarbest ja sellest, miks see ei kujuta endast tervisele, ohutusele, põhiõigustele või keskkonnale olulist riski. Komisjon peaks täpsustama kriteeriumid, mis võimaldavad äriühingutel hinnata, kas nende süsteem põhjustaks selliseid riske, ning töötama välja lihtsasti kasutatava ja standardvormi teavitamiseks. Pakkujad peaksid esitama teate võimalikult varakult ja igal juhul enne tehisintellektisüsteemi turule laskmist või kasutuselevõttu, ideaaljuhul arendusetapis, ning neil peaks olema vabadus lasta see turule mis tahes ajal pärast teavitamist. Kui aga asutuse hinnangul on tehisintellektisüsteem valesti liigitatud, peaks ta esitama teatele vastuväite kolme kuu jooksul. Vastuväidet tuleks põhjendada ja selles tuleks piisavalt põhjalikult selgitada, miks tehisintellektisüsteem on valesti liigitatud. Pakkujale peaks jääma õigus otsus edasi kaevata, esitades täiendavaid argumente. Kui teatele ei ole kolme kuu jooksul vastuväiteid esitatud, võivad riiklikud järelevalveasutused siiski sekkuda, kui tehisintellektisüsteem kujutab endast ohtu riiklikul tasandil, nii nagu mis tahes muu turul oleva tehisintellektisüsteemi puhul. Riiklikud järelevalveasutused peaksid esitama tehisintellektiametile aastaaruanded, milles kirjeldatakse üksikasjalikult saadud teateid ja tehtud otsuseid.

(33)

Füüsiliste isikute biomeetrilise kaugtuvastamise jaoks mõeldud tehisintellektisüsteemide tehniline ebatäpsus võib kaasa tuua tulemuste kallutatuse ja põhjustada diskrimineerimist. Eriti oluline on see vanuse, etniline päritolu, soo või puuete puhul. Seepärast tuleks nii reaalajas kui ka tagantjärele toimuva biomeetrilise kaugtuvastamise süsteemid liigitada suure riskiga süsteemideks. Arvestades, milliseid riske need süsteemid põhjustavad, tuleks mõlemat liiki biomeetrilise kaugtuvastamise süsteemide suhtes kohaldada logimisvõimekuse ja inimjärelevalve erinõudeid.

(33a)

Kuna biomeetrilised andmed on määruse 2016/679 kohaselt tundlike isikuandmete erikategooria, on asjakohane liigitada mitmed biomeetriliste ja biomeetrilistel andmetel põhinevate süsteemide kriitilised kasutusmallid kõrge riskiga kategooriateks. Tehisintellektisüsteemid, mis on ette nähtud füüsiliste isikute biomeetriliseks tuvastamiseks ja tehisintellektisüsteemid, mis on ette nähtud selleks, et teha biomeetriliste või biomeetriapõhiste andmete põhjal järeldusi füüsiliste isikute isikuomaduste kohta, sealhulgas emotsioonituvastussüsteemid, välja arvatud need, mis on käesoleva määruse alusel keelatud, tuleks seepärast liigitada kõrge riskiga süsteemideks. See ei peaks hõlmama tehisintellektisüsteeme, mis on ette nähtud biomeetriliseks kontrolliks, kaasa arvatud autentimissüsteeme, mille ainus eesmärk on kinnitada, et konkreetne füüsiline isik on see, kes ta väidab end olevat, ega süsteeme, mida kasutatakse füüsilise isiku isikusamasuse kinnitamiseks üksnes selleks, et saada juurdepääs teenusele, seadmele või ruumidele (üks ühele kontroll). Biomeetrilisi ja biomeetriapõhiseid süsteeme, mis on liidu õiguses ette nähtud küberturvalisuse ja isikuandmete kaitse meetmete võimaldamiseks, ei tohiks pidada oluliseks riskiks tervisele, ohutusele ja põhiõigustele.

(34)

Elutähtsa taristu juhtimise ja käitamisega seoses on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks need tehisintellektisüsteemid, mis on mõeldud kasutamiseks maanteeliikluse korraldamise ja käitamise või vee, gaasi, kütteenergia ja elektri tarnimise turvakomponentidena, sest nende tõrge või talitlushäire võib seada ohtu paljude inimeste elu ja tervise ning põhjustada märgatavaid häireid tavapärases sotsiaalses ja majandustegevuses.

(34)

Elutähtsa taristu juhtimise ja käitamisega seoses on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks need tehisintellektisüsteemid, mis on mõeldud kasutamiseks vee, gaasi, kütteenergia ja elektri tarnimise ning kriitilise infrastruktuuri korraldamise ja käitamise turvakomponentidena, sest nende tõrge või talitlushäire võib rikkuda sellise elutähtsa taristu ohutust ja terviklikkust või seada ohtu paljude inimeste elu ja tervise ning põhjustada märgatavaid häireid tavapärases sotsiaalses ja majandustegevuses. Elutähtsa taristu, sealhulgas elutähtsa digitaristu ohutuskomponendid on süsteemid, mida kasutatakse elutähtsa taristu füüsilise puutumatuse või inimeste tervise ja ohutuse ning vara otseseks kaitsmiseks. Selliste komponentide rike või talitlushäire võib otseselt ohustada elutähtsa taristu füüsilist puutumatust ning võib seega kujutada ohtu inimeste tervisele ja ohutusele ning varale. Üksnes küberturvalisuse tagamiseks mõeldud komponente ei tuleks käsitada turvakomponentidena. Selliste turvakomponentide hulka võivad kuuluda näiteks veerõhu või tulekahjuhäire kontrollimise süsteemid pilvandmetöötluse keskustes.

(35)

Tehisintellektisüsteeme , mida kasutatakse hariduses või kutseõppes esmajoones selleks, et määrata kindlaks juurdepääs haridus- ja kutseõppeasutustele või määrata isikud neisse või hinnata hariduse osana või selle eeltingimusena isikute teste, tuleks käsitada suure riskiga süsteemidena , sest need võivad ära määrata inimese haridusliku ja kutsealase käekäigu ning mõjutada seega nende toimetulekut. Kui sellised süsteemid ei ole korralikult projekteeritud või kui neid ei kasutata korralikult, võivad need rikkuda õigust haridusele ja koolitusele, aga ka õigust mitte olla diskrimineeritud, ning põlistada aegade jooksul välja kujunenud diskrimineerimismustreid.

(35)

Tehisintellektisüsteemide kasutuselevõtt hariduses on oluline, et aidata ajakohastada kogu haridussüsteemi, parandada hariduse kvaliteeti nii internetis kui ka väljaspool seda ning kiirendada digiharidust, tehes selle laiemalt kättesaadavaks. Tehisintellektisüsteemid , mida kasutatakse hariduses või kutseõppes esmajoones selleks, et määrata kindlaks juurdepääs haridus- ja kutseõppeasutustele või oluliselt mõjutada vastuvõtuotsuseid või määrata isikud neisse või hinnata hariduse osana või selle eeltingimusena isikute teste, või hinnata isiku sobivat haridustaset ja oluliselt mõjutada hariduse ja koolituse taset, mida isikud saavad või millele nad saavad juurde pääseda, või jälgida ja tuvastada õpilaste keelatud käitumist katsete ajal, tuleks liigitada suure riskiga tehisintellektisüsteemideks , sest need võivad ära määrata inimese haridusliku ja kutsealase käekäigu ning mõjutada seega nende toimetulekut. Kui sellised süsteemid ei ole korralikult projekteeritud või kui neid ei kasutata korralikult, võivad need olla eriti sekkuvad ja rikkuda õigust haridusele ja koolitusele, aga ka õigust mitte olla diskrimineeritud, ning põlistada aegade jooksul välja kujunenud diskrimineerimismustreid näiteks naiste, teatavate vanuserühmade, puudega inimeste või teatava rassilise või etnilise päritoluga või seksuaalse sättumustega inimeste vastu .

(36)

Suure riskiga tehisintellektisüsteemideks tuleks liigitada ka tehisintellektisüsteemid, mida kasutatakse tööhõive, töötajate juhtimise ja füüsilisest isikust ettevõtjana tegutsemise võimaluste valdkonnas, eeskätt inimeste töölevõtmiseks ja valikuks, edutamise ja töösuhte lõpetamise otsuste tegemiseks ning ülesannete jagamise, seire või inimeste hindamise jaoks tööga seotud lepingulistes suhete kontekstis, sest need süsteemid võivad märkimisväärselt mõjutada nende inimeste tulevasi karjääriväljavaateid ja toimetulekut. Asjaomased tööga seotud lepingulised suhted peaksid käima ka selliste töötajate ja isikute kohta, kes osutavad teenuseid platvormide kaudu, nagu on nimetatud komisjoni 2021. aasta tööprogrammis. Põhimõtteliselt ei tuleks selliseid isikuid käsitada kasutajatena käesoleva määruse tähenduses. Värbamisprotsessi käigus ning isikute hindamisel, edutamisel ja ametisse jäämisel tööga seotud lepinguliste suhete kontekstis võivad sellised süsteemid põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mis on suunatud näiteks naiste, teatavate vanuserühmade, puuetega inimeste või teatava rassilise või etnilise päritolu või seksuaalse sättumusega isikute vastu. Tehisintellektisüsteemid, mida kasutatakse nende isikute töötulemuste ja käitumise seireks, võivad mõjutada ka nende õigust andmekaitsele ja privaatsusele.

(36)

Suure riskiga tehisintellektisüsteemideks tuleks liigitada ka tehisintellektisüsteemid, mida kasutatakse tööhõive, töötajate juhtimise ja füüsilisest isikust ettevõtjana tegutsemise võimaluste valdkonnas, eeskätt inimeste töölevõtmiseks ja valikuks, töösuhte alustamise, edutamise ja töösuhte lõpetamise otsuste oluliseks mõjutamiseks või otsuste tegemiseks ning isiku käitumise, isikuomaduste või biomeetriliste andmete põhjal isikupärastatud ülesannete jagamise, seire või inimeste hindamise jaoks tööga seotud lepingulistes suhete kontekstis, sest need süsteemid võivad märkimisväärselt mõjutada nende inimeste tulevasi karjääriväljavaateid ja toimetulekut ning töötajate õigusi . Asjaomased tööga seotud lepingulised suhted peaksid sisuliselt käima ka selliste töötajate ja isikute kohta, kes osutavad teenuseid platvormide kaudu, nagu on nimetatud komisjoni 2021. aasta tööprogrammis. Värbamisprotsessi käigus ning isikute hindamisel, edutamisel ja ametisse jäämisel tööga seotud lepinguliste suhete kontekstis võivad sellised süsteemid põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mis on suunatud näiteks naiste, teatavate vanuserühmade, puuetega inimeste või teatava rassilise või etnilise päritolu või seksuaalse sättumusega isikute vastu. Tehisintellektisüsteemid, mida kasutatakse nende isikute töötulemuste ja käitumise seireks, võivad õõnestada ka nende põhiõiguste olemust andmekaitsele ja privaatsusele. Käesolevat määrust kohaldatakse, ilma et see piiraks liidu ja liikmesriikide pädevust kehtestada täpsemad reeglid tehisintellektisüsteemide kasutamiseks tööhõive kontekstis.

(37)

Veel üks valdkond, milles tuleks tehisintellektisüsteemide kasutamisele erilist tähelepanu pöörata, on teatavate selliste oluliste era- ja avalik-õiguslike teenuste ja hüvede juurdepääsetavus ja kasutamine, mida inimesed vajavad, et ühiskonnas täielikult osaleda või oma elatustaset parandada. Eeskätt tuleks suure riskiga tehisintellektisüsteemideks liigitada tehisintellektisüsteemid, mida kasutatakse füüsilistele isikutele krediidihinnangu andmiseks või nende krediidivõimelisuse hindamiseks, sest need panevad paika inimese juurdepääsu finantsvahenditele või olulistele teenustele, nagu kinnisvara, elekter ja telekommunikatsiooniteenused. Sel otstarbel kasutatavad tehisintellektisüsteemid võivad põhjustada inimeste või rühmade diskrimineerimist ja põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mille aluseks on näiteks rassiline või etniline päritolu, puuded, vanus, seksuaalne sättumus, või avaldada uut liiki diskrimineerivat mõju. Arvestades mõju väga piiratud ulatust ja turul kättesaadavaid alternatiive, on otstarbekas teha erand tehisintellektisüsteemidele , mille eesmärk on krediidivõimelisuse hindamine ja krediidihindamine , kui sellised süsteemid võtavad kasutusele väikepakkujad oma tarbeks . Füüsilised isikud, kes taotlevad või saavad avaliku sektori asutustelt sotsiaaltoetusi ja -teenuseid, sõltuvad tavaliselt nendest toetustest ja teenustest ning on vastutavate asutustega võrreldes haavatavas olukorras. Kui tehisintellektisüsteeme kasutatakse selleks, et teha kindlaks, kas ametiasutus peaks sellise toetuse või teenuse tagasi lükkama , seda vähendama, selle tühistama või tagasi nõudma, võib neil süsteemidel olla märkimisväärne mõju inimese toimetulekule ning need süsteemid võivad rikkuda inimeste põhiõigusi, näiteks õigust sotsiaalkaitsele, mittediskrimineerimisele, inimväärikusele või tõhusale õiguskaitsevahendile. Seepärast tuleks need süsteemid liigitada suure riskiga tehisintellektisüsteemideks. Samas ei tohiks käesolev määrus takistada uuenduslike lähenemisviiside väljatöötamist ja kasutamist avalikus halduses, kus oleks nõuetekohaste ja ohutute tehisintellektisüsteemide laialdasemast kasutamisest rohkelt kasu tingimusel, et need süsteemid ei põhjusta juriidilistele ja füüsilistele isikutele suuri riske. Lisaks eelnimetatule tuleks suure riskiga tehisintellektisüsteemideks liigitada ka tehisintellektisüsteemid, mida kasutatakse kiirabi ja päästeteenistuse väljasaatmiseks ja väljakutsete prioriseerimiseks, sest need teevad otsuseid olukordades, mis on inimeste elu, tervise ja vara seisukohast väga kriitilised.

(37)

Veel üks valdkond, milles tuleks tehisintellektisüsteemide kasutamisele erilist tähelepanu pöörata, on teatavate selliste oluliste era- ja avalik-õiguslike teenuste ja hüvede , sealhulgas tervishoiuteenused ja põhiteenused, kaasa arvatud – kuid mitte ainult – eluase, elekter, küte/jahutus ja internet, juurdepääsetavus ja kasutamine, mida inimesed vajavad, et ühiskonnas täielikult osaleda või oma elatustaset parandada. Eeskätt tuleks suure riskiga tehisintellektisüsteemideks liigitada tehisintellektisüsteemid, mida kasutatakse füüsilistele isikutele krediidihinnangu andmiseks või nende krediidivõimelisuse hindamiseks, sest need panevad paika inimese juurdepääsu finantsvahenditele või olulistele teenustele, nagu kinnisvara, elekter ja telekommunikatsiooniteenused. Sel otstarbel kasutatavad tehisintellektisüsteemid võivad põhjustada inimeste või rühmade diskrimineerimist ja põlistada aegade jooksul välja kujunenud diskrimineerimismustreid, mille aluseks on näiteks rassiline või etniline päritolu, sugu, puuded, vanus, seksuaalne sättumus, või avaldada uut liiki diskrimineerivat mõju. Liidu õigusega ette nähtud tehisintellektisüsteeme, mille eesmärk on avastada pettusi finantsteenuste pakkumisel, ei tohiks käesoleva määruse alusel siiski pidada suure riskiga süsteemideks. Füüsilised isikud, kes taotlevad või saavad avaliku sektori asutustelt sotsiaaltoetusi ja -teenuseid, sealhulgas tervishoiuteenuseid ja esmatähtsaid teenuseid, kaasa arvatud – kuid mitte ainult – eluase, elekter, küte/jahutus ja internet, sõltuvad tavaliselt nendest toetustest ja teenustest ning on vastutavate asutustega võrreldes haavatavas olukorras. Kui tehisintellektisüsteeme kasutatakse selleks, et teha kindlaks, kas ametiasutus peaks sellise toetuse andmisest või teenuse osutamisest keelduma , seda vähendama, selle tühistama või tagasi nõudma, võib neil süsteemidel olla märkimisväärne mõju inimese toimetulekule ning need süsteemid võivad rikkuda inimeste põhiõigusi, näiteks õigust sotsiaalkaitsele, mittediskrimineerimisele, inimväärikusele või tõhusale õiguskaitsevahendile. Samamoodi võivad tehisintellektisüsteemid, mis on ette nähtud otsuste tegemiseks füüsiliste isikute tervise- ja elukindlustuse saamise õiguse kohta või nende otsuste oluliseks mõjutamiseks, avaldada olulist mõju isikute elatusvahenditele ja rikkuda nende põhiõigusi, näiteks piirates juurdepääsu tervishoiuteenustele või jätkates diskrimineerimist isikuomaduste alusel. Seepärast tuleks need süsteemid liigitada suure riskiga tehisintellektisüsteemideks. Samas ei tohiks käesolev määrus takistada uuenduslike lähenemisviiside väljatöötamist ja kasutamist avalikus halduses, kus oleks nõuetekohaste ja ohutute tehisintellektisüsteemide laialdasemast kasutamisest rohkelt kasu tingimusel, et need süsteemid ei põhjusta juriidilistele ja füüsilistele isikutele suuri riske. Lisaks eelnimetatule tuleks suure riskiga tehisintellektisüsteemideks liigitada ka tehisintellektisüsteemid, mida kasutatakse eraisikute hädaabikõnede hindamiseks ja liigitamiseks või kiirabi ja päästeteenistuse väljasaatmiseks ja väljakutsete prioriseerimiseks, sest need teevad otsuseid olukordades, mis on inimeste elu, tervise ja vara seisukohast väga kriitilised.

(37a)

Võttes arvesse politsei- ja õigusasutuste rolli ja vastutust ning nende poolt kuritegude ennetamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuste täitmisele pööramiseks tehtavate otsuste mõju, tuleb mõned tehisintellektirakenduste kasutusmallid õiguskaitses liigitada kõrge riskiastmega kasutamiseks, eelkõige juhtudel, kui see võib oluliselt mõjutada üksikisikute elu või põhiõigusi.

(38)

Õiguskaitseasutuste toiminguid, millega kaasneb tehisintellektisüsteemide teatav kasutamine, iseloomustab võimu väga ebavõrdne jaotumine ja nende tulemuseks võib olla jälgimine, arreteerimine või füüsilise isiku vabaduse võtmine, aga ka muu kahjulik mõju põhiõiguste hartaga tagatud põhiõigustele. Tehisintellektisüsteem võib olla inimeste valikul diskrimineeriv või muul moel ebatäpne või ebaõiglane, eriti juhul, kui selle treenimiseks ei ole kasutatud kvaliteetseid andmeid, kui süsteemi täpsus või stabiilsus ei ole piisavad või kui seda ei ole enne turule laskmist või muul moel kasutusele võtmist korralikult projekteeritud ja testitud. Kahjustatud võib saada ka võimalus kasutada selliseid olulisi menetluslikke põhiõigusi, nagu õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele ja süütuse presumptsioon, seda eriti juhul, kui sellised tehisintellektisüsteemid ei ole piisavalt läbipaistvad, selgitatavad ja dokumenteeritud. Seepärast on asjakohane liigitada suure riskiga tehisintellektisüsteemiks hulk tehisintellektisüsteeme, mis on mõeldud kasutamiseks õiguskaitses, kus täpsus, usaldusväärsus ja läbipaistvus on eriti olulised, et hoida ära kahjulikku mõju, säilitada üldsuse usaldus ning tagada aruandekohustus ja tõhus õiguskaitse. Arvestades kõnealuste toimingute olemust ja nendega seotud riske, peaksid selliste suure riskiga tehisintellektisüsteemide hulka kuuluma eeskätt need tehisintellektisüsteemid, mis on mõeldud õiguskaitseasutustele kasutamiseks individuaalsete riskihindamiste, valedetektorite ja samalaadsete vahendite jaoks või füüsilise isiku emotsionaalse seisundi tuvastamiseks , süvavõltsingute avastamiseks, tõendite usaldusväärsuse hindamiseks kriminaalmenetluses , tegeliku või potentsiaalse kuriteo esinemise või kordumise prognoosimiseks füüsiliste isikute profiilianalüüsi põhjal või füüsiliste isikute või rühmade isikuomaduste , erijoonte või varasema kuritegeliku käitumise hindamiseks , kuritegude avastamise, uurimise või nende eest vastutusele võtmise käigus tehtavaks profiilianalüüsiks, aga ka füüsilisi isikuid puudutavaks kuritegude analüüsiks. Tehisintellektisüsteeme, mis on mõeldud spetsiaalselt maksu- ja tolliasutustele haldusmenetlustes kasutamiseks, ei tuleks käsitada suure riskiga tehisintellektisüsteemidena , mida õiguskaitseasutused kasutavad süütegude tõkestamise, avastamise, uurimise ja nende eest vastutusele võtmise eesmärgil.

(38)

Õiguskaitseasutuste toiminguid, millega kaasneb tehisintellektisüsteemide teatav kasutamine, iseloomustab võimu väga ebavõrdne jaotumine ja nende tulemuseks võib olla jälgimine, arreteerimine või füüsilise isiku vabaduse võtmine, aga ka muu kahjulik mõju põhiõiguste hartaga tagatud põhiõigustele. Tehisintellektisüsteem võib olla inimeste valikul diskrimineeriv või muul moel ebatäpne või ebaõiglane, eriti juhul, kui selle treenimiseks ei ole kasutatud kvaliteetseid andmeid, kui süsteemi toimimine, selle täpsus või stabiilsus ei ole piisavad või kui seda ei ole enne turule laskmist või muul moel kasutusele võtmist korralikult projekteeritud ja testitud. Kahjustatud võib saada ka võimalus kasutada selliseid olulisi menetluslikke põhiõigusi, nagu õigus tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele, õigus kaitsele ja süütuse presumptsioon, seda eriti juhul, kui sellised tehisintellektisüsteemid ei ole piisavalt läbipaistvad, selgitatavad ja dokumenteeritud. Seepärast on asjakohane liigitada suure riskiga tehisintellektisüsteemiks hulk tehisintellektisüsteeme, mis on mõeldud kasutamiseks õiguskaitses, kus täpsus, usaldusväärsus ja läbipaistvus on eriti olulised, et hoida ära kahjulikku mõju, säilitada üldsuse usaldus ning tagada aruandekohustus ja tõhus õiguskaitse. Arvestades kõnealuste toimingute olemust ja nendega seotud riske, peaksid selliste suure riskiga tehisintellektisüsteemide hulka kuuluma eeskätt need tehisintellektisüsteemid, mis on mõeldud kasutamiseks õiguskaitseasutustele või nende nimel, või liidu asutustele või organitele , kes toetavad õiguskaitseasutusi , valedetektorite ja samalaadsete vahenditena, kui nende kasutamine on kehtiva liidu ja siseriikliku õiguse alusel lubatud , et hinnata tõendite usaldusväärsust kriminaalmenetluses , kuritegude avastamise, uurimise või nende eest vastutusele võtmise käigus tehtavaks profiilianalüüsiks, aga ka füüsilisi isikuid puudutavaks kuritegude analüüsiks. Tehisintellektisüsteeme, mis on mõeldud spetsiaalselt maksu- ja tolliasutustele haldusmenetlustes kasutamiseks, ei tuleks liigitada suure riskiga tehisintellektisüsteemideks , mida õiguskaitseasutused kasutavad süütegude tõkestamise, avastamise, uurimise ja nende eest vastutusele võtmise eesmärgil. Tehisintellekti vahendite kasutamine õiguskaitse- ja õigusasutuste poolt ei tohiks muutuda ebavõrdsuse, sotsiaalse lõhestatuse või tõrjutuse teguriks. Tehisintellekti vahendite kasutamise mõju kahtlusaluste kaitseõigustele ei tohiks eirata, eelkõige raskusi sisulise teabe saamisel nende toimimise kohta ja sellest tulenevaid raskusi nende tulemuste vaidlustamisel kohtus, eriti uurimise all olevate isikute poolt.

(39)

Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele kasutamiseks valedetektorite ja samalaadsete vahenditena või füüsilise isiku emotsionaalse seisundi tuvastamiseks; teatavate liikmesriigi territooriumile siseneva või viisat või varjupaika taotleva füüsilise isiku põhjustatavate riskide hindamiseks ; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele. Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, (49) Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 (50) ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele.

(39)

Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud kasutamiseks rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele või nende nimel, või liidu asutustele või organitele valedetektorite ja samalaadsete vahenditena , kui nende kasutamine on liidu ja liikmesriigi õiguse kohaselt lubatud, et hinnata teatavaid riske, mida kujutavad endast füüsilised isikud, kes sisenevad liikmesriigi territooriumile või taotlevad viisat või varjupaika ; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel ja nendega seotud tunnistuste õigsuse hindamisel , et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele ; isikuandmete jälgimiseks, seireks ja töötlemiseks seoses piirihaldusega, et füüsilisi isikuid avastada, ära tunda või tuvastada; rändeliikumiste ja piiriületustega seotud suundumuste prognoosimiseks . Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, (49) Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 (50) ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele. Liikmesriigid või liidu institutsioonid ja asutused ei tohiks mingil juhul kasutada tehisintellektisüsteeme rände-, varjupaiga- ja piirikontrollihalduse valdkonnas selleks, et kõrvale hoida oma 28. juuli 1951. aasta pagulasseisundi konventsioonist tulenevatest rahvusvahelistest kohustustest, mida on muudetud 31. jaanuari 1967. aasta protokolliga, ega kasutada neid mingil viisil tagasi- ja väljasaatmise lubamatuse põhimõtte rikkumiseks ega liidu territooriumile sisenemise ohutute ja tõhusate seaduslike kanalite, sealhulgas rahvusvahelise kaitse saamise õiguse keelamiseks.

(40)

Teatavad õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemid tuleks liigitada suure riskiga tehisintellektisüsteemideks, arvestades nende võimalikku märkimisväärset mõju demokraatiale, õigusriigile, üksikisiku vabadustele ning õigusele tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele. Eeskätt võimalikust kallutatusest, vigadest ja läbipaistmatusest tulenevate riskidega toimetulemiseks on otstarbekas liigitada suure riskiga tehisintellektisüsteemideks need tehisintellektisüsteemid, mis on mõeldud abistama õigusasutusi faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes. Samas ei tohiks selline liigitamine siiski laieneda tehisintellektisüsteemidele, mis on mõeldud puhtalt halduslikeks abitegevusteks, mis ei mõjuta tegelikku õigusemõistmist konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine, töötajatevaheline suhtlus, haldusülesanded või ressursside jaotamine.

(40)

Teatavad õigusemõistmise ja demokraatlike protsesside jaoks mõeldud tehisintellektisüsteemid tuleks liigitada suure riskiga tehisintellektisüsteemideks, arvestades nende võimalikku märkimisväärset mõju demokraatiale, õigusriigile, üksikisiku vabadustele ning õigusele tõhusale õiguskaitsevahendile ja õiglasele kohtulikule arutamisele. Eeskätt võimalikust kallutatusest, vigadest ja läbipaistmatusest tulenevate riskidega toimetulemiseks on otstarbekas liigitada suure riskiga tehisintellektisüsteemideks need tehisintellektisüsteemid, mis on mõeldud kasutamiseks õigusasutustele või haldusorganitele või nende nimel, et abistada õigusasutusi või haldusorganeid faktide ja seadustega tutvumisel ja nende tõlgendamisel ning õiguse rakendamisel konkreetse faktide kogumi suhtes või mida kasutatakse samal viisil vaidluste kohtuväliseks lahendamiseks. Tehisintellekti vahendite kasutamine võib toetada, kuid ei tohiks asendada kohtunike otsustusõigust ega kohtute sõltumatust, sest lõppotsuste tegemine peab jääma inimtegevuse ja -otsuste kanda . Samas ei tohiks selline liigitamine siiski laieneda tehisintellektisüsteemidele, mis on mõeldud puhtalt halduslikeks abitegevusteks, mis ei mõjuta tegelikku õigusemõistmist konkreetsetel juhtudel, nagu kohtuotsuste, dokumentide või andmete anonüümimine või pseudonüümimine, töötajatevaheline suhtlus, haldusülesanded või ressursside jaotamine.

(40a)

Et käsitleda riske, mis tulenevad põhjendamatust välisest sekkumisest põhiõiguste harta artiklis 39 sätestatud hääletamisõigusesse ning ebaproportsionaalsest mõjust demokraatlikele protsessidele, demokraatiale ja õigusriigile, tuleks tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et mõjutada valimiste või rahvahääletuste tulemusi või füüsiliste isikute hääletamiskäitumist nende hääletamisel valimistel või referendumitel, liigitada suure riskiga tehisintellektisüsteemideks, välja arvatud tehisintellektisüsteemid, mille väljundiga füüsilised isikud otseselt kokku ei puutu, näiteks vahendid, mida kasutatakse poliitiliste kampaaniate korraldamiseks, optimeerimiseks ja struktureerimiseks halduslikust ja logistilisest seisukohast.

(40b)

Arvestades seda, kui suures ulatuses kasutavad füüsilised isikud väga suurte digiplatvormidena määratletud sotsiaalmeediaplatvormide teenuseid, saab selliseid digiplatvorme kasutada viisil, mis mõjutab tugevalt veebiturvalisust, avaliku arvamuse ja debati kujundamist, valimisi ja demokraatlikke protsesse ning ühiskondlikke muresid. Seepärast on asjakohane, et tehisintellektisüsteemide suhtes, mida need digiplatvormid oma soovitussüsteemides kasutavad, kohaldatakse käesolevat määrust, et tagada tehisintellektisüsteemide vastavus käesolevas määruses sätestatud nõuetele, sealhulgas andmehalduse, tehnilise dokumentatsiooni ja jälgitavuse, läbipaistvuse, inimjärelevalve, täpsuse ja töökindluse tehnilistele nõuetele. Käesoleva määruse järgimine peaks võimaldama sellistel väga suurtel digiplatvormidel täita oma laiemaid riskihindamis- ja riskimaandamiskohustusi, mis on sätestatud määruse (EL) 2022/2065 artiklites 34 ja 35. Käesolevas määruses sätestatud kohustused ei piira määruse (EL) 2022/2065 kohaldamist ja peaksid täiendama määruses (EL) 2022/2065 ette nähtud kohustusi, kui sotsiaalmeediaplatvorm on määratud väga suureks digiplatvormiks. Arvestades väga suurteks digiplatvormideks määratud sotsiaalmeediaplatvormide üleeuroopalist mõju, peaksid määruse (EL) 2022/2065 alusel määratud asutused tegutsema selle sätte jõustamisel jõustamisasutustena.

(41)

Kui tehisintellektisüsteem on käesoleva määruse alusel liigitatud suure riskiga tehisintellektisüsteemiks, ei tuleks seda tõlgendada nii, et süsteemi kasutamine on ilmtingimata seaduslik muude liidu õigusaktide või liidu õigusega kooskõlas olevate siseriiklike õigusaktide alusel, mis käsitlevad näiteks isikuandmete kaitset, valedetektorite või samalaadsete toodete kasutamist või muude süsteemide kasutamist füüsiliste isikute emotsionaalse seisundi tuvastamiseks. Edaspidi peaks igasugune selline kasutamine toimuma üksnes kooskõlas kohaldatavate nõuetega, mis tulenevad põhiõiguste hartast ja kohaldatavatest liidu teisese õiguse aktidest ja siseriiklikust õigusest. Käesolevat määrust ei tohiks käsitada isikuandmete, sealhulgas asjakohasel juhul isikuandmete eriliikide töötlemise õigusliku alusena.

(41)

Kui tehisintellektisüsteem on käesoleva määruse alusel liigitatud suure riskiga tehisintellektisüsteemiks, ei tuleks seda tõlgendada nii, et süsteemi kasutamine on ilmtingimata seaduslik või ebaseaduslik muude liidu õigusaktide või liidu õigusega kooskõlas olevate siseriiklike õigusaktide alusel, mis käsitlevad näiteks isikuandmete kaitset. Edaspidi peaks igasugune selline kasutamine toimuma üksnes kooskõlas kohaldatavate nõuetega, mis tulenevad põhiõiguste hartast ja kohaldatavatest liidu teisese õiguse aktidest ja siseriiklikust õigusest.

(41a)

Juba praegu kehtivad tehisintellektisüsteemidele või on tehisintellektisüsteemidele asjakohased mitmed õiguslikult siduvad liidu tasandi, riiklikud ja rahvusvahelised eeskirjad, nende hulgas – kuid mitte ainult – ELi esmased õigusaktid (Euroopa Liidu aluslepingud ja põhiõiguste harta), ELi teisesed õigusaktid (näiteks isikuandmete kaitse üldmäärus, tootevastutuse direktiiv, isikustamata andmete vaba liikumist käsitlev määrus, diskrimineerimisvastased direktiivid, tarbijaõigus ning tööohutuse ja töötervishoiu direktiivid), ÜRO inimõiguste lepingud ja Euroopa Nõukogu konventsioonid (näiteks Euroopa inimõiguste ja põhivabaduste kaitse konventsioon) ning liikmesriikide seadused. Lisaks horisontaalselt kohaldatavatele eeskirjadele on erinevaid valdkonnapõhiseid eeskirju, mida kohaldatakse konkreetsete tehisintellektirakenduste suhtes (näiteks meditsiiniseadmete määrus tervishoiusektoris).

(42)

Et leevendada riske, mida liidus turule lastud või muul moel kasutusele võetud tehisintellektisüsteemid põhjustavad kasutajatele ja mõjutatud isikutele, tuleks kohaldada teatavaid kohustuslikke nõudeid, võttes arvesse süsteemi kasutamise sihtotstarvet ja toimides pakkuja kehtestatud riskijuhtimissüsteemi kohaselt.

(42)

Et leevendada riske, mida liidus turule lastud või muul moel kasutusele võetud tehisintellektisüsteemid põhjustavad juurutajatele ja mõjutatud isikutele, tuleks kohaldada teatavaid kohustuslikke nõudeid, võttes arvesse süsteemi sihtotstarvet või mõistlikult prognoositavat kasutamist ja toimides pakkuja kehtestatud riskijuhtimissüsteemi kohaselt. Need nõuded peaksid olema objektiivsed, eesmärgipärased, mõistlikud ja tõhusad, ilma et need lisaks ettevõtjatele põhjendamatut regulatiivset koormust või kulusid.

(43)

Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada nõudeid seoses kasutatavate andmestike kvaliteedi, tehnilise dokumentatsiooni ja andmete säilitamise, läbipaistvuse ja kasutajate teavitamise, inimjärelevalve, stabiilsuse, täpsuse ja küberturvalisusega. Sellised nõuded on vajalikud, et tulemuslikult leevendada riske tervisele, ohutusele ja põhiõigustele, nagu on asjakohane süsteemi sihtotstarvet arvestades ning kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, et seega vältida põhjendamatuid kaubanduspiiranguid.

(43)

Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada nõudeid seoses kasutatavate andmestike kvaliteedi ja asjakohasuse , tehnilise dokumentatsiooni ja andmete säilitamise, läbipaistvuse ja juurutajate teavitamise, inimjärelevalve, stabiilsuse, täpsuse ja küberturvalisusega. Sellised nõuded on vajalikud, et tulemuslikult leevendada riske tervisele, ohutusele ja põhiõigustele ning keskkonnale, demokraatiale ja õigusriigile , nagu on asjakohane süsteemi sihtotstarvet või mõistlikult prognoositavat väärkasutamist arvestades ning kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, et seega vältida põhjendamatuid kaubanduspiiranguid.

(44)

Kvaliteetsed andmed on paljude tehisintellektisüsteemide toimimiseks hädavajalikud , eriti kui kasutatakse mudelite treenimise meetodeid, et tagada suure riskiga tehisintellektisüsteemide sihipärane ja ohutu töö ja see, et neist ei saa liidu õigusega keelatud diskrimineerimise allikas. Kvaliteetsete treenimis-, valideerimis- ja testimisandmestike olemasolu eeldab asjakohaste andmehalduse ja juhtimistavade rakendamist. . Treenimis-, valideerimis- ja testimisandmestikud peaksid olema süsteemi sihtotstarvet arvestades piisavalt asjakohased, representatiivsed, vigadeta ja täielikud. Neid peaksid iseloomustama asjakohased statistilised omadused, sealhulgas mis puudutab selliseid isikuid või isikute rühmi, kelle peal kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Eeskätt tuleb treenimis-, valideerimis- ja testimisandmestikes võtta sihtotstarbe jaoks vajalikus ulatuses arvesse funktsioone, omadusi või elemente, mis iseloomustavad konkreetset geograafilist, käitumuslikku või funktsionaalset olukorda või konteksti, kus kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Et kaitsta teiste õigust tehisintellektisüsteemide kallutatusest tuleneda võiva diskrimineerimise eest, peaksid pakkujad saama töödelda isikuandmete eriliike olulise avaliku huvi nimel, et tagada suure riskiga tehisintellektisüsteemide puhul kallutatuse seire , avastamine ja korrigeerimine .

(44)

Juurdepääs kvaliteetsetele andmetele on struktuuri pakkumiseks ja paljude tehisintellektisüsteemide toimimise tagamiseks hädavajalik , eriti kui kasutatakse mudelite treenimise meetodeid, et tagada suure riskiga tehisintellektisüsteemide sihipärane ja ohutu töö ja see, et neist ei saa liidu õigusega keelatud diskrimineerimise allikas. Kvaliteetsete treenimis-, valideerimis- ja testimisandmestike olemasolu eeldab asjakohaste andmehalduse ja juhtimistavade rakendamist. Treenimisandmestikud ning vajaduse korral valideerimis- ja testimisandmestikud , sh märgised, peaksid olema süsteemi sihtotstarvet arvestades piisavalt asjakohased, representatiivsed, vigade suhtes kontrollitud ja võimalikult täielikud. Neid peaksid iseloomustama asjakohased statistilised omadused, sealhulgas mis puudutab selliseid isikuid või isikute rühmi, kelle peal kavatsetakse suure riskiga tehisintellektisüsteemi kasutada , pöörates erilist tähelepanu andmekogumite võimaliku kallutatuse leevendamisele, mis võib ohustada kõrge riskiga tehisintellektisüsteemist mõjutatud isikute põhiõigusi või neid diskrimineerida. Kallutatus võib tuleneda näiteks aluseks olevatest andmestikest, eriti kui kasutatakse vanu andmeid, selle võivad põhjustada algoritmide väljatöötajad või see võib tekkida süsteemide rakendamisel tegelikus keskkonnas. Tehisintellektisüsteemide abil saavutatud tulemusi mõjutab selline loomupärane kallutatus, mis kaldub järk-järgult suurenema ning sel viisil põlistama ja võimendama olemasolevat diskrimineerimist, eriti teatud haavatavatesse rühmadesse või rahvustesse kuuluvate isikute või rassismi tõttu kannatavate kogukondade puhul. Eeskätt tuleb treenimis-, valideerimis- ja testimisandmestikes võtta sihtotstarbe jaoks vajalikus ulatuses arvesse funktsioone, omadusi või elemente, mis iseloomustavad konkreetset geograafilist, kontekstilist, käitumuslikku või funktsionaalset olukorda või konteksti, kus kavatsetakse suure riskiga tehisintellektisüsteemi kasutada. Et kaitsta teiste õigust tehisintellektisüsteemide kallutatusest tuleneda võiva diskrimineerimise eest, peaksid pakkujad - erandkorras ja järgides kõiki kohaldatavaid tingimusi, mis on sätestatud käesoleva määrusega ning määrusega (EL) 2016/679, direktiiviga (EL) 2016/680 ja määrusega (EL) 2018/1725 - saama töödelda isikuandmete eriliike olulise avaliku huvi nimel, et tagada suure riskiga tehisintellektisüsteemide puhul kallutatuse avastamine ja korrigeerimine. Negatiivset kallutatust tuleks mõista kallutatusena, mis tekitab füüsilise isiku suhtes otsest või kaudset diskrimineerivat mõju. Andmehaldusega seotud nõudeid saab täita, kasutades kolmandaid isikuid, kes pakuvad sertifitseeritud vastavusteenuseid, sealhulgas seoses andmehalduse, andmekogumi tervikluse ning andmekoolituse, valideerimise ja testimisega.

(45)

Suure riskiga tehisintellektisüsteemide arendamiseks peaks teatavatel asjaosalistel, näiteks pakkujatel, teavitatud asutustel ja muudel asjaomastel üksustel, näiteks digitaalse innovatsiooni keskustel, testimis- ja eksperimenteerimisrajatistel ja teadlastel, olema oma käesoleva määrusega seotud tegevusvaldkondades juurdepääs kvaliteetsetele andmestikele ja nad peaksid saama neid kasutada. Komisjoni loodud Euroopa ühised andmeruumid ning avaliku huvi nimel hõlpsam andmete jagamine ettevõtete vahel ja valitsustega on äärmiselt tähtis, et pakkuda tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks usaldusväärset, vastutustundlikku ja mittediskrimineerivat juurdepääsu kvaliteetsetele andmetele. Näiteks tervishoiu valdkonnas hõlbustab tervishoiu Euroopa andmeruum mittediskrimineerivat juurdepääsu terviseandmetele ja tehisintellekti algoritmide treenimist selliste andmestikega privaatsust tagaval, turvalisel, õigeaegsel, läbipaistval ja usaldusväärsel viisil ning asjakohase institutsioonilise juhtimise tingimustes. Asjaomased pädevad asutused, sealhulgas valdkondlikud asutused, kes pakuvad või toetavad juurdepääsu andmetele, võivad toetada ka kvaliteetsete andmete pakkumist tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks.

(45)

Suure riskiga tehisintellektisüsteemide arendamiseks ja hindamiseks peaks teatavatel asjaosalistel, näiteks pakkujatel, teavitatud asutustel ja muudel asjaomastel üksustel, näiteks digitaalse innovatsiooni keskustel, testimis- ja eksperimenteerimisrajatistel ja teadlastel, olema oma käesoleva määrusega seotud tegevusvaldkondades juurdepääs kvaliteetsetele andmestikele ja nad peaksid saama neid kasutada. Komisjoni loodud Euroopa ühised andmeruumid ning avaliku huvi nimel hõlpsam andmete jagamine ettevõtete vahel ja valitsustega on äärmiselt tähtis, et pakkuda tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks usaldusväärset, vastutustundlikku ja mittediskrimineerivat juurdepääsu kvaliteetsetele andmetele. Näiteks tervishoiu valdkonnas hõlbustab tervishoiu Euroopa andmeruum mittediskrimineerivat juurdepääsu terviseandmetele ja tehisintellekti algoritmide treenimist selliste andmestikega privaatsust tagaval, turvalisel, õigeaegsel, läbipaistval ja usaldusväärsel viisil ning asjakohase institutsioonilise juhtimise tingimustes. Asjaomased pädevad asutused, sealhulgas valdkondlikud asutused, kes pakuvad või toetavad juurdepääsu andmetele, võivad toetada ka kvaliteetsete andmete pakkumist tehisintellektisüsteemide treenimiseks, valideerimiseks ja testimiseks.

(45a)

Õigus eraelu puutumatusele ja isikuandmete kaitsele peab olema tagatud kogu tehisintellektisüsteemi elutsükli jooksul. Sellega seoses on juhul, kui andmete töötlemine kujutab endast märkimisväärset ohtu üksikisikute põhiõigustele, väga olulised võimalikult väheste andmete kogumise põhimõte ning lõimitud ja vaikimisi andmekaitse põhimõte, nagu need on sätestatud liidu andmekaitseõiguses. Tehisintellektisüsteemide pakkujad ja kasutajad peaksid nende õiguste kaitseks rakendama tipptasemel tehnilisi ja korralduslikke meetmeid. Sellised meetmed peaksid hõlmama lisaks anonüümimisele ja krüpteerimisele ka üha kättesaadavamat tehnoloogiat, mis võimaldab tuua andmetesse algoritme ja saada väärtuslikke teadmisi ilma toor- või struktureeritud andmete pooltevahelise edastamise või tarbetu kopeerimiseta.

(46)

Selleks, et kontrollida vastavust käesoleva määruse kohastele nõuetele, on äärmiselt oluline omada teavet selle kohta, kuidas on suure riskiga tehisintellektisüsteemid välja töötatud ja kuidas need oma elutsükli jooksul töötavad. Selleks on vaja säilitada andmeid ja tagada sellise tehnilise dokumentatsiooni kättesaadavus, mis sisaldab tehisintellektisüsteemi asjakohastele nõuetele vastavuse hindamiseks vajalikku teavet. Sellise teabe hulka peaksid kuuluma süsteemi üldised omadused, võimekused ja piirid, algoritmid, andmed, kasutatud treenimis-, testimis- ja valideerimisprotsessid ning dokumentatsioon asjaomase riskijuhtimissüsteemi kohta. Tehniline dokumentatsioon peaks olema ajakohane.

(46)

Selleks, et kontrollida vastavust käesoleva määruse kohastele nõuetele, on äärmiselt oluline omada arusaadavat teavet selle kohta, kuidas on suure riskiga tehisintellektisüsteemid välja töötatud ja kuidas need oma eluea jooksul töötavad. Selleks on vaja säilitada andmeid ja tagada sellise tehnilise dokumentatsiooni kättesaadavus, mis sisaldab tehisintellektisüsteemi asjakohastele nõuetele vastavuse hindamiseks vajalikku teavet. Sellise teabe hulka peaksid kuuluma süsteemi üldised omadused, võimekused ja piirid, algoritmid, andmed, kasutatud treenimis-, testimis- ja valideerimisprotsessid ning dokumentatsioon asjaomase riskijuhtimissüsteemi kohta. Tehniline dokumentatsioon peaks olema korralikult ajakohane kogu tehisintellektisüsteemi eluea jooksul . Tehisintellektisüsteemidel võib nende eluea jooksul olla suur oluline keskkonnamõju ja nad võivad tarbida palju energiat. Et tehisintellektisüsteemide keskkonnamõju paremini mõista, peaks pakkujate koostatud tehniline dokumentatsioon sisaldama teavet tehisintellektisüsteemi energiatarbimise kohta, sealhulgas tarbimise kohta arendamise ajal ja eeldatava tarbimise kohta kasutamise ajal. Sellise teabe puhul tuleks arvesse võtta asjakohaseid liidu ja siseriiklikke õigusakte. Esitatud teave peaks olema arusaadav, võrreldav ja kontrollitav ning komisjon peaks välja töötama suunised ühtlustatud metoodika jaoks, kuidas seda teavet arvutada ja esitada. Et tagada ühtse dokumentatsiooni võimalikkus, tuleks nõutava dokumentatsiooni ja kohaldatavates liidu õigusaktides nõutavate dokumentidega seotud terminid ja määratlused nii palju kui võimalik ühtlustada.

(46a)

Tehisintellektisüsteemid peaksid võtma arvesse tipptasemel meetodeid ja asjaomaseid kohaldatavaid standardeid, et vähendada energiatarbimist, ressursikasutust ja jäätmeid ning suurendada energiatõhusust ja süsteemi üldist tõhusust. Tehisintellektisüsteemide keskkonnaaspektid, mis on käesoleva määruse kohaldamisel olulised, on tehisintellektisüsteemi energiatarbimine väljatöötamise, treenimise ja juurutamise etapis ning nende andmete registreerimine, aruandlus ja säilitamine. Tehisintellektisüsteemide kavandamine peaks võimaldama energia ja ressursside tarbimise mõõtmist ja logimist igas väljatöötamise, treenimise ja juurutamise etapis. Tehisintellektisüsteemide heitkoguste seire ja aruandlus peab olema usaldusväärne, läbipaistev, järjepidev ja täpne. Et tagada käesoleva määruse ühetaoline kohaldamine ning stabiilne õiguslik ökosüsteem ühtsel turul tegutsevate pakkujate ja juurutajate jaoks, peaks komisjon välja töötama ühise metoodika kirjelduse, et täita energia ja ressursside tarbimisega seotud aruandlus- ja dokumenteerimisnõudeid väljatöötamise, treenimise ja juurutamise ajal. Sellised mõõtmismetoodika ühtsed kirjeldused võivad luua lähtealuse, mille põhjal saab komisjon pärast kehtivaid õigusakte arvesse võtva mõjuhinnangu tegemist paremini otsustada, kas tulevikus on vaja regulatiivseid meetmeid.

(46b)

Et saavutada käesoleva määruse eesmärgid ja aidata kaasa liidu keskkonnaeesmärkide täitmisele, tagades samal ajal siseturu sujuva toimimise, võib osutuda vajalikuks kehtestada soovitused ja suunised ning lõpuks kestlikkuse eesmärgid. Selleks on komisjonil õigus töötada välja metoodika, et aidata kaasa põhiliste tulemusnäitajate ja kestliku arengu eesmärkide võrdlusraamistiku väljatöötamisele. Esmane eesmärk peaks olema võimaldada õiglast võrdlemist tehisintellekti rakendamise valikute vahel, pakkudes stiimuleid tõhusamate tehisintellektitehnoloogiate kasutamise edendamiseks ning energia- ja ressurssidega seotud probleemide lahendamiseks. Selle eesmärgi saavutamiseks tuleks käesolevas määruses ette näha vahendid, et koguda teatud lähteandmeid heitkoguste kohta väljatöötamise ja treenimise etapis ning juurutamise ajal.

(47a)

Sellised tehisintellektiga seotud otsuste tegemise läbipaistvuse ja selgitatavuse nõuded peaksid samuti aitama võidelda digitaalse asümmeetria ja üksikisikutele suunatud petuskeemide hoiatava mõju ja nende teadliku nõusolekuga.

(49)

Suure riskiga tehisintellektisüsteemid peaksid toimima kogu oma elutsükli jooksul järjepidevalt ning nende täpsus, stabiilsus ja küberturvalisus peaks olema asjakohasel tasemel vastavalt tehnika üldtunnustatud tasemele. Täpsusaste ja täpsuse parameetrid tuleks kasutajatele teatavaks teha.

(49)

Suure riskiga tehisintellektisüsteemid peaksid toimima kogu oma elutsükli jooksul järjepidevalt ning nende täpsus, stabiilsus ja küberturvalisus peaks olema asjakohasel tasemel vastavalt tehnika üldtunnustatud tasemele. Toimimise parameetrid ja nende eeldatav aste tuleks määratleda nii, et esmane eesmärk on maandada tehisintellektisüsteemi riske ja negatiivset mõju. Toimimise parameetrite eeldatav tase tuleks juurutajatele teatavaks teha selgel, läbipaistval, hõlpsasti mõistetaval ja arusaadaval viisil. Toimimise parameetrite aruandlust ei saa pidada tõendiks tulevaste tasemete kohta, kuid tuleb kohaldada asjakohaseid meetodeid, et tagada kasutamise ajal ühtsed tasemed. Kuigi standardite kehtestamiseks olemas on olemas standardiorganisatsioonid, on vaja võrdlusuuringuid koordineerida, et teha kindlaks, kuidas neid tehisintellektisüsteemide standardnõudeid ja omadusi tuleks mõõta. Euroopa tehisintellektiamet peaks koondama riiklikud ja rahvusvahelised metroloogia- ja võrdlusasutused ning andma mittesiduvaid suuniseid, et käsitleda tehnilisi aspekte, mis on seotud toimimise ja töökindluse asjakohase taseme mõõtmisega.

(50)

Suure riskiga tehisintellektisüsteemide üks peamisi nõudeid on tehniline stabiilsus. Need süsteemid peaksid olema vastupidavad nii süsteemi piirangutega seotud riskide (st vead, rikked, ebakõlad, ootamatud olukorrad) kui ka pahatahtliku tegevuse suhtes, mis võib kahjustada tehisintellektisüsteemi turvalisust ja põhjustada kahjulikku või muul viisil soovimatut käitumist. Suutmatus kaitsta nende riskide eest võib mõjutada ohutust või kahjustada põhiõigusi näiteks ekslike otsuste või tehisintellektisüsteemi genereeritud ekslike või kallutatud väljundite tõttu.

(50)

Suure riskiga tehisintellektisüsteemide üks peamisi nõudeid on tehniline stabiilsus. Need süsteemid peaksid olema vastupidavad nii süsteemi piirangutega seotud riskide (st vead, rikked, ebakõlad, ootamatud olukorrad) kui ka pahatahtliku tegevuse suhtes, mis võib kahjustada tehisintellektisüsteemi turvalisust ja põhjustada kahjulikku või muul viisil soovimatut käitumist. Suutmatus kaitsta nende riskide eest võib mõjutada ohutust või kahjustada põhiõigusi näiteks ekslike otsuste või tehisintellektisüsteemi genereeritud ekslike või kallutatud väljundite tõttu. Tehisintellektisüsteemi kasutajad peaksid astuma samme tagamaks, et võimalik kompromiss stabiilsuse ja täpsuse vahel ei tooks vähemusrühmade jaoks kaasa diskrimineerimist või negatiivseid tagajärgi.

(51)

Küberturvalisusel on oluline roll, et tagada tehisintellektisüsteemide vastupidavus pahatahtlike kolmandate isikute katsetele muuta süsteemi nõrku kohti ära kasudes süsteemi kasutust, käitumist või toimimist või kahjustada selle turvaomadusi. Tehisintellektisüsteemide vastu suunatud küberrünnetes võidakse ära kasutada tehisintellektispetsiifilisi ressursse, näiteks treeningandmestikke (nt andmemürgitus, i.k. data poisoning) või treenitud mudeleid (nt vastandründed, i.k. adversarial attacks), või tehisintellektisüsteemi digivarade või IKT alustaristu nõrkusi. Seega peaksid suure riskiga tehisintellektisüsteemide pakkujad võtma riskidele vastava küberturvalisuse taseme tagamiseks sobivaid meetmeid, arvestades sealjuures vastavalt vajadusele ka IKT alustaristuga.

(51)

Küberturvalisusel on oluline roll, et tagada tehisintellektisüsteemide vastupidavus pahatahtlike kolmandate isikute katsetele muuta süsteemi nõrku kohti ära kasudes süsteemi kasutust, käitumist või toimimist või kahjustada selle turvaomadusi. Tehisintellektisüsteemide vastu suunatud küberrünnetes võidakse ära kasutada tehisintellektispetsiifilisi ressursse, näiteks treeningandmestikke (nt andmemürgitus, i.k. data poisoning) või treenitud mudeleid (nt vastandründed, i.k. adversarial attacks , või konfidentsiaalsust rikkuvad rünnakud, i.k. confidentiality attacks ), või tehisintellektisüsteemi digivarade või IKT alustaristu nõrkusi. Seega peaksid suure riskiga tehisintellektisüsteemide pakkujad , aga ka teavitatud asutused, riigi pädevad asutused ja turujärelevalveasutused võtma riskidele vastava küberturvalisuse taseme tagamiseks sobivaid meetmeid, arvestades sealjuures vastavalt vajadusele ka IKT alustaristuga. Suure riskiga tehisintellektiga peaksid kaasnema turvalahendused ja paigad manustoote eluea lõpuni või sõltuvuse puudumisel konkreetsest tootest ajavahemiku jooksul, mille tootja peab ära näitama.

(53a)

ÜRO puuetega inimeste õiguste konventsiooni allkirjastajatena on Euroopa Liit ja kõik liikmesriigid seadusega kohustatud kaitsma puuetega inimesi diskrimineerimise eest ja edendama nende võrdõiguslikkust, tagama puuetega inimestele teistega võrdsetel alustel juurdepääsu info- ja kommunikatsioonitehnoloogiale ja -süsteemidele ning tagama puuetega inimeste eraelu puutumatuse austamise. Arvestades tehisintellektisüsteemide kasvavat tähtsust ja kasutamist, peaks universaaldisaini põhimõtete kohaldamine kõigi uute tehnoloogiate ja teenuste suhtes tagama täieliku, võrdse ja piiramatu juurdepääsu kõigile, keda tehisintellekti tehnoloogiad potentsiaalselt mõjutavad või kes neid kasutavad, sealhulgas puuetega inimestele, võttes täielikult arvesse nende loomupärast väärikust ja mitmekesisust. Seepärast on oluline, et pakkujad järgiksid täielikult ligipääsetavusnõudeid, sealhulgas direktiivi (EL) 2016/2102 ja direktiivi (EL) 2019/882. Pakkujad peaksid tagama, et nende nõuete täitmine on sisse kavandatud. Seepärast tuleks vajalikud meetmed võimalikult suures ulatuses integreerida suure riskiga tehisintellektisüsteemi kavandamisse.

(54)

Pakkuja peaks kehtestama usaldusväärse kvaliteedijuhtimissüsteemi, tagama nõutava vastavushindamismenetluse teostamise, koostama asjakohase dokumentatsiooni ja kehtestama stabiilse turustamisjärgse seire süsteemi. Avaliku sektori asutused, kes võtavad suure riskiga tehisintellektisüsteemi kasutusele oma tarbeks, võivad võtta vastu kvaliteedijuhtimissüsteemi reeglid ja neid rakendada olenevalt asjaoludest riigi või piirkonna tasemel vastuvõetud kvaliteedijuhtimissüsteemi osana, võttes arvesse sektori iseärasusi ning asjaomase avaliku sektori asutuse pädevust ja töökorraldust.

(54)

Pakkuja peaks kehtestama usaldusväärse kvaliteedijuhtimissüsteemi, tagama nõutava vastavushindamismenetluse teostamise, koostama asjakohase dokumentatsiooni ja kehtestama stabiilse turustamisjärgse seire süsteemi. Pakkujate puhul, kellel on juba kasutusel kvaliteedijuhtimissüsteemid, mis põhinevad sellistel standarditel nagu ISO 9001 või muudel asjakohastel standarditel, ei tohiks eeldada mitmekordset kvaliteedijuhtimissüsteemi tervikuna, vaid pigem nende olemasolevate süsteemide kohandamist teatavate aspektidega, mis on seotud vastavusega käesoleva määruse konkreetsetele nõuetele. See peaks kajastuma ka tulevases standardimistegevuses või komisjoni poolt sellega seoses vastu võetud suunistes. Avaliku sektori asutused, kes võtavad suure riskiga tehisintellektisüsteemi kasutusele oma tarbeks, võivad võtta vastu kvaliteedijuhtimissüsteemi reeglid ja neid rakendada olenevalt asjaoludest riigi või piirkonna tasemel vastuvõetud kvaliteedijuhtimissüsteemi osana, võttes arvesse sektori iseärasusi ning asjaomase avaliku sektori asutuse pädevust ja töökorraldust.

(56)

Et võimaldada käesoleva määruse täitmine ja luua operaatoritele võrdsed tingimused, võttes sealjuures arvesse digitoodete kättesaadavaks tegemise eri vorme, on oluline tagada, et mõni liidus tegutsev isik saab igas olukorras esitada ametiasutustele kogu vajaliku teabe tehisintellektisüsteemi nõuetele vastavuse kohta. Seepärast peab väljaspool liitu asuv pakkuja juhul, kui importijat ei ole võimalik kindlaks teha, enne oma süsteemi liidu turul kättesaadavaks tegemist määrama kirjaliku volitusega liidus asuva volitatud esindaja.

(56)

Et võimaldada käesoleva määruse täitmine ja luua operaatoritele võrdsed tingimused, võttes sealjuures arvesse digitoodete kättesaadavaks tegemise eri vorme, on oluline tagada, et mõni liidus tegutsev isik saab igas olukorras esitada ametiasutustele kogu vajaliku teabe tehisintellektisüsteemi nõuetele vastavuse kohta. Seepärast peab väljaspool liitu asuv pakkuja enne oma süsteemi liidu turul kättesaadavaks tegemist määrama kirjaliku volitusega liidus asuva volitatud esindaja.

(58)

Arvestades tehisintellektisüsteemide olemust ning nende kasutamisega potentsiaalselt seotud riske ohutusele ja põhiõigustele, muu hulgas seoses vajadusega tagada reaalsetes oludes tehisintellektisüsteemi toimimise nõuetekohane seire, on otstarbekas näha kasutajatele ette konkreetsed kohustused. Esmajoones peaksid kasutajad kasutama suure riskiga tehisintellektisüsteeme kasutusjuhendi kohaselt ning vastavalt vajadusele tuleks kehtestada teatavad muud kohustused seoses tehisintellektisüsteemide töö seire ja andmete säilitamisega.

(58)

Arvestades tehisintellektisüsteemide olemust ning nende kasutamisega potentsiaalselt seotud riske ohutusele ja põhiõigustele, muu hulgas seoses vajadusega tagada reaalsetes oludes tehisintellektisüsteemi toimimise nõuetekohane seire, on otstarbekas näha juurutajatele ette konkreetsed kohustused. Esmajoones peaksid juurutajad kasutama suure riskiga tehisintellektisüsteeme kasutusjuhendi kohaselt ning vastavalt vajadusele tuleks kehtestada teatavad muud kohustused seoses tehisintellektisüsteemide töö seire ja andmete säilitamisega.

(58a)

Kuigi tehisintellektisüsteemidega seotud riskid võivad tuleneda selliste süsteemide projekteerimisest, võivad riskid tuleneda ka sellest, kuidas selliseid tehisintellektisüsteeme kasutatakse. Suure riskiga tehisintellektisüsteemi juurutajatel on seega oluline osa põhiõiguste kaitse tagamisel, täiendades pakkuja kohustusi tehisintellektisüsteemi arendamisel. Juurutajad saavad kõige paremini aru, kuidas suure riskiga tehisintellektisüsteemi konkreetselt kasutatakse, ja suudavad seetõttu tuvastada võimalikud olulised riskid, mida ei olnud arendusetapis ette nähtud, tehes seda tänu täpsematele teadmistele kasutamise konteksti ning tõenäoliselt mõjutatud inimeste või inimrühmade kohta, mille hulka kuuluvad tõrjutud ja haavatavad rühmad. Juurutajad peaksid selles konkreetses kasutuskontekstis kindlaks määrama asjakohased juhtimisstruktuurid, nagu inimjärelevalve kord, kaebuste menetlemise kord ja õiguskaitsemenetlused, sest juhtimisstruktuurides tehtavad valikud võivad olla olulised põhiõigustega seotud riskide maandamiseks konkreetsetes kasutusjuhtumites. Et tagada põhiõiguste tõhus kaitsmine, peaks suure riskiga tehisintellektisüsteemide juurutaja tegema enne juurutamist põhiõiguste mõjuhinnangu. Mõjuhinnangule tuleks lisada üksikasjalik kava, mis kirjeldab meetmeid või vahendeid, mis aitavad piirata tuvastatud põhiõigustega seotud riske hiljemalt selle rakendamise hetkest. Kui sellist kava ei ole võimalik koostada, ei tohiks juurutaja süsteemi kasutusele võtta. Mõjuhinnangu tegemisel peaks juurutaja teavitama riiklikku järelevalveasutust ja võimalikult suures ulatuses asjaomaseid sidusrühmi ning selliste isikute rühmade esindajaid, keda tehisintellektisüsteem tõenäoliselt mõjutab, et koguda asjakohast teavet, mida peetakse mõjuhinnangu tegemiseks vajalikuks, ning neil soovitatakse teha oma põhiõiguste mõjuhinnangu kokkuvõte üldsusele kättesaadavaks oma veebisaidil. Neid kohustusi ei tohiks kohaldada VKEde suhtes, kellel võib ressursside puudumise tõttu olla raske sellist konsulteerimist läbi viia. Sellegipoolest peaksid ka nemad püüdma kasutada selliseid esindajaid põhiõigustele avalduva mõju hindamisel. Lisaks, võttes arvesse võimalikku mõju ja vajadust demokraatliku järelevalve ja kontrolli järele, tuleks suure riskiga tehisintellektisüsteemide juurutajatelt, kes on avaliku sektori asutused või liidu institutsioonid, organid ja asutused, samuti juurutajatelt, kes on määruse (EL) 2022/1925 alusel sisule juurdepääsu kontrollijaks määratud ettevõtjad, nõuda kõigi suure riskiga tehisintellektisüsteemide kasutamise registreerimist avalikus andmebaasis. Teised juurutajad võivad end vabatahtlikult registreerida.

(59)

Oleks mõistlik eeldada, et tehisintellektisüsteemi kasutaja on füüsiline või juriidiline isik, ametiasutus, ametkond või muud organ, kelle volituste alusel tehisintellektisüsteemi käitatakse, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoks.

(59)

Oleks mõistlik eeldada, et tehisintellektisüsteemi juurutaja on füüsiline või juriidiline isik, ametiasutus, ametkond või muud organ, kelle volituste alusel tehisintellektisüsteemi käitatakse, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoks.

(60)

Arvestades tehisintellekti väärtusahela keerukust, peaksid asjaomased kolmandad isikud, eriti need, kes tegelevad tarkvara, tarkvaratööriistade ja -komponentide , eeltreenitud mudelite ja andmete müügi ja tarnimisega, või võrguteenuste osutajad tegema vastavalt vajadusele koostööd pakkujate ja kasutajatega, et võimaldada neil täita käesolevast määrusest tulenevaid kohustusi , ja käesoleva määruse alusel loodud pädevate asutustega .

(60)

Tehisintellekti väärtusahelas pakuvad mitmed osalejad sageli vahendeid ja teenuseid, aga ka komponente või protsesse, mille pakkuja seejärel tehisintellektisüsteemi kaasab, sealhulgas andmete kogumine ja eeltöötlus, mudelite treenimine ja ümbertreenimine, mudelite testimine ja hindamine, integreerimine tarkvarasse või muud mudeliarenduse aspektid. Asjaomased osalejad võivad teha oma pakkumise otseselt või kaudselt kaubanduslikult kättesaadavaks liideste, näiteks rakendusliideste (API) kaudu, ning jagada neid vaba ja avatud lähtekoodiga litsentside alusel, aga üha enam ka tehisintellekti tööjõu platvormide, treenitud parameetrite edasimüügi või mudelite loomise DIY-komplektide kaudu või pakkudes tasulist juurdepääsu mudeliarhitektuurile mudelite väljatöötamiseks ja treenimiseks. Arvestades tehisintellekti väärtusahela keerukust, peaksid kõik asjaomased kolmandad isikud, eelkõige need, kes tegelevad tehisintellektisüsteemi lisatud tarkvaravahendite, komponentide , eeltreenitud mudelite või andmete väljatöötamise, müügi ja kaubandusliku tarnimisega, või võrguteenuste osutajad - kahjustamata omaenda intellektuaalomandiõigusi või ärisaladusi – tegema kättesaadavaks nõutava teabe, treenimise või eksperditeadmised ning tegema vastavalt vajadusele pakkujatega koostööd , et nad saaksid kontrollida kõiki käesoleva määruse kohaldamisalasse kuuluvate tehisintellektisüsteemi nõuetele vastavusega seotud aspekte. Et võimaldada tehisintellekti väärtusahela kulutõhusat juhtimist, peab iga kolmas isik, kes annab pakkujale vahendi, teenuse, komponendi või protsessi, mille pakkuja hiljem tehisintellektisüsteemi integreerib, sõnaselgelt avalikustama kontrollitaseme.

(60a)

Kui ühel poolel on tugevam läbirääkimispositsioon, on oht, et see pool võib sellist positsiooni teise lepinguosalise kahjuks võimendada, kui ta peab läbirääkimisi suure riskiga tehisintellektisüsteemi kasutatavate või sellesse integreeritud vahendite, teenuste, komponentide või protsesside tarnimise üle või õiguskaitsevahendite üle seoses kohustuste rikkumise või lõpetamisega. Selline lepinguline tasakaalustamatus kahjustab eelkõige mikro-, väikeseid ja keskmise suurusega ettevõtjaid ning idufirmasid, välja arvatud juhul, kui nad on sellise ettevõtja omandis või alltöövõtjad, kes suudab neile asjakohaselt hüvitist maksta, kuna neil ei ole sisulist võimalust pidada läbirääkimisi lepingutingimuste üle, ning neil ei tohi olla muud valikut kui nõustuda lepingu tingimustega. Seetõttu ei tohiks ebaõiglased lepingutingimused, mis on seotud kõrge riskiga tehisintellektisüsteemis kasutatavate või sellesse integreeritud vahendite, teenuste, komponentide või protsesside pakkumisega või seotud kohustuste rikkumise või lõpetamise hüvitamisega, olla mikro-, väikestele ja keskmise suurusega ettevõtjatele ega idufirmadele siduvad, kui need on ühepoolselt peale surutud.

(60b)

Lepingutingimusi käsitlevates õigusnormides tuleks arvesse võtta lepinguvabaduse põhimõtet, mis on ettevõtjatevahelistes suhetes oluline mõiste. Seetõttu ei tuleks kontrollida mitte kõigi lepingutingimuste ebaõiglust, vaid ainult nende oma, mis on ühepoolselt kehtestatud mikro-, väikestele ja keskmise suurusega ettevõtjatele ja idufirmadele. See puudutab „võta või jäta“ olukordi, kus üks pool esitab teatava lepingutingimuse ning mikro-, väike või keskmise suurusega ettevõtja või idufirma ei saa selle tingimuse sisu mõjutada, hoolimata katsest selle üle läbirääkimisi pidada. Lepingutingimust, mille esitab üks pool ja millega mikro-, väike või keskmise suurusega ettevõtja või idufirma nõustub, või lepingutingimust, mille üle lepinguosalised peavad läbirääkimisi ja milles lepitakse kokku pärast selle muutmist, ei tohiks pidada ühepoolselt kehtestatuks.

(60c)

Lisaks tuleks ebaõiglasi lepingutingimusi käsitlevaid norme kohaldada üksnes nende lepinguelementide suhtes, mis on seotud suure riskiga tehisintellektisüsteemis kasutatavate või sellesse integreeritud vahendite, teenuste, komponentide või protsesside tarnimisega või seotud kohustuste rikkumise või lõpetamise õiguskaitsevahenditega. Sama lepingu muude osade suhtes, mis ei ole nende elementidega seotud, ei tohiks käesolevas määruses sätestatud ebaõigluse kontrolli kohaldada.

(60d)

Ebaõiglaste lepingutingimuste kindlakstegemise kriteeriume tuleks kohaldada ainult ülemääraste lepingutingimuste suhtes, kui kuritarvitatakse tugevamat läbirääkimispositsiooni. Valdav enamik lepingutingimustest, mis on ühele poolele majanduslikult soodsamad kui teisele, sealhulgas need, mis on ettevõtjatevaheliste lepingute puhul tavalised, on lepinguvabaduse põhimõtte tavapärane väljendus ja neid kohaldatakse jätkuvalt. Kui lepingutingimus ei ole kantud nende tingimuste loetellu, mida peetakse alati ebaõiglaseks, kohaldatakse üldist ebaõigluse sätet. Selles kontekstis saaks ebaõiglaste tingimustena loetletud tingimusi kasutada võrdlusalusena ebaõigluse üldsätte tõlgendamisel.

(60e)

Alusmudelid on hiljutine areng, mille puhul tehisintellekti mudelid töötatakse välja algoritmidest, mis on välja töötatud selleks, et optimeerida väljundi üldistust ja mitmekülgsust. Neid mudeleid treenitakse sageli mitmesuguste andmeallikate ja suurte andmehulkade kohta, et täita mitmesuguseid järgmise etapi ülesandeid, sealhulgas mõnesid selliseid, mille jaoks need ei ole välja töötatud ega treenitud. Alusmudel võib olla üheliigiline või mitmeliigiline ning seda saab treenida mitmesuguste meetodite abil, näiteks juhendamisega õppe või stiimulõppe abil. Konkreetse sihtotstarbega või üldotstarbelised tehisintellektisüsteemid võivad olla alusmudeli rakendamine, mis tähendab, et iga alusmudelit saab taaskasutada lugematutes järgmise etapi tehisintellektisüsteemides või üldotstarbelistes tehisintellektisüsteemides. Need mudelid on paljude järgmise etapi rakenduste ja süsteemide jaoks üha olulisemad.

(60f)

Alusmudelite puhul, mida pakutakse teenusena, näiteks rakendusliidesele juurdepääsu kaudu, peaks koostöö tootmisahela järgmise etapi teenuseosutajatega hõlmama kogu teenuse osutamise ja toetamise aega, et võimaldada asjakohast riskide maandamist, välja arvatud juhul, kui alusmudeli pakkuja edastab treenimismudeli ning ulatusliku ja asjakohase teabe süsteemi andmestike ja arendusprotsessi kohta või piirab teenuse osutamist, näiteks juurdepääsu rakendusliidesele nii, et järgmise etapi teenuseosutaja suudab täielikult järgida käesolevat määrust ilma algse alusmudeli pakkuja täiendava toetuseta.

(60g)

Tehisintellektisüsteemi väärtusahela olemust ja keerukust silmas pidades on oluline täpsustada tehisintellektisüsteemide arendamises osalejate rolli. Alusmudelite arengu osas valitseb suur ebakindlus, seda nii mudelite tüpoloogia kui ka eneseregulatsiooni seisukohast. Seetõttu on oluline selgitada alusmudelite pakkujate õiguslikku olukorda. Arvestades nende mudelite keerukust ja soovimatuid mõjusid, kontrolli puudumist tehisintellekti allpakkuja poolt alusmudeli arendamise üle ja sellest tulenevat võimu tasakaalustamatust, ning selleks et tagada tehisintellekti väärtusahelas vastutuse õiglane jaotus, tuleks selliste mudelite suhtes kohaldada käesoleva määruse alusel proportsionaalseid ja täpsemaid kohustusi ja nõudeid. Ausmudelid peaksid hindama ja leevendama võimalikke riske ja kahjusid sobiva kavandamise, testimise ja analüüsi kaudu, rakendama andmehaldusmeetmeid, sealhulgas kallutatuse hindamist, ning vastama tehnilise kavandamise nõuetele, et tagada asjakohane toimivus, prognoositavus, tõlgendatavus, parandatavus, turvalisuse ja küberturvalisuse tase; lisaks peaksid need vastama keskkonnastandarditele. Nende kohustustega peaksid kaasnema standardid. Alusmudelitel peaks olema ka teavitamiskohustus ja nad peaksid valmistama ette kogu vajaliku tehnilise dokumentatsiooni võimalikele järgmise etapi teenuseosutajatele, et nad saaksid täita oma käesolevast määrusest tulenevaid kohustusi. Generatiivsed alusmudelid peaksid tagama läbipaistvuse seoses asjaoluga, et sisu on loonud tehisintellektisüsteem, mitte inimesed. Need konkreetsed nõuded ja kohustused ei tähenda seda, et alusmudeleid peetakse suure riskiga tehisintellektisüsteemideks, vaid need peaksid tagama, et saavutatakse käesoleva määruse eesmärgid tagada põhiõiguste, tervise ja ohutuse, keskkonna, demokraatia ja õigusriigi kõrgetasemeline kaitse. Eeltreenitud mudeleid, mis on välja töötatud kitsama, vähem üldisema ja piiratuma rakenduste jaoks, mida ei saa kohandada paljudele ülesannetele, näiteks lihtsatele mitmeotstarbelistele tehisintellektisüsteemidele, ei tohiks käesoleva määruse kohaldamisel käsitada alusmudelitena nende suurema tõlgendatavuse tõttu, mis muudab nende käitumise vähem ettearvamatuks.

(60h)

Alusmudelite olemuse tõttu ei ole vastavushindamise osas piisavalt teadmisi ja kolmandate isikute kontrollimeetodeid alles arendatakse. Seega töötab sektor ise välja uusi viise, kuidas hinnata alusmudeleid, mis täidavad osaliselt auditeerimise eesmärki (nt mudeli hindamine, punaste tiimide kasutamine või masinõppe kontrolli- ja valideerimismeetodid). Need alusmudelite sisehindamised peaksid olema laialdaselt kohaldatavad (nt sõltumatud turustuskanalid, -viisid, arendusmeetodid), et käsitleda sellistele mudelitele omaseid riske, võttes arvesse tööstusharu uusimaid tavasid ja keskendudes mudelist piisava tehnilise arusaamise ja kontrolli arendamisele, mõistlikult prognoositavate riskide juhtimisele ning mudeli ulatuslikule analüüsile ja katsetamisele asjakohaste meetmete abil, näiteks sõltumatute hindajate kaasamise kaudu. Kuna alusmudelid on tehisintellekti valdkonnas uus ja kiiresti arenev areng, on asjakohane, et komisjon ja tehisintellektiamet jälgiksid ja hindaksid korrapäraselt selliste mudelite ja eelkõige sellistel mudelitel põhinevate generatiivsete tehisintellektisüsteemide õigus- ja juhtimisraamistikku, mis tõstatavad olulisi küsimusi seoses sellise sisu loomisega, mis on vastuolus liidu õiguse, autoriõiguse normide ja võimaliku väärkasutamisega. Tuleks selgitada, et käesolev määrus ei tohiks piirata autoriõigust ja sellega kaasnevaid õigusi käsitleva liidu õiguse, sealhulgas Euroopa Parlamendi ja nõukogu direktiivide 2001/29/EÜ, 2004/48/ECR ja (EL) 2019/790 kohaldamist.

(61)

Olulisel kohal on siinjuures standardimine, mis peaks andma pakkujatele tehnilised lahendused käesoleva määruse nõuete täitmiseks. Euroopa Parlamendi ja nõukogu määruses (EL) nr 1025/ 201254  (54) määratletud harmoneeritud standardite järgimine peaks olema pakkujate jaoks vahend, millega tõendada käesoleva määruse nõuete täitmist. Valdkondades, kus harmoneeritud standardid puuduvad või on ebapiisavad , võiks komisjon siiski vastu võtta ühiseid tehnilisi kirjeldusi .

(61)

Olulisel kohal on siinjuures standardimine, mis peaks andma pakkujatele tehnilised lahendused käesoleva määruse nõuete täitmiseks. Euroopa Parlamendi ja nõukogu määruses (EL) nr 1025/ 2012  (54) määratletud harmoneeritud standardite järgimine peaks olema pakkujate jaoks vahend, millega tõendada käesoleva määruse nõuete täitmist. Et tagada standardite kui liidu poliitika vahendite tõhusus ning võttes arvesse standardite olulisust käesoleva määruse nõuete täitmise tagamisel ja ettevõtete konkurentsivõimet, on vaja tagada huvide õiglane esindatus , kaasates standardite väljatöötamisse kõik asjakohased sidusrühmad. Standardimismenetlus peaks olema läbipaistev standardimistegevuses osalevate juriidiliste ja füüsiliste isikute osas.

(61a)

Nõuete täitmise hõlbustamiseks peaks komisjon esitama esimesed standardimistaotlused hiljemalt kaks kuud pärast käesoleva määruse jõustumist. See peaks parandama õiguskindlust, edendades seeläbi tehisintellekti investeerimist ja innovatsiooni ning liidu turu konkurentsivõimet ja kasvu, edendades samal ajal mitut sidusrühma hõlmavat juhtimist, mis esindab kõiki asjaomaseid Euroopa sidusrühmi, nagu tehisintellektiamet, Euroopa standardiorganisatsioonid ja asjaomase valdkondliku liidu õiguse alusel loodud asutused või eksperdirühmad, samuti tööstust, VKEsid, idufirmasid, kodanikuühiskonda, teadlasi ja sotsiaalpartnereid, ning peaks lõppkokkuvõttes hõlbustama tehisintellekti valdkonna ülemaailmset standardimiskoostööd viisil, mis on kooskõlas liidu väärtustega. Standardimistaotluse koostamisel peaks komisjon konsulteerima tehisintellektiameti ja nõuandva koguga, et koguda asjaomaseid eksperditeadmisi.

(61b)

Kui tehisintellektisüsteeme kavatsetakse kasutada töökohal, peaksid ühtlustatud standardid piirduma tehniliste kirjelduste ja menetlustega.

(61c)

Komisjonil peaks olema võimalik võtta teatavatel tingimustel vastu ühtsed kirjeldused, kui asjakohast ühtlustatud standardit ei ole olemas, või käsitleda konkreetseid põhiõigustega seotud probleeme. Koostamise protsessi käigus peaks komisjon korrapäraselt konsulteerima tehisintellektiameti ja selle nõuandva koguga, asjakohaste valdkondlike liidu õigusaktide alusel loodud Euroopa standardiorganisatsioonide ja -organite või eksperdirühmadega ning sidusrühmadega, nagu tööstus, VKEd, idufirmad, kodanikuühiskond, teadlased ja sotsiaalpartnerid.

(61d)

Ühtsete kirjelduste vastuvõtmisel peaks komisjon püüdlema tehisintellekti regulatiivse ühtlustamise poole sarnaselt meelestatud ülemaailmsete partneritega, mis on tehisintellekti valdkonnas innovatsiooni ja piiriüleste partnerluste edendamisel keskse tähtsusega, kuna koordineerimine sarnaselt meelestatud partneritega rahvusvahelistes standardiorganisatsioonides on väga oluline.

(62)

Selleks et tagada suure riskiga tehisintellektisüsteemide usaldusväärsuse kõrge tase, peaksid need süsteemid enne turule laskmist või kasutuselevõtmist läbima vastavushindamise.

(62)

Selleks et tagada suure riskiga tehisintellektisüsteemide usaldusväärsuse kõrge tase, peaksid need süsteemid enne turule laskmist või kasutuselevõtmist läbima vastavushindamise. Et suurendada usaldust väärtusahela vastu ja anda ettevõtjatele kindlustunne oma süsteemide toimimise suhtes, võivad tehisintellekti komponente tarnivad kolmandad isikud vabatahtlikult taotleda kolmanda isiku tehtavat vastavushindamist.

(64)

Kuna kutselistel turustamiseelsetel sertifitseerijatel on tooteohutuse valdkonnas laialdasemad kogemused ja kaasnevad riskid on oma olemuselt erinevad, on otstarbekas vähemalt käesoleva määruse kohaldamise algjärgus piirata kolmanda isiku tehtava vastavushindamise kohaldamise ulatust muude kui toodetega seotud suure riskiga tehisintellektisüsteemide puhul. Seepärast peaks selliste süsteemide vastavushindamise üldjuhul tegema pakkuja omal vastutusel; ainsaks erandiks on tehisintellektisüsteemid, mis on mõeldud kasutamiseks isikute biomeetrilise kaugtuvastamise jaoks ja mille puhul tuleks ette näha teavitatud asutuse osalemine vastavushindamises, eeldusel, et sellised süsteemid ei ole keelatud.

(64)

Kuna suure riskiga tehisintellektisüsteemid ja nendega seotud riskid on keerulised, on oluline välja töötada sobivamad võimalused kõrge riskiga tehisintellektisüsteemide vastavushindamiseks kolmandate isikute poolt. Võttes aga arvesse kutseliste turustamiseelsete sertifitseerijate kogemusi tooteohutuse valdkonnas ja arvestades, et kaasnevad riskid on oma olemuselt erinevad, on otstarbekas vähemalt käesoleva määruse kohaldamise algjärgus piirata kolmanda isiku tehtava vastavushindamise kohaldamise ulatust muude kui toodetega seotud suure riskiga tehisintellektisüsteemide puhul. Seepärast peaks selliste süsteemide vastavushindamise üldjuhul tegema pakkuja omal vastutusel; ainsaks erandiks on tehisintellektisüsteemid, mis on mõeldud kasutamiseks isikute biomeetrilise kaugtuvastamise jaoks või tehisintellektisüsteemid, mis on mõeldud biomeetriliste või biomeetriapõhiste andmete põhjal järelduste tegemiseks füüsiliste isikute isikuomaduste kohta, sealhulgas emotsioonide tuvastamise süsteem, ja mille puhul tuleks ette näha teavitatud asutuse osalemine vastavushindamises, eeldusel, et sellised süsteemid ei ole keelatud.

(65)

Selleks, et isikute biomeetrilises kaugtuvastamises kasutamiseks mõeldud tehisintellektisüsteem saaks läbida kolmanda isiku tehtava vastavushindamise , peaksid riikide pädevad asutused käesoleva määruse alusel määrama teavitatud asutused, tingimusel et need vastavad teatavatele nõuetele eeskätt sõltumatuse, pädevuse ja huvide konflikti puudumise vallas.

(65)

Selleks et vajaduse korral viidaks läbi kolmanda isiku tehtavad vastavushindamised , peaksid riikide pädevad asutused käesoleva määruse alusel määrama teavitatud asutused, tingimusel et need vastavad teatavatele nõuetele eeskätt sõltumatuse, pädevuse, huvide konflikti puudumise ja küberturvalisuse miinimumnõuete vallas. Liikmesriigid peaksid julgustama piisava arvu vastavushindamisasutuste määramist, et muuta sertifitseerimine õigeaegselt teostatavaks. Vastavushindamisasutuste hindamise, määramise, teavitamise ja kontrollimise menetlusi tuleks liikmesriikides rakendada võimalikult ühtselt, et kõrvaldada haldustakistused ja tagada siseturu potentsiaali realiseerimine.

(65a)

Kooskõlas liidu Maailma Kaubandusorganisatsiooni (WTO) tehniliste kaubandustõkete lepingu alusel võetud kohustustega on asjakohane suurendada pädevate vastavushindamisasutuste katsetulemuste aktsepteerimist sõltumata territooriumist, kus nad asuvad, et tõendada vastavust määruse kohaldatavatele nõuetele. Komisjon peaks sel eesmärgil aktiivselt uurima võimalikke rahvusvahelisi vahendeid ning eelkõige püüdma sõlmida vastastikuse tunnustamise lepinguid riikidega, kes on võrreldaval tehnilisel arengutasemel ning kellel on tehisintellekti ja vastavushindamise osas ühilduv lähenemisviis.

(66)

Liidu ühtlustamisõigusaktidega reguleeritud toodete olulise muutmise laialdaselt juurdunud mõistega kooskõlas on otstarbekas, et tehisintellektisüsteem läbib uue vastavushindamise iga kord, kui aset leiab muutus, mis võib mõjutada süsteemi vastavust käeoleva määruse nõuetele, või kui muutub süsteemi sihtotstarve. Lisaks sellele tuleb tehisintellektisüsteemidele, mis n-ö õpivad edasi ka pärast turule laskmist või kasutusele võtmist (st nad kohandavad funktsioonide täitmist automaatselt), näha ette õigusnormid, mille kohaselt ei tohiks olla tegemist olulise muutusega, kui pakkuja on algoritmi ja selle töö muutumise eelnevalt kindlaks määranud ja kui seda on vastavushindamise ajal hinnatud.

(66)

Liidu ühtlustamisõigusaktidega reguleeritud toodete olulise muutmise laialdaselt juurdunud mõistega kooskõlas on otstarbekas, et suure riskiga tehisintellektisüsteem läbib uue vastavushindamise iga kord, kui aset leiab ettenägematu muutus, mis ületab pakkuja kontrollitud või eelnevalt kindlaks määratud muudatusi, sealhulgas pidev õppimine, ja mis võib tekitada uue lubamatu riski ja võib oluliselt mõjutada suure riskiga tehisintellektisüsteemi vastavust käeoleva määruse nõuetele, või kui muutub süsteemi sihtotstarve. Lisaks sellele tuleb tehisintellektisüsteemidele, mis n-ö õpivad edasi ka pärast turule laskmist või kasutusele võtmist (st nad kohandavad funktsioonide täitmist automaatselt), näha ette õigusnormid, mille kohaselt ei tohiks olla tegemist olulise muutusega, kui pakkuja on algoritmi ja selle töö muutumise eelnevalt kindlaks määranud ja kui seda on vastavushindamise ajal hinnatud. Sama peaks kehtima tehisintellektisüsteemi üldistel turvakaalutlustel tehtud uuenduste ja muudatuste kohta, et kaitsta süsteemiga manipuleerimisest tulenevate ohtude eest, tingimusel et need ei kujuta endast olulist muudatust.

(67)

Suure riskiga tehisintellektisüsteemidel peaks olema CE-märgis, mis näitab nende vastavust käesolevale määrusele, et nad saaksid siseturul vabalt liikuda. Liikmesriigid ei tohiks luua põhjendamatuid tõkkeid käesolevas määruses sätestatud nõuetele vastavate ja CE-märgisega suure riskiga tehisintellektisüsteemide turule laskmisele või kasutusele võtmisele.

(67)

Suure riskiga tehisintellektisüsteemidel peaks olema CE-märgis, mis näitab nende vastavust käesolevale määrusele, et nad saaksid siseturul vabalt liikuda. Suure riskiga füüsiliste tehisintellektisüsteemide puhul tuleks kinnitada füüsiline CE-märgis ja seda võib täiendada digitaalse CE-märgisega. Suure riskiga ainult digitaalsete tehisintellektisüsteemide puhul tuleks kasutada digitaalset CE-märgist. Liikmesriigid ei tohiks luua põhjendamatuid tõkkeid käesolevas määruses sätestatud nõuetele vastavate ja CE-märgisega suure riskiga tehisintellektisüsteemide turule laskmisele või kasutusele võtmisele.

(68)

Teatavatel tingimustel võib uuenduslike tehnoloogiate kiire kättesaadavus olla inimeste tervise ja ohutuse ning ühiskonna kui terviku jaoks olla äärmiselt tähtis. Seepärast on otstarbekas, et teatavatel erandlikel põhjustel, mis on seotud avaliku julgeoleku või füüsiliste isikute elu ja tervise kaitse ning tööstus- ja kaubandusomandi kaitsega, võiksid liikmesriigid lubada selliste tehisintellektisüsteemide turule laskmist või kasutusele võtmist, mis ei ole vastavushindamist läbinud.

(68)

Teatavatel tingimustel võib uuenduslike tehnoloogiate kiire kättesaadavus olla inimeste tervise ja ohutuse , keskkonna ja kliimamuutuste ning ühiskonna kui terviku jaoks olla äärmiselt tähtis. Seepärast on otstarbekas, et teatavatel erandlikel põhjustel, mis on seotud füüsiliste isikute elu ja tervise kaitse , keskkonnakaitse ning elutähtsa taristu kaitsega, võiksid liikmesriigid lubada selliste tehisintellektisüsteemide turule laskmist või kasutusele võtmist, mis ei ole vastavushindamist läbinud.

(69)

Et hõlbustada tööd, mida komisjon ja liikmesriigid tehisintellekti vallas teevad, ja suurendada avalikkuse jaoks läbipaistvust, peaksid muude kui asjaomaste olemasolevate liidu ühtlustamisõigusaktide kohaldamisalasse kuuluvate toodetega seotud suure riskiga tehisintellektisüsteemide pakkujad olema kohustatud registreerima oma suure riskiga tehisintellektisüsteemi ELi andmebaasis, mille loob ja mida haldab komisjon. Selle andmebaasi vastutav töötleja peaks olema komisjon vastavalt Euroopa Parlamendi ja nõukogu määrusele (EL) 2018/1725 (55). Et andmebaas oleks kasutuselevõtmisel täielikult toimiv, peaks andmebaasi loomise protseduur hõlmama funktsionaalsete kirjelduste väljatöötamist komisjoni poolt ja sõltumatut auditiaruannet.

(69)

Et hõlbustada tööd, mida komisjon ja liikmesriigid tehisintellekti vallas teevad, ja suurendada avalikkuse jaoks läbipaistvust, peaksid muude kui asjaomaste olemasolevate liidu ühtlustamisõigusaktide kohaldamisalasse kuuluvate toodetega seotud suure riskiga tehisintellektisüsteemide pakkujad olema kohustatud registreerima oma suure riskiga tehisintellektisüsteemi ja alusmudeli ELi andmebaasis, mille loob ja mida haldab komisjon. See andmebaas peaks olema vabalt ja avalikult juurdepääsetav, kergesti mõistetav ja masinloetav. Andmebaas peaks olema ka kasutajasõbralik ja kergesti navigeeritav, kusjuures otsingufunktsioonid peaksid olema vähemalt sellised, mis võimaldavad üldsusel teha andmebaasis otsinguid konkreetsete suure riskiga süsteemide, asukohtade, riskikategooriate ning IV lisa kohaste märksõnade alusel. Juurutajad, kes on avaliku sektori asutused või liidu institutsioonid, organid ja asutused või kes tegutsevad nende nimel, samuti juurutajad, kes on sisule juurdepääsu kontrollijaks määratud ettevõtjad vastavalt määrusele (EL) 2022/1925, peaksid enne suure riskiga tehisintellektisüsteemi kasutusele võtmist või kasutamist selle samuti ELi andmebaasis registreerima esmakordsel kasutuselevõtul ja iga olulise muudatuse järel. Teistel juurutajatel peaks olema õigus seda vabatahtlikult teha. ELi andmebaasis tuleks registreerida ka kõik suure riskiga tehisintellektisüsteemide olulised muudatused. Selle andmebaasi vastutav töötleja peaks olema komisjon vastavalt Euroopa Parlamendi ja nõukogu määrusele (EL) 2018/1725 (55). Et andmebaas oleks kasutuselevõtmisel täielikult toimiv, peaks andmebaasi loomise protseduur hõlmama funktsionaalsete kirjelduste väljatöötamist komisjoni poolt ja sõltumatut auditiaruannet. Komisjon peaks ELi andmebaasis vastutava töötlejana oma ülesannete täitmisel võtma arvesse küberturvalisust ja ohtudega seotud riske. Et maksimeerida andmebaasi kättesaadavust ja kasutamist avalikkuse poolt, peaks andmebaas, sealhulgas selle kaudu kättesaadavaks tehtud teave, vastama direktiivi 2019/882nõuetele.

(71)

Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis eeldab uudset regulatiivset järelevalvet ja turvalist katsetamisruumi , aga ka seda, et tagatud oleks vastutustundlik innovatsioon ning asjakohaste kaitsemeetmete ja riskileevendusmeetmete integreerimine. Innovatsioonisõbraliku, tulevikukindla ja häirete suhtes vastupanuvõimelise õigusraamistiku tagamiseks tuleks ühe või mitme liikmesriigi pädevaid asutusi julgustada looma tehisintellekti regulatsiooni testkeskkondi , mis hõlbustaksid innovatiivsete tehisintellektisüsteemide arendamist ja testimist range regulatiivse järelevalve all, enne kui need süsteemid turule lastakse või muul moel kasutusele võetakse.

(71)

Tehisintellekt on kiirelt arenev tehnoloogiaharu, mis eeldab regulatiivset järelevalvet ning turvalist ja kontrollitud katsetamisruumi , aga ka seda, et tagatud oleks vastutustundlik innovatsioon ning asjakohaste kaitsemeetmete ja riskileevendusmeetmete integreerimine. Et tagada õigusraamistik, mis edendab innovatsioonisõbralikkust, on tulevikukindel ja häirete suhtes vastupanuvõimeline, peaksid liikmesriigid looma vähemalt ühe tehisintellekti regulatsiooni testkeskkonna , mis hõlbustaks innovatiivsete tehisintellektisüsteemide arendamist ja testimist range regulatiivse järelevalve all, enne kui need süsteemid turule lastakse või muul moel kasutusele võetakse. On väga soovitav muuta järgmises etapis kohustuslikuks regulatsiooni testkeskkondade loomine, mis praegu on jäetud liikmesriikide otsustada, ning panna paika testkeskkondade kriteeriumid. Selle kohustusliku testkeskkonna võiks luua ka koos ühe või mitme teise liikmesriigiga, tingimusel et see testkeskkond hõlmab asjaomaste liikmesriikide vastavat riiklikku tasandit. Piiriülese koostöö ja koostoime hõlbustamiseks võib eri tasanditel, sealhulgas liikmesriikide vahel, luua ka täiendavaid testkeskkondi. Lisaks kohustuslikule testkeskkonnale riiklikul tasandil peaks liikmesriikidel olema võimalik luua ka virtuaalsed või hübriidsed testkeskkonnad. Kõik regulatsiooni testkeskkonnad peaksid hõlmama nii füüsilisi kui ka virtuaalseid tooteid. Testkeskkondi loovad asutused peaksid ka tagama, et regulatsiooni testkeskkonnad on oma toimimiseks varustatud piisavate rahaliste vahendite ja personaliga.

(72)

Regulatsiooni testkeskkondade eesmärk peaks olema edendada tehisintellekti alast innovatsiooni kontrollitud eksperimenteerimis- ja katsekeskkonna loomisega arendus- ja turustamiseelses etapis , et tagada innovatiivsete tehisintellektisüsteemide vastavus käesolevale määrusele ning muudele asjakohastele liidu ja liikmesriikide õigusaktidele ; parandada novaatorite õiguskindlust ja pädevate asutuste järelevalvet ning arusaamist tehisintellekti kasutamise võimalustest, tekkivatest riskidest ja mõjudest ning kiirendada turulepääsu muu hulgas sellega , et kaotatakse väikeseid ja keskmise suurusega ettevõtjaid ja idufirmasid piiravad tõkked. Selleks, et tagada ühetaoline rakendamine kogu liidus ja mastaabisääst, on otstarbekas kehtestada regulatsiooni katsetuskeskkondade rakendamise ühised eeskirjad ja katsetuskeskkondade järelevalvega tegelevate asjaomaste ametiasutusete vahelise koostöö raamistik. Käesoleva määrusega tuleks ette näha õiguslik alus muul otstarbel kogutud isikuandmete kasutamiseks, et arendada tehisintellekti regulatsiooni testkeskkonnas avalikes huvides teatavaid tehisintellektisüsteeme kooskõlas määruse (EL) 2016/679 artikli 6 lõikega 4 ja määruse (EL) 2018/1725 artikliga 6 ning ilma, et see piiraks direktiivi (EL) 2016/680 artikli 4 lõike 2 kohaldamist . Testkeskkonnas osalejad peaksid tagama asjakohased kaitsemeetmed ja tegema koostööd pädevate asutustega , järgides muu hulgas nende juhendeid ning tegutsedes viivitusteta ja heas usus , et leevendada ohutust ja põhiõigusi ähvardavaid suuri riske, mis võivad testimiskeskkonnas arendustegevuse ja eksperimenteerimise käigus tekkida. Kui pädevad asutused otsustavad, kas määrata haldustrahv määruse 2016/679 artikli 83 lõike 2 ja direktiivi 2016/680 artikli 57 alusel, tuleks osalejate käitumist testkeskkonnas arvesse võtta.

(72)

Regulatsiooni testkeskkondade eesmärgid peaksid olema järgmised: et pädevad asutused saaksid paremini mõista tehnika arengut, parandada järelevalvemeetodeid ning anda tehisintellektisüsteemide arendajatele ja pakkujatele suuniseid , et saavutada õigusnormide vastavus käesolevale määrusele või, kui see on asjakohane, muudele kohaldatavatele liidu ja liikmesriikide õigusaktidele ning põhiõiguste hartale; võimaldada ja lihtsustada võimalikele pakkujatele tehisintellektisüsteemidega seotud uuenduslike lahenduste testimist ja arendamist turustamise eelses etapis , et suurendada õiguskindlust, võimaldada asutustel rohkem regulatiivset õppimist kontrollitud keskkonnas , et töötada välja paremad suunised ja teha seadusandliku tavamenetluse kaudu kindlaks õigusraamistiku võimalikud tulevased parandused. Kui selliste tehisintellektisüsteemide arendamise ja testimise käigus tuvastatakse oluline risk, tuleb selle põhjal võtta viivitamata leevendusmeetmeid ja kui see ei ole võimalik, tuleb arendamine ja testimine kuni riskide leevendamiseni peatada. Selleks, et tagada ühetaoline rakendamine kogu liidus ja mastaabisääst, on otstarbekas kehtestada regulatsiooni katsetuskeskkondade rakendamise ühised eeskirjad ja katsetuskeskkondade järelevalvega tegelevate asjaomaste ametiasutusete vahelise koostöö raamistik. Liikmesriigid peaksid tagama , et regulatsiooni testkeskkonnad oleks laialdaselt kättesaadavad kogu liidus , samas kui osalemine peaks jääma vabatahtlikuks. Eriti oluline on tagada , et VKEd ja idufirmad pääseksid nendele testkeskkondadele kergesti ligi , oleksid aktiivselt kaasatud ja osaleksid uuenduslike tehisintellektisüsteemide väljatöötamises ja katsetamises, et nad saaksid anda oskusteabe ja kogemustega oma panuse .

(72a)

Käesoleva määrusega tuleks ette näha õiguslik alus muul otstarbel kogutud isikuandmete kasutamiseks, et arendada tehisintellekti regulatsiooni testkeskkonnas avalikes huvides teatavaid tehisintellektisüsteeme, ainult täpsustatud tingimustel kooskõlas määruse (EL) 2016/679 artikli 6 lõikega 4 ja määruse (EL) 2018/1725 artikliga 6 ning ilma, et see piiraks direktiivi (EL) 2016/680 artikli 4 lõike 2 kohaldamist. Testkeskkonnas osalevad võimalikud pakkujad peaksid tagama asjakohased kaitsemeetmed ja tegema koostööd pädevate asutustega, järgides muu hulgas nende juhendeid ning tegutsedes viivitusteta ja heas usus, et leevendada ohutust, tervist, keskkonda ja põhiõigusi ähvardavaid suuri riske, mis võivad testkeskkonnas arendustegevuse ja eksperimenteerimise käigus tekkida. Kui pädevad asutused otsustavad, kas testkeskkonnas osalemist ajutiselt või alaliselt keelata või kas määrata haldustrahv määruse 2016/679 artikli 83 lõike 2 ja direktiivi 2016/680 artikli 57 alusel, tuleks arvesse võtta võimalike pakkujate käitumist testkeskkonnas.

(72b)

Tagamaks, et tehisintellekt annab sotsiaalselt ja keskkonnaalaselt kasulikke tulemusi, peaksid liikmesriigid soodustama ja edendama tehisintellektiga seotud teadus- ja arendustegevust sotsiaalselt ja keskkonnaalaselt kasulike tulemuste toetamiseks, eraldades selleks piisavalt vahendeid, sealhulgas riiklikke ja liidu rahalisi vahendeid, ning andes kodanikuühiskonna juhitud projektidele eelisjärjekorras juurdepääsu regulatsiooni testkeskkonnale. Sellised projektid peaksid põhinema valdkondadevahelise koostöö põhimõttel tehisintellekti arendajate, ebavõrdsuse ja mittediskrimineerimise, juurdepääsetavuse, tarbija-, keskkonna- ja digitaalõiguste valdkonna ekspertide ning akadeemilise ringkonna vahel.

(73)

Innovatsiooni edendamiseks ja kaitsmiseks on oluline pöörata erilist tähelepanu väikepakkujate ja tehisintellektisüsteemide kasutajate huvidele. Liikmesriigid peaksid selle eesmärgi nimel välja töötama nimetatud operaatoritele suunatud algatusi, muu hulgas teadlikkuse suurendamise ja teabe edastamise teemal. Ühtlasi tuleb väikepakkujate konkreetsete huvide ja vajadustega arvestada, kui teavitatud asutused panevad paika vastavushindamise tasud. Kohustusliku dokumentatsiooni ja ametiasutustega suhtlemisega seotud tõlkekulud võivad osutuda pakkujate ja muude operaatorite jaoks märkimisväärseks, eriti juhul, kui tegemist on väiksemate ettevõtjatega. Liikmesriigid peaksid võimaluse korral tagama, et üks nende poolt asjaomaste pakkujate dokumentatsiooni ja operaatoritega suhtlemise jaoks kindlaks määratud ja neile vastuvõetavatest keeltest on keel, mis on üldjoontes arusaadav võimalikult suurele arvule piiriülestele kasutajatele.

(73)

Innovatsiooni edendamiseks ja kaitsmiseks on oluline pöörata erilist tähelepanu väikepakkujate ja tehisintellektisüsteemide kasutajate huvidele. Liikmesriigid peaksid selle eesmärgi nimel välja töötama nimetatud operaatoritele suunatud algatusi, muu hulgas tehisintellektipädevuse, teadlikkuse suurendamise ja teabe edastamise teemal. Liikmesriigid kasutavad olemasolevaid kanaleid ja kui see on asjakohane, siis loovad uusi spetsiaalseid kanaleid VKEde, idufirmade, kasutajate ning teiste innovaatoritega suhtlemiseks, et anda juhiseid ja vastata päringutele käesoleva määruse rakendamise kohta. Sellised olemasolevad kanalid võiksid muu hulgas hõlmata ENISA küberturbe intsidentide lahendamise üksusi, riiklikke andmekaitseasutusi, tehisintellekti nõudeplatvormi, Euroopa digitaalse innovatsiooni keskusi ning komisjoni ja liikmesriikide poolt riigi ja liidu tasandil loodud testimis- ja eksperimenteerimisrajatisi. Kui see on asjakohane, teevad need kanalid koostööd, et luua sünergiat ja tagada idufirmadele, VKEdele ja kasutajatele antavates suunistes ühtsus. Ühtlasi tuleb väikepakkujate konkreetsete huvide ja vajadustega arvestada, kui teavitatud asutused panevad paika vastavushindamise tasud. Komisjon hindab korrapäraselt VKEde ja idufirmade sertifitseerimis- ja nõuete täitmisega seotud kulusid, sealhulgas läbipaistvate konsultatsioonide kaudu VKEde, idufirmade ja kasutajatega, ning teeb liikmesriikidega koostööd selliste kulude vähendamiseks. Näiteks kohustusliku dokumentatsiooni ja ametiasutustega suhtlemisega seotud tõlkekulud võivad osutuda pakkujate ja muude operaatorite jaoks märkimisväärseks, eriti juhul, kui tegemist on väiksemate ettevõtjatega. Liikmesriigid peaksid võimaluse korral tagama, et üks nende poolt asjaomaste pakkujate dokumentatsiooni ja operaatoritega suhtlemise jaoks kindlaks määratud ja neile vastuvõetavatest keeltest on keel, mis on üldjoontes arusaadav võimalikult suurele arvule piiriülestele kasutajatele. Keskmise suurusega ettevõtjatel, kes on hiljuti muutunud väikesest kuni keskmise suurusega kategooriast soovituse 2003/361/EÜ lisa (artikkel 16) tähenduses, on juurdepääs nendele algatustele ja suunistele ajavahemikuks, mida liikmesriigid peavad asjakohaseks, kuna nendel uutel keskmise suurusega ettevõtjatel võib mõnikord olla puudus õiguslikest vahenditest ja koolitusest, mis on vajalikud sätete nõuetekohase mõistmise ja järgimise tagamiseks.

(74)

Selleks, et minimeerida rakendamisega seotud riske, mis tulenevad teadmiste ja oskusteabe puudumisest turul, ja muuta käesolevast määrusest tulenevate kohustuste täitmine pakkujate ja teavitatud asutuste jaoks hõlpsamaks, peaksid tehisintellekti nõudeplatvorm, Euroopa digitaalse innovatsiooni keskused ning komisjoni ja liikmesriikide poolt riigi või ELi tasandil loodud testimis- ja eksperimenteerimisrajatised võimaluse korral aitama kaasa käesoleva määruse rakendamisele. Need asutused võivad pakkuda teavitatud asutustele ja pakkujatele oma vastavate ülesannete ja pädevusvaldkondade piires eeskätt tehnilist ja teaduslikku tuge.

(74)

Selleks, et minimeerida rakendamisega seotud riske, mis tulenevad teadmiste ja oskusteabe puudumisest turul, ja muuta käesolevast määrusest tulenevate kohustuste täitmine pakkujate ja teavitatud asutuste jaoks hõlpsamaks, peaksid tehisintellekti nõudeplatvorm, Euroopa digitaalse innovatsiooni keskused ning komisjoni ja liikmesriikide poolt riigi või ELi tasandil loodud testimis- ja eksperimenteerimisrajatised aitama kaasa käesoleva määruse rakendamisele. Need asutused võivad pakkuda teavitatud asutustele ja pakkujatele oma vastavate ülesannete ja pädevusvaldkondade piires eeskätt tehnilist ja teaduslikku tuge.

(76)

Et hõlbustada käesoleva määruse sujuvat , tulemuslikku ja ühtset rakendamist , tuleks luua Euroopa tehisintellekti nõukoda . Nõukoda peaks vastutama mitmesuguste nõustamisalaste ülesannete eest , sh arvamuste , soovituste , nõuannete või juhendite väljaandmine käesoleva määruse rakendamisega seotud küsimustes, muu hulgas tehniliste kirjelduste või olemasolevate standardite kohta , mis puudutavad käesoleva määrusega kehtestatud nõudeid , ning komisjonile nõu ja abi andmine konkreetsetes tehisintellektiga seotud küsimustes .

(76)

Selleks et vältida killustumist, tagada ühtse turu optimaalne toimimine, tagada käesoleva määruse tulemuslik ja ühtlustatud rakendamine , saavutada tehisintellektisüsteemide osas kogu liidus usaldusväärsuse ning tervise ja ohutuse, põhiõiguste, keskkonna, demokraatia ja õigusriigi kaitse kõrge tase, toetada aktiivselt riiklikke järelevalveasutusi, liidu institutsioone, organeid ja asutusi käesoleva määrusega seotud küsimustes ning suurendada tehisintellekti kasutuselevõttu kogu liidus , tuleks luua Euroopa Liidu tehisintellektiamet . Tehisintellektiamet peaks olema juriidiline isik, tegutsema täiesti sõltumatult , täitma mitmeid nõustamis- ja koordineerimisülesandeid, sealhulgas esitama arvamusi , soovitusi , nõuandeid või suuniseid käesoleva määruse rakendamisega seotud küsimustes, ning tal peaks olema piisavalt rahalisi vahendeid ja töötajaid. Liikmesriigid peaksid koos komisjoni, Euroopa Andmekaitseinspektori, Euroopa Liidu Põhiõiguste Ameti ja ENISAga tagama tehisintellektiameti haldusnõukogu kaudu tehisintellektiameti strateegilise juhtimise ja kontrolli. Tehisintellektiameti sekretariaadi tegevuse juhtimise ja tehisintellektiameti esindamise eest peaks vastutama tegevdirektor. Sidusrühmad peaksid ametlikult osalema tehisintellektiameti töös nõuandva kogu kaudu, mis peaks tagama sidusrühmade mitmekesise ja tasakaalustatud esindatuse ning nõustama tehisintellektiametit käesoleva määrusega seotud küsimustes. Kui tehisintellektiameti asutamine ei ole piisav , et tagada liidu tasandil käesoleva määruse täiesti järjekindel kohaldamine ja tõhusad piiriülesed jõustamismeetmed, tuleks kaaluda tehisintellektiga tegeleva asutuse loomist .

(77)

Liikmesriikidel on käesoleva määruse kohaldamisel ja täitmise tagamisel tähtis roll. Seoses sellega peaks iga liikmesriik määrama ühe või mitu riigi pädevat asutust tegelema käesoleva määruse kohaldamise ja rakendamise järelevalvega . Selleks, et suurendada liikmesriikide töökorralduse tõhusust ja luua ametlik kontaktpunkt suhtlemiseks üldsuse ja muude vastaspooltega liikmesriigi ja liidu tasandil , tuleks igas liikmesriigis määrata üks riigi ametiasutus riigi järelevalveasutuseks .

(77)

Iga liikmesriik peaks määrama riikliku järelevalveasutuse, kes tegeleb käesoleva määruse kohaldamise ja rakendamise järelevalvega. Samuti peaks ta esindama oma liikmesriiki tehisintellektiameti haldusnõukogus . Selleks, et suurendada liikmesriikide töökorralduse tõhusust ja luua ametlik kontaktpunkt suhtlemiseks üldsuse ja muude vastaspooltega liikmesriigi ja liidu tasandil . Iga riiklik järelevalveasutus peaks tegutsema talle käesoleva määrusega kooskõlas antud ülesannete täitmisel ja volituste kasutamisel täiesti sõltumatult .

(77a)

Riiklikud järelevalveasutused peaksid jälgima käesoleva määruse sätete kohaldamist ja aitama kaasa selle järjekindlale kohaldamisele kogu liidus. Selleks peaksid riiklikud järelevalveasutused tegema koostööd omavahel, asjaomaste riiklike pädevate asutuste, komisjoni ja tehisintellektiametiga.

(77b)

Iga riikliku järelevalveasutuse liikmel või töötajal peaks vastavalt liidu või liikmesriigi õigusele olema kohustus hoida ametisaladust nii ametiaja jooksul kui ka pärast seda seoses igasuguse konfidentsiaalse teabega, mis on talle teatavaks saanud tema ülesannete täitmisel või volituste kasutamisel. Ametiaja jooksul kohaldatakse seda ametisaladuse hoidmise kohustust eelkõige ärisaladuste puhul ja juhtudel, kui füüsilised isikud teavitavad käesoleva määruse rikkumistest.

(78)

Tagamaks, et suure riskiga tehisintellektisüsteemide pakkujad saavad võtta oma süsteemide ja projekteerimis- ja arendusprotsessi parandamiseks arvesse suure riskiga tehisintellektisüsteemide kasutamise käigus saadud kogemusi või võtta õigeaegselt võimalikke parandusmeetmeid, peaks kõigil pakkujatel olema sisse seatud turustamisjärgse seire süsteem. Selline süsteem on oluline ka selleks, et tõhusamalt ja õigeaegsemalt saaks tegeleda riskidega, mis tulenevad suure riskiga tehisintellektisüsteemidest, mis n-ö õpivad edasi ka pärast turule laskmist või kasutusele võtmist. Seoses sellega tuleks pakkujatelt nõuda ka seda, et neil oleks olemas süsteem, et teatada asjaomastele asutustele mis tahes tõsistest intsidentidest või sellest, kui tehisintellektisüsteemi kasutamise tõttu on rikutud põhiõigusi kaitsvat siseriiklikku või liidu õigust.

(78)

Tagamaks, et suure riskiga tehisintellektisüsteemide pakkujad saavad võtta oma süsteemide ja projekteerimis- ja arendusprotsessi parandamiseks arvesse suure riskiga tehisintellektisüsteemide kasutamise käigus saadud kogemusi või võtta õigeaegselt võimalikke parandusmeetmeid, peaks kõigil pakkujatel olema sisse seatud turustamisjärgse seire süsteem. Selline süsteem on oluline ka selleks, et tõhusamalt ja õigeaegsemalt saaks tegeleda riskidega, mis tulenevad suure riskiga tehisintellektisüsteemidest, mis n-ö õpivad või arenevad edasi ka pärast turule laskmist või kasutusele võtmist. Seoses sellega tuleks pakkujatelt nõuda ka seda, et neil oleks olemas süsteem, et teatada asjaomastele asutustele mis tahes tõsistest intsidentidest või sellest, kui tehisintellektisüsteemi kasutamise tõttu on muu hulgas rikutud põhiõigusi ja tarbijaõigusi kaitsvat siseriiklikku või liidu õigust , ning asjakohaste parandusmeetmete võtmist . Juurutajad peaksid samuti teavitama asjaomaseid asutusi kõigist tõsistest intsidentidest või sellest, kui tehisintellektisüsteemi kasutamise tõttu on rikutud siseriiklikku või liidu õigust, kui nad sellistest tõsistest intsidentidest või rikkumistest teada saavad.

(79)

Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Põhiõiguste kaitset käsitleva liidu õiguse järelevalvega tegelevatel riigi ametiasutustel või organitel, sh võrdõiguslikkust edendavatel asutustel peaks olema juurdepääs käesoleva määruse kohaselt loodud dokumentatsioonile, kui see on vajalik nende ülesannete täitmiseks.

(79)

Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Käesoleva määruse kohaldamisel peaksid riiklikud järelevalveasutused tegutsema turujärelevalveasutustena käesoleva määrusega hõlmatud tehisintellektisüsteemide, välja arvatud käesoleva määruse II lisaga hõlmatud tehisintellektisüsteemide puhul. II lisas loetletud õigusaktidega hõlmatud tehisintellektisüsteemide puhul peaksid nende õigusaktide kohased pädevad asutused jääma juhtivateks asutusteks. Riiklikud järelevalveasutused ja II lisas loetletud õigusaktide kohased pädevad asutused peaksid vajaduse korral tegema koostööd. Kui see on asjakohane, peaksid II lisas loetletud õigusaktide kohased pädevad asutused saatma riiklikule järelevalveasutusele pädevad töötajad, et aidata tal oma ülesandeid täita. Käesoleva määruse kohaldamisel peaksid riiklikel järelevalveasutustel olema samad volitused ja kohustused nagu määruse (EL) 2019/1020 kohastel turujärelevalveasutustel. Põhiõiguste kaitset käsitleva liidu õiguse järelevalvega tegelevatel riigi ametiasutustel või organitel, sh võrdõiguslikkust edendavatel asutustel peaks olema juurdepääs käesoleva määruse kohaselt loodud dokumentatsioonile, kui see on vajalik nende ülesannete täitmiseks. Pärast seda, kui riiklik järelevalveasutus on ammendanud kõik muud mõistlikud viisid vastavuse hindamiseks/kontrollimiseks ja põhjendatud taotluse korral, tuleks talle anda juurdepääs suure riskiga tehisintellektisüsteemi treenimis-, valideerimis- ja testimisandmestikele, treenitud mudelile ja treeningmudelile, sealhulgas selle asjakohastele mudeliparameetritele ja nende täitmis-/käituskeskkonnale. Käesoleva määruse kohaldamisalasse kuuluvate lihtsamate tarkvarasüsteemide puhul, mis ei põhine treenitud mudelitel, ja kui kõik muud viisid vastavuse kontrollimiseks on ammendatud, võib riiklik järelevalveasutus erandkorras saada põhjendatud taotluse korral juurdepääsu lähtekoodile. Kui riiklikule järelevalveasutusele on kooskõlas käesoleva määrusega antud juurdepääs treenimis-, valideerimis- ja testimisandmestikele, tuleks selline juurdepääs saavutada asjakohaste tehniliste vahendite ja tööriistadega, sealhulgas kohapealse juurdepääsu ja erandjuhtudel kaugjuurdepääsu kaudu. Riiklik järelevalveasutus peaks käsitama kogu saadud teavet, sealhulgas asjakohasel juhul lähtekoodi, tarkvara ja andmeid konfidentsiaalse teabena ning järgima intellektuaalomandi ja ärisaladuste kaitset käsitlevaid asjakohaseid liidu õigusakte. Riiklik järelevalveasutus peaks uurimise lõpetamisel kogu saadud teabe kustutama.

(80)

Finantsteenuseid käsitlevad liidu õigusaktid sisaldavad sisemise juhtimissüsteemi ja riskihalduse kohta käivaid õigusnorme ja nõudeid, mida kohaldatakse reguleeritud finantsasutuste suhtes nende teenuste pakkumise käigus, kaasa arvatud siis, kui nad kasutavad tehisintellektisüsteeme. Käesolevast määrusest tulenevate kohustuste ja finantsteenuseid käsitlevate liidu õigusaktide asjaomaste õigusnormide ja nõuete sidusa kohaldamise ja täitmise tagamiseks tuleks finantsteenuseid käsitlevate õigusaktide järelevalve ja täitmise tagamise eest vastutavad ametiasutused, sh vajaduse korral Euroopa Keskpank, määrata pädevateks asutusteks, kes tegelevad käesoleva määruse rakendamise järelevalvega, sealhulgas turujärelevalvega, seoses reguleeritud ja järelevalve all olevate finantsasutuste pakutavate või kasutatavate tehisintellektisüsteemidega. Et veelgi suurendada käesoleva määruse ja Euroopa Parlamendi ja nõukogu direktiivi 2013/36/EL (56) alusel reguleeritud krediidiasutuste suhtes kohaldatavate õigusnormide sidusust, on ühtlasi otstarbekas integreerida vastavushindamismenetlus ja pakkujate mõned riskijuhtimise, turustamisjärgse seire ja dokumentatsiooniga seotud menetluslikud kohustused direktiivi 2013/36/EL kohaste olemasolevate kohustuste ja menetlustega. Kattuvuse vältimiseks tuleks ette näha ka piiratud erandid seoses pakkujate kvaliteedijuhtimissüsteemidega ja seirekohustusega, mis on pandud suure riskiga tehisintellektisüsteemide kasutajatele , niivõrd kuivõrd neid kohaldatakse direktiiviga 2013/36/EL reguleeritud krediidiasutuste suhtes.

(80)

Finantsteenuseid käsitlev liidu õigus sisaldab sisemise juhtimissüsteemi ja riskihalduse kohta käivaid õigusnorme ja nõudeid, mida kohaldatakse reguleeritud finantsasutuste suhtes nende teenuste pakkumise käigus, kaasa arvatud siis, kui nad kasutavad tehisintellektisüsteeme. Käesolevast määrusest tulenevate kohustuste ja finantsteenuseid käsitleva liidu õiguse asjaomaste õigusnormide ja nõuete sidusa kohaldamise ja täitmise tagamiseks tuleks finantsteenuseid käsitleva õiguse järelevalve ja täitmise tagamise eest vastutavad pädevad ametiasutused, sh vajaduse korral Euroopa Keskpank, määrata pädevateks asutusteks, kes tegelevad käesoleva määruse rakendamise järelevalvega, sealhulgas turujärelevalvega, seoses reguleeritud ja järelevalve all olevate finantsasutuste pakutavate või kasutatavate tehisintellektisüsteemidega. Et veelgi suurendada käesoleva määruse ja Euroopa Parlamendi ja nõukogu direktiivi 2013/36/EL (56) alusel reguleeritud krediidiasutuste suhtes kohaldatavate õigusnormide sidusust, on ühtlasi otstarbekas integreerida vastavushindamismenetlus ja pakkujate mõned riskijuhtimise, turustamisjärgse seire ja dokumentatsiooniga seotud menetluslikud kohustused direktiivi 2013/36/EL kohaste olemasolevate kohustuste ja menetlustega. Kattuvuse vältimiseks tuleks ette näha ka piiratud erandid seoses pakkujate kvaliteedijuhtimissüsteemidega ja seirekohustusega, mis on pandud suure riskiga tehisintellektisüsteemide juurutajatele , niivõrd kuivõrd neid kohaldatakse direktiiviga 2013/36/EL reguleeritud krediidiasutuste suhtes.

(80a)

Pidades silmas käesoleva määruse eesmärke, nimelt tagada füüsiliste isikute tervise, ohutuse ja põhiõiguste kaitse samaväärne tase, tagada õigusriigi ja demokraatia kaitse, ning võttes arvesse, et sellistele õigustele tehisintellektisüsteemist tulenevate riskide leevendamist ei pruugita piisavalt saavutada liikmesriigi tasandil või seda võidakse tõlgendada erinevalt, mis võib lõppkokkuvõttes kaasa tuua füüsiliste isikute kaitse ebaühtlase taseme ja põhjustada turu killustatust, peaks riiklikel järelevalveasutustel olema õigus korraldada ühiseid uurimisi või tugineda tõhusa täitmise tagamiseks käesolevas määruses sätestatud liidu kaitsemeetmete menetlusele. Ühised uurimised tuleks algatada juhul, kui riiklikul järelevalveasutusel on piisavalt põhjust arvata, et käesoleva määruse rikkumine kujutab endast ulatuslikku rikkumist või liidu mõõtmega ulatuslikku rikkumist, või kui tehisintellektisüsteem või alusmudel kujutab endast riski, mis mõjutab või tõenäoliselt mõjutab vähemalt 45 miljonit inimest rohkem kui ühes liikmesriigis.

(82)

On oluline, et tehisintellektisüsteemid, mis on seotud toodetega, mis ei ole käesoleva määruse alusel suure riskiga ja mis seega ei pea vastama käesolevaga sätestatud nõuetele, oleksid siiski ohutud, kui need turule lastakse või kasutusele võetakse. Selle eesmärgi saavutamiseks kohaldatakse turvaabinõuna Euroopa Parlamendi ja nõukogu direktiivi 2001/95/EÜ (57).

(82)

On oluline, et tehisintellektisüsteemid, mis on seotud toodetega, mis ei ole käesoleva määruse alusel suure riskiga ja mis seega ei pea vastama suure riskiga tehisintellektisüsteemide suhtes sätestatud nõuetele, oleksid siiski ohutud, kui need turule lastakse või kasutusele võetakse. Selle eesmärgi saavutamiseks kohaldatakse turvaabinõuna Euroopa Parlamendi ja nõukogu direktiivi 2001/95/EÜ (57).

(83)

Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu ja riikide tasandil peaksid kõik käeoleva määruse kohaldamises osalejad austama oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust.

(83)

Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu ja riikide tasandil peaksid kõik käeoleva määruse kohaldamises osalejad püüdma saavutada läbipaistvust ja avatust, austades samal ajal oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust , kehtestades tehnilised ja korralduslikud meetmed, et kaitsta oma tegevuses saadud teabe turvalisust ja konfidentsiaalsust, sealhulgas intellektuaalomandi õiguste ning avaliku ja riikliku julgeoleku huvides. Kui komisjoni, riiklike pädevate asutuste ja teavitatud asutuste käesoleva määruse kohane tegevus toob kaasa intellektuaalomandi õiguste rikkumise, peaksid liikmesriigid direktiivi 2004/48/EÜ kohaldamisel ette nägema piisavad meetmed ja õiguskaitsevahendid, et tagada intellektuaalomandi õiguste täitmine.

(84)

Liikmesriigid peaksid võtma kõik vajalikud meetmed, et tagada käesoleva määruse sätete rakendamine, sealhulgas kehtestades tõhusad, proportsionaalsed ja hoiatavad karistused nende rikkumise eest. Teatavate konkreetsete rikkumiste puhul peaksid liikmesriigid võtma arvesse käesolevas määruses sätestatud piire ja kriteeriume . Euroopa Andmekaitseinspektoril peaks olema õigus määrata trahve käesoleva määruse kohaldamisalasse kuuluvatele liidu institutsioonidele, asutustele ja organitele.

(84)

Riiklikul järelevalveasutusel peaks olema võimalik määrata trahve käesoleva määruse täitmise tagamiseks, kui ta viib läbi käesolevas määruses sätestatud korra kohaseid menetlusi. Liikmesriigid peaksid võtma kõik vajalikud meetmed, et tagada käesoleva määruse sätete rakendamine, sealhulgas kehtestades tõhusad, proportsionaalsed ja hoiatavad karistused nende rikkumise eest. Käesoleva määruse rikkumise eest määratavate halduskaristuste tugevdamiseks ja ühtlustamiseks tuleks kehtestada teatavate konkreetsete rikkumiste eest määratavate haldustrahvide ülemmäärad. Trahvisummade hindamisel peaksid riikide pädevad asutused võtma igal üksikjuhul arvesse kõiki konkreetse olukorra asjakohaseid asjaolusid, võttes nõuetekohaselt arvesse eelkõige rikkumise laadi, raskusastet ja kestust ning selle tagajärgi ja pakkuja suurust, eelkõige juhul, kui pakkuja on VKE või idufirma . Euroopa Andmekaitseinspektoril peaks olema õigus määrata trahve käesoleva määruse kohaldamisalasse kuuluvatele liidu institutsioonidele, asutustele ja organitele. Käesoleva määruse kohaste karistuste ja kohtukulude suhtes ei tohiks kohaldada lepingutingimusi ega muid kokkuleppeid.

(84a)

Kuna tehisintellektisüsteemid võivad füüsiliste ja juriidiliste isikute ning füüsiliste isikute rühmade õigusi ja vabadusi tõsiselt kahjustada, on oluline, et füüsilistel ja juriidilistel isikutel või füüsiliste isikute rühmadel oleks sisuline juurdepääs teatamis- ja õiguskaitsemehhanismidele ning õigus saada juurdepääs proportsionaalsetele ja tõhusatele õiguskaitsevahenditele. Neil peaks olema võimalik teatada käesoleva määruse rikkumistest oma riiklikule järelevalveasutusele ja neil peaks olema õigus esitada kaebus tehisintellektisüsteemide pakkujate või juurutajate vastu. Vajaduse korral peaksid juurutajad nägema füüsilistele ja juriidilistele isikutele või füüsiliste isikute rühmadele kasutamiseks ette sisemised kaebuste esitamise mehhanismid. Ilma et see piiraks muude halduslike või kohtuväliste õiguskaitsevahendite kohaldamist, peaks füüsilistel ja juriidilistel isikutel ning füüsiliste isikute rühmadel olema õigus tõhusale õiguskaitsevahendile, kui tegu on neid käsitleva riikliku järelevalveasutuse õiguslikult siduva otsusega või kui riiklik järelevalveasutus ei käsitle kaebust, ei teavita kaebuse esitajat esitatud kaebuse menetlemise käigust või esialgsest tulemusest, või ei täida oma kohustust jõuda kaebuse suhtes lõplikule otsusele.

(84b)

Mõjutatud isikuid tuleks alati teavitada sellest, et nende suhtes kasutatakse suure riskiga tehisintellektisüsteemi, kui juurutajad kasutavad suure riskiga tehisintellektisüsteemi, et teha või aidata teha füüsiliste isikutega seotud otsuseid. See teave võib olla mõjutatud isikutele aluseks, et nad saaksid kasutada oma käesoleva määruse kohast õigust saada selgitusi. Kui juurutajad esitavad mõjutatud isikutele käesoleva määruse alusel selgituse, peaksid nad võtma arvesse keskmise tarbija või üksikisiku oskuste ja teadmiste taset.

(84c)

Rikkumisest teatajate kaitset käsitlevat liidu õigust (direktiiv (EL) 2019/1937) kohaldatakse täielikult akadeemiliste ringkondade, projekteerijate, arendajate, projekti kaasautorite, audiitorite, tootejuhtide, inseneride ja ettevõtjate suhtes, kes hangivad teavet tehisintellektisüsteemi või selle tehisintellektisüsteemi pakkuja poolt toime pandud liidu õiguse rikkumiste kohta.

(85)

Tagamaks, et õigusraamistikku saab vajaduse korral kohandada, tuleks komisjonile delegeerida õigus võtta vastu õigusakte kooskõlas ELi toimimise lepingu artikliga 290 , et muuta I lisas osutatud meetodeid ja lähenemisviise tehisintellektisüsteemide defineerimiseks, II lisas loetletud liidu ühtlustamisõigusakte, III lisas loetletud suure riskiga tehisintellektisüsteeme, IV lisas loetletud tehnilist dokumentatsiooni käsitlevaid sätteid, V lisas esitatud ELi vastavusdeklaratsiooni sisu, VI ja VII lisas esitatud vastavushindamismenetlusi käsitlevaid sätteid ja sätteid, millega pannakse paika need suure riskiga tehisintellektisüsteemid, mille suhtes tuleks kohaldada kvaliteedijuhtimissüsteemi ja tehnilise dokumentatsiooni hindamisel põhinevat vastavushindamist. On eriti oluline, et komisjon korraldaks ettevalmistava töö käigus läbi asjakohaseid konsultatsioone, sealhulgas ekspertide tasandil, ja et kõnealused konsultatsioonid toimuksid kooskõlas 13. aprilli 2016. aasta institutsioonidevahelises parema õigusloome kokkuleppes (58) sätestatud põhimõtetega. Eelkõige selleks, et tagada delegeeritud õigusaktide ettevalmistamises võrdne osalemine, saavad Euroopa Parlament ja nõukogu kõik dokumendid liikmesriikide ekspertidega samal ajal ning nende ekspertidel on pidev juurdepääs komisjoni eksperdirühmade koosolekutele, millel arutatakse delegeeritud õigusaktide ettevalmistamist.

(85)

Tagamaks, et õigusraamistikku saab vajaduse korral kohandada, peaks komisjonil olema õigus võtta kooskõlas ELi toimimise lepingu artikliga 290 vastu delegeeritud õigusakte, et muuta II lisas loetletud liidu ühtlustamisõigusakte, III lisas loetletud suure riskiga tehisintellektisüsteeme, IV lisas loetletud tehnilist dokumentatsiooni käsitlevaid sätteid, V lisas esitatud ELi vastavusdeklaratsiooni sisu, VI ja VII lisas esitatud vastavushindamismenetlusi käsitlevaid sätteid ja sätteid, millega määratakse kindlaks need suure riskiga tehisintellektisüsteemid, mille suhtes tuleks kohaldada kvaliteedijuhtimissüsteemi ja tehnilise dokumentatsiooni hindamisel põhinevat vastavushindamist. On eriti oluline, et komisjon korraldaks ettevalmistava töö käigus asjakohaseid konsultatsioone, sealhulgas ekspertide tasandil, ja et kõnealused konsultatsioonid toimuksid kooskõlas 13. aprilli 2016. aasta institutsioonidevahelises parema õigusloome kokkuleppes (58) sätestatud põhimõtetega . Konsultatsioonidel peaksid osalema tasakaalupõhimõttel valitud sidusrühmad, sealhulgas tarbijaorganisatsioonid, kodanikuühiskond, mõjutatud isikuid esindavad ühendused, eri sektorite ja eri suurusega ettevõtjate esindajad ning teadlased . Eelkõige selleks, et tagada delegeeritud õigusaktide ettevalmistamises võrdne osalemine, saavad Euroopa Parlament ja nõukogu kõik dokumendid liikmesriikide ekspertidega samal ajal ning nende ekspertidel on pidev juurdepääs komisjoni eksperdirühmade koosolekutele, millel arutatakse delegeeritud õigusaktide ettevalmistamist.

(85a)

Võttes arvesse tehnoloogia kiiret arengut ja suure riskiga tehisintellektisüsteemide hindamisel nõutavaid tehnilisi eksperditeadmisi, peaks komisjon vähemalt kord aastas tehisintellektiameti ja asjaomaste sidusrühmadega konsulteerides korrapäraselt läbi vaatama käesoleva määruse rakendamise, eelkõige keelatud tehisintellektisüsteemid, läbipaistvuskohustused ning suure riskiga valdkondade ja kasutusmallide loetelu.

(87a)

Kuna usaldusväärne teave tehisintellektisüsteemide ja seonduva IKT-tehnoloogia, sealhulgas tarkvara, riistvara ja eelkõige andmekeskuste ressursi- ja energiakasutuse, jäätmetekke ja muu keskkonnamõju kohta on piiratud, peaks komisjon kehtestama asjakohase metoodika, et mõõta käesoleva määruse keskkonnamõju ja tõhusust, pidades silmas liidu keskkonna- ja kliimaeesmärke.

(89)

Vastavalt määruse (EL) nr 2018/1725 artikli 42 lõikele 2 on konsulteeritud Euroopa Andmekaitseinspektori ja Euroopa Andmekaitsenõukoguga, kes esitasid oma arvamuse […],

(89)

Vastavalt määruse (EL) nr 2018/1725 artikli 42 lõikele 2 on konsulteeritud Euroopa Andmekaitseinspektori ja Euroopa Andmekaitsenõukoguga, kes esitasid oma arvamuse 18 .  juunil 2021 .  aastal ,

1.

(d)

ühtlustatud läbipaistvusnormid füüsiliste isikutega suhtlemiseks mõeldud tehisintellektisüsteemide, emotsioonide tuvastamise süsteemide ja biomeetrilise kategooriatesse jaotamise süsteemide ning pildi-, audio- või videosisu loomiseks või töötlemiseks kasutatavate tehisintellektisüsteemide jaoks;

d)

ühtlustatud läbipaistvusnormid teatavate tehisintellektisüsteemide jaoks;

(e)

turuseire ja -järelevalve normid.

e)

turuseire , turujärelevalve, juhtimise ja täitmise tagamise normid;

ea)

innovatsiooni toetavad meetmed, pöörates erilist tähelepanu VKEdele ja idufirmadele, sealhulgas regulatsiooni testkeskkondade loomine ning sihipärased meetmed VKEde ja idufirmade regulatiivse koormuse vähendamiseks;

eb)

liidu tehisintellektiameti asutamist ja toimimist käsitlevad eeskirjad.

(b)

liidus asuvad tehisintellektisüsteemide kasutajad ;

b)

liidus asutatud või asuvad tehisintellektisüsteemide juurutajad ;

(c)

kolmandates riikides asuvad tehisintellektisüsteemide pakkujad ja kasutajad , kui süsteemi väljundit kasutatakse liidus.

c)

kolmandates riikides asutatud või asuvad tehisintellektisüsteemide pakkujad ja juurutajad , kui liikmesriigi õigust kohaldatakse rahvusvahelise avaliku õiguse alusel või kui süsteemi väljund on ette nähtud kasutamiseks liidus;

ca)

pakkujad, kes tegelevad väljaspool liitu artiklis 5 osutatud tehisintellektisüsteemide turule laskmise või kasutusele võtmisega, kui selliste süsteemide pakkuja või turustaja asub liidus;

cb)

tehisintellektisüsteemide importijad ja turustajad ning tehisintellektisüsteemide pakkujate volitatud esindajad, kui sellised importijad, turustajad või volitatud esindajad on asutatud või asuvad liidus;

cc)

artikli 3 punktis 8a määratletud mõjutatud isikud, kes asuvad liidus ja kelle tervist, ohutust või põhiõigusi mõjutab liidus turule lastud või kasutusele võetud tehisintellektisüsteemi kasutamine negatiivselt.

(a)

määrus (EÜ) nr 300/2008;

(b)

määrus (EL) nr 167/2013;

(c)

määrus (EL) nr 168/2013;

(d)

direktiiv 2014/90/EL;

(e)

direktiiv (EL) 2016/797;

(f)

määrus (EL) 2018/858;

(g)

määrus (EL) 2018/1139;

(h)

määrus (EL) 2019/2144.

(1)

„tehisintellektisüsteem“ – tarkvara , mille arendamiseks on kasutatud üht või mitut I lisas loetletud tehnoloogiat või lähenemisviisi ja mis võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad ;

1)

„tehisintellektisüsteem“ – masinpõhine süsteem , mis on kavandatud toimima erineval autonoomsuse tasemel ja mis võib otseste või kaudsete eesmärkide saavutamiseks luua väljundeid, näiteks prognoose, soovitusi või otsuseid, mis mõjutavad füüsilist või virtuaalset keskkonda ;

1a)

1b)

1c)

1d)

1e)

3)

(4)

„kasutaja“  – füüsiline või juriidiline isik, ametiasutus, ametkond või muu organ, kes kasutab tehisintellektisüsteemi oma volituste alusel, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoks;

4)

„juurutaja“  – füüsiline või juriidiline isik, ametiasutus, ametkond või muu organ, kes kasutab tehisintellektisüsteemi oma volituste alusel, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoks;

(8)

„operaator“ – pakkuja, kasutaja , volitatud esindaja, importija ja turustaja;

8)

„operaator“ – pakkuja, juurutaja , volitatud esindaja, importija ja turustaja;

8a)

(11)

„kasutusele võtmine“ – tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse kasutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidu turul;

11)

„kasutusele võtmine“ – tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidu turul;

(13)

„mõistlikult prognoositav väärkasutamine“ – tehisintellektisüsteemi kasutamine viisil, mis ei ole kooskõlas selle sihtotstarbega , kuid mis võib tuleneda põhjendatult prognoositavast inimkäitumisest või interaktsioonist muude süsteemidega;

13)

„mõistlikult prognoositav väärkasutamine“ – tehisintellektisüsteemi kasutamine viisil, mis ei ole kooskõlas selle otstarbega, millele on osutatud pakkuja koostatud kasutusjuhendis , kuid mis võib tuleneda põhjendatult prognoositavast inimkäitumisest või interaktsioonist muude süsteemidega , sealhulgas muude tehisintellektisüsteemidega ;

(14)

„toote või süsteemi turvakomponent“ – toote või süsteemi komponent, mis täidab selle toote või süsteemi ohutusfunktsiooni või mille tõrge või talitlushäire ohustab inimeste tervist ja ohutust või vara ;

14)

„toote või süsteemi turvakomponent“ – kooskõlas II lisas loetletud liidu ühtlustamisõigusaktidega toote või süsteemi komponent, mis täidab selle toote või süsteemi ohutusfunktsiooni või mille tõrge või talitlushäire ohustab inimeste tervist ja ohutust;

(15)

„kasutusjuhend“ – teave, mille pakkuja esitab, et teavitada kasutajat eeskätt tehisintellektisüsteemi kasutusotstarbest ja nõuetekohasest kasutamisest, kaasa arvatud konkreetsest geograafilisest , käitumuslikust ja funktsionaalsest raamistikust , milles kasutamiseks suure riskiga tehisintellektisüsteem on ette nähtud;