Euroopa Regioonide Komitee arvamus teemal „Euroopa lähenemisviis tehisintellekti valdkonnas – tehisintellekti käsitlev õigusakt“

(muudetud arvamus)

(2022/C 97/12)

Raportöör:

Guido RINK (NL/PES), Emmeni vallavalitsuse liige

Viitedokumendid:

Komisjoni teatis Euroopa Parlamendile, nõukogule, Euroopa Majandus– ja Sotsiaalkomiteele ning Regioonide Komiteele „Tehisintellektialase Euroopa lähenemisviisi edendamine“

COM(2021) 205

Ettepanek teemal „Euroopa Parlamendi ja nõukogu määrus, millega nähakse ette tehisintellekti käsitlevad ühtlustatud õigusnormid (tehisintellekti käsitlev õigusakt) ja muudetakse teatavaid liidu õigusakte“

COM(2021) 206

I. SOOVITUSED MUUDATUSETTEPANEKUTEKS

Muudatusettepanek 1

Põhjendus 1

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Käesoleva määruse eesmärk on parandada siseturu toimimist ühtse õigusraamistiku kehtestamisega eeskätt tehisintellekti arendamise, turustamise ja kasutamise jaoks kooskõlas liidu väärtustega. Käesolev määrus on ajendatud mitmest kaaluka üldise huvi eesmärgist, nagu kõrgetasemeline tervise, ohutuse ja põhiõiguste kaitse, ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba.

Käesoleva määruse eesmärk on parandada siseturu toimimist ja tagada kodanikele nende põhiõigused ühtse õigusraamistiku kehtestamisega eeskätt tehisintellekti arendamise, turustamise ja kasutamise jaoks kooskõlas liidu väärtustega. Käesolev määrus on ajendatud mitmest kaaluka üldise huvi eesmärgist, nagu kõrgetasemeline tervise, ohutuse ja põhiõiguste kaitse, ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba.

Motivatsioon

Viitega põhiõigustele soovitakse rõhutada seost Euroopa Liidu põhiõiguste hartaga.

Muudatusettepanek 2

Lisada põhjenduse 6 järele uus põhjendus

Euroopa Komisjoni ettepaneku tekst	Komitee muudatusettepanek
	Tehisintellektisüsteemide määratlemine on pidev protsess, mis võtab arvesse konteksti, milles tehisintellekti rakendatakse, peab sammu selles valdkonnas aset leidvate ühiskondlike arengutega ega kaota silmist tipptaseme ökosüsteemi ja usalduse ökosüsteemi vahelist seost.

Motivatsioon

Tehisintellekti ja tehnoloogia valdkonnas toimuvad arengud nõuavad kohanduvat ja arenevat lähenemisviisi. Käesolevas põhjenduses tuuakse esile, et tehisintellekti määratlus peaks muutuma ajas vastavalt tehisintellektisüsteemide ja rakenduste arengule.

Muudatusettepanek 3

Põhjendus 20

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist kolmest ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi seoses kõigi asjaomaste isikute õiguste ja vabadustega ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Peale selle peaks reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil olema ajas ja ruumis asjakohaselt piiratud, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Isikute võrdlusandmebaas peaks olema iga eespool nimetatud kolme olukorra puhul iga kasutusmalli jaoks sobiv.

Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist kolmest ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi seoses kõigi asjaomaste isikute õiguste ja vabadustega ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Enne kõnealuste süsteemide erakorralist kasutamist tuleb konsulteerida asjaomaste kohalike ja piirkondlike omavalitsustega. Peale selle peaks reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil olema ajas ja ruumis rangelt piiratud, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Isikute võrdlusandmebaas peaks olema iga eespool nimetatud kolme olukorra puhul iga kasutusmalli jaoks sobiv.

Motivatsioon

Reaalajas kasutatavaid biomeetrilise kaugtuvastamise süsteeme ei tohiks kasutada kergekäeliselt.

Muudatusettepanek 4

Põhjendus 21

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks selleks olema liikmesriigi õigusasutuse või sõltumatu haldusasutuse selge ja konkreetne luba. Põhimõtteliselt tuleks selline luba saada enne kasutamist, kui just pole tegemist nõuetekohaselt põhjendatud kiireloomulise juhtumiga, st olukorraga, kus vajadus kõnealuste süsteemide kasutamise järele on selline, et enne kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Selliste kiireloomuliste juhtumite korral peaks kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud siseriiklikus õiguses ja mida õiguskaitseasutus iga individuaalse kiireloomulise kasutusjuhtumi korral täpsustab . Lisaks sellele peaks õiguskaitseasutus sellistel juhtudel püüdma saada loa nii pea kui võimalik ja põhjendama, miks ta ei saanud luba varem taotleda .

Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks selleks olema liikmesriigi õigusasutuse või sõltumatu haldusasutuse selge ja konkreetne luba. Selline luba tuleks saada enne kasutamist, kui just pole tegemist nõuetekohaselt põhjendatud kiireloomulise juhtumiga, st olukorraga, kus vajadus kõnealuste süsteemide kasutamise järele on selline, et enne kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Igal juhul peaks kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud siseriiklikus õiguses. Lisaks sellele peaks õiguskaitseasutus koheselt teavitama asjaomast kohalikku ja piirkondlikku omavalitsust ja püüdma saada pädevatelt ametiasutustelt loa.

Motivatsioon

Poliitiline ja haldusalane vastutus avalikult juurdepääsetava ruumi haldamise ja järelevalve eest lasub kohalikel ja piirkondlikel omavalitsustel. Seepärast tuleb nad selliste süsteemide kasutamisse avalikult juurdepääsetavas ruumis nõuetekohaselt kaasata. Kiireloomulistes olukordades, kus eelnev konsulteerimine ei ole arusaadavatel põhjustel võimalik, tuleks asjaomast kohalikku või piirkondlikku omavalitsust koheselt teavitada biomeetriliste süsteemide kasutuselevõtust avalikult juurdepääsetavas ruumis.

Muudatusettepanek 5

Põhjendus 39

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele kasutamiseks valedetektorite ja samalaadsete vahenditena või füüsilise isiku emotsionaalse seisundi tuvastamiseks; teatavate liikmesriigi territooriumile siseneva või viisat või varjupaika taotleva füüsilise isiku põhjustatavate riskide hindamiseks; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele. Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele.

Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on ilmtingimata vajalik liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele kasutamiseks valedetektorite ja samalaadsete vahenditena või füüsilise isiku emotsionaalse seisundi tuvastamiseks; teatavate liikmesriigi territooriumile siseneva või viisat või varjupaika taotleva füüsilise isiku põhjustatavate riskide hindamiseks; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele. Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele.

Motivatsioon

Kõnealuse muudatusega rõhutatakse vajadust kohaldada asjaomaste tehisintellektisüsteemide suhtes suure riskiga tehisintellektisüsteemile ettenähtud ranget korda.

Muudatusettepanek 6

Põhjendus 43

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada nõudeid seoses kasutatavate andmestike kvaliteedi, tehnilise dokumentatsiooni ja andmete säilitamise, läbipaistvuse ja kasutajate teavitamise, inimjärelevalve, stabiilsuse, täpsuse ja küberturvalisusega. Sellised nõuded on vajalikud, et tulemuslikult leevendada riske tervisele, ohutusele , andmeturbele, tarbijate õigustele ja põhiõigustele, nagu on asjakohane süsteemi otstarvet arvestades ning kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, et seega vältida põhjendamatuid kaubanduspiiranguid. Füüsilisi isikuid või isikute rühmi, keda puudutavad suure riskiga tehisintellektisüsteemid, mis lastakse liidu turule või võetakse muul viisil kasutusele, tuleks asjakohasel, hõlpsasti ligipääsetaval ja arusaadaval viisil teavitada, ning neil peaks olema juurdepääs sõnaselgele, hõlpsasti ligipääsetavale ja avalikult kättesaadavale teabele, milles selgitatakse, et nende suhtes kohaldatakse selliseid süsteeme.

Motivatsioon

Süsteemide pakkujate ja kasutajate suhtes kohaldatavaid läbipaistvus- ja teavitamisnõudeid tuleks laiendada isikutele või isikute rühmadele, keda võib mõjutada määruse III lisas loetletud suure riskiga tehisintellektisüsteemide kasutamine. Arusaadavat viisi mõistetakse ka kui „kasutajale arusaadavat ja kättesaadavat keelt, k.a. auditiiv-verbaalsed ja visuaal-motoorsed keeled“.

Muudatusettepanek 7

Lisada põhjenduse 44 järele uus põhjendus

Euroopa Komisjoni ettepaneku tekst	Komitee muudatusettepanek
	Tehisintellektisüsteemi pakkujad hoiduvad oma kvaliteedijuhtimissüsteemis kõigist meetmetest, mis tingivad põhjendamatut diskrimineerimist soo, päritolu, usutunnistuse või veendumuste, puude, vanuse, seksuaalse sättumuse või mis tahes muul alusel.

Motivatsioon

Ebaseadusliku diskrimineerimise juured peituvad inimtegevuses. Tehisintellektisüsteemide pakkujad peaksid hoiduma oma kvaliteedijuhtimissüsteemis mis tahes meetmetest, mis võiksid põhjustada diskrimineerimist.

Muudatusettepanek 8

Põhjendus 47

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Seoses läbipaistmatusega, mis võib muuta teatavad tehisintellektisüsteemid füüsiliste isikute jaoks arusaamatuks või liiga keeruliseks, tuleks suure riskiga tehisintellektisüsteemide puhul nõuda teatavat läbipaistvust. Kasutajad peaksid suutma süsteemi väljundit tõlgendada ja asjakohaselt kasutada. Seepärast peaks suure riskiga tehisintellektisüsteemidega olema kaasas asjaomane dokumentatsioon ja kasutusjuhendid, mis peaksid sisaldama täpset ja selget teavet muu hulgas võimalike riskide kohta, mis võivad esineda seoses põhiõiguste ja diskrimineerimisega, kui see on asjakohane.

Seoses läbipaistmatusega, mis võib muuta teatavad tehisintellektisüsteemid füüsiliste isikute või kõigi tasandite valitsusasutuste jaoks arusaamatuks või liiga keeruliseks, tuleks suure riskiga tehisintellektisüsteemide puhul nõuda suurt läbipaistvust. Kasutajad peaksid suutma süsteemi väljundit tõlgendada ja asjakohaselt kasutada. Seepärast peaks suure riskiga tehisintellektisüsteemidega olema kaasas asjaomane dokumentatsioon ja kasutusjuhendid, mis peaksid sisaldama täpset ja selget teavet muu hulgas võimalike riskide kohta, mis võivad esineda seoses põhiõiguste ja diskrimineerimisega, kui see on asjakohane.

Motivatsioon

Sõnaühendi „teatav läbipaistvus“ kasutamine vähendab suure riskiga tehisintellektisüsteemide loojate vastutust.

Muudatusettepanek 9

Põhjendus 48

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Suure riskiga tehisintellektisüsteeme tuleks projekteerida ja arendada selliselt, et füüsilised isikud saavad teha järelevalvet nende toimimise üle. Selleks peaks süsteemi pakkuja tegema enne süsteemi turule laskmist või kasutusele võtmist kindlaks asjakohased inimjärelevalve meetmed. Kui see on asjakohane, tuleks selliste meetmetega eeskätt tagada, et süsteemi on sisse ehitatud käitamisega seotud piirangud, mida süsteem ise ei saa tühistada, et süsteem reageerib inimoperaatori käskudele ning et järelevalvega tegelema määratud füüsilised isikud on selle ülesande täitmiseks piisavalt pädevad ning neil on vajalik koolitus ja õigused.

Suure riskiga tehisintellektisüsteeme tuleks projekteerida ja arendada selliselt, et füüsilised isikud ja kõigi tasandite valitsusasutused saavad teha järelevalvet nende toimimise üle. Selleks peaks süsteemi pakkuja tegema enne süsteemi turule laskmist või kasutusele võtmist kindlaks asjakohased inimjärelevalve meetmed. Kui see on asjakohane, tuleks selliste meetmetega eeskätt tagada, et süsteemi on sisse ehitatud käitamisega seotud piirangud, mida süsteem ise ei saa tühistada, et süsteem reageerib inimoperaatori käskudele ning et järelevalvega tegelema määratud füüsilised isikud on selle ülesande täitmiseks piisavalt pädevad ning neil on vajalik koolitus ja õigused.

Motivatsioon

Ei vaja selgitust.

Muudatusettepanek 10

Põhjendus 67

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Suure riskiga tehisintellektisüsteemidel peaks olema CE-märgis, mis näitab nende vastavust käesolevale määrusele, et nad saaksid siseturul vabalt liikuda. Liikmesriigid ei tohiks luua tõkkeid käesolevas määruses sätestatud nõuetele vastavate ja CE-märgisega suure riskiga tehisintellektisüsteemide turule laskmisele või kasutusele võtmisele. Liikmesriikidel on õigus reguleerida suure riskiga tehisintellekti tavasid ja -süsteeme üksnes tulenevalt ülekaalukatest ja nõuetekohaselt õigustatud avalikest ja riiklikest julgeolekuhuvidest.

Motivatsioon

Kuigi liikmesriigid ei tohiks takistada määruse kohaldamist, peaks neile jääma õigus reguleerida suure riskiga tehisintellektisüsteeme, kui kaalul on avalikud ja riiklikud julgeolekuhuvid.

Muudatusettepanek 11

Põhjendus 70

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Teatavate tehisintellektisüsteemide puhul, mis on mõeldud suhtlema füüsiliste isikutega või sisu looma, võib esineda kellenagi esinemise või pettuse spetsiifilisi riske olenemata sellest, kas süsteemid on liigitatud suure riskiga süsteemideks või mitte. Seepärast peaks nende süsteemide kasutamise suhtes teatavates olukordades kehtima spetsiifilised läbipaistvuskohustused, ilma et see piiraks suure riskiga tehisintellektisüsteemide suhtes kehtivate nõuete ja kohustuste kohaldamist. Esmajoones tuleks füüsilistele isikutele teada anda, et nad suhtlevad tehisintellektisüsteemiga , kui see just ei ole asjaoludest ja kasutamise kontekstist tulenevalt ilmselge . Peale selle tuleks füüsilisi isikuid teavitada, kui nad puutuvad kokku emotsioonide tuvastamise süsteemi või biomeetrilise liigitamise süsteemiga. Selline teave tuleks edastada vormingus, mis on puuetega inimestele juurdepääsetaval kujul. Kui kasutaja kasutab tehisintellektisüsteemi, et luua või manipuleerida kujutisi või audio- või videosisu, mis sarnaneb märgatavalt olemasolevate isikute, kohtade või sündmustega ja võib inimesele ekslikult ehtne näida, peaks kõnealune kasutaja avalikustama, et see sisu on kunstlikult loodud või seda on manipuleeritud, tähistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu.

Teatavate tehisintellektisüsteemide puhul, mis on mõeldud suhtlema füüsiliste isikutega või sisu looma, võib esineda kellenagi esinemise või pettuse spetsiifilisi riske olenemata sellest, kas süsteemid on liigitatud suure riskiga süsteemideks või mitte. Seepärast peaks nende süsteemide kasutamise suhtes kehtima spetsiifilised läbipaistvuskohustused, ilma et see piiraks suure riskiga tehisintellektisüsteemide suhtes kehtivate nõuete ja kohustuste kohaldamist. Esmajoones tuleks füüsilistele isikutele süstemaatiliselt teada anda, et nad suhtlevad tehisintellektisüsteemiga. Peale selle tuleks füüsilisi isikuid teavitada, kui nad puutuvad kokku emotsioonide tuvastamise süsteemi või biomeetrilise liigitamise süsteemiga. Selline teave tuleks edastada vormingus, mis on puuetega inimestele juurdepääsetaval kujul. Kui kasutaja kasutab tehisintellektisüsteemi, et luua või manipuleerida kujutisi või audio- või videosisu, mis sarnaneb märgatavalt olemasolevate isikute, kohtade või sündmustega ja võib inimesele ekslikult ehtne näida, peaks kõnealune kasutaja avalikustama, et see sisu on kunstlikult loodud või seda on manipuleeritud, tähistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu.

Motivatsioon

Läbipaistvuse ja teavitamise kohustuse suhtes ei tohi teha erandeid, kui füüsilised isikud suhtlevad tehisintellektisüsteemidega.

Muudatusettepanek 12

Põhjendus 76

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Et hõlbustada käesoleva määruse sujuvat, tulemuslikku ja ühtset rakendamist, tuleks luua Euroopa tehisintellekti nõukoda. Nõukoda peaks vastutama mitmesuguste nõustamisalaste ülesannete eest, sh arvamuste, soovituste, nõuannete või juhendite väljaandmine käesoleva määruse rakendamisega seotud küsimustes, muu hulgas tehniliste kirjelduste või olemasolevate standardite kohta, mis puudutavad käesoleva määrusega kehtestatud nõudeid, ning komisjonile nõu ja abi andmine konkreetsetes tehisintellektiga seotud küsimustes.

Motivatsioon

Euroopa tehisintellekti nõukoda peaks olema Euroopa ühiskonna laiemate huvide tõene peegelpilt. Siinkohal peetakse muu hulgas silmas inimõiguste, kliima, tehisintellektisüsteemide energiatõhusa kasutamise, turvalisuse, sotsiaalse kaasatuse, tervishoiu jt teemadega seotud huve. Sooline tasakaal on eeltingimus eripalgelisuse tagamiseks nõustamisel, suuniste koostamisel jne.

Muudatusettepanek 13

Põhjendus 77

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Liikmesriikidel on käesoleva määruse kohaldamisel ja täitmise tagamisel tähtis roll. Seoses sellega peaks iga liikmesriik määrama ühe või mitu riigi pädevat asutust tegelema käesoleva määruse kohaldamise ja rakendamise järelevalvega. Selleks, et suurendada liikmesriikide töökorralduse tõhusust ja luua ametlik kontaktpunkt suhtlemiseks üldsuse ja muude vastaspooltega liikmesriigi ja liidu tasandil, tuleks igas liikmesriigis määrata üks riigi ametiasutus riigi järelevalveasutuseks.

Motivatsioon

Selleks et tagada määruse ning selle järelevalve- ja jõustamisraamistiku rakendatavus, tuleks anda liikmesriikidele volitused usaldada vajaduse ja võimaluse korral järelevalve- või jõustamisülesanded kohalikele ja piirkondlikele omavalitsustele.

Muudatusettepanek 14

Põhjendus 79

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Põhiõiguste kaitset käsitleva liidu õiguse järelevalvega tegelevatel riigi ametiasutustel või organitel, sh võrdõiguslikkust edendavatel asutustel peaks olema juurdepääs käesoleva määruse kohaselt loodud dokumentatsioonile, kui see on vajalik nende ülesannete täitmiseks.

Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Põhiõiguste kaitset käsitleva liidu õiguse järelevalvega tegelevatel riigi ametiasutustel ning – asjakohasel juhul – kohalikel ja piirkondlikel omavalitsustel või organitel, sh võrdõiguslikkust edendavatel asutustel peaks olema juurdepääs käesoleva määruse kohaselt loodud dokumentatsioonile, kui see on vajalik nende ülesannete täitmiseks.

Motivatsioon

Muudatusettepanekus võetakse arvesse ELi liikmesriikide erinevaid valitsemisstruktuure.

Muudatusettepanek 15

Põhjendus 83

Euroopa Komisjoni ettepaneku tekst	Komitee muudatusettepanek
Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu ja riikide tasandil peaksid kõik käeoleva määruse kohaldamises osalejad austama oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust.	Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu, riikide, piirkondlikul ja kohalikul tasandil peaksid kõik käeoleva määruse kohaldamises osalejad austama oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust.

Motivatsioon

Muudatusettepanekus võetakse arvesse ELi liikmesriikide erinevaid valitsemisstruktuure.

Muudatusettepanek 16

I JAOTIS, artikkel 3 lõige 1 – Mõisted

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

„tehisintellektisüsteem“ – tarkvara, mille arendamiseks on kasutatud üht või mitut I lisas loetletud tehnoloogiat või lähenemisviisi ja mis võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad;

„tehisintellektisüsteem“ – tarkvara, mille arendamiseks on kasutatud üht või mitut I lisas sisalduvas mittetäielikus loetelus toodud tehnoloogiat või lähenemisviisi kombineerituna sotsiaalsete tavade, identiteedi ja kultuuriga, ja mis , tajudes oma keskkonda läbi andmete kogumise, tõlgendades kogutud struktureeritud ja struktureerimata andmeid, hallates teadmisi või töödeldes neist andmetest saadud teavet, võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad;

Motivatsioon

Tehisintellektisüsteem koosneb tehniliste koostisosade kombinatsioonist, mis seob andmeid, algoritme ja andmetöötlusvõimsust sotsiaalsete tavade, ühiskonna, identiteedi ja kultuuriga. Sellise dünaamilise sotsiaal-tehnilise koosluse määratlus peaks seepärast olema kasutatav ka tulevikus ja seda tuleks korrapäraselt ajakohastada, et kajastada täpselt tehisintellekti üha kasvavat ühiskondlikku mõju, tuues samas välja tehisintellektiga seotud kiiresti muutuvad probleemid ja võimalused, sealhulgas seose teadmushalduse ja tehisintellekti vahel. Sellega seoses tuleks määrust kohaldada ka teise algoritmi poolt välja töötatud algoritmi suhtes.

Muudatusettepanek 17

Artikli 5 lõige 1

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Järgmised tehisintellekti kasutusviisid on keelatud:

(a)

selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, milles on kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid, et oluliselt moonutada isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju , rikub või võib rikkuda teise füüsilise isiku või füüsiliste isikute rühma põhiõigusi, sealhulgas nende füüsilist või psühholoogilist tervist ja ohutust, avaldab või võib avaldada kahjulikku mõju tarbijatele, sh rahalise kahju või majandusliku diskrimineerimise näol, või õõnestab või võib õõnestada demokraatiat ja õigusriigi põhimõtet ;

(b)

selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine, mis kasutavad ära konkreetse isikute rühma mis tahes haavatavusi, mis tulenevad nende vanusest või füüsilise või vaimse tervise häirest, et oluliselt moonutada sellesse rühma kuuluva isiku käitumist viisil, mis põhjustab või tõenäoliselt põhjustab sellele või mõnele teisele isikule füüsilist või psühholoogilist kahju;

(b)

(c)

selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine ametiasutuste poolt või nende nimel, et hinnata või liigitada füüsiliste isikute usaldusväärsust teatava aja jooksul, lähtudes nende sotsiaalsest käitumisest või teadaolevatest või prognoositud iseloomulikest või isikuomadustest , kusjuures ühiskondliku reitingu tulemuseks on üks või mõlemad järgmisest:

i)	teatavaid füüsilisi isikuid või füüsiliste isikute rühmi kahjustav või nende suhtes ebasoodne kohtlemine sotsiaalses kontekstis, mis ei ole seotud kontekstiga, milles andmed algselt loodi või koguti;

ii)	teatavaid füüsilisi isikuid või füüsiliste isikute rühmi kahjustav või nende suhtes ebasoodne kohtlemine, mis ei ole põhjendatud või on ebaproportsionaalne võrreldes nende sotsiaalse käitumise või selle kaalukusega;

(c)

selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine ametiasutuste poolt või nende nimel, et hinnata või liigitada füüsiliste isikute või füüsiliste isikute rühmade usaldusväärsust teatava aja jooksul, lähtudes nende sotsiaalsest käitumisest või teadaolevatest või prognoositud iseloomulikest või isikuomadustest , mis viib tehisintellektipõhise sotsiaalse hindamiseni üldistel eesmärkidel ;

(d)

avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitse jaoks, välja arvatud juhul, kui selline kasutamine on vajalik rangelt ainult ühel järgmistest eesmärkidest, ja ainult selleks vajalikus ulatuses:

i)	konkreetsete võimalike kuriteoohvrite, kaasa arvatud kadunud laste, sihipärane otsimine;

ii)	füüsiliste isikute elu või füüsilist turvalisust ähvardava konkreetse, suure ja vahetu ohu või terrorirünnaku ärahoidmine;

iii)

nõukogu raamotsuse 2002/584/JSK ([62]) artikli 2 lõikes 2 osutatud kuriteo toimepanija või sellises kuriteos kahtlustatava avastamine, tema asukohta kindlaks tegemine, tema tuvastamine või vastutusele võtmine, kui tegemist on kuriteoga, mille eest karistatakse asjaomases liikmesriigis vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt kolm aastat, nagu selle liikmesriigi õigusaktides kindlaks määratud.

(d)

selliste tehisintellektisüsteemide turule laskmine, kasutusele võtmine või kasutamine ametiasutuste poolt või nende nimel, tehisintellektipõhise sotsiaalse hindamise inimjärelevalveta rakendamine konkreetsetel eesmärkidel, st sellistes sotsiaalsetes kontekstides, mis on seotud kontekstiga, milles andmed algselt loodi või koguti, et hinnata või liigitada füüsiliste isikute või füüsiliste isikute rühmade usaldusväärsust teatava aja jooksul, lähtudes nende sotsiaalsest käitumisest või teadaolevatest või prognoositud iseloomulikest või isikuomadustest, kusjuures ühiskondliku reitingu tulemuseks on teatavaid füüsilisi isikuid või füüsiliste isikute rühmi kahjustav või nende suhtes ebasoodne kohtlemine, mis ei ole põhjendatud või on ebaproportsionaalne võrreldes nende sotsiaalse käitumise või selle kaalukusega;

( e )

i)	konkreetsete võimalike kuriteoohvrite, kaasa arvatud kadunud laste, sihipärane otsimine;

ii)	füüsiliste isikute elu või füüsilist turvalisust ähvardava konkreetse, suure ja vahetu ohu või terrorirünnaku ärahoidmine;

iii)

Motivatsioon

Alalävised tehnikad võivad üldiselt kahjustada vabadust, inimõigusi ja sel viisil õõnestada demokraatliku õigusriigi toimimist. Samas võib tehisintellekt kahjustada ka tarbijate õigusi. Täienduste eesmärk on mitte jätta selle osas kõhklusi.

Mis puudutab ühiskondlikku liigitamist valitsuste poolt või nende nimel, siis tuleks see keelata, kui seda tehakse üldistel eesmärkidel, võttes arvesse sellistest tavadest tulenevaid ohte, nagu on selgitatud põhjenduses 17. Andmete loomine või kogumine konkreetsetel eesmärkidel peaks olema lubatud üksnes inimese järelevalve all ja tingimusel, et sellega ei rikuta õigust väärikusele ja mittediskrimineerimisele ning võrdsuse ja õigluse väärtusi.

Muudatusettepanek 18

Artikli 5 lõige 4

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Liikmesriik võib otsustada näha ette võimaluse osaliselt või täielikult lubada reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamist avalikult juurdepääsetavas ruumis õiguskaitse jaoks lõike 1 punktis d ning lõigetes 2 ja 3 loetletud piirides ja tingimustel. Selline liikmesriik kehtestab oma siseriiklikus õiguses lõikes 3 osutatud lubade taotlemise, andmise ja kasutamise ning nende lubadega seotud järelevalve jaoks vajalikud üksikasjalikud õigusnormid. Kõnealustes õigusnormides tuleb täpsustada, milliste lõike 1 punktis d loetletud eesmärkide, sealhulgas milliste selle punkti alapunktis iii osutatud kuritegude puhul võib anda pädevatele asutustele loa kasutada neid süsteeme õiguskaitse jaoks. Kõnealustes õigusnormides tuleb sätestada asjaomaste kohalike ja piirkondlike omavalitsuste teavitamise ja nendega konsulteerimise kord. Konsulteerimine peab toimuma enne nende süsteemide erakorralist kasutamist avalikult juurdepääsetavas ruumis. Kiireloomulistes olukordades, kus eelnev konsulteerimine ei ole arusaadavatel põhjustel võimalik, teavitatakse asjaomast kohalikku ja piirkondlikku omavalitsust viivitamata tehisintellekti sellisest kasutamisest.

Motivatsioon

Poliitiline ja haldusalane vastutus avalikult juurdepääsetava ruumi haldamise ja järelevalve eest lasub kohalikel ja piirkondlikel omavalitsustel. Seetõttu peaks neil olema võimalik anda oma panus enne tehisintellekti sellist kasutuselevõttu ning neid tuleks nõuetekohaselt teavitada tehisintellektisüsteemide erakorralisest kasutamisest õiguskaitse eesmärgil.

Kiireloomulises olukorras, kus eelnev konsulteerimine ei ole arusaadavatel põhjustel võimalik, teavitatakse asjaomast kohalikku või piirkondlikku omavalitsust viivitamata.

Muudatusettepanek 19

Artikkel 13

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Artikkel 13 Läbipaistvus ja kasutajate teavitamine

Artikkel 13a Läbipaistvus ja kasutajate teavitamine

1. Suure riskiga tehisintellektisüsteeme tuleb projekteerida ja arendada selliselt, et oleks tagatud nende töö piisav läbipaistvus selleks, et kasutajad saaksid tõlgendada süsteemi väljundit ja seda asjakohaselt kasutada. Tagada tuleb käesoleva jaotise 3. peatükis sätestatud kasutaja ja pakkuja asjaomaste kohustuste täitmiseks asjakohast liiki ja asjakohasel tasemel läbipaistvus.

2. Suure riskiga tehisintellektisüsteemiga peab kaasas olema sobivas digivormingus või muus vormis kasutusjuhend, mis sisaldab kokkuvõtlikku, täielikku, täpset ja selget teavet, mis on kasutajatele oluline, juurdepääsetav ja mõistetav.

2. Suure riskiga tehisintellektisüsteemiga peab kaasas olema sobivas digivormingus või muus vormis läbipaistev, arusaadav ja üldsusele kättesaadav kasutusjuhend, mis sisaldab kokkuvõtlikku, täielikku, täpset ja selget teavet, mis on kasutajatele oluline, juurdepääsetav ja mõistetav.

3. Lõikes 2 osutatud teabest peavad selguma järgmised asjaolud:

(a)	pakkuja ning asjakohasel juhul tema volitatud esindaja nimi ja kontaktandmed;

(a)	pakkuja ning asjakohasel juhul tema volitatud esindaja nimi ja kontaktandmed;

(b)	suure riskiga tehisintellektisüsteemi omadused, funktsioonid ja toimimispiirangud, muu hulgas:

(b)	suure riskiga tehisintellektisüsteemi omadused, funktsioonid ja toimimispiirangud, muu hulgas:

i)	süsteemi sihtotstarve;

i)	süsteemi sihtotstarve;

ii)	artiklis 15 osutatud täpsuse, stabiilsuse ja küberturvalisuse tase, mille põhjal on suure riskiga tehisintellektisüsteem testitud ja valideeritud ja mida võib eeldada, ning kõik teadaolevad ja prognoositavad asjaolud, mis võivad seda täpsuse, stabiilsuse ja küberturvalisuse taset mõjutada;

ii)

artiklis 15 osutatud täpsuse (esitatuna mudelite hindamiseks asjakohases mõõdustikus) , stabiilsuse ja küberturvalisuse tase, mille põhjal on suure riskiga tehisintellektisüsteem testitud ja valideeritud ja mida võib eeldada, ning kõik teadaolevad ja prognoositavad asjaolud, mis võivad seda täpsuse, stabiilsuse ja küberturvalisuse taset mõjutada;

iii)	kõik teadaolevad või prognoositavad asjaolud, mis on seotud suure riskiga tehisintellektisüsteemi kasutamisega vastavalt selle sihtotstarbele või mõistlikult prognoositava väärkasutamise tingimustes, mis võib seada ohtu tervise ja ohutuse või põhiõigused;

iii)	kõik teadaolevad või prognoositavad asjaolud, mis on seotud suure riskiga tehisintellektisüsteemi kasutamisega vastavalt selle sihtotstarbele või mõistlikult prognoositava väärkasutamise tingimustes, mis võib seada ohtu tervise ja ohutuse või põhiõigused;

iv)	süsteemi toimimine, mis puudutab isikuid või isikute rühmi, kelle peal kavatsetakse suure riskiga tehisintellektisüsteemi kasutada;

iv)	süsteemi toimimine, mis puudutab isikuid või isikute rühmi, kelle peal kavatsetakse suure riskiga tehisintellektisüsteemi kasutada;

v)	kui see on asjakohane, siis sisendandmete spetsifikatsioonid või muu asjakohane teave kasutatud treenimis-, valideerimis- ja testimisandmestike kohta, võttes arvesse tehisintellektisüsteemi sihtotstarvet;

v)	kui see on asjakohane, siis sisendandmete spetsifikatsioonid või muu asjakohane teave kasutatud treenimis-, valideerimis- ja testimisandmestike kohta, võttes arvesse tehisintellektisüsteemi sihtotstarvet;

vi)	mudeli häälestamiseks kasutatavad parameetrid ning ülesobitamise ja alasobitamise vältimiseks võetud meetmed;

(c)	suure riskiga tehisintellektisüsteemi ja selle toimimise muudatused, mille pakkuja on esialgse vastavushindamise ajal ette kindlaks määranud, kui neid on;

(c)	suure riskiga tehisintellektisüsteemi ja selle toimimise muudatused, mille pakkuja on esialgse vastavushindamise ajal ette kindlaks määranud, kui neid on;

(d)	artiklis 14 osutatud inimjärelevalve meetmed, kaasa arvatud tehnilised meetmed, mis on kehtestatud selleks, et kasutajatel oleks lihtsam tehisintellektisüsteemide väljundit tõlgendada;

(d)	artiklis 14 osutatud inimjärelevalve meetmed, kaasa arvatud tehnilised meetmed, mis on kehtestatud selleks, et kasutajatel oleks lihtsam tehisintellektisüsteemide väljundit tõlgendada;

(e)	suure riskitasemega tehisintellektisüsteemi eeldatav eluiga ning mistahes hooldus- ja hoolikusmeetmed, mis on vajalikud, et tagada tehisintellektisüsteemi nõuetekohane toimimine, muu hulgas tarkvarauuenduste vallas.

(e)	suure riskitasemega tehisintellektisüsteemi eeldatav eluiga ning mistahes hooldus- ja hoolikusmeetmed, mis on vajalikud, et tagada tehisintellektisüsteemi nõuetekohane toimimine, muu hulgas tarkvarauuenduste vallas.

13b Läbipaistvus ja mõjutatud isikute teavitamine

Füüsilisi isikuid või füüsiliste isikute rühmi, kelle suhtes on kavas kasutada suure riskiga tehisintellektisüsteemi, teavitatakse sellisest kasutamisest asjakohasel, hõlpsasti ligipääsetaval ja arusaadaval viisil ning neil on juurdepääs sellekohasele sõnaselgele, hõlpsasti ligipääsetavale ja avalikult kättesaadavale teabele.

Motivatsioon

Usalduse ökosüsteemi tugevdamiseks tuleks teha suure riskiga tehisintellektisüsteemide kasutusjuhised üldsusele kättesaadavaks. Need juhised peavad olema koostatud keeles, mis on arusaadav selle riigi lugejale, kus tehisintellektisüsteem kasutusele võetakse.

Algoritmide läbipaistvuse ja n-ö selgitatavuse kontekstis peaks olema võimalik selgitada, milliste parameetritega mudel on häälestatud ja milliseid meetmeid on võetud ülesobitamise ja alasobitamise vältimiseks.

Artikliga 13b reguleeritakse läbipaistvuse ja nende isikute teavitamise kohustus, kes suhtlevad tehisintellektisüsteemidega või keda tehisintellektisüsteem võib mõjutada.

Muudatusettepanek 20

Artikli 14 lõige 4

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Lõikes 3 osutatud meetmed võimaldavad isikutel, kellele on antud ülesanne tegeleda inimjärelevalvega, teha olenevalt asjaoludest järgmist:

a)	mõista täielikult suure riskiga tehisintellektisüsteemi võimekusi ja piiranguid ning suuta tegeleda sellise süsteemi nõuetekohase seirega, et võimalikult kiiresti avastada märke kõrvalekalletest, väärtalitlusest ja ootamatust toimimisest ning need kõrvaldada;

a)	mõista täielikult suure riskiga tehisintellektisüsteemi võimekusi ja piiranguid ning suuta tegeleda sellise süsteemi nõuetekohase seirega, et võimalikult kiiresti avastada märke kõrvalekalletest, väärtalitlusest ja ootamatust toimimisest ning need kõrvaldada;

olla pidevalt teadlik võimalusest, et tekib kalduvus hakata automaatselt tuginema või liigselt tuginema suure riskiga tehisintellektisüsteemi toodetud väljundile (nn kalduvus eelistada automatiseerimist), seda eriti siis, kui tegemist on suure riskiga tehisintellektisüsteemidega, mida kasutatakse, et saada teavet või soovitusi füüsiliste isikute tehtavate otsuste jaoks;

olla pidevalt teadlik võimalusest, et tekib kalduvus hakata automaatselt tuginema või liigselt tuginema suure riskiga tehisintellektisüsteemi toodetud väljundile (nn kalduvus eelistada automatiseerimist) või mõnda muud liiki kallutatus , seda eriti siis, kui tegemist on suure riskiga tehisintellektisüsteemidega, mida kasutatakse, et saada teavet või soovitusi füüsiliste isikute tehtavate otsuste jaoks;

c)	suuta korrektselt tõlgendada suure riskiga tehisintellektisüsteemi väljundit, võttes arvesse eeskätt süsteemi omadusi ning kättesaadavaid tõlgendamisvahendeid ja -meetodeid;

c)	suuta korrektselt tõlgendada suure riskiga tehisintellektisüsteemi väljundit, võttes arvesse eeskätt süsteemi omadusi ning kättesaadavaid tõlgendamisvahendeid ja -meetodeid;

d)	suuta igas konkreetses olukorras otsustada, et suure riskiga tehisintellektisüsteemi ei kasutata, või jätta suure riskiga tehisintellektisüsteemi väljund muul moel kõrvale, sürjutada või tagasi võtta;

d)	suuta igas konkreetses olukorras otsustada, et suure riskiga tehisintellektisüsteemi ei kasutata, või jätta suure riskiga tehisintellektisüsteemi väljund muul moel kõrvale, sürjutada või tagasi võtta;

e)	suuta sekkuda suure riskiga tehisintellektisüsteemi töösse või katkestada süsteemi töö stopp-nupu või muu sarnase protseduuriga.

e)	suuta sekkuda suure riskiga tehisintellektisüsteemi töösse või katkestada süsteemi töö stopp-nupu või muu sarnase protseduuriga.

Motivatsioon

Esineb erinevat liiki kallutatusi, mis võivad osutuda problemaatiliseks. Näidetena võib tuua looja või kasutaja enda kallutatuse (sotsiaalne kallutatus), kallutatuse selle suhtes, kas kasutusele võetud tehisintellektisüsteem on probleemile sobiv lahendus (tehnoloogiline kallutatus), ja kallutatuse statistilised vormid.

Muudatusettepanek 21

Artikkel 14, uus lõige lõike 5 järel

Euroopa Komisjoni ettepaneku tekst	Komitee muudatusettepanek
	Kõik tehisintellektisüsteemide tehtud otsused, millele on osutatud III lisa punkti 5 alapunktides a ja b, vaadatakse üle inimeste poolt ja need otsused põhinevad hoolikal otsustusprotsessil. Nende otsuste puhul peab olema tagatud inimestevaheline suhtlus.

Motivatsioon

Artiklis 14 käsitletakse üksnes suure riskiga tehisintellektisüsteemide suhtes teostatavat inimjärelevalvet. Ametiasutuste otsuste puhul on oluline rõhutada, et tagatud peab olema inimsekkumine, suhtlus ja nõuetekohane menetlemine.

Muudatusettepanek 22

Artikkel 17, lõike 1 uued punktid pärast punkti m

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Suure riskiga tehisintellektisüsteemide pakkujad võtavad kasutusele kvaliteedijuhtimissüsteemi, mis tagab käesoleva määruse järgimise. Kvaliteedijuhtimissüsteem peab olema kirjalike põhimõtete, menetluste ja juhendite kujul süsteemselt ja nõuetekohaselt dokumenteeritud ning sisaldama vähemalt järgmisi aspekte:

a)	strateegia õigusnormidele vastavuse tagamiseks, sealhulgas vastavushindamise ja suure riskiga tehisintellektisüsteemis tehtavate muudatuste haldamismenetluste järgimiseks;

a)	strateegia õigusnormidele vastavuse tagamiseks, sealhulgas vastavushindamise ja suure riskiga tehisintellektisüsteemis tehtavate muudatuste haldamismenetluste järgimiseks;

b)	meetodid, protseduurid ja süstemaatilised meetmed, mida kasutatakse suure riskiga tehisintellektisüsteemi projekteerimiseks, projekteerimise järelevalveks ja projektide kontrollimiseks;

b)	meetodid, protseduurid ja süstemaatilised meetmed, mida kasutatakse suure riskiga tehisintellektisüsteemi projekteerimiseks, projekteerimise järelevalveks ja projektide kontrollimiseks;

c)	meetodid, protseduurid ja süstemaatilised meetmed, mida kasutatakse suure riskiga tehisintellektisüsteemi arendamiseks, kvaliteedi kontrollimiseks ja kvaliteedi tagamiseks;

c)	meetodid, protseduurid ja süstemaatilised meetmed, mida kasutatakse suure riskiga tehisintellektisüsteemi arendamiseks, kvaliteedi kontrollimiseks ja kvaliteedi tagamiseks;

d)	enne suure riskiga tehisintellektisüsteemi arendamist, selle ajal ja pärast seda teostatavad läbivaatamis-, testimis- ja valideerimisprotseduurid ning nende teostamise sagedus;

d)	enne suure riskiga tehisintellektisüsteemi arendamist, selle ajal ja pärast seda teostatavad läbivaatamis-, testimis- ja valideerimisprotseduurid ning nende teostamise sagedus;

e)	kohaldatavad tehnilised kirjeldused, sh standardid, ja juhul, kui asjaomaseid harmoneeritud standardeid ei kohaldata täies mahus, siis ka vahendid, mida kasutatakse, et tagada suure riskiga tehisintellektisüsteemi vastavus käesoleva jaotise 2. peatükis sätestatud nõuetele;

e)	kohaldatavad tehnilised kirjeldused, sh standardid, ja juhul, kui asjaomaseid harmoneeritud standardeid ei kohaldata täies mahus, siis ka vahendid, mida kasutatakse, et tagada suure riskiga tehisintellektisüsteemi vastavus käesoleva jaotise 2. peatükis sätestatud nõuetele;

andmehalduse süsteemid ja protseduurid, sh andmete kogumine, andmeanalüüs, andmete märgendamine, andmete talletamine, andmete filtreerimine, andmekaeve, andmete agregeerimine, andmesäilitus ja mis tahes muud andmetega seotud toimingud, mida teostatakse suure riskiga tehisintellektisüsteemide turule laskmise või kasutusele võtmise eel ja eesmärgil;

g)	artiklis 9 osutatud riskijuhtimissüsteem;

g)	artiklis 9 osutatud riskijuhtimissüsteem;

h)	turustamisjärgse seire süsteemi loomine, rakendamine ja toimivana hoidmine vastavalt artiklile 61;

h)	turustamisjärgse seire süsteemi loomine, rakendamine ja toimivana hoidmine vastavalt artiklile 61;

i)	protseduurid, mis on seotud tõsistest intsidentidest ja tõrgetest teatamisega vastavalt artiklile 62;

i)	protseduurid, mis on seotud tõsistest intsidentidest ja tõrgetest teatamisega vastavalt artiklile 62;

j)	suhtlemine riikide pädevate asutustega, pädevate asutustega, sh valdkondlike pädevate asutustega, kes pakuvad või toetavad juurdepääsu andmetele, teavitatud asutustega, teiste operaatoritega, klientidega või muude huvitatud isikutega;

j)	suhtlemine riikide pädevate asutustega, pädevate asutustega, sh valdkondlike pädevate asutustega, kes pakuvad või toetavad juurdepääsu andmetele, teavitatud asutustega, teiste operaatoritega, klientidega või muude huvitatud isikutega;

k)	kõigi vajalike dokumentide ja teabega seotud andmete säilitamise süsteemid ja protseduurid;

k)	kõigi vajalike dokumentide ja teabega seotud andmete säilitamise süsteemid ja protseduurid;

l)	ressursside haldamine, sh varustuskindlusega seotud meetmed;

l)	ressursside haldamine, sh varustuskindlusega seotud meetmed;

m)	aruandekohustuse raamistik, millega nähakse ette juhtkonna ja muude töötajate vastutus seoses kõigi käesolevas lõikes loetletud aspektidega.

m)	aruandekohustuse raamistik, millega nähakse ette juhtkonna ja muude töötajate vastutus seoses kõigi käesolevas lõikes loetletud aspektidega;

n)	meetmed põhjendamatu diskrimineerimise ennetamiseks soo, etnilise päritolu, usutunnistuse või veendumuste, puude, vanuse, seksuaalse sättumuse või mis tahes muul alusel;

o)	selgitus selle kohta, kuidas on suure riskiga tehisintellektisüsteemi kavandamisel arvesse võetud eetilisi küsimusi.

Motivatsioon

Täiendusega rõhutatakse, et kaasavus ja põhjendamatu diskrimineerimise vastane võitlus peaksid olema kvaliteedisüsteemi olulised elemendid.

Süsteem peab vastama eetilistele väärtustele, mida tehisintellektisüsteemi kasutaja süsteemilt ootab või mida pakkuja võib õigustatult oodata, et suure riskiga tehisintellektisüsteemilt ilmselt eeldatakse. Pakkuja peaks suutma selgitada, kuidas ta on seda arvesse võtnud.

Muudatusettepanek 23

Artikli 19 lõige 1

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Suure riskiga tehisintellektisüsteemide pakkujad peavad tagama, et nende süsteemid läbivad enne turule laskmist või kasutusele võtmist asjakohase vastavushindamise vastavalt artiklile 43. Kui sellise vastavushindamise kohaselt tõendatakse, et tehisintellektisüsteemid vastavad käesoleva jaotise 2. peatüki nõuetele, koostavad pakkujad ELi vastavusdeklaratsiooni vastavalt artiklile 48 ja kinnitavad tootele CE-vastavusmärgise vastavalt artiklile 49.

Motivatsioon

Tehisintellektisüsteemide usalduse ökosüsteemi tugevdamiseks peavad suure riskiga tehisintellektisüsteemide pakkujad olema avatud. Selleks peab üldsusel olema võimalik kontrollida, kas vastavushindamine on läbi viidud nõuetekohaselt ja kooskõlas määruse sätetega.

Muudatusettepanek 24

Artikkel 29, uus lõige lõike 6 järel

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Suure riskiga tehisintellektisüsteemide kasutajad on vastutavad eetilise hinnangu eest enne süsteemi kasutama hakkamist. Nad peavad suutma selgitada tehnoloogia kasutuselevõtu võimalikku mõju inimestele ja ühiskonnale. Nad täpsustavad tehisintellektisüsteemi kasutuselevõtuga silmas peetavat eesmärki, üldisi väärtusi ja seda, kuidas nende väärtustega on arvestatud ning kas neid on süsteemis rakendatud või mitte. Nad hindavad süsteemi tegelikku mõju inimestele ja ühiskonnale kogu tehisintellektisüsteemi olelusringi jooksul.

Motivatsioon

Eetika on lai mõiste. Tehnoloogiaeetika järgimiseks on mitmeid võimalusi, seda nii teoreetiliste põhjenduste kui ka konkreetsete meetodite, vahendite ja arvestuslike väärtuste osas. Väärtused on teemad, mida teatud inimesed/inimeste rühmad peavad oluliseks. Need võivad olla konkreetsemad või üldisemad. Oluline on hoida potentsiaalselt rakendatavate moraalsete väärtuste ring avatuna ning jätkata tehisintellektisüsteemi olelusringi hindamist.

Muudatusettepanek 25

Artikli 52 lõige 1

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Pakkujad tagavad, et füüsiliste isikutega suhtlema mõeldud tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga , välja arvatud juhul, kui see on asjaolude ja kasutamise konteksti tõttu ilmne . See kohustus ei kehti tehisintellektisüsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks ning nende eest vastutusele võtmiseks, välja arvatud juhul, kui sellised süsteemid on üldsusele kättesaadavad, et kuritegudest teatada.

Pakkujad tagavad, et füüsiliste isikutega suhtlema mõeldud tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga. See kohustus ei kehti tehisintellektisüsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks ning nende eest vastutusele võtmiseks, välja arvatud juhul, kui sellised süsteemid on üldsusele kättesaadavad, et kuritegudest teatada. See suhtlus ei tohiks piirata tehisintellektisüsteemidega suhtlevate füüsiliste isikute valikute ulatust ja õiguslikku seisundit.

Motivatsioon

Kui tehisintellektisüsteeme kasutatakse füüsiliste isikutega suhtlemise vahendina, on oht piirata nende süsteemidega suhtlevate füüsiliste isikute valikuid. Kui füüsilised isikud puutuvad kokku tehisintellektisüsteemidega, tuleks neid sellest alati nõuetekohaselt teavitada ning see ei tohiks sõltuda konkreetse olukorra tõlgendamisest. Nende õigused peavad tehisintellektsüsteemidega suhtlemisel olema alati tagatud.

Muudatusettepanek 26

Artikli 57 lõige 1

Euroopa Komisjoni ettepaneku tekst	Komitee muudatusettepanek
Nõukoda koosneb riiklikest järelevalveasutustest, keda esindab asutuse juht või samaväärne kõrge ametnik, ning Euroopa Andmekaitseinspektorist. Koosolekutele võib kutsuda muid riiklikke asutusi, kui arutlusel olevad küsimused on nende jaoks olulised.	Nõukoda koosneb riiklikest järelevalveasutustest, keda esindab asutuse juht või samaväärne kõrge ametnik, ning Euroopa Andmekaitseinspektorist. Koosolekutele võib kutsuda muid riiklikke , piirkondlikke ja kohalikke asutusi, kui arutlusel olevad küsimused on nende jaoks olulised.

Motivatsioon

Kohalikel ja piirkondlikel omavalitsustel peaks olema võimalik osaleda tehisintellektisüsteemide järelevalves ja koostada aruandeid nende rakendamisest kohapeal.

Muudatusettepanek 27

Artikkel 58

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Komisjonile artikli 56 lõike 2 kohaselt nõu ja abi andes teeb nõukoda eelkõige järgmist:

a)	kogub ja jagab eksperditeadmisi ja parimaid tavasid liikmesriikides;

a)	kogub ja jagab eksperditeadmisi ja parimaid tavasid liikmesriikides , piirkondlikes ja kohalikes omavalitsustes ;

b)	aitab edendada liikmesriikides ühesuguseid haldustavasid, sh artiklis 53 osutatud regulatsiooni testkeskkondade toimimise jaoks;

b)	aitab edendada liikmesriikides ühesuguseid haldustavasid, sh artiklis 53 osutatud regulatsiooni testkeskkondade toimimise jaoks;

c)	annab välja arvamusi, soovitusi või kirjalikke seisukohti käesoleva määruse rakendamisega seotud küsimustes, eeskätt järgmise kohta:

c)	annab välja arvamusi, soovitusi või kirjalikke seisukohti käesoleva määruse rakendamisega seotud küsimustes, eeskätt järgmise kohta:

i)	III jaotise 2. peatükis sätestatud nõudeid käsitlevad tehnilised kirjeldused või olemasolevad standardid,

ii)	artiklites 40 ja 41 osutatud harmoneeritud standardite või ühtsete kirjelduste kasutamine,

iii)	juhenddokumentide, sh artiklis 71 osutatud haldustrahvide määramise suuniste ettevalmistamine.

i)	III jaotise 2. peatükis sätestatud nõudeid käsitlevad tehnilised kirjeldused või olemasolevad standardid,

ii)	artiklites 40 ja 41 osutatud harmoneeritud standardite või ühtsete kirjelduste kasutamine,

iii)	juhenddokumentide, sh artiklis 71 osutatud haldustrahvide määramise suuniste ettevalmistamine.

Motivatsioon

Kohalikud ja piirkondlikud omavalitsused on kohalikele elanikele ja ettevõtetele kõige lähemal seisev tasand. Neile tuleb teadmiste jagamisel anda selge positsioon.

Muudatusettepanek 28

Artikli 59 lõige 1

Euroopa Komisjoni ettepaneku tekst	Komitee muudatusettepanek
Iga liikmesriik asutab või määrab riigi pädevad asutused, et tagada käesoleva määruse kohaldamine ja rakendamine. Riigi pädevad asutused korraldatakse nii, et kindlustada nende tegevuse ja ülesannete objektiivsus ja erapooletus.	Iga liikmesriik asutab või määrab riigi pädevad asutused, et tagada käesoleva määruse kohaldamine ja rakendamine. Riigi pädevad asutused korraldatakse nii, et kindlustada nende tegevuse ja ülesannete objektiivsus ja erapooletus. Kui liikmesriigid peavad seda vajalikuks, volitatakse kohalikke ja piirkondlikke omavalitsusi täitma järelevalve- või jõustamisülesandeid.

Motivatsioon

Selleks et tagada määruse ning asjaomase järelevalve- ja jõustamisraamistiku rakendatavus, peaksid liikmesriigid saama usaldada vajaduse ja võimaluse korral järelevalve- või jõustamisülesanded kohalikele ja piirkondlikele omavalitsustele. Sellega seoses tuleb kohalikele ja piirkondlikele omavalitsustele võimaldada toetust ja koolitusi, et nad oleksid täielikult võimestatud täitma järelevalve- või jõustamisülesandeid.

Muudatusettepanek 29

Artikli 69 lõige 3

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Käitumisjuhendeid võivad koostada üksikud tehisintellektisüsteemide pakkujad või nende esindusorganisatsioonid või mõlemad ning sellesse tegevusse võib kaasata ka kasutajaid ja huvitatud sidusrühmi ning nende esindusorganisatsioone. Käitumisjuhendid võivad käia ühe või mitme tehisintellektisüsteemi kohta, võttes arvesse asjaomaste süsteemide sihtotstarbe sarnasusi.

Käitumisjuhendeid võivad koostada riikide valitsused, piirkondlikud või kohalikud omavalitsused, üksikud tehisintellektisüsteemide pakkujad või nende esindusorganisatsioonid või mõlemad ning sellesse tegevusse võib kaasata ka kasutajaid ja huvitatud sidusrühmi ning nende esindusorganisatsioone. Käitumisjuhendid võivad käia ühe või mitme tehisintellektisüsteemi kohta, võttes arvesse asjaomaste süsteemide sihtotstarbe sarnasusi.

Motivatsioon

Riiklikele, kohalikele ja piirkondlikele omavalitsustele tuleks anda õiguslik pädevus koostada käitumisjuhendeid nende poolt arendatavate või kasutatavate tehisintellektisüsteemide tarvis.

Muudatusettepanek 30

I LISA – Tehisintellekti meetodid ja lähenemisviisid, millele on viidatud artikli 3 punktis 1

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Teaduse praegust taset arvestades loetakse tehisintellekti alla kuuluvaks järgmised tehnikad ja meetodid:

a)	Masinõppe lähenemisviisid, sh juhendatud õpe, juhendamata õpe ja stiimulõpe, kasutades mitmesuguseid meetodeid, sh süvaõpet;

a)	masinõppe lähenemisviisid, sh juhendatud õpe, juhendamata õpe ja stiimulõpe, kasutades mitmesuguseid meetodeid, sh süvaõpet;

b)	loogika- ja teadmistepõhised lähenemisviisid, sh teadmuste esitamine, induktiivne (loogiline) programmeerimine, teadmusbaasid, järeldavad ja deduktiivsed masinad, (sümbol)arutlus ja eksperdisüsteemid;

b)	loogika- ja teadmistepõhised lähenemisviisid, sh teadmuste esitamine, induktiivne (loogiline) programmeerimine, teadmusbaasid, järeldavad ja deduktiivsed masinad, (sümbol)arutlus ja eksperdisüsteemid;

c)	statistilised lähenemisviisid, Bayesi hinnang, otsingu- ja optimeerimismeetodid.

c)	statistilised lähenemisviisid, Bayesi hinnang, otsingu- ja optimeerimismeetodid.

Motivatsioon

Tehisintellekti meetodite määratlus ja loetelu peaksid olema tulevikukindlad. Tehisintellektisüsteemide arendamiseks kasutatavate konkreetsete meetodite ja lähenemisviiside loetelu ei pea olema lõplik ning peab olema selge, et see põhineb teaduse hetkeseisul.

Muudatusettepanek 31

III lisa punktid 1–5

Euroopa Komisjoni ettepaneku tekst

Komitee muudatusettepanek

Artikli 6 lõike 2 kohaselt suure riskiga tehisintellektisüsteemid on järgmistes valdkondades loetletud tehisintellektisüsteemid.

1.	Biomeetriline tuvastamine ja füüsiliste isikute liigitamine:

1.	Biomeetriline tuvastamine ja füüsiliste isikute liigitamine:

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks.

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks füüsiliste isikute reaalajas ja tagantjärele toimuva biomeetrilise tuvastamise jaoks.

2.	Elutähtsa taristu juhtimine ja käitamine:

2.	Elutähtsa taristu juhtimine ja käitamine:

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks maanteeliikluse korraldamise ja käitamise ning vee, gaasi, kütteenergia ja elektri tarnimise turvakomponentidena.

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks maanteeliikluse korraldamise ja käitamise ning vee, gaasi, kütteenergia ja elektri tarnimise ning telekommunikatsiooni, vee- ja internetitaristu turvakomponentidena.

3.	Haridus ja kutseõpe:

3.	Haridus ja kutseõpe:

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et määrata kindlaks füüsiliste isikute juurdepääs haridus- ja kutseõppeasutustele või määrata isikud neisse asutustesse;

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et määrata kindlaks füüsiliste isikute juurdepääs haridus- ja kutseõppeasutustele või määrata isikud neisse asutustesse;

b)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et hinnata haridus- ja kutseõppeasutuste õpilasi ning haridusasutusse vastuvõtmiseks tavapäraselt nõutavate testide tegijaid.

b)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et hinnata haridus- ja kutseõppeasutuste õpilasi ning haridusasutusse vastuvõtmiseks tavapäraselt nõutavate testide tegijaid.

4.	Tööhõive, töötajate juhtimine ja füüsilisest isikust ettevõtjana tegutsemine:

4.	Tööhõive, töötajate juhtimine ja füüsilisest isikust ettevõtjana tegutsemine:

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et inimesi tööle võtta või välja valida, eeskätt seoses töökuulutuste avaldamise, avalduste sõelumise või filtreerimise ning vestluste või testide käigus kandidaatide hindamisega;

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et inimesi tööle võtta või välja valida, eeskätt seoses töökuulutuste avaldamise, avalduste sõelumise või filtreerimise ning vestluste või testide käigus kandidaatide hindamisega;

b)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et teha edutamise ja töösuhte lõpetamise otsuseid, jagada ülesandeid ning tegeleda selliste suhete kontekstis inimeste töötulemuste ja käitumise seire ja hindamisega.

b)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et teha edutamise ja töösuhte lõpetamise otsuseid, jagada ülesandeid ning tegeleda selliste suhete kontekstis inimeste töötulemuste ja käitumise seire ja hindamisega.

5.	Juurdepääs olulistele era- ja avalik-õiguslikele teenustele ja hüvedele ning nende kasutamine:

5.	Juurdepääs olulistele era- ja avalik-õiguslikele teenustele ja hüvedele ning nende kasutamine:

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks ametiasutustele või nende nimel, et hinnata füüsiliste isikute vastavust sotsiaaltoetuste ja -teenuste saamise tingimustele ning selliseid toetusi ja teenuseid anda, vähendada, tühistada või tagasi nõuda;

a)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks ametiasutustele või nende nimel, et hinnata füüsiliste isikute vastavust sotsiaaltoetuste ja -teenuste saamise tingimustele ning selle vastavuse üle otsustada ning selliseid toetusi ja teenuseid anda, vähendada, tühistada või tagasi nõuda;

b)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et hinnata füüsiliste isikute krediidikõlblikkust või anda neile krediidihinnang, välja arvatud tehisintellektisüsteemid, mille on kasutusele võtnud väikepakkujad oma tarbeks;

b)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks selleks, et määrata kindlaks füüsiliste isikute krediidikõlblikkus või anda neile krediidihinnang, välja arvatud tehisintellektisüsteemid, mille on kasutusele võtnud väikepakkujad oma tarbeks;

c)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks kiirabi ja päästeteenistuse, sealhulgas tuletõrje ja arstiabi väljasaatmiseks ja väljasaatmisprioriteetide seadmiseks.

c)	tehisintellektisüsteemid, mis on mõeldud kasutamiseks kiirabi ja päästeteenistuse, sealhulgas tuletõrje ja arstiabi väljasaatmiseks ja väljasaatmisprioriteetide seadmiseks.

Motivatsioon

Telekommunikatsiooni-, vee- ja internetitaristu on elutähtsa taristu lahutamatu osa.

Suure riskiga tehisintellektisüsteemide kvalifitseerimise puhul on oluline, et kas sellised süsteemid võivad kujutada kodanikele tõelist ohtu. Elanike poolt avalikele teenustele esitatavate nõuete pelk analüütiline ja teoreetiline hindamine ei kujuta endast suurt riski. Sõna „hindama“ täiendatakse sõnaga „otsustama“, millega rõhutakse, et see oht tekib elanike jaoks eeskätt otsuste tegemisel.

II. POLIITILISED SOOVITUSED

EUROOPA REGIOONIDE KOMITEE

Tipptaseme ökosüsteem

rõhutab, et komisjoni eesmärki viia EL tehisintellekti vastutustundlikus ja inimkeskses arendamises maailmas juhtpositsioonile on võimalik saavutada ainult juhul, kui kohalikel ja piirkondlikel omavalitsustel on selles oluline roll. Kohalikel ja piirkondlikel omavalitsustel on parimad võimalused aidata luua soodne keskkond, et suurendada lähiaastatel tehisintellekti tehtavaid investeeringuid ja suurendada usaldust tehisintellekti vastu;

rõhutab, et lisaks kohalike ja piirkondlike omavalitsuste kaasamisele on oluline pakkuda neile toetust ja koolitusi, et suurendada nende pädevust asjaomases valdkonnas, eriti kuna neile võidakse anda järelevalve- ja jõustamisülesanded;

märgib, et tehisintellekti arendamiseks tehakse kättesaadavaks ELi rahalised vahendid, kuid juhib tähelepanu sellekohase lähenemisviisi killustatusele, mis tuleneb programmide mitmekesisusest. See suurendab killustumise ja kattuvuse ohtu;

kutsub seetõttu komisjoni üles arendama tugevaid ja pluralistlikke ühtseid andmeruume ning neid ühendama, et lahendada neis ühiskondlikke kasutusmalle avaliku ja erasektori andmeid kasutades. See nõuab ka kooskõlastamist Euroopa andmestrateegiast lähtuvate seadusandlike algatustega;

Usalduse ökosüsteem

peab kahetsusväärseks, et määruse ettepanekus ei viidata kohalikele ja piirkondlikele omavalitsustele, vaatamata sellele, et õigusraamistikku kohaldatakse nii avaliku kui ka erasektori osalejate suhtes;

märgib sellega seoses, et tehisintellektisüsteemidest võib olla suur tugi kohalike ja piirkondlike omavalitsuste suhtluses kodanikega ja nendepoolsel teenuste osutamisel. Lisaks võivad tehisintellektisüsteemid muu hulgas suurendada avaliku sektori tõhusust ning aidata kohalikel ja piirkondlikel omavalitsustel reageerida kohandustele, mis on kohalikul ja piirkondlikul tasandil vajalikud seoses rohe- ja digiüleminekuga. Seepärast on oluline, et määruse käimasoleva läbivaatamise käigus kasutataks aktiivselt kohalike ja piirkondlike omavalitsuste kogemusi;

soovib mõistete „pakkuja“ ja „kasutaja“ täiendavat selgitamist eelkõige olukordades, kus ettevõtted, teadusasutused, valitsused ja elanikud töötavad tehisintellektisüsteeme ühiselt välja ning katsetavad neid eluslaborites. Nõuetekohaselt tuleks arvestada ka kodanike või tarbijatega, keda mõjutavad tehisintellektil põhinevad otsused süsteemides, mida käitavad professionaalsed kasutajad;

rõhutab, et enne kui tehisintellektisüsteeme hakatakse reaalajas kasutama füüsiliste isikute biomeetriliseks kaugtuvastamiseks õiguskaitse eesmärgil avalikult juurdepääsetavates ruumides, tuleb konsulteerida asjaomaste kohalike ja piirkondlike omavalitsustega;

tunneb heameelt Euroopa Komisjoni avaliku konsultatsiooni üle, mille teema on tsiviilvastutuse eeskirjade kohandamine digiajastu ja tehisintellektiga seotud konkreetsetele probleemidele (1), ning loodab, et selle tulemuseks on ajakohastatud raamistik, millega tagatakse tarbijatele tehisintellekti rakenduste põhjustatud kahju hüvitamine;

10.

on hämmastunud, miks demokraatlikes protsessides, nagu valimised, kasutatavaid tehisintellektisüsteeme ei ole lisatud suure riskiga tehisintellekti süsteemide loetellu;

11.

nõuab, et suure riskiga tehisintellektisüsteemide puhul kohaldataks füüsiliste isikute suhtes samu läbipaistvus- ja teavitamisnõudeid nagu praegu kasutajate suhtes;

12.

juhib tähelepanu inimõigustega seotud tõsistele ohtudele ja tagajärgedele, mis tulenevad ühiskondlikust liigitamisest;

13.

suhtub sellega seoses väga skeptiliselt määruses (2) esitatud kahte põhjusesse, mille alusel määrata kindlaks, millal ühiskondlik reiting toob kaasa füüsilisi isikuid või füüsiliste isikute rühmi kahjustava või nende suhtes ebasoodsa kohtlemise, kuna selliste põhjuste olemasolu on äärmiselt raske kindlaks teha. Komitee kutsub sellega seoses üles sõnastama sõnaselgelt kindlad kaitsemeetmed tagamaks, et ühiskondliku liigitamise keelust ei hakata mööda hiilima;

14.

märgib, et määruse põhjendustes käsitletakse riske, mis ähvardavad üksikisikuid interaktsiooni puhul suure riskiga tehisintellektisüsteemidega, muu hulgas hariduse, koolituse, tööhõive, töötajate juhtimise, füüsilisest isikust ettevõtjana tegutsemise või teatavatele olulistele era- ja avalik-õiguslikele teenustele juurdepääsu ja nende teenuste kasutamise kontekstis;

15.

kutsub komisjoni üles täiendavalt uurima ametiasutustele kasutamiseks mõeldud tehisintellektisüsteemide liigitamist suure riskiga süsteemideks (3);

16.

kutsub üles määrama asutuse, mis annaks kaalukat eelnevat nõu määruse sätete tõlgendamise kohta muu hulgas seoses isikuandmete kaitse üldmäärusega. See suurendab õiguskindlust ja vähendab tehisintellektisüsteemide kavandamise ja rakendamise kulusid;

17.

rõhutab sellega seoses, et oluline on määrus selgelt sõnastada, sest see on otsustav usalduse ökosüsteemi loomisel ja tehisintellektisüsteemide arendamise ja kasutamisega seotud õiguskindlusetuse kõrvaldamisel. Sellega välditaks kavandatud nõuete väärtõlgendusi ja minimeeritaks tehisintellekti rakenduste järgneva ebamõistliku haldamise riski, maksimeerides seeläbi määruse tulemuslikkust ja karistuste usaldusväärsust. Samal ajal ja kooskõlas Euroopa Komisjoni parema õigusloome tegevuskavaga on otsustav varakult tuvastada ja kõrvaldada võimalikud kattuvused ja/või vastuolud kehtivate eeskirjadega;

18.

märgib, et paljud kohalikud ja piirkondlikud omavalitsused kasutavad sarnaste ülesannete täitmiseks samu tehisintellektisüsteeme. Enamikul juhtudel on need süsteemid välja töötanud eraettevõtjad;

19.

juhib tähelepanu sellele, et määruse ettepanek ei ole kodanike õiguste tagamise seisukohast eraldiseisev eeskiri, vaid seda tuleb vaadelda koostoimes kehtivate õigusaktidega. Seepärast kutsutakse liikmesriike üles hoolitsema pidevalt vajalike haldusmeetmete eest, et võtta arvesse avalikus sektoris tehisintellekti kasutamisega seotud võimalusi ja riske;

20.

juhib tähelepanu sellele, et see tähendab, et vastavushindamises tõlgendavad Euroopa ja riiklikke eeskirju ettevõtjad ja teavitatud asutused ning see mõjutab kõnealuseid tehisintellektisüsteeme kasutavate kohalike ja piirkondlike omavalitsuste tavasid. Seetõttu on raske öelda, kui palju on nendes tehisintellektisüsteemides arvesse võetud kohalikku ja piirkondlikku poliitikat. Seepärast juhib komitee tähelepanu kohalike ja piirkondlike omavalitsuste erivajadustele ning asjaolule, et kõigile sobiv ühtne lähenemisviis võib kahjustada tehisintellektisüsteemide tõhusust nendele vajadustele vastamisel. Lisaks teeb komitee ettepaneku, et liikmesriikidele tuleks anda volitused reguleerida suure riskiga tehisintellektisüsteeme avalikust huvist tulenevatel tungivatel ja põhjendatud asjaoludel;

21.

nõuab sellega seoses, et vastavushindamised oleksid läbipaistvad ja üldsusele kättesaadavad. Lisaks peab kohalikel ja piirkondlikel omavalitsustel olema võimalik osaleda tehisintellektisüsteemide järelevalves, koostada aruandeid nende rakendamisest kohapeal ning anda ametlik panus Euroopa Komisjoni koostatavasse hinnangusse määruse kohaldamise kohta;

22.

rõhutab, et reguleeritud testimiskeskkonna rakendamiseks on vaja luua asjakohased õiguslikud, metodoloogilised ja eetilised tingimused, et oleks võimalik arendada tehnoloogiat, õigusakte ja õigusaktide hindamist. Lisaks tuleks kehtestada selged kriteeriumid ettevõtjate lubamiseks reguleeritud testimiskeskkonda. Tagamaks, et tarbijaorganisatsioonid saaksid jõustada tehisintellekti seaduse sätteid, tuleb see seadus lisada Euroopa direktiivi (mis käsitleb tarbijate kollektiivsete huvide kaitsmise esindushagisid – (EL) 2020/1828) I lisasse;

Teavituskampaaniad

23.

rõhutab, kui olulised on avalikud kampaaniad, et üldsust tehisintellekti süsteemide olemasolust ja kasulikkusest ning võimalikest riskidest teavitada ning nendega kurssi viia. Samuti rõhutab komitee tungivat vajadust anda tarbijatele kõikehõlmavat teavet tehisintellekti/masinapõhise otsustusprotsessi valdkonnas. Seepärast palub komitee, et Euroopa Komisjon rahastaks vastavasisulisi kampaaniaid;

Halduskoormus

24.

väljendab muret halduskoormuse pärast, mis võib kaasneda kavandatava määrusega. See halduskoormus võib takistada väikestel ja keskmise suurusega ettevõtjatel ning kohalikel ja piirkondlikel omavalitsustel edendada innovatsiooni ja võtta kasutusele tehisintellektisüsteeme (4);

Proportsionaalsus ja subsidiaarsus

25.

leiab, et määruse eelnõu on kooskõlas proportsionaalsuse ja subsidiaarsuse põhimõttega. ELi tegevuse lisaväärtus selles valdkonnas ja komisjoni valitud õiguslike aluste asjakohasus on selge ja järjepidev. Mõjuhinnang sisaldas eraldi peatükki subsidiaarsuse kohta. Lisaks ei esitanud ühegi liikmesriigi parlament kehtestatud tähtajaks, 2. septembriks 2021, põhjendatud arvamust selle kohta, et subsidiaarsuse põhimõttest ei ole kinni peetud.

Brüssel, 2. detsember 2021

Euroopa Regioonide Komitee president

Apostolos TZITZIKOSTAS

([62]) Nõukogu 13. juuni 2002. aasta raamotsus 2002/584/JSK Euroopa vahistamismääruse ja liikmesriikidevahelise üleandmiskorra kohta (EÜT L 190, 18.7.2002, lk 1).

(1) https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_et.

(2) Artikli 5 lõike 1 punkt c.

(3) III lisa, punkt 5a.

(4) Hiljutises, Euroopa Komisjoni toetusel valminud uuringus („Study to support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe“, lk 12) prognoositi, et mõistlikke eelduseid aluseks võttes võib tehisintellektisüsteemi sertifitseerimine maksta keskmiselt 16 800–23 000 eurot, mis on laias laastus 10–14 % arenduskuludest.