28.2.2022 |
ET |
Euroopa Liidu Teataja |
C 97/60 |
Euroopa Regioonide Komitee arvamus teemal „Euroopa lähenemisviis tehisintellekti valdkonnas – tehisintellekti käsitlev õigusakt“
(muudetud arvamus)
(2022/C 97/12)
|
I. SOOVITUSED MUUDATUSETTEPANEKUTEKS
Muudatusettepanek 1
Põhjendus 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Käesoleva määruse eesmärk on parandada siseturu toimimist ühtse õigusraamistiku kehtestamisega eeskätt tehisintellekti arendamise, turustamise ja kasutamise jaoks kooskõlas liidu väärtustega. Käesolev määrus on ajendatud mitmest kaaluka üldise huvi eesmärgist, nagu kõrgetasemeline tervise, ohutuse ja põhiõiguste kaitse, ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba. |
Käesoleva määruse eesmärk on parandada siseturu toimimist ja tagada kodanikele nende põhiõigused ühtse õigusraamistiku kehtestamisega eeskätt tehisintellekti arendamise, turustamise ja kasutamise jaoks kooskõlas liidu väärtustega. Käesolev määrus on ajendatud mitmest kaaluka üldise huvi eesmärgist, nagu kõrgetasemeline tervise, ohutuse ja põhiõiguste kaitse, ning sellega tahetakse tagada tehisintellektil põhinevate kaupade ja teenuste vaba piiriülene liikumine, vältides seega liikmesriikide kehtestatavaid piiranguid tehisintellektisüsteemide arendamisele, turustamisele ja kasutamisele, kui selleks pole just käesoleva määrusega antud selget luba. |
Motivatsioon
Viitega põhiõigustele soovitakse rõhutada seost Euroopa Liidu põhiõiguste hartaga.
Muudatusettepanek 2
Lisada põhjenduse 6 järele uus põhjendus
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
|
Tehisintellektisüsteemide määratlemine on pidev protsess, mis võtab arvesse konteksti, milles tehisintellekti rakendatakse, peab sammu selles valdkonnas aset leidvate ühiskondlike arengutega ega kaota silmist tipptaseme ökosüsteemi ja usalduse ökosüsteemi vahelist seost. |
Motivatsioon
Tehisintellekti ja tehnoloogia valdkonnas toimuvad arengud nõuavad kohanduvat ja arenevat lähenemisviisi. Käesolevas põhjenduses tuuakse esile, et tehisintellekti määratlus peaks muutuma ajas vastavalt tehisintellektisüsteemide ja rakenduste arengule.
Muudatusettepanek 3
Põhjendus 20
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist kolmest ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi seoses kõigi asjaomaste isikute õiguste ja vabadustega ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Peale selle peaks reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil olema ajas ja ruumis asjakohaselt piiratud, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Isikute võrdlusandmebaas peaks olema iga eespool nimetatud kolme olukorra puhul iga kasutusmalli jaoks sobiv. |
Lisaks sellele on nende süsteemide vastutustundliku ja proportsionaalse kasutamise tagamiseks oluline panna paika, et igaühes neist kolmest ammendavalt loetletud ja kitsalt määratletud olukorrast tuleks arvesse võtta teatavaid elemente, eeskätt mis puudutab taotluse aluseks oleva olukorra olemust ja kasutamise tagajärgi seoses kõigi asjaomaste isikute õiguste ja vabadustega ning kasutamise korral ettenähtud kaitsemeetmeid ja tingimusi. Enne kõnealuste süsteemide erakorralist kasutamist tuleb konsulteerida asjaomaste kohalike ja piirkondlike omavalitsustega. Peale selle peaks reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil olema ajas ja ruumis rangelt piiratud, võttes eelkõige arvesse tõendeid või viiteid ohu, ohvrite või toimepanija kohta. Isikute võrdlusandmebaas peaks olema iga eespool nimetatud kolme olukorra puhul iga kasutusmalli jaoks sobiv. |
Motivatsioon
Reaalajas kasutatavaid biomeetrilise kaugtuvastamise süsteeme ei tohiks kasutada kergekäeliselt.
Muudatusettepanek 4
Põhjendus 21
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks selleks olema liikmesriigi õigusasutuse või sõltumatu haldusasutuse selge ja konkreetne luba. Põhimõtteliselt tuleks selline luba saada enne kasutamist, kui just pole tegemist nõuetekohaselt põhjendatud kiireloomulise juhtumiga, st olukorraga, kus vajadus kõnealuste süsteemide kasutamise järele on selline, et enne kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Selliste kiireloomuliste juhtumite korral peaks kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud siseriiklikus õiguses ja mida õiguskaitseasutus iga individuaalse kiireloomulise kasutusjuhtumi korral täpsustab . Lisaks sellele peaks õiguskaitseasutus sellistel juhtudel püüdma saada loa nii pea kui võimalik ja põhjendama, miks ta ei saanud luba varem taotleda . |
Iga kord, kui reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutatakse avalikult juurdepääsetavas ruumis õiguskaitse eesmärgil, peaks selleks olema liikmesriigi õigusasutuse või sõltumatu haldusasutuse selge ja konkreetne luba. Selline luba tuleks saada enne kasutamist, kui just pole tegemist nõuetekohaselt põhjendatud kiireloomulise juhtumiga, st olukorraga, kus vajadus kõnealuste süsteemide kasutamise järele on selline, et enne kasutamise algust ei ole reaalselt ega objektiivselt võimalik luba saada. Igal juhul peaks kasutamine piirduma hädavajaliku miinimumiga ning selle suhtes peaksid kehtima asjakohased kaitsemeetmed ja tingimused, mis on kindlaks määratud siseriiklikus õiguses. Lisaks sellele peaks õiguskaitseasutus koheselt teavitama asjaomast kohalikku ja piirkondlikku omavalitsust ja püüdma saada pädevatelt ametiasutustelt loa. |
Motivatsioon
Poliitiline ja haldusalane vastutus avalikult juurdepääsetava ruumi haldamise ja järelevalve eest lasub kohalikel ja piirkondlikel omavalitsustel. Seepärast tuleb nad selliste süsteemide kasutamisse avalikult juurdepääsetavas ruumis nõuetekohaselt kaasata. Kiireloomulistes olukordades, kus eelnev konsulteerimine ei ole arusaadavatel põhjustel võimalik, tuleks asjaomast kohalikku või piirkondlikku omavalitsust koheselt teavitada biomeetriliste süsteemide kasutuselevõtust avalikult juurdepääsetavas ruumis.
Muudatusettepanek 5
Põhjendus 39
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on otstarbekas liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele kasutamiseks valedetektorite ja samalaadsete vahenditena või füüsilise isiku emotsionaalse seisundi tuvastamiseks; teatavate liikmesriigi territooriumile siseneva või viisat või varjupaika taotleva füüsilise isiku põhjustatavate riskide hindamiseks; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele. Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele. |
Rände-, varjupaiga- ja piirkontrollihalduses kasutatavad tehisintellektisüsteemid mõjutavad inimesi, kes on tihtipeale eriti haavatavas olukorras ja sõltuvad pädevate asutuste tegevuse tulemustest. Seepärast on sellises kontekstis kasutatavate tehisintellektisüsteemide täpsus, mittediskrimineeriv olemus ja läbipaistvus eriti oluline, et tagada mõjutatud isikute põhiõiguste austamine, eeskätt nende õigus vabale liikumisele, mittediskrimineerimisele, eraelu ja isikuandmete kaitsele, rahvusvahelisele kaitsele ja heale haldusele. Seepärast on ilmtingimata vajalik liigitada suure riskiga tehisintellektisüsteemiks sellised tehisintellektisüsteemid, mis on mõeldud rände-, varjupaiga- ja piirikontrollihaldusega tegelevatele pädevatele asutustele kasutamiseks valedetektorite ja samalaadsete vahenditena või füüsilise isiku emotsionaalse seisundi tuvastamiseks; teatavate liikmesriigi territooriumile siseneva või viisat või varjupaika taotleva füüsilise isiku põhjustatavate riskide hindamiseks; füüsiliste isikute asjaomaste dokumentide ehtsuse kontrollimiseks; pädevate asutuste abistamiseks varjupaiga-, viisa- ja elamisloataotluste ja nendega seotud kaebuste läbivaatamisel, et teha kindlaks sellist staatust taotlevate füüsiliste isikute vastavus tingimustele. Rände-, varjupaiga- ja piirikontrollihalduse valdkonna tehisintellektisüsteemid, mis kuuluvad käesoleva määruse kohaldamisalasse, peaksid vastama Euroopa Parlamendi ja nõukogu direktiivis 2013/32/EL, Euroopa Parlamendi ja nõukogu määruses (EÜ) nr 810/2009 ja muudes asjaomastes õigusaktides sätestatud asjaomastele menetlusnõuetele. |
Motivatsioon
Kõnealuse muudatusega rõhutatakse vajadust kohaldada asjaomaste tehisintellektisüsteemide suhtes suure riskiga tehisintellektisüsteemile ettenähtud ranget korda.
Muudatusettepanek 6
Põhjendus 43
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada nõudeid seoses kasutatavate andmestike kvaliteedi, tehnilise dokumentatsiooni ja andmete säilitamise, läbipaistvuse ja kasutajate teavitamise, inimjärelevalve, stabiilsuse, täpsuse ja küberturvalisusega. Sellised nõuded on vajalikud, et tulemuslikult leevendada riske tervisele, ohutusele ja põhiõigustele, nagu on asjakohane süsteemi sihtotstarvet arvestades ning kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, et seega vältida põhjendamatuid kaubanduspiiranguid. |
Suure riskiga tehisintellektisüsteemide suhtes tuleks kohaldada nõudeid seoses kasutatavate andmestike kvaliteedi, tehnilise dokumentatsiooni ja andmete säilitamise, läbipaistvuse ja kasutajate teavitamise, inimjärelevalve, stabiilsuse, täpsuse ja küberturvalisusega. Sellised nõuded on vajalikud, et tulemuslikult leevendada riske tervisele, ohutusele , andmeturbele, tarbijate õigustele ja põhiõigustele, nagu on asjakohane süsteemi otstarvet arvestades ning kuna muud kaubandust vähem piiravad meetmed ei ole mõistlikult kättesaadavad, et seega vältida põhjendamatuid kaubanduspiiranguid. Füüsilisi isikuid või isikute rühmi, keda puudutavad suure riskiga tehisintellektisüsteemid, mis lastakse liidu turule või võetakse muul viisil kasutusele, tuleks asjakohasel, hõlpsasti ligipääsetaval ja arusaadaval viisil teavitada, ning neil peaks olema juurdepääs sõnaselgele, hõlpsasti ligipääsetavale ja avalikult kättesaadavale teabele, milles selgitatakse, et nende suhtes kohaldatakse selliseid süsteeme. |
Motivatsioon
Süsteemide pakkujate ja kasutajate suhtes kohaldatavaid läbipaistvus- ja teavitamisnõudeid tuleks laiendada isikutele või isikute rühmadele, keda võib mõjutada määruse III lisas loetletud suure riskiga tehisintellektisüsteemide kasutamine. Arusaadavat viisi mõistetakse ka kui „kasutajale arusaadavat ja kättesaadavat keelt, k.a. auditiiv-verbaalsed ja visuaal-motoorsed keeled“.
Muudatusettepanek 7
Lisada põhjenduse 44 järele uus põhjendus
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
|
Tehisintellektisüsteemi pakkujad hoiduvad oma kvaliteedijuhtimissüsteemis kõigist meetmetest, mis tingivad põhjendamatut diskrimineerimist soo, päritolu, usutunnistuse või veendumuste, puude, vanuse, seksuaalse sättumuse või mis tahes muul alusel. |
Motivatsioon
Ebaseadusliku diskrimineerimise juured peituvad inimtegevuses. Tehisintellektisüsteemide pakkujad peaksid hoiduma oma kvaliteedijuhtimissüsteemis mis tahes meetmetest, mis võiksid põhjustada diskrimineerimist.
Muudatusettepanek 8
Põhjendus 47
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Seoses läbipaistmatusega, mis võib muuta teatavad tehisintellektisüsteemid füüsiliste isikute jaoks arusaamatuks või liiga keeruliseks, tuleks suure riskiga tehisintellektisüsteemide puhul nõuda teatavat läbipaistvust. Kasutajad peaksid suutma süsteemi väljundit tõlgendada ja asjakohaselt kasutada. Seepärast peaks suure riskiga tehisintellektisüsteemidega olema kaasas asjaomane dokumentatsioon ja kasutusjuhendid, mis peaksid sisaldama täpset ja selget teavet muu hulgas võimalike riskide kohta, mis võivad esineda seoses põhiõiguste ja diskrimineerimisega, kui see on asjakohane. |
Seoses läbipaistmatusega, mis võib muuta teatavad tehisintellektisüsteemid füüsiliste isikute või kõigi tasandite valitsusasutuste jaoks arusaamatuks või liiga keeruliseks, tuleks suure riskiga tehisintellektisüsteemide puhul nõuda suurt läbipaistvust. Kasutajad peaksid suutma süsteemi väljundit tõlgendada ja asjakohaselt kasutada. Seepärast peaks suure riskiga tehisintellektisüsteemidega olema kaasas asjaomane dokumentatsioon ja kasutusjuhendid, mis peaksid sisaldama täpset ja selget teavet muu hulgas võimalike riskide kohta, mis võivad esineda seoses põhiõiguste ja diskrimineerimisega, kui see on asjakohane. |
Motivatsioon
Sõnaühendi „teatav läbipaistvus“ kasutamine vähendab suure riskiga tehisintellektisüsteemide loojate vastutust.
Muudatusettepanek 9
Põhjendus 48
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Suure riskiga tehisintellektisüsteeme tuleks projekteerida ja arendada selliselt, et füüsilised isikud saavad teha järelevalvet nende toimimise üle. Selleks peaks süsteemi pakkuja tegema enne süsteemi turule laskmist või kasutusele võtmist kindlaks asjakohased inimjärelevalve meetmed. Kui see on asjakohane, tuleks selliste meetmetega eeskätt tagada, et süsteemi on sisse ehitatud käitamisega seotud piirangud, mida süsteem ise ei saa tühistada, et süsteem reageerib inimoperaatori käskudele ning et järelevalvega tegelema määratud füüsilised isikud on selle ülesande täitmiseks piisavalt pädevad ning neil on vajalik koolitus ja õigused. |
Suure riskiga tehisintellektisüsteeme tuleks projekteerida ja arendada selliselt, et füüsilised isikud ja kõigi tasandite valitsusasutused saavad teha järelevalvet nende toimimise üle. Selleks peaks süsteemi pakkuja tegema enne süsteemi turule laskmist või kasutusele võtmist kindlaks asjakohased inimjärelevalve meetmed. Kui see on asjakohane, tuleks selliste meetmetega eeskätt tagada, et süsteemi on sisse ehitatud käitamisega seotud piirangud, mida süsteem ise ei saa tühistada, et süsteem reageerib inimoperaatori käskudele ning et järelevalvega tegelema määratud füüsilised isikud on selle ülesande täitmiseks piisavalt pädevad ning neil on vajalik koolitus ja õigused. |
Motivatsioon
Ei vaja selgitust.
Muudatusettepanek 10
Põhjendus 67
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Suure riskiga tehisintellektisüsteemidel peaks olema CE-märgis, mis näitab nende vastavust käesolevale määrusele, et nad saaksid siseturul vabalt liikuda. Liikmesriigid ei tohiks luua põhjendamatuid tõkkeid käesolevas määruses sätestatud nõuetele vastavate ja CE-märgisega suure riskiga tehisintellektisüsteemide turule laskmisele või kasutusele võtmisele. |
Suure riskiga tehisintellektisüsteemidel peaks olema CE-märgis, mis näitab nende vastavust käesolevale määrusele, et nad saaksid siseturul vabalt liikuda. Liikmesriigid ei tohiks luua tõkkeid käesolevas määruses sätestatud nõuetele vastavate ja CE-märgisega suure riskiga tehisintellektisüsteemide turule laskmisele või kasutusele võtmisele. Liikmesriikidel on õigus reguleerida suure riskiga tehisintellekti tavasid ja -süsteeme üksnes tulenevalt ülekaalukatest ja nõuetekohaselt õigustatud avalikest ja riiklikest julgeolekuhuvidest. |
Motivatsioon
Kuigi liikmesriigid ei tohiks takistada määruse kohaldamist, peaks neile jääma õigus reguleerida suure riskiga tehisintellektisüsteeme, kui kaalul on avalikud ja riiklikud julgeolekuhuvid.
Muudatusettepanek 11
Põhjendus 70
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Teatavate tehisintellektisüsteemide puhul, mis on mõeldud suhtlema füüsiliste isikutega või sisu looma, võib esineda kellenagi esinemise või pettuse spetsiifilisi riske olenemata sellest, kas süsteemid on liigitatud suure riskiga süsteemideks või mitte. Seepärast peaks nende süsteemide kasutamise suhtes teatavates olukordades kehtima spetsiifilised läbipaistvuskohustused, ilma et see piiraks suure riskiga tehisintellektisüsteemide suhtes kehtivate nõuete ja kohustuste kohaldamist. Esmajoones tuleks füüsilistele isikutele teada anda, et nad suhtlevad tehisintellektisüsteemiga , kui see just ei ole asjaoludest ja kasutamise kontekstist tulenevalt ilmselge . Peale selle tuleks füüsilisi isikuid teavitada, kui nad puutuvad kokku emotsioonide tuvastamise süsteemi või biomeetrilise liigitamise süsteemiga. Selline teave tuleks edastada vormingus, mis on puuetega inimestele juurdepääsetaval kujul. Kui kasutaja kasutab tehisintellektisüsteemi, et luua või manipuleerida kujutisi või audio- või videosisu, mis sarnaneb märgatavalt olemasolevate isikute, kohtade või sündmustega ja võib inimesele ekslikult ehtne näida, peaks kõnealune kasutaja avalikustama, et see sisu on kunstlikult loodud või seda on manipuleeritud, tähistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu. |
Teatavate tehisintellektisüsteemide puhul, mis on mõeldud suhtlema füüsiliste isikutega või sisu looma, võib esineda kellenagi esinemise või pettuse spetsiifilisi riske olenemata sellest, kas süsteemid on liigitatud suure riskiga süsteemideks või mitte. Seepärast peaks nende süsteemide kasutamise suhtes kehtima spetsiifilised läbipaistvuskohustused, ilma et see piiraks suure riskiga tehisintellektisüsteemide suhtes kehtivate nõuete ja kohustuste kohaldamist. Esmajoones tuleks füüsilistele isikutele süstemaatiliselt teada anda, et nad suhtlevad tehisintellektisüsteemiga. Peale selle tuleks füüsilisi isikuid teavitada, kui nad puutuvad kokku emotsioonide tuvastamise süsteemi või biomeetrilise liigitamise süsteemiga. Selline teave tuleks edastada vormingus, mis on puuetega inimestele juurdepääsetaval kujul. Kui kasutaja kasutab tehisintellektisüsteemi, et luua või manipuleerida kujutisi või audio- või videosisu, mis sarnaneb märgatavalt olemasolevate isikute, kohtade või sündmustega ja võib inimesele ekslikult ehtne näida, peaks kõnealune kasutaja avalikustama, et see sisu on kunstlikult loodud või seda on manipuleeritud, tähistades tehisintellekti väljundi vastavalt ja avalikustades selle tehisliku päritolu. |
Motivatsioon
Läbipaistvuse ja teavitamise kohustuse suhtes ei tohi teha erandeid, kui füüsilised isikud suhtlevad tehisintellektisüsteemidega.
Muudatusettepanek 12
Põhjendus 76
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Et hõlbustada käesoleva määruse sujuvat, tulemuslikku ja ühtset rakendamist, tuleks luua Euroopa tehisintellekti nõukoda. Nõukoda peaks vastutama mitmesuguste nõustamisalaste ülesannete eest, sh arvamuste, soovituste, nõuannete või juhendite väljaandmine käesoleva määruse rakendamisega seotud küsimustes, muu hulgas tehniliste kirjelduste või olemasolevate standardite kohta, mis puudutavad käesoleva määrusega kehtestatud nõudeid, ning komisjonile nõu ja abi andmine konkreetsetes tehisintellektiga seotud küsimustes. |
Et hõlbustada käesoleva määruse sujuvat, tulemuslikku ja ühtset rakendamist, tuleks luua Euroopa tehisintellekti nõukoda. Nõukoda peaks vastutama mitmesuguste nõustamisalaste ülesannete eest, sh arvamuste, soovituste, nõuannete või juhendite väljaandmine käesoleva määruse rakendamisega seotud küsimustes, muu hulgas tehniliste kirjelduste või olemasolevate standardite kohta, mis puudutavad käesoleva määrusega kehtestatud nõudeid, ning komisjonile nõu ja abi andmine konkreetsetes tehisintellektiga seotud küsimustes. Euroopa tehisintellekti nõukoja koosseis peaks peegeldama Euroopa ühiskonna huve. Nõukoja moodustamisel tuleb tagada sooline tasakaal. |
Motivatsioon
Euroopa tehisintellekti nõukoda peaks olema Euroopa ühiskonna laiemate huvide tõene peegelpilt. Siinkohal peetakse muu hulgas silmas inimõiguste, kliima, tehisintellektisüsteemide energiatõhusa kasutamise, turvalisuse, sotsiaalse kaasatuse, tervishoiu jt teemadega seotud huve. Sooline tasakaal on eeltingimus eripalgelisuse tagamiseks nõustamisel, suuniste koostamisel jne.
Muudatusettepanek 13
Põhjendus 77
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Liikmesriikidel on käesoleva määruse kohaldamisel ja täitmise tagamisel tähtis roll. Seoses sellega peaks iga liikmesriik määrama ühe või mitu riigi pädevat asutust tegelema käesoleva määruse kohaldamise ja rakendamise järelevalvega. Selleks, et suurendada liikmesriikide töökorralduse tõhusust ja luua ametlik kontaktpunkt suhtlemiseks üldsuse ja muude vastaspooltega liikmesriigi ja liidu tasandil, tuleks igas liikmesriigis määrata üks riigi ametiasutus riigi järelevalveasutuseks. |
Liikmesriikidel on käesoleva määruse kohaldamisel ja täitmise tagamisel tähtis roll. Seoses sellega peaks iga liikmesriik määrama ühe või mitu riigi pädevat asutust tegelema käesoleva määruse kohaldamise ja rakendamise järelevalvega. Selleks, et suurendada liikmesriikide töökorralduse tõhusust ja luua ametlik kontaktpunkt suhtlemiseks üldsuse ja muude vastaspooltega liikmesriigi ja liidu tasandil, tuleks igas liikmesriigis määrata üks riigi ametiasutus riigi järelevalveasutuseks. Kui liikmesriigid peavad seda vajalikuks, usaldatakse kohalikele ja piirkondlikele omavalitsustele järelevalve- või jõustamisülesanded. |
Motivatsioon
Selleks et tagada määruse ning selle järelevalve- ja jõustamisraamistiku rakendatavus, tuleks anda liikmesriikidele volitused usaldada vajaduse ja võimaluse korral järelevalve- või jõustamisülesanded kohalikele ja piirkondlikele omavalitsustele.
Muudatusettepanek 14
Põhjendus 79
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Põhiõiguste kaitset käsitleva liidu õiguse järelevalvega tegelevatel riigi ametiasutustel või organitel, sh võrdõiguslikkust edendavatel asutustel peaks olema juurdepääs käesoleva määruse kohaselt loodud dokumentatsioonile, kui see on vajalik nende ülesannete täitmiseks. |
Selleks et kindlustada liidu ühtlustamisõigusaktide hulka kuuluvas käesolevas määruses sätestatud nõuete ja kohustuste täitmise asjakohane ja tulemuslik tagamine, tuleks määrusega (EL) 2019/1020 kehtestatud toodete turujärelevalve ja nõuetele vastavuse süsteemi kohaldada täies ulatuses. Põhiõiguste kaitset käsitleva liidu õiguse järelevalvega tegelevatel riigi ametiasutustel ning – asjakohasel juhul – kohalikel ja piirkondlikel omavalitsustel või organitel, sh võrdõiguslikkust edendavatel asutustel peaks olema juurdepääs käesoleva määruse kohaselt loodud dokumentatsioonile, kui see on vajalik nende ülesannete täitmiseks. |
Motivatsioon
Muudatusettepanekus võetakse arvesse ELi liikmesriikide erinevaid valitsemisstruktuure.
Muudatusettepanek 15
Põhjendus 83
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu ja riikide tasandil peaksid kõik käeoleva määruse kohaldamises osalejad austama oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust. |
Pädevate asutuste usaldusliku ja konstruktiivse koostöö tagamiseks liidu, riikide, piirkondlikul ja kohalikul tasandil peaksid kõik käeoleva määruse kohaldamises osalejad austama oma ülesannete täitmise käigus saadud teabe ja andmete konfidentsiaalsust. |
Motivatsioon
Muudatusettepanekus võetakse arvesse ELi liikmesriikide erinevaid valitsemisstruktuure.
Muudatusettepanek 16
I JAOTIS, artikkel 3 lõige 1 – Mõisted
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
„tehisintellektisüsteem“ – tarkvara, mille arendamiseks on kasutatud üht või mitut I lisas loetletud tehnoloogiat või lähenemisviisi ja mis võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad; |
„tehisintellektisüsteem“ – tarkvara, mille arendamiseks on kasutatud üht või mitut I lisas sisalduvas mittetäielikus loetelus toodud tehnoloogiat või lähenemisviisi kombineerituna sotsiaalsete tavade, identiteedi ja kultuuriga, ja mis , tajudes oma keskkonda läbi andmete kogumise, tõlgendades kogutud struktureeritud ja struktureerimata andmeid, hallates teadmisi või töödeldes neist andmetest saadud teavet, võib teatavate inimese kindlaks määratud eesmärkide jaoks luua väljundeid, näiteks sisu, prognoose, soovitusi või otsuseid, mis mõjutavad keskkondi, millega nad suhtlevad; |
Motivatsioon
Tehisintellektisüsteem koosneb tehniliste koostisosade kombinatsioonist, mis seob andmeid, algoritme ja andmetöötlusvõimsust sotsiaalsete tavade, ühiskonna, identiteedi ja kultuuriga. Sellise dünaamilise sotsiaal-tehnilise koosluse määratlus peaks seepärast olema kasutatav ka tulevikus ja seda tuleks korrapäraselt ajakohastada, et kajastada täpselt tehisintellekti üha kasvavat ühiskondlikku mõju, tuues samas välja tehisintellektiga seotud kiiresti muutuvad probleemid ja võimalused, sealhulgas seose teadmushalduse ja tehisintellekti vahel. Sellega seoses tuleks määrust kohaldada ka teise algoritmi poolt välja töötatud algoritmi suhtes.
Muudatusettepanek 17
Artikli 5 lõige 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||||||||
Järgmised tehisintellekti kasutusviisid on keelatud: |
Järgmised tehisintellekti kasutusviisid on keelatud: |
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
Motivatsioon
Alalävised tehnikad võivad üldiselt kahjustada vabadust, inimõigusi ja sel viisil õõnestada demokraatliku õigusriigi toimimist. Samas võib tehisintellekt kahjustada ka tarbijate õigusi. Täienduste eesmärk on mitte jätta selle osas kõhklusi.
Mis puudutab ühiskondlikku liigitamist valitsuste poolt või nende nimel, siis tuleks see keelata, kui seda tehakse üldistel eesmärkidel, võttes arvesse sellistest tavadest tulenevaid ohte, nagu on selgitatud põhjenduses 17. Andmete loomine või kogumine konkreetsetel eesmärkidel peaks olema lubatud üksnes inimese järelevalve all ja tingimusel, et sellega ei rikuta õigust väärikusele ja mittediskrimineerimisele ning võrdsuse ja õigluse väärtusi.
Muudatusettepanek 18
Artikli 5 lõige 4
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Liikmesriik võib otsustada näha ette võimaluse osaliselt või täielikult lubada reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamist avalikult juurdepääsetavas ruumis õiguskaitse jaoks lõike 1 punktis d ning lõigetes 2 ja 3 loetletud piirides ja tingimustel. Selline liikmesriik kehtestab oma siseriiklikus õiguses lõikes 3 osutatud lubade taotlemise, andmise ja kasutamise ning nende lubadega seotud järelevalve jaoks vajalikud üksikasjalikud õigusnormid. Kõnealustes õigusnormides tuleb täpsustada, milliste lõike 1 punktis d loetletud eesmärkide, sealhulgas milliste selle punkti alapunktis iii osutatud kuritegude puhul võib anda pädevatele asutustele loa kasutada neid süsteeme õiguskaitse jaoks. |
Liikmesriik võib otsustada näha ette võimaluse osaliselt või täielikult lubada reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamist avalikult juurdepääsetavas ruumis õiguskaitse jaoks lõike 1 punktis d ning lõigetes 2 ja 3 loetletud piirides ja tingimustel. Selline liikmesriik kehtestab oma siseriiklikus õiguses lõikes 3 osutatud lubade taotlemise, andmise ja kasutamise ning nende lubadega seotud järelevalve jaoks vajalikud üksikasjalikud õigusnormid. Kõnealustes õigusnormides tuleb täpsustada, milliste lõike 1 punktis d loetletud eesmärkide, sealhulgas milliste selle punkti alapunktis iii osutatud kuritegude puhul võib anda pädevatele asutustele loa kasutada neid süsteeme õiguskaitse jaoks. Kõnealustes õigusnormides tuleb sätestada asjaomaste kohalike ja piirkondlike omavalitsuste teavitamise ja nendega konsulteerimise kord. Konsulteerimine peab toimuma enne nende süsteemide erakorralist kasutamist avalikult juurdepääsetavas ruumis. Kiireloomulistes olukordades, kus eelnev konsulteerimine ei ole arusaadavatel põhjustel võimalik, teavitatakse asjaomast kohalikku ja piirkondlikku omavalitsust viivitamata tehisintellekti sellisest kasutamisest. |
Motivatsioon
Poliitiline ja haldusalane vastutus avalikult juurdepääsetava ruumi haldamise ja järelevalve eest lasub kohalikel ja piirkondlikel omavalitsustel. Seetõttu peaks neil olema võimalik anda oma panus enne tehisintellekti sellist kasutuselevõttu ning neid tuleks nõuetekohaselt teavitada tehisintellektisüsteemide erakorralisest kasutamisest õiguskaitse eesmärgil.
Kiireloomulises olukorras, kus eelnev konsulteerimine ei ole arusaadavatel põhjustel võimalik, teavitatakse asjaomast kohalikku või piirkondlikku omavalitsust viivitamata.
Muudatusettepanek 19
Artikkel 13
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||||||||
Artikkel 13 Läbipaistvus ja kasutajate teavitamine |
Artikkel 13a Läbipaistvus ja kasutajate teavitamine |
||||||||||
1. Suure riskiga tehisintellektisüsteeme tuleb projekteerida ja arendada selliselt, et oleks tagatud nende töö piisav läbipaistvus selleks, et kasutajad saaksid tõlgendada süsteemi väljundit ja seda asjakohaselt kasutada. Tagada tuleb käesoleva jaotise 3. peatükis sätestatud kasutaja ja pakkuja asjaomaste kohustuste täitmiseks asjakohast liiki ja asjakohasel tasemel läbipaistvus. |
1. Suure riskiga tehisintellektisüsteeme tuleb projekteerida ja arendada selliselt, et oleks tagatud nende töö piisav läbipaistvus selleks, et kasutajad saaksid tõlgendada süsteemi väljundit ja seda asjakohaselt kasutada. Tagada tuleb käesoleva jaotise 3. peatükis sätestatud kasutaja ja pakkuja asjaomaste kohustuste täitmiseks asjakohast liiki ja asjakohasel tasemel läbipaistvus ning arusaadav selgitus . Selgitus esitatakse vähemalt selle riigi keeles, kus tehisintellektisüsteemi kasutatakse. |
||||||||||
2. Suure riskiga tehisintellektisüsteemiga peab kaasas olema sobivas digivormingus või muus vormis kasutusjuhend, mis sisaldab kokkuvõtlikku, täielikku, täpset ja selget teavet, mis on kasutajatele oluline, juurdepääsetav ja mõistetav. |
2. Suure riskiga tehisintellektisüsteemiga peab kaasas olema sobivas digivormingus või muus vormis läbipaistev, arusaadav ja üldsusele kättesaadav kasutusjuhend, mis sisaldab kokkuvõtlikku, täielikku, täpset ja selget teavet, mis on kasutajatele oluline, juurdepääsetav ja mõistetav. |
||||||||||
3. Lõikes 2 osutatud teabest peavad selguma järgmised asjaolud: |
3. Lõikes 2 osutatud teabest peavad selguma järgmised asjaolud: |
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
|
||||||||||
|
13b Läbipaistvus ja mõjutatud isikute teavitamine Füüsilisi isikuid või füüsiliste isikute rühmi, kelle suhtes on kavas kasutada suure riskiga tehisintellektisüsteemi, teavitatakse sellisest kasutamisest asjakohasel, hõlpsasti ligipääsetaval ja arusaadaval viisil ning neil on juurdepääs sellekohasele sõnaselgele, hõlpsasti ligipääsetavale ja avalikult kättesaadavale teabele. |
Motivatsioon
Usalduse ökosüsteemi tugevdamiseks tuleks teha suure riskiga tehisintellektisüsteemide kasutusjuhised üldsusele kättesaadavaks. Need juhised peavad olema koostatud keeles, mis on arusaadav selle riigi lugejale, kus tehisintellektisüsteem kasutusele võetakse.
Algoritmide läbipaistvuse ja n-ö selgitatavuse kontekstis peaks olema võimalik selgitada, milliste parameetritega mudel on häälestatud ja milliseid meetmeid on võetud ülesobitamise ja alasobitamise vältimiseks.
Artikliga 13b reguleeritakse läbipaistvuse ja nende isikute teavitamise kohustus, kes suhtlevad tehisintellektisüsteemidega või keda tehisintellektisüsteem võib mõjutada.
Muudatusettepanek 20
Artikli 14 lõige 4
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||
Lõikes 3 osutatud meetmed võimaldavad isikutel, kellele on antud ülesanne tegeleda inimjärelevalvega, teha olenevalt asjaoludest järgmist: |
Lõikes 3 osutatud meetmed võimaldavad isikutel, kellele on antud ülesanne tegeleda inimjärelevalvega, teha olenevalt asjaoludest järgmist: |
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
Motivatsioon
Esineb erinevat liiki kallutatusi, mis võivad osutuda problemaatiliseks. Näidetena võib tuua looja või kasutaja enda kallutatuse (sotsiaalne kallutatus), kallutatuse selle suhtes, kas kasutusele võetud tehisintellektisüsteem on probleemile sobiv lahendus (tehnoloogiline kallutatus), ja kallutatuse statistilised vormid.
Muudatusettepanek 21
Artikkel 14, uus lõige lõike 5 järel
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
|
Kõik tehisintellektisüsteemide tehtud otsused, millele on osutatud III lisa punkti 5 alapunktides a ja b, vaadatakse üle inimeste poolt ja need otsused põhinevad hoolikal otsustusprotsessil. Nende otsuste puhul peab olema tagatud inimestevaheline suhtlus. |
Motivatsioon
Artiklis 14 käsitletakse üksnes suure riskiga tehisintellektisüsteemide suhtes teostatavat inimjärelevalvet. Ametiasutuste otsuste puhul on oluline rõhutada, et tagatud peab olema inimsekkumine, suhtlus ja nõuetekohane menetlemine.
Muudatusettepanek 22
Artikkel 17, lõike 1 uued punktid pärast punkti m
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||
Suure riskiga tehisintellektisüsteemide pakkujad võtavad kasutusele kvaliteedijuhtimissüsteemi, mis tagab käesoleva määruse järgimise. Kvaliteedijuhtimissüsteem peab olema kirjalike põhimõtete, menetluste ja juhendite kujul süsteemselt ja nõuetekohaselt dokumenteeritud ning sisaldama vähemalt järgmisi aspekte: |
Suure riskiga tehisintellektisüsteemide pakkujad võtavad kasutusele kvaliteedijuhtimissüsteemi, mis tagab käesoleva määruse järgimise. Kvaliteedijuhtimissüsteem peab olema kirjalike põhimõtete, menetluste ja juhendite kujul süsteemselt ja nõuetekohaselt dokumenteeritud ning sisaldama vähemalt järgmisi aspekte: |
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
Motivatsioon
Täiendusega rõhutatakse, et kaasavus ja põhjendamatu diskrimineerimise vastane võitlus peaksid olema kvaliteedisüsteemi olulised elemendid.
Süsteem peab vastama eetilistele väärtustele, mida tehisintellektisüsteemi kasutaja süsteemilt ootab või mida pakkuja võib õigustatult oodata, et suure riskiga tehisintellektisüsteemilt ilmselt eeldatakse. Pakkuja peaks suutma selgitada, kuidas ta on seda arvesse võtnud.
Muudatusettepanek 23
Artikli 19 lõige 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Suure riskiga tehisintellektisüsteemide pakkujad peavad tagama, et nende süsteemid läbivad enne turule laskmist või kasutusele võtmist asjakohase vastavushindamise vastavalt artiklile 43. Kui sellise vastavushindamise kohaselt tõendatakse, et tehisintellektisüsteemid vastavad käesoleva jaotise 2. peatüki nõuetele, koostavad pakkujad ELi vastavusdeklaratsiooni vastavalt artiklile 48 ja kinnitavad tootele CE-vastavusmärgise vastavalt artiklile 49. |
Suure riskiga tehisintellektisüsteemide pakkujad peavad tagama, et nende süsteemid läbivad enne turule laskmist või kasutusele võtmist asjakohase vastavushindamise vastavalt artiklile 43. Kui sellise vastavushindamise kohaselt tõendatakse, et tehisintellektisüsteemid vastavad käesoleva jaotise 2. peatüki nõuetele, koostavad pakkujad ELi vastavusdeklaratsiooni vastavalt artiklile 48 ja kinnitavad tootele CE-vastavusmärgise vastavalt artiklile 49. Suure riskiga tehisintellektisüsteemide pakkuja avaldab ELi vastavusdeklaratsiooni ja vastavushindamise kokkuvõtte üldsusele kättesaadavas kohas. |
Motivatsioon
Tehisintellektisüsteemide usalduse ökosüsteemi tugevdamiseks peavad suure riskiga tehisintellektisüsteemide pakkujad olema avatud. Selleks peab üldsusel olema võimalik kontrollida, kas vastavushindamine on läbi viidud nõuetekohaselt ja kooskõlas määruse sätetega.
Muudatusettepanek 24
Artikkel 29, uus lõige lõike 6 järel
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
|
Suure riskiga tehisintellektisüsteemide kasutajad on vastutavad eetilise hinnangu eest enne süsteemi kasutama hakkamist. Nad peavad suutma selgitada tehnoloogia kasutuselevõtu võimalikku mõju inimestele ja ühiskonnale. Nad täpsustavad tehisintellektisüsteemi kasutuselevõtuga silmas peetavat eesmärki, üldisi väärtusi ja seda, kuidas nende väärtustega on arvestatud ning kas neid on süsteemis rakendatud või mitte. Nad hindavad süsteemi tegelikku mõju inimestele ja ühiskonnale kogu tehisintellektisüsteemi olelusringi jooksul. |
Motivatsioon
Eetika on lai mõiste. Tehnoloogiaeetika järgimiseks on mitmeid võimalusi, seda nii teoreetiliste põhjenduste kui ka konkreetsete meetodite, vahendite ja arvestuslike väärtuste osas. Väärtused on teemad, mida teatud inimesed/inimeste rühmad peavad oluliseks. Need võivad olla konkreetsemad või üldisemad. Oluline on hoida potentsiaalselt rakendatavate moraalsete väärtuste ring avatuna ning jätkata tehisintellektisüsteemi olelusringi hindamist.
Muudatusettepanek 25
Artikli 52 lõige 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Pakkujad tagavad, et füüsiliste isikutega suhtlema mõeldud tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga , välja arvatud juhul, kui see on asjaolude ja kasutamise konteksti tõttu ilmne . See kohustus ei kehti tehisintellektisüsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks ning nende eest vastutusele võtmiseks, välja arvatud juhul, kui sellised süsteemid on üldsusele kättesaadavad, et kuritegudest teatada. |
Pakkujad tagavad, et füüsiliste isikutega suhtlema mõeldud tehisintellektisüsteeme projekteeritakse ja arendatakse selliselt, et füüsilistele isikutele antakse teada, et nad suhtlevad tehisintellektisüsteemiga. See kohustus ei kehti tehisintellektisüsteemide suhtes, mida on seadusega lubatud kasutada kuritegude avastamiseks, tõkestamiseks ja uurimiseks ning nende eest vastutusele võtmiseks, välja arvatud juhul, kui sellised süsteemid on üldsusele kättesaadavad, et kuritegudest teatada. See suhtlus ei tohiks piirata tehisintellektisüsteemidega suhtlevate füüsiliste isikute valikute ulatust ja õiguslikku seisundit. |
Motivatsioon
Kui tehisintellektisüsteeme kasutatakse füüsiliste isikutega suhtlemise vahendina, on oht piirata nende süsteemidega suhtlevate füüsiliste isikute valikuid. Kui füüsilised isikud puutuvad kokku tehisintellektisüsteemidega, tuleks neid sellest alati nõuetekohaselt teavitada ning see ei tohiks sõltuda konkreetse olukorra tõlgendamisest. Nende õigused peavad tehisintellektsüsteemidega suhtlemisel olema alati tagatud.
Muudatusettepanek 26
Artikli 57 lõige 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Nõukoda koosneb riiklikest järelevalveasutustest, keda esindab asutuse juht või samaväärne kõrge ametnik, ning Euroopa Andmekaitseinspektorist. Koosolekutele võib kutsuda muid riiklikke asutusi, kui arutlusel olevad küsimused on nende jaoks olulised. |
Nõukoda koosneb riiklikest järelevalveasutustest, keda esindab asutuse juht või samaväärne kõrge ametnik, ning Euroopa Andmekaitseinspektorist. Koosolekutele võib kutsuda muid riiklikke , piirkondlikke ja kohalikke asutusi, kui arutlusel olevad küsimused on nende jaoks olulised. |
Motivatsioon
Kohalikel ja piirkondlikel omavalitsustel peaks olema võimalik osaleda tehisintellektisüsteemide järelevalves ja koostada aruandeid nende rakendamisest kohapeal.
Muudatusettepanek 27
Artikkel 58
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||||||||||||||
Komisjonile artikli 56 lõike 2 kohaselt nõu ja abi andes teeb nõukoda eelkõige järgmist: |
Komisjonile artikli 56 lõike 2 kohaselt nõu ja abi andes teeb nõukoda eelkõige järgmist: |
||||||||||||||||
|
|
||||||||||||||||
|
|
||||||||||||||||
|
|
||||||||||||||||
|
|
Motivatsioon
Kohalikud ja piirkondlikud omavalitsused on kohalikele elanikele ja ettevõtetele kõige lähemal seisev tasand. Neile tuleb teadmiste jagamisel anda selge positsioon.
Muudatusettepanek 28
Artikli 59 lõige 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Iga liikmesriik asutab või määrab riigi pädevad asutused, et tagada käesoleva määruse kohaldamine ja rakendamine. Riigi pädevad asutused korraldatakse nii, et kindlustada nende tegevuse ja ülesannete objektiivsus ja erapooletus. |
Iga liikmesriik asutab või määrab riigi pädevad asutused, et tagada käesoleva määruse kohaldamine ja rakendamine. Riigi pädevad asutused korraldatakse nii, et kindlustada nende tegevuse ja ülesannete objektiivsus ja erapooletus. Kui liikmesriigid peavad seda vajalikuks, volitatakse kohalikke ja piirkondlikke omavalitsusi täitma järelevalve- või jõustamisülesandeid. |
Motivatsioon
Selleks et tagada määruse ning asjaomase järelevalve- ja jõustamisraamistiku rakendatavus, peaksid liikmesriigid saama usaldada vajaduse ja võimaluse korral järelevalve- või jõustamisülesanded kohalikele ja piirkondlikele omavalitsustele. Sellega seoses tuleb kohalikele ja piirkondlikele omavalitsustele võimaldada toetust ja koolitusi, et nad oleksid täielikult võimestatud täitma järelevalve- või jõustamisülesandeid.
Muudatusettepanek 29
Artikli 69 lõige 3
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
Käitumisjuhendeid võivad koostada üksikud tehisintellektisüsteemide pakkujad või nende esindusorganisatsioonid või mõlemad ning sellesse tegevusse võib kaasata ka kasutajaid ja huvitatud sidusrühmi ning nende esindusorganisatsioone. Käitumisjuhendid võivad käia ühe või mitme tehisintellektisüsteemi kohta, võttes arvesse asjaomaste süsteemide sihtotstarbe sarnasusi. |
Käitumisjuhendeid võivad koostada riikide valitsused, piirkondlikud või kohalikud omavalitsused, üksikud tehisintellektisüsteemide pakkujad või nende esindusorganisatsioonid või mõlemad ning sellesse tegevusse võib kaasata ka kasutajaid ja huvitatud sidusrühmi ning nende esindusorganisatsioone. Käitumisjuhendid võivad käia ühe või mitme tehisintellektisüsteemi kohta, võttes arvesse asjaomaste süsteemide sihtotstarbe sarnasusi. |
Motivatsioon
Riiklikele, kohalikele ja piirkondlikele omavalitsustele tuleks anda õiguslik pädevus koostada käitumisjuhendeid nende poolt arendatavate või kasutatavate tehisintellektisüsteemide tarvis.
Muudatusettepanek 30
I LISA – Tehisintellekti meetodid ja lähenemisviisid, millele on viidatud artikli 3 punktis 1
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||
|
Teaduse praegust taset arvestades loetakse tehisintellekti alla kuuluvaks järgmised tehnikad ja meetodid: |
||||
|
|
||||
|
|
||||
|
|
Motivatsioon
Tehisintellekti meetodite määratlus ja loetelu peaksid olema tulevikukindlad. Tehisintellektisüsteemide arendamiseks kasutatavate konkreetsete meetodite ja lähenemisviiside loetelu ei pea olema lõplik ning peab olema selge, et see põhineb teaduse hetkeseisul.
Muudatusettepanek 31
III lisa punktid 1–5
Euroopa Komisjoni ettepaneku tekst |
Komitee muudatusettepanek |
||||
Artikli 6 lõike 2 kohaselt suure riskiga tehisintellektisüsteemid on järgmistes valdkondades loetletud tehisintellektisüsteemid. |
Artikli 6 lõike 2 kohaselt suure riskiga tehisintellektisüsteemid on järgmistes valdkondades loetletud tehisintellektisüsteemid. |
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
||||
|
|
Motivatsioon
Telekommunikatsiooni-, vee- ja internetitaristu on elutähtsa taristu lahutamatu osa.
Suure riskiga tehisintellektisüsteemide kvalifitseerimise puhul on oluline, et kas sellised süsteemid võivad kujutada kodanikele tõelist ohtu. Elanike poolt avalikele teenustele esitatavate nõuete pelk analüütiline ja teoreetiline hindamine ei kujuta endast suurt riski. Sõna „hindama“ täiendatakse sõnaga „otsustama“, millega rõhutakse, et see oht tekib elanike jaoks eeskätt otsuste tegemisel.
II. POLIITILISED SOOVITUSED
EUROOPA REGIOONIDE KOMITEE
Tipptaseme ökosüsteem
1. |
rõhutab, et komisjoni eesmärki viia EL tehisintellekti vastutustundlikus ja inimkeskses arendamises maailmas juhtpositsioonile on võimalik saavutada ainult juhul, kui kohalikel ja piirkondlikel omavalitsustel on selles oluline roll. Kohalikel ja piirkondlikel omavalitsustel on parimad võimalused aidata luua soodne keskkond, et suurendada lähiaastatel tehisintellekti tehtavaid investeeringuid ja suurendada usaldust tehisintellekti vastu; |
2. |
rõhutab, et lisaks kohalike ja piirkondlike omavalitsuste kaasamisele on oluline pakkuda neile toetust ja koolitusi, et suurendada nende pädevust asjaomases valdkonnas, eriti kuna neile võidakse anda järelevalve- ja jõustamisülesanded; |
3. |
märgib, et tehisintellekti arendamiseks tehakse kättesaadavaks ELi rahalised vahendid, kuid juhib tähelepanu sellekohase lähenemisviisi killustatusele, mis tuleneb programmide mitmekesisusest. See suurendab killustumise ja kattuvuse ohtu; |
4. |
kutsub seetõttu komisjoni üles arendama tugevaid ja pluralistlikke ühtseid andmeruume ning neid ühendama, et lahendada neis ühiskondlikke kasutusmalle avaliku ja erasektori andmeid kasutades. See nõuab ka kooskõlastamist Euroopa andmestrateegiast lähtuvate seadusandlike algatustega; |
Usalduse ökosüsteem
5. |
peab kahetsusväärseks, et määruse ettepanekus ei viidata kohalikele ja piirkondlikele omavalitsustele, vaatamata sellele, et õigusraamistikku kohaldatakse nii avaliku kui ka erasektori osalejate suhtes; |
6. |
märgib sellega seoses, et tehisintellektisüsteemidest võib olla suur tugi kohalike ja piirkondlike omavalitsuste suhtluses kodanikega ja nendepoolsel teenuste osutamisel. Lisaks võivad tehisintellektisüsteemid muu hulgas suurendada avaliku sektori tõhusust ning aidata kohalikel ja piirkondlikel omavalitsustel reageerida kohandustele, mis on kohalikul ja piirkondlikul tasandil vajalikud seoses rohe- ja digiüleminekuga. Seepärast on oluline, et määruse käimasoleva läbivaatamise käigus kasutataks aktiivselt kohalike ja piirkondlike omavalitsuste kogemusi; |
7. |
soovib mõistete „pakkuja“ ja „kasutaja“ täiendavat selgitamist eelkõige olukordades, kus ettevõtted, teadusasutused, valitsused ja elanikud töötavad tehisintellektisüsteeme ühiselt välja ning katsetavad neid eluslaborites. Nõuetekohaselt tuleks arvestada ka kodanike või tarbijatega, keda mõjutavad tehisintellektil põhinevad otsused süsteemides, mida käitavad professionaalsed kasutajad; |
8. |
rõhutab, et enne kui tehisintellektisüsteeme hakatakse reaalajas kasutama füüsiliste isikute biomeetriliseks kaugtuvastamiseks õiguskaitse eesmärgil avalikult juurdepääsetavates ruumides, tuleb konsulteerida asjaomaste kohalike ja piirkondlike omavalitsustega; |
9. |
tunneb heameelt Euroopa Komisjoni avaliku konsultatsiooni üle, mille teema on tsiviilvastutuse eeskirjade kohandamine digiajastu ja tehisintellektiga seotud konkreetsetele probleemidele (1), ning loodab, et selle tulemuseks on ajakohastatud raamistik, millega tagatakse tarbijatele tehisintellekti rakenduste põhjustatud kahju hüvitamine; |
10. |
on hämmastunud, miks demokraatlikes protsessides, nagu valimised, kasutatavaid tehisintellektisüsteeme ei ole lisatud suure riskiga tehisintellekti süsteemide loetellu; |
11. |
nõuab, et suure riskiga tehisintellektisüsteemide puhul kohaldataks füüsiliste isikute suhtes samu läbipaistvus- ja teavitamisnõudeid nagu praegu kasutajate suhtes; |
12. |
juhib tähelepanu inimõigustega seotud tõsistele ohtudele ja tagajärgedele, mis tulenevad ühiskondlikust liigitamisest; |
13. |
suhtub sellega seoses väga skeptiliselt määruses (2) esitatud kahte põhjusesse, mille alusel määrata kindlaks, millal ühiskondlik reiting toob kaasa füüsilisi isikuid või füüsiliste isikute rühmi kahjustava või nende suhtes ebasoodsa kohtlemise, kuna selliste põhjuste olemasolu on äärmiselt raske kindlaks teha. Komitee kutsub sellega seoses üles sõnastama sõnaselgelt kindlad kaitsemeetmed tagamaks, et ühiskondliku liigitamise keelust ei hakata mööda hiilima; |
14. |
märgib, et määruse põhjendustes käsitletakse riske, mis ähvardavad üksikisikuid interaktsiooni puhul suure riskiga tehisintellektisüsteemidega, muu hulgas hariduse, koolituse, tööhõive, töötajate juhtimise, füüsilisest isikust ettevõtjana tegutsemise või teatavatele olulistele era- ja avalik-õiguslikele teenustele juurdepääsu ja nende teenuste kasutamise kontekstis; |
15. |
kutsub komisjoni üles täiendavalt uurima ametiasutustele kasutamiseks mõeldud tehisintellektisüsteemide liigitamist suure riskiga süsteemideks (3); |
16. |
kutsub üles määrama asutuse, mis annaks kaalukat eelnevat nõu määruse sätete tõlgendamise kohta muu hulgas seoses isikuandmete kaitse üldmäärusega. See suurendab õiguskindlust ja vähendab tehisintellektisüsteemide kavandamise ja rakendamise kulusid; |
17. |
rõhutab sellega seoses, et oluline on määrus selgelt sõnastada, sest see on otsustav usalduse ökosüsteemi loomisel ja tehisintellektisüsteemide arendamise ja kasutamisega seotud õiguskindlusetuse kõrvaldamisel. Sellega välditaks kavandatud nõuete väärtõlgendusi ja minimeeritaks tehisintellekti rakenduste järgneva ebamõistliku haldamise riski, maksimeerides seeläbi määruse tulemuslikkust ja karistuste usaldusväärsust. Samal ajal ja kooskõlas Euroopa Komisjoni parema õigusloome tegevuskavaga on otsustav varakult tuvastada ja kõrvaldada võimalikud kattuvused ja/või vastuolud kehtivate eeskirjadega; |
18. |
märgib, et paljud kohalikud ja piirkondlikud omavalitsused kasutavad sarnaste ülesannete täitmiseks samu tehisintellektisüsteeme. Enamikul juhtudel on need süsteemid välja töötanud eraettevõtjad; |
19. |
juhib tähelepanu sellele, et määruse ettepanek ei ole kodanike õiguste tagamise seisukohast eraldiseisev eeskiri, vaid seda tuleb vaadelda koostoimes kehtivate õigusaktidega. Seepärast kutsutakse liikmesriike üles hoolitsema pidevalt vajalike haldusmeetmete eest, et võtta arvesse avalikus sektoris tehisintellekti kasutamisega seotud võimalusi ja riske; |
20. |
juhib tähelepanu sellele, et see tähendab, et vastavushindamises tõlgendavad Euroopa ja riiklikke eeskirju ettevõtjad ja teavitatud asutused ning see mõjutab kõnealuseid tehisintellektisüsteeme kasutavate kohalike ja piirkondlike omavalitsuste tavasid. Seetõttu on raske öelda, kui palju on nendes tehisintellektisüsteemides arvesse võetud kohalikku ja piirkondlikku poliitikat. Seepärast juhib komitee tähelepanu kohalike ja piirkondlike omavalitsuste erivajadustele ning asjaolule, et kõigile sobiv ühtne lähenemisviis võib kahjustada tehisintellektisüsteemide tõhusust nendele vajadustele vastamisel. Lisaks teeb komitee ettepaneku, et liikmesriikidele tuleks anda volitused reguleerida suure riskiga tehisintellektisüsteeme avalikust huvist tulenevatel tungivatel ja põhjendatud asjaoludel; |
21. |
nõuab sellega seoses, et vastavushindamised oleksid läbipaistvad ja üldsusele kättesaadavad. Lisaks peab kohalikel ja piirkondlikel omavalitsustel olema võimalik osaleda tehisintellektisüsteemide järelevalves, koostada aruandeid nende rakendamisest kohapeal ning anda ametlik panus Euroopa Komisjoni koostatavasse hinnangusse määruse kohaldamise kohta; |
22. |
rõhutab, et reguleeritud testimiskeskkonna rakendamiseks on vaja luua asjakohased õiguslikud, metodoloogilised ja eetilised tingimused, et oleks võimalik arendada tehnoloogiat, õigusakte ja õigusaktide hindamist. Lisaks tuleks kehtestada selged kriteeriumid ettevõtjate lubamiseks reguleeritud testimiskeskkonda. Tagamaks, et tarbijaorganisatsioonid saaksid jõustada tehisintellekti seaduse sätteid, tuleb see seadus lisada Euroopa direktiivi (mis käsitleb tarbijate kollektiivsete huvide kaitsmise esindushagisid – (EL) 2020/1828) I lisasse; |
Teavituskampaaniad
23. |
rõhutab, kui olulised on avalikud kampaaniad, et üldsust tehisintellekti süsteemide olemasolust ja kasulikkusest ning võimalikest riskidest teavitada ning nendega kurssi viia. Samuti rõhutab komitee tungivat vajadust anda tarbijatele kõikehõlmavat teavet tehisintellekti/masinapõhise otsustusprotsessi valdkonnas. Seepärast palub komitee, et Euroopa Komisjon rahastaks vastavasisulisi kampaaniaid; |
Halduskoormus
24. |
väljendab muret halduskoormuse pärast, mis võib kaasneda kavandatava määrusega. See halduskoormus võib takistada väikestel ja keskmise suurusega ettevõtjatel ning kohalikel ja piirkondlikel omavalitsustel edendada innovatsiooni ja võtta kasutusele tehisintellektisüsteeme (4); |
Proportsionaalsus ja subsidiaarsus
25. |
leiab, et määruse eelnõu on kooskõlas proportsionaalsuse ja subsidiaarsuse põhimõttega. ELi tegevuse lisaväärtus selles valdkonnas ja komisjoni valitud õiguslike aluste asjakohasus on selge ja järjepidev. Mõjuhinnang sisaldas eraldi peatükki subsidiaarsuse kohta. Lisaks ei esitanud ühegi liikmesriigi parlament kehtestatud tähtajaks, 2. septembriks 2021, põhjendatud arvamust selle kohta, et subsidiaarsuse põhimõttest ei ole kinni peetud. |
Brüssel, 2. detsember 2021
Euroopa Regioonide Komitee president
Apostolos TZITZIKOSTAS
([62]) Nõukogu 13. juuni 2002. aasta raamotsus 2002/584/JSK Euroopa vahistamismääruse ja liikmesriikidevahelise üleandmiskorra kohta (EÜT L 190, 18.7.2002, lk 1).
([62]) Nõukogu 13. juuni 2002. aasta raamotsus 2002/584/JSK Euroopa vahistamismääruse ja liikmesriikidevahelise üleandmiskorra kohta (EÜT L 190, 18.7.2002, lk 1).
(1) https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_et.
(2) Artikli 5 lõike 1 punkt c.
(3) III lisa, punkt 5a.
(4) Hiljutises, Euroopa Komisjoni toetusel valminud uuringus („Study to support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe“, lk 12) prognoositi, et mõistlikke eelduseid aluseks võttes võib tehisintellektisüsteemi sertifitseerimine maksta keskmiselt 16 800–23 000 eurot, mis on laias laastus 10–14 % arenduskuludest.