Access to European Union law
<a href="https://eur-lex.europa.eu/content/help/eurlex-content/experimental-features.html" target="_blank">More about the experimental features corner</a>
Choose the experimental features you want to try
EUR-Lex
Access to European Union law

This document is an excerpt from the EUR-Lex website

You are here
Use quotation marks to search for an "exact phrase". Append an asterisk (*) to a search term to find variations of it (transp*, 32019R*). Use a question mark (?) instead of a single character in your search term to find variations of it (ca?e finds case, cane, care).
Search tips
Need more search options? Use the Advanced search

Document 52021AR2682

Euroopan alueiden komitean lausunto aiheesta ”Tekoälyä koskeva eurooppalainen lähestymistapa ja tekoälysäädös” (tarkistettu lausunto)

COR 2021/02682

EUVL C 97, 28.2.2022, p. 60–85 (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

Date of document:
02/12/2021; Äänestyspäivä
Date of vote:
02/12/2021
Date lodged:
24/06/2021
Author:
Euroopan alueiden komitea, Sosiaalipolitiikka, koulutus, työllisyys, tutkimus ja kulttuuri -valiokunta
Responsible body:
Commission for Social Policy, Education, Employment, Research and Culture, COR_SEDEC
Rapporteur:
Guido RINK
Form:
Lausunto
Term of office:
VII (2020-2025)
Internal reference:
SEDEC-VII/022
Session:
147
Treaty:
Sopimus Euroopan unionin toiminnasta
Legal basis:
Link
Link
Link
Select all documents mentioning this document
Earlier related instruments:
Instruments cited:
Link

28.2.2022   

FI

Euroopan unionin virallinen lehti

C 97/60

Euroopan alueiden komitean lausunto aiheesta ”Tekoälyä koskeva eurooppalainen lähestymistapa ja tekoälysäädös”

(tarkistettu lausunto)

(2022/C 97/12)

Esittelijä:

Guido RINK (NL, PES), Emmenin kunnanhallituksen jäsen

Viiteasiakirjat:

Komission tiedonanto Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle ja alueiden komitealle – Tekoälyä koskevan eurooppalaisen lähestymistavan edistäminen

COM(2021) 205 final

Ehdotus Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta

COM(2021) 206 final

I   MUUTOSEHDOTUKSET

Muutosehdotus 1

Johdanto-osan 1 kappale

Komission ehdotus

AK:n muutosehdotus

Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa vahvistamalla yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden ja perusoikeuksien suojelun korkeaan tasoon, ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella.

Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa ja taata kansalaisten perusoikeudet vahvistamalla yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden ja perusoikeuksien suojelun korkeaan tasoon, ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella.

Perustelu

Viittauksella perusoikeuksiin pyritään korostamaan yhteyttä EU:n perusoikeuskirjaan.

Muutosehdotus 2

Uusi kappale johdanto-osan 6 kappaleen jälkeen

Komission ehdotus

AK:n muutosehdotus

 

Tekoälyjärjestelmien määrittely on jatkuva prosessi. Siinä olisi otettava huomioon tekoälyn toimintaympäristö, sen olisi pysyttävä alan yhteiskunnallisen kehityksen tahdissa, eikä se saisi hämärtää huippuosaamisen ekosysteemin ja luottamuksen ekosysteemin välistä yhteyttä.

Perustelu

Tekoälyn ja teknologian kehitys edellyttää mukautuvaa ja kehittyvää lähestymistapaa. Ehdotetussa johdanto-osan kappaleessa tähdennetään, että tekoälyn määritelmän olisi pysyttävä sekä ajan että tekoälyjärjestelmien ja -sovellusten kehityksen tasalla.

Muutosehdotus 3

Johdanto-osan 20 kappale

Komission ehdotus

AK:n muutosehdotus

Sen varmistamiseksi, että näitä järjestelmiä käytetään vastuullisella ja oikeasuhteisella tavalla, on myös tärkeää vahvistaa, että kussakin näistä kolmesta tyhjentävästi luetellusta ja suppeasti määritellystä tilanteesta olisi otettava huomioon tietyt tekijät, erityisesti pyynnön perusteena olevan tilanteen luonne ja käytön seuraukset kaikkien asianomaisten henkilöiden oikeuksille ja vapauksille sekä käyttöä koskevat suojatoimet ja ehdot. Lisäksi reaaliaikaisten biometristen etätunnistusjärjestelmien käytölle julkisissa tiloissa lainvalvontatarkoituksessa olisi asetettava asianmukaiset aika- ja tilarajat ottaen erityisesti huomioon uhkia, uhreja tai rikoksentekijää koskevat todisteet tai tiedossa olevat seikat. Henkilöitä koskevan viitetietokannan olisi oltava kuhunkin käyttötapaukseen sopiva kussakin edellä mainitussa kolmessa tapauksessa.

Sen varmistamiseksi, että näitä järjestelmiä käytetään vastuullisella ja oikeasuhteisella tavalla, on myös tärkeää vahvistaa, että kussakin näistä kolmesta tyhjentävästi luetellusta ja suppeasti määritellystä tilanteesta olisi otettava huomioon tietyt tekijät, erityisesti pyynnön perusteena olevan tilanteen luonne ja käytön seuraukset kaikkien asianomaisten henkilöiden oikeuksille ja vapauksille sekä käyttöä koskevat suojatoimet ja ehdot. Asianomaisia paikallis- ja alueviranomaisia olisi kuultava ennen näiden järjestelmien poikkeuksellista käyttöä. Lisäksi reaaliaikaisten biometristen etätunnistusjärjestelmien käytölle julkisissa tiloissa lainvalvontatarkoituksessa olisi asetettava tiukat aika- ja tilarajat ottaen erityisesti huomioon uhkia, uhreja tai rikoksentekijää koskevat todisteet tai tiedossa olevat seikat. Henkilöitä koskevan viitetietokannan olisi oltava kuhunkin käyttötapaukseen sopiva kussakin edellä mainitussa kolmessa tapauksessa.

Perustelu

Reaaliaikaisia biometrisia etätunnistusjärjestelmiä ei pitäisi käyttää kevyin perustein.

Muutosehdotus 4

Johdanto-osan 21 kappale

Komission ehdotus

AK:n muutosehdotus

Jokaisen reaaliaikaisen biometrisen etätunnistusjärjestelmän käytön julkisissa tiloissa lainvalvontatarkoituksessa olisi edellytettävä jäsenvaltion oikeusviranomaisen tai riippumattoman hallintoviranomaisen nimenomaista ja erityistä lupaa. Tällainen lupa olisi periaatteessa saatava ennen käyttöä, lukuun ottamatta asianmukaisesti perusteltuja kiireellisiä tapauksia eli tilanteita, joissa kyseisten järjestelmien käyttötarve on sellainen, että luvan saamisen ennen käytön aloittamista on tosiasiallisesti ja objektiivisesti mahdotonta. Tällaisissa kiireellisissä tilanteissa käyttö olisi rajoitettava siihen, mikä on ehdottoman välttämätöntä, ja siihen olisi sovellettava asianmukaisia suojatoimia ja ehtoja, jotka määritellään kansallisessa lainsäädännössä ja jotka lainvalvontaviranomainen itse määrittää kunkin yksittäisen kiireellisen käyttötapauksen yhteydessä . Lisäksi lainvalvontaviranomaisen olisi tällaisissa tilanteissa pyrittävä saamaan lupa mahdollisimman pian ja esitettävä samalla syyt siihen, miksi lupaa ei ole voitu pyytää aikaisemmin .

Jokaisen reaaliaikaisen biometrisen etätunnistusjärjestelmän käytön julkisissa tiloissa lainvalvontatarkoituksessa olisi edellytettävä jäsenvaltion oikeusviranomaisen tai riippumattoman hallintoviranomaisen nimenomaista ja erityistä lupaa. Tällainen lupa olisi saatava ennen käyttöä, lukuun ottamatta asianmukaisesti perusteltuja kiireellisiä tapauksia eli tilanteita, joissa kyseisten järjestelmien käyttötarve on sellainen, että luvan saamisen ennen käytön aloittamista on tosiasiallisesti ja objektiivisesti mahdotonta. Käyttö olisi joka tapauksessa rajoitettava siihen, mikä on ehdottoman välttämätöntä, ja siihen olisi sovellettava asianmukaisia suojatoimia ja ehtoja, jotka määritellään kansallisessa lainsäädännössä. Lisäksi lainvalvontaviranomaisen olisi ilmoitettava asiasta viipymättä asianomaisille paikallis- ja alueviranomaisille sekä pyrittävä saamaan lupa toimivaltaisilta viranomaisilta .

Perustelu

Paikallis- ja alueviranomaisilla on poliittinen ja hallinnollinen vastuu julkisten tilojen hallinnoinnista ja valvonnasta, ja siksi niiden olisi päästävä vaikuttamaan asianmukaisesti tällaisten järjestelmien käyttöönottoon julkisissa tiloissa. Kiireellisissä tilanteissa, joissa olisi kohtuutonta jäädä odottamaan asianomaisten paikallis- tai alueviranomaisten ennakkokuulemista, biometristen järjestelmien käyttöönotosta julkisissa tiloissa olisi ilmoitettava niille välittömästi.

Muutosehdotus 5

Johdanto-osan 39 kappale

Komission ehdotus

AK:n muutosehdotus

Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joita muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa vastaavien toimivaltaisten viranomaisten on tarkoitus käyttää valheenpaljastimina ja vastaavina välineinä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen; jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; sekä toimivaltaisten viranomaisten avustamiseen turvapaikka-, viisumi- ja oleskelulupahakemusten ja niihin liittyvien valitusten käsittelyssä, kun tavoitteena on vahvistaa asemaa hakevien luonnollisten henkilöiden kelpoisuus. Tämän asetuksen soveltamisalaan kuuluvien muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan alan tekoälyjärjestelmien olisi oltava Euroopan parlamentin ja neuvoston direktiivissä 2013/32/EU49, Euroopan parlamentin ja neuvoston asetuksessa (EY) N:o 810/200950 ja muussa asiaa koskevassa lainsäädännössä säädettyjen asiaankuuluvien menettelyvaatimusten mukaisia.

Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on välttämätöntä luokitella suuririskisiksi tekoälyjärjestelmät, joita muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa vastaavien toimivaltaisten viranomaisten on tarkoitus käyttää valheenpaljastimina ja vastaavina välineinä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen; jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; sekä toimivaltaisten viranomaisten avustamiseen turvapaikka-, viisumi- ja oleskelulupahakemusten ja niihin liittyvien valitusten käsittelyssä, kun tavoitteena on vahvistaa asemaa hakevien luonnollisten henkilöiden kelpoisuus. Tämän asetuksen soveltamisalaan kuuluvien muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan alan tekoälyjärjestelmien olisi oltava Euroopan parlamentin ja neuvoston direktiivissä 2013/32/EU49, Euroopan parlamentin ja neuvoston asetuksessa (EY) N:o 810/200950 ja muussa asiaa koskevassa lainsäädännössä säädettyjen asiaankuuluvien menettelyvaatimusten mukaisia.

Perustelu

Ehdotetulla muutoksella tähdennetään tarvetta ottaa kyseiset tekoälyjärjestelmät suuririskisiin tekoälyjärjestelmiin sovellettavien tiukempien järjestelyjen piiriin.

Muutosehdotus 6

Johdanto-osan 43 kappale

Komission ehdotus

AK:n muutosehdotus

Suuririskisiin tekoälyjärjestelmiin olisi sovellettava vaatimuksia, jotka koskevat käytettyjen datajoukkojen laatua, teknistä dokumentaatiota ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttäjille, ihmisen suorittamaa valvontaa sekä luotettavuutta, tarkkuutta ja kyberturvallisuutta. Nämä vaatimukset ovat tarpeen, jotta voidaan tehokkaasti vähentää terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä, siltä osin kuin niitä esiintyy järjestelmän käyttötarkoituksen perusteella, ja koska muita vähemmän kauppaa rajoittavia toimenpiteitä ei ole kohtuudella käytettävissä, jolloin vältetään perusteettomat kaupan rajoitukset.

Suuririskisiin tekoälyjärjestelmiin olisi sovellettava vaatimuksia, jotka koskevat käytettyjen datajoukkojen laatua, teknistä dokumentaatiota ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttäjille, ihmisen suorittamaa valvontaa sekä luotettavuutta, tarkkuutta ja kyberturvallisuutta. Nämä vaatimukset ovat tarpeen, jotta voidaan tehokkaasti vähentää terveyteen, turvallisuuteen , tietoturvaan, kuluttajan oikeuksiin ja perusoikeuksiin kohdistuvia riskejä, siltä osin kuin niitä esiintyy järjestelmän käytön perusteella, ja koska muita vähemmän kauppaa rajoittavia toimenpiteitä ei ole kohtuudella käytettävissä, jolloin vältetään perusteettomat kaupan rajoitukset. Niille luonnollisille henkilöille tai henkilöryhmille, joita unionissa markkinoille saatetut tai muuten käyttöön otetut suuririskiset tekoälyjärjestelmät koskevat, on ilmoitettava asianmukaisella, vastaanottajalle vaivattomalla ja ymmärrettävällä tavalla siitä, että heihin sovelletaan tällaisia järjestelmiä. Lisäksi heillä olisi oltava mahdollisuus tutustua selkeisiin, helposti saatavilla oleviin julkisiin tietoihin asiasta.

Perustelu

Tarjoajiin ja käyttäjiin sovellettavia läpinäkyvyys- ja tiedonantovaatimuksia on laajennettava niin, että ne kattavat myös sellaiset henkilöt tai henkilöryhmät, joita asetuksen liitteessä III lueteltujen suuririskisten tekoälyjärjestelmien käyttö mahdollisesti koskee. ”Ymmärrettävällä tavalla” tarkoitetaan myös käyttäjälle ymmärrettävän ja esteettömän kielen käyttöä, oraalis-auditiiviset ja gesturaalis-visuaaliset kielet mukaan lukien.

Muutosehdotus 7

Uusi kappale johdanto-osan 44 kappaleen jälkeen

Komission ehdotus

AK:n muutosehdotus

 

Tekoälyjärjestelmien tarjoajien on laadunhallintajärjestelmiensä yhteydessä pidättäydyttävä sellaisista toimenpiteistä, jotka edistävät sukupuoleen, alkuperään, uskontoon tai vakaumukseen, vammaisuuteen, ikään, sukupuoliseen suuntautumiseen tai mihin tahansa muuhun seikkaan perustuvaa perusteetonta syrjintää.

Perustelu

Laiton syrjintä juontaa juurensa ihmisen toiminnasta. Tekoälyjärjestelmien tarjoajien olisi laatujärjestelmiensä yhteydessä pidättäydyttävä sellaisista toimenpiteistä, jotka voisivat edistää syrjintää.

Muutosehdotus 8

Johdanto-osan 47 kappale

Komission ehdotus

AK:n muutosehdotus

Jotta voidaan puuttua läpinäkymättömyyteen, joka voi tehdä tietyistä tekoälyjärjestelmistä käsittämättömiä tai liian monimutkaisia luonnollisille henkilöille, suuririskisiltä tekoälyjärjestelmiltä olisi edellytettävä tiettyä läpinäkyvyyttä. Käyttäjien olisi voitava tulkita järjestelmän tuotosta ja käyttää sitä asianmukaisesti. Suuririskisten tekoälyjärjestelmien mukana olisi sen vuoksi oltava asiaankuuluvat asiakirjat ja käyttöohjeet, joiden olisi sisällettävä ytimekkäitä ja selkeitä tietoja, tarvittaessa myös mahdollisista perusoikeuksiin kohdistuvista riskeistä ja syrjintäriskeistä.

Jotta voidaan puuttua läpinäkymättömyyteen, joka voi tehdä tietyistä tekoälyjärjestelmistä käsittämättömiä tai liian monimutkaisia luonnollisille henkilöille tai viranomaisille kaikilla hallintotasoilla , suuririskisiltä tekoälyjärjestelmiltä olisi edellytettävä suurta läpinäkyvyyttä. Käyttäjien olisi voitava tulkita järjestelmän tuotosta ja käyttää sitä asianmukaisesti. Suuririskisten tekoälyjärjestelmien mukana olisi sen vuoksi oltava asiaankuuluvat asiakirjat ja käyttöohjeet, joiden olisi sisällettävä ytimekkäitä ja selkeitä tietoja, tarvittaessa myös mahdollisista perusoikeuksiin kohdistuvista riskeistä ja syrjintäriskeistä.

Perustelu

Käytetty sanamuoto ”tiettyä läpinäkyvyyttä” heikentää suuririskisten tekoälyjärjestelmien suunnittelijoiden vastuuvelvollisuutta.

Muutosehdotus 9

Johdanto-osan 48 kappale

Komission ehdotus

AK:n muutosehdotus

Suuririskiset tekoälyjärjestelmät olisi suunniteltava ja kehitettävä siten, että luonnolliset henkilöt voivat valvoa niiden toimintaa. Tätä varten järjestelmän tarjoajan olisi määritettävä asianmukaiset ihmisen suorittamat valvontatoimenpiteet ennen järjestelmän markkinoille saattamista tai käyttöönottoa. Tällaisilla toimenpiteillä olisi tarvittaessa erityisesti varmistettava, että järjestelmässä on sisäänrakennettuja toiminnallisia rajoituksia, joita järjestelmä ei voi itse ohittaa ja jotka vastaavat ihmiskäyttäjän komentoihin, ja että luonnollisilla henkilöillä, joiden tehtäväksi ihmisen suorittama valvonta on annettu, on tarvittava pätevyys, koulutus ja valtuudet tämän tehtävän hoitamiseksi.

Suuririskiset tekoälyjärjestelmät olisi suunniteltava ja kehitettävä siten, että luonnolliset henkilöt ja viranomaiset kaikilla hallintotasoilla voivat valvoa niiden toimintaa. Tätä varten järjestelmän tarjoajan olisi määritettävä asianmukaiset ihmisen suorittamat valvontatoimenpiteet ennen järjestelmän markkinoille saattamista tai käyttöönottoa. Tällaisilla toimenpiteillä olisi tarvittaessa erityisesti varmistettava, että järjestelmässä on sisäänrakennettuja toiminnallisia rajoituksia, joita järjestelmä ei voi itse ohittaa ja jotka vastaavat ihmiskäyttäjän komentoihin, ja että luonnollisilla henkilöillä, joiden tehtäväksi ihmisen suorittama valvonta on annettu, on tarvittava pätevyys, koulutus ja valtuudet tämän tehtävän hoitamiseksi.

Perustelu

Itsestään selvä.

Muutosehdotus 10

Johdanto-osan 67 kappale

Komission ehdotus

AK:n muutosehdotus

Suuririskisissä tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia, jotta ne voivat liikkua vapaasti sisämarkkinoilla. Jäsenvaltiot eivät saisi perusteettomasti estää sellaisten suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöön ottamista, jotka ovat tässä asetuksessa vahvistettujen vaatimusten mukaisia ja joissa on CE-merkintä.

Suuririskisissä tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia, jotta ne voivat liikkua vapaasti sisämarkkinoilla. Jäsenvaltiot eivät saisi estää sellaisten suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöön ottamista, jotka ovat tässä asetuksessa vahvistettujen vaatimusten mukaisia ja joissa on CE-merkintä. Jäsenvaltioilla on oikeus säännellä suuririskisiä tekoälyyn liittyviä käytäntöjä ja tekoälyjärjestelmiä ainoastaan yleistä etua ja kansallista turvallisuutta koskevista pakottavista ja asianmukaisesti perustelluista syistä.

Perustelu

Vaikka jäsenvaltiot eivät saisi estää asetuksen soveltamista, niillä olisi edelleen oltava oikeus säännellä suuririskisiä tekoälyjärjestelmiä, jos kyse on yleisestä edusta ja kansallisesta turvallisuudesta.

Muutosehdotus 11

Johdanto-osan 70 kappale

Komission ehdotus

AK:n muutosehdotus

Tietyt tekoälyjärjestelmät, jotka on tarkoitettu toimimaan vuorovaikutuksessa luonnollisten henkilöiden kanssa tai tuottamaan sisältöä, voivat aiheuttaa erityisiä toisena henkilönä esiintymiseen tai harhaanjohtamiseen liittyviä riskejä riippumatta siitä, luokitellaanko ne suuririskisiksi vai ei. Siksi näiden järjestelmien käyttöön olisi tietyissä olosuhteissa sovellettava erityisiä läpinäkyvyysvelvoitteita, sanotun kuitenkaan rajoittamatta suuririskisiä tekoälyjärjestelmiä koskevien vaatimusten ja velvoitteiden soveltamista. Luonnollisille henkilöille olisi erityisesti ilmoitettava, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa, ellei tämä ole olosuhteiden ja käyttöyhteyden perusteella ilmeistä . Lisäksi luonnollisille henkilöille olisi ilmoitettava, jos he altistuvat tunteentunnistusjärjestelmälle tai biometriselle luokitusjärjestelmälle. Tällaiset tiedot ja ilmoitukset olisi annettava vammaisille henkilöille soveltuvassa muodossa. Lisäksi sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, paikkoja tai tapahtumia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta, olisi ilmoitettava, että sisältö on keinotekoisesti tuotettu tai manipuloitu merkitsemällä tekoälyn tuotos vastaavasti ja paljastamalla sen keinotekoinen alkuperä.

Tietyt tekoälyjärjestelmät, jotka on tarkoitettu toimimaan vuorovaikutuksessa luonnollisten henkilöiden kanssa tai tuottamaan sisältöä, voivat aiheuttaa erityisiä toisena henkilönä esiintymiseen tai harhaanjohtamiseen liittyviä riskejä riippumatta siitä, luokitellaanko ne suuririskisiksi vai ei. Siksi näiden järjestelmien käyttöön olisi sovellettava erityisiä läpinäkyvyysvelvoitteita, sanotun kuitenkaan rajoittamatta suuririskisiä tekoälyjärjestelmiä koskevien vaatimusten ja velvoitteiden soveltamista. Luonnollisille henkilöille olisi erityisesti ilmoitettava systemaattisesti , että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Lisäksi luonnollisille henkilöille olisi ilmoitettava, jos he altistuvat tunteentunnistusjärjestelmälle tai biometriselle luokitusjärjestelmälle. Tällaiset tiedot ja ilmoitukset olisi annettava vammaisille henkilöille soveltuvassa muodossa. Lisäksi sellaisen tekoälyjärjestelmän käyttäjien, joka tuottaa tai manipuloi kuva-, ääni- tai videosisältöä, joka selvästi muistuttaa olemassa olevia henkilöitä, paikkoja tai tapahtumia ja joka voi ihmisestä vaikuttaa virheellisesti aidolta, olisi ilmoitettava, että sisältö on keinotekoisesti tuotettu tai manipuloitu merkitsemällä tekoälyn tuotos vastaavasti ja paljastamalla sen keinotekoinen alkuperä.

Perustelu

Kun luonnolliset henkilöt ovat vuorovaikutuksessa tekoälyjärjestelmien kanssa, läpinäkyvyys- ja ilmoitusvelvoitteesta ei pidä sallia minkäänlaisia poikkeuksia.

Muutosehdotus 12

Johdanto-osan 76 kappale

Komission ehdotus

AK:n muutosehdotus

Tämän asetuksen sujuvan, tehokkaan ja yhdenmukaisen täytäntöönpanon helpottamiseksi olisi perustettava Euroopan tekoälyneuvosto. Neuvoston olisi vastattava useista neuvoa-antavista tehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, esimerkiksi tässä asetuksessa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai voimassa olevista standardeista, sekä neuvojen ja avun antamisesta komissiolle tekoälyyn liittyvissä erityiskysymyksissä.

Tämän asetuksen sujuvan, tehokkaan ja yhdenmukaisen täytäntöönpanon helpottamiseksi olisi perustettava Euroopan tekoälyneuvosto. Neuvoston olisi vastattava useista neuvoa-antavista tehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, esimerkiksi tässä asetuksessa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai voimassa olevista standardeista, sekä neuvojen ja avun antamisesta komissiolle tekoälyyn liittyvissä erityiskysymyksissä. Euroopan tekoälyneuvoston jäsenistön olisi heijastettava ja edustettava eurooppalaisen yhteiskunnan eri intressejä, ja sen sukupuolijakauman olisi oltava tasapainoinen.

Perustelu

Euroopan tekoälyneuvoston olisi edustettava ja heijastettava asianmukaisesti eurooppalaisen yhteiskunnan intressien laajaa kirjoa. Kyse on muun muassa ihmisoikeuksiin, ilmastoon ja tekoälyjärjestelmien energiatehokkaaseen käyttöön, turvallisuuteen, sosiaaliseen osallisuuteen ja terveyteen liittyvistä asioista. Sukupuolten tasapuolinen edustus on ennakkoedellytys moninaisuuden takaamiselle neuvonannossa, ohjeiden laadinnassa ja muussa toiminnassa.

Muutosehdotus 13

Johdanto-osan 77 kappale

Komission ehdotus

AK:n muutosehdotus

Jäsenvaltioilla on keskeinen rooli tämän asetuksen soveltamisessa ja täytäntöönpanon valvonnassa. Tältä osin kunkin jäsenvaltion olisi nimettävä yksi tai useampi kansallinen toimivaltainen viranomainen valvomaan tämän asetuksen soveltamista ja täytäntöönpanoa. Jotta voidaan lisätä organisoinnin tehokkuutta jäsenvaltioissa ja luoda virallinen yhteyspiste yleisölle ja muille vastaaville tahoille jäsenvaltioissa ja unionissa, kussakin jäsenvaltiossa olisi nimettävä yksi kansallinen viranomainen kansalliseksi valvontaviranomaiseksi.

Jäsenvaltioilla on keskeinen rooli tämän asetuksen soveltamisessa ja täytäntöönpanon valvonnassa. Tältä osin kunkin jäsenvaltion olisi nimettävä yksi tai useampi kansallinen toimivaltainen viranomainen valvomaan tämän asetuksen soveltamista ja täytäntöönpanoa. Jotta voidaan lisätä organisoinnin tehokkuutta jäsenvaltioissa ja luoda virallinen yhteyspiste yleisölle ja muille vastaaville tahoille jäsenvaltioissa ja unionissa, kussakin jäsenvaltiossa olisi nimettävä yksi kansallinen viranomainen kansalliseksi valvontaviranomaiseksi. Paikallis- ja alueviranomaisille annetaan valvonta- tai täytäntöönpanotehtäviä silloin kun jäsenvaltiot katsovat sen aiheelliseksi.

Perustelu

Jotta voidaan varmistaa, että asetus on pantavissa täytäntöön ja sen mukaiset valvonta- ja täytäntöönpanojärjestelyt ovat toteutettavissa, jäsenvaltioiden olisi voitava tarvittaessa ja mahdollisuuksien mukaan antaa täytäntöönpano- ja valvontatehtäviä paikallis- ja alueviranomaisten hoidettaviksi.

Muutosehdotus 14

Johdanto-osan 79 kappale

Komission ehdotus

AK:n muutosehdotus

Jotta voidaan varmistaa tässä asetuksessa, joka on osa unionin yhdenmukaistamislainsäädäntöä, vahvistettujen vaatimusten ja velvollisuuksien asianmukainen ja tehokas täytäntöönpano, asetuksella (EU) 2019/1020 perustettua markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevaa järjestelmää olisi sovellettava kokonaisuudessaan. Kansallisilla viranomaisilla tai elimillä, jotka valvovat perusoikeuksia suojelevan unionin lainsäädännön soveltamista, mukaan lukien tasa-arvoelimet, olisi voitava saada käyttöönsä kaikki tämän asetuksen nojalla laadittu dokumentaatio, jos se on tarpeen niiden toimeksiannon kannalta.

Jotta voidaan varmistaa tässä asetuksessa, joka on osa unionin yhdenmukaistamislainsäädäntöä, vahvistettujen vaatimusten ja velvollisuuksien asianmukainen ja tehokas täytäntöönpano, asetuksella (EU) 2019/1020 perustettua markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevaa järjestelmää olisi sovellettava kokonaisuudessaan. Kansallisilla viranomaisilla , ja soveltuvissa tapauksissa paikallis- ja alueviranomaisilla, tai elimillä, jotka valvovat perusoikeuksia suojelevan unionin lainsäädännön soveltamista, mukaan lukien tasa-arvoelimet, olisi oltava mahdollisuus saada käyttöönsä kaikki tämän asetuksen nojalla laadittu dokumentaatio, jos se on tarpeen niiden toimeksiannon kannalta.

Perustelu

Ehdotetun muutoksen avulla otetaan huomioon EU:n jäsenvaltioiden erilaiset hallintorakenteet.

Muutosehdotus 15

Johdanto-osan 83 kappale

Komission ehdotus

AK:n muutosehdotus

Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta.

Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin , valtakunnallisella, alueellisella ja paikallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta.

Perustelu

Ehdotetun muutoksen avulla otetaan huomioon EU:n jäsenvaltioiden erilaiset hallintorakenteet.

Muutosehdotus 16

I osasto, 3 artiklan 1 kohta – Määritelmät

Komission ehdotus

AK:n muutosehdotus

”tekoälyjärjestelmällä” ohjelmistoa, joka on kehitetty käyttäen yhtä tai useampaa liitteessä I lueteltua tekniikkaa ja lähestymistapaa ja joka voi tuottaa tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöihin, joiden kanssa järjestelmät ovat vuorovaikutuksessa;

”tekoälyjärjestelmällä” ohjelmistoa, joka on kehitetty käyttäen yhtä tai useampaa liitteessä I olevassa ei-tyhjentävässä luettelossa mainittua tekniikkaa ja lähestymistapaa ja joka on yhteydessä sosiaalisiin käytäntöihin, identiteettiin ja kulttuuriin ja joka keräämällä dataa, tulkitsemalla kerättyä jäsenneltyä tai jäsentelemätöntä dataa, hallitsemalla tietämystä tai käsittelemällä data-aineistosta johdettua tietoa ja siten havainnoimalla ympäristöään voi tuottaa tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöihin, joiden kanssa järjestelmät ovat vuorovaikutuksessa;

Perustelu

Tekoälyjärjestelmä muodostuu yhdistelmästä teknisiä elementtejä, jotka nivovat datan, algoritmit ja laskentatehon sosiaalisiin käytäntöihin, yhteiskuntaan, identiteettiin ja kulttuuriin. Tällaisen sosioteknisen kokonaisuuden määritelmässä olisikin otettava huomioon tulevaisuuden vaatimukset ja sitä olisi ajantasaistettava säännöllisesti, jotta se kuvastaisi tarkoin tekoälyn yhä suurempaa yhteiskunnallista vaikutusta. Tässä yhteydessä olisi niin ikään määritettävä tekoälyyn liittyvät nopeasti muuttuvat haasteet ja mahdollisuudet, mukaan lukien tietämyksenhallinnan ja tekoälyn välinen yhteys. Lisäksi asetusta olisi sovellettava myös toisen algoritmin kehittämiin algoritmeihin.

Muutosehdotus 17

5 artiklan 1 kohta

Komission ehdotus

AK:n muutosehdotus

Seuraavat tekoälyyn liittyvät käytännöt ovat kiellettyjä:

Seuraavat tekoälyyn liittyvät käytännöt ovat kiellettyjä:

(a)

sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa käytetään subliminaalisia tekniikoita, joita henkilö ei havaitse tietoisesti, jotta voidaan olennaisesti vääristää henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa;

(a)

sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa käytetään subliminaalisia tekniikoita, joita henkilö ei havaitse tietoisesti, jotta voidaan olennaisesti vääristää henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa , loukkaa tai todennäköisesti loukkaa toisen henkilön tai jonkin henkilöryhmän perusoikeuksia, heidän fyysinen tai psyykkinen terveytensä ja turvallisuutensa mukaan lukien, aiheuttaa tai todennäköisesti aiheuttaa kuluttajalle haittaa, taloudelliset menetykset tai taloudellinen syrjintä mukaan lukien, taikka heikentää tai todennäköisesti heikentää demokratiaa ja oikeusvaltiota ;

(b)

sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa hyödynnetään tietyn henkilöryhmän haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa, jotta voidaan olennaisesti vääristää kyseiseen ryhmään kuuluvan henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa;

(b)

sellaisen tekoälyjärjestelmän markkinoille saattaminen, käyttöönotto tai käyttö, jossa hyödynnetään tietyn henkilöryhmän haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa, jotta voidaan olennaisesti vääristää kyseiseen ryhmään kuuluvan henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa kyseiselle henkilölle tai toiselle henkilölle fyysistä tai psyykkistä haittaa;

(c)

tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö viranomaisten toimesta tai niiden puolesta luonnollisten henkilöiden luotettavuuden arvioimiseksi tai luokittelemiseksi tiettynä ajanjaksona heidän sosiaalisen käyttäytymisensä tai tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella siten , että sosiaalinen pisteytys johtaa jompaankumpaan tai molempiin seuraavista:

i)

tiettyjen luonnollisten henkilöiden tai heidän ryhmiensä haitallinen tai epäedullinen kohtelu sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin;

ii)

tiettyjen luonnollisten henkilöiden tai heidän ryhmiensä haitallinen tai epäedullinen kohtelu, joka on perusteetonta tai suhteetonta heidän sosiaaliseen käyttäytymiseensä tai sen vakavuuteen nähden;

(c)

tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö viranomaisten toimesta tai niiden puolesta luonnollisten henkilöiden tai henkilöryhmien luotettavuuden arvioimiseksi tai luokittelemiseksi tiettynä ajanjaksona heidän sosiaalisen käyttäytymisensä tai tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella, jos se johtaa tekoälypohjaiseen sosiaaliseen pisteytykseen yleisiä tarkoituksia varten ;

(d)

reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa, paitsi jos ja siltä osin kuin se on ehdottoman välttämätöntä jonkin seuraavan tavoitteen saavuttamiseksi:

i)

tiettyjen mahdollisten rikoksen uhrien, myös kadonneiden lasten, kohdennettu etsintä;

ii)

luonnollisten henkilöiden henkeen tai fyysiseen turvallisuuteen kohdistuvan erityisen, merkittävän ja välittömän uhan tai terrori-iskun ehkäiseminen;

iii)

neuvoston puitepäätöksen 2002/584/YOS (62) 2 artiklan 2 kohdassa tarkoitetun rikoksen tekijän tai tällaisesta rikoksesta epäillyn havaitseminen, paikantaminen, tunnistaminen tai syytteeseenpano, kun rikoksesta voi asianomaisessa jäsenvaltiossa seurata vapaudenmenetyksen käsittävä rangaistus tai turvaamistoimenpide, jonka enimmäisaika on vähintään kolme vuotta, siten kuin se on määritelty kyseisen jäsenvaltion oikeudessa.

(d)

sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö viranomaisten toimesta tai niiden puolesta, joita sovelletaan ilman ihmisen valvontaa tapahtuvaan tekoälypohjaiseen sosiaaliseen pisteytykseen tiettyä tarkoitusta varten – eli sellaisissa sosiaalisissa yhteyksissä, jotka liittyvät siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin – luonnollisten henkilöiden tai henkilöryhmien luotettavuuden arvioimiseksi tai luokittelemiseksi tiettynä ajanjaksona heidän sosiaalisen käyttäytymisensä tai tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella, jos sosiaalinen pisteytys johtaa tiettyjen luonnollisten henkilöiden tai kokonaisten henkilöryhmien haitalliseen tai epäedulliseen kohteluun, joka on perusteetonta tai suhteetonta heidän sosiaaliseen käyttäytymiseensä tai sen vakavuuteen nähden;

 

(e)

reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa, paitsi jos ja siltä osin kuin se on ehdottoman välttämätöntä jonkin seuraavan tavoitteen saavuttamiseksi:

i)

tiettyjen mahdollisten rikoksen uhrien, myös kadonneiden lasten, kohdennettu etsintä;

ii)

luonnollisten henkilöiden henkeen tai fyysiseen turvallisuuteen kohdistuvan erityisen, merkittävän ja välittömän uhan tai terrori-iskun ehkäiseminen;

iii)

neuvoston puitepäätöksen 2002/584/YOS (62) 2 artiklan 2 kohdassa tarkoitetun rikoksen tekijän tai tällaisesta rikoksesta epäillyn havaitseminen, paikantaminen, tunnistaminen tai syytteeseenpano, kun rikoksesta voi asianomaisessa jäsenvaltiossa seurata vapaudenmenetyksen käsittävä rangaistus tai turvaamistoimenpide, jonka enimmäisaika on vähintään kolme vuotta, siten kuin se on määritelty kyseisen jäsenvaltion oikeudessa.

Perustelu

Subliminaaliset tekniikat voivat yleisesti ottaen heikentää vapautta ja ihmisoikeuksia ja siten horjuttaa demokraattisen oikeusvaltion toimintaa. Lisäksi tekoäly voi heikentää kuluttajien oikeuksia. Lisäysten tarkoituksena on tehdä tämä selväksi.

Mitä tulee viranomaisten toimesta tai niiden puolesta tehtävään sosiaaliseen luokitteluun, se olisi kiellettävä, jos se tehdään yleisiä tarkoituksia varten, koska tällaisista käytännöistä aiheutuu johdanto-osan 17 kappaleessa esitetyn laisia vaaroja. Tietojen tuottaminen tai kerääminen tiettyihin tarkoituksiin olisi sallittava vain ihmisen valvonnassa ja edellyttäen, että se ei loukkaa oikeutta ihmisarvoon ja syrjimättömyyteen eikä tasa-arvon ja oikeudenmukaisuuden arvoja.

Muutosehdotus 18

5 artiklan 4 kohta

Komission ehdotus

AK:n muutosehdotus

Jäsenvaltio voi päättää säätää mahdollisuudesta sallia kokonaan tai osittain reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa 1 kohdan d alakohdassa, 2 kohdassa ja 3 kohdassa luetelluin rajoituksin ja edellytyksin. Kyseisen jäsenvaltion on annettava kansallisessa lainsäädännössään tarvittavat yksityiskohtaiset säännöt 3 kohdassa tarkoitettujen lupien pyytämistä, myöntämistä, käyttöä ja valvontaa varten. Näissä säännöissä on myös täsmennettävä, minkä 1 kohdan d alakohdassa lueteltujen tavoitteiden osalta, myös minkä mainitun alakohdan iii alakohdassa tarkoitettujen rikosten osalta, toimivaltaisille viranomaisille voidaan antaa lupa käyttää kyseisiä järjestelmiä lainvalvontatarkoituksessa.

Jäsenvaltio voi päättää säätää mahdollisuudesta sallia kokonaan tai osittain reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö julkisissa tiloissa lainvalvontatarkoituksessa 1 kohdan d alakohdassa, 2 kohdassa ja 3 kohdassa luetelluin rajoituksin ja edellytyksin. Kyseisen jäsenvaltion on annettava kansallisessa lainsäädännössään tarvittavat yksityiskohtaiset säännöt 3 kohdassa tarkoitettujen lupien pyytämistä, myöntämistä, käyttöä ja valvontaa varten. Näissä säännöissä on myös täsmennettävä, minkä 1 kohdan d alakohdassa lueteltujen tavoitteiden osalta, myös minkä mainitun alakohdan iii alakohdassa tarkoitettujen rikosten osalta, toimivaltaisille viranomaisille voidaan antaa lupa käyttää kyseisiä järjestelmiä lainvalvontatarkoituksessa. Lisäksi niissä on vahvistettava asianomaisten paikallis- ja alueviranomaisten tiedonsaanti- ja kuulemisjärjestelyt. Kuulemiset on järjestettävä ennen kyseisten järjestelmien poikkeuksellista käyttöä julkisissa tiloissa. Kiireellisissä tilanteissa, joissa olisi kohtuutonta jäädä odottamaan asianomaisten paikallis- tai alueviranomaisten kuulemista, tekoälyyn liittyvän käytännön soveltamisesta on ilmoitettava niille viipymättä.

Perustelu

Paikallis- ja alueviranomaisilla on poliittinen ja hallinnollinen vastuu julkisten tilojen hallinnoinnista ja valvonnasta. Siksi niille on annettava mahdollisuus esittää näkemyksensä ennen tällaisten tekoälyyn liittyvien käytäntöjen soveltamista ja niille on tiedotettava asianmukaisesti tekoälyjärjestelmien poikkeuksellisesta käytöstä lainvalvontatarkoituksiin.

Kiireellisissä tilanteissa, joissa olisi kohtuutonta jäädä odottamaan asianomaisten paikallis- tai alueviranomaisten ennakkokuulemista, järjestelmien ja käytäntöjen soveltamisesta on ilmoitettava niille välittömästi.

Muutosehdotus 19

13 artikla

Komission ehdotus

AK:n muutosehdotus

13 artikla Läpinäkyvyys ja tietojen antaminen käyttäjille

13a artikla Läpinäkyvyys ja tietojen antaminen käyttäjille

1.   Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että varmistetaan, että niiden toiminta on riittävän läpinäkyvää, jotta käyttäjät voivat tulkita järjestelmän tuloksia ja käyttää niitä asianmukaisesti. On varmistettava sopiva läpinäkyvyyden tyyppi ja taso, jotta voidaan varmistaa tämän osaston 3 luvussa säädettyjen käyttäjän ja tarjoajan asiaankuuluvien velvoitteiden noudattaminen.

1.   Suuririskiset tekoälyjärjestelmät on suunniteltava ja kehitettävä siten, että varmistetaan, että niiden toiminta on riittävän läpinäkyvää, jotta käyttäjät voivat tulkita järjestelmän tuloksia ja käyttää niitä asianmukaisesti. On varmistettava sopiva läpinäkyvyyden tyyppi ja taso sekä tehtävä järjestelmästä selkoa ymmärrettävällä tavalla , jotta voidaan varmistaa tämän osaston 3 luvussa säädettyjen käyttäjän ja tarjoajan asiaankuuluvien velvoitteiden noudattaminen. Selonteko on annettava ainakin sen maan kielellä, jossa tekoälyjärjestelmä otetaan käyttöön.

2.   Suuririskisten tekoälyjärjestelmien mukana on oltava käyttöohjeet asianmukaisessa digitaalisessa tai muussa muodossa, ja niissä on annettava ytimekkäitä, täydellisiä, paikkansapitäviä ja selkeitä tietoja, jotka ovat käyttäjien kannalta olennaisia, esteettömiä ja ymmärrettäviä.

2.   Suuririskisten tekoälyjärjestelmien mukana on oltava julkiset, ymmärrettävät ja yleisesti saatavilla olevat käyttöohjeet asianmukaisessa digitaalisessa tai muussa muodossa, ja niissä on annettava ytimekkäitä, täydellisiä, paikkansapitäviä ja selkeitä tietoja, jotka ovat käyttäjien kannalta olennaisia, esteettömiä ja ymmärrettäviä.

3.   Edellä 2 kohdassa tarkoitetuissa tiedoissa on yksilöitävä

3.   Edellä 2 kohdassa tarkoitetuissa tiedoissa on yksilöitävä

(a)

tarjoajan ja tarvittaessa tämän valtuutetun edustajan henkilöllisyys ja yhteystiedot;

(a)

tarjoajan ja tarvittaessa tämän valtuutetun edustajan henkilöllisyys ja yhteystiedot;

(b)

suuririskisen tekoälyjärjestelmän ominaisuudet, valmiudet ja suorituskyvyn rajoitukset, mukaan lukien seuraavat:

(b)

suuririskisen tekoälyjärjestelmän ominaisuudet, valmiudet ja suorituskyvyn rajoitukset, mukaan lukien seuraavat:

 

i)

järjestelmän käyttötarkoitus;

 

i)

järjestelmän käyttötarkoitus;

 

ii)

edellä 15 artiklassa tarkoitettu tarkkuuden, luotettavuuden ja kyberturvallisuuden taso, johon nähden suuririskinen tekoälyjärjestelmä on testattu ja validoitu ja jota voidaan odottaa, sekä kaikki tunnetut ja ennakoitavissa olevat olosuhteet, joilla voi olla vaikutusta kyseiseen tarkkuuden, luotettavuuden ja kyberturvallisuuden tasoon;

 

ii)

edellä 15 artiklassa tarkoitettu tarkkuuden taso (mallien arviointiin soveltuvina mittayksiköinä) , luotettavuuden taso ja kyberturvallisuuden taso, johon nähden suuririskinen tekoälyjärjestelmä on testattu ja validoitu ja jota voidaan odottaa, sekä kaikki tunnetut ja ennakoitavissa olevat olosuhteet, joilla voi olla vaikutusta kyseiseen tarkkuuden, luotettavuuden ja kyberturvallisuuden tasoon;

 

iii)

kaikki tunnetut tai ennakoitavissa olevat olosuhteet, jotka liittyvät suuririskisen tekoälyjärjestelmän käyttöön sen käyttötarkoituksen mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa ja jotka voivat aiheuttaa terveyteen ja turvallisuuteen tai perusoikeuksiin kohdistuvia riskejä;

 

iii)

kaikki tunnetut tai ennakoitavissa olevat olosuhteet, jotka liittyvät suuririskisen tekoälyjärjestelmän käyttöön sen käyttötarkoituksen mukaisesti tai kohtuudella ennakoitavissa olevissa väärinkäyttöolosuhteissa ja jotka voivat aiheuttaa terveyteen ja turvallisuuteen tai perusoikeuksiin kohdistuvia riskejä;

 

iv)

järjestelmän suorituskyky niiden henkilöiden tai henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää;

 

iv)

järjestelmän suorituskyky niiden henkilöiden tai henkilöryhmien osalta, joihin järjestelmää on tarkoitus käyttää;

 

v)

tarvittaessa syöttötietoja koskevat spesifikaatiot tai muut käytettyjä koulutus-, validointi- ja testausdatajoukkoja koskevat olennaiset tiedot ottaen huomioon tekoälyjärjestelmän suunniteltu käyttötarkoitus;

 

v)

tarvittaessa syöttötietoja koskevat spesifikaatiot tai muut käytettyjä koulutus-, validointi- ja testausdatajoukkoja koskevat olennaiset tiedot ottaen huomioon tekoälyjärjestelmän suunniteltu käyttötarkoitus;

vi)

mallin hienosäädössä käytetyt parametrit sekä ylisovittamisen ja alisovittamisen estämiseksi toteutetut toimenpiteet;

(c)

suuririskisen tekoälyjärjestelmän ja sen suorituskyvyn muutokset, jotka tarjoaja on määritellyt ennalta ensimmäisen vaatimustenmukaisuuden arvioinnin yhteydessä, jos sellaisia on;

(c)

suuririskisen tekoälyjärjestelmän ja sen suorituskyvyn muutokset, jotka tarjoaja on määritellyt ennalta ensimmäisen vaatimustenmukaisuuden arvioinnin yhteydessä, jos sellaisia on;

(d)

14 artiklassa tarkoitetut ihmisen suorittamat valvontatoimenpiteet, mukaan lukien tekniset toimenpiteet, jotka on otettu käyttöön, jotta käyttäjien olisi helpompi tulkita tekoälyjärjestelmien tuloksia;

(d)

14 artiklassa tarkoitetut ihmisen suorittamat valvontatoimenpiteet, mukaan lukien tekniset toimenpiteet, jotka on otettu käyttöön, jotta käyttäjien olisi helpompi tulkita tekoälyjärjestelmien tuloksia;

(e)

suuririskisen tekoälyjärjestelmän odotettu käyttöikä ja kaikki tarvittavat huolto- ja hoitotoimenpiteet, joilla varmistetaan tekoälyjärjestelmän asianmukainen toiminta, mukaan lukien ohjelmistopäivitykset.

(e)

suuririskisen tekoälyjärjestelmän odotettu käyttöikä ja kaikki tarvittavat huolto- ja hoitotoimenpiteet, joilla varmistetaan tekoälyjärjestelmän asianmukainen toiminta, mukaan lukien ohjelmistopäivitykset.

 

13b Läpinäkyvyys ja tietojen antaminen henkilöille, joita järjestelmä koskee

Henkilöille tai henkilöryhmille, joihin suuririskistä tekoälyjärjestelmää on tarkoitus soveltaa, on ilmoitettava tällaisesta käytöstä asianmukaisella, vastaanottajalle vaivattomalla ja ymmärrettävällä tavalla. Lisäksi heillä olisi oltava mahdollisuus tutustua selkeisiin, helposti saatavilla oleviin julkisiin tietoihin asiasta.

Perustelu

Luottamuksen ekosysteemin vahvistamiseksi suuririskisten tekoälyjärjestelmien käyttöohjeet olisi julkaistava ja asetettava yleisesti saataville. Ohjeet olisi laadittava tekoälyjärjestelmän käyttömaan kielellä, ja niiden olisi oltava lukijoille ymmärrettäviä.

Algoritmien läpinäkyvyyteen ja selitettävyyteen liittyen on pystyttävä tekemään selkoa siitä, mitä parametreja mallin hienosäädössä on käytetty ja mitä toimenpiteitä ylisovittamisen ja alisovittamisen estämiseksi on toteutettu.

Ehdotetussa 13b artiklassa säädetään läpinäkyvyys- ja tiedonantovelvoitteesta niitä henkilöitä kohtaan, jotka ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa tai joihin tekoälyjärjestelmä voi vaikuttaa.

Muutosehdotus 20

14 artiklan 4 kohta

Komission ehdotus

AK:n muutosehdotus

Edellä 3 kohdassa tarkoitettujen toimenpiteiden on mahdollistettava se, että henkilöt, joiden tehtäväksi ihmisen suorittama valvonta on annettu, voivat olosuhteiden mukaan

Edellä 3 kohdassa tarkoitettujen toimenpiteiden on mahdollistettava se, että henkilöt, joiden tehtäväksi ihmisen suorittama valvonta on annettu, voivat olosuhteiden mukaan

(a)

ymmärtää täysin suuririskisen tekoälyjärjestelmän valmiudet ja rajoitukset ja seurata sen toimintaa asianmukaisesti, jotta poikkeavuuksien, toimintahäiriöiden ja odottamattoman suorituskyvyn merkit voidaan havaita ja niihin voidaan puuttua mahdollisimman pian;

(a)

ymmärtää täysin suuririskisen tekoälyjärjestelmän valmiudet ja rajoitukset ja seurata sen toimintaa asianmukaisesti, jotta poikkeavuuksien, toimintahäiriöiden ja odottamattoman suorituskyvyn merkit voidaan havaita ja niihin voidaan puuttua mahdollisimman pian;

(b)

pysyä tietoisina mahdollisesta taipumuksesta luottaa automaattisesti tai liiallisesti suuririskisen tekoälyjärjestelmän tuottamiin tuloksiin (”automaatiovinoutuma”), erityisesti sellaisten suuririskisten tekoälyjärjestelmien osalta, joita käytetään tietojen tai suositusten antamiseen luonnollisten henkilöiden tekemiä päätöksiä varten;

(b)

pysyä tietoisina mahdollisesta taipumuksesta luottaa automaattisesti tai liiallisesti suuririskisen tekoälyjärjestelmän tuottamiin tuloksiin (”automaatiovinoutuma”) tai mistä tahansa muista vinoutumista , erityisesti sellaisten suuririskisten tekoälyjärjestelmien osalta, joita käytetään tietojen tai suositusten antamiseen luonnollisten henkilöiden tekemiä päätöksiä varten;

(c)

tulkita oikein suuririskisen tekoälyjärjestelmän tuotoksia ottaen erityisesti huomioon järjestelmän ominaisuudet sekä käytettävissä olevat tulkintavälineet ja -menetelmät;

(c)

tulkita oikein suuririskisen tekoälyjärjestelmän tuotoksia ottaen erityisesti huomioon järjestelmän ominaisuudet sekä käytettävissä olevat tulkintavälineet ja -menetelmät;

(d)

päättää missä tahansa erityistilanteessa, että suuririskistä tekoälyjärjestelmää ei käytetä, tai muutoin jättää huomiotta, korjata tai peruuttaa suuririskisen tekoälyjärjestelmän tuotokset;

(d)

päättää missä tahansa erityistilanteessa, että suuririskistä tekoälyjärjestelmää ei käytetä, tai muutoin jättää huomiotta, korjata tai peruuttaa suuririskisen tekoälyjärjestelmän tuotokset;

(e)

puuttua suuririskisen tekoälyjärjestelmän toimintaan tai pysäyttää järjestelmän pysäytyspainikkeella tai vastaavalla menettelyllä.

(e)

puuttua suuririskisen tekoälyjärjestelmän toimintaan tai pysäyttää järjestelmän pysäytyspainikkeella tai vastaavalla menettelyllä.

Perustelu

On olemassa useita vinoutumia, jotka voivat olla ongelmallisia. Esimerkkeinä mainittakoon tekoälyjärjestelmän suunnittelijan tai käyttäjän omat painotukset (sosiaalinen vinoutuma), vinoutumat sen suhteen, onko käyttöön otettu tekoälyjärjestelmä asianmukainen ratkaisu ongelmaan (teknologinen vinoutuma), ja erilaiset tilastolliset vinoutumat.

Muutosehdotus 21

Uusi kohta 14 artiklan 5 kohdan jälkeen

Komission ehdotus

AK:n muutosehdotus

 

Kaikki liitteessä III olevan 5 kohdan a ja b alakohdassa tarkoitetuin tekoälyjärjestelmin tehtävät päätökset vaativat ihmisen osallistumista, ja niiden on perustuttava huolelliseen päätöksentekoprosessiin. Päätösten osalta on taattava mahdollisuus ihmisten väliseen kanssakäymiseen.

Perustelu

Ehdotetun asetuksen 14 artikla koskee ainoastaan ihmisen suorittamaa suuririskisten tekoälyjärjestelmien valvontaa. Viranomaispäätösten osalta on tärkeää korostaa, että ihmisen osallistuminen, mahdollisuus ihmisten väliseen kanssakäymiseen ja asianmukaiset muutoksenhakumenettelyt on taattava.

Muutosehdotus 22

Uudet alakohdat 17 artiklan 1 kohdan m alakohdan jälkeen

Komission ehdotus

AK:n muutosehdotus

Suuririskisten tekoälyjärjestelmien tarjoajien on otettava käyttöön laadunhallintajärjestelmä, jolla varmistetaan tämän asetuksen noudattaminen. Järjestelmä on dokumentoitava järjestelmällisesti ja täsmällisesti kirjallisiksi periaatteiksi, menettelyiksi ja ohjeiksi, ja siihen on sisällyttävä ainakin seuraavat seikat:

Suuririskisten tekoälyjärjestelmien tarjoajien on otettava käyttöön laadunhallintajärjestelmä, jolla varmistetaan tämän asetuksen noudattaminen. Järjestelmä on dokumentoitava järjestelmällisesti ja täsmällisesti kirjallisiksi periaatteiksi, menettelyiksi ja ohjeiksi, ja siihen on sisällyttävä ainakin seuraavat seikat:

(a)

strategia säännösten noudattamista varten, mukaan lukien vaatimustenmukaisuusmenettelyjen ja suuririskisiin tekoälyjärjestelmiin tehtyjen muutosten hallintamenettelyjen noudattaminen;

(a)

strategia säännösten noudattamista varten, mukaan lukien vaatimustenmukaisuusmenettelyjen ja suuririskisiin tekoälyjärjestelmiin tehtyjen muutosten hallintamenettelyjen noudattaminen;

(b)

suuririskisen tekoälyjärjestelmän suunnittelussa, suunnittelun valvonnassa ja rakenteen tarkastuksessa käytettävät tekniikat, menettelyt ja järjestelmälliset toimenpiteet;

(b)

suuririskisen tekoälyjärjestelmän suunnittelussa, suunnittelun valvonnassa ja rakenteen tarkastuksessa käytettävät tekniikat, menettelyt ja järjestelmälliset toimenpiteet;

(c)

suuririskisen tekoälyjärjestelmän kehittämisessä, laadunvalvonnassa ja laadunvarmistuksessa käytettävät tekniikat, menettelyt ja järjestelmälliset toimenpiteet;

(c)

suuririskisen tekoälyjärjestelmän kehittämisessä, laadunvalvonnassa ja laadunvarmistuksessa käytettävät tekniikat, menettelyt ja järjestelmälliset toimenpiteet;

(d)

tarkastus-, testaus- ja validointimenettelyt, jotka on suoritettava ennen suuririskisen tekoälyjärjestelmän kehittämistä, sen aikana ja sen jälkeen, sekä niiden suoritustiheys;

(d)

tarkastus-, testaus- ja validointimenettelyt, jotka on suoritettava ennen suuririskisen tekoälyjärjestelmän kehittämistä, sen aikana ja sen jälkeen, sekä niiden suoritustiheys;

(e)

sovellettavat tekniset eritelmät, standardit mukaan luettuina, ja, jos asiaankuuluvia yhdenmukaistettuja standardeja ei sovelleta täysimääräisesti, keinot, joilla varmistetaan, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen;

(e)

sovellettavat tekniset eritelmät, standardit mukaan luettuina, ja, jos asiaankuuluvia yhdenmukaistettuja standardeja ei sovelleta täysimääräisesti, keinot, joilla varmistetaan, että suuririskinen tekoälyjärjestelmä on tämän osaston 2 luvussa vahvistettujen vaatimusten mukainen;

(f)

datanhallintajärjestelmät ja -menettelyt, mukaan lukien datankeruu, datan analysointi, tunnisteiden lisääminen, datan tallentaminen, datan suodattaminen, datanlouhinta, datan yhdistäminen, datan säilyttäminen ja kaikki muut dataan liittyvät toimet, jotka suoritetaan ennen suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöönottoa ja näitä toimia varten;

(f)

datanhallintajärjestelmät ja -menettelyt, mukaan lukien datankeruu, datan analysointi, tunnisteiden lisääminen, datan tallentaminen, datan suodattaminen, datanlouhinta, datan yhdistäminen, datan säilyttäminen ja kaikki muut dataan liittyvät toimet, jotka suoritetaan ennen suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöönottoa ja näitä toimia varten;

(g)

9 artiklassa tarkoitettu riskinhallintajärjestelmä;

(g)

9 artiklassa tarkoitettu riskinhallintajärjestelmä;

(h)

markkinoille saattamisen jälkeistä seurantaa koskevan järjestelmän perustaminen, toteutus ja ylläpito 61 artiklan mukaisesti;

(h)

markkinoille saattamisen jälkeistä seurantaa koskevan järjestelmän perustaminen, toteutus ja ylläpito 61 artiklan mukaisesti;

(i)

menettelyt, jotka liittyvät vakavista vaaratilanteista ja toimintahäiriöistä ilmoittamiseen 62 artiklan mukaisesti;

(i)

menettelyt, jotka liittyvät vakavista vaaratilanteista ja toimintahäiriöistä ilmoittamiseen 62 artiklan mukaisesti;

(j)

kansallisten toimivaltaisten viranomaisten, toimivaltaisten viranomaisten, myös alakohtaisten viranomaisten, jotka tarjoavat pääsyn dataan tai tukevat sitä, ilmoitettujen laitosten, muiden toimijoiden, asiakkaiden tai muiden asianomaisten osapuolten kanssa käytävän viestinnän järjestäminen;

(j)

kansallisten toimivaltaisten viranomaisten, toimivaltaisten viranomaisten, myös alakohtaisten viranomaisten, jotka tarjoavat pääsyn dataan tai tukevat sitä, ilmoitettujen laitosten, muiden toimijoiden, asiakkaiden tai muiden asianomaisten osapuolten kanssa käytävän viestinnän järjestäminen;

(k)

järjestelmät ja menettelyt kaiken asiaankuuluvan dokumentaation ja tiedon säilyttämistä varten;

(k)

järjestelmät ja menettelyt kaiken asiaankuuluvan dokumentaation ja tiedon säilyttämistä varten;

(l)

resurssien hallinta, mukaan lukien toimitusvarmuuteen liittyvät toimenpiteet;

(l)

resurssien hallinta, mukaan lukien toimitusvarmuuteen liittyvät toimenpiteet;

(m)

vastuuvelvollisuuskehys, jossa määritellään johdon ja muun henkilöstön vastuut kaikkien tässä kohdassa lueteltujen näkökohtien osalta.

(m)

vastuuvelvollisuuskehys, jossa määritellään johdon ja muun henkilöstön vastuut kaikkien tässä kohdassa lueteltujen näkökohtien osalta;

 

(n)

toimenpiteet sukupuoleen, etniseen alkuperään, uskontoon tai vakaumukseen, vammaisuuteen, ikään, sukupuoliseen suuntautumiseen tai mihin tahansa muuhun seikkaan perustuvan perusteettoman syrjinnän torjumiseksi;

(o)

selvitys siitä, miten eettiset kysymykset on otettu huomioon suuririskistä tekoälyjärjestelmää suunniteltaessa.

Perustelu

Ehdotetun lisäyksen avulla korostetaan, että osallistavuuden sekä perusteettoman syrjinnän torjumisen olisi oltava tärkeä osa laatujärjestelmää.

Järjestelmän olisi oltava niiden eettisten arvojen mukainen, joita tekoälyjärjestelmän käyttäjä järjestelmältä toivoo tai joita järjestelmän tarjoaja voi kohtuudella odottaa suuririskiseltä tekoälyjärjestelmältä mahdollisesti toivottavan. Tarjoajan on pystyttävä selittämään, miten se on ottanut asian huomioon.

Muutosehdotus 23

19 artiklan 1 kohta

Komission ehdotus

AK:n muutosehdotus

Suuririskisten tekoälyjärjestelmien tarjoajien on varmistettava, että niiden järjestelmille tehdään asiaankuuluva vaatimustenmukaisuuden arviointimenettely 43 artiklan mukaisesti ennen järjestelmien markkinoille saattamista tai käyttöönottoa. Kun vaatimustenmukaisuuden arvioinnin perusteella on osoitettu, että tekoälyjärjestelmät ovat tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisia, tarjoajien on laadittava EU-vaatimustenmukaisuusvakuutus 48 artiklan mukaisesti ja kiinnitettävä CE-vaatimustenmukaisuusmerkintä 49 artiklan mukaisesti.

Suuririskisten tekoälyjärjestelmien tarjoajien on varmistettava, että niiden järjestelmille tehdään asiaankuuluva vaatimustenmukaisuuden arviointimenettely 43 artiklan mukaisesti ennen järjestelmien markkinoille saattamista tai käyttöönottoa. Kun vaatimustenmukaisuuden arvioinnin perusteella on osoitettu, että tekoälyjärjestelmät ovat tämän osaston 2 luvussa vahvistettujen vaatimusten mukaisia, tarjoajien on laadittava EU-vaatimustenmukaisuusvakuutus 48 artiklan mukaisesti ja kiinnitettävä CE-vaatimustenmukaisuusmerkintä 49 artiklan mukaisesti. Suuririskisten tekoälyjärjestelmien tarjoajien on julkaistava EU-vaatimustenmukaisuusvakuutus ja tiivistelmä vaatimustenmukaisuuden arvioinnista sellaisessa paikassa, että se on yleisesti saatavilla.

Perustelu

Jotta voidaan vahvistaa tekoälyjärjestelmiin kohdistuvan luottamuksen ekosysteemiä, suuririskisten tekoälyjärjestelmien tarjoajien on toimittava avoimella tavalla. Kansalaisten on näin ollen voitava tarkistaa, että vaatimustenmukaisuuden arviointi on toteutettu asianmukaisesti ja asetuksen säännöksiä noudattaen.

Muutosehdotus 24

Uusi kohta 29 artiklan 6 kohdan jälkeen

Komission ehdotus

AK:n muutosehdotus

 

Suuririskisten tekoälyjärjestelmien käyttäjien on tehtävä eettinen arviointi ennen järjestelmän käyttöönottoa. Näiden on kyettävä tekemään selkoa teknologian käytön mahdollisista vaikutuksista ihmisiin ja yhteiskuntaan ja täsmennettävä tekoälyjärjestelmän kaavailtu käyttötarkoitus, yleiset arvot ja niiden painotus sekä ilmoitettava, onko arvot integroitu osaksi järjestelmää. Suuririskisten tekoälyjärjestelmien käyttäjien on myös arvioitava järjestelmän todellisia vaikutuksia ihmisiin ja yhteiskuntaan järjestelmän koko elinkaaren ajan.

Perustelu

Etiikka on laaja käsite, ja eettisiä periaatteita voidaan teknologian alalla noudattaa monin eri tavoin, olipa kyse sitten teoreettisista perusteista tai konkreettisista menetelmistä, välineistä ja suunnittelua ohjaavista arvoista. Arvot ovat seikkoja, joita tietyt ihmiset (tai ryhmät) pitävät tärkeinä, ja ne voivat olla konkreettisempia tai käsitteellisempiä. On tärkeää, että mahdollisesti sovellettavien moraalisten arvojen valikoima pidetään avoimena ja että tekoälyjärjestelmän arviointia jatketaan koko sen elinkaaren ajan.

Muutosehdotus 25

52 artiklan 1 kohta

Komission ehdotus

AK:n muutosehdotus

Tarjoajien on varmistettava, että luonnollisten henkilöiden kanssa vuorovaikutukseen tarkoitetut tekoälyjärjestelmät suunnitellaan ja toteutetaan siten, että luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa , paitsi jos tämä on olosuhteiden ja käyttöyhteyden perusteella ilmeistä . Tätä velvoitetta ei sovelleta tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseiset järjestelmät ovat julkisesti saatavilla rikosilmoitusten tekemistä varten.

Tarjoajien on varmistettava, että luonnollisten henkilöiden kanssa vuorovaikutukseen tarkoitetut tekoälyjärjestelmät suunnitellaan ja toteutetaan siten, että luonnollisille henkilöille ilmoitetaan, että he ovat vuorovaikutuksessa tekoälyjärjestelmän kanssa. Tätä velvoitetta ei sovelleta tekoälyjärjestelmiin, joita on lain mukaan sallittua käyttää rikosten paljastamiseen, estämiseen ja tutkimiseen ja rikoksiin liittyviin syytetoimiin, paitsi jos kyseiset järjestelmät ovat julkisesti saatavilla rikosilmoitusten tekemistä varten. Tekoälyjärjestelmin tapahtuva vuorovaikutus ei saa rajoittaa järjestelmien kanssa vuorovaikutuksessa olevien luonnollisten henkilöiden käytössä olevia vaihtoehtoja eikä oikeudellista asemaa.

Perustelu

Kun vuorovaikutus luonnollisten henkilöiden kanssa tapahtuu teknologisten järjestelmien keinoin, vaarana saattaa olla, että järjestelmien kanssa vuorovaikutuksessa olevien luonnollisten henkilöiden valinnanmahdollisuudet supistuvat. Luonnollisille henkilöille on ilmoitettava asianmukaisesti aina, kun he ovat tekemisissä tekoälyjärjestelmien kanssa; tätä ei pitäisi jättää tilannekohtaisen tulkinnan varaan. Lisäksi heidän oikeutensa on taattava aina, kun he ovat vuorovaikutuksessa tekoälyjärjestelmien kanssa.

Muutosehdotus 26

57 artiklan 1 kohta

Komission ehdotus

AK:n muutosehdotus

Tekoälyneuvoston muodostavat kansalliset valvontaviranomaiset, joita edustaa kyseisen viranomaisen johtaja tai vastaava korkean tason virkamies, sekä Euroopan tietosuojavaltuutettu. Kokouksiin voidaan kutsua myös muita kansallisia viranomaisia, jos käsitellyt asiat ovat niiden kannalta merkityksellisiä.

Tekoälyneuvoston muodostavat kansalliset valvontaviranomaiset, joita edustaa kyseisen viranomaisen johtaja tai vastaava korkean tason virkamies, sekä Euroopan tietosuojavaltuutettu. Kokouksiin voidaan kutsua myös muita valtakunnallisia, alueellisia ja paikallisia viranomaisia, jos käsitellyt asiat ovat niiden kannalta merkityksellisiä.

Perustelu

Paikallis- ja alueviranomaisten on voitava osallistua tekoälyjärjestelmien valvontaan ja raportoida niiden täytäntöönpanosta kentällä.

Muutosehdotus 27

58 artikla

Komission ehdotus

AK:n muutosehdotus

Neuvoessaan ja avustaessaan komissiota 56 artiklan 2 kohdan mukaisesti tekoälyneuvoston tulee erityisesti

Neuvoessaan ja avustaessaan komissiota 56 artiklan 2 kohdan mukaisesti tekoälyneuvoston tulee erityisesti

(a)

kerätä ja jakaa asiantuntemusta ja parhaita käytäntöjä jäsenvaltioiden kesken;

(a)

kerätä ja jakaa asiantuntemusta ja parhaita käytäntöjä jäsenvaltioiden sekä alue- ja paikallisviranomaisten kesken;

(b)

edistää yhdenmukaisia hallinnollisia käytäntöjä jäsenvaltioissa, myös 53 artiklassa tarkoitettujen sääntelyn testiympäristöjen toiminnan osalta;

(b)

edistää yhdenmukaisia hallinnollisia käytäntöjä jäsenvaltioissa, myös 53 artiklassa tarkoitettujen sääntelyn testiympäristöjen toiminnan osalta;

(c)

antaa lausuntoja, suosituksia tai kirjallisia kannanottoja tämän asetuksen täytäntöönpanoon liittyvistä kysymyksistä, erityisesti

(c)

antaa lausuntoja, suosituksia tai kirjallisia kannanottoja tämän asetuksen täytäntöönpanoon liittyvistä kysymyksistä, erityisesti

 

i)

III osaston 2 luvussa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai olemassa olevista standardeista,

ii)

40 ja 41 artiklassa tarkoitettujen yhdenmukaistettujen standardien tai yhteisten eritelmien käytöstä,

iii)

ohjeasiakirjojen laatimisesta, mukaan lukien 71 artiklassa tarkoitettujen hallinnollisten sakkojen määräämistä koskevat suuntaviivat.

 

i)

III osaston 2 luvussa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai olemassa olevista standardeista,

ii)

40 ja 41 artiklassa tarkoitettujen yhdenmukaistettujen standardien tai yhteisten eritelmien käytöstä,

iii)

ohjeasiakirjojen laatimisesta, mukaan lukien 71 artiklassa tarkoitettujen hallinnollisten sakkojen määräämistä koskevat suuntaviivat.

Perustelu

Paikallis- ja alueviranomaiset ovat lähimpänä paikallisia asukkaita ja paikallistaloutta. Ne olisi otettava nimenomaisesti huomioon, sillä niillä on tietämystä jaettavanaan.

Muutosehdotus 28

59 artiklan 1 kohta

Komission ehdotus

AK:n muutosehdotus

Kunkin jäsenvaltion on perustettava tai nimettävä kansalliset toimivaltaiset viranomaiset tämän asetuksen soveltamisen ja täytäntöönpanon varmistamiseksi. Kansallisten toimivaltaisten viranomaisten on oltava organisaatioltaan sellaisia, että niiden toimien ja tehtävien objektiivisuus ja puolueettomuus on turvattu.

Kunkin jäsenvaltion on perustettava tai nimettävä kansalliset toimivaltaiset viranomaiset tämän asetuksen soveltamisen ja täytäntöönpanon varmistamiseksi. Kansallisten toimivaltaisten viranomaisten on oltava organisaatioltaan sellaisia, että niiden toimien ja tehtävien objektiivisuus ja puolueettomuus on turvattu. Paikallis- ja alueviranomaiset valtuutetaan hoitamaan valvonta- tai täytäntöönpanotehtäviä silloin kun jäsenvaltiot katsovat sen aiheelliseksi.

Perustelu

Jotta voidaan varmistaa, että asetus on pantavissa täytäntöön ja säädetyt valvonta- ja täytäntöönpanojärjestelyt ovat toteutettavissa, jäsenvaltioiden olisi voitava tarvittaessa ja mahdollisuuksien mukaan antaa paikallis- ja alueviranomaisille täytäntöönpano- ja valvontatehtäviä. Paikallis- ja alueviranomaisten on tässä yhteydessä saatava tukea ja koulutusta, jotta niillä olisi täydet valmiudet hoitaa valvonta- tai täytäntöönpanotehtäviä.

Muutosehdotus 29

69 artiklan 3 kohta

Komission ehdotus

AK:n muutosehdotus

Käytännesääntöjä voivat laatia yksittäiset tekoälyjärjestelmien tarjoajat tai niitä edustavat järjestöt tai molemmat, ja niiden laatimiseen voivat osallistua myös käyttäjät ja mahdolliset sidosryhmät ja niitä edustavat järjestöt. Käytännesäännöt voivat kattaa yhden tai useamman tekoälyjärjestelmän ottaen huomioon asianomaisten järjestelmien käyttötarkoituksen samankaltaisuuden.

Käytännesääntöjä voivat laatia valtakunnalliset, alueelliset tai paikalliset viranomaiset, yksittäiset tekoälyjärjestelmien tarjoajat tai niitä edustavat järjestöt tai molemmat, ja niiden laatimiseen voivat osallistua myös käyttäjät ja mahdolliset sidosryhmät ja niitä edustavat järjestöt. Käytännesäännöt voivat kattaa yhden tai useamman tekoälyjärjestelmän ottaen huomioon asianomaisten järjestelmien käyttötarkoituksen samankaltaisuuden.

Perustelu

Valtakunnallisille, alueellisille ja paikallisille viranomaisille olisi annettava lainsäädäntöön perustuva oikeus laatia kehittämiään tai käyttämiään tekoälyjärjestelmiä koskevia käytännesääntöjä.

Muutosehdotus 30

LIITE I – 3 artiklan 1 alakohdassa tarkoitetut tekoälyyn liittyvät tekniikat ja lähestymistavat

Komission ehdotus

AK:n muutosehdotus

 

Tieteen ja tutkimuksen nykytilanteen valossa tekoäly kattaa seuraavat tekniikat ja menetelmät:

(a)

Koneoppimisen lähestymistavat, mukaan lukien ohjattu, ohjaamaton ja vahvistava oppiminen, jossa käytetään monia erilaisia menetelmiä, kuten syväoppimista;

(a)

Koneoppimisen lähestymistavat, mukaan lukien ohjattu, ohjaamaton ja vahvistava oppiminen, jossa käytetään monia erilaisia menetelmiä, kuten syväoppimista;

(b)

Logiikkaan ja tietämykseen perustuvat lähestymistavat, mukaan lukien tietämyksen esittäminen, induktiivinen (looginen) ohjelmointi, tietämyskannat, päättelykoneet, (symbolinen) päättely ja asiantuntijajärjestelmät;

(b)

Logiikkaan ja tietämykseen perustuvat lähestymistavat, mukaan lukien tietämyksen esittäminen, induktiivinen (looginen) ohjelmointi, tietämyskannat, päättelykoneet, (symbolinen) päättely ja asiantuntijajärjestelmät;

(c)

Tilastolliset lähestymistavat, Bayes-estimointi, haku- ja optimointimenetelmät.

(c)

Tilastolliset lähestymistavat, Bayes-estimointi, haku- ja optimointimenetelmät.

Perustelu

Tekoälytekniikoiden määritelmässä ja luettelossa olisi otettava huomioon tulevaisuuden vaatimukset, eikä tekoälyjärjestelmien kehittämiseen käytettävien erityisten tekniikoiden ja lähestymistapojen luettelon pidä olla tyhjentävä. Lisäksi on oltava selvää, että luettelo perustuu tieteen ja tutkimuksen ajankohtaiseen tilanteeseen.

Muutosehdotus 31

Liitteessä III oleva 1–5 kohta

Komission ehdotus

AK:n muutosehdotus

Tämän asetuksen 6 artiklan 2 kohdan mukaisia suuririskisiä tekoälyjärjestelmiä ovat seuraavilla aloilla luetellut tekoälyjärjestelmät:

Tämän asetuksen 6 artiklan 2 kohdan mukaisia suuririskisiä tekoälyjärjestelmiä ovat seuraavilla aloilla luetellut tekoälyjärjestelmät:

1.

Luonnollisten henkilöiden biometrinen tunnistaminen ja luokittelu:

1.

Luonnollisten henkilöiden biometrinen tunnistaminen ja luokittelu:

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden reaaliaikaiseen ja jälkikäteiseen biometriseen etätunnistukseen.

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden reaaliaikaiseen ja jälkikäteiseen biometriseen etätunnistukseen.

2.

Kriittisen infrastruktuurin hallinta ja toiminta:

2.

Kriittisen infrastruktuurin hallinta ja toiminta:

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tieliikenteen sekä vesi-, kaasu-, lämmitys- ja sähköhuollon hallinnassa ja toiminnassa.

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tieliikenteen sekä vesi-, kaasu-, lämmitys- ja sähköhuollon hallinnassa ja toiminnassa ja televiestintä-, vesihuolto- ja internetinfrastruktuureissa .

3.

Yleissivistävä ja ammatillinen koulutus:

3.

Yleissivistävä ja ammatillinen koulutus:

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi määritettäessä pääsyä yleissivistäviin ja ammatillisiin oppilaitoksiin tai osoitettaessa luonnollisia henkilöitä niihin;

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi määritettäessä pääsyä yleissivistäviin ja ammatillisiin oppilaitoksiin tai osoitettaessa luonnollisia henkilöitä niihin;

(b)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi oppilaiden arviointiin yleissivistävissä ja ammatillisissa oppilaitoksissa tai oppilaitoksiin pääsyyn yleisesti vaadittavien kokeiden osallistujien arviointiin.

(b)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi oppilaiden arviointiin yleissivistävissä ja ammatillisissa oppilaitoksissa tai oppilaitoksiin pääsyyn yleisesti vaadittavien kokeiden osallistujien arviointiin.

4.

Työllistäminen, henkilöstöhallinto ja itsenäisen ammatinharjoittamisen mahdollistaminen:

4.

Työllistäminen, henkilöstöhallinto ja itsenäisen ammatinharjoittamisen mahdollistaminen:

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden rekrytoinnissa tai valinnassa, erityisesti avoimista työpaikoista tiedottamiseen, hakemusten seulontaan tai suodattamiseen sekä hakijoiden arviointiin haastattelujen tai kokeiden aikana;

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden rekrytoinnissa tai valinnassa, erityisesti avoimista työpaikoista tiedottamiseen, hakemusten seulontaan tai suodattamiseen sekä hakijoiden arviointiin haastattelujen tai kokeiden aikana;

(b)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi uralla etenemistä ja työhön liittyvien sopimussuhteiden päättämistä koskevien päätösten tekemiseen, tehtävien jakamiseen tällaisissa suhteissa oleville henkilöille ja heidän suorituksensa ja käyttäytymisensä seurantaan tai arviointiin.

(b)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi uralla etenemistä ja työhön liittyvien sopimussuhteiden päättämistä koskevien päätösten tekemiseen, tehtävien jakamiseen tällaisissa suhteissa oleville henkilöille ja heidän suorituksensa ja käyttäytymisensä seurantaan tai arviointiin.

5.

Olennaisten yksityisten palvelujen ja julkisten palvelujen ja etujen saatavuus ja käyttö:

5.

Olennaisten yksityisten palvelujen ja julkisten palvelujen ja etujen saatavuus ja käyttö:

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi viranomaisten toimesta tai viranomaisten puolesta sen arviointiin , ovatko luonnolliset henkilöt oikeutettuja julkisen avun etuuksiin ja palveluihin, sekä tällaisten etuuksien ja palvelujen myöntämiseen, vähentämiseen, peruuttamiseen tai takaisin perimiseen;

(a)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi viranomaisten toimesta tai viranomaisten puolesta arviointien ja päätösten tekemiseen siitä , ovatko luonnolliset henkilöt oikeutettuja julkisen avun etuuksiin ja palveluihin, sekä tällaisten etuuksien ja palvelujen myöntämiseen, vähentämiseen, peruuttamiseen tai takaisin perimiseen;

(b)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden luottokelpoisuuden arviointiin tai heidän luottopisteytyksensä määrittämiseen, lukuun ottamatta tekoälyjärjestelmiä, jotka pienet tarjoajat ovat ottaneet käyttöön omaan käyttöönsä;

(b)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden luottokelpoisuuden tai heidän luottopisteytyksensä määrittämiseen, lukuun ottamatta tekoälyjärjestelmiä, jotka pienet tarjoajat ovat ottaneet käyttöön omaan käyttöönsä;

(c)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, mukaan lukien palokunta ja lääkintäapu.

(c)

Tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, mukaan lukien palokunta ja lääkintäapu.

Perustelu

Televiestintä-, vesihuolto- ja internetinfrastruktuurit ovat olennainen osa kriittistä infrastruktuuria.

Järjestelmien luokittelemisessa suuririskisiksi on kyse siitä, voivatko ne aiheuttaa kansalaisille todellisen riskin. Siihen, että asukkaiden oikeutta julkisiin palveluihin ja etuuksiin vain arvioidaan analyyttisesti ja teoreettisesti, ei sinänsä vielä liity suurta riskiä. Maininta päätösten tekemisestä arviointien lisäksi korostaa sitä, että suuret riskit, joita järjestelmien käytöstä aiheutuu nimenomaan asukkaille, ilmenevät käytännössä juuri päätöksenteon yhteydessä.

II   POLIITTISET SUOSITUKSET

EUROOPAN ALUEIDEN KOMITEA

Huippuosaamisen ekosysteemi

1.

 korostaa, että komission tavoite tehdä EU:sta tekoälyn vastuullisen ja ihmiskeskeisen kehityksen suunnannäyttäjä maailmassa voidaan saavuttaa vain, jos paikallis- ja alueviranomaisilla on vahva asema tässä prosessissa. Paikallis- ja alueviranomaisilla on parhaat edellytykset edistää suotuisan ympäristön luomista tekoälyyn tehtävien investointien kasvattamiselle tulevina vuosina ja lisätä luottamusta tekoälyyn.

2.

 tähdentää, että paikallis- ja alueviranomaisten osallistamisen lisäksi on tärkeää tarjota niille tukea ja koulutusta, jotta voidaan parantaa niiden valmiuksia tällä alalla, etenkin kun niille saatetaan antaa valvonta- ja täytäntöönpanotehtäviä.

3.

 toteaa, että tekoälyn kehittämiseen on tulossa EU-rahoitusta, mutta huomauttaa, että lähestymistapa on ohjelmien moninaisuuden vuoksi hajanainen, mikä lisää pilkkoutumisen ja päällekkäisyyksien riskiä.

4.

 kehottaakin komissiota kehittämään ja nivomaan yhteen vankkoja ja monimuotoisia yhteisiä data-avaruuksia, joissa voidaan julkista ja yksityistä dataa hyödyntämällä löytää ratkaisuja yhteiskunnallisia käyttötapauksia varten. Tämä edellyttää myös toimien sovittamista yhteen Euroopan datastrategian mukaisten lainsäädäntöaloitteiden kanssa.

Luottamuksen ekosysteemi

5.

 pitää valitettavana, ettei asetusehdotuksessa viitata paikallis- ja alueviranomaisiin, vaikka oikeudellista kehystä on määrä soveltaa sekä julkisiin että yksityisiin toimijoihin.

6.

 toteaa tähän liittyen, että tekoälyjärjestelmillä voi olla tärkeä rooli paikallis- ja alueviranomaisten vuorovaikutuksessa kansalaisten kanssa ja palvelujen tarjoamisessa. Lisäksi tekoälyjärjestelmillä on mahdollista muun muassa lisätä julkisen sektorin tehokkuutta ja ne voivat auttaa paikallis- ja alueviranomaisia reagoimaan muutoksiin, joita paikallis- ja aluetasolla on tehtävä vihreän siirtymän ja digitalisaation yhteydessä. Siksi on tärkeää, että paikallis- ja alueviranomaisten keräämää kokemusta hyödynnetään aktiivisesti, kun asetusta kulloinkin tarkistetaan.

7.

 kehottaa selventämään ”tarjoajan” ja ”käyttäjän” määritelmiä erityisesti sellaisten tilanteiden varalta, joissa yritykset, tutkimuslaitokset, viranomaiset ja asukkaat yhdessä kehittävät ja testaavat tekoälyjärjestelmiä elävissä laboratorioissa. Komitea katsoo, että olisi otettava asianmukaisesti huomioon myös kansalaiset ja kuluttajat, joihin ammattimaisten käyttäjien käyttämien järjestelmien tekoälypohjaiset päätökset vaikuttavat.

8.

 korostaa, että asianomaisia paikallis- ja alueviranomaisia on kuultava etukäteen, jos tekoälyjärjestelmiä käytetään luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksissa.

9.

 suhtautuu myönteisesti Euroopan komission käynnistämään julkiseen kuulemiseen siviilioikeudellista vastuuta koskevien sääntöjen mukauttamisesta digitaaliajan ja tekoälyn erityishaasteisiin (1) ja odottaa, että kuulemistulosten pohjalta laaditaan ajantasaistettu kehys, jolla pyritään varmistamaan, että kuluttajat voivat saada korvauksia tekoälysovellusten aiheuttamista vahingoista.

10.

 ihmettelee, miksi suuririskisten tekoälyjärjestelmien luettelossa ei mainita demokraattisissa prosesseissa, esimerkiksi vaaleissa, käytettäviä tekoälyjärjestelmiä.

11.

 katsoo, että suuririskisiin tekoälyjärjestelmiin on sovellettava luonnollisten henkilöiden osalta samoja läpinäkyvyys- ja tietovaatimuksia, joita tällä hetkellä sovelletaan käyttäjien osalta.

12.

 kiinnittää huomiota siihen, että sosiaaliseen luokitteluun liittyy merkittäviä ihmisoikeusriskejä ja -vaikutuksia.

13.

 suhtautuu tässä yhteydessä erittäin epäilevästi ehdotetussa asetuksessa (2) esitettyihin kahteen perusteeseen, joiden pohjalta on tarkoitus määrittää, milloin sosiaalinen luokittelu johtaa yksittäisten henkilöiden tai henkilöryhmien haitalliseen tai epäedulliseen kohteluun, sillä tällaisten tilanteiden olemassaoloa on erittäin vaikea todeta. Komitea kehottaakin muotoilemaan selkeästi vahvat suojatoimet, jotta voidaan varmistaa, että sosiaalisen luokittelun käytäntöjä koskevaa kieltoa ei kierretä.

14.

 panee merkille, että asetuksen johdanto-osan kappaleissa paneudutaan riskeihin, joille ihmiset altistuvat ollessaan vuorovaikutuksessa suuririskisten tekoälyjärjestelmien kanssa silloin, kun on kyse muun muassa koulutuksesta, työllistymisestä, henkilöstöhallinnosta, itsenäisen ammatinharjoittamisen mahdollistamisesta tai tiettyjen olennaisten yksityisten ja julkisten palvelujen saatavuudesta ja nauttimisesta.

15.

 kehottaa komissiota pohtimaan tarkemmin viranomaisten käyttöön tarkoitettujen tekoälyjärjestelmien (3) luokittelua suuririskisiksi.

16.

 peräänkuuluttaa viranomaistahoa, joka voi antaa etukäteen painavia lausuntoja asetuksen säännösten tulkinnasta, myös yleiseen tietosuoja-asetukseen liittyen. Tämä parantaisi oikeusvarmuutta ja vähentäisi tekoälyjärjestelmien suunnittelusta ja täytäntöönpanosta aiheutuvia kustannuksia.

17.

 korostaa tässä yhteydessä, että on tärkeää selkeyttää asetuksen muotoilua, jolla on ratkaiseva merkitys luottamuksen ekosysteemin rakentamisen sekä tekoälyjärjestelmien kehittämiseen ja käyttöön liittyvän oikeudellisen epävarmuuden poistamisen kannalta. Näin vältettäisiin ehdotettujen vaatimusten virheelliset tulkinnat ja minimoitaisiin tekoälysovellusten huonoon hallinnointiin liittyvät riskit ja siten maksimoitaisiin asetuksen tehokkuus ja seuraamusten uskottavuus. Lisäksi on Euroopan komission paremman sääntelyn agendan mukaisesti keskeisen tärkeää havaita ja poistaa uuden asetuksen ja nykyisten sääntöjen mahdolliset päällekkäisyydet ja/tai ristiriidat varhaisessa vaiheessa.

18.

 toteaa, että monet paikallis- ja alueviranomaiset käyttävät samoja tekoälyjärjestelmiä samankaltaisiin tehtäviin. Nämä järjestelmät ovat valtaosin yksityisten yritysten suunnittelemia.

19.

 toteaa, että ehdotettu asetus ei ole ainoa keino kansalaisten oikeuksien takaamiseksi ja että sitä on tarkasteltava voimassa olevan lainsäädännön puitteissa. Sen vuoksi jäsenvaltioita kannustetaan varmistamaan, että ne toteuttavat jatkuvasti tarvittavat hallinnolliset toimenpiteet, joilla puututaan tekoälyn käyttöön julkisella sektorilla liittyviin mahdollisuuksiin ja riskeihin.

20.

 huomauttaa tämän tarkoittavan sitä, että eurooppalaisia ja kansallisia sääntöjä tulkitsevat vaatimustenmukaisuuden arvioinnin yhteydessä yritykset ja ilmoitetut laitokset ja että tällä on siis vaikutusta kyseisiä tekoälyjärjestelmiä käyttävien paikallis- ja alueviranomaisten käytäntöihin. Näin ollen on vaikea todentaa, missä määrin paikalliset ja alueelliset toimintalinjat voidaan ottaa näissä tekoälyjärjestelmissä huomioon. Komitea kiinnittääkin huomiota paikallis- ja alueviranomaisten erityistarpeisiin ja siihen, että yleispäteväksi suunniteltu lähestymistapa saattaa heikentää tekoälyjärjestelmien tehokkuutta näihin tarpeisiin vastaamisessa. Lisäksi komitea ehdottaa, että jäsenvaltioille annetaan oikeus säännellä suuririskisiä tekoälyjärjestelmiä yleistä etua koskevista pakottavista ja perustelluista syistä.

21.

 vaatii tässä yhteydessä, että vaatimustenmukaisuuden arviointien on oltava avoimia ja yleisesti saatavilla. Paikallis- ja alueviranomaisten on myös voitava osallistua tekoälyjärjestelmien valvontaan, raportoida niiden täytäntöönpanosta kentällä ja osallistua virallisesti Euroopan komission arviointiin asetuksen soveltamisesta.

22.

 korostaa, että sääntelyn testiympäristön käyttöönotto edellyttää asianmukaisten oikeudellisten, menetelmällisten ja eettisten edellytysten luomista, jotta teknologiaa, lainsäädäntöä ja lainsäädännön arviointia voidaan kehittää. Lisäksi yrittäjien pääsylle mukaan sääntelyn testiympäristöön on määriteltävä selkeät kriteerit. Sen varmistamiseksi, että kuluttajajärjestöt voivat huolehtia siitä, että tekoälysäädöksen säännöksiä noudatetaan, säädös on lisättävä kuluttajien yhteisten etujen suojaamiseksi nostettavista edustajakanteista annetun EU-direktiivin [(EU) 2020/1828] liitteeseen I.

Tiedotuskampanjat

23.

 tähdentää julkisten kampanjoiden olevan tärkeitä, jotta suuri yleisö saa tietoa tekoälyjärjestelmien olemassaolosta ja hyödyllisyydestä sekä niiden mahdollisista riskeistä ja pääsee perehtymään näihin asioihin, ja korostaa lisäksi, että kuluttajille on kiireellisesti annettava kattavaa tietoa tekoäly- ja koneavusteisesta päätöksenteosta. Komitea kehottaakin Euroopan komissiota myöntämään rahoitusta tällaisille kampanjoille.

Hallinnolliset rasitteet

24.

 on huolissaan hallinnollisista rasitteista, joita ehdotettu asetus saattaa aiheuttaa. Ne voivat estää pk-yrityksiä sekä paikallis- ja alueviranomaisia edistämästä innovointia ja ottamasta tekoälyjärjestelmiä käyttöön (4).

Suhteellisuus- ja toissijaisuusperiaatteet

25.

 katsoo, että ehdotettu asetus on suhteellisuus- ja toissijaisuusperiaatteiden mukainen. EU:n toimien lisäarvo tällä alalla on selvä, ja komission valitsemat oikeusperustat ovat ilmeisen asianmukaisia ja johdonmukaisia. Vaikutustenarviointiin sisältyi erillinen toissijaisuusperiaatetta käsittelevä osio. Yksikään kansallinen parlamentti ei myöskään antanut perusteltua lausuntoa toissijaisuusperiaatteen noudattamatta jättämisestä määräaikaan eli 2. syyskuuta 2021 mennessä.

Bryssel 2. joulukuuta 2021.

Euroopan alueiden komitean puheenjohtaja

Apostolos TZITZIKOSTAS

(62)  Neuvoston puitepäätös 2002/584/YOS, tehty 13 päivänä kesäkuuta 2002, eurooppalaisesta pidätysmääräyksestä ja jäsenvaltioiden välisistä luovuttamismenettelyistä (EYVL L 190, 18.7.2002, s. 1).

(62)  Neuvoston puitepäätös 2002/584/YOS, tehty 13 päivänä kesäkuuta 2002, eurooppalaisesta pidätysmääräyksestä ja jäsenvaltioiden välisistä luovuttamismenettelyistä (EYVL L 190, 18.7.2002, s. 1).

(1)  https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_fi

(2)  5 artiklan 1 kohdan c alakohta.

(3)  Liitteessä III olevan 5 kohdan a alakohta.

(4)  Euroopan komission tukemassa tuoreessa tutkimuksessa (Study to Support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe, s. 12) arvioidaan perusteltujen oletusten pohjalta, että tekoälyjärjestelmän sertifiointi saattaa maksaa keskimäärin 16 800–23 000 euroa, mikä vastaa noin 10–14:ää prosenttia kehittämiskustannuksista.

Top