Euroopan talous- ja sosiaalikomitean lausunto aiheesta: ”Ehdotus Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta”

(COM(2021) 206 final – 2021/106 (COD))

(2021/C 517/09)

Esittelijä:

Catelijne MULLER

Lausuntopyyntö	Euroopan parlamentti, 7.6.2021 neuvosto, 15.6.2021
Oikeusperusta	Euroopan unionin toiminnasta tehdyn sopimuksen 114 artikla
Vastaava jaosto	”sisämarkkinat, tuotanto ja kulutus”
Hyväksyminen jaostossa	2.9.2021
Hyväksyminen täysistunnossa	22.9.2021
Täysistunnon nro	563
Äänestystulos (puolesta / vastaan / pidättyi äänestämästä)	225/03/06

1. Päätelmät ja suositukset

1.1

Euroopan talous- ja sosiaalikomitea (ETSK) on tyytyväinen siihen, että komission ehdotuksessa tekoälysäädökseksi ei ainoastaan puututa tekoälyn riskeihin vaan myös nostetaan huomattavasti laatu-, suorituskyky- ja luotettavuustasoa, jota EU aikoo vaatia tekoälyjärjestelmiltä. Komitea suhtautuu erityisen myönteisesti siihen, että terveys, turvallisuus ja perusoikeudet ovat tekoälysäädöksessä keskeisellä sijalla ja että säädös on soveltamisalaltaan yleismaailmallinen.

1.2

ETSK näkee parantamisen varaa siinä, mitkä kaikki tekoälyyn liittyvät käytännöt kielletään ja millä tavoin ja miten selkeästi ne määritellään, miten ”riskipyramidin” yhteydessä tehdyt luokitteluvalinnat vaikuttavat, missä määrin suuririskiselle tekoälylle asetettavat vaatimukset vähentävät riskejä, kuinka täytäntöönpanokelpoinen tekoälysäädös on ja miten se suhteutuu voimassa oleviin säädöksiin ja muihin viimeaikaisiin sääntelyehdotuksiin.

1.3

ETSK korostaa, ettei tekoäly ole koskaan toiminut sääntelemättömässä maailmassa. Koska tekoälysäädöksen soveltamisala on laaja ja säädöksellä on EU:n asetuksena ensisijainen asema, sen ja voimassa olevien kansallisten ja EU:n säädösten ja niihin liittyvien sääntelyehdotusten välille saattaa syntyä jännitteitä. Komitea suosittaa johdanto-osan 41 kappaleen muuttamista siten, että siinä otetaan asianmukaisesti huomioon tekoälyasetuksen sekä voimassa olevan ja tulevan lainsäädännön väliset suhteet ja selkiytetään niitä.

1.4

ETSK suosittaa, että tekoälyn määritelmää selkeytetään poistamalla liite I ja muuttamalla 3 artiklaa hieman ja että tekoälysäädöksen soveltamisalaa laajennetaan siten, että säädös pätee myös aiemmin käyttöön otettuihin tekoälyjärjestelmiin sekä liitteessä IX lueteltujen vapauden, turvallisuuden ja oikeuden alueen laaja-alaisten tietojärjestelmien tekoälykomponentteihin.

1.5

ETSK suosittaa, että subliminaalisia tekniikoita ja haavoittuvuuksien hyödyntämistä koskevia kieltoja selvennetään niin, että ne vastaavat haitallisen manipuloinnin kieltoa, ja että kyseisten kieltojen ehtoihin lisätään perusoikeuksiin, demokratiaan ja oikeusvaltioperiaatteeseen kohdistuva haitta.

1.6

ETSK katsoo, että EU:n kansalaisten luotettavuuden pisteyttäminen heidän sosiaalisen käyttäytymisensä tai henkilökohtaisten luonteenpiirteidensä perusteella ei saa olla mahdollista minkään tahon toimesta. Komitea suosittaa kiellon soveltamisalan laajentamista siten, että se kattaa myös yksityisten organisaatioiden ja puolijulkisen sektorin toimijoiden suorittaman sosiaalisen pisteytyksen.

1.7

ETSK kehottaa kieltämään tekoälyn käytön automaattiseen biometriseen tunnistamiseen julkisissa ja yksityisissä tiloissa, lukuun ottamatta todentamistarkoituksessa tapahtuvaa käyttöä erityisolosuhteissa. Niin ikään olisi kiellettävä tekoälyn käyttö ihmisten käyttäytymiseen liittyvien signaalien automaattiseen tunnistamiseen julkisissa ja yksityisissä tiloissa paitsi aivan erityisissä tilanteissa, kuten terveyteen liittyvissä tarkoituksissa, kun potilaan tunteiden tunnistaminen voi olla hyödyllistä.

1.8

Toimintamalliksi valittuun suuririskisten tekoälyjärjestelmien listaamiseen liittyy se riski, että normalisoidaan ja valtavirtaistetaan useita sellaisia tekoälyjärjestelmiä ja tekoälyn käyttötarkoituksia, joihin kohdistuu edelleen voimakasta arvostelua. ETSK varoittaa, että keskisuuren ja suuren riskin tekoälyjärjestelmille asetettujen vaatimusten noudattaminen ei välttämättä vähennä terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä kaikkien suuririskisten tekoälyjärjestelmien osalta. Komitea kehottaa ottamaan tämän huomioon tekoälysäädöksessä. Siihen olisi lisättävä luotettavaa tekoälyä koskevien eettisten ohjeiden mukaisesti ainakin vaatimukset i) ihmisen toimijuudesta, ii) yksityisyyden suojasta, iii) monimuotoisuudesta, syrjimättömyydestä ja oikeudenmukaisuudesta, iv) selitettävyydestä sekä v) ekologisesta ja yhteiskunnallisesta hyvinvoinnista.

1.9

ETSK on ajanut jo kauan ”ihminen määrää” -periaatteen soveltamista tekoälyyn ja kehottaakin painokkaasti vahvistamaan tekoälysäädöksessä, että tiettyjen päätösten on pysyttävä kokonaan ihmisten käsissä. Tämä koskee erityisesti sellaisia yhteyksiä, joissa päätöksillä on moraalinen ulottuvuus tai oikeudellisia tai yhteiskunnallisia vaikutuksia, kuten oikeuslaitosta, lainvalvontaa, sosiaalipalveluja, terveydenhuoltoa, asumista, rahoituspalveluja, työmarkkinasuhteita ja koulutusta.

1.10

ETSK suosittaa, että kaikkien suuririskisten tekoälyjärjestelmien osalta edellytetään kolmannen osapuolen suorittamaa vaatimustenmukaisuuden arviointia.

1.11

ETSK kehottaa lisäämään tekoälysäädökseen valitus- ja oikeussuojamekanismin sellaisia organisaatioita ja kansalaisia varten, joille on koitunut haittaa jostakin säädöksen soveltamisalaan kuuluvasta tekoälyjärjestelmästä, tekoälyyn liittyvästä käytännöstä tai tekoälyn käyttötavasta.

2. Tekoälyn sääntelyä (tekoälysäädöstä) koskeva ehdotus

2.1

ETSK on tyytyväinen siihen, että komission ehdotuksessa tekoälysäädökseksi ei ainoastaan puututa tekoälyn riskeihin vaan myös nostetaan huomattavasti laatu-, suorituskyky- ja luotettavuustasoa, jota EU aikoo vaatia tekoälyjärjestelmiltä.

3. Tekoälysäädöstä koskevat yleiset huomiot

Tavoite ja soveltamisala

3.1

ETSK pitää sekä tekoälysäädöksen tavoitetta että sen soveltamisalaa kannatettavina. Komitea suhtautuu erityisen myönteisesti siihen, että komissio on asettanut tekoälysäädöksessä terveyden, turvallisuuden ja perusoikeudet keskeiselle sijalle. ETSK pitää niin ikään myönteisenä, että tekoälysäädös pätee myös EU:n ulkopuolella, sillä näin varmistetaan, että EU:n ulkopuolella kehitettävien tekoälyjärjestelmien on täytettävä samat oikeudelliset normit, jos niitä käytetään tai niillä on vaikutusta EU:ssa.

Tekoälyn määritelmä

3.2

Tekoälyn määritelmä (tekoälysäädöksen 3 artiklan 1 alakohta ja liite I) on herättänyt tekoälytutkijoiden keskuudessa keskustelua, sillä osaa liitteessä I mainituista esimerkeistä ei pidetä tutkijapiireissä tekoälynä ja luettelosta puuttuu useita tärkeitä tekoälyyn liittyviä tekniikoita. Liitteellä I ei ETSK:n mielestä ole lisäarvoa, ja komitea suosittaakin sen poistamista kokonaisuudessaan tekoälysäädöksestä. Komitea suosittaa myös 3 artiklan 1 alakohdassa olevan määritelmän muuttamista kuulumaan seuraavasti:

”’tekoälyjärjestelmällä’ ohjelmistoa, joka voi tuottaa tiettyjen ihmisen määrittelemien tavoitteiden saavuttamiseksi automaattisesti tuloksia, kuten sisältöjä, ennusteita, suosituksia tai päätöksiä, jotka vaikuttavat ympäristöihin, joiden kanssa se on vuorovaikutuksessa”.

Terveys, turvallisuus ja perusoikeudet – riskipyramidi

3.3

Erilaiset tekoälyyn liittyvät yleiset käytännöt ja tekoälyn käyttö eri aloilla luokitellaan sellaisen ”riskipyramidin” avulla, jossa noustaan vähäisestä tai keskisuuresta riskistä suuren riskin kautta sellaiseen riskiin, joka ei ole hyväksyttävissä. Tällä tavoin otetaan huomioon, että kaikki tekoäly ei aiheuta riskejä ja että kaikki riskit eivät ole samansuuruisia tai edellytä samanlaisia lieventämistoimenpiteitä.

3.4

Valittu lähestymistapa herättää kaksi tärkeää kysymystä. Ensinnäkin: pystytäänkö (suuren ja vähäisen tai keskisuuren riskin tekoälyjärjestelmiä koskevilla) lieventämistoimenpiteillä todella vähentämään riittävästi terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvien haittojen riskiä? Toiseksi: olemmeko valmiita sallimaan sen, että tekoäly korvaa suurelta osin ihmisen päätöksenteossa, myös esimerkiksi lainvalvontaan ja oikeuslaitokseen liittyvissä kriittisissä päätöksentekoprosesseissa?

3.5

Ensimmäisen kysymyksen osalta ETSK varoittaa, että keskisuuren ja suuren riskin tekoälyjärjestelmille asetettujen vaatimusten noudattaminen ei välttämättä vähennä terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä kaikissa yhteyksissä. Tätä käsitellään tarkemmin tekstijaksossa 4.

3.6

Mitä toiseen kysymykseen tulee, tekoälysäädöksestä puuttuu se ajatus, että tekoälyllä on lupaavaa potentiaalia pikemminkin ihmisten päätöksenteon parantajana ja inhimillisen älykkyyden jalostajana kuin sen korvaajana. Tekoälysäädöksessä lähdetään siitä, että tekoäly voi pitkälti korvata ihmisen päätöksenteossa, kunhan keskisuuren ja suuren riskin tekoälyjärjestelmille asetetut vaatimukset täytetään.

3.7

ETSK kehottaa painokkaasti vahvistamaan tekoälysäädöksessä, että tiettyjen päätösten on pysyttävä kokonaan ihmisten käsissä. Tämä koskee erityisesti sellaisia yhteyksiä, joissa päätöksillä on moraalinen ulottuvuus tai oikeudellisia tai yhteiskunnallisia vaikutuksia, kuten oikeuslaitosta, lainvalvontaa, sosiaalipalveluja, terveydenhuoltoa, asumista, rahoituspalveluja, työmarkkinasuhteita ja koulutusta.

3.8

Tekoälyjärjestelmät eivät toimi sääntelemättömässä maailmassa. Niihin pätevät tai vaikuttavat jo nykyäänkin monet oikeudellisesti sitovat EU:n, kansalliset ja kansainväliset säännöt. Asiaan kuuluvia oikeuslähteitä ovat muun muassa EU:n primaarioikeus (Euroopan unionin perussopimukset ja sen perusoikeuskirja), EU:n johdettu oikeus (kuten yleinen tietosuoja-asetus, tuotevastuudirektiivi, muiden kuin henkilötietojen vapaasta liikkuvuudesta annettu asetus, syrjinnän vastaiset direktiivit, kuluttajalainsäädäntö sekä työturvallisuuta ja työterveyttä koskevat direktiivit), YK:n ihmisoikeussopimukset ja Euroopan neuvoston yleissopimukset (kuten Euroopan ihmisoikeussopimus) sekä lukuisat EU:n jäsenvaltioiden lait. Monialaisten sääntöjen lisäksi on olemassa useita, tiettyihin tekoälysovelluksiin päteviä alakohtaisia sääntöjä (esimerkiksi lääkinnällisiä laitteita koskeva asetus terveydenhuoltoalalla). ETSK suosittaa johdanto-osan 41 kappaleen muuttamista siten, että tämä otetaan siinä asianmukaisesti huomioon.

4. Tekoälysäädöstä koskevat erityishuomiot ja suositukset

Kielletyt tekoälyyn liittyvät käytännöt

4.1

ETSK on samaa mieltä siitä, että 5 artiklassa tarkoitetuista tekoälyyn liittyvistä käytännöistä ei todellakaan ole yhteiskunnalle hyötyä ja että ne pitäisi kieltää. Komitea pitää kuitenkin osaa muotoiluista epäselvinä, mikä voi tehdä joistakin kielloista vaikeasti tulkittavia ja helppoja kiertää.

4.2

On näyttöä siitä, että subliminaaliset tekniikat voivat paitsi aiheuttaa fyysistä tai psyykkistä haittaa (mikä on asetuksessa ehdotetun kiellon soveltamisen ehtona) myös johtaa tietyissä käyttöympäristöissä muihin henkilön itsensä, yhteiskunnan tai demokratian kannalta haitallisiin vaikutuksiin, kuten äänestyskäyttäytymisen muuttumiseen. Tekoälypohjaista ei sitä paitsi useinkaan ole subliminaalinen tekniikka sinänsä vaan siitä päättäminen, keihin subliminaalisella tekniikalla pyritään vaikuttamaan.

4.3

Jotta tekoälysäädöksen 5 artiklan 1 kohdan a alakohdasta ilmenisi selvästi, että sillä on tarkoitus kieltää haitalliseen käyttäytymiseen tähtäävä ihmisten manipulointi, ETSK suosittaa kohdan muuttamista kuulumaan seuraavasti: ”sellaisen tekoälyjärjestelmän – –, jonka käytön päämääränä, tarkoituksena tai tavoitteena on saada vääristettyä olennaisesti henkilön käyttäytymistä tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa haittaa kyseisen henkilön, toisen henkilön tai jonkin henkilöryhmän perusoikeuksille, fyysinen ja psyykkinen terveys ja turvallisuus mukaan luettuina, tai demokratialle ja oikeusvaltiolle”.

4.4

ETSK kehottaa muuttamaan 5 artiklan 1 kohdan b alakohtaa, jossa kielletään haavoittuvuuksien hyödyntämiseen liittyvä käytäntö, vastaavasti ja lisäämään tekstiin maininnan perusoikeuksiin kohdistuvista haitoista, fyysinen ja psyykkinen haitta mukaan lukien.

4.5

ETSK pitää myönteisenä, että 5 artiklan 1 kohdan c alakohdassa kielletään nk. sosiaalinen pisteytys. ETSK suosittaa, että sosiaalisen pisteytyksen kielto ulotetaan koskemaan viranomaisten lisäksi myös yksityisiä organisaatioita ja puolijulkisen sektorin toimijoita. EU:n kansalaisten luotettavuuden pisteyttäminen heidän sosiaalisen käyttäytymisensä tai henkilökohtaisten luonteenpiirteidensä perusteella ei saa olla mahdollista minkään tahon toimesta. Jos se sallittaisiin, EU raottaisi ovea sosiaalisen pisteytyksen sallimiselle monenlaisissa yhteyksissä, esimerkiksi työpaikalla. Kohdan i ja ii alakohdan mukaisia tilanteita olisi selkiytettävä, jotta voidaan tehdä selvä ero sen välillä, mitä pidetään ”sosiaalisena pisteytyksenä” ja mitä voidaan pitää tiettyä tarkoitusta varten hyväksyttävänä arviointitapana. On siis oltava selvää, mistä lähtien arvioinnissa käytettävien tietojen ei enää pitäisi katsoa olevan arviointitavoitteen kannalta olennaisia tai liittyvän siihen perustellusti.

4.6

Tekoälysäädöksellä aiotaan kieltää lainvalvontatarkoituksessa tapahtuva reaaliaikainen biometrinen etätunnistaminen (esimerkiksi kasvojentunnistuksen avulla) ja luokitella tällainen tunnistaminen muissa tarkoituksissa käytettynä suuririskiseksi. Jälkikäteen tapahtuva biometrinen tunnistus ja ”lähibiometriikka” on siis sallittua samoin kuin sellainen biometriikka, jonka tarkoituksena ei ole henkilön tunnistaminen vaan jonka avulla pyritään arvioimaan henkilön käyttäytymistä hänen biometristen tietojensa (mikroilmeet, kävelytyyli, lämpötila, syke tms.) perusteella. Kiellon rajoittaminen koskemaan vain lainvalvontaa tarkoittaa sitä, että kaikki muut toimijat voivat käyttää biometrista tunnistusta ja mitä tahansa muuta, muuhun kuin henkilöntunnistukseen tarkoitettua biometriikkaa, mm. kaikkia mainittuja tunteentunnistustapoja, kaikissa muissa tarkoituksissa missä tahansa julkisessa tai yksityisessä tilassa, myös esimerkiksi työpaikoilla, kaupoissa, stadioneilla ja teattereissa. Tämä mahdollistaa maailman, jossa tunteitamme arvioidaan jatkuvasti milloin missäkin arvioijatahon tarpeelliseksi katsomassa tarkoituksessa.

4.7

Tekoälysäädöksessä tunteentunnistus luokitellaan yleisesti vähäisen riskin toiminnaksi lukuun ottamatta muutamia käyttöyhteyksiä, joissa se luokitellaan suuririskiseksi. Tämäntyyppistä biometrista tunnistusta kutsutaan myös tunnereaktioiden tunnistamiseksi (affect recognition) ja toisinaan käyttäytymisen tunnistamiseksi (behaviour recognition). Kaikki tällaiset tekoälyyn pohjautuvat käytännöt ovat hyvin invasiivisia ja vailla vankkaa tieteellistä perustaa, ja niistä aiheutuu huomattavia haittariskejä useiden EU:n perusoikeuskirjassa vahvistettujen perusoikeuksien osalta, esimerkkeinä oikeus ihmisarvoon, oikeus henkilökohtaiseen koskemattomuuteen (johon kuuluu myös henkinen koskemattomuus) ja oikeus yksityiselämän kunnioittamiseen.

4.8

ETSK yhtyy pitkälti Euroopan tietosuojavaltuutetun ja Euroopan tietosuojaneuvoston 21. kesäkuuta 2021 esittämään kehotukseen kieltää tekoälyn käyttö ihmisten ominaisuuksien automaattiseen tunnistamiseen julkisissa tiloissa samoin kuin eräät muut tekoälyn käyttötarkoitukset, jotka voivat johtaa epäoikeudenmukaiseen syrjintään. Komitea siis kehottaa

—

kieltämään tekoälyn käytön automaattiseen biometriseen tunnistamiseen (esimerkiksi kasvojen, kävelytyylin, äänen ja muiden biometristen piirteiden tunnistukseen) julkisissa ja yksityisissä tiloissa, lukuun ottamatta todentamistarkoituksessa tapahtuvaa käyttöä erityisolosuhteissa (esimerkiksi kun se on tarpeen pääsyn sallimiseksi turvallisuusnäkökulmasta arkaluonteisiin tiloihin)

—	kieltämään tekoälyn käytön ihmisten käyttäytymiseen liittyvien signaalien automaattiseen tunnistamiseen julkisissa ja yksityisissä tiloissa

—	kieltämään tekoälyjärjestelmät, joissa henkilöitä luokitellaan biometrisin keinoin eri ryhmiin etnisen alkuperän, sukupuolen, poliittisen tai seksuaalisen suuntautumisen tai muiden sellaisten syiden perusteella, joihin pohjautuva syrjintä on EU:n perusoikeuskirjan 21 artiklan nojalla kiellettyä

—	kieltämään tekoälyn käytön päätelmien tekemiseen luonnollisten henkilöiden tunteista, käyttäytymisestä, aikeista tai ominaispiirteistä lukuun ottamatta aivan erityisiä tilanteita, joissa käyttötarkoitus liittyy esimerkiksi terveyteen ja potilaan tunteiden tunnistaminen on tärkeää.

Suuririskinen tekoäly

4.9

Päätöksessä siitä, tulisiko terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvan riskin aiheuttava tekoälyyn liittyvä käytäntö tai tekoälyn käyttö kuitenkin sallia tietyin tiukoin edellytyksin, komissio on tarkastellut seuraavia kahta seikkaa: i) voiko kyseinen tekoälyyn liittyvä käytäntö tai tekoälyn käyttö olla yhteiskunnan kannalta hyödyllistä ja ii) voidaanko terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvan haitan riskejä, joita tällainen käyttö joka tapauksessa aiheuttaa, vähentää täyttämällä tietyt vaatimukset.

4.10

ETSK pitää ilahduttavana, että kyseiset vaatimukset on sovitettu yhteen luotettavaa tekoälyä koskevissa eettisissä ohjeissa mainittujen tekijöiden kanssa. Suuririskiselle tekoälylle tekoälysäädöksessä asetetuissa vaatimuksissa ei ole kuitenkaan otettu selkeästi huomioon viittä tärkeää eettisten ohjeiden mukaista vaatimusta. Ne koskevat i) ihmisen toimijuutta, ii) yksityisyyden suojaa, iii) monimuotoisuutta, syrjimättömyyttä ja oikeudenmukaisuutta, iv) selitettävyyttä sekä v) ekologista ja yhteiskunnallista hyvinvointia. ETSK pitää tätä hukattuna tilaisuutena, sillä monet tekoälyn riskeistä liittyvät yksityisyyden suojaan, vääristymiin, poissulkemiseen, mahdottomuuteen selittää tekoälypohjaisia päätöksiä, ihmisen toimijuuden kyseenalaistumiseen ja ympäristön tilan heikkenemiseen ja tämä kaikki heijastuu perusoikeuksien toteutumiseen.

4.11

ETSK suosittaa mainittujen vaatimusten lisäämistä tekoälysäädöksen III osaston 2 luvussa esitettyihin vaatimuksiin, jotta säädöksellä voidaan suojella tehokkaammin ihmisten terveyttä, turvallisuutta ja perusoikeuksia tekoälyn haitallisilta vaikutuksilta, käyttivätpä sitä sitten viranomaiset tai yksityiset organisaatiot.

4.12

ETSK on tyytyväinen tekoälysäädöksen ja unionin yhdenmukaistamislainsäädännön yhteennivomiseen. Komitea suosittaa tekoälysäädöksen soveltamisalan ja suuririskistä tekoälyä koskevien vaatimusten laajentamista siten, että ne eivät rajoitu ainoastaan turvakomponentteina toimiviin tekoälyjärjestelmiin ja sellaisiin tekoälyjärjestelmiin, jotka ovat itsessään liitteeseen II kirjatun unionin yhdenmukaistamislainsäädännön soveltamisalaan kuuluvia tuotteita. Tekoäly voi nimittäin aiheuttaa riskejä muulloinkin kuin silloin, kun sitä käytetään kyseisten tuotteiden turvakomponentteina, eivätkä tekoälyjärjestelmät aina ole itsessään tuotteita. Näin on esimerkiksi silloin, kun tällaista järjestelmää käytetään lääketieteessä diagnoosin tai prognoosin määritysvälineen osana tai kun on kyse tekoälyä hyödyntävästä kattilan säätötermostaatista.

4.13

ETSK varoittaa kuitenkin, että toimintamalliksi valittu suuririskisten tekoälyjärjestelmien listaaminen liitteessä III voi johtaa varsin lukuisten sellaisten tekoälyjärjestelmien ja tekoälyn käyttötarkoitusten legitimointiin, normalisoimiseen ja valtavirtaistamiseen, joihin kohdistuu edelleen voimakasta arvostelua ja joiden yhteiskunnalliset hyödyt ovat kyseenalaisia tai puuttuvat kokonaan.

4.14

Terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvan haitan riskejä ei välttämättä myöskään voida aina vähentää noudattamalla suuririskiselle tekoälylle asetettuja viittä vaatimusta, etenkään kun on kyse harvemmin mainituista perusoikeuksista, joihin tekoäly saattaa vaikuttaa. Näitä ovat esimerkiksi oikeus ihmisarvoon, syyttömyysolettama, oikeus oikeudenmukaisiin ja kohtuullisiin työoloihin ja työehtoihin, yhdistymis- ja kokoontumisvapaus sekä lakko-oikeus.

4.15

ETSK suosittaa painokkaasti televiestintä- ja internetinfrastruktuurin hallinnan ja toiminnan lisäämistä liitteessä III olevaan 2 kohtaan. Komitea suosittaa myös, että tämän kohdan soveltamisala ulotetaan tekoälypohjaisia turvakomponentteja laajemmalle.

4.16

Tekoälyjärjestelmien käyttö opiskelijavalintojen tekemiseen ja opiskelijoiden arviointiin saattaa aiheuttaa monenlaista haittaa opiskelijoiden terveydelle, turvallisuudelle ja perusoikeuksille. Esimerkiksi verkossa toimivat valvontavälineet, joiden avulla oletetaan voitavan paljastaa kokelaiden ”epäilyttävä käyttäytyminen” ja ”huijaaminen” verkkokokeissa erilaisia biometrisiä tekijöitä ja toimien jäljittämistä hyödyntäen, ovat todella invasiivisia, eikä niiden pätevyydestä ole tieteellistä näyttöä.

4.17

Tekoälyjärjestelmien käyttö työntekijöiden valvonnassa, seurannassa ja arvioinnissa aiheuttaa vakavaa huolta oikeudenmukaisia ja kohtuullisia työoloja ja työehtoja, tiedonsaantia ja kuulluksi tulemista sekä mahdollisen irtisanomisen perusteltavuutta koskevien työntekijöiden perusoikeuksien suhteen. Tällaisten tekoälyjärjestelmien lisääminen suuririskisten järjestelmien luetteloon aiheuttaa todennäköisesti ristiriitoja kansallisten työlainsäädäntöjen ja työehtosopimusten kanssa (epä)oikeudenmukaisten irtisanomisten, terveellisten ja turvallisten työolojen ja työehtojen sekä työntekijöiden tiedonsaannin osalta. ETSK kehottaa takaamaan työntekijöiden ja työmarkkinaosapuolten kattavan osallistamisen ja tiedonsaannin, kun on kyse päätöksenteosta, joka koskee tekoälyn käyttöä sekä sen kehittämistä, hankkimista ja käyttöönottoa työpaikalla.

4.18

”Ihmisen suorittaman valvonnan” vaatimus on erityisen merkityksellinen työelämäsuhteiden kannalta, koska valvontaa suorittaa työntekijä tai työntekijöiden ryhmä. ETSK korostaa, että kyseiset työntekijät tulee perehdyttää tehtävän suorittamiseen. Kun otetaan huomioon, että kyseisten työntekijöiden oletetaan voivan sivuuttaa tekoälyjärjestelmän tuottama tulos tai jopa päättää olla käyttämättä järjestelmää, lisäksi pitäisi toteuttaa toimenpiteitä, joiden myötä kenenkään ei tarvitse pelätä kielteisiä seurauksia (kuten siirtäminen alempiin työtehtäviin tai irtisanominen) tällaisen päätöksen tekemisen johdosta.

4.19

Tekoälyjärjestelmiä hyödynnetään julkisten palvelujen saatavuuteen ja käyttöön liittyvissä yhteyksissä laajemmin kuin olennaisten yksityisten palvelujen saatavuuteen ja käyttöön liittyen. Tekoälypohjaista luotto(kelpoisuus)pisteytystä pidetään kuitenkin suuririskisenä vain jälkimmäisten osalta. ETSK suosittaa, että liitteessä III olevan 5 kohdan b alakohdan soveltamisalaan lisätään myös tekoälyjärjestelmät, joiden avulla on tarkoitus arvioida, voiko henkilö saada olennaisia yksityisiä palveluja.

4.20

Tekoälyn käyttö lainvalvontaviranomaisten toimesta sekä yksilölliseen (rikos- tai turvallisuus)riskien arviointiin muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa saattaa haitata seuraavien EU:n perusoikeuskirjassa vahvistettujen oikeuksien toteutumista: syyttömyysolettama, oikeus puolustukseen ja oikeus turvapaikkaan. Tekoälyjärjestelmät etsivät yleensä vain korrelaatioita muissa ”tapauksissa” havaittujen ominaispiirteiden perusteella. Epäily ei tällöin perustu ajatukseen siitä, että asianomainen henkilö olisi tosiasiallisesti syyllistynyt rikokseen tai rikkomukseen, vaan lähinnä sattumanvaraisiin yhtäläisyyksiin kyseisen henkilön ja rikoksista tuomittujen henkilöiden välillä (esim. osoite, tulotaso, kansalaisuus, velkojen määrä, työ, käyttäytyminen, ystävien ja perheenjäsenten käyttäytyminen jne.).

4.21

Tekoälyn käyttö oikeudenhoidossa ja demokraattisissa prosesseissa on erityisen arkaluonteista, ja aihetta olisi käsiteltävä ehdotettua hienojakoisemmin ja harkitummin. Kun puhutaan järjestelmien käytöstä yksinomaan siinä tarkoituksessa, että autetaan oikeusviranomaisia tutkimaan ja tulkitsemaan tosiseikkoja ja lainsäädäntöä sekä soveltamaan lainsäädäntöä konkreettisiin tosiseikkoihin, unohdetaan, että tuomiovallan käyttö on paljon muutakin kuin tiettyjen toistuvien mallien hahmottamista kertyneistä tietoaineistoista (nykyiset tekoälyjärjestelmät tekevät lähinnä tätä). Tekstissä oletetaan myös, että tämäntyyppistä tekoälyä käytetään vain oikeusviranomaisten apuna, ja jätetään täysin automatisoitu oikeudellisten päätösten teko soveltamisalan ulkopuolelle. ETSK pitää lisäksi valitettavana, ettei demokraattisiin prosesseihin, kuten vaaleihin, liittyviä tekoälyjärjestelmiä tai tekoälyjärjestelmien käyttöyhteyksiä mainita lainkaan.

4.22

ETSK suosittaa, että tekstiin lisätään (tekemällä muutos esimerkiksi tekoälysäädöksen 16 artiklan g alakohtaan) säännös, jossa määritellään, miten toimitaan, jos on ilmeistä tai jos vaatimustenmukaisuuden ennakkoarvioinnin yhteydessä on ilmennyt, että asetetut kuusi vaatimusta eivät vähennä riittävästi terveyteen, turvallisuuteen ja ihmisoikeuksiin kohdistuvan haitan riskiä.

Hallinnointi ja täytäntöönpanokelpoisuus

4.23

ETSK on tyytyväinen hallintorakenteeseen, joka tekoälysäädöksellä on tarkoitus perustaa. Komitea suosittaa, että tekoälyneuvosto velvoitetaan käymään säännöllistä näkemystenvaihtoa yhteiskunnan kaikkien toimijoiden, myös työmarkkinaosapuolten ja valtiovallasta riippumattomien organisaatioiden, kanssa.

4.24

ETSK suosittaa painokkaasti, että tekoälysäädöksen soveltamisalaa laajennetaan siten, että säädös pätee myös aiempiin tekoälyjärjestelmiin eli järjestelmiin, jotka olivat jo käytössä tai otettiin käyttöön ennen tekoälysäädöksen voimaantuloa. Näin voidaan ehkäistä se, että säädöksessä kiellettyjä tai suuren tai keskisuuren riskin järjestelmiksi luokiteltuja tekoälyjärjestelmiä otettaisiin käyttöön nopeutetusti, jotta vältytään vaatimusten noudattamiselta. Lisäksi ETSK suosittaa painokkaasti, ettei liitteessä IX lueteltujen vapauden, turvallisuuden ja oikeuden alueen laaja-alaisten tietojärjestelmien tekoälykomponentteja jätetä tekoälysäädöksen soveltamisalan ulkopuolelle.

4.25

Vaatimusten ja vastuuvelvollisuuteen liittyvien toimien monisyisyyden sekä omaehtoisen arvioinnin vuoksi vaarana on, että prosessi typistyy tarkistuslistojen täyttämiseksi, jolloin pelkkä kyllä- tai ei-vastaus voisi riittää vaatimusten tyydyttämiseen. ETSK suosittaa, että kaikkien suuririskisten tekoälyjärjestelmien osalta edellytetään kolmannen osapuolen suorittamaa arviointia.

4.26

ETSK kehottaa tarjoamaan hyvin pienille ja pienehköille organisaatioille sekä kansalaisyhteiskunnan organisaatioille asianmukaista (taloudellista) tukea sekä yksinkertaisia ja helppokäyttöisiä välineitä, jotta niitä voidaan auttaa sisäistämään tekoälysäädöksen tarkoitus ja merkitys ja tyydyttämään siinä asetetut vaatimukset. Tukitoimenpiteet eivät saisi rajoittua ainoastaan digitaali-innovointikeskittymien tukemiseen, ja niillä olisi edistettävä mahdollisuuksia saada laadukasta asiantuntijaneuvontaa tekoälysäädöksestä, sen sisältämistä vaatimuksista ja velvoitteista sekä erityisesti näiden perusteista.

4.27

Bryssel 22. syyskuuta 2021.

Euroopan talous- ja sosiaalikomitean puheenjohtaja

Christa SCHWENG