Euroopan talous- ja sosiaalikomitean lausunto aiheesta ”Ehdotus Euroopan parlamentin ja neuvoston direktiiviksi sopimuksenulkoista siviilioikeudellista vastuuta koskevien sääntöjen mukauttamisesta tekoälyyn (direktiivi tekoälyyn liittyvästä vastuusta)”

(COM(2022) 496 final – 2022/0303 (COD))

(2023/C 140/05)

Yleisesittelijä:

Wautier ROBYNS DE SCHNEIDAUER

Lausuntopyyntö	Euroopan parlamentti, 6.10.2022
	Euroopan unionin neuvosto, 14.10.2022
Oikeusperusta	Euroopan unionin toiminnasta tehdyn sopimuksen 114 artikla
Vastaava jaosto	sisämarkkinat, tuotanto ja kulutus
Työvaliokunnan päätös	20.9.2023
Hyväksyminen täysistunnossa	24.1.2023
Täysistunnon numero	575
Äänestystulos (puolesta / vastaan / pidättyi äänestämästä)	154/1/0

1.   Päätelmät ja suositukset

1.1

Euroopan talous- ja sosiaalikomitea (ETSK) on kehitellyt tekoälyä koskevia näkemyksiään vuonna 2017 tekemästään uraauurtavasta työstä lähtien ja korostanut, että ihmisten suorittamaan tekoälysovellusten valvontaan on liityttävä myös vastuuta ja sen on luotava luottamusta tällaista teknologiaa kohtaan. Vuonna 2019 antamassaan lausunnossa (1) komitea peräänkuulutti selkeitä sääntöjä muun muassa luonnollisten henkilöiden tai oikeushenkilöiden vastuusta tekoälyn sääntöjenvastaisen (tai oletettavasti sääntöjenvastaisen) käytön yhteydessä.

1.2

ETSK pitää myönteisenä ja kannattaa komission ehdotusta parantaa tekoälyn sääntöjenvastaisen käytön aiheuttamien (kansallisen lainsäädännön mukaan korvauskelpoisten) vahinkojen uhrien oikeuksia niin, että säädetään erityisistä lisäoikeuksista, joilla täydennetään voimassa olevaa kansallista vahingonkorvausvastuuta tai objektiivista vastuuta koskevaa lainsäädäntöä, tuotevastuudirektiivin säännöksiä ja rikoslainsäädäntöä.

1.3

ETSK myöntää, että vähimmäistason yhdenmukaistaminen palvelee tätä tavoitetta parhaiten, mutta on huolissaan siitä, että kehitys- ja toimitusketjun toimijoiden ja sidosryhmien sekä tuomareiden tulkinnat voivat poiketa toisistaan. Komitea vaatiikin selkeitä oikeudellisia määritelmiä ja korostaa tarvetta parantaa entisestään niiden tahojen asiantuntemusta, joiden on sovellettava tätä uutta lainsäädäntöä kaikkialla EU:ssa ja joilla on siis oltava tähän asianmukaiset digitaaliset valmiudet. Komission perimmäisenä tavoitteena olisi oltava sellaisen vastuujärjestelmän kehittäminen, jota sovelletaan mahdollisimman yhtenäisellä tavalla koko EU:n alueella.

1.4

ETSK tiedostaa, että yhtäältä ennaltaehkäisytoimien ja turvallisuussääntöjen ja toisaalta oikeussuojakeinojen yhteisvaikutuksella on viranomaisten valvontatehtävän lisäksi merkitystä, jotta tekoälyn vastuullista kehittämistä koskevien EU:n ja kansallisten normien noudattaminen voidaan varmistaa. Komitea kehottaa perustamaan vaihtoehtoisten riidanratkaisuelinten verkoston, jotta uhrien on helpompi käyttää oikeuksiaan ja jotta direktiivin tuloksista saadaan kerättyä enemmän näyttöä.

1.5

ETSK on tyytyväinen tasapainoon, joka direktiivissä on löydetty uhrien oikeuksien ja tekoälyn kehittäjien etujen välillä. Se mahdollistaa digitaalisen siirtymän tuomien etujen hyödyntämisen ja voi toimia mallina kolmansille maille, jotka harkitsevat saman linjan noudattamista.

1.6

ETSK kehottaa komissiota seuraamaan tiiviisti tekoälyyn liittyvän vastuun kattavien taloudellisten takuiden tai vakuutuksen kehittämistä ja kiinnittämään asianmukaisesti huomiota niiden saatavuuteen ja laajuuteen, sillä uuden kehyksen pitäisi taata oikeusvarmuus sekä toiminnanharjoittajille että vakuutuksenantajille. Vahinkotapauksia koskeva näyttö on avainasemassa arvioitaessa, onko tällaisille toimenpiteille tarvetta, joten tapausten dokumentointi ja raportointi on ratkaisevan tärkeää.

1.7

ETSK kehottaa komissiota niin ikään tuomaan tekoälyn aiheuttamien vahinkojen uhrien oikeuksia esiin osana viestintästrategiaansa, jotta luottamusta digitaalista siirtymää kohtaan saadaan lisättyä.

1.8

Koska tekniikka kehittyy nopeaa vauhtia, ETSK kannattaa aikomusta tarkastella säädöstä uudelleen heti, kun se on näytön perusteella aiheellista. Komitean mielestä viisi vuotta direktiivin voimaantulosta on kuitenkin liian pitkä aika, ja se suosittaa, että uudelleentarkastelu suoritetaan kolmen vuoden kuluttua voimaantulosta. ETSK on valmis osallistumaan uudelleentarkasteluun ja arvioimaan EU:n kansalaisyhteiskunnan organisaatioiden kokemuksia, erityisesti kun on kyse loppukäyttäjiltä saadusta palautteesta, joka koskee todistustaakkaa ja korvauskelpoisten vahinkojen mahdollisesti erilaisia määritelmiä eri maiden lainsäädännössä.

1.9

Koska tekoälyn käyttö voi johtaa arkaluonteisiin toimintapoliittisiin valintoihin, joita ei pitäisi jättää yksinomaan tekoälyn toimitusketjun toimijoiden tehtäväksi, ETSK pyytää myös päästä osalliseksi ja tulla kuulluksi eettisiä normeja määriteltäessä.

2.   Ehdotuksen pääsisältö

2.1

Ehdotus direktiiviksi sopimuksenulkoisesta vastuusta tekoälyn alalla (”direktiivi tekoälyyn liittyvästä vastuusta”) pohjautuu komission vuonna 2020 esittämään valkoiseen kirjaan tekoälystä, samanaikaisesti julkaistuun komission kertomukseen turvallisuudesta ja vastuuvelvollisuudesta tekoälyn alalla sekä vuoden 2021 tekoälysäädösehdotukseen, jossa keskitytään ennaltaehkäisytoimiin ja turvallisuuteen. Se liittyy vuonna 1985 annetun tuotevastuudirektiivin tarkistamiseen (”tarkistettu tuotevastuudirektiivi”), jota koskeva ehdotus esitettiin samana päivänä kuin tässä lausunnossa käsiteltävä direktiiviehdotus tekoälyyn liittyvästä vastuusta. Molemmissa ehdotetuissa direktiiveissä annetaan kantajille mahdollisuus esittää vaateita tiettyjä osapuolia vastaan, mutta välineiden soveltamisalassa on joitakin eroja.

2.2

Tekoälyyn liittyvästä vastuusta annettavan direktiivin tarkoituksena on vahvistaa yhtenäiset säännöt tietyistä tekoälyjärjestelmien käytöstä aiheutuviin vahinkoihin liittyvän sopimuksenulkoisen vastuun näkökohdista. Yhdenmukaistettujen sääntöjen avulla pyritään parantamaan sisämarkkinoiden toimintaa ja tarjoamaan uhreille (niin yksityishenkilöille kuin yrityksillekin) kattavampaa suojaa sekä lisäämään luottamusta tekoälyä kohtaan. Tämä koskee muun muassa yksityisyyden loukkauksia, tietojen häviämistä tai turvallisuusongelmista aiheutuvia vahinkoja. Uudet säännöt helpottavat esimerkiksi korvausten saamista, jos jotakuta on syrjitty tekoälyavusteisessa rekrytointiprosessissa, mutta (oikeudellisia) esteitä on edelleen paljon. Jäljellä olevan oikeudellisen epävarmuuden poistamiseksi ETSK kehottaa laatimaan oikeudellisen määritelmän koneiden tekoälyn avulla tekemille päätöksille.

2.3

Komissio esittää nyt ehdotetun direktiivin avulla ensimmäistä kertaa tekoälyyn sovellettavien kansallisten vastuusääntöjen kohdennettua yhdenmukaistamista, jotta tekoälyn takia vahinkoa kärsineiden on helpompi saada korvauksia. Uusilla säännöillä varmistetaan tekoälyä koskevan valkoisen kirjan ja komission vuonna 2021 ehdottaman tekoälysäädöksen (jossa vahvistetaan oikeusvaltion periaatteet tekoälyn luotettavuutta koskevan kehyksen avulla) tavoitteiden mukaisesti, että uhrit saavat tekoälytuotteiden tai -palvelujen aiheuttamien vahinkojen yhteydessä oikeudenmukaista suojaa samaan tapaan kuin missä tahansa muissa olosuhteissa aiheutuneiden vahinkojen yhteydessä.

2.4

Samalla kun huolehditaan siitä, että teknologian kehitystä Euroopassa ei vaaranneta eikä vesitetä, direktiivillä otetaan käyttöön yhdenmukaistettu oikeudellinen kehys, jossa huomioidaan tekoälyjärjestelmien monimutkaisuus, olipa kyse sitten laboratoriovaiheessa olevista tai jo markkinoille saatetuista järjestelmistä. Lisäksi sillä yksinkertaistetaan oikeusprosessia tekoälyjärjestelmien takia vahinkoa kärsineiden kannalta kahden keskeisen, nykyisten tarpeiden mukaisen oikeudellisen uudistuksen avulla: — Sellaisissa tapauksissa, joissa on todettu, että EU:n lainsäädäntöä tai kansallista lainsäädäntöä (niiden mukaista huolellisuusvelvoitetta) ei ole noudatettu, ja joissa voidaan kohtuudella olettaa, että syy-yhteys tekoälyjärjestelmään (sen tuotokseen) on olemassa, otetaan käyttöön ”kumottavissa oleva syy-yhteyttä koskeva olettama”. Näin puututaan ongelmiin, joita uhreilla on ollut, kun he ovat joutuneet tekemään yksityiskohtaisesti selkoa siitä, miten tietty tuottamus tai laiminlyönti on aiheuttanut vahingon. Selonteko saattaa nimittäin olla erityisen vaikeaa, kun on kyse monimutkaisista tekoälyjärjestelmistä ja niiden ymmärtämisestä. Suuririskisten tekoälyjärjestelmien tarjoajiin (ks. kohta 4.1), näiden puolesta toimiviin henkilöihin ja käyttäjiin sovelletaan erityissäännöksiä. Olettamaa lievennetään ehdotuksessa sellaisten tapausten osalta, joissa tekoälyjärjestelmää käyttää muu kuin ammattikäyttäjä ja joissa tämä ei ole puuttunut tekoälyjärjestelmän toimintaan. — Tuotevastuuasioissa on helpompi määrittää, ketä vastaan kanne on nostettava, mutta tekoälyn kohdalla toimintaympäristö on monimutkaisempi. Ehdotetun direktiivin myötä uhreilla on käytettävissään aiempaa enemmän oikeussuojakeinoja, sillä heillä on suuririskisiin tekoälyjärjestelmiin liittyvissä tapauksissa oikeus saada yrityksiltä ja järjestelmien toimittajilta tarvittaessa todisteita siinä määrin kuin se on oikeasuhtaista. Uhrit voivat saada tuomioistuimelta määräyksen, jonka nojalla heille on annettava tiedot, jotka ovat tarpeen sen määrittämiseksi, mistä heidän kärsimänsä vahingot ovat aiheutuneet ja mitä luonnollista henkilöä tai oikeushenkilöä vastaan he voivat esittää vahingonkorvausvaateen. Kun todisteet ovat helposti saatavissa, direktiivissä tarkoitettua olettamaa ei enää sovelleta. Tämä on vahva kannustin asettaa tällaiset tiedot saataville.

Näiden kahden toimenpiteen ansiosta direktiivi auttaa uhreja saamaan oikeutta joko yksilötasolla tai (joissakin tapauksissa) kollektiivisesti ilman että syy-yhteyden käsitteestä luovutaan.

3.   Ihmiskeskeisen teknologisen kehityksen takaaminen

3.1

ETSK on tietoinen tekoälyn mukanaan tuomista hyödyistä ja mahdollisista riskeistä. Tekoälyä ei pitäisi käyttää vain siihen, että pyritään parantamaan tuottavuutta laittamalla se hoitamaan ihmiselle kuuluneita tehtäviä ja karsimalla kustannuksia. Tällaisen kehityksen vuoksi on tarpeen kiinnittää huomiota riskeihin, jotka liittyvät tekoälyn mahdollisiin, työolojen muutoksista johtuviin terveysvaikutuksiin sekä siihen, miten se vaikuttaa esimerkiksi yksityisyyttä koskevaan oikeuteen. Niin ikään on tarpeen pohtia uudelleen koneiden ja ihmisten välistä tasapainoa työpaikalla, sillä määräysvallan on oltava ensisijaisesti ihmisten käsissä. On kuitenkin otettava asianmukaisesti huomioon, että ihmisten ennakkoluulot ja -asenteet saattavat vaikuttaa myös koneiden toimintaan. Ihmistoimijoilla olisi edelleen oltava vastuu alkuperäisestä järjestelmästä ja lopullinen vastuu sen mahdollisista toimintapuutteista ja virheistä, kuten tekoälyä käsittelevä korkean tason asiantuntijaryhmä toteaa eettisissä suuntaviivoissaan. Monista muista kehityssuuntauksista, esimerkiksi nanoteknologian ympäristövaikutuksista, on toistaiseksi vähemmän näyttöä. ETSK katsoo, että niin tekoälyalan toimijoiden kuin muidenkin sidosryhmien, esimerkiksi riskinhallintakonsulttien ja vakuutuksenantajien sekä viranomaisten ja työntekijöiden edustajien, olisi tarkkailtava mahdollisia vaikutuksia riskianalyysien, tarkastusten ja todellisen kaltaisessa ympäristössä tehtäviin testeihin tukeutuvan turvallisuusteknisen suunnittelun avulla. Kuten ETSK on jo aiemmassa lausunnossaan (2) todennut, sen mielestä olisi hyvä ottaa käyttöön sertifiointimenettelyjä, joilla varmistetaan, että tekoälyjärjestelmät ovat turvallisia ja ihmisten etujen mukaisia.

3.2

ETSK on tietoinen siitä, että tekoälysovellukset ovat alttiita häiriöille ja haitallisille kybertoimille, ja viittaa jokin aika sitten antamiinsa lausuntoihin digitaalista häiriönsietokykyä koskevasta säädösehdotuksesta (DORA) (3) sekä kyberturvallisuutta ja kriittisten toimijoiden häiriönsietokykyä koskevista direktiiviehdotuksista (4). Nämä riskit ja uhat eittämättä oikeuttavat nykyiset ennaltaehkäisy- ja seurantasäännökset ja myös tulevat toimet, sillä uusia haavoittuvuuksia saattaa ilmetä.

3.3

ETSK kannattaa aikomusta pysyä nopean kehityksen tahdissa ja tarkastella direktiivin vaikutuksia uudelleen, kun se on näytön perusteella aiheellista. Tämä voi johtaa direktiivin päivittämiseen, mikäli se on tarpeen ja suhteellisuusperiaatteen mukaista. Komitea pitää ehdotuksessa kaavailtua viiden vuoden määräaikaa kuitenkin liian pitkänä ja ehdottaa, että toimiin ryhdytään aikaisemmin, enintään kolme vuotta direktiivin voimaantulon jälkeen. ETSK, jossa kansalaisten, kuluttajien, työntekijöiden ja erikokoisten yritysten näkökannat ovat edustettuina ainutlaatuisella tavalla, vaatii, että kansalaisyhteiskunta otetaan tähän arviointiin mukaan ja että arvioinnissa kiinnitetään asianmukaisesti huomiota perusihmisoikeuksiin, myös työntekijöiden oikeuksiin, sekä taloudellisiin mahdollisuuksiin ja esteisiin.

4.   EU:n perusarvojen turvaaminen

4.1

ETSK kannattaa komission tekoälysäädöksessä omaksumaa lähestymistapaa, jossa erotetaan toisistaan tekoälyn kielletyt käyttötarkoitukset, kuten oikeuksiin ja vapauksiin kajoavien hallintotahojen harjoittama kansalaisten sosiaalinen pisteytys, sekä suuririskiset tekoälysovellukset, esimerkiksi yritysten rekrytoinnissa ja ansioiden arvioinnissa ja pisteytyksessä käyttämät järjestelmät sekä kriittiset infrastruktuurit ja terveydenhuollossa käytettävät tekniset laitteet, ja lukuisat vähäriskisemmät toiminnot. Komitea peräänkuuluttaa yksiselitteistä suuririskisten toimintojen määritelmää ja toistaa kehotuksensa lisätä mahdolliset ympäristöhaitat yhdeksi määrittäväksi tekijäksi suuririskisten toimintojen luokkaan. ETSK huomauttaa, että uhrien olisi saatava korvaus riippumatta siitä, onko tekoälysovellukset luokiteltu suuri- vai vähäriskisiksi.

4.2

ETSK korostaa tekoälyä käsittelevästä valkoisesta kirjasta vuonna 2020 antamansa lausunnon mukaisesti olevansa sitoutunut perusoikeuksien ja ihmisen määräysvallan turvaamiseen lopullisessa päätöksentekovaiheessa, sillä ne ovat tekoälyn vastuullisen kehittämisen kulmakiviä Euroopan unionissa. Koneiden tekemissä valinnoissa ja päätöksissä ei välttämättä osata kiinnittää ihmisen ymmärryksen mukaisesti huomiota tahattomiin seurauksiin, joita erityisesti haavoittuvassa asemassa olevia henkilöitä, kuten lapsia tai vanhuksia, koskevilla valinnoilla ja päätöksillä voi olla.

4.3

ETSK tähdentää, että on tärkeää, että kansalaiset luottavat tekoälyyn liittyvään kehitykseen yksityisyyden suojan, oikeudenmukaisen kohtelun ja mahdollisesti tarvittavien oikeussuojakeinojen osalta. Ehdotetulla direktiivillä pyritään varmistamaan, että tekoälyjärjestelmien käytön aiheuttamista tai osittain aiheuttamista vahingoista saa vähintään samanlaisen korvauksen kuin sellaisissa tilanteissa syntyneistä vahingoista, joissa tekoälyjärjestelmiä ei ole käytetty. Komission, jäsenvaltioiden ja tekoälyjärjestelmien käyttäjien on tärkeää tehdä yhteistyötä tämän viestin välittämiseksi suurelle yleisölle.

5.   Tekoälyn aiheuttamien vahinkojen uhrien korvauksensaantimahdollisuuksien helpottaminen

5.1

Tekoälyyn liittyvästä vastuusta annettavalla direktiivillä parannetaan kansalaisten, työntekijöiden ja talouden toimijoiden suojaa uhrien oman maan oikeusjärjestyksessä tunnustettujen vahinkojen varalta sekä ulotetaan suoja kattamaan muutkin vahingot kuin ehdotetussa tuotevastuudirektiivissä tarkoitetut fyysiset vammat ja aineelliset menetykset. Suojan laajentaminen mahdollistaa esimerkiksi epäoikeudenmukaisesta syrjinnästä, hoitoon tai koulutukseen pääsyn epäämisestä, poliisin tekemästä virheellisestä profiloinnista tai tietojen häviämisestä aiheutuneiden puhtaasti taloudellisten vahinkojen korvaamisen. ETSK korostaa, että on tarpeen määritellä selkeästi, mitä korvauskelpoisilla vahingoilla tarkoitetaan, jotta voidaan välttyä ei-toivotuilta tulkintaeroilta kansallisissa oikeuskäytännöissä. Lisäksi alan ammattilaisille, esimerkiksi jäsenvaltioiden tuomareille, on annettava tähän liittyvää koulutusta asianmukaisten resurssien avulla. Komitea huomauttaa, että kansallisilla tuomioistuimilla on mahdollisuus pyytää Euroopan unionin tuomioistuimelta ennakkoratkaisuja kysymyksistä, joissa tulkinnat saattavat poiketa toisistaan.

5.2

ETSK katsoo, että kansalaisilla, kuluttajilla, työntekijöillä ja yrityksillä ei ole samanlaisia mahdollisuuksia oikeussuojakeinojen käyttöön ja korvausten saantiin kaikkialla Euroopan unionissa. Hyvä tahto kantajia kohtaan, menettelysäännöt, vaateen oikeuskäsittelyyn liittyvät kustannukset ja se, miten laaja turva kantajilla on oikeudenkäyntikulujen varalta siviilioikeudellista vastuuta koskevissa asioissa, vaihtelevat huomattavasti jäsenvaltioittain ja yhteiskuntaluokittain. Tekoälyasetusta koskevassa yleisluonteisemmassa lausunnossa (5) esiin tuomansa periaatteen mukaisesti ETSK kannattaakin helposti käytettävissä olevien, maksuttomien ja pakollisten vaihtoehtoisten riidanratkaisujärjestelmien perustamista jäsenvaltioihin tekoälysovelluksiin liittyvää siviilioikeudellista vastuuta koskevia asioita varten ja EU:n laajuista koordinointia esimerkiksi rahoituspalvelualan riitojenratkaisuverkoston (FIN-NET) mallin mukaisesti ja katsoo, että tämä olisi tehtävä yhteistyössä asiaankuuluvien kansalaisyhteiskuntaa edustavien elinten kanssa. Tällaiset koordinointitahot edistäisivät direktiivin vaikutusten arviointia huolehtimalla tietoonsa saatettujen tuomioistuimen ulkopuolisten riidanratkaisumenettelyjen seurannasta.

5.3

ETSK suhtautuu myönteisesti pyrkimyksiin tarjota uhreille enemmän keinoja vaatia oikeudenmukaista korvausta tekoälysovellusten aiheuttamista vahingoista. Korvauksen vaatiminen saattaisi tekoälysovellusten läpinäkymättömyyden ja monimutkaisuuden vuoksi muutoin olla mahdotonta, pulmallista tai kallista. Monet kansalaiset ja kuluttajat suhtautuvat robotteihin ja algoritmeihin epäilevästi, ja komitea kehottaakin toteuttamaan komission viestintästrategian puitteissa toimia kansalaisten luottamuksen lisäämiseksi. Ennen kaikkea olisi julkaistava opastusmateriaalia yleisesti käytetyissä sosiaalisissa medioissa.

5.4

Tekoälyjärjestelmien takia vahinkoa kärsineet voivat vedota olettamaan, että toiminnanharjoittajat eivät ole noudattaneet EU-tasolla tai jäsenvaltioissa säädettyjä vaatimuksia. Se, että toiminnanharjoittajien on pidettävä lokia sääntöjen noudattamisesta, suojaa huolimattomalta toiminnalta.

6.   Uusien oikeudellisten periaatteiden käyttöönotto sisämarkkinoilla

6.1

Direktiiviehdotus tekoälyyn liittyvästä vastuusta osuu ajankohtaan, jolloin tekoälyn toimintapuutteita ja sen aiheuttamia virheitä koskevien vastuukysymysten sääntely on useiden jäsenvaltioiden lainsäädäntöohjelmassa. ETSK ymmärtää ehdotuksessa omaksutun lähestymistavan, jonka tarkoituksena on pitää tässä vaiheessa kiinni kansallisista oikeusperiaatteista, ja kannattaa direktiivin käyttöä oikeudellisena välineenä. Sen avulla voidaan yhtäältä välttää liiallista epäjohdonmukaisuutta eri puolilla EU:ta sovellettavissa vastuuperiaatteissa ja toisaalta antaa jäsenvaltioille mahdollisuus hienosäätöön, jotta tarjottava suoja vastaa sitä, mitä ne pitävät yleisen edun kannalta tarpeellisena ja oikeasuhtaisena. Komitea kiinnittää poliittisten päättäjien huomion pirstaloituneen oikeudellisen toimintaympäristön haittoihin: se estää todellisten digitaalisten sisämarkkinoiden toteuttamisen, pitää yllä eroja sekä EU:n kansalaisten että EU:n yritysten välillä ja voi hankaloittaa Euroopan teknologista innovointia. ETSK katsoo, ettei yleisen edun periaatteen virheellisen tulkinnan riskiä pidä aliarvioida, sillä riitauttamismenettelyt ovat vaivalloisia ja niiden puitteissa voidaan ratkoa vain tuomioistuimen käsiteltäväksi kulloinkin saatettuja kysymyksiä.

6.2

ETSK tiedostaa, miten erilaisia siviilioikeudellista vastuuta koskeviin kanteisiin sovellettavat kansalliset oikeusnormit edelleen ovat eri jäsenvaltioissa, ja on vuosien saatossa kiinnittänyt runsaasti huomiota pyrkimyksiin ratkaista näiden erojen aiheuttamia ongelmia esimerkiksi kansallisille normeille vaihtoehtoisen järjestelmän (ns. 28. järjestelmän) avulla. Tätä taustaa vasten komitea ymmärtää komission tässä vaiheessa ehdottaman oikeudellisen välineen valinnan mutta varoittaa, että monia käsitteitä saatetaan tulkita erilaisissa kansallisissa oikeusjärjestelmissä eri tavoin. ETSK painottaa, että komission perimmäisenä tavoitteena olisi oltava vastuujärjestelmä, jota sovelletaan mahdollisimman yhtenäisellä tavalla kaikkialla EU:ssa.

6.3

ETSK korostaa, että vastaajilla, erityisesti esimerkiksi (pienillä) vähittäismyyjillä, on oikeus esittää oikeudellinen vaade käyttämänsä tekoälyjärjestelmän tarjoajaa tai asianomaisia toimitusketjun alkupään toimijoita vastaan ja että viimeksi mainituilla on velvollisuus kantaa vastuu oman huolimattoman tai oletettavasti sääntöjenvastaisen toimintansa seurauksista. Kyseiset tavaran- ja palveluntoimittajat olisi tällaisissa tapauksissa velvoitettava lainsäädännön nojalla suorittamaan vastaajille korvauksia.

7.   Eurooppalaisten tekoälyinnovaatioiden kilpailukyvyn tukeminen

7.1

ETSK katsoo, että oikeusvarmuus on taloudellinen kannustin eurooppalaisten tiedekeskusten, viranomaisten ja yritysten tutkimus- ja kehitystoiminnalle ja edistää uraauurtavien innovaatioiden syntymistä maailmanlaajuisessa toimintaympäristössä. Ehdotetussa direktiivissä tekoälyyn liittyvästä vastuusta säädetään oikea-aikaisesti suuntaviivoista, jotka ovat tarpeen, jotta innovoijien tarvitsemaa luottamusta oikeudellisten riskien suhteen saadaan vahvistettua, erityisesti kun on kyse rajatylittävästä toiminnasta, sillä eri lainkäyttöalueilla on omat vastuujärjestelmänsä. Tästä on merkittävää hyötyä startup-yrityksille ja pk-yrityksille, joilla ei ole samanlaisia mahdollisuuksia hankkia oikeudellista neuvontaa kuin suuremmilla yrityksillä. Uusi kehys voi myös auttaa tekoälysovellusten kehittäjiä ymmärtämään paremmin lanseerattaviin sovelluksiin liittyviä oikeudellisia vaikutuksia ja siten tukea digitaalista ja vihreää siirtymää koskevan EU-strategian toteuttamista.

7.2

Ehdotetussa direktiivissä tekoälyyn liittyvästä vastuusta ei toistaiseksi säädetä tekoälysovelluksia koskevasta pakollisesta vakuutuksesta. Koska tekoälysovellusten, erityisesti monimutkaisten järjestelmien, kehittäminen on vielä täydessä vauhdissa, olisi aiemman kokemuksen puuttuessa vaikeaa luoda hinnoittelumenetelmiä, joiden avulla hinnoittelu saataisiin kohtuullisen luotettavasti vastaamaan tulevia vahinkoja ja korvausvaateita, erityisesti kun otetaan huomioon, että eri vahingot ja vaateet saattavat olla yhteydessä toisiinsa ja aiheuttaa virheiden toistumista ja siten johtaa entistä vakavampiin tapauksiin ja suurempiin kokonaistappioihin. Lisäksi (jälleen)vakuutusyhtiöiden kapasiteetti on tällä hetkellä rajallinen. Näin ollen ETSK ymmärtää komission päätöksen olla paneutumatta tarkemmin siihen, olisiko tässä vaiheessa syytä ottaa käyttöön pakollinen vakuutus tai muita taloudellisia takuita ja mitä toimintoja varten ja missä laajuudessa tämä olisi aiheellista. Komitea kehottaa komissiota kuitenkin seuraamaan tiiviisti vakuutussuojan saatavuutta ja kattavuutta. Tarvitaan seurantajärjestelmä, jonka avulla saadaan tietoa tekoälyjärjestelmiin liittyvistä vahinkotapauksista, jotta voidaan arvioida, ovatko ankaran vastuun tai pakollisen vakuutuksen käyttöönoton kaltaiset lisätoimenpiteet tarpeen.

7.3

ETSK toteaa, että jäsenvaltioiden tai EU:n lainsäädännössä edellytetään pakollista vakuutusta tai muita taloudellisia takuita useiden eri riskien varalta. Tämä koskee etenkin moottoriajoneuvojen käyttöä ja moottoriajoneuvoalaa, jolla kehitetään parhaillaan itseohjautuvia ajoneuvoja. Tilanteissa, joissa pakollinen vakuutus kattaa sekä kuljettajan tai matkustajien toiminnan että laitteiden toimintahäiriöt, erityisesti automaattiohjausta käytettäessä, uhrit ovat useimmissa tapauksissa (6) oikeutettuja korvaukseen voimassa olevien säädösten ja sopimusten nojalla. Vakuutusyhtiöt voivat tapauksesta riippuen vaatia valmistajilta korvausta kuluistaan. Tämän pitäisi vähentää moottoriajoneuvojen omistajille aiheutuvia kustannuksia ja siirtää taloudellista painopistettä kyseisten vakuutuslajien osalta niin, että yritysten ja kuluttajien välisiltä markkinoilta siirrytään yritysten väliseen toimintamalliin. ETSK katsookin, että aloilla, joilla pakollinen vakuutus on jo käytössä tai se on määrä ottaa käyttöön EU:n tasolla, ei tarvita muita merkittäviä lainsäädäntötoimia. Komitea aikoo kuitenkin seurata tiiviisti eettisiä valintoja, jotka ohjaavat esimerkiksi sellaisten kysymysten hoitamista kuin yhteentörmäyksien välttäminen ja onnettomuuksien hallinta.

7.4

ETSK katsoo, että tekoälyyn liittyvästä vastuusta annettavaan direktiiviin sisältyvät sääntöjen noudattamiseen ja riskinhallintaan liittyvät rajoitukset sekä olettama, jonka kumoaminen on tekoälyjärjestelmien tarjoajien, näiden puolesta toimivien henkilöiden ja tekoälyjärjestelmien käyttäjien tehtävä, ovat oikeasuhtaisia toimenpiteitä, jotka kohdistuvat juuri oikeantasoisiin tekoälysovellusten vahinkoriskeihin.

7.5

Todisteiden saatavuuden osalta ETSK kannattaa toimenpiteitä, joilla suojellaan liikesalaisuuksia, jotka ovat eurooppalaisten innovoijien kilpailukyvyn kannalta tärkeä tekijä, ja luottamuksellisia tietoja, kunhan tällaisiin toimenpiteisiin turvaudutaan perustellusti ja niin, että vakiintuneita oikeuksia, esimerkiksi lainsäädännössä tunnustettuja väärinkäytösten paljastajien erityisoikeuksia työpaikalla, kunnioitetaan asianmukaisesti.

7.6

ETSK katsoo, että maltillisen olettaman käyttöönotto ankaran vastuun sijaan helpottaa tekoälyteknologian kehittämistä Euroopan unionissa ja voi vahvistaa EU:n roolia normien asettajana globaalilla tasolla, sillä muut maat saattavat hyvinkin mukauttaa lainsäädäntöään tämän järjestelmän mukaisesti. Tähän näkökohtaan olisi kiinnitettävä huomiota myös tulevan uudelleentarkastelun yhteydessä, ja sama koskee käsitteiden selventämistä, joka saattaa osoittautua tämän ensimmäisen kokemuksen perusteella tarpeelliseksi.

---

(1)  Euroopan talous- ja sosiaalikomitean lausunto aiheesta ”Komission tiedonanto Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle ja alueiden komitealle – Luottamuksen rakentaminen ihmiskeskeiseen tekoälyyn” (COM(2019) 168 final) (EUVL C 47, 11.2.2020, s. 64).

(2)  Euroopan talous- ja sosiaalikomitean lausunto aiheesta ”Komission tiedonanto Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle ja alueiden komitealle – Luottamuksen rakentaminen ihmiskeskeiseen tekoälyyn” (COM(2019) 168 final) (EUVL C 47, 11.2.2020, s. 64).

(3)  Euroopan talous- ja sosiaalikomitean lausunto aiheista ”Ehdotus Euroopan parlamentin ja neuvoston asetukseksi rahoitusalan digitaalisesta häiriönsietokyvystä ja asetusten (EY) N:o 1060/2009, (EU) N:o 648/2012, (EU) N:o 600/2014 ja (EU) N:o 909/2014 muuttamisesta” (COM(2020) 595 final – 2020/0266 (COD)) ja ”Ehdotus Euroopan parlamentin ja neuvoston direktiiviksi direktiivien 2006/43/EY, 2009/65/EY, 2009/138/EY, 2011/61/EU, 2013/36/EU, 2014/65/EU, (EU) 2015/2366 ja (EU) 2016/2341 muuttamisesta” (COM(2020) 596 final – 2020/0268 (COD)) (EUVL C 155, 30.4.2021, s. 38).

(4)  Euroopan talous- ja sosiaalikomitean lausunto aiheesta ”Ehdotus Euroopan parlamentin ja neuvoston direktiiviksi toimenpiteistä yhteisen korkean kyberturvatason varmistamiseksi koko unionissa ja direktiivin (EU) 2016/1148 kumoamisesta ja ehdotus Euroopan parlamentin ja neuvoston direktiiviksi kriittisten toimijoiden häiriönsietokyvystä” (COM(2020) 823 final – 2020/0359 (COD) ja COM(2020) 829 final – 2020/0365 (COD)) (EUVL C 286, 16.7.2021, s. 170).

(5)  Euroopan talous- ja sosiaalikomitean lausunto aiheesta: ”Ehdotus Euroopan parlamentin ja neuvoston asetukseksi tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälysäädös) ja tiettyjen unionin säädösten muuttamisesta” (COM(2021) 206 final – 2021/106 (COD)) (EUVL C 517, 22.12.2021, s. 61).

(6)  Ajajalla on oikeus nostaa kanne tuotevastuulainsäädännön nojalla.