EUROOPAN KOMISSIO
Bryssel 19.2.2020
COM(2020) 64 final
KOMISSION KERTOMUS EUROOPAN PARLAMENTILLE, NEUVOSTOLLE JA EUROOPAN TALOUS- JA SOSIAALIKOMITEALLE
Kertomus tekoälyn, esineiden internetin ja robotiikan vaikutuksista turvallisuuteen ja vastuuvelvollisuuteen
Kertomus tekoälyn, esineiden internetin ja robotiikan vaikutuksista turvallisuuteen ja vastuuvelvollisuuteen
1.Johdanto
Tekoäly 1 , esineiden internet 2 ja robotiikka tarjoavat yhteiskunnassamme uusia mahdollisuuksia ja etuja. Komissio on tunnustanut näiden teknologioiden merkityksen ja niiden tarjoamat mahdollisuudet sekä tarpeen tehdä näillä aloilla merkittäviä investointeja. 3 Se on asettanut tavoitteeksi nostaa Eurooppa johtoasemaan maailmassa tekoälyn, esineiden internetin ja robotiikan alalla. Tavoitteen saavuttaminen edellyttää, että siihen liittyvät teknologiset haasteet ratkaistaan selkeän ja ennakoitavissa olevan oikeudellisen kehyksen avulla.
1.1.Voimassa oleva turvallisuus- ja vastuukehys
Turvallisuutta ja vastuuta koskevan lainsäädäntökehyksen tavoitteena on varmistaa, että myös kehittyvää digitaaliteknologiaa hyödyntävät tuotteet ja palvelut toimivat turvallisesti, luotettavasti ja yhdenmukaisesti ja että aiheutuneet vahingot korvataan tehokkaasti. Uutta digitaaliteknologiaa hyödyntävien tuotteiden ja järjestelmien korkeatasoinen turvallisuus ja aiheutuneiden vahinkojen korvaamista säätelevät vankat mekanismit (esimerkiksi vastuuvelvollisuutta koskeva lainsäädäntö) edistävät osaltaan kuluttajansuojan parantamista. Ne myös luovat luottamusta näihin teknologioihin, mikä on edellytys sille, että teollisuus ja käyttäjät haluavat ottaa ne käyttöön. Tämä puolestaan edistää eurooppalaisen teollisuuden kilpailukykyä ja unionin tavoitteita 4 . Selkeä turvallisuus- ja vastuukehys on erityisen tärkeä silloin, kun kehitetään tekoälyn, esineiden internetin ja robotiikan kaltaisia uusia teknologioita, jotta voidaan varmistaa sekä kuluttajansuoja että oikeusvarmuus yritysten kannalta.
Unionissa on jo vakaa ja luotettava turvallisuutta ja tuotevastuuta koskeva sääntelykehys ja vankat turvallisuusnormit. Niitä täydentävät kunkin jäsenvaltion kansalliset vastuuvelvollisuutta koskevat säännökset, joita ei ole yhdenmukaistettu. Yhdessä nämä säännökset ja normit takaavat kansalaisten hyvinvoinnin sisämarkkinoilla ja kannustavat innovointiin ja teknologian käyttöönottoon. Monien tuotteiden ja palvelujen luonne on kuitenkin muuttumassa tekoälyn, esineiden internetin ja robotiikan vuoksi.
Komissio ilmoitti 25. huhtikuuta 2018 hyväksymässään tiedonannossa Tekoäly Euroopassa 5 aikovansa esittää kertomuksen kehittyvien digitaaliteknologioiden vaikutuksista voimassa oleviin turvallisuutta ja vastuuvelvollisuutta koskeviin sääntelykehyksiin. Tässä kertomuksessa tarkastellaan tekoälyn, esineiden internetin ja robotiikan yleisiä vaikutuksia vastuuta ja turvallisuutta koskeviin sääntelykehyksiin ja pyritään tunnistamaan näissä kehyksissä olevia mahdollisia puutteita. Kertomus täydentää tekoälyä koskevaa valkoista kirjaa, ja siinä esitetyt näkemykset on tarkoitettu pohjustukseksi keskustelulle, osana laajempaa sidosryhmien kuulemista. Turvallisuutta koskeva jakso perustuu konedirektiivin 6 arviointiin 7 ja alan asiantuntijaryhmien 8 kanssa tehtyyn työhön. Vastuuvelvollisuutta koskeva jakso puolestaan perustuu tuotevastuudirektiivin 9 arviointiin 10 , alan asiantuntijaryhmien 11 panokseen ja yhteydenpitoon sidosryhmien kanssa. Tässä kertomuksessa ei pyritä esittämään tyhjentävää katsausta voimassa oleviin turvallisuutta ja vastuuta koskeviin sääntöihin, vaan keskitytään tähän mennessä havaittuihin keskeisiin kysymyksiin.
1.2.Tekoälyn, esineiden internetin ja robottitekniikan ominaispiirteet
Tekoälyllä, esineiden internetillä ja robottitekniikalla on monia yhteisiä ominaispiirteitä, kuten yhteenliitettävyys, autonomisuus ja riippuvuus datasta. Niiden ansiosta tehtäviä voidaan suorittaa joko kokonaan tai lähes ilman ihmisen ohjausta tai valvontaa. Tekoälyyn perustuvat teknologiat voivat myös parantaa suoritustaan itse oppimalla kokemuksista. Ne ovat monimutkaisia, minkä vuoksi toimitusketjussa on mukana monenlaisia talouden toimijoita, ja ne koostuvat mitä moninaisimmista komponenteista, osista, ohjelmista, järjestelmistä ja palveluista, jotka yhdessä muodostavat uusia teknologisia ekosysteemejä. Lisäksi ne ovat avoimia erilaisille päivityksille ja parannuksille markkinoille saattamisen jälkeen. Tekoälyä hyödyntävien tuotteiden käyttäytymistä on vaikeampi ennustaa ja mahdollisia vahinkojen syitä on vaikeampi selvittää, koska niihin liittyvän datan määrä on valtava ja toiminta perustuu algoritmeihin ja koska tekoälyyn perustuva päätöksenteko on läpinäkymätöntä. Tekoälyä ja esineiden internetiä hyödyntävät tuotteet ovat yhteenliitettävyytensä ja avoimuutensa vuoksi myös alttiita kyberuhkille.
1.3.Tekoälyn, esineiden internetin ja robotiikan luomat mahdollisuudet
Käyttäjien luottamuksen ja sosiaalisen hyväksynnän lisääminen kehittyviä teknologioita kohtaan sekä tuotteiden, prosessien ja liiketoimintamallien kehittäminen ja eurooppalaisen valmistusteollisuuden tehokkuuden parantaminen ovat vain muutamia esimerkkejä tekoälyn, esineiden internetin ja robotiikan luomista mahdollisuuksista.
Sen lisäksi, että tekoäly lisää tuottavuutta ja tehokkuutta, se antaa ihmiskunnalle mahdollisuuden kehittää älykkyyttä aivan uudelle tasolle ja tehdä uusia keksintöjä. Se voi myös auttaa ratkaisemaan joitakin maailman suurimmista haasteista, kuten kroonisten sairauksien hoitaminen, epidemioiden puhkeamisen ennustaminen, liikenneonnettomuuksista johtuvien kuolonuhrien määrän vähentäminen, ilmastonmuutoksen torjunta tai kyberturvallisuusuhkiin varautuminen.
Nämä teknologiat voivat tuoda monenlaisia etuja parantamalla tuotteiden turvallisuutta ja vähentämällä niiden alttiutta tietyille riskeille. Esimerkiksi verkottuneet automaattiset ajoneuvot voisivat parantaa liikenneturvallisuutta, sillä useimmat liikenneonnettomuudet johtuvat nykyään inhimillisistä virheistä. 12 Lisäksi esineiden internetiä hyödyntävät järjestelmät on suunniteltu niin, että ne pystyvät ottamaan vastaan ja käsittelemään valtavia määriä eri lähteistä tulevaa dataa. Suuremman tietomäärän ansiosta tuotteet voivat itse mukauttaa itseään turvallisemmiksi. Uudet teknologiat voivat osaltaan tehostaa myös tuotteiden takaisinvetoa, kun tuotteet voivat esimerkiksi varoittaa käyttäjiä turvallisuusongelmasta. 13 Jos verkkoon liitetyn laitteen käytössä ilmenee turvallisuusongelma, valmistaja voi olla suoraan yhteydessä käyttäjiin joko varoittaakseen heitä riskeistä tai mahdollisuuksien mukaan korjatakseen ongelman esimerkiksi toimittamalla turvallisuuspäivityksen. Esimerkiksi vuonna 2017 eräs älypuhelinten valmistaja toimitti viallisten laitteiden takaisinvedon yhteydessä niihin ohjelmistopäivityksen, joka nollasi takaisin vedettyjen puhelinten akun kapasiteetin 14 . Näin käyttäjät eivät voineet enää käyttää viallisia laitteita.
Uudet teknologiat voivat myös osaltaan parantaa tuotteiden jäljitettävyyttä. Esimerkiksi esineiden internetin yhteenliitettävyysominaisuuksien avulla yritykset ja markkinavalvontaviranomaiset voivat jäljittää vaaralliset tuotteet ja tunnistaa riskit koko toimitusketjussa. 15
Sen lisäksi, että tekoäly, esineiden internet ja robotiikka voivat tuoda taloudelle ja yhteiskunnillemme monenlaisia mahdollisuuksia, niihin liittyy myös riski siitä, että erilaisille oikeushyville aiheutuu aineellisia tai aineettomia vahinkoja. Tällaisten vahinkojen riski kasvaa sitä mukaa kun erilaisten sovellusten käyttökohteet lisääntyvät. Sen vuoksi on olennaisen tärkeää selvittää, riittääkö voimassa oleva turvallisuutta ja tuotevastuuta koskeva lainsäädäntökehys edelleen suojaamaan käyttäjiä, ja mitä ongelmia tähän mahdollisesti liittyy.
2.Turvallisuus
Komission tiedonannossa Luottamuksen rakentaminen ihmiskeskeiseen tekoälyyn todetaan, että tekoälyjärjestelmiin olisi integroitava sisäänrakennetun turvan ja turvallisuuden mekanismit, jotta voidaan varmistaa, että ne ovat todistettavasti turvallisia kaikissa vaiheissa ottaen huomioon kaikkien asianomaisten fyysinen ja henkinen turvallisuus. 16
Tässä jaksossa esitetyssä unionin tuoteturvallisuuslainsäädännön arvioinnissa selvitetään, sisältääkö voimassa oleva unionin säädöskehys tarvittavat elementit sen varmistamiseksi, että kehittyviin teknologioihin ja erityisesti tekoälyjärjestelmiin on integroitu sisäänrakennetun turvan ja turvallisuuden mekanismit.
Tässä tarkastellaan lähinnä yleistä tuoteturvallisuusdirektiiviä 17 sekä yhdenmukaistettua tuotelainsäädäntöä, joka perustuu teknistä yhdenmukaistamista ja standardeja koskevan uuden lähestymistavan 18 horisontaalisiin sääntöihin ja/tai ns. uuteen lainsäädäntökehykseen, jäljempänä ’unionin tuoteturvallisuuslainsäädäntö’ 19 . Horisontaalisilla säännöillä varmistetaan tuoteturvallisuutta koskevien alakohtaisten sääntöjen keskinäinen yhdenmukaisuus.
Unionin tuoteturvallisuuslainsäädännöllä pyritään varmistamaan, että unionin markkinoille saatetut tuotteet täyttävät korkeat terveys-, turvallisuus- ja ympäristövaatimukset ja että ne voivat liikkua vapaasti kaikkialla unionissa. Alakohtaista lainsäädäntöä 20 täydentää yleinen tuoteturvallisuusdirektiivi 21 , jossa edellytetään, että kaikkien kulutustavaroiden on oltava turvallisia, vaikka ne eivät kuuluisikaan unionin alakohtaisen lainsäädännön piiriin. Turvallisuussääntöjä täydentävät markkinavalvonta ja toimivalta, joka kansallisille viranomaisille on myönnetty markkinavalvonta-asetuksen 22 ja yleisen tuoteturvallisuusdirektiivin 23 nojalla. Liikenteen alalla sovelletaan lisäksi sekä unionin että kansallisen tason sääntöjä, jotka koskevat moottoriajoneuvon 24 , ilma-aluksen tai aluksen käyttöönottoa, ja selkeitä sääntöjä, jotka koskevat turvallisuutta käytön aikana sekä liikenteenharjoittajien tehtäviä ja viranomaisten valvontatehtäviä.
Myös eurooppalaiset standardointitoimet ovat olennainen osa unionin tuoteturvallisuuslainsäädäntöä. Koska digitalisaatio ja kehittyvät digitaaliteknologiat ovat globaaleja ilmiöitä, standardoinnin alalla tehtävä kansainvälinen yhteistyö on Euroopan teollisuuden kilpailukyvyn kannalta erityisen merkityksellistä.
Unionin tuoteturvallisuuslainsäädäntö on suurelta osin laadittu ennen tekoälyn, esineiden internetin ja robotiikan kaltaisten digitaaliteknologioiden syntyä. Siksi siitä ei aina löydy säännöksiä, jotka koskisivat nimenomaisesti näiden kehittyvien teknologioiden tuomia uusia haasteita ja riskejä. Voimassa oleva tuoteturvallisuuslainsäädäntö on kuitenkin teknologianeutraalia, minkä vuoksi sitä voidaan soveltaa myös tällaista teknologiaa sisältäviin tuotteisiin. Lisäksi tähän sääntelykehykseen kuuluu myös myöhemmin annettuja säädöksiä, jotka koskevat esimerkiksi lääkinnällisiä laitteita ja autoja ja joissa on jo nimenomaisesti otettu huomioon tiettyjä digitaaliteknologioihin liittyviä näkökohtia, kuten automatisoitu päätöksenteko, ohjelmisto erillisenä tuotteena ja yhteenliitettävyys.
Unionin nykyisen tuoteturvallisuuslainsäädännön taustalogiikka 25
Jäljempänä esitellään haasteita, joita kehittyvät digitaaliteknologiat tuovat unionin tuoteturvallisuuslainsäädännölle.
Yhteenliitettävyys on yhä useampien tuotteiden ja palvelujen keskeinen ominaisuus. Yhteenliitettävyys tuo haasteita perinteiselle turvallisuuskäsitykselle, sillä se voi vaarantaa tuotteen turvallisuuden sekä välittömästi että välillisesti, jos tuote on alttiina hakkeroinnille, mistä aiheutuu turvallisuusuhkia, jotka vaarantavat käyttäjien turvallisuuden.
Tästä on esimerkkinä Islannissa tehty lasten älykelloa koskeva ilmoitus 26 EU:n RAPEX-hälytysjärjestelmässä. Älykello ei voi aiheuttaa välitöntä haittaa sitä käyttävälle lapselle, mutta riittävän turvallisuustason puuttuessa sitä voidaan helposti käyttää välineenä lapsen tavoittamiseksi. Koska yksi älykellon käyttötarkoituksista on lapsen turvallisuuden varmistaminen paikannuksen avulla, kuluttajat eivät odota sen aiheuttavan lapsille turvallisuusuhkia sen vuoksi, että kuka tahansa voi sen avulla jäljittää lapsen ja/tai ottaa tähän yhteyttä.
Toinen esimerkki on Saksan tekemä henkilöautoa koskeva ilmoitus 27 . Autoradion ohjelmistossa voi olla turvallisuusaukkoja, joiden kautta kolmas osapuoli voi luvatta tunkeutua ajoneuvon verkkoyhteydellä varustettuun ohjausjärjestelmään. Jos kolmas osapuoli käyttää näitä ohjelmiston turvallisuusaukkoja vihamielisiin tarkoituksiin, voi tapahtua liikenneonnettomuus.
Myös teollisuuden sovellukset voivat olla alttiina kyberuhkille, jotka vaikuttavat ihmisten turvallisuuteen laajemminkin, jos sovellukset eivät ole riittävän turvallisia. Esimerkkinä tästä on tilanne, jossa teollisuuslaitoksen elintärkeään ohjausjärjestelmään kohdistetaan kyberhyökkäys. Tarkoituksena on aiheuttaa räjähdys, joka voi aiheuttaa kuolonuhreja.
Unionin tuoteturvallisuuslainsäädännössä ei yleensä aseteta erityisiä pakottavia keskeisiä vaatimuksia käyttäjien turvallisuuteen vaikuttavien kyberuhkien torjumiseksi. Turvallisuusnäkökohtiin liittyviä säännöksiä on kuitenkin lääkinnällisiä laitteita koskevassa asetuksessa 28 , mittauslaitteita koskevassa direktiivissä 29 , radiolaitedirektiivissä 30 ja ajoneuvojen tyyppihyväksyntää koskevassa lainsäädännössä 31 . Kyberturvallisuusasetuksessa 32 vahvistetaan tieto- ja viestintätekniikan tuotteiden, palvelujen ja prosessien kyberturvallisuuden sertifiointikehys, joka perustuu vapaaehtoisuuteen. Pakolliset vaatimukset vahvistetaan asiaa koskevassa unionin tuoteturvallisuuslainsäädännössä.
Turvallisuusriskit voivat liittyä myös siihen, että kehittyvien digitaaliteknologioiden verkkoyhteys saattaa katketa. Jos esimerkiksi verkkoon liitetyn palohälyttimen verkkoyhteys katkeaa, hälytin ei välttämättä ilmoita uhkaavasta tulipalosta.
Turvallisuus on voimassa olevan unionin tuoteturvallisuuslainsäädännön pakottava tavoite. Turvallisuuden käsite liittyy tuotteen käyttöön ja esimerkiksi mekaanisiin ja sähköisiin riskeihin, joihin on puututtava, jotta tuote olisi turvallinen. On huomattava, että kulloinkin sovellettavasta unionin tuoteturvallisuussäädöksestä riippuen tuotteen käyttö voi kattaa paitsi sen varsinaisen käyttötarkoituksen myös sen ennakoitavissa olevan käytön ja muun muassa konedirektiivin 33 yhteydessä jopa kohtuudella ennakoitavissa olevan väärinkäytön.
Unionin voimassa olevan tuoteturvallisuuslainsäädännön turvallisuuskäsitys vastaa laajennettua turvallisuuskäsitystä, jonka tarkoituksena on kuluttajien ja käyttäjien suojeleminen. Tuoteturvallisuuden käsite kattaa näin ollen suojan kaikenlaisilta riskeiltä, joita tuotteeseen voi liittyä. Nämä voivat olla paitsi mekaanisia, kemiallisia ja sähköisiä riskejä myös kyberriskejä ja riskejä, jotka liittyvät laitteen verkkoyhteyden katkeamiseen.
Käyttäjien suojelun parantamiseksi ja oikeusvarmuuden lisäämiseksi olisikin harkittava tätä koskevien nimenomaisten säännösten sisällyttämistä asiaa koskeviin unionin säädöksiin.
Autonomisuus 34 on yksi tekoälyn keskeisistä ominaispiirteistä. Tekoälyn käytöstä johtuvat tahattomat seuraukset voivat aiheuttaa vahinkoa käyttäjille ja muille sen toiminnan kohteena oleville henkilöille.
Siltä osin kuin tekoälytuotteiden käyttäytyminen voidaan määrittää ennalta valmistajan ennen tuotteiden markkinoille saattamista tekemän riskinarvioinnin perusteella, unionin tuoteturvallisuuslainsäädännössä asetetaan jo tuottajille velvollisuus ottaa riskinarvioinnissa huomioon tuotteiden käyttö 35 koko niiden elinkaaren ajan. Lisäksi valmistajien on annettava käyttäjille ohjeita ja turvallisuustietoja tai varoituksia. 36 Esimerkiksi radiolaitedirektiivissä 37 edellytetään, että valmistaja sisällyttää ohjeisiin tietoa siitä, miten laitetta on käytettävä sen käyttötarkoituksen mukaisesti.
Tulevaisuudessa voi olla myös tilanteita, joissa tekoälyjärjestelmien tuloksia ei voida kaikilta osin määrittää ennalta. Tällöin ennen tuotteen markkinoille saattamista tehdyssä riskinarvioinnissa ei välttämättä ole voitu ottaa kaikilta osin huomioon tuotteen käyttöä, toimintaa tai käyttäytymistä. Siltä osin kuin valmistajan alun perin suunnittelema varsinainen käyttötarkoitus muuttuu 38 tuotteen autonomisen käyttäytymisen seurauksena ja tämä vaikuttaa turvallisuusvaatimusten täyttymiseen, voitaisiin harkita, että itseoppivasta 39 tuotteesta olisi vaadittava uusi riskinarviointi.
Jos valmistajat saavat tietoonsa, että jokin tuote aiheuttaa elinkaarensa aikana turvallisuusriskejä, niillä on jo nykyisen lainsäädännön nojalla velvollisuus ilmoittaa asiasta välittömästi toimivaltaisille viranomaisille ja toteuttaa toimenpiteitä käyttäjille aiheutuvien riskien ehkäisemiseksi. 40
Ennen tuotteen markkinoille saattamista tehtävän riskinarvioinnin lisäksi voitaisiin edellyttää uutta riskinarviointimenettelyä siinä tapauksessa, että tuotteessa tapahtuu sen elinkaaren aikana merkittäviä muutoksia, esimerkiksi jos sen toimintatarkoitus muuttuu tavalla, jota valmistaja ei ole ottanut huomioon alkuperäisessä riskinarvioinnissa. Tässä olisi keskityttävä autonomisen käyttäytymisen aiheuttamiin turvallisuusvaikutuksiin tuotteen koko elinkaaren aikana. Riskinarvioinnin tekeminen olisi asianomaisen talouden toimijan tehtävä. Lisäksi asiaa koskevissa unionin säädöksissä voitaisiin asettaa valmistajille tiukemmat vaatimukset käyttäjille annettavien ohjeiden ja varoitusten osalta.
Vastaavat riskinarvioinnit vaaditaan jo liikennelainsäädännössä. 41 Esimerkiksi rautatieliikennelainsäädännössä edellytetään, että jos raideliikenteen kulkuneuvoa muutetaan sertifioinnin jälkeen, muutoksen toteuttajan on noudatettava erityistä menettelyä, ja selkeiden kriteerien perusteella määritetään, onko muutoksesta ilmoitettava viranomaisille.
Tekoälytuotteiden ja -järjestelmien itseoppivan ominaisuuden vuoksi koneet voivat tehdä päätöksiä, jotka poikkeavat siitä, mitä valmistajat ovat alun perin tarkoittaneet ja mitä käyttäjät tämän perusteella odottavat. Tämä herättää kysymyksiä ihmisen suorittaman valvonnan tarpeellisuudesta. Ihmisen olisi voitava päättää, siirretäänkö päätöksentekovaltuuksia tekoälytuotteille ja -järjestelmille, ja jos siirretään, millä tavoin, jotta voidaan toteuttaa ihmisen valitsemia tavoitteita. 42 Voimassa olevassa unionin tuoteturvallisuuslainsäädännössä ei nimenomaisesti käsitellä ihmisen suorittamaa valvontaa itseoppivien tekoälytuotteiden ja -järjestelmien yhteydessä. 43
Asiaa koskevissa unionin säädöksissä voidaan säätää ihmisen suorittamaa valvontaa koskevista erityisvaatimuksista suojatoimena, alkaen tuotesuunnittelusta tekoälytuotteiden ja -järjestelmien koko elinkaaren ajan.
Tekoälysovellusten tuleva ”käyttäytyminen” saattaa myös aiheuttaa käyttäjille mielenterveysongelmia 44 , jotka voivat johtua esimerkiksi siitä, että he joutuvat joko kotona tai työelämässä toimimaan yhteistyössä humanoidirobottien ja -järjestelmien kanssa. Tätä nykyä turvallisuudella tarkoitetaan yleensä kehittyvän digitaaliteknologian käyttäjälle aiheuttamaa fyysisen vahingon uhkaa. Toisaalta turvalliset tuotteet ovat unionin säädöskehyksen mukaan tuotteita, joihin ei liity mitään riskiä ihmisen terveydelle ja turvallisuudelle tai joihin liittyvä riski on mahdollisimman vähäinen. Terveyden määritelmän katsotaan yleensä kattavan sekä fyysisen terveyden että mielenterveyden. Säädöskehyksessä olisi kuitenkin mainittava tuoteturvallisuuden yhteydessä nimenomaisesti myös mielenterveyteen kohdistuvat riskit.
Esimerkiksi tuotteiden autonomisuus ei saisi aiheuttaa pitkään kestävää liiallista stressiä ja epämukavuutta, mikä voi vahingoittaa mielenterveyttä. Tässä yhteydessä seuraavien tekijöiden katsotaan vaikuttavan myönteisesti vanhusten 45 turvallisuudentunteeseen: turvalliset suhteet terveydenhuoltohenkilöstöön, päivittäisten rutiinien hallinta ja niitä koskevan tiedon saanti. Vanhusten kanssa toimivien robottien tuottajien olisi otettava nämä tekijät huomioon mielenterveysriskien ehkäisemiseksi.
EU:n lainsäädännössä voitaisiin asettaa esimerkiksi humanoidirobottien valmistajille nimenomaisia velvoitteita, joiden nojalla niiden olisi otettava huomioon aineettomat vahingot, joita tuotteista voi aiheutua erityisesti haavoittuvassa asemassa oleville käyttäjille, kuten hoitolaitoksissa oleville vanhuksille.
Tekoälytuotteiden ja -järjestelmien keskeisiin ominaisuuksiin kuuluu myös riippuvuus datasta. Jotta tekoälytuotteet ja -järjestelmät voivat tehdä päätöksiä valmistajan tarkoittamalla tavalla, on olennaisen tärkeää varmistaa käytetyn data-aineiston tarkkuus ja merkityksellisyys.
Unionin tuoteturvallisuuslainsäädännössä ei mainita erikseen virheellisestä datasta johtuvia turvallisuusriskejä. Tuotteen käyttötarkoituksesta riippuen valmistajien olisi kuitenkin otettava suunnittelu- ja testausvaiheessa huomioon datan tarkkuus ja sen merkitys turvallisuustoimintojen kannalta.
Esimerkiksi tiettyjen kohteiden havaitsemiseen tarkoitettujen tekoälyjärjestelmien voi olla vaikea tunnistaa kohteita heikossa valaistuksessa, joten suunnittelussa olisi otettava huomioon sekä normaalissa että heikossa valaistuksessa suoritetusta tuotetestauksesta saatu data.
Toinen esimerkki liittyy maatalousrobotteihin, kuten hedelmänpoimintarobotteihin, joiden on tarkoitus tunnistaa ja havaita puussa tai maassa olevat kypsät hedelmät. Nykyiset algoritmit onnistuvat tässä jo yli 90-prosenttisesti, mutta puutteet algoritmin taustalla olevassa data-aineistossa saattavat johtaa siihen, että robotti tekee vääriä päätöksiä ja vahingoittaa sen vuoksi eläimiä tai ihmisiä.
Herää kysymys, voitaisiinko unionin tuoteturvallisuuslainsäädännössä asettaa erityisiä vaatimuksia, joilla puututaan suunnitteluvaiheen virheellisestä datasta aiheutuviin turvallisuusriskeihin. Lisäksi voitaisiin säätää erityisvaatimuksia mekanismeille, joilla varmistetaan, että datan laatu säilyy koko tekoälytuotteiden ja -järjestelmien käytön ajan.
Läpinäkymättömyys on eräiden tekoälytuotteiden ja -järjestelmien keskeinen ominaisuus, joka voi seurata niiden kyvystä parantaa suorituksiaan itse oppimalla kokemuksista. Käytetystä metodologiasta riippuen tekoälytuotteet ja -järjestelmät voidaan jakaa eri ryhmiin läpinäkymättömyyden asteen mukaan. Läpinäkymättömyyden vuoksi järjestelmän päätöksentekoprosessia voi olla vaikea seurata (”musta laatikko” -vaikutus). Ihmisen ei välttämättä tarvitse ymmärtää päätöksentekoprosessin jokaista vaihetta, mutta sitä mukaa kun tekoälyalgoritmit kehittyvät ja niitä aletaan käyttää kriittisillä aloilla, on ratkaisevan tärkeää, että ihmiset pystyvät ymmärtämään, miten järjestelmän algoritmiin perustuvat päätökset syntyvät. Tämä on erityisen tärkeää täytäntöönpanon jälkivalvonnan yhteydessä, sillä sen ansiosta valvontaviranomaiset voivat jäljittää tekoälyjärjestelmän käyttäytymiseen ja valintoihin liittyvän vastuun. Tämä todetaan myös komission tiedonannossa Luottamuksen rakentaminen ihmiskeskeiseen tekoälyyn 46 .
Unionin tuoteturvallisuuslainsäädännössä ei nimenomaisesti käsitellä algoritmeihin perustuvien järjestelmien läpinäkymättömyydestä johtuvia kasvavia riskejä. Sen vuoksi on tarpeen tarkastella vaatimuksia, jotka koskevat algoritmien läpinäkyvyyttä sekä varmuutta ja vastuuvelvollisuutta ja tarvittaessa ihmisen suorittamaa valvontaa ja vääristymättömiä tuloksia 47 , mikä on erityisen tärkeää täytäntöönpanon jälkivalvonnan yhteydessä ja jotta voidaan parantaa luottamusta näiden teknologioiden käyttöön. Yksi keino tarttua tähän haasteeseen olisi velvoittaa algoritmien kehittäjät paljastamaan suunnittelussa käytetyt parametrit ja data-aineistojen metadata onnettomuuksien sattuessa.
Turvallisuusriskejä aiheuttaa myös tuotteiden ja järjestelmien monimutkaisuus. Kun erilaisia komponentteja, laitteita ja tuotteita yhdistetään, ne voivat vaikuttaa toistensa toimintaan (esimerkkinä älykodin ekosysteemin eri komponentit).
Tätä monimutkaisuutta käsitellään jo unionin tuoteturvallisuuslainsäädännössä, johon viitattiin tämän jakson alussa. 48 Sen mukaan valmistajien on otettava riskinarvioinnissa huomioon paitsi tuotteen varsinainen käyttötarkoitus, myös sen ennakoitavissa oleva käyttö ja tarvittaessa myös kohtuudella ennakoitavissa oleva väärinkäyttö.
Jos valmistaja on tarkoittanut, että jokin laite yhdistetään muihin laitteisiin ja että se toimii vuorovaikutuksessa niiden kanssa, tämä olisi otettava huomioon myös riskinarvioinnissa. Käyttö tai väärinkäyttö määritetään esimerkiksi samantyyppisen tuotteen käytöstä saatujen kokemusten, onnettomuustutkimusten tai ihmisen käyttäytymisen perusteella.
Järjestelmien monimutkaisuutta käsitellään yksityiskohtaisemmin alakohtaisessa turvallisuuslainsäädännössä, kuten lääkinnällisiä laitteita koskevassa asetuksessa, ja jossain määrin myös yleisessä tuoteturvallisuuslainsäädännössä 49 . Jos esimerkiksi verkkoon liitetyn laitteen on tarkoitus olla osa älykodin ekosysteemiä, valmistajan olisi voitava kohtuudella varautua siihen, että sen tuotteet vaikuttavat muiden tuotteiden turvallisuuteen.
Tätä monimutkaisuutta tarkastellaan järjestelmätasolla myös liikennelainsäädännössä. Autojen, junien ja lentokoneiden tyyppihyväksyntä ja sertifiointi tehdään paitsi koko ajoneuvon tai ilma-aluksen osalta myös jokaisen komponentin osalta erikseen. Ajoneuvojen katsastus, ilma-alusten lentokelpoisuus ja rautateiden yhteentoimivuus ovat osa turvallisuusarviointia. Liikenteen alalla järjestelmien on saatava viranomaisen hyväksyntä joko kolmannen osapuolen suorittaman, selkeisiin teknisiin vaatimuksiin perustuvan vaatimustenmukaisuusarvioinnin pohjalta tai sen jälkeen kun on osoitettu, miten riskejä käsitellään. Ratkaisu on yleensä tuote- ja järjestelmätason yhdistelmä.
Unionin tuoteturvallisuuslainsäädännössä ja myös liikennelainsäädännössä otetaan jo jossain määrin huomioon tuotteiden tai järjestelmien monimutkaisuus, jotta voidaan puuttua riskeihin, jotka saattavat vaikuttaa käyttäjien turvallisuuteen.
Monimutkaisiin järjestelmiin sisältyy usein ohjelmistoja, jotka ovat tekoälyyn perustuvien järjestelmien keskeinen komponentti. Lopputuotteen valmistajan on yleensä arvioitava alustavan riskinarvioinnin yhteydessä, mitä riskejä tuotteeseen integroitu ohjelmisto voi aiheuttaa siinä vaiheessa, kun tuote saatetaan markkinoille.
Joissakin unionin tuoteturvallisuussäädöksissä viitataan nimenomaisesti tuotteeseen integroituun ohjelmistoon. Esimerkiksi konedirektiivissä 50 edellytetään, että ohjausjärjestelmän ohjelmistovika ei saa aiheuttaa vaaratilanteita.
Unionin tuoteturvallisuuslainsäädäntöä sovellettaessa ohjelmistopäivityksiä voitaisiin verrata turvallisuussyistä tehtäviin kunnossapitotöihin, edellyttäen että ne eivät merkittävästi muuta jo markkinoille saatettua tuotetta eivätkä aiheuta uusia riskejä, joita ei ole otettu huomioon alustavassa riskinarvioinnissa. Jos ohjelmistopäivitys muuttaa merkittävästi tuotetta, johon se ladataan, koko tuotetta voidaan kuitenkin pitää uutena tuotteena. Tällöin on arvioitava uudelleen, täyttääkö se asiaa koskevan tuoteturvallisuuslainsäädännön vaatimukset silloin kun muutos tehdään. 51
Sen sijaan unionin alakohtaisessa harmonisoidussa tuoteturvallisuuslainsäädännössä ei yleensä säädetä erikseen itsenäisistä ohjelmistoista, jotka saatetaan markkinoille sellaisenaan tai ladataan sen jälkeen kun tuote on jo saatettu markkinoille. Itsenäisistä ohjelmistoista säädetään kuitenkin joissakin unionin säädöksissä, kuten lääkinnällisiä laitteita koskevassa asetuksessa. Lisäksi itsenäisiä ohjelmistoja, jotka ladataan sellaisiin verkkoon liitettyihin tuotteisiin, joiden viestintä perustuu tiettyihin radiomoduuleihin 52 , voidaan säännellä radiolaitedirektiivillä delegoitujen säädösten välityksellä. Radiolaitedirektiivissä edellytetään, että tiettyjen luokkien radiolaitteet tukevat ominaisuuksia, joilla taataan, ettei ohjelmiston lataaminen vaaranna laitteen vaatimustenmukaisuutta. 53
Unionin tuoteturvallisuuslainsäädännössä otetaan jo huomioon turvallisuusriskit, jotka johtuvat tuotteeseen ennen markkinoille saattamista integroiduista ohjelmistoista, ja valmistajan suunnittelemista myöhemmistä päivityksistä johtuvat mahdolliset riskit, voisi lisäksi olla tarpeen määrittää erityiset ja/tai nimenomaiset vaatimukset, jotka koskisivat itsenäisiä ohjelmistoja (esimerkiksi ladattavia sovelluksia). Erityistä huomiota olisi kiinnitettävä itsenäisiin ohjelmistoihin, joilla varmistetaan tekoälytuotteiden ja -järjestelmien turvallisuustoiminnot.
Saattaa olla tarpeen asettaa valmistajille lisävelvoitteita sen varmistamiseksi, että tuotteisiin lisätään ominaisuuksia, jotka estävät lataamasta tekoälytuotteisiin ohjelmistoja, jotka vaikuttavat turvallisuuteen tuotteen elinkaaren aikana.
Kehittyviin digitaaliteknologioihin vaikuttavat myös monimutkaiset arvoketjut. Ne eivät kuitenkaan ole mikään uusi asia eivätkä ne koske pelkästään tekoälyn tai esineiden internetin kaltaisia kehittyviä digitaaliteknologioita, vaan myös muun muassa tietokoneita, palvelurobotteja ja liikennejärjestelmiä.
Unionin tuoteturvallisuuslainsäädännön nojalla vastuu tuotteen turvallisuudesta on sillä valmistajalla, joka asettaa tuotteen markkinoille – riippumatta siitä, kuinka monimutkainen tuotteen arvoketju on. Valmistajat vastaavat lopputuotteen turvallisuudesta, myös tuotteeseen integroiduista osista, kuten tietokoneen ohjelmistosta.
Joissakin unionin tuoteturvallisuussäädöksissä viitataan jo nimenomaisesti tilanteisiin, joissa tietyn tuotteen valmistukseen osallistuu useita talouden toimijoita ennen kuin tuote saatetaan markkinoille. Esimerkiksi hissidirektiivissä 54 edellytetään, että se talouden toimija, joka suunnittelee ja valmistaa hissin, toimittaa asentajalle 55 ”kaikki tarvittavat asiakirjat ja tiedot, jotta tämä kykenee takaamaan hissin oikean ja turvallisen asentamisen ja testaamisen.”. Konedirektiivissä edellytetään, että laitteiden valmistajat toimittavat käyttäjälle ohjeet, joiden avulla laite pannaan kokoon toisen koneen kanssa. 56
Arvoketjujen monimutkaisuus on otettu huomioon unionin tuoteturvallisuuslainsäädännössä asettamalla velvoitteita useille talouden toimijoille jaetun vastuun periaatteen mukaisesti.
Valmistajan vastuu lopputuotteen turvallisuudesta on todettu asianmukaiseksi käytännöksi nykyisissä monimutkaisissa arvoketjuissa. Jos arvoketjut muuttuvat tulevaisuudessa vielä monimutkaisemmiksi, oikeusvarmuutta voitaisiin parantaa antamalla nimenomaisia säännöksiä, joissa arvoketjuun kuuluvia eri talouden toimijoita vaaditaan tekemään yhteistyötä käyttäjien kanssa. Kaikki arvoketjuun kuuluvat toimijat, jotka vaikuttavat tuotteen turvallisuuteen (esim. ohjelmiston valmistajat), ja käyttäjät (jotka mukauttavat tuotetta) olisivat osaltaan vastuussa ja velvollisia antamaan ketjun seuraavalle toimijalle tarvittavat tiedot ja toteuttamaan tarvittavat toimenpiteet.
3.Vastuu
Unionin tasolla vahvistetut tuoteturvallisuutta ja -vastuuta koskevat säännökset muodostavat kaksi toisiaan täydentävää mekanismia. Molempien tavoitteena on edistää tavaroiden sisämarkkinoiden toimintaa varmistamalla korkeatasoinen turvallisuus eli minimoimalla käyttäjille aiheutuvien vahinkojen riski ja säätämällä viallisista tavaroista aiheutuvien vahinkojen vuoksi myönnettävistä korvauksista.
Kansallisella tasolla näitä unionin sääntöjä täydentävät eri jäsenvaltioiden erilaiset siviilioikeudellista vastuuta koskevat kehykset, joissa säädetään eri syistä (esimerkiksi viallisten tuotteiden ja palvelujen vuoksi) myönnettävistä vahingonkorvauksista. Nämä säännökset koskevat eri vastuutahoja (kuten omistajia, toiminnanharjoittajia ja palveluntarjoajia).
Unionin turvallisuussääntöjen kehittäminen tekoälyn ominaisuuksien huomioon ottamiseksi voi auttaa vähentämään onnettomuuksia, mutta niitä ei kuitenkaan voida kokonaan välttää. Onnettomuuden sattuessa tarvitaan siviilioikeudellista vastuujärjestelmää. Tällaisilla säännöillä on yhteiskunnassamme kahtalainen merkitys: ensinnäkin niillä varmistetaan, että muiden aiheuttamien vahinkojen uhrit saavat korvauksen, ja toisaalta ne muodostavat korvausvastuussa olevan osapuolen kannalta taloudellisen kannustimen välttää tällaisten vahinkojen aiheuttamista. Vastuusäännöissä on aina löydettävä tasapaino siinä, miten kansalaisia suojellaan vahingoilta samalla kun annetaan yrityksille mahdollisuus innovointiin.
Vastuusäännöt ovat toimineet unionissa hyvin. Ne perustuvat siihen, että sovelletaan rinnakkain tuotevastuudirektiiviä (direktiivi 85/374/ETY), jolla on yhdenmukaistettu tuottajan vastuu viallisista tuotteista, ja muita kansallisia vastuujärjestelmiä, joita ei ole yhdenmukaistettu.
Tuotevastuudirektiivi tarjoaa suojelutason, jota kansalliset tuottamukseen perustuvat vastuusäännöt eivät voi tarjota yksinään. Direktiivillä otetaan käyttöön järjestelmä, jonka mukaan valmistajalla on objektiivinen vastuu tuotteissaan olevien vikojen aiheuttamista vahingoista. Vahingonkärsijällä on oikeus saada korvaus fyysisestä tai aineellisesta vahingosta, jos hän voi näyttää toteen vahingon ja tuotteen viallisuuden (eli että tuote ei ollut niin turvallinen kuin yleisöllä on oikeus odottaa) ja näiden välisen syy-yhteyden.
Kansallisissa, yhdenmukaistamattomissa järjestelmissä on tuottamukseen perustuvia vastuusääntöjä, joiden mukaan vahingonkärsijän on esitettävä näyttöä siitä, että vastuullinen taho on syyllistynyt virheeseen ja on aiheutunut vahinko ja että näiden välillä on syy-yhteys. Vasta tämän jälkeen hän voi esittää vahingonkorvausvaatimuksen. Kansallisissa järjestelmissä on myös objektiiviseen vastuuseen perustuvia järjestelmiä, joissa kansallinen lainsäätäjä on osoittanut vastuun tietystä riskistä määrätylle henkilölle. Tällöin uhrin ei tarvitse näyttää toteen tuottamusta/vikaa eikä syy-yhteyttä tuottamuksen/vian ja vahingon välillä.
Kansallisissa vastuujärjestelmissä säädetään tuotteiden ja palvelujen aiheuttamien vahinkojen uhreja varten useista rinnakkaisista vahingonkorvausvaatimuksista, jotka perustuvat joko tuottamukseen tai objektiiviseen vastuuseen. Nämä vaatimukset kohdistuvat usein eri vastuuhenkilöihin ja niihin liittyy erilaisia ehtoja.
Esimerkiksi auto-onnettomuuden uhrilla on yleensä oikeus esittää objektiiviseen vastuuseen perustuva vahingonkorvausvaatimus auton omistajaa (eli moottoriajoneuvon vastuuvakuutuksen ottajaa) vastaan ja tuottamukseen perustuva vahingonkorvausvaatimus auton kuljettajaa vastaan. Molemmat kanteet perustuvat kansalliseen siviilioikeuteen. Lisäksi uhri voi esittää tuotevastuudirektiivin nojalla kanteen auton valmistajaa vastaan, jos onnettomuus johtui autossa olleesta viasta.
Moottoriajoneuvovakuutuksia koskevien yhdenmukaistettujen sääntöjen mukaan ajoneuvon käyttöä varten on oltava vakuutus 57 , ja vakuutuksenantaja on käytännössä ensimmäisenä vastuussa aineellisten ja henkilövahinkojen perusteella maksettavista vahingonkorvauksista. Näiden sääntöjen mukaan pakollinen vakuutus takaa uhrille maksettavan korvauksen ja suojaa vakuutettua, joka on kansallisen siviilioikeuden sääntöjen 58 nojalla velvollinen maksamaan vahingonkorvausta onnettomuudesta, jossa ajoneuvo on ollut osallisena. Tuotevastuudirektiivissä ei velvoiteta valmistajia ottamaan vakuutusta. Itseohjautuvia ajoneuvoja ei kohdella unionin lainsäädännössä liikennevakuutuksen osalta eri tavoin kuin muita autoja. Itseohjautuvilla autoilla on oltava liikennevakuutus niin kuin muillakin autoilla, ja se on vahingonkärsijälle helpoin keino saada vahingonkorvaus.
Ottamalla asianmukainen vakuutus voidaan lieventää onnettomuuksien haittavaikutuksia tarjoamalla uhrille mahdollisuus saada vahingonkorvaus helposti. Selkeät vastuusäännöt auttavat vakuutusyhtiöitä arvioimaan riskit ja vaatimaan korvausta siltä osapuolelta, joka viime kädessä on vastuussa vahingosta. Jos onnettomuus esimerkiksi johtuu viasta, liikennevakuutuksen antaja voi vaatia korvausta valmistajalta sen jälkeen kun on maksanut korvauksen uhrille.
Tekoälyn, esineiden internetin ja robotiikan kaltaisten kehittyvien digitaaliteknologioiden ominaispiirteet voivat kuitenkin aiheuttaa haasteita sekä unionin että kansallisten vastuukehysten eri osatekijöille ja heikentää niiden tehokkuutta. Eräät näistä ominaispiirteistä voivat vaikeuttaa vahingon jäljittämistä ihmisen käyttäytymiseen, mikä olisi tarpeen tuottamukseen perustuvan kanteen nostamiseksi useimpien kansallisten sääntöjen mukaisesti. Tämä tarkoittaa, että kansalliseen vahingonkorvausoikeuteen perustuvien korvausvaateiden toteen näyttäminen voi olla vaikeaa tai kohtuuttoman kallista, minkä seurauksena uhrit eivät välttämättä saa asianmukaista korvausta. On tärkeää, että uhrit eivät joudu tyytymään heikompaan suojelutasoon silloin kun onnettomuus johtuu tekoälyn kaltaisiin kehittyviin digitaaliteknologioihin perustuvista tuotteista ja palveluista eikä vastaavista muista tuotteista ja palveluista, joiden aiheuttamista vahingoista he saisivat korvauksen kansallisen vahingonkorvausoikeuden nojalla. Tämä voisi vähentää näiden kehittyvien teknologioiden yhteiskunnallista hyväksyttävyyttä ja vähentää halukkuutta käyttää niitä.
On arvioitava, voivatko uusien teknologioiden nykyisille säädöskehyksille aiheuttamat haasteet johtaa myös oikeudelliseen epävarmuuteen sen suhteen, miten voimassa olevaa lainsäädäntöä olisi sovellettava (esimerkiksi miten tuottamuksen käsitettä olisi sovellettava tekoälyn aiheuttamaan vahinkoon). Tämä voisi puolestaan vähentää investointeja ja toisaalta lisätä valmistajien ja muiden arvoketjuun kuuluvien yritysten tiedotus- ja vakuutuskustannuksia erityisesti eurooppalaisten pk-yritysten osalta. Jos jäsenvaltiot puuttuisivat kansallisille vastuukehyksille aiheutuviin haasteisiin, säännöistä voisi tulla entistä hajanaisempia, mikä lisäisi innovatiivisten tekoälysovellusten saattamisesta markkinoille aiheutuvia kustannuksia ja vähentäisi rajatylittävää kauppaa sisämarkkinoilla. Yritysten on tärkeää tuntea vastuuriskinsä koko arvoketjun osalta ja pystyä vähentämään niitä tai välttämään ne ottamalla vakuutus, joka tarjoaa tehokkaan suojan näitä riskejä vastaan.
Tässä luvussa selitetään, mitä haasteita uudet teknologiat aiheuttavat nykyisille sääntelykehyksille ja miten näihin haasteisiin olisi puututtava. Lisäksi voi olla aiheellista kiinnittää erityistä huomiota eräiden alojen, kuten terveydenhuollon, erityisominaisuuksiin.
Tuotteiden, palvelujen ja arvoketjun monimutkaisuus: Teknologia ja teollisuus ovat kehittyneet viime vuosikymmeninä rajusti. Varsinkaan jakolinja tuotteiden ja palvelujen välillä ei ole enää yhtä selkeä kuin aiemmin. Tuotteet ja palvelujen tarjoaminen ovat yhä tiiviimmin sidoksissa toisiinsa. Vaikka monimutkaiset tuotteet ja arvoketjut eivät ole eurooppalaisessa teollisuudessa tai sen sääntelymallissa uusia ilmiöitä, ohjelmistoihin ja myös tekoälyyn on syytä kiinnittää erityistä huomiota tuotevastuun kannalta. Ohjelmistot ovat olennaisen tärkeitä monien tuotteiden toiminnalle ja voivat vaikuttaa niiden turvallisuuteen. Ohjelmisto on usein integroitu tuotteisiin, mutta se voidaan myös toimittaa erikseen, jotta tuotetta voidaan käyttää tarkoitetulla tavalla. Tietokone tai älypuhelin eivät olisi erityisen käyttökelpoisia ilman ohjelmistoa. Tämä tarkoittaa, että ohjelmisto voi tehdä aineellisesta tuotteesta viallisen ja aiheuttaa fyysistä vahinkoa (ks. turvallisuutta käsittelevässä jaksossa oleva ohjelmistoa koskeva laatikkoteksti). Tämä voisi viime kädessä johtaa tuotteen valmistajan vastuuvelvollisuuteen tuotevastuudirektiivin nojalla.
Koska ohjelmistoja on monentyyppisiä, ei ole aina itsestään selvää, pitäisikö tietty ohjelmisto luokitella palveluksi vai tuotteeksi. Jonkin aineellisen tuotteen toimintaa ohjaava ohjelmisto voitaisiin katsoa tuotteen osaksi tai komponentiksi, mutta eräiden itsenäisten ohjelmistojen luokitteleminen on vaikeampaa.
Tuotevastuudirektiivissä esitetty tuotteen määritelmä on laaja, mutta sen soveltamisalaa voitaisiin täsmentää niin, että siinä otettaisiin paremmin huomioon kehittyvien teknologioiden monimutkaisuus ja varmistettaisiin, että vahingonkorvauksen saaminen on aina mahdollista, kun vahinko on aiheutunut tuotteessa olevasta ohjelmiston tai muun digitaalisen ominaisuuden aiheuttamasta viasta. Näin talouden toimijat, kuten ohjelmistosuunnittelijat, voisivat helpommin arvioida, voidaanko niitä pitää tuotevastuudirektiivissä tarkoitettuina valmistajina.
Tekoälysovellukset on usein integroitu monimutkaisiin laiteympäristöihin, joissa monet erilaiset toisiinsa kytketyt laitteet ja palvelut toimivat yhdessä esineiden internetin avulla. Kun erilaisia digitaalisia komponentteja yhdistetään monimutkaiseksi ekosysteemiksi, jossa on osallisena monia eri toimijoita, voi olla vaikea arvioida, mistä potentiaalinen vahinko voi saada alkunsa ja kuka on vastuussa siitä. Näiden teknologioiden monimutkaisuuden vuoksi uhrien voi olla hyvin vaikea määrittää vastuutahoa ja täyttää kaikki ehdot, joita kansallisessa lainsäädännössä asetetaan vahingonkorvausvaatimuksen hyväksymiseksi. Tällaisen asiantuntemuksen kustannukset voivat olla niin suuret, että uhri luopuu korvauksen hakemisesta.
Lisäksi tekoälyyn perustuvat tuotteet ja palvelut ovat vuorovaikutuksessa myös perinteisten teknologioiden kanssa, mikä lisää tilanteen monimutkaisuutta entisestään myös vastuukysymysten osalta. Esimerkiksi itseohjautuvia autoja on liikenteessä vielä jonkin aikaa yhdessä perinteisten autojen kanssa. Vastaavia eri toimijoiden vuorovaikutuksen monimutkaisuuteen liittyviä seikkoja ilmenee myös tietyillä palvelualoilla (kuten liikenteenohjauksessa ja terveydenhuollossa), kun ihmisten päätöksenteossa käytetään apuna osittain automatisoituja tekoälyjärjestelmiä.
Vastuuta ja uusia teknologioita käsittelevän asiantuntijaryhmän uusia teknologioita käsittelevä kokoonpano on laatinut raportin 59 , jonka mukaan voitaisiin harkita kansallisten lakien mukauttamista tekoälyyn liittyvien vahinkojen uhrien todistustaakan keventämiseksi. Todistustaakka voitaisiin yhdistää esimerkiksi siihen, miten asianomainen toimija on noudattanut asiaa koskevia kyberturvallisuutta tai muita turvallisuutta koskevia lakisääteisiä velvoitteita. Jos näitä velvoitteita ei ole noudatettu, tuottamukseen ja syy-yhteyteen liittyvää todistustaakkaa voitaisiin mukauttaa.
Komissio kerää näkemyksiä siitä, olisiko monimutkaisuuden seurauksia aiheellista lieventää ja missä määrin antamalla EU:n aloite, jonka nojalla kansallisten vastuusääntöjen yhteydessä sovellettaisiin kevennettyä/käänteistä todistustaakkaa silloin kun vahinko johtuu tekoälyyn perustuvista sovelluksista.
Unionin lainsäädännön osalta voidaan todeta, että tuotevastuudirektiivin nojalla tuote, joka ei täytä pakollisia turvallisuusvaatimuksia, katsotaan turvallisuudeltaan puutteelliseksi riippumatta siitä, onko kyseessä valmistajan virhe. Voi myös olla aiheellista pohtia, miten uhrien todistustaakkaa voitaisiin keventää direktiivin nojalla: direktiivi perustuu näyttöä ja syy-yhteyden osoittamista koskeviin kansallisiin sääntöihin.
Yhteenliitettävyys ja avoimuus: Tällä hetkellä ei ole aivan selvää, mitkä ovat turvallisuusodotukset silloin kun vahinko johtuu siitä, että tuotteessa on rikottu kyberturvallisuutta, ja olisiko tällaisesta vahingosta mahdollista saada asianmukainen korvaus tuotevastuudirektiivin nojalla.
Tuotteessa voi olla kyberturvallisuuteen liittyviä puutteita alusta alkaen, jo silloin kun se lasketaan liikkeeseen. Toisaalta tällaiset puutteet voivat syntyä vasta paljon myöhemmin.
Tuottamukseen perustuvassa vastuujärjestelmässä toimijat voivat määrittää selkeiden kyberturvallisuutta koskevien vaatimusten perusteella, mitä niiden on tehtävä välttääkseen vastuusta johtuvat seuraukset.
Tuotevastuudirektiivin nojalla tärkeämmäksi voi nousta kysymys siitä, olisiko valmistaja voinut varautua ennalta tiettyihin muutoksiin ottamalla huomioon tuotteen kohtuudella ennakoitavan käytön. Voidaan esimerkiksi odottaa, että valmistajat alkavat yhä useammin vedota siihen, etteivät ne ole vastuussa tuotteen turvallisuuspuutteesta, jos se ei ollut olemassa vielä silloin kun tuote laskettiin liikkeeseen vaan syntyi myöhemmin. Toinen vastaava peruste on se, että turvallisuuspuutteeseen ei ollut mahdollista varautua senaikaisen uusimman tietämyksen perusteella. Vastuuta voisi vähentää myös se, että vahinkoa kärsinyt ei ole tehnyt tarvittavia turvallisuuspäivityksiä. Tätä voitaisiin pitää vahinkoa kärsineen myötävaikutuksena vahingon syntymiseen, mikä vähentäisi valmistajan vastuuta. Koska kohtuudella ennakoitavissa olevan käytön käsitteeseen ja vahinkoa kärsineen myötävaikutukseen, kuten turvallisuuspäivityksen laiminlyöntiin, voidaan vedota entistä useammin, vahinkoa kärsineiden voi olla vaikeampi saada vahingonkorvausta tuotteen puutteellisen turvallisuuden perusteella.
Autonomisuus ja läpinäkymättömyys: Tekoälysovellukset pystyvät toimimaan autonomisesti eli suorittamaan tehtäviä ilman, että niiden jokainen vaihe olisi ennalta määritetty, ja joko osittain tai kokonaan ilman ihmisen ohjausta tai valvontaa. Koneoppimiseen perustuvia algoritmeja voi olla vaikea tai suorastaan mahdoton ymmärtää (”musta laatikko” -vaikutus).
Edellä käsitellyn monimutkaisuuden ohella myös tämä joihinkin tekoälysovelluksiin sisältyvä musta laatikko -vaikutus saattaa vaikeuttaa korvauksen saamista autonomisten tekoälysovellusten aiheuttamista vahingoista. Algoritmin ja tekoälyn käyttämän datan ymmärtäminen edellyttää analyysivalmiuksia ja teknistä asiantuntemusta, jonka hankkiminen voi olla uhreille liian kallista. Sitä paitsi algoritmin ja datan tutkiminen voi olla mahdotonta, jos potentiaalisesti vastuussa oleva osapuoli ei ole halukas yhteistyöhön. Käytännössä uhrit eivät näin ollen pystyisi vaatimaan vahingonkorvausta. Lisäksi olisi epäselvää, miten autonomisesti toimivan tekoälysovelluksen virhe näytettäisiin toteen tai mitä pidettäisiin tekoälyn käyttöön luottaneen henkilön virheenä.
Kansallisissa laeissa on jo otettu käyttöön erilaisia ratkaisuja tällaisissa tilanteissa olevien uhrien todistustaakan keventämiseksi.
Unionin tuoteturvallisuus- ja tuotevastuulainsäädännön perusperiaatteena on, että valmistajan on huolehdittava kaikkien markkinoille saatettavien tuotteiden turvallisuudesta koko niiden elinkaaren ajan silloin kun tuotteita käytetään kohtuudella ennakoitavissa olevalla tavalla. Tämä tarkoittaa, että valmistajan olisi varmistettava, että tekoälyyn perustuva tuote täyttää tietyt turvallisuusvaatimukset. Tekoälyn ominaispiirteet eivät sulje pois sitä, että tuotteisiin kohdistuu tiettyjä turvallisuutta koskevia odotuksia, olipa kyseessä itseohjautuva ruohonleikkuri tai leikkausrobotti.
Autonomisuus voi vaikuttaa tuotteen turvallisuuteen muuttamalla merkittävästi sen ominaispiirteitä, esimerkiksi turvallisuusominaisuuksia. Kysymys kuuluu, millä edellytyksin itseoppivat ominaispiirteet pidentävät valmistajan vastuuta ja missä määrin valmistajan olisi pitänyt varautua tiettyihin muutoksiin.
Tuotevastuudirektiivissä käytettyä käsitettä ”laskea liikkeelle” voitaisiin tarkastella uudelleen, jotta siinä voitaisiin ottaa huomioon se, että tuotteet voivat muuttua ja että niitä voidaan muuttaa. Tällaiset tarkistukset olisi sovitettava tiiviisti yhteen unionin turvallisuuslainsäädäntöön tehtävien vastaavien tarkistusten kanssa. Näin olisi helpompi selvittää, kuka on vastuussa tuotteeseen tehtävistä muutoksista.
Vastuuta ja uusia teknologioita käsittelevän asiantuntijaryhmän uusia teknologioita käsittelevän kokoonpanon laatiman raportin 60 mukaan joidenkin autonomisten tekoälylaitteiden ja -palvelujen toiminnalla voi olla vastuun osalta erityinen riskiprofiili, koska ne voivat aiheuttaa huomattavaa vahinkoa tärkeille oikeushyville, joita ovat mm. henki, terveys ja varallisuus, ja vaarantaa yleisen turvallisuuden. Tämä koskee lähinnä julkisissa tiloissa liikkuvia tekoälylaitteita (kuten täysin itseohjautuvia autoja, drooneja 61 ja pakettirobotteja) tai tekoälypohjaisia palveluja, joihin liittyy vastaavia riskejä (esimerkkinä liikenteenohjauspalvelut, jotka ohjaavat tai valvovat ajoneuvoja, tai sähkönjakelun hallinta). Haasteet, joita autonomisuudesta ja läpinäkymättömyydestä aiheutuu kansallisille vahingonkorvaussäännöksille, voitaisiin ratkaista riskilähtöisen lähestymistavan avulla. Objektiiviseen vastuuseen perustuvien järjestelmien avulla voitaisiin varmistaa, että uhri saa riskin toteutuessa vahingonkorvauksen teon tuottamuksellisuudesta riippumatta. Olisi arvioitava huolellisesti, miten se, kenelle objektiivinen vastuu osoitetaan tällaisissa tilanteissa, vaikuttaa tekoälyn kehittämiseen ja käyttöönottoon, ja harkittava riskipohjaista lähestymistapaa.
Komissio kerää erityisen riskiprofiilin omaavien tekoälysovellusten käytön osalta näkemyksiä siitä, edellyttääkö asianmukaisten korvausten myöntäminen potentiaalisille uhreille objektiivista vastuuta, sellaisena kuin siitä säädetään kansallisissa laeissa sellaisten vastaavien riskien osalta, joille yleisö on alttiina (esimerkiksi moottoriajoneuvojen, lentokoneiden tai ydinvoimaloiden toiminta), ja jos niin missä määrin sitä olisi sovellettava. Komissio kerää näkemyksiä myös siitä, olisiko objektiiviseen vastuuseen yhdistettävä velvollisuus ottaa jokin tarjolla oleva vakuutus samaan tapaan kuin liikennevakuutusdirektiivissä edellytetään, jotta voidaan varmistaa vahingonkorvauksen saatavuus vastuussa olevan henkilön maksukyvystä riippumatta ja edistää samalla vahingoista aiheutuvien kustannusten vähentämistä.
Kaikkien muiden (eli useimpien) tekoälysovellusten toiminnan osalta komissio pohtii, onko syy-yhteyteen ja tuottamuksellisuuteen liittyvää todistustaakkaa tarpeen mukauttaa. Yksi tähän liittyvä ongelma, jonka myös vastuuta ja uusia teknologioita käsittelevän asiantuntijaryhmän uusia teknologioita käsittelevä kokoonpano nosti esiin raportissaan 62 , on tilanne, jossa mahdollisesti vastuullinen osapuoli ei ole pitänyt kirjaa vastuuvelvollisuuden arvioinnin kannalta merkityksellisistä tiedoista tai ei halua jakaa näitä tietoja uhrin kanssa.
4.Päätelmä
Sitä mukaa kun tekoälyn, esineiden internetin ja robotiikan kaltaiset uudet digitaaliteknologiat yleistyvät, esiin nousee tuoteturvallisuuteen ja -vastuuseen liittyviä uusia haasteita, kuten yhteenliitettävyys, autonomisuus, riippuvuus datasta, läpinäkymättömyys, tuotteiden ja järjestelmien monimutkaisuus, ohjelmistopäivitykset ja entistä monimutkaisemmat turvallisuudenhallintajärjestelmät ja arvoketjut.
Voimassa olevassa tuoteturvallisuuslainsäädännössä on useita puutteita, jotka on korjattava. Tämä koskee erityisesti yleistä tuoteturvallisuusdirektiiviä, konedirektiiviä, radiolaitedirektiiviä ja ns. uutta lainsäädäntökehystä. Tähän kehykseen kuuluvien eri säädösten mukauttaminen tehdään johdonmukaisesti ja yhdenmukaisella tavalla.
Uudet turvallisuushaasteet synnyttävät myös uusia vastuuseen liittyviä haasteita, joihin on puututtava, jotta voidaan varmistaa suojelun yhdenmukaisuus verrattuna perinteisten teknologioiden uhreihin ja säilyttää samalla tasapaino teknologisten innovaatioiden tarpeen kanssa. Näin voidaan edistää luottamusta uusiin kehittyviin digitaaliteknologioihin ja luoda investointivakautta.
Vaikka voimassa olevia vastuuvelvollisuutta koskevia unionin ja jäsenvaltioiden säädöksiä voidaan soveltaa myös kehittyviin teknologioihin, tekoälyyn liittyvien haasteiden laajuus ja yhteisvaikutukset vaikeuttavat korvausten myöntämistä uhreille kaikissa tapauksissa, joissa korvaus olisi perusteltu. 63 Siksi korvausten myöntäminen vahinkotapauksissa voi olla nykyisten sääntöjen perusteella joko epäoikeudenmukaista tai riittämätöntä. Tilanteen korjaamiseksi ja voimassa olevan lainsäädäntökehyksen mahdollisten epävarmuustekijöiden selvittämiseksi voitaisiin harkita, että tuotevastuudirektiiviin ja kansallisiin vastuujärjestelmiin tehtäisiin tiettyjä muutoksia asiaa koskevien EU:n aloitteiden pohjalta soveltaen kohdennettua ja riskilähtöistä lähestymistapaa, eli ottaen huomioon, että eri tekoälysovelluksiin liittyy erilaisia riskejä.
Tekoälyä käsittelevän korkean tason asiantuntijaryhmän (AI HLEG) antama määritelmä on saatavilla osoitteessa https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines
Esineiden internet on määritelty suosituksessa ITU-T Y.2060 osoitteessa https://www.itu.int/ITU-T/recommendations/rec.aspx?rec=y.2060
SWD(2016) 110, COM(2017) 9, COM(2018) 237 ja COM(2018) 795.
https://eur-lex.europa.eu/legal-content/FI/TXT/?uri=COM%3A2018%3A237%3AFIN .
Tiedonannon liitteenä olevassa komission yksiköiden valmisteluasiakirjassa SWD(2018) 137 ( https://eur-lex.europa.eu/legal-content/en/ALL/?uri=CELEX%3A52018SC0137 ) esitetään alustava kartoitus kehittyviin digitaaliteknologioihin liittyvistä vastuuta koskevista haasteista.
Direktiivi 2006/42/EY.
SWD(2018) 161 final.
Yleisestä tuoteturvallisuudesta annetulla direktiivillä 2001/95/EY perustettu kuluttajaturvallisuusverkko sekä konedirektiivillä 2006/42/EY ja radiolaitedirektiivillä 2014/53/EU perustetut asiantuntijaryhmät, jotka koostuvat jäsenvaltioiden ja alan teollisuuden sekä muiden sidosryhmien, kuten kuluttajajärjestöjen, edustajista.
Direktiivi 85/374/ETY.
COM(2018) 246 final.
Vastuuta ja uusia teknologioita käsittelevän asiantuntijaryhmän tehtävänä on antaa komissiolle asiantuntijatietoa tuotevastuudirektiivin ja siviilioikeudellista vastuuta koskevien kansallisten sääntöjen sovellettavuudesta sekä avustaa sitä ohjaavien periaatteiden laadinnassa uusiin teknologioihin liittyvän sovellettavan lainsäädännön mukauttamista varten. Ryhmä käsittää kaksi eri kokoonpanoa, joista toinen keskittyy tuotevastuuseen ja toinen uusiin teknologioihin, ks. http://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupDetail&groupID=3592&NewSearch=1&NewSearch=1 .
Uusia teknologioita käsittelevän kokoonpanon raportti Liability for Artificial Intelligence and other emerging technologies, ks. https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .
On arvioitu, että noin 90 prosenttia liikenneonnettomuuksista johtuu inhimillisistä virheistä. Ks. komission kertomus Autojen turvallisuuden parantaminen säästää ihmishenkiä EU:ssa (COM(2016) 787 final).
Auton kuljettajaa voidaan esimerkiksi ohjata hidastamaan vauhtia, jos edessäpäin on tapahtunut onnettomuus.
OECD (2018), ”Measuring and maximising the impact of product recalls globally: OECD workshop report”, OECD Science, Technology and Industry Policy Papers, No. 56, OECD Publishing, Pariisi, https://doi.org/10.1787/ab757416-en .
OECD (2018), ”Enhancing product recall effectiveness globally: OECD background report”, OECD Science, Technology and Industry Policy Papers, No. 58, OECD Publishing, Pariisi, https://doi.org/10.1787/ef71935c-en .
Komission tiedonanto Euroopan parlamentille, neuvostolle, Euroopan talous- ja sosiaalikomitealle ja alueiden komitealle: Luottamuksen rakentaminen ihmiskeskeiseen tekoälyyn, Bryssel 8.4.2019 (COM(2019) 168 final).
Euroopan parlamentin ja neuvoston direktiivi 2001/95/EY, annettu 3 päivänä joulukuuta 2001, yleisestä tuoteturvallisuudesta (EYVL L 11, 15.1.2002, s. 4–17).
EUVL C 136, 4.6.1985, s. 1.
Asetus (EY) N:o 2008/765 ja päätös (EY) N:o 2008/768.
Nämä säännöt eivät kata liikennettä ja ajoneuvoja koskevaa unionin lainsäädäntöä.
Euroopan parlamentin ja neuvoston direktiivi 2001/95/EY, annettu 3 päivänä joulukuuta 2001, yleisestä tuoteturvallisuudesta (EYVL L 11, 15.1.2002, s. 4–17).
Euroopan parlamentin ja neuvoston asetus (EY) N:o 765/2008, annettu 9 päivänä heinäkuuta 2008, tuotteiden kaupan pitämiseen liittyvää akkreditointia ja markkinavalvontaa koskevista vaatimuksista ja neuvoston asetuksen (ETY) N:o 339/93 kumoamisesta (EUVL L 218, 13.8.2008, s. 30–47), ELI: http://data.europa.eu/eli/reg/2008/765/oj , ja vuodesta 2021 alkaen Euroopan parlamentin ja neuvoston asetus (EU) 2019/1020, annettu 20 päivänä kesäkuuta 2019, markkinavalvonnasta ja tuotteiden vaatimustenmukaisuudesta sekä direktiivin 2004/42/EY ja asetusten (EY) N:o 765/2008 ja (EU) N:o 305/2011 muuttamisesta (EUVL L 169, 25.6.2019, p. 1–44), ELI: http://data.europa.eu/eli/reg/2019/1020/oj
Yleisen tuoteturvallisuusdirektiivin 8 artiklan 1 kohdan b alakohta.
Esimerkiksi direktiivi 2007/46/EY puitteiden luomisesta moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, osien ja erillisten teknisten yksiköiden hyväksymiselle, ja Euroopan parlamentin ja neuvoston asetus (EU) 2018/858, annettu 30 päivänä toukokuuta 2018, moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden hyväksynnästä ja markkinavalvonnasta, asetusten (EY) N:o 715/2007 ja (EY) N:o 595/2009 muuttamisesta sekä direktiivin 2007/46/EY kumoamisesta.
Kuvassa ei esitetä sääntelyvaatimuksia, jotka kattaisivat tuotteen koko elinkaaren eli myös käytön ja kunnossapidon. Se esitetään tässä vain esimerkkinä.
Islannissa tehty ilmoitus on julkaistu EU:n RAPEX-hälytysjärjestelmän verkkosivulla (A12/0157/19).
Saksasta peräisin oleva ilmoitus on julkaistu EU:n RAPEX-hälytysjärjestelmän verkkosivulla (A12/1671/15).
Asetus (EU) 2017/745 lääkinnällisistä laitteista.
Direktiivi 2014/32/EU, mittauslaitteiden asettamisesta saataville markkinoille.
Radiolaitedirektiivi 2014/53/EU.
Direktiivi 2007/46/EY puitteiden luomisesta moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, osien ja erillisten teknisten yksiköiden hyväksymiselle. Direktiivi kumotaan ja korvataan 1. syyskuuta 2020 alkaen asetuksella (EU) 2018/858 moottoriajoneuvojen ja niiden perävaunujen sekä tällaisiin ajoneuvoihin tarkoitettujen järjestelmien, komponenttien ja erillisten teknisten yksiköiden hyväksynnästä ja markkinavalvonnasta, asetusten (EY) N:o 715/2007 ja (EY) N:o 595/2009 muuttamisesta sekä direktiivin 2007/46/EY kumoamisesta.
Asetus (EU) 2019/881.
Konedirektiivi 2006/42/EY.
Tekoälypohjaiset tuotteet voivat toimia itsenäisesti havainnoimalla ympäristöään ja noudattamatta ennalta määrättyjä ohjeita, mutta niiden käyttäytymistä säätelevät niille annettu tehtävä ja muut niiden kehittäjien tekemät suunnitteluun liittyvät valinnat.
Unionin tuoteturvallisuuslainsäädännön mukaan valmistajien on otettava riskinarvioinnissa huomioon tuotteen varsinainen käyttötarkoitus, mutta myös sen ennakoitavissa oleva käyttö ja/tai kohtuudella ennakoitavissa oleva väärinkäyttö.
Euroopan parlamentin ja neuvoston päätös N:o 768/2008/EY, tehty 9 päivänä heinäkuuta 2008, tuotteiden kaupan pitämiseen liittyvistä yhteisistä puitteista ja päätöksen 93/465/ETY kumoamisesta (EUVL L 218, 13.8.2008, s. 82–128). Liitteessä I olevan R2 artiklan 7 kohta kuuluu seuraavasti: ”Valmistajien on varmistettava, että tuotteeseen liitetään ohjeet ja turvallisuustiedot, jotka annetaan kuluttajien ja muiden loppukäyttäjien helposti ymmärtämällä, kyseisen jäsenvaltion määräämällä kielellä.”
Direktiivin 10 artiklan 8 kohta, jossa viitataan loppukäyttäjille annettaviin ohjeisiin, ja liite VI, jossa viitataan EU-vaatimustenmukaisuusvakuutukseen.
Toistaiseksi ilmaisulla ”itseoppiva” tarkoitetaan tekoälyn yhteydessä lähinnä sitä, että kone voi oppia koulutuksen aikana. Vielä ei siis edellytetä, että tekoälykoneet jatkaisivat oppimista sen jälkeen kun ne on otettu käyttöön. Päinvastoin, etenkin terveydenhoitoalalla tekoälykoneet yleensä lakkaavat oppimasta sen jälkeen kun niiden koulutus on päättynyt. Näin ollen tekoälyjärjestelmien itsenäinen käyttäytyminen ei tässä vaiheessa tarkoita, että tuote suorittaisi muita kuin kehittäjiensä suunnittelemia tehtäviä.
Tämä on linjassa ns. Sinisen oppaan (EU:n tuotesääntöjen täytäntöönpano-opas, 2016) 2.1 kohdan kanssa.
Euroopan parlamentin ja neuvoston direktiivi 2001/95/EY, annettu 3 päivänä joulukuuta 2001, yleisestä tuoteturvallisuudesta, 5 artikla.
Jos rautatiejärjestelmään tehdään muutos, joka voi vaikuttaa turvallisuuteen (esim. tekninen, toiminnallinen tai organisationaalinen muutos, joka voi vaikuttaa käyttö- tai kunnossapitoprosessiin), noudatettava menettely on esitetty komission täytäntöönpanoasetuksen (EU) 2015/1136 liitteessä I (EUVL L 185, 14.7.2015, s. 6).
Jos kyseessä on ”merkittävä muutos”, riippumattoman arviointielimen olisi esitettävä muutoksen ehdottajalle turvallisuusarviota koskeva raportti. (Arviointielin voisi olla kansallinen turvallisuusviranomainen tai muu teknisesti pätevä viranomainen.)
Riskianalyysiprosessin perusteella muutoksen ehdottaja toteuttaa tarvittavat toimenpiteet riskien lieventämiseksi (jos ehdottaja on rautatieyritys tai rataverkon haltija, asetuksen soveltaminen on osa sen turvallisuudenhallintajärjestelmää, jonka soveltamista valvoo kansallinen turvallisuusviranomainen).
Policy and Investment Recommendations for Trustworthy AI, tekoälyä käsittelevä korkean tason asiantuntijaryhmä, kesäkuu 2019.
Tämä ei kuitenkaan sulje pois sitä, että valvonta voi olla tarpeen tietyssä tilanteessa joidenkin voimassa olevien, tuotteen markkinoille saattamista koskevien yleisempien velvoitteiden nojalla.
Maailman terveysjärjestön (WHO) perussäännön johdanto-osan ensimmäisessä kohdassa todetaan seuraavaa: ”Terveys on täydellisen ruumiillisen, henkisen ja sosiaalisen hyvinvoinnin tila eikä ainoastaan taudin tai raihnaisuuden puuttuminen.” (https://www.finlex.fi/fi/sopimukset/sopsteksti/1948/19480026)
Social Robots: Technological, Societal and Ethical Aspects of Human-Robot Interaction, s. 237–264, Research, Neziha Akalin, Annica Kristoffersson ja Amy Loutfi, heinäkuu 2019.
https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top
Korkean tason asiantuntijaryhmän Luotettavaa tekoälyä koskevissa eettisissä ohjeissa ehdottamien keskeisten vaatimusten pohjalta: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines
Asetus (EY) N:o 2008/765 ja päätös (EY) N:o 2008/768 sekä harmonisoitu alakohtainen tuoteturvallisuuslainsäädäntö, kuten konedirektiivi 2006/42/EY.
Yleisen tuoteturvallisuusdirektiivin 2 artiklassa täsmennetään, että tuotteen turvallisuuden määrittämisessä on otettava huomioon ”sen vaikutus muihin tuotteisiin, jos on kohtuullisen todennäköistä, että sitä käytetään yhdessä muiden tuotteiden kanssa”.
Konedirektiivin liitteessä I oleva 1.2.1 kohta.
”Sininen opas” EU:n tuotesääntöjen täytäntöönpanosta, 2016 .
Radiomoduulit ovat elektronisia laitteita, jotka lähettävät ja/tai vastaanottavat radiosignaaleja (WIFI, Bluetooth) kahden laitteen välillä.
Radiolaitedirektiivin 3 artiklan 3 kohdan i luetelmakohta.
Direktiivin 2014/33/EU 16 artiklan 2 kohta.
Hissidirektiivin 2014/33/EU mukaan asentaja rinnastetaan valmistajaan, joten asentaja vastaa hissin suunnittelusta, valmistuksesta, asennuksesta ja markkinoille saattamisesta.
Konedirektiivin liitteessä I olevassa 1.7.4.2 kohdassa säädetään seuraavaa: ”Jokaisessa ohjekirjassa on tarvittaessa oltava vähintään seuraavat tiedot:” i) ”koneen kokoonpano-, asennus- ja kytkentäohjeet, joihin sisältyvät piirustukset, kaaviot ja kiinnitysvälineitä koskevat tiedot sekä sellaisen rungon tai rakenteen kuvaus, jolle kone on tarkoitus asentaa;”
Nämä säännöt on yhdenmukaistettu moottoriajoneuvojen osalta direktiivillä 2009/103/EY moottoriajoneuvojen käyttöön liittyvän vastuun varalta otettavasta vakuutuksesta ja vakuuttamisvelvollisuuden voimaansaattamisesta.
Useimmissa jäsenvaltioissa objektiivista vastuuta sovelletaan henkilöön, jonka nimiin ajoneuvo on rekisteröity.
Liability for Artificial Intelligence and other emerging technologies
Liability for Artificial Intelligence and other emerging technologies
Vrt. miehittämättömät ilma-alusjärjestelmät, joista säädetään säännöistä ja menetelmistä miehittämättömien ilma-alusten käytössä 24 päivänä toukokuuta 2019 annetussa komission täytäntöönpanoasetuksessa (EU) 2019/947.
Liability for Artificial Intelligence and other emerging technologies
Ks. Uusia teknologioita käsittelevän kokoonpanon raportti, s. 3, ja tekoälyä käsittelevän korkean tason työryhmän toimintapoliittinen suositus 27.2.