EUROOPA KOMISJON

Brüssel,19.2.2020

COM(2020) 64 final

KOMISJONI ARUANNE EUROOPA PARLAMENDILE, NÕUKOGULE NING EUROOPA MAJANDUS- JA SOTSIAALKOMITEELE

Aruanne selle kohta, milline on tehisintellekti, asjade interneti ja robootika mõju ohutusele ja vastutusele

Aruanne selle kohta, milline on tehisintellekti, asjade interneti ja robootika mõju ohutusele ja vastutusele

1.Sissejuhatus

Tehisintellekt, 1 asjade internet 2 ja robootika loovad meie ühiskonna jaoks uusi võimalusi ja hüvesid. Komisjon on tunnistanud nende tehnoloogiate tähtsust ja potentsiaali ning vajadust teha neis valdkondades märkimisväärseid investeeringuid 3 . Komisjonil on kindel kavatsus teha Euroopast tehisintellekti, asjade interneti ja robootika valdkonna eestvedaja kogu maailmas. Selle eesmärgi saavutamiseks on vaja selget ja prognoositavat õigusraamistikku, mis aitaks lahendada tehnoloogilisi probleeme.

1.1.Praegune ohutus- ja vastutusraamistik

Ohutuse ja vastutuse õigusraamistike üldine eesmärk on tagada, et kõik tooted ja teenused, ka need, milles kasutatakse kujunemisjärgus digitehnoloogiat, töötavad ohutult, usaldusväärselt ja stabiilselt ning et tekkinud kahju heastatakse tõhusalt. Uusi digitehnoloogiaid kasutavate toodete ja süsteemide ohutuse kõrge tase ning tekkinud kahju heastamise töökindlad mehhanismid (st vastutusraamistik) aitavad tarbijaid paremini kaitsta. See tekitab selliste tehnoloogiate vastu usaldust, mis on eeltingimus, et tööstus ja kasutajad neid tehnoloogiaid kasutama hakkaksid. See omakorda suurendab meie tööstuse konkurentsivõimet ja aitab saavutada liidu eesmärke 4 . Tehisintellekti, asjade interneti ja robootika taoliste uute tehnoloogiate kujunemise ajal on selge ohutus- ja vastutusraamistik eriti oluline nii tarbijakaitse kui ka ettevõtjate õiguskindluse tagamiseks.

Liidul on kindel ja usaldusväärne ohutus- ja tootevastutuse õigusraamistik ning kindlad ohutusstandardid, mida täiendavad ühtlustamata riiklikud õigusaktid vastutuse reguleerimise kohta. Koos tagavad need kodanike heaolu ühtsel turul ning soodustavad innovatsiooni ja tehnoloogiliste lahenduste kasutuselevõttu. Samas muudavad tehisintellekt, asjade internet ja robootika paljude toodete ja teenuste omadusi.

25. aprillil 2018 vastu võetud teatises „Tehisintellekt Euroopa huvides“ 5 anti teada, et komisjon esitab aruande, milles hinnatakse kujunemisjärgus digitehnoloogiate mõju olemasolevatele ohutus- ja vastutusraamistikele. Selles aruandes tahetakse välja selgitada tehisintellekti, asjade interneti ja robootika vastutus- ja ohutusraamistikega seotud laiem mõju ja võimalikud lüngad neis raamistikes ning neid analüüsida. Käesolevas, tehisintellekti valgele raamatule lisatud aruandes kirjeldatud suundumused on mõeldud arutelu ainesena ja esitatud laiema sidusrühmadega konsulteerimise raames. Ohutust käsitlev osa põhineb masinadirektiivi 6 hindamisel 7 ja asjaomaste eksperdirühmadega 8 tehtud koostööl. Vastutust käsitlev osa põhineb tootevastutuse direktiivi 9 hindamisel, 10 asjaomaste eksperdirühmade sisendil 11 ja suhetel sidusrühmadega. Aruande eesmärk ei ole anda ammendavat ülevaadet ohutuse ja vastutuse normidest, pigem keskendutakse peamistele seni kindlaks tehtud küsimustele.

1.2.Tehisintellekti, asjade interneti ja robootika tehnoloogiate tunnused

Tehisintellektil, asjade internetil ja robootikal on palju ühiseid tunnuseid. Neis võivad kokku saada ühenduvus, autonoomsus ja andmesõltuvus, et täita mingeid ülesandeid nii, et inimeste juhtimine või järelevalve puudub täiesti või on minimaalne. Tehisintellekti kasutavad süsteemid saavad oma töö tulemuslikkust parandada ka kogemustest õppimisega. Nende valdkondade keerukust näitab nii tarneahelas osalevate ettevõtjate arvukus kui ka uusi tehnoloogilisi ökosüsteeme moodustavate komponentide, osade, tarkvara, süsteemide ja teenuste paljusus. Sellele lisandub asjaolu, et pärast turule laskmist on lahendused avatud uuendustele ja täiendustele. Suurte andmehulkade kasutamise, algoritmipõhisuse ning tehisintellekti otsustusprotsessi läbipaistmatuse tõttu on keeruline prognoosida tehisintellekti kasutava toote käitumist ja mõista kahju võimalikke põhjuseid. Lisaks kõigele muule võivad ühenduvuse ja avatuse tõttu ähvardada asjade internetti ja tehisintellektitooteid küberohud.

1.3.Tehisintellekti, asjade interneti ja robootika loodavad võimalused

Kasutajate suurem usaldus kujunemisjärgus tehnoloogiate vastu ja nende laialdasem sotsiaalne vastuvõetavus; toodete, protsesside ja ärimudelite täiustamine ning Euroopa tootjate toetamine tõhususe suurendamisel on vaid mõned üksikud näited tehisintellekti, asjade interneti ja robootika loodud võimalustest.

Lisaks tootlikkuse ja tõhususe suurendamisele annab tehisintellekt inimkonnale lootust arendada välja seninägemata intellekt, mis aitaks avada uksi uutele avastustele ja lahendada maailma suurimaid probleeme alates krooniliste haiguste ravist, haiguspuhangute prognoosimisest ja liiklusõnnetustes hukkunute arvu vähendamisest kuni kliimamuutuste vastu võitlemise ja küberohtude ennetamiseni.

Kirjeldatud tehnoloogiad võivad tuua palju kasu tänu tooteohutuse parandamisele, mis vähendab vastuvõtlikkust teatavatele riskidele. Näiteks võib sõidukite ühenduvuse ja automatiseerimisega paraneda liiklusohutus, sest praegu on liiklusõnnetuste põhjuseks enamasti inimlik viga 12 . Pealegi on asjade interneti süsteemid loodud selliseks, et nad suudavad võtta vastu ja töödelda eri allikatest pärit suuri andmehulki. Suuremat teabehulka võib kasutada selleks, et tooted ise kohaneksid ja muutuksid seega ohutumaks. Uued tehnoloogiad võivad tõhustada toodete tagasikutsumist, näiteks võiks toode edastada kasutajatele hoiatuse, et aidata neil ohutusega seotud probleemi vältida 13 . Kui ühendatud toote kasutamisel tekib mingi oht, saavad tootjad kasutajatega otse suhelda nii selleks, et kasutajaid riskide eest hoiatada, kui ka selleks, et võimaluse korral probleem otse lahendada näiteks ohutusseadete uuendamisega. Näiteks üks nutitelefonide tootja kasutas 2017. aastal ühe oma seadme tagasikutsumiseks tarkvarauuendust, millega vähendati tagasikutsutud telefonidel akude mahtuvus nullini, 14 et kasutajad lõpetaksid ohtlike seadmete kasutamise.

Lisaks eelöeldule võivad uued tehnoloogiad aidata parandada toodete jälgitavust. Näiteks võivad ettevõtjad ja turujärelevalveasutused tänu asjade interneti ühenduvusfunktsioonidele jälgida ohtlikke tooteid ja tuvastada riske kogu tarneahela ulatuses 15 .

Ühest küljest võivad tehisintellekt, asjade internet ja robootika luua majanduse ja ühiskonna jaoks uusi võimalusi, kuid teisalt võivad kaasnevad riskid kahjustada seadusega kaitstud huve, nii materiaalseid kui ka moraalseid. Rakendusvaldkonna laienedes sellise kahju risk üha kasvab. Seoses sellega on oluline analüüsida, kas ja mil määral on praegune ohutust ja vastutust reguleeriv õigusraamistik kasutajate kaitsmiseks endiselt sobiv.

2.Ohutus

Komisjoni teatises „Usalduse loomine inimkeskse tehisintellekti vastu“ on öeldud, et tehisintellekti süsteemidel peaksid olema sisseprojekteeritud ohutus- ja turbemehhanismid, mis tagaksid, et süsteemid on igas etapis kontrollitavalt ohutud ning lähtuvad sellest, et olulisim on kõigi asjaosaliste füüsiline ja vaimne turvalisus 16 .

Käesolevas punktis esitatud hinnangus liidu tooteohutusalastele õigusaktidele analüüsitakse, kas liidu praegune õigusraamistik sisaldab asjakohaseid elemente, mis tagaksid, et ohutus- ja turbemehhanismid oleksid kujunemisjärgus tehnoloogiatesse ja eeskätt tehisintellektisüsteemidesse sisse projekteeritud.

Käesolevas aruandes käsitletakse peamiselt üldist tooteohutuse direktiivi 17 ja tooteid käsitlevaid ühtlustatud õigusakte, mis järgivad uue lähenemisviisi 18 ja/või uue õigusraamistiku horisontaalseid norme (edaspidi „liidu tooteohutusalased õigusaktid või -raamistik“) 19 . Horisontaalsed õigusnormid tagavad valdkondlike tooteohutusnormide ühtsuse.

Liidu tooteohutusalaste õigusaktide eesmärk on tagada, et liidu turule lastud tooted vastaksid rangetele tervishoiu-, ohutus- ja keskkonnanõuetele ning et sellised tooted saaksid kogu liidus vabalt ringelda. Valdkondlikke õigusakte 20 täiendab üldise tooteohutuse direktiiv, 21 milles on sätestatud nõue, et kõik tarbekaubad peavad olema ohutud ka siis, kui nende suhtes ei kohaldata liidu valdkondlikke õigusakte. Ohutusnorme täiendavad turujärelevalve ja õigused, mis on riikide ametiasutustele antud turujärelevalve määruse 22 ja üldise tooteohutuse direktiivi 23 alusel. Transpordi valdkonnas on olemas liidu ja liikmesriikide täiendavad õigusnormid mootorsõidukite, 24 õhusõidukite ja laevade kasutuselevõtmise kohta ning samuti on olemas selged normid, mis reguleerivad käitamisaegset ohutust, sh käitajate ülesanded ja ametiasutuste järelevalvealased ülesanded.

Ka Euroopa standardimisalane tegevus on liidu tooteohutusalaste õigusaktide oluline element. Arvestades, et digitaliseerimine ja kujunemisjärgus digitehnoloogia on olemuselt ülemaailmsed, on rahvusvaheline standardimisalane koostöö Euroopa tööstuse konkurentsivõime seisukohast eriti oluline.

Suur osa liidu tooteohutuse raamistikust on koostatud enne selliste digitehnoloogiate esilekerkimist nagu tehisintellekt, asjade internet ja robootika. Seega ei sisalda see alati sätteid, milles käsitletaks sõnaselgelt nende kujunemisjärgus tehnoloogiatega seotud uusi probleeme ja riske. Kuid kuna kehtiv tooteohutuse raamistik on tehnoloogianeutraalne, ei jää neid tehnoloogiaid sisaldavad tooted seepärast veel kehtivate õigusaktide kohaldamisalast üldse välja. Pealegi on hilisemates sellesse raamistikku kuuluvates õigusaktides (nt meditsiiniseadmete või autode valdkonnas) juba sõnaselgelt nimetatud mõningaid digitehnoloogiate kasutuselevõtu aspekte (nt automatiseeritud otsuste tegemine, tarkvara kui eraldi toode ning ühenduvus).

Kehtivate liidu tooteohutusalaste õigusaktide loogiline raamistik 25

Allpool kirjeldatakse probleeme, mida kujunemisjärgus digitehnoloogiad liidu tooteohutuse raamistiku seisukohast kaasa toovad.

Ühenduvus on üha rohkemate toodete ja teenuste üks põhiomadus. See omadus on ohutuse tavapärase käsituse seisukohast problemaatiline, sest ühenduvus võib kahjustada toote ohutust otseselt või ka kaudselt, kui seda saab häkkida, mis põhjustab turvaohte ja kahjustab kasutajate turvalisust.

Võtame näiteks juhtumi, kui Island teatas ELi kiire teabevahetuse süsteemi kaudu lastele mõeldud nutikellast 26 . Selline toode ei kahjusta otseselt last, kes seda kannab, kuid kuna see ei vasta minimaalsetele turvanõuetele, siis saab seda kergesti kasutada vahendina lapsega suhtlemiseks. Üks sellise toote kavandatud eesmärk on tagada lapse asukoha kindlaksmääramisega tema turvalisus ning seega eeldavad tarbijad, et seade ei ohusta lapse turvalisust näiteks seeläbi, et tema asukoha saab kindlaks määrata ja/või temaga ühendust võtta ükskõik kes.

Veel üks näide on pärit teatisest, mille Saksamaa esitas sõiduauto kohta 27 . Sõidukis oleva raadio tarkvaras võivad olla teatavad turvaaugud, mille kaudu võivad volitamata kolmandad isikud saada juurdepääsu sõiduki omavahel ühendatud juhtimissüsteemidele. Kui kolmas isik otsustaks neid turvaauke kuritarvitada, võib tagajärjeks olla liiklusõnnetus.

Küberohtudele võivad avatud olla ka tööstusrakendused ning kui selliste rakenduste turvalisuse tase jätab soovida, võib see mõjutada paljude inimeste turvalisust. Nii võib juhtuda näiteks siis, kui tööstusrajatise elutähtsat juhtimissüsteemi tabab küberrünne, mille eesmärk on tekitada plahvatus, milles inimesed võivad hukka saada.

Üldiselt ei sisalda liidu tooteohutusalased õigusaktid konkreetseid kohustuslikke olulisi nõudeid, mis puudutaksid kasutajate ohutust mõjutavaid küberohte. Küll aga sisaldavad turvalisusaspekte käsitlevaid sätteid meditsiiniseadmete määrus, 28 mõõtevahendite direktiiv, 29 raadioseadmete direktiiv 30 ja sõidukite tüübikinnitust käsitlevad õigusaktid 31 . Küberturvalisuse määrusega 32 on loodud info- ja kommunikatsioonitehnoloogia (IKT) toodete, teenuste ja protsesside küberturvalisuse vabatahtliku sertifitseerimise raamistik, samas kui kohustuslikud nõuded on ette nähtud liidu asjaomaste tooteohutusalaste õigusaktidega.

Ohutusega seotud riskid võivad kaasneda ka sellega, kui kujunemisjärgus digitehnoloogia peaks minetama võrkuühenduvuse. Näiteks juhul, kui võrku ühendatud tuletõrjealarm minetab ühenduvuse, ei pruugi see kasutajat tulekahju korral hoiatada.

Praegustes liidu tooteohutusalastes õigusaktides on ohutus avaliku poliitika eesmärk. Ohutuse käsitus on seotud toote kasutamise ja (nt mehaaniliste, elektriliste vms) riskidega, millega tuleb toote ohutuse tagamiseks tegeleda. Sealjuures tuleb märkida, et olenevalt konkreetsest liidu tooteohutuse õigusaktist ei hõlma toote kasutamine mitte ainult selle kavandatud kasutamist, vaid ka eeldatavat kasutamist ja mõningatel juhtudel, nt masinadirektiivi 33 puhul, ka mõistlikult eeldatavat väärkasutamist.

Üks tehisintellekti olulisi omadusi on autonoomsus 34 . Tehisintellektist tulenevad soovimatud tagajärjed võivad kahjustada kasutajaid ja teisi kokkupuutuvaid isikuid.

Kuivõrd tehisintellektitoodete tulevast „käitumist“ saab ette kindlaks määrata riskihindamisega, mille tootja teeb enne toodete turule laskmist, siis on liidu tooteohutuse raamistikus niigi sätestatud kohustus, et tootjad peavad oma riskihindamises võtma arvesse toodete kasutamist 35 kogu nende elutsükli käigus. Ühtlasi on seal sätestatud, et tootjad peavad andma kasutajatele juhiseid ja ohutusteavet või neid hoiatama 36 . Sellega seoses nõutakse näiteks raadioseadmete direktiivis, 37 et tootja esitatud juhised sisaldaks teavet selle kohta, kuidas raadioseadmeid kavandatud kasutust silmas pidades kasutada.

Tulevikus võib ette tulla ka olukordi, kus tehisintellekti süsteemi töö tulemusi ei ole võimalik täielikult ette kindlaks määrata. Sellises olukorras ei pruugi enne toote turule laskmist tehtud riskihindamine enam kajastada toote kasutamist, toimimist ega käitumist. Kui sellistel juhtudel peaks tootja poolt algselt ette nähtud kasutusotstarve autonoomse käitumise tõttu muutuma 38 ning kui see peaks mõjutama vastavust ohutusnõuetele, võib kaaluda, kas nõuda iseõppiva toote uut hindamist 39 .

Praeguse raamistikuga on juba ette nähtud, et kui tootja saab teada, et toode tekitab oma olelusringi jooksul riske, mis mõjutavad ohutust, peab ta viivitamata teavitama pädevaid asutusi ja võtma meetmeid, et hoida ära kasutajate ohtu sattumine 40 .

Tehisintellekti toodete ja süsteemide iseõppimisfunktsioon võib lasta masinal teha otsuseid, mis kalduvad kõrvale tootjate poolt algselt kavandatust ja seega ka sellest, mida kasutajad ootavad. See tekitab küsimusi inimesepoolse kontrolli kohta, et inimesed saaksid valida, kuidas ja kas delegeerida otsuste tegemine tehisintellekti toodetele ja süsteemidele, et saavutada inimese valitud eesmärgid 42 . Liidu kehtivates tooteohutusalastes õigusaktides ei ole inimjärelevalve küsimust tehisintellekti iseõppivate toodete ja süsteemide kontekstis sõnaselgelt käsitletud 43 .

Tehisintellekti rakenduste tulevane „käitumine“ võib põhjustada kasutajatele vaimse tervise riske, 44 mis tulenevad näiteks koostööst tehisintellektipõhiste humanoidrobotite ja -süsteemidega, olgu siis kodus või tööl. Praegu mõeldakse ohutuse all üldiselt kasutaja tajutavat füüsilise kahju ohtu, mida kujunemisjärgus digitehnoloogia võib põhjustada. Samas on ohutud tooted liidu õigusraamistikus määratletud kui tooted, mis ei kujuta endast mingit ohtu või kujutavad üksnes minimaalset ohtu inimese ohutusele ja tervisele. Üldiselt ollakse seisukohal, et tervise mõiste hõlmab nii füüsilist kui ka vaimset heaolu. Õigusraamistikus peaks tooteohutuse mõiste siiski sõnaselgelt hõlmama ka vaimse tervise riske.

Näiteks ei tohiks autonoomsus põhjustada ülemäärast stressi ja ebamugavust pikema aja jooksul ega kahjustada vaimset tervist. Seoses sellega tuleks mainida tegureid, mis avaldavad positiivset mõju eakamate inimeste turvatundele 45 : kindlad suhted tervishoiuteenuseid pakkuvate inimestega, kontroll igapäevatoimingute üle ja info saamine selle kohta. Eakatega suhtlevate robotite tootjad peaksid neid tegureid vaimse tervisega seotud riskide ennetamiseks arvesse võtma.

Tehisintellektipõhiste toodete ja süsteemide teine oluline omadus on sõltuvus andmetest. Et tehisintellektil põhinevad süsteemid ja tooted teeksid otsuseid nii, nagu tootja on kavandanud, peavad andmed olema täpsed ja asjakohased.

Liidu tooteohutusalastes õigusaktides ei käsitleta sõnaselgelt neid ohutusega seotud riske, mis tulenevad vigastest andmetest. Olenevalt sellest, kuidas toodet kasutatakse, peaksid tootjad projekteerimis- ja testimisetapis siiski juba arvestama ka andmete täpsust ja selle olulisust ohutusega seotud funktsioonide seisukohast.

Näiteks konkreetsete objektide avastamiseks mõeldud tehisintellektipõhisel süsteemil võib olla raske hämaras objekte ära tunda ning seega peaksid süsteemi projekteerijad kasutama oma töös nii tavapärase valgustusega kui ka hämaras keskkonnas tehtud tootekatsete käigus saadud andmeid.

Teine näide on põllumajandusrobotite kohta, nagu puuviljakoristusrobotid, mille eesmärk on puu otsas või maapinnal ära tunda küpseid puuvilju ning teha kindlaks nende asukoht. Neis protsessides kasutatavate algoritmidega on klassifitseerimise edukuse määr juba üle 90 %, kuid algoritmide kasutatavates andmestikes esinev viga võib tähendada, et robot teeb kehva otsuse, mille tagajärjel saab mõni loom või inimene viga.

Veel üks tehisintellektipõhiste toodete ja süsteemide oluline omadus on läbipaistmatus, mis võib tuleneda võimest parandada oma tegevuse tulemuslikkust kogemustest õppides. Tehisintellektipõhiste toodete ja süsteemide läbipaistmatuse aste varieerub olenevalt sellest, millist metoodikat on kasutatud. Selle tulemusena võib süsteemi otsustusprotsess olla raskesti jälgitav (nn musta kasti efekt). Inimene ei pruugi ilmtingimata mõista otsustusprotsessi iga sammu, kuid kui tehisintellekti algoritmid muutuvad keerukamaks ja need võetakse kasutusele elutähtsates valdkondades, on äärmiselt oluline, et inimene suudaks mõista, kuidas süsteemis algoritmilisi otsuseid tehakse. See on eriti oluline ex-post jõustamismehhanismi jaoks, sest sedasi on jõustamisasutustel võimalik jälgida tehisintellekti süsteemide käitumise ja valikutega seotud vastutust. Seda on märgitud ka komisjoni teatises „Usalduse loomine inimkeskse tehisintellekti vastu“ 46 .

Ohutust võivad mõjutada täiendavad riskid, mis tulenevad toodete ja süsteemide keerukusest, sest eri komponente, seadmeid ja tooteid saab integreerida ja need võivad mõjutada üksteise toimimist (nt tooted, mis on osa aruka kodu ökosüsteemist).

Seda keerukust on juba käsitletud käesoleva jaotise alguses viidatud liidu ohutusalases õigusraamistikus 48 . Eeskätt peab tootja toote riskihindamise käigus arvesse võtma toote kavandatud kasutamist, eeldatavat kasutamist ja vajaduse korral ka mõistlikult ettenähtavat väärkasutamist.

See tähendab, et kui tootja näeb ette, et tema seade hakkab olema teiste seadmetega ühendatud ja nendega suhtlema, tuleks seda riski hindamisel arvesse võtta. Kasutamine ja väärkasutamine tehakse kindlaks, lähtudes näiteks varasematest kogemustest sama liiki tootega, õnnetuste uurimisest või inimeste käitumisest.

Süsteemide keerukust käsitletakse täpsemalt ka valdkondlikes ohutusalastes õigusaktides, näiteks meditsiiniseadmete määruses, ja teataval määral üldise tooteohutuse alastes õigusaktides 49 . Näiteks peaks aruka kodu ökosüsteemi osaks oleva ühendatud seadme tootja suutma mõistlikult ette näha, et tema tooted hakkavad mõjutama muude toodete ohutust.

Lisaks käsitletakse seda keerukust transpordialastes õigusaktides süsteemi tasandil. Autode, rongide ja lennukite puhul on tüübikinnituse ja sertifitseerimise objekt nii iga eraldi komponent kui ka kogu sõiduk või õhusõiduk. Sõiduki tehnoseisundi, õhusõiduki lennukõlblikkuse ja raudtee koostalitlusvõime hindamine on kõik ohutushindamise osad. Transpordisektoris peab ametiasutus andma süsteemile loa kas kolmanda isiku poolt selgete tehniliste nõuete alusel tehtud vastavushindamise põhjal või pärast seda, kui on tõendatud, kuidas riskidega toime tullakse. Üldiselt seisneb lahendus toote ja süsteemi tasandi kombineerimises.

Keerukate süsteemidega on sageli seotud tarkvara, mis on tehisintellektipõhise süsteemi oluline osa. Üldiselt on lõpptoote tootja kohustatud esialgse riskihindamise käigus prognoosima, millised on sellesse tootesse integreeritud tarkvara riskid toote turule laskmise ajal.

Teatavates liidu tooteohutusalastes õigusaktides on sõnaselgelt viidatud tootesse integreeritud tarkvarale. Näiteks masinadirektiivis 50 on esitatud nõue, et juhtimissüsteemi tarkvararike ei tohi põhjustada ohuolukordi.

Liidu tooteohutusalastes õigusaktides võiks tarkvarauuendusi võrrelda ohutuskaalutlustel tehtavate hooldustöödega, eeldusel et need ei muuda oluliselt juba turule lastud toodet ega too kaasa uusi riske, mida ei osatud esialgses riskihindamises ette näha. Kui tarkvarauuendus peaks oluliselt muutma toodet, millesse see alla laaditakse, tuleb kõne alla, et kogu toodet käsitatakse uue tootena, mille vastavust asjakohastele tooteohutusalastele õigusaktidele tuleb muudatuse tegemise ajal uuesti hinnata 51 .

Üldiselt ei sisalda liidu sektoripõhised ühtlustatud tooteohutusalased õigusaktid erisätteid eraldiseisva tarkvara kohta, mis lastakse turule sellisena, nagu see on, või laaditakse üles pärast toote turule laskmist. Samas käsitletakse eraldiseisvat tarkvara siiski teatavates liidu õigusaktides, näiteks meditsiiniseadmete määruses. Teatavate raadiomoodulite 52 vahendusel suhtlevatesse ühendatud seadmetesse üles laaditav eraldiseisev tarkvara võib delegeeritud õigusaktide kaudu kuuluda ka raadioseadmete direktiivi kohaldamisalasse. See direktiiv sisaldab nõuet, et teatavatesse klassidesse või kategooriatesse kuuluvad raadioseadmed toetaksid funktsioone, millega tagatakse, et tarkvara üleslaadimine ei kahjusta seadme nõuetele vastavust 53 .

Lisaks juba nimetatud aspektidele mõjutavad kujunemisjärgus digitehnoloogiaid ka keerukad väärtusahelad. Samas ei ole see keerukus uus ega seondu üksnes uute kujunemisjärgus digitehnoloogiatega, nagu tehisintellekt või asjade internet. See puudutab näiteks selliseid tooteid nagu arvutid, teenindusrobotid või transpordisüsteemid.

Ükskõik kui keerulise väärtusahelaga on tegu, vastutab toote ohutuse eest liidu tooteohutusalase raamistiku kohaselt see tootja, kes toote turule laseb. Tootja vastutab lõpptoote, sealhulgas tootesse integreeritud osade (nt arvuti tarkvara) ohutuse eest.

Mõned liidu tooteohutusalased õigusaktid sisaldavad juba sätteid, milles viidatakse sõnaselgelt olukordadele, kus konkreetse tootega tegelevad enne selle toote turule laskmist mitu ettevõtjat. Näiteks liftidirektiiv 54 sisaldab nõuet, et ettevõtja, kes projekteerib ja valmistab lifti, peab varustama paigaldaja 55 „kõikide vajalike dokumentide ja kogu vajaliku teabega, et viimasel oleks võimalik tagada korrektne ja ohutu lifti paigaldamine ja katsetamine.“ Masinadirektiivis nõutakse, et seadme tootjad esitaksid käitajale teabe selle kohta, kuidas monteerida seade muule masinale 56 .

3.Vastutus

Liidu tasandil on tooteohutust ja tootevastutust käsitlevad sätted kaks teineteist täiendavat mehhanismi, millega püüeldakse sama poliitilise eesmärgi poole, milleks on kaupade toimiv ühtne turg, millel on tagatud ohutuse kõrge tase, st kasutajate ohtu sattumise risk on minimaalne, ning defektsete kaupade põhjustatud kahju hüvitatakse.

Riikide tasandil täiendavad neid liidu õigusnorme ühtlustamata tsiviilvastutuse raamistikud, millega tagatakse mitmesugustel põhjustel (nt tooted ja teenused) tekkinud kahju hüvitamine ja mis võimaldavad pöörduda erinevate vastutavate isikute poole (nt omanik, käitaja, teenusepakkuja).

Kuigi tehisintellekti käsitlevate liidu ohutusnormide optimeerimine võib aidata õnnetusi ära hoida, võib neid siiski ette tulla. Siis tulebki mängu tsiviilvastutus. Tsiviilvastutuse normidel on meie ühiskonnas kahetine roll: ühest küljest tagavad need, et teiste põhjustatud kahju ohver saab hüvitise, ja teisest küljest pakuvad need vastutavale poolele majanduslikke stiimuleid hoiduda sellise kahju tekitamisest. Vastutust käsitlevates õigusnormides tuleb alati leida tasakaal kodanike kahju eest kaitsmise ja ettevõtete innovatsiooni soodustamise vahel.

Seni on vastutusraamistikud liidus hästi toiminud. Need tuginevad tootevastutuse direktiivile (direktiiv 85/374/EMÜ), millega ühtlustati defektsete toodete tootja vastutuse, ja riikide muude ühtlustamata vastutuskordade paralleelsele kohaldamisele.

Tootevastutuse direktiiviga nähakse ette lisakaitse, mida riiklik süüline vastutus üksi ei suuda pakkuda. Sellega on kehtestatud tootja mittesüülise vastutuse süsteem juhul, kui tema toote defekt on põhjustanud kahju. Füüsilise või materiaalse kahju korral on kannatanul õigus kahju hüvitamisele, kui ta tõendab kahju olemasolu, toote defekti (st et toote puhul ei olnud tagatud ohutus, mida üldsusel on õigus eeldada) ning põhjuslikku seost defektiga toote ja kahju vahel.

Riikide ühtlustamata kordadega on ette nähtud süüline vastutus, mis tähendab, et eduka vastutusnõude esitamiseks peab kahju kannataja tõendama vastutava isiku süüd, kahju ja põhjuslikku seost vea ja kahju vahel. Samuti on nendega ette nähtud mittesüülise vastutuse kord juhuks, kui riigi seadusandja on määranud riski eest vastutama konkreetse isiku ning kannatanu ei pea tõendama vea ega defekti olemasolu ega põhjuslikku seost vea/defekti ja kahju vahel.

Riikide vastutuskorrad pakuvad toote või teenuse põhjustatud kahju kannatajatele mitme paralleelse hüvitisnõude võimalust kas süülise või mittesüülise vastutuse alusel. Sageli on sellised nõuded suunatud eri vastutavate isikute vastu ja nende tingimused on erinevad.

Näiteks tavaliselt võib autoõnnetuses kannatanu esitada riigisisese tsiviilõiguse alusel mittesüülisel vastutusel põhineva nõude auto omaniku (st isiku, kelle nimel on mootorsõiduki valdaja vastutuskindlustus) vastu ning süülisel vastutusel põhineva nõude juhi vastu, ning lisaks sellele võib ta esitada veel tootevastutuse direktiivi kohase nõude tootja vastu, kui auto oli defektiga.

Vastavalt mootorsõidukikindlustuse ühtlustatud normidele peab sõiduki kasutamine olema kindlustatud 57 ja praktikas on kindlustusandja alati esimene, kellelt nõutakse isikukahju või varalise kahju korral hüvitist. Vastavalt neile normidele hüvitab kohustuslik kindlustus kannatanu kahju ning kaitseb kindlustatud isikut, kes on riigi tsiviilõiguse normide 58 kohaselt kohustatud maksma rahalist hüvitist mootorsõidukiga toimunud õnnetuse eest. Tootjatele ei ole tootevastutuse direktiiviga kohustuslikku kindlustust ette nähtud. Liidu õiguses ei suhtuta autonoomsetesse sõidukitesse mootorsõidukikindlustuse osas teisiti kui mitteautonoomsetesse sõidukitesse. Nagu kõigil sõidukitel peab ka sellistel sõidukitel olema mootorsõiduki valdaja vastutuskindlustus, mis on kannatanu jaoks kõige lihtsam viis hüvitist saada.

Korralik kindlustus võib aidata leevendada õnnetuse negatiivseid tagajärgi ja tagada, et kannatanu saab hüvitise ilma probleemideta kätte. Kui vastutust käsitlevad õigusnormid on selged, aitab see kindlustusettevõtjatel oma riske arvutada ja lõplikult kahju eest vastutavalt isikult hüvitist nõuda. Näiteks juhul, kui õnnetuse põhjustas defekt, võib liikluskindlustusandja pärast seda, kui ta on kannatanule hüvitist maksnud, nõuda tootjalt kulude hüvitamist.

Kujunemisjärgus digitehnoloogia, nt tehisintellekti, asjade interneti ja robootika omadused on aga liidu ja riiklike vastutusraamistike seisukohast probleemsed ning võivad nende mõjusust vähendada. Mõne sellise omaduse tõttu võib olla keeruline tuvastada kahju põhjustanud inimkäitumist, mis annaks aluse süülisel vastutusel põhinevaks nõudeks vastavalt riigisisestele õigusnormidele. See tähendab, et õigusvastaselt tekitatud kahju käsitlevate siseriiklike õigusaktide alusel esitatud nõudeid võib olla keerukas või liiga kulukas tõendada ja seega ei pruugi kannatanu saada piisavat hüvitist. On oluline, et kujunemisjärgus digitehnoloogiast, nt tehisintellekti sisaldavatest toodetest ja teenustest tingitud õnnetustes kannatanutele ei pakutaks kehvemat kaitset kui siis, kui õnnetuse põhjustab mõni teine samalaadne toode või teenus, mille korral nad saaksid hüvitist õigusvastaselt tekitatud kahju käsitlevate siseriiklike õigusaktide alusel. Muidu võib vähendada selliste kujunemisjärgus tehnoloogiate vastuvõetavaks pidamine ühiskonnas ja tekkida kõhklusi nende kasutamisel.

Tuleb hinnata, kas uute tehnoloogiatega olemasolevate raamistike jaoks tekkivad probleemid võivad ühtlasi põhjustada õiguslikku ebakindlust selles, kuidas tuleks kohaldada kehtivaid õigusnorme (nt kuidas kehtib süü kontseptsioon tehisintellekti põhjustatud kahju korral). See omakorda võib pärssida investeeringuid ning suurendada tootjate ja teiste tarneahelas osalevate ettevõtjate (eeskätt Euroopa VKEde) kulusid, mis on seotud teabe ja kindlustusega. Kui liikmesriigid peaksid hakkaksid mingil hetkel tegelema riigisiseste vastutusraamistike rakendamisel ilmnevate probleemidega, võib see pealegi viia edasise killustumiseni ning suurendada seega uuenduslike tehisintellektilahenduste kasutuselevõtu kulusid ja vähendada piiriülest kaubandust ühtsel turul. On oluline, et ettevõtjad teaksid, millised on nende vastutusega seotud riskid kogu väärtusahelas, ja saaksid neid riske vähendada või ära hoida ja end nende riskide vastu tõhusalt kindlustada.

Käesolevas jaotises selgitatakse, milliseid probleeme tekitavad uued tehnoloogiad praeguste raamistike jaoks, ja analüüsitakse, kuidas neid probleeme lahendada. Lisaks võib mõningate sektorite, näiteks tervishoiu eripära tõttu osutuda vajalikuks põhjalikum analüüs.

Toodete, teenuste ja väärtusahela keerukus. Viimastel aastakümnetel on tehnoloogia ja tööstus pöörase kiirusega edasi arenenud. Näiteks tooteid ja teenuseid ei pruugi enam olla nii lihtne teineteisest eristada kui varem. Tooted ja teenuste osutamine on üha enam omavahel seotud. Keerukad tooted ja väärtusahelad ei ole Euroopa tööstuse ega selle regulatiivse mudeli jaoks midagi uut, kuid seoses tootevastutusega tuleb tarkvarale ja ka tehisintellektile pöörata erilist tähelepanu. Tarkvara on paljude toodete toimimiseks hädavajalik ja võib mõjutada nende ohutust. See on integreeritud toodetesse, kuid seda võidakse tarnida ka eraldi, et toodet saaks kavandatud moel kasutada. Ei arvutist ega ka nutitelefonist ei oleks ilma tarkvarata erilist kasu. See tähendab, et tarkvara võib muuta füüsilise toote defektseks ja põhjustada füüsilist kahju (vt tekstikasti tarkvara kohta ohutust käsitlevas osas). Lõpuks võib see kaasa tuua tootja vastutuse tootevastutuse direktiivi alusel.

Kuna tarkvara liike ja esinemisvorme on palju, siis ei pruugi tarkvara liigitumine teenuseks või tooteks olla alati enesestmõistetav. Kui näiteks füüsilise toote tööd juhtivat tarkvara võib pidada selle toote osaks, siis mõningate eraldiseisva tarkvara esinemisvormide liigitamine võib olla keerukam.

Sageli integreeritakse tehisintellekti rakendusi keerukatesse asjade interneti keskkondadesse, kus omavahel suhtlevad paljud erinevad ühendatud seadmed ja teenused. Kui keerukas ökosüsteemis on koos erinevad digitaalsed komponendid ja asjaosalisi on palju, võib olla keeruline hinnata, mis on võimaliku kahju algpõhjus ja kes selle eest vastutab. Selliste tehnoloogiate keerukuse tõttu võib kannatanul olla väga keeruline vastutavat isikut kindlaks teha ja tõendada, et kõik tulemusliku nõude esitamiseks vajalikud tingimused on täidetud nii, nagu siseriiklikus õiguses nõutud. Vajalike eksperditeadmiste hankimine võib olla majanduslikult üle jõu käivalt kallis ning see võib panna kannatanu hüvitise nõudmisest loobuma.

Lisaks muule suhtlevad tehisintellektipõhised tooted ja teenused ka traditsiooniliste tehnoloogiatega ning see muudab ka vastutuse teema veelgi keerukamaks. Näiteks viibivad isejuhtivad autod teatud aja jooksul teedel koos tavaautodega. Koostoimivate osalejate sama keerukaid kooslusi võib esineda ka mõnes teenustesektoris (nt liikluskorraldus ja tervishoid), kus inimestepoolset otsustusprotsessi toetavad automaatsed tehisintellekti süsteemid.

Vastutuse ja uute tehnoloogiate eksperdirühma uute tehnoloogiate koosseisu aruande 59 kohaselt võiks kaaluda riikide õigusnormide kohandamist, et lihtsustada tehisintellektiga seotud kahju kannatanute tõendamiskohustust. Näiteks võib tõendamiskohustuse siduda konkreetsete õigusega ettenähtud küberturvalisusalaste või muude ohutusalaste nõuete järgimisega (asjaomase ettevõtja poolt): kui need õigusnormid ei ole täidetud, võiks tõendamiskohustust süü ja põhjusliku seose osas muuta.

Ühenduvus ja avatus. Praegu ei ole täiesti selge, millised võiksid olla ohutusalased ootused kahju puhul, mille põhjustab toote küberturvalisuse rikkumine, ning kas sellist kahju saaks piisavalt hüvitada tootevastutuse direktiivi alusel.

Küberturvalisuse nõrkused võivad olemas olla juba toote ringlusse laskmisel, kuid need võivad ilmneda ka hiljem, tükk aega pärast toote ringlusse laskmist.

Süülise vastutuse raamistikes annab selgete küberturvalisuse alaste kohustuste kehtestamine ettevõtjatele võimaluse otsustada, mida nad peavad tegema, et vältida vastutusega kaasnevaid tagajärgi.

Tootevastutuse direktiivi raames võib suurema tähtsuse omandada küsimus sellest, kas tootja oleks võinud teatavaid muutusi ette näha, kui ta oleks arvesse võtnud toote mõistlikult eeldatavat kasutamist. Näiteks võib juhtuda, et kaitseargumendina hakatakse sagedamini kasutama nn hilisema defekti põhimõtet, mis tähendab, et tootja ei vastuta, kui defekti ei olnud toote ringlusse laskmise ajal, ja arendamisriski põhimõtet (st et tolle aja tippteadmiste põhjal ei saanud sellist defekti ette näha). Lisaks võib vastutust vähendada see, kui kahju kannatanu ei tee ohutuse seisukohast vajalikke uuendusi. Seda võiks pidada kannatanu kaassüül tekkinud kahjuks ja seega võiks tootja vastutus olla väiksem. Eeldatava mõistliku kasutamise mõiste ja kannatanu kaassüül tekkinud kahjuga seotud küsimused, näiteks turvauuenduse allalaadimata jätmine, võivad üha enam päevakorrale kerkida ning seetõttu võib kannatanutel olla keerulisem tootedefekti põhjustatud kahju eest hüvitist saada.

Autonoomsus ja läbipaistmatus. Kui tehisintellektirakendused suudavad tegutseda autonoomselt, täidavad nad ülesandeid ilma, et iga samm oleks ette kindlaks määratud, ning sealjuures esineb vahetut inimesepoolset kontrolli või järelevalvet üha vähem ja lõpuks üldse mitte. Masinõppel põhinevaid algoritme võib olla raske või isegi võimatu mõista (nn musta kasti efekt).

Lisaks eespool käsitletud keerukusele võib musta kasti efekti tõttu muutuda keerukaks hüvitise saamine autonoomsete tehisintellektirakenduste tekitatud kahju eest. Tehisintellekti kasutatavast algoritmist ja andmetest aru saamiseks on vaja analüütilist suutlikkust ja tehnilist oskusteavet, millele ligipääs võib olla kannatanute jaoks üle jõu käivalt kulukas. Pealegi võib algoritmile ja andmetele juurdepääs olla võimatu ilma potentsiaalselt vastutava osapoole koostööta. Reaalses elus võib see tähendada et kannatanu ei saa vastutusega seotud nõuet esitada. Pealegi oleks ebaselge, kuidas tõendada autonoomselt tegutseva tehisintellekti süüd või milles võiks seisneda tehisintellekti kasutava isiku süü.

Riikide õigusaktides on juba välja töötatud rida lahendusi, et vähendada samalaadses olukorras olevate kannatanute tõendamiskohustust.

Liidu tooteohutuse ja tootevastutuse juhtpõhimõte on endiselt see, et tootjad peavad tagama, et kõik turule lastavad tooted on ohutud nii kogu nende olelusringi jooksul kui ka toote mõistlikult ettenähtava kasutamise jaoks. See tähendab, et tootja peab veenduma, et tehisintellekti kasutav toode vastab teatavatele ohutusparameetritele. Tehisintellekti funktsioonid ei välista õigust eeldada toodetelt ohutust, olgu siis tegu automaatsete muruniiduki või kirurgiarobotiga.

Autonoomsus võib mõjutada toote ohutust, sest see võib oluliselt muuta toote omadusi, sealhulgas ohutusfunktsioone. Küsimus on selles, mis tingimustel pikendavad iseõppimisfunktsioonid tootja vastutust ja millises ulatuses pidanuks tootja teatavaid muutusi ette nägema.

Vastutuse ja uute tehnoloogiate eksperdirühma uute tehnoloogiate koosseisu aruande 60 kohaselt võib mõnede autonoomsete tehisintellekti seadmete ja teenuste töö riskiprofiil olla vastutuse mõttes spetsiifiline, sest need võivad märkimisväärselt kahjustada olulisi õiguspäraseid huve, nagu elu, tervis ja vara, ning seada ohtu laiema üldsuse. Võimalik, et see puudutab peamiselt avalikus ruumis liikuvaid tehisintellektiseadmeid (nt täiesti isejuhtivad sõidukid, mehitamata õhusõidukid 61 ja pakiveorobotid) või sarnaste riskidega tehisintellektipõhiseid teenuseid (nt liikluskorraldusteenused, mis suunavad või juhivad sõidukeid, või energia jaotusvõrgu juhtimine). Probleeme, mida autonoomsus ja läbipaistmatus põhjustavad õigusvastaselt tekitatud kahju käsitlevate siseriiklike õigusaktide jaoks, võiks püüda lahendada riskipõhise lähenemisviisi abil. Mittesüülise vastutuse süsteemidega saaks tagada, et riski realiseerumise korral saab kannatanu hüvitist olenemata süülisusest. Hoolega tuleks analüüsida seda, kuidas mõjutab mittesüülise vastutuse omistamine selliste toimingute eest tehisintellekti arendamist ja kasutuselevõttu, ning kaaluda võiks riskipõhist lähenemisviisi.

4.Kokkuvõte

Selliste uute digitehnoloogiate esilekerkimine nagu tehisintellekt, asjade internet ja robootika tekitab uusi tooteohutuse ja vastutusega seotud probleeme, mis puudutavad ühenduvust, autonoomsust, andmesõltuvust, läbipaistmatust, toodete ja süsteemide keerukust, tarkvarauuendusi ning keerukamaid ohutusjuhtimise ja väärtusahelaid.

Praegustes tooteohutusalastes õigusaktides on rida lünki, millega tuleb tegeleda. Eeskätt kehtib see üldise tooteohutuse direktiivi, masinadirektiivi, raadioseadmete direktiivi ja uue õigusraamistiku kohta. Edaspidi hakkab eri õigusaktide kohandamine selles kontekstis toimuma järjepidevalt ja ühtlustatud viisil.

Ohutusega seotud uued probleemid tekitavad uusi probleeme ka seoses vastutusega. Vastutusega seotud probleemidega tuleb tegeleda, et ühest küljeks saaks tagada samasuguse kaitse kui traditsiooniliste tehnoloogiate tõttu kannatanutele ning teisest küljest säiliks tasakaal tehnoloogilise innovatsiooni vajadustega. See aitab luua usaldust nende uute kujunemisjärgus digitehnoloogiate vastu ja luua investeeringute jaoks vajalikku stabiilsust.

Kuigi põhimõtteliselt võimaldavad liidu ja liikmesriikide kehtivad vastutust käsitlevad õigusaktid toime tulla ka kujunemisjärgus tehnoloogiatega, võib tehisintellektiga seotud probleemide ulatuse ja koosmõju tõttu olla keeruline pakkuda kannatanutele hüvitist kõigil juhtudel, kui see oleks õigustatud 63 . Seega võib praeguste normide kohane kulude jaotamine kahju tekkimise korral olla ebaõiglane või ebatõhus. Olukorra parandamiseks ja kehtiva raamistiku võimalike ebamäärasustega tegelemiseks võiks sihipärast riskipõhist lähenemisviisi kasutades kaaluda tootevastutuse direktiivis ja riiklikes vastutuskordades teatavate kohanduste tegemist asjakohaste ELi algatuste toel, võttes arvesse näiteks seda, et tehisintellekti eri rakendused põhjustavad erinevaid riske.

(1)

   Kõrgetasemelise tehisintellekti eksperdirühma sõnastatud tehisintellekti mõiste definitsioon on avaldatud veebilehel https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines .

(2)

     Asjade interneti mõiste on defineeritud ITU-T soovituses Y.2060, mis on avaldatud veebilehel: https://www.itu.int/ITU-T/recommendations/rec.aspx?rec=y.2060

(3)

     SWD(2016) 110, COM(2017) 9, COM(2018) 237 ja COM(2018) 795.

(4)

      http://ec.europa.eu/growth/industry/policy_et  

(5)

      https://eur-lex.europa.eu/legal-content/ET/TXT/?uri=COM%3A2018%3A237%3AFIN .

Teatisele lisatud talituste töödokumendis (2018) 137 ( https://eur-lex.europa.eu/legal-content/et/ALL/?uri=CELEX%3A52018SC0137 ) anti esialgne ülevaade kujunemisjärgus digitehnoloogiatega kaasnevatest vastutusega seotud probleemidest.

(6)

     Direktiiv 2006/42/EÜ.

(7)

     SWD(2018) 161 final.

(8)

     Üldist tooteohutust käsitleva direktiiviga 2001/95/EÜ loodud tooteohutuse võrk, masinadirektiivi 2006/42/EÜ ja raadioseadmete direktiivi 2014/53/EL eksperdirühmad, mis koosnevad liikmesriikide, tööstuse ja muude sidusrühmade (nt tarbijaühenduste) esindajatest.

(9)

     Direktiiv 85/374/EMÜ.

(10)

     COM(2018) 246 final.

(11)

     Vastutuse ja uute tehnoloogiate eksperdirühm loodi selleks, et pakkuda komisjonile eksperdiarvamusi tootevastutuse direktiivi ja riiklike tsiviilvastutuse normide kohaldamise kohta ning aidata välja töötada juhtpõhimõtted selle kohta, kuidas võiks kohaldatavaid õigusnorme uute tehnoloogiate valguses kohandada. Eksperdirühmal on kaks koosseisu, kellest üks tegeleb tootevastutuse ja teine uute tehnoloogiatega. Vt https://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupDetail&groupID=3592&NewSearch=1&NewSearch=1&Lang=ET .

   Uute tehnoloogiate töörühma aruanne, mis käsitleb vastutust tehisintellekti ja muude kujunemisjärgus tehnoloogiate eest: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(12)

     Hinnangute kohaselt põhjustavad inimlikud eksimused umbes 90 % liiklusõnnetustest. Vt komisjoni aruanne „Kuidas säästa elusid: autode turvalisuse suurendamine ELis“ (COM(2016) 0787 final).

(13)

     Näiteks saab autojuhti hoiatada, et ta võtaks kiiruse maha, kui liikluses on eespool toimunud õnnetus.

(14)

     OECD (2018), „Measuring and maximising the impact of product recalls globally: OECD workshop report“, OECD Science, Technology and Industry Policy Papers, nr 56, OECD Publishing, Paris, https://doi.org/10.1787/ab757416-en .

(15)

     OECD (2018), „Enhancing product recall effectiveness globally: OECD background report“, OECD Science, Technology and Industry Policy Papers, nr 58, OECD Publishing, Paris, https://doi.org/10.1787/ef71935c-en .

(16)

     Komisjoni teatis Euroopa Parlamendile, nõukogule, Euroopa Majandus- ja Sotsiaalkomiteele ning Regioonide Komiteele „Usalduse loomine inimkeskse tehisintellekti vastu“, Brüssel 8.4.2019, COM(2019) 168 final.

(17)

   Euroopa Parlamendi ja nõukogu 3. detsembri 2001. aasta direktiiv 2001/95/EÜ üldise tooteohutuse kohta (EÜT L 11, 15.1.2002, lk 4–17).

(18)

     ELT C 136, 4.6.1985, lk 1.

(19)

     Määrus (EÜ) nr 2008/765 ja otsus (EÜ) nr 2008/768.

(20)

     Selline süsteem ei hõlma liidu transpordi- ja autoalaseid õigusakte.

(21)

     Euroopa Parlamendi ja nõukogu 3. detsembri 2001. aasta direktiiv 2001/95/EÜ üldise tooteohutuse kohta (EÜT L 11, 15.1.2002, lk 4–17).

(22)

Euroopa Parlamendi ja nõukogu 9. juuli 2008. aasta määrus (EÜ) nr 765/2008, millega sätestatakse akrediteerimise ja turujärelevalve nõuded seoses toodete turustamisega ja tunnistatakse kehtetuks määrus (EMÜ) nr 339/93 (ELT L 218, 13.8.2008, lk 30–47, ELI:. https://eur-lex.europa.eu/eli/reg/2008/765/oj?locale=et ) ning alates 2021. aastast Euroopa Parlamendi ja nõukogu 20. juuni 2019. aasta määrus (EL) 2019/1020, turujärelevalve ja toodete vastavuse kohta ning millega muudetakse direktiivi 2004/42/EÜ ja määruseid (EÜ) nr 765/2008 ja (EL) nr 305/2011 (ELT L 169, 25.6.2019, lk 1–44, ELI: https://eur-lex.europa.eu/eli/reg/2019/1020/oj?locale=et

(23)

     Üldise tooteohutuse direktiivi artikli 8 lõike 1 punkti b alapunkt 3.

(24)

   Näiteks direktiiv 2007/46/EÜ – mootorsõidukite ja nende haagiste ning selliste sõidukite jaoks mõeldud süsteemide, osade ja eraldi seadmestike kinnituste andmine, ning Euroopa Parlamendi ja nõukogu 30. mai 2018. aasta määrus (EL) 2018/858 mootorsõidukite ja mootorsõidukite haagiste ning nende jaoks ette nähtud süsteemide, osade ja eraldi seadmestike tüübikinnituse ja turujärelevalve kohta, ning millega muudetakse määruseid (EÜ) nr 715/2007 ja (EÜ) nr 595/2009 ning tunnistatakse kehtetuks direktiiv 2007/46/EÜ.

(25)

     Sellel joonisel ei kajastu toote olelusringi käsitlevate õigusaktide nõuded, st kasutus ja hooldus, ning see on esitatud vaid üldise pildi andmiseks.

(26)

     Islandilt saadud RAPEXi teade, mis on avaldatud ELi veebisaidil „Safety Gate“ (A12/0157/19).

(27)

     Saksamaalt saadud RAPEXi teade, mis on avaldatud ELi veebisaidil „Safety Gate“ (A12/1671/15).

(28)

   Määrus (EL) nr 2017/745, milles käsitletakse meditsiiniseadmeid,

(29)

   Direktiiv 2014/32/EL mõõtevahendite turul kättesaadavaks tegemise kohta.

(30)

   Direktiiv 2014/53/EL raadioseadmete kohta.

(31)

   Direktiiv 2007/46/EÜ mootorsõidukite ja nende haagiste ning selliste sõidukite jaoks mõeldud süsteemide, osade ja eraldi seadmestike kinnituse kohta. Alates 1. septembrist 2020 tunnistatakse see direktiiv kehtetuks ning asendatakse määrusega (EL) 2018/858 mootorsõidukite ja mootorsõidukite haagiste ning nende jaoks ette nähtud süsteemide, osade ja eraldi seadmestike tüübikinnituse ja turujärelevalve kohta, ning millega muudetakse määruseid (EÜ) nr 715/2007 ja (EÜ) nr 595/2009 ning tunnistatakse kehtetuks direktiiv 2007/46/EÜ.

(32)

   Määrus (EL) 2019/881.

(33)

   Direktiiv 2006/42/EÜ masinate kohta.

(34)

   Tehisintellektil põhinevad tooted võivad oma keskkonda tajudes toimida autonoomselt ja ilma, et järgiksid eelnevalt kindlaksmääratud juhiseid, kuid nende käitumist piirab neile seatud eesmärk ja tootearendajate poolt arendamise käigus tehtud valikud. “

(35)

     Liidu tooteohutusalaste õigusaktide kohaselt lähtuvad tootjad riskihinnangus toote kavandatud kasutamisest, eeldatavast kasutamisest ja/või mõistlikult ettenähtavast väärkasutamisest.

(36)

     Euroopa Parlamendi ja nõukogu 9. juuli 2008. aasta otsus nr 768/2008/EÜ toodete turustamise ühise raamistiku kohta ja millega tunnistatakse kehtetuks nõukogu otsus 93/465/EMÜ (ELT L 218, 13.8.2008, lk 82–128). I lisa artikli R2 punkt 7: „Tootjad tagavad, et tootega on kaasas juhised ja ohutusalane teave asjaomase liikmesriigi poolt määratletud keeles, mis on tarbijate ja teiste lõppkasutajate jaoks kergesti arusaadav.“

(37)

     Artikli 10 lõikes 8 viidatakse kasutajatele mõeldud juhistele ning VI lisas viidatakse ELi vastavusdeklaratsioonile.

(38)

   Seni on tehisintellekti puhul iseõppimisest rääkides mõeldud peamiselt seda, et masinad suudavad õppida treenimise käigus. praegu ei eeldata, et tehisintellektiga masinad õpiksid edasi ka pärast kasutuselevõtmist – vastupidi, eriti tervishoius lõpetavad tehisintellektiga masinad tavaliselt õppimise pärast seda, kui nende treenimine on edukalt lõppenud. Seega ei tähenda tehisintellektisüsteemide autonoomne käitumine praeguses arengujärgus, et toode teeb midagi, mida arendajad ei ole ette näinud.

(39)

     See on kooskõlas 2016. aasta sinise raamatuga ELi toote-eeskirjade rakendamise kohta (punkt 2.1).

(40)

     Euroopa Parlamendi ja nõukogu 3. detsembri 2001. aasta direktiiv 2001/95/EÜ üldise tooteohutuse kohta, artikkel 5.

(41)

   Kui raudteesüsteemis tehakse mis tahes muudatus (nt tehniline, käitamisalane või organisatoorne muutus, mis võib mõjutada käitamis- või hooldusprotsessi), mis võib mõjutada ohutust, tuleb järgida komisjoni rakendusmääruse (EL) 2015/1136 I lisas kirjeldatud menetlust (ELT L 185, 14.7.2015, lk 6).

   Kui tegemist on olulise muudatusega, peaks sõltumatu hindamisasutus (võib olla riiklik ohutusasutus või muu tehniliselt pädev asutus) esitama muudatusettepaneku tegijale ohutuse hindamise aruande.

   Pärast riskianalüüsi kohaldab muudatusettepaneku tegija riskide leevendamiseks asjakohaseid meetmeid (kui ettepaneku tegija on raudteeveo-ettevõtja või raudteeinfrastruktuuri majandaja, on määruse kohaldamine osa tema ohutusjuhtimissüsteemist, mille kohaldamise järelevalvega tegeleb riiklik ohutusasutus).

(42)

     Kõrgetasemelise tehisintellekti eksperdirühma aruanne „Policy and investment recommendations for trustworthy artificial intelligence“, juuni 2019.

(43)

     Samas ei välista see siiski, et konkreetses olukorras võib järelevalve osutuda vajalikuks mõne toodete turule laskmise suhtes kehtiva üldisema kohustuse tõttu.

(44)

   Maailma Terviseorganisatsiooni põhikirja esimene põhimõte: „Tervis on täieliku füüsilise, vaimse ja sotsiaalse heaolu seisund, mitte üksnes haiguse või puuete puudumine.“ (https://www.riigiteataja.ee/akt/846869)

(45)

     „Social Robots: Technological, Societal and Ethical Aspects of Human-Robot Interaction“, lk 237–264, Research, Neziha Akalin, Annica Kristoffersson ja Amy Loutfi, juuli 2019.

(46)

      https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top  

(47)

   Tuginedes kõrgetasemelise eksperdirühma poolt usaldusväärse tehisintellekti eetikasuunistes esitatud põhinõuetele: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines  

(48)

   Määrus (EÜ) nr 2008/765 ja otsus (EÜ) nr 2008/768 ning ühtlustatud valdkondlikud tooteohutusalased õigusaktid, nt masinadirektiiv 2006/42/EÜ.

(49)

     Üldise tooteohutuse direktiivi artiklis 2 on sätestatud, et ohutu toote puhul võetakse arvesse „mõju teistele toodetele, kui võib põhjendatult eeldada selle kasutamist koos teiste toodetega“.

(50)

     Masinadirektiivi I lisa punkt 1.2.1.

(51)

      2016. aasta sinine raamat ELi toote-eeskirjade rakendamise kohta .

(52)

     Raadiomoodulid on elektroonilised seadmed, mis edastavad ja/või võtavad vastu kahe seadme vahelisi raadiosignaale (wifi, Bluetooth).

(53)

     Raadioseadmete direktiivi artikli 3 lõike 3 punkt i.

(54)

     Vastavalt direktiivi 2014/33/EL artikli 16 lõikele 2.

(55)

     Liftidirektiivis 2014/33/EL on paigaldaja võrdsustatud tootjaga ja peab vastutama lifti projekteerimise, tootmise, paigaldamise ja turule laskmise eest.

(56)

     Masinadirektiivi I lisa punktis 1.7.4.2 on öeldud: „Iga kasutusjuhend peab võimaluse korral sisaldama vähemalt järgmist teavet:“ i) „monteerimise, paigaldamise ja ühendamise juhised, sealhulgas joonised, diagrammid ning teave kinnitusvahendite ja selle kohta, millisele veermikule või alusele masin paigaldatakse;“.

(57)

     Mootorsõidukite suhtes ühtlustatud direktiiviga 2009/103/EÜ mootorsõidukite kasutamise tsiviilvastutuskindlustuse ja sellise vastutuse kindlustamise kohustuse täitmise kohta.

(58)

     Enamikus liikmesriikides kohaldatakse selle isiku suhtes, kelle nimele on mootorsõiduk registreeritud, mittesüülist vastutust.

(59)

     Aruanne „Vastutus tehisintellekti ja muude kujunemisjärgus tehnoloogiate eest“,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(60)

     Aruanne „Vastutus tehisintellekti ja muude kujunemisjärgus tehnoloogiate eest“,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(61)

     Vrd mehitamata õhusõidukite süsteemid, millele viidatakse komisjoni 24. mai 2019. aasta rakendusmääruses (EL) 2019/947 mehitamata õhusõidukite käitamise normide ja menetluste kohta.

(62)

     Aruanne „Vastutus tehisintellekti ja muude kujunemisjärgus tehnoloogiate eest“,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(63)

     Vt uute tehnoloogiate koosseisu aruanne, lk 3, ja kõrgetasemelise tehisintellekti eksperdirühma poliitiline soovitus 27.2.