EUROOPA KOMISJON
Brüssel,19.2.2020
COM(2020) 64 final
KOMISJONI ARUANNE EUROOPA PARLAMENDILE, NÕUKOGULE NING EUROOPA MAJANDUS- JA SOTSIAALKOMITEELE
Aruanne selle kohta, milline on tehisintellekti, asjade interneti ja robootika mõju ohutusele ja vastutusele
Aruanne selle kohta, milline on tehisintellekti, asjade interneti ja robootika mõju ohutusele ja vastutusele
1.Sissejuhatus
Tehisintellekt, asjade internet ja robootika loovad meie ühiskonna jaoks uusi võimalusi ja hüvesid. Komisjon on tunnistanud nende tehnoloogiate tähtsust ja potentsiaali ning vajadust teha neis valdkondades märkimisväärseid investeeringuid
. Komisjonil on kindel kavatsus teha Euroopast tehisintellekti, asjade interneti ja robootika valdkonna eestvedaja kogu maailmas. Selle eesmärgi saavutamiseks on vaja selget ja prognoositavat õigusraamistikku, mis aitaks lahendada tehnoloogilisi probleeme.
1.1.Praegune ohutus- ja vastutusraamistik
Ohutuse ja vastutuse õigusraamistike üldine eesmärk on tagada, et kõik tooted ja teenused, ka need, milles kasutatakse kujunemisjärgus digitehnoloogiat, töötavad ohutult, usaldusväärselt ja stabiilselt ning et tekkinud kahju heastatakse tõhusalt. Uusi digitehnoloogiaid kasutavate toodete ja süsteemide ohutuse kõrge tase ning tekkinud kahju heastamise töökindlad mehhanismid (st vastutusraamistik) aitavad tarbijaid paremini kaitsta. See tekitab selliste tehnoloogiate vastu usaldust, mis on eeltingimus, et tööstus ja kasutajad neid tehnoloogiaid kasutama hakkaksid. See omakorda suurendab meie tööstuse konkurentsivõimet ja aitab saavutada liidu eesmärke. Tehisintellekti, asjade interneti ja robootika taoliste uute tehnoloogiate kujunemise ajal on selge ohutus- ja vastutusraamistik eriti oluline nii tarbijakaitse kui ka ettevõtjate õiguskindluse tagamiseks.
Liidul on kindel ja usaldusväärne ohutus- ja tootevastutuse õigusraamistik ning kindlad ohutusstandardid, mida täiendavad ühtlustamata riiklikud õigusaktid vastutuse reguleerimise kohta. Koos tagavad need kodanike heaolu ühtsel turul ning soodustavad innovatsiooni ja tehnoloogiliste lahenduste kasutuselevõttu. Samas muudavad tehisintellekt, asjade internet ja robootika paljude toodete ja teenuste omadusi.
25. aprillil 2018 vastu võetud
teatises „Tehisintellekt Euroopa huvides“
anti teada, et komisjon esitab aruande, milles hinnatakse kujunemisjärgus digitehnoloogiate mõju olemasolevatele ohutus- ja vastutusraamistikele. Selles aruandes tahetakse välja selgitada tehisintellekti, asjade interneti ja robootika vastutus- ja ohutusraamistikega seotud laiem mõju ja võimalikud lüngad neis raamistikes ning neid analüüsida. Käesolevas, tehisintellekti valgele raamatule lisatud aruandes kirjeldatud suundumused on mõeldud arutelu ainesena ja esitatud laiema sidusrühmadega konsulteerimise raames. Ohutust käsitlev osa põhineb masinadirektiivi hindamisel ja asjaomaste eksperdirühmadega tehtud koostööl. Vastutust käsitlev osa põhineb tootevastutuse direktiivi hindamisel, asjaomaste eksperdirühmade sisendil ja suhetel sidusrühmadega. Aruande eesmärk ei ole anda ammendavat ülevaadet ohutuse ja vastutuse normidest, pigem keskendutakse peamistele seni kindlaks tehtud küsimustele.
1.2.Tehisintellekti, asjade interneti ja robootika tehnoloogiate tunnused
Tehisintellektil, asjade internetil ja robootikal on palju ühiseid tunnuseid. Neis võivad kokku saada ühenduvus, autonoomsus ja andmesõltuvus, et täita mingeid ülesandeid nii, et inimeste juhtimine või järelevalve puudub täiesti või on minimaalne. Tehisintellekti kasutavad süsteemid saavad oma töö tulemuslikkust parandada ka kogemustest õppimisega. Nende valdkondade keerukust näitab nii tarneahelas osalevate ettevõtjate arvukus kui ka uusi tehnoloogilisi ökosüsteeme moodustavate komponentide, osade, tarkvara, süsteemide ja teenuste paljusus. Sellele lisandub asjaolu, et pärast turule laskmist on lahendused avatud uuendustele ja täiendustele. Suurte andmehulkade kasutamise, algoritmipõhisuse ning tehisintellekti otsustusprotsessi läbipaistmatuse tõttu on keeruline prognoosida tehisintellekti kasutava toote käitumist ja mõista kahju võimalikke põhjuseid. Lisaks kõigele muule võivad ühenduvuse ja avatuse tõttu ähvardada asjade internetti ja tehisintellektitooteid küberohud.
1.3.Tehisintellekti, asjade interneti ja robootika loodavad võimalused
Kasutajate suurem usaldus kujunemisjärgus tehnoloogiate vastu ja nende laialdasem sotsiaalne vastuvõetavus; toodete, protsesside ja ärimudelite täiustamine ning Euroopa tootjate toetamine tõhususe suurendamisel on vaid mõned üksikud näited tehisintellekti, asjade interneti ja robootika loodud võimalustest.
Lisaks tootlikkuse ja tõhususe suurendamisele annab tehisintellekt inimkonnale lootust arendada välja seninägemata intellekt, mis aitaks avada uksi uutele avastustele ja lahendada maailma suurimaid probleeme alates krooniliste haiguste ravist, haiguspuhangute prognoosimisest ja liiklusõnnetustes hukkunute arvu vähendamisest kuni kliimamuutuste vastu võitlemise ja küberohtude ennetamiseni.
Kirjeldatud tehnoloogiad võivad tuua palju kasu tänu tooteohutuse parandamisele, mis vähendab vastuvõtlikkust teatavatele riskidele. Näiteks võib sõidukite ühenduvuse ja automatiseerimisega paraneda liiklusohutus, sest praegu on liiklusõnnetuste põhjuseks enamasti inimlik viga
. Pealegi on asjade interneti süsteemid loodud selliseks, et nad suudavad võtta vastu ja töödelda eri allikatest pärit suuri andmehulki. Suuremat teabehulka võib kasutada selleks, et tooted ise kohaneksid ja muutuksid seega ohutumaks. Uued tehnoloogiad võivad tõhustada toodete tagasikutsumist, näiteks võiks toode edastada kasutajatele hoiatuse, et aidata neil ohutusega seotud probleemi vältida
. Kui ühendatud toote kasutamisel tekib mingi oht, saavad tootjad kasutajatega otse suhelda nii selleks, et kasutajaid riskide eest hoiatada, kui ka selleks, et võimaluse korral probleem otse lahendada näiteks ohutusseadete uuendamisega. Näiteks üks nutitelefonide tootja kasutas 2017. aastal ühe oma seadme tagasikutsumiseks tarkvarauuendust, millega vähendati tagasikutsutud telefonidel akude mahtuvus nullini,
et kasutajad lõpetaksid ohtlike seadmete kasutamise.
Lisaks eelöeldule võivad uued tehnoloogiad aidata parandada toodete jälgitavust. Näiteks võivad ettevõtjad ja turujärelevalveasutused tänu asjade interneti ühenduvusfunktsioonidele jälgida ohtlikke tooteid ja tuvastada riske kogu tarneahela ulatuses
.
Ühest küljest võivad tehisintellekt, asjade internet ja robootika luua majanduse ja ühiskonna jaoks uusi võimalusi, kuid teisalt võivad kaasnevad riskid kahjustada seadusega kaitstud huve, nii materiaalseid kui ka moraalseid. Rakendusvaldkonna laienedes sellise kahju risk üha kasvab. Seoses sellega on oluline analüüsida, kas ja mil määral on praegune ohutust ja vastutust reguleeriv õigusraamistik kasutajate kaitsmiseks endiselt sobiv.
2.Ohutus
Komisjoni teatises „Usalduse loomine inimkeskse tehisintellekti vastu“ on öeldud, et tehisintellekti süsteemidel peaksid olema sisseprojekteeritud ohutus- ja turbemehhanismid, mis tagaksid, et süsteemid on igas etapis kontrollitavalt ohutud ning lähtuvad sellest, et olulisim on kõigi asjaosaliste füüsiline ja vaimne turvalisus.
Käesolevas punktis esitatud hinnangus liidu tooteohutusalastele õigusaktidele analüüsitakse, kas liidu praegune õigusraamistik sisaldab asjakohaseid elemente, mis tagaksid, et ohutus- ja turbemehhanismid oleksid kujunemisjärgus tehnoloogiatesse ja eeskätt tehisintellektisüsteemidesse sisse projekteeritud.
Käesolevas aruandes käsitletakse peamiselt üldist tooteohutuse direktiivi ja tooteid käsitlevaid ühtlustatud õigusakte, mis järgivad uue lähenemisviisi ja/või uue õigusraamistiku horisontaalseid norme (edaspidi „liidu tooteohutusalased õigusaktid või -raamistik“). Horisontaalsed õigusnormid tagavad valdkondlike tooteohutusnormide ühtsuse.
Liidu tooteohutusalaste õigusaktide eesmärk on tagada, et liidu turule lastud tooted vastaksid rangetele tervishoiu-, ohutus- ja keskkonnanõuetele ning et sellised tooted saaksid kogu liidus vabalt ringelda. Valdkondlikke õigusakte täiendab üldise tooteohutuse direktiiv, milles on sätestatud nõue, et kõik tarbekaubad peavad olema ohutud ka siis, kui nende suhtes ei kohaldata liidu valdkondlikke õigusakte. Ohutusnorme täiendavad turujärelevalve ja õigused, mis on riikide ametiasutustele antud turujärelevalve määruse ja üldise tooteohutuse direktiivi alusel. Transpordi valdkonnas on olemas liidu ja liikmesriikide täiendavad õigusnormid mootorsõidukite, õhusõidukite ja laevade kasutuselevõtmise kohta ning samuti on olemas selged normid, mis reguleerivad käitamisaegset ohutust, sh käitajate ülesanded ja ametiasutuste järelevalvealased ülesanded.
Ka Euroopa standardimisalane tegevus on liidu tooteohutusalaste õigusaktide oluline element. Arvestades, et digitaliseerimine ja kujunemisjärgus digitehnoloogia on olemuselt ülemaailmsed, on rahvusvaheline standardimisalane koostöö Euroopa tööstuse konkurentsivõime seisukohast eriti oluline.
Suur osa liidu tooteohutuse raamistikust on koostatud enne selliste digitehnoloogiate esilekerkimist nagu tehisintellekt, asjade internet ja robootika. Seega ei sisalda see alati sätteid, milles käsitletaks sõnaselgelt nende kujunemisjärgus tehnoloogiatega seotud uusi probleeme ja riske. Kuid kuna kehtiv tooteohutuse raamistik on tehnoloogianeutraalne, ei jää neid tehnoloogiaid sisaldavad tooted seepärast veel kehtivate õigusaktide kohaldamisalast üldse välja. Pealegi on hilisemates sellesse raamistikku kuuluvates õigusaktides (nt meditsiiniseadmete või autode valdkonnas) juba sõnaselgelt nimetatud mõningaid digitehnoloogiate kasutuselevõtu aspekte (nt automatiseeritud otsuste tegemine, tarkvara kui eraldi toode ning ühenduvus).
Kehtivate liidu tooteohutusalaste õigusaktide loogiline raamistik
Allpool kirjeldatakse probleeme, mida kujunemisjärgus digitehnoloogiad liidu tooteohutuse raamistiku seisukohast kaasa toovad.
Ühenduvus on üha rohkemate toodete ja teenuste üks põhiomadus. See omadus on ohutuse tavapärase käsituse seisukohast problemaatiline, sest ühenduvus võib kahjustada toote ohutust otseselt või ka kaudselt, kui seda saab häkkida, mis põhjustab turvaohte ja kahjustab kasutajate turvalisust.
Võtame näiteks juhtumi, kui Island teatas ELi kiire teabevahetuse süsteemi kaudu lastele mõeldud nutikellast. Selline toode ei kahjusta otseselt last, kes seda kannab, kuid kuna see ei vasta minimaalsetele turvanõuetele, siis saab seda kergesti kasutada vahendina lapsega suhtlemiseks. Üks sellise toote kavandatud eesmärk on tagada lapse asukoha kindlaksmääramisega tema turvalisus ning seega eeldavad tarbijad, et seade ei ohusta lapse turvalisust näiteks seeläbi, et tema asukoha saab kindlaks määrata ja/või temaga ühendust võtta ükskõik kes.
Veel üks näide on pärit teatisest, mille Saksamaa esitas sõiduauto kohta. Sõidukis oleva raadio tarkvaras võivad olla teatavad turvaaugud, mille kaudu võivad volitamata kolmandad isikud saada juurdepääsu sõiduki omavahel ühendatud juhtimissüsteemidele. Kui kolmas isik otsustaks neid turvaauke kuritarvitada, võib tagajärjeks olla liiklusõnnetus.
Küberohtudele võivad avatud olla ka tööstusrakendused ning kui selliste rakenduste turvalisuse tase jätab soovida, võib see mõjutada paljude inimeste turvalisust. Nii võib juhtuda näiteks siis, kui tööstusrajatise elutähtsat juhtimissüsteemi tabab küberrünne, mille eesmärk on tekitada plahvatus, milles inimesed võivad hukka saada.
Üldiselt ei sisalda liidu tooteohutusalased õigusaktid konkreetseid kohustuslikke olulisi nõudeid, mis puudutaksid kasutajate ohutust mõjutavaid küberohte. Küll aga sisaldavad turvalisusaspekte käsitlevaid sätteid meditsiiniseadmete määrus, mõõtevahendite direktiiv, raadioseadmete direktiiv ja sõidukite tüübikinnitust käsitlevad õigusaktid. Küberturvalisuse määrusega on loodud info- ja kommunikatsioonitehnoloogia (IKT) toodete, teenuste ja protsesside küberturvalisuse vabatahtliku sertifitseerimise raamistik, samas kui kohustuslikud nõuded on ette nähtud liidu asjaomaste tooteohutusalaste õigusaktidega.
Ohutusega seotud riskid võivad kaasneda ka sellega, kui kujunemisjärgus digitehnoloogia peaks minetama võrkuühenduvuse. Näiteks juhul, kui võrku ühendatud tuletõrjealarm minetab ühenduvuse, ei pruugi see kasutajat tulekahju korral hoiatada.
Liidu praeguste tooteohutusalaste õigusaktide ohutuse käsitus on kooskõlas ohutuse laiendatud käsitusega, et oleks võimalik kaitsta tarbijaid ja kasutajaid. Seega hõlmab tooteohutuse käsitus kaitset igasuguste tootest tulenevate riskide eest – mitte ainult mehhaaniliste, keemiliste ja elektriliste riskide, vaid ka küberriskide ja seadmete ühenduvuse kadumisega seotud riskide eest.
Võiks kaaluda, kas asjaomased liidu õigusaktid peaksid sisaldama selle kohta sõnaselgeid sätteid, et pakkuda kasutajatele paremat kaitset ja suuremat õiguskindlust.
Üks tehisintellekti olulisi omadusi on autonoomsus. Tehisintellektist tulenevad soovimatud tagajärjed võivad kahjustada kasutajaid ja teisi kokkupuutuvaid isikuid.
Kuivõrd tehisintellektitoodete tulevast „käitumist“ saab ette kindlaks määrata riskihindamisega, mille tootja teeb enne toodete turule laskmist, siis on liidu tooteohutuse raamistikus niigi sätestatud kohustus, et tootjad peavad oma riskihindamises võtma arvesse toodete kasutamist kogu nende elutsükli käigus. Ühtlasi on seal sätestatud, et tootjad peavad andma kasutajatele juhiseid ja ohutusteavet või neid hoiatama. Sellega seoses nõutakse näiteks raadioseadmete direktiivis, et tootja esitatud juhised sisaldaks teavet selle kohta, kuidas raadioseadmeid kavandatud kasutust silmas pidades kasutada.
Tulevikus võib ette tulla ka olukordi, kus tehisintellekti süsteemi töö tulemusi ei ole võimalik täielikult ette kindlaks määrata. Sellises olukorras ei pruugi enne toote turule laskmist tehtud riskihindamine enam kajastada toote kasutamist, toimimist ega käitumist. Kui sellistel juhtudel peaks tootja poolt algselt ette nähtud kasutusotstarve autonoomse käitumise tõttu muutuma ning kui see peaks mõjutama vastavust ohutusnõuetele, võib kaaluda, kas nõuda iseõppiva toote uut hindamist.
Praeguse raamistikuga on juba ette nähtud, et kui tootja saab teada, et toode tekitab oma olelusringi jooksul riske, mis mõjutavad ohutust, peab ta viivitamata teavitama pädevaid asutusi ja võtma meetmeid, et hoida ära kasutajate ohtu sattumine.
Lisaks riskihindamisele, mis tehakse enne toote turule laskmist, võiks kehtestada uue riskihindamise menetluse juhuks, kui toodet muudetakse eluea jooksul oluliselt, nt antakse tootele teistsugune otstarve, mida tootja ei ole esialgses riskihindamises ette näinud. Sealjuures tuleks keskenduda sellele, kuidas mõjutab autonoomne käitumine ohutust kogu toote eluea jooksul. Riskihindamise peaks tegema asjakohane ettevõtja. Lisaks võiks asjaomaste liidu õigusaktidega kehtestada tootjatele rangemad nõuded kasutajatele edastatavate juhiste ja hoiatuste kohta.
Transpordialastes õigusaktides nõutakse samalaadseid riskihinnanguid juba praegu. Näiteks raudteetransporti käsitlevates õigusaktides on sätestatud, et kui raudteeveeremit muudetakse pärast selle sertifitseerimist, peab muutuse tegija järgima konkreetset menetlust ning määratletud on selged kriteeriumid, mille põhjal otsustada, kas ametiasutus tuleb kaasata või mitte.
Tehisintellekti toodete ja süsteemide iseõppimisfunktsioon võib lasta masinal teha otsuseid, mis kalduvad kõrvale tootjate poolt algselt kavandatust ja seega ka sellest, mida kasutajad ootavad. See tekitab küsimusi inimesepoolse kontrolli kohta, et inimesed saaksid valida, kuidas ja kas delegeerida otsuste tegemine tehisintellekti toodetele ja süsteemidele, et saavutada inimese valitud eesmärgid. Liidu kehtivates tooteohutusalastes õigusaktides ei ole inimjärelevalve küsimust tehisintellekti iseõppivate toodete ja süsteemide kontekstis sõnaselgelt käsitletud.
Asjaomaste liidu õigusaktidega võidakse kaitsemeetmena näha ette konkreetsed inimjärelevalvet puudutavad nõuded, mida kohaldatakse alates toote projekteerimisest ja kogu tehisintellekti toote või süsteemi olelusringi jooksul.
Tehisintellekti rakenduste tulevane „käitumine“ võib põhjustada kasutajatele vaimse tervise riske, mis tulenevad näiteks koostööst tehisintellektipõhiste humanoidrobotite ja -süsteemidega, olgu siis kodus või tööl. Praegu mõeldakse ohutuse all üldiselt kasutaja tajutavat füüsilise kahju ohtu, mida kujunemisjärgus digitehnoloogia võib põhjustada. Samas on ohutud tooted liidu õigusraamistikus määratletud kui tooted, mis ei kujuta endast mingit ohtu või kujutavad üksnes minimaalset ohtu inimese ohutusele ja tervisele. Üldiselt ollakse seisukohal, et tervise mõiste hõlmab nii füüsilist kui ka vaimset heaolu. Õigusraamistikus peaks tooteohutuse mõiste siiski sõnaselgelt hõlmama ka vaimse tervise riske.
Näiteks ei tohiks autonoomsus põhjustada ülemäärast stressi ja ebamugavust pikema aja jooksul ega kahjustada vaimset tervist. Seoses sellega tuleks mainida tegureid, mis avaldavad positiivset mõju eakamate inimeste turvatundele: kindlad suhted tervishoiuteenuseid pakkuvate inimestega, kontroll igapäevatoimingute üle ja info saamine selle kohta. Eakatega suhtlevate robotite tootjad peaksid neid tegureid vaimse tervisega seotud riskide ennetamiseks arvesse võtma.
Tuleks kaaluda, kas asjaomaste ELi õigusaktide kohaldamisalasse võiksid kuuluda muu hulgas tehisintellektipõhiste humanoidrobotite tootjate sõnaselge kohustus võtta arvesse moraalset kahju, mida nende tooted võivad põhjustada kasutajatele, eeskätt haavatavatele kasutajatele, näiteks hooldusalustele vanaduspensionäridele.
Tehisintellektipõhiste toodete ja süsteemide teine oluline omadus on sõltuvus andmetest. Et tehisintellektil põhinevad süsteemid ja tooted teeksid otsuseid nii, nagu tootja on kavandanud, peavad andmed olema täpsed ja asjakohased.
Liidu tooteohutusalastes õigusaktides ei käsitleta sõnaselgelt neid ohutusega seotud riske, mis tulenevad vigastest andmetest. Olenevalt sellest, kuidas toodet kasutatakse, peaksid tootjad projekteerimis- ja testimisetapis siiski juba arvestama ka andmete täpsust ja selle olulisust ohutusega seotud funktsioonide seisukohast.
Näiteks konkreetsete objektide avastamiseks mõeldud tehisintellektipõhisel süsteemil võib olla raske hämaras objekte ära tunda ning seega peaksid süsteemi projekteerijad kasutama oma töös nii tavapärase valgustusega kui ka hämaras keskkonnas tehtud tootekatsete käigus saadud andmeid.
Teine näide on põllumajandusrobotite kohta, nagu puuviljakoristusrobotid, mille eesmärk on puu otsas või maapinnal ära tunda küpseid puuvilju ning teha kindlaks nende asukoht. Neis protsessides kasutatavate algoritmidega on klassifitseerimise edukuse määr juba üle 90 %, kuid algoritmide kasutatavates andmestikes esinev viga võib tähendada, et robot teeb kehva otsuse, mille tagajärjel saab mõni loom või inimene viga.
Tekib küsimus, kas liidu tooteohutusalased õigusaktid peaksid sisaldama konkreetseid nõudeid seoses ohutusalaste riskidega, mis tulenevad vigaste andmete kasutamisest projekteerimisetapis, või mehhanisme selle tagamiseks, et andmete kvaliteet säiliks kogu tehisintellekti toodete ja süsteemide kasutamise aja.
Veel üks tehisintellektipõhiste toodete ja süsteemide oluline omadus on läbipaistmatus, mis võib tuleneda võimest parandada oma tegevuse tulemuslikkust kogemustest õppides. Tehisintellektipõhiste toodete ja süsteemide läbipaistmatuse aste varieerub olenevalt sellest, millist metoodikat on kasutatud. Selle tulemusena võib süsteemi otsustusprotsess olla raskesti jälgitav (nn musta kasti efekt). Inimene ei pruugi ilmtingimata mõista otsustusprotsessi iga sammu, kuid kui tehisintellekti algoritmid muutuvad keerukamaks ja need võetakse kasutusele elutähtsates valdkondades, on äärmiselt oluline, et inimene suudaks mõista, kuidas süsteemis algoritmilisi otsuseid tehakse. See on eriti oluline ex-post jõustamismehhanismi jaoks, sest sedasi on jõustamisasutustel võimalik jälgida tehisintellekti süsteemide käitumise ja valikutega seotud vastutust. Seda on märgitud ka komisjoni teatises „Usalduse loomine inimkeskse tehisintellekti vastu“.
Liidu tooteohutusalastes õigusaktides ei käsitleta sõnaselgelt üha kasvavaid riske, mis tulenevad algoritmipõhiste süsteemide läbipaistmatusest. Seetõttu on vaja kaaluda, kas tuleks kehtestada nõuded algoritmide läbipaistvuse, aga ka stabiilsuse, vastutavuse ning vajaduse korral inimesepoolse järelevalve ja kallutamata tulemuste kohta; eriti oluline on see ex-post jõustamismehhanismi jaoks ning selleks, et luua usaldust selliste tehnoloogiate kasutamise vastu. Üks võimalus selle probleemi lahendamiseks oleks kehtestada algoritmide arendajatele kohustus avalikustada õnnetuse korral projekteerimisparameetrid ja andmekogumite metaandmed.
Ohutust võivad mõjutada täiendavad riskid, mis tulenevad toodete ja süsteemide keerukusest, sest eri komponente, seadmeid ja tooteid saab integreerida ja need võivad mõjutada üksteise toimimist (nt tooted, mis on osa aruka kodu ökosüsteemist).
Seda keerukust on juba käsitletud käesoleva jaotise alguses viidatud liidu ohutusalases õigusraamistikus. Eeskätt peab tootja toote riskihindamise käigus arvesse võtma toote kavandatud kasutamist, eeldatavat kasutamist ja vajaduse korral ka mõistlikult ettenähtavat väärkasutamist.
See tähendab, et kui tootja näeb ette, et tema seade hakkab olema teiste seadmetega ühendatud ja nendega suhtlema, tuleks seda riski hindamisel arvesse võtta. Kasutamine ja väärkasutamine tehakse kindlaks, lähtudes näiteks varasematest kogemustest sama liiki tootega, õnnetuste uurimisest või inimeste käitumisest.
Süsteemide keerukust käsitletakse täpsemalt ka valdkondlikes ohutusalastes õigusaktides, näiteks meditsiiniseadmete määruses, ja teataval määral üldise tooteohutuse alastes õigusaktides. Näiteks peaks aruka kodu ökosüsteemi osaks oleva ühendatud seadme tootja suutma mõistlikult ette näha, et tema tooted hakkavad mõjutama muude toodete ohutust.
Lisaks käsitletakse seda keerukust transpordialastes õigusaktides süsteemi tasandil. Autode, rongide ja lennukite puhul on tüübikinnituse ja sertifitseerimise objekt nii iga eraldi komponent kui ka kogu sõiduk või õhusõiduk. Sõiduki tehnoseisundi, õhusõiduki lennukõlblikkuse ja raudtee koostalitlusvõime hindamine on kõik ohutushindamise osad. Transpordisektoris peab ametiasutus andma süsteemile loa kas kolmanda isiku poolt selgete tehniliste nõuete alusel tehtud vastavushindamise põhjal või pärast seda, kui on tõendatud, kuidas riskidega toime tullakse. Üldiselt seisneb lahendus toote ja süsteemi tasandi kombineerimises.
Liidu tooteohutusalastes õigusaktides, kaasa arvatud transpordialastes õigusaktides, võetakse kasutajate ohutust mõjutada võivate riskide käsitlemisel juba nüüd teataval määral arvesse toodete ja süsteemide keerukust.
Keerukate süsteemidega on sageli seotud tarkvara, mis on tehisintellektipõhise süsteemi oluline osa. Üldiselt on lõpptoote tootja kohustatud esialgse riskihindamise käigus prognoosima, millised on sellesse tootesse integreeritud tarkvara riskid toote turule laskmise ajal.
Teatavates liidu tooteohutusalastes õigusaktides on sõnaselgelt viidatud tootesse integreeritud tarkvarale. Näiteks masinadirektiivis on esitatud nõue, et juhtimissüsteemi tarkvararike ei tohi põhjustada ohuolukordi.
Liidu tooteohutusalastes õigusaktides võiks tarkvarauuendusi võrrelda ohutuskaalutlustel tehtavate hooldustöödega, eeldusel et need ei muuda oluliselt juba turule lastud toodet ega too kaasa uusi riske, mida ei osatud esialgses riskihindamises ette näha. Kui tarkvarauuendus peaks oluliselt muutma toodet, millesse see alla laaditakse, tuleb kõne alla, et kogu toodet käsitatakse uue tootena, mille vastavust asjakohastele tooteohutusalastele õigusaktidele tuleb muudatuse tegemise ajal uuesti hinnata.
Üldiselt ei sisalda liidu sektoripõhised ühtlustatud tooteohutusalased õigusaktid erisätteid eraldiseisva tarkvara kohta, mis lastakse turule sellisena, nagu see on, või laaditakse üles pärast toote turule laskmist. Samas käsitletakse eraldiseisvat tarkvara siiski teatavates liidu õigusaktides, näiteks meditsiiniseadmete määruses. Teatavate raadiomoodulite vahendusel suhtlevatesse ühendatud seadmetesse üles laaditav eraldiseisev tarkvara võib delegeeritud õigusaktide kaudu kuuluda ka raadioseadmete direktiivi kohaldamisalasse. See direktiiv sisaldab nõuet, et teatavatesse klassidesse või kategooriatesse kuuluvad raadioseadmed toetaksid funktsioone, millega tagatakse, et tarkvara üleslaadimine ei kahjusta seadme nõuetele vastavust.
Kuigi liidu tooteohutusalastes õigusaktides on arvestatud ohutusriskidega, mis tulenevad toote turule laskmise ajal tootesse integreeritud tarkvarast ja tootja poolt ette nähtud võimalikest hilisematest uuendustest, võivad vajalikuks osutuda eraldi ja/või sõnaselged nõuded eraldiseisva tarkvara kohta (nt allalaaditav äpp). Erilist tähelepanu tuleks pöörata eraldiseisvale tarkvarale, mis tagab tehisintellekti toodete ja süsteemide ohutusfunktsioonid.
Vajalikuks võivad osutuda täiendavad kohustused, et tootjad tagaksid funktsioonid vältimaks ohutust mõjutada võiva tarkvara üleslaadimist tehisintellekti toodete eluea jooksul.
Lisaks juba nimetatud aspektidele mõjutavad kujunemisjärgus digitehnoloogiaid ka keerukad väärtusahelad. Samas ei ole see keerukus uus ega seondu üksnes uute kujunemisjärgus digitehnoloogiatega, nagu tehisintellekt või asjade internet. See puudutab näiteks selliseid tooteid nagu arvutid, teenindusrobotid või transpordisüsteemid.
Ükskõik kui keerulise väärtusahelaga on tegu, vastutab toote ohutuse eest liidu tooteohutusalase raamistiku kohaselt see tootja, kes toote turule laseb. Tootja vastutab lõpptoote, sealhulgas tootesse integreeritud osade (nt arvuti tarkvara) ohutuse eest.
Mõned liidu tooteohutusalased õigusaktid sisaldavad juba sätteid, milles viidatakse sõnaselgelt olukordadele, kus konkreetse tootega tegelevad enne selle toote turule laskmist mitu ettevõtjat. Näiteks liftidirektiiv sisaldab nõuet, et ettevõtja, kes projekteerib ja valmistab lifti, peab varustama paigaldaja „kõikide vajalike dokumentide ja kogu vajaliku teabega, et viimasel oleks võimalik tagada korrektne ja ohutu lifti paigaldamine ja katsetamine.“ Masinadirektiivis nõutakse, et seadme tootjad esitaksid käitajale teabe selle kohta, kuidas monteerida seade muule masinale.
Liidu tooteohutusalastes õigusaktides võetakse arvesse väärtusahelate keerukust ning kehtestatakse jagatud vastutuse põhimõttest lähtudes kohustused mitmele ettevõtjale.
Tootja vastutus lõpptoote ohutuse eest on praeguste keerukate väärtusahelate puhul seni osutunud piisavaks, kuid veelgi keerukamate väärtusahelate puhul võiksid õiguskindlust pakkuda konkreetsed sätted, millega sõnaselgelt nõuda väärtusahelas osalevate ettevõtjate ja kasutajate vahelist koostööd. Eeskätt võtaksid vastutuse iga toote ohutust mõjutav väärtusahelas osaleja (nt tarkvaratootja) ja kasutajad (kui nad toodet muudavad), kes peaksid järgmisele ahelas osalejale esitama kogu vajaliku teabe ja meetmed.
3.Vastutus
Liidu tasandil on tooteohutust ja tootevastutust käsitlevad sätted kaks teineteist täiendavat mehhanismi, millega püüeldakse sama poliitilise eesmärgi poole, milleks on kaupade toimiv ühtne turg, millel on tagatud ohutuse kõrge tase, st kasutajate ohtu sattumise risk on minimaalne, ning defektsete kaupade põhjustatud kahju hüvitatakse.
Riikide tasandil täiendavad neid liidu õigusnorme ühtlustamata tsiviilvastutuse raamistikud, millega tagatakse mitmesugustel põhjustel (nt tooted ja teenused) tekkinud kahju hüvitamine ja mis võimaldavad pöörduda erinevate vastutavate isikute poole (nt omanik, käitaja, teenusepakkuja).
Kuigi tehisintellekti käsitlevate liidu ohutusnormide optimeerimine võib aidata õnnetusi ära hoida, võib neid siiski ette tulla. Siis tulebki mängu tsiviilvastutus. Tsiviilvastutuse normidel on meie ühiskonnas kahetine roll: ühest küljest tagavad need, et teiste põhjustatud kahju ohver saab hüvitise, ja teisest küljest pakuvad need vastutavale poolele majanduslikke stiimuleid hoiduda sellise kahju tekitamisest. Vastutust käsitlevates õigusnormides tuleb alati leida tasakaal kodanike kahju eest kaitsmise ja ettevõtete innovatsiooni soodustamise vahel.
Seni on vastutusraamistikud liidus hästi toiminud. Need tuginevad tootevastutuse direktiivile (direktiiv 85/374/EMÜ), millega ühtlustati defektsete toodete tootja vastutuse, ja riikide muude ühtlustamata vastutuskordade paralleelsele kohaldamisele.
Tootevastutuse direktiiviga nähakse ette lisakaitse, mida riiklik süüline vastutus üksi ei suuda pakkuda. Sellega on kehtestatud tootja mittesüülise vastutuse süsteem juhul, kui tema toote defekt on põhjustanud kahju. Füüsilise või materiaalse kahju korral on kannatanul õigus kahju hüvitamisele, kui ta tõendab kahju olemasolu, toote defekti (st et toote puhul ei olnud tagatud ohutus, mida üldsusel on õigus eeldada) ning põhjuslikku seost defektiga toote ja kahju vahel.
Riikide ühtlustamata kordadega on ette nähtud süüline vastutus, mis tähendab, et eduka vastutusnõude esitamiseks peab kahju kannataja tõendama vastutava isiku süüd, kahju ja põhjuslikku seost vea ja kahju vahel. Samuti on nendega ette nähtud mittesüülise vastutuse kord juhuks, kui riigi seadusandja on määranud riski eest vastutama konkreetse isiku ning kannatanu ei pea tõendama vea ega defekti olemasolu ega põhjuslikku seost vea/defekti ja kahju vahel.
Riikide vastutuskorrad pakuvad toote või teenuse põhjustatud kahju kannatajatele mitme paralleelse hüvitisnõude võimalust kas süülise või mittesüülise vastutuse alusel. Sageli on sellised nõuded suunatud eri vastutavate isikute vastu ja nende tingimused on erinevad.
Näiteks tavaliselt võib autoõnnetuses kannatanu esitada riigisisese tsiviilõiguse alusel mittesüülisel vastutusel põhineva nõude auto omaniku (st isiku, kelle nimel on mootorsõiduki valdaja vastutuskindlustus) vastu ning süülisel vastutusel põhineva nõude juhi vastu, ning lisaks sellele võib ta esitada veel tootevastutuse direktiivi kohase nõude tootja vastu, kui auto oli defektiga.
Vastavalt mootorsõidukikindlustuse ühtlustatud normidele peab sõiduki kasutamine olema kindlustatud ja praktikas on kindlustusandja alati esimene, kellelt nõutakse isikukahju või varalise kahju korral hüvitist. Vastavalt neile normidele hüvitab kohustuslik kindlustus kannatanu kahju ning kaitseb kindlustatud isikut, kes on riigi tsiviilõiguse normide kohaselt kohustatud maksma rahalist hüvitist mootorsõidukiga toimunud õnnetuse eest. Tootjatele ei ole tootevastutuse direktiiviga kohustuslikku kindlustust ette nähtud. Liidu õiguses ei suhtuta autonoomsetesse sõidukitesse mootorsõidukikindlustuse osas teisiti kui mitteautonoomsetesse sõidukitesse. Nagu kõigil sõidukitel peab ka sellistel sõidukitel olema mootorsõiduki valdaja vastutuskindlustus, mis on kannatanu jaoks kõige lihtsam viis hüvitist saada.
Korralik kindlustus võib aidata leevendada õnnetuse negatiivseid tagajärgi ja tagada, et kannatanu saab hüvitise ilma probleemideta kätte. Kui vastutust käsitlevad õigusnormid on selged, aitab see kindlustusettevõtjatel oma riske arvutada ja lõplikult kahju eest vastutavalt isikult hüvitist nõuda. Näiteks juhul, kui õnnetuse põhjustas defekt, võib liikluskindlustusandja pärast seda, kui ta on kannatanule hüvitist maksnud, nõuda tootjalt kulude hüvitamist.
Kujunemisjärgus digitehnoloogia, nt tehisintellekti, asjade interneti ja robootika omadused on aga liidu ja riiklike vastutusraamistike seisukohast probleemsed ning võivad nende mõjusust vähendada. Mõne sellise omaduse tõttu võib olla keeruline tuvastada kahju põhjustanud inimkäitumist, mis annaks aluse süülisel vastutusel põhinevaks nõudeks vastavalt riigisisestele õigusnormidele. See tähendab, et õigusvastaselt tekitatud kahju käsitlevate siseriiklike õigusaktide alusel esitatud nõudeid võib olla keerukas või liiga kulukas tõendada ja seega ei pruugi kannatanu saada piisavat hüvitist. On oluline, et kujunemisjärgus digitehnoloogiast, nt tehisintellekti sisaldavatest toodetest ja teenustest tingitud õnnetustes kannatanutele ei pakutaks kehvemat kaitset kui siis, kui õnnetuse põhjustab mõni teine samalaadne toode või teenus, mille korral nad saaksid hüvitist õigusvastaselt tekitatud kahju käsitlevate siseriiklike õigusaktide alusel. Muidu võib vähendada selliste kujunemisjärgus tehnoloogiate vastuvõetavaks pidamine ühiskonnas ja tekkida kõhklusi nende kasutamisel.
Tuleb hinnata, kas uute tehnoloogiatega olemasolevate raamistike jaoks tekkivad probleemid võivad ühtlasi põhjustada õiguslikku ebakindlust selles, kuidas tuleks kohaldada kehtivaid õigusnorme (nt kuidas kehtib süü kontseptsioon tehisintellekti põhjustatud kahju korral). See omakorda võib pärssida investeeringuid ning suurendada tootjate ja teiste tarneahelas osalevate ettevõtjate (eeskätt Euroopa VKEde) kulusid, mis on seotud teabe ja kindlustusega. Kui liikmesriigid peaksid hakkaksid mingil hetkel tegelema riigisiseste vastutusraamistike rakendamisel ilmnevate probleemidega, võib see pealegi viia edasise killustumiseni ning suurendada seega uuenduslike tehisintellektilahenduste kasutuselevõtu kulusid ja vähendada piiriülest kaubandust ühtsel turul. On oluline, et ettevõtjad teaksid, millised on nende vastutusega seotud riskid kogu väärtusahelas, ja saaksid neid riske vähendada või ära hoida ja end nende riskide vastu tõhusalt kindlustada.
Käesolevas jaotises selgitatakse, milliseid probleeme tekitavad uued tehnoloogiad praeguste raamistike jaoks, ja analüüsitakse, kuidas neid probleeme lahendada. Lisaks võib mõningate sektorite, näiteks tervishoiu eripära tõttu osutuda vajalikuks põhjalikum analüüs.
Toodete, teenuste ja väärtusahela keerukus. Viimastel aastakümnetel on tehnoloogia ja tööstus pöörase kiirusega edasi arenenud. Näiteks tooteid ja teenuseid ei pruugi enam olla nii lihtne teineteisest eristada kui varem. Tooted ja teenuste osutamine on üha enam omavahel seotud. Keerukad tooted ja väärtusahelad ei ole Euroopa tööstuse ega selle regulatiivse mudeli jaoks midagi uut, kuid seoses tootevastutusega tuleb tarkvarale ja ka tehisintellektile pöörata erilist tähelepanu. Tarkvara on paljude toodete toimimiseks hädavajalik ja võib mõjutada nende ohutust. See on integreeritud toodetesse, kuid seda võidakse tarnida ka eraldi, et toodet saaks kavandatud moel kasutada. Ei arvutist ega ka nutitelefonist ei oleks ilma tarkvarata erilist kasu. See tähendab, et tarkvara võib muuta füüsilise toote defektseks ja põhjustada füüsilist kahju (vt tekstikasti tarkvara kohta ohutust käsitlevas osas). Lõpuks võib see kaasa tuua tootja vastutuse tootevastutuse direktiivi alusel.
Kuna tarkvara liike ja esinemisvorme on palju, siis ei pruugi tarkvara liigitumine teenuseks või tooteks olla alati enesestmõistetav. Kui näiteks füüsilise toote tööd juhtivat tarkvara võib pidada selle toote osaks, siis mõningate eraldiseisva tarkvara esinemisvormide liigitamine võib olla keerukam.
Tootevastutuse direktiivis kasutatud toote määratlus on küll väga lai, kuid selle ulatust võiks veel selgitada, et võtta paremini arvesse kujunemisjärgus tehnoloogiate keerukust ja tagada, et tarkvara või muude digitaalsete funktsioonide tõttu defektsete toodete põhjustatud kahju eest saab alati hüvitist nõuda. See aitaks ettevõtjatel, näiteks tarkvaraarendajatel, paremini hinnata, kas neid võidakse pidada tootjaks tootevastutuse direktiivi tähenduses.
Sageli integreeritakse tehisintellekti rakendusi keerukatesse asjade interneti keskkondadesse, kus omavahel suhtlevad paljud erinevad ühendatud seadmed ja teenused. Kui keerukas ökosüsteemis on koos erinevad digitaalsed komponendid ja asjaosalisi on palju, võib olla keeruline hinnata, mis on võimaliku kahju algpõhjus ja kes selle eest vastutab. Selliste tehnoloogiate keerukuse tõttu võib kannatanul olla väga keeruline vastutavat isikut kindlaks teha ja tõendada, et kõik tulemusliku nõude esitamiseks vajalikud tingimused on täidetud nii, nagu siseriiklikus õiguses nõutud. Vajalike eksperditeadmiste hankimine võib olla majanduslikult üle jõu käivalt kallis ning see võib panna kannatanu hüvitise nõudmisest loobuma.
Lisaks muule suhtlevad tehisintellektipõhised tooted ja teenused ka traditsiooniliste tehnoloogiatega ning see muudab ka vastutuse teema veelgi keerukamaks. Näiteks viibivad isejuhtivad autod teatud aja jooksul teedel koos tavaautodega. Koostoimivate osalejate sama keerukaid kooslusi võib esineda ka mõnes teenustesektoris (nt liikluskorraldus ja tervishoid), kus inimestepoolset otsustusprotsessi toetavad automaatsed tehisintellekti süsteemid.
Vastutuse ja uute tehnoloogiate eksperdirühma uute tehnoloogiate koosseisu aruande kohaselt võiks kaaluda riikide õigusnormide kohandamist, et lihtsustada tehisintellektiga seotud kahju kannatanute tõendamiskohustust. Näiteks võib tõendamiskohustuse siduda konkreetsete õigusega ettenähtud küberturvalisusalaste või muude ohutusalaste nõuete järgimisega (asjaomase ettevõtja poolt): kui need õigusnormid ei ole täidetud, võiks tõendamiskohustust süü ja põhjusliku seose osas muuta.
Komisjoni huvitavad arvamused selle kohta, kas ja mil määral oleks vaja ELi algatust, et keerukusest tulenevate tagajärgede leevendamiseks kergendada riikide vastutusalaste õigusnormidega nõutavat tõendamiskohustust või see ümber pöörata, kui on tegemist tehisintellektirakenduste töö põhjustatud kahjuga.
Liidu õiguses kehtib vastavalt tootevastutuse direktiivile põhimõte, et toode, mis ei vasta kohustuslikele ohutusnormidele, loetakse defektseks olenemata tootja süüst. Samas võib olla põhjust kaaluda ka seda, kuidas direktiivi raames kergendada kannatanute tõendamiskohustust; praegu toetub direktiiv tõendite ja põhjusliku seose kindlakstegemise osas riigisisestele õigusnormidele.
Ühenduvus ja avatus. Praegu ei ole täiesti selge, millised võiksid olla ohutusalased ootused kahju puhul, mille põhjustab toote küberturvalisuse rikkumine, ning kas sellist kahju saaks piisavalt hüvitada tootevastutuse direktiivi alusel.
Küberturvalisuse nõrkused võivad olemas olla juba toote ringlusse laskmisel, kuid need võivad ilmneda ka hiljem, tükk aega pärast toote ringlusse laskmist.
Süülise vastutuse raamistikes annab selgete küberturvalisuse alaste kohustuste kehtestamine ettevõtjatele võimaluse otsustada, mida nad peavad tegema, et vältida vastutusega kaasnevaid tagajärgi.
Tootevastutuse direktiivi raames võib suurema tähtsuse omandada küsimus sellest, kas tootja oleks võinud teatavaid muutusi ette näha, kui ta oleks arvesse võtnud toote mõistlikult eeldatavat kasutamist. Näiteks võib juhtuda, et kaitseargumendina hakatakse sagedamini kasutama nn hilisema defekti põhimõtet, mis tähendab, et tootja ei vastuta, kui defekti ei olnud toote ringlusse laskmise ajal, ja arendamisriski põhimõtet (st et tolle aja tippteadmiste põhjal ei saanud sellist defekti ette näha). Lisaks võib vastutust vähendada see, kui kahju kannatanu ei tee ohutuse seisukohast vajalikke uuendusi. Seda võiks pidada kannatanu kaassüül tekkinud kahjuks ja seega võiks tootja vastutus olla väiksem. Eeldatava mõistliku kasutamise mõiste ja kannatanu kaassüül tekkinud kahjuga seotud küsimused, näiteks turvauuenduse allalaadimata jätmine, võivad üha enam päevakorrale kerkida ning seetõttu võib kannatanutel olla keerulisem tootedefekti põhjustatud kahju eest hüvitist saada.
Autonoomsus ja läbipaistmatus. Kui tehisintellektirakendused suudavad tegutseda autonoomselt, täidavad nad ülesandeid ilma, et iga samm oleks ette kindlaks määratud, ning sealjuures esineb vahetut inimesepoolset kontrolli või järelevalvet üha vähem ja lõpuks üldse mitte. Masinõppel põhinevaid algoritme võib olla raske või isegi võimatu mõista (nn musta kasti efekt).
Lisaks eespool käsitletud keerukusele võib musta kasti efekti tõttu muutuda keerukaks hüvitise saamine autonoomsete tehisintellektirakenduste tekitatud kahju eest. Tehisintellekti kasutatavast algoritmist ja andmetest aru saamiseks on vaja analüütilist suutlikkust ja tehnilist oskusteavet, millele ligipääs võib olla kannatanute jaoks üle jõu käivalt kulukas. Pealegi võib algoritmile ja andmetele juurdepääs olla võimatu ilma potentsiaalselt vastutava osapoole koostööta. Reaalses elus võib see tähendada et kannatanu ei saa vastutusega seotud nõuet esitada. Pealegi oleks ebaselge, kuidas tõendada autonoomselt tegutseva tehisintellekti süüd või milles võiks seisneda tehisintellekti kasutava isiku süü.
Riikide õigusaktides on juba välja töötatud rida lahendusi, et vähendada samalaadses olukorras olevate kannatanute tõendamiskohustust.
Liidu tooteohutuse ja tootevastutuse juhtpõhimõte on endiselt see, et tootjad peavad tagama, et kõik turule lastavad tooted on ohutud nii kogu nende olelusringi jooksul kui ka toote mõistlikult ettenähtava kasutamise jaoks. See tähendab, et tootja peab veenduma, et tehisintellekti kasutav toode vastab teatavatele ohutusparameetritele. Tehisintellekti funktsioonid ei välista õigust eeldada toodetelt ohutust, olgu siis tegu automaatsete muruniiduki või kirurgiarobotiga.
Autonoomsus võib mõjutada toote ohutust, sest see võib oluliselt muuta toote omadusi, sealhulgas ohutusfunktsioone. Küsimus on selles, mis tingimustel pikendavad iseõppimisfunktsioonid tootja vastutust ja millises ulatuses pidanuks tootja teatavaid muutusi ette nägema.
Praeguses tootevastutuse direktiivis kasutatava „ringlusse laskmise“ mõiste võiks üle vaadata, et võtta arvesse võimalust, et tooted muutuvad või neid võidakse muuta, kuid seda tuleks teha kooskõlas vastavate muudatustega liidu ohutusraamistikus. Ühtlasi aitaks see selgitada, kes vastutab tootes tehtavate muudatuste eest.
Vastutuse ja uute tehnoloogiate eksperdirühma uute tehnoloogiate koosseisu aruande kohaselt võib mõnede autonoomsete tehisintellekti seadmete ja teenuste töö riskiprofiil olla vastutuse mõttes spetsiifiline, sest need võivad märkimisväärselt kahjustada olulisi õiguspäraseid huve, nagu elu, tervis ja vara, ning seada ohtu laiema üldsuse. Võimalik, et see puudutab peamiselt avalikus ruumis liikuvaid tehisintellektiseadmeid (nt täiesti isejuhtivad sõidukid, mehitamata õhusõidukid ja pakiveorobotid) või sarnaste riskidega tehisintellektipõhiseid teenuseid (nt liikluskorraldusteenused, mis suunavad või juhivad sõidukeid, või energia jaotusvõrgu juhtimine). Probleeme, mida autonoomsus ja läbipaistmatus põhjustavad õigusvastaselt tekitatud kahju käsitlevate siseriiklike õigusaktide jaoks, võiks püüda lahendada riskipõhise lähenemisviisi abil. Mittesüülise vastutuse süsteemidega saaks tagada, et riski realiseerumise korral saab kannatanu hüvitist olenemata süülisusest. Hoolega tuleks analüüsida seda, kuidas mõjutab mittesüülise vastutuse omistamine selliste toimingute eest tehisintellekti arendamist ja kasutuselevõttu, ning kaaluda võiks riskipõhist lähenemisviisi.
Seoses spetsiifilise riskiprofiiliga tehisintellektirakenduste käitamisega huvitavad komisjoni arvamused selle kohta, kas ja mil määral oleks võimalikele kannatanutele mõjusa hüvitise saavutamiseks vaja mittesüülist vastutust sellisel kujul, nagu see on riikide õigusaktidega nähtud ette samalaadsete riskide puhul, millega üldsus kokku puutub (näiteks seoses mootorsõidukite, lennukite või tuumaelektrijaamade käitamisega). Lisaks sellele huvitavad komisjoni arvamused selle kohta, kas mittesüülise vastutuse võiks siduda kohustusega sõlmida kättesaadav kindlustusleping (võttes eeskujuks liikluskindlustuse direktiivi), et tagada hüvitamine olenemata vastutava isiku maksevõimest ja aidata vähendada kahjuga seotud kulusid.
Kõigi muude (st valdava enamiku) tehisintellektirakenduste käitamise osas kaalub komisjon, kas põhjusliku seose ja süü tõendamise kohustust tuleks kohandada. Siinjuures kerkib aga esile probleem, millele juhiti tähelepanu ka vastutuse ja uute tehnoloogiate eksperdirühma uute tehnoloogiate koosseisu aruandes, nimelt võib tekkida olukord, kus potentsiaalselt vastutav isik ei ole vastutuse hindamiseks vajalikke andmeid registreerinud või ei soovi neid kannatanuga jagada.
4.Kokkuvõte
Selliste uute digitehnoloogiate esilekerkimine nagu tehisintellekt, asjade internet ja robootika tekitab uusi tooteohutuse ja vastutusega seotud probleeme, mis puudutavad ühenduvust, autonoomsust, andmesõltuvust, läbipaistmatust, toodete ja süsteemide keerukust, tarkvarauuendusi ning keerukamaid ohutusjuhtimise ja väärtusahelaid.
Praegustes tooteohutusalastes õigusaktides on rida lünki, millega tuleb tegeleda. Eeskätt kehtib see üldise tooteohutuse direktiivi, masinadirektiivi, raadioseadmete direktiivi ja uue õigusraamistiku kohta. Edaspidi hakkab eri õigusaktide kohandamine selles kontekstis toimuma järjepidevalt ja ühtlustatud viisil.
Ohutusega seotud uued probleemid tekitavad uusi probleeme ka seoses vastutusega. Vastutusega seotud probleemidega tuleb tegeleda, et ühest küljeks saaks tagada samasuguse kaitse kui traditsiooniliste tehnoloogiate tõttu kannatanutele ning teisest küljest säiliks tasakaal tehnoloogilise innovatsiooni vajadustega. See aitab luua usaldust nende uute kujunemisjärgus digitehnoloogiate vastu ja luua investeeringute jaoks vajalikku stabiilsust.
Kuigi põhimõtteliselt võimaldavad liidu ja liikmesriikide kehtivad vastutust käsitlevad õigusaktid toime tulla ka kujunemisjärgus tehnoloogiatega, võib tehisintellektiga seotud probleemide ulatuse ja koosmõju tõttu olla keeruline pakkuda kannatanutele hüvitist kõigil juhtudel, kui see oleks õigustatud. Seega võib praeguste normide kohane kulude jaotamine kahju tekkimise korral olla ebaõiglane või ebatõhus. Olukorra parandamiseks ja kehtiva raamistiku võimalike ebamäärasustega tegelemiseks võiks sihipärast riskipõhist lähenemisviisi kasutades kaaluda tootevastutuse direktiivis ja riiklikes vastutuskordades teatavate kohanduste tegemist asjakohaste ELi algatuste toel, võttes arvesse näiteks seda, et tehisintellekti eri rakendused põhjustavad erinevaid riske.