52020IP0276

Language
- My EUR-Lex
- Sign in
- Register
- My recent searches (0)

This document is an excerpt from the EUR-Lex website

Search tips

Need more search options? Use the Advanced search

EUROPA
EUR-Lex home
EUR-Lex - 52020IP0276 - EN

Document 52020IP0276

Help

Eiropas Parlamenta 2020. gada 20. oktobra rezolūcija ar ieteikumiem Komisijai par mākslīgajam intelektam piemērojamo civiltiesiskās atbildības režīmu (2020/2014(INL))

OV C 404, 6.10.2021, p. 107–128 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

HTML

PDF

Official Journal

6.10.2021

Eiropas Savienības Oficiālais Vēstnesis

C 404/107

P9_TA(2020)0276

Mākslīgajam intelektam piemērojamais civiltiesiskās atbildības režīms

Eiropas Parlamenta 2020. gada 20. oktobra rezolūcija ar ieteikumiem Komisijai par mākslīgajam intelektam piemērojamo civiltiesiskās atbildības režīmu (2020/2014(INL))

(2021/C 404/05)

Eiropas Parlaments,

—	ņemot vērā Līguma par Eiropas Savienības darbību 225. pantu,

—	ņemot vērā Līguma par Eiropas Savienības darbību 114. un 169. pantu,

—	ņemot vērā Padomes 1985. gada 25. jūlija Direktīvu 85/374/EEK par dalībvalstu normatīvo un administratīvo aktu tuvināšanu attiecībā uz atbildību par produktiem ar trūkumiem (1) (Produktatbildības direktīva),

—

ņemot vērā Eiropas Parlamenta un Padomes 2005. gada 11. maija Direktīvu 2005/29/EK, kas attiecas uz uzņēmēju negodīgu komercpraksi iekšējā tirgū attiecībā pret patērētājiem (Negodīgas komercprakses direktīva) (2) un Eiropas Parlamenta un Padomes 2011. gada 25. oktobra Direktīvu 2011/83/ES par patērētāju tiesībām (3), kā arī citus patērētāju tiesību aizsardzības noteikumus,

—	ņemot vērā Eiropas Parlamenta un Padomes 2017. gada 5. aprīļa Regulu (ES) 2017/745, kas attiecas uz medicīniskām ierīcēm (4),

—	ņemot vērā Padomes 2018. gada 28. septembra Regulu (ES) 2018/1488 par Eiropas Augstas veiktspējas datošanas kopuzņēmuma izveidi (5),

—	ņemot vērā Eiropas Parlamenta un Padomes 2019. gada 20. maija Direktīvu (ES) 2019/770 par dažiem digitālā satura un digitālo pakalpojumu piegādes līgumu aspektiem (6),

—	ņemot vērā 2016. gada 13. aprīļa Iestāžu nolīgumu par labāku likumdošanas procesu un Labāka regulējuma pamatnostādnes (7),

—	ņemot vērā 2018. gada 6. jūnija priekšlikumu Eiropas Parlamenta un Padomes regulai, ar ko laikposmam no 2021. līdz 2027. gadam izveido Digitālās Eiropas programmu (COM(2018)0434),

—	ņemot vērā Komisijas 2018. gada 25. aprīļa paziņojumu “Mākslīgais intelekts Eiropai” (COM(2018)0237),

—	ņemot vērā Komisijas 2018. gada 7. decembra paziņojumu “Koordinētais mākslīgā intelekta plāns” (COM(2018)0795),

—	ņemot vērā Komisijas 2019. gada 8. aprīļa paziņojumu “Vairojot uzticēšanos antropocentriskam mākslīgajam intelektam” (COM(2019)0168),

—	ņemot vērā Komisijas 2020. gada 19. februāra ziņojumu Eiropas Parlamentam, Padomei un Eiropas Ekonomikas un sociālo lietu komitejai par mākslīgo intelektu, lietu internetu un robotiku drošuma un atbildības aspektā (COM(2020)0064),

—	ņemot vērā Komisijas 2020. gada 19. februāra Balto grāmatu “Mākslīgais intelekts. Eiropiska pieeja — izcilība un uzticēšanās” (COM(2020)0065),

—	ņemot vērā 2017. gada 16. februāra rezolūciju ar ieteikumiem Komisijai par civiltiesību noteikumiem par robotiku (8),

—	ņemot vērā 2017. gada 1. jūnija rezolūciju par Eiropas rūpniecības digitalizāciju (9),

—	ņemot vērā 2018. gada 12. septembra rezolūciju par autonomo ieroču sistēmām (10),

—	ņemot vērā 2019. gada 12. februāra rezolūciju par visaptverošu Eiropas rūpniecības politiku attiecībā uz mākslīgo intelektu un robotiku (11),

—	ņemot vērā 2020. gada 12. februāra rezolūciju par automatizētiem lēmumu pieņemšanas procesiem: patērētāju aizsardzības un preču un pakalpojumu brīvas aprites nodrošināšana (12),

—	ņemot vērā Mākslīgā intelekta augsta līmeņa ekspertu grupas 2019. gada 8. aprīļa ziņojumu “Ētikas pamatnostādnes uzticamam MI”,

—	ņemot vērā Mākslīgā intelekta augsta līmeņa ekspertu grupas 2019. gada 8. aprīļa ziņojumu “Mākslīgā intelekta definīcija: galvenās iespējas un jomas”,

—	ņemot vērā Mākslīgā intelekta augsta līmeņa ekspertu grupas 2019. gada 26. jūnija ziņojumu “Politikas un ieguldījumu ieteikumi uzticama MI jomā”,

—	ņemot vērā Atbildības un jauno tehnoloģiju ekspertu grupas Jauno tehnoloģiju apakšgrupas 2019. gada 21. novembra ziņojumu “Atbildība par mākslīgo intelektu un citām jaunām digitālajām tehnoloģijām”,

—	ņemot vērā Eiropas Parlamenta Parlamentārās izpētes pakalpojumu dienesta veikto Eiropas pievienotās vērtības novērtējuma pētījumu “Civiltiesiskās atbildības režīms mākslīgā intelekta jomā, Eiropas pievienotās vērtības novērtējums” (13);

—	ņemot vērā Eiropas Parlamenta Izpētes dienesta STOA 2016. gada jūnija politikas brīfingu par juridiskiem un ētiskiem apsvērumiem saistībā ar robotiku (14),

—	ņemot vērā Eiropas Parlamenta iekšpolitikas ģenerāldirektorāta 2016. gada oktobra pētījumu Juridiskajai komitejai “Eiropas civiltiesību noteikumi robotikā” (15),

—	ņemot vērā Reglamenta 47. un 54. pantu,

—	ņemot vērā Iekšējā tirgus un patērētāju aizsardzības komitejas atzinumu un Transporta un tūrisma komitejas atzinumu,

—	ņemot vērā Juridiskās komitejas ziņojumu (A9-0178/2020),

tā kā jēdzienam “atbildība” ir būtiska divējāda loma ikdienas dzīvē — no vienas puses, tas nodrošina, ka persona, kurai nodarīts kaitējums vai zaudējumi, var pieprasīt un saņemt kompensāciju no puses, kura ir atbildīga par šo nodarīto kaitējumu vai zaudējumiem un, no otras puses, tas paredz ekonomiskus stimulus fiziskām un juridiskām personām, lai tās principā izvairītos nodarīt kaitējumu vai zaudējumus vai savā darbībā jau ierēķinātu kompensācijas maksāšanas risku;

tā kā jebkuram uz nākotni vērstam civiltiesiskās atbildības tiesiskajam regulējumam ir jāvieš uzticība produktu un pakalpojumu drošumam, uzticamībai un konsekventumam, tostarp digitālajai tehnoloģijai, lai nodrošinātu līdzsvaru starp potenciālo cietušo efektīvu un godīgu aizsardzību pret kaitējumu vai zaudējumiem un vienlaikus paredzētu pietiekamu rīcības brīvību nolūkā nodrošināt uzņēmumiem, jo īpaši maziem un vidējiem uzņēmumiem, iespēju izstrādāt jaunas tehnoloģijas, produktus vai pakalpojumus; tā kā tas palīdzēs veidot uzticēšanos un radīs stabilitāti investīcijām; tā kā jebkura atbildības regulējuma galējam mērķim jābūt nodrošināt juridisko noteiktību visām pusēm — vai tas būtu ražotājs, operators, skartā persona, vai jebkura trešā puse;

tā kā dalībvalsts tiesību sistēma var modulēt savus atbildības noteikumus attiecībā uz konkrētiem aktoriem vai padarīt tos stingrākus attiecībā uz konkrētām darbībām; tā kā atbildība neatkarīgi no vainas nozīmē, ka puse var būt atbildīga, pat neesot vainīga; tā kā daudzu valstu saistību tiesības paredz, ka atbildētājs ir atbildīgs neatkarīgi no vainas, ja risks, ko attiecīgais atbildētājs ir radījis sabiedrībai, piemēram, saistībā ar automobiļiem vai bīstamām darbībām, vai ko tas nevar kontrolēt, piemēram, dzīvniekus, rezultējas kaitējumā vai zaudējumos;

D.	tā kā pirms Savienības likumdošanas darbībām, kuru mērķis ir atbildības skaidra noteikšana attiecībā uz mākslīgā intelekta (MI) sistēmām, būtu jāveic analīze un jāapspriežas ar dalībvalstīm par ierosinātā tiesību akta atbilstību ekonomikas, tiesiskajiem un sociālajiem nosacījumiem;

tā kā jautājums par MI civiltiesiskās atbildības režīmu būtu jāapspriež plašās publiskās debatēs, ņemot vērā visas iesaistītās intereses, jo īpaši ētikas, tiesiskos, ekonomikas un sociālos aspektus, lai nepieļautu pārpratumus un novērstu nepamatotas bažas, ko iedzīvotājiem var radīt šī tehnoloģija; tā kā turpmāku likumdošanas pasākumu priekšnoteikumam ir jābūt rūpīgai pārbaudei ietekmes novērtējuma ietvaros par jaunā tiesiskā regulējuma sekām visiem aktoriem;

F.	tā kā MI sistēmu jēdziens ietver lielu grupu dažādu tehnoloģiju, tostarp vienkāršu statistiku, mašīnmācīšanos un mašīnu dziļo mācīšanos;

tā kā termina “automatizēta lēmumu pieņemšana” izmantošana varētu novērst iespējamo termina “mākslīgais intelekts” neskaidrību; tā kā “automatizēta lēmumu pieņemšana” ir saistīta ar to, ka lietotājs sākotnēji daļēji vai pilnībā deleģē lēmumu kādai struktūrai, izmantojot programmatūru vai pakalpojumu; tā kā šī struktūra savukārt izmanto automātiski izpildāmus lēmumu pieņemšanas modeļus, lai veiktu darbību lietotāja vārdā vai informētu lietotāju un palīdzētu pieņemt lēmumu attiecībā uz veicamo darbību;

tā kā konkrētas MI sistēmas rada būtiskas juridiskas problēmas spēkā esošā atbildības regulējuma jomā un varētu novest pie situācijām, kurās šādu sistēmu nepārredzamības dēļ būtu ārkārtīgi dārgi vai pat neiespējami noteikt, kurš kontrolējis ar MI sistēmu saistīto risku vai kurš kods, ievadītā informācija vai dati galu galā ir noveduši pie kaitnieciskās darbības; tā kā šis faktors varētu apgrūtināt saiknes starp kaitējumu vai zaudējumiem un izraisošo rīcību noteikšanu, kā rezultātā cietušie varētu nesaņemt pienācīgu kompensāciju;

tā kā juridiskās problēmas rada arī MI sistēmu savstarpējā savienojamība un MI sistēmu savienojamība ar cita veida sistēmām, to atkarība no ārējiem datiem, neaizsargātība pret kiberdrošības pārkāpumiem, kā arī tādu arvien autonomāku MI sistēmu projektēšana, kuras cita starpā izmanto mašīnmācīšanās un mašīnu dziļās mācīšanās metodes;

tā kā pamatoti ētikas standarti MI sistēmām kopā ar stingrām un taisnīgām kompensācijas procedūrām var palīdzēt risināt šādas juridiskās problēmas un izskaust risku, ka lietotāji varētu mazāk vēlēties pieņemt jauno tehnoloģiju; tā kā taisnīgas atlīdzības procedūras nozīmē, ka visām personām, kurām MI sistēma ir nodarījusi kaitējumu vai kurām MI sistēma ir nodarījusi mantisku kaitējumu, jānodrošina tāds pats aizsardzības līmenis kā gadījumos, kuri ar MI sistēmu nav saistīti; tā kā lietotājam ir jābūt pārliecinātam, ka MI izmantojošo sistēmu radītos iespējamos zaudējumus segs atbilstīga apdrošināšana un ka ir skaidri definēts tiesisks veids kompensācijas saņemšanai;

tā kā juridiskā noteiktība ir arī būtisks nosacījums uz MI balstītas tehnoloģijas dinamiskai izstrādei un inovācijai, jo īpaši jaunuzņēmumiem, mikrouzņēmumiem un maziem un vidējiem uzņēmumiem, un tās praktiskai piemērošanai ikdienas dzīvē; tā kā jaunuzņēmumu, mikrouzņēmumumu un mazo un vidējo uzņēmumu būtiskā nozīme, jo īpaši Eiropas ekonomikā, attaisno stingri samērīgu pieeju, lai šie uzņēmumi varētu attīstīties un ieviest inovācijas;

tā kā MI sistēmu daudzveidība un ļoti atšķirīgie riski, ko rada šī tehnoloģija, sarežģī centienus rast vienotu risinājumu, kurš būtu piemērots visam risku spektram; tā kā šajā saistībā būtu jāizvēlas pieeja, kas izmanto eksperimentus, izmēģinājumus un “regulatīvās smilškastes”, lai rastu samērīgus un uz pierādījumiem balstītus risinājumus, kas atbilstoši vajadzībai ir piemēroti konkrētām situācijām un nozarēm,

Ievads

uzskata, ka uzdevums, kas saistīts ar MI sistēmu ieviešanu sabiedrībā, darbavietā un ekonomikā, ir viens no būtiskākajiem jautājumiem pašreizējā politikas darba kārtībā; tā kā uz MI balstītas tehnoloģijas varētu un tām būtu jācenšas uzlabot mūsu dzīvi gandrīz visās nozarēs, sākot no privātās sfēras, piemēram, transporta nozares, personalizētas izglītības, palīdzības neaizsargātām personām, fiziskās sagatavotības programmām un kredīta izsniegšanas līdz darba videi, piemēram, garlaicīgu un vienveidīgu uzdevumu atvieglošanai, un līdz globālām problēmām, piemēram, klimata pārmaiņām, veselības aprūpei, uzturam un loģistikai;

ir stingri pārliecināts — lai efektīvi izmantotu sniegtās priekšrocības un novērstu potenciālu ļaunprātīgu MI sistēmu izmantošanu, kā arī izvairītos no regulējuma sadrumstalotības Savienībā, izšķiroša nozīme ir vienotiem, uz principiem balstītiem un uz nākotni vērstiem tiesību aktiem visā Savienībā attiecībā uz visām MI sistēmām; uzskata — lai gan konkrētu nozaru regulējumi plaša spektra iespējamajiem lietojumiem ir vēlami, šķiet, ir vajadzīgs horizontāls un saskaņots uz kopīgiem principiem balstīts tiesiskais regulējums, lai nodrošinātu tiesisko skaidrību, ieviestu vienādus standartus visā Savienībā un efektīvi aizsargātu mūsu Eiropas vērtības un pilsoņu tiesības;

apgalvo, ka jāpanāk digitālā vienotā tirgus pilnīga saskaņošana, jo digitālo vidi raksturo strauja pārrobežu dinamika un starptautiskas datu plūsmas; uzskata, ka Savienība mērķus saglabāt ES digitālo suverenitāti un veicināt digitālās inovācijas Eiropā sasniegs vien tad, ja tiks pieņemti saskaņoti un kopīgi noteikumi atbilstīgi inovācijas kultūrai;

norāda, ka jau notiek globāla sacensība MI jomā un ka Savienībai būtu tajā jāieņem vadoša pozīcija, izmantojot savu zinātnisko un tehnoloģisko potenciālu; stingri uzsver, ka tehnoloģiju attīstība nedrīkst apdraudēt lietotāju aizsardzību pret MI ierīču un sistēmu radītajiem zaudējumiem; mudina popularizēt Savienības civiltiesiskās atbildības standartus starptautiskā līmenī;

ir stingri pārliecināts, ka jaunie kopīgie noteikumi attiecībā uz MI sistēmām jāpieņem tikai regulas formā; uzskata, ka jautājums par atbildību gadījumos, kad kaitējumu vai zaudējumus radījusi MI sistēma, ir viens no būtiskākajiem jautājumiem, kas jārisina šajā regulējumā;

Atbildība un mākslīgais intelekts

uzskata, ka nav nepieciešams pilnībā pārskatīt labi funkcionējošos atbildības režīmus, bet ka MI sistēmu sarežģītība, savienojamība, nepārredzamība, neaizsargātība, spēja atjauninājumu rezultātā modificēties, pašmācības spēja un iespējamā autonomija, kā arī iesaistīto dalībnieku lielais skaits tomēr ir būtisks izaicinājums Savienības un valstu atbildības sistēmas noteikumu efektivitātei; uzskata, ka ir nepieciešami specifiski un koordinēti atbildības režīmu pielāgojumi, lai izvairītos no situācijām, kad personas, kurām ir nodarīts kaitējums vai kuru mantai ir nodarīts kaitējums, nesaņem kompensāciju;

norāda, ka visas fiziskās vai virtuālās darbības, ierīces vai procesi, ko vada MI sistēmas, tehniski var būt kaitējuma vai zaudējumu tiešais vai netiešais iemesls, taču tie gandrīz vienmēr ir iznākums tam, ka kāds ir izveidojis vai ieviesis sistēmas vai iejaucies to darbībā; šajā saistībā norāda, ka MI sistēmām nav nepieciešams piešķirt juridiskas personas statusu; uzskata, ka MI sistēmu nepārredzamība, savienojamība un autonomija praksē var ļoti apgrūtināt vai pat padarīt neiespējamu MI sistēmu radītu konkrētu kaitniecisku darbību izsekošanu līdz konkrētam cilvēka ieguldījumam vai lēmumiem projektēšanas posmā; atgādina, ka atbilstīgi vispārpieņemtām atbildības koncepcijām šo šķērsli tomēr ir iespējams apiet, saucot pie atbildības dažādas personas visā vērtības ķēdē, kuras rada, uztur vai kontrolē ar MI sistēmu saistīto risku;

uzskata, ka Produktatbildības direktīva (PAD) jau vairāk nekā 30 gadus ir izrādījusies efektīvs līdzeklis, kā saņemt kompensāciju par kaitējumu, ko izraisījis defektīvs produkts, tomēr tā būtu jāpārskata, lai to pielāgotu digitālajai pasaulei un risinātu problēmas, ko rada jaunās digitālās tehnoloģijas, tādējādi nodrošinot augstu efektīvas patērētāju aizsardzības līmeni, kā arī juridisko noteiktību patērētājiem un uzņēmumiem, vienlaikus izvairoties no augstām izmaksām un riskiem MVU un jaunuzņēmumiem; mudina Komisiju novērtēt, vai PAD būtu jāpārveido par regulu, lai precizētu “produktu” definīciju, nosakot, vai tā attiecas uz digitālo saturu un digitālajiem pakalpojumiem, un apsvērtu tādu jēdzienu kā “zaudējumi”, “defekts” un “ražotājs” pielāgošanu; uzskata, ka juridiskās noteiktības labad visā Savienībā pēc PAD pārskatīšanas jēdzienā “ražotājs” būtu jāiekļauj ražotāji, izstrādātāji, programmētāji, pakalpojumu sniedzēji, kā arī atbalsta operatori; aicina Komisiju precīzi definētos gadījumos un pēc pienācīga novērtējuma apsvērt iespēju apvērst noteikumus par pierādīšanas pienākumu attiecībā uz jauno digitālo tehnoloģiju radīto kaitējumu; norāda uz to, ka ir svarīgi nodrošināt, lai atjaunināts Savienības akts attiektos tikai uz skaidri identificētām problēmām, attiecībā uz kurām jau pastāv īstenojami risinājumi, un vienlaikus dod iespēju turpmākai tehnoloģiju attīstībai, tostarp izstrādēm, kuru pamatā ir brīva un atklāta pirmkoda programmatūra; norāda, ka PAD būtu arī turpmāk jāizmanto attiecībā uz civiltiesiskās atbildības prasībām pret defektīvas MI sistēmas radītāju, ja MI sistēma saskaņā ar minēto direktīvu tiek atzīta par produktu; uzsver, ka jebkādai produktatbildības regulējuma atjaunināšanai jānotiek paralēli Eiropas Parlamenta un Padomes 2001. gada 3. decembra Direktīvas 2001/95/EK par produktu vispārēju drošību (16) atjaunināšanai, lai gādātu par to, ka MI sistēmās ir a priori integrēti drošuma un drošības principi;

uzskata, ka dalībvalstīs spēkā esošās deliktu tiesības, kas balstās uz atbildību par vainu, vairumā gadījumu nodrošina pietiekamu aizsardzības līmeni personām, kurām kaitējumu nodarījusi traucējoša trešā puse, piemēram, hakeris, vai kurām šāda trešā puse ir nodarījusi mantisku kaitējumu, jo traucējums parasti ir pamats prasībai par atbildība par vainu; norāda, ka tikai īpašos gadījumos, tostarp tajos, kad trešā persona ir neizsekojama vai maksātnespējīga, ir nepieciešams pievienot atbildības noteikumus, lai papildinātu spēkā esošās valsts deliktu tiesības;

10.

tādēļ uzskata, ka šajā ziņojumā ir lietderīgi pievērsties civiltiesiskās atbildības prasībām pret MI sistēmas operatoru; apstiprina, ka operatora atbildību pamato tas, ka viņš kontrolē ar MI sistēmu saistīto risku līdzīgi kā saistīto risku kontrolē automobiļa īpašnieks; uzskata, ka, ņemot vērā MI sistēmu sarežģītību un savienojamību, operators daudzos gadījumos ir cietušās personas pirmais sasniedzamais kontaktpunkts;

Operatora atbildība

11.

pauž viedokli, ka atbildības noteikumi, kas attiecas uz operatoru, būtu jāpiemēro visām MI sistēmu darbībām neatkarīgi no tā, kur notiek darbība un vai darbība tiek īstenota fiziski vai virtuāli; tomēr norāda, ka darbības sabiedriskās vietās, kas riskam pakļauj daudzas personas, ir gadījumi, kas tomēr jāizvērtē rūpīgāk; uzskata, ka personas, kurām potenciāli var tikt nodarīts kaitējums vai zaudējumi, bieži vien neapzinās, ka tiek veikta darbība, un vairumā gadījumu neizvirzītu līgumiskās atbildības prasības pret operatoru; norāda, ka, materializējoties kaitējumam vai zaudējumiem, šādas personas izvirzītu tikai prasību par atbildību par vainu, un var izrādīties sarežģīti trešām pusēm pierādīt MI sistēmas operatora vainu un tādējādi attiecīgās civiltiesiskās atbildības prasības varētu būt neveiksmīgas;

12.

uzskata, ka ir lietderīgi izprast “operatora” jēdzienu tā, ka tas ietver gan uz tiešo, gan atbalsta operatoru, kamēr uz pēdējo nav attiecināma PAD; norāda, ka tiešais operators būtu jādefinē kā fiziska vai juridiska persona, kura zināmā mērā kontrolē risku, kas saistīts ar MI sistēmas darbību un funkcijām, un kura gūst labumu no sistēmas darbības; apgalvo, ka atbalsta operators būtu jādefinē kā fiziska vai juridiska persona, kas pastāvīgi nosaka tehnoloģijas iezīmes, sniedz datus un būtisku atbalsta pakalpojumu un tādējādi zināmā mērā arī kontrolē risku, kas saistīts ar MI sistēmas darbību un funkcijām; uzskata, ka kontrolēšana ir jebkura operatora darbība, kas ietekmē MI sistēmas darbību un tādējādi to, kādā mērā sistēma pakļauj trešās puses potenciālajiem riskiem; uzskata, ka šādas darbības varētu ietekmēt MI sistēmas vadību no sākuma līdz beigām, nosakot ievaddatus, izvaddatus vai rezultātus, vai izmainīt specifiskas funkcijas vai procesus MI sistēmā;

13.

norāda, ka var rasties situācijas, kad ir vairāk nekā viens operators, piemēram, atbalsta operators un tiešais operators; uzskata, ka šādā gadījumā visiem operatoriem jābūt solidāri atbildīgiem, taču tiesības celt regresa prasību tiem jāparedz proporcionāli vienam pret otru; uzskata, ka atbildības proporcionālā daļa būtu jānosaka, ņemot vērā attiecīgo operatoru kontroles pakāpi attiecībā uz risku, kas saistīts ar MI sistēmas darbību un funkcijām; uzskata, ka būtu jāuzlabo produktu izsekojamība, lai labāk identificētu dažādos posmos iesaistītās personas;

Atšķirīgi atbildības noteikumi par dažādiem riskiem

14.

atzīst, ka operatora kontrolētās MI sistēmas veids ir atbildību noteicošais faktors; norāda, ka MI sistēma, kurai raksturīgs augsts risks un kura darbojas autonomi, daudz lielākā mērā potenciāli apdraud plašāku sabiedrību; uzskata, ka, pamatojoties uz juridiskajām problēmām, ko MI sistēmas rada civiltiesiskās atbildības režīmiem, šķiet pamatoti šādām augsta riska autonomām MI sistēmām izveidot kopīgu atbildības neatkarīgi no vainas režīmu; uzsver, ka šādai uz risku balstītai pieejai, kas varētu ietvert vairākus riska līmeņus, būtu jābalstās uz skaidriem kritērijiem un pienācīgu augsta riska definīciju, kā arī jānodrošina juridiskā noteiktība;

15.

uzskata, ka MI sistēma rada augstu risku, ja tās autonomajai darbībai piemīt ievērojams potenciāls radīt kaitējumu vienai vai vairākām personām tādā veidā, kas ir nejaušs un pārsniedz to, ko varētu pamatoti sagaidīt; uzskata, ka, nosakot, vai MI sistēma ir augsta riska sistēma, ir jāņem vērā arī nozare, kurā var sagaidīt būtiskus riskus, un veikto darbību raksturs; uzskata, ka potenciāla nozīmīgums ir atkarīgs no mijiedarbības starp iespējamā kaitējuma smagumu, iespējamības, ka risks radīs kaitējumu vai zaudējumus, un MI sistēmas izmantošanas veida;

16.

iesaka visas augsta riska MI sistēmas izsmeļoši uzskaitīt ierosinātās regulas pielikumā; atzīst, ka, ņemot vērā tehnoloģiju straujo attīstību un vajadzīgās tehniskās zināšanas, Komisijai bez liekas kavēšanās pielikums būtu jāpārskata, bet vismaz reizi sešos mēnešos, un vajadzības gadījumā tas jāgroza, pieņemot deleģēto aktu; uzskata, ka Komisijai būtu cieši jāsadarbojas ar jaunizveidoto pastāvīgo komiteju, kura ir līdzīga esošajai Pastāvīgajai komitejai prekursoru jomā vai Tehniskajai komitejai mehānisko transportlīdzekļu jautājumos un kuras sastāvā ir dalībvalstu eksperti un ieinteresētās personas; uzskata, ka Mākslīgā intelekta augsta līmeņa ekspertu grupas līdzsvarotais sastāvs varētu būt labs piemērs ieinteresēto personu grupas izveidei, iesaistot arī ētikas ekspertus, kā arī antropologus, sociologus un garīgās veselības speciālistus; tāpat uzskata, ka Eiropas Parlamentam būtu jāizraugās eksperti, kas konsultētu jaunizveidoto pastāvīgo komiteju;

17.

norāda, ka uz MI balstītu tehnoloģiju attīstība ir ļoti dinamiska un nepārtraukti paātrinās; uzsver — lai nodrošinātu lietotāju pienācīgu aizsardzību, ir vajadzīga ātra pieeja tādu jaunu ierīču un sistēmu potenciālo risku analizēšanai, kas izmanto MI sistēmas un kas ienāk Eiropas tirgū; iesaka šajā saistībā pēc iespējas vienkāršot visas procedūras; turklāt ierosina, ka Komisijas novērtējums par to, vai MI sistēma rada augstu risku, būtu jāsāk vienlaikus ar ražojumu drošuma novērtējumu, lai novērstu situāciju, kad augsta riska MI sistēma jau ir apstiprināta tirgum, bet vēl nav klasificēta kā augsta riska sistēma un tādējādi darbojas bez obligātās apdrošināšanas seguma;

18.

norāda, ka Komisijai būtu jānovērtē, kā izmeklēšanas iestāde varētu piekļūt datiem, kas savākti, ierakstīti vai noglabāti augsta riska MI sistēmās, lai vāktu pierādījumus minētās MI sistēmas nodarīta kaitējuma vai zaudējumu gadījumā, un kā šādus datus varētu izmantot, kā arī uzlabot to izsekojamību un revidējamību, vienlaikus ņemot vērā pamattiesības un tiesības uz privātumu;

19.

apgalvo, ka atbilstīgi dalībvalstu atbildības neatkarīgi no vainas sistēmām ierosinātā regula būtu jāpiemēro būtisku tādu juridiski aizsargātu tiesību pārkāpumiem kā tiesības uz dzīvību, veselību, fizisko neaizskaramību un mantu, un ka regulā būtu jāparedz kompensācijas summas un apmērs, kā arī noilguma periods; uzskata, ka ierosinātajā regulā būtu jāiekļauj arī tāda būtiska nemateriāla kaitējuma jēdziens, kas rada pārbaudāmus ekonomiskos zaudējumus, kuri pārsniedz Savienības atbildības tiesību aktos saskaņotu robežvērtību, kas līdzsvaro skarto personu piekļuvi tiesai un citu iesaistīto personu intereses; mudina Komisiju atkārtoti izvērtēt un saskaņot zaudējumu robežvērtības Savienības tiesību aktos; uzskata, ka Komisijai būtu padziļināti jāanalizē visu dalībvalstu juridiskās tradīcijas un to spēkā esošie tiesību akti, kas paredz kompensāciju par nemateriālu kaitējumu, lai novērtētu, vai ir nepieciešams iekļaut nemateriālu kaitējumu ar MI saistītos tiesību aktos un vai tas ir pretrunā spēkā esošajam Savienības tiesiskajam regulējumam vai apdraud dalībvalstu tiesību aktus;

20.

uzskata, ka visām MI sistēmu vadītām darbībām, ierīcēm vai procesiem, kas rada kaitējumu vai zaudējumus, bet kas nav uzskaitīti ierosinātās regulas pielikumā, arī turpmāk būtu jāpiemēro atbildība par vainu; uzskata, ka cietušajai personai tomēr jābūt iespējai atsaukties uz operatora vainas prezumpciju, kuram vajadzētu būt iespējai sevi attaisnot, pierādot, ka tas ir ievērojis rūpības pienākumu;

21.

uzskata, ka MI sistēmai, ko Komisija un jaunizveidotā pastāvīgā komiteja vēl nav novērtējušas un kas tādējādi vēl nav klasificēta kā augsta riska sistēma un nav iekļauta ierosinātās regulas pielikuma sarakstā, tomēr, atkāpjoties no 20. punktā paredzētās sistēmas, būtu jāpiemēro atbildība neatkarīgi no vainas, ja tā ir izraisījusi atkārtotus incidentus, kas radījuši nopietnu kaitējumu vai zaudējumus; norāda, ka tādā gadījumā Komisijai bez liekas kavēšanās būtu arī jāizvērtē nepieciešamība pārskatīt minēto pielikumu, lai sarakstam pievienotu attiecīgo MI sistēmu; uzskata, ka gadījumā, ja pēc šī novērtējuma Komisija nolemj iekļaut minēto MI sistēmu sarakstā, šai iekļaušanai vajadzētu būt ar atpakaļejošu spēku no brīža, kad ir noticis pirmais pierādītais šīs MI sistēmas izraisītais incidents, kas ir radījis nopietnu kaitējumu vai zaudējumus;

22.

prasa Komisijai izvērtēt, vai ir nepieciešami Savienības līmeņa noteikumi attiecībā uz līgumiem, lai novērstu klauzulas par līgumsaistību nepildīšanu, tostarp uzņēmumu savstarpējās attiecībās un uzņēmumu attiecībās ar valsts pārvaldi;

Apdrošināšana un MI sistēmas

23.

uzskata, ka atbildības segums ir viens no būtiskākajiem faktoriem, kas nosaka jauno tehnoloģiju, produktu un pakalpojumu panākumus; norāda, ka atbilstīgs atbildības segums ir būtisks arī, lai pārliecinātu sabiedrību, ka tā var uzticēties jaunajām tehnoloģijām, neskatoties uz kaitējuma iespējamību, vai lai izskatītu cietušo personu tiesībpamatotas prasības; vienlaikus norāda, ka šī reglamentējošā sistēma ir koncentrēta uz nepieciešamību izmantot un uzlabot MI sistēmu priekšrocības, vienlaikus paredzot stingrus aizsardzības pasākumus;

24.

uzskata, ka, pamatojoties uz ievērojamo potenciālu radīt kaitējumu vai zaudējumus un ņemot vērā Eiropas Parlamenta un Padomes 2009. gada 16. septembra Direktīvu 2009/103/EK par civiltiesiskās atbildības apdrošināšanu saistībā ar mehānisko transportlīdzekļu izmantošanu un kontroli saistībā ar pienākumu apdrošināt šādu atbildību (17), visiem augsta riska MI sistēmu operatoriem, kas uzskaitīti ierosinātās regulas pielikumā, vajadzētu būt civiltiesiskās atbildības apdrošināšanai; uzskata, ka šādam augsta riska MI sistēmu obligātās apdrošināšanas režīmam būtu jāsedz summas un kompensācijas apmērs, kas noteikts ierosinātajā regulā; apzinās, ka šāda tehnoloģija pašreiz joprojām ir ļoti reti sastopama, jo ir saistīta ar augsta līmeņa autonomu lēmumu pieņemšanu, un ka tādējādi pašreizējie priekšlikumi lielākoties ir vērsti uz nākotni; tomēr uzskata, ka nenoteiktība attiecībā uz riskiem nedrīkst izraisīt nepieņemami augstas apdrošināšanas prēmijas un tādējādi kavēt pētniecību un inovācijas;

25.

uzskata, ka no publiskajiem līdzekļiem finansēts Savienības līmeņa kompensācijas mehānisms nav piemērots risinājums potenciāli trūkstošās apdrošināšanas nodrošināšanai; uzskata — tā kā trūkst datu par riskiem, kas saistīti ar MI sistēmām, un pastāv neskaidrība par turpmāko attīstību, apdrošināšanas nozarei ir grūti piedāvāt pielāgotus vai jaunus apdrošināšanas produktus; uzskata — ja obligātās apdrošināšanas izstrāde tiks pilnībā atstāta tirgus ziņā, visticamāk, tiks izvēlēta “viens der visiem” pieeja ar nesamērīgi augstām prēmijām un nepareiziem stimuliem, mudinot operatorus izvēlēties lētāko, nevis labāko apdrošināšanu, un tā varētu kļūt par šķērsli pētniecībai un inovācijai; uzskata, ka Komisijai būtu cieši jāsadarbojas ar apdrošināšanas nozari, lai izzinātu, kā būtu iespējams izmantot datus un inovatīvus modeļus tādām apdrošināšanas polisēm, kas piedāvā atbilstīgu segumu par pieejamu cenu;

Noslēguma aspekti

26.

prasa Komisijai, pamatojoties uz Līguma par Eiropas Savienības darbību 225. pantu, iesniegt priekšlikumu regulai par atbildību par mākslīgā intelekta sistēmu darbību, ņemot vērā ieteikumus šā dokumenta pielikumā;

27.

uzskata, ka prasītajam priekšlikumam nebūs finansiālas ietekmes;

o o

28.

uzdod priekšsēdētājam šo rezolūciju un pielikumā izklāstītos izstrādātos ieteikumus nosūtīt Komisijai un Padomei.

(1) OV L 210, 7.8.1985., 29. lpp.

(2) OV L 149, 11.6.2005., 22. lpp.

(3) OV L 304, 22.11.2011., 64. lpp.

(4) OV L 117, 5.5.2017., 1. lpp.

(5) OV L 252, 8.10.2018., 1. lpp.

(6) OV L 136, 22.5.2019., 1. lpp.

(7) OV L 123, 12.5.2016., 1. lpp.

(8) OV C 252, 18.7.2018., 239. lpp.

(9) OV C 307, 30.8.2018., 163. lpp.

(10) OV C 433, 23.12.2019., 86. lpp.

(11) Pieņemtie teksti, P8_TA(2019)0081.

(12) Pieņemtie teksti, P9_TA(2020)0032.

(13) https://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2020)654178'

(14) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/563501/EPRS_STU(2016)563501(ANN)_EN.pdf

(15) https://www.europarl.europa.eu/RegData/etudes/STUD/2016/571379/IPOL_STU(2016)571379_EN.pdf

(16) OV L 11, 15.1.2002., 4. lpp.

(17) OV L 263, 7.10.2009., 11. lpp.

PIELIKUMS REZOLŪCIJAI.

DETALIZĒTI IETEIKUMI EIROPAS PARLAMENTA UN PADOMES REGULAS IZSTRĀDEI PAR ATBILDĪBU PAR MĀKSLĪGĀ INTELEKTA SISTĒMU DARBĪBU

A. PRIEKŠLIKUMA PRINCIPI UN MĒRĶI

Šajā ziņojumā risināts būtisks digitalizācijas aspekts, ko ietekmē pārrobežu darbība, globālā konkurence un sociāli pamatapsvērumi. Būtu jāvadās pēc šādiem principiem.

1.	Patiesa digitālā vienotā tirgus izveidei vajadzīga pilnīga saskaņošana, pieņemot regulu.

2.	Ir jārisina jaunas juridiskās problēmas, ko rada mākslīgā intelekta (MI) sistēmu izstrāde, nodrošinot pēc iespējas lielāku juridisko noteiktību visā atbildības ķēdē, arī ražotājam, operatoram, skartajai personai un jebkurai trešai pusei.

3.	Ir jāizvairās no pārmērīga regulējuma un pārmērīgas birokrātijas, jo tas kavētu inovāciju MI jomā Eiropā, it īpaši, ja tehnoloģijas, produktus vai pakalpojumus ir izstrādājuši MVU vai jaunuzņēmumi.

4.	MI civiltiesiskās atbildības noteikumiem būtu jācenšas rast līdzsvaru starp sabiedrības aizsardzību, no vienas puses, un stimuliem uzņēmumiem investēt inovācijās, jo īpaši MI sistēmās, no otras puses.

5.	Tā vietā, lai aizstātu labi funkcionējošus atbildības režīmus, būtu jāveic daži nepieciešami pielāgojumi, ieviešot jaunas un uz nākotni vērstas ierosmes.

6.	Topošais regulas priekšlikums un Produktatbildības direktīva ir kopīgā atbildības par MI sistēmām satvara divi pīlāri, un saistībā ar tiem jāīsteno cieša koordinācija un pielāgošana visu politisko dalībnieku starpā Savienības un valstu līmenī.

7.	Iedzīvotājiem būtu jānodrošina vienāds aizsardzības un tiesību līmenis neatkarīgi no tā, vai kaitējumu ir vai nav radījusi MI sistēma, kā arī neatkarīgi no tā, vai kaitējums nodarīts fiziskajā vai virtuālajā vidē, lai tādējādi stiprinātu uzticēšanos šai jaunajai tehnoloģijai.

Regulas priekšlikumā būtu jāņem vērā gan materiālais, gan nemateriālais kaitējums. Pamatojoties, citu dokumentu starpā, uz Eiropas Komisijas 2020. gada 19. februāra ziņojumu par mākslīgo intelektu, lietu internetu un robotiku drošuma un atbildības aspektā, tā tiek aicināta padziļināti analizēt visu dalībvalstu juridiskās tradīcijas, kā arī spēkā esošo tiesību aktu noteikumus, ar kuriem piešķir kompensāciju par nemateriālu kaitējumu, lai novērtētu, vai nemateriāla kaitējuma iekļaušana nākamajā regulas priekšlikumā ir juridiski pamatota un nepieciešama no skartās personas viedokļa. Pamatojoties uz pašlaik pieejamo informāciju, Parlaments uzskata, ka būtu jāiekļauj būtisks nemateriāls kaitējums, ja skartā persona cieš pamanāmus, t. i., pārbaudāmus, ekonomiskus zaudējumus.

B. PIEPRASĪTĀ PRIEKŠLIKUMA TEKSTS

Priekšlikums

EIROPAS PARLAMENTA UN PADOMES REGULA

par atbildības režīmu mākslīgā intelekta sistēmu darbībai

EIROPAS PARLAMENTS UN EIROPAS SAVIENĪBAS PADOME,

ņemot vērā Līgumu par Eiropas Savienības darbību un jo īpaši tā 114. pantu,

ņemot vērā Eiropas Komisijas priekšlikumu,

pēc leģislatīvā akta projekta nosūtīšanas valstu parlamentiem,

ņemot vērā Eiropas Ekonomikas un sociālo lietu komitejas atzinumu (1),

saskaņā ar parasto likumdošanas procedūru (2),

tā kā:

(1)

Jēdzienam “atbildība” ir būtiska divējāda loma ikdienas dzīvē — no vienas puses, tas nodrošina, ka persona, kurai nodarīts kaitējums vai zaudējumi, var pieprasīt kompensāciju no puses, kura tiek uzskatīta par atbildīgu par nodarīto kaitējumu vai zaudējumiem un, no otras puses, tas paredz ekonomiskus stimulus personām, lai tās izvairītos nodarīt kaitējumu vai zaudējumus. Jebkuram atbildības regulējumam būtu jācenšas iedvest uzticība produktu un pakalpojumu, arī jauno digitālo tehnoloģiju, piemēram, mākslīgā intelekta (MI), lietu interneta (IoT) vai robotikas, drošumam, uzticamībai un konsekvencei, lai panāktu līdzsvaru starp potenciālo cietušo efektīvu aizsardzību pret kaitējumu vai zaudējumiem un tajā pašā laikā pietiekamu rīcības brīvību, kas nodrošinātu iespēju izstrādāt jaunas tehnoloģijas, produktus vai pakalpojumus.

(2)

It īpaši jaunu produktu un pakalpojumu aprites cikla sākumā pēc sākotnējo testu veikšanas pastāv zināms funkcionālu trūkumu risks lietotājam, kā arī trešām pusēm. Šis mēģinājumu un kļūdu process vienlaikus ir arī būtisks faktors, kas veicina tehnisko progresu, un bez tā lielākā daļa mūsu tehnoloģiju nepastāvētu. Līdz šim ar jauniem produktiem un pakalpojumiem saistītos riskus pienācīgi ir mazinājuši stingri produktu drošuma tiesību akti un atbildības noteikumi.

(3)

Taču MI parādīšanās rada būtisku izaicinājumu esošajām atbildības sistēmām. MI sistēmu izmantošana ikdienas dzīvē radīs situācijas, kurās to nepārredzamības (“melnās kastes” elements) un to aprites ciklā iesaistīto daudzo dalībnieku dēļ būs ārkārtīgi dārgi vai pat neiespējami noteikt pusi, kura kontrolējusi ar MI sistēmu izmantošanu saistīto risku, vai kurš kods vai ievaddati ir noveduši pie kaitnieciskās darbības. Minētās grūtības pastiprina MI sistēmu savstarpējā savienojamība un MI sistēmu savienojamība ar cita veida sistēmām, atkarība no ārējiem datiem, neaizsargātība pret kiberdrošības pārkāpumiem, kā arī MI sistēmu arvien pieaugošā autonomija, ko veicina mašīnmācīšanās un mašīnu dziļās mācīšanās spējas. Papildus šiem sarežģītajiem aspektiem un potenciālajai neaizsargātībai MI sistēmas varētu izmantot arī, lai nodarītu būtisku kaitējumu, piemēram, apdraudētu cilvēka cieņu un Eiropas vērtības un brīvības, izsekojot personas pret viņu gribu, ieviešot sociālās kredītu sistēmas, pieņemot aizspriedumainus lēmumus jautājumos par veselības apdrošināšanu, kredīta piešķiršanu, tiesas rīkojumiem, pieņemšanu darbā vai nodarbinātību vai konstruējot autonomas letālu ieroču sistēmas.

(4)

Ir svarīgi ņemt vērā, ka MI sistēmu ieviešanas nodrošinātie ieguvumi krietni pārsniegs zaudējumus. MI sistēmas palīdzēs efektīvāk novērst klimata pārmaiņas, uzlabot medicīniskos izmeklējumus, kā arī darba nosacījumus, labāk integrēt personas ar invaliditāti un gados vecākas personas sabiedrībā un nodrošināt individuāli pielāgotas izglītības programmas visa veida apmācāmajiem. Lai izmantotu dažādās tehnoloģiju sniegtās iespējas un veicinātu iedzīvotāju uzticēšanos MI sistēmu izmantošanai, vienlaikus novēršot to kaitniecisku izmantošanu, labākais turpmākais risinājums ir pārdomāti ētikas standarti kopā ar stingrām un taisnīgām kompensācijas procedūrām.

(5)

Tāpat, lai atsvērtu drošības noteikumu pārkāpumus, ir vajadzīgs atbilstīgs atbildības režīms. Tomēr šajā regulā paredzētajā atbildības režīmā ir jāņem vērā visas attiecīgās intereses. Turpmāku likumdošanas pasākumu priekšnoteikums ir rūpīga jebkāda jauna tiesiskā regulējuma seku analīze maziem un vidējiem uzņēmumiem (MVU) un jaunuzņēmumiem. Šādu uzņēmumu būtiskā nozīme Eiropas ekonomikā pamato stingri samērīgu pieeju, lai šie uzņēmumi varētu attīstīties un ieviest inovācijas. Savukārt MI sistēmu radītā kaitējuma vai zaudējumu upuriem ir jābūt tiesībām uz atlīdzību un pilnu kompensāciju par ciesto kaitējumu vai zaudējumiem.

(6)

Ikvienām vajadzīgajām izmaiņām esošajā tiesiskajā regulējumā būtu jāsākas ar precizējumu, ka MI sistēmas nav ne tiesību subjekts, ne tām ir cilvēka sirdsapziņa, to vienīgais uzdevums ir kalpot cilvēcei. Daudzas MI sistēmas arī būtiski neatšķiras no citām tehnoloģijām, kuras reizēm ir balstītas uz vēl sarežģītāku programmatūru. Galu galā lielākā daļa MI sistēmu tiek izmantotas, lai veiktu nenozīmīgus uzdevumus, kas sabiedrībai nerada nekādus riskus vai arī tie ir minimāli. Līdz ar termina “automatizēta lēmumu pieņemšana” izmantošanu varētu novērst iespējamo termina “mākslīgais intelekts” neskaidrību. Termins “automatizēta lēmumu pieņemšana” apraksta situāciju, kurā lietotājs sākotnēji daļēji vai pilnībā deleģē lēmumu kādai struktūrai, izmantojot programmatūru vai pakalpojumu. Savukārt šī struktūra izmanto automātiski izpildāmus lēmumu pieņemšanas modeļus, lai veiktu darbību lietotāja vārdā vai informētu lietotāju un palīdzētu pieņemt lēmumu attiecībā uz veicamo darbību.

(7)

Taču ir arī tādas MI sistēmas, kuras tiek izstrādātas un ieviestas bīstamā veidā un kuru pamatā ir tādas tehnoloģijas kā neironu tīkli un mašīnu dziļās mācīšanās procesi. Šādu sistēmu nepārredzamība un autonomija var būtiski apgrūtināt konkrētu darbību izsekošanu līdz konkrētiem cilvēka lēmumiem, kas pieņemti attiecībā uz to izstrādi vai darbību. Piemēram, šādas MI sistēmas operators varētu apgalvot, ka nav varējis kontrolēt fizisko vai virtuālo darbību, ierīci vai procesu, kas radījuši kaitējumu vai zaudējumus, jo darbības vai procesa ierosinātājs ir operatora MI sistēmas autonoma darbība. Turklāt autonomas MI sistēmas darbībai vienai pašai nevajadzētu būt pietiekamam iemeslam atbildības prasības atzīšanai. Tādējādi var būt tādas atbildības lietas, kurās atbildības noteikšana varētu būt netaisnīga vai neefektīva vai kurās persona, kam MI sistēma nodarījusi kaitējumu vai zaudējumus, nevar pierādīt ražotāja, traucējošas trešās puses vai operatora vainu un nesaņem kompensāciju.

(8)

Tomēr vienmēr būtu skaidri jānosaka, ka tam, kurš izveido, uztur un kontrolē MI sistēmu vai traucē tās darbībai, būtu jāatbild par kaitējumu vai zaudējumiem, ko rada darbība, ierīce vai process. Tas izriet no vispārējiem un plaši atzītiem atbildības jēdzieniem tiesībās, kas paredz, ka persona, kura rada vai saglabā risku sabiedrībai, ir atbildīga, ja šis risks rada kaitējumu vai zaudējumus, un tādēļ šai personai būtu ex-ante pēc iespējas jāsamazina šāds risks vai ex-post tas jākompensē. Tādējādi MI sistēmu plašāka izmantošana nenosaka vajadzību pilnībā pārskatīt atbildības noteikumus Savienībā. Spēkā esošo tiesību aktu konkrēti pielāgojumi un viegli pieejamu un mērķētu jaunu noteikumu ieviešana būtu pietiekami pasākumi, lai risinātu ar MI saistītās problēmas nolūkā nepieļaut regulējuma sadrumstalotību un nodrošināt civiltiesiskās atbildības tiesību aktu saskaņošanu visā Savienībā saistībā ar MI.

(9)

Padomes Direktīva 85/374/EEK (3) (“Produktatbildības direktīva”) vairāk nekā 30 gadu laikā ir izrādījusies efektīvs instruments kompensācijas saņemšanai par defektīva produkta radītu kaitējumu. Tādēļ šī direktīva būtu jāizmanto arī attiecībā uz puses, kurai nodarīts kaitējums vai zaudējumi, civiltiesiskās atbildības prasībām pret defektīvas MI sistēmas ražotāju. Atbilstīgi Savienības labāka regulējuma principiem visi vajadzīgie tiesību akta pielāgojumi būtu jāapspriež minētās direktīvas nepieciešamās pārskatīšanas laikā. Dalībvalstīs spēkā esošās tiesības, kas paredz atbildību par vainu, vairumā gadījumu nodrošina pietiekamu aizsardzības līmeni arī personām, kurām kaitējumu nodarījusi traucējoša trešā puse, jo traucējums parasti ir pamats prasībai par atbildību par vainu, kad trešā puse izmanto MI sistēmu kaitējuma nodarīšanai. Tādēļ šajā regulā būtu jārisina jautājumi saistībā ar prasībām pret MI sistēmas operatoru.

(10)

Operatora atbildība saskaņā ar šo regulu ir balstīta uz to, ka operators savā ziņā kontrolē ar MI sistēmas darbību un funkcijām saistīto risku, kas salīdzināms ar automobiļa īpašnieka risku. Jo sarežģītāka un autonomāka ir sistēma, jo smagākas kļūst algoritmu definēšanas un ietekmēšanas sekas, piemēram, ar pastāvīgiem atjauninājumiem. Tā kā bieži vien par MI sistēmas operatoru, loģiski spriežot, var uzskatīt vairāk nekā vienu personu, saskaņā ar šo regulu ar jēdzienu “operators” būtu jāsaprot gan tiešais, gan atbalsta operators. Lai gan parasti tiešais operators ir persona, kas galvenokārt lemj par MI sistēmas izmantošanu, atbalsta operatoram faktiski varētu būt lielāka kontrole pār operacionālajiem riskiem. Ja atbalsta operators ir kvalificējams arī kā ražotājs, kā definēts Produktatbildības direktīvas 3. pantā, uz viņu būtu jāattiecina minētā direktīva. Ja ir tikai viens operators, kurš ir arī MI sistēmas ražotājs, šī regula prevalē pār Produktatbildības direktīvu.

(11)

Ja lietotājs, proti, persona, kas izmanto MI sistēmu, ir iesaistīts kaitnieciskā darbībā, tas būtu atbildīgs saskaņā ar šo regulu tikai tādā gadījumā, ja viņš ir arī operators. Ja tas tā nav, tas, cik liela ir lietotāja rupja nolaidība vai tīša ietekme uz risku, varētu radīt viņa no vainas atkarīgu atbildību attiecībā pret prasītāju. Lietotājam piemērojamām patērētāja tiesībām būtu jāpaliek neskartām.

(12)

Šai regulai būtu jādod skartajai personai iespēja izvirzīt atbildības prasības visā atbildības ķēdē un visā MI sistēmas aprites ciklā. Tai principā būtu arī jāattiecas uz visām MI sistēmām neatkarīgi no to darbības vietas, kā arī neatkarīgi no tā, vai darbības tiek veiktas fiziski vai virtuāli. Tomēr lielākajai daļai atbildības prasību saskaņā ar šo regulu vajadzētu būt civiltiesiskās atbildības lietām, ja MI sistēma darbojas sabiedriskā vietā un pakļauj riskam lielu skaitu personu. Šādos gadījumos skartās personas bieži vien varētu neapzināties, ka darbojas MI sistēma, un tām varētu nebūt nekādu līgumisku vai juridisku attiecību ar operatoru. Tādējādi MI sistēmas darbības skartās personas nonāk situācijā, kad, ja tiek nodarīts kaitējums vai zaudējumi, tām ir tikai prasības par atbildību par vainu pret MI sistēmas operatoru, taču tām ir ārkārtīgi sarežģīti pierādīt operatora vainu.

(13)

Operatora kontrolētās MI sistēmas veids ir noteicošs faktors. MI sistēma, kas saistīta ar augstu risku, potenciāli apdraud lietotāju vai sabiedrību daudz lielākā mērā un tādā veidā, kas ir nejaušs un pārsniedz pamatoti gaidīto. Tas nozīmē, ka atšķirībā no tādas MI sistēmas darbības, kurā iesaistītas konkrētas personas, kas iepriekš regulāri ir piekritušas sistēmas ieviešanai, piemēram, lai veiktu operāciju slimnīcā vai produkta demonstrāciju nelielā veikalā, MI sistēmas autonomās darbības sākumā lielākā daļa potenciāli skarto personu nav zināmas un nav identificējamas, piemēram, personas publiskā laukumā vai blakus esošā ēkā. Nosakot, cik liels potenciāls piemīt augsta riska MI sistēmai radīt kaitējumu vai zaudējumu, ir jāņem vērā mijiedarbība starp izmantošanas mērķi, kuram MI sistēmu laiž tirgū, MI sistēmas izmantošanas veidu, potenciālā kaitējuma vai zaudējuma smagumu, autonomijas pakāpi, pieņemot lēmumus, kuru rezultātā var rasties kaitējums, un riska materializēšanās iespējamību. Potenciālā kaitējuma vai zaudējumu smagums būtu jānosaka, pamatojoties uz tādiem attiecīgiem faktoriem kā potenciālā kaitējuma apmērs, ko darbība rada skartajām personām, jo īpaši ietekme uz pamattiesībām, skarto personu skaits, potenciālo zaudējumu kopējā vērtība, kā arī kaitējums sabiedrībai kopumā. Kaitējuma vai zaudējumu rašanās iespējamība būtu jānosaka, pamatojoties uz tādiem attiecīgiem faktoriem kā algoritmisko aprēķinu nozīme lēmumu pieņemšanas procesā, lēmuma sarežģītība un ietekmes atgriezeniskums. Galu galā lietošanas veidam cita starpā vajadzētu būt atkarīgam no tādiem attiecīgiem faktoriem kā konteksts un nozare, kurā MI sistēma darbojas, vai lietošanas veidam var būt juridiska vai faktiska ietekme uz skarto personu būtiskām juridiski aizsargātām tiesībām un vai no ietekmes saprātīgā veidā iespējams izvairīties.

(14)

Visas MI sistēmas ar augstu risku būtu izsmeļoši jāuzskaita šīs regulas pielikumā. Ņemot vērā straujo tehnikas un tirgus attīstību pasaulē, kā arī tehniskās zināšanas, kas ir vajadzīgas pienācīgai MI sistēmu pārskatīšanai, saskaņā ar Līguma par Eiropas Savienības darbību 290. pantu Komisijai būtu jādeleģē pilnvaras pieņemt deleģētos aktus, lai grozītu šo regulu attiecībā uz MI sistēmu veidiem, kas rada augstu risku, un kritiski svarīgajām nozarēm, kurās tās tiek izmantotas. Pamatojoties uz šajā regulā noteiktajām definīcijām un noteikumiem, Komisijai bez liekas kavēšanās, bet vismaz reizi sešos mēnešos būtu jāpārskata pielikums un vajadzības gadījumā jāizdara grozījumi, pieņemot deleģētos aktus. Komisijas novērtējums par to, vai MI sistēma rada augstu risku, būtu jāsāk vienlaikus ar ražojumu drošuma novērtējumu, lai novērstu situāciju, kad augsta riska MI sistēma jau ir apstiprināta tirgum, bet vēl nav klasificēta kā augsta riska sistēma un tādējādi darbojas bez obligātās apdrošināšanas seguma. Lai uzņēmumiem un pētniecības organizācijām sniegtu pietiekamu plānošanas un investēšanas drošību, izmaiņas attiecībā uz kritiski svarīgām nozarēm būtu jāveic tikai reizi divpadsmit mēnešos. Operatori būtu jāaicina informēt Komisiju, ja tie veic darbu saistībā ar jaunu tehnoloģiju, produktiem vai pakalpojumiem, kas ietilpst kādā no pielikumā uzskaitītajām kritiski svarīgajām nozarēm un vēlāk varētu tikt atzīti par augsta riska MI sistēmu.

(15)

Ir īpaši būtiski, lai Komisija sagatavošanas darbu laikā rīkotu atbilstīgas apspriešanās ar attiecīgajām ieinteresētajām personām, tostarp ekspertu līmenī, un lai šīs apspriešanās tiktu rīkotas saskaņā ar principiem, kas noteikti 2016. gada 13. aprīļa Iestāžu nolīgumā par labāku likumdošanas procesu (4). Pastāvīgajai komitejai ar nosaukumu Augsta riska MI sistēmu tehniskā komiteja (TCRAI) būtu jāsniedz atbalsts Komisijai tās regulārajā pārskatīšanā saskaņā ar šo regulu. Šajā pastāvīgajā komitejā vajadzētu būt dalībvalstu pārstāvjiem, kā arī līdzsvarotam ieinteresēto personu sastāvam, tostarp patērētāju organizāciju, skartās personas pārstāvošu asociāciju un uzņēmēju pārstāvjiem no dažādām nozarēm un dažāda lieluma organizācijām un uzņēmumiem, kā arī pētniekiem un zinātniekiem. Jo īpaši, lai deleģēto aktu sagatavošanā nodrošinātu vienādu dalību, Eiropas Parlaments un Padome visus dokumentus saņem vienlaikus ar dalībvalstu ekspertiem, un minēto iestāžu ekspertiem ir sistemātiska piekļuve Komisijas ekspertu grupu, kā arī TCRAI sanāksmēm, kad notiek deleģēto aktu sagatavošana.

(16)

Šai regulai būtu jāattiecas uz kaitējumu vai zaudējumiem attiecībā uz dzīvību, fizisko neaizskaramību, mantu un būtisku nemateriālu kaitējumu, kas rada pārbaudāmus ekonomiskos zaudējumus, kuri pārsniedz Savienības atbildības tiesību aktos saskaņotu robežvērtību, kas līdzsvaro skarto personu piekļuvi tiesai ar citu iesaistīto personu interesēm. Komisijai būtu atkārtoti jāizvērtē un jāsaskaņo zaudējumu robežvērtības Savienības tiesību aktos. Būtisks nemateriāls kaitējums būtu jāsaprot kā kaitējums, kura rezultātā skartajai personai tiek nodarīts ievērojams situācijas pasliktinājums, objektīvs un pierādāms tās personisko interešu aizskārums un ekonomisks zaudējums, kas aprēķināts, ņemot vērā, piemēram, agrākos gada vidējos ieņēmumus un citus būtiskus apstākļus. Regulā būtu arī jānosaka kompensācijas summa un apmērs, kā arī noilguma periods atbildības prasību iesniegšanai. Atšķirībā no Produktatbildības direktīvas šajā regulā būtu jānosaka ievērojami zemāka maksimālā kompensācija, jo tā attiecas tikai uz MI sistēmas atsevišķas darbības radīto kaitējumu vai zaudējumiem vienai personai, savukārt direktīva attiecas uz vairākiem produktiem vai pat produktu līniju ar vienu un to pašu defektu.

(17)

Visām fiziskām vai virtuālām darbībām, ierīcēm vai procesiem, ko vada MI sistēmas un kas nav uzskaitītas šīs regulas pielikumā kā augsta riska MI sistēmas, arī turpmāk būtu jāpiemēro atbildība par vainu, ja vien nav spēkā stingrāki valstu tiesību akti un patērētāju aizsardzības tiesību akti. Attiecībā uz kompensācijas summu un apmēru, kā arī noilguma periodu būtu jāturpina piemērot dalībvalstu tiesību aktus, tostarp attiecīgā judikatūra. Personai, kurai augsta riska MI sistēmu sarakstā neiekļauta MI sistēma nodarījusi kaitējumu vai zaudējumus, jābūt iespējai atsaukties uz operatora vainas prezumpciju.

(18)

Pienācīgai rūpībai, ko var sagaidīt no operatora, vajadzētu būt samērīgai ar i) MI sistēmas būtību, ii) potenciāli skartajām juridiski aizsargātajām tiesībām, iii) iespējamo kaitējumu vai zaudējumiem, ko varētu radīt MI sistēma, un iv) šāda kaitējuma iespējamību. Tādējādi būtu jāņem vērā, ka operatoram varētu būt ierobežotas zināšanas par MI sistēmā izmantotajiem algoritmiem un datiem. Ja operators ir izraudzījies MI sistēmu, kas sertificēta saskaņā ar sertifikācijas shēmu, kura ir līdzīga brīvprātīgajai sertifikācijas shēmai, ko paredzējusi Komisija (5), būtu jāpieņem, ka operators piemērotas MI sistēmas izvēlē ir ievērojis pienācīgu rūpību, ko no viņa var pamatoti sagaidīt. Ja operators var pierādīt, ka faktiski un regulāri ir uzraudzījis MI sistēmu tās darbības laikā un ir informējis ražotāju par darbības laikā konstatētajiem iespējamajiem pārkāpumiem, būtu jāpieņem, ka operators MI sistēmas darbības laikā ir ievērojis pienācīgu rūpību, ko no viņa var pamatoti sagaidīt. Ja operators ir instalējis visus MI sistēmas ražotāja nodrošinātos atjauninājumus, būtu jāpieņem, ka operators attiecībā uz darbības uzticamības saglabāšanu ir ievērojis pienācīgu rūpību, ko no viņa var pamatoti sagaidīt. Tā kā operatoru sarežģītības līmenis var atšķirties atkarībā no tā, vai tie ir tikai patērētāji vai profesionāļi, būtu attiecīgi jāpielāgo rūpības pienākumi.

(19)

Lai operatoram nodrošinātu iespēju pierādīt savu nevainību vai skartajai personai — pierādīt vainas esību, būtu jāparedz pienākums ražotājiem sadarboties ar abām attiecīgajām pusēm, tostarp sniedzot rūpīgi dokumentētu informāciju. Gan Eiropas, gan trešo valstu ražotājiem būtu jāparedz arī pienākums Savienībā iecelt MI atbildības pārstāvi, kas veiktu kontaktpunkta funkciju, atbildot uz visiem operatoru pieprasījumiem līdzīgi datu aizsardzības speciālistiem, kā noteikts Eiropas Parlamenta un Padomes Regulas (ES) 2016/679 (6) 37. pantā, izgatavotāja pārstāvim, kā noteikts Eiropas Parlamenta un Padomes Regulas (ES) 2018/858 (7) 3. panta 41. punktā un 13. panta 4. punktā, kā arī pilnvarotajam pārstāvim, kā noteikts Eiropas Parlamenta un Padomes Regulas (ES) 2019/1020 (8) 4. panta 2. punktā un 5. pantā.

(20)

Likumdevējam jāņem vērā atbildības riski, kas saistīti ar MI sistēmām visā to aprites ciklā no izstrādes līdz lietošanai un aprites cikla beigām, ietverot atkritumu un reciklēšanas apsaimniekošanu. MI sistēmu iekļaušana produktā vai pakalpojumā rada finanšu risku uzņēmumiem un tādējādi būtiski ietekmē MVU, kā arī jaunuzņēmumu spējas un iespējas attiecībā uz jauno tehnoloģiju pētniecības un izstrādes projektu apdrošināšanu un finansēšanu. Tādēļ atbildības mērķis ir ne tikai nodrošināt būtiskas un juridiski aizsargātas personu tiesības, bet arī noteikt, vai uzņēmumi, it īpaši MVU un jaunuzņēmumi, spēj piesaistīt kapitālu, ieviest inovācijas, veikt pētniecību un galu galā piedāvāt jaunus produktus un pakalpojumus, kā arī to, vai klienti uzticas šādiem produktiem un pakalpojumiem un vēlas tos izmantot, neskatoties uz potenciālajiem riskiem un attiecībā uz šādiem produktiem un pakalpojumiem celtajiem tiesībpamatotajiem prasījumiem.

(21)

Apdrošināšana var palīdzēt garantēt, ka cietušie saņems reālu kompensāciju, kā arī apvienot visu apdrošināto personu riskus. Viens no faktoriem, kas ir apdrošināšanas sabiedrību piedāvāto apdrošināšanas produktu un pakalpojumu pamatā, ir riska novērtējums, kurš balstīts uz pietiekamu vēsturisko prasību datu pieejamību. Augstas kvalitātes datu pieejamības trūkums vai šādu datu nepietiekams daudzums varētu būt iemesls, kādēļ sākotnēji ir sarežģīti izveidot apdrošināšanas produktus jaunām tehnoloģijām. Taču jauno tehnoloģiju radīto datu labāka pieejamība un to izmantošanas optimizēšana kopā ar pienākumu sniegt rūpīgi dokumentētu informāciju uzlabotu apdrošinātāju spēju modelēt jaunus riskus un veicinātu inovatīvākas apdrošināšanas attīstību.

(22)

Ņemot vērā to, ka trūkst datu par prasību vēsturi, būtu jāizmeklē, kā un ar kādiem nosacījumiem atbildība ir apdrošināma, lai sasaistītu apdrošināšanu ar produktu, nevis ar atbildīgo personu. Jau tagad ir pieejami apdrošināšanas produkti, kas tehnoloģijas attīstības gaitā tiek izstrādāti konkrētām jomām un konkrētiem gadījumiem. Daudzi apdrošinātāji specializējas konkrētos tirgus segmentos (piemēram, MVU) vai piedāvā apdrošināšanu konkrētiem produktu veidiem (piemēram, elektroprecēm), un tas nozīmē, ka parasti apdrošināmajam ir pieejams apdrošināšanas produkts. Tomēr ir grūti paredzēt “viens der visiem” risinājumu, un apdrošināšanas tirgum būs vajadzīgs laiks, lai pielāgotos. Komisijai būtu cieši jāsadarbojas ar apdrošināšanas tirgu, lai izstrādātu inovatīvus apdrošināšanas produktus, kas varētu sniegt trūkstošo apdrošināšanu. Izņēmuma gadījumos, piemēram, kolektīvu zaudējumu gadījumā, kad kompensācija ievērojami pārsniedz šajā regulā noteiktās maksimālās summas, dalībvalstis būtu jāmudina uz noteiktu laiku izveidot īpašu kompensācijas fondu, kas apmierinātu īpašās vajadzības šādos gadījumos. Varētu izveidot arī īpašus kompensācijas fondus, lai segtu tos izņēmuma gadījumus, kad MI sistēma, kas vēl nav klasificēta kā augsta riska MI sistēma un tādējādi vēl nav apdrošināta, rada kaitējumu vai zaudējumus. Lai nodrošinātu juridisko noteiktību un izpildītu pienākumu informēt visas potenciāli skartās personas, būtu skaidri un vispusīgi jāpublisko īpašā kompensācijas fonda pastāvēšana, kā arī nosacījumi tā izmantošanai.

(23)

Ir ārkārtīgi svarīgi, lai šīs regulas izmaiņas nākotnē tiktu veiktas atbilstīgi Produktatbildības direktīvas vajadzīgajai pārskatīšanai nolūkā to vispusīgi un konsekventi rediģēt un garantēt visu attiecīgo pušu tiesības un pienākumus visā atbildības ķēdē. Lai ieviestu jaunu atbildības režīmu MI sistēmu operatoriem, šīs regulas noteikumi un Produktatbildības direktīvas pārskatīšana ir cieši jāsaskaņo pēc būtības, kā arī pieejas ziņā, lai šie tiesību akti kopā veidotu saskaņotu atbildības satvaru MI sistēmām, attiecībā uz atbildības risku un attiecīgo kompensācijas kārtību nodrošinot līdzsvaru starp ražotāja, operatora, patērētāja un skartās personas interesēm. Tādēļ ir vajadzīgs un būtu jāplāno paralēli pielāgot un saskaņot visos tiesību aktos definīcijas tādiem jēdzieniem kā MI sistēma, tiešais un atbalsta operators, ražotājs, defekts, produkts un pakalpojums.

(24)

Šīs regulas mērķi, proti, izveidot uz nākotni vērstu un vienotu Savienības līmeņa pieeju, kas nosaka kopīgus Eiropas standartus Eiropas pilsoņiem un uzņēmumiem, nodrošināt tiesību saskaņošanu un juridisko noteiktību visā Savienībā un izvairīties no digitālā vienotā tirgus sadrumstalotības, kura traucētu virzībai uz mērķi saglabāt digitālo suverenitāti, veicināt digitālo inovāciju Eiropā un nodrošināt augsta līmeņa pilsoņu un patērētāju tiesību aizsardzību, nosaka vajadzību pilnībā saskaņot atbildības režīmus MI sistēmām. Tehnoloģiju straujo izmaiņu, pārrobežu izstrādes, kā arī MI sistēmu izmantošanas un galu galā Savienībā piemēroto pretrunīgo likumdošanas pieeju dēļ minētos mērķus nevar pietiekami sasniegt dalībvalstu līmenī, taču, ņemot vērā rīcības apmēru vai ietekmi, tos drīzāk var sasniegt Savienības līmenī. Savienība var pieņemt pasākumus saskaņā ar Līguma par Eiropas Savienību 5. pantā noteikto subsidiaritātes principu. Saskaņā ar minētajā pantā noteikto proporcionalitātes principu šajā regulā paredz vienīgi tos pasākumus, kas ir vajadzīgi minēto mērķu sasniegšanai,

IR PIEŅĒMUŠI ŠO REGULU.

I NODAĻA

VISPĀRĪGI NOTEIKUMI

1. pants

Priekšmets

Šī regula paredz noteikumus par fizisku un juridisku personu civiltiesiskās atbildības prasībām pret MI sistēmu operatoriem.

2. pants

Darbības joma

1. Šo regulu piemēro Savienības teritorijā, kur MI sistēmas vadīta fiziska vai virtuāla darbība, ierīce vai process ir nodarījis kaitējumu fiziskas vai juridiskas personas dzīvībai, veselībai un fiziskajai integritātei vai bojājumus mantai, vai izraisījis ievērojamu nemateriālu kaitējumu, kura rezultātā ir radies pārbaudāms ekonomisks zaudējums.

2. Visas vienošanās starp MI sistēmas operatoru un fizisku vai juridisku personu, kurai MI sistēmas dēļ nodarīts kaitējums vai zaudējumi, kas apiet vai ierobežo šajā regulā noteiktās tiesības un pienākumus un kas noslēgtas pirms vai pēc kaitējuma vai zaudējumu nodarīšanas, tiek uzskatītas par spēkā neesošām attiecībā uz tiesībām un pienākumiem, kas noteikti ar šo regulu.

3. Šī regula neskar citas atbildības prasības, kuras izriet no līgumattiecībām, kā arī no regulējuma par produktatbildību, patērētāju aizsardzību, diskriminācijas novēršanu, kā arī darba un vides aizsardzību starp operatoru un fizisku vai juridisku personu, kam MI sistēmas dēļ nodarīts kaitējums vai zaudējumi, un kuras var celt pret operatoru saskaņā ar Savienības vai valsts tiesību aktiem.

3. pants

Definīcijas

Šajā regulā piemēro šādas definīcijas:

a)	“MI sistēma” ir tāda sistēma, kuras pamatā ir programmatūra vai kura ir iestrādāta ierīcēs un kuras uzvedība imitē intelektu, inter alia, vācot un apstrādājot datus, analizējot un interpretējot apkārtējo vidi un veicot darbības ar zināmu autonomijas pakāpi, lai sasniegtu konkrētus mērķus;

b)	“autonoma” ir tāda MI sistēma, kas interpretē konkrētus ievaddatus un izmanto iepriekš noteiktas norādes, bet nav ierobežota ar šādām norādēm, lai gan tās uzvedību ierobežo tai noteiktais mērķis, uz kuru tā tiecas, un citas būtiskas izstrādātāja izvēles attiecībā uz sistēmas uzbūvi;

“augsts risks” nozīmē, ka autonomi funkcionējošai MI sistēmai piemīt ievērojams potenciāls radīt nejaušu un lielāku nekā racionāli prognozējamo kaitējumu vai zaudējumus vienai vai vairākām personām; kaitējuma potenciāla lielums ir atkarīgs no mijiedarbības starp iespējamā kaitējuma vai zaudējumu smagumu, lēmumu pieņemšanas autonomijas pakāpi, riska materializēšanās iespējamību un MI sistēmas izmantošanas veidu un kontekstu;

d)	“operators” ir gan tiešais, gan atbalsta operators, ja uz pēdējā atbildību jau neattiecas Direktīva 85/374/EEK;

e)	“tiešais operators” ir fiziska vai juridiska persona, kura zināmā mērā kontrolē risku, kas saistīts ar MI sistēmas darbību un funkcijām, un kura gūst labumu no sistēmas darbības;

f)	“atbalsta operators” ir fiziska vai juridiska persona, kas pastāvīgi nosaka tehnoloģijas iezīmes un sniedz datus un būtisku atbalsta pakalpojumu, un tādējādi arī zināmā mērā kontrolē risku, kas saistīts ar MI sistēmas darbību un funkcijām;

“kontrole” ir jebkura operatora rīcība, kas ietekmē MI sistēmas darbību un tādējādi pakāpi, kādā operators pakļauj trešās personas iespējamam riskam, kas saistīts ar MI sistēmas darbību un funkcijām; šāda rīcība varētu ietekmēt darbību jebkurā posmā, nosakot ievaddatus, izvaddatus vai rezultātus, vai izmainīt konkrētas funkcijas vai procesus MI sistēmā; pakāpe, kādā konkrētā rīcība šos MI sistēmas darbības aspektus nosaka, ir atkarīga no operatora ietekmes līmeņa uz risku, kas saistīts ar MI sistēmas darbību un funkcijām;

h)	“skartā persona” ir ikviena persona, kura nav MI sistēmas operators un kurai nodarīts kaitējums vai zaudējumi, ko izraisa MI sistēmas vadīta fiziska vai virtuāla darbība, ierīce vai process;

i)	“kaitējums vai zaudējumi” ir negatīva ietekme, kas skar fiziskas personas dzīvību, veselību vai fizisko neaizskaramību vai fiziskas vai juridiskas personas mantu vai rada būtisku nemateriālu kaitējumu, kura rezultātā atklājas pārbaudāmi ekonomiski zaudējumi;

j)	“ražotājs” ir tāds ražotājs, kas definēts Padomes Direktīvas 85/374/EEK 3. pantā.

II NODAĻA

AUGSTA RISKA MI SISTĒMAS

4. pants

Atbildība neatkarīgi no vainas augsta riska MI sistēmām

1. Augsta riska MI sistēmas operators neatkarīgi no vainas ir atbildīgs par jebkādu kaitējumu vai zaudējumiem, kas nodarīti šīs MI sistēmas vadītas fiziskas vai virtuālas darbības, ierīces vai procesa dēļ.

2. Visas augsta riska MI sistēmas un visas kritiski svarīgās nozares, kurās tās tiek izmantotas, iekļauj sarakstā šīs regulas pielikumā. Komisija saskaņā ar 13. pantu ir pilnvarota pieņemt deleģētos aktus, ar ko groza minēto izsmeļošo sarakstu:

a)	iekļaujot jaunus augsta riska MI sistēmu veidus un kritiski svarīgās nozares, kurās tās tiek izmantotas,

b)	svītrojot tos MI sistēmu veidus, kuri vairs nav uzskatāmi par tādiem, kas rada augstu risku, un/vai

c)	mainot esošo augsta riska MI sistēmu kritiski svarīgās nozares.

Ikviens deleģētais akts, ar ko groza pielikumu, stājas spēkā sešus mēnešus pēc tā pieņemšanas. Nosakot jaunas augsta riska MI sistēmas un/vai kritiski svarīgās nozares, kas iekļaujamas pielikumā, pieņemot deleģētos aktus, Komisija pilnībā ņem vērā šajā regulā noteiktos kritērijus, it īpaši kritērijus, kas noteikti 3. panta c) punktā.

3. Augsta riska MI sistēmu operatori nevar atbrīvoties no atbildības, apgalvojot, ka ir rīkojušies ar pienācīgu rūpību vai ka kaitējumu vai zaudējumus radījusi to MI sistēmas vadīta autonoma darbība, ierīce vai process. Operatorus nevar saukt pie atbildības, ja kaitējums vai zaudējumi radušies force majeure dēļ.

4. Augsta riska MI sistēmas tiešais operators nodrošina, ka attiecīgās MI sistēmas darbībām ir civiltiesiskās atbildības apdrošināšana, kas ir atbilstīga kompensācijas summai un apmēram, kuri paredzēti šīs regulas 5. un 6. pantā. Atbalsta operators nodrošina, ka tā pakalpojumiem ir uzņēmējdarbības atbildības vai produktatbildības apdrošināšana, kas ir atbilstīga kompensācijas summai un apmēram, kuri paredzēti šīs regulas 5. un 6. pantā. Ja var uzskatīt, ka tiešā vai atbalsta operatora obligātās apdrošināšanas režīmi, kas jau ir spēkā saskaņā ar citiem Savienības vai valsts tiesību aktiem vai brīvprātīgiem korporatīvās apdrošināšanas fondiem, sedz MI sistēmas darbību vai sniegto pakalpojumu, pienākums veikt MI sistēmas vai sniegtā pakalpojuma apdrošināšanu saskaņā ar šo regulu tiek uzskatīts par izpildītu, ja attiecīgās esošās obligātās apdrošināšanas vai brīvprātīgo korporatīvās apdrošināšanas fondu segums ir atbilstīgs šīs regulas 5. un 6. pantā noteiktās kompensācijas summai un apmēram.

5. Šī regula prevalē pār valsts atbildības režīmiem, ja MI sistēmu atbildības neatkarīgi no vainas klasifikācijas nonāk pretrunā.

5. pants

Kompensācijas summa

1. Augsta riska MI sistēmas operators, kurš ir atbildīgs par nodarīto kaitējumu vai zaudējumiem saskaņā ar šo regulu, izmaksā kompensāciju šādā apmērā:

a)	ja augsta riska MI sistēmas darbības dēļ ir iestājusies skartās personas nāve vai ir nodarīts kaitējums kādas personas veselībai vai fiziskajai neaizskaramībai, tiek izmaksāta kompensācija līdz diviem miljoniem EUR,

ja vienas augsta riska MI sistēmas vienas darbības dēļ ir nodarīts būtisks nemateriāls kaitējums, kas rada pārbaudāmus ekonomiskos zaudējumus, vai ir nodarīts mantisks kaitējums, tostarp, ja ir bojātas skartās personas vairākas īpašuma vienības, tiek izmaksāta kompensācija līdz vienam miljonam EUR; gadījumā, kad skartā persona pret operatoru ceļ arī līgumiskās atbildības prasību, kompensāciju nemaksā saskaņā ar šo regulu, ja mantiskā kaitējuma vai būtiska nemateriālā kaitējuma kopēja vērtība nepārsniedz [500 EUR] (9).

2. Ja kombinētā kompensācija, kas maksājama vairākām personām, kurām nodarīts kaitējums vai zaudējumi, ko radījusi vienas un tās pašas augsta riska MI sistēmas viena un tā pati darbība, pārsniedz maksimālo kopējo summu, kas noteikta 1. punktā, katrai personai maksājamās summas proporcionāli samazina, lai kombinētās kompensācijas summa nepārsniegtu 1. punktā noteikto maksimālo summu.

6. pants

Kompensācijas apmērs

1. Nepārsniedzot šīs regulas 5. panta 1. punkta a) apakšpunktā noteikto summu, kompensāciju, ko maksā operators, kurš ir atbildīgs par fizisko kaitējumu, kā dēļ iestājusies skartās personas nāve, aprēķina, pamatojoties uz izdevumiem par skartās personas ārstēšanu pirms nāves iestāšanās un materiāliem zaudējumiem, kas personai radušies pirms nāves, ja samazinājusies vai zaudēta personas spēja gūt ienākumus vai palielinājušās vajadzības kaitējuma laikā pirms nāves iestāšanās. Atbildīgais operators kompensē arī mirušās skartās personas apbedīšanas izdevumus, izmaksājot kompensāciju pusei, kura ir atbildīga par minēto izdevumu segšanu.

Ja incidenta laikā, kas izraisījis kaitējumu, kura dēļ iestājas personas nāve, skartā persona ir attiecībās ar trešo pusi, kuru tai ir juridisks pienākums atbalstīt, atbildīgais operators atlīdzina maksājumus šai trešai pusei, izmaksājot uzturlīdzekļus tādā apmērā, kādā skartajai personai būtu bijis pienākums maksāt, par laikposmu, kas atbilst šāda vecuma un vispārējā apraksta personas paredzamajam mūža ilgumam. Operators atlīdzina maksājumus trešai pusei arī tad, ja laikā, kad noticis incidents, kura rezultātā ir iestājusies personas nāve, trešā persona jau ir ieņemta, bet vēl nav dzimusi.

2. Ievērojot šīs regulas 5. panta 1. punkta b) apakšpunktā noteikto summu, kompensācija, ko maksā operators, kurš atbildīgs par kaitējumu skartās personas veselībai vai fiziskajai neaizskaramībai, ietver attiecīgās ārstēšanās izmaksu atlīdzinājumu, kā arī to materiālo zaudējumu segšanu, kas radušies skartajai personai, ja ir īslaicīgi zaudēta, samazināta vai pastāvīgi zaudēta tās spēja gūt ienākumus vai ja ir palielinājušās personas vajadzības, ko apliecina medicīnisks sertifikāts.

7. pants

Noilguma periods

1. Uz civiltiesiskās atbildības prasībām, kas iesniegtas saskaņā ar 4. panta 1. punktu par kaitējumu dzīvībai, veselībai vai fiziskajai neaizskaramībai, attiecas īpašs 30 gadu noilguma periods no dienas, kad nodarīts kaitējums.

2. Uz civiltiesiskās atbildības prasībām, kas iesniegtas saskaņā ar 4. panta 1. punktu par mantisku kaitējumu vai ievērojamu nemateriālu kaitējumu, kas rada pārbaudāmus ekonomiskos zaudējumus, attiecas šāds īpašs noilguma periods:

a)	10 gadi no dienas, kad attiecīgi radies mantiskais kaitējums vai pārbaudāmi ekonomiski zaudējumi, ko radījis būtisks nemateriāls kaitējums, vai

b)	30 gadi no dienas, kad notikusi augsta riska MI sistēmas darbība, kas vēlāk radījusi mantisko kaitējumu vai nemateriālo kaitējumu.

No pirmajā daļā minētajiem periodiem piemēro to, kas beidzas pirmais.

3. Šā panta noteikumi neskar valsts tiesību aktus, kas reglamentē noilguma periodu apturēšanu vai pārtraukšanu.

III NODAĻA

CITAS MI SISTĒMAS

8. pants

Atbildība par vainu saistībā ar citām MI sistēmām

1. Tādas MI sistēmas operatoram, kas saskaņā ar 3. panta c) punktu un 4. panta 2. punktu nav augsta riska MI sistēma un tāpēc nav iekļauta šīs regulas pielikumā, par kaitējumu vai zaudējumiem, kas nodarīti MI sistēmas vadītas fiziskas vai virtuālas darbības, ierīces vai procesa dēļ, piemēro atbildību par vainu.

2. Operators nav atbildīgs, ja var pierādīt, ka nodarītais kaitējums vai zaudējumi nav radušies tā vainas dēļ, pamatojoties uz kādu no šādiem apsvērumiem:

a)	MI sistēma aktivizēta, operatoram to nezinot, lai gan ir veikti visi saprātīgie un vajadzīgie pasākumi, lai izvairītos no operatora kontrolei nepakļautas sistēmas aktivizēšanas, vai

b)	ir ievērota pienācīga rūpība, veicot visas šādas darbības: izraugoties piemērotu MI sistēmu atbilstīgajam uzdevumam un prasmēm, pienācīgi uzsākot MI sistēmas ekspluatāciju, uzraugot darbības un saglabājot darbības uzticamību ar regulāru visu pieejamo atjauninājumu instalāciju.

Operators nevar izvairīties no atbildības, apgalvojot, ka kaitējumu vai zaudējumus radījusi tā MI sistēmas vadīta autonoma darbība, ierīce vai process. Operators nav atbildīgs, ja kaitējums vai zaudējumi radušies force majeure dēļ.

3. Ja kaitējumu vai zaudējumus radījusi trešā puse, kas iejaukusies MI sistēmas darbībā, izmainot tās funkcionalitāti vai tās ietekmi, un ja šāda trešā puse nav izsekojama vai ir maksātnespējīga, par kompensācijas samaksu tomēr ir atbildīgs operators.

4. Pēc operatora vai skartās personas pieprasījuma MI sistēmas ražotājam ir pienākums sadarboties ar tiem un sniegt tiem informāciju, ciktāl to pamato prasības nozīmīgums, lai varētu noteikt atbildību.

9. pants

Dalībvalstu noteikumi par kompensāciju un noilguma periodu

Civiltiesiskās atbildības prasībām, kas celtas saskaņā ar 8. panta 1. punktu, attiecībā uz noilguma periodiem un kompensācijas summām un apmēru piemēro tās dalībvalsts tiesību aktus, kurā nodarīts kaitējums vai zaudējums.

IV NODAĻA

ATBILDĪBAS SADALE

10. pants

Līdznolaidība

1. Ja kaitējums vai zaudējumi radušies gan MI sistēmas vadītas fiziskas vai virtuālas darbības, ierīces vai procesa dēļ, gan arī skartās personas vai jebkuras personas, par kuru skartā persona ir atbildīga, dēļ, operatora atbildība saskaņā ar šo regulu tiek attiecīgi samazināta. Operators nav atbildīgs, ja tikai skartā persona vai persona, par kuru skartā persona ir atbildīga, ir vainojama izraisītajā kaitējumā vai zaudējumos.

2. Atbildīgais operators var izmantot MI sistēmas radītos datus, lai pierādītu skartās personas līdznolaidību saskaņā ar Regulu (ES) 2016/679 un citiem svarīgiem tiesību aktiem datu aizsardzības jomā. Skartā persona var izmantot šādus datus arī kā pierādījumu vai precizējumu atbildības prasībā.

11. pants

Solidāra atbildība

Ja MI sistēmai ir vairāk nekā viens operators, tiem ir solidāra atbildība. Ja tiešais operators ir arī MI sistēmas ražotājs, šī regula prevalē pār Produktatbildības direktīvu. Ja atbalsta operators ir kvalificējams arī kā ražotājs, kā definēts Produktatbildības direktīvas 3. pantā, uz viņu būtu jāattiecina minētā direktīva. Ja ir tikai viens operators, kurš ir arī MI sistēmas ražotājs, šī regula prevalē pār Produktatbildības direktīvu.

12. pants

Kompensācijas regresa prasības

1. Operatoram nav tiesību celt regresa prasību, kamēr skartajai personai nav pilnībā izmaksāta kompensācija, ko tai pienākas saņemt saskaņā ar šo regulu.

2. Ja operators kopā ar citiem operatoriem ir solidāri atbildīgs pret skarto personu un ir pilnībā izmaksājis kompensāciju skartajai personai saskaņā ar 4. panta 1. punktu vai 8. panta 1. punktu, šis operators proporcionāli savai atbildībai var atgūt daļu kompensācijas no citiem operatoriem.

Atbildības proporcionālo daļu nosaka, ņemot vērā attiecīgo operatoru kontroles pakāpi attiecībā uz risku, kas saistīts ar MI sistēmas darbību un funkcijām. Ja no solidāri atbildīgā operatora nav iespējams iegūt uz to attiecināmo daļu, trūkstošo daļu sedz pārējie operatori. Ja solidāri atbildīgs operators izmaksā kompensāciju skartajai personai un no citiem atbildīgajiem operatoriem pieprasa atlīdzināt kompensācijas maksājumus, skartās personas prasība pret pārējiem operatoriem atbilstīgi subrogācijas principam kļūst par samaksājušā operatora prasību pret pārējiem operatoriem. Prasību subrogācija netiek prasīta, ja tā nelabvēlīgi ietekmē sākotnējo prasību.

3. Ja defektīvās MI sistēmas operators pilnībā kompensē kaitējumu vai zaudējumus skartajai personai saskaņā ar šīs regulas 4. panta 1. punktu vai 8. panta 1. punktu, šis operators var celt kompensācijas prasību pret defektīvās MI sistēmas ražotāju saskaņā ar Direktīvu 85/374/EEK un valsts noteikumiem par atbildību par produktiem ar trūkumiem.

4. Ja operatora apdrošinātājs atlīdzina skartajai personai kaitējumu vai zaudējumus saskaņā ar 4. panta 1. punktu vai 8. panta 1. punktu, jebkura skartās personas civiltiesiskās atbildības prasība pret citu personu par to pašu kaitējumu atbilstīgi subrogācijas principam tiek iesniegta operatora apdrošinātājam atbilstīgi summai, ko operatora apdrošinātājs ir kompensējis skartajai personai.

V NODAĻA

NOBEIGUMA NOTEIKUMI

13. pants

Deleģēšanas īstenošana

1. Pilnvaras pieņemt deleģētos aktus Komisijai piešķir, ievērojot šajā pantā izklāstītos nosacījumus.

2. Pilnvaras pieņemt deleģētos aktus, kas minētas 4. panta 2. punktā, Komisijai ir piešķirtas uz 5 gadu laikposmu, sākot no [šīs regulas piemērošanas dienas].

3. Eiropas Parlaments vai Padome jebkurā laikā var atsaukt 4. panta 2. punktā minēto pilnvaru deleģēšanu. Ar lēmumu par atsaukšanu izbeidz tajā norādīto pilnvaru deleģēšanu. Lēmums stājas spēkā nākamajā dienā pēc tā publicēšanas Eiropas Savienības Oficiālajā Vēstnesī vai vēlākā dienā, kas tajā norādīta. Tas neskar jau spēkā esošos deleģētos aktus.

4. Pirms deleģētā akta pieņemšanas Komisija saskaņā ar principiem, kas noteikti 2016. gada 13. aprīļa Iestāžu nolīgumā par labāku likumdošanas procesu apspriežas ar pastāvīgo Augsta riska MI sistēmu tehnisko komiteju (TCRAI).

5. Tiklīdz Komisija pieņem deleģētu aktu, tā par to paziņo vienlaikus Eiropas Parlamentam un Padomei.

6. Deleģētais akts, kas pieņemts saskaņā ar šīs regulas 4. panta 2. punktu, stājas spēkā tikai tad, ja ne Eiropas Parlaments, ne Padome divu mēnešu laikā no paziņošanas nav pret to iebilduši vai ja pirms minētā termiņa beigām gan Eiropas Parlaments, gan Padome ir informējuši Komisiju, ka neizvirzīs iebildumus. Pēc Eiropas Parlamenta vai Padomes iniciatīvas šo laikposmu pagarina par diviem mēnešiem.

14. pants

Pārskatīšana

Komisija līdz 202X. gada 1. janvārim [trīs gadi pēc šīs regulas piemērošanas dienas] un pēc tam reizi trijos gados iesniedz Eiropas Parlamentam, Padomei un Eiropas Ekonomikas un sociālo lietu komitejai detalizētu ziņojumu par šīs regulas pārskatīšanu, ņemot vērā mākslīgā intelekta turpmāko attīstību.

Sagatavojot pirmajā daļā minēto ziņojumu, Komisija pieprasa dalībvalstīm attiecīgo informāciju saistībā ar judikatūru, tiesas izlīgumiem un incidentu statistiku, piemēram, skaitu, nodarīto kaitējumu, informāciju par iesaistītajiem MI lietojumiem, apdrošināšanas sabiedrību izmaksātās kompensācijas, kā arī novērtējumu par skarto personu iesniegto gan individuālo, gan kolektīvo prasību skaitu un par šo prasību izskatīšanas tiesā ilgumu.

Vajadzības gadījumā Komisijas ziņojumam pievieno tiesību aktu priekšlikumus, kuri paredzēti ziņojumā konstatēto trūkumu novēršanai.

15. pants

Stāšanās spēkā

Šī regula stājas spēkā divdesmitajā dienā pēc tās publicēšanas Eiropas Savienības Oficiālajā Vēstnesī.

To piemēro no 202X. gada 1. janvāra.

Šī regula uzliek saistības kopumā un ir tieši piemērojama visās dalībvalstīs.

…,

Eiropas Parlamenta vārdā –

priekšsēdētājs

Padomes vārdā –

priekšsēdētājs

PIELIKUMS

(…)

(1) OV …

(2) OV …

(3) Padomes Direktīva 85/374/EEK (1985. gada 25. jūlijs) par dalībvalstu normatīvo un administratīvo aktu tuvināšanu attiecībā uz atbildību par produktiem ar trūkumiem (OV L 210, 7.8.1985., 29. lpp.).

(4) OV L 123, 12.5.2016., 1. lpp.

(5) Sk. Komisijas 2020. gada 19. februāra Balto grāmatu “Mākslīgais intelekts. Eiropiska pieeja — izcilība un uzticēšanās” (COM(2020)0065), 24. lpp.

(6) Eiropas Parlamenta un Padomes Regula (ES) 2016/679 (2016. gada 27. aprīlis) par fizisku personu aizsardzību attiecībā uz personas datu apstrādi un šādu datu brīvu apriti un ar ko atceļ Direktīvu 95/46/EK (Vispārīgā datu aizsardzības regula) (OV L 119, 4.5.2016., 1. lpp.).

(7) Eiropas Parlamenta un Padomes Regula (ES) 2018/858 (2018. gada 30. maijs) par mehānisko transportlīdzekļu un to piekabju, kā arī tādiem transportlīdzekļiem paredzētu sistēmu, sastāvdaļu un atsevišķu tehnisku vienību apstiprināšanu un tirgus uzraudzību un ar ko groza Regulas (EK) Nr. 715/2007 un (EK) Nr. 595/2009 un atceļ Direktīvu 2007/46/EK (OV L 151, 14.6.2018., 1. lpp.).

(8) Eiropas Parlamenta un Padomes Regula (ES) 2019/1020 (2019. gada 20. jūnijs) par tirgus uzraudzību un produktu atbilstību un ar ko groza Direktīvu 2004/42/EK un Regulas (EK) Nr. 765/2008 un (ES) Nr. 305/2011 (OV L 169, 25.6.2019., 1. lpp.).

(9) Šo summu Eiropas Komisija pārskatīs, kā noteikts rezolūcijas 19. punktā.

Top