EUROPSKA KOMISIJA

Bruxelles, 28.9.2022.

COM(2022) 496 final

2022/0303(COD)

Prijedlog

DIREKTIVE EUROPSKOG PARLAMENTA I VIJEĆA

o prilagodbi pravila o izvanugovornoj građanskopravnoj odgovornosti s obzirom na umjetnu inteligenciju
(Direktiva o odgovornosti za umjetnu inteligenciju)

(Tekst značajan za EGP)

{SEC(2022) 344 final} - {SWD(2022) 318 final} - {SWD(2022) 319 final} - {SWD(2022) 320 final}

OBRAZLOŽENJE

1.KONTEKST PRIJEDLOGA

·Razlozi i ciljevi prijedloga

Ovo obrazloženje priloženo je Prijedlogu direktive o prilagodbi pravila o izvanugovornoj građanskopravnoj odgovornosti s obzirom na umjetnu inteligenciju (UI). Prema reprezentativnoj anketi provedenoj 2020. 1 europska poduzeća navela su da je za njih odgovornost jedna od triju najvećih prepreka uporabi umjetne inteligencije. Odgovornost najvažnijom vanjskom preprekom (43 %) smatraju poduzeća koja planiraju uvesti umjetnu inteligenciju, ali to još nisu učinila.

Predsjednica Komisije Ursula von der Leyen u svojim je političkim smjernicama iznijela koordinirani europski pristup umjetnoj inteligenciji 2 . U Bijeloj knjizi o umjetnoj inteligenciji od 19. veljače 2020. 3 Komisija se obvezala promicati uvođenje umjetne inteligencije i suzbijati rizike povezane s nekim njezinim upotrebama poticanjem izvrsnosti i izgradnje povjerenja. U Izvješću o odgovornosti za umjetnu inteligenciju 4 priloženom Bijeloj knjizi Komisija je utvrdila posebne izazove koje umjetna inteligencija predstavlja za postojeća pravila o odgovornosti. U svojim zaključcima o izgradnji digitalne budućnosti Europe od 9. lipnja 2020. Vijeće je pozdravilo savjetovanje o prijedlozima politika iz Bijele knjige o umjetnoj inteligenciji i pozvalo Komisiju da iznese konkretne prijedloge. Europski parlament donio je 20. listopada 2020. zakonodavnu rezoluciju o vlastitoj inicijativi u skladu s člankom 225. Ugovora o funkcioniranju Europske unije (UFEU) kojom se od Komisije traži da donese prijedlog sustava građanskopravne odgovornosti za umjetnu inteligenciju na temelju članka 114. UFEU-a 5 .

Postojeća nacionalna pravila o odgovornosti, posebno na temelju krivnje, nisu prikladna za obradu odštetnih zahtjeva za štete prouzročene proizvodima i uslugama koji se temelje na umjetnoj inteligenciji. U skladu s tim pravilima žrtve moraju dokazati protupravno postupanje ili propust osobe koja je prouzročila štetu. Zbog specifičnosti umjetne inteligencije, uključujući složenost, autonomiju i netransparentnost (takozvani učinak „crne kutije”), žrtvama može biti teško ili preskupo identificirati odgovornu osobu i dokazati osnovanost odštetnog zahtjeva. Konkretno, žrtve pri traženju naknade mogu snositi vrlo visoke početne troškove i biti suočene sa znatno duljim sudskim postupcima u usporedbi s predmetima koji ne uključuju umjetnu inteligenciju. To može u potpunosti odvratiti žrtve od traženja naknade. Ta pitanja spominje i Europski parlament u svojoj Rezoluciji od 3. svibnja 2022. o umjetnoj inteligenciji u digitalnom dobu.  6

Ako žrtva podnese odštetni zahtjev, nacionalni sudovi mogli bi s obzirom na specifičnosti umjetne inteligencije prilagoditi način na koji primjenjuju postojeća pravila na ad hoc osnovi kako bi ostvarili pravedan ishod za žrtvu. To će uzrokovati pravnu nesigurnost. Poduzećima će biti teško predvidjeti načine primjene postojećih pravila o odgovornosti te procijeniti i osigurati svoju izloženost odgovornosti. Taj učinak bit će još veći za poduzeća koja posluju prekogranično jer će nesigurnost obuhvaćati različite jurisdikcije. Posebno će biti pogođena mala i srednja poduzeća (MSP-ove), koja se ne mogu osloniti na vlastite pravne stručnjake ili kapitalne rezerve.

Nacionalne strategije za umjetnu inteligenciju pokazuju da nekoliko država članica razmatra ili čak konkretno planira poduzeti zakonodavne mjere u pogledu građanskopravne odgovornosti za umjetnu inteligenciju. Stoga se očekuje da će države članice, ako EU ne bude djelovao, prilagoditi svoja nacionalna pravila o odgovornosti izazovima povezanima s umjetnom inteligencijom. To će dovesti do daljnje rascjepkanosti i povećanja troškova za poduzeća koja posluju u cijelom EU-u.

Stoga je cilj ovog Prijedloga promicati uvođenje pouzdane umjetne inteligencije kako bi se u potpunosti iskoristile njezine prednosti za unutarnje tržište. To se postiže osiguravanjem jednake zaštite za žrtve štete prouzročene umjetnom inteligencijom kao i za žrtve štete prouzročene bilo kojom drugom vrstom proizvoda. Na taj se način smanjuje i pravna nesigurnost za poduzeća koja razvijaju ili upotrebljavaju umjetnu inteligenciju zbog moguće izloženosti odgovornosti te se sprečava rascjepkanost koja nastaje uslijed prilagodbe nacionalnih pravila o građanskopravnoj odgovornosti specifičnih za umjetnu inteligenciju.

·Dosljednost s postojećim odredbama politike u tom području

–zakonodavni prijedlog o utvrđivanju horizontalnih pravila o sustavima umjetne inteligencije (Akt o umjetnoj inteligenciji) 7 ;

–reviziju sektorskih i horizontalnih pravila o sigurnosti proizvoda;

–pravila EU-a za rješavanje pitanja odgovornosti povezanih sa sustavima umjetne inteligencije.

·Dosljednost u odnosu na druge politike Unije

·Glavni učinci na gospodarstvo, društvo i okoliš

2.PRAVNA OSNOVA, SUPSIDIJARNOST I PROPORCIONALNOST

·    Pravna osnova

Stoga bi prilagodba pravila o odgovornosti na isključivo nacionalnoj osnovi dovela do povećanja prepreka uvođenju proizvoda i usluga koji se temelje na umjetnoj inteligenciji na unutarnjem tržištu te bi dodatno pridonijela rascjepkanosti.

·Supsidijarnost

·Proporcionalnost

·Odabir instrumenta

1.REZULTATI EX POST EVALUACIJA, SAVJETOVANJA S DIONICIMA I PROCJENA UČINKA

·Savjetovanja s dionicima

Provedena je opsežna strategija savjetovanja kako bi se osiguralo široko sudjelovanje dionika tijekom cijelog ciklusa politike ovog Prijedloga. Strategija savjetovanja temeljila se na javnim savjetovanjima i nekoliko ciljanih savjetovanja (internetski seminari i bilateralne rasprave s poduzećima i raznim organizacijama).

·Prikupljanje i primjena stručnog znanja

–komparativnom studijom prava koja se temelji na komparativnoj pravnoj analizi europskih zakona o odgovornosti za štetu usmjerenoj na ključna pitanja povezana s umjetnom inteligencijom 26 ;

–studijom bihevioralne ekonomije o učincima ciljanih prilagodbi sustava odgovornosti na donošenje odluka potrošača, osobito na njihovo povjerenje i spremnost na prihvaćanje proizvoda i usluga koji se temelje na umjetnoj inteligenciji 27 ;

–gospodarskom studijom 28 koja obuhvaća niz pitanja: izazove s kojima se žrtve rješenja umjetne inteligencije suočavaju u usporedbi sa žrtvama uređaja koji nisu povezani s umjetnom inteligencijom kada pokušavaju dobiti naknadu za gubitak; jesu li i u kojoj mjeri poduzeća nesigurna u pogledu primjene postojećih pravila o odgovornosti na svoje poslove koji uključuju umjetnu inteligenciju te može li učinak pravne nesigurnosti otežati ulaganja u umjetnu inteligenciju; bi li daljnja fragmentacija nacionalnih zakona o odgovornosti dovela do smanjenja učinkovitosti unutarnjeg tržišta aplikacija i usluga umjetne inteligencije te bi li se i u kojoj mjeri usklađivanjem određenih aspekata nacionalne građanskopravne odgovornosti s pomoću zakonodavstva EU-a ti problemi smanjili i poduzećima iz EU-a olakšala opća primjena tehnologija umjetne inteligencije.

·Procjena učinka

–prva faza: mjere iz opcije 1;

–druga faza: mehanizam preispitivanja za ponovnu procjenu potrebe za usklađivanjem objektivne odgovornosti za slučajeve uporabe umjetne inteligencije s određenim profilom rizičnosti (potencijalno u kombinaciji s obveznim osiguranjem).

·Temeljna prava

Ovim Prijedlogom Komisija nastoji osigurati da žrtve štete prouzročene umjetnom inteligencijom u skladu s pravilima o građanskopravnoj odgovornosti imaju jednaku razinu zaštite kao i žrtve štete koja nije povezana s umjetnom inteligencijom. Prijedlogom će se omogućiti učinkovita privatna provedba temeljnih prava i očuvati pravo na djelotvoran pravni lijek u slučajevima kad se ostvare rizici povezani s umjetnom inteligencijom. Konkretno, Prijedlog će pridonijeti zaštiti temeljnih prava, kao što su pravo na život (članak 2. Povelje), pravo na tjelesni i duhovni integritet (članak 3.) i pravo na vlasništvo (članak 17.). Osim toga, ovisno o sustavu građanskog prava i tradicijama svake države članice žrtve će moći tražiti naknadu za štetu nanesenu drugim pravnim interesima, kao što su povrede ljudskog dostojanstva (članci 1. i 4. Povelje), nepoštovanje privatnog i obiteljskog života (članak 7.) te povrede prava na jednakost (članak 20.) i nediskriminaciju (članak 21.).

Nadalje, ovim se Prijedlogom dopunjuju druge sastavnice politike Komisije u području umjetne inteligencije na temelju preventivnih regulatornih i nadzornih zahtjeva čiji je cilj izbjegavanje povreda temeljnih prava (kao što je diskriminacija). To su Akt o umjetnoj inteligenciji, Opća uredba o zaštiti podataka, Akt o digitalnim uslugama i pravo EU-a o nediskriminaciji i jednakom postupanju. Istodobno, ovim se Prijedlogom ne nameću i ne usklađuju obveze dužne pažnje ili odgovornosti različitih subjekata čija je djelatnost uređena tim pravnim aktima i stoga se njime ne stvaraju novi zahtjevi za naknadu štete niti se utječe na izuzeća od odgovornosti na temelju tih drugih pravnih akata. Ovim se Prijedlogom uvodi samo smanjenje tereta dokazivanja za žrtve štete prouzročene sustavima umjetne inteligencije u zahtjevima za naknadu koji se mogu temeljiti na nacionalnom pravu ili na tim drugim zakonima EU-a. Ovaj Prijedlog dopunjuje te druge sastavnice, čime se štiti pravo žrtve na naknadu u skladu s privatnim pravom, uključujući naknadu za povrede temeljnih prava.

4.UTJECAJ NA PRORAČUN

5.DRUGI ELEMENTI

·Planovi provedbe i praćenje, evaluacija, program praćenja i ciljano preispitivanje

Ovim se Prijedlogom predlaže pristup u fazama. Kako bi osigurala da u drugoj fazi bude dostupno dovoljno dokaza za ciljano preispitivanje, Komisija će izraditi plan praćenja u kojem se detaljno navodi kako će se i koliko često prikupljati podaci i drugi potrebni dokazi.

Mehanizam praćenja mogao bi obuhvaćati sljedeće vrste podataka i dokaza:

–izvješćivanje i razmjenu informacija među državama članicama o primjeni mjera za smanjenje tereta dokazivanja u nacionalnim sudskim ili izvansudskim postupcima nagodbe;

–informacije koje su prikupili Komisija ili tijela za nadzor tržišta na temelju Akta o umjetnoj inteligenciji (osobito članka 62.) ili drugih relevantnih instrumenata;

–informacije i analize na kojima se temelji evaluacija Akta o umjetnoj inteligenciji i izvješća koja Komisija treba pripremiti o njegovoj provedbi;

–informacije i analize kojima se podupire procjena relevantnih budućih mjera politike u okviru zakonodavstva o sigurnosti „starog pristupa” kako bi se osiguralo da proizvodi koji se stavljaju na tržište Unije ispunjavaju visoke zdravstvene, sigurnosne i ekološke zahtjeve;

–informacije i analize kojima se podupire izvješće Komisije o primjeni Direktive o osiguranju motornih vozila na tehnološka postignuća (osobito autonomna i poluautonomna vozila) u skladu s njezinim člankom 28.c stavkom 2. točkom (a).

·Detaljno obrazloženje posebnih odredaba prijedloga

1. Predmet i područje primjene (članak 1.)

Svrha je ove Direktive poboljšati funkcioniranje unutarnjeg tržišta utvrđivanjem jedinstvenih zahtjeva za određene aspekte izvanugovorne građanskopravne odgovornosti za štetu prouzročenu djelovanjem UI sustava. Nadovezuje se na Rezoluciju 2020/2014(INL) Europskog parlamenta i njome se privatno pravo prilagođava potrebama prelaska na digitalno gospodarstvo.

Odabir odgovarajućih pravnih alata ograničen je s obzirom na prirodu problema tereta dokazivanja i na posebne značajke umjetne inteligencije koje predstavljaju problem za postojeća pravila o odgovornosti. U tom pogledu ovom se Direktivom vrlo ciljano i razmjerno smanjuje teret dokazivanja uporabom otkrivanja i oborivih pretpostavki. Njome se osobama koje traže naknadu štete omogućuje mogućnost prikupljanja informacija o visokorizičnim UI sustavima koje treba evidentirati/dokumentirati u skladu s Aktom o umjetnoj inteligenciji. Osim toga, oborive pretpostavke omogućit će osobama koje traže naknadu štete prouzročene sustavima umjetne inteligencije razumniji teret dokazivanja i priliku da uspješno podnesu opravdane odštetne zahtjeve.

Takvi alati nisu novi, a mogu se pronaći u nacionalnim zakonodavstvima. Stoga su ti nacionalni alati korisne referentne točke za rješavanje problema povezanih s umjetnom inteligencijom za postojeća pravila o odgovornosti na način koji u najmanjoj mogućoj mjeri ometa različite nacionalne pravne režime.

Osim toga, poduzeća su kao odgovor na pitanja o dalekosežnijim promjenama, kao što su prebacivanje tereta dokazivanja ili neoborive pretpostavke, dostavila negativne povratne informacije u savjetovanjima. Umjesto toga odabrane su ciljane mjere za smanjenje tereta dokazivanja u obliku oborivih pretpostavki kao pragmatičan i primjeren način da se žrtvama omogući da na najbolje usmjeren i najproporcionalniji način zadovolje zahtjeve tereta dokazivanja.

U članku 1. navode se predmet i područje primjene ove Direktive: primjenjuje se na izvanugovorne građanskopravne zahtjeve za naknadu štete prouzročene sustavom umjetne inteligencije ako se takvi zahtjevi podnose u okviru sustava odgovornosti na temelju krivnje. To se odnosi na sustave kojima se predviđa zakonska odgovornost za naknadu štete prouzročene namjerno, nemarom ili propustom. Mjere predviđene ovom Direktivom mogu se neometano uklopiti u postojeće sustave građanskopravne odgovornosti jer ne utječu na definiciju temeljnih pojmova kao što su „krivnja” ili „šteta”, s obzirom na to da se značenje tih pojmova znatno razlikuje među državama članicama. Stoga ova Direktiva izvan pretpostavki koje se njome utvrđuju ne utječe na pravila Unije ili nacionalna pravila kojima se određuje, na primjer, koja strana snosi teret dokazivanja, koji je stupanj sigurnosti potreban u pogledu standarda dokazivanja ili kako se definira krivnja.

Ova Direktiva ne utječe ni na postojeća pravila kojima se uređuju uvjeti odgovornosti u prometnom sektoru i pravila utvrđena Aktom o digitalnim uslugama.

Iako se ova Direktiva ne primjenjuje u odnosu na kaznenu odgovornost, može se primjenjivati na odgovornost države. Odredbe Akta o umjetnoj inteligenciji primjenjuju se i na državna tijela kao subjekte obveza koje su u njemu propisane.

Ova se Direktiva ne primjenjuje retroaktivno, nego samo na zahtjeve za naknadu štete nastale od datuma njezina prenošenja.

Prijedlog ove Direktive donesen je zajedno s prijedlogom revizije Direktive 85/374/EEZ o odgovornosti za proizvode, u paketu čiji je cilj prilagoditi pravila o odgovornosti digitalnom dobu i umjetnoj inteligenciji, osiguravajući pritom potrebnu usklađenost tih dvaju komplementarnih pravnih instrumenata.

2.Definicije (članak 2.)

Definicije iz članka 2. usklađene su s definicijama iz Akta o umjetnoj inteligenciji kako bi se osigurala dosljednost.

Člankom 2. točkom 6. podtočkom (b) predviđa se da zahtjeve za naknadu štete mogu podnijeti ne samo oštećena osoba, nego i osobe koje su naslijedile prava oštećene osobe ili na koje su ta prava prenesena subrogacijom. Subrogacija znači da treća strana (kao što je osiguravajuće društvo) preuzima zakonsko pravo druge strane na naplatu duga ili odštetu. To znači da jedna osoba ima pravo ostvariti prava druge osobe u vlastitu korist. Subrogacijom bi se obuhvatili i nasljednici preminule žrtve.

Osim toga, člankom 2. točkom 6. podtočkom (c) predviđeno je da tužbu za naknadu štete može podnijeti i osoba koja djeluje u ime jedne ili više oštećenih strana u skladu s pravom Unije ili nacionalnim pravom. Cilj je te odredbe osobama koje su pretrpjele štetu zbog sustava umjetne inteligencije pružiti više mogućnosti da sud razmotri njihove zahtjeve, čak i u slučajevima u kojima se pojedinačne tužbe mogu činiti preskupima ili prezahtjevnima ili u kojima bi korist bila veća kad bi se podnijela zajednička tužba. Kako bi se žrtvama štete prouzročene sustavima umjetne inteligencije omogućilo da putem predstavničkih tužbi ostvare svoja prava u odnosu na ovu Direktivu, člankom 6. mijenja se Prilog I. Direktivi (EU) 2020/1828.

3.Otkrivanje dokaza (članak 3.)

Cilj je ove Direktive osobama koje traže naknadu za štetu prouzročenu visokorizičnim sustavima umjetne inteligencije osigurati učinkovita sredstva za utvrđivanje potencijalno odgovornih osoba i relevantnih dokaza za potraživanje. Takva sredstva služe i za isključivanje pogrešno utvrđenih potencijalnih tuženika, čime se štede vrijeme i troškovi za uključene strane te smanjuje opterećenje sudova predmetima.

U tom se pogledu člankom 3. stavkom 1. Direktive predviđa da sud može naložiti otkrivanje relevantnih dokaza o određenim visokorizičnim sustavima umjetne inteligencije za koje se sumnja da su prouzročili štetu. Zahtjevi za dokaze upućuju se dobavljaču UI sustava, osobi koja podliježe obvezama dobavljača iz članka 24. ili članka 28. stavka 1. Akta o umjetnoj inteligenciji ili korisniku u skladu s Aktom o umjetnoj inteligenciji. Zahtjevi bi trebali biti potkrijepljeni činjenicama i dokazima dostatnima za utvrđivanje utemeljenosti razmatranog zahtjeva za naknadu štete, a traženi dokazi trebali bi biti na raspolaganju adresatima. Zahtjevi se ne mogu uputiti stranama koje nemaju nikakve obveze na temelju Akta o umjetnoj inteligenciji i stoga nemaju pristup dokazima.

U skladu s člankom 3. stavkom 2. tužitelj može zatražiti otkrivanje dokaza od dobavljača ili korisnika koji nisu tuženici samo ako su svi razmjerni pokušaji prikupljanja dokaza od tuženika bili neuspješni.

Kako bi se osigurala djelotvornost sudskog postupka, člankom 3. stavkom 3. Direktive predviđa se da sud može naložiti i čuvanje takvih dokaza.

U skladu s člankom 3. stavkom 4. prvim podstavkom sud može naložiti takvo otkrivanje samo u mjeri u kojoj je to potrebno da bi se potkrijepio zahtjev s obzirom na to da bi te informacije mogle biti ključni dokazi za potraživanje oštećene osobe u slučaju štete koja je povezana sa sustavima umjetne inteligencije.

Ograničavanjem obveze otkrivanja ili čuvanja na potrebne i razmjerne dokaze, člankom 3. stavkom 4. prvim podstavkom nastoji se osigurati proporcionalnost u otkrivanju dokaza, odnosno ograničiti otkrivanje na najmanju nužnu mjeru i spriječiti opće zahtjeve.

Člankom 3. stavkom 4. drugim i trećim podstavkom nastoji se osim toga postići ravnoteža između tužiteljevih prava i potrebe da se osigura da takvo otkrivanje podliježe mjerama za zaštitu legitimnih interesa svih uključenih strana, kao što su poslovne tajne ili povjerljive informacije.

U istom kontekstu, člankom 3. stavkom 4. četvrtim podstavkom nastoji se osigurati da osoba na koju se odnosi nalog za otkrivanje ili čuvanje ima pristup postupovnim pravnim sredstvima protiv njega.

Člankom 3. stavkom 5. uvodi se pretpostavka nepoštovanja obveze dužne pažnje. Riječ je o postupovnom alatu koji je relevantan samo u slučajevima u kojima stvarni tuženik u zahtjevu za naknadu štete snosi posljedice nepoštovanja zahtjeva za otkrivanje ili čuvanje dokaza. Tuženik ima pravo na obaranje te pretpostavke. Mjerom iz ovog stavka nastoji se promicati otkrivanje dokaza, ali i ubrzati sudske postupke.

4.Pretpostavka o postojanju uzročno-posljedične veze u slučaju krivnje (članak 4.)

Kad je riječ o šteti prouzročenoj sustavima umjetne inteligencije, cilj je ove Direktive pružiti učinkovitu osnovu za traženje naknade štete u slučaju krivnje koja proizlazi iz nepoštovanja obveze dužne pažnje u skladu s pravom Unije ili nacionalnim pravom.

Tužiteljima može biti teško utvrditi uzročno-posljedičnu vezu između takvog nepoštovanja obveze i izlaznog rezultata ili nedostatka rezultata UI sustava koji je prouzročio relevantnu štetu. Stoga je u članku 4. stavku 1. utvrđena ciljana oboriva pretpostavka o postojanju takve uzročno-posljedične veze. Takva je pretpostavka najmanje opterećujuća mjera za ispunjavanje potrebe za pravičnom naknadom štete žrtvi.

Tužitelj mora dokazati krivnju tuženika u skladu s primjenjivim pravilima Unije ili nacionalnim pravilima. Na primjer, takva se krivnja može utvrditi za nepoštovanje obveze dužne pažnje u skladu s Aktom o umjetnoj inteligenciji ili drugim pravilima utvrđenima na razini Unije, kao što su pravila kojima se uređuju automatizirano praćenje i donošenje odluka za rad na platformi ili pravila kojima se uređuje rad bespilotnih letjelica. Krivnju osim toga može pretpostaviti sud na temelju nepoštovanja sudskog naloga za otkrivanje ili čuvanje dokaza u skladu s člankom 3. stavkom 5. Ipak, uvođenje pretpostavke o postojanju uzročno-posljedične veze primjereno je samo ako se može smatrati vjerojatnim da je predmetna krivnja utjecala na izlazni rezultat relevantnog UI sustava ili na njegov nedostatak, što se može procijeniti na temelju općih okolnosti slučaja. Tužitelj i dalje mora dokazati da je UI sustav (tj. izlazni rezultat ili nedostatak rezultata sustava) prouzročio štetu.

U stavcima 2. i 3. razlikuju se, s jedne strane, tužbe podnesene protiv dobavljača visokorizičnog UI sustava ili protiv osobe koja podliježe obvezama dobavljača na temelju Akta o umjetnoj inteligenciji i, s druge strane, tužbe podnesene protiv korisnika takvih sustava. U tom smislu primjenjuju se odgovarajuće odredbe i relevantni uvjeti iz Akta o umjetnoj inteligenciji. U slučaju zahtjeva na temelju članka 4. stavka 2. usklađenost tuženika s obvezama navedenima u tom stavku mora se ocijeniti i s obzirom na sustav upravljanja rizicima i njegove rezultate, tj. mjere upravljanja rizikom, u skladu s Aktom o umjetnoj inteligenciji.

Za visokorizične UI sustave kako su definirani Aktom o umjetnoj inteligenciji, člankom 4. stavkom 4. utvrđuje se iznimka od pretpostavke o postojanju uzročno-posljedične veze ako tuženik dokaže da su tužitelju razumno dostupni dostatni dokazi i stručnost za dokazivanje takve veze. Ta mogućnost može potaknuti tuženike da ispune svoje obveze otkrivanja, uz mjere utvrđene Aktom o umjetnoj inteligenciji kako bi se osigurala visoka razina transparentnosti umjetne inteligencije, ili zahtjeve u pogledu dokumentiranja i evidentiranja.

U slučaju UI sustava koji nisu visokorizični, člankom 4. stavkom 5. utvrđuje se uvjet za primjenjivost pretpostavke o postojanju uzročno-posljedične veze, pri čemu sud može utvrditi da je tužitelju pretjerano teško dokazati takvu vezu. Takve poteškoće treba procijeniti s obzirom na značajke određenih UI sustava, kao što su autonomija i netransparentnost, zbog kojih je u praksi vrlo teško objasniti unutarnje funkcioniranje UI sustava, što negativno utječe na sposobnost tužitelja da dokaže uzročno-posljedičnu vezu između krivnje tuženika i izlaznih rezultata umjetne inteligencije.

U slučajevima u kojima tuženik upotrebljava UI sustav u okviru osobne neprofesionalne djelatnosti, člankom 4. stavkom 6. predviđa se da bi se pretpostavka o postojanju uzročno-posljedične veze trebala primjenjivati samo ako je tuženik bitno utjecao na uvjete rada UI sustava ili ako je bio obvezan i u mogućnosti utvrditi uvjete rada tog sustava i to nije učinio. Taj je uvjet opravdan potrebom da se odvagnu interesi oštećenih osoba i neprofesionalnih korisnika tako da se iz primjene pretpostavke o postojanju uzročno-posljedične veze izuzmu slučajevi u kojima neprofesionalni korisnici svojim ponašanjem ne stvaraju dodatan rizik.

Naposljetku, člankom 4. stavkom 7. predviđa se da tuženik ima pravo oboriti pretpostavku o postojanju uzročno-posljedične veze na temelju članka 4. stavka 1.

Takva učinkovita pravila o građanskopravnoj odgovornosti imaju dodatnu prednost jer svima uključenima u aktivnosti povezane s UI sustavima daju dodatan poticaj da poštuju svoje obveze u pogledu njihova očekivanog ponašanja.

5.Evaluacija i ciljano preispitivanje (članak 5.)

U različitim nacionalnim pravnim sustavima predviđaju se različiti sustavi objektivne odgovornosti. Europski parlament predložio je elemente za uspostavu takvog sustava i na razini Unije u svojoj rezoluciji na vlastitu inicijativu od 20. listopada 2020., a sastojao bi se od ograničenog sustava objektivne odgovornosti za određene tehnologije koje se temelje na umjetnoj inteligenciji i smanjenog tereta dokazivanja u skladu s pravilima o odgovornosti na temelju krivnje. U javnim savjetovanjima istaknuto je i da ispitanici (osim poduzeća koja nisu MSP-ovi) daju prednost takvom sustavu, neovisno o tome uključuje li obvezno osiguranje.

Međutim, u Prijedlogu se uzimaju u obzir razlike između nacionalnih pravnih tradicija i činjenice da proizvodi i usluge opremljeni UI sustavima koji bi mogli utjecati na širu javnost i ugroziti važna zakonska prava, kao što su prava na život, zdravstvenu zaštitu i vlasništvo, te bi stoga mogli biti obuhvaćeni sustavom objektivne odgovornosti, još nisu široko dostupni na tržištu.

Uspostavljen je program praćenja kako bi se Komisiji pružile informacije o incidentima povezanima s UI sustavima. Ciljanim preispitivanjem procijenit će se jesu li potrebne dodatne mjere, kao što su uvođenje sustava objektivne odgovornosti i/ili obveznog osiguranja.

6.Prenošenje (članak 7.)

Pri obavješćivanju Komisije o nacionalnim mjerama za prenošenje radi usklađivanja s ovom Direktivom države članice trebale bi dostaviti i dokumente s objašnjenjima u kojima se za svaku odredbu ove Direktive dovoljno jasno i precizno navode nacionalne odredbe kojima se osigurava njezino prenošenje. To je potrebno kako bi se Komisiji omogućilo da za svaku odredbu Direktive koja se treba prenijeti utvrdi relevantan dio nacionalnih mjera za prenošenje kojima se stvara odgovarajuća pravna obveza u nacionalnom pravnom poretku, bez obzira na oblik koji odaberu države članice.

2022/0303 (COD)

Prijedlog

DIREKTIVE EUROPSKOG PARLAMENTA I VIJEĆA

o prilagodbi pravila o izvanugovornoj građanskopravnoj odgovornosti s obzirom na umjetnu inteligenciju
(Direktiva o odgovornosti za umjetnu inteligenciju)

(Tekst značajan za EGP)

EUROPSKI PARLAMENT I VIJEĆE EUROPSKE UNIJE,

uzimajući u obzir Ugovor o funkcioniranju Europske unije, a posebno njegov članak 114.,

uzimajući u obzir prijedlog Europske komisije,

nakon prosljeđivanja nacrta zakonodavnog akta nacionalnim parlamentima,

uzimajući u obzir mišljenje Europskoga gospodarskog i socijalnog odbora, 29  

uzimajući u obzir mišljenje Odbora regija, 30  

u skladu s redovnim zakonodavnim postupkom,

budući da:

(1)Umjetna inteligencija (UI) skup je razvojnih tehnologija koje mogu pridonijeti ostvarenju niza različitih koristi u cijelom spektru gospodarstva i društva. Ima velik potencijal za tehnološki napredak i omogućuje nove poslovne modele u mnogim sektorima digitalnog gospodarstva.

(2)Istodobno, ovisno o okolnostima njezine posebne primjene i uporabe, umjetna inteligencija može stvoriti rizike i naštetiti interesima i pravima koji su zaštićeni pravom Unije ili nacionalnim pravom. Na primjer, uporaba umjetne inteligencije može negativno utjecati na niz temeljnih prava, uključujući prava na život, tjelesni integritet, nediskriminaciju i jednako postupanje. Uredbom (EU) .../... Europskog parlamenta i Vijeća [Akt o umjetnoj inteligenciji] 31 predviđeni su zahtjevi za smanjenje rizika za sigurnost i temeljna prava, dok se drugim pravnim instrumentima Unije uređuju opća 32 i sektorska pravila o sigurnosti proizvoda koja se primjenjuju i na strojarske proizvode 33 i radijsku opremu 34 koji se temelje na umjetnoj inteligenciji. Iako je svrha takvih zahtjeva namijenjenih smanjenju sigurnosnih rizika i rizika za temeljna prava da pridonesu sprečavanju, praćenju i uklanjanju rizika, a time i rješavanju društvenih problema, njima se ne pruža pojedinačna pomoć onima koji su pretrpjeli štetu prouzročenu umjetnom inteligencijom. Postojećim zahtjevima posebno se predviđaju odobrenja, provjere, praćenje i administrativne sankcije za UI sustave kako bi se spriječila šteta. Njima se ne predviđa naknada oštećenoj osobi za štetu prouzročenu izlaznim rezultatom ili nedostatkom rezultata UI sustava.

(3)Ako oštećena osoba traži naknadu za pretrpljenu štetu, općim pravilima država članica o odgovornosti na temelju krivnje obično se od te osobe zahtijeva da dokaže nemar ili namjernu štetnu radnju ili propust („krivnju”) osobe koja bi mogla biti odgovorna za tu štetu, kao i uzročno-posljedičnu vezu između tog čina i relevantne štete. Međutim, kad se između čina ili propusta osobe i štete nalazi umjetna inteligencija, specifičnosti određenih UI sustava, kao što su netransparentnost, autonomno ponašanje i složenost, mogu oštećenoj osobi pretjerano otežati, ako ne i onemogućiti, da ispuni zahtjeve tog tereta dokazivanja. Konkretno, moglo bi biti pretjerano teško dokazati da je određeni ulazni podatak za koji je odgovorna osoba koja je potencijalno odgovorna za štetu doveo do određenog izlaznog rezultata UI sustava koji je doveo do predmetne štete.

(4)U takvim slučajevima razina pravne zaštite predviđena nacionalnim pravilima o građanskopravnoj odgovornosti može biti niža nego u slučajevima u kojima je šteta nastala zbog tehnologija koje ne uključuju umjetnu inteligenciju. Takvi nedostaci mogu pridonijeti nižoj razini društvene prihvaćenosti umjetne inteligencije i povjerenja u proizvode i usluge koji se temelje na umjetnoj inteligenciji.

(5)Kako bi se iskoristile gospodarske i društvene koristi umjetne inteligencije i promicao prelazak na digitalno gospodarstvo, potrebno je ciljano prilagoditi određena nacionalna pravila o građanskopravnoj odgovornosti tim specifičnostima određenih UI sustava. Takve bi prilagodbe trebale pridonijeti povećanju povjerenja društva i potrošača, a time i promicanju uvođenja umjetne inteligencije. Trebale bi pridonijeti i održavanju povjerenja u pravosudni sustav osiguravanjem da žrtve štete prouzročene umjetnom inteligencijom mogu ostvariti jednako učinkovitu naknadu kao i žrtve štete prouzročene drugim tehnologijama.

(6)Zainteresirani dionici (oštećene osobe, potencijalno odgovorne osobe, osiguravatelji) suočavaju se s pravnom nesigurnošću u pogledu načina na koji bi nacionalni sudovi u odnosu na posebne izazove umjetne inteligencije mogli primjenjivati postojeća pravila o odgovornosti u pojedinačnim slučajevima kako bi postigli pravedne rezultate. Ako Unija ne poduzme mjere, vjerojatno će barem neke od država članica prilagoditi svoja pravila o građanskopravnoj odgovornosti kako bi otklonile nedostatke u naknadama i pravnu nesigurnost koji su povezani sa specifičnostima određenih UI sustava. Takve bi prilagodbe dovele do pravne rascjepkanosti i prepreka na unutarnjem tržištu za poduzeća koja razvijaju ili pružaju inovativne proizvode ili usluge koji se temelje na umjetnoj inteligenciji. Posebno bi bila pogođena mala i srednja poduzeća.

(7)Svrha je ove Direktive pridonijeti pravilnom funkcioniranju unutarnjeg tržišta usklađivanjem određenih nacionalnih pravila o izvanugovornoj odgovornosti na temelju krivnje kako bi se osiguralo da osobe koje traže naknadu za štetu prouzročenu sustavom umjetne inteligencije uživaju razinu zaštite jednaku onoj koju uživaju osobe koje traže naknadu za štetu čiji uzrok nije povezan s umjetnom inteligencijom. Države članice ne mogu u dovoljnoj mjeri ostvariti taj cilj jer su relevantne prepreke na unutarnjem tržištu povezane s rizikom od jednostranih i rascjepkanih regulatornih mjera na nacionalnoj razini. Taj je rizik posebno važan u prekograničnom kontekstu s obzirom na digitalnu prirodu proizvoda i usluga obuhvaćenih područjem primjene ove Direktive.

(8)Zato se cilj osiguravanja pravne sigurnosti i sprečavanja nedostataka u naknadi za predmete koji uključuju UI sustave može bolje ostvariti na razini Unije. Unija stoga može donijeti mjere u skladu s načelom supsidijarnosti iz članka 5. Ugovora o Europskoj uniji. U skladu s načelom proporcionalnosti utvrđenim u tom članku, ova Direktiva ne prelazi ono što je potrebno za ostvarivanje tog cilja.

(9)Stoga je potrebno ciljano uskladiti posebne aspekte pravila o odgovornosti na temelju krivnje na razini Unije. Takvim bi se usklađivanjem trebala povećati pravna sigurnost i stvoriti jednaki uvjeti za UI sustave, čime bi se poboljšalo funkcioniranje unutarnjeg tržišta u pogledu proizvodnje i širenja proizvoda i usluga koji se temelje na umjetnoj inteligenciji.

(10)Kako bi se osigurala proporcionalnost, primjereno je ciljano uskladiti samo ona pravila o odgovornosti na temelju krivnje kojima se uređuje teret dokazivanja za osobe koje traže naknadu štete prouzročene sustavima umjetne inteligencije. Ovom Direktivom ne bi se trebali uskladiti opći aspekti građanskopravne odgovornosti koji su na različite načine uređeni nacionalnim pravilima o građanskopravnoj odgovornosti, kao što su definicija krivnje ili uzročno-posljedične veze, različite vrste štete koje mogu biti temelj zahtjeva za naknadu štete, raspodjela odgovornosti među više počinitelja štete, pridonošenje šteti, izračun štete ili rokovi zastare.

(11)Zakoni država članica o odgovornosti proizvođača za štetu nastalu zbog neispravnosti njihovih proizvoda već su usklađeni na razini Unije Direktivom Vijeća 85/374/EEZ 35 . Međutim, ti zakoni ne utječu na pravila država članica o ugovornoj i izvanugovornoj odgovornosti na temelju razloga koji nisu povezani s neispravnosti proizvoda, kao što su jamstvo, krivnja ili objektivna odgovornost. Stoga bi, iako se revizijom Direktive Vijeća 85/374/EEZ nastoji pojasniti i osigurati da oštećena osoba može zatražiti naknadu štete prouzročene neispravnim proizvodima koji se temelje na umjetnoj inteligenciji, trebalo pojasniti da odredbe ove Direktive ne utječu na prava koja oštećena osoba može imati u skladu s nacionalnim propisima kojima se provodi Direktiva 85/374/EEZ. Osim toga, u području prijevoza ova Direktiva ne bi trebala utjecati na pravo Unije kojim se uređuje odgovornost prijevoznika.

(12)[Aktom o digitalnim uslugama 36 ] u potpunosti se usklađuju pravila koja se primjenjuju na pružatelje posredničkih usluga na unutarnjem tržištu, što obuhvaća društvene rizike koji proizlaze iz usluga koje ti pružatelji nude, među ostalim u pogledu UI sustava koje upotrebljavaju. Ova Direktiva ne utječe na odredbe [Akta o digitalnim uslugama] kojima se osigurava sveobuhvatan i potpuno usklađen okvir za obveze dužne pažnje pružatelja usluga smještaja na poslužitelju u pogledu algoritamskog donošenja odluka, uključujući izuzeće od odgovornosti za širenje nezakonitog sadržaja koji su učitali korisnici njihovih usluga ako su ispunjeni uvjeti iz te uredbe.

(13)Izvan pretpostavki koje se njome utvrđuju, ovom se Direktivom ne usklađuju nacionalni zakoni kojima se određuje koja strana snosi teret dokazivanja ili koji je stupanj sigurnosti potreban u pogledu standarda dokazivanja. 

(14)Ova Direktiva trebala bi slijediti pristup minimalnog usklađivanja. Takav pristup omogućuje tužiteljima da se u slučaju štete prouzročene sustavima umjetne inteligencije pozovu na povoljnija pravila nacionalnog prava. Stoga bi se nacionalnim zakonima, na primjer, moglo zadržati prebacivanje tereta dokazivanja u okviru nacionalnih sustava odgovornosti na temelju krivnje ili nacionalnih sustava odgovornosti bez krivnje (tzv. „objektivna odgovornost”) koji se već znatno razlikuju u nacionalnim zakonodavstvima, a koji bi se mogli primijeniti na štetu prouzročenu sustavima umjetne inteligencije.

(15)Trebalo bi osigurati i usklađenost s [Aktom o umjetnoj inteligenciji]. Stoga je primjereno da se u ovoj Direktivi primjenjuju iste definicije za UI sustave, dobavljače i korisnike. Osim toga, ovom bi se Direktivom trebali obuhvatiti zahtjevi za naknadu štete samo ako je šteta prouzročena izlaznim rezultatom ili nedostatkom izlaznog rezultata UI sustava krivnjom osobe, na primjer dobavljača ili korisnika u skladu s [Aktom o umjetnoj inteligenciji]. Nije potrebno obuhvatiti zahtjeve za naknadu u slučajevima kad je šteta prouzročena ljudskim činom ili propustom nakon ljudske procjene, dok je UI sustav pružao samo informacije ili savjete koje je relevantni ljudski akter uzeo u obzir. U potonjem slučaju moguće je pripisati štetu ljudskom činu ili propustu jer između njega i štete ne postoji izlazni rezultat UI sustava te stoga utvrđivanje uzročno-posljedične veze nije teže nego u situacijama koje ne uključuju UI sustave.

(16)Pristup informacijama o određenim visokorizičnim UI sustavima za koje se sumnja da su prouzročili štetu važan je čimbenik za utvrđivanje treba li tražiti naknadu i za potkrepljivanje zahtjeva za naknadu štete. Nadalje, [Aktom o umjetnoj inteligenciji] predviđaju se posebni zahtjevi za visokorizične UI sustave u pogledu dokumentacije, informacija i bilježenja događaja, ali se oštećenoj osobi ne daje pravo na pristup tim informacijama. Stoga je za potrebe utvrđivanja odgovornosti primjereno utvrditi pravila o otkrivanju relevantnih dokaza za one koji njima raspolažu. Time bi se trebao pružiti i dodatan poticaj za ispunjavanje relevantnih zahtjeva utvrđenih u [Aktu o umjetnoj inteligenciji] za dokumentiranje ili evidentiranje relevantnih informacija.

(17)U projektiranju, razvoju, uvođenju i radu visokorizičnih UI sustava obično sudjeluje velik broj osoba, što oštećenim osobama otežava utvrđivanje potencijalno odgovorne osobe za prouzročenu štetu i dokazivanje uvjeta za podnošenje zahtjeva za naknadu štete. Kako bi se oštećenim osobama omogućilo da utvrde je li zahtjev za naknadu štete osnovan, primjereno je potencijalnim tužiteljima dati pravo da od suda zatraže da naloži otkrivanje relevantnih dokaza prije podnošenja zahtjeva za naknadu štete. Takvo otkrivanje trebalo bi naložiti samo ako potencijalni tužitelj iznese činjenice i informacije dostatne za dokazivanje utemeljenosti zahtjeva za naknadu štete i ako je prethodno od dobavljača, osobe koja podliježe obvezama dobavljača ili korisnika zatražio da otkriju dokaze kojima raspolažu o određenim visokorizičnim UI sustavima za koje se sumnja da su prouzročili štetu, a oni su odbili taj zahtjev. Izdavanje naloga za otkrivanje trebalo bi pridonijeti smanjenju broja nepotrebnih sudskih sporova i troškova za moguće stranke u sporu prouzročenih neopravdanim zahtjevima ili zahtjevima s velikom vjerojatnosti neuspjeha. Ako dobavljač, osoba koja podliježe obvezama dobavljača ili korisnik odbiju otkriti dokaze prije izdavanja sudskog naloga, to ne bi trebalo dovesti do pretpostavke da oni ne poštuju relevantne obveze dužne pažnje.

(18)Ograničenje otkrivanja dokaza o visokorizičnim UI sustavima u skladu je s [Aktom o umjetnoj inteligenciji], kojim se predviđaju posebne obveze u pogledu dokumentacije, vođenja evidencije i pružanja informacija za operatore uključene u projektiranje, razvoj i uvođenje visokorizičnih UI sustava. Time se osigurava i nužna proporcionalnost tako što se od operatera UI sustava koji su niskorizični ili ne predstavljaju rizik ne zahtijeva da dokumentiraju informacije na razini sličnoj onoj koja se zahtijeva za visokorizične UI sustave na temelju [Akta o umjetnoj inteligenciji].

(19)Nacionalni sudovi trebali bi tijekom građanskog postupka moći naložiti da osobe koje već imaju obvezu dokumentirati ili evidentirati informacije u skladu s [Aktom o umjetnoj inteligenciji] otkriju ili čuvaju relevantne dokaze povezane sa štetom prouzročenom visokorizičnim UI sustavima bez obzira na to jesu li te osobe dobavljači, osobe koje imaju iste obveze kao dobavljači ili korisnici UI sustava, bilo kao tuženici ili treće strane u tužbi. Može se dogoditi da su dokazi koji su relevantni za predmet u posjedu subjekata koji nisu stranke u zahtjevu za naknadu štete, ali su obvezni dokumentirati ili evidentirati takve dokaze u skladu s [Aktom o umjetnoj inteligenciji]. Stoga je potrebno predvidjeti uvjete pod kojima se tim trećim stranama može naložiti otkrivanje relevantnih dokaza.

(20)Kako bi se održala ravnoteža između interesa stranaka uključenih u zahtjev za naknadu štete i interesa dotičnih trećih strana, sudovi bi trebali naložiti otkrivanje dokaza samo ako je to nužno i razmjerno za podupiranje zahtjeva ili mogućeg zahtjeva za naknadu štete. U tom bi se smislu otkrivanje trebalo odnositi samo na dokaze koji su potrebni za donošenje odluke o predmetnom zahtjevu za naknadu štete, na primjer samo na dijelove relevantne evidencije ili skupove podataka koji su potrebni za dokazivanje neusklađenosti sa zahtjevom utvrđenim u [Aktu o umjetnoj inteligenciji]. Kako bi se osigurala proporcionalnost takvih mjera otkrivanja ili čuvanja, nacionalni sudovi trebali bi imati učinkovita sredstva za zaštitu legitimnih interesa svih uključenih strana, na primjer zaštitu poslovnih tajni u smislu Direktive (EU) 2016/943 Europskog parlamenta i Vijeća 37 i povjerljivih informacija, kao što su informacije koje se odnose na javnu ili nacionalnu sigurnost. Za poslovne tajne ili navodne poslovne tajne za koje je sud utvrdio da su povjerljive u smislu Direktive (EU) 2016/943, nacionalni sudovi trebali bi biti ovlašteni poduzeti posebne mjere kako bi se osigurala povjerljivost poslovnih tajni tijekom postupka i nakon njega te istodobno postigla poštena i proporcionalna ravnoteža između interesa nositelja poslovne tajne u pogledu čuvanja tajnosti i interesa oštećene osobe. To bi trebalo uključivati mjere kojima se pristup dokumentima koji sadržavaju poslovne tajne, saslušanjima ili njihovim prijepisima ili dokumentima ograničava na određeni broj osoba. Prilikom odlučivanja o takvim mjerama nacionalni sudovi trebali bi uzeti u obzir potrebu za osiguravanjem prava na djelotvoran pravni lijek i pošteno suđenje, legitimne interese stranaka i, prema potrebi, trećih osoba, te svu moguću štetu za bilo koju od stranaka i, prema potrebi, za treće osobe, koja može nastati prihvaćanjem ili odbijanjem tih mjera. Nadalje, kako bi se osigurala proporcionalna primjena mjere otkrivanja na treće strane u zahtjevima za naknadu štete, nacionalni sudovi trebali bi trećim stranama naložiti otkrivanje samo ako nije moguće dobiti dokaze od tuženika.

(21)Iako nacionalni sudovi mogu provesti svoje naloge za otkrivanje različitim mjerama, sve bi takve provedbene mjere mogle dovesti do odgode zahtjeva za naknadu štete i time potencijalno stvoriti dodatne troškove za stranke u sporu. Takve odgode i dodatni troškovi mogu oštećenim osobama otežati učinkovito korištenje pravnim lijekom. Stoga, ako tuženik u zahtjevu za naknadu štete ne otkrije dokaze kojima raspolaže nakon što mu to naloži sud, primjereno je utvrditi pretpostavku o nepoštovanju obveze dužne pažnje koju su ti dokazi trebali dokazati. Tom oborivom pretpostavkom skratit će se trajanje sudskih sporova i olakšati učinkovitiji sudski postupci. Tuženik bi trebao moći oboriti tu pretpostavku podnošenjem dokaza o suprotnom.

(22)Kako bi se olakšalo dokazivanje da je određeni ulazni podatak za koji je odgovorna osoba koja je potencijalno odgovorna za štetu doveo do određenog izlaznog rezultata UI sustava koji je doveo do predmetne štete, primjereno je pod određenim uvjetima predvidjeti pretpostavku o postojanju uzročno-posljedične veze. Iako tužitelj u tužbi na temelju krivnje obično mora dokazati štetu, ljudski čin ili propust koji su doveli do štete i uzročno-posljedičnu vezu između njih, ovom se Direktivom ne usklađuju uvjeti pod kojima nacionalni sudovi utvrđuju krivnju. Oni su i dalje uređeni primjenjivim nacionalnim pravom i, ako su zakoni usklađeni, primjenjivim pravom Unije. Slično tome, ovom se Direktivom ne usklađuju uvjeti povezani sa štetom, na primjer vrste štete koja je nadoknadiva, nego su i oni uređeni primjenjivim nacionalnim pravom i pravom Unije. Kako bi se primjenjivala pretpostavka o postojanju uzročno-posljedične veze u skladu s ovom Direktivom, krivnju tuženika trebalo bi utvrditi kao ljudski čin ili propust kojima se krši obveza dužne pažnje u skladu s pravom Unije ili nacionalnim pravom koji su izravno namijenjeni zaštiti od nastale štete. Stoga se ta pretpostavka može primijeniti, na primjer, u zahtjevu za naknadu štete za tjelesnu ozljedu ako sud utvrdi krivnju tuženika zbog nepoštovanja uputa za uporabu kojima se nastoji spriječiti šteta za fizičke osobe. Nepoštovanje obveza dužne pažnje koje nisu izravno namijenjene zaštiti od nastale štete ne dovodi do primjene pretpostavke. Primjerice, u slučaju da pružatelj usluga nadležnim tijelima ne podnese potrebnu dokumentaciju, to ne bi dovelo do primjene pretpostavke u zahtjevima za naknadu štete zbog tjelesne ozljede. Nadalje, trebalo bi utvrditi da se na temelju okolnosti slučaja može smatrati razumno vjerojatnim da je ta štetna radnja utjecala na izlazne rezultate UI sustava ili na njihov nedostatak. Naposljetku, od tužitelja bi se i dalje trebalo zahtijevati da dokaže da je šteta prouzročena izlaznim rezultatom ili nedostatkom rezultata.

(23)Takva se krivnja može utvrditi s obzirom na neusklađenosti s pravilima Unije kojima se posebno uređuju visokorizični UI sustavi, kao što su zahtjevi za određene visokorizične UI sustave uvedeni [Aktom o umjetnoj inteligenciji], zahtjevi koji se mogu uvesti budućim sektorskim zakonodavstvom za druge visokorizične UI sustave u skladu s [člankom 2. stavkom 2. Akta o umjetnoj inteligenciji] ili obveze dužne pažnje koje su povezane s određenim aktivnostima i koje se primjenjuju neovisno o tome upotrebljava li se umjetna inteligencija za tu aktivnost. S druge strane, ovom se Direktivom ne stvaraju niti usklađuju zahtjevi ili odgovornosti subjekata čija je djelatnost uređena tim pravnim aktima i stoga se njome ne stvaraju novi zahtjevi za naknadu štete. Utvrđivanje povrede takvog zahtjeva koja predstavlja krivnju provest će se u skladu s odredbama tih primjenjivih pravila prava Unije jer se ovom Direktivom ne uvode novi zahtjevi niti se njome utječe na postojeće zahtjeve. Na primjer, ova Direktiva ne utječe na izuzeće od odgovornosti za pružatelje posredničkih usluga ni na obveze dužne pažnje kojima podliježu na temelju [Akta o digitalnim uslugama]. Slično tome, Direktivom (EU) 2019/790 o autorskom pravu i srodnim pravima na jedinstvenom digitalnom tržištu i drugim relevantnim zakonodavstvom Unije o autorskom pravu treba utvrditi usklađenost sa zahtjevima propisanima za internetske platforme kako bi se izbjeglo neovlašteno stavljanje djela zaštićenih autorskim pravom na raspolaganje javnosti. 

(24)U područjima koja nisu usklađena pravom Unije i dalje se primjenjuje nacionalno pravo, a krivnja se utvrđuje primjenjivim nacionalnim pravom. Svi nacionalni sustavi odgovornosti imaju obvezu dužne pažnje, a pritom se u njima kao standard ponašanja primjenjuju različite primjene načela djelovanja razumne osobe, čime se osigurava i siguran rad UI sustava kako bi se spriječilo nanošenje štete priznatim pravnim interesima. Takve obveze dužne pažnje mogle bi, na primjer, uključivati zahtjev da korisnici UI sustava za određene zadaće odaberu određeni UI sustav s posebnim značajkama ili da se određeni dijelovi stanovništva ne izlažu određenom UI sustavu. Nacionalnim pravom mogu se uvesti i posebne obveze namijenjene sprečavanju rizika za određene aktivnosti, koje se primjenjuju neovisno o tome upotrebljava li se umjetna inteligencija za tu aktivnost, na primjer prometna pravila ili obveze posebno osmišljene za UI sustave, kao što su dodatni nacionalni zahtjevi za korisnike visokorizičnih UI sustava u skladu s člankom 29. stavkom 2. [Akta o umjetnoj inteligenciji]. Ovom se Direktivom ne uvode takvi zahtjevi niti se njome utječe na uvjete za utvrđivanje krivnje u slučaju kršenja takvih zahtjeva.

(25)Čak i ako se utvrdi krivnja koja se sastoji od nepoštovanja obveze dužne pažnje koja je izravno namijenjena zaštiti od nastale štete, ne bi svaka krivnja trebala dovesti do primjene oborive pretpostavke koja je povezuje s izlaznim rezultatima umjetne inteligencije. Takva bi se pretpostavka trebala primjenjivati samo ako se na temelju okolnosti u kojima je nastala šteta može smatrati razumno vjerojatnim da je dotična krivnja utjecala na izlazni rezultat UI sustava ili na njegov nedostatak na način koji je prouzročio štetu. Na primjer, može se smatrati razumno vjerojatnim da je krivnja utjecala na izlazne rezultate ili na njihov nedostatak ako se ona sastoji od kršenja obveze dužne pažnje u pogledu ograničavanja opsega rada UI sustava i ako je šteta nastala izvan opsega rada. S druge strane, ne može se smatrati razumno vjerojatnim da je povreda obveze podnošenja određenih dokumenata ili registracije kod određenog tijela utjecala na izlazni rezultat UI sustava ili na njegov nedostatak, iako bi to moglo biti predviđeno za tu određenu aktivnost ili čak izričito primjenjivo na rad UI sustava.

(26)Ova Direktiva obuhvaća krivnju na temelju neusklađenosti s određenim zahtjevima utvrđenima u poglavljima 2. i 3. [Akta o umjetnoj inteligenciji] za dobavljače i korisnike visokorizičnih UI sustava koja pod određenim uvjetima može dovesti do primjene pretpostavke o postojanju uzročno-posljedične veze. Aktom o umjetnoj inteligenciji predviđa se potpuno usklađivanje zahtjeva za UI sustave, osim ako je u njemu izričito navedeno drukčije. Njime se usklađuju posebni zahtjevi za visokorizične UI sustave. Stoga se za potrebe zahtjeva za naknadu štete u kojima se primjenjuje pretpostavka o postojanju uzročno-posljedične veze u skladu s ovom Direktivom moguća krivnja dobavljača ili osoba koje podliježu obvezama dobavljača u skladu s [Aktom o umjetnoj inteligenciji] utvrđuje samo na temelju neusklađenosti s tim zahtjevima. S obzirom na to da u praksi tužitelju može biti teško dokazati takvu neusklađenost ako je tuženik dobavljač UI sustava, a u potpunosti u skladu s logikom [Akta o umjetnoj inteligenciji], ovom bi Direktivom trebalo predvidjeti i da bi se pri utvrđivanju je li dobavljač ispunio relevantne zahtjeve iz Akta o umjetnoj inteligenciji navedene u ovoj Direktivi trebali uzeti u obzir koraci koje je dobavljač poduzeo u okviru sustava upravljanja rizicima i rezultati sustava upravljanja rizicima, odnosno odluka o donošenju ili nedonošenju određenih mjera upravljanja rizicima. Sustav upravljanja rizicima koji je uspostavio dobavljač u skladu s [Aktom o umjetnoj inteligenciji] kontinuiran je iterativni postupak koji se odvija tijekom cijelog životnog ciklusa visokorizičnog UI sustava, a dobavljač u okviru tog sustava osigurava usklađenost s obveznim zahtjevima namijenjenima ublažavanju rizika, te stoga može biti koristan element za procjenu te usklađenosti. Ova Direktiva obuhvaća i slučajeve krivnje korisnika kad se ona sastoji od neusklađenosti s određenim posebnim zahtjevima utvrđenima [Aktom o umjetnoj inteligenciji]. Osim toga, krivnja korisnika visokorizičnih UI sustava može se utvrditi na temelju neusklađenosti s drugim obvezama dužne pažnje utvrđenima u pravu Unije ili nacionalnom pravu s obzirom na članak 29. stavak 2. [Akta o umjetnoj inteligenciji].

(27)Iako bi specifičnosti određenih UI sustava, kao što su autonomija i netransparentnost, tužitelju mogle pretjerano otežati ispunjavanje zahtjeva tereta dokazivanja, mogle bi postojati situacije u kojima takve poteškoće ne postoje jer bi podnositelju pritužbe mogli biti dostupni dostatni dokazi i stručno znanje za dokazivanje uzročno-posljedične veze. Do toga bi, primjerice, moglo doći u slučajevima koji uključuju visokorizične UI sustave u kojima je tužitelj mogao razumno pristupiti dostatnim dokazima i stručnom znanju zahvaljujući zahtjevima u pogledu dokumentacije i evidentiranja u skladu s [Aktom o umjetnoj inteligenciji]. U takvim situacijama sud ne bi trebao primijeniti pretpostavku.

(28)Pretpostavka o postojanju uzročno-posljedične veze mogla bi se primjenjivati i na UI sustave koji nisu visokorizični jer bi tužitelj mogao biti suočen s prekomjernim poteškoćama u dokazivanju. Na primjer, takve bi se poteškoće mogle procijeniti s obzirom na značajke određenih UI sustava, kao što su autonomija i netransparentnost, zbog kojih je u praksi vrlo teško objasniti unutarnje funkcioniranje UI sustava, što negativno utječe na sposobnost tužitelja da dokaže uzročno-posljedičnu vezu između krivnje tuženika i izlaznih rezultata umjetne inteligencije. Nacionalni sud trebao bi primijeniti pretpostavku ako je tužitelju pretjerano teško dokazati uzročnost jer je potrebno objasniti kako je ljudski čin ili propust doveo do izlaznog rezultata ili nedostatka rezultata UI sustava koji je prouzročio štetu. Međutim, od tužitelja se ne bi trebalo zahtijevati da objasni značajke predmetnog UI sustava ni način na koji te značajke otežavaju utvrđivanje uzročno-posljedične veze.

(29)Primjenom pretpostavke o postojanju uzročno-posljedične veze nastoji se oštećenoj osobi osigurati slična razina zaštite kao u situacijama u kojima umjetna inteligencija nije uključena i u kojima se takva veza stoga može lakše dokazati. Ipak, smanjenje tereta dokazivanja uzročno-posljedične veze nije uvijek primjereno u skladu s ovom Direktivom ako tuženik nije profesionalni korisnik, nego osoba koja upotrebljava UI sustav za svoje privatne aktivnosti. Kako bi se uravnotežili interesi između oštećene osobe i neprofesionalnog korisnika, u takvim je okolnostima potrebno uzeti u obzir mogu li takvi neprofesionalni korisnici povećati rizik da UI sustav zbog njihova ponašanja prouzroči štetu. Ako je dobavljač UI sustava ispunio sve svoje obveze i stoga se taj sustav smatrao dovoljno sigurnim da se stavi na tržište za određenu uporabu među neprofesionalnim korisnicima te se on zatim upotrebljava u tu svrhu, pretpostavka o postojanju uzročno-posljedične veze ne bi se trebala primjenjivati na korisnikov čin jednostavnog pokretanja rada takvog sustava. Neprofesionalni korisnik koji kupuje UI sustav i jednostavno ga pokreće u skladu s njegovom svrhom, ali pritom bitno ne utječe na uvjete njegova rada, ne bi trebao biti obuhvaćen pretpostavkom o postojanju uzročno-posljedične veze utvrđenom ovom Direktivom. Međutim, ako nacionalni sud utvrdi da je neprofesionalni korisnik bitno utjecao na uvjete rada UI sustava ili da je bio obvezan i sposoban utvrditi uvjete rada tog sustava, ali to nije učinio, tada bi se trebala primjenjivati pretpostavka o postojanju uzročno-posljedične veze, ako su ispunjeni svi ostali uvjeti. Do toga bi, primjerice, moglo doći ako neprofesionalni korisnik ne poštuje upute za uporabu ili druge primjenjive obveze dužne pažnje pri odabiru područja rada ili pri postavljanju uvjeta rada UI sustava. Time se ne dovodi u pitanje činjenica da bi dobavljač trebao odrediti namjenu UI sustava, uključujući poseban kontekst i uvjete uporabe, i prema potrebi ukloniti ili smanjiti rizike tog sustava u trenutku projektiranja i razvoja te pritom uzeti u obzir znanje i stručnost predviđenog korisnika.

(30)Budući da se ovom Direktivom uvodi oboriva pretpostavka, tuženik bi je trebao moći oboriti, osobito dokazivanjem da šteta nije mogla biti prouzročena njegovom krivnjom.

(31)Potrebno je predvidjeti preispitivanje ove Direktive [pet godina] nakon završetka razdoblja prenošenja. Konkretno, tim bi se preispitivanjem trebalo ispitati postoji li potreba za stvaranjem pravila o odgovornosti bez krivnje za potraživanja prema operateru, ako ona već nisu obuhvaćena drugim pravilima Unije o odgovornosti, osobito Direktivom 85/374/EEZ, u kombinaciji s obveznim osiguranjem za rad određenih UI sustava, kako je predložio Europski parlament 38 . U skladu s načelom proporcionalnosti primjereno je procijeniti takvu potrebu s obzirom na relevantan tehnološki i regulatorni razvoj u nadolazećim godinama, pritom uzimajući u obzir učinak i utjecaj na uvođenje i prihvaćanje UI sustava, osobito za MSP-ove. U okviru tog preispitivanja trebalo bi, među ostalim, uzeti u obzir rizike od povreda važnih pravnih vrijednosti kao što su život, zdravlje i vlasništvo trećih strana prouzročenih uporabom proizvoda ili usluga koji se temelje na umjetnoj inteligenciji. Tim bi preispitivanjem trebalo analizirati i učinkovitost mjera predviđenih ovom Direktivom u otklanjanju takvih rizika te razvoj odgovarajućih rješenja na tržištu osiguranja. Kako bi se osigurala dostupnost informacija potrebnih za provođenje takvog preispitivanja, potrebno je prikupiti podatke i druge potrebne dokaze koji obuhvaćaju relevantna pitanja.

(32)S obzirom na potrebu za prilagodbom nacionalnih pravila građanskopravne odgovornosti i postupovnih pravila radi poticanja uvođenja proizvoda i usluga koji se temelje na umjetnoj inteligenciji pod povoljnim uvjetima unutarnjeg tržišta te društvenog prihvaćanja i povjerenja potrošača u tehnologije umjetne inteligencije i pravosudni sustav, primjereno je odrediti rok u kojem države članice moraju donijeti potrebne mjere za prenošenje najkasnije [dvije godine nakon stupanja na snagu] ove Direktive.

(33)U skladu sa Zajedničkom političkom izjavom država članica i Komisije od 28. rujna 2011. o dokumentima s objašnjenjima 39 , države članice obvezale su se da će u opravdanim slučajevima uz obavijest o svojim mjerama za prenošenje priložiti jedan ili više dokumenata u kojima se objašnjava veza između sastavnih dijelova direktive i odgovarajućih dijelova nacionalnih instrumenata za prenošenje. U pogledu ove Direktive, zakonodavac smatra opravdanim dostavljanje takvih dokumenata,

DONIJELI SU OVU DIREKTIVU:

Članak 1.

Predmet i područje primjene

1.Ovom Direktivom utvrđuju se zajednička pravila:

(a)o otkrivanju dokaza o visokorizičnim UI sustavima kako bi se tužitelju omogućilo da potkrijepi svoj izvanugovorni građanskopravni zahtjev za naknadu štete na temelju krivnje;

(b)o teretu dokazivanja u slučaju izvanugovornih građanskopravnih zahtjeva za naknadu štete na temelju krivnje koji se podnose nacionalnim sudovima za naknadu štete prouzročene sustavom umjetne inteligencije.

2.Ova se Direktiva primjenjuje na izvanugovorne građanskopravne zahtjeve za naknadu štete na temelju krivnje ako je šteta koju je prouzročio UI sustav nastala nakon [kraj razdoblja prenošenja].

Ova se Direktiva ne primjenjuje na kaznenu odgovornost.

3.Ova Direktiva ne utječe na:

(a)pravila prava Unije kojima se uređuju uvjeti odgovornosti u području prijevoza;

(b)prava koja oštećena osoba može imati na temelju nacionalnih propisa kojima se provodi Direktiva 85/374/EEZ;

(c)izuzeća od odgovornosti i obveze dužne pažnje utvrđene u [Aktu o digitalnim uslugama] i

(d)nacionalna pravila kojima se određuje koja strana snosi teret dokazivanja, koji je stupanj sigurnosti potreban u pogledu standarda dokazivanja ili kako se definira krivnja, osim u pogledu onoga što je predviđeno u člancima 3. i 4.

4.Države članice mogu donijeti ili zadržati nacionalna pravila koja tužiteljima olakšavaju potkrepljivanje izvanugovornog građanskopravnog zahtjeva za naknadu štete prouzročene UI sustavom, pod uvjetom da su ta pravila u skladu s pravom Unije.

Članak 2.

Definicije

Za potrebe ove Direktive primjenjuju se sljedeće definicije:

(1)„UI sustav” znači UI sustav kako je definiran u [članku 3. stavku 1. Akta o umjetnoj inteligenciji];

(2)„visokorizični UI sustav” znači UI sustav iz [članka 6. Akta o umjetnoj inteligenciji];

(3)„dobavljač” znači dobavljač kako je definiran u [članku 3. stavku 2. Akta o umjetnoj inteligenciji];

(4)„korisnik” znači korisnik kako je definiran u [članku 3. stavku 4. Akta o umjetnoj inteligenciji];

(5)„zahtjev za naknadu štete” znači izvanugovorni građanskopravni zahtjev na temelju krivnje za naknadu štete prouzročene izlaznim rezultatom ili nedostatkom rezultata UI sustava ako je takav rezultat trebao biti proizveden;

(6)„tužitelj” znači osoba koja podnosi zahtjev za naknadu štete na temelju sljedećeg:

(a)oštećena je izlaznim rezultatom ili nedostatkom rezultata UI sustava ako je takav rezultat trebao biti proizveden;

(b) naslijedila je ili je na nju subrogacijom preneseno pravo oštećene osobe na temelju zakona ili ugovora; ili

(c)djeluje u ime jedne ili više oštećenih osoba u skladu s pravom Unije ili nacionalnim pravom.

(7)    „potencijalni tužitelj” znači fizička ili pravna osoba koja razmatra podnošenje zahtjeva za naknadu štete, ali to još nije učinila;

(8)    „tuženik” znači osoba protiv koje je podnesen zahtjev za naknadu štete;

(9)    „obveza dužne pažnje” znači obvezna pravila ponašanja utvrđena nacionalnim pravom ili pravom Unije kako bi se izbjegao štetan učinak na pravne interese priznate na nacionalnoj razini ili razini prava Unije, uključujući život, tjelesni integritet, vlasništvo i zaštitu temeljnih prava.

Članak 3.

Otkrivanje dokaza i oboriva pretpostavka nepoštovanja obveza

1.Države članice osiguravaju da su nacionalni sudovi ovlašteni da od dobavljača, osobe koja podliježe obvezama dobavljača u skladu s [člankom 24. ili člankom 28. stavkom 1. Akta o umjetnoj inteligenciji] ili korisnika zatraže otkrivanje dokaza kojima raspolažu o određenom visokorizičnom UI sustavu za koji se sumnja da je prouzročio štetu na zahtjev tužitelja ili potencijalnog tužitelja koji je prethodno od njih zatražio da otkriju relevantne dokaze, ali je njegov zahtjev odbijen.

U prilog tom zahtjevu potencijalni tužitelj mora iznijeti činjenice i dokaze dostatne za dokazivanje utemeljenosti zahtjeva za naknadu štete.

2.U kontekstu zahtjeva za naknadu štete nacionalni sud jednoj od osoba navedenih u stavku 1. nalaže otkrivanje dokaza samo ako je tužitelj poduzeo sve razmjerne korake da prikupi relevantne dokaze od tuženika.

3.Države članice osiguravaju da su nacionalni sudovi ovlašteni na zahtjev tužitelja odrediti posebne mjere za čuvanje dokaza iz stavka 1.

4.Nacionalni sudovi ograničavaju otkrivanje i čuvanje dokaza na ono što je nužno i razmjerno kako bi se potkrijepio zahtjev ili mogući zahtjev za naknadu štete.

Pri utvrđivanju je li nalog za otkrivanje ili čuvanje dokaza razmjeran, nacionalni sudovi uzimaju u obzir legitimne interese svih strana, uključujući relevantne treće strane, osobito u vezi sa zaštitom poslovnih tajni u smislu članka 2. stavka 1. Direktive (EU) 2016/943 i povjerljivih informacija, kao što su informacije koje se odnose na javnu i nacionalnu sigurnost.

Ako je naloženo otkrivanje poslovne tajne ili navodne poslovne tajne koju je sud utvrdio kao povjerljivu u smislu članka 9. stavka 1. Direktive (EU) 2016/943, države članice osiguravaju da su nacionalni sudovi ovlašteni na propisno obrazložen zahtjev stranke ili na vlastitu inicijativu poduzeti posebne mjere potrebne za očuvanje povjerljivosti ako se ti dokazi upotrebljavaju ili se na njih upućuje u sudskom postupku.

Države članice osiguravaju i da osoba kojoj je naloženo otkrivanje ili čuvanje dokaza iz stavaka 1. ili 2. ima pristup postupovnim pravnim sredstvima protiv takvih naloga.

5.Ako tuženik u zahtjevu za naknadu štete ne postupi u skladu s nalogom nacionalnog suda za otkrivanje ili čuvanje dokaza kojima raspolaže u skladu sa stavcima 1. ili 2., nacionalni sud pretpostavlja da tuženik nije ispunio relevantnu obvezu dužne pažnje, a posebno u okolnostima iz članka 4. stavaka 2. ili 3., koje su trebale biti potvrđene zatraženim dokazima za potrebe relevantnog zahtjeva za naknadu štete.

Tuženik ima pravo na obaranje te pretpostavke.

Članak 4.

Oboriva pretpostavka o postojanju uzročno-posljedične veze u slučaju krivnje

1.U skladu sa zahtjevima iz ovog članka, nacionalni sudovi za potrebe primjene pravila o odgovornosti na zahtjev za naknadu štete pretpostavljaju postojanje uzročno-posljedične veze između krivnje tuženika i izlaznog rezultata ili nedostatka rezultata UI sustava, ako su ispunjeni svi sljedeći uvjeti:

(a) tužitelj je dokazao ili je sud u skladu s člankom 3. stavkom 5. pretpostavio krivnju tuženika ili osobe za čije je ponašanje tuženik odgovoran, a na temelju nepoštovanja obveze dužne pažnje utvrđene u pravu Unije ili nacionalnom pravu koji su izravno namijenjeni zaštiti od nastale štete;

(b)na temelju okolnosti slučaja može se smatrati razumno vjerojatnim da je krivnja utjecala na izlazne rezultate UI sustava ili na njihov nedostatak;

(c)tužitelj je dokazao da su izlazni rezultati ili nedostatak rezultata UI sustava prouzročili štetu.

2.U slučaju zahtjeva za naknadu štete protiv dobavljača visokorizičnog UI sustava koji podliježe zahtjevima iz poglavlja 2. i 3. glave III. [Akta o umjetnoj inteligenciji] ili osobe koja podliježe obvezama dobavljača u skladu s [člankom 24. ili člankom 28. stavkom 1. Akta o umjetnoj inteligenciji], uvjet iz stavka 1. točke (a) ispunjen je samo ako je podnositelj pritužbe dokazao da dobavljač ili, ovisno o slučaju, osoba koja podliježe obvezama dobavljača nisu ispunili bilo koji od sljedećih zahtjeva utvrđenih u tim poglavljima, uzimajući u obzir poduzete korake i rezultate sustava upravljanja rizikom u skladu s [člankom 9. i člankom 16. točkom (a) Akta o umjetnoj inteligenciji]:

(a) UI sustav je sustav koji koristi tehnike koje uključuju učenje modelâ s pomoću podataka i nije razvijen na temelju skupova podataka za učenje, validaciju i testiranje koji ispunjavaju kriterije kvalitete iz [članka 10. stavaka od 2. do 4. Akta o umjetnoj inteligenciji];

(b) UI sustav nije projektiran i razvijen tako da ispunjava zahtjeve transparentnosti utvrđene u [članku 13. Akta o umjetnoj inteligenciji];

(c)UI sustav nije projektiran i razvijen tako da ga pojedinci mogu djelotvorno nadzirati tijekom uporabe u skladu s [člankom 14. Akta o umjetnoj inteligenciji];

(d)UI sustav nije projektiran i razvijen tako da ima odgovarajuću razinu točnosti, otpornosti i kibersigurnosti s obzirom na namjenu u skladu s [člankom 15. i člankom 16. točkom (a) Akta o umjetnoj inteligenciji]; ili

(e)nisu odmah poduzete potrebne korektivne mjere kako bi se UI sustav uskladio s obvezama iz [glave III. poglavlja 2. Akta o umjetnoj inteligenciji] ili kako bi se prema potrebi sustav povukao ili proveo njegov povrat u skladu s [člankom 16. točkom (g) i člankom 21. Akta o umjetnoj inteligenciji].

3.U slučaju zahtjeva za naknadu štete protiv korisnika visokorizičnog UI sustava koji podliježe zahtjevima iz poglavlja 2. i 3. glave III. [Akta o umjetnoj inteligenciji] uvjet iz stavka 1. točke (a) ispunjen je ako tužitelj dokaže:

(a)da korisnik nije ispunio svoje obveze uporabe ili praćenja UI sustava u skladu s priloženim uputama za uporabu ili obvezu da prema potrebi obustavi ili prekine njegovu uporabu u skladu s [člankom 29. Akta o umjetnoj inteligenciji]; ili

(b)da je korisnik izložio UI sustav ulaznim podacima pod svojom kontrolom koji nisu relevantni s obzirom na namjenu sustava u skladu s [člankom 29. stavkom 3. Akta].

4.U slučaju zahtjeva za naknadu štete koji se odnosi na visokorizični UI sustav nacionalni sud ne primjenjuje pretpostavku iz stavka 1. ako tuženik dokaže da su tužitelju razumno dostupni dostatni dokazi i stručnost za dokazivanje uzročno-posljedične veze iz stavka 1.

5.U slučaju zahtjeva za naknadu štete koji se odnosi na UI sustav koji nije visokorizičan, pretpostavka iz stavka 1. primjenjuje se samo ako nacionalni sud smatra da je tužitelju pretjerano teško dokazati uzročno-posljedičnu vezu iz stavka 1.

6.U slučaju zahtjeva za naknadu štete protiv tuženika koji se koristio UI sustavom u okviru osobne neprofesionalne djelatnosti, pretpostavka iz stavka 1. primjenjuje se samo ako je tuženik bitno utjecao na uvjete rada UI sustava ili ako je bio obvezan i u mogućnosti utvrditi uvjete rada tog sustava, ali to nije učinio.

7.Tuženik ima pravo na obaranje pretpostavke iz stavka 1.

Članak 5.

Evaluacija i ciljano preispitivanje

1.Komisija do [DATUM pet godina nakon završetka razdoblja prenošenja] preispituje primjenu ove Direktive i podnosi izvješće Europskom parlamentu, Vijeću i Europskom gospodarskom i socijalnom odboru koje je prema potrebi popraćeno zakonodavnim prijedlogom.

2.U izvješću se ispituju učinci članaka 3. i 4. na postizanje ciljeva ove Direktive. Konkretno, u njemu bi trebalo ocijeniti primjerenost pravila o odgovornosti bez krivnje za potraživanja prema operaterima određenih UI sustava, ako ona već nisu obuhvaćena drugim pravilima Unije o odgovornosti, te potrebu za osiguranjem, pritom uzimajući u obzir učinak i utjecaj na uvođenje i prihvaćanje UI sustava, osobito za MSP-ove.

3.Komisija uspostavlja program praćenja za pripremu izvješća u skladu sa stavcima 1. i 2. u kojem se utvrđuje kako će se i u kojim vremenskim razmacima prikupljati podaci i drugi potrebni dokazi. U programu se navode mjere koje će Komisija i države članice poduzeti pri prikupljanju i analizi podataka i drugih dokaza. Za potrebe tog programa države članice Komisiji dostavljaju relevantne podatke i dokaze do [31. prosinca druge pune godine nakon završetka razdoblja prenošenja] i do kraja svake sljedeće godine.

Članak 6.

Izmjena Direktive (EU) 2020/1828

U Prilogu I. Direktivi (EU) 2020/1828 40 dodaje se točka 67.:

„(67) Direktiva (EU) …/… Europskog parlamenta i Vijeća od … o prilagodbi pravila o izvanugovornoj građanskopravnoj odgovornosti s obzirom na umjetnu inteligenciju (Direktiva o odgovornosti za umjetnu inteligenciju) (SL L …, …, str. …).”.

Članak 7.

Prenošenje

1.Države članice donose zakone i druge propise potrebne za usklađivanje s ovom Direktivom najkasnije do [dvije godine nakon stupanja na snagu]. One Komisiji odmah dostavljaju tekst tih odredaba.

Kada države članice donose te odredbe, one sadržavaju upućivanje na ovu Direktivu ili se na nju upućuje prilikom njihove službene objave. Države članice određuju načine tog upućivanja.

2.Države članice Komisiji dostavljaju tekst glavnih odredaba nacionalnog prava koje donesu u području na koje se odnosi ova Direktiva.

Članak 8.

Stupanje na snagu

Ova Direktiva stupa na snagu dvadesetog dana od dana objave u Službenom listu Europske unije.

Članak 9.

Adresati

Ova je Direktiva upućena državama članicama.

Sastavljeno u Bruxellesu,

(1)    European Enterprise Survey on the use of technologies based on AI (Istraživanje o uporabi tehnologija koje se temelje na umjetnoj inteligenciji u europskim poduzećima), Ipsos 2020., završno izvješće, str. 58.
( https://op.europa.eu/hr/publication-detail/-/publication/f089bbae-f0b0-11ea-991b-01aa75ed71a1 )

(2)     https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_hr.pdf

(3)    Bijela knjiga o umjetnoj inteligenciji – Europski pristup izvrsnosti i izgradnji povjerenja, 19.2.2020., COM(2020) 65 final.

(4)    Izvješće Komisije Europskom parlamentu, Vijeću i Europskom gospodarskom i socijalnom odboru o utjecaju umjetne inteligencije, interneta stvari i robotike na sigurnost i odgovornost, 19.2.2020., COM(2020) 64 final.

(5)    Rezolucija Europskog parlamenta od 20. listopada 2020. s preporukama Komisiji o sustavu građanskopravne odgovornosti za umjetnu inteligenciju (2020/2014(INL)).

(6)    Rezolucija Europskog parlamenta od 3. svibnja 2022. o umjetnoj inteligenciji u digitalnom dobu (2020/2266(INI)).

(7)    Prijedlog uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) (COM(2021) 206 final).

(8)    Aktom o umjetnoj inteligenciji izričito je zabranjen samo mali broj slučajeva uporabe umjetne inteligencije.

(9)    Europska komisija SWD(2021) 84 final, Procjena učinka priložena Aktu o umjetnoj inteligenciji, str. 88.

(10)    Prijedlog uredbe Europskog parlamenta i Vijeća o općoj sigurnosti proizvoda (COM(2021) 346 final).

(11)    Prijedlog uredbe Europskog parlamenta i Vijeća o strojarskim proizvodima, (COM(2021) 202 final).

(12)    Delegirana uredba Komisije (EU) 2022/30 o dopuni Direktive 2014/53/EU Europskog parlamenta i Vijeća u pogledu primjene bitnih zahtjeva iz članka 3. stavka 3. točaka (d), (e) i (f) te direktive (SL L 7, 12.1.2022., str. 6.).

(13)    Komunikacija Komisije, Izgradnja digitalne budućnosti Europe, COM(2020) 67 final.

(14)    [Prijedlog uredbe Europskog parlamenta i Vijeća o horizontalnim kibersigurnosnim zahtjevima za proizvode s digitalnim elementima – COM(2022) 454 final.

(15)    Komunikacija Komisije, Europska strategija za podatke, COM(2020) 66 final.

(16)    Komunikacija Komisije Europskom parlamentu, Europskom vijeću, Vijeću, Europskom gospodarskom i socijalnom odboru i Odboru regija, Europski zeleni plan (COM(2019) 640 final).

(17)    Deloitte, Studija za potporu procjeni učinka Komisije o odgovornosti za umjetnu inteligenciju, 2021. („gospodarska studija”).

(18)    Nacionalna strategija za umjetnu inteligenciju Češke Republike, 2019.: https://www.mpo.cz/assets/en/guidepost/for-the-media/press-releases/2019/5/NAIS_eng_web.pdf ; AI Watch, National strategies on Artificial Intelligence – A European perspective (Nacionalne strategije za umjetnu inteligenciju – europska perspektiva), izdanje iz 2021., izvješće JRC-a i OECD-a: https://op.europa.eu/hr/publication-detail/-/publication/619fd0b5-d3ca-11eb-895a-01aa75ed71a1 , str. 41.

(19)    2025 Strategia per l’innovazione tecnologica e la digitalizzazione del Paese (Strategija za tehnološke inovacije i digitalizaciju zemlje do 2025.): https://assets.innovazione.gov.it/1610546390-midbook2025.pdf ;.

(20)    Deloitte, Studija za potporu procjeni učinka Komisije o odgovornosti za umjetnu inteligenciju, 2021., str. 96.

(21)    Vidjeti Polityka Rozwoju Sztucznej. Inteligencji w Polsce na lata 2019–2027 (Politika razvoja umjetne inteligencije u Poljskoj za razdoblje 2019.–2027.) ( www.gov.pl/attachment/0aa51cd5-b934-4bcb-8660-bfecb20ea2a9 ), 102.–3.

(22)    AI Portugal 2030: https://www.incode2030.gov.pt/sites/default/files/julho_incode_brochura.pdf ; AI Watch, op. cit., str. 113.

(23)    Prije svega objektivna odgovornost, prebacivanje tereta dokazivanja ili smanjenje tereta dokazivanja u obliku neoborivih ili oborivih pretpostavki.

(24)    Dostupno na < https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_hr >

(25)    Liability for artificial intelligence and other emerging digital technologies (Odgovornost za umjetnu inteligenciju i druge digitalne tehnologije u nastajanju), studeni 2019., https://op.europa.eu/hr/publication-detail/-/publication/1c5e30be-1197-11ea-8c1f-01aa75ed71a1/language-en  

(26)    Karner/Koch/Geistfeld, Comparative Law Study on Civil Liability for Artificial Intelligence (Studija komparativnog prava o građanskoj odgovornosti za umjetnu inteligenciju), 2021., https://op.europa.eu/hr/publication-detail/-/publication/8a32ccc3-0f83-11ec-9151-01aa75ed71a1/language-en .

(27)    Kantar, Behavioural Study on the link between challenges of Artificial Intelligence for Member States’ civil liability rules and consumer attitudes towards AI-enabled products and services (Bihevioralna studija o povezanosti izazova koje umjetna inteligencija predstavlja za pravila o građanskopravnoj odgovornosti država članica i stavova potrošača o proizvodima i uslugama koji se temelje na umjetnoj inteligenciji), završno izvješće 2021.

(28)    Deloitte, Studija za potporu procjeni učinka Komisije o odgovornosti za umjetnu inteligenciju, 2021.

(29)    SL C , , str. .

(30)    SL C , , str. .

(31)    [Prijedlog uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji), COM(2021) 206 final].

(32)    [Prijedlog uredbe Europskog parlamenta i Vijeća o općoj sigurnosti proizvoda (COM(2021) 346 final)].

(33)    [Prijedlog uredbe Europskog parlamenta i Vijeća o strojarskim proizvodima, (COM(2021) 202 final].

(34)    Delegirana uredba Komisije (EU) 2022/30 o dopuni Direktive 2014/53/EU Europskog parlamenta i Vijeća u pogledu primjene bitnih zahtjeva iz članka 3. stavka 3. točaka (d), (e) i (f) te direktive (SL L 7, 12.1.2022., str. 6.).

(35)    Direktiva Vijeća 85/374/EEZ od 25. srpnja 1985. o približavanju zakona i drugih propisa država članica u vezi s odgovornošću za neispravne proizvode (SL L 210, 7.8.1985., str. 29.).

(36)    [Prijedlog uredbe Europskog parlamenta i Vijeća o jedinstvenom tržištu digitalnih usluga (Akt o digitalnim uslugama) – COM(2020) 825 final].

(37)    Direktiva (EU) 2016/943 Europskog parlamenta i Vijeća od 8. lipnja 2016. o zaštiti neotkrivenih znanja i iskustva te poslovnih informacija (poslovne tajne) od nezakonitog pribavljanja, korištenja i otkrivanja (SL L 157, 15.6.2016., str. 1.).

(38)    Rezolucija Europskog parlamenta od 20. listopada 2020. s preporukama Komisiji o sustavu građanskopravne odgovornosti za umjetnu inteligenciju (2020/2014(INL)) – SL C 404, 6.10.2021., str. 107.

(39)    SL C 369, 17.12.2011., str. 14.

(40)    Direktiva (EU) 2020/1828 Europskog parlamenta i Vijeća od 25. studenoga 2020. o predstavničkim tužbama za zaštitu kolektivnih interesa potrošačâ i stavljanju izvan snage Direktive 2009/22/EZ (SL L 409, 4.12.2020., str. 1.).