Sažetak

Procjena učinka regulatornog okvira za umjetnu inteligenciju

A. Potreba za djelovanjem

O čemu je riječ? Zašto je to problem na razini EU-a?

Umjetna inteligencija perspektivna je tehnologija opće namjene koju čini iznimno snažan skup tehnika računalnog programiranja. Uvođenje UI sustava može donijeti velike društvene koristi, gospodarski rast te povećati inovativnost i globalnu konkurentnost EU-a. Međutim, u određenim slučajevima uporaba UI sustava može izazvati probleme. Specifične karakteristike određenih UI sustava mogu dovesti do novih rizika povezanih s: 1. sigurnošću i zaštitom i 2. temeljnim pravima te povećati vjerojatnost ili intenzitet postojećih rizika. Osim toga, UI sustavi: 3. provedbenim tijelima otežavaju provjeru poštovanja postojećih pravila i njihovu provedbu. Ti problemi dovode do: 4. pravne nesigurnosti za poduzeća, 5. potencijalno sporijeg uvođenja UI tehnologija zbog nepovjerenja poduzeća i građana te 6. regulatornih odgovora nacionalnih tijela kako bi se ublažili mogući vanjski učinci koji mogu dovesti do fragmentacije unutarnjeg tržišta.

Što bi se trebalo postići?

Regulatornim okvirom nastoje se riješiti navedeni problemi kako bi se stvaranjem uvjeta za razvoj i uporabu pouzdane umjetne inteligencije u Uniji zajamčilo pravilno funkcioniranje jedinstvenog tržišta. Konkretni ciljevi su: 1. da UI sustavi koji se stavljaju na tržište i upotrebljavaju budu sigurni i u skladu s postojećim zakonodavstvom o temeljnim pravima i vrijednostima Unije; 2. pravne sigurnosti radi olakšavanja ulaganja i inovacija u području umjetne inteligencije; 3. poboljšanje upravljanja i djelotvorne provedbe postojećeg zakonodavstva o temeljnim pravima i sigurnosnim zahtjevima primjenjivima na UI sustave; i 4. olakšavanje razvoja jedinstvenog tržišta za zakonite, sigurne i pouzdane UI sustave te sprečavanje fragmentacije tržišta.

Koja je dodana vrijednost djelovanja na razini EU-a (supsidijarnost)? 

Zbog prekogranične prirode podataka i skupova podataka velikih razmjera koji se često upotrebljavaju za UI aplikacije države članice ne mogu same uspješno postići ciljeve ove inicijative. Europskim regulatornim okvirom za pouzdanu umjetnu inteligenciju nastoje se odrediti usklađena pravila za razvoj, stavljanje na tržište i uporabu proizvoda i usluga koji uključuju UI tehnologiju ili samostalnih UI aplikacija u Uniji. Svrha mu je osigurati jednake uvjete i zaštititi sve europske građane te pritom ojačati europsku konkurentnost i industrijsku osnovu u području umjetne inteligencije. Djelovanje EU-a u području umjetne inteligencije ojačat će unutarnje tržište i ima znatan potencijal da europskoj industriji pruži konkurentsku prednost na globalnoj razini zahvaljujući ekonomiji razmjera koju države članice ne mogu postići same.

B. Rješenja

Koje su opcije za postizanje ciljeva? Postoji li najpoželjnija opcija? Ako ne, zašto?

Razmotrene su sljedeće opcije: opcija 1: zakonodavni instrument EU-a kojim se uvodi dobrovoljni sustav označivanja; opcija 2: sektorski, ad hoc pristup; opcija 3: horizontalni zakonodavni instrument EU-a kojim se utvrđuju obvezni zahtjevi za visokorizične UI aplikacije; opcija 3+: jednaka kao opcija 3, ali obuhvaća i dobrovoljne kodekse ponašanja za UI aplikacije koje nisu visokorizične; i opcija 4: horizontalni zakonodavni instrument EU-a kojim se utvrđuju obvezni zahtjevi za sve UI aplikacije. Najpoželjnija je opcija 3+ jer pruža razmjerne zaštitne mjere od rizika koje predstavlja umjetna inteligencija, a pritom se administrativni troškovi i troškovi usklađivanja ograničavaju na najmanju moguću mjeru. Za konkretno pitanje odgovornosti za UI aplikacije donijet će se posebna buduća pravila i stoga ono neće biti obuhvaćeno navedenim opcijama.

Koja su stajališta različitih dionika? Tko podržava koju opciju?

Poduzeća, tijela javne vlasti, članovi akademske zajednice i nevladine organizacije slažu se da postoje zakonodavni nedostaci ili da je potrebno novo zakonodavstvo, iako među poduzećima to stajalište ne prevladava u jednakoj mjeri. Industrija i tijela javne vlasti slažu se da se obvezni zahtjevi ograniče na visokorizične UI aplikacije. Građani i civilno društvo u većoj se mjeri nisu slagali s ograničavanjem obveznih zahtjeva na visokorizične aplikacije.

C. Učinci najpoželjnije opcije

Koje su prednosti najpoželjnije opcije (ako postoji, inače prednosti glavnih opcija)? 

Najpoželjnijom opcijom smanjit će se rizici za sigurnost i temeljna prava građana. Dobavljačima umjetne inteligencije zajamčit će se pravna sigurnost i osigurati da ne bude prepreka prekograničnom pružanju usluga i proizvoda povezanih s umjetnom inteligencijom. Poduzećima koja koriste umjetnu inteligenciju osigurat će se veća razina povjerenja među klijentima. Kad je riječ o nacionalnim javnim upravama, povećat će se povjerenje javnosti u uporabu umjetne inteligencije i ojačati mehanizmi provedbe (uvođenjem europskog koordinacijskog mehanizma, osiguravanjem odgovarajućih kapaciteta te olakšavanjem revizija UI sustava uvođenjem novih zahtjeva u pogledu dokumentacije, sljedivosti i transparentnosti).

Koji su troškovi najpoželjnije opcije (ako postoji, inače troškovi glavnih opcija)? 

Poduzeća ili tijela javne vlasti koja razvijaju ili upotrebljavaju UI aplikacije koje predstavljaju visok rizik za sigurnost ili temeljna prava građana morat će poštovati posebne horizontalne zahtjeve i obveze, koji će se uvesti putem tehničkih usklađenih normi. Procjenjuje se da će ukupni trošak usklađivanja sa zahtjevima i obvezama iznositi između 100 milijuna EUR i 500 milijuna EUR do 2025., što čini najviše 4–5 % ulaganja u visokorizičnu umjetnu inteligenciju (za koju se procjenjuje da čini 5 % do 15 % svih UI aplikacija). Troškovi provjere mogli bi iznositi još 2–5 % ulaganja u visokorizičnu umjetnu inteligenciju. Poduzeća ili tijela javne vlasti koja razvijaju ili upotrebljavaju UI aplikacije koje nisu svrstane među visokorizične ne bi morala snositi nikakve troškove. Međutim, mogla bi odlučiti pridržavati se dobrovoljnih kodeksa ponašanja kako bi poštovala primjerene zahtjeve i osigurala pouzdanost svoje umjetne inteligencije bude pouzdana. U tim bi slučajevima troškovi mogli biti jednako visoki kao i za visokorizične aplikacije, ali najvjerojatnije bi bili niži.

Koji su učinci na MSP-ove i konkurentnost?

Veća opća razina povjerenja u umjetnu inteligenciju MSP-ovima će pogodovati više nego velikim poduzećima, koja se mogu osloniti i na reputaciju svojih marki. MSP-ovi koji razvijaju aplikacije koje su klasificirane kao visokorizične morali bi snositi slične troškove kao velika poduzeća. Zbog velike skalabilnosti digitalnih tehnologija MSP-ovi mogu imati golem doseg unatoč maloj veličini i potencijalno mogu doprijeti do milijunâ ljudi. Stoga bi se, kada je riječ o visokorizičnim aplikacijama, isključivanjem MSP-ova koji isporučuju sustave umjetne inteligencije iz primjene regulatornog okvira mogao ozbiljno ugroziti cilj povećanja povjerenja. Međutim, u regulatornom okviru predvidjet će se posebne mjere, uključujući regulatorna izolirana okruženja ili pomoć preko centara za digitalne inovacije, za potporu MSP-ovima u usklađivanju s novim pravilima, uzimajući u obzir njihove posebne potrebe.

Hoće li to bitno utjecati na državne proračune i uprave? 

Države članice morale bi imenovati nadzorna tijela zadužena za provedbu zakonodavnih zahtjeva. Njihova nadzorna funkcija mogla bi se temeljiti na postojećim sustavima, na primjer u pogledu tijela za ocjenjivanje sukladnosti ili nadzora tržišta, ali bi zahtijevala dostatno tehnološko stručno znanje i resurse. Ovisno o postojećoj strukturi u svakoj državi članici, to bi moglo iznositi od 1 do 25 ekvivalenata punog radnog vremena po državi članici.

Hoće li biti drugih bitnih učinaka? 

Najpoželjnija opcija znatno bi smanjila rizike za temeljna prava građana i općenitije vrijednosti Unije te će povećati sigurnost određenih proizvoda i usluga koji uključuju UI tehnologiju ili samostalnih UI aplikacija.

Proporcionalnost? 

Prijedlog je proporcionalan i neophodan za postizanje ciljeva jer slijedi pristup koji se temelji na riziku i nameće regulatorna opterećenja samo ako je vjerojatno da će dotični UI sustavi biti visokorizični za temeljna prava ili sigurnost. Za ostale slučajeve uvode se samo minimalne obveze u pogledu transparentnosti, to jest obveze pružanja informacija kako bi se upozorilo na uporabu UI sustava u interakciji s ljudima ili na korištenje „deep fake” sadržaja u nezakonite svrhe. Usklađenim normama, popratnim smjernicama i alatima za usklađivanje nastojat će se pomoći dobavljačima i korisnicima da ispune zahtjeve i minimiziraju troškove.

D. Daljnje mjere

Kad će se predložene mjere preispitati?

Komisija će objaviti izvješće o ocjenjivanju i preispitivanju regulatornog okvira pet godina nakon datuma početka njegove primjene.