Povzetek

Ocena učinka regulativnega okvira za umetno inteligenco

A. Potreba po ukrepanju

V čem je težava in zakaj je to težava na ravni EU?

Umetna inteligenca je nastajajoča tehnologija splošne namembnosti: zelo močna družina tehnik računalniškega programiranja. Uvajanje umetnointeligenčnih sistemov ima velike možnosti za doseganje družbenih koristi in ustvarjanje gospodarske rasti ter za krepitev inovativnosti in konkurenčnosti EU na svetovni ravni. Toda v nekaterih primerih lahko zaradi uporabe umetnointeligenčnih sistemov nastanejo težave. Posebne značilnosti nekaterih umetnointeligenčnih sistemov lahko prinesejo nova tveganja v zvezi z (1) varnostjo in varovanjem ter (2) temeljnimi pravicami, obstoječa tveganja pa bi bila lahko zaradi njih verjetnejša ali hujša. Poleg tega pri umetnointeligenčnih sistemih (3) izvršilni organi težko preverijo skladnost z obstoječimi predpisi in jih izvršujejo. Zaradi tega sklopa težav prihaja do (4) pravne negotovosti za podjetja, (5) morda počasnejšega uvajanja tehnologij umetne inteligence zaradi pomanjkanja zaupanja pri podjetjih in državljanih ter (6) regulativnega odziva nacionalnih organov za blažitev morebitnih zunanjih učinkov, ki bi lahko povzročil drobljenje notranjega trga.

Kaj bi bilo treba doseči?

Cilj regulativnega okvira je reševanje teh problemov, da bi ustvarili pogoje za razvoj in uporabo zaupanja vredne umetne inteligence v Uniji ter tako zagotovili pravilno delovanje enotnega trga. Posebni cilji so: (1) zagotoviti, da bodo umetnointeligenčni sistemi, ki se dajejo na trg in uporabljajo, varni in da bodo spoštovali obstoječo zakonodajo o temeljnih pravicah in vrednote Unije; (2) zagotoviti pravno varnost in tako omogočiti lažja vlaganja v inovacije na področju umetne inteligence; (3) izboljšati upravljanje in učinkovito izvrševanje sedanje zakonodaje o temeljnih pravicah varnostnih zahtevah, ki se uporabljajo za umetnointeligenčne sisteme, ter (4) omogočiti lažji razvoj enotnega trga za zakonite, varne in zaupanja vredne umetnointeligenčne sisteme ter preprečiti drobljenje trga.

Kakšna je dodana vrednost ukrepanja na ravni EU (subsidiarnost)? 

Ker je narava podatkov in naborov podatkov velikega obsega, ki jih pogosto uporabljajo umetnointeligenčne aplikacije, čezmejna, ciljev pobude ne morejo doseči države članice same. Cilj evropskega regulativnega okvira za zaupanja vredno umetno inteligenco je vzpostaviti harmonizirana pravila za razvoj, dajanje na trg in uporabo proizvodov in storitev, v katerih je vgrajena tehnologija umetne inteligence, ali samostojnih umetnointeligenčnih aplikacij v Uniji. Zagotovil naj bi enake konkurenčne pogoje in zaščito vseh evropskih državljanov, hkrati pa okrepil konkurenčnost in industrijsko bazo Evrope na področju umetne inteligence. Ukrepi EU na področju umetne inteligence bodo spodbudili notranji trg in imajo velike možnosti za to, da bi evropski industriji omogočili konkurenčno prednost na svetovni ravni, izhajajočo iz ekonomije obsega, kakršne posamezne države članice ne bi mogle doseči same.

B. Rešitve

Katere so različne možnosti za dosego ciljev? Ali ima katera od njih prednost? Če ne, zakaj?

Preučene so bile naslednje možnosti: možnost 1: zakonodajni instrument EU o vzpostavitvi sheme prostovoljnega označevanja; možnost 2: sektorski pristop ad hoc; možnost 3: horizontalni zakonodajni instrument EU o določitvi obveznih zahtev za umetnointeligenčne aplikacije velikega tveganja; možnost 3+: enaka kot možnost 3, toda s prostovoljnimi kodeksi ravnanja za umetnointeligenčne aplikacije velikega tveganja; in možnost 4: horizontalni zakonodajni instrument EU o določitvi obveznih zahtev za vse umetnointeligenčne aplikacije. Prednostna možnost je možnost 3+, saj nudi sorazmerne ukrepe za zaščito pred tveganji, ki jih prinaša umetna inteligenca, hkrati pa so upravni stroški in stroški izpolnjevanja obveznosti pri njej zmanjšani na najmanjšo možno mero. Posebno vprašanje odgovornosti za umetnointeligenčne aplikacije bo rešeno v prihodnje z izrecnimi pravili, zato ni zajeto v navedenih možnostih.

Kakšna so stališča različnih zainteresiranih strani? Kdo podpira katero možnost?

Podjetja, organi javnega sektorja, visokošolske ustanove in nevladne organizacije soglašajo, da obstajajo zakonodajne vrzeli ali da je potrebna nova zakonodaja, čeprav večinsko mnenje pri podjetjih manj prevladuje. Industrija in organi javnega sektorja soglašajo z omejitvijo obveznih zahtev na umetnointeligenčne aplikacije velikega tveganja. Pri državljanih in civilni družbi je verjetneje, da ne soglašajo z omejitvijo obveznih zahtev na aplikacije velikega tveganja.

C. Učinki prednostne možnosti

Kakšne so koristi prednostne možnosti (če obstaja, sicer glavnih možnosti)? 

Pri državljanih bo prednostna možnost ublažila tveganja za njihovo varnost in temeljne pravice. Ponudnikom umetne inteligence bo omogočila pravno varnost in zagotovila, da ne bodo nastajale ovire za čezmejno opravljanje storitev in zagotavljanje proizvodov, povezanih z umetno inteligenco. Pri podjetjih, ki uporabljajo umetno inteligenco, bo spodbujala zaupanje med njihovimi strankami. Pri nacionalnih javnih upravah bo spodbujala zaupanje javnosti v uporabo umetne inteligence in krepila mehanizme izvajanja (z uvedbo evropskega usklajevalnega mehanizma, zagotavljanjem primernih zmogljivosti in omogočanjem lažjih revizij umetnointeligenčnih sistemov z novimi zahtevami za dokumentacijo, sledljivost in preglednost).

Kakšni so stroški prednostne možnosti (če obstaja, sicer glavnih možnosti)? 

Podjetja ali organi javnega sektorja, ki razvijajo ali uporabljajo umetnointeligenčne aplikacije, ki pomenijo veliko tveganje za varnost ali temeljne pravice državljanov, bi morali izpolnjevati posebne horizontalne zahteve in obveznosti, ki bodo uvedene s tehničnimi harmoniziranimi standardi. Skupni zbirni stroški zagotavljanja skladnosti bodo do leta 2025 po ocenah znašali od 100 do 500 milijonov eurov, kar ustreza 4–5 % naložb v umetno inteligenco velikega tveganja (kamor bo po ocenah spadalo 5–15 % vseh umetnointeligenčnih aplikacij). Stroški potrjevanja bi lahko znašali še 2–5 % naložb v umetno inteligenco velikega tveganja. Za podjetja ali organe javnega sektorja, ki razvijajo ali uporabljajo umetnointeligenčne aplikacije, ki niso razvrščene med aplikacije velikega tveganja, ne bodo potrebni nobeni stroški. Toda lahko se odločijo za uporabo prostovoljnih kodeksov ravnanja, tako da bi upoštevali primerne zahteve in zagotovili, da bo njihova umetna inteligenca vredna zaupanja. V teh primerih bi lahko bili stroški največ enako visoki kot pri aplikacijah velikega tveganja, najverjetneje pa nižji.

Kakšni so učinki na mala in srednja podjetja ter konkurenčnost?

Malim in srednjim podjetjem bo splošna višja stopnja zaupanja v umetno inteligenco koristila bolj kot velikim podjetjem, ki se lahko zanašajo tudi na podobo svoje blagovne znamke. Mala in srednja podjetja, ki razvijajo aplikacije, razvrščene kot aplikacije velikega tveganja, bodo morala nositi podobne stroške kot velika podjetja. Ker je pri digitalnih tehnologijah mogoče močno povečati obseg, lahko imajo mala in srednja podjetja ogromen doseg, čeprav so majhna, saj bi lahko dosegla na milijone posameznikov. Zato bi izvzetje malih podjetij, ki dobavljajo umetno inteligenco, iz uporabe regulativnega okvira glede aplikacij velikega tveganja lahko hudo ogrozilo cilj povečanja zaupanja. Toda v regulativnem okviru bodo za podporo malim in srednjim podjetjem pri zagotavljanju skladnosti z novimi pravili predvideni posebni ukrepi, pri katerih bodo upoštevane njihove posebne potrebe, tudi regulativni peskovniki ali pomoč preko vozlišč digitalnih inovacij.

Ali bo prišlo do znatnih učinkov na nacionalne proračune in uprave? 

Države članice bodo morale imenovati nadzorne organe, ki bodo zadolženi za izvajanje zakonodajnih zahtev. Njihova nadzorna funkcija bi lahko izhajala iz obstoječih ureditev, npr. v zvezi z organi za ugotavljanje skladnosti ali nadzor trga, vendar bo zanjo potrebno dovolj tehnološkega strokovnega znanja in virov. Glede na obstoječo strukturo v vsaki državi članici bi to lahko pomenilo 1–25 ekvivalentov polnega delovnega časa na državo članico.

Ali bo prišlo do drugih pomembnih učinkov? 

Prednostna možnost bo znatno ublažila tveganja za temeljne pravice državljanov ter širše vrednote Unije ter omogočila večjo varnost nekaterih proizvodov in storitev z vgrajeno tehnologijo umetne inteligence ali samostojnih umetnointeligenčnih aplikacij.

Sorazmernost? 

Predlog je sorazmeren in potreben za dosego ciljev, saj je v njem upoštevan pristop na podlagi tveganja, regulativno breme pa se nalaga le, kadar je za umetnointeligenčne sisteme verjetno, da bodo pomenili veliko tveganje za temeljne pravice ali varnost. Kadar ni tako, se nalagajo samo zelo majhne obveznosti zagotavljanja preglednosti, zlasti v smislu informiranja za opozarjanje na uporabo umetnointeligenčnega sistema, kadar je v stiku z ljudmi, ali globokih ponaredkov, če se ne uporabljajo za zakonite namene. V pomoč ponudnikom in uporabnikom pri izpolnjevanju zahtev in zmanjševanju stroškov naj bi bili harmonizirani standardi, podporna navodila in orodja za zagotavljanje skladnosti.

D. Spremljanje

Kdaj se bo politika pregledala?

Komisija bo objavila poročilo o oceni in pregledu okvira pet let od datuma začetka njegove uporabe.