EVROPSKA KOMISIJA

Bruselj, 21.4.2021

COM(2021) 205 final

SPOROČILO KOMISIJE EVROPSKEMU PARLAMENTU, SVETU, EVROPSKEMU EKONOMSKO-SOCIALNEMU ODBORU IN ODBORU REGIJ

Spodbujanje evropskega pristopa k umetni inteligenci

Sporočilo: spodbujanje evropskega pristopa k umetni inteligenci

1.Uvod

Umetna inteligenca bo v prihodnjih desetletjih močno vplivala na način življenja in dela ljudi. Ta obrazložitev je osnova evropske strategije za umetno inteligenco, ki se je začela izvajati aprila 2018 in je bila od takrat potrjena. Možne koristi umetne inteligence za našo družbo so številne, od manjšega onesnaževanja do manjšega števila smrtnih žrtev v prometu, od izboljšane zdravstvene oskrbe in večjih priložnosti za invalide in starejše osebe do boljšega izobraževanja in več načinov za vključevanje državljanov v demokratične procese, od hitrejšega razsojanja do učinkovitejšega boja proti terorizmu in kriminalu na spletu in drugje ter krepitve kibernetske varnosti. Umetna inteligenca je dokazala svoj potencial s prispevanjem k boju proti COVID-19, s čimer pomaga napovedovati geografsko širjenje bolezni, diagnosticirati okužbo z računalniškim tomogramom ter razviti prva cepiva in zdravila proti virusu. Predvsem je umetna inteligenca pokazala vsestranskost, ki ji je kos le malo drugih tehnologij. Hkrati uporaba umetne inteligence prinaša tudi nekatera tveganja, kot je potencialno izpostavljanje ljudi, vključno z otroki 1 , pomembnim napakam, ki lahko ogrozijo temeljne pravice in varnost ter tudi naše demokratične procese.

EU se mora soočiti s hitrim tehnološkim razvojem umetne inteligence in globalnim političnim kontekstom, v katerem vedno več držav veliko vlaga v umetno inteligenco, zato mora EU delovati enotno, da izkoristi številne priložnosti in se spopade z izzivi umetne inteligence na način, primeren za prihodnost. Z začetkom izvajanja evropske strategije za umetno inteligenco aprila 2018 2 je bila dvodelna politika Komisije, da EU postane vrhunsko vozlišče za umetno inteligenco, hkrati pa zagotovi, da je umetna inteligenca humanocentrična in vredna zaupanja. Bela knjiga Komisije o umetni inteligenci 3 , objavljena februarja 2020, določa jasno vizijo za umetno inteligenco v Evropi: ekosistem odličnosti in ekosistem zaupanja v umetno inteligenco.

Današnji sveženj za umetno inteligenco predstavlja ključni mejnik v obeh razsežnostih politike. Za spodbujanje razvoja umetne inteligence in obravnavanje morebitnih velikih tveganj, ki jih predstavlja za varnost in temeljne pravice, Komisija predstavlja tako predlog regulativnega okvira za umetno inteligenco kot tudi revidiran usklajen načrt za umetno inteligenco.

2.Dve strani umetne inteligence: priložnosti in tveganja

Glede na potencial umetne inteligence Evropska unija spodbuja njen razvoj in uporabo. Komisija namerava prek programov Digitalna Evropa in Obzorje Evropa letno vložiti 1 milijardo EUR v umetno inteligenco ter pritegniti dodatne naložbe zasebnega sektorja in držav članic, da bi v tem desetletju dosegla 20 milijard EUR naložb na leto.

Krepitev evropskih zmogljivosti umetne inteligence je ključni element širše strategije prilagajanja Evrope digitalni dobi in preoblikovanja naslednjih 10 let v digitalno desetletje, kot je določeno v digitalnem kompasu 4 . Zlasti spodbujanje inovacij, ki temeljijo na umetni inteligenci, je tesno povezano z izvajanjem evropske strategije za podatke, vključno z nedavnim predlogom akta o upravljanju podatkov 5 , saj lahko umetna inteligenca uspe le, če je dostop do podatkov nemoten. Zlasti mala in srednja podjetja bodo potrebovala pošten dostop do podatkov, da se omogoči široka uporaba umetne inteligence v gospodarstvu EU. Predlagani regulativni okvir za umetno inteligenco bo deloval tudi v povezavi z veljavno zakonodajo o varnosti proizvodov in zlasti z revizijo direktive o strojih 6 , ki med drugim obravnava varnostna tveganja novih tehnologij, vključno s tveganji, ki izhajajo iz sodelovanja človek-robot, s kibernetskimi tveganji z varnostnimi posledicami in z avtonomnimi stroji. Prav tako je okvir dodatek k strategiji EU za varnostno unijo, novi strategiji za kibernetsko varnost 7 , akcijskemu načrtu za digitalno izobraževanje 2021–2027 8 in pred kratkim predlaganemu aktu o digitalnih storitvah in aktu o digitalnih trgih 9 ter akcijskemu načrtu za evropsko demokracijo. 10 Nazadnje bo predlagani okvir dopolnjen z zakonodajo za prilagoditev okvira odgovornosti EU, kot je revizija direktive o odgovornosti za proizvode, da se obravnavajo vprašanja odgovornosti v zvezi z novimi tehnologijami, vključno z umetno inteligenco, in z revizijo direktive o splošni varnosti proizvodov.

Na novo sprejet mehanizem za okrevanje in odpornost bo Evropi omogočil, da poveča svoje ambicije in postane prvi akter pri sprejemanju umetne inteligence. Mehanizem za okrevanje in odpornost, ki bo osrednji del načrta EU za okrevanje, bo zagotovil 672,5 milijarde EUR posojil in nepovratnih sredstev, kar je največ do zdaj, za podporo reform in naložb držav članic za ključna prva leta okrevanja. Vsaj 20 % razpoložljivih sredstev bo namenjenih ukrepom za pospeševanje digitalnega prehoda v višini do 134 milijard EUR v življenjskem ciklu mehanizma za okrevanje in odpornost 11 .

Mehanizem za okrevanje in odpornost se lahko uporablja za spodbujanje naložb držav članic v umetno inteligenco in podporo vodilnim raziskovalnim, inovacijskim in testnim zmogljivostim, tako da lahko pospešeni razvoj in uporaba umetne inteligence prispevata h gospodarskem in družbenem okrevanju ter dolgoročno izboljšata konkurenčnost. Priložnost je še toliko večja, saj financiranje mehanizma za okrevanje in odpornost dopolnjuje programa Digitalna Evropa in Obzorje Evropa ter znatno financiranje inovacij v okviru programov kohezijske politike.

Umetna inteligenca in druge digitalne tehnologije lahko prispevajo k trajnemu okrevanju po COVID-19 zaradi njihovega potenciala za povečanje produktivnosti v vseh gospodarskih sektorjih, ustvarjanje novih trgov in prinašanje izjemnih priložnosti za gospodarsko rast Evrope. Tehnologije umetne inteligence pomagajo optimizirati industrijske procese, jih narediti odpornejše, učinkovitejše in okolju prijaznejše ter omogočajo inovativno samoučenje in rešitve v realnem času, od napovednega vzdrževanja do sodelovalnih robotov, od digitalnih dvojčkov do nadgrajene resničnosti. Nove poslovne priložnosti in večji ekonomski dinamizem naj bi ustvarili nove zaposlitvene priložnosti in prevladali nad morebitnimi izgubami delovnih mest. Umetna inteligenca lahko prispeva k povečanju priložnosti za invalide in starejše osebe za samostojno življenje z zagotavljanjem pomožnih in podpornih rešitev 12 . Poleg tega ima lahko umetna inteligenca pomembno vlogo pri obveščanju državljanov in krepitvi pobud za vključevanje državljanov.

Krepitev zmogljivosti na področju umetne inteligence bo pripomogla k večji odpornosti na prihodnje pretrese, saj bodo evropska podjetja razpolagala z zadostnim strokovnim znanjem za hitro uporabo umetne inteligence pri novih izzivih. Poleg tega lahko umetna inteligenca precej prispeva k ciljem evropskega zelenega dogovora, s čimer pomaga industriji, podjetjem, javnim organom in državljanom pri trajnostnejših odločitvah za vključitev obnovljivih virov energije v energetski sistem s pametnim upravljanjem omrežja ali za zmanjšanje emisij toplogrednih plinov s pametno mobilnostjo, optimizirano uporabo virov, preciznim kmetovanjem, če naštejemo le nekatere.

Umetna inteligenca lahko precej prispeva k ciljem strategije EU za varnostno unijo. To je lahko strateško orodje za boj proti sedanjim grožnjam in predvidevanje prihodnjih tveganj (vključno s hibridnimi grožnjami) in priložnosti. Umetna inteligenca lahko pomaga v boju proti kriminalu in terorizmu ter organom za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj omogoča, da sledijo hitro razvijajočim se tehnologijam, ki jih uporabljajo storilci kaznivih dejanj, in njihovim čezmejnim dejavnostim.

Za izkoriščanje prednosti umetne inteligence lahko Evropa gradi na svojih obstoječih prednostih. Evropa ima vodilni položaj v svetu na področju robotike in konkurenčnih industrijskih ekosistemov. Ta sredstva skupaj z vse bolj zmogljivo računalniško infrastrukturo (npr. visokozmogljivi računalniki) ter velikimi količinami javnih in industrijskih podatkov Evropo postavljajo v položaj, da lahko na podlagi svojih odličnih raziskovalnih centrov in vedno večjega števila inovativnih zagonskih podjetij ustvari vodilne zmogljivosti umetne inteligence na svetu. Za izkoriščanje teh prednosti z razpoložljivim financiranjem bodo države članice EU in Komisija združile strokovno znanje, usklajevale ukrepe in skupaj pritegnile dodatna sredstva. V ta namen Komisija na podlagi sodelovanja, ki ga od leta 2018 razvija z državami članicami, danes predstavlja revidiran usklajen načrt za umetno inteligenco.

Hkrati uporaba umetne inteligence ustvarja tudi tveganja, ki jih je treba obravnavati. Nekatere značilnosti umetne inteligence, kot je neprepustnost številnih algoritmov, ki otežujejo preiskovanje vzročnih razmerij, predstavljajo posebna in potencialno velika tveganja za varnost in temeljne pravice, ki jih obstoječa zakonodaja ne more obravnavati ali za katere je obstoječo zakonodajo težko uveljaviti. Pogosto na primer ni mogoče ugotoviti, zakaj je umetnointeligenčni sistem dosegel določen rezultat. Posledično je morda težko oceniti in dokazati, ali je bil nekdo zaradi uporabe umetnointeligenčnih sistemov neupravičeno prikrajšan, na primer pri odločitvi o zaposlovanju ali napredovanju ali vlogi za sistem javne koristi. Uporaba umetnointeligenčnih sistemov lahko zadevnim ljudem povzroči velike težave pri popravljanju napačnih odločitev. Prepoznavanje obraza v javnih prostorih lahko zelo vsiljivo vpliva na zasebnost, če ni ustrezno urejeno. Poleg tega lahko slabo učenje in zasnova umetnointeligenčnih sistemov povzročita znatne napake, ki lahko ogrozijo zasebnost in nediskriminacijo 13 . Umetnointeligenčni roboti in inteligentni sistemi morajo biti zasnovani in oblikovani tako, da izpolnjujejo enake visoke standarde varnosti in varstva temeljnih pravic za tradicionalne tehnologije, kot jih določa evropska zakonodaja.

Evropski parlament in Evropski svet sta na te izzive umetne inteligence večkrat pozvala k zakonodajnim ukrepom za zagotovitev dobro delujočega notranjega trga za umetnointeligenčne sisteme, na katerem so koristi in tveganja umetne inteligence ustrezno obravnavani na način, ki bo prestal preizkus časa. Predlog Komisije za regulativni okvir 14 o umetni inteligenci predstavlja ključno prelomnico na poti k zaščiti varnosti in temeljnih pravic ter s tem zagotavljanju zaupanja v razvoj in uvedbo umetne inteligence.

Usklajeni načrt in predlog regulativnega okvira sta del prizadevanj Evropske unije, da bi dejavno sodelovala v mednarodnih in večstranskih forumih na področju digitalnih tehnologij in postala vodilna v svetu pri spodbujanju zaupanja vredne umetne inteligence ter zagotovila skladnost med zunanjimi ukrepi EU in njenimi notranjimi politikami. Na svetovnem prizorišču je umetna inteligenca postala strateško pomembno področje na stičišču geopolitike, trgovinskih interesov in varnostnih vprašanj. Z odločitvijo za uporabo umetne inteligence se države po svetu odločajo za uporabo umetne inteligence kot sredstva za tehnični napredek, ki izvira iz njene uporabnosti in potenciala. Uredba o umetni inteligenci je še v povojih in ima velik pomen za EU, da vodi razvoj novih ambicioznih svetovnih norm, mednarodnih pobud za standardizacijo v zvezi z umetno inteligenco 15 in okvirov sodelovanja v skladu z multilateralnim sistemom, ki temelji na pravilih, in z vrednotami, ki jih podpira. V skladu s skupnim sporočilom o krepitvi prispevka EU k multilateralizmu, ki temelji na pravilih 16 , namerava EU poglobiti partnerstva, koalicije in zavezništva s tretjimi državami – zlasti z enako mislečimi partnerji – ter multilateralnimi in regionalnimi organizacijami. 17 Prav tako namerava vzpostaviti sodelovanje, ki temelji na vprašanjih, z drugimi državami in se osredotočiti na področja, kjer so te vrednote ogrožene.

3.Mejnik na poti k evropskemu pristopu k umetni inteligenci

Danes objavljeni sveženj je rezultat triletnega intenzivnega oblikovanja politike o umetni inteligenci na evropski ravni. Potem ko je Evropska komisija aprila 2018 objavila evropsko strategijo za umetno inteligenco in po obsežnih posvetovanjih z deležniki je strokovna skupina na visoki ravni za umetno inteligenco leta 2019 pripravila smernice za zaupanja vredno umetno inteligenco 18 , leta 2020 pa ocenjevalni seznam za zaupanja vredno umetno inteligenco. Poleg tega je bilo ustanovljeno zavezništvo za umetno inteligenco 19 , v kateri približno 4 000 deležnikov razpravlja o tehnoloških in družbenih posledicah umetne inteligence, ki doseže vrhunec na letni skupščini za umetno inteligenco. Hkrati prvi usklajeni načrt za umetno inteligenco 20 , objavljen decembra 2018, predstavlja skupno zavezo z državami članicami, da bodo spodbujale razvoj in uporabo umetne inteligence v Evropi ter usklajevale evropska in nacionalna prizadevanja za umetno inteligenco.

Komisija je belo knjigo o umetni inteligenci objavila skupaj s poročilom o varnostnih vidikih in vidikih odgovornosti umetne inteligence, interneta stvari (IoT) in robotike 21 . V beli knjigi so predlagani številni ukrepi za spodbujanje ekosistema odličnosti, ki vodijo do današnje revizije usklajenega načrta. Podobno so v beli knjigi določene tudi možnosti politike za prihodnji regulativni okvir EU za zaščito ekosistema zaupanja v Evropo, s čimer se postavljajo temelji za današnji predlog regulativnega okvira za umetno inteligenco. V javnem posvetovanju o beli knjigi o umetni inteligenci 22 , ki je potekalo od februarja do junija 2020, je sodelovalo veliko udeležencev, kar je evropskim državljanom, državam članicam in deležnikom omogočilo, da predložijo svoje prispevke ter pomagajo oblikovati pristop EU in možnosti politike za umetno inteligenco.

4.Na poti do zanesljivosti: predlog za regulativni okvir za umetno inteligenco

Kot je določeno v beli knjigi o umetni inteligenci in večinoma potrjeno z javnim posvetovanjem, ki je sledilo, uporaba umetne inteligence ustvarja številna posebna velika tveganja, za katera obstoječa zakonodaja ne zadostuje. Čeprav že obstaja trden zakonodajni okvir na ravni EU in nacionalni ravni za varstvo temeljnih pravic 23 ter zagotavljanje varnosti 24 in pravic potrošnikov 25 , vključno zlasti s splošno uredbo o varstvu podatkov 26 in „direktivo o kazenskem pregonu“ 27 , lahko nekatere posebne značilnosti umetnointeligenčnih tehnologij (npr. neprepustnost) otežijo uporabo in izvrševanje take zakonodaje ter ustvarijo velika tveganja, za katera je potreben prilagojen regulativni odziv. Predlog zato uvaja niz harmoniziranih pravil, ki se uporabljajo za zasnovo, razvoj in uporabo nekaterih umetnointeligenčnih sistemov velikega tveganja ter omejitve nekaterih uporab sistemov za biometrično identifikacijo na daljavo.

S pridobivanjem zaupanja ljudi bi morala predvidena zakonodaja, ki temelji na tveganju, spodbujati uporabo umetne inteligence po vsej Evropi in povečati konkurenčnost Evrope. Predlog Komisije zato zasleduje dvojne cilje, in sicer sorazmerno odpravljanje tveganj, povezanih s posebnimi aplikacijami umetne inteligence, in spodbujanje uvajanja umetne inteligence. Da bi bil predlagani pravni okvir primeren za prihodnost in inovacijam prijazen, je oblikovan tako, da posreduje samo tam, kjer je to nujno potrebno, in da se zmanjšuje breme za gospodarske subjekte z enostavno strukturo upravljanja.

Predlagana uredba o umetni inteligenci določa pravila za povečanje preglednosti in zmanjšanje tveganj za varnost in temeljne pravice, preden se lahko umetnointeligenčni sistemi uporabijo v Evropski uniji. Njegova arhitektura temelji na številnih ključnih komponentah, ki kot celota gradijo sorazmeren in na tveganju temelječ evropski regulativni pristop. Prvič, zagotavlja tehnološko nevtralno opredelitev umetnointeligenčnih sistemov, ki je primerna za prihodnost, če lahko zajema tehnike in pristope, ki še niso znani ali razviti.

Drugič, da bi se izognili pretiranemu regulativnemu ukrepanju, se predlog osredotoča na tako imenovane primere uporabe umetne inteligence velikega tveganja, tj. kjer so tveganja, ki jih predstavljajo umetnointeligenčni sistemi, zlasti velika. Ali je umetnointeligenčni sistem razvrščen kot sistem velikega tveganja, je odvisno od predvidenega namena sistema ter resnosti možne škode in verjetnosti njenega nastanka. Sistemi velikega tveganja vključujejo na primer umetnointeligenčne sisteme, namenjene zaposlovanju ljudi ali ocenjevanju njihove kreditne sposobnosti 28 ali za sodno odločanje. Da bi zagotovili, da so pravila primerna za prihodnost ter se lahko prilagodijo nastajajočim uporabam in aplikacijam umetnointeligenčnih sistemov velikega tveganja, obstaja možnost, da se novi umetnointeligenčni sistemi na nekaterih vnaprej določenih področjih uporabe razvrstijo kot sistemi velikega tveganja.

Tretjič, predlog določa, da morajo umetnointeligenčni sistemi velikega tveganja upoštevati sklop posebej zasnovanih zahtev, ki vključujejo uporabo visokokakovostnih naborov podatkov, vzpostavitev ustrezne dokumentacije za izboljšanje sledljivosti, izmenjavo ustreznih informacij z uporabnikom, zasnovo in izvajanje ustreznih ukrepov za človekov nadzor ter doseganje najvišjih standardov v smislu zanesljivosti, varnosti, kibernetske varnosti in točnosti. Pred dajanjem na trg ali v uporabo je treba umetnointeligenčne sisteme velikega tveganja oceniti glede skladnosti s temi zahtevami. Za nemoteno vključitev v obstoječe pravne okvire predlog po potrebi upošteva sektorske predpise za varnost ter tako zagotovi skladnost med pravnimi akti in poenostavitev za gospodarske subjekte.

Predlagani osnutek uredbe določa prepoved omejenega nabora uporab umetne inteligence, ki so v nasprotju z vrednotami Evropske unije ali kršijo temeljne pravice. Prepoved vključuje umetnointeligenčne sisteme, ki izkrivljajo vedenje osebe s subliminalnimi tehnikami ali izkoriščanjem posebnih šibkih točk na načine, ki povzročajo ali bi lahko povzročili fizično ali psihološko škodo. Zajema tudi splošno družbeno točkovanje umetnointeligenčnih sistemov s strani javnih organov.

Za poseben primer sistemov za biometrično identifikacijo na daljavo (npr. orodja za prepoznavanje obraza za preverjanje mimoidočih na javnih mestih) predlagana uredba uvaja strožji pristop. Uporaba v realnem času za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj bi bila načeloma prepovedana v javno dostopnih prostorih, razen če to izjemoma dovoljuje zakon 29 . Za vsako dovoljenje veljajo posebni zaščitni ukrepi. Poleg tega mora priglašeni organ za vse umetnointeligenčne sisteme, namenjene uporabi za biometrično identifikacijo fizičnih oseb na daljavo, opraviti predhodni postopek ugotavljanja skladnosti, da preveri skladnost z zahtevami za umetnointeligenčne sisteme velikega tveganja, zanje pa bodo veljale strožje zahteve glede vodenja dnevnikov in človekovega nadzora.

V skladu s predlagano uredbo za druge uporabe umetnointeligenčnih sistemov veljajo le minimalne zahteve glede preglednosti, na primer v primeru klepetalnih botov, sistemov za prepoznavanje čustev ali prepričljivih potvorb. To bo ljudem omogočilo, da sprejemajo informirane odločitve ali se umaknejo iz določene situacije. Nazadnje, predlagana uredba bo spodbujala uporabo regulativnih peskovnikov, ki vzpostavljajo nadzorovano okolje za preizkušanje inovativnih tehnologij v omejenem časovnem obdobju, dostop do vozlišč digitalnih inovacij ter dostop do centrov za testiranje in eksperimentiranje, kar bo inovativnim podjetjem, MSP in zagonskim podjetjem pomagalo, da bodo še naprej inovativna v skladu z novim osnutkom uredbe. V okviru pregleda uredbe se lahko upoštevajo nadaljnji ukrepi za razširitev sistema peskovnikov.

Predlagana uredba o umetni inteligenci tako združuje večjo varnost in varstvo temeljnih pravic, hkrati pa podpira inovacije, kar omogoča zaupanje, ne da bi preprečevalo inovacije.

5.Oblikovanje vodilnega položaja EU na svetovni ravni: revidiran usklajeni načrt za umetno inteligenco

Umetna inteligenca je nabor tehnologij strateškega pomena in Evropska unija mora delovati enotno, da izkoristi prednosti umetne inteligence. Za uspeh je bistveno usklajevanje politike umetne inteligence in naložb na evropski ravni. To bo omogočilo razvoj in sprejetje najnovejših tehnologij prek globalne konkurenčnosti in vodilnega položaja Evrope. Tako usklajevanje bo Evropi omogočilo, da izkoristi prednosti umetne inteligence za gospodarstvo, družbo in okolje ter pomaga spodbujati evropske vrednote po vsem svetu.

Zato so se Evropska komisija in države članice leta 2018 zavezale k sodelovanju in kot prvi korak sprejele usklajen načrt za umetno inteligenco. Usklajeni načrt je postavil temelje za usklajevanje politik na področju umetne inteligence in države članice spodbudil k razvoju nacionalnih strategij. Vendar pa se je od sprejetja usklajenega načrta konec leta 2018 tehnološki, gospodarski in politični okvir za umetno inteligenco znatno razvil. V skladu s tem in da bi še naprej ostal odziven in ustrezal svojemu namenu, Komisija predstavlja pregled usklajenega načrta za leto 2021 30 .

Pregled usklajenega načrta za leto 2021 je priložnost za ustvarjanje dodatne evropske dodane vrednosti in krepitev globalne vloge EU na področju umetne inteligence. Predlaga štiri ključne nabore predlogov o tem, kako lahko Evropska komisija skupaj z državami članicami in zasebnimi akterji pospeši, ukrepa in se uskladi, da bi izkoristila priložnosti, ki jih ponujajo umetnointeligenčne tehnologije, ter olajšala evropski pristop k umetni inteligenci. Ti štirje ključni nabori predlogov so opisani spodaj.

Prvič, določiti omogočitvene pogoje za razvoj in uvedbo umetne inteligence v EU z osredotočanjem na okvir sodelovanja ter podatkovno in računalniško infrastrukturo. Omogočitvene pogoje je treba oblikovati na način, ki je prijazen do MSP, da se malim podjetjem omogoči izvajanje njihove vloge pri razvoju in uvajanju umetne inteligence na ravni EU. Države članice se v sodelovanju z EU spodbuja, da pospešijo ukrepe, predlagane v nacionalnih strategijah za umetno inteligenco, ter po potrebi uporabijo mehanizem za okrevanje in odpornost in Kohezijski sklad. To vključuje naložbe v omogočitveno infrastrukturo, kot so podatkovni prostori in računalniški viri.

Drugič, poskrbeti, da bo EUprostor, kjer se odličnost goji od laboratorija do trga. Zato se bo Komisija osredotočila na financiranje mrež centrov odličnosti za umetno inteligenco in vzpostavila evropsko partnerstvo za umetno inteligenco, podatke in robotiko v okviru programa Obzorje Evropa, da bi olajšala odličnost na področju raziskav. Za zagotovitev, da sta testiranje in eksperimentiranje na voljo za inovacije in hitro uporabo, bodo države članice v sodelovanju s Komisijo sofinancirale inovativne centre za testiranje in eksperimentiranje na področju umetne inteligence v okviru programa Digitalna Evropa ter mrežo evropskih vozlišč digitalnih inovacij, ki bodo MSP in javnim upravam pomagala pri uvajanju umetne inteligence.

Tretjič, zagotoviti, da umetna inteligenca deluje za ljudi in je sila za dobro v družbi. Komisija bo še naprej sprejemala ukrepe za zagotovitev, da je umetna inteligenca, ki je razvita in dana na trg v EU, humanocentrična, trajnostna, varna, vključujoča, dostopna in zaupanja vredna. Za dosego teh ciljev je ključni regulativni okvir za zagotavljanje zaupanja v umetnointeligenčne sisteme, hkrati pa spodbujanje pristopa EU k umetni inteligenci, ki temelji na vrednotah, na svetovni ravni. Države članice se tudi močno spodbuja, naj negujejo nadarjene in izboljšajo ponudbo veščin, potrebnih za razvoj zaupanja vredne umetne inteligence.

Četrtič, napredek pri doseganju strateškega vodstva v sektorjih velikega vpliva 31 , kot so podnebne spremembe in okolje, zdravje, javni sektor, robotika, mobilnost, varnost in notranje zadeve ter kmetijstvo.

Skupni ukrepi, usklajevanje in naložbe, ki temeljijo na gospodarskih in regulativnih pooblastilih EU, imajo ogromen potencial, da evropski industriji zagotovijo konkurenčno prednost in spodbudijo notranji trg. Poleg tega lahko ukrepanje EU olajša sprejetje standardov EU za zaupanja vredno umetno inteligenco na svetovni ravni ter zagotovi, da so razvoj, prevzem in razširjanje umetne inteligence trajnostni in temeljijo na vrednotah, načelih in pravicah, zaščitenih v EU v korist vseh posameznikov in našega okolja.

6.Usmerjenost k novim priložnostim

Pospešen razvoj in uvajanje napredne in zaupanja vredne umetne inteligence v Evropi je predpogoj za prihodnjo konkurenčnost in blaginjo Evrope. Danes predstavljeni sveženj je mejnik na poti k doseganju teh ambicij za izkoriščanje priložnosti, ki jih ponuja umetna inteligenca, hkrati pa obravnava povezana tveganja. Za uresničitev ambicij bodo potrebni hitri in odločni ukrepi Evropske unije, Evropskega parlamenta in držav članic.

(1)

Glej tudi splošno pripombo KOP z dne 25. februarja 2021.

(2)

Sporočilo Evropske Komisije o strategiji za umetno inteligenco v Evropi COM(2018) 237.

(3)

  Bela knjiga o umetni inteligenci Evropske komisije, februar 2020, COM(2020) 65.

(4)

  Digitalni kompas do leta 2030: evropska pot v digitalno desetletje , (COM(2021) 118) .

(5)

  COM(2020) 767 .

(6)

COM(2021) 202.

(7)

  Strategija EU za kibernetsko varnost , objavljena 16. decembra 2020, JOIN(2020) 18.

(8)

Akcijski načrt za digitalno izobraževanje 2021–2027, COM(2020) 624.

(9)

Sporočilo za medije o novih pravilih za digitalne platforme , objavljeno 15. decembra 2020, IP/20/2347.

(10)

COM(2020) 790.

(11)

 Evropska komisija je v letni strategiji za trajnostno rast za leto 2021 določila strateške smernice za izvajanje mehanizma za okrevanje in odpornost (COM(2020) 575).

(12)

Strategija o pravicah invalidov, COM(2021) 101.

(13)

Glej tudi strategijo EU za enakost spolov, COM(2020)152 (marec 2020), akcijski načrt EU za boj proti rasizmu, COM(2020) 565 (september 2020), strategija EU za enakost LGBTIQ oseb, COM(2020) 698 (november 2020) in strategijo o pravicah invalidov, COM(2021) 101 (marec 2021).

(14)

COM(2021) 206; Področje uporabe regulativnega okvira ne bo vključevalo razvoja in uporabe umetne inteligence v vojaške namene.

(15)

Pobude, kot so načela OECD o umetni inteligenci, ki so jih maja 2019 sprejele države članice OECD v Priporočilu Sveta OECD o umetni inteligenci (OECD/LEGAL/0449); dialog Savdskega predsedstva G20 o umetni inteligenci (v nadaljnjem besedilu: dialog) v okviru projektne skupine za digitalno gospodarstvo kot del prizadevanj za spodbujanje načel G20 o umetni inteligenci, 2019; Unescov osnutek priporočila o etiki umetne inteligence; ali svetovni vrh platforme ITU o umetni inteligenci za dobro, vodilne akcijsko usmerjene, globalne in vključujoče platforme Združenih narodov za umetno inteligenco. Mednarodne organizacije za standardizacijo, kot sta ISO in IEEE, se ukvarjajo tudi z dejavnostmi standardizacije umetne inteligence (npr. ISO/IEC JTC 1/SC 42 in IEEE Global Initiative on Ethics of

Autonomous and Intelligent Systems (svetovna pobuda organizacije IEEE o etiki avtonomnih in inteligentnih sistemov))

(16)

Ta pristop več deležnikov bo vključeval tudi organizacije civilne družbe.

(17)

  Skupno sporočilo Evropskemu parlamentu in Svetu o krepitvi prispevka EU k multilateralizmu, ki temelji na pravilih, februar 2021 , JOIN(2021) 3 .

(18)

Etične smernice za zaupanja vredno umetno inteligenco, dokument, ki predlaga humanocentričen pristop k umetni inteligenci in navaja ključne zahteve, ki jih morajo izpolnjevati umetnointeligenčni sistemi, da se lahko štejejo za zaupanja vredne.

(19)

Zavezništvo za umetno inteligenco je forum z več deležniki, ki je začel delovati junija 2018, Zavezništvo za umetno inteligenco,  https://ec.europa.eu/digital-single-market/en/european-ai-alliance .

(20)

  Usklajeni načrt o umetni inteligenci Evropske komisije, december 2018, COM(2018) 795.

(21)

  Poročilo o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika Evropske komisije z dne 19. februarja 2020, COM(2020) 64.

(22)

  Javno posvetovanje o beli knjigi o umetni inteligenci Evropske komisije, februar–junij 2020.

(23)

Na primer Direktiva 2000/43/ES proti diskriminaciji na podlagi rase in narodnosti ali Direktiva 2000/78/ES proti diskriminaciji pri delu na podlagi vere ali prepričanja, invalidnosti, starosti ali spolne usmerjenosti.

(24)

Na primer Direktiva o splošni varnosti proizvodov, 2001/95/ES, Direktiva o strojih, 2006/42/ES in sektorska zakonodaja, kot je Uredba o medicinskih pripomočkih, 2017/745/EU ali okvir EU o homologaciji in nadzoru trga motornih vozil.

(25)

Na primer Direktiva 2005/29/ES o nepoštenih poslovnih praksah.

(26)

Uredba (EU) 2016/679.

(27)

Direktiva (EU) 2016/680.

(28)

 Evropski parlament je predlagal tudi razlikovanje med aplikacijami velikega tveganja in drugimi aplikacijami umetne inteligence ter med aplikacijami z velikim tveganjem, vključno na primer z zaposlovanjem ljudi ali ocenjevanjem njihove kreditne sposobnosti.

(29)

Za druge namene velja prepoved in izjeme iz čl. 9 splošne uredbe o varstvu podatkov, 2016/679/EU.

(30)

     Komisija se je v beli knjigi o umetni inteligenci iz leta 2020 in usklajenem načrtu za umetno inteligenco iz leta 2018 zavezala, da bo državam članicam predlagala revizijo usklajenega načrta.

(31)

     To je poleg horizontalnih področij ukrepanja, ki temeljijo na področjih ukrepanja, predlaganih v usklajenem načrtu za leto 2018. 

EVROPSKA KOMISIJA

Bruselj, 21.4.2021

COM(2021) 205 final

PRILOGE

k

Sporočilu Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij

Spodbujanje evropskega pristopa k umetni inteligenci

Vsebina

Pregled usklajenega načrta za umetno inteligenco za leto 2021

Uvod: oblikovanje vodilnega položaja EU v svetu na področju humanocentrične umetne inteligence z državami članicami

I.določitev omogočitvenih pogojev za razvoj in uvajanje umetne inteligence v EU:

1.Pridobitev, združevanje in izmenjava vpogledov v politiko

2.Izkoriščanje potenciala podatkov

3.Spodbujanje kritičnih računalniških zmogljivosti

II.Razvoj EU v kraj, kjer se odličnost goji od laboratorija do trga

4.Sodelovanje z deležniki, na primer prek evropskega partnerstva za umetno inteligenco, podatke in robotiko ter strokovnih skupin

5.Krepitev in mobilizacija raziskovalnih zmogljivosti

6.Zagotovitev orodij prek platforme za umetno inteligenco na zahtevo in okolja, v katerem bodo lahko razvijalci testirali umetno inteligenco in eksperimentirali z njo (centri za testiranje in eksperimentiranje) ter v katerem bodo lahko MSP in javne uprave uvedle umetno inteligenco (evropska vozlišča digitalnih inovacij)

7.Financiranje in razširjanje inovativnih idej in rešitev za umetno inteligenco

III.Zagotovitev, da umetna inteligenca deluje za ljudi in je sila za dobro v družbi

8.Spodbujanje talentov in izboljšanje ponudbe spretnosti, potrebnih za omogočanje uspešnega umetnointeligenčnega ekosistema

9.Oblikovanje okvira politike za zagotovitev zaupanja v umetnointeligenčne sisteme

10.Spodbujanje evropske vizije trajnostne in zaupanja vredne umetne inteligence v svetu

IV.Doseganje strateškega vodstva v sektorjih z velikim učinkom

11.Uporaba umetne inteligence za podnebje in okolje

12.Uporaba naslednje generacije umetne inteligence za izboljšanje zdravja

13.Ohranjanje vodilnega položaja Evrope: strategija za robotiko v svetu umetne inteligence

14.Zagotovitev pionirske vloge javnega sektorja pri uporabi umetne inteligence

15.Uporaba umetne inteligence na področju preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ter migracij in azila

16.Povečanje varnosti mobilnosti in zmanjšanje onesnaževanja zaradi mobilnosti z umetno inteligenco

17.Podpiranje umetne inteligence za trajnostno kmetijstvo

Sklepi:

Dodatek 1 – Časovnica – ključni ukrepi

Dodatek 2 – Analiza nacionalnih strategij and investments in AI

1.Pregled nacionalnih strategij

2.Napovedi – prihodnji nacionalni ukrepi

3.Naložbe držav članic v umetno inteligenco

Pregled usklajenega načrta za umetno inteligenco za leto 2021 1

Uvod: oblikovanje vodilnega položaja EU v svetu na področju humanocentrične umetne inteligence z državami članicami

2 Vodilni položaj Evrope v svetu pri sprejemanju najnovejših tehnologij, izkoriščanju prednosti ter spodbujanju razvoja humanocentrične, trajnostne, varne, vključujoče in zaupanja vredne umetne inteligence (UI) je odvisen od zmožnosti Evropske unije (EU), da pospeši, ukrepa in uskladi prednostne naloge politike in naložbe na področju umetne inteligence. To je ključno sporočilo in vizija tega pregleda usklajenega načrta za leto 2021.

Usklajeni načrt za umetno inteligenco iz leta 2018 predstavlja skupno zavezo Evropske komisije in držav članic, da si bodo skupaj prizadevale za povečanje možnosti Evrope za konkurenčnost na svetovni ravni 3 . Postavil je temelje za sodelovanje, opredelil področja za naložbe in spodbudil države članice k razvoju nacionalnih strateških vizij za umetno inteligenco. Procesi in javne razprave v državah članicah, EU in po vsem svetu, ki so se začeli zaradi usklajenega načrta iz leta 2018, kažejo, da je bila opredelitev skupne smeri in ciljev za evropsko politiko na področju umetne inteligence bistven prvi korak. Zaradi ukrepov, ki jih je spodbudil usklajeni načrt iz leta 2018 in so bili dogovorjeni na njegovi podlagi, je večina držav članic sprejela nacionalne strategije za umetno inteligenco in jih začela izvajati; naložbe v umetno inteligenco so se povečale, EU pa je lahko mobilizirala kritično zbirko virov za podporo tem procesom 4 .

Pregled usklajenega načrta za leto 2021 je naslednji korak – v njem je predstavljen konkreten sklop skupnih ukrepov Evropske komisije in držav članic o tem, kako naj EU prevzame vodilni položaj v svetu na področju zaupanja vredne umetne inteligence. V predlaganih ključnih ukrepih je izražena vizija, da morajo za uspeh Evropska komisija in države članice ter zasebni akterji skupaj:

-pospešiti naložbe v tehnologije umetne inteligence za spodbujanje odpornega gospodarskega in družbenega okrevanja, ki ga bo olajšala uvedba novih digitalnih rešitev;

-ukrepati v zvezi s strategijami in programi na področju umetne inteligence, tako da jih v celoti in pravočasno izvajajo, da bi zagotovili, da bo EU izkoristila vse prednosti pionirskega uvajanja, ter

-uskladiti politike na področju umetne inteligence, da se odpravi razdrobljenost in obravnavajo svetovni izzivi.

Pospešitev zasebnih in javnih naložb s povečanjem razpoložljivih finančnih sredstev EU, na primer prek programa za digitalno Evropo, programa Obzorje Evropa in mehanizma za okrevanje in odpornost (RRF) 5 . Komisija je predlagala, naj Unija v programskem obdobju 2021–2027 v umetno inteligenco vloži vsaj 1 milijardo EUR letno iz programa Obzorje Evropa in programa za digitalno Evropo. To financiranje na ravni EU bi moralo pritegniti in združevati naložbe, da bi spodbudilo sodelovanje med državami članicami ter povečalo učinek z združevanjem moči, s čimer bi se doseglo veliko več kot z neusklajenimi posamičnimi prizadevanji.

Cilj je v tem desetletju postopoma povečati javne in zasebne naložbe v umetno inteligenco na skupno 20 milijard EUR na leto. Poleg tega RRF ponuja edinstveno priložnost za posodobitev umetne inteligence in vlaganje vanjo, da bi se zagotovil vodilni položaj v svetu na področju razvoja ter uvajanja humanocentričnih, zaupanja vrednih, varnih in trajnostnih tehnologij umetne inteligence 6 . EU ne sme zamuditi te priložnosti. V tem usklajenem načrtu je navedeno, kako je mogoče s financiranjem EU, vključno s sredstvi programa za digitalno Evropo, programa Obzorje Evropa in mehanizma RRF, podpirati skupne ukrepe med državami članicami.

Ukrepanje v zvezi s strategijami in programi na področju umetne inteligence s pravočasnimi in konkretnimi ukrepi, podprtimi s financiranjem: od namere do dejanj. Usklajeni načrt iz leta 2018 je pokazal, da lahko usklajevanje in skupna prizadevanja držav članic in Evropske komisije, pri katerih sodeluje industrija in s katerimi se širša javnost vključuje v razvoj in uvajanje tehnologij umetne inteligence, prinesejo znatno dodano vrednost gospodarstvu, okolju in družbam EU. To pomeni, da strategije, pobude in programi prinašajo največjo vrednost, če so ideje za sodelovanje dobro oblikovane, usmerjene in financirane. Primer tega so izkušnje EU z vozlišči digitalnih inovacij. Tehnologija in javne politike na področju umetne inteligence so dozorele in so pripravljene za široko sprejetje 7 . Na splošno se je število podjetij, ki uporabljajo tehnologije umetne inteligence, v zadnjem letu potrojilo 8 . Razvoj na povezanih področjih, na primer na področju robotike in „interneta stvari“, postavlja nove tehnološke meje in ustvarja možnosti za umetnointeligenčne sisteme. Stroški neukrepanja bi lahko bili visoki 9 . Zato pregled za leto 2021 za prehod od namere k dejanjem predlaga sklop posebnih ukrepov z jasno določenim časovnim okvirom ter možnimi mehanizmi sodelovanja in financiranja.

Usklajevanje politik na področju umetne inteligence, da se obravnavajo svetovni izzivi in odpravi razdrobljenost: razdrobljenost med različnimi ukrepi EU, pa tudi razdrobljenost med nacionalnimi ukrepi in ukrepi EU, bi lahko upočasnila napredek pri uvajanju umetne inteligence in ovirala doseganje koristi. Zato in za boljšo uskladitev skupnih ukrepov na področju umetne inteligence z belo knjigo o umetni inteligenci 10 iz leta 2020, evropskim zelenim dogovorom in ukrepi EU v odziv na pandemijo COVID-19 so s pregledom okrepljeni predlagani ukrepi na področju okolja in zdravja. Nacionalne strategije so med drugim poudarile pomen nadgrajevanja in spodbujanja humanocentričnega, zaupanja vrednega, varnega, trajnostnega in vključujočega pristopa k umetni inteligenci. Poudarile so tudi potrebo po oblikovanju sektorskih skupnih ukrepov 11 . V skladu s tem se v pregledu za leto 2021 upoštevajo spreminjajoča se tehnološka in politična okolja, poleg tega so vanj vključena spoznanja iz dveh let izvajanja usklajenega načrta in strategij, ki so jih sprejele države članice. Ta uskladitev se kaže v predlagani novi strukturi usklajenega načrta 12 .

Za pospešitev, ukrepanje in uskladitev za izkoriščanje priložnosti, ki jih ponujajo tehnologije umetne inteligence, ter za olajšanje evropskega pristopa k humanocentrični, zaupanja vredni, varni, trajnostni in vključujoči umetni inteligenci ob popolnem spoštovanju naših temeljnih evropskih vrednot so v tem pregledu usklajenega načrta predlagani štirje ključni sklopi predlogov za Evropsko unijo in države članice:

določitev omogočitvenih pogojev za razvoj in uvajanje umetne inteligence v EU:

-pridobitev, združevanje in izmenjava vpogledov v politiko (poglavje 1);

-izkoriščanje potenciala podatkov (poglavje 2);

-spodbujanje kritičnih računalniških zmogljivosti (poglavje 3);

razvoj EU v kraj, kjer se odličnost goji od laboratorija do trga:

-sodelovanje z deležniki, na primer prek evropskega partnerstva za umetno inteligenco, podatke in robotiko ter strokovnih skupin (poglavje 4);

-krepitev in mobilizacija raziskovalnih zmogljivosti (poglavje 5);

-zagotovitev okolja, v katerem bodo lahko razvijalci testirali umetno inteligenco in eksperimentirali z njo (centri za testiranje in eksperimentiranje – TEF) ter v katerem bodo lahko MSP in javne uprave uvedle umetno inteligenco (evropska vozlišča digitalnih inovacij – EDIH) (poglavje 6);

-podpiranje financiranja in razširjanja inovativnih idej in rešitev na področju umetne inteligence (poglavje 7);

zagotovitev, da umetna inteligenca deluje za ljudi in je sila za dobro v družbi:

-spodbujanje talentov in izboljšanje ponudbe spretnosti, potrebnih za omogočanje uspešnega umetnointeligenčnega ekosistema (poglavje 8);

-oblikovanje okvira politike za zagotovitev zaupanja v umetnointeligenčne sisteme (poglavje 9);

-spodbujanje evropske vizije trajnostne in zaupanja vredne umetne inteligence v svetu (poglavje 7);

doseganje strateškega vodstva v sektorjih z velikim učinkom:

-uporaba umetne inteligence za podnebje in okolje (poglavje 11);

-uporaba naslednje generacije umetne inteligence za izboljšanje zdravja (poglavje 12);

-ohranjanje vodilnega položaja Evrope: strategija za robotiko v svetu umetne inteligence (poglavje 13);

-zagotovitev pionirske vloge javnega sektorja pri uporabi umetne inteligence (poglavje 14);

-uporaba umetne inteligence na področju preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ter migracij in azila (poglavje 15);

-povečanje varnosti mobilnosti in zmanjšanje onesnaževanja zaradi mobilnosti z umetno inteligenco (poglavje 16);

-podpiranje umetne inteligence za trajnostno kmetijstvo (poglavje 17).

13 V skladu z zgoraj navedenim pregled usklajenega načrta za leto 2021 vsebuje pregled ukrepov, sprejetih od sprejetja usklajenega načrta iz leta 2018, in napovedi s konkretnimi predlogi in priporočili za nadaljnje ukrepe ter opredeljuje področja, na katerih je partnerstvo med EU in državami članicami posebej učinkovito pri uresničevanju cilja, da Evropa postane vozlišče za razvoj in uporabo vrhunske humanocentrične umetne inteligence. Cilj pregleda za leto 2021 je spodbuditi doseganje zgoraj navedenih ciljev, v njem pa je predlaganih 14 medsebojno povezanih področij skupnega ukrepanja za sodelovanje med Evropsko komisijo in državami članicami (sedem horizontalnih in sedem sektorskih področij). Tako kot bela knjiga EU iz leta 2020 in usklajeni načrt iz leta 2018 pregled usklajenega načrta za leto 2021 ne obravnava razvoja in uporabe umetne inteligence za vojaške namene.

I.določitev omogočitvenih pogojev za razvoj in uvajanje umetne inteligence v EU:

Za podpiranje razvoja in uvajanja umetne inteligence (UI) ter doseganje ciljev tega usklajenega načrta je potrebnih več omogočitvenih pogojev. Prvi pogoj je ustrezen okvir upravljanja in usklajevanja. Učinkovit in delujoč okvir upravljanja in usklajevanja lahko pomaga ustvariti ekonomijo obsega, znižati stroške obveščanja in transakcij ter olajšati sinergije med državami članicami. Drugi omogočitveni pogoj so podatki. Za razvoj tehnologij umetne inteligence so pogosto potrebni obsežni, kakovostni, varni in robustni nabori podatkov. Zato je treba omogočiti pretok podatkov znotraj EU, z našimi trgovinskimi partnerji in med sektorji v skladu s pravnim redom EU, vključno s splošno uredbo o varstvu podatkov za osebne podatke in mednarodnimi zavezami Unije. Tretji pogoj je računalniška infrastruktura. Ta infrastruktura je potrebna za shranjevanje, analizo in obdelavo vse večjih količin podatkov. To pa zahteva nov razvoj in pristope za povečanje računalniških zmogljivosti, na primer s polprevodniki, ki algoritmom umetne inteligence omogočajo shranjevanje, obdelavo in testiranje podatkov. Ti trije dejavniki skupaj ustvarjajo široke omogočitvene pogoje za uspeh tehnologij umetne inteligence v EU.

V skladu s tem se v pregledu zaradi določitve omogočitvenih pogojev za razvoj in uvajanje umetne inteligence ter okrepitev sodelovanja med državami članicami in med državami članicami in Evropsko komisijo predlaga osredotočenost na naslednje tri ključne ukrepe: vzpostavitev okvira upravljanja za učinkovito pridobivanje, zbiranje in izmenjavo vpogledov v politiko na področju umetne inteligence; izkoriščanje potenciala podatkov, da bi se sprostil njihov celotni potencial; spodbujanje kritične računalniške infrastrukture za podporo krepitvi zmogljivosti in izboljšanju razvoja umetne inteligence.

1.Pridobitev, združevanje in izmenjava vpogledov v politiko

Znanje je ključno. Izmenjava znanja in vpogledov v politiko ter usklajevanje ukrepov politike in naložb na hitro razvijajočem se področju, kot je umetna inteligenca, lahko prineseta pomembno dodatno konkurenčno prednost. Zato so se države članice in Komisija v usklajenem načrtu iz leta 2018 dogovorile o mehanizmu upravljanja za skupno delo ter predlagale dva sklopa ukrepov za zagotovitev vpogledov v politiko in razvoj sinergij. Države članice so bile pozvane, naj vzpostavijo nacionalne strategije ali programe na področju umetne inteligence (ali dodajo razsežnost umetne inteligence drugim ustreznim nacionalnim strategijam in programom) ter si jih izmenjajo in jih delijo s Komisijo 14 ; Komisija pa se je zavezala, da bo spremljala razvoj in mobilizirala strokovno znanje.

1.1 Povečanje prednosti nacionalnih strategij in pospešitev izvajanja predlaganih ukrepov

Pregled sprejetih ukrepov

Vse države članice so vložile veliko truda v oblikovanje nacionalnih strategij za umetno inteligenco ali vključitev razsežnosti umetne inteligence v svoje obstoječe strategije in programe 15 . Sprejetje nacionalnih strategij je olajšalo strukturiran razmislek o prednostnih nalogah in ciljih za razvoj in uvajanje umetne inteligence ter sprožilo širšo javno razpravo v številnih državah članicah. Izmenjava informacij o nacionalnih strategijah je prispevala tudi k strukturiranemu dialogu med državami članicami in Komisijo.

Kot kaže analiza nacionalnih strategij, je bilo sprejetje nacionalnih strategij pomemben prvi korak za olajšanje in racionalizacijo evropskih prizadevanj na področju umetne inteligence. Ta postopek je pomagal določiti prednostne sektorje za skupne ukrepe, zagotovil zanesljiv pregled glavnih prednostnih naložb, ki jih načrtujejo države članice, ter pokazal možne korake naprej za skupne večdržavne projekte in skupne dejavnosti.

Napovedi

Naslednji korak je zagotovitev, da bodo prizadevanja držav članic pri oblikovanju nacionalnih strategij prinesla konkretne rezultate in sinergije na ravni EU. Za podporo državam članicam pri njihovem delu za razvoj in izvajanje nacionalnih strategij za umetno inteligenco bo Komisija še naprej:

-lajšala sprejemanje nacionalnih ukrepov, opredeljenih v nacionalnih strategijah za umetno inteligenco, ter sinergije med njimi in skupnimi ukrepi v okviru usklajenega načrta. To lahko vključuje ukrepe za krepitev mehanizmov usklajevanja in zagotavljanje analiz in študij, na primer prek službe AI Watch 16 ;

-izboljševala zagotavljanje informacij državam članicam o praktičnih sredstvih, vključno s financiranjem, za podporo razvoju in uvajanju umetne inteligence. Komisija bo leta 2021 na primer še naprej obveščala države članice o financiranju EU, ki je na voljo za umetno inteligenco.

Državam članicam se močno priporoča, naj:

-kar najbolje izkoristijo ustrezne možnosti financiranja EU, vključno z RRF, za podpiranje in krepitev razvoja in uvajanja tehnologij umetne inteligence na nacionalni in lokalni ravni na podlagi nacionalnih strategij, vključno s spodbujanjem zasebnih naložb;

-po potrebi pregledajo in posodobijo nacionalne strategije za umetno inteligenco, da bi zagotovile popolno uresničitev opredeljenih ukrepov in naložb v praksi, ter Komisijo ustrezno obveščajo o napredku 17 ;

-razvijejo in spodbujajo instrumente, ki omogočajo redno spremljanje, usklajevanje, vrednotenje in izmenjavo izkušenj ter najboljših praks med najrazličnejšimi deležniki;

-okrepijo podporo za skupne ukrepe, opredeljene v usklajenem načrtu, in naložbe vanje ter

-si izmenjujejo, oblikujejo in izvajajo ukrepe na nacionalni/regionalni ravni, ki so se v drugih državah članicah izkazali za uspešne, na primer uspešne nacionalne pobude za razvoj in spodbujanje virtualnega podatkovnega skladišča.

1.2.Izkoriščanje vseh ugodnosti tehničnega strokovnega znanja strokovnih skupin za umetno inteligenco, ki ga podpira Evropska komisija

Tehnološki in družbeno-gospodarski razvoj v zvezi z umetno inteligenco je zelo dinamičen in pogosto zahteva specializirano strokovno znanje. V skladu s tem je Komisija za spremljanje napredka in uvajanja tehnologij umetne inteligence ter olajšanje na dokazih temelječe politike na področju umetne inteligence vložila veliko truda v mobilizacijo strokovnega znanja, zbiranje podatkov, spremljanje razvoja ter zbiranje in analizo mnenj deležnikov v zvezi z umetno inteligenco.

Pregled sprejetih ukrepov

Da bi Komisija mobilizirala strokovno znanje 18 v zvezi s tehnologijami umetne inteligence, je ustanovila tri horizontalne strokovne skupine 19 :

-strokovno skupino na visoki ravni za umetno inteligenco 20 – ta skupina je obsežno analizirala etične posledice umetne inteligence za oblikovanje politik in v svojem mandatu pripravila tri rezultate:

-etične smernice za zaupanja vredno umetno inteligenco 21 ;

-politična in naložbena priporočila za zaupanja vredno umetno inteligenco 22 ter

-ocenjevalni seznam za zaupanja vredno umetno inteligenco (ALTAI) 23 ;

-strokovno skupino na visoki ravni o vplivu digitalne preobrazbe na trge dela EU – ta skupina je leta 2019 izdala poročilo s priporočili, vključno s kratko-, srednje- in dolgoročnimi ukrepi politike za EU, države članice, podjetja in druge deležnike za oblikovanje digitalne preobrazbe sveta dela ter zagotovitev, da je nemotena, vključujoča in humanocentrična 24 ;

-strokovno skupino za odgovornost in nove tehnologije – ta skupina je leta 2019 objavila poročilo o odgovornosti za umetno inteligenco in druge nastajajoče digitalne tehnologije 25 .

Poleg horizontalnih skupin so se sektorske strokovne skupine osredotočile na posebna področja politike, na katera vpliva uporaba tehnologij umetne inteligence, vključno z avtonomnimi vozili 26 , letalstvom 27 , mobilnostjo in prometom 28 , notranjimi zadevami 29 in nastajajočimi varnostnimi tveganji 30 . To delo je zagotovilo dragoceno strokovno znanje in prispevalo k tekočim razpravam na ravni EU o politikah v zvezi z vprašanji umetne inteligence, vključno z izzivi in priložnostmi, ki jih prinašajo tehnologije umetne inteligence, ter potrebnimi odzivi javne politike.

Leta 2018 je Komisija (v sodelovanju z državami članicami) razvila in vzpostavila službo AI Watch 31 , da bi spremljala razvoj v zvezi s tehnologijami umetne inteligence. Služba AI Watch spremlja industrijske, tehnološke in raziskovalne zmogljivosti, pobude politike na področju umetne inteligence v državah članicah, naložbe, spretnosti na področju umetne inteligence, razvoj in uvajanje umetne inteligence ter njihov vpliv na gospodarstvo, družbo in javne storitve. V prvih dveh letih je objavila študije, ki naj bi podprle oblikovanje politik na podlagi dokazov 32 in se upoštevale v javni razpravi o umetni inteligenci 33 .

Komisija je za spremljanje sprejetja in uporabe nastajajočih in prelomnih tehnologij po vsej Evropi za zagotavljanje javnih storitev, vključno s tehnologijami umetne inteligence, leta 2018 vzpostavila tudi platformo za inovativne javne storitve (IPSO) 34 . Podobno je leta 2020 za spremljanje uvajanja nastajajočih digitalnih in ključnih omogočitvenih tehnologij (vključno z umetno inteligenco) v industrijskem razvoju začela izvajati projekt za napredne tehnologije za industrijo (ATI) 35 . Naročila je tudi raziskavo o uporabi tehnologij, ki temeljijo na umetni inteligenci, v podjetjih EU 36 .

Leta 2020 je Eurostat začel zbirati podatke o uvajanju umetne inteligence v EU. Prvi nabor podatkov je bil zbran s pomočjo štirih približnih kazalnikov, povezanih z umetno inteligenco, pri čemer je bil poudarek na klepetalnih botih, analizi velepodatkov s strojnim učenjem, analizi velepodatkov z obdelavo naravnega jezika in strežnih robotih 37 .

Glavna pobuda za zbiranje mnenj deležnikov o strategiji EU za umetno inteligenco je bilo odprto javno posvetovanje, ki je sledilo objavi bele knjige o umetni inteligenci iz leta 2020 in v okviru katerega so bila zbrana mnenja na treh širokih področjih: ukrepi za vzpostavitev ekosistema odličnosti; možnosti za regulativni okvir za umetno inteligenco ter ukrepi glede vidikov umetne inteligence, povezanih z varnostjo in odgovornostjo 38 . Poleg odgovorov na javno posvetovanje so države članice zagotovile povratne informacije o možnih spremembah usklajenega načrta in skupnih ukrepov, in sicer v okviru razprav v skupini za umetno inteligenco in digitalizacijo evropske industrije 39 ter dvostranskih posvetovanj s Komisijo.

Za širše sodelovanje z deležniki na področju tem, povezanih z umetno inteligenco, je Komisija ustanovila spletni forum zavezništvo za umetno inteligenco 40 , ki ponuja platformo za približno 4 000 deležnikov z vsega sveta za izmenjavo informacij ter razpravo o tehnoloških in družbenih posledicah umetne inteligence 41 . Junija 2019 in oktobra 2020 je organizirala skupščini zavezništva za umetno inteligenco 42 .

Napovedi

Komisija bo za mobilizacijo strokovnega znanja, spremljanje tekočega razvoja in zbiranje podatkov o umetni inteligenci še naprej:

-izboljševala zbiranje podatkov o uvajanju umetne inteligence – Eurostat bo leta 2021 uvedel celovit modul o umetni inteligenci, ki bo zajemal uvajanje sedmih tehnologij umetne inteligence, uporabe tehnologij umetne inteligence, pridobivanje in ovire za uporabo 43 . Služba AI Watch bo še naprej spremljala uvajanje tehnologij umetne inteligence, tudi v javnem sektorju, in zbirala podatke o njem;

-podpirala delo zavezništva za umetno inteligenco z upravljanjem platforme zavezništva in organizacijo letnih skupščin za umetno inteligenco z najrazličnejšimi deležniki, da se zagotovi okvir za prispevek k oblikovanju politike EU na področju umetne inteligence, ter

-ocenjevala razvoj in zbirala potrebno znanje o tehnologijah umetne inteligence. To lahko po potrebi vključuje na primer nove strokovne skupine ali sektorske pobude za umetno inteligenco, ki bi prispevale podlago za oblikovanje politike EU na področju umetne inteligence ali pomagale Komisiji pri ocenjevanju ukrepov, potrebnih za podporo izvajanju politike EU s strani držav članic, in predlagane zakonodaje o tehnologijah umetne inteligence.

Komisija bo v sodelovanju z državami članicami:

-analizirala in do leta 2022 predlagala, kako okrepiti spremljanje razvoja, uvajanja in vpliva tehnologij umetne inteligence v zasebnem in javnem sektorju v EU. To bo temeljilo na spoznanjih, pridobljenih pri delu službe AI Watch in pobudah nacionalnih opazovalnic za umetno inteligenco. V okviru analize bo preučeno tudi, kako še okrepiti in vzpostaviti sinergije in povezave z obstoječimi mehanizmi spremljanja 44 ali prihodnjimi strukturami upravljanja EU na področju umetne inteligence 45  ali mednarodnimi dejavnostmi spremljanja, ter

-redno spremljala izvajanje usklajenega načrta, da bi zagotovila, da ostane posodobljen. Na podlagi povratnih informacij držav članic o pregledu za leto 2021 ter po posvetovanju z drugimi institucijami in organi EU bo Komisija leta 2022 predlagala časovni okvir, matriko in metodologijo za naslednji pregled usklajenega načrta.

1.3.Okrepitev izmenjav in sodelovanja prek skupine držav članic za umetno inteligenco in digitalizacijo evropske industrije

Ukrepi za lažje sodelovanje med državami članicami ter med državami članicami in Komisijo so dodatno podprti z mehanizmi upravljanja, ki olajšujejo izmenjavo informacij in pomagajo določiti strateško smer sodelovanja v zvezi s politiko na področju umetne inteligence.

Pregled sprejetih ukrepov

Skupina držav članic za umetno inteligenco in digitalizacijo evropske industrije, ki ji je pri tehničnih zadevah pomagala skupina „šerp“, je usmerjala razprave med državami članicami in Komisijo. Imela je ključno vlogo pri razvoju in reviziji usklajenega načrta. Skupina se je redno sestajala 46 ter zagotavljala usklajevanje med nacionalnimi ministrstvi in drugimi deležniki, na primer iz industrije, akademskih krogov in civilne družbe. V letih po sprejetju usklajenega načrta iz leta 2018 je skupina obravnavala vsa glavna področja, ki jih zajema, vključno s centri odličnosti na področju umetne inteligence, centri za testiranje in eksperimentiranje (TEF), pravnim okvirom, regulativnimi peskovniki, podatki, spretnostmi, umetno inteligenco za zeleni dogovor, umetno inteligenco za zdravje, vozlišči digitalnih inovacij in umetno inteligenco na področju varnosti.

Napovedi

Da bi se olajšalo izvajanje mehanizmov upravljanja za sodelovanje: bo skupina držav članic za umetno inteligenco in digitalizacijo evropske industrije ob podpori Komisije še naprej:

-usmerjala razprave med državami članicami in Komisijo 47 – skupina se bo ukvarjala s tematskimi ali sektorskimi globinskimi analizami glede tem, kot so na primer standardizacijske dejavnosti, družbeno-gospodarski vpliv umetne inteligence, možnosti financiranja, ukrepi za podporo zagonskim podjetjem, podpora pri uvajanju in nabavi umetne inteligence v javnem sektorju, umetna inteligenca in kibernetska varnost ter umetna inteligenca in mobilna povezljivost;

Komisija bo ob podpori držav članic še naprej:

-ocenjevala potrebo po vzpostavitvi sodelovanja in mrež na ravni EU za okrepitev zmogljivosti EU ter

-v sodelovanju s prihodnjim skupaj načrtovanim partnerstvom za umetno inteligenco, podatke in robotiko izmenjevala najboljše prakse držav članic na področju razvoja, uporabe in uvajanja umetnointeligenčnih sistemov;

države članice se spodbujajo, naj:

-olajšajo sodelovanje in ustvarijo sistem regionalnih mrež za umetno inteligenco 48 ter

-olajšajo razprave o ustanavljanju nacionalnih koalicij in izmenjavo najboljših praks med državami članicami in deležniki o obstoječih nacionalnih koalicijah za umetno inteligenco 49 s povezovanjem deležnikov iz javnega in zasebnega sektorja, na primer na skupnih delavnicah o tematskih področjih skupnega interesa. Ta ukrep bo ob sodelovanju s skupaj načrtovanim partnerstvom za umetno inteligenco, podatke in robotiko pomagal pri čezmejnem sodelovanju in privabil več deležnikov.

2.Izkoriščanje potenciala podatkov 

Razpoložljivost visokokakovostnih podatkov, med drugim v zvezi z raznolikostjo in nediskriminacijo, ter možnost uporabe, združevanja in ponovne uporabe podatkov iz različnih virov na način, skladen s splošno uredbo o varstvu podatkov, sta bistvena pogoja za razvoj in uvajanje nekaterih umetnointeligenčnih sistemov 50 . Vendar pa se souporaba podatkov, zlasti med podjetji, zaradi pomanjkanja gospodarskih spodbud, zaupanja in pravne jasnosti ne izvaja v zadostnem obsegu 51 . Zato je bilo v usklajenem načrtu iz leta 2018 predlagano oblikovanje skupnih evropskih podatkovnih prostorov za nemoteno čezmejno izmenjavo podatkov. V njem je poudarjen tudi pomen razvoja vseevropske računalniške infrastrukture in storitev v oblaku, zlasti glede na mednarodno konkurenco za dostop do podatkov 52 .

Pregled sprejetih ukrepov

Komisija je 19. februarja 2020 sprejela evropsko strategijo za podatke 53 , katere cilj je ustvariti enotni trg podatkov, da se zagotovi svetovna konkurenčnost Evrope. To bo dosegla z ustvarjanjem pravih spodbud za izmenjavo podatkov ter določitvijo praktičnih, pravičnih, nediskriminatornih in jasnih pravil o dostopu do podatkov in njihovi uporabi, ki bodo skladna z evropskimi vrednotami in pravicami, kot so varstvo osebnih podatkov, varstvo potrošnikov in zakonodaja o konkurenci. To pomeni tudi, da bo povečala razpoložljivost podatkov javnega sektorja z odpiranjem naborov podatkov velike vrednosti in omogočila njihovo ponovno uporabo za inovacije.

Komisija je junija 2020 objavila poročilo o souporabi podatkov med podjetji in državnimi upravami (B2G) 54 , ki ga je pripravila strokovna skupina na visoki ravni 55 ter vsebuje sklop priporočil o politiki, pravnih vidikih in financiranju, da bi souporaba podatkov B2G v javnem interesu postala nadgradljiva, odgovorna in trajnostna praksa v EU. Evropska strategija za podatke spodbuja tudi souporabo podatkov, na primer prakse med podjetji (B2B).

Kot nadaljnji ukrep na podlagi strategije za podatke je Komisija 25. novembra 2020 predlagala novi akt o upravljanju podatkov 56 . Predlagana uredba vključuje številne ukrepe za povečanje zaupanja v souporabo podatkov, vključno s praksami B2B 57 , s čimer naj bi zagotovila, da bo za uporabe umetne inteligence na voljo več kakovostnih podatkov. Določa nova pravila EU o nevtralnosti, v skladu s katerimi bodo novoustvarjeni podatkovni posredniki delovali kot zaupanja vredni organizatorji souporabe podatkov. Vključuje ukrepe za olajšanje ponovne uporabe nekaterih podatkov, ki jih hrani javni sektor. Zagotavlja sredstva, s katerimi lahko podjetja in posamezniki svoje podatke lažje, varneje in pod jasnimi pogoji prostovoljno dajo na voljo za širše skupno dobro. Poziva k ustanovitvi Evropskega odbora za podatkovne inovacije, ki bo svetoval o medsektorski standardizaciji in interoperabilnosti ter ju podpiral kot bistven element za zagotavljanje razpoložljivosti visokokakovostnih podatkov. Akt o upravljanju podatkov se lahko po potrebi dopolni s sektorsko zakonodajo 58 .

Napovedi

Komisija bo za podporo ukrepom v zvezi s podatki:

-sprejela predlog akta o podatkih, da bi spodbudila uporabo podatkov v zasebni lasti s strani državnih uprav (B2G), obravnavala vprašanja v zvezi z dostopom do podatkov in njihovo uporabo v razmerjih med podjetji, zlasti neosebnih podatkov, ki izhajajo iz predmetov, povezanih z internetom stvari (tretje četrtletje leta 2021) 59 , ter

-predlagala izvedbeni akt o brezplačnem dajanju naborov podatkov velike vrednosti javnega sektorja v strojno berljivi obliki na voljo za ponovno uporabo (drugo četrtletje leta 2021) 60 .

Komisija bo skupaj z državami članicami:

-uvedla evropsko zavezništvo za industrijske podatke, računalništvo na robu in računalništvo v oblaku, da bi zasebne in javne akterje spodbudila k združitvi moči ter okrepitvi položaja evropske industrije na svetovnem trgu računalništva v oblaku in na robu. Glavna naloga zavezništva bo spodbujati usklajevanje javnih in zasebnih naložb v raziskave, razvoj in uvajanje zmogljivosti v oblaku naslednje generacije na lokalni in nacionalni ravni ter ravni EU. Zavezništvo bo povezano z evropskimi podatkovnimi prostori ter bo tako spodbujalo inovativna okolja za souporabo podatkov, ki bodo temeljila na odprtih, interoperabilnih, varnih in z viri gospodarnih rešitvah v oblaku in na robu. Spodbujalo bo tudi sinergije med delom v zvezi z evropsko zvezo oblakov in pobudami držav članic 61 ;

-vlagala v evropske podatkovne prostore in evropsko zvezo oblakov prek programa za digitalno Evropo, instrumentov za financiranje v okviru Instrumenta za povezovanje Evrope (IPE Digitalno) in drugih instrumentov, kot je Program EU za zdravje za evropski zdravstveni podatkovni prostor. Natančneje, s prvimi razpisi v okviru programa za digitalno Evropo in instrumenta IPE Digitalno, ki bodo objavljeni v drugem četrtletju leta 2021, bo Komisija:

-začela sektorske ukrepe, kot je napovedano v evropski strategiji za podatke 62 , za izgradnjo evropskih podatkovnih prostorov za industrijsko proizvodnjo, zeleni dogovor, mobilnost, zdravje, finance, energetiko, kmetijstvo, javno upravo in spretnosti 63 ;

-sovlagala v ukrepe, usmerjene v razvoj inovativnih in energijsko učinkovitih storitev in infrastruktur z oblaka na rob, platforme vmesne programske opreme ter medsebojno povezovanje obstoječih zmogljivosti obdelave podatkov v državah članicah;

-še naprej podpirala raziskave, razvoj in uvajanje računalniških in podatkovnih tehnologij in infrastruktur naslednje generacije v okviru sklopa 4 programa Obzorje Evropa „Digitalno področje, industrija in vesolje“, da bi omogočila oblikovanje evropskega enotnega trga za podatke z ustreznimi podatkovnimi prostori ter zaupanja vrednim in varnim umetnointeligenčnim ekosistemom. Prvi razpisi bodo objavljeni aprila 2021 ter

-spremljala vse zainteresirane države članice pri pripravi morebitnega pomembnega projekta skupnega evropskega interesa (IPCEI), osredotočenega na infrastrukturo oblaka naslednje generacije in s tem povezane storitve.

Države članice se spodbujajo, naj:

-vlagajo v krepitev položaja Evrope na področju tehnologij v oblaku in tehnologij na robu naslednje generacije ter spodbujajo uvajanje oblakov s svojimi nacionalnimi načrti za okrevanje in odpornost ter v skladu s primerom sestavnega dela za vodilni projekt mehanizma RRF „Povečati“ 64 , tudi prek večdržavnih projektov.

3.Spodbujanje kritičnih računalniških zmogljivosti

Brez računalniške infrastrukture razpoložljivost podatkov ne bo ustvarjala dodane vrednosti 65 . Zato Komisija sprejema ukrepe za podporo razvoju tehnoloških sistemov in naslednje generacije infrastruktur za obdelavo podatkov, ključnih za omogočanje uporabe podatkov za umetno inteligenco 66 .

Pregled sprejetih ukrepov

Skupno podjetje za evropsko visokozmogljivostno računalništvo (EuroHPC) v podporo razvoju zmogljivosti visokozmogljivostnega računalništva v Evropi usklajuje prizadevanja in združuje vire med 32 sodelujočimi državami za razvoj in uvajanje vrhunske superračunalniške infrastrukture, ki bo lahko in varno dostopna od koder koli v Evropi.

Glavne trende za strojno opremo umetne inteligence je mogoče povzeti na naslednji način: (1) rešitve umetne inteligence naslednje generacije bodo morale biti zmogljivejše in energijsko učinkovitejše, da bodo ustrezale potrebam vse bolj izpopolnjenih učnih modelov, in (2) računalništvo se bo vse bolj približevalo „robu“, in sicer na napravah, ki so bližje uporabnikom in lahko izvajajo aplikacije umetne inteligence v realnem času. Ti trendi zahtevajo prilagoditev infrastrukture, zato Komisija sprejema ukrepe, kot je opisano spodaj, da bi omogočila izgradnjo računalniških infrastruktur naslednje generacije.

V skladu s tem se EU osredotoča na ukrepe za podporo razvoju strojne opreme umetne inteligence. Umetnointeligenčni modeli so vse bolj zahtevni z vidika računalniške zmogljivosti, zato je hiter dostop do podatkov iz pomnilnika, tj. visokozmogljivi in učinkoviti procesorji, bistven za infrastrukture umetne inteligence 67 . Poleg tega umetnointeligenčni modeli potrebujejo veliko energije, take potrebe po energiji pa niso vzdržne, saj tehnologije umetne inteligence vse bolj prodirajo v naše vsakdanje življenje 68 . Zato je za uvajanje umetne inteligence potreben dostop do namenskih procesorjev za umetno inteligenco z majhno porabo energije, ki zagotavljajo potrebno računalniško zmogljivost in so za več redov učinkovitejši od procesorjev za splošno rabo. Na tem področju raziskav lahko na primer nove tehnologije, ki jih navdihujejo možgani, kot je nevromorfno računalništvo, zagotovijo revolucionarno energijsko učinkovitost. V zvezi s tem je Komisija v okviru programa Obzorje 2020 podpirala pionirsko delo na področju tehnologij umetne inteligence z majhno porabo energije, poleg tega podpira pobude za nadaljnji razvoj in izkoriščanje takih kompetenc v okviru programa Obzorje Evropa in z raziskovalnimi ukrepi na področju novih arhitektur za procesorje z zelo majhno porabo energije ter prek institucionaliziranega evropskega partnerstva za ključne digitalne tehnologije 69 , pri čemer je poseben poudarek na aplikacijah umetne inteligence na robu.

Vodilni projekt „Povečati“ 70  v okviru letne strategije za trajnostno rast 2021 71 je med drugim usmerjen v naložbe v vrhunsko mikroelektroniko, pri čemer je poseben poudarek na procesorjih, kot so čipi za umetno inteligenco. Decembra 2020 je 18 držav članic za utrditev položaja EU na področju zmogljivosti za načrtovanje in proizvodnjo naprednih čipov podpisalo izjavo o procesorjih in polprevodniških tehnologijah 72 . Poleg tega je bila infrastruktura za umetno inteligenco v obdobju 2019–2020 obravnavana v projektih AI4DI 73 , TEMPO 74 in ANDANTE 75 v okviru Skupnega podjetja ECSEL (Elektronske komponente in sistemi za evropski vodilni položaj) 76 . Drugo področje razvoja in financiranja, ki ga podpira Komisija, je fotonika. Kombiniranje elektronike z optičnimi elementi lahko prinese vključitev umetne inteligence v zaznavanje slik ter zmanjša porabo energije in latenco v nevronskih mrežah.

Napovedi

Komisija bo ob podpori držav članic za okrepitev evropskega sistema za načrtovanje in proizvodnjo procesorjev in polprevodnikov ter razširitev prisotnosti industrije v celotni dobavni verigi:

-ustanovila industrijsko zavezništvo za mikroelektroniko 77 za določitev strateških časovnih načrtov, raziskovalnih in naložbenih načrtov za načrtovanje, uvajanje in izdelavo procesorjev za umetno inteligenco ter obdelavo podatkov in komunikacijo ob upoštevanju celotnega ekosistema polprevodnikov in z njim povezanih komponent. To bo prispevalo k okrepitvi ekosistema načrtovanja elektronike in vzpostavitvi proizvodnih zmogljivosti v zelo naprednih vozliščih;

-olajšala pripravljalno delo v letu 2021 z vsemi zainteresiranimi državami članicami za morebitni pomemben projekt skupnega evropskega interesa (IPCEI), ki bo osredotočen na naslednjo generacijo naprednih procesorjev za umetno inteligenco, obdelavo podatkov in komunikacijo;

-namenila center za testiranje in eksperimentiranje, podprt s programom za digitalno Evropo, za umetnointeligenčne komponente in sisteme na robu, v ta namen pa bo v drugem četrtletju leta 2021 objavila razpis za vrhunsko infrastrukturo za testiranje in potrjevanje naprednih računalniških tehnologij umetne inteligence za najrazličnejše uporabe;

-vlagala v raziskave in inovacije za računalniške potrebe umetne inteligence na robu z majhno porabo energije prek institucionaliziranega evropskega partnerstva za ključne digitalne tehnologije v okviru programa Obzorje Evropa (tretje četrtletje leta 2021). To partnerstvo, ki temelji na sedanjem Skupnem podjetju ECSEL, bo povečalo možnosti Evrope za inovacije na področju elektronskih komponent in sistemov ter z njimi povezanih tehnologij programske opreme. Eden od glavnih strateških ciljev bo razviti rešitve za obdelavo z umetno inteligenco, zlasti za aplikacije na robu in vgrajene aplikacije. Evropsko partnerstvo za ključne digitalne tehnologije bo s skupnimi ukrepi zagotovilo zanesljive in varne rešitve z majhno porabo energije, ki bodo omogočile računalniški ekosistem odličnosti in zaupanja 78 .

Države članice se spodbujajo, naj:

-nadaljujejo razvoj nacionalnega integriranega obsežnega upravljanja podatkov in visokozmogljive računalniške infrastrukture za podporo raziskavam, inovacijam in razvoju spretnosti na področju umetne inteligence prek regionalnih, nacionalnih in evropskih vozlišč digitalnih inovacij;

-zagotovijo, da lahko akademske in industrijske organizacije ter organizacije javnega sektorja izkoristijo nacionalno infrastrukturo in strokovno znanje na področju visokozmogljivostnega računalništva in upravljanja podatkov za optimizacijo in nadgraditev svojih inovacij na področju umetne inteligence in aplikacij umetne inteligence, ter

-vlagajo v krepitev položaja Evrope na področju procesorjev in polprevodniških tehnologij za umetno inteligenco prek svojih nacionalnih načrtov za okrevanje in odpornost v skladu s primerom sestavnega dela za vodilno področje RRF „Povečati“ in prek večdržavnih projektov.

II.Razvoj EU v kraj, kjer se odličnost goji od laboratorija do trga

Za razvoj in uvajanje tehnologij umetne inteligence (UI) so poleg podatkovne in računalniške infrastrukture potrebni tudi ciljno usmerjeni ukrepi in zadostna sredstva, usmerjena v odličnost na področju raziskav in inovacij, razpoložljivost potrebnih talentov in spretnosti, podporni okvir politike in mednarodno usklajevanje. Ti ukrepi so „horizontalni“, tj. zadevajo vsa področja politike in pomagajo zagotoviti, da se bo Evropska unija razvila v kraj, kjer se odličnost goji od laboratorija do trga. Predlagani „horizontalni“ skupni ukrepi zajemajo celoten življenjski cikel umetne inteligence. To vključuje ukrepe za lažjo vzpostavitev ekosistema odličnosti, vključno z vrhunskimi temeljnimi raziskavami in raziskavami, usmerjenimi v uporabo, z razvojem, uvajanjem in komercializacijo/uporabo umetne inteligence, pa tudi ukrepe za podporo zaupanju v tehnologije umetne inteligence, spodbujanje nadarjenosti in spretnosti ter krepitev prodiranja EU v svetu.

4.Sodelovanje z deležniki, na primer prek evropskega partnerstva za umetno inteligenco, podatke in robotiko ter strokovnih skupin

Ta oddelek je osredotočen na ukrepe, ki so bistveni za opredelitev načrta za odličnost in širše razširjanje umetne inteligence ter sodelovanje pri podpiranju tega načrta.

Pregled sprejetih ukrepov

Evropska partnerstva združujejo Komisijo, države članice ter zasebne in/ali javne partnerje, da bi obravnavali in premagali nekatere najnujnejše evropske izzive ter posodobili industrijo z usklajenimi raziskovalnimi in inovacijskimi pobudami 79 . Partnerstva med drugim zagotavljajo pravno strukturo za združevanje virov in zbiranje kritične mase ter povečujejo učinkovitost financiranja raziskav in inovacij po vsej EU z izmenjavo finančnih, človeških in infrastrukturnih virov. Partnerstva tudi lajšajo oblikovanje notranjega trga za inovativne izdelke in storitve, zagotavljajo, da lahko inovativne tehnologije hitro prispejo na trg, in lajšajo zmanjšanje obsega prizadevanj na področju raziskav in inovacij, potrebnih za reševanje kritičnih družbenih izzivov in doseganje glavnih ciljev politike EU.

Več partnerstev v okviru programa Obzorje 2020 je bilo posebej pomembnih za tehnologije umetne inteligence. Javno-zasebno partnerstvo na področju vrednosti velepodatkov med Evropsko komisijo in združenjem na področju vrednosti velepodatkov (Big Data Value Association – BDVA) je namenjeno sodelovanju pri raziskavah in inovacijah, povezanih s podatki, in izboljšanju oblikovanja skupnosti na podlagi podatkov ter postavlja temelje za uspešno podatkovno vodeno gospodarstvo v Evropi 80 . Javno-zasebno partnerstvo za robotiko (SPARC) združuje evropsko robotsko industrijo, akademske kroge in Evropsko komisijo, da bi okrepilo konkurenčni položaj evropske robotske industrije in spodbujalo odličnost njene znanstvene baze 81 .

Pogodbeno javno-zasebno partnerstvo za visokozmogljivostno računalništvo je bilo ustanovljeno leta 2014 za razvoj naslednje generacije tehnologij, aplikacij in sistemov visokozmogljivostnega računalništva, ki bi se približali eksaravni 82 , ter za doseganje odličnosti pri zagotavljanju in uporabi aplikacij visokozmogljivostnega računalništva 83 . To partnerstvo je decembra 2018, ko je bilo ustanovljeno Skupno podjetje za evropsko visokozmogljivostno računalništvo (Skupno podjetje EuroHPC), prenehalo obstajati, zasebna stran pa se je pridružila Skupnemu podjetju EuroHPC. Skupno podjetje EuroHPC Evropski uniji in državam, ki sodelujejo v njem, omogoča, da uskladijo svoja prizadevanja in združijo svoja sredstva za uvedbo vrhunskih superračunalnikov na eksaravni ter Evropo postavijo v vodilni položaj v svetu na področju visokozmogljivostnega računalništva, pri čemer zagotavlja računalniške rešitve in boljše sodelovanje pri naprednih znanstvenih raziskavah.

Skupno podjetje ECSEL (Elektronske komponente in sistemi za evropski vodilni položaj) 84 je prvo skupno podjetje, katerega upravljanje temelji na tridelnem modelu (Komisija, sodelujoče države in industrija). Njegov cilj je zagotoviti vrhunsko strokovno znanje na področju ključnih omogočitvenih tehnologij ter konkurenčno vodstvo Evrope na področju strojne opreme in vgrajene programske opreme, bistvene za razvoj in uvajanje digitalnih sistemov, ki temeljijo na umetni inteligenci.

Cilj javno-zasebnega partnerstva za fotoniko (Photonics21) 85 je zagotoviti vodilni položaj Evrope na področju razvoja in uvajanja fotonskih tehnologij na različnih področjih uporabe, kot so IKT, razsvetljava, industrijska proizvodnja, biološka znanost in varnost. Cilj javno-zasebnega partnerstva tovarne prihodnosti 86  za napredno proizvodnjo je uresničiti naslednjo industrijsko revolucijo (Factories 4.0).

Napovedi

Komisija bo še naprej podpirala evropska partnerstva v okviru programa Obzorje Evropa ter krepila strateški pristop k raziskavam in inovacijam na področju tehnologij umetne inteligence.

Komisija bo leta 2021:

-med drugim vzpostavila naslednja evropska partnerstva 87 , pomembna za umetno inteligenco:

-skupaj načrtovano evropsko partnerstvo za umetno inteligenco, podatke in robotiko 88 – glavni cilj je spodbuditi inovacije, uvajanje in sprejemanje tehnologij na področju umetne inteligence, podatkov in robotike 89 . Partnerstvo bo povezalo deležnike, ki omogočajo uresničitev evropske vizije humanocentrične in zaupanja vredne umetne inteligence 90 . Vzpostavilo bo povezave z državami članicami in zagotovilo pregled glavnih nacionalnih politik in pobud z imenovanjem nacionalnih in/ali regionalnih ambasadorjev; 

-sprejela nadaljnje ukrepe na podlagi predloga nove uredbe iz septembra 2020 za nadomestitev uredbe Sveta iz leta 2018 o ustanovitvi Skupnega podjetja EuroHPC – predlog določa ambiciozno poslanstvo in bistveno večji proračun za obdobje 2021–2033, da bi Evropi zagotovil vrhunsko hiperpovezano infrastrukturo superračunalništva in kvantnega računalništva;

-z enotnim temeljnim aktom predlagala institucionalizirano evropsko partnerstvo za ključne digitalne tehnologije. Glavni cilj partnerstva, ki se bo opiralo na dosežke skupnega podjetja ECSEL, je pospešiti razvoj za okrepitev evropskega ekosistema procesorjev in polprevodniških tehnologij, pri čemer se bodo obravnavali ključni tehnološki, varnostni, družbeni in okoljski izzivi;

-skupaj načrtovano evropsko partnerstvo za fotoniko 91  bo zagotovilo tehnološko suverenost Evrope prek inovacij na področju fotonike in njihovega prenosa v aplikacije, s čimer bo izboljšalo konkurenčnost Evrope ter zagotovilo dolgoročna delovna mesta in blaginjo, ter

-skupaj načrtovano evropsko partnerstvo „Izdelano v Evropi“ 92  bo gonilna sila za trajnostno proizvodnjo v Evropi, tudi na podlagi umetne inteligence, saj bo prispevalo h konkurenčni in odporni predelovalni industriji v Evropi ter krepilo dodano vrednost v dobavnih verigah v vseh sektorjih, ter

-podpirala in olajšala sinergije (vključno z organizacijo skupnih razpisov) med evropskimi partnerstvi (skupaj načrtovanimi in institucionaliziranimi) v zvezi s tehnologijami umetne inteligence, kot so partnerstvo za umetno inteligenco, podatke in robotiko, partnerstvo za fotoniko, partnerstvo „Izdelano v Evropi“, EuroHPC 93 in partnerstvo za ključne digitalne tehnologije.

5.Krepitev in mobilizacija raziskovalnih zmogljivosti

Ta oddelek je osredotočen na ukrepe za povečanje odličnosti raziskav in inovacij na področju umetne inteligence ter izboljšanje konkurenčnosti Evrope 94 .

Pregled sprejetih ukrepov

EU poleg strateških raziskovalnih načrtov javno-zasebnih partnerstev izvaja tudi ukrepe za okrepitev odličnosti pri temeljnih in uporabnih raziskavah ter za spodbujanje talentov v Evropi. Komisija je prek programa Obzorje 2020 v štirih letih vložila 50 milijonov EUR 95 , da bi oblikovala raziskovalno skupnost centrov odličnosti na področju umetne inteligence 96 , tesno povezanih v mrežo. Cilj je povečati sodelovanje med najboljšimi raziskovalnimi skupinami v Evropi, da bodo lahko združile moči pri reševanju velikih znanstvenih in tehnoloških izzivov na področju umetne inteligence, ter olajšati tesnejše sodelovanje, povezovanje in sinergije med raziskovalnimi skupinami in industrijo. Za oblikovanje mreže je bilo izbranih pet projektov, ki bodo združili vrhunske raziskovalce ter vzpostavili skupni pristop, vizijo in identiteto za evropski umetnointeligenčni sistem; med temi projekti so štiri mreže centrov odličnosti na področju umetne inteligence ter en ukrep za usklajevanje in podporo 97 .

Komisija je za zagotovitev, da podpora EU za raziskave ustreza tehnološkemu razvoju na področju umetne inteligence, ocenila svoje medsektorske naložbe v umetno inteligenco v okviru programa Obzorje 2020 glede na trenutne raziskovalne trende in potrebe ter opredelila prihodnje naložbene priložnosti za umetno inteligenco, predvsem v okviru programa Obzorje Evropa. Poleg tega je prispevke javnega posvetovanja o beli knjigi o umetni inteligenci in ciljno usmerjenega posvetovanja s skupnostjo na področju umetne inteligence, zlasti javno-zasebnim partnerstvom za umetno inteligenco, podatke in robotiko, uporabila za načrtovanje novih tem na področju raziskav umetne inteligence in dodatnih mrež centrov odličnosti.

Napovedi

Za spodbujanje odličnosti na področju raziskav bo Komisija:

-z začetkom leta 2021 in v tesnem dialogu z državami članicami in širšo skupnostjo na področju umetne inteligence ustanovila vodilni center na področju umetne inteligence za Evropo, kot je napovedano v beli knjigi. Vodilni center na področju umetne inteligence bo temeljil na obstoječih in prihodnjih mrežah centrov odličnosti na področju umetne inteligence, njegov cilj pa bo vzpostaviti zavezništvo močnih evropskih raziskovalnih organizacij, ki si bodo delile skupni načrt za podporo odličnosti na področju temeljnih in uporabnih raziskav, uskladitev nacionalnih prizadevanj na področju umetne inteligence, spodbujanje inovacij in naložb, privabljanje in ohranjanje talentov za umetno inteligenco v Evropi ter ustvarjanje sinergij in ekonomije obsega. Ta pobuda bo združila vodilne akterje na področju raziskav, z univerz in iz industrije v Evropi, da bodo skupaj obravnavali skupno dogovorjene ambiciozne izzive, pri čemer bo glavni cilj postati svetovni referenčni center odličnosti na področju umetne inteligence. Tako bo raznolikost Evrope spodbudila zdravo konkurenco, ne pa razdrobljenosti skupnosti na področju umetne inteligence;

-v letih 2021 in 2022 v okviru programa Obzorje Evropa financirala dodatne mreže centrov odličnosti na področju umetne inteligence, ki bodo obravnavale dopolnilna raziskovalna področja, ki še niso zajeta v obstoječih mrežah centrov odličnosti na področju umetne inteligence, in krepile raziskovalna prizadevanja, ki obravnavajo kritične raziskovalne teme v zvezi z umetno inteligenco. To bo spodbudilo razvoj varnejše, bolj zaščitene in bolj zaupanja vredne umetne inteligence ter podpiralo temeljne in uporabno usmerjene raziskave na področju umetne inteligence naslednje generacije, pri čemer bo cilj ohraniti vodilni položaj Evrope na področju umetne inteligence;

-v okviru programa Obzorje Evropa od leta 2021 spodbujala tehnični razvoj na najrazličnejših področjih raziskav umetne inteligence, vključno z raziskavami v zvezi z naslednjo stopnjo inteligence in avtonomije sistemov, ki temeljijo na umetni inteligenci, preglednostjo na področju umetne inteligence, bolj zeleno umetno inteligenco, umetno inteligenco za kompleksne sisteme, napredkom na področju omrežij umetne inteligence na robu, nepristranskimi umetnointeligenčnimi sistemi ter opolnomočenjem ljudi z napredno podporo umetne inteligence;

-program Obzorje Evropa bo poleg razvoja omogočitvenih tehnologij pokazal tudi, kako umetna inteligenca pomaga preoblikovati pomembne gospodarske sektorje na področju proizvodnje in storitev, vključno z vplivi na delovno silo 98 , ter obravnaval velike družbene izzive na področjih, kot so zdravstvo, civilna varnost, podnebne spremembe, energetika, mobilnost, mediji (npr. obravnavanje dezinformacij) in agroživilski sektor;

-v okviru skupaj načrtovanega evropskega partnerstva za umetno inteligenco, podatke in robotiko mobilizirala deležnike prek strateškega načrta za raziskave, inovacije in uvajanje 99 , da bi oblikovali in izvajali strategijo za raziskave, inovacije in uvajanje za Evropo s poudarkom na odgovornem razvoju in uporabi umetne inteligence, ter

-si prizadevala, da projekti, povezani z umetno inteligenco, ki prejemajo sredstva za raziskave in inovacije v okviru programa Obzorje Evropa, po potrebi spoštujejo načelo „vgrajene etičnosti“, tudi v primeru zaupanja vredne umetne inteligence. Poleg tega se Komisija za doseganje raznolike raziskovalne skupnosti na področju umetne inteligence zavzema za raznolikost in vključenost v konzorcije za projekte.

Države članice se spodbujajo, naj: 

-ustanovijo regionalne in nacionalne centre odličnosti na področju raziskav v zvezi z umetno inteligenco, na primer z uporabo nacionalnih instrumentov financiranja in sredstev mehanizma RRF, ter ustvarijo strukturo za prenos raziskav in tehnologije, ki bi lahko privabila in ohranjala talente, hkrati pa bi si prizadevala postati nacionalna referenčna točka za raziskave in razvoj na področju umetne inteligence. Centri bi zagotavljali regionalno ozaveščanje in izmenjavo, sodelovali na evropski ravni in vzpostavili vodilni evropski center na področju umetne inteligence, ki bi širil odličnost, v sodelovanju z mrežami, ki jih financira EU, ter

-okrepijo naložbe v raziskave na področju umetne inteligence na nacionalni ravni, na primer prek mehanizma RRF.

6.Zagotovitev orodij prek platforme za umetno inteligenco na zahtevo in okolja, v katerem bodo lahko razvijalci testirali umetno inteligenco in eksperimentirali z njo (centri za testiranje in eksperimentiranje) ter v katerem bodo lahko MSP in javne uprave uvedle umetno inteligenco (evropska vozlišča digitalnih inovacij)

Ta oddelek je osredotočen na ukrepe, ki pomagajo prenesti inovacije iz laboratorija na trg, da se zagotovi široka uporaba in uvajanje tehnologij umetne inteligence.

Pregled sprejetih ukrepov

Centri za testiranje in eksperimentiranje z inovativnimi umetnointeligenčnimi sistemi so bistveni za uporabo in uvajanje tehnologij umetne inteligence. To je zlasti pomembno za mala in srednja podjetja (MSP), ki se soočajo s težavami, ko poskušajo v celoti izkoristiti hitri razvoj digitalnih tehnologij, da bi postala konkurenčna in inovativna 100 . EU je v sodelovanju z državami članicami predlagala dva sklopa ukrepov:

-centre za testiranje in eksperimentiranje (TEF) – tj. tehnološke infrastrukture s specifičnim strokovnim znanjem in izkušnjami na področju testiranja dovršene tehnologije v posameznem sektorju v realnem ali skoraj realnem okolju. Cilj je razvijalcem zagotoviti infrastrukturo za testiranje tehnologije umetne inteligence, preden je ta dana na trg, ter

-vozlišča digitalnih inovacij – „enotne kontaktne točke“, ki vsem podjetjem, ki jih zanima uporaba umetne inteligence, pomagajo, da z uporabo tehnologij umetne inteligence postanejo konkurenčnejša z vidika poslovnih/proizvodnih procesov, izdelkov ali storitev. Evropska vozlišča digitalnih inovacij podjetjem omogočajo, da pred naložbami testirajo tehnologije umetne inteligence, poleg tega jim zagotavljajo s tem povezane storitve, kot sta svetovanje o financiranju ter svetovanje o usposabljanju in razvoju spretnosti, potrebnih za uspešno digitalno preobrazbo.

Centri za testiranje in eksperimentiranje

V usklajenem načrtu iz leta 2018 je navedeno, da je treba za optimizacijo naložb in preprečitev podvajanja ali konkurenčnih prizadevanj razviti omejeno število specializiranih obsežnih referenčnih lokacij in jih odpreti za vse akterje iz vse Evrope. Po sprejetju usklajenega načrta in v okviru priprav na program za digitalno Evropo je Komisija sprejela pripravljalne ukrepe za razvoj tega koncepta in za pripravo centrov za testiranje umetne inteligence in eksperimentiranje z njo. Natančneje, od leta 2019 je intenzivno sodelovala z državami članicami, da bi izboljšala koncept centrov za testiranje in eksperimentiranje ter dala prednost ustreznim sektorjem. Januarja 2020 je Komisija organizirala pet delavnic, na katerih so sodelovali deležniki iz industrije, akademskega sveta in držav članic, da bi razpravljali o centrih za testiranje in eksperimentiranje za določene sektorje (agroživilski sektor, proizvodnja, zdravstvo in pametna mesta) in tehnologije (umetna inteligenca na robu).

Rezultati pripravljalnega dela in izmenjav z deležniki kažejo, da sta eksperimentiranje in testiranje najsodobnejših tehnologij v resničnih okoljih bistveni element pri uvajanju tehnologije na trg ter da sta del inovacijske verige, v kateri evropski umetnointeligenčni sistem potrebuje znatno podporo, da bi ostal konkurenčen na svetovni ravni.

Center za testiranje in eksperimentiranje za umetno inteligenco na robu ima posebno vlogo za ekosistem odličnosti na področju umetne inteligence. Umetna inteligenca na robu kot tehnologija strojne opreme ponuja jasne prednosti: zagotavlja operacije v realnem času ter prednosti v smislu varnosti in zasebnosti podatkov in porabe energije. Cilj centra za testiranje in eksperimentiranje za umetno inteligenco na robu je, da kot evropska platforma podjetjem vseh velikosti omogoči testiranje inovativnih komponent umetne inteligence na robu, ki temeljijo na naprednih računalniških tehnologijah z majhno porabo energije, kot je nevromorfno računalništvo, in eksperimentiranje z njimi. Glede na sedanjo odvisnost EU od računalniških tehnologij, visoke stroške potrebne polprevodniške opreme in potrebo po dolgoročnih naložbah je center za testiranje in eksperimentiranje za umetno inteligenco na robu potreben za zapolnitev vrzeli v financiranju, da bodo imela evropska podjetja dostop do računalniške strojne opreme umetne inteligence z majhno porabo energije. Drugače povedano, center za testiranje in eksperimentiranje za umetno inteligenco na robu bo Evropi dal ekosistem odličnosti, ki bo bistveni instrument za doseganje vodilnega tehnološkega položaja na področju umetne inteligence.

Da bi imeli centri za testiranje in eksperimentiranje osrednjo vlogo v umetnointeligenčnem sistemu, bi morali biti preprosti za uporabo, delovati v realnih pogojih in tesno sodelovati s končnimi uporabniki, uporabljati pa bi jih morali razvijalci v zasebnem in javnem sektorju, zlasti MSP 101 . Poleg tega je učinkovito medsebojno delovanje med centri za testiranje in eksperimentiranje in podatkovnimi prostori bistveno za vzpostavitev enakih konkurenčnih pogojev in zagotavljanje nediskriminatornega dostopa do trga. To bi bilo mogoče doseči na primer s povezovanjem podatkovnih prostorov in centrov za testiranje in eksperimentiranje na skupnih interesnih področjih. Centri za testiranje in eksperimentiranje imajo pomembno vlogo pri testiranju robustnosti, zanesljivosti in varnosti tehnologij umetne inteligence s testiranjem njihove sposobnosti izpolnjevanja obveznosti, ki bodo opredeljene v predpisih o umetni inteligenci. Nazadnje, projekti centrov za testiranje in eksperimentiranje bi morali medsebojno delovati z vzporednimi pobudami na evropski platformi za umetno inteligenco na zahtevo.

Vozlišča digitalnih inovacij

Komisija je za pomoč evropskim podjetjem (zlasti MSP) pri čim boljšem izkoriščanju novih tehnologij leta 2016 uvedla pobudo „Digitalizacija evropske industrije“. Eden od stebrov te pobude je ustanovitev in podpiranje vozlišč digitalnih inovacij, ki omogočajo dostop do tehničnega strokovnega znanja in zagotavljajo možnosti za eksperimentiranje, tako da lahko podjetja testirajo, preden začnejo vlagati 102 . Vozlišča digitalnih inovacij zagotavljajo tudi inovacijske storitve, kot so svetovanje o financiranju ter usposabljanje in razvoj spretnosti, ki jih podjetja potrebujejo za uspešno digitalno preobrazbo. Države članice in regije vlagajo v vozlišča digitalnih inovacij, Komisija pa je (s projekti v okviru programa Obzorje 2020 v letih 2019 in 2020) za mreženje vozlišč digitalnih inovacij zagotovila več kot 200 milijonov EUR. Približno polovica teh sredstev je bila povezana z inovacijami na področjih, pomembnih za umetno inteligenco, vključno z robotiko in velepodatki, za regije z malo vozlišči digitalnih inovacij pa so bile izvedene posebne dejavnosti. Financiranje projektov v okviru programa Obzorje 2020 se navadno izvaja po kaskadnem načelu na podlagi odprtih razpisov za MSP, da lahko ta sodelujejo pri inovativnih eksperimentih z vozlišči digitalnih inovacij v čezmejnem okviru. Evropsko računsko sodišče je ocenilo to razsežnost pobude za digitalizacijo evropske industrije in priporočilo, naj Komisija v sodelovanju z državami članicami sprejme nadaljnje ukrepe na področju financiranja in spremljanja vozlišč digitalnih inovacij 103 .

Pripombe Evropskega računskega sodišča bodo obravnavane s podporo v okviru programa za digitalno Evropo. Oznaka Evropska vozlišča digitalnih inovacij je bila uvedena, da bi se zagotovilo razlikovanje med tem pristopom in prejšnjim pristopom, financiranim v okviru programa Obzorje 2020. EU in države članice bodo v vzpostavitev mreže okoli 200 vozlišč po evropskih regijah vložile 1,5 milijarde EUR. Nepovratna sredstva bi bilo treba uporabiti za izboljšanje zmogljivosti izbranih evropskih vozlišč digitalnih inovacij za zagotavljanje storitev MSP in javnemu sektorju. Izbira in financiranje teh evropskih vozlišč digitalnih inovacij sta skupni ukrep držav članic in Komisije 104 .

Evropska vozlišča digitalnih inovacij bodo spodbudila široko uporabo umetne inteligence, visokozmogljivostnega računalništva, tehnologije za kibernetsko varnost in drugih digitalnih tehnologij s strani industrije (zlasti MSP) in organizacij javnega sektorja v Evropi 105 . Poleg tega jih bodo podpirala pri uporabi digitalne tehnologije za izboljšanje trajnostnosti njihovih procesov in izdelkov, zlasti glede porabe energije in zmanjšanja emisij toplogrednih plinov. Zagotovila bodo široko geografsko pokritost, opravljala pa bodo lokalne in evropske funkcije. Evropska vozlišča digitalnih inovacij bodo uporabljala orodja in vire, ki jih ponuja platforma za umetno inteligenco na zahtevo, ter bodo multiplikator za centre za testiranje in eksperimentiranje: podjetjem v stiski bodo pomagala pri uporabi ustreznega centra za testiranje in eksperimentiranje, da bodo lahko uvedla inovativne nove izdelke in storitve ter jih pripravila za dajanje na trg.

Platforma za umetno inteligenco na zahtevo

Evropska pobuda za platformo in sistem za umetno inteligenco na zahtevo se je začela leta 2019 ter je financirana v okviru programa Obzorje 2020. Združuje deležnike in vire na področju umetne inteligence, s čimer odpravlja razdrobljenost in pospešuje inovacije, ki temeljijo na umetni inteligenci (raziskave, izdelki, rešitve). Platforma, ki se razvija, naj bi delovala kot gonilna sila evropskega trga umetne inteligence in ponujala kritično maso virov, učinke mreženja skupnosti ter hiter razvoj in rast. Dejavnosti za utrditev sistema so se začele januarja 2021, da bi privabile večje skupnosti uporabnikov, zlasti iz netehnološkega sektorja, ter olajšale uporabo in uvajanje virov platforme.

Napovedi

Da bi Komisija pomagala prenesti inovacije iz laboratorija na trg ter zagotovila široko uporabo in uvajanje tehnologij umetne inteligence, bo skupaj z državami članicami:

-sofinancirala centre za testiranje in eksperimentiranje v okviru programa za digitalno Evropo, da bi zagotovila skupen, zelo specializiran vir za skupno uporabo na evropski ravni ter spodbudila hitro uvajanje in večjo uporabo zaupanja vredne umetne inteligence po Evropi. V tem okviru:

-bodo prvi razpisi (v obdobju 2021–2022) osredotočeni na naslednje opredeljene sektorje: proizvodnja, zdravje, agroživilski sektor, pametne skupnosti in umetna inteligenca na robu. Ocenjeni proračun za posamezni sektor bo približno 20–75 milijonov EUR;

-v obdobju 2021–2022 izbrala mrežo do 210 evropskih vozlišč digitalnih inovacij, ki bo pokrivala vse regije Evrope. V zvezi z umetno inteligenco so predvidene naslednje posebne dejavnosti:

-vsaj eno evropsko vozlišče digitalnih inovacij v vsaki državi članici s strokovnim znanjem o umetni inteligenci. Evropska vozlišča digitalnih inovacij v mreži si bodo izmenjevala najboljše prakse in učinkovito medsebojno sodelovala (ob upoštevanju priporočil, ki jih bo pripravila mreža vozlišč digitalnih inovacij za umetno inteligenco), da bi MSP in organizacijam javnega sektorja po vsej Evropi nudila najboljšo podporo, ter

-mreža evropskih vozlišč digitalnih inovacij bo tesno sodelovala s platformo za umetno inteligenco na zahtevo 106 , centri za testiranje in eksperimentiranje ter podatkovnimi prostori, skupaj pa bodo spodbujali uporabo teh infrastruktur med MSP po vsej Evropi. To bo spodbudilo razširjanje virov in podjetjem omogočilo eksperimentiranje z umetno inteligenco;

-leta 2021 in pozneje utrdila platformo za umetno inteligenco na zahtevo kot osrednjo evropsko zbirko virov umetne inteligence, potrebnih za uporabo v industriji in javnem sektorju, da bo lahko:

-postala glavni evropski trg za vire umetne inteligence; platforma bo zagotavljala preprost in enostaven dostop do orodij umetne inteligence 107 , ki jih bodo nato evropska vozlišča digitalnih inovacij lokalno razdelila ali pa jih bo neposredno uporabljala uporabniška industrija (zlasti MSP) ali javni sektor, ter

-sodelovala z ustreznimi nacionalnimi in evropskimi pobudami, da bi postala osrednja zbirka orodij umetne inteligence v Evropi za vse, ki iščejo strokovno znanje, tehnologijo, storitve in programsko opremo na področju umetne inteligence.

Komisija poziva države članice, naj:

-namenijo enak delež sredstev projektom centrov za testiranje in eksperimentiranje 108 , ki jih bo Komisija izbrala s pomočjo neodvisnih strokovnjakov;

-opredelijo ustrezne nove prednostne naloge za dodatne centre za testiranje in eksperimentiranje poleg sedanjih sektorjev, tj. agroživilskega sektorja, proizvodnje, zdravstva in pametnih skupnosti. Možni novi sektorji bi lahko bili na primer mobilnost, javna uprava ali prehod na zeleno gospodarstvo;

-v celoti izkoristijo priložnosti, ki jih ponujajo mehanizem RRF in programi kohezijske politike, za financiranje več (evropskih) vozlišč digitalnih inovacij ter centrov za testiranje in eksperimentiranje, da se inovacije približajo trgu, ter

-podpirajo oblikovanje lokalnih, regionalnih in/ali nacionalnih trgov umetne inteligence 109 za medsebojno delovanje in izmenjavo najboljših praks ter olajšajo čezmejno razširitev prek evropske platforme za umetno inteligenco na zahtevo (osrednja zbirka orodij in trg za umetno inteligenco), evropskih vozlišč digitalnih inovacij in pobude Startup Europe.

7.Financiranje in razširjanje inovativnih idej in rešitev za umetno inteligenco

Ta oddelek se osredotoča na podporne ukrepe s posebnim poudarkom na zagonskih podjetjih, podjetjih v razširitveni fazi ter drugih malih in srednjih podjetjih, ki razvijajo tehnologije umetne inteligence. Program InvestEU in mehanizem RRF ponujata ključna sredstva za krepitev uporabe finančnih instrumentov.

Pregled sprejetih ukrepov

Za podporo zagonskim ter malim in srednjim podjetjem v zgodnjih fazah in v fazi razširitve je Komisija predstavila naložbeno shemo za umetno inteligenco in blokovne verige (AI/Blockchain Investment Scheme) ter njen podporni program 110 . Cilj pilotne sheme je izboljšati dostop do lastniškega financiranja za zagonska podjetja in MSP, ki se ukvarjajo z inovativno umetno inteligenco in blokovnimi verigami ter umetno inteligenco večjega tveganja, s široko geografsko pokritostjo v EU, vključno z manj razvitimi trgi. Zagotavlja sredstva za naložbe v sklade tveganega kapitala in sovlaganje v nacionalne spodbujevalne banke v državah članicah. Ocenjuje se, da bo z začetno dodelitvijo 100 milijonov EUR iz programa Obzorje 2020 skupni obseg naložb sklada dosegel 700 milijonov EUR 111 . Namenski podporni program se bo izvajal od leta 2020 do leta 2022.

Skupina Evropske investicijske banke (skupina EIB) je decembra 2020 prav tako uvedla nov instrument za sovlaganje do 150 milijonov EUR za vlaganje skupaj s skladi, ki jih podpira Evropski investicijski sklad (EIF), in za podporo rasti podjetij na področju umetne inteligence po vsej Evropi 112 .

Evropski svet za inovacije (EIC) podpira zagonska podjetja na področju umetne inteligence pri razvoju in razširjanju revolucionarnih tehnologij umetne inteligence in prelomnih inovacij 113 . Od začetka pilotne faze 114 je EIC podprl številne inovacije na področju umetne inteligence na številnih znanstvenih področjih, od bioloških znanosti, živil in kmetijstva do energetike in okolju prijaznih tehnologij. Za razvoj inovacij iz raziskovalnih projektov pilotni instrument Iskalec Evropskega sveta za inovacije ponuja nepovratna sredstva za spodbujanje skupnih, interdisciplinarnih inovacij na področju radikalno novih prihodnjih tehnologij, ki jih navdihuje znanost. Pospeševalec Evropskega sveta za inovacije podpira razširitev zagonskih podjetij in njihov vstop na trg z možnostmi financiranja in pospeševalnimi storitvami. Podpora EIC je na voljo vsem MSP z radikalno novimi idejami, podprtimi s poslovnim načrtom za uvajanje rešitev za inovacije, ki jih je mogoče tržiti, in z željo po razširitvi. EIC je v pilotni fazi (2018–2020) zagotovil 160 milijonov EUR v obliki nepovratnih sredstev in 91 milijonov EUR v obliki neposrednih naložb v kapital za inovativna zagonska podjetja na področju umetne inteligence in projekte, ki vključujejo neposredne ali dodatne raziskave na področju tehnologij umetne inteligence. Leta 2021 bo EIC zagotovil več kot milijardo EUR nepovratnih sredstev in lastniškega kapitala za zagonska podjetja in MSP, pri čemer je poudarek na inovacijsko intenzivni tehnologiji.

Evropski inštitut za inovacije in tehnologijo (EIT) podpira številne pobude za spodbujanje inovacij na področju umetne inteligence, pripravo naših družb na spremembe, ki jih povzroča umetna inteligenca, in izobraževanje nove generacije inovatorjev na področju umetne inteligence. V letih 2019 in 2020 je svojim dejavnostim na področju umetne inteligence namenil več kot 22 milijonov EUR. EIT Digital in EIT Health izvajata veliko večino projektov, povezanih z umetno inteligenco. Skupnost EIT trenutno podpira 120 evropskih zagonskih podjetij v zgodnji do srednji fazi, ki delujejo na področju umetne inteligence, in je vanje že vložila več kot 3 milijone EUR.

Januarja 2021 sta EIT in EIC združila moči, da bi pospešila izvajanje podpore za zelo inovativna zagonska podjetja ter uskladila prizadevanja za podporo inovatorkam in podporo inovatorjem iz manj zastopanih regij 115 . Poleg tega si EIC in EIT prizadevata za izmenjavo podatkov in informacij o inovativnih zagonskih podjetjih in MSP, ki jih podpirata, vključno z meritvami doseženih učinkov.

Napovedi

Komisija bo ob podpori držav članic:

-si prizadevala okrepiti podporo in financiranje za pilotno naložbeno shemo za umetno inteligenco/blokovne verige ter podporni program. Na podlagi uspeha in privlačnosti pilotne sheme bo program InvestEU za obdobje 2021–2027 še naprej zagotavljal podporne naložbe 116 v umetno inteligenco/blokovne verige prek skupine EIB in nacionalnih spodbujevalnih bank, da bi mobiliziral zasebne naložbe;

-v celoti izvajala EIC v okviru programa Obzorje Evropa in podpirala prelomne inovacije s poudarkom na humanocentrični umetni inteligenci. To bo doseženo s kombinacijo odprtih razpisov za financiranje, ki bodo temeljili na izzivih. Izziv Iskalec Evropskega sveta za inovacije v letu 2021 bo usmerjen v raziskave o ozaveščenosti o umetni inteligenci, izziv Pospeševalec Evropskega sveta za inovacije pa bo spodbujal strateške digitalne in zdravstvene tehnologije, vključno z umetno inteligenco za uporabo v medicini. Poleg tega se bo začela izvajati pobuda Women TechEU za podporo inovacijsko intenzivnim zagonskim podjetjem, ki jih ustanovijo in vodijo ženske;

-prek pobud Startup Europe in inovacijski radar mobilizirala zagonska podjetja na področju umetne inteligence v nacionalnih vozliščih in programu Obzorje Evropa, ki se želijo razširiti in izpolniti povpraševanje MSP, ki so se lotila digitalne preobrazbe, po strokovnem znanju na področju umetne inteligence. Evropska vozlišča digitalnih inovacij, financirana v okviru programa za digitalno Evropo, bodo uporabljena za ustvarjanje trga in organiziranje prireditev za navezovanje stikov za dobavo tehnologije in partnerstva 117 ;

-olajšala izmenjavo informacij, strokovnega znanja in najboljših praks med lokalnimi, regionalnimi in nacionalnimi zagonskimi podjetji na področju umetne inteligence na evropski ravni (vključena bodo MSP in zagonska podjetja ter drugi ustrezni deležniki) prek javno-zasebnega partnerstva za umetno inteligenco, podatke in robotiko, evropskih vozlišč digitalnih inovacij, platforme za umetno inteligenco na zahtevo (osrednja zbirka orodij in trg za umetno inteligenco) in Startup Europe 118 ter

-sprejela ukrepe za izboljšanje razpoložljivosti odprtih podatkov in dostopa do podatkov za MSP.

Države članice se spodbujajo, naj:

-podpirajo zagonska podjetja in podjetja v razširitveni fazi na področju umetne inteligence pri dostopu do financiranja za njihovo rast ter podpirajo MSP pri njihovem digitalnem prehodu pri sprejemanju tehnologij umetne inteligence. Če so cilji in pogoji mehanizma RRF izpolnjeni, lahko države članice izkoristijo sredstva RRF za vzpostavitev naložb v obliki finančnih instrumentov (npr. jamstev, posojil, instrumentov lastniškega in tveganega kapitala ter ustanovitve namenskih investicijskih subjektov). Države članice imajo tudi možnost, da v svoj oddelek InvestEU prispevajo do 4 % celotne dodelitve v okviru svojih načrtov za okrevanje in odpornost.

III.Zagotovitev, da umetna inteligenca deluje za ljudi in je sila za dobro v družbi

Umetnointeligenčni sistemi, ki se vse bolj uporabljajo v zdravstvu, kmetijstvu, izobraževanju, zaposlovanju, upravljanju infrastrukture, energetiki, prometu in logistiki, vesoljskem sektorju, javnih storitvah, varnosti ter blažitvi podnebnih sprememb in prilagajanju nanje, lahko pomagajo rešiti zapletene probleme v javno dobro. Uspešen razvoj in uvajanje umetne inteligence prispevata h gospodarski rasti in svetovni konkurenčnosti EU 119 ter prinašata ogromne koristi za našo družbo in okolje. Vendar lahko nekatere uporabe umetne inteligence ogrožajo pravice, zaščitene z zakonodajo EU, vzbudijo nove pomisleke glede varnosti in zaščite 120 ter vplivajo na trge dela. V beli knjigi o umetni inteligenci iz leta 2020 121 je Komisija predstavila evropski pristop k umetni inteligenci, ki temelji na ekosistemu odličnosti in ekosistemu zaupanja v umetno inteligenco 122 .

8.Spodbujanje talentov in izboljšanje ponudbe spretnosti, potrebnih za omogočanje uspešnega umetnointeligenčnega ekosistema

Pregled sprejetih ukrepov

V usklajenem načrtu iz leta 2018 je bilo kot ključni izziv za razvoj umetne inteligence v Evropi opredeljeno veliko in vztrajno pomanjkanje digitalnih spretnosti. Zaradi razvoja trga umetne inteligence in uvajanja tehnologij umetne inteligence je treba zagotoviti dostopnost in uvajanje izdelkov in storitev na področju umetne inteligence. V ta namen bi morala EU olajšati pridobivanje širokih računalniških spretnosti in izboljšati razumevanje umetne inteligence za vse državljane. Da bi EU ostala konkurenčna v svetovnem merilu, potrebuje tudi strokovnjake iz različnih okolij s specializiranimi spretnostmi na področju umetne inteligence, kot so modeliranje podatkov, arhitektura in semantika, da bi ohranila močan položaj v raziskavah umetne inteligence ter prispevala k razvoju in uvajanju umetnointeligenčnih sistemov. Netehnične spretnosti na področju umetne inteligence so enako pomembne. Potrebno je tudi izboljšanje računalniških spretnosti in spretnosti na področju umetne inteligence za vse, da bi se preprečila polarizacija trga dela ter morebitno povečanje neenakosti v državah in med njimi.

Rezultati raziskave med evropskimi podjetji iz leta 2020 kažejo, da je ena ključnih ovir, s katero se evropska podjetja soočajo pri sprejemanju tehnologij umetne inteligence, razpoložljivost zaposlenih z ustreznimi spretnostmi na področju umetne inteligence 123 . Analiza Skupnega raziskovalnega središča Komisije prav tako kaže, da so razvoj digitalnih spretnosti, ozaveščanje o tehnologijah umetne inteligence na vseh ravneh izobraževanja, programi vseživljenjskega učenja in specializirane spretnosti na področju umetne inteligence nujni za pripravljenost vseh na preobrazbe, ki jih prinaša umetna inteligenca, za ohranitev močnega položaja EU v raziskavah na področju umetne inteligence ter za prispevanje k razvoju in uvajanju sistemov umetne inteligence 124 .

Vse države članice, ki so sprejele nacionalne strategije za umetno inteligenco, so v svoje strategije vključile razsežnost spretnosti, kot je predlagano v usklajenem načrtu iz leta 2018 125 . Ukrepi, predlagani v nacionalnih strategijah, vključujejo na primer reforme formalnih sistemov izobraževanja za uvedbo ali krepitev poučevanja računalniškega razmišljanja, osnov računalništva in umetne inteligence v osnovni ali srednji šoli, pa tudi pobude za prilagoditev politik vseživljenjskega učenja in preusposabljanja 126 . V zvezi s tem mehanizem RRF ponuja tudi priložnost brez primere za podporo razvoju digitalnih spretnosti, vključno s spretnostmi na področju umetne inteligence, na vseh ravneh (formalnega in neformalnega) izobraževanja in usposabljanja kot pomemben element za doseganje 20-odstotnega digitalnega cilja. V okviru ciljev mehanizma za okrevanje in odpornost je razvoj digitalnih spretnosti na vseh ravneh pogoj za zagotovitev, da lahko vsi Evropejci sodelujejo v družbi in izkoristijo digitalno preobrazbo. Zato je Komisija v letni strategiji za trajnostno rast 2021 127 predlagala vodilni projekt „Preusposabljati in izpopolnjevati“ za spodbujanje naložb in reform, ki jih lahko države članice izvedejo za izboljšanje digitalnih spretnosti, vključno s spretnostmi na področju umetne inteligence in izobraževalnimi spretnostmi, ter poklicnega usposabljanja za vse starosti.

Komisija je septembra 2020 sprejela nov akcijski načrt za digitalno izobraževanje za obdobje 2021–2027. S tem akcijskim načrtom so posebni ukrepi za izboljšanje spretnosti na področju umetne inteligence vključeni v širši okvir spodbujanja digitalnih spretnosti 128 . Komisija je podpirala tudi evropski teden programiranja 129 , tj. gibanje, ki ga vodijo prostovoljci ter čim več ljudem prinaša računalniško razmišljanje, programiranje, robotiko, ukvarjanje s strojno opremo, računalništvo, umetno inteligenco in digitalne spretnosti 130 . Za podporo državam članicam pri njihovih prizadevanjih za povečanje ponudbe specializiranega izobraževanja na področju umetne inteligence je Komisija konec leta 2020 štirim univerzitetnim mrežam, MSP in centrom odličnosti na področju umetne inteligence dodelila nepovratna sredstva v skupni višini 6,5 milijona EUR za izvajanje odličnih magistrskih programov na področju umetne inteligence. Izbrane mreže bi morale s podporo finančnih sredstev EU skupaj oblikovati in izvajati visokokakovostne in praktične magistrske programe v različnih državah članicah, s posebnim poudarkom na humanocentrični umetni inteligenci, uporabi umetne inteligence v javni upravi in umetni inteligenci za zdravstvo 131 . Vsi programi bi morali vključevati tudi tečaje o etiki umetne inteligence, del vsebine pa bi moral biti na voljo na spletu prek platforme za digitalne spretnosti in delovna mesta v vseh jezikih EU 132 .

Napovedi

Komisija bo:

-v okviru ukrepov, načrtovanih v akcijskem načrtu za digitalno izobraževanje za obdobje 2021–2027:

-podpirala pripravništva na digitalnih področjih, pri čemer bo možnost udeležbe z univerzitetnih študentov razširjena tudi na dijake v poklicnem izobraževanju in učiteljsko osebje, poleg tega bo povečan poudarek na spretnostih na področju umetne inteligence, posebna pozornost pa bo namenjena načelu nediskriminacije in enakosti spolov, ter

-pripravila etične smernice o umetni inteligenci in uporabi podatkov pri poučevanju in učenju za pedagoge ter razvila podporo za povezane raziskovalne in inovacijske dejavnosti prek programa Obzorje Evropa. Ta ukrep bo temeljil na delu strokovne skupine na visoki ravni za umetno inteligenco v zvezi z etičnimi smernicami 133 . Smernice bo spremljal program usposabljanja za raziskovalce in učence o etičnih vidikih umetne inteligence, vključevale pa bodo cilj 45-odstotne udeležbe žensk v usposabljanju;

-podpirala pripravo podatkov o novih spretnostih v okviru programa znanj in spretnosti iz julija 2020, tudi na regionalni in sektorski ravni. Natančneje, opirala se bo na delo centra Cedefop (projekt Skills-OVATE 134 ) in uporabljala tehnologijo umetne inteligence za analizo velepodatkov na podlagi nabiranja zaposlitvenih oglasov, da bi dobila informacije v realnem času o trenutnem in nastajajočem povpraševanju po spretnostih. V tem okviru bo ustvarjeno stalno spletno orodje, v katerem bodo objavljene informacije v realnem času, ki jih bodo lahko uporabljali vsi zainteresirani deležniki;

-podpirala pobude, ki lajšajo vzajemno priznavanje specializiranih visokošolskih programov na področju umetne inteligence v EU 135 ;

-v okviru programa za digitalno Evropo podpirala ukrepe, vključno z oblikovanjem in izvajanjem specializiranih izobraževalnih programov, modulov in kratkoročnih tečajev usposabljanja na ključnih področjih zmogljivosti, tudi za strokovnjake iz različnih sektorjev, da bodo usposobljeni za uporabo digitalnih tehnologij. Razpis za specializirane programe bo objavljen v prvem četrtletju leta 2021, razpis za kratkoročno usposabljanje pa v prvem četrtletju leta 2022. Vse razpoložljive priložnosti in orodja za razvoj digitalnih spretnosti bodo predstavljeni na platformi za digitalne spretnosti in delovna mesta;

-v okviru programa Obzorje Evropa podpirala mreže centrov odličnosti na področju umetne inteligence (v okviru vodilnega centra na področju umetne inteligence) 136 . Poleg drugih nalog bi centri:

-preučevali možnosti za ohranitev talentov s tesnejšim sodelovanjem z industrijo in javnimi organi ter

-razvijali doktorske programe in module o umetni inteligenci, ki bi jih lahko vključili v magistrske programe, ki ne vključujejo izobraževanja o IKT;

-financirala doktorske mreže, podoktorske štipendije in skupne projekte izmenjave osebja na področju umetne inteligence v okviru ukrepov Marie Skłodowske-Curie. Razpisi za individualne štipendije in inovativne mreže usposabljanja (preimenovane v podoktorske štipendije in doktorske mreže) so načrtovani za drugo četrtletje leta 2021. Razpisi za izmenjave osebja za raziskave in inovacije (preimenovane v izmenjave osebja) in COFUND pa so načrtovani v četrtem četrtletju leta 2022 137 ter

-spodbujala enakost spolov prek programa Obzorje Evropa, tudi v projektih, povezanih z umetno inteligenco. Vključitev razsežnosti spola v vsebine raziskav in inovacij postane privzeta zahteva za celotni program. Leta 2022 bo uvedeno novo merilo za upravičenost za dostop do financiranja v okviru programa Obzorje Evropa. Javni organi, raziskovalne organizacije in visokošolske ustanove bodo morali imeti načrt za enakost spolov za vse projekte, financirane v okviru programa Obzorje Evropa 138 .

Države članice se spodbujajo, naj:

-v sodelovanju s socialnimi partnerji izpopolnijo in uvedejo razsežnost spretnosti v svojih nacionalnih strategijah za umetno inteligenco, na primer da bi:

-spodbujale razvoj računalniškega razmišljanja učencev, študentov in pedagogov v formalnem, neformalnem in priložnostnem izobraževanju na vseh ravneh ter podpirale namenske pobude, ki mlade spodbujajo, naj si izberejo poklic na področju umetne inteligence in sorodnih področjih, kot je robotika;

-pripravile programe za ozaveščanje učiteljev o vključevanju umetne inteligence v šolo na področju spretnosti IKT in tudi s širšega vidika;

-povečale razpoložljivost usposabljanja na področju umetne inteligence, tudi s financiranjem modulov o umetni inteligenci v humanističnih in družboslovnih magistrskih programih, dejavnostih vseživljenjskega učenja, usposabljanju sodnikov, odvetnikov in javnih uslužbencev ter s preusposabljanjem ljudi z netehnično izobrazbo z izobraževanjem o osnovah umetne inteligence in njenih posledicah za njihovo področje dela, ter

-testirale in ocenile izobraževalne tehnologije umetne inteligence ter, v primeru uspešnih rezultatov, podpirale njihovo izvajanje v primarnem in sekundarnem izobraževanju, da bi olajšale izpolnjevanje individualnih učnih potreb (npr. kognitivno poučevanje na podlagi umetne inteligence);

-si izmenjajo najboljše prakse o vključevanju umetne inteligence v splošno izobraževanje in druge specializirane programe (kot so tisti na področju zdravstva, prava, družbenih ved, poslovanja) 139 ter najboljše prakse o spodbujanju širokega in specializiranega znanja o umetni inteligenci v vseživljenjskem učenju;

-sprejmejo ukrepe ter si izmenjajo najboljše prakse za povečanje vključevanja in raznolikosti, tj. za olajšanje oblikovanja uravnoteženih skupin na področju umetne inteligence in privabljanje talentov na področju izobraževanja o umetni inteligenci, zlasti v okviru podiplomskega študija, in usposabljanja na področju umetne inteligence, pa tudi razvoja tehnologij umetne inteligence, ter

-kar najbolje izkoristijo edinstveno priložnost, ki jo ponuja mehanizem RRF, za financiranje ambicioznih pobud za izpopolnjevanje in preusposabljanje, kot je navedeno zgoraj.

9.Oblikovanje okvira politike za zagotovitev zaupanja v umetnointeligenčne sisteme

Zaupanje je bistveno za lažje uvajanje tehnologij umetne inteligence. Cilj evropskega pristopa k umetni inteligenci, kot je predlagan v beli knjigi o umetni inteligenci iz leta 2020, je „spodbujati inovacijske zmogljivosti Evrope na področju umetne inteligence, hkrati pa podpirati razvoj in uvajanje etične in zaupanja vredne umetne inteligence v vse sektorje gospodarstva EU. Umetna inteligenca mora delati za ljudi in v dobro družbe“ 140 . Glede na velike družbene in okoljske vplive tehnologij umetne inteligence ključna načela, ki usmerjajo evropski pristop, vključujejo humanocentrični pristop k razvoju in uporabi navedenih tehnologij, zaščito vrednot EU in temeljnih pravic, kot so nediskriminacija, zasebnost in varstvo podatkov, ter trajnostno in učinkovito rabo virov.

Pregled sprejetih ukrepov

Komisija je veliko truda vložila v mobilizacijo strokovnega znanja 141 , posvetovanje z najrazličnejšimi deležniki (vključno s socialnimi partnerji, nevladnimi organizacijami, industrijo, akademsko skupnostjo, regionalnimi organi in državami članicami) 142 in oblikovanje ukrepov politike za lažje doseganje zaupanja v umetno inteligenco.

Natančneje, ukrepi za lažje doseganje zaupanja so bili osredotočeni na vprašanja v zvezi z etiko, varnostjo, temeljnimi pravicami, vključno s pravico do nediskriminacije, odgovornostjo, regulativnim okvirom, inovacijami, konkurenco 143 in intelektualno lastnino.

Komisija je ob osredotočanju na temeljna vprašanja etike in tehnologij umetne inteligence ustanovila strokovno skupino na visoki ravni za umetno inteligenco (AI HLEG) 144 in lajšala njeno delo. Skupina je pripravila dva glavna dokumenta: etične smernice za zaupanja vredno umetno inteligenco 145 in ocenjevalni seznam za zaupanja vredno umetno inteligenco (ALTAI) 146 . V etičnih smernicah so opredeljeni ključna načela in zahteve za zaupanja vredno umetno inteligenco 147 , ocenjevalni seznam pa je zagotovil operativni okvir za podporo razvijalcem in uporabnikom umetne inteligence pri uporabi etičnih smernic. Delo strokovne skupine na visoki ravni za umetno inteligenco je sprožilo pomembne razprave o evropski viziji in pristopu k politiki na področju umetne inteligence ter prispevalo k oblikovanju regulativnega okvira o umetni inteligenci 148 .

Komisija je februarja 2020 objavila belo knjigo o umetni inteligenci ter poročilo o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika. V beli knjigi in poročilu sta opisana strateška vizija in predlog možnega regulativnega okvira EU o umetni inteligenci. Glede predpisov EU je Komisija predlagala osredotočenost na tri medsebojno povezana vprašanja: oblikovanje horizontalnega regulativnega okvira o umetni inteligenci s poudarkom na vprašanjih varnosti in temeljnih pravic, vprašanja odgovornosti v zvezi z umetno inteligenco in revizijo obstoječe sektorske varnostne zakonodaje, ki bi se opravila po potrebi 149 . V delovnem programu Komisije je navedeno, da namerava Komisija v letu 2021 predlagati navedene zakonodajne ukrepe.

Komisija in visoki predstavnik Unije za zunanje zadeve in varnostno politiko sta 16. decembra 2020 sprejela strategijo EU za kibernetsko varnost v digitalnem desetletju 150 , ki določa, kako bo EU varovala svoje ljudi, podjetja in institucije pred kibernetskimi grožnjami ter kako bo spodbujala mednarodno sodelovanje in vodila v zagotavljanju svetovnega in odprtega interneta. Poleg tega je Agencija Evropske unije za kibernetsko varnost (ENISA) za obravnavo posebnih tveganj za kibernetsko varnost, povezanih z umetno inteligenco, ustanovila večdisciplinarno ad hoc strokovno skupino za teme na področju kibernetske varnosti, povezane z umetno inteligenco.

Komisija je v svojem akcijskem načrtu za pravice intelektualne lastnine poudarila nekatere izzive, ki jih umetnointeligenčni sistemi pomenijo za pravice intelektualne lastnine 151 . Razpoložljivi dokazi kažejo, da je okvir EU za intelektualno lastnino na splošno primeren za obravnavanje izzivov, ki jih prinašajo stvaritve, pripravljene s podporo umetne inteligence. Še vedno pa obstajajo možnosti za izboljšave in nadaljnje usklajevanje. V akcijskem načrtu za pravice intelektualne lastnine je predlagano ukrepanje glede nekaterih vprašanj, zlasti s sodelovanjem z deležniki in zbiranjem dokazov, na katerih bo temeljilo oblikovanje politike.

Razprave o vprašanjih zaupanja in ureditvi so bile med drugim osredotočene na vprašanje inovacij, tj. kako oblikovati javno ureditev, ki inovacij ne bo zavirala, ampak jih olajšala in tako povečala evropsko konkurenčnost. V skladu s tem je Komisija za oblikovanje dinamičnega regulativnega pristopa opravila obsežna posvetovanja o izbiri oblike in vsebini regulativnega okvira 152 . Glavna pridobljena spoznanja so, da bi moral biti pristop EU humanocentričen, sorazmeren in dinamičen ter da bi moral temeljiti na tveganjih. Eden od elementov oblikovanja regulativnih okolij, ki spodbujajo inovacije, ki so jih predlagali različni deležniki, so regulativni peskovniki. Regulativni peskovniki v bistvu zagotavljajo centre za eksperimentiranje za javno ureditev in omogočajo hitrejšo oceno učinka javnega posredovanja. Povratne informacije, ki jih je prejela Komisija, kažejo široko podporo regulativnim peskovnikom, pri čemer je bilo v državah članicah že ustanovljenih več regulativnih peskovnikov, številni drugi pa so v postopku obravnave v različnih sektorjih.

Napovedi

Komisija bo:

-leta 2021 predlagala zakonodajni ukrep za horizontalni okvir za umetno inteligenco s poudarkom na vprašanjih varnosti in spoštovanja temeljnih pravic, značilnih za tehnologije umetne inteligence.

-Predlagani okvir zagotavlja opredelitev umetne inteligence, temelji na tveganju (tj. opredeljuje, kaj je umetna inteligenca „velikega tveganja“) in določa obvezne zahteve za umetnointeligenčne sisteme velikega tveganja. V njem je predlagan tudi mehanizem upravljanja, ki vključuje tako predhodno ugotavljanje skladnosti kot tudi sistem naknadnega ugotavljanja skladnosti in izvrševanja. Za vse ponudnike umetnointeligenčnih sistemov zunaj kategorije z velikim tveganjem veljajo obstoječa zakonodaja in zahteve glede preglednosti, poleg tega pa se lahko ti ponudniki odločijo za vključitev v prostovoljne, nezavezujoče samoregulativne sheme, kot so kodeksi ravnanja;

-leta 2022 predlagala ukrepe EU za prilagoditev okvira odgovornosti izzivom na področju novih tehnologij, vključno z umetno inteligenco, da se zagotovi, da imajo žrtve, katerih življenje ali zdravje se poslabša ali utrpijo škodo na premoženju zaradi novih tehnologij, dostop do enake odškodnine kot žrtve drugih tehnologij. To bi lahko vključevalo revizijo direktive o odgovornosti za proizvode 153 in zakonodajni predlog v zvezi z odgovornostjo za nekatere umetnointeligenčne sisteme. Vse nove ali spremenjene določbe obstoječe zakonodaje bodo upoštevale drugo obstoječo zakonodajo EU in predlagani horizontalni okvir za umetno inteligenco;

-leta 2021 in pozneje po potrebi predlagala revizije obstoječe sektorske varnostne zakonodaje, vključno s: ciljno usmerjenimi prilagoditvami direktive o strojih 154 , direktive o splošni varnosti proizvodov, direktive o radijski opremi in harmonizirane zakonodaje o izdelkih, ki sledi horizontalnim pravilom novega zakonodajnega okvira 155 . Vse nove ali spremenjene določbe obstoječe zakonodaje bodo upoštevale obstoječo zakonodajo EU o zdravju in varnosti pri delu;

-še naprej tesno sodelovala z najrazličnejšimi deležniki in jih dejavno vključevala, da bi promovirala ocenjevalni seznam ALTAI v sektorskih okvirih ter na posebnih področjih uporabe in izvajanja. Nadaljnji ukrepi bodo lahko osredotočeni na primer na vzpostavitev meritev in metod za ocenjevanje in spremljanje vpliva umetnointeligenčnih sistemov na okoljsko in družbeno blaginjo, vključevanje in raznolikost ter ukrepe za zagotovitev zaupanja vredne umetne inteligence v okviru javnih naročil. Iz programa Obzorje Evropa in programa za digitalno Evropo bi se lahko financirali mehanizmi za podporo takim pobudam, ki bi jih lahko države članice dodatno podpirale prek mehanizma RRF;

-leta 2021 organizirala dialoge z deležniki iz industrije in drugimi deležniki o intelektualni lastnini in novih tehnologijah;

-dodatno okrepila sodelovanje z agencijami EU in drugimi ustreznimi organi EU, ki se ukvarjajo z umetno inteligenco 156 ;

-na podlagi pregleda obstoječih dejavnosti standardizacije in zahtev, ki izhajajo iz predlaganega regulativnega okvira, sodelovala z evropskimi organizacijami za določanje standardov ter

-preučila ustanovitev nacionalnih, regionalnih ali sektorskih centrov za varnostne operacije, kot je opisano v novi strategiji EU za kibernetsko varnost, po možnosti kot večdržavni projekt 157 . Ti centri, ki jih poganja umetna inteligenca za boljše odkrivanje zlonamernih dejavnosti in dinamično učenje o spreminjajočem se okolju groženj, bodo tvorili „ščit kibernetske varnosti“ za EU, ki lahko dovolj zgodaj zazna znake kibernetskega napada in omogoči proaktivne ukrepe za večjo pripravljenost na skupno tveganje ter odgovor na nacionalni ravni in ravni EU.

Komisija in države članice bodo:

-sodelovale in usklajevale prizadevanja za zagotovitev pravočasnega in nemotenega izvajanja pravnega okvira EU za umetno inteligenco. Med posebnimi ukrepi, ki jih je treba opredeliti in začeti izvajati v skladu s sprejeto zakonodajo, so lahko na primer pobude za krepitev zmogljivosti pristojnih nacionalnih organov in priglašenih organov, ki bi bili odgovorni za postopke predhodnega ugotavljanja skladnosti nekaterih umetnointeligenčnih sistemov velikega tveganja, pri čemer bi oblikovali smernice in zbirke orodij; te dejavnosti so okvirno načrtovane od leta 2022 naprej;

-leta 2021 in pozneje še naprej sodelovale z evropskimi organizacijami za standardizacijo in vsemi ustreznimi deležniki, da bi zagotovile pravočasno sprejetje harmoniziranih standardov, potrebnih za operacionalizacijo zahtev in obveznosti, predvidenih v pravnem okviru. Oblikovanje teh dodatnih standardov lahko temelji na primer na zahtevah za standardizacijo, ki jih Komisija izda v skladu s členom 10 Uredbe (EU) št. 1025/2012, ter

-v obdobju 2021–2022 analizirale izvedljivost uporabe centrov za testiranje in eksperimentiranje, evropskih vozlišč digitalnih inovacij in platforme za umetno inteligenco na zahtevo za pomoč že uveljavljenim nacionalnim organom pri ocenjevanju in certificiranju tehnologij umetne inteligence.

10.Spodbujanje evropske vizije trajnostne in zaupanja vredne umetne inteligence v svetu

Zavzemanje za vodilno vlogo Evrope v svetu in spodbujanje razvoja humanocentrične, trajnostne, varne, vključujoče in zaupanja vredne umetne inteligence se bosta nadaljevala na podlagi ukrepov, sprejetih od usklajenega načrta iz leta 2018. V skladu s skupnim sporočilom o krepitvi prispevka EU k multilateralizmu, ki temelji na pravilih, in kot je določeno v sporočilu Komisije „Digitalni kompas do leta 2030: evropska pot v digitalno desetletje“, je mednarodna razsežnost pomembnejša kot kdaj prej. Posledice novih digitalnih tehnologij, kot je umetna inteligenca, presegajo meje in jih je treba obravnavati na svetovni ravni 158 .

EU bo spodbujala ambiciozne predpise in standarde na svetovni ravni, vključno s krepitvijo sodelovanja s podobno mislečimi državami in širšo skupnostjo več deležnikov ter v duhu Ekipe Evropa, da bi podpirala humanocentričen pristop k umetni inteligenci, ki temelji na pravilih. Da bi bil pristop EU učinkovit, bo še naprej temeljil na proaktivnem pristopu v različnih mednarodnih organih za oblikovanje čim močnejše koalicije držav, ki si delijo željo po regulativnih zaščitnih ukrepih in demokratičnem upravljanju, ki koristijo našim družbam. Hkrati bo EU vzpostavila stik z drugimi partnerji in iskala skupno podlago za vsako vprašanje posebej, da bi obravnavala številne različne priložnosti in izzive, povezane z umetno inteligenco.

Pregled sprejetih ukrepov

Mednarodni organi, kot so Združeni narodi (ZN), Organizacija ZN za izobraževanje, znanost in kulturo (Unesco), Organizacija za gospodarsko sodelovanje in razvoj (OECD), Svet Evrope, G7 in G20, se ukvarjajo z vprašanji umetne inteligence 159 . Mednarodne organizacije za standardizacijo, kot sta Mednarodna organizacija za standardizacijo (ISO) in Inštitut inženirjev elektrotehnike in elektronike (IEEE), se ukvarjajo s številnimi standardizacijskimi dejavnostmi na tem področju. V usklajenem načrtu iz leta 2018 je bilo poudarjeno, da bi imel razvoj umetne inteligence koristi od mednarodnega sodelovanja, zlasti z naprednimi državami, ki so močne na področju raziskav in inovacij ter vlagajo v umetno inteligenco, poleg tega je bila poudarjena koristnost oblikovanja mednarodnih standardov za lažje uvajanje in sprejemanje umetne inteligence. Sodelovanje EU z mednarodnimi organi se je izkazalo za učinkovito tudi pri prepoznavanju tveganj in zlonamerne uporabe, povezane z umetno inteligenco 160 .

EU dejavno sodeluje v svetovnem dialogu in spodbuja evropsko vizijo zaupanja vredne umetne inteligence na svetovni ravni, na primer:

-je ustanovna članica novega globalnega partnerstva za umetno inteligenco (GPAI), ki se je začelo julija 2020, pri čemer je močno zastopana v štirih delovnih skupinah za: upravljanje podatkov, odgovorno umetno inteligenco (vključno s podskupino za odziv na pandemijo), prihodnost dela ter komercializacijo in inovacije 161 ;

-EU tudi pomembno prispeva k delu OECD na področju umetne inteligence, in sicer s sodelovanjem v skupini strokovnjakov ONE-AI 162 ter v službi AI Watch pri zbiranju in objavi nacionalnih strategij za umetno inteligenco 163 ;

-Komisija je septembra 2020 začela velik projekt instrumenta zunanje politike, da bi z mednarodnimi partnerji sodelovala pri regulativnih in etičnih vprašanjih ter spodbujala odgovoren razvoj zaupanja vredne umetne inteligence na svetovni ravni;

-revizija uredbe o blagu z dvojno rabo 164 bo EU omogočila, da določi nova pravila, ki bodo omogočila večjo odgovornost in preglednost pri trgovanju z blagom z dvojno rabo, s čimer bodo pomagala preprečiti zlorabe umetne inteligence iz Evrope;

-EU ima med drugim dvostranske strukturirane dialoge s Kanado in Japonsko. Skupni odbor EU-Japonska za umetno inteligenco je novembra 2020 organiziral prvi sestanek, poleg tega so bile opravljene razprave o možnostih za okrepljeno sodelovanje s Kanado na področju umetne inteligence. Začelo se je tudi delo v zvezi s skupno projektno skupino za umetno inteligenco z Indijo, poleg tega se načrtuje začetek razprav z Avstralijo in Singapurjem;

-trenutno poteka dialog z Združenimi državami Amerike o razvoju in uvajanju zaupanja vredne umetne inteligence. Komisija in visoki predstavnik sta skupaj določila ambicije glede nove, v prihodnost usmerjene čezatlantske agende, vključno z digitalnimi in drugimi tehnološkimi vprašanji. Komisija zlasti predlaga ustanovitev sveta za trgovino in tehnologijo med EU in ZDA. Konkretno si bo Komisija prizadevala za sporazum o umetni inteligenci z ZDA 165 . Obstaja več kanalov za razprave s predstavniki ZDA (npr. dialog o informacijski družbi med EU in ZDA) 166 in različnimi institucijami/možganskimi trusti 167 ;

-EU še naprej podpira mednarodne organe za standardizacijo pri njihovem delu za opredelitev skupnih standardov na področju globalnega upravljanja umetne inteligence. V ta namen Komisija dejavno sodeluje v tekočih razpravah z vodilnimi organizacijami za standardizacijo, kot sta ISO in IEEE, da bi izmenjala najboljše prakse ter spodbujala svojo vizijo za odgovoren razvoj in uvajanje umetne inteligence po vsem svetu;

-Komisija je sodelovala tudi v javnem posvetovanju Svetovne organizacije za intelektualno lastnino (WIPO) o umetni inteligenci in intelektualni lastnini 168 ter dejavno sodeluje v razpravah WIPO.

Napovedi

EU bo okrepila dvostranska in večstranska prizadevanja za podporo vzpostavitvi enakih konkurenčnih pogojev za zaupanja vredno umetno inteligenco in njeno etično uporabo na svetovni ravni, zlasti na podlagi močnega čezatlantskega sodelovanja, pa tudi prek širše koalicije podobno mislečih partnerjev.

Komisija bo:

-še naprej sodelovala v mednarodnih, večstranskih in dvostranskih razpravah o zaupanja vredni umetni inteligenci, ki temeljijo na odprtem, na vrednotah temelječem pristopu, ter jih lajšala in podpirala, poleg tega bo na svetovnem prizorišču spodbujala pristop EU k umetni inteligenci, tj. z regulativnim sodelovanjem, strateškim komuniciranjem in javno diplomacijo;

-spodbujala določanje svetovnih standardov za umetno inteligenco v tesnem sodelovanju z mednarodnimi partnerji in še naprej sodelovala pri delu WIPO na področju umetne inteligence in pravic intelektualne lastnine ter

-okrepila prizadevanja v okviru dvostranskih izmenjav s tretjimi državami prek strukturiranih dialogov in skupnih pobud o umetni inteligenci. To bo vključevalo skupne projekte, kot je projekt EU in Japonske na področju umetne inteligence za pametno proizvodnjo 169 , ki ga EU financira v okviru programa Obzorje 2020.

Države članice in EU bodo:

-nadaljevale mednarodna prizadevanja za ozaveščanje o umetni inteligenci in zagotovile, da Evropa svetu pošilja dosledna sporočila o zaupanja vredni umetni inteligenci. Poleg tega bo Unija še naprej prispevala svoje strokovno znanje in namenska finančna sredstva, da bi umetno inteligenco trdneje zasidrala v diplomacijo in razvojno politiko, pri čemer bo poseben poudarek na državah južnega Sredozemlja in Afriki, ter

-olajšale izmenjave najboljših praks za ocenjevanje, testiranje in urejanje aplikacij umetne inteligence s svetovnimi akterji.

IV.Doseganje strateškega vodstva v sektorjih z velikim učinkom 

Poleg horizontalnih ukrepov je v pregledu usklajenega načrta za leto 2021 navedenih sedem sektorskih področij ukrepanja. Za boljšo uskladitev skupnih ukrepov na področju umetne inteligence z evropskim zelenim dogovorom in ukrepi EU v odziv na pandemijo COVID-19 so v pregledu predlagani ukrepi na področju okolja in zdravja. Ta uskladitev in okrepitev skupnih ukrepov je potrebna za prispevanje k sistemskim spremembam in zavezanosti EU k „ozelenitvi gospodarstva“. Orodja in aplikacije umetne inteligence, kot so „digitalni dvojčki“ Zemlje, bodo nepogrešljivi, če želi EU doseči cilje v smislu podnebne nevtralnosti, splošne manjše porabe virov, večje učinkovitosti in bolj trajnostne EU v skladu z agendo Združenih narodov do leta 2030 in cilji trajnostnega razvoja.

V boju proti COVID-19 je umetna inteligenca pokazala svojo vsestranskost, na primer s prispevanjem k analizam posnetkov računalniške tomografije (CT) (za odkrivanje zgodnjih znakov okužbe) in razvoju cepiv 170 . Pandemija je poudarila tudi pomen novih digitalno omogočenih načinov dela ter pomen sodelovanja med državami članicami v korist gospodarstva in javnosti na splošno 171 . Za uskladitev z razvojem trga in ukrepi, ki se izvajajo v državah članicah, so v pregledu predlagani tudi skupni ukrepi na področju robotike, javnega sektorja, mobilnosti, notranjih zadev in kmetijstva.

11.Uporaba umetne inteligence za podnebje in okolje

Razlogi za skupne ukrepe:

EU namerava zmanjšati emisije toplogrednih plinov za vsaj 55 % do leta 2030 in postati podnebno nevtralna do leta 2050 172 . Razvoj in razširjeno uvajanje podnebju in okolju prijaznih rešitev umetne inteligence ponujata velike možnosti za prispevanje k doseganju teh ambicioznih ciljev. To je bilo poudarjeno v nedavnih sklepih Sveta za okolje, ki izpostavljajo vlogo umetne inteligence pri doseganju ciljev evropskega zelenega dogovora 173 . V sklepih je bil poudarjen pomen osredotočenosti na morebitne neposredne in posredne negativne vplive umetne inteligence na okolje, poleg tega so bile države članice pozvane k izmenjavi izkušenj in pridobljenih spoznanj, Komisija pa k oblikovanju kazalnikov in standardov v zvezi z negativnim vplivom digitalizacije. Marca 2021 je 24 držav članic, Norveška in Islandija podpisalo izjavo o pospeševanju uporabe zelenih digitalnih tehnologij v korist okolja, in sicer s spodbujanjem razvoja in uporabe energetsko učinkovitih algoritmov 174 .

Poleg zmanjšanja emisij toplogrednih plinov bi lahko umetna inteligenca prispevala tudi k cenovno dostopnejšemu, bolj sprejemljivemu in krožnemu prehodu na čisto energijo. Optimizacija povezljivosti z energetskimi, prometnimi in komunikacijskimi omrežji ter reševanje podnebnih in okoljskih problemov, vključno z ravnanjem z odpadki in njihovo ponovno uporabo, plastičnimi proizvodi za enkratno uporabo, izčrpavanjem naravnih virov, onesnaževanjem vode in zraka, prilagajanjem podnebnim spremembam in izgubo biotske raznovrstnosti 175 . V tem okviru bi lahko tehnologije umetne inteligence predvsem podpirale doseganje ciljev zelenega dogovora prek štirih glavnih kanalov:

-prehoda na krožno gospodarstvo, na primer s povečanjem učinkovitosti proizvodnih procesov ter zmanjšanjem njihove porabe virov in energije;

-boljše vzpostavitve, povezovanja in upravljanja energetskega sistema ter opolnomočenja podjetij, javnih organov in državljanov, da izberejo najbolj trajnostne in učinkovite energetske možnosti;

-razogljičenja stavb, kmetijstva in proizvodnje ter učinkovitejšega upravljanja prometnih tokov pri vseh načinih prevoza: po cestah, železnicah in zraku, s čimer bi se zmanjšali zastoji, omogočila intermodalnost in zagotovil prispevek k uvajanju električnih samovozečih vozil v javnem in zasebnem prometu, ter

-omogočanja popolnoma novih rešitev, ki jih druge tehnologije niso omogočale.

Umetna inteligenca ima ključno vlogo pri ustvarjanju podatkov, informacij in znanja, pomembnih za politiko, za učinkovito in uspešno doseganje ciljev zelenega dogovora ter pri omogočanju prilagojenih posredovanj. Javni sektor bi moral dajati zgled pri razvoju trajnostne umetne inteligence in povpraševanju po njej 176 . Urbane rešitve, ki jih poganja umetna inteligenca, so primer, kako lahko mesta in skupnosti izkoristijo umetno inteligenco za doseganje okoljskih in podnebnih ciljev. Medtem ko umetna inteligenca ponuja velike možnosti za olajšanje doseganja podnebnih in okoljskih ciljev EU, ima tehnologija sama velik okoljski odtis, zlasti z vidika porabe energije. Zato so potrebni nadaljnja ocena in ukrepi, da se zagotovi pozitiven neto vpliv umetne inteligence na okolje.

Napovedi

Za uporabo umetne inteligence za podnebje in okolje bo Komisija:

-prek programa Obzorje Evropa pospešila raziskave in razvoj s poudarkom na prispevku umetne inteligence k trajnostni proizvodnji in na najpomembnejših področjih uporabe:

-v letu 2021 podpirala raziskave in inovacije na področju umetne inteligence za proizvodnjo brez napak, brez odpadkov, brez emisij in za pametno proizvodnjo;

-v letu 2021 podpirala raziskave in inovacije na področju rešitev pametnega kmetovanja, ki temeljijo na umetni inteligenci, s poudarkom na povečanju učinkovitosti, prilagojenih uporabah ter zmanjšanju vložkov in emisij;

-podpirala raziskave in razvoj rešitev za spremljanje kakovosti in razpoložljivosti vode, ki temeljijo na umetni inteligenci, ter

-pomagala MSP pri uvajanju trajnostnih rešitev umetne inteligence v proizvodnji s pobudo Inovacije za trajnostno proizvodnjo v MSP (I4MS2), v okviru katere bodo od leta 2022 financirana MSP, ki so pripravljena izvajati eksperimente, ob koncu katerih bodo v svoje poslovanje uvedla nove tehnologije;

-prek programa Obzorje Evropa podpirala raziskave za bolj zeleno umetno inteligenco, ki obravnavajo porabo energije tehnologij umetne inteligence:

-še naprej podpirala raziskave o varčni umetni inteligenci za razvoj lažjih, manj podatkovno intenzivnih modelov, ki porabijo manj energije, pri čemer se bodo projekti začeli leta 2022, ter

-institucionalizirano evropsko partnerstvo za ključne digitalne tehnologije, ki naj bi se začelo leta 2021, bo razvilo tehnologije, ki bodo omogočile selitev številnih aplikacij umetne inteligence s platform, ki porabijo veliko energije, na bolj trajnostne rešitve na robu omrežja, vključno z naslednjo generacijo procesorjev z majhno porabo energije za aplikacije umetne inteligence;

-zagotovila, da je okoljska razsežnost vključena v ukrepe v okviru programa za digitalno Evropo, katerih namen je zagotoviti širok dostop potencialnih uporabnikov po vsej Evropi do aplikacij umetne inteligence:

-s projekti, ki se bodo začeli leta 2022, podpirala centre za testiranje in eksperimentiranje za aplikacije umetne inteligence na področju pametnih in zelenih skupnosti, proizvodnje, energetike in agroživilskega sektorja, s čimer bo neposredno prispevala k okoljski trajnostnosti v teh sektorjih, in aplikacije umetne inteligence na robu omrežja ter

-olajšala široko uvajanje kompetenc na področju umetne inteligence prek mreže evropskih vozlišč digitalnih inovacij, ki bo dosegla tudi MSP in javne uprave, kar jim bo omogočilo eksperimentiranje z uporabo umetne inteligence za trajnostnost;

-ustvarila podatkovni prostor za podnebno nevtralne in pametne skupnosti ter ga potrdila prek pilotnih projektov, osredotočenih na področja ukrepanja v okviru evropskega zelenega dogovora (razpis v drugem četrtletju leta 2021, rezultati bodo na voljo v tretjem četrtletju leta 2022); 

-pripravila načrt za skupni podatkovni prostor za evropski zeleni dogovor, da bi se izkoristil velik potencial podatkov za trajnostnost in prilagajanje podnebnim spremembam (razpis v drugem četrtletju leta 2021) 177 ;

-prek pobude Destinacija Zemlja 178  razvila visokokakovostno digitalno simulacijo planeta, podprto z umetno inteligenco, za spremljanje in simulacijo naravne in človekove dejavnosti ter razvila in testirala scenarije, ki omogočajo bolj trajnosten razvoj in odpornost proti podnebnim spremembam 179 . Razvoj se bo začel v tretjem četrtletju leta 2021, prva faza pa bo končana do konca leta 2023;

-okrepila sektorski dialog o zeleni umetni inteligenci z izvršnimi vodji evropskih podjetij in drugimi zadevnimi deležniki, ki delujejo v različnih gospodarskih sektorjih, da bi se opredelili posebni ukrepi, potrebni v posameznem sektorju, za trajnostno uporabo umetne inteligence, ki bi koristila gospodarstvu, družbi in okolju. K temu ukrepu bodo prispevala združenja, ki zastopajo industrijske sektorje 180 ;

-preučila učinkovite načine za opredelitev ključnih kazalnikov uspešnosti za določitev in merjenje negativnih in pozitivnih vplivov umetne inteligence na okolje, pri čemer se bo oprla tudi na trenutno delo Komisije na področju z viri gospodarne, energijsko učinkovite in trajnostne infrastrukture za shranjevanje in obdelavo podatkov 181 ter na področju elektronskih komunikacij in na prejšnja širša prizadevanja na tem področju 182 . Ta cilj bi se lahko dosegel na primer z ustanovitvijo projektne skupine, ki bi ocenila tudi možnost vključitve okoljske ocene v merila za ocenjevanje umetnointeligenčnih sistemov (npr. v okviru javnih naročil), ter

-okoljska vprašanja vključila v svoje mednarodno usklajevanje in sodelovanje na področju umetne inteligence. Čeprav ima lahko umetna inteligenca pomembno vlogo pri reševanju izzivov na planetarni ravni, kot so podnebne spremembe in onesnaževanje z mikroplastiko, to zahteva usklajevanje v okviru mednarodnih organizacij in po možnosti neposredno sodelovanje s podobno mislečimi državami.

Države članice se spodbujajo, naj:

-si izmenjujejo rezultate nacionalnih prizadevanj za „zeleno umetno inteligenco“ in podnebnih ukrepov, delijo najboljše prakse z drugimi državami članicami in na podlagi svojih izkušenj predlagajo čezmejne projekte, prizadevanja za ozaveščanje in ukrepe, ki bi se lahko izvedli na evropski ravni;

-si izmenjajo lokalno razpoložljivo strokovno znanje in izkušnje prek mreže evropskih vozlišč digitalnih inovacij, ki lahko podpira dejavnosti usposabljanja in izmenjave znanja;

-podpirajo vključitev sestavnega dela „zelene umetne inteligence“ v univerzitetne in visokošolske učne načrte na področju umetne inteligence ter druga usposabljanja in programe na področju umetne inteligence ter

-sodelujejo z nacionalnimi deležniki na področju IKT in drugimi sektorskimi deležniki, vključno z organi za standardizacijo, pri določanju smernic za uvajanje in standardiziranih metodologij ocenjevanja za podporo „zeleni umetni inteligenci“ na področjih, kot so pametna omrežja, precizno kmetijstvo ter pametna in trajnostna mesta in skupnosti.

12.Uporaba naslednje generacije umetne inteligence za izboljšanje zdravja

Razlogi za skupne ukrepe:

EU je na svetovni ravni med vodilnimi pri uporabi umetne inteligence v zdravstvu in zdravstvenem varstvu 183 . To področje se je hitro razvijalo zaradi vse večje razpoložljivosti zdravstvenih podatkov in napredka brez primere na področju umetne inteligence. Tehnologije umetne inteligence lahko na primer razbremenijo zdravstvene sisteme, izboljšajo potek dela v bolnišnicah, optimizirajo dodeljevanje človeških in drugih virov, povečajo učinkovitost in uspešnost kliničnih preskušanj ter podpirajo odkrivanje novih zdravil. Umetnointeligenčni sistemi lahko ljudem pomagajo tudi pri kliničnih odločitvah in izbiri zdravljenja 184 ter izboljšajo analizo zdravstvenih slik, laboratorijskih ali histoloških podatkov, diagnostično točnost in dostop do zdravstvenega varstva 185 , s čimer zagotavljajo pomembne družbene koristi. Družbeni in ekonomski pomen aplikacij umetne inteligence v zdravstveni politiki je priznan in močno poudarjen na ravni politike EU 186 .

Pandemija COVID-19 je še bolj poudarila pomen umetne inteligence za zdravje in oskrbo, poleg tega je EU in državam članicam zagotovila spoznanja o koristih nadaljnjega sodelovanja na tem področju 187 . Umetna inteligenca je bila pomembna prednost v odzivu na pandemijo. Komisija je med drugim vlagala v hiter razvoj orodja za analizo računalniške tomografije (CT) prsnega koša, eksperimente s superračunalniki za opredelitev novih načinov zdravljenja COVID-19 in dobavo robotov za dezinfekcijo z UV svetlobo za obvladovanje širjenja koronavirusa 188 .

Razpoložljivost visokokakovostnih zdravstvenih podatkov ter možnost uporabe, kombiniranja in ponovne uporabe podatkov iz različnih virov v skladu s pravnim redom EU, vključno s splošno uredbo o varstvu podatkov in mednarodnimi zavezami Unije, sta bistvena pogoja za razvoj in uvajanje umetnointeligenčnih sistemov 189 . Zato je Komisija predlagala 190 in leta 2020 izvedla pripravljalne ukrepe za vzpostavitev evropskega zdravstvenega podatkovnega prostora (EHDS) 191 . Komisija trenutno pripravlja zakonodajni predlog o EHDS 192 . Sprejeti bodo ukrepi za: obravnavo vprašanj v zvezi z upravljanjem, varnostjo, varstvom podatkov in zasebnostjo, kakovostjo, infrastrukturo in interoperabilnostjo podatkov, digitalnim zdravjem in umetno inteligenco ter zagotovitev varnega prostega pretoka zdravstvenih podatkov in spodbujanje uvajanja digitalnega zdravja in umetne inteligence v zdravstvu. Delovna področja vključujejo vzpostavitev ustreznega pravnega okvira in okvira upravljanja za evropski zdravstveni podatkovni prostor, uvajanje vseevropske infrastrukture za izmenjavo zdravstvenih podatkov za raziskave in dostop do njih, oblikovanje politike in regulativne dejavnosti, razširitev obstoječe infrastrukture za izmenjavo zdravstvenih podatkov za zagotavljanje zdravstvenega varstva (Moje zdravje @ EU), izboljšanje kakovosti podatkov v zdravstvenem sektorju in krepitev zmogljivosti. Podatkovni prostor bo spodbudil širitev in uvajanje digitalnih zdravstvenih rešitev, vključno z umetno inteligenco, v zdravstvenem varstvu, s čimer bo pacientom prinesel konkretne koristi. Evropski zdravstveni podatkovni prostor bo podpiral učenje in testiranje algoritmov umetne inteligence.

Komisija je 25. novembra 2020 objavila sporočilo o evropski strategiji za zdravila 193 . Strategija je ključni steber vizije Komisije za vzpostavitev trdnejše evropske zdravstvene unije 194 in spodbujanje dostopa pacientov do inovativnih in cenovno dostopnih zdravil 195 .

Komisija podpira sodelovanje med državami članicami prek skupnega ukrepa za evropski zdravstveni podatkovni prostor, ki se je uradno začel izvajati v začetku leta 2021. Nacionalne naložbe podpira z instrumenti financiranja, kot so Evropski socialni sklad plus, InvestEU in mehanizem RRF. Ukrepi na evropski ravni so ali bodo podprti prek Programa EU za zdravje, programa za digitalno Evropo in programa Obzorje Evropa.

Komisija in države članice sodelujejo pri izvajanju evropskega načrta za boj proti raku 196 . Vključuje številne ukrepe, pri katerih bo umetna inteligenca bistvena za okrepitev oskrbe bolnikov z rakom, vključno z razvojem skupne zbirke zdravstvenih slik najpogostejših oblik raka za izboljšanje postavljanja diagnoze in zdravljenja s pomočjo umetne inteligence. Komisija je leta 2019 v podporo tej pobudi objavila razpis za zbiranje predlogov v okviru programa Obzorje 2020, pri čemer je za podporo razvoju analize zdravstvenih slik za diagnostiko in zdravljenje raka, ki temeljita na umetni inteligenci, namenila 35 milijonov EUR 197 .

Komisija preučuje tudi napredek umetne inteligence v zvezi z medicinskimi pripomočki, in vitro diagnostičnimi medicinskimi pripomočki in zdravili, da bi izboljšala bazo dokazov za odločitve za opredelitev potencialov in reševanje nastajajočih izzivov. Poleg tega Komisija preučuje uvajanje umetne inteligence v vsakodnevno klinično prakso in različne zdravstvene ustanove, da bi tudi opredelila potenciale in obravnavala nastajajoče izzive. Za zbiranje podatkov ter razvoj in testiranje umetnointeligenčnih sistemov, ki zagotavljajo varstvo osebnih podatkov in zasebnosti v skladu s splošno uredbo o varstvu podatkov in nacionalno zakonodajo, so potrebni referenčna merila in dobri primeri.

Napovedi

Komisija bo skupaj z državami članicami:

-predlagala zakonodajni ukrep o evropskem zdravstvenem podatkovnem prostoru. Ta zakonodajni ukrep bo dopolnjeval predlagano horizontalno zakonodajo o umetni inteligenci, njegov cilj pa bo podpirati učenje in testiranje algoritmov umetne inteligence ter delo regulativnih organov za ocenjevanje umetne inteligence, ki se uporablja v zdravstvu (četrto četrtletje leta 2021) 198 ;

-podpirala skupne projekte, ki združujejo deležnike, za pospešitev uporabe visokozmogljivostnega računalništva in umetne inteligence v kombinaciji z zdravstvenimi podatki EU za farmacevtske inovacije, kot je določeno v sporočilu o evropski strategiji za zdravila (uvajanje projektov 2021–2022);

-ocenila in revidirala splošno zakonodajo o zdravilih zaradi prilagoditve najsodobnejšim izdelkom, znanstvenemu razvoju (npr. genomika ali personalizirana medicina) in tehnološki preobrazbi, vključno z umetno inteligenco (npr. podatkovna analitika in digitalna orodja), ter zagotovitve prilagojenih pobud za inovacije, kot je predvideno v evropski strategiji za zdravila (2022) 199 ;

-do leta 2022 prek programa za digitalno Evropo ustanovila centre za testiranje in eksperimentiranje na področju tehnologij umetne inteligence in robotike za zdravstvo, pri čemer možna prednostna področja vključujejo COVID-19, rak, pediatrijo, tehnologije za pomoč pri dejavnem in samostojnem življenju, podporo za varnost pacientov in učinkovitost procesov;

-sprejela ukrepe za razširitev geografske pokritosti in čezmejne izmenjave zdravstvenih informacij prek storitve Moje zdravje @ EU, vključno s povzetki podatkov o pacientih, e-recepti, slikami, laboratorijskimi izvidi in odpustnicami, pa tudi ukrepe za podporo ponovni uporabi zdravstvenih podatkov za raziskave, oblikovanje politike in regulativne dejavnosti. Navedeni ukrepi se bodo financirali iz Programa EU za zdravje 200 , programa za digitalno Evropo in programa Obzorje Evropa, pri čemer bo cilj do leta 2025 zagotoviti, da:

-lahko državljani vseh držav članic svoje zdravstvene podatke delijo z izvajalci zdravstvenih dejavnosti in organi po lastni izbiri;

-je po vsej EU vzpostavljena infrastruktura evropskega zdravstvenega podatkovnega prostora za dostop do zdravstvenih podatkov za raziskave in oblikovanje politike. Umetna inteligenca bo pomemben del evropskega zdravstvenega podatkovnega prostora ter bo omogočala podatkovno analitiko, s čimer bo podpirala in pospeševala raziskave;

-še naprej podpirala uvajanje infrastrukture, potrebne za povezovanje in raziskovanje evropskih podatkovnih zbirk, na primer zbirk medicinskih slik različnih vrst raka, ter spodbujala tehnologije umetne inteligence za izkoriščanje visokokakovostnih repozitorijev slik raka;

-olajšala uporabo tehnologij umetne inteligence v popolni skladnosti z zakonodajo o varstvu podatkov, etičnimi načeli in pravili o konkurenci za opredelitev novega znanja ter podporo kliničnim raziskavam in odločanju v okviru pobude o več kot enem milijonu genomov (1+ milijona genomov). Ta pobuda temelji na izjavi držav članic o več kot enem milijonu genomov, njen cilj pa je, da bi bilo za raziskave v EU na voljo vsaj milijon genomov;

-s spodbujanjem funkcionalnega, vključujočega sistema EU podpirala razvoj in uvajanje aplikacij „digitalnih dvojčkov v zdravstvu in oskrbi“, pri čemer bodo imele tehnologije umetne inteligence osrednjo vlogo, ter

-v okviru programa Obzorje Evropa vlagala v razvoj in klinično potrditev robustnih, pravičnih in zaupanja vrednih sistemov za zdravljenje in oskrbo, ki jih poganja umetna inteligenca in temeljijo na povpraševanju, vključno s personalizirano preventivo in napovedovanjem tveganja za bolezni, s posebnim poudarkom na učinkovitosti, varnosti, zaščiti, razložljivosti, zagotavljanju povratnih informacij in podpore pri preprečevanju goljufij v zdravstvu, uporabnosti in (stroškovni) učinkovitosti rešitev umetne inteligence ter uporabi/ponovni uporabi nestrukturiranih zdravstvenih podatkov.

Države članice se spodbujajo, naj:

-sprejmejo ukrepe za povečanje kakovosti in semantične interoperabilnosti zdravstvenih podatkov, kar je bistveno za razvoj in uporabo umetne inteligence;

-oblikujejo ukrepe in podpirajo pobude za izboljšanje razumevanja in sprejemanja digitalne tehnologije s strani zdravstvenih delavcev, da bi pospešile sprejetje sistemov, ki temeljijo na umetni inteligenci, v zdravstvu;

-izvajajo priporočila, ki spodbujajo izpopolnjevanje zdravstvenih delavcev na področju e-zdravja, in se dogovorijo o skupnih evropskih kazalnikih kakovosti za nadaljnje izobraževanje na področju medicine;

-spodbujajo pobudo o več kot enem milijonu genomov, po možnosti z nacionalnimi načrti za okrevanje in odpornost, tudi kot večdržavni projekt;

-podpirajo naložbe v sekundarno uporabo zdravstvenih podatkov, tudi za umetno inteligenco, na primer z uporabo sredstev mehanizma RRF;

-sprejmejo ukrepe za lažjo integracijo inovativnih sistemov, ki temeljijo na umetni inteligenci (npr. strojno učenje, avtonomni sistemi, pogovorni agenti, velepodatki, robotika), v zdravstvenih ustanovah in ustanovah za oskrbo, kot so bolnišnice in domovi, zlasti če je v nacionalnih načrtih za okrevanje in odpornost določena digitalizacija zdravstvenih sistemov;

-podpirajo evropska vozlišča digitalnih inovacij, specializirana za medicinske tehnologije in e-zdravje, da bi regionalnim/nacionalnim zdravstvenim sistemom in industriji pomagala pri raziskovalnih prizadevanjih za izboljšanje zdravljenja in napredka pri premagovanju koronavirusa, ter

-z nacionalnimi, regionalnimi in mednarodnimi organi za standardizacijo sodelujejo pri oblikovanju standardov, da bi opredelili in določili skupne standarde, tudi glede vprašanj, kot so zaščita, varnost, zasebnost in interoperabilnost, ter posodobili obstoječe standarde za umetno inteligenco za zdravstvo.

13.Ohranjanje vodilnega položaja Evrope: strategija za robotiko v svetu umetne inteligence

Razlogi za skupne ukrepe:

robotika, ki jo poganja umetna inteligenca, je ključni dejavnik, ki omogoča produktivnost, konkurenčnost, odpornost in odprto strateško avtonomijo EU, hkrati pa ohranja odprto gospodarstvo v svetu, ki se digitalizira 201 . Robotika hitro napreduje, umetnointeligenčni roboti pa se vse pogosteje uvajajo, kar pomembno vpliva na številne ključne sektorje, kot so zdravstvo, agroživilski sektor, inšpekcijski nadzor in vzdrževanje, logistika, vesoljski sektor, gradbeništvo, proizvodnja itd. Sprejemanje robotike, ki temelji na umetni inteligenci, bo spodbudilo razvoj v robotski industriji EU in razširilo nabor dejavnosti, v katerih roboti delujejo, s čimer se bo povečalo sodelovanje med ljudmi in roboti 202 .

Vpliv COVID-19 na svetovno gospodarstvo je pokazal potrebo po bolj odpornih dobavnih verigah. Avtomatizacija z roboti ponuja možnosti za selitev dela proizvodnje nazaj v Evropo in povečanje njene avtonomije v kritičnih vrednostnih verigah. Pričakuje se, da bo robotika vse bolj podpirala delavce na različne načine in izboljšala delovne pogoje. Zaradi demografskih izzivov v Evropi se bo povečala potreba po robotih in avtomatizaciji 203 , zlasti v storitvenem sektorju (predvsem v zdravstvu in samostojnem življenju starejših).

Skratka, robotika naj bi prinesla velike koristi za družbo, gospodarstvo, okolje in širšo javnost.

Ta razvoj spremljajo številni izzivi. Spreminjajoči se svet dela poudarja potrebo po oblikovanju novih delovnih metod in razvoju ustreznega usposabljanja na področju spretnosti in kompetenc za delo z roboti ter potrebo po razumevanju njihovih zmožnosti in omejitev. Če se ti dejavniki ne bodo obravnavali, bodo zmanjšali zaupanje v robotsko tehnologijo in njeno sprejemanje. Komisija bo še naprej pozorno spremljala vplive na družbo, zaposlovanje ter delovne pogoje glede na razvoj in uvajanje tehnologij umetne inteligence.

Po drugi strani je posebnost robotike povezana s fizično interakcijo z ljudmi in okoljem. Roboti bodo postali vse bolj avtonomni in bodo sodelovali z ljudmi, pa naj bodo to roboti na delovnem mestu, ki pridejo iz kletk, ali roboti, ki zagotavljajo storitve. To odpira vprašanja varnosti: zaradi bližine ljudi in interakcije z njimi so potrebni zelo strogi varnostni standardi za preprečevanje nesreč in poškodb. Odpira tudi vprašanja glede zagotavljanja dostopnosti za invalide in njihove vključenosti. Roboti so tudi vse bolj povezani med seboj in z drugimi vrstami naprav ter obdelujejo več podatkov, kar predstavlja možna tveganja za zasebnost in kibernetsko varnost. Vsi ti premisleki poudarjajo potrebo po obravnavi testiranja, kot je načrtovano v prihodnjih centrih za testiranje in eksperimentiranje, ter po obravnavi vprašanj, kot sta certificiranje in skladnost z regulativnim okvirom, na primer prek regulativnih peskovnikov.

Zato je robotika področje politike z velikim potencialom za vpliv na gospodarstvo in družbo, vključno s ključnimi področji za podporo zelenemu in digitalnemu prehodu v Evropi.

Evropa je v dobrem položaju, da izkoristi ta potencial in obravnava izzive. Evropa ima vodilno robotsko industrijo in raziskovalno skupnost: je dom številnih proizvajalcev robotov, ki proizvedejo približno četrtino vseh industrijskih in strežnih robotov. Na nekaterih področjih poklicnih storitev robotike, kot so roboti za molžo, evropski proizvajalci prevladujejo na trgu. Evropa je tudi vodilna v raziskavah na področju robotike, v okviru katerih so bili dokazani učinki v številnih primerih uporabe v ključnih sektorjih (npr. zdravstvu, kmetijstvu, inšpekcijskem nadzoru, pomorstvu, proizvodnji). Razvoj na področju industrijskih in poklicnih storitev robotike se zbližuje in medsebojno krepi. To evropskim razvijalcem ponuja edinstveno priložnost, da okrepijo svoje zmogljivosti in možnosti na trgu.

Kljub temu so za ohranitev in utrditev močnega položaja Evrope in popolno izkoriščanje njenih sredstev potrebne intelektualne in finančne naložbe, pa tudi sodelovanje med najrazličnejšimi javnimi in zasebnimi akterji. Poleg tega je treba pri ukrepanju Evrope na področju robotike izkoristiti najnovejši razvoj umetne inteligence za obravnavo inovacij in standardizacije, vprašanj zaupanja, pomanjkanja spretnosti ter vpliva na delovna mesta in okolje, da se omogoči uvajanje varnih in zaupanja vrednih robotskih rešitev.

Napovedi

Komisija bo:

-v okviru tega usklajenega načrta izvajala ukrepe za zagotovitev, da Evropa ostane globalna gonilna sila na področju robotike. Ta ukrep vključuje elemente raziskav, inovacij in uvajanja 204 ter pomembne vidike, povezane z varnostjo, zaščito, testiranjem in potrjevanjem, družbeno-gospodarskimi vprašanji, spretnostmi in kompetencami ter zaupanjem in etiko. Temelji na strateškem pristopu, uporabljenem pri preteklih in sedanjih pobudah, zlasti pri javno-zasebnem partnerstvu za robotiko v okviru programa Obzorje 2020 in novem skupaj načrtovanem evropskem partnerstvu za umetno inteligenco, podatke in robotiko v okviru programa Obzorje Evropa, ter ga nadalje razvija;

-na podlagi informacij iz obstoječih struktur in drugih ustreznih pobud politike na ravni EU in nacionalni ravni 205 ter za njihovo dopolnitev, če bo potrebna, ocenila in po potrebi razvila posebno opazovalnico politike na področju robotike, ki bo spremljala in podpirala izvajanje strategije za robotiko z merjenjem napredka ter podpiranjem usklajevanja in sodelovanja;

-z začetkom leta 2021 pregledala možne regulativne ovire in podpirala certificiranje, ki bo omogočilo razvoj in uvajanje robotskih rešitev;

-preizkusila pričakovano zmogljivost in varnost robotov, ki jih poganja umetna inteligenca, prek namenskih centrov za testiranje in eksperimentiranje svetovnega razreda v okviru programa za digitalno Evropo, ki bodo ustanovljeni od leta 2022. Centri za testiranje in eksperimentiranje bi morali prispevati tudi k postopkom ugotavljanja skladnosti in razvoju dejavnosti standardizacije na tem področju;

-nadalje podpirala razvoj robotskih rešitev in od leta 2022 njihovo uvajanje s centri za testiranje in eksperimentiranje, ki prispevajo k zelenemu dogovoru, pri čemer bo poudarek tudi na drugih družbenih izzivih, kot so zdravje in dobro počutje ljudi;

-podpirala raziskave in inovacije na področju robotike v Evropi s skupaj načrtovanim evropskim partnerstvom za umetno inteligenco, podatke in robotiko, pri čemer se bo opirala na pretekle uspehe pri prejšnjih partnerstvih 206 . Pri tem javno-zasebnem partnerstvu, ki naj bi se začelo v drugem četrtletju leta 2021, bo poseben poudarek tudi na standardizaciji, da bi se spodbudilo sodelovanje med deležniki v ekosistemu na področju robotike;

-spodbudila svojo namensko mrežo evropskih vozlišč digitalnih inovacij za podporo evropskemu robotskemu sektorju in deležnikom ter spodbujanje sprejemanja; 

-vključila robotiko med teme, na katere je osredotočena ambiciozna strategija za napredne digitalne spretnosti v okviru programa za digitalno Evropo, in sicer s podpiranjem specializiranih izobraževalnih programov ali modulov, zaposlitev in kratkotrajnih usposabljanj na področju robotike od leta 2022;

-prek projektov v okviru programa Obzorje Evropa od leta 2022 podpirala raziskave in inovacije za naslednjo generacijo robotike, ki jo poganja umetna inteligenca. Pobude bi morale biti med drugim osredotočene na to, da bi roboti bolj sodelovali in bolje „razumeli“ svet, s čimer bi se zagotovile varnost, energijska učinkovitost in robustnost, na primer za delovanje v ekstremnih fizičnih pogojih, ter

-podpirala izmenjavo znanja, prakse in izkušenj na področju robotike, na primer za primere uporabe v določenih sektorjih ali določene vrste robotov (brezpilotne zrakoplove itd.).

Komisija in države članice bodo:

-sodelovale pri analizi ustreznih pobud na področju umetne inteligence in robotike na ravni EU in nacionalni ravni ter opredelile morebitne vrzeli, prednostne naloge in metrike politike;

-sodelovale z nacionalnimi, regionalnimi in mednarodnimi organi za standardizacijo pri določanju skupnih standardov, tudi o vprašanjih, kot so varnost, zaščita, interoperabilnost, večagentni sistemi ali deljena in drseča avtonomija, da bi posodobili obstoječe standarde za pametno robotiko, ter

-spodbujale robotiko v izobraževanju za vse starostne skupine, skupine obeh spolov in družbene skupine, da bi povečale ozaveščenost in zaupanje, vključno z uporabo robotike kot orodij za podporo pri učenju in usposabljanju, v skladu s pobudami na področju spretnosti in talentov.

Države članice se spodbujajo, naj:

-pripravijo nacionalne naložbene načrte za robotiko v okviru svojih strategij za umetno inteligenco, in sicer na podlagi evropske strategije in ob tesnem sodelovanju z nacionalnimi deležniki, pri čemer naj bo poudarek na raziskavah in inovacijah, za podporo digitalnemu prehodu pa naj uporabijo mehanizem za okrevanje in odpornost.

14.Zagotovitev pionirske vloge javnega sektorja pri uporabi umetne inteligence

Ta oddelek se osredotoča na ukrepe, ki podpirajo uvajanje tehnologij umetne inteligence v javnem sektorju.

Pregled sprejetih ukrepov

Aplikacije umetne inteligence lahko prispevajo k boljšim javnim storitvam, na primer z izboljšanjem interakcij med državljani in vlado, omogočanjem pametnejših analitičnih zmogljivosti ali izboljšanjem učinkovitosti na vseh področjih javnega sektorja in podpiranjem demokratičnih procesov 207 . Uporaba umetnointeligenčnih sistemov lahko prinese koristi v vseh ključnih dejavnostih javnega sektorja. Z zgodnjim sprejetjem umetne inteligence lahko javni sektor postane prvi pobudnik sprejemanja umetne inteligence, ki je varna, zaupanja vredna in trajnostna 208 .

Da bi se uresničilo globlje in širše uvajanje umetne inteligence, bi moral imeti javni sektor Evrope dostop do ustreznega financiranja ter biti opremljen, usposobljen in pooblaščen za izvajanje strateških in trajnostnih nakupov in sprejemanje sistemov, ki temeljijo na umetni inteligenci. Mehanizem RRF ponuja priložnost brez primere za pospešitev uvajanja umetne inteligence v javni upravi po vsej Evropi prek svojega vodilnega projekta „Modernizirati“, katerega cilj je spodbuditi naložbe in reforme za digitalizacijo javne uprave.

Javna naročila so ključna pri sprejemanju umetne inteligence v javnem sektorju. Lahko tudi pomagajo spodbuditi povpraševanje in ponudbo zaupanja vrednih in varnih tehnologij umetne inteligence v Evropi. V zvezi s tem Komisija pripravlja program za sprejemanje umetne inteligence (Adopt AI) 209 za podporo javnemu naročanju umetnointeligenčnih sistemov in pomoč pri preoblikovanju samih postopkov javnega naročanja. Cilj programa je evropskemu javnemu sektorju pomagati, da s svojo veliko kolektivno kupno močjo deluje kot katalizator in spodbuja povpraševanje po zaupanja vredni umetni inteligenci. Javni sektor lahko z uporabo zaupanja vrednih in humanocentričnih aplikacij umetne inteligence utira pot na področju razvoja, kupovanja in uvajanja, na primer z javnim naročanjem inovativnih rešitev ali usmerjanjem razvoja novih rešitev v svoje potrebe prek praks predkomercialnega javnega naročanja.

Skoraj vse nacionalne strategije držav članic za umetno inteligenco vključujejo ukrepe za spodbujanje uporabe umetne inteligence pri javnih storitvah 210 . Trenutno več kot polovica rešitev umetne inteligence v uporabi prinaša postopne ali tehnične spremembe v postopkih v javnem sektorju 211 . Države članice in Komisija so začele sodelovati pri vzajemnem učenju in izmenjavi najboljših praks na področju umetne inteligence v javnem sektorju na ravni EU 212 .

Skupna čezmejna javna naročila ali predkomercialna javna naročila inovativnih rešitev umetne inteligence ponujajo možnosti za izkoriščanje sinergij in doseganje večje kritične mase pri uvajanju rešitev umetne inteligence na trg javnega sektorja po Evropi. Obstaja priložnost za skupno evropsko ukrepanje pri javnem naročanju, uvajanju, dajanju v uporabo in nadgrajevanju rešitev umetne inteligence med državami članicami.

Javnim upravam v državah članicah je bil novembra 2018 na primer predstavljen portal eTranslation (e-prevajanje) Evropske komisije, ki temelji na umetni inteligenci 213 . Dve leti pozneje 6 600 javnih uslužbencev v državah članicah uporablja spletni portal eTranslation. Nacionalni organi lahko zahtevajo neposreden dostop do spletne storitve, ki jo trenutno uporablja približno 50 uprav, vključno s švedskim nacionalnim podatkovnim portalom, italijansko poslansko zbornico ali nosilci socialne varnosti 214 . Komisija je sodelovala tudi pri ukrepih, povezanih z umetno inteligenco, na primer v programu ISA² 215 , vključno s pilotnim projektom za obravnavo uporabe strojnega učenja za pregledovanje/razvrščanje dokumentov v upravah 216 . Druge pobude so vključevale na primer analizo uporabe umetne inteligence na področju pravosodja 217 in organizacijo praktičnih spletnih seminarjev o uporabi aplikacij umetne inteligence na tem področju 218 .

Napovedi

Komisija bo:

-leta 2021 začela izvajati program za sprejemanje umetne inteligence (Adopt AI), kot je napovedano v beli knjigi, za podporo javnemu naročanju umetnointeligenčnih sistemov in pomoč pri preoblikovanju samih postopkov javnega naročanja 219 ; zlasti:

-bodo odprti in pregledni sektorski dialogi pomagali povezati javne naročnike (ki želijo vedeti, katere rešitve so na voljo za izpolnitev njihovih potreb) in evropsko industrijo (ki želi javnim upravam zagotoviti izdelke/storitve in mora vedeti več o njihovih načrtih) 220 ;

-bo to organizirano na evropski ravni, tako da se bodo lahko države članice učile druga od druge. Evropska vozlišča digitalnih inovacij se bodo uporabljala za spodbujanje dialoga med akterji v industriji po vsej Evropi 221 . Program bo tako spodbudil naložbe industrije v umetno inteligenco in razvoj novih tehnologij in aplikacij umetne inteligence;

-leta 2021 oblikovala podatkovni prostor za javna naročila 222 , ki bo zagotovil celovit pregled trgov javnih naročil v EU 223 . Prihodnje informacijsko orodje bo olajšalo uporabo metod umetne inteligence za analizo podatkov o javnih naročilih. Razpoložljivi podatki v kombinaciji s posodobljenimi zmogljivimi orodji za analizo bodo ključni za izboljšanje upravljanja javnih naročil ter

-še naprej lajšala vzajemno učenje držav članic in njihovo zbiranje informacij o smernicah in uvajanju umetne inteligence v javnih storitvah na podlagi najboljših praks in analize možnosti za ponovno uporabo, ki jih ponujajo sistemi in rešitve, ki temeljijo na umetni inteligenci, pri čemer bo opredelila priložnosti za sodelovanje med ustreznimi deležniki iz različnih sektorjev 224 .

Komisija bo ob podpori držav članic:

-prek programa za digitalno Evropo financirala pobude za sprejetje umetne inteligence v javnih upravah na lokalni ravni s krepitvijo evropskih zmogljivosti za uvajanje in razširjanje lokalnih digitalnih dvojčkov, ki jih poganja umetna inteligenca 225 (razpis v četrtem četrtletju leta 2021, začetek projekta v tretjem četrtletju leta 2022);

-podpirala javne uprave, vključno z mesti in skupnostmi, pri ustvarjanju registrov algoritmov umetne inteligence za povečanje zaupanja državljanov in spodbujala uporabo katalogov aplikacij, podprtih z omogočeno umetno inteligenco, za uprave, da bi se povečalo uvajanje umetne inteligence v javnem sektorju, na primer prek platforme za umetno inteligenco na zahtevo (razpis v četrtem četrtletju leta 2021, začetek projekta v tretjem četrtletju leta 2022), ter

-še naprej podpirala javne uprave, vključno z mesti in skupnostmi, pri javnem naročanju zaupanja vredne umetne inteligence, in sicer s pripravo nabora minimalnih zmogljivosti za algoritme, ki se bo uporabljal v pogodbenih pogojih (npr. mehanizem minimalne interoperabilnosti (MIM) za pravično umetno inteligenco) 226 , prek gibanja Living-in.EU 227 in na druge načine. Minimalne zmogljivosti bi lahko vključevale vmesnike za aplikacijsko programiranje za razkrivanje stopenj avtomatiziranega sprejemanja odločitev.

Države članice se spodbujajo, naj:

-v celoti izkoristijo priložnosti, ki jih ponuja mehanizem RRF, tako da v svoje nacionalne načrte za okrevanje in odpornost vključijo ukrepe, osredotočene (na primer) na krepitev zmogljivosti za izkoriščanje prednosti napovedne analitike in umetne inteligence pri oblikovanju politike in izvajanju javnih storitev. Predlagane reforme in naložbe v okviru tega sestavnega dela podpirajo vodilni projekt „Modernizirati“ mehanizma RRF, ki je osredotočen na digitalizacijo javne uprave in storitev, vključno s pravosodnimi in zdravstvenimi sistemi. Lahko odražajo tudi cilje vodilnega projekta „Preusposabljati in izpopolnjevati“ mehanizma RRF, tako da zagotavljajo spretnosti in nove kompetence za javne uslužbence in vodstvene delavce, zlasti v zvezi z zelenim in digitalnim prehodom ter spodbujanjem inovacij v javni upravi.

15.Uporaba umetne inteligence na področju preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ter migracij in azila

Razlogi za skupne ukrepe:

če so umetnointeligenčni sistemi zasnovani in uporabljeni v skladu z demokratičnimi načeli in temeljnimi pravicami, lahko postanejo osrednja tehnologija za podporo organom za notranje zadeve (vendar ne za njihovo nadomestitev) 228 in krepitev varnosti. Zlasti organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj bi morali imeti možnost, da ukrepajo v hitro spreminjajočem in razvijajočem se okolju kaznivih dejanj, da bi izboljšali zaščito in varnost vseh oseb 229 . Umetna inteligenca lahko izboljša tudi kibernetsko varnost, na primer tako, da pomaga pri obveščanju o grožnjah s prepoznavanjem vzorcev na podlagi preteklih izkušenj, zmanjša odzivni čas v primeru incidentov in olajša zagotavljanje skladnosti z najboljšimi praksami v zvezi z varnostjo.

Države članice vse bolj uporabljajo umetnointeligenčne sisteme na področju notranjih zadev 230 , saj so se izkazali za zelo koristne pri krepitvi javnega reda, podpiranju točnega odločanja ter boju proti kaznivim dejanjem in terorizmu 231 . Bistveno je tesnejše sodelovanje pri razvoju in uvajanju tehnologij umetne inteligence na področju notranjih zadev. Z združevanjem moči in ob popolnem spoštovanju temeljnih pravic lahko organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj in drugi organi držav članic učinkoviteje obravnavajo nove izzive, ki jih predstavljajo ogromna količina podatkov, vse bolj prefinjena in zapletena kriminalna dejavnost ter uporaba umetne inteligence s strani hudodelskih združb, zlasti na področju kibernetske kriminalitete 232 , pa tudi vse večje zahteve po nemotenih, hitrih in uporabniku prijaznih postopkih. V skladu s tem so države članice kot eno od političnih prednostnih nalog ponovile, da je treba zagotoviti, da lahko organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ob upoštevanju jasnih zaščitnih ukrepov uporabljajo tehnologije umetne inteligence pri svojem vsakdanjem delu, ter poudarile, da je to pomemben mejnik za podporo delovanju območja svobode, varnosti in pravice 233 . Države članice so Komisijo pozvale, naj spodbuja oblikovanje skupine nadarjenih strokovnjakov za umetno inteligenco ter olajša razvoj priložnosti za usposabljanje na področju digitalne pismenosti in spretnosti za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj 234 .

Komisija je 9. decembra 2020 sprejela agendo EU za boj proti terorizmu 235 , v kateri je poudarjen močan vpliv umetne inteligence na zmožnost organov za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, da se odzovejo na teroristične grožnje v skladu s temeljnimi pravicami in svoboščinami. Države članice in EU so prav tako leta 2020 ustanovile vozlišče inovacij EU za notranjo varnost, ki se osredotoča tudi na orodja umetne inteligence 236 ter se uporablja kot mreža za sodelovanje. Komisija je poleg tega sprejela predlog o okrepljenih pooblastilih Europola, da bi agenciji omogočila obravnavanje nastajajočih groženj in učinkovito sodelovanje z zasebnimi stranmi ter okrepila njeno vlogo pri inovacijah 237 . Europol bi moral imeti ključno vlogo pri: (1) pomoči državam članicam pri razvoju novih tehnoloških rešitev, ki temeljijo na umetni inteligenci, kar bi koristilo nacionalnim organom preprečevanja, odkrivanja in preiskovanja kaznivih dejanj po vsej Uniji, ter (2) spodbujanju etične, zaupanja vredne in humanocentrične umetne inteligence, za katero bi morali veljati strogi zaščitni ukrepi v smislu varnosti in temeljnih pravic 238 . Komisija je 14. aprila 2021 predstavila tudi novo strategijo EU za boj proti organiziranemu kriminalu, katere cilj je zagotoviti sodoben odziv na tehnološki razvoj, vključno z uporabo umetne inteligence v kazenskih preiskavah, na primer za analizo velikih količin podatkov ali preiskave temnega omrežja 239 .

Poleg tega je Komisija za obravnavo posebnih izzivov na področju notranjih zadev, vključno s sposobnostjo odzivanja na kazniva dejanja, storjena ali olajšana z uporabo tehnologij umetne inteligence, oblikovala posebne sektorske delovne sklope za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ter migracije in azil 240 . Prizadevanja EU za usklajevanje na tem področju politike se osredotočajo na povečanje učinkovitosti pristojnih organov z združevanjem virov in strokovnega znanja, izmenjavo najboljših praks in prilagoditvijo pravnega okvira, kjer je potrebno. To prispeva tudi k cilju popolne skladnosti tehnologij, podprtih z omogočeno umetno inteligenco, z demokratičnimi vrednotami, pravno državo ter temeljnimi pravicami in načeli, vključno z nediskriminacijo in varstvom podatkov. Ta prizadevanja bodo prispevala tudi k vzpostavitvi ekosistema zaupanja.

Napovedi

Za povečanje preglednosti, razložljivosti in zaupanja javnosti bo Komisija:

-objavila razpis za namenski skupni evropski prostor varnostnih podatkov za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj v okviru programa za digitalno Evropo 241 (prvo četrtletje leta 2022). To bo posamičen podatkovni prostor, ki spada med širše skupne evropske podatkovne prostore za javne uprave, kot je napovedano v evropski strategiji za podatke;

-leta 2021 ocenila izvedljivost okvira za upravljanje podatkov in podatkovno znanost na ravni EU za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, da bi povečala preglednost in razložljivost analize podatkov, ki temelji na umetni inteligenci 242 ;

-v prvem četrtletju leta 2021 financirala projekt Medregijskega raziskovalnega inštituta ZN za kriminal in pravico (UNICRI) za razvoj globalne zbirke orodij za agencije za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, da bi se spodbudila zaupanja vredna, zakonita in odgovorna uporaba umetne inteligence za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj (kot je opisano v spremenjenem delovnem programu Sklada za notranjo varnost za leto 2020);

-leta 2021 še naprej začenjala „potrditve konceptov“ za konkretne primere uporabe umetne inteligence na področju rednega nadzora meja, migracij in policijskih preverjanj 243 ;

-leta 2021 začela pilotni projekt za enotni evropski sistem napovedovanja migracij na podlagi rezultatov študije o izvedljivosti orodja za napovedovanje in zgodnje opozarjanje na migracije, ki temelji na tehnologiji umetne inteligence 244 , ter

-še naprej financirala raziskave in inovacije na področju umetne inteligence v Evropi za uporabo in bazo znanja za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, migracije in azil, ki v celoti spoštujejo temeljne pravice in vrednote EU.

Komisija, države članice in ustrezne agencije EU bodo:

-sodelovale v okviru vozlišča inovacij EU za notranjo varnost;

-sodelovale na področju aplikacij umetne inteligence kot koristnega pospeševalca za podpiranje in izboljšanje učinkovitosti azilnih postopkov ter

-sprejele ukrepe za podporo izvrševanju okoljske zakonodaje in boj proti okoljski kriminaliteti s pomočjo tehnologij umetne inteligence 245 .

16. Povečanje varnosti mobilnosti in zmanjšanje onesnaževanja zaradi mobilnosti z umetno inteligenco

Razlogi za skupne ukrepe:

umetna inteligenca in avtomatizacija sta ključna za prihodnjo mobilnost. Pomagata lahko izboljšati učinkovitost in varnost prometa, optimizirati uporabo zmogljivosti in prometne tokove ter omogočiti interoperabilnost tehnologije in jezika. Umetna inteligenca lahko optimizira verige multimodalnega prevoza in omogoča delovanje avtomatiziranih vozil. Z naraščajočo razpoložljivostjo podatkov in orodji za analizo, podprtimi z umetno inteligenco, bo umetna inteligenca omogočila nove, varnejše, bolj vključujoče, trajnostne in učinkovitejše storitve potniškega in tovornega prevoza ter storitve mobilnosti. Za zagotovitev resnično vključujočih storitev prevoza in mobilnosti morajo biti nabori podatkov, ki se uporabljajo za učenje algoritmov umetne inteligence, reprezentativni in uravnoteženi, da se preprečijo nenamerni rezultati in morebitna diskriminacija nekaterih uporabnikov prevoza.

Ministri EU za promet so na neformalnem zasedanju Sveta 29. oktobra 2020 poudarili pomen proaktivnega sodelovanja z institucijami EU in združitve moči „za zagotovitev, da Evropa izkoristi priložnosti, povezane z digitalno revolucijo, za mobilnost, primerno za prihodnost, močno gospodarstvo z varnimi, privlačnimi delovnimi mesti in življenju prijazno podnebno nevtralno prihodnost“ 246 .

Komisija je decembra 2020 sprejela strategijo za trajnostno in pametno mobilnost 247 , ki (med drugim) predvideva oblikovanje časovnega načrta za umetno inteligenco na področju mobilnosti 248 in razvoj skupnega evropskega podatkovnega prostora za mobilnost, kot je napovedano v evropski strategiji za podatke, objavljeni februarja 2020.

Tehnologije umetne inteligence vplivajo na vse načine prevoza, EU pa je že razvila pobude 249 za izkoriščanje njihovega potenciala:

-v letalskem sektorju je Agencija Evropske unije za varnost v letalstvu (EASA) februarja 2020 objavila časovni načrt za umetno inteligenco. Evropska organizacija za varnost zračne plovbe (Eurocontrol) je skupaj z Evropsko komisijo in številnimi partnerskimi organizacijami ustanovila evropsko letalsko skupino na visoki ravni za umetno inteligenco (EAAI HLG), ki je marca 2020 objavila akcijski načrt FLY AI 250 . Poleg tega EASA vodi projekt „Data4Safety“, ki vzpostavlja veliko zbirko podatkov, ki lahko podpirajo obvladovanje varnostnih tveganj na evropski ravni 251 ;

-v železniškem sektorju skupno podjetje Shift2Rail (S2R) trenutno pripravlja opredelitev specifikacij za avtomatizirano vožnjo vlakov, vključno z uporabo umetne inteligence, za stopnji avtomatizacije 3 in 4. Poleg tega se uporaba umetne inteligence že upošteva v okviru inovacijskih programov okvira S2R za potnike in železniški tovorni promet 252 . Uporaba umetne inteligence bo vse bolj vključena v delo naslednika skupnega podjetja S2R, saj bosta digitalizacija in avtomatizacija ključna dejavnika, ki bosta omogočila preoblikovanje železniškega prometa s sistemskim pristopom;

-v sektorju prevoza po celinskih plovnih poteh je izvajanje upravljanja koridorjev, ki temelji na rečnih informacijskih storitvah (River Information Services enabled Corridor Management Execution – RIS COMEX), projekt z več upravičenci, ki ga financira IPE 253 . Pri številnih teh (informacijskih) storitvah na koridorjih, ki temeljijo na rečnih informacijskih storitvah, se velepodatki in algoritmi, ki temeljijo na umetni inteligenci, uporabljajo za izračun optimalnih poti, gostote prometa in predvidenih časov prihoda ter

-v sektorju cestnega prometa delo platforme Kooperativna, povezana in avtomatizirana mobilnost (CCAM) in prihajajočega evropskega partnerstva o CCAM upoštevata umetno inteligenco in posebna etična vprašanja, ki jih odpira mobilnost brez voznika. Poročilo strokovne skupine Evropske komisije o etičnih vprašanjih povezanih in avtomatiziranih vozil vsebuje priporočila o varnosti v cestnem prometu, zasebnosti, pravičnosti, razložljivosti in odgovornosti 254 , 255 .

Napovedi

Evropska komisija bo ob podpori držav članic:

-leta 2021 pripravila časovni načrt za umetno inteligenco na področju mobilnosti, kot je napovedano v strategiji za trajnostno in pametno mobilnost;

-leta 2021 in pozneje oblikovala ukrepe in zagotovila financiranje za podporo razpoložljivosti podatkov, tehnologijam in zmogljivostim za obdelavo podatkov ter souporabi podatkov v podatkovnih prostorih prek programa Obzorje Evropa, programa za digitalno Evropo in evropske zveze oblakov. Razpoložljivost in celovitost podatkov sta bistveni za razvoj zanesljivih algoritmov umetne inteligence, ki lahko izboljšajo varnost prometa in optimizirajo prometne tokove;

-sodelovala in lajšala ukrepe na področju standardizacije, ustrezne postopke odobritve in interoperabilnost na enotnem trgu, da bi spodbudila hitro uvajanje avtomatiziranih funkcij; to bo povečalo tudi mednarodno konkurenčnost;

-preučila ukrepe za pospešitev uvajanja inovativnih tehnologij umetne inteligence v evropskem prometnem sektorju in sektorju mobilnosti. Za tehnologije in sisteme CCAM bo zlasti preučila skupaj načrtovano evropsko partnerstvo o CCAM, ki si bo prizadevalo za sinergije s skupaj načrtovanim evropskim partnerstvom za umetno inteligenco, podatke in robotiko ter se pripravilo na obsežno uvajanje. V okviru drugih ukrepov bi se lahko preučile posebne zahteve za avtomobile glede funkcionalne varnosti in zaščite; ter sprejeli ukrepi za lažje doseganje zaupanja v CCAM in družbenega sprejemanja CCAM s povečanjem preglednosti, varnosti in razložljivosti tehnologije;

-leta 2021 določila izvedbene akte za tehnične specifikacije za avtomatizirana vozila in popolnoma avtomatizirana vozila, vključno z varnostnimi vprašanji, povezanimi z uporabo umetne inteligence in kibernetsko varnostjo 256 , ter

-leta 2021 predlagala nova pravila o dostopu do podatkov v vozilu, ki bodo ponudnikom storitev mobilnosti zagotovila pravičen in učinkovit dostop do podatkov o vozilih.

Države članice se spodbujajo, naj:

-s pomočjo ustreznih evropskih partnerstev dejavno spodbujajo razvoj in testiranje tehnologij umetne inteligence na področju avtomatiziranih funkcij za vse načine prevoza;

-analizirajo in olajšajo uvajanje zaupanja vrednih rešitev umetne inteligence v vseh načinih prevoza, ki lahko povečajo učinkovitost s pomočjo storitev avtomatizirane mobilnosti in tovornega prometa, da bi se zmanjšala obremenitev okolja;

-izmenjujejo spoznanja, pridobljena pri izvajanju projektov in pilotnih projektov raziskav in inovacij, da bi ustvarile skupno evropsko bazo znanja;

-ocenijo potencial avtomatizacije vozil za mestni promet in podpirajo mesta pri njihovem prehodu, hkrati pa znova razmislijo o sistemih mobilnosti, vključno s storitvami javnega prevoza, vzdrževanjem infrastrukture, logistiko, prevozninami in predpisi, ter

-v celoti izkoristijo priložnosti, ki jih ponuja mehanizem RRF, na primer v skladu z ukrepi, opisanimi v primeru sestavnega dela na temo „Čista, pametna in pravična mobilnost v mestih“ 257 . Ta primer sestavnega dela podpira evropski vodilni projekt „Napolniti“ in spodbuja čiste tehnologije, primerne za prihodnost, da bi se pospešila uporaba trajnostnega, dostopnega in pametnega prevoza, brezemisijskih in nizkoemisijskih vozil, polnilnih in oskrbovalnih mest ter močnejšega, obsežnejšega javnega prevoza. Poleg tega je povezan tudi z zadostnimi zalogami električne energije iz obnovljivih virov in vodika v zvezi z evropskim vodilnim projektom „Zagnati“. Z ukrepi v okviru te vrste sestavnih delov bi se lahko na primer podprla digitalizacija prometa, ki bo omogočila nastanek inovativnih podjetij in storitev, povezanih z mobilnostjo, kot so sistemi za načrtovanje zmogljivosti in upravljanje prometa. Pametna mobilnost bo imela koristi od uvedbe koridorjev 5G, razvoja umetne inteligence, blokovnih verig in drugih digitalnih tehnologij, hkrati pa bo tudi prispevala k njim.

17.Podpiranje umetne inteligence za trajnostno kmetijstvo

Razlogi za skupne ukrepe:

kmetijski sektor EU je eden od vodilnih svetovnih proizvajalcev hrane, ki jamči prehransko varnost in kakovost živil ter Evropejcem zagotavlja na milijone delovnih mest. Umetna inteligenca in druge digitalne tehnologije lahko povečajo učinkovitost kmetij, hkrati pa izboljšajo ekonomsko in okoljsko trajnostnost.

Rešitve in roboti, ki jih poganja umetna inteligenca, lahko kmetom pomagajo na primer pri živinoreji in zagotavljanju dobrobiti živali 258 , vzreji 259 , spravilu pridelka 260 ali pletju 261 ter znatnemu zmanjšanju uporabe vložkov, kot so gnojila, pesticidi ali voda za namakanje 262 , s čimer prinašajo pomembne gospodarske in družbene koristi 263 . Razpoložljivost podatkov, vključno s podatki, ki so rezultat vse večje digitalizacije kmetijstva, in podatkov, pridobljenih z opazovanjem Zemlje, ali podnebnih podatkov, je pomemben dejavnik, ki omogoča pospeševanje in razvoj rešitev, ki temeljijo na umetni inteligenci. Ocenjuje se, da bo gospodarska vrednost trga preciznega kmetovanja, podprtega z omogočeno umetno inteligenco, do leta 2025 na svetovni ravni dosegla 11,8 milijarde EUR 264 .

Komisija je leta 2019 z državami članicami sodelovala pri izjavi za spodbujanje celovitega pristopa k digitalizaciji ter pametnemu in trajnostnemu kmetijstvu, tudi prek lajšanja uporabe umetne inteligence. Ta izjava o sodelovanju, ki jo je podpisalo 25 evropskih držav, vsebuje zavezo k lajšanju uvajanja digitalnih tehnologij, vključno z umetno inteligenco, v kmetijstvu in na podeželju 265 .

Komisija je maja 2020 v okviru agende za zeleni dogovor predstavila strategijo „od vil do vilic“ 266 . Cilj te strategije je olajšati trajnostno proizvodnjo hrane in prehod prehranskih verig v Evropi, ki koristi potrošnikom, proizvajalcem, podnebju in okolju. Uporaba umetne inteligence in pametnega kmetovanja bi lahko olajšala ta prehod, tako da bi na primer omogočila trajnostno in učinkovito upravljanje virov, kot so voda, tla, biotska raznovrstnost in energija.

V obdobju 2014–2020 je Komisija sofinancirala raziskovalne projekte za digitalizacijo kmetijstva v okviru programa Obzorje 2020 v vrednosti približno 175 milijonov EUR. Projekti so bili osredotočeni na primer na trajnostno rabo virov z uvajanjem digitalnih tehnologij, kot so umetna inteligenca, robotika in internet stvari.

Napovedi

Komisija bo skupaj z državami članicami:

-ustanovila centre za testiranje in eksperimentiranje na področju umetne inteligence za agroživilski sektor v okviru programa za digitalno Evropo, pri čemer bo poseben poudarek na pametnem kmetovanju, na primer za izboljšanje stroškovne učinkovitosti in okoljske trajnostnosti;

-spodbujala kmetijstvo kot eno od področij, ki jih zajema pobuda za evropska vozlišča digitalnih inovacij, da bi podprla sodelovanje med ustreznimi akterji, vključno z državami članicami, deležniki v kmetijstvu in akterji v evropskem umetnointeligenčnem sistemu;

-uvedla skupni evropski kmetijski podatkovni prostor za podporo zaupanja vrednemu zbiranju in souporabi podatkov 267 v obdobju 2023–2024. Podatkovni prostor bo udeležencem omogočil izmenjavo kmetijskih podatkov. Pričakuje se, da bo kmetijskemu sektorju omogočil povečanje trajnostnosti ter konkurenčnosti z obdelavo in analizo proizvodnih in drugih podatkov, s tem pa omogočil precizno in prilagojeno uporabo proizvodnih pristopov na ravni posameznih kmetij. Poleg tega bo upošteval izkušnje s kodeksom ravnanja o souporabi kmetijskih podatkov, ki so ga pripravili deležniki 268 ;

-v obdobju 2023–2024 vzpostavila in dejavno prispevala k skupaj načrtovanemu evropskemu partnerstvu za kmetijstvo podatkov 269 v okviru programa Obzorje Evropa. Partnerstvo si bo prizadevalo spodbujati uporabo umetne inteligence, drugih digitalnih tehnologij ter geoprostorskih podatkov in drugih podatkov o opazovanju okolja. Pri tem bodo tesno sodelovali države članice in ustrezni deležniki iz kmetijstva, raziskovalne skupnosti in industrije, vključno s programom Copernicus in skupnostjo na področju opazovanja Zemlje, ter

-podpirala projekte za raziskave in inovacije v okviru programa Obzorje Evropa, ki povezujejo tehnologije umetne inteligence in robotske tehnologije z njihovo uporabo v kmetijstvu, gozdarstvu, razvoju podeželja in biogospodarstvu, pri čemer bo čim bolj povečala uporabo podatkov iz vesoljskih infrastruktur EU, kot je Copernicus.

Države članice se spodbujajo, naj:

-v celoti izkoristijo sredstva mehanizma RRF za digitalizacijo agroživilskega sektorja, kot je predvideno v nacionalnih načrtih, na primer za ustanovitev dodatnih centrov za testiranje in eksperimentiranje in evropskih vozlišč digitalnih inovacij za umetno inteligenco in robotiko v agroživilskem sektorju poleg že načrtovanih v okviru programa za digitalno Evropo;

-dejavno sodelujejo v partnerstvu Kmetijstvo podatkov (Agriculture of Data) in

-razmislijo o financiranju nacionalnih projektov za raziskave in inovacije, ki povezujejo tehnologije umetne inteligence in robotske tehnologije z njihovo uporabo v kmetijstvu, gozdarstvu, razvoju podeželja in biogospodarstvu.

Sklepi:

Cilji usklajenega načrta iz leta 2018 ostajajo ustrezni, splošna usmeritev, določena v usklajenem načrtu, pa se je izkazala za primerno za prispevanje k cilju Evrope „postati vodilna regija v svetovnem merilu pri razvoju in uporabi vrhunske, etične in varne umetne inteligence ter spodbujanju na človeka osredotočenega pristopa v globalnem kontekstu“ 270 . Prvi dve leti izvajanja sta potrdili, da so skupni ukrepi in strukturirano sodelovanje med državami članicami in Komisijo ključni za svetovno konkurenčnost ter vodilno vlogo EU pri razvoju in uvajanju umetne inteligence.

Naslednji koraki bi morali biti osredotočeni na izvajanje skupnih ukrepov in odpravo razdrobljenosti med programi financiranja, pobudami in ukrepi na ravni EU in držav članic. Da bi Komisija olajšala to izvajanje, bo pomagala pri izvajanju ukrepov in tudi sama izvajala ukrepe, opisane v tem pregledu. Zagotovila bo praktične in izvedljive smernice, sodelovanje ter okvire in finančna sredstva iz programov financiranja EU, kot sta Obzorje Evropa in program za digitalno Evropo. Države članice imajo v okviru mehanizma RRF tudi edinstveno priložnost, da čim bolje izkoristijo umetno inteligenco pri digitalizaciji svojega gospodarstva in javnih uprav.

Natančneje, Komisija bo v sodelovanju z državami članicami pozorno spremljala napredek pri izvajanju skupnih ukrepov, dogovorjenih v usklajenem načrtu, in nadalje ukrepala na njegovi podlagi. To spremljanje in nadaljnje delo bi morala biti strukturirana, dobro načrtovana in zagotavljati dinamičen mehanizem za zbiranje in analizo doseženega napredka. Države članice so pozvane, naj podprejo Komisijo pri teh prizadevanjih in tesno sodelujejo z zagotavljanjem rednih posodobitev, analiz in poročil o sprejetih ukrepih in doseženem napredku. Izmenjati bi si morale najboljše prakse in predlagati ukrepe, ki bi lahko še povečali sinergije. Tak strukturni in živahen dialog je potreben za zagotovitev, da skupni ukrepi, predlagani v usklajenem načrtu, prinesejo predvidene sinergije in dodano vrednost.

Pregled usklajenega načrta in povratne informacije deležnikov kažejo, da obstajajo nadaljnje možnosti za spodbujanje tesnejšega sodelovanja ter usklajevanje skupnih prednostnih nalog in pobud na področju umetne inteligence. V skladu s tem so v usklajenem načrtu predlagani ukrepi za zmanjšanje razdrobljenosti med različnimi instrumenti financiranja, med ukrepi na nacionalni ravni in ravni EU, med samimi raziskovalnimi skupnostmi ter med raziskovalnimi skupnostmi in industrijo. Taka razdrobljenost med drugim povzroči nepotrebne stroške obveščanja in transakcij, manjšo donosnost naložb, tratenje virov in na koncu izgubljene priložnosti za podjetja EU. Komisija bo v posvetovanju s splošno javnostjo, socialnimi partnerji, nevladnimi organizacijami, industrijo, akademsko skupnostjo in nacionalnimi/regionalnimi organi stalno preučevala, kako se lahko razdrobljenost še zmanjša.

Skratka, ta pregled za leto 2021 temelji na tesnem sodelovanju med EU in državami članicami ter izkušnjah, pridobljenih v prvih dveh letih izvajanja usklajenega načrta. V njem so predlagani ključni ukrepi, s katerimi se lahko sodelovanje med državami članicami in EU še okrepi. Revidirani načrt zato ponuja dragoceno priložnost za krepitev konkurenčnosti, zmogljivosti za inovacije in odgovorne uporabe umetne inteligence v EU. Hiter razvoj in uvajanje inovativne umetne inteligence v EU lahko prispevata k reševanju ključnih družbenih izzivov ter pospešita digitalni in zeleni prehod v času, ko se svetovno področje umetne inteligence hitro razvija.

Dodatek 1 – Časovnica – ključni ukrepi

271 Dodatek 2 Analiza nacionalnih strategij and investments in AI

1.Pregled nacionalnih strategij 

Preglednica 1 Nacionalne strategije za umetno inteligenco, države članice EU in Norveška (po datumu prvotnega sprejetja)

Vir: AI Watch – Evropska komisija 272 .

Strategije je sprejelo skupno 19 držav članic (nazadnje Španija in Poljska decembra 2020) in Norveška. Nekatere države članice (npr. Finska, Ciper in Nemčija) so že posodobile in pregledale svoje začetne strategije 273 .

Nacionalne strategije za umetno inteligenco in podporne politike se razlikujejo glede na strateški pristop, raven podrobnosti predlaganih ukrepov in sektorsko usmerjenost.

Države članice so pri oblikovanju svojih nacionalnih strategij za umetno inteligenco uporabile različne pristope, od krovne strategije na visoki politični ravni, ki zajema številne različne pobude politike, do operativnih strategij s konkretnimi ukrepi in dodeljenimi proračunskimi sredstvi.

Nemčija se je na primer v svoji posodobljeni strategiji za umetno inteligenco iz leta 2020 odzvala na nove spremembe na področju umetne inteligence, usmerila pobude v pet področij ukrepanja in dodala 87 ukrepov, ki jih namerava zvezna vlada izvesti do leta 2022. Nemška zvezna vlada je v okviru nemškega svežnja za okrevanje po COVID-19 svojo finančno obveznost za umetno inteligenco za obdobje do leta 2025 povečala za 2 milijardi EUR na 5 milijard EUR 274 . Strategija Estonije zagotavlja celovit pregled obstoječih in predlaganih ukrepov politike, skupaj z njihovimi cilji, roki in ocenami proračuna. V strategiji Španije je predlaganih 30 ukrepov na šestih področjih ukrepanja, vključno z znatnimi sredstvi za podjetja v obliki pomoči in javno-zasebnega tveganega kapitala. Strategija predvideva tudi program za zeleno umetno inteligenco, katerega cilj je spodbujati razvoj učinkovitih algoritmov in njihovo uporabo pri reševanju okoljskih problemov.

Nekatere države članice so vključile ukrepe za podporo razvoju in uvajanju umetne inteligence v okviru drugih strategij za digitalizacijo. Bolgarski koncept za razvoj umetne inteligence na primer temelji na nacionalnem strateškem dokumentu „Digitalna preobrazba Bolgarije (2020–2030)“, odobrenem julija 2020, in upošteva ukrepe za razvoj in uvajanje umetne inteligence, predvidene v nekaterih sektorskih strategijah. Prihodnja belgijska nacionalna strategija je kombinacija treh regionalnih strategij (v skladu z delitvijo pristojnosti v Belgiji) z lastnimi usmeritvami in prednostnimi nalogami ter skupnimi usmeritvami in prednostnimi nalogami.

Nacionalne politike se razlikujejo tudi glede na prednostne sektorje za ukrepanje. Nekatere države članice (npr. Malta in Slovaška) so uporabile horizontalni pristop in niso opredelile posebnih prednostnih sektorjev. Druge so se osredotočile na gospodarske sektorje, ki imajo velik potencial za rast ali zagotavljajo konkurenčno prednost; Francija in Italija sta na primer navedli ukrepe v različnih dobro razdelanih sektorjih, pomembnih za njuno gospodarstvo. Sektorji, najpogosteje zajeti v nacionalnih strategijah za umetno inteligenco, so proizvodnja, zdravstvo, kmetijstvo, javna uprava, promet, logistika, izobraževanje in energetika. Številne države članice poleg ukrepov v prevladujočih sektorjih uporabe umetne inteligence načrtujejo na primer ukrepe v pomorskem sektorju (Ciper) ter na področju napovedovanja vremena (Nemčija), umetnosti in kulture (Italija), biotske raznovrstnosti (Portugalska), pravosodja (Latvija) in mode (Španija). Nekatere so za uvajanje umetne inteligence določile zelo natančno usmeritev, tako da so dale prednost določenemu sektorju, na primer energetiki (Litva) ali vodi (Nizozemska).

2.Napovedi – prihodnji nacionalni ukrepi

Avstrija pričakuje, da bo svojo strategijo objavila do konca drugega četrtletja leta 2021, odvisno od končnega političnega usklajevanja. Strategija opredeljuje okvirne pogoje za uspešno, odgovorno in varno uporabo umetne inteligence na vseh področjih življenja v skladu z evropskimi zahtevami za zaupanja vredno umetno inteligenco. Cilji avstrijske strategije so oblikovani tako, da so tesno usklajeni z osnovami umetne inteligence, cilji in skupnimi ukrepi Evropske unije. Med ključnimi prednostnimi področji bodo regulativni okvir (etični in pravni), varnost in zaščita umetne inteligence, opredelitev standardov, infrastruktura umetne inteligence, uporaba in souporaba podatkov, pogoji za raziskave, razvoj in inovacije, prenos in uvajanje umetne inteligence, sodelovanje med izobraževalnimi in raziskovalnimi ustanovami in podjetji, družbeni dialog in ozaveščanje ter umetna inteligenca v javnem sektorju.

Belgija: v obdobju 2017–2019 so bili sprejeti in uvedeni tri regionalne strategije in programi za umetno inteligenco. Junija 2020 so vsi belgijski subjekti potrdili poročilo za opredelitev skupnega nacionalnega akcijskega načrta za umetno inteligenco. Ker je sprejetje tega načrta prednostna naloga zvezne vlade, se bodo kmalu začele razprave v zvezi s tem med vsemi pristojnimi organi. Cilj je ustvariti skladen politični okvir, ki lahko spodbuja sinergije med različnimi področji politike in različnimi pristojnimi subjekti. 

Bolgarija: svet ministrov je decembra 2020 sprejel nacionalni strateški dokument (Koncept razvoja umetne inteligence v Bolgariji do leta 2030).

Hrvaška je pripravila osnutek nacionalnega načrta za razvoj umetne inteligence za obdobje 2021–2025. Delovna skupina je pripravila osnutek nacionalnega načrta, dokument pa bo dokončno oblikovala z opredelitvijo konkretnih ukrepov, ki naj bi bili končani do konca leta 2021. Pri pripravi osnutka nacionalnega načrta so bile upoštevane smernice iz ključnih strateških dokumentov na ravni EU: usklajenega načrta za umetno inteligenco in bele knjige o umetni inteligenci.

Češka bo posodobila nacionalno strategijo za umetno inteligenco v skladu z novim usklajenim načrtom.

Danska trenutno preučuje najboljši način za obravnavo in po potrebi revizijo obstoječe nacionalne strategije za umetno inteligenco iz leta 2019.

Izvajanje strategije Estonije se bo končalo julija 2021. Estonija bo strategijo pregledala in posodobila leta 2021. Presegla je pričakovanja, Estonija pa predvideva široko sprejetje in uporabo umetne inteligence, saj je bilo v javnem sektorju več kot 50 primerov uporabe umetne inteligence. Zaradi večjega števila primerov uporabe umetne inteligence so se kompetence/spretnosti, povezane z umetno inteligenco, bistveno izboljšale. Še vedno pa obstajajo zakonodajna vprašanja, ki jih je treba obravnavati in si prizadevati za njihovo rešitev, na primer odprava zastarelih predpisov, da se omogoči avtomatizacija upravnih postopkov.

Finska je novembra 2020 začela izvajati posodobljen nacionalni program za umetno inteligenco. Program AI 4.0 spodbuja razvoj in uvajanje umetne inteligence in drugih digitalnih tehnologij v podjetjih, zlasti MSP, s posebnim poudarkom na industriji.

Francija je leta 2018 začela prvo fazo izvajanja francoske nacionalne strategije za umetno inteligenco s proračunom v višini 800 milijonov EUR za tri leta, pri čemer je velik poudarek (1/3 porabe) namenila spodbujanju raziskav z ustanovitvijo interdisciplinarnih inštitutov 3IA, dodatnim financiranjem 180 doktorskih študijev in odprtjem superračunalniškega centra na petaravni. Druga faza te strategije (2021–2022) določa glavne prednostne naloge glede razvoja vgrajene umetne inteligence in zaupanja vredne umetne inteligence v kritičnih sistemih, da bi se z umetno inteligenco okrepila nacionalna industrijska baza ter hkrati pospešil digitalni in ekološki prehod podjetij. Pomembna usmeritev bosta tudi izobraževanje in preusposabljanje na področju umetne inteligence.

Nemčija je svojo strategijo posodobila decembra 2020. Pregled vsebuje vmesni pregled stanja, prikazuje zadevni razvoj na nacionalni, evropski in mednarodni ravni ter določa konkretne ukrepe, ki se bodo izvedli do leta 2022. Poročilo o posodobitvi je osredotočeno na naslednja področja ukrepanja: raziskave, strokovno znanje in izkušnje, prenos in uporaba, regulativni okvir in družba. Poleg tega bodo nove pobude osredotočene na trajnostnost, varstvo okolja/podnebja, obvladovanje pandemije in mednarodno/evropsko sodelovanje.

Grčija je napredovala pri dokončnem oblikovanju nacionalne strategije za umetno inteligenco in ocenjuje, da bo pripravljena do konca aprila 2021. Grško ministrstvo za digitalno upravljanje je lastnik in usklajevalec strategije. Časovni okvir je bil prilagojen glede na zaporo zaradi COVID-19 in reformo grške vlade januarja 2021.

Madžarska strategija za umetno inteligenco je bila objavljena septembra 2020 in temelji na prispevkih organizacij članic madžarske koalicije za umetno inteligenco. Strategija si prizadeva za celovit pristop v celotni vrednostni verigi umetne inteligence, kot so razvoj madžarskega podatkovnega gospodarstva, razvoj potrebne infrastrukture, razširjene dejavnosti izobraževanja in usposabljanja, spodbujanje uvajanja rešitev umetne inteligence (v zasebni in javni domeni) ter regulativno okolje, ki vzpostavlja ravnovesje med varnostjo in inovacijami. Doseganje sektorskih ciljev temelji na večstranskem sodelovanju med ustreznimi akterji, tj. v kmetijstvu, prevozu, zdravstvu in javni upravi.

Irska naj bi svojo strategijo objavila v drugem četrtletju leta 2021, če bodo izpolnjeni potrebni pogoji. Med ključnimi prednostnimi področji bodo: družbene priložnosti in izzivi umetne inteligence; spodbujanje sprejetja umetne inteligence v irskih podjetjih; uporaba umetne inteligence v javnem sektorju; močan inovacijski ekosistem na področju umetne inteligence; izobraževanje, spretnosti in talent na področju umetne inteligence; podporna podatkovna, digitalna in telekomunikacijska infrastruktura ter upravljanje in regulativni okvir (vključno s človekovimi pravicami, etiko in standardi).

Latvija izvaja svojo strategijo, ki je bila objavljena februarja 2020. Trenutno načrtovane ključne pobude so digitalizacija s poudarkom na umetni inteligenci, dopolnitev novih jezikovnih parov za sisteme strojnega prevajanja, izboljšanje spretnosti na področju obdelave naravnega jezika, analitična orodja za strojno učenje za preiskovanje kaznivih dejanj in razvoj modela proaktivnih storitev za državljane, ki temelji na umetni inteligenci.

Litva trenutno razmišlja o pregledu in po potrebi posodobitvi obstoječe nacionalne strategije za umetno inteligenco iz leta 2019. Načrtujejo se naložbeni ukrepi za podporo razvoju jezikovnih virov za uporabo v umetni inteligenci, pa tudi programi podpore za zagonska podjetja na področju umetne inteligence in podjetja, ki izvajajo prehode na uporabo umetne inteligence.

Luksemburg je novembra 2019 objavil razpis za projekte, namenjen ministrstvom, da bi predložila ideje za pobude na podlagi umetne inteligence, ki bi jim pomagale optimizirati ali razširiti storitve. Na razpis je bilo skupno prijavljenih 14 projektov iz sedmih različnih uprav: šest zmagovalnih ekip je prejelo sredstva za začetek izvajanja projekta, zagotovljena pa so jim bila tudi navodila glede javnih naročil, načrtovanja in izbire ponudnikov storitev. Po šestih do devetih mesecih razvoja bo na podlagi zaključene potrditve koncepta in vzorca odločeno, ali naj se izvajanje projekta nadaljuje. Poleg tega je skupina pravnih strokovnjakov za podatke in tehnologijo ocenila finaliste in jim pomagala. Ta učna izkušnja luksemburški javni upravi prinaša trajno vrednost. Drugi razpis je bil objavljen na začetku leta 2021. Poleg tega je v Luksemburg uradno prispel brezplačni tečaj Elements of AI (Elementi umetne inteligence). Drug pomemben element strategije je bil začetek javnega posvetovanja o umetni inteligenci konec leta 2020, katerega rezultati bodo predstavljeni konec aprila 2021.

Nizozemska izvaja ukrepe iz nacionalnega strateškega akcijskega načrta za umetno inteligenco. V drugem četrtletju leta 2021 bo sledila splošna posodobitev nacionalne strategije za digitalizacijo (in umetno inteligenco). Poudarek bo na zahtevah za humanocentrično umetno inteligenco, živahnem raziskovalnem in inovacijskem ekosistemu (javno zasebno partnerstvo), človeškem kapitalu, mednarodnem sodelovanju, uvajanju (MSP) in aplikacijah: uporabi v javnem sektorju, pametni industriji in umetni inteligenci za družbene izzive na področju zdravja, energetskega prehoda, kmetijstva in mobilnosti.

Poljska je decembra 2020 sprejela „Politiko za razvoj umetne inteligence na Poljskem od leta 2020“. Osredotočena je na ukrepe na področju družbe, izobraževanja, znanosti, poslovnih dejavnosti, javnih zadev in mednarodnih odnosov v okviru strateškega poslanstva zaščite človekovega dostojanstva in podpiranja pogojev poštene konkurence v svetovnem rivalstvu. Poljska izvaja etični okvir za zaupanja vredno umetno inteligenco ter je začela izvajati mehanizem za uspešen poljski ekosistem umetne inteligence v etični, pravni, tehnično-operativni in mednarodni razsežnosti. Ustanovila je center za usklajeno upravljanje, ki ga vodi predsednik vlade v vlogi ministra za digitalne zadeve. Sestavljajo ga projektna skupina za izvrševanje politike na področju umetne inteligence, ad hoc znanstveni odbor za umetno inteligenco, opazovalnica za trg dela na področju umetne inteligence, opazovalnica za mednarodno politiko na področju umetne inteligence, pravna projektna skupina in odbor ministrstev za digitalizacijo.

Romunija je začela več prizadevanj za pripravo in izvajanje nacionalnega okvira politike na področju umetne inteligence. Leta 2020 je začela izvajati projekt, ki ga financira EU, za oblikovanje nacionalnega okvira na področju umetne inteligence za obdobje 2021–2027. Navedeni okvir bo vključeval vidike, kot je razvoj izobraževanja in spretnosti na področju umetne inteligence, povečal obseg raziskav in razvoja ter inovacij na področju umetne inteligence na akademskem in industrijskem področju, okrepil sodelovanje pri razvoju infrastruktur umetne inteligence, zajemal parametre za etično umetno inteligenco in varstvo podatkov na ravni najboljše prakse ter zagotovil prekrivanje prednostnih nalog teh stebrov v zvezi s kibernetsko varnostjo. Ta prizadevanja bodo vključevala strokovno znanje iz vladnega, akademskega in zasebnega sektorja, podpirale jih bodo službe za tehnološko in pravno svetovanje, njihov rezultat pa bo nacionalni strateški okvir za umetno inteligenco. Prizadevanja za uresničevanje cilja bodo potekala v letih 2021 in 2022.

Slovaška bo svoje ukrepe na področju umetne inteligence, objavljene v akcijskem načrtu, posodobila v skladu z revidiranim usklajenim načrtom. 

Slovenija je v zaključni fazi sprejetja nacionalnega programa za umetno inteligenco za obdobje 2020–2025, katerega cilj je razširiti znanje iz raziskav umetne inteligence, zbrano v več kot 40 letih nacionalnih raziskovalnih dejavnosti na področju umetne inteligence, na nove inovativne izdelke in storitve na šestih prednostnih področjih, pri čemer je poudarek na celotnem življenjskem ciklu inovacij in izgradnji živahnega nacionalnega ekosistema, ki bo zagotovil ustrezno ozaveščenost javnosti, nabor spretnosti in zaupanje v umetno inteligenco. Nacionalni program za umetno inteligenco ima deset strateških ciljev, vključno s konkretnimi ukrepi za njihovo uresničitev. Med njimi so neposredna podpora za raziskave, inovacije in izvajanje; podpora za razvoj živahnega ekosistema za inovacije in uvajanje umetne inteligence; zagotavljanje ustreznih digitalnih spretnosti; učinkovita pravna ureditev; zaupanje javnosti in ustrezno mednarodno sodelovanje.

Španska nacionalna strategija za umetno inteligenco za obdobje 2021–2023 iz decembra 2020 si prizadeva, da bi umetna inteligenca prispevala k utrditvi španske države blaginje, hkrati pa zagotavlja potrebne podatke in sredstva za spodbujanje inovacij in tehnološkega razvoja. V strategiji je predviden celovit pristop, ki bo družbo z ustreznimi spretnostmi in zaupanja vrednim okvirom pripravil na prodor umetne inteligence, medtem ko bo okrepil vlogo raziskovalne skupnosti pri zagotavljanju inovativnih rešitev, ki jih bodo na koncu sprejele vrednostne verige, vključno z MSP. Kot ključni element strategije je trajnostnost podprta s programom za zeleno umetno inteligenco, katerega cilj je učinkovitost algoritmov in njihova uporaba pri reševanju okoljskih problemov.

Švedska pripravlja strategijo za varen dostop do odprtih podatkov in uporabo podatkov kot strateškega vira ob spoštovanju pravil o varstvu podatkov in zasebnosti, pri čemer strategija temelji na predpostavki, da so podatki osnovni pogoj za zmožnost izkoriščanja potenciala umetne inteligence in drugih digitalnih inovacij. Strategija bo objavljena leta 2021 in je pomembno dopolnilo k predhodno objavljeni nacionalni strategiji za umetno inteligenco.

Norveška je svojo strategijo objavila januarja 2020. Strategija obravnava pomembne teme za umetno inteligenco, kot so podatki in upravljanje podatkov, jezikovni viri, infrastruktura za komunikacije in računalništvo, raziskave in visokošolsko izobraževanje, spretnosti ter inovacije, ki temeljijo na umetni inteligenci, v javnem in zasebnem sektorju. Strategija določa etična načela za razvoj in uporabo zaupanja vredne umetne inteligence na Norveškem. Strategija je bila dobro sprejeta, vlada pa si prizadeva nadalje ukrepati na podlagi številnih pobud politike v okviru strategije. Eden od pomembnih mejnikov je bil uvedba regulativnega peskovnika za umetno inteligenco pri organu za varstvo podatkov decembra 2020. Podatki in dostop do njih so bili prav tako prednostna naloga, marca 2021 pa je bila parlamentu predstavljena bela knjiga vlade o podatkovno vodenem gospodarstvu.

Švica nima posebne strategije za umetno inteligenco. Nekateri vidiki uporabe umetne inteligence so obravnavani v novi strategiji „Digitalna Švica“ iz septembra 2020. Poleg tega je švicarska vlada novembra 2020 sprejela posebne smernice za umetno inteligenco, katerih namen je zvezni upravi in agencijam, pooblaščenim za upravne naloge, zagotoviti splošni usmerjevalni okvir ter zagotoviti skladno politiko na področju umetne inteligence. Načrtuje se redno ocenjevanje uporabe in nadaljnji razvoj teh smernic.

3.Naložbe držav članic v umetno inteligenco

Številne nacionalne strategije za umetno inteligenco vsebujejo ocene potrebnih naložb ali določajo razčlenjeni proračun za konkretne ukrepe. Številke se zelo razlikujejo in jih je težko primerjati, saj so predstavljene glede na različne časovne okvire in pokritost. V nadaljevanju je navedenih nekaj informacij o obsegu dodeljenih sredstev:

-nemška vlada je za izvajanje nemške strategije v letih 2019–2025 na začetku namenila 3 milijarde EUR; zdaj je ta znesek povečala na 5 milijard EUR;

-francoska vlada bo za razvoj umetne inteligence do konca leta 2022 namenila 1,5 milijarde EUR;

-Danska je investicijskemu skladu za testiranje, povečanje in spodbujanje uvajanja umetne inteligence v javnem sektorju namenila 200 milijonov DKK (približno 27 milijonov EUR), pri čemer je poseben poudarek na zdravstvu, javni upravi in zelenem prehodu;

-Španija je za obdobje 2021–2023 namenila 600 milijonov EUR in pričakuje, da bo mobilizirala 3,3 milijarde EUR zasebnih naložb. V proračunu je bilo za leto 2021 predvidenih 330 milijonov EUR;

-Švedska inovacijska agencija Vinnova je leta 2020 financirala projekte na področju umetne inteligence, in sicer je prispevala 675 milijonov SEK (približno 67,5 milijona EUR). Skupni znesek sredstev za projekte na področju umetne inteligence, ki jih je sofinancirala Vinnova, je znašal 1,350 milijarde SEK (približno 135 milijonov EUR), 50 % od tega pa bi lahko bilo zasebnih finančnih sredstev ali finančnih sredstev iz drugih nacionalnih programov. V nacionalnem proračunu za inovacije in raziskave za obdobje do leta 2024 je bilo vsaj 550 milijonov SEK (približno 55 milijonov EUR) namenjenih raziskavam in inovacijam na področju digitalnih tehnologij in umetne inteligence ter njihovi uporabi in vplivu na družbo;

-v prilogi k nizozemski strategiji je navedeno, da je letni vladni proračun za inovacije in raziskave na področju umetne inteligence ocenjen na 45 milijonov EUR na leto. Leta 2019 je ta proračun znašal 64 milijonov EUR. Leta 2020 je Nizozemska javno-zasebnemu partnerstvu Nederlandse AI Coalitie (nizozemska koalicija za umetno inteligenco) namenila dodatnih 23,5 milijona EUR. Aprila 2021 je bil odobren naložbeni program za povečanje možnosti, ki jih ponuja umetna inteligenca, za nizozemsko gospodarstvo in družbo, v ta namen pa bo v naslednjih letih vloženih dodatnih 276 milijonov EUR;

-finska vlada zagotavlja podatke o naložbah za različne vodilne politike, in sicer je za program „AI Business“ na primer v štiriletnem obdobju namenila 100 milijonov EUR. Finskemu centru za umetno inteligenco (FCAI) je bilo za obdobje 2019–2022 odobreno financiranje za vodilne pobude v višini 8,3 milijona EUR;

-Slovenija je v svojem osnutku nacionalnega programa za umetno inteligenco za obdobje do leta 2025 doseganju strateških ciljev na področju umetne inteligence namenila 110 milijonov EUR javnih sredstev;

-od sprejetja nacionalne strategije za umetno inteligenco leta 2019 so češka tehnološka agencija, češka znanstvena fundacija (sredstva iz državnega proračuna) itd. podprli več projektov, pri čemer je bilo tem projektom namenjenih skupno 120 milijonov EUR.

(1)       Sporočilo Evropske komisije – Usklajeni načrt za umetno inteligenco (COM(2018) 795 final).

(2)      Evropski pristop k umetni inteligenci, vključno z vrednotami, na podlagi katerih si EU prizadeva spodbuditi razvoj in uvedbo umetne inteligence, je določen v sporočilu Evropske komisije o umetni inteligenci za Evropo (COM(2018) 237 final) in Beli knjigi o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020) 65 final).

(3)       Izjava o sodelovanju na področju umetne inteligence , ki so jo podpisale vse države članice in Norveška, april 2018.

(4)      Vsako poglavje tega dokumenta se začne s kratkim pregledom ukrepov in programskih dokumentov, sprejetih na ravni EU po sprejetju usklajenega načrta iz leta 2018.

(5)      Tudi drugi instrumenti financiranja EU, kot so programi kohezijske politike, bi lahko imeli koristi od razvoja in uvajanja tehnologij umetne inteligence. Komisija je pripravljena državam članicam zagotoviti tehnično podporo prek instrumenta za tehnično podporo, da bi jim pomagala pri pregledu in posodabljanju nacionalnih strategij. Glej Uredbo (EU) 2021/240 Evropskega parlamenta in Sveta z dne 10. februarja 2021 o vzpostavitvi Instrumenta za tehnično podporo (UL L 57, 18.2.2021, str. 1).

(6)      Mehanizem RRF je največji sveženj spodbud, ki se je kdaj financiral iz proračuna EU. Državam članicam bo zagotovil vnaprejšnjo finančno podporo v obliki posojil in nepovratnih sredstev v do zdaj najvišjem znesku 672,5 milijarde EUR za ključna začetna leta okrevanja, 20 % tega financiranja pa je predlaganega za „digitalni cilj“. „Cilj glede odhodkov za digitalno področje“, ki ustreza največ 134 milijardam EUR v življenjskem ciklu RRF, bi lahko prinesel spremembe pri spodbujanju naložb, na primer za izgradnjo podatkovne infrastrukture, infrastrukture v oblaku in računalniške infrastrukture, spodbujanje odličnosti raziskav, podpiranje inovacij, testiranja in eksperimentiranja ter povečanje njihove uporabe v javni upravi in podjetjih.

(7)      Na področju obdelave naravnega jezika (eno od področij umetne inteligence, ki najhitreje napredujejo) so se na primer največji modeli povečali za faktor več kot 1 500 (število parametrov se je s 100 milijonov leta 2018 povečalo na 175 milijard leta 2020; stateof.ai 2020 ) . Napredek na področju tehnologij umetne inteligence vpliva na celotno digitalno dobavno verigo. Nove komponente (npr. izboljšane grafične procesne enote in nevromorfni čipi), novi računalniški koncepti (računalništvo na robu in na podatkih temelječe računalništvo), nova podatkovna infrastruktura in nove aplikacije se razvijajo in prihajajo na trg.

(8)      Število podjetij, ki uporabljajo umetno inteligenco, se je v zadnjih štirih letih na splošno povečalo za 270 %, v zadnjem letu pa se je potrojilo. Gartner, Gartner survey shows 37 per cent of organisations have implemented AI in some form (Raziskava podjetja Gartner kaže, da je 37 % organizacij uvedlo eno od oblik umetne inteligence), 2019.

(9)      Glej npr. Služba Evropskega parlamenta za raziskave, Evropska dividenda v višini dva bilijona evrov: Opredelitev stroškov neukrepanja na ravni EU, 2019–2024 . Nedavna ocena evropske dodane vrednosti z naslovom European framework on ethical aspects of artificial intelligence, robotics and related technologies (Evropski okvir o etičnih vidikih umetne inteligence, robotike in sorodnih tehnologij) kaže, da bi lahko sam skupni okvir EU o etiki na področju umetne inteligence (v primerjavi s posameznimi ukrepi držav članic) do leta 2030 ustvaril 294,9 milijarde EUR dodatnega BDP in 4,6 milijona dodatnih delovnih mest (Evas, T., Služba Evropskega parlamenta za raziskave, 2020).

(10)       Bela knjiga o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020) 65 final).

(11)      Tehnologije umetne inteligence vse bolj vplivajo na vse gospodarske sektorje. V tem pregledu usklajenega načrta za leto 2021 je predlaganih šest področij politike za usmerjene skupne ukrepe. Izbira področij politike temelji na analizi nacionalnih strategij za umetno inteligenco, dvostranskih posvetovanjih, predlogih držav članic ter razpoložljivih dokazih o uvajanju umetne inteligence in razvoju trga. Pri nadaljnjih revizijah usklajenega načrta se bo po potrebi upoštevala potreba po dodajanju dodatnih področij za skupne ukrepe.

(12)      Komisija se je v beli knjigi o umetni inteligenci iz leta 2020 (COM(2020) 65 final) in usklajenem načrtu za umetno inteligenco iz leta 2018 (COM(2018) 795 final) zavezala, da bo državam članicam predlagala revizijo usklajenega načrta.

(13)      Vsi ukrepi morajo biti v celoti skladni s pravili EU o konkurenci in zlasti državni pomoči.

(14)      Ta poziv je bil vključen tudi v sklepe Sveta iz februarja 2019 (Svet Evropske unije, Sklepi o usklajenem načrtu za umetno inteligenco , 6177/19, 11. februar 2019).

(15)      Glej Dodatek 1 k temu dokumentu in prihodnje poročilo službe AI Watch Skupnega raziskovalnega središča (JRC) o nacionalnih strategijah za umetno inteligenco (2021).

(16)      Za opis službe AI Watch glej naslednji oddelek „Pregled sprejetih ukrepov“.

(17)      Tehnična podpora državam članicam za pomoč pri pregledu in posodabljanju nacionalnih strategij je na voljo prek instrumenta za tehnično podporo, kot je določen v Uredbi (EU) 2021/240.

(18)      Glej tudi drugo področje ukrepanja glede javno-zasebnih partnerstev in odličnosti na področju raziskav.

(19)

     Ta oddelek zajema glavne ukrepe. Komisija je organizirala tudi številne tehnične delavnice o umetni inteligenci s strokovnjaki iz različnih skupin deležnikov. O rezultatih z delavnic se je na primer nadalje razpravljalo oktobra 2020 na spletni konferenci o ekosistemih odličnosti in zaupanja.

(20)      Informativna spletna stran strokovne skupine na visoki ravni za umetno inteligenco (november 2020).

(21)       Ethics guidelines for trustworthy AI (Etične smernice za zaupanja vredno umetno inteligenco), 2019 . V smernicah je določen sklop sedmih ključnih zahtev, ki bi jih morali izpolnjevati umetnointeligenčni sistemi, da bi se šteli za zaupanja vredne. Namen posebnega ocenjevalnega seznama je pomagati pri preverjanju izpolnjevanja posameznih ključnih zahtev, ki so: (1) človekovo delovanje in nadzor; (2)·tehnična robustnost in varnost; (3) zasebnost in upravljanje podatkov; (4) preglednost; (5) raznolikost, nediskriminacija in pravičnost; (6) družbena in okoljska blaginja ter (7) odgovornost.

(22)       The policy and investment recommendations for trustworthy AI (Politična in naložbena priporočila za zaupanja vredno umetno inteligenco) (2020).

(23)      Julija 2020 je skupina po obsežnem posvetovanju in testiranju s podjetji in drugimi deležniki objavila ocenjevalni seznam za zaupanja vredno umetno inteligenco (ALTAI) za samooceno (2020). S tem orodjem za samooceno so načela EU za umetno inteligenco prenesena v kontrolni seznam, ki usmerja razvijalce in uvajalce umetne inteligence.

(24)       Poročilo strokovne skupine na visoki ravni o vplivu digitalne preobrazbe na trge dela EU (april 2019).

(25)       Liability for artificial intelligence and other emerging digital technologies (Odgovornost za umetno inteligenco in druge nastajajoče digitalne tehnologije), končno poročilo (2019).

(26)       Ethics of Connected and Automated Vehicle s (Etični vidiki povezanih in avtomatiziranih vozil), poročilo neodvisnih strokovnjakov (junij 2020).

(27)       Evropska skupina na visoki ravni za umetno inteligenco v letalstvu .

(28)      Sporočilo o strategiji za trajnostno in pametno mobilnost – usmerjanje evropskega prometa na pravo pot za prihodnost (COM(2020) 789 final).

(29)

     Strokovna skupina za umetno inteligenco na področju notranjih zadev (ustanovljena leta 2020) zagotavlja reden dialog in izmenjavo mnenj med organi držav članic in pridruženih schengenskih držav.

(30)      Večdisciplinarna ad hoc strokovna skupina za kibernetsko varnost pri Agenciji Evropske unije za kibernetsko varnost (ENISA) je obravnavala teme v zvezi z umetno inteligenco . V poročilu AI Cybersecurity Challenges: Threat Landscape for Artificial Intelligence (Izzivi na področju kibernetske varnosti v zvezi z umetno inteligenco: okolje groženj za umetno inteligenco), objavljenem decembra 2020, so bile poudarjene potreba po zaščiti umetnointeligenčnih sistemov pred zunanjimi tveganji v zvezi s kibernetsko varnostjo in zlorabami ter vse večje možnosti za uporabo umetne inteligence v podporo kibernetski varnosti. V nedavni strategiji EU za kibernetsko varnost v digitalnem desetletju (JOIN(2020) 18 final) je bilo poudarjeno, da sedanje okolje groženj dopolnjujejo geopolitične napetosti v zvezi z nadzorom nad močnimi in strateškimi tehnologijami, kot je umetna inteligenca.

(31)      Služba AI Watch (ki jo upravlja Skupno raziskovalno središče Komisije (JRC)) je sodelovala z državami članicami; leta 2019 je bila ustanovljena usmerjevalna skupina, ki jo sestavljajo predstavniki držav članic in se sestaja dvakrat letno.

(32)

     Na primer o nacionalnih strategijah za umetno inteligenco, umetni inteligenci in zdravju, uporabi umetne inteligence pri javnih storitvah in njenem vplivu nanje, spremljanju razvoja tehnologij umetne inteligence, operativni opredelitvi umetne inteligence, časovnici zgodovine umetne inteligence in analizi področja umetne inteligence na svetovni ravni, vključno z interaktivnim prikazom kazalnikov.

(33)      Vsa poročila in analize službe AI Watch so javno dostopni na spletnem portalu službe AI Watch in odprti za povratne informacije. Za pregled dejavnosti službe AI Watch glej njeno poročilo o dejavnostih za leto 2019 . 

(34)      Za več informacij o platformi IPSO glej spletno stran za zadevni ukrep . Na tej platformi je zdaj navedenih 43 posebnih primerov uporabe umetne inteligence za javne storitve v Evropi.

(35)      Namen projekta ATI je analizirati in sistematično spremljati uvajanje naprednih tehnologij v industriji po vsej EU. Projekt oblikovalcem politike, predstavnikom industrije in akademskim krogom zagotavlja: statistične podatke o ustvarjanju in uporabi naprednih tehnologij; analitična poročila o tehnoloških trendih, sektorskih vpogledih in izdelkih; analize ukrepov in orodij politike, povezanih z uvajanjem naprednih tehnologij; analize tehnoloških trendov v konkurenčnih gospodarstvih ter dostop do tehnoloških središč in vozlišč inovacij v državah EU.

(36)

     Evropska komisija, European enterprise survey on the use of technologies based on artificial intelligence (Raziskava med evropskimi podjetji o uporabi tehnologij, ki temeljijo na umetni inteligenci), informativna spletna stran (julij 2020). Raziskava je prvi kvantitativni pregled uvajanja tehnologij umetne inteligence med evropskimi podjetji na ravni EU. Je pomemben instrument za spremljanje sprejemanja umetne inteligence v državah članicah in za nadaljnjo oceno izzivov, s katerimi se soočajo podjetja, za njihovo notranjo organizacijo in zunanje vidike.

(37)      Eurostat, rezultati objavljeni 21. januarja 2020, nabor podatkov ISOC_EB_AI.

(38)      Evropska komisija, zbirno poročilo o ugotovitvah (2020); vsi prispevki k javnemu posvetovanju so na voljo na namenski spletni strani .

(39)      Glej oddelek „Okrepitev izmenjav in sodelovanja prek skupine držav članic za umetno inteligenco in digitalizacijo evropske industrije“ v nadaljevanju.

(40)      Ta spletni forum ima več kot 4 000 članov, ki zastopajo akademske kroge, podjetja in industrijo, civilno družbo, državljane EU in oblikovalce politik. Člani zavezništva za umetno inteligenco so na primer zagotovili podrobne povratne informacije za etične smernice za zaupanja vredno umetno inteligenco, ki jih je pripravila strokovna skupina na visoki ravni za umetno inteligenco (HLEG) .

(41)      Za pregled zavezništva za umetno inteligenco glej Evropska komisija, The European AI Alliance (Evropsko zavezništvo za umetno inteligenco) (informativna spletna stran, 2020).

(42)      Na prvi skupščini zavezništva za umetno inteligenco se je zbralo 500 članov, da bi zagotovili povratne informacije o oblikovanju politike Komisije na področju umetne inteligence. Druga skupščina z več kot 1 900 udeleženci je razpravljala o glavnih ugotovitvah javnega posvetovanja o beli knjigi o umetni inteligenci ter obetih za prihodnost glede oblikovanja evropskega pristopa za odličnost in zaupanje. Delavnice, ki so potekale med dogodkom, so se nanašale na teme, kot so biometrična identifikacija, umetna inteligenca in odgovornost, zahteve glede zaupanja vredne umetne inteligence, ugotavljanje skladnosti umetne inteligence, standardi in aplikacije umetne inteligence velikega tveganja.

(43)      Modul o umetni inteligenci je bil vključen v vprašalnik za leto 2021, podatki pa bodo na voljo januarja 2022.

(44)      Kot so indeks digitalnega gospodarstva in družbe (DESI) ter digitalni kompas do leta 2030 in z njim povezana prizadevanja za spremljanje, predstavljena v sporočilu Digitalni kompas do leta 2030: evropska pot v digitalno desetletje (marec 2021).

(45)      Predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (COM(2021) 206).

(46)       Skupina se je sestajala vsaki dve leti. Podporna skupina „šerp“ se je sestajala vsaka dva do tri mesece.

(47)      Ko bo na področjih ukrepanja v okviru načrta dosežen napredek, bo skupina dopolnila horizontalni pristop s tematskimi skupinami in tematskimi/sektorskimi delavnicami.

(48)      Glej na primer nemško pobudo za digitalna vozlišča.

(49)      Na primer nizozemska koalicija za umetno inteligenco in madžarska koalicija za umetno inteligenco .

(50)      Dejavnosti v zvezi s podatki v okviru programa Obzorje Evropa se bodo izvajale v sodelovanju s skupaj načrtovanim evropskim partnerstvom za umetno inteligenco, podatke in robotiko, glej poglavje 4. Številne teme bodo zajemale zlasti raziskave in razvoj novih tehnologij za souporabo podatkov v skupnih evropskih podatkovnih prostorih.

(51)      Glej na primer poročilo o oceni učinka in podporno študijo, priloženo predlogu uredbe o upravljanju podatkov (november 2020).

(52)      Oktobra 2020 je 27 držav članic EU za okrepitev sodelovanja in združitev sil za zavezo izgradnje oblaka naslednje generacije podpisalo izjavo o izgradnji oblaka naslednje generacije za podjetja in javni sektor v EU .

(53)      Evropska komisija, Evropska strategija za podatke (COM(2020) 66 final).

(54)      Za podrobnosti glej Evropska komisija, Experts say privately held data available in the European Union should be used better and more (Strokovnjaki menijo, da bi bilo treba podatke v zasebni lasti, ki so na voljo v Evropski uniji, uporabljati bolje in v večjem obsegu) (informativna spletna stran, junij 2020).

(55)       Za podrobnosti glej Evropska komisija, Meetings of the Expert Group on Business-to-Government Data Sharing (Sestanki strokovne skupine za souporabo podatkov med podjetji in državnimi upravami) (informativna spletna stran, september 2020).

(56)      Evropska komisija, Predlog uredbe o evropskem upravljanju podatkov (COM(2020) 767 final).

(57)      Da bi Komisija podprla souporabo podatkov med podjetji (B2B), bo prek programa za digitalno Evropo podprla tudi vzpostavljanje sektorskih podatkovnih prostorov, ki bodo imeli tehnične mehanizme in mehanizme upravljanja za souporabo podatkov med podjetji, raziskovalci in javnimi organizacijami.

(58)      Komisija bo na primer leta 2021 sprejela evropski zdravstveni podatkovni prostor, s katerim bo akt o upravljanju podatkov dopolnjen s posebnimi pravili za uporabo podatkov v zdravstvenem sektorju.

(59)      Glej Delovni program Komisije za leto 2021 (str. 4) in njegovo prilogo (točka 6).

(60)      Na podlagi Direktive (EU) 2019/1024 Evropskega parlamenta in Sveta z dne 20. junija 2019 o odprtih podatkih in ponovni uporabi informacij javnega sektorja (UL L 172, 26.6.2019, str. 56). Glej tudi poglavje 14 o umetni inteligenci za javni sektor.

(61)      Glej na primer informacije o projektu GAIA-X: A Federated Data Infrastructure for Europe (Združena podatkovna infrastruktura za Evropo) in izjavo o izgradnji oblaka naslednje generacije za podjetja in javni sektor v EU iz oktobra 2020.

(62)      Evropska komisija, Evropska strategija za podatke (COM(2020) 66 final).

(63)      Komisija lahko razmisli o vzpostavitvi dodatnih skupnih evropskih podatkovnih prostorov v drugih sektorjih.

(64)      Primeri sestavnih delov reform in naložb – povečati.

(65)      Količina podatkov, ki jih ustvarijo javni organi, podjetja in državljani, naj bi se v obdobju 2018–2025 povečala za petkrat.

(66)      Računalniške zmogljivosti se prav tako eksponentno povečujejo. Za vse bolj izpopolnjeno umetno inteligenco bo potrebna strojna oprema z večjimi računalniškimi zmogljivostmi. Za nalogo strojnega učenja je lahko potrebna zmogljivost tisočih računalnikov. Namenski pospeševalniki za strojno učenje, kot so grafične procesne enote (GPU), so omogočili tako uvajanje.

(67)       Odkar so se začeli namenski pospeševalniki uporabljati za strojno učenje, se zmogljivosti umetne inteligence vsake 3–4 mesece podvojijo, predvsem zaradi optimizacije strojne opreme.

(68)      Zlasti pri aplikacijah umetne inteligence na robu (ob upoštevanju prenapetosti povezanih naprav na mestu uporabe) je največja energijska učinkovitost bistvena, zato se morajo številne funkcije umetne inteligence namesto v programski opremi izvajati na strojni opremi.

(69)      Na tem področju raziskav lahko na primer nove tehnologije, ki jih navdihujejo možgani, kot je nevromorfno računalništvo, zagotovijo revolucionarno energijsko učinkovitost.

(70)      Za več informacij glej spletno stran Komisije za mehanizem RRF .

(71)      Evropska komisija, Letna strategija za trajnostno rast 2021 (COM(2020) 575 final).

(72)       Member States join forces for a European initiative on processors and semiconductor technologies (Države članice združile moči za evropsko pobudo za procesorje in polprevodniške tehnologije).

(73)      Umetna inteligenca za digitalizacijo industrije ( AI4DI ).

(74)      Razvoj procesne tehnologije in platform strojne opreme za nevromorfno računalništvo ( TEMPO ).

(75)      Umetna inteligenca za nove naprave in tehnologije na robu ( ANDANTE ).

(76)      Za več informacij glej spletno stran Skupnega podjetja ECSEL .

(77)      Glej skupno izjavo o procesorjih in polprevodniških tehnologijah .

(78)      Za evropsko partnerstvo za ključne digitalne tehnologije glej tudi napovedi v četrtem poglavju.

(79)      Partnerstva so bila prvič uvedena leta 2002 kot del evropskega raziskovalnega prostora, da bi se odpravila razdrobljenost prizadevanj na področju raziskav. Financirajo se v okviru programa Obzorje 2020, od leta 2021 pa v okviru programa Obzorje Evropa.

(80)       BDVA je združenje evropske skupnosti na področju velepodatkov, ki obsega vodilne evropske organizacije in podjetja za raziskave in inovacije, vključno s ponudniki, uporabniki in analitiki podatkov. Javno-zasebno partnerstvo je bilo uvedeno v obdobju 2016–2020 na podlagi razpisov za zbiranje predlogov v okviru dela programa Obzorje 2020 za vodilni položaj industrije.

(81)       Cilj partnerstva SPARC je bil zagotoviti dolgoročnejšo zavezanost naložbam v to področje za razvoj skupnega načrta za robotiko v Evropi in opredelitev sredstev za njegovo uresničitev z javno podporo. Pobuda je vključevala ukrepe, ki zajemajo celoten inovacijski cikel od raziskav ter raziskav in razvoja, ki jih vodi industrija, do testiranja inovativnih robotskih tehnologij in njihove pilotne uporabe v resničnih okoljih.

(82)      Računalništvo na eksaravni se nanaša na zmožnost izvesti milijardo milijard (trilijon) operacij na sekundo.

(83)      Pogodbeno javno-zasebno partnerstvo za visokozmogljivostno računalništvo je prek združenja ETP4HPC in centrov odličnosti za računalniške aplikacije združilo ponudnike in uporabnike tehnologije. Osredotočeno je bilo na tehnologije in uporabo ter aplikacije v okviru evropske strategije za visokozmogljivostno računalništvo , skupaj z usposabljanjem, izobraževanjem in razvojem spretnosti. Evropska komisija, Predlog uredbe Sveta o ustanovitvi Skupnega podjetja za evropsko visokozmogljivostno računalništvo (COM(2020) 569 final).

(84)       Skupno podjetje ECSEL .

(85)       Photonics 21 .

(86)       Načrt za tovarne prihodnosti , The European Factories of the Future Research Association (evropsko raziskovalno združenje za tovarne prihodnosti) (informativna spletna stran, januar 2021).

(87)      Skupaj načrtovana in institucionalizirana partnerstva, vzpostavljena v okviru programa Obzorje Evropa; glej informativno spletno stran European Partnerships in Horizon Europe (Evropska partnerstva v okviru programa Obzorje Evropa).

(88)      Skupaj načrtovano partnerstvo, glej spletno stran evropskega partnerstva za umetno inteligenco, podatke in robotiko .

(89)      Predlog partnerstva med drugim poudarja pomen vključenosti socialnih partnerjev v to javno-zasebno partnerstvo.

(90)      Vizija, splošni cilji, glavne tehnične/netehnične prednostne naloge in naložbena področja javno-zasebnega partnerstva ter njegov načrt za raziskave, inovacije in uvajanje so določeni v strateškem načrtu za raziskave, inovacije in uvajanje , ki bo usmerjal njegove dejavnosti od leta 2021. Pričakuje se, da bo memorandum o soglasju za začetek dejavnosti javno-zasebnega partnerstva podpisan aprila 2021.

(91)      Procesi fotonskega prikazovanja umetni inteligenci omogočajo, da „vidi“. Fotonske tehnologije, ki se uporabljajo v umetni inteligenci, vključujejo sisteme fotonskih senzorjev in obdelavo slik, na primer zelo zanesljivo prepoznavanje s kratko latenco za robote/avtonomne sisteme in platforme pametnih kamer z vdelano obdelavo slik; za več podrobnosti glej European Partnership on Photonics (Evropsko partnerstvo za fotoniko) (osnutek predloga, 26. maj 2020).

(92)      Za pregled vseh javno-zasebnih partnerstev, načrtovanih v okviru programa Obzorje Evropa, glej Evropska komisija, Coherence and synergies of candidate European partnerships under Horizon Europe (Skladnost in sinergije med kandidati za evropska partnerstva v okviru programa Obzorje Evropa, oktober 2020). V sklopu 4 („Digitalno področje, industrija in vesolje“) je načrtovanih deset javno-zasebnih partnerstev.

(93)      Združenje BDVA bo kot eden od zasebnih članov Skupnega podjetja EuroHPC in ključni partner v evropskem partnerstvu za umetno inteligenco, podatke in robotiko pomembno prispevalo k usklajevanju strategij in načrtov za visokozmogljivostno računalništvo, velepodatke in umetno inteligenco v Evropi. Partnerstvo bo nadalje sodelovalo in si prizadevalo za vzpostavitev tesnejših povezav z drugimi evropskimi partnerstvi velikega strateškega pomena, na primer s partnerstvom za ključne digitalne tehnologije, partnerstvom „Izdelano v Evropi“, partnerstvom o kooperativni, povezani in avtomatizirani mobilnosti (CCAM) ter zavezništvom za inovacije na področju interneta stvari.

(94)      Mednarodna razsežnost je obravnavana v poglavju 7. Poročilo službe AI Watch „TES analysis of AI Worldwide Ecosystem in 2009–2018“ (Analiza svetovnega ekosistema umetne inteligence v obdobju 2009–2018 na podlagi tehnično-gospodarskih sektorjev) poudarja močno evropsko raziskovalno okolje na področju umetne inteligence, saj ima EU največ akterjev na področju pionirskih raziskav umetne inteligence na svetu. V prihodnjem poročilu, ki bo zajemalo obdobje 2009–2020, je EU opredeljena kot regija z večino strateških raziskovalnih akterjev v mreži sodelovanj na področju patentov in publikacij.

(95)      Ocena temelji na podatkih iz septembra 2020.

(96)      Te mreže si prizadevajo za napredek raziskav, zbliževanje raznolike akademske skupnosti na področju umetne inteligence v Evropi in spodbujanje novih talentov. Izvajajo se tri leta (razen ene, ki se izvaja štiri leta). To delo temelji na močni podpori EU za raziskave, ki jo financirata program Obzorje 2020 in Evropski raziskovalni svet.

(97)      Za podrobnosti glej spletna mesta projektov AI4Media , ELISE , Humaine-AI-net , TAILOR in VISION (CSA).

(98)      Za podrobnosti glej sklop 4 programa Obzorje Evropa: „Umetna inteligenca, podatki in robotika pri delu“.

(99)      Za podrobnosti glej BDVA, Release of the SRIDA for the AI, Data and Robotics PPP (Objava strateškega raziskovalnega programa za inovacije in uvajanje za javno-zasebno partnerstvo za umetno inteligenco, podatke in robotiko) (informativna spletna stran, 2020).

(100)      Samo 17 % MSP je uspešno integriralo digitalne tehnologije, v primerjavi s 54 % velikih podjetij ( delovna skupina 1 za vozlišča digitalnih inovacij, Report from the working group meeting on access to finance (Poročilo s sestanka delovne skupine o dostopu do financiranja, marec 2018).

(101)      Centri za testiranje in eksperimentiranje bodo MSP zagotovili podporo, da bi olajšali enak dostop.

(102)      Vozlišča digitalnih inovacij so enotne kontaktne točke, ki podjetjem pomagajo, da z uporabo digitalnih tehnologij postanejo konkurenčnejša z vidika poslovnih/proizvodnih procesov, izdelkov ali storitev.

(103)      Evropsko računsko sodišče, Digitalizacija evropske industrije: ambiciozna pobuda, katere uspeh je odvisen od stalne zavezanosti EU, vlad in podjetij , posebno poročilo št. 19 (2020).

(104)      Evropska komisija, European Digital Innovation Hubs in Digital Europe programme (Evropska vozlišča digitalnih inovacij v programu za digitalno Evropo) (22. oktober 2020).

(105)      Evropska vozlišča digitalnih inovacij bodo tesno sodelovala z evropsko podjetniško mrežo, evropsko platformo za sodelovanje grozdov, Startup Europe in drugimi ustreznimi akterji. Glej Strategijo za MSP za trajnostno in digitalno Evropo (COM(2020) 103 final).

(106)      Projekt AI4EU , ki se je začel leta 2019 in se financira v okviru programa Obzorje 2020, razvija prvo evropsko platformo za „umetno inteligenco na zahtevo“. V okviru programa za digitalno Evropo so predvidene prihodnje dejavnosti uvajanja platforme ter povezave s centri za testiranje in eksperimentiranje in evropskimi vozlišči digitalnih inovacij.

(107)      Na primer algoritmi, ogrodja programske opreme, razvojna orodja, komponente, moduli, podatki, računalniški viri, funkcije izdelave prototipov.

(108)      To je v skladu z načeli sofinanciranja iz Uredbe Evropskega parlamenta in Sveta o vzpostavitvi programa za digitalno Evropo za obdobje 2021–2027 (COM(2018) 434 final – 2018/0227 (COD); po dogovoru, doseženem 15. decembra 2020, Uredba še čaka na objavo v Uradnem listu).

(109)      Mehanizem RRF/Evropski sklad za regionalni razvoj in/ali nacionalne sklade bi bilo mogoče uporabiti za vzpostavitev regionalne in/ali nacionalne digitalne platforme, ki bi združevala strokovnjake za umetno inteligenco, ponudnike rešitev in podjetja (vključno z MSP in zagonskimi podjetji). V naslednjem poglavju je opisano, kako lahko razvijalci umetne inteligence izkoristijo tudi program InvestEU ali druge obstoječe strukture financiranja.

(110)       Skupaj z Evropskim skladom za strateške naložbe (EFSI) in Evropskim investicijskim skladom (EIF).

(111)       First six Artificial Intelligence and Blockchain Technology funds backed by InnovFin raise a total of EUR 700 million (Prvih šest skladov za tehnologijo umetne inteligence in blokovnih verig ob podpori InnovFin zbralo skupno 700 milijonov EUR) (oktober 2020).

(112)      Ta instrument financiranja podpira podjetja, dejavna v sektorju umetne inteligence, ter tehnologije, ki neposredno dopolnjujejo umetno inteligenco, kot so blokovne verige, internet stvari in robotika. Za dodatne informacije glej Evropska investicijska banka, EIB Group provides EUR 150 million to support artificial intelligence companies (Skupina EIB zagotovila 150 milijonov EUR za podporo podjetjem na področju umetne inteligence) (2020).

(113)      Večina financiranja EIC temelji na pristopu od spodaj navzgor, ki naj bi omogočil podporo katerim koli tehnologijam in inovacijam, ki zadevajo različna znanstvena, tehnološka in sektorska področja ter področja uporabe ali predstavljajo nove znanstvene in tehnološke paradigme.

(114)      Skupni proračun pilotnega instrumenta Pospeševalec Evropskega sveta za inovacije za obdobje 2019–2020 je znašal več kot 1,3 milijarde EUR. Glej Evropska komisija, European Innovation Council (Evropski svet za inovacije), informativna spletna stran.

(115)       EIC - EIT: Working closer together for Europe's innovators (Tesnejše sodelovanje za evropske inovatorje) (januar 2021).

(116)      Naložbene smernice InvestEU vključujejo umetno inteligenco kot digitalno prednostno naložbeno področje v oddelku o strateških naložbah v kritično infrastrukturo.

(117)      Prvi tak dogodek bo organiziran na skupščini za digitalne tehnologije v okviru portugalskega predsedovanja (prva polovica leta 2021).

(118)      Pobuda EU Startup Nation Standard je usmerjena v politike držav članic, ki bi omogočile rast zagonskih podjetij v Evropi.

(119)      Po navedbah družbe McKinsey ( S haping the digital transformation in Europe (Oblikovanje digitalne preobrazbe v Evropi), 2020) bi lahko kumulativni dodatni prispevek novih digitalnih tehnologij, vključno z umetno inteligenco, k BDP v EU do leta 2030 znašal 2,2 bilijona EUR (14,1 % več kot leta 2017). Družba PwC ( Sizing the prize: What’s the real value of AI for your business and how can you capitalise? (Določanje velikosti nagrade: kakšna je resnična vrednost umetne inteligence za vaše podjetje in kako jo lahko izkoristite?), 2017) je napovedalo skoraj identično povečanje na svetovni ravni (15,7 bilijona USD).

(120)      Za pregled glej na primer oceno učinka, priloženo predlogu o evropskem pristopu k umetni inteligenci (v pripravi).

(121)       Bela knjiga o umetni inteligenci – evropski pristop k odličnosti in zaupanju (COM(2020) 65 final).

(122)      „Ekosistem zaupanja“ je osredotočen na ukrepe, ki zagotavljajo etičen razvoj umetne inteligence; „ekosistem odličnosti“ je osredotočen na ukrepe za spodbujanje odgovornih naložb, inovacij in izvajanja umetne inteligence. Za okrepitev „ekosistema zaupanja“ je Komisija skupaj s tem pregledom usklajenega načrta za umetno inteligenco pripravila predlog uredbe Evropskega parlamenta in Sveta o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (COM(2021) 206).

(123)      Evropska komisija, European enterprise survey on the use of technologies based on artificial intelligence (Raziskava med evropskimi podjetji o uporabi tehnologij, ki temeljijo na umetni inteligenci) (julij 2020). Kot ključno oviro je 45 % podjetij navedlo pomanjkanje spretnosti obstoječega osebja, 57 % podjetij pa težave pri zaposlovanju novega osebja z ustreznimi spretnostmi. Glede na nekatere ocene panoge bi se lahko število evropskih strokovnjakov za umetno inteligenco več kot podvojilo, če bi se uvedle nove in posebne priložnosti za učenje (LinkedIn 2020).

(124)      Craglia (ur.), Artificial intelligence a European perspective (Umetna inteligenca – evropska perspektiva), JRC Science for Policy report (poročilo Skupnega raziskovalnega središča v okviru znanosti za politiko), 2018.

(125)      Poleg tega so akademske institucije držav članic povečale ponudbo specializiranega izobraževanja na terciarni stopnji na področju umetne inteligence. Število specializiranih magistrskih študijev na področju umetne inteligence se je od leta 2018 do leta 2019 na primer povečalo za 10 %. Zdaj je na voljo približno 260 takih študijev. Za analizo glej na primer Righi, R., idr. Academic Offer of Advanced Digital Skills in 2019–20. International Comparison. Focus on Artificial Intelligence, High Performance Computing, Cybersecurity and Data Science (Akademska ponudba naprednih digitalnih spretnosti v obdobju 2019–2020. Mednarodna primerjava. Poudarek na umetni inteligenci, visokozmogljivostnem računalništvu, kibernetski varnosti in podatkovni znanosti), tehnično poročilo JRC , 2020.

(126)      Za analizo glej na primer Righi, R., idr. Academic Offer of Advanced Digital Skills in 2019–20. International Comparison. Focus on Artificial Intelligence, High Performance Computing, Cybersecurity and Data Science, (Akademska ponudba naprednih digitalnih spretnosti v obdobju 2019–2020. Mednarodna primerjava. Poudarek na umetni inteligenci, visokozmogljivostnem računalništvu, kibernetski varnosti in podatkovni znanosti), tehnično poročilo JRC , 2020.

(127)      Evropska komisija, sporočilo o letni strategiji za trajnostno rast 2021 (COM(2020) 575 final). Člen 19 Uredbe (EU) 2021/241 Evropskega parlamenta in Sveta z dne 12. februarja 2021 o vzpostavitvi Mehanizma za okrevanje in odpornost poziva k vključevanju enakosti spolov in enakih možnosti za vse v nacionalni načrt za okrevanje in odpornost. To je še zlasti pomembno na primer v zvezi z razvojem in izpopolnjevanjem digitalnih spretnosti in spretnosti na področju umetne inteligence med ženskami in dekleti.

(128)      Natančneje, načrt vključuje več podpornih dejavnosti, ki naj bi med drugim posredno olajšale razvoj spretnosti na področju umetne inteligence, vključno z ukrepi za: izboljšanje hitre internetne povezave za izobraževanje, okrepitev digitalnih zmogljivosti šol in podpiranje inovacij z uporabo nastajajočih tehnologij, kot je umetna inteligenca, za boljše učenje in poučevanje ter izboljšanje poučevanja informatike in računalniškega razmišljanja v izobraževanju z razširitvijo uspešnih projektov, kot so pripravništva na področju digitalnih priložnosti, ki podpirajo čezmejne izkušnje za študente, s katerimi lahko ti izboljšajo svoje digitalne spretnosti na delovnem mestu. Pilotna različica sheme je v dveh letih dosegla 16 000 študentov.

(129)       Evropski teden programiranja je družbena pobuda, katere cilj je programiranje in digitalno pismenost na zanimiv način približati vsem (2021). Za učitelje začetnike so na voljo tudi „praktične vaje“ in načrti učnih ur o ukvarjanju s strojno opremo in robotiki.

(130)

      Evropski teden programiranja ; do konca leta 2020 se je tedna programiranja udeležilo več kot 14 milijonov mladih, od tega skoraj polovica deklet. Leta 2021 bo v okviru evropskega tedna programiranja zagotovljen brezplačen množični odprti spletni tečaj (MOOC) o osnovah umetne inteligence za šole za učitelje. Na voljo so tudi praktične vaje in načrti učnih ur o predstavitvi umetne inteligence v učilnici.

(131)      Evropska komisija, Universities, SMEs and researchers join forces to deliver new Master courses in AI (Univerze, MSP in raziskovalci združili sile za zagotovitev novih magistrskih študijev na področju umetne inteligence), 2021.

(132)      Pobudo bo podprl IPE, ki se bo izvajal leta 2021.

(133)      Glej oddelek 1.2 o strokovni skupini na visoki ravni za umetno inteligenco.

(134)      Glej Skills-OVATE: Skills Online Vacancy Analysis Tool for Europe (spletno orodje za analizo prostih delovnih mest za spretnosti za Evropo).  

(135)      Eden od predlogov za olajšanje vzajemnega priznavanja v delovnem dokumentu JRC iz leta 2021 (v pripravi) je na primer oblikovanje oznake EU za tiste magistrske programe, ki zajemajo potrebne vsebine v zvezi z umetno inteligenco, da se lahko štejejo za „magistrske študije EU na področju umetne inteligence“.

(136)       Towards a vibrant European network of AI excellence (Na poti k živahni evropski mreži odličnosti na področju umetne inteligence) (oktober 2020).

(137)      V preteklosti (2014–2020) so individualne štipendije ter izmenjave osebja za raziskave in inovacije v okviru ukrepov Marie Skłodowske-Curie privabile največ projektov, povezanih z umetno inteligenco (384 oziroma 76), sledili pa so inovativne mreže usposabljanja (102) in COFUND (12). Za pregled projektov na področju umetne inteligence, financiranih v okviru ukrepov Marie Skłodowske-Curie programa Obzorje 2020, in razpravo o njih glej na primer Izvajalska agencija za raziskave, Meeting Report and Key Messages for Policy Consideration (Poročilo o srečanju in ključna sporočila za obravnavo politike), Artificial Intelligence Cluster Meeting (Srečanje grozdov za umetno inteligenco), 2020.

(138)      Sporočilo Evropske komisije, Novi ERP za raziskave in inovacije (COM(2020) 628 final). Glej tudi Evropska komisija, Gender Equality a Strengthened Commitment in Horizon Europe (Enakost spolov – okrepljena zaveza v okviru programa Obzorje Evropa), februar 2021.

(139)      Samo 3 % vseh magistrskih ekonomskih programov vključuje module o umetni inteligenci ( Academic offer of advanced digital skills in 2019–2020 (Akademska ponudba naprednih digitalnih spretnosti v obdobju 2019–2020, JRC).

(140)      Glej zgoraj, str. 24.

(141)      Glej oddelek 1.2.

(142)

     Predlogi Komisije v beli knjigi o umetni inteligenci iz leta 2020 so sprožili široko javno posvetovanje o tem, kako v Evropi razviti ekosisteme odličnosti in zaupanja v umetno inteligenco.

(143)      Z državami članicami je bilo opravljeno tudi posvetovanje o možnih ovirah za razvoj umetne inteligence, ki so posledica pravil o konkurenci in pravil o državni pomoči. Rezultati niso pokazali, da pravila ovirajo razvoj.

(144)      Glej oddelek 1.2.

(145)      Komisija je smernice potrdila v sporočilu o krepitvi zaupanja v umetno inteligenco, osredotočeno na človeka (COM(2019) 168 final) .

(146)      Strokovna skupina Evropske komisije na visoki ravni za umetno inteligenco, Assessment List for Trustworthy Artificial Intelligence for self-assessment (Ocenjevalni seznam za zaupanja vredno umetno inteligenco za samooceno), 2020.

(147)      To je sledilo objavi prvega osnutka smernic decembra 2018, o katerem je bilo v okviru odprtega posvetovanja prejetih več kot 500 pripomb. Glej smernice strokovne skupine na visoki ravni za umetno inteligenco, Ethics Guidelines for Trustworthy AI (Etične smernice za zaupanja vredno umetno inteligenco), 2019.

(148)      Poleg tega je bilo delo JRC osredotočeno na zaupanja vredno umetno inteligenco in vpliv umetne inteligence na vidike študij o človekovem vedenju, kot so vpliv umetne inteligence na poklic, socialni roboti in človekov razvoj ter raznolikost umetne inteligence. HUMAINT. Understanding the impact of Artificial intelligence on human behaviour (Razumevanje vpliva umetne inteligence na človeško vedenje).

(149)      V beli knjigi o umetni inteligenci je na primer navedeno, da Komisija preučuje posebne izzive v zvezi z umetno inteligenco v zdravstvenem sektorju.

(150)      JOIN(2020) 18 final.

(151)

     Sporočilo Evropske komisije, Čim boljše izkoriščanje inovacijskega potenciala EU. Akcijski načrt za pravice intelektualne lastnine v podporo okrevanju in odpornosti EU. Glej na primer M. Iglesias idr., Intellectual property and artificial intelligence – a literature review (Intelektualna lastnina in umetna inteligenca – pregled literature, poročilo JRC, 2019), kjer so obravnavane morebitne posledice uporabe umetne inteligence v pravnem okviru za intelektualno lastnino. Glej tudi Copyright and new technologies: copyright data management and artificial intelligence (Avtorske pravice in nove tehnologije: upravljanje podatkov o avtorskih pravicah in umetna inteligenca) (SMART 2019/0038) in Trends and development in AI: challenges to the IPR framework (Trendi in razvoj na področju umetne inteligence: izzivi za okvir pravic intelektualne lastnine) (SMART 2018/0052). Navedena publikacija predstavlja trenutno stanje na področju zaščite stvaritev, ustvarjenih s podporo umetne inteligence, z zakonodajo o avtorskih pravicah in patentih ter bo izhodišče za podrobnejšo pripravo možnosti in rešitev politike in razpravo o njih. Glej tudi študijo o uporabi direktive o poslovnih skrivnostih v okviru podatkovnega gospodarstva (GRO/SME/20/F/206).

(152)      En del javnega posvetovanja o beli knjigi o umetni inteligenci in posvetovanja, na podlagi katerih je bila pripravljena ocena učinka v podporo predlogu zakonodajnega okvira, so bili posebej osredotočeni na to vprašanje.

(153)      Glej delovni dokument SWD(2018) 157 final o oceni Direktive Sveta 85/374/EGS z dne 25. julija 1985 o približevanju zakonov in drugih predpisov držav članic v zvezi z odgovornostjo za proizvode z napako, priložen poročilu Komisije Evropskemu parlamentu, Svetu in Evropskemu ekonomsko-socialnemu odboru o uporabi navedene direktive (COM(2018) 246 final); glej tudi poročilo COM(2020) 64 final o vprašanjih varnosti in odgovornosti, ki jih sprožajo umetna inteligenca, internet stvari in robotika.

(154)      Predlog uredbe Evropskega parlamenta in Sveta o strojih in napravah, COM(2021) 202 final.

(155)      Komisija namerava v drugem četrtletju leta 2021 sprejeti predlog za revizijo direktive o splošni varnosti proizvodov. Poleg tega se pričakuje, da bo Komisija v skladu z Direktivo 2014/53/EU o radijski opremi kmalu sprejela delegirane akte, s katerimi bo uzakonila nekatere nove zahteve glede varstva podatkov in zasebnosti, kibernetske varnosti, škode na omrežju ter boja proti goljufijam.

(156)      Agencija Evropske unije za kibernetsko varnost (ENISA) lahko na primer posodobi pregled groženj na področju umetne inteligence glede na tehnološki razvoj in nove izzive.

(157)       Strategija EU za kibernetsko varnost v digitalnem desetletju (JOIN(2020) 18 final).

(158)      Skupno sporočilo o krepitvi prispevka EU k multilateralizmu, ki temelji na pravilih (februar 2021).

(159)      Na primer načela OECD o umetni inteligenci ( OECD principles on AI ), ki so jih sprejele države članice OECD, v priporočilu sveta OECD o umetni inteligenci ( OECD Council Recommendation on Artificial Intelligence , OECD/LEGAL/0449) iz maja 2019, dialog o umetni inteligenci v okviru saudskega predsedovanja G20 pod okriljem projektne skupine za digitalno gospodarstvo (DETF) za pomoč pri utrjevanju načel G20 o umetni inteligenci (2019), Unescov osnutek priporočila o etiki umetne inteligence ter svetovni vrh Mednarodne telekomunikacijske zveze (ITU) AI for Good (Umetna inteligenca za dobro), ki je vodilna globalna in vključujoča platforma ZN o umetni inteligenci, usmerjena v ukrepe.

(160)       Malicious uses and abuses of artificial intelligence (Zlonamerne uporabe in zlorabe umetne inteligence), skupno poročilo Europola, inštituta UNICRI in podjetja Trend Micro (2020).

(161)      Plonck, A., The Global Partnership on AI takes off – at the OECD (Začetek globalnega partnerstva za umetno inteligenco – v OECD), 9. julij 2020.

(162)      OECD, OECD Network of Experts on AI (ONE AI) (Mreža strokovnjakov OECD za umetno inteligenco) , informativna spletna stran (2020).

(163)      Glej Evropska komisija: European Commission and OECD collaborate on global monitoring and analysis of Artificial Intelligence developments (Evropska komisija in OECD sodelujeta pri globalnem spremljanju in analizi razvoja umetne inteligence), informativna spletna stran (februar 2020).

(164)      Glej člena 5 in 10 ter člen 26(2) stališča Evropskega parlamenta P9_TC1-COD(2016) 295 o začasnem sporazumu, doseženem novembra 2020 med Evropskim parlamentom, Svetom in Komisijo, o končnem besedilu (prenovljene) Uredbe Sveta (ES) št. 428/2009 z dne 5. maja 2009 o vzpostavitvi režima Skupnosti za nadzor izvoza, prenosa, posredovanja in tranzita blaga z dvojno rabo. Svet naj bi posodobljeno uredbo odobril aprila 2021, preden bo lahko začela veljati (90 dni po objavi).

(165)      JOIN(2020) 22 final.

(166)      Evropska komisija, Joint Statement on the 17th European Union – United States Information Society Dialogue (Skupna izjava o 17. dialogu o informacijski družbi med Evropsko unijo in Združenimi državami Amerike), informativna spletna stran (julij 2020).

(167)      To vključuje razprave na delovni in visoki ravni z ameriško komisijo za nacionalno varnost na področju umetne inteligence , prispevke k procesu čezatlantskega dialoga CEPS/Brookings ter prispevke k dogodkom v zvezi z obdelavo biometričnih informacij in prepoznavanjem obraza, ki jih sponzorira možganski trust German Marshall Fund.

(168)      WIPO, WIPO begins public consultation process on artificial intelligence and intellectual property policy (WIPO začela postopek javnega posvetovanja o umetni inteligenci in politiki intelektualne lastnine), informativna spletna stran (13. december 2019).

(169)      Za podrobnosti o projektu glej Evropska komisija: Advancing Collaboration and Exchange of Knowledge Between the EU and Japan for AI-Driven Innovation in Manufacturing (Spodbujanje sodelovanja in izmenjave znanja med EU in Japonsko za inovacije v proizvodnji, ki temeljijo na umetni inteligenci), informativna spletna stran , 2020.

(170)      Za več podrobnosti glej na primer pobudo Imaging COVID-19 AI . To je evropski projekt več centrov za izboljšanje računalniške tomografije (CT) pri postavljanju diagnoze COVID -19 z uporabo tehnologije umetne inteligence, ki temelji na globokem učenju, za avtomatizirano odkrivanje in klasifikacijo COVID-19 na CT posnetkih ter za oceno resnosti bolezni pri bolnikih s količinsko opredelitvijo obsega prizadetosti pljuč. Projekt podpira Evropsko združenje za medicinsko slikovno informatiko (European Society of Medical Imaging Informatics – EuSoMII).

(171)      Glej na primer De Nigris S. idr., AI and digital transformation: early lessons from the COVID-19 crisis (Umetna inteligenca in digitalna preobrazba: prve izkušnje, pridobljene v krizi zaradi COVID-19), JRC Science for Policy report (poročilo Skupnega raziskovalnega središča v okviru znanosti za politiko), 2020.

(172)      Evropska komisija, Evropski zeleni dogovor (COM(2019) 640 final, december 2019).

(173)      Svet za okolje je v sklepih o digitalizaciji v korist okolja z dne 17. decembra 2020 obravnaval dvojni družbeni izziv digitalne preobrazbe in zelenega prehoda, tj. obravnaval je morebitne neposredne in posredne negativne vplive umetne inteligence na okolje ter pomen izmenjave izkušenj in pridobljenih spoznanj v zvezi z razvojem in uporabo umetne inteligence za okolje med državami članicami.

(174)      Ministrska izjava, A Green and Digital Transformation of the EU (Zelena in digitalna preobrazba EU), marec 2021.

(175)      Glej na primer Evropska komisija, Digitalne rešitve za ničelno onesnaževanje za širšo razpravo o rešitvah, ki temeljijo na umetni inteligenci, v različnih okoljih, vključno s proizvodnjo in kmetijstvom, za uresničitev cilja „ničelnega onesnaževanja“ (v pripravi, objava predvidena za pomlad 2021).

(176)      Za umetno inteligenco za javni sektor glej poglavje 14.

(177)      V okviru programa za digitalno Evropo. Za podrobnosti o evropskih podatkovnih prostorih glej poglavje 2 in Evropska komisija, Evropska strategija za podatke , februar 2020.

(178)      V okviru pobude Destinacija Zemlja se bodo široko uporabljala podatkovna sredstva programa Copernicus, ki jih zagotavljajo sateliti Sentinel in proizvodi storitev Copernicus. Rešitve umetne inteligence, razvite v okviru pobude Destinacija Zemlja, bodo nato prispevale k izboljšanju programa Copernicus.

(179)      Digitalni dvojčki bodo strokovnim in nestrokovnim uporabnikom omogočili prilagojen dostop do visokokakovostnih informacij, storitev, modelov, scenarijev, napovedi in prikazov (npr. modeliranje strategij za prilagajanje podnebnim spremembam ter scenarijev za obvladovanje tveganja nesreč v povezavi z ekstremnimi vremenskimi in geofizičnimi dogodki). Združena platforma za modeliranje in simulacijo, ki temelji na računalništvu v oblaku, bo zagotovila dostop do podatkov, napredne računalniške infrastrukture, programske opreme, aplikacij umetne inteligence in analitike. Glej Evropska komisija, Destination Earth (DestinE), informativna spletna stran .

(180)      Javno-zasebno partnerstvo za umetno inteligenco, podatke in robotiko (glej poglavje 4) bo v okviru svojega prispevka k zelenemu dogovoru prav tako prispevalo k okrepitvi sektorskega dialoga o umetni inteligenci.

(181)      Glej Evropska komisija, Green public procurement  (Zelena javna naročila) in Green public Procurement criteria for Data centres, server rooms and cloud services (Merila za zelena javna naročila za podatkovne centre, strežniške sobe in storitve v oblaku), informativni spletni strani, 2020 .

(182)      Na primer dejavnosti Mednarodne telekomunikacijske zveze ( International standards for an AI-enabled future (Mednarodni standardi za prihodnost, podprto z omogočeno umetno inteligenco), 2020).

(183)      Za podrobno analizo glej De Nigris S. idr., AI uptake in health and Healthcare, 2020 (Uvajanje umetne inteligence v zdravstvu in zdravstvenem varstvu, 2020), tehnično poročilo službe AI Watch Skupnega raziskovalnega središča, 2020.

(184)      Umetna inteligenca lahko zagotovi vpogled v podatke v podporo diagnostiki in zdravljenju, vendar mora končne odločitve vedno sprejeti klinični zdravnik (človekov nadzor).

(185)      Umetnointeligenčni sistemi pacientom omogočajo, da spremljajo svoje zdravje, in izboljšajo dostop do zdravstvenega varstva, tudi na oddaljenih območjih ali območjih z malo viri. „Digitalni dvojčki“ ljudi (tj. ažurni, personalizirani modeli, ki odražajo ciljne vidike fiziologije, delovanja, vedenja itd. človeka) lahko izboljšajo preventivo, zgodnjo diagnozo in učinkovito zdravljenje bolezni.

(186)      Na primer v sporočilu Komisije, priloženem izjavi o sodelovanju na področju umetne inteligence (10. april 2018), beli knjigi o umetni inteligenci, etičnih smernicah za zaupanja vredno umetno inteligenco (8. april 2019) in usklajenem načrtu iz leta 2018.

(187)

     Orodja umetne inteligence se uporabljajo tudi za izboljšanje nadzora in oskrbe; za pregled projektov, ki jih podpira Komisija, glej Digital health technologies addressing the pandemic (Digitalne zdravstvene tehnologije za obravnavo pandemije), informativna spletna stran (2020).

(188)      Umetnointeligenčni sistemi so bili uporabljeni za obravnavo različnih vidikov pandemije; vodilni projekt Exscalate4CoV je na primer namenjen pospešitvi razvoja novih načinov zdravljenja COVID-19. Glej spletno stran Komisije o ukrepih za odziv na pandemijo COVID-19: podatki, umetna inteligenca in superračunalniki .

(189)    Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES (Splošna uredba o varstvu podatkov) (UL L 119, 4.5.2016, str. 1).

(190)       The von der Leyen Commission’s priorities for 2019–2024 (Prednostne naloge Komisije predsednice von der Leyen za obdobje 2019–2024).

(191)      Za cilje in sprejete ukrepe glej informativno spletno stran Komisije o evropskem zdravstvenem podatkovnem prostoru .

(192)      Kažipot Komisije, Digitalni zdravstveni podatki in storitve – evropski prostor zdravstvenih podatkov , 2020.

(193) Evropska komisija, Evropska strategija za zdravila , 2020.

(194) Sveženj o evropski zdravstveni uniji: COM(2020) 724, COM(2020) 725, COM(2020) 726 in COM (2020) 727.

(195)      Digitalizacija vpliva na odkrivanje, razvoj, proizvodnjo, zbiranje dokazov, oceno, dobavo in uporabo zdravil. To vključuje sisteme, ki temeljijo na umetni inteligenci, za preprečevanje, določitev diagnoze, boljše zdravljenje, terapevtsko spremljanje ter podatke za posameznikom prilagojena zdravila in drugo uporabo v zdravstvenem varstvu.

(196)      https://ec.europa.eu/commission/presscorner/detail/sl/IP_21_342.

(197)      V okviru tega razpisa so bili leta 2020 izbrani štirje projekti ( ProCAncer-I , CHAIMELEON , EuCanImage in INCISIVE ) .

(198)      Za podrobnosti o načrtovani pobudi glej Digitalni zdravstveni podatki in storitve – evropski prostor zdravstvenih podatkov , 2020.

(199)      Evropska komisija, Revizija splošne zakonodaje EU o zdravilih , 2021.

(200)      Program EU za zdravje za obdobje 2021–2027 – vizija za bolj zdravo Evropsko unijo.

(201)      Glede pojma odprte strateške avtonomije glej oddelek 2.1 sporočila Komisije o odprti, trajnostni in odločni trgovinski politiki.

(202)      Robotika bo podpirala večjo učinkovitost, optimizacijo, kakovost in trajnostnost v industriji in storitvah. Glej Duch-Brown, N., in Rossetti, F. (2021), Evolution of the EU market share of robotics: data and methodology (Razvoj tržnega deleža robotike v EU: podatki in metodologija), tehnično poročilo JRC.

(203)      Delež evropskega prebivalstva, starejšega od 65 let, se bo z 20 % leta 2018 povečal na 31 % leta 2100. Za podrobnosti glej informativno spletno stran Eurostata .

(204)      Zillner, S. idr., Strategic Research, Innovation and Deployment Agenda, AI, Data and Robotics Partnership (Strateški načrt za raziskave, inovacije in uvajanje – partnerstvo za umetno inteligenco, podatke in robotiko), tretja izdaja, september 2020. BDVA, euRobotics, ELLIS, EurAI in CLAIRE.

(205)      Sporočilo Evropske komisije, Akcijski načrt za sinergije med civilno, obrambno in vesoljsko industrijo (COM(2021) 70 final). V akcijskem načrtu je navedeno, da bo „Komisija [...] v okviru svojih služb ustanovila opazovalnico EU za kritične tehnologije“.

(206)      Glej poglavje 4.

(207)      Umetna inteligenca lahko podpira demokratične procese, na primer z izboljšanjem postopkov odločanja, analize podatkov ali udeležbe in angažiranja državljanov. Za primere sodelovanja državljanov glej Savaget, P., Chiarini, T., in Evans, S., Empowering political participation through artificial intelligence (Krepitev vloge politične udeležbe z umetno inteligenco), Science and Public Policy, 46(3), 2019.

(208)      Za ukrepe javnega sektorja na področju trajnostne umetne inteligence glej poglavje 9.

(209)      Kot je predlagano v beli knjigi o umetni inteligenci .

(210)      Poročilo službe AI Watch Skupnega raziskovalnega središča o nacionalnih strategijah za umetno inteligenco (objava predvidena za leto 2021).

(211)      Misuraca, G., in Van Noordt, C., AI Watch – Artificial intelligence in public services (Umetna inteligenca v javnih storitvah), JRC Science for Policy Report (poročilo Skupnega raziskovalnega središča v okviru znanosti za politiko) (2020).

(212)      Skupni projekt z JRC v okviru študije službe AI Watch. V okviru študije bo pripravljen tudi pregled že obstoječih relevantnih aplikacij v državah članicah, poleg tega bo študija prispevala k boljšemu razumevanju vpliva in dodane vrednosti v podporo izvajanju javnih storitev.

(213)      Za podrobnosti glej platformo eTranslation Instrumenta za povezovanje Evrope.

(214)      Marca 2020 so dostop do spletnega portala dobila tudi MSP; med uporabniki je že skoraj toliko MSP kot javnih uprav.

(215)      Glej spletno stran programa ISA² Evropske komisije – Bringing new technologies in the public sector – AI related actions in ISA² programme (Interoperability solutions for public administrations, businesses and citizens) (Prinašanje novih tehnologij v javni sektor – Ukrepi, povezani z umetno inteligenco, v programu ISA² (Rešitve za interoperabilnost za javne uprave, podjetja in državljane)) (2018).

(216)      Glej Evropska komisija, informativna spletna stran o ukrepu za inovativne javne storitve (2018).

(217)      Evropska komisija, Study on the use of innovative technologies in the justice field (Študija o uporabi inovativnih tehnologij na področju pravosodja), september 2020.

(218)       Spletni seminarji so bili organizirani v skladu s sporočilom o digitalizaciji pravosodja v Evropski uniji z dne 2. decembra 2020 (COM(2020) 710 final).

(219)      Glej belo knjigo o umetni inteligenci .

(220)      Program za sprejemanje umetne inteligence jih bo povezal z organizacijo dogodkov in priložnosti za usklajevanje ponudbe in povpraševanja. Instrumenti, kot so dialogi, hekatoni in predkomercialna javna naročila, bodo dobaviteljem omogočili, da se bodo bolje odzvali na zahteve javnih naročil, javni organi pa bodo bolje razumeli trg in oblikovali ciljno usmerjena javna naročila.

(221)      V skladu s členom 40 direktive o javnem naročanju (2014/24/EU) bodo javni kupci na portalu Tenders Electronic Daily (TED) objavili predhodna informativna obvestila, da bi začeli pregledno in nediskriminatorno predhodno preverjanje trga na ravni EU.

(222)

     Glej sporočilo Evropske komisije, Evropska strategija za podatke (COM(2020) 66 final).

(223)      Podatki na ravni EU (obvestila o oddaji javnih naročil na portalu TED) in odprti nabori podatkov držav članic.

(224)      Predvideni rezultat trenutnega dela službe AI Watch na področju sprejemanja umetne inteligence v javnem sektorju .  

(225)      Lokalni digitalni dvojčki so virtualna predstavitev fizičnih lastnosti mesta, povezanih s podatki. Ti digitalni dvojčki so lahko osredotočeni na ekstremne vremenske dogodke, urbanistično načrtovanje ali krizno upravljanje. Uporaba strojnega učenja lahko z ustvarjanjem simulacij ali modelov ali s spremljanjem v realnem času mestu pomaga pri učinkovitejšem delovanju. Evropska komisija, Workshop Report: Digital Twins of cities (Poročilo z delavnice: digitalni dvojčki mest), 2020.

(226)      Open and agile smart cities (OASC), MIM 5: Fair AI and Algorithms (Pravična umetna inteligenca in algoritmi) (2020).

(227)      Join, boost, sustain — the European way of digital transformation in cities and communities (Pristopi, spodbujaj, ohranjaj – evropska pot k digitalni preobrazbi v mestih in skupnostih); za podrobnosti glej informativno spletno stran gibanja Living-in.EU .

(228)      Ob upoštevanju pomena področja politike in potrebe po zagotavljanju varstva temeljnih pravic se aplikacije umetne inteligence za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, migracije in azil nikoli ne uporabljajo kot samostojen „nosilec odločanja“. Umetnointeligenčni sistemi se uporabljajo za pomoč, tako da na primer zagotavljajo indice za preiskavo ali oceno v konkretnem okviru, vendar končno odločitev vedno sprejme človek.

(229)      Za informacije o uporabi aplikacij umetne inteligence na področju notranjih zadev v državah članicah glej na primer Skupno raziskovalno središče, Artificial Intelligence in public services (Umetna inteligenca v javnih storitvah), JRC (2020).

(230)

     Publikacija Artificial intelligence in public services (Umetna inteligenca v javnih storitvah) Skupnega raziskovalnega središča (2020) navaja, da 11 držav članic uporablja 25 aplikacij umetne inteligence na področju notranjih zadev. 

(231)      Tehnologije umetne inteligence se uporabljajo na primer za podatkovno analitiko, razširjeno in navidezno resničnost za modeliranje javne varnosti na množičnih prireditvah, avtomatizirano odkrivanje kibernetskih groženj, akcije iskanja in reševanja z brezpilotnimi zrakoplovi in robotiko, pregledovanje potnikov in lajšanje prošenj za azil (virtualni pomočniki in prevajalski programi).

(232)      Skupno poročilo Europola, inštituta UNICRI in podjetja Trend Micro, Malicious uses and abuses of Artificial Intelligence (Zlonamerne uporabe in zlorabe umetne inteligence), objavljeno 19. novembra 2020 (https://www.europol.europa.eu/publications-documents/malicious-uses-and-abuses-of-artificial-intelligence).

(233)      Sklepi Sveta o notranji varnosti in evropskem policijskem partnerstvu (2020).

(234)      Sklepi Sveta o notranji varnosti in evropskem policijskem partnerstvu (2020).

(235)      Evropska komisija, sporočilo z naslovom Agenda EU za boj proti terorizmu: predvidevanje, preprečevanje, zaščita in odzivanje (COM(2020) 795 final). Glej tudi skupno poročilo Europola, inštituta UNICRI in podjetja Trend Micro, Malicious uses and abuses of Artificial Intelligence (Zlonamerne uporabe in zlorabe umetne inteligence), 2020.

(236)      Kot je zahteval Svet, bo vozlišče zagotavljalo predvsem usklajevalni mehanizem med policijo EU (Europol), mejno policijo (Frontex) in agencijami za informacijske sisteme na področju notranjih zadev (eu-LISA) ter Komisijo. Usmerjevalni skupini bosta predsedovala predstavnik države članice, ki ga bo za obdobje treh let imenoval stalni odbor za notranjo varnost, in predstavnik Evropske komisije (GD za migracije in notranje zadeve). Cilj vozlišča je podpirati sodelujoče subjekte pri izmenjavi informacij in znanja, pripravi skupnih projektov ter razširjanju dognanj in razvitih tehnoloških rešitev, kot je napovedano v strategiji EU za varnostno unijo. Glej tudi: https://data.consilium.europa.eu/doc/document/ST-5757-2020-INIT/en/pdf .

(237)      Predlog uredbe Evropskega parlamenta in Sveta o spremembi Uredbe (EU) 2016/794 v zvezi s sodelovanjem Europola z zasebnimi strankami, obdelavo osebnih podatkov s strani Europola v podporo preiskavam kaznivih dejanj ter vlogo Europola na področju raziskav in inovacij, ki ga je pripravila Komisija (COM(2020) 796 final).

(238)      Predlog Komisije COM(2020) 796 final, uvodna izjava 38.

(239)      Evropska komisija, Sporočilo o strategiji EU za boj proti organiziranemu kriminalu za obdobje 2021–2025 (COM(2021) 170 final).

(240)      Nadaljnje ukrepanje na podlagi dogodka Migration 4.0: The Digital Transformation of Migration Management (Migracije 4.0: digitalna preobrazba upravljanja migracij), organiziranega v okviru nemškega predsedovanja.

(241)      Ta pobuda bo omogočila raziskave, razvoj, testiranje, učenje in potrjevanje algoritmov za sisteme, ki temeljijo na umetni inteligenci, za organe za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj in varnostne agencije na podlagi različnih vrst naborov podatkov, vključno s psevdooperativnimi in anonimiziranimi nabori podatkov.

(242)      Ta ukrep je bil napovedan 17. decembra 2020 v strokovni skupini za umetno inteligenco na področju notranjih zadev.

(243)      Ta pobuda temelji na poročilu Opportunities and challenges for the use of artificial intelligence in border control, migration and security (Priložnosti in izzivi za uporabo umetne inteligence na področju nadzora meja, migracij in varnosti) (2020). Komisija je ta ukrep napovedala na forumu o interoperabilnosti 28. oktobra 2020. Prva potrditev koncepta se je začela 19. julija 2020 in končala decembra 2020. Študija je pokazala možne uporabe umetne inteligence, nekatere od njih pa bodo poskusno izvedene leta 2021 kot potrditev koncepta.

(244)      Evropska komisija, Feasibility study on a forecasting and early warning tool for migration based on artificial intelligence technology (Študija izvedljivosti o orodju za napovedovanje in zgodnje opozarjanje za migracije, ki temelji na tehnologiji umetne inteligence), 2021.

(245)      Glej oddelek o uporabi umetne inteligence za spodbujanje varstva okolja v sklepih Digitalizacija v korist okolja – sklepi Sveta z dne 17. decembra 2020; dokument Good practice document on combatting environmental crime (Dokument o dobrih praksah za boj proti kaznivim dejanjem zoper okolje) iz aprila 2020 o obstoječih projektih držav članic in pravno publikacijo odvetniške pisarne CMS Artificial Intelligence in environmental monitoring (Umetna inteligenca pri spremljanju stanja okolja), avgust 2019.

(246)       Izjava iz Passaua z dne 29. oktobra 2020 o „pametnem dogovoru za mobilnost: oblikovanje mobilnosti prihodnosti z digitalizacijo – trajnostno, varno, zaščiteno in učinkovito“. Izjavo so pripravile države članice in Komisija, podpisalo pa jo je 30 držav EU in Efte.

(247)      Sporočilo Evropske komisije, Strategija za trajnostno in pametno mobilnost – usmerjanje evropskega prometa na pravo pot za prihodnost (COM(2020) 789 final).

(248)      Sektor trenutno nima celovitega časovnega načrta, ki bi mu omogočil, da izkoristi vse možnosti, ki jih ponuja umetna inteligenca (tudi zunaj okvira vprašanj glede podatkov), ter obvladuje s tem povezane izzive na področju prometa in logistike.

(249)      Glej sporočilo COM(2020) 789 final.

(250)      Eurocontrol: Fly AI Report – Demystifying and Accelerating AI in Aviation/ATM (Poročilo o umetni inteligenci v letalstvu – pojasnitev in pospešitev uporabe umetne inteligence v letalstvu/upravljanju zračnega prometa), marec 2020.

(251)      Zbrani podatki vključujejo: podatke o varnosti letenja, podatke o letalskem nadzoru (kontroli zračnega prometa), vremenske podatke in podatke na podlagi vesoljskih tehnologij za skupno obdelavo in inteligentno analizo podatkov, da bi se analizirale in izboljšale varnost v letalstvu, zaščita in okoljska uspešnost ter varne operacije.

(252)      Za podrobnosti o inovacijskih programih glej program S2R za raziskave in inovacije . Programi, posebej povezani z umetno inteligenco, so programi IP4 – rešitve informacijske tehnologije za privlačne železniške storitve (npr. projekt My-Trac), IP3 – infrastruktura (npr. vzdrževanje infrastrukture na podlagi pogojev in robotika) in IP2 – upravljanje prometa (npr. zmogljivost, avtomatizirana vožnja vlakov).

(253)      Projekt vključuje 13 držav ter zajema opredelitev, specifikacijo, izvajanje in trajnostno delovanje storitev na koridorjih na podlagi rečnih informacijskih storitev.

(254)       Končno poročilo (2020).

(255)      Študija agencije ENISA in Skupnega raziskovalnega središča je prav tako poudarila pomen kibernetske varnosti pri posodabljanju tehnologij umetne inteligence v avtonomnih vozilih in njene morebitne posledice za varnost v cestnem prometu: ENISA, Skupno raziskovalno središče, Cybersecurity Challenges in the Uptake of Artificial Intelligence in Autonomous Driving (Izzivi na področju kibernetske varnosti pri uvajanju umetne inteligence v avtonomno vožnjo), 2021.

(256)      Nova pravila o avtomatiziranih vozilih, kibernetski varnosti in posodobitvah programske opreme vozil se bodo 6. julija 2022 začela uporabljati kot del zakonodaje o homologaciji vozil in nadzoru trga.

(257)      Primer sestavnega dela reform in naložb – Čista, pametna in pravična mobilnost v mestih.

(258)      Glej na primer projekt CYBELE v okviru programa Obzorje 2020, ki predlaga nadgradljivo analitiko velepodatkov za precizno kmetovanje in živinorejo, ter projekt IoF2020 , ki pospešuje uporabo interneta stvari v agroživilskem sektorju.

(259)      Glej na primer projekt GenTORE v okviru programa Obzorje 2020, ki predlaga orodja za urejanje genoma za optimizacijo odpornosti in učinkovitosti.

(260)      Glej na primer projekt BACCHUS v okviru programa Obzorje 2020, ki predlaga pametni robotski sistem za avtomatizirano spravilo pridelka v kmetijstvu.

(261)      Glej na primer projekt ROMI v okviru programa Obzorje 2020 za precizno kmetovanje, ki se ukvarja z rešitvami, s katerimi se bo za 25 % skrajšal čas, ki ga kmetje porabijo za pletje.

(262)      Glej na primer projekt PANTHEON v okviru programa Obzorje 2020 za precizno kmetovanje v nasadih lesk.

(263)       Federating platforms: helping European agriculture to become more green, productive and competitive (Združevanje platform: pomoč evropskemu kmetijstvu, da postane bolj zeleno, produktivno in konkurenčno), september 2020.

(264)      Poročilo Evropske komisije Sectoral Watch (2020), Technological trends of the agri-food industry (Tehnološki trendi v agroživilski industriji), september 2020.

(265)      Izjava A smart and sustainable digital future for European agriculture and rural areas (Pametna in trajnostna digitalna prihodnost za evropsko kmetijstvo in podeželje), 2019; glej tudi na primer EU Member States join forces on digitalisation for European agriculture and rural areas (Države članice EU združile moči pri digitalizaciji za evropsko kmetijstvo in podeželje), april 2019.

(266)      Sporočilo Evropske komisije, Strategija „od vil do vilic“ za pravičen, zdrav in okolju prijazen prehranski sistem  (COM(2020) 81 final).

(267)      Komisija namerava v okviru programa za digitalno Evropo podpirati uvajanje tehnologij, procesov in standardov, potrebnih za začetek uporabe takega kmetijskega podatkovnega prostora, vključno z zasebnimi in javnimi podatki (Evropska komisija, Evropska strategija za podatke , COM(2020) 66 final).

(268)       Code of conduct on agricultural data sharing by contractual agreement (Kodeks ravnanja o pogodbeni souporabi kmetijskih podatkov), COPA-COGECA in CEMA ( 2018).

(269)      Glej seznam kandidatov za evropska partnerstva na področju hrane, biogospodarstva, naravnih virov, kmetijstva in okolja ( Candidates for European Partnerships in food, bioeconomy, natural resources, agriculture and environment ), ki jih je predlagala Evropska komisija.

(270)      Evropska komisija, Priloga k usklajenemu načrtu za umetno inteligenco (COM(2018) 795 final), str. 1.

(271)      Informacije v oddelkih 2 in 3 tega dodatka temeljijo na prispevkih držav članic. Oddelka 2 in 3 zajemata vse države članice, ki so zagotovile informacije na zahtevo služb Komisije.

(272)      Informacije v preglednici temeljijo na prispevkih nacionalnih kontaktnih točk ali javnih virov, zbranih v okviru službe AI Watch . Ta preglednica poleg držav članic EU zajema tudi Norveško kot pridruženo državo. Preglednica je bila nazadnje posodobljena 14. aprila 2021.

(273)      Finska je v okviru izvajanja svoje strategije za umetno inteligenco leta 2020 posodobila svojo strategijo in novembra 2020 začela izvajati nacionalni program za umetno inteligenco („AI 4.0“). Program spodbuja razvoj in uvajanje umetne inteligence in drugih digitalnih tehnologij v podjetjih, zlasti MSP, s posebnim poudarkom na industriji. V okviru posodobitve sta bila zagotovljena seznam konkretnih ukrepov politike in izvedbeni načrt za prihodnja leta ter predstavljena vizija za umetno inteligenco do leta 2025. Ciper je po rednem pregledu nacionalne strategije za umetno inteligenco junija 2020 začel postopek javnega naročanja za razpis za pripravo akcijskega načrta, v katerem bosta podrobno opisana napredek in izvajanje nacionalne strategije za umetno inteligenco. Nemčija je decembra 2020 sprejela posodobljeno strategijo za umetno inteligenco.

(274)      V začetni strategiji za umetno inteligenco iz leta 2018 je bilo naložbam v umetno inteligenco namenjenih 3 milijarde EUR; v posodobljeni različici je obljubljeno povečanje na 5 milijard EUR do leta 2025.