EVROPSKA KOMISIJA

Bruselj, 7.12.2018

COM(2018) 795 final

SPOROČILO KOMISIJE EVROPSKEMU PARLAMENTU, EVROPSKEMU SVETU, SVETU, EVROPSKEMU EKONOMSKO-SOCIALNEMU ODBORU IN ODBORU REGIJ

Usklajeni načrt za umetno inteligenco

1.    UVOD – EVROPSKA STRATEGIJA ZA UMETNO INTELIGENCO

Kot nekoč elektrika, danes daje našemu svetu novo podobo umetna inteligenca. Uporabljamo jo povsod – ko nam spletni prevajalniki prevajajo besedila ali ko s pomočjo mobilnih aplikacij iščemo najboljšo pot do naslednje potovalne destinacije. Doma lahko s pametnimi termostati, ki analizirajo navade stanovalcev in ustrezno prilagodijo temperaturo, dosežemo do 25-odstotno znižanje stroškov za energijo 1 . V zdravstvu so algoritmi, ki se učijo na podlagi velikih zbirk medicinskih slik, sposobni odkriti 95 % primerov kožnega raka in tako pomagajo dermatologom bolje postaviti diagnozo 2 .

Umetna inteligenca lahko osmisli velikanske količine podatkov, ponudi učinkovite rešitve in tako izboljša proizvode, postopke in poslovne modele v vseh gospodarskih sektorjih. Podjetjem lahko pomaga pravočasno ugotoviti, kateri stroji potrebujejo vzdrževanje, preden se pokvarijo. Umetna inteligenca spreminja tudi javne storitve.

Spremembe, ki jih je prinesla umetna inteligenca, pa vzbujajo tudi zaskrbljenost. Delavci se bojijo, da bodo zaradi avtomatizacije izgubili službo, potrošniki se sprašujejo, kdo je odgovoren v primeru napačne odločitve sistema na temelju umetne inteligence, mala podjetja ne vedo, kako uporabljati umetno inteligenco pri svojem poslovanju, zagonska podjetja na področju umetne inteligence v Evropi ne najdejo virov in talentov, ki jih potrebujejo, mednarodna konkurenca pa je ob velikih naložbah v Združenih državah in na Kitajskem ostrejša kot kdaj koli.

Da bi Komisija obravnavala te izzive in čim bolje izkoristila priložnosti, ki jih ponuja umetna inteligenca, je aprila 2018 objavila evropsko strategijo 3 . Predlagala je pristop, po katerem so ljudje v središču razvoja umetne inteligence (na človeka osredotočena umetna inteligenca), prav tako pa spodbuja uporabo te zmogljive tehnologije za reševanje največjih svetovnih izzivov: od zdravljenja bolezni, boja proti podnebnim spremembam in predvidevanja naravnih nesreč do izboljšanja varnosti v prometu 4 , boja proti kriminalu in krepitve kibernetske varnosti.

Ta strategija podpira etično, varno in vrhunsko umetno inteligenco, izdelano v Evropi. Opira se na znanstvene in industrijske prednosti Evrope 5 in temelji na treh stebrih: povečanje javnih in zasebnih naložb v umetno inteligenco, priprava na družbeno-gospodarske spremembe ter zagotavljanje ustreznega etičnega in pravnega okvira. Za njen uspeh je ključnega pomena usklajevanje na evropski ravni.

2.    USKLAJENI NAČRT ZA UMETNO INTELIGENCO – PREGLED

Komisija je v strategiji za umetno inteligenco za Evropo predlagala, da se do konca leta 2018 v sodelovanju z državami članicami pripravi usklajen načrt za umetno inteligenco, da bi se čim bolj povečal učinek naložb na ravni EU in na nacionalni ravni, spodbujale sinergije in sodelovanje po vsej EU, izmenjale najboljše prakse ter skupaj opredelili nadaljnji ukrepi za zagotovitev svetovne konkurenčnosti EU kot celote. Predlog usklajenega načrta temelji na izjavi o sodelovanju na področju umetne inteligence, sprejeti aprila 2018 na digitalnem dnevu, ki so jo podpisale vse države članice in Norveška 6 . Evropski svet jo je podprl junija 2018 7 .

Države članice (v okviru skupine za digitalizacijo evropske industrije in umetno inteligenco), Norveška, Švica in Komisija so načrt pripravile na več srečanjih med junijem in novembrom 2018. Pogovori so potekali tudi na srečanjih Sveta za konkurenčnost v času avstrijskega predsedovanja EU.

Na teh srečanjih so države članice in Komisija opredelile vrsto skupnih ukrepov, ki temeljijo na evropski strategiji in katerih cilj je povečanje naložb, združevanje podatkov, ki so surovine za umetno inteligenco, spodbujanje razvoja talentov in okrepitev zaupanja 8 . Prednostno so obravnavale področja javnega interesa, kot so zdravstvo, promet in mobilnost, varnost, zaščita in energija, pa tudi pomembne gospodarske sektorje, kot so proizvodnja in finančne storitve.

Rezultat skupnega dela je usklajeni načrt, priložen temu sporočilu. Načrt podrobno navaja ukrepe, ki jih je treba začeti v obdobju 2019–2020, in pripravlja teren za dejavnosti v naslednjih letih. Vsako leto bo pregledan in posodobljen.

To sporočilo povzema glavne cilje in pobude načrta.

2.1 Skupni cilji in dodatna prizadevanja

Usklajeni načrt določa strateški okvir za nacionalne strategije za umetno inteligenco. Do danes je pet držav članic že sprejelo nacionalno strategijo za umetno inteligenco z namenskim proračunom 9 . Vse druge države članice se spodbuja k oblikovanju nacionalnih strategij za umetno inteligenco do sredine leta 2019, pri čemer naj se oprejo na delo, opravljeno na evropski ravni. V teh strategijah naj bi bili predstavljeni obseg naložb in izvedbeni ukrepi.

Naslednje leto se bodo države članice in Komisija dogovorile tudi o skupnih kazalnikih za spremljanje uvajanja in razvoja umetne inteligence v Uniji ter stopnje uspešnosti obstoječih strategij, pri čemer jim bo pomagala služba AI Watch, ki jo je ustanovilo Skupno raziskovalno središče Komisije 10 .

Evropa trenutno zaostaja pri zasebnih naložbah v umetno inteligenco 11 . Brez obsežnih prizadevanj EU tvega, da bo zamudila priložnosti, ki jih ponuja umetna inteligenca, kar bo vodilo do bega možganov in uporabe rešitev, ki bodo razvite drugje. Zato so v evropski strategiji za umetno inteligenco določeni ambiciozni, a uresničljivi cilji: v Uniji je treba povečati javne in zasebne naložbe v umetno inteligenco, da bi v naslednjem desetletju dosegli cilj 20 milijard EUR naložb na leto. Kot prvi korak Komisija povečuje naložbe v umetno inteligenco v okviru okvirnega programa za raziskave in inovacije Obzorje 2020, in sicer na 1,5 milijarde EUR za obdobje 2018–2020. To pomeni 70-odstotno povečanje glede na obdobje 2014–2017. Če bodo države članice in zasebni sektor storili podobno, se bodo skupne naložbe v Uniji v obdobju 2018–2020 povečale na več kot 20 milijard EUR 12 , to pa bo Uniji omogočilo, da bo v naslednjem desetletju še okrepila prizadevanja, naložbe pa bodo postopoma dosegle 20 milijard EUR na leto. To bi pomenilo 7 milijard EUR letnih naložb s strani javnega sektorja (tj. držav članic in Komisije), kar je podobno kot na drugih celinah. Komisija je za naslednje programsko obdobje 2021–2027 predlagala, da bi Unija iz programa Obzorje Evropa in programa za digitalno Evropo 13 v umetno inteligenco vložila najmanj 1 milijardo EUR na leto.

Ob upoštevanju teh ciljev so se države članice strinjale, da je treba pokazati ambicioznost in okrepiti prizadevanja na nacionalni ravni. Usklajena javna prizadevanja bodo prispevala k povečanju zasebnih naložb.

Javne naložbe imajo sicer pomembno vlogo, vendar pa je prav tako pomembno, da regulativni organi odpravijo ovire zaradi razdrobljenih trgov. Proizvodi in storitve so vse bolj povezani in digitalizirani. V tem kontekstu je izredno pomembno, da se prepreči razdrobljenost trga v strateških sektorjih, kot je umetna inteligenca, tudi z okrepitvijo ključnih spodbujevalnih dejavnikov (npr. skupnih standardov in hitrih komunikacijskih omrežij). Resnični enotni trg s celovito digitalno razsežnostjo 14 bo podjetjem olajšal širitev in čezmejno trgovanje ter s tem še povečal naložbe.

2.2     Za evropsko javno-zasebno partnerstvo za umetno inteligenco ter več financiranja za zagonska ter inovativna mala in srednja podjetja 15

Države članice in Komisija bodo okrepile tudi sodelovanje z zasebnim sektorjem. Komisija bo povezala podjetja in raziskovalne organizacije, da bi oblikovali skupno strateško raziskovalno agendo za umetno inteligenco, v kateri bodo opredelili prednostne naloge glede na potrebe trga ter spodbujali medsektorske in čezmejne izmenjave. To bo utrlo pot novemu partnerstvu za raziskave in inovacije na področju umetne inteligence, ki bo spodbujalo sodelovanje med akademskim svetom in industrijo v Evropi. V okviru tega pogodbenega partnerstva naj bi se zasebni sektor zavezal h konkretnim visokim naložbam v umetno inteligenco. Zgledovalo se bo po obstoječih partnerstvih na področju robotike in velepodatkov 16 , ki razpolagata s 4,4 milijarde EUR naložb, večinoma iz industrije (3,2 milijarde EUR). Zainteresirane strani so že potrdile svojo podporo vzpostavitvi partnerstva na področju umetne inteligence 17 .

Poleg tega namerava Komisija dati na voljo sredstva za zagonska podjetja in inovatorje na področju umetne inteligence ter blokovnih verig, da bi pomagala pri rasti njihovih dejavnosti. Leta 2020 naj bi bilo najprej mobiliziranih 100 milijonov EUR, ta znesek pa bi se lahko še povečal z udeležbo zainteresiranih nacionalnih spodbujevalnih bank in drugih institucij. To bi lahko pripomoglo k boljšemu dostopu do financiranja za umetno inteligenco v okviru programa InvestEU od leta 2021 naprej.

Hkrati pa Komisija napreduje pri ustanavljanju Evropskega sveta za inovacije, ki bo podpiral vrhunske tehnologije in najinovativnejša zagonska podjetja. V odgovor na poziv Evropskega sveta iz junija 2018 18 bo v začetku leta 2019 predstavljena nova pilotna pobuda 19 , ki bo vključevala podporo za naslednjo generacijo tehnologij umetne inteligence, osredotočenih na človeka.

2.3    Krepitev odličnosti in širjenja zaupanja vrednih tehnologij umetne inteligence 20

Države članice in Komisija si prizadevajo za povečanje nacionalnih raziskovalnih zmogljivosti in doseganje kritične mase s pomočjo bolj povezanih mrež evropskih centrov odličnosti za raziskave na področju umetne inteligence. Cilj je spodbujati sodelovanje med najboljšimi raziskovalnimi skupinami v Evropi, da se bodo lahko s skupnimi močmi učinkoviteje spoprijele z glavnimi znanstvenimi in tehnološkimi izzivi na področju umetne inteligence.

Uvajanje najsodobnejših aplikacij umetne inteligence na trg zahteva eksperimentiranje in preizkušanje v realnem okolju. V okviru izvajanja strategije za digitalizacijo evropske industrije 21 , sprejete leta 2016, Komisija že podpira obsežne pilotne projekte in eksperimente na področjih, kot so pametno kmetovanje, pametna mesta ter povezana in avtonomna vozila.

Iz teh pilotnih projektov in eksperimentov bodo pridobljena nova spoznanja. Da bi optimizirali naložbe in preprečili podvajanje prizadevanj, Komisija predlaga, da se z uporabo do 1,5 milijarde EUR iz sklopa za umetno inteligenco programa za digitalno Evropo vzpostavi več obsežnih referenčnih obratov za preizkušanje, odprtih vsem akterjev v Evropi, in sicer na trdni podlagi obstoječih centrov odličnosti v državah članicah. Primeri obratov za preizkušanje, ki jih vzpostavljajo države članice, vključujejo čezmejno preizkušanje povezane in avtonomne vožnje 22 ter preizkušanje delovanja pametnih bolnišnic v realnih okoliščinah. V primeru povezane in avtonomne mobilnosti bo opredelitev takih obratov za preizkušanje in samih preizkusov najprej usklajena z enotno vseevropsko platformo, omenjeno v strategiji EU za mobilnost prihodnosti 23 , pozneje pa tudi z ustreznim partnerstvom, ki bo vzpostavljeno v okviru programa Obzorje Evropa.

Prav tako je pomembno spodbujati najširše možno uvajanje umetne inteligence v gospodarstvu, zlasti v zagonskih ter malih in srednjih podjetjih. Z ozaveščanjem javnosti ter izmenjavo najnovejših znanstvenih dosežkov in preizkušenih najsodobnejših tehnologij, razvitih v Evropi, lahko zagotovimo, da bodo vsa podjetja, mala ali velika, visokotehnološka ali ne, ter javni sektor lahko izkoristili te digitalne priložnosti. Predlagani novi program za digitalno Evropo predvideva sovlaganje držav članic in Komisije v vozlišča za digitalne inovacije po vsej Evropi, tudi prek skladov kohezijske politike. Program bo še bolj olajšal razširjanje zmogljivosti za umetno inteligenco v vsaki državi članici in bo povezan s platformo za umetno inteligenco na zahtevo 24 . V ta namen bodo države članice leta 2019 na svojem ozemlju določile vozlišča za digitalne inovacije na področju umetne inteligence.

2.4    Prilagajanje programov in sistemov izobraževanja in usposabljanja za boljšo pripravljenost družbe na umetno inteligenco 25

Hiter tehnološki napredek pomeni, da se bo trg dela bistveno spremenil, in to verjetno hitreje, kot si mislimo. S tehnološkimi spremembami se bodo zlasti spremenile zahtevane spretnosti delavcev, kar pomeni, da se bo verjetno moralo veliko število delavcev izpopolniti. Zato je treba več pozornosti nameniti vseživljenjskemu učenju. Poseben vidik sprememb zadeva tiste delavce, ki bodo dejansko oblikovali in izvajali rešitve umetne inteligence v prihodnosti. Skoraj vse države članice se soočajo s pomanjkanjem strokovnjakov za informacijsko in komunikacijsko tehnologijo, trenutno je več kot 600 000 26 prostih delovnih mest za strokovnjake z digitalnega področja. Poleg tega nadarjeni raziskovalci in obetavna zagonska podjetja pogosto dobivajo zanimive ponudbe iz tujine. Leta 2017 je bilo na primer v Silicijevi dolini 240 000 Evropejcev 27 , med katerimi so mnogi prišli v Združene države, da bi zapolnili specifična delovna mesta v tehnološki industriji. Evropa mora biti zmožna usposobiti, privabiti in zadržati tovrstne talente ter spodbujati podjetnost, raznolikost in uravnoteženo zastopanost spolov.

Države članice si bodo zato izmenjevale najboljše prakse o tem, kako okrepiti odličnost in zadržati nadarjene delavce ter kako spodbuditi in pospešiti prizadevanja za polno vpeljavo in izkoriščanje možnosti, ki jih ponuja sedanji pravni red na področju zakonitih migracij, vključno z modro karto 28 , da bi pritegnili talente. Modra karta je delovno dovoljenje, ki visokousposobljenim državljanom nečlanic EU omogoča delo in življenje v EU. Spretnosti bi morale biti zajete tudi v nacionalnih strategijah za umetno inteligenco, ki bodo objavljene do sredine leta 2019. Strategije bi morale obravnavati spretnosti, pomembne za razvoj umetne inteligence, v formalnem ciklu izobraževanja, vključno s poklicnim usposabljanjem in visokošolskim izobraževanjem, ter načine za izboljšanje priložnosti za magistrske in doktorske študijske programe na področju umetne inteligence.

Komisija bo podprla magistrske in doktorske študijske programe na področju umetne inteligence in predlagala tesnejše sodelovanje med centri odličnosti za raziskave na področju umetne inteligence in splošnejšimi programi EU za raziskave in inovacije. Interdisciplinarnost se bo podpirala s spodbujanjem skupnih diplom, na primer iz prava ali psihologije in umetne inteligence. Poleg tega bi morale biti digitalne spretnosti, ki omogočajo razvoj in uporabo umetne inteligence, vključene v vse učne načrte izobraževanja in usposabljanja.

Glede na revolucionarno naravo številnih tehnoloških dosežkov bodo oblikovalci politik za zagotovitev vključenosti razvili strategije za obravnavanje sprememb na področju zaposlovanja, saj se bo hitrost izginjanja nekaterih delovnih mest in pojavljanja drugih verjetno povečala, ob tem pa se bodo spremenili tudi poslovni modeli in način izvajanja nalog. Zaradi tega bo morda treba spremeniti sedanje ureditve trga dela in socialne zaščite, da se podpre prehode na trgu dela. Komisija je ustanovila strokovno skupino na visoki ravni o vplivu digitalne preobrazbe na trge dela EU, ki bo spomladi 2019 pripravila poročilo o teh vprašanjih 29 .

2.5    Gradnja evropskega podatkovnega prostora, ki je za umetno inteligenco v Evropi, tudi v javnem sektorju, bistvenega pomena 30

Nadaljnji razvoj na področju umetne inteligence zahteva dobro delujoč podatkovni ekosistem, ki temelji na zaupanju, razpoložljivosti podatkov in infrastrukturi 31 . Splošna uredba o varstvu podatkov 32 je temelj zaupanja v enotni trg za podatke. Vzpostavila je nov svetovni standard z močnim poudarkom na pravicah posameznikov, ki odraža evropske vrednote, in je pomemben element za krepitev zaupanja v umetno inteligenco. To zaupanje je zlasti pomembno pri obdelavi zdravstvenih podatkov pri aplikacijah na temelju umetne inteligence. Komisija želi Evropski odbor za varstvo podatkov spodbuditi, naj pripravi smernice v zvezi z obdelavo osebnih podatkov v okviru raziskav. To bo olajšalo razvoj obsežnih meddržavnih naborov podatkov, ki se lahko uporabijo za umetno inteligenco.

Umetna inteligenca za razvoj potrebuje ogromno podatkov. Strojno učenje, ki je vrsta umetne inteligence, deluje na podlagi prepoznavanja vzorcev v razpoložljivih podatkih, pridobljeno znanje pa se nato uporabi pri novih podatkih. Čim večji je nabor podatkov, tem bolje se umetna inteligenca lahko uči in odkriva celo komaj opazne povezave med podatki.

Ko so algoritmi izpopolnjeni, lahko pravilno razvrstijo predmete, ki jih še nikoli niso videli, v vse več primerih celo natančneje kakor ljudje. Zato je dostop do podatkov ključna sestavina konkurenčnega okolja za umetno inteligenco, ki bi ga morala EU spodbujati ob polnem spoštovanju pravil o varstvu osebnih podatkov.

Začetek uporabe uredbe o prostem pretoku neosebnih podatkov 33 leta 2019 bo omogočil širšo uporabo podatkov, zlasti strojno tvorjenih, in zelo olajšal čezmejno poslovanje podjetij v Uniji. Odprtost mednarodnim podatkovnim tokom se bo še naprej zagotavljala ob polnem spoštovanju pravil EU za varstvo osebnih podatkov in v skladu z veljavnimi pravnimi instrumenti, vključno s sporazumi o prosti trgovini.

Sporazum o pregledu direktive o informacijah javnega sektorja 34 bo prav tako povečal količino podatkov, ki bodo na voljo za inovacije.

Oblikovanje skupnih evropskih podatkovnih prostorov na številnih področjih, kot so proizvodnja ali energija, bo pomenilo veliko prednost za evropske inovatorje in podjetja. Ti skupni evropski podatkovni prostori bodo po vsej Evropi zbirali podatke tako za javni sektor kot za izmenjave med podjetji in jih dali na voljo za učenje umetne inteligence 35 v obsegu, ki bo omogočil razvoj novih proizvodov in storitev. Pomembno je, da se hitro razvijejo in sprejmejo evropska pravila, kot so zahteve in standardi glede interoperabilnosti. Unija mora podpirati tudi zagotavljanje nemotenega dostopa do takih naborov podatkov ter njihove izmenjave in ponovne uporabe. Ko bodo države članice opredelile nabore podatkov z visoko dodano vrednostjo, bo te podatke mogoče še bolj prosto ponovno uporabiti. Komisija prispeva tudi velike količine podatkov in informacij o opazovanju Zemlje, pridobljenih v okviru vodilnega programa Copernicus.

Uporaba umetne inteligence v zdravstvu je še zlasti obetavna. Leta 2020 bo Komisija v sodelovanju z državami članicami prek programa Obzorje 2020 podprla razvoj skupne zbirke zdravstvenih slik (podatki bodo anonimizirani in zbrani ob soglasju pacientov). Ta podatkovna zbirka bo najprej namenjena najpogostejšim oblikam raka, pri čemer se bo umetna inteligenca uporabila za izboljšanje diagnosticiranja in zdravljenja. Pri tem bodo upoštevane vse potrebne regulativne, varnostne in etične zahteve.

Orodja umetne inteligence so ključna za prihodnje delo javnih uprav. Države članice in Komisija bodo sodelovale pri vzajemnem učenju in razpravljale o možnih področjih skupnih javnih naročil za rešitve umetne inteligence, vključno s kibernetsko varnostjo, ter o posebnih izzivih za javni sektor. Ko se umetna inteligenca na primer uporablja na področju varnosti in kazenskega pregona, pride do posebnih pravnih in etičnih vprašanj, saj so javne uprave zavezane k ukrepanju v skladu z zakonom in morajo svoje odločitve utemeljiti, njihova dejanja pa so predmet sodnega nadzora s strani upravnih sodišč.

Nazadnje pa so za obdelavo podatkov ključnega pomena računalniške zmogljivosti. Evropska pobuda za visokozmogljivostno računalništvo 36 (EuroHPC) združuje vire za razvoj superračunalnikov naslednje generacije za obdelavo velepodatkov in učenje umetne inteligence. V tem kontekstu sta partnerstvo z državami članicami in industrijo na področju mikroelektronskih komponent in sistemov (ECSEL 37 ) ter evropska procesorska pobuda 38 , katere cilj je vzpostavitev procesorske tehnologije z nizko porabo za visokozmogljivostno računalništvo, podatkovna središča in avtonomna vozila, ključnega pomena za razvoj neodvisnega in inovativnega evropskega ekosistema za zasnovo vrhunskih čipov.

2.6    Razvoj etičnih smernic z globalno perspektivo in zagotovitev inovacijam prijaznega pravnega okvira 39

Za pridobitev zaupanja, ki je potrebno, da družbe sprejmejo in uporabljajo umetno inteligenco, bi morala biti tehnologija predvidljiva, odgovorna, preverljiva, spoštovati temeljne pravice in slediti etičnim načelom. V nasprotnem primeru lahko uporaba umetne inteligence privede do neželenih rezultatov, kot je oblikovanje „odmevne komore“, v kateri ljudje dobijo samo informacije, ki ustrezajo njihovim mnenjem, ali krepitev diskriminacije, kot v primeru, ko je algoritem v 24 urah postal rasističen zaradi izpostavljenosti rasističnemu gradivu 40 .

Bistveno je, da ljudje razumejo, kako umetna inteligenca sprejema odločitve. Evropa lahko postane vodilna v svetu na področju razvoja in uporabe umetne inteligence v dobre namene ter spodbujanja na človeka osredotočenega pristopa in načel „vgrajene etičnosti“.

Da bi se ta načela močneje usidrala v razvoj in uporabo umetne inteligence, je Komisija imenovala neodvisno strokovno skupino na visoki ravni za umetno inteligenco, katere naloga je pripraviti osnutek etičnih smernic glede umetne inteligence. Prva različica bo objavljena do konca leta 2018, strokovnjaki pa bodo končno različico smernic Komisiji predložili marca 2019 po obsežnem posvetovanju v okviru evropskega zavezništva za umetno inteligenco 41 . Cilj je uveljaviti evropski etični pristop na svetovnem prizorišču. Komisija je odprta za sodelovanje z vsemi državami, ki niso članice EU in so pripravljene deliti iste vrednote.

Nadaljnji razvoj na področju umetne inteligence zahteva tudi regulativni okvir, ki je dovolj prožen za spodbujanje inovacij, hkrati pa zagotavlja visoko raven zaščite in varnosti. Komisija trenutno ocenjuje, ali okviri za varnost in odgovornost na nacionalni ravni in ravni EU ob upoštevanju teh novih izzivov ustrezajo namenu oziroma ali je treba obravnavati morebitne vrzeli. V ta namen bo Komisija do sredine leta 2019 objavila poročilo o morebitnih vrzelih v okvirih za varnost in odgovornost za umetno inteligenco ter o smernicah za te okvire.

2.7    Varnostni vidiki uporabe umetne inteligence in infrastrukture zanjo ter mednarodna agenda za varnost

Bolje je treba razumeti, kako lahko umetna inteligenca vpliva na varnost na treh ravneh: kako lahko umetna inteligenca okrepi cilje varnostnega sektorja, kako je mogoče tehnologije umetne inteligence zaščititi pred napadi in kako obravnavati morebitne zlonamerne uporabe umetne inteligence.

Zaradi vse večjega potenciala in občutljivosti uporabe umetne inteligence na številnih področjih digitalnega gospodarstva in družbe, kot je avtonomna mobilnost ali izogibanje izpadom električne energije, je zelo pomembno, da se za umetno inteligenco določijo zahteve glede kibernetske varnosti 42 .

Uporaba umetne inteligence v sistemih vojaškega orožja lahko bistveno spremeni oborožene spopade in zato zbuja resne pomisleke in vprašanja. Unija bo še naprej poudarjala, da mednarodno pravo, vključno z mednarodnim humanitarnim pravom in pravom o človekovih pravicah, v celoti velja za vse sisteme vojaškega orožja, vključno z avtonomnimi orožji, in da so države še naprej odgovorne za njihov razvoj in uporabo v oboroženih spopadih. Stališče EU ostaja, da je treba pri odločanju o uporabi smrtonosne sile ohraniti človeški nadzor, ki mora biti prisoten tudi v celotnem življenjskem ciklu katerega koli sistema vojaškega orožja 43 .

3.    ZAKLJUČKI

Umetna inteligenca je že del našega vsakdana, vendar je njen potencial veliko večji od tega, kar smo videli do zdaj. Da bi Evropa postala vodilna na področju umetne inteligence, mora graditi na svojih prednostih in podpirati razvoj etične, varne in vrhunske umetne inteligence v Evropi.

Komisija zato poziva:

·Evropski svet, naj potrdi usklajeni načrt;

·države članice, naj izvajajo usklajeni načrt, vključno z razvojem nacionalnih strategij za umetno inteligenco do sredine leta 2019, v katerih bodo opisani obseg naložb in izvedbeni ukrepi;

·sozakonodajalca, naj hitro sprejmeta preostale zakonodajne pobude, ki so bistvenega pomena za uspeh evropske strategije za umetno inteligenco, vključno s predlogi, predstavljenimi v okviru naslednjega večletnega finančnega okvira.

(1)

      https://www.latribune.fr/entreprises-finance/la-tribune-de-l-energie-avec-erdf/cinq-objets-connectes-pour-economiser-l-energie-545571.html.  

(2)

      https://www.theguardian.com/society/2018/may/29/skin-cancer-computer-learns-to-detect-skin-cancer-more-accurately-than-a-doctor.  

(3)

     COM(2018) 237.

(4)

     Po ocenah so za približno 90 % prometnih nesreč krive človeške napake, glej COM(2016) 787.

(5)

     Evropa ima vrhunske raziskovalce in zagonska podjetja na področju umetne inteligence ter je vodilna na področju robotike in programske opreme/platform za izmenjave med podjetji. Njeni dobro razviti sektorji prometa, zdravstva in predelovalne industrije bi morali prevzeti osrednjo vlogo pri uvajanju umetne inteligence.

(6)

      https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence.  

(7)

      https://www.consilium.europa.eu/sl/press/press-releases/2018/06/29/20180628-euco-conclusions-final/.  

(8)

     Vsi ti ukrepi morajo biti v skladu s pravili EU o konkurenci in državni pomoči.

(9)

     Francija, Finska, Švedska, Združeno kraljestvo in Nemčija so oblikovale usmerjene strategije za umetno inteligenco. Nekatere države, kot so Danska, Luksemburg, Nizozemska, Irska in Norveška, so ukrepe, povezane z umetno inteligenco, vključile v širše strategije za digitalizacijo. Avstrija, Belgija, Češka, Danska, Estonija, Nemčija, Italija, Latvija, Poljska, Portugalska, Slovenija, Slovaška in Španija so v postopku oblikovanja strategij.

(10)

      https://ec.europa.eu/knowledge4policy/ai-watch_en.

(11)

     Skupni znesek naložb leta 2016 je bil v Evropi približno 2,4–3,2 milijarde EUR, v Aziji 6,5–9,7 milijarde EUR, v Severni Ameriki pa 12,1–18,6 milijarde EUR. Vir: 10 imperatives for Europe in the age of AI and automation (10 prednostnih nalog za Evropo v dobi umetne inteligence in avtomatizacije), McKinsey, 2017.

(12)

     To lahko vključuje naložbe iz evropskih strukturnih in investicijskih skladov. Pet regij ima v svojih strategijah za pametno specializacijo vključene prednostne naloge na področju umetne inteligence: Spodnja Saška [DE], Pohjois-Savo [FI], Łódzkie [PL], Nord-Vest [RO] in Nord-Est [RO]. Glej: http://s3platform.jrc.ec.europa.eu/map.  

(13)

     Predlogi za naslednji večletni finančni okvir, zlasti novi program za digitalno Evropo in program Obzorje Evropa, ki je doslej najambicioznejši okvirni program EU za raziskave in inovacije EU, podpirajo evropsko strategijo za umetno inteligenco.

(14)

Glej nedavno sporočilo Komisije „Enotni trg v spreminjajočem se svetu“ (COM(2018) 772).

(15)

     Za podrobnosti o predlaganih ukrepih glej oddelek B usklajenega načrta.

(16)

     Javno-zasebni partnerstvi na področju robotike („SPARC“) in velepodatkov („Big Data Value“) v obdobju 2014–2020 razpolagata z 1,2 milijarde EUR javnih in 3,2 milijarde EUR zasebnih naložb, kar skupaj znaša 4,4 milijarde EUR.

(17)

     Zveza za vrednost velepodatkov (Big Data Value Association), zasebni partner v javno-zasebnem partnerstvu na področju velepodatkov, je sprejelo stališče o umetni inteligenci, ki vključuje priporočilo za vzpostavitev partnerstva na tem področju (november 2018). http://bdva.eu/sites/default/files/AI-Position-Statement-BDVA-Final-12112018.pdf.

(18)

      https://www.consilium.europa.eu/sl/press/press-releases/2018/06/29/20180628-euco-conclusions-final/.  

(19)

     Samo leta 2018 je bilo v pilotni fazi Evropskega sveta za inovacije financiranih 74 inovativnih projektov MSP in zagonskih podjetij, katerih cilj je bil razvijanje inovacij, povezanih z umetno inteligenco.

(20)

     Za podrobnosti o predlaganih ukrepih glej oddelek C usklajenega načrta.

(21)

     COM(2016) 180.

(22)

      https://ec.europa.eu/digital-single-market/en/cross-border-corridors-connected-and-automated-mobility-cam.

(23)

COM(2018) 283.

(24)

      http://ai4eu.org/.

(25)

     Za podrobnosti o predlaganih ukrepih glej oddelek D usklajenega načrta.

(26)

      https://www.pocbigdata.eu/monitorICTonlinevacancies/general_info/.

(27)

      https://jointventure.org/images/stories/pdf/index2018.pdf.

(28)

     Direktiva Sveta 2009/50/ES o pogojih za vstop in prebivanje državljanov tretjih držav za namene visokokvalificirane zaposlitve. Komisija je pripravila predlog za pregled tega akta – COM(2016) 378.

(29)

https://ec.europa.eu/digital-single-market/en/news/appointment-members-high-level-expert-group-impact-digital-transformation-eu-labour-markets.

(30)

     Za podrobnosti o predlaganih ukrepih glej oddelka E in G usklajenega načrta.

(31)

     Data is the lifeline of AI (Podatki so življenjskega pomena za umetno inteligenco), glej poglavje 12 poročila Skupnega raziskovalnega središča Artificial Intelligence: a European Perspective (Umetna inteligenca: evropska perspektiva) https://ec.europa.eu/jrc/en/publication/eur-scientific-and-technical-research-reports/artificial-intelligence-european-perspective .

(32)

     Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov.

(33)

     Uredba (EU) 2018/1807 Evropskega parlamenta in Sveta z dne 14. novembra 2018 o okviru za prosti pretok neosebnih podatkov v Evropski uniji.

(34)

     Predlog za direktivo Evropskega parlamenta in Sveta o ponovni uporabi informacij javnega sektorja (prenovitev) COM(2018) 234.

(35)

     Povezave do podatkovnih zbirk bodo na voljo prek platforme za umetno inteligenco na zahtevo, ki bo svoje storitve zagotavljala skupnosti za umetno inteligenco.

(36)

      https://ec.europa.eu/digital-single-market/en/eurohpc-joint-undertaking.

(37)

      https://www.ecsel.eu/.  

(38)

      https://ec.europa.eu/digital-single-market/en/news/european-processor-initiative-consortium-develop-europes-microprocessors-future-supercomputers.

(39)

     Za podrobnosti o predlaganih ukrepih glej oddelka F in H usklajenega načrta.

(40)

      https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter.

(41)

      https://ec.europa.eu/digital-single-market/en/european-ai-alliance.

(42)

     To načelo je določeno v skupnem sporočilu o kibernetski varnosti iz septembra 2017 (JOIN(2017) 450).

(43)

     Visoka predstavnica Unije za zunanje zadeve in varnostno politiko bo s podporo Komisije na podlagi posvetovanj v okviru Združenih narodov, Svetovnega tehnološkega foruma drugih večstranskih forumov usklajevala predloge za reševanje teh zapletenih varnostnih izzivov. 

EVROPSKA KOMISIJA

Bruselj, 7.12.2018

COM(2018) 795 final

PRILOGA

k

SPOROČILU KOMISIJE EVROPSKEMU PARLAMENTU, EVROPSKEMU SVETU, SVETU, EVROPSKEMU EKONOMSKO-SOCIALNEMU ODBORU IN ODBORU REGIJ

Usklajeni načrt za umetno inteligenco

Usklajeni načrt za razvoj in uporabo
umetne inteligence, izdelane Evropi – 2018

Umetna inteligenca nam lahko pomaga pri reševanju nekaterih največjih svetovnih izzivov. Zdravnikom lahko pomaga izboljšati diagnosticiranje in razviti zdravljenja za bolezni, za katere še ne obstajajo; z optimizacijo virov lahko zmanjša porabo energije; z zmanjšanjem potrebe po pesticidih lahko prispeva k čistejšemu okolju; pomaga lahko izboljšati vremenske napovedi ter predvidevanje nesreč in tako dalje. Seznam je brezkončen. Umetna inteligenca bo glavno gonilo gospodarske rasti in rasti produktivnosti ter bo prispevala k trajnosti in rentabilnosti industrijske baze v Evropi 1 . Tako kot nekoč parni stroj ali elektrika, daje danes našemu svetu novo podobo umetna inteligenca.

Cilj Unije je razviti zaupanja vredno umetno inteligenco na podlagi etičnih in družbenih vrednot v skladu z Listino EU o temeljnih pravicah. Ljudje bi morali umetni inteligenci zaupati, predvsem pa imeti koristi od njene uporabe v zasebnem in poklicnem življenju. Evropa želi ustvariti inovacijam prijazen ekosistem za umetno inteligenco: okolje, v katerem bodo gospodarskim subjektom na voljo infrastruktura, raziskovalne zmogljivosti, preizkuševalna okolja, finančna sredstva, pravni okvir ter ustrezne ravni znanj in spretnosti za naložbe v umetno inteligenco in njeno uporabo. Na splošno si želi Evropa postati vodilna regija v svetovnem merilu pri razvoju in uporabi vrhunske, etične in varne umetne inteligence ter spodbujanju na človeka osredotočenega pristopa v globalnem kontekstu.

Umetna inteligenca je visoko na dnevnem redu Sveta EU vse od digitalnega vrha, ki ga je estonsko predsedstvo organiziralo septembra 2017. V sporočilu z naslovom „Umetna inteligenca za Evropo“ z dne 25. aprila 2018 2 je bila predlagana evropska strategija v podporo temu cilju. Tam se predlaga tudi usklajen načrt za razvoj umetne inteligence v Evropi 3 , ki naj bi ga do konca leta 2018 pripravili z državami članicami. Evropski svet je to podprl 4 . Ta dokument je odgovor na to zahtevo. Evropa lahko vizijo uresniči le s sodelovanjem držav članic in Komisije.

Usklajeni načrt temelji na izjavi o sodelovanju, ki so jo na digitalnem dnevu 2018 5 podpisale vse države članice EU in Norveška ter v kateri je izpostavljena pripravljenost na tesnejše sodelovanje na področju umetne inteligence. Tudi avstrijsko predsedstvo EU je umetno inteligenco določilo kot prednostno nalogo v okviru preoblikovanja industrije 6 .

Glavni cilji usklajenega načrta so čim bolj izkoristiti učinek naložb na ravni EU in nacionalni ravni, spodbujati sinergije in sodelovanje po vsej EU, tudi v zvezi z etiko, spodbujati izmenjavo najboljših praks in skupaj določiti naslednje korake. Unija lahko s sodelovanjem poveča svoj učinek in postane konkurenčna na globalni ravni.

Skupina držav članic za digitalizacijo evropske industrije in umetno inteligenco ter Komisija sta med junijem in novembrom 2018 razpravljali o možnem sodelovanju. Države članice, Norveška in Švica so se dogovorile o vzpostavitvi dinamičnega usklajenega načrta, ki bi ga spremljali in pregledovali vsako leto ter s tem zagotovili njegovo ažurnost, to pa bi prispevalo k prilagajanju na hitre družbene in gospodarske spremembe zaradi umetne inteligence. Ta dokument je prva različica tega načrta. Predvsem vsebuje dejavnosti za leti 2019 in 2020 s poudarkom na načrtovanih dejavnostih na ravni EU v okviru sedanjega finančnega okvira. Po pričakovanjih naj bi se načrt v skladu z naslednjim večletnim finančnim okvirom nadaljeval v naslednje desetletje, morda do leta 2027 7 . 

Potreba po usklajenem ukrepanju je bila ugotovljena pri naložbah, odličnosti in razširjanju umetne inteligence, razpoložljivosti podatkov, družbenih spremembah, etiki in regulativnem okviru. Ukrepi se nanašajo tako na zasebni kot na javni sektor in ustvarjajo številne sinergije.

„Umetna inteligenca, izdelana v Evropi“, ki izpolnjuje pričakovanja državljanov, se odziva na družbene potrebe ter spodbuja konkurenčnost.

Z usklajenim načrtom bomo lahko vsi Evropejci kar najbolj izkoristili umetno inteligenco, saj bo spodbudil razvoj zaupanja vredne umetne inteligence v skladu z evropskimi etičnimi vrednotami in pričakovanjem državljanov. Evropa bo postopoma okrepila svoja prizadevanja na področjih javnega interesa, kot so zdravstvo, promet, varnost, izobraževanje in energetika, pa tudi na drugih področjih, kot so proizvodnja in finančne storitve (tudi pri blokovnih verigah).

V tem načrtu je združen niz konkretnih in dopolnilnih ukrepov na ravni EU, nacionalni in regionalni ravni 8 , katerih cilji so:

-spodbujati naložbe in krepiti odličnost na področju zaupanja vrednih tehnologij in aplikacij umetne inteligence z „vgrajeno etičnostjo in varnostjo“. Naložbe morajo potekati v stabilnem regulativnem okviru, ki omogoča eksperimentiranje in podpira prelomne inovacije po vsej Evropi ter zagotavlja čim širšo in čim boljšo uporabo umetne inteligence v evropskem gospodarstvu in družbi;

-na temelju evropskih prednosti ter v partnerstvu z industrijo in državami članicami izoblikovati in izvajati skupne agende za skupne raziskovalne in razvojne dejavnosti ter inovacije industrije in akademske skupnosti;

-prilagajati programe in sisteme izobraževanja in usposabljanja, da se evropska družba in njene naslednje generacije pripravijo na umetno inteligenco;

-vzpostaviti ključne zmogljivosti v Evropi, ki so podlaga za umetno inteligenco, kot so podatkovni prostori in referenčne lokacije svetovnega ranga za preizkušanje in eksperimentiranje;

-zagotoviti vodilno vlogo evropskih javnih organov pri uporabi umetne inteligence;

-na podlagi strokovnega dela izvajati jasne etične smernice za razvoj in uporabo umetne inteligence ob polnem spoštovanju temeljnih pravic, da bi določili globalne etične standarde in bili vodilni v svetu na področju etične in zaupanja vredne umetne inteligence;

-po potrebi pregledati nacionalni in evropski zakonodajni okvir, da bi ju bolje prilagodili specifičnim izzivom.

Ključni omogočitveni pogoji

Napredek na področju umetne inteligence odpira vrata novim priložnostim na področjih, kot so prilagojeno in precizno zdravstveno varstvo, mobilnost (avtonomna vožnja 9 ), finančne tehnologije, napredna proizvodnja, vesoljske aplikacije, pametna energetska omrežja, trajnostno krožno in biogospodarstvo, boljše odkrivanje in preiskovanje kriminalnih dejavnosti (npr. pranja denarja, davčnih goljufij), mediji itd.

Za to digitalno preobrazbo je v številnih primerih potrebna znatna nadgradnja obstoječe infrastrukture. Dejansko izvajanje umetne inteligence bo zahtevalo dokončanje enotnega digitalnega trga in njegovega regulativnega okvira, kar vključuje hitro sprejetje predloga Komisije o vzpostavitvi Evropskega industrijskega, tehnološkega in raziskovalnega strokovnega centra za kibernetsko varnost ter mreže nacionalnih koordinacijskih centrov 10 , okrepljeno povezljivost z usklajevanjem spektra, zelo hitra mobilna omrežja 5G in optična vlakna, oblake naslednje generacije ter satelitske tehnologije 11 . Visokozmogljivostno računalništvo in umetna inteligenca bosta ob vstopu v prihodnost z uporabo novih računalniških, pomnilniških in komunikacijskih tehnologij vse bolj prepletena. Poleg tega bi morala biti infrastruktura dostopna in cenovno ugodna, da se zagotovi vključujoča uvedba umetne inteligence po vsej Evropi, zlasti v malih in srednjih podjetjih (MSP). Industrija, zlasti mala in mlada podjetja, se bodo morala zavedati teh tehnologij in jih biti sposobna vključiti v nove proizvode, storitve ter povezane proizvajalne procese in tehnologije, vključno z izpopolnjevanjem in prekvalificiranjem delovne sile. Za razvoj umetne inteligence na enotnem digitalnem trgu bo bistvena tudi standardizacija, ki zlasti pomaga zagotavljati interoperabilnost.

Potrebna je tudi sprememba paradigme v primerih, ko je treba podatke obdelovati lokalno (na primer pri povezani avtomatizirani vožnji, kjer je potrebno hitro sprejemanje odločitev brez čakanja na odziv oddaljenega strežnika). Ta trend spodbuja povpraševanje po naprednih polprevodniških tehnologijah z nizko porabo energije. Nastajajo že nove paradigme, ki presegajo širjenje, in za zagotovitev trajnostne rabe energije bodo potrebne nove energijsko učinkovite računalniške arhitekture (npr. nevromorfne in kvantne). Obstoječa partnerstva med državami članicami in Unijo v obliki skupnih podjetij, kot so ECSEL 12 (elektronske komponente in sistemi), EuroHPC (visokozmogljivostno računalništvo) 13 in kvantna pobuda v okviru programa za raziskave in inovacije Obzorje 2020, so ključna za obdelavo velepodatkov in podporo nadaljnjemu razvoju umetne inteligence.

Države članice in Komisija bodo stalno podpirale vzpostavljanje ključnih omogočitvenih pogojev in bodo vključile umetno inteligenco v povezane pobude.

Usklajeni načrt je povezan s tekočimi vzporednimi strategijami na teh področjih.

A.Strateški ukrepi in usklajevanje

Komisija je svoj pristop k umetni inteligenci predstavila v sporočilu „Umetna inteligenca za Evropo“, objavljenem aprila 2018. To sporočilo temelji na treh stebrih:

·povečanje tehnološke in industrijske zmogljivosti EU ter uvajanje umetne inteligence v celotnem gospodarstvu, tako v zasebnem kot v javnem sektorju,

·priprava na družbeno-gospodarske spremembe, ki jih bo prinesla umetna inteligenca,

·zagotovitev ustreznega etičnega in pravnega okvira na podlagi vrednot Unije in v skladu z Listino Evropske unije o temeljnih pravicah.

Komisija je v skladu s svojim aprilskim sporočilom strokovni skupini na visoki ravni za umetno inteligenco naložila, naj pripravi etične smernice glede umetne inteligence. Ta strokovna skupina bo tudi predlagala politična priporočila glede naložb in regulativnega okvira.

Poleg tega je Komisija strokovno skupino za odgovornost in nove tehnologije zadolžila, naj ji pomaga pri pripravi smernic za izvajanje direktive o odgovornosti za proizvode ter oblikovanju vseevropskih načel, ki bi lahko služila kot smernice za morebitne prilagoditve veljavnih zakonov na ravni EU in nacionalni ravni.

Strokovna skupina Komisije za opazovalnico gospodarstva spletnih platform bo proučila politična vprašanja na regulativnih področji, povezanih z umetno inteligenco, kot so dostop do podatkov 14 , spletno oglaševanje in vloga algoritmov v gospodarstvu digitalnih platform.

Poleg tega je Komisija ustanovila tudi strokovno skupino na visoki ravni o vplivu digitalne preobrazbe na trge dela EU, ki bo spomladi 2019 pripravila poročilo o strategijah za obravnavanje motenj v zaposlovanju 15 .

Naložbe v umetno inteligenco so v Uniji majhne in razdrobljene v primerjavi z drugimi deli sveta, kot sta ZDA in Kitajska. Da bi odpravili to pomanjkljivost, so v aprilskem sporočilu določeni ambiciozni cilji, s katerimi se želijo povečati naložbe in doseči skupni znesek (javni in zasebni sektor skupaj) v višini najmanj 20 milijard EUR v obdobju 2018–2020 ter v naslednjem desetletju postopno povečati naložbe na 20 milijard EUR na leto.

Komisija na podlagi okvirnega programa za raziskave in inovacije Obzorje 2020 v obdobju 2018–2020 povečuje naložbe v umetno inteligenco na 1,5 milijarde EUR, kar predstavlja 70-odstotno povečanje v primerjavi z obdobjem 2014–2017. Komisija je v naslednje večletnem finančnem okviru predlagala umetni inteligenci nameniti vsaj 1 milijardo EUR na leto iz sredstev Obzorje Evropa 16 in programa za digitalno Evropo 17 . Proučujejo se možnosti za mobilizacijo sredstev iz Evropskega sklada za strateške naložbe ter evropskih strukturnih in investicijskih skladov. Evropski sklad za regionalni razvoj naj bi na primer vlagal v umetno inteligenco na podlagi strategij pametne specializacije naslednje generacije.

Francija, Finska, Švedska, Združeno kraljestvo in Nemčija že izvajajo ciljno usmerjene strategije za umetno inteligenco. Nekatere države, kot so Danska, Luksemburg, Nizozemska, Irska in Norveška, so ukrepe, povezane z umetno inteligenco, vključile v širšo strategijo za digitalizacijo. Poleg tega Avstrija, Belgija, Češka, Danska, Estonija, Nemčija, Italija, Latvija, Poljska, Portugalska, Slovenija, Slovaška in Španija pripravljajo strategije 18 . Za čim večje povečanje naložb, združevanje pomembnih virov, kot so podatki, in zagotavljanje brezhibnega regulativnega okolja morajo vse države članice pripraviti nacionalne strategije za umetno inteligenco v skladu z nameni, ki so jih na digitalnem dnevu izrazile v izjavi o sodelovanju na področju umetne inteligence, vključno s podpornimi ukrepi.

Države članice in Komisija bodo letno spremljale napredek pri izvajanju načrta 19 .

B.Povečanje naložb s partnerstvi

Za spodbujanje in okrepitev naložb v umetno inteligenco in za njihov čim večji učinek tako v javnem kot zasebnem sektorju so potrebna skupna prizadevanja Komisije, držav članic in zasebnega sektorja. Le če tako Komisija kot države članice usmerijo svoja vlaganja v isto smer s skupnim načrtovanjem in pritegnejo znatne zasebne naložbe, bo imela Evropa kot celota vpliv in vzpostavila svojo strateško avtonomnost na področju umetne inteligence.

·Utiranje poti k novemu partnerstvu za umetno inteligenco: Dandanes umetno inteligenco obravnavajo različna javno-zasebna partnerstva v okviru Obzorja 2020, zlasti javno-zasebni partnerstvi za robotiko in velepodatke, z ločenimi raziskovalno-inovacijskimi agendami. Tudi akademska raziskovalna skupnost je organizirana v mreže, kot je Evropsko združenje za umetno inteligenco EurAI. Komisija bo ob podpori držav članic z industrijo in akademskimi krogi sodelovala pri skupni agendi za raziskave in inovacije na področju umetne inteligence. Na podlagi evropskih prednosti si bo prizadevala za razvoj dinamičnega inovacijskega ekosistema za umetno inteligenco po vsej EU, ki bo spodbujal tesno sodelovanje med industrijo in akademskimi krogi ter okrepil konkurenčnost v celotni vrednostni verigi umetne inteligence. V ta namen bo vodila razprave najprej z zainteresiranimi stranmi iz javno-zasebnih partnerstev za robotiko in velepodatke, pozneje pa jih bo razširila na predstavnike vseh relevantnih zainteresiranih strani iz industrije in raziskovalnih inštitutov s ciljem razvoja skupnega strateškega načrta za raziskave in inovacije na področju umetne inteligence. Komisija namerava ustanoviti skupino voditeljev.

·Povezovanje za naložbe v umetno inteligenco: Za Evropo je ključno, da opredeli naslednjo generacijo umetne inteligence ter vanjo vlaga in jo razširja. Pomemben element so zadostne naložbe za zagonska podjetja v njihovi zgodnji fazi, pa tudi za podjetja v razširitveni fazi. Zato je cilj Komisije z uporabo obstoječih instrumentov, kot so Evropski sklad za strateške naložbe, Obzorje 2020 in Evropski investicijski sklad, zagotoviti sredstva za zagonska podjetja in inovatorje na področju umetne inteligence in blokovnih verig v njihovi zgodnji fazi ter za podjetja v razširitveni fazi. Za začetek naj bi bilo v letu 2020 na voljo 100 milijonov EUR. Ker nekatere zgodnje aplikacije tehnologije rudarjenja z blokovnimi verigami (bitcoin) porabijo veliko energije, bo Komisija v merilih za izbor naložb za take finančne programe dajala prednost podpiranju novejših energijsko učinkovitih infrastruktur in aplikacij blokovnih verig. Dejavnosti bi se lahko osredotočile na (i) financiranje portfelja inovativnih podjetij na področju umetne inteligence/blokovnih verig, (ii) razvoj dinamične vseevropske skupnosti vlagateljev, osredotočene na umetno inteligenco, (iii) pomnožitev naložb na nacionalni ravni z vključitvijo nacionalnih spodbujevalnih bank, ki so pripravljene sodelovati, (iv) spodbujanje naložb zasebnega sektorja in (v) ustvarjanje privlačnejšega okolja za zagonska podjetja, da bi ostala in rasla v Evropi. V naslednjih letih bi bilo mogoče umetno inteligenco in blokovne verige dodatno podpreti s programom InvestEU.

·Evropska komisija v skladu s sklepi Evropskega sveta iz junija 2018 24 pripravlja izboljšan pilotni projekt Evropskega sveta za inovacije v podporo rasti inovativnih podjetij (zagonskih podjetij in MSP), ki se ukvarjajo s prelomnimi inovacijami, ki ustvarjajo nove trge, ter prelomnimi znanostmi in ključnimi omogočitvenimi tehnologijami, ki bi lahko privedle do prelomnih inovacij.

C.Iz laboratorija na trg: (i) doseganje odličnosti v raziskovanju, (ii) vzpostavitev obratov za preizkušanje, referenčnih v svetovnem merilu, in (iii) pospešitev uvajanja umetne inteligence z vozlišči za digitalne inovacije.

Komisija in države članice priznavajo, da je pomembno še naprej krepiti znanstveno bazo 25 in podpirati raziskave in inovacije, da bi zagotovile tehnološko konkurenčnost, obravnavale inovacijske izzive in omogočile prenos rezultatov raziskav v industrijo.

Komisija bo okrepila svoje naložbe v raziskave in inovacije v celotnem programu Obzorje 2020 in vključila umetno inteligenco na vsa področja, na katerih je mogoče razviti ali izkoristiti njene prednosti. Tako bo na primer treba dodeliti znatno financiranje umetni inteligenci za varnostne namene, in sicer na eni strani za preprečevanje zlonamerne uporabe tehnologij umetne inteligence, ki jih zlonamerni akterji uporabljajo za kriminalne dejavnosti ali terorizem, na drugi strani pa za uvajanje orodij in rešitev umetne inteligence za podporo organom kazenskega pregona pri boljšem preprečevanju, odkrivanju in preiskovanju kriminalnih dejavnosti in terorizma 26 .

Poleg tega si bo Komisija prizadevala za okrepitev evropskih centrov odličnosti za umetno inteligenco, vzpostavitev obratov za preizkušanje, referenčnih v svetovnem merilu, in pospešitev uvajanja umetne inteligence z vozlišči za digitalne inovacije, s čimer bo zagotovila, da bodo rezultati raziskovalnih dejavnosti koristili Evropi.

Komisija bo ohranila geografsko ravnotežje v prizadevanjih za okrepitev vozlišč za digitalne inovacije in spodbujala geografsko pokritost mrež centrov odličnosti in obratov za preizkušanje ter spodbujala dopolnjevanje z naložbami kohezijske politike. Veliko število vodilnih raziskovalnih središč daje Evropi neizpodbitne prednosti, vendar je za konkurenčnost na svetovni ravni bistveno združiti moči. Evropa bo okrepila nacionalne raziskovalne zmogljivosti in dosegla kritično maso s pomočjo bolj povezanih mrež evropskih centrov odličnosti za raziskave na področju umetne inteligence 27 . Cilj je spodbujati sodelovanje med najboljšimi raziskovalnimi skupinami v Evropi, da se s skupnimi močmi učinkoviteje spoprimejo z glavnimi znanstvenimi in tehnološkimi izzivi na področju umetne inteligence ter da se industrijo spodbudi k vključitvi v raziskovalne skupine in za iskanje sinergij z njimi.

Vzpostavitev obratov za preizkušanje umetne inteligence, referenčnih v svetovnem merilu 28 : Pomemben korak pri uvajanju tehnologije na trg je povezan z eksperimentiranjem in preizkušanjem najsodobnejših tehnologij v realnem okolju. Za optimizacijo naložb in preprečitev podvajanja ali konkurenčnih prizadevanj je treba razviti omejeno število obsežnih referenčnih lokacij, specializiranih za umetno inteligenco, in jih odpreti za vse akterje iz vse Evrope.

Primeri takšnih obratov za preizkušanje vključujejo čezmejno preizkušanje povezane in avtonomne vožnje, preizkuševalne lokacije za avtonomni ladijski promet in oblikovanje podatkovnih prostorov. Komisija in države članice bodo opredelile potrebo po novih obsežnih obratih za preizkušanje najnovejših tehnologij umetne inteligence na ključnih področjih, kot so mobilnost, zdravstvo, proizvodnja, agroživilski sektor ali varnost. Ti obrati za preizkušanje lahko vključujejo regulativne peskovnike (tj. območja, na katerih je regulacija omejena ali ugodna za preizkušanje novih proizvodov in storitev) na izbranih območjih, na katerih pravo regulativnim organom daje dovolj manevrskega prostora, da za čas trajanja peskovnika znižajo posamezne pravne in regulativne zahteve.

Pospešitev uvajanja umetne inteligence z vozlišči za digitalne inovacije: Prav tako bo pomembno spodbujati uvajanje umetne inteligence v širšem gospodarstvu, zlasti pri MSP. To vključuje prenos znanja in znanstvenega napredka, ki so nastali v evropskih centrih odličnosti za raziskave na področju umetne inteligence, ter tehnologij, potrjenih v navedenih obratih za preizkušanje. Vozlišča za digitalne inovacije lahko prispevajo k zagotavljanju, da bodo vsa podjetja, mala ali velika, visokotehnološka ali ne, ter javni sektor lahko izkoristili te digitalne priložnosti. V srcu vozlišč za digitalne inovacije so tehnične univerze ali raziskovalne organizacije, zato ti centri opravljajo vlogo enotnih kontaktnih točk, kjer lahko podjetja in javni sektor dobijo dostop do tehnologije, podpore pri preizkušanju in tehnične podpore, finančnega svetovanja, tržnih informacij in priložnosti za mreženje. Bolj specifično lahko vozlišča za digitalne inovacije na področju umetne inteligence pomagajo MSP in javnim upravam opredeliti potrebne nabore podatkov, razviti algoritme, učiti umetno inteligenco, prav tako pa se lahko povežejo na računalniške zmogljivosti in gradijo na platformi za „umetno inteligenco na zahtevo“. Lahko pomagajo pri usposabljanju strokovnjakov iz MSP za uporabo rešitev umetne inteligence in svetujejo glede obstoječe finančne podpore. Predstavljajo povezavo z raziskovalnimi centri odličnosti in razpoložljivimi obrati za preizkušanje.

Podobno sedanjih enajst vozlišč skupnosti znanja in inovacij na digitalnem področju Evropskega inštituta za tehnologijo in inovacije združuje pomembne akterje v digitalnem sektorju v ciljnih regijah.

D.Znanja in spretnosti ter vseživljenjsko učenje

Talenti so ena od bistvenih sestavin za razvoj in uporabo umetne inteligence. Umetna inteligenca in digitalizacija hitro spreminjata družbo in gospodarstvo kot celoto, tudi delovno okolje. V Evropi obstaja veliko in vztrajno pomanjkanje digitalnih spretnosti. Povpraševanje po znanjih in spretnostih na novih področjih, kot je umetna inteligenca, je še posebej pereče, problem pa narašča, saj ponudba zaostaja za trgom. Skoraj vse države članice se soočajo s pomanjkanjem strokovnjakov za IKT, tudi na področju umetne inteligence 32 . Sedanja ponudba specializiranih visokošolskih programov je omejena in ni enakovredno na voljo v vseh državah članicah 33 . 

Slabo splošno tehnično znanje v širši populaciji ovira dostopnost in uvajanje rešitev umetne inteligence. Dostop do potrebnih znanj in spretnosti bi bilo treba okrepiti v osnovnih in srednjih šolah, čeprav usposabljanje učiteljev še vedno predstavlja precejšen izziv. Pospešeni programi prekvalificiranja morajo biti zasnovani tako, da imajo prebivalci možnost pridobiti izkušnje na področju umetne inteligence. Za okrepitev učenja bi se lahko uporabila tehnologija, kot so množični odprti spletni tečaji (MOOC). Vprašanje umetne inteligence bi bilo treba vključiti v netehnične študijske programe v formalnem in neformalnem izobraževanju, da bi prihodnji delovni sili zagotovili znanje, potrebno za delovanje in obnašanje v delovnem okolju, ker bo umetna inteligenca del vsakodnevnih nalog.

Poleg digitalnih so za na človeka osredotočen razvoj umetne inteligence enako pomembna druga znanja in spretnosti. Etičnost ter druga znanja in spretnosti s področij, ki niso naravoslovje, tehnologija, inženirstvo in matematika, so enako pomembni in bi morali biti del poglavja o skrbi za talente v nacionalnih in mednarodnih strategijah za umetno inteligenco. Poleg tega bi morala izpopolnjevanje in prekvalificiranje spremljati posodobitev trgov dela in socialne politike, da bi bolje obvladovali pogostejša prehajanja na trgu dela.

Težave pri privabljanju in zadržanju talentov v Evropi prispevajo k pomanjkanju strokovnega znanja in spretnosti. Poleg tega nadarjeni raziskovalci in obetavna zagonska podjetja pogosto dobivajo zanimive ponudbe iz tujine. Leta 2017 je bilo 38 % prebivalcev Silicijeve doline tujcev, ki so vstopili v ZDA, da bi zapolnili specifično delovno mesto v tehnološki industriji, od tega pa je bilo Evropejcev 8 % 34 . Ukrepi so zlasti potrebni za privabljanje in zadržanje najboljših talentov v Evropi ter ustvarjanje konkurenčnega okolja. Tesnejše sodelovanje z industrijo bo pomagalo zagotoviti ustreznost učnih vsebin potrebam na trgu dela.

Komisija je sprejela akcijski načrt za digitalno izobraževanje 35 , s katerim podpira uporabo tehnologije in razvoj digitalnih kompetenc v izobraževanju. Kot je bilo napovedano v aprilskem sporočilu, Evropski inštitut za inovacije in tehnologijo (EIT) vključuje umetno inteligenco v učne načrte izobraževalnih programov na magistrski in doktorski ravni, ki jih podpira, v okviru pilotnega projekta za pripravništva za digitalne priložnosti (2018–2020) 36 pa študentom Erasmusa nudi delovne prakse na področju naprednih digitalnih spretnosti. Načrt za sektorsko sodelovanje na področju spretnosti podpira razvoj sektorskih strategij za reševanje pomanjkanja strokovnega znanja in spretnosti 37 ter izboljšuje večdisciplinarne pristope z vključevanjem elementov umetne inteligence v druge discipline.

Pomembno je vzajemno priznavanje certificiranja, tudi za študije v novih disciplinah, kot je umetna inteligenca. Maja 2018 je Komisija podala predlog za priporočilo Sveta 38 o spodbujanju avtomatičnega vzajemnega priznavanja visokošolskih diplom in srednješolskih spričeval ter izidov iz učnih obdobij v tujini. V predlogu za priporočilo Sveta se države članice poziva, naj se politično zavežejo k sprejetju ukrepov za uvedbo avtomatičnega priznavanja do leta 2025.

E.Podatki: temelj umetne inteligence – oblikovanje skupnega evropskega podatkovnega prostora

Sedanjo širitev umetne inteligence poganja razpoložljivost velikih naborov podatkov v kombinaciji s povečanjem računalniške zmogljivosti in povezljivosti. Zagotavljanje varnih, zanesljivih in kakovostnih podatkov širokemu krogu uporabnikov prek meja je eden izmed temeljev evropske politike. Odprtost do mednarodnih podatkovnih tokov se bo še naprej zagotavljala ob polnem spoštovanju pravil EU o varstvu osebnih podatkov in v skladu z veljavnimi pravnimi instrumenti, vključno s sporazumi o prosti trgovini, ki jih je EU sklenila s svojimi partnerji, in ugotovitvami Komisije o ustreznosti ravni varstva osebnih podatkov v tretjih državah. S popolnim izvajanjem sektorske zakonodaje, izboljšanjem dostopa do informacij in njihovo ponovno uporabo (npr. z direktivo INSPIRE 40 ) bodo na voljo podatki po posameznih področjih, ki so potrebni za zmogljive aplikacije umetne inteligence v javnem sektorju, za namene analitičnega ali političnega spremljanja 41 .

Splošna uredba o varstvu podatkov za obdelavo podatkov o posameznikih določa pravila, ki se uporabljajo za zbiranje, uporabo in izmenjavo takih osebnih podatkov. Poleg tega nedavno sprejeta uredba o prostem pretoku neosebnih podatkov še bolj olajšuje čezmejne podatkovne tokove po vsej Uniji kot temelj enotnega digitalnega trga. Proučile se bodo tudi rešitve za izmenjavo in omogočanje dostopa do podatkov, ki temeljijo na blokovnih verigah in so povsem v skladu s Splošno uredbo o varstvu podatkov ter zasebnostjo. S predlaganimi pravili 42 o trgovinskih praksah med spletnimi posredniškimi storitvami, kot so spletne tržnice, trgovine z aplikacijami ali platforme za rezervacijo nastanitev, so bili določeni pogoji za predvidljivo in pregledno uporabo podatkov med storitvami gostovanja in njihovimi poslovnimi uporabniki. Ti ukrepi so namenjeni zagotavljanju poglobljene pravičnosti in zaupanja v poslovne odnose ter dragoceno uporabo podatkov v ekosistemu spletnih platform.

Treba je omogočiti lažjo izmenjavo podatkov, ki jih hranita javni in zasebni sektor, in sicer z oblikovanjem skupnega evropskega podatkovnega prostora 43 , tj. brezhibnega digitalnega območja v obsegu, ki bo omogočil razvoj novih proizvodov in storitev na podlagi podatkov. Zlasti podatki, ustvarjeni in hranjeni v javnem sektorju, so pogosto zelo kakovostni in predstavljajo veliko prednost za evropske inovatorje in podjetja.

Za večjo uporabo bi morali biti podatki v prostoru čim bolj interoperabilni, kar bi dosegli zlasti z dogovorom o podatkovnih formatih, ki so odprti, FAIR (tj. ki jih je možno najti, so dostopni, interoperabilni in ponovno uporabni), strojno berljivi, standardizirani in dokumentirani tako v interakciji med javnim in zasebnim sektorjem kot znotraj sektorjev in med sektorji 44 .

V direktivi o informacijah javnega sektorja 45 je določen okvir za ponovno uporabo takih podatkov v podjetjih. Ukrepi bi morali biti osredotočeni na zagotavljanje lažje dostopnih naborov podatkov v praksi, zlasti za zagonska ter mala in srednja podjetja, ter omogočanje združevanja. Posebej pomembno je oblikovati in uporabljati interoperabilne podatkovne in metapodatkovne formate ter standardizirane vmesnike za aplikacijsko programiranje (API) na podlagi evropskega okvira interoperabilnosti 46 .

Ti ukrepi bodo dopolnjevali prizadevanja držav članic za spodbujanje dostopnosti, interoperabilnosti in ponovne uporabe podatkov v sektorjih, ki so zelo relevantni za umetno inteligenco, kot so zdravstvo 47 (glej spodnje točke), okolje, mobilnost, varnost, migracije ter trajnostno in krožno biogospodarstvo in prehranski sistem.

F.Vgrajena etičnost in regulativni okvir

Ustrezen in predvidljiv etični in regulativni okvir, ki temelji na učinkovitih zaščitnih ukrepih za varstvo temeljnih pravic in svoboščin, je ključnega pomena za zaupanje državljanov v umetno inteligenco in izkoriščanje novih poslovnih priložnosti s strani podjetij, ki potrebujejo naložbeno varnost. Sočasno spodbujanje etične agende in inovacij lahko postane konkurenčna prednost evropskih podjetij na svetovnem trgu. Poleg tega bo tudi uvajanje umetne inteligence v javnem sektorju gotovo sprožilo podobne etična vprašanja in vprašanja glede temeljnih pravic, ki jih je treba obravnavati predhodno.

Komisija je v skladu s sporočilom o umetni inteligenci za Evropo strokovni skupini na visoki ravni za umetno inteligenco naložila, naj pripravi etične smernice glede umetne inteligence 54 . Prvi osnutek teh smernic bo pripravljen decembra 2018, končna različica pa se pričakuje marca 2019 po široko zastavljenem posvetovanju prek evropskega zavezništva za umetno inteligenco 55 . Eno izmed ključnih načel bo „vgrajena etičnost“, s katero bodo etična načela vgrajena v proizvode in storitve umetne inteligence vse od začetka snovanja.

Pomembno je, da zakonodaja ponuja pravi okvir za inovacije umetne inteligence in uvajanje rešitev umetne inteligence, hkrati pa obravnava morebitna tveganja, ki se pojavijo zaradi uporabe tehnologije in interakcij z njo, vključno z vprašanji kibernetske varnosti. To pomeni, da je treba zagotoviti „kibernetsko varnost“ v smislu preprečevanja zlorab (npr. hekanja ali manipulacije algoritmov umetne inteligence ali manipulacije podatkov, ki jih obdela algoritem umetne inteligence), pa tudi vključitev mehanizmov za zagotavljanje varnosti potrošnikov in učinkovitih pravnih sredstev za žrtve v primeru škode ter za omogočanje preiskav, če je sistem umetne inteligence ogrožen. Treba je določiti zahteve glede kibernetske varnosti v zvezi z umetno inteligenco, ki bi morale biti vključene v certifikacijsko shemo v skladu s predlaganim evropskim certifikacijskim okvirom za kibernetsko varnost 56 . Poleg tega lahko v podjetjih, ki delujejo na varnostnih področjih (npr. finančne institucije, proizvajalci radioaktivnih snovi itd.), uporaba nekaterih proizvodov in procesov umetne inteligence služi javnemu interesu in zato njihova uporaba postane obvezna.

Ustrezen okvir za varnost in odgovornost, ki zagotavlja visoko raven varnosti in učinkovita pravna sredstva za žrtve v primeru škode, je bistven za ustvarjanje zaupanja v umetno inteligenco.

Poleg tega imajo lahko regulativni peskovniki in druge metode političnega eksperimentiranja in razvoja politike ob uporabi ustreznih zaščitnih ukrepov pomembno vlogo pri spodbujanju inovacij umetne inteligence na področjih, na katerih pravo regulativnim organom pušča zadosten manevrski prostor. V letu 2019 bo poudarek na ocenjevanju, ali regulativni okvir v Evropi ustreza namenu, kar zadeva tehnologije umetne inteligence na splošno ter zlasti za povezano in avtomatizirano vožnjo.

Dogovori za inovativnost 57 lahko služijo kot orodja v okviru obstoječe zakonodaje za ocenjevanje regulativnih ovir, povezanih z razvojem in uporabo umetne inteligence. Dogovori za inovativnost so prostovoljni sporazumi o sodelovanju med EU, inovatorji ter nacionalnimi, regionalnimi in lokalnimi organi. Cilj dogovora za inovativnost je pridobiti poglobljeno razumevanje, kako pravilo ali ureditev EU deluje v praksi. Če se ugotovi, da pravilo ali ureditev ovira inovacije, bo ta dogovor to pokazal in služil kot podlaga za morebitne nadaljnje ukrepe.

Drugi pomembni elementi za oblikovanje integriranega evropskega domačega trga za proizvode, storitve in aplikacije umetne inteligence so na primer vgrajeno varstvo podatkov in zasebnost 58 , varstvo potrošnikov ter skladnost s konkurenčnim pravom. Poleg tega so pomembni vidiki razvoja in uvajanja umetne inteligence zlasti na družbeno in politično občutljivih področjih povezani s pravičnostjo, preglednostjo in odgovornostjo algoritemskega odločanja ter z njim povezanimi modeli upravljanja 59 in vplivom umetne inteligence na človeško vedenje 60 .

Nenazadnje bi bilo treba proučiti tudi vprašanja glede intelektualne lastnine za zagotovitev, da se v povezanem regulativnem okviru ustrezno obravnavajo številni izzivi, ki so specifični za umetno inteligenco, s tem pa lahko učinkovito spodbuja njen razvoj.

G.Umetna inteligenca v javnem sektorju

Aplikacije umetne inteligence lahko prispevajo k boljšim javnim storitvam na različne načine, na primer z omogočanjem pametnejših zmogljivosti za analizo in boljšim razumevanjem procesov v realnem času (npr. na področju prebivalstva, gospodarstva, okolja in podnebnih sprememb) v gospodarstvu, družbi in okolju, vključno z odkrivanjem kriminalnih dejavnosti, kot so davčne goljufije in pranje denarja.

Rešitve umetne inteligence lahko omogočijo krajše in bogatejše povratne zanke na vseh ravneh upravljanja, kar omogoča pospešitev ter izboljšanje učinkovitosti in uspešnosti izvajanja storitev. Lahko:

·povečajo kakovost in skladnost opravljenih storitev,

·izboljšajo oblikovanje in izvajanje ukrepov politike,

·omogočajo učinkovitejša in bolj ciljno usmerjena posredovanja,

·povečajo učinkovitost in uspešnost javnega naročanja ter

·okrepijo varnost, upravljanje identitete, izboljšajo zdravstvene storitve in storitve zavodov za zaposlovanje.

Pri upravičencih do javne podpore lahko odločanje z umetno inteligenco poenostavi razmerje med javnimi organi in upravičenci z vključitvijo vprašanj širšega javnega interesa ali regulativnih vprašanj v dnevno odločanje (s ciljno usmerjeno komunikacijo, vedenjskimi spodbudami itd.).

Umetna inteligenca lahko izboljša interakcijo med državljani in javnimi organi s pogovornimi sistemi (vključno z digitalnimi pomočniki in klepetalnimi roboti [chatbots]), večjezičnimi storitvami in strojnimi prevodi. Potekajo tudi prizadevanja za uporabo umetne inteligence v sektorju socialnega varstva in zdravstvu za podporo zdravniškemu odločanjau ali zgodnjemu odkrivanju marginalizacije mladih 63 .

Kot je navedeno zgoraj, so predlagani konkretni ukrepi za odprtje podatkov javnega sektorja za uporabo v aplikacijah umetne inteligence na področjih javnega interesa, na primer za medicinske slike ali genomiko.

Države članice se spodbujajo k vzajemnemu učenju z drugimi državami članicami, zlasti v zvezi z regulativnimi peskovniki in pogoji za preizkušanje.

H.Mednarodno sodelovanje

Glede na to, da se o umetni inteligenci trenutno razpravlja po vsem svetu in na številnih mednarodnih forumih, kot so ZN, OECD, G7 ali G20 67 , je mednarodno sodelovanje ključnega pomena. Razvoj umetne inteligence bo imel koristi od mednarodnega sodelovanja, zlasti med razvitimi državami, ki imajo trdne raziskovalne in inovacijske prednosti ter naložbe na področju umetne inteligence. Skupni razvoj mednarodnih standardov bo olajšal uvajanje in sprejemanje umetne inteligence. Unija bo mednarodno promovirala etične smernice za umetno inteligenco ter začela dialog in sodelovanje z vsemi državami, ki niso članice EU, ter zainteresiranimi stranmi iz tretjih držav, ki so pripravljene deliti iste vrednote.

Da bi bila ta prizadevanja uspešna, bi si morale države članice in Unija prizadevati za uskladitev dvostranskih prizadevanj na področju umetne inteligence med posameznimi državami članicami in tretjimi državami ter združiti prizadevanja s ciljem odgovornega razvoja umetne inteligence na svetovni ravni. Unija mora glede teh vprašanj v tretjih državah in po svetu na splošno nastopati enotno. V sinergiji z dejavnostmi držav članic bi si morala EU prizadevati tudi za zavezništva z zainteresiranimi stranmi, tj. tehnološkimi podjetji, akademskim svetom in drugimi stranmi, da bi sodelovala v zavezništvu z več zainteresiranimi stranmi na svetovni ravni za odgovorno umetno inteligenco.

Poleg tega bo Unija leta 2019 organizirala mednarodno ministrsko srečanje o umetni inteligenci, s katerim želi doseči svetovno soglasje o etičnih posledicah umetne inteligence. EU za sodelovanje z mednarodnimi partnerji o regulativnih in etičnih vprašanjih uporablja tudi svoj instrument zunanje politike. Nekatere države članice predlagajo medvladni postopek, podoben Odboru za podnebne spremembe. Kar zadeva mednarodno varnost, bo politika glede umetne inteligence temeljila na delu visokega predstavnika na Svetovnem tehnološkem forumu in v Združenih narodih ter drugih večstranskih forumih.

Nenazadnje bo Unija prispevala svoje strokovno znanje in namenska finančna sredstva, da bi umetno inteligenco trdneje zasidrala v razvojni politiki. Umetna inteligenca bo ključno prispevala k svetovnim izzivom in razvojni politiki. Na primer, precizno kmetovanje s pomočjo umetne inteligence obeta manjšo porabo pesticidov, gnojil in vode ter je idealna tehnologija za pomoč vse večjemu številu prebivalstva v državah v razvoju. Umetna inteligenca se lahko uporablja tudi za pripravo modelov vremenskih, podnebnih in drugih naravnih pojavov, tako da je lahko lokalno prebivalstvo na primer opozorjeno v primeru izrednih vremenskih razmer ali neposredne nevarnosti nesreč ter se nanje pripravi vnaprej. Umetna inteligenca in digitalne tehnologije so lahko temelj cenovno dostopnih visokotehnoloških rešitev, tudi za ljudi, ki živijo v negotovih okoliščinah, pri tem pa se spoštujejo etična vprašanja in vprašanja zasebnosti.

Povezave:

Sporočilo Komisije „Umetna inteligenca za Evropo“

https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe  

Izjava o sodelovanju na področju umetne inteligence

https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence )

Zavezništvo za umetno inteligenco

https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(1)

     Strateška skupina na visoki ravni za industrijske tehnologije je priporočila vključitev umetne inteligence kot ene od ključnih omogočitvenih tehnologij zaradi njenega medsektorskega spodbujevalnega potenciala, ki je ključen za evropsko industrijo.

https://publications.europa.eu/sl/publication-detail/-/publication/28e1c485-476a-11e8-be1d-01aa75ed71a1/language-sl

(2)

     COM(2018) 237.

(3)

     Kot je navedeno v omenjenem sporočilu z dne 25. aprila 2018, umetna inteligenca pomeni sisteme, ki z analiziranjem svojega okolja in ukrepanjem (delno samostojnim) za doseganje posebnih ciljev kažejo inteligentno ravnanje. Sistemi umetne inteligence lahko v celoti temeljijo na programski opremi in delujejo v virtualnem svetu (npr. glasovni pomočniki, programska oprema za analizo slik, iskalniki, sistemi za prepoznavanje govora in obraza) ali pa so vdelani v strojno opremo (npr. napredni roboti, avtonomni avtomobili, brezpilotni zrakoplovi ali aplikacije za internet stvari). Umetno inteligenco uporabljamo vsak dan, na primer za prevajanje besedil, ustvarjanje podnapisov v videoposnetkih ali blokiranje neželene e-pošte. Številne tehnologije umetne inteligence za boljše delovanje potrebujejo podatke. Ko je njihovo delovanje na ustrezni ravni, lahko pomagajo izboljšati in avtomatizirati sprejemanje odločitev na istem področju. Sistem umetne inteligence se lahko na primer nauči prepoznavati kibernetske napade na podlagi podatkov iz zadevnega omrežja ali sistema.

(4)

      https://www.consilium.europa.eu/sl/press/press-releases/2018/06/29/20180628-euco-conclusions-final/

(5)

     Na digitalnem dnevu 2018, ki je 10. aprila potekal v Bruslju, so bile dosežene skupne zaveze držav članic glede digitalne prihodnosti Evrope. Izjava o umetni inteligenci se podpiše v prostovoljnem in participativnem procesu.

(6)

     Glej dopis predsedstva  11972 /18 z dne 14. septembra 2018.

(7)

     Vsi proračunski zneski v zvezi s predvidenimi prispevki EU od leta 2020 dalje so odvisni od sprejetja zadevne pravne podlage, delovnih programov in letnih proračunov ustreznih organov.

(8)

   Vsi ti ukrepi morajo biti v skladu z evropskim konkurenčnim pravom in predpisi o državni pomoči.

(9)

     Sporočilo o povezani in avtomatizirani mobilnosti na primer priznava koristi zaradi napredka na področju umetne inteligence, ki bo odprl nova področja za razvoj podjetij in utrl pot novim prometnim storitvam, s čimer bo promet varnejši, dostopnejši in bolj trajnosten.

(10)

     COM(2018) 630.

(11)

   Npr. globalni satelitski navigacijski sistem v lasti EU GALILEO.

(12)

      https://europa.eu/european-union/about-eu/agencies/ecsel_sl

(13)

      https://ec.europa.eu/digital-single-market/en/blogposts/eurohpc-joint-undertaking-looking-ahead-2019-2020-and-beyond

(14)

     Duch-Brown idr. (2017), The economics of ownership, access and trade in digital data. (Ekonomija lastništva digitalnih podatkov, dostopa do njih in trgovanja z njimi). Delovni dokument Skupnega raziskovalnega središča o digitalnem gospodarstvu 2017-01. https://ec.europa.eu/jrc/en/publication/eur-scientific-and-technical-research-reports/economics-ownership-access-and-trade-digital-data

(15)

https://ec.europa.eu/digital-single-market/en/news/appointment-members-high-level-expert-group-impact-digital-transformation-eu-labour-markets

(16)

     COM(2018) 435 in COM(2018) 436.

(17)

     COM(2018) 434.

(18)

     Pet regij ima v svojih strategijah pametne specializacije prednostne naloge v zvezi umetno inteligenco in le-ta ima lahko vlogo pri vidikih prehoda na digitalno industrijo v nacionalnih ali regionalnih strategijah pametne specializacije z mislijo na programe ESRR po letu 2020: Spodnja Saška [DE], Pohjois-Savo [FI], Łódzkie [PL], Nord-vest [RO] in Nord-est [RO]. Glej: http://s3platform.jrc.ec.europa.eu/map . Tudi druge regije v Evropi, npr. v Belgiji, imajo strategije za umetno inteligenco.

(19)

     Znanstvena služba Komisije za umetno inteligenco AI Watch, ki jo je ustanovilo Skupno raziskovalno središče, bo prispevala k spremljanju razvoja v zvezi z umetno inteligenco in pripravila številne analize, potrebne za podporo izvajanju evropske pobude o umetni inteligenci. Med drugim bo pripravila indekse umetne inteligence, ki bodo obravnavali vse razsežnosti, pomembne za oblikovanje politike. Te informacije bodo na voljo na portalu AI Watch  https://ec.europa.eu/knowledge4policy/ai-watch_en .

(20)

     Tudi na področjih socialnega vključevanja in zaposlovanja, e-uprave, e-zdravja, ključnih omogočitvenih tehnologij, znanj in spretnosti, industrijskega prehoda/pametne specializacije itd.

(21)

     Države članice in regije se spodbuja, naj analizirajo digitalno razsežnost (ki vključuje umetno inteligenco) v procesu pregleda strategij pametne specializacije z mislijo na prihodnje naložbe Evropskega sklada za regionalni razvoj.

(22)

     Predstavniki, ki jih imenuje skupina držav članic za digitalizacijo evropske industrije in umetno inteligenco.

(23)

     Na podlagi obstoječih skupin in ob upoštevanju specifičnega upravljanja različnih zadevnih instrumentov EU.

(24)

     EUCO 9/18 – 28. junij 2018.

(25)

     Evropski raziskovalni svet je na primer financiral več kot 150 vrhunskih projektov na področju umetne inteligence, ki jih izvajajo vodilni evropski raziskovalci na področjih, kot so globoko učenje, nevronska omrežja, napovedovanje, strojno prevajanje, obdelava naravnega jezika, računalniški vid, robotika, umetni subjekti in medicinsko slikanje ter upravljanje in standardi.

(26)

     To bi podjetjem tudi omogočilo izboljšanje njihove varnostne zmogljivosti. Komisija bo z odborom programa za varne družbe razpravljala o vključitvi ustreznih ukrepov v delovni program Obzorje 2020 za leto 2020.

(27)

     Centri odličnosti za umetno inteligenco so raziskovalni centri z močnim strokovnim znanjem na področju umetne inteligence. Glavni namen teh centrov je pospešiti napredek na specifičnih znanstvenih in tehnoloških področjih.

(28)

     Referenčni obrat za preizkušanje in eksperimentiranje je tehnološka infrastruktura s specifičnim strokovnim znanjem in izkušnjami s preizkušanjem dovršenih tehnologij v posameznem sektorju v realnem ali skoraj realnem okolju (pametna bolnišnica, čisti prostori, pametno mesto, poskusna kmetija, koridor za povezano in avtomatizirano vožnjo itd.).

(29)

      https://ec.europa.eu/digital-single-market/en/news/new-5g-cross-border-corridors-connected-and-automated-mobility-baltics-will-allow-testing

(30)

     Skupno podjetje ECSEL je tristranski model sovlaganja Komisije, držav članic in industrije v podporo raziskavam in inovacijam, vključno z obsežnimi prikazi in pilotnimi projekti na področjih mikroelektronike, integracije malih sistemov in vgrajene programske opreme, s posebnim poudarkom na projektih vključevanja.

(31)

     V nomenklaturi statističnih teritorialnih enot so regije NUTS2 opredeljene kot osnovne regije za uporabo regionalnih politik.

(32)

     Manjka več kot 80 000 strokovnjakov za ravnanje s podatki in njihovo upravljanje (eden od 20 znanstvenikov) http://www.pocbigdata.eu/monitorICTonlinevacancies/general_info/ .

(33)

    „Leta 2018 je v približno dveh tretjinah držav članic EU manj kot 10 magistrskih programov s posebnim poudarkom na umetni inteligenci. Moduli na področju umetne inteligence sicer postajajo relativno pogostejši na različnih izobraževalnih področjih, kljub temu pa ima še vedno le tretjina držav članic EU več kot 20 magistrskih programov, ki vključujejo vsaj en modul s področja umetne inteligence.“ López-Cobo idr. (2018), Academic offer and demand for advanced profiles in the EU. Artificial Intelligence, High Performance Computing and Cybersecurity. (Akademska ponudba in povpraševanje po naprednih profilih v EU. Umetna inteligenca, visokozmogljivostno računalništvo in kibernetska varnost.). Znanstveno poročilo skupnega raziskovalnega središča.

(34)

    https://jointventure.org/images/stories/pdf/index2018.pdf

(35)

     COM(2018) 22.

(36)

    https://ec.europa.eu/digital-single-market/en/digital-opportunity-traineeships-boosting-digital-skills-job

(37)

      http://ec.europa.eu/social/BlobServlet?docId=16962&langId=sl

(38)

     COM(2018) 270.

(39)

      https://ec.europa.eu/research/mariecurieactions/

(40)

     Direktiva 2007/2/ES.

(41)

     Cetl V., Tomas R., Kotsev A., de Lima V.N., Smith R.S., Jobst M. (2019) Establishing Common Ground Through INSPIRE: The Legally-Driven European Spatial Data Infrastructure. (Vzpostavljanje skupnih temeljev z INSPIRE: evropska infrastruktura prostorskih podatkov na pravnih temeljih). V: Döllner J., Jobst M., Schmitz P. (ur.) Service-Oriented Mapping. Lecture Notes in Geoinformation and Cartography. (Storitveno usmerjeno načrtovanje. Zapiski na področju geoinformatike in kartografije.). Springer, Cham, Švica.

(42)

      https://ec.europa.eu/digital-single-market/en/business-business-trading-practices  

(43)

      https://eur-lex.europa.eu/legal-content/SL/ALL/?uri=COM%3A2018%3A0232%3AFIN

(44)

     Glej prakse evropskega oblaka za odprto znanost, ki bo spodbujal najboljše prakse glede globalne najdljivosti in dostopnosti podatkov (podatki FAIR), https://ec.europa.eu/research/openscience/index.cfm?pg=open-science-cloud .

(45)

      https://ec.europa.eu/digital-single-market/en/european-legislation-reuse-public-sector-information

(46)

Vmesniki za aplikacijsko programiranje omogočajo izmenjavo in uporabo podatkov javnega sektorja med državami članicami z razvojem skupnih pristopov, ki bi jih bilo treba spodbujati z eksperimentiranjem in uporabnimi raziskavami o teh vmesnikih. Skupno raziskovalno središče je leta 2018 začelo študijo APIs4DGov. Študija želi biti participativna in uporabiti delo, opravljeno na vseh ravneh evropske javne uprave, ter prispeva k izvajanju evropskega okvira interoperabilnosti in pristopa gradnikov, ki je bil sprejet v telekomunikacijskem programu IPE. https://ec.europa.eu/digital-single-market/en/news/new-study-digital-government-apis-apis4dgov-project  

(47)

     V zdravstvu je takšna izmenjava podatkov na primer ključna za skupne naložbe v inovacije, ki so bile pripravljene v okviru tematske platforme pametne specializacije Artificial Intelligence and Human Machine Interface (Umetna inteligenca in vmesnik človek-stroj). S sodelovanjem regij Emilija-Romanja (IT), avtonomna pokrajina Trento (IT), Baden-Württemberg (DE), Navarra (ES), Severni Brabant (NL) in okrožje Örebro (SE). Glej: http://s3platform.jrc.ec.europa.eu/artificial-intelligence  

(48)

      https://www.europeandataportal.eu/sl/homepage

(49)

      https://ec.europa.eu/digital-single-market/en/news/eu-countries-will-cooperate-linking-genomic-databases-across-borders

(50)

     Komisija je z državami članicami že oblikovala okvirni sporazum o partnerstvu za sofinanciranje uporabe in vključevanja satelitskih podatkov iz programa Copernicus in Galileo v kombinaciji s podatki držav članic in iz drugih virov.

(51)

     ICT-13-2018-2019 iz delovnega programa Obzorja 2020 za obdobje 2018–2020 informacijske in komunikacijske tehnologije . 

(52)

      https://eur-lex.europa.eu/legal-content/SL/ALL/?uri=COM%3A2018%3A0232%3AFIN

(53)

      https://eur-lex.europa.eu/legal-content/SL/TXT/?qid=1539766272141&uri=CELEX%3A52018SC0125  

(54)

      https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence . To temelji na delu Evropske skupine za etiko v znanosti in novih tehnologijah. http://ec.europa.eu/research/ege/pdf/ege_ai_statement_2018.pdf

(55)

      https://ec.europa.eu/digital-single-market/en/european-ai-alliance

(56)

      https://ec.europa.eu/digital-single-market/en/eu-cybersecurity-certification-framework

(57)

      https://ec.europa.eu/info/research-and-innovation/law-and-regulations/identifying-barriers-innovation_en

(58)

     Na podlagi obstoječega regulativnega okvira, kot je splošna uredba o varstvu podatkov, ki se je začela uporabljati maja 2018.

(59)

     Regulativni pristopi v Splošni uredbi o varstvu podatkov , direktivi o trgih finančnih instrumentov , predlogu za uredbo o spodbujanju pravičnosti in preglednosti za poslovne uporabnike spletnih posredniških storitev in predlogu priporočila Komisije za učinkovit boj proti nezakonitim spletnim vsebinam so primeri in modeli za ustrezno preglednosti in ocenjevanje tveganja ter upravljanje tveganja. Komisija (ob podpori pilotnega projekta Evropskega parlamenta AlgoAware) nadalje proučuje področja, ki vzbujajo skrb, in priložnosti pri algoritemskem sprejemanju odločitev v okolju spletnih platform, kjer lahko različni pristopi k smiselni preglednosti, pravičnosti in odgovornosti povečajo zaupanje. Pri analizi se skrbno upoštevajo ravnovesje, ki ga določa veljavni regulativni okvir, izvrševanje nedavnih pravil ter tehnični, tržni in družbeni razvoj ter proučujejo orodja politike in regulativna orodja.

(60)

     Cilj projekta Skupnega raziskovalnega središča HUMAINT je razumeti, kako umetna inteligenca vpliva na človeško vedenje, s poudarkom na kognitivnih in socialno-čustvenih zmožnostih ter odločanju ( https://ec.europa.eu/jrc/communities/community/humaint ).

(61)

     Čeprav je regulativni peskovnik pomembno in včasih potrebno orodje, se lahko inovacije v drugih okoliščinah podprejo z mehkejšimi pristopi, kot so inovacijski centri in politični laboratoriji, ki svetujejo in bolj ali manj sodelujejo.

(62)

     Na posebnih področjih, na katerih pravo regulativnim organom pušča zadosten manevrski prostor.

(63)

https://www.sitra.fi/en/news/artificial-intelligence-based-systems-help-achieve-better-services-cost-savings-social-health-sector/  

(64)

     Evropska komisija deluje in v okviru akcijskega načrta AI@EC v podporo uvajanju rešitev umetne inteligence v vseevropskih sistemih (TES) v sodelovanju z državami članicami sprejema ukrepe, ki podpirajo ključna področja politike EU.

(65)

     Drugi primer je dejavnost, predvidena v okviru službe AI Watch, za razvoj metodologije ugotavljanja tveganj in priložnosti, gonil in ovir pri uporabi umetne inteligence pri zagotavljanju javnih storitev. AI Watch bo proučil najpomembnejše primere prednostnih javnih storitev in na tej podlagi pripravil pregled uporabe in dodane vrednosti orodij umetne inteligence, ki podpirajo izvajanje javnih storitev. Na podlagi rezultatov analize bo pripravil priporočila o naslednjih korakih za nadaljnji razvoj sistemov in rešitev umetne inteligence v javnem sektorju. Še en primer so pobude za skupne inovacije med Evropsko komisijo in državami članicami pri uvajanju rešitev umetne inteligence za pametne javne storitve.

(66)

     Npr. rešitve, ki temeljijo na uporabi predvidljivega pravnega odločanja in aplikacij pravne tehnologije.

(67)

     ISO/IEC JTC1/SC 42