Mnenje Evropskega ekonomsko-socialnega odbora – Sporočilo Komisije Evropskemu parlamentu, Svetu, Evropskemu ekonomsko-socialnemu odboru in Odboru regij – Umetna inteligenca za Evropo

(COM(2018) 237 final)

(2018/C 440/08)

Poročevalec:	Giuseppe GUERINI
Soporočevalec:	Gonçalo LOBO XAVIER

Zaprosilo	Evropska komisija, 12. 7. 2018
Pravna podlaga	člen 304 Pogodbe o delovanju Evropske unije
Pristojnost	strokovna skupina za enotni trg, proizvodnjo in potrošnjo
Datum sprejetja mnenja strokovne skupine	4. 9. 2018
Datum sprejetja mnenja na plenarnem zasedanju	19. 9. 2018
Plenarno zasedanje št.	537
Rezultat glasovanja (za/proti/vzdržani)	199/1/2

1.   Sklepi in priporočila

1.1

EESO meni, da imajo umetna inteligenca in procesi avtomatizacije izjemen potencial za izboljšanje evropske družbe v smislu inovacij in pozitivne preobrazbe, vendar hkrati prinašajo precejšnje izzive, tveganja in pomisleke. Zato je bistveno, da evropske institucije sprejmejo hitre in obsežne korake za celovit razvoj in ureditev umetne inteligence.

1.2

Z naprednim pristopom k umetni inteligenci v Evropi je treba zajeti več področij, med njimi i) javne in zasebne naložbe v raziskave in razvoj ter napredno digitalno infrastrukturo, ii) izvajanje novih zakonodajnih predpisov ali prilagoditev veljavnih, iii) razvoj ustreznega znanja in ozaveščanje državljanov in potrošnikov ter iv) namenske programe usposabljanja za delavce.

1.3

Zlasti bi bilo treba sistematično identificirati izzive, ki se na področju novih digitalnih tehnologij pojavljajo v zvezi z odgovornostjo, in jih obravnavati na mednarodni ravni ter na ravni EU in držav članic. EESO si želi tesno sodelovati z institucijami EU pri analizi in oceni vse zakonodaje EU, ki obravnava odgovornost, varnost proizvodov in civilno odgovornost in kjer so potrebne ustrezne spremembe.

1.4

EESO se strinja s ciljem iz sporočila Komisije, da bi povečali industrijske in tehnološke zmogljivosti EU ter tako umetno inteligenco razširili na enotnem trgu. Za dohajanje drugih svetovnih akterjev so potrebna zelo intenzivna prizadevanja, pri katerih je treba uskladiti vse instrumente in načine financiranja, ki so na voljo na evropski in nacionalni ravni. Vendar pa v imenu svetovne konkurenčnosti ne bi smeli žrtvovati vrednot in načel EU.

1.5

V zvezi s ciljem Komisije, da bi „umetn[o] inteligenc[o] [približali] vsem potencialnim uporabnikom (s poudarkom na malih in srednjih podjetjih)“, EESO meni, da mora biti umetna inteligenca za soočanje z izzivom globalne konkurenčnosti dostopna čim več subjektom. Zato mora biti nujno na voljo vsem različnim oblikam podjetij, ki delujejo na evropskem enotnem trgu, med njimi MSP, kmetom, socialnim podjetjem, zadrugam, samostojnim podjetjem in združenjem potrošnikov.

1.6

Evropska komisija in države članice bi morale sodelovati pri pripravi smernic o etiki na področju umetne inteligence ter v prizadevanja vključiti vse ustrezne javne in zasebne deležnike. Smernice bi morale vključevati načela preglednosti pri uporabi sistemov umetne inteligence, ko gre za zaposlovanje delavcev in ocenjevanje ali spremljanje njihove uspešnosti. EESO predlaga, da bi poleg etničnih načel oblikovali tudi jasen, skladen in zavezujoč pravni okvir na evropski ravni, s katerim bi ustrezno uredili področje umetne inteligence in posodobili veljavna pravila, povezana s tem področjem, pri čemer bi bilo treba posebno pozornost nameniti odgovornosti proizvajalca in varstvu potrošnikov. EESO želi z drugimi institucijami EU tesno sodelovati pri analizi in oceni ustrezne zakonodaje EU, ki jo bo zaradi razvoja umetne inteligence v prihodnosti treba spremeniti.

1.6.1

Evropska komisija bo morala tudi natančno oceniti učinke umetne inteligence na trg dela. Pri tem je treba upoštevati, da bodo nekatere delavce morda nadomestile elektronske naprave ali roboti in da bodo nekatere naloge, ki ne bodo v celoti avtomatizirane, zaradi novih tehnologij bistveno drugačne.

1.7

EESO zato priporoča, naj izražena želja po tem, da naj ne bo nihče zapostavljen, ne ostane zgolj predlog ali zahteva, temveč postane dejstvo.

1.8

Pomembno je poudariti vlogo programov izobraževanja in usposabljanja pri varstvu evropskih delavcev, ki delajo v okolju, ki se zaradi postopnega uveljavljanja umetne inteligence korenito spreminja. Evropski državljani bi morali imeti dostop do ustreznih informacij, ki bi jim omogočale odgovorno in zavestno uporabo naprav in aplikacij, ki so na voljo ob hitrem tehnološkem napredku.

1.9

Če bodo novi ukrepi javnim upravam omogočali uporabo tehnologije za sprejemanje organizacijskih sklepov in hitrejše odločanje, bo treba obravnavati vprašanje dejanske pravne odgovornosti za te odločitve v jasnem zakonodajnem okviru, ki bo zagotavljal polno odgovornost uprave do državljanov.

1.10

Posebno pozornost bi bilo treba nameniti vlogi organizacij civilne družbe in socialnega gospodarstva pri povečanju dejavnega sodelovanja ljudi v gospodarskih in družbenih procesih, s katerimi se bo po zaslugi umetne inteligence okrepila družbena udeležba. Organizacije civilne družbe in socialna podjetja imajo lahko pomembno vlogo pri spodbujanju posameznikov k razumevanju in sprejemanju tehnologij, zlasti prek mehanizmov sodelovanja, ki omogočajo vključevanje ljudi v sedanjo digitalno preobrazbo.

1.11

Sedanja tehnološka revolucija ne more in ne sme potekati brez obsežnega in dejavnega vključevanja delavcev, potrošnikov in socialnih organizacij, današnji tehnološki razvoj pa mora biti voden tako, da bo zagotovil širše in odgovornejše udejstvovanje v celoti obveščenih državljanov. Zato EESO Evropski komisiji priporoča, naj pri ustanavljanju evropskega zavezništva za umetno inteligenco upošteva potrebo po vzpostavitvi vključujoče, večdisciplinarne in reprezentativne platforme za različne deležnike, ki bodo zastopali evropske državljane, med njimi predstavnike delavcev, ki bodo delali s pametnimi stroji (1).

2.   Splošne ugotovitve

2.1

Zmogljivosti algoritmov za delo z ogromnimi količinami podatkov se pri digitalnih napravah in napravah za strojno učenje na podlagi velepodatkov dnevno povečujejo in se bodo zaradi nevronskih mrež (ki se na primer že uporabljajo pri pametnih telefonih za vizualno prepoznavo predmetov, obrazov in slik) v prihodnosti verjetno še bolj povečale.

2.2

Zaradi takšnega razvoja se tradicionalni način učenja, ki se je doslej uporabljal pri strojih z umetno inteligenco, spreminja, saj ni omejeno na učenje s pridobivanjem pravil iz podatkov, temveč se razvija tudi zmožnost prožnega in prilagodljivega učenja. S temi procesi se bodo zmogljivosti umetne inteligence za učenje in delovanje v resničnem svetu povečale.

2.3

Ker se tehnološke spremembe dogajajo zelo hitro, morajo Evropska komisija in države članice sedaj nujno sodelovati pri poglobljeni analizi novih izzivov, ki jih prinaša hitri razvoj umetne inteligence, in v proces vključiti vse ustrezne javne in zasebne deležnike, ne da bi pri tem preprečile možnosti za napredek in tehnološki razvoj.

2.4

Namen sporočila Komisije COM(2018) 237 je povečati industrijske in tehnološke zmogljivosti EU ter spodbujati širjenje umetne inteligence v evropskem gospodarstvu – tako v zasebnem sektorju kot v javni upravi. Kot je EESO že navedel v mnenju na lastno pobudo (2), podpira pobudo Komisije, ki je v svoje sporočilo pravzaprav vključila njegove številne pretekle predloge. Hkrati Komisijo poziva k hitremu in odločnemu ukrepanju.

2.5

Sprejetje učinkovitega evropskega pristopa k umetni inteligenci vključuje spodbujanje pomembnih naložb v raziskave in inovacije – med njimi digitalno infrastrukturo – ki so potrebne za pripravo na velike socialne in gospodarske izzive, ki jih bo napredek novih tehnologij v prihodnjih letih povzročil v evropski družbi in na evropskih trgih.

2.6

Evropska komisija in države članice bi morale sodelovati pri pripravi okvira smernic o etiki na področju umetne inteligence ter v proces vključiti vse ustrezne javne in zasebne deležnike.

2.7

Poleg tega bi moral biti na evropski ravni sprejet usklajen zakonodajni okvir, ki bi bil skladen z Listino EU o temeljnih pravicah in načeli iz pogodb o EU. Novi regulativni okvir bi moral vsebovati natančna pravila za obravnavo tveganj, ki jih prinaša strojno učenje, kot so nepreglednost trga, pomanjkanje konkurence, diskriminacija, nepoštene poslovne prakse, ogrožanje kibernetske varnosti in varnost proizvodov. Regulativni zaščitni ukrepi bi morali biti posebno strogi, če se podatki, na podlagi katerih delujejo sistemi umetne inteligence, pridobivajo samodejno med uporabo elektronskih naprav in računalnikov.

2.8

EESO ugotavlja, da so v delovnem dokumentu služb Komisije SWD(2018) 137 final, ki je priloženo sporočilu Komisije, ustrezno preučene posledice umetne inteligence za zakonodajo EU ter opredeljeni izzivi v zvezi z odgovornostjo, ki se pojavljajo v okviru novih digitalnih tehnologij.

2.9

Nadalje bodo potrebni celoviti akcijski načrti za: i) podpiranje posodobitve sistemov izobraževanja in usposabljanja s spodbujanjem novih spretnosti, ki bodo v prihodnosti potrebne na trgu dela, ter ii) zagotavljanje visoke ravni zaščite državljanov in delavcev pred pričakovanimi izzivi (3).

2.10

EESO spodbuja Komisijo, naj nemudoma sprejme nadaljnje ukrepe tako na področju ureditve kot spodbujanja naložb, saj sedanje hitre spremembe zahtevajo hitro prilagajanje.

3.   Predlog Evropske komisije: evropska podpora naložbam v umetno inteligenco

3.1

Komisija v svojem sporočilu napoveduje, da bo podprla širjenje umetne inteligence v temeljnih raziskavah in pri uporabi v industriji. V zvezi s tem EESO poudarja, da je treba v ta proces vključiti vse vrste akterjev, tudi MSP, storitvena podjetja, socialna podjetja, kmete, zadruge, združenja potrošnikov in združenja, ki zastopajo starejše.

3.2

V zvezi s ciljem Komisije, da bi „umetn[o] inteligenc[o] [približali] vsem potencialnim uporabnikom (s poudarkom na malih in srednjih podjetjih)“, EESO meni, da mora biti umetna inteligenca za soočanje z izzivom globalne konkurenčnosti dostopna čim več subjektom. Poleg tega, kar ima Komisija za razvoj „platforme umetne inteligence na zahtevo“ že v načrtu, je treba vzpostaviti tudi ustrezne oblike vključevanja različnih deležnikov in posvetovanja z njimi, vključno z MSP, mrežami socialnega gospodarstva in organizacijami civilne družbe (slednje imajo bistveno vlogo pri aktivnem vključevanju evropskih državljanov na podlagi informacij).

3.3

Komisija je napovedala, da bo inovacije na podlagi umetne inteligence podprla s pilotnim projektom Evropskega sveta za inovacije, katerega proračun za obdobje 2018–2020 znaša 2,7 milijarde EUR.

3.4

EESO meni, da je ta pobuda za razvoj umetne inteligence lahko koristna, vendar obenem poudarja, da bi moralo financiranje raziskav hitro preiti iz faze preskušanja v strukturno fazo. Pomembno je tudi, da Komisija različna raziskovalna središča, ki se zdaj nahajajo v posameznih državah članicah, spodbudi k razvoju sodelovalne mreže na evropski ravni, namenjene umetni inteligenci.

3.5

EESO ugotavlja, da namerava Komisija naložbe v umetno inteligenco v okviru programa Obzorje 2020 povečati na približno 1,5 milijarde EUR do konca leta 2020. Če se ta pristop hitro sprejme v okviru sedanjih javno-zasebnih partnerstev, bi lahko v dveh letih spodbudil dodatne 2,5 milijarde EUR naložb. Enak pristop je treba sprejeti tudi v prihodnjem okvirnem programu Obzorje Evropa.

3.6

Po drugi strani je dober znak, da sta Evropska komisija in Evropski sklad za strateške naložbe, ki bi morala imeti osrednjo usmerjevalno vlogo pri spodbujanju razvoja umetne inteligence v EU, začela program VentureEU, tj. sklad tveganega kapitala v višini 2,1 milijarde EUR za spodbujanje naložb v inovativna podjetja po vsej Evropi.

3.7

Vendar so za dohajanje drugih svetovnih akterjev potrebna intenzivna prizadevanja, pri katerih bo nujno uskladiti vse instrumente in načine financiranja, ki so na voljo na evropski in nacionalni ravni, ter sinergija med njimi. Jasno je, da je treba za tekmovanje na področju umetne inteligence s Kitajsko in ZDA združiti sile vseh javnih in zasebnih deležnikov, ki delujejo na evropski ravni, da bi Uniji zagotovili vodilno vlogo v svetovnem merilu.

3.8

Da bi imela EU dobičkonosno konkurenčno vlogo na področju umetne inteligence, bodo potrebne tudi ustrezne naložbe v informacijsko tehnologijo, in sicer v primerno programsko in strojno opremo ter digitalno infrastrukturo, ki bo Uniji lahko zagotovila verodostojno vlogo.

3.9

Pri naložbah na področju umetne inteligence je treba upoštevati dejstvo, da so evropska podjetja posebej močna na področju avtomatizacije in robotike. Sektorji, ki so del umetne inteligence v širšem smislu, bi se torej lahko izkazali za poglavitne pri zagotavljanju pomembne svetovne vloge EU na področju tehnološkega razvoja, zato zaslužijo posebno pozornost.

4.   Umetna inteligenca ter njen vpliv na ljudi in delavce

4.1

Razvoj umetne inteligence nedvomno poteka izjemno hitro. Zato morajo evropske institucije pri ocenjevanju učinka posameznega regulativnega ukrepa na umetno inteligenco uporabiti večdisciplinarni pristop, ki bo poleg upravnih, pravnih in gospodarskih vidikov upošteval tudi antropološke, psihološke, sociološke in tehnološke pomisleke.

4.2

Da bi te inovacije podprli, predvsem pa jih usmerili tako, da bi v ospredju še naprej bili ljudje, mora Evropska unija sprejeti ukrepe, s katerimi bo dosegla visoko stopnjo tehnološke konkurenčnosti, ne da bi pri tem spregledala bistvene etične, socialne in človeške vidike.

4.3

Po mnenju EESO je zato bistveno, da i) za zasebnost posameznikov in odgovorno obdelavo njihovih podatkov velja ustrezna zakonodaja, kot je učinkovit začetek izvajanja nove uredbe GDPR, ki jo bo treba redno posodabljati, da bo lahko sledila hitremu razvoju umetne inteligence; ii) se pomembni deli veljavne zakonodaje EU ocenijo in po potrebi prilagodijo novim scenarijem, ki jih prinaša umetna inteligenca, ter iii) se oblikujejo znanje in veščine, ki jih ljudje, uprave in evropska podjetja potrebujejo za učinkovito izkoriščanje prednosti umetne inteligence.

4.4

Pri analizi bi bilo koristno izhajati iz predpostavke, da umetna inteligenca temelji na uporabi in obdelavi velikih količin podatkov, ki so podlaga za vsako aplikacijo, ki temelji na novih tehnologijah. Zato bo glavni izziv za evropskega regulatorja vzpostaviti pregleden in reguliran dostop do podatkov o končnih uporabnikih.

4.5

Večja kot je kakovost podatkov, ki se obdelujejo, bolj natančni in uspešni bodo sistemi umetne inteligence. Ne smemo pa pozabiti, da je treba podatke o posameznikih pridobivati zakonito in uporabljati na načine, s katerimi so posamezniki, na katere se neposredno nanašajo, seznanjeni, da se zagotovi njihova uporaba za vnaprej določene in pregledne namene, za katere je uporabnik na podlagi informacij podal predhodno ustrezno soglasje.

4.6

Opozoriti je treba, da bi bilo za zaščito končnih potrošnikov morda treba spremeniti več pomembnih delov evropske zakonodaje – na primer v zvezi s spletnim oglaševanjem, nepoštenimi poslovnimi praksami, varnostjo proizvodov in odgovornostjo, pravicami potrošnikov, nepoštenimi pogodbenimi pogoji, prodajo in jamstvi, zavarovanjem in navajanjem cen – in jih ustrezno prilagoditi novim scenarijem, ki so posledica širše in izpopolnjene uporabe umetne inteligence.

4.7

Komisija je v svojem delovnem dokumentu SWD(2018) 137 final ustrezno obravnavala odločilno vprašanje varnosti proizvodov in odgovornosti, in sicer s študijo primerov in pripravo seznama delov zakonodaje EU, pri katerih sta potrebni dodatna analiza in ocena. EESO odločno spodbuja Komisijo, naj nadaljuje delo, in je pripravljen podati svoj prispevek.

4.8

Poudariti je treba vlogo kulturnega, šolskega in univerzitetnega izobraževanja na eni strani ter ustreznega obveščanja splošne javnosti na drugi, da bi zaščitili pravice evropskih državljanov v zvezi z razvojem umetne inteligence. Zagotoviti je treba zlasti preglednost in točnost pri upravljanju algoritmov umetne inteligence in zbirk podatkov, na podlagi katerih delujejo.

4.9

Bistveno je torej, da so evropski državljani deležni ustreznega izobraževanja ter preprostih in razumljivih informacij, da bodo lahko odgovorno in na podlagi informacij uporabljali naprave in aplikacije, ki jih omogoča sedanji hiter tehnološki razvoj, ki se vse bolj širi na vseh ravneh.

4.10

Zaradi vseh teh zahtev morajo EU in države članice ponuditi jasne in učinkovite rešitve, in sicer s spodbujanjem sodobnega izobraževalnega sistema ter stalnim širjenjem vseživljenjskega učenja na trgu dela in v civilni družbi.

4.11

Evropska komisija bo morala natančno oceniti učinke umetne inteligence na trg dela. Ti zelo skrbijo številne evropske delavce, za katerimi je že precejšen del poklicne poti, vendar so še daleč od upokojitve, na spremembe, ki se dogajajo, pa gledajo z nezaupanjem in strahom. Pri tem je treba upoštevati, da bodo nekatere delavce morda nadomestile elektronske naprave ali roboti in da bodo nekatere naloge, ki ne bodo v celoti avtomatizirane, zaradi novih tehnologij bistveno drugačne. Analiza in ocenjevanje se morata zato osredotočiti ne le na neizogibne in pričakovane spremembe v proizvodnih linijah, temveč tudi na ponovni razmislek o organizacijskih procesih in poslovnih ciljih, ki mora slediti ustreznemu socialnemu dialogu z delavci.

4.12

Kot se dogaja in se je dogajalo s številnimi drugimi tehnologijami, bo v nekaterih okoliščinah priporočljivo, da se umetna inteligenca pred polno uporabo preskusi postopoma in po zaporednih stopnjah prilagajanja, da bi se pri uporabi novih tehnologij počutili varno – tudi z ustreznimi načini usposabljanja – in v tem procesu popravili morebitne napake prilagajanja (4).

4.13

Pri uvajanju novih tehnologij v podjetjih je potreben socialni dialog med različnimi partnerji, zato bo potrebno redno obveščanje združenj delavcev in sindikatov ter posvetovanje z njimi.

5.   Umetna inteligenca, javna uprava in civilna družba

5.1

Umetna inteligenca je tehnološka in družbena inovacija, ki lahko korenito preobrazi celotno družbo ter izboljša javni sektor in odnos med državljani in javno upravo. S priložnostmi, ki jih prinaša, bi se lahko povečala upravna učinkovitost in zadovoljstvo državljanov s storitvami, ki jih zagotavlja javna uprava, ter z njenim učinkovitim vodenjem.

5.2

Za dosego teh ciljev je bistveno, da so tudi javni uslužbenci pripravljeni na soočenje s spremembami in izzivi, ki jih bo umetna inteligenca prinesla evropski družbi. Javni delodajalci in vodje uprave bodo morali – skupaj z že omenjenimi učitelji, vodjami praktičnega usposabljanja in univerzitetnim osebjem – v celoti razumeti pojav umetne inteligence in se odločiti, katera nova orodja bi uvedli v upravne postopke.

5.3

Ob uvedbi umetne inteligence v javni in zasebni sektor je treba pripraviti postopke, ki bodo uporabnike spodbujali k razumevanju in sprejemanju tehnologij prek mehanizmov sodelovanja, ki bodo državljanom omogočali, da – po možnosti prek sistemov participativnega upravljanja – prispevajo k razvoju tehnologij na podlagi umetne inteligence.

5.4

Da bi na tem področju dosegli pomembne rezultate, bi bilo morda koristno razvijati vse zanesljivejše modele sodelovanja in partnerstva med javnim in zasebnim sektorjem, katerih cilj bi bil izkoriščanje priložnosti, ki izhajajo iz tehnoloških aplikacij, umetne inteligence in robotike.

5.5

Izziv za javno upravo je še posebej velik v pravnem smislu in smislu legitimnosti, saj bo treba poiskati ustrezno ravnovesje med javnimi interesi (ki vključujejo izvajanje javnih pooblastil) in interesi posameznika (posebnim izražanjem svobode posameznika). V tem smislu bo treba na primer za uporabo umetne inteligence v javnih upravah v jasnem in razvidnem regulativnem okviru združiti načelo preglednosti in objavljanja upravnih dokumentov z varstvom osebnih podatkov in pravico posameznika do zasebnosti.

5.6

V primerih, ko novi ukrepi javnim upravam omogočajo uporabo tehnologije za sprejemanje organizacijskih sklepov in hitrejše odločanje – kot so izbira ponudnika na javnem razpisu, upravljanje čakalnega seznama za določene storitve ali zaposlovanje novih delavcev v javni upravi – bo treba obravnavati vprašanje dejanske pravne odgovornosti za te odločitve v jasnem zakonodajnem okviru, ki bo zagotavljal polno odgovornost uprave do državljanov.

5.7

Organizacije civilne družbe in socialna podjetja imajo pomembno vlogo pri spodbujanju posameznikov k razumevanju in sprejemanju tehnologij, zlasti z mehanizmi sodelovanja, ki omogočajo vključevanje v procese digitalne preobrazbe. Pri tem je pomembna možnost oblikovanja sistemov participativnega upravljanja teh instrumentov, na primer v obliki zadruge, in sicer najprej upravljanja digitalnih platform, ki se že uporabljajo za strukturiranje novih oblik gospodarskih odnosov pri upravljanju dela.

5.8

Upravni organi, pristojni za mehanizme za spremljanje trga, bi morali imeti strokovno znanje in pooblastila za zaščito poštene konkurence, pravic potrošnikov ter varnosti in pravic delavcev. Za revizijo algoritmov bi morali biti pristojni javni ali neodvisni organi, podjetja pa bi morala uvesti učinkovite mehanizme za revidiranje uporabe podatkov na področju umetne inteligence.

---

(1)  Glej sprejeto mnenje EESO INT/845: Predvidevanje vpliva umetne inteligence na delo za pravičen prehod (mnenje na lastno pobudo), poročevalka: Franca Salis-Madinier (glej stran 1 tega Uradnega lista).

(2)  INT/806 z dne 31. maja 2017. Umetna inteligenca – posledice za enotni (digitalni) trg, proizvodnjo, potrošnjo, zaposlovanje in družbo (UL C 288, 31.8.2017, str. 1).

(3)  EESO je sprejel mnenje SOC/578 – Upravljanje prehoda v digitaliziranem svetu dela (UL C 367, 10.10.2018, str. 15).

(4)  Glej sprejeto mnenje EESO INT/845: Predvidevanje vpliva umetne inteligence na delo za pravičen prehod (mnenje na lastno pobudo), poročevalka: Franca Salis-Madinier (glej stran 1 tega Uradnega lista).