European flag

Uradni list
Evropske unije

SL

Serija C


C/2024/1459

14.2.2024

SKLEP KOMISIJE

z dne 24. januarja 2024

o ustanovitvi Evropskega urada za umetno inteligenco

(C/2024/1459)

EVROPSKA KOMISIJA JE –

ob upoštevanju Pogodbe o delovanju Evropske unije,

ob upoštevanju naslednjega:

(1)

Umetna inteligenca je hitro razvijajoča se skupina tehnologij, ki lahko prispevajo k številnim gospodarskim in družbenim koristim v celotnem spektru panog in družbenih dejavnosti. Hkrati lahko umetna inteligenca glede na okoliščine v zvezi s specifičnostjo njene uporabe povzroča tveganja ter škoduje javnim interesom in temeljnim pravicam, ki jih varuje pravo Unije.

(2)

Komisija je predlagala uredbo o določitvi harmoniziranih pravil o umetni inteligenci (akt o umetni inteligenci) in spremembi nekaterih zakonodajnih aktov Unije (1), ki naj bi spodbudila razvoj, uporabo in uvajanje umetne inteligence na notranjem trgu ter hkrati zagotovila visoko raven zaščite javnih interesov, kot so zdravje in varnost ter varstvo temeljnih pravic, kot jih priznava in varuje pravo Unije. Predlagana uredba je eden od več ukrepov Komisije, s katerimi se želi doseči dvojni cilj, tj. spodbujanje uporabe umetne inteligence in odpravljanje tveganj, povezanih z nekaterimi uporabami te tehnologije. Med drugimi ukrepi so „usklajeni načrt za umetno inteligenco“ v revidirani različici iz leta 2021 (2), pobude sektorskih politik, ki spodbujajo uvajanje umetne inteligence, in Unijini programi financiranja, kot sta programa, vzpostavljena z uredbama (EU) 2021/694 (3) in (EU) 2021/695 (4) Evropskega parlamenta in Sveta.

(3)

Zapletenost in vse večja uporaba umetne inteligence, zlasti kadar ta temelji na najnaprednejših modelih, ter potreba po pospešitvi napredka pri doseganju splošnih in digitalnih ciljev iz programa politike Digitalno desetletje, vzpostavljenega s Sklepom (EU) 2022/2481 Evropskega parlamenta in Sveta (5), kažejo, da so potrebni dodatni ukrepi za spodbujanje razumevanja zmogljivosti, trendov in morebitnih tveganj ter za podporo varnemu razvoju in uporabi tehnologij umetne inteligence v Uniji.

(4)

Da bi spodbudili tako razumevanje in prispevali k izvajanju in izvrševanju prihodnje uredbe o določitvi harmoniziranih pravil o umetni inteligenci ter k izvajanju mednarodnih pravil in načel o umetni inteligenci, kot so kodeks ravnanja in vodilna načela skupine G7 za razvijalce naprednih sistemov umetne inteligence, je treba razviti strokovno znanje in zmogljivosti na ravni Unije.

(5)

Glede na navedeno bi bilo treba postaviti temelje za enoten sistem upravljanja umetne inteligence v Uniji, in sicer z vzpostavitvijo strukture, ki bi nadzorovala napredek modelov umetne inteligence, tudi kar zadeva umetnointeligenčne modele za splošne namene, in interakcijo z znanstveno skupnostjo ter bi imela globalno poslanstvo in ključno vlogo pri preiskavah, testiranju in izvrševanju.

(6)

Zato bi bilo treba v okviru Komisije ustanoviti Evropski urad za umetno inteligenco kot del upravne strukture Generalnega direktorata za komunikacijska omrežja, vsebine in tehnologijo ter ob upoštevanju njegovega letnega načrta upravljanja.

(7)

Evropski urad za umetno inteligenco bi moral delovati v skladu z notranjimi postopki Komisije (6), njegova ustanovitev pa ne bi smela vplivati na pooblastila in pristojnosti pristojnih nacionalnih organov ter organov, uradov in agencij Unije na področju nadzora sistemov umetne inteligence, kot bodo določeni v prihodnji uredbi o določitvi harmoniziranih pravil o umetni inteligenci in drugi sektorski zakonodaji Unije. Ustanovitev urada ne posega v naloge drugih služb Komisije na njihovih področjih pristojnosti niti v naloge Evropske službe za zunanje delovanje na področju skupne zunanje in varnostne politike. Evropski urad za umetno inteligenco bi moral svoje naloge, zlasti izdajanje smernic, izvajati tako, da se ne podvajajo dejavnosti ustreznih organov, uradov in agencij Unije v skladu s sektorsko zakonodajo.

(8)

Da bi se priprave za izvajanje prihodnje uredbe o določitvi harmoniziranih pravil o umetni inteligenci, o kateri sta sozakonodajalca dosegla politični dogovor 8. decembra 2023, lahko začele čim prej, bi moral ta sklep začeti veljati še pred sprejetjem navedene uredbe. Ko bo uredba sprejeta, se ta sklep lahko spremeni –

SKLENILA:

Člen 1

Ustanovitev

Ustanovi se Evropski urad za umetno inteligenco (v nadaljnjem besedilu: Urad).

Urad je del upravne strukture Generalnega direktorata za komunikacijska omrežja, vsebine in tehnologijo (v nadaljnjem besedilu: Generalni direktorat).

Člen 2

Poslanstvo in naloge

1.   Urad za namene izvajanja in izvrševanja prihodnje uredbe o določitvi harmoniziranih pravil o umetni inteligenci (v nadaljnjem besedilu: prihodnja uredba) opravlja naloge iz člena 3.

2.   Dodatne naloge Urada so:

(a)

prispevanje k strateškemu, skladnemu in učinkovitemu pristopu Unije k mednarodnim pobudam na področju umetne inteligence v skladu s členom 7 ob usklajevanju z državami članicami ter v skladu s stališči in politikami Unije;

(b)

prispevanje k spodbujanju ukrepov in politik Komisije, ki izkoriščajo družbene in gospodarske koristi tehnologij umetne inteligence v skladu s členom 5;

(c)

podpiranje pospešenega razvoja, uvajanja in uporabe zaupanja vrednih sistemov in aplikacij umetne inteligence, ki prinašajo družbene in gospodarske koristi ter prispevajo h konkurenčnosti in gospodarski rasti Unije. Urad zlasti spodbuja inovacijske ekosisteme, pri čemer sodeluje z ustreznimi javnimi in zasebnimi akterji ter skupnostjo zagonskih podjetij;

(d)

spremljanje razvoja trgov in tehnologij umetne inteligence.

3.   Urad pri opravljanju nalog iz odstavkov 1 in 2 tega člena:

(a)

sodeluje z deležniki, zlasti strokovnjaki iz znanstvene skupnosti in razvijalci umetne inteligence, v skladu s členom 4;

(b)

sodeluje z ustreznimi generalnimi direktorati in službami Komisije v skladu s členom 5;

(c)

sodeluje z vsemi ustreznimi organi, uradi in agencijami Unije, vključno s Skupnim podjetjem za evropsko visokozmogljivostno računalništvo (Skupno podjetje EuroHPC), v skladu s členom 6;

(d)

v imenu Komisije sodeluje z organi držav članic.

Člen 3

Izvajanje prihodnje uredbe

1.   Urad opravlja naslednje naloge, ki izhajajo iz prihodnje uredbe:

(a)

razvoj orodij, metodologij in referenčnih meril za ocenjevanje zmogljivosti umetnointeligenčnih modelov za splošne namene, zlasti zelo velikih umetnointeligenčnih modelov za splošne namene s sistemskimi tveganji;

(b)

spremljanje izvajanja in uporabe pravil o umetnointeligenčnih modelih in sistemih za splošne namene, zlasti kadar model in sistem razvije isti ponudnik;

(c)

spremljanje pojava nepredvidenih tveganj, ki izhajajo iz umetnointeligenčnih modelov za splošne namene, med drugim z odzivanjem na opozorila znanstvenega odbora;

(d)

preiskovanje morebitnih kršitev pravil o umetnointeligenčnih modelih in sistemih za splošne namene, med drugim z zbiranjem pritožb in opozoril, pomoč pri pripravi sklepov Komisije in izvajanje ocenjevanj na podlagi prihodnje uredbe;

(e)

zagotavljanje, da sta pri sistemih umetne inteligence, ki spadajo na področje uporabe ustrezne zakonodaje Unije, na podlagi katere ima Komisija pooblastila za nadzor in izvrševanje, na primer Uredbe (EU) 2022/2065 Evropskega parlamenta in Sveta (7) ali Uredbe (EU) 2022/1925 Evropskega parlamenta in Sveta (8), nadzor in izvrševanje te zakonodaje v celoti usklajena z nadzorom in izvrševanjem prihodnje uredbe;

(f)

podpiranje izvajanja pravil o prepovedanih praksah umetne inteligence in umetnointeligenčnih sistemih velikega tveganja ob usklajevanju z ustreznimi organi, pristojnimi v skladu s sektorsko zakonodajo, vključno z olajševanjem izmenjave informacij in sodelovanja med nacionalnimi organi, zbiranjem priglasitev ter vzpostavitvijo informacijskih platform in podatkovnih zbirk, zlasti kadar je umetnointeligenčni model ali sistem za splošne namene vključen v umetnointeligenčni sistem velikega tveganja.

2.   Za prispevanje k učinkovitemu izvajanju prihodnje uredbe ima Urad poleg tega naslednje naloge:

(a)

pomoč Komisiji pri pripravi ustreznih sklepov ter izvedbenih in delegiranih aktov;

(b)

omogočanje lažje enotne uporabe prihodnje uredbe;

(c)

pomoč Komisiji pri pripravi navodil in smernic za podporo praktičnemu izvajanju prihodnje uredbe ter razvoj podpornih orodij, kot so standardizirani protokoli in dobre prakse, ob posvetovanju z ustreznimi službami Komisije ter organi, uradi in agencijami Unije;

(d)

pomoč Komisiji pri pripravi zahtev za standardizacijo, ocenjevanju obstoječih standardov in pripravi skupnih specifikacij za izvajanje prihodnje uredbe;

(e)

prispevanje k zagotavljanju tehnične podpore, svetovanja in orodij za vzpostavitev in delovanje regulativnih peskovnikov za umetno inteligenco ter po potrebi usklajevanje s pristojnimi nacionalnimi organi, ki vzpostavljajo take peskovnike;

(f)

izvajanje ocenjevanj in pregledov ter priprava poročil v zvezi s prihodnjo uredbo;

(g)

usklajevanje vzpostavitve učinkovitega sistema upravljanja, med drugim s pripravo vzpostavitve svetovalnih organov na ravni Unije, ter spremljanje ustanavljanja ustreznih nacionalnih organov in drugih teles na nacionalni ravni;

(h)

zagotavljanje sekretariata za odbor za umetno inteligenco in njegove podskupine ter po potrebi zagotavljanje upravne podpore svetovalnemu forumu in znanstvenemu odboru, med drugim z zagotavljanjem upravne strukture, organizacijo sestankov in pripravo ustreznih dokumentov, ter

(i)

spodbujanje in omogočanje lažje priprave pravil in kodeksov ravnanja na ravni Unije ob upoštevanju mednarodnih pristopov ter spremljanje izvajanja in ocenjevanja kodeksov ravnanja.

Člen 4

Sodelovanje z deležniki

1.   Urad pri opravljanju svojih nalog iz člena 3 sodeluje z deležniki v skladu z veljavnimi pravili o konkurenci, tako da:

(a)

vzpostavi forume za sodelovanje ponudnikov modelov in sistemov umetne inteligence, da bi spodbujali dobre prakse in prispevali k razvoju pravil in kodeksov ravnanja;

(b)

se redno posvetuje z deležniki, vključno s strokovnjaki iz znanstvene skupnosti in izobraževalnega sektorja, državljani, civilno družbo in socialnimi partnerji, kadar je to ustrezno, da bi zbral prispevke za opravljanje svojih nalog iz člena 3(2);

(c)

vzpostavi forum za sodelovanje z odprtokodno skupnostjo, da bi se opredelile in razvile dobre prakse za varen razvoj in uporabo odprtokodnih modelov in sistemov umetne inteligence.

Člen 5

Medsektorsko sodelovanje znotraj Komisije

1.   Urad prispeva k spodbujanju ukrepov in politik, ki izkoriščajo družbene in industrijske koristi tehnologij umetne inteligence.

2.   Urad zlasti:

(a)

pri opravljanju svojih nalog iz člena 2 sodeluje z drugimi ustreznimi generalnimi direktorati in službami Komisije, zlasti z Evropskim centrom za algoritemsko preglednost v zvezi z ocenjevanjem in testiranjem umetnointeligenčnih modelov in sistemov za splošne namene;

(b)

podpira druge ustrezne generalne direktorate in službe Komisije za omogočanje lažje uporabe modelov in sistemov umetne inteligence kot orodij za preobrazbo na ustreznih področjih politik Unije ter ozaveščanje o nastajajočih tveganjih.

Člen 6

Medinstitucionalno sodelovanje

Urad pri opravljanju svojih nalog iz člena 3 vzpostavi ustrezne oblike sodelovanja z organi, uradi in agencijami Unije.

Člen 7

Mednarodno sodelovanje

1.   Urad prispeva k mednarodnemu sodelovanju Komisije na področju umetne inteligence, vključno s politiko inovacij in odličnosti, s tretjimi državami in mednarodnimi organizacijami, in sicer zlasti z:

(a)

zavzemanjem za odgovorno upravljanje umetne inteligence in spodbujanjem pristopa Unije k zaupanja vredni umetni inteligenci;

(b)

prispevanjem k mednarodnemu sodelovanju v zvezi z regulacijo in upravljanjem umetne inteligence;

(c)

prispevanjem k izvajanju mednarodnih sporazumov o pravilih o umetni inteligenci, med drugim z zagotavljanjem podpore državam članicam.

Člen 8

Financiranje

1.   Za uradnike, ki delajo v Uradu, se potrebe po človeških virih krijejo z osebjem Generalnega direktorata, ki je že dodeljeno za upravljanje ukrepa ali je bilo prerazporejeno znotraj Generalnega direktorata, glede na proračunske omejitve in brez poseganja v postopek letne dodelitve virov.

2.   Za zunanje statutarne uslužbence, ki delajo v Uradu, se stroški za človeške vire krijejo s prerazporeditvijo proračunskih sredstev iz odhodkov za upravno podporo iz programa Digitalna Evropa.

3.   Odhodki iz poslovanja Urada se krijejo iz finančnih sredstev, dodeljenih specifičnemu cilju 2 „Umetna inteligenca“ programa Digitalna Evropa.

Člen 9

Začetek veljavnosti

Ta sklep začne veljati 21. februarja 2024.

V Bruslju, 24. januarja 2024

Za Komisijo

Thierry BRETON

član Komisije


(1)  COM(2021) 206 final.

(2)  COM(2021) 205 final.

(3)  Uredba (EU) 2021/694 Evropskega parlamenta in Sveta z dne 29. aprila 2021 o vzpostavitvi programa Digitalna Evropa in razveljavitvi Sklepa (EU) 2015/2240 (UL L 166, 11.5.2021, str. 1, ELI: http://data.europa.eu/eli/reg/2021/694/oj).

(4)  Uredba (EU) 2021/695 Evropskega parlamenta in Sveta z dne 28. aprila 2021 o vzpostavitvi okvirnega programa za raziskave in inovacije Obzorje Evropa, določitvi pravil za sodelovanje in razširjanje rezultatov ter razveljavitvi uredb (EU) št. 1290/2013 in (EU) št. 1291/2013 (UL L 170, 12.5.2021, str. 1, ELI: http://data.europa.eu/eli/reg/2021/695/oj).

(5)  Sklep (EU) 2022/2481 Evropskega parlamenta in Sveta z dne 14. decembra 2022 o vzpostavitvi programa politike Digitalno desetletje do leta 2030 (UL L 323, 19.12.2022, str. 4, ELI: http://data.europa.eu/eli/dec/2022/2481/oj).

(6)  Ni evropski urad v smislu člena 2(26) finančne uredbe (Uredba (EU, Euratom) 2018/1046 Evropskega parlamenta in Sveta z dne 18. julija 2018).

(7)  Uredba (EU) 2022/2065 Evropskega parlamenta in Sveta z dne 19. oktobra 2022 o enotnem trgu digitalnih storitev in spremembi Direktive 2000/31/ES (Akt o digitalnih storitvah) (UL L 277, 27.10.2022, str. 1, ELI: http://data.europa.eu/eli/reg/2022/2065/oj).

(8)  Uredba (EU) 2022/1925 Evropskega parlamenta in Sveta z dne 14. septembra 2022 o tekmovalnih in pravičnih trgih v digitalnem sektorju in spremembi direktiv (EU) 2019/1937 in (EU) 2020/1828 (akt o digitalnih trgih) (UL L 265, 12.10.2022, str. 1, ELI: http://data.europa.eu/eli/reg/2022/1925/oj).


ELI: http://data.europa.eu/eli/C/2024/1459/oj

ISSN 1977-1045 (electronic edition)