European flag

Službeni list
Europske unije

HR

Serije C


C/2024/1459

14.2.2024

ODLUKA KOMISIJE

оd 24. siječnja 2024.

o osnivanju Europskog ureda za umjetnu inteligenciju

(C/2024/1459)

EUROPSKA KOMISIJA,

uzimajući u obzir Ugovor o funkcioniranju Europske unije,

budući da:

(1)

Umjetna inteligencija (UI) porodica je tehnologija koja se brzo razvija i može pridonijeti nizu gospodarskih i društvenih koristi u cijelom spektru sektora i društvenih aktivnosti. Međutim, ovisno o okolnostima njezine specifične namjene i upotrebe, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim interesima i temeljnim pravima koja su zaštićena pravom Unije.

(2)

Komisija je predložila Uredbu o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (1) s ciljem poticanja razvoja, upotrebe i prihvaćanja umjetne inteligencije na unutarnjem tržištu kojom se ujedno postiže visoka razina zaštite javnih interesa, kao što su zdravlje i sigurnost te zaštita temeljnih prava, kako su priznata i zaštićena pravom Unije. Predložena uredba jedna je od nekoliko mjera Komisije kojima se nastoji ostvariti dvojaki cilj poticanja prihvaćanja umjetne inteligencije i smanjenja rizika povezanih s određenim primjenama takve tehnologije. Među drugim mjerama su „Koordinirani plan o umjetnoj inteligenciji” u revidiranoj verziji iz 2021. (2), inicijative u okviru sektorskih politika kojima se potiče prihvaćanje umjetne inteligencije i Unijini programi financiranja, kao što su oni uspostavljeni uredbama (EU) 2021/694 (3) i (EU) 2021/695 (4) Europskog parlamenta i Vijeća.

(3)

Složenost i sve šire prihvaćanje umjetne inteligencije, posebice kad se temelji na najnaprednijim modelima, i potreba za bržim ostvarenjem općih i digitalnih ciljeva utvrđenih u programu politike za digitalno desetljeće, koji je uspostavljen Odlukom (EU) 2022/2481 Europskog parlamenta i Vijeća (5), pokazuju da postoji potreba za dodatnim mjerama kako bi se stekao bolji uvid u mogućnosti, trendove i potencijalne rizike te poduprli siguran razvoj i upotreba UI tehnologija u Uniji.

(4)

Kako bi se olakšalo to razumijevanje, doprinijelo provedbi i primjeni predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji te doprinijelo provedbi međunarodnih pravila i načela o umjetnoj inteligenciji, kao što su Kodeks ponašanja i Vodeća načela za razvojne programere naprednih UI sustava skupine G7, potrebno je razviti stručno znanje i sposobnosti na razini Unije.

(5)

U tom kontekstu trebalo bi postaviti temelje jedinstvenog sustava upravljanja umjetnom inteligencijom u Uniji uspostavom strukture koja bi trebala nadzirati napredak UI modela, što uključuje općenamjenske UI modele, i interakciju sa znanstvenom zajednicom, imati važnu ulogu u istragama i testiranju te primjeni propisa i imati globalnu ulogu.

(6)

Stoga bi u Komisiji trebalo osnovati Europski ured za umjetnu inteligenciju koji bi bio dio administrativne strukture Glavne uprave za komunikacijske mreže, sadržaje i tehnologije i na koji bi se primjenjivao njezin godišnji plan upravljanja.

(7)

Europski ured za umjetnu inteligenciju trebao bi djelovati u skladu s internim postupcima Komisije (6), a njegovo osnivanje ne bi smjelo utjecati na ovlasti i nadležnosti nacionalnih nadležnih tijela te tijela, ureda i agencija Unije za nadzor UI sustava, kako je propisano predstojećom Uredbom o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i drugim sektorskim propisima Unije. Osnivanjem ureda ne dovode se u pitanje funkcije drugih službi Komisije u njihovim područjima nadležnosti ni funkcije Europske službe za vanjsko djelovanje u području zajedničke vanjske i sigurnosne politike. Europski ured za umjetnu inteligenciju trebao bi obavljati svoje zadaće, pri čemu se osobito misli na izdavanje uputa, tako da se ne udvostručuju aktivnosti koje relevantna tijela, uredi i agencije Unije provode na temelju sektorskih propisa.

(8)

Kako bi se omogućilo da priprema za provedbu predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji počne što prije, ova bi Odluka na snagu trebala stupiti hitno, prije donošenja te uredbe, s obzirom na to da je politički dogovor suzakonodavaca postignut 8. prosinca 2023. Nakon što ta uredba bude donesena ova se Odluka može revidirati,

ODLUČILA JE:

Članak 1.

Osnivanje

Osniva se Europski ured za umjetnu inteligenciju („Ured”).

Ured je dio administrativne strukture Glavne uprave za komunikacijske mreže, sadržaje i tehnologije („Glavna uprava”).

Članak 2.

Misija i zadaće

1.   Ured obavlja zadaće iz članka 3. za potrebe provedbe i izvršenja predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji („predstojeća uredba”).

2.   Ured ima sljedeće dodatne zadaće:

(a)

doprinositi strateškom, dosljednom i djelotvornom Unijinu pristupu međunarodnim inicijativama u području umjetne inteligencije u skladu s člankom 7. u koordinaciji s državama članicama i u skladu s Unijinim stajalištima i politikama;

(b)

doprinositi poticanju mjera i politika u Komisiji kojima se iskorištavaju društvene i gospodarske prednosti tehnologija umjetne inteligencije u skladu s člankom 5.;

(c)

pružati potporu ubrzanom razvoju, uvođenju i korištenju pouzdanih UI sustava i aplikacija koje donose društvene i gospodarske koristi te doprinose konkurentnosti i gospodarskom rastu Unije. Ured osobito promiče inovacijske ekosustave putem suradnje s relevantnim javnim i privatnim akterima i zajednicom start-up poduzeća;

(d)

pratiti razvoj tržišta i tehnologija umjetne inteligencije.

3.   U obavljanju zadaća iz stavaka 1. i 2. ovog članka Ured:

(a)

surađuje s dionicima, osobito stručnjacima iz znanstvene zajednice i razvojnim programerima umjetne inteligencije, u skladu s člankom 4.;

(b)

surađuje s relevantnim glavnim upravama i službama Komisije u skladu s člankom 5.;

(c)

surađuje sa svim relevantnim tijelima, uredima i agencijama Unije, uključujući Zajedničko poduzeće za europsko računalstvo visokih performansi (Zajedničko poduzeće EuroHPC), u skladu s člankom 6.;

(d)

u ime Komisije surađuje s tijelima država članica.

Članak 3.

Provedba predstojeće Uredbe

1.   Ured obavlja sljedeće zadaće koje proizlaze iz predstojeće uredbe:

(a)

razvoj alata, metodologija i mjerila za evaluaciju mogućnosti općenamjenskih UI modela, osobito vrlo velikih općenamjenskih UI modela sa sistemskim rizicima;

(b)

praćenje provedbe i primjene pravila o općenamjenskim UI modelima i sustavima, osobito ako model i sustav razvija isti dobavljač;

(c)

praćenje pojave nepredviđenih rizika koji potječu iz općenamjenskih UI modela, među ostalim reagiranjem na upozorenja znanstvenog odbora;

(d)

istraživanje mogućih kršenja pravila o općenamjenskim UI modelima i sustavima, među ostalim prikupljanjem pritužbi i upozorenja, pomaganjem u pripremi odluka Komisije i provođenjem evaluacija na temelju predstojeće uredbe;

(e)

osiguravanje da, ako je UI sustav obuhvaćen područjem primjene relevantnih propisa Unije za koje Komisija ima ovlasti nadzora i primjene, primjerice na temelju Uredbe (EU) 2022/2065 Europskog parlamenta i Vijeća (7) ili Uredbe (EU) 2022/1925 Europskog parlamenta i Vijeća (8), nadzor i primjena tih propisa budu potpuno usklađeni s nadzorom i primjenom predstojeće uredbe;

(f)

podupiranje provedbe pravila o zabranjenim praksama u području umjetne inteligencije i visokorizičnim UI sustavima u koordinaciji s relevantnim tijelima koja su nadležna prema sektorskim propisima, što uključuje olakšavanje razmjene informacija i suradnje među nacionalnim tijelima, prikupljanje obavijesti i uspostavu informacijskih platformi i baza podataka, osobito ako je općenamjenski UI model ili sustav dio visokorizičnog UI sustava.

2.   Nadalje, kako bi potpomogao djelotvornu provedbu predstojeće uredbe, Ured je zadužen za:

(a)

pomaganje Komisiji u pripremi relevantnih Komisijinih odluka te provedbenih i delegiranih akata;

(b)

olakšavanje ujednačene primjene predstojeće uredbe;

(c)

pomaganje Komisiji u pripremi uputa i smjernica za potporu praktičnoj provedbi predstojeće uredbe te u izradi potpornih instrumenata kao što su standardizirani protokoli i primjeri dobre prakse, uz savjetovanje s relevantnim službama Komisije te relevantnim tijelima, uredima i agencijama Unije;

(d)

pomaganje Komisiji u pripremi zahtjeva za normizaciju, evaluaciji postojećih normi i pripremi zajedničkih specifikacija za provedbu predstojeće uredbe;

(e)

sudjelovanje u pružanju tehničke potpore, savjeta i alata za uspostavu i rad regulatornih izoliranih okruženja za umjetnu inteligenciju te sudjelovanje u koordinaciji, prema potrebi, s nacionalnim nadležnim tijelima koja uspostavljaju takva izolirana okruženja;

(f)

provedbu evaluacija i preispitivanja predstojeće uredbe te pripremu izvješća o njoj;

(g)

koordiniranje uspostave djelotvornog sustava upravljanja, među ostalim pripremom osnivanja savjetodavnih tijela na razini Unije i praćenjem uspostave relevantnih nacionalnih tijela i drugih tijela na nacionalnoj razini;

(h)

prema potrebi, pružanje usluga tajništva Odboru za umjetnu inteligenciju i njegovim podskupinama te pružanje administrativne podrške savjetodavnom forumu i znanstvenoj skupini, među ostalim osiguravanjem administrativne strukture, organiziranjem sastanaka i pripremom relevantnih dokumenata; i

(i)

poticanje i olakšavanje izrade kodeksa postupanja i kodeksa ponašanja na razini Unije, uzimajući u obzir međunarodne pristupe, te praćenje provedbe i evaluacija kodeksa postupanja.

Članak 4.

Suradnja s dionicima

1.   U obavljanju svojih zadaća na temelju članka 3. Ured surađuje s dionicima, u skladu s primjenjivim pravilima tržišnog natjecanja, na sljedeće načine:

(a)

uspostavom foruma za suradnju dobavljača UI modela i sustava radi unapređenja dobre prakse i doprinosa razvoju kodeksa ponašanja i kodeksa postupanja;

(b)

vođenjem redovitih savjetovanja s dionicima, što, prema potrebi, uključuje stručnjake iz znanstvene zajednice i obrazovnog sektora, građane, civilno društvo i socijalne partnere, u svrhu prikupljanja informacija potrebnih za obavljanje zadaća iz članka 3. stavka 2.;

(c)

uspostavom foruma za suradnju sa zajednicom otvorenog koda s ciljem utvrđivanja i osmišljavanja najboljih načina sigurnog razvoja i upotrebe UI modela i sustava s otvorenim kodom.

Članak 5.

Međusektorska suradnja unutar Komisije

1.   Ured doprinosi poticanju mjera i politika kojima se iskorištavaju društvene i industrijske prednosti tehnologija umjetne inteligencije.

2.   Ured osobito:

(a)

pri obavljanju zadaća na temelju članka 2. surađuje s drugim relevantnim glavnim upravama i službama Komisije, posebice, kad je riječ o evaluaciji i testiranju općenamjenskih UI modela i sustava, Europskim centrom za algoritamsku transparentnost;

(b)

pruža podršku drugim relevantnim glavnim upravama i službama Komisije radi lakše upotrebe UI modela i sustava kao transformacijskih alata u relevantnim područjima politika Unije te upozoravanja na nove rizike.

Članak 6.

Međuinstitucijska suradnja

U obavljanju svojih zadaća na temelju članka 3. Ured uspostavlja odgovarajuće oblike suradnje s tijelima, uredima i agencijama Unije.

Članak 7.

Međunarodna suradnja

1.   Ured doprinosi međunarodnoj suradnji Komisije u području umjetne inteligencije, što uključuje politiku inovacija i izvrsnosti, s trećim zemljama i međunarodnim organizacijama, prije svega:

(a)

zastupanjem odgovornog upravljanja umjetnom inteligencijom i promicanjem Unijina pristupa pouzdanoj umjetnoj inteligenciji;

(b)

pomaganjem u međunarodnoj suradnji u području regulacije i upravljanja umjetnom inteligencijom;

(c)

pomaganjem u provedbi međunarodnih sporazuma o pravilima o umjetnoj inteligenciji, među ostalim pružanjem potpore državama članicama.

Članak 8.

Financiranje

1.   Kad je riječ o dužnosnicima koji rade u Uredu, potrebe za ljudskim resursima pokrivaju se iz osoblja Glavne uprave kojem je već povjereno upravljanje djelovanjem ili koje je preraspoređeno unutar Glavne uprave, uzimajući u obzir proračunska ograničenja i ne dovodeći u pitanje godišnji postupak dodjele sredstava.

2.   Kad je riječ o vanjskom statutarnom osoblju koje radi u Uredu, troškovi ljudskih resursa pokrivaju se preraspodjelom odobrenih proračunskih sredstava iz rashoda za administrativnu potporu iz programa Digitalna Europa.

3.   Rashodi poslovanja Ureda pokrivaju se financijskim sredstvima dodijeljenima specifičnom cilju br. 2 „Umjetna inteligencija” programa Digitalna Europa.

Članak 9.

Stupanje na snagu

Ova Odluka stupa na snagu 21. veljače 2024.

Sastavljeno u Bruxellesu 24. siječnja 2024.

Za Komisiju

Thierry BRETON

Član Komisije


(1)  COM(2021) 206 final.

(2)  COM(2021) 205 final.

(3)  Uredba (EU) 2021/694 Europskog parlamenta i Vijeća od 29. travnja 2021. o uspostavi programa Digitalna Europa te o stavljanju izvan snage Odluke (EU) 2015/2240 (SL L 166, 11.5.2021., str. 1., ELI: http://data.europa.eu/eli/reg/2021/694/oj).

(4)  Uredba (EU) 2021/695 Europskog parlamenta i Vijeća od 28. travnja 2021. o uspostavi Okvirnog programa za istraživanja i inovacije Obzor Europa, o utvrđivanju pravila za sudjelovanje i širenje rezultata te o stavljanju izvan snage uredbi (EU) br. 1290/2013 i (EU) br. 1291/2013 (SL L 170, 12.5.2021., str. 1., ELI: http://data.europa.eu/eli/reg/2021/695/oj).

(5)  Odluka (EU) 2022/2481 Europskog parlamenta i Vijeća od 14. prosinca 2022. o uspostavi programa politike za digitalno desetljeće do 2030. (SL L 323, 19.12.2022., str. 4., ELI: http://data.europa.eu/eli/dec/2022/2481/oj).

(6)  To nije europski ured u smislu članka 2. točke 26. Financijske uredbe, odnosno Uredbe (EU, Euratom) 2018/1046 Europskog parlamenta i Vijeća od 18. srpnja 2018.

(7)  Uredba (EU) 2022/2065 Europskog parlamenta i Vijeća od 19. listopada 2022. o jedinstvenom tržištu digitalnih usluga i izmjeni Direktive 2000/31/EZ (Akt o digitalnim uslugama) (SL L 277, 27.10.2022., str. 1., ELI: http://data.europa.eu/eli/reg/2022/2065/oj).

(8)  Uredba (EU) 2022/1925 Europskog parlamenta i Vijeća od 14. rujna 2022. o pravednim tržištima s mogućnošću neograničenog tržišnog natjecanja u digitalnom sektoru i izmjeni direktiva (EU) 2019/1937 i (EU) 2020/1828 (Akt o digitalnim tržištima) (SL L 265, 12.10.2022., str. 1., ELI: http://data.europa.eu/eli/reg/2022/1925/oj).


ELI: http://data.europa.eu/eli/C/2024/1459/oj

ISSN 1977-1088 (electronic edition)