Službeni list |
HR Serije C |
C/2024/1459 |
14.2.2024 |
ODLUKA KOMISIJE
оd 24. siječnja 2024.
o osnivanju Europskog ureda za umjetnu inteligenciju
(C/2024/1459)
EUROPSKA KOMISIJA,
uzimajući u obzir Ugovor o funkcioniranju Europske unije,
budući da:
(1) |
Umjetna inteligencija (UI) porodica je tehnologija koja se brzo razvija i može pridonijeti nizu gospodarskih i društvenih koristi u cijelom spektru sektora i društvenih aktivnosti. Međutim, ovisno o okolnostima njezine specifične namjene i upotrebe, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim interesima i temeljnim pravima koja su zaštićena pravom Unije. |
(2) |
Komisija je predložila Uredbu o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (1) s ciljem poticanja razvoja, upotrebe i prihvaćanja umjetne inteligencije na unutarnjem tržištu kojom se ujedno postiže visoka razina zaštite javnih interesa, kao što su zdravlje i sigurnost te zaštita temeljnih prava, kako su priznata i zaštićena pravom Unije. Predložena uredba jedna je od nekoliko mjera Komisije kojima se nastoji ostvariti dvojaki cilj poticanja prihvaćanja umjetne inteligencije i smanjenja rizika povezanih s određenim primjenama takve tehnologije. Među drugim mjerama su „Koordinirani plan o umjetnoj inteligenciji” u revidiranoj verziji iz 2021. (2), inicijative u okviru sektorskih politika kojima se potiče prihvaćanje umjetne inteligencije i Unijini programi financiranja, kao što su oni uspostavljeni uredbama (EU) 2021/694 (3) i (EU) 2021/695 (4) Europskog parlamenta i Vijeća. |
(3) |
Složenost i sve šire prihvaćanje umjetne inteligencije, posebice kad se temelji na najnaprednijim modelima, i potreba za bržim ostvarenjem općih i digitalnih ciljeva utvrđenih u programu politike za digitalno desetljeće, koji je uspostavljen Odlukom (EU) 2022/2481 Europskog parlamenta i Vijeća (5), pokazuju da postoji potreba za dodatnim mjerama kako bi se stekao bolji uvid u mogućnosti, trendove i potencijalne rizike te poduprli siguran razvoj i upotreba UI tehnologija u Uniji. |
(4) |
Kako bi se olakšalo to razumijevanje, doprinijelo provedbi i primjeni predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji te doprinijelo provedbi međunarodnih pravila i načela o umjetnoj inteligenciji, kao što su Kodeks ponašanja i Vodeća načela za razvojne programere naprednih UI sustava skupine G7, potrebno je razviti stručno znanje i sposobnosti na razini Unije. |
(5) |
U tom kontekstu trebalo bi postaviti temelje jedinstvenog sustava upravljanja umjetnom inteligencijom u Uniji uspostavom strukture koja bi trebala nadzirati napredak UI modela, što uključuje općenamjenske UI modele, i interakciju sa znanstvenom zajednicom, imati važnu ulogu u istragama i testiranju te primjeni propisa i imati globalnu ulogu. |
(6) |
Stoga bi u Komisiji trebalo osnovati Europski ured za umjetnu inteligenciju koji bi bio dio administrativne strukture Glavne uprave za komunikacijske mreže, sadržaje i tehnologije i na koji bi se primjenjivao njezin godišnji plan upravljanja. |
(7) |
Europski ured za umjetnu inteligenciju trebao bi djelovati u skladu s internim postupcima Komisije (6), a njegovo osnivanje ne bi smjelo utjecati na ovlasti i nadležnosti nacionalnih nadležnih tijela te tijela, ureda i agencija Unije za nadzor UI sustava, kako je propisano predstojećom Uredbom o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i drugim sektorskim propisima Unije. Osnivanjem ureda ne dovode se u pitanje funkcije drugih službi Komisije u njihovim područjima nadležnosti ni funkcije Europske službe za vanjsko djelovanje u području zajedničke vanjske i sigurnosne politike. Europski ured za umjetnu inteligenciju trebao bi obavljati svoje zadaće, pri čemu se osobito misli na izdavanje uputa, tako da se ne udvostručuju aktivnosti koje relevantna tijela, uredi i agencije Unije provode na temelju sektorskih propisa. |
(8) |
Kako bi se omogućilo da priprema za provedbu predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji počne što prije, ova bi Odluka na snagu trebala stupiti hitno, prije donošenja te uredbe, s obzirom na to da je politički dogovor suzakonodavaca postignut 8. prosinca 2023. Nakon što ta uredba bude donesena ova se Odluka može revidirati, |
ODLUČILA JE:
Članak 1.
Osnivanje
Osniva se Europski ured za umjetnu inteligenciju („Ured”).
Ured je dio administrativne strukture Glavne uprave za komunikacijske mreže, sadržaje i tehnologije („Glavna uprava”).
Članak 2.
Misija i zadaće
1. Ured obavlja zadaće iz članka 3. za potrebe provedbe i izvršenja predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji („predstojeća uredba”).
2. Ured ima sljedeće dodatne zadaće:
(a) |
doprinositi strateškom, dosljednom i djelotvornom Unijinu pristupu međunarodnim inicijativama u području umjetne inteligencije u skladu s člankom 7. u koordinaciji s državama članicama i u skladu s Unijinim stajalištima i politikama; |
(b) |
doprinositi poticanju mjera i politika u Komisiji kojima se iskorištavaju društvene i gospodarske prednosti tehnologija umjetne inteligencije u skladu s člankom 5.; |
(c) |
pružati potporu ubrzanom razvoju, uvođenju i korištenju pouzdanih UI sustava i aplikacija koje donose društvene i gospodarske koristi te doprinose konkurentnosti i gospodarskom rastu Unije. Ured osobito promiče inovacijske ekosustave putem suradnje s relevantnim javnim i privatnim akterima i zajednicom start-up poduzeća; |
(d) |
pratiti razvoj tržišta i tehnologija umjetne inteligencije. |
3. U obavljanju zadaća iz stavaka 1. i 2. ovog članka Ured:
(a) |
surađuje s dionicima, osobito stručnjacima iz znanstvene zajednice i razvojnim programerima umjetne inteligencije, u skladu s člankom 4.; |
(b) |
surađuje s relevantnim glavnim upravama i službama Komisije u skladu s člankom 5.; |
(c) |
surađuje sa svim relevantnim tijelima, uredima i agencijama Unije, uključujući Zajedničko poduzeće za europsko računalstvo visokih performansi (Zajedničko poduzeće EuroHPC), u skladu s člankom 6.; |
(d) |
u ime Komisije surađuje s tijelima država članica. |
Članak 3.
Provedba predstojeće Uredbe
1. Ured obavlja sljedeće zadaće koje proizlaze iz predstojeće uredbe:
(a) |
razvoj alata, metodologija i mjerila za evaluaciju mogućnosti općenamjenskih UI modela, osobito vrlo velikih općenamjenskih UI modela sa sistemskim rizicima; |
(b) |
praćenje provedbe i primjene pravila o općenamjenskim UI modelima i sustavima, osobito ako model i sustav razvija isti dobavljač; |
(c) |
praćenje pojave nepredviđenih rizika koji potječu iz općenamjenskih UI modela, među ostalim reagiranjem na upozorenja znanstvenog odbora; |
(d) |
istraživanje mogućih kršenja pravila o općenamjenskim UI modelima i sustavima, među ostalim prikupljanjem pritužbi i upozorenja, pomaganjem u pripremi odluka Komisije i provođenjem evaluacija na temelju predstojeće uredbe; |
(e) |
osiguravanje da, ako je UI sustav obuhvaćen područjem primjene relevantnih propisa Unije za koje Komisija ima ovlasti nadzora i primjene, primjerice na temelju Uredbe (EU) 2022/2065 Europskog parlamenta i Vijeća (7) ili Uredbe (EU) 2022/1925 Europskog parlamenta i Vijeća (8), nadzor i primjena tih propisa budu potpuno usklađeni s nadzorom i primjenom predstojeće uredbe; |
(f) |
podupiranje provedbe pravila o zabranjenim praksama u području umjetne inteligencije i visokorizičnim UI sustavima u koordinaciji s relevantnim tijelima koja su nadležna prema sektorskim propisima, što uključuje olakšavanje razmjene informacija i suradnje među nacionalnim tijelima, prikupljanje obavijesti i uspostavu informacijskih platformi i baza podataka, osobito ako je općenamjenski UI model ili sustav dio visokorizičnog UI sustava. |
2. Nadalje, kako bi potpomogao djelotvornu provedbu predstojeće uredbe, Ured je zadužen za:
(a) |
pomaganje Komisiji u pripremi relevantnih Komisijinih odluka te provedbenih i delegiranih akata; |
(b) |
olakšavanje ujednačene primjene predstojeće uredbe; |
(c) |
pomaganje Komisiji u pripremi uputa i smjernica za potporu praktičnoj provedbi predstojeće uredbe te u izradi potpornih instrumenata kao što su standardizirani protokoli i primjeri dobre prakse, uz savjetovanje s relevantnim službama Komisije te relevantnim tijelima, uredima i agencijama Unije; |
(d) |
pomaganje Komisiji u pripremi zahtjeva za normizaciju, evaluaciji postojećih normi i pripremi zajedničkih specifikacija za provedbu predstojeće uredbe; |
(e) |
sudjelovanje u pružanju tehničke potpore, savjeta i alata za uspostavu i rad regulatornih izoliranih okruženja za umjetnu inteligenciju te sudjelovanje u koordinaciji, prema potrebi, s nacionalnim nadležnim tijelima koja uspostavljaju takva izolirana okruženja; |
(f) |
provedbu evaluacija i preispitivanja predstojeće uredbe te pripremu izvješća o njoj; |
(g) |
koordiniranje uspostave djelotvornog sustava upravljanja, među ostalim pripremom osnivanja savjetodavnih tijela na razini Unije i praćenjem uspostave relevantnih nacionalnih tijela i drugih tijela na nacionalnoj razini; |
(h) |
prema potrebi, pružanje usluga tajništva Odboru za umjetnu inteligenciju i njegovim podskupinama te pružanje administrativne podrške savjetodavnom forumu i znanstvenoj skupini, među ostalim osiguravanjem administrativne strukture, organiziranjem sastanaka i pripremom relevantnih dokumenata; i |
(i) |
poticanje i olakšavanje izrade kodeksa postupanja i kodeksa ponašanja na razini Unije, uzimajući u obzir međunarodne pristupe, te praćenje provedbe i evaluacija kodeksa postupanja. |
Članak 4.
Suradnja s dionicima
1. U obavljanju svojih zadaća na temelju članka 3. Ured surađuje s dionicima, u skladu s primjenjivim pravilima tržišnog natjecanja, na sljedeće načine:
(a) |
uspostavom foruma za suradnju dobavljača UI modela i sustava radi unapređenja dobre prakse i doprinosa razvoju kodeksa ponašanja i kodeksa postupanja; |
(b) |
vođenjem redovitih savjetovanja s dionicima, što, prema potrebi, uključuje stručnjake iz znanstvene zajednice i obrazovnog sektora, građane, civilno društvo i socijalne partnere, u svrhu prikupljanja informacija potrebnih za obavljanje zadaća iz članka 3. stavka 2.; |
(c) |
uspostavom foruma za suradnju sa zajednicom otvorenog koda s ciljem utvrđivanja i osmišljavanja najboljih načina sigurnog razvoja i upotrebe UI modela i sustava s otvorenim kodom. |
Članak 5.
Međusektorska suradnja unutar Komisije
1. Ured doprinosi poticanju mjera i politika kojima se iskorištavaju društvene i industrijske prednosti tehnologija umjetne inteligencije.
2. Ured osobito:
(a) |
pri obavljanju zadaća na temelju članka 2. surađuje s drugim relevantnim glavnim upravama i službama Komisije, posebice, kad je riječ o evaluaciji i testiranju općenamjenskih UI modela i sustava, Europskim centrom za algoritamsku transparentnost; |
(b) |
pruža podršku drugim relevantnim glavnim upravama i službama Komisije radi lakše upotrebe UI modela i sustava kao transformacijskih alata u relevantnim područjima politika Unije te upozoravanja na nove rizike. |
Članak 6.
Međuinstitucijska suradnja
U obavljanju svojih zadaća na temelju članka 3. Ured uspostavlja odgovarajuće oblike suradnje s tijelima, uredima i agencijama Unije.
Članak 7.
Međunarodna suradnja
1. Ured doprinosi međunarodnoj suradnji Komisije u području umjetne inteligencije, što uključuje politiku inovacija i izvrsnosti, s trećim zemljama i međunarodnim organizacijama, prije svega:
(a) |
zastupanjem odgovornog upravljanja umjetnom inteligencijom i promicanjem Unijina pristupa pouzdanoj umjetnoj inteligenciji; |
(b) |
pomaganjem u međunarodnoj suradnji u području regulacije i upravljanja umjetnom inteligencijom; |
(c) |
pomaganjem u provedbi međunarodnih sporazuma o pravilima o umjetnoj inteligenciji, među ostalim pružanjem potpore državama članicama. |
Članak 8.
Financiranje
1. Kad je riječ o dužnosnicima koji rade u Uredu, potrebe za ljudskim resursima pokrivaju se iz osoblja Glavne uprave kojem je već povjereno upravljanje djelovanjem ili koje je preraspoređeno unutar Glavne uprave, uzimajući u obzir proračunska ograničenja i ne dovodeći u pitanje godišnji postupak dodjele sredstava.
2. Kad je riječ o vanjskom statutarnom osoblju koje radi u Uredu, troškovi ljudskih resursa pokrivaju se preraspodjelom odobrenih proračunskih sredstava iz rashoda za administrativnu potporu iz programa Digitalna Europa.
3. Rashodi poslovanja Ureda pokrivaju se financijskim sredstvima dodijeljenima specifičnom cilju br. 2 „Umjetna inteligencija” programa Digitalna Europa.
Članak 9.
Stupanje na snagu
Ova Odluka stupa na snagu 21. veljače 2024.
Sastavljeno u Bruxellesu 24. siječnja 2024.
Za Komisiju
Thierry BRETON
Član Komisije
(1) COM(2021) 206 final.
(2) COM(2021) 205 final.
(3) Uredba (EU) 2021/694 Europskog parlamenta i Vijeća od 29. travnja 2021. o uspostavi programa Digitalna Europa te o stavljanju izvan snage Odluke (EU) 2015/2240 (SL L 166, 11.5.2021., str. 1., ELI: http://data.europa.eu/eli/reg/2021/694/oj).
(4) Uredba (EU) 2021/695 Europskog parlamenta i Vijeća od 28. travnja 2021. o uspostavi Okvirnog programa za istraživanja i inovacije Obzor Europa, o utvrđivanju pravila za sudjelovanje i širenje rezultata te o stavljanju izvan snage uredbi (EU) br. 1290/2013 i (EU) br. 1291/2013 (SL L 170, 12.5.2021., str. 1., ELI: http://data.europa.eu/eli/reg/2021/695/oj).
(5) Odluka (EU) 2022/2481 Europskog parlamenta i Vijeća od 14. prosinca 2022. o uspostavi programa politike za digitalno desetljeće do 2030. (SL L 323, 19.12.2022., str. 4., ELI: http://data.europa.eu/eli/dec/2022/2481/oj).
(6) To nije europski ured u smislu članka 2. točke 26. Financijske uredbe, odnosno Uredbe (EU, Euratom) 2018/1046 Europskog parlamenta i Vijeća od 18. srpnja 2018.
(7) Uredba (EU) 2022/2065 Europskog parlamenta i Vijeća od 19. listopada 2022. o jedinstvenom tržištu digitalnih usluga i izmjeni Direktive 2000/31/EZ (Akt o digitalnim uslugama) (SL L 277, 27.10.2022., str. 1., ELI: http://data.europa.eu/eli/reg/2022/2065/oj).
(8) Uredba (EU) 2022/1925 Europskog parlamenta i Vijeća od 14. rujna 2022. o pravednim tržištima s mogućnošću neograničenog tržišnog natjecanja u digitalnom sektoru i izmjeni direktiva (EU) 2019/1937 i (EU) 2020/1828 (Akt o digitalnim tržištima) (SL L 265, 12.10.2022., str. 1., ELI: http://data.europa.eu/eli/reg/2022/1925/oj).
ELI: http://data.europa.eu/eli/C/2024/1459/oj
ISSN 1977-1088 (electronic edition)