Choose the experimental features you want to try

This document is an excerpt from the EUR-Lex website

Document 32024D01459

    Odluka Komisije оd 24. siječnja 2024. o osnivanju Europskog ureda za umjetnu inteligenciju

    C/2024/390

    SL C, C/2024/1459, 14.2.2024, ELI: http://data.europa.eu/eli/C/2024/1459/oj (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

    Legal status of the document In force

    ELI: http://data.europa.eu/eli/C/2024/1459/oj

    European flag

    Službeni list
    Europske unije

    HR

    Serije C


    C/2024/1459

    14.2.2024

    ODLUKA KOMISIJE

    оd 24. siječnja 2024.

    o osnivanju Europskog ureda za umjetnu inteligenciju

    (C/2024/1459)

    EUROPSKA KOMISIJA,

    uzimajući u obzir Ugovor o funkcioniranju Europske unije,

    budući da:

    (1)

    Umjetna inteligencija (UI) porodica je tehnologija koja se brzo razvija i može pridonijeti nizu gospodarskih i društvenih koristi u cijelom spektru sektora i društvenih aktivnosti. Međutim, ovisno o okolnostima njezine specifične namjene i upotrebe, umjetna inteligencija može stvoriti rizike i uzrokovati štetu javnim interesima i temeljnim pravima koja su zaštićena pravom Unije.

    (2)

    Komisija je predložila Uredbu o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (1) s ciljem poticanja razvoja, upotrebe i prihvaćanja umjetne inteligencije na unutarnjem tržištu kojom se ujedno postiže visoka razina zaštite javnih interesa, kao što su zdravlje i sigurnost te zaštita temeljnih prava, kako su priznata i zaštićena pravom Unije. Predložena uredba jedna je od nekoliko mjera Komisije kojima se nastoji ostvariti dvojaki cilj poticanja prihvaćanja umjetne inteligencije i smanjenja rizika povezanih s određenim primjenama takve tehnologije. Među drugim mjerama su „Koordinirani plan o umjetnoj inteligenciji” u revidiranoj verziji iz 2021. (2), inicijative u okviru sektorskih politika kojima se potiče prihvaćanje umjetne inteligencije i Unijini programi financiranja, kao što su oni uspostavljeni uredbama (EU) 2021/694 (3) i (EU) 2021/695 (4) Europskog parlamenta i Vijeća.

    (3)

    Složenost i sve šire prihvaćanje umjetne inteligencije, posebice kad se temelji na najnaprednijim modelima, i potreba za bržim ostvarenjem općih i digitalnih ciljeva utvrđenih u programu politike za digitalno desetljeće, koji je uspostavljen Odlukom (EU) 2022/2481 Europskog parlamenta i Vijeća (5), pokazuju da postoji potreba za dodatnim mjerama kako bi se stekao bolji uvid u mogućnosti, trendove i potencijalne rizike te poduprli siguran razvoj i upotreba UI tehnologija u Uniji.

    (4)

    Kako bi se olakšalo to razumijevanje, doprinijelo provedbi i primjeni predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji te doprinijelo provedbi međunarodnih pravila i načela o umjetnoj inteligenciji, kao što su Kodeks ponašanja i Vodeća načela za razvojne programere naprednih UI sustava skupine G7, potrebno je razviti stručno znanje i sposobnosti na razini Unije.

    (5)

    U tom kontekstu trebalo bi postaviti temelje jedinstvenog sustava upravljanja umjetnom inteligencijom u Uniji uspostavom strukture koja bi trebala nadzirati napredak UI modela, što uključuje općenamjenske UI modele, i interakciju sa znanstvenom zajednicom, imati važnu ulogu u istragama i testiranju te primjeni propisa i imati globalnu ulogu.

    (6)

    Stoga bi u Komisiji trebalo osnovati Europski ured za umjetnu inteligenciju koji bi bio dio administrativne strukture Glavne uprave za komunikacijske mreže, sadržaje i tehnologije i na koji bi se primjenjivao njezin godišnji plan upravljanja.

    (7)

    Europski ured za umjetnu inteligenciju trebao bi djelovati u skladu s internim postupcima Komisije (6), a njegovo osnivanje ne bi smjelo utjecati na ovlasti i nadležnosti nacionalnih nadležnih tijela te tijela, ureda i agencija Unije za nadzor UI sustava, kako je propisano predstojećom Uredbom o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i drugim sektorskim propisima Unije. Osnivanjem ureda ne dovode se u pitanje funkcije drugih službi Komisije u njihovim područjima nadležnosti ni funkcije Europske službe za vanjsko djelovanje u području zajedničke vanjske i sigurnosne politike. Europski ured za umjetnu inteligenciju trebao bi obavljati svoje zadaće, pri čemu se osobito misli na izdavanje uputa, tako da se ne udvostručuju aktivnosti koje relevantna tijela, uredi i agencije Unije provode na temelju sektorskih propisa.

    (8)

    Kako bi se omogućilo da priprema za provedbu predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji počne što prije, ova bi Odluka na snagu trebala stupiti hitno, prije donošenja te uredbe, s obzirom na to da je politički dogovor suzakonodavaca postignut 8. prosinca 2023. Nakon što ta uredba bude donesena ova se Odluka može revidirati,

    ODLUČILA JE:

    Članak 1.

    Osnivanje

    Osniva se Europski ured za umjetnu inteligenciju („Ured”).

    Ured je dio administrativne strukture Glavne uprave za komunikacijske mreže, sadržaje i tehnologije („Glavna uprava”).

    Članak 2.

    Misija i zadaće

    1.   Ured obavlja zadaće iz članka 3. za potrebe provedbe i izvršenja predstojeće Uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji („predstojeća uredba”).

    2.   Ured ima sljedeće dodatne zadaće:

    (a)

    doprinositi strateškom, dosljednom i djelotvornom Unijinu pristupu međunarodnim inicijativama u području umjetne inteligencije u skladu s člankom 7. u koordinaciji s državama članicama i u skladu s Unijinim stajalištima i politikama;

    (b)

    doprinositi poticanju mjera i politika u Komisiji kojima se iskorištavaju društvene i gospodarske prednosti tehnologija umjetne inteligencije u skladu s člankom 5.;

    (c)

    pružati potporu ubrzanom razvoju, uvođenju i korištenju pouzdanih UI sustava i aplikacija koje donose društvene i gospodarske koristi te doprinose konkurentnosti i gospodarskom rastu Unije. Ured osobito promiče inovacijske ekosustave putem suradnje s relevantnim javnim i privatnim akterima i zajednicom start-up poduzeća;

    (d)

    pratiti razvoj tržišta i tehnologija umjetne inteligencije.

    3.   U obavljanju zadaća iz stavaka 1. i 2. ovog članka Ured:

    (a)

    surađuje s dionicima, osobito stručnjacima iz znanstvene zajednice i razvojnim programerima umjetne inteligencije, u skladu s člankom 4.;

    (b)

    surađuje s relevantnim glavnim upravama i službama Komisije u skladu s člankom 5.;

    (c)

    surađuje sa svim relevantnim tijelima, uredima i agencijama Unije, uključujući Zajedničko poduzeće za europsko računalstvo visokih performansi (Zajedničko poduzeće EuroHPC), u skladu s člankom 6.;

    (d)

    u ime Komisije surađuje s tijelima država članica.

    Članak 3.

    Provedba predstojeće Uredbe

    1.   Ured obavlja sljedeće zadaće koje proizlaze iz predstojeće uredbe:

    (a)

    razvoj alata, metodologija i mjerila za evaluaciju mogućnosti općenamjenskih UI modela, osobito vrlo velikih općenamjenskih UI modela sa sistemskim rizicima;

    (b)

    praćenje provedbe i primjene pravila o općenamjenskim UI modelima i sustavima, osobito ako model i sustav razvija isti dobavljač;

    (c)

    praćenje pojave nepredviđenih rizika koji potječu iz općenamjenskih UI modela, među ostalim reagiranjem na upozorenja znanstvenog odbora;

    (d)

    istraživanje mogućih kršenja pravila o općenamjenskim UI modelima i sustavima, među ostalim prikupljanjem pritužbi i upozorenja, pomaganjem u pripremi odluka Komisije i provođenjem evaluacija na temelju predstojeće uredbe;

    (e)

    osiguravanje da, ako je UI sustav obuhvaćen područjem primjene relevantnih propisa Unije za koje Komisija ima ovlasti nadzora i primjene, primjerice na temelju Uredbe (EU) 2022/2065 Europskog parlamenta i Vijeća (7) ili Uredbe (EU) 2022/1925 Europskog parlamenta i Vijeća (8), nadzor i primjena tih propisa budu potpuno usklađeni s nadzorom i primjenom predstojeće uredbe;

    (f)

    podupiranje provedbe pravila o zabranjenim praksama u području umjetne inteligencije i visokorizičnim UI sustavima u koordinaciji s relevantnim tijelima koja su nadležna prema sektorskim propisima, što uključuje olakšavanje razmjene informacija i suradnje među nacionalnim tijelima, prikupljanje obavijesti i uspostavu informacijskih platformi i baza podataka, osobito ako je općenamjenski UI model ili sustav dio visokorizičnog UI sustava.

    2.   Nadalje, kako bi potpomogao djelotvornu provedbu predstojeće uredbe, Ured je zadužen za:

    (a)

    pomaganje Komisiji u pripremi relevantnih Komisijinih odluka te provedbenih i delegiranih akata;

    (b)

    olakšavanje ujednačene primjene predstojeće uredbe;

    (c)

    pomaganje Komisiji u pripremi uputa i smjernica za potporu praktičnoj provedbi predstojeće uredbe te u izradi potpornih instrumenata kao što su standardizirani protokoli i primjeri dobre prakse, uz savjetovanje s relevantnim službama Komisije te relevantnim tijelima, uredima i agencijama Unije;

    (d)

    pomaganje Komisiji u pripremi zahtjeva za normizaciju, evaluaciji postojećih normi i pripremi zajedničkih specifikacija za provedbu predstojeće uredbe;

    (e)

    sudjelovanje u pružanju tehničke potpore, savjeta i alata za uspostavu i rad regulatornih izoliranih okruženja za umjetnu inteligenciju te sudjelovanje u koordinaciji, prema potrebi, s nacionalnim nadležnim tijelima koja uspostavljaju takva izolirana okruženja;

    (f)

    provedbu evaluacija i preispitivanja predstojeće uredbe te pripremu izvješća o njoj;

    (g)

    koordiniranje uspostave djelotvornog sustava upravljanja, među ostalim pripremom osnivanja savjetodavnih tijela na razini Unije i praćenjem uspostave relevantnih nacionalnih tijela i drugih tijela na nacionalnoj razini;

    (h)

    prema potrebi, pružanje usluga tajništva Odboru za umjetnu inteligenciju i njegovim podskupinama te pružanje administrativne podrške savjetodavnom forumu i znanstvenoj skupini, među ostalim osiguravanjem administrativne strukture, organiziranjem sastanaka i pripremom relevantnih dokumenata; i

    (i)

    poticanje i olakšavanje izrade kodeksa postupanja i kodeksa ponašanja na razini Unije, uzimajući u obzir međunarodne pristupe, te praćenje provedbe i evaluacija kodeksa postupanja.

    Članak 4.

    Suradnja s dionicima

    1.   U obavljanju svojih zadaća na temelju članka 3. Ured surađuje s dionicima, u skladu s primjenjivim pravilima tržišnog natjecanja, na sljedeće načine:

    (a)

    uspostavom foruma za suradnju dobavljača UI modela i sustava radi unapređenja dobre prakse i doprinosa razvoju kodeksa ponašanja i kodeksa postupanja;

    (b)

    vođenjem redovitih savjetovanja s dionicima, što, prema potrebi, uključuje stručnjake iz znanstvene zajednice i obrazovnog sektora, građane, civilno društvo i socijalne partnere, u svrhu prikupljanja informacija potrebnih za obavljanje zadaća iz članka 3. stavka 2.;

    (c)

    uspostavom foruma za suradnju sa zajednicom otvorenog koda s ciljem utvrđivanja i osmišljavanja najboljih načina sigurnog razvoja i upotrebe UI modela i sustava s otvorenim kodom.

    Članak 5.

    Međusektorska suradnja unutar Komisije

    1.   Ured doprinosi poticanju mjera i politika kojima se iskorištavaju društvene i industrijske prednosti tehnologija umjetne inteligencije.

    2.   Ured osobito:

    (a)

    pri obavljanju zadaća na temelju članka 2. surađuje s drugim relevantnim glavnim upravama i službama Komisije, posebice, kad je riječ o evaluaciji i testiranju općenamjenskih UI modela i sustava, Europskim centrom za algoritamsku transparentnost;

    (b)

    pruža podršku drugim relevantnim glavnim upravama i službama Komisije radi lakše upotrebe UI modela i sustava kao transformacijskih alata u relevantnim područjima politika Unije te upozoravanja na nove rizike.

    Članak 6.

    Međuinstitucijska suradnja

    U obavljanju svojih zadaća na temelju članka 3. Ured uspostavlja odgovarajuće oblike suradnje s tijelima, uredima i agencijama Unije.

    Članak 7.

    Međunarodna suradnja

    1.   Ured doprinosi međunarodnoj suradnji Komisije u području umjetne inteligencije, što uključuje politiku inovacija i izvrsnosti, s trećim zemljama i međunarodnim organizacijama, prije svega:

    (a)

    zastupanjem odgovornog upravljanja umjetnom inteligencijom i promicanjem Unijina pristupa pouzdanoj umjetnoj inteligenciji;

    (b)

    pomaganjem u međunarodnoj suradnji u području regulacije i upravljanja umjetnom inteligencijom;

    (c)

    pomaganjem u provedbi međunarodnih sporazuma o pravilima o umjetnoj inteligenciji, među ostalim pružanjem potpore državama članicama.

    Članak 8.

    Financiranje

    1.   Kad je riječ o dužnosnicima koji rade u Uredu, potrebe za ljudskim resursima pokrivaju se iz osoblja Glavne uprave kojem je već povjereno upravljanje djelovanjem ili koje je preraspoređeno unutar Glavne uprave, uzimajući u obzir proračunska ograničenja i ne dovodeći u pitanje godišnji postupak dodjele sredstava.

    2.   Kad je riječ o vanjskom statutarnom osoblju koje radi u Uredu, troškovi ljudskih resursa pokrivaju se preraspodjelom odobrenih proračunskih sredstava iz rashoda za administrativnu potporu iz programa Digitalna Europa.

    3.   Rashodi poslovanja Ureda pokrivaju se financijskim sredstvima dodijeljenima specifičnom cilju br. 2 „Umjetna inteligencija” programa Digitalna Europa.

    Članak 9.

    Stupanje na snagu

    Ova Odluka stupa na snagu 21. veljače 2024.

    Sastavljeno u Bruxellesu 24. siječnja 2024.

    Za Komisiju

    Thierry BRETON

    Član Komisije


    (1)  COM(2021) 206 final.

    (2)  COM(2021) 205 final.

    (3)  Uredba (EU) 2021/694 Europskog parlamenta i Vijeća od 29. travnja 2021. o uspostavi programa Digitalna Europa te o stavljanju izvan snage Odluke (EU) 2015/2240 (SL L 166, 11.5.2021., str. 1., ELI: http://data.europa.eu/eli/reg/2021/694/oj).

    (4)  Uredba (EU) 2021/695 Europskog parlamenta i Vijeća od 28. travnja 2021. o uspostavi Okvirnog programa za istraživanja i inovacije Obzor Europa, o utvrđivanju pravila za sudjelovanje i širenje rezultata te o stavljanju izvan snage uredbi (EU) br. 1290/2013 i (EU) br. 1291/2013 (SL L 170, 12.5.2021., str. 1., ELI: http://data.europa.eu/eli/reg/2021/695/oj).

    (5)  Odluka (EU) 2022/2481 Europskog parlamenta i Vijeća od 14. prosinca 2022. o uspostavi programa politike za digitalno desetljeće do 2030. (SL L 323, 19.12.2022., str. 4., ELI: http://data.europa.eu/eli/dec/2022/2481/oj).

    (6)  To nije europski ured u smislu članka 2. točke 26. Financijske uredbe, odnosno Uredbe (EU, Euratom) 2018/1046 Europskog parlamenta i Vijeća od 18. srpnja 2018.

    (7)  Uredba (EU) 2022/2065 Europskog parlamenta i Vijeća od 19. listopada 2022. o jedinstvenom tržištu digitalnih usluga i izmjeni Direktive 2000/31/EZ (Akt o digitalnim uslugama) (SL L 277, 27.10.2022., str. 1., ELI: http://data.europa.eu/eli/reg/2022/2065/oj).

    (8)  Uredba (EU) 2022/1925 Europskog parlamenta i Vijeća od 14. rujna 2022. o pravednim tržištima s mogućnošću neograničenog tržišnog natjecanja u digitalnom sektoru i izmjeni direktiva (EU) 2019/1937 i (EU) 2020/1828 (Akt o digitalnim tržištima) (SL L 265, 12.10.2022., str. 1., ELI: http://data.europa.eu/eli/reg/2022/1925/oj).


    ELI: http://data.europa.eu/eli/C/2024/1459/oj

    ISSN 1977-1088 (electronic edition)


    Top