Uvod i pravna osnova

Europska komisija objavila je 19. studenoga 2025. Prijedlog uredbe Europskog parlamenta i Vijeća o izmjeni uredaba (EU) 2024/1689 i (EU) 2018/1139 u pogledu pojednostavnjenja provedbe usklađenih pravila o umjetnoj inteligenciji (Digitalni omnibus o umjetnoj inteligenciji) (1) (dalje u tekstu: „Prijedlog uredbe”).

Europska središnja banka (ESB) samoinicijativno je odlučila dati mišljenje o Prijedlogu uredbe. Nadležnost ESB-a za davanje mišljenja temelji se na članku 127. stavku 4. i članku 282. stavku 5. Ugovora o funkcioniranju Europske unije jer Prijedlog uredbe sadrži odredbe iz područja nadležnosti ESB-a, posebno u vezi sa zadaćama ESB-a koje se odnose na bonitetni nadzor kreditnih institucija u skladu s člankom 127. stavkom 6. Ugovora. Upravno vijeće donijelo je ovo mišljenje u skladu s prvom rečenicom članka 17. stavka 5. Poslovnika Europske središnje banke.

1.   Opće napomene

1.1.

ESB je 2021. zaprimio zahtjev Vijeća Europske unije i donio mišljenje o izvornom Prijedlogu uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) (2).

1.2.

ESB pozdravlja cilj Prijedloga uredbe da se promiču inovacije i konkurentnost na unutarnjem tržištu pojednostavnjenjem i racionalizacijom provedbe Uredbe (EU) 2024/1689 Europskog parlamenta i Vijeća (3) (dalje u tekstu: „Akt o UI-ju”). ESB prepoznaje važnost uspostave pristupačnog regulatornog okvira specifičnog za UI sustave uz istodobno osiguravanje dosljedne zaštite javnih interesa na visokoj razini u pogledu zdravlja, sigurnosti i temeljnih prava, kao i važnost pouzdane i etički utemeljene upotrebe umjetne inteligencije, kako je utvrđeno u Aktu o UI-ju i Prijedlogu uredbe (4). Konkretno, kako se kreditne institucije sve više oslanjaju na visokorizične UI sustave i na UI sustave opće namjene, pojednostavnjeni okvir ključan je za osiguranje usklađenosti s Aktom o UI-ju i bankarskim pravom Unije.

1.3.

Iz perspektive bonitetnog nadzora, uspostava dobro osmišljenih inovacijskih načina omogućuje kreditnim institucijama da sigurno eksperimentiraju s UI rješenjima u kontroliranim okruženjima, uz istodobno osiguravanje ranog utvrđivanja potencijalnih rizika. Takvim se načinima podupire tehnološki napredak u bankarskom sektoru i sposobnost ESB-a da procijeni moguće učinke na operativnu otpornost, rizik modela i upravljanje podacima kreditnih institucija.

1.4.

ESB razumije da se Prijedlogom uredbe ne nameću dodatne obveze ESB-u kao bonitetnom nadzornom tijelu nad kreditnim institucijama niti ESB mora primjenjivati Akt o UI-ju u svojem nadzoru. Međutim, zbog ESB-ova nadzora nad rizikom informacijske i komunikacijske tehnologije (IKT) kreditnih institucija i činjenice da se određeni zahtjevi iz Akta o UI-ju mogu preklapati prilikom usklađivanja s pravom Unije o financijskim uslugama ili se na njih može odgovoriti usklađivanjem s tim pravom, bliska koordinacija i učinkovita razmjena informacija između ESB-a i nacionalnih tijela za nadzor tržišta koja nadziru kreditne institucije regulirane Direktivom 2013/36/EU Europskog parlamenta i Vijeća (5) (dalje u tekstu: „CRD”) ključne su za osiguravanje dosljednog nadzora i učinkovite primjene Akta o UI-ju u pogledu takvih propisa koji se odnose na kreditne institucije.

2.   Institucionalne nadležnosti i nadzorne ovlasti

2.1.

U skladu s člankom 127. stavkom 6. Ugovora i Uredbom Vijeća (EU) br. 1024/2013 (6) (dalje u tekstu: „Uredba o SSM-u”), Vijeće je ESB-u dodijelilo posebne zadaće koje se odnose na politike bonitetnog nadzora kreditnih institucija s ciljem unaprjeđenja, među ostalim, sigurnosti i pouzdanosti kreditnih institucija i stabilnosti financijskog sustava unutar Unije i u svakoj državi članici (7). Zadaće ESB-a ograničene su na bonitetni nadzor kreditnih institucija. ESB razumije da ocjenjivanje sukladnosti (8), utvrđivanje povreda (9) i provedba Akta o UI-ju (10) predstavljaju zadaće tijela za nadzor tržišta te da nisu dio zadaća ESB-a za bonitetni nadzor (11).

2.2.

Neovisno o ograničenim zadaćama ESB-a u tom području, Aktom o UI-ju predviđa se da bi nacionalna tijela za nadzor tržišta, koja nadziru regulirane kreditne institucije koje sudjeluju u jedinstvenom nadzornom mehanizmu (engl. Single Supervisory Mechanism, SSM), trebala bez odgode izvijestiti ESB o svim informacijama utvrđenima tijekom njihovih aktivnosti nadzora tržišta koje bi mogle biti od interesa za zadaće bonitetnog nadzora ESB-a (12).

3.   Razmjena nadzornih informacija

3.1.

Smatra se da kreditne institucije koje su dobavljači visokorizičnih sustava ili subjekti koji ih uvode ispunjavaju određene odredbe Akta o UI-ju ako ispunjavaju slične obveze na temelju prava Unije o financijskim uslugama (13). ESB pozdravlja to načelo kojim se sprječava da se kreditne institucije suoče s dvostrukim izvješćivanjem i mogućim proturječnim nadzornim stajalištima. Međutim, kako je navedeno u točki 2.1., ESB nema mandat za nadzor tržišta na temelju Akta o UI-ju i općenito nadzorna tijela za bankarstvo nemaju isti mandat i nadzorne prioritete kao tijela za nadzor tržišta na temelju Akta o UI-ju. To znači da bonitetna nadzorna tijela kreditnih institucija općenito neće ili ne mogu preispitivati zahtjeve i progoniti povrede na temelju Akta o UI-ju. Kako bi se osigurali jednaki uvjeti u nadgledanju primjene Akta o UI-ju, nadzorna tijela za bankarstvo kao što je ESB, trebala bi stoga moći razmjenjivati informacije s tijelima za nadzor tržišta koja nadziru kreditne institucije koje su relevantne za ta tijela za nadzor tržišta.

3.2.

Postojećim okvirom prvenstveno se predviđa da ESB prima informacije od tijela za nadzor tržišta (14). Kako bi se ostvarili ciljevi Akta o UI-ju, uključujući zaštita temeljnih prava, te osigurao učinkovit i koordiniran nadzor tržišta i bonitetni nadzor, Prijedlog uredbe trebao uključiti izričitu pravnu osnovu koja bi dopustila ESB-u, na temelju načela nužnosti pristupa i podložno obvezi čuvanja poslovne tajne, razmjenu odgovarajućih informacija o bonitetnom nadzoru s nadležnim nacionalnim tijelima za nadzor tržišta, koja nadziru kreditne institucije koje su regulirane CRD-om i koje su pod nadzorom ESB-a. Sličan dogovor o razmjeni informacija trebalo bi uvesti i između nacionalnih nadležnih tijela koja nadziru kreditne institucije i tijela za nadzor tržišta. Bez takve jasne pravne osnove nije jasno kako bi se koordinacija između tijela za nadzor tržišta i tijela za bonitetni nadzor (15) mogla provesti u praksi. ESB također smatra korisnim da se na nacionalna tijela za nadzor tržišta, koja nadziru kreditne institucije koje nisu nadležna tijela za nadzor banaka (i stoga nisu dio SSM-a), proširi obveza izvješćivanja ESB-a i nacionalnih nadležnih tijela za nadzor banaka o svim informacijama utvrđenima tijekom njihovih aktivnosti nadzora tržišta koje bi mogle biti od interesa za zadaće bonitetnog nadzora ESB-a i nacionalnih nadležnih tijela za nadzor banaka (16). Pravna osnova za takvu razmjenu informacija mogla bi se koristiti, na primjer, za razmjenu informacija o upravljanju rizicima ili upravljanju UI sustavima koje primjenjuju nadzirane kreditne institucije ili za razmjenu informacija koje utječu na njihov profil rizičnosti.

4.   Područje primjene i klasifikacija modela i primjera uporabe

4.1.

Važno je da sudionici na tržištu, posebno kreditne institucije koje upotrebljavaju umjetnu inteligenciju za ocjenjivanje kreditne sposobnosti, znaju koje su tehnike obuhvaćene definicijom UI sustava (17), a koje nisu, te koje se tehnike smatraju „visokorizičnim” na temelju Akta o UI-ju.

4.2.

Dodatno bi pojašnjenje bilo primjereno, posebno izričitim isključivanjem općih linearnih modela (npr. linearne ili logističke regresije) iz područja primjene definicije visokorizičnih UI sustava iz Akta o UI-ju kad se upotrebljavaju za ocjenjivanje kreditne sposobnosti (18), zbog njihove visoke razine objašnjivosti i transparentnosti (19). To bi se pojašnjenje moglo odraziti u Aktu o UI-ju (20) i Smjernicama Komisije o definiciji UI sustava uspostavljenog Uredbom (EU) 2024/1689 (21).

4.3.

U tom pogledu ESB napominje da se opći linearni modeli, uključujući linearnu i logističku regresiju, sami po sebi mogu tumačiti i da su transparentni (22). Njihov se rad može u potpunosti objasniti ograničenim i stabilnim skupom parametara čiji se utjecaj na ishode može procijeniti upotrebom provjerenih statističkih alata. Stoga takvi modeli nemaju značajke „black-box” na kojima se temelje poboljšani zahtjevi za upravljanje i ublažavanje rizika iz Akta o UI-ju, koji su prvenstveno osmišljeni za rješavanje izazova koje predstavljaju složeni, nelinearni sustavi ili sustavi samoučenja (23), za koje postojeći pravni okvir možda nije primjeren (24). Nadalje, iz perspektive proporcionalnosti i pravne sigurnosti, uključujući opće linearne modele, kad se upotrebljavaju kao samostalne statističke tehnike, definicija visokorizičnih UI sustava iz Akta o UI-ju ne bi bitno pridonijela smanjenju rizika povezanih s tim modelima. Umjesto toga, time bi se stvorila nepotrebna opterećenja u pogledu usklađenosti, posebno u reguliranim financijskim sektorima kao što je bankarstvo, u kojima su takvi modeli dobro uspostavljeni, široko se upotrebljavaju i već podliježu opsežnom bonitetnom upravljanju i nadzornoj kontroli. Jednako postupanje prema tim algoritmima i složenijim i novim metodama modeliranja, koje se upotrebljavaju za ocjenjivanje kreditne sposobnosti, bilo bi u suprotnosti s navedenim ciljem pojednostavnjenja iz Prijedloga uredbe. ESB smatra da bi bilo potrebno dodatno pojašnjenje kako bi se opći linearni modeli izričito isključili iz definicije visokorizičnih UI sustava na temelju Akta o UI-ju, ne dovodeći u pitanje slučajeve u kojima su takvi modeli dio složenijih UI sustava za koje je potrebna sveobuhvatna procjena rizika.

4.4.

U Aktu o UI-ju pojašnjava se da se UI sustavi predviđeni pravom Unije u bonitetne svrhe za izračun kapitalnih zahtjeva kreditnih institucija (poznati kao „unutarnji modeli”) ne bi trebali smatrati visokorizičnima (25). Istodobno, UI sustavi namijenjeni procjeni kreditne sposobnosti pojedinaca ili utvrđivanju njihove kreditne ocjene trebaju se smatrati visokorizičnima na temelju Akta o UI-ju (26). Međutim, u skladu s Uredbom (EU) 575/2013 Europskog parlamenta i Vijeća (27) (dalje u tekstu: „CRR”), unutarnji modeli trebali bi imati ključnu ulogu u postupku odobravanja kredita te su stoga usko povezani s modelima za ocjenjivanje kreditne sposobnosti (28). To može dovesti do situacije u kojoj bonitetna nadzorna tijela, koja procjenjuju unutarnji model, i tijelo za nadzor tržišta, koje procjenjuje model ocjenjivanja kreditne sposobnosti, pružaju različite i potencijalno proturječne smjernice u svojem nadzoru. U tom kontekstu, ESB ponavlja da je potrebna učinkovita koordinacija i razmjena informacija između tijela za nadzor tržišta i bonitetnih nadzornih tijela kako bi se potaknula dosljedna primjena zahtjeva koji se preklapaju na temelju Akta o UI-ju i CRR-a te osigurala učinkovita zaštita temeljnih prava. U svakom slučaju, ESB priznaje da, čak i uz odgovarajuću razmjenu informacija, temeljni uzrok problema potencijalno proturječnih zahtjeva ne bi bio u potpunosti riješen. U tom pogledu, kreditne institucije i njihova nadzorna tijela suočavaju se sa složenim procesom kako bi se osiguralo da je unutarnji model kreditne institucije usklađen s CRR-om i istodobno s Aktom o UI-ju, uzimajući u obzir i da će bonitetno nadzorno tijelo i nadležno tijelo za nadzor tržišta najvjerojatnije procijeniti svaki model u različitim trenucima.

4.5.

Naposljetku, poboljšana koordinacija između smjernica Komisije i Europskog sustava financijskog nadzora o provedbi Akta o UI-ju pomogla bi da se izbjegnu nepotrebna administrativna opterećenja i podrži dosljedan nadzorni okvir.

Na mjestima gdje ESB preporučuje izmjenu Prijedloga uredbe, poseban prijedlog nacrta naveden je u posebnom tehničkom radnom dokumentu uz obrazloženje dano u tu svrhu. Tehnički radni dokument dostupan je na engleskom jeziku na mrežnim stranicama EUR-Lexa.

---

(1)  COM(2025) 836 final.

(2)  Mišljenje CON/2021/40 Europske središnje banke od 29. prosinca 2021. o Prijedlogu uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (SL C 115, 11.3.2022., str. 5.).

(3)  Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (SL L, 2024/1689, 12.7.2024., ELI: http://data.europa.eu/eli/reg/2024/1689/oj).

(4)  Vidjeti uvodnu izjavu 1. Akta o UI-ju i uvodnu izjavu 1. Prijedloga uredbe.

(5)  Direktiva 2013/36/EU Europskog parlamenta i Vijeća od 26. lipnja 2013. o pristupanju djelatnosti kreditnih institucija i bonitetnom nadzoru nad kreditnim institucijama, izmjeni Direktive 2002/87/EZ te stavljanju izvan snage direktiva 2006/48/EZ i 2006/49/EZ (SL L 176, 27.6.2013., str. 338., ELI: http://data.europa.eu/eli/dir/2013/36/oj).

(6)  Uredba Vijeća (EU) br. 1024/2013 od 15. listopada 2013. o dodjeli određenih zadaća Europskoj središnjoj banci u vezi s politikama bonitetnog nadzora kreditnih institucija (SL L 287, 29.10.2013., str. 63., ELI: http://data.europa.eu/eli/reg/2013/1024/oj).

(7)  Vidjeti članak 1. stavak 1. Uredbe o SSM-u.

(8)  Članak 5. stavak 6. te članci 46. i 60. Akta o UI-ju.

(9)  Članci 73., 74., 75., 76. i 80. te članak 83. stavak 1. Akta o UI-ju.

(10)  Članak 79. stavci od 5. do 9., članci 81. i 82., članak 83. stavak 2. te članci 85. i 99. Akta o UI-ju.

(11)  Vidjeti stavke 2.1.4. i 2.1.5. Mišljenja CON/2021/40.

(12)  Članak 74. stavak 7. Akta o UI-ju.

(13)  Članak 26. stavci 5. i 6. Akta o UI-ju.

(14)  Vidjeti članak 74. stavak 7. Akta o UI-ju.

(15)  Vidjeti uvodnu izjavu 158. Akta o UI-ju.

(16)  Vidjeti članak 74. stavak 7. drugi podstavak Akta o UI-ju.

(17)  Članak 3. točka 1. Akta o UI-ju.

(18)  Vidjeti Prilog III. Aktu o UI-ju.

(19)  U tom pogledu vidjeti također Rezoluciju Europskog parlamenta od 25. studenoga 2025. o utjecaju umjetne inteligencije na financijski sektor (2025/2056(INI)), dostupno na mrežnim stranicama Europskog parlamenta na www.europarl.europa.eu.

(20)  Na primjer, u Prilogu III. Aktu o UI-ju.

(21)  Vidjeti, na primjer, stavak 42. Komunikacije Komisije, Smjernice Komisije o definiciji UI sustava uspostavljenog Uredbom (EU) 2024/1689 (Aktu o UI-ju) (C(2025) 5053 final).

(22)  Središnja banka Nationale Bank van België / Banque Nationale de Belgique, „Financial Market Infrastructures and Payment Services Report” (Izvješće o infrastrukturama financijskog tržišta i platnim uslugama), 2019., str. 64. – 65., dostupno na njezinim mrežnim stranicama na www.nbb.be; F. Pérez-Cruz i dr., „Managing explanations: how regulators can address AI explainability” (Upravljanje objašnjenjima: kako regulatorna tijela mogu riješiti problem objašnjivosti umjetne inteligencije), u povremenoj publikaciji Instituta za financijsku stabilnost br. 24, 2025., str. 15., dostupno na mrežnim stranicama Banke za međunarodne namire na www.bis.org.

(23)  J. Tejero, „Unwrapping black-box models: a case study in credit risk” (Razotkrivanje modela black-box: studija slučaja o kreditnom riziku), u Revista de Estabilidad Financiera, 43., 2022., str. 96. i sljedeće. Dostupno na mrežnim stranicama središnje banke Banco de España na www.bde.es.

(24)  ESB također isključuje opće modele linearne regresije iz strožih očekivanja koja se primjenjuju na složenije modele koji se upotrebljavaju za izračune kapitalnih zahtjeva. Vidjeti ESB-ov Vodič za unutarnje modele, stavak 31., fusnota 35., dostupno na mrežnim stranicama ESB-a u vezi s nadzorom banaka na www.bankingsupervision.europa.eu.

(25)  Uvodna izjava 58. Akta o UI-ju.

(26)  Vidjeti Prilog III. Aktu o UI-ju.

(27)  Uredba (EU) br. 575/2013 Europskog parlamenta i Vijeća od 26. lipnja 2013. o bonitetnim zahtjevima za kreditne institucije i o izmjeni Uredbe (EU) br. 648/2012 (SL L 176, 27.6.2013., str. 1., ELI: http://data.europa.eu/eli/reg/2013/575/oj).

(28)  Vidjeti članak 144. stavak 1. točku (b) CRR-a.