MIŠLJENJE EUROPSKE SREDIŠNJE BANKE

od 29. prosinca 2021.

o Prijedlogu uredbe o utvrđivanju usklađenih pravila o umjetnoj inteligenciji

(CON/2021/40)

(2022/C 115/05)

Uvod i pravna osnova

Europska središnja banka (ESB) primila je 3. studenoga 2021. zahtjev Vijeća Europske unije za davanje mišljenja o Prijedlogu (1) uredbe Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji) i izmjeni određenih zakonodavnih akata Unije (dalje u tekstu „predložena uredba”).

Nadležnost ESB-a za davanje mišljenja temelji se na članku 127. stavku 4. i članku 282. stavku 5. Ugovora o funkcioniranju Europske unije jer predložena uredba sadrži odredbe iz područja nadležnosti ESB-a, posebno u vezi sa zadaćama ESB-a koje se odnose na bonitetni nadzor kreditnih institucija u skladu s člankom 127. stavkom 6. Ugovora. Upravno vijeće donijelo je ovo mišljenje u skladu s prvom rečenicom članka 17. stavka 5. Poslovnika Europske središnje banke.

1. Opće napomene

1.1.

ESB pozdravlja cilj predložene uredbe da se poboljša funkcioniranje unutarnjeg tržišta utvrđivanjem jedinstvenog pravnog okvira za razvoj, stavljanje na tržište i upotrebu pouzdane umjetne inteligencije (UI) u skladu s vrijednostima Unije. ESB prepoznaje važnost utvrđivanja usklađenih zahtjeva specifičnih za UI sustave kako bi se osigurala dosljedna i visoka razina zaštite prevladavajućih razloga od javnog interesa kao što su zdravlje, sigurnost i temeljna prava.

1.2.

ESB nadalje prepoznaje sve veću važnost inovacija omogućenih umjetnom inteligencijom u bankarskom sektoru. Uzimajući u obzir inherentnu prekograničnu prirodu i mogućnosti za inovacije u području umjetne inteligencije u bankarskim aktivnostima, ESB, kao tijelo za bonitetni nadzor na razini Unije, snažno podupire potrebu da se osigura usklađena provedba predložene uredbe od strane kreditnih institucija kad je riječ o bonitetnim rizicima i zahtjevima. Isto tako i s obzirom na sve veću važnost UI-ja, zakonodavac Unije poziva se da u budućnosti razmotri mogućnost uspostave neovisnog tijela za UI na razini Unije odgovornog za usklađenu primjenu predložene uredbe na cijelom jedinstvenom tržištu u pogledu pitanja specifičnih za zdravlje, sigurnost i temeljna prava.

1.3.

Kad je riječ o visokorizičnim UI sustavima koje osiguravaju ili upotrebljavaju kreditne institucije, ESB shvaća da se predloženom uredbom određene obveze uključuju u postupke utvrđene u Direktivi 2013/36/EU Europskog parlamenta i Vijeća (2) (dalje u tekstu „CRD”). Konkretno, predloženom uredbom nastoji se poboljšati usklađenost s CRD-om integriranjem nekih od obveza upravljanja rizicima pružatelja i korisnika u sustav internog upravljanja kreditnih institucija (3). Zbog novosti i složenosti UI-ja te visokih standarda predložene uredbe, potrebne su dodatne smjernice kako bi se pojasnila nadzorna očekivanja u pogledu obveza povezanih s internim upravljanjem.

1.4.

ESB pozdravlja namjeru predložene uredbe da se izbjegnu preklapanja s postojećim zakonodavnim okvirom tako da se neke njezine odredbe uključe u odgovarajuće odredbe CRD-a (4). U tom pogledu ESB pozdravlja činjenicu da se obveza pružatelja visokorizičnih UI sustava da uspostave sustav upravljanja kvalitetom i obveza korisnika visokorizičnih UI sustava, koji su kreditne institucije, da prate rad sustava smatraju ispunjenima poštovanjem pravila o internim mehanizmima upravljanja, procesima i mehanizmima utvrđenima u odgovarajućim odredbama CRD-a (5).

1.5.

ESB naglašava da predložena uredba ne bi trebala dovoditi u pitanje konkretnije ili strože bonitetne obveze kreditnih institucija utvrđene u sektorskim propisima i dopunjene nadzornim smjernicama. Obveze internog upravljanja kreditnih institucija koje upotrebljavaju UI sustave u skladu s CRD-om (6) obuhvaćaju na primjer djelotvornu kontrolu ugovora o eksternalizaciji, uključujući utvrđivanje, procjenu i ublažavanje svih povezanih rizika, kako je dodatno navedeno u EBA-inim Smjernicama za eksternalizaciju (7). Iako se predloženom uredbom različite obveze dodjeljuju dobavljačima i korisnicima visokorizičnih UI sustava, u EBA-inim Smjernicama za eksternalizaciju ne pravi se takva razlika u kontekstu eksternalizacije između trećih strana koje pružaju tehnološka rješenja i kreditnih institucija. U tom pogledu eksternalizacija ne smanjuje obvezu kreditnih institucija da poštuju regulatorne zahtjeve, a bonitetno nadzorno tijelo i dalje je nadležno za nadzor bonitetnih rizika koje predstavljaju eksternalizirane funkcije. U tom kontekstu ESB bi pozdravio dodatna pojašnjenja u pogledu primjenjivih zahtjeva i nadležnih tijela u pogledu eksternalizacije visokorizičnih UI sustava od strane kreditnih institucija.

1.6.

Trebalo bi pojasniti ulogu ESB-a u skladu s predloženom uredbom, posebno u pogledu: (1) općenite bonitetne nadzorne nadležnosti ESB-a, i u odnosu na nadzor tržišta i procjene sukladnosti; i (2) primjene predložene uredbe na obavljanje zadaća ESB-a iz Ugovora.

1.7.

ESB je i dalje predan tehnološki neutralnom pristupu bonitetnom nadzoru kreditnih institucija. Njegova je uloga osigurati sigurnost i stabilnost kreditnih institucija, uz održavanje visokog standarda bonitetnog nadzora bez obzira na primjenu bilo kojeg konkretnog tehnološkog rješenja. Cilj je ESB-a održati jednake uvjete za bonitetni nadzor kreditnih institucija, u skladu s vodećim načelom „iste aktivnosti, isti rizici, isti nadzor”’ (8).

2. Uloga ESB-a u skladu s predloženom uredbom

2.1. Pojašnjenje nadležnosti ESB-a za bonitetni nadzor u vezi s nadzorom tržišta

2.1.1.

Predloženom uredbom predviđa se da se Uredba (EU) 2019/1020 Europskog parlamenta i Vijeća (9) primjenjuje na UI sustave obuhvaćene predloženom uredbom (10), a da svako upućivanje na proizvod na temelju Uredbe (EU) 2019/1020 treba tumačiti na način da uključuje sve UI sustave obuhvaćene područjem primjene predložene uredbe (11). U tom pogledu ESB napominje da je cilj Uredbe (EU) 2019/2020 poboljšati funkcioniranje unutarnjeg tržišta jačanjem nadzora tržišta proizvoda obuhvaćenih zakonodavstvom Unije o usklađivanju kako bi se osiguralo da se na tržište Unije stavljaju samo sukladni proizvodi koji ispunjavaju zahtjeve kojima se osigurava visoka razina zaštite javnih interesa, kao što su zaštita zdravlja i sigurnosti općenito, zdravlja i sigurnosti na radnom mjestu, zaštita potrošača, zaštita okoliša i javna sigurnost te svi drugi javni interesi zaštićeni zakonodavstvom Unije o usklađivanju (12).

2.1.2.

U predloženoj uredbi tijelo za nadzor tržišta definirano je kao nacionalno tijelo koje provodi aktivnosti i poduzima mjere u skladu s Uredbom (EU) 2019/1020 (13). Uredbom (EU) 2019/1020 tijelo za nadzor tržišta definira se kao tijelo koje je država članica imenovala na temelju Uredbe (EU) 2019/1020 kao tijelo odgovorno za provedbu nadzora tržišta na području te države članice (14). Osim toga, u uvodnoj izjavi 9. Uredbe (EU) 2019/1020 pojašnjava se da bi države članice trebale biti odgovorne za provedbu zakonodavstva Unije o usklađivanju te da bi njihova tijela za nadzor tržišta trebala biti obvezna osigurati potpunu usklađenost sa zakonodavstvom (15).. Na temelju toga ESB shvaća da, u skladu s predloženom uredbom, ESB ni na koji način nije tijelo za nadzor tržišta.

2.1.3.

Međutim, predloženom uredbom predviđa se i da je za UI sustave koji se stavljaju na tržište, stavljaju u uporabu ili koje upotrebljavaju financijske institucije uređene zakonodavstvom Unije o financijskim uslugama, tijelo za nadzor tržišta za potrebe predložene uredbe odgovarajuće tijelo odgovorno za financijski nadzor tih institucija u skladu s tim zakonodavstvom (16). Osim toga, u uvodnoj izjavi 80. predložene uredbe pojašnjava se da zakonodavstvo Unije o financijskim uslugama uključuje pravila i zahtjeve o internom upravljanju i upravljanju rizicima koji se primjenjuju na regulirane financijske institucije tijekom pružanja tih usluga, među ostalim i kada upotrebljavaju UI sustave. Dodatno se pojašnjava da bi, kako bi se osigurala dosljedna primjena i provedba obveza na temelju predložene uredbe i odgovarajućih pravila i zahtjeva zakonodavstva Unije o financijskim uslugama, tijela odgovorna za nadzor i provedbu zakonodavstva o financijskim uslugama, uključujući, prema potrebi, ESB, trebala biti imenovana nadležnim tijelima za potrebe nadzora provedbe predložene uredbe, uključujući aktivnosti nadzora tržišta, u pogledu UI sustava koje pružaju ili upotrebljavaju regulirane i nadzirane financijske institucije. U tom se pogledu upućuje i na potrebu za daljnjim poboljšanjem dosljednosti između predložene uredbe i pravila koja se primjenjuju na kreditne institucije uređene CRD-om.

2.1.4.

U skladu s člankom 127. stavkom 6. Ugovora, Vijeće može ESB-u jednoglasno dodijeliti posebne zadaće u vezi s politikama bonitetnog nadzora kreditnih institucija i drugih financijskih institucija, osim društava za osiguranje. Na temelju toga, Uredbom Vijeća (EU) br. 1024/2013 (17) (dalje u tekstu „Uredba o SSM-u”) ESB-u se dodjeljuju posebne zadaće u vezi s politikama bonitetnog nadzora kreditnih institucija, kako bi se doprinijelo sigurnosti i stabilnosti kreditnih institucija i stabilnosti financijskog sustava u Uniji i svakoj državi članici, uz puno poštovanje i dužnu pažnju prema jedinstvu i integritetu unutarnjeg tržišta koje se temelji na jednakom postupanju prema kreditnim institucijama, s ciljem sprečavanja regulatorne arbitraže (18). U tom pogledu, ESB je isključivo nadležan, za potrebe bonitetnog nadzora, za osiguravanje usklađenosti sa svim relevantnim aktima Unije kojima se kreditnim institucijama nameću zahtjevi za uspostavu, među ostalim, pouzdanih postupaka upravljanja rizicima i mehanizama unutarnje kontrole (19). Uloga bonitetnog nadzora ESB-a u tom je pogledu ograničena na osiguravanje da kreditne institucije provode politike i postupke za procjenu svoje izloženosti bonitetnom riziku i upravljanje njome, uključujući rizike povezane s različitim aspektima poslovnih modela banaka, rizik upravljanja i operativni rizik, a koji proizlaze iz upotrebe tehnoloških rješenja kako bi se osigurala sigurnost i stabilnost kreditnih institucija i stabilnost financijskog sustava (20).

2.1.5.

Cilj nadzora tržišta nije osigurati sigurnost i stabilnost kreditnih institucija, već je umjesto toga usmjeren na zaštitu interesa pojedinaca na koje bi mogli utjecati zloupotrijebljeni UI sustavi osiguravanjem da takvi sustavi ispunjavaju zahtjeve potrebne za osiguravanje visoke razine zaštite javnih interesa kao što su zdravlje i sigurnost osoba. Stoga ESB razumije da zakonodavac Unije ne namjerava da ESB djeluje kao tijelo za nadzor tržišta u odnosu na kreditne institucije pod njegovim nadzorom u skladu s predloženom uredbom. Taj je zaključak u skladu s uvodnim izjavama Uredbe o SSM-u, u kojima se pojašnjava da su nacionalna tijela nadležna za osiguravanje visoke razine zaštite potrošača (21).

2.1.6.

Na temelju toga, ESB predlaže da se, kako bi bio u skladu s nadležnostima ESB-a za bonitetni nadzor na temelju članka 127. stavka 6. Ugovora i Uredbom o SSM-u, u tekstu predložene uredbe nedvosmisleno pojasni da ESB nije određen kao tijelo za nadzor tržišta niti da su mu povjerene zadaće nadzora tržišta.

2.1.7.

Iako zadaće nadzora tržišta nisu dodijeljene ESB-u, moguće je da će određene države članice smatrati imenovanje nacionalnih nadležnih tijela uključenih u nadzor kreditnih institucija odgovornima za nadzor tržišta u kontekstu predložene uredbe, u mjeri u kojoj je to dopušteno njihovim ovlastima i najmanje u mjeri u kojoj se zadaće nadzora tržišta primjenjuju na situacije u kojima se UI sustav stavlja u uporabu za vlastite potrebe. Imenovanje nacionalnih nadležnih tijela koja su trenutačno uključena u nadzor kreditnih institucija kao odgovornih za takav nadzor tržišta moglo bi se smatrati zaštitom usklađenosti i isplativosti rezultata nadzora, uz iskorištavanje stručnog znanja koje ta tijela koriste za iskorištavanje svojih istražnih i nadzornih ovlasti u odnosu na kreditne institucije.

2.1.8.

Naposljetku, ESB napominje da se odredbama o nadzoru tržišta iz predložene uredbe ne rješavaju na odgovarajući način situacije u kojima se UI sustav stavlja u uporabu za vlastite potrebe. Na primjer, ovlast tijela za nadzor tržišta da u skladu s predloženom uredbom da provedu povrat ili povuku UI sustav možda neće uspješno dovesti do prekida rada tog sustava u situacijama vlastite uporabe (22). Zakonodavac Unije stoga se poziva da pojasni koje bi se mjere ograničavanja i povezane ovlasti nadležnih tijela trebale primjenjivati na situacije vlastite uporabe.

2.2. Pojašnjenje nadležnosti ESB-a u području bonitetnog nadzora u području ocjenjivanja sukladnosti

2.2.1.

Predloženom uredbom propisuje se (23) da se za visokorizične UI sustave namijenjene za procjenu kreditne sposobnosti fizičkih osoba ili utvrđivanje njihova kreditnog rejtinga (24), a koje kreditne institucije stavljaju na tržište ili u uporabu, treba provesti ocjenjivanje sukladnosti u okviru postupka nadzorne provjere i ocjene (SREP) (25). Predloženom uredbom ocjenjivanje sukladnosti definira se (26) kao postupak provjere jesu li ispunjeni obvezni zahtjevi za visokorizične UI sustava utvrđeni u (27) predloženoj uredbi.

2.2.2.

Kao što je to već navedeno, Vijeće je na temelju članka 127. stavka 6. Ugovora, ESB-u dodijelilo posebne zadaće koje se odnose na politike bonitetnog nadzora kreditnih institucija, s ciljem doprinosa, među ostalim, sigurnosti i stabilnosti kreditnih institucija i stabilnosti financijskog sustava unutar Unije i svake države članice (28). Kako bi se izbjeglo prekoračenje zadaća koje su mu dodijeljene Ugovorom, ESB naglašava da može biti u mogućnosti nadzirati provedbu relevantnih zahtjeva u kontekstu SREP-a, pri čemu se usredotočuje na bonitetne rizike kojima kreditne institucije mogu biti izložene. U tom se pogledu zakonodavac Unije poziva da razmotri u kojoj mjeri nekoliko elemenata ocjenjivanja sukladnosti možda nije bonitetne prirode jer se uglavnom odnose na tehničku procjenu UI sustava kako bi se zaštitili zdravlje i sigurnost osoba i osiguralo poštovanje temeljnih prava smanjenjem rizika od pogrešnih ili pristranih postupaka potpomognutih umjetnom inteligencijom. Konkretno, odgovarajuće odredbe predložene uredbe zahtijevaju da se odrede ili odrede i razviju UI sustavi visokog rizika (1) na osnovi stručnog usavršavanja, validacije i testiranja skupova podataka koji udovoljavaju određenim kriterijima kvalitete pri čemu se oni koriste tehnikama koje uključuju usavršavanje modela s podacima; (2) s mogućnosti omogućavanja automatskog bilježenja događaja („logova”) da bi se osigurala razina sljedivosti funkcioniranja sustava tijekom njegova životnog ciklusa koji je prikladan za njegovu predviđenu namjenu (3) na način koji osigurava da su učinkovito nadgledani od strane fizičkih osoba, uključujući alate za sučelje čovjek-stroj, kako bi se spriječili ili minimizirali rizici za zdravlje, sigurnosti ili temeljan prava koji se mogu pojaviti kada se koristi UI sustav visokog rizika; i (4) za potrebe postizanja odgovarajuće razine točnosti, pouzdanosti i kibersigurnosti (29). Kako je pojašnjeno u uvodnim izjavama predložene uredbe, ti zahtjevi u pogledu kvalitete korištenih skupova podataka, tehničke dokumentacije i vođenja evidencije, transparentnosti i pružanja informacija korisnicima, ljudskog nadzora te pouzdanosti, točnosti i kibersigurnosti nužni su za učinkovito ublažavanje rizika za zdravlje, sigurnost i temeljna prava (30).

2.2.3.

U tom kontekstu zakonodavac Unije poziva se da dodatno razmotri potrebu za imenovanjem odgovarajućih nadležnih tijela odgovornih za nadzor ocjenjivanja sukladnosti koje provode kreditne institucije kad je riječ o pitanjima specifičnima za zdravlje, sigurnost i temeljna prava te da razmotri potrebu za osiguravanjem usklađene primjene predložene uredbe na cijelom jedinstvenom tržištu tako da se u budućnosti uspostavi tijelo za UI na razini Unije.

2.2.4.

Osim toga, određeni zahtjevi za visokorizične UI sustave nisu u potpunosti jasni ili dovoljno konkretni da bi omogućili dostatno razumijevanje za nadzorna očekivanja. Na primjer, možda će biti potrebno dodatno pojasniti zahtjev da skupovi podataka o osposobljavanju, validaciji i ispitivanju moraju biti relevantni, reprezentativni, bez pogrešaka i potpuni (31). S obzirom na široko područje primjene nadležnosti dodijeljene europskim organizacijama za normizaciju (32) a time i na potencijalni rizik od slabljenja normi utvrđenih predloženom uredbom, zahtjevi koji se odnose na visokorizične UI sustave utvrđeni u predloženoj uredbi trebali bi biti dovoljno konkretni.

2.2.5.

Naposljetku, ESB razumije da je procjena sukladnosti UI sustava koju provode kreditne institucije radi procjene kreditne sposobnosti fizičkih osoba ili utvrđivanja njihova kreditnog rejtinga dio ex ante unutarnje kontrole koju provodi kreditna institucija (33). U tom bi pogledu predloženu uredbu (34) trebalo izmijeniti kako bi odražavala ex post prirodu posebne procjene koju treba provesti bonitetno nadzorno tijelo u okviru SREP-a.

2.3. Pojašnjenje nadležnosti ESB-a u području bonitetnog nadzora, općenito

ESB se može smatrati nadležnim tijelom samo u onoj mjeri u kojoj je to potrebno za izvršavanje zadaća koje su mu dodijeljene Uredbom o SSM-u. Kako bi se izbjegla pravna nesigurnost u pogledu toga dodjeljuju li se predloženom uredbom nove zadaće ESB-u, ESB predlaže da se umjesto izravnog upućivanja na ESB kao nadležno tijelo u predloženoj uredbi upućuje na nadležna tijela kako su definirana u relevantnim aktima prava Unije, kao što je CRD. Stoga bi iz Uredbe o SSM-u proizlazilo da se ESB treba smatrati nadležnim tijelom samo za potrebe izvršavanja svojih zadaća bonitetnog nadzora (35).

2.4. Pojašnjenje neovisnosti ESB-a u obavljanju njegovih zadaća u skladu s Ugovorom

ESB razumije da, kada djeluje kao dobavljač koji stavlja na tržište ili u uporabu UI sustave u Uniji ili kao korisnik UI sustava koji se nalaze unutar Unije, na njega se može primjenjivati predložena uredba (36). Isto vrijedi i za nacionalne središnje banke. Predloženom uredbom predviđeno je da, kada su institucije Unije obuhvaćene njezinim područjem primjene, Europski nadzornik za zaštitu podataka (EDPS) djeluje kao nadležno tijelo za njihov nadzor i kao njihovo tijelo za nadzor tržišta (37). Nacionalne središnje banke mogle bi biti pod nadzorom nacionalnih nadležnih tijela (38). U tom je smislu važno naglasiti da bi ESB i nacionalne središnje banke trebali biti u mogućnosti neovisno provoditi zadaće koje su im dodijeljene Ugovorom (39), na primjer kada se koriste bilo kojom aplikacijom umjetne inteligencije za utvrđivanje i provedbu monetarne politike i promicanje neometanog funkcioniranja platnih sustava (40). Međutim, treba priznati da ga ESSB-ova neovisnost u obavljanju njegovih zadaća ne oslobađa svakog pravnog pravila Unije (41). ESB razumije da bi svaki potencijalni nadzor nad ESB-om od strane Europskog nadzornika za zaštitu podataka i nadzor nacionalnih središnjih banaka od strane nacionalnih nadležnih tijela bio ograničen na odgovarajuće kontrole nad sustavom umjetne inteligencije i upravljanje njime te ni na koji način ne bi bio namijenjen narušavanju sposobnosti ESB-a i nacionalnih središnjih banaka da neovisno provode zadaće koje su im dodijeljene Ugovorom.

3. Klasifikacija UI sustava

3.1.

Predloženom uredbom namjerava se osigurati proporcionalan regulatorni okvir u odnosu na njezine ciljeve usvajanjem pristupa utemeljenog na riziku kojim se nameću regulatorna opterećenja samo ako je vjerojatno da će UI sustav predstavljati visok rizik za temeljna prava i sigurnost. Međutim, predloženom uredbom, kojom se predviđa budući razvoj tehnologije UI-ja, definira se softver koji se općenito smatra UI sustavom. Stoga softver koji je razvijen za generiranje izlaznih vrijednosti kao što su sadržaj, predviđanja, preporuke ili odluke, primjenom statističkih pristupa i pristupa strojnog učenja te metoda pretraživanja i optimizacije, čini UI sustav (42). Ta široka definicija obuhvatila bi niz aktivnosti koje obavljaju kreditne institucije, posebno u odnosu na sustave namijenjene utvrđivanju kreditnog rejtinga fizičkih osoba.

3.2.

U skladu s predloženom uredbom (43) velika većina aktivnosti radi utvrđivanja kreditnog rejtinga u kojima se koriste UI sustavi automatski bi podlijegala horizontalnim minimalnim zahtjevima za visokorizične UI sustave. Stoga bi nekoliko aktivnosti, uključujući ciljanje klijenata za marketing, modeliranje otplate i standardne modele utvrđivanja kreditnog rejtinga (npr. bodovna kartica s logističkom regresijom) trebalo zadovoljiti te zahtjeve. Kako bi se povećala jasnoća nadzornih očekivanja i u skladu s tehnološki neutralnim pristupom ESB-a, predlaže se da se UI sustavi koji se namjeravaju koristiti za procjenu kreditne sposobnosti fizičkih osoba ili utvrđivanje njihova kreditnog rejtinga, a koji utječu na samostalnu upotrebu linearne ili logističke regresije ili stabala odlučivanja pod ljudskim nadzorom ne bi trebali klasificirati kao visokorizični UI sustavi, pod uvjetom da je učinak takvih pristupa procjeni kreditne sposobnosti ili kreditnog rejtinga fizičkih osoba malen.

3.3.

Budući da kreditne institucije redovito provode aktivnosti kreditnog ocjenjivanja u svakodnevnoj praksi, ESB predlaže da bi se stupanje na snagu zahtjeva koji se odnose na kvalifikaciju UI sustava namijenjenih za procjenu kreditne sposobnosti fizičkih osoba ili utvrđivanje njihova kreditnog rejtinga kao „visokorizičnih UI sustava” trebalo odgoditi dok Komisija ne donese zajedničke specifikacije (44) o tom pitanju. Konkretno, u tim zajedničkim specifikacijama trebalo bi utvrditi uvjete pod kojima će se visokorizični UI sustavi u tom području smatrati usklađenima s primjenjivim zahtjevima i definirati kada bi se UI sustavi trebali smatrati „stavljeni u uporabu od strane malih dobavljača za vlastitu uporabu” te bi stoga trebali biti obuhvaćeni područjem primjene iznimke od kvalifikacije kao visokorizični UI sustavi (45). U tom kontekstu ESB bi trebao biti uključen na popis tijela s kojima se savjetovalo prije donošenja takvih zajedničkih specifikacija, ako se one odnose na UI sustave namijenjene za procjenu kreditne sposobnosti fizičkih osoba ili utvrđivanje njihova kreditnog rejtinga (46).

3.4.

Naposljetku, ESB pozdravlja mogućnost ažuriranja popisa visokorizičnih UI sustava iz Priloga III. predloženoj uredbi (47) te je spreman surađivati s Komisijom i savjetovati se s njom o utvrđivanju daljnjih potencijalnih rizika UI sustava koji mogu predstavljati rizik od štete za zdravlje i sigurnost ili rizik od negativnog učinka na temeljna prava. Osim UI sustava koji se upotrebljavaju za procjenu kreditnog rejtinga ili kreditne sposobnosti fizičkih osoba, predloženom uredbom ne određuju se kao visokorizični drugi sustavi koje bi kreditne institucije mogle staviti u uporabu. Međutim, kreditne institucije razvijaju ili razmatraju razvoj i upotrebu modela podataka umjetne inteligencije kojima se povezuju podaci o prodaji, transakcijama i uspješnosti kako bi se osigurao jasan pregled rizika povezanog s postupanjem u određenom području. Slično tome, UI sustavi mogu se upotrebljavati u praćenju plaćanja u realnom vremenu ili profiliranju klijenata ili transakcija u svrhu sprečavanja pranja novca i financiranja terorizma.

Na mjestima gdje ESB preporučuje izmjenu predložene uredbe, poseban prijedlog nacrta naveden je u posebnom tehničkom radnom dokumentu uz obrazloženje dano u tu svrhu. Tehnički radni dokument dostupan je na engleskom jeziku na EUR-Lexu.

Sastavljeno u Frankfurtu na Majni 29. prosinca 2021.

Predsjednica ESB-a

Christine LAGARDE

(1) COM(2021) 206 konačno.

(2) Direktiva 2013/36/EU Europskog parlamenta i Vijeća od 26. lipnja 2013. o pristupanju djelatnosti kreditnih institucija i bonitetnom nadzoru nad kreditnim institucijama i investicijskim društvima, izmjeni Direktive 2002/87/EZ i stavljanju izvan snage direktiva 2006/48/EZ i 2006/49/EZ (SL L 176, 27.6.2013, str. 338.).

(3) Vidi članak 9. stavak 9., članak 18. stavak 2., članak 20. stavak 2. i članak 29. stavak 5. predložene uredbe te članak 74. CRD-a.

(4) Vidi članak 74. CRD-a.

(5) Vidi članak 17. stavak 3. i članak 29. stavak 4. predložene uredbe.

(6) Vidi članak 74. CRD-a.

(7) Vidi EBA-ine Smjernice o eksternalizaciji (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8) Vidi Andrea Enria, predsjednik Nadzornog odbora ESB-a, „A binary future? How digitalisation might change banking”, De Nederlandsche Bank, Amsterdam, 11. ožujka 2019., dostupno na mrežnim stranicama ESB-a o nadzoru banaka www.bankingsupervision.europa.eu.

(9) Uredba (EU) 2019/1020 Europskog parlamenta i Vijeća od 20. lipnja 2019. o nadzoru tržišta i sukladnosti proizvoda i o izmjeni Direktive 2004/42/EZ i uredbi (EZ) br. 765/2008 i (EU) br. 305/2011 (SL L 169, 25.6.2019, str. 1.).

(10) Vidi članak 63. stavak 1. predložene uredbe.

(11) Vidi članak 63. stavak 1. točku (b) predložene uredbe.

(12) Vidi članak 1. stavak 1. Uredbe (EU) 2019/1020.

(13) Vidi članak 3. točku 26. predložene uredbe.

(14) Vidi članak 3. točku 4. Uredbe (EU) 2019/1020.

(15) Vidi uvodnu izjavu 9. Uredbe (EU) 2019/1020.

(16) Vidi članak 63. stavak 4. predložene uredbe.

(17) Uredba Vijeća (EU) br. 1024/2013 od 15. listopada 2013. o dodjeli određenih zadaća Europskoj središnjoj banci u vezi s politikama bonitetnog nadzora kreditnih institucija (SL L 287, 29.10.2013., str. 63.).

(18) Vidi članak 1. prvi stavak Uredbe o SSM-u.

(19) Vidi članak 4. stavak 1. točku (e) Uredbe o SSM-u.

(20) Vidi uvodnu izjavu 30. Uredbe o SSM-u, kao i stranice 53. i 54. „ESCB/European banking supervision response to the European Commission’s public consultation on a new digital finance strategy for Europe/FinTech action plan” (kolovoz 2020.) dostupno na mrežnim stranicama ESB-a o nadzoru banaka.

(21) Vidi uvodne izjave 28. I 29. Uredbe o SSM-u.

(22) Vidi članak 13., točke 16. i 17., članak 65. stavak 2. drugi podstavak, članak 65. stavak 5. i članak 67. stavak 1. predložene uredbe.

(23) Vidi članak 19. stavak 2. i članak 43. stavak 2. predložene uredbe.

(24) Vidi točku 5. podtočku (b) Priloga III. predloženoj uredbe.

(25) Članci od 97. do 101. CRD-a odnose se na SREP.

(26) Vidi članak 3. točku 20. predložene uredbe.

(27) Vidi glavu III. poglavlje 2. članke od 8. do 15. predložene uredbe.

(28) Vidi članak 1. prvi stavak Uredbe o SSM-u.

(29) Vidi članak 10., članak 12., članak 14. i članak 15. predložene uredbe.

(30) Vidi uvodnu izjavu 43. predložene uredbe.

(31) Vidi članak 10. stavak 3. predložene uredbe.

(32) Vidi članak 40. i uvodnu izjavu 61. predložene uredbe.

(33) Vidi prvu rečenicu članka 43. stavka 2. i Prilog VI. predloženoj uredbi.

(34) Vidi članak 19. stavak 2., a posebno drugu rečenicu članka 43. stavka 2. predložene uredbe.

(35) Vidi članak 6. Uredbe o SSM-u.

(36) Vidi članak 2. predložene uredbe.

(37) Vidi članak 59. stavak 8. i članak 63. stavak 6. predložene uredbe.

(38) Vidi članak 59. stavak 2. predložene uredbe.

(39) Vidi članak 130. Ugovora.

(40) Vidi prvu i četvrtu alineju članka 127. stavka 2. Ugovora.

(41) Vidi presudu Suda Europske unije od 10. srpnja 2003., C-11/00 Komisija protiv Europske središnje banke, ECLI:EU:C:2003:3, stavci od 130 do 135.

(42) Vidi članak 3. stavak 1. i Prilog I. predloženoj uredbi.

(43) Vidi točku 5. podtočku (b) Priloga III. predloženoj uredbi.

(44) Vidi članak 41. stavak 1. predložene uredbe.

(45) U skladu s točkom 5. podtočkom (b) Priloga III. predloženoj uredbi.

(46) Vidi članak 41. stavak 2. predložene uredbe.

(47) Vidi članak 7. stavak 1. predložene uredbe.