1.

je seznanjen s široko in raznoliko uporabo umetne inteligence v sektorju finančnih storitev EU, pri čemer finančne institucije že dolgo uporabljajo klasično strojno učenje in zdaj postopoma eksperimentirajo z uporabo generativne umetne inteligence, vključno z velikimi jezikovnimi modeli in drugimi temeljnimi modeli; poudarja, da je večina sedanjih primerov uporabe umetne inteligence namenjena racionalizaciji zalednih postopkov, pri čemer večina aplikacij pomeni inovacije z majhnim tveganjem in ne inovacij z visokim tveganjem; vendar ugotavlja, da je uporaba umetne inteligence za ocenjevanje kreditne sposobnosti fizičnih oseb ali za določanje njihove kreditne ocene, ki je v aktu o umetni inteligenci trenutno opredeljena kot visokotvegana, razširjena in se še povečuje; poudarja, da bi morala biti uporaba popolnoma avtonomnih sistemov umetne inteligence v finančnem sektorju pod človeškim nadzorom (15); ugotavlja, da finančne institucije še naprej proučujejo primere uporabe, ki vključujejo uporabo modelov umetne inteligence za splošne namene, katerih večja kompleksnost pomeni večje operativno tveganje in tveganje skladnosti, vendar ugotavlja tudi, da so te aplikacije večinoma še v fazi testiranja;

2.

meni, da je umetna inteligenca velika priložnost za finančne institucije EU, da razvijejo bolj inovativne produkte, poenostavijo svoje poslovanje in izboljšajo svojo globalno konkurenčnost; poudarja, da lahko uporaba umetne inteligence v finančnih storitvah prinese družbene koristi, kot so učinkovitejše odkrivanje in preprečevanje goljufij, pregledi za preprečevanje pranja denarja in preverjanje sankcij, podpora strankam, spremljanje transakcij, personalizirano finančno svetovanje, zbiranje, analiza in poročanje o okoljskih, socialnih in upravljavskih podatkih, modeli in strategije trgovanja, pomoč pri zagotavljanju skladnosti z zakonodajo, nadzor trga in spremljanje zlorabe trga; meni, da bi bilo treba pri uporabi umetne inteligence v finančnem sektorju vzpostaviti ravnovesje med inovacijami in konkurenčnostjo na eni strani ter obvladovanjem tveganj, varstvom potrošnikov in finančno stabilnostjo na drugi strani; poudarja, da bi bilo treba koristi uporabe umetne inteligence pri finančnih storitvah najprej prenesti na končne stranke, na primer z nižjimi cenami, boljšim kritjem, večjo finančno vključenostjo in dostopom ter večjo finančno pismenostjo;

3.

ugotavlja, da uporaba umetne inteligence v finančnih storitvah prinaša tudi tveganja; poudarja, da so pred nedavnim prebojem na področju velikih jezikovnih modelov ta tveganja izhajala iz kakovosti, natančnosti in reprezentativnosti podatkov, na katerih so se modeli učili, saj so rezultati umetne inteligence, ki niso povezani z velikimi jezikovnimi modeli, le toliko zanesljivi kot vhodni podatki; poudarja, da bi lahko slaba kakovost podatkov med drugim vodila do diskriminatornih rezultatov, zavajajoče prodaje in krepitve sistemskih pristranskosti, medtem ko bi lahko nepregledni in kompleksni modeli povzročili kršitve zasebnosti in izključitev ranljivih potrošnikov, na primer s cenovno diskriminacijo, s čimer bi se povečala obstoječa tveganja ali ustvarila nova; poudarja, da veliki jezikovni modeli prinašajo znatna dodatna tveganja, ki jih je težko izmeriti, vključno z halucinacijami modelov, tudi če so učni podatki visoke kakovosti; poudarja, da je treba ta tveganja in posledice učinkovito ublažiti; je tudi seznanjen z izzivi, povezanimi z ranljivostmi na področju kibernetske varnosti in razložljivostjo sistemov umetne inteligence; zato poudarja, da je treba zagotoviti zanesljivo upravljanje podatkov, temeljito testiranje in dokumentiranje modelov umetne inteligence, hkrati pa ohraniti človeški nadzor in visok standard za uporabo sistemov umetne inteligence v aplikacijah, namenjenih potrošnikom;

4.

se zaveda, da so finančne institucije sprejele premišljen pristop k razvoju, testiranju in uvajanju sistemov umetne inteligence, da bi zagotovile skladnost z obstoječo medsektorsko in sektorsko zakonodajo; poudarja, da je lahko ta preudaren pristop tudi posledica neizkazanega povpraševanja strank ter njihovih spreminjajočih se pričakovanj in pomislekov glede tveganja, kot je opisano zgoraj;

5.

poudarja, da vzpon umetne inteligence pomeni izzive za nadzorne organe, zlasti zaradi pomanjkanja strokovnega znanja o umetni inteligenci in ustreznih nadzornih orodij, da bi lahko ocenili napredne modele strojnega učenja in generativne umetne inteligence; poziva evropske in nacionalne nadzorne organe, naj se prilagodijo vse večji uporabi umetne inteligence v finančnih storitvah ter spremljajo, ocenjujejo in zmanjšujejo tveganja za potrošnike in finančno stabilnost, pri čemer naj pazijo, da ne bodo zavirali inovacij z nesorazmernimi regulativnimi bremeni ali preveč predpisujočimi regulativnimi pristopi;

6.

ugotavlja, da lahko koncentracija ponudnikov storitev umetne inteligence, ki ponujajo investicijsko svetovanje, privede do črednega ravnanja, ki ga spodbujajo podobni modeli in omejeni viri podatkov; poziva evropske in nacionalne nadzornike, naj spremljajo ta tveganja in finančne institucije, da bi jih upoštevali pri razvoju orodij umetne inteligence;

7.

je seznanjen z odvisnostjo finančnih akterjev EU od tretjih ponudnikov tehnologije za gostovanje in razvoj njihovih modelov umetne inteligence ter poudarja, da je večina finančnih podjetij pri teh storitvah odvisna le od nekaj tretjih ponudnikov, kar lahko privede do tveganja koncentracije in zmanjša pogajalsko moč finančnih institucij pri pogajanjih ali spreminjanju pogodbenih pogojev za storitve umetne inteligence; je zaskrbljen, da bi lahko odvisnost od majhnega števila ponudnikov določene storitve povzročila sistemska tveganja v primeru motenj, zlasti če ni mogoče hitro preiti na alternativne ponudnike;

8.

ugotavlja, da morajo finančne institucije v skladu z nedavno sprejetim aktom o digitalni operativni odpornosti (DORA) sprejeti ukrepe za zmanjšanje tveganja koncentracije, ki izhaja iz tretjih ponudnikov storitev IKT, vključno z načrti izrednih ukrepov in ureditvami za zagotavljanje neprekinjenega poslovanja; poziva Komisijo in evropske nadzorne organe, naj ocenijo zlasti izvedljivost uporabe izhodnih strategij in prehodnih določb iz uredbe DORA za modele umetne inteligence, ki jih gosti infrastruktura tretjih ponudnikov, zlasti glede na znatno odvisnost od zunanjih ponudnikov storitev umetne inteligence iz tretjih držav;

9.

poudarja, da morajo imeti podjetja EU možnost, da za razvoj in uporabo umetne inteligence uporabljajo obstoječo infrastrukturo v oblaku; poziva k dejavnemu preučevanju možnosti za okrepitev združljivosti in interoperabilnosti modelov umetne inteligence in okvirov skladnosti z modeli podobno mislečih mednarodnih partnerjev, zlasti tistih, ki si prizadevajo zagotoviti enako zanesljive regulativne zaščitne ukrepe, da bi zagotovili, da bodo finančne institucije EU ohranile dostop do orodij in ponudnikov umetne inteligence, ter oblikovali uravnotežene svetovne standarde, hkrati pa zagotovili pravno varnost za evropska podjetja;

10.

podpira pobude za spodbujanje razvoja umetne inteligence in računalništva v oblaku v EU, zlasti za razvoj storitev umetne inteligence, ki so v celoti skladne z okviri EU o varstvu podatkov in temeljnih pravicah, hkrati pa krepijo strateško avtonomijo in odpornost;

11.

poudarja, da je sektor finančnih storitev zelo reguliran in da zanj velja več sektorskih zakonodajnih aktov na nacionalni ravni in na ravni EU, ki od akterjev zahtevajo obvladovanje tveganj na različnih področjih, vključno z varstvom podatkov, linijo podatkov, kakovostjo podatkov, upravljanjem podatkov, operativno odpornostjo, zunanjim izvajanjem, tveganjem modela, diskriminatornimi rezultati ter tržnim in kreditnim tveganjem, ki skupaj tvorijo okvir za uvajanje in upravljanje umetne inteligence v sektorju finančnih storitev (16); vendar poudarja, kako pomembno je stalno spremljati regulativne vrzeli in nove primere uporabe umetne inteligence v finančnem sektorju, zlasti glede varstva pravic potrošnikov in pravice do zasebnosti;

12.

ugotavlja, da je EU v primerjavi z drugimi jurisdikcijami sprejela pristop k ureditvi umetne inteligence, ki v večji meri temelji na tveganju; poudarja, da to lahko prestavlja izziv za uvajanje in razvoj umetne inteligence na področju finančnih storitev, vendar ponuja tudi priložnost za krepitev zaupanja in podporo inovacijam, če je okvir določen in izveden tako, da spodbuja pravno varnost, sorazmernost in zaupanje v trg; priznava, da se akt o umetni inteligenci še ne izvaja v celoti in da njegove praktične posledice še niso bile ocenjene;

13.

opozarja, da akt o umetni inteligenci izrecno upošteva obstoječi pravni red Unije na področju finančnih storitev, njegov namen pa je preprečiti podvajanje zahtev, zlasti v zvezi z notranjim upravljanjem in postopki upravljanja kakovosti, tako da omogoča omejena odstopanja za finančne institucije, kadar v pravu EU o finančnih storitvah obstajajo enakovredne zahteve; izraža zaskrbljenost, ker kljub temu prihaja do prekrivanja zakonodaje in ker ni zadostnih smernic o razlagi teh prekrivanj in medsebojnih vplivov, kar povzroča nepotrebno zapletenost, ustvarja regulativna bremena in pravno negotovost ter s tem ovira uporabo umetne inteligence v sektorju finančnih storitev; poudarja, da je treba zagotoviti pravni, regulativni in upravni okvir, ki bi temeljil na gotovosti, predvidljivosti in stabilnosti; ugotavlja, da bi lahko široka razlaga akta o umetni inteligenci, namesto sorazmerne razlage, privedla do nesorazmernih zahtev glede skladnosti za finančne institucije in ustvarila pravno negotovost; priznava izziv, ki izhaja iz dejstva, da imajo nadzorne agencije različne pravne razlage in pričakovanja glede uporabe pravnega reda, kar povzroča razdrobljenost enotnega trga; poziva Komisijo in pristojne nacionalne organe, naj med izvajanjem akta o umetni inteligenci in v okviru prihodnjega zbirnega svežnja za digitalno področje opredelijo in odpravijo morebitne nedoslednosti;

14.

podpira priporočilo iz akta o umetni inteligenci, naj se finančni pristojni organi imenujejo za organe za nadzor trga za sisteme umetne inteligence, ki se uporabljajo v finančnih storitvah, ki štejejo za visoko tvegane; vendar ugotavlja, da bodo za nadzor sistemov umetne inteligence, ki niso visoko tvegani, odgovorni drugi pristojni nacionalni organi; priznava izzive, ki izhajajo iz dejstva, da je za uporabo pravnega reda Unije odgovornih več nadzornih organov; poleg tega priznava izzive, ki izhajajo iz različnih pravnih razlag in pričakovanj različnih nadzornih agencij, kar bi lahko povzročilo razdrobljenost enotnega trga;

15.

spodbuja nadzorne organe, naj okrepijo usklajevanje, sodelovanje in izmenjavo informacij, da bi preprečili prekrivanje pristojnosti več organov; poleg tega poziva Komisijo in nadzorne organe, naj okrepijo sodelovanje z mednarodnimi partnerji v svetovnih forumih za določanje standardov, da bi zagotovili usklajenost in preprečili razdrobljenost regulativnih pristopov ter zagotovili, da bo EU sledila svetovnemu regulativnemu razvoju in bo z njim skladna;

16.

ugotavlja, da splošna uredba o varstvu podatkov in njene zahteve glede najmanjšega obsega podatkov, omejitve namena, privolitve strank in obdelave osebnih podatkov s strani finančnih institucij omejujejo uporabo umetne inteligence v finančnih storitvah; meni, da je potrebno ustrezno ravnovesje med izkoriščanjem prednosti uporabe umetne inteligence v finančnih storitvah in varstvom podatkov potrošnikov;

17.

obžaluje, da EU zaostaja pri inovacijah in naložbah na področju umetne inteligence, kar dokazuje 33 milijard EUR tveganega financiranja, ki so jih med letoma 2018 in 2023 prejela podjetja iz EU, ki razvijajo temeljne modele, medtem ko so ustrezna podjetja v ZDA prejela več kot 120 milijard EUR (17); meni, da lahko sektor finančnih storitev kot največji porabnik za storitve in proizvode IKT deluje kot katalizator pri mobilizaciji zasebnih naložb v umetno inteligenco; poziva k ambicioznemu predlogu za zagon evropskega ekosistema tveganega kapitala v okviru unije prihrankov in naložb, saj so naložbe v umetno inteligenco v finančnem sektorju EU počasne;

18.

poziva Komisijo, naj v posvetovanju z evropskimi in nacionalnimi nadzornimi organi ter deležniki zagotovi jasne in praktične smernice o uporabi obstoječe zakonodaje o finančnih storitvah v zvezi z uporabo umetne inteligence; meni, da bi moral biti cilj teh smernic omogočiti uporabo umetne inteligence v sektorju finančnih storitev, tudi na etičen, odgovoren in pregleden način; poziva k doslednim opredelitvam in poenostavitvi regulativnega okvira, da bi se izognili podvajanju zahtev, vključno z zahtevami glede poročanja o oceni tveganja, ter svari pred enotnim pristopom, ki nesorazmerno obremenjuje male in srednje velike finančne institucije; poudarja, da je treba vzpostaviti dobro ravnovesje med odgovorno uporabo umetne inteligence in omogočanjem dovolj prostora za inovacije;

19.

poziva Komisijo, naj preuči, kako bi bilo mogoče orodja, ki temeljijo na umetni inteligenci, uporabiti na finančnih trgih, na primer pri posredovanju, upravljanju portfeljev in avtomatizaciji skladnosti, da bi prispevali k ciljem unije prihrankov in naložb, tudi s podpiranjem malih vlagateljev pri sprejemanju informiranih naložbenih odločitev, izboljšanjem finančnega izobraževanja, spodbujanjem inovacij med podjetji, zmanjšanjem razdrobljenosti trga in zagotavljanjem varnega okolja za potrošnike; poudarja, da je za doseganje teh ciljev potreben tehnološko nevtralen regulativni okvir;

20.

meni, da sektorska zakonodaja, ki ureja uporabo umetne inteligence na področju finančnih storitev, na splošno zadostuje za uporabo umetne inteligence v sedanji obliki; poudarja, da bi bilo treba stalno spremljati morebitna podvajanja ali pomanjkljivosti v veljavni zakonodaji o finančnih storitvah, ki se uporablja za uporabo umetne inteligence; poudarja, da bi dodatna zakonodaja povečala zapletenost in negotovost in bi bil sektor na koncu prikrajšan za koristi uporabe umetne inteligence; poudarja, da so pri zanašanju na obstoječe okvire potrebni stalen nadzor, učinkovito izvrševanje in jasna dodelitev odgovornosti za zagotavljanje skladnosti, zlasti v primeru čezmejnega uvajanja umetne inteligence ali uvajanja umetne inteligence, oddanega v zunanje izvajanje, pa tudi spremljanje in ocenjevanje morebitnih prihodnjih vrzeli, ki bi jih ustvaril nov razvoj umetne inteligence, če bi to povzročilo znatna tveganja za potrošnike in finančno stabilnost; močno priporoča Komisiji in državam članicam, naj se uskladijo, da bi preprečile čezmerno prenašanje ustrezne zakonodaje in ustvarjanje novih ovir na čezmejnih trgih; ugotavlja, da lahko Komisija v skladu z aktom o umetni inteligenci oceni seznam visokotveganih aplikacij iz Priloge III k aktu o umetni inteligenci;

21.

poziva evropske in nacionalne nadzorne organe, naj podprejo odgovorno uvajanje umetne inteligence s spodbujanjem doslednih razlag in sorazmerne uporabe veljavnih predpisov; meni, da ustrezna ureditev uvajanja umetne inteligence v sektorju finančnih storitev podpira uporabo umetne inteligence in zaupanje družbe vanjo; poudarja, da sta odnos in pristop nadzornikov enako pomembna kot sama pravila; priporoča, naj se pri nadzornih prizadevanjih namesto abstraktnim ali teoretičnim pomislekom da prednost otipljivim, operativnim tveganjem, kjer so ugotovljena, hkrati pa naj se ohrani aktiven in sorazmeren pristop k nadzoru z uravnoteženjem inovacij in varstva potrošnikov za obvladovanje nepredvidenih tveganj, ki izhajajo iz vse širše uporabe tehnologij umetne inteligence; poudarja vlogo učinkovitega spremljanja in obravnavanja tveganj, povezanih z umetno inteligenco, vključno s tistimi, ki so povezana z nepreglednostjo, tržno koncentracijo in izgubo odgovornosti, kar bi lahko vplivalo na finančno stabilnost;

22.

poziva Komisijo in države članice, naj odpravijo vstopne ovire znotraj EU za inovativna finančna podjetja, ki temeljijo na umetni inteligenci, med drugim z racionaliziranim izdajanjem licenc, čezmejnimi podjetji v razširitveni fazi in vključevanjem v nadzorniška inovacijska vozlišča;

23.

podpira raziskave o vplivu uporabe umetne inteligence na okolje s poudarkom na intenzivnosti rabe virov in dolgoročni trajnostnosti, da bi povečali preglednost in finančnim institucijam pomagali oceniti te vidike in njihov okoljski odtis;

24.

meni, da vse večja uporaba umetne inteligence, ki bi lahko vplivala na trg dela na področju finančnih storitev, zahteva visoko pismenost na področju umetne inteligence, digitalna znanja in spretnosti ter vključevanje talentov, podprto s pobudami za izpopolnjevanje v javnem sektorju in tržnimi rešitvami; podpira prizadevanja industrije in ciljno usmerjene pobude, vključno z javno-zasebnimi partnerstvi in programi preusposabljanja, za vzpostavitev tehničnih in etičnih kompetenc na področju umetne inteligence med zaposlenimi v finančnem sektorju, zlasti glede pravic in tveganj; poudarja, da je treba razviti strategije za umetno inteligenco, ki bodo povečale produktivnost, hkrati pa podpirale prilagajanje, izpopolnjevanje in prerazporejanje delavcev ter zagotavljale ustrezen človeški nadzor; poziva k večji jasnosti v zvezi z zahtevami iz akta o umetni inteligenci, da morajo finančne institucije izpolnjevati zahteve glede pismenosti na področju umetne inteligence; poleg tega poudarja, kako pomembno je zagotoviti in spodbujati enak dostop do orodij in storitev umetne inteligence, tudi za manj digitalno sposobne dele prebivalstva;

25.

poziva Komisijo ter evropske in nacionalne nadzorne organe, naj ocenijo dodano vrednost regulativnih peskovnikov za umetno inteligenco, inovacijskih vozlišč in čezmejnih preskusnih okolij za finančne storitve, ki omogočajo eksperimentiranje s finančnimi inovacijami na podlagi umetne inteligence, da bi zagonskim podjetjem pomagali pri preskušanju njihovih produktov in obstoječim institucijam omogočili, da preučijo novo uporabo v nadzorovanem okolju, hkrati pa ohranili varstvo potrošnikov in celovitost trga; meni, da bi lahko z dobro uporabo regulativnih peskovnikov za umetno inteligenco zagotovili strukturirano in nadzorovano preskusno okolje, potrebno za spodbujanje inovacij in odgovornega uvajanja umetne inteligence v sektorju finančnih storitev; spodbuja evropske in nacionalne nadzorne organe, naj okrepijo nadzorniška orodja in tehnologijo (SupTech) z uporabo umetne inteligence ter jih vključijo v vsakodnevne nadzorne dejavnosti, da bi izboljšali učinkovitost in uspešnost finančnega nadzora; ugotavlja, da namen teh orodij ni nadomestiti nadzornikov, temveč jih podpirati;

°

° °

26.

naroči svoji predsednici, naj to resolucijo posreduje Svetu, Komisiji ter vladam in parlamentom držav članic.