1.

bere na vědomí široké a rozmanité zavádění umělé inteligence v celém odvětví finančních služeb EU, když finanční instituce, které již delší dobu využívají klasické strojové učení, nyní postupně experimentují s používáním generativní umělé inteligence, včetně velkých jazykových modelů a dalších základních modelů, jako podpůrného nástroje; zdůrazňuje, že ve většině případů používání umělé inteligence je cílem zefektivnit procesy „back-office“, když většina využití představuje snadno dostupné možnosti, a nikoli vysoce rizikové inovace“; konstatuje však, že využívání umělé inteligence k hodnocení úvěruschopnosti fyzických osob nebo ke stanovení jejich úvěrového hodnocení, které je v současnosti v aktu o umělé inteligenci definováno jako vysoce rizikové, se rozšířilo a dále narůstá; zdůrazňuje, že zavádění plně autonomních systémů umělé inteligence ve finančním sektoru by mělo podléhat lidskému dohledu (15); konstatuje, že finanční instituce dále zkoumají případy použití zahrnující modely GPAI, jejichž větší složitost s sebou nese vyšší provozní rizika a riziko nedodržení předpisů, ale také konstatuje, že tyto aplikace zůstávají z velké části ve fázi testování;

2.

vzhledem k tomu, že umělá inteligence je pro finanční instituce EU významnou příležitostí k tomu, aby vyvíjely inovativnější produkty, zefektivnily operace a zlepšily konkurenceschopnost v celosvětovém měřítku; zdůrazňuje, že využívání umělé inteligence ve finančních službách má potenciál přinést společenský prospěch, včetně účinnějšího odhalování a prevence podvodů, kontrol v oblasti boje proti praní peněz a kontrol sankcí, podpory klientů, monitorování transakcí, individuálního finančního poradenství, shromažďování, analýzy a podávání zpráv o životním prostředí, sociálních a správních údajích, obchodních modelů a strategií, pomoci při dodržování právních předpisů, dozoru nad trhem a monitorování zneužívání; domnívá se, že využívání umělé inteligence ve finančním sektoru by mělo zajistit rovnováhu mezi inovacemi a konkurenceschopností na jedné straně a řízením rizik, ochranou spotřebitele a finanční stabilitou na straně druhé; zdůrazňuje, že přínosy používání umělé inteligence ve finančních službách by měly být přeneseny především na koncové zákazníky, například prostřednictvím nižších cen, lepšího pokrytí, lepšího finančního poradenství, většího finančního začlenění a lepšího přístupu a lepší finanční gramotnosti;

3.

Konstatuje, že existují rovněž rizika plynoucí z používání umělé inteligence ve finančních službách; zdůrazňuje, že před nedávným průlomem v oblasti LLM tato rizika vyplývala z kvality, přesnosti a reprezentativnosti údajů, na nichž byly modely trénovány, neboť výstupy umělé inteligence jiné než LLM jsou pouze stejně spolehlivé jako vstupní údaje; zdůrazňuje, že špatná kvalita údajů by mohla vést mimo jiné k diskriminačním výsledkům, nesprávnému prodeji a zesíleným systémovým předsudkům, zatímco neprůhledné a složité modely by mohly vést k narušení soukromí a vyloučení zranitelných spotřebitelů, například prostřednictvím cenové diskriminace, čímž by se zhoršila stávající rizika nebo vznikla rizika nová; zdůrazňuje, že LLM přinášejí významná dodatečná rizika, která mohou být obtížně měřitelná, včetně modelových halucinací, a to i v případech, kdy jsou údaje z odborné přípravy vysoce kvalitní; zdůrazňuje, že tato rizika a výsledky musí být účinně zmírněny; bere na vědomí výzvy související se zranitelnostmi v oblasti kybernetické bezpečnosti a s vysvětlitelností systémů umělé inteligence; zdůrazňuje proto, že je třeba zajistit důkladnou správu dat, přísné testování a dokumentaci modelů umělé inteligence spolu s udržením člověka v kruhu a dodržováním vysokého standardu pro používání systémů umělé inteligence v aplikacích zaměřených na spotřebitele;

4.

chápe, že finanční instituce přijaly k vývoji a zavádění systémů UI selektivní přístup s cílem zajistit dodržování stávajících průřezových a odvětvových právních předpisů; zdůrazňuje, že tento obezřetný přístup může být motivován rovněž neprokázanou poptávkou zákazníků, jejich vyvíjejícími se očekáváními a zvažováním rizik;

5.

zdůrazňuje, že rozvoj umělé inteligence představuje výzvu také pro orgány dohledu, zejména kvůli nedostatku odborných znalostí specificky zaměřených na umělou inteligenci a nástrojů dohledové technologie, které by umožnily plně posoudit pokročilé modely strojového učení a generativní umělé inteligence; vyzývá evropské a vnitrostátní orgány dohledu, aby se přizpůsobily rostoucímu využívání umělé inteligence ve finančních službách a aby sledovaly, posuzovaly a zmírňovaly rizika pro spotřebitele a finanční stabilitu, přičemž je třeba mít na paměti, že neodrazují od inovací prostřednictvím nepřiměřené zátěže spojené s dodržováním předpisů nebo příliš normativních regulačních přístupů;

6.

Konstatuje, že koncentrace poskytovatelů služeb umělé inteligence, kteří nabízejí investiční poradenství, může vést k chování stáda, které se řídí podobnými modely a omezenými zdroji údajů; naléhavě vyzývá evropské a vnitrostátní orgány dohledu, aby tato rizika a finanční instituce sledovaly s cílem zohlednit je při vývoji nástrojů umělé inteligence;

7.

konstatuje závislost finančních subjektů EU na třetích stranách poskytujících technologie (TPP) při hostování a vývoji jejich modelů umělé inteligence a zdůrazňuje, že většina finančních společností je v případě těchto služeb závislá pouze na několika TPP, což může vést k riziku koncentrace a obavám z existence subjektů, které jsou příliš velké na to, aby mohly zkrachovat; je znepokojen tím, že závislost na malém počtu poskytovatelů určité služby by mohla vést k systémovým rizikům v případě narušení týkajících se těchto poskytovatelů, zejména pokud není možné rychle přejít k alternativním poskytovatelům.

8.

bere na vědomí, že akt o digitální provozní odolnosti finančního sektoru (DORA), který nedávno nabyl účinnosti, vyžaduje, aby finanční instituce zavedly opatření ke zmírnění rizika koncentrace spojených s poskytovateli služeb IKT, včetně pohotovostních plánů a opatření k zajištění kontinuity činnosti; žádá Komisi a evropské orgány pro dohled, aby posoudily zejména proveditelnost uplatnění strategií pro ukončení činnosti a přechodných ustanovení stanovených v nařízení DORA na modely umělé inteligence hostované infrastrukturou třetích zemí;

9.

zdůrazňuje, že společnosti v EU musí mít možnost využívat stávající cloudovou infrastrukturu pro vývoj a zavádění umělé inteligence; vyzývá k aktivnímu prozkoumání možností, jak posílit kompatibilitu a interoperabilitu modelů umělé inteligence a rámců pro soulad s modely a rámci pro dodržování pravidel podobně smýšlejících mezinárodních partnerů, zejména těch, kteří chtějí poskytnout stejně spolehlivé regulační záruky, s cílem zajistit, aby finanční instituce EU měly přístup k nástrojům a dodavatelům umělé inteligence, a s cílem vytvořit vyvážené globální normy a zároveň zajistit právní jistotu pro evropské podniky;

10.

Podporuje iniciativy na podporu rozvoje umělé inteligence a cloud computingu v EU, zejména s cílem rozvíjet služby umělé inteligence, které jsou plně v souladu s rámci EU pro ochranu údajů a základní práva, a zároveň posilovat strategickou autonomii a odolnost;

11.

zdůrazňuje, že odvětví finančních služeb je vysoce regulované a podléhá řadě odvětvových právních předpisů na vnitrostátní úrovni i na úrovni EU, které vyžadují, aby finanční subjekty řídily rizika v různých oblastech včetně ochrany údajů, původu dat, kvality údajů, správy údajů, provozní odolnosti, outsourcingu, rizika modelů, diskriminačních výsledků a tržního a úvěrového rizika, které společně tvoří rámec pro zavádění a správu umělé inteligence v odvětví finančních služeb (16); zdůrazňuje však, že je důležité průběžně sledovat mezery v právních předpisech a vyvíjející se případy využívání umělé inteligence ve finančním odvětví, zejména s ohledem na ochranu práv spotřebitelů a práva na soukromí;

12.

konstatuje, že EU zaujala k regulaci umělé inteligence oproti jiným jurisdikcím přísnější přístup; zdůrazňuje, že ačkoli to může vytvářet výzvy s ohledem na přijímání a vývoj umělé inteligence ve finančních službách, nabízí to rovněž příležitost k budování důvěry a podpoře inovací, a to za předpokladu, že bude regulační rámec vyjasněn a bude prováděn způsobem, který bude posilovat právní jistotu, proporcionalitu a důvěru trhu; uznává, že akt o umělé inteligenci ještě nebyl plně proveden a že je třeba ještě posoudit jeho praktické dopady;

13.

připomíná, že akt o umělé inteligenci výslovně zohledňuje stávající acquis v oblasti finančních služeb a snaží se zabránit zdvojování požadavků, zejména pokud jde o vnitřní správu a procesy řízení kvality, tím, že umožňuje omezené výjimky pro finanční instituce do té míry, do níž jsou v právu EU v oblasti finančních služeb stanoveny rovnocenné požadavky; vyjadřuje znepokojení nad tím, že přesto dochází k překrývání právních předpisů a chybí dostatečné pokyny k výkladu tohoto překrývání a interakcí právních předpisů, což vytváří nepatřičnou složitost, zátěž spojenou s dodržováním předpisů a právní nejistotu, a to brání zavádění umělé inteligence v odvětví finančních služeb; zdůrazňuje význam zajištění právního, regulačního a správního rámce založeného na jistotě, předvídatelnosti a stabilitě; konstatuje, že extenzivní výklad aktu o umělé inteligenci místo jeho přiměřeného výkladu může vést k nepřiměřeným požadavkům na dodržování předpisů pro finanční instituce a způsobovat právní nejistotu; uznává problém, jenž vyplývá ze skutečnosti, že orgány dohledu mají, pokud jde o uplatňování acquis, různé právní výklady a očekávání, což vede k roztříštěnosti jednotného trhu; vyzývá Komisi a příslušné vnitrostátní orgány, aby zjistily a odstranily veškeré nesrovnalosti v průběhu provádění aktu o umělé inteligenci a v rámci nadcházejícího plánovaného souhrnného balíčku pro digitální oblast;

14.

podporuje doporučení aktu o umělé inteligenci, aby byly finanční orgány příslušné pro finanční sektor určeny jako orgány dozoru nad trhem pro systémy umělé inteligence používané ve finančním sektoru, jež jsou považovány za vysoce rizikové; konstatuje však, že za dohled nad systémy umělé inteligence, které nejsou vysoce rizikové, budou odpovědné další příslušné vnitrostátní orgány; uznává problémy vyplývající z existence více agentur dohledu s pravomocemi v oblasti uplatňování acquis; uznává dále problémy vyplývající z rozdílných právních výkladů a očekávání různých orgánů dohledu, které by mohly vést k roztříštěnosti jednotného trhu;

15.

Vybízí orgány dohledu, aby posílily koordinaci, spolupráci a výměnu informací s cílem zabránit překrývání nároků na soudní příslušnost; dále naléhavě vyzývá Komisi a orgány dohledu, aby posílily spolupráci s mezinárodními partnery na globálních fórech pro stanovování norem s cílem zajistit soulad a zabránit roztříštěnosti regulačních přístupů a zajistit, aby EU držela krok a sladila se s celosvětovým vývojem v oblasti regulace;

16.

konstatuje, že obecné nařízení o ochraně osobních údajů a jeho požadavky na minimalizaci údajů, zásadu účelového omezení, souhlas zákazníků a zpracování osobních údajů finančními institucemi ukládají nutnost omezení používání umělé inteligence ve finančních službách; se domnívá, že je třeba najít správnou rovnováhu mezi využíváním výhod umělé inteligence ve finančních službách a ochranou údajů spotřebitelů;

17.

Vyjadřuje politování nad tím, že EU zaostává, pokud jde o inovace a investice do umělé inteligence, o čemž svědčí 33 miliard EUR rizikového financování, které obdržely společnosti z EU vyvíjející základní modely v letech 2018 až 2023, ve srovnání s více než 120 miliardami EUR, které obdržely jejich protějšci z USA (17); domnívá se, že odvětví finančních služeb, jež na služby a produkty IKT vydává nejvíce prostředků, má potenciál působit při mobilizaci soukromých investic do umělé inteligence jako katalyzátor; vzhledem k tomu, že investice v EU jsou pomalé, vyzývá k předložení ambiciózního návrhu, který by podnítil vznik evropského rizikového kapitálu jako součásti unie úspor a investic;

18.

vyzývá Komisi, aby poskytla jasné a praktické pokyny vypracované po konzultaci s evropskými a vnitrostátními orgány dohledu a zúčastněnými stranami ohledně uplatňování stávajících právních předpisů v oblasti finančních služeb, pokud jde o využívání umělé inteligence; domnívá se, že cílem těchto pokynů by mělo být umožnit využívání umělé inteligence v odvětví finančních služeb, a to i etickým, odpovědným a transparentním způsobem; požaduje jednotné definice a zjednodušení regulačního rámce, aby se zabránilo duplicitním požadavkům, včetně požadavků na podávání zpráv o posouzení rizik, a varuje před univerzálním přístupem, který představuje nepřiměřenou zátěž pro menší a střední finanční instituce; zdůrazňuje, že je třeba zajistit náležitou rovnováhu mezi odpovědným využíváním umělé inteligence a poskytnutím dostatečného prostoru pro inovace;

19.

vyzývá Komisi, aby prozkoumala, jak lze nástroje založené na umělé inteligenci využívat na finančních trzích, jako je zprostředkování, správa portfolia a automatizace dodržování předpisů, s cílem přispět k cílům unie úspor a investic, mimo jiné podporou retailových investorů při přijímání informovaných investičních rozhodnutí, posílením finančního vzdělávání, podporou inovací mezi společnostmi, snížením roztříštěnosti trhu a zajištěním bezpečného prostředí pro spotřebitele; zdůrazňuje, že dosažení těchto cílů vyžaduje technologicky neutrální regulační rámec;

20.

domnívá se, že odvětvové právní předpisy upravující používání umělé inteligence ve finančních službách jsou dostatečné především k tomu, aby se vztahovaly na zavádění umělé inteligence v její současné podobě; zdůrazňuje, že by mělo být prováděno průběžné monitorování s cílem určit, zda ve stávajících právních předpisech v oblasti finančních služeb, které se vztahují na zavádění umělé inteligence, dochází ke zdvojování nebo nedostatkům; zdůrazňuje, že další právní předpisy by zvýšily složitost právního prostředí a nejistotu a v konečném důsledku by mohly toto odvětví připravit o výhody používání umělé inteligence; zdůrazňuje, že spoléhání se na stávající rámce vyžaduje trvalou pozornost orgánů dohledu, účinné prosazování předpisů a jasné rozdělení odpovědnosti za zajištění souladu, zejména v přeshraničních nebo externě zajišťovaných scénářích zavádění umělé inteligence, jakož i sledování a posuzování možných budoucích nedostatků způsobených novým vývojem umělé inteligence, pokud vytvářejí podstatná rizika pro spotřebitele a finanční stabilitu; důrazně doporučuje Komisi a členským státům, aby koordinovaly svou činnost s cílem zabránit „gold-platingu“ příslušných právních předpisů a zabránit vytváření nových překážek na přeshraničních trzích; konstatuje, že v souladu s aktem o umělé inteligenci může Komise posoudit seznam vysoce rizikových aplikací podle přílohy III aktu o umělé inteligenci;

21.

vyzývá evropské a vnitrostátní orgány dohledu, aby podporovaly odpovědné zavádění umělé inteligence prosazováním jednotného výkladu a přiměřeného uplatňování současné regulace; domnívá se, že přiměřená regulace zavádění umělé inteligence ve finančním sektoru podporuje zavádění umělé inteligence a společenskou důvěru v ni; zdůrazňuje, že postoj a přístup orgánů dohledu jsou stejně důležité jako samotná pravidla; doporučuje, aby úsilí v oblasti dohledu upřednostňovalo konkrétní provozní rizika tam, kde byla zjištěna, a nikoli abstraktní nebo teoretické obavy, a zároveň zachovalo aktivní a přiměřený přístup k dohledu, a to vyvážením inovací a ochrany spotřebitele, s cílem řídit nepředvídatelná rizika vyplývající z rozšíření využívání technologií umělé inteligence; zdůrazňuje úlohu účinného monitorování a řešení rizik souvisejících s umělou inteligencí, včetně rizik souvisejících s neprůhledností, koncentrací trhu a ztrátou odpovědnosti, což by mohlo mít dopad na finanční stabilitu;

22.

vyzývá Komisi a členské státy, aby odstranily překážky vstupu pro inovativní finanční podniky založené na umělé inteligenci v EU, mimo jiné prostřednictvím zjednodušeného udělování licencí, přeshraničních rychle se rozvíjejících podniků a začlenění do center pro inovace v oblasti dohledu;

23.

podporuje výzkum dopadu využívání umělé inteligence na životní prostředí se zaměřením na intenzitu zdrojů a dlouhodobou udržitelnost s cílem zvýšit transparentnost a pomáhat finančním institucím posuzovat tyto aspekty a jejich vlastní environmentální stopu;

24.

domnívá se, že rostoucí využívání umělé inteligence, které může mít dopad na trh práce ve finančních službách, vyžaduje silnou gramotnost v oblasti umělé inteligence, digitální dovednosti a zapojení talentů, které budou podporovány jak iniciativami veřejného sektoru v oblasti prohlubování dovedností, tak tržními řešeními; podporuje úsilí příslušného odvětví a cílené iniciativy, včetně partnerství veřejného a soukromého sektoru a rekvalifikačních programů, s cílem vybudovat technické a etické kompetence v oblasti umělé inteligence ve finanční pracovní síle, zejména s ohledem na práva a rizika; zdůrazňuje, že je důležité rozvíjet strategie umělé inteligence, které zvyšují produktivitu a zároveň podporují přizpůsobování, prohlubování dovedností a přemisťování pracovníků, a to pod smysluplným lidským dohledem a kontrolou; požaduje větší jasnost, pokud jde o požadavky aktu o umělé inteligenci na to, aby finanční instituce splňovaly podmínky na gramotnost v oblasti umělé inteligence; dále zdůrazňuje, že je důležité zajistit a podporovat rovný přístup k nástrojům a službám umělé inteligence, a to i pro digitálně méně schopné skupiny obyvatelstva;

25.

vyzývá Komisi a evropské a vnitrostátní orgány dohledu, aby posoudily přidanou hodnotu regulačních pískovišť pro umělou inteligenci, inovačních center a přeshraničních testovacích prostředí pro finanční služby, pokud jde o to, umožnit experimentování s finančními inovacemi založenými na umělé inteligenci, a to jak s cílem pomáhat začínajícím podnikům testovat jejich produkty, tak s cílem umožnit stávajícím institucím prozkoumat nové možnosti využití umělé inteligence v kontrolovaném prostředí a zároveň zajistit ochranu spotřebitelů a integritu trhu; domnívá se, že řádné využívání regulačních pískovišť pro umělou inteligenci by mohlo poskytnout strukturované testovací prostředí s dohledem, které je nezbytné k usnadnění inovací a odpovědného zavádění umělé inteligence v odvětví finančních služeb; vybízí evropské a vnitrostátní orgány dohledu, aby posílily nástroje a technologie v oblasti finančního dohledu prostřednictvím využívání umělé inteligence a začlenily je do každodenních činností dohledu s cílem zlepšit účinnost a účelnost finančního dohledu; konstatuje, že tyto nástroje mají podporovat, a nikoli nahrazovat lidský dohled;

°

° °

26.

pověřuje svou předsedkyni, aby předala toto usnesení Radě, Komisi a vládám a parlamentům členských států.