1.

neemt kennis van de brede en diverse toepassing van AI in de financiële dienstensector in de EU, waarbij financiële instellingen, die al geruime tijd gebruikmaken van klassiek machinaal leren, nu geleidelijk experimenteren met het gebruik van generatieve AI, waaronder grote taalmodellen (LLM’s) en andere basismodellen, als ondersteunend instrument; benadrukt dat de meeste huidige gebruiksgevallen van AI gericht zijn op het stroomlijnen van back-officeprocessen, waarbij het voornamelijk om eenvoudige toepassingen gaat; merkt echter op dat het gebruik van AI om de kredietwaardigheid van natuurlijke personen te beoordelen of hun kredietscore vast te stellen, wat momenteel in de AI-verordening als activiteit met een hoog risico wordt gedefinieerd, wijdverbreid is en toeneemt; benadrukt dat de inzet van volledig autonome AI-systemen in de financiële sector onder menselijk toezicht moet staan (15); merkt op dat financiële instellingen gebruiksgevallen van AI-modellen voor algemene doeleinden blijven verkennen, waarvan de grotere complexiteit hogere operationele en nalevingsrisico’s met zich meebrengt, maar merkt ook op dat deze toepassingen grotendeels in de testfase blijven;

2.

is van mening dat AI een geweldige kans biedt voor financiële instellingen in de EU om innovatievere producten te ontwikkelen, hun activiteiten te stroomlijnen en hun concurrentievermogen op wereldschaal te verbeteren; benadrukt dat het gebruik van AI in financiële diensten maatschappelijke voordelen kan opleveren, waaronder een doeltreffendere opsporing en preventie van fraude, controles op het witwassen van geld en sancties, klantenondersteuning, transactiemonitoring, gepersonaliseerd financieel advies, het verzamelen, analyseren en rapporteren van milieu-, sociale en governancegegevens, handelsmodellen en -strategieën, bijstand bij de naleving van de regelgeving, markttoezicht en monitoring van misbruik; is van mening dat bij het gebruik van AI in de financiële sector een evenwicht moet worden gevonden tussen innovatie en concurrentievermogen enerzijds en risicobeheer, consumentenbescherming en financiële stabiliteit anderzijds; benadrukt dat de voordelen van het gebruik van AI in financiële diensten in de eerste plaats aan eindklanten moeten worden doorgegeven, bijvoorbeeld door lagere prijzen, een betere dekking, beter financieel advies, meer financiële inclusie en toegang, en betere financiële geletterdheid;

3.

merkt op dat er ook risico’s verbonden zijn aan het gebruik van AI in financiële diensten; benadrukt dat deze risico’s vóór de recente doorbraak van LLM’s voortvloeiden uit de kwaliteit, nauwkeurigheid en representativiteit van de gegevens waarmee modellen werden getraind, aangezien AI-outputs zonder gebruikmaking van LLM’s slechts net zo betrouwbaar zijn als de gegevensinput; onderstreept dat slechte gegevenskwaliteit onder meer kan leiden tot discriminerende resultaten, misleidende verkoop en versterkte systemische vooroordelen, terwijl ondoorzichtige en complexe modellen kunnen leiden tot inbreuken op de privacy en de uitsluiting van kwetsbare consumenten, bijvoorbeeld door prijsdiscriminatie, waardoor bestaande risico’s worden vergroot of nieuwe risico’s ontstaan; benadrukt dat LLM’s aanzienlijke extra risico’s met zich meebrengen die moeilijk te meten kunnen zijn, waaronder modelhallucinaties, zelfs wanneer de trainingsgegevens van hoge kwaliteit zijn; benadrukt dat dergelijke risico’s en resultaten doeltreffend moeten worden beperkt; merkt voorts op dat er uitdagingen zijn in verband met kwetsbaarheden op het gebied van cyberbeveiliging en de verklaarbaarheid van AI-systemen; benadrukt daarom de noodzaak om te zorgen voor robuust gegevensbeheer, grondige tests en documentatie van AI-modellen, naast het behoud van menselijke betrokkenheid en het handhaven van strikte normen voor het gebruik van AI-systemen in consumentgerichte toepassingen;

4.

neemt nota van het feit dat financiële instellingen een afgewogen aanpak hebben gekozen voor het ontwikkelen, testen en implementeren van AI-systemen, met het oog op naleving van bestaande transversale en sectorale wetgeving; onderstreept dat deze voorzichtige aanpak ook kan worden ingegeven door een niet-aangetoonde vraag van klanten, veranderende verwachtingen van klanten en risico-overwegingen, zoals hierboven uiteengezet;

5.

benadrukt dat de opmars van AI ook uitdagingen met zich meebrengt voor toezichthoudende autoriteiten, met name gezien het gebrek aan AI-specifieke expertise en adequate technologische hulpmiddelen voor toezicht om geavanceerde modellen voor machinaal leren en generatieve AI volledig te kunnen beoordelen; verzoekt de Europese en nationale toezichthoudende autoriteiten zich aan te passen aan het toenemende gebruik van AI in financiële diensten en de risico’s voor consumenten en financiële stabiliteit te monitoren, te beoordelen en te beperken, zonder innovatie te ontmoedigen door onevenredige nalevingslasten of te prescriptieve regelgevingsbenaderingen;

6.

merkt op dat de concentratie onder AI-dienstverleners die beleggingsadvies aanbieden, kan leiden tot kuddegedrag dat wordt gedreven door soortgelijke modellen en beperkte gegevensbronnen; dringt er bij de Europese en nationale toezichthouders op aan om deze risico’s en financiële instellingen te monitoren, zodat hiermee rekening wordt gehouden bij de ontwikkeling van AI-instrumenten;

7.

wijst op de afhankelijkheid van financiële actoren in de EU van derde technologieleveranciers (TPP’s) voor het hosten en ontwikkelen van hun AI-modellen en benadrukt dat de meerderheid van de financiële ondernemingen voor deze diensten afhankelijk is van slechts enkele TPP’s, wat kan leiden tot concentratierisico’s en de onderhandelingspositie van financiële instellingen bij het onderhandelen over of wijzigen van contractvoorwaarden voor AI-diensten kan verzwakken; waarschuwt dat de afhankelijkheid van een klein aantal aanbieders voor een bepaalde dienst kan leiden tot systeemrisico’s in het geval van verstoringen, vooral als een snelle overstap naar alternatieve aanbieders niet haalbaar is;

8.

merkt op dat de onlangs aangenomen verordening digitale operationele weerbaarheid (DORA) financiële instellingen verplicht maatregelen te nemen om risico’s in verband met concentratie van TTP’s op het gebied van informatie- en communicatietechnologie (ICT) te beperken, met inbegrip van noodplannen en regelingen om de bedrijfscontinuïteit te waarborgen; verzoekt de Commissie en de Europese toezichthoudende autoriteiten met name na te gaan of het haalbaar is de in DORA uiteengezette exitstrategieën en overgangsbepalingen toe te passen op AI-modellen die gehost worden door de infrastructuur van TPP’s, met name in verband met de aanzienlijke afhankelijkheid voor AI-diensten van TTP’s in derde landen;

9.

benadrukt dat EU-bedrijven bestaande cloudinfrastructuur moeten kunnen gebruiken voor de ontwikkeling en inzet van AI; dringt erop aan actief te zoeken naar manieren om de compatibiliteit en interoperabiliteit van AI-modellen en nalevingskaders met die van gelijkgestemde internationale partners te versterken, met name die welke streven naar het bieden van even robuuste regelgevingswaarborgen, om ervoor te zorgen dat de financiële instellingen van de EU toegang blijven houden tot AI-instrumenten en -leveranciers, en met het oog op het tot stand brengen van evenwichtige mondiale normen, waarbij de rechtszekerheid voor Europese bedrijven wordt gewaarborgd;

10.

steunt initiatieven om de ontwikkeling van AI en cloudcomputing in de EU te stimuleren, met name met het oog op de ontwikkeling van AI-diensten die volledig in overeenstemming zijn met de EU-kaders voor gegevensbescherming en grondrechten, en tegelijkertijd de strategische autonomie en veerkracht te versterken;

11.

benadrukt dat de financiëledienstensector sterk gereguleerd is en onderworpen is aan meerdere sectorale wetgevingsteksten op zowel nationaal als EU-niveau, op grond waarvan actoren risico’s moeten beheren op diverse gebieden, zoals gegevensbescherming, de herkomst van de gegevens, gegevenskwaliteit, datagovernance, operationele weerbaarheid, uitbesteding, modelrisico, discriminerende resultaten, en markt- en kredietrisico, die samen het kader vormen voor de inzet en governance van AI in de financiëledienstensector (16); benadrukt echter het belang van voortdurende monitoring van lacunes in de regelgeving en nieuwe gebruiksgevallen van AI in de financiële sector, met name met het oog op de bescherming van de rechten van consumenten en het recht op privacy;

12.

merkt op dat de EU een meer op risico gebaseerde aanpak heeft gekozen voor de AI-regelgeving dan andere jurisdicties; onderstreept dat dit weliswaar uitdagingen kan opleveren voor de invoering en ontwikkeling van AI in financiële diensten, maar ook een kans biedt om vertrouwen op te bouwen en innovatie te ondersteunen, mits het kader wordt verduidelijkt en uitgevoerd op een manier die rechtszekerheid, evenredigheid en marktvertrouwen bevordert; erkent dat de AI-verordening nog niet volledig wordt uitgevoerd en dat de praktische gevolgen ervan nog moeten worden beoordeeld;

13.

herinnert eraan dat de AI-verordening uitdrukkelijk rekening houdt met het huidige acquis op het gebied van financiële diensten en erop gericht is dubbele vereisten te vermijden, met name wat betreft interne governance en kwaliteitsbeheerprocessen, door beperkte afwijkingen voor financiële instellingen toe te staan voor zover gelijkwaardige vereisten zijn vastgelegd in de EU-wetgeving inzake financiële diensten; uit zijn bezorgdheid over het feit dat er niettemin overlappingen in de regelgeving zijn en dat er onvoldoende richtsnoeren zijn voor de interpretatie van deze overlappingen en interacties op het gebied van regelgeving, hetgeen leidt tot onnodige complexiteit, nalevingslasten en rechtsonzekerheid, waardoor de ingebruikneming van AI in de financiële dienstensector wordt belemmerd; benadrukt dat het belangrijk is voor een wettelijk, regelgevend en administratief kader te zorgen dat is gebaseerd op zekerheid, voorspelbaarheid en stabiliteit; merkt op dat een ruimere interpretatie van de AI-verordening, in plaats van een evenredige interpretatie, kan leiden tot onnodige nalevingsvereisten voor financiële instellingen en rechtsonzekerheid kan veroorzaken; erkent de uitdaging die uitgaat van het feit dat de juridische interpretaties en verwachtingen van toezichthoudende agentschappen wat betreft de toepassing van het acquis verschillend zijn, wat leidt tot versnippering van de interne markt; verzoekt de Commissie en de nationale bevoegde autoriteiten om eventuele inconsistenties bij de uitvoering van de AI-verordening en in het kader van het komende digitale omnibuspakket in kaart te brengen en aan te pakken;

14.

spreekt zijn steun uit voor de aanbeveling in de AI-verordening om bevoegde financiële autoriteiten aan te wijzen als markttoezichtorganen voor AI-systemen met een hoog risico die gebruikt worden in financiële diensten; merkt echter op dat andere nationale bevoegde autoriteiten verantwoordelijk zullen zijn voor het toezicht op AI-systemen zonder hoog risico; erkent de uitdagingen die voortvloeien uit het feit dat meerdere toezichthoudende agentschappen bevoegdheden hebben met betrekking tot de toepassing van het acquis; erkent voorts de uitdagingen die voortvloeien uit de uiteenlopende juridische interpretaties en verwachtingen van de verschillende toezichthoudende agentschappen, wat kan leiden tot versnippering van de interne markt;

15.

moedigt de toezichthoudende autoriteiten aan de coördinatie, samenwerking en informatie-uitwisseling te versterken om jurisdictiegeschillen te voorkomen; dringt er bovendien bij de Commissie en de toezichthoudende autoriteiten op aan de samenwerking met internationale partners in mondiale fora voor normstelling te versterken om voor afstemming te zorgen en versnippering van regelgevingsbenaderingen te voorkomen, en ervoor te zorgen dat de EU gelijke tred houdt met de mondiale ontwikkelingen op het gebied van regelgeving en zich daaraan aanpast;

16.

merkt op dat uit de algemene verordening gegevensbescherming en de daarin opgenomen voorschriften inzake gegevensminimalisering, doelbinding, toestemming van klanten en de verwerking van persoonsgegevens door financiële instellingen, beperkingen voortvloeien voor het gebruik van AI in financiële diensten; is van mening dat een juist evenwicht nodig is tussen het benutten van de voordelen van het gebruik van AI in financiële diensten en de bescherming van de gegevens van consumenten;

17.

betreurt het dat de EU achterloopt op het gebied van innovatie en investeringen op het gebied van AI, zoals blijkt uit de 33 miljard EUR aan risicofinanciering die EU-bedrijven die basismodellen ontwikkelen tussen 2018 en 2023 hebben ontvangen, tegenover meer dan 120 miljard EUR voor hun Amerikaanse tegenhangers (17); is van mening dat de financiële dienstensector, als grootste afnemer van ICT-diensten en -producten, het potentieel heeft om als katalysator te fungeren om particuliere investeringen in AI te mobiliseren; verzoekt, tegen de achtergrond van trage AI-investeringen in de financiële sector van de EU, om een ambitieus voorstel om de Europese durfkapitaalsector een impuls te geven als onderdeel van de spaar- en investeringsunie;

18.

verzoekt de Commissie om, in overleg met de Europese en nationale toezichthoudende autoriteiten en belanghebbenden, duidelijke en praktische richtsnoeren te vertrekken voor de toepassing van de bestaande wetgeving inzake financiële diensten met betrekking tot het gebruik van AI; is van mening dat dergelijke richtsnoeren erop gericht moeten zijn het gebruik van AI in de financiële dienstensector mogelijk te maken, op een manier die ethisch, verantwoord en transparant is; dringt aan op consistente definities en vereenvoudiging van het regelgevingskader om dubbele vereisten, waaronder vereisten inzake risicobeoordelingsrapportage, te voorkomen, en waarschuwt voor een uniforme aanpak die een onevenredige last legt op kleine en middelgrote financiële instellingen; benadrukt dat het noodzakelijk is een goed evenwicht te vinden tussen verantwoord gebruik van AI en het bieden van voldoende ruimte voor innovatie;

19.

verzoekt de Commissie na te gaan hoe AI-gestuurde instrumenten kunnen worden gebruikt op financiële markten, zoals bij bemiddeling, portefeuillebeheer en automatisering van de naleving, om bij te dragen aan de doelstellingen van de spaar- en investeringsunie, onder meer door retailbeleggers te ondersteunen bij het nemen van geïnformeerde beleggingsbeslissingen, het verbeteren van financiële educatie, het bevorderen van innovatie bij bedrijven, het verminderen van marktversnippering en het waarborgen van een veilige omgeving voor consumenten; benadrukt dat voor de verwezenlijking van deze doelstellingen een technologieneutraal regelgevingskader nodig is;

20.

is van mening dat sectorale wetgeving die het gebruik van AI in financiële diensten reguleert, in het algemeen toereikend is om de huidige toepassing van AI te dekken; benadrukt dat er voortdurend moet worden gecontroleerd of er sprake is van doublures of tekortkomingen in de huidige wetgeving inzake financiële diensten die van toepassing is op het gebruik van AI; benadrukt dat aanvullende wetgeving de complexiteit en onzekerheid zou vergroten en uiteindelijk het risico met zich mee zou brengen dat de sector de voordelen van het gebruik van AI zou mislopen; benadrukt dat het vertrouwen op de huidige kaders voortdurende aandacht van toezichthouders, effectieve handhaving en een duidelijke toewijzing van verantwoordelijkheden vereist om naleving te waarborgen, met name in scenario’s van grensoverschrijdende of uitbestede toepassing van AI, evenals het monitoren en beoordelen van mogelijke toekomstige lacunes die ontstaan door nieuwe AI-ontwikkelingen indien deze aanzienlijke risico’s voor consumenten en de financiële stabiliteit met zich meebrengen; raadt de Commissie en de lidstaten ten zeerste aan om samen te werken teneinde overregulering van relevante wetgeving te vermijden en nieuwe belemmeringen op grensoverschrijdende markten te voorkomen; merkt op dat de Commissie, volgens de AI-verordening, de lijst van toepassingen met een hoog risico in bijlage III bij de AI-verordening kan beoordelen;

21.

verzoekt de Europese en nationale toezichthoudende autoriteiten verantwoorde ingebruikneming van AI te ondersteunen door consistente interpretaties en een evenredige toepassing van de huidige regelgeving te bevorderen; is van mening dat adequate regulering van het gebruik van AI in de financiële sector de ingebruikneming en het maatschappelijk vertrouwen in AI ondersteunt; benadrukt dat de houding en benadering van toezichthouders even belangrijk zijn als de regels zelf; bepleit bij toezichtinspanningen prioriteit te geven aan concrete operationele risico’s wanneer deze worden vastgesteld, in plaats van aan abstracte of theoretische bezwaren, en dat tegelijkertijd een actieve en evenredige benadering van het toezicht wordt gehandhaafd, waarbij een evenwicht wordt gevonden tussen innovatie en consumentenbescherming, om onvoorziene risico’s als gevolg van de toenemende ingebruikneming van AI-technologieën te beheersen; benadrukt het belang van effectieve monitoring en aanpak van AI-gerelateerde risico’s, waaronder risico’s die verband houden met ondoorzichtigheid, marktconcentratie en verlies van verantwoordingsplicht, die van invloed kunnen zijn op de financiële stabiliteit;

22.

verzoekt de Commissie en de lidstaten toetredingsdrempels voor AI-gestuurde innovatieve financiële ondernemingen binnen de EU weg te nemen, onder meer door middel van gestroomlijnde vergunningverlening, grensoverschrijdende schaalvergroting en opname in innovatiehubs voor toezicht;

23.

steunt onderzoek naar de milieueffecten van het gebruik van AI, met de nadruk op hulpbronnenintensiteit en duurzaamheid op lange termijn, om de transparantie te vergroten en financiële instellingen te helpen deze aspecten en hun eigen ecologische voetafdruk te beoordelen;

24.

is van mening dat het toenemende gebruik van AI, dat gevolgen kan hebben voor de arbeidsmarkt voor financiële diensten, een sterke AI-geletterdheid, digitale vaardigheden en talent vereist, ondersteund door zowel initiatieven voor bijscholing in de publieke sector als marktgebaseerde oplossingen; steunt inspanningen van de sector en gerichte initiatieven, waaronder publiek-private partnerschappen en omscholingsprogramma’s, om de technische en ethische AI-vaardigheden van de werknemers in de financiële sector op te bouwen; benadrukt het belang van het ontwikkelen van AI-strategieën die de productiviteit verhogen, terwijl werknemers worden ondersteund bij hun aanpassing, bijscholing en herplaatsing, en tegelijkertijd wordt gezorgd voor zinvolle menselijke toezicht en controle; vraagt om meer duidelijkheid met betrekking tot de vereisten van de AI-verordening voor financiële instellingen om te voldoen aan de vereisten inzake AI-geletterdheid; benadrukt voorts dat het belangrijk is gelijke toegang tot AI-instrumenten en -diensten te waarborgen en te bevorderen, ook voor minder digitaal vaardige segmenten van de bevolking;

25.

verzoekt de Commissie en de Europese en nationale toezichthoudende autoriteiten de toegevoegde waarde te beoordelen van AI-testomgevingen voor regelgeving, innovatiehubs en grensoverschrijdende testomgevingen voor financiële diensten die experimenten met op AI gebaseerde financiële innovatie mogelijk maken, zowel om start-ups te helpen hun producten te testen als om gevestigde instellingen in staat te stellen nieuwe toepassingen in een gecontroleerde omgeving te verkennen, met behoud van consumentenbescherming en marktintegriteit; is van mening dat een goed gebruik van AI-testomgevingen voor regelgeving is van mening dat een goed gebruik de gestructureerde en gecontroleerde testomgeving kan bieden die nodig is om innovatie en verantwoord gebruik van AI binnen de financiële dienstensector te vergemakkelijken; moedigt de Europese en nationale toezichthoudende autoriteiten aan toezichtinstrumenten en -technologie (suptech) te verbeteren door gebruik te maken van AI en deze te integreren in de dagelijkse toezichthoudende activiteiten om de efficiëntie en doeltreffendheid van het financieel toezicht te verbeteren; merkt op dat deze instrumenten bedoeld zijn om menselijke toezichthouders te ondersteunen en niet om die te vervangen;

°

° °

26.

verzoekt zijn Voorzitter deze resolutie te doen toekomen aan de Raad en de Commissie, alsook aan de regeringen en parlementen van de lidstaten.