EIROPAS CENTRĀLĀS BANKAS ATZINUMS

(2021. gada 29. decembris)

par priekšlikumu regulai, kas nosaka saskaņotas normas mākslīgā intelekta jomā

(CON/2021/40)

(2022/C 115/05)

Ievads un tiesiskais pamats

Eiropas Centrālā banka (ECB) 2021. gada 3. novembrī saņēma Eiropas Savienības Padomes lūgumu sniegt atzinumu par priekšlikumu (1) Eiropas Parlamenta un Padomes regulai, kas nosaka saskaņotas normas mākslīgā intelekta jomā (Mākslīgā intelekta akts) un groza dažus Savienības leģislatīvos aktus (turpmāk – “ierosinātā regula”).

ECB kompetence sniegt atzinumu pamatojas uz Līguma par Eiropas Savienības darbību 127. panta 4. punktu un 282. panta 5. punktu, jo ierosinātā regula ietver noteikumus, kas ir ECB kompetences jomā, jo īpaši attiecībā uz ECB uzdevumiem saistībā ar kredītiestāžu prudenciālo uzraudzību saskaņā ar Līguma 127. panta 6. punktu. ECB Padome šo atzinumu pieņēmusi saskaņā ar Eiropas Centrālās bankas reglamenta 17.5. panta pirmo teikumu.

1. Vispārīgi apsvērumi

1.1.

ECB atzinīgi vērtē ierosinātās regulas mērķi uzlabot iekšējā tirgus darbību, nosakot vienotu tiesisko regulējumu uzticama mākslīgā intelekta (artificial intelligence; AI) izstrādei, laišanai tirgū un izmantošanai saskaņā ar Savienības vērtībām. ECB atzīst, ka ir svarīgi noteikt saskaņotas prasības, kas attiecas uz AI sistēmām, lai nodrošinātu konsekventu un augstu aizsardzības līmeni sevišķi svarīgām vispārības interesēm, piemēram, veselībai, drošībai un pamattiesībām.

1.2.

ECB arī atzīst mākslīgā intelekta iespējotās inovācijas pieaugošo nozīmi banku nozarē. Ņemot vērā mākslīgā intelekta inovācijai piemītošās pārrobežu iezīmes un tās iespējas banku darbībā, ECB kā Savienības līmeņa prudenciālās uzraudzības iestāde stingri atbalsta nepieciešamību nodrošināt, ka kredītiestādes saskaņoti īsteno ierosināto regulu attiecībā uz prudenciālajiem riskiem un prasībām. Tāpat un ņemot vērā mākslīgā intelekta pieaugošo nozīmi, Savienības likumdevējs tiek aicināts turpmāk apsvērt iespēju Savienības līmenī izveidot neatkarīgu mākslīgā intelekta iestādi, kas būtu atbildīga par ierosinātās regulas saskaņotu piemērošanu visā vienotajā tirgū attiecībā uz jautājumiem, kas saistīti ar veselību, drošību un pamattiesībām.

1.3.

Attiecībā uz augsta riska AI sistēmām, kuras sagādā vai izmanto kredītiestādes, ECB saprot, ka ierosinātā regula dažus pienākumus integrē procedūrās, kas noteiktas Eiropas Parlamenta un Padomes Direktīvā 2013/36/ES (2) (turpmāk – “KPD”). Jo īpaši ierosinātās regulas mērķis ir uzlabot saskaņotību ar KPD, dažus sagādātāju un lietotāju riska pārvaldības un pārvaldības pienākumus integrējot kredītiestāžu iekšējās pārvaldības sistēmā (3). Mākslīgā intelekta novitātes un sarežģītības un ierosinātās regulas augsta līmeņa standartu dēļ ir vajadzīgi papildu norādījumi, lai precizētu uzraudzības tvērumu attiecībā uz pienākumiem saistībā ar iekšējo pārvaldību.

1.4.

ECB atzinīgi vērtē ierosinātajā regulā ietverto nolūku izvairīties no pārklāšanās ar spēkā esošo tiesisko regulējumu, dažus tās noteikumus iekļaujot attiecīgajos KPD noteikumos (4). Šajā sakarā ECB atzinīgi vērtē to, ka augsta riska AI sistēmu sagādātāju – kredītiestāžu pienākums ieviest kvalitātes vadības sistēmu un augsta riska AI sistēmu lietotāju – kredītiestāžu pienākums uzraudzīt sistēmas darbību tiek uzskatīts par izpildītu, ja tās izpilda noteikumus par iekšējās pārvaldības kārtību, procesiem un mehānismiem, kas izklāstīti attiecīgajos KPD noteikumos (5).

1.5.

ECB uzsver, ka ierosinātajai regulai nevajadzētu skart specifiskākos vai stingrākos kredītiestāžu prudenciālos pienākumus, kas noteikti nozaru regulējumā un papildināti ar uzraudzības norādēm. Piemēram, KPD paredzētie AI sistēmu lietotāju – kredītiestāžu iekšējās pārvaldības pienākumi (6) ietver arī ārpakalpojumu mehānismu efektīvu kontroli, tostarp visu saistīto risku identificēšanu, novērtēšanu un mazināšanu, kā sīkāk norādīts EBI pamatnostādnēs par ārpakalpojumu izmantošanu (7). Lai gan ierosinātajā regulā augsta riska AI sistēmu sagādātājiem un lietotājiem ir noteikti dažādi pienākumi, EBI pamatnostādnēs par ārpakalpojumu izmantošanu ārpakalpojumu kontekstā nav nošķīruma starp tehnoloģisko risinājumu ārpakalpojumu sniedzējiem un kredītiestādēm. Šajā ziņā ārpakalpojumu izmantošana nemazina kredītiestāžu pienākumu ievērot regulatīvās prasības, un prudenciālās uzraudzības iestāde joprojām ir kompetenta uzraudzīt prudenciālos riskus, ko rada ārpakalpojumā nodotās funkcijas. Ņemot vērā iepriekš minēto, ECB atzinīgi vērtētu turpmākus precizējumus par piemērojamām prasībām un kompetentajām iestādēm gadījumos, ja augsta riska AI sistēmu lietotāji – kredītiestādes izmanto ārpakalpojumus.

1.6.

Būtu jāprecizē ECB loma saskaņā ar ierosināto regulu, jo īpaši attiecībā uz 1) ECB uzraudzības kompetenci kopumā un attiecībā uz tirgus uzraudzību un atbilstības novērtēšanu, kā arī attiecībā uz 2) ierosinātās regulas piemērošanu ECB uzdevumu veikšanai saskaņā ar Līgumu.

1.7.

Kredītiestāžu prudenciālajā uzraudzībā ECB joprojām ir apņēmusies īstenot tehnoloģiju ziņā neitrālu pieeju. Tās uzdevums ir nodrošināt kredītiestāžu drošumu un stabilitāti, saglabājot augstu prudenciālās uzraudzības standartu neatkarīgi no konkrēta tehnoloģiskā risinājuma piemērošanas. ECB mērķis ir saglabāt līdzvērtīgus apstākļus kredītiestāžu prudenciālajai uzraudzībai, ievērojot pamatprincipu “vienāda darbība, vienādi riski, vienāda uzraudzība” (8).

2. ECB loma saskaņā ar ierosināto regulu

2.1. Precizējums par ECB prudenciālās uzraudzības kompetenci attiecībā uz tirgus uzraudzību

2.1.1.

Ierosinātā regula paredz, ka Eiropas Parlamenta un Padomes Regulu (ES) 2019/1020 (9) piemēro AI sistēmām, uz kurām attiecas ierosinātā regula (10), un ka jebkura atsauce uz produktu saskaņā ar Regulu (ES) 2019/1020 ir jāsaprot kā atsauce uz visām AI sistēmām, kas ietvertas ierosinātās regulas darbības jomā (11). Šajā sakarā ECB norāda, ka Regulas (ES) 2019/2020 mērķis ir uzlabot iekšējā tirgus darbību, uzlabojot to produktu tirgus uzraudzību, uz kuriem attiecas Savienības saskaņošanas tiesību akti, lai nodrošinātu, ka Savienības tirgū piedāvā tikai tādus produktus, kas atbilst prasībām, ar kurām nodrošina sabiedrības interešu augsta līmeņa aizsardzību, piemēram, attiecībā uz veselību un drošību kā tādu, veselību un drošību darbavietā, patērētāju aizsardzību, vides un sabiedriskās drošības aizsardzību un visu citu to sabiedrības interešu aizsardzību, kuras aizsargā Savienības saskaņošanas tiesību akti (12).

2.1.2.

Ierosinātajā regulā tirgus uzraudzības iestāde definēta kā valsts iestāde, kas veic darbības un pasākumus saskaņā ar Regulu (ES) 2019/1020 (13). Savukārt Regulā (ES) 2019/1020 tirgus uzraudzības iestāde definēta kā iestāde, ko dalībvalsts saskaņā ar Regulu (ES) 2019/1020 ir izraudzījusies par iestādi, kura ir atbildīga par tirgus uzraudzības veikšanu minētās dalībvalsts teritorijā (14). Turklāt Regulas (ES) 2019/1020 9. apsvērumā precizēts, ka atbildība par Savienības saskaņošanas tiesību aktu izpildi būtu jāuzņemas dalībvalstīm, un to tirgus uzraudzības iestādēm būtu jānodrošina, ka tiesību akti tiek pilnībā ievēroti (15). Pamatojoties uz to, ECB saprot, ka saskaņā ar ierosināto regulu ECB nekādā veidā nav tirgus uzraudzības iestāde.

2.1.3.

Tomēr ierosinātajā regulā ir arī paredzēts, ka attiecībā uz AI sistēmām, ko laiž tirgū, nodod ekspluatācijā vai izmanto finanšu iestādes, kuras reglamentē Savienības tiesību akti par finanšu pakalpojumiem, tirgus uzraudzības iestāde ierosinātās regulas vajadzībām ir attiecīgā iestāde, kas saskaņā ar minētajiem tiesību aktiem atbild par šo iestāžu finanšu uzraudzību (16). Turklāt ierosinātās regulas 80. apsvērumā ir precizēts, ka Savienības tiesību akti finansiālo pakalpojumu jomā ietver iekšējās pārvaldes un riska pārvaldības noteikumus un prasības, kuras attiecas uz regulētām finanšu iestādēm minēto pakalpojumu sniegšanas gaitā, arī tad, kad tās izmanto AI sistēmas. Tajā arī precizēts, ka, lai nodrošinātu ierosinātajā regulā noteikto pienākumu un Savienības finanšu pakalpojumu tiesību aktu attiecīgo noteikumu un prasību saskaņotu piemērošanu un izpildi, par finanšu pakalpojumu tiesību aktu uzraudzību un izpildi atbildīgās iestādes, tostarp attiecīgos gadījumos ECB, būtu jāizraugās par kompetentajām iestādēm ierosinātās regulas īstenošanas uzraudzībai, tostarp tirgus uzraudzības pasākumu veikšanai, attiecībā uz AI sistēmām, kuras sagādā vai izmanto regulētas un uzraudzītas finanšu iestādes. Šajā sakarā norādīts arī tas, ka vajadzīgs vēl vairāk uzlabot saskaņotību starp ierosināto regulu un noteikumiem, kuri attiecas uz kredītiestādēm, kas regulētas saskaņā ar KPD.

2.1.4.

Saskaņā ar Līguma 127. panta 6. punktu Padome var vienprātīgi noteikt ECB konkrētus uzdevumus saistībā ar politiku, kas attiecas uz kredītiestāžu un citu finanšu iestāžu, izņemot apdrošināšanas sabiedrības, uzraudzību. Pamatojoties uz to, ar Padomes Regulu (ES) Nr. 1024/2013 (17) (turpmāk – “VUM regula”) ECB tiek uzticēti īpaši uzdevumi attiecībā uz politikas nostādnēm, kas saistītas ar kredītiestāžu prudenciālo uzraudzību, lai veicinātu kredītiestāžu drošumu un stabilitāti un finanšu sistēmas stabilitāti Savienībā un katrā dalībvalstī, pilnībā ņemot vērā iekšējā tirgus vienotību un integritāti un pienākumu tās nodrošināt, pamatojoties uz vienlīdzīgu attieksmi pret kredītiestādēm, lai novērstu regulējuma arbitrāžu (18). Šajā sakarā ECB prudenciālas uzraudzības vajadzībām ir ekskluzīva kompetence nodrošināt atbilstību visiem attiecīgajiem Savienības tiesību aktiem, ar kuriem kredītiestādēm nosaka prasības cita starpā ieviest stabilus riska pārvaldības procesus un iekšējās kontroles mehānismus (19). ECB prudenciālās uzraudzības loma šajā ziņā ietver tikai to, ka tā nodrošina, lai kredītiestādes īstenotu politiku un procedūras, kas ļauj novērtēt un pārvaldīt to prudenciālo risku, tostarp riskus, kuri saistīti ar dažādiem banku uzņēmējdarbības modeļu, pārvaldības un operacionālā riska aspektiem un kuri izriet no tehnoloģisko risinājumu izmantošanas, lai nodrošinātu kredītiestāžu drošumu un stabilitāti un finanšu sistēmas stabilitāti (20).

2.1.5.

Tirgus uzraudzības mērķis nav nodrošināt kredītiestāžu drošumu un stabilitāti; tā ir vērsta uz to personu interešu aizsardzību, kuras potenciāli varētu ietekmēt ļaunprātīgas AI sistēmas, nodrošinot, ka šādas sistēmas atbilst prasībām, kas vajadzīgas, lai nodrošinātu sabiedrības interešu, piemēram, personu veselības un drošības, aizsardzību augstā līmenī. Līdz ar to ECB saprot, ka Savienības likumdevējs neplāno, ka ECB saskaņā ar ierosināto regulu darbotos kā tirgus uzraudzības iestāde attiecībā uz tās uzraudzībā esošajām kredītiestādēm. Šis secinājums atbilst VUM regulas apsvērumiem, kuros precizēts, ka nacionālās iestādes ir kompetentas nodrošināt patērētāju tiesību augsta līmeņa aizsardzību (21).

2.1.6.

Pamatojoties uz to, ECB ierosina, ka, lai nodrošinātu atbilstību ECB prudenciālās uzraudzības kompetencei saskaņā ar Līguma 127. panta 6. punktu un VUM regulu, ierosinātās regulas tekstā būtu nepārprotami jāprecizē, ka ECB nav izraudzīta par tirgus uzraudzības iestādi un ka tai nav uzticēti nekādi tirgus uzraudzības uzdevumi.

2.1.7.

Lai gan ECB nav uzticēti tirgus uzraudzības uzdevumi, dažas dalībvalstis apsver iespēju izraudzīt nacionālās kompetentās iestādes, kas iesaistītas kredītiestāžu uzraudzībā, par iestādēm, kuras atbild par tirgus uzraudzību ierosinātās regulas kontekstā, ciktāl to atļauj to pilnvaras un vismaz tiktāl, ciktāl tirgus uzraudzības uzdevumi attiecas uz situācijām, kad AI sistēmu nodod ekspluatācijā pašu lietošanai. Nacionālo kompetento iestāžu, kas pašlaik ir iesaistītas kredītiestāžu uzraudzībā, izraudzīšanās par iestādēm, kuras atbild par šādu tirgus uzraudzību, varētu uzskatīt par uzraudzības rezultātu saskaņotības un izmaksu efektivitātes nodrošināšanu, vienlaikus izmantojot šo iestāžu pieredzi, ko tās ieguvušas, izmantojot savas izmeklēšanas un uzraudzības pilnvaras attiecībā uz kredītiestādēm.

2.1.8.

Visbeidzot, ECB norāda, ka ierosinātās regulas tirgus uzraudzības noteikumi pienācīgi neaptver gadījumus, kad AI sistēma tiek nodota ekspluatācijā pašu lietošanai. Piemēram, ierosinātajā regulā paredzētās tirgus uzraudzības iestāžu pilnvaras atsaukt vai izņemt AI sistēmu varētu nespēt nodrošināt sistēmas darbības pārtraukšanu pašu lietošanas gadījumos (22). Tāpēc Savienības likumdevējs tiek aicināts precizēt, kuri ierobežojošie pasākumi un saistīto kompetento iestāžu pilnvaras būtu jāpiemēro pašu lietošanas gadījumos.

2.2. Precizējums par ECB prudenciālās uzraudzības kompetenci atbilstības novērtēšanas jomā

2.2.1.

Ierosinātā regula paredz (23), ka attiecībā uz augsta riska AI sistēmām, kuras paredzēts izmantot fizisku personu kredītspējas izvērtēšanai vai to kredītnovērtējuma noteikšanai (24) un kuru laišanu tirgū vai nodošanu ekspluatācijā veic kredītiestādes, ir jāveic atbilstības novērtēšana uzraudzības pārbaudes un novērtēšanas procesa (UPNP) ietvaros (25). Ierosinātajā regulā atbilstības novērtēšana ir definēta (26) kā process, kurā pārbauda, vai ir izpildītas ierosinātajā regulā noteiktās obligātās prasības augsta riska AI sistēmām (27).

2.2.2.

Kā minēts iepriekš, Padome saskaņā ar Līguma 127. panta 6. punktu ir uzticējusi ECB īpašus uzdevumus attiecībā uz politiku, kas saistīta ar kredītiestāžu prudenciālo uzraudzību, lai cita starpā veicinātu kredītiestāžu drošumu un stabilitāti un finanšu sistēmas stabilitāti Savienībā un katrā dalībvalstī (28). Lai izvairītos no tā, ka tiek pārsniegti ar Līgumu tai uzticētie uzdevumi, ECB uzsver, ka tā var uzraudzīt attiecīgo prasību īstenošanu saistībā ar UPNP, vienlaikus koncentrējoties uz prudenciālajiem riskiem, kuriem var tikt pakļautas kredītiestādes. Šajā sakarā Savienības likumdevējs tiek aicināts apsvērt, cik lielā mērā vairāki atbilstības novērtējuma elementi pēc būtības varētu nebūt prudenciāli, ja tie lielā mērā attiecas uz AI sistēmu tehnisko novērtējumu, lai aizsargātu personu veselību un drošību un nodrošinātu pamattiesību ievērošanu, mazinot risku, ka mākslīgā intelekta atbalstīti procesi ir kļūdaini vai neobjektīvi. Ierosinātās regulas attiecīgie noteikumi jo īpaši paredz, ka augsta riska AI sistēmas jāprojektē un jāizstrādā: 1) pamatojoties uz apmācības, validēšanas un testēšanas datu kopām, kas atbilst noteiktiem kvalitātes kritērijiem, ja attiecīgajās AI sistēmās izmanto metodes, kuras saistītas ar modeļu apmācību ar datiem; 2) paredzot iespējas, kas ļauj automātiski reģistrēt notikumus (“žurnāldatnes”), lai nodrošinātu tādu sistēmas darbības izsekojamības līmeni visā tās darbmūžā, kas atbilst sistēmai paredzētajam nolūkam; 3) tā, lai fiziskas personas varētu efektīvi pārraudzīt tās, tostarp izmantojot arī atbilstošus cilvēka un mašīnas saskarnes rīkus, lai novērstu un mazinātu veselību, drošību un pamattiesības apdraudošus riskus, kas varētu rasties, lietojot augsta riska AI sistēmu; un 4) tā, lai panāktu precizitāti, noturību un kiberdrošību pienācīgā līmenī (29). Kā paskaidrots ierosinātās regulas apsvērumos, šīs prasības attiecībā uz izmantoto datu kopu kvalitāti, tehnisko dokumentāciju un uzskaiti, pārredzamību un informācijas sniegšanu lietotājiem, cilvēka virsvadību, kā arī noturību, precizitāti un kiberdrošību ir nepieciešamas, lai efektīvi mazinātu riskus veselībai, drošībai un pamattiesībām (30).

2.2.3.

Ņemot vērā iepriekš minēto, Savienības likumdevējs tiek aicināts turpināt apsvērt nepieciešamību izraudzīties attiecīgās kompetentās iestādes, kas būtu atbildīgas par kredītiestāžu veiktās atbilstības novērtēšanas uzraudzību attiecībā uz veselības, drošības un pamattiesību jautājumiem, un apsvērt nepieciešamību nodrošināt ierosinātās regulas saskaņotu piemērošanu visā vienotajā tirgū, nākotnē izveidojot mākslīgā intelekta iestādi Savienības līmenī.

2.2.4.

Turklāt dažas prasības attiecībā uz augsta riska AI sistēmām nav pilnīgi skaidras vai pietiekami specifiskas, lai nodrošinātu pietiekamu izpratni uzraudzības vajadzībām. Piemēram, var būt nepieciešams precizēt prasību, ka apmācības, validēšanas un testēšanas datu kopām jābūt atbilstīgām, reprezentatīvām, bez kļūdām un pilnīgām (31). Ņemot vērā to, cik plašas ir Eiropas standartizācijas organizācijām (32) piešķirtās pilnvaras, un tādēļ iespējamo risku, ka tiks vājinātas ierosinātajā regulā noteiktās normas, ierosinātajā regulā noteiktajām prasībām, kas attiecas uz augsta riska AI sistēmām, vajadzētu būt pietiekami konkrētām.

2.2.5.

Visbeidzot, ECB saprot, ka atbilstības novērtējums AI sistēmām, kuras sagādā kredītiestādes, lai izvērtētu fizisku personu kredītspēju vai noteiktu to kredītnovērtējumu, tiek veikts kredītiestādes ex ante iekšējās kontroles ietvaros (33). Šajā sakarā ierosinātā regula (34) būtu jāgroza, lai atspoguļotu īpašā novērtējuma, kas prudenciālajam uzraudzītājam jāveic UPNP ietvaros, ex post iezīmes.

2.3. Precizējums par ECB prudenciālās uzraudzības kompetenci kopumā

ECB var uzskatīt par kompetento iestādi tikai tiktāl, ciktāl tas ir nepieciešams, lai tā varētu veikt uzdevumus, kas tai uzticēti saskaņā ar VUM regulu. Lai izvairītos no juridiskās nenoteiktības attiecībā uz to, vai ar ierosināto regulu ECB tiek uzticēti jauni uzdevumi, ECB ierosina, ka tā vietā, lai tieši norādītu ECB kā kompetento iestādi, ierosinātajā regulā būtu jāietver atsauce uz kompetentajām iestādēm, kā tās definētas attiecīgajos Savienības tiesību aktos, piemēram, KPD. Tad no VUM regulas izrietētu, ka ECB ir uzskatāma par kompetento iestādi tikai tās prudenciālās uzraudzības uzdevumu veikšanai (35).

2.4. Precizējums par ECB neatkarību, pildot savus uzdevumus saskaņā ar Līgumu

ECB saprot, ka uz to var attiekties ierosinātā regula, ja tā rīkojas kā sagādātājs, kas laiž tirgū vai nodod ekspluatācijā AI sistēmas Savienībā, vai kā Savienībā esošu AI sistēmu lietotājs (36). Tas pats attiecas uz nacionālajām centrālajām bankām (NCB). Ierosinātā regula paredz, ka gadījumos, kad Savienības iestādes ietilpst tās darbības jomā, Eiropas Datu aizsardzības uzraudzītājs (EDAU) darbojas kā kompetentā iestāde to uzraudzībai un kā to tirgus uzraudzības iestāde (37). NCB varētu būt nacionālo kompetento iestāžu uzraudzībā (38). Šajā sakarā ir svarīgi uzsvērt, ka ECB un NCB jābūt iespējai neatkarīgi veikt uzdevumus, kas tai uzticēti ar Līgumu (39), piemēram, izmantojot jebkādu mākslīgā intelekta lietojumprogrammu monetārās politikas definēšanai un īstenošanai un maksājumu sistēmu raitas darbības veicināšanai (40). Tomēr jāatzīst, ka ECBS neatkarība savu uzdevumu izpildē neatbrīvo to no visām Savienības tiesību normām (41). ECB saprot, ka jebkāda iespējama ECB uzraudzība, ko veiktu EDAU, un NCB uzraudzība, ko veiktu nacionālās kompetentās iestādes, aprobežotos ar pienācīgu AI sistēmas kontroli un pārvaldību un nekādā veidā nebūtu paredzēta, lai kaitētu ECB un NCB spējai neatkarīgi veikt uzdevumus, kas tām uzticēti ar Līgumu.

3. AI sistēmu klasifikācija

3.1.

Ierosinātās regulas mērķis ir nodrošināt samērīgu tiesisko regulējumu attiecībā uz tās mērķiem, pieņemot uz risku balstītu pieeju, kas rada regulatīvo slogu tikai tad, ja AI sistēma varētu radīt augstu risku pamattiesībām un drošībai. Tomēr ierosinātajā regulā, paredzot mākslīgā intelekta tehnoloģijas turpmāko attīstību, ir definēta programmatūra, kas klasificējama kā AI sistēma plašākā nozīmē. Tāpēc programmatūra, kas izstrādāta, lai radītu tādu iznākumu kā saturs, prognozes, ieteikumi vai lēmumi, izmantojot statistiskās un mašīnmācīšanās pieejas, kā arī meklēšanas un optimizēšanas metodes, ir uzskatāmas par AI sistēmu (42). Šī plašā definīcija attiektos uz dažādām darbībām, ko veic kredītiestādes, jo īpaši attiecībā uz sistēmām, kas paredzētas fizisku personu kredītnovērtējuma noteikšanai.

3.2.

Saskaņā ar ierosināto regulu (43) uz lielāko daļu kredītspējas novērtēšanas darbību, kurās izmanto AI sistēmas, automātiski attiektos horizontālās obligātās prasības, kas noteiktas augsta riska AI sistēmām. Tāpēc vairākām darbībām, tostarp analīzei produktu piedāvāšanas nolūkā, piedziņas modelēšanai un standarta kredītnovērtējuma noteikšanas modeļiem (piemēram, vērtējumu sistēmai, kurā izmantota loģistiskā regresija), būtu jāatbilst tām pašām prasībām. Lai precizētu uzraudzības tvērumu un saskaņā ar tehnoloģiju ziņā neitrālo ECB pieeju, tiek ierosināts neklasificēt AI sistēmas, kuras paredzēts izmantot fizisku personu kredītspējas izvērtēšanai vai to kredītnovērtējuma noteikšanai un kurās atsevišķi izmanto lineāro vai loģistisko regresiju vai lēmumu pieņemšanas algoritmus cilvēku uzraudzībā, kā augsta riska AI sistēmas, ja šādu pieeju ietekme uz fizisku personu kredītspējas izvērtēšanu vai to kredītnovērtējuma noteikšanu ir neliela.

3.3.

Tā kā kredītiestādes ikdienas praksē regulāri veic kredītnovērtējuma darbības, ECB ierosina prasību, saskaņā ar kurām AI sistēmas, ko paredzēts izmantot fizisku personu kredītspējas izvērtēšanai vai to kredītnovērtējuma noteikšanai, tiek klasificētas kā “augsta riska AI sistēmas”, stāšanos spēkā atlikt līdz brīdim, kad Komisija pieņems kopīgas specifikācijas (44) šajā jomā. Šajās kopīgajās specifikācijās jo īpaši būtu jāizklāsta nosacījumi, saskaņā ar kuriem augsta riska AI sistēmas šajā jomā tiks uzskatītas par tādām, kas atbilst piemērojamajām prasībām, un jānosaka, kad AI sistēmas būtu jāuzskata par tādām, “kuras savā darbā izmanto mazapjoma sagādātāji savām vajadzībām” un uz kurām tāpēc attiecas izņēmums no klasificēšanas par augsta riska AI sistēmu (45). Ņemot vērā iepriekš minēto, ECB būtu jāiekļauj to struktūru sarakstā, ar kurām apspriežas pirms šādu kopīgo specifikāciju pieņemšanas, ja tās attiecas uz AI sistēmām, kuras paredzēts izmantot, lai izvērtētu fizisku personu kredītspēju vai noteiktu to kredītnovērtējumu (46).

3.4.

Visbeidzot, ECB atzinīgi vērtē iespēju atjaunināt augsta riska AI sistēmu sarakstu, kas iekļauts ierosinātās regulas III pielikumā (47), un ir gatava sadarboties ar Komisiju un apspriesties ar Komisiju, lai apzinātu turpmākus iespējamus AI sistēmu riskus, kas var radīt kaitējuma risku veselībai un drošībai vai nelabvēlīgas ietekmes uz pamattiesībām risku. Izņemot AI sistēmas, ko izmanto fizisku personu kredītspējas izvērtēšanai vai to kredītnovērtējuma noteikšanai, ierosinātā regula augsta riska sistēmās neietver citas sistēmas, kuras kredītiestādes varētu nodot ekspluatācijā. Tomēr kredītiestādes veic tādas mākslīgā intelekta datu modelēšanas izstrādi, kurā sasaista pārdošanas, darījumu un darbības datus, lai nodrošinātu skaidru pārskatu par rīcības risku konkrētā jomā, vai apsver šādas modelēšanas izstrādi un izmantošanu. Tāpat AI sistēmas varētu izmantot maksājumu uzraudzībai reāllaikā vai klientu vai darījumu profilēšanai nelikumīgi iegūtu līdzekļu legalizēšanas un terorisma finansēšanas novēršanas nolūkos.

Gadījumos, kuros ECB iesaka grozīt ierosināto regulu, konkrētais redakcionālais priekšlikums ir izklāstīts atsevišķā tehniskā darba dokumentā, kuram pievienots attiecīgs paskaidrojuma teksts. Tehniskais darba dokuments angļu valodā ir pieejams EUR-Lex.

Frankfurtē pie Mainas, 2021. gada 29. decembrī

ECB prezidente

Christine LAGARDE

(1) COM(2021) 206 final.

(2) Eiropas Parlamenta un Padomes Direktīva 2013/36/ES (2013. gada 26. jūnijs) par piekļuvi kredītiestāžu darbībai un kredītiestāžu un ieguldījumu brokeru sabiedrību prudenciālo uzraudzību, ar ko groza Direktīvu 2002/87/EK un atceļ Direktīvas 2006/48/EK un 2006/49/EK (OV L 176, 27.6.2013., 338. lpp.).

(3) Sk. ierosinātās regulas 9. panta 9. punktu, 18. panta 2. punktu, 20. panta 2. punktu un 29. panta 5. punktu un KPD 74. pantu.

(4) Sk. KPD 74. pantu.

(5) Sk. ierosinātās regulas 17. panta 3. punktu un 29. panta 4. punktu.

(6) Sk. KPD 74. pantu.

(7) Sk. EBI Pamatnostādnes par ārpakalpojumu izmantošanu (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8) Sk. ECB Uzraudzības valdes priekšsēdētāja Andrea Enria runu “A binary future? How digitalisation might change banking” (“Binārā nākotne? Kā digitalizācija varētu pārmainīt banku darbību”) De Nederlandsche Bank Amsterdamā 2019. gada 11. martā, kas pieejama ECB banku uzraudzības interneta vietnē www.bankingsupervision.europa.eu.

(9) Eiropas Parlamenta un Padomes Regula (ES) 2019/1020 (2019. gada 20. jūnijs) par tirgus uzraudzību un produktu atbilstību un ar ko groza Direktīvu 2004/42/EK un Regulas (EK) Nr. 765/2008 un (ES) Nr. 305/2011 (OV L 169, 25.6.2019., 1. lpp.).

(10) Sk. ierosinātās regulas 63. panta 1. punktu.

(11) Sk. ierosinātās regulas 63. panta 1. punkta b) apakšpunktu.

(12) Sk. Regulas (ES) 2019/1020 1. panta 1. punktu.

(13) Sk. ierosinātās regulas 3. panta 26) punktu.

(14) Sk. Regulas (ES) 2019/1020 3. panta 4. punktu.

(15) Sk. Regulas (ES) 2019/1020 9. apsvērumu.

(16) Sk. ierosinātās regulas 63. panta 4. punktu.

(17) Padomes Regula (ES) Nr. 1024/2013 (2013. gada 15. oktobris), ar ko Eiropas Centrālajai bankai uztic īpašus uzdevumus saistībā ar politikas nostādnēm, kas attiecas uz kredītiestāžu prudenciālo uzraudzību (OV L 287, 29.10.2013., 63. lpp.).

(18) Sk. VUM regulas 1. panta pirmo daļu.

(19) Sk. VUM regulas 4. panta 1. punkta e) apakšpunktu.

(20) Sk. VUM regulas 30. apsvērumu, kā arī 53. un 54. lpp. “ECBS/Eiropas banku uzraudzības atbildē uz Eiropas Komisijas sabiedrisko apspriešanos par jaunu digitālo finanšu stratēģiju Eiropai/FinTech rīcības plānu” (2020. gada augusts), kas pieejama ECB banku uzraudzības interneta vietnē.

(21) Sk. VUM regulas 28. un 29. apsvērumu.

(22) Sk. ierosinātās regulas 3. panta 16) un 17) punktu, 65. panta 2. punkta otro daļu, 65. panta 5. punktu un 67. panta 1. punktu.

(23) Sk. ierosinātās regulas 19. panta 2. punktu un 43. panta 2. punktu.

(24) Sk. ierosinātās regulas III pielikuma 5. punkta b) apakšpunktu.

(25) KPD 97.–101. pants attiecas uz UPNP.

(26) Sk. ierosinātās regulas 3. panta 20) punktu.

(27) Sk. ierosinātās regulas III sadaļas 2. nodaļas 8.–15. pantu.

(28) Sk. VUM regulas 1. panta pirmo daļu.

(29) Sk. ierosinātās regulas 10., 12., 14. un 15. pantu.

(30) Sk. ierosinātās regulas 43. apsvērumu.

(31) Sk. ierosinātās regulas 10. panta 3. punktu.

(32) Sk. ierosinātās regulas 40. pantu un 61. apsvērumu.

(33) Sk. ierosinātās regulas 43. panta 2. punkta pirmo teikumu un VI pielikumu.

(34) Sk. ierosinātās regulas 19. panta 2. punktu un jo īpaši 43. panta 2. punkta otro teikumu.

(35) Sk. VUM regulas 6. pantu.

(36) Sk. ierosinātās regulas 2. pantu.

(37) Sk. ierosinātās regulas 59. panta 8. punktu un 63. panta 6. punktu.

(38) Sk. ierosinātās regulas 59. panta 2. punktu.

(39) Sk. Līguma 130. pantu.

(40) Sk. Līguma 127. panta 2. punkta pirmo un ceturto ievilkumu.

(41) Sk. Tiesas spriedumu, 2003. gada 10. jūlijs, Komisija/Eiropas Centrālā banka, C-11/00, ECLI:EU:C:2003:3, 130.–135. punkts.

(42) Sk. ierosinātās regulas 3. panta 1. punktu un I pielikumu.

(43) Sk. ierosinātās regulas III pielikuma 5. punkta b) apakšpunktu.

(44) Sk. ierosinātās regulas 41. panta 1. punktu.

(45) Saskaņā ar ierosinātās regulas III pielikuma 5. punkta b) apakšpunktu.

(46) Sk. ierosinātās regulas 41. panta 2. punktu.

(47) Sk. ierosinātās regulas 7. panta 1. punktu.