AZ EURÓPAI KÖZPONTI BANK VÉLEMÉNYE

(2021. december 29.)

a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról szóló rendeletre irányuló javaslatról

(CON/2021/40)

(2022/C 115/05)

Bevezetés és jogalap

2021. november 3-án az Európai Központi Bank (EKB) az Európai Unió Tanácsától azt a felkérést kapta, hogy alkosson véleményt a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról és egyes uniós jogalkotási aktusok módosításáról szóló európai parlamenti és tanácsi rendelet iránti javaslatról (1) (a továbbiakban: a javasolt rendelet).

Az EKB véleményalkotásra szolgáló hatásköre az Európai Unió működéséről szóló szerződés 127. cikkének (4) bekezdésén és 282. cikkének (5) bekezdésén alapul, mivel a javasolt rendelet olyan rendelkezéseket tartalmaznak, amelyek az EKB hatáskörébe tartoznak, különös tekintettel az EKB-nak a Szerződés 127. cikkének (6) bekezdése szerinti, a hitelintézetek prudenciális felügyeletére vonatkozó feladataira. Az Európai Központi Bank eljárási szabályzata 17.5. cikkének első mondatával összhangban a Kormányzótanács fogadta el ezt a véleményt.

1.   Általános észrevételek

1.1.

Az EKB üdvözli a javasolt rendelet azon célkitűzését, hogy javítsa a belső piac működését azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Az EKB elismeri a kifejezetten az MI-rendszerekre vonatkozó harmonizált követelmények megállapításának fontosságát a közérdeken alapuló kényszerítő indokok, például az egészség, a biztonság és az alapvető jogok következetes és magas szintű védelmének biztosítása érdekében.

1.2.

Az EKB elismeri továbbá a mesterséges intelligencián alapuló innováció növekvő jelentőségét a bankszektorban. Figyelembe véve a mesterséges intelligenciával kapcsolatos innováció határokon átnyúló jellegét és lehetőségeit a banki tevékenységekben, az EKB uniós szintű prudenciális felügyeleti hatóságként határozottan támogatja, hogy a prudenciális kockázatok és követelmények tekintetében biztosított legyen a javasolt rendelet hitelintézetek általi harmonizált végrehajtása. Hasonlóképpen, és tekintettel a mesterséges intelligencia növekvő jelentőségére, felkéri az uniós jogalkotót, hogy a jövőben mérlegelje egy uniós szintű független mesterségesintelligencia-hatóság létrehozásának lehetőségét, amely a javasolt rendeletnek az egységes piacon történő harmonizált alkalmazásáért felelne az egészséggel, a biztonsággal és az alapvető jogokkal kapcsolatos kérdések tekintetében.

1.3.

A hitelintézetek által biztosított vagy használt nagy kockázatú MI-rendszereket illetően az EKB értelmezése szerint a javasolt rendelet bizonyos kötelezettségeket belefoglalja a 2013/36/EU európai parlamenti és tanácsi irányelvben (2) (a továbbiakban: CRD) meghatározott eljárásokba. Különösen, a javasolt rendelet célja a CRD-vel való összhang fokozása azáltal, hogy a szolgáltatók és felhasználók kockázatkezeléssel és irányítással kapcsolatos egyes kötelezettségeit belefoglalja a hitelintézetek belső irányítási rendszerébe (3). A mesterséges intelligencia újdonsága és összetettsége, valamint a javasolt rendelet magas szintű szabályai miatt további iránymutatásra van szükség a belső irányítással kapcsolatos kötelezettségekre vonatkozó felügyeleti elvárások tisztázásához.

1.4.

Az EKB üdvözli a javasolt rendelet azon szándékát, hogy elkerülje a meglévő jogszabályi kerettel való átfedéseket azáltal, hogy egyes rendelkezéseit a CRD vonatkozó rendelkezéseibe (4) foglalja. E tekintetben az EKB üdvözli, hogy a nagy kockázatú Mi-rendszerek hitelintézetnek minősülő szolgáltatói esetében a minőségirányítási rendszer bevezetésére vonatkozó kötelezettséget, és a nagy kockázatú Mi-rendszerek hitelintézetnek minősülő felhasználói esetében a rendszer nyomon követésére vonatkozó kötelezettséget teljesítettnek kell tekinteni a CRD megfelelő rendelkezései szerinti belső irányítási rendszerekre, eljárásokra és mechanizmusokra vonatkozó szabályoknak való megfeleléssel (5).

1.5.

Az EKB hangsúlyozza, hogy a javasolt rendelet nem sértheti a hitelintézetek ágazati rendeletben meghatározott és felügyeleti iránymutatással kiegészített konkrétabb vagy szigorúbb prudenciális kötelezettségeit. Például, az MI-rendszerek hitelintézetnek minősülő felhasználóira vonatkozó, a CRD szerinti belső irányítási kötelezettségei (6) kiterjednek a kiszervezés hatékony ellenőrzésére, ideértve az összes kapcsolódó kockázat azonosítását, értékelését és mérséklését, amint azt az EBH kiszervezésről szóló iránymutatása (7) is alátámasztja. Míg a javasolt rendelet különböző kötelezettségeket ró a nagy kockázatú MI-rendszerek szolgáltatóira és felhasználóira, az EBH kiszervezésről szóló iránymutatása nem tesz ilyen különbséget a technológiai megoldások harmadik fél szolgáltatói és a hitelintézetek közötti kiszervezéssel összefüggésben. E tekintetben a kiszervezés nem enyhíti a hitelintézetek szabályozási követelményeknek való megfelelésére vonatkozó kötelezettségét, és a prudenciális felügyeleti hatóság továbbra is hatáskörrel rendelkezik a kiszervezett funkciók jelentette prudenciális kockázatok felügyeletére. Mindezek alapján az EKB üdvözölné a magas kockázatú MI-rendszerek hitelintézetnek minősülő felhasználók általi kiszervezésére vonatkozó követelmények és az illetékes hatóságok további pontosítását.

1.6.

Tisztázni kell az EKB javasolt rendelet szerinti szerepét, különösen az alábbiak tekintetében: 1. az EKB prudenciális felügyeleti hatásköre általában, valamint a piacfelügyelettel és a megfelelőségértékeléssel kapcsolatban, és 2. a javasolt rendelet alkalmazása az EKB Szerződésből fakadó feladatainak teljesítése vonatkozásában.

1.7.

Az EKB továbbra is elkötelezett a hitelintézetek prudenciális felügyelete során alkalmazott technológiasemleges megközelítés mellett. Feladata a hitelintézetek biztonságának és megbízhatóságának biztosítása, a prudenciális felügyelet magas színvonalának fenntartása, tekintet nélkül az adott technológiai megoldás alkalmazására. Az EKB célja egyenlő versenyfeltételek fenntartása a hitelintézetek prudenciális felügyelete terén, az irányadó „azonos tevékenység, azonos kockázatok, azonos felügyelet” elv alapján (8).

2.   Az EKB javasolt rendelet szerinti szerepe

2.1.   Az EKB piacfelügyelettel kapcsolatos prudenciális felügyeleti hatásköreinek egyértelművé tétele

2.1.1.

A javasolt rendelet előírja, hogy az (EU) 2019/1020 európai parlamenti és tanácsi rendelet (9) alkalmazandó a javasolt rendelet hatálya alá tartozó MI-rendszerekre (10), és hogy az (EU) 2019/1020 rendelet szerinti termékre történő bármely hivatkozást úgy kell értelmezni, hogy az magában foglalja a javasolt rendelet hatálya alá tartozó valamennyi MI-rendszert (11). E tekintetben az EKB megjegyzi, hogy az (EU) 2019/2020 rendelet célja az uniós harmonizációs jogszabályok hatálya alá tartozó termékekre vonatkozó piacfelügyelet megerősítése révén a belső piac működésének javítása annak biztosítása érdekében, hogy csak olyan megfelelő termékek kerüljenek forgalomba az uniós piacon, amelyek megfelelnek a közérdek, mint például általában az egészség és biztonság, a munkahelyi egészség és biztonság, a fogyasztóvédelem, a környezetvédelem és a közbiztonság, valamint az uniós harmonizációs jogszabályok által védett egyéb közérdekek magas szintű védelmét biztosító követelményeknek (12).

2.1.2.

A javasolt rendelet a piacfelügyeleti hatóságot az (EU) 2019/1020 rendelet szerinti tevékenységeket végző és intézkedéseket hozó nemzeti hatóságként határozza meg (13). Az (EU) 2019/1020 rendelet pedig a piacfelügyeleti hatóságot a tagállam által az (EU) 2019/1020 rendelet 10. cikke szerint az adott tagállam területén piacfelügyelet elvégzésére kijelölt hatóságként határozza meg (14). Emellett az (EU) 2019/1020 rendelet (9) preambulumbekezdése egyértelművé teszi, hogy az uniós harmonizációs jogszabályok végrehajtásának a tagállamok hatáskörébe kell tartoznia, és ezek piacfelügyeleti hatóságaitól kell megkövetelni, hogy biztosítsák a jogszabályok maradéktalan teljesítését (15). Ennek alapján az EKB úgy értelmezi, hogy a javasolt rendelet értelmében az EKB egyáltalán nem piacfelügyeleti hatóság.

2.1.3.

A javasolt rendelet azonban azt is előírja, hogy a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok által szabályozott pénzügyi intézmények által forgalomba hozott, üzembe helyezett vagy használt MI-rendszerek esetében a javasolt rendelet alkalmazásában a piacfelügyeleti hatóság az említett intézmények pénzügyi felügyeletéért az említett jogszabályok értelmében felelős érintett hatóság (16). Emellett a javasolt rendelet (80) preambulumbekezdése egyértelművé teszi, hogy a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok tartalmaznak olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyeket az említett szolgáltatások nyújtása során alkalmazni kell a szabályozott pénzügyi intézményekre, többek között akkor is, ha MI-rendszereket használnak. Egyértelművé teszi továbbá, hogy a javasolt rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében a pénzügyi szolgáltatásokra vonatkozó jogszabályok felügyeletéért és végrehajtásáért felelős hatóságokat — beleértve adott esetben az EKB-t is – illetékes hatóságnak kell kijelölni a javasolt rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében. E tekintetben utal arra is, hogy tovább kell növelni a CRD szerint szabályozott hitelintézetekre alkalmazandó szabályok és a javasolt rendelet közötti összhangot.

2.1.4.

A Szerződés 127. cikkének (6) bekezdése értelmében a Tanács egyhangúlag eljárva megbízhatja az EKB-t a hitelintézetek és – a biztosítóintézetek kivételével – az egyéb pénzügyi szervezetek prudenciális felügyeletére vonatkozó politikákkal kapcsolatban külön feladatokkal. Ez alapján az 1024/2013/EU tanácsi rendelet (17) (a továbbiakban: SSM-rendelet) a hitelintézetek biztonságához és hatékony és eredményes működéséhez, valamint az Unión és az egyes tagállamokon belül a pénzügyi rendszer stabilitásához való hozzájárulás céljából a hitelintézetek prudenciális felügyeletére vonatkozó szakpolitikákkal kapcsolatos külön feladatokkal bízza meg az EKB-t, mégpedig a szabályozási arbitrázs megakadályozása céljából a hitelintézetekkel szemben egyenlő bánásmódot alkalmazva a belső piaci egység és integritás maradéktalan tiszteletben tartása mellett (18). E tekintetben az EKB prudenciális felügyeleti célokból kizárólagos hatáskörrel rendelkezik az összes olyan vonatkozó uniós jogi aktus tiszteletben tartásának biztosítására, amely előírja a hitelintézetek számára, hogy – többek között – megbízható kockázatkezelési eljárásokkal és belső ellenőrzési mechanizmusokkal rendelkezzenek (19). Az EKB prudenciális felügyeleti szerepe e tekintetben annak biztosítására korlátozódik, hogy a hitelintézetek politikákat és eljárásokat alkalmazzanak a prudenciális kockázatnak való kitettségük értékelésére és kezelésére, ideértve a bankok üzleti modelljeinek, irányítási és működési kockázatainak különböző aspektusaihoz kapcsolódó kockázatokat, amelyek a hitelintézetek biztonságát és stabilitását, valamint a pénzügyi rendszer stabilitását biztosító technológiai megoldások használatából erednek (20).

2.1.5.

A piacfelügyeletnek nem célja a hitelintézetek biztonságának és megbízhatóságának biztosítása, hanem a visszaélésszerű MI-rendszerek által potenciálisan érintett egyének érdekeinek védelmére összpontosít annak biztosítása révén, hogy ezek a rendszerek megfelelnek a közérdek, például a személyek egészségének és biztonságának magas szintű védelméhez szükséges követelményeknek. Következésképpen az EKB értelmezése szerint az uniós jogalkotónak nem áll szándékában, hogy a javasolt rendelet értelmében az EKB a felügyelete alá tartozó hitelintézetek tekintetében piacfelügyeleti hatóságként járjon el. Ez a következtetés összhangban van az SSM-rendelet preambulumbekezdéseivel, amelyek egyértelművé teszik, hogy a nemzeti hatóságok hatáskörébe tartozik a magas szintű fogyasztóvédelem biztosítása (21).

2.1.6.

Ennek alapján az EKB azt javasolja, hogy az EKB-nak a Szerződés 127. cikkének (6) bekezdése és az SSM-rendelet szerinti prudenciális felügyeleti hatásköreivel való összhang érdekében a javasolt rendelet szövegének egyértelműen tisztáznia kell azt, hogy az EKB-t nem jelöli ki piacfelügyeleti hatóságnak vagy bízza meg piacfelügyeleti feladatokkal.

2.1.7.

Miközben a piacfelügyeleti feladatokat nem ruházták át az EKB-ra, előfordulhat, hogy egyes tagállamok a javasolt rendelettel összefüggésben megfontolják a hitelintézetek felügyeletében részt vevő illetékes nemzeti hatóságok piacfelügyeletért felelős hatóságként való kijelölését a javasolt rendelettel összefüggésben, amennyiben azt megbízatásuk megengedi, és legalább annyiban, amennyiben a piacfelügyeleti feladatok olyan helyzetekre vonatkoznak, amelyekben saját használatra helyeznek üzembe MI-rendszert. A hitelintézetek felügyeletében jelenleg részt vevő illetékes nemzeti hatóságok ilyen piacfelügyeletért felelős hatóságként való kijelölése úgy tekinthető, hogy az biztosítja a felügyeleti eredmények koherenciáját és költséghatékonyságát, miközben hasznosítja az e hatóságok által a hitelintézetekkel kapcsolatos vizsgálati és felügyeleti hatásköreik gyakorlása során szerzett szakértelmet.

2.1.8.

Végezetül az EKB megjegyzi, hogy a javasolt rendelet piacfelügyeleti rendelkezései nem kezelik megfelelően azokat a helyzeteket, amikor valamely MI-rendszert saját használatra helyeznek üzembe. Előfordulhat például, hogy a piacfelügyeleti hatóságoknak a javasolt rendelet szerinti, az MI-rendszer visszahívására vagy kivonására vonatkozó hatásköre saját használat esetén nem vezet a rendszer megszűnéséhez (22). Ezért felkéri az uniós jogalkotót annak tisztázására, hogy milyen korlátozó intézkedéseket és az illetékes hatóságok mely kapcsolódó hatásköreit kell alkalmazni a saját használatú helyzetekre.

2.2.   Az EKB megfelelőségértékeléssel kapcsolatos prudenciális felügyeleti hatásköreinek egyértelművé tétele

2.2.1.

A javasolt rendelet előírja (23), hogy a hitelintézetek által forgalomba hozott vagy üzembe helyezett, természetes személyek hitelképességének értékelésére vagy hitelpontszámuk meghatározására szolgáló nagy kockázatú MI-rendszerek esetében (24) a felügyeleti felülvizsgálati és értékelési eljárás (SREP) részeként megfelelőségértékelésre kerül sor (25). A javasolt rendelet a megfelelőségértékelés fogalmát (26) az annak ellenőrzésére szolgáló eljárásként határozza meg, hogy a magas kockázatú MI-rendszerek vonatkozásában teljesülnek-e a javasolt rendeletben meghatározott követelmények (27).

2.2.2.

Amint azt korábban megjegyeztük, a Tanács a Szerződés 127. cikkének (6) bekezdése alapján a hitelintézetek biztonságához és hatékony és eredményes működéséhez, valamint az Unión és az egyes tagállamokon belül a pénzügyi rendszer stabilitásához való hozzájárulás céljából a hitelintézetek prudenciális felügyeletére vonatkozó szakpolitikákkal kapcsolatos külön feladatokkal bízta meg az EKB-t (28). Annak elkerülése érdekében, hogy túllépjen a Szerződés által ráruházott feladatokon, az EKB hangsúlyozza, hogy a SREP keretében képes lehet felügyelni a vonatkozó követelmények végrehajtását, miközben azokra a prudenciális kockázatokra összpontosít, amelyeknek a hitelintézetek ki lehetnek téve. E tekintetben felkéri az uniós jogalkotót, hogy vizsgálja meg, hogy a megfelelőségértékelés néhány eleme mennyiben lehet nem prudenciális jellegű, amennyiben azok nagyrészt az MI-rendszereknek a személyek egészségének és biztonságának védelmét célzó műszaki értékelését érintik, és az alapvető jogok tiszteletben tartását biztosítják azáltal, hogy minimálisra csökkentik a téves vagy torzított, mesterséges intelligenciával támogatott folyamatok kockázatát. Különösen, a javasolt rendelet vonatkozó rendelkezései a nagy kockázatú Mi-rendszerek tervezése vagy tervezése és fejlesztése tekintetében előírják, hogy 1. arra olyan tanulóadat-, érvényesítésiadat- és tesztadat-készletek alapján kerül sor, amelyek megfelelnek bizonyos feltételeknek a modellek adatokkal való tanítását is végző technikák használatakor; 2 arra olyan képességekkel kerül sor, amelyek lehetővé teszik az események automatikus rögzítését („naplózás”) annak érdekében, hogy a teljes életciklus során biztosítsák a rendszer működésének a rendszer rendeltetésének megfelelő szintű nyomonkövethetőségét; 3. az egészséget, a biztonságot vagy az alapvető jogokat érintő azon kockázatok megelőzése vagy minimálisra csökkentése érdekében, amelyek a nagy kockázatú MI-rendszer használata esetén merülhetnek fel, oly módon kerül rá sor, hogy azokat – többek között megfelelő ember–gép interfész eszközökkel – természetes személyek hatékonyan felügyelhessék; és 4. annak célja a megfelelő szintű pontosság, stabilitás és kiberbiztonság elérése (29). Amint azt a javasolt rendelet preambulumbekezdései egyértelművé teszik, a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében előírt követelmények az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez szükségesek (30).

2.2.3.

Mindezek alapján az EKB felkéri az uniós jogalkotót, hogy folytassa annak mérlegelését, hogy ki kell-e jelölni érintett illetékes hatóságokat a hitelintézetek által végzett megfelelőségértékelés felügyeletéért felelős hatóságként az egészséggel, a biztonsággal és az alapvető jogokkal kapcsolatos kérdésekben, valamint hogy mérlegelje annak szükségességét, hogy a jövőben uniós szintű mesterségesintelligencia-hatóság létrehozása biztosítsa a javasolt rendelet harmonizált alkalmazását az egységes piacon.

2.2.4.

Továbbá a nagy kockázatú MI-rendszerekre vonatkozó bizonyos követelmények nem teljesen egyértelműek vagy konkrétak ahhoz, hogy kellően támogassák a felügyeleti elvárásokat. Például elképzelhető, hogy tovább kell pontosítani azt a követelményt, hogy a tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek kellően relevánsnak, reprezentatívnak és hibáktól mentesnek és teljesnek kell lenniük (31). Tekintettel az európai szabványügyi szervezeteknek adott megbízatás széles körére (32), és ezért a javasolt rendeletben meghatározott normák gyengítésének esetleges kockázatára, a nagy kockázatú MI-rendszerekre a javasolt rendeletben meghatározott vonatkozó követelményeknek kellően konkrétnak kell lenniük.

2.2.5.

Végül, az EKB értelmezése szerint a hitelintézetek által a természetes személyek hitelképességének értékelése vagy hitelpontszámuk megállapítása céljából az MI-rendszerekre vonatkozóan végzett megfelelőségértékelés a hitelintézet által végzett előzetes belső ellenőrzés részét képezi (33). E tekintetben a javasolt rendeletet (34) módosítani kell annak érdekében, hogy tükrözze a prudenciális felügyeleti hatóság által a SREP részeként elvégzendő külön értékelés utólagos jellegét.

2.3.   Az EKB prudenciális felügyeleti hatáskörének egyértelművé tétele, általában

Az EKB csak az SSM-rendelet által ráruházott feladatok ellátásához szükséges mértékben tekinthető hatáskörrel rendelkező hatóságnak. Az azzal kapcsolatos jogbizonytalanság elkerülése érdekében, hogy a javasolt rendelet új feladatokat ruház-e az EKB-ra, az EKB azt javasolja, hogy ahelyett, hogy közvetlenül az EKB-ra mint illetékes hatóságra hivatkozik, a javasolt rendeletnek a vonatkozó uniós jogi aktusokban, például a CRD-ben meghatározott illetékes hatóságokra kellene hivatkoznia. Az SSM-rendeletből pedig következne, hogy az EKB csak prudenciális felügyeleti feladatainak ellátása céljából tekinthető illetékes hatóságnak (35).

2.4.   Az EKB-t a Szerződés szerinti feladatainak ellátása során megillető függetlenség egyértelművé tétele

Az EKB értelmezése szerint, amikor szolgáltatóként MI-rendszereket hoz forgalomba vagy helyez üzembe az Unióban, vagy amikor MI-rendszerek Unión belüli felhasználójaként jár el, maga is a javasolt rendelet hatálya alá tartozhat (36). Ugyanez vonatkozik a nemzeti központi bankokra (NKB-k). A javasolt rendelet előírja, hogy amennyiben az uniós intézmények a javasolt rendelet hatálya alá tartoznak, a felügyeletük tekintetében az európai adatvédelmi biztos jár el illetékes hatóságként és piacfelügyeleti hatóságként (37). Az NKB-k az illetékes nemzeti hatóságok felügyelete alatt állhatnak (38). E tekintetben fontos hangsúlyozni, hogy az EKB-nak és az NKB-knak képesnek kell lenniük arra, hogy függetlenül lássák el a Szerződés által rájuk ruházott feladatokat (39), például amikor mesterséges intelligencián alapuló alkalmazásokat használnak a monetáris politika meghatározására és végrehajtására, valamint a fizetési rendszerek zavartalan működésének előmozdítására (40). El kell azonban ismerni, hogy a KBER függetlensége feladatainak ellátása során nem mentesíti a KBER-t az uniós jog valamennyi szabálya aló (41). Az EKB értelmezése szerint az EKB európai adatvédelmi biztos általi, és az NKB-k illetékes nemzeti hatóságok általi esetleges felügyelete az MI-rendszerek megfelelő ellenőrzésére és irányítására korlátozódna, és semmilyen módon nem érintené az EKB és az NKB-k azon képességét, hogy függetlenül lássák el a Szerződés által rájuk ruházott feladatokat.

3.   Az MI-rendszerek osztályozása

3.1.

A javasolt rendelet célja, hogy a célkitűzéseihez képest arányos szabályozási keretet biztosítson egy olyan kockázatalapú megközelítés elfogadásával, amely csak akkor jelent szabályozási terhet, ha az MI-rendszerek valószínűleg nagy kockázatot jelentenek az alapvető jogok vagy a biztonság szempontjából. Mindazonáltal a javasolt rendelet, amely előrevetíti a mesterségesintelligencia-technológia jövőbeli fejlődését, tágan határozza meg azokat a szoftvereket, amelyek mesterségesintelligencia-rendszernek minősülnek. Ennek eredményeként az olyan szoftverek minősülnek mesterségesintelligencia-rendszernek, amelyeket statisztikai és gépi tanulási megközelítések, valamint keresési és optimalizálási módszerek alkalmazásával kimenetek, például tartalmak, előrejelzések, ajánlások vagy döntések generálására fejlesztettek ki (42). Ez a tág fogalommeghatározás a hitelintézetek által végzett tevékenységek széles körét fedné le, különösen a természetes személyek hitelpontszámának megállapítására szolgáló rendszerekkel kapcsolatban.

3.2.

A javasolt rendelet értelmében (43) az MI-rendszereket használó hitelbírálati tevékenységek túlnyomó többsége automatikusan a nagy kockázatú MI-rendszerekre vonatkozó horizontális minimumkövetelmények hatálya alá tartozna. Következésképpen több tevékenységnek, többek között a marketingcélú célmeghatározásnak, a behajtások modellezésének és a standard hitelbírálati modelleknek (pl. logisztikai regressziót alkalmazó eredménytáblának) ugyanazoknak a követelményeknek kellene megfelelniük. A felügyeleti elvárások egyértelműségének javítása érdekében és az EKB technológiasemleges megközelítésével összhangban javasolt, hogy azok az MI-rendszerek, amelyeket természetes személyek hitelképességének értékelésére vagy hitelbírálatuk meghatározására használnak, és amelyek emberi felügyelet alatt álló lineáris vagy logisztikai regressziós vagy döntési fák önálló használatára támaszkodnak, ne minősüljenek magas kockázatú MI-rendszereknek, feltéve, hogy az ilyen megközelítések hatása a természetes személyek hitelképességének vagy hitelpontszámának értékelésére csekély.

3.3.

Mivel a hitelbírálati tevékenységeket a hitelintézetek a mindennapi gyakorlat keretében rendszeresen végzik, az EKB azt javasolja, hogy a természetes személyek hitelképességének értékelésére vagy hitelpontszámuk megállapítására szolgáló MI-rendszerek „magas kockázatú MI-rendszerként” való minősítésére vonatkozó követelmények hatálybalépését halasszák el addig, amíg a Bizottság nem fogad el egységes előírásokat erre vonatkozóan (44). Ezeknek az egységes előírásoknak mindenekelőtt meg kell határozniuk azokat a feltételeket, amelyek mellett az e területen működő nagy kockázatú MI-rendszerekről vélelmezni kell, hogy megfelelnek az alkalmazandó követelményeknek, és meg kell határozniuk, hogy az MI-rendszerek mikor tekintendők „kis méretű szolgáltatók által saját használatra üzembe helyezett” rendszereknek, és ezzel a magas kockázatú MI-rendszerként való minősítés alóli kivétel hatálya alá tartozónak (45). Mindezek alapján az EKB-t fel kellene venni azon szervek jegyzékébe, amelyekkel az ilyen egységes előírások elfogadása előtt konzultáltak (46), amennyiben azok természetes személyek hitelképességének értékelésére vagy hitelpontszámuk meghatározására szolgáló MI-rendszerekre vonatkoznak.

3.4.

Végül az EKB üdvözli a javasolt rendelet III. mellékletében szereplő nagy kockázatú MI-rendszerek listája aktualizálásának lehetőségét (47), és készen áll arra, hogy együttműködjön és konzultáljon a Bizottsággal az MI-rendszerek azon további esetleges kockázatainak azonosítása terén, amelyek veszélyeztethetik az egészséget és a biztonságot, vagy káros hatást gyakorolhatnak az alapvető jogokra. A természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereken kívül a javasolt rendelet nem jelöl meg nagy kockázatúként más, kifejezetten a hitelintézetek által üzembe helyezhető rendszereket. Ugyanakkor a hitelintézeteknél olyan Mi-adatmodellezés áll kialakítás vagy megfontolás alatt, amely összekapcsolja az értékesítési, tranzakciós és teljesítményadatokat annak érdekében, hogy egy adott területen egyértelmű képet lehessen alkotni a magatartási kockázatokról. Hasonlóképpen, az MI-rendszereket a pénzmosás és a terrorizmus finanszírozása elleni küzdelem céljából a fizetések valós idejű nyomon követésére, vagy az ügyfelek és tranzakciók profiljának meghatározására is fel lehet használni. Abban az esetben, ahol az EKB a javasolt rendelet módosítására tesz javaslatot, a technikai munkadokumentum tartalmazza a szövegezési javaslatokat és az azokhoz fűzött magyarázatot. A technikai munkadokumentum angol nyelven elérhető az EUR-Lexen.

---

(1)  COM(2021) 206 final.

(2)  Az Európai Parlament és a Tanács 2013/36/EU irányelve (2013. június 26.) a hitelintézetek tevékenységéhez való hozzáférésről és a hitelintézetek és befektetési vállalkozások prudenciális felügyeletéről, a 2002/87/EK irányelv módosításáról, a 2006/48/EK és a 2006/49/EK irányelv hatályon kívül helyezéséről (HL L 176., 2013.6.27., 338. o.).

(3)  Lásd a javasolt rendelet 9. cikkének (9) bekezdését, 18. cikkének (2) bekezdését, 20. cikkének (2) bekezdését és 29. cikkének (5) bekezdését, valamint a CRD 74. cikkét.

(4)  Lásd a CRD 74. cikkét.

(5)  Lásd a javasolt rendelet 17. cikkének (3) bekezdését és 29. cikkének (4) bekezdését.

(6)  Lásd a CRD 74. cikkét.

(7)  Lásd az EBH kiszervezésről szóló iránymutatását (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8)  Lásd Andrea Enria, az EKB felügyeleti testülete elnökének beszédét: „A binary future? How digitalisation might change banking” (Bináris jövő? A digitalizáció bankolást megváltoztató lehetőségeiről), De Nederlandsche Bank, Amszterdam, 2019. március 11., elérhető az EKB bankfelügyeleti honlapján www.bankingsupervision.europa.eu.

(9)  Az Európai Parlament és a Tanács (EU) 2019/1020 rendelete (2019. június 20.) a piacfelügyeletről és a termékek megfelelőségéről, valamint a 2004/42/EK irányelv, továbbá a 765/2008/EK és a 305/2011/EU rendelet módosításáról (HL L 169., 2019.6.25., 1. o.).

(10)  Lásd a javasolt rendelet 63. cikkének (1) bekezdését.

(11)  Lásd a javasolt rendelet 63. cikke (1) bekezdésének b) pontját.

(12)  Lásd az (EU) 2019/1020 rendelet 1. cikkének (1) bekezdését.

(13)  Lásd a javasolt rendelet 3. cikkének 26. pontját.

(14)  Lásd az (EU) 2019/1020 rendelet 3. cikkének 4. pontját.

(15)  Lásd az (EU) 2019/1020 rendelet (9) preambulumbekezdését.

(16)  Lásd a javasolt rendelet 63. cikkének (4) bekezdését.

(17)  A Tanács 1024/2013/EU rendelete (2013. október 15.) az Európai Központi Banknak a hitelintézetek prudenciális felügyeletére vonatkozó politikákkal kapcsolatos külön feladatokkal történő megbízásáról (HL L 287., 2013.10.29., 63. o.).

(18)  Lásd az SSM-rendelet 1. cikkének (1) bekezdését.

(19)  Lásd az SSM-rendelet 4. cikke (1) bekezdésének e) pontját.

(20)  Lásd az SSM-rendelet (30) preambulumbekezdését, valamint az „ESCB/European banking supervision response to the European Commission’s public consultation on a new digital finance strategy for Europe/FinTech action plan” (A KBER/európai bankfelügyelet válasza az Európai Bizottságnak az új európai digitális pénzügyi szolgáltatási stratégiáról/FinTech cselekvési tervről szóló nyilvános konzultációra) (2020. augusztus) című dokumentum 53. és 54. oldalát, amely elérhető az EKB bankfelügyeleti weboldalán.

(21)  Lásd az SSM-rendelet (28) és (29) preambulumbekezdését.

(22)  Lásd a javasolt rendelet 3. cikkének 16. és 17. pontját, 65. cikke (2) bekezdésének második albekezdését, 65. cikkének (5) bekezdését és 67. cikkének (1) bekezdését.

(23)  Lásd a javasolt rendelet 19. cikkének (2) bekezdését és 43. cikkének (2) bekezdését.

(24)  Lásd a javasolt rendelet III. melléklete 5. pontjának b) alpontját.

(25)  A CRD 97–101. cikke vonatkozik a SREP-re.

(26)  Lásd a javasolt rendelet 3. cikkének 20. pontját.

(27)  Lásd a javasolt rendelet III. címe 2. fejezetének 8-15. cikkét.

(28)  Lásd az SSM-rendelet 1. cikkének (1) bekezdését.

(29)  Lásd a javasolt rendelet 10., 12., 14. és 15 cikkét.

(30)  Lásd a javasolt rendelet (43) preambulumbekezdését.

(31)  Lásd a javasolt rendelet 10. cikkének 3. pontját.

(32)  Lásd a javasolt rendelet 40. cikkét és (61) preambulumbekezdését.

(33)  Lásd a javasolt rendelet 43. cikke (2) bekezdésének első mondatát és VI. mellékletét.

(34)  Lásd a javasolt rendelet 19. cikkének (2) bekezdését és különösen 43. cikke (2) bekezdésének második mondatát.

(35)  Lásd az SSM-rendelet 6. cikkét.

(36)  Lásd a javasolt rendelet 2. cikkét.

(37)  Lásd a javasolt rendelet 59. cikkének (8) bekezdését és 63. cikkének (6) bekezdését.

(38)  Lásd a javasolt rendelet 59. cikkének (2) bekezdését.

(39)  Lásd a Szerződés 130. cikkét.

(40)  Lásd a Szerződés 127. cikke (2) bekezdésének első és negyedik francia bekezdését.

(41)  Lásd a Bíróság C-11/00. sz., Bizottság kontra Európai Központi Bank ügyben 2003. július 10-én hozott ítéletének (ECLI:EU:C:2003:3) 130–135. pontját.

(42)  Lásd a javasolt rendelet 3. cikkének 1. pontját és I. mellékletét.

(43)  Lásd a javasolt rendelet III. melléklete 5. pontjának b) alpontját.

(44)  Lásd a javasolt rendelet 41. cikkének (1) bekezdését.

(45)  A javasolt rendelet III. melléklete 5. pontjának b) alpontja szerint.

(46)  Lásd a javasolt rendelet 41. cikkének (2) bekezdését.

(47)  Lásd a javasolt rendelet 7. cikkének (1) bekezdését.