OPINJONI TAL-BANK ĊENTRALI EWROPEW

tal-29 ta’ Diċembru 2021

dwar proposta għal regolament li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali

(CON/2021/40)

(2022/C 115/05)

Introduzzjoni u bażi legali

Fit-3 ta’ Novembru 2021 il-Bank Ċentrali Ewropew (BĊE) irċieva talba mingħand il-Kunsill tal-Unjoni Ewropea għal opinjoni dwar proposta (1) għal regolament tal-Parlament Ewropew u tal-Kunsill li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali (l-Att dwar l-Intelliġenza Artifiċjali) u li jemenda ċerti atti leġiżlattivi tal-Unjoni (minn hawn ’il quddiem ir-“regolament propost”).

Il-Kompetenza tal-BĊE li jagħti opinjoni hija bbażata fuq l-Artikoli 127(4) u 282(5) tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea peress li r-regolament propost jinkludi dispożizzjonijiet li jaqgħu taħt l-oqsma ta’ kompetenza tal-BĊE, b’mod partikolari fir-rigward tal-kompiti tal-BĊE li jikkonċernaw is-superviżjoni prudenzjali ta’ istituzzjonijiet tal-kreditu skont l-Artikolu 127(6) tat-Trattat. Skont l-ewwel sentenza tal-Artikolu 17.5 tar-Regoli ta’ Proċedura tal-Bank Ċentrali Ewropew, il-Kunsill Governattiv adotta din l-opinjoni.

1. Osservazzjonijiet ġenerali

1.1.

Il-BĊE jilqa’ l-objettiv tar-regolament propost li jtejjeb il-funzjonament tas-suq intern billi jistabbilixxi qafas legali uniformi għall-iżvilupp, il-kummerċjalizzazzjoni u l-użu ta’ intelliġenza artifiċjali (AI) affidabbli f’konformità mal-valuri tal-Unjoni. Il-BĊE jirrikonoxxi l-importanza li jiġu stabbiliti rekwiżiti armonizzati speċifiċi għas-sistemi tal-AI biex jiġi żgurat livell konsistenti u għoli ta’ protezzjoni ta’ raġunijiet prevalenti ta’ interess pubbliku bħas-saħħa, is-sikurezza u d-drittijiet fundamentali.

1.2.

Il-BĊE jirrikonoxxi wkoll l-importanza dejjem tikber tal-innovazzjoni abilitata bl-AI fis-settur bankarju. Filwaqt li jqis in-natura u l-opportunitajiet transfruntieri inerenti għall-innovazzjoni tal-AI fl-attivitajiet bankarji, il-BĊE, bħala l-awtorità superviżorja prudenzjali fil-livell tal-Unjoni, jappoġġa bil-qawwa l-ħtieġa li tiġi żgurata l-implimentazzjoni armonizzata tar-regolament propost mill-istituzzjonijiet tal-kreditu meta jkunu kkonċernati r-riskji u r-rekwiżiti prudenzjali. Bl-istess mod, u minħabba l-importanza dejjem akbar tal-AI, il-leġiżlatur tal-Unjoni huwa mistieden jikkunsidra fil-futur il-potenzjal li tiġi stabbilita awtorità indipendenti tal-AI fil-livell tal-Unjoni li tkun responsabbli għall-applikazzjoni armonizzata tar-regolament propost fis-suq uniku kollu fir-rigward ta’ kwistjonijiet speċifiċi għas-saħħa, is-sikurezza u d-drittijiet fundamentali.

1.3.

Fir-rigward tas-sistemi tal-AI b’riskju għoli li jkunu ipprovduti jew użati mill-istituzzjonijiet tal-kreditu, il-BĊE jifhem li r-regolament propost jintegra ċerti obbligi fil-proċeduri stabbiliti fid-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill (2) (minn hawn ’il quddiem is- “CRD”). B’mod partikolari, ir-regolament propost għandu l-għan li jtejjeb il-konsistenza mas-CRD billi jintegra wħud mill-obbligi ta’ ġestjoni tar-riskju u ta’ governanza tal-fornituri u tal-utenti fis-sistema ta’ governanza interna tal-istituzzjonijiet tal-kreditu (3). Minħabba n-novità u l-kumplessità tal-AI, u l-istandards ta’ livell għoli tar-regolament propost, hija meħtieġa gwida ulterjuri biex jiġu ċċarati l-aspettattivi superviżorji fir-rigward tal-obbligi b’rabta mal-governanza interna.

1.4.

Il-BĊE jilqa’ l-intenzjoni tar-regolament propost li jevita d-duplikazzjoni mal-qafas leġiżlattiv eżistenti billi jinkorpora xi wħud mid-dispożizzjonijiet tiegħu fid-dispożizzjonijiet rilevanti tas-CRD (4). F’dan ir-rigward il-BĊE jilqa’ l-fatt li l-obbligu tal-fornituri ta’ sistemi tal-AI li jkunu istituzzjonijiet tal-kreditu li jdaħħlu fis-seħħ sistema ta’ ġestjoni tal-kwalità u l-obbligu tal-utenti ta’ sistemi tal-AI b’riskju għoli li jkunu istituzzjonijiet tal-kreditu li jimmonitorjaw it-tħaddim tas-sistema għandhom jitqiesu li ġew issodisfati billi jikkonformaw mar-regoli dwar l-arranġamenti, il-proċessi u l-mekkaniżmi ta’ governanza interna stabbiliti fid-dispożizzjonijiet rilevanti tas-CRD (5).

1.5.

Il-BĊE jenfasizza li r-regolament propost għandu jkun mingħajr preġudizzju għall-obbligi prudenzjali aktar speċifiċi jew strinġenti tal-istituzzjonijiet tal-kreditu stabbiliti fir-regolamentazzjoni settorjali u ssupplimentati minn gwida superviżorja. Pereżempju, l-obbligi ta’ governanza interna skont is-CRD (6) tal-utenti tas-sistemi tal-AI li jkunu istituzzjonijiet tal-kreditu jestendu għall-kontroll effettiv tal-arranġamenti ta’ esternalizzazzjoni, inklużi l-identifikazzjoni, il-valutazzjoni u l-mitigazzjoni tar-riskji assoċjati kollha, kif infurmati aktar mil-Linji Gwida tal-EBA dwar l-arranġamenti ta’ esternalizzazzjoni (7). Filwaqt li r-regolament propost jalloka obbligi differenti lill-fornituri u lill-utenti ta’ sistemi tal-AI b’riskju għoli, il-Linji Gwida tal-EBA dwar l-arranġamenti ta’ esternalizzazzjoni ma jagħmlu l-ebda distinzjoni bħal din fil-kuntest tal-esternalizzazzjoni bejn fornituri terzi ta’ soluzzjonijiet teknoloġiċi u istituzzjonijiet tal-kreditu. F’dan ir-rigward, l-esternalizzazzjoni ma tnaqqasx l-obbligu tal-istituzzjonijiet tal-kreditu li jikkonformaw mar-rekwiżiti regolatorji, u s-superviżur prudenzjali jibqa’ kompetenti biex jissorvelja r-riskji prudenzjali maħluqa mill-funzjonijiet esternalizzati. F’dan l-isfond, il-BĊE jilqa’ aktar kjarifiki dwar ir-rekwiżiti applikabbli u l-awtoritajiet kompetenti fir-rigward tal-esternalizzazzjoni minn utenti ta’ sistemi tal-AI b’riskju għoli li jkunu istituzzjonijiet tal-kreditu.

1.6.

Ir-rwol tal-BĊE taħt ir-regolament propost għandu jiġi ċċarat, b’mod partikolari fir-rigward ta’: (1) il-kompetenzi superviżorji prudenzjali tal-BĊE b’mod ġenerali, u b’rabta mas-sorveljanza tas-suq u l-valutazzjoni tal-konformità; u (2) l-applikazzjoni tar-regolament propost għat-twettiq tal-kompiti tal-BĊE taħt it-Trattat.

1.7.

Il-BĊE jibqa’ impenjat favur approċċ teknoloġikament newtrali fis-superviżjoni prudenzjali tal-istituzzjonijiet tal-kreditu. Ir-rwol tiegħu huwa li jiżgura s-sikurezza u s-sodezza tal-istituzzjonijiet tal-kreditu, filwaqt li jżomm standard għoli ta’ superviżjoni prudenzjali irrispettivament mill-applikazzjoni ta’ xi soluzzjoni teknoloġika partikolari. Il-BĊE għandu l-għan li jżomm kundizzjonijiet ekwi għas-superviżjoni prudenzjali tal-istituzzjonijiet tal-kreditu, skont il-prinċipju gwida ta’ “l-istess attività, l-istess riskji, l-istess superviżjoni” (8).

2. Ir-rwol tal-BĊE taħt ir-regolament propost

2.1. Kjarifika tal-kompetenzi superviżorji prudenzjali tal-BĊE fir-rigward tas-sorveljanza tas-suq

2.1.1.

Ir-regolament propost jipprevedi li r-Regolament (UE) 2019/1020 tal-Parlament Ewropew u tal-Kunsill (9) japplika għas-sistemi tal-AI koperti mir-regolament propost (10), u li kwalunkwe referenza għal prodott taħt ir-Regolament (UE) 2019/1020 għandha tinftiehem li tinkludi s-sistemi kollha tal-AI li jaqgħu fil-kamp ta’ applikazzjoni tar-regolament propost (11). F’dan ir-rigward, il-BĊE jinnota li l-objettiv tar-Regolament (UE) 2019/2020 huwa li jtejjeb il-funzjonament tas-suq intern billi jsaħħaħ is-sorveljanza tas-suq tal-prodotti kopertimil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni biex jiżgura li jitqiegħdu fis-suq tal-Unjon biss dawk il-prodotti konformi li jissodisfaw ir-rekwiżiti li jipprovdu livell għoli ta’ protezzjoni tal-interessi pubbliċi, bħas-saħħa u s-sigurtà inġenerali, is-saħħa u s-sigurtà fuq il-post tax-xogħol, il-protezzjoni tal-konsumatur, il-protezzjoni tal-ambjent u s-sigurtà pubblika u kwalunkwe interess pubbliku ieħor protett mil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni (12).

2.1.2.

Ir-regolament propost jiddefinixxi l-awtorità tas-sorveljanza tas-suq bħala l-awtorità nazzjonali li twettaq l-attivitajiet u tieħu l-miżuri skont ir-Regolament (UE) 2019/1020 (13). Ir-Regolament (UE) 2019/1020 min-naħa tiegħu jiddefinixxi l-awtorità tas-sorveljanza tas-suq bħala awtorità maħtura minn Stat Membru skont ir-Regolament (UE) 2019/1020 bħala responsabbli għat-twettiq tas-sorveljanza tas-suq fit-territorju ta’ dak l-Istat Membru (14). Barra minn hekk, il-premessa 9 tar-Regolament (UE) 2019/1020 tiċċara li r-responsabbiltà għall-infurzar tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni għandha tkun f’idejn l-Istati Membri, u l-awtoritajiet tas-sorveljanza tas-suq tagħhom għandhom ikunu meħtieġa jiżguraw li jkun hemm konformità sħiħa mal-leġiżlazzjoni (15). Fuq dik il-bażi, il-BĊE jifhem li, skont ir-regolament propost, il-BĊE bl-ebda mod ma huwa awtorità tas-sorveljanza tas-suq.

2.1.3.

Madankollu, ir-regolament propost jipprevedi wkoll li għas-sistemi tal-AI imqiegħda fis-suq, imqiegħda f’servizz jew użati mill-istituzzjonijiet finanzjarji rregolati mil-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji, l-awtorità tas-sorveljanza tas-suq għall-fini tar-regolament propost għandha tkun l-awtorità rilevanti responsabbli għas-superviżjoni finanzjarja ta’ dawk l-istituzzjonijiet skont dik il-leġiżlazzjoni (16). Barra minn hekk, il-premessa 80 tar-regolament propost tiċċara li l-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji tinkludi regoli u rekwiżiti dwar il-governanza interna u l-ġestjoni tar-riskju li huma applikabbli għall-istituzzjonijiet finanzjarji regolati matul il-forniment ta’ dawk is-servizzi, inkluż meta jagħmlu użu mis-sistemi tal-AI. Tiċċara wkoll li sabiex jiġu żgurati applikazzjoni u infurzar koerenti tal-obbligi skont ir-regolament propost u r-regoli u r-rekwiżiti rilevanti tal-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji, l-awtoritajiet responsabbli għas-superviżjoni u l-infurzar tal-leġiżlazzjoni dwar is-servizzi finanzjarji, inkluż fejn applikabbli l-BĊE, jenħtieġ li jinħatru bħala awtoritajiet kompetenti għall-fini tas-superviżjoni tal-implimentazzjoni tar-regolament propost, inkluż għal attivitajiet ta’ sorveljanza tas-suq, fir-rigward tas-sistemi tal-AI pprovduti jew użati minn istituzzjonijiet finanzjarji regolati u taħt superviżjoni. F’dan ir-rigward, issir referenza wkoll għall-ħtieġa li tissaħħaħ aktar il-konsistenza bejn ir-regolament propost u r-regoli applikabbli għall-istituzzjonijiet tal-kreditu regolati skont is-CRD.

2.1.4.

Skont l-Artikolu 127(6) tat-Trattat, il-Kunsill jista’ b’mod unanimu jikkonferixxi kompiti speċifiċi lill-BĊE fir-rigward ta’ politiki relatati mas-superviżjoni prudenzjali ta’ istituzzjonijiet tal-kreditu u istituzzjonijiet finanzjarji oħrajn bl-eċċezzjoni ta’ impriżi tal-assigurazzjoni. Fuq dik il-bażi, ir-Regolament tal-Kunsill (UE) Nru 1024/2013 (17) (minn hawn ‘il quddiem ir-“Regolament MSU”) jikkonferixxi lill-BĊE kompiti speċifiċi fir-rigward ta’ politiki relatati mas-superviżjoni prudenzjali ta’ istituzzjonijiet tal-kreditu, bil-għan li jikkontribwixxu għas-sikurezza u s-sodezza tal-istituzzjonijiet tal-kreditu u l-istabbiltà tas-sistema finanzjarja fl-Unjoni u kull Stat Membru, b’rigward sħiħ u bid-dover ta’ attenzjoni għall-unità u l-integrità tas-suq intern abbażi ta’ trattament ugwali tal-istituzzjonijiet tal-kreditu bil-għan li jiġi prekluż l-arbitraġġ regolatorju (18). F’dan ir-rigward, il-BĊE huwa esklużivament kompetenti, għal finijiet superviżorji prudenzjali, biex jiżgura konformità mal-atti rilevanti kollha tal-Unjoni, li jimponu rekwiżiti fuq l-istituzzjonijiet tal-kreditu biex ikollhom fis-seħħ, inter alia, proċessi robusti ta’ ġestjoni tar-riskju u mekkaniżmi ta’ kontroll intern (19). Ir-rwol superviżorju prudenzjali tal-BĊE f’dan ir-rigward huwa limitat li jiżgura li l-istituzzjonijiet tal-kreditu jimplimentaw politiki u proċessi biex jevalwaw u jiġġestixxu l-iskopertura tagħhom għar-riskju prudenzjali, inklużi riskji relatati ma’ aspetti differenti tal-mudelli tan-negozju tal-banek, il-governanza u r-riskju operazzjonali, u li jirriżultaw mill-użu ta’ soluzzjonijiet teknoloġiċi biex jiġu żgurati s-sikurezza u s-sodezza tal-istituzzjonijiet tal-kreditu u l-istabbiltà tas-sistema finanzjarja (20).

2.1.5.

Is-sorveljanza tas-suq ma għandhiex l-għan li tiżgura s-sikurezza u s-sodezza tal-istituzzjonijiet tal-kreditu, iżda minflok tiffoka fuq il-protezzjoni tal-interessi tal-individwi li potenzjalment jistgħu jiġu affettwati minn sistemi abbużivi tal-AI billi tiżgura li tali sistemi jissodisfaw ir-rekwiżiti meħtieġa biex jiġi żgurat livell għoli ta’ protezzjoni tal-interessi pubbliċi bħas-saħħa u s-sikurezza tal-persuni. Konsegwentement, il-BĊE jifhem li l-leġiżlatur tal-Unjoni ma għandux l-intenzjoni li l-BĊE jaġixxi bħala awtorità tas-sorveljanza tas-suq fir-rigward tal- istituzzjonijiet tal-kreditu taħt is-superviżjoni tiegħu skont ir-regolament propost. Din il-konklużjoni hija konformi mal-premessi tar-Regolament MSU, li jiċċaraw li l-awtoritajiet nazzjonali huma kompetenti biex jiżguraw livell għoli ta’ protezzjoni tal-konsumatur (21).

2.1.6.

Fuq dik il-bażi, il-BĊE jissuġġerixxi li, biex ikun konsistenti mal-kompetenzi superviżorji prudenzjali tal-BĊE skont l-Artikolu 127(6) tat-Trattat u r-Regolament MSU, it-test tar-regolament propost għandu jiċċara mingħajr ambigwità li l-BĊE ma huwiex maħtur bħala awtorità tas-sorveljanza tas-suq jew fdat bi kwalunkwe kompitu ta’ sorveljanza tas-suq.

2.1.7.

Filwaqt li l-kompiti tas-sorveljanza tas-suq ma ġewx ikkonferiti lill-BĊE, jista’ jkun il-każ li ċerti Stati Membri jikkunsidraw il-ħatra tal-awtoritajiet nazzjonali kompetenti involuti fis-superviżjoni tal-istituzzjonijiet tal-kreditu bħala responsabbli għas-sorveljanza tas-suq fil-kuntest tar-regolament propost, sa fejn dan ikun permess mill-mandat tagħhom u mill-inqas sal-punt li l-kompiti ta’ sorveljanza tas-suq japplikaw għal sitwazzjonijiet li fihom sistema tal-AI titqiegħed f’servizz għall-użu proprju. Il-ħatra tal-awtoritajiet nazzjonali kompetenti attwalment involuti fis-superviżjoni tal-istituzzjonijiet tal-kreditu bħala responsabbli għal tali sorveljanza tas-suq tista’ titqies li tissalvagwardja l-koerenza u l-kosteffettività tar-riżultati superviżorji filwaqt li tikkapitalizza fuq l-għarfien espert użat minn dawn l-awtoritajiet fl-użu tas-setgħat investigattivi u superviżorji tagħhom fir-rigward tal-istituzzjonijiet tal-kreditu.

2.1.8.

Fl-aħħar nett, il-BĊE jinnota li d-dispożizzjonijiet dwar is-sorveljanza tas-suq tar-regolament propost ma jindirizzawx b’mod adegwat is-sitwazzjonijiet li fihom sistema tal-AI titqiegħed f’servizz għall-użu proprju. Pereżempju, is-setgħa tal-awtoritajiet tas-sorveljanza tas-suq skont ir-regolament propost li jsejħu lura jew jirtiraw sistema tal-AI tista’ ma twassalx b’suċċess għall-waqfien ta’ dik is-sistema f’sitwazzjonijiet ta’ użu proprju (22). Il-leġiżlatur tal-Unjoni huwa għalhekk mistieden jiċċara liema miżuri restrittivi u liema setgħat tal-awtoritajiet kompetenti relatati għandhom japplikaw għal sitwazzjonijiet ta’ użu proprju.

2.2. Kjarifika tal-kompetenzi superviżorji prudenzjali tal-BĊE fil-qasam tal-valutazzjoni tal-konformità

2.2.1.

Ir-Regolament propost jipprevedi (23) li għas-sistemi tal-AI b’riskju għoli maħsuba biex jintużaw għall-evalwazzjoni tal-affidabbiltà kreditizja ta’ persuni fiżiċi jew jiġi stabbilit il-punteġġ tal-kreditu tagħhom (24), u li jitqiegħdu fis-suq jew jitqiegħdu f’servizz minn istituzzjonijiet tal-kreditu, għandha titwettaq valutazzjoni tal-konformità bħala parti mill-proċess ta’ reviżjoni u evalwazzjoni superviżorji (SREP) (25). Ir-Regolament propost jiddefinixxi (26) l-valutazzjoni tal-konformità bħala l-proċess biex jiġi vverifikat jekk ir-rekwiżiti obbligatorji għas-sistemi tal-AI b’riskju għoli stabbiliti fir-regolament propost (27) ġewx issodisfati.

2.2.2.

Kif ġie nnotat qabel, il-Kunsill, skont l-Artikolu 127(6) tat-Trattat, ikkonferixxa lill-BĊE kompiti speċifiċi li jikkonċernaw politiki relatati mas-superviżjoni prudenzjali ta’ istituzzjonijiet tal-kreditu, bil-ħsieb li jikkontribwixxi, inter alia, għas-sikurezza u s-sodezza tal-istituzzjonijiet tal-kreditu u l-istabbiltà tas-sistema finanzjarja fi ħdan l-Unjoni u kull Stat Membru (28). Sabiex jevita li jmur lil hinn mill-kompiti kkonferiti lilu mit-Trattat, il-BĊE jenfasizza li jista’ jkun f’pożizzjoni li jissorvelja l-implimentazzjoni tar-rekwiżiti rilevanti fil-kuntest tas-SREP filwaqt li jiffoka fuq ir-riskji prudenzjali li l-istituzzjonijiet tal-kreditu jistgħu jkunu esposti għalihom. F’dan ir-rigward, il-leġiżlatur tal-Unjoni huwa mistieden jikkunsidra l-punt sa fejn diversi elementi tal-valutazzjoni tal-konformità jistgħu ma jkunux ta’ natura prudenzjali inkwantu fil-biċċa l-kbira jikkonċernaw il-valutazzjoni teknika tas-sistemi tal-AI għas-salvagwardjar tas-saħħa u s-sikurezza tal-persuni u jiżguraw li d-drittijiet fundamentali jiġu rispettati billi jiġi minimizzat ir-riskju ta’ proċessi assistiti mill-AI li jkunu żbaljati jew preġudikati. B’mod partikolari, id-dispożizzjonijiet relevanti tar-regolament propost jeħtieġu li s-sistemi tal-AI ta’ riskju għoli ikunu ddisinnjati jew ddisinnjati u żviluppati (1) fuq il-bażi ta’ taħriġ, validazzjoni u ttestjat ta’ settijiet ta’ data li jissodisfaw ċerti kriterji tal-kwalità fejn jużaw tekniki li jinvolvu t-taħriġ ta’ mudelli bid-data; (2) b’kapaċitajiet li jippermettu r-rekordjar awtomatiku ta’ avvenimenti (“logs”) biex jiġi żgurat livell ta’ traċċabilità tal-funzjonament tas-sistema matul iċ-ċirklu tal-ħajja tagħha li jkun xieraq għall-għan intenzjonat tagħha; (3) b’mod li jiġi żgurat li dawn ikunu ssorveljati effettivament minn persuni fiżiċi, inklużi għodod ta’ interfaċċa bejn il-bniedem u magna, sabiex jiġu preklużi jew imminimizzati r-riskji għas-saħħa, is-sikurezza jew id-drittijiet fundamentali li jistgħu jirriżultaw meta tintuża sistema tal-AI ta’ riskju għoli; u (4) għall-iskop li jinkiseb livell xieraq ta’ akkuratezza, robustezza u ċibersigurtà (29). Kif iċċarat fil-premessi tar-regolament propost, dawn ir-rekwiżiti dwar il-kwalità tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti ta’ informazzjoni lill-utenti, is-sorveljanza umana, u r-robustezza, l-akkuratezza u ċ-ċibersigurtà huma meħtieġa biex jittaffew b’mod effettiv ir-riskji għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali (30).

2.2.3.

F’dan l-isfond, il-leġiżlatur tal-Unjoni huwa mistieden jirrifletti aktar dwar il-ħtieġa li jinħatru awtoritajiet kompetenti rilevanti bħala responsabbli għas-superviżjoni tal-valutazzjoni tal-konformità mwettqa mill-istituzzjonijiet tal-kreditu fejn huma kkonċernati kwistjonijiet speċifiċi għas-saħħa, is-sikurezza u d-drittijiet fundamentali, u biex jikkunsidra l-ħtieġa li tiġi żgurata l-applikazzjoni armonizzata tar-regolament propost fis-suq uniku kollu billi fil-futur tiġi stabbilita awtorità tal-AI fil-livell tal-Unjoni.

2.2.4.

Barra minn hekk, ċerti rekwiżiti għas-sistemi tal-AI b’riskju għoli ma humiex kompletament ċari jew speċifiċi biżżejjed biex jipprovdu fehim suffiċjenti biex jinfurmaw l-aspettattivi superviżorji. Pereżempju, jista’ jkun meħtieġ li jiġi ċċarat aktar ir-rekwiżit li s-settijiet tad-data dwar it-taħriġ, il-validazzjoni u l-ittestjar għandhom ikunu rilevanti, rappreżentattivi, ħielsa minn żbalji u kompluti (31). Meta jitqies il-kamp ta’ applikazzjoni wiesa’ tal-mandat mogħti lil organizzazzjonijiet tal-istandardizzazzjoni Ewropej (32) u għalhekk ir-riskju potenzjali li jiddgħajfu n-normi stabbiliti bir-regolament propost, ir-rekwiżiti li jappartjenu għal sistemi tal-AI ta’ riskju għoli stabbiliti fir-regolament propost għandhom ikunu speċifiċi biżżejjed.

2.2.5.

Fl-aħħar nett, il-BĊE jifhem li l-valutazzjoni tal-konformità għas-sistemi tal-AI pprovduti mill-istituzzjonijiet tal-kreditu biex jevalwaw l-affidabbiltà kreditizja ta’ persuni fiżiċi jew biex jistabbilixxu l-punteġġ tal-kreditu tagħhom hija parti minn kontroll intern ex ante mwettaq mill-istituzzjoni tal-kreditu (33).. F’dan ir-rigward, ir-regolament propost (34) għandu jiġi emendat biex jirrifletti n-natura ex post tal-valutazzjoni speċifika li għandha titwettaq mis-superviżur prudenzjali bħala parti mis-SREP.

2.3. Kjarifika tal-kompetenzi superviżorji prudenzjali tal-BĊE, b’mod ġenerali

Il-BĊE jista’ jitqies bħala awtorità kompetenti biss sa fejn ikun meħtieġ biex iwettaq il-kompiti kkonferiti lilu skont ir-Regolament MSU. Sabiex tiġi evitata l-inċertezza legali dwar jekk ir-regolament propost jagħtix kompiti ġodda lill-BĊE, il-BĊE jissuġġerixxi li, minflok jirreferi direttament lill-BĊE bħala awtorità kompetenti, ir-regolament propost għandu jirreferi għall-awtoritajiet kompetenti kif definiti fl-atti rilevanti tad-dritt tal-Unjoni, bħas-CRD. Imbagħad isegwi mir-Regolament MSU li l-BĊE għandu jitqies bħala awtorità kompetenti biss għall-fini li jwettaq il-kompiti superviżorji prudenzjali tiegħu (35).

2.4. Kjarifika tal-indipendenza tal-BĊE fit-twettiq tal-kompiti tiegħu skont it-Trattat

Il-BĊE jifhem li meta jaġixxi bħala fornitur li jqiegħed fis-suq jew iqiegħed f’servizz sistemi tal-AI fl-Unjoni, jew bħala utent tas-sistemi tal-AI li jinsabu fl-Unjoni, huwa stess jista’ jkun soġġett għar-regolament propost (36). L-istess jgħodd għall-banek ċentrali nazzjonali (BĊNi). Ir-regolament propost jipprevedi li, meta l-istituzzjonijiet tal-Unjoni jaqgħu fil-kamp ta’ applikazzjoni tiegħu, il-Kontrollur Ewropew għall-Protezzjoni tad-Data (KEPD) għandu jaġixxi bħala l-awtorità kompetenti għas-superviżjoni tagħhom u bħala l-awtorità tas-sorveljanza tas-suq tagħhom (37). Il-BĊNi jistgħu jkunu taħt is-superviżjoni tal-awtoritajiet nazzjonali kompetenti (38). F’dan ir-rigward huwa importanti li jiġi enfasizzat li l-BĊE u l-BĊNi għandhom ikunu f’pożizzjoni li jwettqu b’mod indipendenti l-kompiti kkonferiti lilu mit-Trattat (39), pereżempju meta jużaw kwalunkwe applikazzjoni tal-intelliġenza artifiċjali biex jiddefinixxu u jimplimentaw il-politika monetarja u biex jippromwovu l-operat bla xkiel tas-sistemi ta’ ħlas (40). Madankollu, għandu jiġi rrikonoxxut li l-indipendenza tas-SEBĊ fit-twettiq tal-kompiti tagħha ma teżentahiex minn kull regola tad-dritt tal-Unjoni (41). Il-BĊE jifhem li kwalunkwe superviżjoni potenzjali tal-BĊE mill-KEPD u mill-BĊNi mill-awtoritajiet nazzjonali kompetenti tkun limitata għal kontrolli xierqa u governanza ta’ sistema tal-AI, u bl-ebda mod ma tkun maħsuba biex taffettwa l-kapaċità tal-BĊE u tal-BĊNi li jwettqu b’mod indipendenti l-kompiti kkonferiti lilhom mit-Trattat.

3. Klassifikazzjoni tas-sistemi tal-AI

3.1.

Ir-regolament propost għandu l-għan li jiżgura qafas regolatorju proporzjonat fir-rigward tal-objettivi tiegħu billi jadotta approċċ ibbażat fuq ir-riskju li jimponi piżijiet regolatorji biss meta sistema tal-AI x’aktarx li toħloq riskji għoljin għad-drittijiet fundamentali u s-sikurezza. Madankollu, ir-regolament propost, li jantiċipa żviluppi futuri fit-teknoloġija tal-AI, jiddefinixxi s-softwer li jikkwalifika bħala sistema tal-AI b’mod wiesa’. B’riżultat ta’ dan, is-software li jiġi żviluppat biex jiġġenera outputs bħal kontenut, tbassir, rakkomandazzjonijiet, jew deċiżjonijiet, bl-użu ta’ approċċi ta’ tagħlim statistiku u awtomatiku, kif ukoll metodi ta’ tiftix u ottimizzazzjoni, jikkostitwixxi sistema tal-AI (42). Din id-definizzjoni wiesgħa tkopri varjetà ta’ attivitajiet imwettqa minn istituzzjonijiet tal-kreditu, b’mod partikolari fir-rigward ta’ sistemi maħsuba biex jistabbilixxu l-punteġġ tal-kreditu ta’ persuni fiżiċi.

3.2.

Skont ir-regolament propost (43), il-maġġoranza l-kbira tal-attivitajiet ta’ punteġġ tal-kreditu li jagħmlu użu mis-sistemi tal-AI jkunu awtomatikament soġġetti għar-rekwiżiti minimi orizzontali imposti fuq is-sistemi tal-AI b’riskju għoli. Konsegwentement, diversi attivitajiet, inkluża l-akkwiżizzjoni mmirata għall-kummerċjalizzazzjoni, l-immudellar tal-kollezzjonijiet u mudelli standard ta’ punteġġ tal-kreditu (eż. tabella ta’ valutazzjoni bl-użu ta’ rigressjoni loġistika), ikollhom jikkonformaw mal-istess rekwiżiti. Biex tissaħħaħ iċ-ċarezza fl-aspettattivi superviżorji u f’konformità mal-approċċ teknoloġikament newtrali tal-BĊE, huwa ssuġġerit li s-sistemi tal-AI maħsuba biex jintużaw biex tiġi evalwata l-affidabbiltà kreditizja ta’ persuni fiżiċi jew biex jiġi stabbilit il-punteġġ tal-kreditu tagħhom u liema ingranaġġ fuq l-użu awtonomu ta’ rigressjoni lineari jew loġistika jew siġar tad-deċiżjonijiet taħt is-superviżjoni tal-bniedem m’għandhomx jiġu kklassifikati bħala sistemi tal-AI b’riskju għoli, dment li l-impatt ta’ tali approċċi għall-valutazzjoni tal-affidabbiltà kreditizja jew tal-punteġġ tal-kreditu tal-persuni fiżiċi jkun minuri.

3.3.

Peress li l-attivitajiet ta’ punteġġ tal-kreditu jitwettqu regolarment mill-istituzzjonijiet tal-kreditu fil-prattika ta’ kuljum, il-BĊE jissuġġerixxi li d-dħul fis-seħħ ta’ rekwiżiti relatati mal-kwalifika tas-sistemi tal-AI maħsuba biex jintużaw biex tiġi evalwata l-affidabbiltà kreditizja ta’ persuni fiżiċi jew biex jiġi stabbilit il-punteġġ tal-kreditu tagħhom bħala “sistemi tal-AI b’riskju għoli” għandu jiddewwem sakemm il-Kummissjoni tadotta speċifikazzjonijiet komuni (44) dwar il-kwistjoni. B’mod partikolari, dawn l-ispeċifikazzjonijiet komuni għandhom jispjegaw il-kundizzjonijiet li taħthom is-sistemi tal-AI b’riskju għoli f’dan il-qasam se jkunu preżunti konformi mar-rekwiżiti applikabbli, kif ukoll jiddefinixxu meta s-sistemi tal-AI għandhom jitqiesu bħala “mqiegħda fis-servizz minn fornituri fuq skala żgħira għall-użu tagħhom stess”, u għalhekk jaqgħu fil-kamp ta’ applikazzjoni tal-eċċezzjoni mill-kwalifika bħala sistema tal-AI ta’ riskju għoli (45). F’dan l-isfond, il-BĊE għandu jiġi inkluż fil-lista ta’ korpi kkonsultati qabel l-adozzjoni ta’ tali speċifikazzjonijiet komuni, fejn dawn jikkonċernaw sistemi tal-AI maħsuba biex jintużaw biex tiġi evalwata l-affidabbiltà kreditizja ta’ persuni fiżiċi jew jiġi stabbilit il-punteġġ tal-kreditu tagħhom (46).

3.4.

Fl-aħħar nett, il-BĊE jilqa’ l-possibbiltà li tiġi aġġornata l-lista ta’ sistemi tal-AI b’riskju għoli inkluża fl-Anness III tar-regolament propost (47), u jinsab lest li jikkoopera mal-Kummissjoni u jiġi kkonsultat minnha dwar l-identifikazzjoni ta’ riskji potenzjali ulterjuri tas-sistemi tal-AI li jistgħu joħolqu riskju ta’ ħsara għas-saħħa u s-sikurezza, jew riskju ta’ impatt negattiv fuq id-drittijiet fundamentali. Minbarra s-sistemi tal-AI użati għall-evalwazzjoni tal-punteġġ tal-kreditu jew l-affidabbiltà kreditizja ta’ persuni fiżiċi, ir-regolament propost ma jiddeżinjax sistemi oħra b’riskju għoli li jistgħu jitqiegħdu fis-servizz speċifikament minn istituzzjonijiet tal-kreditu. Madankollu, l-istituzzjonijiet tal-kreditu qed jiżviluppaw jew jikkunsidraw l-iżvilupp u l-użu tal-immudellar tad-data tal-AI li jorbot id-data tal-bejgħ, tat-tranżazzjonijiet u tal-prestazzjoni biex jiżguraw ħarsa ġenerali ċara tar-riskju tal-kondotta f’ċertu qasam. Bl-istess mod, is-sistemi tal-AI jistgħu jintużaw fil-monitoraġġ f’ħin reali tal-pagamenti, jew fit-tfassil ta’ profili tal-klijenti jew tat-tranżazzjonijiet, għall-finijiet tal-ġlieda kontra l-ħasil tal-flus u l-finanzjament tat-terroriżmu.

Fejn il-BĊE jirrakkomanda li d-direttiva proposta tiġi emendata, qed tiġi prevista proposta ta’ abbozzar speċifika f’dokument ta’ ħidma tekniku separat flimkien ma’ test spjegattiv għal dan il-għan. Id-dokument ta’ ħidma tekniku huwa disponibbli bl-Ingliż fuq EUR-Lex.

Magħmul fi Frankfurt am Main, id-29 ta’ Diċembru 2021.

Il-President tal-BĊE

Christine LAGARDE

(1) COM(2021) 206 final.

(2) Id-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill tas-26 ta’ Ġunju 2013 dwar l-aċċess għall-attività tal-istituzzjonijiet tal-kreditu u s-superviżjoni prudenzjali tal-istituzzjonijiet tal-kreditu u tad-ditti tal-investiment, li temenda d-Direttiva 2002/87/KE u li tħassar id-Direttivi 2006/48/KE u 2006/49/KE (ĠU L 176, 27.6.2013, p. 338).

(3) Ara l-Artikoli 9(9), 18(2), 20(2) u 29(5) tar-regolament propost u l-Artikolu 74 tas-CRD.

(4) Ara l-Artikolu 74 tas-CRD.

(5) Ara l-Artikoli 17(3) u 29(4) tar-regolament propost.

(6) Ara l-Artikolu 74 tas-CRD.

(7) Ara l-Linji Gwida tal-EBA dwar l-Arranġamenti ta’ Esternalizzazzjoni (https://www.eba.europa.eu/regulation-and-policy/internal-governance/guidelines-on-outsourcing-arrangements).

(8) Ara Andrea Enria, President tal-Bord Superviżorju tal-BĊE, “A binary future? How digitalisation might change banking”, De Nederlandsche Bank, Amsterdam, 11 ta’ Marzu 2019, disponibbli fuq is-sit web tas-Superviżjoni Bankarja tal-BĊE fuq www.bankingsupervision.europa.eu.

(9) Ir-Regolament (UE) 2019/1020 tal-Parlament Ewropew u tal-Kunsill tal-20 ta’ Ġunju 2019 dwar is-sorveljanza tas-suq u l-konformità tal-prodotti u li jemenda d-Direttiva 2004/42/KE u r-Regolamenti (KE) Nru 765/2008 u (UE) Nru 305/2011 (ĠU L 169, 25.6.2019, p.1).

(10) Ara l-Artikolu 63(1) tar-regolament propost.

(11) Ara l-Artikolu 63(1)(b) tar-regolament propost.

(12) Ara l-Artikolu 1(1) tar-Regolament (UE) Nru 2019/1020.

(13) Ara l-Artikolu 3(26) tar-regolament propost.

(14) Ara l-Artikolu 3(4) tar-Regolament (UE) 2019/1020.

(15) Ara l-premessa 9 tar-Regolament (UE) 2019/1020.

(16) Ara l-Artikolu 63(4) tar-regolament propost.

(17) Ir-Regolament tal-Kunsill (UE) Nru 1024/2013 tal-15 ta’ Ottubru 2013 li jikkonferixxi kompiti speċifiċi lill-Bank Ċentrali Ewropew fir-rigward ta’ politiki relatati mas-superviżjoni prudenzjali ta’ istituzzjonijiet ta’ kreditu (ĠU L 287, 29.10.2013, p. 63).

(18) Ara l-ewwel paragrafu tal-Artikolu 1 tar-Regolament MSU.

(19) Ara l-Artikolu 4(1)(e) tar-Regolament MSU.

(20) Ara l-premessa 30 tar-Regolament MSU, kif ukoll il-paġni 53 u 54 tar-“rispons tas-SEBĊ/superviżjoni bankarja Ewropea għall-konsultazzjoni pubblika tal-Kummissjoni Ewropea dwar strateġija ġdida għall-finanzi diġitali għall-Ewropa/pjan ta’ azzjoni tal-FinTech” (Awwissu 2020), disponibbli fuq is-sit web tas-Superviżjoni Bankarja tal-BĊE.

(21) Il-premessi 28 u 29 tar-Regolament MSU.

(22) Ara l-Artikolu 3, il-punti (16) u (17), l-Artikolu 65(2), it-tieni subparagrafu, u l-Artikoli 65(5) u 67(1) tar-regolament propost.

(23) Ara l-Artikoli 19(2) u 43(2) tar-regolament propost.

(24) Ara l-punt 5(b) tal-Anness III tar-regolament propost.

(25) L-Artikoli 97 sa 101 tas-CRD jittrattaw dwar is-SREP.

(26) Ara l-Artikolu 3(20) tar-regolament propost.

(27) Ara l-Artikoli 8 sa 15 tal-Kapitolu 2 tat-Titolu III tar-regolament propost.

(28) Ara l-ewwel paragrafu tal-Artikolu 1 tal-Regolament MSU.

(29) Ara l-Artikoli 10, 12, 14 u 15 tar-regolament propost.

(30) Ara l-premessa 43 tar-regolament propost.

(31) Ara l-Artikolu 10(3) tar-regolament propost.

(32) Ara l-Artikolu 40 u l-premessa 61 tar-regolament propost.

(33) Ara l-ewwel sentenza tal-Artikolu 43(2) u l-Anness VI tar-regolament propost.

(34) Ara l-Artikolu 19(2) u b’mod partikolari t-tieni sentenza tal-Artikolu 43(2) tar-regolament propost.

(35) Ara l-Artikolu 6 tar-Regolament MSU.

(36) Ara l-Artikolu 2 tar-regolament propost.

(37) Ara l-Artikoli 59(8) u 63(6) tar-regolament propost.

(38) Ara l-Artikolu 59(2) tar-regolament propost.

(39) Ara l-Artikolu 130 tat-Trattat.

(40) Ara l-ewwel u r-raba’ inċiżi tal-Artikolu 127(2) tat-Trattat.

(41) Ara s-sentenza tal-Qorti tal-Ġustizzja tal-10 ta’ Lulju 2003, C-11/00 Il-Kummissjoni vs Il-Bank Ċentrali Ewropew, ECLI:EU:C:2003:3, il-punti 130 sa 135.

(42) Ara l-Artikolu 3(1) u l-Anness I tar-regolament propost.

(43) Ara l-punt 5(b) tal-Anness III tar-regolament propost.

(44) Ara l-Artikolu 41(1) tar-regolament propost.

(45) Skont il-punt 5(b) tal-Anness III tar-regolament propost.

(46) Ara l-Artikolu 41(2) tar-regolament propost.

(47) Ara l-Artikolu 7(1) tar-regolament propost.