(1)

Dan ir-Regolament għandu l-iskop li jtejjeb il-funzjonament tas-suq intern billi jistabbilixxi qafas legali uniformi b’mod partikolari għall-iżvilupp , il-kummerċjalizzazzjoni u  l-użu tal-intelliġenza artifiċjali bi qbil mal-valuri tal-Unjoni . Dan ir-Regolament isegwi għadd ta’ raġunijiet prevalenti ta’ interess pubbliku , fosthom livell għoli ta’ protezzjoni tas-saħħa u  s-sikurezza, u ta’ ħarsien tad-drittijiet fundamentali, u jiżgura l-moviment liberu transfruntier tal-prodotti u s-servizzi bbażati fuq l-AI, u b’hekk jevita li l-Istati Membri jimponu restrizzjonijiet fuq l-iżvilupp, il-kummerċjalizzazzjoni u l-użu tas-sistemi tal-AI, sakemm ma jkunux awtorizzati espliċitament minn dan ir-Regolament.

(1)

Dan ir-Regolament għandu l-iskop li jippromwovi l-adozzjoni ta’ intelliġenza artifiċjali ċċentrata fuq il-bniedem u affidabbli u li jiġi żgurat livell għoli ta’ protezzjoni tas-saħħa , tas-sikurezza, tad-drittijiet fundamentali, tad-demokrazija u  tal-istat tad-dritt, u tal-ambjent mill-effetti dannużi tas-sistemi tal-intelliġenza artifiċjali fl-Unjoni filwaqt li tiġi appoġġata l-innovazzjoni u jitjieb il-funzjonament tas-suq intern . Dan ir-Regolament jistabbilixxi qafas legali uniformi b’mod partikolari għall-iżvilupp , it-tqegħid fis-suq, it-tqegħid fis-servizz u  l-użu tal-intelliġenza artifiċjali bi qbil mal-valuri tal-Unjoni u jiżgura l-moviment liberu transfruntier tal-prodotti u s-servizzi bbażati fuq l-AI, u b’hekk jevita li l-Istati Membri jimponu restrizzjonijiet fuq l-iżvilupp, il-kummerċjalizzazzjoni u l-użu tas-sistemi tal-Intelliġenza Artifiċjali (is-sistemi tal-AI), sakemm ma jkunux awtorizzati espliċitament minn dan ir-Regolament. Ċerti sistemi tal-AI jista’ jkollhom ukoll impatt fuq id-demokrazija, l-istat tad-dritt u l-ambjent. Dan it-tħassib huwa indirizzat speċifikament fis-setturi kritiċi u l-każijiet ta’ użu elenkati fl-annessi ta’ dan ir-Regolament.

(1a)

Jenħtieġ li dan ir-Regolament jippreserva l-valuri tal-Unjoni li jiffaċilitaw id-distribuzzjoni tal-benefiċċji tal-intelliġenza artifiċjali fis-soċjetà kollha, jipproteġu lill-individwi, il-kumpaniji, id-demokrazija u l-istat tad-dritt u l-ambjent mir-riskji filwaqt li jagħtu spinta lill-innovazzjoni u l-impjiegi u jagħmlu lill-Unjoni mexxejja f’dan il-qasam.

(2)

Is-sistemi tal-intelliġenza artifiċjali (is-sistemi tal-AI) jistgħu faċilment jibdew jintużaw f’bosta setturi tal-ekonomija u tas-soċjetà, inkluż dawk transfruntieri, u jiċċirkolaw madwar l-Unjoni. Ċerti Stati Membri diġà esploraw l-adozzjoni ta’ regoli nazzjonali biex jiżguraw li l-intelliġenza artifiċjali tkun sikura u li tiġi żviluppata u tintuża skont l-obbligi tad-drittijiet fundamentali. Regoli nazzjonali differenti jistgħu jwasslu għal frammentazzjoni tas-suq intern u jnaqqsu ċ-ċertezza legali lill-operaturi li jiżviluppaw jew jużaw is-sistemi tal-AI. Għalhekk, jenħtieġ ikun żgurat livell konsistenti u għoli ta’ protezzjoni madwar l-Unjoni kollha, filwaqt li jenħtieġ jiġu evitat d-diverġenzi li jfixklu ċ-ċirkolazzjoni libera tas-sistemi tal-AI u tal-prodotti u tas-servizzi relatati fi ħdan is-suq intern, billi jiġu stabbiliti obbligi uniformi għall-operaturi u tkun żgurata l-protezzjoni uniformi tar-raġunijiet prevalenti ta’ interess pubbliku u tad-drittijiet tal-persuni fis-suq intern kollu abbażi tal-Artikolu 114 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea (TFUE). Peress li dan ir-Regolament fih regoli speċifiċi dwar il-protezzjoni ta’ individwi fir-rigward tal-ipproċessar tad-data personali rigward restrizzjonijiet tal-użu ta’ sistemi tal-AI għal identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi, ikun xieraq li, fejn jidħlu dawk ir-regoli speċifiċi, dan ir-Regolament jiġi bbażat fuq l-Artikolu 16 tat-TFUE. Fid-dawl ta’ dawk ir-regoli speċifiċi u tar-rikors għall-Artikolu 16 tat-TFUE, jixraq jiġi kkonsultat il-Bord Ewropew għall-Protezzjoni tad-Data.

(2)

Is-sistemi tal-intelliġenza artifiċjali jistgħu faċilment jibdew jintużaw f’bosta setturi tal-ekonomija u tas-soċjetà, inkluż dawk transfruntieri, u jiċċirkolaw madwar l-Unjoni. Ċerti Stati Membri diġà esploraw l-adozzjoni ta’ regoli nazzjonali biex jiżguraw li l-intelliġenza artifiċjali tkun affidabbli u sikura u li tiġi żviluppata u tintuża skont l-obbligi tad-drittijiet fundamentali. Regoli nazzjonali differenti jistgħu jwasslu għal frammentazzjoni tas-suq intern u jnaqqsu ċ-ċertezza legali lill-operaturi li jiżviluppaw jew jużaw is-sistemi tal-AI. Għalhekk, jenħtieġ li jkun żgurat livell konsistenti u għoli ta’ protezzjoni madwar l-Unjoni kollha sabiex tinkiseb AI affidabbli , filwaqt li jenħtieġ li jiġu evitati d-diverġenzi li jfixklu ċ-ċirkolazzjoni libera , l-innovazzjoni, l-użu u l-adozzjoni tas-sistemi tal-AI u tal-prodotti u tas-servizzi relatati fi ħdan is-suq intern, billi jiġu stabbiliti obbligi uniformi għall-operaturi u tkun żgurata l-protezzjoni uniformi tar-raġunijiet prevalenti ta’ interess pubbliku u tad-drittijiet tal-persuni fis-suq intern kollu abbażi tal-Artikolu 114 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea (TFUE).

(2a)

Peress li l-intelliġenza artifiċjali spiss tiddependi mill-ipproċessar ta’ volumi kbar ta’ data, u ħafna sistemi u applikazzjonijiet tal-AI mill-ipproċessar tad-data personali, huwa xieraq li dan ir-Regolament jiġi bbażat fuq l-Artikolu 16 tat-TFUE, li jistabbilixxi d-dritt għall-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar tad-data personali u jipprevedi l-adozzjoni tar-regoli dwar il-protezzjoni tal-individwi fir-rigward tal-ipproċessar tad-data personali.

(2b)

Id-dritt fundamentali għall-protezzjoni ta’ data personali huwa salvagwardjat b’mod partikolari mir-Regolamenti (UE) 2016/679 u (UE) 2018/1725 u d-Direttiva 2016/680. Barra minn hekk, id-Direttiva 2002/58/KE tipproteġi l-ħajja privata u l-kunfidenzjalità tal-komunikazzjoni, inkluż billi tipprovdi kundizzjonijiet għal kwalunkwe ħżin ta’ data personali u mhux personali u l-aċċess minn tagħmir terminali. Dawk l-atti legali jipprovdu l-bażi ta’ pproċessar sostenibbli u responsabbli tad-data, inkluż fejn is-settijiet ta’ data jinkludu taħlita ta’ data personali u mhux personali. Dan ir-Regolament ma jfittixx li jaffettwa l-applikazzjoni tad-dritt tal-Unjoni eżistenti li jirregola l-ipproċessar tad-data personali, inkluż il-kompiti u s-setgħat tal-awtoritajiet superviżorji indipendenti kompetenti biex jimmonitorjaw il-konformità ma’ dawk l-istrumenti. Dan ir-Regolament ma jaffettwax id-drittijiet fundamentali għall-ħajja privata u għall-protezzjoni tad-data personali kif previst mid-dritt tal-Unjoni dwar il-protezzjoni u l-privatezza tad-data u kif minqux fil-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea (il-“Karta”).

(2c)

Is-sistemi tal-intelliġenza artifiċjali fl-Unjoni huma soġġetti għal-leġiżlazzjoni rilevanti dwar is-sikurezza tal-prodotti li tipprovdi qafas li jipproteġi lill-konsumaturi minn prodotti perikolużi b’mod ġenerali u jenħtieġ li tkompli tapplika din il-leġiżlazzjoni. Dan ir-Regolament huwa wkoll mingħajr preġudizzju għar-regoli stabbiliti minn atti legali oħra tal-Unjoni relatati mal-protezzjoni tal-konsumatur u s-sikurezza tal-prodotti, inklużi r-Regolament (UE) 2017/2394, ir-Regolament (UE) 2019/1020 u d-Direttiva (UE) 2001/95/KE dwar is-sigurtà ġenerali tal-prodotti u d-Direttiva 2013/11/UE.

(2d)

F’konformità mal-Artikolu 114(2) tat-TFUE, dan ir-Regolament jikkomplementa u jenħtieġ li ma jimminax id-drittijiet u l-interessi tal-persuni impjegati. Għalhekk, jenħtieġ li dan ir-Regolament ma jaffettwax id-dritt tal-Unjoni dwar il-politika soċjali u l-liġi u l-prattika nazzjonali tax-xogħol, jiġifieri kwalunkwe dispożizzjoni legali u kuntrattwali li tikkonċerna l-kundizzjonijiet tal-impjieg, il-kundizzjonijiet tax-xogħol, inklużi s-saħħa u s-sikurezza fuq il-post tax-xogħol u r-relazzjoni bejn min iħaddem u l-ħaddiema, inkluż l-informazzjoni, il-konsultazzjoni u l-parteċipazzjoni. Jenħtieġ li dan ir-Regolament ma jaffettwax l-eżerċizzju tad-drittijiet fundamentali kif rikonoxxuti fl-Istati Membri u fil-livell tal-Unjoni, inkluż id-dritt jew il-libertà tal-istrajkjar jew li tittieħed azzjoni oħra koperta mis-sistemi speċifiċi ta’ relazzjonijiet industrijali fl-Istati Membri, f’konformità mal-liġi u/jew il-prattika nazzjonali. Lanqas ma jenħtieġ li jaffettwa l-prattiki miftiehma, id-dritt tan-negozjar, tal-konklużjoni u tal-infurzar ta’ ftehimiet kollettivi jew li tittieħed azzjoni kollettiva f’konformità mal-liġi u/jew il-prattika nazzjonali. Fi kwalunkwe każ, dan jenħtieġ li ma jipprevjenix lill-Kummissjoni milli tipproponi leġiżlazzjoni speċifika dwar id-drittijiet u l-libertajiet tal-ħaddiema affettwati mis-sistemi tal-AI.

(2e)

Jenħtieġ li dan ir-Regolament ma jaffettwax id-dispożizzjonijiet li għandhom l-għan li jtejbu l-kundizzjonijiet tax-xogħol fix-xogħol fuq il-pjattaformi stabbiliti fid-Direttiva … [COD 2021/414/KE].

(2f)

Jenħtieġ li dan ir-Regolament jgħin fl-appoġġ tar-riċerka u l-innovazzjoni u jenħtieġ li ma jimminax l-attività ta’ riċerka u żvilupp u jirrispetta l-libertà tar-riċerka xjentifika. Għalhekk huwa meħtieġ li jiġu esklużi mill-kamp ta’ applikazzjoni tiegħu s-sistemi tal-AI żviluppati speċifikament għall-iskop uniku ta’ riċerka u żvilupp xjentifiċi u li jiġi żgurat li r-Regolament ma jaffettwax b’mod ieħor l-attività xjentifika ta’ riċerka u żvilupp dwar is-sistemi tal-AI. Fiċ-ċirkostanzi kollha, jenħtieġ li kwalunkwe attività ta’ riċerka u żvilupp titwettaq f’konformità mal-Karta, id-dritt tal-Unjoni kif ukoll il-liġi nazzjonali;

(3)

L-intelliġenza artifiċjali hi familja ta’ teknoloġiji li qed tevolvi malajr u tista’ tikkontribwixxi għal firxa wiesgħa ta’ benefiċċji ekonomiċi u soċjetali fl-ispettru kollu tal-industriji u tal-attivitajiet soċjali. B’titjib fil-previżjoni, b’ottimizzazzjoni tal-operazzjonijiet u l-allokazzjoni tar-riżorsi, u b’personalizzazzjoni tas-soluzzjonijiet diġitali disponibbli għall-individwi u l-organizzazzjonijiet, l-użu tal-intelliġenza artifiċjali jista’ jipprovdi vantaġġi kompetittivi ewlenin lill-kumpaniji u jappoġġa eżiti b’benefiċċji soċjali u ambjentali, bħal pereżempju fil-kura tas-saħħa, fil-biedja, fl-edukazzjoni u t-taħriġ, fil-ġestjoni tal-infrastruttura, fl-enerġija, fit-trasport u l-loġistika, fis-servizzi pubbliċi, fis-sigurtà, fil-ġustizzja, fl-effiċjenza tar-riżorsi u enerġetika, u fil-mitigazzjoni u l-adattament għat-tibdil fil-klima.

(3)

L-intelliġenza artifiċjali hi familja ta’ teknoloġiji li qed tevolvi malajr li tista’ u diġà qed tikkontribwixxi għal firxa wiesgħa ta’ benefiċċji ekonomiċi , ambjentali u soċjetali fl-ispettru kollu tal-industriji u tal-attivitajiet soċjali , jekk tiġi żviluppata f’konformità mal-prinċipji ġenerali rilevanti skont il-Karta u l-valuri li fuqhom hija bbażata l-Unjoni . B’titjib fil-previżjoni, b’ottimizzazzjoni tal-operazzjonijiet u l-allokazzjoni tar-riżorsi, u b’personalizzazzjoni tas-soluzzjonijiet diġitali disponibbli għall-individwi u l-organizzazzjonijiet, l-użu tal-intelliġenza artifiċjali jista’ jipprovdi vantaġġi kompetittivi ewlenin lill-kumpaniji u jappoġġa eżiti b’benefiċċji soċjali u ambjentali, bħal pereżempju fil-kura tas-saħħa, fil-biedja, fis-sikurezza tal-ikel, fl-edukazzjoni u t-taħriġ, fil-midja, fl-isports, fil-kultura, fil-ġestjoni tal-infrastruttura, fl-enerġija, fit-trasport u l-loġistika, fl-immaniġġjar tal-kriżijiet, fis-servizzi pubbliċi, fis-sigurtà, fil-ġustizzja, fl-effiċjenza tar-riżorsi u enerġetika, fil-monitoraġġ ambjentali, fil-konservazzjoni u r-restawr tal-bijodiversità u l-ekosistemi u fil-mitigazzjoni u l-adattament għat-tibdil fil-klima.

(3a)

Sabiex jilħqu l-miri tan-newtralità karbonika, il-kumpaniji Ewropej jenħtieġ li jfittxu li jużaw l-avvanzi teknoloġiċi kollha disponibbli li jistgħu jgħinu biex jintlaħaq dan l-għan. L-Intelliġenza Artifiċjali hija teknoloġija li għandha l-potenzjal li tintuża biex tipproċessa l-ammont dejjem jikber ta’ data maħluqa matul il-proċessi industrijali, ambjentali, tas-saħħa u oħrajn. Sabiex jiġu ffaċilitati l-investimenti fl-analiżi bbażata fuq l-AI u għodod ta’ ottimizzazzjoni, dan ir-Regolament jenħtieġ li jipprovdi ambjent prevedibbli u proporzjonat għal soluzzjonijiet industrijali b’riskju baxx.

(4)

Fl-istess ħin, skont iċ-ċirkostanzi rigward l-applikazzjoni u l-użu speċifiċi tagħha, l-intelliġenza artifiċjali tista’ toħloq riskji u tikkawża dannu lill-interessi u lid-drittijiet pubbliċi mħarsa bil-liġi tal-Unjoni. Dan id-dannu jista’ jkun materjali jew mhux materjali.

(4)

Fl-istess ħin, skont iċ-ċirkostanzi rigward l-applikazzjoni u l-użu speċifiċi tagħha, kif ukoll il-livell ta’ żvilupp teknoloġiku, l-intelliġenza artifiċjali tista’ toħloq riskji u tikkawża dannu lill-interessi pubbliċi jew privati u lid-drittijiet fundamentali ta’ persuni fiżiċi mħarsa bid-dritt tal-Unjoni. Dan id-dannu jista’ jkun materjali jew mhux materjali , inkluż dannu fiżiku, psikoloġiku, soċjetali jew ekonomiku .

(4a)

Minħabba l-impatt kbir li jista’ jkollha l-intelliġenza artifiċjali fuq is-soċjetà u l-ħtieġa li tinbena l-fiduċja, huwa vitali li l-intelliġenza artifiċjali u l-qafas regolatorju tagħha jiġu żviluppati skont il-valuri tal-Unjoni minquxa fl-Artikolu 2 tat-TUE, id-drittijiet u l-libertajiet fundamentali minquxa fit-Trattati, il-Karta u d-dritt internazzjonali dwar id-drittijiet tal-bniedem. Bħala prerekwiżit, l-intelliġenza artifiċjali jenħtieġ li tkun teknoloġija ċċentrata fuq il-bniedem. Din jenħtieġ li ma tissostitwix l-awtonomija jew tassumi t-telf tal-libertà individwali u jenħtieġ li sservi primarjament il-ħtiġijiet tas-soċjetà u tal-ġid komuni. Jenħtieġ li jiġu pprovduti salvagwardji biex jiġi żgurat l-iżvilupp u l-użu ta’ intelliġenza artifiċjali integrata b’mod etiku li tirrispetta l-valuri tal-Unjoni u l-Karta.

(5)

Għalhekk, hu meħtieġ qafas legali tal-Unjoni li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali biex jitrawwem l-iżvilupp, l-użu u l-adozzjoni tal-intelliġenza artifiċjali fis-suq intern li fl-istess ħin jissodisfa livell għoli ta’ protezzjoni tal-interessi pubbliċi, bħas-saħħa u s-sikurezza, u  ħarsien tad-drittijiet fundamentali , kif rikonoxxuti u mħarsa bil-liġi tal-Unjoni. Biex jintlaħaq dak l-objettiv, jenħtieġ jiġu stabbiliti regoli li jirregolaw it-tqegħid fis-suq u t-tqegħid fis-servizz ta’ ċerti sistemi tal-AI, u b’hekk ikun żgurat il-funzjonament bla xkiel tas-suq intern u dawk is-sistemi jitħallew jibbenefikaw mill-prinċipju tal-moviment liberu tal-prodotti u tas-servizzi. Dan ir-Regolament jistabbilixxi dawk ir-regoli, u għalhekk jappoġġa l-objettiv li l-Unjoni tkun mexxejja dinjija fl-iżvilupp ta’ intelliġenza artifiċjali sigura, affidabbli u etika kif iddikjara l-Kunsill Ewropew (33), u tkun żgurata l-protezzjoni tal-prinċipji etiċi kif mitlub speċifikament mill-Parlament Ewropew (34).

(5)

Għalhekk, hu meħtieġ qafas legali tal-Unjoni li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali biex jitrawwem l-iżvilupp, l-użu u l-adozzjoni tal-intelliġenza artifiċjali fis-suq intern li fl-istess ħin jissodisfa livell għoli ta’ protezzjoni tal-interessi pubbliċi, bħas-saħħa u s-sikurezza, il-ħarsien tad-drittijiet fundamentali, id-demokrazija u  l-istat tad-dritt u l-ambjent , kif rikonoxxuti u mħarsa bid-dritt tal-Unjoni. Biex jintlaħaq dak l-objettiv, jenħtieġ li jiġu stabbiliti regoli li jirregolaw it-tqegħid fis-suq , it-tqegħid fis-servizz u l-użu ta’ ċerti sistemi tal-AI, u b’hekk ikun żgurat il-funzjonament bla xkiel tas-suq intern u dawk is-sistemi jitħallew jibbenefikaw mill-prinċipju tal-moviment liberu tal-prodotti u tas-servizzi. Jenħtieġ li dawn ir-regoli jkunu ċari u robusti fil-protezzjoni tad-drittijiet fundamentali, jappoġġaw soluzzjonijiet innovattivi ġodda, u jippermettu ekosistema Ewropea ta’ atturi pubbliċi u privati li joħolqu sistemi tal-AI f’konformità mal-valuri tal-Unjoni. Dan ir-Regolament jistabbilixxi dawk ir-regoli kif ukoll miżuri li jappoġġaw l-innovazzjoni b’enfasi partikolari fuq l-SMEs u n-negozji ġodda , u għalhekk jappoġġa l-objettiv li jippromwovi l-AI magħmula fl-Ewropa, li l-Unjoni tkun mexxejja dinjija fl-iżvilupp ta’ intelliġenza artifiċjali sigura, affidabbli u etika kif iddikjara l-Kunsill Ewropew (33), u tkun żgurata l-protezzjoni tal-prinċipji etiċi kif mitlub speċifikament mill-Parlament Ewropew (34).

(5a)

Barra minn hekk, sabiex jitrawwem l-iżvilupp ta’ sistemi tal-AI f’konformità mal-valuri tal-Unjoni, l-Unjoni jeħtieġ li tindirizza l-lakuni u l-ostakli ewlenin li qed jimblukkaw il-potenzjal tat-trasformazzjoni diġitali inkluż in-nuqqas ta’ ħaddiema b’ħiliet diġitali, it-tħassib dwar iċ-ċibersigurtà, in-nuqqas ta’ investiment u ta’ aċċess għall-investiment, u lakuni eżistenti u potenzjali bejn il-kumpaniji kbar, l-SMEs u n-negozji ġodda. Jenħtieġ li tingħata attenzjoni partikolari biex jiġi żgurat li l-benefiċċji tal-AI u l-innovazzjoni fit-teknoloġiji ġodda jinħassu fir-reġjuni kollha tal-Unjoni u li jiġu pprovduti investiment u riżorsi suffiċjenti speċjalment lil dawk ir-reġjuni li jista’ jkun li qegħdin jaqgħu lura f’ċerti indikaturi diġitali.

(6)

Il-kunċett ta’ sistema tal-AI jenħtieġ jiġi ddefinit b’mod ċar biex tiġi żgurata ċ-ċertezza legali, filwaqt li tingħata l-flessibbiltà meħtieġa biex jiġu akkomodati l-iżviluppi teknoloġiċi futuri . Jenħtieġ li d-definizzjoni tibbaża fuq il-karatteristiċi funzjonali ewlenin tas-software , b’mod partikolari l-kapaċità , għal sett partikolari ta’ objettivi definiti mill-bniedem , li jiġu ġġenerati outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet , jew deċiżjonijiet li jinfluwenzaw l-ambjent li miegħu tinteraġixxi s-sistema, sew f’dimensjoni fiżika u  sew diġitali . Is-sistemi tal-AI jistgħu jitfasslu biex joperaw b’livelli varji ta’ awtonomija u jintużaw b’mod awtonomu jew bħala komponent ta’ prodott, irrispettivament minn jekk is-sistema tkunx integrata fiżikament fil-prodott (inkorporata) jew taqdix il-funzjonalità tal-prodott mingħajr ma tkunx integrata fih (mhux inkorporata) . Jenħtieġ li d-definizzjoni ta’ sistema tal-AI tiġi kkumplimentata b’lista ta’ tekniki u approċċi speċifiċi użati għall-iżvilupp tagħha , li jenħtieġ tinżamm aġġornata fid-dawl tal-iżviluppi teknoloġiċi u tas-suq bl-adozzjoni ta’ atti delegati mill-Kummissjoni li jemendaw dik il-lista .

(6)

Il-kunċett ta’ sistema tal-AI f’dan ir-Regolament jenħtieġ li jiġi definit b’mod ċar u allinjat mill-qrib mal-ħidma tal-organizzazzjonijiet internazzjonali li jaħdmu fuq l-intelliġenza artifiċjali biex jiġu żgurati ċ-ċertezza legali, l-armonizzazzjoni u l-aċċettazzjoni wiesgħa, filwaqt li tingħata l-flessibbiltà biex jiġu akkomodati l-iżviluppi teknoloġiċi rapidi f’dan il-qasam . Barra minn hekk, jenħtieġ li tkun ibbażata fuq karatteristiċi ewlenin tal-intelliġenza artifiċjali , bħall-kapaċitajiet ta’ apprendiment , ta’ raġunament jew ta’ mmudellar tagħha , sabiex jiddistingwuha minn sistemi ta’ software u approċċi ta’ programmar aktar sempliċi. Is-sistemi tal-AI huma ddisinjati biex joperaw b’livelli varji ta’ awtonomija , li jfisser li għandhom mill-inqas ċertu livell ta’ indipendenza tal-azzjonijiet mill-kontrolli mill-bniedem u  tal-kapaċitajiet biex joperaw mingħajr intervent mill-bniedem . It-terminu “bbażati fuq il-magni” jirreferi għall-fatt li s-sistemi tal-AI jaħdmu bil-magni. Ir-referenza għal objettivi espliċiti jew impliċiti tenfasizza li s-sistemi tal-AI jistgħu joperaw skont objettivi espliċiti definiti mill-bniedem jew skont objettivi impliċiti. L-objettivi tas-sistema tal-AI jistgħu jkunu differenti mill-għan maħsub tas-sistema tal-AI f’kuntest speċifiku . Ir-referenza għall-previżjonijiet tinkludi l-kontenut, li f’dan ir-Regolament jitqies bħala forma ta’ previżjoni bħala wieħed mill-outputs possibbli prodotti minn sistema tal-AI . Għall-finijiet ta’ dan ir-Regolament, jenħtieġ li l-ambjenti jinftiehmu bħala l-kuntesti li fihom joperaw is-sistemi tal-AI , filwaqt li l-outputs iġġenerati mis-sistema tal-AI, jiġifieri previżjonijiet, rakkomandazzjonijiet jew deċiżjonijiet, jirrispondu għall-objettivi tas-sistema, abbażi tal-inputs mill-ambjent imsemmi. Tali output ikompli jinfluwenza l-ambjent imsemmi, anke billi sempliċiment jintroduċi informazzjoni ġdida għalih.

(6a)

Is-sistemi tal-AI spiss ikollhom kapaċitajiet ta’ apprendiment awtomatiku li jippermettulhom jadattaw u jwettqu kompiti ġodda b’mod awtonomu. L-apprendiment awtomatiku jirreferi għall-proċess komputazzjonali ta’ ottimizzazzjoni tal-parametri ta’ mudell mid-data, li huwa kostruzzjoni matematika li tiġġenera output ibbażat fuq data tal-input. L-approċċi tal-apprendiment awtomatiku jinkludu, pereżempju, l-apprendiment taħt superviżjoni, mingħajr superviżjoni u rinforzat, bl-użu ta’ varjetà ta’ metodi inkluż l-apprendiment profond b’networks newrali. Dan ir-Regolament għandu l-għan li jindirizza riskji potenzjali ġodda li jistgħu jinħolqu billi l-kontroll jiġi ddelegat lis-sistemi tal-AI, b’mod partikolari lil dawk is-sistemi tal-AI li jistgħu jevolvu wara l-użu. Il-funzjoni u l-outputs ta’ ħafna minn dawn is-sistemi tal-AI huma bbażati fuq relazzjonijiet matematiċi astratti li huma diffiċli għall-bnedmin biex jifhmu, jimmonitorjaw u jittraċċaw lura għal inputs speċifiċi. Dawn il-karatteristiċi kumplessi u opaki (element tal-black box) għandhom impatt fuq ir-responsabbiltàu l-ispjegabbiltà. Tekniki komparabbli aktar sempliċi bħal approċċi bbażati fuq l-għarfien, stimi ta’ Bayes jew siġar tad-deċiżjonijiet jistgħu jwasslu wkoll għal lakuni legali li jeħtieġ li jiġu indirizzati minn dan ir-Regolament, b’mod partikolari meta jintużaw flimkien ma’ approċċi ta’ apprendiment awtomatiku f’sistemi ibridi.

(6b)

Is-sistemi tal-AI jistgħu jintużaw bħala sistema ta’ software awtonoma, integrata fi prodott fiżiku (inkorporata), użata biex isservi l-funzjonalità ta’ prodott fiżiku mingħajr ma tkun integrata fih (mhux inkorporata) jew tintuża bħala komponent tal-AI ta’ sistema akbar. Jekk din is-sistema akbar ma taħdimx mingħajr il-komponent tal-AI inkwistjoni, allura s-sistema kollha akbar jenħtieġ li titqies bħala sistema waħda tal-AI skont dan ir-Regolament.

(7)

Il-kunċett ta’ data bijometrika użat f’dan ir-Regolament hu allinjat mal-kunċett ta’ data bijometrika, u jenħtieġ jiġi interpretat b’mod konsistenti miegħu kif definit fl-Artikolu 4(14) tar-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill (35), fl-Artikolu 3(18) tar-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill  (36) u fl-Artikolu 3(13) tad-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill  (37) .

(7)

Il-kunċett ta’ data bijometrika użat f’dan ir-Regolament hu allinjat mal-kunċett ta’ data bijometrika, u jenħtieġ li jiġi interpretat b’mod konsistenti miegħu kif definit fl-Artikolu 4(14) tar-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill (35) . Data bbażata fuq il-bijometrika hija data addizzjonali li tirriżulta minn ipproċessar tekniku speċifiku relatat ma’ sinjali fiżiċi , fiżjoloġiċi jew komportamentali ta’ persuna fiżika, bħal espressjonijiet tal-wiċċ, movimenti, frekwenza tal-polz, vuċi, tendenzi ewlenin tal-mixi jew il-mod ta’ kif persuna timxi, li jistgħu jew li ma jistgħux jippermettu jew jikkonfermaw l-identifikazzjoni unika ta’ persuna fiżika .

(7a)

Il-kunċett ta’ identifikazzjoni bijometrika kif użata f’dan ir-Regolament jenħtieġ li jiġi definit bħala r-rikonoxximent awtomatizzat ta’ karatteristiċi fiżiċi, fiżjoloġiċi, komportamentali u psikoloġiċi tal-bniedem bħall-wiċċ, il-moviment tal-għajnejn, l-espressjonijiet tal-wiċċ, il-forma tal-ġisem, il-vuċi, id-diskors, il-mixi, il-qagħda, ir-rata tal-qalb, il-pressjoni tad-demm, ir-riħa, l-ittastjar, ir-reazzjonijiet psikoloġiċi (rabja, tbatija, niket, eċċ.) għall-fini tal-istabbiliment tal-identità ta’ individwu billi titqabbel id-data bijometrika ta’ dak l-individwu ma’ data bijometrika ta’ individwi maħżuna f’bażi tad-data (identifikazzjoni one-to-many), irrispettivament minn jekk l-individwu tax il-kunsens tiegħu jew le.

(7b)

Il-kunċett ta’ kategorizzazzjoni bijometrika kif użata f’dan ir-Regolament jenħtieġ li jiġi definit bħala l-assenjazzjoni ta’ persuni fiżiċi għal kategoriji speċifiċi jew l-inferenza tal-karatteristiċi tagħhom bħall-ġeneru, is-sess, l-età, il-kulur tax-xagħar, il-kulur tal-għajnejn, it-tattoos, l-oriġini etnika jew soċjali, is-saħħa, l-abbiltà mentali jew fiżika, il-karatteristiċi komportamentali jew tal-personalità, il-lingwa, ir-reliġjon jew l-appartenenza għal minoranza nazzjonali, jew l-orjentazzjoni sesswali jew politika, abbażi tad-data bijometrika jew tad-data bbażata fuq il-bijometrija tagħhom, jew dak li jista’ jiġi dedott minn tali data.

(8)

Il-kunċett ta’ sistema tal-identifikazzjoni bijometrika remota kif użata f’dan ir-Regolament jenħtieġ jiġi definit b’mod funzjonali, bħala sistema tal-AI maħsuba għall-identifikazzjoni remota ta’ persuni fiżiċi bit-tqabbil tad-data bijometrika ta’ persuna mad-data bijometrika li tinsab f’bażi tad-data ta’ referenza, u mingħajr għarfien minn qabel dwar jekk il-persuna fil-mira hix se tkun preżenti u tistax tiġi identifikata, irrispettivament mit-teknoloġija, mill-proċessi jew mit-tipi partikolari ta’ data bijometrika użati. Meta jitqiesu l-karatteristiċi u l-modi differenti tagħhom li fihom jintużaw, kif ukoll ir-riskji differenti involuti, jenħtieġ issir distinzjoni bejn is-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” u “f’ħin aktar tard”. Fil-każ ta’ sistemi “fil-ħin reali”, il-qbid tad-data bijometrika, it-tqabbil u l-identifikazzjoni jsiru b’mod istantanju, kważi istantanju jew fi kwalunkwe każ mingħajr dewmien sinifikanti. F’dan ir-rigward, jenħtieġ ma jkun hemm l-ebda lok li jiġu evitati r-regoli ta’ dan ir-Regolament dwar l-użu “fil-ħin reali” tas-sistemi tal-AI inkwistjoni billi jiġi previst xi dewmien żgħir. Is-sistemi “fil-ħin reali” jinvolvu l-użu ta’ materjal “dirett” jew “kważi dirett”, bħal filmat, iġġenerat minn kamera jew minn apparat ieħor b’funzjonalità simili. Għall-kuntrarju, fil-każ tas-sistemi “f’ħin aktar tard”, id-data bijometrika tkun diġà nkisbet u t-tqabbil u l-identifikazzjoni jsiru biss wara ċertu dewmien sinifikanti. Dan jinvolvi materjal, bħal stampi jew filmati ġġenerati minn kameras tat-televiżjoni b’ċirkwit magħluq jew minn apparati privati, li jkun ġie ġġenerat qabel tintuża s-sistema fir-rigward tal-persuni fiżiċi kkonċernati.

(8)

Il-kunċett ta’ sistema tal-identifikazzjoni bijometrika remota kif użata f’dan ir-Regolament jenħtieġ li jiġi definit b’mod funzjonali, bħala sistema tal-AI maħsuba għall-identifikazzjoni remota ta’ persuni fiżiċi bit-tqabbil tad-data bijometrika ta’ persuna mad-data bijometrika li tinsab f’bażi tad-data ta’ referenza, u mingħajr għarfien minn qabel dwar jekk il-persuna fil-mira hix se tkun preżenti u tistax tiġi identifikata, irrispettivament mit-teknoloġija, mill-proċessi jew mit-tipi partikolari ta’ data bijometrika użati , filwaqt li jiġu esklużi s-sistemi ta’ verifika li sempliċiment iqabblu d-data bijometrika ta’ individwu mad-data bijometrika pprovduta qabel (one-to-one) . Meta jitqiesu l-karatteristiċi u l-modi differenti tagħhom li fihom jintużaw, kif ukoll ir-riskji differenti involuti, jenħtieġ issir distinzjoni bejn is-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” u “f’ħin aktar tard”. Fil-każ ta’ sistemi “fil-ħin reali”, il-qbid tad-data bijometrika, it-tqabbil u l-identifikazzjoni jsiru b’mod istantanju, kważi istantanju jew fi kwalunkwe każ mingħajr dewmien sinifikanti. F’dan ir-rigward, jenħtieġ li ma jkun hemm l-ebda lok li jiġu evitati r-regoli ta’ dan ir-Regolament dwar l-użu “fil-ħin reali” tas-sistemi tal-AI inkwistjoni billi jiġi previst xi dewmien żgħir. Is-sistemi “fil-ħin reali” jinvolvu l-użu ta’ materjal “dirett” jew “kważi dirett”, bħal filmat, iġġenerat minn kamera jew minn apparat ieħor b’funzjonalità simili. Għall-kuntrarju, fil-każ tas-sistemi “f’ħin aktar tard”, id-data bijometrika tkun diġà nkisbet u t-tqabbil u l-identifikazzjoni jsiru biss wara ċertu dewmien sinifikanti. Dan jinvolvi materjal, bħal stampi jew filmati ġġenerati minn kameras tat-televiżjoni b’ċirkwit magħluq jew minn apparati privati, li jkun ġie ġġenerat qabel tintuża s-sistema fir-rigward tal-persuni fiżiċi kkonċernati. Minħabba li l-kunċett ta’ identifikazzjoni bijometrika huwa indipendenti mill-kunsens tal-individwu, din id-definizzjoni tapplika anke meta l-avviżi ta’ twissija jitqiegħdu fil-post li jkun taħt sorveljanza tas-sistema tal-identifikazzjoni bijometrika remota, u ma tkunx de facto annullata minn qabel ir-reġistrazzjoni.

(8a)

L-identifikazzjoni remota ta’ persuni fiżiċi tinftiehem li tiddistingwi sistemi tal-identifikazzjoni bijometrika remota minn sistemi ta’ verifika individwali ta’ prossimità mill-qrib li jużaw mezzi ta’ identifikazzjoni bijometrika, li l-iskop uniku tagħhom huwa li jikkonfermaw jekk persuna fiżika speċifika li tippreżenta ruħha għall-identifikazzjoni hijiex permessa jew le, bħal pereżempju sabiex tikseb aċċess għal servizz, apparat, jew bini.

(9)

Għall-finijiet ta’ dan ir-Regolament, il-kunċett ta’ spazju aċċessibbli għall-pubbliku jenħtieġ jinftiehem li jirreferi għal kull post fiżiku li hu aċċessibbli għall-pubbliku, irrispettivament minn jekk il-post inkwistjoni hux proprjetà privata jew pubblika. Għalhekk, il-kunċett ma jkoprix il-postijiet li fin-natura tagħhom huma privati u li normalment ma jkunux aċċessibbli liberament għal partijiet terzi, inkluż awtoritajiet tal-infurzar tal-liġi, sakemm dawk il-partijiet ma jkunux ġew mistiedna jew awtorizzati speċifikament, bħal djar, għaqdiet privati, uffiċini, imħażen u fabbriki. Lanqas l-ispazji online ma huma koperti għax dawn mhumiex spazji fiżiċi. Iżda s-sempliċi fatt li għal aċċess għal spazju partikolari jaf ikunu japplikaw ċerti kundizzjonijiet, bħal biljetti tad-dħul jew restrizzjonijiet fuq l-età, ma jfissirx li l-ispazju mhux aċċessibbli għall-pubbliku skont it-tifsira ta’ dan ir-Regolament. Għaldaqstant, minbarra l-ispazji pubbliċi bħat-toroq, il-partijiet rilevanti tal-binjiet tal-gvern u l-biċċa l-kbira tal-infrastruttura tat-trasport, spazji bħal swali taċ-ċinema, teatri, ħwienet u ċentri kummerċjali normalment ikunu aċċessibbli għall-pubbliku wkoll. Iżda jekk spazju partikolari jkunx aċċessibbli għall-pubbliku jenħtieġ jiġi determinat abbażi ta’ każ b’każ, filwaqt li jitqiesu l-ispeċifiċitajiet tas-sitwazzjoni individwali inkwistjoni.

(9)

Għall-finijiet ta’ dan ir-Regolament, il-kunċett ta’ spazju aċċessibbli għall-pubbliku jenħtieġ li jinftiehem li jirreferi għal kull post fiżiku li hu aċċessibbli għall-pubbliku, irrispettivament minn jekk il-post inkwistjoni hux proprjetà privata jew pubblika u irrispettivament mir-restrizzjonijiet potenzjali tal-kapaċità . Għalhekk, il-kunċett ma jkoprix il-postijiet li fin-natura tagħhom huma privati u li normalment ma jkunux aċċessibbli liberament għal partijiet terzi, inkluż awtoritajiet tal-infurzar tal-liġi, sakemm dawk il-partijiet ma jkunux ġew mistiedna jew awtorizzati speċifikament, bħal djar, għaqdiet privati, uffiċini, imħażen u fabbriki. Lanqas l-ispazji online ma huma koperti għax dawn mhumiex spazji fiżiċi. Iżda s-sempliċi fatt li għal aċċess għal spazju partikolari jaf ikunu japplikaw ċerti kundizzjonijiet, bħal biljetti tad-dħul jew restrizzjonijiet fuq l-età, ma jfissirx li l-ispazju mhux aċċessibbli għall-pubbliku skont it-tifsira ta’ dan ir-Regolament. Għaldaqstant, minbarra l-ispazji pubbliċi bħat-toroq, il-partijiet rilevanti tal-binjiet tal-gvern u l-biċċa l-kbira tal-infrastruttura tat-trasport, spazji bħal swali taċ-ċinema, teatri, grawnds tal-isport, skejjel, universitajiet, partijiet rilevanti tal-isptarijiet u l-banek, parks tad-divertiment, festivals, ħwienet u ċentri kummerċjali jkunu aċċessibbli għall-pubbliku wkoll. Iżda jekk spazju partikolari jkunx aċċessibbli għall-pubbliku jenħtieġ li jiġi determinat abbażi ta’ każ b’każ, filwaqt li jitqiesu l-ispeċifiċitajiet tas-sitwazzjoni individwali inkwistjoni.

(9a)

Huwa importanti li wieħed jinnota li s-sistemi tal-AI jenħtieġ li jagħmlu l-aħjar sforzi biex jiġu rispettati l-prinċipji ġenerali li jistabbilixxu qafas ta’ livell għoli li jippromwovi approċċ koerenti ċċentrat fuq il-bniedem għal AI etika u affidabbli f’konformità mal-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea u l-valuri li fuqhom hija bbażata l-Unjoni, inkluż il-protezzjoni tad-drittijiet fundamentali, l-intervent u s-sorveljanza tal-bniedem, ir-robustezza teknika u s-sikurezza, il-privatezza u l-governanza tad-data, it-trasparenza, in-nondiskriminazzjoni u l-ġustizzja u l-benesseri soċjetali u ambjentali.

(9b)

“Il-litteriżmu fl-AI” jirreferi għal ħiliet, għarfien u fehim li jippermettu lill-fornituri, lill-utenti kif ukoll lill-persuni affettwati, filwaqt li jitqiesu d-drittijiet u l-obbligi rispettivi tagħhom fil-kuntest ta’ dan ir-Regolament, jagħmlu użu infurmat tas-sistemi tal-AI, kif ukoll jiksbu għarfien dwar l-opportunitajiet u r-riskji tal-AI u l-ħsara possibbli li tista’ tikkawża u b’hekk issir promozzjoni tal-kontroll demokratiku tagħha. Il-litteriżmu fl-AI jenħtieġ li ma jkunx limitat għall-apprendiment dwar l-għodod u t-teknoloġiji, iżda jenħtieġ li jkollu l-għan ukoll li jgħammar lill-fornituri u lill-utenti bil-kunċetti u l-ħiliet meħtieġa biex tiġi żgurata l-konformità ma’ dan ir-Regolament u l-infurzar tiegħu. Huwa għalhekk meħtieġ li l-Kummissjoni, l-Istati Membri kif ukoll il-fornituri u l-utenti tas-sistemi tal-AI, b’kooperazzjoni mal-partijiet ikkonċernati rilevanti kollha, jippromwovu l-iżvilupp fuq livell suffiċjenti tal-litteriżmu fl-AI, fis-setturi kollha tas-soċjetà, għall-persuni ta’ kull età, inklużi n-nisa u l-bniet, u li dak il-progress f’dak ir-rigward jiġi segwit mill-qrib.

(10)

Biex ikunu żgurati kundizzjonijiet ekwi u ħarsien effettiv tad-drittijiet u tal-libertajiet tal-individwi madwar l-Unjoni, ir-regoli stabbiliti b’dan ir-Regolament jenħtieġ japplikaw għall-fornituri tas-sistemi tal-AI b’mod mhux diskriminatorju, irrispettivament minn jekk humiex stabbiliti fl-Unjoni jew f’pajjiż terz, u  għall-utenti tas-sistemi tal-AI stabbiliti fl-Unjoni.

(10)

Biex ikunu żgurati kundizzjonijiet ekwi u ħarsien effettiv tad-drittijiet u tal-libertajiet tal-individwi madwar l-Unjoni u fil-livell internazzjonali , ir-regoli stabbiliti b’dan ir-Regolament jenħtieġ li japplikaw għall-fornituri tas-sistemi tal-AI b’mod mhux diskriminatorju, irrispettivament minn jekk humiex stabbiliti fl-Unjoni jew f’pajjiż terz, u  għall-amministraturi tas-sistemi tal-AI stabbiliti fl-Unjoni. Sabiex l-Unjoni tkun vera għall-valuri fundamentali tagħha, jenħtieġ li s-sistemi tal-AI maħsuba biex jintużaw għal prattiki li jitqiesu inaċċettabbli minn dan ir-Regolament, jitqiesu ugwalment inaċċettabbli barra mill-Unjoni minħabba l-effett partikolarment dannuż tagħhom għad-drittijiet fundamentali kif minquxa fil-Karta. Għalhekk huwa xieraq li tiġi pprojbita l-esportazzjoni ta’ dawn is-sistemi tal-AI lejn pajjiżi terzi minn fornituri residenti fl-Unjoni.

(11)

Fid-dawl tan-natura diġitali tagħhom, jenħtieġ li ċerti sistemi tal-AI ikunu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament anki meta ma jitqegħdux fis-suq, ma jitqegħdux fis-servizz, jew ma jintużawx fl-Unjoni. Pereżempju, dan hu l-każ ta’ operatur stabbilit fl-Unjoni li jikkuntratta ċerti servizzi lil operatur stabbilit barra mill-Unjoni fir-rigward ta’ attività li tkun se titwettaq minn sistema tal-AI u li tikkwalifika bħala ta’ riskju kbir u li l-effetti tagħha jħallu impatt fuq persuni fiżiċi li jinsabu fl-Unjoni. F’dawk iċ-ċirkostanzi, is-sistema tal-AI użata mill-operatur barra mill-Unjoni tista’ tipproċessa d-data miġbura legalment fl-Unjoni u trasferita minnha, u tipprovdi lill-operatur kontraenti fl-Unjoni l-output ta’ dik is-sistema tal-AI li jirriżulta minn dak l-ipproċessar, mingħajr ma dik is-sistema tal-AI titqiegħed fis-suq, titqiegħed fis-servizz jew tintuża fl-Unjoni. Biex tiġi evitata ċ-ċirkumvenzjoni ta’ dan ir-Regolament u biex tiġi żgurata protezzjoni effettiva tal-persuni fiżiċi li jinsabu fl-Unjoni, jenħtieġ li dan ir-Regolament japplika wkoll għall-fornituri u  għall-utenti tas-sistemi tal-AI li huma stabbiliti f’pajjiż terz, sa fejn l-output prodott minn dawk is-sistemi jintuża fl-Unjoni. Madankollu, biex jitqiesu l-arranġamenti eżistenti u l-ħtiġijiet speċjali għall-kooperazzjoni mas-sħab barranin li magħhom jiġu skambjati informazzjoni u evidenza, jenħtieġ li dan ir-Regolament ma japplikax għall-awtoritajiet pubbliċi ta’ pajjiż terz u għal organizzazzjonijiet internazzjonali meta jaġixxu fil-qafas ta’ ftehimiet internazzjonali konklużi fil-livell nazzjonali jew Ewropew għall-infurzar tal-liġi u għall-kooperazzjoni ġudizzjarja mal-Unjoni jew mal-Istati Membri tagħha. Dawn il-ftehimiet ġew konklużi b’mod bilaterali bejn l-Istati Membri u pajjiżi terzi jew bejn l-Unjoni Ewropea, il-Europol u aġenziji oħra tal-UE u pajjiżi terzi u organizzazzjonijiet internazzjonali.

(11)

Fid-dawl tan-natura diġitali tagħhom, jenħtieġ li ċerti sistemi tal-AI ikunu fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament anke meta ma jitqegħdux fis-suq, ma jitqegħdux fis-servizz, jew ma jintużawx fl-Unjoni. Pereżempju, dan hu l-każ ta’ operatur stabbilit fl-Unjoni li jikkuntratta ċerti servizzi lil operatur stabbilit barra mill-Unjoni fir-rigward ta’ attività li tkun se titwettaq minn sistema tal-AI u li tikkwalifika bħala ta’ riskju kbir u li l-effetti tagħha jħallu impatt fuq persuni fiżiċi li jinsabu fl-Unjoni. F’dawk iċ-ċirkostanzi, is-sistema tal-AI użata mill-operatur barra mill-Unjoni tista’ tipproċessa d-data miġbura legalment fl-Unjoni u trasferita minnha, u tipprovdi lill-operatur kontraenti fl-Unjoni l-output ta’ dik is-sistema tal-AI li jirriżulta minn dak l-ipproċessar, mingħajr ma dik is-sistema tal-AI titqiegħed fis-suq, titqiegħed fis-servizz jew tintuża fl-Unjoni. Biex tiġi evitata ċ-ċirkumvenzjoni ta’ dan ir-Regolament u biex tiġi żgurata protezzjoni effettiva tal-persuni fiżiċi li jinsabu fl-Unjoni, jenħtieġ li dan ir-Regolament japplika wkoll għall-fornituri u  għall-amministraturi tas-sistemi tal-AI li huma stabbiliti f’pajjiż terz, sa fejn l-output prodott minn dawk is-sistemi jkun maħsub biex jintuża fl-Unjoni. Madankollu, biex jitqiesu l-arranġamenti eżistenti u l-ħtiġijiet speċjali għall-kooperazzjoni mas-sħab barranin li magħhom jiġu skambjati informazzjoni u evidenza, jenħtieġ li dan ir-Regolament ma japplikax għall-awtoritajiet pubbliċi ta’ pajjiż terz u għal organizzazzjonijiet internazzjonali meta jaġixxu fil-qafas ta’ ftehimiet internazzjonali konklużi fil-livell nazzjonali jew Ewropew għall-infurzar tal-liġi u għall-kooperazzjoni ġudizzjarja mal-Unjoni jew mal-Istati Membri tagħha. Dawn il-ftehimiet ġew konklużi b’mod bilaterali bejn l-Istati Membri u pajjiżi terzi jew bejn l-Unjoni Ewropea, il-Europol u aġenziji oħra tal-UE u pajjiżi terzi u organizzazzjonijiet internazzjonali. Madankollu, din l-eċċezzjoni jenħtieġ li tkun limitata għall-organizzazzjoni internazzjonali u l-pajjiżi fdati li jikkondividu l-valuri tal-Unjoni.

(12)

Jenħtieġ li dan ir-Regolament japplika wkoll għall-istituzzjonijiet, l-uffiċċji, il-korpi u l-aġenziji tal-Unjoni meta dawn jaġixxu bħala fornitur jew utent ta’ sistema tal-AI. Is-sistemi tal-AI żviluppati jew użati esklussivament għal skopijiet militari jenħtieġ jiġu esklużi mill-kamp ta’ applikazzjoni ta’ dan ir-Regolament meta dak l-użu jkun fil-mandat esklussiv tal-Politika Estera u ta’ Sigurtà Komuni regolata skont it-Titolu V tat-Trattat dwar l-Unjoni Ewropea (TUE). Jenħtieġ li dan ir-Regolament ikun mingħajr preġudizzju għad-dispożizzjonijiet dwar ir-responsabbiltà tal-fornituri intermedjarji tas-servizzi stabbiliti fid-Direttiva 2000/31/KE tal-Parlament Ewropew u tal-Kunsill [kif emendata bl-Att dwar is-Servizzi Diġitali].

(12)

Jenħtieġ li dan ir-Regolament japplika wkoll għall-istituzzjonijiet, l-uffiċċji, il-korpi u l-aġenziji tal-Unjoni meta dawn jaġixxu bħala fornitur jew amministratur ta’ sistema tal-AI. Is-sistemi tal-AI żviluppati jew użati esklussivament għal skopijiet militari jenħtieġ li jiġu esklużi mill-kamp ta’ applikazzjoni ta’ dan ir-Regolament meta dak l-użu jkun fil-mandat esklussiv tal-Politika Estera u ta’ Sigurtà Komuni regolata skont it-Titolu V tat-Trattat dwar l-Unjoni Ewropea (TUE). Jenħtieġ li dan ir-Regolament ikun mingħajr preġudizzju għad-dispożizzjonijiet dwar ir-responsabbiltà tal-fornituri intermedjarji tas-servizzi stabbiliti fid-Direttiva 2000/31/KE tal-Parlament Ewropew u tal-Kunsill [kif emendata bl-Att dwar is-Servizzi Diġitali].

(12a)

Is-software u d-data li huma kondiviżi b’mod miftuħ u fejn l-utenti jistgħu jaċċessawhom, jużawhom, jimmodifikawhom u jqassmuhom mill-ġdid b’mod liberu jew verżjonijiet modifikati tagħhom, jistgħu jikkontribwixxu għar-riċerka u l-innovazzjoni fis-suq. Ir-riċerka mill-Kummissjoni turi wkoll li s-software bla ħlas u b’sors miftuħ jista’ jikkontribwixxi bejn EUR 65 biljun u EUR 95 biljun għall-PDG tal-Unjoni Ewropea, u li jista’ jipprovdi opportunitajiet sinifikanti ta’ tkabbir għall-ekonomija Ewropea. L-utenti jitħallew iħaddmu, jikkuppjaw, iqassmu, jistudjaw, ibiddlu u jtejbu s-software u d-data, inklużi mudelli permezz ta’ liċenzji bla ħlas u b’sors miftuħ. Biex jitrawmu l-iżvilupp u l-użu tal-AI, speċjalment mill-SMEs, in-negozji ġodda, ir-riċerka akkademika iżda wkoll minn individwi, dan ir-Regolament jenħtieġ li ma japplikax għal tali komponenti tal-AI bla ħlas u b’sors miftuħ ħlief sal-punt li jitqiegħdu fis-suq jew jitqiegħdu fis-servizz minn fornitur bħala parti minn sistema tal-AI b’riskju kbir jew ta’ sistema tal-AI li taqa’ taħt it-Titolu II jew IV ta’ dan ir-Regolament.

(12b)

La l-iżvilupp kollaborattiv ta’ komponenti tal-AI bla ħlas u b’sors miftuħ u lanqas it-tqegħid tagħhom disponibbli fuq repożitorji miftuħa ma għandhom jikkostitwixxu tqegħid fis-suq jew tqegħid fis-servizz. Attività kummerċjali, fil-fehma li ssir disponibbli fis-suq, tista’ madankollu tkun ikkaratterizzata billi jiġi impost prezz, bl-eċċezzjoni ta’ tranżazzjonijiet bejn il-mikrointrapriżi, għal komponent tal-AI bla ħlas u b’sors miftuħ iżda wkoll billi jiġi impost prezz għal servizzi ta’ appoġġ tekniku, billi tiġi pprovduta pjattaforma tas-software li permezz tagħha l-fornitur jimmonetizza servizzi oħra, jew bl-użu ta’ data personali għal raġunijiet għajr esklussivament għat-titjib tas-sigurtà, il-kompatibbiltà jew l-interoperabbiltà tas-software.

(12c)

L-iżviluppaturi ta’ komponenti tal-AI bla ħlas u b’sors miftuħ jenħtieġ li ma jingħatawx mandat skont dan ir-Regolament biex jikkonformaw mar-rekwiżiti mmirati lejn il-katina tal-valur tal-AI u, b’mod partikolari, mhux lejn il-fornitur li jkun uża dak il-komponent tal-AI bla ħlas u b’sors miftuħ. Madankollu, l-iżviluppaturi ta’ komponenti tal-AI bla ħlas u b’sors miftuħ jenħtieġ li jitħeġġu jimplimentaw prattiki ta’ dokumentazzjoni adottati b’mod wiesa’, bħal mudelli u kards tad-data, bħala mod biex titħaffef il-kondiviżjoni tal-informazzjoni tul il-katina tal-valur tal-AI, u dan jippermetti l-promozzjoni ta’ sistemi tal-AI affidabbli fl-Unjoni.

(13)

Biex ikun żgurat livell konsistenti u għoli ta’ protezzjoni tal-interessi pubbliċi fir-rigward tas-saħħa u  s-sikurezza , u ħarsien tad-drittijiet fundamentali , jenħtieġ jiġu stabbiliti standards normattivi komuni għas-sistemi kollha tal-AI b’riskju kbir. Jenħtieġ li dawk l-istandards ikunu konsistenti mal-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea ( il-Karta ) u jenħtieġ ma jkunux diskriminatorji filwaqt li jkunu konformi mal-impenji kummerċjali internazzjonali tal-Unjoni.

(13)

Biex ikun żgurat livell konsistenti u għoli ta’ protezzjoni tal-interessi pubbliċi fir-rigward tas-saħħa , is-sikurezza u  d-drittijiet fundamentali kif ukoll id-demokrazija , l-istat tad-dritt u l-ambjent , jenħtieġ li jiġu stabbiliti standards normattivi komuni għas-sistemi kollha tal-AI b’riskju kbir. Jenħtieġ li dawk l-istandards ikunu konsistenti mal-Karta , il-Patt Ekoloġiku Ewropew, id-Dikjarazzjoni Konġunta dwar id-Drittijiet Diġitali tal-Unjoni u l-Linji Gwida dwar l-Etika għal Intelliġenza Artifiċjali ( AI ) Affidabbli tal-Grupp ta’ Esperti ta’ Livell Għoli dwar l-Intelliġenza Artifiċjali, u jenħtieġ li ma jkunux diskriminatorji filwaqt li jkunu konformi mal-impenji internazzjonali tal-Unjoni.

(14)

Biex jiddaħħal sett proporzjonat u effettiv ta’ regoli vinkolanti għas-sistemi tal-AI, jenħtieġ jitħaddem approċċ definit b’mod ċar u bbażat fuq ir-riskji. Dak l-approċċ jenħtieġ ifassal it-tip u l-kontenut ta’ dawk ir-regoli skont l-intensità u  l-ambitu tar-riskji li jistgħu jiġġeneraw is-sistemi tal-AI. Għalhekk, jeħtieġ jiġu pprojbiti ċerti prattiki tal-intelliġenza artifiċjali, jiġu stabbiliti rekwiżiti għal sistemi tal-AI b’riskju kbir u obbligi għall-operaturi rilevanti, u jiġu stabbiliti obbligi tat-trasparenza għal ċerti sistemi tal-AI.

(14)

Biex jiddaħħal sett proporzjonat u effettiv ta’ regoli vinkolanti għas-sistemi tal-AI, jenħtieġ li jitħaddem approċċ definit b’mod ċar u bbażat fuq ir-riskji. Dak l-approċċ jenħtieġ li jfassal it-tip u l-kontenut ta’ dawk ir-regoli skont l-intensità u  l-kamp ta’ applikazzjoni tar-riskji li jistgħu jiġġeneraw is-sistemi tal-AI. Għalhekk, jeħtieġ jiġu pprojbiti ċerti prattiki mhux aċċettabbli tal-intelliġenza artifiċjali, jiġu stabbiliti rekwiżiti għal sistemi tal-AI b’riskju kbir u obbligi għall-operaturi rilevanti, u jiġu stabbiliti obbligi tat-trasparenza għal ċerti sistemi tal-AI.

(15)

Minbarra l-ħafna użi ta’ benefiċċju tal-intelliġenza artifiċjali, dik it-teknoloġija tista’ tintuża ħażin ukoll u tipprovdi għodod ġodda u qawwijin għal prattiki manipulattivi, ta’ sfruttament u ta’ kontroll soċjali. Dawn il-prattiki huma partikolarment dannużi u jenħtieġ jiġu pprojbiti għax imorru kontra l-valuri tal-Unjoni ta’ rispett għad-dinjità umana , ta’ libertà, ta’ ugwaljanza, ta’ demokrazija u tal-istat tad-dritt u d-drittijiet fundamentali tal-Unjoni, fosthom id-dritt ta’ nondiskriminazzjoni, għal protezzjoni tad-data u għal privatezza u d-drittijiet tat-tfal.

(15)

Minbarra l-ħafna użi ta’ benefiċċju tal-intelliġenza artifiċjali, dik it-teknoloġija tista’ tintuża ħażin ukoll u tipprovdi għodod ġodda u qawwijin għal prattiki manipulattivi, ta’ sfruttament u ta’ kontroll soċjali. Dawn il-prattiki huma partikolarment dannużi u  abbużivi u jenħtieġ li jiġu pprojbiti għax imorru kontra l-valuri tal-Unjoni ta’ rispett għad-dinjità tal-bniedem , ta’ libertà, ta’ ugwaljanza, ta’ demokrazija u tal-istat tad-dritt u d-drittijiet fundamentali tal-Unjoni, fosthom id-dritt ta’ nondiskriminazzjoni, għal protezzjoni tad-data u għal privatezza u d-drittijiet tat-tfal.

(16)

Jenħtieġ jiġu pprojbiti t-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ ċerti sistemi tal-AI maħsuba biex ifixklu l-imġiba tal-bniedem, li aktarx joħolqu dannu fiżiku jew psikoloġiku. Sistemi tal-AI bħal dawn jużaw komponenti subliminali li l-individwi ma jistgħux jipperċepixxu jew jisfruttaw il-vulnerabbiltajiet tat-tfal u  tal-persuni minħabba l-età, inkapaċitajiet fiżiċi jew mentali tagħhom . Dawn jagħmlu dan bl-intenzjoni li jfixklu materjalment l-imġiba ta’ persuna u b’mod li jikkawża jew li aktarx jikkawża dannu lil dik il-persuna jew lil xi persuna oħra. L-intenzjoni tista’ ma tiġix preżunta jekk it-tfixkil tal-imġiba tal-bniedem tirriżulta minn fatturi esterni għas-sistema tal-AI li ma jkunux fil-kontroll tal-fornitur jew tal-utent. Jenħtieġ li r-riċerka għal skopijiet leġittimi fir-rigward ta’ sistemi tal-AI bħal dawn ma tinħonoqx mill-projbizzjoni, diment li din ir-riċerka ma twassalx biex is-sistema tal-AI tintuża f’relazzjonijiet bejn il-bniedem u l-magni li jesponu lil persuni fiżiċi għal dannu u  diment li din ir-riċerka ssir skont standards etiċi rikonoxxuti għar-riċerka xjentifika.

(16)

Jenħtieġ li jiġu pprojbiti t-tqegħid fis-suq, it-tqegħid fis-servizz jew l-użu ta’ ċerti sistemi tal-AI bl-objettiv jew bl-effett li jfixklu materjalment l-imġiba tal-bniedem, li aktarx joħolqu dannu fiżiku jew psikoloġiku. Din il-limitazzjoni jenħtieġ li tinftiehem li tinkludi n-newroteknoloġiji assistiti minn sistemi tal-AI li jintużaw għall-monitoraġġ, l-użu, jew l-influwenza ta’ data newrali miġbura permezz ta’ interfaċċi bejn il-moħħ u l-kompjuter sakemm dawn ma jkunux qed ifixklu materjalment l-imġiba ta’ persuna fiżika b’mod li jikkawża jew li x’aktarx jikkawża dannu sinifikanti lil dik il-persuna jew lil persuna oħra. Sistemi tal-AI bħal dawn jużaw komponenti subliminali li l-individwi ma jistgħux jipperċepixxu jew jisfruttaw il-vulnerabbiltajiet ta’ individwi u  gruppi speċifiċi ta’ persuni minħabba l-karatteristiċi magħrufa jew imbassra tal-personalità tagħhom, l-età, l-inkapaċitajiet fiżiċi jew mentali u s-sitwazzjoni soċjali jew ekonomika . Jagħmlu dan bl-intenzjoni jew bl-effett li jfixklu materjalment l-imġiba ta’ persuna u b’mod li jikkawża jew li aktarx jikkawża dannu sinifikanti lil dik il-persuna jew lil xi persuna oħra jew lil gruppi ta’ persuni, inklużi danni li jistgħu jiġu akkumulati maż-żmien . L-intenzjoni ta’ tfixkil tal-imġiba tista’ ma tiġix preżunta jekk it-tfixkil jirriżulta minn fatturi esterni għas-sistema tal-AI li ma jkunux fil-kontroll tal-fornitur jew tal-utent , bħal fatturi li jistgħu ma jkunux previsti u mtaffija raġonevolment mill-fornitur jew mill-amministratur tas-sistema tal-AI. Fi kwalunkwe każ, ma huwiex meħtieġ li l-fornitur jew l-amministratur ikollhom l-intenzjoni li jikkawżaw id-dannu sinifikanti, sakemm tali dannu ma jirriżultax mill-prattiki manipulattivi jew ta’ sfruttament li ġejjin mill-AI. Il-projbizzjonijiet għal prattiki tal-AI bħal dawn huma komplementari għad-dispożizzjonijiet li jinsabu fid-Direttiva 2005/29/KE, li skonthom il-prattiki kummerċjali inġusti huma pprojbiti, irrispettivament minn jekk twettqux b’rikors għal sistemi tal-AI jew b’xi mod ieħor. F’dan il-kuntest, il-prattiki kummerċjali legali, pereżempju fil-qasam tar-reklamar, li huma konformi mad-dritt tal-Unjoni ma għandhomx fihom infushom jitqiesu bħala li jiksru l-projbizzjoni. Jenħtieġ li r-riċerka għal skopijiet leġittimi fir-rigward ta’ sistemi tal-AI bħal dawn ma tinħonoqx mill-projbizzjoni, dment li din ir-riċerka ma twassalx biex is-sistema tal-AI tintuża f’relazzjonijiet bejn il-bniedem u l-magni li jesponu lil persuni fiżiċi għal dannu u  dment li din ir-riċerka ssir f’konformità ma’ standards etiċi rikonoxxuti għar-riċerka xjentifika u abbażi ta’ kunsens infurmat speċifiku tal-individwi li huma esposti għalihom jew, meta applikabbli, tal-kustodju legali tagħhom .

(16a)

Is-sistemi tal-AI li jikkategorizzaw il-persuni fiżiċi billi jassenjawhom għal kategoriji speċifiċi, skont karatteristiċi sensittivi jew protetti magħrufa jew inferiti huma partikolarment intrużivi, jiksru d-dinjità tal-bniedem u għandhom riskju kbir ta’ diskriminazzjoni. Dawn il-karatteristiċi jinkludu l-ġeneru, l-identità tal-ġeneru, ir-razza, l-oriġini etnika, il-migrazzjoni jew l-istatus taċ-ċittadinanza, l-orjentazzjoni politika, l-orjentazzjoni sesswali, ir-reliġjon, id-diżabilità jew kwalunkwe raġuni oħra li għaliha d-diskriminazzjoni hija pprojbita skont l-Artikolu 21 tal-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea, kif ukoll skont l-Artikolu 9 tar-Regolament (UE) 2016/769. Għalhekk, jenħtieġ li dawn is-sistemi tal-AI jiġu pprojbiti.

(17)

Sistemi tal-AI li jipprovdu punteġġ soċjali ta’ persuni fiżiċi għal skop ġenerali mill-awtoritajiet pubbliċi jew f’isimhom jistgħu jwasslu għal eżiti diskriminatorji u għall-esklużjoni ta’ ċerti gruppi. Jistgħu jiksru d-dritt għad-dinjità u ta’ nondiskriminazzjoni u l-valuri tal-ugwaljanza u tal-ġustizzja. Dawn is-sistemi tal-AI jevalwaw jew jikklassifikaw l-affidabbiltà tal-persuni fiżiċi abbażi tal-imġiba soċjali tagħhom f’diversi kuntesti jew abbażi ta’ karatteristiċi personali jew tal-personalità magħrufin jew imbassrin. Il-punteġġ soċjali miksub minn dawn is-sistemi tal-AI jista’ jwassal għal trattament detrimentali jew mhux favorevoli ta’ persuni fiżiċi jew ta’ gruppi sħaħ tagħhom f’kuntesti soċjali, li ma jkunux relatati mal-kuntest li fih kienet oriġinarjament iġġenerata jew inġabret id-data, jew għal trattament detrimentali sproporzjonat jew mhux ġustifikat għall-gravità tal-imġiba soċjali tagħhom. Għalhekk, jenħtieġ li sistemi tal-AI bħal dawn jiġu pprojbiti.

(17)

Sistemi tal-AI li jipprovdu punteġġ soċjali ta’ persuni fiżiċi għal skop ġenerali jistgħu jwasslu għal eżiti diskriminatorji u għall-esklużjoni ta’ ċerti gruppi. Dawn jimminaw id-dritt għad-dinjità u ta’ nondiskriminazzjoni u l-valuri tal-ugwaljanza u tal-ġustizzja. Dawn is-sistemi tal-AI jevalwaw jew jikklassifikaw persuni fiżiċi jew gruppi abbażi ta’ diversi punti ta’ data u okkorrenzi ta’ ħin relatati mal-imġiba soċjali tagħhom f’diversi kuntesti jew abbażi ta’ karatteristiċi personali jew tal-personalità magħrufin , inferiti jew imbassrin. Il-punteġġ soċjali miksub minn dawn is-sistemi tal-AI jista’ jwassal għal trattament detrimentali jew mhux favorevoli ta’ persuni fiżiċi jew ta’ gruppi sħaħ tagħhom f’kuntesti soċjali, li ma jkunux relatati mal-kuntest li fih kienet oriġinarjament iġġenerata jew inġabret id-data, jew għal trattament detrimentali sproporzjonat jew mhux ġustifikat għall-gravità tal-imġiba soċjali tagħhom. Għalhekk, jenħtieġ li sistemi tal-AI bħal dawn jiġu pprojbiti.

(18)

L-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika remota “fil-ħin reali” ta’ persuni fiżiċi fi spazji aċċessibbli għall-pubbliku għall-finijiet ta’ infurzar tal-liġi jitqies partikolarment intrużiv għad-drittijiet u l-libertajiet tal-persuni kkonċernati, sal-punt li dan jista’ jaffettwa l-ħajja privata ta’ parti kbira tal-popolazzjoni, jevoka sentiment ta’ sorveljanza kostanti u indirettament jiddisswadi l-eżerċitar tal-libertà ta’ għaqda u ta’ drittijiet fundamentali oħra. Barra minn hekk, l-immedjatezza tal-impatt u l-opportunitajiet limitati għal aktar kontrolli jew korrezzjonijiet fir-rigward tal-użu ta’ dawn is-sistemi li joperaw “fil-ħin reali” jikkawżaw riskji akbar għad-drittijiet u l-libertajiet tal-persuni kkonċernati mill-attivitajiet tal-infurzar tal-liġi.

(18)

L-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika remota “fil-ħin reali” ta’ persuni fiżiċi fi spazji aċċessibbli għall-pubbliku huwa partikolarment intrużiv għad-drittijiet u l-libertajiet tal-persuni kkonċernati, u jista’ fl-aħħar mill-aħħar jaffettwa l-ħajja privata ta’ parti kbira tal-popolazzjoni, jevoka sentiment ta’ sorveljanza kostanti , jagħti lill-partijiet li jużaw l-identifikazzjoni bijometrika fi spazji aċċessibbli għall-pubbliku pożizzjoni ta’ setgħa inkontrollabbli u indirettament jiddisswadi l-eżerċitar tal-libertà ta’ għaqda u ta’ drittijiet fundamentali oħra fil-qalba tal-Istat tad-Dritt. L-ineżattezzi tekniċi tas-sistemi tal-AI maħsuba għall-identifikazzjoni bijometrika remota ta’ persuni fiżiċi jistgħu jwasslu għal riżultati preġudikati u jħallu effetti diskriminatorji. Dan hu partikolarment rilevanti fir-rigward tal-età, tal-etniċità, tas-sess jew tad-diżabilità . Barra minn hekk, l-immedjatezza tal-impatt u l-opportunitajiet limitati għal aktar kontrolli jew korrezzjonijiet fir-rigward tal-użu ta’ dawn is-sistemi li joperaw “fil-ħin reali” jikkawżaw riskji akbar għad-drittijiet u l-libertajiet tal-persuni kkonċernati mill-attivitajiet tal-infurzar tal-liġi. Għalhekk, l-użu ta’ dawk is-sistemi f’postijiet aċċessibbli għall-pubbliku jenħtieġ li jiġi pprojbit. Bl-istess mod, is-sistemi tal-AI użati għall-analiżi ta’ filmati rreġistrati ta’ spazji aċċessibbli għall-pubbliku permezz ta’ sistemi tal-identifikazzjoni bijometrika remota “f’ħin aktar tard” jenħtieġ li jiġu pprojbiti wkoll, sakemm ma jkunx hemm awtorizzazzjoni preġudizzjarja għall-użu fil-kuntest tal-infurzar tal-liġi, meta jkun strettament meħtieġ għat-tfittxija mmirata konnessa ma’ reat kriminali serju speċifiku li jkun diġà seħħ, u jkun soġġett biss għal awtorizzazzjoni preġudizzjarja.

(19)

Għalhekk, jenħtieġ li l-użu ta’ dawk is-sistemi għall-finijiet tal-infurzar tal-liġi jiġi pprojbit, għajr fi tliet sitwazzjonijiet elenkati b’mod eżawrjenti u definiti b’mod ristrett, meta l-użu hu strettament meħtieġ biex jinkiseb interess pubbliku sostanzjali li l-importanza tiegħu tisboq ir-riskji. Dawk is-sitwazzjonijiet jinvolvu t-tiftix għal vittmi potenzjali tal-kriminalità, inkluż tfal neqsin; ċerti theddidiet għall-ħajja jew għas-sikurezza fiżika ta’ persuni fiżiċi jew ta’ attakk terroristiku; u s-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awturi jew ta’ persuni suspettati tar-reati kriminali msemmija fid-Deċiżjoni Qafas tal-Kunsill 2002/584/ĠAI  (38) jekk dawk ir-reati kriminali jkunu punibbli fl-Istat Membru kkonċernat b’piena li ċċaħħad il-libertà jew b’ordni ta’ detenzjoni għal perjodu massimu ta’ mill-inqas tliet snin u kif ikunu definiti fil-liġi ta’ dak l-Istat Membru. Dak il-limitu fil-piena li ċċaħħad il-libertà jew l-ordni ta’ detenzjoni f’konformità mal-liġi nazzjonali jikkontribwixxi biex jiżgura li r-reat jenħtieġ ikun serju biżżejjed biex potenzjalment jiġġustifika l-użu ta’ sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali”. Barra minn hekk, mit-32 reat kriminali elenkat fid-Deċiżjoni Qafas tal-Kunsill 2002/584/ĠAI, uħud aktarx li fil-prattika jkunu aktar rilevanti minn oħrajn, fis-sens li r-rikors għal identifikazzjoni bijometrika remota “fil-ħin reali” jkun prevedibbilment meħtieġ u proporzjonat sa gradi varji ħafna biex fil-prattika jkun hemm is-sejbien, il-lokalizzazzjoni, l-identifikazzjoni jew il-prosekuzzjoni ta’ awtur jew ta’ persuna suspettata bir-reati kriminali differenti elenkati u b’kunsiderazzjoni tad-differenzi probabbli fil-gravità, fil-probabbiltà u fl-iskala tad-dannu jew tal-konsegwenzi negattivi possibbli.

(20)

Biex ikun żgurat li dawk is-sistemi jintużaw b’mod responsabbli u proporzjonat, hu importanti wkoll li jiġi stabbilit li, f’kull waħda minn dawk it-tliet sitwazzjonijiet elenkati b’mod eżawrjenti u definiti b’mod ristrett, jenħtieġ jitqiesu ċerti elementi, b’mod partikolari fir-rigward tan-natura tas-sitwazzjoni li twassal għat-talba u l-konsegwenzi tal-użu għad-drittijiet u għal-libertajiet tal-persuni kollha kkonċernati u s-salvagwardji u l-kundizzjonijiet previsti fl-użu. Barra minn hekk, jenħtieġ li l-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal limiti xierqa fiż-żmien u fl-ispazju, filwaqt li jitqiesu b’mod partikolari l-evidenza jew l-indikazzjonijiet dwar it-theddidiet, il-vittmi jew l-awtur. Jenħtieġ li l-bażi tad-data ta’ referenza tal-persuni tkun adattata għal kull każ ta’ użu f’kull waħda mit-tliet sitwazzjonijiet imsemmija hawn fuq.

(21)

Jenħtieġ li kull użu tas-sistema tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi jkun soġġett għal awtorizzazzjoni espliċita u speċifika minn awtorità ġudizzjarja jew minn awtorità amministrattiva indipendenti ta’ Stat Membru. Jenħtieġ li, fil-prinċipju, din l-awtorizzazzjoni tinkiseb qabel l-użu, għajr f’sitwazzjonijiet ta’ urġenza debitament ġustifikati, jiġifieri, f’sitwazzjonijiet meta l-ħtieġa li jintużaw is-sistemi inkwistjoni tkun tali li tagħmilha effettivament u oġġettivament impossibbli li tinkiseb awtorizzazzjoni qabel ma jibda l-użu. F’sitwazzjonijiet ta’ urġenza bħal dawn, jenħtieġ li l-użu jkun ristrett għall-minimu assolut meħtieġ u jkun soġġett għal salvagwardji u għal kundizzjonijiet xierqa, kif determinati fil-liġi nazzjonali u speċifikati fil-kuntest ta’ kull każ individwali ta’ użu urġenti mill-awtorità tal-infurzar tal-liġi nnifisha. Barra minn hekk, jenħtieġ li f’sitwazzjonijiet bħal dawn l-awtorità tal-infurzar tal-liġi tfittex li tikseb awtorizzazzjoni mill-aktar fis possibbli, filwaqt li tipprovdi r-raġunijiet għalfejn ma setgħetx titlobha qabel.

(22)

Barra minn hekk, jixraq li, fi ħdan il-qafas eżawrjenti stabbilit b’dan ir-Regolament, ikun previst li dan l-użu fit-territorju ta’ Stat Membru f’konformità ma’ dan ir-Regolament jeħtieġ ikun possibbli biss meta u sa fejn l-Istat Membru inkwistjoni jkun iddeċieda li jipprevedi b’mod espliċitu l-possibbiltà li jawtorizza dan l-użu fir-regoli dettaljati tiegħu tal-liġi nazzjonali. Għaldaqstant, l-Istati Membri huma liberi skont dan ir-Regolament li ma jipprevedu l-ebda possibbiltà bħal din jew li jipprevedu biss din il-possibbiltà fir-rigward ta’ wħud mill-objettivi li jistgħu jiġġustifikaw l-użu awtorizzat identifikat f’dan ir-Regolament.

(23)

L-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika remota “fil-ħin reali” ta’ persuni fiżiċi fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi bilfors jinvolvi l-ipproċessar ta’ data bijometrika. Ir-regoli ta’ dan ir-Regolament li jipprojbixxu dan l-użu, soġġetta għal ċerti eċċezzjonijiet, u li huma bbażati fuq l-Artikolu 16 tat-TFUE, jenħtieġ japplikaw bħala lex specialis fir-rigward tar-regoli dwar l-ipproċessar tad-data bijometrika li jinsabu fl-Artikolu 10 tad-Direttiva (UE) 2016/680, u b’hekk jirregolaw dan l-użu u l-ipproċessar tad-data bijometrika involuta b’mod eżawrjenti. Għalhekk, jenħtieġ li dawn l-użu u l-ipproċessar ikunu possibbli biss sa fejn ikun kompatibbli mal-qafas stabbilit b’dan ir-Regolament, mingħajr ma jkun hemm ambitu, barra minn dak il-qafas, għall-awtoritajiet kompetenti, meta jaġixxu għall-finijiet ta’ infurzar tal-liġi, li jużaw dawn is-sistemi u jipproċessaw din id-data b’rabta magħhom abbażi tar-raġunijiet elenkati fl-Artikolu 10 tad-Direttiva (UE) 2016/680. F’dan il-kuntest, dan ir-Regolament mhux maħsub biex jipprovdi l-bażi ġuridika għall-ipproċessar ta’ data personali skont l-Artikolu 8 tad-Direttiva 2016/680. Madankollu, l-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet oħra għajr l-infurzar tal-liġi, inkluż minn awtoritajiet kompetenti, jenħtieġ ma jkunx kopert mill-qafas speċifiku rigward dan l-użu għall-finijiet ta’ infurzar tal-liġi stabbilit b’dan ir-Regolament. Għalhekk, dan l-użu għal finijiet oħra għajr l-infurzar tal-liġi jenħtieġ ma jkunx soġġett għar-rekwiżit ta’ awtorizzazzjoni skont dan ir-Regolament u r-regoli dettaljati applikabbli tal-liġi nazzjonali li jistgħu jdaħħluh fis-seħħ.

(24)

Kull ipproċessar tad-data bijometrika u ta’ data personali oħra involuta fl-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika, għajr b’rabta mal-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku għal finijiet ta’ infurzar tal-liġi kif regolat b’dan ir-Regolament , inkluż meta dawk is-sistemi jintużaw mill-awtoritajiet kompetenti fi spazji aċċessibbli għall-pubbliku għal finijiet oħra għajr l-infurzar tal-liġi, jenħtieġ jibqgħu jikkonformaw mar-rekwiżiti kollha li jirriżultaw mill-Artikolu 9(1) tar-Regolament (UE) 2016/679, mill-Artikolu 10(1) tar-Regolament (UE) 2018/1725 u mill-Artikolu 10 tad-Direttiva (UE) 2016/680, skont kif ikun applikabbli.

(24)

Kull ipproċessar tad-data bijometrika u ta’ data personali oħra involuta fl-użu tas-sistemi tal-AI għall-identifikazzjoni bijometrika, għajr b’rabta mal-użu tas-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” fi spazji aċċessibbli għall-pubbliku kif regolat b’dan ir-Regolament jenħtieġ li jibqgħu jikkonformaw mar-rekwiżiti kollha li jirriżultaw mill-Artikolu 9(1) tar-Regolament (UE) 2016/679, mill-Artikolu 10(1) tar-Regolament (UE) 2018/1725 u mill-Artikolu 10 tad-Direttiva (UE) 2016/680, skont kif ikun applikabbli.

(25)

F’konformità mal-Artikolu 6a tal-Protokoll Nru 21 dwar il-pożizzjoni tar-Renju Unit u tal-Irlanda fir-rigward tal-ispazju ta’ libertà, sigurtà u ġustizzja, kif anness mat-TUE u mat-TFUE, l-Irlanda mhix marbuta bir-regoli stabbiliti fil-punt ( d ), (2) u (3) tal-Artikolu 5 ( 1 ) ta’ dan ir-Regolament adottat abbażi tal-Artikolu 16 tat-TFUE relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu attivitajiet li huma fil-kamp ta’ applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta tat-TFUE, meta l-Irlanda mhix marbuta bir-regoli li jirregolaw il-forom ta’ kooperazzjoni ġudizzjarja f’materji kriminali jew ta’ kooperazzjoni tal-pulizija li jeħtieġu konformità mad-dispożizzjonijiet stabbiliti abbażi tal-Artikolu 16 tat-TFUE.

(25)

F’konformità mal-Artikolu 6a tal-Protokoll Nru 21 dwar il-pożizzjoni tar-Renju Unit u tal-Irlanda fir-rigward tal-ispazju ta’ libertà, sigurtà u ġustizzja, kif anness mat-TUE u mat-TFUE, l-Irlanda mhix marbuta bir-regoli stabbiliti fl-Artikolu 5 ( 1 ), il-punt ( d ) ta’ dan ir-Regolament adottat abbażi tal-Artikolu 16 tat-TFUE relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu attivitajiet li huma fil-kamp ta’ applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta tat-TFUE, meta l-Irlanda mhix marbuta bir-regoli li jirregolaw il-forom ta’ kooperazzjoni ġudizzjarja f’materji kriminali jew ta’ kooperazzjoni tal-pulizija li jeħtieġu konformità mad-dispożizzjonijiet stabbiliti abbażi tal-Artikolu 16 tat-TFUE.

(26)

F’konformità mal-Artikoli 2 u 2a tal-Protokoll Nru 22 dwar il-pożizzjoni tad-Danimarka, kif anness mat-TUE u mat-TFUE, id-Danimarka mhix marbuta bir-regoli stabbiliti fil-punt ( d ), (2) u (3) tal-Artikolu 5 ( 1 ) ta’ dan ir-Regolament adottat abbażi tal-Artikolu 16 tat-TFUE, u lanqas mhi soġġetta għall-applikazzjoni tagħhom, relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu l-attivitajiet li huma fil-kamp ta’ applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta tat-TFUE.

(26)

F’konformità mal-Artikoli 2 u 2a tal-Protokoll Nru 22 dwar il-pożizzjoni tad-Danimarka, kif anness mat-TUE u mat-TFUE, id-Danimarka mhix marbuta bir-regoli stabbiliti fl-Artikolu 5 ( 1 ), il-punt ( d ) ta’ dan ir-Regolament adottat abbażi tal-Artikolu 16 tat-TFUE, u lanqas mhi soġġetta għall-applikazzjoni tagħhom, relatati mal-ipproċessar tad-data personali mill-Istati Membri meta jwettqu l-attivitajiet li huma fil-kamp ta’ applikazzjoni tal-Kapitolu 4 jew tal-Kapitolu 5 tat-Titolu V tal-Parti Tlieta tat-TFUE.

(26a)

Is-sistemi tal-AI użati mill-awtoritajiet tal-infurzar tal-liġi jew f’isimhom biex jagħmlu previżjonijiet, profili jew valutazzjonijiet tar-riskju bbażati fuq it-tfassil tal-profil ta’ persuni fiżiċi jew analiżi tad-data abbażi ta’ karatteristiċi u karatteristiċi tal-personalità, inkluż il-post tal-persuna, jew l-imġiba kriminali fil-passat ta’ persuni fiżiċi jew gruppi ta’ persuni għall-fini tal-previżjoni tal-okkorrenza jew l-okkorrenza mill-ġdid ta’ reat(i) kriminali attwali jew potenzjali jew ta’ mġiba soċjali kriminalizzata jew reati amministrattivi oħra, inkluż sistemi ta’ previżjoni tal-frodi, għandhom riskju partikolari ta’ diskriminazzjoni kontra ċerti persuni jew gruppi ta’ persuni, peress li dawn jiksru d-dinjità tal-bniedem kif ukoll il-prinċipju legali ewlieni tal-preżunzjoni tal-innoċenza. Għalhekk jenħtieġ li dawn is-sistemi tal-AI jiġu pprojbiti.

(26b)

L-iscraping indiskriminat u mhux immirat ta’ data bijometrika mill-midja soċjali jew filmati tas-CCTV biex jinħolqu jew jitwessgħu l-bażijiet tad-data tar-rikonoxximent tal-wiċċ iżidu mas-sens ta’ sorveljanza tal-massa u jistgħu jwasslu għal ksur gravi tad-drittijiet fundamentali, inkluż id-dritt għall-privatezza. Għalhekk, jenħtieġ li l-użu ta’ sistemi tal-AI b’dan l-għan maħsub jiġi pprojbit.

(26c)

Hemm tħassib serju dwar il-bażi xjentifika tas-sistemi tal-AI li għandhom l-għan li jidentifikaw l-emozzjonijiet, il-karatteristiċi fiżiċi jew fiżjoloġiċi bħall-espressjonijiet tal-wiċċ, il-movimenti, il-frekwenza tal-polz jew il-vuċi. L-emozzjonijiet jew l-espressjonijiet tal-emozzjonijiet u l-perċezzjonijiet tagħhom ivarjaw b’mod konsiderevoli bejn il-kulturi u s-sitwazzjonijiet, u anke f’individwu wieħed. Fost in-nuqqasijiet ewlenin ta’ teknoloġiji bħal dawn hemm l-affidabbiltà limitata (il-kategoriji ta’ emozzjoni la huma espressi b’mod affidabbli permezz ta’ sett komuni ta’ movimenti fiżiċi jew fiżjoloġiċi u lanqas ma huma assoċjati b’mod inekwivoku miegħu), in-nuqqas ta’ speċifiċità (l-espressjonijiet fiżiċi jew fiżjoloġiċi ma jaqblux perfettament mal-kategoriji ta’ emozzjoni) u l-ġeneralizzabbiltà limitata (l-effetti tal-kuntest u tal-kultura ma humiex ikkunsidrati biżżejjed). Kwistjonijiet ta’ affidabbiltà u konsegwentement, riskji kbar ta’ abbuż, jistgħu jinħolqu b’mod speċjali meta tintuża s-sistema f’sitwazzjonijiet tal-ħajja reali relatati mal-infurzar tal-liġi, il-ġestjoni tal-fruntieri, il-post tax-xogħol u l-istituzzjonijiet edukattivi. Għalhekk, jenħtieġ li jiġi pprojbit it-tqegħid fis-suq, it-tqegħid fis-servizz, jew l-użu ta’ sistemi tal-AI maħsuba biex jintużaw f’dawn il-kuntesti biex jiġi identifikat l-istat emozzjonali tal-individwi.

(26d)

Jenħtieġ li l-prattiki li huma pprojbiti mil-leġiżlazzjoni tal-Unjoni, inkluż il-liġi dwar il-protezzjoni tad-data, il-liġi dwar in-nondiskriminazzjoni, il-liġi dwar il-protezzjoni tal-konsumatur, u l-liġi tal-kompetizzjoni, ma jiġux affettwati minn dan ir-Regolament.

(27)

Is-sistemi tal-AI b’riskju kbir jenħtieġ jitqiegħdu fis-suq tal-Unjoni jew fis-servizz biss jekk ikunu konformi ma’ ċerti rekwiżiti obbligatorji. Jenħtieġ li dawk ir-rekwiżiti jiżguraw li s-sistemi tal-AI b’riskju kbir disponibbli fl-Unjoni jew li l-output tagħhom jintuża b’xi mod ieħor fl-Unjoni ma jkunux joħolqu riskji inaċċettabbli għal interessi pubbliċi importanti tal-Unjoni kif rikonoxxuti u mħarsa bil-liġi tal-Unjoni. Is-sistemi tal-AI identifikati li għandhom riskju kbir jenħtieġ ikunu limitati għal dawk li jħallu impatt dannuż sinifikanti fuq is-saħħa, fuq is-sikurezza u fuq id-drittijiet fundamentali tal-persuni fl-Unjoni u din il-limitazzjoni tnaqqas kemm jista’ jkun kull restrizzjoni potenzjali fuq il-kummerċ internazzjonali, jekk ikun hemm.

(27)

Is-sistemi tal-AI b’riskju kbir jenħtieġ li jitqiegħdu fis-suq tal-Unjoni jew fis-servizz biss jekk ikunu konformi ma’ ċerti rekwiżiti obbligatorji. Jenħtieġ li dawk ir-rekwiżiti jiżguraw li s-sistemi tal-AI b’riskju kbir disponibbli fl-Unjoni jew li l-output tagħhom jintuża b’xi mod ieħor fl-Unjoni ma jkunux joħolqu riskji inaċċettabbli għal interessi pubbliċi importanti tal-Unjoni kif rikonoxxuti u mħarsa bid-dritt tal-Unjoni , inklużi d-drittijiet fundamentali, id-demokrazija, l-istat tad-dritt jew l-ambjent. Sabiex jiġi żgurat l-allinjament mal-leġiżlazzjoni settorjali u jiġu evitati d-duplikazzjonijiet, ir-rekwiżiti għas-sistemi tal-AI b’riskju kbir jenħtieġ li jqisu l-leġiżlazzjoni settorjali li tistabbilixxi rekwiżiti għal sistemi tal-AI b’riskju kbir inklużi fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament, bħar-Regolament (UE) 2017/745 dwar Apparati Mediċi u r-Regolament (UE) 2017/746 dwar Apparati Dijanjostiċi In Vitro jew id-Direttiva 2006/42/KE dwar il-Makkinarju . Is-sistemi tal-AI identifikati li għandhom riskju kbir jenħtieġ li jkunu limitati għal dawk li jħallu impatt dannuż sinifikanti fuq is-saħħa, fuq is-sikurezza u fuq id-drittijiet fundamentali tal-persuni fl-Unjoni u din il-limitazzjoni tnaqqas kemm jista’ jkun kull restrizzjoni potenzjali fuq il-kummerċ internazzjonali, jekk ikun hemm. Minħabba l-pass mgħaġġel tal-iżvilupp teknoloġiku, kif ukoll il-bidliet potenzjali fl-użu tas-sistemi tal-AI, il-lista ta’ żoni ta’ riskju kbir u każijiet ta’ użu fl-Anness III jenħtieġ li madankollu tkun soġġetta għal rieżami permanenti permezz tal-eżerċizzju ta’ valutazzjoni regolari.

(28)

Is-sistemi tal-AI jistgħu jipproduċu eżiti negattivi għas-saħħa u s-sikurezza tal-persuni, b’mod partikolari meta dawn is-sistemi jaħdmu bħala komponenti ta’ prodotti. B’mod konsistenti mal-objettivi tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni biex jiġi ffaċilitat il-moviment liberu tal-prodotti fis-suq intern u biex ikun żgurat li prodotti sikuri u konformi b’xi mod ieħor biss jitqiegħdu fis-suq, hu importanti li jiġu evitati u  mmitigati kif xieraq ir-riskji għas-sikurezza li jistgħu jiġu ġġenerati minn prodott sħiħ minħabba l-komponenti diġitali tiegħu, inkluż sistemi tal-AI. Pereżempju, robots dejjem aktar awtonomi, sew fil-kuntest tal-manifattura u sew fil-kuntest tal-assistenza u l-kura personali, jenħtieġ ikunu jistgħu jitħaddmu b’mod sikur u jwettqu l-funzjonijiet tagħhom f’ambjenti kumplessi. Bl-istess mod, fis-settur tas-saħħa fejn l-interessi għall-ħajja u għas-saħħa huma partikolarment għoljin, jenħtieġ li s-sistemi dijanjostiċi dejjem aktar sofistikati u s-sistemi li jappoġġaw id-deċiżjonijiet umani jkunu affidabbli u eżatti. Il-firxa tal-impatt negattiv ikkawżat mis-sistema tal-AI fuq id-drittijiet fundamentali mħarsa mill-Karta għandha rilevanza partikolari meta sistema tal-AI tiġi kklassifikata li għandha riskju kbir. Dawk id-drittijiet jinkludu d-dritt għad-dinjità umana, ir-rispett għall-ħajja privata u tal-familja, il-protezzjoni tad-data personali, il-libertà tal-espressjoni u tal-informazzjoni, il-libertà ta’ għaqda u ta’ assoċjazzjoni, u n-nondiskriminazzjoni, il-protezzjoni tal-konsumatur, id-drittijiet tal-ħaddiema, id-drittijiet tal-persuni b’diżabbiltà, id-dritt għal rimedju effettiv u għal proċess imparzjali, id-dritt għad-difiża u l-preżunzjoni ta’ innoċenza, id-dritt għal amministrazzjoni tajba. Minbarra dawk id-drittijiet, hu importanti li jiġi enfasizzat li t-tfal għandhom drittijiet speċifiċi kif stabbiliti fl-Artikolu 24 tal-Karta tal-UE u fil-Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet tat-Tfal (elaborata aktar fil-Kumment Ġenerali Nru 25 tal-UNCRC fir-rigward tal-ambjent diġitali), li t-tnejn li huma jeħtieġu kunsiderazzjoni tal-vulnerabbiltajiet tat-tfal u l-għoti ta’ tali protezzjoni u kura kif meħtieġ għall-benesseri tagħhom. Id-dritt fundamentali għal livell għoli ta’ ħarsien ambjentali, kif stabbilit fil-Karta u implimentat fil-politiki tal-Unjoni, jenħtieġ jitqies ukoll waqt il-valutazzjoni tas-severità tad-dannu li sistema tal-AI tista’ tikkawża, inkluż rigward is-saħħa u s-sikurezza tal-persuni.

(28)

Is-sistemi tal-AI għandhom impatt negattiv għas-saħħa u s-sikurezza tal-persuni, b’mod partikolari meta dawn is-sistemi jaħdmu bħala komponenti tas-sikurezza ta’ prodotti. B’mod konsistenti mal-objettivi tal-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni biex jiġi ffaċilitat il-moviment liberu tal-prodotti fis-suq intern u biex ikun żgurat li prodotti sikuri u konformi b’xi mod ieħor biss jitqiegħdu fis-suq, hu importanti li jiġu evitati u  jittaffew kif xieraq ir-riskji għas-sikurezza li jistgħu jiġu ġġenerati minn prodott sħiħ minħabba l-komponenti diġitali tiegħu, inkluż sistemi tal-AI. Pereżempju, robots dejjem aktar awtonomi, sew fil-kuntest tal-manifattura u sew fil-kuntest tal-assistenza u l-kura personali, jenħtieġ li jkunu jistgħu jitħaddmu b’mod sikur u jwettqu l-funzjonijiet tagħhom f’ambjenti kumplessi. Bl-istess mod, fis-settur tas-saħħa fejn l-interessi għall-ħajja u għas-saħħa huma partikolarment għoljin, jenħtieġ li s-sistemi dijanjostiċi dejjem aktar sofistikati u s-sistemi li jappoġġaw id-deċiżjonijiet umani jkunu affidabbli u eżatti.

(28a)

Il-firxa tal-impatt negattiv ikkawżat mis-sistema tal-AI fuq id-drittijiet fundamentali mħarsa mill-Karta għandha rilevanza partikolari meta sistema tal-AI tiġi kklassifikata li għandha riskju kbir. Dawk id-drittijiet jinkludu d-dritt għad-dinjità tal-bniedem, ir-rispett għall-ħajja privata u tal-familja, il-protezzjoni tad-data personali, il-libertà tal-espressjoni u tal-informazzjoni, il-libertà ta’ għaqda u ta’ assoċjazzjoni, u n-nondiskriminazzjoni, id-dritt għall-edukazzjoni, il-protezzjoni tal-konsumatur, id-drittijiet tal-ħaddiema, id-drittijiet tal-persuni b’diżabilità, l-ugwaljanza bejn il-ġeneri, id-drittijiet ta’ proprjetà intellettwali, id-dritt għal rimedju effettiv u għal proċess imparzjali, id-dritt għad-difiża u l-preżunzjoni ta’ innoċenza, id-dritt għal amministrazzjoni tajba. Minbarra dawk id-drittijiet, hu importanti li jiġi enfasizzat li t-tfal għandhom drittijiet speċifiċi kif minquxa fl-Artikolu 24 tal-Karta tal-UE u fil-Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet tat-Tfal (elaborata aktar fil-Kumment Ġenerali Nru 25 tal-UNCRC fir-rigward tal-ambjent diġitali), li t-tnejn li huma jeħtieġu kunsiderazzjoni tal-vulnerabbiltajiet tat-tfal u l-għoti ta’ tali protezzjoni u kura kif meħtieġ għall-benesseri tagħhom. Id-dritt fundamentali għal livell għoli ta’ ħarsien ambjentali, kif minqux fil-Karta u implimentat fil-politiki tal-Unjoni, jenħtieġ li jitqies ukoll waqt il-valutazzjoni tas-severità tad-dannu li sistema tal-AI tista’ tikkawża, inkluż rigward is-saħħa u s-sikurezza tal-persuni jew tal-ambjent.

(29)

Rigward is-sistemi tal-AI b’riskju kbir li huma komponenti tas-sikurezza ta’ prodotti jew ta’ sistemi, jew li huma stess huma prodotti jew sistemi li huma fil-kamp ta’ applikazzjoni tar-Regolament (KE) Nru 300/2008 tal-Parlament Ewropew u tal-Kunsill (39), tar-Regolament (UE) Nru 167/2013 tal-Parlament Ewropew u tal-Kunsill (40), tar-Regolament (UE) Nru 168/2013 tal-Parlament Ewropew u tal-Kunsill (41), tad-Direttiva 2014/90/UE tal-Parlament Ewropew u tal-Kunsill (42), tad-Direttiva (UE) 2016/797 tal-Parlament Ewropew u tal-Kunsill (43), tar-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill (44), tar-Regolament (UE) 2018/1139 tal-Parlament Ewropew u tal-Kunsill (45), u tar-Regolament (UE) 2019/2144 tal-Parlament Ewropew u tal-Kunsill (46), jixraq li dawk l-atti jiġu emendati biex ikunżgurat li l-Kummissjoni tqis, abbażi tal-ispeċifiċitajiet tekniċi u regolatorji ta’ kull settur, u mingħajr ma tinterferixxi mal-mekkaniżmi u mal-awtoritajiet eżistenti ta’ governanza, ta’ valutazzjoni tal-konformità u ta’ infurzar stabbiliti fihom, ir-rekwiżiti obbligatorji għas-sistemi tal-AI b’riskju kbir stabbiliti f’dan ir-Regolament meta tadotta xi att delegat jew ta’ implimentazzjoni futur rilevanti abbażi ta’ dawk l-atti.

(29)

Rigward is-sistemi tal-AI b’riskju kbir li huma komponenti tas-sikurezza ta’ prodotti jew ta’ sistemi, jew li huma stess huma prodotti jew sistemi li huma fil-kamp ta’ applikazzjoni tar-Regolament (KE) Nru 300/2008 tal-Parlament Ewropew u tal-Kunsill (39), tar-Regolament (UE) Nru 167/2013 tal-Parlament Ewropew u tal-Kunsill (40), tar-Regolament (UE) Nru 168/2013 tal-Parlament Ewropew u tal-Kunsill (41), tad-Direttiva 2014/90/UE tal-Parlament Ewropew u tal-Kunsill (42), tad-Direttiva (UE) 2016/797 tal-Parlament Ewropew u tal-Kunsill (43), tar-Regolament (UE) 2018/858 tal-Parlament Ewropew u tal-Kunsill (44), tar-Regolament (UE) 2018/1139 tal-Parlament Ewropew u tal-Kunsill (45), u tar-Regolament (UE) 2019/2144 tal-Parlament Ewropew u tal-Kunsill (46), jixraq li dawk l-atti jiġu emendati biex ikun żgurat li l-Kummissjoni tqis, abbażi tal-ispeċifiċitajiet tekniċi u regolatorji ta’ kull settur, u mingħajr ma tinterferixxi mal-mekkaniżmi u mal-awtoritajiet eżistenti ta’ governanza, ta’ valutazzjoni tal-konformità , ta’ sorveljanza tas-suq u ta’ infurzar stabbiliti fihom, ir-rekwiżiti obbligatorji għas-sistemi tal-AI b’riskju kbir stabbiliti f’dan ir-Regolament meta tadotta xi att delegat jew ta’ implimentazzjoni futur rilevanti abbażi ta’ dawk l-atti.

(30)

Fir-rigward tas-sistemi tal-AI li huma komponenti tas-sikurezza ta’ prodotti, jew li huma stess huma prodotti, li huma fil-kamp ta’ applikazzjoni ta’ ċerta leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jixraq jiġu kklassifikati li għandhom riskju kbir skont dan ir-Regolament jekk il-prodott inkwistjoni ssirlu l-proċedura tal-valutazzjoni tal-konformità mwettqa minn korp terz tal-valutazzjoni tal-konformità skont dik il-leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni. B’mod partikolari, dawn il-prodotti huma makkinarju, ġugarelli, liftijiet, tagħmir u sistemi protettivi maħsuba għal użu f’ambjenti potenzjalment esplożivi, tagħmir tar-radju, apparat tal-pressa, tagħmir ta’ opri tal-baħar għar-rikreazzjoni, installazzjonijiet tal-funikular, apparati li jaħarqu fjuwils gassużi, apparati mediċi, u apparati mediċi dijanjostiċi in vitro.

(30)

Fir-rigward tas-sistemi tal-AI li huma komponenti tas-sikurezza ta’ prodotti, jew li huma stess huma prodotti, li huma fil-kamp ta’ applikazzjoni ta’ ċerta liġi tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II , jixraq jiġu kklassifikati li għandhom riskju kbir skont dan ir-Regolament jekk il-prodott inkwistjoni ssirlu l-proċedura tal-valutazzjoni tal-konformità sabiex tiġi żgurata l-konformità mar-rekwiżiti tas-sikurezza essenzjali mwettqa minn korp terz tal-valutazzjoni tal-konformità skont dik il-liġi rilevanti tal-Unjoni dwar l-armonizzazzjoni. B’mod partikolari, dawn il-prodotti huma makkinarju, ġugarelli, liftijiet, tagħmir u sistemi protettivi maħsuba għal użu f’ambjenti potenzjalment esplożivi, tagħmir tar-radju, apparat tal-pressa, tagħmir ta’ opri tal-baħar għar-rikreazzjoni, installazzjonijiet tal-funikular, apparati li jaħarqu fjuwils gassużi, apparati mediċi, u apparati mediċi dijanjostiċi in vitro.

(31)

Jenħtieġ li l-klassifikazzjoni ta’ sistema tal-AI bħala li għandha riskju kbir skont dan ir-Regolament mhux bilfors tkun tfisser li l-prodott li l-komponent tas-sikurezza tiegħu jkun is-sistema tal-AI, jew is-sistema tal-AI stess bħala prodott, jitqiesu li għandhom “riskju kbir” skont il-kriterji stabbiliti fil-leġiżlazzjoni rilevanti tal-Unjoni dwar l-armonizzazzjoni li tapplika għall-prodott. Dan hu partikolarment il-każ għar-Regolament (UE) 2017/745 tal-Parlament Ewropew u tal-Kunsill (47) u għar-Regolament (UE) 2017/746 tal-Parlament Ewropew u tal-Kunsill (48), meta ssir valutazzjoni tal-konformità minn parti terza għall-prodotti b’riskju medju u b’riskju kbir.

(31)

Jenħtieġ li l-klassifikazzjoni ta’ sistema tal-AI bħala li għandha riskju kbir skont dan ir-Regolament ma tkunx tfisser li l-prodott li l-komponent tas-sikurezza tiegħu jkun is-sistema tal-AI, jew is-sistema tal-AI stess bħala prodott, jitqiesu li għandhom “riskju kbir” skont il-kriterji stabbiliti fil-liġi rilevanti tal-Unjoni dwar l-armonizzazzjoni li tapplika għall-prodott. Dan hu partikolarment il-każ għar-Regolament (UE) 2017/745 tal-Parlament Ewropew u tal-Kunsill (47) u għar-Regolament (UE) 2017/746 tal-Parlament Ewropew u tal-Kunsill (48), meta ssir valutazzjoni tal-konformità minn parti terza għall-prodotti b’riskju medju u b’riskju kbir.

(32)

Fir-rigward tas-sistemi awtonomi tal-AI, jiġifieri s-sistemi tal-AI b’riskju kbir għajr dawk li huma komponenti tas-sikurezza ta’ prodotti, jew li huma stess huma prodotti, jixraq jiġi klassifikat li għandhom riskju kbir jekk, fid-dawl tal-għan maħsub tagħhom, dawn jippreżentaw riskju kbir ta’ dannu għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali tal-bniedem , filwaqt li jitqiesu s-severità tad-dannu possibbli u l-probabbiltà li dan iseħħ, u jintużaw f’għadd ta’ oqsma speċifikament definiti minn qabel kif speċifikat fir-Regolament . L-identifikazzjoni ta’ dawk is-sistemi timxi bl-istess metodoloġija u kriterji previsti wkoll għal kwalunkwe emenda futura tal-lista tas-sistemi tal-AI b’riskju kbir.

(32)

Fir-rigward tas-sistemi awtonomi tal-AI, jiġifieri s-sistemi tal-AI b’riskju kbir għajr dawk li huma komponenti tas-sikurezza ta’ prodotti, jew li huma stess huma prodotti u li huma elenkati f’wieħed mill-oqsma u l-każijiet ta’ użu fl-Anness III , jixraq jiġi klassifikat li għandhom riskju kbir jekk, fid-dawl tal-għan maħsub tagħhom, dawn jippreżentaw riskju sinifikanti ta’ dannu għas-saħħa u s-sikurezza jew għad-drittijiet fundamentali tal-persuni u , meta s-sistema tal-AI tintuża bħala komponent tas-sikurezza ta’ infrastruttura kritika, għall-ambjent. Tali riskju sinifikanti ta’ dannu jenħtieġ li jiġi identifikat billi jiġi vvalutat minn naħa waħda l-effett ta’ tali riskju fir-rigward tal-livell ta’ severità, intensità, probabbiltà li dan iseħħ u durata kkombinati flimkien u min-naħa l-oħra jekk id-dannu jistax jaffettwa individwu , pluralità ta’ persuni jew grupp partikolari ta’ persuni. Tali kombinazzjoni tista’ pereżempju tirriżulta f’severità għolja iżda probabbiltà baxxa li taffettwa persuna fiżika, jew probabbiltà għolja li taffettwa grupp ta’ persuni b’intensità baxxa fuq perjodu twil ta’ żmien, skont il-kuntest . L-identifikazzjoni ta’ dawk is-sistemi timxi bl-istess metodoloġija u kriterji previsti wkoll għal kwalunkwe emenda futura tal-lista tas-sistemi tal-AI b’riskju kbir.

(32a)

Jenħtieġ li l-fornituri li s-sistemi tal-AI tagħhom jaqgħu taħt wieħed mill-oqsma u l-każijiet ta’ użu elenkati fl-Anness III li jqisu li s-sistema tagħhom ma toħloqx riskju sinifikanti ta’ dannu għas-saħħa, is-sikurezza, id-drittijiet fundamentali jew l-ambjent, jinfurmaw lill-awtoritajiet superviżorji nazzjonali billi jissottomettu notifika motivata. Din tista’ tieħu l-forma ta’ sommarju ta’ paġna waħda tal-informazzjoni rilevanti dwar is-sistema tal-AI inkwistjoni, inkluż l-għan maħsub tagħha u għaliex ma toħloqx riskju sinifikanti ta’ dannu għas-saħħa, is-sikurezza, id-drittijiet fundamentali jew l-ambjent. Jenħtieġ li l-Kummissjoni tispeċifika kriterji li jippermettu lill-kumpaniji jivvalutaw jekk is-sistema tagħhom toħloqx riskji bħal dawn, kif ukoll tiżviluppa mudell faċli biex jintuża u standardizzat għan-notifika. Il-fornituri jenħtieġ li jissottomettu n-notifika kmieni kemm jista’ jkun u fi kwalunkwe każ qabel it-tqegħid tas-sistema tal-AI fis-suq jew it-tqegħid fis-servizz tagħha, idealment fl-istadju tal-iżvilupp, u jenħtieġ li jkunu liberi li jqegħduha fis-suq fi kwalunkwe ħin wara n-notifika. Madankollu, jekk l-awtorità tistma li s-sistema tal-AI inkwistjoni ġiet ikklassifikata ħażin, jenħtieġ li toġġezzjona għan-notifika fi żmien tliet xhur. L-oġġezzjoni jenħtieġ li tiġi sostanzjata u tispjega kif xieraq għaliex is-sistema tal-AI ġiet ikklassifikata ħażin. Il-fornitur jenħtieġ li jżomm id-dritt ta’ appell billi jipprovdi aktar argumenti. Jekk wara t-tliet xhur ma jkun hemm l-ebda oġġezzjoni għan-notifika, l-awtoritajiet superviżorji nazzjonali xorta jistgħu jintervjenu jekk is-sistema tal-AI tippreżenta riskju fil-livell nazzjonali, bħal kwalunkwe sistema oħra tal-AI fis-suq. Jenħtieġ li l-awtoritajiet superviżorji nazzjonali jissottomettu rapporti annwali lill-Uffiċċju tal-AI bid-dettalji tan-notifiki riċevuti u d-deċiżjonijiet meħuda.

(33)

L-ineżattezzi tas-sistemi tal-AI maħsuba għall-identifikazzjoni bijometrika remota ta’ persuni fiżiċi jistgħu jwasslu għal riżultati preġudikati u jħallu effetti diskriminatorji. Dan hu partikolarment rilevanti fir-rigward tal-età, tal-etniċità, tal-ġeneru jew tad-diżabbiltà. Għaldaqstant, is-sistemi tal-identifikazzjoni bijometrika remota “fil-ħin reali” u “f’ħin aktar tard” jenħtieġ jiġu kklassifikati li għandhom riskju kbir. Fid-dawl tar-riskji li joħolqu, iż-żewġ tipi ta’ sistemi tal-identifikazzjoni bijometrika remota jenħtieġ ikunu soġġetti għal rekwiżiti speċifiċi dwar il-kapaċitajiet tal-illoggjar u s-sorveljanza umana.

(33a)

Peress li d-data bijometrika tikkostitwixxi kategorija speċjali ta’ data personali sensittiva f’konformità mar-Regolament 2016/679, huwa xieraq li diversi każijiet kritiċi ta’ użu ta’ sistemi bijometriċi u bbażati fuq il-bijometrika jiġu kklassifikati bħala ta’ riskju kbir. Għalhekk, jenħtieġ li s-sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika ta’ persuni fiżiċi u ta’ sistemi tal-AI maħsuba biex jintużaw ħalli jsiru inferenzi dwar il-karatteristiċi personali ta’ persuni fiżiċi abbażi ta’ data bijometrika jew data bbażata fuq il-bijometrika, inklużi sistemi ta’ rikonoxximent tal-emozzjonijiet, bl-eċċezzjoni ta’ dawk li huma pprojbiti skont dan ir-Regolament, jiġu kklassifikati li għandhom riskju kbir. Jenħtieġ li dan ma jinkludix sistemi tal-AI maħsuba biex jintużaw għall-verifika bijometrika, li tinkludi l-awtentikazzjoni, li l-iskop uniku tagħha huwa li tikkonferma li persuna fiżika speċifika hija l-persuna li tiddikjara li hija u li tikkonferma l-identità ta’ persuna fiżika għall-iskop uniku li jkollha aċċess għal servizz, apparat jew bini (verifika one-to-one). Jenħtieġ li s-sistemi bijometriċi u dawk ibbażati fuq il-bijometrika li huma previsti fid-dritt tal-Unjoni biex jippermettu miżuri taċ-ċibersigurtà u tal-protezzjoni tad-data personali ma jitqisux li joħolqu riskju sinifikanti ta’ dannu għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali.

(34)

Fir-rigward tal-ġestjoni u t-tħaddim tal-infrastruttura kritika, jixraq li s-sistemi tal-AI maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tat-traffiku tat-triq u fil-provvista tal-ilma, tal-gass, tat-tisħin u  tal-elettriku jiġu kklassifikati li għandhom riskju kbir, għax il-falliment jew il-funzjonament ħażin fihom jistgħu jqiegħdu f’riskju l-ħajja u s-saħħa tal-persuni fuq skala kbira u jwasslu għal tfixkil sinifikanti fl-eżekuzzjoni ordinarja tal-attivitajiet soċjali u ekonomiċi.

(34)

Fir-rigward tal-ġestjoni u t-tħaddim tal-infrastruttura kritika, jixraq li s-sistemi tal-AI maħsuba biex jintużaw bħala komponenti tas-sikurezza fil-ġestjoni u t-tħaddim tal-provvista tal-ilma, tal-gass, tat-tisħin , tal-elettriku u  tal-infrastruttura diġitali kritika jiġu kklassifikati li għandhom riskju kbir, għax il-falliment jew il-funzjonament ħażin fihom jistgħu jiksru s-sigurtà u l-integrità ta’ din l-infrastruttura kritika jew ipoġġu f’riskju l-ħajja u s-saħħa tal-persuni fuq skala kbira u jwasslu għal tfixkil sinifikanti fl-eżekuzzjoni ordinarja tal-attivitajiet soċjali u ekonomiċi. Il-komponenti tas-sikurezza tal-infrastruttura kritika, inkluża l-infrastruttura diġitali kritika, huma sistemi użati biex jipproteġu direttament l-integrità fiżika tal-infrastruttura kritika jew is-saħħa u s-sikurezza tal-persuni u tal-proprjetà. Il-falliment jew il-funzjonament ħażin ta’ tali komponenti jista’ jwassal direttament għal riskji għall-integrità fiżika tal-infrastruttura kritika u b’hekk għal riskji għas-saħħa u s-sikurezza tal-persuni u l-proprjetà. Il-komponenti maħsuba biex jintużaw biss għal finijiet taċ-ċibersigurtà jenħtieġ li ma jikkwalifikawx bħala komponenti ta’ sikurezza. Eżempji ta’ tali komponenti ta’ sikurezza jistgħu jinkludu sistemi għall-monitoraġġ tal-pressjoni tal-ilma jew sistemi ta’ kontroll tal-allarm tan-nar fiċ-ċentri tal-cloud computing.

(35)

Is-sistemi tal-AI użati fl-edukazzjoni jew it-taħriġ vokazzjonali, b’mod partikolari għad-determinazzjoni tal-aċċess jew għall-assenjazzjoni ta’ persuni f’istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali jew għall-evalwazzjoni ta’ persuni b’testijiet bħala parti mill-edukazzjoni tagħhom jew bħala prekundizzjoni għal din, jenħtieġ jitqiesu li għandhom riskju kbir għax jistgħu jiddeterminaw il-kors edukattiv u professjonali tal-ħajja ta’ persuna u għalhekk jaffettwaw l-abbiltà tagħhom li jiżguraw l-għajxien tagħhom. Meta jitfasslu u jintużaw b’mod mhux xieraq, dawn is-sistemi jistgħu jiksru d-dritt għal edukazzjoni u taħriġ, u d-dritt ta’ nondiskriminazzjoni u jkattru mudelli storiċi ta’ diskriminazzjoni.

(35)

L-użu ta’ sistemi tal-AI fl-edukazzjoni huwa importanti sabiex jgħin fil-modernizzazzjoni tas-sistemi tal-edukazzjoni sħaħ, itejjeb il-kwalità edukattiva, kemm offline kif ukoll online, u jaċċellera l-edukazzjoni diġitali, u b’hekk issir disponibbli wkoll għal udjenza usa’. Is-sistemi tal-AI użati fl-edukazzjoni jew fit-taħriġ vokazzjonali, b’mod partikolari għad-determinazzjoni tal-aċċess jew biex jiġu influwenzati materjalment id-deċiżjonijiet dwar l-ammissjoni jew għall-assenjazzjoni ta’ persuni f’istituzzjonijiet edukattivi u tat-taħriġ vokazzjonali jew għall-evalwazzjoni ta’ persuni b’testijiet bħala parti mill-edukazzjoni tagħhom jew bħala prekundizzjoni għal din jew għall-valutazzjoni tal-livell xieraq ta’ edukazzjoni għal individwu u biex jiġi influwenzat materjalment il-livell ta’ edukazzjoni u t-taħriġ li l-individwi se jirċievu jew ikunu jistgħu jaċċessaw jew jimmonitorjaw u jidentifikaw imġiba pprojbita tal-istudenti matul it-testijiet jenħtieġ li jiġu kklassifikati bħala sistemi tal-AI li għandhom riskju kbir, għax jistgħu jiddeterminaw il-kors edukattiv u professjonali tal-ħajja ta’ persuna u għalhekk jaffettwaw l-abbiltà tagħhom li jiżguraw l-għajxien tagħhom. Meta jiġu ddisinjati u jintużaw b’mod mhux xieraq, dawn is-sistemi jistgħu jkunu partikolarment intrużivi u jistgħu jiksru d-dritt għal edukazzjoni u taħriġ, u d-dritt ta’ nondiskriminazzjoni u jkattru mudelli storiċi ta’ diskriminazzjoni , pereżempju kontra n-nisa, ċerti gruppi ta’ età, persuni b’diżabilità, jew persuni ta’ ċerti oriġini razzjali jew etnika jew orjentazzjoni sesswali .

(36)

Anki s-sistemi tal-AI użati fl-impjiegi, fil-ġestjoni tal-ħaddiema u fl-aċċess għal impjieg indipendenti, b’mod partikolari għar-reklutaġġ u għall-għażla tal-persuni, għat-teħid ta’ deċiżjonijiet dwar il-promozzjoni u t-terminazzjoni u għall-allokazzjoni tal-kompiti, għall-monitoraġġ jew għall-evalwazzjoni tal-persuni f’relazzjonijiet kuntrattwali relatati max-xogħol, jenħtieġ jiġu kklassifikati li għandhom riskju kbir għax jistgħu jaffettwaw b’mod sinifikanti l-prospetti futuri tal-karriera u tal-għajxien ta’ dawk il-persuni. Jenħtieġ li r-relazzjonijiet kuntrattwali rilevanti relatati max-xogħol ikunu jinvolvu lill-impjegati u lill-persuni li jipprovdu servizzi permezz ta’ pjattaformi kif imsemmi fil-Programm ta’ Ħidma 2021 tal-Kummissjoni. Jenħtieġ li, fil-prinċipju, dawn il-persuni ma jitqisux bħala utenti skont it-tifsira ta’ dan ir-Regolament. Tul il-proċess tar-reklutaġġ u fl-evalwazzjoni, fil-promozzjoni, jew fiż-żamma ta’ persuni f’relazzjonijiet kuntrattwali relatati max-xogħol, dawn is-sistemi jistgħu jkattru mudelli storiċi ta’ diskriminazzjoni, pereżempju kontra n-nisa, ċerti gruppi ta’ età, persuni b’diżabbiltà , jew persuni ta’ ċerta oriġini razzjali jew etnika jew orjentazzjoni sesswali. Is-sistemi tal-AI użati għall-monitoraġġ tal-prestazzjoni u tal-imġiba ta’ dawn il-persuni jistgħu jħallu impatt ukoll fuq id-drittijiet tagħhom għal protezzjoni tad-data u privatezza.

(36)

Anke s-sistemi tal-AI użati fl-impjiegi, fil-ġestjoni tal-ħaddiema u fl-aċċess għal impjieg indipendenti, b’mod partikolari għar-reklutaġġ u għall-għażla tal-persuni, għat-teħid ta’ deċiżjonijiet jew biex jiġu influwenzati materjalment id-deċiżjonijiet dwar il-bidu, il-promozzjoni u t-terminazzjoni u għall-allokazzjoni personalizzata tal-kompiti abbażi ta’ mġiba individwali, karatteristiċi personali jew data bijometrika , għall-monitoraġġ jew għall-evalwazzjoni tal-persuni f’relazzjonijiet kuntrattwali relatati max-xogħol, jenħtieġ li jiġu kklassifikati li għandhom riskju kbir, għax jistgħu jaffettwaw b’mod sinifikanti l-prospetti futuri tal-karriera , l-għajxien ta’ dawk il-persuni u d-drittijiet tal-ħaddiema . Jenħtieġ li r-relazzjonijiet kuntrattwali rilevanti relatati max-xogħol ikunu jinvolvu b’mod sinifikattiv lill-impjegati u lill-persuni li jipprovdu servizzi permezz ta’ pjattaformi kif imsemmi fil-Programm ta’ Ħidma 2021 tal-Kummissjoni. Tul il-proċess tar-reklutaġġ u fl-evalwazzjoni, fil-promozzjoni, jew fiż-żamma ta’ persuni f’relazzjonijiet kuntrattwali relatati max-xogħol, dawn is-sistemi jistgħu jkattru mudelli storiċi ta’ diskriminazzjoni, pereżempju kontra n-nisa, ċerti gruppi ta’ età, persuni b’diżabilità , jew persuni ta’ ċerta oriġini razzjali jew etnika jew orjentazzjoni sesswali. Is-sistemi tal-AI użati għall-monitoraġġ tal-prestazzjoni u tal-imġiba ta’ dawn il-persuni jistgħu jimminaw ukoll l-essenza tad-dritt fundamentali tagħhom għal protezzjoni tad-data u privatezza. Dan ir-Regolament japplika mingħajr preġudizzju għall-kompetenzi tal-Unjoni u tal-Istati Membri biex jipprevedu regoli aktar speċifiċi għall-użu tas-sistemi tal-AI fil-kuntest tal-impjiegi.

(37)

Qasam ieħor li fih l-użu tas-sistemi tal-AI jixirqilhom kunsiderazzjoni speċjali hu l-aċċess għal ċerti servizzi u  benefiċċji privati u  pubbliċi essenzjali u t-tgawdija ta’ dawn is-servizzi u l-benefiċċji meħtieġa biex in-nies jipparteċipaw bis-sħiħ fis-soċjetà jew biex itejbu l-istandard tal-għajxien tagħhom. B’mod partikolari, is-sistemi tal-AI użati bħala sistema ta’ evalwazzjoni ta’ kreditu jew għall-evalwazzjoni tal-affidabbiltà kreditizja ta’ xi persuni fiżiċi jenħtieġ jiġu kklassifikati li għandhom riskju kbir għax dawn jiddeterminaw l-aċċess ta’ dawk il-persuni għal riżorsi finanzjarji jew għal servizzi essenzjali bħal akkomodazzjoni, elettriku, u servizzi tat-telekomunikazzjoni. Is-sistemi tal-AI użati għal dan il-għan jistgħu jikkawżaw diskriminazzjoni ta’ persuni jew ta’ gruppi u jkattru mudelli storiċi ta’ diskriminazzjoni, pereżempju bbażati fuq l-oriġini razzjali jew etnika, diżabbiltà , l-età, l-orjentazzjoni sesswali, jew joħolqu forom ġodda ta’ impatti diskriminatorji. Meta jitqiesu l-iskala limitata ħafna tal-impatt u l-alternattivi disponibbli fis-suq , jixraq li s-sistemi tal-AI jiġu eżentati għall-finijiet ta’ valutazzjoni tal-affidabbiltà kreditizja u ta’ evalwazzjoni ta’ kreditu meta jitqiegħdu fis-servizz minn fornituri fuq skala żgħira għall-użu tagħhom stess . Il-persuni fiżiċi li japplikaw għal jew li jirċievu benefiċċji u servizzi ta’ assistenza pubblika mill-awtoritajiet pubbliċi, tipikament ikunu dipendenti fuq dawk il-benefiċċji u s-servizzi u f’pożizzjoni vulnerabbli fir-rigward tal-awtoritajiet responsabbli. Jekk is-sistemi tal-AI jintużaw biex jiġi determinat jekk dawn il-benefiċċji u s-servizzi jenħtieġx jiċċaħħdu, jitnaqqsu, jitneħħew jew jittieħdu lura mill-awtoritajiet, dawn jistgħu jħallu impatt sinifikanti fuq l-għajxien tal-persuni u jistgħu jiksru d-drittijiet fundamentali tagħhom, bħad-dritt għal protezzjoni soċjali, ta’ nondiskriminazzjoni, id-dinjità umana jew għal rimedju effettiv. Għalhekk, jenħtieġ li dawk is-sistemi jiġu kklassifikati li għandhom riskju kbir. Madankollu, jenħtieġ li dan ir-Regolament ma jfixkilx l-iżvilupp u l-użu ta’ approċċi innovattivi fl-amministrazzjoni pubblika, li jkunu jistgħu jibbenefikaw minn użu aktar mifrux ta’ sistemi tal-AI konformi u sikuri, diment li dawk is-sistemi ma jkunux jinvolvu riskju kbir għall-persuni ġuridiċi u fiżiċi. Fl-aħħar nett, jenħtieġ li anki s-sistemi tal-AI użati biex tintbagħat jew tiġi stabbilita prijorità fid-dispaċċ ta’ servizzi tal-ewwel rispons ta’ emerġenza jiġu kklassifikati li għandhom riskju kbir għax dawn jieħdu deċiżjonijiet f’sitwazzjonijiet kritiċi ħafna għall-ħajja u għas-saħħa tal-persuni u għall-proprjetà tagħhom.

(37)

Qasam ieħor li fih l-użu tas-sistemi tal-AI jixirqilhom kunsiderazzjoni speċjali hu l-aċċess għal ċerti servizzi privati u  pubbliċi essenzjali, inklużi s-servizzi tal-kura tas-saħħa u  s-servizzi essenzjali , inkluż iżda mhux limitati għall-akkomodazzjoni, l-elettriku, it-tisħin/it-tkessiħ u l-internet, u l-benefiċċji meħtieġa biex in-nies jipparteċipaw bis-sħiħ fis-soċjetà jew biex itejbu l-istandard tal-għajxien tagħhom. B’mod partikolari, is-sistemi tal-AI użati bħala sistema ta’ evalwazzjoni ta’ kreditu jew għall-evalwazzjoni tal-affidabbiltà kreditizja ta’ xi persuni fiżiċi jenħtieġ li jiġu kklassifikati li għandhom riskju kbir għax dawn jiddeterminaw l-aċċess ta’ dawk il-persuni għal riżorsi finanzjarji jew għal servizzi essenzjali bħal akkomodazzjoni, elettriku, u servizzi tat-telekomunikazzjoni. Is-sistemi tal-AI użati għal dan il-għan jistgħu jikkawżaw diskriminazzjoni ta’ persuni jew ta’ gruppi u jkattru mudelli storiċi ta’ diskriminazzjoni, pereżempju bbażati fuq l-oriġini razzjali jew etnika, il-ġeneru, id-diżabilità , l-età, l-orjentazzjoni sesswali, jew joħolqu forom ġodda ta’ impatti diskriminatorji. Madankollu, jenħtieġ li s-sistemi tal-AI previsti mid-dritt tal-Unjoni għall-fini li tiġi identifikata frodi fl-offerta ta’ servizzi finanzjarji ma jitqisux li għandhom riskju kbir skont dan ir-Regolament. Il-persuni fiżiċi li japplikaw għal jew li jirċievu benefiċċji u servizzi ta’ assistenza pubblika mill-awtoritajiet pubbliċi, inklużi s-servizzi tal-kura tas-saħħa u s-servizzi essenzjali, inkluż iżda mhux limitati għall-akkomodazzjoni, l-elettriku, it-tisħin/it-tkessiħ u l-internet, tipikament ikunu dipendenti fuq dawk il-benefiċċji u s-servizzi u f’pożizzjoni vulnerabbli fir-rigward tal-awtoritajiet responsabbli. Jekk is-sistemi tal-AI jintużaw biex jiġi determinat jekk dawn il-benefiċċji u s-servizzi jenħtieġx li jiċċaħħdu, jitnaqqsu, jitneħħew jew jittieħdu lura mill-awtoritajiet, dawn jistgħu jħallu impatt sinifikanti fuq l-għajxien tal-persuni u jistgħu jiksru d-drittijiet fundamentali tagħhom, bħad-dritt għal protezzjoni soċjali, ta’ nondiskriminazzjoni, id-dinjità tal-bniedem jew għal rimedju effettiv. Bl-istess mod, is-sistemi tal-AI maħsuba biex jintużaw bil-għan li jittieħdu deċiżjonijiet jew biex jiġu influwenzati materjalment id-deċiżjonijiet dwar l-eliġibbiltà ta’ persuni fiżiċi għall-assigurazzjoni tas-saħħa u tal-ħajja jista’ jkollhom ukoll impatt sinifikanti fuq l-għajxien tal-persuni u jistgħu jiksru d-drittijiet fundamentali tagħhom pereżempju billi jillimitaw l-aċċess għall-kura tas-saħħa jew billi jkattru diskriminazzjoni abbażi ta’ karatteristiċi personali. Għalhekk, jenħtieġ li dawk is-sistemi jiġu kklassifikati li għandhom riskju kbir. Madankollu, jenħtieġ li dan ir-Regolament ma jfixkilx l-iżvilupp u l-użu ta’ approċċi innovattivi fl-amministrazzjoni pubblika, li jkunu jistgħu jibbenefikaw minn użu aktar mifrux ta’ sistemi tal-AI konformi u sikuri, dment li dawk is-sistemi ma jkunux jinvolvu riskju kbir għall-persuni ġuridiċi u fiżiċi. Fl-aħħar nett, jenħtieġ li anke s-sistemi tal-AI użati biex jiġu evalwati u kklassifikati telefonati ta’ emerġenza minn persuni fiżiċi jew biex tintbagħat jew tiġi stabbilita prijorità fid-dispaċċ ta’ servizzi tal-ewwel rispons ta’ emerġenza jiġu kklassifikati li għandhom riskju kbir għax dawn jieħdu deċiżjonijiet f’sitwazzjonijiet kritiċi ħafna għall-ħajja u għas-saħħa tal-persuni u għall-proprjetà tagħhom.

(37a)

Minħabba r-rwol u r-responsabbiltà tal-pulizija u tal-awtoritajiet ġudizzjarji, u l-impatt tad-deċiżjonijiet li jieħdu għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta’ reati kriminali jew l-eżekuzzjoni ta’ pieni kriminali, xi każijiet ta’ użu speċifiċi ta’ applikazzjonijiet tal-AI fl-infurzar tal-liġi jridu jiġu kklassifikati li għandhom riskju kbir, b’mod partikolari f’każijiet fejn hemm il-potenzjal li jaffettwaw b’mod sinifikanti l-ħajjiet jew id-drittijiet fundamentali tal-individwi.

(38)

L-azzjonijiet tal-awtoritajiet tal-infurzar tal-liġi li jinvolvu ċerti użi tas-sistemi tal-AI huma kkaratterizzati minn grad sinifikanti ta’ żbilanċ tal-poter u jistgħu jwasslu għal sorveljanza, għal arrest jew għal ċaħda tal-libertà ta’ persuna fiżika u għal impatti negattivi oħra fuq id-drittijiet fundamentali mħarsa mill-Karta. B’mod partikolari, jekk is-sistema tal-AI ma tkunx imħarrġa b’data ta’ kwalità għolja, ma tkunx tissodisfa rekwiżiti adegwati mil-lat ta’ eżattezza jew robustezza tagħha, jew ma tkunx imfassla u ttestjata kif xieraq qabel ma titqiegħed fis-suq jew titqiegħed fis-servizz b’xi mod ieħor, din tista’ tindividwa persuni b’mod diskriminatorju jew b’mod skorrett jew inġust. Barra minn hekk, l-eżerċitar ta’ drittijiet fundamentali proċedurali importanti, bħad-dritt għal rimedju effettiv u għal proċess ġust kif ukoll id-dritt għal difiża u l-preżunzjoni tal-innoċenza, jista’ jitfixkel, b’mod partikolari, meta dawn is-sistemi tal-AI ma jkunux trasparenti, spjegabbli u dokumentati biżżejjed. Għalhekk, dawn is-sistemi tal-AI maħsubin biex jintużaw fil-kuntest tal-infurzar tal-liġi jixraq jiġu kklassifikati li għandhom riskju kbir, meta l-eżattezza, l-affidabbiltà u t-trasparenza jkunu partikolarment importanti biex jiġu evitati impatti negattivi, tinżamm il-fiduċja pubblika u jiġu żgurati l-akkontabbiltà u rimedju effettiv. Fid-dawl tan-natura tal-attivitajiet inkwistjoni u tar-riskji relatati magħhom, jenħtieġ li dawk is-sistemi tal-AI b’riskju kbir jinkludu b’mod partikolari s-sistemi tal-AI maħsubin biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi għal valutazzjonijiet tar-riskju individwali, għal poligrafi u għal għodod simili jew biex jiġi identifikat l-istat emozzjonali ta’ persuna fiżika , biex jiġu identifikati “deep fakes”, għall-evalwazzjoni tal-affidabbiltà tal-provi fi proċedimenti kriminali , għal previżjoni ta’ okkorrenza jew riokkorrenza ta’ reat kriminali attwali jew potenzjali abbażi ta’ profilar ta’ persuni fiżiċi , jew għall-valutazzjoni tal-aspetti u tal-karatteristiċi tal-personalità jew tal-imġiba kriminali fil-passat ta’ persuni fiżiċi jew ta’ gruppi , għall-profilar waqt is-sejbien, l-investigazzjoni jew il-prosekuzzjoni ta’ reati kriminali, kif ukoll għall-analitika tal-kriminalità fir-rigward ta’ persuni fiżiċi. Jenħtieġ li s-sistemi tal-AI maħsubin speċifikament biex jintużaw għal proċedimenti amministrattivi mill-awtoritajiet tat-taxxa u tad-dwana ma jitqisux bħala sistemi tal-AI b’riskju kbir użati mill-awtoritajiet tal-infurzar tal-liġi għall-finijiet ta’ prevenzjoni, ta’ sejbien, ta’ investigazzjoni u ta’ prosekuzzjoni ta’ reati kriminali.

(38)

L-azzjonijiet tal-awtoritajiet tal-infurzar tal-liġi li jinvolvu ċerti użi tas-sistemi tal-AI huma kkaratterizzati minn grad sinifikanti ta’ żbilanċ tal-poter u jistgħu jwasslu għal sorveljanza, għal arrest jew għal ċaħda tal-libertà ta’ persuna fiżika u għal impatti negattivi oħra fuq id-drittijiet fundamentali mħarsa mill-Karta. B’mod partikolari, jekk is-sistema tal-AI ma tkunx imħarrġa b’data ta’ kwalità għolja, ma tkunx tissodisfa rekwiżiti adegwati mil-lat tal-prestazzjoni tagħha, ta’ eżattezza jew robustezza tagħha, jew ma tkunx iddisinjata u ttestjata kif xieraq qabel ma titqiegħed fis-suq jew titqiegħed fis-servizz b’xi mod ieħor, din tista’ tindividwa persuni b’mod diskriminatorju jew b’mod skorrett jew inġust. Barra minn hekk, l-eżerċitar ta’ drittijiet fundamentali proċedurali importanti, bħad-dritt għal rimedju effettiv u għal proċess ġust kif ukoll id-dritt għal difiża u l-preżunzjoni tal-innoċenza, jista’ jitfixkel, b’mod partikolari, meta dawn is-sistemi tal-AI ma jkunux trasparenti, spjegabbli u dokumentati biżżejjed. Għalhekk, dawn is-sistemi tal-AI maħsuba biex jintużaw fil-kuntest tal-infurzar tal-liġi jixraq jiġu kklassifikati li għandhom riskju kbir, meta l-eżattezza, l-affidabbiltà u t-trasparenza jkunu partikolarment importanti biex jiġu evitati impatti negattivi, tinżamm il-fiduċja pubblika u jiġu żgurati l-akkontabbiltà u rimedju effettiv. Fid-dawl tan-natura tal-attivitajiet inkwistjoni u tar-riskji relatati magħhom, jenħtieġ li dawk is-sistemi tal-AI b’riskju kbir jinkludu b’mod partikolari s-sistemi tal-AI maħsuba biex jintużaw mill-awtoritajiet tal-infurzar tal-liġi jew f’isimhom jew minn aġenziji , uffiċċji jew korpi tal-Unjoni b’appoġġ għall-awtoritajiet tal-infurzar tal-liġi , bħala poligrafi u għodod simili sakemm l-użu tagħhom ikun permess skont id-dritt rilevanti tal-Unjoni u dak nazzjonali , għall-evalwazzjoni tal-affidabbiltà tal-provi fi proċedimenti kriminali, għat-tfassil tal-profil waqt is-sejbien, l-investigazzjoni jew il-prosekuzzjoni ta’ reati kriminali, kif ukoll għall-analitika tal-kriminalità fir-rigward ta’ persuni fiżiċi. Jenħtieġ li s-sistemi tal-AI maħsubin speċifikament biex jintużaw għal proċedimenti amministrattivi mill-awtoritajiet tat-taxxa u tad-dwana ma jiġux ikklassifikati bħala sistemi tal-AI li għandhom riskju kbir użati mill-awtoritajiet tal-infurzar tal-liġi għall-finijiet ta’ prevenzjoni, ta’ sejbien, ta’ investigazzjoni u ta’ prosekuzzjoni ta’ reati kriminali. Jenħtieġ li l-użu tal-għodod tal-AI mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji ma jsirx fattur ta’ inugwaljanza, ksur soċjali jew esklużjoni. Jenħtieġ li l-impatt tal-użu tal-għodod tal-AI fuq id-drittijiet tad-difiża tal-persuni suspettati ma jiġix injorat, b’mod partikolari d-diffikultà biex tinkiseb informazzjoni sinifikattiva dwar il-funzjonament tagħhom u d-diffikultà konsegwenti biex jiġu kkontestati r-riżultati tagħhom fil-qorti, b’mod partikolari minn individwi li qed jiġu investigati.

(39)

Is-sistemi tal-AI użati fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll tal-fruntieri jaffettwaw lil persuni li spiss ikunu f’pożizzjoni partikolarment vulnerabbli u li jiddependu fuq l-eżitu tal-azzjonijiet tal-awtoritajiet pubbliċi kompetenti. Għalhekk, l-eżattezza, in-natura nondiskriminatorja u t-trasparenza tas-sistemi tal-AI użati f’dawk il-kuntesti huma partikolarment importanti biex ikun żgurat ir-rispett tad-drittijiet fundamentali tal-persuni affettwati, b’mod partikolari d-drittijiet tagħhom ta’ moviment liberu, ta’ nondiskriminazzjoni, ta’ protezzjoni tal-ħajja privata u ta’ data personali, ta’ protezzjoni internazzjonali u ta’ amministrazzjoni tajba. Għalhekk jixraq jiġu kklassifikati li għandhom riskju kbir, dawk is-sistemi maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti inkarigati b’kompiti fl-oqsma tal-migrazzjoni, tal-ażil u tal-ġestjoni tal-kontroll fil-fruntieri bħal poligrafi u għodod simili jew biex jidentifikaw l-istat emozzjonali ta’ persuna fiżika; għall-valutazzjoni ta’ ċerti riskji ppreżentati minn persuni fiżiċi li jidħlu fit-territorju ta’ Stat Membru jew li japplikaw għal viża jew għal ażil; għall-verifika tal-awtentiċità tad-dokumenti rilevanti ta’ persuni fiżiċi; għall-assistenza lill-awtoritajiet pubbliċi kompetenti għall-eżaminar tal-applikazzjonijiet għal ażil, għal viża u għal permessi ta’ residenza u tal-ilmenti assoċjati fir-rigward tal-objettiv li tiġi stabbilita l-eliġibbiltà ta’ persuni fiżiċi li japplikaw għal status. Jenħtieġ li s-sistemi tal-AI fil-qasam tal-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri koperti b’dan ir-Regolament ikunu konformi mar-rekwiżiti proċedurali rilevanti stabbiliti mid-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill (49), mir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill (50) u minn leġiżlazzjoni rilevanti oħra.

(39)

Is-sistemi tal-AI użati fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll tal-fruntieri jaffettwaw lil persuni li spiss ikunu f’pożizzjoni partikolarment vulnerabbli u li jiddependu mill-eżitu tal-azzjonijiet tal-awtoritajiet pubbliċi kompetenti. Għalhekk, l-eżattezza, in-natura nondiskriminatorja u t-trasparenza tas-sistemi tal-AI użati f’dawk il-kuntesti huma partikolarment importanti biex ikun żgurat ir-rispett tad-drittijiet fundamentali tal-persuni affettwati, b’mod partikolari d-drittijiet tagħhom ta’ moviment liberu, ta’ nondiskriminazzjoni, ta’ protezzjoni tal-ħajja privata u ta’ data personali, ta’ protezzjoni internazzjonali u ta’ amministrazzjoni tajba. Għalhekk jixraq jiġu kklassifikati li għandhom riskju kbir, dawk is-sistemi maħsuba biex jintużaw mill-awtoritajiet pubbliċi kompetenti jew f’isimhom jew mill-aġenziji, l-uffiċċji jew il-korpi tal-Unjoni inkarigati b’kompiti fl-oqsma tal-migrazzjoni, tal-ażil u tal-ġestjoni tal-kontroll fil-fruntieri bħal poligrafi u għodod simili sakemm l-użu tagħhom ikun permess skont id-dritt rilevanti tal-Unjoni u dak nazzjonali, għall-valutazzjoni ta’ ċerti riskji ppreżentati minn persuni fiżiċi li jidħlu fit-territorju ta’ Stat Membru jew li japplikaw għal viża jew għal ażil; għall-verifika tal-awtentiċità tad-dokumenti rilevanti ta’ persuni fiżiċi; għall-assistenza lill-awtoritajiet pubbliċi kompetenti għall-eżaminar u l-valutazzjoni tal-veraċità tal-evidenza fir-rigward tal-applikazzjonijiet għal ażil, għal viża u għal permessi ta’ residenza u tal-ilmenti assoċjati fir-rigward tal-objettiv li tiġi stabbilita l-eliġibbiltà ta’ persuni fiżiċi li japplikaw għal status ; għall-monitoraġġ, is-sorveljanza jew l-ipproċessar ta’ data personali fil-kuntest ta’ attivitajiet ta’ ġestjoni tal-fruntieri, għall-fini tad-detezzjoni, ir-rikonoxximent jew l-identifikazzjoni ta’ persuni fiżiċi; għat-tbassir jew il-previżjoni tax-xejriet relatati mal-movimenti migratorji u l-qsim tal-fruntieri . Jenħtieġ li s-sistemi tal-AI fil-qasam tal-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll fil-fruntieri koperti b’dan ir-Regolament ikunu konformi mar-rekwiżiti proċedurali rilevanti stabbiliti mid-Direttiva 2013/32/UE tal-Parlament Ewropew u tal-Kunsill (49), mir-Regolament (KE) Nru 810/2009 tal-Parlament Ewropew u tal-Kunsill (50) u minn leġiżlazzjoni rilevanti oħra. Jenħtieġ li s-sistemi tal-AI fil-ġestjoni tal-migrazzjoni, tal-ażil u tal-kontroll tal-fruntieri fl-ebda ċirkostanza ma jintużaw mill-Istati Membri jew mill-istituzzjonijiet, mill-aġenziji jew mill-korpi tal-Unjoni bħala mezz biex jiġu evitati l-obbligi internazzjonali tagħhom skont il-Konvenzjoni tat-28 ta’ Lulju 1951 dwar l-Istatus tar-Rifuġjati kif emendata mill-Protokoll tal-31 ta’ Jannar 1967, u jenħtieġ li lanqas ma jintużaw b’xi mod biex jiksru l-prinċipju ta’ non-refoulement, jew jiċħdu perkorsi legali sikuri u effettivi fit-territorju tal-Unjoni, inkluż id-dritt għall-protezzjoni internazzjonali.

(40)

Jenħtieġ li ċerti sistemi tal-AI maħsubin għall-amministrazzjoni tal-ġustizzja u għall-proċessi demokratiċi jiġu kklassifikati li għandhom riskju kbir, meta jitqies l-impatt potenzjalment sinifikanti tagħhom fuq id-demokrazija, fuq l-istat tad-dritt, fuq il-libertajiet individwali u fuq id-dritt għal rimedju effettiv u għal proċess imparzjali. B’mod partikolari, biex jiġu indirizzati r-riskji ta’ preġudizzji, ta’ erruri u ta’ opaċità potenzjali, jixraq li s-sistemi maħsubin biex jgħinu lill-awtoritajiet ġudizzjarji fir-riċerka u fl-interpretazzjoni tal-fatti u tal-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta’ fatti, jikkwalifikaw bħala sistemi tal-AI b’riskju kbir . Madankollu, jenħtieġ li din il-kwalifika ma testendix għal sistemi tal-AI maħsuba għal attivitajiet amministrattivi purament anċillari li ma jaffettwawx l-amministrazzjoni attwali tal-ġustizzja f’każijiet individwali, bħall-anonimizzazzjoni jew il-psewdonimizzazzjoni ta’ deċiżjonijiet ġudizzjarji, ta’ dokumenti jew ta’ data, il-komunikazzjoni bejn il-persunal, il-kompiti amministrattivi jew l-allokazzjoni ta’ riżorsi.

(40)

Jenħtieġ li ċerti sistemi tal-AI maħsuba għall-amministrazzjoni tal-ġustizzja u għall-proċessi demokratiċi jiġu kklassifikati li għandhom riskju kbir, meta jitqies l-impatt potenzjalment sinifikanti tagħhom fuq id-demokrazija, fuq l-istat tad-dritt, fuq il-libertajiet individwali u fuq id-dritt għal rimedju effettiv u għal proċess imparzjali. B’mod partikolari, biex jiġu indirizzati r-riskji ta’ preġudizzji, ta’ erruri u ta’ opaċità potenzjali, jixraq li s-sistemi maħsuba biex jintużaw minn awtorità ġudizzjarja jew korp amministrattiv jew f’isimhom biex jassistu lill-awtoritajiet ġudizzjarji jew lill-korpi amministrattivi fir-riċerka u fl-interpretazzjoni tal-fatti u tal-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta’ fatti jew jintużaw b’mod simili fis-soluzzjoni alternattiva tat-tilwim. L-użu ta’ għodod tal-intelliġenza artifiċjali jista’ jappoġġa , iżda jenħtieġ li ma jissostitwixxix is-setgħa tat-teħid ta’ deċiżjonijiet tal-imħallfin jew l-indipendenza ġudizzjarja, peress li t-teħid finali ta’ deċiżjonijiet irid jibqa’ attività u deċiżjoni mmexxija mill-bniedem . Madankollu, jenħtieġ li din il-kwalifika ma testendix għal sistemi tal-AI maħsuba għal attivitajiet amministrattivi purament anċillari li ma jaffettwawx l-amministrazzjoni attwali tal-ġustizzja f’każijiet individwali, bħall-anonimizzazzjoni jew il-psewdonimizzazzjoni ta’ deċiżjonijiet ġudizzjarji, ta’ dokumenti jew ta’ data, il-komunikazzjoni bejn il-persunal, il-kompiti amministrattivi jew l-allokazzjoni ta’ riżorsi.

(40a)

Sabiex jiġu indirizzati r-riskji ta’ interferenza esterna mhux dovuta fid-dritt tal-vot minqux fl-Artikolu 39 tal-Karta, u ta’ effetti sproporzjonati fuq il-proċessi demokratiċi, id-demokrazija, u l-istat tad-dritt, is-sistemi tal-AI maħsuba biex jintużaw bil-għan li jinfluwenzaw l-eżitu ta’ elezzjoni jew referendum jew l-imġiba tal-votazzjoni ta’ persuni fiżiċi fl-eżerċizzju tal-vot tagħhom fl-elezzjonijiet jew fir-referenda jenħtieġ li jiġu kklassifikati bħala sistemi tal-AI b’riskju kbir bl-eċċezzjoni ta’ sistemi tal-AI li l-output tagħhom ma jkunx espost għal persuni fiżiċi, bħal għodod użati għall-organizzazzjoni, l-ottimizzazzjoni u l-istruttura ta’ kampanji politiċi minn perspettiva amministrattiva u loġistika.

(40b)

Meta titqies l-iskala ta’ persuni fiżiċi li jużaw is-servizzi pprovduti minn pjattaformi tal-midja soċjali ddeżinjati bħala pjattaformi online kbar ħafna, tali pjattaformi online jistgħu jintużaw b’mod li jinfluwenza b’mod qawwi s-sikurezza online, it-tiswir tal-opinjoni u d-diskors pubbliku, il-proċessi elettorali u demokratiċi u t-tħassib tas-soċjetà. Għalhekk huwa xieraq li s-sistemi tal-AI użati minn dawk il-pjattaformi online fis-sistemi ta’ rakkomandazzjoni tagħhom ikunu soġġetti għal dan ir-Regolament biex jiġi żgurat li s-sistemi tal-AI jikkonformaw mar-rekwiżiti stabbiliti skont dan ir-Regolament, inklużi r-rekwiżiti tekniċi dwar il-governanza tad-data, id-dokumentazzjoni teknika u t-traċċabbiltà, it-trasparenza, is-sorveljanza tal-bniedem, l-eżattezza u r-robustezza. Il-konformità ma’ dan ir-Regolament jenħtieġ li tippermetti lil tali pjattaformi online kbar ħafna jikkonformaw mal-obbligi usa’ tagħhom ta’ valutazzjoni tar-riskju u ta’ mitigazzjoni tar-riskju fl-Artikolu 34 u 35 tar-Regolament UE 2022/2065. L-obbligi f’dan ir-Regolament huma mingħajr preġudizzju għar-Regolament (UE) 2022/2065 u jenħtieġ li jikkomplementaw l-obbligi meħtieġa skont ir-Regolament (UE) 2022/2065 meta l-pjattaforma tal-midja soċjali tkun ġiet iddeżinjata bħala pjattaforma online kbira ħafna. Minħabba l-impatt mifrux mal-Ewropa kollha tal-pjattaformi tal-midja soċjali ddeżinjati bħala pjattaformi online kbar ħafna, l-awtoritajiet iddeżinjati skont ir-Regolament (UE) 2022/2065 jenħtieġ li jaġixxu bħala awtoritajiet tal-infurzar għall-finijiet tal-infurzar ta’ din id-dispożizzjoni.

(41)

Jenħtieġ li l-fatt li sistema tal-AI tiġi kklassifikata li għandha riskju kbir skont dan ir-Regolament ma jiġix interpretat bħala indikatur li l-użu tas-sistema jkun legali biss skont atti oħra tal-liġi tal-Unjoni jew skont il-liġi nazzjonali kompatibbli mal-liġi tal-Unjoni, bħal dwar il-protezzjoni tad-data personali , dwar l-użu tal-poligrafi u ta’ għodod simili jew ta’ sistemi oħra biex jiġi identifikat l-istat emozzjonali ta’ persuni fiżiċi . Jenħtieġ li kull użu bħal dan ikompli għaddej biss meta jikkonforma mar-rekwiżiti applikabbli li jirriżultaw mill-Karta u mill-atti applikabbli tal-liġi sekondarja tal-Unjoni u tal-liġi nazzjonali. Jenħtieġ li dan ir-Regolament ma jinftehemx li jipprovdi l-bażi legali għall-ipproċessar tad-data personali, inkluż kategoriji speċjali ta’ data personali, meta rilevanti.

(41)

Jenħtieġ li l-fatt li sistema tal-AI tiġi kklassifikata bħala sistema tal-AI li għandha riskju kbir skont dan ir-Regolament ma jiġix interpretat bħala indikatur li l-użu tas-sistema jkun legali jew illegali biss skont atti oħra tad-dritt tal-Unjoni jew skont il-liġi nazzjonali kompatibbli mad-dritt tal-Unjoni, bħal dwar il-protezzjoni tad-data personali. Jenħtieġ li kull użu bħal dan ikompli għaddej biss meta jikkonforma mar-rekwiżiti applikabbli li jirriżultaw mill-Karta u mill-atti applikabbli tad-dritt sekondarju tal-Unjoni u tal-liġi nazzjonali.

(41a)

Għadd ta’ regoli legalment vinkolanti fil-livell Ewropew, nazzjonali u internazzjonali diġà japplikaw jew huma rilevanti għas-sistemi tal-AI illum, inkluż iżda mhux limitat għal-liġi primarja tal-UE (it-Trattati tal-Unjoni Ewropea u l-Karta tad-Drittijiet Fundamentali tagħha), id-dritt sekondarju tal-UE (bħar-Regolament Ġenerali dwar il-Protezzjoni tad-Data, id-Direttiva dwar ir-Responsabbiltà għall-Prodotti, ir-Regolament dwar il-Moviment Liberu ta’ Data Mhux Personali, id-Direttivi kontra d-diskriminazzjoni, id-Direttivi dwar il-Liġi tal-Konsumatur u s-Saħħa u s-Sikurezza fuq il-Post tax-Xogħol), it-trattati tan-NU dwar id-Drittijiet tal-Bniedem u l-konvenzjonijiet tal-Kunsill tal-Ewropa (bħall-Konvenzjoni Ewropea dwar id-Drittijiet tal-Bniedem), u l-liġi nazzjonali. Minbarra r-regoli applikabbli orizzontalment, jeżistu diversi regoli speċifiċi għad-dominji li japplikaw għal applikazzjonijiet partikolari tal-AI (bħal pereżempju r-Regolament dwar Apparati Mediċi fis-settur tal-kura tas-saħħa).

(42)

Biex jittaffew ir-riskji tas-sistemi tal-AI b’riskju kbir imqiegħda fis-suq tal-Unjoni jew imqiegħda fis-servizz b’xi mod ieħor għall-utenti u l-persuni affettwati, jenħtieġ ikunu japplikaw ċerti rekwiżiti obbligatorji, filwaqt li jitqies l-għan maħsub tal-użu tas-sistema u skont is-sistema ta’ ġestjoni tar-riskju li jrid jistabbilixxi l-fornitur.

(42)

Biex jittaffew ir-riskji tas-sistemi tal-AI b’riskju kbir imqiegħda fis-suq tal-Unjoni jew imqiegħda fis-servizz b’xi mod ieħor għall-amministraturi u l-persuni affettwati, jenħtieġ li jkunu japplikaw ċerti rekwiżiti obbligatorji, filwaqt li jitqies l-għan maħsub , l-użu ħażin raġonevolment prevedibbli tas-sistema u skont is-sistema ta’ ġestjoni tar-riskju li jrid jistabbilixxi l-fornitur. Dawn ir-rekwiżiti jenħtieġ li jkunu xprunati mill-objettiv, adatti għall-għan, raġonevoli u effettivi, mingħajr ma jżidu piżijiet jew kostijiet regolatorji żejda fuq l-operaturi.

(43)

Jenħtieġ li r-rekwiżiti applikabbli għas-sistemi tal-AI b’riskju kbir fir-rigward tal-kwalità tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-utenti , is-sorveljanza umana , u r-robustezza, l-eżattezza u ċ-ċibersigurtà. Dawk ir-rekwiżiti huma meħtieġa biex itaffu b’mod effettiv ir-riskji għas-saħħa u s-sikurezza u għad-drittijiet fundamentali, kif applikabbli fid-dawl tal-għan maħsub tas-sistema, u l-ebda miżura oħra anqas restrittiva għall-kummerċ ma tkun raġonevolment disponibbli, u b’hekk jiġu evitati restrizzjonijiet mhux ġustifikati għall-kummerċ.

(43)

Jenħtieġ li r-rekwiżiti applikabbli għas-sistemi tal-AI b’riskju kbir fir-rigward tal-kwalità u r-rilevanza tas-settijiet tad-data użati, id-dokumentazzjoni teknika u ż-żamma tar-rekords, it-trasparenza u l-għoti tal-informazzjoni lill-amministraturi , is-sorveljanza tal-bniedem , u r-robustezza, l-eżattezza u ċ-ċibersigurtà. Dawk ir-rekwiżiti huma meħtieġa biex itaffu b’mod effettiv ir-riskji għas-saħħa u s-sikurezza u għad-drittijiet fundamentali, kif ukoll għall-ambjent, id-demokrazija u l-istat tad-dritt, kif applikabbli fid-dawl tal-għan maħsub jew l-użu ħażin raġonevolment prevedibbli tas-sistema, u l-ebda miżura oħra anqas restrittiva għall-kummerċ ma tkun raġonevolment disponibbli, u b’hekk jiġu evitati restrizzjonijiet mhux ġustifikati għall-kummerċ.

(44)

Il-kwalità għolja tad-data hi essenzjali għall-prestazzjoni ta’ ħafna sistemi tal-AI, speċjalment meta jintużaw tekniki li jinvolvu t-taħriġ tal-mudelli, biex ikun żgurat li s-sistema tal-AI b’riskju kbir taħdem kif suppost u b’mod sikur u ma ssirx is-sors ta’ diskriminazzjoni pprojbita mil-liġi tal-Unjoni. Settijiet tad-data għal taħriġ, validazzjoni u ttestjar ta’ kwalità għolja jeħtieġu l-implimentazzjoni ta’ prattiki xierqa ta’ governanza u ġestjoni tad-data. Jenħtieġ li s-settijiet tad-data għal taħriġ, validazzjoni u ttestjar ikunu rilevanti biżżejjed, rappreżentattivi u mingħajr erruri u kompluti fid-dawl tal-għan maħsub tas-sistema. Jenħtieġ li jkollhom ukoll il-proprjetajiet statistiċi xierqa, inkluż fir-rigward tal-persuni jew tal-gruppi ta’ persuni li fuqhom tkun maħsuba li tintuża s-sistema tal-AI b’riskju kbir. B’mod partikolari, jenħtieġ li s-settijiet tad-data għal taħriġ, validazzjoni u ttestjar ikunu jqisu, sa fejn ikun meħtieġ fid-dawl tal-għan maħsub tagħhom, il-karatteristiċi jew l-elementi partikolari għall-ambjent jew għall-kuntest ġeografiku, komportamentali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-AI. Biex jitħares id-dritt ta’ ħaddieħor minn diskriminazzjoni li tista’ tirriżulta mill-preġudizzju fis-sistemi tal-AI, jenħtieġ li l-fornituri jkunu jistgħu jipproċessaw ukoll kategoriji speċjali ta’ data personali, bħala kwistjoni ta’ interess pubbliku sostanzjali, biex ikunu żgurati l-monitoraġġ, id-detezzjoni u l-korrezzjoni tal-preġudizzji fir-rigward tas-sistemi tal-AI b’riskju kbir.

(44)

L-aċċess għal data ta’ kwalità għolja għandu rwol vitali fil-provvista tal-istruttura u fl-iżgurar tal-prestazzjoni ta’ ħafna sistemi tal-AI, speċjalment meta jintużaw tekniki li jinvolvu t-taħriġ tal-mudelli, biex ikun żgurat li s-sistema tal-AI b’riskju kbir taħdem kif suppost u b’mod sikur u ma ssirx sors ta’ diskriminazzjoni pprojbita mid-dritt tal-Unjoni. Settijiet tad-data għal taħriġ, validazzjoni u ttestjar ta’ kwalità għolja jeħtieġu l-implimentazzjoni ta’ prattiki xierqa ta’ governanza u ġestjoni tad-data. Is-settijiet tad-data għal taħriġ, u meta applikabbli, għal validazzjoni u ttestjar , inklużi t-tikketti, jenħtieġ li jkunu rilevanti biżżejjed, rappreżentattivi , eżaminati b’mod xieraq għall-iżbalji u kompluti kemm jista’ jkun fid-dawl tal-għan maħsub tas-sistema. Jenħtieġ li jkollhom ukoll il-proprjetajiet statistiċi xierqa, inkluż fir-rigward tal-persuni jew tal-gruppi ta’ persuni li fir-rigward tagħhom tkun maħsuba li tintuża s-sistema tal-AI b’riskju kbir , b’attenzjoni speċifika għall-mitigazzjoni ta’ preġudizzji possibbli fis-settijiet tad-data, li jistgħu jwasslu għal riskji għad-drittijiet fundamentali jew eżiti diskriminatorji għall-persuni affettwati mis-sistema tal-AI b’riskju kbir . Il-preġudizzji jistgħu pereżempju jkunu inerenti fis-settijiet tad-data sottostanti, speċjalment meta tkun qed tintuża data storika, introdotta mill-iżviluppaturi tal-algoritmi, jew iġġenerata meta s-sistemi jiġu implimentati f’ambjenti reali; Ir-riżultati pprovduti mis-sistemi tal-AI huma influwenzati minn tali preġudizzji inerenti li huma inklinati li jiżdiedu gradwalment u b’hekk ikomplu jippermettu u jamplifikaw id-diskriminazzjoni eżistenti, b’mod partikolari għall-persuni li jappartjenu għal ċerti gruppi vulnerabbli jew etniċi jew komunitajiet razzjalizzati; B’mod partikolari, jenħtieġ li s-settijiet tad-data għal taħriġ, validazzjoni u ttestjar ikunu jqisu, sa fejn ikun meħtieġ fid-dawl tal-għan maħsub tagħhom, il-karatteristiċi jew l-elementi partikolari għall-ambjent jew għall-kuntest ġeografiku, kuntestwali, komportamentali jew funzjonali speċifiku li fih tkun maħsuba li tintuża s-sistema tal-AI. Biex jitħares id-dritt ta’ ħaddieħor minn diskriminazzjoni li tista’ tirriżulta mill-preġudizzju fis-sistemi tal-AI, jenħtieġ li l-fornituri , eċċezzjonalment u wara l-applikazzjoni tal-kundizzjonijiet applikabbli kollha stabbiliti skont dan ir-Regolament u fir-Regolament (UE) 2016/679, id-Direttiva (UE) 2016/680 u r-Regolament (UE) 2018/1725, ikunu jistgħu jipproċessaw ukoll kategoriji speċjali ta’ data personali, bħala kwistjoni ta’ interess pubbliku sostanzjali, biex ikunu żgurati d-detezzjoni u l-korrezzjoni tal-preġudizzju negattiv fir-rigward tas-sistemi tal-AI b’riskju kbir. Il-preġudizzju negattiv jenħtieġ li jinftiehem bħala preġudizzju li joħloq effett diskriminatorju dirett jew indirett kontra persuna fiżika. Ir-rekwiżiti relatati mal-governanza tad-data jistgħu jiġu rrispettati billi jsir rikors għal partijiet terzi li joffru servizzi ta’ konformità ċċertifikati inkluża l-verifika tal-governanza tad-data, l-integrità tas-sett tad-data, u t-taħriġ tad-data, il-validazzjoni u l-prattiki tal-ittestjar.

(45)

Għall-iżvilupp ta’ sistemi tal-AI b’riskju kbir, jenħtieġ li ċerti atturi, bħal fornituri, korpi notifikati u entitajiet rilevanti oħra, bħaċ-ċentri tal-innovazzjoni diġitali, il-faċilitajiet tal-esperimentazzjoni u ttestjar, u r-riċerkaturi, ikunu jistgħu jaċċessaw u jużaw settijiet tad-data ta’ kwalità għolja fl-oqsma tal-attivitajiet rispettivi tagħhom relatati ma’ dan ir-Regolament. L-ispazji komuni Ewropej tad-data stabbiliti mill-Kummissjoni u l-faċilitazzjoni tal-kondiviżjoni tad-data bejn in-negozji u mal-gvern fl-interess pubbliku se jkunu strumentali biex jipprovdu aċċess affidabbli, responsabbli u nondiskriminatorju għal data ta’ kwalità għolja għal taħriġ, validazzjoni u ttestjar tas-sistemi tal-AI. Pereżempju, fil-qasam tas-saħħa, l-ispazju Ewropew tad-data dwar is-saħħa se jiffaċilita aċċess nondiskriminatorju għal data dwar is-saħħa u t-taħriġ ta’ algoritmi tal-intelliġenza artifiċjali abbażi ta’ dawk is-settijiet tad-data, b’mod li jiżgura l-privatezza, sigur, fil-ħin, trasparenti u affidabbli, u b’governanza istituzzjonali xierqa. L-awtoritajiet kompetenti rilevanti, inkluż dawk settorjali, li jipprovdu jew jappoġġaw l-aċċess għad-data, jistgħu jappoġġaw ukoll il-forniment tad-data ta’ kwalità għolja għal taħriġ, validazzjoni u ttestjar tas-sistemi tal-AI.

(45)

Għall-iżvilupp u l-valutazzjoni ta’ sistemi tal-AI b’riskju kbir, jenħtieġ li ċerti atturi, bħal fornituri, korpi notifikati u entitajiet rilevanti oħra, bħaċ-ċentri tal-innovazzjoni diġitali, il-faċilitajiet tal-esperimentazzjoni u ttestjar, u r-riċerkaturi, ikunu jistgħu jaċċessaw u jużaw settijiet tad-data ta’ kwalità għolja fl-oqsma tal-attivitajiet rispettivi tagħhom relatati ma’ dan ir-Regolament. L-ispazji komuni Ewropej tad-data stabbiliti mill-Kummissjoni u l-faċilitazzjoni tal-kondiviżjoni tad-data bejn in-negozji u mal-gvern fl-interess pubbliku se jkunu strumentali biex jipprovdu aċċess affidabbli, responsabbli u nondiskriminatorju għal data ta’ kwalità għolja għal taħriġ, validazzjoni u ttestjar tas-sistemi tal-AI. Pereżempju, fil-qasam tas-saħħa, l-ispazju Ewropew tad-data dwar is-saħħa se jiffaċilita aċċess nondiskriminatorju għal data dwar is-saħħa u t-taħriġ ta’ algoritmi tal-intelliġenza artifiċjali abbażi ta’ dawk is-settijiet tad-data, b’mod li jiżgura l-privatezza, sigur, fil-ħin, trasparenti u affidabbli, u b’governanza istituzzjonali xierqa. L-awtoritajiet kompetenti rilevanti, inkluż dawk settorjali, li jipprovdu jew jappoġġaw l-aċċess għad-data, jistgħu jappoġġaw ukoll il-forniment tad-data ta’ kwalità għolja għal taħriġ, validazzjoni u ttestjar tas-sistemi tal-AI.

(45a)

Id-dritt għall-privatezza u għall-protezzjoni tad-data personali jrid jiġi ggarantit tul iċ-ċiklu tal-ħajja kollu tas-sistema tal-AI. F’dan ir-rigward, il-prinċipji tal-minimizzazzjoni tad-data u l-protezzjoni tad-data mid-disinn u b’mod awtomatiku, kif stabbiliti fil-liġi tal-Unjoni dwar il-protezzjoni tad-data, huma essenzjali meta l-ipproċessar tad-data jinvolvi riskji sinifikanti għad-drittijiet fundamentali tal-individwi. Il-fornituri u l-utenti tas-sistemi tal-AI jenħtieġ li jimplimentaw miżuri tekniċi u organizzattivi tal-ogħla livell ta’ żvilupp tekniku sabiex jipproteġu dawk id-drittijiet. Tali miżuri jenħtieġ li jinkludu mhux biss l-anonimizzazzjoni u l-kriptaġġ, iżda wkoll l-użu ta’ teknoloġija li ssir dejjem aktar disponibbli li tippermetti li jiġu introdotti l-algoritmi fid-data u tippermetti li jiġi derivat għarfien siewi mingħajr it-trażmissjoni bejn il-partijiet jew l-ikkupjar mhux meħtieġ tad-data mhux ipproċessata jew strutturata nnifisha.

(46)

Hu essenzjali li jkun hemm informazzjoni dwar kif ġew żviluppati s-sistemi tal-AI b’riskju kbir u dwar il-prestazzjoni tagħhom tul iċ-ċiklu tal-ħajja tagħhom biex tiġi verifikata l-konformità mar-rekwiżiti skont dan ir-Regolament. Għal dan il-għan, hemm bżonn jinżammu rekords, u jkun hemm disponibbiltà ta’ dokumentazzjoni teknika bl-informazzjoni meħtieġa biex tiġi vvalutata l-konformità tas-sistema tal-AI mar-rekwiżiti rilevanti. Jenħtieġ li din l-informazzjoni tkun tinkludi l-karatteristiċi ġenerali, il-kapaċitajiet u l-limitazzjonijiet tas-sistema, tal-algoritmi, tad-data, tat-taħriġ, tal-ittestjar u tal-proċessi ta’ validazzjoni użati kif ukoll dokumentazzjoni dwar is-sistema rilevanti tal-ġestjoni tar-riskji. Jenħtieġ li d-dokumentazzjoni teknika tinżamm aġġornata.

(46)

Hu essenzjali li jkun hemm informazzjoni ċara dwar kif ġew żviluppati s-sistemi tal-AI b’riskju kbir u dwar il-prestazzjoni tagħhom tul il-ħajja tagħhom biex tiġi verifikata l-konformità mar-rekwiżiti skont dan ir-Regolament. Għal dan il-għan, hemm bżonn jinżammu rekords, u jkun hemm disponibbiltà ta’ dokumentazzjoni teknika bl-informazzjoni meħtieġa biex tiġi vvalutata l-konformità tas-sistema tal-AI mar-rekwiżiti rilevanti. Jenħtieġ li din l-informazzjoni tkun tinkludi l-karatteristiċi ġenerali, il-kapaċitajiet u l-limitazzjonijiet tas-sistema, tal-algoritmi, tad-data, tat-taħriġ, tal-ittestjar u tal-proċessi ta’ validazzjoni użati kif ukoll dokumentazzjoni dwar is-sistema rilevanti tal-ġestjoni tar-riskji. Jenħtieġ li d-dokumentazzjoni teknika tinżamm aġġornata b’mod xieraq matul iċ-ċiklu tal-ħajja tas-sistema tal-AI . Is-sistemi tal-AI jista’ jkollhom impatt ambjentali importanti kbir u konsum għoli tal-enerġija matul iċ-ċiklu tal-ħajja tagħhom. Biex jinftiehem aħjar l-impatt tas-sistemi tal-AI fuq l-ambjent, jenħtieġ li d-dokumentazzjoni teknika abbozzata mill-fornituri tinkludi informazzjoni dwar il-konsum tal-enerġija tas-sistema tal-AI, inkluż il-konsum matul l-iżvilupp u l-konsum mistenni waqt l-użu. Jenħtieġ li tali informazzjoni tqis il-leġiżlazzjoni rilevanti tal-Unjoni u dik nazzjonali. Din l-informazzjoni rrapportata jenħtieġ li tkun ċara, komparabbli u verifikabbli u għal dak il-għan, il-Kummissjoni jenħtieġ li tiżviluppa linji gwida dwar metolodoġija armonizzata għall-kalkolu u r-rapportar ta’ din l-informazzjoni. Biex jiġi żgurat li tkun possibbli dokumentazzjoni waħda, jenħtieġ li t-termini u d-definizzjonijiet relatati mad-dokumentazzjoni meħtieġa u kwalunkwe dokumentazzjoni meħtieġa fil-leġiżlazzjoni rilevanti tal-Unjoni jiġu allinjati kemm jista’ jkun.

(46a)

Jenħtieġ li s-sistemi tal-AI jqisu l-metodi tal-ogħla livell u l-istandards applikabbli rilevanti biex jitnaqqsu l-użu tal-enerġija, l-użu tar-riżorsi u l-iskart, kif ukoll biex tiżdied l-effiċjenza enerġetika tagħhom u l-effiċjenza ġenerali tas-sistema. L-aspetti ambjentali tas-sistemi tal-AI li huma sinifikanti għall-finijiet ta’ dan ir-Regolament huma l-konsum tal-enerġija tas-sistema tal-AI fil-fażi tal-iżvilupp, tat-taħriġ u tal-użu kif ukoll ir-reġistrazzjoni u r-rapportar u l-ħżin ta’ din id-data. Id-disinn tas-sistemi tal-AI jenħtieġ li jippermetti l-kejl u l-illoggjar tal-konsum tal-enerġija u tar-riżorsi f’kull stadju tal-iżvilupp, it-taħriġ u l-użu. Il-monitoraġġ u r-rapportar tal-emissjonijiet tas-sistemi tal-AI jridu jkunu robusti, trasparenti, konsistenti u preċiżi. Sabiex tiġi żgurata l-applikazzjoni uniformi ta’ dan ir-Regolament u ekosistema legali stabbli għall-fornituri u l-amministraturi fis-Suq Uniku, il-Kummissjoni jenħtieġ li tiżviluppa speċifikazzjoni komuni għall-metodoloġija biex tissodisfa r-rekwiżit ta’ rapportar u dokumentazzjoni dwar il-konsum tal-enerġija u r-riżorsi matul l-iżvilupp, it-taħriġ u l-użu. Tali speċifikazzjonijiet komuni dwar il-metodoloġija tal-kejl jistgħu jiżviluppaw linja bażi li fuqha l-Kummissjoni tista’ tiddeċiedi aħjar jekk humiex meħtieġa interventi regolatorji futuri, meta twettaq valutazzjoni tal-impatt li tqis il-liġi eżistenti.

(46b)

Sabiex jintlaħqu l-objettivi ta’ dan ir-Regolament, u jingħata kontribut għall-objettivi ambjentali tal-Unjoni filwaqt li jiġi żgurat il-funzjonament bla xkiel tas-suq intern, jista’ jkun meħtieġ li jiġu stabbiliti rakkomandazzjonijiet u linji gwida u, eventwalment, miri għas-sostenibbiltà. Għal dak il-għan, il-Kummissjoni hija intitolata tiżviluppa metodoloġija li tikkontribwixxi biex ikun hemm Indikaturi Ewlenin tal-Prestazzjoni (KPIs) u referenza għall-Għanijiet ta’ Żvilupp Sostenibbli (SDGs). L-għan jenħtieġ li jkun li jippermetti tqabbil ġust bejn l-għażliet ta’ implimentazzjoni tal-AI li jipprovdu inċentivi għall-promozzjoni tal-użu ta’ teknoloġiji tal-AI aktar effiċjenti li jindirizzaw it-tħassib dwar l-enerġija u r-riżorsi. Biex jintlaħaq dan l-objettiv, dan ir-Regolament jenħtieġ li jipprovdi l-mezzi biex jiġi stabbilit ġbir bażi ta’ data rrapportata dwar l-emissjonijiet mill-iżvilupp u t-taħriġ u għall-użu;

(47a)

Ir-rekwiżiti dwar it-trasparenza u dwar l-ispjegabbiltà tat-teħid ta’ deċiżjonijiet tal-AI jenħtieġ li jgħinu fil-ġlieda kontra l-effetti deterrenti tal-assimetrija diġitali u l-hekk imsejħa “elementi qarrieqa” mmirati lejn l-individwi u l-kunsens infurmat tagħhom.

(49)

Jenħtieġ li s-sistemi tal-AI b’riskju kbir jaħdmu b’mod konsistenti tul iċ-ċiklu tal-ħajja tagħhom u jissodisfaw livell xieraq ta’ eżattezza, robustezza u ċibersigurtà f’konformità mal-aħħar avvanzi rikonoxxuti b’mod ġenerali. Jenħtieġ li l-livell ta’ eżattezza u  l-metrika tal-eżattezza jiġu kkomunikati lill-utenti .

(49)

Jenħtieġ li s-sistemi tal-AI b’riskju kbir jaħdmu b’mod konsistenti tul iċ-ċiklu tal-ħajja tagħhom u jissodisfaw livell xieraq ta’ eżattezza, robustezza u ċibersigurtà f’konformità mal-ogħla livell ta’ żvilupp tekniku rikonoxxut b’mod ġenerali. Jenħtieġ li l-metriċi tal-prestazzjoni u l-livell mistenni tagħhom jiġu definiti bl-objettiv primarju li jtaffu r-riskji u l-impatt negattiv tas-sistema tal-AI. Jenħtieġ li l-livell mistenni ta’ metriċi tal-prestazzjoni jiġi kkomunikat lill-amministraturi b’mod ċar, trasparenti, li jinftiehem faċilment u  intelliġibbli. Id-dikjarazzjoni tal-metriċi tal-prestazzjoni ma tistax titqies bħala prova tal-livelli futuri, iżda jeħtieġ li jiġu applikati metodi rilevanti biex jiġu żgurati livelli konsistenti matul l-użu. Filwaqt li jeżistu organizzazzjonijiet tal-istandardizzazzjoni biex jistabbilixxu standards, hija meħtieġa koordinazzjoni dwar il-valutazzjoni komparattiva biex jiġi stabbilit kif jenħtieġ li jitkejlu dawn ir-rekwiżiti u l-karatteristiċi standardizzati tas-sistemi tal-AI. L-Uffiċċju Ewropew tal-Intelliġenza Artifiċjali jenħtieġ li jlaqqa’ flimkien l-awtoritajiet nazzjonali tal-metroloġija u tal-valutazzjoni komparattiva u jipprovdi gwida mhux vinkolanti biex jiġu indirizzati l-aspetti tekniċi ta’ kif jitkejlu l-livelli xierqa ta’ eżattezza u robustezza.

(50)

Ir-robustezza teknika hi rekwiżit ewlieni għas-sistemi tal-AI b’riskju kbir. Jenħtieġ ikunu reżiljenti kontra r-riskji konnessi mal-limitazzjonijiet tas-sistema (eż. erruri, ħsarat, inkonsistenzi, sitwazzjonijiet mhux mistennija) kif ukoll kontra azzjonijiet malizzjużi li jistgħu jikkompromettu s-sigurtà tas-sistema tal-AI u jikkawżaw imġiba dannuża jew mhux mixtieqa. In-nuqqas ta’ protezzjoni kontra dawn ir-riskji jista’ jwassal għal impatti fuq is-sikurezza jew jaffettwa ħażin id-drittijiet fundamentali, pereżempju minħabba deċiżjonijiet żbaljati jew outputs ħżiena jew preġudikati ġġenerati mis-sistema tal-AI.

(50)

Ir-robustezza teknika hi rekwiżit ewlieni għas-sistemi tal-AI b’riskju kbir. Jenħtieġ li jkunu reżiljenti kontra r-riskji konnessi mal-limitazzjonijiet tas-sistema (eż. erruri, ħsarat, inkonsistenzi, sitwazzjonijiet mhux mistennija) kif ukoll kontra azzjonijiet malizzjużi li jistgħu jikkompromettu s-sigurtà tas-sistema tal-AI u jikkawżaw imġiba dannuża jew mhux mixtieqa. In-nuqqas ta’ protezzjoni kontra dawn ir-riskji jista’ jwassal għal impatti fuq is-sikurezza jew jaffettwa ħażin id-drittijiet fundamentali, pereżempju minħabba deċiżjonijiet żbaljati jew outputs ħżiena jew preġudikati ġġenerati mis-sistema tal-AI. Jenħtieġ li l-utenti tas-sistema tal-AI jieħdu passi biex jiżguraw li l-kompromess possibbli bejn ir-robustezza u l-eżattezza ma jwassalx għal eżiti diskriminatorji jew negattivi għal sottogruppi minoritarji.

(51)

Iċ-ċibersigurtà taqdi rwol kruċjali biex ikunu żgurati sistemi tal-AI reżiljenti kontra tentattivi biex jinbidlu l-użu, l-imġiba jew il-prestazzjoni tal-proprjetajiet tas-sigurtà tagħhom jew li dawn il-proprjetajiet jiġu kompromessi minn partijiet terzi malizzjużi li jisfruttaw il-vulnerabbiltajiet tas-sistema. Iċ-ċiberattakki kontra s-sistemi tal-AI jistgħu jingranaw assi speċifiċi għall-AI, bħal settijiet tad-data għal taħriġ (eż. avvelenament tad-data) jew mudelli mħarrġin (eż. attakki avversarjali), jew jisfruttaw vulnerabbiltajiet fl-assi diġitali tas-sistema tal-AI jew fl-infrastruttura sottostanti tal-ICT. Għalhekk, biex ikun żgurat livell taċ-ċibersigurtà xieraq għar-riskji, il-fornituri tas-sistemi tal-AI b’riskju kbir jenħtieġ jieħdu l-miżuri xierqa filwaqt li jqisu wkoll kif xieraq l-infrastruttura sottostanti tal-ICT.

(51)

Iċ-ċibersigurtà taqdi rwol kruċjali biex ikunu żgurati sistemi tal-AI reżiljenti kontra tentattivi biex jinbidlu l-użu, l-imġiba jew il-prestazzjoni tal-proprjetajiet tas-sigurtà tagħhom jew li dawn il-proprjetajiet jiġu kompromessi minn partijiet terzi malizzjużi li jisfruttaw il-vulnerabbiltajiet tas-sistema. Iċ-ċiberattakki kontra s-sistemi tal-AI jistgħu jingranaw assi speċifiċi għall-AI, bħal settijiet tad-data għal taħriġ (eż. avvelenament tad-data) jew mudelli mħarrġin (eż. attakki avversarjali jew attakki ta’ kunfidenzjalità ), jew jisfruttaw vulnerabbiltajiet fl-assi diġitali tas-sistema tal-AI jew fl-infrastruttura sottostanti tal-ICT. Għalhekk, biex ikun żgurat livell taċ-ċibersigurtà xieraq għar-riskji, il-fornituri tas-sistemi tal-AI b’riskju kbir , kif ukoll il-korpi notifikati, l-awtoritajiet nazzjonali kompetenti u l-awtoritajiet tas-sorveljanza tas-suq, jenħtieġ li jieħdu l-miżuri xierqa filwaqt li jqisu wkoll kif xieraq l-infrastruttura sottostanti tal-ICT. L-AI b’riskju kbir jenħtieġ li tkun akkumpanjata minn soluzzjonijiet jew patches ta’ sikurezza għat-tul tal-ħajja tal-prodott, jew f’każ ta’ nuqqas ta’ dipendenza minn prodott speċifiku, għal żmien li jeħtieġ li jiġi ddikjarat mill-manifattur.

(53a)

Bħala firmatarji tal-Konvenzjoni tan-Nazzjonijiet Uniti dwar id-Drittijiet ta’ Persuni b’Diżabilità (UNCRPD), l-Unjoni u l-Istati Membri huma legalment obbligati li jipproteġu lill-persuni b’diżabilità mid-diskriminazzjoni u li jippromwovu l-ugwaljanza tagħhom, li jiżguraw li l-persuni b’diżabilità jkollhom aċċess, fuq bażi ugwali ma’ oħrajn, għat-teknoloġiji u s-sistemi tal-informazzjoni u tal-komunikazzjoni, u li jiżguraw ir-rispett għall-privatezza tal-persuni b’diżabilità. Minħabba l-importanza u l-użu dejjem akbar tas-sistemi tal-AI, l-applikazzjoni tal-prinċipji tad-disinn universali għat-teknoloġiji u s-servizzi l-ġodda kollha jenħtieġ li tiżgura aċċess sħiħ, ugwali u mingħajr restrizzjonijiet għal kulħadd li potenzjalment jista’ jiġi affettwat minn jew li juża teknoloġiji tal-AI, inklużi persuni b’diżabilità, b’mod li jqis bis-sħiħ id-dinjità u d-diversità inerenti tagħhom. Għalhekk huwa essenzjali li l-Fornituri jiżguraw konformità sħiħa mar-rekwiżiti ta’ aċċessibbiltà, inklużi d-Direttiva (UE) 2016/2102 u d-Direttiva (UE) 2019/882. Jenħtieġ li l-fornituri jiżguraw il-konformità ma’ dawn ir-rekwiżiti mid-disinn. Għalhekk, il-miżuri meħtieġa jenħtieġ li jiġu integrati kemm jista’ jkun fid-disinn tas-sistema tal-AI b’riskju kbir.

(54)

Jenħtieġ li l-fornitur jistabbilixxi sistema soda għall-ġestjoni tal-kwalità, jiżgura t-twettiq tal-proċedura meħtieġa tal-valutazzjoni tal-konformità, ifassal id-dokumentazzjoni rilevanti u jistabbilixxi sistema soda ta’ sorveljanza ta’ wara t-tqegħid fis-suq. L-awtoritajiet pubbliċi li jqiegħdu fis-servizz sistemi tal-AI b’riskju kbir għall-użu tagħhom stess jistgħu jadottaw u jimplimentaw ir-regoli għas-sistema tal-ġestjoni tal-kwalità bħala parti mis-sistema tal-ġestjoni tal-kwalità adottata fil-livell nazzjonali jew reġjonali, kif xieraq, filwaqt li jqisu l-ispeċifiċitajiet tas-settur u l-kompetenzi u l-organizzazzjoni tal-awtorità pubblika inkwistjoni.

(54)

Jenħtieġ li l-fornitur jistabbilixxi sistema soda tal-ġestjoni tal-kwalità, jiżgura t-twettiq tal-proċedura meħtieġa tal-valutazzjoni tal-konformità, ifassal id-dokumentazzjoni rilevanti u jistabbilixxi sistema robusta ta’ sorveljanza ta’ wara t-tqegħid fis-suq . Għall-fornituri li diġà għandhom fis-seħħ sistemi tal-ġestjoni tal-kwalità bbażati fuq standards bħall-ISO 9001 jew standards rilevanti oħra, jenħtieġ li ma tkun mistennija l-ebda sistema tal-ġestjoni tal-kwalità duplikata b’mod sħiħ iżda pjuttost adattament tas-sistemi eżistenti tagħhom għal ċerti aspetti marbuta mal-konformità mar-rekwiżiti speċifiċi ta’ dan ir-Regolament. Jenħtieġ li dan jiġi rifless ukoll f’attivitajiet ta’ standardizzazzjoni jew gwida futuri adottati mill-Kummissjoni f’dan ir-rigward . L-awtoritajiet pubbliċi li jqiegħdu fis-servizz sistemi tal-AI b’riskju kbir għall-użu tagħhom stess jistgħu jadottaw u jimplimentaw ir-regoli għas-sistema tal-ġestjoni tal-kwalità bħala parti mis-sistema tal-ġestjoni tal-kwalità adottata fil-livell nazzjonali jew reġjonali, kif xieraq, filwaqt li jqisu l-ispeċifiċitajiet tas-settur u l-kompetenzi u l-organizzazzjoni tal-awtorità pubblika inkwistjoni.

(56)

Biex ikun jista’ jiġi infurzat dan ir-Regolament u jinħolqu kundizzjonijiet ekwi għall-operaturi, u filwaqt li jitqiesu l-forom differenti ta’ tqegħid għad-dispożizzjoni tal-prodotti diġitali, hu importanti li jkun żgurat li, fiċ-ċirkostanzi kollha, persuna stabbilita fl-Unjoni tkun tista’ tipprovdi l-informazzjoni kollha meħtieġa lill-awtoritajiet dwar il-konformità tas-sistema tal-AI. Għalhekk, qabel ma jagħmlu s-sistemi tal-AI tagħhom disponibbli fl-Unjoni, meta importatur ma jkunx jista’ jiġi identifikat, il-fornituri stabbiliti barra mill-Unjoni għandhom, b’mandat bil-miktub, jaħtru rappreżentant awtorizzat stabbilit fl-Unjoni.

(56)

Biex ikun jista’ jiġi infurzat dan ir-Regolament u jinħolqu kundizzjonijiet ekwi għall-operaturi, u filwaqt li jitqiesu l-forom differenti ta’ tqegħid għad-dispożizzjoni tal-prodotti diġitali, hu importanti li jkun żgurat li, fiċ-ċirkostanzi kollha, persuna stabbilita fl-Unjoni tkun tista’ tipprovdi l-informazzjoni kollha meħtieġa lill-awtoritajiet dwar il-konformità tas-sistema tal-AI. Għalhekk, qabel ma jagħmlu s-sistemi tal-AI tagħhom disponibbli fl-Unjoni, il-fornituri stabbiliti barra mill-Unjoni għandhom, b’mandat bil-miktub, jaħtru rappreżentant awtorizzat stabbilit fl-Unjoni.

(58)

Minħabba n-natura tas-sistemi tal-AI u r-riskji għas-sikurezza u għad-drittijiet fundamentali assoċjati possibbilment mal-użu tagħhom, inkluż fir-rigward tal-ħtieġa li jkun żgurat monitoraġġ xieraq tal-prestazzjoni tas-sistema tal-AI f’ambjent tal-ħajja reali, jixraq jiġu stabbiliti responsabbiltajiet speċifiċi għall-utenti . B’mod partikolari, l-utenti jenħtieġ jużaw sistemi tal-AI b’riskju kbir f’konformità mal-istruzzjonijiet tal-użu u jenħtieġ jiġu previsti ċerti obbligi oħra fir-rigward tal-monitoraġġ tal-funzjonament tas-sistemi tal-AI u fir-rigward taż-żamma tar-rekords, kif xieraq.

(58)

Minħabba n-natura tas-sistemi tal-AI u r-riskji għas-sikurezza u għad-drittijiet fundamentali assoċjati possibbilment mal-użu tagħhom, inkluż fir-rigward tal-ħtieġa li jkun żgurat monitoraġġ xieraq tal-prestazzjoni tas-sistema tal-AI f’ambjent tal-ħajja reali, jixraq jiġu stabbiliti responsabbiltajiet speċifiċi għall-amministraturi . B’mod partikolari, l-amministraturi jenħtieġ li jużaw sistemi tal-AI b’riskju kbir f’konformità mal-istruzzjonijiet tal-użu u jenħtieġ li jiġu previsti ċerti obbligi oħra fir-rigward tal-monitoraġġ tal-funzjonament tas-sistemi tal-AI u fir-rigward taż-żamma tar-rekords, kif xieraq.

(58a)

Filwaqt li r-riskji relatati mas-sistemi tal-AI jistgħu jirriżultaw mill-mod kif jiġu ddisinjati sistemi bħal dawn, ir-riskji jistgħu jirriżultaw ukoll minn kif jintużaw sistemi tal-AI bħal dawn. L-amministraturi ta’ sistema tal-AI b’riskju kbir għandhom rwol kritiku fl-iżgurar li jiġu protetti d-drittijiet fundamentali, filwaqt li jikkomplementaw l-obbligi tal-fornitur meta jiżviluppa s-sistema tal-AI. L-amministraturi jinsabu fl-aħjar pożizzjoni biex jifhmu kif is-sistema tal-AI b’riskju kbir se tintuża b’mod konkret u għalhekk jistgħu jidentifikaw riskji sinfikanti potenzjali li ma kinux previsti fil-fażi tal-iżvilupp, minħabba għarfien aktar preċiż tal-kuntest tal-użu, tan-nies jew tal-gruppi ta’ persuni li x’aktarx jiġu affettwati, inklużi gruppi emarġinati u vulnerabbli. Jenħtieġ li l-amministraturi jidentifikaw strutturi ta’ governanza xierqa f’dak il-kuntest speċifiku tal-użu, bħal arranġamenti għas-sorveljanza tal-bniedem, proċeduri għat-trattament tal-ilmenti u proċeduri ta’ rimedju, minħabba li l-għażliet fl-istrutturi ta’ governanza jistgħu jkunu strumentali fil-mitigazzjoni tar-riskji għad-drittijiet fundamentali f’każijiet konkreti ta’ użu. Għalhekk, sabiex jiġi żgurat b’mod effiċjenti li jiġu protetti d-drittijiet fundamentali, jenħtieġ li l-amministratur tas-sistemi tal-AI b’riskju kbir iwettaq valutazzjoni tal-impatt fuq id-drittijiet fundamentali qabel ma jibda jużahom. Il-valutazzjoni tal-impatt jenħtieġ li tkun akkumpanjata minn pjan dettaljat li jiddeskrivi l-miżuri jew l-għodod li se jgħinu fil-mitigazzjoni tar-riskji għad-drittijiet fundamentali identifikati mhux aktar tard miż-żmien li jibdew jintużaw. Jekk tali pjan ma jkunx jista’ jiġi identifikat, l-amministratur jenħtieġ li jżomm lura milli juża s-sistema. Meta jwettaq din il-valutazzjoni tal-impatt, l-amministratur jenħtieġ li jinnotifika lill-awtorità superviżorja nazzjonali u, kemm jista’ jkun possibbli lill-partijiet ikkonċernati rilevanti kif ukoll lir-rappreżentanti ta’ gruppi ta’ persuni li x’aktarx jiġu affettwati mis-sistema tal-AI sabiex jiġbor l-informazzjoni rilevanti li titqies meħtieġa biex titwettaq il-valutazzjoni tal-impatt u jitħeġġu jagħmlu s-sommarju tal-valutazzjoni tal-impatt tagħhom fuq id-drittijiet fundamentali disponibbli għall-pubbliku fuq is-sit web online tagħhom. Jenħtieġ li dawn l-obbligi ma japplikawx għall-SMEs li, minħabba n-nuqqas ta’ riżorsi, jistgħu jsibuha diffiċli biex iwettqu tali konsultazzjoni. Madankollu, jenħtieġ li jistinkaw ukoll biex jinvolvu lil dawn ir-rappreżentanti meta jwettqu l-valutazzjoni tal-impatt tagħhom fuq id-drittijiet fundamentali. Barra minn hekk, minħabba l-impatt potenzjali u l-ħtieġa ta’ sorveljanza u skrutinju demokratiċi, l-amministraturi ta’ sistemi tal-AI b’riskju kbir li huma awtoritajiet pubbliċi jew istituzzjonijiet, korpi, uffiċċji u aġenziji tal-Unjoni, kif ukoll l-amministraturi li huma impriżi ddeżinjati bħala gwardjan skont ir-Regolament (UE) 2022/1925 jenħtieġ li jkunu meħtieġa jirreġistraw l-użu ta’ kwalunkwe sistema tal-AI b’riskju kbir f’bażi tad-data pubblika. Amministraturi oħra jistgħu jirreġistraw b’mod volontarju.

(59)

Jixraq jiġi previst li l-utent tas-sistema tal-AI jenħtieġ ikun il-persuna fiżika jew ġuridika, awtorità pubblika, aġenzija jew korp ieħor li fl-awtorità tiegħu titħaddem is-sistema tal-AI għajr meta l-użu jsir waqt attività personali mhux professjonali.

(59)

Jixraq jiġi previst li l-amministratur tas-sistema tal-AI jenħtieġ li jkun il-persuna fiżika jew ġuridika, awtorità pubblika, aġenzija jew korp ieħor li fl-awtorità tiegħu titħaddem is-sistema tal-AI għajr meta l-użu jsir waqt attività personali mhux professjonali.

(60)

Fid-dawl tal-kumplessità tal-katina tal-valur tal-intelliġenza artifiċjali , partijiet terzi rilevanti, b’mod partikolari dawk involuti fil-bejgħ u  fil-forniment ta’ software, għodod u komponenti tas-software , mudelli mħarrġa minn qabel u data, jew il-fornituri tas-servizzi tan-network, jenħtieġ jikkooperaw, kif xieraq, mal-fornituri u l-utenti biex jiffaċilitaw il-konformità tagħhom mal-obbligi skont dan ir-Regolament u mal-awtoritajiet kompetenti stabbiliti skont dan ir-Regolament .

(60)

Fil-katina tal-valur tal-AI diversi entitajiet spiss jipprovdu għodod u servizzi iżda wkoll komponenti jew proċessi li mbagħad jiġu inkorporati mill-fornitur fis-sistema tal-AI, inkluż fir-rigward tal-ġbir u l-ipproċessar minn qabel tad-data, it-taħriġ tal-mudell, it-taħriġ mill-ġdid tal-mudell, l-ittestjar u l-evalwazzjoni tal-mudell, l-integrazzjoni fis-software, jew aspetti oħra tal-iżvilupp tal-mudell. L-entitajiet involuti jistgħu jagħmlu l-offerta tagħhom disponibbli kummerċjalment b’mod dirett jew indirett, permezz ta’ interfaċċi, bħal Interfaċċi għall-Ipprogrammar tal-Applikazzjonijiet (API), u distribwiti b’liċenzji bla ħlas u b’sors miftuħ iżda wkoll aktar u aktar minn pjattaformi tal-forza tax-xogħol tal-AI, bejgħ mill-ġdid ta’ parametri mħarrġa, kits tad-DIY biex jinbnew mudelli jew l-offerta ta’ aċċess bi ħlas għal mudell li jservi arkitettura biex jiġu żviluppati u jitħarrġu mudelli. Fid-dawl ta’ din il-kumplessità tal-katina tal-valur tal-AI , il-partijiet terzi rilevanti kollha , b’mod partikolari dawk li huma involuti fl-iżvilupp, fil-bejgħ u  fil-provvista kummerċjali ta’ għodod tas-software, komponenti, mudelli mħarrġin minn qabel jew data inkorporata fis-sistema tal-AI , jew fornituri tas-servizzi tan-network, jenħtieġ li mingħajr ma jikkompromettu d-drittijiet tal-proprjetà intellettwali jew sigrieti kummerċjali tagħhom stess, jagħmlu disponibbli l-informazzjoni, it-taħriġ jew l-għarfien espert meħtieġa u jikkooperaw, kif xieraq, mal-fornituri biex jippermettu l-kontroll tagħhom fuq l-aspetti rilevanti kollha tal-konformità tas-sistema tal-AI li taqa’ taħt dan ir-Regolament . Biex ikun hemm governanza kosteffettiva tal-katina tal-valur tal-AI, il-livell ta’ kontroll għandu jiġi żvelat b’mod espliċitu minn kull parti terza li tforni lill-fornitur b’għodda, servizz, komponent jew proċess li aktar tard jiġi inkorporat mill-fornitur fis-sistema tal-AI.

(60a)

Meta parti waħda tkun f’pożizzjoni ta’ negozjar aktar b’saħħitha, hemm riskju li dik il-parti tista’ tingrana tali pożizzjoni għad-detriment tal-parti kontraenti l-oħra meta tinnegozja l-provvista ta’ għodod, servizzi, komponenti jew proċessi li jintużaw jew jiġu integrati f’sistema tal-AI b’riskju kbir jew ir-rimedji għall-ksur jew it-terminazzjoni tal-obbligi relatati. Żbilanċi kuntrattwali bħal dawn jagħmlu ħsara b’mod partikolari lill-intrapriżi mikro, żgħar u ta’ daqs medju kif ukoll lin-negozji ġodda, sakemm ma jkunux proprjetà ta’ intrapriża li tkun kapaċi tikkumpensa lis-sottokuntrattur b’mod xieraq jew ikunu sottokuntrattati minnha, peress li huma mingħajr kapaċità sinifikanti li jinnegozjaw il-kundizzjonijiet tal-ftehim kuntrattwali, u ma jista’ jkollhom l-ebda għażla oħra ħlief li jaċċettaw termini kuntrattwali tat-tip “dawn jew xejn”. Għalhekk, termini kuntrattwali inġusti li jirregolaw il-provvista ta’ għodod, servizzi, komponenti jew proċessi li jintużaw jew jiġu integrati f’sistema tal-AI b’riskju kbir jew ir-rimedji għall-ksur jew it-terminazzjoni tal-obbligi relatati jenħtieġ li ma jkunux vinkolanti għal tali intrapriżi mikro, żgħar jew ta’ daqs medju u negozji ġodda meta jkunu ġew imposti fuqhom b’mod unilaterali.

(60b)

Ir-regoli dwar it-termini kuntrattwali jenħtieġ li jqisu l-prinċipju tal-libertà kuntrattwali bħala kunċett essenzjali fir-relazzjonijiet minn negozju għal negozju. Għalhekk, mhux it-termini kuntrattwali kollha jenħtieġ li jkunu soġġetti għal test tal-inġustizzja, iżda biss għal dawk it-termini li huma imposti b’mod unilaterali fuq intrapriżi mikro, żgħar u ta’ daqs medju u negozji ġodda. Dan jikkonċerna sitwazzjonijiet tat-tip “dawn jew xejn” fejn parti waħda tforni ċertu terminu kuntrattwali u l-intrapriża mikro, żgħira jew ta’ daqs medju u n-negozju ġdid ma jistgħux jinfluwenzaw il-kontenut ta’ dak it-terminu minkejja tentattiv biex tinnegozjah. Terminu kuntrattwali li huwa sempliċiment ipprovdut minn parti waħda u aċċettat mill-intrapriża mikro, żgħira jew ta’ daqs medju jew negozju ġdid jew terminu li jiġi negozjat u sussegwentement miftiehem b’mod emendat bejn il-partijiet kontraenti jenħtieġ li ma jitqiesx bħala impost b’mod unilaterali.

(60c)

Barra minn hekk, ir-regoli dwar termini kuntrattwali inġusti jenħtieġ li japplikaw biss għal dawk l-elementi ta’ kuntratt li huma relatati mal-provvista ta’ għodod, servizzi, komponenti jew proċessi li jintużaw jew jiġu integrati f’sistema tal-AI b’riskju kbir jew ir-rimedji għall-ksur jew it-terminazzjoni tal-obbligi relatati. Partijiet oħra tal-istess kuntratt, mhux relatati ma’ dawn l-elementi, jenħtieġ li ma jkunux soġġetti għat-test tal-inġustizzja stabbilit f’dan ir-Regolament.

(60d)

Il-kriterji biex jiġu identifikati termini kuntrattwali inġusti jenħtieġ li jiġu applikati biss għal termini kuntrattwali eċċessivi, fejn tiġi abbużata pożizzjoni ta’ negozjar aktar b’saħħitha. Il-maġġoranza l-kbira tat-termini kuntrattwali li huma kummerċjalment aktar favorevoli għal parti waħda milli għal oħra, inklużi dawk li huma normali f’kuntratti minn negozju għal negozju, huma espressjoni normali tal-prinċipju tal-libertà kuntrattwali u jibqgħu japplikaw. Jekk terminu kuntrattwali ma jkunx inkluż fil-lista ta’ termini li dejjem jitqiesu inġusti, tapplika d-dispożizzjoni ġenerali dwar in-nuqqas ta’ ġustizzja. F’dan ir-rigward, it-termini elenkati bħala termini inġusti jenħtieġ li jservu bħala kejl biex tiġi interpretata d-dispożizzjoni ġenerali dwar in-nuqqas ta’ ġustizzja.

(60e)

Il-mudelli bażi huma żvilupp reċenti, li fih il-mudelli tal-AI jiġu żviluppati minn algoritmi ddisinjati biex jottimizzaw għall-ġeneralità u l-versatilità tal-output. Dawk il-mudelli spiss jiġu mħarrġa fuq firxa wiesgħa ta’ sorsi ta’ data u ammonti kbar ta’ data biex iwettqu firxa wiesgħa ta’ kompiti downstream, inklużi xi wħud li għalihom ma kinux żviluppati u mħarrġa b’mod speċifiku. Il-mudell bażi jista’ jkun unimodali jew multimodali, imħarreġ permezz ta’ diversi metodi bħall-apprendiment taħt superviżjoni jew l-apprendiment ikkonsolidat. Is-sistemi tal-AI b’għan maħsub speċifiku jew is-sistemi tal-AI b’għan ġenerali jistgħu jkunu implimentazzjoni ta’ mudell bażi, li jfisser li kull mudell bażi jista’ jerġa’ jintuża f’għadd kbir ta’ sistemi tal-AI downstream jew sistemi tal-AI b’għan ġenerali. Dawn il-mudelli għandhom importanza dejjem akbar għal ħafna applikazzjonijiet u sistemi downstream.

(60f)

Fil-każ ta’ mudelli bażi pprovduti bħala servizz bħal permezz tal-aċċess għall-API, il-kooperazzjoni mal-fornituri downstream jenħtieġ li testendi matul iż-żmien li matulu jiġi pprovdut u appoġġat dak is-servizz, sabiex tippermetti mitigazzjoni xierqa tar-riskju, sakemm il-fornitur tal-mudell bażi ma jittrasferixxix il-mudell ta’ taħriġ kif ukoll informazzjoni estensiva u xierqa dwar is-settijiet tad-data u l-proċess ta’ żvilupp tas-sistema jew jirrestrinġi s-servizz, bħall-aċċess għall-API, b’tali mod li l-fornitur downstream ikun jista’ jikkonforma bis-sħiħ ma’ dan ir-Regolament mingħajr appoġġ ulterjuri mill-fornitur oriġinali tal-mudell bażi.

(60g)

Fid-dawl tan-natura u l-kumplessità tal-katina tal-valur għas-sistema tal-AI, huwa essenzjali li jiġi ċċarat ir-rwol tal-atturi li jikkontribwixxu għall-iżvilupp tas-sistemi tal-AI. Hemm inċertezza sinifikanti dwar il-mod kif il-mudelli bażi se jevolvu, kemm f’termini ta’ tipoloġija ta’ mudelli kif ukoll f’termini ta’ awtogovernanza. Għalhekk, huwa essenzjali li tiġi ċċarata s-sitwazzjoni legali tal-fornituri ta’ mudelli bażi. Flimkien mal-kumplessità u l-impatt mhux mistenni tagħhom, in-nuqqas ta’ kontroll tal-fornitur tal-AI downstream fuq l-iżvilupp tal-mudell bażi u l-iżbilanċ konsegwenti tal-poter u sabiex tiġi żgurata kondiviżjoni ġusta tar-responsabbiltajiet tul il-katina tal-valur tal-AI, tali mudelli jenħtieġ li jkunu soġġetti għal rekwiżiti u obbligi proporzjonati u aktar speċifiċi skont dan ir-Regolament, jiġifieri l-mudelli bażi jenħtieġ li jivvalutaw u jtaffu r-riskji u l-ħsarat possibbli permezz ta’ disinn, ittestjar u analiżi xierqa, jenħtieġ li jimplimentaw miżuri ta’ governanza tad-data, inkluża l-valutazzjoni tal-preġudizzji, u jenħtieġ li jikkonformaw mar-rekwiżiti tekniċi tad-disinn biex jiżguraw livelli xierqa ta’ prestazzjoni, prevedibbiltà, interpretabbiltà, korrezzjoni, sikurezza u ċibersigurtà u jenħtieġ li jikkonformaw mal-istandards ambjentali. Jenħtieġ li dawn l-obbligi jkunu akkumpanjati minn standards. Barra minn hekk, il-mudelli bażi jenħtieġ li jkollhom obbligi ta’ informazzjoni u jħejju d-dokumentazzjoni teknika kollha meħtieġa għall-fornituri downstream potenzjali biex ikunu jistgħu jikkonformaw mal-obbligi tagħhom skont dan ir-Regolament. Il-mudelli bażi ġenerattivi jenħtieġ li jiżguraw it-trasparenza dwar il-fatt li l-kontenut jiġi ġġenerat minn sistema tal-AI, mhux mill-bnedmin. Dawn ir-rekwiżiti u l-obbligi speċifiċi ma jammontawx biex il-mudelli bażi jitqiesu bħala sistemi tal-AI b’riskju kbir, iżda jenħtieġ li jiggarantixxu li jintlaħqu l-objettivi ta’ dan ir-Regolament biex jiġi żgurat livell għoli ta’ protezzjoni tad-drittijiet fundamentali, is-saħħa u s-sikurezza, l-ambjent, id-demokrazija u l-istat tad-dritt. Mudelli mħarrġin minn qabel żviluppati għal sett ta’ applikazzjonijiet idjaq, inqas ġenerali u aktar limitat li ma jistgħux jiġu adattati għal firxa wiesgħa ta’ kompiti bħal sistemi sempliċi tal-AI b’użi multipli jenħtieġ li ma jitqisux bħala mudelli bażi għall-finijiet ta’ dan ir-Regolament, minħabba l-interpretabbiltà akbar tagħhom li tagħmel l-imġiba tagħhom inqas imprevedibbli.

(60h)

Minħabba n-natura tal-mudelli bażi, l-għarfien espert fil-valutazzjoni tal-konformità huwa nieqes u l-metodi tal-awditjar ta’ partijiet terzi għadhom qed jiġu żviluppati. Is-settur innifsu għalhekk qed jiżviluppa modi ġodda biex jivvaluta mudelli fundamentali li jissodisfaw parzjalment l-objettiv tal-awditjar (bħall-evalwazzjoni tal-mudell, ir-red teaming jew il-verifika tal-apprendiment awtomatiku u t-tekniki ta’ validazzjoni). Dawk il-valutazzjonijiet interni għall-mudelli bażi jenħtieġ li jkunu applikabbli b’mod wiesa’ (eż. indipendenti mill-kanali ta’ distribuzzjoni, mill-modalità, mill-metodi ta’ żvilupp), biex jindirizzaw ir-riskji speċifiċi għal tali mudelli filwaqt li jqisu l-prattiki tal-ogħla livell ta’ żvilupp tekniku tal-industrija u jiffukaw fuq l-iżvilupp ta’ fehim u kontroll tekniku suffiċjenti fuq il-mudell, il-ġestjoni ta’ riskji raġonevolment prevedibbli, u analiżi u ttestjar estensivi tal-mudell permezz ta’ miżuri xierqa, bħall-involviment ta’ evalwaturi indipendenti. Peress li l-mudelli bażi huma żvilupp ġdid u li qed jevolvi malajr fil-qasam tal-intelliġenza artifiċjali, jixraq li l-Kummissjoni u l-Uffiċċju tal-AI jimmonitorjaw u jivvalutaw perjodikament il-qafas leġiżlattiv u ta’ governanza ta’ tali mudelli u b’mod partikolari tas-sistemi ġenerattivi tal-AI bbażati fuq tali mudelli, li jqajmu mistoqsijiet sinifikanti relatati mal-ġenerazzjoni tal-kontenut bi ksur tad-dritt tal-Unjoni, tar-regoli dwar id-drittijiet tal-awtur, u tal-użu ħażin potenzjali. Jenħtieġ li jiġi ċċarat li dan ir-Regolament jenħtieġ li jkun mingħajr preġudizzju għad-dritt tal-Unjoni dwar id-drittijiet tal-awtur u drittijiet relatati, inklużi d-Direttivi 2001/29/KE, 2004/48/ECR u (UE) 2019/790 tal-Parlament Ewropew u tal-Kunsill.

(61)

Jenħtieġ li l-istandardizzazzjoni taqdi rwol ewlieni biex tipprovdi soluzzjonijiet tekniċi lill-fornituri ħalli tkun żgurata l-konformità ma’ dan ir-Regolament. Jenħtieġ li l-konformità mal-istandards armonizzati kif definiti fir-Regolament (UE) Nru 1025/2012 tal-Parlament Ewropew u  tal-Kunsill  (54) tkun mezz biex il-fornituri juru l-konformità mar-rekwiżiti ta’ dan ir-Regolament. Madankollu , il-Kummissjoni tista’ tadotta speċifikazzjonijiet tekniċi komuni f’oqsma fejn ma jeżistux standards armonizzati jew fejn dawn ma jkunux biżżejjed .

(61)

Jenħtieġ li l-istandardizzazzjoni taqdi rwol ewlieni biex tipprovdi soluzzjonijiet tekniċi lill-fornituri ħalli tkun żgurata l-konformità ma’ dan ir-Regolament. Jenħtieġ li l-konformità mal-istandards armonizzati kif definiti fir-Regolament (UE) Nru 1025/2012 tal-Parlament Ewropew u  tal-Kunsill  (54) tkun mezz biex il-fornituri juru l-konformità mar-rekwiżiti ta’ dan ir-Regolament. Sabiex tiġi żgurata l-effettività tal-istandards bħala għodda ta’ politika għall-Unjoni u filwaqt li titqies l-importanza tal-istandards biex tiġi żgurata l-konformità mar-rekwiżiti ta’ dan ir-Regolament u għall-kompetittività tal-impriżi , jeħtieġ li tiġi żgurata rappreżentanza bbilanċjata tal-interessi billi jiġu involuti l-partijiet ikkonċernati rilevanti kollha fl-iżvilupp tal-istandards. Il-proċess ta’ standardizzazzjoni jenħtieġ li jkun trasparenti fir-rigward ta’ persuni ġuridiċi u fiżiċi li jipparteċipaw fl-attivitajiet ta’ standardizzazzjoni.

(61a)

Sabiex tiġi ffaċilitata l-konformità, jenħtieġ li l-ewwel talbiet ta’ standardizzazzjoni jinħarġu mill-Kummissjoni mhux aktar tard minn xahrejn wara d-dħul fis-seħħ ta’ dan ir-Regolament. Dan jenħtieġ li jservi biex titjieb iċ-ċertezza legali, u b’hekk jiġu promossi l-investiment u l-innovazzjoni fl-AI, kif ukoll il-kompetittività u t-tkabbir tas-suq tal-Unjoni, filwaqt li titjieb il-governanza ta’ diversi partijiet ikkonċernati li jirrappreżentaw lill-partijiet ikkonċernati Ewropej rilevanti kollha bħall-Uffiċċju tal-AI, l-organizzazzjonijiet u l-korpi Ewropej tal-istandardizzazzjoni jew il-gruppi ta’ esperti stabbiliti skont id-dritt settorjali rilevanti tal-Unjoni kif ukoll l-industrija, l-SMEs, in-negozji ġodda, is-soċjetà ċivili, ir-riċerkaturi u s-sħab soċjali, u fl-aħħar mill-aħħar jenħtieġ li jiffaċilita l-kooperazzjoni globali dwar l-istandardizzazzjoni fil-qasam tal-AI b’mod konsistenti mal-valuri tal-Unjoni. Meta tkun qed tħejji t-talba ta’ standardizzazzjoni, jenħtieġ li l-Kummissjoni tikkonsulta lill-Uffiċċju tal-AI u lill-Forum konsultattiv dwar l-AI sabiex tiġbor l-għarfien espert rilevanti.

(61b)

Meta s-sistemi tal-AI jkunu maħsuba biex jiġu użati fuq il-post tax-xogħol, jenħtieġ li l-istandards armonizzati jkunu limitati għall-ispeċifikazzjonijiet u l-proċeduri tekniċi.

(61c)

Jenħtieġ li l-Kummissjoni tkun tista’ tadotta speċifikazzjonijiet komuni taħt ċerti kundizzjonijiet, meta ma jkun jeżisti l-ebda standard armonizzat rilevanti jew biex tindirizza tħassib speċifiku dwar id-drittijiet fundamentali. Matul il-proċess kollu tal-abbozzar, jenħtieġ li l-Kummissjoni tikkonsulta regolarment lill-Uffiċċju tal-AI u lill-forum konsultattiv tiegħu, lill-organizzazzjonijiet u lill-korpi Ewropej tal-istandardizzazzjoni jew lill-gruppi ta’ esperti stabbiliti skont id-dritt settorjali rilevanti tal-Unjoni kif ukoll lill-partijiet ikkonċernati rilevanti, bħall-industrija, l-SMEs, in-negozji ġodda, is-soċjetà ċivili, ir-riċerkaturi u s-sħab soċjali.

(61d)

Meta tadotta speċifikazzjonijiet komuni, jenħtieġ li l-Kummissjoni tistinka għall-allinjament regolatorju tal-AI ma’ sħab globali tal-istess fehma, li huwa essenzjali biex jitrawmu l-innovazzjoni u s-sħubijiet transfruntiera fil-qasam tal-AI, peress li l-koordinazzjoni ma’ sħab tal-istess fehma f’korpi internazzjonali tal-istandardizzazzjoni hija ta’ importanza kbira.

(62)

Biex ikun żgurat livell għoli ta’ affidabbiltà tas-sistemi tal-AI b’riskju kbir, jenħtieġ li dawk is-sistemi jkunu soġġetti għal valutazzjoni tal-konformità qabel ma jitqiegħdu fis-suq jew fis-servizz.

(62)

Biex ikun żgurat livell għoli ta’ affidabbiltà tas-sistemi tal-AI b’riskju kbir, jenħtieġ li dawk is-sistemi jkunu soġġetti għal valutazzjoni tal-konformità qabel ma jitqiegħdu fis-suq jew fis-servizz. Sabiex tiżdied il-fiduċja fil-katina tal-valur u tingħata ċertezza lin-negozji dwar il-prestazzjoni tas-sistemi tagħhom, il-partijiet terzi li jfornu komponenti tal-AI jistgħu japplikaw b’mod volontarju għal valutazzjoni tal-konformità minn parti terza.

(64)

Minħabba l-esperjenza aktar estensiva ta’ ċertifikaturi professjonali ta’ qabel it-tqegħid fis-suq fil-qasam tas-sikurezza tal-prodotti u n-natura differenti tar-riskji involuti, jixraq li l-kamp ta’ applikazzjoni tal-valutazzjoni tal-konformità minn parti terza jiġi limitat, tal-anqas f’fażi inizjali tal-applikazzjoni ta’ dan ir-Regolament, għas-sistemi tal-AI b’riskju kbir għajr dawk relatati mal-prodotti. Għalhekk, l-valutazzjoni tal-konformità ta’ tali sistemi jenħtieġ issir bħala regola ġenerali mill-fornitur fir-responsabbiltà tiegħu stess, għajr għas-sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni, li għalihom jenħtieġ ikun previst l-involviment ta’ korp notifikat fil-valutazzjoni tal-konformità, sa fejn dawn ma jkunux ipprojbiti.

(64)

Minħabba l-kumplessità tas-sistemi tal-AI b’riskju kbir u r-riskji li huma assoċjati magħhom, huwa essenzjali li tiġi żviluppata kapaċità aktar adegwata għall-applikazzjoni tal-valutazzjoni tal-konformità minn parti terza għas-sistemi tal-AI b’riskju kbir. Madankollu, minħabba l-esperjenza attwali ta’ ċertifikaturi professjonali ta’ qabel it-tqegħid fis-suq fil-qasam tas-sikurezza tal-prodotti u n-natura differenti tar-riskji involuti, jixraq li l-kamp ta’ applikazzjoni tal-valutazzjoni tal-konformità minn parti terza jiġi limitat, tal-anqas f’fażi inizjali tal-applikazzjoni ta’ dan ir-Regolament, għas-sistemi tal-AI b’riskju kbir għajr dawk relatati mal-prodotti. Għalhekk, il-valutazzjoni tal-konformità ta’ tali sistemi jenħtieġ issir bħala regola ġenerali mill-fornitur fir-responsabbiltà tiegħu stess, għajr għas-sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni, jew sistemi tal-AI maħsuba biex jintużaw ħalli jsiru inferenzi dwar il-karatteristiċi personali ta’ persuni fiżiċi abbażi ta’ data bijometrika jew data bbażata fuq il-bijometrika, inklużi sistemi ta’ rikonoxximent tal-emozzjonijiet li għalihom jenħtieġ li jkun previst l-involviment ta’ korp notifikat fil-valutazzjoni tal-konformità, sa fejn dawn ma jkunux ipprojbiti.

(65)

Biex issir valutazzjoni tal-konformità minn parti terza għas-sistemi tal-AI maħsuba biex jintużaw għall-identifikazzjoni bijometrika remota ta’ persuni , l-awtoritajiet kompetenti nazzjonali jenħtieġ jaħtru korpi notifikati skont dan ir-Regolament, diment li dawn ikunu konformi ma’ sett ta’ rekwiżiti, b’mod partikolari dwar l-indipendenza, il-kompetenza u n-nuqqas ta’ kunflitti ta’ interess.

(65)

Biex isiru valutazzjonijiet tal-konformità minn parti terza meta dan ikun meħtieġ , l-awtoritajiet kompetenti nazzjonali jenħtieġ li jiddeżinjaw korpi notifikati skont dan ir-Regolament, dment li dawn ikunu konformi ma’ sett ta’ rekwiżiti, b’mod partikolari dwar l-indipendenza, il-kompetenza , in-nuqqas ta’ kunflitti ta’ interess u r-rekwiżiti minimi taċ-ċibersigurtà . Jenħtieġ li l-Istati Membri jħeġġu d-deżinjazzjoni ta’ għadd suffiċjenti ta’ korpi tal-valutazzjoni tal-konformità, sabiex iċ-ċertifikazzjoni ssir fattibbli fil-ħin. Il-proċeduri ta’ valutazzjoni, deżinjazzjoni, notifika u monitoraġġ tal-korpi tal-valutazzjoni tal-konformità jenħtieġ li jiġu implimentati b’mod uniformi kemm jista’ jkun fl-Istati Membri, bil-għan li jitneħħew l-ostakli amministrattivi fil-fruntieri u jiġi żgurat li jitwettaq il-potenzjal tas-suq intern.

(65a)

F’konformità mal-impenji tal-Unjoni skont il-Ftehim tal-Organizzazzjoni Dinjija tal-Kummerċ dwar l-Ostakli Tekniċi għall-Kummerċ, huwa adegwat li tiġi mmassimizzata l-aċċettazzjoni tar-riżultati tat-testijiet prodotti minn korpi kompetenti tal-valutazzjoni tal-konformità, indipendenti mit-territorju li fih huma stabbiliti, fejn meħtieġ biex tintwera l-konformità mar-rekwiżiti applikabbli tar-Regolament. Jenħtieġ li l-Kummissjoni tesplora b’mod attiv strumenti internazzjonali possibbli għal dak il-għan u b’mod partikolari tfittex l-istabbiliment possibbli ta’ ftehimiet dwar rikonoxximent reċiproku ma’ pajjiżi li huma fuq livell komparabbli ta’ żvilupp tekniku, u li jkollhom approċċ kompatibbli dwar l-AI u l-valutazzjoni tal-konformità.

(66)

F’konformità mal-kunċett stabbilit b’mod komuni ta’ modifika sostanzjali għall-prodotti regolati bil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jixraq li sistema tal-AI ssirilha valutazzjoni tal-konformità ġdida kull meta jsir xi tibdil li jista’ jaffettwa l-konformità tas-sistema ma’ dan ir-Regolament jew meta jinbidel l-għan maħsub tas-sistema. Barra minn hekk, fir-rigward tas-sistemi tal-AI li jkomplu “jitgħallmu” wara t-tqegħid fis-suq jew fis-servizz (jiġifieri jadattaw awtomatikament kif jitwettqu l-funzjonijiet), jeħtieġ jiġu pprovduti regoli li jistabbilixxu li t-tibdiliet fl-algoritmu u fil-prestazzjoni tiegħu li jkunu ġew determinati minn qabel mill-fornitur u vvalutati fil-mument tal-valutazzjoni tal-konformità, jenħtieġ ma jikkostitwixxux modifika sostanzjali.

(66)

F’konformità mal-kunċett stabbilit b’mod komuni ta’ modifika sostanzjali għall-prodotti regolati bil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jixraq li sistema tal-AI b’riskju kbir issirilha valutazzjoni tal-konformità ġdida kull meta jseħħ tibdil mhux ippjanat li jmur lil hinn mit-tibdil ikkontrollat jew predeterminat mill-fornitur inkluż l-apprendiment kontinwu u li jista’ joħloq riskju inaċċettabbli ġdid u jaffettwa b’mod sinifikanti l-konformità tas-sistema tal-AI b’riskju kbir ma’ dan ir-Regolament jew meta jinbidel l-għan maħsub tas-sistema. Barra minn hekk, fir-rigward tas-sistemi tal-AI li jkomplu “jitgħallmu” wara t-tqegħid fis-suq jew fis-servizz (jiġifieri jadattaw awtomatikament kif jitwettqu l-funzjonijiet), jeħtieġ jiġu pprovduti regoli li jistabbilixxu li t-tibdiliet fl-algoritmu u fil-prestazzjoni tiegħu li jkunu ġew determinati minn qabel mill-fornitur u vvalutati fil-mument tal-valutazzjoni tal-konformità, jenħtieġ li ma jikkostitwixxux modifika sostanzjali. L-istess jenħtieġ li japplika għall-aġġornamenti tas-sistema tal-AI għal raġunijiet ta’ sigurtà b’mod ġenerali u għall-protezzjoni kontra t-theddid li qed jevolvi ta’ manipulazzjoni tas-sistema, dment li dawn ma jammontawx għal modifika sostanzjali.

(67)

Jenħtieġ li s-sistemi tal-AI b’riskju kbir jkollhom il-markatura CE biex jindikaw il-konformità tagħhom ma’ dan ir-Regolament b’tali mod li jkunu jistgħu jiċċaqilqu liberament fis-suq intern. Jenħtieġ li l-Istati Membri ma joħolqux xkiel mhux ġustifikat għat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir li jikkonformaw mar-rekwiżiti stabbiliti f’dan ir-Regolament u jkollhom il-markatura CE.

(67)

Jenħtieġ li s-sistemi tal-AI b’riskju kbir jkollhom il-markatura CE biex jindikaw il-konformità tagħhom ma’ dan ir-Regolament b’tali mod li jkunu jistgħu jiċċaqilqu liberament fis-suq intern. Għal sistemi fiżiċi tal-AI b’riskju kbir, jenħtieġ li titwaħħal markatura CE fiżika, u tista’ tiġi kkomplementata minn markatura CE diġitali. Għas-sistemi diġitali tal-AI b’riskju kbir biss, jenħtieġ li tintuża markatura CE diġitali. Jenħtieġ li l-Istati Membri ma joħolqux xkiel mhux ġustifikat għat-tqegħid fis-suq jew fis-servizz ta’ sistemi tal-AI b’riskju kbir li jikkonformaw mar-rekwiżiti stabbiliti f’dan ir-Regolament u jkollhom il-markatura CE.

(68)

F’ċerti kundizzjonijiet, id-disponibbiltà rapida ta’ teknoloġiji innovattivi tista’ tkun kruċjali għas-saħħa u s-sikurezza tal-persuni u għas-soċjetà kollha kemm hi. Għalhekk jixraq li, għal raġunijiet eċċezzjonali ta’ sigurtà pubblika jew ta’ protezzjoni tal-ħajja u tas-saħħa tal-persuni fiżiċi u għall-protezzjoni tal-proprjetà industrijali u kummerċjali , l-Istati Membri jkunu jistgħu jawtorizzaw it-tqegħid fis-suq jew it-tqegħid fis-servizz ta’ sistemi tal-AI li ma tkun saritilhom valutazzjoni tal-konformità.

(68)

F’ċerti kundizzjonijiet, id-disponibbiltà rapida ta’ teknoloġiji innovattivi tista’ tkun kruċjali għas-saħħa u s-sikurezza tal-persuni , għall-ambjent u t-tibdil fil-klima u għas-soċjetà kollha kemm hi. Għalhekk jixraq li, għal raġunijiet eċċezzjonali ta’ protezzjoni tal-ħajja u tas-saħħa tal-persuni fiżiċi , ta’ ħarsien ambjentali u l-protezzjoni tal-infrastruttura kritika , l-Istati Membri jkunu jistgħu jawtorizzaw it-tqegħid fis-suq jew it-tqegħid fis-servizz ta’ sistemi tal-AI li ma tkunx saritilhom valutazzjoni tal-konformità.

(69)

Biex tiġi ffaċilitata l-ħidma tal-Kummissjoni u tal-Istati Membri fil-qasam tal-intelliġenza artifiċjali u biex tiżdied it-trasparenza lejn il-pubbliku, il-fornituri tas-sistemi tal-AI b’riskju kbir għajr dawk relatati ma’ prodotti li jaqgħu fil-kamp ta’ applikazzjoni tal-leġiżlazzjoni eżistenti rilevanti tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ ikunu meħtieġa jirreġistraw is-sistema tal-AI b’riskju kbir tagħhom f’bażi tad-data tal-UE, li trid tiġi stabbilita u titmexxa mill-Kummissjoni. Jenħtieġ li l-Kummissjoni tkun il-kontrollur ta’ dik il-bażi tad-data f’konformità mar-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill (55). Biex tiġi żgurata l-funzjonalità sħiħa tal-bażi tad-data, meta tintuża, il-proċedura għall-istabbiliment tal-bażi tad-data jenħtieġ tinkludi l-elaborazzjoni ta’ speċifikazzjonijiet funzjonali mill-Kummissjoni u rapport tal-awditjar indipendenti.

(69)

Biex tiġi ffaċilitata l-ħidma tal-Kummissjoni u tal-Istati Membri fil-qasam tal-intelliġenza artifiċjali u biex tiżdied it-trasparenza lejn il-pubbliku, il-fornituri tas-sistemi tal-AI b’riskju kbir għajr dawk relatati ma’ prodotti li jaqgħu fil-kamp ta’ applikazzjoni tal-leġiżlazzjoni eżistenti rilevanti tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li jkunu meħtieġa jirreġistraw is-sistema tal-AI b’riskju kbir u l-mudelli bażi tagħhom f’bażi tad-data tal-UE, li trid tiġi stabbilita u titmexxa mill-Kummissjoni. Din il-bażi tad-data jenħtieġ li tkun aċċessibbli liberament u għall-pubbliku, tinftiehem faċilment u li tinqara mill-magni. Il-bażi tad-data jenħtieġ li tkun faċli biex tintuża u faċilment navigabbli, b’funzjonalitajiet ta’ tiftix tal-anqas li jippermettu lill-pubbliku ġenerali jfittex fil-bażi tad-data għal sistemi speċifiċi ta’ riskju kbir, postijiet, kategoriji ta’ riskju skont l-Anness IV u kliem ewlieni. L-amministraturi li huma awtoritajiet pubbliċi jew istituzzjonijiet, korpi, uffiċċji u aġenziji tal-Unjoni jew amministraturi li jaġixxu f’isimhom u li huma impriżi ddeżinjati bħala gwardjani skont ir-Regolament (UE) 2022/1925 jenħtieġ li jirreġistraw ukoll fil-bażi tad-data tal-UE qabel ma jibdew jaħdmu jew jużaw sistema tal-AI b’riskju kbir għall-ewwel darba u wara kull modifika sostanzjali. Jenħtieġ li amministraturi oħra jkunu intitolati li jagħmlu dan b’mod volontarju. Kwalunkwe modifika sostanzjali tas-sistemi tal-AI b’riskju kbir għandha tiġi rreġistrata wkoll fil-bażi tad-data tal-UE. Jenħtieġ li l-Kummissjoni tkun il-kontrollur ta’ dik il-bażi tad-data f’konformità mar-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill (55). Biex tiġi żgurata l-funzjonalità sħiħa tal-bażi tad-data, meta tintuża, il-proċedura għall-istabbiliment tal-bażi tad-data jenħtieġ li tinkludi l-elaborazzjoni ta’ speċifikazzjonijiet funzjonali mill-Kummissjoni u rapport tal-awditjar indipendenti. Jenħtieġ li l-Kummissjoni tqis iċ-ċibersigurtà u r-riskji relatati mal-periklu meta twettaq il-kompiti tagħha bħala kontrollur tad-data fil-bażi tad-data tal-UE. Sabiex jiġu mmassimizzati d-disponibbiltà u l-użu tal-bażi tad-data mill-pubbliku, il-bażi tad-data, inkluża l-informazzjoni disponibbli permezz tagħha, jenħtieġ li tikkonforma mar-rekwiżiti skont id-Direttiva 2019/882.

(71)

L-intelliġenza artifiċjali hi familja ta’ teknoloġiji li qed tiżviluppa malajr li teħtieġ forom ġodda ta’ sorveljanza regolatorja u spazju sikur għall-esperimentazzjoni, filwaqt li jkunu żgurati innovazzjoni u integrazzjoni responsabbli ta’ salvagwardji xierqa u miżuri ta’ mitigazzjoni tar-riskju. Biex jiżguraw qafas legali favorevoli għall-innovazzjoni , validu għall-futur u reżiljenti għat-tfixkil, l-awtoritajiet nazzjonali kompetenti ta’ Stat Membru wieħed jew aktar jenħtieġ jitħeġġu jistabbilixxu sandboxes regolatorji tal-intelliġenza artifiċjali biex jiffaċilitaw l-iżvilupp u l-ittestjar ta’ sistemi innovattivi tal-AI b’sorveljanza regolatorja stretta qabel ma dawn is-sistemi jitqiegħdu fis-suq jew jitqiegħdu fis-servizz b’xi mod ieħor.

(71)

L-intelliġenza artifiċjali hi familja ta’ teknoloġiji li qed tiżviluppa malajr li teħtieġ sorveljanza regolatorja u spazju sikur u kkontrollat għall-esperimentazzjoni, filwaqt li jkunu żgurati innovazzjoni u integrazzjoni responsabbli ta’ salvagwardji xierqa u miżuri ta’ mitigazzjoni tar-riskju. Biex jiżguraw qafas legali li jippromwovi l-innovazzjoni , huwa validu għall-futur, u reżiljenti għat-tfixkil, l-Istati Membri jenħtieġ li jistabbilixxu mill-inqas sandbox regolatorja waħda tal-intelliġenza artifiċjali biex jiffaċilitaw l-iżvilupp u l-ittestjar ta’ sistemi innovattivi tal-AI b’sorveljanza regolatorja stretta qabel ma dawn is-sistemi jitqiegħdu fis-suq jew jitqiegħdu fis-servizz b’xi mod ieħor. Huwa tabilħaqq mixtieq li jiġu stabbiliti sandboxes regolatorji, li l-istabbiliment tagħhom bħalissa jitħalla fid-diskrezzjoni tal-Istati Membri, bħala l-pass li jmiss li għandu jsir obbligatorju bi kriterji stabbiliti. Dik is-sandbox obbligatorja tista’ tiġi stabbilita wkoll b’mod konġunt ma’ Stat Membru wieħed jew aktar, sakemm dik is-sandbox ma tkunx tkopri l-livell nazzjonali rispettiv tal-Istati Membri involuti. Jistgħu jiġu stabbiliti wkoll sandboxes addizzjonali f’livelli differenti, inkluż bejn l-Istati Membri, sabiex jiġu ffaċilitati l-kooperazzjoni u s-sinerġiji transfruntiera. Bl-eċċezzjoni tas-sandbox obbligatorja fil-livell nazzjonali, jenħtieġ li l-Istati Membri jkunu jistgħu jistabbilixxu wkoll sandboxes virtwali jew ibridi. Is-sandboxes regolatorji kollha jenħtieġ li jkunu jistgħu jakkomodaw kemm il-prodotti fiżiċi kif ukoll dawk virtwali. Jenħtieġ li l-awtoritajiet kostitwenti jiżguraw ukoll li s-sandboxes regolatorji jkollhom ir-riżorsi finanzjarji u umani adegwati għall-funzjonament tagħhom.

(72)

Jenħtieġ li l-objettivi tas-sandboxes regolatorji jkunu li titrawwem l-innovazzjoni fl-AI billi jiġi stabbilit ambjent ikkontrollat ta’ esperimentazzjoni u  ttestjar fil-fażi tal-iżvilupp u ta’ qabel il-kummerċjalizzazzjoni biex tkun żgurata l-konformità tas-sistemi innovattivi tal-AI ma’ dan ir-Regolament u ma’ leġiżlazzjoni rilevanti oħra tal-Unjoni u tal-Istati Membri ; biex jissaħħu ċ-ċertezza legali għall-innovaturi u s-sorveljanza u  l-fehim mill-awtoritajiet kompetenti tal-opportunitajiet, tar-riskji emerġenti u tal-impatti tal-użu tal-AI , u biex jitħaffef l-aċċess għas-swieq , inkluż billi jitneħħew l-ostakli għall-intrapriżi żgħar u medji (SMEs) u għan-negozji ġodda. Biex ikunu żgurati implimentazzjoni uniformi madwar l-Unjoni u l-ekonomiji ta’ skala, jixraq jiġu stabbiliti regoli komuni għall-implimentazzjoni tas-sandboxes regolatorji u qafas għall-kooperazzjoni bejn l-awtoritajiet rilevanti involuti fis-superviżjoni tas-sandboxes. Jenħtieġ li dan ir-Regolament jipprovdi l-bażi ġuridika għall-użu tad-data personali miġbura għal finijiet oħra għall-iżvilupp ta’ ċerti sistemi tal-AI fl-interess pubbliku fi ħdan is-sandbox regolatorja tal-AI, f’konformità mal-Artikolu 6(4) tar-Regolament (UE) 2016/679, u mal-Artikolu 6 tar-Regolament (UE) 2018/1725, u  mingħajr preġudizzju għall-Artikolu 4(2) tad-Direttiva (UE) 2016/680 . Jenħtieġ li l-parteċipanti fis-sandbox jiżguraw salvagwardji xierqa u jikkooperaw mal-awtoritajiet kompetenti, inkluż billi jimxu mal-gwida tagħhom u jaġixxu malajr u bona fide biex itaffu kull riskju kbir għas-sikurezza u għad-drittijiet fundamentali li jista’ jinqala’ waqt l-iżvilupp u l-esperimentazzjoni fis-sandbox. Jenħtieġ li meta l-awtoritajiet kompetenti jkunu qed jiddeċiedu jekk jimponux multa amministrattiva skont l-Artikolu 83(2) tar-Regolament 2016/679 u l-Artikolu 57 tad-Direttiva 2016/680, titqies l-imġiba tal-parteċipanti fis-sandbox.

(72)

Jenħtieġ li l-objettivi tas-sandboxes regolatorji jkunu li : l-awtoritajiet kostitwenti jżidu l-fehim tagħhom tal-iżviluppi tekniċi, itejbu l-metodi superviżorji u  jipprovdu gwida lill-iżviluppaturi tas-sistemi tal-AI u lill-fornituri biex jiksbu konformità regolatorja ma’ dan ir-Regolament jew meta rilevanti, ma’ leġiżlazzjoni applikabbli oħra tal-Unjoni u tal-Istati Membri , kif ukoll mal-Karta tad-Drittijiet Fundamentali; il-fornituri prospettivi jippermettu u  jiffaċilitaw l-ittestjar u l-iżvilupp ta’ soluzzjonijiet innovattivi relatati mas-sistemi tal-AI fil-fażi ta’ qabel il-kummerċjalizzazzjoni biex tissaħħaħ iċ-ċertezza legali , biex ikun jista’ jsir aktar apprendiment regolatorju mill-awtoritajiet kostitwenti f’ambjent ikkontrollat bil-għan li tiġi żviluppata gwida aħjar u biex jiġi identifikat titjib possibbli fil-futur tal-qafas legali permezz tal-proċedura leġiżlattiva ordinarja. Kwalunkwe riskju sinifikanti identifikat matul l-iżvilupp u l-ittestjar ta’ tali sistemi tal-AI jenħtieġ li jirriżulta f’mitigazzjoni immedjata u, fin-nuqqas ta’ din, fis-sospensjoni tal-proċess tal-iżvilupp u tal-ittestjar sakemm isseħħ tali mitigazzjoni. Biex ikunu żgurati implimentazzjoni uniformi madwar l-Unjoni u l-ekonomiji ta’ skala, jixraq jiġu stabbiliti regoli komuni għall-implimentazzjoni tas-sandboxes regolatorji u  qafas għall-kooperazzjoni bejn l-awtoritajiet rilevanti involuti fis-superviżjoni tas-sandboxes . Jenħtieġ li l-Istati Membri jiżguraw li s-sandboxes regolatorji jkunu disponibbli b’mod wiesa’ madwar l-Unjoni, filwaqt li l-parteċipazzjoni jenħtieġ li tibqa’ volontarja. Huwa partikolarment importanti li jiġi żgurat li l-SMEs u n-negozji ġodda jkunu jistgħu jaċċessaw faċilment dawn is-sandboxes, ikunu involuti b’mod attiv u jipparteċipaw fl-iżvilupp u l-ittestjar ta’ sistemi innovattivi tal-AI, sabiex ikunu jistgħu jikkontribwixxu bl-għarfien espert u l-esperjenza tagħhom .

(72a)

Jenħtieġ li dan ir-Regolament jipprovdi l-bażi ġuridika għall-użu tad-data personali miġbura għal finijiet oħra għall-iżvilupp ta’ ċerti sistemi tal-AI fl-interess pubbliku fi ħdan is-sandbox regolatorja tal-AI biss taħt kundizzjonijiet speċifikati f’konformità mal-Artikolu 6(4) tar-Regolament (UE) 2016/679, u mal-Artikolu 6 tar-Regolament (UE) 2018/1725, u mingħajr preġudizzju għall-Artikolu 4(2) tad-Direttiva (UE) 2016/680. Jenħtieġ li l-fornituri prospettivi fis-sandbox jiżguraw salvagwardji xierqa u jikkooperaw mal-awtoritajiet kompetenti, inkluż billi jimxu mal-gwida tagħhom u jaġixxu malajr u bona fide biex itaffu kull riskju kbir għas-sikurezza, għas-saħħa u għall-ambjent u għad-drittijiet fundamentali li jista’ jinqala’ waqt l-iżvilupp u l-esperimentazzjoni fis-sandbox. Jenħtieġ li titqies l-imġiba tal-fornituri prospettivi fis-sandbox meta l-awtoritajiet kompetenti jiddeċiedu dwar is-sospensjoni temporanja jew permanenti tal-parteċipazzjoni tagħhom fis-sandbox jekk jimponux multa amministrattiva skont l-Artikolu 83(2) tar-Regolament 2016/679 u l-Artikolu 57 tad-Direttiva 2016/680.

(72b)

Sabiex jiġi żgurat li l-Intelliġenza Artifiċjali twassal għal eżiti ta’ benefiċċju soċjali u ambjentali, l-Istati Membri jenħtieġ li jappoġġaw u jippromwovu r-riċerka u l-iżvilupp tal-AI b’appoġġ għal eżiti ta’ benefiċċju soċjali u ambjentali billi jallokaw riżorsi suffiċjenti, inkluż il-finanzjament pubbliku u tal-Unjoni, u jagħtu aċċess ta’ prijorità lil sandboxes regolatorji għal proġetti mmexxija mis-soċjetà ċivili. Tali proġetti jenħtieġ li jkunu bbażati fuq il-prinċipju ta’ kooperazzjoni interdixxiplinari bejn l-iżviluppaturi tal-AI, l-esperti dwar l-inugwaljanza u n-nondiskriminazzjoni, l-aċċessibbiltà, il-konsumatur, id-drittijiet ambjentali u diġitali, kif ukoll l-akkademiċi.

(73)

Biex tiġi promossa u protetta l-innovazzjoni, hu importanti li jitqiesu b’mod partikolari l-interessi tal-fornituri fuq skala żgħira u tal-utenti tas-sistemi tal-AI. Għal dan l-objettiv, jenħtieġ li l-Istati Membri jiżviluppaw inizjattivi mmirati lejn dawk l-operaturi, inkluż dwar is-sensibilizzazzjoni u l-komunikazzjoni tal-informazzjoni. Barra minn hekk, meta l-Korpi Notifikati jistabbilixxu tariffi għall-valutazzjoni tal-konformità, jenħtieġ jitqiesu l-interessi u l-ħtiġijiet speċifiċi tal-fornituri fuq skala żgħira. Il-kostijiet tat-traduzzjoni relatata mad-dokumentazzjoni obbligatorja u mal-komunikazzjoni mal-awtoritajiet jistgħu jikkostitwixxu kost sinifikanti għall-fornituri u għal operaturi oħrajn, b’mod partikolari għal dawk fuq skala iżgħar. Jenħtieġ li, possibbilment, l-Istati Membri jiżguraw li waħda mil-lingwi determinati u aċċettati minnhom għad-dokumentazzjoni tal-fornituri rilevanti u għall-komunikazzjoni mal-operaturi tkun waħda li tinftiehem b’mod wiesa’ mill-akbar ammont ta’ utenti transkfruntieri possibbli.

(73)

Biex tiġi promossa u protetta l-innovazzjoni, hu importanti li jitqiesu b’mod partikolari l-interessi tal-fornituri fuq skala żgħira u tal-utenti tas-sistemi tal-AI. Għal dan l-objettiv, jenħtieġ li l-Istati Membri jiżviluppaw inizjattivi mmirati lejn dawk l-operaturi, inkluż dwar il-litteriżmu fl-AI, is-sensibilizzazzjoni u l-komunikazzjoni tal-informazzjoni. L-Istati Membri għandhom jużaw il-kanali eżistenti u meta xieraq, jistabbilixxu kanali ddedikati ġodda għall-komunikazzjoni mal-SMEs, man-negozji ġodda, mal-utent u ma’ innovaturi oħrajn biex jipprovdu gwida u jwieġbu għal domandi dwar l-implimentazzjoni ta’ dan ir-Regolament. Tali kanali eżistenti jistgħu jinkludi iżda mhumiex limitati għall-Iskwadri ta’ Rispons għal Inċidenti relatati mas-Sigurtà tal-Kompjuters tal-ENISA, l-Aġenziji Nazzjonali tal-Protezzjoni tad-Data, il-pjattaforma tal-AI fuq talba, iċ-Ċentri Ewropej tal-Innovazzjoni Diġitali u strumenti oħra rilevanti ffinanzjati minn programmi tal-UE kif ukoll l-Faċilitajiet tal-Ittestjar u l-Esperimentazzjoni stabbiliti mill-Kummissjoni u mill-Istati Membri fil-livell nazzjonali jew tal-Unjoni. Meta xieraq, dawn il-kanali għandhom jaħdmu flimkien biex joħolqu sinerġiji u jiżguraw l-omoġeneità fil-gwida tagħhom għan-negozji ġodda, l-SMEs u l-utenti. Barra minn hekk, meta l-Korpi Notifikati jistabbilixxu tariffi għall-valutazzjoni tal-konformità, għandhom jitqiesu l-interessi u l-ħtiġijiet speċifiċi tal-fornituri fuq skala żgħira. Il-Kummissjoni għandha tevalwa b’mod regolari l-kostijiet ta’ ċertifikazzjoni u ta’ konformità għall-SMEs u għan-negozji ġodda, inkluż permezz ta’ konsultazzjonijiet trasparenti mal-SMEs, man-negozji ġodda u mal-utenti u għandha taħdem mal-Istati Membri biex tnaqqas dawn il-kostijiet. Pereżempju, il-kostijiet tat-traduzzjoni relatata mad-dokumentazzjoni obbligatorja u mal-komunikazzjoni mal-awtoritajiet jistgħu jikkostitwixxu kost sinifikanti għall-fornituri u għal operaturi oħrajn, b’mod partikolari għal dawk fuq skala iżgħar. Jenħtieġ li, possibbilment, l-Istati Membri jiżguraw li waħda mil-lingwi determinati u aċċettati minnhom għad-dokumentazzjoni tal-fornituri rilevanti u għall-komunikazzjoni mal-operaturi tkun waħda li tinftiehem b’mod wiesa’ mill-akbar ammont ta’ utenti transfruntieri possibbli. L-intrapriżi ta’ daqs medju li riċentement inbidlu mill-kategorija żgħira għal dik ta’ daqs medju skont it-tifsira tal-Anness tar-Rakkomandazzjoni 2003/361/KE (l-Artikolu 16) għandu jkollhom aċċess għal dawn l-inizjattivi u gwida għal perjodu ta’ żmien meqjus xieraq mill-Istati Membri, peress li dawn l-intrapriżi ġodda ta’ daqs medju xi drabi jistgħu ma jkollhomx ir-riżorsi legali u t-taħriġ meħtieġa biex jiżguraw fehim u konformità xierqa mad-dispożizzjonijiet.

(74)

Biex jitnaqqsu kemm jista’ jkun ir-riskji għall-implimentazzjoni li jirriżultaw minn nuqqas ta’ għarfien u għarfien espert fis-suq kif ukoll biex tiġi ffaċilitata l-konformità tal-fornituri u tal-korpi notifikati mal-obbligi tagħhom skont dan ir-Regolament, il-pjattaforma tal-AI ondemand , iċ-Ċentri Ewropej tal-Innovazzjoni Diġitali u l-Faċilitajiet tal-Ittestjar u l-Esperimentazzjoni stabbiliti mill-Kummissjoni u mill-Istati Membri fil-livell nazzjonali jew tal-UE jenħtieġ li possibbilment jikkontribwixxu għall-implimentazzjoni ta’ dan ir-Regolament. Bħala parti mill-missjoni u l-oqsma ta’ kompetenza rispettivi tagħhom, dawn jistgħu jipprovdu appoġġ tekniku u xjentifiku b’mod partikolari lill-fornituri u lill-korpi notifikati.

(74)

Biex jitnaqqsu kemm jista’ jkun ir-riskji għall-implimentazzjoni li jirriżultaw minn nuqqas ta’ għarfien u għarfien espert fis-suq kif ukoll biex tiġi ffaċilitata l-konformità tal-fornituri u tal-korpi notifikati mal-obbligi tagħhom skont dan ir-Regolament, il-pjattaforma tal-AI fuq talba , iċ-Ċentri Ewropej tal-Innovazzjoni Diġitali u l-Faċilitajiet tal-Ittestjar u l-Esperimentazzjoni stabbiliti mill-Kummissjoni u mill-Istati Membri fil-livell nazzjonali jew tal-UE jenħtieġ li jikkontribwixxu għall-implimentazzjoni ta’ dan ir-Regolament. Bħala parti mill-missjoni u l-oqsma ta’ kompetenza rispettivi tagħhom, dawn jistgħu jipprovdu appoġġ tekniku u xjentifiku b’mod partikolari lill-fornituri u lill-korpi notifikati.

(76)

Biex tiġi ffaċilitata implimentazzjoni bla xkiel , effettiva u armonizzata ta’ dan ir-Regolament, jenħtieġ jiġi stabbilit Bord Ewropew għall-Intelliġenza Artifiċjali. Jenħtieġ li l-Bord ikun responsabbli għal għadd ta’ kompiti konsultattivi , inkluż il-ħruġ ta’ opinjonijiet, rakkomandazzjonijiet, pariri jew gwida dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament, inkluż dwar speċifikazzjonijiet tekniċi jew standards eżistenti rigward ir-rekwiżiti stabbiliti f’dan ir-Regolament u  l-għoti ta’ pariri u  ta’ assistenza lill-Kummissjoni dwar kwistjonijiet speċifiċi relatati mal-intelliġenza artifiċjali .

(76)

Biex tiġi evitata frammentazzjoni, jiġi żgurat funzjonament ottimali tas-suq Uniku , tiġi żgurata implimentazzjoni effettiva u armonizzata ta’ dan ir-Regolament, biex jinkiseb livell għoli ta’ affidabbiltà u ta’ protezzjoni tas-saħħa u tas-sikurezza, tad-drittijiet fundamentali, tal-ambjent, tad-demokrazija u tal-istat tad-dritt madwar l-Unjoni fir-rigward tas-sistemi tal-AI, biex l-awtoritajiet superviżorji nazzjonali, l-istituzzjonijiet, il-korpi, l-uffiċċji u l-aġenziji tal-Unjoni jiġu appoġġati b’mod attiv fi kwistjonijiet li għandhom x’jaqsmu ma’ dan ir-Regolament, u biex jiżdied l-użu tal-intelliġenza artifiċjali madwar l-Unjoni, jenħtieġ li jiġi stabbilit Uffiċċju tal-Unjoni Ewropea tal-Intelliġenza Artifiċjali. L-Uffiċċju tal-AI jenħtieġ li jkollu personalità ġuridika, jenħtieġ li jaġixxi b’indipendenza sħiħa, jenħtieġ li jkun responsabbli għal għadd ta’ kompiti ta’ konsulenza u ta’ koordinazzjoni , inkluż il-ħruġ ta’ opinjonijiet, rakkomandazzjonijiet, pariri jew gwida dwar kwistjonijiet relatati mal-implimentazzjoni ta’ dan ir-Regolament u jenħtieġ li jkun iffinanzjat u b’persunal adegwat. L-Istati Membri jenħtieġ li jipprovdu d-direzzjoni strateġika u l-kontroll tal-Uffiċċju tal-AI permezz tal-bord ta’ tmexxija tal-Uffiċċju tal-AI, flimkien mal-Kummissjoni, mal-EDPS, mal-FRA u mal-ENISA. Direttur eżekuttiv jenħtieġ li jkun responsabbli għall-ġestjoni tal-attivitajiet tas-segretarjat tal-Uffiċċju tal-AI u għar-rappreżentanza tal-Uffiċċju tal-AI. Il-partijiet ikkonċernati jenħtieġ li jipparteċipaw formalment fil-ħidma tal-Uffiċċju tal-AI permezz ta’ forum konsultattiv li jenħtieġ li jiżgura rappreżentanza varjata u bbilanċjata tal-partijiet ikkonċernati u jenħtieġ li jagħti pariri lill-Uffiċċju tal-AI dwar kwistjonijiet li huma relatati ma’ dan ir-Regolament. F’każ li l-istabbiliment tal-Uffiċċju tal-AI ma jkunx biżżejjed biex jiżgura applikazzjoni kompletament konsistenti ta’ dan ir-Regolament fil-livell tal-Unjoni kif ukoll miżuri ta’ infurzar transfruntiera effiċjenti, jenħtieġ li jitqies il-ħolqien ta’ aġenzija tal-AI .

(77)

L-Istati Membri jaqdu rwol ewlieni fl-applikazzjoni u fl-infurzar ta’ dan ir-Regolament. F’dan ir-rigward, jenħtieġ li kull Stat Membru jaħtar awtorità nazzjonali kompetenti waħda jew aktar għall-fini tas-superviżjoni tal-applikazzjoni u tal-implimentazzjoni ta’ dan ir-Regolament. Biex tiżdied l-effiċjenza tal-organizzazzjoni fuq in-naħa tal-Istati Membri u biex jiġi stabbilit punt ta’ kuntatt uffiċjali għall-pubbliku u għal kontropartijiet oħrajn fil-livelli tal-Istati Membri u tal-Unjoni, jenħtieġ li f’kull Stat Membru tinħatar awtorità nazzjonali waħda bħala awtorità superviżorja nazzjonali .

(77)

F’dan ir-rigward, jenħtieġ li kull Stat Membru jiddeżinja awtorità superviżorja nazzjonali għall-fini tas-superviżjoni tal-applikazzjoni u tal-implimentazzjoni ta’ dan ir-Regolament. Jenħtieġ li tirrappreżenta wkoll lill-Istat Membru tagħha fil-Bord ta’ Tmexxija tal-Uffiċċju tal-AI. Biex tiżdied l-effiċjenza tal-organizzazzjoni fuq in-naħa tal-Istati Membri u biex jiġi stabbilit punt ta’ kuntatt uffiċjali għall-pubbliku u għal kontropartijiet oħrajn fil-livelli tal-Istati Membri u tal-Unjoni. Jenħtieġ li kull awtorità superviżorja nazzjonali taġixxi b’indipendenza sħiħa fit-twettiq tal-kompiti tagħha u fl-eżerċizzju tas-setgħat tagħha f’konformità ma’ dan ir-Regolament .

(77a)

Jenħtieġ li l-awtoritajiet superviżorji nazzjonali jimmonitorjaw l-applikazzjoni tad-dispożizzjonijiet skont dan ir-Regolament u jikkontribwixxu għall-applikazzjoni konsistenti tiegħu fl-Unjoni kollha. Għal dak l-għan, l-awtoritajiet superviżorji nazzjonali jenħtieġ li jikkooperaw ma’ xulxin, mal-awtoritajiet nazzjonali kompetenti rilevanti, mal-Kummissjoni, u mal-Uffiċċju tal-AI.

(77b)

Jenħtieġ li l-membri jew il-persunal ta’ kull awtorità superviżorja nazzjonali, f’konformità mad-dritt tal-Unjoni jew nazzjonali, ikunu soġġetti għal dmir ta’ segretezza professjonali kemm matul kif ukoll wara l-mandat tagħhom, fir-rigward ta’ kwalunkwe informazzjoni kunfidenzjali li jkunu saru jafu biha matul it-twettiq tal-kompiti tagħhom jew l-eżerċizzju tas-setgħat tagħhom. Matul il-mandat tagħhom, dak id-dmir ta’ segretezza professjonali jenħtieġ li japplika b’mod partikolari għas-sigrieti kummerċjali u għar-rapportar minn persuni fiżiċi ta’ ksur ta’ dan ir-Regolament.

(78)

Biex ikun żgurat li l-fornituri tas-sistemi tal-AI b’riskju kbir jkunu jistgħu jqisu l-esperjenza bl-użu tas-sistemi tal-AI b’riskju kbir għat-titjib tas-sistemi tagħhom u tal-proċess tad-disinn u l-iżvilupp, jew ikunu jistgħu jieħdu xi azzjoni korrettiva possibbli fil-ħin, jenħtieġ li l-fornituri kollha jkollhom fis-seħħ sistema tas-sorveljanza ta’ wara t-tqegħid fis-suq. Din is-sistema hi kruċjali wkoll biex ikun żgurat li r-riskji possibbli li jirriżultaw mis-sistemi tal-AI li jkomplu “jitgħallmu” wara li jitqiegħdu fis-suq jew jitqiegħdu fis-servizz ikunu jistgħu jiġu indirizzati b’mod aktar effiċjenti u fil-ħin. F’dan il-kuntest, jenħtieġ li l-fornituri jkunu meħtieġa wkoll li jkollhom sistema fis-seħħ biex jirrapportaw lill-awtoritajiet rilevanti kull inċident serju jew ksur tal-liġi nazzjonali u tal-Unjoni li tipproteġi d-drittijiet fundamentali, li jirriżultawmill-użu tas-sistemi tal-AI tagħhom.

(78)

Biex ikun żgurat li l-fornituri tas-sistemi tal-AI b’riskju kbir ikunu jistgħu jqisu l-esperjenza bl-użu tas-sistemi tal-AI b’riskju kbir għat-titjib tas-sistemi tagħhom u tal-proċess tad-disinn u l-iżvilupp, jew ikunu jistgħu jieħdu xi azzjoni korrettiva possibbli fil-ħin, jenħtieġ li l-fornituri kollha jkollhom fis-seħħ sistema tas-sorveljanza ta’ wara t-tqegħid fis-suq. Din is-sistema hi kruċjali wkoll biex ikun żgurat li r-riskji possibbli li jirriżultaw mis-sistemi tal-AI li jkomplu “jitgħallmu” jew jevolvu wara li jitqiegħdu fis-suq jew jitqiegħdu fis-servizz ikunu jistgħu jiġu indirizzati b’mod aktar effiċjenti u fil-ħin. F’dan il-kuntest, jenħtieġ li l-fornituri jkunu meħtieġa wkoll li jkollhom sistema fis-seħħ biex jirrapportaw lill-awtoritajiet rilevanti kull inċident serju jew ksur tal-liġi nazzjonali u tal-Unjoni , inklużi dawk li jipproteġu d-drittijiet fundamentali u tal-konsumatur , li jirriżultaw mill-użu tas-sistemi tal-AI tagħhom u jieħdu azzjonijiet korrettivi xierqa . L-amministraturi jenħtieġ li jirrapportaw ukoll lill-awtoritajiet rilevanti kwalunkwe inċident serju jew ksur tal-liġi nazzjonali u tal-Unjoni li jirriżultaw mill-użu tas-sistema tal-AI tagħhom meta jsiru jafu b’tali inċident serju jew ksur.

(79)

Biex ikun żgurat infurzar xieraq u effettiv tar-rekwiżiti u l-obbligi stabbiliti b’dan ir-Regolament, bħal leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li s-sistema tas-sorveljanza tas-suq u tal-konformità tal-prodotti stabbilita bir-Regolament (UE) 2019/1020 tapplika fl-intier tagħha. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet jew il-korpi pubbliċi nazzjonali, li jissorveljaw l-applikazzjoni tal-liġi tal-Unjoni li tipproteġi d-drittijiet fundamentali, inkluż il-korpi tal-ugwaljanza, jenħtieġ li jkollhom ukoll aċċess għal kull dokumentazzjoni maħluqa skont dan ir-Regolament.

(79)

Biex ikun żgurat infurzar xieraq u effettiv tar-rekwiżiti u l-obbligi stabbiliti b’dan ir-Regolament, bħal leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni, jenħtieġ li s-sistema tas-sorveljanza tas-suq u tal-konformità tal-prodotti stabbilita bir-Regolament (UE) 2019/1020 tapplika fl-intier tagħha. Għall-fini ta’ dan ir-Regolament, jenħtieġ li l-awtoritajiet superviżorji nazzjonali jaġixxu bħala awtoritajiet tas-sorveljanza tas-suq għas-sistemi tal-AI koperti minn dan ir-Regolament ħlief għas-sistemi tal-AI koperti mill-Anness II ta’ dan ir-Regolament. Għas-sistemi tal-AI koperti mill-atti legali elenkati fl-Anness II, jenħtieġ li l-awtoritajiet kompetenti skont dawk l-atti legali jibqgħu l-awtorità ewlenija. Jenħtieġ li l-awtoritajiet superviżorji nazzjonali u l-awtoritajiet kompetenti fl-atti legali elenkati fl-Anness II jaħdmu flimkien kull meta jkun meħtieġ. Meta jkun xieraq, jenħtieġ li l-awtoritajiet kompetenti fl-atti legali elenkati fl-Anness II jibagħtu persunal kompetenti lill-awtorità superviżorja nazzjonali sabiex jassistu fit-twettiq tal-kompiti tagħha. Għall-fini ta’ dan ir-Regolament, jenħtieġ li l-awtoritajiet superviżorji nazzjonali jkollhom l-istess setgħat u obbligi bħall-awtoritajiet tas-sorveljanza tas-suq skont ir-Regolament (UE) 2019/1020. Meta jkun meħtieġ għall-mandat tagħhom, l-awtoritajiet jew il-korpi pubbliċi nazzjonali, li jissorveljaw l-applikazzjoni tal-liġi tal-Unjoni li tipproteġi d-drittijiet fundamentali, inkluż il-korpi tal-ugwaljanza, jenħtieġ li jkollhom ukoll aċċess għal kull dokumentazzjoni maħluqa skont dan ir-Regolament. Wara li tkun eżawriet il-modi raġonevoli l-oħra kollha biex tivvaluta/tivverifika l-konformità u fuq talba motivata, jenħtieġ li l-awtorità superviżorja nazzjonali tingħata aċċess għas-settijiet tad-data għal taħriġ, validazzjoni u ttestjar, għall-mudell imħarreġ u tat-taħriġ tas-sistema tal-AI b’riskju kbir, inklużi l-parametri tal-mudell rilevanti tagħha u għall-ambjent tal-eżekuzzjoni/tħaddim tagħhom. F’każijiet ta’ sistemi ta’ software aktar sempliċi li jaqgħu fl-ambitu ta’ dan ir-Regolament li mhumiex ibbażati fuq mudelli mħarrġa, u meta jkunu ġew eżawriti l-modi l-oħra kollha biex tiġi vverifikata l-konformità, l-awtorità superviżorja nazzjonali jista’ jkollha aċċess għall-kodiċi tas-sors, fuq talba motivata. Meta l-awtorità superviżorja nazzjonali tkun ingħatat aċċess għas-settijiet tad-data għal taħriġ, validazzjoni u ttestjar f’konformità ma’ dan ir-Regolament, tali aċċess jenħtieġ li jinkiseb permezz ta’ mezzi u għodod tekniċi xierqa, inkluż l-aċċess fuq il-post u f’ċirkostanzi eċċezzjonali, l-aċċess remot. L-awtorità superviżorja nazzjonali jenħtieġ li tittratta kwalunkwe informazzjoni, inkluż il-kodiċi tas-sors, is-software, u d-data kif applikabbli, miksuba bħala informazzjoni kunfidenzjali u tirrispetta l-liġi rilevanti tal-Unjoni dwar il-protezzjoni tal-proprjetà intellettwali u s-sigrieti kummerċjali. L-awtorità superviżorja nazzjonali jenħtieġ li tħassar kwalunkwe informazzjoni miksuba mat-tlestija tal-investigazzjoni.

(80)

Il-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji tinkludi regoli u rekwiżiti interni dwar il-governanza u l-ġestjoni tar-riskju li huma applikabbli għall-istituzzjonijiet finanzjarji regolati waqt il-forniment ta’ dawk is-servizzi, inkluż meta jużaw is-sistemi tal-AI. Biex ikunu żgurati applikazzjoni u infurzar koerenti tal-obbligi skont dan ir-Regolament u tar-regoli u r-rekwiżiti rilevanti tal-leġiżlazzjoni tal-Unjoni dwar is-servizzi finanzjarji, jenħtieġ li l-awtoritajiet responsabbli għas-superviżjoni u l-infurzar tal-leġiżlazzjoni dwar is-servizzi finanzjarji, inkluż meta applikabbli l-Bank Ċentrali Ewropew, jinħatru bħala awtoritajiet kompetenti għall-finijiet tas-superviżjoni tal-implimentazzjoni ta’ dan ir-Regolament, inkluż għal attivitajiet ta’ sorveljanza tas-suq, fir-rigward tas-sistemi tal-AI pprovduti jew użati minn istituzzjonijiet finanzjarji regolati u sorveljati. Biex tkompli tissaħħaħ il-konsistenza bejn dan ir-Regolament u r-regoli applikabbli għall-istituzzjonijiet ta’ kreditu regolati skont id-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill (56), jixraq ukoll li l-proċedura tal-valutazzjoni tal-konformità u wħud mill-obbligi proċedurali tal-fornituri fir-rigward tal-ġestjoni tar-riskju, tas-sorveljanza ta’ wara t-tqegħid fis-suq u tad-dokumentazzjoni, jiġu integrati fl-obbligi u l-proċeduri eżistenti skont id-Direttiva 2013/36/UE. Biex ikun evitat it-trikkib, jenħtieġ jiġu previsti wkoll derogi limitati fir-rigward tas-sistema tal-ġestjoni tal-kwalità tal-fornituri u l-obbligu tal-monitoraġġ impost fuq l-utenti tas-sistemi tal-AI b’riskju kbir sa fejn dawn ikunu japplikaw għall-istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE.

(80)

Il-liġi tal-Unjoni dwar is-servizzi finanzjarji tinkludi regoli u rekwiżiti interni dwar il-governanza u l-ġestjoni tar-riskju li huma applikabbli għall-istituzzjonijiet finanzjarji regolati waqt il-forniment ta’ dawk is-servizzi, inkluż meta jużaw is-sistemi tal-AI. Biex ikunu żgurati applikazzjoni u infurzar koerenti tal-obbligi skont dan ir-Regolament u tar-regoli u r-rekwiżiti rilevanti tal-liġi tal-Unjoni dwar is-servizzi finanzjarji, jenħtieġ li l-awtoritajiet kompetenti responsabbli għas-superviżjoni u l-infurzar tal-liġi dwar is-servizzi finanzjarji, inkluż meta applikabbli l-Bank Ċentrali Ewropew, jiġu ddeżinjati bħala awtoritajiet kompetenti għall-finijiet tas-superviżjoni tal-implimentazzjoni ta’ dan ir-Regolament, inkluż għal attivitajiet ta’ sorveljanza tas-suq, fir-rigward tas-sistemi tal-AI pprovduti jew użati minn istituzzjonijiet finanzjarji regolati u sorveljati. Biex tkompli tissaħħaħ il-konsistenza bejn dan ir-Regolament u r-regoli applikabbli għall-istituzzjonijiet ta’ kreditu regolati skont id-Direttiva 2013/36/UE tal-Parlament Ewropew u tal-Kunsill (56), jixraq ukoll li l-proċedura tal-valutazzjoni tal-konformità u wħud mill-obbligi proċedurali tal-fornituri fir-rigward tal-ġestjoni tar-riskju, tas-sorveljanza ta’ wara t-tqegħid fis-suq u tad-dokumentazzjoni, jiġu integrati fl-obbligi u l-proċeduri eżistenti skont id-Direttiva 2013/36/UE. Biex ikun evitat it-trikkib, jenħtieġ li jiġu previsti wkoll derogi limitati fir-rigward tas-sistema tal-ġestjoni tal-kwalità tal-fornituri u l-obbligu tal-monitoraġġ impost fuq l-amministraturi tas-sistemi tal-AI b’riskju kbir sa fejn dawn ikunu japplikaw għall-istituzzjonijiet ta’ kreditu regolati bid-Direttiva 2013/36/UE.

(80a)

Minħabba l-objettivi ta’ dan ir-Regolament, jiġifieri li jiġi żgurat livell ekwivalenti ta’ protezzjoni tas-saħħa, tas-sikurezza u tad-drittijiet fundamentali tal-persuni fiżiċi, tiġi żgurata l-protezzjoni tal-istat tad-dritt u d-demokrazija, u billi jitqies li l-mitigazzjoni tar-riskji tas-sistema tal-AI kontra tali drittijiet tista’ ma tintlaħaqx b’mod suffiċjenti fil-livell nazzjonali jew tista’ tkun soġġetta għal interpretazzjoni diverġenti li fl-aħħar mill-aħħar tista’ twassal għal livell mhux ugwali ta’ protezzjoni tal-persuni fiżiċi u toħloq frammentazzjoni tas-suq, l-awtoritajiet superviżorji nazzjonali jenħtieġ li jingħataw is-setgħa li jwettqu investigazzjonijiet konġunti jew jistrieħu fuq il-proċedura ta’ salvagwardja tal-Unjoni prevista f’dan ir-Regolament għall-infurzar effettiv. Investigazzjonijiet konġunti jenħtieġ li jinbdew meta l-awtorità superviżorja nazzjonali jkollha biżżejjed raġunijiet biex temmen li ksur ta’ dan ir-Regolament jirrappreżenta ksur mifrux jew ksur mifrux b’dimensjoni tal-Unjoni, jew meta s-sistema tal-AI jew il-mudell bażi jippreżentaw riskju li jaffettwa jew li x’aktarx jaffettwa mill-inqas 45 miljun individwu f’aktar minn Stati Membru wieħed.

(82)

Hu importanti li s-sistemi tal-AI relatati ma’ prodotti li m’għandhomx riskju kbir f’konformità ma’ dan ir-Regolament u, għalhekk, mhumiex meħtieġa jikkonformaw mar-rekwiżiti stabbiliti hawnhekk , xorta waħda jkunu sikuri meta jitqiegħdu fis-suq jew fis-servizz. Biex tikkontribwixxi għal dan l-objettiv, id-Direttiva 2001/95/KE tal-Parlament Ewropew u tal-Kunsill (57) tapplika bħala lqugħ tas-sikurezza.

(82)

Hu importanti li s-sistemi tal-AI relatati ma’ prodotti li m’għandhomx riskju kbir f’konformità ma’ dan ir-Regolament u, għalhekk, mhumiex meħtieġa jikkonformaw mar-rekwiżiti stabbiliti għal sistemi tal-AI b’riskju kbir , xorta waħda jkunu sikuri meta jitqiegħdu fis-suq jew fis-servizz. Biex tikkontribwixxi għal dan l-objettiv, id-Direttiva 2001/95/KE tal-Parlament Ewropew u tal-Kunsill (57) tapplika bħala lqugħ tas-sikurezza.

(83)

Biex tkun żgurata kooperazzjoni fiduċjuża u kostruttiva tal-awtoritajiet kompetenti fil-livell tal-Unjoni u nazzjonali, jenħtieġ li l-partijiet kollha involuti fl-applikazzjoni ta’ dan ir-Regolament jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti tagħhom.

(83)

Biex tkun żgurata kooperazzjoni fiduċjuża u kostruttiva tal-awtoritajiet kompetenti fil-livell tal-Unjoni u nazzjonali, jenħtieġ li l-partijiet kollha involuti fl-applikazzjoni ta’ dan ir-Regolament jimmiraw għat-trasparenza u l-ftuħ filwaqt li jirrispettaw il-kunfidenzjalità tal-informazzjoni u tad-data miksuba fit-twettiq tal-kompiti tagħhom billi jistabbilixxu miżuri tekniċi u organizzattivi biex jipproteġu s-sigurtà u l-kunfidenzjalità tal-informazzjoni miksuba fit-twettiq tal-attivitajiet tagħhom inkluż għad-drittijiet tal-proprjetà intellettwali u l-interessi tas-sigurtà pubblika u nazzjonali. Meta l-attivitajiet tal-Kummissjoni, tal-awtoritajiet nazzjonali kompetenti u tal-korpi notifikati skont dan ir-Regolament jirriżultaw fi ksur tad-drittijiet tal-proprjetà intellettwali, jenħtieġ li l-Istati Membri jipprevedu miżuri u rimedji adegwati biex jiżguraw l-infurzar tad-drittijiet tal-proprjetà intellettwali bl-applikazzjoni tad-Direttiva 2004/48/KE.

(84)

Jenħtieġ li l-Istati Membri jieħdu l-miżuri meħtieġa kollha biex jiżguraw l-implimentazzjoni tad-dispożizzjonijiet ta’ dan ir-Regolament, inkluż billi jiġu stabbiliti penali effettivi, proporzjonati u dissważivi għall-ksur tagħhom. Għal ċertu ksur speċifiku, jenħtieġ li l-Istati Membri jqisu l-marġini u  l-kriterji stabbiliti f’dan ir-Regolament . Il-Kontrollur Ewropew għall-Protezzjoni tad-Data jenħtieġ li jkollu s-setgħa li jimponi multi fuq l-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni li huma fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament.

(84)

Jenħtieġ li l-konformità ma’ dan ir-Regolament tiġi infurzata permezz tal-impożizzjoni ta’ multi mill-awtorità superviżorja nazzjonali meta twettaq proċedimenti skont il-proċedura stabbilita f’dan ir-Regolament. Jenħtieġ li l-Istati Membri jieħdu l-miżuri meħtieġa kollha biex jiżguraw l-implimentazzjoni tad-dispożizzjonijiet ta’ dan ir-Regolament, inkluż billi jiġu stabbiliti penali effettivi, proporzjonati u dissważivi għall-ksur tagħhom. Sabiex jissaħħu u jiġu armonizzati l-penali amministrattivi għall-ksur ta’ dan ir-Regolament, jenħtieġ li jiġu stabbiliti l-limiti massimi għall-istabbiliment tal-multi amministrattivi għal ċertu ksur speċifiku . Meta jivvalutaw l-ammont tal-multi , l-awtoritajiet kompetenti nazzjonali jenħtieġ li , f’kull każ individwali, iqisu ċ-ċirkostanzi rilevanti kollha tas-sitwazzjoni speċifika, b’kunsiderazzjoni xierqa b’mod partikolari għan-natura, il-gravità u d-durata tal-ksur u tal-konsegwenzi tiegħu u għad-daqs tal-fornitur, b’mod partikolari jekk il-fornitur ikun SME jew negozju ġdid . Il-Kontrollur Ewropew għall-Protezzjoni tad-Data jenħtieġ li jkollu s-setgħa li jimponi multi fuq l-istituzzjonijiet, l-aġenziji u l-korpi tal-Unjoni li huma fil-kamp ta’ applikazzjoni ta’ dan ir-Regolament. Jenħtieġ li l-penali u l-kostijiet ta’ litigazzjoni skont dan ir-Regolament ma jkunux soġġetti għal klawżoli kuntrattwali jew kwalunkwe arranġament ieħor.

(84a)

Peress li d-drittijiet u l-libertajiet tal-persuni fiżiċi u ġuridiċi u tal-gruppi ta’ persuni fiżiċi jistgħu jiġu mminati serjament mis-sistemi tal-AI, huwa essenzjali li l-persuni fiżiċi u ġuridiċi jew il-gruppi ta’ persuni fiżiċi jkollhom aċċess sinifikanti għal mekkaniżmi ta’ rapportar u ta’ rimedju u li jkunu intitolati li jaċċessaw rimedji proporzjonati u effettivi. Jenħtieġ li dawn ikunu jistgħu jirrapportaw ksur ta’ dan ir-Regolament lill-awtorità superviżorja nazzjonali tagħhom u jkollhom id-dritt li jressqu ilment kontra l-fornituri u l-amministraturi tas-sistemi tal-AI. Meta applikabbli, l-amministraturi jenħtieġ li jipprovdu mekkaniżmi interni għall-ilmenti li għandhom jintużaw minn persuni fiżiċi u ġuridiċi jew gruppi ta’ persuni fiżiċi. Mingħajr preġudizzju għal kwalunkwe rimedju amministrattiv jew mhux ġudizzjarju ieħor, il-persuni fiżiċi u ġuridiċi u l-gruppi ta’ persuni fiżiċi u ġuridiċi jenħtieġ ukoll li jkollhom id-dritt għal rimedju ġudizzjarju effettiv fir-rigward ta’ deċiżjoni legalment vinkolanti ta’ awtorità superviżorja nazzjonali li tikkonċernahom jew, meta l-awtorità superviżorja nazzjonali ma tittrattax ilment, meta ma tinfurmax lill-ilmentatur dwar il-progress jew l-eżitu preliminari tal-ilment imressaq jew meta ma tikkonformax mal-obbligu tagħha li tasal għal deċiżjoni finali, fir-rigward tal-ilment.

(84b)

Il-persuni affettwati jenħtieġ li dejjem jiġu infurmati li huma soġġetti għall-użu ta’ sistema tal-AI b’riskju kbir, meta l-amministraturi jużaw sistema tal-AI b’riskju kbir biex jassistu fit-teħid tad-deċiżjonijiet jew jieħdu deċiżjonijiet relatati ma’ persuni fiżiċi. Din l-informazzjoni tista’ tipprovdi bażi għall-persuni affettwati biex jeżerċitaw id-dritt tagħhom għal spjegazzjoni skont dan ir-Regolament. Meta l-implimentaturi jipprovdu spjegazzjoni lill-persuni affettwati skont dan ir-Regolament, jenħtieġ li jqisu l-livell ta’ għarfien espert u għarfien tal-konsumatur medju jew tal-individwu.

(84c)

Il-liġi tal-Unjoni dwar il-protezzjoni tal-informaturi (id-Direttiva (UE) 2019/1937) għandha applikazzjoni sħiħa għal akkademiċi, disinjaturi, żviluppaturi, kontributuri tal-proġetti, awdituri, maniġers tal-prodotti, inġiniera u operaturi ekonomiċi li jiksbu informazzjoni dwar il-ksur tad-dritt tal-Unjoni minn fornitur ta’ sistema tal-AI jew mis-sistema tal-AI tiegħu.

(85)

Biex ikun żgurat li l-qafas regolatorju jista’ jiġi adattat meta meħtieġ, is-setgħa li jiġu adottati atti f’konformità mal-Artikolu 290 tat-TFUE jenħtieġ tiġi delegata lill-Kummissjoni biex temenda t-tekniki u l-approċċi msemmija fl-Anness I għad-definizzjoni tas-sistemi tal-AI, il-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II, is-sistemi tal-AI b’riskju kbir elenkati fl-Anness III, id-dispożizzjonijiet dwar id-dokumentazzjoni teknika elenkati fl-Anness IV, il-kontenut tad-dikjarazzjoni ta’ konformità tal-UE fl-Anness V, id-dispożizzjonijiet dwar il-proċeduri tal-valutazzjoni tal-konformità fl-Annessi VI u VII, u d-dispożizzjonijiet li jistabbilixxu s-sistemi tal-AI b’riskju kbir li għalihom jenħtieġ tapplika l-proċedura tal-valutazzjoni tal-konformità bbażata fuq il-valutazzjoni tas-sistema tal-ġestjoni tal-kwalità u fuq il-valutazzjoni tad-dokumentazzjoni teknika. Hu importanti b’mod partikolari li tul il-ħidma preparatorja tagħha, il-Kummissjoni twettaq konsultazzjonijiet xierqa, anke fil-livell ta’ esperti, u li dawk il-konsultazzjonijiet isiru f’konformità mal-prinċipji stabbiliti fil-Ftehim Interistituzzjonali tat-13 ta’ April 2016 dwar it-Tfassil Aħjar tal-Liġijiet (58). B’mod partikolari, biex tiġi żgurata parteċipazzjoni ugwali fit-tħejjija tal-atti delegati, il-Parlament Ewropew u l-Kunsill jirċievu d-dokumenti kollha fl-istess ħin li jirċivuhom l-esperti tal-Istati Membri, u l-esperti tagħhom sistematikament ikollhom aċċess għal-laqgħat tal-gruppi ta’ esperti tal-Kummissjoni li jittrattaw it-tħejjija ta’ atti delegati.

(85)

Biex ikun żgurat li l-qafas regolatorju jista’ jiġi adattat meta meħtieġ, is-setgħa li jiġu adottati atti f’konformità mal-Artikolu 290 tat-TFUE jenħtieġ li tiġi delegata lill-Kummissjoni biex temenda l-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II, is-sistemi tal-AI b’riskju kbir elenkati fl-Anness III, id-dispożizzjonijiet dwar id-dokumentazzjoni teknika elenkati fl-Anness IV, il-kontenut tad-dikjarazzjoni ta’ konformità tal-UE fl-Anness V, id-dispożizzjonijiet dwar il-proċeduri tal-valutazzjoni tal-konformità fl-Annessi VI u VII, u d-dispożizzjonijiet li jistabbilixxu s-sistemi tal-AI b’riskju kbir li għalihom jenħtieġ li tapplika l-proċedura tal-valutazzjoni tal-konformità bbażata fuq il-valutazzjoni tas-sistema tal-ġestjoni tal-kwalità u fuq il-valutazzjoni tad-dokumentazzjoni teknika. Hu importanti b’mod partikolari li tul il-ħidma preparatorja tagħha, il-Kummissjoni twettaq konsultazzjonijiet xierqa, anke fil-livell ta’ esperti, u li dawk il-konsultazzjonijiet isiru f’konformità mal-prinċipji stabbiliti fil-Ftehim Interistituzzjonali tat-13 ta’ April 2016 dwar it-Tfassil Aħjar tal-Liġijiet (58) . Dawk il-konsultazzjonijiet jenħtieġ li jinvolvu l-parteċipazzjoni ta’ għażla bbilanċjata ta’ partijiet ikkonċernati, inklużi organizzazzjonijiet tal-konsumaturi, is-soċjetà ċivili, assoċjazzjonijiet li jirrappreżentaw lill-persuni affettwati, rappreżentanti ta’ negozji minn setturi differenti u ta’ daqsijiet differenti, kif ukoll riċerkaturi u xjenzati . B’mod partikolari, biex tiġi żgurata parteċipazzjoni ugwali fit-tħejjija tal-atti delegati, il-Parlament Ewropew u l-Kunsill jirċievu d-dokumenti kollha fl-istess ħin li jirċivuhom l-esperti tal-Istati Membri, u l-esperti tagħhom sistematikament ikollhom aċċess għal-laqgħat tal-gruppi ta’ esperti tal-Kummissjoni li jittrattaw it-tħejjija ta’ atti delegati.

(85a)

Minħabba l-iżviluppi teknoloġiċi rapidi u l-għarfien espert tekniku meħtieġ fit-twettiq tal-valutazzjoni tas-sistemi tal-AI b’riskju kbir, jenħtieġ li l-Kummissjoni tirrieżamina regolarment l-implimentazzjoni ta’ dan ir-Regolament, b’mod partikolari s-sistemi tal-AI pprojbiti, l-obbligi ta’ trasparenza u l-lista ta’ żoni b’riskju kbir u każijiet ta’ użu, mill-anqas kull sena, filwaqt li tikkonsulta mal-uffiċċju tal-AI u mal-partijiet ikkonċernati rilevanti.

(87a)

Peress li l-informazzjoni affidabbli dwar l-użu tar-riżorsi u l-enerġija, il-produzzjoni tal-iskart u impatt ambjentali ieħor tas-sistemi tal-AI u t-teknoloġija tal-ICT relatata, inklużi s-software, il-hardware u b’mod partikolari ċ-ċentri tad-data, hija limitata, jenħtieġ li l-Kummissjoni tintroduċi metodoloġija adegwata biex tkejjel l-impatt ambjentali u l-effettività ta’ dan ir-Regolament fid-dawl tal-objettivi ambjentali u klimatiċi tal-Unjoni.

(89)

Il-Kontrollur Ewropew għall-Protezzjoni tad-Data u l-Bord Ewropew għall-Protezzjoni tad-Data ġew ikkonsultati f’konformità mal-Artikolu 42(2) tar-Regolament (UE) 2018/1725 u taw l-opinjoni l-opinjoni tagħhom nhar […]” .

(89)

Il-Kontrollur Ewropew għall-Protezzjoni tad-Data u l-Bord Ewropew għall-Protezzjoni tad-Data ġew ikkonsultati f’konformità mal-Artikolu 42(2) tar-Regolament (UE) 2018/1725 u taw l-opinjoni tagħhom fit-18 ta’ Ġunju 2021 .

1.

(d)

regoli armonizzati tat-trasparenza għas-sistemi tal-AI maħsuba biex jinteraġixxu ma’ persuni fiżiċi, ma’ sistemi ta’ rikonoxximent tal-emozzjonijiet u ma’ sistemi ta’ kategorizzazzjoni bijometrika, u ma’ sistemi tal-AI użati biex jiġġeneraw jew jimmanipulaw kontenut ta’ immaġni, awdjo jew vidjo ;

(d)

regoli armonizzati tat-trasparenza għal ċerti sistemi tal-AI;

(e)

regoli dwar il-monitoraġġ u s-sorveljanza tas-suq.

(e)

regoli dwar il-monitoraġġ tas-suq, is-sorveljanza tas-suq , il-governanza u l-infurzar;

(ea)

miżuri biex jappoġġaw l-innovazzjoni, b’enfasi partikolari fuq l-SMEs u n-negozji ġodda, inkluż għall-istabbiliment ta’ sandboxes regolatorji u miżuri mmirati biex inaqqsu l-piż regolatorju minn fuq l-SMEs u n-negozji ġodda;

(eb)

regoli għall-istabbiliment u l-funzjonament tal-Uffiċċju tal-Intelliġenza Artifiċjali tal-Unjoni (Uffiċċju tal-AI);

(b)

l-utenti tas-sistemi tal-AI li jinsabu fl-Unjoni;

(b)

l-amministraturi tas-sistemi tal-AI li għandhom il-post ta’ stabbiliment tagħhom jew li jinsabu fl-Unjoni;

(c)

il-fornituri u  l-utenti tas-sistemi tal-AI li jinsabu f’xi pajjiż terz, meta l-output prodott mis-sistema jintuża fl-Unjoni;

(c)

il-fornituri u  l-amministraturi tas-sistemi tal-AI li għandhom il-post ta’ stabbiliment tagħhom jew li jinsabu f’pajjiż terz, meta l-liġi ta’ Stat Membru tapplika bis-saħħa ta’ liġi internazzjonali pubblika jew l-output prodott mis-sistema jkun maħsub biex jintuża fl-Unjoni;

(ca)

fornituri li jqiegħdu s-sistemi tal-AI msemmija fl-Artikolu 5 fis-suq jew fis-servizz barra mill-Unjoni meta l-fornitur jew id-distributur ta’ tali sistemi jinsab fl-Unjoni;

(cb)

l-importaturi u d-distributuri tas-sistemi tal-AI kif ukoll ir-rappreżentanti awtorizzati tal-fornituri tas-sistemi tal-AI, meta tali importaturi, distributuri jew rappreżentanti awtorizzati jkollhom l-istabbiliment tagħhom jew ikunu jinsabu fl-Unjoni;

(cc)

persuni affettwati kif definiti fl-Artikolu 3(8a) li jinsabu fl-Unjoni u li s-saħħa, is-sikurezza jew id-drittijiet fundamentali tagħhom jiġu affettwati b’mod negattiv mill-użu ta’ sistema tal-AI li titqiegħed fis-suq jew fis-servizz fl-Unjoni.

(a)

ir-Regolament (KE) Nru 300/2008;

(b)

ir-Regolament (UE) Nru 167/2013;

(c)

ir-Regolament (UE) Nru 168/2013;

(d)

id-Direttiva 2014/90/UE;

(e)

id-Direttiva (UE) 2016/797;

(f)

ir-Regolament (UE) 2018/858;

(g)

ir-Regolament (UE) 2018/1139;

(h)

ir-Regolament (UE) 2019/2144.

(1)

“sistema tal-intelliġenza artifiċjali” (sistema tal-AI) tfisser software li jiġi żviluppat b’teknika u b’approċċ wieħed jew aktar minn fost dawk elenkati fl-Anness I u li jista’ , għal sett partikolari ta’ objettivi definiti mill-bniedem , jiġġenera outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet, jew deċiżjonijiet li jinfluwenzaw l-ambjenti li jinteraġixxu magħhom ;

(1)

“sistema tal-intelliġenza artifiċjali” (sistema tal-AI) tfisser sistema bbażata fuq magni li hija ddisinjata biex topera b’livelli varji ta’ awtonomija u li tista’ , għal objettivi espliċiti u impliċiti , tiġġenera outputs bħal previżjonijiet, rakkomandazzjonijiet, jew deċiżjonijiet li jinfluwenzaw l-ambjenti fiżiċi jew virtwali ;

(1a)

(1b)

(1c)

(1d)

(1e)

(3)