52021IP0405

This document is an excerpt from the EUR-Lex website

EUROPA
EUR-Lex home
EUR-Lex - 52021IP0405 - EN

Help

Search tips

Need more search options? Use the Advanced search

Document 52021IP0405

Help

Riżoluzzjoni tal-Parlament Ewropew tas-6 ta' Ottubru 2021 dwar l-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u mill-awtoritajiet ġudizzjarji f'materji kriminali (2020/2016(INI))

ĠU C 132, 24.3.2022, pp. 17–26 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

HTML

PDF

Official Journal

24.3.2022

Il-Ġurnal Uffiċjali tal-Unjoni Ewropea

C 132/17

P9_TA(2021)0405

L-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u l-awtoritajiet ġudizzjarji f'materji kriminali

(2022/C 132/02)

Il-Parlament Ewropew

—	wara li kkunsidra t-Trattat dwar l-Unjoni Ewropea, b'mod partikolari l-Artikoli 2 u 6 tiegħu, u t-Trattat dwar il-Funzjonament tal-Unjoni Ewropea, b'mod partikolari l-Artikolu 16 tiegħu,

—	wara li kkunsidra l-Karta tad-Drittijiet Fundamentali tal-Unjoni Ewropea (il-“Karta”), b'mod partikolari l-Artikoli 6, 7, 8, 11, 12, 13, 20, 21, 24 u 47 tagħha,

—	wara li kkunsidra l-Konvenzjoni għall-Protezzjoni tad-Drittijiet tal-Bniedem u tal-Libertajiet Fundamentali,

—	wara li kkunsidra l-Konvenzjoni tal-Kunsill tal-Ewropa għall-Protezzjoni ta' Individwi fir-rigward tal-Ipproċessar Awtomatiku ta' Data Personali (STKE 108), u l-protokoll emendatorju tagħha (il-Konvenzjoni 108+),

—	wara li kkunsidra l-Karta Ewropea tal-Etika dwar l-użu tal-intelliġenza artifiċjali fis-sistemi ġudizzjarji u l-ambjent tagħhom tal-Kummissjoni Ewropea għall-Effikaċja tal-Ġustizzja (CEPEJ) tal-Kunsill tal-Ewropa,

—	wara li kkunsidra l-komunikazzjoni tal-Kummissjoni tat-8 ta' April 2019 intitolata “Nibnu l-Fiduċja fl-Intelliġenza Artifiċjali Ċċentrata Fuq il-Bniedem” (COM(2019)0168),

—	wara li kkunsidra l-Linji Gwida dwar l-Etika għal AI Affidabbli ppubblikati mill-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-Intelliġenza Artifiċjali fit-8 ta' April 2019,

—	wara li kkunsidra l-White Paper tal-Kummissjoni tad-19 ta' Frar 2020“L-Intelliġenza Artifiċjali – Approċċ Ewropew għall-eċċellenza u għall-fiduċja” (COM(2020)0065),

—	wara li kkunsidra l-komunikazzjoni tal-Kummissjoni tad-19 ta' Frar 2020 bit-titolu “Strateġija Ewropea għad-data” (COM(2020)0066),

—

wara li kkunsidra r-Regolament (UE) 2016/679 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni tal-persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali u dwar il-moviment liberu ta' tali data, u tħassar id-Direttiva 95/46/KE (Regolament Ġenerali dwar il-Protezzjoni tad-Data) (1),

—

wara li kkunsidra d-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, u dwar il-moviment liberu ta' tali data, u li tħassar id-Deċiżjoni Qafas tal-Kunsill 2008/977/ĠAI (2),

—

wara li kkunsidra r-Regolament (UE) 2018/1725 tal-Parlament Ewropew u tal-Kunsill tat-23 ta' Ottubru 2018 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-istituzzjonijiet, korpi, uffiċċji u aġenziji tal-Unjoni u dwar il-moviment liberu ta' tali data, u li jħassar ir-Regolament (KE) Nru 45/2001 u d-Deċiżjoni Nru 1247/2002/KE (3),

—	wara li kkunsidra d-Direttiva 2002/58/KE tal-Parlament Ewropew u tal-Kunsill tat-12 ta' Lulju 2002 dwar l-ipproċessar tad-data personali u l-protezzjoni tal-privatezza fis-settur tal-komunikazzjoni elettronika (Direttiva dwar il-privatezza u l-komunikazzjoni elettronika) (4),

—

wara li kkunsidra r-Regolament (UE) 2016/794 tal-Parlament Ewropew u tal-Kunsill tal-11 ta' Mejju 2016 dwar l-Aġenzija tal-Unjoni Ewropea għall-Kooperazzjoni fl-Infurzar tal-Liġi (Europol) u li jissostitwixxi u jħassar id-Deċiżjonijiet tal-Kunsill 2009/371/ĠAI, 2009/934/ĠAI, 2009/935/ĠAI, 2009/936/ĠAI u 2009/968/ĠAI (5),

—	wara li kkunsidra r-riżoluzzjoni tiegħu tad-19 ta' Ġunju 2020 dwar il-protesti kontra r-razziżmu wara l-mewt ta' George Floyd (6),

—	wara li kkunsidra r-riżoluzzjoni tiegħu tal-14 ta' Marzu 2017 dwar l-implikazzjonijiet tal-Big Data fuq id-drittijiet fundamentali: il-privatezza, il-protezzjoni tad-data, in-nondiskriminazzjoni, is-sigurtà u l-infurzar tal-liġi (7),

—	wara li kkunsidra s-seduta ta' smigħ fil-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern (LIBE) fl-20 ta' Frar 2020 dwar l-intelliġenza artifiċjali fil-liġi kriminali u l-użu tagħha mill-pulizija u l-awtoritajiet ġudizzjarji f'materji kriminali,

—	wara li kkunsidra r-rapport tal-missjoni LIBE lill-Istati Uniti fi Frar 2020,

—	wara li kkunsidra l-Artikolu 54 tar-Regoli ta' Proċedura tiegħu,

—	wara li kkunsidra l-opinjonijiet tal-Kumitat għas-Suq Intern u l-Ħarsien tal-Konsumatur u tal-Kumitat għall-Affarijiet Legali,

—	wara li kkunsidra r-rapport tal-Kumitat għal-Libertajiet Ċivili, il-Ġustizzja u l-Intern (A9-0232/2021),

billi t-teknoloġiji diġitali b'mod ġenerali u l-proliferazzjoni tal-ipproċessar u l-analitika tad-data mwettqa mill-intelliġenza artifiċjali (IA) b'mod partikolari jġibu magħhom potenzjalità u riskji straordinarji; billi l-iżvilupp fl-IA għamel avvanzi kbar fis-snin reċenti, u b'hekk saret waħda mit-teknoloġiji strateġiċi tas-seklu 21, bil-potenzjal li tiġġenera benefiċċji sostanzjali fl-effiċjenza, il-preċiżjoni u l-konvenjenza, u għalhekk iġġib bidla pożittiva fl-ekonomija u s-soċjetà Ewropej, iżda wkoll riskji kbar għad-drittijiet fundamentali u d-demokraziji bbażati fuq l-istat tad-dritt; billi l-IA m'għandhiex titqies bħala għan aħħari fiha nnifisha, iżda bħala għodda għas-servizz tal-persuni, bl-għan aħħari li żżid il-benesseri tal-bniedem, il-kapaċitajiet tal-bniedem u s-sikurezza;

billi minkejja l-avvanzi kontinwi fil-veloċità tal-ipproċessar tal-kompjuter u l-kapaċità tal-memorja, s'issa għad m'hemm l-ebda programm li jista' jlaħħaq mal-flessibbiltà tal-bniedem fuq oqsma usa' jew f'kompiti li jirrikjedu fehim tal-kuntest jew analiżi kritika; billi, xi applikazzjonijiet tal-IA kisbu l-livelli ta' prestazzjoni ta' esperti umani u professjonisti fit-twettiq ta' ċerti kompiti speċifiċi (eż. teknoloġija legali), u jistgħu jipprovdu riżultati f'veloċità drastikament ogħla u fuq skala ikbar;

billi xi pajjiżi, inklużi bosta Stati Membri, jagħmlu aktar użu mill-applikazzjonijiet tal-IA, jew sistemi tal-IA integrati, fl-infurzar tal-liġi u fil-ġudikatura minn oħrajn, li huwa parzjalment dovut għal nuqqas ta' regolamentazzjoni u differenzi regolatorji li jippermettu jew jipprojbixxu l-użu tal-IA għal ċerti skopijiet; billi l-użu dejjem akbar tal-IA fil-qasam tal-liġi kriminali huwa bbażat b'mod partikolari fuq il-wegħdiet li din tnaqqas ċerti tipi ta' kriminalità u twassal għal deċiżjonijiet aktar oġġettivi; billi dawn il-wegħdiet, madankollu, mhux dejjem huma veri;

billi d-drittijiet u l-libertajiet fundamentali minquxa fil-Karta jenħtieġ li jiġu ggarantiti tul iċ-ċiklu tal-ħajja tal-IA u t-teknoloġiji relatati, b'mod partikolari matul id-disinn, l-iżvilupp, l-introduzzjoni u l-użu tagħhom, u jenħtieġ li japplikaw għall-infurzar tal-liġi fiċ-ċirkostanzi kollha;

billi t-teknoloġija tal-IA jenħtieġ li tiġi żviluppata b'tali mod li tpoġġi lin-nies fiċ-ċentru tagħha, tkun jistħoqqilha l-fiduċja tal-pubbliku u dejjem taħdem għas-servizz tal-bniedem; billi s-sistemi tal-IA jenħtieġ li jkollhom il-garanzija finali li jiġu mfassla b'tali mod li jkunu jistgħu jintfew dejjem minn operatur uman;

billi s-sistemi tal-IA jeħtieġ li jiġu mfassla għall-protezzjoni u l-benefiċċju tal-membri kollha tas-soċjetà (inkluża l-kunsiderazzjoni tal-persuni vulnerabbli u dawk marġinalizzati fit-tfassil tagħhom), ikunu nondiskriminatorji, sikuri, id-deċiżjonijiet tagħhom ikunu jistgħu jiġu spjegati u trasparenti, u jirrispettaw l-awtonomija tal-bniedem u d-drittijiet fundamentali sabiex ikunu affidabbli, kif deskritt fil-Linji Gwida dwar l-Etika tal-Grupp ta' Esperti ta' Livell Għoli dwar l-Intelliġenza Artifiċjali;

billi l-Unjoni, flimkien mal-Istati Membri, għandha r-responsabbiltà kritika li tiżgura li d-deċiżjonijiet li għandhom x'jaqsmu maċ-ċiklu tal-ħajja u l-użu tal-applikazzjonijiet tal-IA fil-qasam tal-ġudikatura u tal-infurzar tal-liġi jsiru b'mod trasparenti, jissalvagwardjaw bis-sħiħ id-drittijiet fundamentali, u b'mod partikolari ma jippermettux it-tkomplija tad-diskriminazzjoni, il-preferenzi jew il-preġudizzji fejn dawn jeżistu; billi l-għażliet ta' politika rilevanti jenħtieġ li jirrispettaw il-prinċipji tan-neċessità u tal-proporzjonalità sabiex jiggarantixxu l-kostituzzjonalità u sistema ġudizzjarja ġusta u umana;

billi l-applikazzjonijiet tal-IA jistgħu joffru opportunitajiet tajbin ħafna fil-qasam tal-infurzar tal-liġi, b'mod partikolari fit-titjib tal-metodi ta' ħidma tal-aġenziji tal-infurzar tal-liġi u l-awtoritajiet ġudizzjarji, u fil-ġlieda kontra ċerti tipi ta' kriminalità b'mod aktar effiċjenti, b'mod partikolari l-kriminalità finanzjarja, il-ħasil tal-flus u l-finanzjament tat-terroriżmu, l-abbuż tat-tfal online u l-isfruttament tat-tfal kif ukoll ċerti tipi ta' ċiberkriminalità, u b'hekk jikkontribwixxu għas-sikurezza u s-sigurtà taċ-ċittadini tal-UE, filwaqt li fl-istess ħin jistgħu jinvolvu riskji sinifikanti għad-drittijiet fundamentali tan-nies; billi kwalunkwe applikazzjoni ġenerali tal-IA għall-fini ta' sorveljanza tal-massa tkun sproporzjonata;

billi l-iżvilupp u l-operazzjoni ta' sistemi tal-IA għall-pulizija u l-awtoritajiet ġudizzjarji jinvolvu l-kontribut ta' diversi individwi, organizzazzjonijiet, komponenti tal-magni, algoritmi tas-software, u utenti umani f'ambjenti ta' spiss kumplessi u li joħolqu sfida; billi l-applikazzjonijiet tal-IA fl-infurzar tal-liġi u l-ġudikatura huma fi stadji differenti ta' żvilupp, li jvarjaw minn kunċettwalizzazzjoni permezz ta' prototipi jew evalwazzjoni sa użu ta' wara l-approvazzjoni; billi possibbiltajiet ġodda għal użu jistgħu jinħolqu fil-futur hekk kif it-teknoloġiji jimmaturaw aktar minħabba r-riċerka xjentifika għaddejja li qed issir madwar id-dinja;

billi huwa imperattiv li jiġi stabbilit mudell ċar għall-assenjazzjoni tar-responsabbiltà legali għall-effetti potenzjali ta' ħsara tas-sistemi tal-IA fil-qasam tal-liġi kriminali; billi d-dispożizzjonijiet regolatorji f'dan il-qasam għandhom dejjem iżommu r-responsabbiltà umana u għandhom jimmiraw, l-ewwel u qabel kollox, li jevitaw li jibdew kwalunkwe effetti ta' ħsara;

K.	billi fl-aħħar mill-aħħar hija r-responsabbiltà tal-Istati Membri li jiggarantixxu r-rispett sħiħ tad-drittijiet fundamentali meta jintużaw sistemi tal-IA fil-qasam tal-infurzar tal-liġi u tal-ġudikatura;

billi r-relazzjoni bejn il-protezzjoni tad-drittijiet fundamentali u policing effettiv għandha dejjem tkun element essenzjali fid-diskussjonijiet dwar jekk l-IA għandhiex tintuża mis-settur tal-infurzar tal-liġi u kif għandha tintuża, fejn id-deċiżjonijiet jista' jkollhom konsegwenzi dejjiema fuq il-ħajja u l-libertà tal-individwi; billi dan huwa partikolarment importanti peress li l-IA għandha l-potenzjal li tkun parti permanenti mill-ekosistema tal-ġustizzja kriminali tagħna billi tipprovdi analiżi investigattiva u assistenza;

billi l-IA li qed tintuża mill-infurzar tal-liġi tinkludi applikazzjonijiet bħat-teknoloġiji tar-rikonoxximent tal-wiċċ, pereżempju biex jiġu mfittxija bażijiet tad-data ta' persuni suspettati u jiġu identifikati vittmi ta' traffikar tal-bnedmin jew ta' sfruttament u abbuż sesswali tat-tfal, tar-rikonoxximent awtomatizzat tal-pjanċi, tal-identifikazzjoni tal-kelliem, tal-identifikazzjoni tad-diskors, teknoloġiji tal-qari tax-xufftejn, is-sorveljanza tas-sinjali akustiċi (jiġifieri algoritmi ta' detezzjoni ta' sparaturi), ir-riċerka u l-analiżi awtonomi ta' bażijiet tad-data identifikati, it-tbassir (l-analitika tal-policing predittiv u tal-hotspots tal-kriminalità), għodod għad-detezzjoni tal-imġiba, għodod avvanzati għall-awtopsja virtwali biex jgħinu jiddeterminaw il-kawża tal-mewt, għodod awtonomi għall-identifikazzjoni tal-frodi finanzjarji u tal-finanzjament tat-terroriżmu, il-monitoraġġ tal-midja soċjali (scraping u ħsad tad-data għal konnessjonijiet ta' estrazzjoni), u sistemi ta' sorveljanza awtomatizzati li jinkorporaw kapaċitajiet differenti ta' detezzjoni (bħad-detezzjoni tat-taħbit tal-qalb u l-kameras termali); billi l-applikazzjonijiet imsemmija hawn fuq, flimkien ma' applikazzjonijiet oħra potenzjali jew futuri tat-teknoloġija tal-IA fl-infurzar tal-liġi, jista' jkollhom gradi li jvarjaw ħafna ta' affidabbiltà u ta' preċiżjoni u impatt fuq il-protezzjoni tad-drittijiet fundamentali u fuq id-dinamika ta' sistemi tal-ġustizzja kriminali; billi ħafna minn dawn l-għodod jintużaw f'pajjiżi mhux fl-UE iżda jkunu illegali taħt l-acquis u l-ġurisprudenza tal-protezzjoni tad-data tal-Unjoni; billi l-implimentazzjoni ta' rutina tal-algoritmi, anke b'rata żgħira ta' pożittivi foloz, tista' tirriżulta f'ħafna aktar twissijiet żbaljati minn twissijiet korretti;

billi l-għodod u l-applikazzjonijiet tal-IA jintużaw ukoll mill-ġudikatura f'bosta pajjiżi madwar id-dinja kollha, inkluż biex jappoġġaw deċiżjonijiet dwar arrest preventiv (qabel is-smigħ tal-kawża), fl-għoti ta' pieni, fil-kalkolu tal-probabbiltajiet għar-reċidività u fid-determinazzjoni tal-probation, fis-soluzzjoni tat-tilwim online, fil-ġestjoni tal-ġurisprudenza u fil-provvediment ta' aċċess iffaċilitat għal-liġi; billi dan wassal għal tfixkil u tnaqqis fl-opportunitajiet għal nies b'kulur tal-ġilda differenti u minoranzi oħra; billi fil-preżent fl-UE, bl-eċċezzjoni ta' xi Stati Membri, l-użu tagħhom huwa limitat prinċipalment għal kwistjonijiet ċivili;

billi l-użu tal-IA fl-infurzar tal-liġi jinvolvi għadd ta' riskji potenzjalment kbar, u f'xi każijiet inaċċettabbli, riskji għall-protezzjoni tad-drittijiet fundamentali tal-individwi, bħat-teħid ta' deċiżjonijiet mhux trasparenti, tipi differenti ta' diskriminazzjoni u żbalji inerenti fl-algoritmu sottostanti li jistgħu jiġu msaħħa bi ċrieki ta' feedback, kif ukoll b'riskji għall-protezzjoni tal-privatezza u tad-data personali, għall-protezzjoni tal-libertà ta' espressjoni u ta' informazzjoni, għall-preżunzjoni ta' innoċenza, għad-dritt għal rimedju effettiv u għal proċess imparzjali, kif ukoll ir-riskji għal-libertà u s-sigurtà tal-individwi;

billi s-sistemi tal-IA użati mill-infurzar tal-liġi u l-ġudikatura huma wkoll vulnerabbli għall-attakki li għandhom il-kapaċità tal-IA kontra s-sistemi ta' informazzjoni jew l-avvelenament tad-data, fejn sett ta' data ħażin jiġi inkluż bl-iskop li jipproduċi riżultati preġudikati; billi f'dawn is-sitwazzjonijiet il-ħsara li tirriżulta hija potenzjalment saħansitra aktar sinifikanti, u tista' tirriżulta f'livelli esponenzjalment ogħla ta' dannu kemm għall-individwi kif ukoll għall-gruppi;

billi l-użu tal-IA fil-qasam tal-infurzar tal-liġi u tal-ġudikatura ma għandux jitqies bħala sempliċi fattibbiltà teknika, iżda pjuttost bħala deċiżjoni politika dwar it-tfassil u l-objettivi tal-infurzar tal-liġi u tas-sistemi tal-ġustizzja kriminali; billi l-liġi kriminali moderna hija bbażata fuq l-idea li l-awtoritajiet jirreaġixxu għal reat wara li jkun sar, mingħajr ma tassumi li n-nies kollha huma perikolużi u jeħtieġu jiġu mmonitorjati b'mod kostanti sabiex tiġi evitata mġiba ħażina potenzjali; billi t-tekniki ta' sorveljanza bbażati fuq l-IA jisfidaw ħafna dan l-approċċ u jagħmluha urġenti li l-leġiżlaturi madwar id-dinja jivvalutaw bir-reqqa l-konsegwenzi li jippermettu l-użu ta' teknoloġiji li jnaqqsu r-rwol tal-bnedmin fl-infurzar tal-liġi u fl-aġġudikazzjoni;

Itenni li, peress li l-ipproċessar ta' kwantitajiet kbar ta' data personali huwa fil-qalba tal-IA, id-dritt għall-protezzjoni tal-ħajja privata u d-dritt għall-protezzjoni tad-data personali japplikaw għall-oqsma kollha tal-IA, u li l-qafas ġuridiku tal-Unjoni għall-protezzjoni tad-data u għall-privatezza jrid jiġi osservat bis-sħiħ; ifakkar, għalhekk, li l-UE diġà stabbiliet standards ta' protezzjoni tad-data għall-infurzar tal-liġi, li jiffurmaw il-pedament għal kwalunkwe regolament futur fl-IA għall-użu tal-infurzar tal-liġi u l-ġudikatura; ifakkar li l-ipproċessar ta' data personali għandu jkun legali u ġust, l-iskopijiet tal-ipproċessar għandhom jiġu speċifikati, ikunu espliċiti u leġittimi, l-ipproċessar għandu jkun adegwat, rilevanti u mhux eċċessiv fir-rigward tal-għan li għalih jiġi pproċessat, għandu jkun preċiż, miżmum aġġornat u data mhux preċiża għandha, sakemm ma jkunux japplikaw restrizzjonijiet, tiġi kkoreġuta jew imħassra, id-data ma għandhiex tinżamm għal aktar żmien milli jkun meħtieġ, għandhom jiġu stabbiliti limiti ta' żmien ċari u xierqa għat-tħassir jew għal rieżami perjodiku tal-ħtieġa għall-ħżin ta' tali data, u għandha tiġi pproċessata b'mod sigur; jissottolinja wkoll li l-identifikazzjoni possibbli ta' individwi permezz ta' applikazzjoni tal-IA bl-użu ta' data li qabel kienet anonimizzata, għandha tiġi evitata;

Jafferma mill-ġdid li s-soluzzjonijiet kollha tal-IA għall-infurzar tal-liġi u l-ġudikatura jeħtieġ ukoll li jirrispettaw bis-sħiħ il-prinċipji tad-dinjità tal-bniedem, tan-nondiskriminazzjoni, tal-libertà tal-moviment, tal-preżunzjoni tal-innoċenza u tad-dritt għad-difiża, inkluż id-dritt li wieħed jibqa' sieket, tal-libertà tal-espressjoni u ta' informazzjoni, tal-libertà ta' għaqda u ta' assoċjazzjoni, tal-ugwaljanza quddiem il-liġi, tal-prinċipju ta' opportunitajiet ugwali għall-partijiet u tad-dritt għal rimedju effettiv u għal proċess ġust, bi qbil mal-Karta u l-Konvenzjoni Ewropea dwar id-Drittijiet tal-Bniedem; jisħaq li l-użu tal-applikazzjonijiet tal-IA jrid jiġi pprojbit meta jkun inkompatibbli mad-drittijiet fundamentali;

Jirrikonoxxi li l-ħeffa li biha l-applikazzjonijiet tal-IA qed jiġu żviluppati madwar id-dinja ma tippermettix elenkar eżawrjenti tal-applikazzjonijiet u għalhekk teħtieġ mudell ta' governanza ċar u koerenti li jiggarantixxi kemm id-drittijiet fundamentali tal-individwi kif ukoll iċ-ċarezza legali għall-iżviluppaturi, meta titqies l-evoluzzjoni kontinwa tat-teknoloġija; iqis, madankollu, minħabba r-rwol u r-responsabbiltà tal-pulizija u l-awtoritajiet ġudizzjarji, u l-impatt tad-deċiżjonijiet li jieħdu għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, li l-użu tal-applikazzjonijiet tal-IA għandu jiġi kategorizzat bħala riskju għoli f'każijiet fejn hemm il-potenzjal li jaffettwaw b'mod sinifikanti l-ħajja tal-individwi;

Iqis, f'dan ir-rigward, li kwalunkwe għodod tal-IA żviluppati jew użati fl-infurzar tal-liġi jew mill-ġudikatura għandhom, bħala minimu, ikunu sikuri, robusti, siguri u adatti għall-iskop tagħhom, jirrispettaw il-prinċipji tal-ekwità, il-minimizzazzjoni tad-data, ir-responsabbiltà, it-trasparenza, in-nondiskriminazzjoni u l-ispjegabbiltà, u li l-iżvilupp, l-implimentazzjoni u l-użu tagħhom għandhom ikun soġġetti għal valutazzjoni tar-riskju u ttestjar strett tan-neċessità u tal-proporzjonalità, meta salvagwardji jeħtieġu jkunu proporzjonali mar-riskji identifikati; jenfasizza li l-fiduċja fost iċ-ċittadini fl-użu tal-IA żviluppata, implimentata u użata fl-UE tiddependi mit-twettiq sħiħ ta' dawn il-kriterji;

Jirrikonoxxi l-kontribut pożittiv ta' ċerti tipi ta' applikazzjonijiet tal-IA għall-ħidma tal-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji madwar l-Unjoni; jenfasizza, bħala eżempju, il-ġestjoni msaħħa tal-ġurisprudenza miksuba permezz ta' għodod li jippermettu għażliet ta' tfittxija addizzjonali; jemmen li hemm firxa ta' użi potenzjali oħra għall-IA għall-infurzar tal-liġi u għall-ġudikatura li jistgħu jiġu esplorati filwaqt li jitqiesu l-ħames prinċipji tal-Karta Etika dwar l-użu tal-intelliġenza artifiċjali fis-sistemi ġudizzjarji u l-ambjent tagħhom, adottata mis-CEPEJ, u b'attenzjoni partikolari għall-“użi li għandhom jitqiesu bl-iktar riżerva estrema”, identifikati mis-CEPEJ;

Jissottolinja li kwalunkwe teknoloġija tista' terġa' tingħata skop ġdid u għalhekk jitlob kontroll u sorveljanza indipendenti demokratiċi stretti ta' kwalunkwe teknoloġija abilitata bl-IA li tintuża mill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji, speċjalment dawk li jistgħu jerġgħu jingħataw skop ġdid għas-sorveljanza tal-massa jew għat-tfassil ta' profili tal-massa; jinnota, għalhekk, bi tħassib kbir il-potenzjal ta' ċerti teknoloġiji tal-IA użati fis-settur tal-infurzar tal-liġi għal skopijiet ta' sorveljanza tal-massa; jenfasizza r-rekwiżit legali li tiġi evitata s-sorveljanza tal-massa permezz tat-teknoloġiji tal-IA, li skont id-definizzjoni ma tissodisfax il-prinċipji tan-neċessità u tal-proporzjonalità, u li jiġi pprojbit l-użu ta' applikazzjonijiet li jistgħu jirriżultaw fiha;

Jenfasizza li l-approċċ meħud f'xi pajjiżi mhux tal-UE rigward l-iżvilupp, l-implimentazzjoni u l-użu ta' teknoloġiji ta' sorveljanza tal-massa jinterferixxi b'mod sproporzjonat mad-drittijiet fundamentali u għalhekk ma għandux jiġi segwit mill-UE; għalhekk, huwa tal-fehma li s-salvagwardji kontra l-użu ħażin tat-teknoloġiji tal-IA mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji wkoll jeħtieġ li jiġu rregolati b'mod uniformi madwar l-Unjoni;

Jenfasizza li hemm il-potenzjal li mill-użu tal-applikazzjonijiet tal-IA bħat-tagħlim awtomatiku jinħolqu l-preġudizzju u d-diskriminazzjoni, inklużi algoritmi fuq liema huma bbażati tali applikazzjonijiet; jinnota li l-preġudizzji jistgħu jkunu inerenti fis-settijiet ta' data sottostanti, speċjalment meta tkun qed tintuża data storika, introdotta mill-iżviluppaturi tal-algoritmi, jew iġġenerata meta s-sistemi jiġu implimentati f'ambjenti reali; jirrimarka li r-riżultati pprovduti mill-applikazzjonijiet tal-IA huma neċessarjament influwenzati mill-kwalità tad-data użata, u li tali preġudizzji inerenti huma inklinati li jiżdiedu gradwalment u b'hekk ikomplu jippermettu u jamplifikaw id-diskriminazzjoni eżistenti, b'mod partikolari għall-persuni li jappartjenu għal ċerti gruppi etniċi jew komunitajiet razzjalizzati;

Jissottolinja l-fatt li ħafna teknoloġiji ta' identifikazzjoni li jaħdmu bl-algoritmi, li attwalment qed jintużaw b'mod sproporzjonat, jidentifikaw u jikklassifikaw ħażin u għalhekk jikkawżaw ħsara lil persuni razzjalizzati, individwi li jappartjenu għal ċerti komunitajiet etniċi, persuni LGBTI, tfal u anzjani, kif ukoll lin-nisa; ifakkar li l-individwi mhux biss għandhom id-dritt li jiġu identifikati b'mod korrett, iżda għandhom ukoll id-dritt li ma jiġu identifikati bl-ebda mod, sakemm ma jkunx rikjest mil-liġi għal interessi pubbliċi konvinċenti u leġittimi; jenfasizza li l-previżjonijiet tal-IA bbażati fuq karatteristiċi ta' grupp speċifiku ta' persuni jispiċċaw ikabbru u jirriproduċu forom eżistenti ta' diskriminazzjoni; iqis li għandhom isiru sforzi qawwija biex jiġu evitati d-diskriminazzjoni u l-preġudizzju awtomatizzati; jitlob salvagwardji addizzjonali robusti meta sistemi tal-IA fl-infurzar tal-liġi jew fil-ġudikatura jintużaw fuq jew fir-rigward ta' minorenni;

10.

Jenfasizza l-asimmetrija tal-poter bejn dawk li jħaddmu t-teknoloġiji tal-IA u dawk li huma soġġetti għalihom; jisħaq li huwa imperattiv li l-użu tal-IA mill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji ma jsirx fattur ta' inugwaljanza, ksur jew esklużjoni soċjali; jissottolinja l-impatt tal-użu tal-għodod tal-IA fuq id-drittijiet tad-difiża tal-persuni suspettati, id-diffikultà biex tinkiseb informazzjoni sinifikanti dwar il-funzjonament tagħhom u d-diffikultà konsegwenti biex jiġu kkontestati r-riżultati tagħhom fil-qorti, b'mod partikolari minn individwi li qed jiġu investigati;

11.

Jieħu nota tar-riskji relatati b'mod partikolari mal-iżvelar illeċitu tad-data, il-ksur tas-sigurtà tad-data u aċċess mhux awtorizzat għal data personali u informazzjoni oħra relatata ma', pereżempju, investigazzjonijiet kriminali jew kawżi tal-qorti li tiġi pproċessata mis-sistemi tal-IA; jissottolinja li l-aspetti tas-sigurtà u s-sikurezza tas-sistemi tal-IA użati fl-infurzar tal-liġi u mill-ġudikatura jeħtieġ li jiġu kkunsidrati bir-reqqa, u jkunu robusti u reżiljenti biżżejjed biex jipprevjenu l-konsegwenzi potenzjalment katastrofiċi ta' attakki malizzjużi fuq is-sistemi tal-IA; jisħaq fuq l-importanza tas-sigurtà mid-disinn, kif ukoll ta' sorveljanza umana speċifika qabel ma joperaw ċerti applikazzjonijiet kritiċi u għalhekk jitlob li l-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji jużaw biss applikazzjonijiet tal-IA li jaderixxu mal-prinċipju tal-privatezza u l-protezzjoni tad-data mid-disinn sabiex tiġi evitata estensjoni indebita tal-użu tad-data (“function creep”);

12.

Jisħaq li l-ebda sistema tal-IA użata fl-infurzar tal-liġi jew mill-ġudikatura m'għandha tiġi attivata biex tkun ta' dannu għall-integrità fiżika tal-bnedmin, u lanqas biex tqassam id-drittijiet jew timponi obbligi legali fuq individwi;

13.

Jirrikonoxxi l-isfidi għal-lokalizzazzjoni korretta tar-responsabbiltà jew obbligu legali għal ħsara potenzjali, minħabba l-kumplessità tal-iżvilupp u l-operat tas-sistemi tal-IA; iqis li huwa meħtieġ li jinħoloq reġim ċar u ġust għall-assenjament tar-responsabbiltà u l-obbligu għall-konsegwenzi negattivi potenzjali li jinħolqu minn dawn it-teknoloġiji diġitali avvanzati; jissottolinja, madankollu, li l-ewwel u qabel kollox, l-għan għandu jkun li jiġi evitat li kwalunkwe tali konsegwenza ssir realtà; jitlob, għalhekk, li jiġi applikat il-prinċipju ta' prekawzjoni għall-applikazzjonijiet kollha tal-IA fil-kuntest tal-infurzar tal-liġi; jissottolinja li r-responsabbiltà u l-obbligu legali jridu dejjem ikunu f'idejn persuna fiżika jew ġuridika, li dejjem trid tiġi identifikata għal deċiżjonijiet meħuda bl-appoġġ tal-IA; jenfasizza, għalhekk, il-ħtieġa li tiġi żgurata t-trasparenza tal-istrutturi korporattivi li jipproduċu u jimmaniġġjaw is-sistemi tal-IA;

14.

Iqis li huwa essenzjali, kemm għall-effettività tal-eżerċitar tad-drittijiet tad-difiża kif ukoll għat-trasparenza tas-sistemi nazzjonali tal-ġustizzja kriminali, li qafas legali speċifiku, ċar u preċiż jirregola l-kundizzjonijiet, il-modalitajiet u l-konsegwenzi tal-użu tal-għodod tal-IA fil-qasam tal-infurzar tal-liġi u fil-ġudikatura, kif ukoll id-drittijiet ta' persuni fil-mira, u proċeduri effettivi u faċilment disponibbli għat-tressiq ta' lmenti u tar-rimedju, inkluż ir-rimedju ġudizzjarju; jissottolinja d-dritt tal-partijiet fi proċediment kriminali li jkollhom aċċess għall-proċess tal-ġbir tad-data u l-valutazzjonijiet relatati magħmula minn jew miksuba permezz tal-użu tal-applikazzjonijiet tal-IA; jenfasizza l-ħtieġa li l-awtoritajiet ta' eżekuzzjoni involuti fil-kooperazzjoni ġudizzjarja, meta jiddeċiedu dwar talba għal estradizzjoni (jew konsenja) lejn Stat Membru ieħor jew pajjiż mhux fl-UE, jivvalutaw jekk l-użu ta' għodod tal-IA fil-pajjiż rikjedenti jistax jikkomprometti b'mod ċar id-dritt fundamentali għal proċess ġust; jistieden lill-Kummissjoni toħroġ linji gwida dwar kif għandha titwettaq valutazzjoni bħal din fil-kuntest tal-kooperazzjoni ġudizzjarja fi kwistjonijiet kriminali; jinsisti li l-Istati Membri, f'konformità mal-liġijiet applikabbli, għandhom jiżguraw li l-individwi jiġu infurmati meta jkunu soġġetti għall-użu tal-applikazzjonijiet tal-IA mill-awtoritajiet tal-infurzar tal-liġi jew mill-ġudikatura;

15.

Jirrimarka li jekk il-bnedmin jiddependu biss mid-data, il-profili u r-rakkomandazzjonijiet iġġenerati mill-magni, mhumiex se jkunu jistgħu jagħmlu valutazzjoni indipendenti; jenfasizza l-konsegwenzi negattivi potenzjalment gravi, b'mod speċifiku fil-qasam tal-infurzar tal-liġi u l-ġustizzja, meta l-individwi jafdaw wisq fin-natura apparentement oġġettiva u xjentifika tal-għodod tal-IA u jonqsu milli jikkunsidraw il-possibbiltà li r-riżultati tagħhom huma skorretti, inkompleti, irrelevanti jew diskriminatorji; jenfasizza d-dipendenza eċċessiva fuq ir-riżultati pprovduti mis-sistemi tal-IA għandha tiġi evitata, u jisħaq fuq il-ħtieġa li l-awtoritajiet jibnu l-fiduċja u l-għarfien biex jiddubitaw rakkomandazzjoni algoritmika jew jinjorawha; iqis li huwa importanti li jkun hemm aspettattivi realistiċi dwar soluzzjonijiet teknoloġiċi bħal dawn u li ma jitwiegħdux soluzzjonijiet perfetti tal-infurzar tal-liġi u l-identifikazzjoni tar-reati kollha mwettqa;

16.

Jissottolinja li fil-kuntesti ġudizzjarji u ta' infurzar tal-liġi, id-deċiżjoni li għandha effett legali jew simili dejjem jeħtieġ li tittieħed minn bniedem, li jista' jinżamm responsabbli għad-deċiżjonijiet meħuda; iqis li dawk soġġetti għal sistemi li jaħdmu bl-IA jrid ikollhom rikors għal rimedju; ifakkar li, skont il-liġi tal-UE, persuna għandha d-dritt li ma tkunx soġġetta għal deċiżjoni li tipproduċi effetti legali li tikkonċernahom jew li taffettwahom b'mod sinifikanti u hija bbażata biss fuq ipproċessar awtomatizzat tad-data; jenfasizza wkoll li t-teħid ta' deċiżjonijiet individwali awtomizzat m'għandux ikun ibbażat fuq kategoriji speċjali ta' data personali, sakemm ma jkunux fis-seħħ miżuri xierqa biex jiġu mħarsa d-drittijiet u l-libertajiet u l-interessi leġittimi tas-suġġett tad-data; jisħaq li l-liġi tal-UE tipprojbixxi t-tfassil ta' profil li jirriżulta f'diskriminazzjoni kontra persuni fiżiċi abbażi ta' kategoriji speċjali ta' data personali; jenfasizza li d-deċiżjonijiet fil-qasam tal-infurzar tal-liġi huma kważi dejjem deċiżjonijiet li jkollhom effett legali fuq il-persuna kkonċernata, minħabba n-natura eżekuttiva tal-awtoritajiet tal-infurzar tal-liġi u l-azzjonijiet tagħhom; jinnota li l-użu tal-IA jista' jinfluwenza d-deċiżjonijiet tal-bniedem u jkollu impatt fuq il-fażijiet kollha tal-proċeduri kriminali; huwa tal-fehma, għalhekk, li l-awtoritajiet li jagħmlu użu mis-sistemi tal-IA jeħtieġ li jżommu standards legali estremament għoljin u jiżguraw l-intervent tal-bniedem, speċjalment meta janalizzaw data li tirriżulta minn tali sistemi; jirrikjedi għalhekk li jiġu rrispettati d-diskrezzjoni sovrana tal-imħallfin u t-teħid ta' deċiżjonijiet abbażi ta' każ b'każ; jitlob il-projbizzjoni fuq l-użu tal-IA u teknoloġiji relatati għall-proposti ta' deċiżjonijiet ġudizzjarji;

17.

Jitlob li jkun hemm spjegabbiltà, trasparenza, traċċabbiltà u verifika algoritmiċi bħala parti neċessarja tas-sorveljanza, sabiex jiġi żgurat li l-iżvilupp, l-implimentazzjoni u l-użu ta' sistemi tal-IA għall-ġudikatura u l-infurzar tal-liġi jkunu konformi mad-drittijiet fundamentali, u jkunu fdati miċ-ċittadini, kif ukoll sabiex jiġi żgurat li r-riżultati ġġenerati mill-algoritmi tal-IA jkunu jistgħu jsiru intelliġibbli għall-utenti u għal dawk soġġetti għal dawn is-sistemi, u li jkun hemm trasparenza dwar is-sors tad-data u dwar kif is-sistema waslet għal ċerta konklużjoni; jirrimarka li sabiex jiġu żgurati t-trasparenza, ir-robustezza, u l-preċiżjoni tekniċi, tali għodod u sistemi biss għandhom jitħallew jinxtraw mill-awtoritajiet tal-infurzar tal-liġi jew ġudizzjarji fl-Unjoni li l-algoritmi u l-loġika tagħhom jistgħu jiġu awditjati u aċċessibbli tal-inqas għall-pulizija u għall-ġudikatura kif ukoll għall-awdituri indipendenti, biex jippermettu l-evalwazzjoni, l-awditjar u l-iskrutinju tagħhom, u li ma għandhomx jingħalqu jew jiġu ttikkettati bħala proprjetarji mill-bejjiegħa; jirrimarka li, barra minn hekk, dik id-dokumentazzjoni għandha tiġi pprovduta b'lingwaġġ ċar u li jinftiehem dwar in-natura tas-servizz, l-għodod żviluppati, il-prestazzjoni u l-kundizzjonijiet li bihom jista' jkun mistenni li jiffunzjonaw u r-riskji li jistgħu jikkawżaw; jistieden għalhekk lill-awtoritajiet ġudizzjarji u tal-infurzar tal-liġi jipprevedu trasparenza proattiva u sħiħa dwar kumpaniji privati li jipprovdulhom sistemi tal-IA għall-finijiet tal-infurzar tal-liġi u tal-ġudikatura; jirrakkomanda għalhekk l-użu ta' software b'sors miftuħ fejn possibbli;

18.

Iħeġġeġ lill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji jidentifikaw u jivvalutaw l-oqsma fejn xi soluzzjonijiet tal-IA mfassla apposta jistgħu jkunu ta' benefiċċju u jiskambjaw l-aħjar prattiki dwar l-implimentazzjoni tal-IA; jitlob li l-Istati Membri u l-aġenziji tal-UE jadottaw proċessi xierqa ta' akkwist pubbliku għas-sistemi tal-IA meta jintużaw f'kuntest ġudizzjarju jew ta' infurzar tal-liġi, sabiex tiġi żgurata l-konformità tagħhom mad-drittijiet fundamentali u mal-leġiżlazzjoni applikabbli, inkluż l-iżgurar li d-dokumentazzjoni tas-software u l-algoritmi jkunu disponibbli u aċċessibbli għall-awtoritajiet kompetenti u superviżorji għal rieżami; jitlob, b'mod partikolari, li jkun hemm regoli vinkolanti li jirrikjedu żvelar pubbliku dwar sħubijiet, kuntratti u akkwisti pubbliċi-privati u l-iskop li għalih jiġu akkwistati; jisħaq fuq il-ħtieġa li l-awtoritajiet jiġu pprovduti bil-finanzjament meħtieġ, kif ukoll li jgħammruhom bl-għarfien espert meħtieġ biex jiggarantixxu konformità sħiħa mar-rekwiżiti etiċi, legali u tekniċi marbuta mal-implimentazzjoni tal-IA;

19.

Jitlob li jkun hemm traċċabbiltà tas-sistemi tal-IA u l-proċess tat-teħid tad-deċiżjonijiet li tispjega l-funzjonijiet tagħhom, tiddefinixxi l-kapaċitajiet u l-limitazzjonijiet tas-sistemi, u li żżomm rekord ta' minn fejn ikunu oriġinaw l-attributi definittivi għal deċiżjoni, permezz ta' dokumentazzjoni obbligatorja; jissottolinja l-importanza li tinżamm dokumentazzjoni sħiħa tad-data dwar it-taħriġ, il-kuntest, l-għan, il-preċiżjoni u l-effetti sekondarji tagħha, kif ukoll l-ipproċessar tagħha minn dawk li jibnu u jiżviluppaw l-algoritmi u l-konformità tagħha mad-drittijiet fundamentali; jenfasizza li dejjem irid ikun possibbli li l-komputazzjonijiet ta' sistema tal-IA jiġu ridotti għal forma li tinftiehem mill-bniedem;

20.

Jitlob li, qabel ma tiġi implimentata jew varata kwalunkwe sistema tal-IA għall-infurzar tal-liġi jew għall-ġudikatura, issir valutazzjoni obbligatorja tal-impatt fuq id-drittijiet fundamentali ħalli jiġi vvalutat kwalunkwe riskju potenzjali għad-drittijiet fundamentali; ifakkar li l-valutazzjoni minn qabel tal-impatt fuq il-protezzjoni tad-data hija obbligatorja għal kwalunkwe tip ta' proċessar, b'mod partikolari, bl-użu ta' teknoloġiji ġodda, li x'aktarx tirriżulta f'riskju għoli għad-drittijiet u l-libertajiet ta' persuni fiżiċi u huwa tal-fehma li dan huwa l-każ għall-biċċa l-kbira tat-teknoloġiji tal-IA fil-qasam tal-infurzar tal-liġi u l-ġudikatura; jissottolinja l-għarfien espert tal-awtoritajiet għall-protezzjoni tad-data u tal-aġenziji tad-drittijiet fundamentali fil-valutazzjoni ta' dawn is-sistemi; jisħaq li dawn il-valutazzjonijiet tal-impatt tad-drittijiet fundamentali għandhom jitwettqu b'mod kemm jista' jkun miftuħ u bl-involviment attiv tas-soċjetà ċivili; jitlob li l-valutazzjonijiet tal-impatt jiddefinixxu wkoll b'mod ċar is-salvagwardji meħtieġa biex jiġu indirizzati r-riskji identifikati u li dawn isiru, kemm jista' jkun possibbli, disponibbli għall-pubbliku qabel l-implimentazzjoni ta' kwalunkwe sistema tal-IA;

21.

Jisħaq li governanza Ewropea robusta tal-IA b'evalwazzjoni indipendenti biss tista' tippermetti l-operazzjonalizzazzjoni meħtieġa tal-prinċipji tad-drittijiet fundamentali; jitlob li jsir awditjar perjodiku obbligatorju tas-sistemi kollha tal-IA li jintużaw mill-infurzar tal-liġi u mill-ġudikatura, fejn hemm il-potenzjal li dawn jaffettwaw b'mod sinifikanti l-ħajja ta' individwi, minn awtorità indipendenti, biex jiġu ttestjati u evalwati sistemi algoritmiċi, fil-kuntest, l-iskop, il-preċiżjoni, il-prestazzjoni u l-iskala tagħhom u, ladarba jkunu qed joperaw, sabiex jiġu identifikati, investigati, dijanjostikati u rettifikati kwalunkwe effett mhux mixtieq u kwalunkwe effett negattiv u jiġi żgurat li s-sistemi tal-IA qed jaħdmu kif maħsub; jitlob għalhekk li jkun hemm qafas istituzzjonali ċar għal dan il-għan, inkluża sorveljanza regolatorja u superviżorja xierqa, biex tiġi żgurata implimentazzjoni sħiħa u biex jiġi garantit dibattitu demokratiku infurmat bis-sħiħ dwar in-neċessità u l-proporzjonalità tal-IA fil-qasam tal-ġustizzja kriminali; jissottolinja li r-riżultati ta' dan l-awditjar għandhom isiru disponibbli fir-reġistri pubbliċi sabiex iċ-ċittadini jkunu jafu s-sistemi tal-IA li qed jiġu implimentati u liema miżuri qed jittieħdu biex jiġi rimedjat kwalunkwe ksur tad-drittijiet fundamentali;

22.

Jisħaq li s-settijiet tad-data u s-sistemi algoritmiċi li jintużaw meta jsiru l-klassifikazzjonijiet, il-valutazzjonijiet u l-previżjonijiet fl-istadji differenti tal-ipproċessar tad-data fl-iżvilupp tal-IA u teknoloġiji relatati jistgħu jirriżultaw ukoll fi trattament differenzjali u diskriminazzjoni diretta kif ukoll indiretta ta' gruppi ta' persuni, speċjalment peress li data użata biex jiġu mgħallma algoritmi ta' policing predittiv tirrifletti prijoritajiet ta' sorveljanza għaddejja bħalissa u konsegwentement tista' tirriżulta fir-riproduzzjoni u l-amplifikazzjoni ta' preġudizzji attwali; jenfasizza għalhekk li t-tekonoloġiji tal-IA, speċjalment meta jiġu implimentati għall-użu tal-infurzar tal-liġi u l-ġudikatura, jirrikjedu riċerka u kontribut interdixxiplinarji, inkluż mill-oqsma ta' studji xjentifiċi u teknoloġiċi, studji kritiċi ta' razez, studji dwar id-diżabbiltà, u dixxiplini oħra adattati għall-kuntest soċjali, filwaqt li jinkludu l-mod ta' kif inhi mibnija d-differenza, ix-xogħol ta' klassifikazzjoni, u l-konsegwenzi tagħha; jisħaq għalhekk fuq il-ħtieġa għal investiment b'mod sistematiku fl-integrazzjoni ta' dawn id-dixxiplini fl-istudju u fir-riċerka tal-IA fil-livelli kollha; jisħaq ukoll fuq l-importanza li t-timijiet li jfasslu, jiżviluppaw, jittestjaw, iżommu, jimplimentaw u jakkwistaw dawn is-sistemi tal-IA għall-infurzar tal-liġi u l-ġudikatura, jirriflettu fejn possibbli d-diversità tas-soċjetà b'mod ġenerali bħala mezz mhux tekniku biex jitnaqqsu r-riskji ta' diskriminazzjoni;

23.

Jenfasizza wkoll li l-obbligu ta' rendikont u r-responsabbiltà xierqa jirrikjedu taħriġ speċjalizzat sinifikanti fir-rigward tad-dispożizzjonijiet etiċi, il-perikli potenzjali, il-limitazzjonijiet, u l-użu xieraq tat-teknoloġija tal-IA, speċjalment għall-persunal tal-pulizija u tal-ġudikatura; jenfasizza li taħriġ professjonali u kwalifiki xierqa għandhom jiżguraw li dawk li jieħdu d-deċiżjonijiet ikunu mħarrġa dwar il-potenzjal għal preġudizzju, peress li s-settijiet ta' data jistgħu jkunu bbażati fuq data diskriminatorja u preġudikata; jappoġġja t-twaqqif ta' inizjattivi ta' sensibilizzazzjoni u edukattivi biex jiġi żgurat li individwi li jaħdmu fl-infurzar tal-liġi jew il-ġudikatura jkunu konxji u jifhmu l-limitazzjonijiet, il-kapaċitajiet u r-riskji li jinvolvi l-użu tas-sistemi tal-IA, inkluż ir-riskju ta' preġudizzju ta' awtomatizzazzjoni; ifakkar li l-inklużjoni ta' settijiet ta' data ta' taħriġ dwar l-IA ta' każijiet ta' razziżmu mill-forzi tal-pulizija fit-twettiq tad-dmirijiet tagħhom inevitabbilment se twassal għal preġudizzju razzista f'sejbiet, punteġġi u rakkomandazzjonijiet iġġenerati mill-IA; itenni għalhekk it-talba tiegħu lill-Istati Membri biex jippromovu politiki kontra d-diskriminazzjoni u biex jiżviluppaw pjanijiet ta' azzjoni nazzjonali kontra r-razziżmu fil-qasam tal-policing u tas-sistema tal-ġustizzja;

24.

Jinnota li l-policing predittiv huwa fost l-applikazzjonijiet tal-IA użati fil-qasam tal-infurzar tal-liġi, iżda jwissi li filwaqt li policing predittiv jista' janalizza s-settijiet ta' data mogħtija għall-identifikazzjoni ta' mudelli u korrelazzjonijiet, ma jistax iwieġeb għall-mistoqsija tal-kawżalità u ma jistax jagħmel predizzjonijiet affidabbli dwar l-imġiba individwali, u għalhekk ma jistax jikkostitwixxi l-unika bażi għal intervent; jirrimarka li diversi bliet fl-Istati Uniti temmew l-użu tagħhom ta' sistemi ta' policing predittiv wara li saru awditi; ifakkar li matul il-missjoni tal-Kumitat LIBE fl-Istati Uniti fi Frar 2020, il-Membri ġew infurmati mid-dipartimenti tal-pulizija tal-Belt ta' New York u Cambridge, Massachusetts, li gradwalment huma kienu eliminaw il-programmi ta' policing predittiv tagħhom minħabba nuqqas ta' effettività, l-impatt diskriminatorju u l-falliment fil-prattika, u minflok bdew jużaw is-sorveljanza tal-komunità; jinnota li dan wassal għal tnaqqis fir-rati ta' kriminalità; jopponi, għalhekk, l-użu tal-IA mill-awtoritajiet tal-infurzar tal-liġi biex isiru previżjonijiet komportamentali fuq individwi jew gruppi abbażi ta' data storika u mġiba fil-passat, sħubija fi grupp, post, jew kwalunkwe karatteristika oħra bħal din, u b'hekk jipprova jidentifika persuni li x'aktarx iwettqu reat;

25.

Jinnota t-tipi differenti ta' użu tar-rikonoxximent tal-wiċċ, bħal, iżda mhux limitat għal, verifika/awtentikazzjoni (jiġifieri tqabbil ta' wiċċ dirett ma' ritratt f'dokument tal-identità, eż. fruntiera intelliġenti), identifikazzjoni (jiġifieri tqabbil ta' ritratt ma' sett ta' bażi tad-data ta' ritratti) u detezzjoni (jiġifieri l-identifikazzjoni ta' uċuħ f'ħin reali minn sorsi bħal filmati tas-CCTV, u t-tqabbil tagħhom ma' bażijiet tad-data, eż. sorveljanza f'ħin reali), li kull wieħed minnhom għandu implikazzjonijiet differenti għall-protezzjoni tad-drittijiet fundamentali; jemmen bis-sħiħ li l-implimentazzjoni ta' sistemi ta' rikonoxximent tal-wiċċ mill-infurzar tal-liġi għandu jkun limitat għal skopijiet iġġustifikati b'mod ċar b'rispett sħiħ tal-prinċipji tal-proporzjonalità u n-neċessità u l-liġi applikabbli; jafferma mill-ġdid li bħala minimu, l-użu tat-teknoloġija ta' rikonoxximent tal-wiċċ irid ikun konformi mar-rekwiżiti ta' minimizzazzjoni tad-data, il-preċiżjoni tad-data, il-limitazzjoni tal-ħażna, is-sigurtà tad-data u r-responsabbiltà, kif ukoll għandu jkun legali, ġust u trasparenti, u jsegwi skop speċifiku, espliċitu u leġittimu li huwa ddefinit b'mod ċar fil-liġi tal-Istati Membri jew fil-liġi tal-Unjoni; huwa tal-opinjoni li s-sistemi ta' verifika u awtentikazzjoni jistgħu jkomplu jiġu implimentati u jintużaw b'suċċess biss jekk l-effetti avversi tagħhom jistgħu jittaffew u jiġu ssodisfati l-kriterji ta' hawn fuq;

26.

Jitlob, barra minn hekk, il-projbizzjoni permanenti tal-użu ta' analiżi awtomatizzata u/jew rikonoxximent fi spazji aċċessibbli għall-pubbliku ta' karatteristiċi umani oħra, bħall-mod kif wieħed jimxi, il-marki tas-swaba', id-DNA, il-vuċi, u sinjali bijometriċi u komportamentali oħra;

27.

Jitlob, madankollu, għal moratorju fuq l-implimentazzjoni ta' sistemi ta' rikonoxximent tal-wiċċ għall-finijiet tal-infurzar tal-liġi li għandhom il-funzjoni tal-identifikazzjoni, sakemm jintużaw biss għall-finijiet tal-identifikazzjoni ta' vittmi ta' kriminalità, sa meta l-istandards tekniċi jkunu jistgħu jitqiesu li huma konformi bis-sħiħ mad-drittijiet fundamentali, ir-riżultati miksuba ma jkunux preġudikati u diskriminatorji, il-qafas legali jipprovdi salvagwardji stretti kontra l-użu ħażin u kontroll demokratiku u sorveljanza stretti, u jkun hemm evidenza empirika fuq in-neċessità u l-proporzjonalità għall-implimentazzjoni ta' dawn it-teknoloġiji; jinnota li fejn il-kriterji ta' hawn fuq ma jiġux issodisfati, is-sistemi m'għandhomx jintużaw jew jiġu implimentati;

28.

Jesprimi t-tħassib serju tiegħu dwar l-użu ta' bażijiet tad-data privati ta' rikonoxximent tal-wiċċ minn atturi tal-infurzar tal-liġi u servizzi tal-intelligence, bħal Clearview AI, bażi tad-data ta' aktar minn tliet biljun stampa li nġabru illegalment minn fuq in-networks soċjali u partijiet oħra tal-internet, inkluż minn ċittadini tal-UE; jistieden lill-Istati Membri jobbligaw l-atturi tal-infurzar tal-liġi biex jiżvelaw jekk humiex qed jużaw it-teknoloġija Clearview AI, jew teknoloġiji ekwivalenti minn fornituri oħrajn; ifakkar fl-opinjoni tal-Bord Ewropew għall-Protezzjoni tad-Data (EDPB) li l-użu ta' servizz bħal Clearview AI mill-awtoritajiet tal-infurzar tal-liġi fl-Unjoni Ewropea “x'aktarx ma jkunx konsistenti mar-reġim ta' protezzjoni tad-data tal-UE”; jitlob li jiġi pprojbit l-użu ta' bażijiet tad-data privati ta' rikonoxximent tal-wiċċ fl-infurzar tal-liġi;

29.

Jieħu nota tal-istudju ta' fattibbiltà tal-Kummissjoni dwar bidliet possibbli fid-Deċiżjoni ta' Prüm (8), inkluż rigward l-istampi tal-wiċċ; jieħu nota ta' riċerka preċedenti li m'hemmx identifikaturi potenzjali ġodda, pereżempju rikonoxximent tal-iris jew tal-wiċċ, ikunu daqshekk affidabbli f'kuntest forensiku bħad-DNA jew il-marki tas-swaba'; ifakkar lill-Kummissjoni li kwalunkwe proposta leġiżlattiva għandha tkun ibbażata fuq l-evidenza u tirrispetta l-prinċipju tal-proporzjonalità; iħeġġeġ lill-Kummissjoni ma testendix il-qafas tad-Deċiżjoni ta' Prüm sakemm ikun hemm evidenza xjentifika soda tal-affidabbiltà tar-rikonoxximent tal-wiċċ f'kuntest forensiku meta mqabbel mad-DNA jew il-marki tas-swaba', wara li tkun wettqet valutazzjoni sħiħa tal-impatt, u filwaqt li jitqiesu r-rakkomandazzjonijiet tal-Kontrollur Ewropew għall-Protezzjoni tad-Data (EDPS) u l-EDPB;

30.

Jisħaq li l-użu ta' data bijometrika huwa relatat b'mod aktar wiesa' mal-prinċipju tad-dritt għad-dinjità tal-bniedem li jifforma l-bażi tad-drittijiet fundamentali kollha ggarantiti mill-Karta; iqis li l-użu u l-ġbir ta' kwalunkwe data bijometrika għal skopijiet ta' identifikazzjoni remota, pereżempju billi jitwettaq rikonoxximent tal-wiċċ f'postijiet pubbliċi, kif ukoll fi dħul ta' kontroll awtomatiku fil-fruntieri li jintuża għall-verifiki fil-fruntieri fl-ajruporti, jistgħu joħolqu riskji speċifiċi għad-drittijiet fundamentali, li l-implikazzjonijiet tagħhom jistgħu jvarjaw b'mod konsiderevoli skont ir-raġuni, il-kuntest u l-iskop tal-użu; jenfasizza wkoll il-validità xjentifika kkontestata tat-teknoloġija tar-rikonoxximent emozzjonali, bħal kameras li jidentifikaw il-movimenti tal-għajnejn u l-bidliet fid-daqs tal-ħabba tal-għajn, f'kuntest tal-infurzar tal-liġi; huwa tal-fehma li l-użu ta' identifikazzjoni bijometrika fil-kuntest tal-infurzar tal-liġi u tal-ġudikatura għandu dejjem jitqies bħala “riskju għoli” u għalhekk għandu jkun soġġett għal rekwiżiti addizzjonali, skont ir-rakkomandazzjonijiet tal-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-IA;

31.

Jesprimi tħassib kbir dwar il-proġetti ta' riċerka ffinanzjati taħt Orizzont 2020 li jimplimentaw l-intelliġenza artifiċjali fuq fruntieri esterni, bħall-proġett iBorderCtrl, “sistema intelliġenti li tidentifika l-gideb” li tfassal profili ta' vjaġġaturi abbażi ta' intervista awtomatizzata bil-kompjuter meħuda mill-webcam tal-vjaġġatur qabel il-vjaġġ, u analiżi bbażata fuq l-intelliġenza artifiċjali ta' 38 sinjal mikro, ittestjati fl-Ungerija, il-Latvja u l-Greċja; jistieden lill-Kummissjoni, għalhekk, timplimenta, permezz ta' mezzi leġiżlattivi u mhux leġiżlattivi, u jekk ikun meħtieġ permezz ta' proċedimenti ta' ksur, projbizzjoni fuq kwalunkwe pproċessar ta' data bijometrika inklużi stampi tal-wiċċ, għall-finijiet tal-infurzar tal-liġi li twassal għal sorveljanza tal-massa fi spazji aċċessibbli għall-pubbliku; jistieden ukoll lill-Kummissjoni twaqqaf il-finanzjament tar-riċerka bijometrika jew tal-implimentazzjoni ta' programmi li jistgħu jirriżultaw fis-sorveljanza indiskriminata tal-massa fi spazji pubbliċi; jenfasizza, f'dan il-kuntest, li għandha tingħata attenzjoni speċjali, u għandu jiġi applikat qafas strett, għall-użu tad-droni fl-operazzjonijiet tal-pulizija;

32.

Jappoġġja r-rakkomandazzjonijiet tal-Grupp ta' Esperti ta' Livell Għoli tal-Kummissjoni dwar l-IA favur il-projbizzjoni tal-punteġġ tal-individwi abilitat bl-IA fuq skala enormi; iqis li kwalunkwe forma ta' punteġġ taċ-ċittadini normattiv fuq skala enormi mill-awtoritajiet pubbliċi, b'mod partikolari fil-qasam tal-infurzar tal-liġi u l-ġudikatura, iwassal għat-telf tal-awtonomija, jipperikola l-prinċipju tan-nondiskriminazzjoni u ma jistax jitqies konformi mad-drittijiet fundamentali, b'mod partikolari d-dinjità tal-bniedem, kif kodifikat fil-liġi tal-UE;

33.

Jitlob li jkun hemm aktar trasparenza ġenerali sabiex ikun hemm fehim komprensiv rigward l-użu tal-applikazzjonijiet tal-IA fl-Unjoni; jitlob lill-Istati Membri jipprovdu informazzjoni komprensiva dwar l-għodod użati mill-awtoritajiet tal-infurzar tal-liġi u ġudizzjarji tagħhom, it-tipi ta' għodda li jintużaw, l-iskopijiet li għalihom jintużaw, it-tipi ta' reati għal liema jiġu applikati, u l-ismijiet tal-kumpaniji jew l-organizzazzjonijiet li żviluppaw dawk l-għodod; jistieden lill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji biex jinfurmaw lill-pubbliku u jipprovdu trasparenza suffiċjenti dwar l-użu tagħhom tal-IA u teknoloġiji relatati meta jimplimentaw is-setgħat tagħhom, inkluż l-iżvelar ta' rati pożittivi foloz u negattivi foloz tat-teknoloġija inkwistjoni; jitlob li l-Kummissjoni tiġbor u taġġorna l-informazzjoni f'post wieħed; jistieden lill-Kummissjoni tippubblika u taġġorna wkoll informazzjoni dwar l-użu tal-IA mill-aġenziji tal-Unjoni inkarigati b'kompiti ta' infurzar tal-liġi u dawk ġudizzjarji; jistieden lill-EDPB jivvaluta l-legalità ta' dawn it-teknoloġiji u l-applikazzjonijiet tal-IA li qed jintużaw mill-awtoritajiet tal-infurzar tal-liġi u mill-ġudikatura;

34.

Ifakkar li l-applikazzjonijiet tal-IA, inklużi dawk li jintużaw fil-kuntest tal-infurzar tal-liġi u tal-ġudikatura, qed jiġu żviluppati globalment b'pass mgħaġġel; iħeġġeġ lill-partijiet interessati Ewropej kollha, inklużi l-Istati Membri u l-Kummissjoni, jiżguraw, permezz tal-kooperazzjoni internazzjonali, l-involviment tas-sħab barra mill-UE sabiex jgħollu l-istandards fil-livell internazzjonali u jsibu qafas legali u etiku komuni u komplementari għall-użu tal-IA, b'mod partikolari għall-infurzar tal-liġi u l-ġudikatura, li jirrispetta bis-sħiħ il-Karta, l-acquis Ewropew dwar il-protezzjoni tad-data u d-drittijiet tal-bniedem b'mod aktar wiesa';

35.

Jitlob lill-Aġenzija tal-UE għad-Drittijiet Fundamentali, f'kollaborazzjoni mal-EDPB u l-EDPS, tabbozza linji gwida, rakkomandazzjonijiet u l-aħjar prattiki komprensivi sabiex tispeċifika aktar il-kriterji u l-kundizzjonijiet għall-iżvilupp, l-użu u l-implimentazzjoni tal-applikazzjonijiet u s-soluzzjonijiet tal-IA għall-użu mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji; jimpenja ruħu li jwettaq studju dwar l-implimentazzjoni tad-Direttiva dwar l-Infurzar tal-Liġi (9) sabiex jidentifika kif il-protezzjoni tad-data personali ġiet żgurata f'attivitajiet ta' pproċessar mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji, b'mod partikolari meta jkunu qed jiżviluppaw jew jużaw teknoloġiji ġodda; jistieden lill-Kummissjoni, barra minn hekk, tikkunsidra jekk hijiex meħtieġa azzjoni leġiżlattiva speċifika dwar l-ispeċifikazzjoni ulterjuri tal-kriterji u l-kundizzjonijiet għall-iżvilupp, l-użu u l-implimentazzjoni tal-applikazzjonijiet u s-soluzzjonijiet tal-IA mill-awtoritajiet tal-infurzar tal-liġi u dawk ġudizzjarji;

36.

Jagħti istruzzjonijiet lill-President tiegħu biex jgħaddi din ir-riżoluzzjoni lill-Kunsill u lill-Kummissjoni.

(1) ĠU L 119, 4.5.2016, p. 1.

(2) ĠU L 119, 4.5.2016, p. 89.

(3) ĠU L 295, 21.11.2018, p. 39.

(4) ĠU L 201, 31.7.2002, p. 37.

(5) ĠU L 135, 24.5.2016, p. 53.

(6) ĠU C 362, 8.9.2021, p. 63.

(7) ĠU C 263, 25.7.2018, p. 82.

(8) Deċiżjoni tal-Kunsill 2008/615/ĠAI tat-23 ta' Ġunju 2008 dwar it-titjib tal-koperazzjoni transkonfinali, b'mod partikolari fil-ġlieda kontra t-terroriżmu u l-kriminalità transkonfinali. (ĠU L 210, 6.8.2008, p. 1).

(9) Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta' April 2016 dwar il-protezzjoni ta' persuni fiżiċi fir-rigward tal-ipproċessar ta' data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta' reati kriminali jew l-eżekuzzjoni ta' pieni kriminali, u dwar il-moviment liberu ta' tali data, u li tħassar id-Deċiżjoni Qafas tal-Kunsill 2008/977/ĠAI (ĠU L 119, 4.5.2016, p. 89).

Top

Choose the experimental features you want to try