IL-KUMMISSJONI EWROPEA

Brussell, 19.2.2020

COM(2020) 65 final

WHITE PAPER

White Paper dwar l-Intelliġenza Artifiċjali - Approċċ Ewropew għall-eċċellenza u għall-fiduċja

White Paper dwar l-Intelliġenza Artifiċjali

Approċċ Ewropew għall-eċċellenza u għall-fiduċja

L-Intelliġenza Artifiċjali qed tiżviluppa b’rata mgħaġġla. Din se tibdlilna ħajjitna billi ttejjeb il-kura tas-saħħa (eż. billi tagħmel id-dijanjożi aktar preċiża u tippermetti prevenzjoni aħjar tal-mard), iżżid l-effiċjenza tas-sistemi tal-biedja, tikkontribwixxi għall-mitigazzjoni u għall-adattament għat-tibdil fil-klima, ittejjeb l-effiċjenza tas-sistemi ta’ produzzjoni permezz tal-manutenzjoni predittiva, iżżid is-sigurtà tal-Ewropej, u b’ħafna modi oħra li nistgħu biss nibdew nimmaġinaw. Fl-istess ħin, l-Intelliġenza Artifiċjali (IA) tinvolvi għadd ta’ riskji potenzjali, bħat-teħid ta’ deċiżjonijiet mhux trasparenti, id-diskriminazzjoni bbażata fuq il-ġeneru jew tipi oħra ta’ diskriminazzjoni, intrużjoni fil-ħajjiet privati tagħna jew ir-riskju li tintuża għal skopijiet kriminali.

Fl-isfond ta’ kompetizzjoni globali ħarxa, hemm bżonn approċċ Ewropew sod, li jibni fuq l-istrateġija Ewropea għall-Intelliġenza Artifiċjali ppreżentata f’April 2018 1 . Sabiex tindirizza l-opportunitajiet u l-isfidi tal-Intelliġenza Artifiċjali, l-UE trid taġixxi bħala entità waħda u tiddefinixxi t-triq tagħha stess, abbażi tal-valuri Ewropej, biex tippromwovi l-iżvilupp u l-varar tal-IA.

Il-Kummissjoni hija impenjata li tiftaħ il-bibien għal skoperti xjentifiċi kbar, tippreserva t-tmexxija teknoloġika tal-UE u tiżgura li t-teknoloġiji l-ġodda jkunu għas-servizz tal-Ewropej kollha – li jtejbulhom ħajjithom filwaqt li jirrispettaw id-drittijiet tagħhom.

Fil-Linji Gwida Politiċi 2 tagħha, il-President tal-Kummissjoni Ursula von der Leyen ħabbret approċċ Ewropew koordinat dwar l-implikazzjonijiet umani u etiċi tal-IA kif ukoll riflessjoni dwar l-użu aħjar tal-big data għall-innovazzjoni.

Għalhekk, il-Kummissjoni tappoġġa approċċ regolatorju u orjentat lejn l-investiment, bl-objettiv doppju li jippromwovi l-użu tal-IA u li jindirizza r-riskji assoċjati ma’ ċerti użi ta’ din it-teknoloġija ġdida. L-iskop ta’ din il-White Paper huwa li jiġu stabbiliti l-alternattivi ta’ politika dwar kif għandhom jintlaħqu dawn l-objettivi. Hija ma tindirizzax l-iżvilupp u l-użu tal-IA għal skopijiet militari. Il-Kummissjoni tistieden lill-Istati Membri, lill-istituzzjonijiet Ewropej l-oħra, u lill-partijiet ikkonċernati kollha, inkluż l-industrija, is-sħab soċjali, l-organizzazzjonijiet tas-soċjetà ċivili, ir-riċerkaturi, il-pubbliku inġenerali u kwalunkwe parti interessata, sabiex jirreaġixxu għall-alternattivi ta’ hawn taħt u jikkontribwixxu għat-teħid tad-deċiżjonijiet futuri tal-Kummissjoni f’dan il-qasam.

1.Introduzzjoni

Billi t-teknoloġija diġitali qed ssir parti dejjem aktar ċentrali fl-aspetti kollha ta’ ħajjiet in-nies, jenħtieġ li n-nies ikunu jistgħu jafdawha. L-affidabbiltà hija wkoll prerekwiżit għall-adozzjoni tagħha. Din hija opportunità għall-Ewropa għax għandha rabta qawwija mal-valuri u mal-istat tad-dritt kif ukoll il-kapaċità ppruvata tagħha li tibni prodotti u servizzi sikuri, affidabbli u sofistikati mis-settur tal-ajrunawtika għal dak awtomobilistiku, tal-enerġija u tat-tagħmir mediku.

It-tkabbir ekonomiku sostenibbli u l-benesseri soċjali attwali tal-Ewropa kif ukoll dawk futuri jibbażaw ruħhom dejjem aktar fuq il-valur maħluq mid-data. L-IA hija waħda mill-aktar applikazzjonijiet importanti tal-ekonomija tad-data. Illum, il-biċċa l-kbira tad-data hija relatata mal-konsumaturi u tinħażen u tiġi proċessata f’infrastruttura ċentrali bbażata fuq il-cloud. B’kuntrast ma’ dan, il-biċċa l-kbira tad-data ferm aktar abbundanti tal-futur se tkun ġejja mill-industrija, min-negozji u mis-settur pubbliku, u se tinħażen fuq diversi sistemi, b’mod partikolari fuq apparati tal-computing li jaħdmu fit-tarf tan-netwerk. Dan jiftaħ opportunitajiet ġodda għall-Ewropa, li għandha pożizzjoni b’saħħitha fl-industrija diġitalizzata u fl-applikazzjonijiet minn negozju għal negozju, għalkemm għandha pożizzjoni relattivament dgħajfa fil-pjattaformi tal-konsumaturi.

Fi kliem sempliċi, l-IA hija ġabra ta’ teknoloġiji li jgħaqqdu flimkien id-data, l-algoritmi u l-qawwa komputazzjonali. Għalhekk, l-avvanzi fil-computing u d-disponibbiltà dejjem tiżdied tad-data huma fatturi ewlenin fiż-żieda attwali fl-IA. L-Ewropa tista’ tgħaqqad il-qawwiet teknoloġiċi u industrijali tagħha ma’ infrastruttura diġitali ta’ kwalità għolja u qafas regolatorju bbażat fuq il-valuri fundamentali tagħha biex issir mexxejja globali fl-innovazzjoni fl-ekonomija tad-data u fl-applikazzjonijiet tagħha kif stabbilit fl-Istrateġija Ewropea għad-Data 3 . Abbażi ta’ dan, tkun tista’ tiżviluppa ekosistema tal-IA li twassal il-benefiċċji tat-teknoloġija lis-soċjetà u lill-ekonomija Ewropea kollha:

·għaċ-ċittadini biex ikunu jistgħu jaħsdu benefiċċji ġodda bħal pereżempju, kura tas-saħħa mtejba, inqas ħsarat fl-apparat domestiku, sistemi tat-trasport aktar sikuri u aktar nodfa, u servizzi pubbliċi aħjar;

·għall-iżvilupp tan-negozji, pereżempju l-iżvilupp ta’ ġenerazzjoni ġdida ta’ prodotti u servizzi f’oqsma fejn l-Ewropa hija partikolarment b’saħħitha (il-makkinarju, it-trasport, iċ-ċibersigurtà, il-biedja, l-ekonomija ekoloġika u ċirkolari, il-kura tas-saħħa u setturi b’valur miżjud għoli bħall-moda u t-turiżmu); kif ukoll

·għas-servizzi ta’ interess pubbliku, pereżempju billi jitnaqqsu l-kostijiet tal-forniment tas-servizzi (trasport, edukazzjoni, enerġija u mmaniġġar tal-iskart), billi tittejjeb is-sostenibbiltà tal-prodotti 4 u billi l-awtoritajiet tal-infurzar tal-liġi jiġu mgħammra bl-għodod xierqa biex jiżguraw is-sigurtà taċ-ċittadini 5 , b’salvagwardji xierqa li jirrispettaw id-drittijiet u l-libertajiet tagħhom.

Minħabba l-impatt kbir li jista’ jkollha l-IA fuq is-soċjetà tagħna u minħabba l-ħtieġa li tiżdied il-fiduċja, huwa essenzjali li l-IA Ewropea tkun ibbażata fuq il-valuri u d-drittijiet fundamentali tagħna bħad-dinjità tal-bniedem u l-protezzjoni tal-privatezza.

Barra minn hekk, jenħtieġ li l-impatt tas-sistemi tal-IA jitqies mhux biss minn perspettiva individwali, iżda wkoll mill-perspettiva tas-soċjetà kollha kemm hi. L-użu tas-sistemi tal-IA jista’ jkollu rwol sinifikanti biex jintlaħqu l-Għanijiet ta’ Żvilupp Sostenibbli, u fl-appoġġ tal-proċess demokratiku u tad-drittijiet soċjali. Bil-proposti riċenti tagħha dwar il-Patt Ekoloġiku Ewropew 6 , l-Ewropa hija minn ta’ quddiem fl-indirizzar tal-isfidi relatati mal-klima u mal-ambjent. It-teknoloġiji diġitali bħall-IA huma faċilitatur kritiku għall-kisba tal-għanijiet tal-Patt Ekoloġiku. Minħabba l-importanza dejjem tikber tal-IA, jeħtieġ li l-impatt ambjentali tas-sistemi tal-IA jitqies b’mod xieraq matul iċ-ċiklu tal-ħajja kollu tagħhom u tul il-katina tal-provvista kollha, pereżempju fir-rigward tal-użu tar-riżorsi għat-taħriġ tal-algoritmi u għall-ħżin tad-data.

Biex tintlaħaq skala suffiċjenti u tiġi evitata l-frammentazzjoni tas-suq uniku huwa meħtieġ approċċ Ewropew komuni għall-IA. L-introduzzjoni ta’ inizjattivi nazzjonali tista’ tipperikola ċ-ċertezza legali, iddgħajjef il-fiduċja taċ-ċittadini u tipprevjeni l-ħolqien ta’ industrija Ewropea dinamika.

Din il-White Paper tippreżenta alternattivi ta’ politika li jippermettu żvilupp affidabbli u sigur tal-IA fl-Ewropa, b’rispett sħiħ tal-valuri u tad-drittijiet taċ-ċittadini tal-UE. L-elementi ewlenin ta’ din il-White Paper huma:

·Il-qafas ta’ politika li jistabbilixxi miżuri biex jiġu allinjati l-isforzi fil-livell Ewropew, nazzjonali u reġjonali. Fi sħubija bejn is-settur privat u dak pubbliku, l-għan tal-qafas huwa li jiġu mmobilizzati r-riżorsi biex tinkiseb ekosistema ta’ eċċellenza tul il-katina tal-valur kollha, li tibda mir-riċerka u l-innovazzjoni, u li jinħolqu l-inċentivi t-tajba biex tiġi aċċellerata l-adozzjoni ta’ soluzzjonijiet ibbażati fuq l-IA, inkluż mill-intrapriżi żgħar u medji (SMEs).

·L-elementi ewlenin tal-qafas regolatorju futur għall-IA fl-Ewropa li joħloq “ekosistema ta’ fiduċja”. Biex jagħmel dan, irid jiżgura konformità mar-regoli tal-UE, inkluż ir-regoli li jipproteġu d-drittijiet fundamentali u tal-konsumaturi, b’mod partikolari għas-sistemi tal-IA operati fl-UE li jippreżentaw riskju għoli 7 . Il-bini ta’ ekosistema ta’ fiduċja huwa objettiv ta’ politika fih innifsu, u jenħtieġ jagħti liċ-ċittadini l-kunfidenza li jibdew jużaw l-applikazzjonijiet tal-IA u jagħti lill-kumpaniji u lill-organizzazzjonijiet pubbliċi ċ-ċertezza legali sabiex jinnovaw permezz tal-IA. Il-Kummissjoni tappoġġa bil-qawwa approċċ iċċentrat fuq il-bniedem abbażi tal-Komunikazzjoni dwar il-Bini tal-Fiduċja fl-Intelliġenza Artifiċjali Ċċentrata fuq il-Bniedem 8 u se tqis ukoll il-kontribut miksub matul il-fażi pilota tal-Linji Gwida dwar l-Etika mħejjija mill-Grupp ta’ Esperti ta’ Livell Għoli dwar l-IA.

L-Istrateġija Ewropea għad-Data, li takkumpanja din il-White Paper, għandha l-għan li tippermetti lill-Ewropa ssir ekonomija aġli mil-lat ta’ data li tkun mill-aktar attraenti, sigura u dinamika fid-dinja – li ssaħħaħ lill-Ewropa permezz tad-data biex ittejjeb id-deċiżjonijiet u ttejjeb ħajjet iċ-ċittadini kollha tagħha. L-istrateġija tistabbilixxi għadd ta’ miżuri ta’ politika, inkluż il-mobilizzazzjoni ta’ investimenti privati u pubbliċi, li huma meħtieġa biex jintlaħaq dan l-għan. Fl-aħħar nett, l-implikazzjonijiet tal-IA, tal-Internet tal-Oġġetti u ta’ teknoloġiji diġitali oħra għal-leġiżlazzjoni dwar is-sigurtà u r-responsabbiltà huma analizzati fir-Rapport tal-Kummissjoni li jakkumpanja din il-White Paper.

2.Nisfruttaw il-qawwiet tagħna fis-swieq industrijali u professjonali

L-Ewropa tinsab f’pożizzjoni tajba biex tibbenifika mill-potenzjal tal-IA, mhux biss bħala utent iżda wkoll bħala kreatur u produttur ta’ din it-teknoloġija. Għandha ċentri ta’ riċerka eċċellenti, negozji ġodda innovattivi, pożizzjoni mill-aqwa fid-dinja fir-robotika u fis-setturi kompetittivi tal-manifattura u tas-servizzi, mis-settur awtomobilistiku għall-kura tas-saħħa, l-enerġija, is-servizzi finanzjarji u l-agrikoltura. L-Ewropa żviluppat infrastruttura tal-informatika soda (eż. kompjuters bi prestazzjoni għolja), li hi essenzjali għall-funzjonament tal-IA. L-Ewropa għandha wkoll volumi kbar ta’ data pubblika u industrijali, li l-potenzjal tagħha għadu ma jintużax biżżejjed. Għandha qawwiet industrijali magħrufa sew fis-sistemi diġitali sikuri u siguri b’konsum ta’ enerġija baxx li huma essenzjali għall-iżvilupp ulterjuri tal-IA.

L-isfruttar tal-kapaċità tal-UE li tinvesti f’teknoloġiji u f’infrastrutturi tal-ġenerazzjoni li jmiss, kif ukoll f’kompetenzi diġitali bħal-litteriżmu fid-data, se jżid is-sovranità teknoloġika tal-Ewropa f’teknoloġiji u f’infrastrutturi abilitanti essenzjali għall-ekonomija tad-data. Jenħtieġ li l-infrastrutturi jappoġġaw il-ħolqien ta’ ġabriet tad-data Ewropej li jippermettu IA affidabbli, pereżempju IA bbażata fuq il-valuri u r-regoli Ewropej.

L-Ewropa jenħtieġ tisfrutta l-qawwiet tagħha u tespandi l-pożizzjoni tagħha fl-ekosistemi u tul il-katina tal-valur, billi timxi minn ċerti setturi tal-manifattura tal-hardware lejn is-software u tkompli sejra lejn is-servizzi. Sa ċertu punt, dan qed iseħħ diġà. L-Ewropa tipproduċi aktar minn kwart tar-robots kollha għas-servizzi industrijali u professjonali (eż. għall-biedja ta’ preċiżjoni, is-sigurtà, is-saħħa, il-loġistika), u taqdi rwol importanti fl-iżvilupp u fl-użu ta’ applikazzjonijiet tas-software għall-kumpaniji u l-organizzazzjonijiet (applikazzjonijiet minn negozju għal negozju bħall-Ippjanar tar-Riżorsi għall-Intrapriżi, is-software tad-disinn u l-inġinerija) kif ukoll applikazzjonijiet li jappoġġaw il-gvern elettroniku u l-“intrapriża intelliġenti”.

L-Ewropa hija minn ta’ quddiem fil-varar tal-IA fil-manifattura. Aktar minn nofs il-manifatturi ewlenin jimplimentaw mill-inqas eżempju wieħed tal-IA fl-operazzjonijiet tal-manifattura 9 .

Waħda mir-raġunijiet għall-pożizzjoni b’saħħitha tal-Ewropa f’termini ta’ riċerka hija l-programm ta’ finanzjament tal-UE li kien strumentali biex jiġbor flimkien l-azzjonijiet, filwaqt li jevita d-duplikazzjonijiet, u jiġġenera investimenti pubbliċi u privati fl-Istati Membri. Matul dawn l-aħħar tliet snin, il-finanzjament tal-UE għar-riċerka u l-innovazzjoni għall-IA żdied għal EUR 1,5 biljun, jiġifieri żieda ta’ 70 % meta mqabbel mal-perjodu preċedenti.

Madankollu, l-investiment fir-riċerka u l-innovazzjoni fl-Ewropa għadu biss frazzjoni tal-investiment pubbliku u privat f’reġjuni oħra tad-dinja. Fl-2016, fl-Ewropa ġew investiti madwar EUR 3,2 biljun fl-IA, meta mqabbla ma’ madwar EUR 12,1 biljun fl-Amerika ta’ Fuq u EUR 6,5 biljun fl-Asja 10 . B’rispons għan dan, jeħtieġ li l-Ewropa żżid il-livelli ta’ investiment tagħha b’mod sinifikanti. Il-Pjan Ikkoordinat dwar l-IA 11 żviluppat mill-Istati Membri qed juri li huwa punt tat-tluq tajjeb li jibni kooperazzjoni aktar mill-qrib dwar l-IA fl-Ewropa u li joħloq sinerġiji biex jiġi mmassimizzat l-investiment fil-katina tal-valur tal-IA.

3.Naħtfu l-opportunitajiet li għandna quddiemna: il-mewġa tad-data li jmiss

Għalkemm bħalissa l-Ewropa tinsab f’pożizzjoni aktar dgħajfa fl-applikazzjonijiet tal-konsumatur u fuq il-pjattaformi online, li jwassal għal żvantaġġ kompetittiv fl-aċċess tad-data, għaddejjin bidliet kbar fil-valur u fl-użu mill-ġdid tad-data bejn is-setturi. Il-volum tad-data prodotta fid-dinja qed jikber malajr, minn 33 zettabyte fl-2018 għall-175 zettabyte li huma mistennija fl-2025 12 . Kull mewġa ġdida tad-data ġġib magħha opportunitajiet għall-Ewropa sabiex tippożizzjona lilha nnifisha fl-ekonomija aġli mil-lat ta’ data u ssir mexxejja dinjija f’dan il-qasam. Barra minn hekk, il-mod kif tinħażen u tiġi proċessata d-data se jinbidel b’mod drammatiku fil-ħames snin li ġejjin. Illum, 80 % tal-ipproċessar u tal-analiżi tad-data li jsir fil-cloud iseħħ f’ċentri tad-data u f’faċilitajiet ċentralizzati tal-computing, u 20 % tiegħu jsir fl-oġġetti intelliġenti konnessi, bħall-karozzi, l-apparati domestiċi jew ir-robots tal-manifattura, u f’faċilitajiet tal-computing qrib l-utent (“l-edge computing”). Sal-2025, dawn il-proporzjonijiet se jinbidlu b’mod notevoli 13 .

L-Ewropa hija mexxejja globali fl-apparati elettroniċi b’konsum baxx tal-enerġija li huma kruċjali għall-ġenerazzjoni li jmiss ta’ proċessuri speċjalizzati għall-IA. Dan is-suq bħalissa huwa ddominat minn atturi li mhumiex tal-UE. Dan jista’ jinbidel bl-għajnuna ta’ inizjattivi bħall-Inizjattiva għall-Proċessur Ewropew li tiffoka fuq l-iżvilupp ta’ sistemi komputazzjonali b’konsum baxx tal-enerġija kemm għall-edge computing kif ukoll għall-computing ta’ prestazzjoni għolja tal-ġenerazzjoni li jmiss, u l-ħidma tal-Impriża Konġunta Ewlenija għat-Teknoloġija Diġitali, li hija proposta li tibda fl-2021. L-Ewropa tinsab fuq quddiem ukoll fis-soluzzjonijiet newromorfiċi 14 li huma ideali biex jiġu awtomatizzati l-proċessi industrijali (Industry 4.0) u l-modalitajiet tat-trasport. Dawn jistgħu jtejbu l-effiċjenza tal-enerġija b’diversi ordnijiet ta’ kobor.

L-avvanzi riċenti fil-computing kwantistiku se jiġġeneraw żidiet esponenzjali fil-kapaċità tal-ipproċessar 15 . L-Ewropa tista’ tkun minn ta’ quddiem f’din it-teknoloġija bis-saħħa tal-qawwiet akkademiċi tagħha fil-computing kwantistiku, kif ukoll permezz tal-pożizzjoni b’saħħitha tal-industrija Ewropea fis-simulaturi kwantistiċi u tal-ambjenti ta’ programmar għall-computing kwantistiku. L-inizjattivi Ewropej li għandhom l-għan li jżidu d-disponibbiltà tal-faċilitajiet tal-ittestjar u tal-esperimentazzjoni kwantistika li se jgħinu biex jiġu applikati dawn is-soluzzjonijiet kwantistiċi ġodda għal numru ta’ setturi industrijali u akkademiċi.

B’mod parallel, l-Ewropa se tkompli tieħu rwol ta’ mexxejja fil-progress tas-sisien algoritmiċi tal-IA, filwaqt li tibni fuq l-eċċellenza xjentifika tagħha stess. Hemm bżonn jinbnew pontijiet bejn id-dixxiplini li bħalissa jaħdmu separatament, bħal dawk tal-apprendiment awtomatiku u tal-apprendiment profond (ikkaratterizzati minn interpretazzjoni limitata, mill-bżonn ta’ volum kbir ta’ data biex jitħarrġu l-mudelli u jitgħallmu permezz tal-korrelazzjonijiet) u l-approċċi simboliċi (fejn ir-regoli jinħolqu permezz ta’ intervent uman). Il-kombinazzjoni tar-raġunament simboliku man-netwerks newrali profondi tista’ tgħinna ntejbu l-ispjegabbiltà tal-eżiti tal-IA.

4.Ekosistema ta’ eċċellenza

Biex tinbena ekosistema ta’ eċċellenza li tista’ tappoġġa l-iżvilupp u l-użu tal-IA fl-ekonomija u fl-amministrazzjoni pubblika tal-UE, hemm bżonn tiżdied l-azzjoni f’diversi livelli.

A.Il-ħidma mal-Istati Membri

Bħala riżultat għall-istrateġija tagħha dwar l-IA li adottat f’April 2018, 16 f’Diċembru 2018, il-Kummissjoni ppreżentat Pjan Ikkoordinat – li tħejja mal-Istati Membri – biex jitrawmu l-iżvilupp u l-użu tal-IA fl-Ewropa 17 .

Dan il-pjan jipproponi madwar 70 azzjoni konġunta sabiex ikun hemm kooperazzjoni aktar mill-qrib u aktar effiċjenti bejn l-Istati Membri u l-Kummissjoni f’oqsma ewlenin bħar-riċerka, l-investiment, l-adozzjoni mis-suq, il-ħiliet u t-talenti, d-data u l-kooperazzjoni internazzjonali. Dan il-pjan huwa skedat li jdum sal-2027, b’monitoraġġ u rieżami regolari.

L-għan huwa li jiġi massimizzat l-impatt tal-investiment fir-riċerka, fl-innovazzjoni u fil-varar, li jiġu vvalutati l-istrateġiji nazzjonali tal-IA u li nibnu fuq u nestendu l-Pjan Ikkordinat dwar l-IA mal-Istati Membri:

·L-Azzjoni 1: Filwaqt li tqis ir-riżultati tal-konsultazzjoni pubblika dwar il-White Paper, il-Kummissjoni se tipproponi lill-Istati Membri reviżjoni tal-Pjan Ikkoordinat li trid tiġi adottata sa tmiem l-2020

Il-finanzjament tal-IA fil-livell tal-UE jenħtieġ jattira u jiġbor l-investiment f’oqsma fejn l-azzjoni meħtieġa tmur lil hinn minn dak li jista’ jikseb Stat Membru wieħed. L-objettiv huwa li jiġi attirat investiment totali fl-IA ta’ aktar minn EUR 20 biljun 18 fl-UE kull sena fid-deċennju li ġej. Biex jiġi stimulat l-investiment privat u pubbliku, l-UE se tagħmel disponibbli riżorsi mill-Programm Ewropa Diġitali, il-Programm Orizzont Ewropa kif ukoll mill-Fondi Strutturali u ta’ Investiment Ewropej sabiex jiġu indirizzati l-ħtiġijiet ta’ reġjuni anqas żviluppati kif ukoll taż-żoni rurali.

Il-Pjan Ikkoordinat jista’ jindirizza wkoll il-benesseri soċjali u ambjentali bħala prinċipju ewlieni tal-IA. Is-sistemi tal-IA jwiegħdu għajnuna fl-indirizzar tal-aktar tħassib urġenti, inkluż it-tibdil fil-klima u d-degradazzjoni ambjentali. Huwa importanti wkoll li dan iseħħ b’mod li ma jagħmilx ħsara lill-ambjent. L-IA tista’ teżamina b’mod kritiku l-użu tar-riżorsi u l-konsum tal-enerġija u jenħtieġ tagħmel dan hi stess u tkun imħarrġa biex tagħmel għażliet li huma pożittivi għall-ambjent. Il-Kummissjoni se tikkunsidra l-alternattivi biex tinkoraġġixxi u tippromwovi soluzzjonijiet tal-IA li jagħmlu dan flimkien mal-Istati Membri.

B.Niffukaw l-isforzi tal-komunità tar-riċerka u l-innovazzjoni

L-Ewropa ma tistax iżżomm ix-xenarju frammentat attwali ta’ bosta ċentri ta’ kompetenza li l-ebda waħda minnhom ma tilħaq l-iskala meħtieġa biex tikkompeti mal-istituti globali ewlenin. Huwa imperattiv li jinħolqu aktar sinerġiji u netwerks bejn id-diversi ċentri ta’ riċerka Ewropej dwar l-IA u li l-isforzi tagħhom jiġu allinjati biex itejbu l-eċċellenza, iżommu u jattiraw lill-aqwa riċerkaturi u jiżviluppaw l-aħjar teknoloġija. L-Ewropa teħtieġ ċentru fanal tar-riċerka, tal-innovazzjoni u tal-għarfien espert li jikkoordina dawn l-isforzi u jkun referenza dinjija fl-IA u li jkun jista’ jattira l-investimenti u l-aqwa talenti f’dan il-qasam. 

Jenħtieġ li ċ-ċentri u n-netwerks jikkonċentraw fuq setturi li fihom l-Ewropa għandha l-potenzjal li ssir promotur globali bħall-industrija, is-saħħa, it-trasport, il-finanzi, il-katini tal-valur agroalimentari, l-enerġija/l-ambjent, il-forestrija, l-osservazzjoni tad-dinja u l-ispazju. F’dawn l-oqsma kollha, it-tellieqa għat-tmexxija globali għadha għaddejja, u l-Ewropa toffri potenzjal sinifikanti, għarfien u għarfien espert 19 . Huwa importanti wkoll li jinħolqu siti ta’ ttestjar u ta’ esperimentazzjoni li jappoġġaw l-iżvilupp u l-varar sussegwenti ta’ applikazzjonijiet ġodda tal-IA.

·L-Azzjoni 2: il-Kummissjoni se tiffaċilita l-ħolqien ta’ ċentri ta’ eċċellenza u ta’ ttestjar li jistgħu jgħaqqdu l-investimenti Ewropej ma’ dawk nazzjonali u privati u possibbilment jinkludu strument legali ġdid. Il-Kummissjoni pproponiet ammont ambizzjuż u ddedikat għall-appoġġ taċ-ċentri tal-ittestjar ta’ referenza dinjin fl-Ewropa permezz tal-Programm Ewropa Diġitali u dan se jkun ikkumplimentat fejn xieraq b’azzjonijiet ta’ riċerka u innovazzjoni tal-Orizzont Ewropa, bħala parti mill-Qafas Finanzjarju Pluriennali għall-2021-2027.

C.Il-ħiliet

L-approċċ Ewropew għall-IA jeħtieġ ikun imsejjes fuq enfasi qawwija dwar il-ħiliet biex jimtlew in-nuqqasijiet tal-kompetenzi. 20 Il-Kummissjoni dalwaqt se tippreżenta t-tisħiħ tal-Aġenda għall-Ħiliet, li għandha l-għan li tiżgura li kulħadd fl-Ewropa jkun jista’ jibbenefika mit-trasformazzjonijiet ekoloġiċi u diġitali tal-ekonomija tal-UE. L-inizjattivi jistgħu jinkludu wkoll l-appoġġ tar-regolaturi settorjali biex itejbu l-ħiliet tal-IA tagħhom sabiex jimplimentaw ir-regoli rilevanti b’mod effettiv u effiċjenti. Il-Pjan ta’ Azzjoni aġġornat għall-Edukazzjoni Diġitali se jgħin biex isir użu aħjar tad-data u tat-teknoloġiji bbażati fuq l-IA bħall-analitika tal-apprendiment u dik predittiva bl-għan li jittejbu s-sistemi tal-edukazzjoni u tat-taħriġ u jagħmluhom lesti għall-era diġitali. Il-Pjan se jżid ukoll l-għarfien tal-IA fil-livelli kollha tal-edukazzjoni sabiex jipprepara liċ-ċittadini jagħmlu deċiżjonijiet informati li se jkunu dejjem aktar affettwati mill-IA.

L-iżvilupp tal-ħiliet meħtieġa biex wieħed jaħdem fl-IA u t-titjib tal-ħiliet tal-forza tax-xogħol biex din issir adattata għat-trasformazzjoni mmexxija mill-IA se tkun prijorità tal-Pjan Koordinat dwar l-IA rivedut li għandu jiġi żviluppat mal-Istati Membri. Dan jista’ jinkludi t-trasformazzjoni tal-lista ta’ valutazzjoni tal-linji gwida etiċi f’kurrikulu indikattiv għall-iżviluppaturi tal-IA li jkun disponibbli bħala riżorsa għall-istituzzjonijiet tat-taħriġ. Jenħtieġ li jsiru sforzi partikolari biex jiżdied l-għadd ta’ nisa mħarrġa u impjegati f’dan il-qasam.

Barra minn hekk, ċentru fanal tar-riċerka u tal-innovazzjoni għall-IA fl-Ewropa jattira talent minn madwar id-dinja kollha minħabba l-possibbiltajiet li jista’ joffri. Dan jiżviluppa u jxerred ukoll l-eċċellenza fil-ħiliet li jinbtu u jikbru madwar l-Ewropa.

·L-Azzjoni 3: Nistabbilixxu u nappoġġaw permezz tal-pilastru tal-ħiliet avvanzati tal-Programm Ewropa Diġitali netwerks ta’ universitajiet u istituti tal-edukazzjoni ogħla ewlenin li jattiraw l-aqwa professuri u xjentisti u li joffru programmi tal-masters fl-IA li jkunu minn ta’ quddiem fid-dinja.

Lil hinn mit-titjib tal-ħiliet, il-ħaddiema u l-impjegaturi huma affettwati direttament mit-tfassil u mill-użu tas-sistemi tal-IA fuq il-post tax-xogħol. L-involviment tas-sħab soċjali se jkun fattur kruċjali fl-iżgurar ta’ approċċ iċċentrat fuq il-bniedem għall-IA fuq il-post tax-xogħol.

D.Enfasi fuq l-SMEs

Dan se jkun importanti wkoll biex jiġi żgurat li l-SMEs ikunu jistgħu jaċċessaw u jużaw l-IA. Għal dan l-għan, iċ-Ċentri għall-Innovazzjoni Diġitali 21 u l-Pjattaforma tal-IA fuq talba 22 jenħtieġ jissaħħu aktar u jrawmu kollaborazzjoni bejn l-SMEs. Il-Programm Ewropa Diġitali se jkun strumentali fil-kisba ta’ dan. Filwaqt li jenħtieġ li ċ-Ċentri għall-Innovazzjoni Diġitali kollha jipprovdu appoġġ lill-SMEs biex jifhmu u jadottaw l-IA, se jkun importanti li tal-inqas ċentru tal-innovazzjoni wieħed f’kull Stat Membru jkollu grad għoli ta’ speċjalizzazzjoni fl-IA.

L-SMEs u n-negozji l-ġodda se jkollhom bżonn aċċess għall-finanzi biex jadattaw il-proċessi tagħhom jew biex jinnovaw bl-użu tal-IA. Filwaqt li tibni fuq il-fond ta’ investiment pilota ta’ EUR 100 miljun fl-IA u fil-blockchain, il-Kummissjoni qed tippjana li tkompli żżid l-aċċess għall-finanzi fl-IA permezz tal-Programm InvestEU 23 . L-IA qed tissemma b’mod espliċitu fost iż-żoni li huma eliġibbli għall-użu tal-garanzija InvestEU.

·L-Azzjoni 4: Il-Kummissjoni se taħdem mal-Istati Membri biex tiżgura li tal-inqas ċentru ta’ innovazzjoni diġitali wieħed għal kull Stat Membru jkollu grad għoli ta’ speċjalizzazzjoni fl-IA. Iċ-Ċentri għall-Innovazzjoni Diġitali jistgħu jiġu appoġġati permezz tal-Programm Ewropa Diġitali.

·Il-Kummissjoni u l-Fond Ewropew tal-Investiment se jniedu skema pilota ta’ EUR 100 miljun fl-Q1 2020 biex jipprovdu finanzjament ta’ ekwità għall-iżviluppi innovattivi fl-IA. Soġġett għal qbil finali dwar il-QFP, il-Kummissjoni beħsiebha tkabbar l-iskala tagħha b’mod sinifikanti mill-2021 permezz tal-Programm InvestEU.

E.Sħubija mas-settur privat

Huwa essenzjali wkoll li jiġi żgurat li s-settur privat ikun involut b’mod sħiħ fit-tfassil tal-aġenda tar-riċerka u l-innovazzjoni u jipprovdi l-livell meħtieġ ta’ koinvestiment. Dan jirrekjedi t-twaqqif ta’ sħubija pubblika privata li jkollha bażi wiesgħa, u l-iżgurar tal-impenn tal-maniġment superjuri tal-kumpaniji.

·L-Azzjoni 5: Fil-kuntest tal-Orizzont Ewropa, il-Kummissjoni se tistabbilixxi sħubija pubblika privata ġdida fl-IA, fid-data u fir-robotika biex tgħaqqad l-isforzi, tiżgura l-koordinazzjoni tar-riċerka u l-innovazzjoni fl-IA, tikkollabora ma’ sħubijiet pubbliċi-privati oħra fl-Orizzont Ewropa u taħdem flimkien mal-faċilitajiet tal-ittestjar u maċ-Ċentri għall-Innovazzjoni Diġitali msemmija hawn fuq.

F.Promozzjoni tal-adozzjoni tal-IA mis-settur pubbliku

Huwa essenzjali li l-amministrazzjonijiet pubbliċi, l-isptarijiet, is-servizzi tal-utilitajiet u tat-trasport, is-superviżuri finanzjarji, u l-oqsma oħra ta’ interess pubbliku jibdew jużaw malajr il-prodotti u s-servizzi li jiddependu fuq l-IA fl-attivitajiet tagħhom. Se jkun hemm enfasi speċifika fuq l-oqsma tal-kura tas-saħħa u tat-trasport fejn it-teknoloġija hija matura biżżejjed biex tiġi varata fuq skala kbira.

·L-Azzjoni 6: Il-Kummissjoni se tiftaħ djalogi tas-settur miftuħa u trasparenti li jagħtu prijorità lill-kura tas-saħħa, l-amministrazzjonijiet rurali u l-operaturi tas-servizz pubbliku biex jiġi ppreżentat pjan ta’ azzjoni li jiffaċilita l-iżvilupp, l-esperimentazzjoni u l-adozzjoni. Id-djalogi settorjali se jintużaw għat-tħejjija ta’ programm speċifiku għall-adozzjoni tal-IA, il-programm “Adopt AI”, li se jappoġġa l-akkwist pubbliku tas-sistemi tal-IA, u jgħin jittrasforma l-proċessi tal-akkwist pubbliku.

G.L-iżgurar tal-aċċess għad-data u l-infrastrutturi tal-computing

L-oqsma ta’ azzjoni stabbiliti f’din il-White Paper huma kumplimentari għall-pjan ippreżentat b’mod parallel permezz tal-Istrateġija Ewropea għad-Data. It-titjib tal-aċċess għad-data u l-ġestjoni tagħha huwa fundamentali. Mingħajr id-data, l-iżvilupp tal-IA u ta’ applikazzjonijiet diġitali oħra mhuwiex possibbli. Il-volum enormi ta’ data ġdida li għad trid tiġi ġġenerata jikkostitwixxi opportunità għall-Ewropa biex tpoġġi lilha nnifisha fuq quddiem nett tat-trasformazzjoni tad-data u tal-IA. Il-promozzjoni tal-prattiċi ta’ ġestjoni responsabbli tad-data u tal-konformità tad-data mal-prinċipji FAIR se jikkontribwixxu biex tinbena l-fiduċja u jiġi żgurat l-użu mill-ġdid tad-data 24 . Huwa ugwalment importanti wkoll li jkun hemm investiment f’teknoloġiji u f’infrastrutturi ewlenin tal-informatika.

Il-Kummissjoni pproponiet aktar minn EUR 4 biljun permezz tal-Programm Ewropa Diġitali biex tappoġġa l-computing ta’ prestazzjoni għolja u l-computing kwantistiku, inkluż l-edge computing u l-infrastruttura tal-IA, tad-data u tal-cloud. L-Istrateġija Ewropea għad-Data tiżviluppa aktar dawn il-prijoritajiet.

H.Aspetti internazzjonali

L-Ewropa tinsab f’pożizzjoni tajba biex teżerċita t-tmexxija globali biex tibni alleanzi madwar il-valuri komuni u tippromwovi l-użu etiku tal-IA. Il-ħidma tal-UE dwar l-IA diġà influwenzat id-diskussjonijiet internazzjonali. Meta kien qed jiżviluppa l-linji gwida etiċi tiegħu, il-Grupp ta’ Esperti ta’ Livell Għoli involva għadd ta’ organizzazzjonijiet mhux tal-UE u diversi osservaturi governattivi. B’mod parallel, l-UE kienet involuta mill-qrib fl-iżvilupp tal-prinċipji etiċi tal-IA tal-OECD 25 . Sussegwentement, il-G20 approvaw dawn il-prinċipji fid-Dikjarazzjoni Ministerjali tiegħu dwar il-Kummerċ u l-Ekonomija Diġitali ta’ Ġunju 2019.

B’mod parallel, l-UE tirrikonoxxi li għaddej xogħol importanti dwar l-IA f’fora multilaterali oħra, inkluż fil-Kunsill tal-Ewropa, fl-Organizzazzjoni tan-Nazzjonijiet Uniti għall-Edukazzjoni, ix-Xjenza u l-Kultura (il-UNESCO), fl-Organizzazzjoni għall-Kooperazzjoni u l-Iżvilupp Ekonomiċi (l-OECD), fl-Organizzazzjoni Dinjija tal-Kummerċ u fl-Unjoni Internazzjonali tat-Telekomunikazzjoni (l-ITU). Fin-NU, l-UE hija involuta fis-segwitu tar-rapport tal-Bord ta’ Livell Għoli dwar il-Kooperazzjoni Diġitali, inkluż fir-rakkomandazzjoni tiegħu dwar l-IA.

L-UE se tkompli tikkoopera dwar l-IA ma’ pajjiżi tal-istess fehma, iżda anke ma’ atturi globali, fuq il-bażi ta’ approċċ ibbażat fuq ir-regoli u l-valuri tal-UE (eż. billi tappoġġa l-konverġenza regolatorja ’l fuq, taċċessa r-riżorsi ewlenin inkluża d-data, toħloq ambjent ekwu). Il-Kummissjoni se ssegwi mill-viċin il-politiki tal-pajjiżi terzi li jillimitaw il-flussi tad-data u se tindirizza r-restrizzjonijiet żejda fin-negozjati kummerċjali bilaterali u permezz ta’ azzjoni fil-kuntest tal-Organizzazzjoni Dinjija tal-Kummerċ. Il-Kummissjoni hija konvinta li l-kooperazzjoni internazzjonali dwar il-kwistjonijiet tal-IA trid tkun ibbażata fuq approċċ li jippromwovi r-rispett tad-drittijiet fundamentali, inkluż id-dinjità tal-bniedem, il-pluraliżmu, l-inklużjoni, in-nondiskriminazzjoni u l-protezzjoni tal-privatezza u tad-data personali 26 u se tagħmel sforz biex tesporta l-valuri tagħha madwar id-dinja 27 . Huwa ċar ukoll li l-iżvilupp u l-użu responsabbli tal-IA jistgħu jkunu forza li tixpruna l-kisba tal-Għanijiet ta’ Żvilupp Sostenibbli u li tavvanza l-Aġenda 2030.

5.Ekosistema ta’ fiduċja: qafas regolatorju għall-IA

Bħal fil-każ ta’ kull teknoloġija ġdida, l-użu tal-IA jġib miegħu opportunitajiet kif ukoll riskji. Iċ-ċittadini jibżgħu li ma jkunu jistgħu jagħmlu xejn biex jiddefendu d-drittijiet u s-sikurezza tagħhom meta jħabbtu wiċċhom mal-asimetriji tal-informazzjoni fit-teħid ta’ deċiżjonijiet algoritmiċi, u l-kumpaniji huma mħassba dwar l-inċertezza legali. Filwaqt li l-intelliġenza artifiċjali tista’ tgħin fil-protezzjoni tas-sigurtà taċ-ċittadini u tippermettilhom igawdu d-drittijiet fundamentali tagħhom, iċ-ċittadini jinkwetaw ukoll li l-IA jista’ jkollha effetti mhux intenzjonati jew saħansitra li jintużaw għal skopijiet malizzjużi. Jenħtieġ li dan it-tħassib jiġi indirizzat. Barra minn hekk, minbarra n-nuqqas ta’ investiment u ta’ ħiliet, in-nuqqas ta’ fiduċja huwa fattur ewlieni li qed iżomm lura l-adozzjoni usa’ tal-IA.

Huwa għalhekk li l-Kummissjoni stabbiliet strateġija għall-IA 28 fil-25 ta’ April 2018 li tindirizza l-aspetti soċjoekonomiċi b’mod parallel maż-żieda fl-investiment fir-riċerka, fl-innovazzjoni u fil-kapaċità tal-IA fl-UE kollha. Din qablet dwar Pjan Ikkoordinat 29 mal-Istati Membri biex jiġu allinjati l-istrateġiji. Il-Kummissjoni stabbiliet wkoll Grupp ta’ Esperti ta’ Livell Għoli li ppubblika Linji Gwida dwar l-IA affidabbli f’April 2019 30 .

Il-Kummissjoni ppubblikat Komunikazzjoni 31 li tilqa’ s-seba’ rekwiżiti ewlenin identifikati fil-Linji Gwida tal-Grupp ta’ Esperti ta’ Livell Għoli:

·Intervent uman u sorveljanza umana,

·Robustezza u sikurezza teknika,

·Privatezza u governanza tad-data,

·Trasparenza,

·Diversità, nondiskriminazzjoni u ġustizzja,

·Benesseri soċjetali u ambjentali, u

·Kontabbiltà.

Barra minn hekk, il-Linji Gwida fihom lista ta’ valutazzjoni għall-użu prattiku mill-kumpaniji. Matul it-tieni nofs tal-2019, aktar minn 350 organizzazzjoni ttestjaw din il-lista u bagħtu r-rispons tagħhom. Il-Grupp ta’ Livell Għoli qiegħed fil-proċess li jirrevedi l-linji gwida tiegħu fid-dawl ta’ dan ir-rispons u se jiffinalizza l-ħidma tiegħu sa Ġunju 2020. Riżultat ewlieni tal-proċess ta’ rispons huwa li filwaqt li għadd ta’ rekwiżiti huma diġà riflessi fis-sistemi legali u regolatorji eżistenti, dawk li jirrigwardaw it-trasparenza, it-traċċabilità u s-sorveljanza umana mhumiex speċifikament koperti mil-leġiżlazzjoni attwali f’bosta setturi ekonomiċi.

Minnbarra dan is-sett ta’ Linji Gwida mhux vinkolanti tal-Grupp ta’ Esperti ta’ Livell Għoli, u f’konformità mal-linji gwida politiċi tal-President, jekk ikun hemm qafas regolatorju Ewropew ċar dan jibni l-fiduċja fost il-konsumaturi u n-negozji fl-IA u b’hekk iħaffef l-adozzjoni tat-teknoloġija. Qafas regolatorju bħal dan jenħtieġ ikun konsistenti ma’ azzjonijiet oħra li jippromwovu l-kapaċità tal-innovazzjoni u tal-kompetittività f’dan il-qasam. Barra minn hekk, irid jiżgura li jkun hemm riżultati ottimali mil-lat soċjali, ambjentali u ekonomiku u konformità mal-leġiżlazzjoni, mal-prinċipji u mal-valuri tal-UE. Dan huwa partikolarment rilevanti f’oqsma fejn id-drittijiet taċ-ċittadini jistgħu jiġu affettwati direttament l-aktar, pereżempju fil-każ ta’ applikazzjonijiet tal-IA għall-infurzar tal-liġi u tal-ġudikatura.

L-iżviluppaturi u l-implimentaturi tal-IA diġà huma soġġetti għal-leġiżlazzjoni Ewropea dwar id-drittijiet fundamentali (eż. il-protezzjoni tad-data, il-privatezza, in-nondiskriminazzjoni), il-protezzjoni tal-konsumatur, u r-regoli dwar is-sigurtà tal-prodotti u r-responsabbiltà. Il-konsumaturi jistennew l-istess livell ta’ sikurezza u rispett lejn id-drittijiet tagħhom kemm jekk prodott jew sistema jkunu jiddependu fuq l-IA kif ukoll jekk le. Madankollu, xi karatteristiċi speċifiċi tal-IA (eż. l-opaċità) jistgħu jagħmlu l-applikazzjoni u l-infurzar tal-leġiżlazzjoni aktar diffiċli. Għal din ir-raġuni, jeħtieġ jiġi eżaminat jekk il-leġiżlazzjoni attwali tistax tindirizza r-riskji tal-IA u tiġi infurzata effettivament, jekk jenħtiġux adattamenti tal-leġiżlazzjoni, jew jekk hemmx bżonn leġiżlazzjoni ġdida.

Minħabba l-fatt li l-IA qed tevolvi b’ritmu mgħaġġel, il-qafas regolatorju jrid jagħti spazju biex jaħseb għal aktar żviluppi. Jenħtieġ li kwalunkwe bidla tkun limitata għall-problemi identifikati b’mod ċar li għalihom jeżistu soluzzjonijiet fattibbli.

L-Istati Membri qed jippontaw subgħajhom lejn in-nuqqas attwali ta’ qafas Ewropew komuni. Il-Kummissjoni Ġermaniża dwar l-Etika tad-Data talbet għal sistema ta’ regolamentazzjoni bbażata fuq ir-riskju b’ħames livelli li tvarja minn l-ebda regolamentazzjoni għall-aktar sistemi innokwi tal-IA sal-projbizzjoni totali ta’ dawk l-aktar perikolużi. Id-Danimarka għandha kif nediet il-prototip ta’ Siġill tal-Etika tad-Data. Malta introduċiet sistema ta’ ċertifikazzjoni volontarja għall-IA. Jekk l-UE tonqos milli tipprovdi approċċ mifrux fl-UE kollha, hemm riskju reali ta’ frammentazzjoni fis-suq intern, li ddgħajjef l-objettivi tal-fiduċja, taċ-ċertezza legali u tal-adozzjoni mis-suq.

Qafas regolatorju Ewropew solidu għall-IA affidabbli se jipproteġi liċ-ċittadini Ewropej kollha u joħloq suq intern bla intoppi għall-iżvilupp ulterjuri u għall-adozzjoni tal-IA kif ukoll għat-tisħiħ tal-bażi industrijali tal-Ewropa fl-IA.

A.Definizzjoni tal-problema

Filwaqt li l-IA tista’ tagħmel ħafna ġid, inkluż billi tagħmel il-prodotti u l-proċessi aktar sikuri, tista’ tagħmel ukoll il-ħsara. Din il-ħsara tista’ tkun kemm materjali (sikurezza u saħħa tal-individwi, inkluż it-telf tal-ħajja, il-ħsara lill-proprjetà) kif ukoll immaterjali (telf ta’ privatezza, limitazzjonijiet għad-dritt tal-libertà ta’ espressjoni, id-dinjità tal-bniedem, id-diskriminazzjoni pereżempju fl-aċċess għall-impjieg), u tista’ tkun relatata ma’ varjetà wiesgħa ta’ riskji. Qafas regolatorju jenħtieġ jikkonċentra fuq kif jiġu mminimizzati r-riskji varji ta’ ħsarat potenzjali, b’mod partikolari dawk l-aktar sinifikanti.

Ir-riskji prinċipali relatati mal-użu tal-IA jikkonċernaw l-applikazzjoni tar-regoli mfassla biex jipproteġu d-drittijiet fundamentali (inkluż id-data personali, il-protezzjoni tal-privatezza u n-nondiskriminazzjoni), kif ukoll il-kwistjonijiet ta’ sigurtà 32 u responsabbiltà.

Ir-riskji relatati mad-drittijiet fundamentali, inkluż id-data personali, il-protezzjoni tal-privatezza u n-nondiskriminazzjoni

L-użu tal-IA jista’ jaffettwa l-valuri li fuqhom hija msejsa l-UE u jwassal għal ksur tad-drittijiet fundamentali 33 , inklużi d-drittijiet għal-libertà ta’ espressjoni, il-libertà tal-għaqda, id-dinjità tal-bniedem, in-nondiskriminazzjoni bbażata fuq il-ġeneru, ir-razza jew l-oriġini etnika, ir-reliġjon jew it-twemmin, id-diżabbiltà, l-età jew l-orjentazzjoni sesswali, kif applikabbli f’ċerti oqsma, il-protezzjoni tad-data personali u l-ħajja privata,  34 jew id-dritt għal rimedju ġudizzjarju effettiv u għal proċess ġust, kif ukoll il-protezzjoni tal-konsumaturi. Dawn ir-riskji jistgħu jirriżultaw minn difetti fit-tfassil ġenerali tas-sistemi tal-IA (inkluż fir-rigward tas-sorveljanza umana) jew mill-użu ta’ data mingħajr korrezzjoni tal-preġudizzju possibbli (eż. is-sistema hija mħarrġa esklużivament jew prinċipalment b’data li ġejja mill-irġiel u dan iwassal għal riżultati subottimali fir-rigward tan-nisa).

L-IA tista’ twettaq bosta funzjonijiet li qabel setgħu jsiru biss mill-bniedem. Bħala riżultat, iċ-ċittadini u l-entitajiet legali se jkunu dejjem aktar soġġetti għal azzjonijiet u deċiżjonijiet meħuda mis-sistemi tal-IA jew bl-assistenza tagħhom, li xi drabi jistgħu jkunu diffiċli biex jinftiehmu u jiġu sfidati b’mod effettiv fejn meħtieġ. Barra minn hekk, l-IA żżid il-possibbiltajiet li jiġu traċċati u analizzati d-drawwiet ta’ kuljum tan-nies. Pereżempju, hemm riskju potenzjali li l-IA tista’ tintuża bi ksur tar-regoli tal-protezzjoni tad-data tal-UE u ta’ regoli oħrajn, mill-awtoritajiet tal-istat jew minn entitajiet oħra għas-sorveljanza tal-massa u mill-impjegaturi biex josservaw l-imġiba tal-impjegati tagħhom. Billi tanalizza ammonti kbar ta’ data u tidentifika r-rabtiet ta’ bejniethom, l-IA tista’ tintuża wkoll biex tiġi traċċata u deanonimizzata d-data dwar il-persuni, u dan joħloq riskji ġodda għall-protezzjoni tad-data personali anke jekk huma fir-rigward ta’ settijiet tad-data li ma jinkludux data personali per se. L-IA tintuża wkoll mill-intermedjarji online biex jipprijoritizzaw l-informazzjoni għall-utenti tagħhom u jimmoderaw il-kontenut. Id-data pproċessata, il-mod li bih jiġu ddisinjati l-applikazzjonijiet u l-ambitu tal-intervent uman jistgħu jaffettwaw id-drittijiet tal-espressjoni libera, tal-protezzjoni tad-data personali, tal-privatezza, u tal-libertajiet politiċi.

Il-preġudizzju u d-diskriminazzjoni huma riskji inerenti ta’ kwalunkwe attività soċjetali jew ekonomika. It-teħid ta’ deċiżjonijiet mill-bniedem mhuwiex immuni għall-iżbalji u l-preġudizzji. Madankollu, meta l-istess preġudizzju jkun preżenti fl-IA dan jista’ jkollu effett ħafna akbar, li jaffettwa u jiddiskrimina lil ħafna nies mingħajr il-mekkaniżmi ta’ kontroll soċjali li jirregolaw l-imġiba tal-bniedem 35 . Dan jista’ jiġri wkoll meta s-sistema tal-IA “titgħallem” waqt li tkun qed topera. F’każijiet bħal dawn, fejn ir-riżultat ma setax jiġi evitat jew antiċipat fil-fażi tat-tfassil, ir-riskji ma jirriżultawx minn difett fid-disinn oriġinali tas-sistema iżda pjuttost mill-impatti prattiċi tal-korrelazzjonijiet jew tal-mudelli li s-sistema tidentifika f’sett tad-data kbir.

Il-karatteristiċi speċifiċi ta’ bosta teknoloġiji tal-IA, inkluż l-opaċità (“l-effett black box”), il-kumplessità, l-imprevedibbiltà u l-imġiba parzjalment awtonoma, jagħmluha diffiċli biex tiġi vverifikata l-konformità mar-regoli eżistenti tal-liġi tal-UE maħsuba biex jipproteġu d-drittijiet fundamentali u jistgħu jxekklu l-infurzar effettiv tagħhom. L-awtoritajiet tal-infurzar u l-persuni affettwati jistgħu ma jkollhomx il-mezzi biex jivverifikaw kif ittieħdet deċiżjoni partikolari bl-involviment tal-IA u, għaldaqstant, ma jkunux jistgħu jivverifikaw jekk ir-regoli rilevanti ġew rispettati jew le. L-individwi u l-entitajiet legali jistgħu jiffaċċjaw diffikultajiet biex jaċċedu għall-ġustizzja b’mod effettiv f’sitwazzjonijiet fejn tali deċiżjonijiet jistgħu jaffettwawhom ħażin.

Ir-riskji għas-sikurezza u għall-funzjonament effettiv tas-sistema ta’ responsabbiltà

It-teknoloġiji tal-IA jistgħu jippreżentaw riskji ġodda għas-sikurezza tal-utenti meta jiġu inkorporati fil-prodotti u fis-servizzi. Pereżempju, minħabba difett fit-teknoloġija ta’ rikonoxximent tal-oġġetti, karozza awtonoma tista’ tidentifika b’mod żbaljat oġġett fit-triq u tikkawża inċident li jinvolvi korriment u ħsara materjali. Bħal fil-każ tar-riskji għad-drittijiet fundamentali, dawn ir-riskji jistgħu jiġu kkawżati minn difetti fid-disinn tat-teknoloġija tal-IA, jistgħu jkunu relatati ma’ problemi bid-disponibbiltà u bil-kwalità tad-data jew ma’ problemi oħra li jirriżultaw mill-apprendiment awtomatiku. Filwaqt li xi wħud minn dawn ir-riskji mhumiex limitati għall-prodotti u s-servizzi li jiddependu fuq l-IA, l-użu tal-IA jista’ jżid jew jaggrava dawn ir-riskji.

In-nuqqas ta’ dispożizzjonijiet ta’ sikurezza ċari li jindirizzaw dawn ir-riskji, minbarra li joħloq riskji għall-individwi kkonċernati, jista’ joħloq inċertezza legali għan-negozji li qed jikkummerċjalizzaw il-prodotti tagħhom li jinvolvu l-IA fl-UE. L-awtoritajiet tas-sorveljanza tas-suq u tal-infurzar jistgħu jsibu ruħhom f’sitwazzjoni fejn ma jkunx ċar jekk jistgħux jintervjenu jew le, minħabba li jistgħu ma jkollhomx is-setgħa li jaġixxu u/jew m’għandhomx il-kapaċitajiet tekniċi xierqa għall-ispezzjoni tas-sistemi 36 . L-inċertezza legali għalhekk tista’ tnaqqas il-livelli ġenerali tas-sikurezza u timmina l-kompetittività tal-kumpaniji Ewropej.

Jekk ir-riskji tas-sikurezza jimmaterjalizzaw, in-nuqqas ta’ rekwiżiti ċari u l-karatteristiċi tat-teknoloġiji tal-IA msemmija hawn fuq jagħmluha diffiċli biex jiġu traċċati lura d-deċiżjonijiet potenzjalment problematiċi li ttieħdu bl-involviment tas-sistemi tal-IA. Dan imbagħad jista’ jagħmilha diffiċli għall-persuni li jkunu sofrew dannu biex jiksbu kumpens permezz tal-leġiżlazzjoni dwar ir-responsabbiltà attwali tal-UE u dik nazzjonali 37 .

Għalhekk, id-diffikultà biex jiġu traċċati d-deċiżjonijiet potenzjalment problematiċi meħuda mis-sistemi tal-IA u msemmija hawn fuq fir-rigward tad-drittijiet fundamentali tapplika ugwalment għall-kwistjonijiet ta’ sigurtà u għal dawk relatati mar-responsabbiltà. Pereżempju, il-persuni li jkunu sofrew dannu jista’ ma jkollhomx aċċess effettiv għall-evidenza li tkun meħtieġa biex jibnu każ fil-qorti, u jista’ jkollhom possibbiltajiet ta’ rimedju inqas effettivi meta mqabbla ma’ sitwazzjonijiet fejn il-ħsara tkun ġiet ikkawżata minn teknoloġiji tradizzjonali. Dawn ir-riskji se jiżdiedu hekk kif l-użu tal-IA jsir aktar mifrux.

B. Aġġustamenti possibbli għall-qafas leġiżlattiv eżistenti tal-UE relatat mal-IA

Hemm korp estensiv ta’ leġiżlazzjoni eżistenti tal-UE dwar is-sigurtà u r-responsabbiltà tal-prodotti 38 li huwa rilevanti u potenzjalment applikabbli għal għadd ta’ applikazzjonijiet emerġenti tal-IA u dan jinkludi regoli speċifiċi għas-settur li huma kkumplimentati barra minn hekk mil-leġiżlazzjoni nazzjonali.

Fir-rigward tal-protezzjoni tad-drittijiet fundamentali u tad-drittijiet tal-konsumatur, il-qafas leġiżlattiv tal-UE jinkludi leġiżlazzjoni bħad-Direttiva dwar l-Ugwaljanza Razzjali 39 , id-Direttiva dwar l-ugwaljanza fit-trattament fl-impjieg u fix-xogħol 40 , id-Direttivi dwar it-trattament ugwali bejn l-irġiel u n-nisa fir-rigward tal-impjieg u l-aċċess għal prodotti u servizzi 41 , għadd ta’ regoli dwar il-protezzjoni tal-konsumatur 42 , kif ukoll regoli dwar il-protezzjoni tad-data personali u tal-privatezza, b’mod partikolari r-Regolament Ġenerali dwar il-Protezzjoni tad-Data u leġiżlazzjoni settorjali oħra li tkopri l-protezzjoni tad-data personali, bħad-Direttiva dwar l-Infurzar tal-Liġi tal-Protezzjoni tad-Data 43 . Barra minn hekk, mill-2025, se japplikaw ir-regoli dwar ir-rekwiżiti tal-aċċessibbiltà għall-oġġetti u s-servizzi, stabbiliti fl-Att Ewropew dwar l-Aċċessibbiltà 44 . Barra minn hekk, jenħtieġ jiġu rispettati d-drittijiet fundamentali meta tiġi implimentata leġiżlazzjoni oħra tal-UE, inkluż fil-qasam tas-servizzi finanzjarji, tal-migrazzjoni jew tar-responsabbiltà ta’ intermedjarji online.

Filwaqt li fil-prinċipju l-leġiżlazzjoni tal-UE tibqa’ applikabbli b’mod sħiħ irrispettivament mill-involviment tal-IA, huwa importanti li jiġi vvalutat jekk din tistax tiġi infurzata b’mod adegwat biex jiġu indirizzati r-riskji li joħolqu s-sistemi tal-IA, jew jekk hemmx bżonn aġġustamenti għal strumenti legali speċifiċi.

Pereżempju, l-atturi ekonomiċi jibqgħu totalment responsabbli għall-konformità tal-IA mar-regoli eżistenti li jipproteġu lill-konsumaturi, kwalunkwe sfruttament algoritmiku tal-mġiba tal-konsumatur li jikser ir-regoli eżistenti ma għandux ikun permess u kull ksur għandu jiġi ppenalizzat kif xieraq. 

Il-Kummissjoni hija tal-opinjoni li l-qafas leġiżlattiv jista’ jiġi mtejjeb biex jindirizza r-riskji u s-sitwazzjonijiet li ġejjin:

·Applikazzjoni u infurzar effettiv tal-leġiżlazzjoni eżistenti tal-UE u ta’ dik nazzjonali: il-karatteristiċi ewlenin tal-IA joħolqu sfidi għall-iżgurar tal-applikazzjoni xierqa u l-infurzar tal-leġiżlazzjoni tal-UE u ta’ dik nazzjonali. In-nuqqas tat-trasparenza (l-opaċità tal-IA) jagħmilha aktar diffiċli biex jiġu identifikati u pprovati l-ksur possibbli tal-liġijiet, inkluż id-dispożizzjonijiet legali li jipproteġu d-drittijiet fundamentali, li jattribwixxu r-responsabbiltà u li jissodisfaw il-kundizzjonijiet biex jintalab kumpens. Għalhekk, sabiex niżguraw applikazzjoni u infurzar effettivi, jista’ jkun meħtieġ naġġustaw jew niċċaraw il-leġiżlazzjoni eżistenti f’ċerti oqsma, pereżempju fir-rigward tar-responsabbiltà kif spjegat f’aktar dettall fir-Rapport, li jakkumpanja din il-White Paper.

·Limitazzjonijiet tal-kamp ta’ applikazzjoni tal-leġiżlazzjoni eżistenti tal-UE: il-leġiżlazzjoni dwar is-sigurtà tal-prodotti tal-UE tagħmel enfasi essenzjali fuq it-tqegħid fis-suq tal-prodotti. Filwaqt li skont il-leġiżlazzjoni dwar is-sigurtà tal-prodotti tal-UE, is-software jrid jikkonforma mar-regoli rilevanti dwar is-sigurtà tal-prodott meta jkun parti mill-prodott finali, hemm kwistjoni miftuħa dwar jekk is-software awtonomu huwiex kopert mil-leġiżlazzjoni dwar is-sigurtà tal-prodotti tal-UE, għajr għal xi setturi b’regoli espliċiti 45 . Il-leġiżlazzjoni ġenerali dwar is-sigurtà tal-UE attwalment fis-seħħ tapplika għall-prodotti u mhux għas-servizzi, u għaldaqstant, fil-prinċipju, lanqas mhi applikabbli għas-servizzi bbażati fuq it-teknoloġija tal-IA (eż. is-servizzi tas-saħħa, is-servizzi finanzjarji, is-servizzi tat-trasport).

·It-tibdil tal-funzjonalità tas-sistemi tal-IA: l-integrazzjoni tas-software fil-prodotti, inkluż l-IA, tista’ timmodifika l-funzjonament ta’ tali prodotti u sistemi matul iċ-ċiklu tal-ħajja tagħhom. Dan huwa partikolarment minnu għal sistemi li jeħtieġu aġġornamenti frekwenti tas-software jew li jiddependu fuq l-apprendiment awtomatiku. Dawn il-karatteristiċi jistgħu jwasslu għal riskji li ma kinux preżenti meta s-sistema tqiegħdet fis-suq. Dawn ir-riskji mhumiex indirizzati b’mod adegwat fil-leġiżlazzjoni eżistenti li tiffoka b’mod predominanti fuq ir-riskji għas-sikurezza preżenti meta l-prodott jitqiegħed fis-suq.

·Inċertezza fir-rigward tal-allokazzjoni tar-responsabbiltajiet bejn l-operaturi ekonomiċi differenti fil-katina tal-provvista: b’mod ġenerali, il-leġiżlazzjoni tal-UE dwar is-sigurtà tal-prodotti talloka r-responsabbiltà lill-produttur tal-prodott li jitqiegħed fis-suq, inkluż il-komponenti kollha eż. is-sistemi tal-IA. Iżda, r-regoli jistgħu pereżempju ma jibqgħux ċari jekk l-IA tiżdied wara li l-prodott ikun tqiegħed fis-suq minn parti li ma tkunx il-produttur. Barra minn hekk, il-leġiżlazzjoni dwar ir-responsabbiltà tal-prodotti tal-UE tipprevedi r-responsabbiltà tal-produtturi u tħalli r-regoli ta’ responsabbiltà nazzjonali jirregolaw ir-responsabbiltà tal-oħrajn fil-katina tal-provvista.

·Tibdil fil-kunċett ta’ sikurezza: l-użu tal-IA fil-prodotti u s-servizzi jista’ jwassal għal riskji li attwalment il-leġiżlazzjoni tal-UE ma tindirizzax b’mod espliċitu. Dawn ir-riskji jistgħu jkunu marbuta ma’ theddidiet ċibernetiċi, riskji ta’ sigurtà personali (marbuta pereżempju ma’ applikazzjonijiet ġodda tal-IA bħal fl-apparati domestiċi), riskji li jirriżultaw minn telf ta’ konnettività, eċċ. Dawn ir-riskji jistgħu jkunu preżenti meta l-prodotti jitqiegħdu fis-suq jew jinħolqu minħabba l-aġġornamenti tas-software jew l-awtotagħlim meta l-prodott ikun qed jintuża. Jenħtieġ li l-UE tagħmel użu sħiħ mill-għodod għad-dispożizzjoni tagħha biex issaħħaħ il-bażi tal-evidenza tagħha dwar ir-riskji potenzjali marbuta mal-applikazzjonijiet tal-IA, inkluż billi tuża l-esperjenza tal-Aġenzija tal-UE għaċ-Ċibersigurtà (ENISA) biex tivvaluta x-xenarju tat-theddid tal-IA.

Kif indikat qabel, diversi Stati Membri diġà qed jesploraw alternattivi biex jindirizzaw l-isfidi maħluqa mill-IA fil-leġiżlazzjoni nazzjonali. Dan joħloq ir-riskju li s-suq uniku jista’ jkun frammentat. Ir-regoli nazzjonali diverġenti x’aktarx joħolqu ostakli għall-kumpaniji li jridu jbigħu u joperaw sistemi tal-IA fis-suq uniku. L-iżgurar ta’ approċċ komuni fil-livell tal-UE jippermetti lill-kumpaniji Ewropej jibbenefikaw minn aċċess bla xkiel għas-suq uniku u jappoġġa l-kompetittività tagħhom fis-swieq globali.

Mid-diskussjoni ta’ hawn fuq, il-Kummissjoni tikkonkludi li – minbarra l-aġġustamenti possibbli għal-leġiżlazzjoni eżistenti – tista’ tkun meħtieġa leġiżlazzjoni ġdida speċifikament dwar l-IA sabiex il-qafas legali tal-UE jkun adattat għall-iżviluppi teknoloġiċi u kummerċjali attwali u għal dawk antiċipati.

C.Kamp ta’ applikazzjoni għall-qafas regolatorju futur tal-UE

Kwistjoni ewlenija għall-qafas regolatorju speċifiku futur dwar l-intelliġenza tal-IA se tkun id-determinazzjoni tal-kamp ta’ applikazzjoni tiegħu. L-ipoteżi operattiva hija li l-qafas regolatorju jkun applikabbli għall-prodotti u għas-servizzi li jiddependu fuq l-IA. Għalhekk, jenħtieġ li l-IA tiġi definita b’mod ċar għall-iskopijiet ta’ din il-White Paper, kif ukoll ta’ kwalunkwe inizjattiva futura possibbli għat-tfassil tal-politika.

Fil-Komunikazzjoni tagħha dwar l-IA għall-Ewropa, il-Kummissjoni pprovdiet l-ewwel definizzjoni tal-IA 46 . Din id-definizzjoni ġiet irfinata aktar mill-Grupp ta’ Esperti ta’ Livell Għoli 47 .

Fi kwalunkwe strument legali ġdid, id-definizzjoni tal-IA jeħtieġ li tkun flessibbli biżżejjed biex takkomoda l-progress tekniku filwaqt li tkun preċiża biżżejjed biex tipprovdi ċ-ċertezza legali meħtieġa.

Għall-iskopijiet ta’ din il-White Paper, kif ukoll ta’ kwalunkwe diskussjonijiet futuri possibbli dwar l-inizjattivi ta’ politika, huwa importanti li niċċaraw l-elementi ewlenin li jiffurmaw l-IA, li huma d-“data” u l-“algoritmi”. L-IA tista’ tiġi integrata fil-hardware. Fil-każ tat-tekniki ta’ apprendiment awtomatiku, li jikkostitwixxu subsett tal-IA, l-algoritmi huma mħarrġa biex jinferixxu ċerti mudelli abbażi ta’ sett tad-data biex jiddeterminaw l-azzjonijiet meħtieġa għall-kisba ta’ għan speċifiku. L-algoritmi jistgħu jkomplu jitgħallmu matul l-użu. Filwaqt li l-prodotti bbażati fuq l-IA jistgħu jaġixxu b’mod awtonomu billi jipperċepixxu l-ambjent ta’ madwarhom u mingħajr ma jsegwu sett iddeterminat minn qabel ta’ struzzjonijiet, l-imġiba tagħhom hija fil-biċċa l-kbira ddefinita u ristretta mill-iżviluppaturi tagħhom. Huwa l-bniedem li jiddetermina u jipprogramma l-għanijiet, li għalihom trid tottimizza s-sistema tal-IA. 

L-UE għandha fis-seħħ qafas legali strett biex, fost l-oħrajn, tiżgura l-protezzjoni tal-konsumatur, tindirizza l-prattiki kummerċjali żleali u tipproteġi d-data personali u l-privatezza. Barra minn hekk, fl-acquis hemm regoli speċifiċi għal ċerti setturi (eż. il-kura tas-saħħa, it-trasport). Dawn id-dispożizzjonijiet eżistenti tal-liġi tal-UE se jkomplu japplikaw fir-rigward tal-IA, għalkemm ċerti aġġornamenti f’dak il-qafas jistgħu jkunu meħtieġa biex jirriflettu t-trasformazzjoni diġitali u l-użu tal-IA (ara t-Taqsima B). Bħala konsegwenza ta’ dan, dawk l-aspetti li huma diġà indirizzati mil-leġiżlazzjoni orizzontali jew settorjali eżistenti (eż. dwar l-apparat mediku 48 , fis-sistemi ta’ trasport) se jkomplu jiġu rregolati minn din il-leġiżlazzjoni.

Bħala prinċipju, il-qafas regolatorju l-ġdid għall-IA jenħtieġ ikun effettiv biex jikseb l-objettivi tiegħu filwaqt li ma jkunx eċċessivament preskrittiv b’tali mod li jista’ joħloq piż sproporzjonat, speċjalment għall-SMEs. Sabiex jintlaħaq dan il-bilanċ, il-Kummissjoni hija tal-fehma li jenħtieġ issegwi approċċ ibbażat fuq ir-riskju.

Approċċ ibbażat fuq ir-riskju huwa importanti sabiex jiżgura li l-intervent regolatorju jkun proporzjonat. Madankollu, dan jirrikjedi kriterji ċari li jiddistingwu bejn l-applikazzjonijiet differenti tal-IA, b’mod partikolari fir-rigward tal-kwistjoni ta’ jekk humiex ta’ “riskju għoli” jew le 49 . Id-determinazzjoni ta’ x’inhi applikazzjoni tal-IA b’riskju għoli jenħtieġ tkun ċara u tinftiehem faċilment u applikabbli għall-partijiet kollha kkonċernati. Madankollu, anke jekk applikazzjoni tal-IA ma tkunx ikkwalifikata bħala ta’ riskju għoli, din tibqa’ soġġetta għal kollox għar-regoli tal-UE li diġà jeżistu.

Il-Kummissjoni hija tal-opinjoni li ġeneralment jenħtieġ li applikazzjoni partikolari tal-IA titqies ta’ riskju għoli fid-dawl tas-sitwazzjoni, filwaqt li jiġi kkunsidrat jekk kemm is-settur kif ukoll l-użu maħsub jinvolvu riskji sinifikanti, b’mod partikolari mill-perspettiva tal-protezzjoni tas-sikurezza, id-drittijiet tal-konsumaturi u d-drittijiet fundamentali. B’mod aktar speċifiku, jenħtieġ li applikazzjoni tal-IA titqies bħala ta’ riskju għoli meta tissodisfa ż-żewġ kriterji kumulattivi li ġejjin:

·L-ewwel nett, l-applikazzjoni tal-IA tintuża f’settur fejn, minħabba l-karatteristiċi tal-attivitajiet li tipikament jitwettqu, jistgħu jiġu mistennija riskji sinifikanti. L-ewwel kriterju jiżgura li l-intervent regolatorju jkun immirat lejn l-oqsma fejn, b’mod ġenerali, jitqies li r-riskji huma l-aktar probabbli. Is-setturi koperti jenħtieġ ikunu elenkati b’mod speċifiku u eżawrjenti fil-qafas regolatorju l-ġdid. Pereżempju, il-kura tas-saħħa; it-trasport; l-enerġija u partijiet mis-settur pubbliku 50 . Jenħtieġ li l-lista tiġi rieżaminata u emendata perjodikament fejn ikun meħtieġ skont l-iżviluppi rilevanti fil-prattika;

·It-tieni nett, l-applikazzjoni tal-IA fis-settur inkwistjoni tintuża, barra minn hekk, b’tali mod li aktarx ikun hemm riskji sinifikanti. Dan it-tieni kriterju jirrifletti r-rikonoxximent li mhux kull użu tal-IA fis-setturi magħżula jinvolvi neċessarjament riskji sinifikanti. Pereżempju, filwaqt li l-kura tas-saħħa ġeneralment tista’ titqies bħala settur rilevanti, difett fis-sistema tal-iskedar tal-appuntamenti fi sptar normalment ma joħloqx riskji sinifikanti biżżejjed li jiġġustifikaw intervent leġiżlattiv. Il-valutazzjoni tal-livell tar-riskju ta’ użu partikolari tista’ tkun ibbażata fuq l-impatt li dan ikollu fuq il-partijiet affettwati. Pereżempju, l-użi tal-applikazzjonijiet tal-IA li jipproduċu effetti legali jew effetti sinifikanti simili għad-drittijiet ta’ individwu jew ta’ kumpanija; li jippreżentaw riskju ta’ korriment, mewt jew ħsara materjali jew immaterjali sinifikanti; li jipproduċu effetti li ma jistgħux raġonevolment jiġu evitati minn individwi jew entitajiet ġuridiċi.

L-applikazzjoni ta’ dawn iż-żewġ kriterji kumulattivi tiżgura li l-kamp ta’ applikazzjoni tal-qafas regolatorju jkun immirat u jipprovdi ċertezza legali. Ir-rekwiżiti obbligatorji inklużi fil-qafas regolatorju l-ġdid dwar l-IA (ara t-Taqsima D hawn taħt) japplikaw fil-prinċipju biss għal dawk l-applikazzjonijiet identifikati bħala ta’ riskju għoli skont dawn iż-żewġ kriterji kumulattivi.

Minkejja dan ta’ hawn fuq, jista’ jkun hemm każijiet eċċezzjonali fejn, minħabba r-riskji involuti, l-użu ta’ applikazzjonijiet tal-IA għal ċerti skopijiet għandu jitqies bħala ta’ riskju għoli fih innifsu – jiġifieri, irrispettivament mis-settur ikkonċernat u dan jibqa’ soġġett għar-rekwiżiti ta’ hawn taħt 51 . Bħala illustrazzjoni, wieħed jista’ jaħseb b’mod partikolari dwar dan li ġej:

·Fid-dawl tas-sinifikat tiegħu għall-individwi u għall-acquis tal-UE li jindirizzaw l-ugwaljanza fl-impjiegi, l-użu tal-applikazzjonijiet tal-IA għall-proċessi ta’ reklutaġġ kif ukoll f’sitwazzjonijiet li jolqtu d-drittijiet tal-ħaddiema se jitqies dejjem bħala ta’ “riskju għoli” u għalhekk ir-rekwiżiti ta’ hawn taħt ikunu dejjem japplikaw. Jistgħu jiġu kkunsidrati aktar applikazzjonijiet speċifiċi li jaffettwaw id-drittijiet tal-konsumaturi.

·L-użu ta’ applikazzjonijiet tal-IA għall-iskopijiet tal-identifikazzjoni bijometrika remota 52 u l-użu ta’ teknoloġiji ta’ sorveljanza intrużivi oħra, dejjem jitqies bħala ta’ “riskju għoli” u għalhekk ir-rekwiżiti ta’ hawn taħt ikunu dejjem japplikaw.

D.tipi ta’ rekwiżiti

Fit-tfassil tal-qafas regolatorju futur għall-IA, se jkun meħtieġ li tittieħed deċiżjoni dwar it-tipi ta’ rekwiżiti legali obbligatorji li jridu jiġu imposti fuq l-atturi rilevanti. Dawn ir-rekwiżiti jistgħu jiġu speċifikati aktar permezz ta’ standards. Kif ġie nnutat fit-Taqsima C hawn fuq u flimkien mal-leġiżlazzjoni diġà eżistenti, dawk ir-rekwiżiti japplikaw biss għall-applikazzjonijiet tal-IA b’riskju għoli, u b’hekk jiżguraw li kwalunkwe intervent regolatorju jkun iffukat u proporzjonat.

Filwaqt li jitqiesu l-linji gwida tal-Grupp ta’ Esperti ta’ Livell Għoli u dak li ġie stabbilit hawn fuq, ir-rekwiżiti għall-applikazzjonijiet tal-IA b’riskju għoli jistgħu jikkonsistu fil-karatteristiċi ewlenin li ġejjin, li huma diskussi f’aktar dettall fis-sottotaqsimiet li ġejjin:

·id-data tat-taħriġ;

·id-data u żamma tar-rekords;

·l-informazzjoni li għandha tiġi pprovduta;

·ir-robustezza u l-akkuratezza;

·is-sorveljanza umana;

·ir-rekwiżiti speċifiċi għal ċerti applikazzjonijiet partikolari tal-IA, bħal dawk użati għal skopijiet ta’ identifikazzjoni bijometrika remota.

Sabiex tiġi żgurata ċ-ċertezza legali, dawn ir-rekwiżiti se jiġu speċifikati aktar biex jipprovdu punt ta’ riferiment ċar għall-atturi kollha li jridu jikkonformaw magħhom.

a)Id-data tat-taħriġ;

Huwa aktar importanti minn qatt qabel li jiġu promossi, imsaħħa u mħarsa l-valuri u r-regoli tal-UE, u b’mod partikolari d-drittijiet li ċ-ċittadini jiksbu mid-dritt tal-UE. Dawn l-isforzi bla dubju jestendu wkoll għall-applikazzjonijiet tal-IA b’riskju għoli li jitqiegħdu fis-suq u jintużaw fl-UE, li qed jitqiesu hawnhekk.

Kif diġà ġie diskuss, mingħajr data, ma hemm l-ebda IA. Il-funzjonament ta’ bosta sistemi tal-IA, u l-azzjonijiet u d-deċiżjonijiet li jistgħu jwasslu għalihom, jiddependu ħafna fuq is-sett tad-data li fuqu ġew imħarrġa s-sistemi. Għalhekk, jenħtieġ jittieħdu l-miżuri meħtieġa biex jiġi żgurat li, fir-rigward tad-data użata biex jitħarrġu s-sistemi tal-IA, il-valuri u r-regoli tal-UE jiġu rispettati, speċifikament fir-rigward tas-sikurezza u tar-regoli leġiżlattivi eżistenti għall-protezzjoni tad-drittijiet fundamentali. Jistgħu jiġu previsti r-rekwiżiti li ġejjin li jirrigwardaw is-sett tad-data użat għat-taħriġ tas-sistemi tal-IA:

·Rekwiżiti bl-għan li jipprovdu aċċertamenti raġonevoli li l-użu sussegwenti tal-prodotti jew tas-servizzi li jiġu permessi mis-sistema tal-IA jkunu sikuri, fis-sens li jissodisfaw l-istandards stabbiliti fir-regoli tas-sikurezza applikabbli tal-UE (dawk eżistenti kif ukoll dawk komplementari possibbli). Pereżempju, ir-rekwiżiti li jiżguraw li s-sistemi tal-IA jkunu mħarrġa fuq settijiet tad-data li jkunu wiesgħa biżżejjed u li jkopru x-xenarji kollha rilevanti biex jiġu evitati s-sitwazzjonijiet perikolużi.

·Rekwiżiti biex jittieħdu miżuri raġonevoli bl-għan li jiżguraw li użu sussegwenti bħal dan tas-sistemi tal-IA ma jwassalx għal eżiti li jinvolvu diskriminazzjoni pprojbita. B’mod partikolari, dawn ir-rekwiżiti jistgħu jinvolvu obbligi li jintużaw settijiet ta’ data li jkunu rappreżentattivi biżżejjed, speċjalment biex jiżguraw li d-dimensjonijiet rilevanti kollha tal-ġeneru, tal-etniċità u raġunijiet oħra possibbli ta’ diskriminazzjoni pprojbita jkunu riflessi b’mod xieraq f’dawk is-settijiet tad-data;

·Rekwiżiti bl-għan li jiżguraw li l-privatezza u d-data personali jiġu protetti b’mod adegwat waqt l-użu tal-prodotti u tas-servizzi li jaħdmu l-IA. Ir-Regolament Ġenerali dwar il-Protezzjoni tad-Data u d-Direttiva dwar l-Infurzar tal-Liġi jirregolaw dawn il-kwistjonijiet meta jaqgħu fil-kamp ta’ applikazzjoni rispettiv tagħhom.

b)Iż-żamma tar-rekords u tad-data

·L-iżgurar li tiġi pprovduta informazzjoni ċara dwar il-kapaċitajiet u l-limitazzjonijiet tas-sistema tal-IA, b’mod partikolari dwar l-għan maħsub tas-sistemi, il-kundizzjonijiet li fihom huma mistennija jiffunzjonaw kif maħsub u l-livell mistenni ta’ akkuratezza fil-kisba tal-għan speċifikat. Din l-informazzjoni hija speċjalment importanti għall-fornituri tas-sistemi, iżda tista’ tkun ukoll rilevanti għall-awtoritajiet kompetenti u għall-partijiet affettwati.

·B’mod separat, jenħtieġ li ċ-ċittadini jiġu infurmati b’mod ċar meta jkunu qed jinteraġixxu ma’ sistema tal-IA u mhux ma’ bniedem. Filwaqt li l-leġiżlazzjoni tal-UE dwar il-protezzjoni tad-data diġà fiha ċerti regoli ta’ dan it-tip 54 , jistgħu jintalbu rekwiżiti addizzjonali biex jinkisbu l-objettivi msemmija hawn fuq. Jekk isir hekk, jenħtieġ jiġu evitati l-piżijiet mhux meħtieġa. Għaldaqstant, ma hemmx bżonn li tingħata informazzjoni bħal din, pereżempju, f’sitwazzjonijiet fejn ikun immedjatament ovvju għaċ-ċittadini li qed jinteraġixxu mas-sistemi tal-IA. Barra minn hekk, huwa importanti li l-informazzjoni pprovduta tkun oġġettiva, konċiża u li tinftiehem faċilment. Il-mod li bih l-informazzjoni trid tiġi pprovduta jenħtieġ ikun adattat għall-kuntest partikolari.

Is-sistemi tal-IA – u fuq kollox l-applikazzjonijiet tal-IA b’riskju għoli – jridu jkunu teknikament robusti u akkurati sabiex ikunu affidabbli. Dan ifisser li sistemi bħal dawn iridu jiġu żviluppati b’mod responsabbli b’kunsiderazzjoni dovuta u xierqa ex ante tar-riskji li jistgħu joħolqu. L-iżvilupp u l-funzjonament tagħhom iridu jkunu tali li jiżguraw li s-sistemi tal-IA jġibu ruħhom bl-affidabbiltà maħsuba. Jenħtieġ li jittieħdu l-miżuri raġonevoli kollha biex jitnaqqas ir-riskju li tiġi kkawżata ħsara.

B’hekk, jistgħu jitqiesu l-elementi li ġejjin:

·Rekwiżiti li jiżguraw li s-sistemi tal-IA jkunu robusti u akkurati, jew tal-inqas jirriflettu b’mod korrett il-livell ta’ akkuratezza tagħhom matul il-fażijiet kollha taċ-ċiklu tal-ħajja;

·Rekwiżiti li jiżguraw li l-eżiti jkunu riproduċibbli;

·Rekwiżiti li jiżguraw li s-sistemi tal-IA jistgħu jittrattaw l-erruri jew l-inkonsistenzi b’mod adegwat matul il-fażijiet kollha taċ-ċiklu tal-ħajja.

·Rekwiżiti li jiżguraw li s-sistemi tal-IA jkunu reżiljenti kemm kontra attakki evidenti u kif ukoll kontra tentattivi aktar sottili tal-manipulazzjoni tad-data jew tal-algoritmi nfushom, u li f’każijiet bħal dawn jittieħdu miżuri ta’ mitigazzjoni.

Is-sorveljanza umana tgħin biex tiżgura li sistema tal-IA ma xxekkilx l-awtonomija tal-bniedem jew tikkawża effetti avversi oħra. L-objettiv ta’ IA affidabbli, etika u ċċentrata fuq il-bniedem jista’ jinkiseb biss billi jiġi żgurat involviment xieraq mill-bniedem fir-rigward tal-applikazzjonijiet tal-IA b’riskju għoli.

Għalkemm l-applikazzjonijiet tal-IA kkunsidrati f’din il-White Paper għal sistema legali speċifika huma kollha kkunsidrati ta’ riskju għoli, it-tip u l-grad ta’ sorveljanza xierqa jistgħu jvarjaw minn każ għall-ieħor. Kollox jiddependi b’mod partikolari mill-użu maħsub tas-sistemi u tal-effetti li dan l-użu jista’ jkollu fuq iċ-ċittadini u l-entitajiet ġuridiċi affettwati. Dan għandu jkun ukoll mingħajr preġudizzju għad-drittijiet legali stabbiliti mill-GDPR meta s-sistema tal-IA tipproċessa d-data personali. Pereżempju, is-sorveljanza umana jista’ jkollha l-manifestazzjonijiet mhux eżawrjenti li ġejjin:

·l-output tas-sistema tal-IA ma jsirx effettiv sakemm ma jkunx ġie rivedut u vvalidat preċedentement minn bniedem (eż. ir-rifjut ta’ applikazzjoni għall-benefiċċji tas-sigurtà soċjali jista’ jsir biss minn bniedem);

·l-output tas-sistema tal-IA jsir effettiv immedjatament, iżda wara jkun hemm intervent uman (eż. ir-rifjut ta’ applikazzjoni għall-karta ta’ kreditu jista’ jiġi proċessat minn sistema tal-IA, iżda wara jrid ikun hemm possibbiltà ta’ rieżami mill-bniedem);

·il-monitoraġġ tas-sistema tal-IA waqt li tkun qed topera, u l-kapaċità li tintervjeni f’ħin reali u tiddiżattivaha (eż. fil-karozzi awtonomi hemm buttuna jew proċedura ta’ waqfien għal meta l-bniedem jiddetermina li l-operazzjoni tal-karozza mhijiex sikura);

·fil-fażi tat-tfassil, billi jiġu imposti restrizzjonijiet operattivi fuq is-sistema tal-IA (eż. karozza awtonoma għandha tieqaf topera f’ċerti kundizzjonijiet ta’ viżibbiltà baxxa meta s-sensuri jistgħu jsiru inqas affidabbli jew għandha żżomm ċertu distanza mill-vettura preċedenti f’kull kundizzjoni partikolari).

Il-ġbir u l-użu tad-data bijometrika 55 għall-iskopijiet tal-identifikazzjoni remota, 56  pereżempju permezz tal-varar tar-rikonoxximent tal-wiċċ fil-postijiet pubbliċi, iġibu magħhom riskji speċifiċi għad-drittijiet fundamentali 57 . L-implikazzjonijiet għad-drittijiet fundamentali tal-użu ta’ sistemi tal-IA għall-identifikazzjoni bijometrika remota jistgħu jvarjaw b’mod konsiderevoli skont l-għan, il-kuntest u l-ambitu tal-użu.

Ir-regoli tal-UE għall-protezzjoni tad-data jipprojbixxu, fil-prinċipju, l-ipproċessar tad-data bijometrika bil-għan li persuna fiżika tiġi identifikata b’mod univoku, għajr f’kundizzjonijiet speċifiċi 58 . B’mod speċifiku, skont il-GDPR, tali proċessar jista’ jsir biss għal għadd limitat ta’ raġunijiet, fejn dik ewlenija fosthom hija għal raġunijiet ta’ interess pubbliku sostanzjali. F’dak il-każ, il-proċessar irid isir fuq il-bażi tal-liġi tal-UE jew ta’ dak nazzjonali, soġġett għar-rekwiżiti tal-proporzjonalità, ir-rispett tal-essenza tad-dritt tal-protezzjoni tad-data u s-salvagwardji xierqa. Skont id-Direttiva dwar l-Infurzar tal-Liġi, irid ikun hemm neċessità stretta għal tali pproċessar, fil-prinċipju jrid ikun hemm ukoll awtorizzazzjoni mid-dritt tal-UE jew dak nazzjonali kif ukoll is-salvagwardji xierqa. Peress li kwalunkwe proċessar tad-data bijometrika bil-għan li persuna fiżika tiġi identifikata b’mod univoku jkun marbut ma’ eċċezzjoni għal projbizzjoni stabbilita fil-liġi tal-UE, dan jagħmlu suġġett tal-Karta tad-Drittijiet Fundamentali tal-UE.

Minn dan isegwi li, f’konformità mar-regoli attwali tal-UE dwar il-protezzjoni tad-data u l-Karta tad-Drittijiet Fundamentali, l-IA tista’ tintuża biss għall-iskopijiet tal-identifikazzjoni bijometrika remota fejn tali użu jkun debitament ġustifikat, proporzjonat u suġġett għas-salvagwardji adegwati.

Sabiex jiġi indirizzat it-tħassib soċjetali possibbli dwar l-użu tal-IA għal skopijiet bħal dawn f’postijiet pubbliċi, u sabiex tiġi evitata l-frammentazzjoni fis-suq intern, il-Kummissjoni se tniedi dibattitu Ewropew wiesa dwar iċ-ċirkostanzi speċifiċi, jekk ikun hemm, li jistgħu jiġġustifikaw użu bħal dan, u dwar is-salvagwardji komuni.

E.Destinatarji

Fir-rigward tad-destinatarji tar-rekwiżiti legali li jkunu japplikaw fir-rigward tal-applikazzjonijiet tal-IA b’riskju għoli msemmija hawn fuq, hemm żewġ kwistjonijiet ewlenin li jridu jiġu kkunsidrati.

L-ewwel nett, hemm il-kwistjoni ta’ kif l-obbligi jridu jitqassmu fost l-operaturi ekonomiċi involuti. Hemm ħafna atturi involuti fiċ-ċiklu tal-ħajja ta’ sistema tal-IA. Dawn jinkludu, l-iżviluppatur, l-implimentatur (il-persuna li tuża prodott jew servizz mgħammar bl-IA) u potenzjalment oħrajn (il-produttur, id-distributur jew l-importatur, il-fornitur tas-servizz, l-utent professjonali jew privat).

Il-Kummissjoni hija tal-fehma li, f’qafas regolatorju futur, kull obbligu jenħtieġ jiġi indirizzat lill-attur(i) li jkun(u) fl-aħjar pożizzjoni biex jindirizza(w) kwalunkwe riskji potenzjali. Pereżempju, filwaqt li l-iżviluppaturi tal-IA jistgħu ma jkunux fl-aħjar pożizzjoni biex jindirizzaw ir-riskji li jirriżultaw mill-fażi tal-iżvilupp, il-kapaċità tagħhom li jikkontrollaw ir-riskji matul il-fażi tal-użu tista’ tkun aktar limitata. F’dak il-każ, l-implimentatur jenħtieġ ikun soġġett għall-obbligu rilevanti. Dan huwa mingħajr preġudizzju għall-kwistjoni ta’ liema parti jenħtieġ tkun responsabbli għal kull ħsara kkawżata, għall-iskop tad-determinazzjoni tar-responsabbiltà fir-rigward tal-utenti finali jew ta’ partijiet oħra li jġarrbu ħsara u biex jiġi żgurat aċċess effettiv għall-ġustizzja. Skont il-liġi tal-UE dwar ir-responsabbiltà tal-prodotti, ir-responsabbiltà għall-prodotti difettużi hija attribwita lill-produttur, mingħajr preġudizzju għal-liġijiet nazzjonali li jistgħu jippermettu l-irkupru minn partijiet oħra.

It-tieni nett, hemm il-kwistjoni tal-ambitu ġeografiku tal-intervent leġiżlattiv. Fil-fehma tal-Kummissjoni, huwa ta’ importanza fundamentali li r-rekwiżiti jkunu applikabbli għall-operaturi ekonomiċi rilevanti kollha li jipprovdu prodotti jew servizzi li jaħdmu bl-IA fl-UE, irrispettivament minn jekk ikunux stabbiliti jew le fl-UE. Inkella, l-objettivi tal-intervent leġiżlattiv imsemmija hawn fuq ma jkunux jistgħu jintlaħqu kompletament.

F.Konformità u infurzar

Sabiex jiġi żgurat li l-IA tkun affidabbli, sigura u tirrispetta l-valuri u r-regoli Ewropej, jeħtieġ li r-rekwiżiti legali applikabbli jiġu rispettati fil-prattika u jiġu infurzati effettivament kemm mill-awtoritajiet kompetenti nazzjonali u Ewropej kif ukoll mill-partijiet affettwati. Jenħtieġ li l-awtoritajiet kompetenti jkunu f’pożizzjoni li jinvestigaw każijiet individwali, iżda wkoll li jivvalutaw l-impatt fuq is-soċjetà.

Fid-dawl tar-riskju għoli li ċerti applikazzjonijiet tal-IA joħolqu għaċ-ċittadini u għas-soċjetà tagħna (ara t-Taqsima A hawn fuq), il-Kummissjoni tqis li, f’dan l-istadju, tkun meħtieġa valutazzjoni tal-konformità minn qabel biex jiġi vverifikat u żgurat li jkun hemm konformità ma’ wħud mir-rekwiżiti obbligatorji msemmija hawn fuq li japplikaw għall-applikazzjonijiet b’riskju għoli (ara t-Taqsima D hawn fuq).  Il-valutazzjoni tal-konformità minn qabel tista’ tinkludi proċeduri għall-ittestjar, l-ispezzjoni jew iċ-ċertifikazzjoni 59 . Din tista’ tinkludi verifiki tal-algoritmi u tas-settijiet tad-data użati fil-fażi tal-iżvilupp.

Jenħtieġ li l-valutazzjonijiet tal-konformità għall-applikazzjonijiet tal-IA b’riskju għoli jkunu parti mill-mekkaniżmi ta’ valutazzjoni tal-konformità li diġà jeżistu għal għadd kbir ta’ prodotti li jitqiegħdu fis-suq intern tal-UE. Fejn ma jkunux jistgħu jintużaw mekkaniżmi eżistenti bħal dawn, jista’ jkun meħtieġ li jiġu stabbiliti mekkaniżmi simili, li jagħmlu użu mill-aħjar prattika u mill-kontributi possibbli tal-partijiet ikkonċernati u tal-organizzazzjonijiet Ewropej tal-istandards. Kwalunkwe mekkaniżmu ġdid bħal dan jenħtieġ ikun proporzjonat u mhux diskriminatorju u jenħtieġ li juża kriterji trasparenti u oġġettivi f’konformità mal-obbligi internazzjonali.   

Matul it-tfassil u l-implimentazzjoni ta’ sistema bbażata fuq valutazzjonijiet tal-konformità minn qabel, jenħtieġ jitqiesu b’mod partikolari dawn li ġejjin:

·Mhux ir-rekwiżiti kollha deskritti hawn fuq jistgħu jkunu adattati biex jiġu vverifikati permezz ta’ valutazzjoni tal-konformità minn qabel. Pereżempju, b’mod ġenerali, ir-rekwiżit dwar l-informazzjoni li trid tiġi pprovduta ma tantx hu adattat għall-verifika permezz ta’ valutazzjoni bħal din.

·Jenħtieġ li titqies b’mod partikolari l-possibbiltà li ċerti sistemi tal-IA jevolvu u jitgħallmu mill-esperjenza, u dan jista’ jeħtieġ valutazzjonijiet ripetuti tul il-ħajja tas-sistemi tal-IA inkwistjoni.

·Il-ħtieġa tal-verifika tad-data li tintuża għat-taħriġ tal-metodoloġiji, tal-proċessi u tat-tekniki rilevanti tal-programmazzjoni u tat-taħriġ użati biex jinbnew, jiġu ttestjati u vvalidati s-sistemi tal-IA. 

·F’każ li l-valutazzjoni tal-konformità turi li sistema tal-IA ma tissodisfax ir-rekwiżiti, pereżempju dawk relatati mad-data użata biex titħarreġ, in-nuqqasijiet identifikati jeħtieġ li jiġu rimedjati, pereżempju bit-taħriġ mill-ġdid tas-sistema fl-UE b’tali mod li jiġi żgurat li r-rekwiżiti applikabbli kollha jiġu ssodisfati.

Il-valutazzjonijiet tal-konformità jkunu obbligatorji għall-operaturi ekonomiċi kollha indirizzati mir-rekwiżiti, irrispettivament mill-post ta’ stabbiliment tagħhom 60 . Sabiex jiġi limitat il-piż fuq l-SMEs, tista’ tiġi prevista struttura ta’ sostenn inkluż permezz taċ-Ċentri għall-Innovazzjoni Diġitali. Barra minn hekk, l-istandards kif ukoll l-għodod iddedikati online jistgħu jiffaċilitaw il-konformità.

Kwalunkwe valutazzjoni tal-konformità minn qabel jenħtieġ tkun mingħajr preġudizzju għall-monitoraġġ tal-konformità u tal-infurzar ex post mill-awtoritajiet nazzjonali kompetenti. Dan japplika fir-rigward tal-applikazzjonijiet tal-IA b’riskju għoli, iżda wkoll fir-rigward tal-applikazzjonijiet tal-IA li jkunu soġġetti għal rekwiżiti legali, għalkemm in-natura ta’ riskju għoli tal-applikazzjonijiet inkwistjoni tista’ tkun raġuni biex l-awtoritajiet nazzjonali kompetenti jagħtu attenzjoni partikolari lil dawk tal-ewwel. Jenħtieġ li l-kontrolli ex post ikunu abilitati permezz ta’ dokumentazzjoni xierqa tal-applikazzjoni rilevanti tal-IA (ara t-taqsima E hawn fuq) u, fejn xieraq, bil-possibbiltà li partijiet terzi bħall-awtoritajiet kompetenti jkunu jistgħu jittestjaw applikazzjonijiet bħal dawn. Dan jista’ jkun partikolarment importanti fejn ikun hemm riskji għad-drittijiet fundamentali, li jkunu jiddependu fuq il-kuntest. Monitoraġġ tal-konformità bħal dan jenħtieġ ikun parti minn skema ta’ sorveljanza kontinwa tas-suq. L-aspetti relatati mal-governanza huma diskussi aktar fid-dettall fit-Taqsima H hawn taħt.

Barra minn hekk, jenħtieġ jiġi żgurat rimedju ġudizzjarju effettiv għall-partijiet affettwati b’mod negattiv mis-sistemi tal-IA kemm għall-applikazzjonijiet tal-IA b’riskju għoli kif ukoll għall-applikazzjonijiet l-oħra tal-IA. Il-kwistjonijiet relatati mar-responsabbiltà huma diskussi aktar fir-Rapport dwar il-qafas għas-sigurtà u għar-responsabbiltà li jakkumpanja din il-White Paper.

G.Tikkettar volontarju għall-applikazzjonijiet tal-IA li mhumiex ta’ riskju għoli

Għall-applikazzjonijiet tal-IA li ma jikkwalifikawx bħala “ta’ riskju għoli” (ara t-Taqsima C ta’ hawn fuq) u li, għalhekk, mhumiex soġġetti għar-rekwiżiti obbligatorji diskussi hawn fuq (ara t-Taqsimiet D, E u F ta’ hawn fuq), waħda mill-alternattivi, flimkien l-leġiżlazzjoni applikabbli, tkun li tiġi stabbilita skema ta’ tikkettar volontarju.

Skont l-iskema, l-operaturi ekonomiċi li mhumiex koperti mir-rekwiżiti obbligatorji jistgħu jiddeċiedu li jissottomettu lilhom infushom, fuq bażi volontarja, għal dawk ir-rekwiżiti jew għal sett speċifiku ta’ rekwiżiti simili stabbiliti speċjalment għall-iskopijiet tal-iskema volontarja. Imbagħad, l-operaturi ekonomiċi kkonċernati jingħataw tikketta tal-kwalità għall-applikazzjonijiet tal-IA tagħhom.

It-tikketta volontarja tippermetti lill-operaturi ekonomiċi kkonċernati jindikaw li l-prodotti u s-servizzi tagħhom li jużaw l-IA huma affidabbli. Dan jippermetti lill-utenti jirrikonoxxu faċilment li l-prodotti u s-servizzi inkwistjoni huma konformi ma’ ċerti parametri referenzjarji oġġettivi u standardizzati mal-UE kollha, li jmorru lil hinn mill-obbligi legali applikabbli normalment. Dan jgħin biex tissaħħaħ il-fiduċja tal-utenti fis-sistemi tal-IA u jippromwovi l-adozzjoni ġenerali tat-teknoloġija.

Din l-alternattiva tkun tinvolvi l-ħolqien ta’ strument legali ġdid li jistabbilixxi l-qafas ta’ tikkettar volontarju għall-iżviluppaturi u/jew għall-implimentaturi tas-sistemi tal-IA li mhumiex meqjusa b’riskju għoli. Filwaqt li l-parteċipazzjoni fl-iskema ta’ tikkettar tkun volontarja, ladarba l-iżviluppatur jew l-implimentatur ikun għażel li juża t-tikketta, ir-rekwiżiti jsiru vinkolanti. Il-kombinazzjoni tal-infurzar ex ante u ex post teħtieġ li tiġi żgurata l-konformità mar-rekwiżiti kollha. 

H.Governanza 

Hemm bżonn struttura ta’ governanza Ewropea dwar l-IA fil-forma ta’ qafas għall-kooperazzjoni tal-awtoritajiet kompetenti nazzjonali biex tiġi evitata l-frammentazzjoni tar-responsabbiltajiet, tiżdied il-kapaċità fl-Istati Membri, u jiġi żgurat li l-Ewropa titgħammar progressivament bil-kapaċità meħtieġa għall-ittestjar u għaċ-ċertifikazzjoni tal-prodotti u tas-servizzi li jaħdmu bl-IA. F’dan il-kuntest, ikun ta’ benefiċċju li jiġu appoġġati l-awtoritajiet kompetenti nazzjonali biex ikunu jistgħu jwettqu l-mandat tagħhom meta tintuża l-IA.

Struttura ta’ governanza Ewropea jista’ jkollha varjetà ta’ kompiti, b’mod partikolari tista’ tkun forum għall-iskambju regolari tal-informazzjoni u tal-aħjar prattika, li tidentifika ix-xejriet emerġenti, tagħti pariri dwar l-attività ta’ standardizzazzjoni kif ukoll dwar iċ-ċertifikazzjoni. Din l-istruttura jenħtieġ wkoll ikollha rwol ewlieni fl-iffaċilitar tal-implimentazzjoni tal-qafas legali, pereżempju billi tipprovdi gwida, opinjonijiet u għarfien espert. Għal dak il-għan, jenħtieġ tiddependi fuq netwerk ta’ awtoritajiet nazzjonali, kif ukoll netwerks settorjali u awtoritajiet regolatorji, fil-livell nazzjonali u tal-UE. Barra minn hekk, jista’ jkun hemm kumitat ta’ esperti li jipprovdi assistenza lill-Kummissjoni.

Jenħtieġ li l-istruttura tal-governanza tiggarantixxi l-parteċipazzjoni massima tal-partijiet ikkonċernati. Il-partijiet ikkonċernati – l-organizzazzjonijiet tal-konsumaturi u s-sħab soċjali, in-negozji, ir-riċerkaturi, u l-organizzazzjonijiet tas-soċjetà ċivili – jenħtieġ jiġu kkonsultati dwar l-implimentazzjoni u l-iżvilupp tal-qafas.

Minħabba l-istrutturi diġà eżistenti, bħal dawk fil-finanzi, fil-farmaċewtika, fl-avjazzjoni, fl-apparat mediku, fil-protezzjoni tal-konsumatur, fil-protezzjoni tad-data, jenħtieġ li l-istruttura ta’ governanza proposta ma tidduplikax il-funzjonijiet eżistenti. Minflok, jenħtieġ tistabbilixxi rabtiet mill-qrib ma’ awtoritajiet kompetenti oħra nazzjonali u tal-UE fis-setturi varji biex tikkomplementa l-għarfien espert eżistenti u tgħin lill-awtoritajiet eżistenti fil-monitoraġġ u fis-sorveljanza tal-attivitajiet tal-operaturi ekonomiċi li jinvolvu s-sistemi tal-IA u l-prodotti u s-servizzi li jaħdmu bl-IA.

Fl-aħħar nett, jekk tintgħażel din l-alternattiva, it-twettiq ta’ valutazzjonijiet tal-konformità jista’ jiġi fdat lil korpi notifikati maħtura mill-Istati Membri. Iċ-ċentri tal-ittestjar jenħtieġ jippermettu l-verifika u l-valutazzjoni indipendenti tas-sistemi tal-IA f’konformità mar-rekwiżiti deskritti hawn fuq. Il-valutazzjoni indipendenti żżid il-fiduċja u tiżgura l-oġġettività. Tista’ wkoll tiffaċilita l-ħidma tal-awtoritajiet kompetenti rilevanti.

L-UE għandha ċentri ta’ valutazzjoni u ttestjar eċċellenti u jenħtieġ tiżviluppa wkoll il-kapaċità tagħha fil-qasam tal-IA. L-operaturi ekonomiċi stabbiliti f’pajjiżi terzi li jixtiequ jidħlu fis-suq intern jistgħu jagħmlu użu mill-korpi maħtura stabbiliti fl-UE jew jirrikorru għal korpi ta’ pajjiżi terzi maħtura biex iwettqu tali valutazzjoni, soġġett għal ftehimiet ta’ rikonoxximent reċiproku ma’ pajjiżi terzi.

L-istruttura tal-governanza marbuta mal-IA u l-valutazzjonijiet tal-konformità possibbli li huma inkwistjoni ma jaffettwawx ir-responsabbiltajiet skont id-dritt eżistenti tal-UE tal-awtoritajiet kompetenti rilevanti f’setturi speċifiċi jew dwar kwistjonijiet speċifiċi (il-finanzi, il-farmaċewtika, l-avjazzjoni, l-apparat mediku, il-protezzjoni tal-konsumatur, il-protezzjoni tad-data, eċċ.).

6.Konklużjoni

L-IA hija teknoloġija strateġika li toffri ħafna benefiċċji għaċ-ċittadini, għall-kumpaniji u għas-soċjetà kollha kemm hi, dment li din tkun ċċentrata fuq il-bniedem, etika, sostenibbli u tirrispetta d-drittijiet u l-valuri fundamentali. L-IA toffri kisbiet importanti fl-effiċjenza u fil-produttività li jistgħu jsaħħu l-kompetittività tal-industrija Ewropea u jtejbu l-benesseri taċ-ċittadini. Din tista’ wkoll tikkontribwixxi għas-sejbien ta’ soluzzjonijiet għal uħud mill-aktar sfidi urġenti tas-soċjetà, inkluż il-ġlieda kontra t-tibdil fil-klima u d-degradazzjoni ambjentali, l-isfidi marbuta mas-sostenibbiltà u mat-tibdil demografiku, u mal-protezzjoni tad-demokraziji tagħna u, fejn meħtieġ u proporzjonat, il-ġlieda kontra l-kriminalità.

Sabiex l-Ewropa taħtaf bis-sħiħ l-opportunitajiet li toffri l-IA, trid tiżviluppa u ssaħħaħ il-kapaċitajiet industrijali u teknoloġiċi neċessarji. Kif stabbilit fl-istrateġija Ewropea għad-data, dan jeħtieġ ukoll miżuri li jippermettu lill-UE ssir ċentru globali għad-data.

L-approċċ Ewropew għall-IA għandu l-għan li jippromwovi l-kapaċità tal-innovazzjoni tal-Ewropa fil-qasam tal-IA filwaqt li jappoġġa l-iżvilupp u l-adozzjoni ta’ IA etika u affidabbli fl-ekonomija kollha tal-UE. Jenħtieġ li l-IA taħdem għan-nies u tkun forza għall-ġid fis-soċjetà.

Permezz ta’ din il-White Paper u r-Rapport mehmuż dwar il-qafas għas-sigurtà u għar-responsabbiltà, il-Kummissjoni qed tniedi konsultazzjoni wiesgħa mas-soċjetà ċivili, mal-industrija u mal-akkademiċi tal-Istati Membri, dwar il-proposti konkreti għal approċċ Ewropew għall-IA. Din il-konsultazzjoni tittratta kemm il-mezzi politiċi biex tingħata spinta lill-investimenti fir-riċerka u fl-innovazzjoni, jissaħħaħ l-iżvilupp tal-ħiliet u tiġi appoġġata l-adozzjoni tal-IA mill-SMEs, kif ukoll il-proposti għall-elementi ewlenin ta’ qafas regolatorju futur. Din il-konsultazzjoni se tippermetti djalogu komprensiv mal-partijiet ikkonċernati kollha li se jservu ta’ għarfien għall-passi li jmiss tal-Kummissjoni.

(1)

L-IA għall-Ewropa, COM/2018/237 final

(2)

https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_mt.pdf

(3)

COM(2020) 66 final.

(4)

L-IA u d-diġitalizzazzjoni inġenerali huma fatturi kruċjali għall-ambizzjonijiet Ewropej tal-Patt Ekoloġiku. Madankollu, l-impronta ambjentali attwali tas-settur tal-ICT hija stmata aktar minn 2 % tal-emissjonijiet globali kollha. L-Istrateġija Diġitali Ewropea mehmuża ma’ din il-White Paper tipproponi miżuri ta’ trasformazzjoni ekoloġiċi għas-settur diġitali.

(5)

L-għodod tal-IA jistgħu jipprovdu opportunità biex nipproteġu aħjar liċ-ċittadini tal-UE minn atti kriminali u atti ta’ terroriżmu. Għodod bħal dawn jistgħu, pereżempju, jgħinu fl-identifikazzjoni ta’ propaganda terroristika online, fis-sejbien ta’ tranżazzjonijiet suspettużi fil-bejgħ ta’ prodotti perikolużi, fl-identifikazzjoni ta’ oġġetti moħbija, sustanzi jew prodotti illeċiti, kif ukoll joffru assistenza liċ-ċittadini f’emerġenzi u jgħinu jiggwidaw lill-persunal tal-ewwel intervent.

(6)

COM(2019) 640 final.

(7)

Għalkemm jista’ jkun li jkun hemm bżonn aktar arranġamenti għall-prevenzjoni u l-ġlieda kontra l-użu ħażin tal-IA għal skopijiet kriminali, dan ma jaqax fl-ambitu ta’ din il-White Paper.

(8)

COM(2019) 168.

(9)

Warajha hemm il-Ġappun (30 %) u l-Istati Uniti (28 %). Sors: CapGemini (2019).

(10)

10 imperatives for Europe in the age of AI and automation, McKinsey (2017).

(11)

COM(2018) 795.

(12)

IDC (2019).

(13)

Gartner (2017).

(14)

Soluzzjonijiet newromorfiċi tfisser kwalunkwe sistema kbira ħafna ta’ ċirkwiti integrati li jimitaw l-arkitetturi newrobijoloġiċi preżenti fis-sistema nervuża.

(15)

Il-kompjuters kwantistiċi se jkollhom il-kapaċità li jipproċessaw, f’inqas minn ftit sekondi, settijiet tad-data ħafna ikbar mill-kompjuters bl-aqwa prestazzjoni tal-lum u dan se jippermetti l-iżvilupp ta’ applikazzjonijiet ġodda tal-IA fis-setturi kollha.

(16)

L-Intelliġenza Artifiċjali għall-Ewropa, COM(2018) 237 .

(17)

Pjan Ikkoordinat dwar l-Intelliġenza Artifiċjali, COM(2018) 795 .

(18)

COM(2018) 237.

(19)

Il-Fond Ewropew għad-Difiża u l-Kooperazzjoni Strutturata Permanenti (il-PESCO) futuri se jipprovdu wkoll opportunitajiet għar-riċerka u l-iżvilupp fl-IA. Dawn il-proġetti jenħtieġ jiġu sinkronizzati mal-programmi ċivili usa’ tal-UE li huma ddedikati għall-IA.

(20)

https://ec.europa.eu/jrc/en/publication/academic-offer-and-demand-advanced-profiles-eu

(21)

ec.europe.eu/digital-single-market/en/news/digital-innovation-hubs-helping-companies-across-economy-make-most-digital-opportunities.

(22)

www.Ai4eu.eu.

(23)

Europe.eu/investeu.

(24)

FAIR (Findable, Accessible, Interoperable and Reusable) kif iddikjarat fir-Rapport Finali u fil-Pjan ta’ Azzjoni mill-Grupp ta’ Esperti tal-Kummissjoni dwar id-data FAIR, 2018, https://ec.europa.eu/info/sites/info/files/turning_fair_into_reality_1.pdf.

(25)

https://www.oecd.org/going-digital/ai/principles/

(26)

   Permezz tal-Istrument ta’ Sħubija, il-Kummissjoni se tiffinanzja proġett ta’ EUR 2,5 miljun li se jiffaċilita l-kooperazzjoni mal-isħab tal-istess fehma, biex tippromwovi l-linji gwida etiċi tal-UE dwar l-IA u biex tadotta prinċipji komuni u konklużjonijiet operazzjonali.

(27)

Il-President Von der Leyen, Unjoni li tirsisti għal aktar – L-aġenda tiegħi għall-Ewropa, il-paġna 17.

(28)

COM(2018) 237.

(29)

COM(2018) 795.

(30)

https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top

(31)

COM(2019) 168.

(32)

Dan jinkludi l-kwistjonijiet ta’ ċibersigurtà, l-kwistjonijiet assoċjati mal-applikazzjonijiet tal-IA f’infrastrutturi kritiċi, jew l-użu malizzjuż tal-IA.

(33)

     Ir-riċerka tal-Kunsill tal-Ewropa turi li għadd kbir ta’ drittijiet fundamentali jistgħu jiġu affettwati mill-użu tal-IA, https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5 .

(34)

     Ir-Regolament Ġenerali dwar il-Protezzjoni tad-Data u d-Direttiva dwar il-Privatezza Elettronika (ir-Regolament dwar il-Privatezza Elettronika li qed jiġi nnegozjat) jindirizzaw dawn ir-riskji iżda jista’ jkun hemm bżonn jiġi eżaminat jekk is-sistemi tal-IA joffrux riskji addizzjonali. Il-Kummissjoni se tkun qed tissorvelja u tivvaluta l-applikazzjoni tal-GDPR b’mod kontinwu.

(35)

     Il-Kumitat Konsultattiv tal-Kummissjoni dwar l-Opportunitajiet Ugwali għan-Nisa u għall-Irġiel attwalment qed jipprepara “Opinjoni dwar l-Intelliġenza Artifiċjali” li tanalizza, fost l-oħrajn, l-impatti tal-Intelliġenza Artifiċjali fuq l-ugwaljanza bejn il-ġeneri li hija mistennija tiġi adottata mill-Kumitat kmieni fl-2020. L-istrateġija tal-UE għall-Ugwaljanza bejn il-Ġeneri 2020-2024 tindirizza wkoll ir-rabta bejn l-IA dwar l-ugwaljanza bejn il-ġeneri; In-Netwerk Ewropew tal-Korpi tal-Ugwaljanza (Equinet) se jippubblika rapport (minn Robin Allen u Dee Masters) dwar “Ir-Regolamentazzjoni tal-IA: ir-rwol il-ġdid għall-Korpi tal-Ugwaljanza – Nilħqu l-isfidi l-ġodda għall-ugwaljanza u n-nondiskriminazzjoni minn żieda fid-diġitalizzazzjoni u fl-użu tal-IA”, mistenni kmieni fl-2020.

(36)

Eżempju ta’ dan jista’ jkun dak tal-arloġġ intelliġenti għat-tfal. Jista’ jkun li dan il-prodott ma jikkawża l-ebda ħsara diretta lit-tifel li jilbsu, iżda jekk dan ma jkollux livell minimu ta’ sigurtà, jista’ faċilment jintuża bħala għodda li tagħti aċċess għat-tifel/tifla. L-awtoritajiet tas-sorveljanza tas-suq jistgħu jsibuha diffiċli li jintervjenu meta r-riskju ma jkunx marbut mal-prodott fih innifsu.

(37)

     L-implikazzjonijiet tal-IA, tal-Internet tal-Oġġetti u ta’ teknoloġiji diġitali oħra għal-leġiżlazzjoni dwar is-sigurtà u r-responsabbiltà huma analizzati fir-Rapport tal-Kummissjoni li jakkumpanja din il-White Paper.

(38)

Il-qafas legali tal-UE għas-sigurtà tal-prodott jikkonsisti fid-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti (id-Direttiva 2001/95/KE), bħala xibka ta’ sikurezza, u għadd ta’ reġoli speċifiċi għas-settur li jkopru kategoriji differenti ta’ prodotti li jvarjaw mill-magni, l-ajruplani u l-karozzi sal-ġugarelli u l-apparati mediċi li għandhom l-għan li jipprovdu livell għoli ta’ saħħa u sikurezza. Il-liġi tar-responsabbiltà tal-prodotti hija kkumplimentata b’diversi sistemi ta’ responsabbiltà ċivili għall-ħsarat ikkawżati mill-prodotti jew mis-servizzi.

(39)

Id-Direttiva 2000/43/KE.

(40)

Id-Direttiva 2000/78/KE.

(41)

Id-Direttiva 2004/113/KE; Id-Direttiva 2006/54/KE.

(42)

Bħad-Direttiva dwar il-Prattiċi Kummerċjali Żleali (id-Direttiva 2005/29/KE) u d-Direttiva dwar id-Drittijiet tal-Konsumatur (id-Direttiva 2011/83/KE).

(43)

Id-Direttiva (UE) 2016/680 tal-Parlament Ewropew u tal-Kunsill tas-27 ta’ April 2016 dwar il-protezzjoni ta’ persuni fiżiċi fir-rigward tal-ipproċessar ta’ data personali mill-awtoritajiet kompetenti għall-finijiet tal-prevenzjoni, l-investigazzjoni, is-sejbien jew il-prosekuzzjoni ta’ reati kriminali jew l-eżekuzzjoni ta’ pieni kriminali, u dwar il-moviment liberu ta’ tali data.

(44)

Id-Direttiva (UE) 2019/882 dwar ir-rekwiżiti ta’ aċċessibbiltà għall-prodotti u għas-servizzi.

(45)

Pereżempju, is-software li huwa maħsub għal skopijiet mediċi mill-manifattur, huwa kkunsidrat apparat mediku skont ir-Regolament dwar Apparati Mediċi (ir-Regolament (UE) 2017/745).

(46)

COM(2018) 237 final, p. 1: “L-Intelliġenza artifiċjali (IA) tirreferi għal sistemi li juru mġiba intelliġenti billi janalizzaw l-ambjent tagħhom u jieħdu azzjonijiet – b’ċertu grad ta’ awtonomija – biex jiksbu għanijiet speċifiċi.

Is-sistemi bbażati fuq l-IA jistgħu jkunu purament ibbażati fuq software, billi jaġixxu fid-dinja virtwali (eż. assistenti bil-leħen, software ta’ analiżi tal-immaġnijiet, magni tat-tiftix, sistemi ta’ rikonoxximent tad-diskors u tal-wiċċ) jew inkella l-IA tista’ tkun inkorporata f’apparati tal-hardware (eż. robots avvanzati, karozzi awtonomi, droni jew applikazzjonijiet tal-Internet tal-Oġġetti).”

(47)

Grupp Esperti ta’ Livell Għoli, Definizzjoni tal-IA, p.8: “Sistemi tal-intelliġenza artifiċjali (IA) huma sistemi ta’ software (u possibbilment hardware wkoll) imfassla mill-bniedem li, wara li jingħataw għan kumpless, jaġixxu fid-dimensjoni fiżika jew diġitali billi jipperċepixxu l-ambjent tagħhom permezz ta’ akkwiżizzjoni tad-data, interpretazzjoni ta’ data strutturata jew mhux strutturata, raġunar dwar l-għarfien, jew proċessar tal-informazzjoni, miksuba minn din id-data u teħid ta’ deċiżjoni dwar l-aħjar azzjoni(jiet) li għandha/għandhom tittieħed/jittieħdu biex jintlaħaq l-għan partikolari. Is-sistemi tal-IA jistgħu jew jużaw regoli simboliċi jew inkella jitgħallmu mudell numeriku, u jistgħu wkoll jadattaw l-imġiba tagħhom billi janalizzaw kif l-ambjent hu affettwat mill-azzjonijiet preċedenti tagħhom.”

(48)

Pereżempju, hemm diversi kunsiderazzjonijiet ta’ sikurezza u implikazzjonijiet legali li jikkonċernaw is-sistemi tal-IA li jipprovdu informazzjoni medika speċjalizzata lit-tobba, sistemi tal-IA li jipprovdu informazzjoni medika direttament lill-pazjent u s-sistemi tal-IA li jwettqu kompiti mediċi direttament fuq il-pazjent. Il-Kummissjoni qed teżamina dawn l-isfidi ta’ sikurezza u ta’ responsabbiltà li huma speċifiċi għall-kura tas-saħħa.

(49)

Il-leġiżlazzjoni tal-UE tista’ tikklassifika r-“riskji” b’mod differenti minn dak deskritt hawnhekk, skont il-qasam, bħal pereżempju, is-sigurtà tal-prodotti

(50)

Is-settur pubbliku jista’ jinkludi oqsma bħall-ażil, il-migrazzjoni, il-kontroll fuq il-fruntieri u l-ġudikatura, is-servizzi tas-sigurtà soċjali u tal-impjieg.

(51)

Huwa importanti li jiġi enfasizzat li jistgħu japplikaw ukoll partijiet oħra tal-leġiżlazzjoni tal-UE. Pereżempju, meta tiġi inkorporata fi prodott għall-konsumaturi, id-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti tista’ tapplika għas-sigurtà tal-applikazzjonijiet tal-IA.

(52)

Jenħtieġ li ssir distinzjoni bejn l-identifikazzjoni bijometrika remota u l-awtentikazzjoni bijometrika (din tal-aħħar hija proċess ta’ sigurtà li jiddependi fuq il-karatteristiċi bijoloġiċi uniċi ta’ individwi li jivverifika li l-persuna hi dak li tgħid li hi). L-identifikazzjoni bijometrika remota hija meta l-identitajiet ta’ diversi persuni jiġu stabbiliti bl-għajnuna tal-identifikazzjoni bijometrika (marki tas-swaba’, immaġni tal-wiċċ, iris, sistema vaskulari, eċċ.) mill-bogħod, fi spazju pubbliku u b’mod kontinwu billi jivverifikawhom mad-data maħżuna f’bażi tad-data.

(53)

Pereżempju, id-dokumentazzjoni dwar l-algoritmu inkluż dak li għandu jottimizza għalih il-mudell, liema piżijiet jitfasslu għal ċertu parametri fil-bidu, eċċ.

(54)

B’mod partikolari, skont l-Artikolu 13(2)(f) tal-GDPR, meta tinkiseb data personali, il-kontrolluri jridu jipprovdu lis-suġġetti tad-data l-informazzjoni ulterjuri meħtieġa biex jiġi żgurat ipproċessar ġust u trasparenti dwar l-eżistenza ta’ teħid tad-deċiżjonijiet awtomatizzat u ta’ xi informazzjoni addizzjonali.

(55)

Id-data bijometrika hija definita bħala “data personali li tirriżulta mill-ipproċessar tekniku speċifiku relatat mal-karatteristiċi fiżiċi, fiżjoloġiċi jew tal-imġiba ta’ persuna fiżika, li tippermetti jew tikkonferma l-awtentikazzjoni jew l-identifikazzjoni unika ta’ dik il-persuna fiżika, bħall-immaġnijiet tal-wiċċ jew id-data dattiloskopika [tal-marki tas-swaba’].” (Direttiva dwar l-Infurzar tal-Liġi, l-Art. 3 (13); il-GDPR, l-Art. 4 (14); Ir-Regolament (UE) 2018/1725, l-Art. 3 (18).

(56)

B’rabta mar-rikonoxximent tal-wiċċ, l-identifikazzjoni tfisser li l-mudell tal-immaġni tal-wiċċ ta’ persuna titqabbel ma’ ħafna mudelli oħra maħżuna f’bażi tad-data biex tiskopri jekk l-immaġni ta’ dik il-persuna hijiex maħżuna hemm. Min-naħa l-oħra, l-awtentikazzjoni (jew verifika) ta’ spiss tissejjaħ tqabbil “one-to-one”. Dan jippermetti t-tqabbil ta’ żewġ mudelli bijometriċi, li normalment ikunu jappartjenu għall-istess individwu. Iż-żewġ mudelli bijometriċi jitqabblu biex jiddeterminaw jekk il-persuna fiż-żewġ immaġnijiet hijiex l-istess persuna. Proċedura bħal din tintuża, pereżempju, fil-bibien tas-sistema ta’ Kontroll Awtomatizzat tal-Fruntieri għall-verifiki fuq il-fruntiera fl-ajruporti.

(57)

Pereżempju għad-dinjità tan-nies. B’rabta ma’ dan, id-drittijiet tar-rispett tal-ħajja privata u tal-protezzjoni tad-data personali huma fil-qalba tat-tħassib dwar id-drittijiet fundamentali meta tintuża teknoloġija tar-rikonoxximent tal-wiċċ. Hemm ukoll impatt potenzjali fuq in-nondiskriminazzjoni u d-drittijiet ta’ gruppi speċjali, bħat-tfal, l-anzjani u l-persuni b’diżabilità. Barra minn hekk, il-libertà tal-espressjoni, tal-assoċjazzjoni u tal-għaqda m’għandhiex tiġi mminata mill-użu tat-teknoloġija. Ara: Teknoloġija tar-rikonoxximent tal-wiċċ: kunsiderazzjonijiet tad-drittijiet fundamentali fil-kuntest tal-infurzar tal-liġi, https://fra.europa.eu/en/publication/2019/facial-recognition.

(58)

L-Artikolu 9 GDPR, l-Artikolu 10 tad-Direttiva dwar l-Infurzar tal-Liġi. Ara wkoll l-Artikolu 10 tar-Regolament (UE) 2018/1725 (applikabbli għall-istituzzjonijiet u l-korpi tal-UE).

(59)

Is-sistema tkun ibbażata fuq proċeduri ta’ valutazzjoni tal-konformità fl-UE, ara d-Deċiżjoni 768/2008/KE jew ir-Regolament (UE) 2019/881 (l-Att dwar iċ-Ċibersigurtà), filwaqt li tqis l-ispeċifiċitajiet tal-IA. Ara l-“Gwida Blu” dwar l-implimentazzjoni tar-regoli dwar il-prodotti tal-UE, 2014.

(60)

Fir-rigward tal-istruttura tal-governanza rilevanti, li tinkludi l-korpi nnominati biex iwettqu l-valutazzjonijiet tal-konformità, ara t-Taqsima H hawn taħt.