Opinjoni tal-Kumitat Ekonomiku u Soċjali Ewropew dwar “Proposta għal Regolament tal-Parlament Ewropew u tal-Kunsill li jistabbilixxi regoli armonizzati dwar l-intelliġenza artifiċjali (l-Att dwar l-Intelliġenza Artifiċjali) u li jemenda ċerti atti leġiżlattivi tal-Unjoni”

(COM(2021) 206 final — 2021/106 (COD))

(2021/C 517/09)

Relatur:

Catelijne MULLER

Konsultazzjoni	Parlament Ewropew, 7.6.2021 Kunsill, 15.6.2021
Bażi legali	Artikolu 114 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropa
Sezzjoni kompetenti	Sezzjoni għas-Suq Uniku, il-Produzzjoni u l-Konsum
Adottata fis-sezzjoni	2.9.2021
Adottata fil-plenarja	22.9.2021
Sessjoni plenarja Nru	563
Riżultat tal-votazzjoni (favur/kontra/astensjonijiet)	225/03/06

1. Konklużjonijiet u rakkomandazzjonijiet

1.1.

Il-Kumitat Ekonomiku u Soċjali Ewropew (KESE) jilqa’ b’sodisfazzjon il-fatt li l-proposta tal-Kummissjoni għall-Att dwar l-Intelliġenza Artifiċjali (minn issa ’l quddiem l-“AIA”) mhux biss tindirizza r-riskji assoċjati mal-Intelliġenza Artifiċjali (IA), iżda tgħolli wkoll il-livell b’mod sostanzjali fir-rigward tal-kwalità, il-prestazzjoni u l-affidabbiltà tal-IA li l-UE hija lesta li tippermetti. Il-KESE huwa partikolarment kuntent li l-AIA jpoġġi s-saħħa, is-sikurezza u d-drittijiet fundamentali fiċ-ċentru tiegħu u li l-kamp ta’ applikazzjoni tiegħu huwa globali.

1.2.

Il-KESE huwa tal-fehma li hemm oqsma li jistgħu jittejbu fir-rigward tal-kamp ta’ applikazzjoni, id-definizzjoni u ċ-ċarezza tal-prattiki pprojbiti tal-IA, l-implikazzjonijiet tal-għażliet ta’ kategorizzazzjoni magħmula fir-rigward tal-“piramida tar-riskju”, l-effett ta’ mitigazzjoni tar-riskju tar-rekwiżiti għall-IA b’riskju kbir, l-eżegwibilità tal-AIA u r-relazzjoni mar-regolament eżistenti u proposti regolatorji reċenti oħrajn.

1.3.

Il-KESE jisħaq li l-IA qatt ma operat f’dinja mingħajr liġi. Minħabba l-kamp ta’ applikazzjoni wiesa’ tiegħu kif ukoll il-primat tiegħu bħala Regolament tal-UE, l-AIA jista’ joħloq tensjoni mal-liġijiet nazzjonali u tal-UE eżistenti u mal-proposti regolatorji relatati. Il-KESE jirrakkomanda li tiġi emendata l-Premessa (41) biex jiġu riflessi u ċċarati kif dovut ir-relazzjonijiet bejn l-AIA u l-leġiżlazzjoni eżistenti u futura.

1.4.

Il-KESE jirrakkomanda li tiġi ċċarata d-definizzjoni tal-IA billi jitneħħa l-Anness I u jiġi emendat ftit l-Artikolu 3 u jitwessa’ l-kamp ta’ applikazzjoni tal-AIA sabiex jiġu inklużi “sistemi tal-IA miruta” u komponenti tal-IA ta’ sistemi tal-IT fuq skala kbira fl-ispazju ta’ libertà, sigurtà u ġustizzja kif elenkati fl-Anness IX.

1.5.

Il-KESE jirrakkomanda li jiġu ċċarati l-projbizzjonijiet dwar “tekniki subliminali” u “l-isfruttament tal-vulnerabbiltajiet” sabiex tiġi riflessa l-projbizzjoni tal-manipulazzjoni dannuża, u li tiżdied ukoll “ħsara lid-drittijiet fundamentali, lid-demokrazija u lill-istat tad-dritt” bħala kundizzjonijiet għal dawn il-projbizzjonijiet.

1.6.

Il-KESE jqis li fl-UE ma hemmx lok li jingħata punteġġ lill-affidabbiltà taċ-ċittadini tal-UE abbażi tal-imġiba soċjali jew tal-karatteristiċi tal-personalità tagħhom, irrispettivament mill-attur li jkun qed jagħti l-punteġġ. Il-KESE jirrakkomanda li jitwessa’ l-kamp ta’ applikazzjoni ta’ din il-projbizzjoni sabiex jiġi inkluż il-punteġġ soċjali mill-organizzazzjonijiet privati u mill-awtoritajiet semipubbliċi.

1.7.

Il-KESE jappella għal projbizzjoni fuq l-użu tal-IA għal rikonoxximent bijometriku awtomatizzat fi spazji aċċessibbli pubblikament u privatament, ħlief għal finijiet ta’ awtentikazzjoni f’ċirkostanzi speċifiċi, kif ukoll għar-rikonoxximent awtomatizzat ta’ sinjali tal-imġiba umana fi spazji aċċessibbli pubblikament u privatament, ħlief għal każijiet speċifiċi ħafna, bħal xi skopijiet mediċi, fejn ir-rikonoxximent tal-emozzjoni tal-pazjenti jista’ jkun siewi.

1.8.

L-approċċ “abbażi ta’ lista” għall-IA b’riskju kbir għandu r-riskju li jinnormalizza u jintegra għadd ta’ sistemi u użijiet tal-IA li għadhom ikkritikati ferm. Il-KESE jwissi li l-konformità mar-rekwiżiti stabbiliti għall-IA b’riskju medju u b’riskju kbir mhux neċessarjament ittaffi r-riskji ta’ ħsara għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali għall-IA kollha b’riskju kbir. Il-KESE jirrakkomanda li l-AIA jipprevedi din is-sitwazzjoni. Tal-anqas, għandhom jiżdiedu r-rekwiżiti (i) tal-intervent uman, (ii) tal-privatezza, (iii) tad-diversità, tan-nondiskriminazzjoni u tal-ġustizzja, (iv) tal-ispjegabbiltà u (v) tal-benesseri ambjentali u soċjali tal-Linji Gwida dwar l-Etika għal IA Affidabbli.

1.9.

F’konformità mal-approċċ għall-IA “human-in-command” li l-KESE ilu jappoġġja għal żmien twil, huwa jirrakkomanda bis-sħiħ li l-AIA jipprevedi ċerti deċiżjonijiet biex tibqa’ l-prerogattiva tal-bnedmin, b’mod partikolari f’oqsma fejn dawn id-deċiżjonijiet ikollhom komponent morali u implikazzjonijiet legali jew impatt fuq is-soċjetà, bħal fil-ġudikatura, fl-infurzar tal-liġi, fis-servizzi soċjali, fil-kura tas-saħħa, fl-akkomodazzjoni, fis-servizzi finanzjarji, fir-relazzjonijiet tax-xogħol u fl-edukazzjoni.

1.10.

Il-KESE jirrakkomanda li l-valutazzjonijiet tal-konformità ta’ partijiet terzi jsiru obbligatorji għall-IA kollha b’riskju kbir.

1.11.

Il-KESE jirrakkomanda li jiġi inkluż mekkaniżmu ta’ lmenti u ta’ rimedju għall-organizzazzjonijiet u għaċ-ċittadini li jkunu ġarrbu ħsara minn kwalunkwe sistema, prattika jew użu tal-IA li jkunu marbuta mal-kamp ta’ applikazzjoni tal-AIA.

2. Proposta regolatorja dwar l-Intelliġenza Artifiċjali — Att dwar l-IA

2.1.

Il-KESE jilqa’ l-fatt li l-proposta tal-Kummissjoni għall-Att dwar l-Intelliġenza Artifiċjali mhux biss tindirizza r-riskji assoċjati mal-IA, iżda tgħolli wkoll il-livell b’mod sostanzjali fir-rigward tal-kwalità, il-prestazzjoni u l-affidabbiltà tal-IA li l-UE hija lesta li tippermetti.

3. Kummenti ġenerali — AIA

L-objettiv u l-kamp ta’ applikazzjoni

3.1.

Il-KESE jilqa’ kemm l-objettiv kif ukoll il-kamp ta’ applikazzjoni tal-AIA. Il-KESE jilqa’ b’mod partikolari l-fatt li l-Kummissjoni tqiegħed is-saħħa, is-sikurezza u d-drittijiet fundamentali fil-qalba tal-AIA. Il-KESE jilqa’ wkoll l-effett estern tal-AIA, li jiżgura li l-IA li tiġi żviluppata barra mill-UE għandha tissodisfa l-istess standards legali jekk tintuża jew ikollha impatt fl-UE.

Id-definizzjoni tal-IA

3.2.

Id-definizzjoni tal-IA (l-Artikolu 3(1) flimkien mal-Anness I AIA) qajmet diskussjoni fost ix-xjenzati tal-IA bl-effett li għadd mill-eżempji mogħtija fl-Anness I ma jitqisux bħala IA mix-xjenzati tal-IA, u għadd ta’ tekniki importanti tal-IA huma nieqsa. Il-KESE ma jara l-ebda valur miżjud fl-Anness I u jirrakkomanda li dan jitneħħa kompletament mill-AIA. Il-KESE jirrakkomanda wkoll li tiġi emendata d-definizzjoni fl-Artikolu 3(I) kif ġej:

“‘Sistema tal-intelliġenza artifiċjali’ (sistema tal-IA) tfisser software li jista’, b’mod awtomatizzat, għal sett partikolari ta’ objettivi definiti mill-bniedem, jiġġenera outputs bħal kontenut, previżjonijiet, rakkomandazzjonijiet jew deċiżjonijiet, li jinfluwenza l-ambjent li jinteraġixxi miegħu.”

Is-saħħa, is-sikurezza u d-drittijiet fundamentali — il-piramida tar-riskju

3.3.

Il-“piramida tar-riskju” dejjem tikber (minn riskju baxx/medju, għal riskju kbir, għal riskju inaċċettabbli) użata biex jiġu kkategorizzati għadd ta’ prattiki ġenerali tal-IA u każijiet tal-użu tal-IA speċifiċi għall-qasam tirrikonoxxi li mhux l-IA kollha toħloq riskji u mhux ir-riskji kollha huma ugwali jew jirrikjedu l-istess miżuri ta’ mitigazzjoni.

3.4.

L-approċċ magħżul iqajjem żewġ mistoqsijiet importanti. L-ewwel nett, il-miżuri ta’ mitigazzjoni (għall-IA b’riskju kbir u b’riskju baxx/medju) jimmitigaw biżżejjed fil-fatt ir-riskji ta’ ħsara għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali? It-tieni, aħna lesti li nippermettu lill-IA biex fil-biċċa l-kbira tissostitwixxi t-teħid tad-deċiżjonijiet mill-bniedem, anke fi proċessi kritiċi bħall-infurzar tal-liġi u l-ġudikatura?

3.5.

Fir-rigward tal-ewwel mistoqsija, il-KESE jwissi li l-konformità mar-rekwiżiti stabbiliti għall-IA b’riskju medju u kbir mhux neċessarjament ittaffi r-riskji ta’ ħsara għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali fil-każijiet kollha. Dan se jiġi ttrattat aktar fit-Taqsima 4.

3.6.

Fir-rigward tat-tieni mistoqsija, dak li huwa nieqes mill-AIA huwa l-kunċett li l-wegħda tal-IA tinsab fit-tisħiħ tat-teħid tad-deċiżjonijiet tal-bniedem u tal-intelliġenza tal-bniedem, aktar milli fis-sostituzzjoni tagħha. L-AIA jaħdem fuq il-premessa li, ladarba jiġu ssodisfati r-rekwiżiti għall-IA b’riskju medju u kbir, l-IA tista’ tissostitwixxi fil-biċċa l-kbira t-teħid tad-deċiżjonijiet mill-bniedem.

3.7.

Il-KESE jirrakkomanda bis-sħiħ li l-AIA jipprevedi ċerti deċiżjonijiet biex tibqa’ l-prerogattiva tal-bnedmin, b’mod partikolari f’oqsma fejn dawn id-deċiżjonijiet ikollhom komponent morali u implikazzjonijiet legali jew impatt fuq is-soċjetà, bħal fil-ġudikatura, fl-infurzar tal-liġi, fis-servizzi soċjali, fil-kura tas-saħħa, fl-akkomodazzjoni, fis-servizzi finanzjarji, fir-relazzjonijiet tax-xogħol u fl-edukazzjoni.

3.8.

Is-sistemi tal-IA ma joperawx f’dinja mingħajr liġi. Għadd ta’ regoli legalment vinkolanti fil-livell Ewropew, nazzjonali u internazzjonali diġà japplikaw jew huma rilevanti għas-sistemi tal-IA llum. Is-sorsi legali jinkludu, iżda mhumiex limitati għal: il-liġi primarja tal-UE (it-Trattati tal-Unjoni Ewropea u l-Karta tad-Drittijiet Fundamentali tagħha), il-liġi sekondarja tal-UE (bħar-Regolament Ġenerali dwar il-Protezzjoni tad-Data, id-Direttiva dwar ir-Responsabbiltà għall-Prodotti, ir-Regolament dwar il-Moviment Liberu ta’ Data Mhux Personali, id-Direttivi kontra d-diskriminazzjoni, il-liġi tal-konsumatur u d-Direttivi dwar is-Sigurtà u s-Saħħa fuq il-Post tax-Xogħol), it-trattati tan-NU dwar id-Drittijiet tal-Bniedem u l-konvenzjonijiet tal-Kunsill tal-Ewropa (bħall-Konvenzjoni Ewropea dwar id-Drittijiet tal-Bniedem), u diversi liġijiet tal-Istati Membri tal-UE. Minbarra r-regoli applikabbli orizzontalment, jeżistu diversi regoli speċifiċi għad-dominji li japplikaw għal applikazzjonijiet partikolari tal-IA (bħal pereżempju r-Regolament dwar Apparati Mediċi fis-settur tal-kura tas-saħħa). Il-KESE jirrakkomanda li tiġi emendata l-Premessa (41) biex dan jiġi rifless dovutament.

4. Kummenti speċifiċi u rakkomandazzjonijiet — AIA

Il-prattiki pprojbiti tal-IA

4.1.

Il-KESE jaqbel li l-prattiki tal-IA fl-Artikolu 5 tabilħaqq ma għandhom l-ebda benefiċċju soċjali u għandhom jiġu pprojbiti. Madankollu, huwa jsib li hemm xi kliem li mhuwiex ċar, li jista’ jagħmel xi projbizzjonijiet diffiċli biex jiġu interpretati u faċli biex dak li jkun idur magħhom.

4.2.

Teżisti evidenza li t-tekniki subliminali jistgħu mhux biss iwasslu għal ħsara fiżika jew psikoloġika (il-kundizzjonijiet attwali biex din il-projbizzjoni partikolari tapplika), iżda jistgħu, minħabba l-ambjent li jintużaw fih, iwasslu għal effetti negattivi oħrajn kemm personali, demokratiċi jew fuq is-soċjetà, bħal tibdil fl-imġiba fil-votazzjoni. Barra minn hekk, ta’ spiss ma tkunx it-teknika subliminali nnifisha, iżda pjuttost id-deċiżjoni dwar min għandu jkun fil-mira ta’ teknika subliminali li tkun xprunata mill-IA.

4.3.

Sabiex jiġi rifless dak li l-AIA għandu l-għan li jipprojbixxi fl-Artikolu 5(1)(a), li hu li n-nies jiġu manipulati jħaddnu mġiba ta’ ħsara, il-KESE jirrakkomanda li l-paragrafu jiġi emendat kif ġej: “(…) sistema tal-IA li tiġi skjerata, ikollha l-għan jew li tintuża biex materjalment tfixkel l-imġiba ta’ persuna b’mod li jikkawża jew li x’aktarx jikkawża ħsara lid-drittijiet fundamentali ta’ dik il-persuna, ta’ persuna oħra jew ta’ grupp ta’ persuni, inklużi s-saħħa u s-sikurezza fiżika jew psikoloġika tagħhom, jew lid-demokrazija u l-istat tad-dritt”.

4.4.

Il-KESE jirrakkomanda li tiġi emendata l-prattika pprojbita tal-isfruttament tal-vulnerabbiltajiet fl-Artikolu 5(1)(b) bl-istess mod, sabiex tiġi inkluża ħsara lid-drittijiet fundamentali, inkluża ħsara fiżika jew psikoloġika.

4.5.

Il-KESE jilqa’ l-projbizzjoni tal-“punteġġi soċjali” fl-Artikolu 5(1)(c). Il-KESE jirrakkomanda li l-projbizzjoni tal-għoti ta’ punteġġ soċjali tapplika wkoll għall-organizzazzjonijiet privati u għall-awtoritajiet semipubbliċi, pjuttost milli għall-awtoritajiet pubbliċi biss. Fl-UE ma hemmx lok li jingħata punteġġ lill-affidabbiltà taċ-ċittadini tal-UE abbażi tal-imġiba soċjali jew tal-karatteristiċi tal-personalità tagħhom, irrispettivament mill-attur li jkun qed jagħti l-punteġġ. Kieku kien hemm, l-UE tiftaħ il-bieb għal diversi oqsma fejn ikun permess l-għoti ta’ punteġġ soċjali, pereżempju fil-post tax-xogħol. Il-kundizzjonijiet skont is-subparagrafi (i) u (ii) għandhom jiġu ċċarati sabiex tinqata’ linja ċara bejn dak li jitqies bħala “punteġġ soċjali” u dak li jista’ jitqies bħala forma aċċettabbli ta’ evalwazzjoni għal ċertu skop, jiġifieri fil-punt fejn l-informazzjoni użata għall-evalwazzjoni ma għandhiex tibqa’ titqies rilevanti jew raġonevolment relatata mal-għan tal-evalwazzjoni.

4.6.

L-AIA għandu l-għan li jipprojbixxi l-identifikazzjoni bijometrika mill-bogħod f’ħin reali (bir-rikonoxximent tal-wiċċ, pereżempju) għall-infurzar tal-liġi u jikkategorizzaha bħala “riskju kbir” meta tintuża għal skopijiet oħra. B’dan il-mod jibqa’ jiġi awtorizzat ir-rikonoxximent bijometriku “f’ħin aktar tard” u dak “kważi”. Jibqa’ wkoll awtorizzat ir-rikonoxximent bijometriku mhux immirat lejn l-identifikazzjoni ta’ persuna, iżda pjuttost lejn il-valutazzjoni tal-imġiba ta’ persuna mill-karatteristiċi bijometriċi tagħha (il-mikroespressjonijiet, il-mod kif wieħed jimxi, it-temperatura, ir-rata tat-taħbit tal-qalb, eċċ.). Il-limitazzjoni għall-“infurzar tal-liġi” tippermetti l-identifikazzjoni bijometrika, kif ukoll il-forom l-oħra kollha ta’ rikonoxximent bijometriku li mhumiex immirati lejn l-identifikazzjoni ta’ individwu, inklużi l-forom kollha msemmija ta’ “rikonoxximent tal-emozzjonijiet” għall-finijiet l-oħra kollha, mill-atturi l-oħra kollha, fil-postijiet pubbliċi u privati kollha, inkluż fuq il-post tax-xogħol, il-ħwienet, l-istadiums, it-teatri eċċ. Dan iħalli l-bieb miftuħ għal dinja fejn qegħdin dejjem niġu “evalwati emozzjonalment” għal kwalunkwe skop li dawk li qed jivvalutawna jqisu bħala meħtieġ.

4.7.

L-AIA ġeneralment jikkategorizza r-“rikonoxximent tal-emozzjonijiet” bħala riskju baxx, bl-eċċezzjoni ta’ ftit oqsma tal-utenti fejn huma kkategorizzati bħala riskju kbir. Dan it-tip ta’ rikonoxximent tal-bijometrija huwa magħruf ukoll bħala “affect recognition” (il-kapaċità li jiġi determinat kif tkun qed tħossha persuna oħra) u xi kultant “rikonoxximent tal-imġiba”. Dawn it-tipi kollha ta’ prattiki mill-IA huma estremament invażivi, ma għandhom l-ebda bażi xjentifika soda u joħolqu riskji sostanzjali ta’ ħsara għal għadd ta’ drittijiet fundamentali tal-Karta tal-UE, bħad-dritt għad-dinjità tal-bniedem, id-dritt għall-integrità tal-persuna (li tinkludi l-integrità mentali) u d-dritt għal ħajja privata.

4.8.

B’mod ġenerali f’konformità mas-sejħa tal-EDPS u l-EDPB tal-21 ta’ Ġunju 2021 għal projbizzjoni fuq l-użu tal-IA għar-rikonoxximent awtomatizzat ta’ karatteristiċi umani fi spazji aċċessibbli għall-pubbliku, u xi użi oħra tal-IA li jistgħu jwasslu għal diskriminazzjoni inġusta, il-KESE jappella għal:

—

projbizzjoni fuq l-użu tal-IA għal rikonoxximent bijometriku awtomatizzat fi spazji aċċessibbli pubblikament u privatament (bħar-rikonoxximent tal-uċuħ, il-mod kif wieħed jimxi, il-vuċi u karatteristiċi bijometriċi oħrajn), ħlief għal finijiet ta’ awtentikazzjoni f’ċirkostanzi speċifiċi (pereżempju biex jiġi pprovdut aċċess għal spazji sensittivi għas-sigurtà);

—	projbizzjoni fuq l-użu tal-IA għar-rikonoxximent awtomatizzat ta’ sinjali ta’ mġiba umana fi spazji aċċessibbli pubblikament u privatament;

—	projbizzjoni fuq is-sistemi tal-IA li jużaw il-bijometrika biex jikkategorizzaw l-individwi f’raggruppamenti bbażati fuq l-etniċità, il-ġeneru, l-orjentazzjoni politika jew sesswali jew raġunijiet oħra li għalihom id-diskriminazzjoni hija pprojbita skont l-Artikolu 21 tal-Karta;

—	projbizzjoni fuq l-użu tal-IA biex jiġu affermati l-emozzjonijiet, l-intenzjoni jew il-karatteristiċi ta’ persuna fiżika, ħlief għal każijiet speċifiċi ħafna, bħal xi skopijiet ta’ saħħa, fejn ir-rikonoxximent tal-emozzjonijiet tal-pazjent huwa importanti.

L-IA b’riskju kbir

4.9.

Fid-deċiżjoni dwar jekk prattika jew użu tal-IA li joħolqu riskju għas-saħħa, għas-sikurezza jew għad-drittijiet fundamentali għandhomx madankollu jiġu permessi taħt kundizzjonijiet stretti, il-Kummissjoni eżaminat żewġ elementi: (i) jekk il-prattika jew l-użu tal-IA jistax ikollhom benefiċċji soċjali u (ii) jekk ir-riskju ta’ dannu għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali li dan l-użu madankollu joħloq jista’ jiġi mmitigat billi jiġu ssodisfati għadd ta’ rekwiżiti.

4.10.

Il-KESE jilqa’ l-allinjament ta’ dawn ir-rekwiżiti ma’ elementi tal-Linji Gwida dwar l-Etika għal IA Affidabbli. Madankollu, ħames rekwiżiti importanti tal-Linji Gwida mhumiex indirizzati b’mod speċifiku fir-rekwiżiti għall-IA b’riskju kbir fl-AIA, jiġifieri: (i) l-intervent uman, (ii) il-privatezza (iii) id-diversità, in-nondiskriminazzjoni u l-ġustizzja, (iv) l-ispjegabbiltà u (v) il-benesseri ambjentali u soċjali. Il-KESE jqis li din hija opportunità mitlufa, minħabba li ħafna mir-riskji li toħloq l-IA huma dawk tal-privatezza, il-preġudizzju, l-esklużjoni, in-nuqqas ta’ spjegabbiltà tal-eżiti tad-deċiżjonijiet dwar l-IA, u l-ikkompromettar tal-intervent uman u l-ambjent, u lkoll huma riflessi fid-drittijiet fundamentali tagħna.

4.11.

Il-KESE jirrakkomanda li dawn ir-rekwiżiti jiżdiedu ma’ dawk tal-Kapitolu 2 tat-Titolu III tal-AIA biex tittejjeb il-kapaċità tal-AIA li jipproteġi b’mod effettiv is-saħħa, is-sikurezza u d-drittijiet fundamentali tagħna mill-impatt negattiv tal-IA, meta użata kemm mill-awtoritajiet pubbliċi kif ukoll mill-organizzazzjonijiet privati.

4.12.

Il-KESE jilqa’ s-“sistema marbuta mill-qrib” bejn l-AIA u l-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni. Huwa jirrakkomanda li jiġu estiżi l-kamp ta’ applikazzjoni tal-AIA u r-rekwiżiti għal IA b’riskju kbir lil hinn mill-“komponenti tas-sikurezza tal-IA” jew is-sitwazzjoni fejn is-sistema tal-IA tkun hija stess prodott kopert mil-leġiżlazzjoni tal-Unjoni dwar l-armonizzazzjoni elenkata fl-Anness II. Dan minħabba li l-IA tista’ toħloq riskji mhux biss meta tintuża bħala komponenti ta’ sikurezza ta’ dawn il-prodotti iżda wkoll minħabba li s-sistema tal-IA nnifisha mhux dejjem tkun prodott. Meta tintuża, pereżempju, bħala parti minn għodda dijanjostika jew pronjostika fil-qasam mediku jew termostat xprunat mill-IA li jirregola bojler.

4.13.

Madankollu, il-KESE jwissi li l-approċċ magħżul “abbażi ta’ lista” għall-IA b’riskju kbir fl-Anness III jista’ jwassal għal-leġittimazzjoni, in-normalizzazzjoni u l-integrazzjoni ta’ għadd pjuttost kbir ta’ prattiki tal-IA li għadhom ikkritikati ferm u li għalihom il-benefiċċji għas-soċjetà huma dubjużi jew nieqsa.

4.14.

Barra minn hekk, ir-riskji ta’ ħsara għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali mhux neċessarjament jistgħu jiġu mmitigati dejjem bil-konformità mal-5 rekwiżiti għal IA b’riskju kbir b’mod partikolari fir-rigward tad-drittijiet fundamentali li jissemmew inqas li jistgħu jiġu affettwati mill-IA, bħad-dritt għad-dinjità tal-bniedem, il-preżunzjoni tal-innoċenza, id-dritt għal kundizzjonijiet tax-xogħol ġusti u ekwi u l-libertà tal-assoċjazzjoni u tal-għaqda, id-dritt għall-istrajkjar, biex insemmu ftit.

4.15.

Il-KESE jirrakkomanda bis-sħiħ li l-ġestjoni u l-operat tal-infrastruttura tat-telekomunikazzjonijiet u tal-Internet jiżdiedu mal-punt 2 tal-Anness III. Il-KESE jirrakkomanda wkoll li l-kamp ta’ applikazzjoni ta dan il-punt jiġi estiż lil hinn mill-komponenti tas-sikurezza tal-IA.

4.16.

Is-sistemi tal-IA li jiddeterminaw l-aċċess għall-edukazzjoni u jevalwaw l-istudenti jikkostitwixxu għadd ta’ riskji ta’ ħsara għas-saħħa, għas-sikurezza u għad-drittijiet fundamentali tal-istudenti. L-għodod online ta’ inviġilazzjoni li, pereżempju, allegatament jidentifikaw “imġiba suspettuża” u “indikazzjonijiet ta’ qerq” matul l-eżamijiet online billi jużaw kull tip ta’ bijometrika u traċċar tal-imġiba huma verament invażivi u nieqsa minn evidenza xjentifika.

4.17.

L-użu tas-sistemi tal-IA għall-monitoraġġ, it-traċċar u l-evalwazzjoni tal-ħaddiema jikkawża tħassib serju fir-rigward tad-drittijiet fundamentali tal-ħaddiema għal kundizzjonijiet tax-xogħol ġusti u ekwi, għall-informazzjoni u l-konsultazzjoni u għat-tkeċċija ġustifikata. Iż-żieda ta’ dawn is-sistemi tal-IA mal-lista b’riskju kbir x’aktarx li tikkawża kunflitti mal-liġijiet nazzjonali dwar ix-xogħol u l-ftehimiet kollettivi tax-xogħol għat-tkeċċija ġusta jew inġusta, kundizzjonijiet tax-xogħol tajbin għas-saħħa u sikuri, u l-informazzjoni lill-ħaddiema. Il-KESE jappella għal garanzija tal-involviment sħiħ tal-ħaddiema u l-imsieħba soċjali u l-infurmar tagħhom fil-proċess tat-teħid tad-deċiżjonijiet dwar l-użu tal-IA fuq il-post tax-xogħol, u dwar l-iżvilupp, l-akkwist u l-implimentazzjoni tagħha.

4.18.

Ir-rekwiżit ta’ “sorveljanza umana” huwa partikolarment rilevanti fir-relazzjonijiet tax-xogħol, minħabba li s-sorveljanza se ssir minn ħaddiem jew minn grupp ta’ ħaddiema. Il-KESE jisħaq li dawn il-ħaddiema għandhom jirċievu taħriġ dwar kif iwettqu dan il-kompitu. Barra minn hekk, minħabba l-fatt li dawn il-ħaddiema huma mistennija li jitħallew jinjoraw l-output tas-sistema tal-IA jew saħansitra jiddeċiedu li ma jużawx din is-sistema, għandu jkun hemm miżuri fis-seħħ biex jiġi evitat il-biża’ ta’ konsegwenzi negattivi (bħad-dimozzjoni jew it-tkeċċija) jekk tittieħed deċiżjoni bħal din.

4.19.

L-użu ta’ sistemi tal-IA fir-rigward tal-aċċess u t-tgawdija ta’ servizzi pubbliċi huwa usa’ mill-użu ta’ sistemi tal-IA fir-rigward tal-aċċess u t-tgawdija ta’ servizzi privati essenzjali, peress li għal dawn tal-aħħar, l-għoti ta’ punteġġ (tal-affidabbiltà) tal-kreditu mill-IA biss jitqies bħala riskju kbir. Il-KESE jirrakkomanda t-twessigħ tal-kamp ta’ applikazzjoni tal-punt 5(b) tal-Anness III għas-sistemi tal-IA maħsuba biex jevalwaw l-eliġibbiltà għal servizzi privati essenzjali.

4.20.

L-IA użata mill-awtoritajiet tal-infurzar tal-liġi u fil-ġestjoni tal-migrazzjoni, l-ażil u l-kontroll tal-fruntieri biex isiru valutazzjonijiet tar-riskju (kriminali jew tas-sigurtà) individwali tikkostitwixxi riskju ta’ ħsara għall-preżunzjoni tal-innoċenza, għad-dritt tad-difiża u għad-dritt għall-ażil tal-Karta tal-UE. B’mod ġenerali, is-sistemi tal-IA jfittxu biss korrelazzjonijiet li huma bbażati fuq karatteristiċi li jinsabu f’“każijiet” oħrajn. Is-suspett f’dawn il-każijiet mhuwiex ibbażat fuq suspett reali ta’ reat jew kontravvenzjoni mill-persuna partikolari, iżda sempliċement fuq karatteristiċi li dik il-persuna tinzerta taqsam ma’ kriminali kkundannati (bħall-indirizz, l-introjtu, in-nazzjonalità, id-djun, l-impjieg, l-imġiba, l-imġiba tal-ħbieb u tal-membri tal-familja, fost l-oħrajn).

4.21.

L-użu tal-IA fl-amministrazzjoni tal-ġustizzja u l-proċessi demokratiċi huwa partikolarment sensittiv u għandu jiġi indirizzat b’aktar sfumaturi u skrutinju milli huwa l-każ issa. L-użu sempliċi ta’ sistemi biex jassistu awtorità ġudizzjarja fir-riċerka u fl-interpretazzjoni tal-fatti u tal-liġi u fl-applikazzjoni tal-liġi għal sett konkret ta’ fatti jinjora l-fatt li l-ġudizzju huwa ħafna aktar mis-sejba ta’ xejriet fid-data storika (li essenzjalment huwa dak li jagħmlu s-sistemi tal-IA attwali). It-test jassumi wkoll li dawn it-tipi ta’ IA se jgħinu biss lill-ġudikatura, filwaqt li jħallu t-teħid tad-deċiżjonijiet ġudizzjarji kompletament awtomatizzati barra mill-kamp ta’ applikazzjoni. Il-KESE jesprimi dispjaċir ukoll għall-fatt li ma tissemma l-ebda sistema jew użu tal-IA fil-qasam tal-proċessi demokratiċi, bħall-elezzjonijiet.

4.22.

Il-KESE jirrakkomanda li tiżdied dispożizzjoni li tipprevedi s-sitwazzjoni fejn tkun jew ovvja jew saret ċara matul il-valutazzjoni tal-konformità minn qabel li s-6 rekwiżiti mhux se jimmitigaw biżżejjed ir-riskju ta’ ħsara għas-saħħa, għas-sikurezza u għad-drittijiet tal-bniedem (pereżempju billi jiġi emendat l-Artikolu 16(g) tal-AIA).

Il-governanza u l-eżegwibilità

4.23.

Il-KESE jilqa’ l-istruttura ta’ governanza stabbilita mill-AIA. Huwa jirrakkomanda li l-Bord tal-IA jorganizza skambji obbligatorji regolari ta’ fehmiet mas-soċjetà usa’, inklużi l-imsieħba soċjali u l-NGOs.

4.24.

Il-KESE jirrakkomanda bis-sħiħ li jitwessa’ l-kamp ta’ applikazzjoni tal-AIA sabiex jiġu inklużi “sistemi tal-IA miruta”, jiġifieri sistemi li diġà jkunu qed jintużaw jew li jintużaw qabel id-dħul fis-seħħ tal-AIA, sabiex jiġi evitat li dawk li jdaħħluha fis-seħħ jaċċelleraw kwalunkwe IA b’riskju kbir u medju pprojbita biex jevitaw ir-rekwiżiti ta’ konformità. Barra minn hekk, il-KESE jirrakkomanda bil-qawwa li ma tiġix eskluża l-IA li hija komponent tas-sistemi tal-IT fuq skala kbira fl-ispazju ta’ libertà, sigurtà u ġustizzja kif elenkat fl-Anness IX mill-kamp ta’ applikazzjoni tal-AIA.

4.25.

Il-kumplessità tar-rekwiżiti u tal-attivitajiet ta’ responsabbiltà, flimkien mal-awtovalutazzjoni, joħolqu r-riskju li dan il-proċess jiġi ssemplifikat f’listi ta’ kontroll fejn sempliċi “iva” jew “le” tista’ tkun biżżejjed biex tissodisfa r-rekwiżiti. Il-KESE jirrakkomanda li l-valutazzjonijiet ta’ partijiet terzi jsiru obbligatorji għall-IA kollha b’riskju kbir.

4.26.

Il-KESE jirrakkomanda li jkun hemm fis-seħħ miżuri ta’ appoġġ (finanzjarju) adatti u għodod sempliċi u aċċessibbli għall-organizzazzjonijiet mikro u żgħar, kif ukoll għall-organizzazzjonijiet tas-soċjetà ċivili, sabiex ikunu jistgħu jifhmu l-iskop u t-tifsira tal-AIA, kif ukoll sabiex ikunu jistgħu jissodisfaw ir-rekwiżiti tiegħu. Dawn il-miżuri għandhom imorru lil hinn mill-appoġġ taċ-Ċentri tal-Innovazzjoni Diġitali u jikkonsistu fl-iffaċilitar tal-aċċess għal għarfien espert ta’ livell għoli dwar l-AIA, ir-rekwiżiti tiegħu, l-obbligi tiegħu u b’mod partikolari r-raġunament b’rabta ma’ dawn.

4.27.

Brussell, it-22 ta’ Settembru 2021.

Christa SCHWENG

Il-President tal-Kumitat Ekonomiku u Soċjali Ewropew