Opinjoni tal-Kumitat Ekonomiku u Soċjali Ewropew dwar “White Paper dwar l-Intelliġenza Artifiċjali — Approċċ Ewropew għall-eċċellenza u għall-fiduċja”

(COM(2020) 65 final)

(2020/C 364/12)

Relatur:

Catelijne MULLER

Konsultazzjoni	Kummissjoni, 9.3.2020
Bażi legali	Artikolu 304 tat-Trattat dwar il-Funzjonament tal-Unjoni Ewropea
Sezzjoni kompetenti	Sezzjoni għas-Suq Uniku, il-Produzzjoni u l-Konsum
Adottata fis-sezzjoni	25.6.2020
Adottata fil-plenarja	16.7.2020
Sessjoni plenarja Nru	553
Riżultat tal-votazzjoni (favur/kontra/astensjonijiet)	207/0/6

1.   Konklużjonijiet u rakkomandazzjonijiet

1.1.

Il-KESE jifraħ lill-Kummissjoni għall-istrateġija tagħha stabbilita fil-White Paper dwar l-Intelliġenza Artifiċjali (IA), biex tiġi mħeġġa l-adozzjoni ta’ teknoloġiji tal-IA filwaqt li tiġi żgurata wkoll il-konformità tagħhom man-normi etiċi, ir-rekwiżiti legali u l-valuri soċjali Ewropej.

1.2.

Il-KESE jilqa’ wkoll l-għan li jiġu sfruttati l-punti ta’ saħħa Ewropej fis-swieq industrijali u professjonali u jenfasizza l-importanza li jissaħħu l-investiment, l-infrastruttura, l-innovazzjoni u l-ħiliet sabiex in-negozji, inklużi l-SMEs, u s-soċjetà kollha kemm hi jkunu jistgħu jaħtfu l-opportunitajiet tal-IA. L-innovazzjoni tal-IA jenħtieġ li titrawwem biex jiġu massimizzati l-benefiċċji tas-sistemi tal-IA, filwaqt li fl-istess ħin jiġu evitati u minimizzati r-riskji tagħhom.

1.3.

Madankollu, huwa jqis li l-attenzjoni fuq sempliċi IA mmexxija mid-data hija wisq stretta biex l-UE ssir il-veru mexxej fl-IA avvanzata, affidabbli u kompetittiva. Il-KESE jħeġġeġ lill-Kummissjoni tippromovi wkoll ġenerazzjoni ġdida ta’ sistemi tal-IA li huma mmexxija mill-għarfien u bbażati fuq ir-raġunament, u li jirrispettaw il-valuri u l-prinċipji tal-bniedem.

1.4.

Il-KESE jistieden lill-Kummissjoni biex: (i) trawwem il-multidixxiplinarjetà fir-riċerka, billi tinvolvi dixxiplini oħra bħal-liġi, l-etika, il-filosofija, il-psikoloġija, ix-xjenzi tax-xogħol, l-istudji umanistiċi, l-ekonomija, eċċ.; (ii) tinvolvi lill-partijiet interessati rilevanti (trade unions, organizzazzjonijiet professjonali, organizzazzjonijiet tan-negozji, organizzazzjonijiet tal-konsumatur, NGOs) fid-dibattitu dwar l-IA u bħala msieħba indaqs fi proġetti ta’ riċerka u fi proġetti oħrajn iffinanzjati mill-UE bħas-Sħubija Pubblika-Privata dwar l-IA, djalogi mas-settur, u l-programm għall-adozzjoni tal-IA fis-settur pubbliku u ċ-ċentru ta’ referenza; u (iii) tibqa’ teduka u tinforma lill-pubbliku ġenerali dwar l-opportunitajiet u l-isfidi tal-IA.

1.5.

Il-KESE jħeġġeġ lill-Kummissjoni tikkunsidra aktar fil-fond l-impatt tal-IA fuq l-ispettru sħiħ tad-drittijiet fundamentali u l-libertajiet, inklużi, iżda mhux limitati għad-dritt ta’ proċess ġust, ta’ elezzjonijiet ġusti u miftuħa, u ta’ għaqda u dimostrazzjoni, kif ukoll id-dritt ta’ nondiskriminazzjoni.

1.6.

Il-KESE jibqa’ jopponi li tiġi introdotta kwalunkwe forma ta’ personalità ġuridika għall-IA. Din iddgħajjef l-effett ta’ rimedju preventiv tal-liġi dwar ir-responsabbiltà u tkun ta’ riskju serju ta’ periklu morali kemm fl-iżvilupp kif ukoll fl-użu tal-IA, meta toħloq opportunitajiet għall-abbuż.

1.7.

Il-KESE jappella għal approċċ soċjotekniku kontinwu u sistematiku, li jqis it-teknoloġija mill-perspettivi kollha u minn angoli diversi, minflok valutazzjoni tal-konformità minn qabel ta’ darba (jew saħansitra waħda ripetuta b’mod regolari) tal-IA b’riskju għoli.

1.8.

Il-KESE jwissi li r-rekwiżit tas-settur ta’ “riskju għoli” jista’ jeskludi ħafna applikazzjonijiet u użi tal-IA li b’mod intrinsiku huma ta’ riskju għoli, flimkien mar-rikonoxximent bijometriku u l-IA użata fir-reklutaġġ. Il-KESE jirrakkomanda li l-Kummissjoni tħejji lista ta’ karatteristiċi komuni ta’ applikazzjonijiet jew użi tal-IA li huma meqjusa intrinsikament ta’ riskju għoli, irrispettivament mis-settur.

1.9.

Il-KESE jissuġġerixxi bil-qawwa li kwalunkwe użu tar-rikonoxximent bijometriku jkun permess biss: (i) jekk ikun hemm effett ippruvat b’mod xjentifiku, (ii) f’ambjenti kkontrollati, u (iii) taħt kundizzjonijiet stretti. L-użu mifrux tar-rikonoxximent bijometriku bbażat fuq l-IA għas-sorveljanza jew għat-traċċar, il-valutazzjoni jew il-kategorizzazzjoni tal-bnedmin jew tal-imġiba jew l-emozzjonijiet tal-bnedmin għandu jiġi pprojbit.

1.10.

Il-KESE jirrakkomanda involviment bikri u mill-qrib tal-imsieħba soċjali meta jiġu introdotti sistemi tal-IA fuq il-postijiet tax-xogħol, f’konformità mar-regoli u l-prattiki nazzjonali applikabbli, sabiex jiġi żgurat li s-sistemi jistgħu jintużaw u jikkonformaw mad-drittijiet tal-ħaddiema u l-kundizzjonijiet tax-xogħol.

1.11.

Il-KESE jirrakkomanda wkoll l-involviment bikri u mill-qrib ta’ dawk tal-impjegati li fl-aħħar mill-aħħar se jkunu qegħdin jaħdmu b’sistema tal-IA, kif ukoll tal-ħaddiema li għandhom għarfien espert legali, dwar l-etika u fix-xjenzi umanistiċi, meta jintroduċu sistemi tal-IA, sabiex jiġi żgurat li s-sistemi jkunu allinjati mar-rekwiżiti legali u etiċi, kif ukoll mal-ħtiġijiet tal-ħaddiema, sabiex il-ħaddiema jżommu l-awtonomija fuq xogħolhom u li s-sistemi tal-IA jkunu tali li jtejbu l-ħiliet tal-ħaddiema u s-sodisfazzjon tax-xogħol.

1.12.

It-tekniki u l-approċċi tal-IA użati fil-ġlieda kontra l-pandemija tal-coronavirus għandhom ikunu robusti, effettivi, trasparenti u spjegabbli. Barra minn hekk, dawn għandhom jirrispettaw id-drittijiet tal-bniedem, il-prinċipji etiċi u l-leġislazzjoni eżistenti, u jkunu ġusti, inklużivi u volontarji.

1.13.

Il-KESE jistieden lill-Kummissjoni biex tassumi rwol ta’ tmexxija sabiex tiżgura koordinazzjoni aħjar fl-Ewropa tas-soluzzjonijiet u l-approċċi tal-IA użati fil-ġlieda kontra l-pandemija tal-coronavirus.

2.   Il-White Paper tal-UE dwar l-IA

2.1.

Il-KESE jinnota bi pjaċir li l-Kummissjoni Ewropea adottat ħafna mir-rakkomandazzjonijiet minn Opinjonijiet preċedenti tal-KESE u l-Grupp ta’ Esperti ta’ Livell Għoli dwar l-IA, jinkoraġġixxi l-adozzjoni ta’ teknoloġiji tal-IA filwaqt li tiġi żgurata wkoll il-konformità tagħhom man-normi etiċi, ir-rekwiżiti legali u l-valuri soċjali Ewropej, sostnuti minn dik li ssejħilha “ekosistema ta’ eċċellenza u ta’ fiduċja”.

2.2.

Il-KESE jilqa’ l-proposti mmirati lejn in-negozji, inklużi l-SMEs, u s-soċjetà kollha kemm hi biex jinħatfu l-opportunitajiet tal-iżvilupp u l-użi tal-IA. Il-KESE jenfasizza l-importanza li jissaħħu l-investiment, l-infrastruttura, l-innovazzjoni u l-ħiliet biex jittejjeb is-suċċess kompetittiv tal-UE fil-livell globali.

L-approċċ human-in-command

2.3.

Madankollu, il-White Paper hija wkoll xi ftit “fatalistika” fit-ton tagħha, u tissuġġerixxi li l-IA “hija dominanti fuqna”, u b’hekk ma tħallilna l-ebda għażla oħra ħlief li nirregolaw l-użu tagħha. Il-KESE jemmen tassew fl-impenn tal-UE biex tiżgura li l-Ewropa taċċetta biss l-IA li tkun affidabbli u li għalhekk għandha tieħu pożizzjoni ferm aktar b’saħħitha dwar din il-kwistjoni. Għalhekk, il-KESE jħeġġeġ lill-Kummissjoni biex dejjem iżżomm l-għażla miftuħa f’kull ħin li ma taċċettatax ċerti tipi ta’ (użi ta’) IA. Dan huwa dak li l-KESE ilu jappella għalih u li għandna bżonn nrawmu — approċċ “human-in-command” fir-rigward tal-IA.

Nisfruttaw l-IA fl-Ewropa — definizzjoni li tħares ’il quddiem

2.4.

Id-definizzjoni ta’ ħidma ta’ IA fil-White Paper hija “ġabra ta’ teknoloġiji li jgħaqqdu flimkien id-data, l-algoritmi u l-qawwa komputazzjonali”. Aktar ’l isfel fit-test, data u algoritmi huma ddefiniti bħala l-elementi ewlenin tal-IA. Madankollu, dik id-definizzjoni tkopri kwalunkwe software li qatt inkiteb, mhux biss l-IA. Għad ma hemm l-ebda definizzjoni ta’ IA, li hija terminu ġeneriku għal firxa ta’ applikazzjonijiet tal-kompjuter, li hija aċċettata b’mod universali.

2.5.

Is-sempliċi attenzjoni tal-White Paper fuq IA mmexxija mid-data hija wisq stretta biex l-UE ssir il-veru mexxej fl-IA avvanzata, affidabbli u kompetittiva. Il-White Paper ma tqisx ħafna sistemi promettenti tal-IA, u għalhekk teskludi t-tmexxija u r-regolamentazzjoni tagħhom. Il-KESE jħeġġeġ lill-Kummissjoni biex tippromovi wkoll ġenerazzjoni ġdida ta’ sistemi tal-IA li jintegraw approċċi mmexxija mid-data ma’ approċċi mmexxija mill-għarfien u bbażati fuq ir-raġunament, l-hekk imsejħa sistemi ibridi. Filwaqt li l-White Paper tirrikonoxxi l-bżonn ta’ sistemi ibridi għall-finijiet ta’ spjegabbiltà, il-vantaġġi ta’ sistemi ibridi madankollu jmorru lil hinn mill-ispjegabbiltà: jistgħu jżidu r-ritmu tat-tagħlim u/jew iżommuh lura, u jivvalidaw u jivverifikaw il-mudell tal-apprendiment awtomatiku.

2.6.

Il-White Paper tiffoka biss fuq il-preġudizzju f’rabta mad-data, iżda mhux il-preġudizzji kollha jirriżultaw minn data ta’ kwalità baxxa jew limitata. Id-disinn ta’ kwalunkwe artifatt huwa fih innifsu ġabra ta’ għażliet ippreġudikati, li jvarjaw mill-inputs ikkunsidrati sal-għanijiet stabbiliti li għalihom issir l-ottimizzazzjoni. Dawn l-għażliet kollha, b’xi mod jew ieħor, huma xprunati mill-preġudizzji inerenti tal-persuna/persuni li jagħmluhom.

2.7.

Madankollu, aktar importanti minn hekk, is-sistemi tal-IA huma aktar mis-sempliċi total tal-komponenti tas-software tagħhom. Is-sistemi tal-AI jikkonsistu wkoll fis-sistema soċjoteknika ta’ madwarhom. Għalhekk, meta wieħed jikkunsidra l-governanza u r-regolamentazzjoni tal-IA, l-attenzjoni għandha tkun fuq l-istrutturi soċjali u ambjentali ta’ madwarha: l-organizzazzjonijiet u l-intrapriżi, il-professjonijiet varji, u n-nies u l-istituzzjonijiet li joħolqu, jiżviluppaw, jimmobilizzaw, jużaw u jikkontrollaw l-IA, u fuq in-nies affettwati minnha, bħaċ-ċittadini fir-relazzjonijiet tagħhom mal-gvernijiet, in-negozji, il-konsumaturi, il-ħaddiema, u anke s-soċjetà fl-intier tagħha.

2.8.

Għandu jiġi nnotat ukoll li d-definizzjonijiet legali (għall-fini tal-governanza u r-regolamentazzjoni) huma differenti mid-definizzjonijiet purament xjentifiċi, filwaqt li għadd ta’ rekwiżiti differenti jridu jiġu sodisfatti, bħall-inklużività, il-preċiżjoni, il-permanenza, il-komprensività, u l-prattikabbiltà. Uħud minn dawn huma rekwiżiti legalment vinkolanti u wħud jitqiesu prattika regolatorja tajba.

Niġbru flimkien il-forzi kollha

2.9.

Il-KESE jilqa’ l-isforz biex jiġi indirizzat ix-xenarju frammentat tal-IA fl-Ewropa, li jinġbor flimkien ir-riċerkaturi tal-IA, jiffoka fuq l-SMEs u jistabbilixxi sħubijiet mas-setturi privati u pubbliċi. Barra minn hekk, il-KESE jirrakkomanda: (i) trawwim tal-multidixxiplinarjetà fir-riċerka, billi jiġu involuti dixxiplini oħra bħal-liġi, l-etika, il-filosofija, il-psikoloġija, ix-xjenzi tax-xogħol, l-istudji umanistiċi, l-ekonomija, eċċ.; (ii) involviment tal-partijiet interessati rilevanti (trade unions, organizzazzjonijiet tan-negozju, organizzazzjonijiet tal-konsumatur, NGOs) fid-dibattitu dwar l-IA, iżda wkoll bħala msieħba indaqs fi proġetti ta’ riċerka u fi proġetti oħrajn iffinanzjati mill-UE bħas-Sħubija Pubblika-Privata dwar l-IA, id-djalogi mas-settur, u l-programm għall-adozzjoni tal-IA fis-settur pubbliku u ċ-ċentru ta’ referenza; u (iii) li l-pubbliku ġenerali jibqa’ jiġi edukat u informat dwar l-opportunitajiet u l-isfidi tal-IA.

L-IA u l-liġi

2.10.

Il-White Paper tirrikonoxxi l-fatt li l-IA ma toperax f’dinja mingħajr liġi. B’mod partikolari, il-KESE jilqa l-enfasi fuq l-implikazzjonijiet tal-IA għad-drittijiet fundamentali u jirrakkomanda li l-Kummissjoni tqis f’aktar dettall l-impatti tal-IA fuq sett wiesa’ ta’ drittijiet fundamentali u libertajiet bħal-libertà tal-kelma u l-espressjoni, u d-dritt tar-rispett tal-ħajja privata (li jmur ferm ’il hinn mis-sempliċi protezzjoni tad-data tan-nies), ta’ proċess ġust, ta’ elezzjonijiet ġusti u miftuħa, ta’ għaqda u dimostrazzjoni, u ta’ nondiskriminazzjoni.

2.11.

Il-KESE jilqa’ l-pożizzjoni ċara meħuda fil-White Paper dwar l-applikabbiltà tas-sistemi ta’ responsabbiltà eżistenti għall-IA u l-isforz biex titkompla l-ħidma fuq dawk is-sistemi sabiex jiġu indirizzati r-riskji l-ġodda li tista’ toħloq l-IA, jiġu indirizzati l-lakuni marbuta mal-infurzar fejn ikun diffiċli li jiġi ddeterminat l-operatur ekonomiku reali responsabbli, u r-reġimi jsiru adattabbli għat-tibdil tal-funzjonalità tas-sistemi tal-IA.

2.12.

Il-Kummissjoni għandha tirrikonoxxi wkoll li l-IA ma għandhiex fruntieri u li l-isforzi ma jistgħux u m’għandhomx ikunu limitati għall-Ewropa. Għandu jintlaħaq kunsens ġenerali fid-dinja kollha, li jagħmel użu mid-diskussjonijiet u r-riċerka tal-esperti legali, fi sforz biex jiġi stabbilit qafas legali internazzjonali komuni.

2.13.

Fi kwalunkwe każ, il-KESE jibqa’ jopponi bil-qawwa l-introduzzjoni ta’ kwalunkwe forma ta’ personalità ġuridika għall-IA. Din iddgħajjef l-effett ta’ rimedju preventiv tal-liġi dwar ir-responsabbiltà u tkun ta’ riskju serju ta’ periklu morali kemm fl-iżvilupp kif ukoll fl-użu tal-IA, meta toħloq opportunitajiet għall-abbuż.

Ir-regolamentazzjoni tal-IA b’riskju għoli

2.14.

Il-KESE jilqa’ l-approċċ ibbażat fuq ir-riskju għall-kontroll tal-impatti tal-IA. Il-Kummissjoni ħabbret qafas regolatorju għall-“IA b’riskju għoli”, li jkollu jikkonforma mar-rekwiżiti dwar ir-robustezza, il-preċiżjoni, ir-riproduċibbiltà, it-trasparenza, is-sorveljanza umana, u l-governanza tad-data. Skont il-White Paper, hemm żewġ elementi kumulattivi li jikkostitwixxu l-IA b’riskju għoli: (i) settur b’riskju għoli u (ii) użu b’riskju għoli ta’ applikazzjoni tal-IA. Il-White Paper iżżid żewġ eżempji ta’ applikazzjonijiet jew użi tal-IA li jistgħu jitqiesu li b’mod intrinsiku huma ta’ riskju għoli, jiġifieri irrispettivament mis-settur. Barra minn hekk, din tikkwalifika r-rikonoxximent bijometriku bħala applikazzjoni intrinsikament ta’ riskju għoli. Il-lista eżawrjenti ta’ setturi b’riskju għoli (filwaqt li tiġi rieżaminata minn żmien għal żmien) issa tinkludi s-setturi li ġejjin bħala potenzjalment ta’ riskju għoli: il-kura tas-saħħa, it-trasport, l-enerġija u partijiet mis-settur pubbliku.

2.15.

It-tieni kriterju, li l-applikazzjoni tal-IA tintuża b’mod riskjuż, hija inqas stretta, u tissuġġerixxi li jistgħu jiġu kkunsidrati livelli ta’ riskju differenti. Il-KESE jissuġġerixxi li s-soċjetà u l-ambjent jiżdiedu hawnhekk bħala oqsma ta’ impatt.

2.16.

Skont il-loġika tal-White Paper, applikazzjoni tal-IA b’riskju għoli li tintuża f’settur b’riskju baxx fil-prinċipju ma tkunx soġġetta għall-qafas regolatorju. Il-KESE jenfasizza li effetti negattivi mhux mixtieqa tal-IA b’riskju għoli f’settur b’riskju baxx jistgħu jeskludu mir-regolamentazzjoni applikazzjonijiet jew użi tal-IA, u b’hekk jipprovdu “opportunità” biex jiġu evitati r-regoli: bħall-eżempju tar-reklamar immirat (settur b’riskju baxx), li ntwera li għandu effetti potenzjalment ta’ segregazzjoni, diskriminazzjoni u diviżivi, pereżempju matul l-elezzjonijiet jew bi pprezzar personalizzat (użu jew effett b’riskju għoli). Il-KESE jirrakkomanda li titfassal lista tal-karatteristiċi komuni ta’ applikazzjonijiet jew użi tal-IA li għandhom jitqiesu li huma ta’ riskju għoli “kif inhuma”, irrispettivament mis-settur li qed jintużaw fih.

2.17.

Filwaqt li l-KESE jirrikonoxxi l-bżonn għall-ittestjar tal-konformità tal-IA, jibża’ li valutazzjoni tal-konformità minn qabel ta’ darba (jew anki waħda ripetuta b’mod regolari) mhix se tkun biżżejjed biex jiġi ggarantit l-iżvilupp affidabbli u ċċentrat fuq il-bniedem, il-mobilizzazzjoni u l-użu tal-IA b’mod sostenibbli. IA affidabbli teħtieġ approċċ soċjotekniku kontinwu u sistematiku, li jħares lejn it-teknoloġija mill-perspettivi kollha u minn diversi angoli. Għat-tfassil tal-politika, dan jeħtieġ approċċ multidixxiplinari fejn dawk li jfasslu l-politika, akkademiċi minn varjetà ta’ oqsma, l-imsieħba soċjali, l-organizzazzjonijiet professjonali, il-professjonisti, in-negozji u l-NGOs jaħdmu kontinwament flimkien. Speċjalment f’dak li għandu x’jaqsam ma’ servizzi ta’ interess pubbliku b’rabta mas-saħħa, is-sikurezza u l-benesseri tan-nies u abbażi tal-fiduċja, irid jiġi ggarantit li s-sistemi tal-IA huma adattati għal rekwiżiti prattiċi u ma jistgħux jieħdu preċedenza fuq ir-responsabbiltà tal-bniedem.

Rikonoxximent bijometriku

2.18.

Il-KESE jilqa’ l-istedina tal-Kummissjoni biex jagħti bidu għal dibattitu pubbliku dwar l-użu tar-rikonoxximent bijometriku mmexxi mill-IA. Ir-rikonoxximent bijometriku tal-mikroespressjonijiet, il-mod ta’ kif wieħed jimxi, il-vuċi (it-ton tagħha), ir-rata tat-taħbit tal-qalb, it-temperatura, eċċ. diġà qed jintuża biex jiġu vvalutati jew saħansitra mbassra l-imġiba, l-istat mentali u l-emozzjonijiet tagħna, inkluż fil-proċessi ta’ reklutaġġ. Biex inkunu ċari ħafna, ma teżisti l-ebda evidenza xjentifika soda li tissuġġerixxi li l-emozzjonijiet li persuna tħoss ġo fiha jew l-istat mentali tagħha jistgħu “jinqraw” b’mod preċiż mill-espressjoni tal-wiċċ, mill-mod ta’ kif wieħed jimxi, mir-rata tat-taħbit tal-qalb, mit-ton tal-vuċi jew mit-temperatura, wisq inqas li permezz tagħhom tista’ titbassar l-imġiba futura tagħhom.

2.19.

Għandu jiġu nnutat ukoll li r-regolament ġenerali dwar il-protezzjoni tad-data jillimita biss sa ċertu punt l-ipproċessar tad-data bijometrika. Ir-regolament ġenerali dwar il-protezzjoni tad-data jiddefinixxi d-data bijometrika bħala “data personali li tirriżulta mill-ipproċessar tekniku speċifiku relatat mal-karatteristiċi fiżiċi, fiżjoloġiċi jew tal-imġiba ta’ persuna fiżika, li tippermetti jew tikkonferma l-identifikazzjoni unika ta’ dik il-persuna fiżika”. Madankollu, ħafna teknoloġiji ta’ rikonoxximent bijometriku, mhumiex iddisinjati biex jidentifikaw persuna b’mod uniku, iżda biss biex jivvalutaw l-imġiba jew l-emozzjonijiet tagħha. Jista’ jkun li dawn l-użi ma jaqgħux taħt id-definizzjoni ta’ data bijometrika (ipproċessar) skont ir-r-regolament ġenerali dwar il-protezzjoni tad-data.

2.20.

Ir-rikonoxximent bijometriku mmexxi mill-IA jaffettwa wkoll id-dritt usa’ tagħna tar-rispett tal-ħajja privata, l-identità, l-awtonomija u l-integrità psikoloġika billi joħloq sitwazzjoni fejn (b’mod kostanti) niġu osservati, segwiti u identifikati. Dan jista’ jkollu “effett disważiv” psikoloġiku, fejn in-nies jistgħu jħossuhom inklinati li jadattaw l-imġiba tagħhom għal norma partikolari. Dan jikkostitwixxi ksur tad-dritt fundamentali tagħna għall-privatezza (integrità morali u psikoloġika). Barra minn hekk, ir-rikonoxximent bijometriku mmexxi mill-IA jista’ jaffettwa drittijiet fundamentali u libertajiet oħra, bħal-liberta tal-għaqda u d-dritt ta’ nondiskriminazzjoni.

2.21.

Il-KESE jirrakkomanda li kwalunkwe użu tar-rikonoxximent bijometriku jkun permess biss jekk ikun hemm effett ippruvat b’mod xjentifiku, f’ambjenti kkontrollati u taħt kundizzjonijiet stretti. L-użu mifrux tar-rikonoxximent bijometriku abbażi tal-IA biex isiru sorveljanza, traċċar, valutazzjoni jew kategorizzazzjoni tal-bnedmin jew tal-imġiba jew l-emozzjonijiet tal-bnedmin m’għandux ikun permess.

L-impatt tal-IA fuq ix-xogħol u l-ħiliet

2.22.

Il-KESE jinnota li l-White Paper ma tinkludix strateġija dwar kif għandu jiġi indirizzat l-impatt tal-IA fuq ix-xogħol, filwaqt li dan kien element espliċitu tal-Istrateġija Ewropea dwar l-Intelliġenza Artifiċjali tal-2018.

2.23.

Il-KESE jirrakkomanda l-involviment bikri u mill-qrib ta’ ħaddiema, u fornituri tas-servizzi, ta’ kull xorta, inklużi l-ħaddiema freelance, ħaddiema għal rashom u ħaddiema temporanji – mhux biss nies li jiddisinjaw jew jiżviluppaw l-IA, iżda wkoll dawk li jixtru, jimplimentaw, jaħdmu b’sistemi tal-IA jew huma affettwati minnhom. Id-djalogu soċjali għandu jsir qabel l-introduzzjoni tat-teknoloġiji tal-IA fuq il-post tax-xogħol, f’konformità mar-regoli u l-prattiki nazzjonali applikabbli. Fuq il-post tax-xogħol, l-aċċess għad-data tal-ħaddiema u l-ġestjoni tagħha għandhom ikunu ggwidati minn prinċipji u regolamenti nnegozjati mill-imsieħba soċjali.

2.24.

Il-KESE jixtieq jiġbed l-attenzjoni b’mod speċjali għall-IA użata fil-proċessi tar-reklutaġġ, tat-tkeċċija, u tal-valutazzjoni u l-evalwazzjoni tal-ħaddiema. Il-White Paper issemmi l-IA użata fir-reklutaġġ bħala eżempju ta’ applikazzjoni b’riskju għoli li tkun soġġetta għal regolamentazzjoni irrispettivament mis-settur. Il-KESE jirrakkomanda li dan il-kamp ta’ applikazzjoni jiġi estiż biex jinkludi l-IA li tintuża għas-sensji u għall-proċessi ta’ valutazzjoni u evalwazzjoni tal-ħaddiema, iżda wkoll biex ikunu esplorati l-karatteristiċi komuni tal-applikazzjonijiet tal-IA li jistgħu jinkludu użu b’riskju għoli fuq il-post tax-xogħol, irrispettivament mis-settur. Applikazzjonijiet tal-IA li m’għandhomx bażi xjentifika, bħall-identifikazzjoni tal-emozzjonijiet permezz ta’ rikonoxximent bijometriku, m’għandhomx ikunu permessi fl-ambjenti tal-postijiet tax-xogħol.

2.25.

Iż-żamma jew il-kisba ta’ ħiliet tal-IA huma meħtieġa biex in-nies ikunu jistgħu jadattaw għall-iżviluppi rapidi fil-qasam tal-IA. Iżda l-politika u r-riżorsi finanzjarji jeħtieġ li jkunu diretti wkoll lejn l-edukazzjoni u l-iżvilupp tal-ħiliet f’oqsma li mhumiex se jiġu mhedda mis-sistemi tal-IA (jiġifieri kompiti fejn hija vitali l-interazzjoni tal-bniedem, bħas-servizzi ta’ interess pubbliku relatati mas-saħħa, is-sikurezza u l-benesseri tan-nies u abbażi tal-fiduċja, fejn in-nies u l-magni jikkooperaw, jew kompiti li nixtiequ li jitkomplew jitwettqu min-nies).

3.   L-IA u l-coronavirus

3.1.

L-IA tista’ tikkontribwixxi biex jinkiseb fehim aħjar tal-coronavirus u tal-COVID-19, kif ukoll biex tipproteġi lin-nies mill-esponiment, tgħin biex jinstab vaċċin u tesplora l-għażliet għall-kura. Iżda xorta huwa importanti li nkunu miftuħa u ċari dwar x’tista’ u ma tistax tagħmel l-IA.

3.2.

Robustezza u effettività: IA mmexxija mid-data biex tbassar ir-tixrid tal-coronavirus hija potenzjalment problematika, peress li d-data dwar il-coronavirus hija ftit wisq biex l-IA tagħti riżultati affidabbli. Barra minn hekk, il-ftit data li hemm disponibbli mhijiex kompluta u hija preġudikata. L-użu ta’ din id-data għal approċċi ta’ apprendiment awtomatiku jista’ jwassal għal għadd kbir ta’ negattivi foloz u pożittivi foloz.

3.3.

It-trasparenza dwar id-data u l-mudelli użati, kif ukoll l-ispjegabbiltà tar-riżultati, huma essenzjali. F’dan il-mument partikolari, id-dinja ma tistax tirriskja li tieħu deċiżjonijiet mingħajr bażi soda.

3.4.

Fl-użu tal-IA fil-ġlieda kontra din il-pandemija, ir-rispett għad-drittijiet tal-bniedem, il-prinċipji etiċi u l-leġislazzjoni eżistenti huma importanti aktar minn qatt qabel. B’mod partikolari meta l-għodod tal-IA potenzjalment jiksru d-drittijiet tal-bniedem, irid ikun hemm interess leġittimu għall-użu tagħhom, li jrid ikun strettament neċessarju, proporzjonat u, fuq kollox, bi żmien limitat.

3.5.

Fl-aħħar nett, irridu nassiguraw il-ġustizzja u l-inklużjoni. Is-sistemi tal-IA li qed jiġu żviluppati biex tiġi miġġielda l-pandemija għandhom ikunu mingħajr preġudizzju u ma jiddiskriminawx. Barra minn hekk, dawn għandhom ikunu disponibbli għal kulħadd u jikkunsidraw id-differenzi soċjali u kulturali tal-pajjiżi differenti milquta.

Applikazzjoniiet ta’ traċċar u rintraċċar u ta’ sorveljanza tas-saħħa

3.6.

Skont il-viroloġisti u l-epidemjologi, il-ftuħ tas-soċjetà u l-ekonomija wara l-lockdown jeħtieġ traċċar, monitoraġġ u protezzjoni effiċjenti tas-saħħa tan-nies. Attwalment, qed jiġu żviluppati ħafna apps għall-monitoraġġ, it-traċċar u t-twettiq ta’ kontrolli tas-saħħa, attivitajiet li normalment (u storikament) twettqu minn professjonisti. Fid-dinja kollha, ħafna gvernijiet fdaw ħafna fl-applikazzjonijiet ta’ traċċar u rintraċċar bħala mezz għall-ftuħ mill-ġdid tas-soċjetajiet.

3.7.

L-użu ta’ dawn it-tipi ta’ applikazzjonijiet huwa pass radikali ħafna. Għalhekk huwa importanti li jiġu eżaminati b’mod kritiku l-utilità, in-neċessità u l-effettività tal-applikazzjonijiet, kif ukoll l-impatt soċjali u legali tagħhom, qabel tittieħed deċiżjoni biex jintużaw. L-għażla li wieħed ma jużax l-applikazzjonijiet trid tibqa’ hemm, u għandha tingħata prijorità lis-soluzzjonijiet inqas invażivi.

3.8.

L-effettività u l-affidabbiltà tal-applikazzjonijiet ta’ traċċar u rintraċċar hija importanti ħafna, peress li l-ineffettività u n-nuqqas ta’ affidabbiltà jistgħu jwasslu għal ħafna pożittivi foloz u negattivi foloz, għal sens falz ta’ sigurtà, u għalhekk għal riskju akbar ta’ kontaminazzjoni. Simulazzjonijiet xjentifiċi inizjali jqajmu dubji serji dwar jekk l-applikazzjoni ta’ traċċar hux se jkollha xi effett pożittiv fuq it-tixrid tal-virus, anke jekk tintuża minn 80 % jew 90 % tan-nies. Barra minn hekk, applikazzjoni ma tistax tirreġistra ċirkostanzi speċifiċi, bħall-preżenza tal-plexiglass u twieqi jew li wieħed ikun liebes it-tagħmir ta’ protezzjoni personali.

3.9.

Barra minn hekk, dawn l-applikazzjonijiet iwasslu biex jitwarrbu (parzjalment) diversi libertajiet u drittijiet tal-bniedem, peress li jmissu l-libertà tagħna ta’ assoċjazzjoni, id-dritt għas-sigurtà, ta’ nondiskriminazzjoni u għall-privatezza.

3.10.

Filwaqt li hija importanti ħafna, il-privatezza tinvolvi ħafna aktar mid-data personali u l-anonimità tagħna. Il-privatezza tinvolvi wkoll id-dritt li wieħed ma jkunx segwit, traċċat, u mqiegħed taħt sorveljanza. Ġie ppruvat, b’mod xjentifiku, li meta n-nies ikunu jafu li qed jiġu segwiti jibdew jaġixxu b’mod differenti. Skont il-Qorti Ewropea tad-Drittijiet tal-Bniedem, dan l-“effett disważiv” huwa ksur tal-privatezza tagħna. L-istess kunċett wiesa’ ta’ privatezza għandu jiġi inkluż fid-dibattitu dwar l-IA.

3.11.

Hemm riskju li d-data miġbura (issa jew fil-futur) ma tintużax biss fil-ġlieda kontra l-pandemija attwali, iżda wkoll biex jitfassal il-profil tan-nies u biex jiġu kkategorizzati u jingħataw punteġġ għal skopijiet differenti. Fil-futur aktar imbiegħed se jkun saħansitra possibbli li nimmaġinaw li l-estensjoni indebita tal-użu tad-data tista’ twassal għal tip ta’ tfassil ta’ profili mhux mixtieq fis-superviżjoni u s-sorveljanza, aċċettazzjoni għall-assigurazzjoni jew il-benefiċċji soċjali, ir-reklutaġġ jew it-tkeċċija, eċċ. Għalhekk, id-data miġbura permezz ta’ applikazzjonijiet bħal dawn fl-ebda ċirkostanza ma tista’ tintuża għat-tfassil tal-profili, l-għoti ta’ punteġġ tar-riskju, il-klassifikazzjoni, jew it-tbassir.

3.12.

Barra minn hekk, kwalunkwe soluzzjoni tal-IA użata f’dawn iċ-ċirkostanzi straordinarji, anke bl-aħjar intenzjonijiet, se toħloq preċedent, irridu jew ma rridux. Kriżijiet preċedenti wrew li, minkejja kull intenzjoni tajba, miżuri bħal dawn fil-prattika qatt ma jitneħħew.

3.13.

Għalhekk, l-użu tal-IA matul din il-pandemija għandu dejjem jitkejjel u jitqabbel ma’ diversi kunsiderazzjonijiet, bħal: (i) hija effettiva u affidabbli? (ii) jeżistu soluzzjonijiet inqas invażivi? (iii) il-benefiċċji huma akbar mit-tħassib dwar is-soċjetà, l-etika u d-drittijiet fundamentali? u (iv) jista’ jinkiseb kompromess responsabbli bejn drittijiet fundamentali u libertajiet konfliġġenti? Barra minn hekk, dawn it-tipi ta’ sistemi ma jistgħux jintużaw taħt l-ebda forma ta’ obbligu jew sfurzar.

3.14.

Il-KESE jħeġġeġ lil dawk li jfasslu l-politika biex ma jirrikorrux malajr wisq għal soluzzjonijiet b’rabta teknoloġika. Minħabba l-gravità tas-sitwazzjoni, nirrakkomandaw li applikazzjonijiet b’rabta ma’ proġetti mfassla biex jgħinu fil-kontroll tal-pandemija għandhom ikunu bbażati fuq riċerka soda fl-epidemjoloġija, is-soċjoloġija, il-psikoloġija, il-liġi, l-etika u x-xjenzi tas-sistemi. Qabel tittieħed deċiżjoni dwar l-użu ta’ dawn is-sistemi, jeħtieġ li jsiru analiżijiet u simulazzjonijiet tal-effikaċja, in-neċessità u s-sensittività.