IL-KUMMISSJONI EWROPEA
Brussell, 19.2.2020
COM(2020) 64 final
RAPPORT TAL-KUMMISSJONI LILL-PARLAMENT EWROPEW, LILL-KUNSILL U LILL-KUMITAT EKONOMIKU U SOĊJALI EWROPEW
Rapport dwar l-implikazzjonijiet tas-sigurtà u tar-responsabbiltà tal-Intelliġenza Artifiċjali, tal-Internet tal-Oġġetti u tar-robotika
Rapport dwar l-implikazzjonijiet tas-sigurtà u tar-responsabbiltà tal-Intelliġenza Artifiċjali, tal-Internet tal-Oġġetti u tar-robotika
1.Introduzzjoni
L-Intelliġenza Artifiċjali (IA), l-Internet tal-Oġġetti (IoT, Internet of Things) u r-robotika se joħolqu opportunitajiet u benefiċċji ġodda għas-soċjetà tagħna. Il-Kummissjoni rrikonoxxiet l-importanza u l-potenzjal ta’ dawn it-teknoloġiji u l-bżonn li jsir investiment sinifikanti f’dawn l-oqsma
. Hija impenjata li l-Ewropa ssir mexxejja dinjija fl-IA, fl-IoT u fir-robotika. Sabiex jintlaħaq dan l-għan, huwa meħtieġ qafas legali ċar u prevedibbli li jindirizza l-isfidi teknoloġiċi.
1.1.Il-qafas eżistenti dwar is-sigurtà u r-responsabbiltà
L-objettiv ġenerali tal-oqfsa legali għas-sigurtà u għar-responsabbiltà huwa li jiġi żgurat li l-prodotti u s-servizzi kollha, inkluż dawk li jintegraw teknoloġiji diġitali emerġenti, joperaw b’mod sigur, affidabbli u konsistenti u li d-dannu li jkun sar jiġi rimedjat b’mod effiċjenti. Livell għoli ta’ sigurtà għall-prodotti u għas-sistemi li jintegraw teknoloġiji diġitali ġodda, u mekkaniżmi sodi għar-rimedju ta’ danni li jkunu saru (jiġifieri l-qafas dwar ir-responsabbiltà), iwasslu għal protezzjoni aħjar tal-konsumaturi. Dawn joħolqu wkoll fiduċja f’dawn it-teknoloġiji, li hija prerekwiżit għall-adozzjoni tagħhom mill-industrija u mill-utenti. Din min-naħa tagħha tikkontribwixxi lejn it-tisħiħ tal-kompetittività tal-industrija tagħna u lejn l-objettivi tal-Unjoni. Qafas ċar għas-sigurtà u għar-responsabbiltà huwa partikolarment importanti meta joħorġu teknoloġiji ġodda bħall-IA, l-IoT u r-robotika, biex ikunu żgurati kemm il-protezzjoni tal-konsumatur kif ukoll iċ-ċertezza tad-dritt għan-negozji.
L-Unjoni għandha qafas regolatorju sod u affidabbli dwar is-sigurtà u r-responsabbiltà għall-prodotti u korp sod ta’ standards tas-sigurtà, ikkumplimentat mil-leġiżlazzjoni nazzjonali mhux armonizzata dwar ir-responsabbiltà. Flimkien, dawn jiżguraw il-benesseri taċ-ċittadini tagħna fis-Suq Uniku u jinkoraġġixxu l-innovazzjoni u l-adozzjoni teknoloġika. Madankollu, l-IA, l-IoT u r-robotika qed jittrasformaw il-karatteristiċi ta’ ħafna prodotti u servizzi.
Il-
Komunikazzjoni dwar l-Intelliġenza Artifiċjali għall-Ewropa
, adottata fil-25 ta’ April 2018, ħabbret li l-Kummissjoni kienet se tippreżenta rapport li jivvaluta l-implikazzjonijiet tat-teknoloġiji diġitali emerġenti fuq l-oqfsa għas-sigurtà u għar-responsabbiltà eżistenti. Dan ir-rapport għandu l-għan li jidentifika u jeżamina l-implikazzjonijiet usa’ għall-oqfsa dwar ir-responsabbiltà u s-sigurtà għall-IA, għall-IoT u għar-robotika kif ukoll il-lakuni li jaf ikollhom. L-orjentazzjonijiet ipprovduti f’dan ir-rapport, li jakkumpanja l-White Paper dwar l-Intelliġenza Artifiċjali, huma pprovduti għad-diskussjoni u huma parti mill-konsultazzjoni wiesgħa mal-partijiet ikkonċernati. It-taqsima tas-sigurtà tibni fuq l-evalwazzjoni tad-Direttiva dwar il-Makkinarju u l-ħidma mal-gruppi ta’ esperti rilevanti. It-taqsima dwar ir-responsabbiltà tibni fuq l-evalwazzjoni tad-Direttiva dwar ir-Responsabbiltà għall-Prodotti, l-input tal-gruppi ta’ esperti rilevanti u l-kuntatti mal-partijiet ikkonċernati. Dan ir-rapport m’għandux l-għan li jipprovdi ħarsa ġenerali eżawrjenti tar-regoli eżistenti għas-sigurtà u għar-responsabbiltà, imma li jiffoka fuq il-kwistjonijiet ewlenin li ġew identifikati sa issa.
1.2.Karatteristiċi tal-IA, tal-IoT u tat-teknoloġiji tar-robotika
L-IA, l-IoT u r-robotika għandhom ħafna karatteristiċi komuni. Dawn jistgħu jagħqdu l-konnettività, l-awtonomija u d-dipendenza fuq id-data biex iwettqu kompiti bi ftit jew ebda kontroll jew superviżjoni umana. Is-sistemi li jaħdmu bl-IA jistgħu wkoll itejbu l-prestazzjoni tagħhom stess billi jitgħallmu mill-esperjenza. Il-kumplessità tagħhom hija riflessa kemm fil-pluralità tal-operaturi ekonomiċi involuti fil-katina tal-provvista kif ukoll fil-multipliċità ta’ komponenti, parts, software, sistemi jew servizzi, li flimkien jifformaw l-ekosistemi teknoloġiċi l-ġodda. Ma’ din hemm ukoll il-ftuħ għall-aġġornamenti wara t-tqegħid tagħhom fis-suq. L-ammonti kbar ta’ data involuti, id-dipendenza fuq algoritmi u l-opaċità tat-teħid ta’ deċiżjonijiet mill-IA, jagħmluha iktar diffiċli biex tiġi mbassra l-imġiba ta’ prodott li jaħdem bl-IA u biex jiġu mifhuma l-kawżi potenzjali ta’ dannu. Finalment, il-konnettività u l-ftuħ jistgħu jesponu wkoll il-prodotti tal-IA u tal-IoT għat-theddid ċibernetiku.
1.3.Opportunitajiet maħluqa mill-IA, mill-IoT u mir-robotika
Uħud mill-opportunitajiet maħluqa mill-IA, mill-IoT u mir-robotika jinkludu ż-żieda fil-fiduċja tal-utenti u fl-aċċettazzjoni soċjali tat-teknoloġiji emerġenti, it-titjib tal-prodotti, tal-proċessi u tal-mudelli kummerċjali, u l-għajnuna lill-manifatturi Ewropej biex isiru iktar effiċjenti.
Lil hinn mit-titjib fil-produttività u fl-effiċjenza, bl-IA teżisti wkoll it-tama li l-bniedem ikun jista’ jiżviluppa intelliġenza li għadha ma ntlaħqitx, bir-riżultat li jinfetaħ il-bieb għal skoperti ġodda u jissolvew uħud mill-ikbar sfidi tad-dinja: it-trattament ta’ mard fit-tul, il-predittività ta’ tifqigħa jew it-tnaqqis tar-rati ta’ fatalità f’inċidenti tat-traffiku, il-ġlieda kontra t-tibdil fil-klima u l-antiċipazzjoni tat-theddid għaċ-ċibersigurtà.
Dawn it-teknoloġiji jista’ jkollhom ħafna benefiċċji billi jtejbu s-sigurtà tal-prodotti u jagħmluhom inqas suxxettibbli għal ċerti riskji. Pereżempju, vetturi konnessi u awtomatizzati jistgħu jtejbu s-sigurtà fit-toroq, peress li l-biċċa l-kbira tal-inċidenti tat-traffiku bħalissa huma kkawżati minn żbalji umani
. Barra minn hekk, is-sistemi tal-IoT huma ddisinjati b’mod li jirċievu u jipproċessaw ammonti vasti ta’ data minn sorsi differenti. Din iż-żieda fil-livell ta’ informazzjoni tista’ tintuża biex il-prodotti jkunu jistgħu jadattaw ruħhom waħedhom u, b’konsegwenza, isiru iktar sikuri. It-teknoloġiji l-ġodda jistgħu jikkontribwixxu għal effettività mtejba tas-sejħiet lura ta’ prodotti mis-suq, pereżempju billi l-prodotti jistgħu javżaw lill-utenti biex jevitaw problema ta’ sigurtà
. Jekk tinqala’ kwistjoni ta’ sigurtà waqt l-użu ta’ prodott konness, il-produtturi jistgħu jikkomunikaw direttament mal-utenti, minn naħa biex iwissu lill-utenti dwar ir-riskji u min-naħa l-oħra, jekk ikun possibbli, biex isolvu l-problema direttament billi jipprovdu, pereżempju, aġġornament tas-sigurtà. Pereżempju, waqt is-sejħa lura ta’ wieħed mill-apparati tiegħu fl-2017, produttur tal-ismartphones wettaq aġġornament tas-software biex inaqqas il-kapaċità tal-batterija tal-mowbajls imsejħa lura għal żero
biex l-utenti jieqfu jużaw l-apparati perikolużi.
Barra minn hekk, it-teknoloġiji l-ġodda jistgħu jtejbu t-traċċabilità tal-prodotti. Pereżempju, bil-funzjonijiet tal-konnettività tal-IoT, in-negozji u l-awtoritajiet tas-sorveljanza tas-suq jistgħu jsegwu prodotti perikolużi u jidentifikaw riskji tul il-ktajjen tal-provvista
.
Għalkemm l-IA, l-IoT u r-robotika jistgħu joħolqu opportunitajiet għall-ekonomija u għas-soċjetajiet tagħna, dawn jistgħu joħolqu wkoll riskju ta’ ħsara għall-interessi protetti legalment, kemm dawk materjali kif ukoll immaterjali. Ir-riskju li ssir tali ħsara jiżdied malli l-kamp ta’ applikazzjoni jikber. F’dan il-kuntest huwa essenzjali li jiġi analizzat jekk il-qafas legali attwali għas-sigurtà u għar-responsabbiltà għadux adattat biex jipproteġi lill-utenti, u sa liema punt għadu adattat.
2.Sigurtà
Il-Komunikazzjoni tal-Kummissjoni “Nibnu l-Fiduċja fl-Intelliġenza Artifiċjali Ċċentrata Fuq il-Bniedem” tgħid li s-sistemi ta’ IA għandhom jintegraw mekkaniżmi ta’ sikurezza u ta’ sigurtà mid-disinn, sabiex ikun żgurat li jkunu sikuri b’mod li jista’ jkun verifikat f’kull pass, b’attenzjoni partikolari għas-sigurtà fiżika u mentali ta’ dawk kollha kkonċernati.
Il-valutazzjoni tal-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti f’din it-taqsima tanalizza jekk il-qafas leġiżlattiv attwali tal-Unjoni fihx l-elementi rilevanti biex ikun żgurat li t-teknoloġiji emerġenti, u s-sistemi tal-IA b’mod partikolari, jintegraw is-sikurezza u s-sigurtà mid-disinn.
Dan ir-rapport prinċipalment iħares lejn id-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti kif ukoll lejn il-leġiżlazzjoni armonizzata tal-prodotti li ssegwi r-regoli orizzontali tal-“Approċċ il-Ġdid” u/jew il-“Qafas Leġiżlattiv Ġdid” (minn hawn ’il quddiem il-“leġiżlazzjoni jew il-qafas tal-Unjoni dwar is-sigurtà tal-prodotti”). Ir-regoli orizzontali jiżguraw il-koerenza fost ir-regoli settorjali dwar is-sigurtà tal-prodotti.
Il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti għandha l-għan li tiżgura li l-prodotti li jitqiegħdu fis-suq tal-Unjoni jkunu jissodisfaw ir-rekwiżiti għoljin fir-rigward ta’ saħħa, sigurtà u ambjent, u li dawn il-prodotti jkunu jistgħu jiċċirkolaw b’mod ħieles fl-Unjoni kollha. Il-leġiżlazzjoni settorjali hija kkomplementata mid-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti li titlob li l-prodotti għall-konsumatur kollha jridu jkunu siguri, anki jekk ma jiġux irregolati bil-leġiżlazzjoni settorjali tal-Unjoni. Ir-regoli dwar is-sigurtà huma kkomplementati mis-sorveljanza tas-suq u mis-setgħat mogħtija lill-awtoritajiet nazzjonali fil-qafas tar-Regolament dwar is-Sorveljanza tas-Suq u tad-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti. F’dak li jirrigwarda t-trasport, jeżistu regoli nazzjonali u tal-Unjoni addizzjonali għat-tqegħid ta’ vettura bil-mutur, inġenju tal-ajru jew bastiment fis-servizz u regoli ċari li jirregolaw is-sigurtà waqt l-operat, inklużi kompiti għall-operaturi kif ukoll kompiti tas-sorveljanza għall-awtoritajiet.
L-istandardizzazzjoni Ewropea wkoll hija element essenzjali tal-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti. Minħabba n-natura globali tad-diġitalizzazzjoni u tat-teknoloġiji diġitali emerġenti, il-kooperazzjoni internazzjonali fl-istandardizzazzjoni hija ta’ rilevanza partikolari għall-kompetittività tal-Industrija Ewropea.
Biċċa kbira tal-qafas tal-Unjoni dwar is-sigurtà tal-prodotti nkiteb qabel l-emerġenza tat-teknoloġiji diġitali bħall-IA, l-IoT jew ir-robotika. Għaldaqstant mhux dejjem jinkludi dispożizzjonijiet li jindirizzaw b’mod espliċitu l-isfidi u r-riskji ġodda ta’ dawn it-teknoloġiji emerġenti. Madankollu, peress li l-qafas eżistenti dwar is-sigurtà tal-prodotti huwa newtrali fir-rigward tat-teknoloġija, dan ma jfissirx li ma jkunx japplika għall-prodotti li jinkorporaw dawn it-teknoloġiji. Barra minn hekk, l-atti leġiżlattivi sussegwenti li huma parti minn dak il-qafas, bħal fis-setturi tal-apparati mediċi jew tal-karozzi, diġà qiesu b’mod espliċitu xi aspetti tal-emerġenza tat-teknoloġiji diġitali, eż. deċiżjonijiet awtomatizzati, is-software bħala prodott separat u l-konnettività.
Il-loġika sottostanti tal-leġiżlazzjoni attwali tal-Unjoni dwar is-sigurtà tal-prodotti
L-isfidi li t-teknoloġiji diġitali emerġenti joħolqu fir-rigward tal-qafas tal-Unjoni dwar is-sigurtà tal-prodotti huma ppreżentati minn hawn ’il quddiem.
Il-konnettività hija funzjoni ewlenija f’għadd dejjem jikber ta’ prodotti u servizzi. Din il-funzjoni hija sfida għall-kunċett tradizzjonali tas-sigurtà, peress li l-konnettività tista’ tikkomprometti direttament is-sigurtà tal-prodott, u indirettament meta dan ikun jista’ jiġi ħħekkjat, li jwassal għal theddid għas-sigurtà u jaffettwa s-sigurtà tal-utenti.
Każ eżemplari huwa notifika mill-Iżlanda fis-Sistema ta’ Twissija Bikrija tal-UE rigward smart watch għat-tfal. Dan il-prodott ma jikkawżax ħsara diretta lit-tfal li jilbsuh, imma mingħajr livell minimu ta’ sigurtà jista’ faċilment jintuża bħala għodda biex wieħed jaċċessa dawn it-tfal. Peress li waħda mill-funzjonijiet intenzjonati tal-prodott hija li jżomm it-tfal siguri permezz tal-lokalizzazzjoni, il-konsumatur jistenna li dan ma jkunx ta’ theddida għas-sigurtà tat-tfal minħabba l-possibbiltà li jiġu traċċati u/jew ikkuntattjati minn kwalunkwe persuna.
Eżempju ieħor huwa indikat f’notifika ppreżentata mill-Ġermanja dwar karozza tal-passiġġieri. Ir-radju fil-vettura jista’ jkollu ċerti lakuni fis-sigurtà tas-software li jippermettu aċċess mhux awtorizzat minn parti terza għas-sistemi interkonnessi tal-kontroll fil-vettura. Jekk dawn il-lakuni fis-sigurtà tas-software jiġu sfruttati minn parti terza għal skopijiet malizzjużi jista’ jinħoloq inċident tat-traffiku.
L-applikazzjonijiet industrijali wkoll jistgħu jiġu esposti għat-theddid ċibernetiku li jaffettwa s-sigurtà ta’ persuni fuq skala kbira meta dawn l-applikazzjonijiet ma jkollhomx il-livell ta’ sigurtà meħtieġ. Dan jista’ jiġri pereżempju f’każ ta’ attakki ċibernetiċi fuq sistema tal-kontroll kritika ta’ impjant industrijali bl-intenzjoni li sseħħ splużjoni li tista’ twassal għal imwiet.
Ġeneralment, il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti ma tispeċifikax ir-rekwiżiti essenzjali obbligatorji kontra t-theddid ċibernetiku li jaffettwa s-sigurtà tal-utenti. Madankollu hemm dispożizzjonijiet relatati ma’ aspetti tas-sigurtà fir-Regolament dwar l-Apparati Mediċi, id-Direttiva dwar l-istrumenti tal-kejl, id-Direttiva dwar it-Tagħmir tar-Radju, kif ukoll fil-leġiżlazzjoni dwar l-approvazzjoni tat-tip ta’ vettura. L-Att dwar iċ-Ċibersigurtà jistabbilixxi qafas dwar iċ-ċertifikazzjoni volontarja taċ-ċibersigurtà għall-prodotti, għas-servizzi u għall-proċessi tat-teknoloġija tal-informazzjoni u tal-komunikazzjoni (ICT), filwaqt li l-leġiżlazzjoni rilevanti tal-Unjoni dwar is-sigurtà tal-prodotti tistabbilixxi rekwiżiti obbligatorji.
Barra minn hekk, jista’ jkun hemm riskji relatati mas-sigurtà f’każ li tinqata’ l-konnettività ta’ teknoloġiji diġitali emerġenti. Pereżempju, jekk allarm tan-nar tinqatagħlu l-konnettività jaf ma jkunx jista’ jwissi lill-utent f’każ ta’ nar.
Il-kunċett tas-sigurtà fil-leġiżlazzjoni attwali tal-Unjoni dwar is-sigurtà tal-prodotti huwa konformi ma’ kunċett tas-sigurtà estiż biex jiġu protetti l-konsumaturi u l-utenti. Għaldaqstant, il-kunċett tas-sigurtà tal-prodotti jinkludi l-protezzjoni kontra kull tip ta’ riskju li jirriżulta mill-prodott, jiġifieri mhux biss riskji mekkaniċi, kimiċi jew elettriċi imma anki riskji ċibernetiċi u riskji relatati mal-qtugħ tal-konnettività tal-apparati.
F’dan ir-rigward jistgħu jiġu kkunsidrati dispożizzjonijiet espliċiti għall-ambitu tal-biċċiet ta’ leġiżlazzjoni rilevanti tal-Unjoni biex tingħata protezzjoni aħjar lill-utenti u iktar ċertezza tad-dritt.
L-awtonomija hija waħda mill-funzjonijiet prinċipali tal-IA. L-eżiti mhux intenzjonali dovuti għall-IA jistgħu jagħmlu ħsara lill-utenti u lill-persuni esposti.
Sa fejn l-“imġiba” futura tal-prodotti bbażati fuq l-IA tista’ tiġi determinata minn qabel bil-valutazzjoni tar-riskju mwettqa mill-manifattur qabel it-tqegħid fis-suq tal-prodotti, il-qafas tal-Unjoni dwar is-sigurtà tal-prodotti diġà jistabbilixxi l-obbligu għall-produtturi biex fil-valutazzjoni tar-riskju jqisu l-“użu” tal-prodotti fil-ħajja kollha tagħhom. Dan jistipula wkoll li l-manifatturi jridu jipprovdu struzzjonijiet u informazzjoni tas-sigurtà jew twissijiet għall-utenti. F’dan il-kuntest, pereżempju, id-Direttiva dwar it-Tagħmir tar-Radju titlob lill-manifattur jinkludi struzzjonijiet b’informazzjoni dwar kif juża t-tagħmir tar-radju f’konformità mal-użu intenzjonat tiegħu.
Fil-futur jistgħu jinħolqu wkoll sitwazzjonijiet li fihom l-effetti tas-sistemi tal-IA ma jkunux jistgħu jiġu determinati għalkollox minn qabel. F’sitwazzjoni bħal din, il-valutazzjoni tar-riskju mwettqa qabel prodott jitqiegħed fis-suq jaf ma tkunx għadha tirrifletti l-użu, il-funzjonament jew l-imġiba tal-prodott. F’dawn il-każijiet, sa fejn l-użu intenzjonat, previst inizjalment mill-manifattur, jinbidel minħabba l-imġiba awtonoma u tiġi affettwata l-konformità mar-rekwiżiti tas-sigurtà, jista’ jitqies li tkun meħtieġa rivalutazzjoni ġdida tal-prodott li jitgħallem waħdu.
Skont il-qafas attwali, meta l-produtturi jsiru jafu li prodott, fiċ-ċiklu tal-ħajja tiegħu, joħloq riskju li għandu impatt fuq is-sigurtà, dawn huma diġà meħtieġa jinformaw lill-awtoritajiet kompetenti b’mod immedjat u jieħdu miżuri biex jevitaw ir-riskju għall-utenti.
Minbarra l-valutazzjoni tar-riskju mwettqa qabel prodott jitqiegħed fis-suq, tista’ tiġi stabbilita proċedura ġdida għall-valutazzjoni tar-riskju meta l-prodott jiġi soġġett għal tibdil importanti matul il-ħajja tiegħu, eż. funzjoni differenti tal-prodott, li ma kinitx prevista mill-manifattur fil-valutazzjoni tar-riskju inizjali. Jenħtieġ li din tiffoka fuq l-impatt fuq is-sigurtà minħabba l-imġiba awtonoma matul il-ħajja tal-prodott. Jenħtieġ li l-valutazzjoni tar-riskju ssir mill-operatur ekonomiku xieraq. Barra minn hekk, il-biċċiet ta’ leġiżlazzjoni rilevanti tal-Unjoni jistgħu jinkludu rekwiżiti msaħħa għall-manifatturi dwar l-istruzzjonijiet u t-twissijiet għall-utenti.
Diġà huma meħtieġa valutazzjonijiet tar-riskju simili fil-leġiżlazzjoni dwar it-trasport; pereżempju, fil-każ tal-leġiżlazzjoni dwar it-trasport ferrovjarju, meta vettura ferrovjarja tiġi modifikata wara ċ-ċertifikazzjoni tagħha, l-awtur tal-modifika jrid isegwi proċedura speċifika u huma ddefiniti kriterji ċari biex jiġi ddeterminat jekk l-awtorità tridx tiġi involuta jew le.
Il-funzjoni tal-awtotagħlim tal-prodotti u tas-sistemi tal-IA tista’ tippermetti lill-magna tieħu deċiżjonijiet li jiddevjaw minn dak li inizjalment kien intenzjonat mill-produtturi u konsegwentement minn dak mistenni mill-utenti. Dan iqajjem id-domanda dwar il-kontroll uman, ħalli l-bniedem ikun jista’ jagħżel jiddelegax deċiżjoni lill-prodotti u lis-sistemi tal-IA biex jikseb objettivi magħżulin mill-bniedem. Il-leġiżlazzjoni eżistenti tal-Unjoni dwar is-sigurtà tal-prodotti ma tindirizzax b’mod espliċitu s-sorveljanza umana fil-kuntest ta’ prodotti u sistemi tal-IA li jitgħallmu waħedhom.
Il-biċċiet ta’ leġiżlazzjoni rilevanti tal-Unjoni jistgħu jipprevedu rekwiżiti speċifiċi għas-sorveljanza mill-bniedem, bħala salvagwardja, mid-disinn tal-prodott u matul iċ-ċiklu tal-ħajja tal-prodotti u tas-sistemi tal-IA.
L-“imġiba” futura tal-applikazzjonijiet tal-IA kapaċi toħloq riskji għas-saħħa mentali għall-utenti; dawn jiġu, pereżempju, mill-kollaborazzjoni tagħhom ma’ robots u sistemi umanojdi tal-IA fl-ambjent tad-dar jew tax-xogħol. F’dan ir-rigward, illum il-ġurnata l-kunċett tas-“sigurtà” ġeneralment jintuża biex jirreferi għall-perċezzjoni ta’ theddida ta’ ħsara fiżika li tista’ tiġi mit-teknoloġija diġitali emerġenti. Fl-istess ħin, prodotti siguri huma ddefiniti fil-qafas legali tal-Unjoni bħala prodotti li ma jippreżentaw l-ebda riskju jew inkella riskji minimi biss għas-sigurtà u għas-saħħa tan-nies. Hemm qbil komuni li d-definizzjoni ta’ saħħa tinkludi kemm il-benesseri fiżiku kif ukoll dak mentali. Madankollu, jenħtieġ li r-riskji għas-saħħa mentali jiġu espliċitament inklużi fil-kunċett tas-sigurtà tal-prodotti fil-qafas leġiżlattiv.
Pereżempju, jenħtieġ li l-awtonomija ma tikkawżax stress u skumdità eċċessivi għal perjodi twal jew tagħmel ħsara lis-saħħa mentali. F’dan ir-rigward, il-fatturi li jaffettwaw b’mod pożittiv is-sens ta’ sigurtà għall-persuni anzjani huma meqjusa dawn: li jkollhom relazzjonijiet siguri mal-persunal tas-servizz tal-kura tas-saħħa, li jkollhom kontroll fuq ir-rutina ta’ kuljum, u li jiġu infurmati dwarhom. Jenħtieġ li l-produtturi tar-robots li jinteraġixxu mal-anzjani jikkunsidraw dawn il-fatturi biex jipprevjenu r-riskji għas-saħħa mentali.
Fl-ambitu tal-leġiżlazzjoni rilevanti tal-UE jista’ jitqies l-obbligu tal-produtturi, pereżempju ta’ robots umanojdi tal-IA, biex jikkunsidraw espliċitament il-ħsara immaterjali li l-prodotti tagħhom jistgħu jikkawżaw lill-utenti, partikolarment utenti vulnerabbli bħall-anzjani f’ambjent ta’ kura.
Karatteristika essenzjali oħra tal-prodotti u tas-sistemi bbażati fuq l-IA hija d-dipendenza fuq id-data. L-akkuratezza u r-rilevanza tad-data huma essenzjali biex jiġi żgurat li s-sistemi u l-prodotti bbażati fuq l-IA jieħdu d-deċiżjonijiet kif maħsuba mill-produttur.
Il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti ma tindirizzax b’mod espliċitu r-riskji għas-sigurtà li jirriżultaw minn data difettuża. Madankollu, skont l-“użu” tal-prodott, jenħtieġ li waqt id-disinn u l-ittestjar il-produtturi jantiċipaw l-akkuratezza tad-data u r-rilevanza tagħha għall-funzjonijiet tas-sigurtà.
Pereżempju, sistema bbażata fuq l-IA, iddisinjata biex tidentifika oġġetti speċifiċi jista’ jkollha diffikultà biex tirrikonoxxi oġġetti f’kundizzjonijiet ta’ dawl baxx, u b’hekk jenħtieġ li d-disinjaturi jinkludu data ġejja minn testijiet tal-prodott f’ambjenti tipiċi kif ukoll f’ambjenti mudlama.
Eżempju ieħor huwa relatat ma’ robots agrikoli, bħar-robots li jiġbru l-frott bil-għan li jidentifikaw u jsibu l-frott misjur fis-siġar jew mal-art. Filwaqt li l-algoritmi involuti diġà għandhom rata ta’ suċċess ogħla minn 90 % fil-klassifikazzjoni, difett fis-settijiet ta’ data li jalimentaw dawk l-algoritmi jaf iwassal biex dawk ir-robots jieħdu deċiżjoni żbaljata u b’konsegwenza tagħha jweġġgħu annimal jew persuna.
Il-kwistjoni hija jekk il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti jenħtieġx li jkun fiha rekwiżiti speċifiċi li jindirizzaw ir-riskji għas-sigurtà ta’ data difettuża fl-istadju tad-disinn kif ukoll mekkaniżmi li jiżguraw li l-kwalità tad-data tinżamm fl-użu tal-prodotti u s-sistemi tal-IA.
L-opaċità hija karatteristika ewlenija oħra ta’ wħud mill-prodotti u mis-sistemi bbażati fuq l-IA li tista’ tirriżulta mill-kapaċità li ttejjeb il-prestazzjoni tagħhom billi jitgħallmu mill-esperjenza. Skont l-approċċ metodoloġiku, il-prodotti u s-sistemi bbażati fuq l-IA jistgħu jkunu kkaratterizzati minn gradi varji ta’ opaċità. Dan jista’ jwassal għal proċess tat-teħid ta’ deċiżjonijiet tas-sistema li diffiċli biex jiġi traċċat (“effett black box”). Il-bniedem jaf ma jkollux għalfejn jifhem sal-inqas pass tal-proċess tat-teħid ta’ deċiżjonijiet, imma meta l-algoritmi tal-IA jsiru iktar avvanzati u jiġu varati f’oqsma kritiċi, huwa kruċjali li l-bnedmin ikunu jistgħu jifhmu kif ittieħdu d-deċiżjonijiet algoritmiċi tas-sistema. Dan ikun partikolarment importanti għall-mekkaniżmu ex-post tal-infurzar, billi l-awtoritajiet tal-infurzar ikollhom il-possibbiltà li jintraċċaw ir-responsabbiltà tal-imġiba u tal-għażliet tas-sistemi tal-IA. Dan huwa rikonoxxut ukoll mill-Komunikazzjoni tal-Kummissjoni “Nibnu l-Fiduċja fl-Intelliġenza Artifiċjali Ċċentrata fuq il-Bniedem”.
Il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti ma tindirizzax b’mod espliċitu r-riskji li qed jiżdiedu u li jirriżultaw mill-opaċità tas-sistemi bbażati fuq l-algoritmi. Għaldaqstant huwa neċessarju li jitqiesu rekwiżiti għat-trasparenza tal-algoritmi, kif ukoll għas-sodezza, għall-kontabbiltà u fejn rilevanti, għas-sorveljanza mill-bniedem u għall-eżiti mingħajr preġudizzji, partikolarment importanti għall-mekkaniżmu ex-post tal-infurzar u biex tinħoloq il-fiduċja fl-użu ta’ dawk it-teknoloġiji. Wieħed mill-modi kif tista’ tiġi ttrattata din l-isfida huwa billi l-iżviluppaturi tal-algoritmi jiġu obbligati jiżvelaw il-parametri tad-disinn u l-metadata tas-settijiet ta’ data f’każ li jseħħ inċident.
Riskji addizzjonali li jista’ jkollhom impatt fuq is-sigurtà joriġinaw mill-kumplessità tal-prodotti u tas-sistemi, peress li diversi komponenti, tagħmir u prodotti jistgħu jiġu integrati u jinfluwenzaw il-funzjonament ta’ xulxin (eż. prodotti li huma parti mill-ekosistema ta’ smart home).
Din il-kumplessità diġà hija indirizzata mill-qafas legali tal-Unjoni dwar is-sigurtà msemmi fil-bidu ta’ din it-taqsima. B’mod partikolari, meta l-produttur iwettaq il-valutazzjoni tar-riskju tal-prodott, huwa jrid iqis l-użu intenzjonat, l-użu prevedibbli u, fejn applikabbli, l-użu ħażin li huwa prevedibbli b’mod raġonevoli.
F’dan il-kuntest, jekk il-produttur jipprevedi li l-apparat tiegħu se jkun interkonness u se jinteraġixxi ma’ apparati oħra, jenħtieġ li dan jitqies matul il-valutazzjoni tar-riskju. L-użu jew l-użu ħażin jiġu ddeterminati, pereżempju, fuq il-bażi tal-esperjenza tal-użu passat tal-istess tip ta’ prodott, investigazzjonijiet tal-inċidenti jew l-imġiba umana.
Il-kumplessità tas-sistemi hija indirizzata wkoll b’mod iktar speċifiku fil-leġiżlazzjoni settorjali dwar is-sigurtà, bħar-Regolament dwar l-Apparati Mediċi u sa ċertu punt fil-leġiżlazzjoni dwar is-sigurtà ġenerali tal-prodotti. Pereżempju, il-produttur ta’ apparat konness, maħsub biex ikun parti minn ekosistema ta’ smart home, jenħtieġ li jkun jista’ jipprevedi b’mod raġonevoli li l-prodotti tiegħu se jkollhom impatt fuq is-sigurtà ta’ prodotti oħra.
Barra minn hekk, il-leġiżlazzjoni tat-trasport tindirizza din il-kumplessità f’livell tas-sistema. Għall-karozzi, il-ferroviji u l-ajruplani, isiru approvazzjoni tat-tip u ċertifikazzjoni għal kull komponent kif ukoll għall-vettura jew l-inġenju tal-ajru kollu. L-adegwatezza għat-triq, l-ajrunavigabbiltà u l-interoperabbiltà ferrovjarja huma parti mill-valutazzjoni tas-sigurtà. Fir-rigward tat-trasport, “is-sistemi” jridu jiġu “awtorizzati” minn awtorità, kemm fuq il-bażi ta’ valutazzjoni tal-konformità ma’ rekwiżiti tekniċi ċari minn parti terza, jew inkella wara dimostrazzjoni dwar kif qed jiġu indirizzati r-riskji. Is-soluzzjoni inġenerali hija taħlita ta’ livell ta’ “prodott” u “sistema”.
Il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti, inkluża l-leġiżlazzjoni tat-trasport, diġà tqis, sa ċertu punt, il-kumplessità tal-prodotti jew tas-sistemi biex jiġu indirizzati r-riskji li jaf ikollhom impatt fuq is-sigurtà tal-prodotti.
Is-sistemi kumplessi spiss jinvolvu s-software, li huwa komponent essenzjali ta’ sistema bbażata fuq l-IA. Ġeneralment, bħala parti mill-valutazzjoni inizjali tar-riskju, il-manifattur tal-prodott finali għandu l-obbligu li jipprevedi r-riskji tas-software integrat f’dak il-prodott fil-mument tat-tqegħid tiegħu fis-suq.
Ċerti biċċiet tal-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti jirreferu espliċitament għas-software integrat fil-prodott. Pereżempju, id-Direttiva dwar il-Makkinarju tesiġi li żball fis-software tas-sistema tal-kontroll ma jwassalx għal sitwazzjonijiet perikolużi.
Fil-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti l-aġġornamenti tas-software jistgħu jitqabblu ma’ operazzjonijiet tal-manutenzjoni għal raġunijiet ta’ sigurtà, sakemm ma jimmodifikawx prodott li diġà tqiegħed fis-suq b’mod sinifikanti u ma jintroduċux riskji ġodda li ma kinux previsti fil-valutazzjoni tar-riskju inizjali. Madankollu, jekk l-aġġornament tas-software jimmodifika sostanzjalment il-prodott li jużah, il-prodott sħiħ jista’ jitqies prodott ġdid u l-konformità mal-leġiżlazzjoni rilevanti dwar is-sigurtà tal-prodotti jkollha tiġi vvalutata mill-ġdid meta ssir il-modifika.
Fir-rigward tas-software awtonomu, imqiegħed kif inhu fis-suq jew disponibbli wara li l-prodott ikun tqiegħed fis-suq, il-leġiżlazzjoni armonizzata tal-Unjoni dwar is-sigurtà tal-prodotti b’mod speċifiku għas-settur, ġeneralment ma fihiex dispożizzjonijiet speċifiċi. Madankollu, ċerti biċċiet tal-leġiżlazzjoni tal-Unjoni jindirizzaw is-software awtonomu, pereżempju r-Regolament dwar l-Apparati Mediċi. Barra minn hekk, is-software awtonomu llowdjat fi prodotti konnessi li jikkomunikaw b’ċerti moduli tar-radju jista’ jiġi rregolat ukoll bid-Direttiva dwar it-Tagħmir tar-Radju permezz ta’ atti delegati. Din id-Direttiva tirrikjedi li klassijiet jew kategoriji speċifiċi tat-tagħmir tar-radju jkunu adattati għal funzjonijiet li jiżguraw li l-konformità tat-tagħmir ma tkunx kompromessa meta s-software jiġi llowdjat.
Filwaqt li l-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti tqis ir-riskji tas-sigurtà li jirriżultaw minn software integrat fi prodott meta dan jitqiegħed fis-suq u, aġġornamenti potenzjalment sussegwenti previsti mill-manifattur, jistgħu jkunu meħtieġa rekwiżiti speċifiċi u/jew espliċiti għas-software awtonomu (eż. applikazzjoni li titniżżel). Jenħtieġ li jitqies b’mod partikolari s-software awtonomu biex jiġu żgurati l-funzjonijiet tas-sigurtà fil-prodotti u fis-sistemi tal-IA.
Jaf ikun meħtieġ ukoll li l-manifatturi jiġu obbligati jiżguraw li jipprovdu funzjonijiet li jipprevjenu l-illowdjar ta’ software li jkollu impatt fuq is-sigurtà matul il-ħajja tal-prodotti tal-IA.
Finalment, it-teknoloġiji diġitali emerġenti huma affettwati minn ktajjen tal-valur kumplessi. Iżda din il-kumplessità mhijiex ġdida, u lanqas ma hija b’mod esklussiv kwistjoni li tirriżulta minn teknoloġiji diġitali emerġenti ġodda bħall-IA jew l-IoT. L-istess jista’ jingħad, pereżempju, fil-każ ta’ prodotti bħall-kompjuters, ir-robots tas-servizz jew sistemi tat-trasport.
Fil-kuntest tal-qafas tal-Unjoni dwar is-sigurtà tal-prodotti, irrispettivament minn kemm hija kumplessa l-katina tal-valur, ir-responsabbiltà għas-sigurtà tal-prodott jibqa’ jġorrha l-produttur li jqiegħed il-prodott fis-suq. Il-produtturi huma responsabbli għas-sigurtà tal-prodott finali, inklużi l-partijiet integrati fil-prodott, eż. is-software tal-kompjuter.
Xi biċċiet tal-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti diġà fihom dispożizzjonijiet li jirreferu b’mod espliċitu għal sitwazzjonijiet fejn diversi operaturi ekonomiċi jintervjenu fuq prodott partikolari qabel ma dan il-prodott jitqiegħed fis-suq. Pereżempju, id-Direttiva dwar il-Liftijiet tesiġi li l-operatur ekonomiku, li jiddisinja u jimmanifattura l-lift, jipprovdi lill-persuna li tinstalla l-lift “bid-dokumenti u l-informazzjoni kollha meħtieġa sabiex din tal-aħħar tkun tista’ tiżgura li l-lift jiġi installat u ttestjat b’mod korrett u sikur”. Id-Direttiva dwar il-Makkinarju tesiġi li l-manifatturi ta’ tagħmir jipprovdu informazzjoni lill-operatur dwar kif għandu jiġi armat dak it-tagħmir b’makkinarju ieħor.
Il-leġiżlazzjoni tal-Unjoni dwar is-sigurtà tal-prodotti tqis il-kumplessità tal-ktajjen tal-valur, u timponi obbligi fuq diversi operaturi ekonomiċi skont il-prinċipju ta’ “responsabbiltà kondiviża”.
Filwaqt li ħareġ li r-responsabbiltà tal-produttur għas-sigurtà tal-prodotti finali hija adegwata għall-ktajjen tal-valur kumplessi attwali, dispożizzjonijiet espliċiti li jitolbu speċifikament il-kooperazzjoni bejn l-operaturi ekonomiċi fil-katina tal-valur u l-utenti, kapaċi jipprovdu ċertezza tad-dritt għal ktajjen tal-valur saħansitra iktar kumplessi. B’mod partikolari, kull attur fil-katina tal-valur li għandu impatt fuq is-sigurtà tal-prodotti (eż. il-produtturi tas-software) u l-utenti (billi jimmodifikaw il-prodott) jassumu r-responsabbiltà tagħhom u jipprovdu l-informazzjoni u l-miżuri neċessarji lill-attur li jmiss fil-katina.
3.Responsabbiltà
Fil-livell tal-Unjoni, id-dispożizzjonijiet dwar is-sigurtà tal-prodotti u dwar ir-responsabbiltà għall-prodotti huma żewġ mekkaniżmi komplementari biex jiġi segwit l-istess għan ta’ politika: suq uniku għall-oġġetti li jiffunzjona u jiżgura livell għoli ta’ sigurtà, jiġifieri jimminimizza r-riskju ta’ ħsara lill-utenti u jipprovdi kumpens għad-danni li jirriżultaw minn oġġetti difettużi.
Fil-livell nazzjonali jeżistu oqfsa mhux armonizzati għar-responsabbiltà ċivili li jikkomplementaw dawn ir-regoli tal-Unjoni billi jiżguraw kumpens għad-danni minn diversi kawżi (bħal prodotti u servizzi) u billi jindirizzaw persuni responsabbli differenti (bħas-sidien, l-operaturi jew il-fornituri tas-servizzi).
Mentri l-ottimizzazzjoni tar-regoli tal-Unjoni dwar is-sigurtà għall-IA tista’ tevita l-inċidenti, dawn xorta jistgħu jseħħu. Dan huwa meta tidħol ir-responsabbiltà ċivili. Ir-regoli dwar ir-responsabbiltà ċivili għandhom rwol doppju fis-soċjetà tagħna: minn naħa waħda jiżguraw li l-vittmi ta’ dannu kkawżat minn ħaddieħor jirċievu kumpens u, min-naħa l-oħra, jipprovdu inċentivi ekonomiċi għall-parti responsabbli biex din tevita li tikkawża dannu. Ir-regoli dwar ir-responsabbiltà dejjem ikollhom joħolqu bilanċ bejn il-protezzjoni taċ-ċittadini mill-ħsara u l-possibbiltà li n-negozji jinnovaw.
L-oqfsa dwar ir-responsabbiltà ħadmu sew fl-Unjoni. Dawn jiddependu fuq l-applikazzjoni parallela tad-Direttiva dwar ir-Responsabbiltà għall-Prodotti (id-Direttiva 85/374/KEE), li armonizzat ir-responsabbiltà tal-produttur ta’ prodotti difettużi, u reġimi nazzjonali mhux armonizzati oħra b’rabta mar-responsabbiltà.
Id-Direttiva dwar ir-Responsabbiltà għall-Prodotti tipprovdi saff ta’ protezzjoni li r-responsabbiltà nazzjonali bbażata fuq il-ħtija ma tipprovdihiex waħedha. Hija tintroduċi sistema ta’ responsabbiltà stretta tal-produtturi għad-dannu kkawżat minn difett fil-prodotti tiegħu. F’każ ta’ dannu fiżiku jew materjali, il-parti danneġġata tkun intitolata għal kumpens jekk tipprova d-dannu, id-difett fil-prodott (jiġifieri li ma pprovdiex is-sigurtà li l-pubbliku huwa intitolat li jistenna) u r-rabta ta’ kawżalità bejn il-prodott difettuż u d-dannu.
Ir-reġimi nazzjonali mhux armonizzati jipprovdu regoli ta’ responsabbiltà bbażata fuq il-ħtija li skonthom il-vittmi tad-dannu jridu jippruvaw il-ħtija tal-persuna responsabbli, id-dannu u l-kawżalità bejn il-ħtija u d-dannu biex tiġi stabbilita pretensjoni ta’ responsabbiltà li tirnexxi. Huma jipprovdu wkoll reġimi ta’ responsabbiltà stretta, fejn il-leġiżlatur nazzjonali jkun attribwixxa r-responsabbiltà għal riskju lil persuna speċifika, mingħajr ma l-vittma jkollha għalfejn tipprova l-ħtija/id-difett jew il-kawżalità bejn il-ħtija/id-difett u d-dannu.
Ir-reġimi nazzjonali ta’ responsabbiltà jipprovdu lill-vittmi tad-dannu kkawżat minn prodotti u servizzi diversi pretensjonijiet ta’ kumpens paralleli, fuq il-bażi ta’ responsabbiltà bbażata fuq il-ħtija jew responsabbiltà stretta. Ħafna drabi dawn il-pretensjonijiet ikunu diretti kontra persuni responsabbli differenti u jkollhom kundizzjonijiet differenti.
Pereżempju, vittma involuta f’inċident bil-karozza tipikament tressaq pretensjoni ta’ responsabbiltà stretta kontra s-sid tal-karozza (jiġifieri l-persuna li l-assigurazzjoni ta’ responsabbiltà ta’ vetturi bil-mutur tkun fuqha) u pretensjoni ta’ responsabbiltà bbażata fuq il-ħtija kontra s-sewwieq, it-tnejn li huma skont id-dritt ċivili nazzjonali, kif ukoll pretensjoni fil-qafas tad-Direttiva dwar ir-Responsabbiltà għall-Prodotti kontra l-produttur jekk il-karozza kellha difett.
F’konformità mar-regoli armonizzati dwar l-assigurazzjoni tal-vetturi bil-mutur, l-użu tal-vettura jrid ikun assigurat u fil-prattika l-assiguratur dejjem ikun l-ewwel punt ta’ pretensjoni għall-kumpens għal dannu personali jew ħsara materjali. Skont dawn ir-regoli, l-assigurazzjoni obbligatorja tikkompensa lill-vittma u tipproteġi lill-persuna assigurata li skont ir-regoli tad-dritt ċivili hija responsabbli mill-ħlas tad-danni finanzjarji għall-inċident li jinvolvi l-vettura bil-mutur. Il-produtturi mhumiex soġġetti għall-assigurazzjoni obbligatorja skont id-Direttiva dwar ir-Responsabbiltà għall-Prodotti. Fil-leġiżlazzjoni tal-Unjoni, il-vetturi awtonomi ma jiġux ittrattati differenti mill-vetturi mhux awtonomi fir-rigward tal-assigurazzjoni tal-vetturi bil-mutur. Tali vetturi, bħall-vetturi kollha, iridu jiġu koperti mill-assigurazzjoni tar-responsabbiltà ta’ terzi għall-vetturi, li huwa l-eħfef mod biex il-parti leża tingħata kumpens.
Is-sottoskrizzjoni għall-assigurazzjoni xierqa tista’ ttaffi l-konsegwenzi negattivi tal-inċidenti billi tipprovdi kumpens bla xkiel għall-vittma. Regoli ċari dwar ir-responsabbiltà jgħinu lill-kumpaniji tal-assigurazzjoni biex jikkalkulaw ir-riskji tagħhom u jitolbu rimborż mill-parti li fl-aħħar mill-aħħar tkun responsabbli mid-dannu. Pereżempju, jekk inċident jiġi kkawżat minħabba difett, l-assiguratur tal-vettura jista’ jitlob rimborż mill-manifattur wara li jikkumpensa lill-vittma.
Madankollu, il-karatteristiċi tat-teknoloġiji diġitali emerġenti bħall-IA, l-IoT u r-robotika jisfidaw aspetti ta’ dawn l-oqfsa nazzjonali u tal-Unjoni dwar ir-responsabbiltà u jistgħu jnaqqsu l-effettività tagħhom. Uħud minn dawn il-karatteristiċi jistgħu jagħmluha diffiċli biex id-dannu jiġi traċċat għal imġiba umana, u dan jista’ joħloq raġuni għal pretensjoni bbażata fuq il-ħtija f’konformità mar-regoli nazzjonali. Dan ifisser li l-pretensjonijiet ta’ responsabbiltà fuq il-bażi tal-liġijiet nazzjonali dwar id-delitti jistgħu jkunu diffiċli jew għaljin wisq biex jiġu ppruvati, u b’hekk il-vittmi jaf ma jiġux ikkumpensati b’mod adegwat. Huwa importanti li l-vittmi tal-inċidenti ta’ prodotti u servizzi, inkluż it-teknoloġiji diġitali emerġenti bħall-IA, ma jkunux protetti inqas meta mqabbel ma’ prodotti u servizzi oħrajn simili, li fil-każ tagħhom jingħataw kumpens skont il-liġi nazzjonali dwar id-delitti. Dan jista’ jwassal biex is-soċjetà taċċetta inqas dawk it-teknoloġiji emerġenti u jkun hemm eżitazzjoni fl-użu tagħhom.
Irid jiġi vvalutat jekk l-isfidi li t-teknoloġiji l-ġodda joħolqu għall-oqfsa eżistenti jistgħux jikkawżaw ukoll inċertezza tad-dritt fir-rigward tal-applikazzjoni tal-liġijiet eżistenti (eż. kif il-kunċett tal-ħtija japplika għad-dannu kkawżat mill-IA). Dawn jistgħu jiskoraġġixxu l-investiment kif ukoll iżidu l-ispejjeż b’rabta mal-informazzjoni u mal-assigurazzjoni għall-produtturi u negozji oħra fil-katina tal-provvista, speċjalment l-SMEs Ewropej. Barra minn hekk, jekk l-Istati Membri eventwalment jindirizzaw l-isfidi għall-oqfsa nazzjonali għar-responsabbiltà, dan jista’ jwassal għal frammentazzjoni addizzjonali, u b’hekk jiżdiedu l-ispejjeż biex soluzzjonijiet innovattivi tal-IA jitqiegħdu fis-suq uniku u jonqos il-kummerċ transfruntier fis-suq uniku. Huwa importanti li l-kumpaniji jkunu jafu r-riskji ta’ responsabbiltà tagħhom fil-katina tal-valur kollha, u jkunu jistgħu jnaqqsuhom jew jipprevenuhom u jassiguraw lilhom infushom b’mod effettiv kontra dawn ir-riskji.
Dan il-kapitolu jispjega kif teknoloġiji ġodda jisfidaw l-oqfsa eżistenti u b’liema mod jistgħu jiġu indirizzati dawn l-isfidi. Barra minn hekk, l-ispeċifiċitajiet ta’ xi setturi, pereżempju l-kura tas-saħħa, jaf jimmeritaw kunsiderazzjonijiet addizzjonali.
Il-kumplessità tal-prodotti, tas-servizzi u l-katina tal-valur: It-teknoloġija u l-industrija evolvew drastikament matul dawn l-aħħar deċennji. B’mod speċjali l-linja diviżorja bejn il-prodotti u s-servizzi jaf ma għadhiex ċara daqs kemm kienet. Il-prodotti u l-provvista ta’ servizzi dejjem qed isiru iktar korrelatati. Filwaqt li l-prodotti kumplessi u l-ktajjen tal-valur mhumiex ġodda fl-industrija Ewropea jew fil-mudell regolatorju tagħha, is-software u anki l-IA jistħoqqilhom attenzjoni speċifika fir-rigward tar-responsabbiltà għall-prodotti. Is-software huwa essenzjali għall-funzjonament ta’ għadd kbir ta’ prodotti u jista’ jaffettwa s-sigurtà tagħhom. Dan jiġi integrat fil-prodotti imma jista’ jiġi fornut b’mod separat ukoll biex il-prodott ikun jista’ jintuża kif intenzjonat. La kompjuter u lanqas smartphone ma jkunu partikolarment utli mingħajr software. Dan ifisser li s-software jista’ jrendi prodott tanġibbli difettuż u jwassal għal dannu fiżiku (ara l-kaxxa fuq is-software fil-parti dwar is-sigurtà). Dan eventwalment jista’ jwassal għar-responsabbiltà tal-produttur tal-prodott skont id-Direttiva dwar ir-Responsabbiltà għall-Prodotti.
Madankollu, peress li jeżistu ħafna tipi u forom ta’ software, it-tweġibiet b’rabta mal-klassifikazzjoni tas-software bħala servizz jew bħala prodott mhux dejjem ikunu ċari. Għaldaqstant, filwaqt li s-software li jmexxi l-operazzjonijiet ta’ prodott tanġibbli jista’ jitqies parti jew komponent ta’ dak il-prodott, il-klassifikazzjoni ta’ xi forom ta’ software awtonomu jaf tkun iktar diffiċli.
Għalkemm id-definizzjoni ta’ prodott skont id-Direttiva dwar ir-Responsabbiltà għall-Prodotti hija wiesgħa, l-ambitu tagħha jista’ jiġi ċċarat iktar biex jirrifletti aħjar il-kumplessità tat-teknoloġiji emerġenti u biex jiżgura li dejjem ikun possibbli kumpens għad-dannu kkawżat minn prodotti li huma difettużi minħabba s-software jew funzjonijiet diġitali oħra. B’dan il-mod, l-atturi ekonomiċi, bħall-iżviluppaturi tas-software, ikunu jistgħu jivvalutaw aħjar jekk jistgħux jitqiesu bħala produtturi skont id-Direttiva dwar ir-Responsabbiltà għall-Prodotti.
L-applikazzjonijiet tal-IA spiss jiġu integrati f’ambjenti kumplessi tal-IoT fejn ħafna apparati u servizzi konnessi differenti jinteraġixxu. Il-kombinazzjoni tal-komponenti diġitali differenti f’ekosistema kumplessa u l-pluralità tal-atturi involuti jistgħu jagħmluha diffiċli biex jiġi vvalutat fejn joriġina dannu potenzjali u liema persuna hija responsabbli għalih. Minħabba l-kumplessità ta’ dawn it-teknoloġiji, jista’ jkun diffiċli ħafna għall-vittmi biex jidentifikaw il-persuna responsabbli u biex jippruvaw il-kundizzjonijiet neċessarji kollha għal pretensjoni li jkollha suċċess, kif meħtieġ skont il-liġi nazzjonali. L-ispejjeż għal dan l-għarfien espert jaf ikunu ekonomikament projbittivi u jiskoraġġixxu lill-vittmi milli jitolbu kumpens.
Barra minn hekk, il-prodotti u s-servizzi li jiddependu fuq l-IA se jkunu qed jinteraġixxu mat-teknoloġiji tradizzjonali, li jwassal għal kumplessità addizzjonali anke f’dak li għandu x’jaqsam mar-responsabbiltà. Pereżempju, il-karozzi awtonomi se jkunu qed jikkondividu t-triq ma’ dawk tradizzjonali għal ċertu żmien. F’xi setturi tas-servizzi (bħall-ġestjoni tat-traffiku u l-kura tas-saħħa) se tinħoloq kumplessità simili ta’ atturi li jinteraġixxu, fejn sistemi tal-IA li huma parzjalment awtomatizzati se jassistu t-teħid ta’ deċiżjonijiet mill-bniedem.
Skont ir-Rapport tal-formazzjoni fit-Teknoloġiji l-Ġodda tal-Grupp ta’ Esperti dwar ir-Responsabbiltà u t-Teknoloġiji l-Ġodda, jistgħu jitqiesu adattamenti fil-liġijiet nazzjonali biex jiġi ffaċilitat l-oneru tal-provi għall-vittmi ta’ dannu relatat mal-IA. Pereżempju, l-oneru tal-provi jista’ jiġi konness mal-konformità (minn operatur rilevanti) ma’ obbligi speċifiċi taċ-ċibersigurtà jew ma’ obbligi tas-sigurtà oħrajn stabbiliti bil-liġi: jekk wieħed ma jikkonformax ma’ dawn ir-regoli tista’ tapplika bidla fl-oneru tal-provi fir-rigward tal-ħtija u tar-rabta ta’ kawżalità.
Il-Kummissjoni qed tiġbor il-fehmiet dwar jekk teżistix il-ħtieġa li jiġu mmitigati l-konsegwenzi tal-kumplessità billi jittaffa/jitreġġa’ lura l-oneru tal-provi meħtieġ skont ir-regoli nazzjonali dwar ir-responsabbiltà għad-dannu kkawżat mit-tħaddim ta’ applikazzjonijiet tal-IA, tramite inizjattiva xierqa tal-UE, u sa fejn għandha twassal din il-mitigazzjoni.
Fir-rigward tal-leġiżlazzjoni tal-Unjoni, skont id-Direttiva dwar ir-Responsabbiltà għall-Prodotti, prodott li ma jissodisfax ir-regoli obbligatorji tas-sigurtà jitqies difettuż, irrispettivament mill-ħtija tal-produttur. Madankollu, jaf ikun hemm ukoll raġunijiet biex jiġu kkunsidrati modi li jiffaċilitaw l-oneru tal-provi għall-vittmi skont id-Direttiva: id-Direttiva tistrieħ fuq regoli nazzjonali b’rabta mal-evidenza u l-konstatazzjoni tar-rabta ta’ kawżalità.
Il-konnettività u l-ftuħ: Bħalissa mhuwiex kompletament ċar x’jistgħu jkunu l-aspettattivi tas-sigurtà b’rabta mad-dannu li jirriżulta minn ksur taċ-ċibersigurtà fil-prodott u jekk tali dannu jkunx ikkumpensat b’mod adegwat skont id-Direttiva dwar ir-Responsabbiltà għall-Prodotti.
Id-dgħufijiet taċ-ċibersigurtà jistgħu jeżistu malli prodott ikun tqiegħed fiċ-ċirkolazzjoni imma jistgħu jidhru anki iktar tard, ħafna wara li l-prodott ikun tqiegħed fiċ-ċirkolazzjoni.
Fl-oqfsa għar-responsabbiltà bbażata fuq il-ħtija, l-istabbiliment tal-obbligi ċari taċ-ċibersigurtà jippermetti lill-operaturi jiddeterminaw xi jridu jagħmlu biex jevitaw il-konsegwenzi tar-responsabbiltà.
Fil-qafas tad-Direttiva dwar ir-Responsabbiltà għall-Prodotti ssir iktar importanti l-mistoqsija dwar jekk produttur setax ippreveda ċerti modifiki meta wieħed iqis l-użu prevedibbli b’mod raġonevoli tal-prodott. Pereżempju, wieħed jaf jara żieda fl-użu tad-“difiża ta’ difett li żviluppa wara”, skont liema l-produttur ma jkunx responsabbli jekk id-difett ma kienx jeżisti fil-mument li l-prodott ikun tqiegħed fiċ-ċirkolazzjoni jew fid-“difiża tar-riskju tal-iżvilupp” (li l-għarfien tal-ogħla livell ta’ żvilupp tekniku ma setax jipprevedi d-difett). Barra minn hekk, ir-responsabbiltà tista’ titnaqqas jekk il-parti leża ma twettaqx l-aġġornamenti tas-sigurtà rilevanti. Dan jista’ potenzjalment jitqies bħala negliġenza kontributorja min-naħa tal-vittma u b’hekk inaqqas ir-responsabbiltà ta’ produttur. Billi l-kunċett tal-użu prevedibbli b’mod raġonevoli u l-kwistjonijiet ta’ negliġenza kontributorja, bħan-nuqqas li wieħed iniżżel aġġornament ta’ sigurtà, jistgħu jsiru iktar prevalenti, il-vittmi jaf isibuha iktar diffiċli biex jingħataw kumpens għad-dannu kkawżat minn difett fi prodott.
Awtonomija u opaċità: Fejn l-applikazzjonijiet tal-IA jistgħu jaġixxu b’mod awtonomu, dawn iwettqu kompitu mingħajr ma jiġi predefinit kull pass u b’inqas jew eventwalment bl-ebda kontroll jew superviżjoni immedjata mill-bniedem. L-algoritmi bbażati fuq it-tagħlim tal-magni jistgħu jkunu diffiċli, jekk mhux impossibbli, li jinftiehmu (l-hekk imsejjaħ “effett black box”).
Apparti l-kumplessità diskussa hawn fuq, minħabba l-effett black box f’xi IA, jista’ jkun iktar diffiċli li jingħata kumpens għad-dannu kkawżat minn applikazzjonijiet tal-IA awtonomi. Il-bżonn li wieħed jifhem l-algoritmu u d-data użati mill-IA jeħtieġ kapaċità analitika u għarfien espert tekniku li l-vittmi jistgħu jħossu li jiswew wisq. Barra minn hekk, l-aċċess għall-algoritmu u għad-data jistgħu jkunu impossibbli mingħajr il-kooperazzjoni tal-parti potenzjalment responsabbli. Għalhekk, fil-prattika l-vittmi jaf ma jkunux jistgħu jressqu pretensjoni ta’ responsabbiltà. Barra minn hekk, ma jkunx ċar kif tista’ tintwera l-ħtija ta’ IA li taġixxi b’mod awtonomu, jew x’jista’ jitqies bħala l-ħtija ta’ persuna li tiddependi fuq l-użu tal-IA.
Il-liġijiet nazzjonali diġà żviluppaw numru ta’ soluzzjonijiet biex jitnaqqas l-oneru tal-provi għall-vittmi f’sitwazzjonijiet simili.
Prinċipju gwida għas-sigurtà tal-prodotti u għar-responsabbiltà għall-prodotti fl-Unjoni jibqa’ li huma l-produtturi li jenħtieġ li jiżguraw li l-prodotti kollha mqiegħda fis-suq ikunu siguri, fiċ-ċiklu tal-ħajja kollha tagħhom kif ukoll meta l-prodott jintuża kif raġonevolment mistenni. Dan ifisser li manifattur ikollu jiżgura li prodott li juża l-IA jħares ċerti parametri tas-sigurtà. Il-funzjonijiet tal-IA ma jipprekludux l-intitolament għal aspettattivi tas-sigurtà għall-prodotti, kemm jekk ikunu magni awtomatiċi għall-qtugħ tal-ħaxix jew robots tal-kirurġija.
L-awtonomija tista’ taffettwa s-sigurtà tal-prodott għax tista’ timmodifika l-karatteristiċi tal-prodott b’mod sostanzjali, inklużi l-funzjonijiet tas-sigurtà tiegħu. Il-mistoqsija hija f’liema kundizzjonijiet il-funzjonijiet tal-awtotagħlim iġeddu r-responsabbiltà tal-produttur u sa liema punt il-produttur jenħtieġ li jipprevedi ċerti modifiki.
F’koordinazzjoni mill-qrib mal-bidliet korrispondenti fil-qafas tal-Unjoni dwar is-sigurtà, il-kunċett taċ-“ċirkolazzjoni” li bħalissa jintuża mid-Direttiva dwar ir-Responsabbiltà għall-Prodotti jista’ jiġi rivedut biex iqis li l-prodotti jistgħu jinbidlu jew jiġu mmodifikati. B’hekk ikun jista’ jiġi ċċarat ukoll min hu responsabbli għal kwalunkwe tibdil li jsir fil-prodott.
Skont ir-Rapport tal-formazzjoni fit-Teknoloġiji l-Ġodda tal-Grupp ta’ Esperti dwar ir-Responsabbiltà u t-Teknoloġiji l-Ġodda, it-tħaddim ta’ xi apparati u servizzi awtonomi tal-IA jista’ jkollu profil tar-riskju speċifiku fir-rigward tar-responsabbiltà, għax jistgħu jikkawżaw ħsara sinifikanti lil interessi legali importanti bħall-ħajja, is-saħħa u l-proprjetà, u jesponu lill-pubbliku ġenerali għar-riskji. Dan jista’ jkollu x’jaqsam prinċipalment ma’ apparati tal-IA li jitħarrku fi spazji pubbliċi (eż. vetturi awtonomi għalkollox, droni u robots li jwasslu l-pakketti) jew servizzi bbażati fuq l-IA b’riskji simili (eż. servizzi tal-ġestjoni tat-traffiku li jiggwidaw jew jikkontrollaw il-vetturi jew il-ġestjoni tad-distribuzzjoni tal-enerġija). L-isfidi tal-awtonomija u tal-opaċità għal-liġijiet nazzjonali tad-danni jistgħu jiġu indirizzati b’approċċ ibbażat fuq ir-riskju. Skemi tar-responsabbiltà stretta jistgħu jiżguraw li meta dak ir-riskju jimmaterjalizza ruħu, il-vittma tiġi kkumpensata irrispettivament mill-ħtija. L-impatt tal-għażla ta’ min jenħtieġ li jkun strettament responsabbli għal dawn l-operazzjonijiet fuq l-iżvilupp u l-adozzjoni tal-IA jkollu jiġi vvalutat bir-reqqa u jitqies approċċ ibbażat fuq ir-riskju.
F’dak li għandu x’jaqsam mat-tħaddim ta’ applikazzjonijiet tal-IA bi profil tar-riskju speċifiku, il-Kummissjoni qed tara x’inhuma l-fehmiet dwar jekk ir-responsabbiltà stretta, kif teżisti fil-liġijiet nazzjonali għal riskji simili li l-pubbliku jkun espost għalihom (pereżempju t-tħaddim ta’ vetturi bil-mutur, ajruplani jew impjanti tal-enerġija nukleari), hijiex meħtieġa biex jinkiseb kumpens effettiv għal vittmi possibbli, u sa fejn din hija meħtieġa. Il-Kummissjoni qed tara wkoll x’inhuma l-fehmiet dwar l-akkoppjament tar-responsabbiltà stretta mal-obbligu possibbli tas-sottoskrizzjoni għall-assigurazzjoni disponibbli, fuq il-bażi tal-eżempju tad-Direttiva dwar l-Assigurazzjoni tal-Vetturi bil-Mutur, biex il-kumpens ikun żgurat irrispettivament mis-solvenza tal-persuna responsabbli u biex jitnaqqsu l-ispejjeż tad-dannu.
Għat-tħaddim tal-applikazzjonijiet tal-IA l-oħra kollha, li jikkostitwixxu l-biċċa l-kbira tal-applikazzjonijiet tal-IA, il-Kummissjoni qed tirrefletti jekk l-oneru tal-provi rigward ir-rabta ta’ kawżalità u l-ħtija jeħtieġx jiġi adattat. F’dan ir-rigward, waħda mill-kwistjonijiet indikati fir-Rapport tal-formazzjoni fit-Teknoloġiji l-Ġodda tal-Grupp ta’ Esperti dwar ir-Responsabbiltà u t-Teknoloġiji l-Ġodda hija s-sitwazzjoni fejn il-parti potenzjalment responsabbli ma tkunx irreġistrat id-data rilevanti għall-valutazzjoni tar-responsabbiltà jew ma tkunx lesta li taqsamha mal-vittma.
4.Konklużjoni
L-emerġenza ta’ teknoloġiji diġitali ġodda bħall-IA, l-IoT u r-robotika toħloq sfidi ġodda, fir-rigward tas-sigurtà tal-prodotti u tar-responsabbiltà, bħall-konnettività, l-awtonomija, id-dipendenza fuq id-data, l-opaċità, il-kumplessità tal-prodotti u tas-sistemi, l-aġġornamenti tas-software kif ukoll ġestjoni tas-sigurtà u ktajjen tal-valur iktar kumplessi.
Il-leġiżlazzjoni attwali dwar is-sigurtà tal-prodotti fiha numru ta’ lakuni li jridu jiġu indirizzati, b’mod partikolari fid-Direttiva dwar is-Sigurtà Ġenerali tal-Prodotti, id-Direttiva dwar il-Makkinarju, id-Direttiva dwar it-Tagħmir tar-Radju u l-Qafas Leġiżlattiv Ġdid. Il-ħidma futura dwar l-adattament tal-biċċiet differenti ta’ leġiżlazzjoni f’dan il-qafas se ssir b’mod konsistenti u armonizzat.
L-isfidi l-ġodda fir-rigward tas-sigurtà joħolqu wkoll sfidi ġodda fir-rigward tar-responsabbiltà. Dawn l-isfidi relatati mar-responsabbiltà jeħtieġ li jiġu indirizzati biex ikun żgurat l-istess livell ta’ protezzjoni meta mqabbel mal-vittmi tat-teknoloġiji tradizzjonali, filwaqt li jinżamm il-bilanċ mal-ħtieġa tal-innovazzjoni teknoloġika. Dan se joħloq fiduċja f’dawn it-teknoloġiji diġitali emerġenti ġodda u stabbiltà fl-investiment.
Filwaqt li fil-prinċipju l-liġijiet eżistenti tal-Unjoni u nazzjonali dwar ir-responsabbiltà huma kapaċi jlaħħqu mat-teknoloġiji emerġenti, id-dimensjoni u l-effett ikkombinat tal-isfidi tal-IA jistgħu jagħmluha iktar diffiċli li l-vittmi jiġu offruti kumpens fil-każijiet kollha fejn dan ikun iġġustifikat. Għaldaqstant, l-allokazzjoni tal-ispejjeż meta jsir id-dannu jaf hija inġusta jew ineffiċjenti skont ir-regoli attwali. Sabiex din is-sitwazzjoni tiġi rrettifikata u jiġu indirizzati inċertezzi potenzjali fil-qafas eżistenti, tramite inizjattivi xierqa tal-UE jistgħu jitqiesu ċerti aġġustamenti għad-Direttiva dwar ir-Responsabbiltà għall-Prodotti u għar-reġimi nazzjonali tar-responsabbiltà f’approċċ immirat u bbażat fuq ir-riskju, jiġifieri jitqies li applikazzjonijiet differenti tal-IA għandhom riskji differenti.