Euroopa Majandus- ja Sotsiaalkomitee arvamus teemal „Valge raamat „Tehisintellekt: Euroopa käsitus tipptasemel ja usaldusväärsest tehnoloogiast““

(COM(2020) 65 final)

(2020/C 364/12)

Raportöör:

Catelijne MULLER

Konsulteerimistaotlus	komisjon, 9.3.2020
Õiguslik alus	Euroopa Liidu toimimise lepingu artikkel 304
Vastutav sektsioon	ühtse turu, tootmise ja tarbimise sektsioon
Vastuvõtmine sektsioonis	25.6.2020
Vastuvõtmine täiskogus	16.7.2020
Täiskogu istungjärk nr	553
Hääletuse tulemus (poolt/vastu/erapooletuid)	207/0/6

1.   Järeldused ja soovitused

1.1.

Euroopa Majandus- ja Sotsiaalkomitee tunnustab tehisintellekti käsitlevas valges raamatus sätestatud Euroopa Komisjoni strateegiat tehisintellektitehnoloogia kasutuselevõtu soodustamiseks, tagades samal ajal selle vastavuse Euroopa eetilistele normidele, õigusnõuetele ja sotsiaalsetele väärtustele.

1.2.

Komitee kiidab heaks ka eesmärgi kasutada ära Euroopa tugevust tööstus- ja erialaturgudel ning rõhutab, kui oluline on suurendada investeeringuid, taristut, innovatsiooni ja oskusi, et ettevõtjad, sealhulgas VKEd, ja ühiskond tervikuna saaksid kasutada tehisintellekti pakutavaid võimalusi. Tehisintellekti innovatsiooni tuleks edendada, et suurendada tehisintellekti süsteemidest saadavat kasu, ennetades ja vähendades samal ajal nendega seotud riske.

1.3.

Komitee leiab aga, et keskendumine üksnes andmepõhisele tehisintellektile on liiga piiratud, et EList saaks tipptasemel, usaldusväärse ja konkurentsivõimelise tehisintellekti valdkonnas tõeline esinumber. Komitee nõuab tungivalt, et komisjon edendaks ka selliste tehisintellektisüsteemide uut põlvkonda, mis tuginevad teadmistele ja põhjendustele ning inimeste väärtushinnangutele ja põhimõtetele.

1.4.

Komitee kutsub komisjoni üles i) edendama teadustöös multidistsiplinaarsust, kaasates teisi valdkondi, nagu õigus, eetika, filosoofia, psühholoogia, tööteadus, humanitaarteadused, majandusteadus jne; ii) kaasama asjaomaseid sidusrühmi (ametiühingud ning kutse-, tarbija- ja ettevõtlusorganisatsioonid, vabaühendused) arutellu tehisintellekti üle ja võrdsete partneritena ELi rahastatud teadusuuringutesse ja muudesse projektidesse, nagu tehisintellektialane avaliku ja erasektori partnerlus, valdkondlikud dialoogid ning avalikule sektorile suunatud programm „Võtame tehisintellekti kasutusele“ ja tippkeskus, ning iii) jätkama laiema avalikkuse harimist ja teavitamist tehisintellektiga seotud võimalustest ja probleemidest.

1.5.

Komitee ärgitab komisjoni kaaluma põhjalikumalt tehisintellekti mõju kõigile põhiõigustele ja -vabadustele, mis puudutab muu hulgas õigust õiglasele kohtumõistmisele, õigust õiglastele ja avatud valimistele ning õigust koguneda ja meelt avaldada, samuti õigust mittediskrimineerimisele.

1.6.

Komitee ei poolda endiselt tehisintellekti jaoks juriidilise isiku vormi staatuse andmist. Sellega kaotataks tsiviilvastutuse ennetav ja korrigeeriv mõju, tekib suur moraalne risk nii tehisintellekti arendamisel kui ka selle kasutamisel ning avatakse võimalused kuritarvitamiseks.

1.7.

Komitee nõuab jätkuvat süsteemset sotsiaal-tehnilist lähenemisviisi, vaadeldes tehnoloogiat kõikvõimalikest eri vaatenurkadest ja eri pilguga, mitte kõrge riskitasemega tehisintellekti ühekordse (või isegi korrapäraselt korratava) eelneva vastavushindamise kaudu.

1.8.

Komitee hoiatab, et kõrge riskitasemega valdkonna nõue võib välistada paljud tehisintellektirakendused ja kasutusvaldkonnad, mis on oma olemuselt kõrge riskitasemega, seda lisaks biomeetrilisele tuvastamisele ja värbamisel kasutatavale tehisintellektile. Komitee soovitab komisjonil koostada loetelu selliste tehisintellektirakenduste või selle kasutusviiside ühistest omadustest, mille riskitaset peetakse olemuse poolest kõrgeks, seda olenemata valdkonnast.

1.9.

Komitee soovitab tungivalt, et biomeetrilise tuvastamise kasutamine oleks lubatud ainult i) teaduslikult tõendatud mõju olemasolu korral, ii) kontrollitud keskkondades ja iii) rangetel tingimustel. Keelata tuleks tehisintellektipõhise biomeetrilise tuvastamise laiaulatuslik kasutamine seire eesmärgil või inimeste, nende käitumise või emotsioonide jälgimiseks, hindamiseks või liigitamiseks.

1.10.

Komitee pooldab sotsiaalpartnerite varajast ja tihedat kaasamist tehisintellekti kasutuselevõtul töökohtades kooskõlas kohaldatavate riiklike eeskirjade ja tavadega, et tagada süsteemide kasutatavus ning vastavus töötajate õigustele ja töötingimustele.

1.11.

Komitee pooldab ka lõppkokkuvõttes tehisintellektisüsteemiga töötavate ning ka õigus-, eetika- ja humanitaarteadmistega töötajate varajast ja tihedat kaasamist tehisintellekti kasutuselevõtul, et süsteemid vastaksid õigusaktidele ja eetilistele nõuetele, aga ka töötajate vajadustele, nii et töötajad saaksid säilitada oma töös autonoomia ja et tehisintellekt suurendaks töötajate oskusi ja rahulolu tööga.

1.12.

Koroonaviiruse pandeemia vastu võitlemiseks kasutatavad tehisintellekti meetodid ja lähenemisviisid peaksid olema stabiilsed, tõhusad, läbipaistvad ja selgitatavad. Need peaksid ühtlasi austama inimõigusi, eetikapõhimõtteid ja olemasolevaid õigusakte ning olema õiglased, kaasavad ja vabatahtlikud.

1.13.

Komitee kutsub komisjoni üles võtma juhtrolli, et tagada Euroopas koroonaviiruse pandeemia vastu võitlemiseks kasutatavate tehisintellekti lahenduste ja lähenemisviiside parem koordineerimine.

2.   Tehisintellekti käsitlev ELi valge raamat

2.1.

Komiteel on hea meel tõdeda, et Euroopa Komisjon võtab kuulda paljusid komitee varasemates arvamustes esitatud soovitusi ja kõrgetasemelise tehisintellekti eksperdirühma nõuandeid, innustades tehisintellektitehnoloogia kasutuselevõttu ning tagades ühtlasi nende vastavuse Euroopa eetikanormidele, õigusnõuetele ja sotsiaalsetele väärtustele, mis põhineb tema sõnul usaldusväärsel tipptaseme ökosüsteemil.

2.2.

Komitee väljendab heameelt ettepanekute üle, mis on suunatud ettevõtetele, sealhulgas VKEdele, ja ühiskonnale tervikuna, kasutades ära tehisintellekti arendamise ja kasutamise võimalusi. Komitee rõhutab, kui oluline on suurendada investeeringuid, taristut, innovatsiooni ja oskusi, et parandada ELi konkurentsivõimet maailmas.

Inimjuhitavusel põhinev käsitlusviis

2.3.

Valge raamat on siiski ka kergelt fatalistliku tooniga, andes mõista, et tehisintellekt „saab meist võitu“, mis ei jäta muud võimalust kui reguleerida selle kasutamist. Komitee usub tõeliselt ELi võetud kohustusse tagada, et Euroopa aktsepteerib ainult usaldusväärset tehisintellekti ja peaks seetõttu julgema selles küsimuses palju tugevamat seisukohta võtta. Komitee nõuab seega tungivalt, et komisjon säilitaks alati võimaluse mitte aktsepteerida teatavat tehisintellekti liiki (kasutust). Just seda on komitee nimetanud inimese juhitava tehisintellekti käsituseks, mida tuleb arendada.

Tehisintellekti ärakasutamine Euroopas – tulevikku vaatav määratlus

2.4.

Valges raamatus esitatud töömääratluse kohaselt „ühendab tehisintellekt tehnoloogialiike, milles põimuvad andmed, algoritmid ja andmetöötlusvõimsus“. Hiljem määratletakse andmeid ja algoritme raamatus tehisintellekti peamiste koostisosadena. Kuid see määratlus hõlmaks mis tahes kunagi kirjutatud tarkvara, mitte ainult tehisintellekti. Senini puudub tehisintellekti üldkasutatav määratlus, mille puhul on tegemist üldterminiga, mis kehtib mitmesugustele arvutirakendustele.

2.5.

Valge raamatu keskendumine üksnes andmepõhisele tehisintellektile on liiga piiratud, et EList saaks tipptasemel, usaldusväärse ja konkurentsivõimelise tehisintellekti valdkonnas tõeline esinumber. Paljusid paljutõotavaid tehisintellektisüsteeme ei ole valges raamatus käsitletud ning seega ei ole neid ka juhitud ega reguleeritud. Komitee nõuab tungivalt, et komisjon edendaks ka selliste tehisintellektisüsteemide uut põlvkonda, mille puhul andmepõhised käsitlusviisid on ühendatud teadmistele ja põhjendustele tuginevate lähenemisviisidega, nn hübriidsüsteeme. Valges raamatus tunnistatakse küll seda, et hübriidsüsteemid on vajalikud selgitatavuse eesmärgil, kuid hübriidsüsteemide eelised ulatuvad selgitatavusest kaugemale: nende abil saab kiirendada ja/või piirata õppimist ning valideerida ja kontrollida masinõppemudelit.

2.6.

Valges raamatus keskendutakse andmetega seotud kallutatusele, kuid kallutatus ei ole alati halva kvaliteedi või piiratud andmete tulemus. Mis tahes artefakti projekteerimine on iseenesest kallutatud otsuste kogum, ulatudes tegevuse optimeerimiseks kaalutud sisenditest kuni seatud eesmärkideni. Kõiki neid valikuid mõjutab ühel või teisel viisil valikuid teinud isiku(te) sisemine kallutatus.

2.7.

Kuid kõige olulisem on see, et tehisintellektisüsteemid on midagi enamat kui vaid nende tarkvarakomponentide kogum. Tehisintellektisüsteemid hõlmavad ka ümbritsevat sotsiaal-tehnilist süsteemi. Tehisintellekti juhtimise ja reguleerimise puhul tuleks keskenduda ka seda ümbritsevatele sotsiaalstruktuuridele: organisatsioonidele ja ettevõtetele, erinevatele kutsealadele, inimestele ja institutsioonidele, kes loovad, arendavad, võtavad kasutusele, kasutavad ja kontrollivad tehisintellekti, ning inimestele, keda see mõjutab, nagu kodanikud suhtlemisel valitsusega, ettevõtted, tarbijad, töötajad või isegi kogu ühiskond tervikuna.

2.8.

Lisaks tuleks märkida, et õiguslikud määratlused (juhtimise ja reguleerimise eesmärgil) erinevad puhtalt teaduslikest määratlustest, samal ajal kui mitu eri nõuet peab olema täidetud, näiteks kaasatus, täpsus, püsivus, terviklikkus ja rakendatavus. Osa neist on õiguslikult siduvad nõuded ja osa loetakse heaks reguleerimistavaks.

Kõigi jõudude ühendamine

2.9.

Komitee kiidab heaks jõupingutuse tegeleda Euroopas valitseva tehisintellektialase killustatusega, tuues kokku tehisintellektiga tegelevaid teadureid, keskendudes VKEdele ning luues partnerlusi era- ja avaliku sektoriga. Lisaks soovitaks komitee i) edendada teadustöös multidistsiplinaarsust, kaasates teisi valdkondi, nagu õigus, eetika, filosoofia, psühholoogia, tööteadus, humanitaarteadused, majandusteadus jne; ii) kaasata asjaomaseid sidusrühmi (ametiühingud, ettevõtlus- ja tarbijaorganisatsioonid, vabaühendused) arutellu tehisintellekti üle, ent ka võrdsete partneritena ELi rahastatud teadusuuringutesse ja muudesse projektidesse, nagu tehisintellektialane avaliku ja erasektori partnerlus, valdkondlikud dialoogid, avalikule sektorile suunatud programm „Võtame tehisintellekti kasutusele“ ja tippkeskus; ning iii) jätkata laiema avalikkuse harimist ja teavitamist tehisintellektiga seotud võimalustest ja probleemidest.

Tehisintellekt ja õigus

2.10.

Valges raamatus tunnistatakse asjaolu, et tehisintellekt ei tööta seadusetus maailmas. Komitee kiidab eelkõige heaks rõhuasetuse põhiõigustega seotud tehisintellektirakendustele ja soovitab komisjonil kaaluda põhjalikumalt tehisintellekti mõju suurele hulgale põhiõigustele ja -vabadustele, nagu sõna- ja väljendusvabadus ning õigus eraelu austamisele (mis läheb inimeste andmete kaitsmisest palju kaugemale), õigus õiglasele kohtulikule arutamisele, õigus õiglastele ja avatud valimistele, õigus koguneda ja meelt avaldada, samuti õigus mittediskrimineerimisele.

2.11.

Komitee kiidab heaks valges raamatus võetud kindla seisukoha tehisintellektile kehtiva praeguse vastutuskorra kohta ja jõupingutused sellele korrale tuginemisel, et tegeleda uute riskidega, mida tehisintellekt võib luua; lahendada jõustamisel esinevad lüngad, kui on keeruline kindlaks teha tegelikult vastutavat ettevõtjat; ning muuta vastutuskord kohandatavaks tehisintellektisüsteemide funktsioonide muutumisele.

2.12.

Komisjon peaks tunnistama, et tehisintellekt on rahvusvaheline küsimus ning et sellekohased jõupingutused ei saa ega tohi piirduda Euroopaga. Kogu maailmas tuleb jõuda üldise konsensuseni, tuginedes õigusekspertide aruteludele ja uuringutele, et luua ühine rahvusvaheline õigusraamistik.

2.13.

Komitee on igal juhul ka edaspidi kindlalt vastu tehisintellekti jaoks juriidilise isiku vormi kasutuselevõtule. Sellega kaotataks tsiviilvastutuse ennetav ja korrigeeriv mõju, tekib suur moraalne risk nii tehisintellekti arendamisel kui ka selle kasutamisel ning avatakse võimalused kuritarvitamiseks.

Kõrge riskitasemega tehisintellekti reguleerimine

2.14.

Komitee peab tervitatavaks riskipõhist lähenemisviisi tehisintellekti mõju kontrollimisele. Komisjon annab teada õigusraamistikust kõrge riskitasemega tehisintellekti kohta, mis peaks vastama stabiilsuse, täpsuse, korratavuse, läbipaistvuse, inimjärelevalve ja andmehaldusega seotud nõuetele. Valge raamatu kohaselt moodustavad kõrge riskitasemega tehisintellekti kaks kumulatiivset elementi: i) kõrge riskitasemega valdkond ja ii) tehisintellektirakenduse kõrge riskitasemega kasutusviis. Valges raamatus lisatakse kaks näidet tehisintellektirakenduste kohta, mida võidakse pidada oma olemuselt, st olenemata valdkonnast kõrge riskitasemega rakendusteks. Ka biomeetriline tuvastamine kvalifitseeritakse selles oma olemuse poolest kõrge riskitasemega rakenduseks. Kõrge riskitasemega sektorite ammendav loetelu (mida vaadatakse korrapäraselt läbi) sisaldab nüüd järgmisi potentsiaalselt kõrge riskitasemega sektoreid: tervishoid, transport, energeetikasektor ja mõned avaliku sektori osad.

2.15.

Teine kriteerium, mille kohaselt kasutatakse tehisintellektirakendust riskantsel viisil, on vabam, mistõttu võiks kaaluda eri riskitasemeid. Komitee soovitab lisada siia mõjuvaldkondadena ühiskonna ja keskkonna.

2.16.

Valge raamatu loogika järgi ei kohaldata madala riskitasemega sektoris kasutatavale kõrge riskitasemega tehisintellektirakendusele põhimõtteliselt õigusraamistikku. Komitee rõhutab, et kõrge riskitasemega tehisintellektirakenduse soovimatu kahjulik mõju madala riskitasemega sektoris võib tehisintellektirakendused või selle kasutusviisid õigusraamistiku kohaldamisalast välja jätta, luues võimaluse eeskirjade täitmisest kõrvalehoidumiseks: mõelgem suunatud reklaami peale (madala riskitasemega sektor), millel on potentsiaalselt segregeeriv, diskrimineeriv ja lõhestav mõju, näiteks valimiste ajal või isikustatud hinnakujunduse korral (riskantne kasutusviis või mõju). Komitee soovitab komisjonil koostada loetelu selliste tehisintellektirakenduste või selle kasutusviiside ühistest omadustest, mille riskitaset peetakse olemuse poolest kõrgeks, seda olenemata valdkonnast.

2.17.

Ehkki komitee tunnistab, et tehisintellekti puhul on vaja vastavustestimist, kardab ta samas, et ühekordne (või isegi regulaarselt korratav) eelnev vastavushindamine ei ole piisav, et tagada tehisintellekti usaldusväärne ja inimkeskne arendamine, kasutuselevõtt ning kasutamine kestlikul viisil. Usaldusväärne tehisintellekt vajab jätkuvat süsteemset sotsiaal-tehnilist lähenemist, mille puhul tehnoloogiat vaadeldakse kõigist erinevatest vaatenurkadest. Poliitikakujundamisel on selleks vaja valdkonnaülest lähenemisviisi, kus poliitikakujundajad, eri valdkondade teadlased, sotsiaalpartnerid, kutseorganisatsioonid, spetsialistid, ettevõtted ja vabaühendused teevad jätkuvalt koostööd. Eelkõige inimeste tervise, ohutuse ja heaoluga seotud ning usaldusel põhinevate üldhuviteenuste puhul tuleb tagada, et tehisintellektisüsteemid on kohandatud praktilistele nõuetele ega saa minna inimese vastutusest mööda.

Biomeetriline tuvastamine

2.18.

Komitee kiidab heaks komisjoni üleskutse avaliku arutelu algatamiseks tehisintellektipõhise biomeetrilise tuvastamise kasutamise üle. Mikronäoilmete, kõnnaku, hääle(tooni), pulsisageduse, kehatemperatuuri jne biomeetriline tuvastamine on juba kasutusel, et hinnata või isegi ennustada meie käitumist, vaimset seisundit ja emotsioone, seda ka värbamise ajal. Olgu öeldud, et puuduvad kindlad teaduslikud tõendid selle kohta, et inimese sisemisi emotsioone või vaimset seisundit saab täpselt „lugeda“ tema näoilme, kõnnaku, pulsisageduse, hääletooni või kehatemperatuuri põhjal, rääkimata selle alusel tema edasise käitumise ennustamisest.

2.19.

Samuti tuleb märkida, et isikuandmete kaitse üldmäärus piirab biomeetriliste andmete kasutamist ainult teataval määral. Isikuandmete kaitse üldmääruse kohaselt on biomeetrilised andmed „konkreetse tehnilise töötlemise abil saadavad isikuandmed isiku füüsiliste, füsioloogiliste ja käitumuslike omaduste kohta, mis võimaldavad kõnealust füüsilist isikut kordumatult tuvastada või kinnitavad selle füüsilise isiku tuvastamist“. Ent paljud biomeetrilise tuvastamise tehnoloogiad ei ole välja töötatud isiku kordumatuks tuvastamiseks, vaid tema käitumise või emotsioonide hindamiseks. Need kasutusvaldkonnad ei pruugi isikuandmete kaitse üldmääruse alusel kuuluda biomeetriliste andmete (töötlemise) määratluse alla.

2.20.

Tehisintellektipõhine biomeetriline tuvastamine mõjutab ka meie laiemat õigust eraelu puutumatuse, isikusamasuse, autonoomia ja vaimse puutumatuse austamisele, luues olukorra, kus meid (pidevalt) vaadatakse, jälgitakse ja tuvastatakse. Sellel võib olla psühholoogiline halvav mõju, mille puhul inimesed kalduvad kohandama oma käitumist teatavale normile vastavaks. See tähendab meie eraelu puutumatusega seotud põhiõiguse (ausameelsuse ja vaimse puutumatuse) rikkumist. Lisaks võib tehisintellektipõhine biomeetriline tuvastamine mõjutada teisi põhiõigusi ja -vabadusi, nagu kogunemisvabadus ja õigus mittediskrimineerimisele.

2.21.

Komitee soovitab lubada kasutada biomeetrilist tuvastamist ainult juhul, kui sellel on olemas teaduslikult tõendatud mõju, see toimub kontrollitud keskkondades ja rangetel tingimustel. Keelata tuleks tehisintellektipõhise biomeetrilise tuvastamise laiaulatuslik kasutamine seire eesmärgil või inimeste, nende käitumise või emotsioonide jälgimiseks, hindamiseks või liigitamiseks.

Tehisintellekti mõju tööle ja oskustele

2.22.

Komitee märgib, et valges raamatus puudub strateegia selle kohta, kuidas tegeleda tehisintellekti mõjuga tööle, arvestades et see on 2018. aasta Euroopa tehisintellekti strateegia sõnaselge element.

2.23.

Komitee pooldab igat liiki töötajate ja teenusepakkujate, sealhulgas vabakutseliste, füüsilisest isikust ettevõtjate ja juhutöötajate varajast ning tihedat kaasamist — ehk mitte ainult nende inimeste kaasamist, kes projekteerivad või arendavad tehisintellekti, vaid ka nende, kes ostavad, rakendavad, sellega töötavad või keda tehisintellektisüsteemid mõjutavad. Enne tehisintellekti tehnoloogiate kasutuselevõttu töökohal tuleb pidada sotsiaalset dialoogi kooskõlas kohaldatavate riiklike eeskirjade ja tavadega. Töökohal tuleks töötajate andmetele juurdepääsul ja nende haldamisel juhinduda sotsiaalpartneritega läbiräägitud põhimõtetest ja eeskirjadest.

2.24.

Komitee juhib erilist tähelepanu tehisintellekti kasutamisele värbamisel, vallandamisel ja töötajate hindamisel. Valges raamatus nimetatakse tehisintellekti kasutamist värbamisel kõrge riskitasemega rakenduse näitena, mida tuleb reguleerida olenemata valdkonnast. Komitee soovitab laiendada seda kasutusala nii, et see hõlmaks ka tehisintellekti, mida kasutatakse töötajate vallandamisel ja hindamisel, kuid samuti uurida tehisintellektirakenduste ühiseid omadusi, mis hõlmaksid kõrge riskitasemega kasutust töökohal, olenemata valdkonnast. Töökeskkonnas ei tohiks kasutada tehisintellektirakendusi, millel puudub teaduslik alus, näiteks emotsioonide tuvastamine biomeetrilise tuvastamise kaudu.

2.25.

Tehisintellektiga seotud oskuste säilitamine või omandamine on vajalik selleks, et võimaldada inimestel kohaneda tehisintellekti valdkonnas toimuvate kiirete muutustega. Poliitika ja rahalised vahendid tuleb ühtlasi suunata haridusele ja oskuste arendamisele valdkondades, mida tehisintellektisüsteemid ei ohusta (nt ülesanded, mille puhul on inimsuhtlus hädavajalik, nagu inimeste tervise, ohutuse ja heaoluga seotud avaliku teenused, mis põhinevad usaldusel; kus inimesed ja masinad töötavad koos või mille puhul me soovime, et need jääksid inimeste pärusmaaks).

3.   Tehisintellekt ja koroonaviirus

3.1.

Tehisintellekt võib aidata paremini mõista koroonaviirust ja COVID-19 ning kaitsta inimesi viirusega kokkupuute eest, aidata leida vaktsiini ja uurida ravivõimalusi. Kuid oluline on avatud ja selge arusaam sellest, mida tehisintellekt suudab ja mida siiski mitte.

3.2.

Stabiilsus ja tõhusus: andmepõhine tehisintellekt koroonaviiruse leviku prognoosimiseks võib osutuda problemaatiliseks, sest koroonaviiruse kohta ei ole piisavalt andmeid, mis tagaksid tehisintellekti tulemuste usaldusväärsuse. Lisaks on needki vähesed kättesaadavad andmed puudulikud ja kallutatud. Nende andmete kasutamine masinõppega seotud lähenemisviisi puhul võib anda palju valenegatiivseid ja valepositiivseid tulemusi.

3.3.

Kasutatud andmete ja mudelite läbipaistvus, samuti tulemuste selgitatavus on ülimalt tähtis. Praegu ei saa maailm lubada otsuste tegemist „mustade kastide“ põhjal.

3.4.

Tehisintellekti kasutamisel selle pandeemiaga võitlemiseks on inimõiguste austamine, eetikapõhimõtted ja kehtivad õigusaktid olulisemad kui kunagi varem. Seega, kui tehisintellektivahenditega võidakse rikkuda inimõigusi, peab nende kasutamiseks olema õigustatud huvi, see peab olema rangelt vajalik, proportsionaalne ja mis kõige tähtsam, ajaliselt piiratud.

3.5.

Lõpuks peame tagama õigluse ja kaasatuse. Pandeemia vastu võitlemiseks arendatavad tehisintellektisüsteemid ei tohiks olla kallutatud ega diskrimineerivad. Lisaks peaksid need olema kõigile kättesaadavad ja võtma arvesse eri mõjutatud riikide ühiskondlikke ja kultuurierinevusi.

Tuvastamise ja jälgimise ning tervisekontrolli rakendused

3.6.

Viroloogide ja epidemioloogide sõnul on ühiskonna ja majanduse piirangutest vabastamiseks vaja tõhusat tuvastamist ning inimeste tervise tõhusat jälgimist, kontrollimist ja kaitset. Praegu töötatakse välja mitmesuguseid rakendusi tuvastamiseks, jälgimiseks ja tervisekontrollide tegemiseks, mis on tavaliselt (ja ajalooliselt) olnud spetsialistide ülesanne. Paljud valitsused üle kogu maailma on suuresti usaldanud jälgimise ja tuvastamise rakendusi kui vahendeid, mille abil ühiskondi taas avada.

3.7.

Niisuguste rakenduste kasutuselevõtt on väga radikaalne samm. Seetõttu on oluline enne rakenduste kasutamise kohta otsuse tegemist kriitiliselt hinnata nende kasulikkust, vajalikkust ja tõhusust, samuti nende ühiskondlikku ja õiguslikku mõju. Alles peab jääma võimalus rakendusi mitte kasutada ja prioriseerida tuleks vähem sekkuvaid lahendusi.

3.8.

Tuvastamise ja jälgimise rakenduste tõhusus ja usaldusväärsus on väga oluline, sest ebatõhususe ja ebausaldusväärsuse tõttu võidakse saada palju valepositiivseid ja valenegatiivseid tulemusi, tekitada eksliku turvatunde ning seega suurema nakatumise ohu. Esialgsed teadussimulatsioonid tekitavad tõsiseid kahtlusi selles, kas jälgimisrakendus avaldab üldse viiruse levikule mingisugust positiivset mõju, isegi kui selle kasutusmäär on 80 % või 90 %. Samuti ei suuda rakendus registreerida konkreetseid asjaolusid, näiteks pleksiklaasi ja akende olemasolu või isikukaitsevahendite kasutamist.

3.9.

Lisaks jäetakse nende rakenduste puhul (osaliselt) kõrvale mitmesugused inimõigused ja vabadused, sest need on seotud meie ühinemisvabadusega ning õigusega ohutusele, mittediskrimineerimisele ja eraelu puutumatusele.

3.10.

Kuigi eraelu puutumatus on väga oluline, tähendab see palju enamat kui meie isikuandmeid ja anonüümsust. Eraelu puutumatus tähendab ka õigust mitte olla jälgitud, jälitatud ega järelevalve alla pandud. On teaduslikult tõestatud, et kui inimesed teavad, et neid jälgitakse, hakkavad nad teisiti käituma. Euroopa Inimõiguste Kohtu kohaselt on selline halvav mõju meie eraelu puutumatuse rikkumine. Samasugune laiaulatuslik eraelu puutumatuse kontseptsioon tuleb lisada tehisintellekti arutelusse.

3.11.

On olemas oht, et (praegu või tulevikus) kogutavaid andmeid ei kasutata mitte ainult praeguse pandeemiaga võitlemiseks, vaid ka inimeste profileerimiseks, kategoriseerimiseks ja hindamiseks eri eesmärkidel. Kaugemas tulevikus on võimalik isegi ette kujutada, et funktsioonide laienemisega võib kaasneda soovimatu profileerimine jälgimisel ja järelevalves, sobivuse hindamisel kindlustuse või sotsiaalsete hüvede saamiseks, värbamisel või vallandamisel jne. Seetõttu ei tohiks asjaomaste rakenduste abil kogutud teavet mingil juhul kasutada profileerimiseks, riskihindamiseks, liigitamiseks või prognoosimiseks.

3.12.

Lisaks loob mis tahes tehisintellektilahenduse kasutuselevõtt nendes erakorralistes tingimustes ja isegi kõige paremate kavatsuste juures pretsedendi, meeldigu see meile või mitte. Varasemad kriisid on näidanud, et vaatamata heale tahtele ei kao need meetmed praktikas kuhugi.

3.13.

Seega tuleks tehisintellekti kasutamisel käesoleva pandeemia ajal alati mõõta ja kaaluda mitut asjaolu, nagu i) kas see on tõhus ja usaldusväärne? ii) kas on olemas vähem sekkuvaid lahendusi? iii) kas selle eelised kaaluvad üles ühiskondlike, eetiliste ja põhiõigustega seotud probleemid? ning iv) kas vastuolus põhiõiguste ja -vabaduste vahel on võimalik saavutada vastutustundlikke kompromisse? Lisaks ei või neid süsteeme kasutusele võtta kohustuslikus korras ega sunniviisiliselt.

3.14.

Komitee kutsub poliitikakujundajaid üles mitte pidama tehnilisi lahendusi liiga kergekäeliselt ainuvõimalikuks. Olukorra tõsidust arvestades soovitame, et pandeemia ohjamiseks välja töötatud projektidega seotud rakendused peavad tuginema epidemioloogia, sotsioloogia, psühholoogia, õiguse, eetika ja süsteemiteaduse valdkonnas tehtavale põhjalikule uurimistööle. Enne nende süsteemide kasutamise üle otsuse tegemist tuleb teha tõhususe, vajalikkuse ja tundlikkuse analüüs ning simulatsioonid.