52021AE2482

EUR-Lex

Access to European Union law

This document is an excerpt from the EUR-Lex website

EUROPA
EUR-Lex home
EUR-Lex - 52021AE2482 - EN

Help

Search tips

Need more search options? Use the Advanced search

Document 52021AE2482

Europos ekonomikos ir socialinių reikalų komiteto nuomonė dėl Pasiūlymo dėl Europos Parlamento ir Tarybos reglamento, kuriuo nustatomos suderintos dirbtinio intelekto taisyklės (Dirbtinio intelekto aktas) ir iš dalies keičiami tam tikri Sąjungos teisėkūros procedūra priimti aktai (COM(2021) 206 final – 2021/106 (COD))

EESC 2021/02482

OL C 517, 2021 12 22, p. 61–66 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

Date of document:: 22/09/2021; Balsavimo data
Date of vote:: 22/09/2021
Date lodged:: 07/06/2021

Author:: Europos ekonomikos ir socialinių reikalų komitetas
Responsible body:: Section for the Single Market, Production and Consumption, EESC_INT
Rapporteur:: Catelijne MULLER
Form:: Nuomonė
Term of office:: 2015-2020
Internal reference:: AVIS-SECTION 2021/2482 FIN, INT/940
Session:: 563

Procedure number:

Link

European Parliament - Legislative observatory

Treaty:

Sutartis dėl Europos Sąjungos veikimo

Legal basis:

12016E114

Link

Select all documents mentioning this document

Earlier related instruments:

52021PC0206 ESC Opinion

Instruments cited:

Link

EUROVOC descriptor:

Subject matter:

Directory code:

13.10.30.00 Pramonės politika ir vidaus rinka / Pramonės politika: bendrieji dalykai, statistika ir moksliniai tyrimai / Moksliniai tyrimai ir technologijų plėtra

HTML

PDF

Official Journal

2021 12 22

Europos Sąjungos oficialusis leidinys

C 517/61

(COM(2021) 206 final – 2021/106 (COD))

(2021/C 517/09)

Pranešėja

Catelijne MULLER

Konsultavimasis	Europos Parlamentas, 2021 6 7 Taryba, 2021 6 15
Teisinis pagrindas	SESV 114 straipsnis
Atsakingas skyrius	Bendrosios rinkos, gamybos ir vartojimo skyrius
Priimta skyriuje	2021 9 2
Priimta plenarinėje sesijoje	2021 9 22
Plenarinės sesija Nr.	563
Balsavimo rezultatai (už / prieš / susilaikė)	225 / 3 / 6

1. Išvados ir rekomendacijos

1.1.

Europos ekonomikos ir socialinių reikalų komitetas (EESRK) palankiai vertina tai, kad Komisijos pasiūlyme dėl Dirbtinio intelekto akto (DIA) yra ne tik sprendžiami dirbtinio intelekto (DI) keliamos rizikos klausimai, bet ir iš esmės pakeliama DI, kurį ES yra pasirengusi leisti naudoti, kokybės, veikimo ir patikimumo kartelė. EESRK ypač palankiai vertina tai, kad DIA daugiausiai dėmesio skiriama sveikatai, saugai, pagrindinėms teisėms, o jo taikymo sritis yra globali.

1.2.

EESRK mato tobulintinų dalykų, susijusių su draudžiama DI naudojimo praktika, taikymo sritimi, apibrėžtimi ir aiškumu, susirūpinimą taip pat kelia kategorizavimas pagal „rizikos piramidę“, reikalavimų didelės rizikos DI poveikis rizikos mažinimui, DIA vykdymo užtikrinimas ir ryšys su jau esamu reglamentu bei kitais naujausiais reglamentavimo pasiūlymais.

1.3.

EESRK pabrėžia, kad DI niekada neveikė pasaulyje be įstatymų. Dėl plačios taikymo srities ir jo kaip ES reglamento viršenybės DIA gali būti sunku taikyti su jau galiojančiais nacionaliniais ir ES teisės aktais bei susijusiais reglamentavimo pasiūlymais. EESRK rekomenduoja iš dalies pakeisti 41 konstatuojamąją dalį, kad būtų tinkamai atspindėtas ir patikslintas DIA ir galiojančių bei būsimų teisės aktų santykis.

1.4.

EESRK rekomenduoja patikslinti DI apibrėžtį išbraukiant I priedą ir nežymiai pakeičiant 3 straipsnį bei išplečiant DIA taikymo sritį, kad būtų įtrauktos „senosios DI sistemos“ ir IX priede išvardytų didelių laisvės, saugumo ir teisingumo erdvės IT sistemų DI komponentai.

1.5.

EESRK rekomenduoja patikslinti draudimus, susijusius su „pasąmonę veikiančiais metodais“ ir „pažeidžiamumo išnaudojimu“, tuo parodant žalingo manipuliavimo uždraudimą, o „žalą pagrindinėms teisėms, demokratijai ir teisinei valstybei“ įtraukti kaip sąlygas, leidžiančias taikyti šiuos draudimus.

1.6.

EESRK nemano, kad Europos Sąjungoje galima reitinguoti ES piliečių patikimumą pagal jų socialinį elgesį ar asmenybės savybes (nepriklausomai nuo to, kas tokį vertinimą atlieka). EESRK rekomenduoja išplėsti šio draudimo taikymo sritį į ją įtraukiant privačių organizacijų ir pusiau viešųjų institucijų vykdomą socialinį reitingavimą.

1.7.

EESRK siūlo drausti naudoti DI automatiniam biometriniam atpažinimui viešosiose ir privačiosiose erdvėse, išskyrus autentiškumo patikrinimo tikslais esant konkrečioms aplinkybėms, taip pat automatiniam žmogaus elgsenos signalų atpažinimui viešosiose ir privačiosiose erdvėse, išskyrus labai konkrečius atvejus, pavyzdžiui, tokių sistemų naudojimą sveikatos reikmėms, kai svarbu atpažinti pacientų emocijas.

1.8.

Didelės rizikos DI sistemoms taikant „sąrašu pagrįstą“ požiūrį kyla pavojus, kad kai kurios DI sistemos ir naudojimo būdai, kurie vis dar yra labai kritikuojami, bus normalizuoti ir integruoti. EESRK įspėja, kad reikalavimų, taikomų vidutinės ir didelės rizikos DI sistemoms, laikymasis, nebūtinai sumažina žalos sveikatai, saugai ir pagrindinėms teisėms riziką, kurią kelia didelės rizikos DI. EESRK rekomenduoja DIA numatyti tokias situacijas. Reikėtų bent jau įtraukti į patikimo DI etikos gaires reikalavimus dėl i) žmogiškojo veiksnio, ii) privatumo, iii) įvairovės, nediskriminavimo ir teisingumo, iv) paaiškinamumo ir v) aplinkos ir visuomenės gerovės.

1.9.

Vadovaudamasis savo seniai propaguojamu požiūriu į DI kaip į „žmogaus valdomą procesą“ EESRK ryžtingai rekomenduoja, kad DIA būtų numatyta palikti tam tikrus sprendimus priimti žmogui, ypatingai tose srityse, kuriose šie sprendimai turi moralinį komponentą ir teisinių pasekmių ar poveikį visuomenei, pavyzdžiui, teismų, teisėsaugos, socialinių paslaugų, sveikatos priežiūros, būsto, finansinių paslaugų, darbo santykių ir švietimo srityse.

1.10.

EESRK rekomenduoja, kad trečiųjų šalių atitikties vertinimas būtų privalomas visoms didelės rizikos DI sistemoms.

1.11.

EESRK rekomenduoja įtraukti skundų teikimo ir teisių gynimo mechanizmus, skirtus organizacijoms ir piliečiams, kurie nukentėjo nuo bet kokios į DIA taikymo sritį patenkančios DI sistemos, praktikos ar naudojimo.

2. Dirbtinio intelekto reglamentavimo pasiūlymas – DI aktas

2.1.

EESRK palankiai vertina tai, kad Komisijos pasiūlyme dėl Dirbtinio intelekto akto (DIA) yra ne tik sprendžiami DI keliamos rizikos klausimai, bet ir iš esmės pakeliama DI, kurį ES yra pasirengusi leisti naudoti, kokybės, veikimo ir patikimumo kartelė.

3. Bendrosios pastabos – DIA

Tikslas ir taikymo sritis

3.1.

EESRK palankiai vertina DIA tikslą ir taikymo sritį. EESRK ypač palankiai vertina tai, kad DIA Komisija daugiausiai dėmesio skiria sveikatai, saugai ir pagrindinėms teisėms. EESRK taip pat palankiai vertina DIA išorinį poveikį, kuriuo užtikrinama, kad DI, kuris yra sukurtas už ES ribų ir yra diegiamas arba turi poveikį ES, privalo atitikti tuos pačius teisinius standartus.

DI apibrėžtis

3.2.

Dėl DI apibrėžties DIA 3 straipsnio 1 dalyje ir I priede kilo dirbtinio intelekto srities mokslininkų diskusijos, nes DI mokslininkai kai kurių I priede pateiktų pavyzdžių nelaiko DI ir, priešingai, mano, kad neįtraukti kai kurie svarbūs DI metodai. EESRK nuomone, I priedas neturi pridėtinės vertės ir rekomenduoja jį visiškai išbraukti iš DIA. Komitetas taip pat rekomenduoja 3 straipsnio I dalyje pateiktą apibrėžtį iš dalies pakeisti taip:

„Dirbtinio intelekto sistema (DI sistema) – programinė įranga, kuri automatizuotu būdu geba pagal tam tikrus žmogaus nustatytus tikslus generuoti išvedinius, pavyzdžiui, turinį, predikcijas, rekomendacijas, arba sprendimus, turinčius įtakos aplinkai, su kuria ji sąveikauja.“

Sveikata, sauga ir pagrindinės teisės – rizikos piramidė

3.3.

Iš hierarchinės „rizikos piramidės“ (nuo mažos ir (arba) vidutinės iki didelės ir (arba) nepriimtinos rizikos), kuri yra naudojama klasifikuoti tam tikrus tiek bendrosios DI taikymo praktikos, tiek DI naudojimo konkrečiose srityse atvejus, galima matyti, kad ne visi DI atvejai kelia riziką ir ne kiekviena rizika yra vienoda, ar reikalauja tų pačių rizikos švelninimo priemonių.

3.4.

Pasirinktas požiūris kelia du svarbius klausimus. Visų pirma, ar rizikos mažinimo priemonėmis (skirtomis didelės rizikos ir mažos, vidutinės rizikos DI) iš tikrųjų yra pakankamai sumažinama žalos sveikatai, saugai ir pagrindinėms teisėms rizika? Antra, ar mes esame pasirengę tam, kad DI daug kur priimtų sprendimus vietoje žmogaus, net ir tokiuose svarbiuose procesuose, kaip teisėsauga ir teismai?

3.5.

Dėl pirmojo klausimo EESRK įspėja, kad reikalavimų, taikomų vidutinės ir didelės rizikos DI sistemoms, laikymasis, nebūtinai visais atvejais sumažina žalos sveikatai, saugai ir pagrindinėms teisėms riziką. Šis klausimas bus išsamiau nagrinėjamas 4 skirsnyje.

3.6.

Antruoju klausimu pasakytina, kad DIA nėra sampratos, kad DI potencialas pirmiausia yra papildyti žmogaus sprendimų priėmimo procesą ir žmogaus intelektą, o ne juos pakeisti. DIA remiamasi prielaida, kad įvykdžius reikalavimus dėl vidutinės ir didelės rizikos DI, DI iš esmės gali pakeisti žmogaus sprendimų priėmimo procesą.

3.7.

EESRK primygtinai rekomenduoja DIA numatyti, kad tam tikrus sprendimus turi priimti žmogus, ypatingai tose srityse, kuriose šie sprendimai turi moralinį komponentą ir teisinių pasekmių ar poveikį visuomenei, pavyzdžiui, teismų, teisėsaugos, socialinių paslaugų, sveikatos priežiūros, būsto, finansinių paslaugų, darbo santykių ir švietimo srityse.

3.8.

DI sistemos neveikia pasaulyje be įstatymų. Nemažai teisiškai privalomų Europos, nacionalinio ir tarptautinio lygmens taisyklių šiandien jau taikomos arba yra tinkamos DI sistemoms. Teisiniai šaltiniai be kita ko apima ES pirminę teisę (Europos Sąjungos sutartis ir jos Pagrindinių teisių chartiją), ES antrinę teisę (pavyzdžiui, Bendrąjį duomenų apsaugos reglamentą, Atsakomybės už gaminius direktyvą, Reglamentą dėl laisvo ne asmens duomenų judėjimo, kovos su diskriminacija direktyvas, vartotojų teisės ir darbuotojų saugos ir sveikatos direktyvas), JT žmogaus teisių sutartis ir Europos Tarybos konvencijas (pvz., Europos žmogaus teisių konvenciją) ir daugelį ES valstybių narių teisės aktų. Be horizontaliai taikytinų taisyklių, galioja ir įvairios konkrečių sričių taisyklės, skirtos atitinkamoms DI prietaikoms (pvz., sveikatos priežiūros sektoriuje taikomas Medicinos priemonių reglamentas). EESRK rekomenduoja iš dalies pakeisti 41 konstatuojamąją dalį, kad tai būtų tinkamai atspindėta.

4. Konkrečios pastabos ir rekomendacijos – DIA

Draudžiama su DI susijusi praktika

4.1.

EESRK sutinka, kad 5 straipsnyje nurodyta su DI susijusi praktika iš tiesų neteikia jokios socialinės naudos ir turėtų būti draudžiama. Taip pat mano, kad yra neaiškių formuluočių, todėl kai kuriuos draudimus būtų sunku suprasti ir lengva apeiti.

4.2.

Yra faktų, leidžiančių teigti, kad pasąmonę veikiantys metodai, gali ne tik sukelti fizinę ar psichologinę žalą (tai sąlyga, kuri leidžia pradėti taikyti šį konkretų draudimą), bet taip pat, atsižvelgiant į aplinką, kurioje jie yra įdiegti, tokie metodai gali sukelti kitų neigiamų padarinių asmenims, visuomenei ar demokratijai, pavyzdžiui, pakeisti elgseną balsuojant. Be to, dažnu atveju reikėtų kalbėti ne apie patį pasąmonę veikiantį metodą, bet greičiau apie sprendimą į ką nukreipti pasąmonę veikiantį metodą, paremtą dirbtiniu intelektu.

4.3.

Siekiant geriau įvardyti tai, ką DIA siekia uždrausti 5 straipsnio 1 dalies a punktu, t. y. uždrausti praktikas, kai žmonėmis manipuliuojama juos skatinant elgtis žalingai, EESRK rekomenduoja šią dalį pakeisti taip: „(…) DI sistemą, kuri įdiegta, kuria siekiama arba kuri naudojama iš esmės pakeisti asmens elgesį, taip sukeliant faktinę arba potencialią žalą to asmens, kito asmens ar asmenų grupės pagrindinėms teisėms, įskaitant jų fizinę ar psichologinę sveikatą ir saugą, arba kenkiant demokratijai ir teisinės valstybės principui.“

4.4.

EESRK rekomenduoja tokiu pat būdu iš dalies pakeisti 5 straipsnio 1 dalies b punktą, draudžiantį pažeidžiamumo aspektų išnaudojimo praktiką, papildomai paminint žalą pagrindinėms teisėms, įskaitant fizinę ar psichologinę žalą.

4.5.

EESRK palankiai vertina tai, kad 5 straipsnio 1 dalies c punktu draudžiamas „socialinis reitingavimas“. EESRK rekomenduoja socialinio reitingavimo draudimą taikyti ne tik valdžios institucijoms, bet ir privačioms organizacijoms ir pusiau viešosioms institucijoms. Europos Sąjungoje negali būti reitinguojamas ES piliečių patikimumas pagal jų socialinį elgesį ar asmenybės savybes (nepriklausomai nuo to, kas tokį vertinimą atlieka). Jeigu būtų kitaip, ES atvertų galimybes taikyti socialinį reitingavimą įvairiose srityse, pavyzdžiui, darbo vietoje. Reikėtų patikslinti i ir ii papunkčiuose pateiktas sąlygas aiškiai apibrėžiant, kas laikoma „socialiniu reitingavimu“ ir ką galima laikyti tam tikru tikslu priimtina vertinimo forma, t. y. nustatyti ribą, kada vertinimui naudojama informacija nebelaikoma aktualiai arba pagrįstai susijusia su vertinimo tikslu.

4.6.

DIA yra siekiama uždrausti tikralaikį nuotolinį biometrinį tapatybės nustatymą (pvz., taikant veido atpažinimą) teisėsaugos tikslais ir klasifikuoti jį kaip „didelės rizikos“, kai jis yra naudojamas kitais tikslais. Taip ir toliau leidžiamas netikralaikis ir netolimas biometrinis tapatybės nustatymas. Tokiu būdu leidžiama biometrinį tapatybės nustatymą taikyti ne asmeniui identifikuoti, bet pagal biometrinius požymius (smulkiąją mimiką, eiseną, temperatūrą, širdies ritmą ir kt.) jo elgsenai vertinti. „Teisėsaugos“ apribojimas leidžia visiems kitiems subjektams taikyti biometrinį tapatybės nustatymą, taip pat visas kitas biometrinio atpažinimo formas, kuriomis nesiekiama nustatyti asmens tapatybės, įskaitant visas paminėtas emocijų atpažinimo formas visais kitais tikslais, visose viešose ir privačiose vietose, įskaitant darbo vietą, parduotuves, stadionus, teatrus ir t. t. Tokiu būdu sudaromos palankios sąlygos atsirasti tokiam pasauliui, kuriame mes būsime nuolat „emociškai vertinami“ pačiais įvairiausiais tikslais, kurie mus vertinančiam asmeniui atrodo reikalingi.

4.7.

DIA „emocijų atpažinimas“ paprastai yra priskiriamas nedidelės rizikos kategorijai, išskyrus keletą naudotojo sričių, kuriose jis priskiriamas didelės rizikos kategorijai. Tokio tipo biometrinis tapatybės nustatymas taip pat vadinamas „afekto atpažinimu“ ir kartais „elgesio atpažinimu“. Visi šie DI praktinio panaudojimo tipai yra nepaprastai invaziniai, neturi jokio patikimo mokslinio pagrindo ir kelia didelį pavojų įvairioms ES pagrindinių teisių chartijoje nustatytoms pagrindinėms teisėms, pavyzdžiui, teisei į žmogaus orumą, teisei į asmens neliečiamybę (įskaitant psichinę neliečiamybę) ir teisei į privatų gyvenimą.

4.8.

Iš esmės atsižvelgdamas į 2021 m. birželio 21 d. Europos duomenų apsaugos priežiūros pareigūno (EDAPP) ir Europos duomenų apsaugos valdybos (EDAV) raginimą uždrausti naudoti DI automatizuotam žmogaus ypatybių atpažinimui viešose erdvėse ir kai kurios kitos paskirties dirbtinio intelekto naudojimą, dėl kurio gali atsirasti nesąžininga diskriminacija, EESRK ragina:

—

drausti naudoti DI automatiniam biometriniam atpažinimui viešosiose ir privačiosiose erdvėse (pavyzdžiui, veidų, eisenos, balso ir kitų biometrinių požymių atpažinimui), išskyrus autentiškumo patvirtinimo tikslais konkrečiomis aplinkybėmis (pavyzdžiui, kai reikia suteikti prieigą į saugumo požiūriu saugias erdves),

—	visais atvejais drausti viešose ir privačiosiose erdvėse naudoti DI automatiniam žmogaus elgsenos signalų atpažinimui,

—	drausti DI sistemas, kurios naudoja biometrinius duomenis, kad skirstytų asmenis į grupes pagal etninę kilmę, lytį, politines pažiūras ar seksualinę orientaciją, arba kitais pagrindais, dėl kurių diskriminacija yra draudžiama pagal Chartijos 21 straipsnį,

—	drausti naudoti DI, siekiant daryti išvadas apie fizinio asmens emocijas, elgesį arba požymius, išskyrus labai konkrečius atvejus, pvz., tam tikroms sveikatos reikmėms, kai svarbu atpažinti pacientų emocijas.

Didelės rizikos DI

4.9.

Spręsdama, ar DI sistemų praktika arba jų naudojimas, kuris kelia pavojų sveikatai, saugai ar pagrindinėms teisėms, vis dėlto turėtų būti leidžiami laikantis griežtų sąlygų, Komisija atsižvelgė į du aspektus: i) ar dirbtinio intelekto praktika arba naudojimas gali suteikti naudos visuomenei, ir ii) ar dėl tokio naudojimo kylanti rizika pakenkti sveikatai, saugai ir pagrindinėms teisėms, vis dėlto gali būti sumažinta, jei bus įvykdyti tam tikri reikalavimai.

4.10.

EESRK palankiai vertina tai, kad šie reikalavimai yra suderinti su patikimo DI etikos gairių (PDIEG) nuostatomis. Tačiau penki svarbūs PDIEG reikalavimai, taikomi didelės rizikos DI, konkrečiai nepatenka į DIA nustatytus reikalavimus, t. y.: i) žmogiškasis veiksnys, ii) privatumas, iii) įvairovė, nediskriminavimas ir teisingumas, iv) paaiškinamumas ir v) aplinkos bei socialinė gerovė. EESRK mano, kad tai praleista galimybė, nes daugelis DI keliamų pavojų yra susiję su privatumu, šališkumu, atskirtimi, DI sprendimų rezultatų nepaaiškinamumu, žmogiškojo veiksnio ir aplinkos pažeidžiamumu ir visa ši rizika paliečia mūsų pagrindines teises.

4.11.

EESRK rekomenduoja papildyti DIA III antraštinės dalies 2 skyrių šiais reikalavimais, kad būtų pagerintas DIA potencialas veiksmingai apsaugoti mūsų sveikatą, saugą ir pagrindines teises nuo neigiamo valdžios institucijų ir privačių organizacijų naudojamo DI poveikio.

4.12.

EESRK palankiai vertina, tai, kad DIA ir Sąjungos derinamieji teisės aktai sudaro susietą sistemą. Komitetas rekomenduoja išplėsti DIA taikymo sritį ir didelės rizikos dirbtiniam intelektui taikomus reikalavimus, kad šie apimtų ne tik „DI saugos komponentus“ arba tokias situacijas, kai pati DI sistema yra gaminys, kuriam taikomi II priede išvardyti Sąjungos derinamieji teisės aktai. Ši rekomendacija grindžiama tuo, kad DI gali sukelti riziką ne tik tada, kai jis yra naudojamas kaip šių gaminių saugos komponentas; be to, pati DI sistema ne visada yra gaminys. Kai DI yra naudojamas, pavyzdžiui, kaip diagnostikos ar prognozavimo priemonės dalis medicinos srityje arba kaip dirbtinio intelekto valdomas termostatas, kuris reguliuoja katilą.

4.13.

Tačiau EESRK įspėja, kad III priede išvardytam didelės rizikos DI taikant „sąrašu pagrįstą“ metodą gali būti legitimizuota, normalizuota ir integruota nemažai DI praktikos, kuri vis dar yra labai kritikuojama ir kurios nauda visuomenei yra abejotina arba tokios naudos įrodymų trūksta.

4.14.

Be to, laikantis penkių didelės rizikos DI taikomų reikalavimų, ne visada gali pavykti sumažinti žalos sveikatai, saugai ir pagrindinėms teisėms pavojų, ypač kalbant apie rečiau minimas pagrindines teises, kurias galėtų paveikti DI, be kita ko, teisę į žmogaus orumą, nekaltumo prezumpciją, teisę į tinkamas ir teisingas darbo sąlygas, asociacijų ir susirinkimų laisvę ar teisę streikuoti.

4.15.

EESRK primygtinai rekomenduoja į III priedo 2 punktą įtraukti telekomunikacijų ir interneto infrastruktūros valdymą ir naudojimą. EESRK taip pat rekomenduoja išplėsti šio punkto taikymo sritį taip, kad ji apimtų ne tik DI saugos komponentus.

4.16.

DI sistemos, kuriomis siekiama nustatyti galimybę gauti išsilavinimą ir vertinti studentus, kelia tam tikrą žalos studentų sveikatai, saugai ir pagrindinėms teisėms pavojų. Pavyzdžiui, internetinės egzaminų stebėjimo priemonės, kurios skirtos tariamai pažymėti „įtartiną elgesį“ ir „sukčiavimo požymius“ internetinių egzaminų metu, naudojant visų rūšių biometrinius duomenis ir elgesio sekimą, yra labai invazinės ir joms trūksta mokslinio pagrindimo.

4.17.

DI sistemų naudojimas, siekiant stebėti, sekti ir vertinti darbuotojus, kelia didelį susirūpinimą, susijusį su darbuotojų pagrindinėmis teisėmis į tinkamas ir teisingas darbo sąlygas, informaciją ir konsultacijas bei pagrįstą atleidimą iš darbo. Tikėtina, kad šių DI sistemų įtraukimas į didelės rizikos sąrašą, gali prieštarauti nacionaliniams darbo teisės aktams ir kolektyvinėms darbo sutartims, kuriais reglamentuojami (ne)pagrįsto atleidimo iš darbo, sveikatai nekenksmingų ir saugių darbo sąlygų bei darbuotojų informavimo klausimai. EESRK ragina užtikrinti visapusišką darbuotojų ir socialinių partnerių dalyvavimą ir informavimą priimant sprendimus dėl DI naudojimo darbo vietoje ir jo vystymo, pirkimo ir diegimo.

4.18.

„Žmogaus atliekamos priežiūros“ reikalavimas yra ypač svarbus darbo santykiuose, nes priežiūrą atliks darbuotojas arba darbuotojų grupė. EESRK pabrėžia, kad šie darbuotojai turėtų būti apmokyti, kaip atlikti šią užduotį. Be to, atsižvelgiant į tai, jog yra tikimasi, kad šiems darbuotojams bus leista nepaisyti DI sistemos išvedinių arba netgi nuspręsti jų nenaudoti, reikėtų numatyti priemones, kurios užtikrintų, jog darbuotojai išvengs neigiamų pasekmių (pvz., pareigų pažeminimo arba atleidimo iš darbo), jei toks sprendimas būtų priimtas.

4.19.

DI sistemų naudojimas suteikiant galimybes gauti viešąsias paslaugas yra platesnis, nei DI sistemų naudojimas suteikiant galimybę gauti būtiniausias privačiąsias paslaugas ir jomis naudotis, nes pastaruoju atveju DI yra laikomas didelės rizikos tik tuomet, kai vertinamas kreditingumas (patikimumas). EESRK rekomenduoja išplėsti III priedo 5 punkto b papunkčio taikymo sritį ir įtraukti DI sistemas, kurios yra skirtos įvertinti būtiniausių privačiųjų paslaugų tinkamumą.

4.20.

Teisėsaugos institucijų ir migracijos, prieglobsčio bei sienų kontrolės valdymo srityse naudojamas DI, skirtas individualios (baudžiamosios ar saugumo) rizikos vertinimams atlikti, kelia pavojų ES pagrindinių teisių chartijoje numatytai nekaltumo prezumpcijai, teisei į gynybą ir teisei į prieglobstį. DI sistemos paprastai tik ieško koreliacijų, kurios yra pagrįstos charakteristikomis, nustatytomis kitais atvejais. Tokiu būdu įtarimas yra grindžiamas ne faktiniu konkretaus asmens įtarimu dėl nusikaltimo ar baudžiamojo nusižengimo, o tik sutampančiomis tokio asmens ir nuteisto nusikaltėlio charakteristikomis (pvz., adresu, pajamomis, pilietybe, skolomis, darbu, elgesiu, draugų ir šeimos narių elgesiu ir pan.).

4.21.

DI naudojimas teisingumo vykdymo ir demokratiniuose procesuose yra ypač jautrus klausimas, todėl turėtų būti labiau atsižvelgiama į daugelį niuansų, o DI naudojimas turėtų vykti stebint jį atidžiau nei tai daroma šiuo metu. Kai sistemos naudojamos siekiant padėti teisminei institucijai tirti ir aiškinti faktus bei įstatymus ir taikyti įstatymus konkretiems faktų rinkiniams, neatsižvelgiama į tai, kad teisminis vertinimas yra daug sudėtingesnis procesas nei tik modelių nustatymas remiantis istoriniais duomenimis (o tai iš esmės ir daro dabartinės DI sistemos). DIA taip pat yra daroma prielaida, kad tokių rūšių DI tik padės teisminėms institucijoms, tuo tarpu visiškai automatizuoti teisminių institucijų sprendimai į taikymo sritį nepatenka. EESRK taip pat apgailestauja, kad neminimos DI sistemos ar jų naudojimas tokių demokratinių procesų kaip rinkimai srityje.

4.22.

EESRK rekomenduoja įtraukti nuostatą, kurioje būtų numatyta situacija, kai yra akivaizdu arba atliekant išankstinį atitikties vertinimą pasidarė aišku, jog 6 DI keliami reikalavimai nepakankamai sumažins žalos sveikatai, saugai ir žmogaus teisėms pavojų (pvz., iš dalies pakeičiant DIA 16 straipsnio g punktą).

Valdymas ir vykdymo užtikrinimas

4.23.

EESRK palankiai vertina DIA nustatytą valdymo struktūrą. Komitetas rekomenduoja, kad ES DI valdyba nuolat privalomai keistųsi nuomonėmis su platesne visuomene, įskaitant socialinius partnerius ir NVO.

4.24.

EESRK primygtinai rekomenduoja išplėsti DIA taikymo sritį į ją taip pat įtraukiant „senąsias DI sistemas“, t. y. sistemas, kurios jau yra naudojamos arba buvo įdiegtos prieš įsigaliojant DIA, kad būtų išvengta situacijų, kai sistemas diegiančios įmonės bando skubotai įdiegti draudžiamas, didelės ir vidutinės rizikos dirbtinio intelekto sistemas tam, kad galėtų nesilaikyti reikalavimų. Be to, EESRK primygtinai rekomenduoja užtikrinti, kad į DIA taikymo sritį būtų įtrauktas DI, kuris yra didelės apimties IX priede minimų laisvės, saugumo ir teisingumo erdvėje veikiančių IT sistemų komponentas.

4.25.

Reikalavimai ir atskaitomybės veikla, o taip pat savęs vertinimas yra labai sudėtingi, todėl kyla rizika, kad šis procesas bus supaprastintas pereinant prie kontrolinių sąrašų, kuriuose norint patenkinti reikalavimus pakaks atsakyti „taip“ arba „ne“. EESRK rekomenduoja nustatyti, kad trečiųjų šalių vertinimai būtų privalomi visoms didelės rizikos DI sistemoms.

4.26.

EESRK rekomenduoja numatyti tinkamas (finansines) pagalbos priemones bei paprastas ir prieinamas priemones labai mažoms ir mažoms organizacijoms, taip pat pilietinės visuomenės organizacijoms, kad jos suprastų DIA paskirtį, reikšmę ir galėtų atitikti jame išdėstytus reikalavimus. Šiomis priemonėmis turėtų būti siekiama ne tik remti skaitmeninių inovacijų centrus, bet ir sudaryti palankesnes sąlygas pasinaudoti aukšto lygio ekspertų patirtimi, susijusia su DIA, jo reikalavimais, įsipareigojimais ir ypač argumentavimu.

4.27.

EESRK rekomenduoja įtraukti skundų teikimo ir teisių gynimo mechanizmus, skirtus organizacijoms ir piliečiams, kurie nukentėjo nuo bet kokios DI sistemos, praktikos ar naudojimo, patenkančio į DIA taikymo sritį.

Briuselis, 2021 m. rugsėjo 22 d.

Europos ekonomikos ir socialinių reikalų komiteto pirmininkė

Christa SCHWENG

Top

All

Choose the experimental features you want to try