52021AE2482

EUR-Lex

Access to European Union law

This document is an excerpt from the EUR-Lex website

EUROPA
EUR-Lex home
EUR-Lex - 52021AE2482 - EN

Help

Search tips

Need more search options? Use the Advanced search

Document 52021AE2482

Stanovisko Európskeho hospodárskeho a sociálneho výboru — Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty Únie [COM(2021) 206 final – 2021/106 (COD)]

EESC 2021/02482

Ú. v. EÚ C 517, 22.12.2021, p. 61–66 (BG, ES, CS, DA, DE, ET, EL, EN, FR, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

HTML

PDF

Official Journal

22.12.2021

Úradný vestník Európskej únie

C 517/61

[COM(2021) 206 final – 2021/106 (COD)]

(2021/C 517/09)

Spravodajkyňa:

Catelijne MULLER

Konzultácia	Európsky parlament 7. 6. 2021 Rada 15. 6. 2021
Právny základ	článok 114 Zmluvy o fungovaní Európskej únie
Príslušná sekcia	sekcia pre jednotný trh, výrobu a spotrebu
Prijaté v sekcii	2. 9. 2021
Prijaté v pléne	22. 9. 2021
Plenárne zasadnutie č.	563
Výsledok hlasovania (za/proti/zdržalo sa)	225/03/06

1. Závery a odporúčania

1.1.

Európsky hospodársky a sociálny výbor (EHSV) víta skutočnosť, že návrh aktu o umelej inteligencii, ktorý predložila Komisia, sa nezameriava len na riziká spojené s umelou inteligenciou, ale zároveň podstatne zvyšuje požiadavky na kvalitu, výkonnosť a dôveryhodnosť umelej inteligencie, ktoré je EÚ ochotná prijať. EHSV víta predovšetkým skutočnosť, že akt o umelej inteligencii stavia zdravie, bezpečnosť a základné práva do centra pozornosti a má celosvetový rozsah.

1.2.

EHSV vidí priestor na zlepšenie, pokiaľ ide o rozsah, vymedzenie a zrozumiteľnosť zakázaných praktík v oblasti umelej inteligencie, dôsledky možností kategorizácie v súvislosti s „rizikovou pyramídou“, účinok požiadaviek na vysokorizikovú umelú inteligenciu zmierňujúci riziko, vykonateľnosť aktu o umelej inteligencii a súvislosť s existujúcimi právnymi predpismi a ďalšími nedávnymi regulačnými návrhmi.

1.3.

EHSV zdôrazňuje, že umelá inteligencia sa nikdy nevyužívala v nezákonnom svete. Vďaka svojmu širokému rozsahu pôsobnosti a nadradenosti ako nariadenia EÚ by akt o umelej inteligencii mohol viesť k napätiu s existujúcimi vnútroštátnymi právnymi predpismi a právnymi predpismi EÚ a súvisiacimi regulačnými návrhmi. EHSV odporúča zmeniť odôvodnenie 41 s cieľom náležite zvážiť a objasniť vzťahy medzi aktom o umelej inteligencii a súčasnými a budúcimi právnymi predpismi

1.4.

EHSV odporúča objasniť vymedzenie pojmu umelá inteligencia vypustením prílohy I a miernou zmenou článku 3 a rozšírením rozsahu pôsobnosti aktu o umelej inteligencii tak, aby zahŕňal „staršie systémy umelej inteligencie“ a zložky umelej inteligencie rozsiahlych informačných systémov v priestore slobody, bezpečnosti a spravodlivosti, ako sa uvádza v prílohe IX.

1.5.

EHSV odporúča objasniť zákazy týkajúce sa „podprahových techník“ a „zneužívania zraniteľných miest“ s cieľom odrážať zákaz škodlivej manipulácie a zároveň doplniť „porušenie základných práv, demokracie a právneho štátu“ ako podmienky pre tieto zákazy.

1.6.

EHSV sa domnieva, že v EÚ nie je žiadny priestor pre hodnotenie dôveryhodnosti občanov EÚ na základe ich sociálneho správania alebo osobných charakteristík, a to bez ohľadu na to, kto toto hodnotenie vykonáva. EHSV odporúča rozšíriť rozsah pôsobnosti tohto zákazu tak, aby zahŕňal aj sociálne hodnotenie súkromných organizácií a poloverejných orgánov.

1.7.

EHSV vyzýva na zákaz využívania umelej inteligencie na automatické biometrické rozpoznávanie vo verejne alebo súkromne prístupných priestoroch s výnimkou autentifikačných účelov za konkrétnych okolností, ako aj automatické rozpoznávanie ľudských behaviorálnych signálov vo verejne alebo súkromne prístupných priestoroch, s výnimkou veľmi špecifických prípadov, ako sú napríklad niektoré zdravotné účely, pri ktorých môže byť užitočné rozpoznanie emócií pacienta.

1.8.

Prístup k vysokorizikovej umelej inteligencii na základe zoznamu predstavuje riziko normalizácie a zavádzania početných systémov a spôsobov využitia umelej inteligencie, ktoré sú aj naďalej ostro kritizované. EHSV zdôrazňuje, že dodržiavanie požiadaviek stanovených pre stredne rizikovú a vysokorizikovú umelú inteligenciu nemusí nevyhnutne viesť k zmierňovaniu rizika poškodenia zdravia, bezpečnosti a základných práv v prípade všetkých typov vysokorizikovej umelej inteligencie. EHSV odporúča, aby sa táto situácia zohľadnila v akte o umelej inteligencii. Prinajmenšom by sa mali doplniť požiadavky na i) ľudský faktor, ii) súkromie, iii) rozmanitosť, nediskrimináciu a spravodlivosť, iv) vysvetliteľnosť a v) spoločenský a environmentálny blahobyt, ktoré sú stanovené v Etických usmerneniach pre dôveryhodnú umelú inteligenciu.

1.9.

EHSV v súlade so svojím dlho obhajovaným prístupom k umelej inteligencii, pri ktorom je vo velení človek, dôrazne odporúča, aby sa aktom o umelej inteligencii zabezpečilo, že určité rozhodnutia zostanú v právomoci ľudí, najmä v oblastiach, kde tieto rozhodnutia majú morálny prvok a právne dôsledky alebo spoločenský dosah, ako napríklad v súdnictve, pri presadzovaní práva, v sociálnych službách, zdravotníctve, v oblasti bývania, vo finančných službách, v rámci pracovnoprávnych vzťahov a vo vzdelávaní.

1.10.

EHSV odporúča, aby sa posudzovanie zhody treťou stranou stalo povinným prvkom pre všetky typy vysokorizikovej umelej inteligencie.

1.11.

EHSV odporúča zahrnúť mechanizmus na vybavovanie sťažností a nápravu pre organizácie a občanov, ktorí utrpeli škodu v dôsledku akéhokoľvek systému, praktiky alebo spôsobu využitia umelej inteligencie, na ktoré sa vzťahuje rozsah pôsobnosti aktu o umelej inteligencii.

2. Regulačný návrh o umelej inteligencii – akt o umelej inteligencii

2.1.

Európsky hospodársky a sociálny výbor víta skutočnosť, že návrh aktu o umelej inteligencii, ktorý predložila Komisia, sa nezameriava len na riziká spojené s umelou inteligenciou, ale zároveň podstatne zvyšuje požiadavky na kvalitu, výkonnosť a dôveryhodnosť umelej inteligencie, ktoré je EÚ ochotná prijať.

3. Všeobecné pripomienky – akt o umelej inteligencii

Cieľ a rozsah pôsobnosti

3.1.

EHSV víta cieľ aj rozsah pôsobnosti aktu o umelej inteligencii. EHSV osobitne víta skutočnosť, že Komisia stavia zdravie, bezpečnosť a základné práva do centra pozornosti aktu o umelej inteligencii. EHSV zároveň víta vonkajšie účinky aktu o umelej inteligencii, ktoré zabezpečujú, že umelá inteligencia vyvíjaná mimo EÚ musí spĺňať rovnaké právne normy, ak sa uplatňuje alebo má vplyv v rámci EÚ.

Vymedzenie pojmu umelá inteligencia

3.2.

Vymedzenie pojmu umelá inteligencia (článok 3 ods. 1 v spojení s prílohou I aktu o umelej inteligencii) vyvolala medzi vedcami v oblasti umelej inteligencie diskusiu o tom, že viacero príkladov uvedených v prílohe I nemožno považovať za umelú inteligenciu a že množstvo významných techník umelej inteligencie v nej chýba. EHSV nevidí žiadny prínos prílohy I a odporúča ju z aktu o umelej inteligencii úplne vypustiť. EHSV zároveň odporúča upraviť vymedzenie pojmu v článku 3 ods. 1 takto:

„Systém umelej inteligencie“ je softvér, ktorý môže pre daný súbor cieľov vymedzených človekom automatizovaným spôsobom vytvárať výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia ovplyvňujúce prostredie, s ktorým sú v interakcii.“

Zdravie, bezpečnosť a základné práva – riziková pyramída

3.3.

Stupňujúca sa „riziková pyramída“ (od nízkeho/stredného rizika po vysoké riziko, až po neprijateľné riziko), ktorá sa používa na kategorizáciu viacerých všeobecných praktík umelej inteligencie a prípadov použitia umelej inteligencie špecifickej pre danú oblasť, uznáva, že nie každá umelá inteligencia predstavuje riziko a nie všetky riziká sú rovnaké alebo si vyžadujú rovnaké zmierňujúce opatrenia.

3.4.

Zvolený prístup vyvoláva dve dôležité otázky. Po prvé, zmierňujú zmierňujúce opatrenia (pre vysokorizikovú a nízko/stredne rizikovú umelú inteligenciu) riziko poškodenia zdravia, bezpečnosti a základných práv skutočne dostatočným spôsobom? Po druhé, sme pripravení umožniť umelej inteligencii, aby do značnej miery nahradila ľudské rozhodovanie, a to aj v kritických oblastiach, ako je presadzovanie práva a súdnictvo?

3.5.

V súvislosti s prvou otázkou EHSV zdôrazňuje, že dodržiavanie požiadaviek stanovených pre stredne rizikovú a vysokorizikovú umelú inteligenciu nemusí nevyhnutne a za každých okolností zmierňovať riziko poškodenia zdravia, bezpečnosti a základných práv. Táto je podrobnejšie rozpracovaná v časti 4.

3.6.

Pokiaľ ide o druhú otázku, v akte o umelej inteligencii sa neobjasňuje, že prísľub umelej inteligencie spočíva v posilnení ľudského rozhodovania a ľudskej inteligencie, a nie v ich nahradení. Akt o umelej inteligencii vychádza z hypotézy, že akonáhle budú splnené požiadavky pre stredne rizikovú a vysokorizikovú umelú inteligenciu, umelá inteligencia môže do značnej miery nahradiť ľudské rozhodovanie.

3.7.

EHSV dôrazne odporúča, aby sa aktom o umelej inteligencii zabezpečilo, že určité rozhodnutia zostanú v právomoci ľudí, najmä v oblastiach, kde tieto rozhodnutia majú morálny prvok a právne dôsledky alebo spoločenský dosah, ako napríklad v súdnictve, pri presadzovaní práva, v sociálnych službách, zdravotníctve, v oblasti bývania, vo finančných službách, v rámci pracovnoprávnych vzťahov a vo vzdelávaní.

3.8.

Systémy umelej inteligencie nefungujú vo svete bez pravidiel. Viaceré právne záväzné predpisy na európskej, vnútroštátnej a medzinárodnej úrovni sa už uplatňujú alebo sú relevantné pre systémy umelej inteligencie. Právne zdroje zahŕňajú, avšak neobmedzujú sa len na: primárne právo EÚ (zmluvy Európskej únie a jej Charta základných práv), sekundárne právo EÚ (ako napríklad všeobecné nariadenie o ochrane údajov, smernica o zodpovednosti za výrobky, nariadenie o voľnom toku iných ako osobných údajov, antidiskriminačné smernice, spotrebiteľské právo a smernice o bezpečnosti a ochrane zdravia pri práci), zmluvy OSN o ľudských právach a dohovory Rady Európy (ako napríklad Európsky dohovor o ľudských právach) a mnohé právne predpisy členských štátov EÚ. Okrem horizontálne uplatňovaných predpisov existujú rozličné predpisy špecifické pre jednotlivé oblasti, ktoré sa uplatňujú na konkrétne aplikácie umelej inteligencie (ako napríklad nariadenie o zdravotníckych pomôckach v sektore zdravotnej starostlivosti). EHSV odporúča zmeniť odôvodnenie 41 s cieľom náležite zohľadniť túto skutočnosť.

4. Konkrétne pripomienky a odporúčania – akt o umelej inteligencii

Zakázané praktiky v oblasti umelej inteligencie

4.1.

EHSV súhlasí s tým, že praktiky v oblasti umelej inteligencie stanovené v článku 5 v skutočnosti nemajú žiadny sociálny prínos a mali by sa zakázať. Domnieva sa však, že niektoré formulácie sú nejasné, a preto by sa niektoré zákazy mohli ťažko vykladať a ľahko obísť.

4.2.

Existujú dôkazy, že podprahové techniky môžu viesť nielen k fyzickej alebo psychickej ujme (súčasné podmienky pre tento konkrétny zákaz musia ešte nadobudnúť účinnosť), ale vzhľadom na prostredie, v ktorom sa uplatňujú, môžu mať aj ďalšie nepriaznivé osobné, spoločenské alebo demokratické účinky, ako napríklad zmenené volebné správanie. Navyše často nejde o samotnú podprahovú techniku, ale o rozhodnutie, na koho sa má táto podprahová technika riadená umelou inteligenciou zamerať.

4.3.

EHSV v snahe vystihnúť to, čo akt o umelej inteligencii zamýšľa zakázať v článku 5 ods. 1 písm. a) v súvislosti s praktikou manipulovania ľudí k nevhodnému správaniu, odporúča upraviť tento odsek takto: „[…] systém umelej inteligencie nasadený, zameraný alebo používaný na podstatné narušenie správania osoby spôsobom, ktorý spôsobuje alebo môže spôsobiť ujmu pre základné práva tejto osoby, inej osoby alebo skupiny osôb vrátane ich fyzického alebo psychologického zdravia a bezpečnosti, alebo pre demokraciu a právny štát“.

4.4.

EHSV odporúča upraviť zakázanú praktiku zneužívania zraniteľných miest uvedenú v článku 5 ods. 1 písm. b) rovnakým spôsobom, aby tak zahŕňala aj poškodenie základných práv vrátane fyzickej alebo psychickej ujmy.

4.5.

EHSV víta zákaz „sociálneho hodnotenia“ v článku 5 ods. 1 písm. c). EHSV odporúča, aby sa zákaz sociálneho hodnotenia vzťahoval aj na súkromné organizácie a poloverejné orgány, nielen na verejné orgány. V EÚ nie je žiadny priestor pre hodnotenie dôveryhodnosti občanov EÚ na základe ich sociálneho správania alebo osobných charakteristík, a to bez ohľadu na to, kto toto hodnotenie vykonáva. Ak by existoval, EÚ by sprístupnila viaceré oblasti, v ktorých by bolo možné sociálne hodnotenie, napríklad na pracoviskách. Podmienky uvedené v bodoch i) a ii) by sa mali objasniť tak, aby sa jasne rozlíšilo, čo sa považuje za „sociálne hodnotenie“ a čo možno považovať za prijateľnú formu hodnotenia na určitý účel, t. j. keď by sa informácie použité na hodnotenie už nemali považovať za relevantné alebo primerane súvisiace s cieľom hodnotenia.

4.6.

Cieľom aktu o umelej inteligencii je zakázať diaľkovú biometrickú identifikáciu v reálnom čase (napríklad prostredníctvom rozpoznávania tváre) v oblasti presadzovania práva a zaradiť ju do kategórie „vysokoriziková“ v prípade, že sa využíva na iné účely. Umožní to „následnú“ biometrickú identifikáciu a biometrickú identifikáciu v „takmer“ reálnom čase. Takisto povoľuje biometrickú identifikáciu, ktorá nie je zameraná na identifikáciu osoby, ale skôr na hodnotenie správania osoby na základe biometrických znakov (mikro výrazy, chôdza, teplota, srdcová frekvencia atď.). Obmedzenie na „presadzovanie práva“ umožňuje biometrickú identifikáciu, ako aj všetky ostatné formy biometrickej identifikácie, ktoré nie sú zamerané na identifikáciu jednotlivca vrátane všetkých uvedených foriem „rozpoznávania emócií“ na všetky ostatné účely, všetkými ostatnými aktérmi na všetkých verejných a súkromných miestach, a to aj na pracovisku, obchodoch, štadiónoch, divadlách atď. To ponecháva dokorán otvorené dvere pre svet, v ktorom sme neustále „emocionálne posudzovaní“ na akýkoľvek účel, ktorý aktér považuje za potrebné.

4.7.

Akt o umelej inteligencii vo všeobecnosti považuje „rozpoznávanie emócií“ za nízkorizikové, s výnimkou niekoľkých používateľských domén, kde sa zaraďuje do vysokorizikovej kategórie. Tento typ rozpoznávania biometrických údajov je známy aj ako „rozpoznávanie afektov“ a niekedy „rozpoznávanie správania“. Všetky tieto typy postupov umelej inteligencie sú mimoriadne invazívne, nie sú podložené spoľahlivými vedeckými dôkazmi a predstavujú značné riziko poškodenia viacerých základných práv Charty EÚ, ako je právo na ľudskú dôstojnosť, právo na nedotknuteľnosť osoby (vrátane duševnej nedotknuteľnosti) a právo na súkromný život.

4.8.

EHSV vo všeobecnosti v súlade s výzvou európskeho dozorného úradníka pre ochranu údajov a Európskeho výboru pre ochranu údajov z 21. júna 2021 na zákaz používania umelej inteligencie na automatické rozpoznávanie ľudských prvkov vo verejne prístupných priestoroch a niektorých iných spôsobov používania umelej inteligencie, ktoré môžu viesť k nespravodlivej diskriminácii, požaduje:

—

zákaz využívania umelej inteligencie na automatické biometrické rozpoznávanie vo verejne a súkromne prístupných priestoroch (ako je napríklad rozpoznávanie tváre, chôdze, hlasu a iných biometrických znakov) s výnimkou autentifikačných účelov za osobitných okolností (napríklad na zabezpečenie prístupu do citlivých bezpečnostných priestorov):

—	zákaz využívania umelej inteligencie na automatické rozpoznávanie ľudských behaviorálnych signálov vo verejne a súkromne prístupných priestoroch;

—	- zákaz systémov umelej inteligencie využívajúcich biometriu na zaraďovanie jednotlivcov do skupín na základe etnického pôvodu, pohlavia, politického presvedčenia alebo sexuálnej orientácie alebo iných dôvodov, na základe ktorých je diskriminácia podľa článku 21 Charty zakázaná;

—	zákaz využívania umelej inteligencie na odvodenie emócií, správania, zámerov alebo čŕt fyzickej osoby, s výnimkou veľmi špecifických prípadov, ako sú niektoré zdravotné účely, pri ktorých je dôležité rozpoznanie emócií pacienta.

Vysokoriziková umelá inteligencia

4.9.

Pri rozhodovaní o tom, či by sa mali za prísnych podmienok povoliť praktiky umelej inteligencie alebo spôsoby jej využitia, ktoré predstavujú riziko pre zdravie, bezpečnosť alebo základné práva, sa Komisia zamerala na dva prvky: i) či postup alebo spôsob využitia umelej inteligencie môže priniesť sociálne výhody a ii) či riziká ohrozenia zdravia, bezpečnosti a základných práv, ktoré toto využitie napriek tomu predstavuje, možno zmierniť splnením niektorých požiadaviek.

4.10.

EHSV víta zosúladenie týchto požiadaviek s prvkami Etických usmernení pre dôveryhodnú umelú inteligenciu. Požiadavky na vysokorizikovú umelú inteligenciu sa však osobitne nezaoberajú piatimi dôležitými požiadavkami etických usmernení, konkrétne: i) ľudským faktorom, ii) súkromím, iii) rozmanitosťou, nediskrimináciou a spravodlivosťou, iv) vysvetliteľnosťou a v) environmentálnym a sociálnym blahobytom. EHSV sa domnieva, že ide o premárnenú príležitosť, pretože mnohé riziká spojené s umelou inteligenciou súvisia so súkromím, predpojatosťou, vylúčením, nevysvetliteľnosťou výsledkov rozhodnutí v oblasti umelej inteligencie, oslabovaním ľudského faktora a narúšaním životného prostredia, čo sa následne odráža v našich základných právach.

4.11.

EHSV odporúča doplniť tieto požiadavky k požiadavkám kapitoly 2 hlavy III aktu o umelej inteligencii s cieľom zlepšiť schopnosť aktu o umelej inteligencii účinne chrániť naše zdravie, bezpečnosť a základné práva pred nepriaznivými dosahmi umelej inteligencie, ktorú využívajú verejné orgány, ako aj súkromné organizácie.

4.12.

EHSV víta „vzájomne prepojený systém“ medzi aktom o umelej inteligencii a harmonizačnými právnymi predpismi Únie. Odporúča rozšíriť rozsah pôsobnosti aktu o umelej inteligencii a požiadaviek na vysokorizikovú umelú inteligenciu aj nad rámec „bezpečnostných komponentov umelej inteligencie“ alebo situáciu, keď je samotný systém umelej inteligencie výrobkom, na ktorý sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe II. Je to z toho dôvodu, že umelá inteligencia nepredstavuje riziká len vtedy, keď sa využíva ako bezpečnostný komponent týchto výrobkov, a že samotný systém umelej inteligencie nie je vždy výrobkom. Ak sa používa napríklad ako súčasť diagnostického alebo prognostického nástroja v oblasti medicíny alebo ako termostat založený na umelej inteligencii, ktorý reguluje ohrievač vody.

4.13.

EHSV však zdôrazňuje, že zvolený prístup k vysokorizikovej umelej inteligencii na základe zoznamu v prílohe III môže viesť k legitimizácii, normalizácii a zavádzaniu viacerých postupov umelej inteligencie, ktoré sú aj naďalej ostro kritizované a pre ktoré sú spoločenské výhody sporné alebo chýbajú.

4.14.

Riziko poškodenia zdravia, bezpečnosti a základných práv navyše nemožno v každom prípade nevyhnutne zmierniť dodržiavaním piatich požiadaviek na vysokorizikovú umelú inteligenciu, najmä pokiaľ ide o spomínané základné práva, ktoré by mohli byť ovplyvnené umelou inteligenciou, ako napríklad právo na ľudskú dôstojnosť, prezumpcia neviny, právo na spravodlivé a primerané pracovné podmienky, sloboda združovania a zhromažďovania.

4.15.

EHSV dôrazne odporúča doplniť riadenie a prevádzku telekomunikačnej a internetovej infraštruktúry do bodu 2 prílohy III. EHSV zároveň odporúča rozšíriť rozsah pôsobnosti tohto bodu nad rámec bezpečnostných komponentov umelej inteligencie.

4.16.

Systémy umelej inteligencie na určovanie prístupu k vzdelaniu a hodnotenie študentov prinášajú množstvo rizík poškodenia zdravia, bezpečnosti a základných práv študentov. Napríklad nástroje na online sledovanie, ktoré údajne umožňujú zaznamenávať „podozrivé správanie“ a „náznaky podvádzania“ počas online skúšok pomocou všetkých druhov biometrie a sledovania správania, sú skutočne invazívne a nie sú podložené vedeckými dôkazmi.

4.17.

Využívanie systémov umelej inteligencie na monitorovanie, sledovanie a hodnotenie pracovníkov vyvoláva vážne obavy, pokiaľ ide o základné práva pracovníkov na spravodlivé a primerané pracovné podmienky, na informácie a konzultácie a na odôvodnené prepustenie. Pridanie týchto systémov do zoznamu vysokorizikových systémov umelej inteligencie pravdepodobne povedie ku konfliktu s vnútroštátnymi pracovnoprávnymi predpismi a kolektívnymi dohodami v oblasti (ne)spravodlivého prepúšťania, zdravých a bezpečných pracovných podmienok a informácií o pracovníkoch. EHSV žiada, aby sa zaručila plná účasť a informovanie pracovníkov a sociálnych partnerov v rozhodovacom procese o používaní umelej inteligencie na pracovisku a o jej vývoji, obstarávaní a zavádzaní.

4.18.

Požiadavka na „ľudský dohľad“ je obzvlášť dôležitá v pracovnoprávnych vzťahoch, keďže tento dohľad bude vykonávať pracovník alebo skupina pracovníkov. EHSV zdôrazňuje, že títo pracovníci by mali absolvovať odbornú prípravu o tom, ako túto úlohu vykonávať. Navyše, vzhľadom na predpoklad, že títo pracovníci nebudú povinní zohľadňovať výstupy zo systému umelej inteligencie alebo sa dokonca rozhodnú tento systém nepoužiť, mali by sa zaviesť opatrenia na zabránenie obavám z negatívnych dôsledkov (napríklad z preradenia na nižšiu pozíciu alebo prepustenia), ak prijmú takéto rozhodnutie.

4.19.

Miera uplatňovania systémov umelej inteligencie v súvislosti s prístupom a využívaním verejných služieb je širšia ako miera používania systémov umelej inteligencie v súvislosti s prístupom a využívaním základných súkromných služieb, v prípade ktorých sa za vysokorizikové považuje iba bodové hodnotenie kreditného rizika (úveruschopnosť) pomocou umelej inteligencie. EHSV odporúča rozšíriť rozsah pôsobnosti bodu 5 písm. b) prílohy III na systémy umelej inteligencie určené na hodnotenie oprávnenosti na základné súkromné služby.

4.20.

Umelá inteligencia, ktorú využívajú orgány presadzovania práva a ktorá sa využíva pri migrácii, azyle a riadení hraničných kontrol v záujme výkonu individuálnych (trestných alebo bezpečnostných) posúdení rizík predstavuje riziko narušenia prezumpcie neviny, práva na obhajobu a práva na azyl stanovených v Charte EÚ. Systémy umelej inteligencie vo všeobecnosti vyhľadávajú len súvislosti, ktoré sú založené na charakteristikách zistených v iných „prípadoch“. Podozrenie sa v týchto prípadoch nezakladá na skutočnom podozrení konkrétnej osoby z trestného činu alebo prečinu, ale iba na vlastnostiach, ktoré má táto osoba spoločné s odsúdenými zločincami (napríklad adresa, príjem, štátna príslušnosť, dlhy, zamestnanie, správanie, správanie priateľov a členov rodiny atď.).

4.21.

Využívanie umelej inteligencie pri výkone súdnych a demokratických procesov je obzvlášť citlivou témou a malo by sa k nej pristupovať s odlišnejším prístupom a väčším dohľadom, ako v súčasnosti. Samotné využívanie systémov na pomoc súdnemu orgánu pri skúmaní a výklade skutočností a právnych predpisov a pri uplatňovaní právnych predpisov na konkrétny súbor skutočností prehliada skutočnosť, že práca súdnych orgánov je oveľa viac, než len vyhľadávanie vzorcov v historických údajoch (čo je v podstate to, čo robia súčasné systémy umelej inteligencie). V texte sa tiež predpokladá, že tieto typy umelej inteligencie budú určené len na pomoc súdnictvu, pričom plne automatizované súdne rozhodovanie bude mimo rozsahu ich pôsobnosti. EHSV tiež vyjadruje poľutovanie nad tým, že sa v texte neuvádzajú systémy umelej inteligencie ani spôsoby ich využitia pri demokratických procesoch, ako sú voľby.

4.22.

EHSV odporúča doplniť ustanovenie zohľadňujúce situáciu, v ktorej je zrejmé, alebo sa na základe predchádzajúceho posúdenia zhody ukázalo, že týchto šesť požiadaviek nebude schopné dostatočne zmierniť riziko poškodenia zdravia, bezpečnosti a ľudských práv (napríklad zmenou článku 16 písm. g) aktu o umelej inteligencii).

Riadenie a vykonateľnosť

4.23.

EHSV víta štruktúru riadenia stanovenú aktom o umelej inteligencii. Odporúča rade pre umelú inteligenciu, aby uskutočňovala pravidelné povinné výmeny názorov so širšou spoločnosťou vrátane sociálnych partnerov a mimovládnych organizácií.

4.24.

EHSV dôrazne odporúča rozšíriť rozsah pôsobnosti aktu o umelej inteligencii spôsobom, aby zahŕňal aj „staršie systémy umelej inteligencie“, t. j. systémy, ktoré sa už používajú alebo boli nasadené pred nadobudnutím účinnosti aktu o umelej inteligencii, aby sa tak zabránilo zrýchlenému zavádzaniu akejkoľvek zakázanej, vysokorizikovej alebo stredne rizikovej umelej inteligencie v snahe vyhnúť sa dodržiavaniu požiadaviek. EHSV okrem toho dôrazne odporúča nevylúčiť z rozsahu pôsobnosti umelú inteligenciu, ktorá je súčasťou rozsiahlych informačných systémov v priestore slobody, bezpečnosti a spravodlivosti, ako sa uvádza v prílohe IX.

4.25.

Zložitosť činností v oblasti požiadaviek a zodpovednosti, ako aj sebahodnotenie, predstavujú riziko zjednodušovania tohto postupu na kontrolné zoznamy, v prípade ktorých by na splnenie požiadaviek stačilo jednoduché „áno“ alebo „nie“. EHSV odporúča, aby boli hodnotenia treťou stranou povinné pre všetky typy vysokorizikovej umelej inteligencie.

4.26.

EHSV odporúča, aby sa zaviedli primerané (finančné) podporné opatrenia a jednoduché a dostupné nástroje pre mikroorganizácie a malé organizácie, ako aj pre organizácie občianskej spoločnosti, aby boli schopné porozumieť účelu a významu aktu o umelej inteligencii a aby boli schopné splniť jeho požiadavky. Tieto opatrenia by mali ísť nad rámec podpory centier digitálnych inovácií a mali by spočívať v uľahčení prístupu k odborným znalostiam na vysokej úrovni týkajúcich sa aktu o umelej inteligencii, jeho požiadaviek, povinností, a najmä ich odôvodnenia.

4.27.

EHSV odporúča zahrnúť mechanizmus na vybavovanie sťažností a nápravu pre organizácie a občanov, ktorí utrpeli škodu v dôsledku akéhokoľvek systému, postupu alebo spôsobu využitia umelej inteligencie, na ktoré sa vzťahuje rozsah pôsobnosti aktu o umelej inteligencii.

V Bruseli 22. septembra 2021

Predsedníčka Európskeho hospodárskeho a sociálneho výboru

Christa SCHWENG

Top

Choose the experimental features you want to try