SK

INT/940

Umelá inteligencia/nariadenie

STANOVISKO

sekcia pre jednotný trh, výrobu a spotrebu

Návrh nariadenia Európskeho parlamentu a Rady, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) a menia niektoré legislatívne akty únie
[COM(2021) 206 final – 2021/106(COD)]

Kontakt

int@eesc.europa.eu  

Administrátorka

Alice TÉTU

Dátum dokumentu

09/09/2021

Spravodajkyňa: Catelijne MULLER

Konzultácia

Európsky parlament, 07/06/2021

Rada, 15/06/2021

Právny základ

článok 114 Zmluvy o fungovaní Európskej únie

Príslušná sekcia

sekcia pre jednotný trh, výrobu a spotrebu

Prijaté v sekcii

02/09/2021

Prijaté v pléne

DD/MM/YYYY

Plenárne zasadnutie č.

…

Výsledok hlasovania
(za/proti/zdržalo sa)

…/…/…



1.Závery a odporúčania

1.1Európsky hospodársky a sociálny výbor (EHSV) víta skutočnosť, že návrh aktu o umelej inteligencii, ktorý predložila Komisia, sa nezameriava len na riziká spojené s umelou inteligenciou, ale zároveň podstatne zvyšuje požiadavky na kvalitu, výkonnosť a dôveryhodnosť umelej inteligencie, ktoré je EÚ ochotná prijať. EHSV víta predovšetkým skutočnosť, že akt o umelej inteligencii stavia zdravie, bezpečnosť a základné práva do centra pozornosti a má celosvetový rozsah.

1.2EHSV vidí priestor na zlepšenie, pokiaľ ide o rozsah, vymedzenie a zrozumiteľnosť zakázaných praktík v oblasti umelej inteligencie, dôsledky možností kategorizácie v súvislosti s „rizikovou pyramídou“, účinok požiadaviek na vysokorizikovú umelú inteligenciu zmierňujúci riziko, vykonateľnosť aktu o umelej inteligencii a súvislosť s existujúcimi právnymi predpismi a ďalšími nedávnymi regulačnými návrhmi.

1.3EHSV zdôrazňuje, že umelá inteligencia sa nikdy nevyužívala v nezákonnom svete. Vďaka svojmu širokému rozsahu pôsobnosti a nadradenosti ako nariadenia EÚ by akt o umelej inteligencii mohol viesť k napätiu s existujúcimi vnútroštátnymi právnymi predpismi a právnymi predpismi EÚ a súvisiacimi regulačnými návrhmi. EHSV odporúča zmeniť odôvodnenie 41 s cieľom náležite zvážiť a objasniť vzťahy medzi aktom o umelej inteligencii a súčasnými a budúcimi právnymi predpismi

1.4EHSV odporúča objasniť vymedzenie pojmu umelá inteligencia vypustením prílohy I a miernou zmenou článku 3 a rozšírením rozsahu pôsobnosti aktu o umelej inteligencii tak, aby zahŕňal „staršie systémy umelej inteligencie“ a zložky umelej inteligencie rozsiahlych informačných systémov v priestore slobody, bezpečnosti a spravodlivosti, ako sa uvádza v prílohe IX.

1.5EHSV odporúča objasniť zákazy týkajúce sa „podprahových techník“ a „zneužívania zraniteľných miest“ s cieľom odrážať zákaz škodlivej manipulácie a zároveň doplniť „porušenie základných práv, demokracie a právneho štátu“ ako podmienky pre tieto zákazy.

1.6EHSV sa domnieva, že v EÚ nie je žiadny priestor pre hodnotenie dôveryhodnosti občanov EÚ na základe ich sociálneho správania alebo osobných charakteristík, a to bez ohľadu na to, kto toto hodnotenie vykonáva. EHSV odporúča rozšíriť rozsah pôsobnosti tohto zákazu tak, aby zahŕňal aj sociálne hodnotenie súkromných organizácií a poloverejných orgánov.

1.7EHSV vyzýva na zákaz využívania umelej inteligencie na automatické biometrické rozpoznávanie vo verejne alebo súkromne prístupných priestoroch s výnimkou autentifikačných účelov za konkrétnych okolností, ako aj automatické rozpoznávanie ľudských behaviorálnych signálov vo verejne alebo súkromne prístupných priestoroch, s výnimkou veľmi špecifických prípadov, ako sú napríklad niektoré zdravotné účely, pri ktorých môže byť užitočné rozpoznanie emócií pacienta.

1.8Prístup k vysokorizikovej umelej inteligencii na základe zoznamu predstavuje riziko normalizácie a zavádzania početných systémov a spôsobov využitia umelej inteligencie, ktoré sú aj naďalej ostro kritizované. EHSV zdôrazňuje, že dodržiavanie požiadaviek stanovených pre stredne rizikovú a vysokorizikovú umelú inteligenciu nemusí nevyhnutne viesť k zmierňovaniu rizika poškodenia zdravia, bezpečnosti a základných práv v prípade všetkých typov vysokorizikovej umelej inteligencie. EHSV odporúča, aby sa táto situácia zohľadnila v akte o umelej inteligencii. Prinajmenšom by sa mali doplniť požiadavky na i) ľudský faktor, ii) súkromie, iii) rozmanitosť, nediskrimináciu a spravodlivosť, iv) vysvetliteľnosť a v) spoločenský a environmentálny blahobyt, ktoré sú stanovené v Etických usmerneniach pre dôveryhodnú umelú inteligenciu.

1.9EHSV v súlade so svojím dlho obhajovaným prístupom k umelej inteligencii, pri ktorom je vo velení človek, dôrazne odporúča, aby sa aktom o umelej inteligencii zabezpečilo, že určité rozhodnutia zostanú v právomoci ľudí, najmä v oblastiach, kde tieto rozhodnutia majú morálny prvok a právne dôsledky alebo spoločenský dosah, ako napríklad v súdnictve, pri presadzovaní práva, v sociálnych službách, zdravotníctve, v oblasti bývania, vo finančných službách, v rámci pracovnoprávnych vzťahov a vo vzdelávaní.

1.10EHSV odporúča, aby sa posudzovanie zhody treťou stranou stalo povinným prvkom pre všetky typy vysokorizikovej umelej inteligencie.

1.11EHSV odporúča zahrnúť mechanizmus na vybavovanie sťažností a nápravu pre organizácie a občanov, ktorí utrpeli škodu v dôsledku akéhokoľvek systému, praktiky alebo spôsobu využitia umelej inteligencie, na ktoré sa vzťahuje rozsah pôsobnosti aktu o umelej inteligencii.

2.Regulačný návrh o umelej inteligencii – akt o umelej inteligencii

2.1Európsky hospodársky a sociálny výbor víta skutočnosť, že návrh aktu o umelej inteligencii, ktorý predložila Komisia, sa nezameriava len na riziká spojené s umelou inteligenciou, ale zároveň podstatne zvyšuje požiadavky na kvalitu, výkonnosť a dôveryhodnosť umelej inteligencie, ktoré je EÚ ochotná prijať.

3.Všeobecné pripomienky – akt o umelej inteligencii

Cieľ a rozsah pôsobnosti

3.1EHSV víta cieľ aj rozsah pôsobnosti aktu o umelej inteligencii. EHSV osobitne víta skutočnosť, že Komisia stavia zdravie, bezpečnosť a základné práva do centra pozornosti aktu o umelej inteligencii. EHSV zároveň víta vonkajšie účinky aktu o umelej inteligencii, ktoré zabezpečujú, že umelá inteligencia vyvíjaná mimo EÚ musí spĺňať rovnaké právne normy, ak sa uplatňuje alebo má vplyv v rámci EÚ.

Vymedzenie pojmu umelá inteligencia

3.2Vymedzenie pojmu umelá inteligencia (článok 3 ods. 1 v spojení s prílohou I aktu o umelej inteligencii) vyvolala medzi vedcami v oblasti umelej inteligencie diskusiu o tom, že viacero príkladov uvedených v prílohe I nemožno považovať za umelú inteligenciu a že množstvo významných techník umelej inteligencie v nej chýba. EHSV nevidí žiadny prínos prílohy I a odporúča ju z aktu o umelej inteligencii úplne vypustiť. EHSV zároveň odporúča upraviť vymedzenie pojmu v článku 3 ods. 1 takto:

„Systém umelej inteligencie“ je softvér, ktorý môže pre daný súbor cieľov vymedzených človekom automatizovaným spôsobom vytvárať výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia ovplyvňujúce prostredie, s ktorým sú v interakcii.“

Zdravie, bezpečnosť a základné práva – riziková pyramída

3.3Stupňujúca sa „riziková pyramída“ (od nízkeho/stredného rizika po vysoké riziko, až po neprijateľné riziko), ktorá sa používa na kategorizáciu viacerých všeobecných praktík umelej inteligencie a prípadov použitia umelej inteligencie špecifickej pre danú oblasť, uznáva, že nie každá umelá inteligencia predstavuje riziko a nie všetky riziká sú rovnaké alebo si vyžadujú rovnaké zmierňujúce opatrenia.

3.4Zvolený prístup vyvoláva dve dôležité otázky. Po prvé, zmierňujú zmierňujúce opatrenia (pre vysokorizikovú a nízko/stredne rizikovú umelú inteligenciu) riziko poškodenia zdravia, bezpečnosti a základných práv skutočne dostatočným spôsobom? Po druhé, sme pripravení umožniť umelej inteligencii, aby do značnej miery nahradila ľudské rozhodovanie, a to aj v kritických oblastiach, ako je presadzovanie práva a súdnictvo?

3.5V súvislosti s prvou otázkou EHSV zdôrazňuje, že dodržiavanie požiadaviek stanovených pre stredne rizikovú a vysokorizikovú umelú inteligenciu nemusí nevyhnutne a za každých okolností zmierňovať riziko poškodenia zdravia, bezpečnosti a základných práv. Táto je podrobnejšie rozpracovaná v časti 4.

3.6Pokiaľ ide o druhú otázku, v akte o umelej inteligencii sa neobjasňuje, že prísľub umelej inteligencie spočíva v posilnení ľudského rozhodovania a ľudskej inteligencie, a nie v ich nahradení. Akt o umelej inteligencii vychádza z hypotézy, že akonáhle budú splnené požiadavky pre stredne rizikovú a vysokorizikovú umelú inteligenciu, umelá inteligencia môže do značnej miery nahradiť ľudské rozhodovanie.

3.7EHSV dôrazne odporúča, aby sa aktom o umelej inteligencii zabezpečilo, že určité rozhodnutia zostanú v právomoci ľudí, najmä v oblastiach, kde tieto rozhodnutia majú morálny prvok a právne dôsledky alebo spoločenský dosah, ako napríklad v súdnictve, pri presadzovaní práva, v sociálnych službách, zdravotníctve, v oblasti bývania, vo finančných službách, v rámci pracovnoprávnych vzťahov a vo vzdelávaní.

3.8Systémy umelej inteligencie nefungujú vo svete bez pravidiel. Viaceré právne záväzné predpisy na európskej, vnútroštátnej a medzinárodnej úrovni sa už uplatňujú alebo sú relevantné pre systémy umelej inteligencie. Právne zdroje zahŕňajú, avšak neobmedzujú sa len na: primárne právo EÚ (zmluvy Európskej únie a jej Charta základných práv), sekundárne právo EÚ (ako napríklad všeobecné nariadenie o ochrane údajov, smernica o zodpovednosti za výrobky, nariadenie o voľnom toku iných ako osobných údajov, antidiskriminačné smernice, spotrebiteľské právo a smernice o bezpečnosti a ochrane zdravia pri práci), zmluvy OSN o ľudských právach a dohovory Rady Európy (ako napríklad Európsky dohovor o ľudských právach) a mnohé právne predpisy členských štátov EÚ. Okrem horizontálne uplatňovaných predpisov existujú rozličné predpisy špecifické pre jednotlivé oblasti, ktoré sa uplatňujú na konkrétne aplikácie umelej inteligencie (ako napríklad nariadenie o zdravotníckych pomôckach v sektore zdravotnej starostlivosti). EHSV odporúča zmeniť odôvodnenie 41 s cieľom náležite zohľadniť túto skutočnosť.

4.Konkrétne pripomienky a odporúčania – akt o umelej inteligencii

Zakázané praktiky v oblasti umelej inteligencie

4.1EHSV súhlasí s tým, že praktiky v oblasti umelej inteligencie stanovené v článku 5 v skutočnosti nemajú žiadny sociálny prínos a mali by sa zakázať. Domnieva sa však, že niektoré formulácie sú nejasné, a preto by sa niektoré zákazy mohli ťažko vykladať a ľahko obísť.

4.2Existujú dôkazy, že podprahové techniky môžu viesť nielen k fyzickej alebo psychickej ujme (súčasné podmienky pre tento konkrétny zákaz musia ešte nadobudnúť účinnosť), ale vzhľadom na prostredie, v ktorom sa uplatňujú, môžu mať aj ďalšie nepriaznivé osobné, spoločenské alebo demokratické účinky, ako napríklad zmenené volebné správanie. Navyše často nejde o samotnú podprahovú techniku, ale o rozhodnutie, na koho sa má táto podprahová technika riadená umelou inteligenciou zamerať.

4.3EHSV v snahe vystihnúť to, čo akt o umelej inteligencii zamýšľa zakázať v článku 5 ods. 1 písm. a) v súvislosti s praktikou manipulovania ľudí k nevhodnému správaniu, odporúča upraviť tento odsek takto: „(...) systém umelej inteligencie nasadený, zameraný alebo používaný na podstatné narušenie správania osoby spôsobom, ktorý spôsobuje alebo môže spôsobiť ujmu pre základné práva tejto osoby, inej osoby alebo skupiny osôb vrátane ich fyzického alebo psychologického zdravia a bezpečnosti, alebo pre demokraciu a právny štát“.

4.4EHSV odporúča upraviť zakázanú praktiku zneužívania zraniteľných miest uvedenú v článku 5 ods. 1 písm. b) rovnakým spôsobom, aby tak zahŕňala aj poškodenie základných práv vrátane fyzickej alebo psychickej ujmy.

4.5EHSV víta zákaz „sociálneho hodnotenia“ v článku 5 ods. 1 písm. c). EHSV odporúča, aby sa zákaz sociálneho hodnotenia vzťahoval aj na súkromné organizácie a poloverejné orgány, nielen na verejné orgány. V EÚ nie je žiadny priestor pre hodnotenie dôveryhodnosti občanov EÚ na základe ich sociálneho správania alebo osobných charakteristík, a to bez ohľadu na to, kto toto hodnotenie vykonáva. Ak by existoval, EÚ by sprístupnila viaceré oblasti, v ktorých by bolo možné sociálne hodnotenie, napríklad na pracoviskách. Podmienky uvedené v bodoch i) a ii) by sa mali objasniť tak, aby sa jasne rozlíšilo, čo sa považuje za „sociálne hodnotenie“ a čo možno považovať za prijateľnú formu hodnotenia na určitý účel, t. j. keď by sa informácie použité na hodnotenie už nemali považovať za relevantné alebo primerane súvisiace s cieľom hodnotenia.

4.6Cieľom aktu o umelej inteligencii je zakázať diaľkovú biometrickú identifikáciu v reálnom čase (napríklad prostredníctvom rozpoznávania tváre) v oblasti presadzovania práva a zaradiť ju do kategórie „vysokoriziková“ v prípade, že sa využíva na iné účely. Umožní to „následnú“ biometrickú identifikáciu a biometrickú identifikáciu v „takmer“ reálnom čase. Takisto povoľuje biometrickú identifikáciu, ktorá nie je zameraná na identifikáciu osoby, ale skôr na hodnotenie správania osoby na základe biometrických znakov (mikro výrazy, chôdza, teplota, srdcová frekvencia atď.). Obmedzenie na „presadzovanie práva“ umožňuje biometrickú identifikáciu, ako aj všetky ostatné formy biometrickej identifikácie, ktoré nie sú zamerané na identifikáciu jednotlivca vrátane všetkých uvedených foriem „rozpoznávania emócií“ na všetky ostatné účely, všetkými ostatnými aktérmi na všetkých verejných a súkromných miestach, a to aj na pracovisku, obchodoch, štadiónoch, divadlách atď. To ponecháva dokorán otvorené dvere pre svet, v ktorom sme neustále „emocionálne posudzovaní“ na akýkoľvek účel, ktorý aktér považuje za potrebné.

4.7Akt o umelej inteligencii vo všeobecnosti považuje „rozpoznávanie emócií“ za nízkorizikové, s výnimkou niekoľkých používateľských domén, kde sa zaraďuje do vysokorizikovej kategórie. Tento typ rozpoznávania biometrických údajov je známy aj ako „rozpoznávanie afektov“ a niekedy „rozpoznávanie správania“. Všetky tieto typy postupov umelej inteligencie sú mimoriadne invazívne, nie sú podložené spoľahlivými vedeckými dôkazmi a predstavujú značné riziko poškodenia viacerých základných práv Charty EÚ, ako je právo na ľudskú dôstojnosť, právo na nedotknuteľnosť osoby (vrátane duševnej nedotknuteľnosti) a právo na súkromný život.

4.8EHSV vo všeobecnosti v súlade s výzvou európskeho dozorného úradníka pre ochranu údajov a Európskeho výboru pre ochranu údajov z 21. júna 2021 na zákaz používania umelej inteligencie na automatické rozpoznávanie ľudských prvkov vo verejne prístupných priestoroch a niektorých iných spôsobov používania umelej inteligencie, ktoré môžu viesť k nespravodlivej diskriminácii, požaduje:

-zákaz využívania umelej inteligencie na automatické biometrické rozpoznávanie vo verejne a súkromne prístupných priestoroch (ako je napríklad rozpoznávanie tváre, chôdze, hlasu a iných biometrických znakov) s výnimkou autentifikačných účelov za osobitných okolností (napríklad na zabezpečenie prístupu do citlivých bezpečnostných priestorov).

-zákaz využívania umelej inteligencie na automatické rozpoznávanie ľudských behaviorálnych signálov vo verejne a súkromne prístupných priestoroch.

-zákaz systémov umelej inteligencie využívajúcich biometriu na zaraďovanie jednotlivcov do skupín na základe etnického pôvodu, pohlavia, politického presvedčenia alebo sexuálnej orientácie alebo iných dôvodov, na základe ktorých je diskriminácia podľa článku 21 Charty zakázaná.

-zákaz využívania umelej inteligencie na odvodenie emócií, správania, zámerov alebo čŕt fyzickej osoby, s výnimkou veľmi špecifických prípadov, ako sú niektoré zdravotné účely, pri ktorých je dôležité rozpoznanie emócií pacienta.

Vysokoriziková umelá inteligencia

4.9Pri rozhodovaní o tom, či by sa mali za prísnych podmienok povoliť praktiky umelej inteligencie alebo spôsoby jej využitia, ktoré predstavujú riziko pre zdravie, bezpečnosť alebo základné práva, sa Komisia zamerala na dva prvky: i) či postup alebo spôsob využitia umelej inteligencie môže priniesť sociálne výhody a ii) či riziká ohrozenia zdravia, bezpečnosti a základných práv, ktoré toto využitie napriek tomu predstavuje, možno zmierniť splnením niektorých požiadaviek.

4.10EHSV víta zosúladenie týchto požiadaviek s prvkami Etických usmernení pre dôveryhodnú umelú inteligenciu. Požiadavky na vysokorizikovú umelú inteligenciu sa však osobitne nezaoberajú piatimi dôležitými požiadavkami etických usmernení, konkrétne: i) ľudským faktorom, ii) súkromím, iii) rozmanitosťou, nediskrimináciou a spravodlivosťou, iv) vysvetliteľnosťou a v) environmentálnym a sociálnym blahobytom. EHSV sa domnieva, že ide o premárnenú príležitosť, pretože mnohé riziká spojené s umelou inteligenciou súvisia so súkromím, predpojatosťou, vylúčením, nevysvetliteľnosťou výsledkov rozhodnutí v oblasti umelej inteligencie, oslabovaním ľudského faktora a narúšaním životného prostredia, čo sa následne odráža v našich základných právach.

4.11EHSV odporúča doplniť tieto požiadavky k požiadavkám kapitoly 2 hlavy III aktu o umelej inteligencii s cieľom zlepšiť schopnosť aktu o umelej inteligencii účinne chrániť naše zdravie, bezpečnosť a základné práva pred nepriaznivými dosahmi umelej inteligencie, ktorú využívajú verejné orgány, ako aj súkromné organizácie.

4.12EHSV víta „vzájomne prepojený systém“ medzi aktom o umelej inteligencii a harmonizačnými právnymi predpismi Únie. Odporúča rozšíriť rozsah pôsobnosti aktu o umelej inteligencii a požiadaviek na vysokorizikovú umelú inteligenciu aj nad rámec „bezpečnostných komponentov umelej inteligencie“ alebo situáciu, keď je samotný systém umelej inteligencie výrobkom, na ktorý sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe II. Je to z toho dôvodu, že umelá inteligencia nepredstavuje riziká len vtedy, keď sa využíva ako bezpečnostný komponent týchto výrobkov, a že samotný systém umelej inteligencie nie je vždy výrobkom. Ak sa používa napríklad ako súčasť diagnostického alebo prognostického nástroja v oblasti medicíny alebo ako termostat založený na umelej inteligencii, ktorý reguluje ohrievač vody.

4.13EHSV však zdôrazňuje, že zvolený prístup k vysokorizikovej umelej inteligencii na základe zoznamu v prílohe III môže viesť k legitimizácii, normalizácii a zavádzaniu viacerých postupov umelej inteligencie, ktoré sú aj naďalej ostro kritizované a pre ktoré sú spoločenské výhody sporné alebo chýbajú.

4.14Riziko poškodenia zdravia, bezpečnosti a základných práv navyše nemožno v každom prípade nevyhnutne zmierniť dodržiavaním piatich požiadaviek na vysokorizikovú umelú inteligenciu, najmä pokiaľ ide o spomínané základné práva, ktoré by mohli byť ovplyvnené umelou inteligenciou, ako napríklad právo na ľudskú dôstojnosť, prezumpcia neviny, právo na spravodlivé a primerané pracovné podmienky, sloboda združovania a zhromažďovania.

4.15EHSV dôrazne odporúča doplniť riadenie a prevádzku telekomunikačnej a internetovej infraštruktúry do bodu 2 prílohy III. EHSV zároveň odporúča rozšíriť rozsah pôsobnosti tohto bodu nad rámec bezpečnostných komponentov umelej inteligencie.

4.16Systémy umelej inteligencie na určovanie prístupu k vzdelaniu a hodnotenie študentov prinášajú množstvo rizík poškodenia zdravia, bezpečnosti a základných práv študentov. Napríklad nástroje na online sledovanie, ktoré údajne umožňujú zaznamenávať „podozrivé správanie“ a „náznaky podvádzania“ počas online skúšok pomocou všetkých druhov biometrie a sledovania správania, sú skutočne invazívne a nie sú podložené vedeckými dôkazmi.

4.17Využívanie systémov umelej inteligencie na monitorovanie, sledovanie a hodnotenie pracovníkov vyvoláva vážne obavy, pokiaľ ide o základné práva pracovníkov na spravodlivé a primerané pracovné podmienky, na informácie a konzultácie a na odôvodnené prepustenie. Pridanie týchto systémov do zoznamu vysokorizikových systémov umelej inteligencie pravdepodobne povedie ku konfliktu s vnútroštátnymi pracovnoprávnymi predpismi a kolektívnymi dohodami v oblasti (ne)spravodlivého prepúšťania, zdravých a bezpečných pracovných podmienok a informácií o pracovníkoch. EHSV žiada, aby sa zaručila plná účasť a informovanie pracovníkov a sociálnych partnerov v rozhodovacom procese o používaní umelej inteligencie na pracovisku a o jej vývoji, obstarávaní a zavádzaní.

4.18Požiadavka na „ľudský dohľad“ je obzvlášť dôležitá v pracovnoprávnych vzťahoch, keďže tento dohľad bude vykonávať pracovník alebo skupina pracovníkov. EHSV zdôrazňuje, že títo pracovníci by mali absolvovať odbornú prípravu o tom, ako túto úlohu vykonávať. Navyše, vzhľadom na predpoklad, že títo pracovníci nebudú povinní zohľadňovať výstupy zo systému umelej inteligencie alebo sa dokonca rozhodnú tento systém nepoužiť, mali by sa zaviesť opatrenia na zabránenie obavám z negatívnych dôsledkov (napríklad z preradenia na nižšiu pozíciu alebo prepustenia), ak prijmú takéto rozhodnutie.

4.19Miera uplatňovania systémov umelej inteligencie v súvislosti s prístupom a využívaním verejných služieb je širšia ako miera používania systémov umelej inteligencie v súvislosti s prístupom a využívaním základných súkromných služieb, v prípade ktorých sa za vysokorizikové považuje iba bodové hodnotenie kreditného rizika (úveruschopnosť) pomocou umelej inteligencie. EHSV odporúča rozšíriť rozsah pôsobnosti bodu 5 písm. b) prílohy III na systémy umelej inteligencie určené na hodnotenie oprávnenosti na základné súkromné služby.

4.20Umelá inteligencia, ktorú využívajú orgány presadzovania práva a ktorá sa využíva pri migrácii, azyle a riadení hraničných kontrol v záujme výkonu individuálnych (trestných alebo bezpečnostných) posúdení rizík predstavuje riziko narušenia prezumpcie neviny, práva na obhajobu a práva na azyl stanovených v Charte EÚ. Systémy umelej inteligencie vo všeobecnosti vyhľadávajú len súvislosti, ktoré sú založené na charakteristikách zistených v iných „prípadoch“. Podozrenie sa v týchto prípadoch nezakladá na skutočnom podozrení konkrétnej osoby z trestného činu alebo prečinu, ale iba na vlastnostiach, ktoré má táto osoba spoločné s odsúdenými zločincami (napríklad adresa, príjem, štátna príslušnosť, dlhy, zamestnanie, správanie, správanie priateľov a členov rodiny atď.).

4.21Využívanie umelej inteligencie pri výkone súdnych a demokratických procesov je obzvlášť citlivou témou a malo by sa k nej pristupovať s odlišnejším prístupom a väčším dohľadom, ako v súčasnosti. Samotné využívanie systémov na pomoc súdnemu orgánu pri skúmaní a výklade skutočností a právnych predpisov a pri uplatňovaní právnych predpisov na konkrétny súbor skutočností prehliada skutočnosť, že práca súdnych orgánov je oveľa viac, než len vyhľadávanie vzorcov v historických údajoch (čo je v podstate to, čo robia súčasné systémy umelej inteligencie). V texte sa tiež predpokladá, že tieto typy umelej inteligencie budú určené len na pomoc súdnictvu, pričom plne automatizované súdne rozhodovanie bude mimo rozsahu ich pôsobnosti. EHSV tiež vyjadruje poľutovanie nad tým, že sa v texte neuvádzajú systémy umelej inteligencie ani spôsoby ich využitia pri demokratických procesoch, ako sú voľby.

4.22EHSV odporúča doplniť ustanovenie zohľadňujúce situáciu, v ktorej je zrejmé, alebo sa na základe predchádzajúceho posúdenia zhody ukázalo, že týchto šesť požiadaviek nebude schopné dostatočne zmierniť riziko poškodenia zdravia, bezpečnosti a ľudských práv (napríklad zmenou článku 16 písm. g) aktu o umelej inteligencii).

Riadenie a vykonateľnosť

4.23EHSV víta štruktúru riadenia stanovenú aktom o umelej inteligencii. Odporúča rade pre umelú inteligenciu, aby uskutočňovala pravidelné povinné výmeny názorov so širšou spoločnosťou vrátane sociálnych partnerov a mimovládnych organizácií.

4.24EHSV dôrazne odporúča rozšíriť rozsah pôsobnosti aktu o umelej inteligencii spôsobom, aby zahŕňal aj „staršie systémy umelej inteligencie“, t. j. systémy, ktoré sa už používajú alebo boli nasadené pred nadobudnutím účinnosti aktu o umelej inteligencii, aby sa tak zabránilo zrýchlenému zavádzaniu akejkoľvek zakázanej, vysokorizikovej alebo stredne rizikovej umelej inteligencie v snahe vyhnúť sa dodržiavaniu požiadaviek. EHSV okrem toho dôrazne odporúča nevylúčiť z rozsahu pôsobnosti umelú inteligenciu, ktorá je súčasťou rozsiahlych informačných systémov v priestore slobody, bezpečnosti a spravodlivosti, ako sa uvádza v prílohe IX.

4.25Zložitosť činností v oblasti požiadaviek a zodpovednosti, ako aj sebahodnotenie, predstavujú riziko zjednodušovania tohto postupu na kontrolné zoznamy, v prípade ktorých by na splnenie požiadaviek stačilo jednoduché „áno“ alebo „nie“. EHSV odporúča, aby boli hodnotenia treťou stranou povinné pre všetky typy vysokorizikovej umelej inteligencie.

4.26EHSV odporúča, aby sa zaviedli primerané (finančné) podporné opatrenia a jednoduché a dostupné nástroje pre mikroorganizácie a malé organizácie, ako aj pre organizácie občianskej spoločnosti, aby boli schopné porozumieť účelu a významu aktu o umelej inteligencii a aby boli schopné splniť jeho požiadavky. Tieto opatrenia by mali ísť nad rámec podpory centier digitálnych inovácií a mali by spočívať v uľahčení prístupu k odborným znalostiam na vysokej úrovni týkajúcich sa aktu o umelej inteligencii, jeho požiadaviek, povinností, a najmä ich odôvodnenia.

4.27EHSV odporúča zahrnúť mechanizmus na vybavovanie sťažností a nápravu pre organizácie a občanov, ktorí utrpeli škodu v dôsledku akéhokoľvek systému, postupu alebo spôsobu využitia umelej inteligencie, na ktoré sa vzťahuje rozsah pôsobnosti aktu o umelej inteligencii.

V Bruseli 2. septembra 2021

Alain COHEUR

predseda sekcie pre jednotný trh, výrobu a spotrebu

_____________