Stanovisko Európskeho hospodárskeho a sociálneho výboru – Oznámenie Komisie Európskemu parlamentu, Rade, Európskemu hospodárskemu a sociálnemu výboru a Výboru regiónov – Budovanie dôvery v umelú inteligenciu sústredenú na človeka

[COM(2019) 168 final]

(2020/C 47/09)

Spravodajkyňa: Franca SALIS-MADINIER

Konzultácia	Európska komisia, 3.6.2019
Právny základ	článok 304 Zmluvy o fungovaní Európskej únie
Príslušná sekcia	sekcia pre jednotný trh, výrobu a spotrebu
Prijaté v sekcii	18.10.2019
Prijaté v pléne	30.10.2019
Plenárne zasadnutie č.	547
Výsledok hlasovania (za/proti/zdržalo sa)	198/1/4

1.   Závery a odporúčania

1.1.

Umelá inteligencia sama osebe nie je cieľom. Ide o nástroj, ktorý môže priniesť radikálne pozitívne zmeny, ale aj riziká. Preto je potrebné riadiť jej používanie.

1.2.

Komisia by mala prijať opatrenia týkajúce sa predikcie, prevencie a zákazu v súvislosti so zneužívaním umelej inteligencie a strojového učenia a lepšie riadiť uvádzanie výrobkov na účely zneužitia na trh.

1.3.

EÚ musí najmä podporovať vývoj systémov umelej inteligencie zameraných na konkrétne aplikácie s cieľom urýchliť klimatický prechod a digitálnu transformáciu.

1.4.

Je potrebné určiť výzvy, ktoré sa budú môcť riešiť prostredníctvom etických kódexov, samoregulácie a dobrovoľných záväzkov, ako aj výzvy, ktoré sa budú musieť riešiť prostredníctvom regulačných a legislatívnych prostriedkov spolu s monitorovacími mechanizmami a so sankciami v prípade ich nedodržiavania. V každom prípade musia byť systémy umelej inteligencie v súlade s platnými právnymi predpismi.

1.5.

Umelá inteligencia si vyžaduje prístup, ktorý zahŕňa tak technické, ako aj spoločenské a etické aspekty. EHSV víta ochotu EÚ vytvoriť prístup v oblasti umelej inteligencie sústredený na človeka a v súlade s hodnotami, na ktorých je založená: úcta k ľudskej dôstojnosti, sloboda, demokracia, rovnosť a nediskriminácia, právny štát a rešpektovanie ľudských práv.

1.6.

EHSV opäť zdôrazňuje (1) potrebu konzultácií a informovania pracovníkov a ich zástupcov pri zavádzaní systémov umelej inteligencie, ktoré by mohli priniesť zmeny v organizácii práce, dohľade nad ňou a jej kontrole, ako aj v systémoch hodnotenia a prijímania zamestnancov. Komisia musí podporovať sociálny dialóg s cieľom zapojiť pracovníkov do používania systémov umelej inteligencie.

1.7.

EHSV zdôrazňuje (2), že dôveryhodná umelá inteligencia znamená kontrolu človeka nad strojom a informovanie občanov, pokiaľ ide o používanie týchto systémov. Systémy umelej inteligencie musia byť vysvetliteľné alebo, ak to nie je možné, občanom a spotrebiteľom sa musia poskytnúť informácie o ich obmedzeniach a rizikách.

1.8.

EÚ sa musí zaoberať novovznikajúcimi rizikami (3) v oblasti zdravia a bezpečnosti pri práci. Musia sa stanoviť normy, aby sa zabránilo tomu, že autonómne systémy spôsobia ujmu alebo škodu ľuďom. Pracovníci musia byť vyškolení pracovať so strojom a odstaviť ho v prípade nutnosti.

1.9.

EHSV žiada, aby sa vypracoval spoľahlivý certifikačný systém založený na skúšobných postupoch, ktoré umožnia podnikom potvrdiť spoľahlivosť a bezpečnosť ich systémov umelej inteligencie. Transparentnosť, vysledovateľnosť a vysvetliteľnosť rozhodovacích procesov algoritmu sú technickým problémom, ktorý si vyžaduje podporu nástrojov EÚ, ako je program Horizont Európa.

1.10.

Úroveň dôvery občanov a spotrebiteľov v umelú inteligenciu bude závisieť od ochrany súkromia a údajov. Vlastníctvo údajov, ich kontrola a využívanie podnikmi a organizáciami sú otázky, ktoré ešte treba vo veľkej miere riešiť (najmä v súvislosti s internetom vecí). EHSV nabáda Komisiu, aby so zreteľom na technologický vývoj pravidelne revidovala všeobecné nariadenie o ochrane údajov (4) a súvisiace nariadenia.

1.11.

EHSV považuje za nevyhnutné zvážiť prínos systémov umelej inteligencie k zníženiu emisií skleníkových plynov, a to najmä v odvetviach priemyslu, dopravy, energetiky, stavebníctva a poľnohospodárstva. Žiada, aby sa navzájom prepojil prechod v oblasti klímy s prechodom na digitálnu technológiu.

1.12.

EHSV sa domnieva, že kontrola systémov umelej inteligencie nemusí postačovať na vymedzenie zodpovednosti a vybudovanie dôvery. EHSV ako prioritu odporúča, aby sa vymedzili jasné pravidlá prisudzovania zodpovednosti, v prípade pochybenia, subjektom s právnou subjektivitou: fyzickým alebo právnickým osobám. EHSV tiež vyzýva Komisiu, aby prioritne preskúmala základnú otázku poistiteľnosti systémov umelej inteligencie.

1.13.

EHSV navrhuje, aby sa pre spoločnosti, ktoré spĺňajú normy, vypracovalo „európske osvedčenie dôveryhodných podnikov v odvetví umelej inteligencie“ založené okrem iného na zozname posúdení, ktorý navrhla expertná skupina na vysokej úrovni pre umelú inteligenciu.

1.14.

Podporovaním príslušných činností v rámci G7, G20 a dvojstranných dialógov sa EÚ musí snažiť zabezpečiť, aby regulácia umelej inteligencie presahovala európske hranice. Musí sa dosiahnuť medzinárodná dohoda pre dôveryhodnú umelú inteligenciu, ktorá umožní vytvoriť medzinárodné normy a pravidelne overovať ich relevantnosť.

2.   Zhrnutie návrhu Komisie

2.1.

Toto oznámenie vychádza z práce skupiny na vysokej úrovni, ktorú Komisia ustanovila v júni 2018. Komisia v ňom identifikuje sedem kľúčových požiadaviek na dosiahnutie dôveryhodnej umelej inteligencie, ktoré sú uvedené v bode 4.

2.2.

Komisia spustila pilotnú fázu so zapojením širokého spektra zainteresovaných strán. Táto fáza sa zameriava najmä na zoznam posúdení, ktorý vypracovala skupina na vysokej úrovni pre každú z kľúčových požiadaviek. Začiatkom roka 2020 skupina na vysokej úrovni preskúma a zaktualizuje zoznam posúdení a Komisia v prípade potreby navrhne nové opatrenia.

2.3.

Komisia má v úmysle presadiť svoj prístup k oblasti umelej inteligencie na celosvetovej úrovni a bude naďalej zohrávať aktívnu úlohu, a to aj v rámci G7 a G20.

3.   Všeobecné pripomienky

3.1.

Umelá inteligencia sústredená na človeka potrebuje prístup, ktorý zahŕňa tak technické, ako aj spoločenské a etické aspekty. EHSV víta ochotu, ktorú prejavili inštitúcie EÚ, vytvoriť prístup v oblasti umelej inteligencie v súlade s hodnotami, na ktorých je Únia založená, ako sú: úcta k ľudskej dôstojnosti, sloboda, demokracia, rovnosť a nediskriminácia, právny štát a rešpektovania ľudských práv. Ako zdôrazňuje Komisia (5), umelá inteligencia sama osebe nie je cieľom, ale je to nástroj, ktorý môže priniesť radikálne pozitívne zmeny. Ako každý nástroj vytvára zároveň príležitosti a riziká. To je dôvod, prečo musí EÚ riadiť jej používanie a jasne vymedziť zodpovednosti.

3.2.

Dôvera v umelú inteligenciu sústredenú na človeka vzíde z potvrdenia hodnôt a zásad, ustáleného regulačného rámca a etických usmernení, ktoré obsahujú kľúčové požiadavky.

3.3.

Spomedzi mnohých výziev, ktoré prináša umelá inteligencia, je potrebné spolu so všetkými zainteresovanými stranami určiť tie výzvy, ktoré sa budú musieť riešiť prostredníctvom regulačných a legislatívnych prostriedkov spolu s regulačnými monitorovacími mechanizmami, so sankciami v prípade ich nedodržiavania, a tie, ktoré sa budú musieť riešiť prostredníctvom etických kódexov, samoregulácie a dobrovoľných záväzkov. EHSV teší, že Komisia prevzala zásady, ktorými sa EHSV pôvodne zaoberal, vyjadruje však poľutovanie nad tým, že v tejto fáze nenavrhuje žiadne konkrétne opatrenia na riešenie oprávnených obáv v oblasti práv spotrebiteľov, bezpečnosti systémov a zodpovednosti.

3.4.

Systémy umelej inteligencie musia byť v súlade s existujúcim regulačným rámcom, najmä pokiaľ ide o ochranu osobných údajov, zodpovednosť za výrobky, ochranu spotrebiteľa, nediskrimináciu, odborné kvalifikácie, ako aj informovanie pracovníkov a konzultácie s nimi na pracovisku. Malo by sa zabezpečiť, aby boli tieto právne predpisy prispôsobené novým výzvam v súvislosti s digitalizáciou a umelou inteligenciou.

3.5.

Ako konštatuje Komisia, „mali by sa zaviesť postupy na objasnenie a posúdenie potenciálnych rizík spojených s používaním systémov umelej inteligencie v rôznych oblastiach použitia.“ (6) EHSV prikladá najväčší význam budúcim podmienkam tohto posúdenia, ako aj vytvoreniu ukazovateľov, ktoré by sa mohli zohľadniť pri jeho vykonávaní. Návrh zoznamu hodnotení, ktorý vypracovala skupina na vysokej úrovni, je východiskom pri vykonávaní takýchto postupov.

3.6.

Týka sa to aj otázky spravodlivého rozdelenia očakávanej pridanej hodnoty systémov umelej inteligencie. EHSV sa domnieva, že pozitívne zmeny, ktoré prináša umelá inteligencia, pokiaľ ide o hospodársky rozvoj, udržateľnosť výrobných a spotrebných procesov (najmä v energetike), zlepšenie využívania zdrojov, musia byť prospešné pre všetky krajiny a všetkých ich občanov.

4.   Konkrétne pripomienky

4.1.   Ľudský faktor a dohľad

4.1.1.

Komisia chce zabezpečiť, aby využívanie systémov umelej inteligencie nemohlo v žiadnom prípade ohroziť nezávislosť ľudí alebo spôsobiť nepriaznivé účinky. EHSV súhlasí s týmto prístupom ľudskej kontroly nad strojom, ako to už uviedol vo svojich predchádzajúcich stanoviskách.

4.1.2.

To si tiež vyžaduje, aby boli občania riadne informovaní o používaní týchto systémov, aby tieto systémy boli vysvetliteľné alebo, ak to nie je možné (napr. v prípade hĺbkového učenia), aby sa používateľovi poskytli informácie o obmedzeniach a rizikách systému. V každom prípade musí byť občanom ponechaná sloboda rozhodnúť sa inak než systém umelej inteligencie.

4.1.3.

V podnikoch a verejných správach musia byť pracovníci a ich zástupcovia riadne informovaní a konzultovaní pri zavádzaní systémov umelej inteligencie, ktoré by mohli zmeniť organizáciu práce a mať na nich vplyv, pokiaľ ide o monitorovanie, dohľad, hodnotenie a prijímanie zamestnancov. Komisia musí podporovať sociálny dialóg s cieľom zapojiť pracovníkov do používania systémov umelej inteligencie.

4.1.4.

Pokiaľ ide o ľudské zdroje, osobitnú pozornosť treba venovať rizikám zneužívania systémov umelej inteligencie, ako je napríklad neobmedzený dohľad, zhromažďovanie osobných údajov vrátane zdravotných, výmena týchto údajov s tretími stranami, ako aj novovznikajúcim rizikám, pokiaľ ide o zdravie a bezpečnosť na pracovisku (7). Musia sa stanoviť jasné normy, aby sa zabránilo tomu, že spolupráca medzi človekom a strojom škodí ľuďom. Norma vytvorená Medzinárodnou organizáciou pre normalizáciu (ISO) pre kolaboratívne roboty (8), ktorá je určená výrobcom, integrátorom a používateľom, poskytuje usmernenia pre koncepciu a organizáciu pracovného priestoru spolupráce a pre zníženie rizík, ktorým môžu byť osoby vystavené. Pracovníci musia byť vyškolení používať umelú inteligenciu a robotiku, pracovať s nimi a najmä môcť ich odstaviť v núdzovej situácii (zásada „núdzového zastavenia“).

4.2.   Technická odolnosť a bezpečnosť

4.2.1.

EHSV žiada, aby sa zaviedli európske bezpečnostné normy a aby sa vypracoval spoľahlivý certifikačný systém založený na skúšobných postupoch, ktoré by umožnili podnikom potvrdiť spoľahlivosť ich systémov umelej inteligencie. EHSV chce tiež zdôrazniť význam otázky poistiteľnosti systémov umelej inteligencie.

4.2.2.

Komisia sa v malej miere zaoberá predikciou, prevenciou a zákazom v súvislosti so zneužívaním umelej inteligencie a strojového učenia, pred ktorým varujú mnohí výskumní pracovníci (9). Ich odporúčania by sa mali zohľadniť, a to najmä tie, ktoré sa týkajú dvojitého využívania týchto technológií, čo sa môže týkať digitálnej bezpečnosti (rozšírenie kybernetických útokov, využívanie zraniteľnosti ľudí a umelej inteligencie, tzv. data poisoning), fyzickej bezpečnosti (hekovanie autonómnych systémov vrátane autonómnych vozidiel, drónov, automatických zbraní) alebo politickej bezpečnosti (masové zhromažďovanie osobných údajov, cielená propaganda, videomanipulácia atď.) Výskumní pracovníci, inžinieri a verejné orgány musia úzko spolupracovať s cieľom predísť týmto rizikám. Experti a ďalšie zainteresované strany, ako sú používatelia a spotrebitelia, sa musia zapojiť do diskusií týkajúcich sa týchto výziev.

4.3.   Riadenie súkromia a údajov

4.3.1.

Komisia sa zasadzuje za to, že prístup k údajom „sa musí primerane riadiť a kontrolovať“ (10). EHSV sa domnieva, že treba presiahnuť rámec všeobecných vyhlásení. Miera dôvery, ktorú občania udelia systémom umelej inteligencie, tiež určí jej vývoj. Otázky vlastníctva údajov, ich kontroly a využívania podnikmi a organizáciami ešte treba vo veľkej miere riešiť. Množstvo a druh údajov prenesených napríklad automobilmi výrobcom automobilov sú ohromujúce (11). Napriek koncepcii privacy by design (ochrana súkromia už v štádiu návrhu), s ktorou musia byť pripojené predmety v súlade podľa všeobecného nariadenia o ochrane údajov, konštatujeme, že spotrebiteľ má len veľmi málo informácií alebo žiadne informácie v tejto súvislosti a nemá žiadne prostriedky na kontrolu týchto údajov. EHSV preto nalieha na Komisiu, aby so zreteľom na technologický vývoj revidovala všeobecné nariadenie o ochrane údajov a súvisiace nariadenia (12).

4.4.   Transparentnosť

4.4.1.

EHSV sa domnieva, že vysvetliteľnosť rozhodovacích procesov algoritmu je zásadná pre pochopenie nie mechanizmov ako takých, ale príslušnej logiky týchto procesov, ako aj spôsobu, akým sú tieto procesy ovplyvňované systémami umelej inteligencie. Rozvoj štandardných skúšobných postupov pre systémy strojového učenia zostáva technickým problémom, ktorý by mal byť podporovaný nástrojmi EÚ, ako je program Horizont Európa.

4.4.2.

EHSV súhlasí s prístupom Komisie, podľa ktorého musia byť systémy umelej inteligencie identifikovateľné ako také, „čím by sa zabezpečilo, aby používatelia vždy vedeli, že komunikujú so systémom umelej inteligencie“ (13), a to aj v rámci vzťahu pacient/zdravotník a zdravotných služieb súvisiacich so zdravím a blahom občanov. EHSV tiež zdôrazňuje skutočnosť, že používatelia alebo spotrebitelia musia mať možnosť získať informácie o službách skutočne vykonávaných ľuďmi. Mnohé systémy umelej inteligencie v skutočnosti zahŕňajú veľké množstvo ľudskej práce, ktorá je často skrytá pred koncovými používateľmi (14). Za touto otázkou sa skrýva výzva v podobe nedostatku transparentnosti voči používateľom a spotrebiteľom služieb a tiež v podobe určitej formy využívania skrytej a neuznanej práce.

4.4.3.

EHSV sa okrem toho domnieva, že spotrebitelia musia byť vždy informovaní o integrácii systémov umelej inteligencie do výrobkov, ktoré kupujú, a musia mať vždy prístup k svojim údajom a ich kontrole.

4.5.   Rozmanitosť, nediskriminácia a spravodlivosť

4.5.1.

Riziká týkajúce sa diskriminácie existujú v niektorých aplikáciách umelej inteligencie, ktoré umožňujú vytváranie profilov občanov, používateľov a spotrebiteľov (napríklad na prijímanie do zamestnania, prenájom nehnuteľností, určité osobné služby). EÚ prijala súbor právnych predpisov týkajúcich sa rovnakého zaobchádzania a nediskriminácie (15). Systémy umelej inteligencie musia byť s nimi v súlade. Tieto právne predpisy sa však tiež musia prispôsobiť a v prípade potreby posilniť (a to aj na úrovni kontroly ich dodržiavania), aby mohli reagovať na nové skutočnosti. Existuje skutočné riziko, že algoritmické profilovanie sa stane novým silným nástrojom diskriminácie. EÚ musí zabrániť tomuto riziku.

4.5.2.

V smernici o boji proti rasizmu (16) a smernici o rovnakom zaobchádzaní medzi mužmi a ženami mimo pracovnej oblasti (17) sa stanovuje vytvorenie osobitných a kompetentných orgánov na podporu rovnosti medzi mužmi a ženami. EHSV žiada, aby tieto orgány hrali aktívnu úlohu v monitorovaní a kontrole systémov umelej inteligencie vzhľadom na riziká priamej alebo nepriamej diskriminácie.

4.6.   Spoločenský a environmentálny blahobyt

4.6.1.

Komisia neupresňuje, ako prepojiť klimatický prechod a digitálnu transformáciu, najmä pri používaní systémov umelej inteligencie. Je nevyhnutné zvážiť prínos systémov umelej inteligencie k zníženiu emisií skleníkových plynov, a to najmä v odvetviach priemyslu, dopravy, energetiky, stavebníctva a poľnohospodárstva.

4.6.2.

Komisia tvrdí, že systémy umelej inteligencie sa môžu využiť na posilnenie spoločenských zručností, môžu však prispieť aj k ich zhoršeniu. EHSV zastáva názor, že EÚ musí lepšie posudzovať niektoré spoločenské výzvy. Štúdie napríklad poukázali na to, že niektoré aplikácie zahŕňajúce systémy umelej inteligencie sú navrhované tak, aby používatelia online služieb zostali čo najdlhšie pripojení (sociálne siete, hry, videá atď.). Cieľom je zhromaždiť čo najviac údajov o ich správaní, na čo sa využívajú stratégie od nekonečného obnovovania algoritmických odporúčaní po upomienky a oznámenia cez hry atď. Skúmal sa vplyv nadmerného pripojenia a vyžadovania pozornosti na deti (18). Výsledky ukázali zvýšenie úzkosti a agresivity, nedostatok spánku a vplyv na vzdelávanie, spoločenské vzťahy, zdravie a blaho. V záujme vybudovania dôveryhodnej umelej inteligencie musí EÚ zohľadniť takéto vplyvy a predchádzať im.

4.6.3.

Jeden z faktorov dobrých pracovných podmienok je spojený s pocitom bezpečnosti. Účinky digitalizácie však môžu tento pocit narušiť a byť zdrojom stresu (19). Je preto vhodné pripraviť stratégie na predvídanie zmien (pred tým, než dôjde k prípadnej reštrukturalizácii) a ďalšiu odbornú prípravu pre všetkých pracovníkov. To si vyžaduje v rámci spoločností kvalitný sociálny dialóg medzi zamestnávateľmi a zástupcami pracovníkov, ktorý umožní najmä inkluzívne zavádzanie nových technológií, predovšetkým umelej inteligencie a robotiky. S cieľom posilniť dôveru medzi vedením a pracovníkmi musia byť systémy umelej inteligencie týkajúce sa riadenia, hodnotení, kontroly pracovníkov vysvetliteľné, ich parametre známe a ich fungovanie transparentné.

4.7.   Zodpovednosť

4.7.1.

Rozhodnutia prijaté systémami strojového učenia nemajú jednoduché vysvetlenie a okrem toho sa pravidelne aktualizujú. EHSV sa domnieva, že kontrola systémov umelej inteligencie nemusí postačovať na vymedzenie zodpovednosti a vybudovanie dôvery. Preto odporúča, aby sa vymedzili pravidlá prisudzovania zodpovednosti, v prípade pochybenia, subjektom s právnou subjektivitou: fyzickým alebo právnickým osobám. EHSV odporúča, aby sa viac spoliehalo na dôveryhodné podniky alebo odborníkov než na algoritmy, a navrhuje, aby sa pre spoločnosti, ktoré spĺňajú všetky normy, vypracovalo „európske osvedčenie dôveryhodných podnikov v odvetví umelej inteligencie“ založené okrem iného na zozname posúdení, ktorý navrhla skupina na vysokej úrovni.

4.7.2.

V smernici o zodpovednosti za výrobky (20) sa stanovuje zásada zodpovednosti bez zavinenia, ktorá sa vzťahuje na európskych výrobcov: ak chybný výrobok spôsobí škodu spotrebiteľovi, výrobca môže niesť zodpovednosť aj bez pochybenia alebo nedbanlivosti zo svojej strany. Čoraz rozsiahlejšie navrhovanie, zavádzanie a používanie systémov umelej inteligencie si vyžaduje, aby EÚ prijala prispôsobené pravidlá týkajúce sa zodpovednosti v situáciách, v ktorých môžu byť produkty s digitálnym obsahom a služby poskytované spotrebiteľom nebezpečné alebo škodlivé. Spotrebitelia musia mať možnosť prístupu k spravodlivosti v prípade ujmy spôsobenej systémom umelej inteligencie.

5.   Potreba regulácie mimo Európy

5.1.

Na celosvetovej úrovni musí regulácia umelej inteligencie prekročiť európske hranice. Európa by mala podporiť rozsiahlu dohodu o umelej inteligencii v rámci G7 a G20 a pokračovať v dvojstranných dialógoch, aby sa väčšina krajín mohla zúčastňovať na procesoch normalizácie umelej inteligencie a pravidelne kontrolovať ich relevantnosť.

---

(1)  Ú. v. EÚ C 440, 6.12.2018, s. 1.

(2)  Ú. v. EÚ C 288, 31.8.2017, s. 1, Ú. v. EÚ C 440, 6.12.2018, s. 1.

(3)  https://osha.europa.eu/sk/emerging-risks

(4)  Nariadenie Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov) (Ú. v. EÚ L 119, 4.5.2016, s. 1).

(5)  COM(2019) 168 final.

(6)  COM(2019) 168 final, s. 5.

(7)  Pozri najmä OSH and the future of work: benefits and risks of artificial intelligence tools in workplaces.

(8)  ISO/TS 15066, 2016.

(9)  Pozri správu The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, február 2018.

(10)  COM(2019) 168 final, s. 6.

(11)  Your car knows when you gain weight, The New York Times (medzinárodné vydanie), 22. 5. 2019.

(12)  Ú. v. EÚ C 190, 5.6. 2019, s. 17.

(13)  COM(2019) 168 final, s. 6.

(14)  Pozri napríklad: A white-collar sweatshop: Google Assistant contractors allege wage theft, The Guardian, 29. 5. 2019, a Bot technology impressive, except when it’s not the bot, The New York Times (medzinárodné vydanie), 24. 5. 2019.

(15)  Ú. v. ES L 180, 19.7.2000, s. 22, Ú. v. ES L 303, 2.12.2000, s. 16, Ú. v. EÚ L 373, 21.12.2004, s. 37, Ú. v. EÚ L 204, 26.7.2006, s. 23.

(16)  Smernica Rady 2000/43/ES z 29. júna 2000, ktorou sa zavádza zásada rovnakého zaobchádzania s osobami bez ohľadu na rasový alebo etnický pôvod (Ú. v. ES L 180, 19.7.2000, s. 22).

(17)  Smernica Rady 2004/113/ES z 13. decembra 2004 o vykonávaní zásady rovnakého zaobchádzania medzi mužmi a ženami v prístupe k tovaru a službám a k ich poskytovaniu (Ú. v. EÚ L 373, 21.12.2004, s. 37).

(18)  Pozri najmä Kidron, Evans, Afia (2018), Disrupted Childhood – The Cost of Persuasive Design, 5Rights Foundation.

(19)  Správa skupiny na vysokej úrovni o vplyve digitálnej transformácie na trh práce EÚ, 2019.

(20)  Smernica Rady z 25. júla 1985 o aproximácii zákonov, iných právnych predpisov a správnych opatrení členských štátov o zodpovednosti za chybné výrobky (Ú. v. ES L 210, 7.8.1985, s. 29).