(1)

Účelom tohto nariadenia je zlepšiť fungovanie vnútorného trhu stanovením jednotného právneho rámca, najmä pokiaľ ide o vývoj , uvádzanie na trh a  používanie umelej inteligencie v  súlade s hodnotami Únie. Toto nariadenie prihliada na viacero naliehavých dôvodov verejného záujmu , ako napr. vysoká úroveň ochrany zdravia , bezpečnosti a  základných práv, a zabezpečuje voľný pohyb tovaru a služieb založených na umelej inteligencii cez hranice, čím bráni členským štátom ukladať obmedzenia na vývoj, uvádzanie na trh a používanie systémov umelej inteligencie, pokiaľ sa to týmto nariadením výslovne nepovolí.

(1)

Účelom tohto nariadenia je podporovať zavádzanie dôveryhodnej umelej inteligencie sústredenej na človeka a zabezpečiť vysokú úroveň ochrany zdravia , bezpečnosti, základných práv, demokracie a právneho štátu a  životného prostredia pred škodlivými účinkami systémov umelej inteligencie v  Únii a zároveň podporovať inovácie a zlepšiť fungovanie vnútorného trhu. Týmto nariadením sa stanovuje jednotný právny rámec , najmä pokiaľ ide o vývoj, uvádzanie na trh , uvádzanie do prevádzky a  používanie umelej inteligencie v súlade s hodnotami Únie a zabezpečuje voľný pohyb tovaru a služieb založených na umelej inteligencii cez hranice, čím bráni členským štátom ukladať obmedzenia na vývoj, uvádzanie na trh a používanie systémov umelej inteligencie (systémov AI) , pokiaľ sa to týmto nariadením výslovne nepovolí. Niektoré systémy AI môžu mať vplyv aj na demokraciu, právny štát a životné prostredie. Tieto obavy sa osobitne riešia v kritických odvetviach a prípadoch použitia uvedených v prílohách k tomuto nariadeniu.

(1a)

Toto nariadenie by malo zachovať hodnoty Únie, ktoré uľahčujú rozdeľovanie prínosov umelej inteligencie v spoločnosti, chránia jednotlivcov, spoločnosti, demokraciu a právny štát a životné prostredie pred rizikami a zároveň podporujú inovácie a zamestnanosť a robia z Únie lídra v tejto oblasti.

(2)

Systémy umelej inteligencie ( systémy UI) možno ľahko zaviesť vo viacerých odvetviach hospodárstva a spoločnosti, a to aj cezhranične, a môžu sa pohybovať po celej Únii. Niektoré členské štáty už zvažujú prijatie vnútroštátnych pravidiel na zabezpečenie toho, aby bola umelá inteligencia bezpečná a aby sa vyvíjala a používala v súlade s povinnosťami týkajúcimi sa základných práv. Rozdielne vnútroštátne pravidlá môžu viesť k fragmentácii vnútorného trhu a znížiť právnu istotu pre prevádzkovateľov, ktorí vyvíjajú alebo používajú systémy umelej inteligencie. Mala by sa preto zabezpečiť konzistentná a vysoká úroveň ochrany v celej Únii, pričom by sa malo zabrániť rozdielom, ktoré bránia voľnému pohybu systémov umelej inteligencie a súvisiacich výrobkov a služieb v rámci vnútorného trhu, a to stanovením jednotných povinností pre prevádzkovateľov a zaručením jednotnej ochrany naliehavých dôvodov verejného záujmu a práv osôb na celom vnútornom trhu na základe článku 114 Zmluvy o fungovaní Európskej únie (ZFEÚ). Keďže toto nariadenie obsahuje osobitné pravidlá ochrany jednotlivcov v súvislosti so spracúvaním osobných údajov, pokiaľ ide o obmedzenia používania systémov umelej inteligencie na diaľkovú biometrickú identifikáciu v reálnom čase vo verejne dostupných priestoroch na účely presadzovania práva, je vhodné, aby sa tieto osobitné pravidlá uvedené v tomto nariadení zakladali na článku 16 ZFEÚ. Pokiaľ ide o tieto osobitné pravidlá a použitie článku 16 ZFEÚ, je vhodné poradiť sa s Európskym výborom pre ochranu údajov.

(2)

Systémy UI možno ľahko zaviesť vo viacerých odvetviach hospodárstva a spoločnosti, a to aj cezhranične, a môžu sa pohybovať po celej Únii. Niektoré členské štáty už zvažujú prijatie vnútroštátnych pravidiel na zabezpečenie toho, aby bola umelá inteligencia dôveryhodná a bezpečná a aby sa vyvíjala a používala v súlade s povinnosťami týkajúcimi sa základných práv. Rozdielne vnútroštátne pravidlá môžu viesť k fragmentácii vnútorného trhu a znížiť právnu istotu pre prevádzkovateľov, ktorí vyvíjajú alebo používajú systémy umelej inteligencie. Mala by sa preto zabezpečiť konzistentná a vysoká úroveň ochrany v celej Únii, aby sa dosiahla dôveryhodná umelá inteligencia, pričom by sa malo zabrániť rozdielom, ktoré bránia voľnému pohybu , inováciám, nasadzovaniu a zavádzaniu systémov umelej inteligencie a súvisiacich výrobkov a služieb v rámci vnútorného trhu, a to stanovením jednotných povinností pre prevádzkovateľov a zaručením jednotnej ochrany naliehavých dôvodov verejného záujmu a práv osôb na celom vnútornom trhu na základe článku 114 Zmluvy o fungovaní Európskej únie (ZFEÚ).

(2a)

Keďže umelá inteligencia často závisí od spracovania veľkého množstva údajov a mnohé systémy a aplikácie AI od spracúvania osobných údajov, je vhodné založiť toto nariadenie na článku 16 ZFEÚ, ktorý zakotvuje právo na ochranu fyzických osôb pri spracúvaní osobných údajov a ustanovuje prijatie pravidiel ochrany jednotlivcov v súvislosti so spracúvaním osobných údajov.

(2b)

Základné právo na ochranu osobných údajov je zaručené najmä nariadeniami (EÚ) 2016/679 a (EÚ) 2018/1725 a smernicou 2016/680. Smernicou 2002/58/ES sa okrem toho chráni súkromný život a dôvernosť komunikácie a stanovujú sa podmienky uchovávania osobných a iných ako osobných údajov v koncovom zariadení a prístupu k nim. Uvedené právne akty poskytujú základ pre udržateľné a zodpovedné spracúvanie údajov vrátane prípadov, keď súbory údajov obsahujú kombináciu osobných a iných ako osobných údajov. Cieľom tohto nariadenia nie je mať vplyv na uplatňovanie existujúcich právnych predpisov Únie upravujúcich spracúvanie osobných údajov vrátane úloh a právomocí nezávislých dozorných orgánov zodpovedných za monitorovanie súladu s týmito nástrojmi. Týmto nariadením nie sú dotknuté základné práva na súkromný život a ochranu osobných údajov stanovené v právnych predpisoch Únie o ochrane údajov a súkromia a zakotvené v Charte základných práv Európskej únie (ďalej len „charta“).

(2c)

Systémy umelej inteligencie v Únii podliehajú príslušným právnym predpisom o bezpečnosti výrobkov, ktoré poskytujú rámec na ochranu spotrebiteľov pred nebezpečnými výrobkami vo všeobecnosti, a takéto právne predpisy by sa mali naďalej uplatňovať. Týmto nariadením nie sú dotknuté ani pravidlá stanovené v iných právnych aktoch Únie týkajúcich sa ochrany spotrebiteľa a bezpečnosti výrobkov vrátane nariadenia (EÚ) 2017/2394, nariadenia (EÚ) 2019/1020 a smernice 2001/95/ES o všeobecnej bezpečnosti výrobkov a smernice 2013/11/EÚ.

(2d)

V súlade s článkom 114 ods. 2 ZFEÚ toto nariadenie dopĺňa a nemalo by narúšať práva a záujmy zamestnaných osôb. Týmto nariadením by preto nemalo byť dotknuté právo Únie v oblasti sociálnej politiky a vnútroštátne pracovné právo a prax, t. j. akékoľvek právne alebo zmluvné ustanovenia týkajúce sa podmienok zamestnávania, pracovných podmienok vrátane bezpečnosti a ochrany zdravia pri práci a vzťahov medzi zamestnávateľmi a pracovníkmi, vrátane informovania, konzultácií a účasti. Týmto nariadením by nemal byť nijakým spôsobom ovplyvnený výkon základných práv uznaných v členských štátoch alebo na úrovni Únie vrátane práva na štrajk alebo slobody štrajkovať alebo prijímať iné opatrenia patriace do rozsahu pôsobnosti systémov pracovnoprávnych vzťahov v členských štátoch v súlade s vnútroštátnymi právnymi predpismi a/alebo praxou. Touto smernicou by tiež nemali byť dotknuté postupy zosúlaďovania, právo vyjednávať, uzatvárať a presadzovať kolektívne zmluvy alebo právo na kolektívne akcie v súlade s vnútroštátnym právom a/alebo praxou. V žiadnom prípade by to nemalo brániť Komisii, aby navrhla osobitné právne predpisy o právach a slobodách pracovníkov, ktorých sa systémy umelej inteligencie týkajú.

(2e)

Týmto nariadením by nemali byť dotknuté ustanovenia zamerané na zlepšenie pracovných podmienok pri práci na platforme stanovené v smernici … [COD 2021/414/ES].

(2f)

Toto nariadenie by malo pomôcť pri podpore výskumu a inovácií a nemalo by oslabovať výskumnú a vývojovú činnosť, pričom by malo rešpektovať slobodu vedeckého výskumu. Preto je potrebné vylúčiť z rozsahu jeho pôsobnosti systémy umelej inteligencie osobitne vyvinuté výlučne na účely vedeckého výskumu a vývoja a zabezpečiť, aby nariadenie inak neovplyvňovalo vedecký výskum a činnosť v oblasti vývoja systémov umelej inteligencie. Za každých okolností by sa všetky výskumné a vývojové činnosti mali vykonávať v súlade s chartou, právom Únie, ako aj vnútroštátnym právom;

(3)

Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže prispieť k širokému spektru hospodárskych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach. Zlepšením predpovedí, optimalizáciou operácií a prideľovania zdrojov a personalizáciou digitálnych riešení, ktoré sú k dispozícii jednotlivcom a organizáciám, môže využívanie umelej inteligencie poskytnúť podnikom kľúčové konkurenčné výhody a podporiť sociálne a environmentálne priaznivé výsledky, napríklad v oblasti zdravotnej starostlivosti, poľnohospodárstva, vzdelávania a odbornej prípravy, riadenia infraštruktúry, energetiky, dopravy a logistiky, verejných služieb, bezpečnostnej ochrany, spravodlivosti, efektívneho využívania zdrojov a energie a zmierňovania zmeny klímy a adaptácie na ňu.

(3)

Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá môže a už prispieva k širokému spektru hospodárskych , environmentálnych a spoločenských výhod vo všetkých priemyselných odvetviach a spoločenských činnostiach , ak je vyvinutá v súlade s príslušnými všeobecnými zásadami vyplývajúcimi z charty a hodnôt, na ktorých je Únia založená . Zlepšením predpovedí, optimalizáciou operácií a prideľovania zdrojov a personalizáciou digitálnych riešení, ktoré sú k dispozícii jednotlivcom a organizáciám, môže využívanie umelej inteligencie poskytnúť podnikom kľúčové konkurenčné výhody a podporiť sociálne a environmentálne priaznivé výsledky, napríklad v oblasti zdravotnej starostlivosti, poľnohospodárstva, bezpečnosti potravín, vzdelávania a odbornej prípravy, médií, športu a kultúry, riadenia infraštruktúry, energetiky, dopravy a logistiky, krízového riadenia, verejných služieb, bezpečnostnej ochrany, spravodlivosti, efektívneho využívania zdrojov a energie , monitorovania životného prostredia, zachovania a obnovy biodiverzity a ekosystémov a zmierňovania zmeny klímy a adaptácie na ňu.

(3a)

S cieľom prispieť k dosiahnutiu cieľov uhlíkovej neutrality by sa európske spoločnosti mali snažiť využiť všetok dostupný technický pokrok, ktorý môže pomôcť pri realizácii tohto cieľa. Umelá inteligencia je technológia, ktorá má potenciál na spracovanie neustále rastúceho množstva údajov, ktoré vznikajú v priebehu priemyselných, environmentálnych, zdravotných a iných procesov. S cieľom uľahčiť investície do analytických a optimalizačných nástrojov založených na umelej inteligencii by toto nariadenie malo poskytnúť predvídateľné a primerané prostredie pre priemyselné riešenia s nízkym rizikom.

(4)

Umelá inteligencia môže zároveň v závislosti od okolností týkajúcich sa jej konkrétneho uplatňovania a používania vytvárať riziká a poškodzovať verejné záujmy a práva, ktoré sú chránené právom Únie. Toto poškodenie môže byť hmotné aj nehmotné.

(4)

Umelá inteligencia môže zároveň v závislosti od okolností týkajúcich sa jej konkrétneho uplatňovania a používania , ako aj úrovne technologického vývoja, vytvárať riziká a poškodzovať verejné alebo súkromné záujmy a  základné práva fyzických osôb , ktoré sú chránené právom Únie. Toto poškodenie môže byť hmotné aj nehmotné vrátane fyzickej, psychickej, spoločenskej alebo ekonomickej ujmy .

(4a)

Vzhľadom na veľký vplyv, ktorý umelá inteligencia môže mať na spoločnosť, a na potrebu budovať dôveru je nevyhnutné, aby sa umelá inteligencia a jej regulačný rámec rozvíjali v súlade s hodnotami Únie zakotvenými v článku 2 ZEÚ, základnými právami a slobodami zakotvenými v zmluvách, charte a medzinárodnom práve v oblasti ľudských práv. Nevyhnutnou podmienkou je, aby umelá inteligencia bola technológiou zameranou na človeka. Nemala by nahrádzať ľudskú autonómiu ani predpokladať stratu osobnej slobody a mala by v prvom rade slúžiť potrebám spoločnosti a spoločnému blahu. Mali by sa poskytnúť záruky, ktoré zabezpečia vývoj a používanie umelej inteligencie riadiacej sa etickými zásadami a rešpektujúcej hodnoty Únie a chartu.

(5)

Na podporu rozvoja, využívania a zavádzania umelej inteligencie na vnútornom trhu je preto potrebný právny rámec Únie, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorý zároveň spĺňa vysokú úroveň ochrany verejných záujmov, ako sú zdravie a bezpečnosť, a ochrany základných práv, ako sú uznané a chránené právom Únie. Na dosiahnutie tohto cieľa by sa mali stanoviť pravidlá upravujúce uvádzanie určitých systémov umelej inteligencie na trh a  do prevádzky, čím sa zabezpečí hladké fungovanie vnútorného trhu a umožní sa, aby tieto systémy využívali zásadu voľného pohybu tovaru a služieb. Stanovením uvedených pravidiel v tomto nariadení sa podporí cieľ Únie stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie, ako ho vyjadrila Európska rada (33), a zabezpečí ochrana etických zásad, ako to osobitne požaduje Európsky parlament (34).

(5)

Na podporu rozvoja, využívania a zavádzania umelej inteligencie na vnútornom trhu je preto potrebný právny rámec Únie, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorý zároveň spĺňa vysokú úroveň ochrany verejných záujmov, ako sú zdravie a bezpečnosť, ochrana základných práv, demokracia a právny štát a životné prostredie, ako sú uznané a chránené právom Únie. Na dosiahnutie tohto cieľa by sa mali stanoviť pravidlá upravujúce uvádzanie určitých systémov umelej inteligencie na trh, do prevádzky a používania , čím sa zabezpečí hladké fungovanie vnútorného trhu a umožní sa, aby tieto systémy využívali zásadu voľného pohybu tovaru a služieb. Tieto pravidlá by mali byť jasné a spoľahlivé pri ochrane základných práv, mali by podporovať nové inovačné riešenia a umožňovať vytvorenie európskeho ekosystému verejných a súkromných aktérov vytvárajúceho systémy umelej inteligencie v súlade s hodnotami Únie. Stanovením uvedených pravidiel , ako aj opatrení na podporu inovácie s osobitným dôrazom na MSP a startupy v tomto nariadení sa podporí cieľ presadzovať umelú inteligenciu vytvorenú v Európe, cieľ Únie stať sa svetovým lídrom v rozvoji bezpečnej, dôveryhodnej a etickej umelej inteligencie, ako ho vyjadrila Európska rada (33), a zabezpečí ochrana etických zásad, ako to osobitne požaduje Európsky parlament (34).

(5a)

Okrem toho musí Únia v záujme podpory rozvoja systémov UI v súlade s hodnotami Únie riešiť hlavné nedostatky a prekážky, ktoré blokujú potenciál digitálnej transformácie, vrátane nedostatku digitálne kvalifikovaných pracovníkov, obáv týkajúcich sa kybernetickej bezpečnosti, nedostatku investícií a prístupu k investíciám a existujúcich a potenciálnych rozdielov medzi veľkými spoločnosťami, MSP a startupmi. Osobitná pozornosť by sa mala venovať tomu, aby sa výhody umelej inteligencie a inovácií v oblasti nových technológií prejavili vo všetkých regiónoch Únie a aby sa dostatočné investície a zdroje poskytli najmä tým regiónom, ktoré môžu v niektorých digitálnych ukazovateľoch zaostávať.

(6)

Pojem systém umelej inteligencie by sa mal jasne vymedziť s cieľom zabezpečiť právnu istotu a zároveň poskytnúť flexibilitu na prispôsobenie sa budúcemu technologickému vývoju. Vymedzenie pojmu by malo vychádzať z kľúčových funkčných charakteristík softvéru, najmä zo schopnosti generovať pre daný súbor človekom stanovených cieľov výstupy , ako je obsah, predpovede, odporúčania alebo rozhodnutia , ktoré ovplyvňujú prostredie , s ktorým systém komunikuje, či už vo fyzickom alebo digitálnom rozmere . Systémy umelej inteligencie môžu byť navrhnuté tak, aby fungovali s rôznymi úrovňami samostatnosti a mohli sa používať samostatne alebo ako komponent určitého výrobku bez ohľadu na to , či je systém do tohto výrobku fyzicky integrovaný (vstavaný) alebo či napomáha funkčnosti tohto výrobku bez toho, aby doň bol integrovaný (nevstavaný) . Vymedzenie pojmu systém umelej inteligencie by sa malo doplniť o zoznam osobitných techník a prístupov používaných na jeho vývoj , ktorý by sa mal vzhľadom na vývoj na trhu a technologický vývoj aktualizovať prostredníctvom delegovaných aktov , ktoré by prijala Komisia na účely zmeny uvedeného zoznamu .

(6)

Pojem systém umelej inteligencie v tomto nariadení by sa mal jasne vymedziť a úzko zosúladiť s prácou medzinárodných organizácií, ktoré sa zaoberajú umelou inteligenciou s cieľom zabezpečiť právnu istotu , harmonizáciu a širokú akceptáciu, a zároveň poskytnúť flexibilitu na prispôsobenie sa rýchlemu technologickému vývoju v tejto oblasti . Okrem toho by mal vychádzať z kľúčových funkčných charakteristík umelej inteligencie , ako sú jej schopnosti učenia sa , uvažovania alebo modelovania , aby sa líšila od jednoduchších softvérových systémov a programovacích prístupov . Systémy umelej inteligencie sú navrhnuté tak, aby fungovali s rôznymi úrovňami samostatnosti , čo znamená, že majú aspoň určitý stupeň nezávislosti od ľudskej kontroly a schopnosti fungovať bez ľudského zásahu. Pojem „strojový“ sa vzťahuje na skutočnosť, že systémy umelej inteligencie fungujú na strojoch. Odkaz na explicitné alebo implicitné ciele zdôrazňuje, že systémy umelej inteligencie môžu fungovať podľa explicitných cieľov stanovených človekom alebo implicitných cieľov. Ciele systému umelej inteligencie sa môžu líšiť od stanoveného účelu systému umelej inteligencie v konkrétnom kontexte. Odkaz na predpovede zahŕňa obsah , ktorý sa v tomto nariadení považuje za formu predpovede ako jeden z možných výstupov systému umelej inteligencie. Na účely tohto nariadenia by sa prostrediami mali rozumieť kontexty, v ktorých systémy umelej inteligencie fungujú, zatiaľ čo výstupy vytvorené systémom umelej inteligencie , teda predpovede, odporúčania alebo rozhodnutia, reagujú na ciele systému na základe vstupov z uvedeného prostredia. Takýto výstup má ešte väčší vplyv na prostredie, a to aj prostredníctvom jednoduchého zavedenia nových informácií.

(6a)

Systémy umelej inteligencie majú často schopnosti strojového učenia, ktoré im umožňujú samostatne sa prispôsobovať a vykonávať nové úlohy. Strojové učenie znamená výpočtový proces optimalizácie parametrov modelu z údajov, čo je matematický konštrukt generujúci výstup na základe vstupných údajoch. Prístupy strojového učenia vrátane učenie pod dohľadom, bez dozoru a učenie posilňovaním, pričom sa používajú rôzne metódy vrátane hĺbkového učenia s neurónovými sieťami. Toto nariadenie je zamerané na riešenie nových potenciálnych rizík, ktoré môžu vzniknúť delegovaním kontroly na systémy umelej inteligencie, najmä na tie systémy umelej inteligencie, ktoré sa po zavedení môžu vyvíjať. Funkcia a výstupy mnohých z týchto systémov umelej inteligencie sú založené na abstraktných matematických vzťahoch, ktoré sú pre ľudí ťažké pochopiť, monitorovať a spätne vysledovať ku konkrétnym vstupom. Tieto komplexné a neprehľadné charakteristiky (tzv. black box) ovplyvňujú zodpovednosť a vysvetliteľnosť. Porovnateľne jednoduchšie technológie, ako sú prístupy založené na poznatkoch, bayesovský odhad alebo rozhodovacie stromy, môžu viesť aj k právnym medzerám, ktoré je potrebné riešiť týmto nariadením, najmä ak sa používajú v kombinácii s prístupmi strojového učenia v hybridných systémoch.

(6b)

Systémy umelej inteligencie sa môžu používať samostatne ako softvérový systém, integrovať (vstavať) do fyzického výrobku, používať na napomáhanie funkčnosti fyzického výrobku bez toho, aby doň bol integrovaný (nevstavaný), alebo sa môže používať ako súčasť umelej inteligencie väčšieho systému. Ak by tento väčší systém nefungoval bez predmetnej súčasti umelej inteligencie, potom by sa podľa tohto nariadenia celý väčší systém mal považovať za jediný systém umelej inteligencie.

(7)

Pojem „biometrické údaje“ použitý v tomto nariadení je v súlade s pojmom biometrické údaje vymedzeným v článku 4 bode 14 nariadenia Európskeho parlamentu a Rady (EÚ) 2016/679 (35), v článku 3 bode 18 nariadenia Európskeho parlamentu a Rady (EÚ) 2018/1725  (36) a v článku 3 bode 13 smernice Európskeho parlamentu a Rady (EÚ) 2016/680  (37) a mal by sa vykladať v súlade s nimi .

(7)

Pojem „biometrické údaje“ použitý v tomto nariadení je v súlade s pojmom biometrické údaje vymedzeným v článku 4 bode 14 nariadenia Európskeho parlamentu a Rady (EÚ) 2016/679 (35) . Údaje založené na biometrii sú dodatočné údaje , ktoré sú výsledkom osobitného technického spracúvania týkajúceho sa fyzických, fyziologických alebo behaviorálnych prejavov fyzickej osoby, ako sú výrazy tváre, pohyby, frekvencia pulzu, hlas, stlačenie klávesov alebo chôdza, ktoré môžu alebo nemusia umožniť alebo potvrdiť jedinečnú identifikáciu fyzickej osoby .

(7a)

Pojem „biometrická identifikácia“, ako sa používa v tomto nariadení, by sa mal vymedziť ako automatické rozpoznávanie fyzických, fyziologických, behaviorálnych a psychologických vlastností, ako sú tvár, pohyb oka, výrazy tváre, tvar tela, hlas, reč, chôdza, postoj, srdcová frekvencia, tlak krvi, vôňa, dynamika písania na klávesnici, psychologické reakcie (hnev, nepokoj, smútok a pod.) na účely stanovenia totožnosti jednotlivca porovnaním biometrických údajov daného jednotlivca s biometrickými údajmi jednotlivca uloženými v databáze (identifikácia porovnaním jedného údaju s viacerými údajmi) bez ohľadu na to, či jednotlivec udelil súhlas alebo nie.

(7b)

Pojem „systém biometrickej kategorizácie“, ako sa používa v tomto nariadení, by sa mal vymedziť ako zaradenie fyzických osôb do konkrétnych kategórií alebo odvodenie ich vlastností a atribútov, ako sú rod, pohlavie, vek, farba vlasov, farba očí, tetovanie, etnický alebo sociálny pôvod, zdravotný stav, duševná, mentálna alebo telesná spôsobilosť, behaviorálne alebo osobnostné charakteristiky, jazyk, náboženstvo alebo príslušnosť k národnostnej menšine, alebo sexuálna či politická orientácia, a to na základe ich biometrických alebo na biometrii založených údajov, alebo kategórií, ktoré možno z takýchto údajov vyvodiť.

(8)

Pojem „systém diaľkovej biometrickej identifikácie“, ako sa používa v tomto nariadení, by sa mal vymedziť funkčne ako systém umelej inteligencie určený na identifikáciu fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze a bez toho, aby sa vopred vedelo, či bude cieľová osoba prítomná a či ju bude možné identifikovať, a to bez ohľadu na konkrétnu technológiu, procesy alebo typy použitých biometrických údajov. Vzhľadom na ich odlišné charakteristiky a spôsoby, akými sa používajú, ako aj na rôzne súvisiace riziká, by sa malo rozlišovať medzi systémom diaľkovej biometrickej identifikácie „v reálnom čase“ a systémom „následnej“ diaľkovej biometrickej identifikácie. V prípade systémov „v reálnom čase“ prebieha zachytávanie biometrických údajov, ich porovnávanie a identifikácia okamžite, takmer okamžite alebo v každom prípade bez výrazného oneskorenia. V tejto súvislosti by nemal existovať priestor na obchádzanie pravidiel tohto nariadenia o používaní predmetných systémov umelej inteligencie „v reálnom čase“ tým, že sa stanovia menšie oneskorenia. Systémy v reálnom čase zahŕňajú používanie materiálu „naživo“ alebo „s malým časovým posunom“, ako sú napríklad videozáznamy generované kamerou alebo iným zariadením s podobnými funkciami. Naopak, v prípade systémov „následnej“ identifikácie už boli biometrické údaje zachytené a porovnanie a identifikácia sa uskutočňujú až po značnom oneskorení. Ide o materiály, ako sú fotografie alebo videozáznamy generované kamerami s uzavretým televíznym okruhom alebo súkromnými zariadeniami, ktoré boli vytvorené pred použitím tohto systému vo vzťahu k dotknutým fyzickým osobám.

(8)

Pojem „systém diaľkovej biometrickej identifikácie“, ako sa používa v tomto nariadení, by sa mal vymedziť funkčne ako systém umelej inteligencie určený na identifikáciu fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze a bez toho, aby sa vopred vedelo, či bude cieľová osoba prítomná a či ju bude možné identifikovať, a to bez ohľadu na konkrétnu technológiu, procesy alebo typy použitých biometrických údajov , s výnimkou overovacích systémov, ktoré len porovnávajú biometrické údaje jednotlivca s ním predtým poskytnutými biometrickými údajmi (overenie totožnosti) . Vzhľadom na ich odlišné charakteristiky a spôsoby, akými sa používajú, ako aj na rôzne súvisiace riziká, by sa malo rozlišovať medzi systémom diaľkovej biometrickej identifikácie „v reálnom čase“ a systémom „následnej“ diaľkovej biometrickej identifikácie. V prípade systémov „v reálnom čase“ prebieha zachytávanie biometrických údajov, ich porovnávanie a identifikácia okamžite, takmer okamžite alebo v každom prípade bez výrazného oneskorenia. V tejto súvislosti by nemal existovať priestor na obchádzanie pravidiel tohto nariadenia o používaní predmetných systémov umelej inteligencie „v reálnom čase“ tým, že sa stanovia menšie oneskorenia. Systémy v reálnom čase zahŕňajú používanie materiálu „naživo“ alebo „s malým časovým posunom“, ako sú napríklad videozáznamy generované kamerou alebo iným zariadením s podobnými funkciami. Naopak, v prípade systémov „následnej“ identifikácie už boli biometrické údaje zachytené a porovnanie a identifikácia sa uskutočňujú až po značnom oneskorení. Ide o materiály, ako sú fotografie alebo videozáznamy generované kamerami s uzavretým televíznym okruhom alebo súkromnými zariadeniami, ktoré boli vytvorené pred použitím tohto systému vo vzťahu k dotknutým fyzickým osobám. Vzhľadom na to, že pojem biometrická identifikácia je nezávislý od súhlasu jednotlivca, toto vymedzenie sa uplatňuje aj vtedy, keď sú varovné oznamy umiestnené na mieste, ktoré je pod dohľadom systému diaľkovej biometrickej identifikácie, a nie je de facto zrušené predbežnou registráciou.

(8a)

Identifikácia fyzických osôb na diaľku sa chápe tak, že rozlišuje systémy diaľkovej biometrickej identifikácie od individuálnych systémov overovania v tesnej blízkosti využívajúcich prostriedky biometrickej identifikácie, ktorých jediným účelom je potvrdiť, či sa konkrétnej fyzickej osobe, ktorá sa prezentuje na účely identifikácie, povoľuje napríklad získať prístup k službe, zariadeniu alebo priestorom.

(9)

Na účely tohto nariadenia by sa pojem „verejne prístupný priestor“ mal chápať ako akékoľvek fyzické miesto prístupné verejnosti bez ohľadu na to, či je dané miesto v súkromnom alebo verejnom vlastníctve. Tento pojem sa preto nevzťahuje na miesta, ktoré sú súkromnej povahy a zvyčajne nie sú voľne prístupné tretím stranám vrátane orgánov presadzovania práva, pokiaľ tieto strany neboli osobitne pozvané alebo oprávnené, ako napr. domácnosti, súkromné kluby, kancelárie, sklady a továrne. Nevzťahuje sa ani na online priestory, pretože nejde o fyzické priestory. Samotná skutočnosť, že sa na prístup do konkrétneho priestoru môžu uplatňovať určité podmienky, ako napr. vstupenky alebo vekové obmedzenia, však neznamená, že daný priestor nie je verejne prístupný v zmysle tohto nariadenia. Z toho vyplýva, že okrem verejných priestorov, ako sú napríklad ulice, príslušné časti vládnych budov a väčšina dopravnej infraštruktúry, sú zvyčajne verejne prístupné aj priestory ako kiná, divadlá, obchody a nákupné centrá. To, či je daný priestor prístupný verejnosti, by sa však malo určovať od prípadu k prípadu so zreteľom na osobitosti konkrétnej situácie.

(9)

Na účely tohto nariadenia by sa pojem „verejne prístupný priestor“ mal chápať ako akékoľvek fyzické miesto prístupné verejnosti bez ohľadu na to, či je dané miesto v súkromnom alebo verejnom vlastníctve , a bez ohľadu na možné kapacitné obmedzenia . Tento pojem sa preto nevzťahuje na miesta, ktoré sú súkromnej povahy a zvyčajne nie sú voľne prístupné tretím stranám vrátane orgánov presadzovania práva, pokiaľ tieto strany neboli osobitne pozvané alebo oprávnené, ako napr. domácnosti, súkromné kluby, kancelárie, sklady a továrne. Nevzťahuje sa ani na online priestory, pretože nejde o fyzické priestory. Samotná skutočnosť, že sa na prístup do konkrétneho priestoru môžu uplatňovať určité podmienky, ako napr. vstupenky alebo vekové obmedzenia, však neznamená, že daný priestor nie je verejne prístupný v zmysle tohto nariadenia. Z toho vyplýva, že okrem verejných priestorov, ako sú napríklad ulice, príslušné časti vládnych budov a väčšina dopravnej infraštruktúry, sú zvyčajne verejne prístupné aj priestory ako kiná, divadlá, športoviská, školy, univerzity, príslušné časti nemocníc a bánk, zábavné parky, festivaly, obchody a nákupné centrá. To, či je daný priestor prístupný verejnosti, by sa však malo určovať od prípadu k prípadu so zreteľom na osobitosti konkrétnej situácie.

(9a)

Je dôležité poznamenať, že systémy umelej inteligencie by mali vynaložiť maximálne úsilie na dodržiavanie všeobecných zásad stanovujúcich rámec na vysokej úrovni, ktorý podporuje súdržný prístup k etickej a dôveryhodnej umelej inteligencii zameraný na človeka v súlade s Chartou základných práv Európskej únie a hodnotami, na ktorých je Únia založená, vrátane ochrany základných práv, ľudského faktora a dohľadu, technickej spoľahlivosti a bezpečnosti, ochrany súkromia a správy údajov, transparentnosti, nediskriminácie a spravodlivosti a dobrých spoločenských a environmentálnych podmienok.

(9b)

Pojem „gramotnosť v oblasti umelej inteligencie“ sa vzťahuje na zručnosti, vedomosti a porozumenie, ktoré poskytovateľom, používateľom a dotknutým osobám umožňujú informovane zavádzať systémy umelej inteligencie s ohľadom na ich príslušné práva a povinnosti v kontexte tohto nariadenia, ako aj získať povedomie o príležitostiach a rizikách umelej inteligencie, ako aj o prípadnej škode, ktorú môže spôsobiť, a tým podporujú jej demokratickú kontrolu. Gramotnosť v oblasti umelej inteligencie by sa nemala obmedzovať len na učenie sa o nástrojoch a technológiách, ale mala by sa zameriavať aj na to, aby poskytovatelia a používatelia nadobudli znalosti a zručnosti potrebné na zabezpečenie súladu s týmto nariadením a jeho presadzovania. Je preto potrebné, aby Komisia, členské štáty, ako aj poskytovatelia a používatelia systémov umelej inteligencie v spolupráci so všetkými príslušnými zainteresovanými stranami podporovali rozvoj gramotnosti v oblasti umelej inteligencie vo všetkých sektoroch spoločnosti, pre ľudí všetkých vekových kategórií vrátane žien a dievčat a aby sa pokrok v tejto oblasti pozorne sledoval.

(10)

S cieľom zabezpečiť rovnaké podmienky a účinnú ochranu práv a slobôd fyzických osôb v celej Únii by sa pravidlá stanovené v tomto nariadení mali uplatňovať na poskytovateľov systémov umelej inteligencie nediskriminačným spôsobom bez ohľadu na to, či sú usadení v Únii alebo v tretej krajine, a na používateľov systémov umelej inteligencie usadených v Únii.

(10)

S cieľom zabezpečiť rovnaké podmienky a účinnú ochranu práv a slobôd fyzických osôb v celej Únii a na medzinárodnej úrovni by sa pravidlá stanovené v tomto nariadení mali uplatňovať na poskytovateľov systémov umelej inteligencie nediskriminačným spôsobom bez ohľadu na to, či sú usadení v Únii alebo v tretej krajine, a na nasadzujúce subjekty systémov umelej inteligencie usadené v Únii. Aby bola Únia verná svojim základným hodnotám, systémy umelej inteligencie určené na používanie pri postupoch, ktoré sa podľa tohto nariadenia považujú za neprijateľné, by sa mali takisto považovať za neprijateľné mimo Únie z dôvodu ich mimoriadne škodlivého účinku na základné práva zakotvené v charte. Preto je vhodné zakázať vývoz takýchto systémov umelej inteligencie do tretích krajín poskytovateľmi s bydliskom v Únii.

(11)

Určité systémy umelej inteligencie by vzhľadom na svoju digitálnu povahu mali patriť do rozsahu pôsobnosti tohto nariadenia, aj keď sa v Únii neuvádzajú na trh ani do prevádzky, ani sa v nej nepoužívajú. Ide napríklad o prevádzkovateľa usadeného v Únii, ktorý zmluvne zadáva určité služby prevádzkovateľovi usadenému mimo Únie v súvislosti s činnosťou vykonávanou systémom umelej inteligencie, ktorý by mohol byť označený ako vysokorizikový a ktorého účinky majú vplyv na fyzické osoby nachádzajúce sa v Únii. Za týchto okolností by systém umelej inteligencie, ktorý používa prevádzkovateľ mimo Únie, mohol spracúvať údaje zákonne zozbierané v Únii a prenášané z Únie a poskytovať zadávajúcemu prevádzkovateľovi v Únii výstup z uvedeného systému umelej inteligencie vyplývajúci z tohto spracovania bez toho, aby sa uvedený systém umelej inteligencie uvádzal na trh, do prevádzky alebo sa používal v Únii. S cieľom zabrániť obchádzaniu tohto nariadenia a zabezpečiť účinnú ochranu fyzických osôb nachádzajúcich sa v Únii by sa toto nariadenie malo vzťahovať aj na poskytovateľov a používateľov systémov umelej inteligencie, ktorí sú usadení v tretej krajine, a to v rozsahu, v akom sa výstup generovaný týmito systémami používa v Únii. S cieľom zohľadniť existujúce dojednania a osobitné potreby spolupráce so zahraničnými partnermi, s ktorými sa vymieňajú informácie a dôkazy, by sa však toto nariadenie nemalo vzťahovať na orgány verejnej moci tretej krajiny a medzinárodné organizácie, ak konajú v rámci medzinárodných dohôd uzavretých na vnútroštátnej alebo európskej úrovni v oblasti presadzovania práva a justičnej spolupráce s Úniou alebo jej členskými štátmi. Takéto dohody boli uzavreté dvojstranne medzi členskými štátmi a tretími krajinami alebo medzi Európskou úniou, Europolom a inými agentúrami EÚ a tretími krajinami a medzinárodnými organizáciami.

(11)

Určité systémy umelej inteligencie by vzhľadom na svoju digitálnu povahu mali patriť do rozsahu pôsobnosti tohto nariadenia, aj keď sa v Únii neuvádzajú na trh ani do prevádzky, ani sa v nej nepoužívajú. Ide napríklad o prevádzkovateľa usadeného v Únii, ktorý zmluvne zadáva určité služby prevádzkovateľovi usadenému mimo Únie v súvislosti s činnosťou vykonávanou systémom umelej inteligencie, ktorý by mohol byť označený ako vysokorizikový a ktorého účinky majú vplyv na fyzické osoby nachádzajúce sa v Únii. Za týchto okolností by systém umelej inteligencie, ktorý používa prevádzkovateľ mimo Únie, mohol spracúvať údaje zákonne zozbierané v Únii a prenášané z Únie a poskytovať zadávajúcemu prevádzkovateľovi v Únii výstup z uvedeného systému umelej inteligencie vyplývajúci z tohto spracovania bez toho, aby sa uvedený systém umelej inteligencie uvádzal na trh, do prevádzky alebo sa používal v Únii. S cieľom zabrániť obchádzaniu tohto nariadenia a zabezpečiť účinnú ochranu fyzických osôb nachádzajúcich sa v Únii by sa toto nariadenie malo vzťahovať aj na poskytovateľov a  nasadzujúcich používateľov systémov umelej inteligencie, ktorí sú usadení v tretej krajine, a to v rozsahu, v akom je výstup generovaný týmito systémami určený na používanie v Únii. S cieľom zohľadniť existujúce dojednania a osobitné potreby spolupráce so zahraničnými partnermi, s ktorými sa vymieňajú informácie a dôkazy, by sa však toto nariadenie nemalo vzťahovať na orgány verejnej moci tretej krajiny a medzinárodné organizácie, ak konajú v rámci medzinárodných dohôd uzavretých na vnútroštátnej alebo európskej úrovni v oblasti presadzovania práva a justičnej spolupráce s Úniou alebo jej členskými štátmi. Takéto dohody boli uzavreté dvojstranne medzi členskými štátmi a tretími krajinami alebo medzi Európskou úniou, Europolom a inými agentúrami EÚ a tretími krajinami a medzinárodnými organizáciami. Táto výnimka by sa však mala obmedziť na dôveryhodné krajiny a medzinárodné organizácie, ktoré zdieľajú hodnoty Únie.

(12)

Toto nariadenie by sa malo vzťahovať aj na inštitúcie, úrady, orgány a agentúry Únie, ak konajú ako poskytovateľ alebo používateľ systému umelej inteligencie. Systémy umelej inteligencie vyvinuté alebo používané výlučne na vojenské účely by mali byť vylúčené z rozsahu pôsobnosti tohto nariadenia, ak toto používanie patrí do výlučnej právomoci spoločnej zahraničnej a bezpečnostnej politiky upravenej v hlave V Zmluvy o Európskej únii (ZEÚ). Týmto nariadením by nemali byť dotknuté ustanovenia o zodpovednosti poskytovateľov sprostredkovateľských služieb stanovené v smernici Európskeho parlamentu a Rady 2000/31/ES [v znení aktu o digitálnych službách].

(12)

Toto nariadenie by sa malo vzťahovať aj na inštitúcie, úrady, orgány a agentúry Únie, ak konajú ako poskytovateľ alebo nasadzujúci subjekt systému umelej inteligencie. Systémy umelej inteligencie vyvinuté alebo používané výlučne na vojenské účely by mali byť vylúčené z rozsahu pôsobnosti tohto nariadenia, ak toto používanie patrí do výlučnej právomoci spoločnej zahraničnej a bezpečnostnej politiky upravenej v hlave V Zmluvy o Európskej únii (ZEÚ). Týmto nariadením by nemali byť dotknuté ustanovenia o zodpovednosti poskytovateľov sprostredkovateľských služieb stanovené v smernici Európskeho parlamentu a Rady 2000/31/ES [v znení aktu o digitálnych službách].

(12a)

Softvér a údaje, ktoré sú voľne zdieľané a používatelia k nim alebo k ich upraveným verziám môžu voľne pristupovať, používať ich, upravovať a opakovane distribuovať, môžu prispieť k výskumu a inováciám na trhu. Z výskumu Komisie takisto vyplýva, že slobodný softvér a softvér s otvoreným zdrojovým kódom môže prispieť k HDP Európskej únie sumou 65 až 95 miliárd EUR a európskemu hospodárstvu môže poskytnúť významné príležitosti na rast. Používatelia môžu spúšťať, kopírovať, distribuovať, študovať, meniť a zlepšovať softvér a údaje vrátane modelov prostredníctvom bezplatných licencií s otvoreným zdrojovým kódom. S cieľom podporiť vývoj a zavádzanie umelej inteligencie, najmä zo strany MSP, startupov, akademického výskumu, ale aj jednotlivcov, by sa toto nariadenie nemalo vzťahovať na takéto komponenty umelej inteligencie dostupné zdarma a komponenty s otvoreným zdrojovým kódom s výnimkou prípadov, keď ich poskytovateľ uvádza na trh alebo do prevádzky ako súčasť vysokorizikového systému umelej inteligencie alebo systému umelej inteligencie, na ktorý sa vzťahujú hlavy II alebo IV tohto nariadenia.

(12b)

Ani spoločný vývoj komponentov umelej inteligencie dostupných zdarma a komponentov s otvoreným zdrojovým kódom, ani ich sprístupnenie na otvorených úložiskách by nemali predstavovať uvedenie na trh alebo do prevádzky. Komerčná činnosť v zmysle sprístupnenia na trhu by však mohla byť charakterizovaná účtovaním ceny, s výnimkou transakcií medzi mikropodnikmi, za komponent umelej inteligencie dostupnej zdarma a umelej inteligencie s otvoreným zdrojovým kódom, ale aj účtovaním ceny za služby technickej podpory, poskytovaním softvérovej platformy, prostredníctvom ktorej poskytovateľ speňažuje iné služby, alebo použitím osobných údajov z iných dôvodov ako výlučne z dôvodu zvýšenia bezpečnosti, kompatibility alebo interoperability softvéru.

(12c)

Od vývojárov komponentov umelej inteligencie dostupných zdarma a komponentov s otvoreným zdrojovým kódom by sa podľa tohto nariadenia nemalo vyžadovať dodržiavanie požiadaviek zameraných na hodnotový reťazec umelej inteligencie, a najmä nie na poskytovateľa, ktorý používa tento komponent slobodnej umelej inteligencie dostupný zdarma a komponent s otvoreným zdrojovým kódom. Vývojári komponentov umelej inteligencie dostupných zdarma a komponentov s otvoreným zdrojovým kódom by sa však mali nabádať, aby vykonávali všeobecne prijaté postupy pre dokumentáciu, ako sú vzorové a dátové karty, ako spôsob urýchlenia výmeny informácií v rámci hodnotového reťazca umelej inteligencie, čím sa umožní podpora dôveryhodných systémov umelej inteligencie v Únii.

(13)

S cieľom zabezpečiť jednotnú a vysokú úroveň ochrany verejných záujmov, pokiaľ ide o zdravie, bezpečnosť a základné práva, by sa mali stanoviť spoločné normatívne štandardy pre všetky vysokorizikové systémy umelej inteligencie. Tieto štandardy by mali byť v súlade s Chartou základných práv Európskej únie (ďalej len „charta“) a mali by byť nediskriminačné a v súlade so záväzkami Únie v oblasti medzinárodného obchodu.

(13)

S cieľom zabezpečiť jednotnú a vysokú úroveň ochrany verejných záujmov, pokiaľ ide o zdravie, bezpečnosť a základné práva, ako aj o demokraciu a právny štát a životné prostredie, by sa mali stanoviť spoločné normatívne štandardy pre všetky vysokorizikové systémy umelej inteligencie. Tieto štandardy by mali byť v súlade s chartou , Európskou zelenou dohodou, spoločným vyhlásením o digitálnych právach v Únii a etickými usmerneniami pre dôveryhodnú umelú inteligenciu skupiny expertov na vysokej úrovni pre umelú inteligenciu a mali by byť nediskriminačné a v súlade so záväzkami Únie v oblasti medzinárodného obchodu.

(14)

Na účely zavedenia primeraného a účinného súboru záväzných pravidiel pre systémy umelej inteligencie by sa mal dodržiavať jasne vymedzený prístup založený na riziku. Týmto prístupom by sa mal prispôsobiť typ a obsah takýchto pravidiel intenzite a rozsahu rizík, ktoré môžu systémy umelej inteligencie vytvárať. Preto je potrebné zakázať určité praktiky v oblasti umelej inteligencie, stanoviť požiadavky na vysokorizikové systémy umelej inteligencie a povinnosti príslušných prevádzkovateľov, ako aj stanoviť povinnosti transparentnosti pre určité systémy umelej inteligencie.

(14)

Na účely zavedenia primeraného a účinného súboru záväzných pravidiel pre systémy umelej inteligencie by sa mal dodržiavať jasne vymedzený prístup založený na riziku. Týmto prístupom by sa mal prispôsobiť typ a obsah takýchto pravidiel intenzite a rozsahu rizík, ktoré môžu systémy umelej inteligencie vytvárať. Preto je potrebné zakázať určité neprijateľné praktiky v oblasti umelej inteligencie, stanoviť požiadavky na vysokorizikové systémy umelej inteligencie a povinnosti príslušných prevádzkovateľov, ako aj stanoviť povinnosti transparentnosti pre určité systémy umelej inteligencie.

(15)

Využívanie umelej inteligencie má síce mnoho výhod, túto technológiu však možno zneužiť a môže sa stať zdrojom nových a výkonných nástrojov umožňujúcich manipulatívne a zneužívajúce praktiky a praktiky v oblasti sociálnej kontroly. Takéto praktiky sú mimoriadne škodlivé a mali by sa zakázať, pretože sú v rozpore s hodnotami Únie týkajúcimi sa rešpektovania ľudskej dôstojnosti, slobody, rovnosti, demokracie a právneho štátu a základných práv Únie vrátane práva na nediskrimináciu, ochranu údajov a súkromia a práv dieťaťa.

(15)

Využívanie umelej inteligencie má síce mnoho výhod, túto technológiu však možno zneužiť a môže sa stať zdrojom nových a výkonných nástrojov umožňujúcich manipulatívne a zneužívajúce praktiky a praktiky v oblasti sociálnej kontroly. Takéto praktiky sú mimoriadne škodlivé a  zneužívajúce a  mali by sa zakázať, pretože sú v rozpore s hodnotami Únie týkajúcimi sa rešpektovania ľudskej dôstojnosti, slobody, rovnosti, demokracie a právneho štátu a základných práv Únie vrátane práva na nediskrimináciu, ochranu údajov a súkromia a práv dieťaťa.

(16)

Malo by sa zakázať uvádzanie na trh, do prevádzky alebo používanie určitých systémov umelej inteligencie určených na ovplyvňovanie ľudského správania, pri ktorých je pravdepodobné, že spôsobia fyzickú alebo psychickú ujmu. Takéto systémy umelej inteligencie využívajú podprahové komponenty, ktoré jednotlivci nie sú schopní vnímať, prípadne zneužívajú zraniteľnosť detí a  ľudí , ktorí sú zraniteľní vzhľadom na svoj vek, telesnú alebo duševnú nespôsobilosť. Robia tak s úmyslom podstatne ovplyvniť správanie osoby, a to spôsobom, ktorý spôsobuje alebo pravdepodobne spôsobí ujmu tejto osobe alebo inej osobe. Takýto úmysel nemožno predpokladať, ak ovplyvnenie ľudského správania vyplýva z faktorov nesúvisiacich so systémom umelej inteligencie, ktoré sú mimo kontroly poskytovateľa alebo používateľa. Zákaz by nemal brániť výskumu takýchto systémov umelej inteligencie na legitímne účely, pokiaľ takýto výskum nepredstavuje využívanie systému umelej inteligencie vo vzťahoch človek – stroj, ktoré vystavuje fyzické osoby ujme, a pokiaľ sa vykonáva v súlade s uznávanými etickými normami vedeckého výskumu.

(16)

Malo by sa zakázať uvádzanie na trh, do prevádzky alebo používanie určitých systémov umelej inteligencie , ktorých cieľom alebo účinkom je podstatne ovplyvniť ľudské správanie, pričom je pravdepodobné, že spôsobia fyzickú alebo psychickú ujmu. Toto obmedzenie by sa malo chápať tak, že zahŕňa neurotechnológie podporované systémami umelej inteligencie, ktoré sa používajú na monitorovanie, používanie alebo ovplyvňovanie neurónových údajov získaných prostredníctvom mozgovo-počítačových rozhraní, pokiaľ podstatne narúšajú správanie fyzickej osoby spôsobom, ktorý tejto alebo inej osobe spôsobuje alebo pravdepodobne spôsobí významnú ujmu. Takéto systémy umelej inteligencie využívajú podprahové komponenty, ktoré jednotlivci nie sú schopní vnímať, prípadne zneužívajú zraniteľnosť jednotlivcov a  osobitných skupín osôb , ktoré sú zraniteľné vzhľadom na ich známe alebo predpokladané osobnostné znaky, vek, fyzickú alebo duševnú nespôsobilosť , sociálnu alebo ekonomickú situáciu . Robia tak so zámerom alebo účinkom podstatne ovplyvniť správanie osoby, a to spôsobom, ktorý spôsobuje alebo pravdepodobne spôsobí značnú ujmu tejto osobe alebo inej osobe alebo skupinám osôb, vrátane ujmy, ktorá sa môže časom hromadiť . Takýto úmysel narušiť správanie nemožno predpokladať, ak vyplýva z faktorov nesúvisiacich so systémom umelej inteligencie, ktoré sú mimo kontroly poskytovateľa alebo používateľa , ako sú faktory, ktoré poskytovateľ alebo subjekt nasadzujúci systém umelej inteligencie nemôže primerane predvídať a zmierniť. V každom prípade nie je potrebné, aby poskytovateľ alebo nasadzujúci subjekt mali úmysel spôsobiť značnú ujmu, pokiaľ takáto ujma vyplýva z manipulatívnych alebo vykorisťovateľských praktík umožnených umelou inteligenciou. Zákazy takýchto praktík umelej inteligencie dopĺňajú ustanovenia obsiahnuté v smernici 2005/29/ES, podľa ktorých sú nekalé obchodné praktiky zakázané bez ohľadu na to, či sa vykonávajú s použitím systémov umelej inteligencie alebo inak. V takomto prostredí by sa zákonné obchodné praktiky, napríklad v oblasti reklamy, ktoré sú v súlade s právom Únie, nemali samy osebe považovať za porušenie zákazu. Zákaz by nemal brániť výskumu takýchto systémov umelej inteligencie na legitímne účely, pokiaľ takýto výskum nepredstavuje využívanie systému umelej inteligencie vo vzťahoch človek – stroj, ktoré vystavuje fyzické osoby ujme, a pokiaľ sa vykonáva v súlade s uznávanými etickými normami vedeckého výskumu a na základe osobitného informovaného súhlasu jednotlivcov, ktorí sú im vystavení, alebo prípadne ich zákonného zástupcu .

(16a)

Systémy umelej inteligencie, ktoré kategorizujú fyzické osoby tak, že ich zaraďujú do konkrétnych kategórií podľa známych alebo odvodených citlivých alebo chránených atribútov, sú obzvlášť rušivé, porušujú ľudskú dôstojnosť a predstavujú veľké riziko diskriminácie. Medzi takéto atribúty patrí pohlavie, rodová identita, rasa, etnický pôvod, migračný štatút alebo štatút občianstva, politická orientácia, sexuálna orientácia, náboženstvo, zdravotné postihnutie alebo akékoľvek iné dôvody, na základe ktorých je diskriminácia zakázaná podľa článku 21 Charty základných práv Európskej únie, ako aj podľa článku 9 nariadenia (EÚ) 2016/769. Takéto systémy by sa preto mali zakázať.

(17)

Systémy umelej inteligencie, ktoré poskytujú sociálne hodnotenie fyzických osôb na všeobecné účely vykonávané orgánmi verejnej moci alebo v ich mene , môžu viesť k diskriminačným výsledkom a vylúčeniu určitých skupín. Môžu porušovať právo na dôstojnosť a nediskrimináciu a hodnoty rovnosti a spravodlivosti. Takéto systémy umelej inteligencie hodnotia alebo klasifikujú dôveryhodnosť fyzických osôb na základe ich spoločenského správania vo viacerých kontextoch alebo známych či predpokladaných osobných alebo osobnostných charakteristík. Sociálne skóre získané na základe takýchto systémov umelej inteligencie môže viesť k poškodzujúcemu alebo nepriaznivému zaobchádzaniu s fyzickými osobami alebo celými skupinami takýchto osôb v sociálnych kontextoch nesúvisiacich s kontextom, v ktorom boli údaje pôvodne vygenerované alebo zhromaždené, prípadne k poškodzujúcemu zaobchádzaniu, ktoré je neprimerané alebo neodôvodnené vzhľadom na závažnosť ich sociálneho správania. Takéto systémy umelej inteligencie by sa preto mali zakázať.

(17)

Systémy umelej inteligencie, ktoré poskytujú sociálne hodnotenie fyzických osôb na všeobecné účely, môžu viesť k diskriminačným výsledkom a vylúčeniu určitých skupín. Porušujú právo na dôstojnosť a nediskrimináciu a hodnoty rovnosti a spravodlivosti. Takéto systémy umelej inteligencie hodnotia alebo klasifikujú fyzické osoby alebo skupiny na základe viacerých dátových bodov a časových udalostí týkajúcich sa ich spoločenského správania vo viacerých kontextoch alebo známych , odvodených či predpokladaných osobných alebo osobnostných charakteristík. Sociálne skóre získané na základe takýchto systémov umelej inteligencie môže viesť k poškodzujúcemu alebo nepriaznivému zaobchádzaniu s fyzickými osobami alebo celými skupinami takýchto osôb v sociálnych kontextoch nesúvisiacich s kontextom, v ktorom boli údaje pôvodne vygenerované alebo zhromaždené, prípadne k poškodzujúcemu zaobchádzaniu, ktoré je neprimerané alebo neodôvodnené vzhľadom na závažnosť ich sociálneho správania. Takéto systémy umelej inteligencie by sa preto mali zakázať.

(18)

Používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva sa považuje za obzvlášť rušivý zásah do práv a  slobôd dotknutých osôb, keďže môže ovplyvniť súkromný život veľkej časti obyvateľstva, vyvoláva pocit neustáleho sledovania a nepriamo odrádza od využívania slobody zhromažďovania a iných základných práv. Okrem toho bezprostrednosť vplyvu a obmedzené možnosti ďalších kontrol alebo opráv v súvislosti s používaním takýchto systémov fungujúcich „v reálnom čase“ so sebou prinášajú zvýšené riziká z hľadiska práv a slobôd osôb, ktorých sa týkajú činnosti v oblasti presadzovania práva.

(18)

Používanie systémov umelej inteligencie na biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch obzvlášť narúša práva a slobody dotknutých osôb a  v konečnom dôsledku môže ovplyvniť súkromný život veľkej časti obyvateľstva, vyvolať pocit neustáleho sledovania , poskytnúť stranám, ktoré zavádzajú biometrickú identifikáciu na verejne prístupných miestach, nekontrolovateľnú moc a nepriamo odrádza od uplatňovania slobody zhromažďovania a iných základných práv , ktoré sú základom právneho štátu. Technické nepresnosti systémov umelej inteligencie určených na diaľkovú biometrickú identifikáciu fyzických osôb môžu viesť k skresleným výsledkom a mať diskriminačné účinky. Platí to najmä v prípade veku, etnického pôvodu, pohlavia alebo zdravotných postihnutí . Okrem toho bezprostrednosť vplyvu a obmedzené možnosti ďalších kontrol alebo opráv v súvislosti s používaním takýchto systémov fungujúcich „v reálnom čase“ so sebou prinášajú zvýšené riziká z hľadiska práv a slobôd osôb, ktorých sa týkajú činnosti v oblasti presadzovania práva. Používanie týchto systémov by sa preto malo zakázať vo verejne prístupných priestoroch. Podobne by sa mali zakázať aj systémy umelej inteligencie používané na analýzu záznamov z verejne prístupných priestorov prostredníctvom systémov diaľkovej biometrickej identifikácie, pokiaľ neexistuje predsúdne povolenie na použitie v kontexte presadzovania práva, ak je to nevyhnutne potrebné na cielené pátranie spojené s konkrétnym závažným trestným činom, ku ktorému už došlo, a len na základe predsúdneho povolenia.

(19)

Používanie týchto systémov na účely presadzovania práva by sa preto malo zakázať s výnimkou troch podrobne opísaných a úzko vymedzených situácií, keď je toto použitie nevyhnutne potrebné na dosiahnutie podstatného verejného záujmu, ktorého význam prevažuje nad rizikami. Tieto situácie zahŕňajú pátranie po potenciálnych obetiach trestných činov vrátane nezvestných detí, niektoré prípady ohrozenia života alebo fyzickej bezpečnosti fyzických osôb alebo hrozby teroristického útoku a odhaľovanie, lokalizáciu, identifikáciu alebo stíhanie páchateľov trestných činov uvedených v rámcovom rozhodnutí Rady 2002/584/SVV  (38) , ak za ne podľa právnych predpisov dotknutého členského štátu možno v danom členskom štáte uložiť trest odňatia slobody alebo ochranné opatrenie spojené s odňatím slobody s hornou hranicou trestnej sadzby najmenej tri roky, alebo podozrivých zo spáchania takýchto trestných činov. Takáto hranica trestu odňatia slobody alebo ochranného opatrenia spojeného s odňatím slobody v súlade s vnútroštátnym právom prispieva k zabezpečeniu toho, že daný trestný čin bude dostatočne závažný na to, aby sa ním dalo potenciálne odôvodniť použitie systémov diaľkovej biometrickej identifikácie „v reálnom čase“. Okrem toho je pravdepodobné, že niektoré z 32 trestných činov uvedených v rámcovom rozhodnutí Rady 2002/584/SVV sú v praxi relevantnejšie ako iné, keďže nevyhnutnosť a primeranosť použitia diaľkovej biometrickej identifikácie „v reálnom čase“ budú pravdepodobne veľmi rôznorodé jednak z hľadiska praktického vykonávania odhaľovania, lokalizácie, identifikácie alebo stíhania páchateľa jednotlivých uvedených trestných činov alebo osôb podozrivých z ich spáchania a zároveň vzhľadom na pravdepodobné rozdiely v závažnosti, pravdepodobnosti a rozsahu spôsobenej ujmy alebo možných negatívnych dôsledkov.

(20)

S cieľom zabezpečiť, aby sa tieto systémy používali zodpovedným a primeraným spôsobom, je tiež dôležité stanoviť, že v každej z týchto troch podrobne opísaných a úzko vymedzených situácií by sa mali zohľadniť určité prvky, najmä pokiaľ ide o povahu situácie, ktorá viedla k predloženiu žiadosti, o dôsledky využívania týchto systémov na práva a slobody všetkých dotknutých osôb a o záruky a podmienky zabezpečené pri tomto používaní. Okrem toho používanie systému diaľkovej biometrickej identifikácie „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva by malo podliehať primeraným časovým a priestorovým obmedzeniam, najmä so zreteľom na dôkazy alebo náznaky týkajúce sa daných hrozieb, obetí alebo páchateľa. Referenčná databáza osôb by mala byť vhodná pre každý prípad použitia v každej z troch uvedených situácií.

(21)

Každé použitie systému diaľkovej biometrickej identifikácie „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva by malo podliehať výslovnému a osobitnému povoleniu súdneho orgánu alebo nezávislého správneho orgánu členského štátu. Toto povolenie by bolo v zásade potrebné získať pred použitím systému, s výnimkou riadne odôvodnených naliehavých situácií, t. j. situácií, v ktorých je potreba použiť predmetné systémy tak naliehavá, že je naozaj objektívne nemožné získať povolenie pred začatím tohto použitia. V takýchto naliehavých situáciách by sa používanie malo obmedziť na absolútne nevyhnutné minimum a malo by podliehať primeraným zárukám a podmienkam stanoveným vo vnútroštátnom práve a špecifikovaným v kontexte každého jednotlivého naliehavého prípadu použitia samotným orgánom presadzovania práva. Okrem toho by sa orgán presadzovania práva mal v takýchto situáciách snažiť získať povolenie čo najskôr, pričom uvedie dôvody, pre ktoré ho nemohol požadovať skôr.

(22)

Navyše je vhodné v rámci podrobne opísanom týmto nariadením stanoviť, že takéto použitie na území členského štátu v súlade s týmto nariadením by malo byť možné len vtedy a do takej miery, do akej sa daný členský štát rozhodol výslovne stanoviť možnosť povoliť toto použitie vo svojich podrobných pravidlách vnútroštátneho práva. V dôsledku toho sa členské štáty môžu podľa tohto nariadenia naďalej na základe vlastného uváženia rozhodnúť, že takúto možnosť vôbec nestanovia alebo ju stanovia len v súvislosti s niektorými z cieľov, ktorými možno odôvodniť povolené použitie určené v tomto nariadení.

(23)

Používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva nevyhnutne zahŕňa spracúvanie biometrických údajov. Pravidlá tohto nariadenia, ktorými sa s výhradou určitých výnimiek takéto používanie zakazuje a ktoré sú založené na článku 16 ZFEÚ, by sa mali uplatňovať ako lex specialis, pokiaľ ide o pravidlá spracúvania biometrických údajov uvedené v článku 10 smernice (EÚ) 2016/680, čím by sa takéto používanie a spracúvanie príslušných biometrických údajov upravovalo vyčerpávajúcim spôsobom. Takéto používanie a spracúvanie by preto malo byť možné, len pokiaľ je zlučiteľné s rámcom stanoveným v tomto nariadení, a mimo tohto rámca by nemal existovať priestor na to, aby príslušné orgány, ak konajú na účely presadzovania práva, používali takéto systémy a spracúvali takéto údaje v súvislosti s týmto použitím z dôvodov uvedených v článku 10 smernice (EÚ) 2016/680. V tejto súvislosti nie je cieľom tohto nariadenia poskytnúť právny základ pre spracúvanie osobných údajov podľa článku 8 smernice 2016/680. Na používanie systémov umelej inteligencie na diaľkovú biometrickú identifikáciu „v reálnom čase“ vo verejne prístupných priestoroch na iné účely ako na presadzovanie práva, a to aj príslušnými orgánmi, by sa však nemal vzťahovať osobitný rámec týkajúci sa takéhoto použitia na účely presadzovania práva stanovený v tomto nariadení. Takéto použitie na iné účely ako na presadzovanie práva by preto nemalo podliehať požiadavke povolenia podľa tohto nariadenia a uplatniteľných podrobných pravidiel vnútroštátneho práva, na základe ktorých sa môže vykonávať.

(24)

Každé spracovanie biometrických údajov a iných osobných údajov súvisiace s používaním systémov umelej inteligencie na biometrickú identifikáciu, okrem spracovania v súvislosti s používaním systémov umelej inteligencie na diaľkovú biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch na účely presadzovania práva , ako sa stanovuje v tomto nariadení , vrátane prípadov, keď tieto systémy používajú príslušné orgány vo verejne prístupných priestoroch na iné účely ako na presadzovanie práva , by malo naďalej spĺňať všetky prípadné požiadavky vyplývajúce z článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 ods. 1 nariadenia (EÚ) 2018/1725 a článku 10 smernice (EÚ) 2016/680.

(24)

Každé spracovanie biometrických údajov a iných osobných údajov súvisiace s používaním systémov umelej inteligencie na biometrickú identifikáciu, okrem spracovania v súvislosti s používaním systémov umelej inteligencie na biometrickú identifikáciu fyzických osôb „v reálnom čase“ vo verejne prístupných priestoroch, ako sa stanovuje v tomto nariadení, by malo naďalej spĺňať všetky prípadné požiadavky vyplývajúce z článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 ods. 1 nariadenia (EÚ) 2018/1725 a článku 10 smernice (EÚ) 2016/680.

(25)

V súlade s článkom 6a Protokolu č. 21 o postavení Spojeného kráľovstva a Írska s ohľadom na priestor slobody, bezpečnosti a spravodlivosti, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Írsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d)  a článku 5 ods. 2 a 3 tohto nariadenia prijatého na základe článku 16 Zmluvy o fungovaní EÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ak Írsko nie je viazané pravidlami, ktorými sa spravujú formy justičnej spolupráce v trestných veciach alebo policajnej spolupráce, v rámci ktorých sa musia dodržiavať ustanovenia prijaté na základe článku 16 ZFEÚ.

(25)

V súlade s článkom 6a Protokolu č. 21 o postavení Spojeného kráľovstva a Írska s ohľadom na priestor slobody, bezpečnosti a spravodlivosti, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Írsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) tohto nariadenia prijatého na základe článku 16 Zmluvy o fungovaní EÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ak Írsko nie je viazané pravidlami, ktorými sa spravujú formy justičnej spolupráce v trestných veciach alebo policajnej spolupráce, v rámci ktorých sa musia dodržiavať ustanovenia prijaté na základe článku 16 ZFEÚ.

(26)

V súlade s článkami 2 a 2a Protokolu č. 22 o postavení Dánska, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Dánsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d)  a článku 5 ods. 2 a 3 tohto nariadenia prijatého na základe článku 16 ZFEÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ani nepodlieha ich uplatňovaniu.

(26)

V súlade s článkami 2 a 2a Protokolu č. 22 o postavení Dánska, ktorý je pripojený k ZEÚ a ZFEÚ, nie je Dánsko viazané pravidlami stanovenými v článku 5 ods. 1 písm. d) tohto nariadenia prijatého na základe článku 16 ZFEÚ, ktoré sa týkajú spracúvania osobných údajov členskými štátmi pri vykonávaní činností, ktoré patria do rozsahu pôsobnosti tretej časti hlavy V kapitoly 4 alebo kapitoly 5 ZFEÚ, ani nepodlieha ich uplatňovaniu.

(26a)

Systémy umelej inteligencie používané orgánmi presadzovania práva alebo v ich mene na posudzovanie predpovedí, profilov alebo rizík na základe profilovania fyzických osôb alebo analýzy údajov založenej na osobnostných znakoch a charakteristikách vrátane miesta pobytu osoby alebo trestnej činnosti fyzických osôb alebo skupín osôb v minulosti na účely predvídania výskytu alebo opätovného výskytu aktuálnych alebo potenciálnych trestných činov alebo iného kriminalizovaného sociálneho správania alebo správnych deliktov vrátane systémov predikcie podvodov predstavujú osobitné riziko diskriminácie určitých osôb alebo skupín osôb, pretože narúšajú ľudskú dôstojnosť a sú v rozpore s kľúčovou právnou zásadou prezumpcie neviny. Takéto systémy umelej inteligencie by sa preto mali zakázať.

(26b)

Nerozlišujúca a necielená extrakcia biometrických údajov zo sociálnych médií alebo zo záznamov z CCTV s cieľom vytvoriť alebo rozšíriť databázy na rozpoznávanie tváre zvyšuje pocit hromadného sledovania a môže viesť k hrubému porušovaniu základných práv vrátane práva na súkromie. Používanie systémov umelej inteligencie na tento stanovený účel by sa preto malo zakázať.

(26c)

Existujú vážne obavy o vedecký základ systémov umelej inteligencie, ktorých cieľom je zisťovať emócie, fyzické alebo fyziologické vlastnosti, ako sú výrazy tváre, pohyby, srdcová frekvencia alebo hlas. Emócie alebo výrazy a ich vnímanie sa výrazne líšia v rôznych kultúrach a situáciách, a dokonca aj v rámci jednej osoby. Medzi hlavné nedostatky takýchto technológií patrí obmedzená spoľahlivosť (kategórie emócií nie sú spoľahlivo vyjadrené prostredníctvom spoločného súboru fyzických alebo fyziologických pohybov, ani s nimi nie sú jednoznačne spojené), nedostatočná špecifickosť (fyzické alebo fyziologické výrazy nezodpovedajú dokonale kategóriám emócií) a obmedzená všeobecnosť (nie sú dostatočne zohľadnené vplyvy kontextu a kultúry). Problémy so spoľahlivosťou a následne aj závažné riziká zneužívania môžu vzniknúť najmä pri zavádzaní systému v reálnych situáciách súvisiacich s presadzovaním práva, riadením hraníc, miestom výkonu práce a vzdelávacími inštitúciami. Preto by sa malo zakázať uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov umelej inteligencie určených na používanie v týchto súvislostiach na zisťovanie emocionálneho stavu jednotlivcov.

(26d)

Toto nariadenie by nemalo mať vplyv na postupy, ktoré sú zakázané právnymi predpismi Únie, okrem iného právnymi predpismi o ochrane údajov, nediskriminácii, ochrane spotrebiteľa a právom hospodárskej súťaže.

(27)

Vysokorizikové systémy umelej inteligencie by sa mali uviesť na trh Únie alebo do prevádzky len vtedy, ak spĺňajú určité povinné požiadavky. Týmito požiadavkami by sa malo zabezpečiť, aby vysokorizikové systémy umelej inteligencie, ktoré sú dostupné v Únii alebo ktorých výstupy sú v Únii inak využívané, nepredstavovali neprijateľné riziká pre dôležité verejné záujmy Únie uznané a chránené právom Únie. Systémy umelej inteligencie označené ako vysokorizikové by sa mali obmedziť na tie, ktoré majú významný škodlivý vplyv na zdravie, bezpečnosť a základné práva osôb v Únii, a takéto obmedzenie minimalizuje akékoľvek prípadné obmedzenie medzinárodného obchodu.

(27)

Vysokorizikové systémy umelej inteligencie by sa mali uviesť na trh Únie a do prevádzky alebo používať len vtedy, ak spĺňajú určité povinné požiadavky. Týmito požiadavkami by sa malo zabezpečiť, aby vysokorizikové systémy umelej inteligencie, ktoré sú dostupné v Únii alebo ktorých výstupy sú v Únii inak využívané, nepredstavovali neprijateľné riziká pre dôležité verejné záujmy Únie uznané a chránené právom Únie vrátane základných práv, demokracie, právneho štátu alebo životného prostredia. S cieľom zabezpečiť súlad s odvetvovými právnymi predpismi a zabrániť duplicite by požiadavky na vysokorizikové systémy umelej inteligencie mali zohľadňovať odvetvové právne predpisy, ktorými sa stanovujú požiadavky na vysokorizikové systémy umelej inteligencie zahrnuté do rozsahu pôsobnosti tohto nariadenia, ako napríklad nariadenie (EÚ) 2017/745 o zdravotníckych pomôckach a nariadenie (EÚ) 2017/746 o diagnostických pomôckach in vitro alebo smernica 2006/42/ES o strojových zariadeniach . Systémy umelej inteligencie označené ako vysokorizikové by sa mali obmedziť na tie, ktoré majú významný škodlivý vplyv na zdravie, bezpečnosť a základné práva osôb v Únii, a takéto obmedzenie minimalizuje akékoľvek prípadné obmedzenie medzinárodného obchodu. Vzhľadom na rýchle tempo technologického vývoja, ako aj na potenciálne zmeny vo využívaní systémov umelej inteligencie by zoznam vysokorizikových oblastí a prípadov použitia v prílohe III mal napriek tomu podliehať trvalej revízii prostredníctvom pravidelného posudzovania.

(28)

Systémy umelej inteligencie by mohli mať nepriaznivé účinky na zdravie a bezpečnosť osôb, najmä ak takéto systémy fungujú ako komponenty výrobkov. V súlade s cieľmi harmonizačných právnych predpisov Únie uľahčiť voľný pohyb výrobkov na vnútornom trhu a zabezpečiť, aby sa na trh dostali len bezpečné a inak vyhovujúce výrobky, je dôležité, aby sa riadne predchádzalo bezpečnostným rizikám, ktoré môže výrobok ako celok vytvárať svojimi digitálnymi komponentmi vrátane systémov umelej inteligencie, a aby sa tieto riziká náležite zmierňovali. Napríklad čoraz autonómnejšie roboty, či už v kontexte výroby alebo osobnej asistencie a starostlivosti, by mali byť schopné bezpečne fungovať a vykonávať svoje funkcie v zložitých prostrediach. Podobne v sektore zdravotníctva, kde existuje obzvlášť vysoké riziko v oblasti života a zdravia, by mali byť čoraz sofistikovanejšie diagnostické systémy a systémy podporujúce ľudské rozhodnutia spoľahlivé a presné. Pri klasifikácii systému umelej inteligencie ako vysokorizikového je obzvlášť dôležitý rozsah nepriaznivého vplyvu systému umelej inteligencie na základné práva chránené chartou. Medzi tieto práva patrí právo na ľudskú dôstojnosť, rešpektovanie súkromného a rodinného života, ochrana osobných údajov, sloboda prejavu a právo na informácie, sloboda zhromažďovania a združovania, nediskriminácia, ochrana spotrebiteľa, základné pracovné práva, práva osôb so zdravotným postihnutím, právo na účinný prostriedok nápravy a na spravodlivý proces, právo na obhajobu a prezumpcia neviny, právo na dobrú správu vecí verejných. Okrem týchto práv je dôležité zdôrazniť, že deti majú osobitné práva zakotvené v článku 24 Charty EÚ a v Dohovore Organizácie Spojených národov o právach dieťaťa (ďalej rozpracované vo všeobecnej poznámke č. 25 Dohovoru OSN o právach dieťaťa, pokiaľ ide o digitálne prostredie), ktoré si v oboch prípadoch vyžadujú zváženie zraniteľnosti detí a poskytnutie takejto ochrany a starostlivosti nevyhnutných pre ich blaho. Pri posudzovaní závažnosti ujmy, ktorú môže systém umelej inteligencie spôsobiť, a to aj v súvislosti so zdravím a bezpečnosťou osôb, by sa malo zohľadniť aj základné právo na vysokú úroveň ochrany životného prostredia zakotvené v charte a vykonávané v politikách Únie.

(28)

Systémy umelej inteligencie by mohli mať nepriaznivý vplyv na zdravie a bezpečnosť osôb, najmä ak takéto systémy fungujú ako bezpečnostné komponenty výrobkov. V súlade s cieľmi harmonizačných právnych predpisov Únie uľahčiť voľný pohyb výrobkov na vnútornom trhu a zabezpečiť, aby sa na trh dostali len bezpečné a inak vyhovujúce výrobky, je dôležité, aby sa riadne predchádzalo bezpečnostným rizikám, ktoré môže výrobok ako celok vytvárať svojimi digitálnymi komponentmi vrátane systémov umelej inteligencie, a aby sa tieto riziká náležite zmierňovali. Napríklad čoraz autonómnejšie roboty, či už v kontexte výroby alebo osobnej asistencie a starostlivosti, by mali byť schopné bezpečne fungovať a vykonávať svoje funkcie v zložitých prostrediach. Podobne v sektore zdravotníctva, kde existuje obzvlášť vysoké riziko v oblasti života a zdravia, by mali byť čoraz sofistikovanejšie diagnostické systémy a systémy podporujúce ľudské rozhodnutia spoľahlivé a presné.

(28a)

Pri klasifikácii systému umelej inteligencie ako vysokorizikového je obzvlášť dôležitý rozsah nepriaznivého vplyvu systému umelej inteligencie na základné práva chránené chartou. Medzi tieto práva patrí právo na ľudskú dôstojnosť, rešpektovanie súkromného a rodinného života, ochrana osobných údajov, sloboda prejavu a právo na informácie, sloboda zhromažďovania a združovania, nediskriminácia, právo na vzdelávanie, ochrana spotrebiteľa, základné pracovné práva, práva osôb so zdravotným postihnutím, rodová rovnosť, práva duševného vlastníctva, právo na účinný prostriedok nápravy a na spravodlivý proces, právo na obhajobu a prezumpcia neviny, právo na dobrú správu vecí verejných. Okrem týchto práv je dôležité zdôrazniť, že deti majú osobitné práva zakotvené v článku 24 Charty EÚ a v Dohovore Organizácie Spojených národov o právach dieťaťa (ďalej rozpracované vo všeobecnej poznámke č. 25 Dohovoru OSN o právach dieťaťa, pokiaľ ide o digitálne prostredie), ktoré si v oboch prípadoch vyžadujú zváženie zraniteľnosti detí a poskytnutie takejto ochrany a starostlivosti nevyhnutných pre ich blaho. Pri posudzovaní závažnosti ujmy, ktorú môže systém umelej inteligencie spôsobiť, a to aj v súvislosti so zdravím a bezpečnosťou osôb alebo životným prostredím, by sa malo zohľadniť aj základné právo na vysokú úroveň ochrany životného prostredia zakotvené v charte a vykonávané v politikách Únie.

(29)

Pokiaľ ide o vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami patriacimi do rozsahu pôsobnosti nariadenia Európskeho parlamentu a Rady (ES) č. 300/2008 (39), nariadenia Európskeho parlamentu a Rady (EÚ) č. 167/2013 (40), nariadenia Európskeho parlamentu a Rady (EÚ) č. 168/2013 (41), smernice Európskeho parlamentu a Rady 2014/90/EÚ (42), smernice Európskeho parlamentu a Rady (EÚ) 2016/797 (43), nariadenia Európskeho parlamentu a Rady (EÚ) 2018/858 (44), nariadenia Európskeho parlamentu a Rady (EÚ) 2018/1139 (45) a nariadenia Európskeho parlamentu a Rady (EÚ) 2019/2144 (46), je vhodné uvedené akty zmeniť s cieľom zaistiť, aby Komisia pri prijímaní akýchkoľvek budúcich relevantných delegovaných alebo vykonávacích aktov na základe uvedených aktov zohľadňovala povinné požiadavky na vysokorizikové systémy umelej inteligencie stanovené v tomto nariadení na základe technických a regulačných osobitostí jednotlivých odvetví bez toho, aby zasahovala do existujúcich mechanizmov správy, posudzovania zhody a presadzovania a do orgánov zriadených v rámci uvedených aktov.

(29)

Pokiaľ ide o vysokorizikové systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo systémov, alebo ktoré sú samy výrobkami alebo systémami patriacimi do rozsahu pôsobnosti nariadenia Európskeho parlamentu a Rady (ES) č. 300/2008 (39), nariadenia Európskeho parlamentu a Rady (EÚ) č. 167/2013 (40), nariadenia Európskeho parlamentu a Rady (EÚ) č. 168/2013 (41), smernice Európskeho parlamentu a Rady 2014/90/EÚ (42), smernice Európskeho parlamentu a Rady (EÚ) 2016/797 (43), nariadenia Európskeho parlamentu a Rady (EÚ) 2018/858 (44), nariadenia Európskeho parlamentu a Rady (EÚ) 2018/1139 (45) a nariadenia Európskeho parlamentu a Rady (EÚ) 2019/2144 (46), je vhodné uvedené akty zmeniť s cieľom zaistiť, aby Komisia pri prijímaní akýchkoľvek budúcich relevantných delegovaných alebo vykonávacích aktov na základe uvedených aktov zohľadňovala povinné požiadavky na vysokorizikové systémy umelej inteligencie stanovené v tomto nariadení na základe technických a regulačných osobitostí jednotlivých odvetví bez toho, aby zasahovala do existujúcich mechanizmov správy, posudzovania zhody , dohľadu nad trhom a presadzovania a do orgánov zriadených v rámci uvedených aktov.

(30)

Pokiaľ ide o systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo ktoré sú samy výrobkami, ktoré patria do rozsahu pôsobnosti určitých harmonizačných právnych predpisov Únie, je vhodné klasifikovať ich podľa tohto nariadenia ako vysokorizikové, pokiaľ v prípade daného výrobku vykonáva postup posudzovania zhody orgán posudzovania zhody tretej strany podľa príslušných harmonizačných právnych predpisov Únie. Medzi takéto výrobky patria najmä strojové zariadenia, hračky, výťahy, zariadenia a ochranné systémy určené na použitie v prostredí s nebezpečím výbuchu, rádiové zariadenia, tlakové zariadenia, vybavenie rekreačných plavidiel, lanovkové zariadenia, spotrebiče spaľujúce plynné palivá, zdravotnícke pomôcky a diagnostické zdravotnícke pomôcky in vitro.

(30)

Pokiaľ ide o systémy umelej inteligencie, ktoré sú bezpečnostnými komponentmi výrobkov alebo ktoré sú samy výrobkami, ktoré patria do rozsahu pôsobnosti určitých harmonizačných právnych predpisov Únie uvedených v prílohe II , je vhodné klasifikovať ich podľa tohto nariadenia ako vysokorizikové, pokiaľ v prípade daného výrobku s cieľom zabezpečiť súlad so základnými bezpečnostnými požiadavkami vykonáva postup posudzovania zhody orgán posudzovania zhody tretej strany podľa príslušných harmonizačných právnych predpisov Únie. Medzi takéto výrobky patria najmä strojové zariadenia, hračky, výťahy, zariadenia a ochranné systémy určené na použitie v prostredí s nebezpečím výbuchu, rádiové zariadenia, tlakové zariadenia, vybavenie rekreačných plavidiel, lanovkové zariadenia, spotrebiče spaľujúce plynné palivá, zdravotnícke pomôcky a diagnostické zdravotnícke pomôcky in vitro.

(31)

Klasifikácia systému umelej inteligencie ako vysokorizikového podľa tohto nariadenia by nemala nevyhnutne znamenať, že výrobok, ktorého bezpečnostným komponentom je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa považuje za „vysokorizikový“ podľa kritérií stanovených v príslušných harmonizačných právnych predpisoch Únie, ktoré sa vzťahujú na daný výrobok. Platí to najmä pre nariadenie Európskeho parlamentu a Rady (EÚ) 2017/745 (47) a nariadenie Európskeho parlamentu a Rady (EÚ) 2017/746 (48), kde sa pre výrobky so stredným a vysokým rizikom vyžaduje posudzovanie zhody treťou stranou.

(31)

Klasifikácia systému umelej inteligencie ako vysokorizikového podľa tohto nariadenia by nemala znamenať, že výrobok, ktorého bezpečnostným komponentom je systém umelej inteligencie, alebo samotný systém umelej inteligencie ako výrobok sa považuje za „vysokorizikový“ podľa kritérií stanovených v príslušných harmonizačných právnych predpisoch Únie, ktoré sa vzťahujú na daný výrobok. Platí to najmä pre nariadenie Európskeho parlamentu a Rady (EÚ) 2017/745 (47) a nariadenie Európskeho parlamentu a Rady (EÚ) 2017/746 (48), kde sa pre výrobky so stredným a vysokým rizikom vyžaduje posudzovanie zhody treťou stranou.

(32)

Pokiaľ ide o samostatné systémy umelej inteligencie, t. j. vysokorizikové systémy umelej inteligencie iné ako tie, ktoré sú bezpečnostnými komponentmi výrobkov, alebo ktoré sú samy výrobkami, je vhodné klasifikovať ich ako vysokorizikové, ak vzhľadom na svoj zamýšľaný účel predstavujú vysoké riziko poškodenia zdravia a bezpečnosti alebo základných práv osôb, pričom sa berie do úvahy závažnosť možnej ujmy a pravdepodobnosť jej výskytu, a  ak sa využívajú vo viacerých oblastiach uvedených v nariadení , ktoré sú jasne vopred vymedzené . Identifikácia týchto systémov je založená na rovnakej metodike a kritériách, aké sa predpokladajú aj v prípade akýchkoľvek budúcich zmien zoznamu vysokorizikových systémov umelej inteligencie.

(32)

Pokiaľ ide o samostatné systémy umelej inteligencie, t. j. vysokorizikové systémy umelej inteligencie iné ako tie, ktoré sú bezpečnostnými komponentmi výrobkov, alebo ktoré sú samy výrobkami a ktoré sú uvedené v jednej z oblastí a prípadov použitia v prílohe III , je vhodné klasifikovať ich ako vysokorizikové, ak vzhľadom na svoj zamýšľaný účel predstavujú významné riziko poškodenia zdravia a bezpečnosti alebo základných práv osôb, a ak sa systém umelej inteligencie používa ako bezpečnostný komponent kritickej infraštruktúry, pre životné prostredie. Takéto významné riziko poškodenia by sa malo určiť tak, že sa na jednej strane posúdi účinok takéhoto rizika, pokiaľ ide o jeho stupeň závažnosti, intenzitu, pravdepodobnosť výskytu a celkové trvanie , a  na druhej strane, či riziko môže ovplyvniť jednotlivca, pluralitu osôb alebo konkrétnu skupinu osôb. Takáto kombinácia by napríklad mohla viesť k vysokej závažnosti, ale nízkej pravdepodobnosti ovplyvnenia fyzickej osoby , alebo k vysokej pravdepodobnosti ovplyvnenia skupiny osôb s nízkou intenzitou počas dlhého časového obdobia v závislosti od kontextu . Identifikácia týchto systémov je založená na rovnakej metodike a kritériách, aké sa predpokladajú aj v prípade akýchkoľvek budúcich zmien zoznamu vysokorizikových systémov umelej inteligencie.

(32a)

Poskytovatelia, ktorých systémy umelej inteligencie patria do jednej z oblastí a prípadov použitia uvedených v prílohe III, ktorí sa domnievajú, že ich systém nepredstavuje závažné riziko poškodenia zdravia, bezpečnosti, základných práv alebo životného prostredia, by mali informovať vnútroštátne dozorné orgány predložením odôvodneného oznámenia. Mohlo by mať podobu jednostranového zhrnutia relevantných informácií o dotknutom systéme umelej inteligencie vrátane jeho zamýšľaného účelu a dôvodov, prečo by nepredstavoval významné riziko poškodenia zdravia, bezpečnosti, základných práv alebo životného prostredia. Komisia by mala stanoviť kritériá, ktoré umožnia spoločnostiam posúdiť, či by ich systém predstavoval takéto riziká, ako aj vypracovať ľahko použiteľný a štandardizovaný vzor oznámenia. Poskytovatelia by mali predložiť oznámenie čo najskôr a v každom prípade pred uvedením systému umelej inteligencie na trh alebo jeho uvedením do prevádzky, v ideálnom prípade vo fáze vývoja, a mali by mať možnosť uviesť ho na trh kedykoľvek po oznámení. Ak však orgán odhadne, že dotknutý systém umelej inteligencie bol nesprávne klasifikovaný, mal by proti oznámeniu vzniesť námietku v lehote troch mesiacov. Námietka by mala byť odôvodnená a malo by sa v nej náležite vysvetliť, prečo bol systém umelej inteligencie nesprávne klasifikovaný. Poskytovateľ by si mal ponechať právo odvolať sa poskytnutím ďalších argumentov. Ak po uplynutí troch mesiacov neboli voči oznámeniu vznesené žiadne námietky, vnútroštátne dozorné orgány môžu stále zasiahnuť, ak systém umelej inteligencie predstavuje riziko na vnútroštátnej úrovni, ako aj v prípade akéhokoľvek iného systému umelej inteligencie na trhu. Vnútroštátne dozorné orgány by mali úradu pre umelú inteligenciu predkladať výročné správy s podrobnými informáciami o prijatých oznámeniach a prijatých rozhodnutiach.

(33)

Technické nepresnosti systémov umelej inteligencie určených na diaľkovú biometrickú identifikáciu fyzických osôb môžu viesť k skresleným výsledkom a mať diskriminačné účinky. Platí to najmä v prípade veku, etnického pôvodu, pohlavia alebo zdravotných postihnutí. Preto by sa systémy diaľkovej biometrickej identifikácie „v reálnom čase“ a „následnej“ diaľkovej biometrickej identifikácie mali klasifikovať ako vysokorizikové. Vzhľadom na riziká, ktoré predstavujú, by oba typy systémov diaľkovej biometrickej identifikácie mali podliehať osobitným požiadavkám týkajúcim sa schopností logovania a ľudského dohľadu.

(33a)

Keďže biometrické údaje predstavujú osobitnú kategóriu citlivých údajov v súlade s nariadením 2016/679, je vhodné klasifikovať ako vysokorizikové viaceré kritické prípady použitia biometrických a na biometrii založených systémov. Systémy umelej inteligencie určené na biometrickú identifikáciu fyzických osôb a systémy umelej inteligencie určené na vyvodzovanie záverov o osobných vlastnostiach fyzických osôb na základe biometrických údajov alebo údajov založených na biometrii vrátane systémov na rozpoznávanie emócií, s výnimkou tých, ktoré sú podľa tohto nariadenia zakázané, by sa preto mali klasifikovať ako vysokorizikové. To by nemalo zahŕňať systémy umelej inteligencie určené na biometrické overovanie, ktoré zahŕňa autentifikáciu, ktorej jediným účelom je potvrdiť, že konkrétna fyzická osoba je príslušná osoba, ako to tvrdí, a potvrdiť totožnosť fyzickej osoby výlučne na účely prístupu k službe, zariadeniu alebo do priestorov (overenie totožnosti). Biometrické a na biometrii založené systémy, ktoré sú stanovené v práve Únie s cieľom umožniť opatrenia v oblasti kybernetickej bezpečnosti a ochrany osobných údajov, by sa nemali považovať za systémy predstavujúce významné riziko poškodenia zdravia, bezpečnosti a základných práv.

(34)

Pokiaľ ide o riadenie a prevádzku kritickej infraštruktúry, je vhodné klasifikovať ako vysokorizikové také systémy umelej inteligencie, ktoré sú určené na používanie ako bezpečnostné komponenty pri riadení a prevádzke cestnej premávky a pri dodávkach vody, plynu, tepla a elektrickej energie, keďže ich zlyhanie alebo porucha môže ohroziť život a zdravie osôb vo veľkom rozsahu a viesť k značným narušeniam bežného vykonávania sociálnych a hospodárskych činností.

(34)

Pokiaľ ide o riadenie a prevádzku kritickej infraštruktúry, je vhodné klasifikovať ako vysokorizikové také systémy umelej inteligencie, ktoré sú určené na používanie ako bezpečnostné komponenty pri riadení a prevádzke dodávok vody, plynu, tepla, elektrickej energie a kritickej digitálnej infraštruktúry, keďže ich zlyhanie alebo porucha môže narušiť bezpečnosť a integritu takejto kritickej infraštruktúry alebo ohroziť život a zdravie osôb vo veľkom rozsahu a viesť k značným narušeniam bežného vykonávania sociálnych a hospodárskych činností. Bezpečnostné komponenty kritickej infraštruktúry vrátane kritickej digitálnej infraštruktúry sú systémy používané na priamu ochranu fyzickej integrity kritickej infraštruktúry alebo zdravia a bezpečnosti osôb a majetku. Zlyhanie alebo porucha takýchto komponentov môže priamo viesť k rizikám pre fyzickú integritu kritickej infraštruktúry, a tým k rizikám pre zdravie a bezpečnosť osôb a majetku. Komponenty, ktoré sa majú používať výlučne na účely kybernetickej bezpečnosti, by sa nemali považovať za bezpečnostné komponenty. Príklady takýchto bezpečnostných komponentov môžu zahŕňať systémy monitorovania tlaku vody alebo systémy riadenia požiarneho poplachu v centrách cloud computingu.

(35)

Za vysokorizikové by sa mali považovať systémy umelej inteligencie používané vo vzdelávaní alebo odbornej príprave, najmä na určovanie prístupu osôb do inštitúcií vzdelávania a odbornej prípravy alebo na ich priradenie k týmto inštitúciám, alebo na hodnotenie osôb na základe testov ako súčasť ich vzdelávania alebo ako predpoklad pre ich vzdelávanie, pretože môžu určovať vzdelávací a profesionálny priebeh života osoby, a tým ovplyvňovať jej schopnosť zabezpečiť si živobytie. Ak sú takéto systémy navrhnuté a používané nesprávne, môžu porušovať právo na vzdelanie a odbornú prípravu, ako aj právo nebyť diskriminovaný a tým zachovávať zaužívané formy diskriminácie.

(35)

Zavádzanie systémov umelej inteligencie vo vzdelávaní je dôležité pri modernizácii celých vzdelávacích systémov a zvyšovaní kvality vzdelávania, a to offline aj online, a urýchlení digitálneho vzdelávania, a tým aj jeho sprístupnení širšej verejnosti. Systémy umelej inteligencie používané vo vzdelávaní alebo odbornej príprave, najmä na určovanie prístupu alebo podstatné ovplyvňovanie rozhodnutí o prijatí alebo o pridelení osôb do inštitúcií vzdelávania a odbornej prípravy alebo na ich priradenie k týmto inštitúciám, alebo na hodnotenie osôb na základe testov ako súčasť ich vzdelávania alebo ako predpoklad pre ich vzdelávanie, alebo na posúdenie primeranej úrovne vzdelania pre jednotlivca a podstatné ovplyvňovanie úrovne vzdelávania a odbornej prípravy, ktorú jednotlivci dostanú, alebo na prístup k zakázanému správaniu študentov počas testov alebo na jeho monitorovanie a odhaľovanie, by sa mali klasifikovať ako vysokorizikové systémy umelej inteligencie, pretože môžu určovať vzdelávací a profesionálny priebeh života osoby, a tým ovplyvňovať jej schopnosť zabezpečiť si živobytie. Ak sú takéto systémy navrhnuté a používané nesprávne, môžu byť obzvlášť rušivé a môžu porušovať právo na vzdelanie a odbornú prípravu, ako aj právo nebyť diskriminovaný, a tým zachovávať zaužívané formy diskriminácie , napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo s určitou sexuálnou orientáciou .

(36)

Ako vysokorizikové by sa mali klasifikovať aj systémy umelej inteligencie používané pri zamestnávaní, riadení pracovníkov a prístupe k samostatnej zárobkovej činnosti, najmä pri nábore a výbere osôb, pri rozhodovaní o povýšení a ukončení pracovného pomeru a pri prideľovaní úloh, monitorovaní alebo hodnotení osôb v zmluvných pracovnoprávnych vzťahoch, pretože tieto systémy môžu významne ovplyvniť budúce kariérne vyhliadky a  živobytie týchto osôb. Príslušné zmluvné pracovnoprávne vzťahy by mali zahŕňať zamestnancov a osoby, ktorí poskytujú služby prostredníctvom platforiem, ako sa uvádza v pracovnom programe Komisie na rok 2021. Takéto osoby by sa v zásade nemali považovať za používateľov v zmysle tohto nariadenia. Takéto systémy môžu počas celého procesu prijímania do zamestnania a počas hodnotenia, povyšovania alebo udržiavania osôb v zmluvných pracovnoprávnych vzťahoch zachovávať zaužívané formy diskriminácie, napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo sexuálnej orientácie. Systémy umelej inteligencie používané na monitorovanie výkonnosti a správania týchto osôb môžu mať vplyv aj na ich práva na ochranu údajov a súkromia.

(36)

Ako vysokorizikové by sa mali klasifikovať aj systémy umelej inteligencie používané pri zamestnávaní, riadení pracovníkov a prístupe k samostatnej zárobkovej činnosti, najmä pri nábore a výbere osôb, pri rozhodovaní alebo podstatnom ovplyvňovaní rozhodovania o  začatí pracovného pomeru, povýšení a ukončení pracovného pomeru a pri prideľovaní personalizovaných úloh na základe individuálneho správania, osobných rysov alebo biometrických údajov , monitorovaní alebo hodnotení osôb v zmluvných pracovnoprávnych vzťahoch, pretože tieto systémy môžu významne ovplyvniť budúce kariérne vyhliadky, živobytie týchto osôb a základné pracovné práva . Príslušné zmluvné pracovnoprávne vzťahy by mali zmysluplne zahŕňať zamestnancov a osoby, ktorí poskytujú služby prostredníctvom platforiem, ako sa uvádza v pracovnom programe Komisie na rok 2021. Takéto systémy môžu počas celého procesu prijímania do zamestnania a počas hodnotenia, povyšovania alebo udržiavania osôb v zmluvných pracovnoprávnych vzťahoch zachovávať zaužívané formy diskriminácie, napríklad žien, určitých vekových skupín, osôb so zdravotným postihnutím alebo osôb určitého rasového alebo etnického pôvodu alebo sexuálnej orientácie. Systémy umelej inteligencie používané na monitorovanie výkonnosti a správania týchto osôb môžu tiež oslabiť podstatu ich základných práv na ochranu údajov a súkromia. Toto nariadenie sa uplatňuje bez toho, aby boli dotknuté právomoci Únie a členských štátov stanoviť konkrétnejšie pravidlá používania systémov umelej inteligencie v kontexte zamestnanosti.

(37)

Ďalšou oblasťou, v ktorej si využívanie systémov umelej inteligencie zaslúži osobitnú pozornosť, je prístup k určitým základným súkromným a verejným službám a dávkam, ktoré sú potrebné na to, aby sa ľudia mohli plne zapojiť do spoločnosti alebo si mohli zlepšiť životnú úroveň, a ich využívanie. Ako vysokorizikové by sa mali klasifikovať najmä systémy umelej inteligencie používané na bodové hodnotenie kreditného rizika alebo hodnotenie úverovej bonity fyzických osôb, pretože určujú prístup týchto osôb k finančným zdrojom alebo základným službám, ako sú bývanie, elektrická energia a telekomunikačné služby. Systémy umelej inteligencie používané na tento účel môžu viesť k diskriminácii osôb alebo skupín a zachovávať zaužívané formy diskriminácie, napríklad na základe rasového alebo etnického pôvodu, zdravotných postihnutí, veku, sexuálnej orientácie, alebo môžu vytvárať nové formy diskriminačných vplyvov. Vzhľadom na veľmi obmedzený rozsah vplyvu a dostupné alternatívy na trhu je vhodné stanoviť výnimku pre systémy umelej inteligencie na účely posudzovania úverovej bonity a bodového hodnotenia kreditného rizika, pokiaľ ich uvedú do prevádzky malí poskytovatelia pre svoju vlastnú potrebu . Fyzické osoby, ktoré žiadajú o dávky a služby verejnej pomoci alebo ktoré od orgánov verejnej moci prijímajú tieto dávky a služby, sú zvyčajne od týchto dávok a služieb závislé a nachádzajú sa v zraniteľnom postavení vo vzťahu k zodpovedným orgánom. Ak sa systémy umelej inteligencie používajú na určenie toho, či by orgány mali takéto dávky a služby zamietnuť, znížiť, zrušiť alebo žiadať o ich vrátenie, môžu mať významný vplyv na živobytie osôb a môžu porušovať ich základné práva, ako je právo na sociálnu ochranu, nediskrimináciu, ľudskú dôstojnosť alebo účinný prostriedok nápravy. Preto by sa tieto systémy mali klasifikovať ako vysokorizikové. Toto nariadenie by však nemalo brániť rozvoju a využívaniu inovačných prístupov vo verejnej správe, pre ktorú by mohlo byť širšie využívanie vyhovujúcich a bezpečných systémov umelej inteligencie prospešné, za predpokladu, že tieto systémy nepredstavujú vysoké riziko pre právnické a fyzické osoby. V konečnom dôsledku by sa ako vysokorizikové mali klasifikovať aj systémy umelej inteligencie používané na vysielanie záchranných služieb prvej reakcie alebo na stanovovanie priority ich vysielania, pretože prijímajú rozhodnutia v situáciách, ktoré sú veľmi kritické z hľadiska života a zdravia osôb a ich majetku.

(37)

Ďalšou oblasťou, v ktorej si využívanie systémov umelej inteligencie zaslúži osobitnú pozornosť, je prístup k určitým základným súkromným a verejným službám vrátane služieb zdravotnej starostlivosti a základných služieb, okrem iného bývania, elektrickej energie, vykurovania/chladenia a internetu, a dávkam, ktoré sú potrebné na to, aby sa ľudia mohli plne zapojiť do spoločnosti alebo si mohli zlepšiť životnú úroveň, a ich využívanie. Ako vysokorizikové by sa mali klasifikovať najmä systémy umelej inteligencie používané na bodové hodnotenie kreditného rizika alebo hodnotenie úverovej bonity fyzických osôb, pretože určujú prístup týchto osôb k finančným zdrojom alebo základným službám, ako sú bývanie, elektrická energia a telekomunikačné služby. Systémy umelej inteligencie používané na tento účel môžu viesť k diskriminácii osôb alebo skupín a zachovávať zaužívané formy diskriminácie, napríklad na základe rasového alebo etnického pôvodu, zdravotných postihnutí, veku, sexuálnej orientácie, alebo môžu vytvárať nové formy diskriminačných vplyvov. Systémy umelej inteligencie stanovené v práve Únie na účely odhaľovania podvodov pri ponúkaní finančných služieb by sa však podľa tohto nariadenia nemali považovať za vysokorizikové. Fyzické osoby, ktoré žiadajú o dávky a služby verejnej pomoci alebo ktoré od orgánov verejnej moci prijímajú tieto dávky a služby vrátane služieb zdravotnej starostlivosti a základných služieb, okrem iného bývania, elektrickej energie, vykurovania/chladenia a internetu , sú zvyčajne od týchto dávok a služieb závislé a nachádzajú sa v zraniteľnom postavení vo vzťahu k zodpovedným orgánom. Ak sa systémy umelej inteligencie používajú na určenie toho, či by orgány mali takéto dávky a služby zamietnuť, znížiť, zrušiť alebo žiadať o ich vrátenie, môžu mať významný vplyv na živobytie osôb a môžu porušovať ich základné práva, ako je právo na sociálnu ochranu, nediskrimináciu, ľudskú dôstojnosť alebo účinný prostriedok nápravy. Podobne systémy umelej inteligencie určené na prijímanie rozhodnutí alebo podstatné ovplyvňovanie rozhodnutí o oprávnenosti fyzických osôb na zdravotné a životné poistenie môžu mať významný vplyv aj na živobytie osôb a môžu porušovať ich základné práva, napríklad obmedzením prístupu k zdravotnej starostlivosti alebo udržaním diskriminácie na základe osobných charakteristík. Preto by sa tieto systémy mali klasifikovať ako vysokorizikové. Toto nariadenie by však nemalo brániť rozvoju a využívaniu inovačných prístupov vo verejnej správe, pre ktorú by mohlo byť širšie využívanie vyhovujúcich a bezpečných systémov umelej inteligencie prospešné, za predpokladu, že tieto systémy nepredstavujú vysoké riziko pre právnické a fyzické osoby. V konečnom dôsledku by sa ako vysokorizikové mali klasifikovať aj systémy umelej inteligencie používané na hodnotenie a klasifikáciu tiesňových volaní fyzických osôb alebo na vysielanie záchranných služieb prvej reakcie alebo na stanovovanie priority ich vysielania, pretože prijímajú rozhodnutia v situáciách, ktoré sú veľmi kritické z hľadiska života a zdravia osôb a ich majetku.

(37a)

Vzhľadom na úlohu a zodpovednosť policajných a justičných orgánov a vplyv rozhodnutí, ktoré prijímajú na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania alebo výkonu trestných sankcií, sa niektoré konkrétne prípady použitia aplikácií umelej inteligencie pri presadzovaní práva musia klasifikovať ako vysoko rizikové v prípadoch, keď je možné, že by významne ovplyvnili životy alebo základné práva jednotlivcov.

(38)

Opatrenia orgánov presadzovania práva zahŕňajúce určité použitia systémov umelej inteligencie sa vyznačujú značným stupňom nerovnováhy právomocí a môžu viesť k sledovaniu, zatknutiu alebo pozbaveniu slobody fyzickej osoby, ako aj k iným nepriaznivým vplyvom na základné práva zaručené chartou. Najmä ak systém umelej inteligencie nie je trénovaný na vysokokvalitných údajoch, nespĺňa primerané požiadavky, pokiaľ ide o jeho presnosť alebo spoľahlivosť, alebo nie je pred uvedením na trh alebo do prevádzky riadne koncipovaný a otestovaný, môže ľudí vylúčiť diskriminačným alebo inak nesprávnym či nespravodlivým spôsobom. Okrem toho by mohlo byť obmedzené uplatňovanie dôležitých procesných základných práv, ako je právo na účinný prostriedok nápravy a na spravodlivý proces, ako aj právo na obhajobu a prezumpcia neviny, najmä ak takéto systémy umelej inteligencie nie sú dostatočne transparentné, vysvetliteľné a zdokumentované. Preto je vhodné klasifikovať ako vysokorizikové viaceré systémy umelej inteligencie určené na používanie v kontexte presadzovania práva, kde je presnosť, spoľahlivosť a transparentnosť obzvlášť dôležitá, aby sa zabránilo nepriaznivým vplyvom, zachovala dôvera verejnosti a zabezpečila zodpovednosť a účinná náprava. Vzhľadom na povahu predmetných činností a súvisiace riziká by tieto vysokorizikové systémy umelej inteligencie mali zahŕňať najmä systémy umelej inteligencie, ktoré majú orgány presadzovania práva používať na individuálne posúdenia rizika , ako detektory lži a podobné nástroje alebo na zisťovanie emocionálneho stavu fyzickej osoby , odhaľovanie vykonštruovaných správ , ktoré manipulujú s obsahom (tzv. deepfakes) , na hodnotenie spoľahlivosti dôkazov v trestnom konaní, na predpovedanie výskytu alebo opätovného výskytu skutočného alebo potenciálneho trestného činu na základe profilovania fyzických osôb alebo posudzovania osobnostných a  povahových rysov alebo trestnej činnosti fyzických osôb alebo skupín v minulosti , na profilovanie v priebehu odhaľovania, vyšetrovania alebo stíhania trestných činov, ako aj na analýzu trestnej činnosti vo vzťahu k fyzickým osobám. Systémy umelej inteligencie, ktoré sú osobitne určené na používanie daňovými a colnými orgánmi v správnych konaniach, by sa nemali považovať za vysokorizikové systémy umelej inteligencie používané orgánmi presadzovania práva na účely predchádzania trestným činom, ich odhaľovania, vyšetrovania a stíhania.

(38)

Opatrenia orgánov presadzovania práva zahŕňajúce určité použitia systémov umelej inteligencie sa vyznačujú značným stupňom nerovnováhy právomocí a môžu viesť k sledovaniu, zatknutiu alebo pozbaveniu slobody fyzickej osoby, ako aj k iným nepriaznivým vplyvom na základné práva zaručené chartou. Najmä ak systém umelej inteligencie nie je trénovaný na vysokokvalitných údajoch, nespĺňa primerané požiadavky, pokiaľ ide o jeho výkonnosť, presnosť alebo spoľahlivosť, alebo nie je pred uvedením na trh alebo do prevádzky riadne koncipovaný a otestovaný, môže ľudí vylúčiť diskriminačným alebo inak nesprávnym či nespravodlivým spôsobom. Okrem toho by mohlo byť obmedzené uplatňovanie dôležitých procesných základných práv, ako je právo na účinný prostriedok nápravy a na spravodlivý proces, ako aj právo na obhajobu a prezumpcia neviny, najmä ak takéto systémy umelej inteligencie nie sú dostatočne transparentné, vysvetliteľné a zdokumentované. Preto je vhodné klasifikovať ako vysokorizikové viaceré systémy umelej inteligencie určené na používanie v kontexte presadzovania práva, kde je presnosť, spoľahlivosť a transparentnosť obzvlášť dôležitá, aby sa zabránilo nepriaznivým vplyvom, zachovala dôvera verejnosti a zabezpečila zodpovednosť a účinná náprava. Vzhľadom na povahu predmetných činností a súvisiace riziká by tieto vysokorizikové systémy umelej inteligencie mali zahŕňať najmä systémy umelej inteligencie, ktoré majú používať orgány presadzovania práva alebo sa majú používať v ich mene, alebo ich majú používať agentúry , úrady alebo orgány Únie na podporu orgánov presadzovania práva , ako detektory lži a podobné nástroje, pokiaľ je ich použitie povolené podľa príslušného práva Únie a  vnútroštátneho práva, na hodnotenie spoľahlivosti dôkazov v trestnom konaní, na profilovanie v priebehu odhaľovania, vyšetrovania alebo stíhania trestných činov, ako aj na analýzu trestnej činnosti vo vzťahu k fyzickým osobám. Systémy umelej inteligencie, ktoré sú osobitne určené na používanie daňovými a colnými orgánmi v správnych konaniach, by sa nemali považovať za vysokorizikové systémy umelej inteligencie používané orgánmi presadzovania práva na účely predchádzania trestným činom, ich odhaľovania, vyšetrovania a stíhania. Používanie nástrojov umelej inteligencie orgánmi presadzovania práva a justičnými orgánmi by sa nemalo stať faktorom nerovnosti, sociálneho štiepenia alebo vylúčenia. Vplyv používania nástrojov umelej inteligencie na práva podozrivých osôb na obhajobu by sa nemal ignorovať, najmä pokiaľ ide o ťažkosti pri získavaní zmysluplných informácií o ich fungovaní a následné ťažkosti pri napadnutí ich výsledkov na súde, najmä zo strany vyšetrovaných osôb.

(39)

Systémy umelej inteligencie používané v oblastiach migrácie, azylu a riadenia kontroly hraníc majú vplyv na ľudí, ktorí sú často v mimoriadne zraniteľnom postavení a ktorí sú závislí od výsledku činností príslušných orgánov verejnej moci. Presnosť, nediskriminačný charakter a transparentnosť systémov umelej inteligencie používaných v tomto kontexte sú preto mimoriadne dôležité na zaručenie dodržiavania základných práv dotknutých osôb, najmä ich práva na voľný pohyb, nediskrimináciu, ochranu súkromného života a osobných údajov, medzinárodnú ochranu a dobrú správu vecí verejných. Je preto vhodné klasifikovať ako vysokorizikové tie systémy umelej inteligencie, ktoré majú používať príslušné orgány verejnej moci poverené úlohami v oblasti migrácie, azylu a riadenia kontroly hraníc, ako napríklad detektory lži a podobné nástroje alebo nástroje na zisťovanie emocionálneho stavu fyzickej osoby , posudzovanie určitých rizík, ktoré predstavujú fyzické osoby vstupujúce na územie členského štátu alebo žiadajúce o vízum alebo azyl, overenie pravosti príslušných dokladov fyzických osôb, pomoc príslušným orgánom verejnej moci pri posudzovaní žiadostí o azyl, víza a povolenia na pobyt a súvisiacich sťažností, pokiaľ ide o cieľ zistiť oprávnenosť fyzických osôb žiadajúcich o určitý status. Systémy umelej inteligencie v oblasti migrácie, azylu a riadenia kontroly hraníc, na ktoré sa vzťahuje toto nariadenie, by mali spĺňať príslušné procedurálne požiadavky stanovené v smernici Európskeho parlamentu a Rady 2013/32/EÚ (49), nariadení Európskeho parlamentu a Rady (ES) č. 810/2009 (50) a iných príslušných právnych predpisoch.

(39)

Systémy umelej inteligencie používané v oblastiach migrácie, azylu a riadenia kontroly hraníc majú vplyv na ľudí, ktorí sú často v mimoriadne zraniteľnom postavení a ktorí sú závislí od výsledku činností príslušných orgánov verejnej moci. Presnosť, nediskriminačný charakter a transparentnosť systémov umelej inteligencie používaných v tomto kontexte sú preto mimoriadne dôležité na zaručenie dodržiavania základných práv dotknutých osôb, najmä ich práva na voľný pohyb, nediskrimináciu, ochranu súkromného života a osobných údajov, medzinárodnú ochranu a dobrú správu vecí verejných. Je preto vhodné klasifikovať ako vysokorizikové tie systémy umelej inteligencie, ktoré majú používať príslušné orgány verejnej moci alebo sa majú používať v ich mene , alebo majú používať agentúry, úrady alebo orgány Únie poverené úlohami v oblasti migrácie, azylu a riadenia kontroly hraníc, ako napríklad detektory lži a podobné nástroje , pokiaľ je ich používanie povolené podľa príslušného práva Únie a vnútroštátneho práva , na posudzovanie určitých rizík, ktoré predstavujú fyzické osoby vstupujúce na územie členského štátu alebo žiadajúce o vízum alebo azyl, overenie pravosti príslušných dokladov fyzických osôb, pomoc príslušným orgánom verejnej moci pri skúmaní a posudzovaní pravdivosti dôkazov v súvislosti so žiadosťami o azyl, víza a povolenia na pobyt a súvisiacich sťažností, pokiaľ ide o cieľ zistiť oprávnenosť fyzických osôb žiadajúcich o určitý status , na monitorovanie, sledovanie alebo spracúvanie osobných údajov v súvislosti s činnosťami riadenia hraníc na účely odhaľovania, rozpoznávania alebo identifikácie fyzických osôb a na prognózovanie alebo predpovedanie trendov súvisiacich s migračnými pohybmi a prekračovaním hraníc. Systémy umelej inteligencie v oblasti migrácie, azylu a riadenia kontroly hraníc, na ktoré sa vzťahuje toto nariadenie, by mali spĺňať príslušné procedurálne požiadavky stanovené v smernici Európskeho parlamentu a Rady 2013/32/EÚ (49), nariadení Európskeho parlamentu a Rady (ES) č. 810/2009 (50) a iných príslušných právnych predpisoch. Používanie systémov umelej inteligencie pri riadení migrácie, azylu a kontroly hraníc by členské štáty alebo inštitúcie, agentúry alebo orgány Únie nemali v žiadnom prípade využívať ako prostriedok na obchádzanie svojich medzinárodných záväzkov vyplývajúcich z Dohovoru o právnom postavení utečencov z 28. júla 1951, zmeneného a doplneného protokolom z 31. januára 1967, a nemali by ich využívať ani na to, aby akýmkoľvek spôsobom porušovali zásadu zákazu vyhostenia alebo vrátenia alebo odopierali bezpečné a účinné legálne cesty na územie Únie vrátane práva na medzinárodnú ochranu.

(40)

Niektoré systémy umelej inteligencie určené na výkon spravodlivosti a demokratických procesov by sa mali klasifikovať ako vysokorizikové vzhľadom na ich potenciálne významný vplyv na demokraciu, právny štát, osobné slobody, ako aj právo na účinný prostriedok nápravy a na spravodlivý proces. Ako vysokorizikové je vhodné kvalifikovať systémy umelej inteligencie určené na pomoc justičným orgánom pri skúmaní a výklade skutočností a práva a pri uplatňovaní práva na konkrétny súbor skutočností, najmä z dôvodu riešenia rizík možných skreslení, chýb a nepriehľadnosti. Takáto kvalifikácia by sa však nemala vzťahovať na systémy umelej inteligencie určené na čisto pomocné administratívne činnosti, ktoré nemajú vplyv na skutočný výkon spravodlivosti v jednotlivých prípadoch, ako napr. anonymizácia alebo pseudonymizácia súdnych rozhodnutí, dokumentov alebo údajov, komunikácia medzi zamestnancami, administratívne úlohy alebo prideľovanie zdrojov.

(40)

Niektoré systémy umelej inteligencie určené na výkon spravodlivosti a demokratických procesov by sa mali klasifikovať ako vysokorizikové vzhľadom na ich potenciálne významný vplyv na demokraciu, právny štát, osobné slobody, ako aj právo na účinný prostriedok nápravy a na spravodlivý proces. Ako vysokorizikové je vhodné kvalifikovať systémy umelej inteligencie určené na použitie justičným orgánom alebo správnym orgánom alebo v ich mene na pomoc justičným orgánom alebo správnym orgánom pri skúmaní a výklade skutočností a práva a pri uplatňovaní práva na konkrétny súbor skutočností, najmä z dôvodu riešenia rizík možných skreslení, chýb a nepriehľadnosti alebo na použitie podobným spôsobom pri alternatívnom riešení sporov. Používanie nástrojov umelej inteligencie môže podporiť rozhodovaciu právomoc sudcov alebo nezávislosť súdnictva, ale nemalo by ju nahradiť, pretože konečné rozhodovanie musí zostať ľudskou činnosťou a rozhodnutím . Takáto kvalifikácia by sa však nemala vzťahovať na systémy umelej inteligencie určené na čisto pomocné administratívne činnosti, ktoré nemajú vplyv na skutočný výkon spravodlivosti v jednotlivých prípadoch, ako napr. anonymizácia alebo pseudonymizácia súdnych rozhodnutí, dokumentov alebo údajov, komunikácia medzi zamestnancami, administratívne úlohy alebo prideľovanie zdrojov.

(40a)

S cieľom riešiť riziká neprimeraného vonkajšieho zasahovania do práva voliť zakotveného v článku 39 charty a neprimeraných účinkov na demokratické procesy, demokraciu a právny štát by sa systémy umelej inteligencie, ktoré sa majú používať na ovplyvňovanie výsledku volieb alebo referenda alebo volebného správania fyzických osôb pri výkone ich hlasovania vo voľbách alebo referendách, mali klasifikovať ako vysokorizikové systémy umelej inteligencie s výnimkou systémov umelej inteligencie, ktorých výstupom nie sú fyzické osoby priamo vystavené, ako sú nástroje používané na organizovanie, optimalizáciu a štruktúrovanie politických kampaní z administratívneho a logistického hľadiska.

(40b)

Vzhľadom na rozsah, v akom fyzické osoby využívajú služby poskytované platformami sociálnych médií označenými za veľmi veľké online platformy sa takéto online platformy môžu využívať spôsobom, ktorý výrazne ovplyvňuje bezpečnosť na internete, formovanie verejnej mienky a diskusií, volebné a demokratické procesy a spoločenské obavy. Preto je vhodné, aby sa na systémy umelej inteligencie používané týmito online platformami v ich odporúčacích systémoch vzťahovalo toto nariadenie s cieľom zabezpečiť, aby systémy umelej inteligencie spĺňali požiadavky stanovené v tomto nariadení vrátane technických požiadaviek na správu údajov, technickú dokumentáciu a vysledovateľnosť, transparentnosť, ľudský dohľad, správnosť a spoľahlivosť. Súlad s týmto nariadením by mal takýmto veľmi veľkým online platformám umožniť, aby plnili svoje širšie povinnosti týkajúce sa posudzovania rizík a zmierňovania rizík uvedené v článkoch 34 a 35 nariadenia (EÚ) 2022/2065. Povinnosťami v tomto nariadení nie je dotknuté nariadenie (EÚ) 2022/2065 a mali by dopĺňať povinnosti požadované podľa nariadenia (EÚ) 2022/2065, keď bola platforma sociálnych médií označená za veľmi veľkú online platformu. Vzhľadom na celoeurópsky vplyv platforiem sociálnych médií označených za veľmi veľké online platformy by orgány určené podľa nariadenia (EÚ) 2022/2065 mali konať ako orgány presadzovania práva na účely presadzovania tohto ustanovenia.

(41)

Skutočnosť, že systém umelej inteligencie sa podľa tohto nariadenia klasifikuje ako vysokorizikový, by sa nemala vykladať tak, že používanie tohto systému je nevyhnutne zákonné podľa iných aktov práva Únie alebo vnútroštátneho práva zlučiteľného s právom Únie, ako napr. v oblasti ochrany osobných údajov , používania detektorov lži a podobných nástrojov alebo iných systémov na zisťovanie emocionálneho stavu fyzických osôb . Akékoľvek takéto použitie by sa malo naďalej vykonávať výlučne v súlade s uplatniteľnými požiadavkami vyplývajúcimi z charty a z uplatniteľných aktov sekundárneho práva Únie a vnútroštátneho práva. Toto nariadenie by sa nemalo chápať tak, že poskytuje právny základ pre spracúvanie osobných údajov, prípadne vrátane osobitných kategórií osobných údajov.

(41)

Skutočnosť, že systém umelej inteligencie sa podľa tohto nariadenia klasifikuje ako vysokorizikový systém umelej inteligencie , by sa nemala vykladať tak, že používanie tohto systému je nevyhnutne zákonné alebo nezákonné podľa iných aktov práva Únie alebo vnútroštátneho práva zlučiteľného s právom Únie, ako napr. v oblasti ochrany osobných údajov. Akékoľvek takéto použitie by sa malo naďalej vykonávať výlučne v súlade s uplatniteľnými požiadavkami vyplývajúcimi z charty a z uplatniteľných aktov sekundárneho práva Únie a vnútroštátneho práva.

(41a)

Viaceré právne záväzné pravidlá na európskej, vnútroštátnej a medzinárodnej úrovni sa v súčasnosti už uplatňujú alebo sú relevantné pre systémy umelej inteligencie, okrem iného vrátane primárneho práva EÚ (zmluvy Európskej únie a jej Charta základných práv), sekundárneho práva EÚ (napríklad všeobecné nariadenie o ochrane údajov, smernica o zodpovednosti za výrobky, nariadenie o voľnom toku iných ako osobných údajov, smernica o nediskriminácii, smernica o spotrebiteľskom práve a smernica o bezpečnosti a ochrane zdravia pri práci), zmlúv OSN o ľudských právach a dohovorov Rady Európy (napríklad Európsky dohovor o ľudských právach) a vnútroštátneho práva. Okrem horizontálne uplatňovaných predpisov existujú rozličné predpisy špecifické pre jednotlivé oblasti, ktoré sa uplatňujú na konkrétne aplikácie umelej inteligencie (ako napríklad nariadenie o zdravotníckych pomôckach v sektore zdravotnej starostlivosti).

(42)

S cieľom zmierniť riziká, ktoré vyplývajú používateľom a dotknutým osobám z vysokorizikových systémov umelej inteligencie uvedených na trh Únie alebo inak uvedených do prevádzky na trhu Únie, by sa mali uplatňovať určité povinné požiadavky, pričom by sa mal zohľadniť zamýšľaný účel používania tohto systému a systém riadenia rizík, ktorý zavedie poskytovateľ.

(42)

S cieľom zmierniť riziká, ktoré vyplývajú nasadzujúcim subjektom a dotknutým osobám z vysokorizikových systémov umelej inteligencie uvedených na trh Únie alebo inak uvedených do prevádzky na trhu Únie, by sa mali uplatňovať určité povinné požiadavky, pričom by sa mal zohľadniť zamýšľaný účel alebo logicky predvídateľné nesprávne použitia tohto systému a systém riadenia rizík, ktorý zavedie poskytovateľ. Tieto požiadavky by mali byť objektívne, vhodné na daný účel, primerané a účinné bez toho, aby prevádzkovateľom spôsobovali neprimerané regulačné zaťaženie alebo náklady.

(43)

Požiadavky by sa mali vzťahovať na vysokorizikové systémy umelej inteligencie, pokiaľ ide o kvalitu použitých súborov údajov, technickú dokumentáciu a uchovávanie záznamov, transparentnosť a poskytovanie informácií používateľom , ľudský dohľad a spoľahlivosť, presnosť a kybernetickú bezpečnosť. Tieto požiadavky sú potrebné na účinné zmiernenie rizík pre zdravie, bezpečnosť a základné práva, ktoré sa uplatňujú vzhľadom na zamýšľaný účel systému, a nie sú primerane dostupné žiadne iné opatrenia menej obmedzujúce obchod, takže nedochádza k neodôvodneným obmedzeniam obchodu.

(43)

Požiadavky by sa mali vzťahovať na vysokorizikové systémy umelej inteligencie, pokiaľ ide o kvalitu a relevantnosť použitých súborov údajov, technickú dokumentáciu a uchovávanie záznamov, transparentnosť a poskytovanie informácií nasadzujúcim subjektom , ľudský dohľad a spoľahlivosť, presnosť a kybernetickú bezpečnosť. Tieto požiadavky sú potrebné na účinné zmiernenie rizík pre zdravie, bezpečnosť a základné práva, ako aj pre životné prostredie, demokraciu a právny štát, ktoré sa uplatňujú vzhľadom na zamýšľaný účel alebo logicky predvídateľné nesprávne použitia systému, a nie sú primerane dostupné žiadne iné opatrenia menej obmedzujúce obchod, takže nedochádza k neodôvodneným obmedzeniam obchodu.

(44)

Pre výkonnosť mnohých systémov umelej inteligencie je kľúčová vysoká kvalita údajov , najmä ak sa využívajú techniky zahŕňajúce trénovanie modelov, aby vysokorizikový systém umelej inteligencie fungoval podľa zamýšľaného účelu a bezpečne a aby sa nestal zdrojom diskriminácie zakázanej právom Únie. Súbory vysokokvalitných trénovacích, validačných a testovacích údajov si vyžadujú vykonávanie primeraných postupov správy a riadenia údajov. Súbory trénovacích, validačných a testovacích údajov by mali byť dostatočne relevantné, reprezentatívne a bez chýb a mali by byť úplné vzhľadom na zamýšľaný účel systému. Mali by mať aj primerané štatistické vlastnosti, a to aj pokiaľ ide o osoby alebo skupiny osôb, v  prípade ktorých sa má vysokorizikový systém umelej inteligencie používať. Súbory trénovacích, validačných a testovacích údajov by mali v rozsahu, v akom si to vyžaduje zamýšľaný účel, zohľadňovať najmä vlastnosti, charakteristiky alebo prvky, ktoré sú špecifické pre konkrétne geografické, behaviorálne alebo funkčné podmienky alebo súvislosti, v ktorých sa má systém umelej inteligencie používať. Na ochranu práva iných osôb pred diskrimináciou, ktorá by mohla vyplynúť zo skreslenia systémov umelej inteligencie, by poskytovatelia mali mať vzhľadom na významný verejný záujem možnosť spracúvať aj osobitné kategórie osobných údajov s cieľom zabezpečiť monitorovanie, odhaľovanie a nápravu tohto skreslenia vo vzťahu k vysokorizikovým systémom umelej inteligencie.

(44)

Pre poskytovanie štruktúry a zabezpečovanie výkonnosti mnohých systémov umelej inteligencie je kľúčový prístup k údajom vysokej kvality , najmä ak sa využívajú techniky zahŕňajúce trénovanie modelov, aby vysokorizikový systém umelej inteligencie fungoval podľa zamýšľaného účelu a bezpečne a aby sa nestal zdrojom diskriminácie zakázanej právom Únie. Súbory vysokokvalitných trénovacích, validačných a testovacích údajov si vyžadujú vykonávanie primeraných postupov správy a riadenia údajov. Súbory trénovacích a prípadne validačných a testovacích údajov vrátane označení by mali byť dostatočne relevantné, reprezentatívne , primerane preverené z hľadiska chýb a mali by byť čo najúplnejšie vzhľadom na zamýšľaný účel systému. Mali by mať aj primerané štatistické vlastnosti, a to aj pokiaľ ide o osoby alebo skupiny osôb, v  súvislosti s ktorými sa má vysokorizikový systém umelej inteligencie používať , pričom osobitná pozornosť by sa mala venovať zmierneniu možnej predpojatosti v súboroch údajov, ktorá by mohla viesť k rizikám v oblasti základných práv alebo k diskriminačným výsledkom pre osoby, ktorých sa vysokorizikový systém umelej inteligencie týka. Určitá predpojatosť môže byť napríklad neoddeliteľnou súčasťou základných súborov údajov, najmä ak sa používajú historické údaje, ktoré zadali vývojári algoritmov alebo boli vygenerované pri používaní systémov v reálnych podmienkach. Výsledky poskytované systémami umelej inteligencie sú ovplyvnené takýmito prirodzenými predsudkami, ktoré majú tendenciu postupne rásť, a tým aj upevňovať a prehlbovať existujúcu diskrimináciu, najmä v prípade osôb patriacich k určitým zraniteľným alebo etnickým skupinám alebo komunitám, ktoré sú terčom rasizmu. Súbory trénovacích, validačných a testovacích údajov by mali v rozsahu, v akom si to vyžaduje zamýšľaný účel, zohľadňovať najmä vlastnosti, charakteristiky alebo prvky, ktoré sú špecifické pre konkrétne geografické , kontextové , behaviorálne alebo funkčné podmienky alebo súvislosti, v ktorých sa má systém umelej inteligencie používať. Na ochranu práva iných osôb pred diskrimináciou, ktorá by mohla vyplynúť z predpojatosti systémov umelej inteligencie, by poskytovatelia mali mať výnimočne a po uplatnení všetkých uplatniteľných podmienok stanovených v tomto nariadení a v nariadení (EÚ) 2016/679, smernici (EÚ) 2016/680 a nariadení (EÚ) 2018/1725 možnosť spracúvať aj osobitné kategórie osobných údajov s cieľom zabezpečiť odhaľovanie a nápravu negatívnej zaujatosti vo vzťahu k vysokorizikovým systémom umelej inteligencie. Negatívna zaujatosť by sa mala chápať ako zaujatosť, ktorá má priamy alebo nepriamy diskriminačný účinok voči fyzickej osobe. Požiadavky týkajúce sa správy údajov možno splniť využitím tretích strán, ktoré ponúkajú certifikované služby súladu vrátane overovania správy údajov, integrity súboru údajov a postupov ich trénovania, validácie a testovania.

(45)

Pokiaľ ide o vývoj vysokorizikových systémov umelej inteligencie, niektorí aktéri, ako sú poskytovatelia, notifikované osoby a iné príslušné subjekty, ako napr. centrá digitálnych inovácií, testovacie experimentačné zariadenia a výskumní pracovníci, by mali mať prístup k súborom vysokokvalitných údajov a využívať ich v rámci svojich príslušných oblastí činností, ktoré súvisia s týmto nariadením. Pri poskytovaní dôveryhodného, zodpovedného a nediskriminačného prístupu k vysokokvalitným údajom na účely trénovania, validácie a testovania systémov umelej inteligencie budú mať zásadný význam európske spoločné dátové priestory zriadené Komisiou a uľahčenie výmeny údajov medzi podnikmi a s verejnou správou vo verejnom záujme. Napríklad v oblasti zdravia uľahčí európsky priestor pre údaje týkajúce sa zdravia nediskriminačný prístup k údajom týkajúcim sa zdravia a trénovanie algoritmov umelej inteligencie na týchto súboroch údajov, a to bezpečným, včasným, transparentným a dôveryhodným spôsobom chrániacim súkromie, pričom sa zabezpečí primerané inštitucionálne riadenie. Relevantné príslušné orgány vrátane sektorových orgánov, ktoré poskytujú alebo podporujú prístup k údajom, môžu takisto podporovať poskytovanie vysokokvalitných údajov na trénovanie, validáciu a testovanie systémov umelej inteligencie.

(45)

Pokiaľ ide o vývoj a posúdenie vysokorizikových systémov umelej inteligencie, niektorí aktéri, ako sú poskytovatelia, notifikované osoby a iné príslušné subjekty, ako napr. centrá digitálnych inovácií, testovacie experimentačné zariadenia a výskumní pracovníci, by mali mať prístup k súborom vysokokvalitných údajov a využívať ich v rámci svojich príslušných oblastí činností, ktoré súvisia s týmto nariadením. Pri poskytovaní dôveryhodného, zodpovedného a nediskriminačného prístupu k vysokokvalitným údajom na účely trénovania, validácie a testovania systémov umelej inteligencie budú mať zásadný význam európske spoločné dátové priestory zriadené Komisiou a uľahčenie výmeny údajov medzi podnikmi a s verejnou správou vo verejnom záujme. Napríklad v oblasti zdravia uľahčí európsky priestor pre údaje týkajúce sa zdravia nediskriminačný prístup k údajom týkajúcim sa zdravia a trénovanie algoritmov umelej inteligencie na týchto súboroch údajov, a to bezpečným, včasným, transparentným a dôveryhodným spôsobom chrániacim súkromie, pričom sa zabezpečí primerané inštitucionálne riadenie. Relevantné príslušné orgány vrátane sektorových orgánov, ktoré poskytujú alebo podporujú prístup k údajom, môžu takisto podporovať poskytovanie vysokokvalitných údajov na trénovanie, validáciu a testovanie systémov umelej inteligencie.

(45a)

Právo na súkromie a ochranu osobných údajov musí byť zaručené počas celého životného cyklu systému umelej inteligencie. V tejto súvislosti sú zásady minimalizácie údajov a špecificky navrhnutej a štandardnej ochrany údajov stanovené v právnych predpisoch Únie o ochrane údajov nevyhnutné, ak spracúvanie údajov predstavuje významné riziká pre základné práva fyzických osôb. Poskytovatelia a používatelia systémov umelej inteligencie by mali zaviesť moderné technické a organizačné opatrenia na ochranu týchto práv. Takéto opatrenia by mali zahŕňať nielen anonymizáciu a šifrovanie, ale aj používanie čoraz dostupnejšej technológie, ktorá umožňuje uplatniť algoritmy na údaje a odvodiť cenné poznatky bez prenosu medzi stranami alebo bez zbytočného kopírovania nespracovaných alebo štruktúrovaných údajov.

(46)

Na overenie súladu s požiadavkami podľa tohto nariadenia je nevyhnutné mať informácie o tom, ako boli vyvinuté vysokorizikové systémy umelej inteligencie a ako fungujú počas celého svojho životného cyklu. Preto sa vyžaduje uchovávanie záznamov a dostupnosť technickej dokumentácie obsahujúcej informácie, ktoré sú potrebné na posúdenie súladu systému umelej inteligencie s príslušnými požiadavkami. Takéto informácie by mali zahŕňať všeobecné charakteristiky, schopnosti a obmedzenia systému, použité algoritmy, údaje, postupy trénovania, testovania a validácie, ako aj dokumentáciu o príslušnom systéme riadenia rizík. Technická dokumentácia by sa mala priebežne aktualizovať.

(46)

Na overenie súladu s požiadavkami podľa tohto nariadenia je nevyhnutné mať zrozumiteľné informácie o tom, ako boli vyvinuté vysokorizikové systémy umelej inteligencie a ako fungujú počas celej svojej životnosti. Preto sa vyžaduje uchovávanie záznamov a dostupnosť technickej dokumentácie obsahujúcej informácie, ktoré sú potrebné na posúdenie súladu systému umelej inteligencie s príslušnými požiadavkami. Takéto informácie by mali zahŕňať všeobecné charakteristiky, schopnosti a obmedzenia systému, použité algoritmy, údaje, postupy trénovania, testovania a validácie, ako aj dokumentáciu o príslušnom systéme riadenia rizík. Technická dokumentácia by sa mala náležite aktualizovať počas celého životného cyklu systému umelej inteligencie. Systémy umelej inteligencie môžu mať veľmi významný vplyv na životné prostredie a vysokú spotrebu energie počas ich životného cyklu. S cieľom lepšie pochopiť vplyv systémov umelej inteligencie na životné prostredie by technická dokumentácia vypracovaná poskytovateľmi mala obsahovať informácie o spotrebe energie systému umelej inteligencie vrátane spotreby počas vývoja a očakávanej spotreby počas používania. Takéto informácie by mali zohľadňovať príslušné právne predpisy Únie a vnútroštátne právne predpisy. Tieto vykazované informácie by mali byť zrozumiteľné, porovnateľné a overiteľné a na tento účel by Komisia mala vypracovať usmernenia pre harmonizovanú metodiku na výpočet a nahlasovanie týchto informácií. S cieľom zabezpečiť, aby bola možná jednotná dokumentácia, by sa v čo najväčšej miere mali zosúladiť pojmy a vymedzenia súvisiace s touto požadovanou dokumentáciou a všetkou požadovanou dokumentáciou v príslušných právnych predpisoch Únie.

(46a)

Systémy umelej inteligencie by mali zohľadňovať najmodernejšie metódy a príslušné uplatniteľné normy na zníženie spotreby energie, využívanie zdrojov a odpad, ako aj na zvýšenie ich energetickej efektívnosti a celkovej efektívnosti systému. Environmentálne aspekty systémov umelej inteligencie, ktoré sú významné na účely tohto nariadenia, sú spotreba energie systému umelej inteligencie vo fáze vývoja, trénovania a zavádzania, ako aj zaznamenávanie, nahlasovanie a uchovávanie týchto údajov. Koncepcia systémov umelej inteligencie by mala umožniť meranie a logovanie spotreby energie a zdrojov v každej fáze vývoja, trénovania a zavádzania. Monitorovanie a nahlasovanie emisií systémov umelej inteligencie musí byť spoľahlivé, transparentné, konzistentné a presné. S cieľom zabezpečiť jednotné uplatňovanie tohto nariadenia a stabilný právny ekosystém pre poskytovateľov a nasadzujúce subjekty na jednotnom trhu by Komisia mala vypracovať spoločnú špecifikáciu metodiky na splnenie požiadavky na podávanie správ a dokumentáciu o spotrebe energie a zdrojov počas vývoja, trénovania a zavádzania. Takéto spoločné špecifikácie metodiky merania môžu vytvoriť základ, vďaka ktorému môže Komisia lepšie rozhodnúť, či sú potrebné budúce regulačné zásahy, a to po vykonaní posúdenia vplyvu, v ktorom sa zohľadnia existujúce právne predpisy.

(46b)

Na dosiahnutie cieľov tohto nariadenia a prispievanie k plneniu cieľov Únie v oblasti životného prostredia a zároveň zabezpečenie hladkého fungovania vnútorného trhu môže byť potrebné stanoviť odporúčania a usmernenia a prípadne ciele udržateľnosti. Na tento účel je Komisia oprávnená vypracovať metodiku, ktorá prispeje k vytvoreniu kľúčových ukazovateľov výkonnosti (KPI) a referenčnej hodnoty pre ciele udržateľného rozvoja. Cieľom by malo byť v prvom rade umožniť spravodlivé porovnanie medzi možnosťami implementácie umelej inteligencie poskytujúcimi stimuly na podporu využívania účinnejších technológií umelej inteligencie na riešenie problémov v oblasti energetiky a zdrojov. Na splnenie tohto cieľa by toto nariadenie malo poskytnúť prostriedky na vytvorenie základného zberu nahlásených údajov o emisiách z vývoja, trénovania a zavádzania.

(47a)

Takéto požiadavky na transparentnosť a na vysvetliteľnosť rozhodovania v oblasti umelej inteligencie by mali prispieť k boju proti odstrašujúcim účinkom digitálnej asymetrie a tzv. temných modelov zameraných na jednotlivcov a na získanie ich informovaného súhlasu.

(49)

Vysokorizikové systémy umelej inteligencie by mali fungovať konzistentne počas celého svojho životného cyklu a mali by spĺňať primeranú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti v súlade so všeobecne uznávaným stavom techniky. Používatelia by mali byť informovaní o úrovni a  metrikách na meranie presnosti .

(49)

Vysokorizikové systémy umelej inteligencie by mali fungovať konzistentne počas celého svojho životného cyklu a mali by spĺňať primeranú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti v súlade so všeobecne uznávaným stavom techniky. Metriky na meranie výkonnosti a ich očakávaná úroveň sa musia definovať s primárnym cieľom zmierniť riziká a negatívny vplyv systému umelej inteligencie. Nasadzujúce subjekty by mali byť jednoznačným, transparentným, ľahko pochopiteľným a zrozumiteľným spôsobom informované o  očakávanej úrovni ukazovateľov výkonnosti. Vyhlásenie o ukazovateľoch výkonnosti nemožno považovať za dôkaz o budúcich úrovniach, ale je potrebné použiť príslušné metódy na zabezpečenie konzistentných úrovní počas používania. Keďže normalizačné organizácie existujú na to, aby stanovili normy, je potrebná koordinácia referenčného porovnávania, aby sa zistilo, ako by sa tieto štandardizované požiadavky a charakteristiky systémov umelej inteligencie mali merať. Európsky úrad pre umelú inteligenciu by mal spojiť vnútroštátne a medzinárodné orgány v oblasti metrológie a referenčného porovnávania a poskytnúť nezáväzné usmernenia na riešenie technických aspektov toho, ako merať primeranú úroveň výkonnosti a spoľahlivosti.

(50)

Technická spoľahlivosť je kľúčovou požiadavkou pre vysokorizikové systémy umelej inteligencie. Tie by mali byť odolné voči rizikám súvisiacim s obmedzeniami systému (napr. chyby, poruchy, nezrovnalosti, neočakávané situácie), ako aj voči zlomyseľným konaniam, ktoré môžu ohroziť bezpečnosť systému umelej inteligencie a viesť k škodlivému alebo inému nežiaducemu správaniu. Neschopnosť chrániť pred týmito rizikami by mohla mať vplyv na bezpečnosť alebo negatívne ovplyvniť základné práva, napríklad v dôsledku chybných rozhodnutí alebo nesprávnych alebo skreslených výstupov vygenerovaných systémom umelej inteligencie.

(50)

Technická spoľahlivosť je kľúčovou požiadavkou pre vysokorizikové systémy umelej inteligencie. Tie by mali byť odolné voči rizikám súvisiacim s obmedzeniami systému (napr. chyby, poruchy, nezrovnalosti, neočakávané situácie), ako aj voči zlomyseľným konaniam, ktoré môžu ohroziť bezpečnosť systému umelej inteligencie a viesť k škodlivému alebo inému nežiaducemu správaniu. Neschopnosť chrániť pred týmito rizikami by mohla mať vplyv na bezpečnosť alebo negatívne ovplyvniť základné práva, napríklad v dôsledku chybných rozhodnutí alebo nesprávnych alebo skreslených výstupov vygenerovaných systémom umelej inteligencie. Používatelia systému umelej inteligencie by mali prijať opatrenia na zabezpečenie toho, aby možný kompromis medzi robustnosťou a presnosťou neviedol k diskriminačným alebo negatívnym výsledkom pre menšinové podskupiny.

(51)

Kybernetická bezpečnosť zohráva kľúčovú úlohu pri zabezpečovaní odolnosti systémov umelej inteligencie voči pokusom o zmenu ich použitia, správania, výkonnosti alebo o ohrozenie ich bezpečnostných vlastností tretími stranami, ktoré so škodlivým úmyslom zneužívajú zraniteľné miesta systému. Kybernetické útoky na systémy umelej inteligencie môžu využívať aktíva špecifické pre umelú inteligenciu, ako sú súbory trénovacích údajov (napr. otrávenie údajov) alebo trénované modely (napr. nepriateľské útoky), alebo zneužívať zraniteľné miesta digitálnych aktív systému umelej inteligencie alebo základnej infraštruktúry IKT. Na zabezpečenie úrovne kybernetickej bezpečnosti primeranej rizikám by preto poskytovatelia vysokorizikových systémov umelej inteligencie mali prijať vhodné opatrenia a náležite pritom zohľadniť základnú infraštruktúru IKT.

(51)

Kybernetická bezpečnosť zohráva kľúčovú úlohu pri zabezpečovaní odolnosti systémov umelej inteligencie voči pokusom o zmenu ich použitia, správania, výkonnosti alebo o ohrozenie ich bezpečnostných vlastností tretími stranami, ktoré so škodlivým úmyslom zneužívajú zraniteľné miesta systému. Kybernetické útoky na systémy umelej inteligencie môžu využívať aktíva špecifické pre umelú inteligenciu, ako sú súbory trénovacích údajov (napr. otrávenie údajov) alebo trénované modely (napr. nepriateľské útoky alebo útoky na dôvernosť ), alebo zneužívať zraniteľné miesta digitálnych aktív systému umelej inteligencie alebo základnej infraštruktúry IKT. Na zabezpečenie úrovne kybernetickej bezpečnosti primeranej rizikám by preto poskytovatelia vysokorizikových systémov umelej inteligencie , ako aj notifikované osoby, príslušné vnútroštátne orgány a orgány dohľadu nad trhom mali prijať vhodné opatrenia a náležite pritom zohľadniť základnú infraštruktúru IKT. Vysokorizikovú umelú inteligenciu by mali sprevádzať bezpečnostné riešenia a záplaty na celú životnosť výrobku alebo, ak nie je závislá od konkrétneho výrobku, na obdobie, ktoré musí uviesť výrobca.

(53a)

Únia a všetky členské štáty sú ako signatári Dohovoru OSN o právach osôb so zdravotným postihnutím (UNCRPD) právne zaviazané chrániť osoby so zdravotným postihnutím pred diskrimináciou a podporovať ich rovnosť, zabezpečiť, aby osoby so zdravotným postihnutím mali rovnaký prístup k informačným a komunikačným technológiám a systémom ako ostatní, a zabezpečiť rešpektovanie súkromia osôb so zdravotným postihnutím. Vzhľadom na rastúci význam a využívanie systémov umelej inteligencie by sa uplatňovaním zásad univerzálneho dizajnu na všetky nové technológie a služby mal zabezpečiť úplný, rovnaký a neobmedzený prístup pre každého, koho sa technológie umelej inteligencie potenciálne týkajú alebo kto ich používa, vrátane osôb so zdravotným postihnutím, a to spôsobom, ktorý plne zohľadňuje ich prirodzenú dôstojnosť a rozmanitosť. Preto je nevyhnutné, aby poskytovatelia zabezpečili úplný súlad s požiadavkami na prístupnosť vrátane smernice (EÚ) 2016/2102 a smernice (EÚ) 2019/882. Poskytovatelia by mali zabezpečiť súlad s týmito požiadavkami už v štádiu návrhu. Potrebné opatrenia by sa preto mali čo najviac začleniť do návrhu vysokorizikového systému umelej inteligencie.

(54)

Poskytovateľ by mal zaviesť spoľahlivý systém riadenia kvality, zabezpečiť dokončenie požadovaného postupu posudzovania zhody, vypracovať príslušnú dokumentáciu a vytvoriť spoľahlivý systém monitorovania po uvedení na trh. Orgány verejnej moci, ktoré uvádzajú do prevádzky vysokorizikové systémy umelej inteligencie pre vlastnú potrebu, môžu prijať a vykonávať pravidlá systému riadenia kvality ako súčasť systému riadenia kvality prijatého na vnútroštátnej prípadne regionálnej úrovni, pričom zohľadnia osobitosti odvetvia a právomoci a organizáciu príslušného orgánu verejnej moci.

(54)

Poskytovateľ by mal zaviesť spoľahlivý systém riadenia kvality, zabezpečiť dokončenie požadovaného postupu posudzovania zhody, vypracovať príslušnú dokumentáciu a vytvoriť spoľahlivý systém monitorovania po uvedení na trh. V prípade poskytovateľov, ktorí už zaviedli systémy riadenia kvality založené na normách ako ISO 9001 alebo iných relevantných normách, by sa nemal očakávať žiadny duplicitný systém riadenia kvality v plnom rozsahu, ale skôr prispôsobenie ich existujúcich systémov určitým aspektom spojeným s dodržiavaním osobitných požiadaviek tohto nariadenia. Malo by sa to odzrkadliť aj v budúcich normalizačných činnostiach alebo usmerneniach, ktoré v tejto súvislosti prijme Komisia. Orgány verejnej moci, ktoré uvádzajú do prevádzky vysokorizikové systémy umelej inteligencie pre vlastnú potrebu, môžu prijať a vykonávať pravidlá systému riadenia kvality ako súčasť systému riadenia kvality prijatého na vnútroštátnej prípadne regionálnej úrovni, pričom zohľadnia osobitosti odvetvia a právomoci a organizáciu príslušného orgánu verejnej moci.

(56)

S cieľom umožniť presadzovanie tohto nariadenia a vytvoriť rovnaké podmienky pre prevádzkovateľov je pri zohľadnení rôznych foriem sprístupňovania digitálnych produktov dôležité zabezpečiť, aby osoba usadená v Únii mohla za každých okolností poskytnúť orgánom všetky potrebné informácie o súlade systému umelej inteligencie. Preto ak nie je možné identifikovať dovozcu, poskytovatelia usadení mimo Únie vymenujú písomným splnomocnením pred sprístupnením svojich systémov umelej inteligencie na trhu Únie splnomocneného zástupcu usadeného v Únii.

(56)

S cieľom umožniť presadzovanie tohto nariadenia a vytvoriť rovnaké podmienky pre prevádzkovateľov je pri zohľadnení rôznych foriem sprístupňovania digitálnych produktov dôležité zabezpečiť, aby osoba usadená v Únii mohla za každých okolností poskytnúť orgánom všetky potrebné informácie o súlade systému umelej inteligencie. Preto poskytovatelia usadení mimo Únie vymenujú písomným splnomocnením pred sprístupnením svojich systémov umelej inteligencie na trhu Únie splnomocneného zástupcu usadeného v Únii.

(58)

Vzhľadom na povahu systémov umelej inteligencie a riziká pre bezpečnosť a základné práva, ktoré môžu súvisieť s ich používaním, a to aj pokiaľ ide o potrebu zabezpečiť riadne monitorovanie výkonnosti systému umelej inteligencie v reálnom prostredí, je vhodné stanoviť osobitné povinnosti používateľov . Používatelia by hlavne mali používať vysokorizikové systémy umelej inteligencie v súlade s návodom na použitie a mali by sa stanoviť určité ďalšie povinnosti, pokiaľ ide o monitorovanie fungovania systémov umelej inteligencie a prípadne aj uchovávanie záznamov.

(58)

Vzhľadom na povahu systémov umelej inteligencie a riziká pre bezpečnosť a základné práva, ktoré môžu súvisieť s ich používaním, a to aj pokiaľ ide o potrebu zabezpečiť riadne monitorovanie výkonnosti systému umelej inteligencie v reálnom prostredí, je vhodné stanoviť osobitné povinnosti nasadzujúcich subjektov . Nasadzujúce subjekty by hlavne mali používať vysokorizikové systémy umelej inteligencie v súlade s návodom na použitie a mali by sa stanoviť určité ďalšie povinnosti, pokiaľ ide o monitorovanie fungovania systémov umelej inteligencie a prípadne aj uchovávanie záznamov.

(58a)

Riziká súvisiace so systémami umelej inteligencie môžu vyplývať zo spôsobu, akým sú tieto systémy navrhnuté, ale aj z toho, ako sa tieto systémy umelej inteligencie používajú. Nasadzujúce subjekty vysokorizikového systému umelej inteligencie preto zohrávajú rozhodujúcu úlohu pri zabezpečovaní ochrany základných práv a dopĺňajú povinnosti poskytovateľa pri vývoji systému umelej inteligencie. Nasadzujúce subjekty majú najlepšie predpoklady na to, aby pochopili, ako sa bude vysokorizikový systém umelej inteligencie konkrétne používať, preto môžu identifikovať potenciálne značné riziká, ktoré sa vo fáze vývoja nepredpokladali, a to vďaka presnejším znalostiam kontextu používania, ľudí alebo skupín ľudí, ktorých sa to môže týkať, vrátane marginalizovaných a zraniteľných skupín. Nasadzujúce subjekty by mali určiť vhodné štruktúry riadenia v tomto konkrétnom kontexte použitia, ako sú opatrenia pre ľudský dohľad, postupy vybavovania sťažností a postupy nápravy, pretože rozhodnutia v riadiacich štruktúrach môžu byť nápomocné pri zmierňovaní rizík pre základné práva v konkrétnych prípadoch použitia. S cieľom účinne zabezpečiť ochranu základných práv by preto mal nasadzujúci subjekt vysokorizikových systémov umelej inteligencie vykonať posúdenie vplyvu na základné práva, a to pred ich uvedením do používania. Posúdenie vplyvu by mal sprevádzať podrobný plán opisujúci opatrenia alebo nástroje, ktoré pomôžu zmierniť zistené riziká pre základné práva identifikované najneskôr od ich uvedenia do prevádzky. Ak takýto plán nie je možné identifikovať, nasadzujúci subjekt by sa mal zdržať uvedenia systému do prevádzky. Pri vykonávaní tohto posúdenia vplyvu by mal nasadzujúci subjekt informovať vnútroštátny dozorný orgán a v čo najväčšej možnej miere príslušné zainteresované strany, ako aj zástupcov skupín osôb, ktoré by mohli byť ovplyvnené systémom umelej inteligencie, s cieľom zhromaždiť relevantné informácie, ktoré sa považujú za potrebné na vykonanie posúdenia vplyvu, a vyzýva sa, aby zhrnutie svojho posúdenia vplyvu na základné práva zverejnil na svojom online webovom sídle. Tieto povinnosti by sa nemali vzťahovať na MSP, ktoré by vzhľadom na nedostatok zdrojov mohli mať ťažkosti s vykonaním takejto konzultácie. Mali by sa však tiež usilovať o zapojenie takýchto zástupcov do vykonávania ich posúdenia vplyvu na základné práva. Okrem toho, vzhľadom na potenciálny vplyv a potrebu demokratického dohľadu a kontroly by sa od nasadzujúcich subjektov vysokorizikových systémov umelej inteligencie, ktorí sú verejnými orgánmi alebo inštitúciami, orgánmi, úradmi a agentúrami Únie, ako aj nasadzujúcich subjektov, ktorí sú podnikmi označenými za strážcu prístupu podľa nariadenia (EÚ) 2022/1925, mala vyžadovať registrácia používania každého vysokorizikového systému umelej inteligencie vo verejnej databáze. Iné nasadzujúce subjekty sa môžu dobrovoľne zaregistrovať.

(59)

Je vhodné predpokladať, že používateľom systému umelej inteligencie by mala byť fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, pod ktorého právomocou sa systém umelej inteligencie prevádzkuje, s výnimkou prípadov, keď sa používa v rámci osobnej neprofesionálnej činnosti.

(59)

Je vhodné predpokladať, že nasadzujúcim subjektom systému umelej inteligencie by mala byť fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, pod ktorého právomocou sa systém umelej inteligencie prevádzkuje, s výnimkou prípadov, keď sa používa v rámci osobnej neprofesionálnej činnosti.

(60)

Vzhľadom na zložitosť hodnotového reťazca umelej inteligencie by príslušné tretie strany, najmä tie, ktoré sú zapojené do predaja a  dodávania softvéru, softvérových nástrojov a  komponentov, vopred trénovaných modelov a  údajov, alebo poskytovatelia sieťových služieb mali podľa potreby spolupracovať s poskytovateľmi a používateľmi s cieľom umožniť im dodržiavanie povinností podľa tohto nariadenia a  s  príslušnými orgánmi zriadenými podľa tohto nariadenia .

(60)

V rámci hodnotového reťazca umelej inteligencie viaceré subjekty často dodávajú nástroje a služby, ale aj komponenty alebo procesy, ktoré poskytovateľ následne začlení do systému umelej inteligencie, a to aj v súvislosti so zberom a predbežným spracovaním údajov, trénovaním modelov, pretrénovaním modelov, testovaním a hodnotením modelov, integráciou do softvéru alebo inými aspektmi vývoja modelu. Zapojené subjekty môžu svoju ponuku komerčne sprístupniť priamo alebo nepriamo prostredníctvom rozhraní, ako sú aplikačné programovacie rozhrania, a distribuovať ich v rámci bezplatných licencií a licencií na otvorený zdrojový kód, ale aj čoraz viac prostredníctvom platforiem pracovnej sily v oblasti umelej inteligencie, ďalšieho predaja trénovaných parametrov, svojpomocných sád na budovanie modelov alebo ponúkania plateného prístupu k architektúre modelu na vývoj a trénovanie modelov. Vzhľadom na túto zložitosť hodnotového reťazca umelej inteligencie by všetky príslušné tretie strany, najmä tie, ktoré sú zapojené do vývoja, predaja a  komerčných dodávok softvérových nástrojov, komponentov, vopred trénovaných modelov alebo údajov začlenených do systému umelej inteligencie , alebo poskytovatelia sieťových služieb, mali bez toho, aby boli dotknuté ich vlastné práva duševného vlastníctva alebo obchodné tajomstvo, sprístupniť požadované informácie, odbornú prípravu alebo odborné znalosti a podľa potreby spolupracovať s poskytovateľmi s cieľom umožniť im kontrolu nad všetkými aspektmi systému umelej inteligencie týkajúcimi sa súladu, na ktoré sa vzťahuje toto nariadenie. S cieľom umožniť nákladovo efektívne riadenie hodnotového reťazca umelej inteligencie každá tretia strana, ktorá dodáva poskytovateľovi nástroj, službu, komponent alebo proces, ktorý poskytovateľ neskôr začlení do systému umelej inteligencie, výslovne zverejní úroveň kontroly.

(60a)

Ak je jedna strana v silnejšej rokovacej pozícii, existuje riziko, že táto zmluvná strana by mohla využiť takúto pozíciu na úkor druhej zmluvnej strany pri rokovaniach o dodávke nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, alebo o prostriedkoch nápravy v prípade porušenia alebo ukončenia súvisiacich povinností. Takáto zmluvná nerovnováha poškodzuje najmä mikropodniky, malé a stredné podniky, ako aj startupy, pokiaľ ich nevlastní podnik alebo neuzavreli zmluvu s podnikom, ktorý je schopný primerane odškodniť subdodávateľa, keďže nemajú zmysluplnú schopnosť rokovať o podmienkach zmluvnej dohody a nemusia mať inú možnosť, ako akceptovať zmluvné podmienky v podobe, v akej sú predložené. Preto by neprijateľné zmluvné podmienky upravujúce poskytovanie nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, alebo prostriedky nápravy v prípade porušenia alebo ukončenia súvisiacich povinností, nemali byť pre takéto mikropodniky, malé alebo stredné podniky a startupy záväzné, ak im boli jednostranne uložené.

(60b)

V pravidlách o zmluvných podmienkach by sa mala zohľadňovať zásada zmluvnej slobody ako základný pojem vo vzťahoch medzi podnikmi. Preto by testu nekalosti nemali podliehať všetky zmluvné podmienky, ale len tie podmienky, ktoré sú jednostranne uložené mikropodnikom, malým a stredným podnikom a startupom. Týka sa to situácií typu „ber alebo nechaj tak“, keď jedna strana poskytne určitú zmluvnú podmienku a mikropodnik, malý alebo stredný podnik a startup nemôže ovplyvniť obsah tejto podmienky napriek pokusu o vyjednávanie. Za jednostranne uloženú by sa nemala považovať zmluvná podmienka, ktorú jednoducho poskytne jedna strana a mikropodnik, malý podnik, stredný podnik alebo startup ju akceptuje, alebo podmienka, ktorá je dohodnutá a následne odsúhlasená zmeneným spôsobom medzi zmluvnými stranami.

(60c)

Okrem toho by sa pravidlá týkajúce sa nekalých zmluvných podmienok mali uplatňovať len na tie prvky zmluvy, ktoré sa týkajú poskytovania nástrojov, služieb, komponentov alebo procesov, ktoré sa používajú alebo sú integrované do vysokorizikového systému umelej inteligencie, alebo na prostriedky nápravy v prípade porušenia alebo ukončenia súvisiacich povinností. Ostatné časti tej istej zmluvy, ktoré nesúvisia s týmito prvkami, by nemali podliehať testu nekalosti stanovenému v tomto nariadení.

(60d)

Kritériá na identifikáciu neprijateľných zmluvných podmienok by sa mali uplatňovať len na neprimerané zmluvné podmienky, pri ktorých sa zneužíva silnejšia vyjednávacia pozícia. Prevažná väčšina zmluvných podmienok, ktoré sú komerčne výhodnejšie pre jednu stranu ako pre druhú, vrátane tých, ktoré sú bežné v zmluvách medzi podnikmi, sú bežným vyjadrením zásady zmluvnej slobody a uplatňujú sa aj naďalej. Ak zmluvná podmienka nie je zahrnutá do zoznamu podmienok, ktoré sa vždy považujú za neprijateľné, uplatní sa všeobecné ustanovenie o nekalosti. V tomto ohľade by podmienky uvedené ako neprijateľné podmienky mali slúžiť ako meradlo na výklad všeobecného ustanovenia o nekalosti.

(60e)

Základné modely sú najnovším vývojom, v rámci ktorého sa modely umelej inteligencie vyvíjajú z algoritmov určených na optimalizáciu pre všeobecnosť a všestrannosť výstupov. Tieto modely sú často trénované na širokom spektre zdrojov údajov a veľkom množstve údajov na vykonávanie širokej škály nadväzujúcich úloh vrátane niektorých, na ktoré neboli osobitne vyvinuté a vytrénované. Základný model môže byť unimodálny alebo multimodálny, vytrénovaný prostredníctvom rôznych metód, ako je napríklad strojové učenie s učiteľom alebo posilnený tréning. Systémy umelej inteligencie s konkrétnym účelom určenia alebo systémy umelej inteligencie na všeobecné účely môžu byť implementáciou základného modelu, čo znamená, že každý základný model možno opätovne použiť v nespočetných nadväzujúcich systémoch umelej inteligencie alebo systémoch umelej inteligencie na všeobecné účely. Tieto modely majú čoraz väčší význam pre mnohé nadväzné aplikácie a systémy.

(60f)

V prípade základných modelov poskytovaných ako služba, napríklad prostredníctvom prístupu k aplikačnému programovaciemu rozhraniu, by sa spolupráca s nadväzujúcimi poskytovateľmi mala rozšíriť počas celého obdobia, počas ktorého sa táto služba poskytuje a podporuje, s cieľom umožniť primerané zmiernenie rizika, pokiaľ poskytovateľ základného modelu neprevedie tréningový model, ako aj rozsiahle a primerané informácie o súboroch údajov a procese vývoja systému alebo neobmedzí službu, ako je prístup k aplikačnému programovaciemu rozhraniu, takým spôsobom, aby nadväzujúci poskytovateľ bol schopný v plnej miere dodržiavať toto nariadenie bez ďalšej podpory pôvodného poskytovateľa základného modelu.

(60g)

Vzhľadom na povahu a zložitosť hodnotového reťazca systému umelej inteligencie je nevyhnutné objasniť úlohu aktérov prispievajúcich k rozvoju systémov umelej inteligencie. Existuje značná neistota, pokiaľ ide o spôsob, akým sa budú vyvíjať základné modely, a to tak z hľadiska typológie modelov, ako aj z hľadiska samosprávy. Preto je nevyhnutné objasniť právnu situáciu poskytovateľov základných modelov. V kombinácii s ich zložitosťou a neočakávaným vplyvom takýchto modelov, nedostatočnou kontrolou poskytovateľa nadväznej umelej inteligencie nad vývojom základného modelu a následnou mocenskou nerovnováhou a s cieľom zabezpečiť spravodlivé rozdelenie zodpovednosti v rámci hodnotového reťazca umelej inteligencie by takéto modely mali podliehať primeraným a špecifickejším požiadavkám a povinnostiam podľa tohto nariadenia, konkrétne základné modely by mali posudzovať a zmierňovať možné riziká a škody prostredníctvom vhodného návrhu, testovania a analýzy, mali by implementovať opatrenia na správu údajov vrátane posúdenia zaujatosti a mali by spĺňať technické požiadavky na návrh s cieľom zabezpečiť primeranú úroveň výkonnosti, predvídateľnosti, interpretovateľnosti, korigovateľnosti, bezpečnosti a kybernetickej bezpečnosti a mali by byť v súlade s environmentálnymi normami. Tieto povinnosti by mali sprevádzať normy. Základné modely by mali mať aj informačné povinnosti a mali by pripraviť všetku technickú dokumentáciu potrebnú na to, aby potenciálni nadväzní poskytovatelia mohli plniť svoje povinnosti podľa tohto nariadenia. Základné generatívne modely by mali zabezpečiť transparentnosť, pokiaľ ide o skutočnosť, že obsah vytvára systém umelej inteligencie, a nie ľudia. Tieto osobitné požiadavky a povinnosti nepredstavujú posúdenie základných modelov ako vysokorizikové systémy umelej inteligencie, ale mali by zaručiť dosiahnutie cieľov tohto nariadenia, ktorými je zabezpečiť vysokú úroveň ochrany základných práv, zdravia a bezpečnosti, životného prostredia, demokracie a právneho štátu. Vopred trénované modely vyvinuté pre užší, menej všeobecný a obmedzenejší súbor aplikácií, ktoré nemožno prispôsobiť širokému spektru úloh, ako sú jednoduché viacúčelové systémy umelej inteligencie, by sa nemali považovať za základné modely na účely tohto nariadenia z dôvodu ich väčšej interpretovateľnosti, v dôsledku čoho je ich správanie menej predvídateľné.

(60h)

Vzhľadom na povahu základných modelov chýbajú odborné znalosti v oblasti posudzovania zhody a metódy auditu treťou stranou sa stále vyvíjajú. Samotný sektor preto vyvíja nové spôsoby hodnotenia základných modelov, ktoré čiastočne spĺňajú cieľ auditu (napr. hodnotenie modelov, red-teaming alebo overovanie a validácia strojového učenia). Tieto interné hodnotenia základných modelov by mali byť všeobecne uplatniteľné (napr. nezávislé od distribučných reťazcov, modality, vývojových metód) s cieľom riešiť riziká špecifické pre takéto modely s prihliadnutím na najmodernejšie postupy odvetvia a zamerať sa na rozvoj dostatočného technického porozumenia a kontroly modelu, riadenie primerane predvídateľných rizík a rozsiahlu analýzu a testovanie modelu prostredníctvom vhodných opatrení, napríklad zapojením nezávislých hodnotiteľov. Keďže základné modely sú novým a rýchlo napredujúcim vývojom v oblasti umelej inteligencie, je vhodné, aby Komisia a úrad pre umelú inteligenciu monitorovali a pravidelne posudzovali legislatívny rámec a rámec riadenia takýchto modelov, a najmä generatívnych systémov umelej inteligencie založených na takýchto modeloch, čo vyvoláva významné otázky týkajúce sa tvorby obsahu v rozpore s právom Únie, pravidlami v oblasti autorského práva a možným zneužívaním. Malo by sa objasniť, že týmto nariadením by nemali byť dotknuté právne predpisy Únie v oblasti autorského práva a s ním súvisiace práva vrátane smerníc Európskeho parlamentu a Rady 2001/29/ES, 2004/48/ECR a (EÚ) 2019/790.

(61)

Kľúčovú úlohu pri poskytovaní technických riešení poskytovateľom na zabezpečenie súladu s týmto nariadením by mala zohrávať normalizácia. Dodržiavanie harmonizovaných noriem vymedzených v nariadení Európskeho parlamentu a Rady (EÚ) č. 1025/2012 (54) by malo byť pre poskytovateľov prostriedkom na preukázanie zhody s požiadavkami tohto nariadenia. Komisia by však mohla prijať spoločné technické špecifikácie v oblastiach, v ktorých harmonizované normy neexistujú alebo nie sú dostatočné.

(61)

Kľúčovú úlohu pri poskytovaní technických riešení poskytovateľom na zabezpečenie súladu s týmto nariadením by mala zohrávať normalizácia. Dodržiavanie harmonizovaných noriem vymedzených v nariadení Európskeho parlamentu a Rady (EÚ) č. 1025/2012 (54) by malo byť pre poskytovateľov prostriedkom na preukázanie zhody s požiadavkami tohto nariadenia. S cieľom zabezpečiť účinnosť noriem ako politického nástroja pre Úniu a vzhľadom na význam noriem pre zabezpečenie súladu s požiadavkami tohto nariadenia a pre konkurencieschopnosť podnikov je potrebné zabezpečiť vyvážené zastúpenie záujmov zapojením všetkých príslušných zainteresovaných strán na tvorbe noriem. Proces normalizácie by mal byť z hľadiska právnických a fyzických osôb, ktoré sa zúčastňujú na normalizačných činnostiach, transparentný.

(61a)

S cieľom uľahčiť dodržiavanie predpisov by Komisia mala vydať prvé žiadosti o normalizáciu najneskôr dva mesiace po nadobudnutí účinnosti tohto nariadenia. Malo by to slúžiť na zlepšenie právnej istoty, a tým podporiť investície a inovácie v oblasti umelej inteligencie, ako aj konkurencieschopnosť a rast trhu Únie, a zároveň posilniť správu viacerých zainteresovaných strán zastupujúcich všetky príslušné európske zainteresované strany, ako sú úrad pre umelú inteligenciu, európske normalizačné organizácie a orgány alebo expertné skupiny zriadené podľa príslušného odvetvového práva Únie, ako aj priemysel, MSP, startupy, občianska spoločnosť, výskumní pracovníci a sociálni partneri, a v konečnom dôsledku by to malo uľahčiť globálnu spoluprácu na normalizácii v oblasti umelej inteligencie spôsobom, ktorý je v súlade s hodnotami Únie. Pri príprave žiadosti o normalizáciu by Komisia mala konzultovať s úradom pre umelú inteligenciu a poradným fórom pre umelú inteligenciu s cieľom zhromaždiť príslušné odborné znalosti.

(61b)

Ak sú systémy umelej inteligencie určené na používanie na pracovisku, harmonizované normy by sa mali obmedziť na technické špecifikácie a postupy.

(61c)

Komisia by mala mať možnosť prijať spoločné špecifikácie za určitých podmienok, ak neexistuje žiadna príslušná harmonizovaná norma, alebo riešiť osobitné obavy týkajúce sa základných práv. Počas celého procesu navrhovania by Komisia mala pravidelne konzultovať s úradom pre umelú inteligenciu a jeho poradným fórom, európskymi normalizačnými organizáciami a orgánmi alebo expertnými skupinami zriadenými podľa príslušného odvetvového práva Únie, ako aj s príslušnými zainteresovanými stranami, ako sú priemysel, MSP, startupy, občianska spoločnosť, výskumní pracovníci a sociálni partneri.

(61d)

Pri prijímaní spoločných špecifikácií by sa Komisia mala usilovať o zosúladenie právnych predpisov umelej inteligencie s podobne zmýšľajúcimi globálnymi partnermi, čo je kľúčom k podpore inovácií a cezhraničných partnerstiev v oblasti umelej inteligencie, keďže koordinácia s podobne zmýšľajúcimi partnermi v medzinárodných normalizačných orgánoch má veľký význam.

(62)

Na zabezpečenie vysokej úrovne dôveryhodnosti vysokorizikových systémov umelej inteligencie by tieto systémy mali pred svojím uvedením na trh alebo do prevádzky podliehať posudzovaniu zhody.

(62)

Na zabezpečenie vysokej úrovne dôveryhodnosti vysokorizikových systémov umelej inteligencie by tieto systémy mali pred svojím uvedením na trh alebo do prevádzky podliehať posudzovaniu zhody. S cieľom zvýšiť dôveru v hodnotový reťazec a poskytnúť podnikom istotu v oblasti výkonnosti ich systémov môžu tretie strany, ktoré dodávajú komponenty AI, dobrovoľne požiadať o posúdenie zhody treťou stranou.

(64)

Vzhľadom na rozsiahlejšie skúsenosti profesionálnych certifikačných subjektov pred uvedením na trh v oblasti bezpečnosti výrobkov a na rozličnú povahu súvisiacich rizík je vhodné aspoň v počiatočnej fáze uplatňovania tohto nariadenia obmedziť rozsah uplatňovania posudzovania zhody treťou stranou v prípade vysokorizikových systémov umelej inteligencie iných ako tých, ktoré sa týkajú výrobkov. Posudzovanie zhody takýchto systémov by mal preto spravidla vykonávať poskytovateľ na vlastnú zodpovednosť s jedinou výnimkou, ktorú tvoria systémy umelej inteligencie určené na používanie na diaľkovú biometrickú identifikáciu osôb, v prípade ktorých by sa malo predpokladať zapojenie notifikovanej osoby do posudzovania zhody, pokiaľ tieto systémy nie sú zakázané.

(64)

Vzhľadom na zložitosť vysokorizikových systémov umelej inteligencie a s nimi spojené riziká je nevyhnutné vytvoriť primeranejšiu kapacitu na uplatňovanie posudzovania zhody vysokorizikových systémov umelej inteligencie treťou stranou. Vzhľadom na súčasné rozsiahlejšie skúsenosti profesionálnych certifikačných subjektov pred uvedením na trh v oblasti bezpečnosti výrobkov a na rozličnú povahu súvisiacich rizík je však vhodné aspoň v počiatočnej fáze uplatňovania tohto nariadenia obmedziť rozsah uplatňovania posudzovania zhody treťou stranou v prípade vysokorizikových systémov umelej inteligencie iných ako tých, ktoré sa týkajú výrobkov. Posudzovanie zhody takýchto systémov by mal preto spravidla vykonávať poskytovateľ na vlastnú zodpovednosť s jedinou výnimkou, ktorú tvoria systémy umelej inteligencie určené na používanie na diaľkovú biometrickú identifikáciu osôb alebo systémy umelej inteligencie, ktoré sa majú použiť na vyvodenie záverov o osobných charakteristikách fyzických osôb na základe biometrických údajov alebo údajov založených na biometrických údajoch vrátane systémov rozpoznávania emócií , v prípade ktorých by sa malo predpokladať zapojenie notifikovanej osoby do posudzovania zhody, pokiaľ tieto systémy nie sú zakázané.

(65)

S cieľom vykonávať posudzovanie zhody treťou stranou v prípade systémov umelej inteligencie, ktoré sa majú používať na diaľkovú biometrickú identifikáciu osôb, by podľa tohto nariadenia mali byť notifikované osoby určené príslušnými vnútroštátnymi orgánmi za predpokladu, že spĺňajú súbor požiadaviek, najmä pokiaľ ide o nezávislosť, spôsobilosť a  neexistenciu konfliktu záujmov.

(65)

S cieľom vykonávať podľa potreby posudzovania zhody treťou stranou by podľa tohto nariadenia mali byť notifikované osoby určené príslušnými vnútroštátnymi orgánmi za predpokladu, že spĺňajú súbor požiadaviek, najmä pokiaľ ide o nezávislosť, spôsobilosť, neexistenciu konfliktu záujmov a minimálne požiadavky na kybernetickú bezpečnosť . Členské štáty by mali podporiť vymenovanie dostatočného počtu orgánov posudzovania zhody, aby bolo možné certifikáciu vykonať včas. Postupy posudzovania, vymenovania, notifikácie a monitorovania orgánov posudzovania zhody by sa mali v členských štátoch vykonávať čo najjednotnejšie s cieľom odstrániť administratívne prekážky na hraniciach a zabezpečiť využitie potenciálu vnútorného trhu.

(65a)

V súlade so záväzkami Únie vyplývajúcimi z Dohody Svetovej obchodnej organizácie o technických prekážkach obchodu je primerané maximalizovať akceptáciu výsledkov testov predložených príslušnými orgánmi posudzovania zhody nezávisle od toho, na akom území sú zriadené, ak je to potrebné na preukázanie zhody s uplatniteľnými požiadavkami nariadenia. Komisia by mala aktívne preskúmať možné medzinárodné nástroje na tento účel, a najmä usilovať sa o možné uzavretie dohôd o vzájomnom uznávaní s krajinami, ktoré sú na porovnateľnej úrovni technického rozvoja a majú kompatibilný prístup k umelej inteligencii a posudzovaniu zhody.

(66)

V súlade so všeobecne zaužívaným pojmom podstatnej zmeny pre výrobky regulované harmonizačnými právnymi predpismi Únie je vhodné, aby sa systém umelej inteligencie podrobil novému posudzovaniu zhody vždy, keď nastane zmena, ktorá môže ovplyvniť súlad systému s týmto nariadením, alebo keď sa zmení zamýšľaný účel systému. Okrem toho, pokiaľ ide o systémy umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia (t. j. automaticky prispôsobujú spôsob vykonávania funkcií), je potrebné vypracovať pravidlá, ktorými sa stanoví, že zmeny algoritmu a jeho výkonnosti, ktoré vopred stanovil poskytovateľ a ktoré boli posúdené v čase posudzovania zhody, by nemali predstavovať podstatnú zmenu.

(66)

V súlade so všeobecne zaužívaným pojmom podstatnej zmeny pre výrobky regulované harmonizačnými právnymi predpismi Únie je vhodné, aby sa vysokorizikový systém umelej inteligencie podrobil novému posudzovaniu zhody vždy, keď nastane neplánovaná zmena, ktorá presahuje rámec kontrolovaných alebo vopred určených zmien zo strany poskytovateľa vrátane kontinuálneho vzdelávania a ktorá môže vytvoriť nové neprijateľné riziko a výrazne ovplyvniť súlad vysokorizikového systému umelej inteligencie s týmto nariadením, alebo keď sa zmení zamýšľaný účel systému. Okrem toho, pokiaľ ide o systémy umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia (t. j. automaticky prispôsobujú spôsob vykonávania funkcií), je potrebné vypracovať pravidlá, ktorými sa stanoví, že zmeny algoritmu a jeho výkonnosti, ktoré vopred stanovil poskytovateľ a ktoré boli posúdené v čase posudzovania zhody, by nemali predstavovať podstatnú zmenu. To isté by sa malo vzťahovať na aktualizácie systému umelej inteligencie z bezpečnostných dôvodov vo všeobecnosti a na ochranu pred vyvíjajúcimi sa hrozbami manipulácie so systémom za predpokladu, že nepredstavujú podstatnú zmenu.

(67)

Vysokorizikové systémy umelej inteligencie by mali niesť označenie CE, ktoré by preukazovalo ich súlad s týmto nariadením, aby im bol umožnený voľný pohyb v rámci vnútorného trhu. Členské štáty by nemali vytvárať neodôvodnené prekážky uvedeniu na trh ani do prevádzky v prípade vysokorizikových systémov umelej inteligencie, ktoré spĺňajú požiadavky stanovené v tomto nariadení a majú označenie CE.

(67)

Vysokorizikové systémy umelej inteligencie by mali niesť označenie CE, ktoré by preukazovalo ich súlad s týmto nariadením, aby im bol umožnený voľný pohyb v rámci vnútorného trhu. V prípade fyzických vysokorizikových systémov umelej inteligencie by sa malo umiestniť fyzické označenie CE, ktoré môže byť doplnené digitálnym označením CE. V prípade výlučne digitálnych vysokorizikových systémov umelej inteligencie by sa malo používať digitálne označenie CE. Členské štáty by nemali vytvárať neodôvodnené prekážky uvedeniu na trh ani do prevádzky v prípade vysokorizikových systémov umelej inteligencie, ktoré spĺňajú požiadavky stanovené v tomto nariadení a majú označenie CE.

(68)

Rýchla dostupnosť inovačných technológií môže mať za určitých podmienok zásadný význam pre zdravie a bezpečnosť osôb a pre spoločnosť ako celok. Je preto vhodné, aby členské štáty mohli z výnimočných dôvodov verejnej bezpečnosti alebo ochrany života a zdravia fyzických osôb a  ochrany priemyselného a  obchodného vlastníctva povoliť uvedenie na trh alebo do prevádzky v prípade systémov umelej inteligencie, ktoré neboli podrobené posudzovaniu zhody.

(68)

Rýchla dostupnosť inovačných technológií môže mať za určitých podmienok zásadný význam pre zdravie a bezpečnosť osôb , životné prostredie a zmenu klímy a pre spoločnosť ako celok. Je preto vhodné, aby členské štáty mohli z výnimočných dôvodov ochrany života a zdravia fyzických osôb, ochrany životného prostredia a  ochrany kritickej infraštruktúry povoliť uvedenie na trh alebo do prevádzky v prípade systémov umelej inteligencie, ktoré neboli podrobené posudzovaniu zhody.

(69)

S cieľom uľahčiť prácu Komisie a členských štátov v oblasti umelej inteligencie, ako aj zvýšiť transparentnosť voči verejnosti by sa od poskytovateľov vysokorizikových systémov umelej inteligencie, ktoré nesúvisia s výrobkami patriacimi do rozsahu pôsobnosti príslušných existujúcich harmonizačných právnych predpisov Únie, malo vyžadovať, aby svoje vysokorizikové systémy umelej inteligencie zaregistrovali v databáze EÚ, ktorú má zriadiť a spravovať Komisia. Prevádzkovateľom uvedenej databázy by v súlade s nariadením Európskeho parlamentu a Rady (EÚ) 2018/1725 (55) mala byť Komisia. Aby sa zaistila plná funkčnosť tejto databázy pri jej zavedení, by postup pri vytváraní databázy mal zahŕňať funkčné špecifikácie vypracované Komisiou a nezávislú audítorskú správu.

(69)

S cieľom uľahčiť prácu Komisie a členských štátov v oblasti umelej inteligencie, ako aj zvýšiť transparentnosť voči verejnosti by sa od poskytovateľov vysokorizikových systémov umelej inteligencie, ktoré nesúvisia s výrobkami patriacimi do rozsahu pôsobnosti príslušných existujúcich harmonizačných právnych predpisov Únie, malo vyžadovať, aby svoje vysokorizikové systémy umelej inteligencie a základné modely zaregistrovali v databáze EÚ, ktorú má zriadiť a spravovať Komisia. Táto databáza by mala byť voľne a verejne prístupná, ľahko zrozumiteľná a strojovo čitateľná. Databáza by mala byť aj používateľsky ústretová a mala by umožňovať ľahkú navigáciu, pričom funkcie vyhľadávania by mali umožniť širokej verejnosti vyhľadávať v databáze špecifické vysokorizikové systémy, miesta, kategórie rizika podľa prílohy IV a kľúčové slová. Nasadzujúce subjekty, ktoré sú orgánmi verejnej moci alebo inštitúciami, orgánmi, úradmi a agentúrami Únie, alebo nasadzujúcimi subjektmi konajúcimi v ich mene a nasadzujúce subjekty, ktoré sú podnikmi určenými ako strážca prístupu podľa nariadenia (EÚ) 2022/1925, by sa pred uvedením vysokorizikového systému umelej inteligencie do prevádzky alebo pred jeho prvým použitím a po každej podstatnej zmene mali tiež zaregistrovať v databáze EÚ. Ostatné nasadzujúce subjekty by mali mať právo tak urobiť dobrovoľne. Každá podstatná zmena vysokorizikových systémov umelej inteligencie sa takisto zaregistruje v databáze EÚ. Prevádzkovateľom uvedenej databázy by v súlade s nariadením Európskeho parlamentu a Rady (EÚ) 2018/1725 (55) mala byť Komisia. Aby sa zaistila plná funkčnosť tejto databázy pri jej zavedení, by postup pri vytváraní databázy mal zahŕňať funkčné špecifikácie vypracované Komisiou a nezávislú audítorskú správu. Komisia by mala pri plnení svojich úloh prevádzkovateľa údajov v databáze EÚ zohľadniť kybernetickú bezpečnosť a riziká súvisiace s nebezpečenstvom. V záujme maximalizácie dostupnosti a využívania databázy verejnosťou by databáza vrátane informácií, ktoré sa prostredníctvom nej sprístupňujú, mala spĺňať požiadavky podľa smernice 2019/882.

(71)

Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá si vyžaduje nové formy regulačného dohľadu a bezpečný priestor na experimentovanie, pričom sa musí zabezpečiť, aby inovácia bola zodpovedná a aby boli integrované primerané záruky a opatrenia na zmiernenie rizika. Na zabezpečenie právneho rámca, ktorý bude priaznivý pre inovácie, nadčasový a odolný voči narušeniu, by bolo potrebné podporiť príslušné vnútroštátne orgány jedného alebo viacerých členských štátov, aby zriadili experimentálne regulačné prostredia pre umelú inteligenciu s cieľom uľahčiť vývoj a testovanie inovačných systémov umelej inteligencie pod prísnym regulačným dohľadom skôr, než sa tieto systémy uvedú na trh alebo inak uvedú do prevádzky.

(71)

Umelá inteligencia je rýchlo sa rozvíjajúca skupina technológií, ktorá si vyžaduje regulačný dohľad a bezpečný a kontrolovaný priestor na experimentovanie, pričom sa musí zabezpečiť, aby inovácia bola zodpovedná a aby boli integrované primerané záruky a opatrenia na zmiernenie rizika. Na zabezpečenie právneho rámca, ktorý podporuje inovácie, je nadčasový a odolný voči narušeniu, by členské štáty mali zriadiť aspoň jedno experimentálne regulačné prostredie pre umelú inteligenciu s cieľom uľahčiť vývoj a testovanie inovačných systémov umelej inteligencie pod prísnym regulačným dohľadom skôr, než sa tieto systémy uvedú na trh alebo inak uvedú do prevádzky. Je skutočne žiaduce, aby sa zriadenie experimentálnych regulačných prostredí, za ktoré v súčasnosti zodpovedajú členské štáty, stalo povinným na základe stanovených kritérií. Toto povinné experimentálne prostredie by sa mohlo zriadiť aj spoločne s jedným alebo viacerými ďalšími členskými štátmi, pokiaľ by sa toto experimentálne prostredie vzťahovalo na príslušnú vnútroštátnu úroveň dotknutých členských štátov. Ďalšie experimentálne prostredia sa môžu zriadiť aj na rôznych úrovniach vrátane medzi členskými štátmi s cieľom uľahčiť cezhraničnú spoluprácu a synergie. S výnimkou povinného experimentálneho prostredia na vnútroštátnej úrovni by členské štáty mali mať možnosť zriadiť virtuálne alebo hybridné experimentálne prostredia. Všetky experimentálne regulačné prostredia by mali byť schopné prispôsobiť sa fyzickým aj virtuálnym produktom. Zriaďovacie orgány by mali tiež zabezpečiť, aby experimentálne regulačné prostredia mali primerané finančné a ľudské zdroje na svoje fungovanie.

(72)

Cieľmi experimentálnych regulačných prostredí by mala byť podpora inovácií v oblasti umelej inteligencie vytvorením kontrolovaného experimentálneho a testovacieho prostredia vo fáze vývoja a pred uvedením na trh, aby sa zabezpečil súlad inovačných systémov umelej inteligencie s týmto nariadením a  inými príslušnými právnymi predpismi Únie a členských štátov; posilnenie právnej istoty inovátorov, dohľadu príslušných orgánov a porozumenia príležitostiam, vznikajúcim rizikám a vplyvom používania umelej inteligencie , ako aj urýchlenie prístupu na trhy, a to aj odstránením prekážok pre malé a stredné podniky (MSP) a startupy . S cieľom zabezpečiť jednotné vykonávanie v celej Únii a úspory z rozsahu je vhodné stanoviť spoločné pravidlá pre zavádzanie experimentálnych regulačných prostredí a rámec pre spoluprácu medzi príslušnými orgánmi zapojenými do dohľadu nad experimentálnymi prostrediami. Toto nariadenie by malo poskytnúť právny základ pre používanie osobných údajov zozbieraných na iné účely na vývoj určitých systémov umelej inteligencie vo verejnom záujme v rámci experimentálneho regulačného prostredia pre umelú inteligenciu v súlade s článkom 6 ods. 4 nariadenia (EÚ) 2016/679 a článkom 6 nariadenia (EÚ) 2018/1725 a bez toho, aby bol dotknutý článok 4 ods. 2 smernice (EÚ) 2016/680. Účastníci experimentálneho prostredia by mali zabezpečiť primerané záruky a spolupracovať s príslušnými orgánmi, a to aj tým, že budú postupovať podľa ich usmernení a konať promptne a v dobrej viere s cieľom zmierniť akékoľvek vysoké riziko pre bezpečnosť a základné práva, ktoré môže vzniknúť počas vývoja a experimentovania v experimentálnom prostredí. Pri rozhodovaní o uložení správnej pokuty podľa článku 83 ods. 2 nariadenia 2016/679 a článku 57 smernice 2016/680 by sa malo zohľadniť správanie účastníkov v experimentálnom prostredí.

(72)

Cieľom experimentálnych regulačných prostredí by malo byť : aby zriaďovacie orgány lepšie chápali technický vývoj, zlepšili metódy dohľadu a poskytovali usmernenia vývojárom a poskytovateľom systémov umelej inteligencie s cieľom dosiahnuť regulačný súlad s týmto nariadením alebo prípadne inými uplatniteľnými právnymi predpismi Únie a členských štátov , ako aj s Chartou základných práv ; aby potenciálni poskytovatelia umožnili a uľahčili testovanie a vývoj inovačných riešení týkajúcich sa systémov umelej inteligencie vo fáze pred uvedením na trh s cieľom zvýšiť právnu istotu, umožniť viac regulačného vzdelávania zriadením orgánov v kontrolovanom prostredí s cieľom vypracovať lepšie usmernenia a identifikovať možné budúce zlepšenia právneho rámca prostredníctvom riadneho legislatívneho postupu. Akékoľvek významné riziká, ktoré sa zistia počas vývoja a testovania takýchto systémov umelej inteligencie, by mali mať za následok okamžité zmiernenie rizík, a ak to nie je možné, pozastavenie procesu vývoja a testovania, až kým k takémuto zmierneniu nedôjde . S cieľom zabezpečiť jednotné vykonávanie v celej Únii a úspory z rozsahu je vhodné stanoviť spoločné pravidlá pre zavádzanie experimentálnych regulačných prostredí a rámec pre spoluprácu medzi príslušnými orgánmi zapojenými do dohľadu nad experimentálnymi prostrediami. Členské štáty by mali zabezpečiť, aby experimentálne regulačné prostredia boli široko dostupné v celej Únii, pričom účasť by mala zostať dobrovoľná. Je osobitne dôležité zabezpečiť, aby k týmto regulačným prostrediam mali dobrý prístup MSP a startupy, aktívne sa zapájali do vývoja a testovania inovačných systémov umelej inteligencie a zúčastňovali sa na nich, aby tak mohli prispieť svojim know-how a skúsenosťami.

(72a)

Toto nariadenie by malo poskytnúť právny základ pre používanie osobných údajov zozbieraných na iné účely na vývoj určitých systémov umelej inteligencie vo verejnom záujme v rámci experimentálneho regulačného prostredia pre umelú inteligenciu len za stanovených podmienok v súlade s článkom 6 ods. 4 nariadenia (EÚ) 2016/679 a článkom 6 nariadenia (EÚ) 2018/1725 a bez toho, aby bol dotknutý článok 4 ods. 2 smernice (EÚ) 2016/680. Potenciálni poskytovatelia experimentálneho prostredia by mali zabezpečiť primerané záruky a spolupracovať s príslušnými orgánmi, a to aj tým, že budú postupovať podľa ich usmernení a konať promptne a v dobrej viere s cieľom zmierniť akékoľvek vysoké riziko pre bezpečnosť, zdravie a životné prostredie a základné práva, ktoré môže vzniknúť počas vývoja a experimentovania v experimentálnom prostredí. Pri rozhodovaní príslušných orgánov o dočasnom alebo trvalom pozastavení ich účasti v experimentálnom prostredí a o uložení správnej pokuty podľa článku 83 ods. 2 nariadenia 2016/679 a článku 57 smernice 2016/680 by sa malo zohľadniť správanie potenciálnych poskytovateľov v experimentálnom prostredí.

(72b)

S cieľom zabezpečiť, aby umelá inteligencia viedla k spoločensky a environmentálne prospešným výsledkom, by členské štáty mali podporovať a propagovať výskum a vývoj umelej inteligencie na podporu spoločensky a environmentálne prospešných výsledkov tým, že vyčlenia dostatočné zdroje vrátane verejných prostriedkov a prostriedkov Únie a projektom vedeným občianskou spoločnosťou poskytnú prednostný prístup k experimentálnym regulačným prostrediam. Takéto projekty by mali byť založené na zásade interdisciplinárnej spolupráce medzi vývojármi umelej inteligencie, odborníkmi na nerovnosť a nediskrimináciu, prístupnosť, spotrebiteľské, environmentálne a digitálne práva, ako aj akademickými pracovníkmi.

(73)

V záujme podpory a ochrany inovácií je dôležité, aby sa osobitne prihliadalo na záujmy malých poskytovateľov a používateľov systémov umelej inteligencie. Na tento účel by členské štáty mali vyvíjať iniciatívy zamerané na týchto prevádzkovateľov vrátane zvyšovania informovanosti a informačnej komunikácie. Aj notifikované osoby zohľadnia pri stanovovaní poplatkov za posudzovanie zhody osobitné záujmy a potreby malých poskytovateľov. Značné náklady pre poskytovateľov a iných, najmä menších prevádzkovateľov môžu predstavovať náklady na preklady súvisiace s povinnou dokumentáciou a komunikáciou s orgánmi. Členské štáty by mali podľa možnosti zabezpečiť, aby jedným z jazykov, ktoré určili a akceptovali na účely dokumentácie príslušných poskytovateľov a komunikácie s prevádzkovateľmi, bol jazyk, ktorému vo všeobecnosti rozumie čo najväčší počet cezhraničných používateľov.

(73)

V záujme podpory a ochrany inovácií je dôležité, aby sa osobitne prihliadalo na záujmy malých poskytovateľov a používateľov systémov umelej inteligencie. Na tento účel by členské štáty mali vyvíjať iniciatívy zamerané na týchto prevádzkovateľov vrátane gramotnosti v oblasti umelej inteligencie, zvyšovania informovanosti a informačnej komunikácie. Členské štáty použijú existujúce kanály a v prípade potreby vytvoria nové vyhradené kanály na komunikáciu s MSP, startupmi, používateľom a ďalšími inovátormi s cieľom poskytovať usmernenia a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia. Medzi takéto existujúce kanály môžu okrem iného patriť tímy agentúry ENISA pre riešenie počítačových bezpečnostných incidentov, národné agentúry na ochranu údajov, platforma umelej inteligencie na požiadanie, európske centrá digitálnych inovácií a iné relevantné nástroje financované programami EÚ, ako aj zariadenia na testovanie a experimentovanie zriadené Komisiou a členskými štátmi na vnútroštátnej úrovni alebo na úrovni Únie. Vo vhodných prípadoch tieto kanály navzájom spolupracujú s cieľom vytvoriť synergie a zabezpečiť homogénnosť v ich usmerneniach pre startupy, MSP a používateľov. Aj notifikované osoby zohľadnia pri stanovovaní poplatkov za posudzovanie zhody osobitné záujmy a potreby malých poskytovateľov. Komisia pravidelne posudzuje náklady MSP a startupov na certifikáciu a dodržiavanie predpisov, a to aj prostredníctvom transparentných konzultácií s MSP, startupmi a používateľmi, a spolupracuje s členskými štátmi na znížení týchto nákladov. Napríklad značné náklady pre poskytovateľov a iných, najmä menších prevádzkovateľov môžu predstavovať náklady na preklady súvisiace s povinnou dokumentáciou a komunikáciou s orgánmi. Členské štáty by mali podľa možnosti zabezpečiť, aby jedným z jazykov, ktoré určili a akceptovali na účely dokumentácie príslušných poskytovateľov a komunikácie s prevádzkovateľmi, bol jazyk, ktorému vo všeobecnosti rozumie čo najväčší počet cezhraničných používateľov. Stredné podniky, ktoré nedávno prešli z kategórie malých podnikov do kategórie stredných podnikov v zmysle prílohy k odporúčaniu 2003/361/ES (článok 16), majú prístup k týmto iniciatívam a usmerneniam počas obdobia, ktoré členské štáty považujú za vhodné, keďže týmto novým stredným podnikom môžu niekedy chýbať právne zdroje a odborná príprava nevyhnutné na zabezpečenie riadneho pochopenia a dodržiavania ustanovení.

(74)

S cieľom minimalizovať riziká spojené s vykonávaním vyplývajúce z nedostatku poznatkov a odborných znalostí na trhu, ako aj uľahčiť poskytovateľom a notifikovaným osobám plnenie ich povinností podľa tohto nariadenia by k vykonávaniu tohto nariadenia mali podľa možnosti prispievať platforma umelej inteligencie na požiadanie, európske centrá digitálnych inovácií a testovacie a experimentačné zariadenia zriadené Komisiou a členskými štátmi na vnútroštátnej úrovni alebo na úrovni EÚ. V rámci svojho príslušného poslania a oblastí pôsobnosti môžu poskytovať najmä technickú a vedeckú podporu poskytovateľom a notifikovaným osobám.

(74)

S cieľom minimalizovať riziká spojené s vykonávaním vyplývajúce z nedostatku poznatkov a odborných znalostí na trhu, ako aj uľahčiť poskytovateľom a notifikovaným osobám plnenie ich povinností podľa tohto nariadenia by k vykonávaniu tohto nariadenia mali prispievať platforma umelej inteligencie na požiadanie, európske centrá digitálnych inovácií a testovacie a experimentačné zariadenia zriadené Komisiou a členskými štátmi na vnútroštátnej úrovni alebo na úrovni EÚ. V rámci svojho príslušného poslania a oblastí pôsobnosti môžu poskytovať najmä technickú a vedeckú podporu poskytovateľom a notifikovaným osobám.

(76)

Na uľahčenie bezproblémového, účinného a harmonizovaného vykonávania tohto nariadenia by sa mala zriadiť Európska rada pre umelú inteligenciu. Táto rada by mala byť zodpovedná za niekoľko poradných úloh vrátane vydávania stanovísk, odporúčaní, poradenstva alebo usmernení v záležitostiach týkajúcich sa vykonávania tohto nariadenia vrátane technických špecifikácií alebo existujúcich noriem týkajúcich sa požiadaviek stanovených v tomto nariadení a poskytovania poradenstva a pomoci Komisii v konkrétnych otázkach súvisiacich s umelou inteligenciou .

(76)

S cieľom zabrániť fragmentácii, na zabezpečenie optimálneho fungovania jednotného trhu a účinného a harmonizovaného vykonávania tohto nariadenia , dosiahnutie vysokej úrovne dôveryhodnosti a ochrany zdravia a bezpečnosti, základných práv, životného prostredia, demokracie a právneho štátu v celej Únii, pokiaľ ide o systémy umelej inteligencie, aktívnu podporu vnútroštátnych dozorných orgánov, inštitúcií, orgánov, úradov a agentúr Únie v záležitostiach týkajúcich sa tohto nariadenia a zvýšenie využívania umelej inteligencie v celej Únii by sa mal zriadiť Úrad Európskej únie pre umelú inteligenciu. Úrad pre umelú inteligenciu by mal mať právnu subjektivitu, mal by konať úplne nezávisle, mal by byť zodpovedný za niekoľko poradných a koordinačných úloh vrátane vydávania stanovísk, odporúčaní, poradenstva alebo usmernení v záležitostiach týkajúcich sa vykonávania tohto nariadenia a mal by byť primerane financovaný a personálne vybavený. Členské štáty by mali zabezpečovať strategické riadenie a kontrolu úradu pre umelú inteligenciu prostredníctvom správnej rady úradu pre umelú inteligenciu spolu s Komisiou, európskym dozorným úradníkom pre ochranu údajov, agentúrou FRA a agentúrou ENISA. Výkonný riaditeľ by mal byť zodpovedný za riadenie činností sekretariátu úradu pre umelú inteligenciu a za zastupovanie úradu pre umelú inteligenciu. Zainteresované strany by sa mali formálne zúčastňovať na práci úradu pre umelú inteligenciu prostredníctvom poradného fóra, ktoré by malo zabezpečiť pestré a vyvážené zastúpenie zainteresovaných strán a malo by poskytovať úradu pre umelú inteligenciu poradenstvo v otázkach týkajúcich sa tohto nariadenia. Ak sa ukáže, že zriadenie úradu pre umelú inteligenciu nie je dostatočné na zabezpečenie plne konzistentného uplatňovania tohto nariadenia na úrovni Únie, ako aj účinných cezhraničných opatrení na presadzovanie, malo by sa zvážiť vytvorenie agentúry pre umelú inteligenciu .

(77)

Pri uplatňovaní a presadzovaní tohto nariadenia zohrávajú kľúčovú úlohu členské štáty. V tejto súvislosti by mal na účely dohľadu nad uplatňovaním a vykonávaním tohto nariadenia každý členský štát určiť jeden alebo viac príslušných vnútroštátnych orgánov . Aby sa zvýšila efektívnosť organizácie zo strany členských štátov a vytvorilo oficiálne kontaktné miesto vo vzťahu k verejnosti a iným partnerom na úrovni členských štátov a Únie, by sa mal v každom členskom štáte určiť jeden vnútroštátny orgán ako vnútroštátny dozorný orgán .

(77)

Každý členský štát by mal na účely dohľadu nad uplatňovaním a vykonávaním tohto nariadenia určiť vnútroštátny dozorný orgán. V riadiacej rade úradu pre umelú inteligenciu by mal zastupovať aj svoj členský štát . Aby sa zvýšila efektívnosť organizácie zo strany členských štátov a vytvorilo oficiálne kontaktné miesto vo vzťahu k verejnosti a iným partnerom na úrovni členských štátov a Únie, každý vnútroštátny dozorný orgán by mal konať úplne nezávisle pri plnení svojich úloh a vykonávaní svojich právomocí v súlade s týmto nariadením .

(77a)

Vnútroštátne dozorné orgány by mali monitorovať uplatňovanie ustanovení podľa tohto nariadenia a prispievať k ich konzistentnému uplatňovaniu v celej Únii. Na tento účel by vnútroštátne dozorné orgány mali spolupracovať navzájom, s relevantnými príslušnými vnútroštátnymi orgánmi, Komisiou a úradom pre umelú inteligenciu.

(77b)

Člen alebo personál každého vnútroštátneho dozorného orgánu by mal v súlade s právom Únie alebo vnútroštátnym právom podliehať povinnosti zachovávať profesijné tajomstvo, pokiaľ ide o dôverné informácie, o ktorých sa dozvedeli pri plnení svojich úloh alebo pri výkone svojich právomocí, a to tak počas ich funkčného obdobia, ako aj po ňom. Počas ich funkčného obdobia by sa táto povinnosť zachovávať profesijné tajomstvo mala vzťahovať najmä na obchodné tajomstvo a ohlasovanie porušení tohto nariadenia fyzickými osobami.

(78)

Všetci poskytovatelia vysokorizikových systémov umelej inteligencie by mali mať zavedený systém monitorovania po uvedení na trh, aby zabezpečili, že budú schopní zohľadniť skúsenosti s používaním vysokorizikových systémov umelej inteligencie na zlepšenie svojich systémov a procesu koncipovania a vývoja, alebo aby mohli včas prijať akékoľvek možné nápravné opatrenia. Tento systém je takisto kľúčový na zabezpečenie toho, aby sa možné riziká vyplývajúce zo systémov umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia, mohli účinnejšie a včas riešiť. V tejto súvislosti by sa od poskytovateľov malo vyžadovať, aby mali zavedený systém, prostredníctvom ktorého by príslušným orgánom nahlasovali všetky závažné incidenty alebo porušenia vnútroštátnych právnych predpisov a právnych predpisov Únie na ochranu základných práv vyplývajúce z používania ich systémov umelej inteligencie.

(78)

Všetci poskytovatelia vysokorizikových systémov umelej inteligencie by mali mať zavedený systém monitorovania po uvedení na trh, aby zabezpečili, že budú schopní zohľadniť skúsenosti s používaním vysokorizikových systémov umelej inteligencie na zlepšenie svojich systémov a procesu koncipovania a vývoja, alebo aby mohli včas prijať akékoľvek možné nápravné opatrenia. Tento systém je takisto kľúčový na zabezpečenie toho, aby sa možné riziká vyplývajúce zo systémov umelej inteligencie, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia alebo vyvíjajú , mohli účinnejšie a včas riešiť. V tejto súvislosti by sa od poskytovateľov malo vyžadovať, aby mali zavedený systém, prostredníctvom ktorého by príslušným orgánom nahlasovali všetky závažné incidenty alebo porušenia vnútroštátnych právnych predpisov a právnych predpisov Únie , a to aj tých na ochranu základných práv a práv spotrebiteľov vyplývajúce z používania ich systémov umelej inteligencie a aby prijali primerané nápravné opatrenia . Nasadzujúce subjekty by mali príslušným orgánom nahlásiť aj všetky závažné incidenty alebo porušenia vnútroštátneho práva a práva Únie vyplývajúce z používania ich systému umelej inteligencie, keď sa o takýchto závažných incidentoch alebo porušeniach dozvedia.

(79)

S cieľom zabezpečiť primerané a účinné presadzovanie požiadaviek a povinností stanovených v tomto nariadení, ktoré predstavuje harmonizačné právne predpisy Únie, by sa mal v celom rozsahu uplatňovať systém dohľadu nad trhom a súladu výrobkov stanovený nariadením (EÚ) 2019/1020. Vnútroštátne orgány verejnej moci alebo subjekty, ktoré dohliadajú na uplatňovanie práva Únie na ochranu základných práv, vrátane orgánov pre otázky rovnosti, by mali mať prístup, pokiaľ je to pre ich mandát nutné, aj k všetkej dokumentácii vytvorenej podľa tohto nariadenia.

(79)

S cieľom zabezpečiť primerané a účinné presadzovanie požiadaviek a povinností stanovených v tomto nariadení, ktoré predstavuje harmonizačné právne predpisy Únie, by sa mal v celom rozsahu uplatňovať systém dohľadu nad trhom a súladu výrobkov stanovený nariadením (EÚ) 2019/1020. Na účely tohto nariadenia by vnútroštátne dozorné orgány mali konať ako orgány dohľadu nad trhom v prípade systémov umelej inteligencie, na ktoré sa vzťahuje toto nariadenie, s výnimkou systémov umelej inteligencie, na ktoré sa vzťahuje príloha II k tomuto nariadeniu. V prípade systémov umelej inteligencie, na ktoré sa vzťahujú právne akty uvedené v prílohe II, by zodpovedné orgány podľa týchto právnych aktov mali zostať vedúcim orgánom. Vnútroštátne dozorné orgány a príslušné orgány v právnych aktoch uvedených v prílohe II by mali spolupracovať vždy, keď je to potrebné. V prípade potreby by príslušné orgány v právnych aktoch uvedených v prílohe II mali vyslať príslušných zamestnancov do vnútroštátneho dozorného orgánu, aby pomáhali pri plnení jeho úloh. Na účely tohto nariadenia by vnútroštátne orgány dohľadu mali mať rovnaké právomoci a povinnosti ako orgány dohľadu nad trhom podľa nariadenia (EÚ) 2019/1020. Vnútroštátne orgány verejnej moci alebo subjekty, ktoré dohliadajú na uplatňovanie práva Únie na ochranu základných práv, vrátane orgánov pre otázky rovnosti, by mali mať prístup, pokiaľ je to pre ich mandát nutné, aj k všetkej dokumentácii vytvorenej podľa tohto nariadenia. Po vyčerpaní všetkých ostatných primeraných spôsobov posúdenia/overenia zhody a na základe odôvodnenej žiadosti by sa vnútroštátnemu dozornému orgánu mal udeliť prístup k súborom tréningových, validačných a testovacích údajov, trénovanému a tréningovému modelu vysokorizikového systému umelej inteligencie vrátane jeho relevantných modelových parametrov a ich prostredia vykonávania/prevádzky. V prípadoch jednoduchších softvérových systémov, na ktoré sa vzťahuje toto nariadenie a ktoré nie sú založené na trénovaných modeloch, a keď boli vyčerpané všetky ostatné spôsoby overenia zhody, môže mať vnútroštátny dozorný orgán výnimočne na základe odôvodnenej žiadosti prístup k zdrojovému kódu. Ak sa vnútroštátnemu dozornému orgánu udelí prístup k súborom tréningových, validačných a testovacích údajov v súlade s týmto nariadením, takýto prístup by sa mal dosiahnuť vhodnými technickými prostriedkami a nástrojmi vrátane prístupu na mieste a vo výnimočných prípadoch vzdialeného prístupu. Vnútroštátny dozorný orgán by mal so všetkými získanými informáciami vrátane zdrojového kódu, softvéru a údajov zaobchádzať ako s dôvernými informáciami a dodržiavať príslušné právne predpisy Únie o ochrane duševného vlastníctva a obchodného tajomstva. Vnútroštátny dozorný orgán by mal vymazať všetky informácie získané po ukončení vyšetrovania.

(80)

Právne predpisy Únie o finančných službách zahŕňajú pravidlá a požiadavky vnútornej správy a riadenia rizík, ktoré sa vzťahujú na regulované finančné inštitúcie počas poskytovania týchto služieb vrátane prípadov, keď využívajú systémy umelej inteligencie. S cieľom zabezpečiť jednotné uplatňovanie a presadzovanie povinností podľa tohto nariadenia a príslušných pravidiel a požiadaviek právnych predpisov Únie v oblasti finančných služieb by mali byť orgány zodpovedné za dohľad nad právnymi predpismi v oblasti finančných služieb a za ich presadzovanie, prípadne vrátane Európskej centrálnej banky, určené za príslušné orgány na účely dohľadu nad vykonávaním tohto nariadenia vrátane činností dohľadu nad trhom, pokiaľ ide o systémy umelej inteligencie, ktoré poskytujú alebo používajú regulované finančné inštitúcie a finančné inštitúcie podliehajúce dohľadu. Na účely ďalšieho posilnenia súladu medzi týmto nariadením a pravidlami, ktoré sa vzťahujú na úverové inštitúcie regulované podľa smernice Európskeho parlamentu a Rady 2013/36/EÚ (56), je takisto vhodné začleniť postup posudzovania zhody a niektoré procesné povinnosti poskytovateľov v súvislosti s riadením rizík, monitorovaním po uvedení na trh a dokumentáciou do existujúcich povinností a postupov na základe smernice 2013/36/EÚ. Na zabránenie prekrývaniu by sa mali zvážiť aj obmedzené výnimky v súvislosti so systémom riadenia kvality poskytovateľov a s povinnosťou monitorovania uloženou používateľom vysokorizikových systémov umelej inteligencie, pokiaľ sa vzťahujú na úverové inštitúcie regulované smernicou 2013/36/EÚ.

(80)

Právne predpisy Únie o finančných službách zahŕňajú pravidlá a požiadavky vnútornej správy a riadenia rizík, ktoré sa vzťahujú na regulované finančné inštitúcie počas poskytovania týchto služieb vrátane prípadov, keď využívajú systémy umelej inteligencie. S cieľom zabezpečiť jednotné uplatňovanie a presadzovanie povinností podľa tohto nariadenia a príslušných pravidiel a požiadaviek právnych predpisov Únie v oblasti finančných služieb by mali byť príslušné orgány zodpovedné za dohľad nad právnymi predpismi v oblasti finančných služieb a za ich presadzovanie, prípadne vrátane Európskej centrálnej banky, určené za príslušné orgány na účely dohľadu nad vykonávaním tohto nariadenia vrátane činností dohľadu nad trhom, pokiaľ ide o systémy umelej inteligencie, ktoré poskytujú alebo používajú regulované finančné inštitúcie a finančné inštitúcie podliehajúce dohľadu. Na účely ďalšieho posilnenia súladu medzi týmto nariadením a pravidlami, ktoré sa vzťahujú na úverové inštitúcie regulované podľa smernice Európskeho parlamentu a Rady 2013/36/EÚ (56), je takisto vhodné začleniť postup posudzovania zhody a niektoré procesné povinnosti poskytovateľov v súvislosti s riadením rizík, monitorovaním po uvedení na trh a dokumentáciou do existujúcich povinností a postupov na základe smernice 2013/36/EÚ. Na zabránenie prekrývaniu by sa mali zvážiť aj obmedzené výnimky v súvislosti so systémom riadenia kvality poskytovateľov a s povinnosťou monitorovania uloženou nasadzujúcimi subjektmi vysokorizikových systémov umelej inteligencie, pokiaľ sa vzťahujú na úverové inštitúcie regulované smernicou 2013/36/EÚ.

(80a)

Vzhľadom na ciele tohto nariadenia, a to zabezpečiť rovnocennú úroveň ochrany zdravia, bezpečnosti a základných práv fyzických osôb, zabezpečiť ochranu právneho štátu a demokracie, a berúc do úvahy to, že zmiernenie rizík systému umelej inteligencie, pokiaľ ide o takéto práva, sa nemusí uspokojivo dosiahnuť na vnútroštátnej úrovni alebo môže podliehať rozdielnemu výkladu, čo by v konečnom dôsledku mohlo viesť k nerovnakej úrovni ochrany fyzických osôb a spôsobiť fragmentáciu trhu, by vnútroštátne dozorné orgány mali byť splnomocnené viesť spoločné vyšetrovania alebo spoliehať sa na ochranný postup Únie stanovený v tomto nariadení v záujme účinného presadzovania. Spoločné vyšetrovania by sa mali začať, ak má vnútroštátny dozorný orgán dostatočné dôvody domnievať sa, že porušenie tohto nariadenia predstavuje rozsiahle porušovanie právnych predpisov alebo rozsiahle porušovanie právnych predpisov s rozmerom Únie, alebo ak systém umelej inteligencie alebo základný model predstavuje riziko, ktoré ovplyvňuje alebo pravdepodobne ovplyvní aspoň 45 miliónov jednotlivcov v najmenej dvoch členských štátoch.

(82)

Je dôležité, aby systémy umelej inteligencie týkajúce sa výrobkov, ktoré nie sú vysokorizikové v súlade s týmto nariadením, a preto sa od nich nevyžaduje, aby spĺňali požiadavky stanovené v tomto nariadení , však boli pri uvádzaní na trh alebo do prevádzky bezpečné. S cieľom prispieť k dosiahnutiu tohto cieľa by sa ako bezpečnostná sieť uplatňovala smernica Európskeho parlamentu a Rady 2001/95/ES (57).

(82)

Je dôležité, aby systémy umelej inteligencie týkajúce sa výrobkov, ktoré nie sú vysokorizikové v súlade s týmto nariadením, a preto sa od nich nevyžaduje, aby spĺňali požiadavky stanovené pre vysokorizikové systémy umelej inteligencie , však boli pri uvádzaní na trh alebo do prevádzky bezpečné. S cieľom prispieť k dosiahnutiu tohto cieľa by sa ako bezpečnostná sieť uplatňovala smernica Európskeho parlamentu a Rady 2001/95/ES (57).

(83)

Na zabezpečenie dôveryhodnej a konštruktívnej spolupráce príslušných orgánov na úrovni Únie a na vnútroštátnej úrovni by mali všetky strany zapojené do uplatňovania tohto nariadenia rešpektovať dôvernosť informácií a údajov získaných pri plnení svojich úloh

(83)

Na zabezpečenie dôveryhodnej a konštruktívnej spolupráce príslušných orgánov na úrovni Únie a na vnútroštátnej úrovni by sa mali všetky strany zapojené do uplatňovania tohto nariadenia usilovať o transparentnosť a otvorenosť pri súčasnom rešpektovaní dôvernosti informácií a údajov získaných pri plnení svojich úloh zavedením technických a organizačných opatrení na ochranu bezpečnosti a dôvernosti získaných informácií pri plnení svojich činností, a to aj pokiaľ ide o práva duševného vlastníctva a verejné a národné bezpečnostné záujmy. Ak činnosti Komisie, príslušných vnútroštátnych orgánov a notifikovaných subjektov podľa tohto nariadenia vedú k porušeniu práv duševného vlastníctva, členské štáty by mali stanoviť primerané opatrenia a nápravné opatrenia na zabezpečenie vymožiteľnosti práv duševného vlastníctva pri uplatňovaní smernice 2004/48/ES.

(84)

Členské štáty by mali prijať všetky opatrenia potrebné na zabezpečenie vykonávania ustanovení tohto nariadenia vrátane stanovenia účinných, primeraných a odrádzajúcich sankcií za ich porušenie. V prípade určitých konkrétnych porušení by členské štáty mali zohľadniť rozpätia a  kritériá stanovené v tomto nariadení . Európsky dozorný úradník pre ochranu údajov by mal mať právomoc ukladať správne pokuty inštitúciám, agentúram a orgánom Únie, ktoré patria do rozsahu pôsobnosti tohto nariadenia.

(84)

Súlad s týmto nariadením by mal byť vymožiteľný ukladaním pokút vnútroštátnym dozorným orgánom v rámci konania podľa postupu stanoveného v tomto nariadení. Členské štáty by mali prijať všetky opatrenia potrebné na zabezpečenie vykonávania ustanovení tohto nariadenia vrátane stanovenia účinných, primeraných a odrádzajúcich sankcií za ich porušenie. S cieľom posilniť a harmonizovať správne sankcie za porušenie tohto nariadenia by sa mali stanoviť horné hranice na stanovenie správnych pokút za určité konkrétne porušenia. Pri posudzovaní výšky pokút by príslušné vnútroštátne orgány mali v každom jednotlivom prípade zohľadniť všetky relevantné okolnosti konkrétnej situácie s náležitým zreteľom najmä na povahu, závažnosť a  trvanie porušenia a jeho dôsledky a na veľkosť poskytovateľa, najmä ak je poskytovateľom MSP alebo startupom . Európsky dozorný úradník pre ochranu údajov by mal mať právomoc ukladať správne pokuty inštitúciám, agentúram a orgánom Únie, ktoré patria do rozsahu pôsobnosti tohto nariadenia. Sankcie a trovy konania podľa tohto nariadenia by nemali byť predmetom zmluvných doložiek alebo akýchkoľvek iných dojednaní.

(84a)

Keďže systémy umelej inteligencie môžu vážne narušiť práva a slobody fyzických a právnických osôb a skupín fyzických osôb, je nevyhnutné, aby fyzické a právnické osoby alebo skupiny fyzických osôb mali zmysluplný prístup k mechanizmom nahlasovania a nápravy a aby mali nárok na prístup k primeraným a účinným prostriedkom nápravy. Mali by mať možnosť oznámiť porušenie tohto nariadenia svojmu vnútroštátnemu dozornému orgánu a mať právo podať sťažnosť proti poskytovateľom alebo nasadzujúcim subjektom systémov umelej inteligencie. V prípade potreby by nasadzujúce subjekty mali zabezpečiť interné mechanizmy podávania sťažností, ktoré by mohli využívať fyzické a právnické osoby alebo skupiny fyzických osôb. Bez toho, aby bol dotknutý akýkoľvek iný správny alebo mimosúdny prostriedok nápravy, fyzické a právnické osoby a skupiny fyzických osôb by takisto mali mať právo na účinný súdny prostriedok nápravy v súvislosti s právne záväzným rozhodnutím vnútroštátneho dozorného orgánu, ktoré sa ich týka, alebo ak vnútroštátny dozorný orgán sťažnosť nevybavuje, neinformuje sťažovateľa o stave alebo predbežnom výsledku podanej sťažnosti alebo neplní svoju povinnosť dospieť v súvislosti so sťažnosťou ku konečnému rozhodnutiu.

(84b)

Dotknuté osoby by mali byť vždy informované o tom, že podliehajú používaniu vysokorizikového systému umelej inteligencie, keď nasadzujúce subjekty používajú vysokorizikový systém umelej inteligencie na pomoc pri rozhodovaní alebo pri prijímaní rozhodnutí týkajúcich sa fyzických osôb. Tieto informácie môžu dotknutým osobám poskytnúť základ na uplatnenie ich práva dostať vysvetlenie podľa tohto nariadenia. Ak nasadzujúce subjekty poskytnú dotknutým osobám vysvetlenie podľa tohto nariadenia, mali by zohľadniť úroveň odborných znalostí a znalostí priemerného spotrebiteľa alebo jednotlivca.

(84c)

Právne predpisy Únie o ochrane oznamovateľov [smernica (EÚ) 2019/1937] sa v plnom rozsahu vzťahujú na akademických pracovníkov, projektantov, vývojárov, prispievateľov do projektov, audítorov, produktových manažérov, inžinierov a hospodárske subjekty, ktorí získavajú informácie o porušeniach práva Únie zo strany poskytovateľa systému umelej inteligencie alebo jeho systému umelej inteligencie.

(85)

S cieľom zabezpečiť, aby sa regulačný rámec mohol v prípade potreby upraviť, by sa mala na Komisiu delegovať právomoc prijímať akty v súlade s článkom 290 ZFEÚ na účely zmeny techník a prístupov na vymedzenie systémov umelej inteligencie uvedených v prílohe I, harmonizačných právnych predpisov Únie uvedených v prílohe II, vysokorizikových systémov umelej inteligencie uvedených v prílohe III, ustanovení týkajúcich sa technickej dokumentácie uvedených v prílohe IV, obsahu EÚ vyhlásenia o zhode v prílohe V, ustanovení týkajúcich sa postupov posudzovania zhody v prílohách VI a VII a ustanovení, ktorými sa stanovujú systémy umelej inteligencie, na ktoré by sa mal vzťahovať postup posudzovania zhody založený na posúdení systému riadenia kvality a posúdení technickej dokumentácie. Je osobitne dôležité, aby Komisia počas prípravných prác uskutočnila príslušné konzultácie, a to aj na úrovni odborníkov, a aby tieto konzultácie vykonávala v súlade so zásadami stanovenými v Medziinštitucionálnej dohode z 13. apríla 2016 o lepšej tvorbe práva (58). Predovšetkým, v záujme rovnakého zastúpenia pri príprave delegovaných aktov, sa všetky dokumenty doručujú Európskemu parlamentu a Rade v rovnakom čase ako odborníkom z členských štátov, a odborníci Európskeho parlamentu a Rady majú systematický prístup na zasadnutia skupín odborníkov Komisie, ktoré sa zaoberajú prípravou delegovaných aktov.

(85)

S cieľom zabezpečiť, aby sa regulačný rámec mohol v prípade potreby upraviť, by sa mala na Komisiu delegovať právomoc prijímať akty v súlade s článkom 290 ZFEÚ na účely zmeny harmonizačných právnych predpisov Únie uvedených v prílohe II, vysokorizikových systémov umelej inteligencie uvedených v prílohe III, ustanovení týkajúcich sa technickej dokumentácie uvedených v prílohe IV, obsahu EÚ vyhlásenia o zhode v prílohe V, ustanovení týkajúcich sa postupov posudzovania zhody v prílohách VI a VII a ustanovení, ktorými sa stanovujú systémy umelej inteligencie, na ktoré by sa mal vzťahovať postup posudzovania zhody založený na posúdení systému riadenia kvality a posúdení technickej dokumentácie. Je osobitne dôležité, aby Komisia počas prípravných prác uskutočnila príslušné konzultácie, a to aj na úrovni odborníkov, a aby tieto konzultácie vykonávala v súlade so zásadami stanovenými v Medziinštitucionálnej dohode z 13. apríla 2016 o lepšej tvorbe práva (58) . Do týchto konzultácií by mal byť zapojený vyvážený výber zainteresovaných strán vrátane spotrebiteľských organizácií, občianskej spoločnosti, združení zastupujúcich dotknuté osoby, zástupcov podnikov z rôznych odvetví a veľkostí, ako aj výskumných pracovníkov a vedcov . Predovšetkým, v záujme rovnakého zastúpenia pri príprave delegovaných aktov, sa všetky dokumenty doručujú Európskemu parlamentu a Rade v rovnakom čase ako odborníkom z členských štátov, a odborníci Európskeho parlamentu a Rady majú systematický prístup na zasadnutia skupín odborníkov Komisie, ktoré sa zaoberajú prípravou delegovaných aktov.

(85a)

Vzhľadom na rýchly technologický vývoj a požadované technické odborné znalosti pri vykonávaní posudzovania vysokorizikových systémov umelej inteligencie by Komisia mala pravidelne preskúmavať vykonávanie tohto nariadenia, najmä pokiaľ ide o zakázané systémy umelej inteligencie, povinnosti týkajúce sa transparentnosti a zoznam vysokorizikových oblastí a prípadov použitia, a to aspoň raz za rok, pričom by mala konzultovať s úradom pre umelú inteligenciu a príslušnými zainteresovanými stranami.

(87a)

Keďže spoľahlivé informácie o využívaní zdrojov a energie, produkcii odpadu a inom vplyve systémov umelej inteligencie a súvisiacich technológií IKT na životné prostredie vrátane softvéru, hardvéru, a najmä dátových centier sú obmedzené, Komisia by mala zaviesť primeranú metodiku na meranie vplyvu a účinnosti tohto nariadenia na životné prostredie vzhľadom na ciele Únie v oblasti životného prostredia a klímy.

(89)

V súlade s článkom 42 ods. 2 nariadenia (EÚ) 2018/1725 sa viedli konzultácie s európskym dozorným úradníkom pre ochranu údajov a Európskym výborom pre ochranu údajov a výsledkom bolo vydanie stanoviska […],

(89)

V súlade s článkom 42 ods. 2 nariadenia (EÚ) 2018/1725 sa viedli konzultácie s európskym dozorným úradníkom pre ochranu údajov a Európskym výborom pre ochranu údajov a výsledkom bolo vydanie stanoviska 18. júna 2021.

1.

d)

harmonizované pravidlá transparentnosti pre systémy umelej inteligencie určené na interakciu s fyzickými osobami, systémy na rozpoznávanie emócií a systémy biometrickej kategorizácie, ako aj pre systémy umelej inteligencie používané na vytváranie obrazového, zvukového obsahu alebo videoobsahu alebo na manipuláciu s takýmto obsahom ;

d)

harmonizované pravidlá transparentnosti pre určité systémy umelej inteligencie;

e)

pravidlá monitorovania trhu a dohľadu nad ním .

e)

pravidlá monitorovania trhu , riadenia a  presadzovania dohľadu nad trhom;

ea)

opatrenia na podporu inovácií s osobitným zameraním na MSP a startupy vrátane vytvorenia experimentálnych regulačných prostredí a cielených opatrení na zníženie regulačného zaťaženia MSP a startupov;

eb)

pravidlá zriadenia a fungovania úradu Únie pre umelú inteligenciu (úrad pre umelú inteligenciu);

b)

používateľov systémov umelej inteligencie, ktorí sa nachádzajú v Únii;

b)

nasadzujúce subjekty systémov umelej inteligencie, ktoré majú miesto usadenia alebo ktoré sa nachádzajú v Únii;

c)

poskytovateľov a  používateľov systémov umelej inteligencie, ktorí sa nachádzajú v tretej krajine, ak sa výstup vytvorený systémom používa v Únii.

c)

poskytovateľov a  nasadzujúce subjekty systémov umelej inteligencie, ktoré majú miesto usadenia alebo ktoré sa nachádzajú v tretej krajine, v ktorej sa na základe medzinárodného práva verejného uplatňuje právo ktoréhokoľvek členského štátu alebo v ktorej sa výstup vytvorený systémom má používať v Únii;

ca)

poskytovateľov, ktorí uvádzajú na trh alebo do prevádzky systémy umelej inteligencie uvedené v článku 5 mimo Únie, ak sa poskytovateľ alebo distribútor takýchto systémov nachádza v Únii;

cb)

dovozcov a distribútorov systémov umelej inteligencie, ako aj splnomocnených zástupcov poskytovateľov systémov umelej inteligencie, ak títo dovozcovia, distribútori alebo splnomocnení zástupcovia majú svoje sídlo alebo sa nachádzajú v Únii;

cc)

dotknuté osoby vymedzené v článku 3 ods. 8a, ktoré sa nachádzajú v Únii a ktorých zdravie, bezpečnosť alebo základné práva sú nepriaznivo ovplyvnené používaním systému umelej inteligencie, ktorý sa uvádza na trh alebo do prevádzky v Únii.

a)

Nariadenie (ES) 300/2008;

b)

Nariadenie (EÚ) č. 167/2013;

c)

Nariadenie (EÚ) č. 168/2013;

d)

Smernica 2014/90/EÚ;

e)

Smernica (EÚ) 2016/797;

f)

Nariadenie (EÚ) 2018/858;