This document is an excerpt from the EUR-Lex website
Document 02024R1689-20260727
Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance)
Consolidated text: Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Text s významom pre EHP)
Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Text s významom pre EHP)
02024R1689 — SK — 27.07.2026 — 001.001
Tento text slúži výlučne ako dokumentačný nástroj a nemá žiadny právny účinok. Inštitúcie Únie nenesú nijakú zodpovednosť za jeho obsah. Autentické verzie príslušných aktov vrátane ich preambúl sú tie, ktoré boli uverejnené v Úradnom vestníku Európskej únie a ktoré sú dostupné na portáli EUR-Lex. Tieto úradné znenia sú priamo dostupné prostredníctvom odkazov v tomto dokumente
|
NARIADENIE EURÓPSKEHO PARLAMENTU A RADY (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. ES L 1689 12.7.2024, s. 1) |
Zmenené a doplnené:
|
|
|
Úradný vestník |
||
|
Č. |
Strana |
Dátum |
||
|
NARIADENIE EURÓPSKEHO PARLAMENTU A RADY (EÚ) 2026/1744 z 8. júla 2026, |
L 1744 |
1 |
24.7.2026 |
|
Opravené a doplnené:
NARIADENIE EURÓPSKEHO PARLAMENTU A RADY (EÚ) 2024/1689
z 13. júna 2024,
ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii)
(Text s významom pre EHP)
KAPITOLA I
VŠEOBECNÉ USTANOVENIA
Článok 1
Predmet úpravy
V tomto nariadení sa stanovujú:
harmonizované pravidlá uvádzania na trh, uvádzania do prevádzky a používania systémov AI v Únii;
zákazy určitých praktík využívajúcich AI;
osobitné požiadavky na vysokorizikové systémy AI a povinnosti prevádzkovateľov takýchto systémov;
harmonizované pravidlá transparentnosti pre určité systémy AI;
harmonizované pravidlá uvádzania modelov AI na všeobecné účely na trh;
pravidlá monitorovania trhu, dohľadu nad trhom, správy a riadenia a presadzovania;
opatrenia na podporu inovácií s osobitným dôrazom na malé podniky so strednou trhovou kapitalizáciou a malé a stredné podniky (MSP) vrátane startupov.
Článok 2
Rozsah pôsobnosti
Toto nariadenie sa vzťahuje na:
poskytovateľov, ktorí v Únii uvádzajú na trh alebo do prevádzky systémy AI alebo uvádzajú na trh modely AI na všeobecné účely, bez ohľadu na to, či sú títo poskytovatelia usadení alebo sa nachádzajú v Únii alebo v tretej krajine;
subjekty nasadzujúce systémy AI, ktoré majú miesto usadenia alebo sa nachádzajú v Únii;
poskytovateľov systémov AI a subjekty nasadzujúce systémy AI, ktoré majú miesto usadenia alebo sa nachádzajú v tretej krajine, ak sa výstup vytvorený systémom AI používa v Únii;
dovozcov a distribútorov systémov AI;
výrobcov výrobkov, ktorí uvádzajú na trh alebo do prevádzky systém AI spolu so svojím výrobkom a pod vlastným menom alebo ochrannou známkou;
splnomocnených zástupcov poskytovateľov, ktorí nie sú usadení v Únii;
dotknuté osoby, ktoré sa nachádzajú v Únii.
Toto nariadenie sa neuplatňuje na systémy AI, ak a pokiaľ sa uvádzajú na trh, uvádzajú do prevádzky alebo sa používajú, či už upravené alebo nie, výlučne na vojenské alebo obranné účely alebo na účely národnej bezpečnosti, a to bez ohľadu na typ subjektu vykonávajúceho tieto činnosti.
Toto nariadenie sa neuplatňuje na systémy AI, ktoré sa neuvádzajú na trh ani do prevádzky v Únii, ak sa výstup používa v Únii výlučne na vojenské alebo obranné účely alebo na účely národnej bezpečnosti, a to bez ohľadu na typ subjektu vykonávajúceho tieto činnosti.
V prípade vysokorizikových systémov AI uvedených v článku 6 ods. 1 môže byť uplatňovanie osobitných požiadaviek alebo povinností stanovených v článkoch 9 až 15 a 17 až 25 obmedzené, ak a v rozsahu, v akom:
sa v harmonizačných právnych predpisoch Únie uvedených v oddiele A prílohy I stanovujú požiadavky alebo povinnosti zabezpečujúce rovnocennú alebo vyššiu úroveň ochrany zdravia, bezpečnosti alebo základných práv ako dotknutá požiadavka alebo povinnosť a
takéto obmedzenie neznižuje celkovú úroveň ochrany stanovenú v tomto nariadení.
Komisia do 2. augusta 2027 prijme delegované akty v súlade s článkom 97 s cieľom doplniť toto nariadenie špecifikovaním dotknutých vysokorizikových systémov AI, požiadaviek alebo povinností, ktoré môžu byť obmedzené, podmienok, za ktorých sa takéto obmedzenie uplatňuje, a rozsahu obmedzenia.
Článok 3
Vymedzenie pojmov
Na účely tohto nariadenia sa uplatňuje toto vymedzenie pojmov:
„systém AI“ je strojový systém, ktorý je dizajnovaný na prevádzku s rôznymi úrovňami autonómnosti, ktorý môže po nasadení prejavovať adaptabilitu a ktorý pre explicitné alebo implicitné ciele odvodzuje zo vstupov, ktoré dostáva, spôsob generovania výstupov, ako sú predpovede, obsah, odporúčania alebo rozhodnutia, ktoré môžu ovplyvniť fyzické alebo virtuálne prostredie;
„riziko“ je kombinácia pravdepodobnosti výskytu ujmy a závažnosti tejto ujmy;
„poskytovateľ“ je fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý vyvíja systém AI alebo model AI na všeobecné účely alebo ktorý si dáva vyvinúť systém AI alebo model AI na všeobecné účely a uvádza ho na trh alebo uvádza systém AI do prevádzky pod svojím vlastným menom alebo ochrannou známkou, či už za odplatu alebo bezodplatne;
„nasadzujúci subjekt“ je fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý používa systém AI v rámci svojej právomoci, s výnimkou prípadov, keď sa systém AI používa v rámci osobnej neprofesionálnej činnosti;
„splnomocnený zástupca“ je fyzická alebo právnická osoba nachádzajúca sa alebo usadená v Únii, ktorá od poskytovateľa systému AI alebo modelu AI na všeobecné účely dostala a akceptovala písomné splnomocnenie plniť v jeho mene povinnosti a vykonávať postupy stanovené týmto nariadením;
„dovozca“ je fyzická alebo právnická osoba nachádzajúca sa alebo usadená v Únii, ktorá uvádza na trh systém AI, ktorý je označený menom alebo ochrannou známkou fyzickej alebo právnickej osoby usadenej v tretej krajine;
„distribútor“ je fyzická alebo právnická osoba v dodávateľskom reťazci okrem poskytovateľa alebo dovozcu, ktorá na trhu Únie sprístupňuje systém AI;
„prevádzkovateľ“ je poskytovateľ, výrobca výrobku, nasadzujúci subjekt, splnomocnený zástupca, dovozca alebo distribútor;
„uvedenie na trh“ je prvé sprístupnenie systému AI alebo modelu AI na všeobecné účely na trhu Únie;
„sprístupnenie na trhu“ je dodanie systému AI alebo modelu AI na všeobecné účely s cieľom distribuovať ho alebo používať ho na trhu Únie v rámci komerčnej činnosti, či už za odplatu alebo bezodplatne;
„uvedenie do prevádzky“ je dodanie systému AI na prvé použitie priamo nasadzujúcemu subjektu alebo na vlastné použitie v Únii na jeho zamýšľaný účel;
„zamýšľaný účel“ je použitie, na ktoré systém AI určil poskytovateľ vrátane konkrétneho kontextu a podmienok používania, ako sa uvádza v informáciách od poskytovateľa v návode na použitie, v propagačných alebo predajných materiáloch a vyhláseniach, ako aj v technickej dokumentácii;
„odôvodnene predvídateľné nesprávne použitie“ je také použitie systému AI, ktoré nie je v súlade so zamýšľaným účelom, ale ktoré môže byť výsledkom odôvodnene predvídateľného ľudského správania alebo interakcie s inými systémami vrátane iných systémov AI;
„bezpečnostný komponent“ je komponent výrobku alebo systému AI, ktorý pre daný výrobok alebo systém AI plní bezpečnostnú funkciu alebo ktorého zlyhanie alebo porucha ohrozuje zdravie a bezpečnosť osôb alebo majetok; na účely tohto vymedzenia pojmu komponent plní bezpečnostnú funkciu, ak je jeho zamýšľaným účelom predchádzať rizikám pre zdravie a bezpečnosť osôb alebo majetok alebo ich zmierňovať;
„mikropodnik, malý a stredný podnik“ alebo „MSP“ je mikropodnik, malý alebo stredný podnik v zmysle vymedzenia v článku 2 prílohy k odporúčaniu Komisie 2003/361/ES;
„malý podnik so strednou trhovou kapitalizáciou“ je malý podnik so strednou trhovou kapitalizáciou v zmysle vymedzenia v bode 2 prílohy k odporúčaniu (EÚ) 2025/1099;
„návod na použitie“ sú informácie, ktoré poskytuje poskytovateľ s cieľom informovať nasadzujúci subjekt najmä o zamýšľanom účele a správnom používaní systému AI;
„stiahnutie systému AI od používateľa“ je každé opatrenie, ktorého cieľom je dosiahnutie navrátenia systému AI, ktorý sa sprístupnil nasadzujúcim subjektom, poskytovateľovi alebo jeho stiahnutie z prevádzky, alebo znemožnenie jeho používania;
„stiahnutie systému AI z trhu“ je každé opatrenie, ktorého cieľom je zabrániť, aby sa systém AI, ktorý sa nachádza v dodávateľskom reťazci, sprístupnil na trhu;
„výkon systému AI“ je schopnosť systému AI dosiahnuť jeho zamýšľaný účel;
„notifikujúci orgán“ je vnútroštátny orgán zodpovedný za stanovenie a vykonávanie nevyhnutných postupov na posudzovanie, určovanie a notifikáciu orgánov posudzovania zhody a za ich monitorovanie;
„posudzovanie zhody“ je postup preukázania, či boli splnené požiadavky stanovené v kapitole III oddiele 2 týkajúce sa vysokorizikového systému AI;
„orgán posudzovania zhody“ je orgán, ktorý ako tretia strana vykonáva činnosti posudzovania zhody vrátane skúšania, certifikácie a kontroly;
„notifikovaná osoba“ je orgán posudzovania zhody notifikovaný v súlade s týmto nariadením a inými relevantnými harmonizačnými právnymi predpismi Únie;
„podstatná zmena“ je zmena systému AI po jeho uvedení na trh alebo do prevádzky, ktorú poskytovateľ v počiatočnom posudzovaní zhody nepredpokladal ani neplánoval a v dôsledku ktorej je ovplyvnený súlad systému AI s požiadavkami stanovenými v kapitole III oddiele 2 alebo ktorá vedie k zmene zamýšľaného účelu, z hľadiska ktorého bol systém AI posudzovaný;
„označenie CE“ je označenie, ktorým poskytovateľ vyjadruje, že systém AI je v zhode s požiadavkami stanovenými v kapitole III oddiele 2 a v iných uplatniteľných harmonizačných právnych predpisoch Únie, v ktorých sa stanovuje umiestňovanie tohto označenia;
„systém monitorovania po uvedení na trh“ sú všetky činnosti, ktoré vykonávajú poskytovatelia systémov AI na zhromažďovanie a skúmanie skúseností získaných z používania systémov AI, ktoré uvádzajú na trh alebo do prevádzky, a to na účely zisťovania akejkoľvek potreby okamžite uplatniť všetky potrebné nápravné či preventívne opatrenia;
„orgán dohľadu nad trhom“ je vnútroštátny orgán, ktorý vykonáva činnosti a prijíma opatrenia podľa nariadenia (EÚ) 2019/1020;
„harmonizovaná norma“ je harmonizovaná norma v zmysle vymedzenia v článku 2 bode 1 písm. c) nariadenia (EÚ) č. 1025/2012;
„spoločná špecifikácia“ je súbor technických špecifikácií v zmysle vymedzenia v článku 2 bode 4 nariadenia (EÚ) č. 1025/2012, ktorý predstavuje prostriedok na dosiahnutie súladu s určitými požiadavkami stanovenými v tomto nariadení;
„trénovacie údaje“ sú údaje, ktoré sa používajú na trénovanie systému AI adaptáciou jeho parametrov, ktoré sa dajú naučiť;
„validačné údaje“ sú údaje, ktoré sa používajú na vyhodnotenie natrénovaného systému AI a na doladenie jeho parametrov, ktoré sa nedajú naučiť, a jeho procesu učenia, okrem iného s cieľom zabrániť podtrénovaniu alebo pretrénovaniu;
„validačný súbor údajov“ je samostatný súbor údajov alebo časť súboru trénovacích údajov, a to buď ako pevné alebo variabilné rozdelenie;
„testovacie údaje“ sú údaje, ktoré sa používajú na nezávislé hodnotenie systému AI s cieľom potvrdiť očakávaný výkon tohto systému pred jeho uvedením na trh alebo do prevádzky;
„vstupné údaje“ sú údaje poskytnuté systému AI alebo priamo získané týmto systémom, na základe ktorých systém vytvára výstup;
„biometrické údaje“ sú osobné údaje, ktoré sú výsledkom osobitného technického spracúvania týkajúceho sa fyzických, fyziologických alebo behaviorálnych charakteristických znakov fyzickej osoby, ako sú podoby tváre alebo daktyloskopické údaje;
„biometrická identifikácia“ je automatizované rozpoznávanie fyzických, fyziologických, behaviorálnych alebo psychologických znakov človeka na účely stanovenia totožnosti fyzickej osoby porovnaním biometrických údajov daného jednotlivca s biometrickými údajmi jednotlivcov uloženými v databáze;
„biometrické overenie“ je automatizované overenie totožnosti fyzických osôb porovnaním ich biometrických údajov s biometrickými údajmi, ktoré boli poskytnuté skôr, spočívajúce v porovnaní jedného údaja s príslušným druhým údajom vrátane autentifikácie;
„osobitné kategórie osobných údajov“ sú kategórie osobných údajov uvedené v článku 9 ods. 1 nariadenia (EÚ) 2016/679, článku 10 smernice (EÚ) 2016/680 a článku 10 ods. 1 nariadenia (EÚ) 2018/1725;
„citlivé operačné údaje“ sú operačné údaje súvisiace s činnosťami predchádzania trestným činom, ich odhaľovania, vyšetrovania alebo stíhania, ktorých zverejnenie by mohlo ohroziť integritu trestného konania;
„systém na rozpoznávanie emócií“ je systém AI na účely identifikácie alebo odvodenia emócií alebo úmyslov fyzických osôb na základe ich biometrických údajov;
„systém biometrickej kategorizácie“ je systém AI na účely zaraďovania fyzických osôb do špecifických kategórií na základe ich biometrických údajov, pokiaľ to nie je pomocný úkon pre inú komerčnú službu a nevyhnutne potrebné z objektívnych technických dôvodov;
„systém diaľkovej biometrickej identifikácie“ je systém AI na účely identifikácie fyzických osôb bez ich aktívneho zapojenia, zvyčajne na diaľku prostredníctvom porovnania biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze;
„systém diaľkovej biometrickej identifikácie v reálnom čase“ je systém diaľkovej biometrickej identifikácie, v ktorom zachytávanie biometrických údajov, ich porovnávanie a identifikácia prebiehajú bez výrazného oneskorenia, pričom zahŕňa nielen okamžitú identifikáciu, ale aj identifikáciu s limitovanými menšími oneskoreniami, aby sa zabránilo obchádzaniu pravidiel;
„systém následnej diaľkovej biometrickej identifikácie“ je systém diaľkovej biometrickej identifikácie, ktorý nie je systémom diaľkovej biometrickej identifikácie v reálnom čase;
„verejne prístupný priestor“ je akékoľvek fyzické miesto vo verejnom alebo v súkromnom vlastníctve prístupné neurčenému počtu fyzických osôb bez ohľadu na to, či možno uplatniť určité podmienky prístupu, a bez ohľadu na možné obmedzenia kapacity;
„orgán presadzovania práva“ je:
každý orgán verejnej moci príslušný v oblasti predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania, alebo v oblasti výkonu trestných sankcií vrátane ochrany pred ohrozením verejnej bezpečnosti a predchádzania takémuto ohrozeniu, alebo
každý iný orgán alebo subjekt, ktorý bol právom členského štátu poverený vykonávať verejnú moc a verejné právomoci na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania alebo na účely výkonu trestných sankcií vrátane ochrany pred ohrozením verejnej bezpečnosti a predchádzania takémuto ohrozeniu;
„presadzovanie práva“ sú činnosti vykonávané orgánmi presadzovania práva alebo v ich mene na účely predchádzania trestným činom, ich vyšetrovania, odhaľovania alebo stíhania, alebo na účely výkonu trestných sankcií vrátane ochrany pred ohrozením verejnej bezpečnosti a predchádzania takémuto ohrozeniu;
„úrad pre AI“ je úloha Komisie prispievať k vykonávaniu, monitorovaniu a dohľadu nad systémami AI a modelmi AI na všeobecné účely a k správe a riadeniu AI stanovená v rozhodnutí Komisie z 24. januára 2024; odkazy v tomto nariadení na úrad pre AI sa považujú za odkazy na Komisiu;
„vnútroštátny príslušný orgán“ je notifikujúci orgán alebo orgán dohľadu nad trhom; pokiaľ ide o systémy AI uvedené do prevádzky alebo používané inštitúciami, orgánmi, úradmi a agentúrami Únie, odkazy na príslušné vnútroštátne orgány alebo orgány dohľadu nad trhom v tomto nariadení sa považujú za odkazy na európskeho dozorného úradníka pre ochranu údajov;
„závažný incident“ je incident alebo porucha systému AI, ktoré priamo alebo nepriamo vyústia do ktorejkoľvek z týchto situácií:
smrť osoby alebo vážna ujma na zdraví osoby;
vážne a nezvratné narušenie riadenia alebo prevádzky kritickej infraštruktúry;
porušenie povinností vyplývajúcich z práva Únie, ktorých cieľom je ochrana základných práv;
vážna ujma na majetku alebo životnom prostredí;
„osobné údaje“ sú osobné údaje v zmysle vymedzenia v článku 4 bode 1 nariadenia (EÚ) 2016/679;
„iné ako osobné údaje“ sú údaje iné než osobné údaje v zmysle vymedzenia v článku 4 bode 1 nariadenia (EÚ) 2016/679;
„profilovanie“ je profilovanie v zmysle vymedzenia v článku 4 bode 4 nariadenia (EÚ) 2016/679;
„plán testovania v reálnych podmienkach“ je dokument, v ktorom sa opisujú ciele, metodika, geografický, populačný a časový rozsah, monitorovanie, organizácia a vykonávanie testovania v reálnych podmienkach;
„plán experimentálneho prostredia“ je dokument dohodnutý medzi zúčastneným poskytovateľom a príslušným orgánom, v ktorom sa opisujú ciele, podmienky, časový rámec, metodika a požiadavky na činnosti vykonávané v rámci experimentálneho prostredia;
„regulačné experimentálne prostredie pre AI“ je kontrolovaný rámec zriadený príslušným orgánom, ktorý poskytovateľom alebo potenciálnym poskytovateľom systémov AI ponúka možnosť vyvíjať, trénovať, validovať a testovať, v relevantnom prípade aj v reálnych podmienkach, inovačný systém AI podľa plánu experimentálneho prostredia na obmedzený čas pod regulačným dohľadom;
„gramotnosť v oblasti AI“ sú zručnosti, vedomosti a pochopenie, ktoré poskytovateľom, nasadzujúcim subjektom a dotknutým osobám umožňujú s ohľadom na ich príslušné práva a povinnosti v kontexte tohto nariadenia informovane nasadzovať systémy AI, ako aj získať povedomie o príležitostiach a rizikách AI a o prípadnej ujme, ktorú môže spôsobiť;
„testovanie v reálnych podmienkach“ je dočasné testovanie systému AI na jeho zamýšľaný účel v reálnych podmienkach mimo laboratória alebo inak simulovaného prostredia s cieľom zhromaždiť spoľahlivé a robustné údaje a posúdiť a overiť zhodu systému AI s požiadavkami tohto nariadenia a nepovažuje sa za uvedenie systému AI na trh alebo do prevádzky v zmysle tohto nariadenia za predpokladu, že sú splnené všetky podmienky stanovené v článku 57 alebo 60;
„účastník“ na účely testovania v reálnych podmienkach je fyzická osoba, ktorá sa zúčastňuje na testovaní v reálnych podmienkach;
„informovaný súhlas“ je slobodne poskytnuté, konkrétne, jednoznačné a dobrovoľné vyjadrenie vôle účastníka zúčastniť sa na konkrétnom testovaní v reálnych podmienkach, a to po tom, ako bol informovaný o všetkých aspektoch testovania, ktoré sú relevantné pre jeho rozhodnutie zúčastniť sa;
„deep fake“ je obrazový obsah, audioobsah alebo videoobsah vytvorený alebo zmanipulovaný pomocou AI, ktorý sa podobá na existujúce osoby, objekty, miesta, subjekty alebo udalosti a osobe by sa falošne javil ako autentický alebo pravdivý;
„rozsiahle porušovanie právnych predpisov“ je každé konanie alebo opomenutie v rozpore s právom Únie na ochranu záujmov jednotlivcov, ktoré:
spôsobilo alebo pravdepodobne spôsobí ujmu na kolektívnych záujmoch jednotlivcov s pobytom najmenej v dvoch iných členských štátoch, než je členský štát, v ktorom:
takéto konanie alebo opomenutie malo pôvod alebo sa uskutočnilo;
sa nachádza alebo je usadený dotknutý poskytovateľ alebo v relevantnom prípade jeho splnomocnený zástupca, alebo
je usadený nasadzujúci subjekt v čase, keď sa tento nasadzujúci subjekt dopúšťa porušenia právnych predpisov;
spôsobilo, spôsobuje alebo pravdepodobne spôsobí ujmu na kolektívnych záujmoch jednotlivcov a má spoločné znaky vrátane rovnakého protiprávneho konania alebo porušovania rovnakého záujmu, a ktorého sa dopustil súčasne ten istý prevádzkovateľ v najmenej troch členských štátoch;
„kritická infraštruktúra“ je kritická infraštruktúra v zmysle vymedzenia v článku 2 bode 4 smernice (EÚ) 2022/2557;
„model AI na všeobecné účely“ je model AI, a to aj model AI trénovaný veľkým množstvom údajov s použitím samokontroly vo veľkom rozsahu, ktorý má významnú všeobecnú povahu a je schopný kompetentne vykonávať širokú škálu odlišných úloh bez ohľadu na spôsob, akým sa model uvádza na trh, a ktorý možno integrovať do rôznych nadväzujúcich systémov alebo aplikácií, s výnimkou modelov AI, ktoré sa využívajú na účely výskumných, vývojových a prototypových činností pred ich uvedením na trh;
„spôsobilosti s veľkým vplyvom“ sú spôsobilosti, ktoré zodpovedajú spôsobilostiam zaznamenaným v najvyspelejších modeloch AI na všeobecné účely alebo tieto spôsobilosti prevyšujú;
„systémové riziko“ je riziko špecifické pre spôsobilosti s veľkým vplyvom pri modeloch AI na všeobecné účely, ktoré má významný vplyv na vnútorný trh Únie z dôvodu dosahu týchto modelov alebo z dôvodu skutočných alebo odôvodnene predvídateľných negatívnych účinkov na verejné zdravie, bezpečnosť, verejnú bezpečnosť, základné práva alebo spoločnosť ako celok, ktoré možno šíriť vo veľkom rozsahu v celom hodnotovom reťazci;
„systém AI na všeobecné účely“ je systém AI, ktorý je založený na modeli AI na všeobecné účely a ktorý je spôsobilý slúžiť na rôzne účely, a to na priame použitie, ako aj na integráciu do iných systémov AI;
„operácia s pohyblivou rádovou čiarkou“ je akákoľvek matematická operácia alebo funkcia obsahujúca čísla s pohyblivou rádovou čiarkou, ktoré sú podmnožinou reálnych čísel zvyčajne reprezentovaných v počítačoch celým číslom s pevným počtom číslic, škálovaným celočíselným exponentom pevného základu;
„nadväzujúci poskytovateľ“ je poskytovateľ systému AI vrátane systému AI na všeobecné účely, ktorý integruje model AI, bez ohľadu na to, či tento model AI poskytuje sám a je vertikálne integrovaný alebo ho poskytuje iný subjekt na základe zmluvných vzťahov.
Článok 4
Gramotnosť v oblasti AI
Článok 4a
Spracúvanie osobitných kategórií osobných údajov na účely odhaľovania a nápravy zaujatosti
Pokiaľ je to nevyhnutne potrebné na zabezpečenie odhaľovania a nápravy zaujatosti v súvislosti s vysokorizikovými systémami AI v súlade s článkom 10 ods. 2 písm. f) a g) tohto nariadenia, poskytovatelia takýchto systémov môžu výnimočne spracúvať osobitné kategórie osobných údajov pod podmienkou primeraných záruk pre základné práva a slobody fyzických osôb. Popri ustanoveniach uvedených v nariadení (EÚ) 2016/679, nariadení (EÚ) 2018/1725 a v smernici (EÚ) 2016/680, podľa príslušného prípadu, musia byť na to, aby došlo k takémuto spracúvaniu, splnené všetky tieto podmienky:
odhalenie a nápravu zaujatosti nemožno účinne dosiahnuť spracúvaním iných údajov vrátane syntetických alebo anonymizovaných údajov;
osobitné kategórie osobných údajov podliehajú technickým obmedzeniam opakovaného použitia osobných údajov a najmodernejším bezpečnostným opatreniam a opatreniam na zachovanie súkromia vrátane pseudonymizácie;
osobitné kategórie osobných údajov podliehajú opatreniam na zabezpečenie toho, aby spracúvané osobné údaje boli zabezpečené a chránené, podliehali primeraným zárukám vrátane prísnych kontrol a dokumentácie prístupu, aby sa zabránilo zneužitiu a zabezpečilo, aby k týmto osobným údajom mali prístup len oprávnené osoby s primeranými povinnosťami zachovávania dôvernosti;
osobitné kategórie osobných údajov sa nesmú zasielať, prenášať ani inak sprístupňovať iným stranám;
osobitné kategórie osobných údajov sa vymažú po náprave zaujatosti alebo uplynutí obdobia uchovávania osobných údajov, podľa toho, čo nastane skôr; a
záznamy o spracovateľských činnostiach podľa nariadení (EÚ) 2016/679 a (EÚ) 2018/1725 a smernice (EÚ) 2016/680 obsahujú dôvody, prečo bolo spracúvanie osobitných kategórií osobných údajov nevyhnutne potrebné na odhaľovanie a nápravu zaujatosti a prečo uvedený cieľ nebolo možné dosiahnuť spracúvaním iných údajov.
Poskytovatelia iných systémov a modelov AI a subjekty nasadzujúce iné systémy a modely AI a subjekty nasadzujúce vysokorizikové systémy AI môžu výnimočne spracúvať osobitné kategórie osobných údajov, pokiaľ:
je takéto spracúvanie nevyhnutne potrebné na zabezpečenie odhaľovania a nápravy zaujatosti z hľadiska možných zaujatostí, ktoré môžu mať vplyv na zdravie a bezpečnosť osôb, ktoré majú negatívny vplyv na základné práva alebo ktoré vedú k diskriminácii zakázanej podľa práva Únie, najmä ak výstupy údajov ovplyvňujú vstupy pre budúce operácie, a
sa uplatňujú všetky podmienky a záruky uvedené v odseku 1.
Týmto odsekom sa neukladá žiadna povinnosť vykonávať takéto odhaľovanie a nápravu zaujatosti.
KAPITOLA II
ZAKÁZANÉ PRAKTIKY VYUŽÍVAJÚCE AI
Článok 5
Zakázané praktiky využívajúce AI
Zakazujú sa tieto praktiky využívajúce AI:
uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému AI, ktorý využíva podprahové techniky mimo vedomia osoby alebo účelovo manipulatívne alebo klamlivé techniky s cieľom alebo účinkom podstatne narušiť správanie osoby alebo skupiny osôb tým, že sa citeľne oslabí ich schopnosť prijať informované rozhodnutie, čo zapríčiní, že prijmú rozhodnutie, ktoré by inak neprijali, a to spôsobom, ktorý tejto osobe, inej osobe alebo skupine osôb spôsobuje alebo pri ktorom je odôvodnené predpokladať, že pravdepodobne spôsobí značnú ujmu;
uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému AI, ktorý využíva ktorúkoľvek zo zraniteľností fyzickej osoby alebo osobitnej skupiny osôb z dôvodu ich veku, zdravotného postihnutia alebo osobitnej sociálnej alebo ekonomickej situácie s cieľom alebo účinkom podstatne narušiť správanie tejto osoby alebo osoby patriacej do tejto skupiny spôsobom, ktorý tejto alebo inej osobe spôsobuje alebo pri ktorom je odôvodnené predpokladať, že pravdepodobne spôsobí značnú ujmu;
uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému AI, ktorý generuje realistické obrázky, videá, zvukové záznamy alebo podobný materiál zobrazujúci intímne časti tela identifikovateľnej fyzickej osoby alebo jej zapojenie do sexuálne explicitného konania alebo ktorý s takýmto materiálom manipuluje, a to bez slobodného, konkrétneho, informovaného, jednoznačného a výslovného súhlasu tejto osoby s uvedeným generovaním alebo manipuláciou;
uvádzanie na trh, uvádzanie do prevádzky alebo používanie systému AI, ktorý generuje materiál alebo predstavenie v zmysle článku 2 písm. c) a e) smernice 2011/93/EÚ, alebo s nimi manipuluje, s výnimkou prípadov, keď sa podľa vnútroštátneho práva uplatňuje obhajoba „bez oprávnenia“;
uvádzanie na trh, uvádzanie do prevádzky alebo používanie systémov AI na hodnotenie alebo klasifikáciu fyzických osôb alebo skupín osôb počas určitého obdobia na základe ich spoločenského správania alebo známych, odvodených či predpokladaných osobných alebo osobnostných charakteristík, pričom takto získané sociálne skóre vedie k jednému alebo obidvom z týchto výsledkov:
ku škodlivému alebo nepriaznivému zaobchádzaniu s určitými fyzickými osobami alebo skupinami osôb v sociálnych kontextoch, ktoré nesúvisia s kontextami, v ktorých boli údaje pôvodne generované alebo zhromaždené;
ku škodlivému alebo nepriaznivému zaobchádzaniu s určitými fyzickými osobami alebo skupinami osôb, ktoré je neodôvodnené alebo neprimerané ich spoločenskému správaniu alebo jeho závažnosti;
uvádzanie na trh, uvádzanie do prevádzky na tento konkrétny účel alebo používanie systému AI na posudzovanie rizík fyzických osôb s cieľom posúdiť alebo predvídať riziko toho, že fyzická osoba spácha trestný čin, a to výlučne na základe profilovania fyzickej osoby alebo posúdenia jej osobnostných vlastností a charakteristík; tento zákaz sa nevzťahuje na systémy AI používané na podporu ľudského posúdenia zapojenia osoby do trestnej činnosti, ktoré je už založené na objektívnych a overiteľných skutočnostiach priamo spojených s trestnou činnosťou;
uvádzanie na trh, uvádzanie do prevádzky na tento konkrétny účel alebo používanie systémov AI, ktoré vytvárajú alebo rozširujú databázy na rozpoznávanie tváre prostredníctvom necielenej extrakcie podôb tváre z internetu alebo zo záznamov CCTV;
uvádzanie na trh, uvádzanie do prevádzky na tento konkrétny účel alebo používanie systémov AI na odvodzovanie emócií fyzickej osoby v oblasti pracoviska a vzdelávacích inštitúcií s výnimkou prípadov, keď je používanie systému AI určené na uvedenie do prevádzky alebo na trh zo zdravotných alebo bezpečnostných dôvodov;
uvádzanie na trh, uvádzanie do prevádzky na tento konkrétny účel alebo používanie systémov biometrickej kategorizácie, ktoré jednotlivo kategorizujú fyzické osoby na základe ich biometrických údajov s cieľom odvodiť alebo vyvodiť ich rasu, politické názory, členstvo v odboroch, náboženské alebo filozofické presvedčenie, sexuálny život alebo sexuálnu orientáciu; tento zákaz sa nevzťahuje na žiadne označovanie ani filtrovanie zákonne získaných súborov biometrických údajov, ako sú obrázky, na základe biometrických údajov alebo kategorizácie biometrických údajov v oblasti presadzovania práva;
používanie systémov diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva, pokiaľ takéto použitie nie je nevyhnutne potrebné na jeden z týchto cieľov:
cielené pátranie po konkrétnych obetiach únosov, obchodovania s ľuďmi alebo sexuálneho vykorisťovania ľudí, ako aj pátranie po nezvestných osobách;
predchádzanie konkrétnemu, závažnému a bezprostrednému ohrozeniu života alebo fyzickej bezpečnosti fyzických osôb alebo skutočnej a existujúcej alebo skutočnej a predvídateľnej hrozbe teroristického útoku;
lokalizácia alebo identifikácia osoby podozrivej zo spáchania trestného činu na účel vedenia vyšetrovania alebo stíhania trestného činu alebo výkonu trestnej sankcie za trestné činy uvedené v prílohe II, za ktoré možno v dotknutom členskom štáte uložiť trest odňatia slobody alebo ochranné opatrenie obmedzujúce slobodu s hornou hranicou trestnej sadzby najmenej štyri roky.
Prvým pododsekom písm. h) nie je dotknutý článok 9 nariadenia (EÚ) 2016/679 na účely spracúvania biometrických údajov na iné účely ako je presadzovania práva.
Na účely odseku 1 prvého pododseku písm. ba) a bb):
uvedenie na trh alebo do prevádzky systému AI, ktorý generuje materiál alebo predstavenie uvedené v odseku 1 prvom pododseku písm. ba) alebo bb) alebo s nimi manipuluje, je zakázané len vtedy, ak:
uvedené generovanie alebo manipulácia sú zamýšľaným účelom systému AI alebo
vďaka návrhu, trénovaniu, architektúre, kapacitám alebo funkciám orientovaným na používateľa sa toto generovanie alebo manipulácia stávajú odôvodnene predvídateľným a reprodukovateľným výsledkom bez toho, aby si vyžadovali významnú technickú úpravu, a systém nemá primerané a dostatočné technické bezpečnostné opatrenia a iné záruky, ktoré by spoľahlivo zabránili tomuto generovaniu alebo manipulácii, s prihliadnutím na odôvodnene predvídateľné nesprávne použitie, a napravili zistené alebo nahlásené nesprávne použitie;
používanie systému AI, ktorý generuje materiál alebo predstavenie uvedené v odseku 1 prvom pododseku písm. ba) a bb) alebo s nimi manipuluje, je zakázané len vtedy, ak nasadzujúci subjekt používa systém na účely generovania takéhoto materiálu alebo predstavenia alebo manipulácie s ním.
Systémy diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch sa na účely presadzovania práva na dosiahnutie ktoréhokoľvek z cieľov uvedených v odseku 1 prvom pododseku písm. h) nasadzujú na účely stanovené v uvedenom písmene, len aby sa potvrdila totožnosť špecificky zacieleného jednotlivca, pričom sa zohľadnia tieto skutočnosti:
povaha situácie, ktorá viedla k možnému použitiu, najmä závažnosť, pravdepodobnosť a rozsah ujmy, ktorá by bola spôsobená v prípade nepoužitia systému;
dôsledky použitia systému pre práva a slobody všetkých dotknutých osôb, najmä závažnosť, pravdepodobnosť a rozsah týchto dôsledkov.
Používanie systémov diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch na účely presadzovania práva na dosiahnutie ktoréhokoľvek z cieľov uvedených v odseku 1 prvom pododseku písm. h) tohto článku musí okrem toho byť v súlade s nevyhnutnými a primeranými zárukami a podmienkami týkajúcimi sa tohto používania, a to podľa vnútroštátnych právnych predpisov oprávňujúcich ich použitie, najmä pokiaľ ide o časové, geografické a osobné obmedzenia. Používanie systému diaľkovej biometrickej identifikácie v reálnom čase vo verejne prístupných priestoroch sa povolí len vtedy, ak orgán presadzovania práva dokončil posúdenie vplyvu na základné práva, ako sa stanovuje v článku 27, a zaregistroval systém v databáze Únie podľa článku 49. V riadne odôvodnených naliehavých prípadoch sa však používanie takýchto systémov môže začať bez registrácie v databáze Únie za predpokladu, že sa takáto registrácia dokončí bez zbytočného odkladu.
Príslušný justičný orgán alebo nezávislý správny orgán, ktorého rozhodnutie je záväzné, udelí povolenie len vtedy, ak sa na základe objektívnych dôkazov alebo jasných indícií, ktoré mu boli predložené, presvedčí, že použitie predmetného systému diaľkovej biometrickej identifikácie v reálnom čase je potrebné a primerané na dosiahnutie niektorého z cieľov uvedených v odseku 1 prvom pododseku písm. h), ako sa uvádza v žiadosti, a najmä je naďalej obmedzené na to, čo je striktne nevyhnutné, pokiaľ ide o časový a geografický rozsah a rozsah týkajúci sa osobných aspektov. Pri rozhodovaní o žiadosti tento orgán zohľadní skutočnosti uvedené v odseku 2. Žiadne rozhodnutie, ktoré má pre osobu nepriaznivé právne účinky, sa nesmie prijať výlučne na základe výstupu systému diaľkovej biometrickej identifikácie v reálnom čase.
KAPITOLA III
VYSOKORIZIKOVÉ SYSTÉMY AI
ODDIEL 1
Klasifikácia systémov AI ako vysokorizikových
Článok 6
Pravidlá klasifikácie vysokorizikových systémov AI
Bez ohľadu na to, či sa systém AI uvádza na trh alebo uvádza do prevádzky nezávisle od výrobkov uvedených v písmenách a) a b), považuje sa daný systém AI za vysokorizikový, ak sú splnené obe tieto podmienky:
systém AI je určený na používanie ako bezpečnostný komponent výrobku, na ktorý sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe I, alebo je systém AI sám osebe takýmto výrobkom;
výrobok, ktorého bezpečnostným komponentom podľa písmena a) je systém AI, alebo samotný systém AI ako výrobok sa musí podrobiť posúdeniu zhody treťou stranou s cieľom uviesť daný výrobok na trh alebo do prevádzky podľa harmonizačných právnych predpisov Únie uvedených v prílohe I.
Prvý pododsek sa uplatňuje, ak je splnená ktorákoľvek z týchto podmienok:
systém AI je určený na vykonávanie úzko vymedzenej procedurálnej úlohy;
systém AI je určený na zlepšenie výsledku predtým dokončenej ľudskej činnosti;
systém AI je určený na zisťovanie vzorcov rozhodovania alebo odchýlok od vzorcov predchádzajúceho rozhodovania a nie je určený na to, aby bez riadneho ľudského preskúmania nahradil alebo ovplyvnil predtým dokončené ľudské posúdenie, alebo
systém AI je určený na vykonávanie prípravnej úlohy pri posudzovaní relevantnom na účely prípadov použitia uvedených v prílohe III.
Bez ohľadu na prvý pododsek sa systém AI uvedený v prílohe III vždy považuje za vysokorizikový, ak sa ním vykonáva profilovanie fyzických osôb.
Článok 7
Zmeny prílohy III
Komisia je splnomocnená prijímať delegované akty v súlade s článkom 97 s cieľom zmeniť prílohu III doplnením alebo úpravou prípadov používania vysokorizikových systémov AI, ak sú splnené obe tieto podmienky:
systémy AI sú určené na používanie v ktorejkoľvek z oblastí uvedených v prílohe III;
systémy AI predstavujú riziko ujmy na zdraví a bezpečnosti alebo riziko nepriaznivého vplyvu na základné práva a toto riziko je rovnocenné alebo väčšie než riziko poškodenia alebo nepriaznivého vplyvu, ktoré predstavujú vysokorizikové systémy AI už uvedené v prílohe III.
Pri posudzovaní podmienky podľa odseku 1 písm. b) Komisia zohľadní tieto kritériá:
zamýšľaný účel systému AI;
rozsah, v akom sa systém AI používa alebo sa pravdepodobne bude používať;
povahu a množstvo údajov spracúvaných a používaných systémom AI, najmä to, či sa spracúvajú osobitné kategórie osobných údajov;
rozsah, v akom systém AI koná samostatne, a možnosť človeka zvrátiť rozhodnutia alebo odporúčania, ktoré môžu viesť k potenciálnej ujme;
rozsah, v akom používanie systému AI už spôsobilo ujmu na zdraví a bezpečnosti alebo nepriaznivý vplyv na základné práva, alebo vyvolalo vážne obavy v súvislosti s pravdepodobnosťou takejto ujmy alebo nepriaznivého vplyvu, čo preukazujú napríklad správy alebo zdokumentované tvrdenia, ktoré sa predložili vnútroštátnym príslušným orgánom, alebo prípadne iné správy;
potenciálny rozsah takejto ujmu alebo nepriaznivého vplyvu, najmä pokiaľ ide o jeho intenzitu a schopnosť ovplyvniť viacero osôb alebo neúmerne ovplyvniť konkrétnu skupinu osôb;
rozsah, v akom sú osoby, ktoré potenciálne utrpeli ujmu alebo trpia nepriaznivým vplyvom, závislé od výsledku vytvoreného systémom AI, najmä preto, že z praktických alebo právnych dôvodov nie je primerane možné sa na tomto výsledku nepodieľať;
rozsah, v akom existuje nerovnováha moci, alebo osoby, ktoré potenciálne utrpeli ujmu alebo trpia nepriaznivým vplyvom, sú vo vzťahu k subjektu nasadzujúcemu systém AI v zraniteľnom postavení, najmä z dôvodu postavenia, autority, znalostí, hospodárskych alebo sociálnych okolností alebo veku;
rozsah, v akom je výsledok vytvorený pomocou systému AI ľahko napraviteľný alebo zvrátiteľný s prihliadnutím na technické riešenia, ktoré sú k dispozícii na jeho nápravu alebo zvrátenie, pričom výsledky s nepriaznivým vplyvom na zdravie, bezpečnosť alebo základné práva sa nepovažujú za ľahko napraviteľné alebo zvrátiteľné;
rozsah a pravdepodobnosť prínosu nasadenia systému AI pre jednotlivcov, skupiny alebo spoločnosť ako celok vrátane možných zlepšení bezpečnosti výrobkov;
rozsah, v akom sa v existujúcom práve Únie stanovujú:
účinné nápravné opatrenia v súvislosti s rizikami, ktoré systém AI predstavuje, s výnimkou nárokov na náhradu škody;
účinné opatrenia na predchádzanie týmto rizikám alebo ich podstatnú minimalizáciu.
Komisia je splnomocnená prijímať delegované akty v súlade s článkom 97 s cieľom zmeniť zoznam v prílohe III vypustením vysokorizikových systémov AI, ak sú splnené obe tieto podmienky:
dotknutý vysokorizikový systém AI už nepredstavuje významné riziká pre základné práva, zdravie alebo bezpečnosť, pričom sa zohľadňujú kritériá uvedené v odseku 2;
vypustením sa neznižuje celková úroveň ochrany zdravia, bezpečnosti a základných práv podľa práva Únie.
ODDIEL 2
Požiadavky na vysokorizikové systémy AI
Článok 8
Súlad s požiadavkami
Článok 9
Systém riadenia rizík
Systém riadenia rizík sa vykladá ako nepretržitý iteratívny proces plánovaný a uskutočňovaný počas celého životného cyklu vysokorizikového systému AI, ktorý si vyžaduje pravidelné systematické preskúmanie a aktualizovanie. Zahŕňa tieto kroky:
identifikáciu a analýzu známych a odôvodnene predvídateľných rizík, ktoré vysokorizikový systém AI môže predstavovať pre zdravie, bezpečnosť alebo základné práva, keď sa vysokorizikový systém AI používa v súlade s jeho zamýšľaným účelom;
odhad a hodnotenie rizík, ktoré môžu vzniknúť, keď sa vysokorizikový systém AI používa v súlade s jeho zamýšľaným účelom a za podmienok odôvodnene predvídateľného nesprávneho použitia;
hodnotenie ďalších možných rizík na základe analýzy údajov získaných zo systému monitorovania po uvedení na trh v zmysle článku 72;
prijatie vhodných a cielených opatrení na riadenie rizík určených na riešenie rizík identifikovaných podľa písmena a).
Pri určovaní najvhodnejších opatrení na riadenie rizík sa zabezpečí:
odstránenie alebo zníženie rizík identifikovaných a vyhodnotených podľa odseku 2, pokiaľ je to technicky možné prostredníctvom primeraného dizajnu a vývoja vysokorizikového systému AI;
v relevantnom prípade zavedenie primeraných zmierňujúcich a kontrolných opatrení na riešenie rizík, ktoré nemožno odstrániť;
poskytovanie informácií požadovaných podľa článku 13 a v relevantnom prípade odborná príprava pre nasadzujúce subjekty.
V záujme odstraňovania alebo znižovania rizík súvisiacich s používaním vysokorizikového systému AI sa náležite zohľadnia technické znalosti, skúsenosti, vzdelanie, odborná príprava, ktoré sa očakávajú od nasadzujúceho subjektu, ako aj predpokladaný kontext, v ktorom sa má systém používať.
Článok 10
Údaje a správa údajov
Na súbory trénovacích, validačných a testovacích údajov sa vzťahujú postupy správy a riadenia údajov vhodné na zamýšľaný účel vysokorizikového systému AI. Tieto postupy sa týkajú najmä:
príslušných dizajnových rozhodnutí;
procesov zberu údajov a pôvodu údajov a v prípade osobných údajov pôvodného účelu zberu údajov;
príslušných spracovateľských operácií prípravy údajov, ako je anotácia, označovanie, čistenie, aktualizácia, obohacovanie a agregácia;
formulovania predpokladov, najmä pokiaľ ide o informácie, ktoré majú údaje merať a reprezentovať;
posúdenia dostupnosti, množstva a vhodnosti potrebných súborov údajov;
preskúmania z hľadiska možnej zaujatosti, ktorá môže mať vplyv na zdravie a bezpečnosť osôb, negatívny vplyv na základné práva alebo môže viesť k diskriminácii zakázanej právom Únie, najmä ak výstupy údajov ovplyvňujú vstupy pre budúce operácie;
vhodných opatrení na odhaľovanie, prevenciu a zmierňovanie možnej zaujatosti identifikovanej podľa písmena f);
identifikácie relevantných medzier alebo nedostatkov v údajoch, ktoré bránia súladu s týmto nariadením, a spôsobu, akým možno tieto medzery a nedostatky odstrániť.
▼M1 —————
Článok 11
Technická dokumentácia
Táto technická dokumentácia sa vypracuje tak, aby sa v nej preukazovalo, že vysokorizikový systém AI spĺňa požiadavky stanovené v tomto oddiele, a aby sa vnútroštátnym príslušným orgánom a notifikovaným osobám poskytli v jasnej a komplexnej podobe všetky informácie potrebné na posúdenie súladu systému AI s uvedenými požiadavkami. Musí obsahovať aspoň prvky stanovené v prílohe IV. MSP vrátane startupov a malé podniky so strednou trhovou kapitalizáciou môžu poskytovať prvky technickej dokumentácie uvedené v prílohe IV zjednodušeným spôsobom. Na tento účel vytvorí Komisia zjednodušený formulár technickej dokumentácie zameraný na potreby MSP vrátane startupov a malých podnikov so strednou trhovou kapitalizáciou. Ak sa MSP vrátane startupu alebo malý podnik so strednou trhovou kapitalizáciou rozhodne poskytovať informácie požadované v prílohe IV zjednodušeným spôsobom, použije formulár uvedený v tomto odseku. Notifikované osoby akceptujú formulár na účely posudzovania zhody.
Článok 12
Vedenie záznamov
S cieľom zabezpečiť úroveň vysledovateľnosti fungovania vysokorizikového systému AI, ktorá je primeraná zamýšľanému účelu systému, spôsobilosti logovania umožňujú zaznamenávanie udalostí relevantných pre:
identifikáciu situácií, ktoré môžu viesť k tomu, že systém AI začne predstavovať riziko v zmysle článku 79 ods. 1, alebo k podstatnej zmene;
uľahčenie monitorovania po uvedení na trh, ako sa uvádza v článku 72, a
monitorovanie prevádzky vysokorizikových systémov AI uvedené v článku 26 ods. 5.
V prípade vysokorizikových systémov AI uvedených v prílohe III bode 1 písm. a) sa v rámci spôsobilostí logovania musí zabezpečiť aspoň:
záznam každého časového úseku používania systému (dátum a čas začiatku a dátum a čas ukončenia každého použitia);
referenčná databáza, podľa ktorej systém skontroloval vstupné údaje;
vstupné údaje, pri ktorých vyhľadávanie viedlo k zhode;
identifikácia fyzických osôb zapojených podľa článku 14 ods. 5 do overovania výsledkov.
Článok 13
Transparentnosť a poskytovanie informácií nasadzujúcim subjektom
Návod na použitie obsahuje aspoň tieto informácie:
totožnosť a kontaktné údaje poskytovateľa a v príslušných prípadoch jeho splnomocneného zástupcu;
charakteristiky, spôsobilosti a obmedzenia výkonu vysokorizikového systému AI vrátane:
jeho zamýšľaného účelu;
úrovne presnosti vrátane jej metriky, spoľahlivosti a kybernetickej bezpečnosti podľa článku 15, na základe ktorej bol vysokorizikový systém AI testovaný a validovaný a ktorú možno očakávať, ako aj všetky známe a predvídateľné okolnosti, ktoré môžu mať vplyv na túto očakávanú úroveň presnosti, spoľahlivosti a kybernetickej bezpečnosti;
všetkých známych alebo predvídateľných okolností súvisiacich s používaním vysokorizikového systému AI v súlade s jeho zamýšľaným účelom alebo za podmienok odôvodnene predvídateľného nesprávneho používania, ktoré môžu viesť k rizikám pre zdravie a bezpečnosť alebo pre základné práva, ako sa uvádza v článku 9 ods. 2;
v relevantných prípadoch, technických spôsobilostí a charakteristík vysokorizikového systému AI poskytovať informácie, ktoré sú relevantné na vysvetlenie jeho výstupu;
v príslušných prípadoch, jeho výkonu, pokiaľ ide o konkrétne osoby alebo skupiny osôb, v prípade ktorých sa má systém používať;
v príslušných prípadoch, špecifikácií vstupných údajov alebo akýchkoľvek iných relevantných informácií z hľadiska použitých súborov trénovacích, validačných a testovacích údajov, pričom sa zohľadní zamýšľaný účel vysokorizikového systému AI;
v relevantných prípadoch, informácií umožňujúcich nasadzujúcim subjektom interpretovať výstup vysokorizikového systému AI a vhodne ho používať;
prípadné zmeny vysokorizikového systému AI a jeho výkonu, ktoré v čase počiatočného posúdenia zhody vopred určil poskytovateľ;
opatrenia na zabezpečenie ľudského dohľadu uvedené v článku 14 vrátane technických opatrení zavedených na uľahčenie výkladu výstupov vysokorizikových systémov AI nasadzujúcimi subjektmi;
potrebné výpočtové a hardvérové zdroje, očakávaná životnosť vysokorizikového systému AI a všetky potrebné opatrenia údržby a starostlivosti vrátane frekvencie ich vykonávania, ktorými sa má zabezpečiť riadne fungovanie tohto systému AI, a to aj pokiaľ ide o aktualizácie softvéru;
v relevantnom prípade, opis mechanizmov zahrnutých do vysokorizikového systému AI, ktoré umožňujú nasadzujúcim subjektom riadne zhromažďovať, uchovávať a interpretovať logy v súlade s článkom 12 ods. 1.
Článok 14
Ľudský dohľad
Opatrenia dohľadu musia byť primerané rizikám, úrovni autonómnosti a kontextu používania vysokorizikového systému AI a zabezpečia sa jedným alebo oboma z týchto druhov opatrení:
opatrenia, ktoré identifikuje poskytovateľ, a ak je to technicky uskutočniteľné, začlení ich do vysokorizikového systému AI pred jeho uvedením na trh alebo do prevádzky;
opatrenia, ktoré identifikuje poskytovateľ pred uvedením vysokorizikového systému AI na trh alebo do prevádzky a ktoré môže zaviesť nasadzujúci subjekt.
Na účely vykonávania odsekov 1, 2 a 3 sa vysokorizikový systém AI poskytuje nasadzujúcemu subjektu takým spôsobom, aby fyzickým osobám, ktorým je zverený ľudský dohľad, umožňoval podľa potreby a primerane:
riadne pochopiť príslušné kapacity a obmedzenia vysokorizikového systému AI a byť schopný riadne monitorovať jeho prevádzku, a to aj s cieľom odhaľovať a riešiť anomálie, poruchy a neočakávaný výkon;
byť si neustále vedomý možnej tendencie automatického spoliehania sa alebo nadmerného spoliehania sa na výstupy vytvorené vysokorizikovým systémom AI (ďalej len „náchylnosť k automatizácii“), a to najmä v prípade vysokorizikových systémov AI používaných na poskytovanie informácií alebo odporúčaní pre rozhodnutia, ktoré majú prijať fyzické osoby;
správne interpretovať výstupy vysokorizikového systému AI, s prihliadnutím napríklad na dostupné interpretačné nástroje a metódy;
v akejkoľvek konkrétnej situácii rozhodnúť, že sa vysokorizikový systém AI nepoužije alebo sa výstup vysokorizikového systému AI inak nezohľadní, potlačí alebo zvráti;
zasiahnuť do prevádzky vysokorizikového systému AI alebo prerušiť systém pomocou tlačidla „stop“ alebo podobným postupom, ktorý umožňuje zastaviť systém v bezpečnom stave.
Požiadavka na samostatné overenie aspoň dvoma fyzickými osobami sa nevzťahuje na vysokorizikové systémy AI používané na účely presadzovania práva, migrácie, kontroly hraníc alebo azylu, keď sa podľa práva Únie alebo vnútroštátneho práva uplatňovanie tejto požiadavky považuje za neprimerané.
Článok 15
Presnosť, spoľahlivosť a kybernetická bezpečnosť
Spoľahlivosť vysokorizikových systémov AI možno dosiahnuť technickými riešeniami na vytvorenie redundancie, ktoré môžu zahŕňať plány zálohovania alebo núdzového režimu.
Vysokorizikové systémy AI, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia, sa vyvíjajú tak, aby sa odstránilo alebo v čo najväčšej miere znížilo riziko, že prípadné skreslené výstupy budú mať vplyv na vstup pre budúce operácie (ďalej len „slučky spätnej väzby“), a aby sa zaistilo, že akékoľvek takéto slučky spätnej väzby sa budú náležite riešiť vhodnými zmierňujúcimi opatreniami.
Technické riešenia zamerané na zabezpečenie kybernetickej bezpečnosti vysokorizikových systémov AI musia byť primerané príslušným okolnostiam a rizikám.
Technické riešenia zamerané na zraniteľnosti špecifické pre AI v prípade potreby zahŕňajú opatrenia na prevenciu, detekciu, reakciu, riešenie a kontrolu v prípade útokov, ktoré sa pokúšajú manipulovať súbor trénovacích údajov (ďalej len „otrávenie údajov“) alebo vopred natrénované komponenty používané pri tréningu (ďalej len „otrávenie modelov“), vstupov koncipovaných tak, aby model AI urobil chybu (ďalej len „odporujúce si príklady“ alebo „oklamanie modelov“), útokov na dôvernosť alebo nedostatkov modelu.
ODDIEL 3
Povinnosti vzťahujúce sa na poskytovateľov a nasadzujúce subjekty vysokorizikových systémov AI a iné strany
Článok 16
Povinnosti poskytovateľov vysokorizikových systémov AI
Poskytovatelia vysokorizikových systémov AI:
zabezpečujú, aby ich vysokorizikové systémy AI boli v súlade s požiadavkami stanovenými v oddiele 2;
na vysokorizikovom systéme AI, alebo ak to nie je možné, na jeho obale alebo prípadne v sprievodnej dokumentácii uvedú svoje meno, registrované obchodné meno alebo registrovanú ochrannú známku, adresu, na ktorej ich možno kontaktovať;
majú zavedený systém riadenia kvality, ktorý je v súlade s článkom 17;
uchovávajú dokumentáciu podľa článku 18;
uchovávajú logy automaticky generované ich vysokorizikovými systémami AI podľa článku 19, ak ich majú pod kontrolou;
zabezpečia, aby sa vysokorizikový systém AI pred uvedením na trh alebo do prevádzky podrobil príslušnému postupu posudzovania zhody, ako sa uvádza v článku 43;
vypracujú EÚ vyhlásenie o zhode v súlade s článkom 47;
umiestnia označenie CE na vysokorizikový systém AI, alebo ak to nie je možné, na jeho obal alebo prípadne do sprievodnej dokumentácie s cieľom označiť zhodu s týmto nariadením podľa článku 48;
splnia registračné povinnosti uvedené v článku 49 ods. 1;
prijmú potrebné nápravné opatrenia a poskytnú informácie, ako sa požaduje v článku 20;
na základe odôvodnenej žiadosti vnútroštátneho príslušného orgánu preukážu zhodu vysokorizikového systému AI s požiadavkami stanovenými v oddiele 2;
zabezpečia, aby vysokorizikový systém AI spĺňal požiadavky na prístupnosť v súlade so smernicami (EÚ) 2016/2102 a (EÚ) 2019/882.
Článok 17
Systém riadenia kvality
Poskytovatelia vysokorizikových systémov AI zavedú systém riadenia kvality, ktorým sa zabezpečí súlad s týmto nariadením. Tento systém sa systematicky a usporiadane zdokumentuje vo forme písomných zásad, postupov a pokynov a zahŕňa aspoň tieto aspekty:
stratégiu dodržiavania regulačných požiadaviek vrátane dodržiavania postupov posudzovania zhody a postupov riadenia zmien vysokorizikového systému AI;
techniky, postupy a systematické opatrenia, ktoré sa majú použiť pri dizajnovaní vysokorizikového systému AI, kontrole jeho dizajnu a overovaní jeho dizajnu;
techniky, postupy a systematické opatrenia, ktoré sa majú použiť pri vývoji vysokorizikového systému AI a pri kontrole a zabezpečení jeho kvality;
postupy preskúmania, testovania a validácie, ktoré sa majú vykonávať pred vývojom vysokorizikového systému AI, počas neho a po ňom, a frekvencia, s akou sa musia vykonávať;
technické špecifikácie vrátane noriem, ktoré sa majú uplatňovať, a v prípade, že sa príslušné harmonizované normy neuplatňujú v plnom rozsahu alebo sa nevzťahujú na všetky príslušné požiadavky stanovené v oddiele 2, prostriedky, ktoré sa majú použiť na zabezpečenie toho, aby vysokorizikový systém AI spĺňal tieto požiadavky;
systémy a postupy správy údajov vrátane získavania údajov, zberu údajov, ich analýzy, označovania, ukladania, filtrovania, hĺbkovej analýzy, agregácie, uchovávania a všetkých ďalších operácií týkajúcich sa údajov, ktoré sa vykonávajú pred uvedením vysokorizikových systémov AI na trh alebo do prevádzky a na účely ich uvedenia na trh alebo do prevádzky;
systém riadenia rizík uvedený v článku 9;
vytvorenie, zavedenie a vedenie systému monitorovania po uvedení na trh v súlade s článkom 72;
postupy týkajúce sa oznamovania závažných incidentov v súlade s článkom 73;
vybavovanie komunikácie s vnútroštátnymi príslušnými orgánmi, inými relevantnými orgánmi vrátane tých, ktoré poskytujú alebo podporujú prístup k údajom, s notifikovanými osobami, inými prevádzkovateľmi, zákazníkmi alebo inými zainteresovanými stranami;
systémy a postupy vedenia záznamov o všetkých príslušných dokumentoch a informáciách;
riadenie zdrojov vrátane opatrení týkajúcich sa bezpečnosti dodávok;
rámec zodpovednosti, v ktorom sa stanovia povinnosti manažmentu a ostatných zamestnancov, pokiaľ ide o všetky aspekty uvedené v tomto odseku.
Článok 18
Uchovávanie dokumentácie
Počas obdobia končiaceho sa 10 rokov po uvedení vysokorizikového systému AI na trh alebo do prevádzky uchováva poskytovateľ pre potreby vnútroštátnych príslušných orgánov:
technickú dokumentáciu uvedenú v článku 11;
dokumentáciu týkajúcu sa systému riadenia kvality uvedenú v článku 17,
dokumentáciu týkajúcu sa prípadných zmien schválených notifikovanými osobami;
prípadné rozhodnutia a iné dokumenty vydané notifikovanými osobami;
EÚ vyhlásenie o zhode uvedené v článku 47.
Článok 19
Automaticky generované logy
Článok 20
Nápravné opatrenia a informačná povinnosť
Článok 21
Spolupráca s príslušnými orgánmi
Článok 22
Splnomocnení zástupcovia poskytovateľov vysokorizikových systémov AI
Splnomocnený zástupca vykonáva úlohy uvedené v splnomocnení, ktoré mu udelil poskytovateľ. Na požiadanie poskytne orgánom dohľadu nad trhom kópiu splnomocnenia v jednom z úradných jazykov inštitúcií Únie, ktorý určí príslušný orgán. Na účely tohto nariadenia sa splnomocnený zástupca splnomocnením poveruje, aby vykonával tieto úlohy:
overiť, či sa vypracovalo EÚ vyhlásenie o zhode uvedené v článku 47 a technická dokumentácia uvedená v článku 11 a či poskytovateľ vykonal príslušný postup posudzovania zhody;
uchovávať pre príslušné orgány a vnútroštátne orgány alebo subjekty uvedené v článku 74 ods. 10 počas obdobia 10 rokov po uvedení vysokorizikového systému AI na trh alebo do prevádzky, kontaktné údaje poskytovateľa, ktorý splnomocneného zástupcu vymenoval, kópiu EÚ vyhlásenia o zhode uvedeného v článku 47, technickú dokumentáciu a v relevantnom prípade certifikát vydaný notifikovanou osobou;
poskytnúť príslušnému orgánu na základe odôvodnenej žiadosti všetky informácie a dokumentáciu vrátane dokumentácie uvedenej v písmene b) tohto pododseku potrebné na preukázanie súladu vysokorizikového systému AI s požiadavkami stanovenými v oddiele 2 vrátane prístupu k logom, ako sa uvádza v článku 12 ods. 1, automaticky generovaným vysokorizikovým systémom AI, pokiaľ sú tieto logy pod kontrolou poskytovateľa;
spolupracovať s príslušnými orgánmi na základe odôvodnenej žiadosti pri každom opatrení, ktoré takýto orgán prijme v súvislosti s vysokorizikovým systémom AI, najmä s cieľom znížiť a zmierniť riziká, ktoré vysokorizikový systém AI predstavuje;
v relevantných prípadoch plniť registračné povinnosti uvedené v článku 49 ods. 1, alebo ak registráciu vykonáva sám poskytovateľ, zabezpečiť správnosť informácií uvedených v prílohe VIII oddiele A bode 3.
Splnomocnením sa splnomocnený zástupca oprávňuje, aby sa okrem poskytovateľa alebo namiesto neho naň obracali príslušné orgány vo všetkých otázkach týkajúcich sa zabezpečenia súladu s týmto nariadením.
Článok 23
Povinnosti dovozcov
Pred uvedením vysokorizikového systému AI na trh jeho dovozcovia zabezpečia, aby bol tento systém v zhode s týmto nariadením, a to overením, že:
poskytovateľ vysokorizikového systému AI vykonal príslušný postup posudzovania zhody uvedený v článku 43;
poskytovateľ vypracoval technickú dokumentáciu v súlade s článkom 11 a prílohou IV;
systém bol označený požadovaným označením CE a bolo k nemu priložené EÚ vyhlásenie o zhode uvedené v článku 47 a návod na použitie;
poskytovateľ vymenoval splnomocneného zástupcu v súlade s článkom 22 ods. 1.
Článok 24
Povinnosti distribútorov
Článok 25
Povinnosti v celom hodnotovom reťazci AI
Každý distribútor, dovozca, nasadzujúci subjekt alebo iná tretia strana sa na účely tohto nariadenia považuje za poskytovateľa vysokorizikového systému AI a vzťahujú sa na neho povinnosti poskytovateľa podľa článku 16 za ktorejkoľvek z týchto okolností:
umiestnia svoje meno alebo ochrannú známku na vysokorizikový systém AI, ktorý už bol uvedený na trh alebo do prevádzky, bez toho, aby boli dotknuté zmluvné dojednania, v ktorých sa stanovuje, že povinnosti sú rozdelené inak;
vykonajú podstatnú zmenu vysokorizikového systému AI, ktorý už bol uvedený na trh alebo už bol uvedený do prevádzky takým spôsobom, že zostáva vysokorizikovým systémom AI podľa článku 6;
menia zamýšľaný účel systému AI vrátane systému AI na všeobecné účely, ktorý nebol klasifikovaný ako vysokorizikový a už bol uvedený na trh alebo do prevádzky takým spôsobom, že sa z dotknutého systému AI stane vysokorizikový systém AI v súlade s článkom 6.
Tento pôvodný poskytovateľ úzko spolupracuje s novými poskytovateľmi a sprístupňuje potrebné informácie a poskytuje odôvodnene očakávaný technický prístup a inú pomoc, ktoré sú potrebné na plnenie povinností stanovených v tomto nariadení, najmä pokiaľ ide o súlad s posudzovaním zhody vysokorizikových systémov AI.
Povinnosť stanovená v druhom pododseku zahŕňa, ak je to relevantné na účely v ňom uvedené, najmä:
sprístupňovanie technickej dokumentácie postačujúcej na posúdenie súladu s požiadavkami stanovenými v článku 16;
informovanie nových poskytovateľov o známych obmedzeniach a poruchových stavoch a
poskytovanie cieleného technického prístupu novým poskytovateľom, a to aj na účely testovania a validácie.
Tento odsek sa neuplatňuje v prípadoch, keď pôvodný poskytovateľ jasne uviedol, že jeho systém AI sa nemá zmeniť na vysokorizikový systém AI, a preto sa naň nevzťahuje povinnosť spolupracovať s novými poskytovateľmi a odovzdať dokumentáciu.
V prípade vysokorizikových systémov AI, ktoré sú bezpečnostnými komponentmi výrobkov, na ktoré sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe I oddiele A, sa výrobca týchto výrobkov považuje za poskytovateľa vysokorizikového systému AI a podlieha povinnostiam podľa článku 16 za ktorejkoľvek z týchto okolností:
vysokorizikový systém AI sa uvádza na trh spolu s výrobkom pod menom alebo ochrannou známkou výrobcu výrobku;
vysokorizikový systém AI sa po uvedení výrobku na trh uvedie do prevádzky pod menom alebo ochrannou známkou výrobcu výrobku.
Úrad pre AI môže vypracovať a odporučiť nezáväzné vzorové podmienky zmlúv medzi poskytovateľmi vysokorizikových systémov AI a tretími stranami, ktoré dodávajú nástroje, služby, komponenty alebo procesy, ktoré sa používajú alebo sú integrované vo vysokorizikových systémoch AI. Úrad pre AI by mal pri vypracúvaní týchto nezáväzných vzorových podmienok zohľadniť možné zmluvné požiadavky uplatniteľné v konkrétnych odvetviach alebo obchodných prípadoch. Nezáväzné vzorové podmienky sa uverejnia a bezplatne sprístupnia v ľahko použiteľnom elektronickom formáte.
Článok 26
Povinnosti subjektov nasadzujúcich vysokorizikové systémy AI
V prípade nasadzujúcich subjektov, ktoré sú finančnými inštitúciami, na ktoré sa vzťahujú požiadavky týkajúce sa ich vnútornej správy a riadenia, dojednaní alebo postupov podľa práva Únie v oblasti finančných služieb, sa monitorovacia povinnosť stanovená v prvom pododseku považuje za splnenú, ak sú dodržané pravidlá týkajúce sa vnútornej správy a riadenia, postupov a mechanizmov podľa príslušného práva v oblasti finančných služieb.
Nasadzujúce subjekty, ktoré sú finančnými inštitúciami, a na ktoré sa vzťahujú požiadavky týkajúce sa ich vnútornej správy a riadenia, dojednaní alebo postupov podľa práva Únie v oblasti finančných služieb, uchovávajú logy ako súčasť dokumentácie uchovávanej v súlade s príslušným právom Únie v oblasti finančných služieb.
Ak sa povolenie požadované podľa prvého pododseku zamietne, používanie systému následnej diaľkovej biometrickej identifikácie súvisiace s týmto požadovaným povolením sa s okamžitou účinnosťou zastaví a osobné údaje súvisiace s používaním vysokorizikového systému AI, pre ktoré sa povolenie žiadalo, sa vymažú.
Takýto vysokorizikový systém AI na následnú diaľkovú biometrickú identifikáciu sa v žiadnom prípade nepoužíva na účely presadzovania práva necieleným spôsobom, bez akejkoľvek súvislosti s trestným činom, trestným konaním, skutočnou a existujúcou alebo skutočnou a predvídateľnou hrozbou trestného činu alebo pátraním po konkrétnej nezvestnej osobe. Zabezpečí sa, aby orgány presadzovania práva nemohli prijať žiadne rozhodnutie, ktoré má nepriaznivé právne účinky na danú osobu, a to výlučne na základe výstupu takýchto systémov následnej diaľkovej biometrickej identifikácie.
Týmto odsekom nie je dotknutý článok 9 nariadenia (EÚ) 2016/679 a článok 10 smernice (EÚ) 2016/680 týkajúce sa spracúvania biometrických údajov.
Bez ohľadu na účel alebo nasadzujúci subjekt sa každé použitie týchto vysokorizikových systémov AI zdokumentuje v príslušnom policajnom spise a na požiadanie sa sprístupní relevantnému orgánu dohľadu nad trhom a vnútroštátnemu orgánu pre ochranu údajov, s výnimkou zverejnenia citlivých operačných údajov týkajúcich sa presadzovania práva. Týmto pododsekom nie sú dotknuté právomoci, ktoré sa smernicou (EÚ) 2016/680 udeľujú orgánom dohľadu.
Nasadzujúce subjekty predkladajú relevantným orgánom dohľadu nad trhom a vnútroštátnym orgánom pre ochranu údajov výročné správy o ich používaní systémov následnej diaľkovej biometrickej identifikácie s výnimkou zverejňovania citlivých operačných údajov týkajúcich sa presadzovania práva. Správy možno agregovať tak, aby zahŕňali viac ako len jedno nasadenie.
Členské štáty môžu v súlade s právom Únie zaviesť prísnejšie právne predpisy pre používanie systémov následnej diaľkovej biometrickej identifikácie.
Článok 27
Posúdenie vplyvu na základné práva v prípade vysokorizikových systémov AI
Pred nasadením vysokorizikového systému AI uvedeného v článku 6 ods. 2, s výnimkou vysokorizikových systémov AI určených na používanie v oblasti uvedenej v prílohe III bode 2, nasadzujúce subjekty, ktoré sú verejnoprávnymi orgánmi alebo súkromnými subjektmi poskytujúcimi verejné služby, a subjekty nasadzujúce vysokorizikové systémy AI uvedené v prílohe III bode 5 písm. b) a c) vykonajú posúdenie vplyvu na základné práva, ktorý môže mať použitie takéhoto systému. Na tento účel vykonajú nasadzujúce subjekty posúdenie, ktoré zahŕňa:
opis procesov nasadzujúceho subjektu, v ktorých sa bude vysokorizikový systém AI používať v súlade s jeho zamýšľaným účelom;
opis časového úseku a frekvencie, v ktorých sa má každý vysokorizikový systém AI používať;
kategórie fyzických osôb a skupín, ktoré pravdepodobne budú ovplyvnené jeho používaním v konkrétnom kontexte;
konkrétne riziká ujmy, ktoré pravdepodobne ovplyvnia kategórie fyzických osôb alebo skupín osôb identifikovaných podľa písmena c) tohto odseku s prihliadnutím na informácie od poskytovateľa podľa článku 13;
opis vykonávania opatrení v oblasti ľudského dohľadu podľa návodu na použitie;
opatrenia, ktoré sa majú prijať v prípade naplnenia týchto rizík, vrátane opatrení zameraných na vnútorné správu a riadenie a mechanizmy riešenia sťažností.
ODDIEL 4
Notifikujúce orgány a notifikované osoby
Článok 28
Notifikujúce orgány
Jedna žiadosť a jednotný postup posudzovania uvedené v tomto odseku sa sprístupnia aj notifikovaným osobám, ktoré už boli určené podľa harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I, ak tieto notifikované osoby požiadajú o určenie podľa tohto nariadenia, a to za predpokladu, že sa v príslušných harmonizačných právnych predpisoch Únie takýto postup stanovuje.
Orgán posudzovania zhody, ktorý je určený podľa viac než jedného právneho aktu harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I, musí požiadať o určenie podľa tohto nariadenia len raz. Určenie podľa tohto nariadenia sa uplatňuje na všetky harmonizačné právne predpisy Únie uvedené v oddiele A prílohy I, pre ktoré je orgán posudzovania zhody určený.
Jednou žiadosťou a jednotným postupom posudzovania sa zabráni zbytočnému zdvojovaniu, nadviaže sa na existujúce postupy určovania podľa harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I a zabezpečí sa súlad s požiadavkami týkajúcimi sa notifikovaných osôb podľa tohto nariadenia, ako aj príslušných harmonizačných právnych predpisov Únie.
Článok 29
Žiadosť orgánu posudzovania zhody o notifikáciu
Priložia sa všetky platné dokumenty týkajúce sa existujúcich prípadov, v ktorých bola žiadajúca notifikovaná osoba určená podľa iných harmonizačných právnych predpisov Únie.
Notifikované osoby, ktoré sú určené podľa niektorého z harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I a ktoré prechádzajú jednotným postupom posudzovania uvedeným v článku 28 ods. 8, predložia jednu žiadosť o posúdenie notifikujúcemu orgánu určenému v súlade s uvedenými harmonizačnými právnymi predpismi Únie.
Notifikovaná osoba aktualizuje dokumentáciu uvedenú v odsekoch 2 a 3 tohto článku vždy, keď dôjde k relevantným zmenám, aby orgán zodpovedný za notifikované osoby mohol monitorovať a overovať priebežné dodržiavanie všetkých požiadaviek stanovených v článku 31.
Článok 30
Notifikačný postup
Komisia je splnomocnená prijímať delegované akty v súlade s článkom 97 s cieľom zmeniť prílohu XIV vzhľadom na technický pokrok, pokrok v poznatkoch alebo nové vedecké dôkazy tým, že do zoznamu kódov, kategórií a zodpovedajúcich typov systémov AI doplní nový kód, kategóriu alebo typ systému AI, stiahne existujúci kód, kategóriu alebo typ systému AI z tohto zoznamu alebo presunie kód alebo typ systému AI z jednej kategórie do druhej.
Článok 31
Požiadavky týkajúce sa notifikovaných osôb
Článok 32
Predpoklad súladu s požiadavkami týkajúcimi sa notifikovaných osôb
Ak orgán posudzovania zhody preukáže splnenie kritérií stanovených v príslušných harmonizovaných normách alebo ich častiach, na ktoré boli uverejnené odkazy v Úradnom vestníku Európskej únie, predpokladá sa, že daný orgán spĺňa požiadavky stanovené v článku 31 v rozsahu, v akom sa na uvedené požiadavky uplatňujú harmonizované normy.
Článok 33
Dcérske spoločnosti notifikovaných osôb a subdodávatelia
Článok 34
Operačné povinnosti notifikovaných osôb
Článok 35
Identifikačné čísla a zoznamy notifikovaných osôb
Článok 36
Zmeny notifikácií
V prípade iných zmien notifikácie, ako je rozšírenie jej rozsahu, sa uplatňujú postupy stanovené v odsekoch 3 až 9.
V prípade obmedzenia, pozastavenia alebo zrušenia určenia notifikujúci orgán:
posudzuje vplyv na certifikáty vydané notifikovanou osobou;
predkladá Komisii a ostatným členským štátom správu o svojich zisteniach do troch mesiacov po oznámení zmien určenia;
požaduje od notifikovanej osoby, aby v primeranej lehote, ktorú tento orgán stanoví, pozastavila alebo stiahla všetky certifikáty, ktoré boli vydané neoprávnene, s cieľom zaistiť pokračujúcu zhodu vysokorizikových systémov AI na trhu;
informuje Komisiu a členské štáty o certifikátoch, ktorých pozastavenie alebo stiahnutie požaduje;
poskytne vnútroštátnym príslušným orgánom členského štátu, v ktorom má poskytovateľ registrované miesto podnikania, všetky relevantné informácie o certifikátoch, v prípade ktorých požiadal o pozastavenie alebo stiahnutie; ak je to potrebné na zabránenie potenciálnemu riziku pre zdravie, bezpečnosť alebo základné práva, uvedený orgán prijme primerané opatrenia.
S výnimkou certifikátov, ktoré boli vydané neoprávnene, a prípadov, keď bolo určenie pozastavené alebo obmedzené, zostávajú certifikáty platné za jednej z týchto okolností:
notifikujúci orgán do jedného mesiaca od pozastavenia alebo obmedzenia potvrdil, že vo vzťahu k certifikátom, na ktoré sa pozastavenie alebo obmedzenie vzťahuje, neexistuje riziko pre zdravie, bezpečnosť ani základné práva, a navrhol harmonogram opatrení, ktoré povedú k zrušeniu pozastavenia alebo obmedzenia, alebo
notifikujúci orgán potvrdil, že sa počas pozastavenia alebo obmedzenia nebudú vydávať, meniť ani opätovne vydávať žiadne certifikáty, a uvedie, či je notifikovaná osoba spôsobilá naďalej monitorovať existujúce certifikáty vydané na obdobie pozastavenia alebo obmedzenia a zodpovedať za ne; ak notifikujúci orgán zistí, že notifikovaná osoba nie je spôsobilá podporovať existujúce vydané certifikáty, poskytovateľ systému, na ktorý sa certifikát vzťahuje, písomne potvrdí vnútroštátnym príslušným orgánom členského štátu, v ktorom má registrované miesto podnikania, do troch mesiacov od pozastavenia alebo obmedzenia, že iná kvalifikovaná notifikovaná osoba dočasne preberá funkcie notifikovanej osoby v oblasti monitorovania certifikátov a zostáva za ne zodpovedná počas obdobia pozastavenia alebo obmedzenia.
S výnimkou certifikátov, ktoré boli vydané neoprávnene, a zrušenia určenia zostávajú certifikáty platné počas obdobia deviatich mesiacov za týchto okolností:
vnútroštátny príslušný orgán členského štátu, v ktorom má poskytovateľ vysokorizikového systému AI, na ktorý sa vzťahuje certifikát, registrované miesto podnikania, potvrdil, že v súvislosti s dotknutými vysokorizikovými systémami AI neexistuje žiadne riziko pre zdravie, bezpečnosť alebo základné práva, a
iná notifikovaná osoba písomne potvrdila, že okamžite prevezme zodpovednosť za uvedené systémy AI a dokončí svoje posúdenie do 12 mesiacov od zrušenia určenia.
Za okolností uvedených v prvom pododseku môže vnútroštátny príslušný orgán členského štátu, v ktorom má poskytovateľ systému, na ktorý sa certifikát vzťahuje, svoje miesto podnikania, predĺžiť obdobie prechodnej platnosti certifikátov na ďalšie obdobia troch mesiacov, ktoré celkovo neprekročia obdobie 12 mesiacov.
Vnútroštátny príslušný orgán alebo notifikovaná osoba preberajúca úlohy notifikovanej osoby, ktorej sa týka zmena určenia, o tom bezodkladne informuje Komisiu, ostatné členské štáty a ostatné notifikované osoby.
Článok 37
Napadnutie odbornej spôsobilosti notifikovaných osôb
Článok 38
Koordinácia notifikovaných osôb
Článok 39
Orgány posudzovania zhody tretích krajín
Orgány posudzovania zhody zriadené podľa práva tretej krajiny, s ktorou Únia uzavrela dohodu, môžu byť oprávnené vykonávať činnosti notifikovaných osôb podľa tohto nariadenia za predpokladu, že spĺňajú požiadavky stanovené v článku 31 alebo zabezpečujú rovnocennú úroveň súladu.
ODDIEL 5
Normy, posudzovanie zhody, certifikáty, registrácia
Článok 40
Harmonizované normy a normalizačné produkty
Pri vydávaní žiadosti o normalizáciu určenej európskym normalizačným organizáciám Komisia špecifikuje, že normy musia byť jasné, konzistentné, a to aj s normami vypracovanými v rôznych odvetviach pre výrobky, na ktoré sa vzťahujú existujúce harmonizačné právne predpisy Únie uvedené v prílohe I, a s cieľom zabezpečiť, aby vysokorizikové systémy AI alebo modely AI na všeobecné účely uvedené na trh alebo do prevádzky v Únii spĺňali príslušné požiadavky alebo povinnosti stanovené v tomto nariadení.
Komisia požiada európske normalizačné organizácie, aby poskytli dôkazy o svojom najlepšom úsilí pri plnení cieľov uvedených v prvom a druhom pododseku tohto odseku v súlade s článkom 24 nariadenia (EÚ) č. 1025/2012.
Komisia v súlade s nariadením Európskeho parlamentu a Rady (EÚ) č. 1025/2012 ( 1 ) a bez zbytočného odkladu požiada európske normalizačné organizácie, aby vytvorili normalizačné produkty vrátane harmonizovaných noriem podľa vhodného prípadu s cieľom uľahčiť spoločný súlad a predpoklad zhody s požiadavkami alebo povinnosťami stanovenými v kapitole III oddieloch 2 a 3 tohto nariadenia a s príslušnými požiadavkami a povinnosťami stanovenými v harmonizačných právnych predpisoch Únie uvedených v prílohe I k tomuto nariadeniu.
Článok 41
Spoločné špecifikácie
Komisia môže prijať vykonávacie akty, v ktorých stanoví spoločné špecifikácie pre požiadavky stanovené v oddiele 2 tejto kapitoly alebo v relevantnom prípade pre povinnosti stanovené v oddieloch 2 a 3 kapitoly V, ak sú splnené tieto podmienky:
Komisia podľa článku 10 ods. 1 nariadenia (EÚ) č. 1025/2012 požiadala jednu alebo viacero európskych normalizačných organizácií, aby vypracovali harmonizovanú normu pre požiadavky stanovené v oddiele 2 tejto kapitoly alebo v relevantnom prípade pre povinnosti stanovené v oddieloch 2 a 3 kapitoly V, a:
žiadosť neprijala ani jedna z európskych normalizačných organizácií, alebo
harmonizované normy na riešenie tejto žiadosti neboli doručené v lehote stanovenej v súlade s článkom 10 ods. 1 nariadenia (EÚ) č. 1025/2012, alebo
príslušné harmonizované normy nedostatočne riešia obavy týkajúce sa základných práv, alebo
harmonizované normy nie sú v súlade so žiadosťou a
v Úradnom vestníku Európskej únie nie je v súlade s nariadením (EÚ) č. 1025/2012 uverejnený odkaz na harmonizované normy týkajúce sa požiadaviek stanovených v oddiele 2 tejto kapitoly alebo v relevantnom prípade povinností stanovených v oddieloch 2 a 3 kapitoly V a neočakáva sa, že v primeranej lehote bude takýto odkaz uverejnený.
Komisia pri vypracúvaní spoločných špecifikácií vedie konzultácie s poradným fórom uvedeným v článku 67.
Vykonávacie akty uvedené v prvom pododseku tohto odseku sa prijmú v súlade s postupom preskúmania uvedeným v článku 98 ods. 2.
Článok 42
Predpoklad zhody s určitými požiadavkami
Článok 43
Posudzovanie zhody
Ak poskytovateľ pri preukazovaní súladu vysokorizikového systému AI uvedeného v prílohe III bode 1 s požiadavkami stanovenými v oddiele 2 uplatnil harmonizované normy uvedené v článku 40, alebo v relevantnom prípade spoločné špecifikácie uvedené v článku 41, rozhodne sa pre jeden z týchto postupov posudzovania zhody založený na:
vnútornej kontrole uvedenej v prílohe VI, alebo
posudzovaní systému riadenia kvality a posudzovaní technickej dokumentácie so zapojením notifikovanej osoby podľa prílohy VII.
Pri preukazovaní súladu vysokorizikového systému AI s požiadavkami stanovenými v oddiele 2 poskytovateľ dodržiava postup posudzovania zhody stanovený v prílohe VII, ak:
harmonizované normy uvedené v článku 40 neexistujú a spoločné špecifikácie uvedené v článku 41 nie sú k dispozícii;
poskytovateľ harmonizovanú normu neuplatnil alebo ju uplatnil len čiastočne;
spoločné špecifikácie uvedené v písmene a) existujú, ale poskytovateľ ich neuplatnil;
jedna alebo viaceré harmonizované normy uvedené v písmene a) boli uverejnené s obmedzením a len pre tú časť normy, ktorá bola obmedzená.
Na účely postupu posudzovania zhody uvedeného v prílohe VII si poskytovateľ môže vybrať ktorúkoľvek z notifikovaných osôb. Ak však majú vysokorizikový systém AI uviesť do prevádzky orgány presadzovania práva, imigračné alebo azylové orgány, alebo inštitúcie, orgány, úrady alebo agentúry Únie, ako notifikovaná osoba koná orgán dohľadu nad trhom uvedený v článku 74 ods. 8 alebo 9.
Na účely uvedeného posudzovania zhody majú notifikované osoby, ktoré boli notifikované podľa harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I, právomoc posudzovať zhodu vysokorizikových systémov AI s požiadavkami stanovenými v oddiele 2 tejto kapitoly za predpokladu, že v rámci postupu notifikácie v súlade s príslušnými harmonizačnými právnymi predpismi Únie sa posúdil súlad týchto notifikovaných osôb s požiadavkami stanovenými v článku 31 ods. 4, 5, 10 a 11, čo sa preukáže posúdením v rámci existujúcej notifikácie. Bez toho, aby bol dotknutý článok 28, takéto notifikované osoby, ktoré boli notifikované podľa harmonizačných právnych predpisov Únie v oddiele A prílohy I, požiadajú o určenie v súlade s oddielom 4 tejto kapitoly do 28. januára 2028.
Ak sa harmonizačnými právnymi predpismi Únie uvedenými v oddiele A prílohy I poskytuje výrobcovi výrobku možnosť spoľahnúť sa na posudzovanie zhody, do ktorého nie je zapojená tretia strana, za predpokladu, že uplatnil harmonizované normy na zabezpečenie súladu so všetkými príslušnými požiadavkami, tento výrobca môže využiť túto možnosť len vtedy, ak uplatnil aj harmonizované normy alebo v relevantnom prípade spoločné špecifikácie uvedené v článku 41, ktoré sa vzťahujú na všetky požiadavky stanovené v oddiele 2 tejto kapitoly. Klasifikácia výrobku ako vysokorizikového systému AI v súlade s článkom 6 ods. 1 nemá vplyv na výber postupu posudzovania zhody, ktorý majú k dispozícii výrobcovia výrobkov, na ktoré sa vzťahujú harmonizačné právne predpisy Únie uvedené v oddiele A prílohy I, a to v príslušných prípadoch ani na možnosť spoľahnúť sa na harmonizované normy. Od výrobcov takýchto výrobkov sa nevyžaduje, aby si zvolili postup posudzovania zhody zahŕňajúci posudzovanie zhody treťou stranou, iba preto, že výrobok obsahuje vysokorizikový systém AI ako bezpečnostný komponent, ak sa to nevyžaduje podľa harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I.
Ak sa na vysokorizikový systém AI vzťahujú harmonizačné právne predpisy Únie uvedené v oddiele A prílohy I a tento systém zároveň patrí do jednej z kategórií uvedených v prílohe III, poskytovateľ tohto systému dodržiava príslušný postup posudzovania zhody, ako sa vyžaduje podľa príslušných harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I.
V prípade vysokorizikových systémov AI, ktoré sa po uvedení na trh alebo do prevádzky ďalej učia, nepredstavujú podstatnú zmenu tie zmeny vysokorizikového systému AI a jeho výkonnosti, ktoré poskytovateľ určil vopred v čase počiatočného posudzovania zhody a ktoré sú zahrnuté v informáciách obsiahnutých v technickej dokumentácii uvedenej v prílohe IV bode 2 písm. f).
Článok 44
Certifikáty
Proti rozhodnutiam notifikovaných osôb možno podať odvolanie, a to aj vo veci vydaných certifikátov zhody.
Článok 45
Informačné povinnosti notifikovaných osôb
Notifikované osoby informujú notifikujúci orgán:
o všetkých certifikátoch Únie o posúdení technickej dokumentácie, všetkých dodatkoch k týmto certifikátom a všetkých schváleniach systémov riadenia kvality vydaných v súlade s požiadavkami prílohy VII;
o všetkých zamietnutiach, obmedzeniach platnosti, pozastaveniach platnosti alebo stiahnutiach certifikátov Únie o posúdení technickej dokumentácie alebo schválení systémov riadenia kvality vydaných v súlade s požiadavkami prílohy VII;
o všetkých okolnostiach, ktoré majú vplyv na rozsah alebo podmienky notifikácie;
o každej žiadosti o informácie, ktorú dostali od orgánov dohľadu nad trhom v súvislosti s činnosťami posudzovania zhody;
na požiadanie o činnostiach posudzovania zhody vykonaných v rozsahu ich notifikácie a o akejkoľvek inej vykonanej činnosti vrátane cezhraničných činností a zadávania činností subdodávateľom.
Každá notifikovaná osoba informuje ostatné notifikované osoby o:
schváleniach systémov riadenia kvality, ktoré zamietla, ktorých platnosť pozastavila alebo ktoré stiahla, a na požiadanie o schváleniach systémov riadenia kvality, ktoré vydala;
certifikátoch Únie o posúdení technickej dokumentácie alebo akýchkoľvek ich dodatkoch, ktoré zamietla, stiahla, ktorých platnosť pozastavila alebo inak obmedzila, a na požiadanie o certifikátoch a/alebo ich dodatkoch, ktoré vydala.
Článok 46
Výnimka z postupu posudzovania zhody
Článok 47
EÚ vyhlásenie o zhode
Článok 48
Označenie CE
Článok 49
Registrácia
V prípade vysokorizikových systémov AI uvedených v prílohe III bodoch 1, 6 a 7 v oblastiach presadzovania práva, migrácie, azylu a riadenia kontroly hraníc sa registrácia uvedená v odsekoch 1, 2 a 3 tohto článku vykoná v zabezpečenej neverejnej časti databázy Únie uvedenej v článku 71 a podľa potreby zahŕňa len informácie uvedené v:
prílohe VIII oddiele A bodoch 1 až 10 s výnimkou bodov 6, 8 a 9;
prílohe VIII oddiele B bodoch 1 až 5 a 8 a 9;
prílohe VIII oddiele C bodoch 1 až 3;
prílohe IX bodoch 1, 2, 3 a 5.
K príslušným obmedzeným častiam databázy Únie uvedeným v prvom pododseku toho odseku má prístup len Komisia a vnútroštátne orgány uvedené v článku 74 ods. 8.
KAPITOLA IV
POVINNOSTI V OBLASTI TRANSPARENTNOSTI PRE POSKYTOVATEĽOV A NASADZUJÚCE SUBJEKTY URČITÝCH SYSTÉMOV AI
Článok 50
Povinnosti v oblasti transparentnosti pre poskytovateľov a nasadzujúce subjekty určitých systémov AI
Subjekty nasadzujúce systém AI, ktorý generuje alebo manipuluje text uverejnený s cieľom informovať verejnosť o záležitostiach verejného záujmu, zverejnia, že text bol umelo vygenerovaný alebo manipulovaný. Táto povinnosť sa neuplatňuje, ak je použitie povolené zákonom na odhaľovanie, prevenciu, vyšetrovanie alebo stíhanie trestných činov alebo ak obsah vygenerovaný AI prešiel procesom ľudskej alebo redakčnej kontroly a ak za uverejnenie obsahu nesie redakčnú zodpovednosť fyzická alebo právnická osoba.
KAPITOLA V
MODELY AI NA VŠEOBECNÉ ÚČELY
ODDIEL 1
Pravidlá klasifikácie
Článok 51
Klasifikácia modelov AI na všeobecné účely ako modelov AI na všeobecné účely so systémovým rizikom
Model AI na všeobecné účely sa klasifikuje ako model AI na všeobecné účely so systémovým rizikom, ak spĺňa ktorúkoľvek z týchto podmienok:
má spôsobilosti s veľkým dopadom vyhodnotené na základe vhodných technických nástrojov a metodík vrátane ukazovateľov a referenčných hodnôt;
na základe rozhodnutia Komisie, z úradnej moci alebo na základe kvalifikovaného upozornenia vedeckého panelu má so zreteľom na kritériá stanovené v prílohe XIII spôsobilosti alebo dopad rovnocenný s tými, ktoré sú stanovené v písmene a).
Článok 52
Postup
Komisia je splnomocnená prijímať delegované akty v súlade s článkom 97 s cieľom zmeniť prílohu XIII spresnením a aktualizovaním kritérií stanovených v uvedenej prílohe.
ODDIEL 2
Povinnosti poskytovateľov modelov AI na všeobecné účely
Článok 53
Povinnosti poskytovateľov modelov AI na všeobecné účely
Poskytovatelia modelov AI na všeobecné účely:
vypracúvajú a aktualizujú technickú dokumentáciu modelu vrátane procesu jeho trénovania a testovania a výsledkov jeho hodnotenia, ktorá obsahuje aspoň informácie stanovené v prílohe XI, aby ju mohli na požiadanie poskytnúť úradu pre AI a vnútroštátnym príslušným orgánom;
vypracúvajú, aktualizujú a sprístupňujú informácie a dokumentáciu poskytovateľom systémov AI, ktorí majú v úmysle integrovať model AI na všeobecné účely do svojich systémov AI. Bez toho, aby bola dotknutá potreba dodržiavať a chrániť práva duševného vlastníctva a dôverné obchodné informácie alebo obchodné tajomstvá v súlade s právom Únie a vnútroštátnym právom, informácie a dokumentácia:
umožnia poskytovateľom systémov AI dobre pochopiť spôsobilosti a obmedzenia modelu AI na všeobecné účely a plniť si povinnosti podľa tohto nariadenia, a
obsahujú aspoň prvky stanovené v prílohe XII;
zavedú politiku dodržiavania práva Únie v oblasti autorského práva a s ním súvisiacich práv, najmä s cieľom identifikovať a dodržiavať výslovné vyhradenie práv podľa článku 4 ods. 3 smernice (EÚ) 2019/790, a to aj prostredníctvom najmodernejších technológií;
vypracujú a zverejnia dostatočne podrobné zhrnutie obsahu použitého na trénovanie modelu AI na všeobecné účely podľa vzoru, ktorý poskytne úrad pre AI.
Článok 54
Splnomocnení zástupcovia poskytovateľov modelov AI na všeobecné účely
Splnomocnený zástupca vykonáva úlohy uvedené v splnomocnení, ktoré mu udelil poskytovateľ. Na požiadanie poskytne kópiu splnomocnenia úradu pre AI v jednom z úradných jazykov inštitúcií Únie. Na účely tohto nariadenia sa splnomocnený zástupca splnomocnením poveruje vykonávaním týchto úloh:
overenie, či poskytovateľ vypracoval technickú dokumentáciu uvedenú v prílohe XI a či splnil všetky povinnosti uvedené v článku 53 a v relevantnom prípade v článku 55;
uchovávanie kópie technickej dokumentácie uvedenej v prílohe XI, aby bola k dispozícii úradu pre AI a vnútroštátnym príslušným orgánom počas obdobia 10 rokov po uvedení modelu AI na všeobecné účely na trh, ako aj kontaktných údajov poskytovateľa, ktorý vymenoval splnomocneného zástupcu;
poskytuje úradu pre AI na jeho odôvodnenú žiadosť všetky informácie a dokumentáciu vrátane tých, ktoré sú uvedené v písmene b), ktoré sú potrebné na preukázanie súladu s povinnosťami v tejto kapitole;
spolupracuje s úradom pre AI a príslušnými orgánmi na základe odôvodnenej žiadosti pri akomkoľvek opatrení, ktoré prijmú v súvislosti s modelom AI na všeobecné účely, a to aj vtedy, keď je model integrovaný do systémov AI uvádzaných na trh alebo do prevádzky v Únii.
ODDIEL 3
Povinnosti poskytovateľov modelov AI na všeobecné účely so systémovým rizikom
Článok 55
Povinnosti poskytovateľov modelov AI na všeobecné účely so systémovým rizikom
Okrem povinností uvedených v článkoch 53 a 54 poskytovatelia modelov AI na všeobecné účely so systémovým rizikom:
vykonávajú hodnotenie modelu v súlade s normalizovanými protokolmi a nástrojmi odrážajúcimi aktuálny stav vývoja vrátane vykonávania a zdokumentovania testovania modelu na nepriateľské útoky s cieľom identifikovať a zmierniť systémové riziká;
posudzujú a zmierňujú prípadné systémové riziká na úrovni Únie vrátane ich zdrojov, ktoré môžu vyplývať z vývoja, uvádzania na trh alebo používania modelov AI na všeobecné účely so systémovým rizikom;
sledujú relevantné informácie o závažných incidentoch a možných nápravných opatrenia na ich riešenie, dokumentujú ich a bez zbytočného odkladu ich oznamujú úradu pre AI a v prípade potreby vnútroštátnym príslušným orgánom;
zabezpečujú primeranú úroveň kybernetickobezpečnostnej ochrany pre model AI na všeobecné účely so systémovým rizikom a fyzickú infraštruktúru modelu.
ODDIEL 4
Kódexy postupov
Článok 56
Kódexy postupov
Úrad pre AI a rada pre AI sa zameriavajú na zabezpečenie toho, aby kódexy postupov zahŕňali aspoň povinnosti stanovené v článkoch 53 a 55 vrátane týchto záležitostí:
prostriedky na zabezpečenie toho, aby sa informácie uvedené v článku 53 ods. 1 písm. a) a b) aktualizovali vzhľadom na vývoj na trhu a technologický vývoj;
primeraná úroveň podrobnosti zhrnutia obsahu použitého na trénovanie;
identifikácia druhu a povahy systémových rizík na úrovni Únie vrátane ich prípadných zdrojov;
opatrenia, postupy a spôsoby posudzovania a riadenia systémových rizík na úrovni Únie vrátane ich dokumentácie, ktoré musia byť primerané rizikám, zohľadňovať ich závažnosť a pravdepodobnosť a prihliadať na osobitné výzvy spojené s riešením týchto rizík vzhľadom na možné spôsoby, akými sa takéto riziká môžu objaviť a prejaviť v celom hodnotovom reťazci AI.
Ak sa kódex postupov nepodarí dokončiť do 2. augusta 2025 alebo ak ho úrad pre AI po tom, ako ho posúdi podľa odseku 6 tohto článku, považuje za neprimeraný, Komisia môže prostredníctvom vykonávacích aktov stanoviť spoločné pravidlá vykonávania povinností stanovených v článkoch 53 a 55 vrátane záležitostí stanovených v odseku 2 tohto článku. Uvedené vykonávacie akty sa prijmú v súlade s postupom preskúmania uvedeným v článku 98 ods. 2.
KAPITOLA VI
OPATRENIA NA PODPORU INOVÁCIÍ
Článok 57
Regulačné experimentálne prostredia pre AI
Povinnosť stanovenú v prvom pododseku možno splniť aj účasťou v existujúcom experimentálnom prostredí, pokiaľ táto účasť poskytuje zúčastneným členským štátom rovnocennú úroveň vnútroštátneho pokrytia.
Zriadením regulačného experimentálneho prostredia pre AI na úrovni Únie úradom pre AI nie sú dotknuté právomoci členských štátov zriaďovať pre systémy AI, ktoré sú pod ich dohľadom, regulačné experimentálne prostredia pre AI a dohliadať na ne.
Na žiadosť poskytovateľa alebo potenciálneho poskytovateľa systému AI poskytne príslušný orgán písomný dôkaz o činnostiach, ktoré boli v experimentálnom prostredí úspešne vykonané. Príslušný orgán poskytne aj výstupnú správu, v ktorej podrobne opíše činnosti vykonané v experimentálnom prostredí a súvisiace výsledky a vzdelávacie výstupy. Poskytovatelia môžu použiť takúto dokumentáciu na preukázanie ich súladu s týmto nariadením prostredníctvom postupu posudzovania zhody alebo príslušných činností dohľadu nad trhom. Orgány dohľadu nad trhom a notifikované osoby v tejto súvislosti pozitívne zohľadnia výstupné správy a písomný dôkaz, ktoré poskytol vnútroštátny príslušný orgán, aby sa v primeranom rozsahu urýchlili postupy posudzovania zhody.
Zriaďovaním regulačných experimentálnych prostredí pre AI sa má prispieť k dosiahnutiu týchto cieľov:
zlepšiť právnu istotu s cieľom dosiahnuť regulačný súlad s týmto nariadením alebo v relevantnom prípade s inými uplatniteľnými právnymi predpismi Únie a vnútroštátnymi právnymi predpismi;
podporovať výmenu najlepších postupov prostredníctvom spolupráce s orgánmi, ktoré sa podieľajú na regulačných experimentálnych prostrediach pre AI;
podporovať inovácie a konkurencieschopnosť a uľahčovať vývoj ekosystému AI;
prispievať k regulačnému učeniu založenému na dôkazoch;
uľahčiť a urýchliť prístup systémov AI na trh Únie, najmä ak ich poskytujú MSP vrátane startupov a malé podniky so strednou trhovou kapitalizáciou.
Článok 58
Podrobné dojednania pre regulačné experimentálne prostredia pre AI a ich fungovanie
S cieľom zabrániť fragmentácii v rámci Únie Komisia prijme vykonávacie akty, v ktorých uvedie podrobné ustanovenia týkajúce sa zriadenia regulačných experimentálnych prostredí pre AI, ich vývoja, implementácie, prevádzky, riadenia a dohľadu nad nimi. Tieto vykonávacie akty zahŕňajú spoločné zásady v týchto otázkach:
oprávnenosť a výberové kritériá na účasť v regulačnom experimentálnom prostredí pre AI;
postupy na podávanie žiadostí, účasť, monitorovanie, odchod z regulačného experimentálneho prostredia pre AI a jeho ukončenie vrátane plánu experimentálneho prostredia a výstupnej správy;
podmienky vzťahujúce sa na účastníkov;
podrobné pravidlá uplatniteľné na riadenie regulačných experimentálnych prostredí pre AI, na ktoré sa vzťahuje článok 57, v relevantných prípadoch aj pokiaľ ide o zapojenie a dohľad príslušných orgánov na ochranu údajov, a koordinácia a spolupráca na vnútroštátnej úrovni i na úrovni EÚ.
Uvedené vykonávacie akty sa prijmú v súlade s postupom preskúmania uvedeným v článku 98 ods. 2.
Vykonávacími aktmi uvedenými v odseku 1 sa zabezpečí, aby:
regulačné experimentálne prostredia pre AI boli otvorené pre každého žiadajúceho poskytovateľa alebo potenciálneho poskytovateľa systému AI, ktorý spĺňa kritériá oprávnenosti a výberové kritériá, ktoré musia byť transparentné a spravodlivé, a aby vnútroštátne príslušné orgány informovali žiadateľov o svojom rozhodnutí do troch mesiacov od podania žiadosti;
regulačné experimentálne prostredia pre AI umožňovali široký a spravodlivý prístup za rovnakých podmienok a udržiavali krok s dopytom po účasti; poskytovatelia a potenciálni poskytovatelia môžu predkladať žiadosti aj v partnerstve s nasadzujúcimi subjektmi a inými relevantnými tretími stranami;
podrobné dojednania a podmienky týkajúce sa regulačných experimentálnych prostredí pre AI v najväčšej možnej miere podporovali flexibilitu vnútroštátnych príslušných orgánov pri zriaďovaní a prevádzkovaní ich regulačných experimentálnych prostredí pre AI;
bol prístup MSP vrátane startupov do regulačných experimentálnych prostredí pre AI bezplatný bez toho, aby bola dotknutá možnosť vnútroštátnych príslušných orgánov spravodlivo a primerane vymáhať mimoriadne náklady;
poskytovateľom a potenciálnym poskytovateľom prostredníctvom vzdelávacích výstupov regulačných experimentálnych prostredí pre AI uľahčovali plnenie povinností posudzovania zhody podľa tohto nariadenia a dobrovoľné uplatňovanie kódexov správania uvedených v článku 95;
regulačné experimentálne prostredia pre AI uľahčovali zapojenie ďalších relevantných aktérov do ekosystému AI, ako sú notifikované osoby a normalizačné organizácie, MSP vrátane startupov, podniky, inovátori, testovacie a experimentálne zariadenia, výskumné a experimentálne laboratóriá, európske centrá digitálnych inovácií, centrá excelentnosti a výskumní pracovníci, s cieľom umožniť a uľahčiť spoluprácu s verejným a súkromným sektorom;
postupy, procesy a administratívne požiadavky na podávanie žiadostí, výber, účasť a odchod z regulačného experimentálneho prostredia pre AI boli jednoduché, ľahko zrozumiteľné a jasne komunikované s cieľom uľahčiť účasť MSP vrátane startupov s obmedzenými právnymi a administratívnymi kapacitami, a aby boli zosúladené v celej Únii s cieľom zabrániť fragmentácii a aby sa účasť v regulačnom experimentálnom prostredí pre AI zriadenom členským štátom alebo európskym dozorným úradníkom pre ochranu údajov vzájomne a jednotne uznávala a mala rovnaké právne účinky v celej Únii;
účasť v regulačnom experimentálnom prostredí pre AI bola obmedzená na obdobie, ktoré je primerané zložitosti a rozsahu projektu a ktoré môže vnútroštátny príslušný orgán predĺžiť;
regulačné experimentálne prostredia pre AI uľahčovali vývoj nástrojov a infraštruktúry na testovanie, referenčné porovnávanie, posudzovanie a vysvetľovanie rozmerov systémov AI, ktoré sú relevantné pre regulačné vzdelávanie, ako sú presnosť, odolnosť a kybernetická bezpečnosť, ako aj nástrojov na zmierňovanie rizík pre základné práva a spoločnosť ako celok.
Článok 59
Ďalšie spracúvanie osobných údajov na účely vývoja určitých systémov AI vo verejnom záujme v regulačných experimentálnych prostrediach pre AI
V regulačnom experimentálnom prostredí pre AI sa môžu osobné údaje zákonne zozbierané na iné účely spracúvať výlučne na účely vývoja, trénovania a testovania určitých systémov AI v experimentálnom prostredí, ak sú splnené všetky tieto podmienky:
systémy AI sa vyvíjajú na ochranu významného verejného záujmu orgánom verejnej moci alebo inou fyzickou alebo právnickou osobou v jednej alebo viacerých z týchto oblastí:
verejná bezpečnosť a verejné zdravie vrátane odhaľovania, diagnostiky, prevencie, kontroly a liečby chorôb a zlepšovania systémov zdravotnej starostlivosti;
vysoká úroveň ochrany životného prostredia a zlepšovanie jeho kvality, ochrana biodiverzity, ochrana pred znečistením, opatrenia zelenej transformácie, opatrenia na zmierňovanie zmeny klímy a adaptáciu na ňu;
energetická udržateľnosť;
bezpečnosť a odolnosť dopravných systémov a mobility, kritickej infraštruktúry a sietí;
efektívnosť a kvalita verejnej správy a verejných služieb;
spracúvané údaje sú potrebné na splnenie jednej alebo viacerých požiadaviek uvedených v kapitole III oddiele 2, ak tieto požiadavky nie je možné účinne splniť spracúvaním anonymizovaných, syntetických alebo iných ako osobných údajov;
existujú účinné mechanizmy monitorovania umožňujúce zistiť, či počas experimentovania v experimentálnych prostrediach môžu vznikať vysoké riziká pre práva a slobody dotknutých osôb, ako sa uvádzajú v článku 35 nariadenia (EÚ) 2016/679 a v článku 39 nariadenia (EÚ) 2018/1725, ako aj mechanizmy reakcie na rýchle zmiernenie týchto rizík a v prípade potreby na zastavenie spracúvania;
všetky osobné údaje, ktoré sa majú spracúvať v kontexte experimentálneho prostredia, sú vo funkčne oddelenom, izolovanom a chránenom prostredí spracúvania údajov pod kontrolou potenciálneho poskytovateľa a prístup k uvedeným údajom majú len oprávnené osoby;
poskytovatelia môžu pôvodne zozbierané údaje ďalej zdieľať len v súlade s právnymi predpismi Únie v oblasti ochrany údajov; žiadne osobné údaje vytvorené v experimentálnom prostredí nemožno zdieľať mimo neho;
spracúvanie osobných údajov v kontexte experimentálneho prostredia nevedie k opatreniam alebo rozhodnutiam, ktoré majú vplyv na dotknuté osoby, ani nemá vplyv na uplatňovanie ich práv stanovených v právnych predpisoch Únie v oblasti ochrany osobných údajov;
všetky osobné údaje spracúvané v kontexte experimentálneho prostredia sa chránia prostredníctvom vhodných technických a organizačných opatrení a po ukončení účasti v experimentálnom prostredí alebo po skončení obdobia uchovávania osobných údajov sa vymažú;
logy o spracúvaní osobných údajov v kontexte experimentálneho prostredia sa uchovávajú počas trvania účasti v experimentálnom prostredí, pokiaľ sa v práve Únie alebo vo vnútroštátnom práve nestanovuje inak;
ako súčasť technickej dokumentácie podľa prílohy IV sa spolu s výsledkami testovania uchováva úplný a podrobný opis procesu a dôvodov trénovania, testovania a validácie systému AI;
na webovom sídle príslušných orgánov sa zverejní krátke zhrnutie projektu AI vyvinutého v experimentálnom prostredí, jeho cieľov a očakávaných výsledkov; táto povinnosť sa nevzťahuje na citlivé operačné údaje týkajúce sa činností orgánov presadzovania práva, orgánov kontroly hraníc a imigračných alebo azylových orgánov.
Článok 60
Testovanie vysokorizikových systémov AI v reálnych podmienkach mimo regulačných experimentálnych prostredí pre AI
Komisia prostredníctvom vykonávacích aktov stanoví podrobné prvky plánu testovania v reálnych podmienkach. Uvedené vykonávacie akty sa prijmú v súlade s postupom preskúmania uvedeným v článku 98 ods. 2.
Týmto odsekom nie je dotknuté právo Únie ani vnútroštátne právo týkajúce sa testovania v reálnych podmienkach, pokiaľ ide o vysokorizikové systémy AI súvisiace s výrobkami, na ktoré sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe I.
Poskytovatelia alebo potenciálni poskytovatelia môžu vykonávať testovanie v reálnych podmienkach, len ak sú splnené všetky tieto podmienky:
poskytovateľ alebo potenciálny poskytovateľ vypracoval plán testovania v reálnych podmienkach a predložil ho orgánu dohľadu nad trhom v členskom štáte, v ktorom sa má testovanie v reálnych podmienkach vykonať;
orgán dohľadu nad trhom v členskom štáte, v ktorom sa má testovanie v reálnych podmienkach vykonať, schválil testovanie v reálnych podmienkach a plán testovania v reálnych podmienkach; ak orgán dohľadu nad trhom neposkytol odpoveď do 30 dní, testovanie v reálnych podmienkach a plán testovania v reálnych podmienkach sa považujú za schválené; ak sa vo vnútroštátnom práve nestanovuje konkludentný súhlas, testovanie v reálnych podmienkach podlieha povoleniu;
poskytovateľ alebo potenciálny poskytovateľ s výnimkou poskytovateľov alebo potenciálnych poskytovateľov vysokorizikových systémov AI uvedených v prílohe III bodoch 1, 6 a 7 v oblastiach presadzovania práva, migrácie, azylu a riadenia kontroly hraníc a vysokorizikových systémov AI uvedených v prílohe III bode 2 zaregistroval testovanie v reálnych podmienkach v súlade s článkom 71 ods. 4 s jedinečným jednotným identifikačným číslom pre celú Úniu a s informáciami uvedenými v prílohe IX; poskytovateľ alebo potenciálny poskytovateľ vysokorizikových systémov AI uvedených v prílohe III bodoch 1, 6 a 7 v oblastiach presadzovania práva, migrácie, azylu a riadenia kontroly hraníc zaregistroval testovanie v reálnych podmienkach v neverejnej časti databázy Únie podľa článku 49 ods. 4 písm. d) s jedinečným jednotným identifikačným číslom pre celú Úniu a s informáciami v ňom uvedenými; poskytovateľ alebo potenciálny poskytovateľ vysokorizikových systémov AI uvedených v prílohe III bode 2 zaregistroval testovanie v reálnych podmienkach v súlade s článkom 49 ods. 5;
poskytovateľ alebo potenciálny poskytovateľ vykonávajúci testovanie v reálnych podmienkach je usadený v Únii alebo vymenoval právneho zástupcu, ktorý je usadený v Únii;
údaje zozbierané a spracúvané na účely testovania v reálnych podmienkach sa prenášajú do tretích krajín len za predpokladu, že sa implementujú primerané a uplatniteľné záruky podľa práva Únie;
testovanie v reálnych podmienkach netrvá dlhšie, ako je potrebné na dosiahnutie jeho cieľov, a v žiadnom prípade nie dlhšie ako šesť mesiacov, ktoré možno predĺžiť o ďalších šesť mesiacov, ak o tom poskytovateľ alebo potenciálny poskytovateľ vopred informoval orgán dohľadu nad trhom spolu s vysvetlením potreby takéhoto predĺženia;
účastníci testovania v reálnych podmienkach, ktorí sú osobami patriacimi do zraniteľných skupín z dôvodu ich veku alebo zdravotného postihnutia, sú primerane chránení;
ak poskytovateľ alebo potenciálny poskytovateľ organizuje testovanie v reálnych podmienkach v spolupráci s jedným alebo viacerými nasadzujúcimi subjektmi alebo potenciálnymi nasadzujúcimi subjektmi, poskytnú sa takýmto subjektom informácie o všetkých aspektoch testovania, ktoré sú relevantné pre ich rozhodnutie zúčastniť sa, ako aj príslušný návod na použitie systému AI uvedený v článku 13; poskytovateľ alebo potenciálny poskytovateľ a nasadzujúci subjekt alebo potenciálny nasadzujúci subjekt uzavrú dohodu, v ktorej sa stanovia ich úlohy a povinnosti s cieľom zabezpečiť súlad s ustanoveniami o testovaní v reálnych podmienkach podľa tohto nariadenia a iného uplatniteľného práva Únie a vnútroštátneho práva;
účastníci testovania v reálnych podmienkach poskytli informovaný súhlas v súlade s článkom 61 alebo, v prípade presadzovania práva, ak by získanie informovaného súhlasu bránilo testovaniu systému AI, samotné testovanie a výsledok testovania v reálnych podmienkach nesmú mať žiaden negatívny vplyv na účastníkov a osobné údaje účastníkov sa po vykonaní testovania vymažú;
na testovanie v reálnych podmienkach účinne dohliada poskytovateľ alebo potenciálny poskytovateľ a nasadzujúce subjekty alebo potenciálne nasadzujúce subjekty prostredníctvom osôb, ktoré sú primerane kvalifikované v príslušnej oblasti a majú potrebnú kapacitu, odbornú prípravu a právomoc na vykonávanie svojich úloh;
predpovede, odporúčania alebo rozhodnutia systému AI možno účinne zvrátiť a nezohľadniť.
Článok 60a.
Testovanie vysokorizikových systémov AI, na ktoré sa vzťahujú harmonizačné právne predpisy Únie uvedené v oddiele B prílohy I, v reálnych podmienkach mimo regulačných experimentálnych prostredí pre AI
V rámcoch testovania v reálnych podmienkach sa stanovia požiadavky, na základe ktorých sa testovanie v reálnych podmienkach vykonáva. Tieto rámce:
zahŕňajú poskytnutie povinného plánu testovania v reálnych podmienkach, na ktorom sa poskytovateľ alebo potenciálny poskytovateľ dohodne s vnútroštátnym príslušným orgánom alebo relevantným orgánom v súlade s harmonizačnými právnymi predpismi Únie uvedenými v oddiele B prílohy I;
zabezpečujú súlad s požiadavkami stanovenými v článku 60 ods. 2, 3, 4 písm. d) až j) a ods. 5 až 9, pričom každý odkaz na orgány dohľadu nad trhom v uvedených ustanoveniach sa považuje za odkaz na vnútroštátny príslušný orgán alebo na relevantný orgán, podľa vhodného prípadu, v súlade s harmonizačnými právnymi predpismi Únie uvedenými v oddiele B prílohy I;
zahŕňajú účinné mechanizmy riadenia a zodpovednosti;
zabezpečujú vysokú úroveň ochrany zdravia, bezpečnosti a základných práv.
Článok 61
Informovaný súhlas s účasťou na testovaní v reálnych podmienkach mimo regulačných experimentálnych prostredí pre AI
Na účely testovania v reálnych podmienkach podľa článku 60 účastníci testovania slobodne udelia informovaný súhlas pred svojou účasťou na takomto testovaní a po tom, ako im boli riadne poskytnuté stručné, jasné, relevantné a zrozumiteľné informácie, ktoré sa týkajú:
povahy a cieľov testovania v reálnych podmienkach a možných nepríjemností, ktoré môžu byť spojené s ich účasťou;
podmienok, za ktorých sa má vykonávať testovanie v reálnych podmienkach, vrátane očakávaného trvania zapojenia účastníka alebo účastníkov;
práv a záruk pre účastníkov v súvislosti s ich účasťou, najmä ich práva odmietnuť účasť a práva kedykoľvek sa stiahnuť z testovania v reálnych podmienkach bez akejkoľvek následnej ujmy a bez nutnosti poskytnúť akékoľvek odôvodnenie;
možností ako žiadať o zvrátenie alebo nezohľadnenie predpovedí, odporúčaní alebo rozhodnutí systému AI;
jedinečného jednotného identifikačného čísla testovania v reálnych podmienkach pre celú Úniu v súlade s článkom 60 ods. 4 písm. c) a kontaktných údajov poskytovateľa alebo jeho právneho zástupcu, od ktorého možno získať ďalšie informácie.
Článok 62
Opatrenia pre poskytovateľov a nasadzujúce subjekty, najmä MSP vrátane startupov
Členské štáty prijmú tieto opatrenia:
poskytnú MSP vrátane startupov so sídlom alebo pobočkou v Únii prednostný prístup do regulačných experimentálnych prostredí pre AI za predpokladu, že spĺňajú podmienky oprávnenosti a výberové kritériá; prednostný prístup nebráni iným MSP vrátane startupov, ktoré nie sú uvedené v tomto odseku, v prístupe do regulačného experimentálneho prostredia pre AI za predpokladu, že tiež spĺňajú podmienky oprávnenosti a výberové kritériá;
organizujú osobitné činnosti na zvyšovanie informovanosti a činnosti odbornej prípravy o uplatňovaní tohto nariadenia prispôsobené potrebám MSP vrátane startupov, nasadzujúcich subjektov a v relevantnom prípade miestnych orgánov verejnej správy;
využívajú existujúce osobitné kanály a v prípade potreby zriadia nové na komunikáciu s MSP vrátane startupov, nasadzujúcimi subjektmi, inými inovátormi a v relevantnom prípade s miestnymi orgánmi verejnej správy s cieľom poskytovať poradenstvo a odpovedať na otázky týkajúce sa vykonávania tohto nariadenia, a to aj pokiaľ ide o účasť v regulačných experimentálnych prostrediach pre AI;
uľahčujú účasť MSP a iných relevantných zainteresovaných strán na procese tvorby noriem.
Úrad pre AI prijme tieto opatrenia:
poskytuje štandardizované vzory pre oblasti, na ktoré sa vzťahuje toto nariadenie, ako uvádza rada pre AI vo svojej žiadosti;
vytvorí a udržiava jednotnú informačnú platformu poskytujúcu ľahko použiteľné informácie v súvislosti s týmto nariadením pre všetkých prevádzkovateľov v celej Únii;
organizuje vhodné komunikačné kampane na zvýšenie povedomia o povinnostiach vyplývajúcich z tohto nariadenia;
hodnotí a podporuje zbližovanie najlepších postupov, pokiaľ ide o postupy verejného obstarávania v súvislosti so systémami AI.
Článok 63
Výnimky pre špecifických prevádzkovateľov
KAPITOLA VII
SPRÁVA A RIADENIE
ODDIEL 1
Správa a riadenie na úrovni Únie
Článok 64
Úrad pre AI
Článok 65
Zriadenie a štruktúra Európskej rady pre umelú inteligenciu
Členské štáty zabezpečia, aby ich zástupcovia v rade pre AI:
mali vo svojom členskom štáte príslušné kompetencie a právomoci na to, aby aktívne prispievali k plneniu úloh rady pre AI uvedených v článku 66;
boli určení ako jednotné kontaktné miesto vo vzťahu k rade pre AI a v prípade potreby s prihliadnutím na potreby členských štátov ako jednotné kontaktné miesto pre zainteresované strany;
boli splnomocnení uľahčovať konzistentnosť a koordináciu medzi vnútroštátnymi príslušnými orgánmi vo svojom členskom štáte, pokiaľ ide o vykonávanie tohto nariadenia, a to aj prostredníctvom zberu relevantných údajov a informácií na účely plnenia svojich úloh v rade pre AI.
Stála podskupina pre dohľad nad trhom by mala konať ako skupina pre administratívnu spoluprácu (ADCO) pre toto nariadenie v zmysle článku 30 nariadenia (EÚ) 2019/1020.
Na účely preskúmania konkrétnych otázok môže rada pre AI podľa potreby zriaďovať ďalšie stále alebo dočasné podskupiny. V prípade potreby môžu byť do takýchto podskupín alebo na osobitné zasadnutia týchto podskupín prizvaní ako pozorovatelia predstavitelia poradného fóra uvedeného v článku 67.
Článok 66
Úlohy rady pre AI
Rada pre AI poskytuje poradenstvo a pomoc Komisii a členským štátom s cieľom uľahčiť konzistentné a účinné uplatňovanie tohto nariadenia. Na tento účel môže rada pre AI najmä:
prispievať ku koordinácii medzi vnútroštátnymi príslušnými orgánmi zodpovednými za uplatňovanie tohto nariadenia a v spolupráci a so súhlasom dotknutých orgánov dohľadu nad trhom podporovať spoločné činnosti orgánov dohľadu nad trhom uvedené v článku 74 ods. 11;
zhromažďovať technické a regulačné znalosti a najlepšie postupy a poskytovať ich členským štátom;
poskytovať poradenstvo pri vykonávaní tohto nariadenia, najmä pokiaľ ide o presadzovanie pravidiel týkajúcich sa modelov AI na všeobecné účely;
prispievať k harmonizácii administratívnych postupov v členských štátoch, a to aj pokiaľ ide o výnimku z postupov posudzovania zhody uvedenú v článku 46, fungovanie regulačných experimentálnych prostredí pre AI a testovanie v reálnych podmienkach uvedené v článkoch 57, 59 a 60;
na žiadosť Komisie alebo z vlastnej iniciatívy vydávať odporúčania a písomné stanoviská ku všetkým relevantným záležitostiam týkajúcim sa vykonávania tohto nariadenia a jeho konzistentného a účinného uplatňovania, a to aj:
k vypracúvaniu a uplatňovaniu kódexov správania a kódexu postupov podľa tohto nariadenia, ako aj usmernení Komisie;
k hodnoteniu a preskúmavaniu tohto nariadenia podľa článku 112, a to aj pokiaľ ide o správy o závažných incidentoch uvedené v článku 73 a fungovanie databázy Únie uvedenej v článku 71, prípravu delegovaných alebo vykonávacích aktov a možné zosúladenia tohto nariadenia s harmonizačnými právnymi predpismi Únie uvedenými v prílohe I;
k technickým špecifikáciám alebo existujúcim normám v súvislosti s požiadavkami stanovenými v kapitole III oddiele 2;
k používaniu harmonizovaných noriem alebo spoločných špecifikácií uvedených v článkoch 40 a 41;
k trendom, ako sú európska globálna konkurencieschopnosť v oblasti AI, zavádzanie AI v Únii a rozvoj digitálnych zručností;
k trendom týkajúcim sa vyvíjajúcej sa typológie hodnotových reťazcov AI, najmä pokiaľ ide o konečné dôsledky z hľadiska zodpovednosti;
k prípadnej potrebe zmeniť prílohu III v súlade s článkom 7 a k prípadnej potrebe možnej revízie článku 5 podľa článku 112, pričom zohľadňuje relevantné dostupné dôkazy a najnovší technologický vývoj;
podporovať Komisiu pri presadzovaní gramotnosti v oblasti AI, informovanosti verejnosti a chápaní prínosov, rizík, záruk, práv a povinností v súvislosti s používaním systémov AI;
uľahčovať vypracovanie spoločných kritérií a spoločné chápanie relevantných koncepcií stanovených v tomto nariadení organizátormi trhu a príslušnými orgánmi, a to aj príspevkami k zavedeniu referenčných hodnôt;
podľa potreby spolupracovať s ostatnými inštitúciami, orgánmi, úradmi a agentúrami Únie, ako aj s relevantnými expertnými skupinami a sieťami Únie, najmä v oblasti bezpečnosti výrobkov, kybernetickej bezpečnosti, hospodárskej súťaže, digitálnych a mediálnych služieb, finančných služieb, ochrany spotrebiteľa, ochrany údajov a ochrany základných práv;
prispievať k účinnej spolupráci s príslušnými orgánmi tretích krajín a s medzinárodnými organizáciami;
pomáhať vnútroštátnym príslušným orgánom a Komisii pri rozvoji organizačných a technických odborných znalostí potrebných na vykonávanie tohto nariadenia, a to aj prispievaním k posudzovaniu potrieb odbornej prípravy zamestnancov členských štátov zapojených do vykonávania tohto nariadenia;
pomáhať úradu pre AI pri podpore vnútroštátnych príslušných orgánov pri zriaďovaní a rozvoji regulačných experimentálnych prostredí pre AI a uľahčovať spoluprácu a výmenu informácií medzi regulačnými experimentálnymi prostrediami pre AI;
prispievať k vypracúvaniu usmerňovacích dokumentov a poskytovať pri tom relevantné poradenstvo;
poskytovať Komisii poradenstvo v súvislosti s medzinárodnými záležitosťami týkajúcimi sa AI;
poskytovať Komisii stanoviská ku kvalifikovaným upozorneniam týkajúcim sa modelov AI na všeobecné účely;
prijímať stanoviská členských štátov ku kvalifikovaným upozorneniam týkajúcim sa modelov AI na všeobecné účely a k vnútroštátnym skúsenostiam a postupom v oblasti monitorovania a presadzovania systémov AI, najmä systémov, do ktorých sa integrovali modely AI na všeobecné účely.
Článok 67
Poradné fórum
Článok 68
Vedecký panel nezávislých expertov
Vedecký panel pozostáva z expertov vybraných Komisiou na základe aktuálnych vedeckých alebo technických odborných znalostí v oblasti AI, ktoré sú potrebné na plnenie úloh stanovených v odseku 3, a musí byť schopný preukázať splnenie všetkých týchto podmienok:
osobitné odborné znalosti a spôsobilosti a vedecké alebo technické odborné znalosti v oblasti AI;
nezávislosť od akéhokoľvek poskytovateľa systémov AI alebo modelov AI na všeobecné účely;
schopnosť vykonávať činnosti dôsledne, presne a objektívne.
Komisia po konzultácii s radou pre AI určí počet expertov v paneli v súlade s požadovanými potrebami a zabezpečí spravodlivé rodové a geografické zastúpenie.
Vedecký panel poskytuje poradenstvo a podporu úradu pre AI, najmä pokiaľ ide o tieto úlohy:
podpora vykonávania a presadzovania tohto nariadenia, pokiaľ ide o modely a systémy AI na všeobecné účely, najmä:
upozorňovanie úradu pre AI na možné systémové riziká na úrovni Únie súvisiace s modelmi AI na všeobecné účely v súlade s článkom 90;
príspevky k vývoju nástrojov a metodík na hodnotenie spôsobilostí modelov a systémov AI na všeobecné účely, a to aj prostredníctvom referenčných hodnôt;
poskytovanie poradenstva o klasifikácii modelov AI na všeobecné účely so systémovým rizikom;
poskytovanie poradenstva o klasifikácii rôznych modelov a systémov AI na všeobecné účely;
prispievanie k vývoju nástrojov a vzorov;
podpora práce orgánov dohľadu nad trhom na ich žiadosť;
podpora činností cezhraničného dohľadu nad trhom podľa článku 74 ods. 11 bez toho, aby boli dotknuté právomoci orgánov dohľadu nad trhom;
podpora úradu pre AI pri plnení jeho povinností v súvislosti s ochranným postupom Únie podľa článku 81.
Článok 69
Prístup členských štátov k skupine expertov
ODDIEL 2
Vnútroštátne príslušné orgány
Článok 70
Určenie vnútroštátnych príslušných orgánov a jednotných kontaktných miest
KAPITOLA VIII
DATABÁZA ÚNIE PRE VYSOKORIZIKOVÉ SYSTÉMY AI
Článok 71
Databáza Únie pre vysokorizikové systémy AI uvedené v prílohe III
KAPITOLA IX
MONITOROVANIE PO UVEDENÍ NA TRH, VÝMENA INFORMÁCIÍ A DOHĽAD NAD TRHOM
ODDIEL 1
Monitorovanie po uvedení na trh
Článok 72
Monitorovanie po uvedení na trh vykonávané poskytovateľmi a plán monitorovania vysokorizikových systémov AI po uvedení na trh
Prvý pododsek tohto odseku sa uplatňuje aj na vysokorizikové systémy AI uvedené v prílohe III bode 5, ktoré uvádzajú na trh alebo do prevádzky finančné inštitúcie, na ktoré sa vzťahujú požiadavky týkajúce sa ich vnútornej správy a riadenia, dojednaní alebo postupov podľa práva Únie v oblasti finančných služieb.
ODDIEL 2
Zdieľanie informácií o závažných incidentoch
Článok 73
Podávanie správ o závažných incidentoch
Lehota pre podanie správy uvedenej v prvom pododseku zohľadňuje stupeň závažnosti incidentu.
Poskytovateľ počas vyšetrovania uvedeného v prvom pododseku spolupracuje s príslušnými orgánmi v relevantnom prípade s dotknutou notifikovanou osobou a nevykonáva žiadne vyšetrovanie, ktoré zahŕňa úpravu dotknutého systému AI spôsobom, ktorý môže mať vplyv na akékoľvek následné hodnotenie príčin incidentu, pred informovaním príslušných orgánov o takomto kroku.
ODDIEL 3
presadzovanie
Článok 74
Dohľad nad trhom a kontrola systémov AI na trhu Únie
Na systémy AI v rozsahu pôsobnosti tohto nariadenia sa vzťahuje nariadenie (EÚ) 2019/1020. Na účely účinného presadzovania tohto nariadenia sa:
každý odkaz na hospodársky subjekt podľa nariadenia (EÚ) 2019/1020 vykladá tak, že zahŕňa všetkých prevádzkovateľov uvedených v článku 2 ods. 1 tohto nariadenia;
každý odkaz na výrobok podľa nariadenia (EÚ) 2019/1020 vykladá tak, že zahŕňa všetky systémy AI, ktoré patria do rozsahu pôsobnosti tohto nariadenia.
Odchylne od prvého pododseku a za vhodných okolností môžu členské štáty určiť iný relevantný orgán, ktorý bude konať ako orgán dohľadu nad trhom, a to za predpokladu, že zabezpečia koordináciu s relevantnými odvetvovými orgánmi dohľadu nad trhom zodpovednými za presadzovanie harmonizačných právnych predpisov Únie uvedených v prílohe I.
Vnútroštátne orgány dohľadu nad trhom, ktoré vykonávajú dohľad nad regulovanými úverovými inštitúciami regulovanými podľa smernice 2013/36/EÚ a ktoré sa zúčastňujú na jednotnom mechanizme dohľadu zriadenom nariadením (EÚ) č. 1024/2013, by mali Európskej centrálnej banke bezodkladne oznamovať všetky informácie zistené v priebehu svojich činností dohľadu nad trhom, ktoré môžu byť potenciálne zaujímavé pre úlohy Európskej centrálnej banky v oblasti prudenciálneho dohľadu, ako sa uvádzajú v uvedenom nariadení.
Orgánom dohľadu nad trhom sa udelí prístup k zdrojovému kódu vysokorizikového systému AI na základe odôvodnenej žiadosti a len vtedy, ak sú splnené obe tieto podmienky:
prístup k zdrojovému kódu je potrebný na posúdenie súladu vysokorizikového systému AI s požiadavkami stanovenými v kapitole III oddiele 2 a
postupy testovania alebo auditu a overovania založené na údajoch a dokumentácii, ktoré poskytol poskytovateľ, boli vyčerpané alebo sa ukázali ako nedostatočné.
Článok 75
Dohľad nad trhom a kontrola systémov AI a vzájomná pomoc
Úrad pre AI je výlučne príslušný na dohľad a presadzovanie plnenia povinností podľa tohto nariadenia vo vzťahu k týmto systémom AI:
systémy AI založené na modeloch AI na všeobecné účely, ak daný model a systém vyvíja ten istý poskytovateľ alebo poskytovatelia, ktorí sú súčasťou toho istého podniku ako daný poskytovateľ, s výnimkou:
systémov AI týkajúcich sa produktov, na ktoré sa vzťahujú harmonizačné právne predpisy Únie uvedené v prílohe I;
systémov AI uvedených v bode 2 prílohy III;
systémov AI poskytovaných orgánmi presadzovania práva, orgánmi riadenia hraníc a finančnými inštitúciami, pokiaľ sa na tieto systémy AI vzťahuje článok 74 ods. 6, a
systémov AI uvedených v bode 8 prílohy III, pokiaľ ide o výkon spravodlivosti;
systémy AI, ktoré predstavujú veľmi veľké online platformy alebo veľmi veľké internetové vyhľadávače určené v súlade s nariadením (EÚ) 2022/2065 alebo ktoré sú do takýchto platforiem alebo vyhľadávačov integrované.
Na poskytovateľov týchto systémov sa vzťahuje výlučná právomoc uvedená v prvom pododseku. Na subjekty nasadzujúce tieto systémy sa vzťahuje len vtedy, ak sú zároveň poskytovateľom alebo sú súčasťou toho istého podniku ako poskytovateľ.
Poplatky za činnosti testovania a posudzovania sa vyberajú od poskytovateľa vysokorizikového systému AI, ktorý požiadal Komisiu o posúdenie zhody treťou stranou. Náklady spojené so službami, ktorými Komisia poverila notifikované osoby v súlade s týmto článkom, hradí poskytovateľ priamo notifikovanej osobe.
Ak má orgán dohľadu nad trhom opodstatnené a dostatočné dôvody na podozrenie, že poskytovateľ systému AI alebo subjekt nasadzujúci systém AI uvedený v odseku 1 tohto článku porušil toto nariadenie, môže prostredníctvom príslušného jednotného kontaktného miesta určeného v súlade s článkom 70 ods. 2 požiadať úrad pre AI, aby vec posúdil a prijal potrebné opatrenia dohľadu a presadzovania v snahe okamžite zabezpečiť súlad s týmto nariadením. Takáto žiadosť musí byť riadne odôvodnená a musí obsahovať aspoň tieto informácie:
názov dotknutého poskytovateľa alebo nasadzujúceho subjektu;
opis relevantných skutočností, ustanovenia tohto nariadenia, ktoré boli údajne porušené, a všetky opodstatnené a dostatočné dôvody na podozrenie z porušenia, a to v príslušných prípadoch aj opis negatívnych účinkov tohto údajného porušenia;
orgán dohľadu nad trhom, ktorý podáva žiadosť.
Úrad pre AI túto žiadosť v čo najväčšej miere zohľadní, pričom orgán dohľadu nad trhom aktívne spolupracuje a poskytuje úradu pre AI potrebnú pomoc pri výkone jeho právomocí v súlade s odsekom 1a.
Úrad pre AI bez zbytočného odkladu a v každom prípade najneskôr do štyroch mesiacov od doručenia žiadosti informuje jednotné kontaktné miesto o svojom zámere vykonávať svoje právomoci v súlade s článkom 75a alebo o dôvodoch, prečo svoje právomoci nevykonáva. Ak sa úrad pre AI rozhodne vykonávať svoje právomoci v súlade s článkom 75a, pravidelne informuje toto jednotné kontaktné miesto o významných zmenách v konaní a o výsledku takéhoto konania bez toho, aby zverejnil akékoľvek dôverné informácie.
Článok 75a
Právomoci úradu pre AI v oblasti dohľadu a presadzovania
Ak má orgán dohľadu nad trhom dôvod na podozrenie, že poskytovateľ systému AI alebo subjekt nasadzujúci systém AI uvedený v článku 75 ods. 1 toto nariadenie nedodržiava, môže úradu pre AI zaslať žiadosť o posúdenie záležitosti.
Pri žiadosti o informácie úrad pre AI uvedie právny základ a účel žiadosti, špecifikuje požadované informácie a stanoví lehotu, v ktorej sa majú informácie poskytnúť. Ak ide o jednoduchú žiadosť, úrad pre AI navyše uvedie, že hoci poskytnutie požadovaných informácií nie je povinné, v prípade dobrovoľnej odpovede musia byť informácie správne a nesmú byť zavádzajúce, a uvedie prípadné pokuty stanovené v článku 99 ods. 5 za poskytnutie nesprávnych alebo zavádzajúcich informácií. Ak sa žiadosť podáva na základe rozhodnutia, úrad pre AI navyše uvedie pokuty stanovené v článku 99 ods. 5 za poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií a uvedie právo dať rozhodnutie preskúmať Súdnemu dvoru Európskej únie. Úrad pre AI zašle kópiu žiadosti orgánu dohľadu nad trhom členského štátu, na území ktorého sa prevádzkovateľ alebo jeho právny zástupca nachádza.
Počas takejto kontroly sú úradníci úradu pre AI oprávnení:
vstupovať do akýchkoľvek prevádzkových priestorov, na akékoľvek pozemky alebo do akýchkoľvek nehnuteľností dotknutého prevádzkovateľa, ktoré sa nachádzajú v Únii;
preskúmať účtovné knihy, údaje a iné materiály relevantné pre plnenie ich úloh bez ohľadu na médium, na ktorom sú uložené;
v akejkoľvek forme vyhotovovať alebo získavať kópie alebo výňatky z účtovných kníh, údajov alebo iných záznamov;
požiadať ktorúkoľvek z osôb, na ktoré sa kontrola vzťahuje, alebo kohokoľvek z ich zástupcov alebo zamestnancov, aby podali ústne alebo písomné vysvetlenie skutočností alebo dokumentov týkajúcich sa predmetu a účelu kontroly, a zaznamenať odpovede;
zapečatiť akékoľvek podnikové priestory a účtovné knihy alebo záznamy počas trvania kontroly v rozsahu nevyhnutnom na jej vykonanie.
Ak úrad pre AI zistí, že fyzická alebo právnická osoba s kontrolou nesúhlasí alebo jej bráni, vnútroštátny príslušný orgán dotknutého členského štátu mu poskytne potrebnú pomoc a vo vhodných prípadoch požiada o pomoc políciu alebo rovnocenný orgán presadzovania práva, aby mohol vykonať kontrolu na mieste.
Ak si kontrola prevádzkových priestorov, pozemkov alebo nehnuteľností na mieste vyžaduje v súlade s vnútroštátnym právom povolenie súdneho orgánu, úrad pre AI požiada o takéto povolenie. Úrad pre AI môže o takéto povolenie požiadať aj ako o predbežné opatrenie. Ak sa žiada o takéto povolenie, vnútroštátny súdny orgán bezodkladne preverí, či plánované donucovacie opatrenia nie sú so zreteľom na predmet vyšetrovania alebo kontroly a na dokumenty, ktoré k rozhodnutiu poskytol úrad pre AI, svojvoľné alebo neprimerané. Pri overovaní primeranosti donucovacích opatrení môže vnútroštátny súdny orgán požiadať úrad pre AI o podrobné vysvetlenia, ktoré sa týkajú najmä dôvodov, na základe ktorých má úrad pre AI podozrenie, že došlo k porušeniu tohto nariadenia, závažnosti údajného porušenia a v relevantných prípadoch povahy účasti osoby, na ktorú sa vzťahujú donucovacie opatrenia. Vnútroštátny súdny orgán nesmie posudzovať potrebu vyšetrovania alebo kontroly ani požadovať informácie zo spisu úradu pre AI. V súlade so zmluvami môže zákonnosť rozhodnutia úradu pre AI preskúmať len Súdny dvor Európskej únie.
Okrem právomocí stanovených v odseku 1 tohto článku môže úrad pre AI pri výkone svojich právomocí uvedených v článku 75 ods. 1:
nariadiť prevádzkovateľom, aby poskytli prístup k svojim systémom AI a vysvetlenia k týmto systémom;
uložiť prevádzkovateľovi povinnosť uchovávať všetky údaje a dokumenty, ktoré sa považujú za potrebné na posúdenie vykonávania a dodržiavania povinností podľa tohto nariadenia.
Článok 75b
Záväzky
Ak počas konania podľa článku 75a ods. 2 dotknutý prevádzkovateľ ponúkne na zabezpečenie súladu s príslušnými ustanoveniami tohto nariadenia záväzky, úrad pre AI môže rozhodnutím vyhlásiť tieto záväzky pre dotknutého prevádzkovateľa za záväzné a skonštatovať, že neexistujú žiadne ďalšie dôvody na prijatie opatrení. Úrad pre AI môže na požiadanie alebo z vlastnej iniciatívy konanie obnoviť, ak:
nastala podstatná zmena ktorejkoľvek zo skutočností, na ktorých bolo rozhodnutie založené;
prevádzkovateľ koná v rozpore so svojimi záväzkami alebo
rozhodnutie bolo založené na neúplných, nesprávnych alebo zavádzajúcich informáciách, ktoré poskytol dotknutý prevádzkovateľ.
Ak sa úrad pre AI domnieva, že záväzky, ktoré ponúkol dotknutý prevádzkovateľ, nie sú dostatočné na zabezpečenie účinného súladu s príslušnými ustanoveniami tohto nariadenia, pri ukončení konania zamietne tieto záväzky v odôvodnenom rozhodnutí.
Článok 75c
Nesúlad, pokuty a pravidelné sankčné platby
Správne pokuty uvedené v článku 99 ods. 4 sa ukladajú najmä za:
porušenie akéhokoľvek príslušného ustanovenia tohto nariadenia vrátane tých, ktoré nie sú uvedené v článku 99 ods. 4;
nedodržanie rozhodnutí alebo opatrení prijatých na základe právomocí uvedených v článku 14 ods. 4 alebo článku 16 ods. 3 nariadenia (EÚ) 2019/1020, ako aj rozhodnutí alebo opatrení uvedených v článku 75a tohto nariadenia;
nesplnenie záväzku, ktorý sa rozhodnutím podľa článku 75b stal záväzným.
Za poskytnutie nesprávnych, neúplných alebo zavádzajúcich informácií úradu pre AI v odpovedi na žiadosť sa ukladajú správne pokuty uvedené v článku 99 ods. 5.
Úrad pre AI môže prijať rozhodnutie o uložení pravidelných sankčných platieb s cieľom prinútiť prevádzkovateľov, ktorí podliehajú jeho právomoci podľa článku 75 ods. 1, aby:
sa podrobili vyšetrovaniu;
vyhoveli žiadosti o informácie nariadenej rozhodnutím prijatým podľa článku 75a ods. 3;
sa podrobili kontrole nariadenej rozhodnutím podľa článku 75a ods. 4;
poskytli správne alebo úplné odpovede alebo vysvetlenia v súvislosti s kontrolou nariadenou rozhodnutím podľa článku 75a ods. 4;
vykonali nápravné opatrenia nariadené na základe právomoci uvedenej v článku 16 nariadenia (EÚ) 2019/1020;
splnili záväzky, ktoré sa rozhodnutím podľa článku 75b stali právne záväznými, alebo
dodržali rozhodnutie podľa odseku 1 tohto článku.
Tieto sankčné platby musia byť účinné a primerané a v príslušných prípadoch nesmú presiahnuť 5 % priemerného denného príjmu alebo celosvetového ročného obratu za predchádzajúce účtovné obdobie za deň vypočítaného od dátumu stanoveného v rozhodnutí.
Na právomoc úradu pre AI vymáhať rozhodnutia prijaté podľa tohto článku sa vzťahuje premlčacia doba v dĺžke piatich rokov. Premlčacia doba začína plynúť dňom, keď sa rozhodnutie stane právoplatným.
Vo vykonávacom akte uvedenom v článku 75d ods. 3 sa spresní prvý a druhý pododsek tohto odseku vrátane okolností, za ktorých sa premlčacie doby prerušia.
Článok 75d
Záruky a ďalšie špecifikácie
Článok 76
Dohľad orgánov dohľadu nad trhom nad testovaním v reálnych podmienkach
Ak je testovanie v reálnych podmienkach založené na článku 60a, každý odkaz na orgán dohľadu nad trhom v tomto článku sa považuje za odkaz na vnútroštátny príslušný orgán alebo náležitý orgán podľa harmonizačných právnych predpisov Únie uvedených v oddiele B prílohy I a odkazy na článok 60 sa podľa vhodného prípadu považujú za odkazy na článok 60a.
Ak potenciálny poskytovateľ, poskytovateľ alebo akákoľvek tretia strana informovali orgán dohľadu nad trhom o závažnom incidente alebo má tento orgán iné dôvody domnievať sa, že podmienky stanovené v článkoch 60 a 61 nie sú splnené, môže na svojom území podľa potreby prijať ktorékoľvek z týchto rozhodnutí:
pozastaviť alebo ukončiť testovanie v reálnych podmienkach;
požadovať od poskytovateľa alebo potenciálneho poskytovateľa a nasadzujúceho subjektu alebo potenciálneho nasadzujúceho subjektu, aby zmenili akýkoľvek aspekt testovania v reálnych podmienkach.
Článok 77
Právomoci orgánov na ochranu základných práv a spolupráca s orgánmi dohľadu nad trhom
Článok 78
Dôvernosť
Komisia, orgány dohľadu nad trhom a notifikované osoby a akékoľvek iné fyzické alebo právnické osoby podieľajúce sa na uplatňovaní tohto nariadenia zachovávajú v súlade s právom Únie alebo vnútroštátnym právom dôvernosť informácií a údajov získaných pri vykonávaní svojich úloh a činností takým spôsobom, aby chránili najmä:
práva duševného vlastníctva a dôverné obchodné informácie alebo obchodné tajomstvo fyzickej alebo právnickej osoby vrátane zdrojového kódu, s výnimkou prípadov uvedených v článku 5 smernice Európskeho parlamentu a Rady (EÚ) 2016/943 ( 2 );
účinné vykonávanie tohto nariadenia, najmä na účely inšpekcií, vyšetrovaní alebo auditov;
verejné záujmy a záujmy národnej bezpečnosti;
vykonávanie trestného alebo správneho konania;
informácie utajované podľa práva Únie alebo vnútroštátneho práva.
Ak sú poskytovateľmi vysokorizikových systémov AI uvedených v prílohe III bode 1, 6 alebo 7 orgány presadzovania práva, imigračné alebo azylové orgány, technická dokumentácia uvedená v prílohe IV zostáva v priestoroch týchto orgánov. Tieto orgány zabezpečia, aby orgány dohľadu nad trhom uvedené v článku 74 ods. 8 a 9 mali na požiadanie okamžitý prístup k dokumentácii alebo aby okamžite dostali jej kópiu. Prístup k dokumentácii alebo akejkoľvek jej kópii majú len zamestnanci orgánu dohľadu nad trhom, ktorí sú držiteľmi bezpečnostnej previerky na primeranej úrovni.
Článok 79
Postup vnútroštátneho zaobchádzania so systémami AI predstavujúcimi riziko
Ak v priebehu uvedeného hodnotenia orgán dohľadu nad trhom alebo v relevantných prípadoch orgán dohľadu nad trhom v spolupráci s vnútroštátnym orgánom verejnej moci uvedeným v článku 77 ods. 1 zistí, že systém AI nespĺňa požiadavky a povinnosti stanovené v tomto nariadení, bez zbytočného odkladu vyžaduje od príslušného prevádzkovateľa prijatie všetkých primeraných nápravných opatrení na dosiahnutie súladu systému AI s uvedenými požiadavkami a povinnosťami, jeho stiahnutie z trhu alebo od používateľa, a to v lehote, ktorú môže orgán dohľadu nad trhom stanoviť, a v každom prípade najneskôr do 15 pracovných dní, alebo ako je stanovené v príslušných harmonizačných právnych predpisov Únie.
Orgán dohľadu nad trhom o tom informuje príslušnú notifikovanú osobu. Na opatrenia uvedené v druhom pododseku tohto odseku sa uplatňuje článok 18 nariadenia (EÚ) 2019/1020.
Oznámenie uvedené v odseku 5 obsahuje všetky podrobné údaje, ktoré sú k dispozícii, najmä informácie potrebné na identifikáciu systému AI, ktorý nie je v súlade, pôvod systému AI a dodávateľský reťazec, povahu údajného nesúladu a z neho vyplývajúce riziko, povahu a trvanie prijatých vnútroštátnych opatrení a vyjadrenie, ktoré predložil príslušný prevádzkovateľ. Orgány dohľadu nad trhom predovšetkým uvedú, či k nesúladu došlo v dôsledku jedného alebo viacerých z týchto dôvodov:
nedodržiavanie zákazu praktík využívajúcich AI uvedených v článku 5;
vysokorizikový systém AI nespĺňa požiadavky stanovené v kapitole III oddiele 2;
nedostatky v harmonizovaných normách alebo spoločných špecifikáciách uvedených v článkoch 40 a 41, ktoré sú základom pre predpoklad zhody;
nesúlad s článkom 50.
Článok 80
Postup zaobchádzania so systémami AI, ktoré poskytovateľ uplatnením prílohy III klasifikoval ako nie vysokorizikové
Článok 81
Ochranný postup Únie
Článok 82
Vyhovujúce systémy AI, ktoré predstavujú riziko
Článok 83
Formálny nesúlad
Orgán dohľadu na trhom členského štátu požiada príslušného prevádzkovateľa o odstránenie predmetného nesúladu v lehote, ktorú môže určiť, ak dospeje k jednému z týchto zistení:
označenie CE bolo umiestnené v rozpore s článkom 48;
označenie CE nebolo umiestnené;
nebolo vyhotovené EÚ vyhlásenie o zhode uvedené v článku 47;
EÚ vyhlásenie o zhode uvedené v článku 47 nebolo vyhotovené správne;
nebola vykonaná registrácia v databáze Únie uvedenej v článku 71;
v relevantných prípadoch nebol vymenovaný splnomocnený zástupca;
technická dokumentácia nie je k dispozícii.
Článok 84
Podporné štruktúry Únie na testovanie AI
ODDIEL 4
Prostriedky nápravy
Článok 85
Právo podať sťažnosť orgánu dohľadu nad trhom
Bez toho, aby boli dotknuté iné správne alebo súdne prostriedky nápravy, každá fyzická alebo právnická osoba, ktorá má dôvody domnievať sa, že došlo k porušeniu ustanovení tohto nariadenia, môže podať sťažnosť príslušnému orgánu dohľadu nad trhom.
V súlade s nariadením (EÚ) 2019/1020 sa takéto sťažnosti zohľadňujú na účel vykonávania činností dohľadu nad trhom a vybavujú sa v súlade so špecializovanými postupmi, ktoré na to stanovili orgány dohľadu nad trhom.
Článok 86
Právo na vysvetlenie individuálneho rozhodovania
Článok 87
Nahlasovanie porušení a ochrana nahlasujúcich osôb
Pri nahlasovaní porušení tohto nariadenia a na ochranu osôb nahlasujúcich takéto porušenia sa uplatňuje smernica (EÚ) 2019/1937.
ODDIEL 5
Dohľad, vyšetrovanie, presadzovanie a monitorovanie v súvislosti s poskytovateľmi modelov AI na všeobecné účely
Článok 88
Presadzovanie plnenia povinností poskytovateľov modelov AI na všeobecné účely
Článok 89
Monitorovacie opatrenia
Nadväzujúci poskytovatelia majú právo podať sťažnosť na údajné porušenie tohto nariadenia. Sťažnosť musí byť riadne odôvodnená a musí obsahovať aspoň:
kontaktné miesto poskytovateľa dotknutého modelu AI na všeobecné účely;
opis relevantných skutočností, príslušné ustanovenia tohto nariadenia a dôvod, prečo sa nadväzujúci poskytovateľ domnieva, že poskytovateľ dotknutého modelu AI na všeobecné účely porušil toto nariadenie;
akékoľvek ďalšie informácie, ktoré nadväzujúci poskytovateľ, ktorý podáva sťažnosť, považuje za relevantné, vrátane prípadných informácií, ktoré zhromaždil z vlastnej iniciatívy.
Článok 90
Upozornenia vedeckého panelu na systémové riziká
Vedecký panel môže úradu pre AI poskytnúť kvalifikované upozornenie, ak má dôvodné podozrenie, že:
model AI na všeobecné účely predstavuje konkrétne identifikovateľné riziko na úrovni Únie alebo
model AI na všeobecné účely spĺňa podmienky uvedené v článku 51.
Kvalifikované upozornenie musí byť riadne odôvodnené a musí obsahovať aspoň:
kontaktné miesto poskytovateľa dotknutého modelu AI na všeobecné účely so systémovým rizikom;
opis relevantných skutočností a odôvodnenie upozornenia vedeckého panelu;
akékoľvek ďalšie informácie, ktoré vedecký panel považuje za relevantné, vrátane prípadných informácií, ktoré zhromaždil z vlastnej iniciatívy.
Článok 91
Právomoc požadovať dokumentáciu a informácie
Článok 92
Právomoc vykonávať hodnotenia
Úrad pre AI môže po konzultácii s radou pre AI vykonať hodnotenia dotknutého modelu AI na všeobecné účely s cieľom:
posúdiť, či poskytovateľ dodržiava povinnosti podľa tohto nariadenia, ak informácie zhromaždené podľa článku 91 nie sú dostatočné, alebo
vyšetrovať na úrovni Únie systémové riziká modelov AI na všeobecné účely so systémovým rizikom, najmä na základe kvalifikovaného upozornenia vedeckého panelu v súlade s článkom 90 ods. 1 písm. a).
Článok 93
Právomoc požadovať opatrenia
Ak je to potrebné a vhodné, Komisia môže od poskytovateľov požadovať, aby:
prijali vhodné opatrenia na splnenie povinností stanovených v článkoch 53 a 54;
vykonali zmierňujúce opatrenia, ak hodnotenie vykonané v súlade s článkom 92 vyvolalo vážne a odôvodnené obavy zo systémového rizika na úrovni Únie;
obmedzili sprístupnenie modelu na trhu alebo ho stiahli z trhu alebo od používateľa.
Článok 94
Procesné práva hospodárskych subjektov prevádzkujúcich model AI na všeobecné účely
Článok 18 nariadenia (EÚ) 2019/1020 sa primerane uplatňuje na poskytovateľov modelu AI na všeobecné účely bez toho, aby boli dotknuté konkrétnejšie procesné práva stanovené v tomto nariadení.
KAPITOLA X
KÓDEXY SPRÁVANIA A USMERNENIA
Článok 95
Kódex správania pre dobrovoľné uplatňovanie osobitných požiadaviek
Úrad pre AI a členské štáty uľahčujú vypracúvanie kódexov správania týkajúcich sa dobrovoľného uplatňovania, a to aj zo strany nasadzujúcich subjektov, osobitných požiadaviek na všetky systémy AI na základe jasných cieľov a kľúčových ukazovateľov výkonu na meranie dosahovania týchto cieľov vrátane prvkov, ako sú okrem iného:
uplatniteľné prvky stanovené v etických usmerneniach Únie pre dôveryhodnú AI;
posudzovanie a minimalizácia vplyvu systémov AI na životné prostredie, a to aj pokiaľ ide o energeticky účinné programovanie a techniky efektívneho dizajnu, trénovania a používania AI;
podpora gramotnosti v oblasti AI, najmä osôb, ktoré sa zaoberajú vývojom, prevádzkovaním a používaním AI;
uľahčenie inkluzívnych a rôznorodých dizajnov systémov AI, a to aj prostredníctvom zriaďovania inkluzívnych a rôznorodých vývojárskych tímov a podpora účasti zainteresovaných strán na tomto procese;
posudzovanie a predchádzanie negatívnemu vplyvu systémov AI na zraniteľné osoby alebo skupiny zraniteľných osôb, a to aj pokiaľ ide o prístupnosť pre osoby so zdravotným postihnutím, ako aj ich vplyvu na rodovú rovnosť.
Článok 96
Usmernenia Komisie k vykonávaniu tohto nariadenia
Komisia vypracuje usmernenia o praktickom vykonávaní tohto nariadenia, a to najmä o:
uplatňovaní požiadaviek a povinností uvedených v článkoch 8 až 15 a v článkoch 25 a 26;
zakázaných praktikách uvedených v článku 5;
praktickom vykonávaní ustanovení týkajúcich sa podstatnej zmeny;
praktickom plnení povinností v oblasti transparentnosti stanovených v článku 50;
podrobných informáciách o vzťahu tohto nariadenia s harmonizačnými právnymi predpismi Únie uvedenými v prílohe I, ako aj s inými príslušnými právnymi predpismi Únie, a to aj pokiaľ ide o konzistentnosť pri ich presadzovaní;
uplatňovaní vymedzenia pojmu „systém AI“, ako sa uvádza v článku 3 bode 1;
praktickom vykonávaní článku 8 ods. 2, článku 9 ods. 10 a článku 17 ods. 3 v súlade so zásadou komplementárnosti a proporcionality s cieľom zabezpečiť konzistentnosť, zabrániť duplicite a minimalizovať dodatočné zaťaženie pri plnení požiadaviek tohto nariadenia a požiadaviek harmonizačných právnych predpisov Únie uvedených v oddiele A prílohy I; takéto usmernenia sa uverejnia do 1. augusta 2027.
Pri vydávaní takýchto usmernení Komisia zapojí radu pre AI a venuje osobitnú pozornosť potrebám MSP, vrátane startupov, a malých podnikov so strednou trhovou kapitalizáciou, miestnych orgánov verejnej správy a odvetví, ktoré budú s najväčšou pravdepodobnosťou ovplyvnené týmto nariadením.
V usmerneniach uvedených v prvom pododseku tohto odseku sa náležite zohľadní všeobecne uznávaný aktuálny stav vývoja v oblasti AI, ako aj príslušné harmonizované normy a spoločné špecifikácie, ktoré sú uvedené v článkoch 40 a 41, alebo harmonizované normy alebo technické špecifikácie, ktoré sú stanovené podľa harmonizačného práva Únie.
KAPITOLA XI
DELEGOVANIE PRÁVOMOCI A POSTUP VÝBORU
Článok 97
Vykonávanie delegovania právomoci
Článok 98
Postup výboru
KAPITOLA XII
SANKCIE
Článok 99
Sankcie
Správne pokuty až do výšky 15 000 000 EUR, alebo ak je páchateľom podnik, až do výšky 3 % jeho celkového celosvetového ročného obratu za predchádzajúci finančný rok, podľa toho, ktorá suma je vyššia, sa ukladajú za nesúlad s ktorýmkoľvek z týchto ustanovení týkajúcich sa prevádzkovateľov alebo notifikovaných osôb iných ako stanovených v článku 5:
povinnosti poskytovateľov podľa článku 16;
povinnosti splnomocnených zástupcov podľa článku 22;
povinnosti dovozcov podľa článku 23;
povinnosti distribútorov podľa článku 24;
povinnosti poskytovateľov a prevádzkovateľov podľa článku 25 ods. 2 a 4;
povinnosti nasadzujúcich subjektov podľa článku 26;
požiadavky a povinnosti notifikovaných osôb podľa článku 31, článku 33 ods. 1, 3 a 4 alebo článku 34;
povinnosti v oblasti transparentnosti pre poskytovateľov a nasadzujúce subjekty podľa článku 50.
Pri rozhodovaní o uložení správnej pokuty a o jej výške sa v každom jednotlivom prípade zohľadnia všetky relevantné okolnosti konkrétnej situácie a vo vhodných prípadoch sa vezme do úvahy:
povaha, závažnosť a trvanie porušenia a jeho dôsledkov s prihliadnutím na účel systému AI a vo vhodných prípadoch aj na počet dotknutých jednotlivcov a rozsah škody, ktorú utrpeli;
či už tomu istému prevádzkovateľovi uložili za to isté porušenie správne pokuty iné orgány dohľadu nad trhom;
či už iné orgány uložili správne pokuty tomu istému prevádzkovateľovi za porušenia iných právnych predpisov Únie alebo vnútroštátnych právnych predpisov, ak takéto porušenia vyplývajú z tej istej činnosti alebo opomenutia predstavujúceho relevantné porušenie tohto nariadenia;
veľkosť, ročný obrat a trhový podiel prevádzkovateľa, ktorý sa dopustil porušenia;
akékoľvek iné priťažujúce alebo poľahčujúce okolnosti prípadu, ako napríklad získané finančné výhody alebo straty, ktorým sa zabránilo, priamo alebo nepriamo v súvislosti s porušením;
miera spolupráce s vnútroštátnymi príslušnými orgánmi pri náprave porušenia a zmiernení možných nepriaznivých dôsledkov porušenia;
miera zodpovednosti prevádzkovateľa s prihliadnutím na technické a organizačné opatrenia, ktoré vykonal;
spôsob, akým sa vnútroštátne príslušné orgány o porušení dozvedeli, a najmä to, či prevádzkovateľ porušenie oznámil, a ak áno, v akom rozsahu;
úmyselný alebo nedbanlivostný charakter porušenia;
všetky opatrenia prijaté prevádzkovateľom na zmiernenie ujmy, ktorú utrpeli dotknuté osoby.
Článok 100
Správne pokuty ukladané inštitúciám, orgánom, úradom a agentúram Únie
Európsky dozorný úradník pre ochranu údajov môže uložiť správne pokuty inštitúciám, orgánom, úradom a agentúram Únie, ktoré patria do rozsahu pôsobnosti tohto nariadenia. Pri rozhodovaní o uložení správnej pokuty a o jej výške sa v každom jednotlivom prípade zohľadnia všetky relevantné okolnosti konkrétnej situácie a náležite sa vezme do úvahy:
povaha, závažnosť a trvanie porušenia a jeho dôsledky, pričom sa zohľadní účel dotknutého systému AI, ako aj v prípade potreby počet dotknutých osôb a rozsah škody, ktorú utrpeli;
miera zodpovednosti inštitúcie, orgánu, úradu alebo agentúry Únie s prihliadnutím na technické a organizačné opatrenia, ktoré vykonali;
akékoľvek opatrenie, ktoré inštitúcia, orgán, úrad alebo agentúra Únie prijali na zmiernenie škody, ktorú utrpeli dotknuté osoby;
miera spolupráce s európskym dozorným úradníkom pre ochranu údajov s cieľom napraviť porušenie a zmierniť možné nepriaznivé účinky porušenia vrátane dodržiavania všetkých opatrení, ktoré predtým nariadil európsky dozorný úradník pre ochranu údajov dotknutej inštitúcii, orgánu, úradu alebo agentúre Únie v rovnakej veci;
akékoľvek podobné predchádzajúce porušenia zo strany inštitúcie, orgánu, úradu alebo agentúry Únie;
spôsob, akým sa európsky dozorný úradník pre ochranu údajov o porušení dozvedel, najmä to, či inštitúcia, orgán, úrad alebo agentúra Únie porušenie oznámili, a ak áno, v akom rozsahu;
ročný rozpočet inštitúcie, orgánu, úradu alebo agentúry Únie.
Článok 101
Pokuty ukladané poskytovateľom modelov AI na všeobecné účely
Komisia môže poskytovateľom modelov AI na všeobecné účely uložiť pokuty nepresahujúce 3 % ich celkového ročného celosvetového obratu v predchádzajúcom finančnom roku alebo 15 000 000 EUR, podľa toho, ktorá suma je vyššia, keď zistí, že poskytovateľ úmyselne alebo z nedbanlivosti:
porušil relevantné ustanovenia tohto nariadenia;
nevyhovel žiadosti o dokument alebo informácie podľa článku 91 alebo poskytol nesprávne, neúplné alebo zavádzajúce informácie;
nesplnil opatrenie požadované podľa článku 93;
neumožnil Komisii prístup k modelu AI na všeobecné účely alebo k modelu AI na všeobecné účely so systémovým rizikom, aby mohla vykonať hodnotenie podľa článku 92.
Pri určovaní výšky pokuty alebo pravidelného penále sa prihliada na povahu, závažnosť a trvanie porušenia, pričom sa náležitým spôsobom zohľadňujú zásady proporcionality a vhodnosti. Komisia zohľadní aj záväzky prijaté v súlade s článkom 93 ods. 3 alebo v príslušných kódexoch postupov v súlade s článkom 56.
KAPITOLA XIII
ZÁVEREČNÉ USTANOVENIA
Článok 102
Zmena nariadenia (ES) č. 300/2008
V článku 4 ods. 3 nariadenia (ES) č. 300/2008 sa dopĺňa tento pododsek:
„Pri prijímaní podrobných opatrení súvisiacich s technickými špecifikáciami a postupmi schvaľovania a používania bezpečnostných zariadení týkajúcich sa systémov AI v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) 2024/1689 ( *1 ) sa zohľadňujú požiadavky stanovené v kapitole III oddiele 2 uvedeného nariadenia.
Článok 103
Zmena nariadenia (EÚ) č. 167/2013
V článku 17 ods. 5 nariadenia (EÚ) č. 167/2013 sa dopĺňa tento pododsek:
„Pri prijímaní delegovaných aktov podľa prvého pododseku týkajúcich sa systémov AI, ktoré sú bezpečnostnými komponentmi v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) 2024/1689 ( *2 ), sa zohľadňujú požiadavky stanovené v kapitole III oddiele 2 uvedeného nariadenia.
Článok 104
Zmena nariadenia (EÚ) č. 168/2013
V článku 22 ods. 5 nariadenia (EÚ) č. 168/2013 sa dopĺňa tento pododsek:
„Pri prijímaní delegovaných aktov podľa prvého pododseku týkajúcich sa systémov AI, ktoré sú bezpečnostnými komponentmi v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) 2024/1689 ( *3 ), sa zohľadňujú požiadavky stanovené v kapitole III oddiele 2 uvedeného nariadenia.
Článok 105
Zmena smernice 2014/90/EÚ
V článku 8 smernice 2014/90/EÚ sa dopĺňa tento odsek:
Článok 106
Zmena smernice (EÚ) 2016/797
V článku 5 smernice (EÚ) 2016/797 sa dopĺňa tento odsek:
Článok 107
Zmena nariadenia (EÚ) 2018/858
V článku 5 nariadenia (EÚ) 2018/858 sa dopĺňa tento odsek:
Článok 108
Zmeny nariadenia (EÚ) 2018/1139
Nariadenie (EÚ) 2018/1139 sa mení takto:
V článku 17 sa dopĺňa tento odsek:
V článku 19 sa dopĺňa tento odsek:
V článku 43 sa dopĺňa tento odsek:
V článku 47 sa dopĺňa tento odsek:
V článku 57 sa dopĺňa tento pododsek:
„Pri prijímaní uvedených vykonávacích aktov týkajúcich sa systémov AI, ktoré sú bezpečnostnými komponentmi v zmysle nariadenia (EÚ) 2024/1689, sa zohľadňujú požiadavky stanovené v kapitole III oddiele 2 uvedeného nariadenia.“
V článku 58 sa dopĺňa tento odsek:
Článok 109
Zmena nariadenia (EÚ) 2019/2144
V článku 11 nariadenia (EÚ) 2019/2144 sa dopĺňa tento odsek:
Článok 110
Zmena smernice (EÚ) 2020/1828
V prílohe I k smernici Európskeho parlamentu a Rady (EÚ) 2020/1828 ( 3 ) sa dopĺňa tento bod:
Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
Článok 111
Systémy AI, ktoré už boli uvedené na trh alebo do prevádzky a modely AI na všeobecné účely, ktoré už boli uvedené na trh
Pri hodnotení každého rozsiahleho informačného systému zriadeného právnymi aktmi uvedenými v prílohe X, ktoré sa má vykonať podľa uvedených právnych aktov a vtedy, keď sa uvedené právne akty nahradia alebo zmenia, sa zohľadnia požiadavky stanovené v tomto nariadení.
Článok 112
Hodnotenie a preskúmanie
Komisia do 2. augusta 2028 a potom každé štyri roky vyhodnotí nasledovné skutočnosti a predloží správu Európskemu parlamentu a Rade:
potrebu zmien, ktorými sa rozširujú existujúce oblasti alebo dopĺňajú nové oblasti v prílohe III;
zmeny zoznamu systémov AI, ktoré si vyžadujú dodatočné opatrenia v oblasti transparentnosti podľa článku 50;
zmeny, ktorými sa zvyšuje účinnosť systému dohľadu a správy a riadenia.
V správach uvedených v odseku 2 sa venuje osobitná pozornosť:
stavu finančných, technických a ľudských zdrojov vnútroštátnych príslušných orgánov na účinné vykonávanie úloh, ktoré im boli pridelené podľa tohto nariadenia;
stavu sankcií, najmä správnych pokút uvedených v článku 99 ods. 1, ktoré členské štáty ukladajú za porušenie tohto nariadenia;
prijatým harmonizovaným normám a spoločným špecifikáciám vypracovaným na podporu tohto nariadenia;
počtu podnikov, ktoré vstúpia na trh po začatí uplatňovania tohto nariadenia, a tomu, koľko z nich sú MSP.
S cieľom usmerniť hodnotenia a preskúmania uvedené v odsekoch 1 až 7 tohto článku vypracuje úrad pre AI objektívnu a participatívnu metodiku hodnotenia úrovní rizika na základe kritérií uvedených v príslušných článkoch a začlenenia nových systémov do:
zoznamu uvedeného v prílohe III vrátane rozšírenia existujúcich oblastí alebo pridania nových oblastí do uvedenej prílohy;
zoznamu zakázaných praktík uvedených v článku 5 a
zoznamu systémov AI, ktoré si vyžadujú dodatočné opatrenia v oblasti transparentnosti podľa článku 50.
Článok 113
Nadobudnutie účinnosti a uplatňovanie
Toto nariadenie nadobúda účinnosť dvadsiatym dňom nasledujúcim po jeho uverejnení v Úradnom vestníku Európskej únie.
Uplatňuje sa od 2. augusta 2026.
Avšak:
kapitoly I a II sa uplatňujú od 2. februára 2025 s výnimkou článku 5 ods. 1 prvého pododseku písm. ba) a bb) a článku 5 ods. 1a a 1b, ktoré sa uplatňujú od 2. decembra 2026;
kapitola III oddiel 4, kapitola V, kapitola VII, kapitola XII a článok 78 sa uplatňujú od 2. augusta 2025, s výnimkou článku 101;
kapitola III oddiely 1, 2 a 3, s výnimkou článku 6 ods. 5, sa uplatňujú od:
2. decembra 2027, pokiaľ ide o systémy AI klasifikované ako vysokorizikové podľa článku 6 ods. 2 a prílohy III, a
2. augusta 2028, pokiaľ ide o systémy AI klasifikované ako vysokorizikové podľa článku 6 ods. 1 a prílohy I;
články 102 až 110 sa uplatňujú od 27. júla 2026.
Toto nariadenie je záväzné v celom rozsahu a priamo uplatniteľné vo všetkých členských štátoch.
PRÍLOHA I
Zoznam harmonizačných právnych predpisov Únie
Oddiel A. Zoznam harmonizačných právnych predpisov Únie na základe nového legislatívneho rámca
▼M1 —————
2. smernica Európskeho parlamentu a Rady 2009/48/ES z 18. júna 2009 o bezpečnosti hračiek (Ú. v. EÚ L 170, 30.6.2009, s. 1);
3. smernica Európskeho parlamentu a Rady 2013/53/EÚ z 20. novembra 2013 o rekreačných plavidlách a vodných skútroch a o zrušení smernice 94/25/ES (Ú. v. EÚ L 354, 28.12.2013, s. 90);
4. smernica Európskeho parlamentu a Rady 2014/33/EÚ z 26. februára 2014 o harmonizácii právnych predpisov členských štátov týkajúcich sa výťahov a bezpečnostných komponentov do výťahov (Ú. v. EÚ L 96, 29.3.2014, s. 251);
5. smernica Európskeho parlamentu a Rady 2014/34/EÚ z 26. februára 2014 o harmonizácii právnych predpisov členských štátov týkajúcich sa zariadení a ochranných systémov určených na použitie v potenciálne výbušnej atmosfére (Ú. v. EÚ L 96, 29.3.2014, s. 309);
6. smernica Európskeho parlamentu a Rady 2014/53/EÚ zo 16. apríla 2014 o harmonizácii právnych predpisov členských štátov týkajúcich sa sprístupňovania rádiových zariadení na trhu, ktorou sa zrušuje smernica 1999/5/ES (Ú. v. EÚ L 153, 22.5.2014, s. 62);
7. smernica Európskeho parlamentu a Rady 2014/68/EÚ z 15. mája 2014 o harmonizácii právnych predpisov členských štátov týkajúcich sa sprístupňovania tlakových zariadení na trhu (Ú. v. EÚ L 189, 27.6.2014, s. 164);
8. nariadenie Európskeho parlamentu a Rady (EÚ) 2016/424 z 9. marca 2016 o lanovkových zariadeniach a zrušení smernice 2000/9/ES (Ú. v. EÚ L 81, 31.3.2016, s. 1);
9. nariadenie Európskeho parlamentu a Rady (EÚ) 2016/425 z 9. marca 2016 o osobných ochranných prostriedkoch a o zrušení smernice Rady 89/686/EHS (Ú. v. EÚ L 81, 31.3.2016, s. 51);
10. nariadenie Európskeho parlamentu a Rady (EÚ) 2016/426 z 9. marca 2016 o spotrebičoch spaľujúcich plynné palivá a zrušení smernice 2009/142/ES (Ú. v. EÚ L 81, 31.3.2016, s. 99);
11. nariadenie Európskeho parlamentu a Rady (EÚ) 2017/745 z 5. apríla 2017 o zdravotníckych pomôckach, zmene smernice 2001/83/ES, nariadenia (ES) č. 178/2002 a nariadenia (ES) č. 1223/2009 a o zrušení smerníc Rady 90/385/EHS a 93/42/EHS (Ú. v. EÚ L 117, 5.5.2017, s. 1);
12. nariadenie Európskeho parlamentu a Rady (EÚ) 2017/746 z 5. apríla 2017 o diagnostických zdravotníckych pomôckach in vitro a o zrušení smernice 98/79/ES a rozhodnutia Komisie 2010/227/EÚ (Ú. v. EÚ L 117, 5.5.2017, s. 176).
Oddiel B. Zoznam iných harmonizačných právnych predpisov Únie
13. Nariadenie Európskeho parlamentu a Rady (ES) č. 300/2008 z 11. marca 2008 o spoločných pravidlách v oblasti bezpečnostnej ochrany civilného letectva a o zrušení nariadenia (ES) č. 2320/2002 (Ú. v. EÚ L 97, 9.4.2008, s. 72);
14. nariadenie Európskeho parlamentu a Rady (EÚ) č. 168/2013 z 15. januára 2013 o schvaľovaní a dohľade nad trhom dvoj- alebo trojkolesových vozidiel a štvorkoliek (Ú. v. EÚ L 60, 2.3.2013, s. 52);
15. nariadenie Európskeho parlamentu a Rady (EÚ) č. 167/2013 z 5. februára 2013 o schvaľovaní poľnohospodárskych a lesných vozidiel a o dohľade nad trhom s týmito vozidlami (Ú. v. EÚ L 60, 2.3.2013, s. 1);
16. smernica Európskeho parlamentu a Rady 2014/90/EÚ z 23. júla 2014 o vybavení námorných lodí a o zrušení smernice Rady 96/98/ES (Ú. v. EÚ L 257, 28.8.2014, s. 146);
17. smernica Európskeho parlamentu a Rady (EÚ) 2016/797 z 11. mája 2016 o interoperabilite železničného systému v Európskej únii (Ú. v. EÚ L 138, 26.5.2016, s. 44);
18. nariadenie Európskeho parlamentu a Rady (EÚ) 2018/858 z 30. mája 2018 o schvaľovaní motorových vozidiel a ich prípojných vozidiel, ako aj systémov, komponentov a samostatných technických jednotiek určených pre takéto vozidlá a o dohľade nad trhom s nimi, ktorým sa menia nariadenia (ES) č. 715/2007 a (ES) č. 595/2009 a zrušuje smernica 2007/46/ES (Ú. v. EÚ L 151, 14.6.2018, s. 1);
19. nariadenie Európskeho parlamentu a Rady (EÚ) 2019/2144 z 27. novembra 2019 o požiadavkách na typové schvaľovanie motorových vozidiel a ich prípojných vozidiel a systémov, komponentov a samostatných technických jednotiek určených pre tieto vozidlá, pokiaľ ide o ich všeobecnú bezpečnosť a ochranu cestujúcich vo vozidle a zraniteľných účastníkov cestnej premávky, ktorým sa mení nariadenie Európskeho parlamentu a Rady (EÚ) 2018/858 a ktorým sa zrušujú nariadenia Európskeho parlamentu a Rady (ES) č. 78/2009, (ES) č. 79/2009 a (ES) č. 661/2009 a nariadenia Komisie (ES) č. 631/2009, (EÚ) č. 406/2010, (EÚ) č. 672/2010, (EÚ) č. 1003/2010, (EÚ) č. 1005/2010, (EÚ) č. 1008/2010, (EÚ) č. 1009/2010, (EÚ) č. 19/2011, (EÚ) č. 109/2011, (EÚ) č. 458/2011, (EÚ) č. 65/2012, (EÚ) č. 130/2012, (EÚ) č. 347/2012, (EÚ) č. 351/2012, (EÚ) č. 1230/2012 a (EÚ) 2015/166 (Ú. v. EÚ L 325, 16.12.2019, s. 1);
20. nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1139 zo 4. júla 2018 o spoločných pravidlách v oblasti civilného letectva, ktorým sa zriaďuje Agentúra Európskej únie pre bezpečnosť letectva a ktorým sa menia nariadenia Európskeho parlamentu a Rady (ES) č. 2111/2005, (ES) č. 1008/2008, (EÚ) č. 996/2010, (EÚ) č. 376/2014 a smernice Európskeho parlamentu a Rady 2014/30/EÚ a 2014/53/EÚ a zrušujú nariadenia Európskeho parlamentu a Rady (ES) č. 552/2004 a (ES) č. 216/2008 a nariadenie Rady (EHS) č. 3922/91 (Ú. v. EÚ L 212, 22.8.2018, s. 1), pokiaľ ide o projektovanie a výrobu lietadiel uvedených v článku 2 ods. 1 písm. a) a b) a ich umiestňovanie na trh, ak sa týka bezpilotných lietadiel, a ich motorov, vrtúľ, súčastí a vybavenia na ich diaľkové ovládanie;
21. nariadenie Európskeho parlamentu a Rady (EÚ) 2023/1230 zo 14. júna 2023 o strojových zariadeniach a o zrušení smernice Európskeho parlamentu a Rady 2006/42/ES a smernice Rady 73/361/EHS (Ú. v. EÚ L 165, 29.6.2023, s. 1, ELI: http://data.europa.eu/eli/reg/2023/1230/oj).
PRÍLOHA II
Zoznam trestných činov podľa článku 5 ods. 1 prvého pododseku písm. h) bodu iii)
Trestné činy podľa článku 5 ods. 1 prvého pododseku písm. h) bodu iii):
PRÍLOHA III
Vysokorizikové systémy AI podľa článku 6 ods. 2
Vysokorizikové systémy AI podľa článku 6 ods. 2 sú systémy AI uvedené v ktorejkoľvek z týchto oblastí:
Biometria, pokiaľ je jej použitie povolené podľa príslušných právnych predpisov Únie alebo vnútroštátnych právnych predpisov:
systémy diaľkovej biometrickej identifikácie.
Nie sú tu zahrnuté systémy AI určené na používanie na biometrické overenie, ktorých jediným účelom je potvrdiť, že konkrétna fyzická osoba je osobou, za ktorú sa vydáva;
systémy AI určené na použitie na biometrickú kategorizáciu podľa citlivých alebo chránených atribútov alebo charakteristík na základe odvodenia týchto atribútov alebo charakteristík;
systémy AI určené na rozpoznávanie emócií.
Kritická infraštruktúra: systémy AI, ktoré sa majú používať ako bezpečnostné komponenty pri riadení a prevádzke kritickej digitálnej infraštruktúry, cestnej premávky alebo pri dodávkach vody, plynu, tepla alebo elektriny.
Vzdelávanie a odborná príprava:
systémy AI, ktoré sa majú používať na určenie prístupu alebo prijatia alebo pridelenia fyzických osôb do inštitúcií vzdelávania a odbornej prípravy na všetkých úrovniach;
systémy AI, ktoré sa majú používať na hodnotenie vzdelávacích výstupov, a to aj vtedy, keď sa tieto výstupy používajú na riadenie procesu učenia fyzických osôb v inštitúciách vzdelávania a odbornej prípravy na všetkých úrovniach;
systémy AI, ktoré sa majú používať na účely posúdenia primeranej úrovne vzdelania, ktoré fyzická osoba získa alebo ku ktorému bude mať prístup, v kontexte alebo v rámci inštitúcie vzdelávania a odbornej prípravy na všetkých úrovniach;
systémy AI, ktoré sa majú používať na monitorovanie a zisťovanie zakázaného správania študentov počas skúšok v kontexte alebo v rámci inštitúcií vzdelávania a odbornej prípravy na všetkých úrovniach.
Zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti:
systémy AI, ktoré sa majú používať na nábor alebo výber fyzických osôb, najmä na umiestňovanie cielených inzerátov na pracovné miesta, na analýzu a filtrovanie žiadostí o zamestnanie a na hodnotenie uchádzačov;
systémy AI, ktoré sa majú používať pri rozhodovaní o podmienkach pracovnoprávnych vzťahov, o kariérnom postupe v zamestnaní alebo ukončení zmluvných pracovnoprávnych vzťahov, pri prideľovaní úloh na základe individuálneho správania alebo osobných čŕt alebo charakteristických znakov alebo pri monitorovaní a hodnotení výkonnosti a správania osôb v rámci takýchto vzťahov.
Prístup k základným súkromným službám a základným verejným službám a dávkam a ich využívanie:
systémy AI, ktoré majú používať orgány verejnej moci alebo ktoré sa majú používať v ich mene na hodnotenie oprávnenosti fyzických osôb na základné dávky a služby verejnej pomoci vrátane služieb zdravotnej starostlivosti, ako aj na poskytovanie, zníženie či zrušenie takýchto dávok a služieb alebo uplatnenie nároku na ich vrátenie;
systémy AI, ktoré sa majú používať na hodnotenie úverovej bonity fyzických osôb alebo stanovenie ich bodového hodnotenia kreditného rizika, s výnimkou systémov AI používaných na účely odhaľovania finančných podvodov;
systémy AI, ktoré sa majú používať na hodnotenie rizika a stanovovanie cien vo vzťahu k fyzickým osobám v prípade životného a zdravotného poistenia;
systémy AI určené na hodnotenie a klasifikáciu tiesňových volaní fyzických osôb alebo na vysielanie záchranných služieb prvej reakcie vrátane zo strany polície, hasičov a zdravotníckej pomoci alebo na stanovovanie priority ich vysielania, ako aj pokiaľ ide o systémy triedenia pacientov v rámci pohotovostnej zdravotnej starostlivosti.
Presadzovanie práva, pokiaľ je ich použitie povolené podľa príslušných právnych predpisov Únie alebo vnútroštátnych právnych predpisov:
systémy AI, ktoré majú používať orgány presadzovania práva alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na podporu orgánov presadzovania práva alebo ktoré sa majú používať v ich mene na posudzovanie rizika, že sa fyzická osoba stane obeťou trestných činov;
systémy AI, ktoré majú používať orgány presadzovania práva alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na podporu orgánov presadzovania práva ako polygrafy alebo podobné nástroje;
systémy AI, ktoré majú používať orgány presadzovania práva alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na podporu orgánov presadzovania práva na hodnotenie spoľahlivosti dôkazov v priebehu vyšetrovania alebo stíhania trestných činov;
systémy AI, ktoré majú používať orgány presadzovania práva alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na podporu orgánov presadzovania práva na posudzovanie rizika, že fyzická osoba spácha alebo opätovne spácha trestný čin, a to nielen na základe profilovania fyzických osôb uvedeného v článku 3 bode 4 smernice (EÚ) 2016/680, alebo na posúdenie osobnostných čŕt a charakteristických znakov alebo trestnej činnosti fyzických osôb alebo skupín v minulosti;
systémy AI, ktoré majú používať orgány presadzovania práva alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na podporu orgánov presadzovania práva na profilovanie fyzických osôb uvedené v článku 3 bode 4 smernice (EÚ) 2016/680 v priebehu odhaľovania, vyšetrovania alebo stíhania trestných činov.
Migrácia, azyl a riadenie kontroly hraníc, pokiaľ je ich použitie povolené podľa príslušných právnych predpisov Únie alebo vnútroštátnych právnych predpisov:
systémy AI, ktoré majú používať príslušné orgány verejnej moci alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie ako polygrafy alebo podobné nástroje;
systémy AI, ktoré majú používať príslušné orgány verejnej moci alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na posúdenie rizika vrátane bezpečnostného rizika, rizika neoprávnenej migrácie alebo zdravotného rizika, ktoré predstavuje fyzická osoba, ktorá má v úmysle vstúpiť na územie členského štátu alebo naň už vstúpila;
systémy AI, ktoré majú používať príslušné orgány verejnej moci alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie na pomoc príslušným orgánom verejnej moci na preskúmanie žiadostí o azyl, víza alebo povolenia na pobyt a súvisiacich sťažností týkajúcich sa oprávnenosti fyzických osôb žiadajúcich o určitý status vrátane súvisiaceho posudzovania spoľahlivosti dôkazov;
systémy AI, ktoré majú používať príslušné orgány verejnej moci alebo ktoré sa majú používať v ich mene alebo ktoré majú používať inštitúcie, orgány, úrady alebo agentúry Únie v súvislosti s migráciou, azylom a riadením kontroly hraníc na účely odhaľovania, uznávania alebo identifikácie fyzických osôb s výnimkou overovania cestovných dokladov.
Výkon spravodlivosti a demokratické procesy:
systémy AI, ktoré má používať justičný orgán alebo ktoré sa majú používať v jeho mene na pomoc justičnému orgánu pri skúmaní a interpretácii skutkových okolností a práva a pri uplatňovaní práva na konkrétny súbor skutkových okolností alebo ktoré sa majú používať obdobným spôsobom pri alternatívnom riešení sporov;
systémy AI určené na ovplyvňovanie výsledku volieb alebo referenda alebo volebného správania fyzických osôb pri hlasovaní vo voľbách alebo v referende; nepatria sem systémy AI, ktorých výstupom nie sú fyzické osoby priamo vystavené, ako sú nástroje používané na organizovanie, optimalizáciu alebo tvorbu štruktúry politických kampaní z administratívneho a logistického hľadiska.
PRÍLOHA IV
Technická dokumentácia podľa článku 11 ods. 1
Technická dokumentácia podľa článku 11 ods. 1 obsahuje v závislosti od príslušného systému AI aspoň tieto informácie:
všeobecný opis systému AI vrátane týchto prvkov:
jeho zamýšľaný účel, meno poskytovateľa a verziu systému odrážajúcu jeho vzťah k predchádzajúcim verziám;
spôsob interakcie systému AI s hardvérom alebo softvérom vrátane iných systémov AI, ktoré nie sú súčasťou samotného systému AI, alebo ako ho prípadne možno na takúto interakciu použiť;
verzie príslušného softvéru alebo firmvéru a všetky požiadavky týkajúce sa aktualizácií verzií;
opis všetkých foriem, v ktorých sa systém AI uvádza na trh alebo do prevádzky, ako sú softvérové balíky zabudované do hardvéru, stiahnuteľná forma alebo aplikačné programovacie rozhrania;
opis hardvéru, na ktorom má systém AI fungovať;
ak je systém AI komponentom výrobkov, fotografií alebo ilustrácií znázorňujúcich vonkajšie znaky, označenie a vnútorné usporiadanie týchto výrobkov;
základný opis používateľského rozhrania poskytnutého nasadzujúcemu subjektu;
návod na použitie pre nasadzujúci subjekt a prípadný základný opis používateľského rozhrania poskytnutého nasadzujúcemu subjektu;
podrobný opis prvkov systému AI a procesu jeho vývoja, vrátane:
metód a krokov vykonaných pri vývoji systému AI vrátane prípadného využívania vopred natrénovaných systémov alebo nástrojov poskytnutých tretími stranami a spôsobu, akým ich poskytovateľ používal, integroval alebo zmenil;
špecifikácií dizajnu systému, konkrétne všeobecnej logiky systému AI a algoritmov; kľúčových rozhodnutí o riešeniach dizajnu vrátane odôvodnenia a predpokladov, a to aj so zreteľom na osoby alebo skupiny osôb, vo vzťahu ku ktorým sa má systém používať; hlavných možností klasifikácie; čo má systém optimalizovať a relevantnosť jednotlivých parametrov; opisu očakávaného výstupu systému a kvality tohto výstupu; rozhodnutí o akomkoľvek možnom kompromise vykonanom v súvislosti s technickými riešeniami prijatými na dosiahnutie súladu s požiadavkami stanovenými v kapitole III oddiele 2;
opisu architektúry systému, v ktorom sa vysvetľuje, ako softvérové komponenty na seba nadväzujú alebo ako sa navzájom dopĺňajú a integrujú do celkového spracúvania; výpočtových zdrojov používaných na vývoj, trénovanie, testovanie a validáciu systému AI;
v príslušnom prípade požiadaviek na údaje, pokiaľ ide o údajové hárky s opisom trénovacích metodík a techník a použitých súborov trénovacích údajov vrátane všeobecného opisu týchto súborov údajov, informácií o ich pôvode, rozsahu a hlavných charakteristikách; spôsobu získavania a výberu údajov; postupov označovania (napr. pre učenie pod dohľadom), metodík čistenia údajov (napr. zisťovanie odľahlých hodnôt);
posúdenia potrebných opatrení na zabezpečenie ľudského dohľadu v súlade s článkom 14 vrátane posúdenia technických opatrení potrebných na uľahčenie interpretácie výstupov systémov AI nasadzujúcimi subjektmi v súlade s článkom 13 ods. 3 písm. d);
v náležitom prípade podrobného opisu vopred určených zmien systému AI a jeho výkonnosti spolu so všetkými relevantnými informáciami týkajúcimi sa technických riešení prijatých na zabezpečenie trvalého súladu systému AI s príslušnými požiadavkami stanovenými v kapitole III oddiele 2;
použitých postupov validácie a testovania vrátane informácií o použitých validačných a testovacích údajoch a ich hlavných charakteristikách; metrík používaných na meranie presnosti, spoľahlivosti a dosiahnutia súladu s inými relevantnými požiadavkami stanovenými v kapitole III oddiele 2, ako aj potenciálne diskriminačných vplyvov; testovacích log a všetkých správ o testoch s dátumom a podpisom zodpovedných osôb, a to aj pokiaľ ide o vopred určené zmeny uvedené v písmene f);
zavedených opatrení v oblasti kybernetickej bezpečnosti;
podrobné informácie o monitorovaní, fungovaní a kontrole systému AI, najmä pokiaľ ide o: jeho spôsobilosti a obmedzenia výkonnosti vrátane miery presnosti v prípade konkrétnych osôb alebo skupín osôb, v prípade ktorých sa má systém používať, a celkovú očakávanú úroveň presnosti vo vzťahu k zamýšľanému účelu; predvídateľné nezamýšľané výsledky a zdroje rizík pre zdravie a bezpečnosť, základné práva a diskrimináciu vzhľadom na zamýšľaný účel systému AI; opatrenia na zabezpečenie ľudského dohľadu potrebné v súlade s článkom 14 vrátane technických opatrení zavedených na uľahčenie interpretácie výstupov systémov AI nasadzujúcimi subjektmi; prípadné špecifikácie vstupných údajov;
opis vhodnosti ukazovateľov výkonnosti pre konkrétny systém AI;
podrobný opis systému riadenia rizík v súlade s článkom 9;
opis relevantných zmien systému, ktoré vykonal poskytovateľ počas jeho životného cyklu;
zoznam harmonizovaných, úplne alebo čiastočne uplatnených noriem, na ktoré boli uverejnené odkazy v Úradnom vestníku Európskej únie; ak sa žiadne takéto harmonizované normy neuplatnili, podrobný opis riešení prijatých na splnenie požiadaviek stanovených v kapitole III oddiele 2 vrátane zoznamu iných príslušných noriem a technických špecifikácií, ktoré sa uplatnili;
kópiu EÚ vyhlásenia o zhode uvedeného v článku 47;
podrobný opis systému zavedeného na hodnotenie výkonnosti systému AI vo fáze po uvedení na trh v súlade s článkom 72 vrátane plánu monitorovania po uvedení na trh v zmysle článku 72 ods. 3.
PRÍLOHA V
EÚ vyhlásenie o zhode
EÚ vyhlásenie o zhode uvedené v článku 47 obsahuje všetky tieto informácie:
názov a typ systému AI a akýkoľvek ďalší jednoznačný odkaz umožňujúci identifikáciu a vysledovateľnosť systému AI;
meno a adresa poskytovateľa alebo v náležitom prípade jeho splnomocneného zástupcu;
vyhlásenie o tom, že EÚ vyhlásenie o zhode uvedené v článku 47 sa vydáva na výhradnú zodpovednosť poskytovateľa;
vyhlásenie, že systém AI je v zhode s týmto nariadením a prípadne aj s akýmikoľvek iným príslušným právom Únie, ktorým sa stanovuje vydávanie EÚ vyhlásenia o zhode uvedeného v článku 47;
ak systém AI zahŕňa spracúvanie osobných údajov, vyhlásenie, že tento systém AI je v súlade s nariadeniami (EÚ) 2016/679 a (EÚ) 2018/1725 a so smernicou (EÚ) 2016/680;
odkazy na všetky príslušné použité harmonizované normy alebo akékoľvek iné spoločné špecifikácie, v súvislosti s ktorými sa vyhlasuje zhoda;
v náležitom prípade meno a identifikačné číslo notifikovanej osoby, opis použitého postupu posudzovania zhody a identifikácia vydaného certifikátu;
miesto a dátum vydania vyhlásenia, meno a funkcia osoby, ktorá ho podpísala, ako aj informácia o tom, pre koho alebo v mene koho daná osoba vyhlásenie podpísala, a podpis.
PRÍLOHA VI
Postup posudzovania zhody na základe vnútornej kontroly
1. Postup posudzovania zhody na základe vnútornej kontroly je postup posudzovania zhody založený na bodoch 2, 3 a 4.
2. Poskytovateľ overí, či je zavedený systém riadenia kvality v súlade s požiadavkami článku 17.
3. Poskytovateľ preskúma informácie obsiahnuté v technickej dokumentácii s cieľom posúdiť súlad systému AI s príslušnými základnými požiadavkami stanovenými v kapitole III oddiele 2.
4. Poskytovateľ takisto overí, či je proces dizajnu a vývoja systému AI a jeho monitorovanie po uvedení na trh v zmysle článku 72 v súlade s technickou dokumentáciou.
PRÍLOHA VII
Zhoda založená na posúdení systému riadenia kvality a na posúdení technickej dokumentácie
1. Úvod
Zhoda založená na posúdení systému riadenia kvality a na posúdení technickej dokumentácie je postup posudzovania zhody založený na bodoch 2 až 5.
2. Prehľad
Schválený systém riadenia kvality pre dizajn, vývoj a testovanie systémov AI podľa článku 17 sa preskúma v súlade s bodom 3 a podlieha dohľadu v zmysle bodu 5. Technická dokumentácia systému AI sa preskúma v súlade s bodom 4.
3. Systém riadenia kvality
3.1. Žiadosť poskytovateľa obsahuje:
meno a adresu poskytovateľa, a ak žiadosť podáva splnomocnený zástupca, aj jeho meno a adresu;
zoznam systémov AI, na ktoré sa vzťahuje ten istý systém riadenia kvality;
technickú dokumentáciu pre každý systém AI, na ktorý sa vzťahuje ten istý systém riadenia kvality;
dokumentáciu týkajúcu sa systému riadenia kvality, ktorá zahŕňa všetky aspekty uvedené v článku 17;
opis zavedených postupov na zabezpečenie zachovania primeranosti a účinnosti systému riadenia kvality;
písomné vyhlásenie, že tá istá žiadosť nebola podaná inej notifikovanej osobe.
3.2. Systém riadenia kvality posudzuje notifikovaná osoba, ktorá určí, či systém spĺňa požiadavky uvedené v článku 17.
Rozhodnutie sa oznámi poskytovateľovi alebo jeho splnomocnenému zástupcovi.
Oznámenie obsahuje závery posúdenia systému riadenia kvality a odôvodnené rozhodnutie o posúdení.
3.3. Schválený systém riadenia kvality poskytovateľ naďalej uplatňuje a udržiava tak, aby bol aj naďalej primeraný a účinný.
3.4. Poskytovateľ informuje notifikovanú osobu o každej zamýšľanej zmene schváleného systému riadenia kvality alebo zmene zoznamu systémov AI, na ktoré sa tento systém vzťahuje.
Notifikovaná osoba navrhované zmeny preskúma a rozhodne, či zmenený systém riadenia kvality naďalej spĺňa požiadavky uvedené v bode 3.2, alebo či je potrebné opätovné posúdenie.
Notifikovaná osoba oznámi svoje rozhodnutie poskytovateľovi. Oznámenie obsahuje závery preskúmania zmien a odôvodnené rozhodnutie o posúdení.
4. Kontrola technickej dokumentácie
4.1. Okrem žiadosti uvedenej v bode 3 predkladá poskytovateľ notifikovanej osobe podľa svojho výberu žiadosť o posúdenie technickej dokumentácie vzťahujúcej sa na systém AI, ktorý plánuje uviesť na trh alebo do prevádzky a na ktorý sa vzťahuje systém riadenia kvality uvedený v bode 3.
4.2. Žiadosť obsahuje:
meno a adresu poskytovateľa;
písomné vyhlásenie, že tá istá žiadosť nebola podaná inej notifikovanej osobe;
technickú dokumentáciu uvedenú v prílohe IV.
4.3. Notifikovaná osoba technickú dokumentáciu preskúma. Notifikovanej osobe sa v relevantných prípadoch a s obmedzením na to, čo je potrebné na plnenie jej úloh, poskytne úplný prístup k použitým súborom trénovacích, validačných a testovacích údajov, v prípade potreby a s výhradou bezpečnostných záruk aj prostredníctvom aplikačného programovacieho rozhrania alebo iných relevantných technických prostriedkov a nástrojov umožňujúcich diaľkový prístup.
4.4. Pri skúmaní technickej dokumentácie môže notifikovaná osoba požadovať, aby poskytovateľ predložil ďalšie dôkazy alebo vykonal ďalšie testy s cieľom umožniť riadne posúdenie zhody systému AI s požiadavkami stanovenými v kapitole III oddiele 2. Ak notifikovaná osoba nie je s testmi, ktoré vykonal poskytovateľ, spokojná, zodpovedajúce testy vykoná v prípade potreby priamo samotná notifikovaná osoba.
4.5. Ak je to potrebné na posúdenie zhody vysokorizikového systému AI s požiadavkami stanovenými v kapitole III oddiele 2, po vyčerpaní všetkých ostatných primeraných prostriedkov overenia zhody, ktoré sa ukázali ako nedostatočné, a na základe odôvodnenej žiadosti sa notifikovanej osobe udelí prístup aj k trénovacím a trénovaným modelom systému AI vrátane jeho relevantných parametrov. Takýto prístup podlieha platným právnym predpisom Únie o ochrane duševného vlastníctva a obchodného tajomstva.
4.6. Rozhodnutie notifikovanej osoby sa oznámi poskytovateľovi alebo jeho splnomocnenému zástupcovi. Oznámenie obsahuje závery posúdenia technickej dokumentácie a odôvodnené rozhodnutie o posúdení.
Ak je systém AI v zhode s požiadavkami stanovenými v kapitole III oddiele 2, notifikovaná osoba vydá certifikát Únie o posúdení technickej dokumentácie. V certifikáte sa uvádza meno a adresa poskytovateľa, závery preskúmania, podmienky jeho platnosti (ak existujú) a potrebné údaje na identifikáciu systému AI.
Certifikát a jeho prílohy obsahujú všetky relevantné informácie, ktoré umožňujú vyhodnotiť zhodu systému AI a v prípade potreby kontrolu systému AI počas jeho používania.
Ak systém AI nie je v zhode s požiadavkami stanovenými v kapitole III oddiele 2, notifikovaná osoba zamietne vydanie certifikátu Únie o posúdení technickej dokumentácie a následne o tom informuje žiadateľa, pričom uvedie podrobné dôvody zamietnutia.
Ak systém AI nespĺňa požiadavku týkajúcu sa údajov použitých na jeho trénovanie, pred podaním žiadosti o nové posúdenie zhody bude potrebné opätovné trénovanie systému AI. V tomto prípade odôvodnené rozhodnutie notifikovanej osoby o posúdení, ktorým sa zamieta vydanie certifikátu Únie o posúdení technickej dokumentácie, obsahuje konkrétne vyjadrenia o kvalite údajov použitých na trénovanie systému AI, najmä o dôvodoch nesúladu.
4.7. Každú zmenu systému AI, ktorá by mohla ovplyvniť súlad systému AI s požiadavkami alebo jeho zamýšľaným účelom, posudzuje notifikovaná osoba, ktorá vydala certifikát Únie o posúdení technickej dokumentácie. Poskytovateľ takúto notifikovanú osobu informuje o svojom zámere zaviesť ktorúkoľvek z uvedených zmien, alebo ak sa o výskyte takýchto zmien dozvedel inak. Plánované zmeny posudzuje notifikovaná osoba, ktorá rozhoduje, či si tieto zmeny vyžadujú nové posúdenie zhody v súlade s článkom 43 ods. 4, alebo či by sa na ne mohol vzťahovať dodatok k certifikátu Únie o posúdení technickej dokumentácie. V druhom prípade notifikovaná osoba tieto zmeny posúdi, svoje rozhodnutie oznámi poskytovateľovi a v prípade schválenia zmien mu vydá dodatok k certifikátu Únie o posúdení technickej dokumentácie.
5. Dohľad nad schváleným systémom riadenia kvality
5.1. Účelom dohľadu vykonávaného notifikovanou osobou v zmysle bodu 3 je zabezpečiť, aby poskytovateľ riadne dodržiaval podmienky schváleného systému riadenia kvality.
5.2. Na účely posúdenia poskytovateľ umožní notifikovanej osobe prístup do priestorov, v ktorých sa uskutočňuje dizajn, vývoj alebo testovanie systémov AI. Poskytovateľ ďalej notifikovanej osobe poskytuje všetky potrebné informácie.
5.3. Notifikovaná osoba vykonáva pravidelné audity s cieľom zabezpečiť, aby poskytovateľ zachovával a uplatňoval systém riadenia kvality, a poskytovateľovi predkladá správu o audite. V rámci týchto auditov môže notifikovaná osoba vykonať dodatočné testy systémov AI, pre ktoré bol vydaný certifikát Únie o posúdení technickej dokumentácie.
PRÍLOHA VIII
Informácie, ktoré sa majú predložiť pri registrácii vysokorizikových systémov AI v súlade s článkom 49
Oddiel A – Informácie, ktoré majú predkladať poskytovatelia vysokorizikových systémov AI v súlade s článkom 49 ods. 1
V súvislosti s vysokorizikovými systémami AI, ktoré sa majú registrovať v súlade s článkom 49 ods. 1, sa poskytujú a následne aktualizujú tieto informácie:
názov, adresa a kontaktné údaje poskytovateľa;
v prípade, že informácie za poskytovateľa predkladá iná osoba, meno, adresa a kontaktné údaje danej osoby;
v náležitom prípade meno, adresa a kontaktné údaje splnomocneného zástupcu;
obchodný názov systému AI a akýkoľvek ďalší jednoznačný odkaz umožňujúci identifikáciu a vysledovateľnosť systému AI;
opis zamýšľaného účelu systému AI a komponentov a funkcií podporovaných prostredníctvom tohto systému AI;
základný a stručný opis informácií, ktoré systémom používa (údaje, vstupy), a jeho prevádzkovej logiky;
status systému AI (na trhu alebo v prevádzke; už nie je na trhu/v prevádzke, stiahnutý od používateľa);
typ, číslo a dátum skončenia platnosti certifikátu vydaného notifikovanou osobou a v náležitom prípade meno alebo identifikačné číslo tejto notifikovanej osoby;
v náležitom prípade naskenovaná kópia certifikátu uvedeného v bode 8;
všetky členské štáty, v ktorých bol systém AI uvedený na trh, uvedený do prevádzky alebo sprístupnený v Únii;
kópia EÚ vyhlásenia o zhode uvedeného v článku 47;
elektronický návod na použitie; tieto informácie sa neposkytujú v prípade vysokorizikových systémov AI v oblastiach presadzovania práva alebo migrácie, azylu a riadenia kontroly hraníc v zmysle prílohy III bodov 1, 6 a 7;
adresa URL pre doplňujúce informácie (nepovinné).
Oddiel B – Informácie, ktoré majú predkladať poskytovatelia vysokorizikových systémov AI v súlade s článkom 49 ods. 2
V súvislosti so systémami AI, ktoré sa majú registrovať v súlade s článkom 49 ods. 2, sa poskytujú a následne aktualizujú tieto informácie:
názov, adresa a kontaktné údaje poskytovateľa;
v prípade, že informácie za poskytovateľa predkladá iná osoba, meno, adresa a kontaktné údaje danej osoby;
v náležitom prípade meno, adresa a kontaktné údaje splnomocneného zástupcu;
obchodný názov systému AI a akýkoľvek ďalší jednoznačný odkaz umožňujúci identifikáciu a vysledovateľnosť systému AI;
opis zamýšľaného účelu systému AI;
podmienka alebo podmienky podľa článku 6 ods. 3, na základe ktorých sa systém AI nepovažuje za vysokorizikový;
▼M1 —————
status systému AI (na trhu alebo v prevádzke; už nie je na trhu/v prevádzke, stiahnutý od používateľa).
▼M1 —————
Oddiel C – Informácie, ktoré majú predkladať subjekty nasadzujúce vysokorizikové systémy AI v súlade s článkom 49 ods. 3
V súvislosti s vysokorizikovými systémami AI, ktoré sa majú registrovať v súlade s článkom 49 ods. 3, sa poskytujú a následne aktualizujú tieto informácie:
meno, adresa a kontaktné údaje nasadzujúceho subjektu;
meno, adresa a kontaktné údaje osoby predkladajúcej informácie v mene nasadzujúceho subjektu;
adresa URL zápisu systému AI do databázy Únie jeho poskytovateľom;
zhrnutie zistení posúdenia vplyvu na základné práva vykonaného v súlade s článkom 27;
v náležitých prípadoch zhrnutie posúdenia vplyvu na ochranu údajov vykonaného v súlade s článkom 35 nariadenia (EÚ) 2016/679 alebo článkom 27 smernice (EÚ) 2016/680, ako sa uvádza v článku 26 ods. 8 tohto nariadenia.
PRÍLOHA IX
Informácie, ktoré sa majú predkladať pri registrácii vysokorizikových systémov AI uvedených v prílohe III vo vzťahu k testovaniu v reálnych podmienkach v súlade s článkom 60
V súvislosti s testovaním v reálnych podmienkach, ktoré sa má zaregistrovať v súlade s článkom 60, sa poskytujú a následne aktualizujú tieto informácie:
jedinečné jednotné identifikačné číslo testovania v reálnych podmienkach pre celú Úniu;
meno a kontaktné údaje poskytovateľa alebo potenciálneho poskytovateľa a nasadzujúcich subjektov zapojených do testovania v reálnych podmienkach;
stručný opis systému AI, jeho zamýšľaný účel a ďalšie informácie potrebné na identifikáciu systému;
súhrn hlavných charakteristík plánu testovania v reálnych podmienkach;
informácie o pozastavení alebo ukončení testovania v reálnych podmienkach.
PRÍLOHA X
Legislatívne akty Únie o rozsiahlych informačných systémoch v priestore slobody, bezpečnosti a spravodlivosti
1. Schengenský informačný systém
nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1860 z 28. novembra 2018 o využívaní Schengenského informačného systému na účely návratu neoprávnene sa zdržiavajúcich štátnych príslušníkov tretích krajín (Ú. v. EÚ L 312, 7.12.2018, s. 1);
nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1861 z 28. novembra 2018 o zriadení, prevádzke a využívaní Schengenského informačného systému (SIS) v oblasti hraničných kontrol, o zmene Dohovoru, ktorým sa vykonáva Schengenská dohoda, a o zmene a zrušení nariadenia (ES) č. 1987/2006 (Ú. v. EÚ L 312, 7.12.2018, s. 14);
nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1862 z 28. novembra 2018 o zriadení, prevádzke a využívaní Schengenského informačného systému (SIS) v oblasti policajnej spolupráce a justičnej spolupráce v trestných veciach, o zmene a zrušení rozhodnutia Rady 2007/533/SVV a o zrušení nariadenia Európskeho parlamentu a Rady (ES) č. 1986/2006 a rozhodnutia Komisie 2010/261/EÚ (Ú. v. EÚ L 312, 7.12.2018, s. 56).
2. Vízový informačný systém
nariadenie Európskeho parlamentu a Rady (EÚ) 2021/1133 zo 7. júla 2021, ktorým sa menia nariadenia (EÚ) č. 603/2013, (EÚ) 2016/794, (EÚ) 2018/1862, (EÚ) 2019/816 a (EÚ) 2019/818, pokiaľ ide o stanovenie podmienok prístupu k ostatným informačným systémom EÚ na účely vízového informačného systému (Ú. v. EÚ L 248, 13.7.2021, s. 1);
nariadenie Európskeho parlamentu a Rady (EÚ) 2021/1134 zo 7. júla 2021, ktorým sa na účely reformy vízového informačného systému menia nariadenia Európskeho parlamentu a Rady (ES) č. 767/2008, (ES) č. 810/2009, (EÚ) 2016/399, (EÚ) 2017/2226, (EÚ) 2018/1240, (EÚ) 2018/1860, (EÚ) 2018/1861, (EÚ) 2019/817 a (EÚ) 2019/1896 a zrušujú rozhodnutia Rady 2004/512/ES a 2008/633/SVV (Ú. v. EÚ L 248, 13.7.2021, s. 11).
3. Systém Eurodac
nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1358 zo 14. mája 2024 o zriadení systému Eurodac na porovnávanie biometrických údajov s cieľom účinne uplatňovať nariadenia Európskeho parlamentu a Rady (EÚ) 2024/1315 a (EÚ) 2024/1350 a smernicu Rady 2001/55/ES a identifikovať neoprávnene sa zdržiavajúcich štátnych príslušníkov tretích krajín a osoby bez štátnej príslušnosti, o žiadostiach orgánov presadzovania práva členských štátov a Europolu o porovnanie s údajmi v systéme Eurodac na účely presadzovania práva, o zmene nariadení Európskeho parlamentu a Rady (EÚ) 2018/1240 a (EÚ) 2019/818 a o zrušení nariadenia Európskeho parlamentu a Rady (EÚ) č. 603/2013 (Ú. v. EÚ L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj).
4. Systém vstup/výstup
nariadenie Európskeho parlamentu a Rady (EÚ) 2017/2226 z 30. novembra 2017, ktorým sa zriaďuje systém vstup/výstup na zaznamenávanie údajov o vstupe a výstupe štátnych príslušníkov tretích krajín prekračujúcich vonkajšie hranice členských štátov a o odopretí ich vstupu a stanovujú podmienky prístupu do systému vstup/výstup na účely presadzovania práva, a ktorým sa mení Dohovor, ktorým sa vykonáva Schengenská dohoda, a nariadenia (ES) č. 767/2008 a (EÚ) č. 1077/2011 (Ú. v. EÚ L 327, 9.12.2017, s. 20).
5. Európsky systém pre cestovné informácie a povolenia
nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1240 z 12. septembra 2018, ktorým sa zriaďuje Európsky systém pre cestovné informácie a povolenia (ETIAS) a ktorým sa menia nariadenia (EÚ) č. 1077/2011, (EÚ) č. 515/2014, (EÚ) 2016/399, (EÚ) 2016/1624 a (EÚ) 2017/2226 (Ú. v. EÚ L 236, 19.9.2018, s. 1);
nariadenie Európskeho parlamentu a Rady (EÚ) 2018/1241 z 12. septembra 2018, ktorým sa mení nariadenie (EÚ) 2016/794 na účely zriadenia Európskeho systému cestovných informácií a povolení (ETIAS) (Ú. v. EÚ L 236, 19.9.2018, s. 72).
6. Európsky informačný systém registrov trestov pre štátnych príslušníkov tretích krajín a osoby bez štátnej príslušnosti
nariadenie Európskeho parlamentu a Rady (EÚ) 2019/816 zo 17. apríla 2019, ktorým sa zriaďuje centralizovaný systém na identifikáciu členských štátov, ktoré majú informácie o odsúdeniach štátnych príslušníkov tretích krajín a osôb bez štátnej príslušnosti (ECRIS-TCN), s cieľom doplniť Európsky informačný systém registrov trestov, a ktorým sa mení nariadenie (EÚ) 2018/1726 (Ú. v. EÚ L 135, 22.5.2019, s. 1).
7. Interoperabilita
nariadenie Európskeho parlamentu a Rady (EÚ) 2019/817 z 20. mája 2019 o stanovení rámca pre interoperabilitu medzi informačnými systémami EÚ v oblasti hraníc a víz a o zmene nariadení Európskeho parlamentu a Rady (ES) č. 767/2008, (EÚ) 2016/399, (EÚ) 2017/2226, (EÚ) 2018/1240, (EÚ) 2018/1726 a (EÚ) 2018/1861 a rozhodnutí Rady 2004/512/ES a 2008/633/SVV (Ú. v. EÚ L 135, 22.5.2019, s. 27);
nariadenie Európskeho parlamentu a Rady (EÚ) 2019/818 z 20. mája 2019 o stanovení rámca pre interoperabilitu medzi informačnými systémami EÚ v oblasti policajnej a justičnej spolupráce, azylu a migrácie a o zmene nariadení (EÚ) 2018/1726, (EÚ) 2018/1862 a (EÚ) 2019/816 (Ú. v. EÚ L 135, 22.5.2019, s. 85).
PRÍLOHA XI
Technická dokumentácia podľa článku 53 ods. 1 písm. a) – technická dokumentácia pre poskytovateľov modelov AI na všeobecné účely
Oddiel 1
Informácie, ktoré majú poskytnúť všetci poskytovatelia modelov AI na všeobecné účely
Technická dokumentácia podľa článku 53 ods. 1 písm. a) obsahuje v závislosti od veľkosti a rizikového profilu modelu aspoň tieto informácie:
všeobecný opis modelu AI na všeobecné účely vrátane týchto prvkov:
úlohy, ktoré má model plniť, a typ a povaha systémov AI, do ktorých ho možno integrovať;
uplatniteľné politiky prijateľného použitia;
dátum vydania a spôsoby distribúcie;
architektúra a počet parametrov;
modality (napr. text, obrázok) a formát vstupov a výstupov;
licencia.
Podrobný opis prvkov modelu uvedeného v bode 1 a relevantné informácie o procese vývoja vrátane týchto prvkov:
technické prostriedky (napr. návod na použitie, infraštruktúra, nástroje) potrebné na integráciu modelu AI na všeobecné účely do systémov AI;
špecifikácie dizajnu modelu a procesu trénovania vrátane metodík a techník trénovania, kľúčové rozhodnutia prijaté počas dizajnovania vrátane odôvodnenia a predpokladov; čo má model optimalizovať a relevantnosť jednotlivých parametrov, podľa prípadu;
informácie o údajoch použitých na trénovanie, testovanie a prípadne validáciu vrátane typu a pôvodu údajov a metodík spracovania (napr. čistenie, filtrovanie atď.), o počte údajových bodov, ich rozsahu a hlavných charakteristikách; spôsob, akým sa údaje získali a vybrali, ako aj všetky ostatné opatrenia na zistenie nevhodnosti zdrojov údajov a metód na zistenie identifikovateľných skreslení, podľa prípadu;
výpočtové zdroje použité na trénovanie modelu (napr. počet operácií s pohyblivou rádovou čiarkou), dĺžka trénovania a iné relevantné podrobnosti týkajúce sa trénovania;
známa alebo odhadovaná spotreba energie modelu.
Pokiaľ ide o písmeno e), ak spotreba energie modelu nie je známa, spotreba energie môže byť založená na informáciách o použitých výpočtových zdrojoch.
Oddiel 2
Ďalšie informácie, ktoré majú poskytovať poskytovatelia modelov AI na všeobecné účely so systémovým rizikom
1. Podrobný opis stratégií hodnotenia vrátane výsledkov hodnotenia na základe dostupných protokolov a nástrojov verejného hodnotenia alebo iných metodík hodnotenia. Stratégie hodnotenia zahŕňajú hodnotiace kritériá, metriky a metodiku identifikácie obmedzení.
2. Ak je to relevantné, podrobný opis opatrení zavedených na účely vykonávania interného a/alebo externého testovania na nepriateľské útoky (napr. červené tímy), úpravy modelu vrátane zosúlaďovania a dolaďovania.
3. Ak je to relevantné, podrobný opis architektúry systému, v ktorom sa vysvetľuje, ako softvérové komponenty na seba nadväzujú alebo ako sa navzájom dopĺňajú a ako sú integrované do celkového spracúvania.
PRÍLOHA XII
Informácie o transparentnosti podľa článku 53 ods. 1 písm. b) – technická dokumentácia pre poskytovateľov modelov AI na všeobecné účely pre nadväzujúcich poskytovateľov, ktorí integrujú model do svojho systému AI
Informácie podľa článku 53 ods. 1 písm. b) zahŕňajú aspoň:
všeobecný opis modelu AI na všeobecné účely vrátane týchto prvkov:
úlohy, ktoré má model plniť, a typ a povaha systémov AI, do ktorých ho možno integrovať;
uplatniteľné politiky prijateľného použitia;
dátum vydania a spôsoby distribúcie;
spôsob interakcie modelu s hardvérom alebo softvérom, ktorý nie je súčasťou samotného modelu, alebo ako ho prípadne možno na takúto interakciu použiť;
ak je to relevantné, verzie relevantného softvéru súvisiaceho s používaním modelu AI na všeobecné účely;
architektúra a počet parametrov;
modality (napr. text, obrázok) a formát vstupov a výstupov;
licencia na model.
Opis prvkov modelu a procesu jeho vývoja vrátane:
technických prostriedkov (napr. návod na použitie, infraštruktúra, nástroje) potrebných na integráciu modelu AI na všeobecné účely do systémov AI;
modality (napr. text, obrázok atď.) a formátu vstupov a výstupov a ich maximálnej veľkosti (napr. dĺžka kontextového okna atď.);
informácií o údajoch použitých na trénovanie, testovanie a prípadne validáciu vrátane druhu a pôvodu údajov a metodík spracovania.
PRÍLOHA XIII
Kritériá na určenie modelov AI na všeobecné účely so systémovým rizikom podľa článku 51
S cieľom určiť, či má model AI na všeobecné účely spôsobilosti alebo vplyv rovnocenné s tými, ktoré sú stanovené v článku 51 ods. 1 písm. a), Komisia zohľadní tieto kritériá:
počet parametrov modelu;
kvalita alebo veľkosť dátového súboru, napríklad meraná prostredníctvom tokenov;
výpočtová sila použitá na trénovanie modelu, meraná v operáciách s pohyblivou rádovou čiarkou alebo uvedená kombináciou iných premenných, ako sú odhadované náklady na trénovanie, odhadovaný čas potrebný na trénovanie alebo odhadovaná spotreba energie na trénovanie;
vstupné a výstupné modality modelu, ako sú text na text (veľké jazykové modely), text na obraz, multimodalita a najmodernejšie prahové hodnoty na určenie spôsobilostí s veľkým vplyvom pre každú modalitu a konkrétny typ vstupov a výstupov (napr. biologické sekvencie);
referenčné hodnoty a hodnotenia spôsobilostí modelu vrátane zváženia počtu úloh bez dodatočného trénovania, prispôsobivosť na učenie sa nových, odlišných úloh, úroveň jeho autonómnosti a škálovateľnosti, nástroje, ku ktorým má prístup;
či má veľký vplyv na vnútorný trh z dôvodu svojho dosahu, ktorý sa predpokladá, po sprístupnení najmenej 10 000 registrovaným komerčným používateľom usadeným v Únii;
počet registrovaných koncových používateľov.
PRÍLOHA XIV
Zoznam kódov, kategórií a zodpovedajúcich typov systémov AI na účely notifikačného postupu uvedeného v článku 30, v ktorom sa špecifikuje rozsah určenia ako notifikovaných osôb
1. Úvod
Posudzovanie zhody vysokorizikových systémov AI podľa tohto nariadenia si môže vyžadovať zapojenie orgánov posudzovania zhody. Posudzovanie zhody môžu vykonávať len orgány posudzovania zhody, ktoré boli určené v súlade s týmto nariadením, a to len pre činnosti súvisiace s príslušnými typmi systémov AI. V zozname kódov, kategórií a zodpovedajúcich typov systémov AI sa stanovuje rozsah určenia orgánov posudzovania zhody notifikovaných podľa článku 30.
2. Zoznam kódov, kategórií a zodpovedajúcich systémov AI
a) Systémy AI, na ktoré sa vzťahuje príloha I
|
Kód (akt o umelej inteligencii |
|
|
AIP 0102 |
Systémy AI, na ktoré sa vzťahuje bod 2 oddielu A prílohy I |
|
AIP 0103 |
Systémy AI, na ktoré sa vzťahuje bod 3 oddielu A prílohy I |
|
AIP 0104 |
Systémy AI, na ktoré sa vzťahuje bod 4 oddielu A prílohy I |
|
AIP 0105 |
Systémy AI, na ktoré sa vzťahuje bod 5 oddielu A prílohy I |
|
AIP 0106 |
Systémy AI, na ktoré sa vzťahuje bod 6 oddielu A prílohy I |
|
AIP 0107 |
Systémy AI, na ktoré sa vzťahuje bod 7 oddielu A prílohy I |
|
AIP 0108 |
Systémy AI, na ktoré sa vzťahuje bod 8 oddielu A prílohy I |
|
AIP 0109 |
Systémy AI, na ktoré sa vzťahuje bod 9 oddielu A prílohy I |
|
AIP 0110 |
Systémy AI, na ktoré sa vzťahuje bod 10 oddielu A prílohy I |
|
AIP 0111 |
Systémy AI, na ktoré sa vzťahuje bod 11 oddielu A prílohy I |
|
AIP 0112 |
Systémy AI, na ktoré sa vzťahuje bod 12 oddielu A prílohy I |
b) Systémy AI, na ktoré sa vzťahuje bod 1 prílohy III
|
Kód (akt o umelej inteligencii |
|
|
AIB 0201 |
Systémy diaľkovej biometrickej identifikácie |
|
AIB 0202 |
Systémy AI na biometrickú kategorizáciu |
|
AIB 0203 |
Systémy AI na rozpoznávanie emócií |
3. Kódy špecifické pre technológie AI
a) Symbolická AI a expertné systémy
|
Kód (akt o umelej inteligencii |
|
|
AIH 0101 |
Systémy AI založené na symbolickej AI, expertné a znalostné systémy a systémy AI založené na vyhľadávaní a optimalizácii |
b) Strojové učenie okrem generatívnej AI a AI na všeobecné účely
|
Kód (akt o umelej inteligencii |
|
|
AIH 0201 |
Systémy AI, ktoré spracúvajú štruktúrované údaje |
|
AIH 0202 |
Systémy AI, ktoré spracúvajú signálové a zvukové údaje |
|
AIH 0203 |
Systémy AI, ktoré spracúvajú textové údaje |
|
AIH 0204 |
Systémy AI, ktoré spracúvajú obraz a video |
|
AIH 0205 |
Systémy AI, ktoré sa učia zo svojho prostredia, s výnimkou systémov AI, na ktoré sa vzťahuje kód AIH 0401 |
c) Systémy AI založené na AI na všeobecné účely alebo generatívnej AI
|
Kód (akt o umelej inteligencii |
|
|
AIH 0301 |
Systémy generatívnej AI vrátane systémov AI založených na modeloch AI na všeobecné účely |
d) Vznikajúce technológie AI
|
Kód (akt o umelej inteligencii |
|
|
AIH 0401 |
Systémy AI založené na iných vznikajúcich technológiách AI, na ktoré sa nevzťahujú iné kódy, vrátane agensovej AI |
4. Žiadosť o určenie
Orgány posudzovania zhody používajú zoznamy kódov, kategórií a zodpovedajúcich typov systémov AI uvedené v tejto prílohe pri špecifikácii typov systémov AI v žiadosti o určenie uvedenej v článku 29.
( 1 ) Nariadenie Európskeho parlamentu a Rady (EÚ) č. 1025/2012 z 25. októbra 2012 o európskej normalizácii, ktorým sa menia a dopĺňajú smernice Rady 89/686/EHS a 93/15/EHS a smernice Európskeho parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES a ktorým sa zrušuje rozhodnutie Rady 87/95/EHS a rozhodnutie Európskeho parlamentu a Rady č. 1673/2006/ES (Ú. v. EÚ L 316, 14.11.2012, s. 12, ELI: http://data.europa.eu/eli/reg/2012/1025/oj).
( 1 ) Smernica Európskeho parlamentu a Rady (EÚ) 2016/943 z 8. júna 2016 o prístupnosti webových sídel a mobilných aplikácií subjektov verejného sektora (Ú. v. EÚ L 157, 15.6.2016, s. 1).
( *1 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *2 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *3 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *4 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *5 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *6 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *7 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( *8 ) Nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) (Ú. v. EÚ L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“
( 1 ) Smernica Európskeho parlamentu a Rady (EÚ) 2020/1828 z 25. novembra 2020 o žalobách v zastúpení na ochranu kolektívnych záujmov spotrebiteľov a o zrušení smernice 2009/22/ES (Ú. v. EÚ L 409, 4.12.2020, s. 1).