(1)

Nařízení Evropského parlamentu a Rady (EU) 2024/1689 (5) stanoví harmonizovaná pravidla pro umělou inteligenci (AI) a jeho cílem je zlepšit fungování vnitřního trhu, podpořit zavádění důvěryhodné AI zaměřené na člověka a zároveň zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv a podpořit inovace. Nařízení (EU) 2024/1689 vstoupilo v platnost dne 1. srpna 2024. Jeho ustanovení mají nabýt použitelnosti postupně, přičemž všechna pravidla se začnou používat do 2. srpna 2027.

(2)

Zkušenosti získané z provádění již použitelných částí nařízení (EU) 2024/1689 mohou sloužit jako podklad k provádění částí, které se používat teprve začnou. V této souvislosti vedlo zpoždění při přípravě norem, které poskytovatelům vysoce rizikových systémů AI poskytují technická řešení, která mají zajistit, že budou dodržovat povinnosti podle uvedeného nařízení, a zpoždění při zavádění rámců pro správu a posuzování shody na vnitrostátní úrovni k větší než očekávané zátěži v oblasti dodržování předpisů. Z konzultací se zúčastněnými stranami navíc vyplynulo, že je potřeba přijmout další opatření s cílem usnadnit a vyjasnit provádění a dodržování předpisů, aniž by se snížila úroveň ochrany před riziky souvisejícími s AI v oblasti zdraví, bezpečnosti a základních práv, o jejíž zajištění ustanovení nařízení (EU) 2024/1689 usilují.

(3)

Aby se vyřešily některé problémy při provádění a aby se účinně, jednoduše a jednotně uplatňovala příslušná pravidla, je nutné provést cílené změny nařízení (EU) 2024/1689.

(4)

Aby se umožnily inovace v oblasti AI v soukromém a veřejném sektoru, je důležité, aby Komise a příslušné orgány členských států zajistily, aby dohled nad odvětvovými a vnitrostátními právními předpisy, jejich prosazování a monitorování nevedly k překrývání, nejednotným výkladům nebo rozdílnému prosazování.

(5)

Nařízení (EU) 2024/1689 stanoví horizontální pravidla pro systémy AI s cílem zajistit jednotnou a vysokou úroveň ochrany veřejných zájmů, pokud jde o zdraví, bezpečnost a základní práva. Na vysoce rizikové systémy AI uvedené v čl. 6 odst. 1 se uvedené nařízení uplatňuje ve spojení s harmonizačními právními předpisy Unie uvedenými v příloze I oddíle A. V některých případech je možné, aby takové harmonizační právní předpisy Unie stanovily požadavky, které dosahují stejné nebo vyšší úrovně ochrany příslušných veřejných zájmů, jaké dosahují zvláštní požadavky nebo povinnosti stanovené v nařízení (EU) 2024/1689. V takovém případě by mělo být možné omezit uplatňování zvláštních požadavků nebo povinností stanovených v nařízení (EU) 2024/1689 s cílem usnadnit dodržování předpisů, minimalizovat administrativní zátěž a zdvojování a zároveň zachovat úroveň ochrany zajištěnou uvedeným nařízením. Toto omezení by mělo být možné, pokud harmonizační právní předpisy Unie uvedené v příloze I oddíle A stanoví požadavky zajišťující rovnocennou úroveň ochrany zdraví, bezpečnosti nebo základních práv jako dotčený požadavek nebo povinnost, a to ve stejném rozsahu. Komisi by měla být svěřena pravomoc přijímat akty v přenesené pravomoci za účelem doplnění uvedeného nařízení určením těchto případů a upřesněním dotčených produktů, požadavků nebo povinností, které mohou být omezeny, a podmínek a rozsahu jakéhokoli omezení, aby se zajistilo, že nedojde ke snížení úrovně ochrany stanovené nařízením (EU) 2024/1689.

(6)

Nejvíce podniků v Unii představují malé a střední podniky, z nichž většinu tvoří mikropodniky a malé podniky. Podniky, které překračují definici mikropodniků a malých a středních podniků, tedy – „malé podniky se střední tržní kapitalizací“, hrají v hospodářství Unie zásadní roli. V porovnání s malými a středními podniky vykazují malé podniky se střední tržní kapitalizací vyšší tempo růstu a vyšší úroveň inovací a digitalizace. Přesto se potýkají s podobnými problémy jako malé a střední podniky, pokud jde o administrativní zátěž, v důsledku čehož je zapotřebí proporcionalita při provádění nařízení (EU) 2024/1689 a cílená podpora. Aby byl podnikům zajištěn bezproblémový přechod z kategorie malých a středních podniků do kategorie malých podniků se střední tržní kapitalizací, je důležité důsledně řešit dopady, které může mít dotyčné nařízení na jejich činnost, jakmile se tyto podniky stanou malými podniky se střední tržní kapitalizací a budou muset čelit pravidlům, která se vztahují na velké podniky. Nařízení (EU) 2024/1689 stanoví několik opatření pro malé subjekty, která by měla být případně rozšířena na malé podniky se střední tržní kapitalizací, přičemž by měly být zachovány zastřešující cíle a úroveň ochrany poskytované podle nařízení (EU) 2024/1689. Aby se vyjasnilo zacházení s malými a středními podniky a malými podniky se střední tržní kapitalizací v nařízení (EU) 2024/1689, je nezbytné, aby byly zavedeny definice malých a středních podniků a malých podniků se střední tržní kapitalizací, které by měly odpovídat definicím uvedeným v příloze doporučení Komise 2003/361/ES (6) a v příloze doporučení Komise (EU) 2025/1099 (7).

(7)

Pojem „bezpečnostní komponenta“ je zásadní pro klasifikaci určitých systémů AI jako vysoce rizikových podle nařízení (EU) 2024/1689. Tento pojem by proto měl být zaměřen tak, aby zahrnoval pouze systémy AI, které by mohly mít nepříznivý dopad na zdraví a bezpečnost osob nebo majetku, v souladu s přístupem založeným na posouzení rizik podle uvedeného nařízení. Definice stanovená v čl. 3 bodě 14 nařízení (EU) 2024/1689 není dostatečně jasná, aby poskytovatelé systémů AI mohli určit, zda je systém AI bezpečnostní komponentou, a v důsledku toho hrozí, že se klasifikace vysoce rizikových systémů AI rozšíří nad rámec toho, co je odůvodněno přístupem založeným na posouzení rizik podle uvedeného nařízení. Je proto nezbytné uvedenou definici změnit. Především je nezbytné vyjasnit pojem „bezpečnostní funkce“. Bezpečnostní funkce by měla být zamýšleným účelem systému, který stanoví poskytovatel systému. Systém AI plní bezpečnostní funkci, pokud jeho zamýšleným účelem, jak jej stanoví poskytovatel, je chránit před riziky pro zdraví a bezpečnost osob nebo majetku či tato zmírňovat. To zejména nezahrnuje systémy AI, jejichž zamýšleným účelem je plnit funkce související s uživatelskou podporou, optimalizací výkonnosti, účinností služeb, automatizací, pohodlím nebo aspekty nesouvisejícími s bezpečností u operací kontroly kvality. Pouhá skutečnost, že systém AI je integrován nebo funguje v rámci produktu, na který se vztahují harmonizační právní předpisy Unie, neznamená sama o sobě, že tento systém plní bezpečnostní funkci.

(8)

Článek 4 nařízení (EU) 2024/1689 v současné době stanoví, že všichni poskytovatelé a zavádějící subjekty systémů AI mají povinnost zajistit gramotnost v oblasti AI u svých zaměstnanců. Zvýšení úrovně gramotnosti v oblasti AI, počínajíc vzděláváním a odbornou přípravou a pokračujíc celoživotním vzděláváním, má zásadní význam pro to, aby měli poskytovatelé a zavádějící subjekty systémů AI a další dotčené osoby potřebné dovednosti k přijímání informovaných rozhodnutí, která se týkají zavádění systémů AI. Ze zkušeností zúčastněných stran však vyplývá, že řešení ukládající přísné povinnosti k zajištění dostatečné úrovně gramotnosti v oblasti AI by nebylo vhodné pro všechny typy poskytovatelů a zavádějících subjektů, pokud jde o podporu gramotnosti v oblasti AI. Z údajů navíc vyplývá, že uložení takových povinností představuje dodatečnou zátěž v oblasti dodržování předpisů, zejména pro menší podniky, přičemž gramotnost v oblasti AI by měla být strategickou prioritou bez ohledu na regulační povinnosti a případné sankce. S ohledem na tyto informace by měl být článek 4 nařízení (EU) 2024/1689 změněn tak, aby vyžadoval, aby poskytovatelé a zavádějící subjekty přijali opatření na podporu gramotnosti v oblasti AI u svých zaměstnanců a u dalších osob, které se jejich jménem zabývají provozem a používáním systémů AI. Komise a členské státy by měly podporovat a usnadňovat úsilí poskytovatelů a zavádějících subjektů systémů AI, a to i poskytováním možností odborné přípravy a informačních zdrojů a umožněním výměny osvědčených postupů a prostřednictvím dalších iniciativ. Při plnění této povinnosti by Komise a členské státy mohly zohlednit evropské rámce kompetencí, například rámec digitálních kompetencí pro občany (DigComp) a rámec gramotnosti v oblasti AI pro základní a střední vzdělávání. Evropská rada pro umělou inteligenci (dále jen „rada“) by měla podporovat Komisi a členské státy přijímáním doporučení, ve kterých stanoví společné cíle, jichž má být dosaženo za účelem splnění jejich povinnosti, a zajišťovat pravidelnou výměnu názorů na toto téma mezi Komisí a členskými státy, zatímco Aliance pro využívání AI by měla umožnit diskusi s širší komunitou.

(9)

Odhalování a náprava zkreslení představují významný veřejný zájem, protože chrání fyzické osoby před nepříznivými účinky zkreslení, včetně diskriminace. Z tohoto důvodu nařízení (EU) 2024/1689 stanoví právní základ, který poskytovatele vysoce rizikových systémů AI opravňuje ke zpracování zvláštních kategorií osobních údajů v určitých výjimečných případech a s přísnými zárukami. Tento právní základ je spojen s povinností těchto poskytovatelů zavést postupy týkající se odhalování, prevence a napravování zkreslení, která by mohla ovlivnit zdraví a bezpečnost osob, mít negativní dopad na základní práva nebo vést k diskriminaci zakázané právem Unie. Nicméně zkreslení, která by mohla mít tyto účinky, by mohla vyplývat také z činnosti subjektů zavádějících vysoce rizikové systémy AI. Kromě toho by se takové zkreslení mohlo objevit i v případě jiných systémů nebo modelů AI. Například zkreslení nástrojů hodnocení způsobilosti nebo rizik, které se používají k posuzování žádostí o různé typy veřejných povolení nebo licencí, mohou omezovat práva nebo účinně zabránit určitým skupinám v přístupu k veřejným službám. Existuje tudíž značný veřejný zájem, aby bylo výjimečně a v nezbytně nutných případech poskytovatelům a zavádějícím subjektům jiných systémů a modelů AI a subjektům zavádějícím vysoce rizikové systémy AI povoleno zpracování zvláštních kategorií osobních údajů pro účely odhalování a nápravy zkreslení. Je proto nezbytné rozšířit právní základ stanovený podle nařízení (EU) 2024/1689 i na tyto poskytovatele a zavádějící subjekty. Na tento právní základ by se měla vztahovat stejná omezení, podmínky a záruky, jaká platí v souladu se stávajícím čl. 10 odst. 5 tohoto nařízení, čímž se zajistí soulad s čl. 9 odst. 2 písm. g) nařízení Evropského parlamentu a Rady (EU) 2016/679 (8), čl. 10 odst. 2 písm. g) nařízení Evropského parlamentu a Rady (EU) 2018/1725 (9) a čl. 10 písm. a) směrnice Evropského parlamentu a Rady (EU) 2016/680 (10). Kromě toho, aby poskytovatelé vysoce rizikových systémů AI mohli v souladu s předpisy provádět činnosti spočívající v odhalování a napravování zkreslení v rámci přípravy na splnění požadavků spojených s vysoce rizikovými systémy, včetně čl. 10 odst. 2 písm. f) a g) nařízení (EU) 2024/1689, měl by se právní základ stanovený v článku 4a nařízení (EU) 2024/1689 použít ode dne vstupu uvedeného nařízení v platnost.

(10)

Článek 5 nařízení (EU) 2024/1689 zakazuje určité postupy systémů UI, které jsou obzvláště škodlivé a nekalé, jsou v rozporu s určitými hodnotami Unie a porušují některá základní práva. Článek 5 je třeba průběžně přezkoumávat, jak je stanoveno v čl. 112 odst. 1 uvedeného nařízení. S ohledem na technologický a společenský vývoj od přijetí uvedeného nařízení, včetně zavádění a širokého využívání systémů AI vytvářejících intimní obrazové, filmové, zvukové či podobné materiály bez souhlasu (dále jen „intimní materiály pořízené bez souhlasu“) a materiály pohlavního zneužívání dětí, je nezbytné článek 5 uvedeného nařízení změnit.

(11)

Intimní materiály pořízené bez souhlasu představují sexuální násilí a zneužívání jednotlivců, zejména žen. Systémy AI, které takové materiály vytvářejí nebo s nimi manipulují, představují závažné riziko pro zdraví, bezpečnost a základní práva, mimo jiné lidskou důstojnost, osobní autonomii, integritu a soukromý život obětí, a mohou vést k závažné dlouhodobé psychické a jiné újmě a zneužívání ve velkém měřítku. Šíření takových technologií, které jsou často popisovány jako „svlékací“ aplikace, vyvolává naléhavou potřebu výslovně je v právu zakázat. Materiály pohlavního zneužívání dětí, včetně zcela nebo částečně syntetických materiálů, představuje závažnou hrozbu pro bezpečnost a základní práva dětí. Systémy AI vytvářející takové materiály nebo manipulující s nimi představují závažné riziko pro lidskou důstojnost a práva dětí a mohou vést k normalizaci, šíření a upevňování sexuálního násilí vůči dětem. Proto je nutné změnit článek 5 nařízení (EU) 2024/1689, s cílem jednak chránit ženy, děti, další osoby a společnost před praktikami, které působí závažnou újmu, a tím naplňovat cíle tohoto nařízení, jednak objasnit poskytovatelům a zavádějícím subjektům rozsah jejich povinností, a tím řešit výzvy související s prováděním.

(12)

Je nezbytné jasně definovat rozsah zákazu, mimo jiné zejména rozsah povinností poskytovatelů a zavádějících subjektů. Tento zákaz by neměl bránit poskytovatelům, aby vyvíjeli technické možnosti systémů AI s cílem vytvářet obrazové, filmové, zvukové nebo podobné materiály nebo s nimi manipulovat. Pokud jde o poskytovatele, zákaz by se měl omezovat na uvádění na trh nebo do provozu systémů AI, které vytvářejí intimní materiály pořízené bez souhlasu nebo materiály pohlavního zneužívání dětí nebo s nimi manipulují, ve dvou případech. Zaprvé, měl by se vztahovat na systémy, jejichž účelem je vytvářet takové materiály nebo s nimi manipulovat. Zadruhé, měl by se vztahovat na systémy, kde jsou vytváření těchto materiálů nebo manipulace s nimi důvodně předvídatelným a reprodukovatelným výsledkem a nejsou zavedena přiměřená a dostatečná technická bezpečnostní opatření a jiné záruky, které by s přihlédnutím k důvodně předvídatelnému zneužití vytváření takových materiálů či manipulaci s ním spolehlivě bránily a v případě potřeby opravovaly tento výsledek a zjištěné nebo oznámené zneužití, včetně obcházení těchto opatření. Technická opatření a jiné záruky bránící vytváření takových materiálů by mohly zahrnovat čištění dat, školení týkající se odmítnutí, navrhování bezpečných promptů a kontroly výstupu, ochranná opatření promptů během chodu, klasifikaci obsahu a mechanismy filtrování, omezení používání, mechanismy odhalování zneužívání a mechanismy pro oznamování protiprávního obsahu a přijímání opatření. Tato preventivní opatření by měla být přiměřená pro určitý systém AI a považují se za vhodná, pokud jsou v souladu s nejmodernějšími opatřeními a zjevně brání nebo dostatečně omezují v každém jednotlivém případě pravděpodobnost vytváření takových materiálů nebo manipulace s nimi s přihlédnutím ke známému a důvodně předvídatelnému zneužití, včetně rozumně předvídatelného obcházení preventivních opatření bez významné technické úpravy. Pro poskytovatele, kteří si ponechávají účinnou kontrolu nad systémy AI, například prostřednictvím platformy nebo webového rozhraní, by to mohlo zahrnovat metody sledování a oznamování případů zneužití v plném souladu s právními předpisy Unie v oblasti ochrany soukromí a osobních údajů. V případech zjištěného nebo oznámeného obcházení preventivních opatření nebo jiných záruk by měla být přijata odpovídající nápravná opatření za předpokladu, že jsou tato opatření přiměřená, s přihlédnutím ke konkrétnímu systému AI, včetně jeho strategie zpřístupnění a distribuce (jako je zpřístupnění s otevřeným zdrojovým kódem). Pokud jde o zavádějící subjekty, používání systému AI by mělo být zakázáno pouze v případě, kdy zavádějící subjekt používá systém AI pro účely vytváření intimních materiálů pořízených bez souhlasu nebo materiálů pohlavního zneužívání dětí nebo manipulace s nimi. To zahrnuje případy, kdy zavádějící subjekt používá nebo zneužívá systémy AI uvedené na trh nebo do provozu, které postrádají přiměřená a vhodná preventivní opatření, nebo kdy zavádějící subjekt obchází preventivní opatření či používá pro tyto účely zákonné systémy AI, které nejsou určeny k vytváření takových materiálů nebo manipulaci s nimi. Zákaz používání se proto nevztahuje na používání systému AI k zákonným účelům, jako je vytváření jiného materiálu než intimních materiálů pořízených bez souhlasu nebo materiálu pohlavního zneužívání dětí či manipulace s ním, a to ani v případech, kdy systém AI postrádá přiměřené a vhodné záruky, které by měly být poskytovatelem zavedeny, ani se nevztahuje na náhodné vytváření takového obsahu či manipulaci s ním. Pokud jde o zákaz týkající se intimních materiálů pořízených bez souhlasu, je-li systém AI určen k vytváření materiálu, na který se vztahuje tento zákaz, nebo manipulaci s ním, měly by opatření a další záruky zahrnovat vhodné prostředky pro distribuci systému AI, jejichž cílem je umožnit spolehlivé shromažďování a prokazování souhlasu zobrazené osoby s takovým vytvářením nebo manipulací v souladu s nařízením (EU) 2016/679.Zákaz týkající se intimních materiálů pořízených bez souhlasu by měl být omezen na realistické vyobrazení intimních partií, zejména pohlavních orgánů, ohanbí, řitního otvoru, odhalených hýždí nebo ženských prsou, bradavek nebo prsních dvorců, nebo explicitně zobrazených sexuálních aktivit. Tento „realismus“ se týká zobrazení obličeje, hlasu nebo těla osoby věrohodným reálným způsobem bez ohledu na realismus kontextu tohoto zobrazení a na to, zda plně odpovídá skutečnému hlasu nebo vzhledu zobrazené osoby. Naopak vylučuje kreslené nebo fyzicky nemožné zobrazení těla osoby. Zákaz intimních materiálů pořízených bez souhlasu nemá vliv na vytváření jiných forem obnaženého materiálu nebo manipulaci s nimi, jako je materiál, který nezobrazuje identifikovatelné fyzické osoby, realistická částečně obnažená zobrazení, kdy nejsou odhaleny intimní partie a nejsou explicitně zobrazeny sexuální aktivity, nebo nerealistická umělecká obnažená díla, která nezobrazují realisticky identifikovatelné fyzické osoby při explicitně sexuální aktivity ani nezobrazují jejich intimní partie. Nevztahuje se ani na generativní aplikace AI, v nichž nejsou odhaleny intimní partie, nebo pokud jsou odhaleny, vztahuje se na jejich zobrazení svobodný, konkrétní, informovaný, jednoznačný a výslovný souhlas zobrazené osoby (například aplikace pro virtuální zkoušení a lékařské aplikace, jako jsou lékařské anatomické simulace a mamogramy); tento zákaz nebrání výjimečnému používání systémů AI, které vytvářejí obnažené zobrazení intimních partií identifikovatelné osoby nebo s nimi manipulují, v souladu s právem v oblasti základních práv, včetně práva v oblasti ochrany údajů, a platným lékařským právem pro účely lékařské diagnostiky a léčby zdravotnickými pracovníky, pokud dotčená osoba není schopna vyjádřit souhlas (například v mimořádné situaci). Zákaz „manipulace“ s intimními materiály pořízenými bez souhlasu vylučuje rovněž případy, kdy je s již existujícím intimním materiálem manipulováno způsobem, který nezvyšuje expozici vyobrazených intimních partií ani nemění povahu explicitně zobrazených sexuálních aktivit, například pouhým vylepšením stávajícího obrázku zobrazujícího intimní partie nebo videozáznamu explicitně zobrazujícího sexuální aktivity, jako je změna pozadí, přidání textového názvu nebo zlepšení kontrastu či jasu. Do oblasti působnosti tohoto zákazu naopak spadá jakákoli manipulace s materiálem, včetně materiálu, který již zobrazuje intimní partie nebo explicitně sexuální aktivity, která zvyšuje úroveň expozice zobrazených intimních partií nebo mění povahu zobrazeného jednoznačně sexuálního jednání.

(13)

Zákaz materiálů pohlavního zneužívání dětí by neměl bránit uvádění na trh, do provozu nebo používání systémů AI, pokud se podle vnitrostátního práva uplatní okolnosti vylučující protiprávnost, jak je uvedeno v čl. 5 odst. 1 směrnice Evropského parlamentu a Rady 2011/93/EU (11). To zahrnuje činnosti prováděné v rámci vnitrostátních zákonných pravomocí, jako je legitimní vytváření materiálů pohlavního zneužívání dětí nebo manipulace s nimi ze strany orgánů za účelem vedení trestního řízení nebo prevence, odhalování nebo vyšetřování trestné činnosti, a dále legitimní používání systému AI v souvislosti s testováním metodou „červeného týmu“ a hodnotícími činnostmi za účelem posouzení souladu systému se zákazem stanoveným v tomto nařízení.

(14)

Tyto zákazy představují odůvodněný zásah do svobody projevu a informací a do svobody podnikání. Sledují cíle obecného zájmu a chrání práva a svobody jiných osob, včetně práv a svobod uvedených v článku 1, čl. 3 odst. 1 a článcích 4, 7, 8, 21, 23 a 24 Listiny základních práv Evropské unie (dále jen „Listina“). Jsou přesně přizpůsobené. V případě intimního materiálu se omezují na realistická zobrazení identifikovatelných fyzických osob a na případy, kdy je systém AI použit ke zvýšení úrovně nahoty nebo explicitnosti, a nezahrnují vytváření obsahu nebo manipulaci s ním se souhlasem dané osoby. Kromě toho se omezují na požadavek, aby poskytovatelé zavedli „přiměřená a vhodná“ opatření a záruky v případě systémů, které nejsou určeny k výrobě zakázaného materiálu nebo manipulaci s ním. Jsou rovněž v souladu se stávajícím právem Unie, včetně směrnice 2011/93/EU a směrnice Evropského parlamentu a Rady (EU) 2024/1385 (12). Zásahy respektují podstatu článků 11 a 16 Listiny, jsou stanoveny zákonem a jsou přiměřené.

(15)

Jednání, na které se tyto zákazy vztahují, může rovněž porušovat i jiné právo, včetně trestního práva. Zákazy nebrání trestnímu stíhání podle takového práva. Pokud však porušení zákazů může vést k uložení sankcí trestní povahy, které mohou být stanoveny podle čl. 99 odst. 1 nařízení (EU) 2024/1689, a pokud je stejné jednání sankcionováno podle trestního práva, včetně trestního práva spadajícího do oblasti působnosti směrnic 2011/93/EU a (EU) 2024/1385, jsou členské státy povinny zajistit dodržování zásady zákazu dvojího trestání v souladu s Listinou.

(16)

Zákazy nejsou dotčeny opravné prostředky, které jsou jednotlivcům k dispozici podle vnitrostátních právních předpisů na ochranu jejich základních práv, včetně práva na ochranu podoby, soukromí a lidské důstojnosti.

(17)

Aby byla zajištěna soudržnost, zamezeno zdvojování a minimalizována administrativní zátěž v souvislosti s postupem jmenování oznámených subjektů podle nařízení (EU) 2024/1689 při zachování stejné úrovně kontroly, měly by být pro nové subjekty posuzování shody a oznámené subjekty, které jsou jmenovány podle harmonizačních právních předpisů Unie uvedených v příloze I oddíle A nařízení (EU) 2024/1689, například nařízení Evropského parlamentu a Rady (EU) 2017/745 (13) a (EU) 2017/746 (14), k dispozici jediná žádost a jednotný postup posuzování shody, pokud je taková žádost a postup zaveden podle uvedených harmonizačních právních předpisů Unie. Cílem jediné žádosti a jednotného postupu posuzování shody je usnadnit, podpořit a urychlit postup jmenování v souladu s nařízením (EU) 2024/1689 a zároveň zajistit soulad s požadavky, které se na oznámené subjekty vztahují v souladu s uvedeným nařízením a harmonizačními právními předpisy Unie uvedenými v příloze I oddíle A uvedeného nařízení. Jednotný postup posuzování shody by měl být prováděn s ohledem na úkoly a povinnosti zúčastněných orgánů. Dále by mělo být jasně stanoveno, že subjekt posuzování shody, který je jmenován podle více než jednoho z harmonizačních právních předpisů Unie uvedených v příloze I oddíle A, by měl o jmenování podle tohoto nařízení požádat pouze jednou.

(18)

Aby bylo zajištěno bezproblémové uplatňování a soudržnost nařízení (EU) 2024/1689, měly by být v něm provedeny změny. V čl. 43 odst. 3 prvním pododstavci nařízení (EU) 2024/1689 by měla být provedena technická oprava, aby se požadavky na posuzování shody sladily s požadavky na poskytovatele vysoce rizikových systémů AI obsaženými v článku 16 uvedeného nařízení. Dále by mělo být jasně stanoveno, že pokud se na poskytovatele vysoce rizikového systému AI vztahuje postup posuzování shody podle harmonizačních právních předpisů Unie uvedených v příloze I oddíle A nařízení (EU) 2024/1689 a pokud se posuzování shody rozšiřuje na soulad systému řízení kvality podle uvedeného nařízení a uvedených harmonizačních právních předpisů Unie, měl by mít poskytovatel možnost zahrnout aspekty týkající se systémů řízení kvality podle uvedeného nařízení do systémů řízení kvality podle těchto harmonizačních právních předpisů Unie v souladu s čl. 17 odst. 3 nařízení (EU) 2024/1689. Ustanovení čl. 43 odst. 3 druhého pododstavce uvedeného nařízení by mělo být změněno tak, aby bylo jasné, že oznámené subjekty, které byly oznámeny podle harmonizačních právních předpisů Unie uvedených v příloze I oddíle A nařízení (EU) 2024/1689 a jejichž cílem je posuzovat vysoce rizikové systémy AI, na něž se vztahují harmonizační právní předpisy Unie uvedené v příloze I oddíle A uvedeného nařízení, mají pravomoc posuzovat soulad vysoce rizikových systémů AI za určitých podmínek po dobu 18 měsíců od 27. července 2026. Touto změnou není dotčen článek 28 nařízení (EU) 2024/1689, subjekty posuzování shody, které chtějí být jmenovány a oznámeny podle uvedeného nařízení, tedy mohou podat žádost kdykoli během těchto 18 měsíců a po jejich uplynutí. Nařízení (EU) 2024/1689 by mělo být dále změněno tak, aby bylo jasné, že pokud se na vysoce rizikový systém AI vztahují harmonizační právní předpisy Unie uvedené v příloze I oddíle A nařízení (EU) 2024/1689 a pokud zároveň spadá do jednoho z případů použití uvedených v příloze III uvedeného nařízení, měl by poskytovatel dodržovat příslušný postup posuzování shody, jak je požadováno podle příslušných harmonizačních právních předpisů.

(19)

Nařízení Evropského parlamentu Rady (EU) 2024/1689 a (EU) 2024/2847 (15) se vzájemně doplňují, takže bezpečnost a kybernetická bezpečnost produktů s digitálními prvky je zajištěna. Článek 12 nařízení (EU) 2024/2847 stanoví, že pokud vysoce rizikové systémy AI a procesy zavedené výrobci splňují základní požadavky na kybernetickou bezpečnost stanovené v nařízení (EU) 2024/2847, mělo by se mít za to, že splňují požadavky na kybernetickou bezpečnost stanovené v článku 15 nařízení (EU) 2024/1689, v případě, že se na tyto požadavky vztahuje EU prohlášení o shodě nebo jeho části vydané podle nařízení (EU) 2024/2847. Aby byla interakce nařízení (EU) 2024/1689 a nařízení (EU) 2024/2847 patrnější, mělo by být pravidlo uvedené v článku 12 nařízení (EU) 2024/2847 rovněž zohledněno v nařízení (EU) 2024/1689. To by nemělo ovlivnit interakci mezi těmito dvěma nástroji.

(20)

V souladu s čl. 6 odst. 1 nařízení (EU) 2024/1689 jsou systémy AI považovány za vysoce rizikové, pokud je systém AI, který je součástí produktu, na nějž se vztahují harmonizační právní předpisy Unie uvedené v příloze I oddíle A uvedeného nařízení, bezpečnostní komponentou a na tento produkt se vztahuje povinnost posouzení shody třetí stranou. Požadavek, aby se na takový produkt vztahovala povinnost posouzení shody třetí stranou, však nemá vliv na volbu výrobce, pokud jde o postup posuzování shody tohoto produktu. Pokud harmonizační právní předpisy Unie uvedené v příloze I oddíle A umožňují vybrat z postupů posuzování shody postup posuzování shody založený na harmonizovaných normách, je tato možnost použitelná i v případě produktů, do nichž je začleněn vysoce rizikový systém AI. Ustanovení čl. 6 odst. 1 nařízení (EU) 2024/1689 by nemělo být chápáno tak, že vyžaduje, aby produkty, do nichž je začleněn vysoce rizikový systém AI, automaticky prošly posouzením shody třetí stranou za účasti oznámeného subjektu. Je-li tato možnost stanovena v harmonizačních právních předpisech Unie, mohl by se poskytovatel produktu, do něhož je daný vysoce rizikový systém AI začleněn, i nadále používat pro postup posuzování shody harmonizované normy, aby splnil požadavky harmonizačních právních předpisů Unie a nařízení (EU) 2024/1689.

(21)

V zájmu zvýšení konkurenceschopnosti a inovací je nezbytné podporovat hospodářské subjekty, které musí současně splňovat požadavky nebo povinnosti stanovené v kapitole III oddílech 2 a 3 nařízení (EU) 2024/1689 a příslušné požadavky a povinnosti stanovené v harmonizačních právních předpisech Unie uvedených v příloze I uvedeného nařízení. S cílem podpořit a zjednodušit způsoby dodržování právních předpisů těmito hospodářskými subjekty by Komise měla požádat evropské normalizační organizace, aby bez zbytečného odkladu vypracovaly produkty normalizace, případně včetně harmonizovaných norem. Tyto produkty normalizace by měly vycházet z harmonizovaných norem zveřejněných v Úředním věstníku Evropské unie, které zakládají předpoklad shody s požadavky nebo povinnostmi stanovenými v nařízení (EU) 2024/1689, jakož i z příslušných harmonizovaných norem zveřejněných v Úředním věstníku Evropské unie, které zakládají předpoklad shody s příslušnými požadavky nebo povinnostmi stanovenými v harmonizačních právních předpisech Unie uvedených v příloze I uvedeného nařízení. Takové produkty normalizace by měly pomoci snížit právní nejistotu, zabránit zbytečnému zdvojování činností posuzování shody, testování, dokumentace a povinností podávat zprávy a snížit náklady na dodržování předpisů, zejména pro malé a střední podniky a podniky začínající. Včasný vývoj těchto produktů má zásadní význam pro to, aby se hospodářským subjektům poskytla praktická a spolehlivá technická řešení, posílila právní jistota a usnadnilo uvádění na trh, uvádění do provozu a používání systémů AI v souladu s tímto nařízením a harmonizačními právními předpisy Unie uvedenými v příloze I uvedeného nařízení.

(22)

Aby se zjednodušilo dodržování předpisů a snížily se související náklady, registrace systémů AI uvedených v čl. 6 odst. 3 nařízení (EU) 2024/1689 v databázi EU podle čl. 49 odst. 2 uvedeného nařízení by měla být zjednodušena optimalizací obsahu požadovaného podle přílohy VIII uvedeného nařízení. Pro účinný dozor nad trhem a veřejnou odpovědnost je stále klíčové, aby byly tyto systémy AI registrovány v databázi EU, ale požadavky na registraci by měly být zjednodušeny a měly by být přiměřenější. Toto zjednodušení by zajistilo lepší rovnováhu, aniž by byla narušena ochrana stanovená v nařízení (EU) 2024/1689. Takovéto systémy AI nejsou za určitých podmínek považovány za vysoce rizikové, pokud nepředstavují významné riziko pro zdraví, bezpečnost nebo základní práva osob. Navíc poskytovatel, který uplatňuje čl. 6 odst. 3 nařízení (EU) 2024/1689, je před uvedením tohoto systému na trh nebo do provozu své posouzení nadále povinen zdokumentovat. Příslušné vnitrostátní orgány by měly mít možnost si toto posouzení vyžádat.

(23)

Články 57, 58 a 60 nařízení (EU) 2024/1689 by měly být změněny tak, aby byla posílena užší spolupráce na úrovni Unie v oblasti regulačních sandboxů pro AI, zajištěna větší jasnost a jednotnost správy regulačních sandboxů pro AI a rozšířen rozsah testování v reálných podmínkách mimo regulační sandboxy pro AI na vysoce rizikové systémy AI, na které se vztahují harmonizační právní předpisy Unie uvedené v příloze I uvedeného nařízení. Aby bylo v příslušných případech umožněno procesní zjednodušení u projektů, nad nimiž je vykonáván dohled v regulačních sandboxech pro AI, které zahrnují také testování v reálných podmínkách, měl by být plán testování v reálných podmínkách především začleněn do plánu testování v sandboxu, na němž se poskytovatelé nebo potenciální poskytovatelé a příslušný orgán dohodli.

(24)

Dále je vhodné umožnit, aby Evropský úřad pro umělou inteligenci (dále jen „úřad pro AI“) zřídil na úrovni Unie regulační sandbox pro AI pro systémy AI, na které se vztahuje čl. 75 odst. 1 nařízení (EU) 2024/1689. Aby byla zajištěna soudržnost, právní jistota a účinné rozdělení povinností v oblasti dohledu mezi unijní a vnitrostátní úroveň, měla by být jasně vymezena oblast působnosti regulačního sandboxu pro AI na úrovni Unie, aby se zabránilo překrývání s vnitrostátními regulačními sandboxy pro AI zřízenými podle uvedeného nařízení. S cílem podpořit inovace a usnadnit zavádění AI by měl být malým a středním podnikům, včetně podniků začínajících, a malým podnikům se střední tržní kapitalizací poskytnut přednostní přístup k regulačním sandboxům pro AI zřízeným úřadem pro AI.

(25)

Dále by měla být vyjasněna ustanovení o spolupráci mezi relevantními příslušnými orgány pro provoz regulačního sandboxu pro AI, aby bylo zajištěno jejich účinné fungování. Proto by mělo být zmocnění Komise k přijímání prováděcích aktů, kterými se stanoví podrobná ustanovení pro zřízení, vývoj, provádění a provoz regulačních sandboxů pro AI a dohled nad nimi, rozšířeno tak, aby se vztahovalo také na otázky týkající se správy těchto sandboxů. Dále, pokud regulační sandboxy pro AI zahrnují inovativní systémy AI, které zpracovávají osobní údaje nebo jinak spadají do oblasti dohledu jiných vnitrostátních orgánů nebo příslušných orgánů poskytujících nebo podporujících přístup k údajům, měly by být relevantní příslušné orgány dohledu přidruženy k provozu daného regulačního sandboxu pro AI a zapojeny do dohledu nad těmito aspekty v rozsahu svých příslušných úkolů a pravomocí.

(26)

Aby se podpořily inovace, je rovněž vhodné rozšířit rozsah testování v reálných podmínkách mimo regulační sandboxy pro AI v článku 60 nařízení (EU) 2024/1689, které se v současnosti vztahuje na vysoce rizikové systémy AI uvedené v příloze III uvedeného nařízení, a umožnit poskytovatelům a potenciálním poskytovatelům vysoce rizikových systémů AI, na které se vztahují harmonizační právní předpisy Unie uvedené v příloze I uvedeného nařízení, aby tyto systémy rovněž testovali v reálných podmínkách, s dostatečnými zárukami. Tím nejsou dotčeny jiné právní předpisy Unie ani vnitrostátní právní předpisy týkající se testování vysoce rizikových systémů AI v reálných podmínkách v souvislosti s produkty, na něž se vztahují uvedené harmonizační právní předpisy Unie.

(27)

Je rovněž vhodné zajistit, aby bylo možné provádět testování vysoce rizikových systémů AI, na něž se vztahují harmonizační právní předpisy Unie uvedené v příloze I oddíle B nařízení (EU) 2024/1689, v reálných podmínkách. Tyto systémy podléhají požadavkům a postupům příslušných odvětvových právních předpisů a pro většinu účelů se na ně uvedené nařízení přímo nevztahuje. Tyto odvětvové akty budou včas obsahovat požadavky odpovídající požadavkům stanoveným v článcích 8 až 15 uvedeného nařízení. Je proto vhodné zajistit, aby členské státy mohly povolit testování těchto systémů AI v reálných podmínkách za účelem posouzení a ověření shody těchto systémů s požadavky stanovenými v článcích 8 až 15 uvedeného nařízení. Pokud se členské státy rozhodnou takové testování povolit, mělo by jim uvedené nařízení uložit, aby přijaly rámce, které stanoví podrobné požadavky na toto testování. Uvedené nařízení by mělo stanovit základní prvky, které mají být v těchto rámcích obsaženy. Při navrhování těchto rámců by členské státy měly zajistit vysokou úroveň ochrany zdraví, bezpečnosti a základních práv fyzických osob. Před zavedením rámce by jej členské státy měly oznámit Komisi. Testování v reálných podmínkách by mělo být v souladu s příslušnými harmonizačními právními předpisy Unie uvedenými v příloze I oddíle B nařízení (EU) 2024/1689, včetně veškerých použitelných ustanovení týkajících se testování. Tím by však nemělo být dotčeno uplatňování nového článku týkajícího se testování v reálných podmínkách.

(28)

Na základě článku 63 nařízení (EU) 2024/1689 mohou mikropodniky, které jsou poskytovateli vysoce rizikových systémů AI, plnit povinnost zavést systém řízení kvality zjednodušeným způsobem. Aby mohl předpisy snáze dodržovat větší počet inovátorů, měla by se tato možnost rozšířit na všechny malé a střední podniky, včetně podniků začínajících.

(29)

S ohledem na důležitou úlohu úřadu pro AI pro účinné a koordinované uplatňování nařízení (EU) 2024/1689, které se ještě posiluje tímto nařízením, a aniž je dotčen příští víceletý finanční rámec a rozpočtový proces, by Komise měla úřadu pro AI přidělit odpovídající lidské, finanční a technické zdroje, aby bylo zajištěno, že bude moci účinně a v přiměřených lhůtách plnit své úkoly v souvislosti s prosazováním nařízení (EU) 2024/1689, včetně přidělení dostatečného počtu stálých zaměstnanců s rozsáhlými kompetencemi a technickými odbornými znalostmi.

(30)

Článek 69 nařízení (EU) 2024/1689 by měl být změněn tak, aby se zjednodušila struktura poplatků pro vědeckou komisi. Pokud členské státy požádají o podporu komisi odborníků, měla by odměna, kterou mohou být povinny zaplatit odborníkům, odpovídat odměně, kterou je za podobných okolností povinna zaplatit Komise.

(31)

V zájmu podpory systému správy pro systémy AI je nezbytné, aby byla vyjasněna úloha úřadu pro AI při monitorování souladu těchto systémů AI s nařízením (EU) 2024/1689 a dohledu nad tímto souladem. Komise má výlučnou pravomoc, pokud jde o obecné modely AI podle článku 88 uvedeného nařízení. V zájmu zvýšení soudržnosti, jasnosti a účinnosti a s ohledem na dosah a dopady systémů AI spojených s těmito pravomocemi by měl být upřesněn rozsah výlučné pravomoci úřadu pro AI dohlížet na systémy. Úřad pro AI by měl mít výlučnou pravomoc nad systémy AI založenými na obecných modelech AI, a to nejen v případě, že systém i model vyvíjí stejný poskytovatel, ale také v případě, že jsou vyvíjeny poskytovateli, kteří jsou součástí téhož podniku. V některých případech, zejména pokud existuje zvláštní odvětvový dohled, by však odpovědnost měl mít i nadále relevantní příslušný vnitrostátní orgán. Proto by měly být stanoveny určité výjimky. Osobní rozsah této výlučné pravomoci by se měl vztahovat i na poskytovatele těchto systémů AI a zavádějící subjekty v rámci téhož podniku. Ostatní zavádějící subjekty by měly i nadále podléhat vnitrostátnímu dohledu a prosazování. To se dále netýká systémů AI uvedených na trh, uvedených do provozu nebo používaných orgány, institucemi nebo jinými subjekty Unie, nad nimiž vykonává dohled evropský inspektor ochrany údajů podle čl. 74 odst. 9 nařízení (EU) 2024/1689.

(32)

Dále s ohledem na stávající systém dohledu a prosazování podle nařízení Evropského parlamentu a Rady (EU) 2022/2065 (16) je vhodné, aby byly Komisi uděleny pravomoci příslušného orgánu dozoru nad trhem podle nařízení (EU) 2024/1689, pokud systém AI splňuje podmínky velmi velké online platformy nebo velmi velkého internetového vyhledávače v souladu s nařízením (EU) 2022/2065 nebo pokud je do této platformy nebo vyhledávače začleněn. To by mělo přispět k zajištění toho, aby byly pravomoci Komise v oblasti dohledu a prosazování podle nařízení (EU) 2024/1689 a nařízení (EU) 2022/2065, jakož i pravomoci použitelné na obecné modely AI začleněné do těchto platforem nebo internetových vyhledávačů, vykonávány soudržným a účinným způsobem. To je vhodné i s ohledem na význam těchto platforem a vyhledávačů kvůli jejich dosahu, dopadu a potenciálu způsobit spletité a rozsáhlé společenské škody. Osobní rozsah této výlučné pravomoci by se měl vztahovat i na poskytovatele těchto systémů AI a jejich zavádějící subjekty v rámci téhož podniku. V případě systémů AI, které jsou začleněny do velmi velké online platformy nebo internetového vyhledávače nebo jsou jako takové kvalifikovány, jsou prvním vstupním bodem k posouzení systémů AI povinnosti týkající se posouzení rizik, zmírňujících opatření a auditu stanovené v článcích 34, 35 a 37 nařízení (EU) 2022/2065, aniž jsou dotčeny pravomoci úřadu pro AI vyšetřovat a vymáhat nedodržení pravidel nařízení (EU) 2024/1689 ex post. V rámci analýzy tohoto posouzení rizik, zmírňujících opatření a auditů si útvary Komise, které jsou odpovědné za prosazování nařízení (EU) 2022/2065, mohou vyžádat stanovisko úřadu pro AI k výsledku případného dřívějšího nebo souběžného posouzení rizik provedeného v souladu s nařízením (EU) 2024/1689 a k použitelnosti zákazů podle nařízení (EU) 2024/1689. Aby bylo zajištěno dodržování zásad loajální spolupráce, proporcionality a zákazu dvojího trestu, měly by kromě toho úřad pro AI a příslušné vnitrostátní orgány podle nařízení (EU) 2024/1689 rovněž koordinovat své úsilí v oblasti prosazování s orgány příslušnými pro dohled a prosazování nařízení (EU) 2022/2065, včetně Komise, přičemž informace získané podle jednoho nařízení by byly použity pro účely dohledu a prosazování druhého nařízení pouze za předpokladu, že s tím podnik souhlasí. Tyto orgány by si měly zejména vyměňovat stanoviska a brát ve své příslušné oblasti pravomocí v úvahu veškeré pokuty a sankce uložené stejnému poskytovateli za stejné jednání prostřednictvím konečného rozhodnutí v řízení, které se týká porušení jiných unijních nebo vnitrostátních pravidel, aby bylo zajištěno, že celkové uložené pokuty a sankce jsou přiměřené a odpovídají závažnosti protiprávního jednání.

(33)

Při dohledu nad povinnostmi ve vztahu k systémům AI, které jsou v jeho působnosti, a jejich prosazování má úřad pro AI stejnou úlohu a odpovědnost jako orgán dozoru nad trhem podle nařízení (EU) 2024/1689. Je proto nezbytné, aby měl úřad pro AI veškeré pravomoci a povinnosti, které mají orgány dozoru nad trhem podle uvedeného nařízení a nařízení Evropského parlamentu a Rady (EU) 2019/1020 (17) (dále jen „obecné pravomoci“). Ty by měly zajistit náležité a účinné prosazování požadavků a povinností stanovených v nařízení (EU) 2024/1689. Je však nezbytné upřesnit, doplnit a přesně stanovit některé základní prvky a další aspekty obecných pravomocí, jakož i jejich záruky (dále jen „upřesňující ustanovení“). Zejména je nezbytné určit ustanovení upravující vztah mezi úřadem pro AI a vnitrostátními orgány; ustanovení, která upřesňují, doplňují a omezují pravomoci vyžadovat informace a provádět kontroly na místě; ustanovení, která upravují vyšetřování, včetně možnosti učinit závazky povinnými; a ustanovení, která upřesňují a omezují pravomoc zjišťovat nedodržování předpisů a ukládat pokuty a penále. Pokud byl určitý druh obecné pravomoci takto upřesněn, nesmí úřad pro AI obcházet podmínky a omezení těchto pravomocí spoléháním se na související obecnou pravomoc. Naopak se úřad pro AI může odvolávat na druhy obecné pravomoci, které nejsou ve vztahu k úřadu pro AI upřesněny a přesně stanoveny, jako je pravomoc přijímat opatření uvedená v čl. 16 odst. 3 nařízení (EU) 2019/1020. Je-li to nezbytné pro řádné provádění nařízení (EU) 2024/1689, měla by mít Komise možnost přijmout prováděcí akty, kterými dále vymezí pravidla a postupy týkající se uplatňování promlčecích lhůt a přístupu ke spisu a sjednaného zpřístupnění informací. Při výkonu všech těchto pravomocí musí úřad pro AI dodržovat Listinu. Na úřad pro AI se navíc vztahují záruky a ochrana základních práv stanovené v upřesňujících ustanoveních.

(34)

Kromě těchto záruk týkajících se procesních a základních práv by se procesní práva stanovená v článku 18 nařízení (EU) 2019/1020 měla obdobně použít na poskytovatele systémů AI, aniž jsou dotčena konkrétnější procesní práva stanovená v nařízení (EU) 2024/1689. Pokud vnitrostátní orgány dozoru nad trhem prostřednictvím jednotného kontaktního místa požádají, aby úřad pro AI přijal opatření v oblasti dohledu a prosazování, pokud jde o systémy AI pod jeho výhradním dohledem, měl by úřad pro AI nejpozději do čtyř měsíců od obdržení uvedené žádosti informovat jednotné kontaktní místo o svém záměru vykonávat své pravomoci v oblasti dohledu a prosazování nebo o důvodech pro nevykonání svých pravomocí. Pokud se úřad pro AI rozhodne vykonávat své pravomoci v oblasti dohledu a prosazování, měl by rovněž informovat jednotné kontaktní místo, o konečném výsledku těchto řízení a o průběžném vývoji, který úřad pro AI považuje za mající významný dopad na vyšetřování, včetně rozhodnutí o zahájení řízení, uložení pokuty a stažení systému AI z trhu nebo z oběhu.

(35)

Aby byl zajištěn přístup systémů AI, nad nimiž je úřadem pro AI vykonáván dohled podle článku 75 nařízení (EU) 2024/1689 a které podléhají posuzování shody třetí stranou, na trh Unie, měla by být Komise odpovědná za posuzování shody těchto systémů před uvedením na trh.

(36)

Článek 77 a související ustanovení nařízení (EU) 2024/1689 představují důležitý mechanismus správy, neboť jejich cílem je umožnit orgánům nebo subjektům odpovědným za prosazování práva Unie určeného k ochraně základních práv nebo za dohled nad ním, aby za určitých podmínek plnily svůj mandát, a podpořit spolupráci s orgány dozoru nad trhem, které jsou odpovědné za dohled nad tímto nařízením a jeho prosazování. Je třeba vyjasnit rozsah této spolupráce a také vymezit, které veřejné orgány nebo subjekty mají z této spolupráce prospěch. Aby byla tato spolupráce zintenzivněna, mělo by být jasně stanoveno, že žádosti o přístup k informacím a dokumentaci by měly být podávány příslušnému orgánu dozoru nad trhem, který by měl na tyto žádosti bez zbytečného odkladu reagovat, a že zúčastněné orgány nebo subjekty by měly mít vzájemnou povinnost spolupracovat. Mělo by být vyjasněno, že těmito ustanoveními nejsou dotčeny kompetence, úkoly, pravomoci a nezávislost relevantních vnitrostátních veřejných orgánů nebo subjektů stanovené v rámci jejich mandátů. Tato ustanovení zejména neomezují žádné pravomoci těchto orgánů a subjektů, na jejichž základě mohou požadovat informace podle jiných právních předpisů Unie nebo vnitrostátních právních předpisů. Tyto orgány a subjekty si proto zachovávají veškerou pravomoc přímo požadovat informace od provozovatelů na základě svého mandátu nebo unijních či vnitrostátních právních předpisů.

(37)

Požadavky na vysoce rizikové systémy AI stanovené v nařízení (EU) 2024/1689 řeší specifická rizika spojená se systémy AI, včetně zkreslení, nepředvídatelného chování modelu, nízké spolehlivosti nebo přesnosti, zranitelnosti vůči útokům třetích stran a nedostatečné transparentnosti systému AI. Tím, že uvedené nařízení řeší rizika specifická pro umělou inteligenci, doplňuje požadavky stanovené v harmonizačních právních předpisech Unie uvedených v příloze I uvedeného nařízení, aniž by je zdvojovalo. Nařízení (EU) 2024/1689 stanoví mechanismy, kterými mohou hospodářské subjekty minimalizovat zátěž spojenou s dodržováním předpisů. Zejména čl. 8 odst. 2 o interakci s odvětvovými právními předpisy, čl. 9 odst. 10 o řízení rizik a čl. 17 odst. 3 o řízení kvality umožňují hospodářským subjektům, je-li to nezbytné a vhodné, začlenit posouzení specifických rizik AI do stávajících systémů řízení rizik a kvality. Článek 40 nařízení (EU) 2024/1689 dále vyžaduje, aby Komise upřesnila, že harmonizované normy vypracované podle uvedeného nařízení mají být v souladu s normami vypracovanými podle harmonizačních právních předpisů Unie uvedených v příloze I uvedeného nařízení. Komise by měla poskytnout pokyny na pomoc hospodářským subjektům s vysoce rizikovými systémy AI, na něž se vztahuje příloha I nařízení (EU) 2024/1689, při dodržování uvedeného nařízení, mimo jiné poskytnutím pokynů k uplatňování čl. 8 odst. 2, čl. 9 odst. 10 a čl. 17 odst. 3 uvedeného nařízení jako mechanismů k minimalizaci zátěže spojené s dodržováním předpisů v souladu se zásadami doplňkovosti a proporcionality. Tyto pokyny by měly být zveřejněny nejpozději do 1. srpna 2027.

(38)

Aby poskytovatelé systémů generativní AI, na které se vztahuje povinnost označování stanovená v čl. 50 odst. 2 nařízení (EU) 2024/1689, měli dostatek času na přizpůsobení svých postupů v přiměřené lhůtě, aniž by došlo k narušení trhu, je vhodné zavést čtyřměsíční přechodné období pro poskytovatele, kteří již uvedli své systémy na trh před 2. srpnem 2026.

(39)

Za účelem poskytnutí dostatečného času poskytovatelům vysoce rizikových systémů AI a vyjasnění pravidel použitelných na systémy AI, které již byly uvedeny na trh nebo do provozu před dnem použitelnosti příslušných ustanovení nařízení (EU) 2024/1689, je vhodné vyjasnit rozsah odkladné lhůty stanovené v čl. 111 odst. 2 uvedeného nařízení. Odkladná lhůta pro účely uvedeného čl. 111 odst. 2 by se měla použít v případech, kdy daný typ a model systémů A již byly uvedeny na trh. To znamená, že pokud byla alespoň jedna jednotlivá jednotka vysoce rizikového systému AI uvedena na trh nebo do provozu v souladu s právními předpisy před datem uvedeným v čl. 111 odst. 2, vztahuje se na další jednotlivé jednotky stejného typu a modelu vysoce rizikového systému AI odkladná lhůta stanovená v čl. 111 odst. 2, a proto mohou být nadále uváděny na trh, dodávány nebo uváděny do provozu na trhu Unie bez jakýchkoli dalších povinností, požadavků nebo potřeby dodatečné certifikace, pokud se nezmění návrh tohoto vysoce rizikového systému AI. Pro účely uplatnění odkladné lhůty stanovené v čl. 111 odst. 2 je rozhodující datum, kdy byla první jednotka daného typu a modelu vysoce rizikového systému AI poprvé uvedena na trh nebo do provozu na trhu Unie. Jakákoli významná změna v návrhu tohoto systému AI provedená po datu uvedeném v čl. 111 odst. 2 by měla vést k tomu, že poskytovatel bude povinen plně dodržovat všechna příslušná ustanovení uvedeného nařízení, která se vztahují se na vysoce rizikové systémy AI, včetně požadavků na posuzování shody.

(40)

Článek 113 nařízení (EU) 2024/1689 stanoví data vstupu v platnost a použitelnosti uvedeného nařízení, zejména to, že obecným datem použitelnosti je 2. srpen 2026. Pokud jde o povinnosti týkající se vysoce rizikových systémů AI stanovené v kapitole III oddílech 1, 2 a 3 nařízení (EU) 2024/1689, vedou zpožděná dostupnost norem, společných specifikací a alternativních pokynů a zpožděné zřízení příslušných vnitrostátních orgánů ke vzniku problémů, které ohrožují účinné nabytí použitelnosti těchto povinností a které mohou výrazně zvýšit náklady na jejich provádění způsobem, který neodůvodňuje zachování jejich původního dne použitelnosti, tj. 2. srpna 2026. Je proto vhodné, aby byl den použitelnosti kapitoly III oddílů 1, 2 a 3 stanoven na 2. prosince 2027, pokud jde o systémy AI klasifikované jako vysoce rizikové podle čl. 6 odst. 2 a přílohy III, a na 2. srpna 2028, pokud jde o systémy AI klasifikované jako vysoce rizikové podle čl. 6 odst. 1 a přílohy I. Rozlišení mezi dnem použitelnosti pravidel, pokud jde o systémy AI klasifikované jako vysoce rizikové podle čl. 6 odst. 2 a přílohy III a podle čl. 6 odst. 1 a přílohy I uvedeného nařízení, je v souladu s rozdílem mezi počátečními dny použitelnosti stanovenými v nařízení (EU) 2024/1689 a jeho cílem je poskytnout potřebný čas k přizpůsobení se a k plnění příslušných povinností. Včasná dostupnost podpůrných nástrojů, včetně pokynů, příslušných norem, společných specifikací a kodexů správné praxe, je důležitá pro usnadnění dodržování předpisů a snížení rizika rozdílného výkladu a nerovnoměrného uplatňování pravidel v jednotlivých členských státech. Aby byla zajištěna právní jistota a zabránilo se dalším zpožděním při uplatňování nařízení (EU) 2024/1689, měla by Komise zajistit, aby byla včas zavedena opatření na podporu souladu s kapitolou III oddíly 1, 2 a 3 uvedeného nařízení, a zajistilo se tak včasné a účinné provádění nezbytných ustanovení.

(41)

S ohledem na cíl zmírnit problémy při provádění, s nimiž se potýkají občané, podniky a veřejné orgány, je nezbytné, aby harmonizované podmínky pro provádění některých pravidel byly přijímány pouze v nezbytných případech. Za tímto účelem je vhodné zrušit některá zmocnění udělená Komisi k přijímání těchto harmonizovaných podmínek prostřednictvím prováděcích aktů v případech, kdy tomu tak není. Čl. 50 odst. 7, čl. 56 odst. 6 a čl. 72 odst. 3 nařízení (EU) 2024/1689 by proto měly být změněny tak, aby byla zrušena zmocnění k přijímání prováděcích aktů svěřená Komisi. Vzhledem k tomu, že kodexy správné praxe uvedené v čl. 50 odst. 7 a čl. 56 odst. 6 mají omezený právní účinek, a zejména neposkytují předpoklad shody, není nezbytně nutné, aby byly tyto kodexy schváleny prováděcím aktem. Poskytovatelé by měli mít možnost spolehnout se podle čl. 53 odst. 4 a čl. 54 odst. 2 nařízení (EU) 2024/1689 na kodexy správné praxe, které byly posouzeny jako přiměřené podle čl. 56 odst. 6 uvedeného nařízení. Zrušení zmocnění k přijetí harmonizovaného vzoru plánu monitorování po uvedení na trh v čl. 72 odst. 3 nařízení (EU) 2024/1689 má další přínos v tom, že poskytovatelům vysoce rizikových systémů AI nabídne větší flexibilitu při zavádění systému monitorování po uvedení na trh, který bude přizpůsoben jejich organizaci. Komise by zároveň měla být povinna zveřejnit do 2. září 2027 pokyny, včetně dobrovolného vzoru, k plánu monitorování po uvedení na trh, které vyjasní, jakým způsobem mají poskytovatelé vysoce rizikových systémů AI dodržovat povinnost stanovenou v čl. 72 odst. 1 nařízení (EU) 2024/1689.

(42)

Využívání umělé inteligence ve strojních zařízeních může pomoci podpořit inovace a zlepšit efektivitu těchto strojů. Uplatňování nařízení Evropského parlamentu a Rady (EU) 2023/1230 (18) a nařízení (EU) 2024/1689 by mohlo vést k překrývání. Zároveň je důležité zajistit takovou úroveň ochrany, pokud jde o rizika spojená s používáním umělé inteligence ve strojních zařízeních, která je v souladu s úrovní ochrany stanovenou v nařízení (EU) 2024/1689, pokud jde o vysoce rizikové systémy AI. Vzhledem ke specifické povaze strojních zařízení a odvětví strojních zařízení a s cílem řešit potřebu zjednodušit regulační rámec pro strojní zařízení založená na umělé inteligenci je vhodné přejít k odvětvovému přístupu přesunutím nařízení (EU) 2023/1230 z oddílu A do přílohy I oddílu B nařízení (EU) 2024/1689. V souladu s tím, za prvé, by se použití nařízení (EU) 2024/1689 na tyto stroje mělo omezit na ustanovení uvedená v čl. 2 odst. 2 uvedeného nařízení. Odkaz na směrnici 2006/42/ES by měl být přesunut z oddílu A do přílohy I oddílu B nařízení (EU) 2024/1689 a aktualizován tak, aby odkazoval na nařízení (EU) 2023/1230. Za druhé je zásadní zajistit, aby nařízení (EU) 2023/1230 obsahovalo základní požadavky na ochranu zdraví a bezpečnost pro vysoce rizikové systémy AI klasifikované podle čl. 6 odst. 1 nařízení (EU) 2024/1689 a používané jako bezpečnostní komponenty ve strojních zařízeních nebo vysoce rizikových systémech AI představujících strojní zařízení, které zajišťují úroveň ochrany v souladu s nařízením (EU) 2024/1689. Za tímto účelem by měla být Komise povinna přijmout akty v přenesené pravomoci, kterými se mění příloha III nařízení (EU) 2023/1230, aby se zohlednily příslušné požadavky stanovené v kapitole III oddíle 2 a v článcích 17, 19, 72 a 73 nařízení (EU) 2024/1689. Aby se zabránilo právní mezeře a zajistil se soulad se vstupem příslušných pravidel pro vysoce rizikové systémy AI stanovených v nařízení (EU) 2024/1689 v platnost, měly by se tyto akty v přenesené pravomoci začít uplatňovat do 2. srpna 2028. Ze stejných důvodů by výrobci měli mít možnost opírat se o harmonizované normy nebo společné specifikace, na které se odkazuje nebo které byly přijaty podle nařízení (EU) 2024/1689 a které zahrnují příslušné základní požadavky na předpoklad shody ve smyslu článku 20 nařízení (EU) 2023/1230, dokud nebude na harmonizované normy nebo společné specifikace týkající se AI učiněn odkaz nebo nebudou přijaty podle nařízení (EU) 2023/1230.

(43)

Posuzování shody vysoce rizikových systémů AI podle nařízení (EU) 2024/1689 může vyžadovat zapojení subjektů posuzování shody. Posuzování shody mohou provádět pouze subjekty posuzování shody, které byly jmenovány podle uvedeného nařízení, a to pouze v souvislosti s činnostmi souvisejícími s danými kategoriemi a typy systémů AI. Aby bylo možné upřesnit rozsah jmenování subjektů posuzování shody oznámených podle článku 30 nařízení (EU) 2024/1689, je nutné vypracovat seznam kódů, kategorií a odpovídajících typů systémů AI. Seznam kódů by měl zohledňovat, zda je systém AI součástí produktu nebo sám o sobě produktem, na který se vztahují harmonizační právní předpisy Unie uvedené v příloze I nařízení (EU) 2024/1689 (dále jen „kódy AIP“ pro systémy AI, na které se vztahují právní předpisy o produktech), nebo systémem uvedeným v příloze III uvedeného nařízení, která se v současnosti týká pouze biometrických systémů AI uvedených v příloze III bodě 1 (dále jen „kódy AIB“ pro biometrické systémy AI). Kódy AIP i AIB jsou vertikální kódy. Kódy AIP jsou referenčními kódy, které poskytují odkaz na harmonizační právní předpisy Unie uvedené v příloze I oddíle A nařízení (EU) 2024/1689. Kódy AIB jsou novými kódy specifickými pro nařízení (EU) 2024/1689, které slouží k identifikaci biometrických systémů AI stanovených v příloze III bodě 1 uvedeného nařízení. Seznam kódů by měl rovněž zohledňovat specifické typy a základní technologie systémů AI (dále jen „kódy AIH“ pro kódy horizontálních systémů AI). Kódy AIH jsou nové kódy specifické pro technologii AI a lze je použít ve spojení s vertikálními kódy AIP nebo AIB. Kódy AIH zahrnují základní typy a technologie systémů AI. Seznam kódů, jenž zahrnuje tři kategorie, by měl stanovit vícerozměrnou typologii systémů AI, která zajistí, že subjekty posuzování shody jmenované jako oznámené subjekty budou plně způsobilé pro systémy AI, které mají posuzovat.

(44)

Nařízení Evropského parlamentu a Rady (EU) 2018/1139 (19) stanoví společná pravidla v oblasti civilního letectví. Článek 108 nařízení (EU) 2024/1689 mění nařízení (EU) 2018/1139 s cílem zajistit, aby Komise při přijímání jakýchkoli příslušných aktů v přenesené pravomoci nebo prováděcích aktů podle nařízení (EU) 2018/1139 zohlednila na základě technických a regulačních zvláštností odvětví civilního letectví, a aniž by zasahovala do stávajících mechanismů správy, posuzování shody a prosazování a orgánů zřízených uvedeným nařízením, povinné požadavky na vysoce rizikové systémy AI stanovené v nařízení (EU) 2024/1689. K zajištění toho, aby byly při přijímání příslušných aktů v přenesené pravomoci nebo prováděcích aktů podle nařízení (EU) 2018/1139 plně pokryty povinné požadavky na vysoce rizikové systémy AI stanovené v nařízení (EU) 2024/1689, je nezbytná technická oprava, která mění další články nařízení (EU) 2018/1139.

(45)

Za účelem změny některých jiných než podstatných prvků nařízení (EU) 2024/1689 a (EU) 2023/1230 by měla být na Komisi přenesena pravomoc přijímat akty v souladu s článkem 290 Smlouvy o fungování Evropské unie, pokud jde o:

Je obzvláště důležité, aby Komise v rámci přípravné činnosti vedla odpovídající konzultace, a to i na odborné úrovni, a aby tyto konzultace probíhaly v souladu se zásadami stanovenými v interinstitucionální dohodě ze dne 13. dubna 2016 o zdokonalení tvorby právních předpisů (20). Pro zajištění rovné účasti na vypracovávání aktů v přenesené pravomoci obdrží Evropský parlament a Rada veškeré dokumenty současně s odborníky z členských států a jejich odborníci mají automaticky přístup na zasedání skupin odborníků Komise, jež se věnují přípravě aktů v přenesené pravomoci.

(46)

Aby byla s ohledem na brzkou obecnou použitelnost nařízení (EU) 2024/1689 co nejdříve zajištěna právní jistota, mělo by toto nařízení vstoupit v platnost neprodleně třetí den po jeho zveřejnění v Úředním věstníku Evropské unie.

(47)

Evropský inspektor ochrany údajů a Evropský sbor pro ochranu údajů byli konzultováni v souladu s čl. 42 odst. 1 a 2 nařízení (EU) 2018/1725 a dne 20. ledna 2026 vydali své společné stanovisko,

1)

V čl. 1 odst. 2 se písmeno g) nahrazuje tímto:

2)

Článek 2 se mění takto:

3)

V článku 2 se doplňuje nový odstavec, který zní:

4)

Článek 3 se mění takto:

5)

Článek 4 se nahrazuje tímto:

6)

Vkládá se nový článek, který zní:

7)

Článek 5 se mění takto:

8)

V článku 6 se vkládají nové odstavce, které znějí:

9)

Článek 10 se mění takto:

10)

V čl. 11 odst. 1 se druhý pododstavec nahrazuje tímto:

„Tato technická dokumentace je vypracována tak, aby prokazovala, že daný vysoce rizikový systém AI splňuje požadavky stanovené v tomto oddíle, a aby příslušným vnitrostátním orgánům a oznámeným subjektům poskytovala jasné a komplexní informace nezbytné k posouzení souladu systému AI s těmito požadavky. Obsahuje přinejmenším prvky uvedené v příloze IV. Malé a střední podniky, včetně podniků začínajících, a malé podniky se střední tržní kapitalizací mohou poskytnout jednotlivé položky technické dokumentace uvedené v příloze IV zjednodušeným způsobem. Za tímto účelem vytvoří Komise zjednodušený formulář technické dokumentace zaměřený na potřeby malých a středních podniků, včetně podniků začínajících, a malých podniků se střední tržní kapitalizací. V případě, že se malý nebo střední podnik, včetně podniku začínajícího, nebo malý podnik se střední tržní kapitalizací rozhodne poskytnout informace požadované v příloze IV ve zjednodušeném formátu, použije formulář uvedený v tomto odstavci. Oznámené subjekty tento formulář akceptují pro účely posouzení shody.“

11)

V článku 17 se odstavec 2 nahrazuje tímto:

12)

Článek 25 se mění takto:

13)

Článek 27 se mění takto:

14)

V článku 28 se doplňují nové odstavce, které znějí:

15)

V článku 29 se odstavec 4 nahrazuje tímto:

16)

V článku 30 se odstavec 2 nahrazuje tímto:

17)

V čl. 40 odst. 2 se doplňuje nový pododstavec, který zní:

„Komise v souladu s nařízením Evropského parlamentu a Rady (EU) č. 1025/2012 (*1) a bez zbytečného odkladu požádá evropské normalizační organizace, aby vypracovaly produkty normalizace, případně včetně harmonizovaných norem, s cílem usnadnit společný soulad a předpoklad shody s požadavky nebo povinnostmi stanovenými v kapitole III oddílech 2 a 3 tohoto nařízení a s příslušnými požadavky a povinnostmi stanovenými v harmonizačních právních předpisech Unie uvedených v příloze I tohoto nařízení.“

(*1)  Nařízení Evropského parlamentu a Rady (EU) č. 1025/2012 ze dne 25. října 2012 o evropské normalizaci, změně směrnic Rady 89/686/EHS a 93/15/EHS a směrnic Evropského parlamentu a Rady 94/9/ES, 94/25/ES, 95/16/ES, 97/23/ES, 98/34/ES, 2004/22/ES, 2007/23/ES, 2009/23/ES a 2009/105/ES, a kterým se ruší rozhodnutí Rady 87/95/EHS a rozhodnutí Evropského parlamentu a Rady č. 1673/2006/ES (Úř. věst. L 316, 14.11.2012, s. 12, ELI: http://data.europa.eu/eli/reg/2012/1025/oj)."

18)

V článku 42 se doplňuje nový odstavec, který zní:

19)

V článku 43 se odstavec 3 nahrazuje tímto:

20)

V článku 50 se odstavec 7 nahrazuje tímto:

21)

V článku 56 se odstavec 6 nahrazuje tímto:

22)

Článek 57 se mění takto:

23)

V čl. 58 odst. 1 se první pododstavec mění takto:

24)

Článek 60 se mění takto:

25)

Vkládá se nový článek, který zní:

26)

V článku 63 se odstavec 1 nahrazuje tímto:

27)

V článku 64 se doplňuje nový odstavec, který zní:

28)

V článku 69 se odstavec 2 nahrazuje tímto:

29)

V článku 70 se odstavec 8 nahrazuje tímto:

30)

V článku 72 se odstavec 3 nahrazuje tímto:

31)

Článek 75 se mění takto:

32)

Vkládají se nové články, které zní:

33)

V čl. 76 odst. 1 se doplňuje nový pododstavec, který zní:

„Je-li testování v reálných podmínkách založeno na článku 60a, považují se odkazy na orgán dozoru nad trhem v tomto článku za odkazy na příslušný vnitrostátní orgán nebo náležitý orgán podle harmonizačních právních předpisů Unie uvedených v příloze I oddíle B a odkazy na článek 60 se případně považují za odkazy na článek 60a.“

34)

Článek 77 se mění takto:

35)

V článku 95 se odstavec 4 nahrazuje tímto:

36)

V článku 96 se odstavec 1 mění takto:

37)

Článek 97 se mění takto:

38)

Článek 99 se mění takto:

39)

Článek 111 se mění takto:

40)

V článku 113 se třetí pododstavec mění takto:

41)

Příloha I se mění takto:

42)

V příloze VIII oddíle B se zrušují body 7 a 9.

43)

Doplňuje se nová příloha, která zní:

1)

V článku 27 se doplňuje nový odstavec, který zní:

(*2)  Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (Úř. věst. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“"

2)

V článku 31 se doplňuje nový odstavec, který zní:

3)

V článku 32 se doplňuje nový odstavec, který zní:

4)

V článku 36 se doplňuje nový odstavec, který zní:

5)

V článku 39 se doplňuje nový odstavec, který zní:

6)

V článku 50 se doplňuje nový odstavec, který zní:

7)

V článku 53 se doplňuje nový odstavec, který zní:

1)

V článku 8 se doplňují nové pododstavce, které znějí:

„Komise přijme akty v přenesené pravomoci v souladu s článkem 47 tohoto nařízení za účelem změny přílohy III tohoto nařízení doplněním požadavků na ochranu zdraví a bezpečnost v souvislosti se systémy umělé inteligence (AI), které jsou klasifikovány jako vysoce rizikové podle čl. 6 odst. 1 nařízení Evropského parlamentu a Rady (EU) 2024/1689 (*3) vzhledem k tomu, že jsou bezpečnostní komponentou produktu, na který se vztahuje toto nařízení, nebo jsou samy produktem, na který se vztahuje toto nařízení. Tyto požadavky zajistí zohlednění příslušných požadavků stanovených v kapitole III oddíle 2 a v článcích 17, 19, 72 a 73 nařízení (EU) 2024/1689.

Při přijímání aktů v přenesené pravomoci uvedených ve třetím pododstavci Komise zohlední cíle nařízení (EU) 2024/1689 a zajistí úroveň ochrany v souladu s uvedeným nařízením. Tyto akty v přenesené pravomoci se začnou uplatňovat do 2. srpna 2028.

(*3)  Nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci a mění nařízení (ES) č. 300/2008, (EU) č. 167/2013, (EU) č. 168/2013, (EU) 2018/858, (EU) 2018/1139 a (EU) 2019/2144 a směrnice 2014/90/EU, (EU) 2016/797 a (EU) 2020/1828 (akt o umělé inteligenci) (Úř. věst. L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).“"

2)

V článku 20 se doplňuje nový odstavec, který zní:

3)

Článek 47 se mění takto: