KOMISJA EUROPEJSKA

Bruksela, dnia 19.11.2025

COM(2025) 836 final

2025/0359(COD)

Wniosek

ROZPORZĄDZENIE PARLAMENTU EUROPEJSKIEGO I RADY

zmieniające rozporządzenia (UE) 2024/1689 i (UE) 2018/1139 w odniesieniu do uproszczenia wdrażania zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt zbiorczy prawa cyfrowego dotyczący AI)

(Tekst mający znaczenie dla EOG)

{SWD(2025) 836}

UZASADNIENIE

1.KONTEKST WNIOSKU

•Przyczyny i cele wniosku

W komunikacie „Prostsza i szybsza Europa” 1 Komisja ogłosiła swoje zobowiązanie do realizacji ambitnego programu na rzecz promowania przyszłościowych, innowacyjnych polityk, które wzmacniają konkurencyjność Unii Europejskiej (UE) i zmniejszają obciążenia regulacyjne dla obywateli, przedsiębiorstw i administracji, przy jednoczesnym zachowaniu najwyższych standardów promowania jej wartości.

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji („akt w sprawie sztucznej inteligencji”, „akt w sprawie AI”), które weszło w życie dnia 1 sierpnia 2024 r., ustanawia jednolity rynek godnej zaufania i zorientowanej na człowieka sztucznej inteligencji („AI”) w całej UE. Jego celem jest promowanie innowacji w dziedzinie AI i upowszechniania tej technologii, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych, w tym demokracji i praworządności.

Wejście w życie aktu w sprawie sztucznej inteligencji odbywa się etapami, przy czym rozpoczęcie stosowania wszystkich przepisów nastąpi do dnia 2 sierpnia 2027 r. Zakazy praktyk w zakresie AI wiążących się z niedopuszczalnym ryzykiem oraz obowiązki związane z modelami AI ogólnego przeznaczenia mają już zastosowanie. Większość przepisów – w szczególności tych regulujących systemy AI wysokiego ryzyka – zacznie jednak obowiązywać dopiero od dnia 2 sierpnia 2026 r. lub dnia 2 sierpnia 2027 r. Przepisy te obejmują szczegółowe wymogi dotyczące zarządzania danymi, przejrzystości, dokumentacji, nadzoru ze strony człowieka i solidności, aby zapewnić bezpieczeństwo, przejrzystość i niezawodność systemów AI wprowadzanych do obrotu w UE.

Komisja zobowiązała się do jasnego, prostego i sprzyjającego innowacjom wdrożenia aktu w sprawie AI, jak określono w Planie działania na rzecz kontynentu sztucznej inteligencji 2 i strategii w sprawie zastosowania AI 3 . Inicjatywy takie jak kodeks postępowania w zakresie AI ogólnego przeznaczenia, wytyczne i wzory Komisji, pakt na rzecz AI oraz uruchomienie centrum obsługi ds. aktu w sprawie AI zwiększają przejrzystość obowiązujących przepisów i zapewniają wsparcie w ich stosowaniu. W szczególności strona internetowa, za pośrednictwem której działa centrum obsługi ds. aktu w sprawie AI, oferuje jedną platformę informacyjną 4 na temat wszystkich zasobów dostępnych dla zainteresowanych stron na potrzeby poruszania się po akcie w sprawie AI, w tym wytycznych, organów krajowych i inicjatyw wspierających, seminariów internetowych i norm zharmonizowanych. Działania te będą kontynuowane i przygotowywane są dalsze wytyczne oraz narzędzia cyfrowe.

Opierając się na doświadczeniach zdobytych podczas wdrażania już obowiązujących przepisów, Komisja przeprowadziła szereg konsultacji, w tym konsultacje publiczne w celu określenia potencjalnych wyzwań związanych z wdrażaniem przepisów aktu w sprawie AI, zaproszenie do zgłaszania uwag w ramach przygotowywania aktu zbiorczego prawa cyfrowego, konsultację na temat stosowania przepisów w praktyce umożliwiającą zainteresowanym stronom bezpośrednią wymianę doświadczeń związanych z wdrażaniem oraz panel MŚP w celu określenia ich szczególnych potrzeb przy wdrażaniu aktu w sprawie AI.

Konsultacje te ujawniły wyzwania związane z wdrażaniem, które mogłyby zagrozić skutecznemu rozpoczęciu stosowania kluczowych przepisów aktu w sprawie AI. Obejmują one opóźnienia w wyznaczaniu właściwych organów krajowych i jednostek oceniających zgodność, a także brak norm zharmonizowanych dotyczących zawartych w akcie w sprawie AI wymogów dla systemów AI wysokiego ryzyka, wytycznych i narzędzi zapewniających zgodność z przepisami. Takie opóźnienia mogą znacznie zwiększyć koszty zapewnienia zgodności z przepisami ponoszone przez przedsiębiorstwa i organy publiczne oraz spowolnić innowacje.

Aby sprostać tym wyzwaniom, Komisja proponuje ukierunkowane środki upraszczające w celu zapewnienia terminowego, sprawnego i proporcjonalnego wdrożenia niektórych przepisów aktu w sprawie AI. Należą do nich:

·powiązanie harmonogramu wdrażania przepisów dotyczących systemów AI wysokiego ryzyka z dostępnością norm lub innych narzędzi wsparcia;

·rozszerzenie uproszczeń regulacyjnych przyznanych małym i średnim przedsiębiorstwom (MŚP) na małe spółki o średniej kapitalizacji, w tym uproszczenie wymogów dotyczących dokumentacji technicznej i zwrócenie szczególnej uwagi na stosowanie kar;

·zobowiązanie Komisji i państw członkowskich do wspierania kompetencji w zakresie AI zamiast egzekwowania nieokreślonych obowiązków w tym zakresie od dostawców i podmiotów stosujących systemy AI, przy jednoczesnym utrzymaniu obowiązków szkoleniowych dla podmiotów stosujących AI wysokiego ryzyka;

·zapewnienie większej elastyczności w monitorowaniu po wprowadzeniu do obrotu poprzez usunięcie zalecenia dotyczącego zharmonizowanego planu monitorowania po wprowadzeniu do obrotu;

·zmniejszenie obciążeń związanych z rejestracją dla dostawców systemów AI, które są wykorzystywane w obszarach wysokiego ryzyka, ale w odniesieniu do których dostawca stwierdził, że nie są one obarczone wysokim ryzykiem, ponieważ są wykorzystywane wyłącznie do wąsko określonych zadań lub zadań proceduralnych;

·scentralizowanie nadzoru nad dużą liczbą systemów AI opartych na modelach AI ogólnego przeznaczenia lub wbudowanych w bardzo duże platformy internetowe i bardzo duże wyszukiwarki internetowe we współpracy z Urzędem ds. AI;

·ułatwianie przestrzegania przepisów o ochronie danych poprzez umożliwienie dostawcom i podmiotom stosującym wszystkie systemy i modele AI przetwarzania szczególnych kategorii danych osobowych w celu zapewnienia wykrywania i korygowania stronniczości, przy zapewnieniu odpowiednich zabezpieczeń;

·szersze wykorzystanie piaskownic regulacyjnych w zakresie AI i testów w warunkach rzeczywistych, które przyniosą korzyści kluczowym gałęziom przemysłu europejskiego, takim jak przemysł motoryzacyjny, oraz ułatwienie funkcjonowania piaskownicy regulacyjnej w zakresie AI na szczeblu UE, którą Urząd ds. AI utworzy w 2028 r.;

·ukierunkowane zmiany wyjaśniające wzajemne powiązania między aktem w sprawie AI a innymi przepisami UE oraz dostosowujące procedury przewidziane w akcie w sprawie AI w celu poprawy jego ogólnego wdrażania i funkcjonowania.

Oprócz środków ustawodawczych Komisja wprowadza dalsze środki, aby ułatwić przestrzeganie aktu w sprawie AI i odpowiedzieć na obawy zgłaszane przez zainteresowane strony. Przygotowywane są dalsze wytyczne, koncentrujące się na zaoferowaniu jasnych i praktycznych instrukcji dotyczących stosowania aktu w sprawie AI równolegle z innymi przepisami UE. Obejmują one:

·wytyczne dotyczące praktycznego stosowania klasyfikacji wysokiego ryzyka;

·wytyczne dotyczące praktycznego stosowania wymogów przejrzystości na podstawie art. 50 aktu w sprawie sztucznej inteligencji;

·wytyczne dotyczące zgłaszania poważnych incydentów przez dostawców systemów AI wysokiego ryzyka;

·wytyczne dotyczące praktycznego stosowania wymogów wysokiego ryzyka;

·wytyczne dotyczące praktycznego stosowania obowiązków dostawców i podmiotów stosujących systemy AI wysokiego ryzyka;

·wytyczne wraz ze wzorem oceny skutków dla praw podstawowych;

·wytyczne dotyczące praktycznego stosowania przepisów dotyczących odpowiedzialności w całym łańcuchu wartości AI;

·wytyczne dotyczące praktycznego wdrażania przepisów w zakresie istotnych zmian;

·wytyczne dotyczące monitorowania systemów AI wysokiego ryzyka po ich wprowadzeniu do obrotu;

·wytyczne dotyczące elementów systemu zarządzania jakością, które MŚP i małe spółki o średniej kapitalizacji mogą stosować w sposób uproszczony;

·wytyczne dotyczące wzajemnych powiązań aktu w sprawie AI z innymi przepisami Unii, na przykład wspólne wytyczne Komisji i Europejskiej Rady Ochrony Danych dotyczące wzajemnych powiązań między aktem w sprawie AI a unijnymi przepisami o ochronie danych, wytyczne dotyczące wzajemnych powiązań między aktem w sprawie AI a aktem dotyczącym cyberodporności oraz wytyczne dotyczące wzajemnych powiązań między aktem w sprawie AI a rozporządzeniem w sprawie maszyn;

·wytyczne dotyczące kompetencji i procedury wyznaczania jednostek oceniających zgodność, które mają zostać wyznaczone na podstawie aktu w sprawie AI.

W szczególności konsultacje z zainteresowanymi stronami ujawniły potrzebę przedstawienia wytycznych w sprawie praktycznego stosowania przewidzianych w akcie w sprawie AI wyłączeń dotyczących badań naukowych na podstawie art. 2 ust. 6 i 8, w tym sposobu ich stosowania w kontekstach sektorowych, takich jak badania przedkliniczne i opracowywanie produktów w dziedzinie produktów leczniczych lub wyrobów medycznych, nad którymi Komisja będzie pracować priorytetowo.

Te działania na rzecz uproszczenia pomogą zapewnić sprawne, przewidywalne i sprzyjające innowacjom wdrożenie aktu w sprawie AI, co umożliwi Europie wzmocnienie jej pozycji jako kontynentu sztucznej inteligencji i bezpieczne stosowanie podejścia „AI na pierwszym miejscu”.

•Spójność z przepisami obowiązującymi w tej dziedzinie polityki

•Spójność z innymi politykami Unii

2.PODSTAWA PRAWNA, POMOCNICZOŚĆ I PROPORCJONALNOŚĆ

•Podstawa prawna

•Pomocniczość (w przypadku kompetencji niewyłącznych)

•Proporcjonalność

•Wybór instrumentu

3.WYNIKI OCEN EX POST, KONSULTACJI Z ZAINTERESOWANYMI STRONAMI I OCEN SKUTKÓW

•Oceny ex post/oceny adekwatności obowiązującego prawodawstwa

Niniejszemu wnioskowi towarzyszy dokument roboczy służb Komisji, w którym przedstawiono szczegółowy przegląd skutków proponowanych zmian niektórych przepisów rozporządzenia (UE) 2024/1689. Przedstawiono w nim również analizę pozytywnych skutków proponowanych środków. Analiza ta opiera się na istniejących danych, informacjach zgromadzonych w drodze konsultacji oraz podczas konsultacji na temat stosowania przepisów w praktyce, a także na pisemnych informacjach zwrotnych od zainteresowanych stron zabranych w ramach zaproszenia do zgłaszania uwag.

•Konsultacje z zainteresowanymi stronami

W kontekście niniejszego wniosku przeprowadzono szereg konsultacji. Wszystkie one wzajemnie się uzupełniały i odnosiły się do różnych aktualnych kwestii albo grup zainteresowanych stron, których dotyczy inicjatywa.

Na początkowym etapie ustalania zakresu pakietu cyfrowego dotyczącego uproszczenia wiosną 2025 r. opublikowano trzy konsultacje publiczne i zaproszenia do zgłaszania uwag na temat kluczowych aspektów wniosku. W dniach 9 kwietnia – 4 czerwca 2025 r. przeprowadzono konsultacje w sprawie strategii w sprawie zastosowania AI 5 , w dniach 11 kwietnia – 20 czerwca 2025 r. – konsultacje w sprawie zmiany aktu o cyberbezpieczeństwie 6 , natomiast w dniach 23 maja – 20 lipca 2025 r. – konsultacje w sprawie strategii na rzecz europejskiej unii danych 7 . Każda konsultacja obejmowała kwestionariusz z sekcją (lub niekiedy z wieloma sekcjami) na temat obaw odnoszących się do wdrażania i uproszczenia, bezpośrednio związanych z refleksjami na temat pakietu cyfrowego dotyczącego uproszczenia. Łącznie w ramach tego pierwszego pakietu konsultacji otrzymano 718 odpowiedzi.

W dniach 16 września – 14 października 2025 r. opublikowano ponadto zaproszenie do zgłaszania uwag na temat pakietu cyfrowego dotyczącego uproszczenia 8 . Jego celem było objęcie całego zakresu inicjatywy i umożliwienie zainteresowanym stronom przedstawienia za jednym razem uwag na temat bardziej ukierunkowanego zestawu wniosków. Otrzymano łącznie 513 odpowiedzi od szerokiego grona zainteresowanych stron.

W dniach 4 września – 16 października 2025 r. za pośrednictwem Europejskiej Sieci Przedsiębiorczości (EEN) zorganizowano specjalny panel MŚP, aby szerzyć wiedzę na temat pakietu cyfrowego dotyczącego uproszczenia wśród małych i średnich przedsiębiorstw (MŚP) oraz zebrania od nich informacji zwrotnych. Europejska Sieć Przedsiębiorczości jest największą na świecie siecią wsparcia dla MŚP i jest wdrażana przez Agencję Wykonawczą Europejskiej Rady ds. Innowacji i ds. MŚP (EISMEA) działającą przy Komisji. Panele MŚP umożliwiają prowadzenie konsultacji z zainteresowanymi stronami objętymi tymi ramami. MŚP mają możliwość przedstawienia swoich opinii na temat przyszłych inicjatyw politycznych. Oprócz przeprowadzenia internetowych konsultacji pisemnych (w ramach których otrzymano 106 odpowiedzi od MŚP) Komisja przedstawiła również pakiet cyfrowy dotyczący uproszczenia stowarzyszeniom MŚP wchodzącym w skład Europejskiej Sieci Przedsiębiorczości na posiedzeniu, które odbyło się w dniu 1 października 2025 r.

W 2025 r. służby Komisji zorganizowały dużą liczbę spotkań dwustronnych z zainteresowanymi stronami w celu rozwiązania konkretnych problemów. Przeprowadzono również dyskusje z państwami członkowskimi. Oprócz wymian dwustronnych na posiedzeniach grup roboczych Rady w czerwcu i we wrześniu 2025 r. omówiono konkretne punkty porządku obrad dotyczące pakietu cyfrowego w sprawie uproszczenia, podczas których Komisja przedstawiła obecną sytuację i zwróciła się do państw członkowskich o wyrażenie opinii.

Ogólnie opinie zainteresowanych stron były zbieżne co do potrzeby uproszczonego stosowania niektórych przepisów cyfrowych. Różne zainteresowane strony w dużej mierze poparły większą spójność oraz skupienie się na optymalizacji kosztów przestrzegania przepisów. Wyraziły one pewne różnice zdań w odniesieniu do niektórych z bardziej dostosowanych środków. Bardziej szczegółowy przegląd tych konsultacji z zainteresowanymi stronami oraz informacje na temat sposobu, w jaki zostały one odzwierciedlone we wniosku, można znaleźć w dokumencie roboczym służb Komisji towarzyszącym pakietowi cyfrowemu dotyczącemu uproszczenia.

•Gromadzenie i wykorzystanie wiedzy eksperckiej

•Ocena skutków

•Sprawność regulacyjna i uproszczenie

•Prawa podstawowe

Oczekuje się, że rozporządzenie (UE) 2024/1689 przyczyni się do ochrony szeregu podstawowych praw i wolności określonych w Karcie praw podstawowych Unii Europejskiej 9 , a także będzie miało pozytywny wpływ na prawa różnych specjalnych grup 10 . Jednocześnie rozporządzenie (UE) 2024/1689 nakłada pewne ograniczenia na niektóre prawa i wolności 11 , które są proporcjonalne i ograniczone do niezbędnego minimum. Oczekuje się, że niniejszy wniosek nie zmieni wpływu rozporządzenia (UE) 2024/1689 na prawa podstawowe, ponieważ ukierunkowany charakter planowanych zmian nie ma wpływu na zakres regulowanych systemów AI ani na wymogi materialne mające zastosowanie do tych systemów.

4.WPŁYW NA BUDŻET

5.ELEMENTY FAKULTATYWNE

•Plany wdrożenia i monitorowanie, ocena i sprawozdania

•Dokumenty wyjaśniające (w przypadku dyrektyw)

•Szczegółowe objaśnienia poszczególnych przepisów wniosku

·w pkt 1 dodano odniesienie do małych spółek o średniej kapitalizacji w przedmiocie aktu w sprawie AI;

·pkt 2 stanowi zmianę techniczną, która jest niezbędna, aby umożliwić rozszerzenie testów w warunkach rzeczywistych na systemy AI wysokiego ryzyka wbudowane w wyroby objęte sekcją B załącznika I do aktu w sprawie AI;

·w pkt 3 dodano definicje prawne MŚP i małych spółek o średniej kapitalizacji do definicji zawartych w art. 3 aktu w sprawie AI;

·w pkt 4 przekształcono obowiązek spoczywający na dostawcach i podmiotach stosujących systemy AI w odniesieniu do kompetencji w zakresie AI, określony w art. 4 aktu w sprawie AI, w obowiązek wspierania kompetencji w zakresie AI spoczywający na Komisji i państwach członkowskich;

·w pkt 5 wprowadzono nowy art. 4a zastępujący art. 10 ust. 5 aktu w sprawie AI, który stanowi podstawę prawną dla dostawców i podmiotów stosujących systemy AI i modele AI do wyjątkowego przetwarzania szczególnych kategorii danych osobowych w celu zapewnienia wykrywania i korygowania stronniczości pod pewnymi warunkami;

·w pkt 6, 14 i 32 odniesiono się do usunięcia spoczywającego na dostawcach obowiązku rejestracji systemów AI w unijnej bazie danych systemów wysokiego ryzyka na podstawie załącznika III, w przypadku gdy zostały one wyłączone z klasyfikacji jako systemy wysokiego ryzyka na podstawie art. 6 ust. 3 aktu w sprawie AI, ponieważ na przykład są one wykorzystywane wyłącznie do zadań przygotowawczych;

·pkt 7 zawiera zmiany redakcyjne związane ze zmianami wprowadzonymi w pkt 4;

·w pkt 8 i 9 rozszerzono istniejące przywileje regulacyjne wynikające z aktu w sprawie sztucznej inteligencji dla MŚP na małe spółki o średniej kapitalizacji w zakresie dokumentacji technicznej i wprowadzono system zarządzania jakością uwzględniający ich wielkość;

·w pkt 10 wprowadzono nową procedurę z art. 28 aktu w sprawie sztucznej inteligencji, zgodnie z którą państwa członkowskie są zobowiązane do zapewnienia, aby jednostka oceniająca zgodność, która ubiega się o wyznaczenie zarówno na podstawie niniejszego rozporządzenia, jak i unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do aktu w sprawie sztucznej inteligencji, miała możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny w celu wyznaczenia;

·w pkt 11 proponuje się zastąpienie art. 29 ust. 4 aktu w sprawie sztucznej inteligencji, który zobowiązuje jednostki oceniające zgodność do złożenia jednego wniosku w przypadkach, o których mowa w tym ustępie;

·pkt 12 zmienia art. 30 aktu w sprawie sztucznej inteligencji, nakładając na jednostki oceniające zgodność, które ubiegają się o wyznaczenie na jednostki notyfikowane, obowiązek złożenia tego wniosku zgodnie z kodami, kategoriami i odpowiadającymi im rodzajami systemów AI, o których mowa w nowym załączniku XIV dla systemu informacyjnego NANDO Komisji, oraz upoważnia Komisję do zmiany tych kodów, kategorii i odpowiadających im rodzajów w związku z rozwojem technologicznym;

·w pkt 13 doprecyzowano procedurę oceny zgodności określoną w art. 43 aktu w sprawie sztucznej inteligencji, w przypadku gdy system AI wysokiego ryzyka jest objęty unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do aktu w sprawie sztucznej inteligencji oraz w przypadku gdy system AI jest sklasyfikowany jako system wysokiego ryzyka zarówno na podstawie załącznika I, jak i załącznika III do aktu w sprawie sztucznej inteligencji;

·w pkt 15 i 16 usunięto uprawnienia Komisji określone w art. 50 i 56 aktu w sprawie sztucznej inteligencji do przyjmowania aktów wykonawczych w celu nadania kodeksom praktyk dotyczącym modeli AI ogólnego przeznaczenia oraz obowiązkom w zakresie przejrzystości w odniesieniu do niektórych systemów AI powszechnej mocy w Unii;

·w pkt 17 wprowadzono zmiany w przepisach dotyczących piaskownic regulacyjnych w zakresie AI zawartych w art. 57 aktu w sprawie sztucznej inteligencji, między innymi poprzez zapewnienie Urzędowi ds. AI podstawy prawnej do wprowadzenia piaskownicy regulacyjnej w zakresie AI na szczeblu UE w odniesieniu do niektórych systemów AI w ramach jego wyłącznych kompetencji w zakresie nadzoru, oraz zobowiązano państwa członkowskie do zacieśnienia współpracy transgranicznej ich piaskownic;

·w pkt 18 określono uprawnienia Komisji do przyjmowania aktów wykonawczych określających szczegółowe zasady dotyczące ustanawiania, opracowywania, wdrażania i działania piaskownic regulacyjnych w zakresie AI oraz zarządzania nimi i nadzoru nad nimi;

·w pkt 19 wprowadzono zmiany w testowaniu systemów AI wysokiego ryzyka w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI uregulowanym w art. 60 aktu w sprawie sztucznej inteligencji, m.in. rozszerzając tę możliwość na systemy AI wysokiego ryzyka objęte załącznikiem I sekcja A;

·w pkt 20 tworzy się dodatkową podstawę prawną dla zainteresowanych państw członkowskich i Komisji, na zasadzie dobrowolności, do zawierania pisemnych umów w celu testowania systemów AI wysokiego ryzyka, o których mowa w załączniku I sekcja B, w warunkach rzeczywistych;

·w pkt 21 rozszerzono odstępstwo dla mikroprzedsiębiorstw na MŚP w celu zapewnienia zgodności z niektórymi elementami systemu zarządzania jakością wymaganego na mocy art. 17 aktu w sprawie sztucznej inteligencji w sposób uproszczony;

·w pkt 22 – w celu uproszczenia procedury – usunięto uprawnienie Komisji zawarte w art. 69 aktu w sprawie sztucznej inteligencji do przyjęcia aktu wykonawczego dotyczącego zwrotu kosztów związanych z doradztwem ekspertów panelu naukowego na wniosek państw członkowskich;

·w pkt 23 rozszerzono zakres wskazówek, których organy krajowe mogą udzielać MŚP na małe spółki o średniej kapitalizacji;

·w pkt 24 zastąpiono zawarte w art. 72 aktu w sprawie sztucznej inteligencji uprawnienie Komisji do przyjęcia aktu wykonawczego dotyczącego planu monitorowania po wprowadzeniu do obrotu;

·w pkt 25 wprowadzono zmiany w zakresie nadzorowania i egzekwowania przepisów dotyczących pewnych systemów AI, o których mowa w art. 75 aktu w sprawie sztucznej inteligencji:

·w lit. a) zmienia się nagłówek;

·w lit. b) wzmocniono kompetencje Urzędu ds. AI w zakresie nadzoru i egzekwowania przepisów w odniesieniu do niektórych systemów AI, które opierają się na modelu AI ogólnego przeznaczenia, w przypadku gdy model i system są dostarczane przez tego samego dostawcę. Jednocześnie w przepisie wyjaśniono, że systemy AI związane z produktami objętymi załącznikiem I nie podlegają temu nadzorowi. Ponadto wyjaśniono, że nadzór i egzekwowanie zgodności systemów AI wbudowanych we wskazane bardzo duże platformy internetowe lub bardzo duże wyszukiwarki internetowe powinny wchodzić w zakres kompetencji Urzędu ds. AI;

·w lit. c) wprowadzono kilka nowych ustępów, w których uprawniono Komisję do przyjmowania aktów wykonawczych w celu określenia uprawnień Urzędu ds. AI w zakresie egzekwowania przepisów i procedur wykonywania tych uprawnień, wprowadzono odniesienie do rozporządzenia (UE) 2019/1020 zapewniającego stosowanie niektórych gwarancji proceduralnych do objętych nim dostawców oraz upoważniono Komisję do przeprowadzania ocen zgodności systemów AI objętych zakresem art. 75;

·w pkt 26 zmienia się art. 77 aktu w sprawie sztucznej inteligencji w odniesieniu do uprawnień organów lub podmiotów chroniących prawa podstawowe oraz współpracy z organami nadzoru rynku;

·w pkt 27 i 28 rozszerzono na małe spółki o średniej kapitalizacji przepisy art. 95 i 96, które wymagają, aby narzędzia dobrowolnego wsparcia uwzględniały potrzeby MŚP;

·w pkt 29 rozszerzono istniejące przywileje regulacyjne określone w art. 99 aktu w sprawie sztucznej inteligencji o karach dla MŚP na małe spółki o średniej kapitalizacji;

·w pkt 30 zawarto zmiany do art. 111 aktu w sprawie sztucznej inteligencji, które wynikają ze zmian wprowadzonych w pkt 30, i określono sześciomiesięczny okres przejściowy dla dostawców, którzy muszą z mocą wsteczną włączyć rozwiązania techniczne do swoich systemów generatywnej AI, aby uczynić je nadającymi się do odczytu maszynowego i wykrywalnymi jako sztucznie wygenerowane lub zmanipulowane;

·w pkt 31 wprowadzono zmiany dotyczące rozpoczęcia stosowania niektórych przepisów aktu w sprawie sztucznej inteligencji:

·w odniesieniu do obowiązków dotyczących systemów AI wysokiego ryzyka w rozdziale III wprowadza się mechanizm, który łączy rozpoczęcie stosowania z dostępnością środków wspierających zgodność z przepisami aktu w sprawie sztucznej inteligencji dotyczącymi wysokiego ryzyka, takich jak normy zharmonizowane, wspólne specyfikacje i wytyczne Komisji. Dostępność ta zostanie potwierdzona przez Komisję w drodze decyzji, po czym przepisy dotyczące systemów AI wysokiego ryzyka zaczną obowiązywać po upływie odpowiedniego okresu przejściowego. Elastyczność ta powinna mieć jednak zastosowanie jedynie przez ograniczony czas i należy określić konkretną datę, do której przepisy będą miały zastosowanie w każdym przypadku. Ponadto należy dokonać rozróżnienia między dwoma rodzajami systemów AI, które klasyfikują się jako systemy wysokiego ryzyka, i wydłużyć okres przejściowy w odniesieniu do systemów AI, które klasyfikują się jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 aktu w sprawie sztucznej inteligencji i załącznikiem I do tego aktu;

·wyjaśniono, że zmiany niezbędne do włączenia wymogów wysokiego ryzyka do przepisów sektorowych wymienionych w załączniku I sekcja B mają zastosowanie wraz z wejściem w życie aktu zbiorczego prawa cyfrowego;

·pkt 33 jest związany ze zmianą w pkt 11 i wprowadza nowy załącznik XIV określający kody, kategorie i odpowiadające im rodzaje systemów AI, o których mowa w nowym załączniku XIV dla systemu informacyjnego NANDO Komisji.

W art. 2 wprowadzono zmiany w odniesieniu do rozporządzenia (UE) 2018/1139, aby umożliwić sprawne włączenie do tego rozporządzenia wymogów aktu w sprawie sztucznej inteligencji dotyczących wysokiego ryzyka.

Art. 3 reguluje zasady wejścia w życie i wiążący charakter niniejszego rozporządzenia.

2025/0359 (COD)

Wniosek

ROZPORZĄDZENIE PARLAMENTU EUROPEJSKIEGO I RADY

zmieniające rozporządzenia (UE) 2024/1689 i (UE) 2018/1139 w odniesieniu do uproszczenia wdrażania zharmonizowanych przepisów dotyczących sztucznej inteligencji (akt zbiorczy prawa cyfrowego dotyczący AI)

(Tekst mający znaczenie dla EOG)

PARLAMENT EUROPEJSKI I RADA UNII EUROPEJSKIEJ,

uwzględniając Traktat o funkcjonowaniu Unii Europejskiej, w szczególności jego art. 114,

uwzględniając wniosek Komisji Europejskiej,

po przekazaniu projektu aktu ustawodawczego parlamentom narodowym,

uwzględniając opinię Europejskiego Komitetu Ekonomiczno-Społecznego 12 ,

uwzględniając opinię Komitetu Regionów 13 ,

stanowiąc zgodnie ze zwykłą procedurą ustawodawczą,

a także mając na uwadze, co następuje:

(1)Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 14 ustanawia zharmonizowane przepisy dotyczące sztucznej inteligencji (AI) i ma na celu poprawę funkcjonowania rynku wewnętrznego, promowanie upowszechniania zorientowanej na człowieka i godnej zaufania sztucznej inteligencji, przy jednoczesnym zapewnieniu wysokiego poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych oraz wspieraniu innowacji. Rozporządzenie (UE) 2024/1689 weszło w życie w dniu 1 sierpnia 2024 r. Jego przepisy zaczynają obowiązywać stopniowo, przy czym rozpoczęcie stosowania wszystkich przepisów nastąpi do dnia 2 sierpnia 2027 r.

(2)Doświadczenia zgromadzone podczas wdrażania części rozporządzenia (UE) 2024/1689, które zaczęły już być stosowane, mogą być pomocne przy wdrażaniu tych części, które nie mają jeszcze zastosowania. W tym kontekście opóźnione przygotowanie norm, które powinny zapewnić rozwiązania techniczne dla dostawców systemów AI wysokiego ryzyka w celu zagwarantowania zgodności z ich obowiązkami wynikającymi z tego rozporządzenia, oraz opóźnione ustanowienie ram zarządzania i oceny zgodności na szczeblu krajowym skutkują większymi niż oczekiwano obciążeniami regulacyjnymi. Ponadto konsultacje z zainteresowanymi stronami ujawniły potrzebę wprowadzenia dodatkowych środków, które ułatwią wdrażanie i przestrzeganie przepisów oraz zapewnią przejrzystość, bez obniżania poziomu ochrony zdrowia, bezpieczeństwa i praw podstawowych przed zagrożeniami związanymi ze sztuczną inteligencją, który mają zapewnić przepisy rozporządzenia (UE) 2024/1689.

(3)W związku z tym konieczne są ukierunkowane zmiany w rozporządzeniu (UE) 2024/1689, których wprowadzenie pozwoli sprostać niektórym wyzwaniom w zakresie wdrażania i zapewnić skuteczne stosowanie odpowiednich przepisów.

(4)Przedsiębiorstwa wykraczające poza definicję mikroprzedsiębiorstw oraz małych i średnich przedsiębiorstw („MŚP”) – „małe spółki o średniej kapitalizacji” – odgrywają kluczową rolę w gospodarce Unii. W porównaniu z MŚP małe spółki o średniej kapitalizacji wykazują zwykle wyższe tempo wzrostu oraz poziom innowacji i cyfryzacji. Stoją one jednak przed podobnymi wyzwaniami związanymi z obciążeniem administracyjnym jak MŚP, co powoduje konieczność zachowania proporcjonalności przy wdrażaniu rozporządzenia (UE) 2024/1689 i ukierunkowanego wsparcia. Aby umożliwić sprawne przejście przedsiębiorstw z segmentu MŚP do segmentu małych spółek o średniej kapitalizacji, istotne jest spójne uwzględnienie wpływu, jaki regulacje mogą mieć na ich działalność, gdy przedsiębiorstwa te wykroczą poza definicję MŚP i będą musiały przestrzegać przepisów mających zastosowanie do dużych przedsiębiorstw. W rozporządzeniu (UE) 2024/1689 przewidziano szereg środków dla drobnych dostawców, które należy rozszerzyć na małe spółki o średniej kapitalizacji. Aby lepiej wyjaśnić, jak w rozporządzeniu (UE) 2024/1689 traktowane są MŚP i małe spółki o średniej kapitalizacji, należy wprowadzić definicje MŚP i małych spółek o średniej kapitalizacji, które powinny odpowiadać definicji określonej w załączniku do zalecenia Komisji 2003/361/WE 15 i w załączniku do zalecenia Komisji 2025/3500/WE 16 .

(5)W art. 4 rozporządzenia (UE) 2024/1689 nałożono obecnie na wszystkich dostawców i podmioty stosujące systemy AI obowiązek zapewnienia ich personelowi kompetencji w zakresie AI. Rozwój kompetencji w zakresie AI, począwszy od kształcenia i szkolenia po uczenie się przez całe życie, ma kluczowe znaczenie dla wyposażenia dostawców, podmiotów stosujących systemy AI i innych zainteresowanych stron w niezbędną wiedzę do podejmowania świadomych decyzji dotyczących wdrażania systemów AI. Z doświadczeń zainteresowanych stron wynika jednak, że uniwersalne rozwiązanie nie jest odpowiednie dla wszystkich rodzajów dostawców i podmiotów stosujących systemy AI w odniesieniu do promowania kompetencji w zakresie AI, co sprawia, że taki horyzontalny obowiązek jest nieskuteczny w osiąganiu celu tego przepisu. Ponadto dane wskazują, że nałożenie takiego obowiązku stwarza dodatkowe obciążenie regulacyjne, zwłaszcza dla mniejszych przedsiębiorstw, podczas gdy kompetencje w zakresie AI powinny być priorytetem strategicznym, niezależnie od obowiązków regulacyjnych i potencjalnych sankcji. W związku z tym należy zmienić art. 4 rozporządzenia (UE) 2024/1689, aby zobowiązać państwa członkowskie i Komisję, bez uszczerbku dla ich odpowiednich kompetencji, do indywidualnego, zbiorowego i w ramach współpracy z odpowiednimi zainteresowanymi stronami zachęcania dostawców i podmiotów stosujących systemy AI do zapewnienia wystarczającego poziomu kompetencji w zakresie AI ich personelu i innych osób zajmujących się eksploatacją i wykorzystywaniem systemów AI w ich imieniu, w tym poprzez oferowanie możliwości szkoleniowych, zapewnianie zasobów informacyjnych oraz umożliwianie wymiany dobrych praktyk i innych niewiążących prawnie inicjatyw. Europejska Rada ds. Sztucznej Inteligencji („Rada”) zapewni regularną wymianę informacji na ten temat między Komisją a państwami członkowskimi, natomiast sojusz na rzecz stosowania AI umożliwi dyskusję z szerszą społecznością. Zmiana ta pozostaje bez uszczerbku dla szerszych środków wprowadzanych przez Komisję i państwa członkowskie w celu promowania umiejętności i kompetencji w zakresie AI wśród ogółu społeczeństwa, w tym osób uczących się, studentów i obywateli w różnym wieku, w szczególności za pośrednictwem systemów kształcenia i szkolenia.

(6)Wykrywanie i korygowanie stronniczości stanowi istotny interes publiczny, ponieważ chroni osoby fizyczne przed niekorzystnymi skutkami stronniczości, w tym dyskryminacją. Dyskryminacja może wynikać ze stronniczości modeli AI i systemów AI innych niż systemy AI wysokiego ryzyka, dla których rozporządzenie (UE) 2024/1689 zapewnia już podstawę prawną zezwalającą na przetwarzanie szczególnych kategorii danych osobowych na podstawie art. 9 ust. 2 lit. g) rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 17 . Biorąc pod uwagę, że dyskryminacja może wynikać również ze stosowania innych systemów i modeli AI, w rozporządzeniu (UE) 2024/1689 należy zatem przewidzieć podstawę prawną przetwarzania szczególnych kategorii danych osobowych również przez dostawców innych systemów i modeli AI i podmioty je stosujące, a także przez podmioty stosujące systemy AI wysokiego ryzyka. Podstawa prawna została ustanowiona zgodnie z art. 9 ust. 2 lit. g) rozporządzenia (UE) 2016/679, art. 10 ust. 2 lit. g) rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/1725 18 , a art. 10 lit. a) dyrektywy Parlamentu Europejskiego i Rady (UE) 2016/680 19 zapewnia podstawę prawną umożliwiającą, gdy jest to konieczne w celu wykrywania i eliminowania stronniczości, przetwarzanie szczególnych kategorii danych osobowych przez dostawców wszystkich systemów i modeli AI i podmioty je stosujące, z zastrzeżeniem odpowiednich zabezpieczeń uzupełniających odpowiednio rozporządzenie (UE) 2016/679, rozporządzenie (UE) 2018/1725 i dyrektywę (UE) 2016/680.

(7)Aby zapewnić spójność, uniknąć powielania działań i zminimalizować obciążenia administracyjne związane z procedurą wyznaczania jednostek notyfikowanych na podstawie rozporządzenia (UE) 2024/1689, przy jednoczesnym utrzymaniu tego samego poziomu kontroli, należy zapewnić nowym jednostkom oceniającym zgodność i jednostkom notyfikowanym wyznaczonym na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, np. na podstawie rozporządzeń Parlamentu Europejskiego i Rady (UE) 2017/745 20 i (UE) 2017/746 21 , możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny, jeżeli taka procedura została ustanowiona na podstawie tego unijnego prawodawstwa harmonizacyjnego. Możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny ma na celu ułatwienie, wspieranie i przyspieszenie procedury wyznaczania na podstawie rozporządzenia (UE) 2024/1689, przy jednoczesnym zapewnieniu zgodności z wymogami mającymi zastosowanie do jednostek notyfikowanych na podstawie tego rozporządzenia oraz z unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia.

(8)Aby zapewnić sprawne stosowanie i spójność rozporządzenia (UE) 2024/1689, należy wprowadzić do niego zmiany. Należy dodać korektę techniczną art. 43 ust. 3 akapit pierwszy rozporządzenia (UE) 2024/1689 w celu dostosowania wymogów oceny zgodności do wymogów dotyczących dostawców systemów AI wysokiego ryzyka określonych w art. 16 tego rozporządzenia. Ponadto należy wyjaśnić, że w przypadku gdy dostawca systemu AI wysokiego ryzyka podlega procedurze oceny zgodności na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, a ocena zgodności obejmuje zgodność systemu zarządzania jakością określonego w tym rozporządzeniu i takim unijnym prawodawstwie harmonizacyjnym, dostawca ten powinien mieć możliwość włączenia aspektów związanych z systemami zarządzania jakością określonymi w tym rozporządzeniu jako części systemów zarządzania jakością określonych w takim unijnym prawodawstwie harmonizacyjnym, zgodnie z art. 17 ust. 3 rozporządzenia (UE) 2024/1689. Należy zmienić art. 43 ust. 3 akapit drugi w celu wyjaśnienia, że jednostki notyfikowane, które zostały notyfikowane na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w sekcji A załącznika I do rozporządzenia (UE) 2024/1689 i które mają na celu ocenę systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do tego rozporządzenia, powinny ubiegać się o wyznaczenie na jednostkę notyfikowaną na podstawie tego rozporządzenia w terminie 18 miesięcy od dnia [rozpoczęcia stosowania niniejszego rozporządzenia] r. Ta zmiana pozostaje bez uszczerbku dla art. 28 rozporządzenia (UE) 2024/1689. Ponadto należy zmienić rozporządzenie (UE) 2024/1689 w celu wyjaśnienia, że w przypadku gdy system AI wysokiego ryzyka jest objęty zarówno unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do rozporządzenia (UE) 2024/1689, jak i jednym z przypadków wykorzystania wymienionych w załączniku III do tego rozporządzenia, dostawca powinien zastosować odpowiednią procedurę oceny zgodności wymaganą na podstawie tego odpowiedniego prawodawstwa harmonizacyjnego.

(9)Aby usprawnić przestrzeganie przepisów i zmniejszyć związane z tym koszty, dostawcy systemów AI nie powinni być zobowiązani do rejestrowania systemów AI, o których mowa w art. 6 ust. 3 rozporządzenia (UE) 2024/1689, w unijnej bazie danych zgodnie z art. 49 ust. 2 tego rozporządzenia. Biorąc pod uwagę, że takich systemów nie uznaje się za systemy wysokiego ryzyka pod pewnymi warunkami, jeżeli nie stwarzają one znacznego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób, nałożenie wymogów rejestracyjnych stanowiłoby nieproporcjonalne obciążenie regulacyjne. Niemniej jednak dostawca, który uważa, że system AI podlega art. 6 ust. 3, pozostaje zobowiązany do dokumentowania swojej oceny przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku. O taką ocenę mogą zwrócić się właściwe organy krajowe.

(10)Należy zmienić art. 57, 58 i 60 rozporządzenia (UE) 2024/1689 w celu zacieśnienia dalszej współpracy na poziomie Unii w odniesieniu do piaskownic regulacyjnych w zakresie AI, zwiększenia przejrzystości i spójności zarządzania piaskownicami regulacyjnymi w zakresie AI oraz rozszerzenia zakresu testów w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI na systemy AI wysokiego ryzyka objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. W szczególności, aby umożliwić uproszczenie procedur, w stosownych przypadkach, w projektach nadzorowanych w piaskownicach regulacyjnych w zakresie AI, które obejmują również testy w warunkach rzeczywistych, plan testów w warunkach rzeczywistych należy włączyć do planu działania piaskownicy uzgodnionego przez dostawców lub potencjalnych dostawców i właściwy organ w jednym dokumencie. Ponadto należy przewidzieć możliwość ustanowienia przez Urząd ds. AI piaskownicy regulacyjnej w zakresie AI na poziomie Unii w odniesieniu do systemów AI objętych art. 75 ust. 1 rozporządzenia (UE) 2024/1689. Dzięki wykorzystaniu tej infrastruktury i ułatwieniu współpracy transgranicznej koordynacja zostałaby usprawniona, a zasoby optymalnie wykorzystane.

(11)Aby wspierać innowacje, należy również rozszerzyć zakres testów w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI określonych w art. 60 rozporządzenia (UE) 2024/1689, który ma obecnie zastosowanie do systemów AI wysokiego ryzyka wymienionych w załączniku III do tego rozporządzenia, oraz umożliwić dostawcom i potencjalnym dostawcom systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia również testowanie takich systemów w warunkach rzeczywistych. Pozostaje to bez uszczerbku dla innych przepisów prawa Unii lub prawa krajowego dotyczących testowania w warunkach rzeczywistych systemów AI wysokiego ryzyka związanych z wyrobami objętymi tym unijnym prawodawstwem harmonizacyjnym. Aby zająć się szczególną sytuacją systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji B załącznika I do tego rozporządzenia, należy umożliwić zawieranie dobrowolnych umów między Komisją a państwami członkowskimi, aby umożliwić testowanie takich systemów AI wysokiego ryzyka w warunkach rzeczywistych.

(12)Art. 63 rozporządzenia (UE) 2024/1689 oferuje mikroprzedsiębiorstwom będącym dostawcami systemów AI wysokiego ryzyka możliwość korzystania z uproszczonego sposobu wypełniania obowiązku ustanowienia systemu zarządzania jakością. Aby ułatwić większej liczbie innowatorów przestrzeganie przepisów, możliwość tę należy rozszerzyć na wszystkie MŚP, w tym przedsiębiorstwa typu start-up.

(13)Należy zmienić art. 69 rozporządzenia (UE) 2024/1689, aby uprościć strukturę opłat dla panelu naukowego. Jeżeli państwa członkowskie zwrócą się do panelu o opinię ekspertów, opłaty, jakie mogą być zobowiązane zapłacić ekspertom, powinny być równoważne wynagrodzeniu, jakie Komisja jest zobowiązana zapłacić w podobnych okolicznościach. Ponadto, aby zmniejszyć złożoność procedur, państwa członkowskie powinny mieć możliwość bezpośredniego konsultowania się z ekspertami panelu naukowego bez udziału Komisji.

(14)Aby wzmocnić system zarządzania systemami AI opartymi na modelach AI ogólnego przeznaczenia, konieczne jest wyjaśnienie roli Urzędu ds. AI w monitorowaniu i nadzorowaniu zgodności takich systemów AI z rozporządzeniem (UE) 2024/1689, przy jednoczesnym wyłączeniu systemów AI powiązanych z wyrobami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I do tego rozporządzenia. Chociaż organy sektorowe pozostają odpowiedzialne za nadzór nad systemami AI powiązanymi z wyrobami objętymi tym unijnym prawodawstwem harmonizacyjnym, należy zmienić art. 75 ust. 1 rozporządzenia (UE) 2024/1689, aby objąć nadzorem Urzędu ds. AI wszystkie systemy AI oparte na modelach AI ogólnego przeznaczenia opracowanych przez tego samego dostawcę. Nie obejmuje to systemów AI wprowadzanych do obrotu, oddawanych do użytku lub wykorzystywanych przez instytucje, organy lub jednostki organizacyjne Unii, które podlegają nadzorowi Europejskiego Inspektora Ochrony Danych na podstawie art. 74 ust. 9 rozporządzenia (UE) 2024/1689. Aby zapewnić skuteczny nadzór nad tymi systemami AI zgodnie z zadaniami i obowiązkami powierzonymi organom nadzoru rynku na podstawie rozporządzenia (UE) 2024/1689, Urząd ds. AI powinien być uprawniony do wprowadzania odpowiednich środków i podejmowania decyzji w celu właściwego wykonywania swoich uprawnień przewidzianych w tej sekcji i w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2019/1020 22 . Art. 14 rozporządzenia (UE) 2019/1020 należy stosować odpowiednio. Ponadto, aby zapewnić skuteczne egzekwowanie przepisów, organy zaangażowane w stosowanie rozporządzenia (UE) 2024/1689 powinny aktywnie współpracować w wykonywaniu tych uprawnień, w szczególności w przypadku konieczności podjęcia działań w zakresie egzekwowania przepisów na terytorium państwa członkowskiego.

(15)Biorąc pod uwagę istniejący system nadzoru i egzekwowania przepisów określony w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2022/2065 23 , należy przyznać Komisji uprawnienia właściwego organu nadzoru rynku na podstawie rozporządzenia (UE) 2024/1689, w przypadku gdy system AI kwalifikuje się jako bardzo duża platforma internetowa lub bardzo duża wyszukiwarka internetowa w rozumieniu rozporządzenia (UE) 2022/2065 lub gdy jest on wbudowany w taką platformę lub wyszukiwarkę. Powinno to przyczynić się do zapewnienia spójnego wykonywania uprawnień Komisji w zakresie nadzoru i egzekwowania przepisów na podstawie rozporządzenia (UE) 2024/1689 i rozporządzenia (UE) 2022/2065, a także uprawnień mających zastosowanie do modeli AI ogólnego przeznaczenia zintegrowanych z takimi platformami lub wyszukiwarkami. W przypadku systemów AI wbudowanych w bardzo dużą platformę internetową lub wyszukiwarkę internetową lub kwalifikujących się jako bardzo duża platforma internetowa lub wyszukiwarka internetowa pierwszym punktem dostępu do oceny systemów AI jest ocena ryzyka, środki ograniczające ryzyko i obowiązki w zakresie audytu określone w art. 34, 35 i 37 rozporządzenia (UE) 2022/2065, bez uszczerbku dla uprawnień Urzędu ds. AI do prowadzenia postępowań i podejmowania działań ex post w związku nieprzestrzeganiem przepisów niniejszego rozporządzenia. W kontekście analizy tej oceny ryzyka, środków ograniczających ryzyko i audytów służby Komisji odpowiedzialne za egzekwowanie rozporządzenia (UE) 2022/2065 mogą zwrócić się do Urzędu ds. AI o opinię na temat wyniku potencjalnej wcześniejszej lub równoległej oceny ryzyka przeprowadzonej na podstawie niniejszego rozporządzenia oraz możliwości stosowania zakazów na podstawie niniejszego rozporządzenia. Ponadto Urząd ds. AI i właściwe organy krajowe na podstawie rozporządzenia (UE) 2024/1689 powinny koordynować swoje działania w zakresie egzekwowania przepisów z organami właściwymi do nadzoru i egzekwowania przepisów rozporządzenia (UE) 2022/2065, w tym z Komisją, aby zapewnić przestrzeganie zasad lojalnej współpracy, proporcjonalności i zasady ne bis in idem, natomiast informacje uzyskane na podstawie innego odpowiedniego rozporządzenia byłyby wykorzystywane do celów nadzoru i egzekwowania przepisów tego innego rozporządzenia wyłącznie pod warunkiem wyrażenia zgody przez przedsiębiorstwo. W szczególności organy te powinny regularnie wymieniać opinie i uwzględniać, w swoich odpowiednich obszarach kompetencji, wszelkie grzywny i kary nałożone na tego samego dostawcę za to samo zachowanie w drodze ostatecznej decyzji w postępowaniu dotyczącym naruszenia innych przepisów unijnych lub krajowych w celu zapewnienia, by wszystkie nałożone grzywny i kary były proporcjonalne i odpowiadały wadze popełnionych naruszeń.

(16)Aby jeszcze bardziej usprawnić nadzorowanie i egzekwowanie przepisów przez Urząd ds. AI określone w art. 75 ust. 1 rozporządzenia (UE) 2024/1689, konieczne jest doprecyzowanie, które z uprawnień wymienionych w art. 14 rozporządzenia (UE) 2019/1020 należy powierzyć Urzędowi ds. AI. Komisja powinna zatem być uprawniona do przyjmowania aktów wykonawczych w celu określenia tych uprawnień, w tym możliwości nakładania kar, takich jak kary pieniężne lub inne sankcje administracyjne, zgodnie z warunkami i pułapami, o których mowa w art. 99 oraz mającymi zastosowanie procedurami. Powinno to zapewnić Urzędowi ds. AI narzędzia niezbędne do skutecznego monitorowania i nadzorowania zgodności z rozporządzeniem (UE) 2024/1689.

(17)Ponadto zasadnicze znaczenie ma zapewnienie, aby do dostawców systemów AI podlegających monitorowaniu i nadzorowaniu przez Urząd ds. AI miały zastosowanie skuteczne zabezpieczenia proceduralne. W tym celu prawa proceduralne przewidziane w art. 18 rozporządzenia (UE) 2019/1020 powinny mieć zastosowanie odpowiednio do dostawców systemów AI, bez uszczerbku dla bardziej szczegółowych praw proceduralnych przewidzianych w rozporządzeniu (UE) 2024/1689.

(18)Aby umożliwić dostęp do unijnego rynku systemom AI, które podlegają nadzorowi Urzędu ds. AI na podstawie art. 75 rozporządzenia (UE) 2024/1689 i ocenie zgodności przeprowadzanej przez osobę trzecią, Komisja powinna mieć możliwość przeprowadzania ocen zgodności tych systemów przed wprowadzeniem do obrotu.

(19)Art. 77 i powiązane przepisy rozporządzenia (UE) 2024/1689 stanowią ważny mechanizm zarządzania, ponieważ mają na celu umożliwienie organom lub podmiotom odpowiedzialnym za egzekwowanie lub nadzorowanie prawa Unii mającego na celu ochronę praw podstawowych wypełniania ich mandatu na określonych warunkach oraz wspieranie współpracy z organami nadzoru rynku odpowiedzialnymi za nadzorowanie i egzekwowanie tego rozporządzenia. Konieczne jest doprecyzowanie zakresu takiej współpracy, a także wskazanie, które organy lub podmioty publiczne z niej korzystają. W celu zacieśnienia współpracy należy doprecyzować, że wnioski o dostęp do informacji i dokumentacji powinny być kierowane do właściwego organu nadzoru rynku, który powinien odpowiadać na takie wnioski, oraz że zaangażowane organy lub podmioty powinny być wzajemnie zobowiązane do współpracy.

(20)Aby zapewnić dostawcom systemów generatywnej AI podlegającym obowiązkom w zakresie oznakowania określonym w art. 50 ust. 2 rozporządzenia (UE) 2024/1689 wystarczająco dużo czasu na dostosowanie swoich praktyk w rozsądnym terminie bez zakłócania rynku, należy wprowadzić sześciomiesięczny okres przejściowy dla dostawców, którzy wprowadzili już swoje systemy do obrotu przed dniem 2 sierpnia 2026 r.

(21)W celu zapewnienia dostawcom systemów AI wysokiego ryzyka wystarczająco dużo czasu oraz doprecyzowania przepisów mających zastosowanie do systemów AI już wprowadzonych do obrotu lub oddanych do użytku przed rozpoczęciem stosowania odpowiednich przepisów rozporządzenia (UE) 2024/1689, należy doprecyzować stosowanie dodatkowego okresu przewidzianego w art. 111 ust. 2 tego rozporządzenia. Dodatkowy okres, do celów art. 111 ust. 2, powinien mieć zastosowanie do rodzaju i modelu systemów AI już wprowadzonych do obrotu. Oznacza to, że jeżeli co najmniej jeden egzemplarz systemu AI wysokiego ryzyka został zgodnie z prawem wprowadzony do obrotu lub oddany do użytku przed datą określoną w art. 111 ust. 2, inne pojedyncze egzemplarze tego samego rodzaju i modelu systemu AI wysokiego ryzyka podlegają dodatkowemu okresowi przewidzianemu w art. 111 ust. 2, a zatem mogą być nadal wprowadzane do obrotu, udostępniane lub oddawane do użytku na rynku unijnym bez żadnych dodatkowych obowiązków, wymogów lub potrzeby dodatkowej certyfikacji, o ile projekt tego systemu AI wysokiego ryzyka pozostaje niezmieniony. Do celów stosowania dodatkowego okresu przewidzianego w art. 111 ust. 2 czynnikiem decydującym jest data pierwszego wprowadzenia do obrotu lub oddania do użytku na rynku unijnym pierwszego egzemplarza tego rodzaju i modelu systemu AI wysokiego ryzyka. Każda istotna zmiana projektu tego systemu AI po dacie określonej w art. 111 ust. 2 powinna skutkować zobowiązaniem dostawcy do pełnego przestrzegania wszystkich odpowiednich przepisów niniejszego rozporządzenia mających zastosowanie do systemów AI wysokiego ryzyka, w tym wymogów oceny zgodności.

(22)W art. 113 rozporządzenia (UE) 2024/1689 określono daty wejścia w życie i rozpoczęcia stosowania tego rozporządzenia, w szczególności, że ogólną datą rozpoczęcia stosowania jest 2 sierpnia 2026 r. W odniesieniu do obowiązków związanych z systemami AI wysokiego ryzyka określonych w rozdziale III sekcje 1, 2 i 3 rozporządzenia (UE) 2024/1689 opóźniona dostępność norm, wspólnych specyfikacji i alternatywnych wytycznych oraz opóźnione ustanowienie właściwych organów krajowych prowadzą do powstania wyzwań, które zagrażają skutecznemu wejściu w życie tych obowiązków oraz ryzyka znacznego wzrostu kosztów wdrażania w sposób, który nie uzasadnia utrzymania ich pierwotnej daty rozpoczęcia stosowania, tj. 2 sierpnia 2026 r. W oparciu o doświadczenia należy wprowadzić mechanizm, który uzależnia rozpoczęcie stosowania od dostępności środków wspierających zgodność z rozdziałem III, które mogą obejmować normy zharmonizowane, wspólne specyfikacje i wytyczne Komisji. Komisja powinna to potwierdzić w drodze decyzji, po czym obowiązki wynikające z przepisów dotyczących systemów AI wysokiego ryzyka powinny mieć zastosowanie po 6 miesiącach w przypadku systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz po 12 miesiącach w przypadku systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I do rozporządzenia (UE) 2024/1689. Elastyczność tę należy jednak przedłużyć jedynie do dnia 2 grudnia 2027 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz do dnia 2 sierpnia 2028 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I do tego rozporządzenia, kiedy to przepisy te powinny wejść w życie w każdym przypadku. Rozróżnienie między rozpoczęciem stosowania przepisów w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka na podstawie art. 6 ust. 2 i załącznika III oraz art. 6 ust. 1 i załącznika I do tego rozporządzenia jest spójne z rozróżnieniem między pierwotnymi datami rozpoczęcia stosowania przewidzianymi w rozporządzeniu (UE) 2024/1689 i ma na celu zapewnienie czasu niezbędnego na dostosowanie i wdrożenie odpowiednich obowiązków.

(23)W świetle celu, jakim jest ograniczenie wyzwań związanych z wdrażaniem dla obywateli, przedsiębiorstw i administracji publicznej, konieczne jest, aby zharmonizowane warunki wdrażania niektórych przepisów były przyjmowane wyłącznie wtedy, gdy jest to absolutnie niezbędne. W tym celu należy znieść niektóre uprawnienia przyznane Komisji do przyjmowania takich zharmonizowanych warunków w drodze aktów wykonawczych w przypadkach, gdy warunki te nie są spełnione. Należy zatem zmienić rozporządzenie (UE) 2024/1689 w celu usunięcia uprawnień przyznanych Komisji w art. 50 ust. 7, art. 56 ust. 6 i art. 72 ust. 3 tego rozporządzenia do przyjmowania aktów wykonawczych. Usunięcie uprawnienia do przyjęcia zharmonizowanego wzoru planu monitorowania po wprowadzeniu do obrotu w art. 72 ust. 3 rozporządzenia (UE) 2024/1689 przynosi dodatkową korzyść w postaci zapewnienia dostawcom systemów AI wysokiego ryzyka większej elastyczności we wprowadzaniu systemu monitorowania po wprowadzeniu do obrotu, który jest dostosowany do ich organizacji. Jednocześnie, uznając potrzebę zapewnienia jasności co do sposobu, w jaki dostawcy systemów AI wysokiego ryzyka są zobowiązani do przestrzegania przepisów, Komisja powinna być zobowiązana do opublikowania wytycznych.

(24)Ocena zgodności systemów AI wysokiego ryzyka na podstawie rozporządzenia (UE) 2024/1689 może wymagać zaangażowania jednostek oceniających zgodność. Wyłącznie jednostki oceniające zgodność wyznaczone na podstawie tego rozporządzenia mogą przeprowadzać oceny zgodności i jedynie w odniesieniu do działań związanych z danymi kategoriami i rodzajami systemów AI. Aby zapewnić możliwość sprecyzowania zakresu wyznaczenia jednostek oceniających zgodność notyfikowanych na podstawie art. 30 rozporządzenia (UE) 2024/1689, należy sporządzić wykaz kodów, kategorii i odpowiadających im rodzajów systemów AI. W wykazie kodów należy uwzględnić, czy system AI jest elementem wyrobu lub sam w sobie wyrobem objętym unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I („kody AIP” w przypadku systemów AI objętych prawodawstwem dotyczącym wyrobów) lub systemem, o którym mowa w załączniku III do rozporządzenia (UE) 2024/1689, który obecnie dotyczy wyłącznie biometrycznych systemów AI, o których mowa w załączniku III pkt 1 („kody AIB” w przypadku biometrycznych systemów AI). Zarówno kody AIP, jak i kody AIB są kodami wertykalnymi. Kody AIP są kodami referencyjnymi zapewniającymi powiązanie z unijnym prawodawstwem harmonizacyjnym wymienionym w sekcji A załącznika I do rozporządzenia (UE) 2024/1689. Kody AIB są nowymi kodami specyficznymi dla rozporządzenia (UE) 2024/1689 służącymi do identyfikacji biometrycznych systemów AI, o których mowa w pkt 1 załącznika III do tego rozporządzenia. Wykaz kodów powinien również uwzględniać szczególne typy i technologie bazowe systemów AI („kody AIH” w przypadku horyzontalnych kodów systemów AI). Kody AIH są nowymi kodami specyficznymi dla technologii AI i mogą być stosowane w połączeniu z kodami wertykalnymi AIP lub AIB. Kody AIH obejmują podstawowe rodzaje i technologie systemów AI. Wykaz kodów, obejmujący trzy kategorie, powinien przewidywać wielowymiarową typologię systemów AI, która zapewni, aby jednostki oceniające zgodność wyznaczone na jednostki notyfikowane posiadały pełne kompetencje w zakresie systemów AI, które mają obowiązek oceniać.

(25)W rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2018/1139 24 ustanowiono wspólne zasady w dziedzinie lotnictwa cywilnego. W art. 108 rozporządzenia (UE) 2024/1689 określono zmiany w rozporządzeniu (UE) 2018/1139 w celu zapewnienia, aby przy przyjmowaniu wszelkich odpowiednich aktów delegowanych lub wykonawczych na podstawie tego aktu Komisja uwzględniała – na podstawie specyfiki technicznej i regulacyjnej sektora lotnictwa cywilnego i bez ingerowania w istniejące mechanizmy zarządzania, oceny zgodności i egzekwowania przepisów oraz ustanowione w tym rozporządzeniu organy – obowiązkowe wymogi dotyczące systemów AI wysokiego ryzyka określone w rozporządzeniu (UE) 2024/1689. Korekta techniczna rozszerzająca określone artykuły rozporządzenia (UE) 2018/1139 jest konieczna w celu zapewnienia, aby te obowiązkowe wymogi dotyczące systemów AI wysokiego ryzyka określone w rozporządzeniu (UE) 2024/1689 zostały w pełni uwzględnione przy przyjmowaniu odpowiednich aktów delegowanych lub wykonawczych na podstawie rozporządzenia (UE) 2018/1139.

(26)Aby możliwie najszybciej zapewnić pewność prawa z myślą o zbliżającym się powszechnym stosowaniu rozporządzenia (UE) 2024/1689, niniejsze rozporządzenie powinno wejść w życie w trybie pilnym,

PRZYJMUJĄ NINIEJSZE ROZPORZĄDZENIE:

Artykuł 1

Zmiany w rozporządzeniu (UE) 2024/1689

W rozporządzeniu (UE) 2024/1689 wprowadza się następujące zmiany:

1)art. 1 ust. 2 lit. g) otrzymuje brzmienie:

„g) środki wspierające innowacje, ze szczególnym uwzględnieniem małych spółek o średniej kapitalizacji oraz małych i średnich przedsiębiorstw (MŚP), w tym przedsiębiorstw typu start-up.”;

2)art. 2 ust. 2 otrzymuje brzmienie:

„2. W przypadku systemów AI zaklasyfikowanych jako systemy AI wysokiego ryzyka zgodnie z art. 6 ust. 1 związanych z produktami, które są objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, stosuje się wyłącznie art. 6 ust. 1, art. 60a, art. 102–109 oraz art. 111 i art. 112. Art. 57 stosuje się wyłącznie w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka ustanowione w niniejszym rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego.”;

3)w art. 3 dodaje się pkt 14a i 14b w brzmieniu:

„14a) »mikroprzedsiębiorstwa oraz małe i średnie przedsiębiorstwa (MŚP)« oznaczają mikroprzedsiębiorstwo, małe przedsiębiorstwo lub średnie przedsiębiorstwo w rozumieniu art. 2 załącznika do zalecenia Komisji 2003/361/WE;

14b) »mała spółka o średniej kapitalizacji« oznacza małą spółkę o średniej kapitalizacji zdefiniowaną w pkt 2 załącznika do zalecenia Komisji (UE) 2025/1099;”;

4)art. 4 otrzymuje brzmienie:

„Artykuł 4

Kompetencje w zakresie AI

Komisja i państwa członkowskie zachęcają dostawców i podmioty stosujące systemy AI do wprowadzania środków w celu zapewnienia odpowiedniego poziomu kompetencji w zakresie AI wśród swojego personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu, w którym systemy AI mają być wykorzystywane, a także biorąc pod uwagę osoby lub grupy osób, wobec których systemy AI mają być wykorzystywane.”;

5)w rozdziale I dodaje się art. 4a w brzmieniu:

„Artykuł 4a

Przetwarzanie szczególnych kategorii danych osobowych w celu wykrywania i ograniczania stronniczości

1. W zakresie, w jakim jest to konieczne do celów zapewnienia zgodnie z art. 10 ust. 2 lit. f) i g) niniejszego rozporządzenia wykrywania i korygowania stronniczości systemów AI wysokiego ryzyka, dostawcy takich systemów mogą w wyjątkowych przypadkach przetwarzać szczególne kategorie danych osobowych, pod warunkiem stosowania odpowiednich zabezpieczeń w zakresie podstawowych praw i wolności osób fizycznych. Oprócz zabezpieczeń określonych w rozporządzeniach (UE) 2016/679 i (UE) 2018/1725 oraz w dyrektywie (UE) 2016/680, w stosownych przypadkach, aby takie przetwarzanie mogło się odbyć, przetwarzanie takie musi spełniać wszystkie następujące warunki:

a) nie jest możliwe skuteczne wykrywanie i korygowanie stronniczości poprzez przetwarzanie innych danych, w tym danych syntetycznych lub zanonimizowanych;

b) szczególne kategorie danych osobowych podlegają ograniczeniom technicznym dotyczącym ponownego wykorzystywania danych osobowych oraz najnowocześniejszym środkom bezpieczeństwa i ochrony prywatności, w tym pseudonimizacji;

c) szczególne kategorie danych osobowych podlegają środkom zapewniającym, by przetwarzane dane osobowe były zabezpieczone, chronione, podlegały odpowiednim środkom ochronnym, w tym ścisłym kontrolom i dokumentowaniu dostępu, aby uniknąć nadużyć i zapewnić, by dostęp do tych danych miały wyłącznie osoby upoważnione, zobowiązane do spełnienia odpowiednich obowiązków dotyczących poufności;

d) szczególne kategorie danych osobowych nie są przesyłane, przekazywane ani w inny sposób udostępniane innym podmiotom;

e) szczególne kategorie danych osobowych usuwa się po skorygowaniu stronniczości lub po upływie okresu przechowywania danych osobowych, w zależności od tego, co nastąpi wcześniej;

f) rejestry czynności przetwarzania na podstawie rozporządzeń (UE) 2016/679 i (UE) 2018/1725 oraz dyrektywy (UE) 2016/680 zawierają uzasadnienie, dlaczego przetwarzanie szczególnych kategorii danych osobowych było konieczne do wykrycia i skorygowania stronniczości oraz dlaczego cel ten nie mógł zostać osiągnięty w wyniku przetwarzania innych danych.

2. Ust. 1 może mieć zastosowanie do dostawców i podmiotów stosujących inne systemy i modele AI oraz do podmiotów stosujących systemy AI wysokiego ryzyka, w przypadku gdy jest to konieczne i proporcjonalne, jeżeli przetwarzanie odbywa się do celów określonych w tym ustępie i o ile spełnione są warunki określone w zabezpieczeniach ustanowionych w tym ustępie.”;

6)art. 6 ust. 4 otrzymuje brzmienie:

„4. Dostawca, który uważa, że system AI, o którym mowa w załączniku III, nie jest system wysokiego ryzyka, przed wprowadzeniem tego systemu do obrotu lub oddaniem go do użytku dokumentuje swoją ocenę. Na wniosek właściwych organów krajowych dostawca przedstawia dokumentację tej oceny.”;

7)w art. 10 wprowadza się następujące zmiany:

a)ust. 1 otrzymuje brzmienie:

„1. Systemy AI wysokiego ryzyka, które wykorzystują techniki obejmujące trenowanie modeli AI z wykorzystaniem danych, rozwija się na podstawie zbiorów danych treningowych, walidacyjnych i testowych spełniających kryteria jakości, o których mowa w ust. 2, 3 i 4 niniejszego artykułu oraz w art. 4a ust. 1, w każdym przypadku gdy takie zbiory danych są wykorzystywane.”;

b)uchyla się ust. 5;

c)ust. 6 otrzymuje brzmienie:

„6. W przypadkach rozwoju systemów AI wysokiego ryzyka niewykorzystujących technik obejmujących trenowanie modeli AI ust. 2, 3 i 4 niniejszego artykułu oraz art. 4a ust. 1 stosuje się jedynie do zbiorów danych testowych.”;

8)art. 11 ust. 1 akapit drugi otrzymuje brzmienie:

„Tę dokumentację techniczną sporządza się w taki sposób, aby wykazać, że system AI wysokiego ryzyka jest zgodny z wymogami ustanowionymi w niniejszej sekcji, oraz aby dostarczyć właściwym organom krajowym i jednostkom notyfikowanym informacji – w jasnej i kompleksowej formie – niezbędnych do oceny zgodności systemu AI z tymi wymogami. Zawiera ona co najmniej elementy określone w załączniku IV. Małe spółki o średniej kapitalizacji i MŚP, w tym przedsiębiorstwa typu start-up, mogą podawać elementy dokumentacji technicznej określone w załączniku IV w formie uproszczonej. W tym celu Komisja ustanawia wzór uproszczonej dokumentacji technicznej ukierunkowany na potrzeby małych spółek o średniej kapitalizacji oraz małych i średnich przedsiębiorstw, w tym przedsiębiorstw typu start-up. W przypadku gdy małe spółki o średniej kapitalizacji lub MŚP, w tym przedsiębiorstwa typu start-up, zdecydują się na podawanie informacji wymaganych w załączniku IV w sposób uproszczony, korzystają ze wzoru, o którym mowa w niniejszym ustępie. Jednostki notyfikowane akceptują ten wzór do celów oceny zgodności.”;

9)art. 17 ust. 2 otrzymuje brzmienie:

„2. Wdrożenie aspektów, o których mowa w ust. 1, musi być proporcjonalne do wielkości organizacji dostawcy, w szczególności jeżeli dostawca jest małą spółką o średniej kapitalizacji lub MŚP, w tym przedsiębiorstwem typu start-up. W każdym przypadku dostawcy przestrzegają stopnia rygoryzmu i poziomu ochrony wymaganych do zapewnienia zgodności ich systemów AI wysokiego ryzyka z niniejszym rozporządzeniem.”;

10)w art. 28 dodaje się ustęp 8 w brzmieniu:

„8. Organy notyfikujące wyznaczone na podstawie niniejszego rozporządzenia odpowiedzialne za systemy AI objęte unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A ustanawia się, organizuje się i zarządza się nimi w taki sposób, aby zapewnić jednostce oceniającej zgodność, która ubiega się o wyznaczenie zarówno na podstawie niniejszego rozporządzenia, jak i unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny do celów wyznaczenia na podstawie niniejszego rozporządzenia i unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, w przypadku gdy odpowiednie unijne prawodawstwo harmonizacyjne przewiduje taką możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny.

Możliwość złożenia jednego wniosku i poddania się jednej procedurze oceny, o której mowa w niniejszym ustępie, zapewnia się również jednostkom notyfikowanym już wyznaczonym na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A, w przypadku gdy te jednostki notyfikowane ubiegają się o wyznaczenie na podstawie niniejszego rozporządzenia, pod warunkiem że odpowiednie unijne prawodawstwo harmonizacyjne przewiduje taką procedurę.

W ramach możliwości złożenia jednego wniosku i poddania się jednej procedurze oceny unika się niepotrzebnego powielania, wykorzystuje się istniejące procedury wyznaczania na podstawie unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A oraz zapewnia się zgodność z wymogami dotyczącymi zarówno jednostek notyfikowanych na podstawie niniejszego rozporządzenia, jak i odpowiedniego unijnego prawodawstwa harmonizacyjnego.”;

11)art. 29 ust. 4 otrzymuje brzmienie:

„4. W odniesieniu do jednostek notyfikowanych wyznaczonych na podstawie innego unijnego prawodawstwa harmonizacyjnego w stosownych przypadkach dopuszcza się możliwość wykorzystania wszelkich dokumentów i certyfikatów dotyczących takiego wyznaczenia w charakterze dowodów w toku procedury wyznaczania przeprowadzanej zgodnie z niniejszym rozporządzeniem oraz w celu przyspieszenia tej procedury.

Jednostki notyfikowane wyznaczone na podstawie któregokolwiek z unijnych przepisów harmonizacyjnych wymienionych w załączniku I sekcja A i ubiegające się o jedną ocenę, o której mowa w art. 28 ust. 8, przedkładają jeden wniosek o ocenę organowi notyfikującemu wyznaczonemu zgodnie z tym unijnym prawodawstwem harmonizacyjnym.

Jednostka notyfikowana aktualizuje dokumentację, o której mowa w ust. 2 i 3 niniejszego artykułu, w każdym przypadku gdy wystąpią istotne zmiany, aby umożliwić organowi odpowiedzialnemu za jednostki notyfikowane monitorowanie i weryfikowanie, czy zapewniona jest ciągła zgodność ze wszystkimi wymogami ustanowionymi w art. 31.”;

12)art. 30 ust. 2 otrzymuje brzmienie:

„2. Organy notyfikujące dokonują notyfikacji Komisji i pozostałym państwom członkowskim w oparciu o wykaz kodów, kategorii i odpowiadających im rodzajów systemów AI, o którym mowa w załączniku XIV, oraz za pomocą narzędzia do notyfikacji elektronicznej opracowanego i obsługiwanego przez Komisję, o każdej jednostce oceniającej zgodność, o której mowa w ust. 1.

Komisja jest uprawniona do przyjmowania aktów delegowanych zgodnie z art. 97 w celu zmiany załącznika XIV w związku z postępem technicznym, postępem wiedzy lub nowymi dowodami naukowymi poprzez dodanie do wykazu kodów, kategorii i odpowiadających im rodzajów systemów AI nowego kodu, kategorii lub rodzaju systemu AI, usunięcie z tego wykazu istniejącego kodu, kategorii lub rodzaju systemu AI lub przeniesienie kodu lub rodzaju systemu AI z jednej kategorii do drugiej.”;

13)art. 43 ust. 3 otrzymuje brzmienie:

„W przypadku systemów AI wysokiego ryzyka objętych zakresem stosowania unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A dostawca systemu postępuje zgodnie z odpowiednią procedurą oceny zgodności wymaganą na podstawie odpowiedniego unijnego prawodawstwa harmonizacyjnego. W odniesieniu do tego rodzaju systemów AI wysokiego ryzyka zastosowanie mają wymogi ustanowione w sekcji 2 niniejszego rozdziału i stanowią one jeden z elementów tej oceny. Zastosowanie ma również ocena systemu zarządzania jakością określona w art. 17 i załączniku VII.

Na potrzeby tej oceny zgodności jednostki notyfikowane, które notyfikowano zgodnie z unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, są uprawnione do przeprowadzania oceny zgodności systemów AI wysokiego ryzyka z wymogami ustanowionymi w sekcji 2, o ile zgodność tych jednostek notyfikowanych z wymogami ustanowionymi w art. 31 ust. 4, 5, 10 i 11 została oceniona w kontekście procedury notyfikacyjnej przewidzianej w odpowiednim unijnym prawodawstwie harmonizacyjnym. Bez uszczerbku dla art. 28 takie jednostki notyfikowane, które notyfikowano zgodnie z unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, składają wniosek o wyznaczenie zgodnie z sekcją 4 najpóźniej do dnia [18 miesięcy od rozpoczęcia stosowania niniejszego rozporządzenia] r.

W przypadku gdy unijne prawodawstwo harmonizacyjne wymienione w załączniku I sekcja A zapewnia producentowi produktu możliwość zrezygnowania z oceny zgodności przeprowadzanej przez stronę trzecią, pod warunkiem że producent ten zapewnił zgodność z normami zharmonizowanymi obejmującymi wszystkie stosowne wymogi, taki producent może skorzystać z tej możliwości wyłącznie w przypadku, gdy zapewnił również zgodność z normami zharmonizowanymi lub – w stosownych przypadkach – wspólnymi specyfikacjami, o których mowa w art. 41, obejmującymi wszystkie wymogi ustanowione w sekcji 2 niniejszego rozdziału.

W przypadku gdy system AI wysokiego ryzyka jest objęty zarówno unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, jak i należy do jednej z kategorii wymienionych w załączniku III, dostawca systemu stosuje odpowiednią procedurę oceny zgodności wymaganą na podstawie odpowiedniego unijnego prawodawstwa harmonizacyjnego wymienionego w załączniku I sekcja A.”;

14)w art. 49 uchyla się ustęp 2;

15)art. 50 ust. 7 otrzymuje brzmienie:

„7. Urząd ds. AI zachęca do opracowywania kodeksów praktyk na poziomie Unii i wspiera ich opracowanie, aby ułatwić skuteczne wykonywanie obowiązków w zakresie wykrywania, oznaczania i etykietowania treści sztucznie wygenerowanych lub zmanipulowanych. Komisja może ocenić, czy przestrzeganie tych kodeksów praktyk jest wystarczające do zapewnienia zgodności z obowiązkiem określonym w ust. 2, zgodnie z procedurą określoną w art. 56 ust. 6 akapit pierwszy. Jeżeli Komisja uzna, że kodeks nie jest odpowiedni, może przyjąć akt wykonawczy określający wspólne zasady wykonywania tych obowiązków zgodnie z procedurą sprawdzającą ustanowioną w art. 98 ust. 2.”;

16)art. 56 ust. 6 akapit pierwszy otrzymuje brzmienie:

„6. Komisja i Rada regularnie monitorują i oceniają realizację przez uczestników celów kodeksów praktyk oraz wkład tych kodeksów w należyte stosowanie niniejszego rozporządzenia. Komisja, uwzględniając w możliwie największym stopniu opinię Rady, ocenia, czy kodeksy praktyk obejmują swoim zakresem obowiązki przewidziane w art. 53 i 55, oraz regularnie monitoruje i ocenia realizację ich celów. Komisja publikuje swoją ocenę adekwatności kodeksów praktyk.”;

17)w art. 57 wprowadza się następujące zmiany:

a)dodaje się ust. 3a w brzmieniu:

„Urząd ds. AI może również ustanowić piaskownicę regulacyjną w zakresie AI na poziomie Unii w odniesieniu do systemów AI objętych art. 75 ust. 1. Taka piaskownica regulacyjna w zakresie AI jest wdrażana w ścisłej współpracy z odpowiednimi właściwymi organami, w szczególności gdy przepisy Unii inne niż niniejsze rozporządzenie są nadzorowane w piaskownicy regulacyjnej w zakresie AI, i zapewnia priorytetowy dostęp dla MŚP.”;

b)ust. 5 otrzymuje brzmienie:

„5. Piaskownice regulacyjne w zakresie AI ustanowione na podstawie niniejszego artykułu zapewniają kontrolowane środowisko sprzyjające innowacjom oraz ułatwiające rozwój, trenowanie, testowanie i walidację innowacyjnych systemów AI przez ograniczony czas przed ich wprowadzeniem do obrotu lub oddaniem ich do użytku zgodnie z określonym planem działania piaskownicy uzgodnionym między dostawcami lub potencjalnymi dostawcami a właściwym organem, gwarantując przy tym wdrożenie odpowiednich zabezpieczeń. Takie piaskownice mogą obejmować testy w warunkach rzeczywistych nadzorowane w jej ramach. W stosownych przypadkach plan działania piaskownicy obejmuje w jednym dokumencie plan testów w warunkach rzeczywistych.”;

c)ust. 9 lit. e) otrzymuje brzmienie:

„e) ułatwianie i przyspieszanie dostępu do rynku Unii dla systemów AI, w szczególności gdy są one dostarczane przez małe spółki o średniej kapitalizacji i MŚP, w tym przedsiębiorstwa typu start-up.”;

d)ust. 13 otrzymuje brzmienie:

„13. Piaskownice regulacyjne w zakresie AI opracowuje się i wdraża w taki sposób, by ułatwiały współpracę transgraniczną między właściwymi organami krajowymi.”;

e)ust. 14 otrzymuje brzmienie:

„14. Właściwe organy krajowe koordynują swoje działania i prowadzą współpracę w ramach Rady ds. AI. Wspierają one wspólne tworzenie i funkcjonowanie piaskownic regulacyjnych w zakresie AI, w tym w różnych sektorach.”;

18)art. 58 ust. 1 otrzymuje brzmienie:

„1. Aby uniknąć fragmentacji w całej Unii, Komisja przyjmuje akty wykonawcze określające szczegółowe zasady dotyczące ustanawiania, opracowywania, wdrażania i działania piaskownic regulacyjnych w zakresie AI oraz zarządzania nimi i nadzoru nad nimi. Te akty wykonawcze określają wspólne zasady dotyczące następujących kwestii:

a) kwalifikowalności i kryteriów wyboru dotyczących uczestnictwa w piaskownicy regulacyjnej w zakresie AI;

b) procedur składania wniosków, uczestnictwa, monitorowania, wychodzenia z piaskownicy regulacyjnej w zakresie AI i zakończenia jej działalności, w tym planu działania piaskownicy i sprawozdania końcowego;

c) warunków mających zastosowanie do uczestników;

d) szczegółowych przepisów mających zastosowanie do zarządzania piaskownicami regulacyjnymi w zakresie AI objętymi art. 57, w tym w odniesieniu do wykonywania zadań właściwych organów oraz koordynacji i współpracy na szczeblu krajowym i unijnym.”;

19)w art. 60 wprowadza się następujące zmiany:

a)ust. 1 akapit pierwszy otrzymuje brzmienie:

„Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przed dostawców lub potencjalnych dostawców systemów AI wysokiego ryzyka wymienionych w załączniku III lub objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, zgodnie z niniejszym artykułem i planem testów w warunkach rzeczywistych, o którym mowa w niniejszym artykule, bez uszczerbku dla zakazów przewidzianych w art. 5.”;

b)ust. 2 otrzymuje brzmienie:

„2. Dostawcy lub potencjalni dostawcy mogą przeprowadzać testy systemów AI wysokiego ryzyka, o których mowa w załączniku III lub które objęte są unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja A, w warunkach rzeczywistych w dowolnym momencie przed wprowadzeniem systemu AI do obrotu lub oddaniem go do użytku, samodzielnie lub we współpracy z co najmniej jednym podmiotem stosującym lub potencjalnym podmiotem stosującym.”;

20)dodaje się art. 60a w brzmieniu:

„Artykuł 60a

Testy systemów AI wysokiego ryzyka objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B w warunkach rzeczywistych poza piaskownicami regulacyjnymi w zakresie AI

1.Testy systemów AI wysokiego ryzyka w warunkach rzeczywistych prowadzone poza piaskownicami regulacyjnymi w zakresie AI mogą być przeprowadzane przez dostawców lub potencjalnych dostawców produktów opartych na AI objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B, zgodnie z niniejszym artykułem i dobrowolną umową dotyczącą testów w warunkach rzeczywistych, bez uszczerbku dla zakazów przewidzianych w art. 5.

2.Dobrowolna umowa dotycząca testów w warunkach rzeczywistych, o której mowa w ust. 1, zawierana jest na piśmie między zainteresowanymi państwami członkowskimi a Komisją. Określa ona wymogi dotyczące testów w warunkach rzeczywistych produktów wspomaganych sztuczną inteligencją objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B.

3.Państwa członkowskie, Komisja, organy nadzoru rynku i organy publiczne odpowiedzialne za zarządzanie infrastrukturą i produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B oraz za ich eksploatację ściśle współpracują ze sobą w dobrej wierze oraz usuwają wszelkie przeszkody praktyczne, w tym przeszkody dotyczące przepisów proceduralnych zapewniających dostęp do fizycznej infrastruktury publicznej, jeżeli jest to konieczne do skutecznego wdrożenia dobrowolnej umowy dotyczącej testów w warunkach rzeczywistych i testowania produktów wspomaganych sztuczną inteligencją objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku sekcja B.

4.Sygnatariusze dobrowolnej umowy dotyczącej testów w warunkach rzeczywistych określają warunki testów w warunkach rzeczywistych i ustanawiają szczegółowe elementy planu testów w warunkach rzeczywistych dla systemów AI objętych unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I sekcja B.

5.Zastosowanie ma art. 60 ust. 2, 5 i 9.”;

21)art. 63 ust. 1 otrzymuje brzmienie:

„1. MŚP, w tym przedsiębiorstwa typu start-up, mogą stosować niektóre elementy systemu zarządzania jakością wymaganego zgodnie z art. 17 w sposób uproszczony. Do tego celu Komisja opracowuje wytyczne dotyczące tych elementów systemu zarządzania jakością, które można stosować w sposób uproszczony, zważywszy na potrzeby MŚP, bez wpływania na poziom ochrony lub potrzebę zapewnienia zgodności z wymogami w odniesieniu do systemów AI wysokiego ryzyka.”;

22)w art. 69 wprowadza się następujące zmiany:

a)ust. 2 otrzymuje brzmienie:

„2. Państwa członkowskie mogą być zobowiązane do uiszczania opłat za doradztwo i wsparcie świadczone przez ekspertów według stawki równoważnej stawkom wynagrodzeń obowiązujących Komisję na podstawie aktu wykonawczego, o którym mowa w art. 68 ust. 1.”;

b)uchyla się ust. 3;

23)art. 70 ust. 8 otrzymuje brzmienie:

„8. Właściwe organy krajowe mogą udzielać wskazówek i porad w zakresie wdrażania niniejszego rozporządzenia, w szczególności małym spółkom o średniej kapitalizacji i MŚP, w tym przedsiębiorstwom typu start-up, przy uwzględnieniu, w stosownych przypadkach, wskazówek i porad Rady ds. AI i Komisji. W każdym przypadku gdy właściwe organy krajowe zamierzają udzielić wskazówek i porad dotyczących systemu AI w dziedzinach objętych innymi przepisami prawa Unii, są zobowiązane – w stosownych przypadkach –zasięgnąć opinii właściwych organów krajowych wyznaczonych na podstawie tych przepisów prawa Unii.”;

24)art. 72 ust. 3 otrzymuje brzmienie:

„3. System monitorowania po wprowadzeniu do obrotu jest oparty na planie monitorowania po wprowadzeniu do obrotu. Plan monitorowania po wprowadzeniu do obrotu stanowi jeden z elementów dokumentacji technicznej, o której mowa w załączniku IV. Komisja przyjmuje wytyczne dotyczące planu monitorowania po wprowadzeniu do obrotu.”;

25)w art. 75 wprowadza się następujące zmiany:

a)nagłówek art. 75 otrzymuje brzmienie:

„Nadzór rynku i kontrola systemów AI oraz wzajemna pomoc”;

b)ust. 1 otrzymuje brzmienie:

„1. W przypadku gdy system AI jest oparty na modelu AI ogólnego przeznaczenia, z wyłączeniem systemów AI związanych z produktami objętymi unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, a ten model i system zostały rozwinięte przez tego samego dostawcę, Urząd ds. AI posiada wyłączną kompetencję w zakresie nadzorowania i egzekwowania przepisów niniejszego rozporządzenia dotyczących tego systemu, zgodnie z zadaniami i obowiązkami przypisanymi przez to rozporządzenie organom nadzoru rynku. Urząd ds. AI jest również wyłącznie właściwy do nadzorowania i egzekwowania obowiązków wynikających z niniejszego rozporządzenia w odniesieniu do systemów AI, które stanowią wyznaczoną bardzo dużą platformę internetową lub bardzo dużą wyszukiwarkę internetową w rozumieniu rozporządzenia (UE) 2022/2065 lub które są zintegrowane z taką platformą lub wyszukiwarką.

Wykonując swoje zadania w zakresie nadzorowania i egzekwowania obowiązków zgodnie z akapitem pierwszym, Urząd ds. AI ma wszystkie uprawnienia organu nadzoru rynku przewidziane w niniejszej sekcji i w rozporządzeniu (UE) 2019/1020. Urząd ds. AI jest uprawniony do stosowania odpowiednich środków i podejmowania decyzji w celu odpowiedniego wykonywania swoich uprawnień w zakresie nadzoru i egzekwowania przepisów. Art. 14 rozporządzenia (UE) 2019/1020 stosuje się odpowiednio.

Organy zaangażowane w stosowanie niniejszego rozporządzenia aktywnie współpracują w wykonywaniu tych uprawnień, w szczególności w przypadku konieczności podjęcia działań w zakresie egzekwowania przepisów na terytorium państwa członkowskiego.”;

c)dodaje się ust. 1a–1c w brzmieniu:

„1a. Komisja przyjmuje akt wykonawczy w celu określenia uprawnień w zakresie egzekwowania przepisów i procedur wykonywania tych uprawnień przez Urząd ds. AI, w tym jego zdolności do nakładania kar, takich jak kary pieniężne lub inne sankcje administracyjne, zgodnie z warunkami i pułapami określonymi w art. 99, w odniesieniu do systemów AI, o których mowa w ust. 1 i 1a niniejszego artykułu i które uznano za niezgodne z niniejszym rozporządzeniem, w kontekście jego zadań w zakresie monitorowania i nadzoru na podstawie niniejszego artykułu.

1b. Art. 18 rozporządzenia (UE) 2019/1020 stosuje się odpowiednio do dostawców systemów AI, o których mowa w ust. 1, bez uszczerbku dla bardziej szczególnych praw proceduralnych przewidzianych w niniejszym rozporządzeniu.

1c. Komisja organizuje i przeprowadza oceny zgodności i testy przed wprowadzeniem do obrotu systemów AI, o których mowa w ust. 1, sklasyfikowanych jako systemy wysokiego ryzyka i podlegających ocenie zgodności przeprowadzanej przez stronę trzecią na podstawie art. 43 przed wprowadzeniem do obrotu lub oddaniem do użytku takich systemów AI. Te testy i oceny służą sprawdzeniu, czy systemy spełniają odpowiednie wymogi niniejszego rozporządzenia i mogą być wprowadzane do obrotu lub oddawane do użytku w Unii zgodnie z niniejszym rozporządzeniem. Komisja może powierzyć przeprowadzenie tych testów lub ocen jednostkom notyfikowanym wyznaczonym na podstawie niniejszego rozporządzenia, w którym to przypadku jednostka notyfikowana działa w imieniu Komisji. Art. 34 ust. 1 i 2 stosuje się odpowiednio do Komisji przy wykonywaniu jej uprawnień na mocy niniejszego ustępu.

Opłaty za działania w zakresie testowania i oceny pobiera się od dostawcy systemu AI wysokiego ryzyka, który złożył do Komisji wniosek o przeprowadzenie oceny zgodności przez stronę trzecią. Koszty związane z usługami powierzonymi przez Komisję jednostkom notyfikowanym zgodnie z niniejszym artykułem są pokrywane bezpośrednio przez dostawcę na rzecz jednostki notyfikowanej.”;

26)w art. 77 wprowadza się następujące zmiany:

a)nagłówek otrzymuje brzmienie:

„Uprawnienia organów ochrony praw podstawowych i współpraca z organami nadzoru rynku”;

b)ust. 1 otrzymuje brzmienie:

„1. Krajowe organy lub podmioty publiczne, które nadzorują lub egzekwują przestrzeganie obowiązków wynikających z prawa Unii w zakresie ochrony praw podstawowych, w tym prawa do niedyskryminacji, są uprawnione do wystąpienia z wnioskiem o przedstawienie wszelkich informacji lub wszelkiej dokumentacji sporządzonej lub prowadzonej przez organ nadzoru rynku na podstawie niniejszego rozporządzenia w przystępnym języku i formacie i uzyskania do nich dostępu, kiedy dostęp do tych informacji lub tej dokumentacji jest im niezbędny do skutecznego wypełniania ich mandatów w granicach ich właściwości.”;

c)dodaje się ust. 1a i 1b w brzmieniu:

„1a. Z zastrzeżeniem warunków określonych w niniejszym artykule organ nadzoru rynku udziela właściwemu organowi lub podmiotowi publicznemu, o którym mowa w ust. 1, dostępu do takich informacji lub dokumentów, w tym w razie potrzeby poprzez zwrócenie się do dostawcy lub podmiotu stosującego o takie informacje lub dokumenty.

1b. Organy nadzoru rynku oraz organy lub podmioty publiczne, o których mowa w ust. 1, ściśle ze sobą współpracują i udzielają sobie wzajemnej pomocy niezbędnej do wypełniania ich odpowiednich mandatów w celu zapewnienia spójnego stosowania niniejszego rozporządzenia i prawa Unii w zakresie ochrony praw podstawowych oraz usprawnienia procedur. Obejmuje to w szczególności wymianę informacji, jeżeli jest to konieczne do skutecznego nadzoru lub egzekwowania niniejszego rozporządzenia i odpowiednich innych przepisów Unii.”;

27)art. 95 ust. 4 otrzymuje brzmienie:

„4. W ramach zachęcania do opracowywania kodeksów postępowania i ułatwiania ich opracowywania Urząd ds. AI i państwa członkowskie uwzględniają szczególne interesy i potrzeby małych spółek o średniej kapitalizacji i MŚP, w tym przedsiębiorstw typu start-up.”;

28)art. 96 ust. 1 akapit drugi otrzymuje brzmienie:

„Przy wydawaniu takich wytycznych Komisja zwraca szczególną uwagę na potrzeby małych spółek o średniej kapitalizacji i MŚP, w tym przedsiębiorstw typu start-up, lokalnych organów publicznych i sektorów, na które niniejsze rozporządzenie może mieć największy wpływ.”;

29)w art. 99 wprowadza się następujące zmiany:

a)ust. 1 otrzymuje brzmienie:

„1. Zgodnie z zasadami i warunkami ustanowionymi w niniejszym rozporządzeniu państwa członkowskie ustanawiają przepisy dotyczące kar i innych środków egzekwowania prawa, które mogą również obejmować ostrzeżenia i środki niepieniężne, mających zastosowanie w przypadku naruszeń przepisów niniejszego rozporządzenia przez operatorów i podejmują wszelkie niezbędne środki w celu zapewnienia ich właściwego i skutecznego wykonywania, z uwzględnieniem wytycznych wydanych przez Komisję zgodnie z art. 96. Przewidziane kary muszą być skuteczne, proporcjonalne i odstraszające. Nakładając kary, państwa członkowskie uwzględniają interesy małych spółek o średniej kapitalizacji i MŚP, w tym przedsiębiorstw typu start-up, oraz ich sytuację ekonomiczną.”;

b)ust. 6 otrzymuje brzmienie:

„6. W przypadku małych spółek o średniej kapitalizacji i MŚP, w tym przedsiębiorstw typu start-up, wysokość kary pieniężnej, o której mowa w niniejszym artykule, nie przekracza wartości procentowej lub kwoty, o których mowa w ust. 3, 4 i 5, w zależności od tego, która z tych kwot jest niższa.”;

30)w art. 111 wprowadza się następujące zmiany:

a)ust. 2 otrzymuje brzmienie:

„2. Bez uszczerbku dla stosowania art. 5 zgodnie z art. 113 ust. 3 akapit trzeci lit. a) niniejsze rozporządzenie stosuje się do operatorów systemów AI wysokiego ryzyka innych niż systemy, o których mowa w ust. 1 niniejszego artykułu, które zostały wprowadzone do obrotu lub oddane do użytku przed datą rozpoczęcia stosowania rozdziału III i odpowiednich obowiązków, o których mowa w art. 113, tylko wtedy, gdy po tej dacie w systemach tych wprowadzane będą istotne zmiany w ich projekcie. W każdym razie dostawcy systemów AI wysokiego ryzyka i podmioty stosujące takie systemy, które są przeznaczone do wykorzystywania przez organy publiczne, podejmują niezbędne kroki w celu zapewnienia zgodności z wymogami i spełnienia obowiązków ustanowionych w niniejszym rozporządzeniu do dnia 2 sierpnia 2030 r.”;

b)dodaje się ust. 4 w brzmieniu:

„4. Dostawcy systemów AI, w tym systemów AI ogólnego przeznaczenia, generujących treści w postaci syntetycznych dźwięków, obrazów, wideo lub tekstu, które wprowadzono do obrotu przed dniem 2 sierpnia 2026 r., podejmują niezbędne kroki w celu zapewnienia zgodności z art. 50 ust. 2 do dnia 2 lutego 2027 r.”;

31)w art. 113 wprowadza się następujące zmiany:

a)w akapicie trzecim dodaje się lit. d) w brzmieniu:

„d) rozdział III sekcje 1, 2 i 3 stosuje się po przyjęciu przez Komisję decyzji potwierdzającej, że dostępne są odpowiednie środki wspierające zgodność z rozdziałem III, począwszy od następujących dat:

(i) 6 miesięcy po przyjęciu tej decyzji w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz

(ii) 12 miesięcy po przyjęciu decyzji w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I.

W przypadku nieprzyjęcia decyzji w rozumieniu akapitu pierwszego lub w przypadku gdy poniższe daty są wcześniejsze niż daty następujące po przyjęciu tej decyzji, zastosowanie ma rozdział III sekcje 1, 2 i 3:

(i) 2 grudnia 2027 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 2 i załącznikiem III oraz

(ii) 2 sierpnia 2028 r. w odniesieniu do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka zgodnie z art. 6 ust. 1 i załącznikiem I.”;

b)w akapicie trzecim dodaje się lit. e) w brzmieniu:

„3. art. 102–110 stosuje się od dnia [data rozpoczęcia stosowania niniejszego rozporządzenia] r.”;

32)w załączniku VIII uchyla się sekcję B;

33)dodaje się załącznik XIV w brzmieniu:

„ZAŁĄCZNIK XIV

Wykaz kodów, kategorii i odpowiadających im rodzajów systemów AI do celów procedury notyfikacyjnej, o której mowa w art. 30, określający zakres wyznaczenia jako jednostki notyfikowane

1.Wprowadzenie

Ocena zgodności systemów AI wysokiego ryzyka na podstawie niniejszego rozporządzenia może wymagać zaangażowania jednostek oceniających zgodność. Wyłącznie jednostki oceniające zgodność wyznaczone na podstawie niniejszego rozporządzenia mogą przeprowadzać oceny zgodności i jedynie w odniesieniu do działań związanych z danymi rodzajami systemów AI. Wykaz kodów, kategorii i odpowiadających im rodzajów systemów AI określa zakres wyznaczenia jednostek oceniających zgodność notyfikowanych na podstawie art. 30 niniejszego rozporządzenia.

2.Wykaz kodów, kategorii i odpowiadających im systemów AI

1.Systemy AI objęte załącznikiem I do aktu w sprawie AI (AIA)

2.Systemy AI objęte pkt 1 załącznika III do aktu w sprawie AI (AIA)

3.Kody specyficzne dla technologii AI

a)Symboliczna AI, systemy ekspertowe i optymalizacja matematyczna

b)Uczenie maszynowe, z wyłączeniem AI ogólnego przeznaczenia i generatywnej AI obsługującej pojedynczy format

c)Systemy AI oparte na AI ogólnego przeznaczenia lub generatywnej AI obsługującej pojedynczy format

d)Agentowa AI

3.Wniosek o wyznaczenie

Przy określaniu rodzajów systemów AI we wniosku o wyznaczenie, o którym mowa w art. 29 niniejszego rozporządzenia, jednostki oceniające zgodność stosują wykazy kodów, kategorii i odpowiadających im rodzajów systemów AI określone w niniejszym załączniku.”.

Artykuł 2

Zmiany w rozporządzeniu (UE) 2018/1139

W rozporządzeniu (UE) 2018/1139 wprowadza się następujące zmiany:

1)w art. 27 dodaje się ustęp w brzmieniu:

25 „3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”;

2)w art. 31 dodaje się ustęp w brzmieniu:

„3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”;

3)w art. 32 dodaje się ustęp w brzmieniu:

„3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 (*), uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”;

4)w art. 36 dodaje się ustęp w brzmieniu:

„3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”;

5)w art. 39 dodaje się ustęp w brzmieniu:

„3. Przy przyjmowaniu aktów delegowanych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”;

6)w art. 50 dodaje się ustęp w brzmieniu:

„3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”;

7)w art. 53 dodaje się ustęp w brzmieniu:

„3. Bez uszczerbku dla ust. 2 przy przyjmowaniu aktów wykonawczych na podstawie ust. 1 dotyczących systemów sztucznej inteligencji, które są związanymi z bezpieczeństwem elementami w rozumieniu rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689, uwzględnia się wymogi określone w rozdziale III sekcja 2 tego rozporządzenia.”.

Artykuł 3

Wejście w życie i rozpoczęcie stosowania

Niniejsze rozporządzenie wchodzi w życie trzeciego dnia po jego opublikowaniu w Dzienniku Urzędowym Unii Europejskiej.

Niniejsze rozporządzenie wiąże w całości i jest bezpośrednio stosowane we wszystkich państwach członkowskich.

Sporządzono w Brukseli dnia r.

OCENA SKUTKÓW FINANSOWYCH I CYFROWYCH REGULACJI

1.STRUKTURA WNIOSKU/INICJATYWY3

1.1.Tytuł wniosku/inicjatywy3

1.2.Obszary polityki, których dotyczy wniosek/inicjatywa3

1.3.Cel(e)3

1.3.1.Cel(e) ogólny(-e)3

1.3.2.Cel(e) szczegółowy(-e)3

1.3.3.Oczekiwane wyniki i wpływ3

1.3.4.Wskaźniki dotyczące realizacji celów3

1.4.Wniosek/inicjatywa dotyczy:4

1.5.Uzasadnienie wniosku/inicjatywy4

1.5.1.Potrzeby, które należy zaspokoić w perspektywie krótko- lub długoterminowej, w tym szczegółowy terminarz przebiegu realizacji inicjatywy4

1.5.2.Wartość dodana z tytułu zaangażowania Unii Europejskiej (może wynikać z różnych czynników, na przykład korzyści koordynacyjnych, pewności prawa, większej efektywności lub komplementarności). Na potrzeby tej sekcji „wartość dodaną z tytułu zaangażowania Unii Europejskiej” należy rozumieć jako wartość wynikającą z unijnej interwencji, wykraczającą poza wartość, która zostałaby wytworzona przez same państwa członkowskie.4

1.5.3.Główne wnioski wyciągnięte z podobnych działań4

1.5.4.Spójność z wieloletnimi ramami finansowymi oraz możliwa synergia z innymi właściwymi instrumentami5

1.5.5.Ocena różnych dostępnych możliwości finansowania, w tym możliwości przegrupowania środków5

1.6.Czas trwania wniosku/inicjatywy i jego/jej wpływu finansowego6

1.7.Planowane metody wykonania budżetu6

2.ŚRODKI ZARZĄDZANIA8

2.1.Zasady nadzoru i sprawozdawczości8

2.2.System zarządzania i kontroli8

2.2.1.Uzasadnienie dla proponowanych metod wykonania budżetu, mechanizmów finansowania wykonania, sposobów dokonywania płatności i strategii kontroli8

2.2.2.Informacje dotyczące zidentyfikowanego ryzyka i systemów kontroli wewnętrznej ustanowionych w celu jego ograniczenia8

2.2.3.Oszacowanie i uzasadnienie efektywności kosztowej kontroli (relacja kosztów kontroli do wartości zarządzanych funduszy powiązanych) oraz ocena prawdopodobnego ryzyka błędu (przy płatności i przy zamykaniu)8

2.3.Środki zapobiegania nadużyciom finansowym i nieprawidłowościom9

3.SZACUNKOWY WPŁYW FINANSOWY WNIOSKU/INICJATYWY10

3.1.Działy wieloletnich ram finansowych i linie budżetowe po stronie wydatków, na które wniosek/inicjatywa ma wpływ10

3.2.Szacunkowy wpływ finansowy wniosku na środki12

3.2.1.Podsumowanie szacunkowego wpływu na środki operacyjne12

3.2.1.1.Środki z uchwalonego budżetu12

3.2.1.2.Środki z zewnętrznych dochodów przeznaczonych na określony cel17

3.2.2.Szacowany produkt finansowany ze środków operacyjnych22

3.2.3.Podsumowanie szacunkowego wpływu na środki administracyjne24

3.2.3.1. Środki z uchwalonego budżetu24

3.2.3.2.Środki z zewnętrznych dochodów przeznaczonych na określony cel24

3.2.3.3.Ogółem środki24

3.2.4.Szacowane zapotrzebowanie na zasoby ludzkie25

3.2.4.1.Finansowane z uchwalonego budżetu25

3.2.4.2.Finansowane z zewnętrznych dochodów przeznaczonych na określony cel26

3.2.4.3.Zapotrzebowanie na zasoby ludzkie ogółem26

3.2.5.Przegląd szacowanego wpływu na inwestycje związane z technologiami cyfrowymi28

3.2.6.Zgodność z obowiązującymi wieloletnimi ramami finansowymi28

3.2.7.Udział osób trzecich w finansowaniu28

3.3.Szacunkowy wpływ na dochody29

4.Wymiar cyfrowy29

4.1.Wymogi cyfrowe30

4.2.Dane30

4.3.Rozwiązania cyfrowe31

4.4.Ocena interoperacyjności31

4.5.Środki wspierające cyfrowe wdrażanie32

1.STRUKTURA WNIOSKU/INICJATYWY

1.1.Tytuł wniosku/inicjatywy

1.2.Obszary polityki, których dotyczy wniosek/inicjatywa 

1.3.Cel(e)

1.3.1.Cel(e) ogólny(-e)

1.3.2.Cel(e) szczegółowy(-e)

1.3.3.Oczekiwane wyniki i wpływ

Należy wskazać, jakie efekty przyniesie wniosek/inicjatywa beneficjentom/grupie docelowej.

1.3.4.Wskaźniki dotyczące realizacji celów

Należy wskazać wskaźniki stosowane do monitorowania postępów i osiągnięć.

1.4.Wniosek/inicjatywa dotyczy:

 nowego działania 

 nowego działania, będącego następstwem projektu pilotażowego/działania przygotowawczego 26  

 przedłużenia bieżącego działania 

 połączenia lub przekształcenia co najmniej jednego działania pod kątem innego/nowego działania

1.5.Uzasadnienie wniosku/inicjatywy

1.5.1.Potrzeby, które należy zaspokoić w perspektywie krótko- lub długoterminowej, w tym szczegółowy terminarz przebiegu realizacji inicjatywy

1.5.2.Wartość dodana z tytułu zaangażowania Unii Europejskiej (może wynikać z różnych czynników, na przykład korzyści koordynacyjnych, pewności prawa, większej efektywności lub komplementarności). Na potrzeby tej sekcji „wartość dodaną z tytułu zaangażowania Unii Europejskiej” należy rozumieć jako wartość wynikającą z unijnej interwencji, wykraczającą poza wartość, która zostałaby wytworzona przez same państwa członkowskie.

1.5.3.Główne wnioski wyciągnięte z podobnych działań

1.5.4.Spójność z wieloletnimi ramami finansowymi oraz możliwa synergia z innymi właściwymi instrumentami

1.5.5.Ocena różnych dostępnych możliwości finansowania, w tym możliwości przegrupowania środków

1.6.Czas trwania wniosku/inicjatywy i jego/jej wpływu finansowego

 Ograniczony czas trwania

–    Czas trwania wniosku/inicjatywy: od [DD/MM]RRRR r. do [DD/MM]RRRR r.

–    Czas trwania wpływu finansowego: od RRRR r. do RRRR r. w odniesieniu do środków na zobowiązania oraz od RRRR r. do RRRR r. w odniesieniu do środków na płatności.

 Nieograniczony czas trwania

–Wprowadzenie w życie z okresem rozruchu od 2026 r. do 2027 r.,

–po którym następuje faza operacyjna.

1.7.Planowane metody wykonania budżetu

 Bezpośrednie zarządzanie przez Komisję

– w ramach jej służb, w tym za pośrednictwem jej pracowników w delegaturach Unii

– przez agencje wykonawcze

 Zarządzanie dzielone z państwami członkowskimi

 Zarządzanie pośrednie przez przekazanie zadań związanych z wykonaniem budżetu:

– państwom trzecim lub organom przez nie wyznaczonym

– organizacjom międzynarodowym i ich agencjom (wyszczególnić)

– Europejskiemu Bankowi Inwestycyjnemu i Europejskiemu Funduszowi Inwestycyjnemu

– organom, o których mowa w art. 70 i 71 rozporządzenia finansowego

– organom prawa publicznego

– podmiotom podlegającym prawu prywatnemu, które świadczą usługi użyteczności publicznej, w zakresie, w jakim są im zapewnione odpowiednie gwarancje finansowe

– podmiotom podlegającym prawu prywatnemu państwa członkowskiego, którym powierzono realizację partnerstwa publiczno-prywatnego i zapewniono odpowiednie gwarancje finansowe

– podmiotom lub osobom odpowiedzialnym za wykonanie określonych działań w dziedzinie wspólnej polityki zagranicznej i bezpieczeństwa na mocy tytułu V Traktatu o Unii Europejskiej oraz określonym we właściwym podstawowym akcie prawnym

– podmiotom mającym siedzibę w państwie członkowskim, podlegającym prawu prywatnemu państwa członkowskiego lub prawu Unii i kwalifikującym się, zgodnie z przepisami sektorowymi, do powierzenia im wykonywania środków finansowych Unii lub gwarancji budżetowych, w zakresie, w jakim podmioty te są kontrolowane przez podmioty prawa publicznego lub podmioty podlegające prawu prywatnemu świadczące usługi użyteczności publicznej, a także posiadają odpowiednie gwarancje finansowe w formie odpowiedzialności solidarnej organów kontrolnych lub równoważne gwarancje finansowe, które mogą być ograniczone, w odniesieniu do każdego działania, do maksymalnej kwoty wsparcia Unii.

2.ŚRODKI ZARZĄDZANIA

2.1.Zasady nadzoru i sprawozdawczości

Określić częstotliwość i warunki

2.2.System zarządzania i kontroli

2.2.1.Uzasadnienie dla proponowanych metod wykonania budżetu, mechanizmów finansowania wykonania, sposobów dokonywania płatności i strategii kontroli

2.2.2.Informacje dotyczące zidentyfikowanego ryzyka i systemów kontroli wewnętrznej ustanowionych w celu jego ograniczenia

2.2.3.Oszacowanie i uzasadnienie efektywności kosztowej kontroli (relacja kosztów kontroli do wartości zarządzanych funduszy powiązanych) oraz ocena prawdopodobnego ryzyka błędu (przy płatności i przy zamykaniu)

2.3.Środki zapobiegania nadużyciom finansowym i nieprawidłowościom

Określić istniejące lub przewidywane środki zapobiegania i ochrony, np. ze strategii zwalczania nadużyć finansowych.

3.SZACUNKOWY WPŁYW FINANSOWY WNIOSKU/INICJATYWY

3.1.Działy wieloletnich ram finansowych i linie budżetowe po stronie wydatków, na które wniosek/inicjatywa ma wpływ

·Istniejące linie budżetowe

Według działów wieloletnich ram finansowych i linii budżetowych

3.2.Szacunkowy wpływ finansowy wniosku na środki 

3.2.1.Podsumowanie szacunkowego wpływu na środki operacyjne 

–    Wniosek/inicjatywa nie wiąże się z koniecznością wykorzystania środków operacyjnych

–    Wniosek/inicjatywa wiąże się z koniecznością wykorzystania środków operacyjnych, jak określono poniżej

3.2.1.1.Środki z uchwalonego budżetu

[

w mln EUR (do trzech miejsc po przecinku)

]

[

w mln EUR (do trzech miejsc po przecinku)

]

3.2.2.Szacowany produkt finansowany ze środków operacyjnych (nie wypełniać w przypadku agencji zdecentralizowanych)

Środki na zobowiązania w mln EUR (do trzech miejsc po przecinku)

3.2.3.Podsumowanie szacunkowego wpływu na środki administracyjne 

–    Wniosek/inicjatywa nie wiąże się z koniecznością wykorzystania środków administracyjnych

–    Wniosek/inicjatywa wiąże się z koniecznością wykorzystania środków administracyjnych, jak określono poniżej

3.2.3.1. Środki z uchwalonego budżetu

[

]

Potrzeby w zakresie środków na zasoby ludzkie i inne wydatki o charakterze administracyjnym zostaną pokryte ze środków dyrekcji generalnej już przydzielonych na zarządzanie tym działaniem lub przesuniętych w ramach dyrekcji generalnej, uzupełnionych w razie potrzeby wszelkimi dodatkowymi zasobami, które mogą zostać przydzielone zarządzającej dyrekcji generalnej w ramach procedury rocznego przydziału środków oraz w świetle istniejących ograniczeń budżetowych.

3.2.4.Szacowane zapotrzebowanie na zasoby ludzkie 

–    Wniosek/inicjatywa nie wiąże się z koniecznością wykorzystania zasobów ludzkich

–    Wniosek/inicjatywa wiąże się z koniecznością wykorzystania zasobów ludzkich, jak określono poniżej

3.2.4.1.Finansowane z uchwalonego budżetu

Wartości szacunkowe należy wyrazić w ekwiwalentach pełnego czasu pracy (EPC)

[