KOMISJA EUROPEJSKA

Bruksela, dnia 18.8.2022

COM(2022) 414 final

Zalecenie

DECYZJA RADY

w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności

UZASADNIENIE

KONTEKST WNIOSKU

Sztuczna inteligencja (AI) stwarza szerokie możliwości dla społeczeństwa, środowiska i gospodarki. Jednocześnie, w zależności od okoliczności dotyczących ich konkretnego zastosowania i wykorzystania, niektóre rodzaje sztucznej inteligencji mogą spowodować rzeczowe lub niematerialne szkody oraz być źródłem ryzyka dla interesu publicznego oraz praw i wolności podstawowych osób fizycznych. W związku z tym sprostanie wspomnianym wyzwaniom i wykorzystanie potencjału sztucznej inteligencji wymaga spójnych ram prawnych dotyczących sztucznej inteligencji, które chroniłyby taki interes publiczny i takie prawa podstawowe, jednocześnie zwiększając zaufanie i wspierając innowacje.

W kwietniu 2021 r. Komisja Europejska przedstawiła wniosek dotyczący kompleksowego rozporządzenia w sprawie sztucznej inteligencji, które ma zharmonizować przepisy dotyczące systemów sztucznej inteligencji we wszystkich 27 państwach członkowskich UE 1 . Parlament Europejski i Rada prowadzą obecnie negocjacje w sprawie wniosku zgodnie ze zwykłą procedurą ustawodawczą. Różne organizacje międzynarodowe, w tym Rada Europy, również zintensyfikowały swoje działania w tej dziedzinie, uznając transgraniczny charakter sztucznej inteligencji i potrzebę współpracy międzynarodowej, aby sprostać wspólnym wyzwaniom.

11 września 2019 r. Komitet Ministrów Rady Europy podjął decyzję o utworzeniu Komitetu ad hoc ds. sztucznej inteligencji (CAHAI) 2 . Jego zadaniem było zbadanie wykonalności i możliwych elementów ram prawnych dotyczących opracowywania, projektowania i stosowania sztucznej inteligencji, przy jednoczesnym uwzględnieniu norm Rady Europy w zakresie praw człowieka, demokracji i praworządności, jak również odpowiednich obowiązujących międzynarodowych instrumentów prawnych 3 . CAHAI oparł swoje prace na studium wykonalności 4 oraz wielostronnych konsultacjach z zainteresowanymi stronami przeprowadzonych wiosną 2021 r. 5 3 grudnia 2021 r. CAHAI ukończył swoje zadanie – przedstawił dokument końcowy, w którym określono możliwe elementy takich ram prawnych 6 . Zgodnie z tym dokumentem do opracowywania, projektowania i stosowania systemów sztucznej inteligencji niezbędny jest instrument prawny zawierający podstawowe zasady ochrony godności ludzkiej i poszanowania praw człowieka, demokracji i praworządności. Instrument ten powinien przewidywać określenie metodyki klasyfikacji ryzyka związanego z systemami sztucznej inteligencji, obejmującej kategorie „niskie ryzyko”, „wysokie ryzyko” i „niedopuszczalne ryzyko”. Należy zakazać zastosowań sztucznej inteligencji, które stwarzają „niedopuszczalne” ryzyko 7 . Aby uniknąć nieuzasadnionej stronniczości, należy włączyć przepis dotyczący poszanowania równego traktowania i niedyskryminacji. Gwarancje prawne powinny zapewniać co najmniej prawo do skutecznego środka odwoławczego przed organem krajowym, prawo do informacji o zastosowaniu systemu sztucznej inteligencji w procesie decyzyjnym, prawo do wyboru interakcji z człowiekiem oraz prawo do bycia poinformowanym, że dana osoba wchodzi w interakcję z systemem sztucznej inteligencji. Kwestie szczegółowe, takie jak manipulacja treścią (tzw. deepfakes), powinny być jednak przedmiotem innych instrumentów sektorowych. Należy rozważyć wymóg ustanowienia mechanizmów służących przestrzeganiu przepisów i utworzeniu krajowych organów nadzoru. Uzupełnieniem instrumentu prawnego mógłby być niewiążący model oceny skutków.

Na lata 2022–2024 powołano następcę CAHAI – Komitet ds. Sztucznej Inteligencji (CAI). Zgodnie ze swoim zakresem zadań 8 CAI ma przygotować proces negocjacji międzynarodowych ukierunkowanych na wypracowanie ram prawnych dotyczących opracowywania, projektowania i stosowania sztucznej inteligencji. Ramy te powinny być oparte na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności oraz powinny sprzyjać innowacjom. Ramy mają zostać opracowane do 15 listopada 2023 r. i sfinalizowane do czasu zakończenia działalności CAI w 2024 r. Wypełniając swój zakres zadań, CAI powinien koordynować swoje prace z innymi komitetami międzyrządowymi i podmiotami Rady Europy, opierać swoje prace na solidnych dowodach i inkluzywnym procesie konsultacji, w tym obejmującym partnerów międzynarodowych i ponadnarodowych, oraz wykorzystać dokument końcowy sporządzony przez CAHAI.

W dniach 4–6 kwietnia 2022 r. odbyło się posiedzenie inauguracyjne CAI, na którym wybrano przewodniczącego, wiceprzewodniczącego i prezydium. 30 czerwca 2022 r. Komitet Ministrów Rady Europy polecił CAI, aby „szybko opracował prawnie wiążący instrument o charakterze przekrojowym (»konwencja«/»konwencja ramowa«) dotyczący sztucznej inteligencji, oparty na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności, zgodny z jego zakresem zadań, skoncentrowany na ogólnych wspólnych zasadach, sprzyjający innowacjom i otwarty na udział państw niebędących członkami, przy jednoczesnym uwzględnieniu innych odpowiednich obowiązujących międzynarodowych ram prawnych lub tych, które są w trakcie opracowywania” 9 .

Następnie przewodniczący CAI rozpowszechnił pierwszy projekt przyszłej konwencji (ramowej), w którym określono podstawowe zasady i reguły mające na celu zapewnienie, aby projektowanie, opracowywanie i stosowanie systemów sztucznej inteligencji było zgodne z poszanowaniem praw człowieka, zasadami demokracji i praworządnością. Strony będą musiały wdrożyć przyszłą konwencję (ramową) w swoich jurysdykcjach. Zakres obejmuje zarówno publicznych, jak i prywatnych dostawców i użytkowników systemów sztucznej inteligencji, ale z wyłączeniem systemów sztucznej inteligencji związanych z bezpieczeństwem narodowym. We wspomnianym pierwszym projekcie zaproponowano uwzględnienie następujących postanowień:

·cel i zakres konwencji (ramowej);

·definicje systemu sztucznej inteligencji, cyklu życia, dostawcy, użytkownika i „podmiotu, wobec którego stosuje się sztuczną inteligencję”;

·pewne podstawowe zasady, w tym gwarancje proceduralne i prawa dotyczące podmiotów, wobec których stosuje się sztuczną inteligencję, mające mieć zastosowanie do wszystkich systemów sztucznej inteligencji, niezależnie od przypisanego im poziomu ryzyka;

·dodatkowe środki dotyczące sektora publicznego, jak również systemów sztucznej inteligencji stwarzających „niedopuszczalne” i „znaczne” ryzyko, określone na podstawie metodyki oceny ryzyka i wpływu (która zostanie przedstawiona w załączniku do konwencji);

·mechanizm działań następczych i współpracy między stronami;

·postanowienia końcowe, w tym możliwość stosowania przez państwa członkowskie UE prawa unijnego we wzajemnych stosunkach w sprawach objętych konwencją oraz możliwość przystąpienia Unii do konwencji.

Pierwszy projekt konwencji będzie przedmiotem dyskusji na sesjach plenarnych CAI w Strasburgu zaplanowanych na 21‑23 września i 23–25 listopada 2022 r. Zaplanowano również cztery posiedzenie w 2023 r. oraz jedno w 2024 r.

•Przyczyny i cele wniosku

Niniejsze zalecenie dotyczące decyzji zostaje przedłożone Radzie na podstawie art. 218 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE). Decyzja ta upoważniłaby do rozpoczęcia w imieniu Unii negocjacji dotyczących przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności, do przyjęcia wytycznych negocjacyjnych oraz do wyznaczenia Komisji jako negocjatora Unii.

Art. 3 ust. 2 TFUE stanowi, że Unia ma wyłączną kompetencję „do zawierania umów międzynarodowych (...) w zakresie, w jakim ich zawarcie może wpływać na wspólne zasady lub zmieniać ich zakres”. Umowa międzynarodowa może mieć wpływ na wspólne zasady lub zmienić ich zakres, jeżeli dziedzina objęta umową pokrywa się z prawem Unii lub jest nim w znacznym stopniu objęta 10 .

W tym względzie w prawie Unii przewidziano kompleksowy zbiór wspólnych zasad w zakresie jednolitego rynku dotyczących produktów 11 i usług 12 , w odniesieniu do których mogą być wykorzystywane systemy sztucznej inteligencji. Ponadto opracowywanie i stosowanie niektórych systemów sztucznej inteligencji może mieć wpływ na korzystanie z praw podstawowych zapisanych w Karcie praw podstawowych UE 13 i unijnym prawie wtórnym, w tym na przykład praw do integralności fizycznej i psychicznej 14 , ochrony danych osobowych 15 , prywatności 16 , niedyskryminacji 17 , wolności wypowiedzi i informacji 18 , domniemania niewinności 19 , rzetelnego procesu sądowego i skutecznego środka odwoławczego 20 . Opracowywanie i stosowanie tych systemów może również mieć skutki dla wartości, na których opiera się Unia, w tym dla kwestii godności ludzkiej, demokracji i praworządności 21 .

Ponadto, aby ocenić, czy dany obszar jest w znacznym stopniu objęty prawem Unii, należy wziąć pod uwagę nie tylko obecnie obowiązujące prawo UE w danym obszarze, ale również kierunek jego przyszłych zmian, na tyle, na ile można te zmiany przewidzieć w momencie analizy 22 . Obszar objęty przyszłą konwencją Rady Europy w sprawie AI ma bezpośrednie znaczenie dla takich przewidywalnych przyszłych zmian, biorąc pod uwagę wniosek Komisji dotyczący rozporządzenia w sprawie sztucznej inteligencji („akt w sprawie sztucznej inteligencji”) 23 przedstawiony w kwietniu 2021 r. i obecnie negocjowany przez Parlament Europejski i Radę.

Negocjacje dotyczące przyszłej konwencji (ramowej) Rady Europy w sprawie sztucznej inteligencji dotyczą kwestii wchodzących w zakres kompetencji Unii, a zakres, charakter i treść pierwszego projektu konwencji i proponowanego aktu w sprawie sztucznej inteligencji w znacznym stopniu się pokrywają. W związku z tym ważne jest, aby negocjacje w imieniu Unii prowadzono w sposób gwarantujący, że spójność i jednolitość przepisów UE dotyczących sztucznej inteligencji oraz właściwe funkcjonowanie ustanowionego przez nie systemu nie zostaną podważone oraz że przyszła konwencja Rady Europy będzie w pełni zgodna z obowiązującym i przyszłym prawem UE w tej dziedzinie.

•Spójność z przepisami obowiązującymi w tej dziedzinie polityki

21 kwietnia 2021 r. Komisja przedstawiła wniosek dotyczący rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące wprowadzania do obrotu, oddawania do użytku oraz wykorzystywania systemów sztucznej inteligencji w Unii. Wniosek ma dwojaki cel: stworzenie jednolitego rynku, aby wspierać rozwój i upowszechnianie sztucznej inteligencji, przy jednoczesnym uwzględnieniu ryzyka dla bezpieczeństwa, zdrowia i praw podstawowych. Wniosek ma charakter horyzontalny i ma zastosowanie do dostawców i użytkowników systemów sztucznej inteligencji, niezależnie od tego, czy są to podmioty publiczne czy prywatne. Z zakresu wyłączono systemy sztucznej inteligencji opracowane lub wykorzystywane wyłącznie do celów wojskowych.

We wniosku określono proporcjonalne wymogi i obowiązki ograniczone do minimum wymaganego do przeciwdziałania ryzyku dla zdrowia, bezpieczeństwa i praw podstawowych, bez utrudniania rozwoju technologicznego sztucznej inteligencji lub nieproporcjonalnego zwiększania obciążeń finansowych i administracyjnych dla podmiotów gospodarczych. W tym celu zastosowano podejście oparte na analizie ryzyka, klasyfikując systemy sztucznej inteligencji do różnych kategorii, a mianowicie dzieląc je ze względu na ryzyko na „niedopuszczalne”, „wysokie”, „związane z przejrzystością” oraz „niskie” lub „minimalne”.

·Proponuje się wprowadzenie zakazu stosowania systemów sztucznej inteligencji uznawanych za niezgodne z wartościami UE i stanowiących wyraźne zagrożenie dla bezpieczeństwa, źródeł utrzymania lub praw ludzi, stwarzających „niedopuszczalne ryzyko” (np. stosowania przez organy publiczne oceny punktowej zachowań społecznych, szkodliwych praktyk polegających na manipulacji z wykorzystaniem sztucznej inteligencji, zdalnej identyfikacji biometrycznej w czasie rzeczywistym na potrzeby egzekwowania prawa w przestrzeniach publicznych, z zastrzeżeniem pewnych ograniczonych wyjątków).

·Systemy sztucznej inteligencji „wysokiego ryzyka” stwarzające znaczne ryzyko dla zdrowia, bezpieczeństwa lub praw podstawowych muszą podlegać kontroli zgodności z przepisami i spełniać określone wymogi obowiązkowe (np. w odniesieniu do zarządzania ryzykiem, jakości danych, dokumentacji, przejrzystości, sprawowania nadzoru przez człowieka, dokładności, cyberbezpieczeństwa), zanim będzie można te systemy wprowadzać do obrotu lub wykorzystywać w Unii. Proporcjonalne i skuteczne obowiązki w zakresie monitorowania i nadzoru nałożono również na dostawców i użytkowników, jasno określając ich role i obszary odpowiedzialności w całym łańcuchu wartości bez wpływu na inne obowiązki wynikające z przepisów sektorowych.

·W przypadku systemów sztucznej inteligencji stwarzających „ryzyko związane z przejrzystością” należy informować ludzi, gdy wchodzą w interakcje z takimi systemami lub istnieje taka możliwość (np. chatboty, systemy rozpoznawania emocji i kategoryzacji biometrycznej oraz tzw. deepfake).

·Wszystkie inne systemy, które stwarzają „minimalne” lub „niskie ryzyko” dla zdrowia, bezpieczeństwa i praw podstawowych są dozwolone bez dodatkowych ograniczeń, ale dostawcy mogą zdecydować się na przestrzeganie dobrowolnych kodeksów postępowania.

Wniosek jest omawiany przez Radę i Parlament Europejski zgodnie ze zwykłą procedurą ustawodawczą.

Negocjacje dotyczące przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności powinny doprowadzić do zapewnienia, aby uzgodnione postanowienia były zgodne z prawem UE i wynikającymi z niego zobowiązaniami państw członkowskich, z uwzględnieniem przyszłych zmian i proponowanego aktu w sprawie sztucznej inteligencji. Konieczne będzie również zapewnienie, aby konwencja Rady Europy zawierała klauzulę rozdzielności umożliwiającą państwom członkowskim UE, które staną się stronami konwencji, regulowanie stosunków między sobą na podstawie prawa UE. Proponowany akt w sprawie sztucznej inteligencji, w miarę jego ewolucji w ramach procedury ustawodawczej i negocjacji prowadzonych przez współprawodawców, a na końcu w ostatecznej (przyjętej) formie, powinien zostać zachowany wśród państw członkowskich UE. Unia Europejska powinna również mieć możliwość przystąpienia do konwencji jako strona.

•Spójność z innymi politykami Unii

Niniejsze zalecenie ma znaczenie dla innych bieżących lub planowanych inicjatyw Komisji, które mają na celu rozwiązanie problemów zaistniałych w związku z opracowywaniem i stosowaniem systemów sztucznej inteligencji, które to problemy wskazano w białej księdze w sprawie sztucznej inteligencji 24 . Te inne inicjatywy obejmują przegląd przepisów sektorowych dotyczących produktów (np. dyrektywy w sprawie maszyn 25 , dyrektywy w sprawie ogólnego bezpieczeństwa produktów 26 ) oraz przygotowywane inicjatywy, które dotyczą kwestii odpowiedzialności w zakresie nowych technologii, w tym systemów sztucznej inteligencji.

Niniejsze zalecenie jest również spójne z ogólną strategią cyfrową Komisji mającą na celu promowanie technologii przynoszącej korzyści ludziom, czyli jednego z trzech głównych celów zawartych w wizji politycznej przedstawionej w komunikacie „Kształtowanie cyfrowej przyszłości Europy” 27 . Ma ono na celu zapewnienie, aby sztuczną inteligencję rozwijano z poszanowaniem praw człowieka i w sposób zwiększający zaufanie ludzi do tej technologii, tak aby budować Europę na miarę ery cyfrowej i aby kolejne dziesięć lat można było nazwać cyfrową dekadą 28 .

Proponowane zalecenie przyczyni się również do znacznego umocnienia roli Unii w kształtowaniu światowych norm i standardów oraz promowaniu wiarygodnej sztucznej inteligencji zgodnej z unijnymi wartościami i interesami. Zapewni ono Unii solidną podstawę do wzmocnienia dyplomacji cyfrowej UE 29 oraz do wynegocjowania, wraz z innymi państwami europejskimi i pozaeuropejskimi, pierwszego prawnie wiążącego porozumienia międzynarodowego w sprawie sztucznej inteligencji, opartego na wspólnych wartościach i zasadach.

2.PODSTAWA PRAWNA, POMOCNICZOŚĆ I PROPORCJONALNOŚĆ

•Podstawa prawna

Art. 218 ust. 3 Traktatu o funkcjonowaniu Unii Europejskiej (TFUE) stanowi, że Komisja przedstawia swoje zalecenia Radzie, która przyjmuje decyzję upoważniającą do podjęcia rokowań oraz mianuje negocjatora Unii. Zgodnie z art. 218 ust. 4 TFUE Rada może kierować wytyczne do negocjatora Unii.

•Pomocniczość (w przypadku kompetencji niewyłącznych)

Proponowany akt w sprawie sztucznej inteligencji ustanawia zharmonizowane zasady dotyczące systemów sztucznej inteligencji w Unii, uniemożliwiając tym samym państwom członkowskim nakładanie dalszych ograniczeń, chyba że zostaną one wyraźnie dopuszczone w akcie. Zgodnie z art. 3 ust. 2 TFUE Unia ma wyłączną kompetencję do zawierania umów międzynarodowych w zakresie, w jakim mogą one wpływać na wspólne zasady lub zmieniać ich zakres. Wynika z tego zatem, że w odniesieniu do wszystkich kwestii związanych z projektowaniem, opracowywaniem i stosowaniem systemów sztucznej inteligencji, które objęto w znacznym stopniu prawem Unii lub które zostaną uwzględnione w ramach przewidywalnych przyszłych zmian prawa Unii, a w szczególności w proponowanym akcie w sprawie sztucznej inteligencji, Unia powinna mieć kompetencję do negocjowania przyszłej konwencji Rady Europy w sprawie sztucznej inteligencji.

•Proporcjonalność

Inicjatywa nie wykracza poza to, co jest konieczne do osiągnięcia zakładanych celów polityki.

•Wybór instrumentu

Wybranym instrumentem jest zalecenie dotyczące decyzji Rady, zgodnie z art. 218 ust. 3 i 4 TFUE.

3.WYNIKI OCEN EX POST, KONSULTACJI Z ZAINTERESOWANYMI STRONAMI I OCEN SKUTKÓW

•Oceny ex post/oceny adekwatności obowiązującego prawodawstwa

•Konsultacje z zainteresowanymi stronami

•Gromadzenie i wykorzystanie wiedzy eksperckiej

W ramach przygotowań do negocjacji Komisja wzięła pod uwagę opinie wyrażone przez ekspertów z państw członkowskich podczas dyskusji na forum odpowiedniej grupy roboczej Rady.

•Ocena skutków

•Sprawność regulacyjna i uproszczenie

•Prawa podstawowe

Zarówno proponowany akt w sprawie sztucznej inteligencji, jak i rozważana konwencja Rady Europy mają na celu zminimalizowanie ryzyka i zapewnienie wysokiego poziomu ochrony praw podstawowych, na które rozwijanie i stosowanie sztucznej inteligencji może mieć w pewnych okolicznościach negatywny wpływ, przy jednoczesnym uwzględnieniu potencjału sztucznej inteligencji w zakresie ochrony tych praw i ułatwiania korzystania z nich w środowisku cyfrowym oraz poprawy dobrostanu społecznego i środowiskowego oraz postępu technologicznego.

4.WPŁYW NA BUDŻET

5.ELEMENTY FAKULTATYWNE

•Plany wdrożenia i monitorowanie, ocena i sprawozdania

Zalecenie

DECYZJA RADY

w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności

RADA UNII EUROPEJSKIEJ,

uwzględniając Traktat o funkcjonowaniu Unii Europejskiej, w szczególności jego art. 218 ust. 3 i 4,

uwzględniając zalecenie Komisji Europejskiej,

a także mając na uwadze, co następuje:

(1)W 2021 r. Komitet Ministrów Rady Europy powołał Komitet ds. Sztucznej Inteligencji (CAI) na lata 2022–2024, którego zadaniem jest przygotowanie międzynarodowego procesu negocjacji w celu uzgodnienia ram prawnych dotyczących opracowywania, projektowania i stosowania sztucznej inteligencji (AI) opartych na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności oraz sprzyjających innowacjom 30 .

(2)30 czerwca 2022 r. Komitet Ministrów Rady Europy polecił Komitetowi ds. Sztucznej Inteligencji, aby szybko opracował prawnie wiążący instrument o charakterze przekrojowym („konwencja”/„konwencja ramowa”) dotyczący sztucznej inteligencji, oparty na normach Rady Europy w zakresie praw człowieka, demokracji i praworządności, zgodny z jego zakresem zadań, skoncentrowany na ogólnych wspólnych zasadach, sprzyjający innowacjom i otwarty na udział państw niebędących członkami, przy jednoczesnym uwzględnieniu innych odpowiednich obowiązujących międzynarodowych ram prawnych lub tych, które są w trakcie opracowywania 31 .

(3)Następnie przewodniczący Komitetu ds. Sztucznej Inteligencji przedstawił pierwszy projekt konwencji (ramowej), która miałaby zastosowanie do projektowania, opracowywania i stosowania systemów sztucznej inteligencji. Ten pierwszy projekt obejmuje: postanowienia dotyczące celu i przedmiotu, zakres, definicje, podstawowe zasady, w tym gwarancje proceduralne i prawa mające zastosowanie do wszystkich systemów sztucznej inteligencji, niezależnie od przypisanego im poziomu ryzyka, dodatkowe środki dotyczące stosowania systemów sztucznej inteligencji w sektorze publicznym, jak również dotyczące systemów sztucznej inteligencji stwarzających „niedopuszczalne” i „znaczne” ryzyko oraz mechanizm działań następczych i współpracy; postanowienia końcowe, w tym możliwość przystąpienia Unii do konwencji oraz dodatek, nad którym trwają prace, dotyczący metodyki oceny ryzyka i wpływu systemów sztucznej inteligencji.

(4)Unia przyjęła wspólne zasady, na które będą miały wpływ elementy rozważane w ramach konwencji Rady Europy. Obejmują one w szczególności kompleksowy zbiór przepisów w obszarze jednolitego rynku produktów 32 i usług 33 , w odniesieniu do których mogą być wykorzystywane systemy sztucznej inteligencji, a także przepisy dotyczące ochrony praw podstawowych zapisanych w Karcie praw podstawowych UE 34 i wdrożonych w unijnym prawie wtórnym 35 , uznając, że opracowywanie i stosowanie niektórych systemów sztucznej inteligencji może w pewnych okolicznościach niekorzystnie wpłynąć na te prawa.

(5)Ponadto 21 kwietnia 2021 r. Komisja przedstawiła wniosek ustawodawczy dotyczący rozporządzenia ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji 36 , który jest obecnie przedmiotem negocjacji prowadzonych przez Parlament Europejski i Radę. Planowana konwencja Rady Europy w znacznym stopniu pokrywa się w swoim zakresie ze wspomnianym wnioskiem ustawodawczym, ponieważ celem obu instrumentów jest ustanowienie przepisów mających zastosowanie do projektowania, opracowywania i stosowania systemów sztucznej inteligencji, dostarczanych i wykorzystywanych przez podmioty publiczne lub prywatne.

(6)W związku z tym zawarcie rozważanej konwencji Rady Europy może mieć wpływ na istniejące i przewidywalne przyszłe wspólne zasady unijne lub zmienić ich zakres w rozumieniu art. 3 ust. 2 Traktatu o funkcjonowaniu Unii Europejskiej.

(7)W celu ochrony integralności prawa Unii oraz zapewnienia spójności przepisów prawa międzynarodowego i prawa Unii konieczne jest, aby Komisja została upoważniona do podjęcia negocjacji w imieniu Unii dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności.

(8)Zgodnie z art. 42 ust. 1 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2018/1725 skonsultowano się z Europejskim Inspektorem Ochrony Danych, który wydał opinię w dniu […] r.

PRZYJMUJE NINIEJSZĄ DECYZJĘ:

Artykuł 1

Komisja zostaje niniejszym upoważniona do podjęcia negocjacji w imieniu Unii dotyczących konwencji (ramowej) Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności.

Artykuł 2

Wytyczne negocjacyjne określono w załączniku.

Artykuł 3

Negocjacje prowadzone są w konsultacji z [nazwa komitetu specjalnego
do uzupełnienia przez Radę].

Artykuł 4

Niniejsza decyzja skierowana jest do Komisji.

Sporządzono w Brukseli dnia […] r.

(1)    Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final.

(2)     Komitet Ministrów Rady Europy, posiedzenie nr 1353, decyzja CM/Del/Dec(2019)1353/1.5 z 11 września 2019 r.

(3)     Komitet Ministrów Rady Europy, zakres zadań CAHAI (wyciąg z CM(2019)131).

(4)     Komitet ad hoc ds. sztucznej inteligencji, studium wykonalności, CAHAI(2020)23, 17 grudnia 2020 r.

(5)     Komitet ad hoc ds. sztucznej inteligencji, analiza wielostronnych konsultacji z zainteresowanymi stronami, CAHAI(2021)07, 23 czerwca 2021 r.

(6)     Komitet ad hoc ds. sztucznej inteligencji – możliwe elementy ram prawnych dotyczących sztucznej inteligencji, w oparciu o normy Rady Europy w zakresie praw człowieka, demokracji i praworządności, CAHAI(2021)09rev, 3 grudnia 2021 r.

(7)    W tym kontekście CAHAI zwraca uwagę na systemy sztucznej inteligencji, które mogą zostać wykorzystane do masowego nadzoru, oraz systemy sztucznej inteligencji wykorzystywane do oceny punktowej zachowań społecznych w celu określenia poziomu dostępu do podstawowych usług.

(8)     Komitet Ministrów Rady Europy, zakres zadań CAI (wyciąg z CM(2021) 131).

(9)     Komitet Ministrów Rady Europy, decyzja dotycząca prac CAI podjęta na   1 32. sesji Komitetu Ministrów – działania następcze, CM/Del/Dec(2022)1438/10.4 / 30 czerwca 20 22   r .

(10)    Np. sprawa C-114/12, Komisja/Rada (prawa pokrewne organizacji nadawczych), ECLI:EU:C:2014:2151, pkt 68–69; Opinia 1/13 w sprawie przystąpienia państw trzecich do konwencji haskiej, EU:C:2014:2303, pkt 71–74; sprawa C-66/13, Green Network, EU:C:2014:2399, pkt 27–33; Opinia 3/15 w sprawie Traktatu z Marrakeszu o ułatwieniu dostępu do opublikowanych utworów osobom niewidomym, niedowidzącym i cierpiącym na inne zaburzenia odczytu druku, ECLI:EU:C:2017:114, pkt 105–108.

(11)    Np. dyrektywa 2001/95/WE w sprawie ogólnego bezpieczeństwa produktów, Dz.U. L 11 z 15.1.2002, s. 4, dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe, Dz.U. L 210 z 7.8.1985, s. 29 oraz sektorowe przepisy dotyczące bezpieczeństwa produktów, takie jak dyrektywa 2006/42/WE w sprawie maszyn, Dz.U. L 157 z 9.6.2006, s. 24; dyrektywa 2014/53/UE w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących udostępniania na rynku urządzeń radiowych, Dz.U. L 153 z 22.5.2014, s. 62; dyrektywa 2009/48/WE w sprawie bezpieczeństwa zabawek, Dz.U. L 170 z 30.6.2009, s. 1; rozporządzenie (UE) 2017/745 w sprawie wyrobów medycznych, Dz.U. L 117 z 5.5.2017, s. 1 ; rozporządzenie (UE) 2019/2144 w sprawie wymogów dotyczących homologacji typu pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, w odniesieniu do ich ogólnego bezpieczeństwa oraz ochrony osób znajdujących się w pojeździe i niechronionych uczestników ruchu drogowego, Dz.U. L 325 z 16.12.2019, s. 1.

(12)    Np. dyrektywa 2006/123/WE dotycząca usług na rynku wewnętrznym i sektorowe przepisy dotyczące usług, takie jak dyrektywa 2000/31/WE w sprawie niektórych aspektów prawnych usług społeczeństwa informacyjnego, w szczególności handlu elektronicznego, Dz.U. L 178 z 17.7.2000, s. 1; dyrektywa Parlamentu Europejskiego i Rady 2008/48/WE z dnia 23 kwietnia 2008 r. w sprawie umów o kredyt konsumencki, Dz.U. L 133 z 22.5.2008, s. 66, dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/97 z dnia 20 stycznia 2016 r. w sprawie dystrybucji ubezpieczeń (wersja przekształcona), Dz.U. L 26 z 2.2.2016, s. 19; dyrektywa (UE) 2018/1808 o audiowizualnych usługach medialnych, Dz.U. L 303 z 28.11.2018, s. 69.

(13)    Karta praw podstawowych Unii Europejskiej, Dz.U. C 326 z 26.10.2012, s. 391.

(14)    Np. rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 536/2014 z dnia 16 kwietnia 2014 r. w sprawie badań klinicznych produktów leczniczych stosowanych u ludzi oraz uchylenia dyrektywy 2001/20/WE Tekst mający znaczenie dla EOG, Dz.U. L 158 z 27.5.2014, s. 1.

(15)    Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), Dz.U. L 119 z 4.5.2016, s. 1; dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/680 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych przez właściwe organy do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych i wykonywania kar, w sprawie swobodnego przepływu takich danych oraz uchylająca decyzję ramową Rady 2008/977/WSiSW, Dz.U. L 119 z 4.5.2016, s. 89.

(16)    Np. dyrektywa 2002/58/WE Parlamentu Europejskiego i Rady z dnia 12 lipca 2002 r. dotycząca przetwarzania danych osobowych i ochrony prywatności w sektorze łączności elektronicznej (dyrektywa o prywatności i łączności elektronicznej), Dz.U. L 201 z 31.7.2002, s. 37.

(17)    Np. dyrektywa Rady 2000/43/WE z dnia 29 czerwca 2000 r. wprowadzająca w życie zasadę równego traktowania osób bez względu na pochodzenie rasowe lub etniczne, Dz.U. L 180 z 19.7.2000, s. 22; dyrektywa Rady 2000/78/WE z dnia 27 listopada 2000 r. ustanawiająca ogólne warunki ramowe równego traktowania w zakresie zatrudnienia i pracy, Dz.U. L 303 z 2.12.2000, s. 16; dyrektywa 2006/54/WE Parlamentu Europejskiego i Rady z dnia 5 lipca 2006 r. w sprawie wprowadzenia w życie zasady równości szans oraz równego traktowania kobiet i mężczyzn w dziedzinie zatrudnienia i pracy (wersja przekształcona), Dz.U. L 204 z 26.7.2006, s. 23; dyrektywa Rady 2004/113/WE z dnia 13 grudnia 2004 r. wprowadzająca w życie zasadę równego traktowania mężczyzn i kobiet w zakresie dostępu do towarów i usług oraz dostarczania towarów i usług, Dz.U. L 373 z 21.12.2004, s. 37.

(18)    Np. dyrektywa Parlamentu Europejskiego i Rady (UE) 2018/1808 z dnia 14 listopada 2018 r. zmieniająca dyrektywę 2010/13/UE w sprawie koordynacji niektórych przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących świadczenia audiowizualnych usług medialnych (dyrektywa o audiowizualnych usługach medialnych) ze względu na zmianę sytuacji na rynku, PE/33/2018/REV/1, Dz.U. L 303 z 28.11.2018, s. 69.

(19)    Np. dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/343 z dnia 9 marca 2016 r. w sprawie wzmocnienia niektórych aspektów domniemania niewinności i prawa do obecności na rozprawie w postępowaniu karnym, Dz.U. L 65 z 11.3.2016, s. 1.

(20)    Np. dyrektywa Parlamentu Europejskiego i Rady 2012/29/UE z dnia 25 października 2012 r. ustanawiająca normy minimalne w zakresie praw, wsparcia i ochrony ofiar przestępstw, Dz.U. L 315 z 14.11.2012, s. 57; rozporządzenie Parlamentu Europejskiego i Rady (UE) 2020/1783 z dnia 25 listopada 2020 r. w sprawie współpracy między sądami państw członkowskich przy przeprowadzaniu dowodów w sprawach cywilnych lub handlowych (przeprowadzanie dowodów) (wersja przekształcona), Dz.U. L 405 z 2.12.2020, s. 1; dyrektywa Parlamentu Europejskiego i Rady 2013/48/UE z dnia 22 października 2013 r. w sprawie prawa dostępu do adwokata w postępowaniu karnym i w postępowaniu dotyczącym europejskiego nakazu aresztowania oraz w sprawie prawa do poinformowania osoby trzeciej o pozbawieniu wolności i prawa do porozumiewania się z osobami trzecimi i organami konsularnymi w czasie pozbawienia wolności, Dz.U. L 294 z 6.11.2013.

(21)    Art. 2 Traktatu o Unii Europejskiej, Dz.U. C 202 z 7.6.2016.

(22)    Np. opinia 1/03 w sprawie nowej konwencji z Lugano, ECLI:EU:C:2004:490, pkt 126; sprawa C-114/12, Komisja/Rada (prawa pokrewne organizacji nadawczych), ECLI:EU:C:2014:2151, pkt 70; Sprawa C-66/13, Green Network, ECLI:EU:C:2014:2399, pkt 61–64.

(23)    Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final.

(24)    Biała księga w sprawie sztucznej inteligencji – Europejskie podejście do doskonałości i zaufania, COM(2020) 65 final.

(25)    Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady w sprawie produktów maszynowych, COM(2021) 202 final.

(26)    Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady w sprawie ogólnego bezpieczeństwa produktów, zmieniającego rozporządzenie Parlamentu Europejskiego i Rady (UE) nr 1025/2012 oraz uchylającego dyrektywę Rady 87/357/EWG i dyrektywę 2001/95/WE Parlamentu Europejskiego i Rady, COM(2021) 346 final.

(27)    Komunikat Komisji w sprawie kształtowania cyfrowej przyszłości Europy, COM(2020) 67 final.

(28)    Komunikat Komisji „Cyfrowy kompas na 2030 r.: europejska droga w cyfrowej dekadzie , COM(2021) 118 final.

(29)    Zob. również konkluzje Rady z 18 lipca 2022 r. w sprawie dyplomacji cyfrowej UE, 11406/22.

(30)     Komitet Ministrów Rady Europy, zakres zadań CAI (wyciąg z CM(2021) 131).

(31)     Komitet Ministrów Rady Europy, decyzja dotycząca prac CAI podjęta na 132. sesji Komitetu Ministrów – działania następcze, CM/Del/Dec(2022)1438/10.4 / 30 czerwca 2022 r .

(32)    Np. dyrektywa 2001/95/WE w sprawie ogólnego bezpieczeństwa produktów, Dz.U. L 11 z 15.1.2002, s. 4, dyrektywa Rady 85/374/EWG z dnia 25 lipca 1985 r. w sprawie zbliżenia przepisów ustawowych, wykonawczych i administracyjnych państw członkowskich dotyczących odpowiedzialności za produkty wadliwe, Dz.U. L 210 z 7.8.1985, s. 29 oraz sektorowe przepisy dotyczące bezpieczeństwa produktów, takie jak dyrektywa 2006/42/WE w sprawie maszyn, Dz.U. L 157 z 9.6.2006, s. 24; dyrektywa 2014/53/UE w sprawie harmonizacji ustawodawstw państw członkowskich dotyczących udostępniania na rynku urządzeń radiowych, Dz.U. L 153 z 22.5.2014, s. 62; dyrektywa 2009/48/WE w sprawie bezpieczeństwa zabawek, Dz.U. L 170 z 30.6.2009, s. 1; rozporządzenie (UE) 2017/745 w sprawie wyrobów medycznych, Dz.U. L 117 z 5.5.2017, s. 1 ; rozporządzenie (UE) 2019/2144 w sprawie wymogów dotyczących homologacji typu pojazdów silnikowych i ich przyczep oraz układów, komponentów i oddzielnych zespołów technicznych przeznaczonych do tych pojazdów, w odniesieniu do ich ogólnego bezpieczeństwa oraz ochrony osób znajdujących się w pojeździe i niechronionych uczestników ruchu drogowego, Dz.U. L 325 z 16.12.2019, s. 1.

(33)    Np. dyrektywa 2006/123/WE dotycząca usług na rynku wewnętrznym i sektorowe przepisy dotyczące usług, takie jak dyrektywa 2000/31/WE w sprawie niektórych aspektów prawnych usług społeczeństwa informacyjnego, w szczególności handlu elektronicznego, Dz.U. L 178 z 17.7.2000, s. 1; dyrektywa Parlamentu Europejskiego i Rady 2008/48/WE z dnia 23 kwietnia 2008 r. w sprawie umów o kredyt konsumencki, Dz.U. L 133 z 22.5.2008, s. 66.

(34)    Karta praw podstawowych Unii Europejskiej, Dz.U. C 326 z 26.10.2012, s. 391.

(35)    Np. rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), Dz.U. L 119 z 4.5.2016, s. 1; dyrektywa Parlamentu Europejskiego i Rady (UE) 2016/680 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych przez właściwe organy do celów zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania i ścigania czynów zabronionych i wykonywania kar, w sprawie swobodnego przepływu takich danych oraz uchylająca decyzję ramową Rady 2008/977/WSiSW, Dz.U. L 119 z 4.5.2016, s. 89; dyrektywa 2002/58/WE Parlamentu Europejskiego i Rady z dnia 12 lipca 2002 r. dotycząca przetwarzania danych osobowych i ochrony prywatności w sektorze łączności elektronicznej (dyrektywa o prywatności i łączności elektronicznej), Dz.U. L 201 z 31.7.2002, s. 37; dyrektywa Rady 2000/43/WE z dnia 29 czerwca 2000 r. wprowadzająca w życie zasadę równego traktowania osób bez względu na pochodzenie rasowe lub etniczne, Dz.U. L 180 z 19.7.2000, s. 22; dyrektywa Rady 2000/78/WE z dnia 27 listopada 2000 r. ustanawiająca ogólne warunki ramowe równego traktowania w zakresie zatrudnienia i pracy, Dz.U. L 303 z 2.12.2000, s. 16.

(36)    Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final.

KOMISJA EUROPEJSKA

Bruksela, dnia 18.8.2022

COM(2022) 414 final

ZAŁĄCZNIK

do

zalecenia dotyczącego decyzji Rady

w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności

ZAŁĄCZNIK
do zalecenia dotyczącego decyzji Rady w sprawie upoważnienia do podjęcia negocjacji w imieniu Unii Europejskiej dotyczących konwencji Rady Europy w sprawie sztucznej inteligencji, praw człowieka, demokracji i praworządności

Jeśli chodzi o proces negocjacji, cele Unii powinny być następujące:

1)proces negocjacji powinien być otwarty, inkluzywny i przejrzysty oraz oparty na solidnych dowodach i współpracy w dobrej wierze;

2)proces negocjacji powinien być oparty na inkluzywnym procesie konsultacji i umożliwiać znaczący udział wszystkich istotnych zainteresowanych stron, w tym społeczeństwa obywatelskiego, sektora prywatnego, środowisk akademickich, organizacji pozarządowych, organizacji normalizacyjnych i innych odpowiednich podmiotów posiadających wiedzę specjalistyczną w zakresie regulacji projektowania, opracowywania i stosowania systemów sztucznej inteligencji (AI);

3)wszystkie uwagi otrzymane od każdej ze stron biorących udział w negocjacjach powinny być rozpatrywane na równych zasadach, aby zapewnić integracyjny charakter procesu;

4)proces negocjacji powinien opierać się na skutecznym i realistycznym programie prac dotyczącym opracowania konwencji (ramowej).

Jeśli chodzi o ogólne cele negocjacji, cele Unii powinny być następujące:

5)konwencja powinna być zgodna z prawem Unii dotyczącym jednolitego rynku oraz z innymi obszarami prawa Unii, w tym z zasadami ogólnymi prawa Unii oraz podstawowymi prawami i wolnościami zapisanymi w Karcie praw podstawowych UE i wdrożonymi za pośrednictwem unijnego prawa wtórnego;

6)konwencja powinna być zgodna z proponowanym aktem w sprawie sztucznej inteligencji 1 , z uwzględnieniem przyszłych zmian podczas procesu legislacyjnego;

7)konwencja powinna służyć jako skuteczne i nieulegające dezaktualizacji ramy regulacyjne dotyczące sztucznej inteligencji w celu zapewnienia wysokiego poziomu ochrony praw człowieka i wartości europejskich, przy jednoczesnym wspieraniu innowacji, zwiększaniu pewności prawa i zwiększania zaufania; w konwencji powinno się również uznać potencjalne korzyści stosowania sztucznej inteligencji dla ważnych interesów publicznych, w tym dla ochrony praw człowieka i ułatwiania korzystania z tych praw w środowisku cyfrowym, dla poprawy dobrostanu i zdrowia społeczeństwa i środowiska oraz dla promowania postępu technologicznego;

8)konwencja powinna wzmacniać współpracę międzynarodową między Unią Europejską a innymi państwami europejskimi i pozaeuropejskimi, które mogą do niej przystąpić;

9)konwencja powinna być zgodna z istniejącymi instrumentami Rady Europy, w szczególności z europejską konwencją praw człowieka i jej protokołami, konwencją Rady Europy nr 108 o ochronie osób w związku z automatycznym przetwarzaniem danych osobowych, zmienioną protokołem CETS 223, oraz z innymi odpowiednimi instrumentami prawnymi Rady Europy; konwencja nie powinna powielać postanowień zawartych w tych instrumentach i nie powinna wywierać niekorzystnego wpływu na stosowanie tych instrumentów ani na dalsze przystępowanie do nich przez jakiekolwiek państwo; w konwencji należy się odnieść do nowych czynników ryzyka i wyzwań wynikających ze szczególnych cech niektórych systemów sztucznej inteligencji w zakresie zgodności z istniejącymi prawami chronionymi na mocy tych instrumentów i ich skutecznego egzekwowania;

10)konwencja powinna być zgodna ze zobowiązaniami Unii Europejskiej wynikającymi z innych umów międzynarodowych, których Unia jest stroną, i nie wywierać niekorzystnego wpływu na ich skuteczne stosowanie; w szczególności konwencja powinna być zgodna z międzynarodowymi zobowiązaniami handlowymi Unii i nie powinna powodować niepotrzebnych ani nieuzasadnionych ograniczeń w handlu.

Jeśli chodzi o treść negocjacji, cele Unii powinny być następujące:

11)postanowienia konwencji powinny być w pełni zgodne z prawem Unii dotyczącym jednolitego rynku oraz z innymi obszarami prawa Unii, w tym z zasadami ogólnymi prawa Unii oraz prawami podstawowymi zapisanymi w Karcie praw podstawowych UE i wdrożonymi za pośrednictwem unijnego prawa wtórnego;

12)postanowienia konwencji powinny być w pełni zgodne z przepisami proponowanego aktu w sprawie sztucznej inteligencji, z uwzględnieniem przyszłych zmian podczas procesu legislacyjnego;

13)postanowienia konwencji powinny umożliwiać stronom przyznanie szerszej ochrony niż przewidziana w konwencji i w żaden sposób nie powinny obniżać poziomu ochrony podstawowych praw i wolności oraz gwarancji przewidzianych w prawie Unii, w tym nie powinny podważać zasady, że organy nadzorujące przestrzeganie praw podstawowych muszą być niezależne w zakresie, w jakim wymaga tego prawo Unii;

14)konwencja powinna być zgodna z podejściem opartym na analizie ryzyka i ustanawiać proporcjonalne, skuteczne i jasne zasady mające zastosowanie do podmiotów publicznych i prywatnych w całym łańcuchu wartości sztucznej inteligencji, które mają na celu zminimalizowanie ryzyka wynikającego z projektowania, opracowywania i stosowania niektórych systemów sztucznej inteligencji, jednocześnie unikając wszelkich niepotrzebnych i nieproporcjonalnych obciążeń lub ograniczeń działalności tych podmiotów lub ograniczeń rozwoju technologicznego; w szczególności zakres i surowość wszelkich interwencji regulacyjnych powinny być wyważone, uzasadnione i proporcjonalne stosownie do poziomów ryzyka stwarzanego przez systemy sztucznej inteligencji;

15)postanowienia konwencji powinny być sformułowane w miarę możliwości w sposób nieulegający dezaktualizacji i elastyczny, aby umożliwić uwzględnienie przyszłych zmian technologicznych, rynkowych, społecznych i środowiskowych związanych ze sztuczną inteligencją;

16)w konwencji należy przewidzieć zasady projektowania, opracowywania i stosowania systemów sztucznej inteligencji, które nie będą pokrywać się z innymi odpowiednimi konwencjami międzynarodowymi lub regionalnymi, w szczególności w obszarze ochrony danych, i wytworzą znaczącą wartość dodaną w porównaniu z tymi konwencjami; te zasady dotyczące sztucznej inteligencji powinny być zgodne z takimi konwencjami oraz z międzynarodowymi normami dotyczącymi praw człowieka;

17)konwencja powinna zawierać postanowienia dotyczące skutecznego wdrożenia zasad mających zastosowanie do projektowania, opracowywania i stosowania systemów sztucznej inteligencji, w szczególności z odpowiednimi mechanizmami zgodności z przepisami i kontroli ex ante i ex post, oraz uznawać rolę norm, mechanizmów certyfikacji, niezależnych osób trzecich zaangażowanych w kontrole zgodności z przepisami i właściwych organów nadzoru;

18)konwencja powinna dopuszczać środki wspierające innowacje, w tym testowanie systemów sztucznej inteligencji oraz tworzenie i funkcjonowanie piaskownic regulacyjnych, aby pobudzać innowacje w obszarze sztucznej inteligencji w kontrolowanym środowisku pod nadzorem właściwych organów;

19)w konwencji należy uwzględnić szczególne potrzeby małych i średnich przedsiębiorstw (MŚP), nie powinna ona w sposób nieproporcjonalny wpływać na ich konkurencyjność i należy w niej zobowiązać strony do wprowadzenia szczególnych środków w celu wspierania takich przedsiębiorstw;

20)w konwencji należy uwzględnić interes organów ścigania i organów sądowych w celu zapobiegania przestępczości, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania przestępstw, w tym w odniesieniu do poufności i uczciwego przebiegu takich postępowań;

21)w konwencji należy przewidzieć skuteczny nadzór ze strony właściwych organów oraz mechanizmy współpracy, które umożliwią jej skuteczne wdrożenie.

Jeśli chodzi o funkcjonowanie konwencji, cele Unii powinny być następujące:

22)konwencja powinna zawierać klauzulę rozdzielności, która umożliwi państwom członkowskim UE, we wzajemnych stosunkach, dalsze stosowanie prawa Unii w sprawach objętych zakresem konwencji;

23)w konwencji należy przewidzieć odpowiedni mechanizm zapewniający jej wdrożenie, a także zawrzeć postanowienia końcowe, w tym dotyczące rozstrzygania sporów, podpisania, ratyfikacji, przyjęcia, zatwierdzenia i przystąpienia, wejścia w życie, zmiany, zawieszenia, wypowiedzenia oraz depozytariusza i języków, które to postanowienia w miarę możliwości i w stosownych przypadkach należy wzorować na postanowieniach innych odpowiednich konwencji Rady Europy;

24)konwencja powinna umożliwiać Unii Europejskiej stanie się jej stroną.

(1)    Wniosek dotyczący rozporządzenia Parlamentu Europejskiego i Rady ustanawiającego zharmonizowane przepisy dotyczące sztucznej inteligencji (akt w sprawie sztucznej inteligencji) i zmieniającego niektóre akty ustawodawcze Unii, COM(2021) 206 final.