Este documento es un extracto de la web EUR-Lex
Documento 52024PC0264
Proposal for a COUNCIL DECISION on the signing, on behalf of the European Union, of the Council of Europe Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law
Javaslat A TANÁCS HATÁROZATA az Európa Tanács mesterséges intelligenciáról és emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének az Európai Unió nevében történő aláírásáról
Javaslat A TANÁCS HATÁROZATA az Európa Tanács mesterséges intelligenciáról és emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének az Európai Unió nevében történő aláírásáról
COM/2024/264 final
EURÓPAI BIZOTTSÁG
Brüsszel, 2024.6.26.
COM(2024) 264 final
2024/0150(NLE)
Javaslat
A TANÁCS HATÁROZATA
az Európa Tanács mesterséges intelligenciáról és emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének az Európai Unió nevében történő aláírásáról
INDOKOLÁS
1.A JAVASLAT HÁTTERE
•A javaslat indokai és céljai
A mesterséges intelligencia (MI) nagyszerű lehetőségeket kínál, azonban bizonyos alkalmazások és felhasználások kárt is okozhatnak és kockázatot is jelenthetnek az egyének alapvető jogaira és más közérdekekre nézve.
A mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról szóló (EU) 2024/[…] európai parlamenti és tanácsi rendelettel (a továbbiakban: a mesterséges intelligenciáról szóló jogszabály) az Unió elfogadta az MI-ről szóló első átfogó rendeletet, amely világszinten példaértékű. A mesterséges intelligenciáról szóló jogszabályt 2024. június 12-én fogadták el ( 1 ), és a Hivatalos Lapban való kihirdetését követő 20 napon belül lép hatályba. A mesterséges intelligenciáról szóló jogszabály teljes mértékben harmonizálja az MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó szabályokat a tagállamokban ( 2 ) azzal a céllal, hogy előmozdítsa az innovációt és a megbízható MI elterjedését, miközben védi az egészséget, a biztonságot és az alapvető jogokat, köztük a demokráciát, a jogállamiságot és a környezetet.
Több nemzetközi szervezet, így az Európa Tanács is fokozta erőfeszítéseit az MI szabályozása területén felismerve az MI határokon átnyúló jellegét és a nemzetközi együttműködés szükségességét az e technológiák által támasztott közös kihívások kezeléséhez.
2022 júniusa óta az Európa Tanács mesterséges intelligenciával foglalkozó bizottsága (CAI) ( 3 ) egy jogilag kötelező erejű keretegyezmény (a továbbiakban: az egyezmény) kidolgozásán munkálkodott az MI által az emberi jogokra, a demokráciára és a jogállamiságra jelentett potenciális kockázatok kezelése érdekében. Az Unió az EUMSZ 216. cikke (1) bekezdésének negyedik fordulata alapján tárgyalta meg az egyezményt, amely szerint az Unió tárgyalásokat folytathat 4 és nemzetközi megállapodást köthet, ha az „[...] a közös szabályokat érintheti, illetve azok alkalmazási körét megváltoztathatja”. Az Európai Unió működéséről szóló szerződés (EUMSZ) 218. cikkének (3) bekezdésével összhangban és a tárgyalásoknak az Európai Unió nevében történő megkezdésére való felhatalmazásról szóló tanácsi határozat ( 5 ) alapján az Európai Bizottság képviselte az Uniót az egyezményre irányuló tárgyalásokon.
Az Unió aktívan részt vett a tárgyalásokon, és arra törekedett, hogy biztosítsa az egyezmény uniós joggal való összeegyeztethetőségét, a mesterséges intelligenciáról szóló jogszabálynak való megfelelést, valamint az egyezmény mint az MI-ről szóló első nemzetközi szerződés minőségét és hozzáadott értékét. Ebben az összefüggésben az egyezmény nemzetközi szintre való kiterjesztése is az Unió egyik célkitűzése volt.
Több tárgyalási fordulót követően a CAI a 2024. március 11. és 14. között tartott 10. plenáris ülésén jóváhagyta az egyezmény szövegét. Az Európa Tanács Miniszteri Bizottsága 2024. május 17-én elfogadta az egyezményt, megállapodott arról, hogy 2024. szeptember 5-én Vilniusban (Litvánia) megnyitja aláírásra az igazságügyi miniszterek informális konferenciája alkalmával, és felkérte az Európa Tanács tagjait, azokat a harmadik országokat, amelyek részt vettek az egyezmény kidolgozásában, valamint az Uniót arra, hogy ez alkalommal fontolják meg annak aláírását, ugyanakkor emlékeztetett arra, hogy az egyezményhez más, tagsággal nem rendelkező államok is csatlakozhatnak ( 6 ).
Ezzel összefüggésben e javaslat célja, hogy elindítsa az egyezmény Unió általi aláírásának folyamatát azzal a szándékkal, hogy ezt követően megerősítse azt, és javasolja a Tanácsnak, hogy fogadjon el határozatot az Uniónak az egyezmény aláírására való felhatalmazásáról az EUMSZ 218. cikkének (5) bekezdésével összhangban. Az egyezmény teljes mértékben összeegyeztethető általában az uniós joggal, és különösen a mesterséges intelligenciáról szóló jogszabállyal, továbbá az Európa Tanács más tagjai és azon kulcsfontosságú nemzetközi partnerek körében, amelyek az egyezmény részes feleivé válhatnak, világszerte elő fogja mozdítani az MI-re vonatkozó szabályozás uniós megközelítéséből származó kulcsfogalmakat.
Az egyezmény tartalma
Az egyezmény célja annak biztosítása, hogy az MI-rendszerek életciklusán belüli tevékenységek teljes mértékben összhangban legyenek az emberi jogokkal, a demokráciával és a jogállamisággal.
Az egyezmény részes feleinek az egyezményt megfelelő jogalkotási, közigazgatási vagy egyéb intézkedések révén kell végrehajtaniuk az egyezmény rendelkezéseinek érvényre juttatása érdekében, a káros hatások súlyosságától és valószínűségétől függően fokozatos és differenciált megközelítést követve. Az egyezményt az Unióban kizárólag a mesterséges intelligenciáról szóló jogszabály révén kell végrehajtani, amely teljes mértékben harmonizálja az MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó szabályokat, valamint adott esetben más releváns uniós vívmányokat.
Az egyezmény hatálya olyan MI-rendszerekre terjed ki – differenciált megközelítést követve –, amelyek potenciálisan ellentétesek az emberi jogokkal, a demokráciával és a jogállamisággal. Az egyezményben előirányzott elvek és kötelezettségek az MI-rendszerek életciklusán belül a hatóságok vagy a nevükben eljáró magánszereplők által végzett tevékenységekre alkalmazandók. Ami a magánszektort illeti, a részes felek kötelesek az MI-rendszerek életciklusán belül a magánszereplők által végzett tevékenységekből eredő kockázatokat és hatásokat az egyezmény tárgyának és céljának megfelelően kezelni, de választhatnak, hogy az egyezményben foglalt kötelezettségeket alkalmazzák-e, vagy más megfelelő intézkedéseket hoznak. A részes feleknek az egyezmény aláírásakor vagy az ahhoz való csatlakozáskor nyilatkozatot kell tenniük az ezzel kapcsolatos döntésükről. Az Uniónak az egyezmény megkötésekor nyilatkozatot kell kiadnia arról, hogy az Unió a mesterséges intelligenciáról szóló jogszabály és más releváns uniós vívmányok révén végrehajtja az egyezmény II–VI. fejezetében meghatározott, az Unióban MI-rendszereket forgalomba hozó, üzembe helyező és használó magánszereplők tevékenységeire vonatkozó elveket és kötelezettségeket.
A nemzetbiztonsághoz kapcsolódó MI-tevékenységek nem tartoznak az egyezmény hatálya alá, azzal a feltétellel, hogy azokat minden esetben az alkalmazandó nemzetközi emberi jogi jogszabályokkal összhangban, valamint a demokratikus intézmények és folyamatok tiszteletben tartásával kell végezni. Az egyezmény kizárja továbbá a felhasználásra még nem bocsátott MI-rendszerekkel kapcsolatos kutatási és fejlesztési tevékenységeket, kivéve, ha a tesztelési vagy hasonló tevékenységek alkalmasak arra, hogy sértsék az emberi jogokat, a demokráciát és a jogállamiságot. Az Európa Tanács Alapszabályával összhangban a honvédelemmel kapcsolatos ügyek nem tartoznak az egyezmény hatálya alá.
Az egyezmény továbbá számos általános kötelezettséget és alapelvet ír elő, beleértve az emberi méltóság és az egyéni autonómia védelmét, valamint az egyenlőség és a megkülönböztetésmentesség előmozdítását. Emellett előírja a magánélet és a személyes adatok védelmének tiszteletben tartását, valamint az átláthatóságot és a felügyeletet az elszámoltathatóság és a felelősség biztosítása érdekében. Az egyik alapelv az ellenőrzött környezetben történő biztonságos innovációra és kísérletezésre vonatkozik.
A jogorvoslatokról szóló külön fejezet olyan intézkedéseket is előirányoz, amelyek célja hozzáférhető és hatékony jogorvoslatok rendelkezésre állásának biztosítása az emberi jogoknak az MI-rendszerek életciklusán belüli tevékenységekből eredő megsértése esetén. Hatékony eljárási garanciákat és biztosítékokat is tartalmaz azon személyek számára, akiknek a jogait jelentősen érintette az MI-rendszerek használata. Emellett az egyéneket tájékoztatni kell arról, hogy MI-rendszerrel, nem pedig emberrel lépnek kapcsolatba.
Az egyezmény tartalmaz továbbá egy fejezetet a kockázatok és a káros hatások értékelésére és mérséklésére irányuló intézkedésekről, amelyeket ismétlődő módon kell végrehajtani az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt tényleges és lehetséges hatások azonosítása, valamint a megfelelő megelőző és mérséklő intézkedések meghozatala érdekében.
Az egyezmény előírja továbbá, hogy a részes feleknek fel kell mérniük, hogy szükség van-e tilalomra vagy moratóriumra az olyan MI-rendszerek bizonyos alkalmazásai tekintetében, amelyek összeegyeztethetetlenek az emberi jogok tiszteletben tartásával, a demokrácia működésével vagy a jogállamisággal.
Az egyezmény nyomonkövetési mechanizmust ír elő a Részes Felek Konferenciájának részeként, amely a részes felek képviselőiből áll, és amely rendszeres időközönként konzultál az egyezmény hatékony alkalmazásának és végrehajtásának megkönnyítése érdekében. Az egyezmény céljának elérése érdekében az egyezmény részes felei közötti, valamint a harmadik országokkal és az érdekelt felekkel fenntartott kapcsolatokban egyaránt nemzetközi együttműködési mechanizmust irányoz elő.
Ezen túlmenően valamennyi részes félnek nemzeti szinten létre kell hoznia vagy ki kell jelölnie egy vagy több, az egyezményben foglalt kötelezettségeknek való megfelelés felügyeletére szolgáló hatékony mechanizmust, ahogyan arról a részes felek rendelkeznek.
•Összhang a szabályozási terület jelenlegi rendelkezéseivel
Az egyezmény megállapítja az emberi jogok, a demokrácia és a jogállamiság védelmére vonatkozó általános elveket és kötelezettségeket, amelyek teljes mértékben összhangban vannak a mesterséges intelligenciáról szóló jogszabály célkitűzéseivel, valamint az MI-rendszerekre vonatkozó részletes követelményekkel, és az ilyen rendszerek szolgáltatóira és alkalmazóira rótt kötelezettségekkel.
Az MI-rendszer egyezmény szerinti fogalommeghatározása teljes mértékben összhangban van a mesterséges intelligenciáról szóló jogszabályban szereplő fogalommeghatározással, mivel mindkettő az ilyen rendszereknek a Gazdasági Együttműködési és Fejlesztési Szervezet mesterséges intelligenciára vonatkozó alapelveiben ( 7 ) szereplő meghatározásán alapul, ezáltal biztosítva annak közös értelmezését, hogy mely digitális technológiák minősülnek MI-nek.
Mind az egyezmény, mind a mesterséges intelligenciáról szóló jogszabály kockázatalapú megközelítést követ az MI-rendszerek szabályozása tekintetében, és konkrét rendelkezéseket tartalmaz a kockázatértékelésekre és hatásvizsgálatokra, valamint a kockázatmérséklő intézkedésekre vonatkozóan. Konkrétan a mesterséges intelligenciáról szóló jogszabály az MI-rendszerekre vonatkozó számos tilalmat és nagy kockázatú felhasználási esetet határoz meg valamennyi köz- és magánszektorban, többek között a demokrácia és az igazságszolgáltatás területén. A mesterséges intelligenciáról szóló jogszabálynak az MI-rendszerek e területeken történő fejlesztésére, forgalomba hozatalára és bevezetésére vonatkozó részletes szabályai és eljárásai így biztosítják az alapvető jogok, a demokrácia és a jogállamiság tiszteletben tartását az MI-rendszerek teljes életciklusa során.
Az egyezmény olyan elveket és kötelezettségeket tartalmaz, amelyekre a mesterséges intelligenciáról szóló jogszabály hatálya már kiterjed, például az emberi jogok védelmére, a biztonságra és a megbízhatóságra, az elszámoltathatóságra és a felelősségre, az adatkormányzásra és az adatvédelemre, az átláthatóságra és felügyeletre, az egyenlőségre és a megkülönböztetésmentességre, a digitális készségekre és jártasságra irányuló intézkedések.
Az átláthatóság a másik olyan elem, amely mindkét jogi eszközben közös, beleértve az MI által létrehozott tartalom azonosítását és az MI-rendszerekkel kapcsolatba kerülő személyek értesítését lehetővé tévő intézkedéseket is. Mindkét jogi eszköz tartalmaz továbbá a kockázatértékelésekre és hatásvizsgálatokra, a kockázatkezelésre, a nyilvántartásra, a (felhatalmazott szervek és hatóságok, valamint adott esetben az érintett személyek számára történő) közzétételre, a nyomonkövethetőségre és megmagyarázhatóságra, a biztonságos innovációra és az ellenőrzött környezetben történő kísérletezésre vonatkozó rendelkezéseket, valamint a hatékony jogorvoslatot lehetővé tevő intézkedéscsomagot, beleértve az illetékes hatóságtól történő információkéréshez és -szerzéshez, illetve a panasztételhez való jogot, valamint az eljárási biztosítékokat.
Az egyezményben előirányzott felügyeleti rendszer szintén teljes mértékben összhangban van a mesterséges intelligenciáról szóló jogszabály átfogó irányítási és végrehajtási rendszerével, amely uniós és nemzeti szintű végrehajtásból, valamint az uniós szabályoknak a tagállamokban történő következetes végrehajtását szolgáló eljárásokból áll. Az egyezmény konkrétan egy vagy több hatékony felügyeleti mechanizmust irányoz elő nemzeti szinten, amelyeknek függetlenül és pártatlanul kell ellátniuk feladataikat, és rendelkezniük kell az ahhoz szükséges hatáskörökkel, szakértelemmel és erőforrásokkal, hogy hatékonyan el tudják látni az egyezményben foglalt kötelezettségek betartásának felügyeletével kapcsolatos feladatokat, ahogyan arról a részes felek rendelkeznek.
Míg a mesterséges intelligenciáról szóló jogszabály az Unióban forgalomba hozott, üzembe helyezett vagy használt MI-rendszerekre lesz alkalmazandó, az egyezmény földrajzi hatóköre szélesebb, kiterjed az Európa Tanács tagjaira és világszerte azon harmadik országokra, amelyek az egyezmény részes feleivé válhatnak. Az egyezmény tehát egyedülálló lehetőséget kínál a megbízható MI Unión kívüli előmozdítására az első olyan jogilag kötelező erejű nemzetközi szerződésben, amely az MI-re vonatkozó szabályozás erőteljes emberi jogi megközelítésén alapul.
Mind az egyezmény, mind a mesterséges intelligenciáról szóló jogszabály szerves részét képezi az MI-re vonatkozó szabályozási megközelítésnek, amely több nemzetközi szinten is következetes és egymást kölcsönösen erősítő kötelezettségvállalásokat tartalmaz, és hozzájárul a megbízható MI biztosítására irányuló közös célkitűzéshez.
•Összhang az Unió egyéb szakpolitikáival
Az egyezménynek közös célkitűzései vannak más olyan uniós szakpolitikákkal és jogszabályokkal is, amelyek célja az Európai Unió Alapjogi Chartájában ( 8 ) foglalt alapvető jogok érvényesítése.
Az egyenlőségnek és a megkülönböztetésmentességnek az egyezményben foglalt elve teljes mértékben összhangban van az uniós megkülönböztetésmentességi jogszabályokkal, és elő fogja mozdítani az egyenlőséggel kapcsolatos megfontolásoknak az MI-rendszerek tervezésébe, fejlesztésébe és használatába való beépítését, valamint a megkülönböztetés tilalmának hatékony végrehajtását, amint azt a részes felek alkalmazandó nemzetközi és nemzeti joga előírja.
Az egyezmény továbbá összhangban van az uniós adatvédelmi vívmányokkal, többek között a magánélethez és a személyes adatok védelméhez való alapvető jogokkal kapcsolatos általános adatvédelmi rendelettel ( 9 ), amely hatékony garanciákat és biztosítékokat ír elő az egyének számára, összhangban a részes felek alkalmazandó nemzeti és nemzetközi jogi kötelezettségeivel.
Az egyezményben előirányzott intézkedések, amelyek célja a részes felek demokratikus folyamatainak védelme az MI-rendszer életciklusán belüli tevékenységekkel összefüggésben, teljes mértékben összhangban vannak a digitális szolgáltatásokról szóló jogszabály ( 10 ) célkitűzéseivel és részletes szabályaival, amely jogszabály szabályozza a közvetítő szolgáltatások Unión belüli nyújtását azzal a céllal, hogy olyan biztonságos, kiszámítható és megbízható online környezetet biztosítson, amelyben tiszteletben tartják az alapvető jogokat, beleértve a véleménynyilvánítás szabadságát, valamint az információk megismeréséhez és közléséhez való jogot. Összhangban vannak továbbá a politikai reklámtevékenységek átláthatóságáról és célzott folytatásáról szóló rendelettel ( 11 ), a dezinformáció visszaszorítását célzó gyakorlati kódexszel ( 12 ), valamint az Unió demokráciával és szabad, tisztességes és reziliens választásokkal kapcsolatos szakpolitikáival ( 13 ), többek között az európai demokráciáról szóló 2020. évi cselekvési tervvel ( 14 ), a választási és feddhetetlenségi csomaggal ( 15 ) és a közelmúltban előterjesztett, a demokrácia védelmére vonatkozó 2023. évi csomaggal ( 16 ).
A javaslat összhangban áll az Unió digitális stratégiájával, mivel hozzájárul az embereket szolgáló technológia előmozdításához, amely az „Európa digitális jövőjének megtervezése” című közleményben megfogalmazott szakpolitikai iránymutatás és célkitűzések három fő pillérjének egyike ( 17 ). Az utóbbi hivatott biztosítani, hogy a mesterséges intelligencia olyan módon fejlődjön, amely tiszteletben tartja az emberek jogait és elnyeri a bizalmukat, ezáltal pedig felkészíti Európát a digitális korra, és a következő éveket digitális évtizeddé teszi ( 18 ).
Emellett a digitális évtizedben érvényre juttatandó digitális jogokról és elvekről szóló európai nyilatkozat ( 19 ) számos olyan digitális jogot és elvet tartalmaz, amelyek összhangban vannak az egyezmény célkitűzéseivel és elveivel, és mindkét eszköz előmozdítja a technológia határozott, emberi jogokon alapuló megközelítését.
Az egyezmény összhangban van továbbá az EU gyermekjogi stratégiájával ( 20 ) és a gyermekbarát internetre vonatkozó európai stratégiával (BIK+) ( 21 ), amelyek célja annak biztosítása, hogy a gyermekek az interneten védve legyenek, tiszteletben tartsák őket, és képesek legyenek szembenézni az új virtuális világok és az MI kihívásaival.
2.JOGALAP, SZUBSZIDIARITÁS ÉS ARÁNYOSSÁG
•Jogalap
Az egyezménynek az Unió nevében történő aláírására való felhatalmazásról szóló határozatra irányuló javaslatot az EUMSZ 218. cikkének (5) bekezdése alapján a Tanács elé terjesztik.
Az EUMSZ 218. cikkének (5) bekezdése szerinti határozat anyagi jogalapja elsősorban a megállapodás céljától és tartalmától függ. Az ítélkezési gyakorlat értelmében, ha egy uniós intézkedés vizsgálatából az derül ki, hogy az kettős célkitűzést követ, vagy két összetevőből áll, és ezek egyike elsődlegesként vagy döntő jellegűként azonosítható, míg a másik pusztán járulékos jellegű, az intézkedést egyetlen jogalapra, azaz az elsődleges, illetve döntő jellegű célkitűzés vagy összetevő által megkövetelt jogalapra kell alapítani.
Ami az anyagi jogalapot illeti, az egyezmény tárgyi hatálya megegyezik a mesterséges intelligenciáról szóló jogszabály ( 22 ) hatályával, többek között a kutatási és fejlesztési, valamint a nemzetbiztonsági és védelmi tevékenységek hatály alóli mentessége tekintetében. Az egyezményben foglalt elvek és kötelezettségek egybeesnek az MI-rendszerekre vonatkozó részletesebb követelményekkel, valamint az ilyen rendszerek szolgáltatóinak és alkalmazóinak a mesterséges intelligenciáról szóló jogszabály és más releváns uniós jogszabályok szerinti konkrét kötelezettségeivel. Amennyiben a Tanács elfogadja a javasolt határozatot, és az Unió aláírja az egyezményt, a mesterséges intelligenciáról szóló jogszabály lesz az elsődleges uniós jogszabály az egyezménynek az uniós jogrendben történő végrehajtásához, az MI-rendszerek Unión belüli forgalomba hozatalára, üzembe helyezésére és használatára vonatkozó, teljes mértékben harmonizált, a tagállamokban közvetlenül alkalmazandó szabályokkal, kivéve, ha a mesterséges intelligenciáról szóló jogszabály kifejezetten másként rendelkezik ( 23 ).
Tekintettel arra, hogy az egyezmény hatálya és célkitűzései összhangban vannak a mesterséges intelligenciáról szóló jogszabály hatályával és célkitűzéseivel, továbbá a két jogi eszköz személyi és tárgyi hatálya egybeesik, az egyezmény megkötésének anyagi jogalapja az EUMSZ 114. cikke, amely a mesterséges intelligenciáról szóló jogszabály elsődleges jogalapja.
A nemzetközi megállapodások jellege („kizárólag uniós” vagy „vegyes”) attól függ, hogy az adott tárgy összeegyeztethető-e az Unió hatásköreivel.
Az EUMSZ 3. cikkének (2) bekezdése úgy rendelkezik, hogy az Unió kizárólagos hatáskörrel rendelkezik „nemzetközi megállapodás megkötésére […] annyiban, amennyiben az a közös szabályokat érintheti, vagy azok alkalmazási körét megváltoztathatja.” A nemzetközi megállapodás érintheti a közös szabályokat, vagy megváltoztathatja azok alkalmazási körét, amennyiben a megállapodás hatálya alá tartozó terület nagyrészt az uniós jog hatálya alá tartozik ( 24 ).
Az egyezmény személyi hatálya teljes mértékben igazodik a mesterséges intelligenciáról szóló jogszabályhoz, mivel mindkét jogi eszköz elvben kiterjed mind az állami, mind a magánszereplőkre (az egyezmény elveinek és kötelezettségeinek a hatóságok nevében eljáróktól eltérő magánszereplőkre történő opcionális alkalmazásával), és mindkét jogi eszköz tárgyi hatálya kizárja az alkalmazandó szabályok hatálya alól a nemzetbiztonsággal, a védelemmel és a kutatással kapcsolatos MI-tevékenységeket.
Tekintettel arra, hogy az egyezmény és a mesterséges intelligenciáról szóló jogszabály személyi és tárgyi hatálya megegyezik, az egyezmény megkötése érintheti a közös uniós szabályokat, vagy megváltoztathatja azok alkalmazási körét az EUMSZ 3. cikkének (2) bekezdése értelmében. Következésképpen úgy kell tekinteni, hogy az Unió kizárólagos külső hatáskörrel rendelkezik az egyezmény megkötésére, és az Unió nevében az egyezményt – figyelemmel annak későbbi időpontban történő megkötésére – „kizárólag uniós” megállapodásként kell aláírni.
•Arányosság
Az egyezmény nem lépi túl a szakpolitikai célkitűzések eléréséhez szükséges mértéket, és nemzetközi szinten koherens megközelítést alakít ki az MI-re vonatkozó szabályozással kapcsolatban.
Az egyezmény magas szintű jogi keretet hoz létre az MI-re vonatkozóan, amely rugalmasságot tesz lehetővé, és lehetővé teszi a részes felek számára a végrehajtási keretek konkrét kialakítását. A kockázatalapú megközelítés a szabályok arányosságát is biztosítja, és lehetővé teszi a végrehajtási intézkedések kockázatokkal arányos módon történő differenciálását, a mesterséges intelligenciáról szóló jogszabályhoz hasonló módon.
•A jogi aktus típusának megválasztása
A választott eszköz az EUMSZ 218. cikkének (5) bekezdése szerinti tanácsi határozatra irányuló javaslat.
3.AZ UTÓLAGOS ÉRTÉKELÉSEK, AZ ÉRDEKELT FELEKKEL FOLYTATOTT KONZULTÁCIÓK ÉS A HATÁSVIZSGÁLATOK EREDMÉNYEI
•A jelenleg hatályban lévő jogszabályok utólagos értékelése / célravezetőségi vizsgálata
Tárgytalan.
•Az érdekelt felekkel folytatott konzultációk
Az Európai Bizottság nem folytatott külön konzultációt az érdekelt felekkel e javaslatról.
Az egyezményt az Európa Tanács mesterséges intelligenciával foglalkozó bizottsága együttműködési törekvésének eredményeként dolgozták ki, amelyben az Európa Tanács mind a 46 tagállama, valamint megfigyelő államok, köztük Kanada, Japán, Mexikó, a Szentszék, az Amerikai Egyesült Államok és az Európai Unió vett részt. Emellett számos más harmadik ország is részt vett benne, köztük Ausztrália, Argentína, Costa Rica, Izrael, Peru és Uruguay.
Az Európa Tanácsnak a különböző érdekelt felekkel való együttműködésre vonatkozó kötelezettségvállalásával összhangban az egyezmény kidolgozása során a civil társadalom, a tudományos élet, az ipar és más nemzetközi szervezetek 68 nemzetközi képviselője is részt vett, biztosítva az átfogó és inkluzív megközelítést. Az egyezmény kidolgozása során számos más nemzetközi szervezettel is együttműködtek, többek között az Európai Biztonsági és Együttműködési Szervezettel (EBESZ), a Gazdasági Együttműködési és Fejlesztési Szervezettel (OECD) és az ENSZ Nevelésügyi, Tudományos és Kulturális Szervezetével (UNESCO). Emellett az Európa Tanács érintett szervei és bizottságai is hozzájárultak a folyamathoz. Az Unió részvétele az Európai Bizottság vezetésével valósult meg. Megfigyelőként részt vettek az Európai Unió Alapjogi Ügynökségének és az európai adatvédelmi biztosnak a képviselői is.
•Szakértői vélemények beszerzése és felhasználása
Az egyezményre vonatkozó uniós tárgyalási álláspontokat a Tanács által kijelölt különbizottsággal (a távközléssel és az információs társadalommal foglalkozó tanácsi munkacsoporttal) konzultálva dolgozták ki.
•Hatásvizsgálat
Tárgytalan.
•Célravezető szabályozás és egyszerűsítés
Tárgytalan.
•Alapjogok
Az egyezmény célja az emberi jogokat érintő lehetséges kockázatok és károk kezelése azáltal, hogy biztosítja, hogy az MI-rendszerek életciklusán belüli tevékenységek összhangban legyenek az emberi jogok tiszteletben tartásának, a demokráciának és a jogállamiságnak az elveivel, ugyanakkor elismeri, hogy az MI képes megvédeni és megkönnyíteni e jogok gyakorlását a digitális környezetben, valamint javítani a társadalmi és környezeti jóllétet és előmozdítani a technológiai fejlődést.
Az egyezményben előirányzott konkrét elvek és kötelezettségek célja az emberi jogok védelme és tiszteletben tartása, amelyeket a részes felekre alkalmazandó több nemzetközi és regionális eszköz is rögzít ( 25 ), ideértve az Európai Unió Alapjogi Chartáját, valamint az Unió által megkötött, emberi jogokról szóló nemzetközi eszközöket.
Az egyezmény ezért közös minimumszabályokat határoz meg az emberi jogok védelmének az Mi-vel összefüggésben történő alkalmazására vonatkozóan, miközben biztosítja az emberi jogok jelenlegi védelmét, és lehetővé teszi a részes felek számára, hogy szigorúbb biztosítékokkal szélesebb körű védelmet nyújtsanak.
4.KÖLTSÉGVETÉSI VONZATOK
Az egyezménya Részes Felek Konferenciájának tevékenységeihez pénzügyi hozzájárulást irányoz elő harmadik államok részéről. Míg az Európa Tanács Alapszabályával összhangban az Európa Tanács valamennyi tagja hozzájárul az Európa Tanács rendes költségvetéséből, a tagsággal nem rendelkező részes felek költségvetésen kívüli hozzájárulást fizetnek. Az Európa Tanácsban tagsággal nem rendelkező államok hozzájárulását a Miniszteri Bizottság és a tagsággal nem rendelkező állam közösen állapítják meg.
Az egyezmény nem sérti a részes feleknek a költségvetési hatáskörökre és a költségvetési előirányzatokra vonatkozó eljárásokra alkalmazandó nemzeti törvényeit és rendelkezéseit. Lehetővé teszi továbbá a tagsággal nem rendelkező államok számára, hogy hozzájárulásaikat a törvényhozó szervük által meghatározott, jóváhagyott költségvetési kereteken belül teljesítsék, az esetleges előzetes megállapodások sérelme nélkül.
5.EGYÉB ELEMEK
•Végrehajtási tervek, valamint a nyomon követés, az értékelés és a jelentéstétel szabályai
A részes felek képviselőiből álló Részes Felek Konferenciája nyomon követi, hogy az egyezmény célkitűzései ténylegesen teljesülnek-e, és rendelkezéseit a részes felek végrehajtják-e.
A részes feleknek jelentést kell benyújtaniuk a Részes Felek Konferenciájának a csatlakozást követő első két éven belül, majd azt követően rendszeres időközönként, részletezve az egyezmény végrehajtása érdekében hozott intézkedéseket.
A részes feleket továbbá arra ösztönzik, hogy működjenek együtt az egyezmény céljainak elérésében. Ez a nemzetközi együttműködés magában foglalhatja az MI-vel és annak az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt esetleges negatív vagy pozitív hatásával kapcsolatos releváns információk megosztását.
A hatékony nyomon követés és végrehajtás biztosítása érdekében az egyes részes feleknek ki kell jelölniük egy vagy több hatékony nemzeti szintű felügyeleti mechanizmust.
2024/0150 (NLE)
Javaslat
A TANÁCS HATÁROZATA
az Európa Tanács mesterséges intelligenciáról és emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének az Európai Unió nevében történő aláírásáról
AZ EURÓPAI UNIÓ TANÁCSA,
tekintettel az Európai Unió működéséről szóló szerződésre és különösen annak 114. cikkére, összefüggésben annak 218. cikke (5) bekezdésével,
tekintettel az Európai Bizottság javaslatára,
mivel:
(1)2022. november 21-én a Tanács felhatalmazta az Európai Bizottságot, hogy az Unió nevében tárgyalásokat kezdjen az Európa Tanács mesterséges intelligenciáról, emberi jogokról, demokráciáról és a jogállamiságról szóló egyezményéről (a továbbiakban: az egyezmény). Az Európai Bizottság az Unió nevében tárgyalásokat folytatott az egyezményről. A tárgyalások 2024. május 17-én sikeresen lezárultak az egyezmény parafálásával és az Európa Tanács Miniszteri Bizottsága általi elfogadásával ( 26 ).
(2)Az egyezmény meghatározza azokat az általános elveket és kötelezettségeket, amelyeket az egyezmény részes feleinek be kell tartaniuk annak érdekében, hogy biztosítsák az emberi jogok, a demokrácia és a jogállamiság védelmét az MI-rendszerek életciklusán belüli tevékenységekkel kapcsolatban.
(3)2024. június 12-én az Unió elfogadta az (EU) 2024/… rendeletet (a továbbiakban: a mesterséges intelligenciáról szóló jogszabály) ( 27 ), elsősorban az EUMSZ 114. cikke alapján, amely teljes mértékben harmonizált szabályokat ír elő az MI-rendszerek Unióban történő forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan, amelyek a tagállamokban közvetlenül alkalmazandók, kivéve, ha a mesterséges intelligenciáról szóló jogszabály kifejezetten másként rendelkezik. Az egyezményt az Unióban kizárólag a mesterséges intelligenciáról szóló jogszabály és adott esetben más releváns uniós vívmányok révén kell végrehajtani.
(4)Tekintettel arra, hogy az egyezmény személyi és tárgyi hatálya megegyezik a mesterséges intelligenciáról szóló jogszabály és más releváns uniós vívmányok személyi és tárgyi hatályával, az egyezmény megkötése érintheti a közös uniós szabályokat, vagy megváltoztathatja azok alkalmazási körét az Európai Unió működéséről szóló szerződés 3. cikkének (2) bekezdése értelmében. Következésképpen az Unió kizárólagos külső hatáskörrel rendelkezik az egyezmény aláírására, ezért csak az Unió válhat az egyezmény részes felévé, figyelemmel annak későbbi időpontban történő megkötésére.
(5)A Szerződésekkel összhangban az Európai Bizottság feladata, hogy biztosítsa az egyezmény aláírását, figyelemmel annak későbbi időpontban történő megkötésére.
ELFOGADTA EZT A HATÁROZATOT:
1. cikk
Az Európa Tanács mesterséges intelligenciáról, emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének (a továbbiakban: az egyezmény) aláírása az Unió nevében jóváhagyásra kerül, figyelemmel az említett egyezmény megkötésére.
Az aláírandó egyezmény szövegét csatolták e határozathoz.
2. cikk
Ez a határozat -án/-én lép hatályba.
Kelt Brüsszelben, -án/-én.
a Tanács részéről
az elnök
Az Európai Unió Alapjogi Chartája, HL C 326., 2012.10.26., 391. o.
EURÓPAI BIZOTTSÁG
Brüsszel, 2024.6.26.
COM(2024) 264 final
MELLÉKLET
a következőhöz:
Javaslat A TANÁCS HATÁROZATA
az Európa Tanács mesterséges intelligenciáról és emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének az Európai Unió nevében történő aláírásáról
Az Európa Tanács mesterséges intelligenciáról és emberi jogokról, demokráciáról és a jogállamiságról szóló keretegyezményének szövege
Bevezető
Az Európa Tanács tagállamai és a jelen egyezmény többi aláíró állama,
figyelembe véve, hogy az Európa Tanács célja a tagjai közötti nagyobb egység elérése, amely különösen az emberi jogok tiszteletben tartásán, a demokrácián és a jogállamiságon alapul;
felismerve az ezen egyezményben részes felek közötti együttműködés ösztönzésének és az ilyen együttműködésnek az azonos értékeket valló más államokra való kiterjesztésének értékét;
ismerve a tudomány és a technológia gyorsuló fejlődését, valamint az MI-rendszerek életciklusán belüli tevékenységek által előidézett mélyreható változásokat, amelyek a haladás és az innováció fokozása révén képesek előmozdítani az emberi jólétet, valamint az egyéni és társadalmi jóllétet, a fenntartható fejlődést, a nemek közötti egyenlőséget és valamennyi nő és lány társadalmi szerepvállalását, valamint más fontos célokat és érdekeket;
felismerve, hogy az MI-rendszerek életciklusán belüli tevékenységek példátlan lehetőségeket kínálhatnak az emberi jogok, a demokrácia és a jogállamiság védelmére és előmozdítására;
aggódva amiatt, hogy az MI-rendszerek életciklusán belüli bizonyos tevékenységek alááshatják az emberi méltóságot és az egyéni autonómiát, az emberi jogokat, a demokráciát és a jogállamiságot;
aggódva a digitális környezetekben, és különösen az MI-rendszereket magukba foglaló digitális környezetekben megjelenő hátrányos megkülönböztetés kockázatai miatt, valamint amiatt, hogy ezek – többek között a nők és a kiszolgáltatott helyzetben lévő személyek által az emberi jogaik gyakorlása, valamint a gazdasági, társadalmi, kulturális és politikai ügyekben való teljes körű, egyenlő és hatékony részvételük tekintetében tapasztalt – egyenlőtlenségeket teremthetnek vagy súlyosbíthatnak;
aggódva az MI-rendszerekkel való visszaélések miatt, és ellenezve az ilyen rendszerek elnyomó célú, a nemzetközi emberi jogi jogszabályokat sértő használatát, amely többek között a magánéletet és az egyéni autonómiát aláásó önkényes vagy jogellenes megfigyelési és cenzúrázási gyakorlatok révén valósulhat meg;
tudatában annak, hogy az emberi jogok, a demokrácia és a jogállamiság természetüknél fogva összefonódnak egymással;
meggyőződve arról, hogy elsődleges fontosságú egy globálisan alkalmazandó jogi keret létrehozása, amely közös általános elveket és szabályokat határoz meg az MI-rendszerek életciklusán belüli tevékenységekre vonatkozóan, amely hatékonyan megőrzi a közös értékeket és kiaknázza az MI előnyeit ezen értékek előmozdítása érdekében, a felelős innovációt elősegítő módon;
felismerve, hogy elő kell mozdítani a digitális jártasságot, az MI-rendszerek tervezésével, fejlesztésével, használatával és leszerelésével kapcsolatos ismereteket és bizalmat;
felismerve ezen egyezmény keretjellegét, amely további eszközökkel egészíthető ki az MI-rendszerek életciklusán belüli tevékenységekkel kapcsolatos konkrét kérdések kezelése érdekében;
hangsúlyozva, hogy ezen egyezmény célja az MI-rendszerek teljes életciklusa során felmerülő konkrét kihívások kezelése, valamint az e technológiákhoz kapcsolódó szélesebb körű kockázatok és hatások figyelembevételének ösztönzése, beleértve többek között az emberi egészséget és a környezetet, valamint a társadalmi-gazdasági szempontokat, például a foglalkoztatást és a munkaerőt;
tudomásul véve az egyéb nemzetközi és szupranacionális szervezetek és fórumok arra irányuló erőfeszítéseit, hogy előmozdítsák az MI nemzetközi szintű megértését és az MI-vel kapcsolatos nemzetközi együttműködést;
szem előtt tartva az olyan alkalmazandó nemzetközi emberi jogi eszközöket, mint az 1948. évi Emberi Jogok Egyetemes Nyilatkozata, az emberi jogok és alapvető szabadságok védelméről szóló 1950. évi egyezmény (ETS 5. sz.), a Polgári és Politikai Jogok 1966. évi Nemzetközi Egyezségokmánya, a Gazdasági, Szociális és Kulturális Jogok 1966. évi Nemzetközi Egyezségokmánya, az 1961. évi Európai Szociális Charta (ETS 35. sz.) és ezek vonatkozó jegyzőkönyvei, valamint az 1996. évi Európai Szociális Charta (felülvizsgált) (ETS 163. sz.);
szem előtt tartva a gyermek jogairól szóló 1989. évi ENSZ-egyezményt és a fogyatékossággal élő személyek jogairól szóló 2006. évi ENSZ-egyezményt is;
szem előtt tartva az egyének magánélethez való jogát és a személyes adatok védelmét is, ahogyan azokról például a személyes adatok gépi feldolgozása során az egyének védelméről szóló 1981. évi egyezmény (ETS 108. sz.) és annak jegyzőkönyvei rendelkeznek;
megerősítve a részes felek elkötelezettségét az emberi jogok, a demokrácia és a jogállamiság védelme, valamint az MI-rendszerek megbízhatóságának ezen egyezmény révén történő előmozdítása iránt,
a következőképpen állapodtak meg:
I. fejezet – Általános rendelkezések
1. cikk – Tárgy és cél
(1)Az egyezmény célja annak biztosítása, hogy az MI-rendszerek életciklusán belüli tevékenységek teljes mértékben összhangban legyenek az emberi jogokkal, a demokráciával és a jogállamisággal.
(2)Valamennyi részes fél megfelelő jogalkotási, közigazgatási vagy egyéb intézkedéseket fogad el vagy tart fenn az ezen egyezményben meghatározott rendelkezések érvényre juttatása érdekében. Ezeket az intézkedéseket az MI-rendszerek teljes életciklusa során az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt káros hatások súlyosságától és valószínűségétől függően szükség szerint fokozatosan kell bevezetni és azokat differenciálni kell. Ez magában foglalhat olyan egyedi vagy átfogó intézkedéseket, amelyek az alkalmazott technológia típusától függetlenül alkalmazandók.
(3)Annak érdekében, hogy a részes felek hatékonyan hajtsák végre rendelkezéseit, ez az egyezmény nyomonkövetési mechanizmust hoz létre, és nemzetközi együttműködésről rendelkezik.
2. cikk – Az MI-rendszerek meghatározása
Ezen egyezmény alkalmazásában az „MI-rendszer”: olyan gépi alapú rendszer, amely közvetlen vagy közvetett célok érdekében a kapott bemenetből levezeti, hogy hogyan generálhat olyan kimeneteket, mint például előrejelzések, tartalmak, ajánlások vagy döntések, amelyek befolyásolhatják a fizikai vagy virtuális környezetet. A különböző MI-rendszerek autonómiájuk és alkalmazkodóképességük szintjét tekintve eltérőek a bevezetést követően.
3. cikk – Hatály
(1)Ezen egyezmény hatálya az MI-rendszerek életciklusán belüli olyan tevékenységekre terjed ki, amelyek potenciálisan sérthetik az emberi jogokat, a demokráciát és a jogállamiságot, az alábbiak szerint:
a)Valamennyi részes fél alkalmazza ezt az egyezményt a hatóságok vagy a nevükben eljáró magánszereplők által az MI-rendszerek életciklusán belüli tevékenységekre.
b)A részes felek az a) pontban nem szabályozott mértékben kezelik az MI-rendszerek életciklusán belül a magánszereplők által végzett tevékenységekből eredő kockázatokat és hatásokat az egyezmény tárgyának és céljának megfelelő módon.
A részes felek az Európa Tanács főtitkárához az aláíráskor vagy a megerősítő, elfogadó, jóváhagyó vagy csatlakozási okiratuk letétbe helyezésekor benyújtott nyilatkozatban meghatározzák, hogy miként kívánják végrehajtani ezt a kötelezettséget, akár az ezen egyezmény II–VI. fejezetében meghatározott elveknek és kötelezettségeknek a magánszereplők tevékenységeire történő alkalmazásával, akár az e pontban meghatározott kötelezettség teljesítéséhez szükséges egyéb megfelelő intézkedések meghozatalával. A részes felek bármikor és ugyanilyen módon módosíthatják nyilatkozataikat.
A jelen pont szerinti kötelezettség végrehajtása során a részes felek nem térhetnek el az emberi jogok, a demokrácia és a jogállamiság védelme érdekében vállalt nemzetközi kötelezettségeik alkalmazásától, illetve nem korlátozhatják azt.
(2)A részes felek nem kötelesek alkalmazni ezt az egyezményt az MI-rendszerek életciklusán belüli, a nemzetbiztonsági érdekeik védelmével kapcsolatos tevékenységekre, azzal a feltétellel, hogy az ilyen tevékenységeket az alkalmazandó nemzetközi joggal – többek között a nemzetközi emberi jogi kötelezettségekkel – összhangban, valamint demokratikus intézményeik és folyamataik tiszteletben tartásával végzik.
(3)A 13. cikk és a 25. cikk (2) bekezdésének sérelme nélkül ez az egyezmény nem alkalmazandó a felhasználás céljából rendelkezésre még nem álló MI-rendszerekkel kapcsolatos kutatási és fejlesztési tevékenységekre, kivéve, ha a tesztelést vagy hasonló tevékenységeket oly módon végzik, hogy azok sérthetik az emberi jogokat, a demokráciát és a jogállamiságot.
(4)A honvédelemmel kapcsolatos ügyek nem tartoznak ezen egyezmény hatálya alá.
II. fejezet – Általános rendelkezések
4. cikk – Az emberi jogok védelme
A részes felek intézkedéseket fogadnak el vagy tartanak fenn annak biztosítására, hogy az MI-rendszerek életciklusán belüli tevékenységek összhangban legyenek az emberi jogok védelmére vonatkozó, az alkalmazandó nemzetközi jogban és a nemzeti jogban rögzített kötelezettségekkel.
5. cikk – A demokratikus folyamatok integritása és a jogállamiság tiszteletben tartása
(1)A részes felek olyan intézkedéseket fogadnak el vagy tartanak fenn, amelyek célja annak biztosítása, hogy az MI-rendszereket ne használják fel a demokratikus intézmények és folyamatok integritásának, függetlenségének és hatékonyságának aláásására, beleértve a hatalmi ágak szétválasztásának elvét, a bírói függetlenség tiszteletben tartását és az igazságszolgáltatáshoz való hozzáférést.
(2)A részes felek olyan intézkedéseket fogadnak el vagy tartanak fenn, amelyek célja demokratikus folyamataik védelme az MI-rendszerek életciklusán belüli tevékenységekkel összefüggésben, beleértve az egyének nyilvános vitához való méltányos hozzáférését és azokban való részvételét, valamint a szabad véleményformálásra való képességüket.
III. fejezet – Az MI-rendszerek életciklusán belüli tevékenységekkel kapcsolatos elvek
6. cikk – Általános megközelítés
Ez a fejezet meghatározza azokat az általános közös elveket, amelyeket az egyes részes felek az MI-rendszerek tekintetében a nemzeti jogrendszerüknek és az ezen egyezményben foglalt egyéb kötelezettségeknek megfelelő módon hajtanak végre.
7. cikk – Emberi méltóság és egyéni autonómia
A részes felek intézkedéseket fogadnak el vagy tartanak fenn az emberi méltóság és az egyéni autonómia tiszteletben tartása érdekében az MI-rendszerek életciklusán belüli tevékenységekkel kapcsolatban.
8. cikk – Átláthatóság és felügyelet
A részes felek intézkedéseket fogadnak el vagy tartanak fenn annak biztosítása érdekében, hogy az MI-rendszerek életciklusán belüli tevékenységek – többek között az MI-rendszerek által generált tartalom azonosítása – tekintetében a sajátos körülményekhez és kockázatokhoz igazított, megfelelő átláthatósági és felügyeleti követelmények legyenek érvényben.
9. cikk – Elszámoltathatóság és felelősség
A részes felek intézkedéseket fogadnak el vagy tartanak fenn az MI-rendszerek életciklusán belüli tevékenységekből eredő, az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt káros hatásokért való elszámoltathatóság és felelősség biztosítása érdekében.
10. cikk – Egyenlőség és megkülönböztetésmentesség
(1)A részes felek intézkedéseket fogadnak el vagy tartanak fenn annak biztosítása érdekében, hogy az MI-rendszerek életciklusán belüli tevékenységek tiszteletben tartsák az egyenlőséget, beleértve a nemek közötti egyenlőséget és a hátrányos megkülönböztetés tilalmát, az alkalmazandó nemzetközi és nemzeti jogban előírtak szerint.
(2)A részes felek vállalják, hogy az MI-rendszerek életciklusán belüli tevékenységekkel kapcsolatban olyan intézkedéseket fogadnak el vagy tartanak fenn, amelyek célja az egyenlőtlenségek leküzdése annak érdekében, hogy tisztességes, igazságos és méltányos eredmények szülessenek, összhangban az alkalmazandó nemzeti és nemzetközi emberi jogi kötelezettségeikkel.
11. cikk – A magánélet és a személyes adatok védelme
A részes felek intézkedéseket fogadnak el vagy tartanak fenn annak biztosítása érdekében, hogy az MI-rendszerek életciklusán belüli tevékenységekkel kapcsolatban:
a)biztosítva legyen az egyének magánélethez való jogának és személyes adatainak védelme, többek között az alkalmazandó nemzeti és nemzetközi jogszabályok, normák és keretek révén; és
b)az alkalmazandó nemzeti és nemzetközi jogi kötelezettségekkel összhangban hatékony garanciák és biztosítékok álljanak rendelkezésre az egyének számára.
12. cikk – Megbízhatóság
A részes felek adott esetben intézkedéseket hoznak az MI-rendszerek megbízhatóságának és a kimeneteikbe vetett bizalomnak az előmozdítása érdekében, amelyek magukban foglalhatnak az MI-rendszerek teljes életciklusa során a megfelelő minőségre és biztonságra vonatkozó követelményeket.
13. cikk – Biztonságos innováció
Az innováció előmozdítása, ugyanakkor az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt káros hatások elkerülése érdekében a részes felek felkérést kapnak arra, hogy adott esetben tegyék lehetővé ellenőrzött környezetek létrehozását az MI-rendszerek fejlesztésére, kísérletezésére és tesztelésére az illetékes hatóságaik felügyelete mellett.
IV. fejezet – Jogorvoslatok
14. cikk – Jogorvoslatok
(1)A részes felek – a nemzetközi kötelezettségeik által megkövetelt mértékben és nemzeti jogrendszerükkel összhangban – intézkedéseket fogadnak el vagy tartanak fenn annak biztosítása érdekében, hogy hozzáférhető és hatékony jogorvoslatok álljanak rendelkezésre az emberi jogoknak az MI-rendszerek életciklusán belüli tevékenységekből eredő megsértése esetén.
(2)A fenti (1) bekezdés támogatása céljából a részes felek intézkedéseket fogadnak el vagy tartanak fenn, beleértve a következőket:
a)intézkedések annak biztosítására, hogy az emberi jogokat esetlegesen sértő MI-rendszerekre vonatkozó releváns információkat és azok releváns használatát dokumentálják, azokat az ezen információkhoz való hozzáférésre jogosult szervek rendelkezésére bocsássák, és adott esetben az érintett személyek számára hozzáférhetővé tegyék vagy velük közöljék;
b)intézkedések annak biztosítására, hogy az a) pontban említett információ elegendő legyen ahhoz, hogy az érintett személyek megtámadhassák a rendszer használata révén hozott vagy alapvetően a rendszer használata által megalapozott döntés(eke)t, valamint adott és indokolt esetben magának a rendszernek a használatát; és
c)az érintett személyek tényleges lehetősége arra, hogy panaszt nyújtsanak be az illetékes hatóságokhoz.
15. cikk – Eljárási biztosítékok
(1)A részes felek biztosítják, hogy amennyiben egy MI-rendszer jelentős hatást gyakorol az emberi jogok gyakorlására, az alkalmazandó nemzetközi és nemzeti joggal összhangban hatékony eljárási garanciák, biztosítékok és jogok álljanak az érintett személyek rendelkezésére.
(2)A részes felek törekednek annak biztosítására, hogy a körülményeknek megfelelően az MI-rendszerekkel kapcsolatba kerülő személyeket értesítsék arról, hogy nem emberrel, hanem ilyen rendszerekkel lépnek kapcsolatba.
V. fejezet – A kockázatok és a káros hatások felmérése és mérséklése
16. cikk – Kockázat- és hatáskezelési keret
(1)A részes felek – a III. fejezetben meghatározott elvek figyelembevételével – intézkedéseket fogadnak el vagy tartanak fenn az MI-rendszerek által jelentett kockázatok azonosítása, értékelése, megelőzése és mérséklése érdekében, figyelembe véve az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt tényleges és lehetséges hatásokat.
(2)Ezeknek az intézkedéseknek adott esetben fokozatosnak és differenciáltnak kell lenniük, és:
a)kellően figyelembe kell venniük az MI-rendszerek kontextusát és tervezett használatát, különös tekintettel az emberi jogokat, a demokráciát és a jogállamiságot érintő kockázatokra;
b)kellően figyelembe kell venniük a lehetséges hatások súlyosságát és valószínűségét;
c)adott esetben mérlegelniük kell az érintett érdekelt felek, különösen azon személyek szempontjait, akiknek a jogait érinthetik az ilyen rendszerek;
d)azokat ismétlődő módon kell alkalmazni az MI-rendszer életciklusán belüli tevékenységek során;
e)magukban kell foglalniuk az emberi jogokat, a demokráciát és a jogállamiságot érintő kockázatok és káros hatások nyomon követését;
f)magukban kell foglalniuk a kockázatok, a tényleges és lehetséges hatások, valamint a kockázatkezelési megközelítés dokumentációját; és
g)adott esetben elő kell írniuk az MI-rendszerek tesztelését azok első használatra történő rendelkezésre bocsátása előtt és jelentős módosítása esetén.
(3)A részes felek olyan intézkedéseket fogadnak el vagy tartanak fenn, amelyek célja annak biztosítása, hogy az MI-rendszerek által az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt káros hatásokat megfelelően kezeljék. Az ilyen káros hatásokat és a kezelésükre irányuló intézkedéseket dokumentálni kell, és azoknak a (2) bekezdésben ismertetett megfelelő kockázatkezelési intézkedések alapjául kell szolgálniuk.
(4)A részes felek felmérik, hogy szükség van-e felfüggesztésre (moratóriumra), betiltásra vagy más megfelelő intézkedésekre az MI-rendszerek bizonyos felhasználásai tekintetében, amennyiben úgy ítélik meg, hogy az ilyen felhasználások összeegyeztethetetlenek az emberi jogok tiszteletben tartásával, a demokrácia működésével vagy a jogállamisággal.
VI. fejezet – Az egyezmény végrehajtása
17. cikk – Megkülönböztetésmentesség
Ezen egyezmény rendelkezéseinek a részes felek általi végrehajtását mindennemű megkülönböztetés nélkül, nemzetközi emberi jogi kötelezettségeikkel összhangban kell biztosítani.
18. cikk – A fogyatékossággal élő személyek és a gyermekek jogai
A részes felek nemzeti jogukkal és az alkalmazandó nemzetközi kötelezettségeikkel összhangban megfelelően figyelembe veszik a fogyatékossággal élő személyek és a gyermekek jogainak tiszteletben tartásával kapcsolatos sajátos szükségleteket és sebezhetőségeket.
19. cikk – Nyilvános konzultáció
A részes felek törekednek annak biztosítására, hogy az MI-rendszerekkel kapcsolatban felvetett fontos kérdéseket a társadalmi, gazdasági, jogi, etikai, környezetvédelmi és egyéb releváns vonatkozások fényében adott esetben nyilvános vita és több érdekelt fél bevonásával folytatott konzultáció során megfelelően figyelembe vegyék.
20. cikk – Digitális jártasság és készségek
A részes felek ösztönzik és előmozdítják a megfelelő digitális jártasságot és digitális készségeket a lakosság minden szegmense számára, beleértve az MI-rendszerek által jelentett kockázatok azonosításáért, értékeléséért, megelőzéséért és mérsékléséért felelős személyek speciális szakértői készségeit is.
21. cikk – A meglévő emberi jogok védelme
Ezen egyezmény egyetlen rendelkezése sem értelmezhető úgy, mint amely korlátozza, eltérően alkalmazza, vagy más módon érinti az emberi jogokat vagy más kapcsolódó, törvényben foglalt olyan jogokat és kötelezettségeket, amelyek valamely részes fél vonatkozó jogszabályai vagy bármely más olyan alkalmazandó nemzetközi megállapodás alapján biztosíthatók, amelynek az adott fél részes fele.
22. cikk – Szélesebb körű védelem
Ezen egyezmény egyetlen rendelkezése sem értelmezhető úgy, mint amely korlátozza vagy más módon érinti a részes felek azon lehetőségét, hogy az ezen egyezményben előírtnál szélesebb körű védelmi intézkedést biztosítsanak.
VII. fejezet – Nyomonkövetési mechanizmus és együttműködés
23. cikk – A Részes Felek Konferenciája
(1)A Részes Felek Konferenciája az egyezmény részes feleinek képviselőiből áll.
(2)A részes felek rendszeresen konzultálnak azzal a céllal, hogy
a) elősegítsék ezen egyezmény hatékony alkalmazását és végrehajtását, beleértve a problémák és a 34. cikk (1) bekezdése alapján tett fenntartások vagy az ezen egyezmény alapján tett bármely nyilatkozat hatásainak azonosítását;
b) mérlegeljék ezen egyezmény esetleges kiegészítését vagy módosítását;
c) mérlegeljék az egyezmény értelmezésével és alkalmazásával kapcsolatos kérdéseket és konkrét ajánlásokat fogalmazzanak meg;
d) megkönnyítsék az ezen egyezmény végrehajtása szempontjából releváns jelentős jogi, szakpolitikai vagy technológiai fejleményekkel kapcsolatos információcserét, többek között a 25. cikkben meghatározott célkitűzések elérése érdekében;
e) szükség esetén megkönnyítsék az ezen egyezmény alkalmazásával kapcsolatos viták békés rendezését; és
f) elősegítsék az érintett érdekelt felekkel történő, az egyezmény végrehajtásának releváns szempontjaival kapcsolatos együttműködést, adott esetben nyilvános meghallgatások révén is.
(3)A Részes Felek Konferenciáját az Európa Tanács főtitkára hívja össze, amennyiben az szükséges, valamint bármely olyan esetben, amikor annak összehívását a részes felek többsége vagy a Miniszteri Bizottság kezdeményezi.
(4)A Részes Felek Konferenciája ezen egyezmény hatálybalépésétől számított tizenkét hónapon belül konszenzussal elfogadja saját eljárási szabályzatát.
(5)A részes feleket az Európa Tanács Titkársága segíti a jelen cikk szerinti feladataik ellátásában.
(6)A Részes Felek Konferenciája megfelelő módszereket javasolhat a Miniszteri Bizottságnak az egyezmény hatékony végrehajtását támogató megfelelő szakértelem bevonására.
(7)Bármely részes fél, amely nem tagja az Európa Tanácsnak, hozzájárul a Részes Felek Konferenciája tevékenységeinek finanszírozásához. Az Európa Tanácsban tagsággal nem rendelkező államok hozzájárulását a Miniszteri Bizottság és a tagsággal nem rendelkező államok közösen állapítják meg.
(8)A Részes Felek Konferenciája határozhat úgy, hogy az Alapszabály 3. cikkének súlyos megsértése miatt korlátozza annak a részes félnek a munkájában való részvételét, amely az Európa Tanács Alapszabályának (ETS 1. sz.) 8. cikke értelmében már nem tagja az Európa Tanácsnak. Hasonlóképpen, intézkedéseket lehet hozni bármely olyan részes fél tekintetében, amely nem tagja az Európa Tanácsnak, a Miniszteri Bizottság azon határozatával, hogy az Alapszabály 3. cikkében említettekhez hasonló okokból megszünteti az adott állammal fennálló kapcsolatait.
24. cikk – Jelentéstételi kötelezettség
(1)Mindegyik részes fél a részes féllé válását követő első két éven belül, majd ezt követően rendszeresen jelentést nyújt be a Részes Felek Konferenciájának a 3. cikk (1) bekezdése a) és b) pontjának érvényesítése érdekében vállalt tevékenységeiről.
(2)A Részes Felek Konferenciája eljárási szabályzatával összhangban meghatározza a jelentés formátumát és folyamatát.
25. cikk – Nemzetközi együttműködés
(1)A részes felek együttműködnek ezen egyezmény céljának megvalósításában. A részes feleket továbbá arra ösztönzik, hogy adott esetben segítsék azokat az államokat, amelyek nem részes felei ennek az egyezménynek, hogy az egyezmény feltételeivel összhangban járjanak el, és annak részes felévé váljanak.
(2)A részes felek adott esetben releváns és hasznos információkat osztanak meg egymással az MI-vel kapcsolatos olyan szempontokról, amelyek jelentős pozitív vagy negatív hatással lehetnek az emberi jogok gyakorlására, a demokrácia működésére és a jogállamiság tiszteletben tartására, beleértve a kutatással összefüggésben és a magánszektorral kapcsolatban felmerült kockázatokat és hatásokat is. A részes feleket ösztönözni kell arra, hogy az ilyen információcserébe adott esetben vonják be az érintett érdekelt feleket és azokat az államokat, amelyek nem részes felei ennek az egyezménynek.
(3)A részes feleket arra ösztönzik, hogy erősítsék meg az együttműködést – adott esetben az érintett érdekelt felekkel is – az MI-rendszerek életciklusán belüli tevékenységekkel összefüggésben az emberi jogokra, a demokráciára és a jogállamiságra gyakorolt kockázatok és káros hatások megelőzése és mérséklése érdekében.
26. cikk – Hatékony felügyeleti mechanizmusok
(1)Az egyes részes felek létrehoznak vagy kijelölnek egy vagy több hatékony mechanizmust az ezen egyezményben foglalt kötelezettségek betartásának felügyeletére.
(2)Az egyes részes felek biztosítják, hogy ezek a mechanizmusok függetlenül és pártatlanul látják el feladataikat, és rendelkeznek az ahhoz szükséges hatáskörökkel, szakértelemmel és erőforrásokkal, hogy hatékonyan ellássák az ezen egyezményben foglalt kötelezettségeknek való megfelelés felügyeletével kapcsolatos feladataikat, amint arról a részes felek rendelkeznek.
(3)Abban az esetben, ha valamely részes fél egynél több ilyen mechanizmusról rendelkezett, intézkedéseket kell hoznia – amennyiben ez megvalósítható – a közöttük folyó hatékony együttműködés elősegítése érdekében.
(4)Abban az esetben, ha valamely részes fél a meglévő emberi jogi struktúráktól eltérő mechanizmusokat írt elő, intézkedéseket kell hoznia az (1) bekezdésben említett mechanizmusok és a meglévő nemzeti emberi jogi struktúrák közötti hatékony együttműködés előmozdítása érdekében.
VIII. fejezet – Záró rendelkezések
27. cikk – Az egyezmény hatása
(1)Ha két vagy több részes fél már megkötött egy vagy több megállapodást vagy szerződést az ezen egyezményben szabályozott kérdésekben, vagy más módon kapcsolatokat létesített ilyen kérdésekben, jogosult az adott megállapodást vagy szerződést ennek megfelelően alkalmazni, vagy e kapcsolatokat ennek megfelelően szabályozni, feltéve, hogy ez nem ellentétes ezen egyezmény tárgyával és céljával.
(2)Azon részes felek, amelyek az Európai Unió tagjai, kölcsönös kapcsolataikban oly módon alkalmazzák az Európai Unió ezen egyezmény hatálya alá tartozó kérdéseket szabályozó rendelkezéseit, hogy azok nem sértik a jelen egyezmény tárgyát és célját, valamint nem sértik annak más részes felekkel történő teljes körű alkalmazását. Ugyanez vonatkozik a többi részes félre is, amennyiben az ilyen szabályok rájuk nézve kötelezőek.
28. cikk – Módosítások
(1)Jelen egyezmény módosítását bármelyik részes fél, az Európa Tanács Miniszteri Bizottsága és a Részes Felek Konferenciája javasolhatja.
(2)Bármely módosításra irányuló javaslatról az Európa Tanács főtitkára tájékoztatja a részes feleket.
(3)Minden, a részes felek vagy a Miniszteri Bizottság által javasolt módosításról tájékoztatni kell a Részes Felek Konferenciáját, amely a javasolt módosítással kapcsolatos véleményéről tájékoztatja a Miniszteri Bizottságot.
(4)A Miniszteri Bizottság a javasolt módosítást és a Részes Felek Konferenciája által benyújtott véleményt megvizsgálja, és a módosítást elfogadhatja.
(5)A Miniszteri Bizottság által, a (4) bekezdés szerint elfogadott módosítás szövegét elfogadás végett meg kell küldeni a részes feleknek.
(6)Bármely, a (4) bekezdésnek megfelelően elfogadott módosítás az azt követő harmincadik napon lép hatályba, hogy valamennyi részes fél értesítette a főtitkárt annak elfogadásról.
29. cikk – Vitarendezés
Abban az esetben, ha a részes felek között vita merül fel ezen egyezmény értelmezésével vagy alkalmazásával kapcsolatban, e részes felek törekednek arra, hogy a vitát tárgyalás útján vagy bármely más általuk választott békés módon rendezzék, többek között a Részes Felek Konferenciáján keresztül, a 23. cikk (2) bekezdésének e) pontjában előírtak szerint.
30. cikk – Aláírás és hatálybalépés
(1)Jelen egyezmény aláírásra nyitva áll az Európa Tanács tagállamai, az Európai Unió, valamint az egyezmény kidolgozásában részt vevő, tagsággal nem rendelkező államok számára.
(2)Ez az egyezmény megerősítéshez, elfogadáshoz vagy jóváhagyáshoz kötött. A megerősítő, elfogadó vagy jóváhagyó okiratokat az Európa Tanács főtitkáránál kell letétbe helyezni.
(3)Jelen egyezmény az azt követő harmadik hónap eltelte utáni hónap első napján lép hatályba, amikor öt aláíró állam, amelyek közül legalább három az Európa Tanács tagja, a (2) bekezdésnek megfelelően elismeri az egyezmény kötelező hatályát.
(4)Az egyezményt később magára nézve kötelezőnek elismerő aláíró fél tekintetében az egyezmény a megerősítő, elfogadó vagy jóváhagyó okirata letétbe helyezésének napját követő három hónapos időszak lejárta után következő hónap első napján lép hatályba.
31. cikk – Csatlakozás
(1)Ezen egyezmény hatálybalépését követően az Európa Tanács Miniszteri Bizottsága – az ezen egyezményben részes felekkel folytatott konzultációt és azok egyhangú hozzájárulását követően – felkérheti az Európa Tanácsban tagsággal nem rendelkező bármely olyan államot, amely nem vett részt ezen egyezmény kidolgozásában, hogy az Európa Tanács Alapszabálya 20. cikkének d) pontjában előírt többséggel hozott határozattal és a Miniszteri Bizottságban való részvételre jogosult felek képviselőinek egyhangú szavazatával csatlakozzon ehhez az egyezményhez.
(2)Az egyezmény minden csatlakozó állam tekintetében az azon időponttól számított három hónapos időszak elteltét követő hónap első napján lép hatályba, amikor a csatlakozási okiratot az Európa Tanács főtitkáránál letétbe helyezték.
32. cikk – Területi hatály
(1)Bármely állam vagy az Európai Unió az aláírás időpontjában, vagy megerősítő, elfogadó, jóváhagyó vagy csatlakozási okiratának letétbe helyezésekor megjelölheti azon területet vagy területeket, amelyre, illetve amelyekre ez az egyezmény vonatkozik.
(2)Bármely részes fél bármely későbbi időpontban az Európa Tanács főtitkárához címzett nyilatkozatában kiterjesztheti jelen egyezmény alkalmazását a nyilatkozatban meghatározott más területre. Az érintett terület tekintetében az egyezmény a nyilatkozatnak a főtitkár általi kézhezvételétől számított három hónapos időszak elteltét követő hónap első napján lép hatályba.
(3)Az Európa Tanács főtitkárához címzett értesítés útján az előző két bekezdés alapján tett bármely nyilatkozat visszavonható az abban megjelölt területek bármelyike tekintetében. A visszavonás a főtitkárnak címzett értesítés kézhezvételét követő három hónapos időszak lejártát követő hónap első napján lép hatályba.
33. cikk – Szövetségi záradék
(1)Egy szövetségi tartomány fenntarthatja magának a jogot arra, hogy a jelen egyezményben meghatározott kötelezettségeket annyiban vállalja, amennyiben azok összeegyeztethetők a központi kormányzat és a szövetségi tartományok vagy más hasonló területi egységek viszonyát meghatározó alapvető elvekkel, feltéve, hogy ezen egyezmény a szövetségi tartomány központi kormányzatára alkalmazandó.
(2)Ha az egyezmény rendelkezéseinek alkalmazása az egyes szövetségi tartományok vagy más hasonló területi egységek joghatósága alá tartozik, amelyek ugyanakkor a szövetségi alkotmányos rendszer alapján nem kötelesek jogalkotási intézkedéseket hozni, a szövetségi kormányzat tájékoztatja az ilyen tartományok illetékes hatóságait az említett rendelkezésekről, közli támogató véleményét, és ösztönzi őket arra, hogy hozzanak megfelelő intézkedéseket azok végrehajtása érdekében.
34. cikk – Fenntartások
(1)Ezen egyezmény aláírása vagy a megerősítő, elfogadó vagy jóváhagyó okiratának letétbe helyezése alkalmával bármely állam az Európa Tanács főtitkárához címzett írásbeli nyilatkozatában kinyilváníthatja, hogy a 33. cikk (1) bekezdése szerinti fenntartással él.
(2)Ezzel az egyezménnyel kapcsolatban semmilyen más fenntartás nem tehető.
35. cikk – Felmondás
(1)Jelen egyezményt bármely részes fél bármikor felmondhatja az Európa Tanács főtitkárához címzett értesítéssel.
(2)A felmondás a főtitkárhoz címzett értesítés kézhezvételét követő három hónap utáni hónap első napján lép hatályba.
36. cikk – Értesítés
Az Európa Tanács főtitkára értesíti az Európa Tanács tagállamait, a jelen egyezmény kidolgozásában részt vevő, tagsággal nem rendelkező államokat, az Európai Uniót, bármely aláíró felet, szerződő államot, részes felet, valamint a jelen egyezményhez csatlakozásra meghívott államot:
a)minden egyes aláírásról;
b)valamely megerősítő, elfogadó, jóváhagyó vagy csatlakozási okirat letétbe helyezéséről;
c)ezen egyezmény bármely, a 30. cikk (3) és (4) bekezdése, és a 31. cikk (2) bekezdése szerinti hatálybalépési időpontjáról;
d)a 28. cikkel összhangban elfogadott bármely módosításról és a módosítás hatálybalépésének időpontjáról;
e)a 3. cikk (1) bekezdésének b) pontja alapján tett bármely nyilatkozatról;
f)a 34. cikk alapján tett fenntartásokról és a fenntartások visszavonásáról;
g)a 35. cikk alapján tett felmondásról;
h)az ezen egyezménnyel kapcsolatos minden egyéb jogi aktusról, nyilatkozatról, értesítésről vagy közlésről.
A fentiek hiteléül a kellően meghatalmazott alulírottak aláírták az egyezményt.
Készült [hely]-ben/-ban, 202[4] [hónap] … napján, angol és francia nyelven, amely szövegek mindegyike egyaránt hiteles; egyetlen példányban, amelyet az Európa Tanács levéltárában kell elhelyezni. Az Európa Tanács főtitkára az Európa Tanács valamennyi tagállama, az ezen egyezmény kidolgozásában részt vevő, tagsággal nem rendelkező államok, az Európai Unió, valamint minden, az ez egyezményhez történő csatlakozásra felhívott állam számára hitelesített másolatot küld.
