Az Európai Bizottság által javasolt szöveg

Az RB módosítása

E rendelet célja a belső piac működésének javítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt.

E rendelet célja a belső piac működésének javítása és a polgárok alapvető jogainak biztosítása azáltal, hogy egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme, és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A mesterségesintelligencia-rendszerek meghatározása olyan állandó folyamat, amely figyelembe veszi azt a kontextust, amelyben a mesterséges intelligencia működik, lépést tart az e területen zajló társadalmi fejleményekkel, és nem veszíti szem elől a kiválósági ökoszisztéma és a bizalmi ökoszisztéma közötti kapcsolatot.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára megfelelő időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie.

Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Az érintett helyi és regionális önkormányzatokkal e rendszerek kivételes használatát megelőzően kell konzultálni. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára szigorú időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt főszabályként a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Az ilyen sürgős helyzetekben a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben a lehető leghamarabb meg kell próbálnia megszerezni az engedélyt, ugyanakkor meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy az engedélyt korábban megkérje .

A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Mindenesetre a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak haladéktalanul tájékoztatnia kell az érintett helyi és regionális önkormányzatokat, és az illetékes hatóságoknál meg kell próbálnia megszerezni az engedélyt.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben, a 810/2009/EK európai parlamenti és tanácsi rendeletben és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek.

A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért szükséges nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben, a 810/2009/EK európai parlamenti és tanácsi rendeletben és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai.

A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot , az adatbiztonságot, a fogyasztói jogokat és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai. Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, magas kockázatú MI-rendszerek által érintett természetes személyeket vagy személyek csoportjait megfelelő, könnyen hozzáférhető és érthető módon tájékoztatni kell arról, hogy ilyen rendszerekkel állnak kapcsolatban, és egyértelmű, könnyen elérhető, nyilvános információkat kell rendelkezésükre bocsátani erről.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Az MI-rendszerszolgáltatóknak tartózkodniuk kell minden olyan intézkedéstől, amely minőségirányítási rendszerükben elősegíti a nemen, származáson, valláson vagy meggyőződésen, fogyatékosságon, életkoron, szexuális irányultságon alapuló vagy bármely más alapon történő indokolatlan megkülönböztetést.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Annak az átláthatatlanságnak a kezelése érdekében, amely miatt egyes MI-rendszerek a természetes személyek számára érthetetlenek vagy túlságosan összetettek lehetnek, bizonyos fokú átláthatóságot kell előírni a nagy kockázatú MI-rendszerek tekintetében. A felhasználóknak képesnek kell lenniük arra, hogy értelmezzék és megfelelően használják a rendszer kimenetét. A nagy kockázatú MI-rendszereket ezért megfelelő dokumentációnak és használati utasításoknak kell kísérniük, és azoknak tömör és egyértelmű információkat kell tartalmazniuk, többek között adott esetben az alapvető jogokat és a megkülönböztetést érintő lehetséges kockázatokról.

Annak az átláthatatlanságnak a kezelése érdekében, amely miatt egyes MI-rendszerek a természetes személyek vagy a kormányzat bármely szintjén elhelyezkedő hatóságok számára érthetetlenek vagy túlságosan összetettek lehetnek, magas fokú átláthatóságot kell előírni a nagy kockázatú MI-rendszerek tekintetében. A felhasználóknak képesnek kell lenniük arra, hogy értelmezzék és megfelelően használják a rendszer kimenetét. A nagy kockázatú MI-rendszereket ezért megfelelő dokumentációnak és használati utasításoknak kell kísérniük, és azoknak tömör és egyértelmű információkat kell tartalmazniuk, többek között adott esetben az alapvető jogokat és a megkülönböztetést érintő lehetséges kockázatokról.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy a természetes személyek felügyelhessék működésüket. E célból a rendszer szolgáltatójának a forgalomba hozatalt vagy üzembe helyezést megelőzően megfelelő emberi felügyeleti intézkedéseket kell meghatároznia. Az ilyen intézkedéseknek adott esetben garantálniuk kell különösen azt, hogy a rendszer olyan beépített működési korlátokkal rendelkezzen, amelyeket maga a rendszer nem tud felülbírálni, és reagáljon az emberi üzemeltetőre, valamint hogy az emberi felügyeletet ellátó természetes személyek rendelkezzenek az e feladat ellátásához szükséges szakértelemmel, képzéssel és felhatalmazással.

A nagy kockázatú MI-rendszereket úgy kell megtervezni és fejleszteni, hogy a természetes személyek és a kormányzat bármely szintjén elhelyezkedő hatóságok felügyelhessék működésüket. E célból a rendszer szolgáltatójának a forgalomba hozatalt vagy üzembe helyezést megelőzően megfelelő emberi felügyeleti intézkedéseket kell meghatároznia. Az ilyen intézkedéseknek adott esetben garantálniuk kell különösen azt, hogy a rendszer olyan beépített működési korlátokkal rendelkezzen, amelyeket maga a rendszer nem tud felülbírálni, és reagáljon az emberi üzemeltetőre, valamint hogy az emberi felügyeletet ellátó természetes személyek rendelkezzenek az e feladat ellátásához szükséges szakértelemmel, képzéssel és felhatalmazással.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.

A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek, és CE-jelöléssel vannak ellátva. A tagállamok hatáskörrel rendelkeznek arra, hogy kizárólag kényszerítő és kellően megalapozott közbiztonsági és nemzetbiztonsági érdekek alapján szabályozzák a nagy kockázatú MI-gyakorlatokat és MI-rendszereket.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Bizonyos MI-rendszerek, amelyek rendeltetése a természetes személyekkel való interakció vagy tartalom létrehozása, különleges kockázatot jelenthetnek a hasonmássággal való visszaélés vagy a megtévesztés szempontjából, függetlenül attól, hogy nagy kockázatúnak minősülnek-e vagy sem. Bizonyos körülmények között e rendszerek használatára egyedi átláthatósági kötelezettségeket kell alkalmazni, a nagy kockázatú MI-rendszerekre vonatkozó követelmények és kötelezettségek sérelme nélkül. Különösen, a természetes személyeket figyelmeztetni kell, hogy MI-rendszerrel lépnek kapcsolatba , kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló . Ezenkívül a természetes személyeket figyelmeztetni kell, ha érzelemfelismerő rendszerrel vagy biometrikus kategorizálási rendszerrel kerülnek kapcsolatba. Ezeket az információkat és figyelmeztetéseket a fogyatékossággal élő személyek számára hozzáférhető formátumban kell biztosítani. Ezenfelül azoknak a felhasználóknak, akik MI-rendszert használnak arra, hogy meglévő személyekre, helyekre vagy eseményekre észrevehetően hasonlító, és egy személy számára hamisan hitelesnek tűnő kép, audio- vagy videotartalmat állítsanak elő vagy manipuláljanak, az MI-kimenet ennek megfelelő címkézésével és mesterséges eredetének nyilvánosságra hozatalával kell nyilvánvalóan jelezniük, hogy az adott tartalom mesterségesen került létrehozásra vagy manipulálásra.

Bizonyos MI-rendszerek, amelyek rendeltetése a természetes személyekkel való interakció vagy tartalom létrehozása, különleges kockázatot jelenthetnek a hasonmássággal való visszaélés vagy a megtévesztés szempontjából, függetlenül attól, hogy nagy kockázatúnak minősülnek-e vagy sem. E rendszerek használatára egyedi átláthatósági kötelezettségeket kell alkalmazni, a nagy kockázatú MI-rendszerekre vonatkozó követelmények és kötelezettségek sérelme nélkül. Különösképpen a természetes személyeket rendszerszerűen tájékoztatni kell arról , hogy MI-rendszerrel lépnek kapcsolatba. Ezenkívül a természetes személyeket figyelmeztetni kell, ha érzelemfelismerő rendszerrel vagy biometrikus kategorizálási rendszerrel kerülnek kapcsolatba. Ezeket az információkat és figyelmeztetéseket a fogyatékossággal élő személyek számára hozzáférhető formátumban kell biztosítani. Ezenfelül azoknak a felhasználóknak, akik MI-rendszert használnak arra, hogy meglévő személyekre, helyekre vagy eseményekre észrevehetően hasonlító, és egy személy számára hamisan hitelesnek tűnő kép, audio- vagy videotartalmat állítsanak elő vagy manipuláljanak, az MI-kimenet ennek megfelelő címkézésével és mesterséges eredetének nyilvánosságra hozatalával kell nyilvánvalóan jelezniük, hogy az adott tartalom mesterségesen került létrehozásra vagy manipulálásra.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően, valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget.

E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően, valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget. A Mesterséges Intelligenciával Foglalkozó Európai Testület tagjainak az európai társadalom érdekeit kell képviselniük. A Mesterséges Intelligenciával Foglalkozó Európai Testület összetételének nemi szempontból kiegyensúlyozottnak kell lennie.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében, hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé, minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak.

A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében, hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé, minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak. A helyi és regionális önkormányzatokat – amennyiben az adott tagállam indokoltnak tartja – felügyeleti vagy végrehajtási feladatokkal bízzák meg.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz.

Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak és – adott esetben – helyi és regionális önkormányzatoknak vagy hatósági szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét.

Az illetékes hatóságok uniós, nemzeti , regionális és helyi szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

„mesterségesintelligencia-rendszer (MI-rendszer)”: olyan szoftver, amelyet az I. mellékletben felsorolt technikák és megközelítések közül egy vagy több alkalmazásával fejlesztettek, és amely az ember által meghatározott célkitűzések adott csoportja tekintetében olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek;

„mesterségesintelligencia-rendszer (MI-rendszer)”: olyan szoftver, amelyet az I. mellékletben nem kimerítő jelleggel felsorolt technikák és megközelítések közül egy vagy több alkalmazásával fejlesztettek ki, társadalmi gyakorlatokkal, identitással és kultúrával társítva , és amely az ember által meghatározott célkitűzések adott csoportja tekintetében környezetének adatgyűjtéssel, az összegyűjtött strukturált vagy strukturálatlan adatok értelmezésével, tudásmenedzsmenttel vagy az ezekből az adatokból leszűrt információk feldolgozásával történő megfigyelése révén olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lépnek;

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Tilosak a következő mesterségesintelligencia-gyakorlatok:

Tilosak a következő mesterségesintelligencia-gyakorlatok:

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A tagállamok dönthetnek úgy, hogy az (1) bekezdés d) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatának teljes vagy részleges engedélyezését. Az említett tagállam nemzeti jogában meghatározza a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés d) pontjában felsorolt célok közül melyek tekintetében, és az (1) bekezdés d) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata.

A tagállamok dönthetnek úgy, hogy az (1) bekezdés d) pontjában, valamint a (2) és (3) bekezdésben felsorolt korlátokon belül és feltételek mellett lehetővé teszik a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatának teljes vagy részleges engedélyezését. Az említett tagállam nemzeti jogában meghatározza a (3) bekezdésben említett engedélyek kérelmezésére, kiadására és felhasználására, valamint az azokkal kapcsolatos felügyeletre vonatkozó szükséges részletes szabályokat. Ezekben a szabályokban azt is meg kell határozni, hogy az (1) bekezdés d) pontjában felsorolt célok közül melyek tekintetében, és az (1) bekezdés d) pontjának iii. alpontjában említett bűncselekmények közül melyek tekintetében engedélyezhető az illetékes hatóságok számára az említett rendszerek bűnüldözési célú használata. Ezek a szabályok meghatározzák az érintett helyi és regionális önkormányzatok tájékoztatására és a velük folytatott konzultációra vonatkozó előírásokat. Erre a konzultációra e rendszereknek a nyilvánosság számára hozzáférhető helyeken történő kivételes használata előtt kell sort keríteni. Sürgős helyzetekben, amikor észszerűen nem lehet megvárni az előzetes konzultációt, az illetékes helyi és regionális önkormányzatot haladéktalanul tájékoztatják az érintett MI-gyakorlat alkalmazásáról.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

13 . cikk – Átláthatóság és a felhasználók tájékoztatása

13a . cikk – Átláthatóság és a felhasználók tájékoztatása

13b. cikk – Átláthatóság és az érintett személyek tájékoztatása

Azokat a személyeket vagy személyek csoportjait, akik esetében nagy kockázatú MI-rendszert szándékoznak használni, könnyen elérhető, megfelelő és érthető módon tájékoztatni kell és egyértelmű, könnyen hozzáférhető és nyilvános információkat kell rendelkezésükre bocsátani erről.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A (3) bekezdésben említett intézkedéseknek lehetővé kell tenniük az emberi felügyeletet ellátó személyek számára, hogy a körülményeknek megfelelően:

A (3) bekezdésben említett intézkedéseknek lehetővé kell tenniük az emberi felügyeletet ellátó személyek számára, hogy a körülményeknek megfelelően:

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A III. melléklet (5) bekezdésének a) és b) pontjában említett mesterségesintelligencia-rendszerek által hozott döntésekhez emberi beavatkozás szükséges, és ezeknek alapos döntéshozatali folyamaton kell alapulniuk. E döntések esetében biztosítani kell az emberi részvételt.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszert vezetnek be, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie:

A nagy kockázatú MI-rendszerek szolgáltatói minőségirányítási rendszert vezetnek be, amely biztosítja az e rendeletnek való megfelelést. Ezt a rendszert írásbeli szabályzatok, eljárások és utasítások formájában szisztematikus és rendezett módon dokumentálni kell, és annak legalább a következő szempontokra kell kiterjednie:

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A nagy kockázatú MI-rendszerek szolgáltatói biztosítják, hogy rendszereiket forgalomba hozataluk vagy üzembe helyezésük előtt alávessék a 43. cikk szerinti megfelelőségértékelési eljárásnak. Amennyiben az említett megfelelőségértékelés után bizonyítást nyer, hogy az MI-rendszerek megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, a szolgáltatók a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot állítanak ki, és a 49. cikkel összhangban feltüntetik a CE megfelelőségi jelölést.

A nagy kockázatú MI-rendszerek szolgáltatói biztosítják, hogy rendszereiket forgalomba hozataluk vagy üzembe helyezésük előtt alávessék a 43. cikk szerinti megfelelőségértékelési eljárásnak. Amennyiben az említett megfelelőségértékelés után bizonyítást nyer, hogy az MI-rendszerek megfelelnek az e cím 2. fejezetében meghatározott követelményeknek, a szolgáltatók a 48. cikkel összhangban EU-megfelelőségi nyilatkozatot állítanak ki, és a 49. cikkel összhangban feltüntetik a CE megfelelőségi jelölést. A nagy kockázatú MI-rendszerek szolgáltatója nyilvánosan hozzáférhető helyen közzéteszi az EU-megfelelőségi nyilatkozatot és a megfelelőségértékelés összefoglalóját.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A nagy kockázatú MI-rendszerek felhasználói felelősek azért, hogy etikai értékelést végezzenek a rendszer használatba helyezését megelőzően. Képesnek kell lenniük arra, hogy elmagyarázzák a technológia bevezetésének az emberekre és a társadalomra gyakorolt lehetséges hatásait. Meg kell határozniuk az MI-rendszer alkalmazásának rendeltetését, az átfogó értékeket, valamint annak módját, ahogyan ezeket az értékeket súlyozták, illetve megvalósították vagy nem valósították meg a rendszerben. Az MI-rendszer teljes életciklusa során értékelik, hogy a rendszer milyen tényleges hatást gyakorol az emberekre és a társadalomra.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A szolgáltatók biztosítják, hogy a természetes személyekkel való interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy a természetes személyek tájékoztatást kapjanak arról, hogy valamely MI-rendszerrel állnak kapcsolatban , kivéve, ha ez a körülmények és a használat kontextusa alapján nyilvánvaló . Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők.

A szolgáltatók biztosítják, hogy a természetes személyekkel való interakcióra szánt MI-rendszereket úgy tervezzék meg és fejlesszék ki, hogy a természetes személyek tájékoztatást kapjanak arról, hogy valamely MI-rendszerrel állnak kapcsolatban. Ez a kötelezettség nem vonatkozik a törvény által a bűncselekmények felderítésére, megelőzésére, kivizsgálására és eljárás indítására engedélyezett MI-rendszerekre, kivéve, ha ezek a rendszerek bűncselekmények bejelentése céljából a nyilvánosság számára is elérhetők. A mesterségesintelligencia-rendszerekkel kapcsolatban álló természetes személyek választási lehetőségeit és jogállását nem korlátozhatja ez az interakció.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A Testület tagjai a nemzeti felügyeleti hatóságok, amelyeket e hatóságok vezetője vagy annak megfelelő magas rangú tisztviselője képvisel, valamint az európai adatvédelmi biztos. Más nemzeti hatóságok is meghívhatók az ülésekre, ha a megvitatott kérdések relevánsak számukra.

A Testület tagjai a nemzeti felügyeleti hatóságok, amelyeket e hatóságok vezetője vagy annak megfelelő magas rangú tisztviselője képvisel, valamint az európai adatvédelmi biztos. Más nemzeti , regionális és helyi hatóságok is meghívhatók az ülésekre, ha a megvitatott kérdések relevánsak számukra.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A Bizottság számára az 56. cikk (2) bekezdésével összefüggésben nyújtott tanácsadás és segítségnyújtás során a Testület különösen:

A Bizottság számára az 56. cikk (2) bekezdésével összefüggésben nyújtott tanácsadás és segítségnyújtás során a Testület különösen:

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Az egyes tagállamok e rendelet alkalmazásának és végrehajtásának biztosítása céljából nemzeti illetékes hatóságokat hoznak létre vagy jelölnek ki. A nemzeti illetékes hatóságokat úgy kell megszervezni és működtetni, hogy biztosított legyen tevékenységeik objektivitása és pártatlansága.

Az egyes tagállamok e rendelet alkalmazásának és végrehajtásának biztosítása céljából nemzeti illetékes hatóságokat hoznak létre vagy jelölnek ki. A nemzeti illetékes hatóságokat úgy kell megszervezni és működtetni, hogy biztosított legyen tevékenységeik objektivitása és pártatlansága. A helyi és regionális önkormányzatokat – amennyiben az adott tagállam indokoltnak tartja – felhatalmazzák arra, hogy felügyeleti vagy végrehajtási feladatokat lássanak el.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Magatartási kódexeket készíthetnek az MI-rendszerek egyes szolgáltatói vagy az azokat képviselő szervezetek vagy mindkettő, többek között a felhasználók és az érdekelt felek, valamint képviseleti szervezeteik bevonásával. A magatartási kódexek vonatkozhatnak egy vagy több MI-rendszerre, figyelembe véve az adott rendszerek rendeltetésének hasonlóságát.

Magatartási kódexeket készíthetnek a nemzeti, helyi vagy regionális hatóságok, az MI-rendszerek egyes szolgáltatói vagy az azokat képviselő szervezetek vagy mindkettő, többek között a felhasználók és az érdekelt felek, valamint képviseleti szervezeteik bevonásával. A magatartási kódexek vonatkozhatnak egy vagy több MI-rendszerre, figyelembe véve az adott rendszerek rendeltetésének hasonlóságát.

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

Tekintettel a tudomány jelenlegi állására a mesterséges intelligencia a következő technikákat és módszereket foglalja magában:

Az Európai Bizottság által javasolt szöveg

Az RB módosítása

A 6. cikk (2) bekezdése szerinti nagy kockázatú MI-rendszerek az alábbi területek valamelyikén felsorolt MI-rendszerek:

A 6. cikk (2) bekezdése szerinti nagy kockázatú MI-rendszerek az alábbi területek valamelyikén felsorolt MI-rendszerek: