(1)

E rendelet célja a belső piac működésének javítása azáltal , hogy egységes jogi keretet állapít meg különösen a  mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalmazására és használatára vonatkozóan. Ez a rendelet számos közérdeken alapuló kényszerítő indok miatt született meg, amilyen például az egészség, a biztonság és az alapvető jogok magas szintű védelme , és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be az MI-rendszerek fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt.

(1)

E rendelet célja , hogy előmozdítsa az emberközpontú és megbízható mesterséges intelligencia elterjedését, és az innováció előmozdítása, valamint a belső piac működésének javítása mellett biztosítsa az Unióban az egészség , a biztonság, az alapvető jogok, a demokrácia és a  jogállamiság, valamint a környezet magas szintű védelmét az MI-rendszerek káros hatásaival szemben; Ez a rendelet egységes jogi keretet állapít meg különösen a mesterséges intelligencia uniós értékekkel összhangban történő fejlesztésére, forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan , és biztosítja a mesterséges intelligencián alapuló áruk és szolgáltatások határokon átnyúló szabad mozgását, így megakadályozza a tagállamokat abban, hogy korlátozásokat vezessenek be a mesterségesintelligencia-rendszerek ( MI-rendszerek) fejlesztésére, forgalmazására és használatára vonatkozóan, kivéve, ha e rendelet kifejezetten engedélyezi azt. Egyes MI-rendszerek hatással lehetnek a demokráciára és a jogállamiságra, valamint a környezetre is. Az e rendelet mellékleteiben felsorolt kritikus ágazatok és felhasználási esetek kifejezetten foglalkoznak ezekkel az aggályokkal.

(1a)

A rendelet feladata az, hogy megőrizze az európai értékeket, megkönnyítse a mesterséges intelligenciából származó előnyök elosztását a társadalomban, megóvja az egyéneket, a vállalatokat, a demokráciát és jogállamiságot, valamint a környezetet a kockázatoktól, miközben ösztönzi az innovációt és a foglalkoztatást, és Európát vezető szerephez juttatja ezen a területen.

(2)

A mesterségesintelligencia-rendszerek (a továbbiakban: MI-rendszerek) a gazdaság és a társadalom számos ágazatában könnyen alkalmazhatók, többek között a határokon átnyúlóan is, és az egész Unióban forgalomban lehetnek. Egyes tagállamok már megvizsgálták olyan nemzeti szabályok elfogadását, amelyek biztosítják a mesterséges intelligencia biztonságosságát, valamint az alapvető jogokra vonatkozó kötelezettségekkel összhangban történő fejlesztését és használatát. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő vagy használó üzemeltetők jogbiztonságát. Ezért az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását akadályozó különbségeket, és ennek érdekében az üzemeltetők számára egységes kötelezettségeket kell megállapítani, és az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon. Amennyiben e rendelet különös szabályokat tartalmaz az egyéneknek a személyes adatok kezelése tekintetében való védelméről, az MI-rendszereknek a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából, „valós idejű” távoli biometrikus azonosításra történő használatát érintő korlátozásokkal kapcsolatban, helyénvaló e rendeletet az említett különös szabályok tekintetében az EUMSZ 16. cikkére alapozni. E különös szabályokra és az EUMSZ 16. cikkének alkalmazására tekintettel helyénvaló konzultálni az Európai Adatvédelmi Testülettel.

(2)

Az MI-rendszerek a gazdaság és a társadalom számos ágazatában könnyen alkalmazhatók, többek között a határokon átnyúlóan is, és az egész Unióban forgalomban lehetnek. Egyes tagállamok már megvizsgálták olyan nemzeti szabályok elfogadását, amelyek biztosítják a mesterséges intelligencia megbízhatóságát és biztonságosságát, valamint az alapvető jogokra vonatkozó kötelezettségekkel összhangban történő fejlesztését és használatát. Az eltérő nemzeti szabályok a belső piac széttagoltságához vezethetnek, és csökkenthetik az MI-rendszereket fejlesztő vagy használó üzemeltetők jogbiztonságát. Ezért a megbízható MI megvalósítása érdekében az egész Unióban következetes és magas szintű védelmet kell biztosítani, ugyanakkor meg kell előzni az MI-rendszerek, valamint a kapcsolódó termékek és szolgáltatások belső piacon belüli szabad mozgását , innovációját, bevezetését és elterjedését akadályozó különbségeket, és ennek érdekében az üzemeltetők számára egységes kötelezettségeket kell megállapítani, és az Európai Unió működéséről szóló szerződés (EUMSZ) 114. cikke alapján garantálni kell a közérdeken alapuló kényszerítő indokok és a személyek jogainak egységes védelmét a belső piacon.

(2a)

Mivel a mesterséges intelligencia gyakran nagy mennyiségű adat feldolgozására támaszkodik, és számos MI-rendszer és alkalmazás a személyes adatok kezelésére támaszkodik, helyénvaló e rendeletet az EUMSZ 16. cikkére alapozni, amely rögzíti a természetes személyeknek a személyes adatok kezelése tekintetében való védelméhez való jogot, és rendelkezik a személyes adatok kezelése tekintetében az egyének védelméről szóló szabályok elfogadásáról.

(2b)

A személyes adatok védelméhez való alapvető jogot különösen az (EU) 2016/679 és az (EU) 2018/1725 rendelet, valamint a 2016/680 irányelv védi. A 2002/58/EK irányelv emellett a magánéletet és a közlések titkosságát is védi többek között azáltal, hogy meghatározza a személyes és nem személyes adatoknak a végberendezésen történő tárolására, valamint az onnan történő elérésére vonatkozó feltételeket. Ezek a jogi aktusok biztosítják a fenntartható és felelősségteljes adatkezelés alapját, ideértve azt is, ha az adatkészletekben személyes és nem személyes adatok egyaránt szerepelnek. E rendeletnek nem célja, hogy befolyásolja a személyes adatok kezelésére vonatkozó meglévő uniós jog alkalmazását, ezen belül az említett eszközöknek való megfelelés ellenőrzéséért felelős független felügyeleti hatóságok feladatait és hatáskörét. Ez a rendelet nem érinti a magánélet és a személyes adatok védelmére vonatkozó uniós jog által előírt és az Európai Unió Alapjogi Chartájában (a továbbiakban: Charta) rögzített, a magánélet tiszteletben tartásához és az adatvédelemhez való alapvető jogokat.

(2c)

Az Unióban működő mesterségesintelligencia-rendszerekre a vonatkozó termékbiztonsági jogszabályok vonatkoznak, amelyek általános keretet biztosítanak a fogyasztók veszélyes termékekkel szembeni védelmére, és ezeket a jogszabályokat továbbra is alkalmazni kell. E rendelet nem érinti a fogyasztóvédelemmel és termékbiztonsággal kapcsolatos egyéb uniós jogi aktusokban, köztük az (EU) 2017/2394 rendeletben, az (EU) 2019/1020 rendeletben, az általános termékbiztonságról szóló 2001/95/EK irányelvben és a 2013/11/EU irányelvben megállapított szabályokat sem.

(2d)

Az EUMSZ 114. cikkének (2) bekezdésével összhangban ez a rendelet kiegészíti és nem sértheti a munkavállalók jogait és érdekeit. Ez a rendelet ezért nem érinti a szociálpolitikára vonatkozó közösségi jogot és a nemzeti munkajogot és munkaügyi gyakorlatokat, azaz a foglalkoztatási feltételeket, a munkafeltételeket – többek között a munkahelyi egészségvédelmet és biztonságot – valamint a munkáltatók és munkavállalók közötti kapcsolatot – többek között a tájékoztatást, az egyeztetést és a részvételt – érintő jogi és szerződéses rendelkezéseket. Ez a rendelet nem befolyásolhatja a tagállamokban és uniós szinten elismert alapvető jogoknak – beleértve a sztrájkjognak vagy a sztrájk szabadságának vagy a tagállamokban fennálló konkrét munkaügyi kapcsolatrendszerek keretébe tartozó egyéb fellépések megtétele jogának vagy szabadságának – a nemzeti jog és/vagy gyakorlat szerinti gyakorlását. Nem érintheti továbbá az együttműködési gyakorlatot, a nemzeti joggal és/vagy gyakorlattal összhangban lévő, kollektív szerződéssel kapcsolatos tárgyalásokhoz, azok megkötéséhez és érvényesítéséhez való jogot, vagy a kollektív fellépéshez való jogot. Ez semmiképpen sem akadályozhatja meg a Bizottságot abban, hogy külön jogszabályokat javasoljon az MI-rendszerek által érintett munkavállalók jogaira és szabadságaira vonatkozóan.

(2e)

Ez a rendelet nem érintheti a platformalapú munkavégzés munkakörülményeinek javítását célzó, a 2021/414/EK irányelvben meghatározott rendelkezéseket.

(2f)

E rendeletnek elő kell segítenie a kutatás és az innováció támogatását, nem szabad aláásnia a kutatási és fejlesztési tevékenységet, és tiszteletben kell tartania a tudományos kutatás szabadságát. Ezért ki kell zárni a hatálya alól a kifejezetten tudományos kutatás és fejlesztés céljából kifejlesztett MI-rendszereket, és biztosítani kell, hogy a rendelet más módon ne érintse az MI-rendszerekkel kapcsolatos tudományos kutatási és fejlesztési tevékenységeket. A kutatási és fejlesztési tevékenységeket minden körülmények között a Chartával, az uniós joggal és a nemzeti joggal összhangban kell végezni;

(3)

A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági és társadalmi előnyök széles skálájához járulhat hozzá. Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával a mesterséges intelligencia használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az oktatás és képzés, az infrastruktúra-irányítás, az energia, a közlekedés és a logisztika, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság, valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén.

(3)

A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amely az ágazatok és a társadalmi tevékenységek teljes spektrumában gazdasági és társadalmi előnyök széles skálájához járul hozzá , ha a Chartával és az Unió alapját képező értékekkel összhangban lévő, vonatkozó általános elveknek megfelelően fejlesztik . Az előrejelzések javításával, a műveleteknek és az erőforrások elosztásának optimalizálásával, valamint az egyének és a szervezetek rendelkezésére álló digitális megoldások személyre szabásával a mesterséges intelligencia használata kulcsfontosságú versenyelőnyt biztosíthat a vállalkozások számára, és társadalmi és környezeti szempontból kedvező eredményeket hozhat, például az egészségügy, a mezőgazdaság, az élelmiszerbiztonség, az oktatás és képzés, a média, a sport, a kultúra, az infrastruktúra-irányítás, az energia, a közlekedés és a logisztika, a  válságkezelés, a közszolgáltatások, a biztonság, az igazságszolgáltatás, az erőforrás- és energiahatékonyság , a környezet figyelése, a biológiai sokféleség és ökoszisztémák fenntartása és helyreállítása , valamint az éghajlatváltozás mérséklése és az ahhoz való alkalmazkodás terén.

(3a)

A karbonsemlegességi célok eléréséhez való hozzájárulás érdekében az európai vállalatoknak törekedniük kell arra, hogy kihasználjanak minden olyan rendelkezésre álló technológiai fejlesztést, amely segítheti e cél megvalósítását. A mesterséges intelligencia olyan technológia, amely képes az ipari, környezeti, egészségügyi és egyéb folyamatok során létrehozott egyre növekvő mennyiségű adat feldolgozására. Az MI-alapú elemzési és optimalizálási eszközökbe történő beruházások megkönnyítése érdekében e rendeletnek kiszámítható és arányos környezetet kell biztosítania az alacsony kockázatú ipari megoldások számára.

(4)

Ugyanakkor a mesterséges intelligencia – a konkrét alkalmazás és használat körülményeitől függően – kockázatokkal is járhat, és sértheti a  közérdeket és az uniós jog által védett jogokat . Az ilyen kár lehet vagyoni vagy nem vagyoni kár.

(4)

Ugyanakkor a mesterséges intelligencia – a konkrét alkalmazás és használat körülményeitől , valamint a technológiai fejlettség szintjétől függően – kockázatokkal is járhat, és sértheti a  köz- és magánérdeket és a természetes személyeknek az uniós jog által védett alapvető jogait . Az ilyen kár lehet vagyoni vagy nem vagyoni kár , ideértve a fizikai, pszichés, társadalmi vagy gazdasági károkat is .

(4a)

Tekintettel arra a jelentős hatásra, amelyet a mesterséges intelligencia a társadalomra gyakorolhat és a bizalomépítés szükségességére, létfontosságú, hogy a mesterséges intelligencia fejlesztése és szabályozási keretének kidolgozása az EUSZ 2. cikkében foglalt uniós értékekkel és a Szerződésekben, a Chartában és az emberi jogok nemzetközi jogában rögzített alapvető jogokkal és szabadságokkal összhangban történjen. Ennek előfeltétele, hogy a mesterséges intelligenciának emberközpontú technológiának kell lennie. Nem helyettesítheti az emberi autonómiát, illetve nem feltételezheti az egyéni szabadság elvesztését, és elsősorban a társadalom igényeit kell kielégítenie és a közjót kell szolgálnia. Biztosítékokat kell nyújtani az etikusan beágyazott és az uniós értékeket és a Chartát tiszteletben tartó mesterséges intelligencia fejlesztésének és használatának biztosítására.

(5)

Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja a uniós jog által elismert és oltalmazott közérdek – például az egészség és a  biztonság – , valamint az alapvető jogok magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára és üzembe helyezésére vonatkozóan, ezáltal biztosítva a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. E szabályok megállapításával e rendelet támogatja azt a célkitűzést, hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, amint azt az Európai Tanács megállapította (33), és biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte (34).

(5)

Ezért a mesterséges intelligencia belső piacon történő fejlesztésének, használatának és elterjedésének elősegítése érdekében szükség van a mesterséges intelligenciára vonatkozó harmonizált szabályokat meghatározó uniós jogi keretre, amely ugyanakkor garantálja a uniós jog által elismert és oltalmazott közérdek – például az alapvető jogok, ademokrácia és a  jogállamiság , valamint a környezet, az egészség és a biztonság – magas szintű védelmét. E célkitűzés elérése érdekében szabályokat kell megállapítani bizonyos MI-rendszerek forgalomba hozatalára, üzembe helyezésére és használatára vonatkozóan, ezáltal biztosítva a belső piac zavartalan működését, és lehetővé téve, hogy e rendszerek élvezhessék az áruk és szolgáltatások szabad mozgásának elvéből származó előnyöket. Ezeknek a szabályoknak egyértelműnek és szilárdnak kell lenniük az alapvető jogok védelme, az új innovatív megoldások támogatása, valamint az uniós értékekkel összhangban mesterségesintelligencia-rendszereket létrehozó köz- és magánszférabeli szereplők európai ökoszisztémájának lehetővé tétele tekintetében. E szabályok megállapításával , valamint az innovációt támogató intézkedések meghatározásával – különös tekintettel a kkv-kra és az induló vállalkozásokra – e rendelet támogatja azt a célkitűzést , hogy népszerűsítse az Európában kifejlesztett MI-t , hogy az Unió globális vezető szerepet töltsön be a biztonságos, megbízható és etikus mesterséges intelligencia fejlesztésében, amint azt az Európai Tanács megállapította33  (33), és biztosítja az etikai elvek védelmét, amint azt az Európai Parlament kifejezetten kérte (34).

(5a)

Emellett az MI-rendszerek uniós értékekkel összhangban történő fejlesztésének előmozdítása érdekében az Uniónak foglalkoznia kell a digitális átalakulásban rejlő lehetőségeket blokkoló fő hiányosságokkal és akadályokkal, köztük a digitálisan képzett munkaerő hiányával, a kiberbiztonsággal kapcsolatos aggályokkal, a beruházások és a beruházásokhoz való hozzáférés hiányával, valamint a nagyvállalatok, a kkv-k induló innovatív vállalkozások közötti meglévő és potenciális különbségekkel. Különös figyelmet kell fordítani annak biztosítására, hogy a mesterséges intelligencia és az új technológiákban elért innovációk előnyei az Unió valamennyi régiójában érezhetőek legyenek, és hogy elegendő beruházás és forrás álljon rendelkezésre, különösen azon régiók számára, amelyek néhány digitális mutató tekintetében adott esetben lemaradásban vannak.

(6)

A jogbiztonság biztosítása végett egyértelműen meg kell határozni az MI-rendszer fogalmát , ugyanakkor rugalmasságot kell biztosítani a jövőbeli technológiai fejlődéshez való alkalmazkodás érdekében . A fogalommeghatározásnak a  szoftver alapvető működési jellemzőin kell alapulnia , különösen azon a képességen , hogy ember által meghatározott célkitűzések egy adott sorozata tekintetében olyan kimeneteket tud generálni , mint például tartalom , előrejelzések , ajánlások vagy döntések, amelyek befolyásolják azt a környezetet, amellyel a  rendszer kölcsönhatásban van, legyen szó akár fizikai, akár digitális dimenzióról . Az MI-rendszereket meg lehet úgy tervezni , hogy különböző szintű autonómiával működjenek, és önállóan vagy egy termék alkatrészeként is használhatók legyenek, függetlenül attól, hogy a rendszert fizikailag integrálták-e a termékbe (beágyazott), vagy hogy anélkül szolgálja-e a  termék funkcionalitását , hogy abba beépítenék (nem beágyazott). Az MI-rendszer fogalommeghatározását ki kell egészíteni a fejlesztéséhez használt konkrét technikák és megközelítések listájával , amelyet a piaci és technológiai fejlődés fényében naprakészen kell tartani azáltal , hogy a  Bizottság felhatalmazáson alapuló jogi aktusokat fogad el a lista módosítása céljából .

(6)

Az MI-rendszer e rendeletben szereplő fogalmát egyértelműen meg kell határozni és szorosan össze kell hangolni a mesterséges intelligenciával foglalkozó nemzetközi szervezetek munkájával a jogbiztonság, a harmonizáció és a széles körű elfogadás biztosítása érdekében , ugyanakkor rugalmasságot kell biztosítani az e területen végbemenő gyors technológiai fejleményekhez való alkalmazkodáshoz . Ezen túlmenően a  mesterséges intelligencia kulcsfontosságú jellemzőin , például annak tanulási , érvelési vagy modellezési képességén kell alapulnia , megkülönböztetve azt az egyszerűbb szoftverrendszerektől vagy programozási megközelítésektől. Az MI-rendszereket úgy alakították ki , hogy eltérő szintű autonómiával működjenek , ami azt jelenti , hogy legalább bizonyos mértékben függetlenek az emberi ellenőrzéstől és az emberi beavatkozás nélküli működéshez szükséges képességektől. A „gépalapú” kifejezés arra a tényre utal, hogy az MI-rendszerek gépeken működnek. Az explicit vagy implicit célkitűzésekre való hivatkozás hangsúlyozza, hogy az MI-rendszerek kifejezetten ember által meghatározott célkitűzések vagy implicit célkitűzések szerint működhetnek. Az MI-rendszer célkitűzései eltérhetnek az MI-rendszer rendeltetésétől egy adott kontextusban. Az előrejelzésekre való hivatkozás magában foglalja a  tartalmat is , amelyet e rendelet az előrejelzés egy formájának tekint az MI-rendszer által előállított lehetséges kimenetek (outputok) egyikeként. E rendelet alkalmazásában a környezetek azok a környezetek , amelyekben az MI-rendszerek működnek, míg az MI-rendszer által generált kimenetek – azaz előrejelzések , ajánlások vagy határozatok – az említett környezetből származó bevitelek (inputok) alapján reagálnak a  rendszer célkitűzéseire. Az ilyen kimenet még inkább befolyásolja az említett környezetet, még akkor is, ha csupán új információkat juttat el hozzá.

(6a)

Az MI-rendszerek gyakran rendelkeznek gépi tanulási kapacitással, amely lehetővé teszi számukra, hogy önállóan alkalmazkodjanak és új feladatokat hajtsanak végre. A gépi tanulás a modell paramétereinek az adatokból történő optimalizálásának számítási folyamatára utal, amely egy bemeneti adatokon alapuló kimenetet generáló matematikai konstrukció. A gépi tanulási megközelítések közé tartozik például a felügyelt, felügyelet nélküli és megerősítő tanulás, amely számos módszert alkalmaz, beleértve a neurális hálózatokkal való mély tanulást. E rendelet célja azon új potenciális kockázatok kezelése, amelyek az irányítás MI-rendszerekre történő átruházásából eredhetnek, különös tekintettel azokra az MI-rendszerekre, amelyek a telepítést követően fejlődhetnek. Számos MI-rendszer funkciója és outputjai absztrakt matematikai kapcsolatokon alapulnak, amelyeket az emberek nehezen tudnak megérteni, nyomon követni és konkrét inputokra visszavezetni. Ezek az összetett és átláthatatlan jellemzők (fekete doboz elem) hatással vannak az elszámoltathatóságra és a megmagyarázhatóságra. Az összehasonlíthatóan egyszerűbb technikák, például a tudásalapú megközelítések, a Bayes-becslések vagy a döntési fák olyan joghézagokhoz is vezethetnek, amelyeket e rendeletnek orvosolnia kell, különösen akkor, ha azokat hibrid rendszerekben alkalmazott gépi tanulási megközelítésekkel kombinálva alkalmazzák.

(6b)

A mesterségesintelligencia-rendszerek önálló szoftverrendszerként használhatók, fizikai termékbe integrálva (beágyazva), egy fizikai termék funkcionalitásának kiszolgálására, anélkül, hogy beépítenék őket (nem beágyazva), vagy egy nagyobb rendszer mesterségesintelligencia-komponenseként használhatók. Ha ez a nagyobb rendszer nem működne a szóban forgó MI-komponens nélkül, akkor a teljes nagyobb rendszert e rendelet értelmében egyetlen MI-rendszernek kell tekinteni.

(7)

A biometrikus adatok e rendeletben használt fogalma összhangban van a biometrikus adatoknak az (EU) 2016/679 európai parlamenti és tanácsi rendelet (35) 4. cikkének 14. pontjában , az (EU) 2018/1725 európai parlamenti és tanácsi rendelet  (36) 3. cikkének 18. pontjában és az (EU) 2016/680 európai parlamenti és tanácsi irányelv  (37) 3. cikkének 13. pontjában meghatározott fogalmával , és azzal összhangban kell értelmezni.

(7)

A biometrikus adatok e rendeletben használt fogalma ugyanaz mint az (EU) 2016/679 európai parlamenti és tanácsi rendelet 4. cikkének 14. pontjában (35) meghatározott fogalom. „biometriai alapú adatok”: a természetes személy fizikai, fiziológiai vagy viselkedési jeleire – például arckifejezésre, mozgásra, pulzusfrekvenciára, hangra, billentyűleütésre vagy járásra – vonatkozó sajátos technikai adatkezeléssel nyert további adatok , amelyek lehetővé tehetik vagy megerősíthetik a természetes személy egyedi azonosítását;

(7a)

A biometrikus azonosítás fogalmát e rendelet céljaira a következőképpen kell meghatározni: MI-rendszerek alkalmazása a fizikai, fiziológiai, viselkedési és pszichológiai emberi jellemzők, például az arc, a szemmozgás, az arckifejezés, a testalkat, a hang, a beszéd, a járás, a testtartás, a szívverés, a vérnyomás, a testszag, a billentyűleütések, a pszichológiai reakciók (düh, szorongás, gyász stb.) automatikus felismerésére egy személy személyazonosságának megállapítása céljából az adott személy biometrikus adatainak az adatbázisban tárolt egyének biometrikus adataival való összehasonlítása révén (egy adott egyén összehasonlítása több másikkal, egy a többhöz megfeleltetés) függetlenül attól, hogy az illető egyén hozzájárulását adta-e ehhez vagy sem.

(7b)

A biometrikus kategorizálás fogalmát e rendelet céljaira a következőképpen kell meghatározni: olyan MI-rendszer, amely a természetes személyeket biometrikus vagy biometrikus alapú adataik alapján vagy ezekből az adatokból kikövetkeztethetően meghatározott kategóriákba (például biológiai és társadalmi nem, kor, hajszín, szemszín, tetoválás, etnikai vagy társadalmi származás, szexuális vagy politikai irányultság, egészségi állapot, szellemi vagy fizikai képességek, viselkedési vagy személyiségjegyek, nyelv, vallás vagy nemzeti kisebbséghez való tartozás) sorolja.

(8)

A távoli biometrikus azonosító rendszer e rendeletben használt fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek távolról történő azonosítása a személy biometrikus adatainak egy referencia-adatbázisban szereplő biometrikus adatokkal való összevetése révén, anélkül, hogy előzetesen tudomása lenne arról, hogy a célszemély jelen lesz-e és azonosítható-e, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy a biometrikus adatok típusától. Figyelembe véve eltérő jellemzőiket és használati módjaikat, valamint a különböző kockázatokat, különbséget kell tenni a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszerek között. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, összehasonlítása és azonosítása azonnal, majdnem azonnal vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem engedhető meg, hogy a szóban forgó MI-rendszerek „valós idejű” használatára vonatkozó kisebb késleltetésekre legyen lehetőség, és ezáltal az e rendeletben foglalt szabályokat bárki megkerülje. A „valós idejű” rendszerek olyan „élő” vagy megközelítőleg „élő” anyagot, például videofelvételt használnak, amelyet kamera vagy hasonló funkciójú más eszköz generál. A „nem valós idejű” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által előállított képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek.

(8)

A távoli biometrikus azonosító rendszer e rendeletben használt fogalmát funkcionális értelemben kell meghatározni, olyan MI-rendszerként, amelynek célja természetes személyek távolról történő azonosítása a személy biometrikus adatainak egy referencia-adatbázisban szereplő biometrikus adatokkal való összevetése révén, anélkül, hogy előzetesen tudomása lenne arról, hogy a célszemély jelen lesz-e és azonosítható-e, függetlenül az alkalmazott konkrét technológiától, folyamatoktól vagy a biometrikus adatok típusától , kizárva az olyan ellenőrzési rendszereket, amelyek csupán az egyén biometrikus adatait hasonlítják össze a korábban megadott biometrikus adataikkal (egy az egyhez megfeleltetés) . Figyelembe véve eltérő jellemzőiket és használati módjaikat, valamint a különböző kockázatokat, különbséget kell tenni a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszerek között. A „valós idejű” rendszerek esetében a biometrikus adatok rögzítése, összehasonlítása és azonosítása azonnal, majdnem azonnal vagy mindenesetre jelentős késleltetés nélkül történik. E tekintetben nem engedhető meg, hogy a szóban forgó MI-rendszerek „valós idejű” használatára vonatkozó kisebb késleltetésekre legyen lehetőség, és ezáltal az e rendeletben foglalt szabályokat bárki megkerülje. A „valós idejű” rendszerek olyan „élő” vagy megközelítőleg „élő” anyagot, például videofelvételt használnak, amelyet kamera vagy hasonló funkciójú más eszköz generál. A „nem valós idejű” rendszerek esetében ezzel szemben a biometrikus adatokat már rögzítették, és az összevetésre és az azonosításra csak jelentős késleltetéssel kerül sor. Olyan anyagokról van szó, mint például a zártláncú televíziós kamerák vagy magánkészülékek által előállított képek vagy videofelvételek, amelyek a rendszer érintett természetes személyek tekintetében történő használata előtt keletkeztek. Tekintettel arra, hogy a biometrikus azonosítás fogalma független az egyén hozzájárulásától, ez a meghatározás akkor is alkalmazandó, ha a figyelmeztető jelzéseket a távoli biometrikus azonosító rendszer felügyelete alatt álló helyen helyezik el, és azt előzetesen nem semmisítik meg ténylegesen.

(8a)

A természetes személyek távolról történő azonosítása azt jelenti, hogy a távoli biometrikus azonosító rendszerek megkülönböztethetők a közelben biometrikus azonosító eszközöket használó egyedi ellenőrzési rendszerektől, amelyek kizárólagos célja annak megerősítése, hogy az azonosításra jelentkező konkrét természetes személy számára engedélyezett-e például az adott szolgáltatáshoz, eszközhöz vagy helyiséghez való hozzáférés.

(9)

E rendelet alkalmazásában a nyilvánosság számára hozzáférhető hely fogalma alatt bármely, a nyilvánosság számára hozzáférhető fizikai területet kell érteni, függetlenül attól, hogy a szóban forgó hely magán- vagy állami tulajdonban van-e. Ezért a fogalom nem terjed ki a magánjellegű helyekre, amelyek általában szabadon nem hozzáférhetők harmadik felek, köztük a bűnüldöző hatóságok számára, kivéve, ha ezeket a feleket kifejezetten meghívták vagy felhatalmazták; ilyenek például az otthonok, a magánklubok, az irodák, a raktárak és a gyárak. Az online terek sem tartoznak ide, mivel nem fizikai területek. Ugyanakkor önmagában az a tény, hogy egy adott helyhez való hozzáférés bizonyos feltételekhez – például belépőjegyekhez vagy életkori korlátozásokhoz – köthető, nem jelenti azt, hogy a hely e rendelet értelmében a nyilvánosság számára nem hozzáférhető. Következésképpen az olyan nyilvános helyeken kívül, mint az utcák, a kormányzati épületek releváns részei és a közlekedési infrastruktúra többsége, az olyan helyek, mint a mozik, a színházak, az üzletek és a bevásárlóközpontok általában szintén a nyilvánosság számára hozzáférhetők. Azt azonban, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait.

(9)

E rendelet alkalmazásában a nyilvánosság számára hozzáférhető hely fogalma alatt bármely, a nyilvánosság számára hozzáférhető fizikai területet kell érteni, függetlenül attól, hogy a szóban forgó hely magán- vagy állami tulajdonban van-e és függetlenül a potenciális kapacitáskorlátozásoktól . Ezért a fogalom nem terjed ki a magánjellegű helyekre, amelyek általában szabadon nem hozzáférhetők harmadik felek, köztük a bűnüldöző hatóságok számára, kivéve, ha ezeket a feleket kifejezetten meghívták vagy felhatalmazták; ilyenek például az otthonok, a magánklubok, az irodák, a raktárak és a gyárak. Az online terek sem tartoznak ide, mivel nem fizikai területek. Ugyanakkor önmagában az a tény, hogy egy adott helyhez való hozzáférés bizonyos feltételekhez – például belépőjegyekhez vagy életkori korlátozásokhoz – köthető, nem jelenti azt, hogy a hely e rendelet értelmében a nyilvánosság számára nem hozzáférhető. Következésképpen az olyan nyilvános helyeken kívül, mint az utcák, a kormányzati épületek releváns részei és a közlekedési infrastruktúra többsége, az olyan helyek, mint a mozik, a színházak, a sportpályák, az iskolák és egyetemek, a kórházak és bankok releváns részei, a vidámparkok, a fesztiválok, az üzletek és a bevásárlóközpontok általában szintén a nyilvánosság számára hozzáférhetők. Azt azonban, hogy egy adott hely hozzáférhető-e a nyilvánosság számára, eseti alapon kell meghatározni, figyelembe véve a szóban forgó egyedi helyzet sajátosságait.

(9a)

Fontos megjegyezni, hogy az MI-rendszereknek minden tőlük telhetőt meg kell tenniük egy olyan magas szintű keretet létrehozó általános elvek tiszteletben tartása érdekében, amely keret az Európai Unió Alapjogi Chartájával és az Unió alapját képező értékekkel összhangban előmozdítja az etikus és megbízható MI koherens emberközpontú megközelítését, ideértve az alapvető jogok védelmét, az emberi ügynökséget és felügyeletet, a műszaki stabilitást és biztonságot, a magánélet és az adatok kezelését, az átláthatóságot, a megkülönböztetésmentességet és a méltányosságot, valamint a társadalmi és környezeti jólétet.

(9b)

A mesterséges intelligencia terén szerzett jártasság olyan készségeket, ismereteket és értelmezési képességeket jelent, amelyek lehetővé teszik a szolgáltatók, a felhasználók és az érintett személyek számára, hogy – figyelembe véve az e rendelettel összefüggésben rájuk vonatkozó jogokat és kötelezettségeket – a megfelelő információk birtokában tudják telepíteni az MI-rendszereket, valamint tudatában legyenek az MI által kínált lehetőségeknek és az általa jelentett kockázatoknak, valamint az általa okozott lehetséges károknak, és amelyek ezáltal előmozdítják annak demokratikus ellenőrzését. A mesterséges intelligencia terén szerzett jártasság nem korlátozódhat az eszközökkel és technológiákkal kapcsolatos ismeretek elsajátítására, hanem arra is törekedni kell, hogy a szolgáltatók és a felhasználók megismerjék az e rendeletnek való megfelelés és a végrehajtás biztosításához szükséges fogalmakat és készségeket. Ennek megfelelően a Bizottságnak, a tagállamoknak, valamint az MI-rendszerek szolgáltatóinak és felhasználóinak valamennyi érintett érdekelt féllel együttműködve elő kell mozdítaniuk a társadalom valamennyi ágazatában, minden korosztályban – a nők és a lányok körében is – a mesterséges intelligencia terén szerzett megfelelő szintű jártasságot és szorosan nyomon kell követniük az e tekintetben elért eredményeket.

(10)

Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett felhasználóira .

(10)

Az egyenlő versenyfeltételek biztosítása, valamint az egyének jogainak és szabadságainak Unió-szerte és nemzetközi szinten történő hatékony védelme érdekében az e rendeletben megállapított szabályokat megkülönböztetésmentes módon kell alkalmazni az MI-rendszerek szolgáltatóira, függetlenül attól, hogy az Unióban vagy harmadik országban letelepedett szolgáltatók-e, valamint az MI-rendszerek Unióban letelepedett alkalmazóira. Annak érdekében, hogy az Unió igaz legyen alapvető értékeire, az e rendelet által elfogadhatatlannak tekintett gyakorlatokhoz használt MI-rendszereket az Unión kívül is elfogadhatatlannak kell tekinteni a Chartában foglalt alapvető jogokra gyakorolt különösen káros hatásuk miatt. Ezért helyénvaló megtiltani, hogy az Unióban lakóhellyel rendelkező szolgáltatók harmadik országokba exportáljanak ilyen MI-rendszereket.

(11)

Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe és nem használják az Unióban. Ez a helyzet például egy olyan, az Unióban letelepedett üzemeltető esetében, amely bizonyos szolgáltatásokra egy Unión kívül letelepedett üzemeltetővel köt szerződést egy MI-rendszer által végzendő olyan tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne, és amelynek hatása az Unióban tartózkodó természetes személyeket is érintené. Ilyen körülmények között az Unión kívüli üzemeltető által használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és a szóban forgó MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött üzemeltető rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és felhasználóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unióban használják . Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok az Unióval vagy annak tagállamaival folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – nemzeti vagy európai szinten kötött – nemzetközi megállapodások keretében járnak el. E megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között.

(11)

Digitális jellegükre tekintettel egyes MI-rendszereknek akkor is e rendelet hatálya alá kell tartozniuk, ha azokat nem hozzák forgalomba, nem helyezik üzembe és nem használják az Unióban. Ez a helyzet például egy olyan, az Unióban letelepedett üzemeltető esetében, amely bizonyos szolgáltatásokra egy Unión kívül letelepedett üzemeltetővel köt szerződést egy MI-rendszer által végzendő olyan tevékenységgel kapcsolatban, amely nagy kockázatúnak minősülne, és amelynek hatása az Unióban tartózkodó természetes személyeket is érintené. Ilyen körülmények között az Unión kívüli üzemeltető által használt MI-rendszer az Unióban jogszerűen gyűjtött és az Unióból továbbított adatokat kezelhet, és a szóban forgó MI-rendszer által az említett adatkezelés nyomán előállított adatokat az Unióban működő, vele szerződést kötött üzemeltető rendelkezésére bocsáthatja, anélkül, hogy az említett MI-rendszert forgalomba hoznák, üzembe helyeznék vagy használnák az Unióban. E rendelet kijátszásának megelőzése és az Unióban tartózkodó természetes személyek hatékony védelmének biztosítása érdekében ezt a rendeletet MI-rendszerek harmadik országban letelepedett szolgáltatóira és felhasználóira is alkalmazni kell, amennyiben az e rendszerek által előállított kimeneteket az Unióban szándékoznak használni . Mindazonáltal a meglévő megállapodások és az azon külföldi partnerekkel való együttműködés iránti különleges igény figyelembevétele érdekében, amelyekkel információ- és bizonyítékcserére kerül sor, e rendelet nem alkalmazandó a harmadik országok hatóságaira és nemzetközi szervezetekre, amennyiben azok az Unióval vagy annak tagállamaival folytatott bűnüldözési és igazságügyi együttműködésre vonatkozó – nemzeti vagy európai szinten kötött – nemzetközi megállapodások keretében járnak el. E megállapodások kétoldalúan jöttek létre a tagállamok és harmadik országok között, vagy az Európai Unió, az Europol és más uniós ügynökségek, valamint harmadik országok és nemzetközi szervezetek között. Ezt a kivételt azonban azokra a megbízható országokra és nemzetközi szervezetekre kell korlátozni, amelyek osztják az Unió értékeit.

(12)

Ezt a rendeletet az uniós intézményekre, hivatalokra, szervekre és ügynökségekre is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy felhasználójaként járnak el. A kizárólag katonai célokra fejlesztett vagy használt MI-rendszereket ki kell zárni e rendelet hatálya alól, amennyiben e használat az Európai Unióról szóló szerződés (EUSZ) V. címében szabályozott közös kül- és biztonságpolitika kizárólagos hatáskörébe tartozik. Ez a rendelet nem érinti a [digitális szolgáltatásokról szóló jogszabály által módosított] 2000/31/EK európai parlamenti és tanácsi irányelvben foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezéseket.

(12)

Ezt a rendeletet az uniós intézményekre, hivatalokra, szervekre és ügynökségekre is alkalmazni kell, amennyiben azok MI-rendszer szolgáltatójaként vagy alkalmazójaként járnak el. A kizárólag katonai célokra fejlesztett vagy használt MI-rendszereket ki kell zárni e rendelet hatálya alól, amennyiben e használat az Európai Unióról szóló szerződés (EUSZ) V. címében szabályozott közös kül- és biztonságpolitika kizárólagos hatáskörébe tartozik. Ez a rendelet nem érinti a [digitális szolgáltatásokról szóló jogszabály által módosított] 2000/31/EK európai parlamenti és tanácsi irányelvben foglalt, a közvetítő szolgáltatók felelősségére vonatkozó rendelkezéseket.

(12a)

Ha szoftvereket és adatokat nyíltan megosztanak, és ha a felhasználók szabadon hozzáférhetnek ezekhez, használhatják, módosíthatják és terjeszthetik, akár ezek módosított változatait is, az hozzájárulhat a kutatásokhoz és az innovációhoz a piacon. A Bizottság által végzett kutatások azt is mutatják, hogy a szabad és nyílt forráskódú szoftverek 65–95 milliárd euróval járulhatnak hozzá az Európai Unió GDP-jéhez, és jelentős növekedési lehetőségeket biztosíthatnak az európai gazdaság számára. A felhasználók szabad és nyílt forráskódú licencekkel futtathatják, másolhatják, terjeszthetik, tanulmányozhatják, módosíthatják és javíthatják a szoftvereket és adatokat, beleértve a modelleket is. A mesterséges intelligencia fejlesztésének és bevezetésének előmozdítása érdekében – különösen a kkv-k, az induló vállalkozások, a tudományos kutatás, de a magánszemélyek által is – e rendelet nem alkalmazandó az ilyen ingyenes és nyílt forráskódú mesterséges intelligencia-összetevőkre, kivéve, ha azokat a szolgáltató egy magas kockázatú mesterséges intelligencia-rendszer vagy az e rendelet II. vagy IV. címének hatálya alá tartozó mesterséges intelligencia-rendszer részeként hozza forgalomba vagy helyezi üzembe.

(12b)

Sem a szabad és nyílt forráskódú MI-összetevők együttműködésen alapuló fejlesztése, sem azok szabadon hozzáférhető adattárakon való elérhetővé tétele nem minősülhet forgalomba hozatalnak vagy üzembe helyezésnek. A piaci hozzáférhetővé tétel fogalmán belül kereskedelmi tevékenységnek minősülhet azonban – a mikrovállalkozások közötti ügyletek kivételével – az ingyenes és nyílt forráskódú mesterséges intelligencia-összetevőért felszámított ár, de az is, ha a technikai támogatási szolgáltatásokért árat számítanak fel, ha olyan szoftverplatformot biztosítanak, amelyen keresztül a szolgáltató más szolgáltatásokat értékesít, vagy ha a személyes adatokat nem kizárólag a szoftver biztonságának, kompatibilitásának vagy interoperabilitásának javítására használják fel.

(12c)

A szabad és nyílt forráskódú mesterségesintelligencia-komponensek fejlesztői e rendelet alapján nem kötelezhetők arra, hogy megfeleljenek a mesterséges intelligencia értékláncának, és különösen az arra a szolgáltatóra vonatkozó követelményeknek, amely ezt a szabad és nyílt forráskódú MI-komponenst használta. A szabad és nyílt forráskódú mesterségesintelligencia-komponensek fejlesztőit azonban ösztönözni kell a széles körben elfogadott dokumentációs gyakorlatok, például a modellek és az adatkártyák alkalmazására, ami felgyorsíthatja az információmegosztást a mesterséges intelligencia értékláncában, lehetővé téve a megbízható MI-rendszerek előmozdítását az Unióban.

(13)

A közérdek következetes és magas szintű védelmének az egészség , a  biztonság és az alapvető jogok tekintetében történő biztosítása érdekében egységes normatív előírásokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Ezeknek az előírásoknak összhangban kell lenniük az Európai Unió Alapjogi Chartájával ( a továbbiakban: a Charta) , megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kereskedelmi kötelezettségvállalásainak.

(13)

Az egészséghez, a  biztonsághoz és az alapvető jogokhoz fűződő közérdek , valamint a  demokrácia, a jogállamiság és a környezet következetes és magas szintű védelmének biztosítása érdekében egységes normatív előírásokat kell megállapítani valamennyi nagy kockázatú MI-rendszerre vonatkozóan. Ezeknek a szabványoknak összhangban kell lenniük a Chartával, az európai zöld megállapodással, az Unió digitális jogairól szóló együttes nyilatkozattal és a  mesterséges intelligenciával foglalkozó magas szintű szakértői csoport megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásaival , továbbá megkülönböztetéstől mentesnek kell lenniük, és meg kell felelniük az Unió nemzetközi kötelezettségvállalásainak.

(14)

Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos mesterségesintelligencia-gyakorlatokat, követelményeket kell megállapítani a nagy kockázatú MI-rendszerekre vonatkozóan és kötelezettségeket az érintett üzemeltetők számára, valamint átláthatósági kötelezettségeket bizonyos MI-rendszereket érintően.

(14)

Az MI-rendszerekre vonatkozó, kötelező erejű szabályok arányos és hatékony rendszerének bevezetése érdekében egyértelműen meghatározott, kockázatalapú megközelítést kell alkalmazni. E megközelítés keretében az ilyen szabályok típusát és tartalmát hozzá kell igazítani az MI-rendszerek által keltett kockázatok intenzitásához és nagyságrendjéhez. Ezért meg kell tiltani bizonyos elfogadhatatlan mesterségesintelligencia-gyakorlatokat, követelményeket kell megállapítani a nagy kockázatú MI-rendszerekre vonatkozóan és kötelezettségeket az érintett üzemeltetők számára, valamint átláthatósági kötelezettségeket bizonyos MI-rendszereket érintően.

(15)

A mesterséges intelligenciának számos hasznos felhasználási módja van, azonban ezzel a technológiával vissza is lehet élni, emellett új és hatékony eszközöket biztosíthat a manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak, és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, valamint az uniós alapvető jogokkal, ideértve a megkülönböztetésmentességhez való jogot, az adatvédelmet és a magánélet tiszteletben tartásához való jogot, valamint a gyermekek jogait.

(15)

A mesterséges intelligenciának számos hasznos felhasználási módja van, azonban ezzel a technológiával vissza is lehet élni, emellett új és hatékony eszközöket biztosíthat a manipulatív, kizsákmányoló és társadalmi ellenőrzési gyakorlatokhoz. Az ilyen gyakorlatok különösen károsak és visszaélésszerűek , és meg kell tiltani őket, mivel ellentétesek az emberi méltóság tiszteletben tartása, a szabadság, az egyenlőség, a demokrácia és a jogállamiság uniós értékeivel, valamint az uniós alapvető jogokkal, ideértve a megkülönböztetésmentességhez való jogot, az adatvédelmet és a magánélet tiszteletben tartásához való jogot, valamint a gyermekek jogait.

(16)

Meg kell tiltani azon MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát, amelyek célja az emberi magatartás oly módon való befolyásolása, hogy az nagy valószínűséggel testi vagy lelki kárt okoz. Az ilyen MI-rendszerek az egyének számára tudatosan nem érzékelhető módszereket alkalmaznak, vagy kihasználják a gyermekek, valamint életkoruk, illetve csökkent testi vagy mentális képességeik miatt bizonyos felnőttek sebezhetőségét. Ezt azzal a  szándékkal teszik, hogy jelentősen torzítsák egy személy magatartását, oly módon, amely kárt okoz vagy okozhat az adott személynek vagy más személynek. A  szándék nem vélelmezhető, ha az emberi magatartás torzulása az MI-rendszerhez képest külső, a szolgáltatón vagy a felhasználón kívül álló tényezőkből ered. A tilalom nem nyomhatja el az ilyen MI-rendszerekhez kapcsolódó törvényes célú kutatást, amennyiben az ilyen kutatás nem jár azzal, hogy az MI-rendszer úgy kerül alkalmazásra az ember és a gép közötti kapcsolatokban, hogy kárt okozzon természetes személyeknek, és amennyiben az ilyen kutatás a tudományos kutatás elismert etikai normáival összhangban történik.

(16)

Meg kell tiltani bizonyos olyan MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát, amelyek célja vagy hatása az emberi magatartás anyagi módon való befolyásolása, ami nagy valószínűséggel testi vagy lelki kárt okoz. Ez a korlátozás magában foglalja az olyan MI-rendszerek által támogatott neurotechnológiákat, amelyeket az agy-számítógép interfészeken keresztül gyűjtött neurális adatok nyomon követésére, felhasználására vagy befolyásolására használnak, amennyiben azok jelentősen torzítják egy természetes személy magatartását oly módon, amely jelentős kárt okoz vagy okozhat az adott személynek vagy más személynek. Az ilyen MI-rendszerek az egyének számára tudatosan nem érzékelhető szubliminális összetevőket alkalmaznak, vagy képesek érzékelni vagy kihasználni az egyének és személyek meghatározott csoportjainak sebezhetőségét ismert vagy előre jelzett személyiségjegyeik, életkoruk, fizikai vagy szellemi alkalmatlanságuk, társadalmi vagy gazdasági helyzetük miatt . Az ilyen rendszerek ezt azzal a  céllal vagy hatással teszik, hogy jelentősen torzítsák egy személy magatartását, oly módon, amely jelentős kárt – beleértve az idővel felhalmozódó károkat is – okoz vagy valószínűleg okozhat az adott személynek vagy egy másik személynek vagy személyek csoportjainak . A  magatartás torzításának szándéka nem vélelmezhető, ha az emberi magatartás torzulása az MI-rendszerhez képest külső, a szolgáltatón vagy a felhasználón kívül álló tényezőkből ered , mint például olyan tényezőkből, amelyeket az MI-rendszer szolgáltatója vagy felhasználója észszerűen nem láthat előre és nem enyhíthet. Mindenesetre nem szükséges, hogy a szolgáltatónak vagy az alkalmazónak szándékában álljon jelentős kárt okozni, amennyiben a mesterséges intelligencián alapuló manipulatív vagy kizsákmányoló gyakorlatok ilyen károkat okoznak. Az ilyen MI-gyakorlatokra vonatkozó tilalmak kiegészítik a 2005/29/EK irányelvben foglalt rendelkezéseket, amelyek szerint a tisztességtelen kereskedelmi gyakorlatok tilosak, függetlenül attól, hogy azokat MI-rendszereken keresztül vagy más módon valósítják-e meg. Ilyen körülmények között az uniós joggal összhangban lévő jogszerű kereskedelmi gyakorlatok – például a reklám területén – önmagukban nem tekinthetők jogsértő tilalomnak.  A tilalom nem nyomhatja el az ilyen MI-rendszerekhez kapcsolódó törvényes célú kutatást, amennyiben az ilyen kutatás nem jár azzal, hogy az MI-rendszer úgy kerül alkalmazásra az ember és a gép közötti kapcsolatokban, hogy kárt okozzon természetes személyeknek, és amennyiben az ilyen kutatás a tudományos kutatás elismert etikai normáival összhangban történik , valamint amennyiben az ilyen kutatást a nekik kiszolgáltatott személyek vagy adott esetben törvényes gyámjaik kifejezett, tájékoztatáson alapuló beleegyezése alapján végzik .

(16a)

Azok az MI-rendszerek, amelyek a természetes személyeket úgy kategorizálják, hogy ismert vagy feltételezett érzékeny vagy védett jellemzők alapján meghatározott kategóriákba sorolják őket, különösen tolakodóak, sértik az emberi méltóságot, és a hátrányos megkülönböztetés magas kockázatával járnak. Az ilyen tulajdonságok vagy jellemzők közé tartoznak többek között a következők: a biológiai nem és a nemi identitás, faj, etnikai származás, migrációs vagy állampolgársági státusz, politikai irányultság, szexuális irányultság, vallás, fogyatékosság vagy bármely más olyan ok, amely alapján a megkülönböztetés az Európai Unió Alapjogi Chartájának 21. cikke és az (EU) 2016/769 rendelet 9. cikke értelmében tilos. Ezeket az rendszereket ezért be kell tiltani.

(17)

Azok az MI-rendszerek, amelyek lehetőséget biztosítanak természetes személyek hatóságok általi vagy nevükben történő, általános célú közösségi pontozására, diszkriminációhoz és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sérthetik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyek megbízhatóságát bizonyos összetett körülmények között, közösségben tanúsított magatartásuk , illetve ismert vagy előre jelzett személyes tulajdonságaik vagy személyiségjegyeik alapján értékelik vagy osztályozzák. Az ilyen MI-rendszerek által adott közösségi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen MI-rendszereket ezért be kell tiltani.

(17)

Azok az MI-rendszerek, amelyek lehetőséget biztosítanak természetes személyek általános célú közösségi pontozására, diszkriminációhoz és bizonyos csoportok kirekesztéséhez vezethetnek. Az ilyen rendszerek sértik a méltósághoz és a megkülönböztetésmentességhez való jogot, valamint az egyenlőség és az igazságosság értékeit. Az ilyen MI-rendszerek a természetes személyeket vagy csoportokat bizonyos összetett körülmények között, közösségben tanúsított magatartásukhoz , illetve ismert , kikövetkeztethető vagy előre jelzett személyes tulajdonságaikhoz vagy személyiségjegyeikhez társított több adatpont és időbeli előfordulás alapján értékelik vagy osztályozzák. Az ilyen MI-rendszerek által adott közösségi pontszám a természetes személyekkel vagy azok egész csoportjával szembeni hátrányos vagy kedvezőtlen bánásmódhoz vezethet olyan társadalmi kontextusban, amely nem függ össze azzal a kontextussal, amelyben az adatok létrehozása vagy gyűjtése történt, vagy olyan hátrányos bánásmódot okozhat, amely az adott személyek közösségi magatartásának súlyosságához képest aránytalan vagy indokolatlan. Az ilyen MI-rendszereket ezért be kell tiltani.

(18)

Az MI-rendszereknek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken , bűnüldözés céljából történő használata különösen betolakodik az érintett személyek jogaiba és szabadságába , mivel hatással lehet a lakosság nagy részének magánéletére, az állandó megfigyelés érzetét keltheti, és közvetve visszatarthat a gyülekezési szabadság és más alapvető jogok gyakorlásától. Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek a bűnüldözési tevékenységek által érintett személyek jogaira és szabadságaira nézve.

(18)

Az Mi-rendszereknek a természetes személyek „valós idejű” távoli biometrikus azonosítására való használata a nyilvánosság számára hozzáférhető helyeken különösen tolakodó az érintett személyek jogaira és szabadságára nézve , és végső soron hatással lehet a lakosság nagy részének magánéletére, a társadalomban az állandó megfigyelés jogos érzetét keltheti, ellenőrizhetetlen pozíciót biztosíthat a nyilvánosan hozzáférhető helyeken biometrikus azonosítást alkalmazó felek számára, és közvetve visszatarthatja az egyéneket a  jogállamiság alapját képező gyülekezési szabadság és más alapvető jogaik gyakorlásától . A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Ez különösen releváns az életkor, az etnikai hovatartozás, a nem vagy a fogyatékosságok tekintetében . Ezenkívül a hatás azonnali jellege és az ilyen „valós időben” működő rendszerek használatával kapcsolatos további ellenőrzések vagy korrekciók korlátozott lehetőségei fokozott kockázatot jelentenek a bűnüldözési tevékenységek által érintett személyek jogaira és szabadságaira nézve. E rendszerek használatát ezért a nyilvánosság számára hozzáférhető terekben meg kell tiltani. Hasonlóképpen meg kell tiltani azokat az MI-rendszereket is, amelyeket a nyilvánosság számára hozzáférhető terekről rögzített felvételek elemzésére használnak „postai” távoli biometrikus azonosító rendszereken keresztül, kivéve, ha a bűnüldözéssel összefüggésben történő felhasználást megelőző engedély áll fenn, amennyiben az feltétlenül szükséges egy konkrét súlyos bűncselekményhez kapcsolódó, már elvégzett célzott kereséshez, és csak előzetes bírói engedélyhez kötött.

(19)

E rendszerek bűnüldözési célú használatát ezért meg kell tiltani, kivéve három, kimerítő jelleggel felsorolt és szűken meghatározott helyzetet, amelyekben a használat feltétlenül szükséges egy olyan jelentős közérdek érvényesítéséhez, amelynek fontossága meghaladja a kockázatokat. Az ilyen helyzetek közé tartozik a bűncselekmények potenciális áldozatainak, köztük az eltűnt gyermekeknek a felkutatása; a természetes személyek életét vagy fizikai biztonságát fenyegető bizonyos veszélyek vagy a terrortámadás veszélye; valamint a 2002/584/IB tanácsi kerethatározatban  (38) említett bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítése, lokalizálása, azonosítása vagy büntetőeljárás alá vonása, amennyiben e bűncselekmények esetében az érintett tagállam joga szerint e tagállamban a büntetési tétel felső határa legalább háromévi szabadságvesztés vagy szabadságelvonással járó intézkedés. A szabadságvesztés vagy szabadságelvonással járó intézkedés nemzeti joggal összhangban álló e küszöbértéke hozzájárul annak biztosításához, hogy a bűncselekmény kellően súlyos legyen ahhoz, hogy potenciálisan indokolhassa a „valós idejű” távoli biometrikus azonosító rendszerek használatát. Ezenfelül a 2002/584/IB tanácsi kerethatározatban felsorolt 32 bűncselekmény közül néhány a gyakorlatban valószínűleg relevánsabb lesz, mint mások, azaz a „valós idejű” távoli biometrikus azonosítás alkalmazása előreláthatóan rendkívül eltérő mértékben lesz szükséges és arányos eszköz a felsorolt különböző bűncselekmények elkövetőinek vagy gyanúsítottjainak felderítésére, lokalizálására, azonosítására vagy büntetőeljárás alá vonására irányuló gyakorlati lépések tekintetében, és az alkalmazást befolyásolják majd a kár súlyosságának, valószínűségének és mértékének valószínűsíthető különbségei vagy az esetleges negatív következmények.

(20)

Annak érdekében, hogy e rendszerek használata felelős és arányos módon történjen, azt is fontos megállapítani, hogy e három kimerítő jelleggel felsorolt és szűken meghatározott helyzetben figyelembe kell venni bizonyos tényezőket, különösen a kérelem alapjául szolgáló helyzet jellegét és a használat valamennyi érintett személy jogaira és szabadságaira gyakorolt következményeit, valamint a használathoz előírt biztosítékokat és feltételeket. Ezen túlmenően a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatára megfelelő időbeli és térbeli korlátozásoknak kell vonatkozniuk, különös tekintettel a fenyegetésekkel, az áldozatokkkal vagy az elkövetőkkel kapcsolatos bizonyítékokra vagy jelzésekre. A személyek referencia-adatbázisának minden egyes használatkor a fent említett három helyzet mindegyikében megfelelőnek kell lennie.

(21)

A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használatához minden esetben valamely tagállam igazságügyi hatóságának vagy független közigazgatási hatóságának kifejezett és egyedi engedélye szükséges. Az ilyen engedélyt főszabályként a használat előtt kell megszerezni, kivéve a kellően indokolt sürgős eseteket, azaz azokat a helyzeteket, amikor a szóban forgó rendszerek használatának szükségessége ténylegesen és objektíve lehetetlenné teszi az engedély megszerzését a használat megkezdése előtt. Az ilyen sürgős helyzetekben a használatot a feltétlenül szükséges minimumra kell korlátozni, és arra a nemzeti jogban megállapított és maga a bűnüldöző hatóság által az egyes sürgős esetek kapcsán meghatározott megfelelő biztosítékokat és feltételeket kell alkalmazni. Ezen túlmenően a bűnüldöző hatóságnak ilyen helyzetekben a lehető leghamarabb meg kell próbálnia megszerezni az engedélyt, ugyanakkor meg kell indokolnia, hogy miért nem volt lehetősége arra, hogy az engedélyt korábban megkérje.

(22)

Helyénvaló továbbá – az e rendeletben meghatározott kimerítő keretek között – előírni, hogy az ilyen használat egy tagállam területén e rendelettel összhangban csak akkor és annyiban legyen lehetséges, ha és amennyiben az érintett tagállam úgy határozott, hogy nemzeti jogának részletes szabályaiban kifejezetten rendelkezik az ilyen használat engedélyezésének lehetőségéről. Következésképpen a tagállamok e rendelet értelmében továbbra is szabadon dönthetnek arról, hogy egyáltalán nem, vagy csak az e rendeletben meghatározott engedélyezett használat indoklására alkalmas egyes célkitűzések tekintetében rendelkeznek ilyen lehetőségről.

(23)

Az MI-rendszerek természetes személyek „valós idejű” távoli biometrikus azonosítására, a nyilvánosság számára hozzáférhető helyeken, bűnüldözés céljából történő használata szükségszerűen magában foglalja biometrikus adatok feldolgozását. E rendelet azon, az EUMSZ 16. cikkén alapuló szabályait, amelyek – bizonyos kivételekre is figyelemmel – tiltják az ilyen használatot, lex specialisként kell alkalmazni az (EU) 2016/680 irányelv 10. cikkében foglalt, a biometrikus adatok kezelésére vonatkozó szabályok tekintetében, ennélfogva ezek kimerítően szabályozzák az ilyen használatot és az érintett biometrikus adatok kezelését. Ezért az ilyen használat és adatkezelés csak annyiban lehetséges, amennyiben összeegyeztethető az e rendeletben meghatározott kerettel, és nincs lehetőség arra, hogy e kereten kívül az illetékes hatóságok – amennyiben bűnüldözési célból járnak el – az (EU) 2016/680 irányelv 10. cikkében felsorolt okokból használják az ilyen rendszereket és kezeljék a kapcsolódó adatokat. Ebben az összefüggésben e rendeletnek nem célja, hogy jogalapot biztosítson a személyes adatoknak az (EU) 2016/680 irányelv 8. cikke szerinti kezeléséhez. A „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken, bűnüldözési céloktól eltérő célokra történő, többek között az illetékes hatóságok általi használatára azonban nem terjedhet ki az e rendeletben meghatározott, a bűnüldözési célú használatra vonatkozó különös keret. Az ilyen, nem bűnüldözési célú használat ezért nem köthető az e rendelet szerinti, engedéllyel kapcsolatos követelményhez és a nemzeti jog azon hatályos, részletes szabályaihoz, amelyek e követelményt alkalmazzák.

(24)

A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken , bűnüldözési célból történő, e rendeletben szabályozott használatával összefüggő adatkezelés kivételével – , ideértve azt az esetet is, amikor ezeket a rendszereket az illetékes hatóságok nyilvánosság számára hozzáférhető helyen, a bűnüldözéstől eltérő célokra használják, továbbra is meg kell felelnie az (EU) 2016/679 rendelet 9. cikkének (1) bekezdéséből, az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdéséből és adott esetben az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek.

(24)

A biometrikus adatok és az MI-rendszerek biometrikus azonosítás céljából történő használatával érintett egyéb személyes adatok kezelésének – a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken e rendeletben szabályozott használatával összefüggő adatkezelés kivételével – továbbra is meg kell felelnie az (EU) 2016/679 rendelet 9. cikkének (1) bekezdéséből, az (EU) 2018/1725 rendelet 10. cikkének (1) bekezdéséből és adott esetben az (EU) 2016/680 irányelv 10. cikkéből eredő valamennyi követelménynek.

(25)

Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az e rendelet 5. cikke (1) bekezdésének d) pontjában , (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy a rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását.

(25)

Az EUSZ-hez és az EUMSZ-hez csatolt, az Egyesült Királyságnak és Írországnak a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség tekintetében fennálló helyzetéről szóló 21. jegyzőkönyv 6a. cikkével összhangban Írországot nem kötelezik az e rendelet 5. cikke (1) bekezdésének d) pontjában meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak, amennyiben Írországot nem kötelezik a büntetőügyekben folytatott igazságügyi együttműködés vagy a rendőrségi együttműködés formáira vonatkozó olyan szabályok, amelyek megkívánják az EUMSZ 16. cikke alapján meghatározott rendelkezések betartását.

(26)

Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandóak az e rendelet 5. cikke (1) bekezdésének d) pontjában, valamint (2) és (3) bekezdésében meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak.

(26)

Az EUSZ-hez és az EUMSZ-hez csatolt, Dánia helyzetéről szóló 22. jegyzőkönyv 2. és 2a. cikkével összhangban Dániára nézve nem kötelezőek és nem alkalmazandóak az e rendelet 5. cikke (1) bekezdésének d) pontjában meghatározott, az EUMSZ 16. cikke alapján elfogadott azon szabályok, amelyek a személyes adatoknak a tagállamok által, az EUMSZ harmadik része V. címe 4., illetve 5. fejezetének alkalmazási körébe tartozó tevékenységek során végzett kezelésére vonatkoznak.

(26a)

Azok az MI-rendszerek, amelyeket a bűnüldöző hatóságok vagy nevükben természetes személyek profilalkotásán alapuló előrejelzések, profilok vagy kockázatértékelések, vagy személyiségjegyeken és jellemzőkön alapuló adatelemzések készítésére használnak, beleértve a személy tartózkodási helyét, vagy természetes személyek vagy személyek csoportjai múltbeli bűnözői magatartását egy tényleges vagy potenciális bűncselekmény(ek) vagy más bűncselekménnyé nyilvánított társadalmi magatartás vagy szabálysértés – többek között a csalás-előrejelzési rendszerek – előfordulásának vagy megismétlődésének előrejelzése céljából, különös kockázatot hordoznak bizonyos személyekkel vagy személyek csoportjaival szemben, mivel sértik az emberi méltóságot, valamint az ártatlanság vélelmének kulcsfontosságú jogi elvét. Ezeket az MI-rendszereket ezért be kell tiltani.

(26b)

A biometrikus adatok közösségi médiából vagy CCTV-felvételekből való válogatás nélküli és nem célzott lekérdezése arcfelismerő adatbázisok létrehozása vagy bővítése céljából növeli a tömeges megfigyelés érzését, és az alapvető jogok, többek között a magánélet tiszteletben tartásához való jog súlyos megsértéséhez vezethet. Ezért meg kell tiltani az ilyen rendeltetésű MI-rendszerek használatát.

(26c)

Komoly aggályok merülnek fel az olyan mesterségesintelligencia-rendszerek tudományos alapjaival kapcsolatban, amelyek célja az érzelmek, fizikai vagy fiziológiai jellemzők, például az arckifejezések, a mozgások, a pulzusfrekvenciák vagy a hang észlelése. Az érzelmek vagy az érzelmek kifejeződései és azok érzékelése jelentősen eltér egymástól kultúránként és helyzetenként, sőt egyetlen személy esetében is. Az ilyen technológiák fő hiányosságai közé tartozik a korlátozott megbízhatóság (az érzéskategóriákat nem fejezi ki megbízhatóan a fizikai vagy fiziológiai mozgások közös készlete, és nem is kapcsolódnak egyértelműen ahhoz), a specifikusság hiánya (a fizikai vagy fiziológiai mozgások nem felelnek meg tökéletesen az érzelmi kategóriáknak) és a korlátozott általánosíthatóság (a kontextus és a kultúra hatásait nem veszik kellőképpen figyelembe). A megbízhatósággal kapcsolatos problémák, és ebből következően a visszaélések jelentős kockázatai különösen akkor merülhetnek fel, ha a rendszert a bűnüldözési, határigazgatási, munkahelyi és oktatási intézményekkel kapcsolatos valós helyzetekben alkalmazzák. Ezért meg kell tiltani az ilyen összefüggésben az egyének érzelmi állapotának felderítésére szánt MI-rendszerek forgalomba hozatalát, üzembe helyezését vagy használatát.

(26d)

Ez a rendelet nem érintheti azokat a gyakorlatokat, amelyeket uniós jogszabályok – többek között az adatvédelmi jog, a megkülönböztetésmentességi jog, a fogyasztóvédelmi jog és a versenyjog alapján – tiltanak.

(27)

A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba vagy helyezhetők üzembe, ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre nézve. A nagy kockázatúként azonosított MI-rendszereket azokra a rendszerekre kell korlátozni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és ez a korlátozás minimalizálja a nemzetközi kereskedelem bármely esetleges korlátozását, ha van ilyen.

(27)

A nagy kockázatú MI-rendszerek csak akkor hozhatók forgalomba az Unión belül, helyezhetők üzembe vagy használhatók , ha megfelelnek bizonyos kötelező követelményeknek. E követelményeknek biztosítaniuk kell, hogy azon nagy kockázatú MI-rendszerek, amelyek az Unióban rendelkezésre állnak vagy amelyek kimenetét más módon felhasználják az Unióban, ne jelentsenek elfogadhatatlan kockázatot az uniós jog által elismert és védett fontos uniós közérdekekre , többek között az alapvető jogokra, a demokráciára, a jogállamiságra vagy a környezetre nézve. Az ágazati jogszabályokkal való összhang biztosítása és az átfedések elkerülése érdekében a nagy kockázatú MI-rendszerekre vonatkozó követelményeknek figyelembe kell venniük az e rendelet hatálya alá tartozó nagy kockázatú MI-rendszerekre vonatkozó követelményeket meghatározó ágazati jogszabályokat, mint például az orvostechnikai eszközökről szóló (EU) 2017/745 rendelet, valamint az (EU) 2017/746 rendelet az in vitro diagnosztikai eszközökről vagy a gépekről szóló 2006/42/EK irányelv.  A nagy kockázatúként azonosított MI-rendszereket azokra a rendszerekre kell korlátozni, amelyek jelentős káros hatást gyakorolnak az Unióban élő személyek egészségére, biztonságára és alapvető jogaira, és ez a korlátozás minimalizálja a nemzetközi kereskedelem bármely esetleges korlátozását, ha van ilyen. Tekintettel a technológiai fejlődés gyors ütemére, valamint az MI-rendszerek használatában bekövetkező lehetséges változásokra, a magas kockázatú területek és felhasználási esetek III. mellékletben szereplő jegyzékét rendszeres értékelés keretében folyamatosan felül kell vizsgálni.

(28)

Az MI-rendszerek káros hatással lehetnek az emberek egészségére és biztonságára, különösen akkor, ha ezek a rendszerek termékek alkatrészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, amelyek a termékek belső piacon való szabad mozgásának megkönnyítésében, valamint annak garantálásában állnak, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos, hogy a termék egésze által a digitális alkatrészei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelően meg lehessen előzni és csökkenteni. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük. A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. E jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentesség, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. E jogok mellett fontos kiemelni, hogy a gyermekek az Európai Unió Alapjogi Chartájának 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt (a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett) különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Az MI-rendszerek által – többek között a személyek egészségével és biztonságával összefüggésben – okozott károk súlyosságának értékelésekor a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban érvényesített alapvető jogot is figyelembe kell venni.

(28)

Az MI-rendszerek káros hatással lehetnek az emberek egészségére és biztonságára, különösen akkor, ha ezek a rendszerek termékek biztonsági alkatrészeiként működnek. Az uniós harmonizációs jogszabályok azon célkitűzéseivel összhangban, amelyek a termékek belső piacon való szabad mozgásának megkönnyítésében, valamint annak garantálásában állnak, hogy csak biztonságos és más tekintetben megfelelő termékek kerüljenek a piacra, fontos, hogy a termék egésze által a digitális alkatrészei, többek között az MI-rendszerek miatt esetlegesen előidézett biztonsági kockázatok megfelelően meg lehessen előzni és csökkenteni. Például az – akár gyártással, akár személyes segítségnyújtással és gondozással összefüggésben használt – egyre önállóbb robotoknak képeseknek kell lenniük arra, hogy biztonságosan működjenek és funkcióikat összetett környezetben lássák el. Hasonlóképpen az egészségügyi ágazatban, ahol az élet és az egészség tekintetében különösen nagy a tét, az egyre kifinomultabb diagnosztikai rendszereknek és az emberi döntéseket támogató rendszereknek megbízhatónak és pontosnak kell lenniük.

(28a)

A Charta által védett alapvető jogokra az MI-rendszer által gyakorolt kedvezőtlen hatás mértéke különösen fontos egy adott MI-rendszer nagy kockázatúként való besorolásakor. E jogok közé tartozik az emberi méltósághoz való jog, a magán- és családi élet tiszteletben tartása, a személyes adatok védelme, a véleménynyilvánítás és a tájékozódás szabadsága, a gyülekezés és az egyesülés szabadsága, a megkülönböztetésmentesség, az oktatáshoz való jog, a fogyasztóvédelem, a munkavállalók jogai, a fogyatékossággal élő személyek jogai, a nemek egyenlősége, a szellemi tulajdonjog, a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jog, a védelemhez való jog és az ártatlanság vélelme, valamint a megfelelő ügyintézéshez való jog. E jogok mellett fontos kiemelni, hogy a gyermekek az Európai Unió Alapjogi Chartájának 24. cikkében és az Egyesült Nemzetek Szervezetének a gyermekek jogairól szóló egyezményében foglalt (a gyermek jogairól szóló ENSZ-egyezmény digitális környezetre vonatkozó 25. sz. általános észrevételében részletesebben kifejtett) különös jogokkal rendelkeznek; mindkét okmány előírja a gyermekek sebezhetőségének figyelembevételét, valamint a jóllétükhöz szükséges védelem és gondoskodás biztosítását. Az MI-rendszerek által – többek között a személyek egészségével és biztonságával vagy a környezettel összefüggésben – okozott károk súlyosságának értékelésekor a magas szintű környezetvédelemhez való, a Chartában rögzített és az uniós szakpolitikákban érvényesített alapvető jogot is figyelembe kell venni.

(29)

Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet (39), a 167/2013/EU európai parlamenti és tanácsi rendelet (40), a 168/2013/EU európai parlamenti és tanácsi rendelet (41), a 2014/90/EU európai parlamenti és tanácsi irányelv (42), az (EU) 2016/797 európai parlamenti és tanácsi irányelv (43), az (EU) 2018/858 európai parlamenti és tanácsi rendelet (44), az (EU) 2018/1139 európai parlamenti és tanácsi rendelet (45), valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet (46) hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek maguk is ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátoságai alapján, és anélkül, hogy beavatkozna az ott létrehozott meglévő irányítási, megfelelőségértékelési és végrehajtási mechanizmusokba és hatóságokba – figyelembe vegye a nagy kockázatú MI-rendszerekre az e rendeletben megállapított kötelező követelményeket, amikor ezen aktusok alapján a jövőben releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el.

(29)

Azon nagy kockázatú MI-rendszerek tekintetében, amelyek a 300/2008/EK európai parlamenti és tanácsi rendelet (39), a 167/2013/EU európai parlamenti és tanácsi rendelet (40), a 168/2013/EU európai parlamenti és tanácsi rendelet (41), a 2014/90/EU európai parlamenti és tanácsi irányelv (42), az (EU) 2016/797 európai parlamenti és tanácsi irányelv (43), az (EU) 2018/858 európai parlamenti és tanácsi rendelet (44), az (EU) 2018/1139 európai parlamenti és tanácsi rendelet (45), valamint az (EU) 2019/2144 európai parlamenti és tanácsi rendelet (46) hatálya alá tartozó termékek vagy rendszerek biztonsági alkatrészei, vagy amelyek maguk is ilyen termékek vagy rendszerek, helyénvaló e jogi aktusokat módosítani annak érdekében, hogy a Bizottság – az egyes ágazatok műszaki és szabályozási sajátoságai alapján, és anélkül, hogy beavatkozna az ott létrehozott meglévő irányítási, megfelelőségértékelési , piackutatási és végrehajtási mechanizmusokba és hatóságokba – figyelembe vegye a nagy kockázatú MI-rendszerekre az e rendeletben megállapított kötelező követelményeket, amikor ezen aktusok alapján a jövőben releváns, felhatalmazáson alapuló vagy végrehajtási jogi aktusokat fogad el.

(30)

Az olyan MI-rendszereket, amelyek bizonyos uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha a szóban forgó terméket a  vonatkozó uniós harmonizációs jogszabály értelmében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Ilyen termékek különösen a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök és az in vitro diagnosztikai orvostechnikai eszközök.

(30)

Az olyan MI-rendszereket, amelyek bizonyos uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei, vagy amelyek maguk ilyen jogszabályok hatálya alá tartozó termékek, helyénvaló e rendelet értelmében nagy kockázatúnak minősíteni, ha a szóban forgó terméket a  II. mellékletben felsorolt uniós harmonizációs jogszabály értelmében az alapvető biztonsági követelményeknek való megfelelés biztosítása érdekében valamely harmadik félnek minősülő megfelelőségértékelő szervezet által lefolytatott megfelelőségértékelési eljárás alá vonják. Ilyen termékek különösen a gépek, a játékok, a felvonók, a robbanásveszélyes légkörben való használatra szánt felszerelések és a védelmi rendszerek, a rádióberendezések, a nyomástartó berendezések, a kedvtelési célú vízi járművek berendezései, a kötélpálya-létesítmények, a gázüzemű berendezések, az orvostechnikai eszközök és az in vitro diagnosztikai orvostechnikai eszközök.

(31)

Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem feltétlenül jelenti azt, hogy az a termék, amelynek biztonsági alkatrésze az MI-rendszer, vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján „nagy kockázatúnak” minősül. Ez különösen igaz az (EU) 2017/745 európai parlamenti és tanácsi rendeletre (47) és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre (48), amelyek a közepes kockázatú és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést.

(31)

Az MI-rendszerek e rendelet szerint nagy kockázatú rendszerként való besorolása nem jelentheti azt, hogy az a termék, amelynek biztonsági alkatrésze az MI-rendszer, vagy maga az MI-rendszer mint termék, a termékre alkalmazandó vonatkozó uniós harmonizációs jogszabályokban megállapított kritériumok alapján „nagy kockázatúnak” minősül. Ez különösen igaz az (EU) 2017/745 európai parlamenti és tanácsi rendeletre (47) és az (EU) 2017/746 európai parlamenti és tanácsi rendeletre (48), amelyek a közepes kockázatú és a nagy kockázatú termékek tekintetében írnak elő harmadik fél általi megfelelőségértékelést.

(32)

Az önálló MI-rendszereket, vagyis azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkatrészei vagy maguk is termékek, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük alapján nagy kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, figyelembe véve a  lehetséges kár súlyosságát és előfordulásának valószínűségét , és ha azokat számos , a  rendeletben megadott , kifejezetten előre meghatározott területen használják . E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket a nagy kockázatú MI-rendszerek listájának jövőbeli módosításaira is előirányoztak.

(32)

Az önálló MI-rendszereket, vagyis azon nagy kockázatú MI-rendszereket, amelyek nem termékek biztonsági alkatrészei vagy maguk is termékek, és amelyeket a III. melléklet egyik területen és alkalmazási esetben felsorol, helyénvaló nagy kockázatúnak minősíteni, ha rendeltetésük alapján jelentős kockázatot jelentenek a személyek egészségére és biztonságára vagy alapvető jogaira nézve, és – ha az adott Mi-rendszert egy kritikus infrastruktúra biztonsági elemeként használják – a környezetre nézve. Az ilyen jelentős kárkockázatot egyrészt a kockázat súlyosságának, intenzitásának, előfordulási valószínűségének és időtartamának együttes figyelembevételével, másrészt annak értékelésével kell azonosítani, hogy a kockázat hatással lehet-e egy egyénre, több személyre vagy személyek egy adott csoportjára.  A  körülményektől függően az ilyen kombináció növelheti például a kockázat súlyosságát , miközben annak valószínűsége csekély lenne , hogy egy természetes személyt érintsen , vagy eredményezheti azt is, hogy nagy lesz a  valószínűsége annak , hogy alacsony intenzitással érinti személyek csoportját hosszú távon . E rendszerek azonosítása ugyanazon módszertanon és kritériumokon alapul, amelyeket a nagy kockázatú MI-rendszerek listájának jövőbeli módosításaira is előirányoztak.

(32a)

Azoknak a szolgáltatóknak, amelyek MI-rendszerei a III. mellékletben felsorolt területek valamelyikébe tartoznak, és amelyek úgy vélik, hogy a rendszerük nem jelent jelentős kockázatot az egészségre, a biztonságra, az alapvető jogokra vagy a környezetre nézve, indokolással ellátott értesítés útján tájékoztatniuk kell erről a nemzeti felügyeleti hatóságokat. Ez a szóban forgó MI-rendszerre vonatkozó releváns információk egyoldalas összefoglalásának formáját öltheti, beleértve a rendszer rendeltetését és azt is, hogy miért nem jelent jelentős kockázatot az egészségre, a biztonságra, az alapvető jogokra vagy a környezetre nézve. A Bizottságnak meg kell határoznia azokat a kritériumokat, amelyek lehetővé teszik a vállalatok számára annak értékelését, hogy rendszerük ilyen kockázatot jelent-e, valamint ki kell dolgoznia egy könnyen használható és egységesített bejelentési sablont. A szolgáltatóknak a bejelentést a lehető leghamarabb, de minden esetben az MI-rendszer forgalomba hozatala vagy üzembe helyezése előtt, ideális esetben a fejlesztési szakaszban kell benyújtaniuk, és lehetővé kell tenni számukra, hogy az értesítést követően bármikor szabadon hozhassák azt forgalomba. Ha azonban a hatóság úgy ítéli meg, hogy a szóban forgó MI-rendszert tévesen sorolták be, három hónapon belül kifogást kell emelnie az értesítéssel szemben. A kifogást alá kell támasztani, és megfelelően ki kell fejteni, hogy az MI-rendszert miért minősítették tévesen. A szolgáltatónak további érvek benyújtásával meg kell őriznie a fellebbezéshez való jogát. Ha a három hónap elteltével nem emelnek kifogást az értesítéssel szemben, a nemzeti felügyeleti hatóságok akkor is beavatkozhatnak, ha az MI-rendszer nemzeti szinten kockázatot jelent, mint bármely más piaci MI-rendszer esetében. A nemzeti felügyeleti hatóságoknak éves jelentéseket kell benyújtaniuk az MI-hivatalhoz, amelyben részletesen ismertetik a beérkezett bejelentéseket és a meghozott határozatokat.

(33)

A természetes személyek távoli biometrikus azonosítására szolgáló MI-rendszerek technikai pontatlansága torzított eredményekhez vezethet, és diszkriminatív hatásokat eredményezhet. Ez különösen releváns az életkor, az etnikai hovatartozás, a nem vagy a fogyatékosságok tekintetében. Ezért a „valós idejű” és a „nem valós idejű” távoli biometrikus azonosító rendszereket nagy kockázatúnak kell minősíteni. Tekintettel az általuk jelentett kockázatokra, a távoli biometrikus azonosító rendszerek mindkét típusára a naplózási képességekkel és az emberi felügyelettel kapcsolatos különös követelményeknek kell vonatkozniuk.

(33a)

Mivel a biometrikus adatok az (EU) 2016/679 rendelettel összhangban az érzékeny személyes adatok különleges kategóriáját képezik, helyénvaló a biometrikus és biometrikus alapú rendszerek számos kritikus felhasználási esetét magas kockázatúnak minősíteni. Ezért magas kockázatúnak kell minősíteni a természetes személyek biometrikus azonosítására szolgáló MI-rendszereket, valamint a természetes személyek biometrikus vagy biometrikus adatokon alapuló személyes jellemzőire vonatkozó következtetések levonására szánt MI-rendszereket, beleértve az érzelmek felismerésére szolgáló rendszereket is, kivéve azokat, amelyek e rendelet értelmében tiltottak. Ez nem terjedhet ki az olyan biometrikus ellenőrzésre szánt MI-rendszerekre, amely magában foglalja a hitelesítést is, abból a kizárólagos célból, hogy megerősítse, hogy egy adott természetes személy valóban az a személy, akinek állítja magát, és amely kizárólag abból a célból erősíti meg a természetes személy személyazonosságát, hogy az illető hozzáférhessen valamely szolgáltatáshoz, eszközhöz vagy helyiséghez (egy az egyhez megfeleltetés). Azok a biometrikus és biometrikus alapú rendszerek, amelyeket az uniós jog a kiberbiztonsági és személyesadat-védelmi intézkedések lehetővé tétele érdekében ír elő, nem tekinthetők úgy, hogy jelentős kockázatot jelentenek az egészség, a biztonság és az alapvető jogok tekintetében.

(34)

Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés- és villamosenergia-ellátásban biztonsági alkatrészeként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében.

(34)

Ami a kritikus infrastruktúrák irányítását és üzemeltetését illeti, a közúti forgalom irányításában és üzemeltetésében, valamint a víz-, gáz-, fűtés- , villamosenergia-ellátásban és a kritikus digitális infrastruktúrában biztonsági vagy védelmi alkatrészeként használni kívánt MI-rendszereket indokolt nagy kockázatúnak minősíteni, mivel meghibásodásuk vagy hibás működésük sértheti az ilyen kritikus infrastruktúrák biztonságát és integritását, és ezáltal nagymértékben veszélyeztetheti az emberek életét és egészségét, és érzékelhető zavarokhoz vezethet a társadalmi és gazdasági tevékenységek szokásos végzésében. A kritikus infrastruktúrák – és ezen belül a kritikus digitális infrastruktúrák – biztonsági alkotóelemei olyan rendszerek, amelyeket a fizikai infrastruktúra fizikai épségének, személyek egészségének és biztonságának, valamint vagyontárgyaknak a közvetlen védelmére használnak. Az ilyen alkotóelemek meghibásodása vagy hibás működése közvetlenül veszélyeztetheti a kritikus infrastruktúrák fizikai épségét, és ezáltal veszélyt jelent a személyek egészségére és biztonságára, valamint a vagyontárgyakra. A kizárólag kiberbiztonsági célokra szánt alkotóelemek nem minősülnek biztonsági alkotóelemnek. Az ilyen biztonsági alkotóelemek közé tartozhatnak például a felhőszolgáltatási központok víznyomás- vagy tűzriasztás-ellenőrző rendszerei.

(35)

Az oktatásban vagy szakképzésben használt MI-rendszereket , különösen a személyek oktatási és szakképzési intézményekbe való bejutásának meghatározására vagy ilyen intézményekhez való hozzárendelésére, illetve az oktatásuk részeként vagy előfeltételeként vizsgáztatott személyek értékelésére használt MI-rendszereket nagy kockázatúnak kell tekinteni , mivel meghatározhatják az adott személy életének oktatási és szakmai pályáját , és ezáltal hatással lehetnek megélhetésük biztosítására való képességükre . Helytelen tervezés és használat esetén az ilyen rendszerek sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait.

(35)

Az MI-rendszerek oktatásban való bevezetése fontos az oktatási rendszerek egészének korszerűsítése és az offline és online oktatás színvonalának javítása, valamint a digitális oktatás felgyorsítása, ezáltal a szélesebb közönség számára is elérhetővé tétele érdekében. Magas kockázatú MI-rendszereknek kell minősíteni azokat a mesterségesintelligencia-rendszereket, amelyeket az oktatásban vagy szakképzésben használt MI-rendszerekben használnak , különösen a személyek oktatási és szakképzési intézményekbe való felvételére vagy kijelölésére, illetve a vizsgákon részt vevő személyeknek az oktatásuk részeként vagy annak előfeltételeként történő értékelésére vonatkozó döntések meghatározására, illetve az oktatás megfelelő szintjének értékelésére , valamint az egyéni képzés megfelelő szintjének értékelésére, valamint annak lényeges befolyásolására, hogy az egyének hozzáférjenek, illetve képesek legyenek hozzáférni, illetve nyomon követni és felderíteni a diákok tiltott magatartását , mivel meghatározhatják az adott személy életének oktatási és szakmai lefolyását , és ezáltal befolyásolhatják megélhetésük biztosítására való képességüket . Helytelen tervezés , fejlesztés és használat esetén az ilyen rendszerek különösen betolakodóak lehetnek és sérthetik az oktatáshoz és képzéshez való jogot, valamint a megkülönböztetésmentességhez való jogot, és állandósíthatják a megkülönböztetés korábban meglévő mintázatait , például a nőkkel, egyes korcsoportokkal, a fogyatékossággal élőkkel, illetve egyes faji vagy etnikai származású vagy szexuális irányultságú személyekkel szemben .

(36)

Nagy kockázatúnak kell tekinteni azokat az MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, az előléptetéssel és felmentéssel kapcsolatos döntések meghozatala, valamint a munkával kapcsolatos szerződéses jogviszonyban lévő személyek részére történő feladatkiosztás, továbbá az ilyen személyek nyomon követése vagy értékelése során használnak, mivel ezek a rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését. A vonatkozó, munkával kapcsolatos szerződéses jogviszonyoknak magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen személyek főszabályként nem tekintendők e rendelet értelmében vett felhasználóknak. Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban részt vevő személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az e személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek hatással lehetnek a személyek adatvédelemhez és a magánélethez való jogaira is.

(36)

Nagy kockázatúnak kell tekinteni azokat az MI-rendszereket is, amelyeket a foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés, különösen személyek felvétele és kiválasztása, a betanítással, az előléptetéssel és felmentéssel kapcsolatos döntések meghozatala vagy a döntéshozatal anyagi befolyásolása , valamint a munkával kapcsolatos szerződéses jogviszonyban lévő személyek részére történő , személyre szabott, egyéni viselkedésen, személyes vonásokon vagy biometrikus adatokon alapuló feladatkiosztás, továbbá az ilyen személyek nyomon követése vagy értékelése során használnak, mivel ezek a rendszerek érzékelhetően befolyásolhatják e személyek jövőbeli karrierlehetőségeit és megélhetését , akárcsak a munkavállalói jogokat . A vonatkozó, munkával kapcsolatos szerződéses jogviszonyoknak érdemben magukban kell foglalniuk a munkavállalókat és a Bizottság 2021. évi munkaprogramjában említettek szerint a platformokon keresztül szolgáltatásokat nyújtó személyeket. Az ilyen rendszerek a munkaerő-felvételi folyamat egészében, valamint a munkával kapcsolatos szerződéses jogviszonyokban részt vevő személyek értékelése, előléptetése vagy megtartása során állandósíthatják a megkülönböztetés régóta fennálló mintázatait, például a nőkkel, bizonyos korcsoportokkal, a fogyatékossággal élő személyekkel, illetve bizonyos faji vagy etnikai származású, vagy szexuális irányultságú személyekkel szemben. Az e személyek teljesítményének és magatartásának nyomon követésére használt MI-rendszerek alá is áshatják a személyek adatvédelemhez és a magánélethez való alapvető jogait is. Ezt a rendeletet az Unió és a tagállamok azon hatáskörének sérelme nélkül kell alkalmazni, hogy a foglalkoztatással összefüggésben konkrétabb szabályokat írjanak elő az MI-rendszerek használatára vonatkozóan.

(37)

Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Különösen a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket kell nagy kockázatú MI-rendszereknek minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés korábbról eredő mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Figyelembe véve a  hatás igen korlátozott mértékét és a  piacon rendelkezésre álló alternatívákat, helyénvaló mentességet biztosítani a pontozásos hitelbírálat és a hitelképességi vizsgálat céljára használt olyan MI-rendszerek számára, amelyeket kis szolgáltatók saját maguk számára helyeznek üzembe. Azok a természetes személyek , akik állami támogatásért és szolgáltatásokért folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően ezen ellátásoktól és szolgáltatásoktól függenek, és az illetékes hatóságoknak kiszolgáltatott helyzetben vannak. Ha a hatóságok MI-rendszerek igénybevételével határozzák meg, hogy megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e ezeket az ellátásokat és szolgáltatásokat, e rendszerek jelentős hatást gyakorolhatnak a személyek megélhetésére, és sérthetik alapvető jogaikat, például a szociális védelemhez, a megkülönböztetésmentességhez, az emberi méltósághoz vagy a hatékony jogorvoslathoz való jogot. Ezeket a rendszereket ezért nagy kockázatúnak kell minősíteni. Mindazonáltal ez a rendelet nem akadályozhatja az innovatív megközelítések fejlesztését és alkalmazását a közigazgatásban, amely számára előnyös lenne az előírásoknak megfelelő és biztonságos MI-rendszerek szélesebb körű használata, feltéve, hogy ezek a rendszerek nem jelentenek nagy kockázatot a természetes és jogi személyekre nézve. Végezetül, a vészhelyzeti első reagálási szolgáltatások irányítására vagy irányításuk során a prioritás megállapítására használt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, mivel nagyon kritikus helyzetekben hoznak döntéseket az emberek élete és egészsége, valamint tulajdona szempontjából.

(37)

Egy másik olyan terület, ahol az MI-rendszerek használata különös figyelmet érdemel, az egyes olyan alapvető magán- és közszolgáltatások és ellátások – többek között az egészségügyi szolgáltatások és az alapvető szolgáltatások, ezen belül a lakhatás, a villamos energia, a fűtés/hűtés és az internetszolgáltatás – elérhetősége és igénybevétele, amelyek ahhoz szükségesek, hogy az emberek teljes mértékben részt vehessenek a társadalomban vagy javítsák életszínvonalukat. Különösen a természetes személyek hitelpontszámának vagy hitelképességének értékelésére használt MI-rendszereket kell nagy kockázatú MI-rendszereknek minősíteni, mivel ezek határozzák meg e személyek pénzügyi erőforrásokhoz vagy olyan alapvető szolgáltatásokhoz való hozzáférését, mint a lakhatás, a villamos energia és a távközlési szolgáltatások. Az e célra használt MI-rendszerek személyek vagy csoportok hátrányos megkülönböztetéséhez vezethetnek, és állandósíthatják a – például faji vagy etnikai származáson, nemen, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló – megkülönböztetés korábbról eredő mintázatait, vagy a diszkriminatív hatások új formáit teremthetik meg. Az uniós jog által a pénzügyi szolgáltatások nyújtása terén a csalások felderítése céljából előírt MI-rendszerek azonban e rendelet értelmében nem tekintendők magas kockázatúnak. Azok a természetes személyek, akik állami támogatásért és szolgáltatásokért – többek között egészségügyi szolgáltatásokért és alapvető szolgáltatásokért, ezen belül lakhatásért , villamos energiáért, fűtésért/hűtésért és internetszolgáltatásért – folyamodnak a hatóságokhoz, vagy akik a hatóságoktól ilyenben részesülnek, jellemzően ezen ellátásoktól és szolgáltatásoktól függenek, és az illetékes hatóságoknak kiszolgáltatott helyzetben vannak. Ha a hatóságok MI-rendszerek igénybevételével határozzák meg, hogy megtagadják, csökkentsék, visszavonják vagy visszaigényeljék-e ezeket az ellátásokat és szolgáltatásokat, e rendszerek jelentős hatást gyakorolhatnak a személyek megélhetésére, és sérthetik alapvető jogaikat, például a szociális védelemhez, a megkülönböztetésmentességhez, az emberi méltósághoz vagy a hatékony jogorvoslathoz való jogot. A természetes személyek egészség- és életbiztosításra való jogosultságával kapcsolatos döntések meghozatalára vagy a döntések lényeges befolyásolására tervezett MI-rendszerek hasonlóképpen jelentős hatást gyakorolhatnak a személyek megélhetésére, és – például az egészségügyi ellátáshoz való hozzáférés korlátozásával vagy a személyes tulajdonságokon alapuló megkülönböztetés fenntartásával – sérthetik alapvető jogaikat. Ezeket a rendszereket ezért nagy kockázatúnak kell minősíteni. Mindazonáltal ez a rendelet nem akadályozhatja az innovatív megközelítések fejlesztését és alkalmazását a közigazgatásban, amely számára előnyös lenne az előírásoknak megfelelő és biztonságos MI-rendszerek szélesebb körű használata, feltéve, hogy ezek a rendszerek nem jelentenek nagy kockázatot a természetes és jogi személyekre nézve. Végezetül, a  természetes személyek segélyhívásainak értékelésére és osztályozására vagy a vészhelyzeti első reagálási szolgáltatások irányítására vagy irányításuk során a prioritás megállapítására használt MI-rendszereket szintén nagy kockázatúnak kell tekinteni, mivel nagyon kritikus helyzetekben hoznak döntéseket az emberek élete és egészsége, valamint tulajdona szempontjából.

(37a)

Tekintettel a rendőrség és az igazságügyi hatóságok szerepére és felelősségére, valamint a bűncselekmények megelőzése, kivizsgálása, felderítése, büntetőeljárás alá vonása vagy büntetőjogi szankciók végrehajtása céljából hozott döntéseik hatására, az MI-alkalmazások bűnüldözésben való felhasználásának egyes konkrét eseteit nagy kockázatúként kell besorolni, különösen azokban az esetekben, amikor fennáll annak lehetősége, hogy jelentősen befolyásolják az egyének életét.

(38)

A bűnüldöző hatóságok MI-rendszerek bizonyos használatával járó fellépéseit az erőviszonyok jelentős mértékű kiegyensúlyozatlansága jellemzi, és egy természetes személy megfigyeléséhez, letartóztatásához vagy szabadságának elvonásához, valamint a Chartában garantált alapvető jogokra gyakorolt egyéb kedvezőtlen hatásokhoz vezethetnek. Különösen akkor, ha az MI-rendszert nem tanítják jó minőségű adatokkal, nem felel meg a pontossága vagy stabilitása tekintetében támasztott megfelelő követelményeknek, vagy a forgalomba hozatalt vagy a más módon történő üzembe helyezést megelőzően nem megfelelően tervezték és tesztelték, akkor e rendszer diszkriminatív vagy más tekintetben tisztességtelen vagy igazságtalan módon válaszhat ki embereket. Akadályozhatja továbbá a fontos alapvető eljárási jogoknak – például a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jognak, valamint a védelemhez való jognak és az ártatlanság vélelmének – az érvényre juttatását, különösen akkor, ha az ilyen MI-rendszerek nem eléggé átláthatók, megmagyarázhatók és dokumentálhatók. Ezért helyénvaló nagy kockázatúnak minősíteni számos olyan, a bűnüldözéssel összefüggésben használni kívánt MI-rendszert, amelyek pontossága, megbízhatósága és átláthatósága különösen fontos a kedvezőtlen hatások elkerülése, a közvélemény bizalmának megőrzése, valamint az elszámoltathatóság és a hatékony jogorvoslat biztosítása szempontjából. Tekintettel a szóban forgó tevékenységek jellegére és az azokkal kapcsolatos kockázatokra, e nagy kockázatú MI-rendszereknek magukban kell foglalniuk különösen azokat az MI-rendszereket, amelyeket a bűnüldöző hatóságok egyedi kockázatértékelések, poligráfok és hasonló eszközök céljára vagy a  természetes személyek érzelmi állapotának felderítésére , a deepfake videók felderítésére, büntetőeljárásokban a bizonyítékok megbízhatóságának értékelésére , a tényleges vagy potenciális bűncselekmények elkövetésének vagy megismétlődésének természetes személyek bűnözői profilalkotásán, illetve a személyiségjegyek, tulajdonságok, valamint természetes személyek vagy csoportok múltbeli bűnöző magatartásának értékelésén alapuló előrejelzésére , a bűncselekmények felderítése, nyomozása vagy büntetőeljárás alá vonása során alkalmazott profilalkotásra, továbbá természetes személyek tekintetében bűnelemzésre terveznek használni. Azok az MI-rendszerek, amelyeket kifejezetten az adó- és vámhatóságok által közigazgatási eljárások céljára kívánnak használni, nem tekintendők a bűnüldöző hatóságok által bűncselekmények megelőzése, felderítése, nyomozása és büntetőeljárás alá vonása céljából használt nagy kockázatú MI-rendszereknek.

(38)

A bűnüldöző hatóságok MI-rendszerek bizonyos használatával járó fellépéseit az erőviszonyok jelentős mértékű kiegyensúlyozatlansága jellemzi, és egy természetes személy megfigyeléséhez, letartóztatásához vagy szabadságának elvonásához, valamint a Chartában garantált alapvető jogokra gyakorolt egyéb kedvezőtlen hatásokhoz vezethetnek. Különösen akkor, ha az MI-rendszert nem tanítják jó minőségű adatokkal, nem felel meg a  teljesítménye, pontossága vagy stabilitása tekintetében támasztott megfelelő követelményeknek, vagy a forgalomba hozatalt vagy a más módon történő üzembe helyezést megelőzően nem megfelelően tervezték és tesztelték, akkor e rendszer diszkriminatív vagy más tekintetben tisztességtelen vagy igazságtalan módon válaszhat ki embereket. Akadályozhatja továbbá a fontos alapvető eljárási jogoknak – például a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jognak, valamint a védelemhez való jognak és az ártatlanság vélelmének – az érvényre juttatását, különösen akkor, ha az ilyen MI-rendszerek nem eléggé átláthatók, megmagyarázhatók és dokumentálhatók. Ezért helyénvaló nagy kockázatúnak minősíteni számos olyan, a bűnüldözéssel összefüggésben használni kívánt MI-rendszert, amelyek pontossága, megbízhatósága és átláthatósága különösen fontos a kedvezőtlen hatások elkerülése, a közvélemény bizalmának megőrzése, valamint az elszámoltathatóság és a hatékony jogorvoslat biztosítása szempontjából. Tekintettel a szóban forgó tevékenységek jellegére és az azokkal kapcsolatos kockázatokra, e nagy kockázatú MI-rendszereknek magukban kell foglalniuk különösen azokat az MI-rendszereket, amelyeket a bűnüldöző hatóságok általi vagy a  nevükben történő , illetve a bűnüldöző hatóságok támogatása során az uniós ügynökségek , hivatalok vagy szervek általi, poligráfokként és hasonló eszközökként történő felhasználásának céljára – amennyiben ezek használatát a vonatkozó uniós és nemzeti jog engedélyezi –, büntetőeljárásokban a bizonyítékok megbízhatóságának értékelésére , a bűncselekmények felderítése, nyomozása vagy büntetőeljárás alá vonása során alkalmazott profilalkotásra, továbbá természetes személyek tekintetében bűnelemzésre terveznek használni. Azok az MI-rendszerek, amelyeket kifejezetten az adó- és vámhatóságok által közigazgatási eljárások céljára kívánnak használni, nem minősítendők a bűnüldöző hatóságok által bűncselekmények megelőzése, felderítése, nyomozása és büntetőeljárás alá vonása céljából használt nagy kockázatú MI-rendszereknek. Az MI-eszközök bűnüldöző szervek és igazságügyi hatóságok általi használata nem idézhet elő egyenlőtlenséget, társadalmi szakadékot vagy kirekesztést. Nem szabad figyelmen kívül hagyni az MI-eszközök használatának a gyanúsítottak védelemhez való jogára gyakorolt hatását, különösen a működésükre vonatkozó érdemi információk beszerzésének nehézségét, valamint a kapott eredmények bíróság előtti vitatásának ebből eredő nehézségeit, főként a vizsgálat alatt álló személyek esetében.

(39)

A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok által poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a természetes személyek érzelmi állapotának felderítése; a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében. Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben (49), a 810/2009/EK európai parlamenti és tanácsi rendeletben (50) és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek.

(39)

A migrációkezelésben, a menekültügyben és a határigazgatásban használt MI-rendszerek olyan embereket érintenek, akik gyakran különösen kiszolgáltatott helyzetben vannak, és akiknek életét befolyásolja az illetékes hatóságok intézkedéseinek kimenetele. Az ilyen összefüggésben használt MI-rendszerek pontossága, megkülönböztetésmentes jellege és átláthatósága ezért különösen fontos az érintett személyek alapvető jogai, nevezetesen a szabad mozgáshoz, a megkülönböztetésmentességhez, a magánélet és a személyes adatok védelméhez, a nemzetközi védelemhez és a megfelelő ügyintézéshez való jogaik tiszteletben tartásának biztosítása szempontjából. Ezért helyénvaló nagy kockázatúnak minősíteni a migrációkezelés, a menekültügy és a határigazgatás területén feladatokat ellátó illetékes hatóságok vagy a nevükben eljáró felek vagy uniós ügynökségek, hivatalok vagy szervek által – amennyiben ezek használatát a vonatkozó uniós és nemzeti jog megengedi – poligráfként és hasonló eszközként, vagy az olyan célokra használni kívánt MI-rendszereket, mint a tagállamok területére belépő, illetve vízumot vagy menedékjogot kérelmező természetes személyek által jelentett bizonyos kockázatok felmérése; a természetes személyek vonatkozó okmányai hitelességének ellenőrzése; az illetékes hatóságoknak történő segítségnyújtás a menedékjog, vízum és tartózkodási engedély iránti kérelmek, valamint a kapcsolódó panaszok elbírálásában és a kérelmekkel összefüggésben benyújtott bizonyítékok valóságtartalmának értékelésében a jogállást kérelmező természetes személyek jogosultságának megállapítására irányuló célkitűzés tekintetében ; a határigazgatási tevékenységekkel összefüggésben a személyes adatok természetes személyek felderítése, felismerése vagy azonosítása céljából történő nyomon követése, megfigyelése vagy kezelése; a migrációs mozgásokkal és határátlépésekkel kapcsolatos tendenciák prognosztizálása vagy előrejelzése . Az e rendelet hatálya alá tartozó, a migrációkezelés, a menekültügy és a határigazgatás területén működő MI-rendszereknek meg kell felelniük a 2013/32/EU európai parlamenti és tanácsi irányelvben (49), a 810/2009/EK európai parlamenti és tanácsi rendeletben (50) és más vonatkozó jogszabályokban meghatározott vonatkozó eljárási követelményeknek. A tagállamok vagy az Unió intézményei, ügynökségei vagy szervei a migráció, a menekültügy és a határellenőrzés kezelése során alkalmazott MI-rendszereket semmilyen körülmények között nem használhatják fel az 1967. január 31-i jegyzőkönyvvel módosított, a menekültek helyzetére vonatkozó 1951. július 28-i egyezmény szerinti nemzetközi kötelezettségeik megkerülésére, és semmilyen módon nem sérthetik meg a visszaküldés tilalmának elvét, illetve nem tagadhatják meg az Unió területére való belépés biztonságos és eredményes, legális csatornáit, ideértve a nemzetközi védelemhez való jogot is.

(40)

Az igazságszolgáltatásra és a demokratikus folyamatok irányítására szánt egyes MI-rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Különösen az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni azokat az MI-rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. Ez a minősítés azonban nem terjedhet ki azokra az MI-rendszerekre, amelyeket olyan, tisztán járulékos adminisztratív tevékenységekre szánnak, amelyek az egyedi esetekben nem befolyásolják a tényleges igazságszolgáltatást; ilyen tevékenységek például a bírósági határozatok, dokumentumok vagy adatok anonimizálása vagy álnevesítése, a személyzet közötti kommunikáció, az adminisztratív feladatok vagy a források elosztása.

(40)

Az igazságszolgáltatásra és a demokratikus folyamatok irányítására szánt egyes MI-rendszereket nagy kockázatúnak kell tekinteni, figyelembe véve a demokráciára, a jogállamiságra, az egyéni szabadságokra, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogra gyakorolt potenciálisan jelentős hatásukat. Különösen az esetleges torzítások, hibák és átláthatatlanság kockázatának kezelése érdekében indokolt nagy kockázatúnak minősíteni azokat az igazságügyi hatóság vagy közigazgatási szerv általi vagy a nevükben történő használatra vagy az alternatív vitarendezés során hasonló módon történő felhasználásra szánt MI-rendszereket, amelyek célja, hogy segítsék az igazságügyi hatóságokat vagy a közigazgatási szerveket a ténybeli és a jogi elemek kutatásában és értelmezésében, valamint a jog konkrét tényekre történő alkalmazásában. A mesterséges intelligencia eszközeinek alkalmazása támogathatja, de nem válthatja fel a bírák döntéshozatali hatáskörét vagy a bírói függetlenséget, mivel a végső döntéshozatalnak ember által irányított tevékenységnek és döntésnek kell maradnia. Ez a minősítés azonban nem terjedhet ki azokra az MI-rendszerekre, amelyeket olyan, tisztán járulékos adminisztratív tevékenységekre szánnak, amelyek az egyedi esetekben nem befolyásolják a tényleges igazságszolgáltatást; ilyen tevékenységek például a bírósági határozatok, dokumentumok vagy adatok anonimizálása vagy álnevesítése, a személyzet közötti kommunikáció, az adminisztratív feladatok vagy a források elosztása.

(40a)

A szavazati jogot érintő, a Charta 39. cikkében foglalt indokolatlan külső beavatkozás, valamint a demokratikus folyamatokra, a demokráciára és a jogállamiságra gyakorolt aránytalan hatások kockázatának kezelése érdekében a választások vagy népszavazások eredményének vagy a természetes személyek választásokon vagy népszavazásokon tanúsított szavazási magatartásának befolyásolására tervezett MI-rendszereket magas kockázatú MI-rendszereknek kell minősíteni, kivéve azokat az MI-rendszereket – például a politikai kampányok adminisztratív és logisztikai szempontból történő szervezésére, optimalizálására és strukturálására használt eszközöket –, amelyek kimenetének nincsenek természetes személyek közvetlenül kitéve.

(40b)

Figyelembe véve, hogy a természetes személyek milyen mértékben használják az online óriásplatformnak minősített közösségimédia-platformok által nyújtott szolgáltatásokat, ezek az online platformok felhasználhatók oly módon, amely erősen befolyásolja az online biztonságot, a közvélemény és a közbeszéd alakulását, a választási és demokratikus folyamatokat és a társadalmi megfontolásokat. Ezért helyénvaló, hogy az említett online platformok által az ajánlórendszereikben használt MI-rendszerek e rendelet hatálya alá tartozzanak annak biztosítása érdekében, hogy az MI-rendszerek megfeleljenek az e rendeletben meghatározott követelményeknek, ezen belül az adatkormányzásra, a műszaki dokumentációra és a nyomon követhetőségre, az átláthatóságra, az emberi felügyeletre, a pontosságra és a stabilitásra vonatkozó műszaki követelményeknek. Az e rendeletnek való megfelelésnek lehetővé kell tennie ezen online óriásplatformok számára, hogy eleget tegyenek az (EU) 2022/2065 rendelet 34. és 35. cikkében foglalt szélesebb körű kockázatértékelési és kockázatcsökkentési kötelezettségeiknek. Az e rendeletben foglalt kötelezettségek nem érintik az (EU) 2022/2065 rendeletet, és ki kell egészíteniük az (EU) 2022/2065 rendeletben előírt kötelezettségeket, amennyiben a közösségimédia-platform online óriásplatformnak minősül. Tekintettel az online óriásplatformnak minősülő közösségimédia-platformok egész Európára kiterjedő hatására, az (EU) 2022/2065 rendelet értelmében kijelölt hatóságoknak végrehajtó hatóságként kell eljárniuk e rendelkezés érvényesítésének alkalmazásában.

(41)

Az, hogy egy MI-rendszer e rendelet értelmében nagy kockázatúnak minősül, nem értelmezhető úgy, mint ami azt jelzi, hogy a rendszer használata szükségképpen jogszerű az uniós jog más jogi aktusai vagy az uniós joggal összeegyeztethető nemzeti jogszabályok alapján, például a személyes adatok védelmére , illetve a poligráfok és hasonló eszközök használatára vagy a természetes személyek érzelmi állapotának felderítését szolgáló rendszerek használatára vonatkozó jogi aktusok és jogszabályok alapján. Az ilyen használatra továbbra is kizárólag a Chartából, valamint a másodlagos uniós jog alkalmazandó jogi aktusaiból és a nemzeti jogból eredő hatályos követelményekkel összhangban kerülhet sor. Ez a rendelet nem értelmezhető úgy, mint amely jogalapot teremt a személyes adatok kezelésére, ideértve adott esetben a személyes adatok különleges kategóriáit is.

(41)

Az, hogy egy MI-rendszer e rendelet értelmében nagy kockázatú MI-rendszernek minősül, nem értelmezhető úgy, mint ami azt jelzi, hogy a rendszer használata szükségképpen jogszerű vagy jogellenes az uniós jog más jogi aktusai vagy az uniós joggal összeegyeztethető nemzeti jogszabályok alapján, például a személyes adatok védelmére vonatkozó jogi aktusok és jogszabályok alapján. Az ilyen használatra továbbra is kizárólag a Chartából, valamint a másodlagos uniós jog alkalmazandó jogi aktusaiból és a nemzeti jogból eredő hatályos követelményekkel összhangban kerülhet sor.

(41a)

Az MI-rendszerekre jelenleg is számos kötelező szabály alkalmazandó vagy vonatkozik európai, nemzeti és nemzetközi szinten, többek között az elsődleges uniós jog (az Európai Unió szerződései és az Európai Unió Alapjogi Chartája), a másodlagos uniós jog (például az általános adatvédelmi rendelet, a termékfelelősségről szóló irányelv, a nem személyes adatok szabad áramlásáról szóló rendelet, a megkülönböztetés elleni irányelvek, a fogyasztóvédelmi jog, valamint a munkahelyi biztonságról és egészségvédelemről szóló irányelvek), az ENSZ emberi jogi szerződései és az Európa Tanács egyezményei (például az emberi jogok európai egyezménye), valamint a nemzeti jogszabályok. A horizontálisan alkalmazandó szabályok mellett különböző területspecifikus szabályok is léteznek, amelyek csak egyes MI-alkalmazásokra vonatkoznak (például az orvostechnikai eszközökről szóló rendelet az egészségügyi ágazatban).

(42)

Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, nagy kockázatú MI-rendszerek felhasználók és érintett személyek tekintetében jelentkező kockázatainak csökkentése érdekében bizonyos kötelező követelményeket kell alkalmazni, figyelembe véve a rendszer rendeltetését és a szolgáltató által létrehozandó kockázatkezelési rendszert.

(42)

Az uniós piacon forgalomba hozott vagy más módon üzembe helyezett, nagy kockázatú MI-rendszerek alkalmazók és érintett személyek tekintetében jelentkező kockázatainak csökkentése érdekében bizonyos kötelező követelményeket kell alkalmazni, figyelembe véve a rendszer rendeltetését , észszerűen előre látható helytelen használatát és a szolgáltató által létrehozandó kockázatkezelési rendszert. Ezeknek a követelményeknek célkitűzés-vezéreltnek, a célnak megfelelőnek, észszerűnek és hatékonynak kell lenniük, anélkül, hogy indokolatlan szabályozási terheket vagy költségeket rónának az üzemeltetőkre.

(43)

A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége, a műszaki dokumentáció és a nyilvántartás, az átláthatóság és a felhasználóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai.

(43)

A nagy kockázatú MI-rendszerekre követelményeket kell alkalmazni a használt adatkészletek minősége és relevanciája , a műszaki dokumentáció és a nyilvántartás, az átláthatóság és az alkalmazóknak nyújtott tájékoztatás, az emberi felügyelet, valamint a stabilitás, a pontosság és a kiberbiztonság tekintetében. Ezek a követelmények szükségesek az egészséget, a biztonságot és az alapvető jogokat , valamint a környezetet, a demokráciát és a jogállamiságot érintő kockázatok hatékony csökkentéséhez, ha a rendszer rendeltetésének vagy észszerűen előre látható helytelen használatának fényében ez indokolt, és észszerűen nem állnak rendelkezésre más, a kereskedelmet kevésbé korlátozó intézkedések, és elkerülhetők a kereskedelem indokolatlan korlátozásai.

(44)

A kiváló adatminőség alapvető fontosságú számos MI-rendszer teljesítményéhez , különösen a modellek tanítását magában foglaló technikák alkalmazása esetén, annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszer rendeltetésszerűen és biztonságosan működjön, és ne váljon az uniós jog által tiltott megkülönböztetés forrásává. A kiváló minőségű tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez megfelelő adatkormányzási és adatgazdálkodási gyakorlatokra van szükség. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek kellően relevánsnak, reprezentatívnak és hibáktól mentesnek és teljesnek kell lenniük, tekintettel a rendszer rendeltetésére. Ezen adatkészleteknek rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre a nagy kockázatú MI-rendszert használni kívánják. A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek különösen – a rendeltetésüktől függően szükséges mértékben – figyelembe kell venniük azokat a jellemzőket, tulajdonságokat vagy elemeket, amelyek azon sajátos földrajzi, magatartási vagy funkcionális környezethez vagy kontextushoz kapcsolódnak, amelyben az MI-rendszert használni kívánják. Annak érdekében, hogy megvédjék mások jogát az MI-rendszerek torzulásából eredő megkülönböztetéssel szemben, a szolgáltatóknak képesnek kell lenniük arra, hogy a személyes adatok különleges kategóriáit is kezeljék, jelentős közérdekből, a nagy kockázatú MI-rendszerekkel kapcsolatos torzítás nyomon követésének, észlelésének és korrekciójának biztosítása érdekében.

(44)

A kiváló minőségű adatokhoz való hozzáférés létfontosságú szerepet játszik számos MI-rendszer struktúrájának biztosításában és teljesítményének garantálásában , különösen a modellek tanítását magában foglaló technikák alkalmazása esetén, annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszer rendeltetésszerűen és biztonságosan működjön, és ne váljon az uniós jog által tiltott megkülönböztetés forrásává. A kiváló minőségű tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez megfelelő adatkormányzási és adatgazdálkodási gyakorlatokra van szükség. A tanulóadat- és adott esetben az érvényesítésiadat- és tesztadat-készleteknek , beleértve a címkéket is, kellően relevánsnak, reprezentatívnak és a hibamentesség tekintetében megfelelően ellenőrzöttnek és a lehető legteljesebbnek kell lenniük, tekintettel a rendszer rendeltetésére. Ezen adatkészleteknek rendelkezniük kell a megfelelő statisztikai tulajdonságokkal is, többek között azon személyek vagy személyek csoportjai tekintetében, akikre vagy amelyekre vonatkozóan a nagy kockázatú MI-rendszert használni kívánják , különös figyelmet fordítva az adatkészletek esetleges torzításainak enyhítésére, amelyek a nagy kockázatú MI-rendszer által érintett személyek számára alapvető jogokat érintő kockázatokhoz vagy diszkriminatív eredményekhez vezethetnek. Az alapul szolgáló adatkészletek torzíthatnak, különösen akkor, ha múltbeli adatokat használnak, amelyeket az algoritmusok fejlesztői tápláltak be, vagy amelyek akkor keletkeznek, amikor a rendszereket valós körülmények között alkalmazzák. Az MI-rendszerek által nyújtott eredményeket befolyásolják az említett torzulások, amelyek hajlamosak tovább növekedni, és ezáltal állandósítják és felerősítik a meglévő diszkriminációt, különösen a kisebbségi etnikai csoportokhoz tartozó személyek vagy a faji alapon megkülönböztetett közösségek esetében.  A tanulóadat-, érvényesítésiadat- és tesztadat-készleteknek különösen – a rendeltetésüktől függően szükséges mértékben – figyelembe kell venniük azokat a jellemzőket, tulajdonságokat vagy elemeket, amelyek azon sajátos földrajzi, kontextuális, magatartási vagy funkcionális környezethez vagy kontextushoz kapcsolódnak, amelyben az MI-rendszert használni kívánják. Annak érdekében, hogy megvédjék mások jogát az MI-rendszerek torzulásából eredő megkülönböztetéssel szemben, a szolgáltatóknak kivételesen és az e rendeletben és az (EU) 2016/679 rendeletben, az (EU) 2016/680 irányelvben és az (EU) 2018/1725 rendeletben foglalt valamennyi alkalmazandó feltétel alkalmazását követően képesnek kell lenniük arra, hogy a személyes adatok különleges kategóriáit is kezeljék, jelentős közérdekből, a nagy kockázatú MI-rendszerekkel kapcsolatos torzítás nyomon követésének, észlelésének és korrekciójának biztosítása érdekében. Negatív torzítás alatt olyan torzulás értendő, amely közvetlen vagy közvetett diszkriminatív hatást fejt ki valamely természetes személlyel szemben. Az adatkormányzással kapcsolatos követelmények teljesíthetők olyan harmadik felek igénybevételével, amelyek az adatkormányzás, az adatkészletek integritása, valamint az adatok tanítására, érvényesítésére és tesztelésére szolgáló gyakorlatok ellenőrzését magában foglaló tanúsított megfelelési szolgáltatásokat kínálnak.

(45)

A nagy kockázatú MI-rendszerek fejlesztése tekintetében bizonyos szereplőknek, például a szolgáltatóknak, a bejelentett szervezeteknek és más érintett jogalanyoknak, például a digitális innovációs központoknak, a tesztelési–kísérleti létesítményeknek és a kutatóknak lehetőséget kell biztosítani, hogy az e rendelethez kapcsolódó tevékenységi területükön belül hozzáférjenek a kiváló minőségű adatkészletekhez és használják őket. A Bizottság által létrehozott közös európai adatterek, valamint a vállalkozások közötti és a kormányzat felé irányuló, közérdekből történő adatmegosztás megkönnyítése alapvető fontosságúak lesznek ahhoz, hogy megbízható, elszámoltatható és megkülönböztetésmentes hozzáférést lehessen biztosítani az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatokhoz. Az egészségügy terén például az európai egészségügyi adattér megkönnyíti az egészségügyi adatokhoz való megkülönböztetésmentes hozzáférést és a mesterségesintelligencia-algoritmusok ezen adatkészletekre való tanítását a magánéletet védő, biztonságos, időszerű, átlátható és megbízható módon, valamint megfelelő intézményi irányítás mellett. Az adatokhoz való hozzáférést biztosító vagy támogató érintett illetékes hatóságok, beleértve az ágazati hatóságokat is, támogathatják az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatok szolgáltatását is.

(45)

A nagy kockázatú MI-rendszerek fejlesztése és értékelése tekintetében bizonyos szereplőknek, például a szolgáltatóknak, a bejelentett szervezeteknek és más érintett jogalanyoknak, például a digitális innovációs központoknak, a tesztelési–kísérleti létesítményeknek és a kutatóknak lehetőséget kell biztosítani, hogy az e rendelethez kapcsolódó tevékenységi területükön belül hozzáférjenek a kiváló minőségű adatkészletekhez és használják őket. A Bizottság által létrehozott közös európai adatterek, valamint a vállalkozások közötti és a kormányzat felé irányuló, közérdekből történő adatmegosztás megkönnyítése alapvető fontosságúak lesznek ahhoz, hogy megbízható, elszámoltatható és megkülönböztetésmentes hozzáférést lehessen biztosítani az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatokhoz. Az egészségügy terén például az európai egészségügyi adattér megkönnyíti az egészségügyi adatokhoz való megkülönböztetésmentes hozzáférést és a mesterségesintelligencia-algoritmusok ezen adatkészletekre való tanítását a magánéletet védő, biztonságos, időszerű, átlátható és megbízható módon, valamint megfelelő intézményi irányítás mellett. Az adatokhoz való hozzáférést biztosító vagy támogató érintett illetékes hatóságok, beleértve az ágazati hatóságokat is, támogathatják az MI-rendszerek tanításához, érvényesítéséhez és teszteléséhez szükséges kiváló minőségű adatok szolgáltatását is.

(45a)

A magánélet tiszteletben tartásához és az adatvédelemhez való jogot az MI-rendszer teljes életciklusa során garantálni kell. E tekintetben az adattakarékosság, valamint a beépített és alapértelmezett adatvédelem uniós adatvédelmi jogszabályokban meghatározott elve alapvető fontosságú, ha az adatkezelés jelentős kockázatot jelent az egyének alapvető jogaira nézve. Az MI-rendszerek szolgáltatóinak és felhasználóinak a legkorszerűbb technikai és szervezeti intézkedéseket kell megvalósítaniuk e jogok védelme érdekében. Ezeknek az intézkedéseknek nemcsak az anonimizálást és a titkosítást kell magukban foglalniuk, hanem az egyre inkább elérhető technológia használatát is, amely lehetővé teszi az algoritmusok adatokhoz rendelését, és anélkül szolgál értékes információkkal, hogy az adatokat a feleknek egymás között át kellene adniuk, illetve a nyers vagy strukturált adatokat szükségtelenül másolni kellene.

(46)

Az e rendelet szerinti követelményeknek való megfelelés ellenőrzéséhez elengedhetetlen az arra vonatkozó információszerzés, hogy hogyan fejlesztették ki a nagy kockázatú MI-rendszereket, és hogyan működnek teljes életciklusuk során. Ehhez nyilvántartást kell vezetni, és olyan műszaki dokumentációnak kell rendelkezésre állnia, amely tartalmazza az annak értékeléséhez szükséges információkat, hogy az MI-rendszer megfelel-e a vonatkozó követelményeknek. Ezeknek az információknak ki kell terjedniük a rendszer általános jellemzőire, képességeire és korlátaira, algoritmusaira, adataira, tanulási, tesztelési és érvényesítési folyamataira, valamint a vonatkozó kockázatkezelési rendszerrel kapcsolatos dokumentációra. A műszaki dokumentációt naprakészen kell tartani.

(46)

Az e rendelet szerinti követelményeknek való megfelelés ellenőrzéséhez elengedhetetlen az arra vonatkozó érthető információszerzés, hogy hogyan fejlesztették ki a nagy kockázatú MI-rendszereket, és hogyan működnek teljes élettartamuk során. Ehhez nyilvántartást kell vezetni, és olyan műszaki dokumentációnak kell rendelkezésre állnia, amely tartalmazza az annak értékeléséhez szükséges információkat, hogy az MI-rendszer megfelel-e a vonatkozó követelményeknek. Ezeknek az információknak ki kell terjedniük a rendszer általános jellemzőire, képességeire és korlátaira, algoritmusaira, adataira, tanulási, tesztelési és érvényesítési folyamataira, valamint a vonatkozó kockázatkezelési rendszerrel kapcsolatos dokumentációra. A műszaki dokumentációt az MI-rendszerek teljes életciklusa alatt megfelelően naprakészen kell tartani. Az MI-rendszerek életciklusuk alatt jelentős környezeti hatással és magas energiafogyasztással járhatnak. Az MI-rendszerek környezetre gyakorolt hatásának jobb megértése érdekében a szolgáltatók által készített műszaki dokumentációnak információkat kell tartalmaznia az MI-rendszer energiafogyasztásáról, beleértve a fejlesztés időtartama alatti fogyasztást és a használat közbeni várható fogyasztást is. Ezen információknak figyelembe kell venniük a vonatkozó uniós és nemzeti jogszabályokat. Ezeknek a bejelentett információknak érthetőnek, összehasonlíthatónak és ellenőrizhetőnek kell lenniük, és e célból a Bizottságnak iránymutatásokat kell kidolgoznia az említett információk kiszámítására és jelentésére vonatkozó harmonizált módszertan tekintetében. Az egységes dokumentáció lehetővé tétele érdekében az előírt dokumentációhoz és a vonatkozó uniós ágazati jogszabályokban előírt valamennyi dokumentációhoz kapcsolódó kifejezéseket és fogalommeghatározásokat a lehető legnagyobb mértékben össze kell hangolni.

(46a)

Az MI-rendszereknél az energia- és az erőforrás-felhasználás és a hulladék csökkentése, valamint az MI-rendszerek energiahatékonyságának és a rendszer általános hatékonyságának növelése érdekében figyelembe kell venni a legkorszerűbb módszereket és az alkalmazandó szabványokat. Az MI-rendszerek e rendelet alkalmazásában jelentős környezeti tényezői az MI-rendszer energiafogyasztása a fejlesztési, tanítási és telepítési szakaszban, valamint ezen adatok rögzítése, jelentése és tárolása. Az MI-rendszerek kialakításának lehetővé kell tennie az energia- és erőforrás-fogyasztás mérését és naplózását a fejlesztés, a tanítás és a telepítés minden egyes szakaszában. Az MI-rendszerek kibocsátásával kapcsolatos nyomon követésnek és jelentéstételnek megbízhatónak, átláthatónak, következetesnek és pontosnak kell lennie. E rendelet egységes alkalmazásának, valamint az egységes piacon működő szolgáltatók és alkalmazók stabil jogi ökoszisztémájának biztosítása érdekében a Bizottságnak egységes módszertani előírásokat kell kidolgoznia az energia- és erőforrás-fogyasztásra vonatkozó jelentéstételi és dokumentációs kötelezettség teljesítésére a fejlesztés, a tanítás és a telepítés során. A mérési módszertanra vonatkozó egységes előírások kidolgozhatnak egy olyan alapszintet, amelynek alapján a Bizottság a hatályos jogszabályokat figyelembe vevő hatásvizsgálat elvégzését követően jobban el tudja dönteni, hogy szükség van-e jövőbeli szabályozási beavatkozásokra.

(46b)

E rendelet célkitűzéseinek elérése, valamint az Unió környezetvédelmi célkitűzéseihez való – egyúttal a belső piac zavartalan működését is biztosító – hozzájárulás érdekében szükség lehet ajánlások és iránymutatások és végső soron fenntarthatósági célok meghatározására. E célból a Bizottság jogosult módszertant kidolgozni azzal a céllal, hogy hozzájáruljon a fő teljesítménymutatók (KPI-k) és a fenntartható fejlődési célokra vonatkozó referencia meghatározásához. A cél elsődlegesen az MI bevezetésével kapcsolatos döntések tisztességes összehasonlításának lehetővé tétele, ösztönzőket nyújtva a hatékonyabb MI-technológiák használatához, kezelve az energia és az erőforrásokkal kapcsolatos aggályokat. E cél elérése érdekében e rendeletnek biztosítania kell az eszközöket a fejlesztés és a tanítás során keletkező és a telepítéshez szükséges kibocsátásokra vonatkozóan bejelentett adatok referenciagyűjteményének létrehozásához.

(47a)

Az átláthatóságra és az MI döntéshozatalának megmagyarázhatóságára vonatkozó említett követelményeknek elő kell segíteniük a digitális aszimmetria, valamint az egyéneket és a tájékoztatáson alapuló beleegyezésüket célzó úgynevezett „sötét megoldások” visszatartó hatásainak ellensúlyozását is.

(49)

A nagy kockázatú MI-rendszereknek életciklusuk során következetesen kell működniük, és a technika általánosan elfogadott, mindenkori állásával összhangban megfelelő szintű pontosságot, stabilitást és kiberbiztonságot kell garantálniuk. A  pontosság szintjét és a  pontossági mérőszámokat közölni kell a  felhasználókkal .

(49)

A nagy kockázatú MI-rendszereknek életciklusuk során következetesen kell működniük, és a technika általánosan elfogadott, mindenkori állásával összhangban megfelelő szintű pontosságot, stabilitást és kiberbiztonságot kell garantálniuk. A  teljesítménymutatókat és azok várható szintjét azzal az elsődleges céllal kell meghatározni, hogy mérsékeljék az MI-rendszer egyénekre és a  társadalom egészére gyakorolt kockázatait és negatív hatásait. A teljesítménymutatók várható szintjét világos, átlátható, könnyen érthető és könnyen érthető és értelmezhető módon kell közölni az alkalmazókkal. A teljesítménymutatókra vonatkozó nyilatkozat nem tekinthető a jövőbeli szintek bizonyítékának, de megfelelő módszereket kell alkalmazni az egységes szintek biztosítása érdekében a használat során. Míg a szabványok megállapítására léteznek szabványügyi szervezetek, szükség van a teljesítményértékelés koordinálására is annak meghatározásához, hogy miként kell mérni ezeket a szabványosított követelményeket és az MI-rendszerek jellemzőit. A Mesterséges Intelligenciával Foglalkozó Európai Hivatalnak össze kell fognia a nemzeti és nemzetközi metrológiai és teljesítményértékelési hatóságokat, és nem kötelező erejű iránymutatást kell nyújtania a teljesítmény és a megbízhatóság megfelelő szintjei mérésének technikai szempontjaival kapcsolatban.

(50)

A műszaki stabilitás kulcsfontosságú követelmény a nagy kockázatú MI-rendszerek esetében. E rendszereknek reziliensnek kell lenniük a rendszer korlátaihoz kapcsolódó kockázatokkal (pl. hibák, meghibásodások, következetlenségek, váratlan helyzetek), valamint azokkal a rosszindulatú cselekményekkel szemben, amelyek veszélyeztethetik az MI-rendszer biztonságát és káros vagy egyéb nem kívánatos magatartáshoz vezethetnek. Az e kockázatokkal szembeni védelem hiánya biztonsági hatásokkal járhat, vagy negatívan érintheti az alapvető jogokat, például téves döntések vagy az MI-rendszer által generált hibás vagy torzított kimenetek miatt.

(50)

A műszaki stabilitás kulcsfontosságú követelmény a nagy kockázatú MI-rendszerek esetében. E rendszereknek reziliensnek kell lenniük a rendszer korlátaihoz kapcsolódó kockázatokkal (pl. hibák, meghibásodások, következetlenségek, váratlan helyzetek), valamint azokkal a rosszindulatú cselekményekkel szemben, amelyek veszélyeztethetik az MI-rendszer biztonságát és káros vagy egyéb nem kívánatos magatartáshoz vezethetnek. Az e kockázatokkal szembeni védelem hiánya biztonsági hatásokkal járhat, vagy negatívan érintheti az alapvető jogokat, például téves döntések vagy az MI-rendszer által generált hibás vagy torzított kimenetek miatt. Az MI-rendszer felhasználóinak lépéseket kell tenniük annak biztosítása érdekében, hogy a stabilitás és a pontosság közötti lehetséges kompromisszum ne vezessen diszkriminatív vagy negatív eredményekhez a kisebbségi alcsoportok számára.

(51)

A kiberbiztonság döntő szerepet játszik annak biztosításában, hogy az MI-rendszerek reziliensek legyenek a rendszer sebezhetőségét kihasználó, rosszhiszemű harmadik feleknek a használatuk, viselkedésük, teljesítményük megváltoztatására vagy biztonsági tulajdonságaik veszélyeztetésére irányuló kísérleteivel szemben. Az MI-rendszerek elleni kibertámadások befolyásolhatnak mesterségesintelligencia-specifikus eszközöket, például tanulóadat-készleteket (pl. adatmérgezés) vagy tanított modelleket (pl. ellenséges támadások), vagy kihasználhatják az MI-rendszer digitális eszközeinek vagy az alapul szolgáló IKT-infrastruktúrának a sebezhetőségét. A kockázatoknak megfelelő kiberbiztonsági szint biztosítása érdekében ezért a nagy kockázatú MI-rendszerek szolgáltatóinak megfelelő intézkedéseket kell hozniuk, adott esetben figyelembe véve az alapul szolgáló IKT-infrastruktúrát is.

(51)

A kiberbiztonság döntő szerepet játszik annak biztosításában, hogy az MI-rendszerek reziliensek legyenek a rendszer sebezhetőségét kihasználó, rosszhiszemű harmadik feleknek a használatuk, viselkedésük, teljesítményük megváltoztatására vagy biztonsági tulajdonságaik veszélyeztetésére irányuló kísérleteivel szemben. Az MI-rendszerek elleni kibertámadások befolyásolhatnak mesterségesintelligencia-specifikus eszközöket, például tanulóadat-készleteket (pl. adatmérgezés) vagy tanított modelleket (pl. ellenséges támadások vagy bizalmas adatok elleni támadások ), vagy kihasználhatják az MI-rendszer digitális eszközeinek vagy az alapul szolgáló IKT-infrastruktúrának a sebezhetőségét. A kockázatoknak megfelelő kiberbiztonsági szint biztosítása érdekében ezért a nagy kockázatú MI-rendszerek szolgáltatóinak , valamint a bejelentett szervezeteknek, a nemzeti illetékes hatóságoknak és a piacfelügyeleti hatóságoknak megfelelő intézkedéseket kell hozniuk, adott esetben figyelembe véve az alapul szolgáló IKT-infrastruktúrát is. A nagy kockázatú MI-hez a termék élettartama alatt – vagy ha az MI nem függ egy adott terméktől, akkor a gyártó által megadandó ideig – biztonsági megoldásokat és javításokat kell mellékelni.

(53a)

A fogyatékossággal élő személyek jogairól szóló ENSZ-egyezmény (UNCRPD) aláíróiként az Európai Unió és a tagállamok jogi kötelezettséget viselnek azért, hogy megvédjék a fogyatékossággal élő személyeket a megkülönböztetéssel szemben, és előmozdítsák egyenlőségüket, biztosítsák, hogy a fogyatékossággal élő személyek másokkal egyenlő alapon hozzáférjenek az információs és kommunikációs technológiákhoz és rendszerekhez, és biztosítsák a fogyatékossággal élő személyek magánéletének tiszteletben tartását. Tekintettel az MI-rendszerek növekvő jelentőségére és használatára, az egyetemes tervezés elveinek minden új technológiára és szolgáltatásra való alkalmazásának az MI-technológiák által potenciálisan érintett vagy azt használó minden személy – többek között a fogyatékossággal élők – számára biztosítania kell a teljes körű, egyenlő és korlátlan hozzáférést oly módon, hogy az teljes mértékben figyelembe vegye veleszületett méltóságukat és sokféleségüket. Ezért alapvető fontosságú, hogy a szolgáltatók biztosítsák az akadálymentességi követelményeknek, többek között az (EU) 2016/2102 irányelvnek és az (EU) 2019/882 irányelvnek való maradéktalan megfelelést. A szolgáltatóknak biztosítaniuk kell az e követelményeknek való, kialakítás általi beépített megfelelést. Ezért a szükséges intézkedéseket a lehető legnagyobb mértékben be kell építeni a nagy kockázatú MI-rendszer kialakításába.

(54)

A szolgáltatónak megbízható minőségirányítási rendszert kell létrehoznia, biztosítania kell az előírt megfelelőségértékelési eljárás elvégzését, el kell készítenie a vonatkozó dokumentációt, és létre kell hoznia egy stabil, forgalomba hozatal utáni nyomonkövetési rendszert. A nagy kockázatú MI-rendszereket saját használatra üzembe helyező hatóságok a minőségirányítási rendszerre vonatkozó szabályokat elfogadhatják és végrehajthatják a nemzeti vagy adott esetben regionális szinten elfogadott minőségirányítási rendszer részeként, figyelembe véve az ágazat sajátosságait, valamint a szóban forgó hatóság hatásköreit és szervezetét.

(54)

A szolgáltatónak megbízható minőségirányítási rendszert kell létrehoznia, biztosítania kell az előírt megfelelőségértékelési eljárás elvégzését, el kell készítenie a vonatkozó dokumentációt, és létre kell hoznia egy stabil, forgalomba hozatal utáni nyomonkövetési rendszert. Azon szolgáltatók számára, amelyek már rendelkeznek szabványokon, például az ISO 9001 szabványon vagy más vonatkozó szabványokon alapuló minőségirányítási rendszerrel, nem várható el teljes körű párhuzamos minőségirányítási rendszer, hanem meglévő rendszereiket kell az e rendelet konkrét követelményeinek való megfeleléshez kapcsolódó egyes szempontokhoz igazítaniuk. Ennek a jövőbeli szabványosítási tevékenységekben vagy a Bizottság által e tekintetben elfogadott iránymutatásokban is tükröződnie kell.  A nagy kockázatú MI-rendszereket saját használatra üzembe helyező hatóságok a minőségirányítási rendszerre vonatkozó szabályokat elfogadhatják és végrehajthatják a nemzeti vagy adott esetben regionális szinten elfogadott minőségirányítási rendszer részeként, figyelembe véve az ágazat sajátosságait, valamint a szóban forgó hatóság hatásköreit és szervezetét.

(56)

E rendelet végrehajtásának lehetővé tétele és az üzemeltetők számára egyenlő versenyfeltételek megteremtése érdekében, valamint figyelembe véve a digitális termékek rendelkezésre bocsátásának különböző formáit, fontos annak biztosítása, hogy az Unióban letelepedett személyek minden körülmények között megadhassák a hatóságoknak az MI-rendszerek megfelelőségével kapcsolatos összes szükséges információt. Ezért MI-rendszereiknek az Unióban való rendelkezésre bocsátását megelőzően , amennyiben az importőr nem azonosítható, az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással ki kell nevezzenek egy, az Unióban letelepedett meghatalmazott képviselőt.

(56)

E rendelet végrehajtásának lehetővé tétele és az üzemeltetők számára egyenlő versenyfeltételek megteremtése érdekében, valamint figyelembe véve a digitális termékek rendelkezésre bocsátásának különböző formáit, fontos annak biztosítása, hogy az Unióban letelepedett személyek minden körülmények között megadhassák a hatóságoknak az MI-rendszerek megfelelőségével kapcsolatos összes szükséges információt. Ezért MI-rendszereiknek az Unióban való rendelkezésre bocsátását megelőzően az Unión kívül letelepedett szolgáltatók írásbeli meghatalmazással ki kell nevezzenek egy, az Unióban letelepedett meghatalmazott képviselőt.

(58)

Tekintettel az MI-rendszerek jellegére, valamint az esetlegesen a használatukkal összefüggésben a biztonságot és az alapvető jogokat érintően felmerülő kockázatokra, ideértve azt is, hogy biztosítani kell az MI-rendszer teljesítményének valós körülmények között történő, megfelelő nyomon követését, helyénvaló konkrét kötelezettségeket meghatározni a felhasználók számára. Különösen fontos, hogy a felhasználók a használati utasításokkal összhangban használják a nagy kockázatú MI-rendszereket, és bizonyos egyéb kötelezettségeket is elő kell írni az MI-rendszerek működésének nyomon követésére és adott esetben a nyilvántartás vezetésére vonatkozóan.

(58)

Tekintettel az MI-rendszerek jellegére, valamint az esetlegesen a használatukkal összefüggésben a biztonságot és az alapvető jogokat érintően felmerülő kockázatokra, ideértve azt is, hogy biztosítani kell az MI-rendszer teljesítményének valós körülmények között történő, megfelelő nyomon követését, helyénvaló konkrét kötelezettségeket meghatározni az alkalmazók számára. Különösen fontos, hogy az alkalmazók a használati utasításokkal összhangban használják a nagy kockázatú MI-rendszereket, és bizonyos egyéb kötelezettségeket is elő kell írni az MI-rendszerek működésének nyomon követésére és adott esetben a nyilvántartás vezetésére vonatkozóan.

(58a)

Az MI-rendszerekkel kapcsolatos kockázatok keletkezhetnek egyrészt az ilyen rendszerek kialakításának módjából, másrészt származhatnak abból is, ahogyan az MI-rendszereket használják. A nagy kockázatú MI-rendszerek alkalmazói ezért kritikus szerepet játszanak az alapvető jogok védelmében, kiegészítve az MI-rendszer fejlesztése során a szolgáltatóra háruló kötelezettségeket . Helyzetüknél fogva az alkalmazók képesek a legjobban megérteni, hogy konkrétan hogyan használják majd a nagy kockázatú MI-rendszert, és ezért azonosítani tudják a fejlesztési szakaszban előre nem látott potenciális jelentős kockázatokat, mivel pontosabban ismerik a felhasználás körülményeit, a valószínűsíthetően érintett személyeket vagy személyek csoportjait, köztük a marginalizált és kiszolgáltatott csoportokat. Az alkalmazóknak megfelelő irányítási struktúrákat – például az emberi felügyeletre, a panaszkezelési eljárásokra és a jogorvoslati eljárásokra vonatkozó rendelkezéseket – kell meghatározniuk a használat adott konkrét összefüggésében, mivel az irányítási struktúrákban hozott döntések fontos szerepet játszhatnak abban, hogy konkrét felhasználási esetekben csökkentsék az alapvető jogokat fenyegető kockázatokat. Az alapvető jogok védelmének hatékony biztosítása érdekében a nagy kockázatú MI-rendszerek alkalmazójának tehát alapjogi hatásvizsgálatot kell végeznie az alkalmazás megkezdése előtt. A hatásvizsgálatot részletes tervnek kell kísérnie, amely ismerteti az alapvető jogokat érintő, legkésőbb az alkalmazás megkezdésének időpontjától kezdve azonosított kockázatok mérséklését elősegítő intézkedéseket vagy eszközöket. Ha ilyen terv nem határozható meg, az alkalmazónak tartózkodnia kell a rendszer alkalmazásának megkezdésétől. Az említett hatásvizsgálat elvégzésekor az alkalmazónak értesítenie kell a nemzeti felügyeleti hatóságot és – a lehető legnagyobb mértékben – az érintett érdekelt feleket, valamint az MI-rendszer által valószínűsíthetően érintett személyek csoportjainak képviselőit annak érdekében, hogy összegyűjtse a hatásvizsgálat elvégzéséhez szükségesnek ítélt lényeges információkat, és ösztönzést kap arra, hogy az alapjogi hatásvizsgálata összefoglalóját tegye nyilvánosan hozzáférhetővé internetes honlapján. Ezek a kötelezettségek nem alkalmazandók azokra a kkv-kra, amelyek erőforrások hiányában nehézségekbe ütközhetnek e konzultáció végrehajtása során. Mindazonáltal nekik is törekedniük kell az említett képviselők bevonására alapjogi hatásvizsgálatuk elvégzése során. Emellett a lehetséges hatásra és a demokratikus felügyelet és ellenőrzés szükségességére való tekintettel a nagy kockázatú MI-rendszerek azon alkalmazói számára, amelyek hatóságok vagy uniós intézmények, szervek, hivatalok és ügynökségek, valamint az (EU) 2022/1925 rendelet értelmében kapuőrnek minősülő alkalmazók, elő kell írni a nagy kockázatú MI-rendszer használatának nyilvános adatbázisban való regisztrálását. Más alkalmazók számára a regisztráció önkéntes.

(59)

Helyénvaló előirányozni, hogy az MI-rendszer felhasználója az a természetes vagy jogi személy, hatóság, ügynökség vagy más szerv legyen, amelynek felügyelete alatt az MI-rendszert működtetik, kivéve, ha a használatra személyes, nem szakmai jellegű tevékenység keretében kerül sor.

(59)

Helyénvaló előirányozni, hogy az MI-rendszer alkalmazója az a természetes vagy jogi személy, hatóság, ügynökség vagy más szerv legyen, amelynek felügyelete alatt az MI-rendszert működtetik, kivéve, ha a használatra személyes, nem szakmai jellegű tevékenység keretében kerül sor.

(60)

Az MI-értéklánc összetettségére tekintettel az érintett harmadik feleknek , különösen a  szoftverek, szoftvereszközök és -összetevők, előtanított modellek és adatok értékesítésében és beszállításában részt vevő harmadik feleknek, illetve a hálózati szolgáltatóknak adott esetben együtt kell működniük egyrészt a  szolgáltatókkal és a  felhasználókkal annak érdekében, hogy lehetővé tegyék számukra az e rendelet szerinti kötelezettségeknek való megfelelést, másrészt az e rendelet alapján létrehozott illetékes hatóságokkal .

(60)

Az MI-értékláncon belül több szervezet is gyakran nyújt olyan eszközöket és szolgáltatásokat, emellett pedig olyan összetevőket vagy folyamatokat, amelyeket a szolgáltató ezt követően beépít az MI-rendszerbe, többek között az adatgyűjtéssel és -előfeldolgozással, a modellek tanításával, a modellek újratanításával, a modellek tesztelésével és értékelésével, a szoftverbe való integrálással vagy a modellfejlesztés egyéb szempontjaival kapcsolatban. Az érintett szervezetek közvetlenül vagy közvetve kereskedelmileg hozzáférhetővé tehetik kínálatukat interfészeken, például alkalmazásprogramozási interfészeken (API) keresztül, és terjeszthetik azt szabad és nyílt forráskódú licencek alapján, de egyre gyakrabban MI-munkaerőplatformok, a tanított paraméterek viszonteladása, modellek építésére szolgáló „csináld magad készletek” keretében, vagy a modellek fejlesztését és tanítását lehetővé tevő modellkiszolgáló architektúrához való, fizetés ellenében nyújtott hozzáférést kínálva. Az MI-értéklánc ezen összetettségére tekintettel minden érintett harmadik félnek , különösen a szoftvereszközök és -összetevők, előtanított modellek vagy az MI-rendszerbe épített adatok fejlesztésében, értékesítésében és kereskedelmi szállításában részt vevő harmadik feleknek, illetve a hálózati szolgáltatóknak saját szellemitulajdon-jogaik vagy üzleti titkaik veszélyeztetése nélkül rendelkezésre kell bocsátaniuk a  szükséges információkat, képzést vagy szakértelmet, és együtt kell működniük a  szolgáltatókkal annak érdekében, hogy lehetővé tegyék számukra , hogy ellenőrzést gyakoroljanak az MI-rendszer megfelelés szempontjából releváns, e rendelet hatálya alá tartozó valamennyi szempontja felett. Az MI-értéklánc költséghatékony irányításának lehetővé tétele érdekében minden olyan harmadik félnek egyértelműen közzé kell tennie az ellenőrzés szintjét, amely olyan eszközt, szolgáltatást, komponenst vagy folyamatot biztosít szolgáltató számára, amelyet az később beépít az MI-rendszerbe.

(60a)

Amennyiben a felek egyike erősebb alkupozícióban van, fennáll a kockázat, hogy a másik szerződő fél kárára kihasználhatja ezt a pozíciót a magas kockázatú MI-rendszerben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállításáról, illetve a kapcsolódó kötelezettségek megsértése vagy megszűnése esetén fennálló jogorvoslatokról folytatott tárgyalások során. A szerződő felek közötti ilyen egyensúlytalanságok különösen hátrányosan érintik a mikro-, kis- és középvállalkozásokat, valamint az induló innovatív vállalkozásokat, kivéve, ha azok olyan vállalkozás tulajdonában vannak vagy olyan vállalkozás alvállalkozói, amely képes megfelelően kompenzálni őket, mivel képtelenek érdemben tárgyalni a szerződéses megállapodás feltételeiről, és nincs más választásuk, mint hogy elfogadják a megszabott szerződési feltételeket. Ezért indokolt, hogy a magas kockázatú MI-rendszerekben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállítását, illetve a kapcsolódó kötelezettségek megszegése vagy megszűnése esetén fennálló jogorvoslatokat szabályozó tisztességtelen szerződési feltételek ne legyenek kötelező erejűek az ilyen mikro-, kis- vagy középvállalkozásokra és induló innovatív vállalkozásokra, amennyiben azokat egyoldalúan kényszerítették rájuk.

(60b)

A szerződési feltételekre vonatkozó szabályoknak figyelembe kell venniük a szerződési szabadság elvét, amely alapvető fogalom a vállalkozások közötti kapcsolatokban. Ezért nem minden szerződési feltételt kell méltányosság hiányát megállapító tesztnek alávetni, hanem csak a mikro-, kis- és középvállalkozásokkal vagy induló innovatív vállalkozásokkal szemben egyoldalúan kikényszerített feltételeket. Ez olyan adott helyzetekre vonatkozik, amikor az egyik fél előír egy bizonyos szerződési feltételt, ám a mikro-, kis- vagy középvállalkozás vagy induló innovatív vállalkozás egyezkedési próbálkozásai ellenére sem tudja befolyásolni e feltétel tartalmát. Az egyik fél által egyszerűen előírt és a mikro-, kis- vagy középvállalkozás vagy induló innovatív vállalkozás által elfogadott szerződési feltétel, illetve a szerződő felek által megtárgyalt, majd később módosításokkal elfogadott szerződési feltétel nem tekinthető egyoldalúan kikényszerített feltételnek.

(60c)

Továbbá a tisztességtelen szerződési feltételekre vonatkozó szabályok kizárólag a szerződés azon elemeire alkalmazandók, amelyek a nagy kockázatú MI-rendszerben használt vagy abba integrált eszközök, szolgáltatások, összetevők vagy folyamatok szállításához, illetve a kapcsolódó kötelezettségek megszegése vagy megszűnése esetén fennálló jogorvoslatokhoz kapcsolódnak. Ugyanazon szerződés más, az említett elemekhez nem kapcsolódó részeit nem lehet az e rendeletben meghatározott, méltányosság hiányát megállapító teszt alá vonni.

(60d)

A tisztességtelen szerződési feltételek azonosítására szolgáló kritériumokat csak a túlzott szerződési feltételekre kell alkalmazni, amennyiben az egyik fél visszaél erősebb alkupozíciójával. A vállalkozások közötti szerződésekben szokásos feltételeket is ideértve, az egyik fél számára üzletileg kedvezőbb szerződési feltételek túlnyomó többsége a szerződési szabadság elvének szokásos megnyilvánulása, és továbbra is alkalmazandó. Ha egy szerződési feltétel nem szerepel azon feltételek felsorolásában, amelyek mindig tisztességtelennek minősülnek, a tisztességtelen jellegre vonatkozó általános rendelkezést kell alkalmazni. E tekintetben a tisztességtelen feltételként felsorolt feltételeknek mérceként kell szolgálniuk a tisztességtelen jellegre vonatkozó általános rendelkezés értelmezéséhez.

(60e)

Közelmúltbeli fejleményt képviselnek az alapmodellek, amelyek esetében az MI-modelleket általános jellegű és sokoldalú kimenetre való optimalizálásra tervezett algoritmusokból fejlesztik. Ezeket a modelleket gyakran adatforrások széles körén és nagy mennyiségű adaton tanítják downstream feladatok széles körének ellátására, beleértve olyan feladatokat is, amelyekre nem kifejezetten tervezték vagy tanították azokat. Az alapmodell lehet unimodális vagy multimodális, tanítása különböző módszerekkel, például ellenőrzött tanulással vagy megerősítéses tanulással történhet. Az alapmodell megvalósításai lehetnek speciális rendeltetésű vagy általános célú MI-rendszerek, ami azt jelenti, hogy minden egyes alapmodellt számtalan downstream MI-rendszerben vagy általános célú MI-rendszerben fel lehet újra használni. E modellek jelentősége egyre növekszik számos downstream alkalmazásban és rendszerben.

(60f)

A szolgáltatásként – például API-hozzáférés révén – nyújtott alapmodellek esetében a megfelelő kockázatcsökkentés lehetővé tétele érdekében a downstream szolgáltatókkal folytatott együttműködésnek ki kell terjednie a szolgáltatás nyújtásának és támogatásának teljes időtartamára, kivéve, ha az alapmodell szolgáltatója átadja a tanítási modellt, valamint az adatkészletekre és a rendszer fejlesztési folyamatára vonatkozó széles körű és megfelelő információkat, vagy korlátozza a szolgáltatást, például az API-hozzáférést oly módon, hogy a downstream szolgáltató az alapmodell eredeti szolgáltatójának további támogatása nélkül képes legyen teljes mértékben megfelelni e rendeletnek.

(60g)

Tekintettel az MI-rendszer értékláncának jellegére és összetettségére, alapvető fontosságú tisztázni azon szereplők szerepét, akik hozzájárulnak az MI-rendszerek fejlesztéséhez. Jelentős bizonytalanság övezi az alapmodellek jövőbeli fejlődését, mind a modellek tipológiája, mind az önszabályozás tekintetében. Ezért alapvető fontosságú tisztázni az alapmodellek szolgáltatóinak jogi helyzetét. Összetettségüket és nem várt hatásukat, valamint a downstream MI-szolgáltató alapmodell fejlesztése feletti ellenőrzésének hiányát és az ebből eredő kiegyensúlyozatlan erőviszonyokat figyelembe véve, valamint a felelősségi köröknek az MI-értékláncon belüli méltányos megosztásának biztosítása érdekében az ilyen modellekre arányos és részletesebb követelményeknek kell vonatkozniuk e rendelet értelmében, nevezetesen az alapmodelleknek megfelelő tervezés, tesztelés és elemzés révén értékelniük és csökkenteniük kell a lehetséges kockázatokat és károkat, adatkormányzási intézkedéseket kell végrehajtaniuk, beleértve a torzítások értékelését is, és a teljesítmény, a kiszámíthatóság, az értelmezhetőség, a korrigálhatóság, a biztonság és a kiberbiztonság megfelelő szintjének biztosítása érdekében műszaki tervezési követelményeknek kell megfelelniük, és környezetvédelmi előírásoknak kell eleget tenniük. Ezeket a kötelezettségeket szabványoknak kell kísérniük. Az alapmodelleknek emellett tájékoztatási kötelezettséggel kell rendelkezniük, és minden szükséges műszaki dokumentációt elő kell készíteni a potenciális downstream szolgáltatók számára ahhoz, hogy eleget tudjanak tenni az e rendelet szerinti kötelezettségeiknek. A generatív alapmodelleknek biztosítaniuk kell annak átláthatóságát, hogy a tartalmat nem ember, hanem MI-rendszer állítja elő. Ezek a részletes követelmények és kötelezettségek nem jelentik azt, hogy az alapmodellek magas kockázatú MI-rendszereknek tekintendők, de garantálniuk kell e rendelet azon célkitűzéseinek elérését, hogy biztosítsák az alapvető jogok, az egészség és a biztonság, a környezet, a demokrácia és a jogállamiság magas szintű védelmét. A szűkebb, kevésbé általános, korlátozott alkalmazási körre kifejlesztett, előtanított modellek, például az egyszerű többcélú MI-rendszerek, amelyek nem igazíthatók hozzá feladatok széles köréhez, e rendelet alkalmazásában nem tekinthetők alapmodellnek, mivel jobban értelmezhetők, ami kevésbé kiszámíthatatlanná teszi viselkedésüket.

(60h)

Az alapmodellek jellegéből adódóan a megfelelőségértékeléssel kapcsolatos szakértelem egyelőre hiányos, és a harmadik fél által végzett ellenőrzési módszerek még fejlesztés alatt állnak. Az ágazat ezért maga is új módszereket dolgoz ki azon alapvető modellek értékelésére, amelyek részben teljesítik az ellenőrzés célját (ilyen például a modellértékelés, a vörös csapat gyakorlatok vagy a gépi tanulásra vonatkozó ellenőrzési és érvényesítési technikák). Az alapmodellekre vonatkozó említett belső értékeléseknek az ilyen modellekre jellemző kockázatok kezelése érdekében széles körben alkalmazhatónak kell lenniük (pl. az értékesítési csatornáktól, a módozattól és a fejlesztési módszerektől függetlenül), figyelembe véve az iparág legkorszerűbb gyakorlatait, és a modell megfelelő műszaki megértésére és a felette gyakorolt ellenőrzésre, valamint a modell megfelelő eszközök – például független értékelők bevonása – révén történő átfogó elemzésére és tesztelésére kell összpontosítaniuk. Mivel az alapmodellek új és gyorsan változó fejleményt képviselnek a mesterséges intelligencia területén, helyénvaló, hogy a Bizottság és az MI-hivatal nyomon kövesse és rendszeres időközönként értékelje az ilyen modellekre és különösen az ilyen modelleken alapuló – az uniós jogot, a szerzői jogi szabályokat és az esetleges visszaéléseket sértő tartalomgenerálással kapcsolatban jelentős kérdéseket felvető – generatív MI-rendszerekre vonatkozó jogszabályi és irányítási keretet. Egyértelművé kell tenni, hogy ez a rendelet nem sértheti a szerzői és szomszédos jogokra vonatkozó uniós jogot, beleértve a 2001/29/EK, a 2004/48/EK és az (EU) 2019/790 európai parlamenti és tanácsi irányelvet.

(61)

A szabványosításnak kulcsszerepet kell játszania abban, hogy az e rendeletnek való megfelelés biztosítására megfelelő műszaki megoldások álljanak a szolgáltatók rendelkezésére. A szolgáltatók az 1025/2012/EU európai parlamenti és tanácsi rendeletben (54) meghatározott harmonizált szabványoknak való megfelelés révén bizonyíthatják az e rendelet követelményeinek való megfelelést. A  Bizottság azonban egységes műszaki előírásokat fogadhatna el azokon a  területeken , ahol nincsenek harmonizált szabványok , vagy ahol azok nem elégségesek .

(61)

A szabványosításnak kulcsszerepet kell játszania abban, hogy az e rendeletnek való megfelelés biztosítására megfelelő műszaki megoldások álljanak a szolgáltatók rendelkezésére. A szolgáltatók az 1025/2012/EU európai parlamenti és tanácsi rendeletben (54) meghatározott harmonizált szabványoknak való megfelelés révén bizonyíthatják az e rendelet követelményeinek való megfelelést. A  szabványok mint uniós szakpolitikai eszközök hatékonyságának biztosítása érdekében, valamint figyelembe véve a  szabványok fontosságát az e rendeletben foglalt követelményeknek való megfelelés biztosítása és a vállalkozások versenyképessége szempontjából , valamennyi érintett érdekelt fél szabványok kidolgozásába való bevonása révén biztosítani kell az érdekek kiegyensúlyozott képviseletét. A szabványosítási folyamatnak átláthatónak kell lennie a szabványosítási tevékenységekben részt vevő jogi és természetes személyek vonatkozásában.

(61a)

A megfelelés megkönnyítése érdekében a Bizottságnak legkésőbb két hónappal e rendelet hatálybalépését követően ki kell adnia az első szabványosítási kérelmeket. Ennek a jogbiztonság javítását kell szolgálnia, ezáltal előmozdítva a mesterséges intelligencia területén a beruházásokat és innovációt, valamint az uniós piac versenyképességét és növekedését, egyúttal erősítve az összes érintett európai érdekelt felet – például az MI-hivatalt, az európai szabványügyi szervezeteket és a vonatkozó ágazati uniós jog alapján létrehozott szerveket vagy szakértői csoportokat, valamint az ipart, a kkv-kat, az induló innovatív vállalkozásokat, a civil társadalmat, a kutatókat és a szociális partnereket – képviselő, többszereplős irányítást, és végső soron az uniós értékekkel összhangban elősegítve a szabványosítással kapcsolatos globális együttműködést a mesterséges intelligencia területén. A szabványosítási kérelem elkészítésekor a Bizottságnak a megfelelő szakértelem összegyűjtése érdekében konzultálnia kell az MI-hivatallal és a mesterséges intelligenciával foglalkozó tanácsadó fórummal.

(61b)

Ha az MI-rendszereket munkahelyeken kívánják alkalmazni, a harmonizált szabványoknak a műszaki előírásokra és eljárásokra kell korlátozódniuk.

(61c)

A Bizottság számára lehetővé kell tenni, hogy bizonyos feltételek mellett – amennyiben nem létezik vonatkozó harmonizált szabvány – egységes előírásokat fogadjon el, vagy kezelje az alapvető jogokkal kapcsolatos konkrét aggályokat. A teljes szövegezési folyamat során a Bizottságnak rendszeresen konzultálnia kell az MI-hivatallal és annak tanácsadó fórumával, az európai szabványügyi szervezetekkel és a vonatkozó uniós ágazati jog alapján létrehozott érintett szervekkel vagy szakértői csoportokkal, valamint az érdekelt felekkel, például az iparral, a kkv-kkal, az induló innovatív vállalkozásokkal, a civil társadalommal, a kutatókkal és a szociális partnerekkel.

(61d)

Az egységes előírások elfogadásakor a Bizottságnak törekednie kell az MI szabályozásának összehangolására a hasonló gondolkodású globális partnerekkel, ami kulcsfontosságú az innováció és a határokon átnyúló partnerségek előmozdítása szempontjából a mesterséges intelligencia területén, mivel a nemzetközi szabványügyi testületekben működő hasonló gondolkodású partnerekkel való koordináció rendkívül fontos.

(62)

A nagy kockázatú MI-rendszerek magas szintű megbízhatóságának biztosítása érdekében ezeket a rendszereket forgalomba hozataluk vagy üzembe helyezésük előtt megfelelőségértékelésnek kell alávetni.

(62)

A nagy kockázatú MI-rendszerek magas szintű megbízhatóságának biztosítása érdekében ezeket a rendszereket forgalomba hozataluk vagy üzembe helyezésük előtt megfelelőségértékelésnek kell alávetni. Az értéklánc iránti bizalom növelése érdekében, és hogy a vállalkozások bizonyosságot szerezzenek rendszereik teljesítményével kapcsolatban, az MI-összetevőket szállító harmadik felek önkéntes alapon kérhetnek harmadik fél által végzett megfelelőségértékelést.

(64)

Tekintettel a forgalomba hozatal előtti tanúsítást végző szakemberek által a termékbiztonság területén szerzett kiterjedtebb tapasztalatra és a felmerülő kockázatok eltérő jellegére, helyénvaló – legalább e rendelet alkalmazásának kezdeti szakaszában – korlátozni a harmadik fél által végzett megfelelőségértékelés alkalmazási körét a nem termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében. Ezért az ilyen rendszerek megfelelőségértékelését főszabályként a szolgáltatónak kell elvégeznie saját felelősségére, kivéve a személyek távoli biometrikus azonosítására használni tervezett MI-rendszereket, amelyek esetében elő kell írni, hogy egy bejelentett szervezet vegyen részt a megfelelőségértékelésben, amennyiben e rendszerek nem tiltottak.

(64)

Tekintettel a  nagy kockázatú MI-rendszerek összetett voltára és a hozzájuk kapcsolódó kockázatokra, alapvető fontosságú, hogy megfelelőbb kapacitás épüljön ki a nagy kockázatú MI-rendszerek harmadik fél általi megfelelőségértékelésének alkalmazására. Tekintettel ugyanakkor a forgalomba hozatal előtti tanúsítást végző szakemberek által a termékbiztonság területén szerzett jelenlegi tapasztalatra és a felmerülő kockázatok eltérő jellegére, helyénvaló – legalább e rendelet alkalmazásának kezdeti szakaszában – korlátozni a harmadik fél által végzett megfelelőségértékelés alkalmazási körét a nem termékekhez kapcsolódó nagy kockázatú MI-rendszerek esetében. Ezért az ilyen rendszerek megfelelőségértékelését főszabályként a szolgáltatónak kell elvégeznie saját felelősségére, kivéve a személyek távoli biometrikus azonosítására használni tervezett MI-rendszereket , illetve a természetes személyek személyes jellemzőire vonatkozó, biometrikus vagy biometrikus alapú adatokon alapuló következtetések levonására szánt MI-rendszereket – beleértve az érzelemfelismerő rendszereket – , amelyek esetében elő kell írni, hogy egy bejelentett szervezet vegyen részt a megfelelőségértékelésben, amennyiben e rendszerek nem tiltottak.

(65)

A személyek távoli biometrikus azonosítására használni tervezett MI-rendszerek harmadik fél általi megfelelőségértékelésének elvégzése érdekében a nemzeti illetékes hatóságoknak e rendelet alapján ki kell jelölniük bejelentett szervezeteket, feltéve hogy azok megfelelnek bizonyos, nevezetesen a függetlenségre, a szakértelemre és az összeférhetetlenség hiányára vonatkozó követelményeknek.

(65)

A harmadik fél általi megfelelőségértékelések kérésre történő elvégzése érdekében a nemzeti illetékes hatóságoknak e rendelet alapján ki kell jelölniük bejelentett szervezeteket, feltéve hogy azok megfelelnek bizonyos, nevezetesen a függetlenségre, a szakértelemre, az összeférhetetlenség hiányára vonatkozó követelményeknek és kiberbiztonsági minimumkövetelményeknek. A tagállamoknak ösztönözniük kell megfelelő számú megfelelőségértékelő szervezet kijelölését annak érdekében, hogy a tanúsítás kellő időben megvalósítható legyen. A megfelelőségértékelő szervezetek értékelésére, kijelölésére, bejelentésére és nyomon követésére vonatkozó eljárásokat az adminisztratív akadályok felszámolása és az egységes piacban rejlő lehetőségek kibontakoztatása érdekében a lehető legegységesebb módon kell végrehajtani a tagállamokban.

(65a)

A Kereskedelmi Világszervezetnek a kereskedelem technikai akadályairól szóló megállapodása szerinti uniós kötelezettségvállalásokkal összhangban helyénvaló az illetékes megfelelőségértékelő szervezetek által előállított teszteredmények minél szélesebb körű elfogadásának biztosítása, függetlenül e szervezetek letelepedési helyétől, amennyiben azok a rendelet alkalmazandó követelményeinek való megfelelés igazolásához szükségesek. A Bizottságnak e célból aktívan fel kell tárnia a lehetséges nemzetközi eszközöket, és különösen törekednie kell kölcsönös elismerési megállapodások megkötésére olyan országokkal, amelyek hasonló műszaki fejlettségi szinten állnak, és összeegyeztethető megközelítést alkalmaznak a mesterséges intelligencia és a megfelelőségértékelés tekintetében.

(66)

Az uniós harmonizációs jogszabályok által szabályozott termékek jelentős módosításának általánosan elfogadott fogalmával összhangban helyénvaló, hogy az MI-rendszereket új megfelelőségértékelésnek vessék alá, valahányszor olyan változás következik be, amely befolyásolhatja a  rendszer e rendeletnek való megfelelését, vagy amikor a rendszer rendeltetése megváltozik. Ezen túlmenően azon MI-rendszerek tekintetében, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is „tanulnak” (azaz automatikusan kiigazítják a funkciók ellátását), szabályokat kell előírni, amelyek megállapítják, hogy az algoritmusnak és a teljesítményének a szolgáltató által előre meghatározott és a megfelelőségértékelés időpontjában értékelt módosítása nem minősül jelentős módosításnak.

(66)

Az uniós harmonizációs jogszabályok által szabályozott termékek jelentős módosításának általánosan elfogadott fogalmával összhangban helyénvaló, hogy a nagy kockázatú MI-rendszereket új megfelelőségértékelésnek vessék alá, valahányszor olyan nem tervezett változás következik be, amely meghaladja a szolgáltató által végrehajtott, ellenőrzött és előre meghatározott változtatásokat, beleértve a folyamatos tanulást, és amely új, elfogadhatatlan kockázatot teremthet, és jelentős mértékben befolyásolhatja a  nagy kockázatú MI-rendszer e rendeletnek való megfelelését, vagy amikor a rendszer rendeltetése megváltozik. Ezen túlmenően azon MI-rendszerek tekintetében, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően is „tanulnak” (azaz automatikusan kiigazítják a funkciók ellátását), szabályokat kell előírni, amelyek megállapítják, hogy az algoritmusnak és a teljesítményének a szolgáltató által előre meghatározott és a megfelelőségértékelés időpontjában értékelt módosítása nem minősül jelentős módosításnak. Ugyanez vonatkozik az MI-rendszer általában biztonsági okokból, valamint a rendszer manipulálására irányuló, folyamatosan változó fenyegetésekkel szembeni védelme érdekében végrehajtott frissítéseire.

(67)

A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.

(67)

A nagy kockázatú MI-rendszereket CE-jelöléssel kell ellátni, amely jelzi az e rendeletnek való megfelelésüket, annak érdekében, hogy szabadon mozoghassanak a belső piacon. A nagy kockázatú fizikai MI-rendszerek esetében fizikai CE-jelölést kell elhelyezni, amely kiegészíthető digitális CE-jelöléssel. A kizárólag digitális nagy kockázatú MI-rendszerek esetében digitális CE-jelölést kell használni. A tagállamok nem akadályozhatják indokolatlanul az olyan nagy kockázatú MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyek megfelelnek az e rendeletben meghatározott követelményeknek és CE-jelöléssel vannak ellátva.

(68)

Bizonyos körülmények között az innovatív technológiák gyors rendelkezésre állása döntő fontosságú lehet a személyek egészsége és biztonsága, valamint a társadalom egésze szempontjából. Ezért helyénvaló, hogy a  közbiztonsághoz, a természetes személyek életének és egészségének védelméhez, valamint az ipari és kereskedelmi tulajdon védelméhez kapcsolódó kivételes okokból a tagállamok engedélyezhessék olyan MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyeket nem vontak megfelelőségértékelés alá.

(68)

Bizonyos körülmények között az innovatív technológiák gyors rendelkezésre állása döntő fontosságú lehet a személyek egészsége és biztonsága, a környezet és az éghajlat-változás, valamint a társadalom egésze szempontjából. Ezért helyénvaló, hogy a természetes személyek életének és egészségének védelméhez, a környezetvédelemhez, valamint a kritikus infrastruktúrák védelméhez kapcsolódó kivételes okokból a tagállamok engedélyezhessék olyan MI-rendszerek forgalomba hozatalát vagy üzembe helyezését, amelyeket nem vontak megfelelőségértékelés alá.

(69)

A Bizottság és a tagállamok által a mesterséges intelligencia területén végzett munka megkönnyítése, valamint a nyilvánosság számára biztosított átláthatóság növelése érdekében az olyan nagy kockázatú MI-rendszerek szolgáltatói számára, amelyek nem kapcsolódnak a vonatkozó meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez, elő kell írni, hogy nagy kockázatú MI-rendszereiket regisztrálják egy uniós adatbázisban, amelyet a Bizottságnak kell létrehoznia és kezelnie. Az (EU) 2018/1725 európai parlamenti és tanácsi rendelettel (55) összhangban a Bizottság kell legyen ezen adatbázis adatkezelője. Az adatbázis teljes körű működőképességének biztosítása érdekében a telepítéskor az adatbázis beállítására irányuló eljárásnak része kell legyen a működési előírások Bizottság általi kidolgozása és egy független ellenőrzési jelentés is.

(69)

A Bizottság és a tagállamok által a mesterséges intelligencia területén végzett munka megkönnyítése, valamint a nyilvánosság számára biztosított átláthatóság növelése érdekében az olyan nagy kockázatú MI-rendszerek szolgáltatói számára, amelyek nem kapcsolódnak a vonatkozó meglévő uniós harmonizációs jogszabályok hatálya alá tartozó termékekhez, elő kell írni, hogy nagy kockázatú MI-rendszereiket és alapmodelljeiket regisztrálják egy uniós adatbázisban, amelyet a Bizottságnak kell létrehoznia és kezelnie. Ennek az adatbázisnak szabadon és nyilvánosan hozzáférhetőnek, könnyen érthetőnek és géppel olvashatónak kell lennie. Az adatbázisnak emellett felhasználóbarátnak és könnyen navigálhatónak kell lennie, és legalább olyan keresési funkciókkal kell rendelkeznie, amelyek lehetővé teszik a nagyközönség számára, hogy a IV. melléklet szerinti konkrét nagy kockázatú rendszerekre, helyszínekre, kockázati kategóriákra és kulcsszavakra keressenek az adatbázisban. Azon alkalmazóknak, amelyek hatóságok vagy uniós intézmények, szervek, hivatalok és ügynökségek, illetve a nevükben eljáró alkalmazóknak, valamint azon alkalmazóknak, amelyek az (EU) 2022/1925 rendelet értelmében kapuőrré minősített vállalkozások, a nagy kockázatú MI-rendszer üzembe helyezése vagy első használata előtt és minden egyes jelentős módosítás után szintén regisztrálniuk kell az uniós adatbázisban. A többi alkalmazó számára biztosítani kell azt a jogot, hogy ezt önkéntes alapon tegye meg. A nagy kockázatú MI-rendszerek bármely jelentős módosítását is rögzíteni kell az uniós adatbázisban. Az (EU) 2018/1725 európai parlamenti és tanácsi rendelettel (55) összhangban a Bizottság kell legyen ezen adatbázis adatkezelője. Az adatbázis teljes körű működőképességének biztosítása érdekében a telepítéskor az adatbázis beállítására irányuló eljárásnak része kell legyen a működési előírások Bizottság általi kidolgozása és egy független ellenőrzési jelentés is. A Bizottságnak az uniós adatbázis adatkezelői feladatainak ellátása során figyelembe kell vennie a kiberbiztonsági és a veszélyforrásokkal kapcsolatos kockázatokat. Az adatbázis nyilvánosság általi hozzáférhetőségének és használatának maximalizálása érdekében az adatbázisnak és az annak révén rendelkezésre bocsátott információknak meg kell felelniük a 2019/882 irányelv követelményeinek.

(71)

A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amelynek tekintetében a szabályozási felügyelet új formáira és biztonságos kísérletezési térre van szükség, a felelősségteljes innovációnak, valamint a megfelelő biztosítékok és kockázatcsökkentő intézkedések integrálásának egyidejű biztosítása mellett. Az innovációbarát , időtálló és a zavarokkal szemben reziliens jogi keret biztosítása érdekében egy vagy több tagállam nemzeti illetékes hatóságait ösztönözni kell arra, hogy hozzanak létre mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezeteket annak érdekében, hogy megkönnyítsék az innovatív MI-rendszerek szigorú szabályozási felügyelet melletti fejlesztését és tesztelését e rendszerek forgalomba hozatala vagy más módon történő üzembe helyezése előtt.

(71)

A mesterséges intelligencia gyorsan fejlődő technológiacsalád, amelynek tekintetében szabályozási felügyeletre és biztonságos és ellenőrzött kísérletezési térre van szükség, a felelősségteljes innovációnak, valamint a megfelelő biztosítékok és kockázatcsökkentő intézkedések integrálásának egyidejű biztosítása mellett. Az innovációt előmozdító , időtálló és a zavarokkal szemben reziliens jogi keret biztosítása érdekében a tagállamoknak legalább egy mesterséges intelligenciával kapcsolatos szabályozói tesztkörnyezetet létre kell hozniuk annak érdekében, hogy megkönnyítsék az innovatív MI-rendszerek szigorú szabályozási felügyelet melletti fejlesztését és tesztelését e rendszerek forgalomba hozatala vagy más módon történő üzembe helyezése előtt. Valóban kívánatos, hogy a szabályozói tesztkörnyezetek létrehozása – amelyek létrehozása jelenleg a tagállamok mérlegelési jogkörébe tartozik – következő lépésként, meghatározott kritériumok mellett, kötelezővé váljon. Ezt a kötelező tesztkörnyezetet egy vagy több másik tagállammal közösen is létre lehet hozni, amennyiben az említett tesztkörnyezet lefedné az érintett tagállamok nemzeti szintjét. A határokon átnyúló együttműködés és a szinergiák előmozdítása érdekében további tesztkörnyezetek is létrehozhatók különböző szinteken, többek között tagállamokon átnyúló módon is. A nemzeti szintű kötelező tesztkörnyezet kivételével virtuális vagy hibrid tesztkörnyezet létrehozását is lehetővé kell tenni a tagállamok számára. Minden szabályozói tesztkörnyezetnek képesnek kell lennie fizikai és virtuális termékek befogadására egyaránt. A létrehozó hatóságoknak biztosítaniuk kell, hogy a szabályozói tesztkörnyezetek működésükhöz megfelelő pénzügyi és emberi erőforrásokkal rendelkezzenek.

(72)

A szabályozói tesztkörnyezetek célja a  mesterséges intelligenciával kapcsolatos innováció előmozdítása egy ellenőrzött kísérleti és tesztelési környezet létrehozásával a fejlesztési és forgalomba hozatalt megelőző szakaszban, annak biztosítása érdekében, hogy az innovatív MI-rendszerek megfeleljenek ennek a rendeletnek és más vonatkozó uniós és tagállami jogszabályoknak ; céljuk ezenfelül a jogbiztonság növelése az innovátorok számára, az illetékes hatóságok felügyeletének fokozása, valamint hogy az illetékes hatóságok jobban értsék a mesterséges intelligencia használatának lehetőségeit, felmerülő kockázatait és hatásait, továbbá a  piacra jutás felgyorsítása , többek között a  kis- és középvállalkozások (kkv-k) és az induló innovatív vállalkozások előtt álló akadályok felszámolása révén. Az Unió-szerte egységes végrehajtás és a méretgazdaságosság biztosítása érdekében helyénvaló közös szabályokat megállapítani a  szabályozói tesztkörnyezetek végrehajtására vonatkozóan, valamint meghatározni a tesztkörnyezetek felügyeletében részt vevő érintett hatóságok közötti együttműködés keretét. Az (EU) 2016/679 rendelet 6. cikkének (4) bekezdésével és az (EU) 2018/1725 rendelet 6. cikkével összhangban , valamint az (EU) 2016/680 irányelv 4 . cikke (2) bekezdésének sérelme nélkül, e rendeletnek jogalapot kell biztosítania az eltérő célból gyűjtött személyes adatok felhasználásához bizonyos MI-rendszerek közérdekű , MI szabályozási tesztkörnyezetben történő fejlesztése érdekében. A tesztkörnyezet résztvevőinek megfelelő biztosítékokat kell garantálniuk, és együtt kell működniük az illetékes hatóságokkal, többek között azáltal, hogy követik iránymutatásukat, valamint gyorsan és jóhiszeműen járnak el annak érdekében , hogy csökkentsék a  biztonsággal és az alapvető jogokkal kapcsolatos, a tesztkörnyezetben történő fejlesztés és kísérletezés során esetlegesen felmerülő jelentős kockázatot. A tesztkörnyezet résztvevőinek magatartását figyelembe kell venni, amikor az illetékes hatóságok az (EU) 2016/679 rendelet 83. cikkének (2) bekezdése és az (EU) 2016/680 irányelv 57. cikke szerinti közigazgatási bírság kiszabásáról döntenek.

(72)

A szabályozói tesztkörnyezetek célja: a  létrehozó hatóságok számára a műszaki fejlemények jobb megértése, a felügyeleti módszerek javítása és iránymutatás nyújtása az MI-rendszerek fejlesztői és szolgáltatói számára az e rendeletnek vagy adott esetben más alkalmazandó uniós és tagállami jogszabályoknak , valamint az Alapjogi Chartának való szabályozási megfelelés elérése érdekében; a leendő szolgáltatók számára az MI-rendszerekhez kapcsolódó innovatív megoldások tesztelésének és fejlesztésének lehetővé tétele és megkönnyítése a forgalomba hozatalt megelőző szakaszban a  jogbiztonság fokozása érdekében , a  szabályozó hatóság általi fokozottabb tanulás lehetővé tétele ellenőrzött környezetben annak érdekében, hogy jobb iránymutatást dolgozzanak ki, és azonosítsák a jogi keret lehetséges jövőbeli fejlesztéseit a  rendes jogalkotási eljáráson keresztül. Amennyiben az ilyen MI-rendszerek fejlesztése és tesztelése során jelentős kockázatok merülnek fel, azokat azonnal csökkenteni kell, illetve ennek hiányában a fejlesztési és tesztelési folyamatot mindaddig fel kell függeszteni , amíg az említett kockázatcsökkentésre sor nem kerül . Az Unió-szerte egységes végrehajtás és a méretgazdaságosság biztosítása érdekében helyénvaló közös szabályokat megállapítani a szabályozói tesztkörnyezetek végrehajtására vonatkozóan , valamint meghatározni a tesztkörnyezetek felügyeletében részt vevő érintett hatóságok közötti együttműködés keretét. A tagállamoknak biztosítaniuk kell , hogy a szabályozói tesztkörnyezetek Unió-szerte széles körben elérhetők legyenek, míg a részvételnek önkéntesnek kell maradnia. Különösen fontos biztosítani , hogy a  kkv-k és az induló innovatív vállalkozások könnyen hozzáférhessenek e tesztkörnyezetekhez , aktívan bevonják őket az innovatív MI-rendszerek fejlesztésébe és tesztelésébe, és abban tevékenyen részt vegyenek, hogy szakismeretükkel és tapasztalatukkal hozzájárulhassanak ahhoz .

(72a)

Kizárólag az (EU) 2016/679 rendelet 6. cikkének (4) bekezdésével és az (EU) 2018/1725 rendelet 6. cikkével összhangban meghatározott feltételeknek megfelelően, valamint az (EU) 2016/680 irányelv 4. cikke (2) bekezdésének sérelme nélkül e rendeletnek jogalapot kell biztosítania az eltérő célból gyűjtött személyes adatok felhasználásához bizonyos MI-rendszerek közérdekű, MI szabályozási tesztkörnyezetben történő fejlesztése érdekében. A tesztkörnyezetben a leendő szolgáltatóknak megfelelő biztosítékokat kell garantálniuk, és együtt kell működniük az illetékes hatóságokkal, többek között azáltal, hogy követik iránymutatásukat, valamint gyorsan és jóhiszeműen járnak el annak érdekében, hogy csökkentsék a biztonsággal, az egészséggel, a környezettel és az alapvető jogokkal kapcsolatos, a tesztkörnyezetben történő fejlesztés és kísérletezés során esetlegesen felmerülő jelentős kockázatot. A tesztkörnyezetben részt vevő leendő szolgáltatók magatartását figyelembe kell venni, amikor az illetékes hatóságok a tesztkörnyezetben való részvételük ideiglenes vagy végleges felfüggesztéséről vagy az (EU) 2016/679 rendelet 83. cikkének (2) bekezdése és az (EU) 2016/680 irányelv 57. cikke szerinti közigazgatási bírság kiszabásáról döntenek.

(72b)

Annak biztosítása érdekében, hogy a mesterséges intelligencia társadalmi és környezeti szempontból előnyös eredményekhez vezessen, a tagállamoknak támogatniuk kell és elő kell mozdítaniuk az MI-vel kapcsolatos kutatást és fejlesztést a társadalmi és környezeti szempontból előnyös eredmények támogatása érdekében, megfelelő források – többek között állami és uniós finanszírozás – biztosításával, valamint azzal, hogy a civil társadalom által irányított projektek számára elsőbbségi hozzáférést biztosítanak a szabályozási tesztkörnyezetekhez. Ezeknek a projekteknek az MI-fejlesztők, az egyenlőtlenséggel és a megkülönböztetésmentességgel, az akadálymentességgel, a fogyasztói, környezetvédelmi és digitális jogokkal foglalkozó szakértők, valamint a tudományos körök közötti interdiszciplináris együttműködés elvén kell alapulniuk.

(73)

Az innováció előmozdítása és védelme érdekében különös figyelmet kell fordítani az MI-rendszerek kis szolgáltatóinak és felhasználóinak érdekeire. E célból a tagállamoknak az említett üzemeltetőket célzó kezdeményezéseket kell kidolgozniuk, többek között a figyelemfelkeltésre és a tájékoztatásra vonatkozóan. Ezenkívül a megfelelőségértékelési díjak bejelentett szervezetek általi megállapításakor is figyelembe kell venni a kis szolgáltatók sajátos érdekeit és igényeit. A kötelező dokumentációhoz és a hatóságokkal folytatott kommunikációhoz kapcsolódó fordítási költségek jelentősek lehetnek a szolgáltatók és más üzemeltetők, különösen a kisebb szolgáltatók és üzemeltetők számára. A tagállamoknak lehetőség szerint biztosítaniuk kell, hogy az érintett szolgáltatók dokumentációja és az üzemeltetőkkel folytatott kommunikáció tekintetében általuk meghatározott és elfogadott nyelvek egyike olyan nyelv legyen, amelyet a lehető legtöbb, határon átnyúló tevékenységet folytató felhasználó széles körben ért.

(73)

Az innováció előmozdítása és védelme érdekében különös figyelmet kell fordítani az MI-rendszerek kis szolgáltatóinak és felhasználóinak érdekeire. E célból a tagállamoknak az említett üzemeltetőket célzó kezdeményezéseket kell kidolgozniuk, többek között a  mesterséges intelligencia terén szerzett jártasságra, a figyelemfelkeltésre és a tájékoztatásra vonatkozóan. A tagállamoknak ki kell használniuk a meglévő csatornákat, és adott esetben külön kommunikációs csatornát kell létrehozniuk a kkv-kkal, az induló innovatív vállalkozásokkal, a felhasználókkal és más innovátorokkal folytatandó kommunikációra, hogy iránymutatást nyújtsanak részükre, és megválaszolják az e rendelet végrehajtásával kapcsolatos kérdéseket. E meglévő csatornák közé tartozhatnak többek között az ENISA számítógép-biztonsági eseményekre reagáló csoportjai, a nemzeti adatvédelmi ügynökségek, az igényalapú MI-platform, az európai digitális innovációs központok, uniós programok által finanszírozott egyéb vonatkozó eszközök, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítmények. Adott esetben ezeknek a csatornáknak együtt kell működniük a szinergiák kialakítása és az induló innovatív vállalkozások, a kkv-k és a felhasználók számára nyújtott iránymutatások egységessége érdekében. Ezenkívül a megfelelőségértékelési díjak bejelentett szervezetek általi megállapításakor is figyelembe kell venni a kis szolgáltatók sajátos érdekeit és igényeit. A  Bizottságnak rendszeresen értékelnie kell a kkv-k és az induló innovatív vállalkozások tanúsítási és megfelelési költségeit, többek között a kkv-kkal, az induló innovatív vállalkozásokkal és a felhasználókkal folytatott átlátható konzultációk révén, és együtt kell működnie a tagállamokkal e költségek csökkentése érdekében. Például a kötelező dokumentációhoz és a hatóságokkal folytatott kommunikációhoz kapcsolódó fordítási költségek jelentősek lehetnek a szolgáltatók és más üzemeltetők, különösen a kisebb szolgáltatók és üzemeltetők számára. A tagállamoknak lehetőség szerint biztosítaniuk kell, hogy az érintett szolgáltatók dokumentációja és az üzemeltetőkkel folytatott kommunikáció tekintetében általuk meghatározott és elfogadott nyelvek egyike olyan nyelv legyen, amelyet a lehető legtöbb, határon átnyúló tevékenységet folytató felhasználó széles körben ért. Azoknak a középvállalkozásoknak, amelyek a 2003/361/EK ajánlás melléklete (16. cikk) értelmében a közelmúltban a kis- és középvállalkozások kategóriájába kerültek, a tagállamok által megfelelőnek ítélt ideig hozzá kell férniük ezekhez a kezdeményezésekhez és iránymutatásokhoz, mivel előfordulhat, hogy ezek az új középvállalkozások nem rendelkeznek a rendelkezések megfelelő megértéséhez és betartásához szükséges jogi erőforrásokkal és képzéssel.

(74)

A piaci ismeretek és szakértelem hiányából eredő végrehajtási kockázatok minimalizálása, valamint annak elősegítése érdekében, hogy a szolgáltatók és a bejelentett szervezetek teljesítsék az e rendelet szerinti kötelezettségeiket, az igényalapú MI-platformnak, az európai digitális innovációs központoknak, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítményeknek lehetőség szerint hozzá kell járulniuk e rendelet végrehajtásához. Megbízatásuk és hatáskörük keretein belül különösen technikai és tudományos támogatást nyújthatnak a szolgáltatóknak és a bejelentett szervezeteknek.

(74)

A piaci ismeretek és szakértelem hiányából eredő végrehajtási kockázatok minimalizálása, valamint annak elősegítése érdekében, hogy a szolgáltatók és a bejelentett szervezetek teljesítsék az e rendelet szerinti kötelezettségeiket, az igényalapú MI-platformnak, az európai digitális innovációs központoknak, valamint a Bizottság és a tagállamok által nemzeti vagy uniós szinten létrehozott tesztelési és kísérleti létesítményeknek hozzá kell járulniuk e rendelet végrehajtásához. Megbízatásuk és hatáskörük keretein belül különösen technikai és tudományos támogatást nyújthatnak a szolgáltatóknak és a bejelentett szervezeteknek.

(76)

E rendelet zökkenőmentes, hatékony és összehangolt végrehajtásának elősegítése érdekében létre kell hozni a Mesterséges Intelligenciával Foglalkozó Európai Testületet. A Testület felelősségi körébe kell utalni számos tanácsadói feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, köztük az e  rendeletben megállapított követelményekkel kapcsolatos műszaki előírásokat vagy meglévő szabványokat illetően , valamint a Bizottságnak a mesterséges intelligenciával kapcsolatos konkrét kérdésekben nyújtott tanácsadást és segítséget .

(76)

A belső piac széttagoltságának elkerülése, optimális működésének biztosítása, e rendelet hatékony és összehangolt végrehajtásának biztosítása, a megbízhatóság, valamint az egészség, a biztonság, az alapvető jogok, a környezet, a demokrácia és a jogállamiság védelme magas szintjének az MI-rendszerek tekintetében az Unió egész területén történő elérése, a nemzeti felügyeleti hatóságok, az uniós intézmények, szervek, hivatalok és ügynökségek e rendelettel összefüggő ügyekben történő aktív támogatása, valamint a mesterséges intelligencia Unió-szerte történő elterjedésének növelése érdekében létre kell hozni az Európai Unió Mesterséges Intelligenciával Foglalkozó Hivatalát. Az MI-hivatalnak jogi személyiséggel kell rendelkeznie, teljes mértékben függetlenül kell eljárnia, felelősségi körébe kell utalni számos tanácsadói és koordinációs feladatot, többek között vélemények, ajánlások, tanácsok vagy iránymutatások kiadását az e rendelet végrehajtásával kapcsolatos kérdésekben, továbbá megfelelő finanszírozást és személyzetet kell biztosítani számára. A tagállamoknak az MI-hivatal igazgatótanácsán keresztül, a Bizottsággal, az európai adatvédelmi biztossal, az Alapjogi Ügynökséggel és az ENISA-val együtt biztosítaniuk kell az MI-hivatal stratégiai irányítását és ellenőrzését. Az MI-hivatal titkársága által folytatott tevékenységek irányítását és az MI-hivatal képviseletét az ügyvezető igazgató látja el. Az érdekelt feleknek hivatalosan részt kell venniük az MI-hivatal munkájában egy olyan tanácsadó fórumon keresztül, amely biztosítja az érdekelt felek széles körű és kiegyensúlyozott képviseletét, és tanácsot ad az MI-hivatalnak az e rendelettel összefüggő kérdésekben. Amennyiben az MI-hivatal létrehozása nem bizonyul elégségesnek ahhoz, hogy uniós szinten garantálja e rendelet teljes mértékben következetes alkalmazását , valamint hogy hatékony, határokon átnyúló végrehajtási intézkedéseket biztosítson, fontolóra kell venni egy MI-ügynökség létrehozását .

(77)

A tagállamok kulcsszerepet játszanak e rendelet alkalmazásában és végrehajtásában. E tekintetben minden tagállamnak ki kell jelölnie egy vagy több nemzeti illetékes hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A  tagállamoknál a szervezeti hatékonyság növelése, valamint annak érdekében , hogy hivatalos kapcsolattartó pontot lehessen kijelölni a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé , minden tagállamban ki kell jelölni egy nemzeti hatóságot nemzeti felügyeleti hatóságnak .

(77)

Minden tagállamnak ki kell jelölnie egy nemzeti felügyeleti hatóságot e rendelet alkalmazásának és végrehajtásának felügyelete céljából. A  hatóságnak egyúttal saját tagállamát is képviselnie kell az AI-hivatal igazgatótanácsában. Ez növeli a tagállamoknál a szervezeti hatékonyságot , és hivatalos kapcsolattartó pontot jelöl ki a nyilvánosság és más, tagállami és uniós szintű partnerhatóságok felé . A nemzeti felügyeleti hatóságok az e rendelet alapján rájuk ruházott feladatok elvégzése és hatáskörök gyakorlása során teljesen függetlenül járnak el .

(77a)

A nemzeti felügyeleti hatóságoknak figyelemmel kell kísérniük az e rendelet szerinti rendelkezések alkalmazását, és hozzá kell járulniuk a rendelet következetes alkalmazásához. E célból a nemzeti felügyeleti hatóságoknak együtt kell működniük egymással, a megfelelő illetékes nemzeti hatóságokkal, a Bizottsággal és az MI-hivatallal.

(77b)

Az uniós vagy nemzeti jognak megfelelően mindegyik nemzeti felügyeleti hatóság tagját vagy tagjait és személyzetét a feladataik ellátása és hatáskörük gyakorlása során tudomásukra jutott bármely bizalmas információ tekintetében hivatali idejük alatt és annak lejártát követően is szakmai titoktartási kötelezettség terheli. Hivatali idejük alatt ez a szakmai titoktartási kötelezettség különösen vonatkozik az üzleti titkokra és a természetes személyek által e rendelet megsértését illetően tett bejelentésekre.

(78)

Annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek szolgáltatói figyelembe vehessék a nagy kockázatú MI-rendszerek használatával kapcsolatos tapasztalatokat rendszereik javítása, valamint a tervezési és fejlesztési folyamat során, vagy időben meghozhassanak bármely lehetséges korrekciós intézkedést, valamennyi szolgáltatónak rendelkeznie kell egy forgalomba hozatal utáni nyomonkövetési rendszerrel. Ez a rendszer annak biztosítása szempontjából is kulcsfontosságú, hogy hatékonyabban és időben lehessen kezelni az olyan MI-rendszerekből eredő lehetséges kockázatokat, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően továbbra is „tanulnak”. Ebben az összefüggésben a szolgáltatók számára elő kell írni, hogy rendelkezzenek olyan rendszerrel, amely jelentést tesz az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményekről, illetve az alapvető jogokat védő nemzeti és uniós jogszabályokkal szembeni jogsértésekről.

(78)

Annak biztosítása érdekében, hogy a nagy kockázatú MI-rendszerek szolgáltatói figyelembe vehessék a nagy kockázatú MI-rendszerek használatával kapcsolatos tapasztalatokat rendszereik javítása, valamint a tervezési és fejlesztési folyamat során, vagy időben meghozhassanak bármely lehetséges korrekciós intézkedést, valamennyi szolgáltatónak rendelkeznie kell egy forgalomba hozatal utáni nyomonkövetési rendszerrel. Ez a rendszer annak biztosítása szempontjából is kulcsfontosságú, hogy hatékonyabban és időben lehessen kezelni az olyan MI-rendszerekből eredő lehetséges kockázatokat, amelyek a forgalomba hozatalt vagy az üzembe helyezést követően továbbra is „tanulnak” vagy fejlődnek . Ebben az összefüggésben a szolgáltatók számára elő kell írni, hogy rendelkezzenek olyan rendszerrel, amely jelentést tesz az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményekről, illetve egyebek közt az alapvető jogokat és fogyasztói jogokat védő nemzeti és uniós jogszabályokkal szembeni jogsértésekről , és megfelelő korrekciós intézkedéseket hoz . Az alkalmazóknak is jelenteniük kell az illetékes hatóságoknak az MI-rendszereik használatából eredő súlyos váratlan eseményeket, illetve a nemzeti és uniós jogszabályok megsértését, ha tudomást szereznek ilyen súlyos váratlan eseményekről vagy jogsértésekről.

(79)

Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz.

(79)

Az ezen – uniós harmonizációs jogszabálynak minősülő – rendeletben meghatározott követelmények és kötelezettségek megfelelő és hatékony végrehajtásának biztosítása érdekében az (EU) 2019/1020 rendelettel létrehozott piacfelügyeleti és termékmegfelelőségi rendszert teljes egészében alkalmazni kell. E rendelet alkalmazásában a nemzeti felügyeleti hatóságoknak piacfelügyeleti hatóságként kell eljárniuk az e rendelet hatálya alá tartozó MI-rendszerek tekintetében, kivéve az e rendelet II. mellékletének hatálya alá tartozó MI-rendszereket. A II. mellékletben felsorolt jogi aktusok hatálya alá tartozó MI-rendszerek esetében továbbra is az adott jogi aktusok szerint illetékes hatóság a vezető hatóság. Amennyiben szükséges, a nemzeti felügyeleti hatóságoknak és a II. mellékletben felsorolt jogi aktusokban foglalt illetékes hatóságoknak együtt kell működniük. Adott esetben a II. mellékletben felsorolt jogi aktusokban foglalt illetékes hatóságoknak kompetens személyzetet kell küldeniük a nemzeti felügyeleti hatósághoz, hogy segítséget nyújtsanak feladatai ellátásában. E rendelet alkalmazásában a nemzeti felügyeleti hatóságoknak az (EU) 2019/1020 rendelet szerinti piacfelügyeleti hatóságokkal megegyező hatáskörökkel és kötelezettségekkel kell rendelkezniük. Amennyiben a megbízatásuk miatt szükséges, az alapvető jogokat védő uniós jog alkalmazását felügyelő nemzeti hatóságoknak vagy szerveknek, beleértve az egyenlőséggel foglalkozó szerveket is, hozzáférést kell biztosítani az e rendelet alapján létrehozott dokumentációhoz. A megfelelés értékelésére/ellenőrzésére szolgáló minden egyéb észszerű módszer kimerítését követően és indokolt kérésre a nemzeti felügyeleti hatóság számára hozzáférést kell biztosítani a nagy kockázatú MI-rendszer tanulóadat-, érvényesítésiadat- és tesztadat-készleteihez, betanított és tanítási modelljéhez, a releváns modellparamétereket és azok végrehajtási/üzemelési környezetét is beleértve. Az e rendelet hatálya alá tartozó, nem tanított modelleken alapuló, egyszerűbb szoftverrendszerek esetében, és amennyiben a megfelelőség ellenőrzésének minden egyéb módját kimerítette, a nemzeti felügyeleti hatóság – indokolással ellátott kérésre – kivételesen hozzáférhet a forráskódhoz. Amennyiben a nemzeti felügyeleti hatóság e rendelettel összhangban hozzáférést kapott a tanulóadat-, érvényesítésiadat- és tesztadat-készletekhez, ezt a hozzáférést megfelelő műszaki módszerekkel és eszközökkel, ezen belül helyi hozzáféréssel, kivételes körülmények között pedig távoli hozzáféréssel kell elérni. A nemzeti felügyeleti hatóságnak minden megszerzett információt – ideértve adott esetben a forráskódot, a szoftvert és az adatokat is – bizalmas információként kell kezelnie, és tiszteletben kell tartania a szellemi tulajdon és az üzleti titkok védelmére vonatkozó uniós jogszabályokat. A vizsgálat befejezését követően a nemzeti felügyeleti hatóságnak törölnie kell minden megszerzett információt.

(80)

A pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok tartalmaznak olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyeket az említett szolgáltatások nyújtása során alkalmazni kell a szabályozott pénzügyi intézményekre, többek között akkor is, ha MI-rendszereket használnak. Az e rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jogszabályok releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében a pénzügyi szolgáltatásokra vonatkozó jogszabályok felügyeletéért és végrehajtásáért felelős hatóságokat — beleértve adott esetben az Európai Központi Bankot is – illetékes hatóságnak kell kijelölni e rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében. A 2013/36/EU európai parlamenti és tanácsi irányelv (56) szerint szabályozott hitelintézetekre alkalmazandó szabályok és az e rendelet közötti összhang további növelése érdekében helyénvaló a megfelelőségértékelési eljárást és a szolgáltatók kockázatkezeléssel, forgalomba hozatal utáni nyomon követéssel és dokumentációval kapcsolatos egyes eljárási kötelezettségeit belefoglalni a 2013/36/EU irányelv szerinti meglévő kötelezettségekbe és eljárásokba. Az átfedések elkerülése érdekében korlátozott eltéréseket kell előirányozni a szolgáltatók minőségirányítási rendszerével és a nagy kockázatú MI-rendszerek felhasználóira rótt nyomonkövetési kötelezettséggel kapcsolatban is, amennyiben ezeket a 2013/36/EU irányelv által szabályozott hitelintézetekre alkalmazni kell.

(80)

A pénzügyi szolgáltatásokra vonatkozó uniós jog tartalmaz olyan belső irányítási és kockázatkezelési szabályokat és követelményeket, amelyeket az említett szolgáltatások nyújtása során alkalmazni kell a szabályozott pénzügyi intézményekre, többek között akkor is, ha MI-rendszereket használnak. Az e rendelet szerinti kötelezettségek és a pénzügyi szolgáltatásokra vonatkozó uniós jog releváns szabályai és követelményei koherens alkalmazásának és érvényesítésének biztosítása érdekében a pénzügyi szolgáltatásokra vonatkozó jog felügyeletéért és végrehajtásáért felelős illetékes hatóságokat — beleértve adott esetben az Európai Központi Bankot is – illetékes hatóságnak kell kijelölni e rendelet végrehajtásának felügyelete céljából, ideértve a piacfelügyeleti tevékenységeket is, a szabályozott és felügyelt pénzügyi intézmények által biztosított vagy használt MI-rendszerek tekintetében. A 2013/36/EU európai parlamenti és tanácsi irányelv (56) szerint szabályozott hitelintézetekre alkalmazandó szabályok és az e rendelet közötti összhang további növelése érdekében helyénvaló a megfelelőségértékelési eljárást és a szolgáltatók kockázatkezeléssel, forgalomba hozatal utáni nyomon követéssel és dokumentációval kapcsolatos egyes eljárási kötelezettségeit belefoglalni a 2013/36/EU irányelv szerinti meglévő kötelezettségekbe és eljárásokba. Az átfedések elkerülése érdekében korlátozott eltéréseket kell előirányozni a szolgáltatók minőségirányítási rendszerével és a nagy kockázatú MI-rendszerek alkalmazóira rótt nyomonkövetési kötelezettséggel kapcsolatban is, amennyiben ezeket a 2013/36/EU irányelv által szabályozott hitelintézetekre alkalmazni kell.

(80a)

Tekintettel e rendelet célkitűzéseire, nevezetesen a természetes személyek egészsége, biztonsága és alapvető jogai azonos szintű védelmének biztosítására, a jogállamiság és a demokrácia védelmének biztosítására, valamint figyelembe véve, hogy az MI-rendszerek által az említett jogokra jelentett kockázatok csökkentését nemzeti szinten nem lehet kielégítően megvalósítani, vagy eltérések lehetnek annak értelmezésében, ami végső soron a természetes személyek egyenlőtlen szintű védelméhez vezethet, és a piac széttöredezettségét okozhatja, a hatékony végrehajtás érdekében a nemzeti felügyeleti hatóságokat fel kell hatalmazni arra, hogy közös vizsgálatokat folytassanak, vagy az e rendeletben előírt uniós védintézkedési eljárásra támaszkodjanak. Közös vizsgálatot akkor kell kezdeményezni, ha a nemzeti felügyeleti hatóságnak elegendő oka van azt feltételezni, hogy e rendelet megsértése kiterjedt jogsértésnek vagy uniós dimenzióval rendelkező kiterjedt jogsértésnek minősül, vagy ha az MI-rendszer vagy alapmodell olyan kockázatot jelent, amely egynél több tagállamban legalább 45 millió egyént érint vagy érinthet.

(82)

Fontos, hogy azok a termékekhez kapcsolódó MI-rendszerek, amelyek e rendelet értelmében nem nagy kockázatúak, és ezért nem kötelesek megfelelni az e rendeletben meghatározott követelményeknek, mégis biztonságosak legyenek a forgalomba hozatalkor vagy az üzembe helyezéskor. E cél elérése érdekében a 2001/95/EK európai parlamenti és tanácsi irányelvet (57) biztonsági hálóként kellene alkalmazni.

(82)

Fontos, hogy azok a termékekhez kapcsolódó MI-rendszerek, amelyek e rendelet értelmében nem nagy kockázatúak, és ezért nem kötelesek megfelelni a nagy kockázatú MI-rendszerekre vonatkozó, e rendeletben meghatározott követelményeknek, biztonságosak legyenek a forgalomba hozatalkor vagy az üzembe helyezéskor. E cél elérése érdekében a 2001/95/EK európai parlamenti és tanácsi irányelvet (57) biztonsági hálóként kellene alkalmazni.

(83)

Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét.

(83)

Az illetékes hatóságok uniós és nemzeti szintű megbízható és konstruktív együttműködésének biztosítása érdekében az e rendelet alkalmazásában részt vevő valamennyi félnek törekednie kell az átláthatóságra és a nyitottságra, ugyanakkor tiszteletben kell tartania a feladatai ellátása során megszerzett információk és adatok bizalmas jellegét azáltal, hogy technikai és szervezeti intézkedéseket vezet be a tevékenysége során szerzett információk biztonságának és bizalmas jellegének védelme érdekében, többek között a szellemi tulajdonjogok, valamint a köz- és nemzetbiztonsági érdekek tekintetében. Amennyiben a Bizottság, az illetékes nemzeti hatóságok és az e rendelet szerint bejelentett szervezetek tevékenységei a szellemi tulajdonjogok megsértését eredményezik, a tagállamoknak megfelelő intézkedéseket és jogorvoslati lehetőségeket kell biztosítaniuk a szellemi tulajdonjogok érvényesítésének biztosítására a 2004/48/EK irányelv alkalmazásában.

(84)

A tagállamoknak minden szükséges intézkedést meg kell tenniük az e rendeletben foglalt rendelkezések végrehajtásának biztosítása érdekében, többek között azáltal, hogy hatékony, arányos és visszatartó erejű szankciókat állapítanak meg e rendelkezések megsértésének esetére. Egyes konkrét jogsértések esetében a  tagállamoknak figyelembe kell venniük az e rendeletben meghatározott mozgástereket és kritériumokat . Az európai adatvédelmi biztosnak hatáskörrel kell rendelkeznie arra, hogy pénzbírságot szabjon ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre.

(84)

Az e rendeletnek való megfelelést a nemzeti felügyeleti hatóság által az e rendeletben megállapított eljárás szerinti eljárás lefolytatása során bírság kiszabásával kell kikényszeríteni.  A tagállamoknak minden szükséges intézkedést meg kell tenniük az e rendeletben foglalt rendelkezések végrehajtásának biztosítása érdekében, többek között azáltal, hogy hatékony, arányos és visszatartó erejű szankciókat állapítanak meg e rendelkezések megsértésének esetére. Az e rendelet megsértése esetén alkalmazandó közigazgatási szankciók megerősítése és harmonizálása érdekében meg kell állapítani az egyes konkrét jogsértések esetében kiszabandó közigazgatási bírságok felső határait;  A  bírságok összegének megállapításakor a nemzeti illetékes hatóságoknak minden egyes esetben figyelembe kell venniük az adott helyzet valamennyi releváns körülményét, kellő figyelmet fordítva különösen a jogsértés és következményeinek jellegére, súlyosságára és időtartamára, valamint a szolgáltató méretére, különösen akkor, ha a szolgáltató kkv vagy induló vállalkozás . Az európai adatvédelmi biztosnak hatáskörrel kell rendelkeznie arra, hogy pénzbírságot szabjon ki az e rendelet hatálya alá tartozó uniós intézményekre, ügynökségekre és szervekre. Az e rendelet szerinti szankciók és perköltségek nem képezhetik szerződéses záradékok vagy egyéb megállapodások tárgyát.

(84a)

Mivel az MI-rendszerek súlyosan alááshatják a természetes és jogi személyek és természetes személyek csoportjainak jogait és szabadságait, alapvető fontosságú, hogy a természetes és jogi személyek vagy természetes személyek csoportjai érdemben hozzáférjenek a bejelentési és jogorvoslati mechanizmusokhoz, és jogosultak legyenek az arányos és hatékony jogorvoslathoz való hozzáférésre. Lehetővé kell tenni számukra, hogy e rendelet megsértését bejelenthessék a saját nemzeti felügyeleti hatóságuknak, és jogukban álljon panaszt tenni az MI-rendszerek szolgáltatóival vagy alkalmazóival szemben. Adott esetben az alkalmazóknak belső panasztételi mechanizmusokat kell biztosítaniuk, amelyeket természetes és jogi személyek vagy természetes személyek csoportjai használhatnak. Az egyéb közigazgatási vagy nem bírósági jogorvoslat sérelme nélkül a természetes és jogi személyeknek, valamint a természetes személyek csoportjainak hatékony bírósági jogorvoslathoz is joguk van a nemzeti felügyeleti hatóság rájuk vonatkozó, jogilag kötelező erejű határozatával szemben, vagy ha a nemzeti felügyeleti hatóság nem foglalkozik a panasszal, nem tájékoztatja a panaszost a benyújtott panasszal kapcsolatos fejleményekről vagy annak előzetes eredményéről, illetve nem tesz eleget a panasszal kapcsolatos végleges határozat meghozatalára vonatkozó kötelezettségének.

(84b)

Az érintett személyeket minden esetben tájékoztatni kell arról, hogy esetükben nagy kockázatú MI-rendszert használnak, amennyiben az alkalmazók nagy kockázatú MI-rendszert használnak a döntéshozatal segítésére vagy a természetes személyekkel kapcsolatos döntések meghozatalára. Ez a tájékoztatás alapul szolgálhat ahhoz, hogy az érintett személyek élhessenek az e rendelet szerinti magyarázathoz való jogukkal.Amennyiben az alkalmazók e rendelet alapján magyarázatot adnak az érintett személyeknek, figyelembe kell venniük az átlagfogyasztó vagy az egyén szakértelmének és ismereteinek szintjét.

(84c)

A visszaélést bejelentő személyek védelméről szóló uniós jog ((EU) 2019/1937 irányelv) teljes mértékben vonatkozik a tudományos szakemberekre, tervezőkre, fejlesztőkre, projektekben közreműködőkre, auditorokra, termékmenedzserekre, mérnökökre és gazdasági szereplőkre, akik tudomást szereznek az uniós jog valamely MI-rendszer szolgáltatója vagy annak MI-rendszere által történő megsértéséről.

(85)

Annak érdekében, hogy a szabályozási keret szükség esetén kiigazítható legyen, a Bizottságot fel kell hatalmazni arra, hogy az EUMSZ 290. cikkének megfelelően jogi aktusokat fogadjon el abból a célból, hogy módosítsa az I. mellékletben az MI-rendszerek meghatározása tekintetében említett technikákat és megközelítéseket, a II. mellékletben felsorolt uniós harmonizációs jogszabályokat, a III. mellékletben felsorolt nagy kockázatú MI-rendszereket, a IV. mellékletben felsorolt, a műszaki dokumentációra vonatkozó rendelkezéseket, az V. mellékletben szereplő EU-megfelelőségi nyilatkozat tartalmát, a VI. és VII. melléklet szerinti megfelelőségértékelési eljárásokra vonatkozó rendelkezéseket, valamint azokat a rendelkezéseket, amelyek megállapítják, hogy mely nagy kockázatú MI-rendszerekre kell minőségirányítási rendszerek értékelésén és a műszaki dokumentáció értékelésén alapuló megfelelőségértékelési eljárást alkalmazni. Különösen fontos, hogy a Bizottság az előkészítő munkája során megfelelő konzultációkat folytasson, többek között szakértői szinten is, és hogy e konzultációkra a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásnak (58) megfelelően kerüljön sor. A felhatalmazáson alapuló jogi aktusok előkészítésében való egyenlő részvétel biztosítása érdekében az Európai Parlament és a Tanács a tagállamok szakértőivel egyidejűleg kézhez kap minden dokumentumot, és szakértőik rendszeresen részt vehetnek a Bizottság felhatalmazáson alapuló jogi aktusok előkészítésével foglalkozó szakértői csoportjainak ülésein.

(85)

Annak érdekében, hogy a szabályozási keret szükség esetén kiigazítható legyen, a Bizottságot fel kell hatalmazni arra, hogy az EUMSZ 290. cikkének megfelelően jogi aktusokat fogadjon el abból a célból, hogy módosítsa a II. mellékletben felsorolt uniós harmonizációs jogszabályokat, a III. mellékletben felsorolt nagy kockázatú MI-rendszereket, a IV. mellékletben felsorolt, a műszaki dokumentációra vonatkozó rendelkezéseket, az V. mellékletben szereplő EU-megfelelőségi nyilatkozat tartalmát, a VI. és VII. melléklet szerinti megfelelőségértékelési eljárásokra vonatkozó rendelkezéseket, valamint azokat a rendelkezéseket, amelyek megállapítják, hogy mely nagy kockázatú MI-rendszerekre kell minőségirányítási rendszerek értékelésén és a műszaki dokumentáció értékelésén alapuló megfelelőségértékelési eljárást alkalmazni. Különösen fontos, hogy a Bizottság az előkészítő munkája során megfelelő konzultációkat folytasson, többek között szakértői szinten is, és hogy e konzultációkra a jogalkotás minőségének javításáról szóló, 2016. április 13-i intézményközi megállapodásnak (58) megfelelően kerüljön sor . E konzultációkat az érdekelt felek – többek között a fogyasztói szervezetek, a civil társadalom, az érintett személyeket képviselő egyesületek, a különféle ágazatokbeli és különböző méretű vállalkozások képviselői, valamint a kutatók és tudományos munkatársak – kiegyensúlyozott arányú részvételével kell megtartani . A felhatalmazáson alapuló jogi aktusok előkészítésében való egyenlő részvétel biztosítása érdekében az Európai Parlament és a Tanács a tagállamok szakértőivel egyidejűleg kézhez kap minden dokumentumot, és szakértőik rendszeresen részt vehetnek a Bizottság felhatalmazáson alapuló jogi aktusok előkészítésével foglalkozó szakértői csoportjainak ülésein.

(85a)

Tekintettel a gyors technológiai fejlődésre és a nagy kockázatú MI-rendszerek értékelésének elvégzéséhez szükséges technikai szakértelemre, a Bizottságnak rendszeresen, legalább évente felül kell vizsgálnia e rendelet végrehajtását, különös tekintettel a tiltott MI-rendszerekre, az átláthatósági kötelezettségekre, valamint a magas kockázatú területek és felhasználási esetek jegyzékére, ugyanakkor konzultálnia kell az MI-hivatallal és az érintett érdekelt felekkel.

(87a)

Mivel az MI-rendszerek és a kapcsolódó IKT-technológiák – többek között a szoftverek, a hardverek és különösen az adatközpontok – erőforrás- és energiafelhasználására, hulladéktermelésére és egyéb környezeti hatásaira vonatkozó megbízható információk korlátozottak, a Bizottságnak megfelelő módszertant kell bevezetnie e rendelet környezeti hatásának és hatékonyságának mérésére az uniós környezetvédelmi és éghajlati célkitűzések fényében.

(89)

Az (EU) 2018/1725 rendelet 42. cikkének (2) bekezdésével összhangban konzultációra került sor az európai adatvédelmi biztossal és az Európai Adatvédelmi Testülettel, aki/amely [… ]-án/-én nyilvánított véleményt,

(89)

Az (EU) 2018/1725 rendelet 42. cikkének (2) bekezdésével összhangban konzultációra került sor az európai adatvédelmi biztossal és az Európai Adatvédelmi Testülettel, aki/amely 2021 . június 18-án nyilvánított véleményt.

(1)

d)

harmonizált átláthatósági szabályok a természetes személyekkel való interakcióra szánt MI-rendszerek, az érzelemfelismerő rendszerek és a biometrikus kategorizálási rendszerek, valamint a kép-, audio- vagy videotartalom előállítására vagy manipulálására használt MI-rendszerek tekintetében ;

d)

bizonyos MI-rendszerekre vonatkozó harmonizált átláthatósági szabályok ;

e)

a piaci nyomon követésre és a  piacfelügyeletre vonatkozó szabályok.

e)

a piaci nyomon követésre , a piacfelügyeletre, az irányításra és a  végrehajtásra vonatkozó szabályok.

ea)

innovációt támogató intézkedések, különös hangsúlyt helyezve a kkv-kra és az induló vállalkozásokra, ideértve a szabályozói tesztkörnyezet létrehozását, valamint a kkv-kra és az induló vállalkozásokra nehezedő szabályozási terhek csökkentésére irányuló célzott intézkedéseket is;

eb)

az Unió Mesterséges Intelligenciával Foglalkozó Hivatalának (MI-hivatal) létrehozására és a működésére vonatkozó szabályok;

b)

az MI-rendszerek Unión belüli felhasználói ;

b)

az MI-rendszerek Unión belüli alkalmazói, vagy amelyek székhelye az Unión belül található ;

c)

az MI-rendszerek harmadik országban található szolgáltatói és felhasználói , ha a rendszer által előállított kimenetet az Unióban használják.

c)

az MI-rendszerek harmadik országban található szolgáltatói és alkalmazói , vagy amelyek székhelye olyan harmadik országban található, ahol a nemzetközi közjog értelmében valamelyik tagállam joga alkalmazandó, vagy ha a rendszer által előállított kimenetet az Unióban kívánják használni;

ca)

az 5. cikkben említett MI-rendszereket az Unión kívül forgalomba hozó vagy üzembe helyező szolgáltatók, amennyiben az ilyen rendszerek szolgáltatója vagy forgalmazója az Unión belül található;

cb)

az MI-rendszerek importőrei és forgalmazói, valamint az MI-rendszerek szolgáltatóinak meghatalmazott képviselői, amennyiben az ilyen importőrök, forgalmazók vagy meghatalmazott képviselők székhelye az Unióban található, vagy maguk is az Unióban találhatók;

cc)

a 3. cikk (8a) bekezdésében meghatározott érintett személyek, akik az Unióban találhatók, és akiknek egészségét, biztonságát vagy alapvető jogait hátrányosan érinti az Unióban forgalomba hozott vagy üzembe helyezett MI-rendszer használata.

a)

300/2008/EK rendelet;

b)

167/2013/EU rendelet;

c)

168/2013/EU rendelet;

d)

2014/90/EU irányelv;

e)

(EU) 2016/797 irányelv;

f)

(EU) 2018/858 rendelet;

g)

(EU) 2018/1139 rendelet;