INT/940

Mesterséges intelligencia/rendelet

VÉLEMÉNY

„Egységes piac, termelés és fogyasztás” szekció

Javaslat európai parlamenti és tanácsi rendeletre a mesterséges intelligenciára vonatkozó harmonizált szabályok (a mesterséges intelligenciáról szóló jogszabály) megállapításáról
és egyes uniós jogalkotási aktusok módosításáról
[COM(2021) 206 final – 2021/106 (COD)]

Előadó: Catelijne MULLER

1.Következtetések és ajánlások

1.1Az Európai Gazdasági és Szociális Bizottság (EGSZB) üdvözli, hogy az Európai Bizottság mesterséges intelligenciáról szóló jogszabályra irányuló javaslata nemcsak a mesterséges intelligenciával kapcsolatos kockázatokkal foglalkozik, hanem jelentősen emeli a mesterséges intelligencia minősége, teljesítménye és megbízhatósága tekintetében az EU által elfogadható mércét is. Az EGSZB különösen örvendetesnek tartja, hogy a mesterséges intelligenciáról szóló jogszabály az egészséget, a biztonságot és az alapvető jogokat helyezi a középpontba, és globális léptékű.

1.2Az EGSZB javítandó területként értékeli a tiltott MI-gyakorlatok alkalmazási körét, meghatározását és egyértelműségét, a „kockázati piramissal” kapcsolatban hozott besorolási döntések következményeit, a magas kockázatú mesterséges intelligenciára vonatkozó követelmények kockázatcsökkentő hatását, a mesterséges intelligenciáról szóló jogszabály végrehajthatóságát, valamint a meglévő szabályozáshoz és az elmúlt időszak egyéb szabályozási javaslataihoz való viszonyát.

1.3Az EGSZB hangsúlyozza, hogy a mesterséges intelligencia soha nem működött törvények nélküli világban. Kiterjedt hatálya, valamint uniós rendeletként való elsőbbsége miatt a mesterséges intelligenciáról szóló jogszabály feszültséget teremthet a meglévő nemzeti és uniós jogszabályokkal és a kapcsolódó szabályozási javaslatokkal. Az EGSZB a mesterséges intelligenciáról szóló jogszabály, illetve a meglévő és jövőbeli jogszabályok közötti kapcsolatok megfelelő tükrözése és tisztázása érdekében javasolja a (41) preambulumbekezdés módosítását.

1.4Az EGSZB ajánlja a mesterséges intelligencia fogalommeghatározásának tisztázását, ennek érdekében pedig az I. melléklet törlését, a 3. cikk kismértékű módosítását, valamint a mesterséges intelligenciáról szóló jogszabály hatályának a „korábbi MI-rendszerekre”, valamint a szabadságon, a biztonságon és a jog érvényesülésén alapuló térségben a nagy méretű IT-rendszerek (lásd a IX. melléklet szerinti felsorolást) mesterséges intelligenciát tartalmazó elemeire történő kiterjesztését.

1.5Az EGSZB a káros manipuláció tilalmának megtestesítéseként ajánlja a „szubliminális technikákra” és a „sebezhetőség kihasználására” vonatkozó tilalmak tisztázását, valamint e tilalmak feltételeinek az „alapvető jogok, a demokrácia és a jogállamiság sérelmével” való kiegészítését.

1.6Az EGSZB úgy véli, hogy az EU-ban nincs helye annak, hogy az uniós polgárok megbízhatóságát közösségi magatartásuk vagy személyiségjegyeik alapján pontozással értékeljék, függetlenül attól, hogy az értékelést milyen szereplő végzi. Az EGSZB ajánlja az erre vonatkozó tilalom hatályának kiterjesztését a magánszervezetek és a félig állami hatóságok által végzett közösségi pontozásra is.

1.7Az EGSZB szorgalmazza annak tilalmát, hogy a mesterséges intelligenciát nyilvános és magán helyeken történő, automatizált biometrikus felismerésre használják, kivéve, ha ez specifikus körülmények között hitelesítési célokat szolgál, illetve hogy a mesterséges intelligenciát emberi magatartásjegyek nyilvános és magán helyeken történő, automatizált felismerése céljából használják, kivéve egyes nagyon speciális eseteket, például ha bizonyos egészségügyi célokról van szó, amikor fontos lehet a betegek érzelmeinek felismerése.

1.8A magas kockázatú MI „listás” megközelítése azzal a veszéllyel jár, hogy olyan MI-rendszerek és használati módok válnak normává és jutnak általános érvényre, amelyeket még mindig erős kritika ér. Az EGSZB figyelmeztet arra, hogy a közepes és a magas kockázatú MI-re vonatkozó követelmények betartása nem feltétlenül csökkenti minden magas kockázatú MI esetében az egészséget, a biztonságot és az alapvető jogokat veszélyeztető kockázatokat. Az EGSZB azt ajánlja, hogy a mesterséges intelligenciáról szóló jogszabály rendelkezzen erről a helyzetről. Helyénvaló lenne legalább a megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásnak i. az emberi cselekvőképességgel, ii. a magánélet védelmével, iii. a sokféleséggel, megkülönböztetésmentességgel és méltányossággal, iv. a magyarázhatósággal és v. a környezeti és társadalmi jóléttel kapcsolatos követelményeit szerepeltetni.

1.9A mesterséges intelligencia régóta hangoztatott „emberi vezérlés” megközelítésével összhangban az EGSZB nyomatékosan ajánlja, hogy a mesterséges intelligenciáról szóló jogszabály rendelkezzen arról, hogy bizonyos döntések továbbra is kizárólagos emberi hatáskörben maradjanak, különösen azokon a területeken, ahol ezek a döntések morális elemet tartalmaznak, illetve jogi vagy társadalmi következményekkel járnak, mint például az igazságszolgáltatás, a bűnüldözés, a szociális szolgáltatások, az egészségügyi ellátás, a lakhatás, a pénzügyi szolgáltatások, a munkaügyi kapcsolatok és az oktatás területén.

1.10Az EGSZB azt ajánlja, hogy minden magas kockázatú MI esetében legyen kötelező a független megfelelőségértékelés.

1.11Az EGSZB panasztételi és jogorvoslati mechanizmus bevezetését javasolja azon szervezetek és polgárok számára, akik kárt szenvedtek a mesterséges intelligenciáról szóló jogszabály hatálya alá tartozó MI-rendszer, -gyakorlat vagy -használat miatt.

2.A mesterséges intelligenciával kapcsolatos szabályozási javaslat – A mesterséges intelligenciáról szóló jogszabály

2.1Az EGSZB üdvözli, hogy az Európai Bizottság mesterséges intelligenciáról szóló jogszabályra irányuló javaslata nemcsak a mesterséges intelligenciával kapcsolatos kockázatokkal foglalkozik, hanem jelentősen emeli a mesterséges intelligencia minősége, teljesítménye és megbízhatósága tekintetében az EU által elfogadható mércét is.

3.Átfogó megjegyzések – A mesterséges intelligenciáról szóló jogszabály

Cél és hatály

3.1Az EGSZB egyaránt üdvözli a mesterséges intelligenciáról szóló jogszabály célját és hatályát. Az EGSZB különösen üdvözli azt a tényt, hogy az Európai Bizottság az egészséget, a biztonságot és az alapvető jogokat helyezi a mesterséges intelligenciáról szóló jogszabály középpontjába. Az EGSZB üdvözli továbbá a mesterséges intelligenciáról szóló jogszabály külső hatását, amely biztosítja, hogy az EU-n kívül kifejlesztett MI esetében is azonos jogi normák legyenek érvényben, ha az MI az EU-ban kerül bevezetésre, vagy ott fejti ki hatását.

Az MI meghatározása

3.2Az MI fogalommeghatározása (a mesterséges intelligenciáról szóló jogszabály 3. cikke (1) bekezdésének az I. melléklettel együttes értelmezése) vitát váltott ki az MI-kutatók körében annak kapcsán, hogy az I. mellékletben több olyan példa is szerepel, amely az MI-kutatók szerint nem minősül MI-nek, ugyanakkor hiányzik több fontos MI-technika. Az EGSZB nem lát hozzáadott értéket az I. mellékletben, és javasolja annak teljes törlését a mesterséges intelligenciáról szóló jogszabályból. Az EGSZB továbbá ajánlja a 3. cikk (1) bekezdése szerinti fogalommeghatározás következők szerinti módosítását:

„»mesterségesintelligencia-rendszer« (MI-rendszer): olyan szoftver, amely automatizált módon, ember által meghatározott célkitűzések adott csoportja tekintetében olyan kimeneteket, például tartalmat, előrejelzéseket, ajánlásokat vagy döntéseket képes generálni, amelyek befolyásolják azt a környezetet, amellyel kölcsönhatásba lép.”

Egészség, biztonság és alapvető jogok – a kockázati piramis

3.3A számos általános MI-gyakorlat és területspecifikus MI-használati eset kategorizálására használt, fokozatosan növekvő „kockázati piramis” (alacsony/közepes kockázat – magas kockázat – elfogadhatatlan kockázat) elismeri, hogy nem minden MI jelent kockázatot, és nem minden kockázat azonos mértékű, illetve igényel azonos kockázatcsökkentési intézkedéseket.

3.4A választott megközelítés két fontos kérdést vet fel. Egyrészt azt, hogy a kockázatcsökkentő intézkedések (a magas kockázatú és az alacsony/közepes kockázatú MI esetében) valóban megfelelően csökkentik-e az egészséget, a biztonságot és az alapvető jogokat veszélyeztető kockázatokat. Másrészt pedig azt, hogy készek vagyunk-e lehetővé tenni a mesterséges intelligencia számára, hogy nagymértékben helyettesítse az emberi döntéshozatalt olyan kritikus folyamatokban is, mint a bűnüldözés és az igazságszolgáltatás.

3.5Az első kérdést illetően az EGSZB figyelmeztet arra, hogy a közepes és a magas kockázatú MI-re vonatkozó követelmények betartása nem feltétlenül csökkenti minden esetben az egészséget, a biztonságot és az alapvető jogokat veszélyeztető kockázatokat. Ezzel a 4. szakasz foglalkozik részletesebben.

3.6A második kérdést illetően a mesterséges intelligenciáról szóló jogszabályból éppen az a felfogás hiányzik, hogy az MI ígérete az emberi döntéshozatal és az emberi intelligencia fokozásában rejlik, nem pedig annak helyettesítésében. A mesterséges intelligenciáról szóló jogszabály arra a feltételezésre épül, hogy amint a közepes és a magas kockázatú MI követelményei teljesülnek, az MI nagyrészt helyettesítheti az emberi döntéshozatalt.

3.7Az EGSZB nyomatékosan ajánlja, hogy a mesterséges intelligenciáról szóló jogszabály rendelkezzen arról, hogy bizonyos döntések továbbra is kizárólagos emberi hatáskörben maradjanak, különösen azokon a területeken, ahol ezek a döntések morális elemet tartalmaznak, illetve jogi vagy társadalmi következményekkel járnak, mint például az igazságszolgáltatás, a bűnüldözés, a szociális szolgáltatások, az egészségügyi ellátás, a lakhatás, a pénzügyi szolgáltatások, a munkaügyi kapcsolatok és az oktatás területén.

3.8A mesterségesintelligencia-rendszerek nem egy jog nélküli világban működnek. Már ma is számos, a mesterségesintelligencia-rendszerekre vonatkozó vagy azokat érintő európai, nemzeti és nemzetközi szintű, jogilag kötelező erejű szabály létezik. Ilyen jogforrás például az elsődleges uniós jog (az Európai Unió szerződései és Alapjogi Chartája), a másodlagos uniós jog (például az általános adatvédelmi rendelet, a termékfelelősségről szóló irányelv, a nem személyes adatok szabad áramlásáról szóló rendelet, a megkülönböztetés elleni irányelvek, a fogyasztóvédelmi jog, valamint a munkahelyi biztonságról és egészségvédelemről szóló irányelvek), az ENSZ emberi jogi egyezményei és az Európa Tanács egyezményei (például az emberi jogok európai egyezménye), valamint számos uniós tagállami jogszabály. A horizontálisan alkalmazandó szabályok mellett különböző területspecifikus szabályok is léteznek, amelyek csak bizonyos MI-alkalmazásokra vonatkoznak (például az orvostechnikai eszközökről szóló rendelet az egészségügyi ágazatban). Az EGSZB azt ajánlja, hogy a (41) preambulumbekezdést úgy módosítsák, hogy mindezt megfelelően tükrözze.

4.Részletes megjegyzések és ajánlások – a mesterséges intelligenciáról szóló jogszabály

Tiltott MI-gyakorlatok

4.1Az EGSZB egyetért azzal, hogy az 5. cikk szerinti MI-gyakorlatok nem járnak társadalmi haszonnal, azokat tiltani kell. Úgy találja azonban, hogy helyenként a megfogalmazás nem egyértelmű, ami megnehezítheti egyes tilalmak értelmezését, így azok könnyen megkerülhetővé válhatnak.

4.2A szubliminális technikák bizonyítottan nemcsak fizikai vagy pszichológiai ártalmakhoz vezethetnek (ezek a vonatkozó tilalom alkalmazásának jelenlegi feltételei), hanem alkalmazási környezetüktől függően egyéb káros személyi, társadalmi vagy demokratikus hatásokkal – például a szavazási magatartás megváltozásával – is járhatnak. Ráadásul gyakran nem is maga a szubliminális technika alapul mesterséges intelligencián, hanem az a döntés, hogy az adott technika kit célozzon meg.

4.3Annak jobb megragadása érdekében, hogy a mesterséges intelligenciáról szóló jogszabály mit tiltson az 5. cikk (1) bekezdésének a) pontjában azon a címen, hogy az embereket káros magatartásra veszik rá, az EGSZB a következőképp javasolja módosítani a bekezdés szövegét: „olyan MI-rendszerek (...), amelyek elterjesztése, célja vagy használata lényegesen torzítja egy személy magatartását oly módon, amely sérti vagy sértheti e személynek vagy más személynek, illetve személyek egy csoportjának alapvető jogait, beleértve testi vagy lelki egészségüket és biztonságukat, vagy a demokráciát és a jogállamiságot”.

4.4Az EGSZB ajánlja az 5. cikk (1) bekezdésének b) pontjában a sebezhetőség kihasználására vonatkozóan előírt tilalom módosítását úgy, hogy az kiterjedjen az alapvető jogok sérelmére, beleértve a testi és lelki ártalmakat is.

4.5Az EGSZB üdvözli a „közösségi pontozás”-nak az 5. cikk (1) bekezdésének c) pontjában szereplő tilalmát. Az EGSZB azt ajánlja, hogy a társadalmi értékelés tilalma ne csak a hatóságokra, hanem a magánszervezetekre és a félig állami hatóságokra is vonatkozzon. Az EU-ban nincs helye annak, hogy az uniós polgárok megbízhatóságát közösségi magatartásuk vagy személyiségjegyeik alapján pontozással értékeljék, függetlenül attól, hogy az értékelést milyen szereplő végzi. Ellenkező esetben az EU utat nyitna a közösségi pontozás alkalmazásának több területen, például a munkahelyen. Az i. és ii. alpontban foglalt feltételeket pontosítani kell annak érdekében, hogy egyértelmű határvonalat lehessen húzni az értékelés egy bizonyos célra még elfogadható formájának, illetve a „közösségi pontozásnak” tekinthető esetek között, vagyis annál a pontnál, amikortól az értékeléshez felhasznált információ már nem tekinthető relevánsnak vagy az értékelés céljához észszerűen kapcsolódónak.

4.6A mesterséges intelligenciáról szóló jogszabály tiltaná a valós idejű távoli biometrikus azonosítást (például arcfelismerés ilyen célú alkalmazását) a bűnüldözés számára, más célú felhasználását pedig „magas kockázatúnak” minősítené. Ez a „nem valós idejű” és a „megközelítőleg valós idejű” biometrikus azonosítást továbbra is megengedi. Lehetővé teszi továbbá az olyan biometrikus azonosítást is, amelynek célja nem egy adott személy azonosítása, hanem viselkedésének a biometrikus jellemzői (mikro-arckifejezések, járás, testhőmérséklet, pulzusszám stb.) alapján történő értékelése. A „bűnüldözési célokra” való korlátozás lehetővé teszi a biometrikus azonosítást, valamint a biometria minden egyéb olyan formáját, amely nem az egyén azonosítására irányul, beleértve a bármely egyéb célból történő, bármely más szereplő által végzett „érzelemfelismerés” valamennyi említett formáját, történjen az bármilyen köz- vagy magánterületen, például munkahelyeken, üzletekben, stadionokban, színházakban stb.

4.7A mesterséges intelligenciáról szóló jogszabály az „érzelemfelismerést” általában alacsony kockázatúnak, egyes felhasználói területek esetében magas kockázatúnak minősíti. Az ilyen típusú biometrikus azonosítást „érzelmi arcfelismerésnek” és néha „viselkedésfelismerésnek” is nevezik. Az ilyen gyakorlatok minden típusa rendkívül tolakodó, tudományos szempontból megalapozatlan, emellett az Alapjogi Chartában rögzített több alapjogra, így az emberi méltósághoz való jogra, a személy sérthetetlenségéhez (ezen belül az érzelmi sérthetetlenséghez) való jogra, valamint a magánélethez való jogra nézve is jelentős kockázattal jár.

4.8Az európai adatvédelmi biztos és az Európai Adatvédelmi Testület arra vonatkozó 2021. június 21-i felhívásával összhangban, hogy tiltsák be a mesterséges intelligenciának az emberi tulajdonságok nyilvános helyeken történő automatikus felismerésére szolgáló, valamint egyes más, potenciálisan tisztességtelen megkülönböztetéshez vezető felhasználásait, az EGSZB a következőket kéri:

-Tiltsák be a mesterséges intelligencia automatizált biometrikus felismerésre (például az arc, a járás, a hang és egyéb biometrikus jegyek felismerésére) történő felhasználását nyilvános és magán helyeken, kivéve, ha ez specifikus körülmények között hitelesítési célokat szolgál (amilyen például a biztonsági szempontból érzékeny helyekre való beléptetés).

-Tiltsák be a mesterséges intelligencia emberi magatartásjegyek automatizált felismerésére szolgáló felhasználását nyilvános és magán helyeken.

-Tiltsák be, hogy biometrikus adatokat felhasználó MI-rendszerek segítségével egyéneket csoportosítsanak etnikai hovatartozás, nem, politikai vagy szexuális irányultság, illetve egyéb olyan szempontok szerint, amelyek alapján a Charta 21. cikke értelmében tilos a megkülönböztetés.

-Tiltsák be a mesterséges intelligencia természetes személyek érzelmeire, magatartására, szándékára vagy jellemvonásaira vonatkozó következtetés céljából történő használatát, kivéve az igen speciális eseteket, például egyes egészségügyi célokat, amikor fontos a betegek érzelmeinek felismerése.

Magas kockázatú mesterséges intelligencia

4.9Annak eldöntése során, hogy az egészségre, a biztonságra vagy az alapvető jogokra kockázatot jelentő MI-gyakorlat vagy -használat szigorú feltételek mellett mégis engedélyezhető legyen-e, az Európai Bizottság két elemet vizsgált meg: i. az adott MI-gyakorlat vagy -használat társadalmi előnyökkel járhat-e, és ii. az egészség, a biztonság és az alapvető jogok sérelmének a felhasználásból eredő kockázata meghatározott követelmények teljesítése esetén csökkenthető‑e.

4.10Az EGSZB üdvözli e követelményeknek a megbízható mesterséges intelligenciára vonatkozó etikai iránymutatás elemeihez való igazítását. öt, a megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásban foglalt fontos követelmény azonban nem szerepel kiemelten a mesterséges intelligenciáról szóló jogszabály magas kockázatú mesterséges intelligenciára vonatkozó követelményei között, nevezetesen: i. az emberi cselekvőképesség, ii. a magánélet védelme, iii. a sokféleség, a megkülönböztetésmentesség és a méltányosság, iv. a magyarázhatóság és v. a környezeti és társadalmi jólét. Az EGSZB ezt elmulasztott lehetőségnek tartja, mivel az MI jelentette kockázatok közül sok a magánélet védelmét, a torzítást, a kirekesztést, az MI által hozott döntések eredményeinek megmagyarázhatatlanságát, valamint az emberi cselekvőképesség és a környezet veszélyeztetését érinti, a felsoroltak mindegyikéhez pedig alapvető jogaink fűződnek.

4.11Az EGSZB javasolja a mesterséges intelligenciáról szóló jogszabály III. címének 2. fejezetében foglaltak kiegészítését az említett követelményekkel annak érdekében, hogy a jogszabály hatékonyabban védhesse egészségünket, biztonságunkat és alapvető jogainkat az – akár a hatóságok, akár magánszervek által használt – MI káros hatásaitól. 

4.12Az EGSZB üdvözli a mesterséges intelligenciáról szóló jogszabály és az uniós harmonizációs jogszabályok „összefonódó rendszerét”. Javasolja a mesterséges intelligenciáról szóló jogszabály hatályának, valamint a magas kockázatú mesterséges intelligenciára vonatkozó követelményeknek a kiterjesztését az „MI biztonsági elemeken” túl, illetve arra a helyzetre is, amikor maga az MI-rendszer a II. mellékletben felsorolt, uniós harmonizációs jogszabályok hatálya alá tartozó termék. Ennek az az oka, hogy az MI nem csak akkor jelenthet kockázatot, ha ilyen termékek biztonsági elemeként használják, hanem azért is, mert maga az MI-rendszer nem mindig termék. Példaként említhető az orvosi diagnosztikai vagy prognosztikai eszköz részeként használt MI, vagy a kazánt szabályozó, mesterséges intelligencián alapuló termosztát.

4.13Az EGSZB azonban figyelmeztet arra, hogy a magas kockázatú MI III. melléklet szerinti „listás” megközelítése jó néhány olyan MI-gyakorlat legitimálásához, normalizálásához és általános érvényesítéséhez vezethet, amelyeket még mindig erős kritika ér, és amelyek társadalmi előnyei megkérdőjelezhetők, vagy nem léteznek.

4.14Ezenfelül az egészséget, a biztonságot és az alapvető jogokat fenyegető kockázatokat nem lehet minden esetben csökkenteni a magas kockázatú MI-re vonatkozó öt követelmény betartásával, különösen akkor nem, ha az MI olyan alapvető jogokat érinthet, amelyekről általában kevesebb szó esik, mint amilyen – a teljesség igénye nélkül – az emberi méltósághoz, az ártatlanság vélelméhez, a tisztességes és igazságos munkafeltételekhez való jog, az egyesülés és a gyülekezés szabadsága vagy a sztrájkjog.

4.15Az EGSZB határozottan ajánlja a III. melléklet 2. pontjának kiegészítését a távközlési és az internetes infrastruktúra irányításával és működtetésével. Az EGSZB ajánlja továbbá e pont hatályának kiterjesztését az MI biztonsági elemekre.

4.16Az oktatáshoz való hozzáférés meghatározására és a diákok értékelésére szolgáló MI-rendszerek számos veszélyt jelentenek a diákok egészségére, biztonságára és alapvető jogaira nézve. Például az elvileg az online vizsgák során előforduló „gyanús magatartás” és „csalásra utaló jelek” mindenféle biometrikus és magatartáskövető módszer használatával történő megjelölése céljából alkalmazott online fegyelmi eszközök kétségtelenül tolakodók, emellett tudományosan megalapozatlanok.

4.17Az MI-rendszerek munkavállalók ellenőrzésére, nyomon követésére és értékelésére történő használata komoly aggályokat vet fel a munkavállalók tisztességes és igazságos munkafeltételekhez, tájékoztatáshoz és konzultációhoz, valamint indokolt elbocsátáshoz való alapvető jogait illetően. Ezeknek az MI-rendszereknek a magas kockázatú rendszerek listájára való felvétele a munkaviszony jogos vagy jogellenes megszüntetése, az egészséges és biztonságos munkafeltételek és a munkavállalók tájékoztatása terén valószínűleg a vonatkozó nemzeti munkaügyi jogszabályokba, illetve kollektív munkaügyi megállapodásokba ütközik. Az EGSZB kéri, hogy garantálják a munkavállalók és a szociális partnerek teljes körű bevonását és tájékoztatását a mesterséges intelligencia munkahelyi használatáról, valamint annak fejlesztéséről, beszerzéséről és bevezetéséről szóló döntéshozatali folyamatban.

4.18Az „emberi felügyelet” követelménye különösen releváns a munkaügyi kapcsolatokban, mivel a felügyeletet egy munkavállaló vagy a munkavállalók csoportja látja el. Az EGSZB hangsúlyozza, hogy e munkavállalóknak képzést kell kapniuk a feladatellátás megfelelő módjáról. Továbbá, mivel e munkavállalók számára lehetővé kell tenni, hogy figyelmen kívül hagyják a MI-rendszer eredményeit, vagy akár a rendszer teljes mellőzéséről döntsenek, olyan intézkedéseket szükséges bevezetni, amelyekkel biztosítható, hogy a munkavállalók ilyen döntésük esetén se tartsanak a negatív következményektől (például a lefokozástól vagy az elbocsátástól).

4.19Az MI-rendszerek használata a közszolgáltatásokhoz való hozzáférés és azok igénybevétele terén szélesebb körű, mint az alapvető magánszolgáltatásokhoz való hozzáféréssel és azok igénybevételével kapcsolatban, amennyiben ez utóbbiak esetében csak az MI alapú pontozásos hitel(képességi) vizsgálat minősül magas kockázatúnak. Az EGSZB ajánlja a III. melléklet 5. pont b) alpontja hatályának kiterjesztését az olyan MI-rendszerekre, amelyek célja az alapvető magánszolgáltatásokra való jogosultság értékelése.

4.20A bűnüldöző hatóságok által, valamint a migráció, a menekültügy és a határellenőrzés irányítása során egyéni (büntetőjogi vagy biztonsági) kockázatértékelések elvégzésére használt MI az ártatlanság vélelméhez és a védelemhez való jogot, valamint a menedékjogot veszélyezteti, amelyeket az Alapjogi Charta rögzít. Az MI-rendszerek általában csupán olyan összefüggéseket keresnek, amelyek más „esetekben” talált jellemzőkön alapulnak. Ezekben az esetekben a gyanú nem a valamely személy által elkövetett bűncselekmény vagy vétség tényleges gyanúján alapul, hanem pusztán olyan jellemzőkön, amelyek az adott személy és az elítélt bűnözők tekintetében közösek (például cím, jövedelem, állampolgárság, hiteltartozás, munkaviszony, viselkedés, ismerősök és családtagok viselkedése stb.).

4.21A mesterséges intelligencia használata az igazságszolgáltatásban és a demokratikus folyamatokban különösen érzékeny kérdés, ezért a jelenleginél árnyaltabb és alaposabb megközelítést igényel. Ha egy igazságügyi hatóság mindössze olyan rendszerre támaszkodik, amely segítséget nyújt számára a tények és a jogszabályok vizsgálatában és értelmezésében, és a jog konkrét tényállásra történő alkalmazásában, akkor elsikkad az a tény, hogy az ítélkezés sokkal több, mint a múltbeli adatok mintáinak feltárása (a jelenlegi MI-rendszerek lényegében nem tesznek mást). A szöveg emellett feltételezi, hogy az ilyen típusú MI csak segíteni fogja az igazságszolgáltatást, és alkalmazása nem terjed ki a teljesen automatizált bírósági döntéshozatalra. Az EGSZB sajnálatát fejezi ki továbbá amiatt, hogy nem esik szó az MI-rendszerekről, illetve azok felhasználásáról a demokratikus folyamatok, például a választások területén.

4.22Az EGSZB ajánlja egy olyan helyzeteket szabályozó rendelkezés beillesztését (például a mesterséges intelligenciáról szóló jogszabály 16. cikke g) pontjának módosításával), amikor az előzetes megfelelőségértékelés során bebizonyosodik, hogy a hat követelmény teljesülésével nem csökkennek megfelelő mértékben az egészséget, a biztonságot és az emberi jogokat veszélyeztető kockázatok.

Irányítás és végrehajthatóság

4.23Az EGSZB üdvözli a mesterséges intelligenciáról szóló jogszabállyal létrehozott irányítási struktúrát. Javasolja, hogy a Mesterséges Intelligenciával Foglalkozó Testület rendszeresen folytasson kötelező eszmecserét a szélesebb társadalommal, többek között a szociális partnerekkel és a nem kormányzati szervezetekkel.

4.24Az EGSZB határozottan ajánlja a mesterséges intelligenciáról szóló jogszabály hatályának kiterjesztését a „korábbi MI-rendszerekre”, azaz a már használatban lévő vagy a jogszabály hatálybalépése előtt kiépített rendszerekre is annak érdekében, hogy a tiltott, magas és közepes kockázatú MI-k gyorsított kiépítésével ne legyenek megkerülhetők a megfelelőségi követelmények. Az EGSZB azt is nyomatékosan javasolja, hogy a szabadságon, a biztonságon és a jog érvényesülésén alapuló térség IX. mellékletben felsorolt nagyméretű IT-rendszereinek részét képező mesterséges intelligenciát ne zárják ki a mesterséges intelligenciáról szóló jogszabály hatálya alól.

4.25A követelmények és az elszámoltathatósági tevékenységek összetettsége, valamint az önértékelés azzal a kockázattal jár, hogy a folyamatot olyan ellenőrző listákká egyszerűsítik, amelyeken elegendő az „igen” vagy „nem” válasz megjelölése a követelmények teljesítéséhez. Az EGSZB azt ajánlja, hogy minden magas kockázatú MI esetében legyen kötelező a független értékelés.

4.26Az EGSZB ajánlja megfelelő (pénzügyi) támogató intézkedések, továbbá egyszerű és hozzáférhető eszközök bevezetését a mikro- és kisvállalkozások, valamint a civil társadalmi szervezetek számára, amelyek segítségével azok megismerhetik a mesterséges intelligenciáról szóló jogszabály célját és értelmét, és képesek lesznek teljesíteni annak követelményeit. Ezeknek az intézkedéseknek a digitális innovációs központok támogatásán túlmutatva meg kell könnyíteniük a hozzáférést a mesterséges intelligenciáról szóló jogszabállyal, az abban előírt követelményekkel és kötelezettségekkel, és különösen ezek indokaival kapcsolatos magas szintű szakértői véleményekhez.

4.27Az EGSZB panasztételi és jogorvoslati mechanizmus bevezetését javasolja azon szervezetek és polgárok számára, akik kárt szenvedtek a mesterséges intelligenciáról szóló jogszabály hatálya alá tartozó MI-rendszer, -gyakorlat vagy -használat miatt.

Kelt Brüsszelben, 2021. szeptember 2-án.

Alain COHEUR

az „Egységes piac, termelés és fogyasztás” szekció elnöke

_____________