EURÓPAI BIZOTTSÁG

Brüsszel, 2020.2.19.

COM(2020) 64 final

A BIZOTTSÁG JELENTÉSE A TANÁCSNAK, AZ EURÓPAI PARLAMENTNEK ÉS AZ EURÓPAI GAZDASÁGI ÉS SZOCIÁLIS BIZOTTSÁGNAK

Jelentés a mesterséges intelligencia, a dolgok internete és a robotika biztonsági és felelősségi vonatkozásairól

Jelentés a mesterséges intelligencia, a dolgok internete és a robotika biztonsági és felelősségi vonatkozásairól

1.Bevezetés

A mesterséges intelligencia (a továbbiakban: MI) 1 , a dolgok internete 2 és a robotika új lehetőségeket és előnyöket teremt társadalmunk számára. A Bizottság felismerte e technológiák jelentőségét és a bennük rejlő potenciált, valamint azt, hogy ezeken a területeken jelentős beruházásokra van szükség. 3 Elkötelezett amellett, hogy Európát világelsővé tegye az MI, a dolgok internete és a robotika területén. E cél eléréséhez a technológiai kihívások kezelésére szolgáló egyértelmű és kiszámítható jogi keretre van szükség.

1.1.A meglévő biztonsági és felelősségi keret

A biztonságra és a felelősségre vonatkozó jogi keret általános célja annak biztosítása, hogy valamennyi termék és szolgáltatás – beleértve a kialakulóban lévő digitális technológiákat integrálókat is – biztonságosan, megbízhatóan és következetesen működjön, és hogy a bekövetkezett károkat hatékonyan orvosolják. Az új digitális technológiákat integráló termékek és rendszerek magas szintű biztonsága, valamint a bekövetkezett károk orvoslására szolgáló szilárd mechanizmusok (azaz a felelősségi keret) hozzájárulnak a fogyasztók hatékonyabb védelméhez. Emellett megteremtik a bizalmat e technológiák iránt, ami előfeltétele az ipar területén és a felhasználók körében való elterjedésüknek. Ez pedig fellendíti iparunk versenyképességét, és hozzájárul az uniós célkitűzések eléréséhez 4 . Az egyértelmű biztonsági és felelősségi keret különösen fontos az olyan új technológiák megjelenésekor, mint az MI, a dolgok internete és a robotika – a fogyasztóvédelem és a vállalkozások jogbiztonságának biztosítása érdekében egyaránt.

Az Unió szilárd és megbízható biztonsági és felelősségi szabályozási kerettel és szigorú biztonsági előírásokkal rendelkezik, amelyeket nemzeti, nem harmonizált felelősségi jogszabályok egészítenek ki. Ezek együttesen biztosítják polgáraink jólétét az egységes piacon, valamint ösztönzik az innovációt és a technológia elterjedését. Mindazonáltal az MI, a dolgok internete és a robotika számos termék és szolgáltatás jellemzőit átalakítja.

A Bizottság a Mesterséges intelligencia Európa számára 5 című, 2018. április 25-én elfogadott közleményében bejelentette, hogy jelentést nyújt be, amelyben értékeli a kialakulóban lévő digitális technológiáknak a meglévő biztonsági és felelősségi keretekre gyakorolt hatását. E jelentés célja, hogy azonosítsa és megvizsgálja a mesterséges intelligenciára, a dolgok internetére és a robotikára vonatkozó felelősségi és biztonsági keretek tágabb értelemben vett következményeit és esetleges hiányosságait. A mesterséges intelligenciáról szóló fehér könyvet kísérő szóban forgó jelentésben meghatározott irányvonalakról vita indul, és azok az érdekelt felekkel folytatott szélesebb körű konzultáció részét képezik. A biztonságról szóló szakasz a gépekről szóló irányelv 6 értékelésére 7 és a megfelelő szakértői csoportokkal 8 folytatott munkára épül. A felelősségről szóló szakasz a termékfelelősségről szóló irányelv 9 értékelésére 10 , a releváns szakértői csoportok 11 észrevételeire és az érdekelt felekkel való kapcsolattartásra támaszkodik. E jelentésnek nem célja, hogy kimerítő áttekintést nyújtson a biztonságot és felelősséget érintő meglévő szabályokról, hanem az eddig azonosított kulcsfontosságú kérdésekre összpontosít.

1.2.A mesterséges intelligenciával, a dolgok internetével és a robotikával kapcsolatos technológiák jellemzői

Az MI, a dolgok internete és a robotika számos közös jellemzővel rendelkezik. Képesek kombinálni a hálózati összekapcsoltságot, az autonómiát és az adatfüggőséget, hogy ily módon alacsony mértékű emberi ellenőrzés vagy felügyelet, illetve ennek teljes hiánya mellett végezzenek el feladatokat. A mesterséges intelligenciával ellátott rendszerek tapasztalatokból való tanulás útján is képesek javítani saját teljesítményüket. Összetettségük egyaránt tükröződik az ellátási láncban részt vevő gazdasági szereplők sokszínűségében, valamint az új technológiai ökoszisztémákat együttesen alkotó elemek, alkatrészek, szoftverek, rendszerek vagy szolgáltatások sokféleségében. Mindezt kiegészíti a piaci forgalomba hozatalukat követő frissítések és fejlesztések iránti nyitottság. Az érintett adatok hatalmas mennyisége, az algoritmusokra való támaszkodás és a mesterséges intelligenciával kapcsolatos döntéshozatal átláthatatlansága megnehezíti az MI-hátterű termékek viselkedésének előrejelzését és a kár lehetséges okainak megértését. Végezetül a hálózati összekapcsoltság és a nyitottság kiberfenyegetéseknek is kiteheti a mesterséges intelligencián és a dolgok internetén alapuló termékeket.

1.3.Az MI, a dolgok internete és a robotika által teremtett lehetőségek

A kialakulóban lévő technológiák iránti fogyasztói bizalom és azok társadalmi elfogadottságának növelése, a termékek, folyamatok és üzleti modellek javítása, valamint az európai gyártók hatékonyságának elősegítése csak néhány az MI, a dolgok internete és a robotika által teremtett lehetőségek közül.

A termelékenység és a hatékonyság fokozásán túl az MI annak az ígéretét is magában hordozza, hogy az emberek képessé válnak eddig még el nem ért intelligencia kifejlesztésére, ami új felfedezések előtt nyitná meg az utat, és elősegítené a világ előtt álló legnagyobb kihívások megoldását, legyen szó akár a krónikus betegségek kezeléséről, a járványok előrejelzéséről, a halálos közlekedési balesetet szenvedők arányának csökkentéséről, az éghajlatváltozás elleni küzdelemről vagy a kiberbiztonsági fenyegetések előrejelzéséről.

Ezek a technológiák számos előnnyel járhatnak, mivel általuk biztonságosabbá válnak a termékek, és így kevésbé vannak kitéve bizonyos kockázatoknak. Például a hálózatba kapcsolt és automatizált járműveknek köszönhetően javulhat a közúti biztonság, hiszen a legtöbb közúti balesetet jelenleg emberi hibák okozzák 12 . Ezen túlmenően a dolgok internetének rendszereit úgy alakították ki, hogy nagy mennyiségű, különböző forrásokból származó adatot fogadjanak és kezeljenek. Ezt a korábbinál jelentősebb információmennyiséget fel lehetne használni annak érdekében, hogy a termékek képesek legyenek önállóan alkalmazkodni a körülményekhez, és következésképpen biztonságosabbá váljanak. Az új technológiák hozzájárulhatnak a termékvisszahívások hatékonyságának fokozásához, így például a termékek figyelmeztethetnék a felhasználókat a biztonsági problémák elkerülésére 13 . Ha egy összekapcsolt termék használata során biztonsági probléma merül fel, a gyártók közvetlenül kommunikálhatnak a felhasználókkal, egyrészt azért, hogy figyelmeztessék a felhasználókat a kockázatokra, másrészt pedig azért, hogy – amennyiben lehetséges – közvetlenül orvosolják a problémát, például biztonsági frissítéssel. Például egy okostelefon-gyártó az egyik készülékének 2017-es visszahívása során szoftverfrissítést hajtott végre, hogy ezáltal nullára csökkentse a visszahívott telefonok akkumulátorkapacitását 14 , és így a felhasználók felhagyjanak a veszélyes készülékek használatával.

Ezenkívül az új technológiák hozzájárulhatnak a termékek nyomonkövethetőségének javításához. Például a dolgok internete által biztosított hálózati összekapcsoltságnak köszönhetően a vállalkozások és a piacfelügyeleti hatóságok nyomon követhetik a veszélyes termékeket és azonosíthatják az ellátási láncokban jelentkező kockázatokat 15 .

Mindazon lehetőségek mellett, amelyeket az MI, a dolgok internete és a robotika jelent a gazdaság és társadalmaink számára, ezek az új technológiák a jogilag védett – anyagi és nem anyagi – érdekek sérülésének kockázatát is hordozhatják. Az alkalmazási terület bővülésével nőni fog az ilyen károk előfordulásának kockázata. Ebben az összefüggésben alapvető fontosságú annak elemzése, hogy a biztonságra és felelősségre vonatkozó jelenlegi jogi keret alkalmas-e még a felhasználók védelmére, és ha igen, milyen mértékben.

2.Biztonság

A Bizottság „Az emberközpontú mesterséges intelligencia iránti bizalom növelése” című közleménye szerint „az AI-rendszereknek rendelkezniük kell beépített biztonsági és védelmi mechanizmusokkal annak érdekében, hogy az érintett személyek testi és szellemi biztonságának szempontjából a rendszer által végrehajtott minden lépés igazolhatóan biztonságos legyen. 16 ”

Az uniós termékbiztonsági jogszabályok értékelése ebben a szakaszban azt vizsgálja, hogy a jelenlegi uniós jogszabályi keret tartalmazza-e azokat a releváns elemeket, amelyek biztosítják, hogy a kialakulóban lévő technológiák és különösen az MI-rendszerek beépített módon integrálják a biztonsági és a védelmi jellemzőket.

Ez a jelentés elsősorban az általános termékbiztonsági irányelvet 17 , valamint a termékekre vonatkozó, az „új megközelítés” 18 és/vagy az „új jogszabályi keret” (a továbbiakban: uniós termékbiztonsági jogszabály vagy keret) 19 horizontális szabályait követő harmonizált jogszabályokat vizsgálja. A horizontális szabályok biztosítják a termékbiztonságra vonatkozó ágazati szabályok közötti koherenciát.

Az uniós termékbiztonsági jogszabályok célja annak biztosítása, hogy az uniós piacon forgalomba hozott termékek megfeleljenek a magas szintű egészségügyi, biztonsági és környezetvédelmi követelményeknek, és hogy az ilyen termékek szabadon mozoghassanak az Unió egész területén. Az ágazati jogszabályokat 20 az általános termékbiztonsági irányelv 21 egészíti ki, amely előírja, hogy minden fogyasztási cikknek biztonságosnak kell lennie, még akkor is, ha azt az uniós ágazati jogszabályok nem szabályozzák. A biztonsági szabályokat a piacfelügyelet, valamint a piacfelügyeleti rendelet 22 és az általános termékbiztonsági irányelv 23 értelmében a nemzeti hatóságokra ruházott hatáskörök egészítik ki. A közlekedés területén további uniós és nemzeti szabályok vonatkoznak a gépjárművek 24 , légi járművek vagy hajók üzembe helyezésére, továbbá egyértelmű szabályok alkalmazandók az üzemeltetés közbeni biztonságra, beleértve az üzemeltetők feladatait és a hatóságok felügyeleti feladatait is.

Az európai szabványosítás szintén az uniós termékbiztonsági jogszabályok alapvető elemét képezi. Tekintettel a digitalizálás és a kialakulóban lévő digitális technológiák globális jellegére, a szabványosítás terén folytatott nemzetközi együttműködés különösen fontos az európai ipar versenyképessége szempontjából.

Az uniós termékbiztonsági keret nagy része az olyan digitális technológiák megjelenése előtt készült, mint az MI, a dolgok internete vagy a robotika. Ezért az nem minden esetben tartalmaz olyan rendelkezéseket, amelyek kifejezetten e kialakulóban lévő technológiák új kihívásainak és kockázatainak orvosolását szolgálnák. Mivel azonban a meglévő termékbiztonsági keret technológiasemleges, ez nem jelenti azt, hogy a keret nem lenne alkalmazandó az ilyen technológiákat tartalmazó termékekre. Ezen túlmenően az e keret részét képező későbbi jogalkotási aktusok – például az orvostechnikai eszközök vagy a gépjárművek ágazatában – már kifejezetten figyelembe vették a digitális technológiák megjelenésének néhány szempontját, ideértve az automatizált döntéseket, a szoftvereket mint önálló termékeket és a hálózati összekapcsoltságot.

A hatályos uniós termékbiztonsági jogszabályok mögött meghúzódó logika 25

Az alábbiakban ismertetjük azokat a kihívásokat, amelyeket a kialakulóban lévő digitális technológiák jelentenek az uniós termékbiztonsági keret számára.

A hálózati összekapcsoltság a termékek és szolgáltatások egyre növekvő számának központi eleme. Ez a jellemző megkérdőjelezi a biztonság hagyományos koncepcióját, mivel a hálózati összekapcsoltság közvetlenül veszélyeztetheti a termék biztonságát, és közvetett veszélyt is magában hordozhat, amennyiben feltörhető, ami biztonsági fenyegetésekhez vezet és érinti a felhasználók biztonságát.

Erre példaként említhető az Izland által az Európai Uniós Gyors Tájékoztatási Rendszerbe (RAPEX) egy gyermek-okosórával kapcsolatban küldött értesítés 26 . A szóban forgó termék nem okozna közvetlen kárt az azt viselő gyermeknek, de mivel az óra nem rendelkezik a minimális biztonsági szinttel, azon keresztül könnyen kapcsolatba lehet lépni a gyermekkel. Mivel a termék egyik tervezett funkciója, hogy lokalizálás útján biztosítsa a gyermekek biztonságát, a fogyasztó joggal várja el, hogy a termék ne jelentsen olyan biztonsági fenyegetést a gyermekekre nézve, amely veszélyeztetheti a biztonságukat azáltal, hogy bárki nyomon követheti őket és/vagy kapcsolatba léphet velük.

Egy másik példa: Németország egy személygépkocsira vonatkozó ügyben nyújtott be értesítést 27 . A járműben lévő rádiónak bizonyos szoftverbiztonsági hiányosságai lehetnek, amelyek miatt illetéktelen harmadik felek férhetnek hozzá a jármű összekapcsolt vezérlőrendszereihez. Ha ezeket a szoftverbiztonsági hiányosságokat valamely harmadik fél rosszindulatú célokra használja ki, közúti baleset következhet be.

Az ipari alkalmazások a személyek biztonságát nagyobb mértékben érintő kiberfenyegetéseknek is ki lehetnek téve, ha az ilyen alkalmazások nem rendelkeznek a szükséges biztonsági szinttel. Ilyen eset lehet például az, ha valamilyen ipari létesítmény kritikus irányítási rendszerével szemben kibertámadást indítanak robbanás előidézése céljából, amely emberáldozatokkal is járhat.

Az uniós termékbiztonsági jogszabályok általában nem írnak elő kötelező lényegi követelményeket a felhasználók biztonságát érintő kiberfenyegetésekkel szembeni védelem tekintetében. Mindazonáltal az orvostechnikai eszközökről szóló rendelet 28 , a mérőműszerekről szóló irányelv 29 , a rádióberendezésekről szóló irányelv 30 vagy a járművek típusjóváhagyására vonatkozó jogszabályok 31 tartalmaznak a termékbiztonsági szempontokra vonatkozó rendelkezéseket. A kiberbiztonsági jogszabály 32 önkéntes kiberbiztonsági tanúsítási keretrendszert hozott létre az információs és kommunikációs technológiák (IKT) termékeire, szolgáltatásaira és folyamataira vonatkozóan, míg a vonatkozó uniós termékbiztonsági jogszabályok kötelező követelményeket határoznak meg.

Ezen túlmenően a kialakulóban lévő digitális technológiák hálózati összekapcsoltságának elvesztésével kapcsolatos kockázat egyben biztonsági kockázatot is jelenthet. Ha például egy összekapcsolt tűzjelző elveszíti a hálózati kapcsolatot, előfordulhat, hogy tűz esetén nem figyelmezteti a felhasználót.

A hatályos uniós termékbiztonsági jogszabályokban a biztonság közpolitikai célkitűzésnek számít. A biztonsági koncepció a termék használatához és a termék biztonságossá tétele érdekében kezelendő (pl. mechanikai, elektromos stb.) kockázatokhoz kapcsolódik. Megjegyzendő, hogy a termékbiztonságra vonatkozó adott uniós jogszabálytól függően a termék használata nemcsak a rendeltetésszerű, hanem az előrelátható használatot is magában foglalja, továbbá bizonyos esetekben – mint például a gépekről szóló irányelv 33 esetében – még az észszerűen előrelátható rendellenes használatot is.

Az autonómia 34 az MI egyik fő jellemzője. A mesterséges intelligencián alapuló nem kívánt eredmények kárt okozhatnak a felhasználóknak és a veszélyeztetett személyeknek.

Mivel a mesterséges intelligenciával rendelkező termékek jövőbeli „viselkedését” előre meg lehet határozni a gyártó által a termékek forgalomba hozatala előtt elvégzett kockázatértékelés alapján, az uniós termékbiztonsági keret már most is arra kötelezi a gyártókat, hogy a kockázatértékelés során vegyék figyelembe a termékek „használatát” 35 azok teljes élettartama alatt. Előírja továbbá, hogy a gyártóknak használati utasítást és biztonsági tájékoztatót vagy figyelmeztetést kell biztosítaniuk a felhasználók számára 36 . Ezzel összefüggésben például a rádióberendezésekről szóló irányelv 37 értelmében a gyártó köteles olyan használati utasítást mellékelni a termékhez, amely tájékoztatást nyújt arról, hogyan kell a rádióberendezést rendeltetésszerűen használni.

A jövőben előfordulhatnak olyan helyzetek is, amikor az MI-rendszerek eredményeit nem lehet előre teljes mértékben meghatározni. Ilyen helyzetben előfordulhat, hogy a termék forgalomba hozatala előtt elvégzett kockázatértékelés már nem tükrözi a termék használatát, működését vagy viselkedését. Ezekben az esetekben, amennyiben a gyártó által eredetileg tervezett felhasználás az autonóm viselkedés miatt módosul 38 , és az kihat a biztonsági követelményeknek való megfelelésre, fontolóra lehet venni az öntanuló termék 39 újbóli értékelését.

A jelenlegi keretek között, amikor a gyártók tudomást szereznek arról, hogy egy termék az életciklusa során veszélyt jelent a biztonságra, már most is kötelesek haladéktalanul tájékoztatni az illetékes hatóságokat, és intézkedéseket tenni a felhasználókat érintő kockázatok megelőzése érdekében 40 .

Az MI-hátterű termékek és rendszerek önálló tanulási képessége lehetővé teheti a gép számára, hogy olyan döntéseket hozzon, amelyek eltérnek a gyártók eredeti szándékától, és következésképpen a felhasználók elvárásaitól. Ez kérdéseket vet fel az emberi vezérléssel kapcsolatban, hogy az emberek megválaszthassák, hogyan ruházzák át, illetve átruházzák-e az MI-hátterű termékekre és rendszerekre a döntéseket, az ember által választott célok elérése érdekében 42 . A hatályos uniós termékbiztonsági jogszabályok nem foglalkoznak kifejezetten az emberi felügyelet kérdésével az MI-hátterű, önálló tanulási képességgel rendelkező termékek és rendszerek vonatkozásában 43 .

Az MI-alkalmazások jövőbeli „viselkedése” mentális egészségi kockázatokat 44  jelenthet a felhasználók számára, például az MI-hátterű humanoid robotokkal és rendszerekkel való – otthoni vagy munkakörnyezetben folytatott – együttműködésükből adódóan. E tekintetben manapság a termékbiztonság kérdése általában akkor merül fel, amikor a felhasználó által érzékelt, a kialakulóban lévő digitális technológiából eredő fizikai károsodás veszélyére utalnak. Ugyanakkor az uniós jogi keret a biztonságos termékeket olyan termékekként határozza meg, amelyek nem vagy csak a minimálisan veszélyeztetik az emberek biztonságát és egészségét. Általánosan elfogadott tény, hogy az egészség fogalommeghatározása magában foglalja mind a fizikai, mind a mentális jóllétet. Mindazonáltal a mentális egészségi kockázatokat kifejezetten bele kell foglalni a jogszabályi keretben szereplő termékbiztonság fogalmába.

Az autonómia például nem okozhat hosszan tartó túlzott stresszt és kényelmetlenséget, és nem károsíthatja a mentális egészséget. E tekintetben az idősek biztonságérzését kedvezően befolyásoló tényezők 45 a következők: biztonságos kapcsolat fenntartása az egészségügyi szolgálatok alkalmazottjaival, a szokásos napi teendők feletti rendelkezés, és a megfelelő tájékoztatás ezekről. Az idősekkel kapcsolatba kerülő robotok gyártóinak figyelembe kell venniük ezeket a tényezőket a mentális egészséggel kapcsolatos kockázatok megelőzése érdekében.

A mesterséges intelligencián alapuló termékek és rendszerek másik alapvető jellemzője az adatfüggőség. Az adatok pontossága és relevanciája elengedhetetlen annak biztosításához, hogy a mesterséges intelligencián alapuló rendszerek és termékek a gyártó szándékainak megfelelően hozzák meg döntéseiket.

Az uniós termékbiztonsági jogszabályok nem foglalkoznak kifejezetten a hibás adatokból eredő biztonsági kockázatokkal. Mindazonáltal a termék „használata” szerint a gyártóknak a tervezési és vizsgálati szakaszban fel kell mérniük az adatok pontosságát és a biztonsági funkciók szempontjából való relevanciáját.

Például előfordulhat, hogy egy mesterséges intelligencián alapuló rendszer, amelyet bizonyos tárgyak észlelésére terveztek, rossz világítási körülmények között nehezen képes felismerni a tárgyakat, ezért a tervezőknek mind a tipikus, mind a rosszul megvilágított környezetben végzett termékvizsgálatok során kapott adatokat is ismertetniük kell.

Másik példaként a mezőgazdasági robotokat említhetnénk, köztük a gyümölcsszedő robotokat, amelyek feladata, hogy a fákon vagy a földön felismerjék és megtalálják az érett gyümölcsöket. Jóllehet az alkalmazott algoritmusok már több mint 90 %-os sikerességi arányt mutatnak, az ezen algoritmusokat tápláló adatkészletek hiányossága miatt ezek a robotok rossz döntést hozhatnak, és ennek következtében sérülést okozhatnak valamilyen állatnak vagy személynek.

A mesterséges intelligencián alapuló termékek és rendszerek némelyikének másik fő jellemzője az átláthatatlanság, amely e termékek és rendszerek azon képességére vezethető vissza, hogy a teljesítményüket a tapasztalatokból való tanulás révén javítják. A módszertani megközelítéstől függően a mesterséges intelligencián alapuló termékeket és rendszereket különböző fokú átláthatatlanság jellemezheti. Ez azt eredményezheti, hogy a rendszer döntéshozatali folyamata nehezen nyomon követhető („feketedoboz-hatás”). Az embereknek adott esetben nem kell feltétlenül megérteniük a döntéshozatali folyamat minden egyes lépését, de mivel az MI-algoritmusok egyre fejlettebbek lesznek és kritikus területeken kerülnek alkalmazásra, döntő fontosságú, hogy az emberek képesek legyenek megérteni, hogy a rendszer milyen alapon hozta meg algoritmikus döntéseit. Ez különösen fontos lenne a jogérvényesítés utólagos mechanizmusa szempontjából, mivel lehetővé teszi majd a végrehajtó hatóságok számára, hogy nyomon kövessék az MI-hátterű rendszerek viselkedését és döntéseit. Ezt „Az emberközpontú mesterséges intelligencia iránti bizalom növelése” című bizottsági közlemény 46 is elismeri.

A biztonságot befolyásoló további kockázatok a termékek és rendszerek összetettségéből erednek, mivel a különböző alkatrészek, eszközök és termékek integrálhatók, és hatással lehetnek egymás működésére (pl. az intelligens otthonok ökoszisztémájának részét képező termékek).

Ezzel az összetettséggel az e szakasz elején említett uniós termékbiztonsági jogi keret 48 már foglalkozik. Amikor a gyártó a termék kockázatértékelését végzi, figyelembe kell vennie a rendeltetésszerű használatot, az előrelátható használatot és adott esetben az észszerűen előrelátható rendellenes használatot.

Ennek fényében ha a gyártó azt tervezi, hogy az eszközt összekapcsolja más eszközökkel, és azok interakcióba lépnek egymással, azt a kockázatértékelés során figyelembe kell venni. A használatot vagy a helytelen használatot például az azonos típusú termék múltbeli felhasználásával kapcsolatos tapasztalat, a balesetek kivizsgálása és az emberi viselkedés alapján határozzák meg.

A rendszerek összetettségével az ágazati biztonsági jogszabályok – például az orvostechnikai eszközökről szóló rendelet – és bizonyos mértékben az általános termékbiztonságról szóló jogszabályok 49 is konkrétabban foglalkoznak. Például az intelligens otthonok ökoszisztémájának részét képező összekapcsolt eszköz gyártójától észszerűen elvárható, hogy előre lássa, hogy a termékei hatással lesznek más termékek biztonságára.

Ezen túlmenően a közlekedési jogszabályok rendszerszinten kezelik ezt az összetettséget. Személygépkocsik, vonatok és repülőgépek esetében a típusjóváhagyás és a tanúsítás az egyes alkotórészek tekintetében ugyanúgy történik, mint a teljes jármű vagy légi jármű esetében. A közúti/légi műszaki vizsga és vasúti átjárhatóság a termékbiztonsági értékelés tárgyát képezi. A közlekedés területén a „rendszereket” egy hatóságnak kell „engedélyeznie”, vagy egy harmadik fél által végzett, egyértelmű műszaki követelményeknek való megfelelőségértékelés alapján, vagy a kockázatok kezelésének bemutatása után. Általában a „termék” és a „rendszer” szintjének kombinációja jelenti a megoldást.

Az összetett rendszerek gyakran tartalmaznak szoftvert, amely a mesterséges intelligencián alapuló rendszerek alapvető eleme. A végtermék gyártója általában – az eredeti kockázatértékelés részeként – köteles előre jelezni, hogy a forgalomba hozatal időpontjában a termékbe beépített szoftver milyen kockázatokat hordoz magában.

Egyes uniós termékbiztonsági jogszabályok kifejezetten hivatkoznak a termékbe beépített szoftverre. A gépekről szóló irányelv 50 például előírja, hogy a vezérlőrendszer szoftverének hibája nem vezethet veszélyes helyzetekhez.

Az uniós termékbiztonsági jogszabályokban a szoftverfrissítések a biztonsági okokból végzett karbantartási műveletekhez hasonlíthatók, feltéve, hogy a frissítések nem módosítják jelentősen a már forgalomba hozott terméket, és nem idéznek elő olyan új kockázatokat, amelyekkel az eredeti kockázatértékelésben nem számoltak. Ha azonban a szoftverfrissítés lényegesen módosítja azt a terméket, amelybe letöltik, a teljes termék új terméknek tekinthető, és a termékbiztonságra vonatkozó releváns jogszabályoknak való megfelelést a módosítás végrehajtásakor újra kell értékelni 51 .

A termék forgalomba hozatalát követően forgalomba hozott vagy feltöltött önálló szoftverekre vonatkozóan az uniós ágazatspecifikus harmonizált termékbiztonsági jogszabályok általában nem tartalmaznak különös rendelkezéseket. Mindazonáltal egyes uniós jogszabályok – például az orvostechnikai eszközökről szóló rendelet – érintik az önálló szoftverek kérdését. Ezen túlmenően a rádióberendezésekről szóló irányelv felhatalmazáson alapuló jogi aktusok révén szabályozhatja a bizonyos rádiómodulokon 52 keresztül kommunikáló összekapcsolt termékekbe feltöltött önálló szoftvereket is. Ez az irányelv előírja, hogy a rádióberendezések meghatározott osztályainak vagy kategóriáinak támogatniuk kell az olyan funkciókat, amelyek biztosítják, hogy a szoftver feltöltése ne veszélyeztesse a berendezés megfelelőségét 53 .

Végezetül a kialakulóban lévő digitális technológiákat befolyásolják az összetett értékláncok. Ez az összetettség azonban nem új, és nem is kizárólag a mesterséges intelligenciához vagy a dolgok internetéhez hasonló új, kialakulóban lévő digitális technológiák kapcsán felmerült kérdés. Bizonyos más termékek – például a számítógépek, a szolgáltató robotok vagy a közlekedési rendszerek – esetében ugyanez a helyzet.

Az uniós termékbiztonsági keret értelmében a termék biztonságosságáért az értéklánc összetettségétől függetlenül továbbra is a terméket forgalomba hozó gyártó felel. A gyártó felelős a végtermék biztonságáért, ideértve a termékbe beépített alkatrészeket, például a számítógép szoftverét is.

Az uniós termékbiztonsági jogszabályok némelyike már tartalmaz olyan rendelkezéseket, amelyek kifejezetten olyan helyzetekre vonatkoznak, amikor egy adott termékkel a forgalomba hozatala előtt több gazdasági szereplő is foglalkozik. Például a felvonókról szóló irányelv 54 értelmében a felvonó tervezését és gyártását végző gazdasági szereplőnek az üzembe helyező rendelkezésére kell bocsátania 55 „minden olyan dokumentumot és információt [...], amelyekre ez utóbbinak a felvonó megfelelő és biztonságos üzembe helyezéséhez és teszteléséhez szüksége van”. A gépekről szóló irányelv szerint a berendezések gyártóinak tájékoztatniuk kell az üzemeltetőt arról, hogy a berendezést hogyan szereljék össze egy másik géppel 56 .

3.Felelősség

Uniós szinten a termékbiztonságra és a termékfelelősségre vonatkozó rendelkezések két egymást kiegészítő mechanizmust jelentenek, amelyek ugyanazt a szakpolitikai célt, az áruk működőképes egységes piacát szolgálják, amely magas szintű biztonságot nyújt, azaz a lehető legkisebbre csökkenti a felhasználókat érő károk kockázatát, és kártérítést ír elő a hibás árukból eredő károkért.

Nemzeti szinten ezeket az uniós szabályokat nem harmonizált polgári jogi felelősségi keretek egészítik ki, amelyek különböző okokból (például termékek és szolgáltatások esetében) kártérítést biztosítanak, és különböző felelős személyeket (például tulajdonosokat, üzemeltetőket vagy szolgáltatókat) céloznak meg.

Bár a mesterséges intelligenciára vonatkozó uniós termékbiztonsági szabályok optimalizálása segíthet elkerülni a baleseteket, még ha azok nem is zárhatók ki teljesen.. Ekkor merül fel a polgári jogi felelősség. A polgári jogi felelősségre vonatkozó szabályok kettős szerepet játszanak társadalmunkban: egyrészt biztosítják, hogy a mások által okozott kár károsultjai kártérítésben részesüljenek, másrészt pedig gazdasági ösztönzőket nyújtanak a felelős fél számára, hogy elkerülje az ilyen kárt. A felelősségre vonatkozó szabályoknak mindig egyensúlyt kell teremteniük a polgárok károkkal szembeni védelme és a vállalkozások innovációjának lehetővé tétele között.

Az uniós felelősségi keretek jól működnek. Ezek a termékfelelősségről szóló irányelv (85/374/EGK irányelv) – amely harmonizálta a hibás termékek gyártóinak felelősségét – és a nem harmonizált nemzeti felelősségi rendszerek párhuzamos alkalmazására épülnek.

A termékfelelősségről szóló irányelv olyan védelmi szintet biztosít, amelyet a vétkességen alapuló felelősségre vonatkozó nemzeti rendszerek önmagukban nem garantálnak. Olyan rendszert vezet be, amely szerint a gyártók objektív felelősséggel tartoznak a hibás termékeik által okozott károkért. Fizikai vagy anyagi kár esetén a károsult kártérítésre jogosult, ha bizonyítja a kárt, a termék hibáját (azaz hogy a termék nem biztosította a nyilvánosság által jogosan elvárható biztonságot), valamint a hibás termék és a kár közötti ok-okozati összefüggést.

A nem harmonizált nemzeti rendszerek a vétkességen alapuló felelősségi szabályokat írnak elő, amelyek szerint a károsultaknak a felelősség megállapítása érdekében bizonyítaniuk kell a felelős személy vétkességét, a kárt, valamint a vétkesség és a kár közötti ok-okozati összefüggést ahhoz, hogy a felelősség megállapítása iránti sikeres keresetet nyújtsanak be. Objektív felelősségi rendszereket is biztosítanak azokra az esetekre, amikor a nemzeti jogalkotó egy bizonyos kockázatért egy adott személyre hárította a felelősséget, és a károsultnak nem kell bizonyítania a vétkesség/hiba és a kár közötti ok-okozati összefüggést.

A nemzeti termékfelelősségi rendszerek a termékek és szolgáltatások által okozott károk károsultjai számára több párhuzamos kártérítési kereset benyújtását teszik lehetővé, amelyek a vétkességen vagy az objektív felelősségen alapulnak. Ezek a keresetek gyakran különböző felelősök ellen irányulnak, és eltérőek a feltételeik.

Például egy gépjárműbaleset károsultja jellemzően az objektív felelősség terén előterjesztett keresetet nyújt be a gépjármű tulajdonosával (azaz a gépjármű-felelősségbiztosítást kötő személlyel) szemben, a gépjármű vezetőjével szemben pedig vétkességen alapuló felelősség terén előterjesztett keresetet nyújthat be – mindkettőt a nemzeti polgári jog alapján –, illetve a gyártóval szemben a termékfelelősségről szóló irányelv alapján nyújthat be keresetet, ha a gépjármű műszaki hibás volt.

A gépjármű-biztosításra vonatkozó harmonizált szabályoknak megfelelően a gépjárművet a használat során biztosítani kell 57 , és a gyakorlatban mindig a biztosítóval kell először felvenni a kapcsolatot a személyi sérülés vagy anyagi kár megtérítése iránti kereset benyújtásakor. E szabályok szerint a kötelező biztosítás kártalanítja a károsultat, és védi azt a biztosított személyt, aki a nemzeti polgári jogi szabályok 58 szerint az anyagi kár megtérítésére kötelezett a gépjármű által okozott balesetért. A gyártókra nem vonatkozik a termékfelelősségről szóló irányelv szerinti kötelező biztosítás. Az önvezető járműveket az uniós jogszabályok a gépjármű-biztosítás tekintetében nem kezelik másként, mint a nem önvezető járműveket. Az ilyen járművekre – az összes többi járműhöz hasonlóan – gépjármű-felelősségbiztosítást kell kötni, ami a legegyszerűbb módja annak, hogy a károsult kártérítéshez jusson.

A megfelelő biztosítás megkötése enyhítheti a balesetek negatív következményeit azáltal, hogy zökkenőmentes kártérítést biztosít a károsult számára. Az egyértelmű felelősségi szabályok segítik a biztosítótársaságokat a kockázataik kiszámításában és abban, hogy kártérítést követeljenek a kárért végső soron felelős féltől. Például, ha a balesetet műszaki hiba okozta, a gépjármű-biztosító a károsult kárának megtérítését követően kártérítést követelhet a gyártótól.

A kialakulóban lévő digitális technológiák – köztük a mesterséges intelligencia, a dolgok internete és a robotika – azonban komoly kihívás elé állítják az uniós és nemzeti felelősségi kereteket, és csökkenthetik azok hatékonyságát. E jellemzők némelyike miatt nehéz lehet visszavezetni az okozott kárt az emberi magatartásra, ami alapot adhatna a vétkességen alapuló felelősség terén előterjesztett kereset benyújtására a nemzeti szabályoknak megfelelően. Ez azt jelenti, hogy a károkozásra vonatkozó nemzeti jogszabályokon alapuló kártérítési keresetek bizonyítása nehézségekbe ütközhet, vagy túlzottan költséges lehet, következésképpen előfordulhat, hogy a károsultak nem részesülnek megfelelő kártérítésben. Fontos, hogy a kialakulóban lévő digitális technológiákat – köztük mesterséges intelligenciát – integráló termékek és szolgáltatások károsultjai ne élvezzenek alacsonyabb szintű védelmet, mint azon hasonló termékek és szolgáltatások károsultjai, amelyekért a károkozásra vonatkozó nemzeti jogszabályok értelmében kártérítést kapnának. Ez csökkentheti az ilyen kialakulóban lévő technológiák társadalmi elfogadottságát, és visszatarthatja a fogyasztókat azok használatától.

Meg kell vizsgálni, hogy az új technológiák által a meglévő keretekkel szemben támasztott kihívások jogbizonytalanságot okozhatnak-e a meglévő jogszabályok alkalmazását illetően (pl. hogyan alkalmazandó a vétkesség fogalma az MI által okozott károkra). Ezek viszont visszavethetik a beruházásokat, és növelhetik a gyártók és az ellátási láncban részt vevő más vállalkozások – különösen az európai kkv-k – tájékoztatási és biztosítási költségeit. Ezen túlmenően, amennyiben a tagállamoknak sikerül kezelniük a nemzeti felelősségi keretekkel kapcsolatos kihívásokat, ez további széttöredezettséghez vezethet, ezáltal növelve az innovatív MI-megoldások bevezetésének költségeit és csökkentve a határon átnyúló kereskedelmet az egységes piacon. Fontos, hogy a vállalatok ismerjék a felelősségi kockázataikat a teljes értékláncot tekintve, és képesek legyenek csökkenteni vagy megelőzni azokat, valamint hatékonyan biztosítsák magukat ezekkel a kockázatokkal szemben.

Ez a fejezet bemutatja, hogy az új technológiák milyen kihívások elé állítják a meglévő kereteket, és hogyan lehet kezelni ezeket a kihívásokat. Emellett egyes ágazatok – például az egészségügyi ellátás – sajátosságai miatt további megfontolásokra lehet szükség.

A termékek, a szolgáltatások és az értéklánc összetettsége: A technológia és az ipar az elmúlt évtizedekben rohamos fejlődésen ment át. Különösen a termékek és a szolgáltatások közötti választóvonal tűnik már kevésbé egyértelműnek, mint korábban. A termékek és a szolgáltatások egyre inkább összefonódnak. Míg az összetett termékek és értékláncok nem újkeletűek az európai iparban vagy annak szabályozási modelljében, a szoftverek – ahogyan az MI is – különös figyelmet érdemelnek a termékfelelősség tekintetében. A szoftverek számos termék működéséhez elengedhetetlenek, és befolyásolhatják azok biztonságát. A szoftvereket beépítik a termékbe, de a termék rendeltetésszerű használatának lehetővé tétele érdekében külön is szállíthatják azokat. Szoftver nélkül a számítógép és az okostelefon is hasznavehetetlen lenne. Ez azt jelenti, hogy a szoftver valamely kézzelfogható termék meghibásodását okozhatja és a fizikai károsodásához vezethet (vö. a biztonságról szóló részben a szoftverre vonatkozó keretes írással). Ez végső soron a termék gyártójának a termékfelelősségről szóló irányelv szerinti felelősségét vonhatja maga után.

Mivel azonban a szoftvereknek számos típusa és formája létezik, néha nehéz eldönteni, hogy a szoftvert szolgáltatásként vagy termékként kell-e besorolni. Így miközben egy adott termék működését irányító szoftver e termék részének vagy alkotóelemének tekinthető, az önálló szoftverek egyes formái nehezebben sorolhatók be.

Az MI-alkalmazásokat gyakran integrálják a dolgok internetének összetett környezetébe, ahol számos különböző összekapcsolt eszköz és szolgáltatás működik együtt. A különböző digitális elemek összetett ökoszisztémában való ötvözése és az érintett szereplők sokfélesége megnehezítheti annak megállapítását, hogy egy lehetséges kár honnan ered, és hogy melyik személy felelős azért. E technológiák összetettsége miatt a károsultak számára nagyon nehéz lehet a felelős személy azonosítása és a sikeres keresethez szükséges, a nemzeti jog által előírt valamennyi tény bizonyítása. E szakértelem költsége gazdaságilag visszatartó erejű lehet, és eltántoríthatja a károsultakat attól, hogy kártérítési keresetet nyújtsanak be.

Emellett a mesterséges intelligencián alapuló termékek és szolgáltatások interakcióba lépnek a hagyományos technológiákkal, ami a felelősség tekintetében is tovább bonyolítja a helyzetet. Például az önvezető autók egy ideig még a hagyományos autókkal együtt jelennek meg a forgalomban. Egyes szolgáltatási ágazatokban (például a forgalomirányításban és az egészségügyben), ahol részben automatizált MI-rendszerek támogatják az emberi döntéshozatalt, ehhez hasonló bonyolult interakciókra kerül sor a különböző szereplők között.

A termékfelelősséggel és az új technológiákkal foglalkozó szakértői csoport új technológiákkal foglalkozó csoportjának jelentése 59 szerint fontolóra lehetne venni a nemzeti jogszabályok kiigazítását a mesterséges intelligenciával kapcsolatos károk károsultjaira háruló bizonyítási teher megkönnyítése érdekében. A bizonyítási teher például összefüggésben állhat azzal, hogy az érintett üzemeltető eleget tesz-e bizonyos kiberbiztonsági vagy egyéb, jogszabályban meghatározott biztonsági kötelezettségeknek: ha valamely szereplő nem felel meg ezeknek a szabályoknak, a bizonyítási teher megváltozhat a vétkesség és az ok-okozati összefüggés tekintetében.

Hálózati összekapcsoltság és nyitottság: Jelenleg nem teljesen egyértelmű, hogy melyek lehetnek a biztonsági elvárások a terméket érintő kiberbiztonsági résekből eredő károk tekintetében, és hogy az ilyen károkért a károsult a termékfelelősségről szóló irányelv értelmében megfelelő kártérítésben részesülne-e.

A kiberbiztonsági hiányosságok már a termék forgalomba hozatalakor felmerülhetnek, de egy későbbi szakaszban, jóval a termék forgalomba hozatala után is jelentkezhetnek.

Ha a vétkességen alapuló felelősségi keretek egyértelmű kiberbiztonsági kötelezettségeket állapítanak meg, az lehetővé teszi az üzemeltetők számára annak meghatározását, hogy mit kell tenniük a felelősség következményeinek elkerülése érdekében.

A termékfelelősségről szóló irányelv értelmében nagyobb hangsúlyt kaphat az a kérdés, hogy a gyártó a termék észszerűen előrelátható használatára figyelemmel előre láthatott-e bizonyos változásokat. Például megfigyelhető, hogy egyre gyakrabban hivatkoznak a védelem során a „későbbi hibára” („later defect defence”) – miszerint a gyártót nem terheli felelősség, ha a hiba a termék forgalomba hozatalakor nem állt fenn – vagy a „fejlesztési kockázatra” („development risk defence”), miszerint a hibát az akkori legkorszerűbb ismeretek fényében nem lehetett előre látni. Emellett a termékfelelősség csökkenthető, ha a károsult nem végzi el a biztonsági szempontból releváns frissítéseket. Ezzel a károsult saját hanyagságából potenciálisan hozzájárult a hiba kialakulásához, és így a gyártó felelőssége csökken. Mivel a jövőben az előrelátható észszerű használat fogalma és a saját hanyagsággal kapcsolatos kérdések – mint például a biztonsági frissítés letöltésének elmulasztása – várhatóan egyre gyakrabban merülnek majd fel, a károsultak nehezebben juthatnak kártérítéshez a termék hibája által okozott kárért.

Autonómia és átláthatatlanság: Amennyiben az MI-alkalmazások képesek önállóan eljárni, egy feladatot anélkül végeznek el, hogy annak minden lépését előre meghatároznák, és a feladat elvégzése alacsony mértékű közvetlen emberi ellenőrzés vagy felügyelet, illetve ennek teljes hiánya mellett történik. A gépi tanuláson alapuló algoritmusok megértése nehézséget jelenthet, vagy akár lehetetlen (úgynevezett „feketedoboz-hatás”).

A fentiekben tárgyalt összetettségen túl az egyes mesterséges intelligenciáknál jelentkező „feketedoboz-hatás” miatt az autonóm MI-alkalmazások által okozott károk esetében nehéz lehet majd kártérítéshez jutni. Ehhez az MI által használt algoritmus és adatok megértésére lenne szükség, ami elemzési kapacitást és technikai szakértelmet igényel – ennek igénybevétele a károsultak számára elriasztóan költséges lehet. Ezen túlmenően előfordulhat, hogy a potenciálisan felelős fél együttműködése nélkül lehetetlen hozzáférni az algoritmushoz és az adatokhoz. A gyakorlatban tehát előfordulhat, hogy a károsultak nem képesek a felelősség megállapítása iránti keresetet benyújtani. Nem világos továbbá, hogyan lehet bizonyítani egy önállóan működő MI hibáját, vagy mennyiben tekinthető vétkesnek egy olyan személy, aki az MI használatára támaszkodik.

A nemzeti jogszabályok már számos megoldást kínálnak a hasonló helyzetben lévő károsultak bizonyítási terhének csökkentésére.

A termékbiztonságra és a termékfelelősségre vonatkozó uniós vezérelv továbbra is az, hogy a gyártók feladata annak biztosítása, hogy minden forgalomba hozott termék az egész életciklusa során és a termék észszerűen előrelátható használata mellett biztonságos legyen. Ez azt jelenti, hogy a gyártónak meg kell győződnie arról, hogy a mesterséges intelligenciát használó termék tiszteletben tart-e bizonyos biztonsági paramétereket. A mesterséges intelligencia jellemzői nem zárják ki, hogy a termékekre – legyen szó akár automatikus fűnyírókról, akár sebészeti robotokról – biztonsági elvárások vonatkozzanak.

Az autonómia befolyásolhatja a termék biztonságosságát, mivel jelentősen megváltoztathatja a termék jellemzőit, beleértve a biztonsági elemeket is. Felmerül a kérdés, hogy a termékek önálló tanulási képessége milyen feltételek mellett hosszabbítja meg a gyártó felelősségét, és hogy a gyártónak milyen mértékben kellett volna számolnia bizonyos változásokkal.

A felelősséggel és az új technológiákkal foglalkozó szakértői csoport új technológiákkal foglalkozó csoportjának jelentése 60 szerint egyes, MI-hátterű autonóm eszközök és szolgáltatások működése a felelősség szempontjából egyedi kockázati profillal rendelkezhet, mivel jelentős kárt okozhatnak olyan fontos jogi érdekeknek, mint az élet, az egészség és a tulajdon, és kockázatoknak tehetik ki a lakosságot. Ez főként a közterületeken mozgó MI-hátterű eszközökre (pl. teljesen önvezető járművek, drónok 61 és csomagkézbesítő robotok) vagy hasonló kockázatokkal járó MI-hátterű szolgáltatásokra (pl. a járműveket irányító vagy ellenőrző forgalomirányítási szolgáltatások vagy az áramelosztás irányítását végző szolgáltatások) vonatkozhat. Azokat a kihívásokat, amelyeket az autonómia és az átláthatatlanság jelent a károkozásra vonatkozó nemzeti jogszabályok számára, kockázatalapú megközelítés alkalmazásával lehetne kezelni. Az objektív felelősségi rendszerek biztosíthatnák, hogy minden olyan esetben, amikor ez a kockázat bekövetkezik, a károsult a vétkességtől függetlenül kártérítésben részesüljön. Gondosan meg kell vizsgálni, hogy az ilyen műveletekért szigorúan felelős személy meghatározásának milyen hatása lehet az MI fejlődésére és elterjedésére, és mérlegelni kell a kockázatalapú megközelítés alkalmazását.

4.Következtetés

Az olyan új digitális technológiák megjelenése, mint az MI, a dolgok internete és a robotika új kihívásokat támaszt a termékbiztonság és a termékfelelősség terén, amelyek többek között a hálózati összekapcsoltsággal, az autonómiával, az adatfüggőséggel, az átláthatatlansággal, a termékek és rendszerek összetettségével, a szoftverfrissítésekkel, valamint az összetettebb biztonságirányítással és értékláncokkal állnak összefüggésben.

A jelenlegi termékbiztonsági jogszabályok számos hiányosságot tartalmaznak, amelyeket korrigálni kell, különösen az általános termékbiztonságról szóló irányelvben, a gépekről szóló irányelvben, a rádióberendezésekről szóló irányelvben és az új jogszabályi keretben. A különböző jogszabályok e kereten belüli kiigazításával kapcsolatos jövőbeli munka következetes és összehangolt módon zajlik majd.

A biztonsággal kapcsolatos új kihívások a felelősség tekintetében is új kihívásokat teremtenek. Ezeket a felelősséggel kapcsolatos kihívásokat kezelni kell annak érdekében, hogy legalább ugyanolyan szintű védelmet biztosítsunk, mint amilyen a hagyományos technológiák károsultjait megilleti, ugyanakkor megőrizzük az egyensúlyt a technikai innovációhoz szükséges szempontokkal. Ez elő fogja segíteni az ilyen új, kialakulóban lévő digitális technológiákba vetett bizalom megteremtését, és stabilitást biztosít a beruházások számára.

Bár a meglévő uniós és nemzeti felelősségi jogszabályok elvben képesek megbirkózni a kialakulóban lévő technológiák jelentette kihívásokkal, a mesterséges intelligenciából eredő kihívások dimenziója és együttes hatása miatt nehezebb lehet a károsultak kártalanítása minden olyan esetben, amikor ez indokolt lenne 63 . Így a kár bekövetkezése esetén a költségek a jelenlegi szabályok szerint adott esetben méltánytalan vagy nem hatékony módon oszlanak meg. Ennek orvoslása és a meglévő keret esetleges bizonytalanságainak kezelése érdekében fontolóra lehetne venni a termékfelelősségről szóló irányelv és a nemzeti felelősségi rendszerek célzott, kockázatalapú megközelítés alapján történő kiigazítását, figyelembe véve, hogy a különböző MI-alkalmazások különböző kockázatokat jelentenek.

(1)

   A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport fogalommeghatározása a következő internetcímen érhető el: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines

(2)

   A dolgok internetének az ITU-T Y.2060 ajánlásban szereplő fogalommeghatározása a következő internetcímen érhető el: https://www.itu.int/ITU-T/recommendations/rec.aspx?rec=y.2060

(3)

   SWD(2016) 110, COM(2017) 9, COM(2018) 237 és COM(2018) 795.

(4)

    http://ec.europa.eu/growth/industry/policy_en  

(5)

    https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN .

A közleményt kísérő bizottsági szolgálati munkadokumentum (2018) 137 ( https://eur-lex.europa.eu/legal-content/en/ALL/?uri=CELEX%3A52018SC0137 ) első ízben térképezte fel a kialakulóban lévő digitális technológiákkal összefüggésben felmerülő felelősséggel kapcsolatos kihívásokat.

(6)

   2006/42/EK irányelv.

(7)

   SWD(2018) 161 final.

(8)

   Az általános termékbiztonságról szóló 2001/95/EK irányelv, a gépekről szóló 2006/42/EK irányelv és a rádióberendezésekről szóló 2014/53/EU irányelv által létrehozott fogyasztóbiztonsági hálózatot a tagállamokból, az ágazatból és más érdekelt felekből – például fogyasztói szervezetekből – álló szakértői csoportok alkotják.

(9)

   85/374/EGK irányelv.

(10)

   COM(2018) 246 final.

(11)

   A felelősséggel és az új technológiákkal foglalkozó szakértői csoportot azzal a céllal hozták létre, hogy szakértelmet biztosítson a Bizottság számára a termékfelelősségről szóló irányelv és a polgári jogi felelősségre vonatkozó nemzeti szabályok alkalmazhatóságával kapcsolatban, valamint segítséget nyújtson az új technológiákkal kapcsolatos alkalmazandó jogszabályok esetleges kiigazítására vonatkozó irányadó elvek kidolgozásához. Ez két csoportból áll, a „termékfelelősségi csoportból” és az „új technológiákkal foglalkozó csoportból”, lásd: http://ec.europa.eu/transparency/regexpert/index.cfm?do=groupDetail.groupDetail&groupID=3592&NewSearch=1&NewSearch=1 .

   Az „új technológiákkal foglalkozó csoport” által készített, „A mesterséges intelligenciával és az új digitális technológiákkal kapcsolatos felelősség” című jelentést lásd: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199 .

(12)

   Becslések szerint a közúti balesetek mintegy 90 %-át emberi hiba okozza. Lásd a Bizottság „A halálos kimenetelű közúti balesetek csökkentése: a gépjárműbiztonság javítása az Európai Unióban” című jelentését (COM(2016) 0787 final).

(13)

   Például a gépjárművezető figyelmeztetést kaphat, hogy lassítson, ha az előtte lévő útszakaszon baleset történt.

(14)

     OECD (2018), „Measuring and maximising the impact of product recalls globally: OECD workshop report” (A termékvisszahívások globális hatásának mérése és maximalizálása: az OECD-munkaértekezlet jelentése), OECD Science, Technology and Industry Policy Papers, 56. szám, OECD Publishing, Párizs, https://doi.org/10.1787/ab757416-en .

(15)

     OECD (2018), „Enhancing product recall effectiveness globally: OECD background report” (A termékvisszahívások globális hatékonyságának javítása: az OECD háttérjelentése), OECD Science, Technology and Industry Policy Papers, 58. szám, OECD Publishing, Párizs, https://doi.org/10.1787/ef71935c-en .

(16)

   A Bizottság közleménye az Európai Parlamentnek, a Tanácsnak, az Európai Gazdasági és Szociális Bizottságnak és a Régiók Bizottságának – Az emberközpontú mesterséges intelligencia iránti bizalom növelése, Brüsszel, 2019.4.8. (COM(2019) 168 final).

(17)

   Az Európai Parlament és a Tanács 2001/95/EK irányelve (2001. december 3.) az általános termékbiztonságról (HL L 11., 2002.1.15., 4. o.).

(18)

   HL C 136., 1985.6.4., 1. o.

(19)

   2008/765/EK rendelet és 2008/768/EK határozat.

(20)

   Ez a séma nem terjed ki a közlekedésre és a személygépkocsikra vonatkozó uniós jogszabályokra.

(21)

   Az Európai Parlament és a Tanács 2001/95/EK irányelve (2001. december 3.) az általános termékbiztonságról (HL L 11., 2002.1.15., 4. o.).

(22)

   Az Európai Parlament és a Tanács 765/2008/EK rendelete (2008. július 9.) a termékek forgalmazása tekintetében az akkreditálás és piacfelügyelet előírásainak megállapításáról és a 339/93/EGK rendelet hatályon kívül helyezéséről (HL L 218., 2008.8.13., 30. o., ELI: http://data.europa.eu/eli/reg/2008/765/oj ), valamint 2021-től kezdődően az Európai Parlament és a Tanács (EU) 2019/1020 rendelete (2019. június 20.) a piacfelügyeletről és a termékek megfelelőségéről, valamint a 2004/42/EK irányelv, továbbá a 765/2008/EK és a 305/201,1/EU rendelet módosításáról (HL L 169., 2019.6.25., 1. o., ELI: http://data.europa.eu/eli/reg/2019/1020/oj).

(23)

   Az általános termékbiztonsági irányelv 8. cikke (1) bekezdésének b) pontja és (3) bekezdése.

(24)

   Például a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkatrészeinek és önálló műszaki egységeinek jóváhagyásáról szóló 2007/46/EK irányelv, valamint a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről szóló, 2018. május 30-i (EU) 2018/858 európai parlamenti és tanácsi rendelet.

(25)

   Ez a kép nem tartalmazza a termékek életciklusára, azaz a használatra és a karbantartásra vonatkozó jogszabályi követelményeket, és csak általános szemléltetési célokat szolgál.

(26)

   Az Izland által küldött RAPEX-értesítést a Safety Gate uniós biztonsági riasztórendszer honlapján tették közzé (A12/0157/19).

(27)

   A Németország által küldött RAPEX-értesítést a Safety Gate uniós biztonsági riasztórendszer honlapján tették közzé (A12/1671/15).

(28)

   (EU) 2017/745 rendelet az orvostechnikai eszközökről.

(29)

   2014/32/EU irányelv a mérőműszerek forgalmazására vonatkozó tagállami jogszabályok harmonizációjáról.

(30)

   2014/53/EU irányelv a rádióberendezésekről.

(31)

   2007/46/EK irányelv a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkatrészeinek és önálló műszaki egységeinek jóváhagyásáról. Az irányelvet 2020. szeptember 1-jétől hatályon kívül fogja helyezni és fel fogja váltani a gépjárművek és pótkocsijaik, valamint az ilyen járművek rendszereinek, alkotóelemeinek és önálló műszaki egységeinek jóváhagyásáról és piacfelügyeletéről, a 715/2007/EK és az 595/2009/EK rendelet módosításáról, valamint a 2007/46/EK irányelv hatályon kívül helyezéséről szóló (EU) 2018/858 rendelet.

(32)

   (EU) 2019/881 rendelet.

(33)

   2006/42/EK irányelv a gépekről.

(34)

   Jóllehet a mesterséges intelligencián alapuló termékek képesek arra, hogy önállóan cselekedjenek a környezetük észlelése révén és anélkül, hogy előre meghatározott utasításokat követnének, a viselkedésüket korlátozza a szándékolt céljuk, valamint az, hogy a fejlesztőik a kialakításuk során milyen egyéb releváns döntéseket hoztak.

(35)

   Az uniós termékbiztonsági jogszabályok szerint a gyártók a kockázatértékelést a termék rendeltetésszerű használata, az előrelátható használat és/vagy az észszerűen előrelátható rendellenes használat alapján végzik el.

(36)

   Az Európai Parlament és a Tanács 768/2008/EK határozata (2008. július 9.) a termékek forgalomba hozatalának közös keretrendszeréről, valamint a 93/465/EGK tanácsi határozat hatályon kívül helyezéséről (HL L 218., 2008.8.13., 82. o.). Az I. melléklet R2.cikkének (7) bekezdése a következőképpen rendelkezik: „A gyártók gondoskodnak arról, hogy a termékhez mellékeljék a használati utasítást és a biztonsági tájékoztatót a fogyasztók és más végfelhasználók által könnyen érthető nyelven az érintett tagállam döntésének megfelelően.”

(37)

   A 10. cikk (8) bekezdése a végfelhasználóknak szóló használati utasításokkal, a VI. melléklet pedig az EU-megfelelőségi nyilatkozattal foglalkozik.

(38)

   Az „öntanulás” fogalommeghatározást eddig a mesterséges intelligenciával összefüggésben elsősorban annak jelzésére használták, hogy a gépek képesek a betanításuk során tanulni; az azonban még nem követelmény, hogy az MI-hátterű gépek a telepítésük után is folytassák a tanulást; éppen ellenkezőleg – különösen az egészségügyben – az MI-hátterű gépek a betanítás sikeres lezárását követően általában abbahagyják a tanulást. Ezért ebben a szakaszban az MI-rendszerekből eredő autonóm viselkedés nem jelenti azt, hogy a termék a fejlesztők által előre nem tervezett feladatokat látna el.

(39)

   Ez összhangban áll az uniós termékekre vonatkozó 2016. évi uniós szabályozásról szóló „kék útmutató” 2.1. szakaszával.

(40)

   Az általános termékbiztonságról szóló, 2001. december 3-i 2001/95/EK európai parlamenti és tanácsi irányelv 5. cikke.

(41)

   A vasúti rendszer bármely olyan változása esetén, amely hatással lehet a biztonságra (ideértve például a műszaki, üzemeltetési vagy akár szervezeti változást, amely hatással lehet az üzemeltetési vagy karbantartási folyamatra), a követendő eljárást az (EU) 2015/1136 bizottsági végrehajtási rendelet (HL L 185., 2015.7.14., 6. o.) I. melléklete rögzíti.

   „Jelentős változás” esetén egy független „értékelő testület” (amely lehet a nemzeti biztonsági hatóság vagy más, műszaki szempontból illetékes szerv) biztonságértékelési jelentést nyújt be a változtatás indítványozója részére.

   A kockázatelemzési eljárást követően a változtatás indítványozója a kockázatok csökkentését célzó megfelelő intézkedéseket hajt végre (ha az indítványozó egy vasúttársaság vagy pályahálózat-működtető, a rendelet alkalmazása biztonságirányítási rendszerének részét képezi, melyet a nemzeti biztonsági hatóság által felügyel).

(42)

   A megbízható mesterséges intelligenciára vonatkozó szakpolitikai és beruházási ajánlások, A mesterséges intelligenciával foglalkozó magas szintű szakértői csoport, 2019. június.

(43)

   Ez azonban nem zárja ki, hogy egy adott helyzetben felügyeletre lehet szükség a termék forgalomba hozatalával kapcsolatosan fennálló általánosabb kötelezettségek némelyike miatt.

(44)

   Az Egészségügyi Világszervezet (WHO) alapokmánya, első franciabekezdés: „Az egészség a testi, szellemi és szociális teljes jólétnek állapota és nemcsak betegség vagy fogyatékosság hiányából áll.” (https://www.who.int/about/who-we-are/constitution)

(45)

     Social Robots: Technological, Societal and Ethical Aspects of Human–Robot Interaction, 237–264. o., Research, Neziha Akalin, Annica Kristoffersson és Amy Loutfi, 2019. július.

(46)

      https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top  

(47)

   A magas szintű szakértői csoport által a megbízható mesterséges intelligenciára vonatkozó etikai iránymutatásban javasolt fő követelmények alapján: https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines

(48)

   A 2008/765/EK rendelet és a 2008/768/EK határozat, valamint a harmonizált ágazati termékbiztonsági jogszabályok, például a gépekről szóló 2006/42/EK irányelv.

(49)

   Az általános termékbiztonságról szóló irányelv 2. cikke előírja, hogy a biztonságos terméknek figyelembe kell vennie „a termék más termékekre gyakorolt hatás[át], amennyiben észszerűen előre látható, hogy más termékekkel együtt használják”.

(50)

   A gépekről szóló irányelv I. mellékletének 1.2.1. pontja.

(51)

    Az uniós termékekre vonatkozó 2016. évi uniós szabályozásról szóló „kék útmutató”

(52)

   A rádiómodulok olyan elektronikus eszközök, amelyek két eszköz között rádiójeleket (wifi, Bluetooth) közvetítenek és/vagy fogadnak.

(53)

   A rádióberendezésekről szóló irányelv 3. cikke (3) bekezdésének i) pontja.

(54)

   A 2014/33/EU irányelv 16. cikkének (2) bekezdése alapján.

(55)

   A felvonókról szóló 2014/33/EU irányelv szerint az üzembe helyező egyenértékű a gyártóval, és felelősséget kell vállalnia a felvonó tervezéséért, gyártásáért, üzembe helyezéséért és forgalomba hozataláért.

(56)

   A gépekről szóló irányelv I. mellékletének 1.7.4.2. cikke a következőképpen rendelkezik: „Minden használati utasítás lehetőleg tartalmazza legalább az alábbi információkat:” i) „összeállítási, beépítési és összekapcsolási utasítások, beleértve annak a váznak vagy szerkezetnek a rajzait, diagramjait és összekapcsolási eszközeit, amelyre a gépet felszerelik;”

(57)

   A gépjárművek tekintetében a gépjármű-felelősségbiztosításról és a biztosítási kötelezettség ellenőrzéséről szóló 2009/103/EK irányelv harmonizálta.

(58)

   A legtöbb tagállamban az objektív felelősség azt a személyt terheli, akinek a nevére a gépjárművet nyilvántartásba vették.

(59)

   Jelentés a mesterséges intelligenciával és más kialakulóban lévő technológiákkal kapcsolatos felelősségről,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(60)

   Jelentés a mesterséges intelligenciával és más kialakulóban lévő technológiákkal kapcsolatos felelősségről,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(61)

   Vö. a pilóta nélküli légi járművekkel végzett műveletekre vonatkozó szabályokról és eljárásokról szóló, 2019. május 24-i (EU) 2019/947 bizottsági végrehajtási rendeletben említett pilóta nélküli légijármű-rendszerekkel.

(62)

   Jelentés a mesterséges intelligenciával és más kialakulóban lévő technológiákkal kapcsolatos felelősségről,

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=63199

(63)

   Lásd az új technológiákkal foglalkozó csoport jelentését (3. o.), valamint a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport szakpolitikai ajánlásának 27.2. pontját.