EURÓPAI BIZOTTSÁG

Brüsszel, 2020.2.19.

COM(2020) 65 final

FEHÉR KÖNYV

Fehér könyv a mesterséges intelligenciáról: a kiválóság és a bizalom európai megközelítése

Fehér könyv a mesterséges intelligenciáról:

a kiválóság és a bizalom európai megközelítése

A mesterséges intelligencia (MI) gyorsan fejlődik. Meg fogja változtatni életünket azáltal, hogy javítja az egészségügyi ellátást (pontosabbá teszi a diagnosztikát, lehetővé teszi a betegségek jobb megelőzését), növeli gazdálkodásunk hatékonyságát, hozzájárul az éghajlatváltozás mérsékléséhez és az ahhoz való alkalmazkodáshoz, a megelőző karbantartás révén javítja a termelési rendszerek hatékonyságát, növeli az európai polgárok biztonságát, és számos egyéb módon is hatással lesz ránk, amelyről még csak álmodunk. Ugyanakkor a mesterséges intelligencia (MI) számos olyan potenciális kockázattal is jár, mint az átláthatatlan döntéshozatal, a nemi és más alapú megkülönböztetés, a magánéletünkbe való betolakodás vagy a bűncselekmények céljából történő felhasználás.

A rendkívül éles globális versenyben stabil európai megközelítésre van szükség, amely a mesterséges intelligenciára vonatkozó, 2018 áprilisában bemutatott európai stratégiára épül 1 . A mesterséges intelligencia adta lehetőségek kihasználása és a belőle fakadó kihívások kezelése érdekében az EU-nak egységesen kell fellépnie, és meg kell határoznia a saját útját, amelyen járva előmozdíthatja az európai értékeken alapuló MI-fejlesztést és -alkalmazást.

A Bizottság elkötelezett a tudományos áttörés lehetővé tétele, az EU technológiai vezető szerepének megőrzése és annak biztosítása mellett, hogy az új technológiák az európai polgárok szolgálatában álljanak – jogaik tiszteletben tartásával, javítva életminőségüket.

Ursula von der Leyen, a Bizottság elnöke politikai iránymutatásában 2 kijelentette, hogy összehangolt európai megközelítésre lesz szükség a mesterséges intelligencia emberi és etikai hatásait érintően, valamint hogy mérlegelni kell, miként lehet jobban felhasználni a nagy adathalmazokat az innováció terén.

A Bizottság ezért egy szabályozás- és beruházásorientált stratégiát támogat azzal a kettős céllal, hogy előmozdítsa az MI terjedését, és kezelje az új technológia bizonyos alkalmazásaihoz kapcsolódó kockázatokat. E fehér könyv célja, hogy szakpolitikai lehetőségeket vázoljon fel e célkitűzések elérésének módjára vonatkozóan. A könyv nem foglalkozik a mesterséges intelligencia katonai célú fejlesztésével és felhasználásával. A Bizottság felkéri a tagállamokat, más európai intézményeket és az összes érdekelt felet, köztük az ipart, a szociális partnereket, a civil társadalmi szervezeteket, a kutatókat, a nyilvánosságot és az érdeklődőket, hogy a jövőbeli bizottsági javaslatok kidolgozása érdekében reagáljanak a bemutatott lehetőségekre.

1.Bevezetés

Mivel a digitális technológia egyre központibb szerepet fog játszani életünk minden szegmensében, szükséges, hogy képesek legyünk bízni benne. A megbízhatóság egyben az elterjedés előfeltétele. Ez esélyt jelent az európaiak számára, tekintettel erős elkötelezettségünkre az értékek és a jogállamiság iránt, valamint arra, hogy bizonyítottan képesek vagyunk biztonságos, megbízható és kifinomult termékeket és szolgáltatásokat létrehozni a repüléstechnikától és az energiaipartól kezdve az autóiparon át egészen az orvosiműszer-gyártásig.

Európa jelenlegi és jövőbeli fenntartható gazdasági növekedése és társadalmi jóléte egyre inkább az adatokból származó értékteremtésre épül. A mesterséges intelligencia az adatgazdaság egyik legfontosabb alkalmazása. A legtöbb adat ma a fogyasztókhoz kapcsolódik, és ezeket az adatokat központi felhőalapú infrastruktúrákon tárolják. Ezzel szemben a holnap sokkal bőségesebb adatmennyiségének jelentős része az ipartól, a vállalkozásoktól és a közszférából fog származni, és legkülönfélébb rendszerekben, nevezetesen a hálózat peremén működő informatikai eszközökön kerül majd tárolásra. Ez új lehetőségeket nyit meg Európa előtt, amely erős pozíciókkal rendelkezik a digitalizált iparban és a vállalkozások közötti alkalmazások terén, de viszonylag gyengén pozicionált a fogyasztói platformokon.

Egyszerűen fogalmazva a mesterséges intelligencia olyan technológiák együttese, amelyek adatokat kombinálnak algoritmusokkal és számítási teljesítménnyel. Ezért a mesterséges intelligencia napjainkban megfigyelhető előretörésének fő mozgatórugói a számítástechnika fejlődése és az adatok egyre nagyobb mértékű rendelkezésre állása. Ahhoz, hogy Európa – az európai adatstratégiában 3 foglaltaknak megfelelően – globális vezetővé váljon az adatgazdaság innovációja és alkalmazásai terén, ötvöznie kell technológiai és ipari erősségeit a magas színvonalú digitális infrastruktúrával és az alapvető európai értékeken nyugvó szabályozási kerettel. Ezzel olyan MI-ökoszisztémát tud kialakítani, amely az európai társadalom és a gazdaság egésze számára képes biztosítani e technológia előnyeit:

·a polgárok részére, akik új előnyökhöz jutnak például a jobb egészségügyi ellátás, a háztartási gépek ritkább meghibásodása, a biztonságosabb és tisztább közlekedési rendszerek és a jobb közszolgáltatások révén;

·a vállalkozások részére, amelyek például termékek és szolgáltatások új generációját fejlesztik ki azokon a területeken, amelyeken Európa különösen erős (gépipar, közlekedés, kiberbiztonság, gazdálkodás, zöld körforgásos gazdaság, egészségügy, valamint olyan, magas hozzáadott értéket képviselő ágazatok, mint a divat és az idegenforgalom); és

·a közérdekű szolgáltatások részére, például azzal, hogy csökkennek szolgáltatások (közlekedés, oktatás, energia- és hulladékgazdálkodás) költségei, javul a termékek fenntarthatósága 4 , valamint a bűnüldöző hatóságokat a megfelelő eszközökkel látják el a polgárok védelme érdekében 5 , miközben megfelelő biztosítékok állnak rendelkezésre jogaik és szabadságjogaik tiszteletben tartására.

Tekintettel arra, hogy a mesterséges intelligencia jelentős hatást gyakorolhat társadalmunkra, és szükséges, hogy kiépüljön az abba vetett bizalom, kulcsfontosságú, hogy az európai MI-ágazat olyan európai értékeken és alapvető jogokon alapuljon, mint az emberi méltóság és a magánélet védelme.

Emellett az MI-rendszerek hatását nemcsak az egyén szempontjából, hanem a társadalom egésze szempontjából is meg kell vizsgálni. Az MI-rendszerek használata jelentős szerepet játszhat a fenntartható fejlődési célok elérésében, valamint a demokratikus folyamat és a szociális jogok támogatásában. Az európai zöld megállapodásról 6 szóló közelmúltbeli javaslataival Európa vezető szerepet tölt be az éghajlattal és a környezettel kapcsolatos kihívások kezelésében. A digitális technológiák – mint a mesterséges intelligencia – döntő szerepet töltenek be a zöld megállapodás céljainak elérésében. Tekintettel a mesterséges intelligencia növekvő jelentőségére, az MI-rendszerek környezeti hatását az életciklusuk során és a teljes ellátási lánc mentén megfelelően figyelembe kell venni, például az algoritmusok betanításához és az adatok tárolásához szükséges erőforrás-felhasználás tekintetében.

A mesterséges intelligenciával kapcsolatban közös európai megközelítésre van szükség a megfelelő lépték eléréséhez és az egységes piac széttagoltságának elkerüléséhez. A nemzeti kezdeményezések bevezetése veszélyeztetheti a jogbiztonságot, gyengítheti a polgárok bizalmát, és megakadályozhatja egy dinamikus európai ipar kialakulását.

Ez a fehér könyv olyan szakpolitikai lehetőségeket mutat be, amelyek lehetővé teszik Európában a megbízható és biztonságos MI-fejlesztést, miközben teljes mértékben tiszteletben tartják az uniós polgárok értékeit és jogait. E fehér könyv fő építőelemei a következők:

·Olyan intézkedéseket meghatározó szakpolitikai keret, amelyek az erőfeszítések európai, nemzeti és regionális szintű összehangolását célozzák. A keret célja, hogy a magán- és a közszektor közötti partnerség révén erőforrásokat mozgósítson egy „kiválósági ökoszisztéma” megvalósítása érdekében a teljes értéklánc mentén, kezdve a kutatással és az innovációval, valamint hogy megfelelő ösztönzőket teremtsen ahhoz, hogy a mesterséges intelligencián alapuló megoldások mielőbbi elfogadásra leljenek, többek között a kis- és középvállalkozások (kkv-k) által.

·A mesterséges intelligenciára vonatkozó jövőbeli európai szabályozási keret kulcsfontosságú elemei, amelyek egyedülálló „bizalmi ökoszisztémát” hoznak létre. E célból biztosítani kell az uniós szabályoknak – köztük az alapvető jogok védelmére és a fogyasztóvédelemre vonatkozó szabályoknak – való megfelelést, mindenekelőtt az EU-ban üzemeltetett, nagy kockázatot jelentő MI-rendszerek esetében 7 . A bizalmi ökoszisztéma kiépítése önmagában is politikai célkitűzés, amelynek bizalmat ébresztenie a polgárokban a mesterséges intelligenciával kapcsolatos alkalmazások iránt, valamint jogbiztonságot kell nyújtania a vállalatok és az állami szervezetek számára a mesterséges intelligenciát használó innovációhoz. A Bizottság határozottan támogatja „Az emberközpontú mesterséges intelligencia iránti bizalom növelése” című közleményben 8 körvonalazott emberközpontú megközelítést, valamint figyelembe fogja venni a magas szintű MI-szakértői csoport által kidolgozott etikai iránymutatások kísérleti szakaszában szerzett információkat is.

Az e fehér könyvet kísérő európai adatstratégia célja az, hogy Európa a világ legvonzóbb, legbiztonságosabb és legdinamikusabb adatagilis gazdaságává váljon – tehát hogy Európa az adatok birtokában jobb döntéseket hozhasson, jobbá téve polgárai életét. A stratégia számos olyan szakpolitikai intézkedést határoz meg, többek között köz- és magánberuházások mozgósítását, amelyekre e cél eléréséhez szükség van. Végezetül a mesterséges intelligenciának, a dolgok internetének és más digitális technológiáknak a biztonságra és a felelősségi jogszabályokra gyakorolt hatását az e fehér könyvet kísérő bizottsági jelentés elemzi.

2.Az ágazati és szakmai piacok erősségeinek kiaknázása

Európa kedvező helyzetben van ahhoz, hogy éljen a mesterséges intelligenciában rejlő lehetőségekkel, nemcsak felhasználóként, hanem e technológia fejlesztőjeként és előállítójaként is. Kiváló kutatóközpontokkal és innovatív induló vállalkozásokkal rendelkezik, világelső a robotika terén, valamint versenyképes a gyártási és szolgáltatási ágazatokban, a gépjárműipartól és az egészségügytől kezdve az energiaiparon és a pénzügyi szolgáltatásokon át egészen a mezőgazdaságig. Európa erős informatikai infrastruktúrát is magáénak mondhat (pl. nagy teljesítményű számítógépeket), amely nélkülözhetetlen a mesterséges intelligencia működtetéséhez. Ezenkívül Európa nagy mennyiségű közadat és ipari adat birtokában van, amely potenciál egyelőre kihasználatlan, és elismert ágazati erőt képvisel a kis energiafogyasztású, biztonságos és védett digitális rendszerek tekintetében, amelyek elengedhetetlenek a mesterséges intelligencia továbbfejlesztéséhez.

Az EU új generációs technológiákba és infrastruktúrákba, valamint a digitális kompetenciákba – például az adat-írástudásba – való beruházási kapacitásának kiaknázása növelni fogja Európa technológiai szuverenitását az adatgazdaság kulcsfontosságú alaptechnológiái és infrastruktúrái terén. Az infrastruktúráknak támogatniuk kell a megbízható – vagyis az európai értékeken és szabályokon alapuló – mesterséges intelligenciát lehetővé tevő európai adatállományok létrehozását.

Európának ki kell használnia erősségeit, hogy megszilárdítsa pozícióit az ökoszisztémákban és az értéklánc egésze mentén, bizonyos hardvergyártási szektoroktól a szoftverfejlesztésen át egészen a szolgáltatásokig. Bizonyos mértékben mindez már folyamatban van. Európa a világ összes ipari és szolgálati robotjának több mint egynegyedét állítja elő (pl. a precíziós gazdálkodás, a biztonság, az egészségügy és a logisztika stb. területén), és fontos szerepet játszik a vállalkozásoknak és szervezeteknek szánt szoftveralkalmazások (vállalkozások közötti alkalmazások, például vállalati erőforrás-tervezési, tervezési és mérnöki szoftverek), valamint az e-közigazgatást és az „intelligens vállalkozást” támogató alkalmazások fejlesztésében és használatában.

Európa élen jár a mesterséges intelligencia gyártásban való hasznosításában: a vezető gyártók több mint fele legalább egy esetben mesterséges intelligenciát alkalmaz a gyártási műveletek során 9 .

Európa erős kutatási pozíciójának egyik oka az az uniós finanszírozási program, mely igen hathatósnak bizonyult a cselekvések összefogásában, a párhuzamosságok elkerülésében, valamint a tagállami köz- és magánberuházások mozgósításában. Az elmúlt három évben az MI-kutatás és -innováció uniós finanszírozásának mértéke elérte az 1,5 milliárd eurót, ami az előző időszakhoz képest 70 %-os növekedést jelent.

Az európai kutatási és innovációs beruházások azonban még mindig csak töredékét teszik ki a világ más régióiban végrehajtott köz- és magánberuházásnak. 2016-ban Európában mintegy 3,2 milliárd eurót fektettek be az MI-ágazatba, míg Észak-Amerikában ez az összeg 12,1 milliárd eurónak, Ázsiában pedig 6,5 milliárd eurónak felelt meg 10 . Éppen ezért Európának jelentősen növelnie kell a beruházások szintjét. A tagállamokkal együtt kidolgozott, a mesterséges intelligenciáról szóló összehangolt terv 11 jó kiindulópontnak bizonyul a mesterséges intelligencia terén való szorosabb európai együttműködés kiépítése és az MI-értékláncba történő beruházások maximalizálását célzó szinergiák megteremtése szempontjából.

3.Az előttünk álló lehetőségek megragadása: a következő adathullám

Noha jelenleg Európa gyengébb pozícióval rendelkezik a fogyasztói alkalmazások és az online platformok terén, ami versenyhátránnyal jár az adathozzáférés szempontjából, az egész szektorban nagy átállás van folyamatban az adatok értékének meghatározása és az adatok újrafelhasználása terén. A világon előállított adatok mennyisége gyorsan nő, a 2018. évi 33 zettabyte-ról 2025-ig várhatóan 175 zettabyte-ra 12 . Minden új adathullám újabb lehetőséget kínál Európa számára, hogy javítsa pozícióját az adatagilis gazdaságban, és világelsővé váljon ezen a területen. Ezenkívül az adatok tárolásának és feldolgozásának módja az elkövetkező öt évben drámaian meg fog változni. Napjainkban a számítási felhőben végzett adatfeldolgozás és -elemzés 80 %-a adatközpontokban és központosított informatikai létesítményekben történik, 20 %-a pedig intelligens összekapcsolt dolgokokban, például autókban, háztartási készülékekben vagy robotokban, valamint a felhasználóhoz közeli informatikai berendezésekben („edge computing”, azaz pereminformatikai alkalmazások). 2025-re ezek az arányok jelentősen meg fognak változni 13 .

Európa vezető szerepet tölt be a kis energiafogyasztású elektronika területén, ami kulcsfontosságú a speciális MI-processzorok következő generációja számára. Ezt a piacot jelenleg nem uniós szereplők uralják. Ez a helyzet azonban megváltozhat olyan kezdeményezések segítségével, mint az Európai processzorkezdeményezés, amely kis fogyasztású informatikai rendszerek fejlesztésére összpontosít mind a pereminformatikai, mind az újgenerációs nagy teljesítményű informatikai rendszerek tekintetében, vagy a 2021-ben beindítani kívánt kulcsfontosságú digitális technológiákkal foglalkozó közös vállalkozás munkája. Európa vezető szerepet tölt be a neuromorf megoldások 14 terén is, amelyek ideálisak az ipari folyamatok (Ipar 4.0) és a közlekedési módok automatizálásához. Ezek a megoldások több nagyságrenddel fokozhatják az energiahatékonyságot.

A kvantuminformatika terén a közelmúltban elért előrelépések a feldolgozási kapacitás exponenciális növekedését eredményezik 15 . Európa e technológia élvonalában lehet, köszönhetően a kvantuminformatika terén elért tudományos eredményeinek, valamint az európai iparnak a kvantumszimulátorok és kvantuminformatikai programozási környezetek terén elfoglalt erős pozícióinak. A kvantumvizsgálati és kvantumkísérleti berendezések elérhetőségének növelését célzó európai kezdeményezések segíteni fognak ezen új kvantuminformatikai megoldások számos ipari és tudományos ágazatban történő alkalmazásában.

Ezzel párhuzamosan Európa saját tudományos kiválóságára építve továbbra is vezető szerepet fog betölteni a mesterséges intelligencia algoritmikus alapjainak kidolgozásában. Hidakat kell építeni a jelenleg elkülönülten működő tudományterületek, például a gépi tanulás és a mélytanulás (amelyet korlátozott értelmezhetőség jellemez, és ahol nagy mennyiségű adatra van szükség a modellek tanításához és a korrelációs tanuláshoz), valamint a szimbolikus megközelítések között (ahol a szabályokat emberi beavatkozással hozzák létre). A szimbolikus érvelés ötvözése a mély neurális hálózatokkal segíthet a mesterséges intelligenciával kapcsolatos eredmények megmagyarázhatóságának javításában.

4.Kiválósági ökoszisztéma

Egy olyan kiválósági ökoszisztéma kialakításához, amely támogathatja a mesterséges intelligencia fejlesztését és elterjedését az EU gazdaságában és közigazgatásában, több szinten is aktívabb fellépésre volna szükség.

A.Együttműködés a tagállamokkal

A mesterséges intelligenciára vonatkozó, 2018 áprilisában elfogadott stratégiájának 16 végrehajtása keretében a Bizottság 2018 decemberében bemutatta a tagállamokkal együtt kidolgozott összehangolt tervet a mesterséges intelligencia európai fejlesztésének és felhasználásának előmozdításáról 17 .

Ez a terv mintegy 70 közös fellépést javasol a tagállamok és a Bizottság közötti szorosabb és hatékonyabb együttműködés érdekében olyan kulcsfontosságú területeken, mint a kutatás, a beruházás, a piaci elterjedés biztosítása, a készségek és tehetségek fejlesztése, az adatok kezelése és a nemzetközi együttműködés. A tervet, amely az ütemezés szerint 2027-ig marad érvényben, rendszeresen nyomon követik és felülvizsgálják.

A cél tovább fokozni a kutatásba, az innovációba és az alkalmazásba történő beruházások hatását, kiértékelni a nemzeti MI-stratégiákat, valamint építeni a mesterséges intelligenciáról szóló összehangolt tervre, és kiterjeszteni azt a tagállamokra:

·1. fellépés: A Bizottság a fehér könyvről folytatott nyilvános konzultáció eredményeinek figyelembevételével javaslatot tesz a tagállamoknak a felülvizsgált összehangolt terv 2020 végéig történő elfogadására.

A mesterséges intelligencia uniós szintű finanszírozásának azokra a területekre kell vonzania és ott kell egyesítenie a beruházásokat, ahol a kívánt intézkedések meghaladják az egyes tagállamok erejét. A következő évtizedre kitűzött cél: évi több mint 20 milliárd euró 18 értékű, mesterséges intelligenciába történő összberuházás mozgósítása az EU-ban. A magán- és közberuházások ösztönzése érdekében az EU a Digitális Európa programból, az Európai horizont programból, valamint az európai strukturális és beruházási alapokból bocsát rendelkezésre forrásokat a kevésbé fejlett régiók és a vidéki területek szükségleteinek kielégítésére.

Az összehangolt terv a mesterséges intelligencia kulcsfontosságú elveként kezelhetné a társadalmi és környezeti jólétet is. Az MI-rendszerek a legsürgetőbb problémák – többek között az éghajlatváltozás és a környezetkárosodás – kezelését hivatottak elősegíteni. Fontos továbbá, hogy mindez környezetbarát módon történjen. A mesterséges intelligencia önmagában képes arra, és kötelessége is, hogy kritikusan vizsgálja meg az erőforrás-felhasználást és az energiafogyasztást, és hogy megtanulja, hogy a környezet szempontjából kedvező döntéseket hozzon. A Bizottság a tagállamokkal együtt mérlegelni fogja az ilyen típusú MI-megoldások ösztönzési és támogatási lehetőségeit.

B.A kutatási és innovációs közösség erőfeszítéseinek összpontosítása

Európa nem engedheti meg magának, hogy fenntartsa a kompetenciaközpontok jelenlegi széttöredezett rendszerét, miközben azok méretükből adódóan nem vehetik fel a versenyt a világ vezető intézményeivel. Elengedhetetlen, hogy a mesterséges intelligenciával foglalkozó számos európai kutatóközpont szorosabban együttműködjön és sűrűbb hálózatot alkosson, összehangolva erőfeszítéseiket kiválóságuk növelése, a legtehetségesebb kutatók vonzása és megtartása, valamint a legjobb technológia kifejlesztése érdekében. Európának szüksége volna egy olyan vezető kutatási, innovációs és szakértői központra, amely koordinálná ezeket a tennivalókat, kiválóság tekintetében világviszonylatban is példaként szolgálhatna a mesterséges intelligencia területén, és amely kellő vonzerőt jelentene a beruházások és a legkiválóbb tehetségek számára. 

A központoknak és a hálózatoknak olyan ágazatokban kell koncentrálódniuk, amelyekben Európa globális vezetővé válhat: ilyen például az ipar, az egészségügy, a közlekedés, a pénzügy, az agrár-élelmiszeripari értékláncok, az energiaügy és a környezetvédelem, az erdészet, a Föld-megfigyelés és az űrkutatás. Mindezeken a területeken folyik a verseny a globális vezető szerepért, és Európa jelentős potenciált, tudást és szakértelmet képes felmutatni 19 . Ugyanilyen fontos a tesztelési és kísérleti helyszínek kialakítása az új MI-alkalmazások kifejlesztésének és azt követő telepítésének támogatása érdekében.

·2. fellépés: A Bizottság elő fogja segíteni az európai, nemzeti és magánberuházásokat összefogó kiválósági és tesztelési központok létrehozását, lehetőség szerint egy új jogi eszközzel együtt. A Bizottság a 2021–2027-es többéves pénzügyi keret részeként a Digitális Európa program keretében ambiciózus és célzott összeget javasolt a világszínvonalú európai referencia-vizsgálatiközpontok támogatására, adott esetben kiegészítve az Európai horizont égisze alatt megvalósuló kutatási és innovációs tevékenységekkel.

C.Készségek

A mesterséges intelligenciával kapcsolatos európai megközelítést a kompetenciahiány megszüntetéséhez szükséges készségekre való erőteljes összpontosításnak kell alátámasztania. 20 A Bizottság hamarosan előterjeszti a készségfejlesztési program megerősített változatát, melynek célja annak biztosítása, hogy Európában mindenki élvezhesse az uniós gazdaság zöld és digitális átalakulásának előnyeit. A kezdeményezések magukban foglalhatják az ágazati szabályozó szervek támogatását is a mesterséges intelligenciával kapcsolatos készségeik javítása és ezáltal a vonatkozó szabályok hatékony és eredményes végrehajtása érdekében. Az aktualizált digitális oktatási cselekvési terv hozzá fog járulni az adatok és a mesterséges intelligencián alapuló technológiák – például a tanulás és a prediktív elemzés – jobb felhasználásához azzal a céllal, hogy javítsa az oktatási és képzési rendszereket, és alkalmassá tegye őket a digitális korra. A terv emellett az oktatás minden szintjén növelni fogja a mesterséges intelligenciával kapcsolatos tudatosságot annak érdekében, hogy felkészítse a polgárokat a megalapozott döntéshozatalra, amelyet egyre jobban befolyásolni fog a mesterséges intelligencia.

A mesterséges intelligenciára vonatkozó, a tagállamokkal közösen kidolgozandó felülvizsgált összehangolt terv egyik prioritása a mesterséges intelligenciával kapcsolatos munkához szükséges készségek fejlesztése és a munkaerő továbbképzése annak érdekében, hogy megfeleljen a mesterséges intelligencián alapuló átalakulásnak. Ez magában foglalhatja azt is, hogy az etikai iránymutatások értékelési listáját a mesterséges intelligencia fejlesztői számára indikatív „tantervvé” alakítják át, amelyet forrásként bocsátanak a képzési intézmények rendelkezésére. Külön erőfeszítéseket kell tenni az e területen képzett és foglalkoztatott nők számának növelése érdekében.

Emellett egy vezető európai kutatási és innovációs MI-központ létrehozása az általa kínált lehetőségekkel a világ minden tájáról vonzaná a tehetségeket. A központ ezenkívül hozzájárulna az Európából származó és ott egyre növekvő készségbeli kiválóság fejlesztéséhez és elterjesztéséhez.

·3. fellépés: A Digitális Európa program korszerű készségekkel foglalkozó pillérén keresztül a vezető egyetemek és felsőoktatási intézmények hálózatainak létrehozása és támogatása annak érdekében, hogy azok vonzzák a legjobb professzorokat és tudósokat, és a mesterséges intelligenciával kapcsolatban világviszonylatban is vezető mesterképzéseket kínáljanak.

A továbbképzésen túlmenően a munkavállalókat és a munkáltatókat közvetlenül érinti az MI-rendszerek kialakítása és használata a munkahelyen. A szociális partnerek bevonása kulcsfontosságú tényező lesz a mesterséges intelligencia munkahelyi alkalmazásával kapcsolatos, emberközpontú megközelítés biztosításában.

D.Középpontban a kkv-k

Fontos feladat lesz annak biztosítása is, hogy a kkv-k hozzáféréssel rendelkezzenek a mesterséges intelligenciához és használni tudják azt. Ennek érdekében tovább kell erősíteni a digitális innovációs központokat 21 és az MI-lekérési platformot 22 , és elő kell mozdítani a kkv-k közötti együttműködést. A Digitális Európa program kiemelkedő szerepet fog játszani ennek elérésében. Noha valamennyi digitális innovációs központnak támogatást kell nyújtania ahhoz, hogy a kkv-k megértsék és befogadják a mesterséges intelligenciát, fontos, hogy tagállamonként legyen legalább egy olyan innovációs központ, amelyik kiemelkedő mértékben szakosodott a mesterséges intelligenciára.

A kkv-k és az induló vállalkozások számára hozzáférést kell biztosítani a finanszírozáshoz az MI-alkalmazással kapcsolatos folyamatkiigazítás vagy innováció érdekében. A mesterséges intelligenciára és a blokklánc-technológiára irányuló, küszöbön álló 100 millió eurós kísérleti beruházási alap segítségével a Bizottság az InvestEU keretében még könnyebbé tervezi tenni a mesterséges intelligencia területén történő finanszírozáshoz való hozzáférést 23 . A mesterséges intelligencia kifejezetten szerepel az InvestEU garancia igénybevételére jogosult területek között.

·4. fellépés: A Bizottság együtt fog működni a tagállamokkal annak biztosítása érdekében, hogy tagállamonként legyen legalább egy olyan innovációs központ, amelyik kiemelkedő mértékben szakosodott a mesterséges intelligenciára. A digitális innovációs központok a Digitális Európa program keretében támogathatók.

·A Bizottság és az Európai Beruházási Alap 2020 1. negyedévében 100 millió euró összegű kísérleti projektet indít a mesterséges intelligenciával kapcsolatos innovatív fejlesztések tőkefinanszírozásának biztosítására. A többéves pénzügyi keretre vonatkozó végleges megállapodás függvényében a Bizottság szándéka az, hogy a finanszírozást az InvestEU-n keresztül 2021-től jelentősen növelje.

E.Partnerség a magánszektorral

Alapvető fontosságú annak biztosítása is, hogy a magánszektor teljes mértékben bevonásra kerüljön a kutatási és innovációs menetrend kidolgozásába, és biztosítsa a társberuházás szükséges szintjét. Ehhez egyaránt szükség van egy széles alapon nyugvó köz-magán társulás létrehozására és a vállalkozások felső vezetésének elkötelezettségére.

·5. fellépés: Az Európai horizont keretében a Bizottság új köz-magán társulást hoz létre a mesterséges intelligencia, az adatok és a robotika terén, hogy egyesítse az erőfeszítéseket, biztosítsa a mesterséges intelligenciával kapcsolatos kutatás és innováció koordinációját, ezenkívül együttműködjön az Európai horizont más köz-magán társulásaival, valamint a fent említett tesztelési létesítményekkel és digitális innovációs központokkal.

F.A mesterséges intelligencia közszektor általi elfogadásának előmozdítása

Alapvető fontosságú, hogy a közigazgatási szervek, a kórházak, a közüzemi és közlekedési szolgáltatások, pénzügyi felügyeletek, valamint más közérdekű területek mielőbb elkezdjenek olyan termékeket és szolgáltatásokat alkalmazni, amelyek működésük során mesterséges intelligenciára támaszkodnak. Különös figyelmet kell fordítani az egészségügyi ellátás és a közlekedés azon területeire, ahol a technológia már érett a széles körű alkalmazásra.

·6. fellépés: A Bizottság nyílt és transzparens ágazati párbeszédeket fog kezdeményezni (melyekben elsőbbséget biztosít az egészségügy, a vidéki önkormányzatok és a közszolgáltatás szereplői számára) annak érdekében, hogy cselekvési tervet terjesszen elő a fejlesztés, a kísérletezés és az elfogadás megkönnyítése érdekében. Az ágazati párbeszédeket a mesterséges intelligencia elfogadását célzó egyedi program előkészítésére fogják felhasználni, amely támogatni fogja az MI-rendszerek közbeszerzését, és elősegíti maguknak a közbeszerzési eljárásoknak az átalakítását.

G.Az adatokhoz és az informatikai infrastruktúrákhoz való hozzáférés biztosítása

Az e fehér könyvben meghatározott intézkedési területek kiegészítik az európai adatstratégiában párhuzamosan bemutatott tervet. Az adatokhoz való hozzáférés és az adatkezelés javítása alapvetően fontos. Adatok nélkül sem a mesterséges intelligencia, sem más digitális alkalmazások fejlesztése nem lehetséges. Ez a hatalmas mennyiségű új adat, amelynek létrehozása még előttünk áll, lehetőséget teremt arra, hogy Európa az adat- és MI-átalakulás élvonalába kerüljön. A felelős adatkezelési gyakorlatok és az adatok FAIR-elveknek való megfelelésének előmozdítása hozzájárul a bizalom kiépítéséhez és az adatok újrafelhasználhatóságának biztosításához 24 . Ugyanilyen fontos az informatikai kulcstechnológiákba és -infrastruktúrákba történő beruházás is.

A Bizottság a Digitális Európa program keretében több mint 4 milliárd eurót javasolt a nagy teljesítményű és kvantuminformatika támogatására, beleértve a pereminformatikát, valamint az MI-, az adat- és felhőinfrastruktúrát. Az európai adatstratégia továbbfejleszti ezeket a prioritásokat.

H.Nemzetközi aspektusok

Európa jó pozícióban van ahhoz, hogy globális vezető szerepet töltsön be a közös értékek köré szerveződő szövetségek létrehozásában és a mesterséges intelligencia etikus használatának előmozdításában. Az EU mesterséges intelligenciával kapcsolatos munkája hatással van a nemzetközi megbeszélésekre is. A magas szintű szakértői csoport számos nem uniós szervezetet és több kormányzati megfigyelőt is bevont etikai iránymutatásainak kidolgozásába. Ezzel párhuzamosan az EU szorosan közreműködött a Gazdasági Együttműködési és Fejlesztési Szervezet mesterséges intelligenciára vonatkozó etikai alapelveinek kidolgozásában 25 . A G20-ak ezt követően a kereskedelemről és a digitális gazdaságról szóló, 2019. júniusi miniszteri nyilatkozatukban jóváhagyták ezeket az elveket.

Ezzel párhuzamosan az EU elismeri, hogy más multilaterális fórumokon, többek között az Európa Tanácsban, az ENSZ Nevelésügyi, Tudományos és Kulturális Szervezetében (UNESCO), a Gazdasági Együttműködési és Fejlesztési Szervezetben (OECD), a Kereskedelmi Világszervezetben és a Nemzetközi Távközlési Egyesületben (ITU) is fontos munka folyik a mesterséges intelligenciával kapcsolatban. Az ENSZ munkájának keretében az EU részt vesz a digitális együttműködéssel foglalkozó magas szintű munkacsoport jelentésének és a mesterséges intelligenciára vonatkozó ajánlásának nyomon követésében.

Az EU továbbra is együtt fog működni a hasonló felfogású országokkal, de a mesterséges intelligenciával foglalkozó globális szereplőkkel is egy olyan megközelítés szerint, amely az EU szabályain és értékein alapul (pl. támogatja a felfelé történő szabályozási konvergenciát, a kulcsfontosságú erőforrásokhoz – köztük az adatokhoz – való hozzáférést, az egyenlő versenyfeltételek megteremtését). A Bizottság szorosan nyomon fogja követni az adatáramlást korlátozó harmadik országok politikáit, ezenkívül a kétoldalú kereskedelmi tárgyalások során és a Kereskedelmi Világszervezet keretében hozott intézkedések révén foglalkozni fog az indokolatlan korlátozásokkal. A Bizottság meg van győződve arról, hogy a mesterséges intelligenciával kapcsolatos nemzetközi együttműködésnek olyan megközelítésen kell alapulnia, amely előmozdítja az alapvető jogok tiszteletben tartását, beleértve az emberi méltósággal, a pluralizmussal, a befogadással, a megkülönböztetésmentességgel, a magánélet védelmével és a személyes adatok 26 védelmével kapcsolatos jogokat, és a Bizottság arra fog törekedni, hogy értékeit az egész világon elterjessze 27 . Az is egyértelmű, hogy a mesterséges intelligencia felelős fejlesztése és használata a fenntartható fejlesztési célok elérésének és a 2030-ig tartó időszakra szóló menetrend előmozdításának hajtóereje lehet.

5.Bizalmi ökoszisztéma: a mesterséges intelligenciára vonatkozó szabályozási keret

Mint minden új technológia, a mesterséges intelligencia használata is egyaránt rejt magában lehetőségeket és kockázatokat. A polgárok attól tartanak, hogy nem tudják majd megvédeni jogaikat és biztonságukat az algoritmikus döntéshozatal információs aszimmetriáinak hatásaitól, a vállalatokat pedig a jogbiztonság hiánya aggasztja. Míg a mesterséges intelligencia segíthet megvédeni a polgárok biztonságát és lehetővé teheti számukra, hogy gyakorolják alapvető jogaikat, a polgárok attól is tartanak, hogy a mesterséges intelligencia nem kívánt hatásokkal járhat, vagy akár ártó szándékkal is felhasználható. Ezekre az aggodalmakra választ kell adni. Emellett a beruházások és a készségek hiányán túl a bizalom hiánya az egyik fő akadálya a mesterséges intelligencia szélesebb körű elterjedésének.

Ezért a Bizottság 2018. április 25-én lefektetett egy MI-stratégiát 28 , amely egész Európát érintően egyfelől a kérdés társadalmi-gazdasági aspektusával, másfelől a kutatásba, az innovációba és az MI-kapacitásokba való beruházások növelésével foglalkozik. A Bizottság a stratégiák egymáshoz igazítása érdekében összehangolt tervről 29 állapodott meg a tagállamokkal. A Bizottság magas szintű szakértői csoportot is létrehozott, amely 2019 áprilisában iránymutatást tett közzé a megbízható mesterséges intelligenciáról 30 .

A Bizottság közleményben 31 üdvözölte a magas szintű szakértői csoport iránymutatásában megfogalmazott hét kulcsfontosságú követelményt:

·Emberi cselekvőképesség és emberi felügyelet;

·Műszaki stabilitás és biztonság;

·Adatvédelem és adatkezelés;

·Átláthatóság;

·Sokféleség, megkülönböztetésmentesség és méltányosság;

·Társadalmi és környezeti jólét; valamint

·Elszámoltathatóság.

Ezen túlmenően az iránymutatás értékelési listát is tartalmaz a vállalkozások általi gyakorlati felhasználás céljából. 2019 második felében több mint 350 szervezet tesztelte ezt az értékelési listát, és küldött visszajelzést. A magas szintű munkacsoport pillanatnyilag felülvizsgálja iránymutatásait a visszajelzések alapján, és ezt a munkáját 2020 júniusában fejezi be. A visszajelzések legfontosabb üzenete, hogy míg a meglévő jogi vagy szabályozási rendszerek számos követelményt már tartalmaznak, az átláthatóságra, a nyomon követhetőségre és az emberi felügyeletre vonatkozó követelmények számos gazdasági ágazatban nem képezik részét a jelenlegi jogszabályoknak.

A magas szintű szakértői csoport említett, nem kötelező erejű iránymutatásán felüli és az elnök politikai iránymutatásaival összhangban álló egyértelmű európai szabályozási keret erősítené a fogyasztók és a vállalkozások MI-rendszerekbe vetett bizalmát, és ezáltal felgyorsítaná a technológia elterjedését. E szabályozási keretnek összhangban kell állnia az európai innovációs kapacitás és versenyképesség előmozdítása érdekében e területen hozott egyéb intézkedésekkel. Ezenkívül társadalmi, környezeti és gazdasági szempontból optimális eredményeket kell biztosítania, és gondoskodnia kell az uniós jogszabályoknak, elveknek és értékeknek való megfelelésről. Különösen fontos ez olyan területeken, amelyek a legközvetlenebb módon érinthetik a polgárok jogait, például a bűnüldözéssel és igazságszolgáltatással kapcsolatos MI-alkalmazások esetében.

A mesterséges intelligencia fejlesztőire és alkalmazóira már ma is alkalmazandók az alapvető jogokra (pl. adatvédelem, magánélet védelme, megkülönböztetésmentesség), a fogyasztóvédelemre, valamint a termékbiztonságra és termékfelelősségre vonatkozó uniós jogszabályok. A fogyasztók ugyanilyen szintű biztonságot és jogokat várnak el, függetlenül attól, hogy egy termék vagy egy rendszer a mesterséges intelligenciára támaszkodik-e vagy sem. A mesterséges intelligencia bizonyos sajátosságai (pl. átláthatatlanság) azonban megnehezíthetik e jogszabályok alkalmazását és végrehajtását. Ezért meg kell vizsgálni, hogy a jelenlegi jogszabályok képesek-e kezelni a mesterséges intelligencia kockázatait és a végrehajtásuk hatékonyan kikényszeríthető-e, vagy a jogszabályok kiigazítása, esetleg új szabályozás kialakítása szükséges.

Tekintettel a mesterséges intelligencia gyors fejlődésére, a szabályozási keretnek teret kell hagynia a további fejlesztésekre. Minden változtatásnak egyértelműen azonosított problémákra kell korlátozódnia, amelyekre léteznek megvalósítható megoldások.

A tagállamok kiemelik, hogy jelenleg nincs közös európai szabályozási keret. A Német Adatetikai Bizottság ötszintes, kockázatalapú szabályozási rendszert szorgalmaz, amely a szabályozás hiányától (a legártalmatlanabb mesterségesintelligencia-rendszerek esetében) a teljes tiltásig (a legveszélyesebb rendszerek esetében) terjedne. Dánia nemrég hozott létre egy adatetikai bélyegző-prototípust. Málta önkéntes tanúsítási rendszert vezetett be a mesterséges intelligenciára vonatkozóan. Ha az EU nem biztosít egy uniós szintű megközelítést, fennáll a belső piac széttagolódásának valós kockázata, ami aláásná a bizalom megteremtésére, a jogbiztonságra és a piaci elterjedésre irányuló célkitűzéseket.

A megbízható mesterséges intelligenciára vonatkozó szilárd európai szabályozási keret védelmet jelent valamennyi európai polgár számára, és hozzájárul a mesterséges intelligencia további fejlesztését és elterjedését szolgáló, súrlódásmentes belső piac létrehozásához, valamint Európa ipari bázisának megerősítéséhez a mesterséges intelligencia terén.

A.A probléma meghatározása

Bár a mesterséges intelligencia rendkívül hasznos lehet (többek között termékek és folyamatok biztonságosabbá tételével), kárt is okozhat. Ez a kár lehet materiális (az emberek biztonságát és egészségét érintő kár, ideértve a haláleseteket és a vagyoni károkat is) és lehet nem vagyoni jellegű (a magánélethez való jog sérelme, a véleménynyilvánítás szabadságának és az emberi méltóságnak a korlátozása, megkülönböztetés, például a munkavállalás terén), és a kockázatok széles köréhez kapcsolódhat. A szabályozási keretnek arra kell összpontosítania, hogy miként lehet minimalizálni az esetleges károsodások különféle kockázatait, különösen a legjelentősebbekét.

A mesterséges intelligencia használatához kapcsolódó fő kockázatok az alapvető jogok (többek között a személyes adatok és a magánélet védelme és a megkülönböztetésmentesség) védelmét szolgáló szabályok alkalmazását, valamint a biztonsággal 32 és a termékfelelősséggel kapcsolatos kérdéseket érintik.

Az alapvető jogokat, köztük az adatvédelmet, a magánélet védelmét és a megkülönböztetésmentességet érintő kockázatok

A mesterséges intelligencia használata hatással lehet az EU alapértékeire, és olyan alapvető jogok megsértéséhez 33 vezethet, mint például a szabad véleménynyilvánítás joga, a gyülekezés szabadsága, az emberi méltóság, a nemen, faji vagy etnikai származáson, valláson vagy meggyőződésen, fogyatékosságon, koron vagy szexuális irányultságon alapuló megkülönböztetés tilalma, a személyes adatok és a magánélet védelme,  34 a hatékony bírósági jogorvoslathoz és a tisztességes eljáráshoz való jog, vagy a fogyasztóvédelem. Ezek a kockázatok eredhetnek a mesterségesintelligencia-rendszerek általános tervezési hibáiból (az emberi felügyelet tekintetében is) vagy az esetlegesen elfogult adatok kijavítás nélküli felhasználásából (pl. a rendszer tanítása csak vagy főként férfiaktól származó adatok felhasználásával történt).

A mesterséges intelligencia számos olyan funkciót tölthet be, amelyeket korábban csak emberek tudtak ellátni. Ennek eredményeként a polgárok és a jogi személyek egyre gyakrabban fognak azzal szembesülni, hogy a rájuk vonatkozó intézkedések és döntések meghozatala MI-rendszerek által, vagy azok segítségével történt, és azokat néha nehéz megérteni illetve szükség esetén hatékonyan megtámadni. Ezenkívül a mesterséges intelligencia által fokozottan lehetővé válik az emberek mindennapi szokásainak figyelemmel kísérése és elemzése. Fennáll például annak a kockázata, hogy a mesterséges intelligenciát az uniós adatvédelmi és egyéb szabályokat sértő módon, állami hatóságok vagy más szervek tömeges megfigyelésre, a munkáltatók pedig munkavállalóik viselkedésének megfigyelésére használhatják. Nagy adatmennyiségek elemzésével és az adatok közötti összefüggések azonosításával a mesterséges intelligencia személyek adatainak visszakeresésére és anonim jellegének megszüntetésére is felhasználható lehet, ami új személyesadat-védelmi kockázatokat teremt olyan adatkészletek esetében is, amelyek önmagukban véve nem tartalmaznak személyes adatokat. A mesterséges intelligenciát online közvetítők is használják, amikor a felhasználóik számára információkat rangsorolnak, vagy amikor tartalommoderálást végeznek. A feldolgozott adatok, az alkalmazások kialakításának módja és az emberi beavatkozás hatóköre hátrányosan érintheti a véleménynyilvánítás szabadságához, a személyes adatok és a magánélethez védelméhez való jogot és a politikai szabadságokat.

Az elfogultság és a megkülönböztetés minden társadalmi vagy gazdasági tevékenység velejáró kockázata. Az emberi döntéshozatal nem mentes a hibáktól és az elfogultságtól. A mesterséges intelligenciában jelen lévő, ugyanilyen elfogultság azonban sokkal nagyobb hatást fejthet ki, sok embert hátrányosan érinthet és különböztethet meg az emberi viselkedést irányító társadalmi ellenőrző mechanizmusok nélkül 35 . Ez akkor is megtörténhet, ha az MI-rendszer működés közben „tanul”. Ilyen esetekben – ha ezt az eredményt a tervezési szakaszban nem lehetett megakadályozni vagy előre látni – a kockázatok nem a rendszer eredeti tervezési hibájából, hanem a rendszer által a nagy adathalmazokban azonosított korrelációk vagy minták gyakorlati hatásaiból erednek.

Számos MI-technológia sajátos jellemzői – köztük az átláthatatlanság („feketedoboz-hatás”), az összetettség, a kiszámíthatatlanság és a részint autonóm viselkedés – kerékkötői lehetnek az alapvető jogok védelmét célzó, meglévő uniós jogszabályok hatékony végrehajtásának, és megnehezíthetik e jogszabályok betartásának ellenőrzését. Előfordulhat, hogy a végrehajtó hatóságok és az érintett személyek nem rendelkeznek megfelelő eszközökkel annak ellenőrzésére, hogy a mesterséges intelligencia használatával meghozott döntések milyen módon jöttek létre, és így arról sem tudnak meggyőződni, hogy betartották-e a vonatkozó szabályokat. Magánszemélyek és jogi személyek nehézségekbe ütközhetnek az igazságszolgáltatáshoz való tényleges hozzáférés terén olyan helyzetekben, amikor az ilyen döntések hátrányosan érinthetik őket.

A biztonságot és a termékfelelősségi rendszer hatékony működését érintő kockázatok

Az MI-technológiák új biztonsági kockázatokat jelenthetnek a felhasználók számára, ha termékekbe és szolgáltatásokba vannak beágyazva. Például a tárgyak felismerésére szolgáló technológia hibája miatt egy önvezető autó tévesen azonosíthat egy tárgyat az úttesten, és sérüléssel és anyagi kárral járó balesetet okozhat. Az alapvető jogokat érintő kockázatokhoz hasonlóan e kockázatok szintén eredhetnek az MI-technológia tervezési hiányosságaiból, vagy kapcsolódhatnak az adatok elérhetőségével és minőségével kapcsolatos problémákhoz, illetve a gépi tanulásból eredő egyéb problémákhoz. Bár e kockázatok némelyike nem korlátozódik a mesterséges intelligencián alapuló termékekre és szolgáltatásokra, a mesterséges intelligencia használata növelheti vagy súlyosbíthatja a kockázatokat.

Az e kockázatokat kezelő egyértelmű biztonsági rendelkezések hiánya – az érintett egyéneket érintő kockázatokon túl – a jogbiztonság hiányát eredményezheti azon vállalkozások számára, amelyek mesterséges intelligenciával kapcsolatos termékeiket forgalmazzák az EU-ban. A piacfelügyeleti és végrehajtó hatóságok kerülhetnek olyan helyzetbe, amelyben nem egyértelmű, hogy beavatkozhatnak-e, mivel előfordulhat, hogy nem rendelkeznek a szükséges felhatalmazással arra, hogy eljárjanak és/vagy nem rendelkeznek a rendszerek ellenőrzéséhez szükséges megfelelő műszaki képességekkel 36 . A jogbiztonság hiánya ezért csökkentheti a biztonság általános szintjét, és alááshatja az európai vállalatok versenyképességét.

Amennyiben a biztonsági kockázatok bekövetkeznek, az egyértelmű követelmények hiánya és az MI-technológiák fent említett jellemzői megnehezítik az MI-rendszerek bevonásával hozott, potenciálisan problematikus döntések visszakövetését. Ez pedig megnehezítheti a károsultak számára, hogy a jelenlegi uniós és nemzeti termékfelelősségi jogszabályok alapján kártérítést kapjanak 37 .

Így a mesterségesintelligencia-rendszerek által hozott és az alapvető jogokkal kapcsolatban fent említett, potenciálisan problematikus döntések visszakövetésének nehézsége éppúgy jelen van a biztonsággal és a termékfelelősséggel kapcsolatos kérdések vonatkozásában is. Előfordulhat, hogy a károkat elszenvedők nem tudnak hatékonyan hozzáférni például a bírósági eljárás lefolytatásához szükséges bizonyítékokhoz, és nem rendelkeznek olyan hatékony jogorvoslati lehetőségekkel, mint akkor, amikor a kárt hagyományos technológiák okozzák. A mesterséges intelligencia használatának elterjedésével nőni fognak ezek a kockázatok.

B. A mesterséges intelligenciával kapcsolatos meglévő uniós jogi keret lehetséges kiigazításai

Számos újonnan megjelenő MI-alkalmazás esetében releváns és potenciálisan alkalmazandó a termékbiztonsággal és termékfelelősséggel kapcsolatos meglévő uniós jogszabályok 38 – az ágazatspcifikus szabályokat is ideértve – széles köre, melyet nemzeti jogszabályok és vonatkozó szabványok egészítenek ki.

Az alapvető jogok és a fogyasztói jogok védelme tekintetében az uniós jogszabályi keret olyan jogszabályokat foglal magában, mint a faji egyenlőségről szóló irányelv 39 , a foglalkoztatás és a munkavégzés során alkalmazott egyenlő bánásmódról szóló irányelv 40 , a férfiak és nők közötti egyenlő bánásmód elvének a foglalkoztatás és munkavégzés területén, és az árukhoz és szolgáltatásokhoz való hozzáférés tekintetében történő megvalósításáról szóló irányelvek 41 , számos fogyasztóvédelmi jogszabály 42 , valamint a személyes adatok védelmére és a magánélet védelmére vonatkozó jogszabályok, nevezetesen az általános adatvédelmi rendelet és a személyes adatok védelmére vonatkozó egyéb ágazati jogszabályok, például a bűnüldözésben érvényesítendő adatvédelemről szóló irányelv 43 . Emellett 2025-től alkalmazandók lesznek az európai akadálymentesítési intézkedéscsomagnak a termékekre és szolgáltatásokra vonatkozó akadálymentességi követelményekkel kapcsolatos szabályai is 44 . Az alapvető jogokat továbbá tiszteletben kell tartani más uniós jogszabályok végrehajtása során is, ideértve a pénzügyi szolgáltatások, a migráció vagy az online közvetítők felelősségének területét.

Bár az uniós jogszabályok főszabály szerint az MI bevonásától függetlenül teljes mértékben alkalmazandók maradnak, fontos annak felmérése, hogy azok megfelelően végrehajthatók-e a mesterségesintelligencia-rendszerek jelentette kockázatok kezelése céljából, vagy szükség van egyes jogi eszközök kiigazítására.

Például a gazdasági szereplők továbbra is teljes mértékben felelősek maradnak azért, hogy a mesterséges intelligencia megfelel a hatályos fogyasztóvédelmi szabályoknak, tilos a fogyasztói magatartások algoritmikus, a meglévő szabályokat sértő kihasználása, és a jogsértéseket megfelelően szankcionálni kell. 

A Bizottság úgy véli, hogy a jogi keret jobbítására a következő kockázatok és helyzetek kezelése érdekében kerülhetne sor:

·A hatályos uniós és nemzeti jogszabályok hatékony alkalmazása és végrehajtása: A mesterséges intelligencia lényeges jellemzői kihívást jelentenek az uniós és nemzeti jogszabályok megfelelő alkalmazásának és végrehajtásának biztosítása szempontjából. Az átláthatóság hiánya (a mesterséges intelligenciára jellemző átláthatatlanság) megnehezíti az esetleges jogsértések azonosítását és bizonyítását, ideértve az alapvető jogok védelmével, a felelősség megállapításával és a kártérítés-igénylési feltételeknek való megfeleléssel kapcsolatos jogszabályi rendelkezéseket is. Ezért a hatékony alkalmazás és végrehajtás biztosítása érdekében bizonyos területeken – például a termékfelelősségre vonatkozóan – szükségessé válhat a meglévő jogszabályok kiigazítása vagy pontosítása, amint azt az e fehér könyvet kísérő jelentés részletesen kifejti.

·A meglévő uniós jogszabályok alkalmazási körének korlátai: az uniós termékbiztonsági jogszabályok középpontjában alapvetően a termékek forgalomba hozatala áll. Míg az uniós termékbiztonsági jogszabályok értelmében a végtermék alkotórészét képező szoftvereknek a vonatkozó termékbiztonsági szabályoknak kell megfelelniük, néhány olyan ágazaton kívül, ahol kifejezett szabályok vannak érvényben 45 , nyitott kérdés, hogy az önálló szoftverekre vonatkoznak-e az uniós termékbiztonsági jogszabályok. A jelenleg hatályban lévő általános uniós termékbiztonsági jogszabályok alkalmazási körébe nem szolgáltatások, hanem termékek tartoznak, ebből következően ezek a jogszabályok főszabály szerint nem alkalmazandók az MI-technológián alapuló – például egészségügyi, pénzügyi vagy közlekedési – szolgáltatásokra sem.

·Az MI-rendszerek funkcióinak változása: a szoftverek – beleértve a mesterséges intelligenciát is – termékekbe történő beépítése megváltoztathatja az ilyen termékek és rendszerek működését azok életciklusa során. Különösen igaz ez azokra a rendszerekre, amelyek gyakori szoftverfrissítést igényelnek, vagy gépi tanuláson alapulnak. Ezek a jellemzők olyan új kockázatokkal járhatnak, amelyek az adott rendszer forgalomba hozatalakor még nem álltak fenn. A meglévő jogszabályok ezekkel a kockázatokkal nem foglalkoznak megfelelően, hanem elsősorban a forgalomba hozatal időpontjában fennálló biztonsági kockázatokra összpontosítanak.

·Bizonytalanság a felelősségnek az ellátási láncban részt vevő különböző gazdasági szereplők közötti megoszlását illetően: az uniós termékbiztonsági jogszabályok főszabályként a forgalomba hozott termék gyártójára ruházzák a felelősséget, ami a termék összes összetevőjére kiterjed, például az MI-rendszerekre is. De a jogszabályok már nem egyértelműek például akkor, ha a termékhez a forgalomba hozatalt követően mesterséges intelligenciát ad hozzá egy, a gyártótól eltérő fél. Ráadásul a termékfelelősségre vonatkozó uniós jogszabályok a gyártók felelősségéről rendelkeznek, az ellátási láncban részt vevő többi személy felelősségének szabályozását pedig a nemzeti termékfelelősségi szabályokra bízzák.

·A biztonság fogalmának változása: a mesterséges intelligencia termékekben és szolgáltatásokban történő felhasználása olyan kockázatokat eredményezhet, amelyekkel az uniós jogszabályok jelenleg nem foglalkoznak kifejezetten. E kockázatok kapcsolódhatnak kiberfenyegetésekhez, személyes biztonsági kockázatokhoz (például olyan új MI-alkalmazási lehetőségekhez, mint a háztartási készülékek), vagy a hálózati összekapcsoltság megszűnéséből eredő kockázatokhoz stb. Ezek a kockázatok fennállhatnak már a termékek forgalomba hozatalakor, vagy felléphetnek a termék használata során a szoftverfrissítések vagy öntanulás eredményeként. Az EU-nak teljes mértékben ki kell használnia a rendelkezésére álló eszközöket a mesterséges intelligencián alapuló alkalmazásokhoz kapcsolódó potenciális kockázatokra vonatkozó bizonyítékok bővítése érdekében, ideértve az Európai Uniós Kiberbiztonsági Ügynökség (ENISA) által a mesterséges intelligencián alapuló fenyegetettségi helyzetek értékelése során nyert tapasztalatok felhasználását is.

Amint arról fentebb szó volt, több tagállam már vizsgálja, hogy nemzeti jogában milyen lehetőségek vannak a mesterséges intelligencia jelentette kihívások kezelésére. Ez az egységes piaci széttagolódásának kockázatát veti fel.. A divergáló nemzeti szabályok minden valószínűség szerint akadályoznák azon vállalkozások tevékenységét, amelyek MI-rendszereket kívánnak értékesíteni és működtetni az egységes piacon. Az uniós szintű közös megközelítés biztosítása lehetővé tenné az európai vállalkozások számára, hogy élvezzék az egységes piachoz való zökkenőmentes hozzáférés előnyeit, és támogatná versenyképességüket a globális piacokon.

A fenti megbeszélés alapján a Bizottság arra a következtetésre jutott, hogy – a meglévő jogszabályok esetleges kiigazításán túl – szükség lehet egy kifejezetten a mesterséges intelligenciára vonatkozó új jogszabályra is annak érdekében, hogy az uniós jogi keret megfeleljen a jelenlegi és várható technológiai és kereskedelmi fejleményeknek.

C.A jövőbeli uniós szabályozási keret hatálya

A leendő speciális MI-szabályozási keret egyik kulcskérdése a hatály meghatározása. A kiinduló feltevés szerint a szabályozási keret az MI-alapú termékekre és szolgáltatásokra vonatkozna. A mesterséges intelligencia fogalmát ezért egyértelműen meg kell határozni mind e fehér könyv, mind pedig bármely lehetséges jövőbeli szakpolitikai kezdeményezés alkalmazásában.

A Bizottság a mesterséges intelligencia fogalmát először a „Mesterséges intelligencia Európa számára” című közleményében definiálta 46 . Ezt a meghatározást a magas szintű szakértői csoport tovább finomította 47 .

A mesterséges intelligencia fogalommeghatározásának valamennyi új jogi eszközben kellően rugalmasnak kell lennie ahhoz, hogy alkalmazkodjon a műszaki fejlődéshez, ugyanakkor elég pontosnak is, hogy biztosítsa a szükséges jogbiztonságot.

E fehér könyv, valamint bármely lehetséges jövőbeli politikai kezdeményezésről szóló megbeszélések céljából fontosnak tűnik tisztázni, hogy a mesterséges intelligencia fő alkotóelemei az „adatok”, valamint az „algoritmusok”. Mesterséges intelligencia hardvereszközökbe is beépíthető. A mesterséges intelligencia részhalmazát jelentő gépi tanulási technikák esetében az algoritmusokat arra tanítják, hogy meghatározott adathalmazok alapján bizonyos mintákat kövessenek egy adott cél eléréséhez szükséges intézkedések meghatározása érdekében. Alkalmazás közben az algoritmusok folytathatják ezt a tanulást. Bár az MI-alapú termékek a környezetük észlelése révén, és előre meghatározott utasításkészlet követése nélkül képesek önálló működésre, viselkedésüket nagyrészt fejlesztőik határozzák meg és szorítják keretek közé Emberek határozzák meg és programozzák be azokat a célokat, amelyeket az MI-rendszernek optimalizálnia kell. 

Az EU szigorú jogi kerettel rendelkezik többek között a fogyasztóvédelem biztosítása, a tisztességtelen kereskedelmi gyakorlatok kezelése, az adatvédelem és a magánélet védelme terén. Emellett az uniós joganyag bizonyos ágazatokra (pl. egészségügy, közlekedés) vonatkozóan különös szabályozásokat tartalmaz. Az uniós jog e meglévő rendelkezései változatlanul alkalmazandók lesznek a mesterséges intelligenciára vonatkozóan is, noha a digitális transzformáció és az MI-felhasználás tükrözéséhez szükségesek lehetnek a keret bizonyos frissítései (lásd a B. szakaszt). Következésképpen azokra a szempontokra, amelyeket a meglévő horizontális vagy ágazati (pl. orvostechnikai eszközökre 48 , közlekedési rendszerekre vonatkozó) jogszabályok már kezelnek, továbbra is ezek a jogszabályok lesznek irányadók.

Alapelv, hogy a mesterséges intelligenciára vonatkozó új szabályozási keretnek hatékonynak kell lennie a célkitűzések elérésében, ugyanakkor nem lehet túlzottan előíró jellegű sem, nehogy aránytalanul nagy terhet jelentsen, különösen a kkv-k számára. Az egyensúly megteremtése érdekében a Bizottság úgy véli, hogy kockázatalapú megközelítést kell követnie.

A kockázatalapú megközelítés fontos annak biztosítása érdekében, hogy a szabályozási beavatkozás arányos legyen. Ugyanakkor egyértelmű kritériumokat követel meg a különböző mesterségesintelligencia-alkalmazások közötti különbségtétel terén különösen azzal a kérdéssel kapcsolatban, hogy azok „nagy kockázatúak”-e vagy sem 49 . A nagy kockázatú mesterségesintelligencia-alkalmazás meghatározásának egyértelműnek, könnyen érthetőnek és alkalmazhatónak kell lennie valamennyi érintett fél számára. Mindazonáltal, még ha egy mesterségesintelligencia-alkalmazás nem is minősül nagy kockázatúnak, teljes mértékben a már meglévő uniós jogszabályok hatálya alatt marad.

A Bizottság azon a véleményen van, hogy egy adott MI-alkalmazást főszabály szerint magas kockázatúnak kell tekinteni, tekintettel arra, hogy mi forog kockán, figyelembe véve, hogy mind az ágazat, mind a tervezett felhasználás jelentős kockázatokat hordoz, különösen a biztonság, a fogyasztói jogok és az alapvető jogok védelme szempontjából. Konkrétabban, a mesterséges intelligenciával kapcsolatos adott alkalmazást magas kockázatúnak kell tekinteni, ha megfelel az alábbi két kumulatív feltételnek:

·Az első, hogy a mesterségesintelligencia-alkalmazást olyan ágazatban használják, ahol – tekintettel a jellemzően végzett tevékenységek természetére – jelentős kockázatok várhatók. Ez az első feltétel biztosítja, hogy a szabályozói beavatkozás azokra a területekre irányuljon, ahol általában véve a legvalószínűbb kockázatok előfordulása. Az érintett ágazatokat konkrétan és kimerítően fel kell sorolni az új szabályozási keretben. Például az egészségügyi ellátás; a közlekedés; az energiaszektor és a közszféra egyes részei 50 . A felsorolást rendszeresen felül kell vizsgálni és szükség esetén módosítani kell a releváns gyakorlati fejlemények függvényében;

·A második feltétel, hogy az adott ágazatban ezenfelül olyan módon használják a mesterségesintelligencia-alkalmazást, ami jelentős kockázatokat okoz. Ez a második feltétel annak elismerését tükrözi, hogy a mesterséges intelligencia használata nem feltétlenül jár jelentős kockázatokkal a kiválasztott ágazatokban. Például, bár az egészségügyi ellátás általában jelentősen releváns ágazat lehet, a kórházi időpont-beosztási rendszer hibája normál esetben nem jelent olyan jelentős kockázatot, amely jogalkotási beavatkozást indokolna. Egy adott felhasználás kockázati szintjének értékelése az érintett felekre gyakorolt hatáson alapulhat. Például MI-alkalmazások olyan felhasználásai, amelyek joghatással vagy hasonlóan jelentős hatással járhatnak az egyének vagy a vállalkozások jogaira nézve; amelyek sérülés, halál vagy jelentős anyagi vagy nem anyagi kár kockázatát hordozzák; amelyek hatásait a természetes vagy jogi személyek nem képesek észszerűen elkerülni.

A két együttes kritérium alkalmazása biztosítaná, hogy a szabályozási keret hatálya célhoz kötött legyen és jogbiztonságot adjon. A mesterséges intelligencia új szabályozási keretének kötelező követelményei (lásd a D. szakaszt) alapesetben csak a két együttes kritérium alapján nagy kockázatúnak minősülő alkalmazásokra vonatkoznának.

Előfordulhatnak ugyanakkor olyan kivételes esetek, amelyeknél az MI-alkalmazások bizonyos célokra történő felhasználását annak kockázatai miatt eleve – vagyis az érintett ágazattól függetlenül – nagy kockázatúnak kell tekinteni, vagyis esetükben a kötelező követelmények mindig alkalmazandók lennének 51 . Illusztrációként különösen az alábbi példákat lehet említeni:

·Az MI-alkalmazásoknak a munkaerő-felvételi folyamatokban és a munkavállalói jogokat érintő helyzetekben való felhasználása – az egyének számára való jelentőségére és a foglalkoztatási egyenlőséggel kapcsolatos uniós jogszabályokra tekintettel – mindig „nagy kockázatúnak” minősülne, vagyis ilyen esetekben mindig alkalmazandók lennének a kötelező követelmények. E szempontból a fogyasztói jogokat érintő más konkrét alkalmazások is szóba jöhetnek.

·Az MI-alkalmazások távoli biometrikus azonosítás 52 és más intruzív megfigyelési technológiák céljaira történő felhasználása mindig „nagy kockázatúnak” minősülne, vagyis ilyen esetekben mindig alkalmazandók lennének a kötelező követelmények.

D.A követelmények típusai

A mesterséges intelligencia jövőbeli szabályozási keretének kialakításakor meg kell majd határozni az érintett szereplők tekintetében előírandó kötelező jogi követelmények típusait. E követelményeket szabványok kidolgozásával tovább lehet pontosítani. A fenti C. szakaszban említettek szerint e követelmények csak a nagy kockázatú MI-alkalmazásokra vonatkoznának, és csak kiegészítenék a már meglévő jogszabályokat, ezzel biztosítva, hogy a szabályozás célirányos és arányos legyen.

A magas szintű szakértői csoport iránymutatásainak és az eddig leírtaknak a figyelembevételével a nagy kockázatú MI-alkalmazásokra vonatkozó követelmények a következő – az alszakaszokban részletesen bemutatott – fő elemekre irányulhatnának:

·a rendszerek tanításához használt adatok;

·adat- és nyilvántartás-megőrzés;

·tájékoztatás;

·stabilitás és pontosság;

·emberi felügyelet;

·egyes konkrét – például távoli biometrikus azonosításra használt – MI-alkalmazásokra vonatkozó egyedi követelmények.

A jogbiztonság érdekében ezeket a követelményeket tovább kell majd pontosítani, ezzel biztosítva, hogy egyértelmű referenciaként szolgáljanak a betartásukra kötelezett szereplők számára.

a)A rendszerek tanításához használt adatok

Manapság fontosabb, mint bármikor, hogy előmozdítsuk, megerősítsük és megvédjük az európai értékeket és szabályokat, ideértve különösen a polgárok uniós jogból eredő jogait. Erre irányuló erőfeszítéseink természetesen kiterjednek az EU-ban forgalmazott és használt nagy kockázatú MI-alkalmazásokra is.

Amint már említettük, adatok nélkül nincs mesterséges intelligencia. Számos MI-rendszer működése, és így az általuk támogatott intézkedések és döntések is nagyban függenek a rendszerek tanításához használt adatkészlettől. Meg kell hozni ezért az ahhoz szükséges intézkedéseket, hogy az MI-rendszerek tanításához használt adatokkal összefüggésben ne kerülhessen sor az EU értékeinek és szabályainak – különösen a biztonságra és az alapvető jogok védelmére vonatkozó hatályos jogszabályoknak – a megsértésére. Az MI-rendszerek tanításához használt adatkészlettel kapcsolatban a következő követelmények jöhetnek szóba:

·Azon követelmények, amelyek révén megalapozott bizonyossággal állítható, hogy az MI-rendszerrel támogatott termékek vagy szolgáltatások későbbi használata abban az értelemben biztonságos, hogy megfelel az alkalmazandó uniós biztonsági szabályokban meghatározott (meglévő, illetve lehetséges kiegészítő) előírásoknak. Ilyen követelmények például azok, amelyek biztosítják, hogy az MI-rendszerek tanításához használt adatkészletek kellően széles körűek legyenek, és a veszélyes helyzetek elkerüléséhez szükséges összes releváns forgatókönyvre kiterjedjenek.

·Azon követelmények, amelyek észszerű intézkedések meghozatalának előírásával biztosítják, hogy az MI-rendszerek előző pontban említett későbbi használata ne vezessen tiltott megkülönböztetéshez. E követelmények előírhatnák különösen, hogy a használt adatkészleteknek kellően reprezentatívnak kell lenniük, főként a nem, az etnikai hovatartozás és a tiltott megkülönböztetésre módot adó egyéb lehetséges okok minden releváns dimenziója szempontjából;

·Azon követelmények, amelyek az MI-hátterű termékek és szolgáltatások használata során biztosítják a magánélet és a személyes adatok megfelelő védelmét. Az általános adatvédelmi rendelet és a bűnüldözésben érvényesítendő adatvédelemről szóló irányelv hatálya alá tartozó kérdéseket az említett rendelet, illetve irányelv szabályozza.

b)A nyilvántartások és az adatok megőrzése

·Egyértelmű tájékoztatási kötelezettség előírása az MI-rendszerek képességei és korlátai, különösen a céljuk, a rendeltetésszerű működésükhöz szükséges feltételek és a kitűzött cél elérése során várható pontosságuk tekintetében. Ez a tájékoztatás különösen a rendszerek alkalmazói számára fontos, de az illetékes hatóságok és az érintett felek számára is releváns lehet.

·Külön követelmény, hogy a polgárokat egyértelműen tájékoztatni kell arról, ha nem emberrel, hanem MI-rendszerrel kommunikálnak. Az uniós adatvédelmi jogszabályok tartalmaznak már ilyen jellegű szabályokat 54 , de az említett célok elérése érdekében további követelményekre lehet szükség. Ezek azonban nem okozhatnak szükségtelen terheket. Következésképpen nincs szükség e tájékoztatásra például olyankor, amikor a polgárok számára azonnal nyilvánvaló, hogy MI-rendszerrel kommunikálnak. A nyújtott tájékoztatásnak viszont objektívnak, tömörnek és közérthetőnek kell lennie. A tájékoztatás módját az adott körülményekhez kell igazítani.

Az MI-rendszereknek – és különösen a nagy kockázatú MI-alkalmazásoknak – technikailag stabilnak és pontosnak kell lenniük ahhoz, hogy megbízhatóak legyenek. Ezért az ilyen rendszereket felelős módon és az esetlegesen velük járó kockázatok megfelelő előzetes figyelembevételével kell kifejleszteni. Az MI-rendszerek fejlesztésekor biztosítani kell, hogy a működésük során megbízhatóan a tervezett módon viselkedjenek. Minden észszerű intézkedést meg kell tenni a károkozás kockázatának minimalizálása érdekében.

Ennek megfelelően a következő követelményeket lehet megfontolni:

·Azon követelmények, amelyek biztosítják, hogy az MI-rendszerek életciklusuk minden szakaszában stabilak és pontosak legyenek, vagy legalább pontosságuk tényleges szintje legyen ismert.

·Azon követelmények, amelyek biztosítják az eredmények reprodukálhatóságát.

·Azon követelmények, amelyek biztosítják, hogy az MI-rendszerek életciklusuk minden szakaszában megfelelően kezelni tudják a hibákat és következetlenségeket.

·Azon követelmények, amelyek biztosítják, hogy az MI-rendszerek ellenálljanak mind a nyílt támadásoknak, mind az adatok vagy algoritmusok manipulálására irányuló kifinomultabb támadásoknak, és hogy ilyen támadások esetén kármérséklő intézkedések szülessenek.

Az emberi felügyelet hozzájárul annak biztosításához, hogy az MI-rendszer ne ássa alá az emberi autonómiát, és ne fejtsen ki más káros hatást sem. A megbízható, etikus és emberközpontú mesterséges intelligenciára vonatkozó célkitűzés csak akkor valósítható meg, ha a magas kockázatú MI-alkalmazásokkal kapcsolatban az emberi szerepvállalás is biztosított.

A külön jogi szabályozás szempontjából e fehér könyvben figyelembe vett MI-alkalmazások ugyan mind magas kockázatúnak minősülnek, de a megfelelő emberi felügyelet típusa és mértéke esetről esetre változhat: leginkább a rendszerek tervezett használatától és attól függ, hogy e használat milyen hatással lehet az érintett polgárokra és jogi személyekre. Emellett a személyes adatok MI-rendszer általi kezelése nem érintheti az általános adatvédelmi rendeletben meghatározott törvényes jogokat. Az emberi felügyelet többek között a következők formájában nyilvánulhatna meg:

·az MI-rendszer kimenete csak akkor lép hatályba, ha azt egy ember előzetesen felülvizsgálja és validálja (például szociális ellátások iránti kérelmet csak ember utasíthat el);

·az MI-rendszer kimenete azonnal hatályba lép, de a későbbiekben még lehetséges az emberi beavatkozás (például az MI-rendszer jogosult lehet a hitelkártya-kérelmek elutasítására, de lehetőséget kell biztosítania az elutasítás ember általi felülvizsgálatára);

·az MI-rendszer a működése közben folyamatos felügyelet alatt áll, lehetőséget adva a valós idejű beavatkozásra és a rendszer kikapcsolására (például az önvezető autóban rendelkezésre álló kikapcsoló gomb vagy eljárás arra az esetre, ha a gépkocsi működését az ember nem ítélné biztonságosnak);

·az MI-rendszer működésének tervezett korlátozása (például az önvezető autónak az érzékelői megbízhatóságát befolyásoló rossz látási viszonyok között le kell állítania a működését, vagy minden körülmények között meg kell tartania egy bizonyos követési távolságot).

A biometrikus adatok 55 távoli azonosítás 56 céljára való gyűjtése és felhasználása – például arcfelismerő rendszerek nyilvános helyeken való alkalmazása révén – egyedi kockázatokat hordoz az alapvető jogokra nézve 57 . A távoli biometrikus azonosításra szolgáló MI-rendszerek használatának alapvető jogokat érintő következményei a használat céljától, körülményeitől és hatókörétől függően jelentősen eltérőek lehetnek.

Az uniós adatvédelmi szabályok alapesetben tiltják a biometrikus adatoknak a természetes személyek egyedi azonosítása céljából történő kezelését, és ez alól csak bizonyos feltételek mellett engednek kivételt 58 . Az általános adatvédelmi rendelet szerint ilyen adatkezelésre konkrétan csak korlátozott számú okból kerülhet sor, elsősorban alapvető közérdekből. Ezt a fajta adatkezelést uniós vagy nemzeti jog alapján lehet csak végezni, az arányosság követelményének és az adatvédelemhez való jog lényegének tiszteletben tartásával, megfelelő biztosítékok mellett. A bűnüldözésben érvényesítendő adatvédelemről szóló irányelv értelmében ilyen adatkezelés csak szigorú szükségesség esetén, alapesetben uniós vagy nemzeti jog szerinti engedéllyel és megfelelő biztosítékok mellett végezhető. Mivel a biometrikus adatoknak valamely természetes személy egyedi azonosítása céljából történő bármely kezelése kivételt jelent az uniós jogban meghatározott tilalom alól, és ezért az Európai Unió Alapjogi Chartájának hatálya alá tartozik.

Következésképpen a jelenlegi uniós adatvédelmi szabályoknak és az Alapjogi Chartának megfelelően a mesterséges intelligencia csak akkor használható fel távoli biometrikus azonosítás céljára, ha az ilyen felhasználás kellően indokolt, arányos és megfelelő biztosítékok mellett történik.

A mesterséges intelligencia ilyen célú, nyilvános helyeken történő felhasználásával kapcsolatban felmerülő társadalmi aggályok kezelése, valamint a belső piac széttagolódásának elkerülése érdekében a Bizottság széles körű európai vitát indít az ilyen felhasználást esetlegesen indokoló konkrét körülményekről, valamint a közös biztosítékokról.

E.Kötelezettek

Az említett nagy kockázatú MI-alkalmazások tekintetében előírandó jogi követelmények kötelezettjeivel kapcsolatban két fő kérdést kell megvizsgálni.

Az első kérdés, hogy a kötelezettségeket hogyan kell felosztani az érintett gazdasági szereplők között. Egy MI-rendszer életciklusában számos szereplő érintett. Közéjük tartozik a fejlesztő, az alkalmazó (aki a mesterséges intelligenciával támogatott terméket vagy szolgáltatást használja) és potenciálisan sokan mások (gyártók, forgalmazók vagy importőrök, szolgáltatók, hivatásos vagy magánfelhasználók).

A Bizottság szerint a leendő szabályozási keretben az egyes kötelezettségeket azon szereplő(k)re kell terhelni, aki(k) a legalkalmasabb(ak) az esetleges kockázatok kezelésére. Például a fejlesztési szakaszból eredő kockázatok kezelésére vélhetően az MI-fejlesztők a legalkalmasabbak, ugyanakkor ők kevésbé tudják kontrollálni a felhasználási szakaszban jelentkező kockázatokat. Utóbbi esetben az alkalmazó kötelezettségét érdemes előírni. Ez azonban független attól a kérdéstől, hogy – a végfelhasználókkal vagy más károsult felekkel szembeni felelősséggel és az igazságszolgáltatáshoz való tényleges hozzáférés biztosításával összefüggésben – melyik félnek kell felelnie az esetlegesen okozott károkért. A termékfelelősségre vonatkozó uniós jogszabályok alapján a hibás termékekért a gyártót terheli a felelősség, a nemzeti jogszabályok azonban lehetővé tehetik a kárigények más felekkel szembeni érvényesítését is.

A második kérdés a jogalkotási beavatkozás földrajzi hatályára vonatkozik. A Bizottság szerint rendkívül fontos, hogy a követelmények minden olyan érintett gazdasági szereplőt kötelezzenek, amely MI-hátterű termékeket vagy szolgáltatásokat nyújt az EU-ban, függetlenül attól, hogy székhelye az EU-ban van-e vagy sem. Ellenkező esetben a jogalkotási beavatkozás említett céljait nem lehetne teljes mértékben megvalósítani.

F.Megfelelés és jogérvényesítés

Annak biztosítása érdekében, hogy a mesterséges intelligencia megbízható és biztonságos legyen, továbbá tiszteletben tartsa az európai értékeket és szabályokat, a gyakorlatban is meg kell felelni az alkalmazandó jogi követelményeknek, amelyeket mind az illetékes nemzeti és uniós hatóságoknak, mind az érintett feleknek ténylegesen érvényesíteniük kell. Az illetékes hatóságoknak képesnek kell lenniük mind az egyedi esetek kivizsgálására, mind a társadalmi hatások felmérésére.

Mivel bizonyos MI-alkalmazások nagy kockázatot jelentenek a polgárok és társadalmunk számára (lásd az A. szakaszt), a Bizottság jelenleg úgy véli, hogy a nagy kockázatú alkalmazásokra vonatkozó kötelező követelmények (lásd a D. szakaszt) betartásának ellenőrzéséhez és biztosításához objektív, előzetes megfelelőségértékelésre lenne szükség.  Az előzetes megfelelőségértékelés tesztelési, ellenőrzési vagy tanúsítási eljárásokat foglalhatna magában 59 . Magában foglalhatná a fejlesztési szakaszban használt algoritmusok és adatkészletek vizsgálatát is.

A nagy kockázatú MI-alkalmazások megfelelőségértékelését az EU belső piacán forgalomba hozott számos termék esetében már létező megfelelőségértékelési mechanizmusok részeként kell végrehajtani. Ha nem létezik ilyen mechanizmus, a bevált gyakorlatok alapján, továbbá az érdekelt felek és az európai szabványügyi szervezetek tapasztalatait felhasználva hasonló mechanizmusokat kell létrehozni. Minden ilyen új mechanizmusnak arányosnak és megkülönböztetéstől mentesnek kell lennie, és a nemzetközi kötelezettségekkel összhangban átlátható és objektív kritériumokat kell alkalmaznia.   

Az előzetes megfelelőségértékelésen alapuló rendszer kialakítása és végrehajtása során különösen a következőket kell figyelembe venni:

·Előfordulhat, hogy a fent vázolt követelmények közül nem mindegyik alkalmas előzetes megfelelőségértékeléssel történő ellenőrzésre. Például a tájékoztatásra vonatkozó követelmény jellemzően nem alkalmas az ilyen értékelés révén történő ellenőrzésre.

·Különös figyelmet igényel, hogy bizonyos MI-rendszerek képesek fejlődni és a tapasztalatokból tanulni, ami miatt ezen rendszereket életciklusuk során ismétlődően kell értékelni.

·Ellenőrizni kell az MI-rendszerek tanításához használt adatokat, valamint az MI-rendszerek kiépítéséhez, teszteléséhez és hitelesítéséhez használt releváns programozási és tanítási módszereket, folyamatokat és technikákat. 

·Ha a megfelelőségértékelés alapján az MI-rendszer nem felel meg például a tanításához használt adatokra vonatkozó követelményeknek, a feltárt hiányosságokat orvosolni kell, például a rendszernek az EU-ban történő újratanításával, oly módon, hogy az biztosítsa az összes alkalmazandó követelmény teljesülését.

A megfelelőségértékelés a követelmények által érintett valamennyi gazdasági szereplő számára kötelező lenne, székhelyüktől függetlenül 60 . A kkv-k terheinek csökkentése érdekében elképzelhető egyfajta támogatási struktúra kialakítása, többek között a digitális innovációs központok révén. Emellett a megfelelést szabványok és célzott online eszközök is megkönnyíthetnék.

Az előzetes megfelelőségértékelés nem befolyásolhatja a megfelelés illetékes nemzeti hatóságok általi ellenőrzését és utólagos érvényesítését. Ez egyaránt vonatkozik a nagy kockázatú MI-alkalmazásokra és a jogi követelmények hatálya alá tartozó egyéb MI-alkalmazásokra, noha az itt tárgyalt alkalmazások jellemzően nagy kockázata indokolhatja, hogy az illetékes nemzeti hatóságok főként ezekre összpontosítsanak. Az utólagos ellenőrzésekre az adott MI-alkalmazás megfelelő dokumentációja ad lehetőséget (lásd az E. szakaszt), továbbá adott esetben az alkalmazások tesztelését is lehetővé kell tenni bizonyos harmadik felek, például az illetékes hatóságok számára. Ez különösen az alapvető jogokat érintő, kontextusfüggő kockázatok felmerülésekor lehet indokolt. A megfelelés ilyen ellenőrzését egy folyamatos piacfelügyeleti rendszer részeként kell végezni. Az irányítással kapcsolatos szempontokat a H. szakasz tárgyalja részletesebben.

Ezenkívül mind a nagy kockázatú, mind az egyéb MI-alkalmazások esetében tényleges bírósági jogorvoslati lehetőségeket kell biztosítani az MI-rendszerek által hátrányosan érintett felek számára. A felelősséggel kapcsolatos kérdéseket a biztonsági és felelősségi keretről szóló, e fehér könyvet kísérő jelentés tárgyalja részletesebben.

G.A nem nagy kockázatú MI-alkalmazások önkéntes címkézése

Azon MI-alkalmazások tekintetében, amelyek nem minősülnek nagy kockázatúnak (lásd a C. szakaszt), és amelyekre ezért nem vonatkoznak a fent tárgyalt kötelező követelmények (lásd a D., E. és F. szakaszt), az alkalmazandó jogszabályok mellett ki lehetne alakítani egy önkéntes címkézési rendszert.

E rendszer keretében azok az érdekelt gazdasági szereplők, amelyekre nem vonatkoznak a kötelező követelmények, dönthetnének úgy, hogy önkéntes alapon alávetik magukat e követelményeknek vagy egy sor, kifejezetten az önkéntes rendszer céljából meghatározott hasonló követelménynek. Az érintett gazdasági szereplők ezt követően minőségi védjeggyel láthatnák el az MI-alkalmazásaikat.

Az önkéntes címke révén az érintett gazdasági szereplők igazolni tudnák MI-hátterű termékeik és szolgáltatásaik megbízhatóságát. Így a felhasználók is könnyen felismerhetnék, hogy a szóban forgó termékek és szolgáltatások az egyébként alkalmazandó jogi kötelezettségeken túl megfelelnek bizonyos uniós szintű objektív és szabványosított referenciáknak is. Ez fokozná a felhasználók MI-rendszerekbe vetett bizalmát, és előmozdítaná a technológia általános elterjedését.

Ez a megoldás egy olyan új jogi eszköz létrehozásával járna, amely önkéntes címkézési keretet állapítana meg a nem nagy kockázatúnak tekintett MI-rendszerek fejlesztői és/vagy alkalmazói számára. A címkézési rendszerben való részvétel önkéntes lenne, de ha a fejlesztő vagy az alkalmazó a címke használata mellett dönt, a követelmények rá nézve kötelező erejűek lennének. Ilyenkor az előzetes és az utólagos érvényesítés együttes alkalmazásával biztosítani kell e követelmények teljesülését. 

H.Irányítás 

Létre kellene hozni a mesterséges intelligencia európai irányítási struktúráját, amely formáját tekintve a nemzeti illetékes hatóságok együttműködési kereteként működhetne, és amelyre a felelősségi körökre vonatkozó szabályozás egységessége, a tagállamok MI-kapacitásának növelése, valamint annak biztosítása érdekében van szükség, hogy Európa fokozatosan elsajátítsa az MI-hátterű termékek és szolgáltatások vizsgálatához és tanúsításához szükséges képességeket. Ebben az összefüggésben célszerű lenne támogatni az illetékes nemzeti hatóságokat abban, hogy a mesterséges intelligencia tekintetében is képesek legyenek teljesíteni megbízatásukat.

Az európai irányítási struktúra különféle feladatokat láthatna el: fórumként szolgálhatna az információk és a bevált gyakorlatok cseréjéhez, a kialakulóban lévő trendek azonosításához, továbbá a szabványosítási tevékenységgel és a tanúsítással kapcsolatos tanácsadáshoz. Kulcsszerepet kell játszania a jogi keret végrehajtásának elősegítésében is, például iránymutatások, vélemények és szakértelem rendelkezésre bocsátása révén. Ehhez a nemzeti hatóságok hálózatára, valamint – nemzeti és uniós szinten egyaránt – az ágazati hálózatokra és a szabályozó hatóságokra támaszkodhatna. Emellett egy szakértői bizottság is segítséget nyújthatna a Bizottságnak.

Az irányítási struktúrának garantálnia kell az érdekelt felek maximális mértékű bevonását. Az érdekelt felekkel – fogyasztói szervezetekkel és szociális partnerekkel, vállalkozásokkal, kutatókkal és társadalmi szervezetekkel – konzultálni kell a keret végrehajtásáról és továbbfejlesztéséről.

A pénzügyek, a gyógyszerek, a légi közlekedés, az orvostechnikai eszközök, a fogyasztóvédelem és az adatvédelem terén már léteznek irányítási struktúrák, így ügyelni kell arra, hogy a javasolt irányítási struktúra ne kettőzze meg a meglévő funkciókat. Ehelyett szoros kapcsolatokat kell kialakítania a különböző ágazatokban működő uniós és nemzeti illetékes hatóságokkal, hogy kiegészítse azok meglévő szakértelmét, és segítse azokat a gazdasági szereplők MI-rendszereken vagy MI-hátterű termékeken és szolgáltatásokon alapuló tevékenységeinek nyomon követésében és felügyeletében.

Végül, e megoldás alkalmazása esetén a megfelelőségértékelés elvégzését a tagállamok által kijelölt bejelentett szervezetekre lehetne bízni. Az MI-rendszereknek a felvázolt követelményekkel összhangban lévő független ellenőrzését és értékelését tesztelési központok tehetnék lehetővé. A független értékelés növelni fogja a bizalmat, és biztosítja az objektivitást. Megkönnyítheti az érintett illetékes hatóságok munkáját is.

Az EU kiváló tesztelési és értékelőközpontokkal rendelkezik, és a mesterséges intelligencia területén is fejlesztenie kell kapacitásait. A belső piacra belépni kívánó, harmadik országbeli gazdasági szereplők vagy az EU-beli kijelölt szervezeteket vagy – a harmadik országokkal kötött kölcsönös elismerési egyezményekre is figyelemmel – az ilyen értékelés elvégzésére kijelölt harmadik országbeli szervezeteket vehetnék igénybe.

A mesterséges intelligencia irányítási struktúrája és a vonatkozó lehetséges megfelelőségértékelések nem érintenék az egyes ágazatokban vagy konkrét kérdésekben (pénzügyek, gyógyszerek, légi közlekedés, orvostechnikai eszközök, fogyasztóvédelem, adatvédelem stb.) illetékes hatóságok hatályos uniós jog szerinti hatásköreit és felelősségi köreit.

6.Következtetés

A mesterséges intelligencia olyan stratégiai technológia, amelynek számos haszna van a polgárok, a vállalkozások és az egész társadalom számára, feltéve, hogy emberközpontú, etikus és fenntartható, továbbá tiszteletben tartja az alapvető jogokat és értékeket. A mesterséges intelligencia jelentős hatékonysági és termelékenységi előnyöket kínál, amelyek erősíthetik az európai ipar versenyképességét és javíthatják a polgárok jólétét. Hozzájárulhat továbbá ahhoz, hogy megoldást találjunk néhány rendkívül sürgető társadalmi kihívásra, ideértve az éghajlatváltozás és a környezetkárosodás elleni küzdelmet, a fenntarthatósághoz és a demográfiai változásokhoz kapcsolódó kihívásokat, demokráciáink védelmét, továbbá – ahol szükséges és arányos – a bűnözés elleni küzdelmet.

Ahhoz, hogy Európa maradéktalanul kihasználhassa a mesterséges intelligencia kínálta lehetőségeket, ki kell fejlesztenie és meg kell erősítenie a szükséges ipari és technológiai kapacitásokat. A kísérő európai adatstratégiában foglaltaknak megfelelően ehhez olyan intézkedésekre is szükség van, amelyek lehetővé teszik az EU számára, hogy globális adatközponttá váljon.

A mesterséges intelligenciára vonatkozó európai megközelítés célja, hogy előmozdítsa Európa MI-innovációs kapacitását, támogatva az etikus és megbízható mesterséges intelligencia fejlesztését és elterjedését az uniós gazdaságban. A mesterséges intelligenciának az emberek javát és hasznos társadalmi célokat kell szolgálnia.

E fehér könyvvel és az ezt kísérő, a biztonsági és felelősségi keretről szóló jelentéssel a Bizottság széles körű konzultációt kíván indítani a mesterséges intelligencia európai megközelítésére vonatkozó konkrét javaslatokról a tagállamok, a civil társadalom, az ipar és a tudományos világ bevonásával. E javaslatok érinthetik a kutatásba és innovációba történő beruházások fellendítését, a készségfejlesztés javítását, a mesterséges intelligencia kkv-k általi befogadásának támogatását, valamint a jövőbeli szabályozási keret kulcsfontosságú elemeit. A konzultáció átfogó párbeszédet tesz lehetővé az összes érintett féllel, és hatással lesz a Bizottság következő lépéseire.

(1)

Mesterséges intelligencia Európa számára, COM/2018/237 final

(2)

https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_hu.pdf.

(3)

COM(2020)66 final.

(4)

A mesterséges intelligencia és általában a digitalizáció döntő szerepet töltenek be Európa zöld megállapodási törekvéseinek megvalósításában. Ugyanakkor az IKT-ágazat jelenlegi környezeti
lábnyoma a becslések szerint a világ teljes kibocsátásának több mint 2 %-át teszi ki. Az e
fehér könyvet kísérő európai digitális stratégia zöld átalakítási intézkedéseket javasol a digitális ágazat számára.

(5)

A mesterséges intelligencia eszközei lehetőséget biztosíthatnak az uniós polgárok bűncselekményekkel és terrorcselekményekkel szembeni hatékonyabb védelmére.
Ezek az eszközök segíthetnek például az online terrorista propaganda azonosításában, a veszélyes termékek értékesítésével kapcsolatos gyanús tranzakciók felderítésében,
a veszélyes rejtett tárgyak vagy tiltott anyagok vagy termékek azonosításában, segítséget nyújthatnak a polgároknak
vészhelyzet esetén, és útmutatóul szolgálhatnak az elsődleges beavatkozóknak.

(6)

COM(2019) 640 final.

(7)

Bár további intézkedésekre lehet szükség a mesterséges intelligenciával való, bűncselekmény céljából történő visszaélés megelőzése és leküzdése érdekében, ez kívül esik a fehér könyv hatáskörén.

(8)

COM(2019) 168.

(9)

Ezt követi Japán (30 %) és az USA (28 %). Forrás: CapGemini (2019).

(10)

10 imperatives for Europe in the age of AI and automation, McKinsey (2017).

(11)

COM(2018) 795.

(12)

IDC (2019).

(13)

Gartner (2017).

(14)

A neuromorf megoldásokon az integrált áramkörök olyan nagyon nagy méretű rendszereit értjük, amelyek az idegrendszerre jellemző neurobiológiai architektúrákat
utánozzák.

(15)

A kvantumszámítógépek a másodperc töredéke alatt képesek lesznek jóval nagyobb adatkészleteket feldolgozni, mint a mai legnagyobb
teljesítményű számítógépek, amelyek ágazatokon átívelően lehetővé teszik új MI-alkalmazások kifejlesztését.

(16)

Mesterséges intelligencia Európa számára, COM(2018) 237 .

(17)

A mesterséges intelligenciáról szóló összehangolt terv, COM (2018) 795 .

(18)

COM(2018) 237.

(19)

A jövőbeli Európai Védelmi Alap és az állandó strukturált együttműködés (PESCO) szintén lehetőséget fog biztosítani a mesterséges intelligenciával kapcsolatos kutatásra és fejlesztésre. Ezeket a projekteket
össze kell hangolni a mesterséges intelligenciának szentelt szélesebb körű uniós polgári programokkal.

(20)

https://ec.europa.eu/jrc/en/publication/academic-offer-and-demand-advanced-profiles-eu

(21)

ec.europe.eu/digital-single-market/en/news/digital-innovation-hubs-helping-companies-across-economy-make-most-
digital-opportunities.

(22)

www.Ai4eu.eu.

(23)

Europe.eu/investeu.

(24)

Visszakereshető, hozzáférhető, interoperábilis és újrafelhasználható (FAIR) a bizottsági szakértői csoport FAIR-adatokról szóló 2018-as zárójelentésében és cselekvési tervében foglaltaknak megfelelően, https://ec.europa.eu/info/sites/info/files/turning_fair_into_reality_1.pdf.

(25)

https://www.oecd.org/going-digital/ai/principles/

(26)

A Partnerségi Eszköz keretében a Bizottság egy 2,5 millió euró összegű projektet fog finanszírozni, amely megkönnyíti az együttműködést a hasonló felfogású partnerekkel annak érdekében, hogy előmozdítsa a mesterséges intelligenciára vonatkozó uniós etikai iránymutatásokat, valamint közös elveket és operatív következtetéseket fogadjon el.

(27)

Von der Leyen elnök, Ambiciózusabb Unió. Programom Európa számára, 17. oldal

(28)

COM(2018) 237.

(29)

COM(2018) 795.

(30)

https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top

(31)

COM(2019) 168.

(32)

Ide tartoznak a kiberbiztonsággal kapcsolatos kérdések, a kritikus infrastruktúrákban alkalmazott mesterségesintelligencia-alkalmazásokkal kapcsolatos kérdések, illetve a mesterséges intelligencia rosszindulatú használata.

(33)

     Az Európai Tanács kutatásai azt mutatják, hogy a mesterséges intelligencia használata számos alapvető jogot érinthet: https://rm.coe.int/algorithms-and-human-rights-en-rev/16807956b5 .

(34)

   Az általános adatvédelmi rendelet és az elektronikus hírközlési adatvédelmi irányelv (az új elektronikus hírközlési adatvédelmi rendeletet már tárgyalják) foglalkozik ezekkel a kockázatokkal, de szükséges lehet annak vizsgálata, hogy az MI-rendszerek nem jelentenek-e további kockázatokat. A Bizottság folyamatosan nyomon fogja követni és értékelni fogja az általános adatvédelmi rendelet alkalmazását.

(35)

   A Bizottság nők és férfiak esélyegyenlőségével foglalkozó tanácsadó bizottsága jelenleg dolgozza ki a mesterséges intelligenciáról szóló véleményét, amely többek között a mesterséges intelligencia nemek közötti egyenlőségre gyakorolt hatásait elemzi, és amelyet a bizottság várhatóan 2020 elején fogad el. A nemek közötti egyenlőségre vonatkozó, 2020-2024-es időszakra szóló uniós stratégia szintén foglalkozik a mesterséges intelligencia és a nemek közötti egyenlőség kapcsolatával; Az egyenlőség előmozdításával foglalkozó szervek európai hálózata (Equinet) – várhatóan 2020 elején – jelentést fog közzétenni „A mesterséges intelligencia szabályozása: az egyenlőség előmozdításával foglalkozó szervek új szerepe – Az egyenlőség és a megkülönböztetésmentesség előtt álló, a fokozott digitalizációból és a mesterséges intelligencia használatából eredő új kihívások kezelése” címmel (szerzők: Robin Allen és Dee Masters).

(36)

Erre példa lehet a gyermekek intelligens felügyelete. Ez a termék, bár nem okoz közvetlen kárt az azt viselő gyermeknek, de mivel minimális biztonsági szinttel sem rendelkezik, könnyen felhasználható arra, hogy valaki fizikailag a gyermek közelébe jusson. A piacfelügyeleti
hatóságok számára nehézséget jelenthet a beavatkozás azokban az esetekben, amikor a kockázatot nem maga a termék jelenti.

(37)

     A mesterséges intelligenciának, a dolgok internetének és más digitális technológiáknak a termékbiztonságra és a termékfelelősségre vonatkozó jogszabályokra gyakorolt hatását az e fehér könyvet kísérő bizottsági jelentés elemzi.

(38)

A termékbiztonságra vonatkozó uniós jogi keret a biztonsági hálóként szolgáló általános termékbiztonsági irányelvből (2001/95/EK irányelv),
és számos ágazatspcifikus szabályból áll, amelyek különböző termékkategóriákra terjednek ki a gépektől kezdve a repülőgépeken,
autókon és játékokon át az orvostechnikai eszközökig, a magas szintű egészség és biztonság garantálása érdekében. A termékfelelősségi jogszabályokat
a termékek vagy szolgáltatások által okozott károkra vonatkozó polgári jogi felelősség különböző rendszerei egészítik ki.

(39)

A 2000/43/EK irányelv.

(40)

A 2000/78/EK irányelv.

(41)

A 2004/113/EK irányelv. A 2006/54/EK irányelv.

(42)

Például a tisztességtelen kereskedelmi gyakorlatokról szóló irányelv (2005/29/EK irányelv) és a fogyasztók jogairól szóló irányelv (2011/83/EK irányelv).

(43)

Az Európai Parlament és a Tanács (EU) 2016/680 irányelve (2016. április 27.) a személyes adatoknak az illetékes hatóságok által a bűncselekmények megelőzése, nyomozása, felderítése, a vádeljárás lefolytatása vagy büntetőjogi szankciók végrehajtása céljából végzett kezelése tekintetében a természetes személyek védelméről és az ilyen adatok szabad áramlásáról.

(44)

A termékekre és a szolgáltatásokra vonatkozó akadálymentességi követelményekről szóló (EU) 2019/882 irányelv.

(45)

  Például a gyártó által gyógyászati célra szánt szoftver
az orvostechnikai eszközökről szóló rendelet ((EU) 2017/745 rendelet) értelmében orvostechnikai eszköznek minősül.

(46)

COM(2018) 237 final, 1. o.: „A mesterséges intelligencia intelligens viselkedésre utaló rendszereket takar, amelyek konkrét célok eléréséhez elemzik a környezetüket és – bizonyos mértékű autonómiával – intézkedéseket hajtanak végre.

A mesterséges intelligencián alapuló rendszerek lehetnek kizárólag szoftver-alapú rendszerek, amelyek a virtuális világban működnek (pl. hangasszisztensek, képelemző szoftverek, keresőprogramok, hang- és arcfelismerő rendszerek), illetve a mesterséges intelligencia beépíthető hardvereszközökbe is (pl. fejlett robotok, autonóm járművek, drónok és a tárgyak internetéhez kapcsolódó alkalmazások).

(47)

Magas szintű szakértői csoport, A mesterséges intelligencia fogalmának meghatározása, 8. o.: „A mesterséges intelligencián (Artificial intelligence – AI) alapuló rendszerek olyan, emberek által megtervezett szoftverrendszerek (és lehetőség szerint hardverrendszerek), amelyek összetett céljukra tekintettel a fizikai vagy a digitális dimenzióban úgy működnek, hogy a környezetüket adatszerzés révén észlelik, értelmezik a gyűjtött strukturált és nem strukturált adatokat, ismereteik alapján érvelnek vagy ezekből az adatokból származó információkat dolgoznak fel, valamint eldöntik, hogy az adott cél eléréséhez melyek a leghatékonyabb intézkedések. Az MI-rendszerek használhatnak szimbolikus szabályokat vagy numerikus modellt is betanulhatnak, és a magatartásukat is megváltoztathatják annak elemzése révén, hogy a korábbi intézkedések hogyan hatottak a környezetre.”

(48)

Például különböző biztonsági megfontolások és jogi következmények merülnek fel az orvosoknak specializált információkat nyújtó mesterségesintelligencia-rendszerek, a közvetlenül a betegnek orvosi tájékoztatást nyújtó mesterségesintelligencia-rendszerek, valamint a közvetlenül a betegen orvosi műveleteket végző mesterségesintelligencia-rendszerek esetében. A Bizottság jelenleg vizsgálja ezeket a biztonsági és felelősségi kihívásokat, amelyek sajátosan az egészségügyi ellátás terén jelentkeznek.

(49)

Az uniós jogszabályok területenként – mint például a termékbiztonság területe – az itt leírtaktól eltérően kategorizálhatják a „kockázatokat”.

(50)

A közszféra olyan területeket foglalhat magában, mint a menekültügy, a migráció, a határellenőrzés és az igazságszolgáltatás, a társadalombiztosítási és a foglalkoztatási szolgálatok.

(51)

Meg kell említeni, hogy más uniós jogszabályok is alkalmazandók lehetnek. Az MI-alkalmazások fogyasztási cikkekben történő felhasználása esetén előfordulhat, hogy a biztonsági szempontokra az általános termékbiztonsági irányelv alkalmazandó.

(52)

A távoli biometrikus azonosítást meg kell különböztetni a biometrikus azonosítástól (ez utóbbi egy olyan biztonsági eljárás, amely az egyén egyedi biológiai jellemzői alapján azt ellenőrzi, hogy az egyén valóban az-e, akinek mondja magát). Távoli biometrikus azonosításról akkor beszélhetünk, amikor biometrikus azonosítók (ujjnyomatok, arcképmás, írisz, érhálózat stb.) révén – azokat egy adatbázissal összevetve – számos, nyilvános térben tartózkodó személy személyazonosságát állapítják meg távolról, folyamatos vagy állandó jelleggel.

(53)

Például az algoritmus dokumentációja, ideértve a modell által optimalizálandó tényezőket, bizonyos paraméterek kezdeti súlyait stb.

(54)

Idetartozik különösen, hogy az általános adatvédelmi rendelet 13. cikke (2) bekezdésének f) pontja értelmében az adatkezelő a személyes adatok megszerzésének időpontjában, annak érdekében, hogy a tisztességes és átlátható adatkezelést biztosítsa, tájékoztatni köteles az érintettet az automatizált döntéshozatal tényéről és bizonyos további információkról.

(55)

A biometrikus adat a meghatározása szerint „egy természetes személy testi, fiziológiai vagy viselkedési jellemzőire vonatkozó minden olyan sajátos technikai eljárásokkal nyert személyes adat, amely lehetővé teszi vagy megerősíti az adott természetes személy egyedi azonosítását, így például az arckép vagy a daktiloszkópiai [ujjnyomat-] adat”; (a bűnüldözésben érvényesítendő adatvédelemről szóló irányelv 3. cikkének 13. pontja; az általános adatvédelmi rendelet 4. cikkének 14. pontja, az (EU) 2018/1725 rendelet 3. cikkének 18. pontja).

(56)

Az arcfelismeréssel összefüggésben az azonosítás azt jelenti, hogy egy személy arcképsablonját egy adott adatbázisban tárolt sok más arcképsablonnal vetik össze azért, hogy megtudják, a személy szerepel-e az adatbázisban. A hitelesítés (vagy ellenőrzés) viszont egy az egyhez megfeleltetésnek minősül. Két, feltételezhetően azonos személyhez tartozó biometrikus sablon összehasonlítását teszi lehetővé. Két biometrikus sablont hasonlítanak össze annak megállapítására, hogy a két képen szereplő személy azonos-e. Ilyen eljárást alkalmaznak például a repülőtereken a határforgalom-ellenőrzéshez használt automatizált határellenőrzési kapuknál.

(57)

Például az emberek méltóságára nézve. Ehhez kapcsolódik, hogy az arcfelismerési technológia használatát érintően az alapvető jogok megsértésére vonatkozó aggályok elsősorban a magánélet tiszteletben tartásához és a személyes adatok védelméhez való joggal kapcsolatosak. Ez hatással lehet a megkülönböztetésmentességre és a különleges csoportok – például a gyermekek, az idősek és a fogyatékossággal élő személyek – jogaira is. Továbbá a technológia használata nem veszélyeztetheti a véleménynyilvánítási, az egyesülési és a gyülekezési szabadságot sem. Lásd: Arcfelismerési technológia: alapjogi megfontolások a bűnüldözés összefüggésében, https://fra.europa.eu/en/publication/2019/facial-recognition

(58)

Az általános adatvédelmi rendelet 9. cikke, a bűnüldözésben érvényesítendő adatvédelemről szóló irányelv 10. cikke. Lásd még az uniós intézményekre és szervekre alkalmazandó (EU) 2018/1725 rendelet 10. cikkét.

(59)

A rendszer az uniós megfelelőségértékelési eljárásokon alapulna – lásd a 768/2008/EK határozatot vagy az (EU) 2019/881 rendeletet (a kiberbiztonsági jogszabályt) –, de a mesterséges intelligencia sajátosságaihoz igazítva. Lásd az uniós termékszabályok végrehajtásáról szóló „kék” útmutatót (2014).

(60)

A vonatkozó irányítási struktúra tekintetében – ideértve a megfelelőségértékelések elvégzésére kijelölt szerveket is – lásd a lenti H. szakaszt.