Az Európai Gazdasági és Szociális Bizottság véleménye – Fehér könyv a mesterséges intelligenciáról – A kiválóság és a bizalom európai megközelítése

(COM(2020) 65 final)

(2020/C 364/12)

Előadó:

Catelijne MULLER

Felkérés:	Európai Bizottság, 2020.3.9.
Jogalap:	az Európai Unió működéséről szóló szerződés 304. cikke
Illetékes szekció:	„Egységes piac, termelés és fogyasztás” szekció
Elfogadás a szekcióülésen:	2020.6.25.
Elfogadás a plenáris ülésen:	2020.7.16.
Plenáris ülés száma:	553.
A szavazás eredménye: (mellette/ellene/tartózkodott)	207/0/6

1.   Következtetések és ajánlások

1.1.

Az EGSZB üdvözli a mesterséges intelligenciáról (MI) szóló fehér könyvben felvázolt európai bizottsági stratégiát, amely ösztönzi az MI-technológiák elterjedését, ugyanakkor biztosítja, hogy ezek a technológiák megfeleljenek az európai etikai normáknak, jogi követelményeknek és társadalmi értékeknek.

1.2.

Az EGSZB üdvözli ezenkívül az európai ágazati és szakmai piacok erősségeinek kiaknázására irányuló célkitűzést, és hangsúlyozza a beruházások, az infrastruktúra, az innováció és a készségek fejlesztésének fontosságát annak érdekében, hogy a vállalkozások, köztük a kkv-k és a társadalom egésze kihasználhassa a mesterséges intelligencia nyújtotta lehetőségeket. Ösztönözni kell a mesterséges intelligenciával kapcsolatos innovációt az MI-rendszerek előnyeinek maximalizálása érdekében, ugyanakkor meg kell előzni és minimalizálni kell az ilyen rendszerek kockázatait.

1.3.

Úgy véli azonban, hogy ahhoz, hogy az EU igazi éllovassá váljon az élvonalbeli, megbízható és versenyképes mesterséges intelligencia terén, nem elég csupán az adatvezérelt mesterséges intelligenciára koncentrálni. Az EGSZB sürgeti az Európai Bizottságot, hogy az MI-rendszerek ismereteken és észszerű érveken alapuló, az emberi értékeket és alapelveket tiszteletben tartó új generációját is támogassa.

1.4.

Az EGSZB a következőket várja az Európai Bizottságtól: i. más tudományterületek, például a jog, az etika, a filozófia, a pszichológia, a munkatudományok, a bölcsészettudományok, a közgazdaságtan stb. bevonásával segítse elő a multidiszciplináris kutatást; ii. vonja be az érintett érdekelt feleket (szakszervezeteket, szakmai szervezeteket, üzleti szervezeteket, fogyasztóvédelmi szervezeteket, nem kormányzati szervezeteket) a mesterséges intelligenciáról folyó vitába és az EU által finanszírozott kutatás és egyéb projektek – mint például a mesterséges intelligenciával foglalkozó köz-magán társulás, az ágazati párbeszédek, valamint a mesterséges intelligencia elfogadását célzó közszférabeli program és a vezető központ – egyenlő partnereiként; és iii. továbbra is oktassa és tájékoztassa a szélesebb közvéleményt a mesterséges intelligenciában rejlő lehetőségekről és kihívásokról.

1.5.

Az EGSZB sürgeti, hogy az Európai Bizottság jobban vizsgálja meg a mesterséges intelligencia hatását az alapvető jogok és szabadságok teljes spektrumára, ideértve – többek között – a tisztességes eljáráshoz, a tisztességes és nyílt választásokhoz, a gyülekezéshez és demonstrációhoz való jogot, valamint a megkülönböztetés tilalmát.

1.6.

Az EGSZB továbbra is ellenzi, hogy a mesterséges intelligencia számára bevezessék a jogi személyiség bármilyen formáját. Ez aláásná a felelősségi jog preventív hatását, és a mesterséges intelligencia fejlesztése és használata tekintetében egyaránt súlyos erkölcsi kockázatot rejt magában, amennyiben lehetőséget biztosít a visszaélésre.

1.7.

Az EGSZB a magas kockázatot jelentő mesterséges intelligencia egyszeri (vagy akár rendszeresen megismételt) előzetes megfelelőségértékelése helyett folyamatos és szisztematikus társadalmi-technikai megközelítés alkalmazását kéri, amely a technológiát valamennyi szempontból és különböző nézőpontokon keresztül közelíti meg.

1.8.

Az EGSZB figyelmeztet arra, hogy a „magas kockázatú” ágazatra vonatkozó követelmény a biometrikus azonosítás és a munkaerő-toborzás területén használt mesterséges intelligencián kívül számos más, eredendően magas kockázatot jelentő MI-alkalmazást és -felhasználást kizárna. Az EGSZB javasolja, hogy az Európai Bizottság – az ágazattól függetlenül – készítse el az eredendően magas kockázatúnak minősülő MI-alkalmazások és -felhasználások közös jellemzőinek listáját.

1.9.

Az EGSZB határozottan javasolja, hogy a biometrikus azonosítás bármilyen felhasználását kizárólag i. tudományosan igazolt hatás megléte esetén, ii. ellenőrzött környezetekben, és iii. szigorú feltételek mellett lehessen engedélyezni. A mesterséges intelligencia által vezérelt biometrikus azonosítás emberek, illetve emberi viselkedés vagy érzelmek felügyeletére, nyomon követésére, értékelésére vagy kategorizálására történő felhasználását meg kell tiltani.

1.10.

Az EGSZB szorgalmazza a szociális partnerek korai és szoros bevonását az MI-rendszerek munkahelyi bevezetésébe, összhangban az alkalmazandó nemzeti szabályokkal és gyakorlatokkal annak biztosítása érdekében, hogy a rendszerek használhatók legyenek, és megfeleljenek a munkavállalók jogainak és munkakörülményeinek.

1.11.

Az EGSZB emellett támogatja azon munkavállalók korai és szoros bevonását a mesterségesintelligencia-rendszerek bevezetésébe, akik végül ezekkel a rendszerekkel dolgozni fognak, valamint azon munkavállalókét is, akik jogi, etikai és humán szakismeretekkel rendelkeznek, annak biztosítása érdekében, hogy a rendszerek megfeleljenek a jogi és etikai követelményeknek, továbbá igazodjanak a munkavállalók igényeihez, hogy a munkavállalók megőrizzék autonómiájukat munkájuk felett, valamint a mesterségesintelligencia-rendszerek tekintetében, ami javítja a munkavállalók készségeit és munkahelyi elégedettségét.

1.12.

A koronavírus-járvány megfékezésére használt MI-technológiáknak és -megközelítéseknek megalapozottnak, hatékonynak, átláthatónak és megmagyarázhatónak kell lenniük. Ezenkívül tiszteletben kell tartaniuk az emberi jogokat, az etikai alapelveket és a hatályos jogszabályokat, továbbá tisztességesnek, inkluzívnak és önkéntes alapúnak kell lenniük.

1.13.

Az EGSZB arra kéri az Európai Bizottságot, hogy vállaljon vezető szerepet a koronavírus-világjárvány elleni küzdelemben alkalmazott MI-megoldások és -megközelítések Európán belüli jobb összehangolásának biztosítása érdekében.

2.   Fehér könyv a mesterséges intelligenciáról

2.1.

Az EGSZB örömmel veszi tudomásul, hogy az Európai Bizottság a korábbi EGSZB-vélemények és a mesterséges intelligenciával foglalkozó magas szintű szakértői csoport számos ajánlását elfogadta, és ösztönzi az MI-technológiák elterjedését, ugyanakkor biztosítja, hogy ezek a technológiák megfeleljenek az európai etikai normáknak, jogi követelményeknek és társadalmi értékeknek, az általa „a kiválóság és a bizalom ökoszisztémájának” nevezett rendszerrel alátámasztva.

2.2.

Az EGSZB üdvözli a vállalkozásokat, köztük a kkv-kat és a társadalom egészét célzó javaslatokat, amelyek megragadják a mesterséges intelligencia fejlesztésében és felhasználásában rejlő lehetőségeket. Az EGSZB hangsúlyozza a beruházások, az infrastruktúra, az innováció és a készségek fejlesztésének fontosságát az EU globális szintű versenyképességének javítása érdekében.

Emberi vezérlésű („human-in-command”) megközelítés

2.3.

A fehér könyv ugyanakkor kissé „fatalista” hangvételű, mivel azt sugallja, hogy a mesterséges intelligencia „felülkerekedik rajtunk”, ami miatt kénytelenek vagyunk szabályozni a használatát. Az EGSZB őszintén hisz az EU annak biztosítására irányuló kötelezettségvállalásában, hogy Európa csak a megbízható mesterséges intelligenciát fogadja el, és ezért sokkal határozottabb álláspontot kell képviselnie ezen a téren. Az EGSZB ezért sürgeti az Európai Bizottságot, hogy mindig hagyja nyitva adott típusú MI(-felhasználás) teljes elutasításának lehetőségét. Ezt hívja az EGSZB a mesterséges intelligencia emberi vezérlésű („human-in-command”) megközelítésének, amelyet támogatnunk kell.

A mesterséges intelligencia kiaknázása Európában – egy előremutató fogalommeghatározás

2.4.

A fehér könyvben szereplő fogalommeghatározás szerint a mesterséges intelligencia „olyan technológiák együttese, amelyek adatokat kombinálnak algoritmusokkal és számítási teljesítménnyel”. A szöveg később a mesterséges intelligencia fő alkotóelemeiként az adatokat és az algoritmusokat nevezi meg. Ez a fogalommeghatározás azonban minden valaha létrehozott szoftvert magában foglalna, nem csak a mesterséges intelligenciát. A mesterséges intelligenciának – amely a számítógépes alkalmazások bizonyos körére alkalmazott általános megnevezés – továbbra sincs egyetemesen elfogadott fogalommeghatározása.

2.5.

Ahhoz, hogy az EU igazi éllovassá váljon az élvonalbeli, megbízható és versenyképes mesterséges intelligencia terén, a csupán az adatvezérelt mesterséges intelligenciára koncentráló fehér könyv megközelítése túlságosan szűklátókörű. A fehér könyv számos ígéretes MI-rendszert nem vesz figyelembe, és ezáltal kizárja az irányításuk és szabályozásuk lehetőségét. Az EGSZB sürgeti az Európai Bizottságot, hogy az MI-rendszerek új generációját, az adatvezérelt megközelítéseket ismereteken és észszerű érvelésen alapuló megközelítésekkel ötvöző, úgynevezett hibrid rendszereket is támogassa. A fehér könyv elismeri, hogy a megmagyarázhatóság céljából szükség van a hibrid rendszerekre, e rendszerek előnyei azonban túlmutatnak ezen: képesek felgyorsítani és/vagy korlátozni a tanulást, továbbá alkalmasak a gépi tanulási modell hitelesítésére és ellenőrzésére.

2.6.

A fehér könyv az adatok tekintetében csak az elfogultságra helyezi a hangsúlyt, de az elfogultság nem minden esetben a rossz minőségű vagy korlátozott adatok eredménye. Önmagában bármely műtermék tervezése elfogult döntések halmaza, amelyek a figyelembe vett információktól az optimalizáláshoz kitűzött célokig terjednek. E döntések mindegyikét valamilyen módon a döntéseket meghozó személy(ek) természetes elfogultságai vezérlik.

2.7.

A legfontosabb azonban, hogy az MI-rendszerek nem csupán a szoftverösszetevők összességei. Az MI-rendszerek az őket körülvevő társadalmi-technológiai rendszert is magukban foglalják. A mesterséges intelligencia irányításának és szabályozásának mérlegelésekor tehát az azt körülvevő társadalmi struktúrákra is koncentrálni kell: a szervezetekre és vállalkozásokra, a különféle szakmákra, a mesterséges intelligenciát létrehozó, fejlesztő, bevezető, használó és irányító emberekre és intézményekre, valamint azokra a személyekre, akikre a mesterséges intelligencia hatással van, ideértve például a polgárokat a kormányzatokkal való viszonyuk tekintetében, az üzleti vállalkozásokat, a fogyasztókat, a munkavállalókat vagy akár a társadalom egészét.

2.8.

Azt is meg kell jegyezni, hogy a jogi (az irányítás és szabályozás célját szolgáló) fogalommeghatározások különböznek a pusztán tudományos definícióktól, mivel számos különböző követelménynek kell megfelelniük, ideértve az inkluzivitást, a pontosságot, az állandó és átfogó jelleget, valamint a gyakorlatban való alkalmazhatóságot. Ezek közül néhány jogilag kötelező érvényű követelmény, némelyek pedig helyes szabályozási gyakorlatnak számítanak.

Erőegyesítés

2.9.

Az EGSZB üdvözli a mesterséges intelligencia európai rendszere töredezettségének felszámolására irányuló törekvéseket, amelyek keretében egybegyűjtik a mesterséges intelligenciával foglalkozó kutatókat, a kkv-kat helyezik a középpontba és partnerségek jönnek létre a magán- és a közszféra között. Az EGSZB ezenfelül a következőket javasolja: i. más tudományterületek, például a jog, az etika, a filozófia, a pszichológia, a munkatudományok, a bölcsészettudományok, a közgazdaságtan stb. bevonásával a multidiszciplináris kutatás elősegítése; ii. az érdekelt felek (szakszervezetek, üzleti szervezetek, fogyasztóvédelmi szervezetek, nem kormányzati szervezetek) bevonása a mesterséges intelligenciáról folyó vitába az EU által finanszírozott kutatás és egyéb projektek – mint például a mesterséges intelligenciával foglalkozó köz-magán társulás, az ágazati párbeszédek, valamint a mesterséges intelligencia elfogadását célzó közszférabeli program és a vezető központ – egyenlő partnereiként; és iii. a szélesebb közvélemény folyamatos oktatása és tájékoztatása a mesterséges intelligenciában rejlő lehetőségekről és kihívásokról.

A mesterséges intelligencia és a jog

2.10.

A fehér könyv elismeri azt a tényt, hogy a mesterséges intelligencia nem egy törvények nélküli világban működik. Az EGSZB különösen üdvözli, hogy a fehér könyv hangsúlyozza a mesterséges intelligencia alapvető jogokkal kapcsolatos vonatkozásait, és javasolja, hogy az Európai Bizottság mélyrehatóbban vegye figyelembe a mesterséges intelligencia által az alapvető jogokra és szabadságokra, például a vélemény- és szólásszabadságra, továbbá a magánélet tiszteletben tartásához való jogra (amely jóval túlmutat az emberek adatainak védelmén), illetve a tisztességes tárgyaláshoz, a tisztességes és nyílt választásokhoz, a gyülekezéshez és a demonstráláshoz való jogra, valamint a megkülönböztetésmentesség tilalmára gyakorolt hatásokat.

2.11.

Az EGSZB üdvözli, hogy a fehér könyv egyértelműen állást foglal a meglévő felelősségi rendszereknek a mesterséges intelligenciára való alkalmazhatósága mellett, továbbá üdvözli az arra irányuló törekvést, hogy ezekre a rendszerekre támaszkodjanak a mesterséges intelligencia által esetlegesen megteremtett új kockázatok kezelése érdekében, áthidalva így az olyan esetekben jelentkező végrehajtási hiányosságokat, amikor a ténylegesen felelős gazdasági szereplő meghatározása nehézségekbe ütközik, és lehetővé téve a rendszerek számára az MI-rendszerek változó működéséhez való alkalmazkodást.

2.12.

Az Európai Bizottságnak azt is fel kell ismernie, hogy a mesterséges intelligencia nem ismer határokat, és hogy az erőfeszítéseket nem lehet és nem is szabad Európára korlátozni. A közös nemzetközi jogi keret létrehozása érdekében a jogi szakértők által folytatott megbeszélésekre és kutatásokra építve világszerte általános konszenzusra kell jutni.

2.13.

Az EGSZB mindenesetre továbbra is határozottan ellenzi, hogy a mesterséges intelligencia számára bevezessék a jogi személyiség bármilyen formáját. Ez aláásná a felelősségi jog preventív hatását, és a mesterséges intelligencia fejlesztése és használata tekintetében egyaránt súlyos erkölcsi kockázatot rejt magában, amennyiben lehetőséget biztosít a visszaélésre.

A magas kockázatú mesterséges intelligencia szabályozása

2.14.

Az EGSZB üdvözli a mesterséges intelligencia hatásainak ellenőrzésére irányuló kockázatalapú megközelítést. Az Európai Bizottság a fehér könyvben bejelentette, hogy szabályozási keretrendszert dolgoz ki a „magas kockázatú mesterséges intelligenciára” vonatkozóan, amelynek meg kell felelnie a stabilitással, a pontossággal, a reprodukálhatósággal, az átláthatósággal, az emberi felügyelettel és az adatkormányzással kapcsolatos követelményeknek. A fehér könyv szerint a mesterséges intelligenciát magas kockázatúnak kell tekinteni, ha megfelel a következő két kumulatív feltételnek: i. magas kockázatú ágazatban történő használat, ii. valamely MI-alkalmazás jelentős kockázatot okozó használata. A fehér könyv két példát hoz fel az olyan MI-alkalmazásra, illetve -felhasználásra, amely eredendően, azaz az ágazattól függetlenül magas kockázatúnak tekinthető. Ezenkívül a biometrikus azonosítást is lényegéből adódóan magas kockázatú alkalmazásnak minősíti. A magas kockázatot jelentő ágazatok kimerítő listája (amelyet időszakos felülvizsgálatnak vetnek alá) most már a következő, potenciálisan magas kockázatú ágazatokat is tartalmazza: egészségügy, közlekedés, energiaágazat, valamint a közszféra bizonyos részei.

2.15.

A második kritérium, nevezetesen az MI-alkalmazás kockázatot jelentő módon történő használata, lazább, ami azt sugallja, hogy különböző kockázati szinteket vehetnek figyelembe. Az EGSZB azt javasolja, hogy a társadalmat és a környezetet is vegyék fel azok közé a területek közé, amelyekre a mesterséges intelligencia hatással van.

2.16.

A fehér könyv logikáját követve egy alacsony kockázatú ágazatban használt magas kockázatú MI-alkalmazás elviekben nem tartozik a szabályozási keret hatálya alá. Az EGSZB hangsúlyozza, hogy egy alacsony kockázatú ágazatban használt, magas kockázatot jelentő mesterséges intelligencia nemkívánatos hatásai kizárhatnának MI-alkalmazásokat vagy -felhasználásokat a szabályozás hatálya alól, és ezáltal egy „kiskaput” teremtenek a szabályok elkerülésére: gondoljunk csak a célzott hirdetésekre (alacsony kockázatú ágazat), amelyekről bebizonyosodott, hogy potenciálisan szegregáló, megkülönböztető és megosztó hatásuk van, ami például választások során vagy a személyre szabott árazás esetében mutatkozik meg (magas kockázatú használat, illetve hatás). Az EGSZB javasolja az olyan MI-alkalmazások vagy -felhasználások közös jellemzőinek kidolgozását, amelyek „eredendően”, tehát attól függetlenül magas kockázatúnak minősülnek, hogy milyen ágazatban használják őket.

2.17.

Míg az EGSZB elismeri, hogy szükség van a mesterséges intelligencia megfelelőségértékelésére, attól tart, hogy egy egyszeri (vagy akár rendszeresen megismételt) előzetes megfelelőségértékelés nem lesz elegendő a mesterséges intelligencia hosszú távon megbízható és emberközpontú fejlesztésének, bevezetésének és használatának garantálásához. A megbízható mesterséges intelligenciához egy folyamatos és szisztematikus társadalmi-technológiai megközelítésre van szükség, amely a technológiát valamennyi szempontból és különböző nézőpontokon keresztül vizsgálja. A politikai döntéshozatal szempontjából ez multidiszciplináris megközelítést igényel, amelynek értelmében a politikai döntéshozók, a különböző területekről érkező tudományos szakemberek, a szociális partnerek, a szakmai szervezetek, a szakemberek, a vállalkozások és a nem kormányzati szervezetek folyamatosan együttműködnek. Különösen az emberek egészségével, biztonságával és jólétével kapcsolatos és bizalmon alapuló közérdekű szolgáltatások esetében garantálni kell, hogy az MI-rendszerek igazodjanak a gyakorlati követelményekhez, és ne bírálhassák felül az emberi felelősséget.

Biometrikus azonosítás

2.18.

Az EGSZB üdvözli, hogy az Európai Bizottság nyilvános vitát kezdeményez a mesterséges intelligencia által vezérelt biometrikus azonosításról. A mikrokifejezések, a járásmód, a hang(szín), a pulzusszám, a testhőmérséklet stb. felismerésére már most is használják a biometrikus azonosítást a viselkedésünk, mentális állapotunk és érzelmeink értékelésére, vagy akár előrejelzésére, többek között felvételi eljárások során is. Egyértelműen ki kell jelenteni, hogy nem létezik olyan tudományos bizonyíték, amely alátámasztja, hogy egy személy belső érzelmeit vagy mentális állapotát pontosan „le lehet olvasni” az arckifejezéséből, a járásmódjából, a pulzusszámából, a hangszínéből vagy a testhőmérsékletéből, nem beszélve a jövőbeli viselkedések ezek alapján történő előrejelzéséről.

2.19.

Azt is meg kell jegyezni, hogy a GDPR a biometrikus adatok feldolgozását csak egy bizonyos mértékben korlátozza. A biometrikus adat a GDPR fogalommeghatározása szerint „egy természetes személy testi, fiziológiai vagy viselkedési jellemzőire vonatkozó minden olyan sajátos technikai eljárásokkal nyert személyes adat, amely lehetővé teszi vagy megerősíti az adott természetes személy egyedi azonosítását”. Számos biometrikus azonosítási technológiát azonban nem egy adott személy egyedi azonosítására, hanem kizárólag egy adott személy viselkedésének vagy érzelmeinek értékelésére terveztek. Előfordulhat, hogy ezek a felhasználások nem tartoznak a biometrikus adat(feldolgozás) GDPR szerinti fogalommeghatározásának hatálya alá.

2.20.

A mesterséges intelligencia által vezérelt biometrikus azonosítás a magánélet, a személyazonosság, az autonómia és a pszichológiai integritás tiszteletben tartásához való, tágabb értelemben vett jogunkra is hatást gyakorol egy olyan helyzet megteremtésével, amelyben (folyamatosan) figyelnek, követnek és beazonosítanak minket. Ez egy pszichológiai „elrettentő hatást” válthat ki, ami azt jelenti, hogy az emberek úgy érezhetik, hogy a viselkedésüket egy bizonyos normához kell igazítaniuk. Ez a magánélethez (a morális és pszichológiai integritáshoz) való alapvető jogunk megsértésének minősül. A mesterséges intelligencia által vezérelt biometrikus azonosítás ezenfelül egyéb alapvető jogokat és szabadságokat is befolyásolhat, például a gyülekezési szabadságot és a megkülönböztetésmentességhez való jogot.

2.21.

Az EGSZB javasolja, hogy a biometrikus azonosítás bármilyen felhasználását kizárólag tudományosan igazolt hatás megléte esetén, ellenőrzött környezetekben és szigorú feltételek mellett lehessen engedélyezni. A mesterséges intelligencia által vezérelt biometrikus azonosítás emberek, illetve emberi viselkedés vagy érzelmek felügyeletére, nyomon követésére, értékelésére vagy kategorizálására történő felhasználását meg kell tiltani.

A mesterséges intelligencia munkára és készségekre gyakorolt hatása

2.22.

Az EGSZB megjegyzi, hogy a fehér könyvből hiányzik egy arra vonatkozó stratégia, hogy miként kellene kezelni a mesterséges intelligencia által a munkára gyakorolt hatást, holott a mesterséges intelligenciára vonatkozó 2018. évi európai stratégia erre kifejezetten kitért.

2.23.

Az EGSZB támogatja a munkavállalók és szolgáltatók valamennyi típusának korai és szoros bevonását, ideértve a szabadúszókat, az egyéni vállalkozókat és a „haknimunkásokat” is – nemcsak a mesterséges intelligencia tervezőit és fejlesztőit, hanem az MI-rendszereket megvásárló és bevezető embereket, illetve azokat az is, akik ilyen rendszerekkel dolgoznak és akikre az ilyen rendszerek hatással vannak. A szociális párbeszédre az MI-technológiák munkahelyi bevezetése előtt sort kell keríteni, összhangban az alkalmazandó nemzeti szabályokkal és gyakorlatokkal. A munkahelyen a munkavállalók adataihoz való hozzáférésnek és az adatkezelésnek a szociális partnerekkel egyeztetett elveken és szabályzatokon kell alapulnia.

2.24.

Az EGSZB különösen szeretné felhívni a figyelmet a munkavállalók felvétele, elbocsátása, felmérése és értékelése során használt mesterséges intelligenciára. A fehér könyv a munkaerőfelvételi folyamatok során használt mesterséges intelligenciát hozza fel példaként az olyan magas kockázatot jelentő alkalmazásokra, amelyek az adott ágazattól függetlenül szabályozás hatálya alá tartoznának. Az EGSZB azt ajánlja, hogy ezt az alkalmazási területet terjesszék ki a munkavállalók elbocsátási, készségfelmérési és értékelési folyamatai során használt mesterséges intelligenciára is, ugyanakkor térképezzék fel az olyan MI-alkalmazások közös jellemzőit, amelyek ágazattól függetlenül magas kockázattal járnának a munkahelyen. A tudományos alapot nélkülöző MI-alkalmazásokat, mint a biometrikus azonosítással végzett érzelemfelismerés, nem szabad munkahelyi környezetekben való használatra engedélyezni.

2.25.

A mesterséges intelligenciával kapcsolatos készségek szinten tartása vagy megtanulása elengedhetetlen ahhoz, hogy az emberek alkalmazkodni tudjanak a mesterséges intelligencia terén megfigyelhető gyors előrelépésekhez. Ezért fontos, hogy olyan területeken is fordítsunk szakpolitikai figyelmet és pénzügyi forrásokat az oktatásra és készségfejlesztésre, amelyeket nem fenyegetnek az MI-rendszerek (gondolhatunk itt azokra a feladatokra, amelyeknél az emberi interakció a legfontosabb – például az emberek egészségével, biztonságával és jólétével kapcsolatos és bizalmon alapuló közérdekű szolgáltatásokra –, vagy amelyeknél az ember és a gép együttműködik, illetve amelyeket továbbra is emberekre szeretnénk bízni).

3.   A mesterséges intelligencia és a koronavírus

3.1.

A mesterséges intelligencia hozzájárulhat a koronavírus és a Covid19 jobb megértéséhez, megvédheti az embereket a kitettségtől, segíthet az oltóanyag megtalálásában és a kezelési lehetőségek feltárásában. Továbbra is fontos azonban, hogy nyíltan és egyértelműen meghatározzuk, hogy a mesterséges intelligencia mire képes és mire nem.

3.2.

Stabilitás és hatékonyság: az adatvezérelt mesterséges intelligencia alkalmazása a koronavírus terjedésének előrejelzésére problematikus lehet, mivel túl kevés adat áll rendelkezésre a koronavírusról ahhoz, hogy a mesterséges intelligencia megbízható eredményeket produkálhasson. Ezenfelül a már rendelkezésre álló, kevés mennyiségű adat hiányos és torz. Ezen adatok gépi tanulási megközelítésekhez való használata számos álnegatív és álpozitív eredményhez vezethet.

3.3.

A felhasznált adatok és modellek átláthatósága, valamint az eredmények megmagyarázhatósága kiemelkedő fontosságú. Különösen most nem engedhetjük meg magunknak, hogy „fekete dobozon” alapuló döntéseket hozzunk.

3.4.

A mesterséges intelligenciának a járvány megfékezése céljából történő használata tekintetében az emberi jogok, az etikai alapelvek és a hatályos jogszabályok tiszteletben tartása fontosabb, mint valaha. Különösen azokban az esetekben, amikor az MI-eszközök használata az emberi jogok megsértésével járhat, jogos érdeknek kell fűződnie az alkalmazásukhoz, amelynek feltétlenül szükségesnek, arányosnak és mindenekelőtt időben korlátozottnak kell lennie.

3.5.

Végezetül, biztosítanunk kell a tisztességes és inkluzív használatot. A járvány elleni küzdelem céljából kifejlesztés alatt álló MI-rendszereknek elfogultságtól és megkülönböztetéstől mentesnek kell lenniük. Ezenkívül mindenki számára hozzáférhetőnek kell lenniük és figyelembe kell venniük a különböző érintett országok társadalmi és kulturális különbségeit.

Nyomonkövethetőségi és visszakereshetőségi, illetve egészségfigyelő mobilalkalmazások

3.6.

Virológusok és epidemiológusok szerint a társadalom és a gazdaság megnyitásához az emberek egészségével kapcsolatos hatékony nyomonkövethetőségre, visszakereshetőségre, megfigyelésre és védelemre van szükség. Jelenleg számos olyan alkalmazást fejlesztenek ki az egészségügyi állapot nyomon követésére, ellenőrzésére és felmérésére, amelyeket általában (és korábban mindig) szakemberek végeztek. Világszerte számos kormány erősen bízik abban, hogy a nyomonkövethetőséget és visszakereshetőséget biztosító mobilalkalmazások elősegíthetik a társadalmi élet újraindítását.

3.7.

Az ilyen mobilalkalmazások bevezetése rendkívül radikális lépés. Ezért fontos a mobilalkalmazások hasznosságának, szükségességének és hatékonyságának, valamint társadalmi és jogi hatásának kritikus vizsgálata, mielőtt a használatukról döntés születik. Továbbra is fenn kell tartani a mobilalkalmazások mellőzésének lehetőségét, és a kevésbé invazív megoldásokat kell előnyben részesíteni.

3.8.

A nyomonkövethetőséget és visszakereshetőséget biztosító mobilalkalmazások eredményessége és megbízhatósága rendkívül fontos, mivel az eredménytelenség és a megbízhatatlanság számos álpozitív és álnegatív eredményhez, téves biztonságérzethez, és ezáltal a megfertőződés megnövekedett kockázatához vezethet. A kezdeti tudományos szimulációk komoly kétségeket vetnek fel azzal kapcsolatban, hogy a nyomon követésre szolgáló mobilalkalmazásoknak van-e egyáltalán bármi pozitív hatása a vírus terjedésére, akár 80–90 %-os használati arány mellett is. Emellett egy mobilalkalmazás nem képes olyan egyedi körülmények rögzítésére, mint a plexiüveg vagy ablakok megléte, illetve az egyéni védőeszközök viselése.

3.9.

Ráadásul ezek a mobilalkalmazások különböző emberi jogok és szabadságok (részleges) figyelmen kívül hagyásával járnak, mivel érintik a szabad gyülekezéshez, a biztonsághoz, a megkülönböztetésmentességhez és a magánélethez fűződő jogunkat.

3.10.

A magánélet – amellett, hogy rendkívül fontos – a személyes adatoknál és a névtelenségnél sokkal többet jelent. A magánélethez tartozik az is, hogy jogunk van ahhoz, hogy ne kövessenek és ne figyeljenek meg minket. Tudományosan bizonyított, hogy ha tudatában vagyunk annak, hogy követnek minket, máshogy kezdünk el viselkedni. Az Emberi Jogok Európai Bírósága szerint ez az „elrettentő hatás” a magánélethez való jogunk megsértésének minősül. A mesterséges intelligenciáról folyó vita során a magánélet e tágan értelmezett fogalmát kell alkalmazni.

3.11.

Fennáll annak a veszélye, hogy az összegyűjtött adatokat (most vagy a jövőben) nemcsak a jelenlegi világjárvány elleni küzdelemhez, hanem különböző célú profilalkotáshoz, illetve az emberek különböző célokból végzett kategorizálásához és értékeléséhez is fel fogják használni. A távolabbi jövőben az is elképzelhető, hogy a „funkciók terjeszkedése” a profilalkotás olyan nemkívánt típusainak kialakulásához vezethet, amelyeket a felügyelet és a megfigyelés, a biztosítások és szociális juttatások megítélése, az alkalmazottak felvétele, illetve elbocsátása terén is alkalmazhatnak. A fent említett mobilalkalmazások használatával összegyűjtött adatokat ezért semmilyen körülmények között sem lehet profilalkotáshoz, kockázatértékeléshez, osztályozáshoz, illetve előrejelzéshez felhasználni.

3.12.

Továbbá, az ilyen rendkívüli körülmények között kidolgozott bármely MI-megoldás, még ha azt a legjobb szándékkal vezetik is be, precedenst fog teremteni – ha akarjuk, ha nem. A korábbi válsághelyzetek tanulsága, hogy minden jó szándék ellenére az ilyen jellegű intézkedéseket a gyakorlatban soha nem vonják vissza.

3.13.

A mesterséges intelligenciának a mostani világjárvány során történő használatát tehát minden esetben számos megfontolás alapján kell mérlegelni, például: i. hatékony és megbízható-e? ii. léteznek-e kevésbé invazív megoldások? iii. az előnyei meghaladják-e a társadalmi, etikai, és az alapvető jogokkal kapcsolatos aggályokat? valamint iv. elérhető-e egy felelős kompromisszum a használat és azzal ütköző alapvető jogok és szabadságok között? Ezenfelül az ilyen rendszerek alkalmazását nem lehet kötelességként előírni, illetve kikényszeríteni.

3.14.

Az EGSZB kéri a politikai döntéshozóktól, hogy ne adják meg magukat túl hamar a technológiai alapú megoldásokba vetett bizalomnak. A helyzet súlyosságára figyelemmel javasoljuk, hogy a világjárvány megfékezésének elősegítésére kidolgozott projektekhez kapcsolódó alkalmazások alapos járványtani, szociológiai, pszichológiai, jogi, etikai és rendszertudományi kutatásokon alapuljanak. Az ilyen rendszerek alkalmazására vonatkozó döntés meghozatala előtt hatékonysági, szükségességi és érzékenységi elemzéseket és szimulációkat kell végezni.