31.8.2017   

HU

Az Európai Unió Hivatalos Lapja

C 288/1

Előadó:

Catelijne MULLER

1.1

A mesterséges intelligencia gyors ütemben fejlődik és találja meg helyét napjaink társadalmában. A mesterséges intelligencia piacának forgalma mintegy 664 millió amerikai dollárt tesz ki, és 2025-re a várakozások szerint a 38,8 milliárd amerikai dollárt is eléri. Mivel a mesterséges intelligencia pozitív és negatív hatásokat egyaránt gyakorolhat a társadalomra, az EGSZB úgy döntött, hogy szorosan nyomon követi ennek a területnek a fejlődését, nemcsak technikai, de kifejezetten etikai, biztonsági és társadalmi szempontból is.

1.2

Az európai civil társadalom képviselőjeként a következő időkben az EGSZB formába önti, összefogja és előmozdítja a mesterséges intelligenciáról szóló társadalmi vitát, amelybe minden érintett szereplőt bevon, köztük a döntéshozókat, az ágazatokat, a szociális partnereket, a fogyasztókat, az NGO-kat, az oktatási és gondozási intézményeket és különféle területek szakértőit és kutatóit (ilyen terület például a mesterséges intelligencia, biztonság, etika, gazdaság, munka-, jog- és viselkedéstudomány, pszichológia, filozófia).

1.3

Napjainkban mindenki a szuperintelligenciáról értekezik, amely fontos kérdés ugyan, de háttérbe szorítja a mesterséges intelligencia jelenlegi alkalmazásainak hatásáról szóló vitát. A szóban forgó kezdeményezés feladata és célja ezért többek között az, hogy bővítsük és elmélyítsük a mesterséges intelligenciával kapcsolatos ismereteket, és ezzel elősegítsük, hogy tájékozott és kiegyensúlyozott vitát lehessen folytatni, amelyben nem vészforgatókönyvekről van szó, de nem is válik minden viszonylagossá. Az EGSZB arra fog törekedni, hogy a mesterséges intelligencia támogatása az emberiség javát szolgálja. Az is fontos feladat és cél ugyanakkor, hogy felismerjük, megnevezzük és nyomon kövessük a mesterséges intelligencia fejlődésében és fejlesztése kapcsán mutatkozó diszruptív jelenségeket, hogy ezeket megfelelő módon és időben kezelhessük. Ennek köszönhetően az emberek nagyobb szerepet fognak vállalni és jobban bíznak majd a mesterséges intelligencia fenntartható továbbfejlesztésében és alkalmazásában, így számítani lehet a támogatásukra is.

1.4

A mesterséges intelligencia hatásai túlnyúlnak a határokon, ezért szupranacionális szakpolitikai kereteket is meg kell határozni. Az EGSZB ajánlja, hogy az EU vállaljon globális vezető szerepet a mesterséges intelligencia világszerte érvényes, egyértelmű szakpolitikai keretének meghatározásában, összhangban az európai értékekkel és alapjogokkal. Az EGSZB ehhez el tudja készíteni, és szívesen el is készíti saját hozzájárulását.

1.5

Jelenleg az EGSZB 11 olyan területre hívja fel a figyelmet, amelyen a mesterséges intelligencia kihívásokat állít a társadalom elé. Ezek a következők: etika; biztonság; adatvédelem; átláthatóság és értelmezhetőség; munka; oktatás és képességek; egyenlő(tlen)ség és inkluzivitás; jogalkotás és szabályozás; kormányzás és demokrácia; hadviselés; szuperintelligencia. Az alábbiakban kifejtjük az EGSZB ajánlásait.

1.6

Az EGSZB a mesterséges intelligencia human-in-command (emberi vezérlésű) megközelítése mellett szól, melynek értelmében alapfeltétel a mesterséges intelligencia felelős, biztonságos és hasznos fejlesztése, ahol a gépek gépek maradnak, az emberek pedig mindig megtartják az ellenőrzést a gépek felett.

1.7

Az EGSZB fontosnak tartja egy etikai kódex kidolgozását a mesterséges intelligencia fejlesztéséhez, bevetéséhez és használatához, hogy a mesterségesintelligencia-rendszerek teljes működési folyamatukat tekintve összeegyeztethetőek legyenek az emberi méltóság, integritás, szabadság, adatvédelem, valamint a kulturális és nemi sokszínűség elveivel és az alapvető emberi jogokkal.

1.8

Az EGSZB fontosnak tartja egy a mesterségesintelligencia-rendszerek hitelesítésére, validálására és ellenőrzésére szolgáló normarendszer kidolgozását, amelynek alapját biztonságra, átláthatóságra, érthetőségre, értelmezhetőségre és etikai értékekre vonatkozó szabványok széles skálája képezi.

1.9

Az EGSZB egy európai mesterségesintelligencia-infrastruktúra kialakítása mellett szól, amely nyílt forrású és az adatvédelmet tiszteletben tartó tanulási környezetekből, valós tesztkörnyezetekből és jó minőségű adathalmazokból állna a mesterségesintelligencia-rendszerek fejlesztésére és betanítására. Az EGSZB felhívja a figyelmet arra a (verseny)előnyre, melyre az EU a nemzetközi piacon szert tehet, ha mesterséges intelligenciára vonatkozó európai tanúsítvánnyal és címkével ellátott, „európai szempontból megfelelő mesterségesintelligencia-rendszereket” fejleszt és népszerűsít.

1.10

Az EU-nak, a nemzeti kormányoknak és a szociális partnereknek közösen fel kell térképezniük, hogy mely munkaerőpiaci ágazatokra milyen mértékben és várhatóan mikortól lesz befolyással a mesterséges intelligencia, és megoldásokat kell találniuk arra, hogy miként kezeljék ennek következményeit a foglalkoztatás, a munka tartalma, a szociális rendszerek és az egyenlő(tlen)ség szempontjából. Emellett be kell ruházni azokba az ágazatokba, amelyekre a mesterséges intelligencia csak kis mértékben vagy egyáltalán nem gyakorol hatást.

1.11

Az EGSZB ajánlja, hogy az érintett felek együttesen törekedjenek arra, hogy egymást kiegészítő mesterségesintelligencia-rendszerek jöjjenek létre, és ezeket közösen alkossák meg a munkahelyeken, például olyan munkacsoportokat hozva létre, melyekben emberek és gépek egyaránt dolgoznak, és a mesterséges intelligencia kiegészíti és tökéletesíti az emberi teljesítményt. Fontos az is, hogy az érintett felek beruházzanak mindenki számára hozzáférhető formális és informális tanulási, oktatási és képzési lehetőségekbe, hogy az emberek megtanuljanak dolgozni a mesterséges intelligencián alapuló alkalmazásokkal, de azért is, hogy fejlesszék azokat a készségeket, amelyeket nem fog vagy nem tud átvenni a mesterséges intelligencia.

1.12

Már most szükség van az uniós jogszabályok részletes értékelésére a Tudományos és Technológiai Alternatívák Értékelése (STOA) által megjelölt 6 területen, melyeket esetlegesen át kell dolgozni vagy ki kell igazítani. Az EGSZB szerepet tudna és szeretne is játszani ebben az értékelési folyamatban. Az EGSZB ellenzi, hogy robotok vagy mesterséges intelligenciák számára bevezessék a jogi személyiség bármilyen formáját. Ez aláásná a felelősségi jog preventív javító hatását, erkölcsi kockázat kialakulásához vezetne a mesterséges intelligencia fejlesztése és alkalmazása során, és lehetőséget adna a visszaélésre.

1.13

A köz- és a magánszférában egyaránt aktívan ösztönözni és támogatni kell a társadalmat szolgáló, az inkluzivitást előmozdító és az emberek életét jobbá tévő mesterségesintelligencia-alkalmazások fejlesztését. Különféle programjai keretében az Európai Bizottságnak finanszíroznia kell a mesterséges intelligencia és a mesterséges intelligencián alapuló, uniós finanszírozású innovációk társadalmi hatásainak vizsgálatát.

1.14

Az EGSZB támogatja a Human Rights Watch felszólítását az autonóm fegyverrendszerek betiltására. Az EGSZB örömmel veszi azt a bejelentést, hogy az ENSZ-ben tárgyalni fognak erről a kérdésről, de úgy véli, hogy az ENSZ-tárgyalásokon a kiberhadviselésben használható mesterségesintelligencia-alkalmazásokra is ki kell térni.

2.1

A mesterséges intelligenciának nincs egységesen elfogadott, jól körülhatárolt definíciója. Gyűjtőfogalomról van szó, sokféle (al)terület tartozik ide, amilyen például a cognitive computing (kognitív informatika: magasabb – emberi – szinten érvelni és érteni képes algoritmusok), machine learning (gépi tanulás: saját magukat tanítani képes algoritmusok), augmented intelligence (kiterjesztett intelligencia: együttműködés az ember és a gép között), AI-robotica (mesterséges intelligencián alapuló robotika: robotokba telepített mesterséges intelligencia). A mesterséges intelligenciára irányuló kutatás és fejlesztés fő célja azonban az, hogy automatizálja az intelligens viselkedést, így például az érvelést, információ-feldolgozást, tervezést, tanulást, kommunikálást, manipulálást, észlelést, sőt az alkotást, az álmodást és az érzékelést is.

2.2

A mesterséges intelligenciának két fő iránya van, ezek a keskeny mesterséges intelligencia (artificial narrow intelligence, ANI) és az általános mesterséges intelligencia (artificial general intelligence, AGI). A keskeny mesterséges intelligenciát jellemzően konkrét feladatok ellátására fejlesztik. Az általános mesterséges intelligencia képes ellátni bármely olyan intellektuális feladatot, amelyet az ember el tud látni.

2.3

A keskeny mesterséges intelligencia terén az utóbbi években komoly előrelépések figyelhetők meg, főként a számítási teljesítmény (computer processing power) növekedésének, a nagy adathalmazok rendelkezésre állásának és a gépi tanulás (machine learning, ML) fejlődésének köszönhetően. A gépi tanulás olyan algoritmusokat foglal magában, melyek saját maguknak meg tudnak tanítani konkrét feladatokat, anélkül, hogy beprogramoznák őket. A módszer hátterében a „tréningadatok” feldolgozása áll, amelyek alapján az algoritmus megtanulja, hogy miként ismerjen fel különféle patronokat és állítson fel szabályokat. A gépi tanulás egyik formája a mély tanulás (Deep learning, DL), amely többé-kevésbé az emberi agyra alapozott struktúrákat (neural networks) alkalmaz, így gyakorlás és visszajelzés útján tanul. E fejlesztések eredményeképpen a mesterségesintelligencia-rendszerek (algoritmusok segítségével) időközben képesek arra, hogy öntanítók, autonómok és adaptívak legyenek.

2.4

A mesterséges intelligenciára irányuló kutatás és fejlesztés már egy ideje az érvelésre, tudásszerzésre, tervezésre, kommunikációra és (vizuális, auditív és szenzoros) érzékelésre helyezi a legnagyobb hangsúlyt. Ez rengeteg mesterséges intelligencián alapuló alkalmazást eredményezett: virtuális asszisztensek, önjáró autók, automatikus hírösszefoglalók, beszédfelismerés, fordítóprogramok, felolvasó programok, automatizált pénzügyi kereskedés, jogi feltérképezés (e-discovery) stb.

2.5

Az EGSZB felhívja a figyelmet arra, hogy a közelmúltban exponenciálisan növekedett a mesterséges intelligenciához köthető alkalmazások és beruházások száma. A mesterséges intelligencia piacának forgalma jelenleg mintegy 664 millió amerikai dollárt tesz ki, és 2025-re a várakozások szerint a 38,8 milliárd amerikai dollárt is eléri.

3.1

Aligha vitatható, hogy a mesterséges intelligencia jelentős társadalmi előnyökkel járhat: gondoljunk csak azokra az alkalmazásokra, melyek elősegítik a fenntartható mezőgazdaságot, a biztonságosabb közlekedést, a biztonságosabb pénzügyi rendszert, a környezetbarátabb termelési folyamatokat, a magasabb színvonalú orvostudományt, a biztonságosabb munkát, a testre szabottabb oktatást, a jobb igazságszolgáltatást és a biztonságosabb társadalmat. Még az is lehet, hogy a mesterséges intelligencia segít a betegségek és a szegénység felszámolásában. Jelentősen előmozdíthatja emellett az ipari növekedést és a versenyképesség erősödését az EU-ban.

3.2

Más diszruptív technológiákhoz hasonlóan azonban a mesterséges intelligencia is kockázatokkal és összetett szakpolitikai kihívásokkal jár olyan területeken, mint a biztonság és az ellenőrizhetőség, a társadalmi-gazdasági szempontok, az etika és az adatvédelem, a megbízhatóság stb.

3.3

Nem halogathatjuk tovább a mesterséges intelligencia jelenlegi és jövőbeli fejlesztésére és alkalmazására vonatkozó (elő)feltételek meghatározását. A mesterséges intelligencia előnyeit csak akkor tudjuk tartósan kiaknázni, ha megfelelően kezeljük a mesterséges intelligenciához köthető kihívásokat is. Ehhez pedig politikai döntésekre van szükség.

a)

Etika

3.4

A mesterséges intelligencia fejlesztése sok etikai kérdést vet fel. Hogyan befolyásolja az autonóm (öntanító) mesterséges intelligencia személyes integritásunkat, autonómiánkat, méltóságunkat, önállóságunkat, egyenlőségünket, biztonságunkat, döntési szabadságunkat? Miként gondoskodhatunk alapvető normáink, értékeink és jogaink tiszteletben tartásáról és szavatolásáról?

3.5

Ráadásul a mesterséges intelligencia fejlesztése jelenleg jórészt egy fiatal fehér férfiakból álló, homogén környezetben zajlik, így (tudatosan vagy akaratlanul) kultúrák és nemek közötti különbségek épülnek be a mesterséges intelligenciákba többek között azért, mert az ilyen rendszerek tréningadatok alapján tanulnak. Fontos, hogy ezek az adatok korrektek, jó minőségűek, változatosak, kellően alaposak és elfogulatlanok legyenek. Sokan azt hiszik, hogy egy adat a lényegénél fogva objektív, de ez tévedés. Az adatok könnyen manipulálhatók, akár torzíthatók, kulturális, nemi alapú és más előítéleteket és preferenciákat tükrözhetnek, és hibákat is tartalmazhatnak.

3.6

A napjainkban kifejlesztett mesterségesintelligencia-rendszerek nem tartalmaznak etikai értékeket. A mesterségesintelligencia-rendszereket és alkalmazási környezetüket nekünk, embereknek kell ellátnunk ezekkel az értékekkel. A mesterségesintelligencia-rendszerek (akár köz-, akár kereskedelmi célú) fejlesztését, bevezetését és használatát alapvető normáink, értékeink, szabadságaink és emberi jogaink határain belül kell megoldani. Ezért az EGSZB szorgalmazza, hogy dolgozzanak ki és határozzanak meg egy egységes nemzetközi etikai kódexet a mesterséges intelligencia fejlesztéséhez, bevezetéséhez és használatához.

b)

Biztonság

3.7

A mesterséges intelligencia valós világban való használata kétségtelenül felvet néhány biztonsági kérdést. Itt különbséget lehet tenni a belső és a külső biztonság között.

3.8

Az EGSZB szerint csak akkor szabad használatba venni mesterségesintelligencia-rendszereket, ha teljesítik a specifikus belső és külső biztonsági követelményeket. Ezeket a követelményeket a döntéshozóknak, a mesterséges intelligenciával foglalkozó és biztonsági szakértőknek, a cégeknek és a civil társadalmi szervezeteknek együttesen kell meghatározniuk.

c)

Átláthatóság, érthetőség, ellenőrizhetőség, értelmezhetőség

3.9

A mesterséges intelligencia elfogadása, csakúgy mint tartós fejlesztése és alkalmazása összefügg azzal, mennyiben lehet a mesterségesintelligencia-rendszerek működését, akcióit és döntéseit megérteni, ellenőrizni és elmagyarázni, különösen utólag.

3.10

A mesterségesintelligencia-rendszerek akciói és döntései (intelligens algoritmusok révén) egyre inkább beleavatkoznak az emberek életébe. Példaként említhetjük a mesterséges intelligencia használatát a hírszerzésen alapuló rendőri munkában, a jelzáloghitel-kérelmek elbírálásakor vagy a biztosítások engedélyezési eljárása során. Itt döntően fontos, hogy az adott mesterségesintelligencia-rendszer döntési folyamata érthető, ellenőrizhető és értelmezhető legyen.

3.11

Sok mesterségesintelligencia-rendszerben a felhasználók már most is nagyon nehezen ismerik ki magukat. De egyre inkább így van ez a rendszerek készítőivel is. Különösen a neutrális hálózatok számítanak „fekete doboznak”, melyre az jellemző, hogy a benne zajló (döntési) folyamatokat már nem lehet áttekinteni, és nem léteznek hozzá értelmezési mechanizmusok.

3.12

Az EGSZB átlátható, érthető és ellenőrizhető mesterségesintelligencia-rendszerek mellett száll síkra, melyek működését utólag is lehet értelmezni. Emellett meg kell határozni, hogy mely döntési folyamatokat lehet ráhagyni a mesterségesintelligencia-rendszerekre és melyeket nem, és mikor legyen ajánlott vagy kötelező az emberi beavatkozás.

d)

Adatvédelem

3.13

A mesterségesintelligencia-rendszerek adatvédelme aggodalomra ad okot. Sok (fogyasztói) árucikk már most is rendelkezik beépített mesterséges intelligenciával, gondoljunk csak a háztartási gépekre, gyerekjátékokra, autókra, aktivitásmérőkre, okostelefonokra. Ezek a termékek mind (gyakran személyes) adatokat cserélnek a gyártók felhőplatformjaival. Különösen most, amikor virágzik az adatkereskedelem – vagyis a generált adatok nem maradnak a gyártónál, hanem viszonteladásra kerülnek harmadik felek részére – problémát jelent, hogy vajon megfelelően működik-e az adatvédelem.

3.14

Ráadásul a mesterséges intelligencia képes arra, hogy – nagyon sok (gyakran) személyes adat elemzése révén – sok területen (legyen bár szó kereskedelmi döntésekről, voksolásról vagy népszavazásról) befolyásolja az embereket. Különösen sérülékeny csoportot jelentenek a gyermekek. Az EGSZB aggódik az olyan mesterséges intelligencián alapuló alkalmazások miatt, melyek kifejezetten a gyermekek viselkedésének és kívánságainak befolyásolására irányulnak.

3.15

Mindenképpen elejét kell venni annak, hogy a mesterséges intelligencia személyes adatokra irányuló alkalmazása korlátozza az emberek valós vagy vélt szabadságát. Az EU általános adatvédelmi rendelete (GDPR) jelentős mértékben gondoskodik a digitálisan megadott személyes adatok védelméről. A mesterséges intelligenciával kapcsolatos fejlesztések fényében szorosan nyomon kell követnünk azt, hogy a gyakorlatban megfelelően garantálva van-e az embereknek az adatszolgáltatással kapcsolatos tájékozott beleegyezéshez és szabad választáshoz, illetve ahhoz fűződő joga, hogy hozzáférjenek, kiigazítsák és ellenőrizzék a megadott adatokat.

e)

Normák, szabványok és infrastruktúra

3.16

Annak érdekében, hogy értékelni és ellenőrizni tudjuk a mesterségesintelligencia-rendszerek biztonságát, átláthatóságát, érthetőségét, értelmezhetőségét és etikai felelősségét, szabványok széles skálájára alapozva új normarendszereket kell kidolgoznunk a mesterségesintelligencia-rendszerek hitelesítésére és validálására.

3.17

Az EGSZB amellett szólal fel, hogy az EU alakítson ki egy saját mesterségesintelligencia-infrastruktúrát, amely nyílt forrású és az adatvédelmet tiszteletben tartó tanulási környezetekből és jó minőségű adathalmazokból állna a mesterségesintelligencia-rendszerek fejlesztésére és betanítására. Az EU ráadásul (verseny)előnyre tehet szert a nemzetközi piacon, ha európai szempontból megfelelő mesterségesintelligencia-rendszereket népszerűsít. Az EGSZB ennek kapcsán ajánlja, hogy vizsgálják meg egy mesterséges intelligenciára vonatkozó európai tanúsítvány és címkézés lehetőségeit.

f)

Hatások a munkára, foglalkoztatásra, munkakörülményekre és szociális rendszerekre

3.18

Arról még eltérnek a vélemények, hogy milyen gyorsan és milyen mértékben, de az már biztos, hogy a mesterséges intelligencia hatással lesz a foglalkoztatási rátákra, sok munkahely jellegére, és így a szociális rendszerekre is.

3.19

Brynjolfsson és McAfee, a MIT munkatársai „második gépkorszaknak” nevezik napjaink technológiai fejlesztéseit (köztük a mesterséges intelligenciát). Meg kell azonban említeni két fontos különbséget: i. a „régi” gépek főként az izomerő helyébe léptek, míg az új gépek a gondolkodást és a kognitív képességeket helyettesítik, következésképpen nemcsak alacsonyan képzettek (fizikai dolgozók), hanem közepesen és magasan képzettek (szellemi foglalkozásúak) is az érintettek között vannak; ii. a mesterséges intelligencia egy általános célú technológia, amely szinte minden ágazatra egyszerre hatással van.

3.20

A mesterséges intelligenciának komoly előnyei lehetnek, ha veszélyes, nehéz, kimerítő, piszokkal járó, kellemetlen, repetitív vagy unalmas munkához alkalmazzák. De a begyakorolható munkát és adatfeldolgozást/-elemzést, illetve a tervezésnek és előrejelzésnek fontos szerepet tulajdonító, gyakran magasan képzettek által végzett munkát is egyre inkább el tudják végezni a mesterségesintelligencia-rendszerek.

3.21

A legtöbb munkakör azonban különféle feladatokból áll. Aligha van esélye annak, hogy egy munkavállaló összes feladatát mesterséges intelligencia vagy robotok veszik át. Ugyanakkor szinte mindenki szembesül majd azzal, hogy munkakörének egyes részeit automatizálják. Az így felszabaduló időt más feladatokra lehet használni, ha a kormányzatok és a szociális partnerek lépéseket tesznek ennek érdekében. Figyelnünk kell azonban arra, hogy ezek a fejlemények miként hatnak a szakemberekre és vezetőkre, és ösztönöznünk kell szerepvállalásukat, hogy uralni tudják a helyzetet és ne váljanak áldozattá.

3.22

Emellett új munkahelyek is létrejönnek majd. Megjósolhatatlan azonban ezeknek a jellege és száma, de az is, hogy milyen gyorsan megy végbe a folyamat. Egyes vállalkozások, például a Google és a Facebook sikerrel hoznak létre hatalmas értéket viszonylag kevés munkavállalóval. Ráadásul az új munkahelyek nem mindig jó munkahelyek. Aggodalomra ad okot, hogy a mesterséges intelligencia továbbfejlesztésével nemsokára már csak alacsonyan fizetett minifeladatok maradnak a rugalmas munkavállalók egyre népesebb csoportja számára.

3.23

A mesterséges intelligencia nemcsak a rendelkezésre álló munka mennyiségére lesz hatással, hanem a meglévő munka jellegére is. A mesterségesintelligencia-rendszerek egyre több lehetőséget kínálnak a munkavállalók nyomon követésére és ellenőrzésére, ami veszélybe sodorja az autonómiát és a magánélet védelmét. A munkát már most is sokszor algoritmusok határozzák meg és osztják szét emberi beavatkozás nélkül, ami hatással van a munka jellegére és a munkakörülményekre. Számolnunk kell azzal is, hogy a mesterségesintelligencia-rendszerek használata miatt az elvégzendő tevékenységek egyre inkább kiüresednek, és fontos készségek felejtődnek el.

3.24

Egy azonban biztos: a technológia nem „vált le” bennünket. A kormányzatoknak és szociális partnereknek lehetőségük van arra, hogy meghatározzák, hogy a mesterséges intelligenciát milyen módon fejlesszék tovább, és hogyan alkalmazzák a munkafolyamatokban. Fontos, hogy két kézzel meg is ragadják ezt a lehetőséget. És itt nem elég arra összpontosítani, hogy mire képes a mesterséges intelligencia: arra is figyelni kell, hogy mire képesek az emberek (kreativitás, empátia, együttműködés), mit szeretnénk továbbra is az emberekre bízni, és milyen lehetőségek vannak arra, hogy az ember és a gép jobban dolgozzon együtt (komplementaritás).

3.25

Az augmented intelligence (kiterjesztett intelligencia, komplementaritás) – amikor az ember és a gép együttműködik, egymást erősíti – a mesterséges intelligencia legérdekesebb alkalmazása, mert itt arról van szó, hogy az ember a géppel együtt, nem pedig a gép helyett dolgozik. Nagyon fontos azonban a közös alkotás: a munkavállalókat be kell vonni az ilyen komplementer mesterségesintelligencia-rendszerek fejlesztésébe, mert így lehet gondoskodni arról, hogy a rendszerek hasznosak legyenek, a munkavállaló pedig továbbra is elegendő autonómiával rendelkezzen, kezében tartsa az ellenőrzést (human-in-command) és megelégedéssel, örömmel végezze a munkáját.

g)

Oktatás és készségek

3.26

A digitális készségek szinten tartása vagy megtanulása elengedhetetlen ahhoz, hogy az emberek alkalmazkodni tudjanak a mesterséges intelligencia terén megfigyelhető gyors előrelépésekhez. A digitális készségekkel és munkahelyekkel foglalkozó koalíciójával az Európai Bizottság sokat tesz a digitális készségek fejlesztéséért. De a kódolás és programozói munka nem mindenki számára megtanulható vagy érdekes. Ezért fontos, hogy olyan területeken is fordítsunk szakpolitikai figyelmet és eszközöket az oktatásra és készségfejlesztésre, amelyeket nem fenyegetik a mesterségesintelligencia-rendszerek (gondolhatunk itt azokra a feladatokra, amelyeknél az emberi interakció a legfontosabb, amelyeknél az ember és a gép együttműködik, vagy amelyeket továbbra is emberekre szeretnénk bízni).

3.27

Ha az ember és a mesterséges intelligencia komplementaritására (augmented intelligence) fektetjük a hangsúlyt, mindenkit már gyerekkorától kezdve meg kell tanítanunk arra, hogy miként bánjon és dolgozzon a mesterségesintelligencia-rendszerekkel, mert csak így gondoskodhatunk arról, hogy az emberek a munkájuk során megőrizhessék autonómiájukat és kezükben tarthassák az ellenőrzést (human-in-command). Ebben fontos szerepet játszik az etikáról és az adatvédelemről szóló oktatás is, mivel a mesterséges intelligencia nagy hatást gyakorol ezekre a területekre.

h)

Hozzáférhetőség, társadalmi egyenlő(tlen)ség, inkluzivitás, elosztás

3.28

A mesterséges intelligencia és a kapcsolódó elemek (fejlesztői platformok, adatok, ismeretek, szakértelem) fejlesztése túlnyomórészt az öt legnagyobb technológiai vállalat (Amazon, Apple, Facebook, Google, Microsoft) kezében van. Ezek a vállalatok támogatják ugyan a mesterséges intelligencia nyílt fejlesztését, és néhányan nyílt forrású platformként ajánlják fejlesztői platformjaikat, de ez még nem garancia a mesterségesintelligencia-rendszerek teljes körű hozzáférhetőségére. Itt fontos feladat vár az EU-ra, a nemzetközi döntéshozókra és a civil társadalmi szervezetekre: gondoskodniuk kell arról, hogy a mesterségesintelligencia-rendszerek mindenki számára hozzáférhetőek legyenek, és fejlesztésük is nyílt környezetben történjen.

3.29

A tőkét előnyben részesítő technológiai változások – amikor az innovációk főként az innováció tulajdonosai számára előnyösek – rontják a munka pozícióját a tőke pozíciójához képest. A technológiai változások következtében (jövedelmi) egyenlőtlenség is kialakulhat az emberek között (helyi, regionális és nemzetközi szinten egyaránt). A mesterséges intelligencia tovább erősítheti ezeket a tendenciákat.

3.30

Fontos, hogy az ilyen trendeket határozottan nyomon kövessük és megfelelően kezeljük. Már többen érveltek amellett, hogy vezessenek be egy mesterséges intelligenciára irányuló adót és osztalékot, vagy számítsanak a mesterségesintelligencia-rendszerek a munkavállalók és munkaadók megosztott tulajdonának. Egyre több szó esik a feltétel nélküli alapjövedelem szükségességéről is.

3.31

Egyik korábbi véleményében (1) az EGSZB megemlítette egy egyenlően elosztandó digitális hozadék lehetőségét a növekedés érdekében. Az EGSZB fontosnak tartja ezeknek a lehetőségeknek a vizsgálatát, de meg kell találni a megfelelő egyensúlyt a mesterséges intelligencia emberek javát szolgáló fejlesztése és a megoldásokból következő esetleges gátló hatások között. Mindenképpen el kell kerülni azt az erkölcsi kockázatot is, hogy a mesterségesintelligencia-rendszerekért vállalandó felelősséget egy olyan entitásra hárítsák, amelyet a gyakorlatban nem lehet felelősségre vonni.

i)

Jogalkotás és szabályozás

3.32

A mesterséges intelligenciának komoly következményei vannak a hatályos (jog)szabályokra. Az Európai Parlament STOA egysége 2016 júniusában áttekintést készített azokról az európai (jog)szabályokról, melyeket érinteni fognak a robotika, a kiberfizikai rendszerek és a mesterséges intelligencia fejlesztése terén elért eredmények. A STOA hat vizsgálandó területet nevez meg – közlekedés, kettős felhasználású rendszerek, polgári szabadságjogok, biztonság, egészségügy, energia –, melyeken belül nem kevesebb mint 39 uniós rendelet, irányelv, nyilatkozat, közlemény és az Európai Unió Alapjogi Chartája is átdolgozásra vagy módosításra szorulhat. Ezt az értékelést gyorsan és energikusan el kell végezni, és az EGSZB szerepet tud és akar is vállalni ebben a folyamatban.

3.33

Sok a vita arról a kérdésről, hogy kit lehet felelőssé tenni azért, ha egy mesterségesintelligencia-rendszer kárt okoz, különösen, ha öntanító rendszerről van szó, amely a használatbavétel után is tovább tanul. Az Európai Parlament ajánlásokat dolgozott ki a robotikára vonatkozó polgári jogról, és többek között azt javasolta, hogy vizsgálják meg, miként lehetne felruházni a robotokat egy úgynevezett „e-személyiséggel”, amelynek alapján polgári jogi keretben felelőssé tehetőek az általuk okozott kárért. Az EGSZB ellenzi, hogy robotok vagy mesterségesintelligencia-rendszerek számára bevezessék a jogi személyiség bármilyen formáját, mivel ez elfogadhatatlan erkölcsi kockázatot rejt magában. A felelősségi jog preventív magatartásjavító hatással jár együtt, amely hatás megszűnhet, ha a felelősségi kockázatot már nem a gyártó vállalja, mivel azt áthárították a robotra (vagy a mesterségesintelligencia-rendszerre). Annak a veszélye is fennáll továbbá, hogy ezt a jogi formát nem megfelelően alkalmazzák, illetve visszaélnek vele. A társaságok korlátozott felelősségével való összehasonlítás ez esetben sántít, mivel a kft-knél a végső felelősséget mindig egy természetes személy viseli. Meg kell tehát vizsgálni, hogy a (termékekkel és kockázatokkal kapcsolatos) felelősségre és a saját hibára vonatkozó hatályos nemzeti és uniós (jog)szabályok és ítélkezési gyakorlatok kielégítő választ adnak-e erre a kérdésre, és ha nem, akkor milyen jogi megoldásokra van szükség.

3.34

A mesterséges intelligenciával kapcsolatos jogalkotás és szabályozás helyes megközelítéséhez ráadásul elengedhetetlen, hogy alaposan megértsük, hogy a mesterséges intelligencia mit tud, mit nem tud és előreláthatólag mit fog tudni közép- és hosszú távon.

3.35

A mesterséges intelligencia nem áll meg a határoknál. Ezért fontos megvizsgálnunk egy nemzetközi szabályozás szükségességét, mivel a regionális szabályozás nem lesz elegendő, sőt: nem kívánatos hatásokkal is járhat. Tekintettel a termékekre és a biztonságra vonatkozó uniós normák bevált rendszerére, más földrészek protekcionista tendenciáira, a magas európai tudásszintre, illetve az európai alapvető jogok és társadalmi értékek, valamint a szociális párbeszéd rendszerére, az EGSZB azt ajánlja, hogy az EU vállaljon vezető szerepet a mesterséges intelligenciára vonatkozó egyértelmű nemzetközi szakpolitikai keretek meghatározásában, és világszinten mozdítsa elő ezt a folyamatot.

j)

Kormányzás és demokrácia

3.36

A mesterséges intelligencián alapuló alkalmazások elősegíthetik, hogy az emberek szorosabban részt vegyenek a közpolitikában és az átláthatóbb szakpolitikai döntéshozatalban. Az EGSZB arra kéri az EU-t és a nemzeti kormányokat, hogy alkalmazzanak mesterséges intelligenciát ezekre a célokra.

3.37

Az EGSZB aggasztónak tartja, amikor a mesterségesintelligencia-rendszereket (okos algoritmusok formájában) célirányosan hírösszefoglalásra használják például a közösségi médiában, mivel ez alighanem a tájékoztatás beszűkítéséhez és a társadalom még élesebb megosztásához vezet (gondoljunk csak a Twitteren és Facebookon megjelenő filter bubbles-re és álhírekre az amerikai választások idején).

3.38

Az EGSZB aggodalommal fogadja azokat a jelzéseket is, melyek szerint mesterségesintelligencia-rendszereket vetnek be az emberek (szavazói) magatartásának befolyásolására. Okos algoritmusok segítségével meg lehet jósolni és célirányosan befolyásolni lehet az emberek preferenciáit és viselkedését. Ez fenyegetést jelent az őszinte és nyitott demokráciára nézve. Korunkban, melyet polarizáció és a nemzetközi intézmények meggyengülése jellemez, egy ilyen propagandatechnológia pontossága és ereje felgyorsíthatja a társadalom szétzilálódását. Többek között ezért van szükség szabványokra az (okos) algoritmusok átláthatósága és ellenőrizhetősége tekintetében.

k)

Hadviselés

3.39

A hagyományos fegyverekről szóló ENSZ-egyezmény keretében úgy döntöttek, hogy 2017-ben szakértők bevonásával vitát folytatnak az autonóm fegyverek hatásairól. Az EGSZB üdvözli ezt a lépést, és támogatja a Human Rights Watch felszólítását az autonóm fegyverrendszerek betiltására. Az EGSZB szerint egy ilyenfajta tilalmat komolyan meg kell vizsgálni és mérlegelni kell. Ez azonban nem elég ahhoz, hogy megfelelően kezeljük a mesterséges intelligencia adta lehetőségeket a hadviselésben és konfliktushelyzetekben. A mesterséges intelligencia kiberháborúban történő alkalmazását is ennek az ENSZ-megbeszélésnek a tárgyává kell tenni.

3.40

Meg kell előzni emellett, hogy olyan emberek vagy rezsimek is hozzáférjenek a mesterséges intelligenciához, melyek ezt terrorcselekményekhez akarják felhasználni.

l)

Szuperintelligencia

3.41

Végül felvetődik a kérdés, hogy milyen lehetőségek és veszélyek rejlenek a szuperintelligencia fejlesztésében. Stephen Hawking szerint az általános mesterséges intelligencia fejlesztése már az emberiség végét jelenti. A mesterséges intelligencia ugyanis olyan tempóban fejlődik majd tovább, hogy az emberek nem tudnak lépést tartani vele. Ezért vannak olyan szakértők, akik egy úgynevezett „kill-switch” (távkikapcsolás) funkció vagy „reset-button” (újraindító gomb) mellett teszik le a voksukat, amellyel lehetőség van egy elszabadult vagy szuperintelligens mesterségesintelligencia-rendszer deaktiválására vagy lenullázására.

3.42

Az EGSZB a human-in-command (emberi vezérlésű) megközelítés mellett szól, melynek értelmében alapfeltétel a mesterséges intelligencia felelős és biztonságos fejlesztése, ahol a gépek gépek maradnak, az emberek pedig mindig megtarthatják az ellenőrzést a gépek felett. A szuperintelligenciáról szóló vita fontos ugyan, de jelenleg háttérbe szorítja a mesterséges intelligencia mostani alkalmazásainak hatásáról szóló vitát.

4.1

Több nagy kereskedelmi szereplő időközben különféle kezdeményezéseket indított a mesterséges intelligencia nyílt, biztonságos és társadalmi szempontból felelős fejlesztése érdekében (ilyen például az OpenAI kezdeményezés). A döntéshozók azonban nem hagyhatják ezt a feladatot a vállalatokra, hanem szerepet kell vállalniuk benne. Célzott intézkedésekre és támogatásra van szükség a mesterséges intelligenciával kapcsolatos társadalmi kihívásoknak, illetve a biztonságos és erős mesterségesintelligencia-rendszerek fejlesztésének kutatásához.

4.2

Egyes uniós programok, például a Horizont 2020 kitűnően alkalmasak erre a feladatra. Az EGSZB megállapította, hogy a Horizont 2020 társadalmi kihívásokra irányuló pillérének keretében történő finanszírozás „elmarad” a másik két pillér (tudományos kiválóság és ipari vezető szerep) keretében történő finanszírozástól, és csökkentésre kerül. Az EGSZB szorgalmazza, hogy a mesterséges intelligencia széles körű társadalmi kihívásainak, illetve társadalmi alkalmazásainak kutatása fontos helyet kapjon a társadalmi kihívásokra irányuló pillérben.

4.3

Foglalkozni kell a mesterséges intelligencia horizontális hatásaival is. A diszruptív mesterségesintelligencia-innovációk fejlesztésének finanszírozásával párhuzamosan azokat a kutatásokat is finanszírozni kell, melyek a szóban forgó innovációk társadalmi hatásait vizsgálják és kezelik.

4.4

Az emberiséget szolgáló mesterséges intelligencia kutatásához és fejlesztéséhez nélkülözhetetlen továbbá, hogy változatos, jó minőségű és nyilvánosan elérhető tréning- és tesztadatokkal, valamint valós tesztkörnyezetekkel rendelkezzünk. A mesterségesintelligencia-infrastruktúra és sok minőségi adat egyelőre csak korlátozott számú magánszereplő körében és számára érhető el, és akadályokba ütközik a mesterséges intelligencia köztéri tesztelése, ami gátolja a mesterséges intelligencia más területeken való alkalmazását. Ahhoz, hogy a mesterséges intelligencia biztonságos, erős és hasznos lehessen, elengedhetetlen, hogy nyilvánosan elérhető jó minőségű adatokat fejlesszünk, és kiépítsünk egy európai mesterségesintelligencia-infrastruktúrát.

5.1

A mesterséges intelligencia széles körű társadalmi hatása egyelőre nem látható át teljesen. Kétségtelen azonban, hogy komoly hatásra kell számítanunk. Napjainkban gyors tempóban követik egymást a mesterséges intelligenciával kapcsolatos fejlesztések, ami nélkülözhetetlenné teszi a holisztikus és kritikus nyomon követést, hogy megfelelően és időben kezelni tudjuk a fontos és diszruptív technikai és társadalmi fejleményeket a mesterséges intelligencia területén és holdudvarában („gamechangers” – áttörő erejű változást előidéző elemek).

5.2

Technikai gamechanger-ek lehetnek például az olyan feltűnő vagy jelentős, ugrásszerű lépések a mesterségesintelligencia-készségek fejlesztésében, amelyek az általános mesterséges intelligencia megvalósításának hírnökei lehetnek. Ha pedig társadalmi gamechanger-ekről beszélünk, akkor gondolhatunk például jelentős számú munkahely megszűnésére ezeket helyettesítő munkahelyek kilátása nélkül, nem biztonságos helyzetekre, rendszerhibákra, váratlan nemzetközi fejleményekre stb.

5.3

Fontos, hogy a döntéshozók, az ipar, a szociális partnerek, a fogyasztók, az NGO-k, az oktatási és egészségügyi intézmények, illetve különböző területek kutatói és szakértői – gondolva itt az (alkalmazott) mesterséges intelligenciára, etikára, biztonságra, gazdaságra, munka-, jog- és viselkedéstudományokra, pszichológiára vagy filozófiára – közösen és szorosan kövessék nyomon a mesterséges intelligenciával kapcsolatos fejleményeket, térképezzék fel a gamechanger-eket és tartsák naprakészen ezeket az információkat, hogy a kellő pillanatban megtehessék a kellő lépéseket szakpolitikai intézkedések, jogalkotás és szabályozás, önszabályozás és szociális párbeszéd formájában.

5.4

Az európai civil társadalom képviselőjeként a következő időkben az EGSZB formába önti, összefogja és előmozdítja ezt a mesterséges intelligenciáról szóló, többszereplős vitát.