A megbízható mesterséges intelligenciára vonatkozó szabályok az EU-ban

FŐBB PONTOK

Mi az MI-rendszer?

A MI-rendszer olyan gépi alapú rendszer, amelyet különböző autonómiaszinteken történő működésre terveztek, és amely:

• a bevezetését követően alkalmazkodóképességet tanúsíthat, és amely
• a kapott bemenetből – explicit vagy implicit célok érdekében – kimeneteket, például előrejelzéseket, tartalmakat, ajánlásokat vagy döntéseket képes generálni.

Kockázatalapú megközelítés

A jogszabály kockázatalapú megközelítést követ, ami azt jelenti, hogy minél nagyobb a társadalomnak okozott kár kockázata, annál szigorúbbak a szabályok. A rendelet a következő területeken tekinti az MI használatát nagy kockázatúnak, az alapvető jogokra, a biztonságra és a jóllétre gyakorolt lehetséges hatás miatt:

• az uniós harmonizációs jogszabályok hatálya alá tartozó termékek biztonsági alkatrészei (vagy olyan önálló termékek), amelyeknek ugyanazon uniós harmonizációs jogszabály alapján harmadik fél által végzett megfelelőségértékelésnek kell alávetni;
• biometrikus azonosítók, amikor azokat távoli azonosításra használják, az egyéneket érzékeny (például faji vagy vallási) jellemzők vagy érzelemfelismerés szerint kategorizálva, kivéve, ha a felhasználás célja egyszerűen a személyazonosság ellenőrzése;
• kritikus infrastruktúra, amikor az MI-t digitális infrastruktúrák, a közúti forgalom, vagy a víz-, gáz-, fűtési vagy villamosenergia-szolgáltatás területén biztonsági alkotórészként használják;
• oktatás és szakképzés, beleértve az oktatási adatokhoz való hozzáférést, a tanulási eredmények értékelését, az oktatás színvonalának értékelését vagy a magatartás ellenőrzését a vizsgák során;
• foglalkoztatás, ideértve a toborzást, a jelöltek kiválasztását, valamint a foglalkoztatási feltételekre (előléptetések, elbocsátások) a feladatok elosztására vagy a teljesítmény nyomon követésére vonatkozó döntéseket;
• alapvető szolgáltatások – a hatóságok által a közszolgáltatásokra (egészségügyi ellátások, juttatások) való jogosultság vagy a hitelpontszám értékelésére, a biztosítási kockázatértékelésre és a sürgősségi segélyszolgálatok kirendelésének priorizálására használt MI-rendszerek;
• bűnüldözés – a bűncselekmények kockázatának felmérésére, poligráfos vizsgálatokhoz, a bizonyítékok megbízhatóságának értékeléséhez, a visszaesés előrejelzéséhez vagy a bűnügyi nyomozás céljából végzett profilalkotáshoz használt MI-rendszerek;
• migráció- és határellenőrzés – a migrációs, menekültügyi és vízumkérelmekkel kapcsolatos kockázatok értékelésére vagy személyeknek a migrációval való összefüggésben történő felkutatására és azonosítására használt MI-rendszerek;
• igazságszolgáltatás és demokratikus folyamatok – az igazságügyi hatóságok által jogi kutatásra és jogértelmezésre használt MI-rendszerek, vagy olyan rendszerek, amelyek befolyásolhatják a választási eredményeket.

A rendelet tiltja a következő, elfogadhatatlan kockázatot jelentő MI-gyakorlatokat

• Szubliminális vagy megtévesztő technikák, amelyek manipulálják az egyéni vagy csoportos viselkedést, rontva ezzel a tájékozott döntéshozatal képességét, és potenciálisan kárt okozva.
• Az életkor, fogyatékosság, illetve egyedi szociális vagy gazdasági helyzet miatt fennálló sebezhetőségek kihasználása az egyének vagy csoportok viselkedésének manipulálása céljából, potenciálisan kárt okozva.
• Társadalmi pontozás, vagyis az emberek viselkedés vagy jellemzők alapján történő értékelése vagy osztályozása, ami az adatgyűjtés kontextusától független, vagy a viselkedés súlyosságához képest aránytalan, igazságtalan bánásmódot eredményez.
• Bűnügyi kockázatértékelés, vagyis a bűncselekmény elkövetésének valószínűségét kizárólag profilalkotás vagy személyiségjegyek alapján megjósoló előrejelzés (az objektív, tényeken alapuló bűnügyi nyomozás kivételével).
• Az arcképeket internetről vagy zártláncú televízió-felvételek gyűjtő, konkrét célzás nélküli arcfelismerő adatbázis.
• Az érzelmekre való következtetés érzékeny területeken, például munkahelyeken vagy oktatási intézményekben, kivéve, ha erre egészségügyi vagy biztonsági célokból kerül sor.
• Biometrikus kategorizálási rendszer például a fajra, vallásra, politikai véleményre vagy egyéb érzékeny jellemzőkre vonatkozó következtetésekhez használt adatok alapján, a bűnüldözés keretében történő jogszerű felhasználás kivételével.
• Valós idejű biometrikus azonosító rendszer használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból, kivéve, ha bizonyos célok eléréséhez feltétlenül szükséges (pl. eltűnt személyek felkutatása, közvetlen veszély elhárítása vagy súlyos bűncselekmények gyanúsítottjainak azonosítása). E tevékenységeknek szigorú jogi eljárásokat kell követniük, beleértve az előzetes engedélyezést, a korlátozott hatályt, valamint a jogok és szabadságok védelmét szolgáló biztosítékokat.

A rendelet felfedési kötelezettséget vezet be, amennyiben az MI használata kapcsán az átláthatóság hiánya kockázatot jelenthet:

• az emberként való megjelenés céljára tervezett MI (pl. chatbot) köteles tájékoztatni a vele interakcióba lépő embert;
• a generatív MI-modellek kimenetét géppel olvasható módon MI által generált kimenetként kell megjelölni;
• bizonyos esetekben látható címkével kell ellátni a generatív MI outputját, nevezetesen az eredetinek vagy valóságosnak tűnő tartalmakat („deepfake”), illetve a nyilvánosság közérdekű ügyekről való tájékoztatása céljából közzétett szöveget.

Minden egyéb MI-rendszer korlátozott kockázatúnak tekintendő, ezért a rendelet rájuk nézve nem vezet be további szabályokat.

A nagy MI-modellek megbízható használata

• Az általános célú MI-modellek olyan MI-modellek, amelyeket nagy mennyiségű adattal tanítanak, és amelyek feladatok széles körét el tudják végezni. E modellek MI-rendszerek elemei lehetnek.
• A rendelet átláthatósági kötelezettségeket vezet be az ilyen általános célú MI-modelleket nyújtó szolgáltatók számára (műszaki dokumentáció, az MI-rendszerek downstream fejlesztőinek tájékoztatása, valamint a modell tanítása során felhasznált adatok közzététele).
• A legerőteljesebb általános célú MI-modellek rendszerszintű kockázatokat jelenthetnek. Ha egy modell képessége elér egy bizonyos szintet, a szolgáltató köteles további kockázatkezelési és kiberbiztonsági kötelezettségeket teljesíteni.

Irányítás

• A rendelet több irányító szervet hoz létre, amelyek 2025. augusztus 2-án kezdik meg működésüket. Ez a következők:
  • az illetékes nemzeti hatóságok, amelyek felügyelik az MI-rendszereket és végrehajtatják az ilyen rendszerekkel kapcsolatos szabályokat;
  • az MI-hivatal az Európai Bizottságon belül, amely a közös szabályok egész Unióra kiterjedő következetes alkalmazását koordinálja, és az általános célú MI-modellek szabályozójaként lép fel.
• Az uniós tagállamok és az MI-hivatal szorosan együttműködnek egy – a tagállamok képviselőiből álló – MI-testületben a rendelet következetes és hatékony alkalmazásának biztosítása érdekében.
• A rendelet két tanácsadó testületet hoz létre, amelyek az MI-hivatal és az MI-testület mellett működnek:
  • egy független szakértőkből álló tudományos testületet, amely tudományos tanácsadással szolgál;
  • az érdekelt felek tanácsadó fórumát, amely műszaki szakértelmével segíti az MI-testületet és a Bizottságot.

Szankciók

A jogsértés esetén alkalmazandó pénzbírság mértéke a jogsértést elkövető vállalat éves forgalmának százalékában került meghatározásra vagy előre meghatározott összegű (a kettő közül a magasabb). A kis- és középvállalkozások, valamint az induló innovatív vállalkozások esetében arányos közigazgatási bírságok alkalmazandók.

Átláthatóság és az alapvető jogok védelme

Fokozottabb átláthatóság érvényesítendő a magas kockázatú MI-rendszerek fejlesztése és használata esetében:

• mielőtt közszolgáltatásokat nyújtó jogalanyok magas kockázatú MI-rendszert telepítenének, fel kell mérni a rendszer által az alapjogokra gyakorolt hatásokat;
• a magas kockázatú MI-rendszereket és az azokat használó jogalanyokat nyilvántartásba kell venni egy uniós adatbázisban.

Innováció

A rendelet innovációbarát jogi keretet biztosít, és célja a szabályozó hatóságok általi, tényeken alapuló tanulás előmozdítása. MI szabályozói tesztkörnyezetek létesítését irányozza elő, amelyek lehetővé teszik olyan ellenőrzött környezet kialakítását, amelyben az innovatív MI-rendszerek fejlesztését, tesztelését és validálását el lehet végezni, többek között valós körülmények között is. A rendelet továbbá bizonyos feltételek mellett lehetővé teszi a magas kockázatú MI-rendszerek valós idejű ellenőrzését.

Értékelés és felülvizsgálat

A Bizottság évente értékeli, hogy szükség van-e az MI magas kockázatú felhasználási módjait tartalmazó jegyzék és a tiltott gyakorlatokat tartalmazó jegyzék módosítására. A Bizottság 2028. augusztus 2-ig, majd azt követően négyévente értékeli az alábbiakat, illetve jelentést tesz róluk:

• a magas kockázatú kategóriák jegyzékének kiegészítése vagy kiterjesztése;
• a további átláthatósági intézkedéseket szükségessé tevő MI-rendszerek jegyzékének módosítása;
• a felügyelet és az irányítás javítását célzó módosítások.