Regler för tillförlitlig artificiell intelligens i EU

VIKTIGA PUNKTER

Vad är ett AI-system?

Ett AI-system är ett maskinbaserat system som är utformat för att fungera med en viss grad av autonomi och som kan

• anpassa sig efter det att det har införts, och
• generera utdata såsom förutsägelser, innehåll, rekommendationer eller beslut baserat på mottagna indata (för att uppnå uttryckliga eller underförstådda mål).

En riskbaserad metod

Lagstiftningen följer en riskbaserad metod, vilket innebär att ju större risken är att samhället skadas, desto strängare är reglerna. I förordningen definieras användningen av AI inom följande områden som utgörande hög risk på grund av dess potentiella inverkan på grundläggande rättigheter, säkerhet och välbefinnande:

• Säkerhetskomponenter i produkter som omfattas av EU:s harmoniseringslagstiftning (eller som fristående produkter) och som måste genomgå en bedömning av överensstämmelse hos tredje part enligt samma unionsharmoniseringslagstiftning.
• Biometri som används för fjärridentifiering, kategorisering av enskilda personer enligt känsliga attribut (t.ex. ras eller religion) eller känsloigenkänning, utom när syftet helt enkelt är att verifiera identiteten.
• Kritisk infrastruktur när AI är en säkerhetskomponent på områden som digital infrastruktur, trafik, vatten, gas, uppvärmning och el.
• Utbildning och yrkesutbildning, inbegripet åtkomst till utbildningsfrågor, utvärdering av läranderesultat, bedömning av utbildningsnivåer eller övervakning av beteende under prov.
• Anställning, inbegripet rekrytering, urval av kandidater, beslut om anställningsvillkor (befordringar, uppsägningar), tilldelning av uppgifter eller resultatövervakning.
• Väsentliga tjänster – AI-system som används av offentliga myndigheter för att utvärdera rätt till offentliga tjänster (hälso- och sjukvård, förmåner), kreditbetyg, riskbedömning när det gäller försäkringar och prioritering av utsändning av larmtjänster.
• Brottsbekämpning – AI-system som används för att bedöma brottsrisker, lögndetektorer, utvärdera bevistillförlitlighet, förutsäga risken för återfall eller profilering av enskilda personer i samband med brottsutredningar.
• Migration och gränskontroll – AI-system som används för att bedöma risker i samband med migrations-, asyl- och viseringsansökningar eller för att upptäcka och identifiera enskilda personer i migrationssammanhang.
• Rättsskipning och demokratiska processer – AI-system som används av rättsliga myndigheter för rättslig forskning och tolkning eller system som kan påverka valresultat.

I förordningen förbjuds följande AI-användningsområden med oacceptabel risknivå

• Subliminala eller bedrägliga tekniker för att manipulera individuellt beteende eller gruppbeteende på ett sätt som försämrar förmågan att fatta välgrundade beslut och kan orsaka skada.
• Utnyttja svagheter baserade på ålder, funktionshinder eller socioekonomiska situationer i syfte att manipulera individer eller grupper på ett sätt som kan orsaka skada.
• Social poängsättning, utvärdering eller klassificering av personer på grundval av beteende eller egenskaper, på ett sätt som leder till orättvis behandling utan koppling till det sammanhang där uppgifterna samlades in eller på ett sätt som inte står i proportion till beteendets allvarlighetsgrad.
• Kriminell riskbedömning som förutsäger sannolikheten för att ett brott begås enbart på grundval av profilering eller personlighetsdrag, utom i objektiva, faktabaserade brottsutredningar.
• Skrapning av databaser för ansiktsigenkänning från internet eller övervakningskameror utan särskild inriktning.
• Uttyda fysiska personers känslor inom känsliga områden, till exempel arbetsplatser eller läroanstalter, utom för medicinska ändamål eller säkerhetsändamål.
• Biometrisk kategorisering baserad på uppgifter för att dra slutsatser om känsliga attribut som ras, religion eller politiska åsikter, med undantag för laglig användning inom brottsbekämpning.
• Biometrisk identifiering i realtid på allmänna platser av brottsbekämpande myndigheter, såvida det inte är absolut nödvändigt i särskilda situationer (t.ex. för att hitta försvunna personer, förebygga överhängande hot eller identifiera misstänkta för allvarliga brott). Detta måste följa strikta rättsliga förfaranden, inklusive förhandstillstånd, ett begränsat tillämpningsområde och garantier för att skydda rättigheter och friheter.

Genom förordningen införs upplysningsskyldigheter om en risk skulle kunna uppstå på grund av bristande transparens kring användningen av AI:

• AI som är utformad för att likna en människa (t.ex. en chattbot) måste meddela personen som den interagerar med om detta.
• Utdata från generativ AI måste märkas som AI-genererad på ett maskinläsbart sätt.
• I vissa fall måste utdata från generativ AI märkas på ett synligt sätt, nämligen deepfakes och text som är avsedd att informera allmänheten om frågor av allmänt intresse.

Alla andra AI-system anses ha begränsad risk och därför införs inga ytterligare regler i förordningen.

Tillförlitlig användning av stora AI-modeller

• AI-modeller för allmänna ändamål är AI-modeller som tränats med stora mängder data och kan utföra många olika uppgifter. De kan vara komponenter i AI-system.
• Genom förordningen införs transparensskyldigheter för leverantörer av sådana AI-modeller för allmänna ändamål, nämligen teknisk dokumentation, tillhandahållande av information till utvecklare av AI-system i efterföljande led och offentliggörande av data som använts för att träna modellen.
• De mest kraftfulla AI-modellerna för allmänna ändamål kan utgöra systemrisker. Om en modells förmåga når ett visst tröskelvärde måste leverantören av modellen uppfylla ytterligare krav på riskhantering och cybersäkerhet.

Ledning och organisation

• Genom förordningen inrättas flera styrande organ som är aktiva från och med den 2 augusti 2025:
  • Nationella behöriga myndigheter som kommer att övervaka och verkställa reglerna för AI-system.
  • En AI-byrå inom Europeiska kommissionen som samordnar en enhetlig tillämpning av de gemensamma reglerna i hela EU och fungerar som tillsynsmyndighet för AI-modeller för allmänna ändamål.
• EU:s medlemsstater och AI-byrån kommer att ha ett nära samarbete relaterat till en styrelse för artificell intelligens, bestående av företrädare för medlemsstaterna, i syfte att säkerställa en konsekvent och effektiv tillämpning av förordningen.
• Genom förordningen inrättas två rådgivande organ för AI-byrån och AI-styrelsen:
  • En vetenskaplig panel av oberoende experter som ska tillhandahålla vetenskaplig rådgivning.
  • Ett rådgivande forum för berörda parter som ska tillhandahålla teknisk expertis till styrelsen och kommissionen.

Sanktioner

Böterna för överträdelser fastställs som en procentandel av företagets årsomsättning eller ett förutbestämt belopp, beroende på vilket som är högst. Små och medelstora företag och nystartade företag omfattas av proportionella administrativa sanktionsavgifter.

Transparens och skydd av grundläggande rättigheter

Ökad transparens gäller vid utveckling och användning av AI-system med hög risk:

• Innan ett AI-system med hög risk införs av entiteter som tillhandahåller offentliga tjänster måste dess inverkan på de grundläggande rättigheterna bedömas.
• AI-system med hög risk och de entiteter som använder dem måste registreras i en EU-databas.

Innovation

I förordningen föreskrivs en innovationsvänlig rättslig ram som syftar till att främja evidensbaserat regulatoriskt lärande. I förordningen planeras regulatoriska sandlådor för AI, vilket skulle skapa en kontrollerad miljö där innovativa AI-system kan utvecklas, testas och valideras, även under verkliga förhållanden. Dessutom tillåter förordningen testning av Ai-system med hög risk under verkliga förhållanden, på vissa villkor.

Utvärdering och översyn

Kommissionen bedömer varje år behovet av ändringar i förteckningen över högriskanvändningar av AI och förteckningen över förbjudna användningsområden. Senast den 2 augusti 2028 och därefter vart fjärde år ska kommissionen utvärdera och rapportera om följande:

• Tillägg till eller utökning av förteckningen över högriskkategorier.
• Ändringar av förteckningen över AI-system som kräver ytterligare transparensåtgärder.
• Ändringar som förbättrar tillsyns- och styrningssystemet.