Luotettavaa tekoälyä EU:ssa koskevat säännöt

TÄRKEIMMÄT KOHDAT

Tekoälyjärjestelmä

Tekoälyjärjestelmä on konepohjainen järjestelmä, joka on suunniteltu toimimaan vaihtelevilla autonomian tasoilla ja joka voi

• mukautua käyttöönoton jälkeen ja
• tuottaa tuotoksia, kuten ennusteita, sisältöä, suosituksia tai päätöksiä, vastaanottamastaan syötteestä (saavuttaakseen eksplisiittisiä tai implisiittisiä tavoitteita).

Riskiperusteiden lähestymistapa

Säädöksessä noudatetaan riskiperusteista lähestymistapaa, eli mitä suurempi yhteiskunnalle aiheutuvan haitan riski on, sitä tiukempia säännöt ovat. Asetuksessa tekoälyn käyttö määritellään suuririskiseksi seuraavilla aloilla, koska se voi vaikuttaa perusoikeuksiin, turvallisuuteen ja hyvinvointiin:

• turvakomponentit tuotteissa, joihin sovelletaan EU:n yhdenmukaistamislainsäädäntöä (tai itsenäisinä tuotteina) ja joille on tehtävä kolmannen osapuolen suorittama vaatimustenmukaisuuden arviointi saman EU:n yhdenmukaistamislainsäädännön mukaisesti
• biometriset tunnisteet, kun niitä käytetään etätunnistukseen, henkilöiden luokitteluun arkaluonteisten ominaisuuksien (kuten rodun tai uskonnon) perusteella tai tunteiden tunnistamiseen, paitsi jos niitä käytetään pelkästään henkilöllisyyden todentamiseen
• kriittinen infrastruktuuri, kun tekoäly on turvallisuuskomponentti esimerkiksi digitaalisen infrastruktuurin alalla tai liikenne-, vesi-, kaasu-, lämmitys- tai sähköalalla
• yleissivistävä ja ammatillinen koulutus, mukaan lukien pääsy koulutukseen, oppimistulosten arviointi, koulutustasojen arviointi tai käyttäytymisen tarkkailu kokeiden aikana
• työllistäminen, mukaan lukien rekrytointi, hakijoiden valinta, työsuhteen ehtoja koskevien päätösten tekeminen (ylennykset, irtisanomiset), tehtävien jakaminen tai suorituksen seuranta
• välttämättömät palvelut – tekoälyjärjestelmät, joita viranomaiset käyttävät arvioidessaan oikeutusta julkisiin palveluihin (terveydenhuolto, etuudet), luottopisteytykseen, vakuutuksia koskevaan riskinarviointiin ja pelastus- ja ensihoitopalvelujen tärkeysjärjestyksen määrittelyyn
• lainvalvonta – tekoälyjärjestelmät, joita käytetään rikollisuuden riskien arvioimiseen, valheenpaljastamiseen, todistusaineiston luotettavuuden arvioimiseen, rikosten uusimisen ennustamiseen tai henkilöiden profilointiin rikostutkintaa varten
• muuttoliikkeen hallinta ja rajavalvonta – tekoälyjärjestelmät, joita käytetään muuttoliikkeen hallintaan, turvapaikka-asioihin ja viisumihakemuksiin tai henkilöiden havaitsemiseen ja tunnistamiseen muuttoliikkeen yhteydessä
• oikeudenhoito ja demokraattiset prosessit – tekoälyjärjestelmät, joita oikeusviranomaiset käyttävät lainsäädännön tutkimiseen ja tulkintaan, tai järjestelmät, jotka voivat vaikuttaa vaalituloksiin.

Asetuksella kielletään seuraavat tekoälykäytännöt, joiden riskiä ei voida hyväksyä:

• subliminaaliset tai harhaanjohtavat tekniikat, joilla manipuloidaan yksilön tai ryhmän käyttäytymistä heikentäen tämän kykyä tehdä tietoisia päätöksiä ja joilla aiheutetaan mahdollista haittaa
• ikään, vammaan tai sosiaalisiin tai taloudellisiin tilanteisiin perustuvien haavoittuvuuksien hyödyntäminen yksilöiden tai ryhmien manipuloinnissa, mikä aiheuttaa mahdollista haittaa
• sosiaalinen pisteytys, jossa ihmisiä arvioidaan ja luokitellaan käyttäytymisen tai ominaisuuksien perusteella, mikä johtaa epäoikeudenmukaiseen kohteluun yhteyksissä, jotka eivät liity tietojen keräämiseen, tai tavalla, joka on suhteetonta käyttäytymisen vakavuuteen nähden
• rikosriskin arviointi, jossa rikoksen tekemisen todennäköisyyttä ennakoidaan yksinomaan profiloinnin tai persoonallisuuspiirteiden perusteella, lukuun ottamatta objektiivisia, tosiseikkoihin perustuvia rikostutkimuksia
• kasvojentunnistustietokantojen haravointi kohdentamattomasti internetistä tai valvontakameroista
• tunteiden päättely haavoittuvilla aloilla, kuten työpaikoilla tai oppilaitoksissa, paitsi jos niitä käytetään lääketieteellisiin tai turvallisuuteen liittyviin tarkoituksiin
• biometrinen luokittelu sellaisten tietojen perusteella, joista voidaan päätellä arkaluonteisia ominaisuuksia, kuten rotu, uskonto tai poliittinen mielipide, lukuun ottamatta laillista käyttöä lainvalvonnassa
• reaaliaikainen biometrinen tunnistaminen julkisissa tiloissa lainvalvontatarkoituksessa, paitsi jos se on ehdottoman välttämätöntä tietyissä tilanteissa (esim. kadonneiden henkilöiden löytäminen, välittömien uhkien ehkäiseminen tai vakavista rikoksista epäiltyjen tunnistaminen). Tässä on noudatettava tiukkoja oikeudellisia menettelyjä, mukaan lukien ennakkolupa, rajoitettu soveltamisala ja suojatoimet oikeuksien ja vapauksien suojelemiseksi.

Asetuksella otetaan käyttöön ilmoitusvelvoitteita seuraavissa tapauksissa, jos tekoälyn käyttöön liittyvän avoimuuden puute voi aiheuttaa riskin:

• henkilönä esiintymään suunnitellun tekoälyn (esim. asiointibotti) on ilmoitettava ihmiselle, jonka kanssa se on vuorovaikutuksessa, että se on tekoäly
• generatiivisen tekoälyn tuotos on merkittävä tekoälyn tuottamaksi koneellisesti luettavalla tavalla
• generatiivisen tekoälyn tuotos on merkittävä näkyvästi tietyissä tapauksissa, toisin sanoen syväväärennökset ja teksti, jonka tarkoituksena on tiedottaa yleisölle yleistä etua koskevista asioista.

Kaikilla muilla tekoälyjärjestelmillä katsotaan olevan vähäinen riski, minkä vuoksi asetukseen ei sisälly muita sääntöjä.

Suurten tekoälymallien luotettava käyttö

• Yleiskäyttöiset tekoälymallit ovat tekoälymalleja, joita koulutetaan suurella määrällä dataa ja jotka voivat suorittaa monenlaisia tehtäviä. Ne voivat olla tekoälyjärjestelmien osia.
• Asetuksella otetaan tällaisten yleiskäyttöisten tekoälymallien tarjoajia koskevia avoimuusvelvoitteita, joita ovat tekninen dokumentaatio, tietojen toimittaminen tekoälyjärjestelmien ketjun loppupään kehittäjille ja mallin koulutuksessa käytettyjen tietojen luovuttaminen.
• Tehokkaimmat yleiskäyttöiset tekoälymallit voivat aiheuttaa systeemisiä riskejä. Jos malli ylittää tietyn suorituskykyä koskevan kynnysarvon, mallin tarjoajan on täytettävä riskienhallintaa ja kyberturvallisuutta koskevat lisävelvoitteet.

Hallinnointi

• Asetuksella perustetaan useita hallintoelimiä, jotka aloittavat toimintansa 2. elokuuta 2025. Näitä ovat muun muassa seuraavat:
  • kansalliset toimivaltaiset viranomaiset, jotka valvovat tekoälyjärjestelmiä koskevia sääntöjä ja panevat ne täytäntöön
  • Euroopan komission tekoälytoimisto, joka koordinoi yhteisten sääntöjen johdonmukaista soveltamista kaikkialla EU:ssa ja toimii yleiskäyttöisten tekoälymallien sääntelyelimenä.
• EU:n jäsenvaltiot ja tekoälytoimisto toimivat tiiviissä yhteistyössä jäsenvaltioiden edustajista koostuvan tekoälyneuvoston kanssa varmistaakseen asetuksen johdonmukaisen ja vaikuttavan soveltamisen.
• Asetuksella perustetaan kaksi neuvoa-antavaa elintä tekoälyvirastoa ja tekoälyneuvostoa varten:
  • riippumattomista asiantuntijoista koostuva tiedelautakunta, joka antaa tieteellistä neuvontaa
  • sidosryhmien neuvoa-antava foorumi, joka antaa teknistä asiantuntemusta tekoälyneuvostolle ja komissiolle.

Seuraamukset

Rikkomuksista määrättävät sakot ovat prosenttiosuuksia rikkomuksen tehneen yrityksen vuotuisesta liikevaihdosta tai ennalta määrätyn määrän suuruisia sen mukaan, kumpi on suurempi. Pienille ja keskisuurille yrityksille ja startup-yrityksille määrätään suhteellisia hallinnollisia sakkoja.

Avoimuus ja perusoikeuksien suojelu

Suuririskisten tekoälyjärjestelmien kehittämiseen ja käyttöön sovelletaan suurempaa avoimuutta:

• ennen kuin julkisia palveluja tarjoavat yhteisöt ottavat käyttöön suuririskisen tekoälyjärjestelmän, järjestelmän perusoikeusvaikutukset on arvioitava
• suuririskiset tekoälyjärjestelmät ja niitä käyttävät yhteisöt on rekisteröitävä EU:n tietokantaan.

Innovointi

Asetuksessa säädetään innovaatiomyönteisestä oikeudellisesta kehyksestä, ja sillä pyritään edistämään näyttöön perustuvaa sääntelyyn liittyvää oppimista. Siinä säädetään tekoälyn sääntelyn testiympäristöistä, jotka mahdollistavat valvotun ympäristön, jossa innovatiivisia tekoälyjärjestelmiä voidaan kehittää, testata ja validoida myös tosielämän olosuhteissa. Asetuksella sallitaan myös suuririskisten tekoälyjärjestelmien testaus tosielämän olosuhteissa tietyin edellytyksin.

Arviointi ja uudelleentarkastelu

Komissio arvioi vuosittain, onko tekoälyn suuririskisten käyttötarkoitusten luetteloa ja kiellettyjen käytäntöjen luetteloa muutettava. Komissio arvioi seuraavia seikkoja viimeistään 2. elokuuta 2028 ja sen jälkeen joka neljäs vuosi ja antaa niistä kertomuksen:

• suuririskisten luokkien luettelon täydentäminen tai laajentaminen
• muutokset sellaisia tekoälyjärjestelmiä koskevaan luetteloon, jotka edellyttävät läpinäkyvyyttä koskevia lisätoimia
• muutokset, joilla parannetaan valvontaa ja hallintoa.