(1)

Tämän asetuksen tarkoituksena on parantaa sisämarkkinoiden toimintaa vahvistamalla yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle ja käytölle. Tämän asetuksen tavoitteet liittyvät useisiin yleistä etua koskeviin pakottaviin syihin, kuten terveyden, turvallisuuden ja perusoikeuksien suojelun korkeaan tasoon , ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella.

(1)

Tämän asetuksen tarkoituksena on edistää ihmiskeskeisen ja luotettavan tekoälyn käyttöönottoa ja varmistaa terveyden, turvallisuuden, perusoikeuksien, demokratian, oikeusvaltion ja ympäristön korkeatasoinen suojelu tekoälyjärjestelmien haitallisilta vaikutuksilta unionissa ja tukea innovointia sekä parantaa sisämarkkinoiden toimintaa. Tässä asetuksessa vahvistetaan yhtenäinen oikeudellinen kehys erityisesti unionin arvojen mukaiselle tekoälyn kehittämiselle, markkinoille saattamiselle , käyttöönotolle ja käytölle ja sillä varmistetaan tekoälyyn perustuvien tavaroiden ja palvelujen vapaa liikkuvuus rajojen yli, mikä estää jäsenvaltioita asettamasta tekoälyjärjestelmien kehittämistä, markkinoille saattamista ja käyttöä koskevia rajoituksia, ellei sitä nimenomaisesti sallita tällä asetuksella. Tietyillä tekoälyjärjestelmillä voi myös olla vaikutusta demokratiaan ja oikeusvaltioon sekä ympäristöön. Näitä huolenaiheita käsitellään erityisesti tämän asetuksen liitteissä lueteltujen kriittisten alojen ja käyttötapausten osalta.

(1 a)

Tällä asetuksella olisi suojattava unionin arvoja, helpotettava tekoälyn hyötyjen jakamista yhteiskunnassa, suojeltava yksilöitä, yrityksiä, demokratiaa ja oikeusvaltiota sekä ympäristöä riskeiltä ja samalla edistettävä innovointia ja työllisyyttä sekä varmistettava unionin johtoasema alalla.

(2)

Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti. Siltä osin kuin tämä asetus sisältää yksilöiden suojelua henkilötietojen käsittelyssä koskevia erityissääntöjä, joilla rajoitetaan tekoälyjärjestelmien käyttöä reaaliaikaista biometristä etätunnistusta varten julkisissa tiloissa lainvalvontatarkoituksessa, tämä asetus on aiheellista perustaa kyseisten erityissääntöjen osalta SEUT-sopimuksen 16 artiklaan. Kun otetaan huomioon nämä erityissäännöt ja SEUT-sopimuksen 16 artiklan käyttö, on aiheellista kuulla Euroopan tietosuojaneuvostoa.

(2)

Tekoälyjärjestelmiä voidaan ottaa helposti käyttöön useilla talouden ja yhteiskunnan aloilla, myös rajojen yli, ja ne voivat liikkua kaikkialla unionissa. Eräät jäsenvaltiot ovat jo harkinneet kansallisten sääntöjen hyväksymistä sen varmistamiseksi, että tekoäly on luotettavaa ja turvallista ja että sitä kehitetään ja käytetään perusoikeuksia koskevien velvoitteiden mukaisesti. Toisistaan poikkeavat kansalliset säännöt voivat johtaa sisämarkkinoiden pirstoutumiseen ja heikentää tekoälyjärjestelmiä kehittävien tai käyttävien toimijoiden oikeusvarmuutta. Sen vuoksi olisi varmistettava suojelun yhdenmukainen ja korkea taso koko unionissa luotettavan tekoälyn saavuttamiseksi ja samalla estettävä erot, jotka haittaavat tekoälyjärjestelmien ja niihin liittyvien tuotteiden ja palvelujen vapaata liikkuvuutta , innovointia ja käyttöönottoa sisämarkkinoilla, vahvistamalla yhdenmukaiset velvoitteet toimijoille ja takaamalla yleiseen etuun liittyvien pakottavien syiden ja henkilöiden oikeuksien yhdenmukainen suojelu koko sisämarkkinoilla Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 114 artiklan mukaisesti.

(2 a)

Koska tekoäly perustuu usein suurten tietomäärien käsittelyyn ja useat tekoälyjärjestelmät ja -sovellukset perustuvat henkilötietojen käsittelyyn, on aiheellista perustaa tämä asetus SEUT 16 artiklaan, jossa vahvistetaan luonnollisten henkilöiden oikeus henkilötietojen käsittelyn suojaan ja säädetään yksilöiden suojelusta henkilötietojen käsittelyssä koskevien sääntöjen antamisesta.

(2 b)

Henkilötietojen suojaa koskeva perusoikeus on turvattu erityisesti asetuksilla (EU) 2016/679 ja (EU) 2018/1725 sekä direktiivillä 2016/680. Lisäksi direktiivillä 2002/58/EY suojellaan yksityisyyttä ja viestinnän luottamuksellisuutta, mukaan lukien säätämällä kaikkien henkilötietojen ja muiden kuin henkilötietojen tallentamisesta päätelaitteelle ja pääsystä näihin tietoihin. Nämä säädökset ovat perusta kestävälle ja vastuulliselle tietojen käsittelylle, myös silloin, kun datajoukot sisältävät sekä henkilötietoja että muita kuin henkilötietoja. Tällä asetuksella ei pyritä vaikuttamaan henkilötietojen käsittelyä koskevan voimassa olevan unionin lainsäädännön soveltamiseen, mukaan lukien kyseisten säädösten noudattamisen valvonnasta vastaavien riippumattomien valvontaviranomaisten tehtävät ja toimivalta. Tämä asetus ei vaikuta yksityiselämää ja henkilötietojen suojaa koskeviin perusoikeuksiin sellaisina kuin niistä säädetään tietosuojaa ja yksityisyyttä koskevassa unionin lainsäädännössä ja sellaisina kuin ne on vahvistettu Euroopan unionin perusoikeuskirjassa, jäljempänä ”perusoikeuskirja”.

(2 c)

Tekoälyjärjestelmiin sovelletaan unionissa asiaankuuluvaa tuoteturvallisuuslainsäädäntöä, joka tarjoaa kuluttajia vaarallisilta tuotteilta yleisesti suojaavan kehyksen, ja tällaista lainsäädäntöä olisi jatkossakin sovellettava. Tämä asetus ei myöskään rajoita kuluttajansuojaa ja tuoteturvallisuutta koskevissa muissa unionin säädöksissä, kuten asetuksessa (EU) 2017/2394, asetuksessa (EU) 2019/1020 ja direktiivissä 2001/95/EY yleisestä tuoteturvallisuudesta sekä direktiivissä 2013/11/EU, vahvistettujen sääntöjen soveltamista.

(2 d)

SEUT 114 artiklan 2 kohdan mukaisesti tällä asetuksella ei saisi heikentää työntekijöiden oikeuksia ja etuja vaan täydentää niitä. Siksi tämä asetus ei saisi vaikuttaa sosiaalipolitiikkaa koskevan unionin lainsäädännön eikä kansallisen työlainsäädännön ja työmarkkinakäytäntöjen soveltamiseen, millä tarkoitetaan mitä tahansa lain säännöstä tai sopimusmääräystä, joka koskee työehtoja, työoloja, mukaan lukien työterveys ja -turvallisuus, sekä työnantajien ja työntekijöiden välistä suhdetta, mukaan lukien tiedottaminen, kuuleminen ja osallistuminen. Tämä asetus ei saisi vaikuttaa jäsenvaltioissa ja unionin tasolla tunnustettujen perusoikeuksien noudattamiseen, mukaan lukien oikeus tai vapaus ryhtyä lakkoon tai muuhun jäsenvaltioiden työmarkkinajärjestelmien piiriin kuuluvaan toimeen, kansallisen lainsäädännön ja käytännön mukaisesti. Se ei myöskään saisi vaikuttaa neuvottelukäytäntöihin, oikeuteen neuvotella, tehdä ja panna täytäntöön työehtosopimuksia tai oikeuteen ryhtyä työtaistelutoimiin kansallisen lain ja/tai käytännön mukaisesti. Se ei saisi missään tapauksessa estää komissiota ehdottamasta erityistä lainsäädäntöä sellaisten työntekijöiden oikeuksista ja vapauksista, joihin tekoälyjärjestelmillä on vaikutusta.

(2 e)

Tämä asetus ei saisi vaikuttaa direktiivissä … [COD 2021/414/EC] vahvistettuihin säännöksiin, joiden tarkoituksena on parantaa alustatyön työoloja.

(2 f)

Tämän asetuksen olisi autettava tukemaan tutkimusta ja innovointia, se ei saisi heikentää tutkimus- ja kehitystoimintaa ja sen olisi kunnioitettava tieteellisen tutkimuksen vapautta. Siksi sen soveltamisalan ulkopuolelle on jätettävä tekoälyjärjestelmät, jotka on erityisesti kehitetty yksinomaan tieteellistä tutkimusta ja kehittämistä varten, ja varmistettava, että asetus ei vaikuta muulla tavoin tekoälyjärjestelmiä koskevaan tieteelliseen tutkimus- ja kehitystoimintaan. Kaikessa tutkimus- ja kehitystoiminnassa olisi joka tapauksessa noudatettava perusoikeuskirjaa, unionin lainsäädäntöä sekä kansallista lainsäädäntöä.

(3)

Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa monenlaisia taloudellisia ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa. Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, koulutuksen, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan, julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja.

(3)

Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka voi tuottaa ja tuottaakin jo monenlaisia taloudellisia , ympäristöön liittyviä ja yhteiskunnallisia hyötyjä kaikilla teollisuudenaloilla ja kaikessa sosiaalisessa toiminnassa , jos sitä kehitetään asiaankuuluvien yleisten periaatteiden mukaisesti perusoikeuskirjaa ja unionin perustana olevia arvoja noudattaen . Tekoälyn käyttö voi tarjota yrityksille keskeisiä kilpailuetuja ja tukea yhteiskunnallisesti ja ympäristön kannalta suotuisia tuloksia esimerkiksi terveydenhuollon, maatalouden, elintarvikkeiden turvallisuuden, koulutuksen, tiedotusvälineiden, urheilun, kulttuurin, infrastruktuurin hallinnan, energian, liikenteen ja logistiikan , kriisinhallinnan , julkisten palvelujen, turvallisuuden, oikeuden, resurssi- ja energiatehokkuuden , ympäristönseurannan, biologisen monimuotoisuuden ja ekosysteemien säilyttämisen ja ennallistamisen sekä ilmastonmuutoksen hillitsemisen ja siihen sopeutumisen aloilla parantamalla ennakointia, optimoimalla toimintoja ja resurssien kohdentamista ja räätälöimällä yksilöille ja organisaatioille tarjolla olevia digitaalisia ratkaisuja.

(3 a)

Jotta voidaan edistää hiilineutraaliustavoitteiden saavuttamista, eurooppalaisten yritysten olisi pyrittävä hyödyntämään kaikkia saatavilla olevia teknologisia edistysaskeleita, jotka voivat auttaa pääsemään tavoitteeseen. Tekoäly on teknologiaa, jolla on potentiaalia käytettäväksi teollisissa, ympäristöön ja terveyteen liittyvissä ja muissa prosesseissa syntyvän jatkuvasti kasvavan datamäärän käsittelemiseen. Tekoälypohjaisiin analysointi- ja optimointivälineisiin tehtävien investointien helpottamiseksi tällä asetuksella olisi luotava ennakoitavissa oleva ja oikeasuhteinen ympäristö vähäriskisille teollisille ratkaisuille.

(4)

Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä etuja ja oikeuksia . Tällainen vahinko voi olla aineellista tai aineetonta.

(4)

Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista ja tekniikan kehitystasosta riippuen aiheuttaa riskejä ja vahingoittaa unionin lainsäädännöllä suojattuja yleisiä tai yksityisiä etuja ja luonnollisten henkilöiden perusoikeuksia . Tällainen vahinko voi olla aineellista tai aineetonta , kuten fyysistä, psykologista, yhteiskunnallista tai taloudellista vahinkoa .

(4 a)

Kun otetaan huomioon, että tekoälyllä voi olla merkittävä vaikutus yhteiskuntaan ja että on tarpeen rakentaa luottamusta, on erittäin tärkeää, että tekoälyä ja sen sääntelykehystä kehitetään SEU 2 artiklassa vahvistettujen unionin arvojen, perussopimuksissa vahvistettujen perusoikeuksien ja -vapauksien, perusoikeuskirjan ja kansainvälisen ihmisoikeuslainsäädännön mukaisesti. Tekoälyn ennakkoehtona olisi oltava teknologian ihmiskeskeisyys. Sillä ei saisi korvata ihmisen itsemääräämisoikeutta eikä se saisi sisältää oletusta yksilönvapauden menettämisestä. Sen olisi palveltava ensisijaisesti yhteiskunnan etuja ja yhteistä hyvää. Olisi otettava käyttöön suojatoimia, jolla varmistetaan sellaisen tekoälyn kehittäminen ja käyttö, johon on sisäänrakennettu eettisiä periaatteita ja jossa kunnioitetaan unionin arvoja ja noudatetaan perusoikeuskirjaa.

(5)

Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen suojelun , kuten terveyden ja turvallisuuden sekä perusoikeuksien suojelun, korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista ja käyttöönottoa ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Vahvistamalla kyseiset säännöt tällä asetuksella tuetaan Eurooppa-neuvoston (33) asettamaa tavoitetta, jonka mukaan unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt (34).

(5)

Sen vuoksi tarvitaan unionin oikeudellinen kehys, jossa vahvistetaan tekoälyä koskevat yhdenmukaistetut säännöt, jotta voidaan edistää tekoälyn kehittämistä, käyttöä ja käyttöönottoa sisämarkkinoilla ja samalla taata unionin oikeudessa tunnustettujen ja suojattujen yleisten etujen, kuten terveyden ja turvallisuuden, perusoikeuksien , demokratian ja oikeusvaltion sekä ympäristön suojelun korkea taso. Tämän tavoitteen saavuttamiseksi olisi vahvistettava säännöt, joilla säännellään tiettyjen tekoälyjärjestelmien markkinoille saattamista , käyttöönottoa ja käyttöä ja varmistetaan siten sisämarkkinoiden moitteeton toiminta ja annetaan kyseisille järjestelmille mahdollisuus hyötyä tavaroiden ja palvelujen vapaan liikkuvuuden periaatteesta. Näiden sääntöjen olisi oltava selkeitä, niiden olisi suojeltava hyvin perusoikeuksia ja tuettava uusia innovatiivisia ratkaisuja, ja niiden olisi mahdollistettava unionin arvojen mukaisia tekoälyjärjestelmiä kehittävien julkisten ja yksityisten toimijoiden eurooppalainen ekosysteemi. Vahvistamalla kyseiset säännöt sekä innovointia tukevat toimenpiteet, joissa keskitytään erityisesti pk- ja startup-yrityksiin, tällä asetuksella tuetaan Eurooppa-neuvoston (33) asettamaa tavoitetta, jonka mukaan edistetään Euroopassa kehitettyä tekoälyä ja unionin olisi oltava globaali edelläkävijä turvallisen, luotettavan ja eettisen tekoälyn kehittämisessä, ja varmistetaan eettisten periaatteiden suojelu, kuten Euroopan parlamentti on erityisesti pyytänyt (34).

(5 a)

Jotta voidaan edistää tekoälyn kehittämistä unionin arvoja kunnioittaen, unionin on poistettava suurimmat puutteet ja esteet, jotka haittaavat digitaalisen muutoksen potentiaalin hyödyntämistä, kuten digitaaliset taidot omaavien työntekijöiden puute, kyberturvallisuusongelmat, investointien ja rahoituksen saatavuuden puute sekä olemassa olevat tai mahdolliset erot suurten yritysten, pk-yritysten ja startup-yritysten välillä. Erityisesti olisi pyrittävä varmistamaan, että tekoälyn ja uusiin teknologioihin liittyvän innovoinnin hyödyt saadaan korjattua kaikilla unionin alueilla ja että erityisesti alueille, jotka joidenkin digitalisaation indikaattoreiden perusteella saattavat olla kehityksestä jäljessä, tarjotaan riittävästi investointeja ja resursseja.

(6)

Tekoälyjärjestelmän käsite olisi määriteltävä selkeästi, jotta voidaan taata oikeusvarmuus ja samalla tarjota joustovaraa teknologian tulevan kehityksen huomioon ottamiseksi. Määritelmän olisi perustuttava ohjelmiston keskeisiin toiminnallisiin ominaisuuksiin , erityisesti siihen , että se pystyy tuottamaan tiettyjen ihmisen määrittelemien tavoitteiden osalta tuloksia, kuten sisältöjä , ennusteita , suosituksia tai päätöksiä, jotka vaikuttavat ympäristöön, jonka kanssa järjestelmä on vuorovaikutuksessa joko fyysisessä tai digitaalisessa ulottuvuudesta . Tekoälyjärjestelmät voidaan suunnitella toimimaan eriasteisesti itsenäisesti ja niitä voidaan käyttää erillisinä tai tuotteen osina riippumatta siitä, onko järjestelmä fyysisesti integroitu tuotteeseen (sulautettu) vai palveleeko se tuotteen toiminnallisuutta ilman , että se on integroitu siihen (sulauttamaton) . Tekoälyjärjestelmän määritelmää olisi täydennettävä sen kehittämisessä käytettyjen erityisten tekniikoiden ja lähestymistapojen luettelolla , joka olisi pidettävä ajan tasalla markkinoiden ja teknologian kehityksen huomioon ottamiseksi siten, että komissio hyväksyy delegoituja säädöksiä luettelon muuttamiseksi .

(6)

Tekoälyjärjestelmän käsite tässä asetuksessa olisi määriteltävä selkeästi ja yhdenmukaistettava mahdollisimman pitkälle tekoälyn alalla toimivien kansainvälisten organisaatioiden tekemän työn kanssa , jotta voidaan taata oikeusvarmuus , yhdenmukaistaminen ja laaja hyväksyntä ja samalla tarjota joustovaraa alan nopean teknologisen kehityksen huomioon ottamiseksi. Määritelmän olisi lisäksi perustuttava tekoälyn keskeisiin ominaisuuksiin, kuten sen oppimis- , päättely- tai mallintamiskykyihin , jotta se erottuisi yksinkertaisemmista ohjelmistojärjestelmistä tai ohjelmointimenetelmistä. Tekoälyjärjestelmät on suunniteltu toimimaan eriasteisen itsenäisesti , mikä tarkoittaa , että ne toimivat ainakin jossakin määrin ihmisen valvonnasta riippumattomasti ja kykenevät ainakin jossakin määrin toimimaan ilman ihmisen ohjausta . ”Konepohjaisella” tarkoitetaan, että tekoälyjärjestelmät toimivat koneissa. Eksplisiittisillä ja implisiittisillä tavoitteilla tarkoitetaan, että tekoälyjärjestelmät voivat toimia eksplisiittisten ihmisen määrittelemien tavoitteiden tai implisiittisten tavoitteiden mukaisesti. Tekoälyjärjestelmän tavoitteet voivat erota tekoälyjärjestelmän käyttötarkoituksesta jossakin tietyssä yhteydessä. Viittaus ennusteisiin käsittää sisällön , jota tässä asetuksessa pidetään yhtenä ennusteen muotona, koska se on yksi tekoälyjärjestelmän tuottamista mahdollisista tuotoksista . Tätä asetusta sovellettaessa ympäristöt olisi ymmärrettävä yhteyksiksi, joissa tekoälyjärjestelmät toimivat, ja tekoälyjärjestelmän tuottamat tuotokset , toisin sanoen ennusteet, suositukset tai päätökset, vastaavat järjestelmän tavoitteisiin kyseisestä ympäristöstä tulevien syötteiden pohjalta. Tällaiset tuotokset puolestaan vaikuttavat jälleen kyseiseen ympäristöön pelkästään sisällyttämällä siihen uutta tietoa.

(6 a)

Tekoälyjärjestelmillä on usein koneoppimiskykyä, joka auttaa niitä mukautumaan ja suorittamaan itsenäisesti uusia tehtäviä. Koneoppimisella tarkoitetaan laskentaprosessia, jossa mallin parametrit optimoidaan datan pohjalta; kyseessä on matemaattinen konstruktio, jossa tuotos generoidaan syöttötietojen pohjalta. Koneoppimisen lähestymistavat sisältävät muun muassa ohjatun, ohjaamattoman ja vahvistavan oppimisen, jossa käytetään erilaisia menetelmiä, kuten neuroverkkoihin perustuvaa syväoppimista. Tämän asetuksen tarkoituksena on käsitellä uusia mahdollisia riskejä, joita voi syntyä hallinnan siirtämisestä tekoälyjärjestelmille ja erityisesti sellaisille järjestelmille, jotka voivat kehittyä niiden käyttöönoton jälkeen. Useiden tällaisten tekoälyjärjestelmien toiminta ja tuotokset perustuvat abstrakteihin matemaattisiin suhteisiin, joita ihmisen on vaikea ymmärtää, valvoa ja jäljittää erityisiin syötteisiin. Näillä monimutkaisilla ja läpinäkymättömillä ominaisuuksilla (”mustan laatikon” ongelma) on vaikutusta vastuuvelvollisuuteen ja selitettävyyteen. Vastaavasti myös yksinkertaisemmasta tekniikasta, kuten tietämykseen perustuvista lähestymistavoista, Bayes-estimoinnista tai päätöspuista, voi olla seurauksena lainsäädännön puutteita, joita on käsiteltävä tässä asetuksessa, erityisesti jos kyseistä tekniikkaa käytetään hybridijärjestelmissä yhdessä koneoppimisen lähestymistapojen kanssa.

(6 b)

Tekoälyjärjestelmiä voidaan käyttää erillisinä ohjelmistojärjestelminä, integroituina (sulautettuina) fyysiseen tuotteeseen, palvelemaan fyysisen tuotteen toiminnallisuutta ilman, että järjestelmä on integroitu siihen (sulauttamaton), tai laajemman järjestelmän tekoälykomponenttina. Jos laajempi järjestelmä ei voisi toimia ilman kyseistä tekoälykomponenttia, koko laajemman järjestelmän olisi tämän asetuksen mukaisesti katsottava muodostavan yhden yksittäisen tekoälyjärjestelmän.

(7)

Tässä asetuksessa käytetty biometristen tietojen käsite on yhdenmukainen Euroopan parlamentin ja neuvoston asetuksen (EU) 2016/679 (35) 4 artiklan 14 alakohdassa , Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1725  (36) 3 artiklan 18 alakohdassa ja Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/680  (37) 3 artiklan 13 alakohdassa määritellyn biometristen tietojen käsitteen kanssa ja sitä olisi tulkittava johdonmukaisesti tämän kanssa.

(7)

Tässä asetuksessa käytetty biometristen tietojen käsite on yhdenmukainen Euroopan parlamentin ja neuvoston asetuksen (EU) 2016/679 (35) 4 artiklan 14 alakohdassa määritellyn biometristen tietojen käsitteen kanssa ja sitä olisi tulkittava johdonmukaisesti tämän kanssa. Biometriikkaan perustuvat tiedot ovat tietoja, jotka saadaan luonnollisen henkilön fyysisten, fysiologisten tai käyttäytymiseen liittyvien signaalien, kuten kasvonilmeiden, liikkeiden, pulssin, äänen, näppäinpainallusten tai kävelyn, erityisellä teknisellä käsittelyllä ja joiden perusteella voi olla mahdollista tunnistaa luonnollinen henkilö tai varmistaa kyseisen henkilön tunnistaminen .

(7 a)

Tässä asetuksessa käytetty biometrisen tunnistuksen käsite olisi määriteltävä ihmisen fyysisten, fysiologisten, käyttäytymiseen liittyvien ja psykologisten ominaisuuksien, kuten kasvojen, silmien liikkeen, kasvonilmeiden, kehon muodon, äänen, puheen, kävelyn, asennon, sydämen lyöntitiheyden, verenpaineen, hajun, näppäinpainallusten tai psykologisten reaktioiden (kuten vihan, hädän tai surun), automaattiseksi tunnistamiseksi yksilön henkilöllisyyden toteamiseksi vertaamalla kyseisen yksilön biometrisiä tietoja tietokantaan tallennettuihin toisten yksilöiden biometrisiin tietoihin (yksi moneen -tunnistaminen) riippumatta siitä, onko kyseinen yksilö antanut tähän suostumustaan.

(7 b)

Tässä asetuksessa käytetty biometrisen luokittelun käsite olisi määriteltävä luonnollisten henkilöiden luokitteluksi tiettyihin ryhmiin tai heidän ominaispiirteidensä ja ominaisuuksiensa, kuten sosiaalisen tai biologisen sukupuolen, iän, hiusten värin, silmien värin, tatuointien, etnisen tai yhteiskunnallisen alkuperän, terveydentilan, henkisten tai fyysisten valmiuksien, käyttäytymisen tai luonteenpiirteiden, kielen, uskonnon, kansalliseen vähemmistöön kuulumisen tai sukupuolisen tai poliittisen suuntautumisen, päättelemiseksi heidän biometristen tai biometriikkaan perustuvien tietojensa tai niistä pääteltävissä olevien tietojen perusteella.

(8)

Tässä asetuksessa käytetty biometrisen etätunnistusjärjestelmän käsite olisi määriteltävä toiminnallisesti tekoälyjärjestelmäksi, joka on tarkoitettu luonnollisten henkilöiden tunnistamiseen etäältä vertaamalla henkilön biometrisiä tietoja viitetietokannan sisältämiin biometrisiin tietoihin ja tietämättä ennalta, onko kohteena oleva henkilö läsnä ja voidaanko hänet tunnistaa, riippumatta käytetyistä tekniikoista, prosesseista tai biometristen tietojen tyypeistä. Kun otetaan huomioon reaaliaikaisten ja jälkikäteisten biometrisen etätunnistusjärjestelmien erilaiset ominaisuudet ja käyttötavat sekä niihin liittyvät erilaiset riskit, nämä järjestelmät olisi erotettava toisistaan. Reaaliaikaisissa järjestelmissä biometristen tietojen kerääminen, vertailu ja tunnistaminen tapahtuvat välittömästi, lähes välittömästi tai joka tapauksessa ilman merkittävää viivettä. Tältä osin ei pitäisi olla mahdollista kiertää tämän asetuksen sääntöjä, jotka koskevat kyseisten tekoälyjärjestelmien reaaliaikaista käyttöä, käyttämällä vähäisiä viivästyksiä. Reaaliaikaisissa järjestelmissä käytetään kameran tai muun toiminnoltaan samankaltaisen laitteen tuottamaa ”suoraa” tai ”lähes suoraa” materiaalia, kuten videokuvaa. Jälkikäteisissä järjestelmissä biometriset tiedot on sitä vastoin jo kerätty, ja vertailu ja tunnistaminen tapahtuvat vasta merkittävän viiveen jälkeen. Kyse on kameravalvontajärjestelmien tai yksityisten laitteiden tuottamien kuvien tai videokuvan kaltaisesta materiaalista, joka on luotu ennen kuin järjestelmää käytetään asianomaisiin luonnollisiin henkilöihin.

(8)

Tässä asetuksessa käytetty biometrisen etätunnistusjärjestelmän käsite olisi määriteltävä toiminnallisesti tekoälyjärjestelmäksi, joka on tarkoitettu luonnollisten henkilöiden tunnistamiseen etäältä vertaamalla henkilön biometrisiä tietoja viitetietokannan sisältämiin biometrisiin tietoihin ja tietämättä ennalta, onko kohteena oleva henkilö läsnä ja voidaanko hänet tunnistaa, riippumatta käytetyistä tekniikoista, prosesseista tai biometristen tietojen tyypeistä ja lukuun ottamatta todennusjärjestelmiä, jotka pelkästään vertaavat yksilön biometrisiä tietoja tämän aiemmin antamiin biometrisiin tietoihin (yksi yhteen -todennus) . Kun otetaan huomioon reaaliaikaisten ja jälkikäteisten biometrisen etätunnistusjärjestelmien erilaiset ominaisuudet ja käyttötavat sekä niihin liittyvät erilaiset riskit, nämä järjestelmät olisi erotettava toisistaan. Reaaliaikaisissa järjestelmissä biometristen tietojen kerääminen, vertailu ja tunnistaminen tapahtuvat välittömästi, lähes välittömästi tai joka tapauksessa ilman merkittävää viivettä. Tältä osin ei pitäisi olla mahdollista kiertää tämän asetuksen sääntöjä, jotka koskevat kyseisten tekoälyjärjestelmien reaaliaikaista käyttöä, käyttämällä vähäisiä viivästyksiä. Reaaliaikaisissa järjestelmissä käytetään kameran tai muun toiminnoltaan samankaltaisen laitteen tuottamaa ”suoraa” tai ”lähes suoraa” materiaalia, kuten videokuvaa. Jälkikäteisissä järjestelmissä biometriset tiedot on sitä vastoin jo kerätty, ja vertailu ja tunnistaminen tapahtuvat vasta merkittävän viiveen jälkeen. Kyse on kameravalvontajärjestelmien tai yksityisten laitteiden tuottamien kuvien tai videokuvan kaltaisesta materiaalista, joka on luotu ennen kuin järjestelmää käytetään asianomaisiin luonnollisiin henkilöihin. Koska biometrisen tunnistuksen käsite on riippumaton yksilön suostumuksesta, tätä määritelmää sovelletaan silloinkin, kun biometrisen etätunnistusjärjestelmän valvonnassa olevaan paikkaan on sijoitettu varoitusilmoituksia, eikä esirekisteröinti tosiasiassa kumoa sitä.

(8 a)

Luonnollisten henkilöiden tunnistamisessa etäältä tehdään ero biometristen etätunnistusjärjestelmien ja sellaisten biometrisiä tunnistuskeinoja käyttävien yksilöiden lähitunnistusjärjestelmien välillä, joiden ainoa tarkoitus on vahvistaa, onko jonkin tietyn tunnistettavan luonnollisen henkilön luvallista esimerkiksi käyttää jotakin palvelua tai laitetta tai päästä joihinkin tiloihin.

(9)

Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoitettavan mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa. Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita. Käsite ei kata myöskään verkkoympäristöjä, sillä ne eivät ole fyysisiä tiloja. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, myymälät ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet.

(9)

Tätä asetusta sovellettaessa julkisen tilan käsitteen olisi ymmärrettävä tarkoittavan mitä tahansa fyysistä paikkaa, johon yleisöllä on pääsy, riippumatta siitä, onko kyseinen paikka yksityisessä vai julkisessa omistuksessa ja riippumatta mahdollisista kapasiteettirajoituksista . Käsite ei siten kata paikkoja, jotka ovat luonteeltaan yksityisiä ja joihin kolmansilla osapuolilla, lainvalvontaviranomaiset mukaan luettuina, ei yleensä ole vapaata pääsyä, elleivät kyseiset osapuolet ole nimenomaisesti saaneet kutsua tai lupaa, kuten koteja, yksityisiä kerhoja, toimistoja, varastoja ja tehtaita. Käsite ei kata myöskään verkkoympäristöjä, sillä ne eivät ole fyysisiä tiloja. Pelkästään se, että tiettyyn tilaan pääsyyn voidaan soveltaa tiettyjä edellytyksiä, kuten pääsylippuja tai ikärajoituksia, ei kuitenkaan tarkoita sitä, ettei yleisöllä olisi pääsyä tilaan tässä asetuksessa tarkoitetulla tavalla. Katujen, julkisten rakennusten yleisten osien ja useimpien liikenneinfrastruktuurien lisäksi myös esimerkiksi elokuvateatterit, teatterit, urheilupaikat, koulut, yliopistot, sairaaloiden ja pankkien asiaankuuluvat osat, huvipuistot, festivaalit, myymälät ja ostoskeskukset ovat yleensä tiloja, joihin yleisöllä on pääsy. Se, onko yleisöllä pääsy tiettyyn tilaan, olisi kuitenkin määritettävä tapauskohtaisesti ottaen huomioon kulloisenkin yksittäisen tilanteen erityispiirteet.

(9 a)

On tärkeää huomata, että tekoälyjärjestelmien olisi pyrittävä parhaalla mahdollisella tavalla noudattamaan yleisiä periaatteita, joilla luodaan korkean tason kehys edistämään johdonmukaista ihmiskeskeistä lähestymistapaa eettiseen ja luotettavaan tekoälyyn perusoikeuskirjan ja unionin perustana olevien arvojen mukaisesti, mukaan lukien perusoikeuksien suojelu, ihmisen toimijuus ja ihmisen suorittama valvonta, tekninen luotettavuus ja turvallisuus, yksityisyyden suoja ja datan hallinta, läpinäkyvyys, syrjimättömyys ja oikeudenmukaisuus sekä yhteiskunnallinen ja ekologinen hyvinvointi.

(9 b)

Tekoälylukutaidolla tarkoitetaan osaamista, tietämystä ja ymmärrystä, joiden avulla tarjoajat, käyttäjät ja asianomaiset henkilöt voivat ottaen huomioon oikeutensa ja velvollisuutensa tämän asetuksen puitteissa ottaa tietoon perustuen käyttöön tekoälyjärjestelmiä sekä saada tietoa tekoälyn mahdollisuuksista ja riskeistä ja mahdollisista vahingoista, joita se voi aiheuttaa, ja siten edistää sen demokraattista valvontaa. Tekoälylukutaidon ei pitäisi rajoittua välineisiin ja teknologioihin liittyvään oppimiseen, vaan sillä olisi myös pyrittävä antamaan tarjoajille ja käyttäjille käsitteet ja taidot, joita tarvitaan tämän asetuksen noudattamisen ja täytäntöönpanon varmistamiseksi. Sen vuoksi on tarpeen, että komissio, jäsenvaltiot sekä tekoälyjärjestelmien tarjoajat ja käyttäjät edistävät yhteistyössä kaikkien asiaankuuluvien sidosryhmien kanssa kaikenikäisten ihmisten, myös naisten ja tyttöjen, riittävän tekoälylukutaidon kehittämistä kaikilla yhteiskunnan aloilla ja että edistymistä tässä asiassa seurataan tiiviisti.

(10)

Jotta voidaan varmistaa tasapuoliset toimintaedellytykset ja yksilöiden oikeuksien ja vapauksien tehokas suojelu kaikkialla unionissa, tällä asetuksella vahvistettuja sääntöjä olisi sovellettava tekoälyjärjestelmien tarjoajiin syrjimättömällä tavalla riippumatta siitä, ovatko ne sijoittautuneet unioniin vai kolmanteen maahan, sekä unioniin sijoittautuneisiin tekoälyjärjestelmien käyttäjiin .

(10)

Jotta voidaan varmistaa tasapuoliset toimintaedellytykset ja yksilöiden oikeuksien ja vapauksien tehokas suojelu kaikkialla unionissa ja kansainvälisellä tasolla , tällä asetuksella vahvistettuja sääntöjä olisi sovellettava tekoälyjärjestelmien tarjoajiin syrjimättömällä tavalla riippumatta siitä, ovatko ne sijoittautuneet unioniin vai kolmanteen maahan, sekä unioniin sijoittautuneisiin tekoälyjärjestelmien käyttöönottajiin. Jotta unioni pysyisi perusarvoilleen uskollisena, sellaisten tekoälyjärjestelmien, jotka on tarkoitettu käytäntöihin, joiden ei voida tämän asetuksen mukaisesti katsoa olevan hyväksyttävissä, ei voida myöskään katsoa olevan hyväksyttävissä unionin ulkopuolella johtuen niiden erityisen haitallisesta vaikutuksesta perusoikeuskirjassa vahvistettuihin perusoikeuksiin. Tämän vuoksi on asianmukaista kieltää unioniin sijoittautuneiden tarjoajien harjoittama tällaisten tekoälyjärjestelmien vienti kolmansiin maihin.

(11)

Tiettyjen tekoälyjärjestelmien digitaalisen luonteen vuoksi niiden olisi kuuluttava tämän asetuksen soveltamisalaan myös silloin, kun niitä ei saateta markkinoille, oteta käyttöön eikä käytetä unionissa. Tämä koskee esimerkiksi unioniin sijoittautunutta toimijaa, joka hankkii tiettyjä palveluja unionin ulkopuolelle sijoittautuneelta toimijalta sellaisen tekoälyjärjestelmän toteuttaman toiminnon osalta, joka katsotaan suuririskiseksi ja jolla on vaikutuksia unionissa oleviin luonnollisiin henkilöihin. Tällaisessa tapauksessa unionin ulkopuolelle sijoittautuneen toimijan käyttämä tekoälyjärjestelmä voisi käsitellä dataa, joka on kerätty unionissa ja siirretty sieltä laillisesti, ja toimittaa unionissa sijaitsevalle hankintasopimuksen tehneelle toimijalle tästä käsittelystä saatavia tekoälyjärjestelmän tuloksia ilman, että kyseistä tekoälyjärjestelmää saatetaan markkinoille, otetaan käyttöön tai käytetään unionissa. Jotta estettäisiin tämän asetuksen kiertäminen ja varmistettaisiin unionissa sijaitsevien luonnollisten henkilöiden tehokas suojelu, tätä asetusta olisi sovellettava myös kolmanteen maahan sijoittautuneisiin tekoälyjärjestelmien tarjoajiin ja käyttäjiin siltä osin kuin kyseisten järjestelmien tuottamaa tuotosta käytetään unionissa. Jotta otettaisiin kuitenkin huomioon olemassa olevat järjestelyt ja erityiset tarpeet yhteistyöhön sellaisten ulkomaisten kumppanien kanssa, joiden kanssa vaihdetaan tietoja ja todisteita, tätä asetusta ei pitäisi soveltaa kolmannen maan viranomaisiin eikä kansainvälisiin järjestöihin, kun ne toimivat unionin tai sen jäsenvaltioiden kanssa kansallisella tai Euroopan tasolla tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa. Tällaisia sopimuksia on tehty kahdenvälisesti jäsenvaltioiden ja kolmansien maiden välillä tai Euroopan unionin, Europolin ja muiden EU:n virastojen sekä kolmansien maiden ja kansainvälisten järjestöjen välillä.

(11)

Tiettyjen tekoälyjärjestelmien digitaalisen luonteen vuoksi niiden olisi kuuluttava tämän asetuksen soveltamisalaan myös silloin, kun niitä ei saateta markkinoille, oteta käyttöön eikä käytetä unionissa. Tämä koskee esimerkiksi unioniin sijoittautunutta toimijaa, joka hankkii tiettyjä palveluja unionin ulkopuolelle sijoittautuneelta toimijalta sellaisen tekoälyjärjestelmän toteuttaman toiminnon osalta, joka katsotaan suuririskiseksi ja jolla on vaikutuksia unionissa oleviin luonnollisiin henkilöihin. Tällaisessa tapauksessa unionin ulkopuolelle sijoittautuneen toimijan käyttämä tekoälyjärjestelmä voisi käsitellä dataa, joka on kerätty unionissa ja siirretty sieltä laillisesti, ja toimittaa unionissa sijaitsevalle hankintasopimuksen tehneelle toimijalle tästä käsittelystä saatavia tekoälyjärjestelmän tuloksia ilman, että kyseistä tekoälyjärjestelmää saatetaan markkinoille, otetaan käyttöön tai käytetään unionissa. Jotta estettäisiin tämän asetuksen kiertäminen ja varmistettaisiin unionissa sijaitsevien luonnollisten henkilöiden tehokas suojelu, tätä asetusta olisi sovellettava myös kolmanteen maahan sijoittautuneisiin tekoälyjärjestelmien tarjoajiin ja käyttöönottajiin siltä osin kuin kyseisten järjestelmien tuottamaa tuotosta on tarkoitus käyttää unionissa. Jotta otettaisiin kuitenkin huomioon olemassa olevat järjestelyt ja erityiset tarpeet yhteistyöhön sellaisten ulkomaisten kumppanien kanssa, joiden kanssa vaihdetaan tietoja ja todisteita, tätä asetusta ei pitäisi soveltaa kolmannen maan viranomaisiin eikä kansainvälisiin järjestöihin, kun ne toimivat unionin tai sen jäsenvaltioiden kanssa kansallisella tai Euroopan tasolla tehtyjen lainvalvontaa ja rikosoikeudellista yhteistyötä koskevien kansainvälisten sopimusten puitteissa. Tällaisia sopimuksia on tehty kahdenvälisesti jäsenvaltioiden ja kolmansien maiden välillä tai Euroopan unionin, Europolin ja muiden EU:n virastojen sekä kolmansien maiden ja kansainvälisten järjestöjen välillä. Tämä poikkeus olisi kuitenkin rajoitettava koskemaan luotettavia maita ja kansainvälisiä järjestöjä, joilla on samat arvot kuin unionilla.

(12)

Tätä asetusta olisi sovellettava myös unionin toimielimiin, toimistoihin, elimiin ja virastoihin, kun ne toimivat tekoälyjärjestelmän tarjoajana tai käyttäjänä . Tekoälyjärjestelmät, jotka on kehitetty tai joita käytetään yksinomaan sotilaallisiin tarkoituksiin, olisi jätettävä tämän asetuksen soveltamisalan ulkopuolelle, kun kyseinen käyttö kuuluu Euroopan unionista tehdyn sopimuksen ( TEU ) V osastossa säännellyn yhteisen ulko- ja turvallisuuspolitiikan yksinomaiseen toimivaltaan. Tämän asetuksen ei pitäisi rajoittaa Euroopan parlamentin ja neuvoston direktiivin 2000/31/EY II luvun IV jaksossa vahvistettujen välityspalvelujen tarjoajien vastuuta koskevien säännösten [sellaisina kuin ne korvataan digipalvelusäädöksen vastaavilla säännöksillä] soveltamista.

(12)

Tätä asetusta olisi sovellettava myös unionin toimielimiin, toimistoihin, elimiin ja virastoihin, kun ne toimivat tekoälyjärjestelmän tarjoajana tai käyttöönottajana . Tekoälyjärjestelmät, jotka on kehitetty tai joita käytetään yksinomaan sotilaallisiin tarkoituksiin, olisi jätettävä tämän asetuksen soveltamisalan ulkopuolelle, kun kyseinen käyttö kuuluu Euroopan unionista tehdyn sopimuksen ( SEU ) V osastossa säännellyn yhteisen ulko- ja turvallisuuspolitiikan yksinomaiseen toimivaltaan. Tämän asetuksen ei pitäisi rajoittaa Euroopan parlamentin ja neuvoston direktiivin 2000/31/EY II luvun IV jaksossa vahvistettujen välityspalvelujen tarjoajien vastuuta koskevien säännösten [sellaisina kuin ne korvataan digipalvelusäädöksen vastaavilla säännöksillä] soveltamista.

(12 a)

Avoimesti jaetut ja käyttäjien vapaasti saatavilla olevat ohjelmistot ja data, joita tai joiden muunneltuja versioita käyttäjät voivat vapaasti käyttää, muunnella ja jakaa uudelleen, voivat edistää tutkimusta ja innovointia markkinoilla. Komission tutkimukset myös osoittavat, että vapaiden ja avoimen lähdekoodin ohjelmistojen osuus Euroopan unionin BKT:stä voi olla 65–95 miljardia euroa ja että ne voivat tarjota merkittäviä kasvumahdollisuuksia Euroopan taloudelle. Vapaiden ja avoimen lähdekoodin lisenssien avulla käyttäjät voivat käyttää, kopioida, jakaa, tutkia, muuttaa ja parantaa ohjelmistoja ja tietoja, mallit mukaan lukien. Jotta voidaan edistää tekoälyn kehittämistä ja käyttöönottoa erityisesti pk- ja startup-yrityksissä, tieteellisessä tutkimuksessa ja myös yksittäisten henkilöiden toimesta, tätä asetusta ei pitäisi soveltaa tällaisiin vapaisiin ja avoimen lähdekoodin tekoälykomponentteihin, paitsi jos jokin tarjoaja saattaa niitä markkinoille tai ottaa niitä käyttöön osana jotakin suuririskistä tekoälyjärjestelmää tai jotakin tämän asetuksen II tai IV osaston soveltamisalaan kuuluvaa tekoälyjärjestelmää.

(12 b)

Vapaiden ja avoimen lähdekoodin tekoälykomponenttien yhteistyöhön perustuvan kehittämisen tai niiden asettamisen saataville avoimissa tietovarastoissa ei pitäisi tarkoittaa markkinoille saattamista tai käyttöönottoa. Toiminnan kaupallisuudesta, kun sillä tarkoitetaan markkinoille saattamista, voi kuitenkin olla merkkinä hinnan periminen vapaan ja avoimen lähdekoodin tekoälykomponentista, mikroyritysten välisiä liiketoimia lukuun ottamatta, mutta myös hinnan periminen teknisistä tukipalveluista, muita vastikkeellisia palveluja edellyttävän ohjelmistoalustan tarjoaminen tai henkilötietojen käyttäminen muutoin kuin yksinomaan ohjelmiston turvallisuuden, yhteensopivuuden tai yhteentoimivuuden parantamiseen.

(12 c)

Vapaan ja avoimen lähdekoodin tekoälykomponenttien kehittäjiä ei pitäisi velvoittaa tämän asetuksen nojalla noudattamaan tekoälyarvoketjulle asetettuja vaatimuksia eikä etenkään sellaista tarjoajaa koskevia vaatimuksia, joka on käyttänyt tällaista vapaata ja avoimen lähdekoodin tekoälykomponenttia. Vapaiden ja avoimen lähdekoodin tekoälykomponenttien kehittäjiä olisi kuitenkin kannustettava noudattamaan dokumentoinnin laajalti hyväksyttyjä käytänteitä, kuten malli- ja datakortteja, jotta voidaan nopeuttaa tiedon jakamista tekoälyn arvoketjussa ja edistää luotettavia tekoälyjärjestelmiä unionissa.

(13)

Jotta voidaan varmistaa terveyteen, turvallisuuteen ja perusoikeuksiin liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava yhteiset normit. Näiden normien olisi oltava Euroopan unionin perusoikeuskirjan, jäljempänä ”perusoikeuskirja”, mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa.

(13)

Jotta voidaan varmistaa terveyteen, turvallisuuteen ja perusoikeuksiin sekä demokratiaan, oikeusvaltioon ja ympäristöön liittyvien yleisten etujen suojelun yhdenmukainen ja korkea taso, kaikille suuririskisille tekoälyjärjestelmille olisi vahvistettava yhteiset normit. Näiden normien olisi oltava perusoikeuskirjan, Euroopan vihreän kehityksen ohjelman, unionin digitaalisia oikeuksia koskevan yhteisen julistuksen ja tekoälyä käsittelevän korkean tason asiantuntijaryhmän luotettavaa tekoälyä koskevien eettisten ohjeiden mukaisia, syrjimättömiä ja yhteensopivia unionin kansainvälisten kauppasitoumusten kanssa.

(14)

Tekoälyjärjestelmiä koskevien oikeasuhteisten ja tehokkaiden sitovien sääntöjen käyttöön ottamiseksi olisi noudatettava selkeästi määriteltyä riskiperusteista lähestymistapaa. Tässä lähestymistavassa tällaisten sääntöjen tyyppi ja sisältö olisi sovitettava niiden riskien voimakkuuden ja laajuuden mukaan, joita tekoälyjärjestelmät voivat aiheuttaa. Sen vuoksi on tarpeen kieltää tietyt tekoälyyn liittyvät käytännöt, vahvistaa suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset ja asianomaisten toimijoiden velvollisuudet sekä asettaa läpinäkyvyysvelvoitteita tietyille tekoälyjärjestelmille.

(14)

Tekoälyjärjestelmiä koskevien oikeasuhteisten ja tehokkaiden sitovien sääntöjen käyttöön ottamiseksi olisi noudatettava selkeästi määriteltyä riskiperusteista lähestymistapaa. Tässä lähestymistavassa tällaisten sääntöjen tyyppi ja sisältö olisi sovitettava niiden riskien voimakkuuden ja laajuuden mukaan, joita tekoälyjärjestelmät voivat aiheuttaa. Sen vuoksi on tarpeen kieltää tietyt tekoälyyn liittyvät käytännöt, joita ei voida hyväksyä, vahvistaa suuririskisiä tekoälyjärjestelmiä koskevat vaatimukset ja asianomaisten toimijoiden velvollisuudet sekä asettaa läpinäkyvyysvelvoitteita tietyille tekoälyjärjestelmille.

(15)

Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, tietosuoja ja yksityisyyden suoja sekä lapsen oikeudet.

(15)

Tekoälyn monien hyödyllisten käyttötarkoitusten lisäksi kyseistä teknologiaa voidaan myös käyttää väärin ja se voi tarjota uusia ja tehokkaita välineitä käytäntöihin, joihin liittyy manipulointia, hyväksikäyttöä ja sosiaalista valvontaa. Tällaiset käytännöt ovat erityisen haitallisia ja loukkaavia ja ne olisi kiellettävä, koska ne ovat ihmisarvon kunnioittamista, vapautta, tasa-arvoa, demokratiaa ja oikeusvaltiota koskevien unionin arvojen sekä unionin perusoikeuksien vastaisia, mukaan lukien oikeus syrjimättömyyteen, tietosuoja ja yksityisyyden suoja sekä lapsen oikeudet.

(16)

Sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joiden tarkoituksena on vääristää ihmisten käyttäytymistä, mistä todennäköisesti aiheutuu fyysisiä tai psyykkisiä haittoja, olisi kiellettävä. Tällaisissa tekoälyjärjestelmissä käytetään subliminaalisia komponentteja, joita henkilöt eivät voi havaita, tai hyödynnetään lasten ja ihmisten haavoittuvuuksia, jotka liittyvät heidän ikäänsä tai fyysiseen tai psyykkisen vammaansa. Tällaisen vaikuttamisen tarkoituksena on vääristää henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa haittaa kyseiselle henkilölle tai toiselle henkilölle. Tällaista aikomusta ei voida olettaa, jos ihmisen käyttäytymisen vääristyminen johtuu tekoälyjärjestelmän ulkopuolisista tekijöistä, jotka eivät ole järjestelmän tarjoajan tai käyttäjän hallittavissa . Kielto ei saisi rajoittaa tällaisiin tekoälyjärjestelmiin liittyvää perustelluissa tarkoituksissa tehtävää tutkimusta, jos tällainen tutkimus ei merkitse sellaista tekoälyjärjestelmän käyttöä ihmisen ja koneen välisissä suhteissa, joka altistaa luonnolliset henkilöt haitoille, ja tutkimus suoritetaan tieteellistä tutkimusta koskevien tunnustettujen eettisten normien mukaisesti.

(16)

Sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joiden tavoitteena on vääristää tai jotka olennaisesti vääristävät ihmisten käyttäytymistä, mistä todennäköisesti aiheutuu fyysisiä tai psyykkisiä haittoja, olisi kiellettävä. Tämän rajoituksen olisi katsottava käsittävän tekoälyjärjestelmillä tuetut neuroteknologiat, joita käytetään aivojen ja tietokoneen rajapintojen kautta kerättyjen neurotietojen seurantaan tai käyttöön tai niihin vaikuttamiseen, jos ne vääristävät luonnollisen henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa haittaa kyseiselle henkilölle tai toiselle henkilölle. Tällaisissa tekoälyjärjestelmissä käytetään subliminaalisia komponentteja, joita henkilöt eivät voi havaita, tai hyödynnetään henkilöiden ja tiettyjen henkilöryhmien haavoittuvuuksia, jotka liittyvät heidän tunnettuihin tai ennakoituihin luonteenpiirteisiinsä, ikäänsä, fyysiseen tai psyykkisen vammaansa tai sosiaaliseen tai taloudelliseen tilanteeseensa . Tällaisen vaikuttamisen tarkoituksena on vääristää tai se vääristää henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai todennäköisesti aiheuttaa merkittävää haittaa kyseiselle henkilölle, toiselle henkilölle tai henkilöryhmille, mukaan lukien haitat, joita voi kertyä ajan mittaan . Tällaista aikomusta vääristää käyttäytymistä ei voida olettaa, jos vääristyminen johtuu tekoälyjärjestelmän ulkopuolisista tekijöistä, jotka eivät ole järjestelmän tarjoajan hallittavissa, kuten tekijöistä, joita tekoälyjärjestelmän tarjoaja tai käyttöönottaja ei voi kohtuudella ennakoida ja vähentää. Järjestelmän tarjoajalla tai käyttöönottajalla ei kuitenkaan tarvitse olla aikomusta aiheuttaa merkittävää haittaa, jos tällaista haittaa aiheutuu tekoälyä hyödyntävistä manipuloivista tai hyväksikäyttävistä käytännöistä. Tällaisia tekoälykäytäntöjä koskevat kiellot täydentävät direktiivin 2005/29/EY säännöksiä, joiden mukaan sopimattomat kaupalliset menettelyt ovat kiellettyjä, riippumatta siitä, käytetäänkö niissä kenties tekoälyjärjestelmiä. Tällaisessa yhteydessä esimerkiksi mainonnan alalla toteutettavien unionin lainsäädännön mukaisten laillisten kaupallisten menettelyjen ei pitäisi sinällään katsoa rikkovan kieltoa. Kielto ei saisi rajoittaa tällaisiin tekoälyjärjestelmiin liittyvää perustelluissa tarkoituksissa tehtävää tutkimusta, jos tällainen tutkimus ei merkitse sellaista tekoälyjärjestelmän käyttöä ihmisen ja koneen välisissä suhteissa, joka altistaa luonnolliset henkilöt haitoille, ja tutkimus suoritetaan tieteellistä tutkimusta koskevien tunnustettujen eettisten normien mukaisesti ja sellaisen nimenomaisen tietoisen suostumuksen perusteella, jonka järjestelmille altistuvat henkilöt antavat tai tarpeen mukaan henkilön laillinen holhooja antaa .

(16 a)

Sellaiset tekoälyjärjestelmät, joilla luonnolliset henkilöt luokitellaan tiettyihin ryhmiin tunnettujen tai pääteltyjen arkaluonteisten tai suojattujen ominaisuuksien perusteella, ovat erityisen tunkeilevia, ihmisarvoa loukkaavia ja niihin liittyy suuri syrjinnän riski. Tällaisia ominaisuuksia ovat muun muassa sukupuoli ja sukupuoli-identiteetti, rotu, etninen alkuperä, maahanmuuttaja- tai kansalaisuusasema, poliittinen suuntautuminen, seksuaalinen suuntautuminen, uskonto, vammaisuus tai muut seikat, joihin perustuva syrjintä kielletään perusoikeuskirjan 21 artiklassa sekä asetuksen (EU) 2016/769 9 artiklassa. Siksi tällaiset järjestelmät olisi kiellettävä.

(17)

Tekoälyjärjestelmät, joiden avulla viranomaiset toteuttavat tai heidän puolestaan toteutetaan luonnollisten henkilöiden sosiaalista pisteytystä yleistä tarkoitusta varten, voivat johtaa syrjiviin tuloksiin ja tiettyjen ryhmien syrjäytymiseen. Ne voivat loukata oikeutta ihmisarvoon ja syrjimättömyyteen sekä tasa-arvon ja oikeussuojan arvoja. Tällaiset tekoälyjärjestelmät arvioivat tai luokittelevat luonnollisten henkilöiden luotettavuutta heidän sosiaalisen käyttäytymisensä perusteella useissa yhteyksissä tai heidän tunnettujen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella. Tällaisista tekoälyjärjestelmistä saadut sosiaaliset pisteet voivat johtaa luonnollisten henkilöiden tai kokonaisten henkilöryhmien haitalliseen tai epäedulliseen kohteluun sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin, tai haitalliseen kohteluun, joka on suhteetonta tai perusteetonta heidän sosiaalisen käyttäytymisensä vakavuuteen nähden. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä.

(17)

Tekoälyjärjestelmät, joiden avulla toteutetaan luonnollisten henkilöiden sosiaalista pisteytystä yleistä tarkoitusta varten, voivat johtaa syrjiviin tuloksiin ja tiettyjen ryhmien syrjäytymiseen. Ne loukkaavat oikeutta ihmisarvoon ja syrjimättömyyteen sekä tasa-arvon ja oikeussuojan arvoja. Tällaiset tekoälyjärjestelmät arvioivat tai luokittelevat luonnollisia henkilöitä tai ryhmiä heidän sosiaaliseen käyttäytymiseensä useissa yhteyksissä liittyvien monien tietopisteiden ja ajallisen esiintymisen perusteella tai heidän tunnettujen , pääteltyjen tai ennakoitujen henkilökohtaisten ominaisuuksiensa tai luonteenpiirteidensä perusteella. Tällaisista tekoälyjärjestelmistä saadut sosiaaliset pisteet voivat johtaa luonnollisten henkilöiden tai kokonaisten henkilöryhmien haitalliseen tai epäedulliseen kohteluun sosiaalisissa yhteyksissä, jotka eivät liity siihen asiayhteyteen, jossa tiedot alun perin tuotettiin tai kerättiin, tai haitalliseen kohteluun, joka on suhteetonta tai perusteetonta heidän sosiaalisen käyttäytymisensä vakavuuteen nähden. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä.

(18)

Tekoälyjärjestelmien käyttöä luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksessa pidetään erityisen vakavana puuttumisena asianomaisten henkilöiden oikeuksiin ja vapauksiin, sillä se voi vaikuttaa suuren väestönosan yksityiselämään, synnyttää tunteen jatkuvasta valvonnasta ja estää välillisesti kokoontumisvapauden ja muiden perusoikeuksien käyttämisen. Lisäksi tällaisten reaaliaikaisten järjestelmien käyttöön liittyvien vaikutusten välittömyys ja rajalliset mahdollisuudet lisätarkastuksiin tai korjauksiin lisäävät lainvalvontatoimien kohteena olevien henkilöiden oikeuksiin ja vapauksiin kohdistuvia riskejä.

(18)

Tekoälyjärjestelmien käyttöä luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa pidetään erityisen vakavana puuttumisena asianomaisten henkilöiden oikeuksiin ja vapauksiin, ja se voi viime kädessä vaikuttaa suuren väestönosan yksityiselämään, synnyttää tunteen jatkuvasta valvonnasta , antaa julkisissa tiloissa biometristä tunnistamista käyttäville osapuolille hallitsemattoman valta-aseman ja estää välillisesti oikeusvaltioon olennaisesti kuuluvien kokoontumisvapauden ja muiden perusoikeuksien käyttämisen. Luonnollisten henkilöiden biometriseen etätunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Lisäksi tällaisten reaaliaikaisten järjestelmien käyttöön liittyvien vaikutusten välittömyys ja rajalliset mahdollisuudet lisätarkastuksiin tai korjauksiin lisäävät lainvalvontatoimien kohteena olevien henkilöiden oikeuksiin ja vapauksiin kohdistuvia riskejä. Siksi kyseisten järjestelmien käyttö julkisilla paikoilla olisi kiellettävä. Vastaavasti olisi kiellettävä tekoälyjärjestelmät, joita käytetään julkisissa tiloissa tallennetun kuvamateriaalin analysointiin jälkikäteisissä biometrisissä etätunnistusjärjestelmissä, ellei tuomioistuin ole antanut ennakkoon lupaa niiden käyttöön lainvalvonnassa, kun se on ehdottoman välttämätöntä johonkin jo tehtyyn vakavaan rikokseen liittyvän kohdennetun etsinnän kannalta.

(19)

Näiden järjestelmien käyttö lainvalvontatarkoituksiin olisi sen vuoksi kiellettävä lukuun ottamatta kolmea tyhjentävästi lueteltua ja kapeasti määriteltyä tilannetta, joissa käyttö on ehdottoman välttämätöntä sellaisen tärkeän yleisen edun saavuttamiseksi, jonka merkitys on riskejä suurempi. Näihin tilanteisiin kuuluvat mahdollisten rikosten uhrien, myös kadonneiden lasten, etsintä; tietyt luonnollisten henkilöiden henkeen tai fyysiseen turvallisuuteen kohdistuvan uhat tai terrori-iskun uhat; sekä neuvoston puitepäätöksessä 2002/584/YOS  (38) tarkoitettujen rikosten tekijöiden tai tällaisista rikoksista epäiltyjen havaitseminen, paikantaminen, tunnistaminen tai syytteeseenpano, jos näistä rikoksista voi asianomaisessa jäsenvaltiossa seurata vapaudenmenetyksen käsittävä rangaistus tai turvaamistoimenpide, jonka enimmäisaika on vähintään kolme vuotta, siten kuin ne on määritelty kyseisen jäsenvaltion oikeudessa. Tällainen kansallisen lainsäädännön mukaisen vapaudenmenetyksen käsittävän rangaistuksen tai turvaamistoimenpiteen vähimmäisaika auttaa osaltaan varmistamaan, että rikoksen olisi oltava riittävän vakava, jotta sillä voidaan tarvittaessa perustella reaaliaikaisten biometristen etätunnistusjärjestelmien käyttö. Lisäksi neuvoston puitepäätöksessä 2002/584/YOS luetelluista 32 rikoksesta jotkin ovat käytännössä todennäköisesti merkityksellisempiä kuin toiset, koska reaaliaikaiseen biometriseen etätunnistukseen turvautuminen on oletettavasti hyvin vaihtelevassa määrin välttämätöntä ja oikeasuhteista, kun eri lueteltujen rikosten tekijöitä tai niistä epäiltyjä pyritään käytännössä havaitsemaan, paikantamaan, tunnistamaan tai panemaan syytteeseen ja kun otetaan huomioon todennäköiset erot vahingon tai mahdollisten kielteisten seurausten vakavuudessa, todennäköisyydessä ja laajuudessa.

(20)

Sen varmistamiseksi, että näitä järjestelmiä käytetään vastuullisella ja oikeasuhteisella tavalla, on myös tärkeää vahvistaa, että kussakin näistä kolmesta tyhjentävästi luetellusta ja suppeasti määritellystä tilanteesta olisi otettava huomioon tietyt tekijät, erityisesti pyynnön perusteena olevan tilanteen luonne ja käytön seuraukset kaikkien asianomaisten henkilöiden oikeuksille ja vapauksille sekä käyttöä koskevat suojatoimet ja ehdot. Lisäksi reaaliaikaisten biometristen etätunnistusjärjestelmien käytölle julkisissa tiloissa lainvalvontatarkoituksessa olisi asetettava asianmukaiset aika- ja tilarajat ottaen erityisesti huomioon uhkia, uhreja tai rikoksentekijää koskevat todisteet tai tiedossa olevat seikat. Henkilöitä koskevan viitetietokannan olisi oltava kuhunkin käyttötapaukseen sopiva kussakin edellä mainitussa kolmessa tapauksessa.

(21)

Jokaisen reaaliaikaisen biometrisen etätunnistusjärjestelmän käytön julkisissa tiloissa lainvalvontatarkoituksessa olisi edellytettävä jäsenvaltion oikeusviranomaisen tai riippumattoman hallintoviranomaisen nimenomaista ja erityistä lupaa. Tällainen lupa olisi periaatteessa saatava ennen käyttöä, lukuun ottamatta asianmukaisesti perusteltuja kiireellisiä tapauksia eli tilanteita, joissa kyseisten järjestelmien käyttötarve on sellainen, että luvan saamisen ennen käytön aloittamista on tosiasiallisesti ja objektiivisesti mahdotonta. Tällaisissa kiireellisissä tilanteissa käyttö olisi rajoitettava siihen, mikä on ehdottoman välttämätöntä, ja siihen olisi sovellettava asianmukaisia suojatoimia ja ehtoja, jotka määritellään kansallisessa lainsäädännössä ja jotka lainvalvontaviranomainen itse määrittää kunkin yksittäisen kiireellisen käyttötapauksen yhteydessä. Lisäksi lainvalvontaviranomaisen olisi tällaisissa tilanteissa pyrittävä saamaan lupa mahdollisimman pian ja esitettävä samalla syyt siihen, miksi lupaa ei ole voitu pyytää aikaisemmin.

(22)

Osana tässä asetuksessa vahvistettuja kattavia puitteita on myös aiheellista säätää, että tällaisen tämän asetuksen mukaisen käytön olisi oltava mahdollista jäsenvaltion alueella vain jos ja siltä osin kuin kyseinen jäsenvaltio on kansallisen lainsäädäntönsä yksityiskohtaisissa säännöissä nimenomaisesti päättänyt säätää mahdollisuudesta sallia tällainen käyttö. Näin ollen jäsenvaltiot voivat tämän asetuksen nojalla olla säätämättä tällaisesta mahdollisuudesta lainkaan tai säätää tällaisesta mahdollisuudesta vain joidenkin tässä asetuksessa yksilöityjen tavoitteiden osalta, joilla sallittu käyttö voidaan perustella.

(23)

Tekoälyjärjestelmien käyttö luonnollisten henkilöiden reaaliaikaiseen biometriseen etätunnistukseen julkisissa tiloissa lainvalvontatarkoituksessa edellyttää välttämättä biometristen tietojen käsittelyä. Tämän asetuksen sääntöjä, joissa kielletään tietyin poikkeuksin tällainen käyttö ja jotka perustuvat SEUT-sopimuksen 16 artiklaan, olisi sovellettava erityissäännöksinä (lex specialis) suhteessa direktiivin (EU) 2016/680 10 artiklaan sisältyviin biometristen tietojen käsittelyä koskeviin sääntöihin, eli niillä säännellään kattavasti tällaista käyttöä ja siihen liittyvien biometristen tietojen käsittelyä. Sen vuoksi tällaisen käytön ja käsittelyn olisi oltava mahdollista ainoastaan siinä määrin kuin se on yhteensopivaa tässä asetuksessa vahvistetun kehyksen kanssa, eikä toimivaltaisten viranomaisten pitäisi kyseisen kehyksen ulkopuolella lainvalvontatarkoituksessa toimiessaan voida käyttää tällaisia järjestelmiä ja käsitellä niiden yhteydessä tällaisia tietoja direktiivin (EU) 2016/680 10 artiklassa luetelluin perustein. Tässä yhteydessä tämän asetuksen tarkoituksena ei ole muodostaa oikeusperustaa direktiivin (EU) 2016/680 8 artiklan mukaiselle henkilötietojen käsittelylle. Reaaliaikaisten biometristen etätunnistusjärjestelmien käyttöä julkisissa tiloissa muihin tarkoituksiin kuin lainvalvontaan, myös toimivaltaisten viranomaisten toimesta, ei kuitenkaan pitäisi sisällyttää tässä asetuksessa vahvistettuun erityiskehykseen, joka koskee tällaista käyttöä lainvalvontatarkoituksessa. Tällaisen muussa kuin lainvalvontatarkoituksessa tapahtuvan käytön ei sen vuoksi pitäisi edellyttää tämän asetuksen mukaista lupaa eikä sen täytäntöönpanemiseksi annettujen kansallisen lainsäädännön yksityiskohtaisten sääntöjen soveltamista.

(24)

Kaikessa biometristen tietojen ja muiden henkilötietojen käsittelyssä, joka liittyy tekoälyjärjestelmien käyttöön biometriseen tunnistamiseen muussa yhteydessä kuin tässä asetuksessa säännellyssä reaaliaikaisten biometristen etätunnistusjärjestelmien käytössä julkisissa tiloissa lainvalvontatarkoituksessa, myös silloin, kun toimivaltaiset viranomaiset käyttävät kyseisiä järjestelmiä julkisissa tiloissa muihin tarkoituksiin kuin lainvalvontaan , olisi edelleen noudatettava kaikkia asetuksen (EU) 2016/679 9 artiklan 1 kohdasta, asetuksen (EU) 2018/1725 10 artiklan 1 kohdasta ja direktiivin (EU) 2016/680 10 artiklasta johtuvia vaatimuksia.

(24)

Kaikessa biometristen tietojen ja muiden henkilötietojen käsittelyssä, joka liittyy tekoälyjärjestelmien käyttöön biometriseen tunnistamiseen muussa yhteydessä kuin tässä asetuksessa säännellyssä reaaliaikaisten biometristen etätunnistusjärjestelmien käytössä julkisissa tiloissa, olisi edelleen noudatettava kaikkia asetuksen (EU) 2016/679 9 artiklan 1 kohdasta, asetuksen (EU) 2018/1725 10 artiklan 1 kohdasta ja direktiivin (EU) 2016/680 10 artiklasta johtuvia vaatimuksia.

(25)

Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Yhdistyneen kuningaskunnan ja Irlannin asemasta vapauden, turvallisuuden ja oikeuden alueen osalta tehdyn pöytäkirjan N:o 21 6 a artiklan mukaisesti Irlantia eivät sido tämän asetuksen 5 artiklan 1 kohdan d alakohdassa ja 2 ja 3 kohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, siinä tapauksessa, että Irlantia eivät sido rikosasioissa tehtävän oikeudellisen yhteistyön tai poliisiyhteistyön muotoa koskevat säännöt, jotka edellyttävät SEUT-sopimuksen 16 artiklan perusteella vahvistettujen säännösten noudattamista.

(25)

Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Yhdistyneen kuningaskunnan ja Irlannin asemasta vapauden, turvallisuuden ja oikeuden alueen osalta tehdyn pöytäkirjan N:o 21 6 a artiklan mukaisesti Irlantia eivät sido tämän asetuksen 5 artiklan 1 kohdan d alakohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, siinä tapauksessa, että Irlantia eivät sido rikosasioissa tehtävän oikeudellisen yhteistyön tai poliisiyhteistyön muotoa koskevat säännöt, jotka edellyttävät SEUT-sopimuksen 16 artiklan perusteella vahvistettujen säännösten noudattamista.

(26)

Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Tanskan asemasta tehdyn pöytäkirjan N:o 22 2 ja 2 a artiklan mukaisesti tämän asetuksen 5 artiklan 1 kohdan d alakohdassa ja 2 ja 3 kohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, eivät sido Tanskaa eikä niitä sovelleta Tanskaan.

(26)

Euroopan unionista tehtyyn sopimukseen ja Euroopan unionin toiminnasta tehtyyn sopimukseen liitetyn, Tanskan asemasta tehdyn pöytäkirjan N:o 22 2 ja 2 a artiklan mukaisesti tämän asetuksen 5 artiklan 1 kohdan d alakohdassa vahvistetut säännöt, jotka on hyväksytty SEUT-sopimuksen 16 artiklan perusteella ja jotka koskevat jäsenvaltioiden suorittamaa henkilötietojen käsittelyä näiden toteuttaessa SEUT-sopimuksen kolmannen osan V osaston 4 tai 5 luvun soveltamisalaan kuuluvaa toimintaa, eivät sido Tanskaa eikä niitä sovelleta Tanskaan.

(26 a)

Lainvalvontaviranomaisten käyttämiin tai heidän puolestaan käytettyihin tekoälyjärjestelmiin, joiden avulla laaditaan luonnollisten henkilöiden profilointiin perustuvia ennusteita, profiileja tai riskinarviointeja, tai tietoanalyysejä, jotka perustuvat luonteenpiirteisiin ja ominaispiirteisiin, mukaan lukien henkilön sijainti, tai luonnollisten henkilöiden tai henkilöryhmien aiempaan rikolliseen käyttäytymiseen, todellisen tai mahdollisen rikoksen tai rikosten esiintymisen tai toistumisen tai muun kriminalisoidun sosiaalisen käyttäytymisen tai hallinnollisten rikkomusten ennustamiseksi, petoksia ennustavat järjestelmät mukaan lukien, liittyy erityinen riski tiettyihin henkilöihin tai henkilöryhmiin kohdistuvasta syrjinnästä, koska ne loukkaavat ihmisarvoa ja syyttömyysolettamaa koskevaa keskeistä oikeudellista periaatetta. Tällaiset tekoälyjärjestelmät olisi sen vuoksi kiellettävä.

(26 b)

Summittainen ja kohdentamaton biometristen tietojen haravointi sosiaalisesta mediasta tai valvontakamerakuvista kasvojentunnistustietokantojen luomiseksi tai laajentamiseksi lisäävät tunnetta joukkovalvonnasta ja voivat johtaa perusoikeuksien, myös yksityisyyden suojaa koskevan oikeuden, vakaviin loukkauksiin. Tämän vuoksi tekoälyjärjestelmien käyttö tähän tarkoitukseen olisi kiellettävä.

(26 c)

Vakavaa huolta on herättänyt sellaisten tekoälyjärjestelmien tieteellinen perusta, joilla pyritään havaitsemaan tunteita, fyysisiä tai fysiologisia piirteitä, kuten kasvonilmeitä, liikkeitä, pulssi tai ääntä. Tunteet tai tunteenilmaisut ja niiden tulkitseminen vaihtelevat huomattavasti eri kulttuureissa ja tilanteissa ja jopa yksilön tasolla. Tällaisten teknologioiden olennaisia puutteita ovat muun muassa vähäinen luotettavuus (tunneluokkia ei ole määritelty luotettavasti tiettyjen yhteisten fyysisten tai fysiologisten liikkeiden perusteella eikä niitä liitetä niihin yksiselitteisesti), tarkkuuden puute (fyysiset tai fysiologiset ilmaisut eivät vastaa täsmälleen tunneluokkia) ja heikko yleistettävyys (kontekstin ja kulttuurin vaikutuksia ei ole otettu riittävästi huomioon). Luotettavuuteen liittyviä ongelmia ja näin ollen merkittäviä väärinkäytön riskejä voi erityisesti syntyä, kun järjestelmä otetaan käyttöön todellisissa tilanteissa lainvalvonnassa, rajavalvonnassa, työpaikoilla ja oppilaitoksissa. Siksi sellaisten tekoälyjärjestelmien markkinoille saattaminen, käyttöönotto tai käyttö, joita on tarkoitus käyttää näissä yhteyksissä henkilöiden tunnetilan havaitsemiseen, olisi kiellettävä.

(26 d)

Tämän asetuksen ei pitäisi vaikuttaa käytäntöihin, jotka on kielletty unionin lainsäädännössä, kuten tietosuojaa, syrjimättömyyttä, kuluttajansuojaa ja kilpailua koskevassa lainsäädännössä.

(27)

Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille tai otettava käyttöön vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä. Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on merkittävä haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on.

(27)

Suuririskisiä tekoälyjärjestelmiä olisi saatettava unionin markkinoille, otettava käyttöön tai käytettävä vain, jos ne täyttävät tietyt pakolliset vaatimukset. Näillä vaatimuksilla olisi varmistettava, että suuririskiset tekoälyjärjestelmät, jotka ovat saatavilla unionissa tai joiden tuloksia muutoin käytetään unionissa, eivät aiheuta kohtuuttomia riskejä unionin tärkeille julkisille eduille, sellaisina kuin ne on tunnustettu ja suojattu unionin lainsäädännössä , perusoikeudet, demokratia, oikeusvaltio ja ympäristö mukaan lukien. Jotta varmistetaan yhdenmukaisuus alakohtaisen lainsäädännön kanssa ja vältetään päällekkäisyyksiä, suuririskisiä tekoälyjärjestelmiä koskevissa vaatimuksissa olisi otettava huomioon alakohtainen lainsäädäntö, jossa asetetaan vaatimukset tämän asetuksen soveltamisalaan kuuluville suuririskisille tekoälyjärjestelmille, kuten lääkinnällisistä laitteista annettu asetus (EU) 2017/745, in vitro -diagnostiikkaan tarkoitetuista lääkinnällisistä laitteista annettu asetus (EU) 2017/746 ja konedirektiivi 2006/42/EY . Suuririskisiksi määritellyt tekoälyjärjestelmät olisi rajattava järjestelmiin, joilla on merkittävä haitallinen vaikutus ihmisten terveyteen, turvallisuuteen ja perusoikeuksiin unionissa, ja tällaisella rajauksella minimoidaan mahdolliset kansainvälisen kaupan rajoitukset, jos sellaisia on. Kun otetaan huomioon teknologian nopea kehitys ja mahdolliset tekoälyjärjestelmien käyttöön tehtävät muutokset, liitteessä III olevaa suuririskisten alojen ja käyttötapausten luetteloa olisi joka tapauksessa tarkasteltava säännöllisesti uudelleen säännöllisissä arvioinneissa.

(28)

Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden komponentteina . Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja. Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, kuluttajansuoja, työntekijöiden oikeudet, vammaisten oikeudet, oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, oikeus puolustukseen ja syyttömyysolettama sekä oikeus hyvään hallintoon. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu EU:n perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvan haitan vakavuutta, myös suhteessa ihmisten terveyteen ja turvallisuuteen.

(28)

Tekoälyjärjestelmät voivat vaikuttaa haitallisesti ihmisten terveyteen ja turvallisuuteen erityisesti silloin, kun tällaiset järjestelmät toimivat tuotteiden turvakomponentteina . Unionin yhdenmukaistamislainsäädännön tavoitteena on helpottaa tuotteiden vapaata liikkuvuutta sisämarkkinoilla ja varmistaa, että markkinoille pääsee ainoastaan turvallisia ja muuten vaatimustenmukaisia tuotteita, ja näiden tavoitteiden mukaisesti on tärkeää, että turvallisuusriskejä, joita tuotteesta kokonaisuudessaan voi aiheutua sen digitaalisten komponenttien, kuten tekoälyjärjestelmien, vuoksi, ehkäistään ja vähennetään asianmukaisesti. Esimerkiksi yhä autonomisempien robottien olisi voitava toimia ja suorittaa tehtävänsä turvallisesti monimutkaisissa ympäristöissä, olipa kyse sitten valmistuksesta tai henkilökohtaisesta avusta ja huolenpidosta. Samoin terveydenhuoltoalalla, jossa panokset ovat elämän ja terveyden kannalta erityisen suuret, yhä kehittyneempien diagnostiikkajärjestelmien ja ihmisten päätöksiä tukevien järjestelmien olisi oltava luotettavia ja tarkkoja.

(28 a)

Tekoälyjärjestelmästä perusoikeuskirjassa suojatuille perusoikeuksille aiheutuvan haitallisen vaikutuksen laajuus on erityisen merkityksellinen, kun tekoälyjärjestelmää luokitellaan suuririskiseksi. Näitä oikeuksia ovat muun muassa oikeus ihmisarvoon, yksityis- ja perhe-elämän kunnioittaminen, henkilötietojen suoja, sananvapaus ja tiedonvälityksen vapaus, kokoontumis- ja yhdistymisvapaus, syrjimättömyys, oikeus koulutukseen, kuluttajansuoja, työntekijöiden oikeudet, vammaisten oikeudet, sukupuolten tasa-arvo, teollis- ja tekijänoikeudet, oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen, oikeus puolustukseen ja syyttömyysolettama sekä oikeus hyvään hallintoon. Näiden oikeuksien lisäksi on tärkeää korostaa, että lapsilla on erityisiä oikeuksia, jotka on vahvistettu perusoikeuskirjan 24 artiklassa ja Yhdistyneiden kansakuntien lapsen oikeuksien yleissopimuksessa (jota on täydennetty digitaalisen ympäristön osalta lapsen oikeuksien yleissopimuksen yleisessä huomautuksessa nro 25) ja joissa molemmissa edellytetään lasten haavoittuvuuden huomioon ottamista ja lasten hyvinvoinnin kannalta välttämättömän suojelun ja huolenpidon tarjoamista. Perusoikeuskirjaan kirjattu ja unionin politiikoissa täytäntöönpantu perusoikeus korkeaan ympäristönsuojelun tasoon olisi myös otettava huomioon arvioitaessa tekoälyjärjestelmästä mahdollisesti aiheutuvan haitan vakavuutta, myös suhteessa ihmisten terveyteen ja turvallisuuteen tai ympäristöön.

(29)

Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/2008 (39), Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/2013 (40), Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/2013 (41), Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU (42), Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/797 (43), Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858 (44), Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1139 (45) ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/2144 (46) soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi- ja valvontamekanismeihin ja -viranomaisiin.

(29)

Sellaisten suuririskisten tekoälyjärjestelmien osalta, jotka ovat tuotteiden tai järjestelmien turvakomponentteja tai ovat itse tuotteita tai järjestelmiä, jotka kuuluvat Euroopan parlamentin ja neuvoston asetuksen (EY) N:o 300/2008 (39), Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 167/2013 (40), Euroopan parlamentin ja neuvoston asetuksen (EU) N:o 168/2013 (41), Euroopan parlamentin ja neuvoston direktiivin 2014/90/EU (42), Euroopan parlamentin ja neuvoston direktiivin (EU) 2016/797 (43), Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/858 (44), Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1139 (45) ja Euroopan parlamentin ja neuvoston asetuksen (EU) 2019/2144 (46) soveltamisalaan, on asianmukaista muuttaa mainittuja säädöksiä sen varmistamiseksi, että kun komissio hyväksyy tulevaisuudessa mahdollisia asiaa koskevia delegoituja säädöksiä tai täytäntöönpanosäädöksiä mainittujen säädösten perusteella, se ottaa huomioon tässä asetuksessa vahvistetut suuririskisiä tekoälyjärjestelmiä koskevat pakolliset vaatimukset kunkin alan teknisten ja sääntelyllisten ominaispiirteiden perusteella ja puuttumatta mainituilla säädöksillä perustettuihin olemassa oleviin hallinnointi-, vaatimustenmukaisuuden arviointi- , markkinavalvonta- ja valvontamekanismeihin ja -viranomaisiin.

(30)

Tekoälyjärjestelmät, jotka ovat tietyn unionin yhdenmukaistamislainsäädännön soveltamisalaan kuuluvien tuotteiden turvakomponentteja tai ovat itse tuotteita, on aiheellista luokitella suuririskisiksi tämän asetuksen mukaisesti, jos kyseiselle tuotteelle tehdään vaatimustenmukaisuuden arviointimenettely kolmatta osapuolta edustavassa vaatimustenmukaisuuden arviointilaitoksessa mainitun asiaa koskevan unionin yhdenmukaistamislainsäädännön mukaisesti. Tällaisia tuotteita ovat erityisesti koneet, lelut, hissit, räjähdysvaarallisissa tiloissa käytettäviksi tarkoitetut laitteet ja suojajärjestelmät, radiolaitteet, painelaitteet, huviveneet, köysiratalaitteistot, kaasumaisia polttoaineita polttavat laitteet sekä lääkinnälliset laitteet ja in vitro -diagnostiikkaan tarkoitetut lääkinnälliset laitteet.

(30)

Tekoälyjärjestelmät, jotka ovat tietyn liitteessä II luetellun unionin yhdenmukaistamislainsäädännön soveltamisalaan kuuluvien tuotteiden turvakomponentteja tai ovat itse tuotteita, on aiheellista luokitella suuririskisiksi tämän asetuksen mukaisesti, jos kyseiselle tuotteelle tehdään vaatimustenmukaisuuden arviointimenettely olennaisten turvallisuusvaatimusten täyttämisen varmistamiseksi kolmatta osapuolta edustavassa vaatimustenmukaisuuden arviointilaitoksessa mainitun asiaa koskevan unionin yhdenmukaistamislainsäädännön mukaisesti. Tällaisia tuotteita ovat erityisesti koneet, lelut, hissit, räjähdysvaarallisissa tiloissa käytettäviksi tarkoitetut laitteet ja suojajärjestelmät, radiolaitteet, painelaitteet, huviveneet, köysiratalaitteistot, kaasumaisia polttoaineita polttavat laitteet sekä lääkinnälliset laitteet ja in vitro -diagnostiikkaan tarkoitetut lääkinnälliset laitteet.

(31)

Tekoälyjärjestelmän luokittelun suuririskiseksi tämän asetuksen mukaisesti ei välttämättä pitäisi tarkoittaa sitä, että tuotetta, jonka turvakomponentti on tekoälyjärjestelmä, tai itse tekoälyjärjestelmää tuotteena pidetään suuririskisenä tuotteeseen sovellettavassa asiaa koskevassa unionin yhdenmukaistamislainsäädännössä vahvistettujen perusteiden mukaisesti. Tämä koskee erityisesti Euroopan parlamentin ja neuvoston asetusta (EU) 2017/745 (47) ja Euroopan parlamentin ja neuvoston asetusta (EU) 2017/746 (48), joissa säädetään keskisuuren ja suuren riskin tuotteita koskevasta kolmannen osapuolen suorittamasta vaatimustenmukaisuuden arvioinnista.

(31)

Tekoälyjärjestelmän luokittelun suuririskiseksi tämän asetuksen mukaisesti ei pitäisi tarkoittaa sitä, että tuotetta, jonka turvakomponentti on tekoälyjärjestelmä, tai itse tekoälyjärjestelmää tuotteena pidetään suuririskisenä tuotteeseen sovellettavassa asiaa koskevassa unionin yhdenmukaistamislainsäädännössä vahvistettujen perusteiden mukaisesti. Tämä koskee erityisesti Euroopan parlamentin ja neuvoston asetusta (EU) 2017/745 (47) ja Euroopan parlamentin ja neuvoston asetusta (EU) 2017/746 (48), joissa säädetään keskisuuren ja suuren riskin tuotteita koskevasta kolmannen osapuolen suorittamasta vaatimustenmukaisuuden arvioinnista.

(32)

Erilliset tekoälyjärjestelmät eli muut suuririskiset tekoälyjärjestelmät kuin ne, jotka ovat tuotteiden turvakomponentteja tai jotka ovat itse tuotteita, olisi luokiteltava suuririskisiksi, jos ne suunnitellun käyttötarkoituksensa perusteella aiheuttavat suuren riskin ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille, kun otetaan huomioon sekä mahdollisen haitan vakavuus että sen esiintymistodennäköisyys , ja niitä käytetään asetuksessa erikseen määritellyillä aloilla . Näiden järjestelmien yksilöinti perustuu samoihin menetelmiin ja kriteereihin, joita sovelletaan myös suuririskisten tekoälyjärjestelmien luetteloon tulevaisuudessa tehtäviin muutoksiin.

(32)

Erilliset tekoälyjärjestelmät eli muut suuririskiset tekoälyjärjestelmät kuin ne, jotka ovat tuotteiden turvakomponentteja tai jotka ovat itse tuotteita ja jotka kuuluvat jonkin liitteessä III luetellun alan ja käyttötapauksen piiriin , olisi luokiteltava suuririskisiksi, jos ne käyttötarkoituksensa perusteella aiheuttavat merkittävän riskin ihmisten terveydelle ja turvallisuudelle tai perusoikeuksille sekä ympäristölle , jos tekoälyjärjestelmää käytetään kriittisen infrastruktuurin turvakomponenttina. Tällainen merkittävä riski olisi määritettävä arvioimalla yhtäältä riskin vaikutusta sen vakavuuden tasoon , voimakkuuteen, esiintymisen todennäköisyyteen ja kestoon nähden ja toisaalta sitä, voiko riski vaikuttaa johonkin yksittäiseen henkilöön, useisiin henkilöihin tai johonkin tiettyyn henkilöryhmään. Tällaisen yhdistelmän perusteella riski voisi asiayhteydestä riippuen olla esimerkiksi luonnolliselle henkilölle erittäin vakava mutta sen todennäköisyys olisi pieni tai sen todennäköisyys olisi ihmisryhmälle suuri mutta voimakkuus olisi pieni pitkällä aikavälillä . Näiden järjestelmien yksilöinti perustuu samoihin menetelmiin ja kriteereihin, joita sovelletaan myös suuririskisten tekoälyjärjestelmien luetteloon tulevaisuudessa tehtäviin muutoksiin.

(32 a)

Tarjoajien, joiden tekoälyjärjestelmät kuuluvat jonkin luettelossa III luetellun alan ja käyttötapauksen piiriin ja jotka katsovat, että heidän järjestelmänsä ei aiheuta terveyteen, turvallisuuteen, perusoikeuksiin tai ympäristöön kohdistuvan haitan merkittävää riskiä, olisi ilmoitettava asiasta kansallisille valvontaviranomaisille perustellulla ilmoituksella. Ilmoitus voisi olla yhden sivun mittainen yhteenveto, joka sisältäisi asiaankuuluvat tiedot asianomaisesta tekoälyjärjestelmästä sekä sen tarkoituksesta ja siitä, miksi siitä ei aiheutuisi merkittävää riskiä terveydelle, turvallisuudelle, perusoikeuksille tai ympäristölle. Komission olisi määritettävä kriteerit, joiden avulla yritykset voivat arvioida, koituisiko niiden järjestelmästä tällaisia riskejä, sekä laadittava helppokäyttöinen standardoitu ilmoitusmalli. Tarjoajien olisi toimitettava ilmoitus mahdollisimman varhain ja joka tapauksessa ennen tekoälyjärjestelmän markkinoille saattamista tai sen käyttöönottoa, mieluiten sen kehittämisvaiheessa, ja heidän olisi voitava vapaasti saattaa se markkinoille milloin tahansa ilmoittamisen jälkeen. Jos viranomainen katsoo, että kyseinen tekoälyjärjestelmä on luokiteltu väärin, sen olisi vastustettava ilmoitusta kolmen kuukauden kuluessa. Vastustus olisi perusteltava ja siinä olisi asianmukaisesti täsmennettävä, miksi tekoälyjärjestelmä on luokiteltu väärin. Tarjoajan olisi voitava valittaa ja antaa lisäperusteluja. Jos ilmoitusta ei ole kolmen kuukauden kuluessa vastustettu, kansalliset valvontaviranomaiset voisivat siitä huolimatta vielä suorittaa toimenpiteitä, jos tekoälyjärjestelmästä aiheutuu kansallisella tasolla riski, kuten minkä tahansa markkinoille saatetun tekoälyjärjestelmän tapauksessa. Kansallisten valvontaviranomaisten olisi toimitettava vuosittain tekoälytoimistolle kertomukset, joissa esitetään yksityiskohtaisesti vastaanotetut ilmoitukset ja tehdyt päätökset.

(33)

Luonnollisten henkilöiden biometriseen etätunnistukseen tarkoitettujen tekoälyjärjestelmien tekniset epätarkkuudet voivat johtaa vinoutuneisiin tuloksiin ja aiheuttaa syrjiviä vaikutuksia. Tämä on erityisen tärkeää, kun kyse on iästä, etnisestä alkuperästä, sukupuolesta tai vammasta. Sen vuoksi reaaliaikaiset ja jälkikäteiset biometriset etätunnistusjärjestelmät olisi luokiteltava suuririskisiksi. Kun otetaan huomioon niiden aiheuttamat riskit, molempiin biometrisiin etätunnistusjärjestelmiin olisi sovellettava lokitusvalmiuksia ja ihmisen suorittamaa valvontaa koskevia erityisvaatimuksia.

(33 a)

Koska biometriset tiedot muodostavat asetuksen (EU) 2016/679 mukaisesti erityisen arkaluonteisten henkilötietojen luokan, on asianmukaista, että biometristen ja biometriikkaan perustuvien järjestelmien useat kriittiset käyttötapaukset luokitellaan suuririskisiksi. Näin ollen olisi luokiteltava suuririskisiksi sellaiset tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi luonnollisten henkilöiden biometriseen tunnistukseen, sekä tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi päättelyjen tekemiseen luonnollisten henkilöiden henkilökohtaisista ominaisuuksista biometristen tai biometriikkaan perustuvien tietojen perusteella, mukaan lukien tunteentunnistusjärjestelmät ja lukuun ottamatta tämän asetuksen mukaisesti kiellettyjä järjestelmiä. Näihin ei pitäisi sisällyttää tekoälyjärjestelmiä, joita on tarkoitus käyttää biometriseen todennukseen, joka käsittää tunnistautumisen, ja joiden ainoana tarkoituksena on vahvistaa, että tietty luonnollinen henkilö on se henkilö, joka hän väittää olevansa, sekä vahvistaa luonnollisen henkilön henkilöllisyys ainoastaan jonkin palvelun, laitteen tai tilojen käyttämiseksi (yksi yhteen -varmentaminen). Biometristen tai biometriikkaan perustuvien järjestelmien, joista säädetään unionin lainsäädännössä kyberturvallisuutta ja henkilötietojen suojaa koskevien toimenpiteiden mahdollistamiseksi, ei pitäisi katsoa aiheuttavan merkittävää riskiä terveydelle, turvallisuudelle ja perusoikeuksille.

(34)

Kriittisen infrastruktuurin hallinnan ja toiminnan osalta on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina tieliikenteen sekä vesi-, kaasu-, lämmitys- ja sähköhuollon hallinnassa ja toiminnassa, koska niiden viat tai toimintahäiriöt voivat vaarantaa ihmisten hengen ja terveyden suuressa mittakaavassa ja aiheuttaa tuntuvia häiriöitä yhteiskunnallisen ja taloudellisen toiminnan tavanomaisessa harjoittamisessa.

(34)

Kriittisen infrastruktuurin hallinnan ja toiminnan osalta on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu käytettäviksi turvakomponentteina vesi-, kaasu-, lämmitys- ja sähköhuollon sekä kriittisen digitaalisen infrastruktuurin hallinnassa ja toiminnassa, koska niiden viat tai toimintahäiriöt voivat haitata tällaisen kriittisen infrastruktuurin varmuutta ja eheyttä ja siten vaarantaa ihmisten hengen ja terveyden suuressa mittakaavassa ja aiheuttaa tuntuvia häiriöitä yhteiskunnallisen ja taloudellisen toiminnan tavanomaisessa harjoittamisessa. Kriittisen infrastruktuurin, mukaan lukien kriittinen digitaalinen infrastruktuuri, turvakomponentit ovat järjestelmiä, joita käytetään suoraan suojaamaan kriittisen infrastruktuurin fyysistä koskemattomuutta tai henkilöiden terveyttä ja turvallisuutta ja omaisuuden turvallisuutta. Tällaisten komponenttien vikaantuminen tai toimintahäiriö saattaa johtaa suoraan riskeihin kriittisen infrastruktuurin fyysiselle koskemattomuudelle ja näin ollen riskeihin henkilöiden terveydelle ja turvallisuudelle ja omaisuuden turvallisuudelle. Komponentteja, jotka on tarkoitettu käytettäviksi pelkästään kyberturvallisuustarkoituksiin, ei pitäisi katsoa turvakomponenteiksi. Esimerkkejä tällaisista turvakomponenteista voivat olla järjestelmät vedenpaineen seuraamiseksi tai palohälytysohjausjärjestelmät pilvipalvelukeskuksissa.

(35)

Tekoälyjärjestelmiä , joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä, olisi pidettävä suuririskisinä , koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja niitä käytetään epäasianmukaisesti, ne voivat loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi ja ne voivat jatkaa historiallisia syrjinnän muotoja.

(35)

Tekoälyjärjestelmien käyttöönotto koulutuksessa on tärkeää, jotta voidaan auttaa nykyaikaistamaan kokonaisia koulutusjärjestelmiä, parantaa koulutuksen laatua sekä verkon ulkopuolella että verkossa ja nopeuttaa digitaalista koulutusta, jolloin se on myös laajemman yleisön saatavilla. Tekoälyjärjestelmät , joita käytetään yleissivistävässä tai ammatillisessa koulutuksessa, erityisesti määritettäessä pääsyä oppilaitoksiin , vaikuttamaan olennaisesti koulutukseen pääsyä koskeviin päätöksiin tai osoitettaessa henkilöitä niihin tai arvioitaessa henkilöitä kokeissa osana heidän koulutustaan tai sen edellytyksenä, tai yksittäiselle henkilölle soveltuvan koulutustason arviointiin ja vaikuttamaan olennaisesti sen yleissivistävän tai ammatillisen koulutuksen tasoon, jota henkilö myöhemmin saa tai johon hän voi päästä, tai opiskelijoiden tarkkailuun tai kielletyn käyttäytymisen havaitsemiseen kokeiden aikana, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi , koska ne voivat määrittää henkilön elämän koulutuksellisen ja ammatillisen suunnan ja siten vaikuttaa heidän kykyynsä turvata toimeentulonsa. Kun tällaiset järjestelmät suunnitellaan ja niitä käytetään epäasianmukaisesti, ne voivat olla erityisen tunkeilevia ja loukata oikeutta koulutukseen ja oikeutta olla joutumatta syrjityksi, ja ne voivat jatkaa historiallisia syrjinnän muotoja , jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen .

(36)

Tekoälyjärjestelmät, joita käytetään työllistämisessä, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen sekä tehtävien jakamiseen työhön liittyvissä sopimussuhteissa oleville henkilöille ja heidän seurantaansa tai arviointiinsa , olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi näiden henkilöiden tuleviin uranäkymiin ja toimeentuloon . Näiden työhön liittyvien sopimussuhteiden olisi koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaisia henkilöitä ei periaatteessa pitäisi katsoa tässä asetuksessa tarkoitetuiksi käyttäjiksi. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä sopimussuhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat vaikuttaa myös heidän tietosuojaa ja yksityisyyden suojaa koskeviin oikeuksiinsa .

(36)

Tekoälyjärjestelmät, joita käytetään työllistämisessä, henkilöstöhallinnossa ja itsenäisen ammatinharjoittamisen mahdollistamisessa, erityisesti henkilöiden rekrytointiin ja valintaan, työsuhteen solmimista, uralla etenemistä ja työsuhteen päättämistä koskevien päätösten tekemiseen tai vaikuttamaan olennaisesti tällaisiin päätöksiin sekä yksilölliseen tehtävien jakamiseen yksilöllisen käyttäytymisen, henkilökohtaisten piirteiden tai biometristen tietojen perusteella taikka työhön liittyvissä sopimussuhteissa olevien henkilöiden seurantaan tai arviointiin , olisi myös luokiteltava suuririskisiksi, koska kyseiset järjestelmät voivat vaikuttaa merkittävästi näiden henkilöiden tuleviin uranäkymiin , toimeentuloon ja työntekijöiden oikeuksiin . Näiden työhön liittyvien sopimussuhteiden olisi merkityksellisellä tavalla koskettava myös työntekijöitä ja henkilöitä, jotka tarjoavat palveluja alustojen kautta, kuten komission vuoden 2021 työohjelmassa esitetään. Tällaiset järjestelmät voivat koko rekrytointiprosessin ajan sekä työhön liittyvissä sopimussuhteissa olevien henkilöiden arvioinnin, uralla etenemisen tai työsuhteen jatkamisen yhteydessä pitää yllä historiallisia syrjinnän muotoja, jotka kohdistuvat esimerkiksi naisiin, tiettyihin ikäryhmiin, vammaisiin henkilöihin tai henkilöihin, joilla on tietty rodullinen tai etninen alkuperä tai seksuaalinen suuntautuminen. Tekoälyjärjestelmät, joita käytetään näiden henkilöiden suorituskyvyn ja käyttäytymisen seurantaan, voivat heikentää myös keskeisiltä osin heidän tietosuojaa ja yksityisyyden suojaa koskevia perusoikeuksiaan. Tämän asetuksen soveltaminen ei vaikuta unionin ja jäsenvaltioiden toimivaltaan säätää tarkemmista säännöistä tekoälyjärjestelmien käytöstä työllisyyteen liittyvissä kysymyksissä.

(37)

Toinen osa-alue, jolla tekoälyjärjestelmien käyttöön on kiinnitettävä erityistä huomiota, on sellaisten olennaisten yksityisten ja julkisten palvelujen ja etujen saatavuus ja käyttö, joita ihmiset tarvitsevat voidakseen osallistua täysipainoisesti yhteiskuntaan tai parantaakseen elintasoaan. Etenkin tekoälyjärjestelmät, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi, koska ne määrittävät kyseisten henkilöiden mahdollisuuden saada taloudellisia resursseja tai olennaisia palveluja, kuten asumis-, sähkö- ja televiestintäpalveluja. Tähän tarkoitukseen käytetyt tekoälyjärjestelmät voivat johtaa henkilöiden tai henkilöryhmien syrjintään ja pitää yllä historiallisia syrjinnän muotoja, jotka perustuvat esimerkiksi rotuun tai etniseen alkuperään, vammaisuuteen, ikään tai sukupuoliseen suuntautumiseen, tai luoda uusia syrjiviä vaikutuksia. Kun otetaan huomioon vaikutusten erittäin rajallinen laajuus ja markkinoilla saatavilla olevat vaihtoehdot , on aiheellista vapauttaa vaatimuksista tekoälyjärjestelmien käyttö luottokelpoisuuden arvioinnissa ja luottopisteytyksessä , kun pienet tarjoajat ottavat järjestelmiä käyttöön omaan käyttöönsä . Luonnolliset henkilöt, jotka hakevat tai saavat viranomaisilta julkisen avun etuuksia ja palveluja, ovat yleensä riippuvaisia näistä etuuksista ja palveluista ja haavoittuvassa asemassa vastuussa oleviin viranomaisiin nähden. Jos tekoälyjärjestelmiä käytetään sen määrittämiseen, olisiko viranomaisten evättävä tällaiset etuudet ja palvelut tai rajoitettava niitä, peruutettava ne tai perittävä ne takaisin, niillä voi olla merkittävä vaikutus henkilöiden toimeentuloon ja ne voivat loukata heidän perusoikeuksiaan, kuten oikeutta sosiaaliseen suojeluun, syrjimättömyyteen, ihmisarvoon tai tehokkaisiin oikeussuojakeinoihin. Tällaiset järjestelmät olisi sen vuoksi luokiteltava suuririskisiksi. Tämä asetus ei kuitenkaan saisi haitata innovatiivisten lähestymistapojen kehittämistä ja käyttöä julkishallinnossa, sillä se hyötyisi vaatimustenmukaisten ja turvallisten tekoälyjärjestelmien laajemmasta käytöstä edellyttäen, että kyseisiin järjestelmiin ei liity suurta oikeushenkilöihin ja luonnollisiin henkilöihin kohdistuvaa riskiä. Myös tekoälyjärjestelmät, joita käytetään pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, olisi luokiteltava suuririskisiksi, koska ne tekevät päätöksiä tilanteissa, jotka ovat erittäin kriittisiä ihmisten hengen ja terveyden ja heidän omaisuutensa kannalta.

(37)

Toinen osa-alue, jolla tekoälyjärjestelmien käyttöön on kiinnitettävä erityistä huomiota, on sellaisten olennaisten yksityisten ja julkisten palvelujen , mukaan lukien terveydenhuollon palvelut ja olennaiset palvelut, kuten muun muassa asumis-, sähkönjakelu-, lämmitys-, jäähdytys- ja internetpalvelut, ja etujen saatavuus ja käyttö, joita ihmiset tarvitsevat voidakseen osallistua täysipainoisesti yhteiskuntaan tai parantaakseen elintasoaan. Etenkin tekoälyjärjestelmät, joita käytetään arvioitaessa luonnollisten henkilöiden luottopisteytystä tai luottokelpoisuutta, olisi luokiteltava suuririskisiksi tekoälyjärjestelmiksi, koska ne määrittävät kyseisten henkilöiden mahdollisuuden saada taloudellisia resursseja tai olennaisia palveluja, kuten asumis-, sähkö- ja televiestintäpalveluja. Tähän tarkoitukseen käytetyt tekoälyjärjestelmät voivat johtaa henkilöiden tai henkilöryhmien syrjintään ja pitää yllä historiallisia syrjinnän muotoja, jotka perustuvat esimerkiksi rotuun tai etniseen alkuperään, sukupuoleen, vammaisuuteen, ikään tai sukupuoliseen suuntautumiseen, tai luoda uusia syrjiviä vaikutuksia. Tekoälyjärjestelmien, joista säädetään unionin lainsäädännössä rahoituspalvelujen tarjoamiseen liittyvien petosten havaitsemiseksi, ei pitäisi katsoa olevan tämän asetuksen mukaisesti suuririskisiä. Luonnolliset henkilöt, jotka hakevat tai saavat viranomaisilta julkisen avun etuuksia ja palveluja, mukaan lukien terveydenhuollon palvelut ja olennaiset palvelut, kuten muun muassa asumis-, sähkönjakelu-, lämmitys-, jäähdytys- ja internetpalvelut, ovat yleensä riippuvaisia näistä etuuksista ja palveluista ja haavoittuvassa asemassa vastuussa oleviin viranomaisiin nähden. Jos tekoälyjärjestelmiä käytetään sen määrittämiseen, olisiko viranomaisten evättävä tällaiset etuudet ja palvelut tai rajoitettava niitä, peruutettava ne tai perittävä ne takaisin, niillä voi olla merkittävä vaikutus henkilöiden toimeentuloon ja ne voivat loukata heidän perusoikeuksiaan, kuten oikeutta sosiaaliseen suojeluun, syrjimättömyyteen, ihmisarvoon tai tehokkaisiin oikeussuojakeinoihin. Vastaavasti tekoälyjärjestelmät, jotka on tarkoitettu luonnollisten henkilöiden sairausvakuutus- ja henkivakuutuskelpoisuutta koskevien päätösten tekemiseen tai vaikuttamaan olennaisesti tällaisiin päätöksiin, voivat myös vaikuttaa merkittävästi henkilöiden toimeentuloon ja loukata heidän perusoikeuksiaan esimerkiksi rajoittamalla terveydenhoitoon pääsyä tai jatkamalla henkilökohtaisiin ominaisuuksiin perustuvaa syrjintää. Tällaiset järjestelmät olisi sen vuoksi luokiteltava suuririskisiksi. Tämä asetus ei kuitenkaan saisi haitata innovatiivisten lähestymistapojen kehittämistä ja käyttöä julkishallinnossa, sillä se hyötyisi vaatimustenmukaisten ja turvallisten tekoälyjärjestelmien laajemmasta käytöstä edellyttäen, että kyseisiin järjestelmiin ei liity suurta oikeushenkilöihin ja luonnollisiin henkilöihin kohdistuvaa riskiä. Myös tekoälyjärjestelmät, joita käytetään luonnollisten henkilöiden hätäpuhelujen arvioinnissa ja luokittelussa tai pelastus- ja ensihoitopalvelujen lähettämisessä tai tärkeysjärjestyksen määrittämisessä, olisi luokiteltava suuririskisiksi, koska ne tekevät päätöksiä tilanteissa, jotka ovat erittäin kriittisiä ihmisten hengen ja terveyden ja heidän omaisuutensa kannalta.

(37 a)

Kun otetaan huomioon poliisi- ja oikeusviranomaisten rooli ja vastuu sekä niiden rikosten torjumista, tutkimista, selvittämistä tai syytteeseenpanoa tai rikosoikeudellisten seuraamusten täytäntöönpanoa varten tekemien päätösten vaikutus, jotkut tietyt tekoälysovellusten käyttötapaukset on luokiteltava suuririskisiksi erityisesti tapauksissa, joissa on mahdollista vaikuttaa merkittävästi yksilöiden elämään tai perusoikeuksiin.

(38)

Lainvalvontaviranomaisten toimille, joihin liittyy tiettyä tekoälyjärjestelmien käyttöä, on ominaista huomattava vallan epätasapaino, ja ne voivat johtaa luonnollisen henkilön valvontaan, pidättämiseen tai vapaudenmenetykseen sekä muihin perusoikeuskirjassa taattuihin perusoikeuksiin kohdistuviin haitallisiin vaikutuksiin. Erityisesti jos tekoälyjärjestelmää ei ole koulutettu laadukkaalla datalla, se ei täytä riittäviä vaatimuksia tarkkuutensa tai luotettavuutensa suhteen tai sitä ei ole suunniteltu ja testattu asianmukaisesti ennen markkinoille saattamista tai muuta käyttöönottoa, se voi valikoida henkilöitä syrjivästi tai muulla tavoin väärin tai epäoikeudenmukaisesti. Lisäksi merkittävien menettelyllisten perusoikeuksien, joita ovat muun muassa oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen sekä oikeus puolustukseen ja syyttömyysolettama, käyttö voisi vaikeutua erityisesti silloin, kun tällaiset tekoälyjärjestelmät eivät ole riittävän läpinäkyviä, selitettävissä olevia ja dokumentoituja. Sen vuoksi on aiheellista luokitella suuririskisiksi joukko tekoälyjärjestelmiä, jotka on tarkoitettu käytettäviksi lainvalvonnan yhteydessä, kun tarkkuus, luotettavuus ja läpinäkyvyys ovat erityisen tärkeitä haitallisten vaikutusten välttämiseksi, kansalaisten luottamuksen säilyttämiseksi sekä vastuuvelvollisuuden ja tehokkaiden oikeussuojakeinojen varmistamiseksi. Kun otetaan huomioon kyseessä olevien toimintojen luonne ja niihin liittyvät riskit, näihin suuririskisiin tekoälyjärjestelmiin olisi katsottava kuuluvan erityisesti tekoälyjärjestelmät, joita lainvalvontaviranomaisten on tarkoitus käyttää yksilöllisiin riskiarviointeihin , valheenpaljastukseen ja vastaaviin välineisiin tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen, ”syväväärennösten” havaitsemiseen, todistusaineiston luotettavuuden arviointiin rikosoikeudellisissa menettelyissä , todellisen tai mahdollisen rikoksen esiintymisen tai toistumisen ennustamiseen luonnollisten henkilöiden profiloinnin tai luonnollisten henkilöiden tai ryhmien persoonallisuuspiirteiden ja ominaispiirteiden tai aiemman rikollisen käyttäytymisen arvioinnin perusteella , rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä tapahtuvaan profilointiin tai luonnollisia henkilöitä koskevaan rikosanalyysiin. Tekoälyjärjestelmiä, jotka on erityisesti tarkoitettu käytettäviksi vero- ja tulliviranomaisten hallinnollisissa menettelyissä, ei pitäisi pitää suuririskisinä tekoälyjärjestelminä , joita lainvalvontaviranomaiset käyttävät rikosten ennalta estämiseen, tutkimiseen, paljastamiseen tai rikoksiin liittyviin syytetoimiin.

(38)

Lainvalvontaviranomaisten toimille, joihin liittyy tiettyä tekoälyjärjestelmien käyttöä, on ominaista huomattava vallan epätasapaino, ja ne voivat johtaa luonnollisen henkilön valvontaan, pidättämiseen tai vapaudenmenetykseen sekä muihin perusoikeuskirjassa taattuihin perusoikeuksiin kohdistuviin haitallisiin vaikutuksiin. Erityisesti jos tekoälyjärjestelmää ei ole koulutettu laadukkaalla datalla, se ei täytä riittäviä vaatimuksia suorituskykynsä, tarkkuutensa tai luotettavuutensa suhteen, tai sitä ei ole suunniteltu ja testattu asianmukaisesti ennen markkinoille saattamista tai muuta käyttöönottoa, se voi valikoida henkilöitä syrjivästi tai muulla tavoin väärin tai epäoikeudenmukaisesti. Lisäksi merkittävien menettelyllisten perusoikeuksien, joita ovat muun muassa oikeus tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen sekä oikeus puolustukseen ja syyttömyysolettama, käyttö voisi vaikeutua erityisesti silloin, kun tällaiset tekoälyjärjestelmät eivät ole riittävän läpinäkyviä, selitettävissä olevia ja dokumentoituja. Sen vuoksi on aiheellista luokitella suuririskisiksi joukko tekoälyjärjestelmiä, jotka on tarkoitettu käytettäviksi lainvalvonnan yhteydessä, kun tarkkuus, luotettavuus ja läpinäkyvyys ovat erityisen tärkeitä haitallisten vaikutusten välttämiseksi, kansalaisten luottamuksen säilyttämiseksi sekä vastuuvelvollisuuden ja tehokkaiden oikeussuojakeinojen varmistamiseksi. Kun otetaan huomioon kyseessä olevien toimintojen luonne ja niihin liittyvät riskit, näihin suuririskisiin tekoälyjärjestelmiin olisi katsottava kuuluvan erityisesti tekoälyjärjestelmät, joita on tarkoitus käyttää lainvalvontaviranomaisten toimesta tai puolesta tai joita unionin virastojen, laitosten tai elinten on tarkoitus käyttää lainvalvontaviranomaisten tukemiseksi valheenpaljastuksessa ja vastaavissa välineissä , sikäli kuin niiden käyttö on asiaankuuluvan unionin lainsäädännön ja kansallisen lainsäädännön mukaan sallittua, todistusaineiston luotettavuuden arviointiin rikosoikeudellisissa menettelyissä , rikosten paljastamisen, tutkimisen tai rikoksiin liittyvien syytetoimien yhteydessä tapahtuvaan profilointiin tai luonnollisia henkilöitä koskevaan rikosanalyysiin. Tekoälyjärjestelmiä, jotka on erityisesti tarkoitettu käytettäviksi vero- ja tulliviranomaisten hallinnollisissa menettelyissä, ei pitäisi luokitella suuririskisiksi tekoälyjärjestelmiksi , joita lainvalvontaviranomaiset käyttävät rikosten ennalta estämiseen, tutkimiseen, paljastamiseen tai rikoksiin liittyviin syytetoimiin. Lainvalvonta- ja oikeusviranomaisten harjoittama tekoälyn käyttö ei saisi lisätä eriarvoisuutta, sosiaalista eriytymistä tai syrjäytymistä. Tekoälyvälineiden käytön vaikutuksia rikoksesta epäiltyjen puolustusoikeuksiin ei pitäisi jättää huomiotta, etenkään vaikeuksia saada niiden toimintaa koskevia merkityksellisiä tietoja ja siitä erityisesti tutkinnan kohteena oleville henkilöille aiheutuvaa ongelmaa haastaa tekoälyvälineiden tulokset tuomioistuimessa.

(39)

Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joita muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa vastaavien toimivaltaisten viranomaisten on tarkoitus käyttää valheenpaljastimina ja vastaavina välineinä tai luonnollisen henkilön emotionaalisen tilan havaitsemiseen; jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; sekä toimivaltaisten viranomaisten avustamiseen turvapaikka-, viisumi- ja oleskelulupahakemusten ja niihin liittyvien valitusten käsittelyssä, kun tavoitteena on vahvistaa asemaa hakevien luonnollisten henkilöiden kelpoisuus. Tämän asetuksen soveltamisalaan kuuluvien muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan alan tekoälyjärjestelmien olisi oltava Euroopan parlamentin ja neuvoston direktiivissä 2013/32/EU (49), Euroopan parlamentin ja neuvoston asetuksessa (EY) N:o 810/2009 (50) ja muussa asiaa koskevassa lainsäädännössä säädettyjen asiaankuuluvien menettelyvaatimusten mukaisia.

(39)

Muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa käytettävät tekoälyjärjestelmät vaikuttavat ihmisiin, jotka ovat usein erityisen haavoittuvassa asemassa ja riippuvaisia toimivaltaisten viranomaisten toimien tuloksista. Näissä yhteyksissä käytettävien tekoälyjärjestelmien tarkkuus, syrjimätön luonne ja läpinäkyvyys on sen vuoksi erityisen tärkeää, jotta voidaan taata asianomaisten henkilöiden perusoikeuksien kunnioittaminen, erityisesti heidän oikeutensa vapaaseen liikkuvuuteen, syrjimättömyyteen, yksityiselämän ja henkilötietojen suojaan, kansainväliseen suojeluun ja hyvään hallintoon. Sen vuoksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joita on tarkoitus käyttää toimivaltaisten viranomaisten toimesta tai puolesta tai joita muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan tehtävistä vastaavien unionin virastojen, laitosten tai elinten on tarkoitus käyttää valheenpaljastuksessa ja vastaavissa välineissä, sikäli kuin niiden käyttö on asiaankuuluvan unionin lainsäädännön ja kansallisen lainsäädännön mukaan sallittua, jäsenvaltion alueelle saapuvien tai viisumia tai turvapaikkaa hakevien luonnollisten henkilöiden aiheuttamien tiettyjen riskien arvioimiseen; luonnollisten henkilöiden asiaa koskevien asiakirjojen aitouden tarkistamiseen; toimivaltaisten viranomaisten avustamiseen turvapaikka-, viisumi- ja oleskelulupahakemuksia ja niihin liittyviä valituksia koskevan näytön todenperäisyyden käsittelyssä ja arvioinnissa , kun tavoitteena on vahvistaa asemaa hakevien luonnollisten henkilöiden kelpoisuus ; henkilötietojen valvontaan, tarkkailuun tai käsittelyyn rajavalvonnassa luonnollisten henkilöiden havaitsemista, tunnistamista tai henkilöllisyyden määrittämistä varten; muuttoliikkeeseen ja rajanylityksiin liittyvien suuntausten ennakoimiseksi tai ennustamiseksi . Tämän asetuksen soveltamisalaan kuuluvien muuttoliikkeen hallinnan, turvapaikka-asioiden ja rajavalvonnan alan tekoälyjärjestelmien olisi oltava Euroopan parlamentin ja neuvoston direktiivissä 2013/32/EU (49), Euroopan parlamentin ja neuvoston asetuksessa (EY) N:o 810/2009 (50) ja muussa asiaa koskevassa lainsäädännössä säädettyjen asiaankuuluvien menettelyvaatimusten mukaisia. Jäsenvaltioiden tai unionin toimielinten, virastojen ja elinten ei missään tapauksessa tulisi käyttää tekoälyjärjestelmiä muuttoliikkeen hallinnassa, turvapaikka-asioissa ja rajavalvonnassa keinona kiertää pakolaisten oikeusasemasta 28 päivänä heinäkuuta 1951 tehdyn yleissopimuksen, sellaisena kuin se on muutettuna 31 päivänä tammikuuta 1967 tehdyllä pöytäkirjalla, mukaisia kansainvälisiä velvoitteitaan, eikä niitä saisi käyttää millään tavoin palauttamiskiellon periaatteen vastaisesti tai unioniin johtavien turvallisten ja tehokkaiden laillisten väylien epäämiseen, mukaan lukien oikeus kansainväliseen suojeluun.

(40)

Tietyt oikeudenhoitoon ja demokraattisiin prosesseihin tarkoitetut tekoälyjärjestelmät olisi luokiteltava suuririskisiksi ottaen huomioon niiden mahdollinen merkittävä vaikutus demokratiaan, oikeusvaltioon, yksilön vapauksiin sekä oikeuteen tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen. Erityisesti mahdollisten vinoutumien, virheiden ja läpinäkymättömyyden riskeihin puuttumiseksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, joiden tarkoituksena on auttaa oikeusviranomaisia tutkimaan ja tulkitsemaan tosiseikkoja ja lainsäädäntöä sekä soveltamaan lainsäädäntöä konkreettisiin tosiseikkoihin. Tällaista luokitusta ei kuitenkaan pitäisi ulottaa tekoälyjärjestelmiin, jotka on tarkoitettu puhtaasti hallinnollisiin tukitoimiin, jotka eivät vaikuta oikeudenkäyttöön yksittäisissä tapauksissa, kuten tuomioistuinten päätösten, asiakirjojen tai tietojen anonymisointiin tai pseudonymisointiin, henkilöstön väliseen viestintään, hallinnollisiin tehtäviin tai resurssien jakamiseen.

(40)

Tietyt oikeudenhoitoon ja demokraattisiin prosesseihin tarkoitetut tekoälyjärjestelmät olisi luokiteltava suuririskisiksi ottaen huomioon niiden mahdollinen merkittävä vaikutus demokratiaan, oikeusvaltioon, yksilön vapauksiin sekä oikeuteen tehokkaisiin oikeussuojakeinoihin ja puolueettomaan tuomioistuimeen. Erityisesti mahdollisten vinoutumien, virheiden ja läpinäkymättömyyden riskeihin puuttumiseksi on aiheellista luokitella suuririskisiksi tekoälyjärjestelmät, jotka on tarkoitettu oikeusviranomaisten tai hallintoelinten tai näiden puolesta käytettäviksi oikeusviranomaisten tai hallintoelinten auttamiseksi tutkimaan ja tulkitsemaan tosiseikkoja ja lainsäädäntöä sekä soveltamaan lainsäädäntöä konkreettisiin tosiseikkoihin tai käytettäviksi vastaavalla tavalla vaihtoehtoisessa riidanratkaisussa. Tekoälyvälineiden käytöllä voidaan tukea mutta ei saisi korvata tuomareiden päätöksentekovaltaa tai oikeuslaitoksen riippumattomuutta, koska lopullisten päätösten on myös jatkossa oltava ihmisen tekemiä . Tällaista luokitusta ei kuitenkaan pitäisi ulottaa tekoälyjärjestelmiin, jotka on tarkoitettu puhtaasti hallinnollisiin tukitoimiin, jotka eivät vaikuta oikeudenkäyttöön yksittäisissä tapauksissa, kuten tuomioistuinten päätösten, asiakirjojen tai tietojen anonymisointiin tai pseudonymisointiin, henkilöstön väliseen viestintään, hallinnollisiin tehtäviin tai resurssien jakamiseen.

(40 a)

Jotta voidaan puuttua perusoikeuskirjan 39 artiklassa vahvistettuun äänioikeuteen kohdistuviin asiattoman ulkopuolisen sekaantumisen riskeihin sekä riskeihin kohtuuttomista vaikutuksista demokraattisiin prosesseihin, demokratiaan ja oikeusvaltioon, sellaiset tekoälyjärjestelmät olisi luokiteltava suuririskisiksi, jotka on tarkoitettu käytettäviksi vaikuttamaan vaalien tai kansanäänestysten tulokseen tai vaaleissa tai kansanäänestyksissä äänioikeuttaan käyttävien luonnollisten henkilöiden äänestyskäyttäytymiseen, lukuun ottamatta tekoälyjärjestelmiä, joiden tuotoksille luonnolliset henkilöt eivät suoraan altistu, kuten välineet, joita käytetään poliittisten kampanjoiden hallinnolliseen ja logistiseen järjestämiseen, optimointiin ja jäsentämiseen.

(40 b)

Kun otetaan huomioon, missä laajuudessa luonnolliset henkilöt käyttävät erittäin suuriksi verkkoalustoiksi nimettyjen sosiaalisen median alustojen tarjoamia palveluja, tällaisia verkkoalustoja voidaan käyttää tavalla, joka vaikuttaa voimakkaasti verkkoturvallisuuteen, yleisen mielipiteen ja keskustelun muokkaamiseen, vaaleihin ja demokraattisiin prosesseihin sekä yhteiskunnallisiin huolenaiheisiin. Sen vuoksi on asianmukaista, että tätä asetusta sovelletaan näiden verkkoalustojen suosittelujärjestelmissään käyttämiin tekoälyjärjestelmiin, jotta voidaan varmistaa, että tekoälyjärjestelmät täyttävät tässä asetuksessa säädetyt vaatimukset, mukaan lukien datan hallintaa, teknistä dokumentaatiota ja jäljitettävyyttä, avoimuutta, ihmisen suorittamaa valvontaa, tarkkuutta ja luotettavuutta koskevat tekniset vaatimukset. Tämän asetuksen noudattamisen olisi mahdollistettava se, että tällaiset erittäin suuret verkkoalustat voivat noudattaa asetuksen (EU) 2022/2065 34 ja 35 artiklassa säädettyjä laajempia riskinarviointi- ja riskinvähentämisvelvoitteitaan. Tässä asetuksessa säädetyt velvoitteet eivät rajoita asetuksen (EU) 2022/2065 soveltamista, ja niiden olisi täydennettävä asetuksen (EU) 2022/2065 mukaisia velvoitteita, kun sosiaalisen median alusta on nimetty erittäin suureksi verkkoalustaksi. Erittäin suuriksi verkkoalustoiksi nimettyjen sosiaalisen median alustojen Euroopan laajuinen vaikutus huomioon ottaen asetuksen (EU) 2022/2065 nojalla nimettyjen viranomaisten olisi toimittava valvontaviranomaisina tämän säännöksen täytäntöönpanon valvonnassa.

(41)

Sen, että tekoälyjärjestelmä luokitellaan tässä asetuksessa suuririskiseksi, ei pitäisi tulkita osoittavan, että järjestelmän käyttö on välttämättä laillista muiden unionin säädösten tai unionin oikeuden kanssa yhteensopivan kansallisen lainsäädännön nojalla, jota on annettu esimerkiksi henkilötietojen suojasta tai valheenpaljastimien ja vastaavien välineiden tai muiden järjestelmien käytöstä tai luonnollisen henkilön emotionaalisen tilan havaitsemisesta . Tällaisen käytön olisi jatkuttava yksinomaan perusoikeuskirjasta ja sovellettavista unionin johdetun oikeuden säädöksistä ja kansallisesta lainsäädännöstä johtuvien sovellettavien vaatimusten mukaisesti. Tätä asetusta ei pitäisi ymmärtää niin, että siinä säädettäisiin oikeusperustasta henkilötietojen käsittelylle, mukaan lukien tarvittaessa erityiset henkilötietoryhmät.

(41)

Sen, että tekoälyjärjestelmä luokitellaan tässä asetuksessa suuririskiseksi tekoälyjärjestelmäksi , ei pitäisi tulkita osoittavan, että järjestelmän käyttö on välttämättä laillista tai laitonta muiden unionin säädösten tai unionin oikeuden kanssa yhteensopivan kansallisen lainsäädännön nojalla, jota on annettu esimerkiksi henkilötietojen suojasta. Tällaisen käytön olisi jatkuttava yksinomaan perusoikeuskirjasta ja sovellettavista unionin johdetun oikeuden säädöksistä ja kansallisesta lainsäädännöstä johtuvien sovellettavien vaatimusten mukaisesti.

(41 a)

Jo nykyisin useita oikeudellisesti sitovia unionin tason sekä kansallisen ja kansainvälisen tason sääntöjä sovelletaan tekoälyjärjestelmiin tai niillä on tekoälyjärjestelmien kannalta merkitystä. Näitä ovat muun muassa unionin primaarilainsäädäntö (Euroopan unionin perussopimukset ja sen perusoikeuskirja) ja unionin sekundaarilainsäädäntö (esimerkiksi yleinen tietosuoja-asetus, syrjinnän vastaiset direktiivit, konedirektiivi, tuotevastuudirektiivi, asetus muiden kuin henkilötietojen vapaasta liikkuvuudesta, kuluttajalainsäädäntö sekä työterveyttä ja -turvallisuutta koskevat direktiivit) samoin kuin Yhdistyneiden kansakuntien ihmisoikeussopimukset ja Euroopan neuvoston yleissopimukset (kuten Euroopan ihmisoikeussopimus) ja kansalliset lait. Monialaisten sääntöjen lisäksi on olemassa useita tiettyihin tekoälysovelluksiin sovellettavia alakohtaisia sääntöjä (esimerkiksi lääkinnällisiä laitteita koskeva asetus terveydenhuoltoalalla).

(42)

Jotta voidaan vähentää riskejä, joita unionin markkinoille saatetuista tai muuten käyttöön otetuista suuririskisistä tekoälyjärjestelmistä aiheutuu käyttäjille ja asianomaisille henkilöille, olisi sovellettava tiettyjä pakollisia vaatimuksia, joissa otetaan huomioon järjestelmän suunniteltu käyttötarkoitus sekä tarjoajan perustama riskinhallintajärjestelmä.

(42)

Jotta voidaan vähentää riskejä, joita unionin markkinoille saatetuista tai muuten käyttöön otetuista suuririskisistä tekoälyjärjestelmistä aiheutuu käyttöönottajille ja asianomaisille henkilöille, olisi sovellettava tiettyjä pakollisia vaatimuksia, joissa otetaan huomioon järjestelmän suunniteltu käyttötarkoitus ja kohtuudella ennakoitavissa oleva väärinkäyttö sekä tarjoajan perustama riskinhallintajärjestelmä. Näiden vaatimusten olisi oltava tavoitelähtöisiä, tarkoituksenmukaisia, kohtuullisia ja tehokkaita ilman, että ne aiheuttavat toimijoille kohtuutonta sääntelytaakkaa tai kustannuksia.

(43)

Suuririskisiin tekoälyjärjestelmiin olisi sovellettava vaatimuksia, jotka koskevat käytettyjen datajoukkojen laatua, teknistä dokumentaatiota ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttäjille , ihmisen suorittamaa valvontaa sekä luotettavuutta, tarkkuutta ja kyberturvallisuutta. Nämä vaatimukset ovat tarpeen, jotta voidaan tehokkaasti vähentää terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia riskejä, siltä osin kuin niitä esiintyy järjestelmän käyttötarkoituksen perusteella, ja koska muita vähemmän kauppaa rajoittavia toimenpiteitä ei ole kohtuudella käytettävissä, jolloin vältetään perusteettomat kaupan rajoitukset.

(43)

Suuririskisiin tekoälyjärjestelmiin olisi sovellettava vaatimuksia, jotka koskevat käytettyjen datajoukkojen laatua ja merkityksellisyyttä , teknistä dokumentaatiota ja tietojen säilyttämistä, läpinäkyvyyttä ja tietojen antamista käyttöönottajille , ihmisen suorittamaa valvontaa sekä luotettavuutta, tarkkuutta ja kyberturvallisuutta. Nämä vaatimukset ovat tarpeen, jotta voidaan tehokkaasti vähentää terveyteen, turvallisuuteen ja perusoikeuksiin sekä ympäristöön, demokratiaan ja oikeusvaltioon kohdistuvia riskejä, siltä osin kuin niitä esiintyy järjestelmän käyttötarkoituksen tai kohtuudella ennakoitavissa olevan väärinkäytön perusteella, ja koska muita vähemmän kauppaa rajoittavia toimenpiteitä ei ole kohtuudella käytettävissä, jolloin vältetään perusteettomat kaupan rajoitukset.

(44)

Datan korkea laatu on olennaisen tärkeää monien tekoälyjärjestelmien suorituskyvyn kannalta, erityisesti kun käytetään tekniikoita, joihin sisältyy mallien kouluttamista, jotta voidaan varmistaa, että suuririskinen tekoälyjärjestelmä toimii tarkoitetulla tavalla ja turvallisesti eikä siitä tule unionin lainsäädännössä kiellettyä syrjinnän lähdettä . Korkealaatuiset koulutus-, validointi- ja testausdatajoukot edellyttävät asianmukaisia datahallinto- ja hallintakäytäntöjä. Koulutus-, validointi- ja testausdatajoukkojen olisi oltava riittävän merkityksellisiä, edustavia ja virheettömiä ja täydellisiä järjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä olisi lisäksi oltava asianmukaiset tilastolliset ominaisuudet, myös niiden henkilöiden tai henkilöryhmien osalta, joihin suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Koulutus-, validointi- ja testausdatajoukoissa olisi erityisesti otettava niiden käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaispiirteet, ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle tai asiayhteydelle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Jotta voitaisiin suojella muita tekoälyjärjestelmissä esiintyvästä vinoutumisesta mahdollisesti johtuvalta syrjinnältä, tarjoajien olisi voitava käsitellä myös erityisiä henkilötietoryhmiä tärkeän yleisen edun nimissä, jotta voidaan varmistaa suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seuranta, havaitseminen ja korjaaminen.

(44)

Korkealaatuisen datan saatavuudella on ensisijainen rooli monien tekoälyjärjestelmien rakenteen ja suorituskyvyn varmistamisen kannalta, erityisesti kun käytetään tekniikoita, joihin sisältyy mallien kouluttamista, jotta voidaan varmistaa, että suuririskinen tekoälyjärjestelmä toimii tarkoitetulla tavalla ja turvallisesti eikä siitä tule yksi unionin lainsäädännössä kielletyistä syrjinnän lähteistä . Korkealaatuiset koulutus-, validointi- ja testausdatajoukot edellyttävät asianmukaisia datahallinto- ja hallintakäytäntöjä. Koulutus- ja tarpeen mukaan validointi- ja testausdatajoukkojen sekä tunnisteiden olisi oltava riittävän merkityksellisiä, edustavia , asianmukaisesti tarkistettu virheiden varalta ja mahdollisimman täydellisiä järjestelmän suunniteltuun käyttötarkoitukseen nähden. Niillä olisi lisäksi oltava asianmukaiset tilastolliset ominaisuudet, myös niiden henkilöiden tai henkilöryhmien osalta, joihin liittyen suuririskistä tekoälyjärjestelmää on tarkoitus käyttää , ja erityisesti olisi pyrittävä vähentämään datajoukkojen mahdollisia vinoutumia, jotka voivat johtaa niiden henkilöiden perusoikeuksien vaarantumiseen, joihin suuririskinen tekoälyjärjestelmä vaikuttaa, tai heitä syrjiviin tuloksiin. Taustalla oleviin datajoukkoihin voi esimerkiksi sisältyä vinoutumia erityisesti silloin, kun käytetään historiallisia tietoja, algoritmien kehittäjät ottavat ne käyttöön tai kun järjestelmät otetaan käyttöön todellisissa olosuhteissa. Dataan sisältyvät vinoutumat vaikuttavat tekoälyjärjestelmien tuottamiin tuloksiin, ja tällaisilla vinoutumilla on taipumus vähitellen lisääntyä ja siten ylläpitää ja lisätä olemassa olevaa syrjintää erityisesti tiettyihin haavoittuvassa asemassa oleviin tai etnisiin ryhmiin tai rodullistettuihin yhteisöihin kuuluvien henkilöiden osalta. Koulutus-, validointi- ja testausdatajoukoissa olisi erityisesti otettava niiden käyttötarkoituksen edellyttämässä laajuudessa huomioon ne ominaispiirteet, ominaisuudet tai osatekijät, jotka ovat ominaisia sille maantieteelliselle, kontekstuaaliselle, käyttäytymiseen liittyvälle tai toiminnalliselle ympäristölle tai asiayhteydelle, jossa suuririskistä tekoälyjärjestelmää on tarkoitus käyttää. Jotta voitaisiin suojella muita tekoälyjärjestelmissä esiintyvästä vinoutumisesta mahdollisesti johtuvalta syrjinnältä, tarjoajien olisi poikkeuksellisesti ja kaikkien tässä asetuksessa sekä asetuksessa (EU) 2016/679, direktiivissä (EU) 2016/680 ja asetuksessa (EU) 2018/1725 säädettyjen sovellettavien edellytysten mukaisesti voitava käsitellä myös erityisiä henkilötietoryhmiä tärkeän yleisen edun nimissä, jotta voidaan varmistaa suuririskisiin tekoälyjärjestelmiin liittyvien vinoutumien seuranta, havaitseminen ja korjaaminen. Vinoutuma olisi ymmärrettävä siten, että se aiheuttaa luonnolliseen henkilöön kohdistuvaa suoraa tai välillistä syrjivää vaikutusta. Datan hallintaan liittyviä vaatimuksia voidaan noudattaa turvautumalla kolmansiin osapuoliin, jotka tarjoavat sertifioituja säännösten noudattamista koskevia palveluja, mukaan lukien datan hallinnan, datajoukon eheyden sekä datakoulutus-, validointi- ja testauskäytäntöjen todentaminen.

(45)

Suuririskisten tekoälyjärjestelmien kehittämiseksi tiettyjen toimijoiden, esimerkiksi tarjoajien, ilmoitettujen laitosten ja muiden asiaankuuluvien tahojen, kuten digitaali-innovaatiokeskittymien, testauslaitosten ja tutkijoiden, olisi voitava saada käyttöönsä ja käyttää korkealaatuisia datajoukkoja tähän asetukseen liittyvillä toiminta-aloillaan. Komission perustama yhteinen eurooppalainen data-avaruus ja datan jakamisen helpottaminen yritysten välillä ja viranomaisten kanssa yleisen edun nimissä ovat ratkaisevan tärkeitä, jotta voidaan tarjota luotettava, vastuullinen ja syrjimätön pääsy korkealaatuiseen dataan tekoälyjärjestelmien koulutusta, validointia ja testausta varten. Esimerkiksi terveydenhuollon alalla eurooppalainen terveysdata-avaruus helpottaa terveysdatan syrjimätöntä saatavuutta ja tekoälyalgoritmien koulutusta näillä datajoukoilla yksityisyyden suojaavalla, turvallisella, oikea-aikaisella, läpinäkyvällä ja luotettavalla tavalla ja asianmukaisen institutionaalisen hallinnon alaisena. Asiaankuuluvat toimivaltaiset viranomaiset, myös alakohtaiset viranomaiset, jotka tarjoavat dataa tai tukevat datan saatavuutta, voivat myös tukea korkealaatuisen datan tarjoamista tekoälyjärjestelmien koulutusta, validointia ja testausta varten.

(45)

Suuririskisten tekoälyjärjestelmien kehittämiseksi ja arvioimiseksi tiettyjen toimijoiden, esimerkiksi tarjoajien, ilmoitettujen laitosten ja muiden asiaankuuluvien tahojen, kuten digitaali-innovaatiokeskittymien, testauslaitosten ja tutkijoiden, olisi voitava saada käyttöönsä ja käyttää korkealaatuisia datajoukkoja tähän asetukseen liittyvillä toiminta-aloillaan. Komission perustama yhteinen eurooppalainen data-avaruus ja datan jakamisen helpottaminen yritysten välillä ja viranomaisten kanssa yleisen edun nimissä ovat ratkaisevan tärkeitä, jotta voidaan tarjota luotettava, vastuullinen ja syrjimätön pääsy korkealaatuiseen dataan tekoälyjärjestelmien koulutusta, validointia ja testausta varten. Esimerkiksi terveydenhuollon alalla eurooppalainen terveysdata-avaruus helpottaa terveysdatan syrjimätöntä saatavuutta ja tekoälyalgoritmien koulutusta näillä datajoukoilla yksityisyyden suojaavalla, turvallisella, oikea-aikaisella, läpinäkyvällä ja luotettavalla tavalla ja asianmukaisen institutionaalisen hallinnon alaisena. Asiaankuuluvat toimivaltaiset viranomaiset, myös alakohtaiset viranomaiset, jotka tarjoavat dataa tai tukevat datan saatavuutta, voivat myös tukea korkealaatuisen datan tarjoamista tekoälyjärjestelmien koulutusta, validointia ja testausta varten.

(45 a)

Oikeus yksityisyyteen ja henkilötietojen suojaan on taattava tekoälyjärjestelmän koko elinkaaren ajan. Tässä yhteydessä oleellisen tärkeitä ovat tietojen minimoinnin ja sisäänrakennetun ja oletusarvoisen tietosuojan periaatteet, sellaisina kuin niistä säädetään unionin tietosuojalainsäädännössä, kun tietojen käsittelyyn sisältyy yksityishenkilöiden perusoikeuksiin kohdistuvia huomattavia riskejä. Tekoälyjärjestelmien tarjoajien ja käyttäjien olisi toteutettava viimeisintä teknistä kehitystä edustavia ja organisatorisia toimenpiteitä näiden oikeuksien suojelemiseksi. Toimenpiteisiin olisi anonymisoinnin ja salauksen lisäksi sisällyttävä myös sellaisten yhä laajemmin saatavilla olevien tekniikoiden käyttö, jotka mahdollistavat algoritmien tuomisen dataan ja auttavat saamaan arvokasta tietoa ilman, että raakadataa tai strukturoitua dataa välitetään osapuolten kesken tai kopioidaan tarpeettomasti.

(46)

Tämän asetuksen vaatimusten noudattamisen todentamisen kannalta on olennaisen tärkeää saada tietoa siitä, miten suuririskiset tekoälyjärjestelmät on kehitetty ja miten ne toimivat koko niiden elinkaaren ajan. Tämä edellyttää, että tiedot säilytetään ja että saatavilla on tekninen dokumentaatio, joka sisältää tiedot, joita tarvitaan sen arvioimiseksi, onko tekoälyjärjestelmä asiaankuuluvien vaatimusten mukainen. Tällaisiin tietoihin olisi sisällyttävä järjestelmän yleiset ominaisuudet, valmiudet ja rajoitukset, algoritmit, data, koulutus-, testaus- ja validointiprosessit sekä sovellettua riskinhallintajärjestelmää koskevat asiakirjat. Tekninen dokumentaatio olisi pidettävä ajan tasalla.

(46)

Tämän asetuksen vaatimusten noudattamisen todentamisen kannalta on olennaisen tärkeää saada ymmärrettävää tietoa siitä, miten suuririskiset tekoälyjärjestelmät on kehitetty ja miten ne toimivat koko niiden käyttöiän ajan. Tämä edellyttää, että tiedot säilytetään ja että saatavilla on tekninen dokumentaatio, joka sisältää tiedot, joita tarvitaan sen arvioimiseksi, onko tekoälyjärjestelmä asiaankuuluvien vaatimusten mukainen. Tällaisiin tietoihin olisi sisällyttävä järjestelmän yleiset ominaisuudet, valmiudet ja rajoitukset, algoritmit, data, koulutus-, testaus- ja validointiprosessit sekä sovellettua riskinhallintajärjestelmää koskevat asiakirjat. Tekninen dokumentaatio olisi pidettävä asianmukaisesti ajan tasalla tekoälyjärjestelmän koko elinkaaren ajan . Tekoälyjärjestelmillä voi elinkaarensa aikana olla merkittäviä ympäristövaikutuksia, ja ne voivat kuluttaa paljon energiaa. Jotta voidaan saada parempi käsitys tekoälyjärjestelmien ympäristövaikutuksista, tarjoajien laatimaan tekniseen dokumentaatioon olisi sisällyttävä tiedot tekoälyjärjestelmän energiankulutuksesta, myös kehitysvaiheen aikaisesta kulutuksesta ja odotetusta kulutuksesta sen käytön aikana. Tällaisissa tiedoissa olisi otettava huomioon asiaankuuluva unionin ja kansallinen lainsäädäntö. Annettujen tietojen olisi oltava ymmärrettäviä, vertailukelpoisia ja todennettavia, ja tätä varten komission olisi laadittava ohjeet mittausta ja tietojen raportointia koskevista yhdenmukaisista menetelmistä. Sen varmistamiseksi, että yksi ainoa dokumentaatio on mahdollinen, vaadittuun dokumentaatioon ja asiaankuuluvassa unionin lainsäädännössä mahdollisesti vaadittavaan dokumentaatioon liittyvien termien ja määritelmien olisi oltava mahdollisimman yhdenmukaisia.

(46 a)

Tekoälyjärjestelmissä olisi otettava huomioon viimeisintä kehitystä edustavat menetelmät ja asiaankuuluvat sovellettavat normit energiankäytön, luonnonvarojen käytön ja jätteen vähentämiseksi sekä niiden energiatehokkuuden ja järjestelmien yleisen tehokkuuden parantamiseksi. Tämän asetuksen soveltamisen kannalta merkittäviä tekoälyjärjestelmien ympäristönäkökohtia ovat tekoälyjärjestelmän energiankulutus kehitys-, koulutus- ja käyttöönottovaiheessa sekä näiden tietojen kirjaaminen, raportointi ja tallentaminen. Tekoälyjärjestelmien suunnittelun olisi mahdollistettava energian ja luonnonvarojen kulutuksen mittaaminen ja asiaan liittyvien lokitietojen tuottaminen jokaisessa kehitys-, koulutus- ja käyttöönottovaiheessa. Tekoälyjärjestelmien päästöjen seurannan ja raportoinnin on oltava luotettavaa, avointa, johdonmukaista ja täsmällistä. Jotta voidaan varmistaa tämän asetuksen yhdenmukainen soveltaminen ja vakaa oikeudellinen ekosysteemi tarjoajille ja käyttöönottajille sisämarkkinoilla, komission olisi laadittava yhteiset eritelmät menetelmistä energian ja luonnonvarojen kulutusta kehitys-, koulutus- ja käyttöönottovaiheessa koskevan raportointi- ja dokumentointivaatimuksen täyttämiseksi. Tällaisilla mittausmenetelmiä koskevilla yhteisillä eritelmillä voidaan luoda perustaso, jonka perusteella komissio voi paremmin päättää, tarvitaanko tulevia sääntelytoimia, tehtyään vaikutustenarvioinnin, jossa otetaan huomioon voimassa oleva lainsäädäntö.

(46 b)

Tämän asetuksen tavoitteiden saavuttamiseksi ja unionin ympäristötavoitteiden edistämiseksi samalla kun varmistetaan sisämarkkinoiden moitteeton toiminta voi olla tarpeen antaa kestävyyttä koskevia suosituksia ja ohjeita sekä mahdollisesti asettaa sitä koskevia tavoitteita. Tätä varten komissiolla on oikeus kehittää menetelmä, jolla edistetään keskeisten tulosindikaattoreiden ja kestävän kehityksen tavoitteita koskevan viitekehyksen käyttöönottoa. Tavoitteena olisi ensisijaisesti oltava, että mahdollistetaan oikeudenmukainen vertailu tekoälyn täytäntöönpanovalintojen välillä ja tarjotaan kannustimia tehokkaampien tekoälyteknologioiden käytön edistämiseksi ja energia- ja luonnonvarakysymysten käsittelemiseksi. Tämän tavoitteen saavuttamiseksi tässä asetuksessa olisi säädettävä keinoista kehitys- ja koulutusvaiheen sekä käyttöönoton päästöistä ilmoitettujen tietojen perustason keräämisen järjestämiseksi.

(47a)

Tällaisten tekoälyn päätöksenteon läpinäkyvyyttä ja selitettävyyttä koskevien vaatimusten olisi myös autettava torjumaan digitaaliseen epäsymmetriaan sekä yksilöihin ja heidän tietoiseen suostumukseen kohdistettuun dark patterns -tekniikkaan liittyviä pelotevaikutuksia.

(49)

Suuririskisten tekoälyjärjestelmien olisi toimittava johdonmukaisesti koko elinkaarensa ajan ja saavutettava asianmukainen tarkkuuden, luotettavuuden ja kyberturvallisuuden taso yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti. Tarkkuustaso ja tarkkuusmittarit olisi ilmoitettava käyttäjille .

(49)

Suuririskisten tekoälyjärjestelmien olisi toimittava johdonmukaisesti koko elinkaarensa ajan ja saavutettava asianmukainen tarkkuuden, luotettavuuden ja kyberturvallisuuden taso yleisesti tunnustetun alan viimeisimmän kehityksen mukaisesti. Suorituskykymittarit ja niiden odotettu taso olisi määriteltävä niin, että ensisijaisena tavoitteena on tekoälyjärjestelmän riskien ja kielteisten vaikutusten vähentäminen. Suorituskykymittareiden odotettu taso olisi ilmoitettava käyttöönottajille selkeästi, avoimesti, helppotajuisesti ja ymmärrettävästi. Suorituskykymittareiden ilmoittamista ei voida pitää todisteena tulevasta tasosta, vaan on sovellettava asiaankuuluvia menetelmiä yhdenmukaisen tason varmistamiseksi käytön aikana. Olemassa olevat standardointiorganisaatiot voivat vahvistaa standardit mutta vertailuanalyyseja on koordinoitava sen määrittämiseksi, miten tekoälyjärjestelmien standardoituja vaatimuksia ja ominaisuuksia olisi mitattava. Euroopan tekoälyviraston olisi tuotava yhteen kansalliset ja kansainväliset metrologia- ja vertailuanalyysiviranomaiset ja annettava ei-sitovaa ohjeistusta, jotta voidaan ratkaista asianmukaisen suorituskyvyn ja luotettavuuden tasojen mittaamiseen liittyvät tekniset näkökohdat.

(50)

Tekninen luotettavuus on yksi suuririskisten tekoälyjärjestelmien keskeinen vaatimus. Niiden olisi kestettävä järjestelmän rajoituksiin liittyviä riskejä (esim. virheet, viat, epäjohdonmukaisuudet, odottamattomat tilanteet) sekä ilkivaltaisia toimia, jotka voivat vaarantaa tekoälyjärjestelmän turvallisuuden ja johtaa haitalliseen tai muuten ei-toivottuun käyttäytymiseen. Se, ettei näiltä riskeiltä suojauduta, voi johtaa turvallisuusvaikutuksiin tai vaikuttaa kielteisesti perusoikeuksiin esimerkiksi virheellisten päätösten tai tekoälyjärjestelmän tuottamien väärien tai puolueellisten tulosten vuoksi.

(50)

Tekninen luotettavuus on yksi suuririskisten tekoälyjärjestelmien keskeinen vaatimus. Niiden olisi kestettävä järjestelmän rajoituksiin liittyviä riskejä (esim. virheet, viat, epäjohdonmukaisuudet, odottamattomat tilanteet) sekä ilkivaltaisia toimia, jotka voivat vaarantaa tekoälyjärjestelmän turvallisuuden ja johtaa haitalliseen tai muuten ei-toivottuun käyttäytymiseen. Se, ettei näiltä riskeiltä suojauduta, voi johtaa turvallisuusvaikutuksiin tai vaikuttaa kielteisesti perusoikeuksiin esimerkiksi virheellisten päätösten tai tekoälyjärjestelmän tuottamien väärien tai puolueellisten tulosten vuoksi. Tekoälyjärjestelmän käyttäjien olisi toteutettava toimia, joilla varmistetaan, ettei mahdollinen kompromissi luotettavuuden ja tarkkuuden välillä johda vähemmistöön kuuluvien alaryhmien kannalta syrjiviin tai kielteisiin tuloksiin.

(51)

Kyberturvallisuudella on ratkaiseva merkitys varmistettaessa, että tekoälyjärjestelmät kestävät järjestelmän haavoittuvuuksia hyödyntävien vihamielisten kolmansien osapuolten yritykset muuttaa niiden käyttöä, käyttäytymistä tai suorituskykyä tai vaarantaa niiden turvallisuusominaisuudet. Tekoälyjärjestelmiin kohdistuvissa kyberhyökkäyksissä voidaan käyttää hyväksi tekoälyyn liittyviä resursseja, kuten koulutusdatajoukkoja (esim. datamyrkytys) tai koulutettuja malleja (esim. kontradiktoriset hyökkäykset), tai hyödyntää tekoälyjärjestelmän digitaalisten resurssien tai taustalla olevan tieto- ja viestintätekniikkainfrastruktuurin haavoittuvuuksia. Jotta voidaan varmistaa riskeihin nähden asianmukainen kyberturvallisuuden taso, suuririskisten tekoälyjärjestelmien tarjoajien olisi toteutettava asianmukaisia toimenpiteitä ottaen tarvittaessa huomioon myös taustalla oleva tieto- ja viestintätekniikkainfrastruktuuri.

(51)

Kyberturvallisuudella on ratkaiseva merkitys varmistettaessa, että tekoälyjärjestelmät kestävät järjestelmän haavoittuvuuksia hyödyntävien vihamielisten kolmansien osapuolten yritykset muuttaa niiden käyttöä, käyttäytymistä tai suorituskykyä tai vaarantaa niiden turvallisuusominaisuudet. Tekoälyjärjestelmiin kohdistuvissa kyberhyökkäyksissä voidaan käyttää hyväksi tekoälyyn liittyviä resursseja, kuten koulutusdatajoukkoja (esim. datamyrkytys) tai koulutettuja malleja (esim. kontradiktoriset hyökkäykset tai luottamuksellisuuteen kohdistuvat hyökkäykset ), tai hyödyntää tekoälyjärjestelmän digitaalisten resurssien tai taustalla olevan tieto- ja viestintätekniikkainfrastruktuurin haavoittuvuuksia. Jotta voidaan varmistaa riskeihin nähden asianmukainen kyberturvallisuuden taso, suuririskisten tekoälyjärjestelmien tarjoajien sekä ilmoitettujen laitosten, toimivaltaisten kansallisten viranomaisten ja markkinavalvontaviranomaisten olisi toteutettava asianmukaisia toimenpiteitä ottaen tarvittaessa huomioon myös taustalla oleva tieto- ja viestintätekniikkainfrastruktuuri. Suuririskisiin tekoälyjärjestelmiin olisi oltava saatavilla turvaratkaisuja ja korjaustiedostoja tuotteen koko käyttöiän ajan tai tuoteneutraaleissa tapauksissa valmistajan ilmoittaman ajan.

(53 a)

Vammaisten henkilöiden oikeuksia koskevan Yhdistyneiden kansakuntien yleissopimuksen allekirjoittajina unioni ja jäsenvaltiot ovat oikeudellisesti velvoitettuja suojelemaan vammaisia henkilöitä syrjinnältä ja edistämään heidän yhdenvertaisuuttaan, varmistamaan, että vammaiset henkilöt voivat käyttää tieto- ja viestintäteknologiaa ja -järjestelmiä yhdenvertaisesti muiden kanssa, ja varmistamaan vammaisten henkilöiden yksityisyyden kunnioittamisen. Koska tekoälyjärjestelmät ovat yhä tärkeämpiä ja niitä käytetään yhä enemmän, yleismaailmallisten suunnitteluperiaatteiden soveltamisella kaikkiin uusiin teknologioihin ja palveluihin olisi varmistettava kaikille, joihin tekoälyteknologia mahdollisesti vaikuttaa tai jotka käyttävät sitä, myös vammaisille henkilöille, täysimääräinen, tasapuolinen ja rajoittamaton mahdollisuus käyttää niitä tavalla, jossa otetaan kaikilta osin huomioon heidän ihmisarvonsa ja monimuotoisuutensa. Sen vuoksi on olennaisen tärkeää, että tarjoajat varmistavat esteettömyysvaatimusten, kuten direktiivin (EU) 2016/2102 ja direktiivin (EU) 2019/882, täysimääräisen noudattamisen. Tarjoajien olisi varmistettava, että näitä vaatimuksia noudatetaan sisäänrakennetusti. Sen vuoksi tarvittavat toimenpiteet olisi sisällytettävä mahdollisuuksien mukaan suuririskisen tekoälyjärjestelmän suunnitteluun.

(54)

Tarjoajan olisi perustettava luotettava laadunhallintajärjestelmä, varmistettava vaaditun vaatimustenmukaisuuden arviointimenettelyn suorittaminen, laadittava asiaa koskeva dokumentaatio ja perustettava vankka markkinoille saattamisen jälkeinen seurantajärjestelmä. Viranomaiset, jotka ottavat käyttöön suuririskisiä tekoälyjärjestelmiä omaan käyttöönsä, voivat tarvittaessa hyväksyä ja panna täytäntöön laadunhallintajärjestelmää koskevat säännöt osana kansallisella tai alueellisella tasolla hyväksyttyä laadunhallintajärjestelmää ottaen huomioon alan erityispiirteet ja kyseisen viranomaisen toimivallan ja organisaation.

(54)

Tarjoajan olisi perustettava luotettava laadunhallintajärjestelmä, varmistettava vaaditun vaatimustenmukaisuuden arviointimenettelyn suorittaminen, laadittava asiaa koskeva dokumentaatio ja perustettava vankka markkinoille saattamisen jälkeinen seurantajärjestelmä. Tarjoajilta, joilla on jo käytössä standardeihin, kuten ISO 9001 -standardiin tai muihin asiaankuuluviin standardeihin, perustuvia laadunhallintajärjestelmiä, ei pitäisi edellyttää täysimääräistä päällekkäistä laadunhallintajärjestelmää vaan pikemmin tarjoajien nykyisten järjestelmien mukauttamista tämän asetuksen erityisvaatimusten noudattamiseen liittyvien tiettyjen näkökohtien mukaisesti. Tämä olisi otettava huomioon myös tulevassa standardoinnissa tai komission antamissa asiaa koskevissa ohjeissa. Viranomaiset, jotka ottavat käyttöön suuririskisiä tekoälyjärjestelmiä omaan käyttöönsä, voivat tarvittaessa hyväksyä ja panna täytäntöön laadunhallintajärjestelmää koskevat säännöt osana kansallisella tai alueellisella tasolla hyväksyttyä laadunhallintajärjestelmää ottaen huomioon alan erityispiirteet ja kyseisen viranomaisen toimivallan ja organisaation.

(56)

Tämän asetuksen täytäntöönpanon mahdollistamiseksi ja tasapuolisten toimintaedellytysten luomiseksi toimijoille ja ottaen huomioon digitaalisten tuotteiden saataville asettamisen eri muodot on tärkeää varmistaa, että unioniin sijoittautunut henkilö voi kaikissa olosuhteissa antaa viranomaisille kaikki tarvittavat tiedot tekoälyjärjestelmän vaatimustenmukaisuudesta. Siksi jos maahantuojaa ei voida yksilöidä, unionin ulkopuolelle sijoittautuneiden tarjoajien on ennen tekoälyjärjestelmiensä asettamista saataville unionin markkinoilla nimettävä kirjallisella toimeksiannolla unioniin sijoittautunut valtuutettu edustaja.

(56)

Tämän asetuksen täytäntöönpanon mahdollistamiseksi ja tasapuolisten toimintaedellytysten luomiseksi toimijoille ja ottaen huomioon digitaalisten tuotteiden saataville asettamisen eri muodot on tärkeää varmistaa, että unioniin sijoittautunut henkilö voi kaikissa olosuhteissa antaa viranomaisille kaikki tarvittavat tiedot tekoälyjärjestelmän vaatimustenmukaisuudesta. Siksi unionin ulkopuolelle sijoittautuneiden tarjoajien on ennen tekoälyjärjestelmiensä asettamista saataville unionin markkinoilla nimettävä kirjallisella toimeksiannolla unioniin sijoittautunut valtuutettu edustaja.

(58)

Kun otetaan huomioon tekoälyjärjestelmien luonne ja niiden käyttöön mahdollisesti liittyvät turvallisuuteen ja perusoikeuksiin kohdistuvat riskit, mukaan lukien tarve varmistaa tekoälyjärjestelmän suorituskyvyn asianmukainen seuranta todellisissa olosuhteissa, on asianmukaista asettaa käyttäjille erityisiä vastuita. Käyttäjien olisi erityisesti käytettävä suuririskisiä tekoälyjärjestelmiä käyttöohjeiden mukaisesti, ja tarvittaessa olisi säädettävä tietyistä muista tekoälyjärjestelmien toiminnan seurantaa ja tietojen säilyttämistä koskevista velvoitteista.

(58)

Kun otetaan huomioon tekoälyjärjestelmien luonne ja niiden käyttöön mahdollisesti liittyvät turvallisuuteen ja perusoikeuksiin kohdistuvat riskit, mukaan lukien tarve varmistaa tekoälyjärjestelmän suorituskyvyn asianmukainen seuranta todellisissa olosuhteissa, on asianmukaista asettaa käyttöönottajille erityisiä vastuita. Käyttöönottajien olisi erityisesti käytettävä suuririskisiä tekoälyjärjestelmiä käyttöohjeiden mukaisesti, ja tarvittaessa olisi säädettävä tietyistä muista tekoälyjärjestelmien toiminnan seurantaa ja tietojen säilyttämistä koskevista velvoitteista.

(58 a)

Vaikka tekoälyjärjestelmiin liittyvät riskit voivat olla seurausta tavasta, jolla tällaiset järjestelmät suunnitellaan, riskit voivat myös johtua siitä, miten tällaisia tekoälyjärjestelmiä käytetään. Suuririskisen tekoälyjärjestelmän käyttöönottajilla on siksi ratkaiseva rooli sen varmistamisessa, että perusoikeuksia suojellaan ja että ne täydentävät tarjoajan velvoitteita, kun tekoälyjärjestelmää kehitetään. Käyttöönottajilla on parhaat mahdollisuudet ymmärtää, miten suuririskistä tekoälyjärjestelmää käytetään konkreettisesti, ja näin ollen he voivat tunnistaa mahdollisia merkittäviä riskejä, joita ei ollut ennakoitu kehitysvaiheessa, koska he tuntevat tarkemmin käyttöyhteyden, ihmiset tai ihmisryhmät, joihin vaikutukset todennäköisesti kohdistuvat, mukaan lukien syrjäytyneet ja haavoittuvat ryhmät. Käyttöönottajien olisi yksilöitävä kyseisessä käyttöyhteydessä asianmukaiset hallintorakenteet, kuten ihmisen suorittamaa valvontaa, valitustenkäsittelymenettelyjä ja muutoksenhakumenettelyjä koskevat järjestelyt, koska hallintorakenteita koskevat valinnat voivat olla keskeisessä asemassa lievennettäessä perusoikeuksiin kohdistuvia riskejä konkreettisissa käyttötapauksissa. Jotta voidaan tehokkaasti varmistaa perusoikeuksien suojelu, suuririskisten tekoälyjärjestelmien käyttöönottajien olisi ennen niiden käyttöönottoa tehtävä perusoikeusvaikutusten arviointi. Vaikutustenarviointiin olisi liitettävä yksityiskohtainen suunnitelma, jossa kuvataan toimenpiteitä tai välineitä, jotka auttavat vähentämään yksilöityihin perusoikeuksiin kohdistuvia riskejä viimeistään järjestelmän käyttöönottovaiheessa. Jos tällaista suunnitelmaa ei voida laatia, käyttöönottajan ei pitäisi ottaa järjestelmää käyttöön. Käyttöönottajan olisi vaikutustenarvioinnin toteuttamisvaiheessa ilmoitettava asiasta kansalliselle valvontaviranomaiselle ja mahdollisuuksien mukaan asiaankuuluville sidosryhmille sekä sellaisten henkilöryhmien edustajille, joihin tekoälyjärjestelmä todennäköisesti vaikuttaa, kerätäkseen asiaankuuluvia tietoja, jotka katsotaan tarpeellisiksi vaikutustenarvioinnin suorittamiseksi, ja heitä kannustetaan asettamaan yhteenveto perusoikeusvaikutusten arvioinnistaan julkisesti saataville verkkosivustollaan. Näitä velvoitteita ei pitäisi soveltaa pk-yrityksiin, joiden voi vähäisten resurssien vuoksi olla vaikea järjestää tällaista kuulemista. Näiden olisi kuitenkin myös pyrittävä ottamaan tällaiset edustajat mukaan, kun ne suorittavat perusoikeusvaikutusten arviointiaan. Lisäksi mahdollinen vaikutus ja demokraattisen valvonnan tarve huomioon ottaen suuririskisten tekoälyjärjestelmien käyttöönottajia, jotka ovat viranomaisia tai unionin toimielimiä, elimiä tai laitoksia, tai asetuksen (EU) 2022/1925 nojalla portinvartijaksi nimettyjä yrityksiä, olisi vaadittava rekisteröimään suuririskisten tekoälyjärjestelmien käyttö julkiseen tietokantaan. Muut käyttöönottajat voivat rekisteröidä käytön vapaaehtoisesti.

(59)

Tekoälyjärjestelmän käyttäjän olisi ymmärrettävä tarkoittavan luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, jonka valvonnassa tekoälyjärjestelmää käytetään, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa.

(59)

Tekoälyjärjestelmän käyttöönottajan olisi ymmärrettävä tarkoittavan luonnollista tai oikeushenkilöä, viranomaista, virastoa tai muuta tahoa, jonka valvonnassa tekoälyjärjestelmää käytetään, paitsi jos tekoälyjärjestelmää käytetään henkilökohtaisessa muussa kuin ammattitoiminnassa.

(60)

Tekoälyn arvoketjun monimutkaisuuden vuoksi asiaankuuluvien kolmansien osapuolten, erityisesti ohjelmistojen, ohjelmistotyökalujen ja komponenttien sekä ennalta koulutettujen mallien ja datan myyntiin ja toimittamiseen osallistuvien kolmansien osapuolten tai verkkopalvelujen tarjoajien, olisi tarpeen mukaan tehtävä yhteistyötä tarjoajien ja käyttäjien kanssa, jotta ne voivat noudattaa tämän asetuksen mukaisia velvoitteitaan , sekä tämän asetuksen nojalla perustettujen toimivaltaisten viranomaisten kanssa .

(60)

Tekoälyn arvoketjussa usein useat toimijat toimittavat välineitä ja palveluja mutta myös komponentteja tai prosesseja, jotka tarjoaja sisällyttää tekoälyjärjestelmään, mukaan lukien tietojen keruu ja esikäsittely, mallien kouluttaminen ja uudelleenkouluttaminen, mallien testaus ja arviointi, integrointi ohjelmistoihin tai muut mallien kehittämisen näkökohdat. Toimijat voivat asettaa tarjontansa kaupallisesti saataville suoraan tai välillisesti rajapintojen, kuten sovellusrajapintojen (API), kautta ja jakaa niitä vapaalla ja avoimen lähdekoodin lisenssillä mutta yhä enemmän myös tekoälyn työvoima-alustojen, koulutettujen parametrien edelleenmyynnin ja mallinkehittämisen omatoimipakettien kautta tai tarjoamalla malliarkkitehtuurin maksullista käyttöoikeutta mallien kehittämiseksi ja kouluttamiseksi. Tämän tekoälyn arvoketjun monimutkaisuuden vuoksi kaikkien asiaankuuluvien kolmansien osapuolten, erityisesti ohjelmistotyökalujen, komponenttien, ennalta koulutettujen mallien tai tekoälyjärjestelmään sisällytetyn datan kehittämiseen, myyntiin ja kaupalliseen jakeluun osallistuvien kolmansien osapuolten tai verkkopalvelujen tarjoajien, olisi omia teollis- ja tekijänoikeuksiaan tai liikesalaisuuksiaan vaarantamatta tarpeen mukaan asetettava saataville vaadittava tieto, koulutus tai asiantuntemus ja tehtävä yhteistyötä tarjoajien kanssa, jotta ne voivat valvoa tämän asetuksen soveltamisalaan kuuluvan tekoälyjärjestelmän kaikkia vaatimustenmukaisuuden kannalta olennaisia näkökohtia. Jotta tekoälyn arvoketjun hallinta olisi kustannustehokasta, kunkin kolmannen osapuolen, joka toimittaa tarjoajalle välineen, palvelun, komponentin tai prosessin, jonka tarjoaja myöhemmin sisällyttää tekoälyjärjestelmään, on nimenomaisesti ilmoitettava valvonnan taso.

(60 a)

Jos yhdellä osapuolella on vahvempi neuvotteluasema, on olemassa riski, että kyseinen osapuoli voisi hyödyntää tällaista asemaa toisen sopimuspuolen vahingoksi, kun neuvotellaan suuririskiseen tekoälyjärjestelmään käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamisesta taikka asiaan liittyvien velvoitteiden rikkomista tai lopettamista koskevista oikeussuojakeinoista. Tällainen sopimuksiin liittyvä epätasapaino aiheuttaa erityisesti haittaa mikroyrityksille, pienille ja keskisuurille sekä startup-yrityksille, paitsi jos ne ovat sellaisen yrityksen omistuksessa tai toimivat alihankkijana sellaiselle yritykselle, joka pystyy maksamaan alihankkijalle asianmukaisen korvauksen, koska niillä ei ole valmiuksia neuvotella sopimusehdoista eikä kenties muuta mahdollisuutta kuin hyväksyä yksipuoliset sopimusehdot. Näin ollen kohtuuttomien sopimusehtojen, jotka koskevat suuririskisessä tekoälyjärjestelmässä käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamista taikka asiaan liittyvien velvoitteiden rikkomista tai lopettamista koskevia oikeussuojakeinoja, ei pitäisi sitoa tällaisia mikroyrityksiä, pieniä ja keskisuuria sekä startup-yrityksiä, kun ne on asetettu niille yksipuolisesti.

(60 b)

Sopimusehtoja koskevissa säännöissä olisi otettava huomioon sopimusvapauden periaate, joka on olennainen käsite yritysten välisissä suhteissa. Kohtuuttomuuden arviointia koskevaa testiä ei näin ollen pitäisi tehdä kaikille sopimusehdoille vaan ainoastaan mikroyrityksille, pienille ja keskisuurille sekä startup-yrityksille yksipuolisesti asetetuille ehdoille. Tämä koskee ”ota tai jätä” -tilanteita, joissa toinen osapuoli laatii tietyn sopimusehdon eikä mikroyritys, pieni tai keskisuuri taikka startup-yritys voi vaikuttaa kyseisen ehdon sisältöön, vaikka se yrittää neuvotella siitä. Sopimusehtoa, jonka yksi osapuoli on antanut ja jonka mikroyritys, pieni tai keskisuuri tai startup-yritys on hyväksynyt, tai ehtoa, josta neuvotellaan ja sen jälkeen sovitaan muutetussa muodossa sopimuspuolten välillä, ei pitäisi pitää yksipuolisesti asetettuna ehtona.

(60 c)

Lisäksi kohtuuttomia sopimusehtoja koskevia sääntöjä pitäisi soveltaa ainoastaan sopimuksen niihin osatekijöihin, jotka koskevat suuririskiseen tekoälyjärjestelmään käytettävien tai siihen integroitavien välineiden, palvelujen, komponenttien tai prosessien toimittamista taikka asiaan liittyvien velvoitteiden rikkomista tai lopettamista koskevia oikeussuojakeinoja. Tässä asetuksessa säädettyä kohtuuttomuustestiä ei pitäisi tehdä muille saman sopimuksen osille, jotka eivät liity näihin osatekijöihin.

(60 d)

Kohtuuttomien sopimusehtojen tunnistamisperusteita olisi sovellettava vain liiallisiin sopimusehtoihin, joissa vahvempaa neuvotteluasemaa käytetään väärin. Valtaosa niistä sopimusehdoista, jotka ovat toiselle osapuolelle kaupallisesti edullisempia kuin toiselle, mukaan lukien sopimusehdot, jotka ovat tavanomaisia yritysten välisissä sopimuksissa, ilmentää normaalilla tavalla sopimusvapauden periaatetta, ja niitä sovelletaan edelleen. Jos sopimusehto ei sisälly niiden ehtojen luetteloon, jotka katsotaan aina kohtuuttomiksi, sovelletaan yleistä kohtuuttomuussäännöstä. Tältä osin kohtuuttomien ehtojen luettelossa olevia ehtoja olisi käytettävä mittapuuna tulkittaessa yleistä kohtuuttomuussäännöstä.

(60 e)

Perusmallit edustavat viimeaikaista kehitystä, ja niissä tekoälymalleja kehitetään algoritmeista, jotka on suunniteltu optimoimaan tuotosten yleisyys ja monipuolisuus. Näitä malleja koulutetaan usein monenlaisilla datalähteillä ja suurilla datamäärillä, jotta ne voivat suorittaa kattavasti toimintaketjun loppupään tehtäviä ja myös sellaisia tehtäviä, joita varten niitä ei ole erityisesti kehitetty ja koulutettu. Perusmalli voi olla yksi- tai multimodaalinen, ja sitä voidaan kouluttaa erilaisin menetelmin, kuten ohjatulla oppimisella tai vahvistusoppimisella. Jotakin perusmallia voidaan toteuttaa tietyn käyttötarkoituksen tekoälyjärjestelmillä tai yleiskäyttöisillä tekoälyjärjestelmillä, mikä tarkoittaa, että kutakin perusmallia voidaan käyttää uudelleen lukemattomissa ketjun loppupään tekoälyjärjestelmissä tai yleiskäyttöisissä tekoälyjärjestelmissä. Nämä mallit ovat yhä tärkeämpiä monille ketjun loppupään sovelluksille ja järjestelmille.

(60 f)

Jos perusmallit tarjotaan palveluna, kuten esimerkiksi sovellusrajapintojen kautta, yhteistyön ketjun loppupään tarjoajien kanssa olisi jatkuttava koko sen ajan, jona kyseistä palvelua tarjotaan ja tuetaan, jotta riskien asianmukainen lieventäminen on mahdollista, paitsi jos perusmallin tarjoaja siirtää koulutusmallin sekä välittää kattavat ja asianmukaiset tiedot järjestelmän datajoukoista ja kehittämisprosessista tai rajoittaa palvelua, kuten sovellusrajapintaa, siten, että ketjun loppupään tarjoaja pystyy noudattamaan tätä asetusta täysimääräisesti ilman perusmallin alkuperäisen tarjoajan lisätukea.

(60 g)

Tekoälyjärjestelmien arvoketjun luonteen ja monitahoisuuden vuoksi on tärkeää selkeyttää tekoälyjärjestelmien kehittämiseen osallistuvien toimijoiden roolia. On hyvin epävarmaa, miten perusmallit tulevat kehittymään paitsi luokittelunsa myös niiden itsehallinnon osalta. Sen vuoksi on olennaisen tärkeää selventää perusmallien tarjoajien oikeudellista asemaa. Kun otetaan huomioon näiden mallien monimutkaisuus ja odottamattomat vaikutukset, se, että ketjun loppupään tekoälyn tarjoajalla ei ole määräysvaltaa perusmallin kehittämiseen ja tästä johtuva valtasuhteiden epätasapaino, ja jotta voidaan varmistaa vastuiden oikeudenmukainen jakautuminen tekoälyn arvoketjussa, tällaisiin malleihin olisi sovellettava tämän asetuksen mukaisesti oikeasuhteisia ja täsmällisempiä vaatimuksia ja velvoitteita. Perusmallien yhteydessä olisi arvioitava ja vähennettävä mahdollisia riskejä ja haittoja asianmukaisen suunnittelun, testauksen ja analysoinnin avulla, niissä olisi toteutettava datan hallinnan toimenpiteitä, mukaan lukien vinoutumien arviointi, ja niiden olisi täytettävä tekniset suunnitteluvaatimukset, jotta varmistetaan asiaankuuluvat suorituskyvyn, ennustettavuuden, tulkittavuuden, korjattavuuden, turvallisuuden ja kyberturvallisuuden tasot. Lisäksi niiden olisi oltava ympäristönormien mukaisia. Velvoitteiden lisäksi olisi sovellettava standardeja. Lisäksi perusmalleihin olisi sovellettava tiedonantovelvoitteita ja niihin liittyen olisi laadittava kaikki tarvittava tekninen dokumentaatio, jotta mahdolliset ketjun loppupään tarjoajat voivat täyttää tämän asetuksen mukaiset velvoitteensa. Generatiivisten perusmallien yhteydessä olisi varmistettava avoimuus sen suhteen, että sisällön tuottaa tekoälyjärjestelmä eikä ihminen. Nämä erityisvaatimukset ja -velvoitteet eivät tarkoita sitä, että perusmalleja pidettäisiin suuririskisinä tekoälyjärjestelminä, vaan niillä olisi taattava, että saavutetaan tämän asetuksen tavoitteet, jotka koskevat perusoikeuksien, terveyden ja turvallisuuden, ympäristön, demokratian ja oikeusvaltioperiaatteen suojelun korkean tason varmistamista. Ennalta koulutettuja malleja, jotka on kehitetty suppeampaan, vähemmän yleiseen ja rajoitetumpaan joukkoon sovelluksia, joita ei voida mukauttaa monenlaisiin tehtäviin, kuten yksinkertaisia monikäyttöisiä tekoälyjärjestelmiä, ei olisi pidettävä tässä asetuksessa tarkoitettuina perusmalleina, koska ne ovat paremmin tulkittavissa, minkä vuoksi niiden käyttäytymistä voidaan ennakoida paremmin.

(60 h)

Perusmallien luonteen vuoksi vaatimustenmukaisuuden arviointia koskevaa asiantuntemusta ei ole riittävästi ja kolmannen osapuolen suorittaman tarkastuksen menetelmiä kehitetään edelleen. Ala onkin itse kehittämässä uusia perusmallien arvioinnin tapoja, jotka täyttävät osittain tarkastuksen tavoitteen (esim. mallin arviointi, nk. red teaming -testaus tai koneoppimisen todentamis- ja validointitekniikat). Perusmallien sisäisiä arviointeja olisi voitava soveltaa laajasti (esimerkiksi jakelukanavista, toimintatavoista ja kehitysmenetelmistä riippumattomasti), jotta voidaan puuttua tällaisiin malleihin liittyviin riskeihin ottaen huomioon alan viimeisimmät käytännöt ja keskittyä kehittämään riittävää teknistä ymmärrystä mallista ja sen valvontaa, kohtuullisesti ennakoitavissa olevien riskien hallintaa sekä mallin laajaa analysointia ja testausta asianmukaisin toimenpitein, kuten riippumattomien arvioijien avulla. Koska perusmallit edustavat uutta ja nopeasti etenevää kehitystä tekoälyn alalla, komission ja tekoälytoimiston on asianmukaista seurata ja arvioida säännöllisesti tällaisten mallien lainsäädännön ja hallinnan kehystä ja erityisesti tällaisiin malleihin perustuvien generatiivisten tekoälyjärjestelmien osalta, sillä ne herättävät merkittäviä kysymyksiä unionin oikeuden ja tekijänoikeussääntöjen vastaisen sisällön tuottamisesta ja mahdollisesta väärinkäytöstä. Olisi selvennettävä, että tämä asetus ei saisi vaikuttaa tekijänoikeutta ja lähioikeuksia koskevaan unionin lainsäädäntöön, mukaan lukien Euroopan parlamentin ja neuvoston direktiivit 2001/29/EY, 2004/48/EY ja (EU) 2019/790.

(61)

Standardoinnilla olisi oltava keskeinen rooli, jotta tarjoajien käyttöön saadaan teknisiä ratkaisuja, joilla voidaan varmistaa tämän asetuksen noudattaminen. Tarjoajien olisi voitava osoittaa noudattavansa tämän asetuksen vaatimuksia noudattamalla Euroopan parlamentin ja neuvoston asetuksessa (EU) N:o 1025/ 2012  (54) määriteltyjä yhdenmukaistettuja standardeja. Komissio voisi kuitenkin hyväksyä yhteisiä teknisiä eritelmiä aloilla , joilla ei ole yhdenmukaistettuja standardeja tai joilla ne ovat riittämättömiä .

(61)

Standardoinnilla olisi oltava keskeinen rooli, jotta tarjoajien käyttöön saadaan teknisiä ratkaisuja, joilla voidaan varmistaa tämän asetuksen noudattaminen. Tarjoajien olisi voitava osoittaa noudattavansa tämän asetuksen vaatimuksia noudattamalla Euroopan parlamentin ja neuvoston asetuksessa (EU) N:o 1025/2012 (54) määriteltyjä yhdenmukaistettuja standardeja. Jotta voidaan varmistaa standardien tehokkuus unionin politiikan välineinä ja ottaen huomioon standardien merkitys varmistettaessa tämän asetuksen vaatimusten noudattaminen ja yritysten kilpailukyvyn suhteen , on tarpeen turvata etujen tasapuolinen edustus ottamalla kaikki asiaankuuluvat sidosryhmät mukaan standardien kehittämiseen. Standardointiprosessin olisi oltava läpinäkyvä sen suhteen, mitä oikeushenkilöitä ja luonnollisia henkilöitä standardointitoimintaan osallistuu.

(61 a)

Vaatimusten noudattamisen helpottamiseksi komission olisi esitettävä ensimmäiset standardointipyynnöt viimeistään kahden kuukauden kuluttua tämän asetuksen voimaantulosta. Näin voitaisiin parantaa oikeusvarmuutta ja siten edistää tekoälyyn tehtäviä investointeja ja innovointia sekä unionin markkinoiden kilpailukykyä ja kasvua ja samalla parantaa useiden sidosryhmien toteuttamaa hallintoa, jossa ovat edustettuina asiaankuuluvat eurooppalaiset sidosryhmät, kuten tekoälytoimisto, eurooppalaiset standardointiorganisaatiot ja unionin asiaankuuluvan alakohtaisen lainsäädännön mukaisesti perustetut elimet tai asiantuntijaryhmät sekä toimiala, pk-yritykset, startup-yritykset, kansalaisyhteiskunta, tutkijat ja työmarkkinaosapuolet, ja viime kädessä helpottaa maailmanlaajuista standardointiyhteistyötä tekoälyn alalla unionin arvojen mukaisesti. Standardointipyyntöä valmistellessaan komission olisi kuultava tekoälytoimistoa ja tekoälyä käsittelevää neuvoa-antavaa foorumia asiaankuuluvan asiantuntemuksen varmistamiseksi.

(61 b)

Kun tekoälyjärjestelmiä on tarkoitus käyttää työpaikoilla, yhdenmukaistetut standardit olisi rajoitettava teknisiin eritelmiin ja menettelyihin.

(61 c)

Komission olisi voitava hyväksyä yhteisiä eritelmiä tietyin edellytyksin, jos asiaankuuluvaa yhdenmukaistettua standardia ei ole tai perusoikeuksiin liittyvien erityisten huolenaiheiden ratkaisemiseksi. Koko laatimisprosessin ajan komission olisi kuultava säännöllisesti tekoälytoimistoa ja sen neuvoa-antavaa foorumia, eurooppalaisia standardointiorganisaatioita ja unionin asiaankuuluvan alakohtaisen lainsäädännön mukaisesti perustettuja elimiä tai asiantuntijaryhmiä sekä asiaankuuluvia sidosryhmiä, kuten toimialaa, pk-yrityksiä, startup-yrityksiä, kansalaisyhteiskuntaa, tutkijoita ja työmarkkinaosapuolia.

(61 d)

Hyväksyessään yhteisiä eritelmiä komission olisi pyrittävä yhdenmukaistamaan tekoälyn sääntelyä samanmielisten maailmanlaajuisten kumppanien kanssa, mikä on olennaista innovoinnin ja rajatylittävien kumppanuuksien edistämiseksi tekoälyn alalla, sillä samanmielisten kumppanien kanssa tehtävällä koordinoinnilla kansainvälisissä standardointielimissä on erittäin suuri merkitys.

(62)

Jotta voidaan varmistaa suuririskisten tekoälyjärjestelmien korkea luotettavuus, kyseisille järjestelmille olisi tehtävä vaatimustenmukaisuuden arviointi ennen kuin ne saatetaan markkinoille tai otetaan käyttöön.

(62)

Jotta voidaan varmistaa suuririskisten tekoälyjärjestelmien korkea luotettavuus, kyseisille järjestelmille olisi tehtävä vaatimustenmukaisuuden arviointi ennen kuin ne saatetaan markkinoille tai otetaan käyttöön. Lisätäkseen luottamusta arvoketjuun ja antaakseen yrityksille varmuuden järjestelmiensä suorituskyvystä, tekoälykomponentteja toimittavat kolmannet osapuolet voivat vapaaehtoisesti hakea kolmannen osapuolen suorittamaa vaatimustenmukaisuuden arviointia.

(64)

Kun otetaan huomioon, että markkinoille saattamista edeltävässä vaiheessa toimivilla ammattimaisilla sertifioijilla on laajempi kokemus tuoteturvallisuuden alalla, ja koska asiaan liittyvät riskit ovat luonteeltaan erilaisia, ainakin tämän asetuksen soveltamisen alkuvaiheessa on asianmukaista rajoittaa kolmannen osapuolen suorittaman vaatimustenmukaisuuden arvioinnin soveltamisalaa muiden kuin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien osalta. Sen vuoksi tarjoajan olisi pääsääntöisesti suoritettava tällaisten järjestelmien vaatimustenmukaisuuden arviointi omalla vastuullaan, lukuun ottamatta ainoastaan tekoälyjärjestelmiä, joita on tarkoitus käyttää henkilöiden biometriseen etätunnistukseen ja joiden osalta olisi säädettävä ilmoitetun laitoksen osallistumisesta vaatimustenmukaisuuden arviointiin, mikäli näitä järjestelmiä ei ole kielletty.

(64)

Kun otetaan huomioon suuririskisten tekoälyjärjestelmien monimutkaisuus ja niihin liittyvät riskit , on olennaisen tärkeää kehittää asianmukaisemmat valmiudet kolmansien osapuolten suorittamaa suuririskisten tekoälyjärjestelmien vaatimustenmukaisuuden arviointia varten. Kun otetaan huomioon markkinoille saattamista edeltävässä vaiheessa toimivien ammattimaisten sertifioijien tämänhetkinen kokemus tuoteturvallisuuden alalla, ja koska asiaan liittyvät riskit ovat luonteeltaan erilaisia, ainakin tämän asetuksen soveltamisen alkuvaiheessa on asianmukaista rajoittaa kolmannen osapuolen suorittaman vaatimustenmukaisuuden arvioinnin soveltamisalaa muiden kuin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien osalta. Sen vuoksi tarjoajan olisi pääsääntöisesti suoritettava tällaisten järjestelmien vaatimustenmukaisuuden arviointi omalla vastuullaan, lukuun ottamatta ainoastaan tekoälyjärjestelmiä, joita on tarkoitus käyttää henkilöiden biometriseen etätunnistukseen , tai tekoälyjärjestelmiä, joita on tarkoitus käyttää päättelyjen tekemiseen luonnollisten henkilöiden henkilökohtaisista ominaisuuksista biometristen tai biometriikkaan perustuvien tietojen perusteella, tunteentunnistusjärjestelmät mukaan lukien, ja joiden osalta olisi säädettävä ilmoitetun laitoksen osallistumisesta vaatimustenmukaisuuden arviointiin, mikäli näitä järjestelmiä ei ole kielletty.

(65)

Jotta tekoälyjärjestelmille, joita on tarkoitus käyttää henkilöiden biometriseen etätunnistukseen, voidaan tehdä kolmannen osapuolen suorittama vaatimustenmukaisuuden arviointi , kansallisten toimivaltaisten viranomaisten olisi nimettävä tämän asetuksen nojalla ilmoitetut laitokset edellyttäen, että ne täyttävät tietyt vaatimukset, jotka koskevat erityisesti riippumattomuutta, pätevyyttä ja eturistiriitojen puuttumista.

(65)

Jotta kolmannen osapuolen suorittamat vaatimustenmukaisuuden arvioinnit voidaan vaadittaessa toteuttaa , kansallisten toimivaltaisten viranomaisten olisi nimettävä tämän asetuksen nojalla ilmoitetut laitokset edellyttäen, että ne täyttävät tietyt vaatimukset, jotka koskevat erityisesti riippumattomuutta, pätevyyttä, eturistiriitojen puuttumista ja kyberturvallisuutta koskevia vähimmäisvaatimuksia . Jäsenvaltioiden olisi kannustettava nimeämään riittävä määrä vaatimustenmukaisuuden arviointilaitoksia, jotta sertifiointi voidaan toteuttaa oikea-aikaisesti. Vaatimustenmukaisuuden arviointilaitosten arviointia, nimeämistä, ilmoittamista ja valvontaa koskevat menettelyt olisi toteutettava jäsenvaltioissa mahdollisimman yhdenmukaisesti, jotta voidaan poistaa hallinnolliset esteet ja varmistaa sisämarkkinoiden potentiaalin toteutuminen.

(65 a)

Maailman kauppajärjestön sopimukseen kaupan teknisistä esteistä perustuvien unionin sitoumusten mukaisesti on asianmukaista maksimoida toimivaltaisten vaatimustenmukaisuuden arviointilaitosten tuottamien testitulosten hyväksyminen riippumatta siitä, mille alueelle ne ovat sijoittautuneet, jos se on tarpeen sen osoittamiseksi, että ne ovat asetuksen sovellettavien vaatimusten mukaisia. Komission olisi aktiivisesti selvitettävä tätä tarkoitusta varten mahdollisia kansainvälisiä välineitä ja erityisesti pyrittävä tekemään vastavuoroista tunnustamista koskevia sopimuksia sellaisten maiden kanssa, jotka ovat tekniseltä kehitykseltään vastaavalla tasolla ja joilla on yhteensopiva lähestymistapa tekoälyyn ja vaatimustenmukaisuuden arviointiin.

(66)

Unionin yhdenmukaistamislainsäädännössä säänneltyjä tuotteita koskevan yleisesti vahvistetun merkittävän muutoksen käsitteen mukaisesti on aiheellista, että tekoälyjärjestelmälle tehdään uusi vaatimustenmukaisuuden arviointi aina, kun tapahtuu muutos, joka voi vaikuttaa siihen, onko järjestelmä tämän asetuksen mukainen, tai kun järjestelmän käyttötarkoitus muuttuu. Lisäksi sellaisten tekoälyjärjestelmien osalta, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen (eli ne mukauttavat automaattisesti tapaa, jolla toiminnot toteutetaan), on tarpeen vahvistaa säännöt, joiden mukaan algoritmiin ja sen suorituskykyyn tehtävien muutosten, jotka tarjoaja on määritellyt ennalta ja jotka on arvioitu ensimmäisen vaatimustenmukaisuuden arvioinnin yhteydessä, ei pitäisi katsoa muodostavan merkittävää muutosta.

(66)

Unionin yhdenmukaistamislainsäädännössä säänneltyjä tuotteita koskevan yleisesti vahvistetun merkittävän muutoksen käsitteen mukaisesti on aiheellista, että suuririskiselle tekoälyjärjestelmälle tehdään uusi vaatimustenmukaisuuden arviointi aina, kun tapahtuu ennakoimaton muutos, joka menee tarjoajan valvomia tai ennalta määrittelemiä muutoksia pidemmälle, jatkuva oppiminen mukaan lukien, ja joka voi luoda uuden riskin, jota ei voida hyväksyä, ja voi merkittävästi vaikuttaa siihen, onko suuririskinen tekoälyjärjestelmä tämän asetuksen mukainen, tai kun järjestelmän käyttötarkoitus muuttuu. Lisäksi sellaisten tekoälyjärjestelmien osalta, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen (eli ne mukauttavat automaattisesti tapaa, jolla toiminnot toteutetaan), on tarpeen vahvistaa säännöt, joiden mukaan algoritmiin ja sen suorituskykyyn tehtävien muutosten, jotka tarjoaja on määritellyt ennalta ja jotka on arvioitu ensimmäisen vaatimustenmukaisuuden arvioinnin yhteydessä, ei pitäisi katsoa muodostavan merkittävää muutosta. Samaa olisi sovellettava tekoälyjärjestelmään yleisistä turvallisuussyistä tehtäviin päivityksiin ja muutoksiin, joita tehdään järjestelmän suojaamiseksi manipulointiin liittyviltä jatkuvasti muuttuvilta uhkilta, edellyttäen, että ne eivät muodosta merkittävää muutosta.

(67)

Suuririskisissä tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia, jotta ne voivat liikkua vapaasti sisämarkkinoilla. Jäsenvaltiot eivät saisi perusteettomasti estää sellaisten suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöön ottamista, jotka ovat tässä asetuksessa vahvistettujen vaatimusten mukaisia ja joissa on CE-merkintä.

(67)

Suuririskisissä tekoälyjärjestelmissä olisi oltava CE-merkintä, joka osoittaa niiden olevan tämän asetuksen mukaisia, jotta ne voivat liikkua vapaasti sisämarkkinoilla. Fyysisiin suuririskisiin tekoälyjärjestelmiin olisi kiinnitettävä fyysinen CE-merkintä, jota voidaan täydentää digitaalisella CE-merkinnällä. Pelkästään digitaalisessa muodossa olevissa suuririskisissä tekoälyjärjestelmissä olisi käytettävä digitaalista CE-merkintää. Jäsenvaltiot eivät saisi perusteettomasti estää sellaisten suuririskisten tekoälyjärjestelmien markkinoille saattamista tai käyttöön ottamista, jotka ovat tässä asetuksessa vahvistettujen vaatimusten mukaisia ja joissa on CE-merkintä.

(68)

Tietyissä olosuhteissa innovatiivisten teknologioiden nopea saatavuus voi olla ratkaisevan tärkeää ihmisten terveyden ja turvallisuuden sekä koko yhteiskunnan kannalta. Siksi on asianmukaista, että yleiseen turvallisuuteen tai luonnollisten henkilöiden elämän ja terveyden suojeluun sekä teollisen ja kaupallisen omaisuuden suojeluun liittyvistä poikkeuksellisista syistä jäsenvaltiot voisivat sallia sellaisten tekoälyjärjestelmien markkinoille saattamisen tai käyttöönoton, joille ei ole tehty vaatimustenmukaisuuden arviointia.

(68)

Tietyissä olosuhteissa innovatiivisten teknologioiden nopea saatavuus voi olla ratkaisevan tärkeää ihmisten terveyden ja turvallisuuden , ympäristön ja ilmastonmuutoksen sekä koko yhteiskunnan kannalta. Siksi on asianmukaista, että luonnollisten henkilöiden elämän ja terveyden , ympäristön ja kriittisen infrastruktuurin suojeluun liittyvistä poikkeuksellisista syistä jäsenvaltiot voisivat sallia sellaisten tekoälyjärjestelmien markkinoille saattamisen tai käyttöönoton, joille ei ole tehty vaatimustenmukaisuuden arviointia.

(69)

Jotta helpotettaisiin komission ja jäsenvaltioiden työtä tekoälyn alalla ja lisättäisiin avoimuutta yleisöön nähden, muiden kuin asiaa koskevan unionin voimassa olevan yhdenmukaistamislainsäädännön soveltamisalaan kuuluviin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien tarjoajia olisi vaadittava rekisteröimään suuririskinen tekoälyjärjestelmänsä EU:n tietokantaan, jonka komissio perustaa ja jota se hallinnoi. Komission olisi oltava kyseisen tietokannan rekisterinpitäjä Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1725 (55) mukaisesti. Jotta tietokanta olisi täysin toimintavalmis kuin se otetaan käyttöön, sen perustamismenettelyyn olisi sisällyttävä komission laatimat toiminnalliset eritelmät ja riippumaton auditointiraportti.

(69)

Jotta helpotettaisiin komission ja jäsenvaltioiden työtä tekoälyn alalla ja lisättäisiin avoimuutta yleisöön nähden, muiden kuin asiaa koskevan unionin voimassa olevan yhdenmukaistamislainsäädännön soveltamisalaan kuuluviin tuotteisiin liittyvien suuririskisten tekoälyjärjestelmien tarjoajia olisi vaadittava rekisteröimään suuririskinen tekoälyjärjestelmänsä ja perusmallinsa EU:n tietokantaan, jonka komissio perustaa ja jota se hallinnoi. Tietokannan olisi oltava vapaasti ja julkisesti saatavilla, helposti ymmärrettävä ja koneellisesti luettavissa. Tietokannan olisi myös oltava käyttäjäystävällinen ja helposti selattava, ja sen hakutoiminnon olisi oltava vähintään sellainen, että yleisö voi tehdä tietokannassa hakuja tiettyjen suuririskisten järjestelmien, paikkojen, liitteen IV mukaisten riskiluokkien ja avainsanojen perusteella. Myös käyttöönottajien, jotka ovat viranomaisia tai unionin toimielimiä, elimiä, laitoksia tai virastoja tai jotka toimivat näiden puolesta, sekä käyttöönottajien, jotka ovat asetuksen (EU) 2022/1925 nojalla portinvartijaksi nimettyjä yrityksiä, olisi rekisteröidyttävä EU:n tietokantaan ennen kuin ne ottavat käyttöön tai käyttävät suuririskistä tekoälyjärjestelmää ensimmäistä kertaa ja jokaisen merkittävän muutoksen jälkeen. Muilla käyttöönottajilla olisi oltava oikeus tehdä niin vapaaehtoisesti. Kaikki suuririskisiin tekoälyjärjestelmiin tehtävät merkittävät muutokset on myös rekisteröitävä EU:n tietokantaan. Komission olisi oltava kyseisen tietokannan rekisterinpitäjä Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1725 (55) mukaisesti. Jotta tietokanta olisi täysin toimintavalmis kun se otetaan käyttöön, sen perustamismenettelyyn olisi sisällyttävä komission laatimat toiminnalliset eritelmät ja riippumaton auditointiraportti. Komission olisi otettava huomioon kyberturvallisuuteen ja -vaaroihin liittyvät riskit suorittaessaan tehtäviään EU:n tietokannan rekisterinpitäjänä. Jotta voitaisiin maksimoida tietokannan saatavuus yleisölle ja yleisön tietokannan käyttö, tietokannan ja sen kautta saataville asetettujen tietojen olisi oltava direktiivin (EU) 2019/882 vaatimusten mukaisia.

(71)

Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka edellyttää uudenlaisia viranomaisvalvonnan muotoja ja turvallista tilaa kokeiluille samalla kun varmistetaan vastuullinen innovointi ja asianmukaisten suojatoimien ja riskinhallintatoimenpiteiden integrointi. Jotta voidaan varmistaa innovaatiomyönteinen , tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen oikeudellinen kehys, yhden tai useamman jäsenvaltion kansallisia toimivaltaisia viranomaisia olisi kannustettava perustamaan tekoälyn sääntelyn testiympäristöjä , joilla helpotetaan innovatiivisten tekoälyjärjestelmien kehittämistä ja testausta tiukassa viranomaisvalvonnassa ennen kuin nämä järjestelmät saatetaan markkinoille tai otetaan muulla tavoin käyttöön.

(71)

Tekoäly on nopeasti kehittyvä teknologiakokonaisuus, joka edellyttää uudenlaisia viranomaisvalvonnan muotoja ja turvallista ja valvottua tilaa kokeiluille samalla kun varmistetaan vastuullinen innovointi ja asianmukaisten suojatoimien ja riskinhallintatoimenpiteiden integrointi. Jotta voidaan varmistaa innovaatiota edistävä , tulevaisuuden vaatimukset huomioon ottava ja häiriönsietokykyinen oikeudellinen kehys, jäsenvaltioiden olisi perustettava vähintään yksi tekoälyn sääntelyn testiympäristö , jolla helpotetaan innovatiivisten tekoälyjärjestelmien kehittämistä ja testausta tiukassa viranomaisvalvonnassa ennen kuin nämä järjestelmät saatetaan markkinoille tai otetaan muulla tavoin käyttöön. On toivottavaa, että tällä hetkellä jäsenvaltioiden harkintaan jätetystä sääntelyn testiympäristöjen perustamisesta tehdään seuraavassa vaiheessa pakollista ja että testiympäristöille vahvistetaan kriteerit. Pakollinen testiympäristö voitaisiin myös perustaa yhdessä yhden tai useamman muun jäsenvaltion kanssa edellyttäen, että testiympäristö kattaisi asianomaisten jäsenvaltioiden kansallisen tason. Lisäksi testiympäristöjä voidaan perustaa eri tasoilla, myös jäsenvaltioiden välillä, rajatylittävän yhteistyön ja synergioiden helpottamiseksi. Kansallisen tason pakollista testiympäristöä lukuun ottamatta jäsenvaltioiden olisi myös voitava perustaa virtuaalisia tai hybriditestiympäristöjä. Kaikissa sääntelyn testiympäristöissä olisi voitava ottaa huomioon sekä fyysiset että virtuaaliset tuotteet. Testiympäristöjä perustavien viranomaisten olisi myös varmistettava, että sääntelyn testiympäristöillä on riittävät taloudelliset ja henkilöresurssit niiden toimintaa varten.

(72)

Sääntelyn testiympäristöjen tavoitteena olisi oltava tekoälyyn liittyvän innovoinnin edistäminen luomalla hallittu kokeilu- ja testausympäristö kehitysvaiheessa ja markkinoille saattamista edeltävässä vaiheessa, jotta voidaan varmistaa, että innovatiiviset tekoälyjärjestelmät ovat tämän asetuksen ja muun asiaankuuluvan unionin ja jäsenvaltioiden lainsäädännön mukaisia, ja jotta voidaan parantaa innovoijien oikeusvarmuutta ja toimivaltaisten viranomaisten valvontaa sekä ymmärrystä tekoälyn käytön mahdollisuuksista ja siihen liittyvistä riskeistä ja vaikutuksista ja nopeuttaa markkinoille pääsyä muun muassa poistamalla esteitä pieniltä ja keskisuurilta yrityksiltä (pk-yrityksiltä) ja startup-yrityksiltä . Yhdenmukaisen täytäntöönpanon varmistamiseksi koko unionissa ja mittakaavaetujen saavuttamiseksi on aiheellista vahvistaa yhteiset säännöt sääntelyn testiympäristöjen toteuttamiselle ja puitteet testiympäristöjen valvontaan osallistuvien asiaankuuluvien viranomaisten väliselle yhteistyölle. Tämän asetuksen olisi muodostettava oikeusperusta sellaisten henkilötietojen käytölle , jotka on kerätty muihin tarkoituksiin tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä, asetuksen (EU) 2016/679 6 artiklan 4 kohdan ja asetuksen (EU) 2018/1725 6 artiklan mukaisesti ja rajoittamatta direktiivin (EU) 2016/680 4 artiklan 2 kohdan soveltamista . Testiympäristön osallistujien olisi varmistettava asianmukaiset suojatoimet ja tehtävä yhteistyötä toimivaltaisten viranomaisten kanssa muun muassa noudattamalla niiden ohjeita ja toimimalla nopeasti ja vilpittömästi lieventääkseen mahdollisia turvallisuuteen ja perusoikeuksiin kohdistuvia suuria riskejä, joita voi syntyä testiympäristössä tapahtuvan kehittämisen ja kokeilun aikana. Testiympäristön osallistujien käyttäytyminen olisi otettava huomioon, kun toimivaltaiset viranomaiset päättävät hallinnollisen sakon määräämisestä asetuksen 2016/679 83 artiklan 2 kohdan ja direktiivin 2016/680 57 artiklan nojalla.

(72)

Sääntelyn testiympäristöjen tavoitteena olisi oltava : testiympäristöjä perustavien viranomaisten osalta ymmärryksen parantaminen teknisestä kehityksestä, valvontamenetelmien parantaminen ja ohjeistuksen antaminen tekoälyjärjestelmien kehittäjille ja tarjoajille tämän asetuksen tai tapauksen mukaan muun sovellettavan unionin ja jäsenvaltioiden lainsäädännön sekä perusoikeuskirjan vaatimusten noudattamiseksi; mahdollisten tarjoajien osalta tekoälyjärjestelmiin liittyvien innovatiivisten ratkaisujen testaamisen ja kehittämisen mahdollistaminen ja helpottaminen markkinoille saattamista edeltävässä vaiheessa, jotta voidaan parantaa oikeusvarmuutta , testiympäristöjä perustavien viranomaisten sääntelyyn liittyvää oppimista valvotussa ympäristössä paremman ohjeistuksen kehittämiseksi ja määrittää oikeudellisen kehyksen mahdolliset tulevat parannukset tavallisessa lainsäätämisjärjestyksessä. Tällaisten tekoälyjärjestelmien kehittämisen ja testauksen aikana havaittuja merkittäviä riskejä olisi vähennettävä välittömästi, ja jos tämä ei onnistu, kehittämis- ja testausprosessi on keskeytettävä, kunnes riskejä voidaan vähentää . Yhdenmukaisen täytäntöönpanon varmistamiseksi koko unionissa ja mittakaavaetujen saavuttamiseksi on aiheellista vahvistaa yhteiset säännöt sääntelyn testiympäristöjen toteuttamiselle ja puitteet testiympäristöjen valvontaan osallistuvien asiaankuuluvien viranomaisten väliselle yhteistyölle. Jäsenvaltioiden olisi varmistettava , että sääntelyn testiympäristöt ovat laajalti saatavilla kaikkialla unionissa mutta niihin osallistumisen olisi pysyttävä vapaaehtoisena . Erityisen tärkeää on varmistaa, että pk-yrityksillä ja startup-yrityksillä on helppo pääsy näihin testiympäristöihin ja että ne ovat aktiivisesti mukana ja osallistuvat innovatiivisten tekoälyjärjestelmien kehittämiseen ja testaamiseen , jotta ne voivat osallistua toimiin hyödyntäen taitotietoaan ja kokemustaan .

(72 a)

Tämän asetuksen olisi muodostettava oikeusperusta sellaisten henkilötietojen käytölle vain tietyin edellytyksin, jotka on kerätty muihin tarkoituksiin tiettyjen yleisen edun mukaisten tekoälyjärjestelmien kehittämiseksi tekoälyn sääntelyn testiympäristössä, asetuksen (EU) 2016/679 6 artiklan 4 kohdan ja asetuksen (EU) 2018/1725 6 artiklan mukaisesti ja rajoittamatta direktiivin (EU) 2016/680 4 artiklan 2 kohdan soveltamista. Testiympäristöön osallistuvien mahdollisten tarjoajien olisi varmistettava asianmukaiset suojatoimet ja tehtävä yhteistyötä toimivaltaisten viranomaisten kanssa muun muassa noudattamalla niiden ohjeita ja toimimalla nopeasti ja vilpittömästi vähentääkseen mahdollisia turvallisuuteen, terveyteen, ympäristöön ja perusoikeuksiin kohdistuvia suuria riskejä, joita voi syntyä testiympäristössä tapahtuvan kehittämisen ja kokeilun aikana. Testiympäristöön osallistuvien mahdollisten tarjoajien käyttäytyminen olisi otettava huomioon, kun toimivaltaiset viranomaiset päättävät koskien heidän testiympäristöön osallistumisensa peruuttamista toistaiseksi tai kokonaan, määrätäänkö asetuksen (EU) 2016/679 83 artiklan 2 kohdan ja direktiivin (EU) 2016/680 57 artiklan nojalla hallinnollinen sakko.

(72 b)

Jotta voidaan varmistaa, että tekoäly johtaa yhteiskunnallisesti ja ympäristön kannalta suotuisiin tuloksiin, jäsenvaltioiden olisi tuettava ja edistettävä tekoälyn tutkimusta ja kehittämistä yhteiskunnan ja ympäristön kannalta suotuisten tulosten tukemiseksi osoittamalla riittävästi resursseja, myös julkista ja unionin rahoitusta, ja antamalla kansalaisyhteiskunnan johtamille hankkeille ensisijainen pääsy sääntelyn testiympäristöihin. Tällaisten hankkeiden olisi perustuttava tekoälyn kehittäjien, eriarvoisuuteen ja syrjimättömyyteen, saavutettavuuteen, kuluttajiin, ympäristöön, ja digitaalisiin oikeuksiin perehtyneiden asiantuntijoiden sekä tiedeyhteisön välisen poikkitieteellisen yhteistyön periaatteeseen.

(73)

Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tietoisuuden lisäämistä ja tiedotusta. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät.

(73)

Innovoinnin edistämiseksi ja suojaamiseksi on tärkeää, että tekoälyjärjestelmien pienten tarjoajien ja käyttäjien edut otetaan erityisesti huomioon. Tätä varten jäsenvaltioiden olisi kehitettävä kyseisille toimijoille suunnattuja aloitteita, jotka koskevat muun muassa tekoälylukutaitoa, tietoisuuden lisäämistä ja tiedotusta. Jäsenvaltioiden on käytettävä olemassa olevia kanavia ja perustettava tarvittaessa uusia erityiskanavia viestintään pk-yritysten, startup-yritysten, käyttäjien ja muiden innovoijien kanssa, jotta voidaan antaa ohjeistusta ja vastata kysymyksiin tämän asetuksen täytäntöönpanosta. Tällaisia olemassa olevia kanavia voisivat olla muun muassa Euroopan unionin kyberturvallisuusviraston tietoturvaloukkauksiin reagoivat ja niitä tutkivat yksiköt (CSIRT), kansalliset tietosuojaviranomaiset, tekoälyyn keskittyvä tilauspohjainen alusta, eurooppalaiset digitaali-innovointikeskittymät ja muut unionin ohjelmista rahoitettavat asiaankuuluvat välineet sekä komission ja jäsenvaltioiden kansallisella tai unionin tasolla perustamat testaus- ja kokeilulaitokset. Nämä kanavat tekevät tarvittaessa yhteistyötä, jotta voidaan luoda synergioita ja varmistaa, että niiden startup-yrityksille, pk-yrityksille ja käyttäjille antamat ohjeet ovat yhtenäisiä. Pienten tarjoajien erityisedut ja -tarpeet on otettava huomioon myös silloin, kun ilmoitetut laitokset asettavat vaatimustenmukaisuuden arvioinnista perittäviä maksuja. Komissio arvioi säännöllisesti sertifioinnista ja vaatimusten noudattamisesta pk-yrityksille ja startup-yrityksille aiheutuvia kustannuksia muun muassa kuulemalla avoimesti pk-yrityksiä, startup-yrityksiä ja käyttäjiä, ja tekee yhteistyötä jäsenvaltioiden kanssa tällaisten kustannusten alentamiseksi. Esimerkiksi pakolliseen dokumentaatioon ja viranomaisviestintään liittyvät käännöskustannukset voivat aiheuttaa merkittäviä kustannuksia tarjoajille ja muille toimijoille, erityisesti pienemmille toimijoille. Jäsenvaltioiden olisi mahdollisesti varmistettava, että yksi kielistä, jonka ne ovat määrittäneet ja hyväksyneet käytettäväksi asiaankuuluvien tarjoajien dokumentaatiossa ja viestinnässä toimijoiden kanssa, on kieli, jota mahdollisimman monet rajatylittävät käyttäjät ymmärtävät. Keskisuurilla yrityksillä, jotka ovat äskettäin vaihtaneet luokkaa suosituksen 2003/361/EY liitteen 16 artiklassa tarkoitetulla tavalla pienestä keskisuureksi yritykseksi, on oltava mahdollisuus osallistua näihin aloitteisiin ja saada ohjeistusta jäsenvaltioiden asianmukaiseksi katsoman ajan, koska tällaisilla uusilla keskisuurilla yrityksillä ei välttämättä aina ole tarvittavia oikeudellisia resursseja ja koulutusta säännösten asianmukaisen ymmärtämisen ja noudattamisen varmistamiseksi.

(74)

Jotta voidaan minimoida markkinoilla olevan tiedon ja asiantuntemuksen puutteesta aiheutuvat riskit täytäntöönpanolle ja helpotetaan tämän asetuksen mukaisten velvoitteiden noudattamista tarjoajien ja ilmoitettujen laitosten taholta, tekoälyyn keskittyvän tilauspohjaisen alustan, eurooppalaisten digitaali-innovointikeskittymien sekä komission ja jäsenvaltioiden kansallisella tai EU:n tasolla perustamien testaus- ja kokeilulaitosten olisi mahdollisuuksien mukaan edistettävä tämän asetuksen täytäntöönpanoa. Ne voivat tehtäviensä ja osaamisalojensa puitteissa antaa erityisesti teknistä ja tieteellistä tukea tarjoajille ja ilmoitetuille laitoksille.

(74)

Jotta voidaan minimoida markkinoilla olevan tiedon ja asiantuntemuksen puutteesta aiheutuvat riskit täytäntöönpanolle ja helpotetaan tämän asetuksen mukaisten velvoitteiden noudattamista tarjoajien ja ilmoitettujen laitosten taholta, tekoälyyn keskittyvän tilauspohjaisen alustan, eurooppalaisten digitaali-innovointikeskittymien sekä komission ja jäsenvaltioiden kansallisella tai EU:n tasolla perustamien testaus- ja kokeilulaitosten olisi edistettävä tämän asetuksen täytäntöönpanoa. Ne voivat tehtäviensä ja osaamisalojensa puitteissa antaa erityisesti teknistä ja tieteellistä tukea tarjoajille ja ilmoitetuille laitoksille.

(76)

Tämän asetuksen sujuvan, tehokkaan ja yhdenmukaisen täytäntöönpanon helpottamiseksi olisi perustettava Euroopan tekoälyneuvosto . Neuvoston olisi vastattava useista neuvoa-antavista tehtävistä, kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, esimerkiksi tässä asetuksessa vahvistettuja vaatimuksia koskevista teknisistä eritelmistä tai voimassa olevista standardeista , sekä neuvojen ja avun antamisesta komissiolle tekoälyyn liittyvissä erityiskysymyksissä .

(76)

Hajanaisuuden välttämiseksi, sisämarkkinoiden optimaalisen toiminnan varmistamiseksi, tämän asetuksen tehokkaan ja yhdenmukaisen täytäntöönpanon varmistamiseksi, luotettavuuden korkean tason saavuttamiseksi sekä terveyden, turvallisuuden, perusoikeuksien, ympäristön, demokratian ja oikeusvaltion suojelemiseksi tekoälyjärjestelmien osalta kaikkialla unionissa, kansallisten valvontaviranomaisten, unionin toimielinten, elinten, laitosten ja virastojen tukemiseksi aktiivisesti tähän asetukseen liittyvissä asioissa ja tekoälyn käyttöönoton lisäämiseksi kaikkialla unionissa olisi perustettava Euroopan tekoälyvirasto . Tekoälytoimistolla olisi oltava oikeushenkilöllisyys, sen olisi toimittava täysin riippumattomasti ja vastattava useista neuvoa-antavista tehtävistä ja koordinointitehtävistä , kuten lausuntojen, suositusten, neuvojen tai ohjeiden antamisesta tämän asetuksen täytäntöönpanoon liittyvissä asioissa, ja sillä olisi oltava riittävä rahoitus ja henkilöstö. Jäsenvaltioiden olisi annettava tekoälytoimiston strateginen ohjaus ja valvonta tekoälytoimiston hallintoneuvoston tehtäväksi yhdessä komission, Euroopan tietosuojavaltuutetun, Euroopan unioninperusoikeusviraston ja Euroopan unionin kyberturvallisuusviraston kanssa. Pääjohtajan olisi vastattava tekoälytoimiston sihteeristön toiminnan hallinnoinnista ja toimiston edustamisesta. Sidosryhmien olisi osallistuttava virallisesti tekoälytoimiston työhön neuvoa-antavassa foorumissa, jossa olisi varmistettava sidosryhmien monipuolinen ja tasapuolinen edustus ja jonka olisi neuvottava tekoälytoimistoa tähän asetukseen liittyvissä seikoissa. Jos tekoälytoimiston perustaminen osoittautuu riittämättömäksi varmistamaan tämän asetuksen täysin johdonmukainen soveltaminen unionin tasolla ja tehokkaat rajatylittävät täytäntöönpanotoimenpiteet, olisi harkittava tekoälyviraston perustamista .

(77)

Jäsenvaltioilla on keskeinen rooli tämän asetuksen soveltamisessa ja täytäntöönpanon valvonnassa. Tältä osin kunkin jäsenvaltion olisi nimettävä yksi tai useampi kansallinen toimivaltainen viranomainen valvomaan tämän asetuksen soveltamista ja täytäntöönpanoa. Jotta voidaan lisätä organisoinnin tehokkuutta jäsenvaltioissa ja luoda virallinen yhteyspiste yleisölle ja muille vastaaville tahoille jäsenvaltioissa ja unionissa , kussakin jäsenvaltiossa olisi nimettävä yksi kansallinen viranomainen kansalliseksi valvontaviranomaiseksi .

(77)

Kunkin jäsenvaltion olisi nimettävä kansallinen valvontaviranomainen valvomaan tämän asetuksen soveltamista ja täytäntöönpanoa. Sen olisi myös edustettava jäsenvaltiotaan tekoälytoimiston hallintoneuvostossa. Näin voidaan lisätä organisoinnin tehokkuutta jäsenvaltioissa ja luoda virallinen yhteyspiste yleisölle ja muille vastaaville tahoille jäsenvaltioissa ja unionissa . Kunkin kansallisen valvontaviranomaisen olisi toimittava täysin riippumattomasti hoitaessaan tehtäviään ja käyttäessään valtuuksiaan tämän asetuksen mukaisesti .

(77 a)

Kansallisten valvontaviranomaisten olisi valvottava tämän asetuksen nojalla annettujen säännösten soveltamista ja edistettävä sen yhdenmukaista soveltamista koko unionissa. Tätä varten kansallisten valvontaviranomaisten olisi tehtävä yhteistyötä keskenään sekä asiaankuuluvien kansallisten toimivaltaisten viranomaisten, komission ja tekoälytoimiston kanssa.

(77 b)

Kunkin kansallisen valvontaviranomaisen jäsenen tai henkilöstön olisi unionin tai jäsenvaltion lainsäädännön mukaisesti pidettävä salassa sekä toimikautensa aikana että sen jälkeen kaikki luottamukselliset tiedot, jotka ovat tulleet heidän tietoonsa heidän suorittaessaan tehtäviään tai käyttäessään valtuuksiaan. Heidän toimikautensa aikana tätä salassapitovelvollisuutta olisi sovellettava etenkin liikesalaisuuksiin ja luonnollisten henkilöiden tekemiin ilmoituksiin tämän asetuksen rikkomisista.

(78)

Sen varmistamiseksi, että suuririskisten tekoälyjärjestelmien tarjoajat voivat ottaa huomioon suuririskisten tekoälyjärjestelmien käytöstä saadut kokemukset järjestelmiensä parantamisessa ja suunnittelu- ja kehitysprosessissa tai voivat toteuttaa ajoissa kaikki mahdolliset korjaavat toimet, kaikilla tarjoajilla olisi oltava käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Järjestelmä on keskeisessä asemassa myös sen varmistamisessa, että riskeihin, joita mahdollisesti aiheutuu tekoälyjärjestelmistä, jotka jatkavat oppimista markkinoille saattamisen tai käyttöönoton jälkeen, voidaan puuttua tehokkaammin ja oikea-aikaisemmin. Tässä yhteydessä olisi myös edellytettävä, että tarjoajilla on käytössä järjestelmä, jolla ne voivat ilmoittaa asiaankuuluville viranomaisille kaikista vakavista vaaratilanteista tai perusoikeuksia suojaavan kansallisen ja unionin lainsäädännön rikkomisista, jotka ovat seurausta tekoälyjärjestelmien käytöstä.

(78)

Sen varmistamiseksi, että suuririskisten tekoälyjärjestelmien tarjoajat voivat ottaa huomioon suuririskisten tekoälyjärjestelmien käytöstä saadut kokemukset järjestelmiensä parantamisessa ja suunnittelu- ja kehitysprosessissa tai voivat toteuttaa ajoissa kaikki mahdolliset korjaavat toimet, kaikilla tarjoajilla olisi oltava käytössä markkinoille saattamisen jälkeinen seurantajärjestelmä. Järjestelmä on keskeisessä asemassa myös sen varmistamisessa, että riskeihin, joita mahdollisesti aiheutuu tekoälyjärjestelmistä, jotka jatkavat oppimista tai kehittyvät markkinoille saattamisen tai käyttöönoton jälkeen, voidaan puuttua tehokkaammin ja oikea-aikaisemmin. Tässä yhteydessä olisi myös edellytettävä, että tarjoajilla on käytössä järjestelmä, jolla ne voivat ilmoittaa asiaankuuluville viranomaisille kaikista vakavista vaaratilanteista tai kansallisen ja unionin lainsäädännön rikkomisista, mukaan lukien perusoikeuksia ja kuluttajien oikeuksia suojaavan lainsäädännön rikkomisista, jotka ovat seurausta tekoälyjärjestelmien käytöstä, ja että ne toteuttavat asianmukaiset korjaavat toimenpiteet. Myös käyttöönottajien olisi ilmoitettava asiaankuuluville viranomaisille kaikista vakavista vaaratilanteista tai perusoikeuksia suojaavan kansallisen ja unionin lainsäädännön rikkomisista, jotka ovat seurausta tekoälyjärjestelmien käytöstä, kun käyttäjät tulevat tietoisiksi tällaisista vaaratilanteista tai rikkomisista.

(79)

Jotta voidaan varmistaa tässä asetuksessa, joka on osa unionin yhdenmukaistamislainsäädäntöä, vahvistettujen vaatimusten ja velvollisuuksien asianmukainen ja tehokas täytäntöönpano, asetuksella (EU) 2019/1020 perustettua markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevaa järjestelmää olisi sovellettava kokonaisuudessaan. Kansallisilla viranomaisilla tai elimillä , jotka valvovat perusoikeuksia suojelevan unionin lainsäädännön soveltamista, mukaan lukien tasa-arvoelimet, olisi voitava saada käyttöönsä kaikki tämän asetuksen nojalla laadittu dokumentaatio, jos se on tarpeen niiden toimeksiannon kannalta.

(79)

Jotta voidaan varmistaa tässä asetuksessa, joka on osa unionin yhdenmukaistamislainsäädäntöä, vahvistettujen vaatimusten ja velvollisuuksien asianmukainen ja tehokas täytäntöönpano, asetuksella (EU) 2019/1020 perustettua markkinavalvontaa ja tuotteiden vaatimustenmukaisuutta koskevaa järjestelmää olisi sovellettava kokonaisuudessaan. Tämän asetuksen soveltamiseksi kansallisten valvontaviranomaisten olisi toimittava tämän asetuksen soveltamisalaan kuuluvien tekoälyjärjestelmien markkinavalvontaviranomaisina lukuun ottamatta tämän asetuksen liitteen II soveltamisalaan kuuluvia tekoälyjärjestelmiä. Kun on kyse liitteessä II lueteltujen säädösten soveltamisalaan kuuluvista tekoälyjärjestelmistä, kyseisten säädösten mukaisesti toimivaltaisten viranomaisten olisi edelleen toimittava johtavana viranomaisena. Kansallisten valvontaviranomaisten ja liitteessä II luetelluissa säädöksissä tarkoitettujen toimivaltaisten viranomaisten olisi tehtävä yhteistyötä aina kun se on tarpeen. Liitteessä II luetelluissa säädöksissä tarkoitettujen toimivaltaisten viranomaisten olisi tarvittaessa lähetettävä kansalliselle valvontaviranomaiselle pätevää henkilöstöä avustamaan sen tehtävien suorittamisessa. Tätä asetusta sovellettaessa kansallisilla valvontaviranomaisilla olisi oltava samat valtuudet ja velvollisuudet kuin asetuksen (EU) 2019/1020 mukaisilla markkinavalvontaviranomaisilla. Kansallisten viranomaisten tai elinten , jotka valvovat perusoikeuksia suojelevan unionin lainsäädännön soveltamista, mukaan lukien tasa-arvoelimet, olisi voitava saada käyttöönsä kaikki tämän asetuksen nojalla laadittu dokumentaatio, jos se on tarpeen niiden toimeksiannon kannalta. Kansalliselle valvontaviranomaiselle olisi perustellusta pyynnöstä annettava pääsy suuririskisen tekoälyjärjestelmän koulutus-, validointi- ja testausdatajoukkoihin sekä koulutettuun malliin ja koulutusmalliin, mukaan lukien sen asiaankuuluvat malliparametrit ja niiden toteutus-/käyttöympäristö, kun kaikki muut kohtuulliset keinot vaatimustenmukaisuuden arvioimiseksi tai todentamiseksi on käytetty. Kansalliselle valvontaviranomaiselle voidaan poikkeuksellisesti antaa perustellusta pyynnöstä pääsy tämän asetuksen soveltamisalaan kuuluvien yksinkertaisempien ohjelmistojärjestelmien, jotka eivät perustu koulutettuihin malleihin, lähdekoodiin, kun kaikki muut keinot vaatimustenmukaisuuden todentamiseksi on käytetty. Jos kansalliselle valvontaviranomaiselle on tämän asetuksen mukaisesti myönnetty pääsy koulutus-, validointi- ja testausdatajoukkoihin, pääsy olisi mahdollistettava asianmukaisin teknisin keinoin ja välinein joko paikan päällä tai poikkeuksellisissa olosuhteissa etänä. Kansallisen valvontaviranomaisen olisi käsiteltävä kaikkia tietoja, mukaan lukien lähdekoodi, ohjelmistot ja data, luottamuksellisina tietoina ja noudatettava asiaankuuluvaa teollis- ja tekijänoikeuksien ja liikesalaisuuksien suojaa koskevaa unionin lainsäädäntöä. Kansallisen valvontaviranomaisen olisi poistettava kaikki saadut tiedot tutkinnan päätyttyä.

(80)

Rahoituspalveluja koskevaan unionin lainsäädäntöön sisältyy sisäistä hallintoa ja riskinhallintaa koskevia säännöksiä ja vaatimuksia, joita sovelletaan säänneltyihin rahoituslaitoksiin niiden tarjotessa kyseisiä palveluja, myös silloin, kun ne käyttävät tekoälyjärjestelmiä. Jotta voidaan varmistaa tämän asetuksen ja rahoituspalveluja koskevan unionin lainsäädännön asiaa koskevien sääntöjen ja vaatimusten johdonmukainen soveltaminen ja täytäntöönpano, rahoituspalvelulainsäädännön valvonnasta ja täytäntöönpanosta vastaavat viranomaiset, tarvittaessa myös Euroopan keskuspankki, olisi nimettävä toimivaltaisiksi viranomaisiksi valvomaan tämän asetuksen täytäntöönpanoa, myös markkinavalvontatoimia, säänneltyjen ja valvottujen rahoituslaitosten tarjoamien tai käyttämien tekoälyjärjestelmien osalta. Jotta voidaan edelleen parantaa johdonmukaisuutta tämän asetuksen ja Euroopan parlamentin ja neuvoston direktiivin 2013/36/EU (56) nojalla säänneltyihin luottolaitoksiin sovellettavien sääntöjen välillä, direktiivin 2013/36/EU mukaisiin nykyisiin velvoitteisiin ja menettelyihin on aiheellista sisällyttää myös vaatimustenmukaisuuden arviointimenettely ja jotkin tarjoajien menettelylliset velvoitteet, jotka liittyvät riskinhallintaan, markkinoille saattamisen jälkeiseen seurantaan ja dokumentaatioon. Päällekkäisyyksien välttämiseksi olisi harkittava myös rajoitettuja poikkeuksia tarjoajien laadunhallintajärjestelmään ja suuririskisten tekoälyjärjestelmien käyttäjille asetettuun seurantavelvoitteeseen siltä osin kuin niitä sovelletaan direktiivillä 2013/36/EU säänneltyihin luottolaitoksiin.

(80)

Rahoituspalveluja koskevaan unionin lainsäädäntöön sisältyy sisäistä hallintoa ja riskinhallintaa koskevia säännöksiä ja vaatimuksia, joita sovelletaan säänneltyihin rahoituslaitoksiin niiden tarjotessa kyseisiä palveluja, myös silloin, kun ne käyttävät tekoälyjärjestelmiä. Jotta voidaan varmistaa tämän asetuksen ja rahoituspalveluja koskevan unionin lainsäädännön asiaa koskevien sääntöjen ja vaatimusten johdonmukainen soveltaminen ja täytäntöönpano, rahoituspalvelulainsäädännön valvonnasta ja täytäntöönpanosta vastaavat toimivaltaiset viranomaiset, tarvittaessa myös Euroopan keskuspankki, olisi nimettävä toimivaltaisiksi viranomaisiksi valvomaan tämän asetuksen täytäntöönpanoa, myös markkinavalvontatoimia, säänneltyjen ja valvottujen rahoituslaitosten tarjoamien tai käyttämien tekoälyjärjestelmien osalta. Jotta voidaan edelleen parantaa johdonmukaisuutta tämän asetuksen ja Euroopan parlamentin ja neuvoston direktiivin 2013/36/EU (56) nojalla säänneltyihin luottolaitoksiin sovellettavien sääntöjen välillä, direktiivin 2013/36/EU mukaisiin nykyisiin velvoitteisiin ja menettelyihin on aiheellista sisällyttää myös vaatimustenmukaisuuden arviointimenettely ja jotkin tarjoajien menettelylliset velvoitteet, jotka liittyvät riskinhallintaan, markkinoille saattamisen jälkeiseen seurantaan ja dokumentaatioon. Päällekkäisyyksien välttämiseksi olisi harkittava myös rajoitettuja poikkeuksia tarjoajien laadunhallintajärjestelmään ja suuririskisten tekoälyjärjestelmien käyttöönottajille asetettuun seurantavelvoitteeseen siltä osin kuin niitä sovelletaan direktiivillä 2013/36/EU säänneltyihin luottolaitoksiin.

(80 a)

Kun otetaan huomioon tämän asetuksen tavoitteet, erityisesti luonnollisten henkilöiden terveyden, turvallisuuden ja perusoikeuksien suojelun vastaavan tason varmistaminen, oikeusvaltion ja demokratian suojelun varmistaminen, ja kun otetaan huomioon, että tekoälyjärjestelmien näihin oikeuksiin kohdistuvien riskien lieventämistä ei välttämättä saavuteta riittävällä tavalla kansallisella tasolla tai näitä riskejä saatetaan tulkita eri tavoilla, mikä saattaa lopulta johtaa luonnollisten henkilöiden suojelun tason eroihin ja aiheuttaa markkinoiden pirstaloitumista, kansallisille valvontaviranomaisille olisi annettava valtuudet suorittaa yhteisiä tutkimuksia tai turvautua unionin suojamenettelyyn tehokkaan täytäntöönpanon varmistamiseksi. Yhteiset tutkimukset olisi aloitettava, kun kansallisella valvontaviranomaisella on riittävät perusteet uskoa, että tämän asetuksen rikkomisessa on kyse laajalle levinneestä rikkomisesta, tai että siinä on kyse laajalle levinneestä rikkomisesta, jolla on unionin laajuinen ulottuvuus, tai kun tekoälyjärjestelmä tai perusmalli aiheuttaa riskin, joka vaikuttaa tai todennäköisesti vaikuttaa vähintään 45 miljoonaan yksityishenkilöön useammassa kuin yhdessä jäsenvaltiossa.

(82)

On tärkeää, että tekoälyjärjestelmät, jotka liittyvät tuotteisiin, jotka eivät ole tämän asetuksen mukaisesti suuririskisiä ja joiden ei näin ollen tarvitse täyttää tässä asetuksessa vahvistettuja vaatimuksia, ovat kuitenkin turvallisia, kun ne saatetaan markkinoille tai otetaan käyttöön. Tämän tavoitteen saavuttamiseksi Euroopan parlamentin ja neuvoston direktiiviä 2001/95/EY (57) sovellettaisiin turvaverkkona.

(82)

On tärkeää, että tekoälyjärjestelmät, jotka liittyvät tuotteisiin, jotka eivät ole tämän asetuksen mukaisesti suuririskisiä ja joiden ei näin ollen tarvitse täyttää suuririskisille tekoälyjärjestelmille vahvistettuja vaatimuksia, ovat kuitenkin turvallisia, kun ne saatetaan markkinoille tai otetaan käyttöön. Tämän tavoitteen saavuttamiseksi Euroopan parlamentin ja neuvoston direktiiviä 2001/95/EY (57) sovellettaisiin turvaverkkona.

(83)

Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta.

(83)

Jotta voidaan varmistaa toimivaltaisten viranomaisten luotettava ja rakentava yhteistyö unionin ja kansallisella tasolla, kaikkien tämän asetuksen soveltamiseen osallistuvien osapuolten olisi pyrittävä läpinäkyvyyteen ja avoimuuteen ja kunnioitettava tehtäviään suorittaessaan saamiensa tietojen ja datan luottamuksellisuutta ottamalla käyttöön teknisiä ja organisatorisia toimenpiteitä toimintansa yhteydessä saamiensa tietojen turvallisuuden ja luottamuksellisuuden suojelemiseksi, myös teollis- ja tekijänoikeuksien sekä yleisten ja kansallisten turvallisuusetujen osalta. Jos komission, kansallisten toimivaltaisten viranomaisten ja tämän asetuksen mukaisesti ilmoitettujen laitosten toiminta johtaa teollis- ja tekijänoikeuksien rikkomiseen, jäsenvaltioiden olisi säädettävä asianmukaisista toimenpiteistä ja oikeussuojakeinoista teollis- ja tekijänoikeuksien noudattamisen varmistamiseksi direktiiviä 2004/48/EY soveltaen.

(84)

Jäsenvaltioiden olisi toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että tämän asetuksen säännökset pannaan täytäntöön, ja säädettävä niiden rikkomiseen sovellettavista tehokkaista, oikeasuhteisista ja varoittavista seuraamuksista. Tiettyjen rikkomisten osalta jäsenvaltioiden olisi otettava huomioon tässä asetuksessa vahvistetut marginaalit ja kriteerit . Euroopan tietosuojavaltuutetulla olisi oltava valta määrätä sakkoja tämän asetuksen soveltamisalaan kuuluville unionin toimielimille, virastoille ja elimille.

(84)

Tämän asetuksen noudattamisen varmistamiseksi kansallisen valvontaviranomaisen olisi tässä asetuksessa säädetyn menettelyn mukaisia menettelyjä suorittaessaan voitava määrätä sakkoja. Jäsenvaltioiden olisi toteutettava kaikki tarvittavat toimenpiteet sen varmistamiseksi, että tämän asetuksen säännökset pannaan täytäntöön, ja säädettävä niiden rikkomiseen sovellettavista tehokkaista, oikeasuhteisista ja varoittavista seuraamuksista. Tämän asetuksen rikkomisesta määrättävien hallinnollisten seuraamusten tehostamiseksi ja yhdenmukaistamiseksi tietyistä rikkomisista määrättäville hallinnollisille sakoille olisi vahvistettava enimmäismäärät. Arvioidessaan sakkojen määrää kansallisten toimivaltaisten viranomaisten olisi kussakin yksittäisessä tapauksessa otettava huomioon kaikki kyseisen tilanteen kannalta merkittävät olosuhteet sekä erityisesti rikkomisen ja sen seurausten luonne, vakavuus ja kesto sekä tarjoajan organisaation koko erityisesti, jos tarjoaja on pk- tai startup-yritys . Euroopan tietosuojavaltuutetulla olisi oltava valta määrätä sakkoja tämän asetuksen soveltamisalaan kuuluville unionin toimielimille, virastoille ja elimille. Tämän asetuksen mukaisista seuraamuksista ja oikeudenkäyntikuluista ei pitäisi voida sopia sopimuslausekkeissa tai muunlaisilla sopimusjärjestelyillä.

(84 a)

Koska tekoälyjärjestelmät voivat vakavasti heikentää luonnollisten henkilöiden, oikeushenkilöiden ja luonnollisten henkilöiden ryhmien oikeuksia ja vapauksia, on olennaisen tärkeää, että luonnollisilla henkilöillä, oikeushenkilöillä ja luonnollisten henkilöiden ryhmillä on tarkoituksenmukainen mahdollisuus käyttää ilmoitus- ja oikeussuojamekanismeja ja että heillä on oikeus käyttää oikeasuhteisia ja tehokkaita oikeussuojakeinoja. Heidän olisi voitava ilmoittaa tämän asetuksen rikkomisista kansalliselle valvontaviranomaiselleen, ja heillä olisi oltava oikeus tehdä valitus tekoälyjärjestelmien tarjoajista tai käyttöönottajista. Käyttöönottajien olisi tarvittaessa tarjottava luonnollisten henkilöiden, oikeushenkilöiden ja luonnollisten henkilöiden ryhmille käyttöön sisäisiä valitusmekanismeja. Luonnollisilla henkilöillä, oikeushenkilöillä ja luonnollisten henkilöiden ryhmillä olisi oltava myös oikeus tehokkaisiin oikeussuojakeinoihin kansallisen valvontaviranomaisen tekemän heitä koskevan oikeudellisesti sitovan päätöksen osalta tai jos kansallinen valvontaviranomainen ei käsittele valitusta, ilmoita valituksen tekijälle valituksen etenemisestä tai alustavasta ratkaisusta tai noudata velvollisuuttaan tehdä valitusta koskeva lopullinen päätös, sanotun kuitenkaan rajoittamatta muita hallinnollisia muutoksenhakukeinoja tai muita kuin oikeudellisia oikeussuojakeinoja.

(84 b)

Asianomaisille henkilöille olisi aina ilmoitettava, että heidän tapauksessaan sovelletaan suuririskistä tekoälyjärjestelmää, kun käyttöönottajat käyttävät suuririskistä tekoälyjärjestelmää apuna luonnollisia henkilöitä koskevassa päätöksenteossa tai tekemään tällaisia päätöksiä. Näiden tietojen perusteella asianomaiset henkilöt voivat käyttää tämän asetuksen mukaista oikeuttaan saada selitys. Kun käyttöönottajat antavat tämän asetuksen mukaisesti selityksen asianomaisille henkilöille, niiden olisi otettava huomioon keskivertokuluttajan tai yksilön asiantuntemus ja tietämys.

(84 c)

Väärinkäytösten paljastajien suojelua koskevaa unionin lainsäädäntöä (direktiivi (EU) 2019/1937) sovelletaan täysimääräisesti tutkijoihin, suunnittelijoihin, kehittäjiin, hankkeiden toteuttajiin, tarkastajiin, tuotepäälliköihin, insinööreihin ja talouden toimijoihin, jotka saavat tietoja siitä, että tekoälyjärjestelmän tarjoaja tai tämän tekoälyjärjestelmä rikkoo unionin lainsäädäntöä.

(85)

Sen varmistamiseksi, että sääntelykehystä voidaan tarvittaessa mukauttaa, komissiolle olisi siirrettävä valta hyväksyä Euroopan unionin toiminnasta tehdyn sopimuksen 290 artiklan mukaisesti säädösvallan siirron nojalla annettavia delegoituja säädöksiä, joilla muutetaan liitteessä I esitettyä tekniikoiden ja lähestymistapojen luetteloa tekoälyjärjestelmien määrittelemiseksi, liitteessä II esitettyä unionin yhdenmukaistamislainsäädännön luetteloa, liitteessä III esitettyä suuririskisten tekoälyjärjestelmien luetteloa, liitteessä IV määriteltyä teknistä dokumentaatiota koskevia säännöksiä, liitteessä V esitetyn EU-vaatimustenmukaisuusvakuutuksen sisältöä, liitteissä VI ja VII esitettyjä vaatimustenmukaisuuden arviointimenettelyjä koskevia säännöksiä sekä säännöksiä, joilla määritetään suuririskiset tekoälyjärjestelmät, joihin olisi sovellettava laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuvaa vaatimustenmukaisuuden arviointimenettelyä. On erityisen tärkeää, että komissio asiaa valmistellessaan toteuttaa asianmukaiset kuulemiset, myös asiantuntijatasolla, ja että nämä kuulemiset toteutetaan paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa (58) vahvistettujen periaatteiden mukaisesti. Jotta voitaisiin erityisesti varmistaa tasavertainen osallistuminen delegoitujen säädösten valmisteluun, Euroopan parlamentille ja neuvostolle toimitetaan kaikki asiakirjat samaan aikaan kuin jäsenvaltioiden asiantuntijoille, ja Euroopan parlamentin ja neuvoston asiantuntijoilla on järjestelmällisesti oikeus osallistua komission asiantuntijaryhmien kokouksiin, joissa valmistellaan delegoituja säädöksiä.

(85)

Sen varmistamiseksi, että sääntelykehystä voidaan tarvittaessa mukauttaa, komissiolle olisi siirrettävä valta hyväksyä Euroopan unionin toiminnasta tehdyn sopimuksen 290 artiklan mukaisesti säädösvallan siirron nojalla annettavia delegoituja säädöksiä, joilla muutetaan liitteessä II esitettyä unionin yhdenmukaistamislainsäädännön luetteloa, liitteessä III esitettyä suuririskisten tekoälyjärjestelmien luetteloa, liitteessä IV määriteltyä teknistä dokumentaatiota koskevia säännöksiä, liitteessä V esitetyn EU-vaatimustenmukaisuusvakuutuksen sisältöä, liitteissä VI ja VII esitettyjä vaatimustenmukaisuuden arviointimenettelyjä koskevia säännöksiä sekä säännöksiä, joilla määritetään suuririskiset tekoälyjärjestelmät, joihin olisi sovellettava laadunhallintajärjestelmän ja teknisen dokumentaation arviointiin perustuvaa vaatimustenmukaisuuden arviointimenettelyä. On erityisen tärkeää, että komissio asiaa valmistellessaan toteuttaa asianmukaiset kuulemiset, myös asiantuntijatasolla, ja että nämä kuulemiset toteutetaan paremmasta lainsäädännöstä 13 päivänä huhtikuuta 2016 tehdyssä toimielinten välisessä sopimuksessa (58) vahvistettujen periaatteiden mukaisesti . Näissä kuulemisissa olisi oltava mukana tasapuolisesti eri sidosryhmiä, mukaan lukien kuluttajajärjestöt, kansalaisyhteiskunta, asianomaisia henkilöitä edustavat järjestöt, eri alojen ja erikokoisten yritysten edustajat sekä tutkijat ja tieteenharjoittajat . Jotta voitaisiin erityisesti varmistaa tasavertainen osallistuminen delegoitujen säädösten valmisteluun, Euroopan parlamentille ja neuvostolle toimitetaan kaikki asiakirjat samaan aikaan kuin jäsenvaltioiden asiantuntijoille, ja Euroopan parlamentin ja neuvoston asiantuntijoilla on järjestelmällisesti oikeus osallistua komission asiantuntijaryhmien kokouksiin, joissa valmistellaan delegoituja säädöksiä.

(85 a)

Kun otetaan huomioon teknologian nopea kehitys ja suuririskisten tekoälyjärjestelmien arvioinnin edellyttämä tekninen asiantuntemus, komission olisi tarkasteltava säännöllisesti uudelleen ja vähintään vuosittain tämän asetuksen täytäntöönpanoa, erityisesti kiellettyjä tekoälyjärjestelmiä, avoimuusvelvoitteita sekä suuririskisten alojen ja käyttötapausten luetteloa, ja kuultava tekoälytoimistoa ja asiaankuuluvia sidosryhmiä.

(87 a)

Koska tekoälyjärjestelmien ja niihin liittyvän tieto- ja viestintätekniikan, mukaan lukien ohjelmistot, laitteistot ja erityisesti datakeskukset, luonnonvarojen ja energian käytöstä, jätteen tuottamisesta ja muista ympäristövaikutuksista on vain rajallisesti tietoa, komission olisi otettava käyttöön asianmukainen menetelmä tämän asetuksen ympäristövaikutuksen ja vaikuttavuuden arvioimeksi unionin ympäristö- ja ilmastotavoitteiden valossa.

(89)

Euroopan tietosuojavaltuutettua ja Euroopan tietosuojaneuvostoa on kuultu asetuksen (EU) 2018/1725 42 artiklan 2 kohdan mukaisesti, ja ne antoivat lausuntonsa […],

(89)

Euroopan tietosuojavaltuutettua ja Euroopan tietosuojaneuvostoa on kuultu asetuksen (EU) 2018/1725 42 artiklan 2 kohdan mukaisesti, ja ne antoivat lausuntonsa 18 päivänä kesäkuuta 2021 ,

1.

(d)

läpinäkyvyyttä koskevat yhdenmukaistetut säännöt tekoälyjärjestelmille, jotka on tarkoitettu toimimaan vuorovaikutuksessa luonnollisten henkilöiden kanssa, tunteentunnistusjärjestelmille ja biometrisille luokittelujärjestelmille sekä tekoälyjärjestelmille , joita käytetään kuva-, ääni- tai videosisällön tuottamiseen tai manipulointiin ;

(d)

läpinäkyvyyttä koskevat yhdenmukaistetut säännöt tietyille tekoälyjärjestelmille;

(e)

markkinoiden seurantaa ja valvontaa koskevat säännöt.

(e)

markkinoiden seurantaa ja valvontaa sekä hallinnointia ja täytäntöönpanoa koskevat säännöt;

(e a)

innovointia tukevat toimenpiteet, joissa keskitytään erityisesti pk-yrityksiin ja startup-yrityksiin, mukaan lukien sääntelyn testiympäristöjen perustaminen ja kohdennetut toimenpiteet pk-yrityksiin ja startup-yrityksiin kohdistuvan sääntelytaakan vähentämiseksi;

(e b)

unionin tekoälytoimiston perustamista ja toimintaa koskevat säännöt.

(b)

unionissa sijaitseviin tekoälyjärjestelmien käyttäjiin ;

(b)

unioniin sijoittautuneisiin tai unionissa sijaitseviin tekoälyjärjestelmien käyttöönottajiin ;

(c)

kolmannessa maassa sijaitseviin tekoälyjärjestelmien tarjoajiin ja käyttäjiin, kun järjestelmän tuottamaa tulosta käytetään unionissa.

(c)

niihin tekoälyjärjestelmien tarjoajiin ja käyttöönottajiin, joiden sijoittautumispaikka on tai jotka sijaitsevat sellaisessa kolmannessa maassa , jossa sovelletaan jonkin jäsenvaltion lakia kansainvälisen julkisoikeuden nojalla tai kun järjestelmän tuottamaa tulosta on tarkoitus käyttää unionissa;

(c a)

tarjoajiin, jotka saattavat markkinoille tai ottavat käyttöön 5 artiklassa tarkoitettuja tekoälyjärjestelmiä unionin ulkopuolella, jos tällaisten järjestelmien tarjoaja tai jakelija sijaitsee unionissa;

(c b)

tekoälyjärjestelmien maahantuojiin ja jakelijoihin sekä tekoälyjärjestelmien tarjoajien valtuutettuihin edustajiin, jos tällaisten maahantuojien, jakelijoiden tai valtuutettujen edustajien sijoittautumispaikka on tai ne sijaitsevat unionissa;

(c c)

3 artiklan 8 a alakohdassa määriteltyihin asianomaisiin henkilöihin, jotka sijaitsevat unionissa ja joiden terveyteen, turvallisuuteen tai perusoikeuksiin unionissa markkinoille saatetun tai käyttöön otetun tekoälyjärjestelmän käyttö vaikuttaa haitallisesti.

(a)

asetus (EY) N:o 300/2008;

(b)

asetus (EU) N:o 167/2013;

(c)

asetus (EU) N:o 168/2013;

(d)

direktiivi 2014/90/EU;

(e)

direktiivi (EU) 2016/797;

(f)

asetus (EU) 2018/858;

(g)

asetus (EU) 2018/1139;

(h)

asetus (EU) 2019/2144.