EUROOPAN KOMISSIO
Bryssel 18.8.2022
COM(2022) 414 final
Suositus
NEUVOSTON PÄÄTÖS
luvan antamisesta aloittaa Euroopan unionin puolesta neuvottelut tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta
PERUSTELUT
EHDOTUKSEN TAUSTA
Tekoäly tarjoaa suuria mahdollisuuksia yhteiskunnalle, ympäristölle ja taloudelle. Samaan aikaan tekoäly voi sen erityiseen sovellukseen ja käyttöön liittyvistä olosuhteista riippuen aiheuttaa aineellista tai aineetonta haittaa ja riskejä yleiselle edulle ja yksilöiden perusoikeuksille ja -vapauksille. Tekoälyä koskeva johdonmukainen oikeudellinen kehys, jolla suojellaan yleisiä etuja ja perusoikeuksia ja edistetään samalla luottamusta ja innovointia, on näin ollen ratkaisevan tärkeä näiden haasteiden ratkaisemiseksi ja tekoälyn mahdollisuuksien hyödyntämiseksi.
Euroopan komissio on huhtikuussa 2021 ehdottanut kattavaa asetusta, jolla yhdenmukaistettaisiin tekoälyjärjestelmiä koskevat säännöt kaikissa EU:n 27 jäsenvaltiossa 1 . Euroopan parlamentti ja neuvosto neuvottelevat parhaillaan ehdotuksesta tavallista lainsäätämisjärjestystä noudattaen. Monet kansainväliset järjestöt, Euroopan neuvosto niiden joukossa, ovat myös tehostaneet toimintaansa tällä alalla sekä tunnustaneet tekoälyn rajatylittävän luonteen ja kansainvälisen yhteistyön tarpeen yhteisiin haasteisiin vastaamiseksi.
Kohti tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevaa Euroopan neuvoston yleissopimusta
Euroopan neuvoston ministerikomitea päätti 11. syyskuuta 2019 perustaa tekoälyä käsittelevän tilapäisen komitean (CAHAI) 2 . Sen tehtävänä oli tarkastella tekoälyn kehitystä, suunnittelua ja soveltamista koskevan oikeudellisen kehyksen toteuttamismahdollisuuksia ja mahdollisia osa-alueita. Työssä tuli ottaa huomioon ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevat Euroopan neuvoston normit sekä voimassa olevat asiaa koskevat kansainväliset oikeudelliset välineet 3 . CAHAIn työ perustui toteutettavuustutkimukseen 4 ja keväällä 2021 toteutettuun useiden sidosryhmien kuulemiseen 5 . CAHAI sai tehtävänsä valmiiksi 3. joulukuuta 2021 ja laati työstään päätösasiakirjan, joka sisälsi selvityksen oikeudellisen kehyksen mahdollisista osa-alueista 6 . Päätösasiakirjan mukaan tekoälyjärjestelmien kehittämisessä, suunnittelussa ja soveltamisessa tarvitaan oikeudellista välinettä, jossa otetaan huomioon ihmisarvon suojelemisen sekä ihmisoikeuksien, demokratian ja oikeusvaltion kunnioittamisen perusperiaatteet. Välineessä olisi säädettävä tekoälyjärjestelmien riskiluokittelumenetelmästä, ja luokkiin kuuluisivat ”vähäinen riski”, ”suuri riski” sekä ”riski, joka ei ole hyväksyttävissä”. Tekoälysovellukset, joihin liittyvä riski ei ole hyväksyttävissä, tulisi kieltää 7 . Välineeseen tulisi sisällyttää yhdenvertaista kohtelua ja syrjimättömyyttä koskeva säännös, jotta vältetään perusteeton suosiminen. Oikeudellisilla takeilla olisi taattava vähintään oikeus tehokkaaseen oikeussuojakeinoon kansallisen viranomaisen edessä, oikeus saada tietoa tekoälyjärjestelmien käytöstä päätöksentekoprosessissa, oikeus valita ihmisten välinen vuorovaikutus ja oikeus tietää olevansa tekemisissä tekoälyjärjestelmän kanssa. Erityisiä aiheita, kuten sisältöväärennöksiä (”syväväärennökset”), olisi käsiteltävä muissa alakohtaisissa välineissä. Valvontamekanismien ja kansallisten valvontaviranomaisten perustamisen vaatimusta olisi harkittava. Oikeudellista välinettä voitaisiin täydentää ei-sitovalla vaikutustenarviointimallilla.
Tekoälyä käsittelevän tilapäisen komitean seuraaja, tekoälykomitea (CAI) perustettiin toimikaudelle 2022–2024. Tekoälykomitean tehtävänkuvauksen mukaan 8 sen tehtävä on käynnistää kansainvälinen neuvotteluprosessi tekoälyn kehittämistä, suunnittelua ja soveltamista koskevan oikeudellisen kehyksen laatimiseksi. Kehyksen olisi perustuttava Euroopan neuvoston ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskeviin vaatimuksiin ja edistettävä innovointia. Kehys on laadittava 15. marraskuuta 2023 mennessä, ja se on saatava valmiiksi ennen tekoälykomitean toimikauden loppumista vuonna 2024. Tekoälykomitean olisi tehtävänkuvauksensa mukaisesti sovitettava työnsä yhteen muiden hallitustenvälisten komiteoiden ja Euroopan neuvoston yksiköiden kanssa, käytettävä työnsä perustana vahvaa näyttöä ja osallistavaa kuulemismenettelyä, myös kansainvälisten ja ylikansallisten kumppaneiden kanssa, sekä otettava huomioon CAHAIn päätösasiakirja.
Tekoälykomitea piti järjestäytymiskokouksensa 4.–6. huhtikuuta 2022. Kokouksessa valittiin komitean puheenjohtaja, varapuheenjohtaja ja puheenjohtajisto. Euroopan neuvoston ministerikomitea kehotti 30. kesäkuuta 2022 tekoälykomiteaa ryhtymään nopeisiin toimiin tehtävänkuvauksensa mukaisesti sellaisen tekoälyä käsittelevän oikeudellisesti sitovan monialaisen välineen (yleissopimus/puitesopimus) laatimiseksi, joka perustuu ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskeviin Euroopan neuvoston normeihin, jossa keskitytään yleisiin yhteisiin periaatteisiin, jolla edistetään innovointia ja joka on avoin myös muille kuin jäsenvaltiolle, ja ottamaan samalla huomioon myös asiaa koskevat jo olemassa olevat tai parhaillaan valmisteltavat oikeudelliset kehykset 9 .
Tämän jälkeen tekoälykomitean puheenjohtaja esitti alustavan luonnoksen tulevasta (puite)yleissopimuksesta. Luonnokseen on kirjattu perusperiaatteet ja säännöt, joiden tavoitteena on varmistaa, että tekoälyjärjestelmien suunnittelussa, kehittämisessä ja soveltamisessa otetaan huomioon ihmisoikeuksien kunnioittaminen, demokratian toiminta ja oikeusvaltioperiaatteen noudattaminen. Tuleva (puite)yleissopimus on pantava täytäntöön osapuolten lainkäyttöalueilla. Se kattaa sekä julkiset että yksityiset tekoälyjärjestelmien tarjoajat ja käyttäjät. Kansalliseen puolustukseen liittyvät tekoälyjärjestelmät jäävät kuitenkin soveltamisalan ulkopuolelle. Alustavassa luonnoksessa ehdotetaan seuraavien määräysten sisällyttämistä:
·(puite)yleissopimuksen tarkoitus ja soveltamisala
·tekoälyjärjestelmän, elinkaaren, tarjoajan, käyttäjän ja ”tekoälyrekisteröidyn” määritelmät
·tietyt perusperiaatteet, kuten tekoälyrekisteröityjen menettelylliset takeet ja oikeudet, jotka koskisivat kaikkia tekoälyjärjestelmiä niiden riskitasosta riippumatta
·julkiseen sektoriin sekä sellaisiin tekoälyjärjestelmiin liittyvät lisätoimenpiteet, jotka on tunnistettu merkittävän tai hyväksymättömän riskin järjestelmiksi riskien ja vaikutusten arviointimenetelmien perusteella (menetelmistä määrätään myöhemmin yleissopimuksen liitteessä)
·sopimusosapuolten välinen seuranta- ja yhteistyömekanismi
·loppumääräykset, joihin lukeutuu EU:n jäsenvaltioiden mahdollisuus soveltaa EU:n lainsäädäntöä keskinäisissä suhteissaan yleissopimuksen piiriin koskevien asioiden osalta ja unionin mahdollisuus liittyä sopimukseen.
Alustavasta luonnoksesta keskustellaan tekoälykomitean täysistunnoissa Strasbourgissa. Istunnot on määrä pitää 21.‑23. syyskuuta ja 23.–25. marraskuuta 2022. Vuoden 2023 ohjelmassa on lisäksi neljä kokousta, ja vuodelle 2024 on suunniteltu yksi kokous.
•Ehdotuksen perustelut ja tavoitteet
Tämä suositus päätökseksi esitetään neuvostolle Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 218 artiklan nojalla. Päätöksellä annettaisiin lupa aloittaa unionin puolesta neuvottelut tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston tulevasta yleissopimuksesta, vahvistaa neuvotteluohjeet ja nimetä komissio unionin neuvottelijaksi.
SEUT-sopimuksen 3 artiklan 2 kohdassa määrätään, että unionilla on myös yksinomainen toimivalta ”tehdä kansainvälinen sopimus – – siltä osin kuin se voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta.” Kansainvälinen sopimus voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta, jos sopimuksen soveltamisala on päällekkäinen unionin lainsäädännön soveltamisalan kanssa tai jos unionin lainsäädäntö kattaa sopimuksen soveltamisalan suurelta osin 10 .
Tältä osin EU:n lainsäädännössä säädetään kattavista yhteisistä sisämarkkinasäännöistä tuotteille 11 ja palveluille, 12 joissa tekoälyjärjestelmiä voidaan käyttää. Lisäksi tiettyjen tekoälyjärjestelmien kehittäminen ja käyttö saattaa vaikuttaa Euroopan unionin perusoikeuskirjassa 13 sekä unionin johdetussa oikeudessa vahvistettujen perusoikeuksien toteutumiseen. Tämä koskee esimerkiksi oikeutta ruumiilliseen ja henkiseen koskemattomuuteen 14 , henkilötietojen suojaan 15 , yksityisyyteen 16 , syrjimättömyyteen 17 , sananvapauteen ja tiedonvälityksen vapauteen 18 , syyttömyysolettamaan 19 , puolueettomaan tuomioistuimeen ja tehokkaisiin oikeussuojakeinoihin 20 . Kehittäminen ja käyttö saattavat vaikuttaa myös unionin perusarvoihin, kuten ihmisarvoon, demokratiaan ja oikeusvaltioperiaatteeseen 21 .
Sen arvioimiseksi, kattaako EU:n lainsäädäntö suurelta osin tietyn alan, on lisäksi otettava huomioon paitsi EU:n lainsäädäntö sellaisena kuin se on tällä hetkellä kyseisellä alalla, myös sen tuleva kehitys siltä osin kuin sitä on mahdollista ennakoida arviointiajankohtana 22 . Tekoälyä koskevan Euroopan neuvoston tulevan yleissopimuksen soveltamisala vaikuttaa suoraan tällaiseen ennustettavissa olevaan tulevaan kehitykseen. Siinä huomioidaan komission ehdotus asetukseksi tekoälystä (”tekoälysäädös”), 23 joka esiteltiin huhtikuussa 2021 ja jota Euroopan parlamentti ja neuvosto käsittelevät parhaillaan.
Neuvottelut Euroopan neuvoston tulevasta tekoälyä koskevasta (puite)yleissopimuksesta liittyvät unionin toimivaltaa koskeviin näkökohtiin, ja yleissopimuksen alustavan luonnoksen ja ehdotetun tekoälysäädöksen sisällöt ovat soveltamisalaltaan, luonteeltaan ja sisällöltään pitkälti päällekkäisiä. Tämän vuoksi on tärkeää, että neuvottelut käydään unionin puolesta niin, että varmistetaan tekoälyä koskevien EU:n sääntöjen johdonmukaisuuden ja yhtenäisyyden sekä niillä luodun järjestelmän moitteettoman toiminnan vaarantumattomuus ja se, että tuleva Euroopan neuvoston yleissopimus on täysin yhdenmukainen tällä alalla voimassa olevan ja tulevan EU:n lainsäädännön kanssa.
•Yhdenmukaisuus muiden alaa koskevien politiikkojen säännösten kanssa
Komissio ehdotti 21. huhtikuuta 2021 asetusta tekoälyjärjestelmien markkinoille saattamista, käyttöönottoa ja käyttöä unionissa koskevista yhdenmukaisista säännöistä. Ehdotuksella on kaksi tavoitetta: luoda sisämarkkinat tekoälyn kehittämisen ja käyttöönoton edistämistä varten ja huomioida turvallisuuteen, terveyteen ja perusoikeuksiin liittyvät riskit. Ehdotus on luonteeltaan monialainen, ja sitä sovelletaan tekoälyjärjestelmien tarjoajiin ja käyttäjiin, riippumatta siitä, ovatko ne julkisia vai yksityisiä toimijoita. Tekoälyjärjestelmät, jotka on kehitetty tai joita käytetään yksinomaan sotilaallisiin tarkoituksiin, jätetään ehdotuksen soveltamisalan ulkopuolelle.
Ehdotuksessa säädetään oikeasuhtaisista vähimmäisvaatimuksista ja -velvoitteista, jotka rajoittuvat terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuviin riskeihin. Se ei kuitenkaan estä tekoälyteknologian kehittämistä tai korota kohtuuttomasti toimijoihin kohdistuvia taloudellisia tai hallinnollisia rasitteita Tätä varten noudatetaan riskiperusteista lähestymistapaa, jossa tekoälyjärjestelmät luokitellaan eri luokkiin: riski, joka ei ole hyväksyttävissä, suuri riski, läpinäkyvyyteen liittyvä riski sekä vähäinen ja minimaalinen riski.
·Kieltoa ehdotetaan tekoälyjärjestelmille, joiden katsotaan olevan EU:n arvojen vastaisia tai uhkaavan selkeästi ihmisten turvallisuutta, toimeentuloa tai oikeuksia, mikä tarkoittaa, että niihin liittyvä riski ei ole hyväksyttävissä (esimerkiksi julkisten viranomaisten suorittama sosiaalinen pisteytys, haitalliset manipuloivat tekoälyyn liittyvät käytännöt, reaaliaikainen biometrinen etätunnistus julkisissa tiloissa lainvalvontatarkoituksessa, joitakin harvoja poikkeuksia lukuun ottamatta).
·Suuren riskin tekoälyjärjestelmille, jotka aiheuttavat merkittäviä riskejä ihmisten terveydelle, turvallisuudelle tai perusoikeuksille, on suoritettava vaatimustenmukaisuustarkastuksia, ja järjestelmien on täytettävä tietyt pakolliset vaatimukset (esimerkiksi riskienhallinnan, datanhallintaan, dokumentaation, läpinäkyvyyden, ihmisen suorittaman valvonnan, tarkkuuden ja kyberturvallisuuden osalta) ennen kuin kyseiset järjestelmät voidaan saattaa markkinoille tai niitä voidaan käyttää unionissa. Tarjoajille ja käyttäjille asetetaan myös oikeasuhtaisia ja tehokkaita seuranta- ja valvontavelvoitteita, joissa määritetään selkeästi tarjoajien ja käyttäjien tehtävät ja vastuut koko arvoketjussa vaikuttamatta kuitenkaan alakohtaisen lainsäädännön asettamiin muihin velvoitteisiin.
·Ihmisille olisi ilmoitettava, kun he ovat vuorovaikutuksessa sellaisten tekoälyjärjestelmien kanssa, joihin liittyy läpinäkyvyysriski (esimerkiksi chattibotit, tunteentunnistusjärjestelmät ja biometriset luokitusjärjestelmät, syväväärennökset), tai altistuvat tällaisille järjestelmille.
·Kaikki muut järjestelmät, joihin liittyvä riski ihmisten terveydelle, turvallisuudelle tai perusoikeuksille, on minimaalinen tai vähäinen, sallitaan ilman lisärajoituksia. Tarjoajat voivat kuitenkin halutessaan noudattaa vapaaehtoisia käytännesääntöjä.
Euroopan parlamentti ja neuvosto käsittelevät parhaillaan ehdotusta tavallista lainsäätämisjärjestystä noudattaen.
Tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevaa Euroopan neuvoston tulevaa yleissopimusta koskevissa neuvotteluissa olisi varmistettava, että sovitut määräykset ovat EU:n lainsäädännön ja jäsenvaltioille siitä johtuvien velvollisuuksien mukaisia ja että niissä otetaan huomioon sen tuleva kehitys ja ehdotettu tekoälysäädös. Lisäksi on tarpeen varmistaa, että Euroopan neuvoston yleissopimukseen sisältyy irtautumislauseke, jonka mukaan yleissopimukseen liittyvät EU:n jäsenvaltiot voivat säännellä keskinäisiä suhteitaan EU:n lainsäädännön perusteella. Lainsäädäntömenettelyssä ja lainsäätäjien välisissä neuvotteluissa tarkentuvan ehdotetun tekoälysäädöksen ja sen lopullisen (hyväksytyn) muodon olisi säilyttävä voimassa EU:n jäsenvaltioiden välillä. Euroopan unionilla tulisi myös olla mahdollisuus liittyä sopimukseen sen osapuolena.
•Yhdenmukaisuus unionin muiden politiikkojen kanssa
Suositus on merkityksellinen sellaisten muiden käynnissä olevien tai suunniteltujen komission aloitteiden kannalta, joilla on tarkoitus puuttua tekoälyjärjestelmien kehittämiseen ja käyttöön liittyviin ongelmiin, jotka on yksilöity tekoälyä koskevassa valkoisessa kirjassa 24 . Muita aloitteita ovat muun muassa alakohtaisen tuotelainsäädännön (esim. konedirektiivin 25 ja yleistä tuoteturvallisuutta koskevan direktiivin 26 ) tarkistaminen sekä tulevat aloitteet, joissa käsitellään uusia teknologioita, kuten tekoälyjärjestelmiä, koskevia vastuukysymyksiä.
Suositus on myös komission yleisen digitaalistrategian mukainen. Strategian tarkoituksena on edistää ihmisten hyväksi toimivaa teknologiaa, mikä on yksi tiedonannossa ”Euroopan digitaalista tulevaisuutta rakentamassa” esitetyn poliittisen näkemyksen kolmesta keskeisestä tavoitteesta. 27 Sen tavoitteena on varmistaa, että tekoälyn kehityksessä kunnioitetaan ihmisoikeuksia ja pystytään ansaitsemaan ihmisten luottamus. Näin kehitetään Euroopan digitaalista valmiutta ja tehdään seuraavasta vuosikymmenestä digitaalinen vuosikymmenen 28 .
Ehdotetulla suosituksella myös vahvistetaan merkittävästi unionin roolia maailmanlaajuisten normien ja standardien määrittämisessä ja unionin arvojen ja etujen mukaisen luotettavan tekoälyn edistämisessä. Se luo Euroopan unionille vahvan perustan EU:n digitaalisen diplomatian vahvistamiselle 29 sekä muiden Euroopan ja sen ulkopuolisten maiden kanssa käytäville neuvotteluille, jotka koskevat ensimmäistä oikeudellisesti sitovaa, kansainvälistä tekoälysopimusta, joka perustuu yhteisiin arvoihin ja periaatteisiin.
2.OIKEUSPERUSTA, TOISSIJAISUUSPERIAATE JA SUHTEELLISUUSPERIAATE
•Oikeusperusta
Euroopan unionin toiminnasta tehdyn sopimuksen (SEUT) 218 artiklan 3 kohdan mukaan komissio esittää suosituksia neuvostolle, joka tekee päätöksen, jolla annetaan lupa aloittaa neuvottelut ja jossa nimetään unionin neuvottelija. SEUT-sopimuksen 218 artiklan 4 kohdan mukaan neuvosto voi antaa neuvottelijalle ohjeita.
•Toissijaisuusperiaate (jaetun toimivallan osalta)
Ehdotetussa tekoälysäädöksessä säädetään tekoälyä koskevista yhdenmukaisista säännöistä unionissa ja estetään näin jäsenvaltioita asettamasta lisärajoituksia, ellei sitä nimenomaisesti sallita säädöksessä. SEUT-sopimuksen 3 artiklan 2 kohdan mukaan unionilla on yksinomainen toimivalta tehdä kansainvälinen sopimus siltä osin kuin se voi vaikuttaa yhteisiin sääntöihin tai muuttaa niiden ulottuvuutta. Tämän seurauksena unionilla tulisi olla toimivalta neuvotella tekoälyä koskevasta Euroopan neuvoston tulevasta yleissopimuksesta kaikissa tekoälyjärjestelmien suunnitteluun, kehittämiseen ja soveltamiseen liittyvissä asioissa, jotka kuuluvat suurelta osin EU:n lainsäädännön piiriin tai jotka kuuluvat sen piiriin EU:n lainsäädännön ja erityisesti ehdotetun tekoälysäädöksen lähitulevaisuudessa tapahtuvan kehittämisen myötä.
•Suhteellisuusperiaate
Aloitteessa ei ylitetä sitä, mikä on tarpeen poliittisten tavoitteiden saavuttamiseksi.
•Toimintavan valinta
Toimintatapana on suositus neuvoston päätökseksi SEUT-sopimuksen 218 artiklan 3 ja 4 kohdan mukaisesti.
3.JÄLKIARVIOINTIEN, SIDOSRYHMIEN KUULEMISTEN JA VAIKUTUSTENARVIOINTIEN TULOKSET
•Jälkiarvioinnit/toimivuustarkastukset
EI SOVELLETA
•Sidosryhmien kuuleminen
EI SOVELLETA
•Asiantuntijatiedon keruu ja käyttö
Komissio on ottanut huomioon jäsenvaltioiden asiantuntijoiden esittämät näkökannat, jotka esitettiin asianomaisessa neuvoston työryhmässä käydyissä keskusteluissa osana neuvotteluihin valmistautumista.
•Vaikutustenarviointi
EI SOVELLETA
•Sääntelyn toimivuus ja yksinkertaistaminen
EI SOVELLETA
•Perusoikeudet
Sekä ehdotetulla tekoälysäädöksellä että tarkasteltavana olevalla Euroopan neuvoston yleissopimuksella pyritään minimoimaan perusoikeuksiin kohdistuvat riskit ja varmistamaan niiden suojan korkea taso. Tekoälyjärjestelmien kehittäminen ja käyttö saattavat tietyissä olosuhteissa vaikuttaa perusoikeuksiin kielteisesti. Samalla säädöksessä ja yleissopimuksessa kuitenkin tunnustetaan tekoälyn mahdollisuudet suojella ja edistää näiden oikeuksien käyttöä digitaalisessa ympäristössä, parantaa yhteiskunnallista ja ekologista hyvinvointia ja edistää teknistä kehitystä.
4.TALOUSARVIOVAIKUTUKSET
Ehdotuksella ei ole vaikutuksia unionin talousarvioon.
5.LISÄTIEDOT
•Toteuttamissuunnitelmat, seuranta, arviointi ja raportointijärjestelyt
Neuvotteluprosessin arvioidaan kestävän vuoteen 2024 saakka, minkä jälkeen yleissopimus voidaan allekirjoittaa ja tehdä.
Suositus
NEUVOSTON PÄÄTÖS
luvan antamisesta aloittaa Euroopan unionin puolesta neuvottelut tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta
EUROOPAN UNIONIN NEUVOSTO, joka
ottaa huomioon Euroopan unionin toiminnasta tehdyn sopimuksen ja erityisesti sen 218 artiklan 3 ja 4 kohdan,
ottaa huomioon Euroopan komission suosituksen,
sekä katsoo seuraavaa:
(1)Euroopan neuvoston ministerikomitea perusti vuonna 2021 tekoälyä käsittelevän komitean, jonka toimikausi on 2022–2024. Komitean tehtävänä on käynnistää kansainvälinen neuvotteluprosessi tekoälyn kehittämistä, suunnittelua ja soveltamista koskevan sellaisen oikeudellisen kehyksen laatimiseksi, joka perustuu ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskeviin Euroopan neuvoston normeihin ja jolla edistetään innovointia 30 .
(2)Euroopan neuvoston ministerikomitea kehotti 30. kesäkuuta 2022 tekoälykomiteaa ryhtymään nopeisiin toimiin tehtävänkuvauksensa mukaisesti sellaisen tekoälyä koskevan oikeudellisesti sitovan monialaisen välineen (yleissopimus/puitesopimus) laatimiseksi, joka perustuu ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskeviin Euroopan neuvoston normeihin, jossa keskitytään yleisiin yhteisiin periaatteisiin, jolla edistetään innovointia ja joka on avoin myös muille kuin jäsenvaltiolle, ja ottamaan samalla huomioon muut asian kannalta olennaiset olemassa olevat tai parhaillaan valmisteltavat kansainväliset oikeudelliset kehykset 31 .
(3)Tämän jälkeen tekoälykomitean puheenjohtaja ehdotti alustavaa luonnosta (puite)yleissopimuksesta, joka koskisi tekoälyjärjestelmien suunnittelua, kehittämistä ja soveltamista. Alustava luonnos sisältää määräyksiä tarkoituksesta ja päämäärästä, soveltamisalasta, määritelmistä, tietyistä perusperiaatteista, kuten menettelyllisistä takeista ja oikeuksista, jotka koskevat kaikkia tekoälyjärjestelmiä niiden riskitasosta riippumatta, lisätoimenpiteistä, jotka liittyvät julkisella sektorilla käytettäviin tekoälyjärjestelmiin sekä tekoälyjärjestelmiin, joiden riskitaso ei ole hyväksyttävissä tai on suuri, sekä seuranta- ja yhteistyömekanismeista; loppumääräykset, mukaan lukien unionin mahdollisuus liittyä yleissopimukseen; valmisteltavana olevan lisäyksen, joka koskee tekoälyjärjestelmien riskien ja vaikutusten arviointimenetelmiä.
(4)Euroopan unioni on hyväksynyt yhteisiä sääntöjä, joihin Euroopan neuvoston yleissopimukseen kaavaillut osiot vaikuttavat. Tähän kuuluvat erityisesti sellaisia tuotteita 32 ja palveluja 33 koskevat kattavat sisämarkkinasäännöt, joissa tekoälyjärjestelmiä voi käyttää, sekä EU:n perusoikeuskirjassa 34 vahvistettujen ja unionin johdetussa oikeudessa 35 täytäntöön pantujen perusoikeuksien suojelua koskevat säännöt, kun otetaan huomioon, että tiettyjen tekoälyjärjestelmien kehittäminen ja käyttö voi tietyissä olosuhteissa vaikuttaa haitallisesti kyseisiin oikeuksiin.
(5)Komissio on myös 21. huhtikuuta 2021 tehnyt lainsäädäntöehdotuksen asetukseksi tekoälyä koskevista yhdenmukaisista säännöistä 36 . Ehdotus on parhaillaan Euroopan parlamentin ja neuvoston käsittelyssä. Suunniteltu Euroopan neuvoston yleissopimus on soveltamisalaltaan suurelta osin päällekkäinen lainsäädäntöehdotuksen kanssa, sillä molempien välineiden tarkoituksena on vahvistaa säännöt, joita sovelletaan joko julkisten tai yksityisten toimijoiden tarjoamien ja käyttämien tekoälyjärjestelmien suunnitteluun, kehittämiseen ja soveltamiseen.
(6)Näin ollen tarkasteltavana olevan Euroopan neuvoston yleissopimuksen tekeminen voi vaikuttaa voimassa oleviin ja ennakoitavissa oleviin tuleviin unionin yhteisiin sääntöihin tai muuttaa niiden soveltamisalaa Euroopan unionin toiminnasta tehdyn sopimuksen 3 artiklan 2 kohdassa tarkoitetulla tavalla.
(7)Unionin lainsäädännön eheyden suojelemiseksi ja sen varmistamiseksi, että kansainvälisen oikeuden ja unionin oikeuden sääntöjen välinen johdonmukaisuus säilytetään, komissiolle on tarpeen antaa valtuudet käydä unionin puolesta neuvotteluja tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta.
(8)Euroopan tietosuojavaltuutettua on kuultu Euroopan parlamentin ja neuvoston asetuksen (EU) 2018/1725 42 artiklan 1 kohdan mukaisesti, ja hän on antanut lausuntonsa….
ON HYVÄKSYNYT TÄMÄN PÄÄTÖKSEN:
1 artikla
Komissiolle annetaan lupa neuvotella unionin puolesta Euroopan neuvoston tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta (puite)yleissopimuksesta.
2 artikla
Neuvotteluohjeet ovat tämän päätöksen liitteessä.
3 artikla
Neuvotteluissa käydään kuullen [neuvoston lisää erityiskomitean nimen].
4 artikla
Tämä päätös on osoitettu komissiolle.
Tehty Brysselissä
Neuvoston puolesta
Puheenjohtaja
EUROOPAN KOMISSIO
Bryssel 18.8.2022
COM(2022) 414 final
LIITE
asiakirjaan
SUOSITUS NEUVOSTON PÄÄTÖKSEKSI
luvan antamisesta aloittaa Euroopan unionin puolesta neuvottelut tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta
LIITE
suositukseen neuvoston päätökseksi luvan antamisesta aloittaa Euroopan unionin puolesta neuvottelut tekoälyä, ihmisoikeuksia, demokratiaa ja oikeusvaltioperiaatetta koskevasta Euroopan neuvoston yleissopimuksesta
Neuvotteluprosessin osalta unionin olisi pyrittävä seuraavaan:
(1)Neuvotteluprosessi on avoin, osallistava ja läpinäkyvä, ja se perustuu vankkaan näyttöön ja vilpittömässä mielessä tehtävään yhteistyöhön.
(2)Neuvotteluprosessi perustuu osallistavaan kuulemismenettelyyn ja mahdollistaa kaikkien asianomaisten sidosryhmien, kuten kansalaisyhteiskunnan, yksityisen sektorin, tiedeyhteisön, kansalaisjärjestöjen, standardointiorganisaatioiden ja muiden asianomaisten toimijoiden, joilla on asiantuntemusta tekoälyjärjestelmien suunnittelun, kehittämisen ja soveltamisen sääntelystä, osallistumisen mielekkäällä tavalla.
(3)Kaikilta neuvotteluosapuolilta saatuja kannanottoja tarkastellaan tasavertaiselta pohjalta osallistavan prosessin varmistamiseksi.
(4)Neuvotteluprosessi perustuu tehokkaaseen ja realistiseen työohjelmaan (puite)yleissopimuksen laatimiseksi.
Neuvottelujen yleisten tavoitteiden osalta unionin olisi pyrittävä seuraavaan:
(5)Yleissopimus on yhteensopiva EU:n sisämarkkinalainsäädännön ja muiden unionin oikeuden osa-alueiden kanssa, mukaan lukien unionin oikeuden yleiset periaatteet sekä EU:n perusoikeuskirjassa vahvistetut ja unionin johdetulla oikeudella täytäntöön pannut perusoikeudet ja -vapaudet.
(6)Yleissopimus on yhteensopiva ehdotetun tekoälysäädöksen kanssa 1 , ja siinä otetaan huomioon lainsäädäntöprosessin tulevat kehityskulut.
(7)Yleissopimus toimii tehokkaana ja tulevaisuuden vaatimukset huomioon ottavana tekoälyn sääntelykehyksenä, jolla varmistetaan ihmisoikeuksien korkeatasoinen suojelu ja eurooppalaisten arvojen säilyminen sekä edistetään innovointia ja parannetaan oikeusvarmuutta ja luottamusta; yleissopimuksessa tunnustetaan myös tekoälyn mahdolliset hyödyt tärkeille yleisille eduille, kuten ihmisoikeuksien toteutumisen suojelu ja edistäminen digitaalisessa ympäristössä, yhteiskunnallisen ja ekologisen hyvinvoinnin ja terveyden parantaminen ja teknisten kehityksen edistäminen.
(8)Yleissopimus vahvistaa kansainvälistä yhteistyötä Euroopan unionin ja muiden Euroopan ja sen ulkopuolisten maiden kanssa, jotka voivat liittyä yleissopimukseen.
(9)Yleissopimus on yhteensopiva voimassa olevien Euroopan neuvoston välineiden kanssa, erityisesti Euroopan ihmisoikeussopimuksen ja sen pöytäkirjojen, yksilöiden suojelusta henkilötietojen automaattisessa tietojenkäsittelyssä tehdyn Euroopan neuvoston yleissopimuksen nro 108, sellaisena kuin se on muutettuna muutospöytäkirjalla CETS 223, sekä muiden asiaa koskevien Euroopan neuvoston välineiden kanssa; yleissopimuksella vältetään päällekkäisyys näiden välineiden kanssa ja kaikki haitalliset vaikutukset niiden soveltamiseen tai uusien maiden liittymiseen niihin; yleissopimuksessa käsitellään uusia riskejä ja haasteita, joita tiettyjen tekoälyjärjestelmien erityispiirteet aiheuttavat näiden välineiden suojaamien oikeuksien noudattamiselle ja tehokkaalle täytäntöönpanolle.
(10)Yleissopimus on yhteensopiva niiden sitoumusten kanssa, joita Euroopan unioni on tehnyt muiden kansainvälisten sopimusten osapuolena, ja sillä vältetään kaikki haitalliset vaikutukset niiden tehokkaaseen soveltamiseen; yleissopimus on erityisesti unionin kansainvälisten kauppasitoumusten mukainen, ja sillä vältetään kaupalle aiheutuvia tarpeettomia tai perusteettomia rajoituksia.
Neuvottelujen sisällön osalta unionin olisi pyrittävä seuraavaan:
(11)Yleissopimuksen määräykset ovat täysin yhteensopivia EU:n sisämarkkinalainsäädännön ja muiden unionin oikeuden osa-alueiden kanssa, mukaan lukien unionin oikeuden yleiset periaatteet sekä EU:n perusoikeuskirjassa vahvistetut ja unionin johdetussa oikeudessa täytäntöön pannut perusoikeudet.
(12)Yleissopimuksen määräykset ovat täysin yhteensopivia ehdotetun tekoälysäädöksen säännösten kanssa, ja niissä otetaan huomioon lainsäädäntöprosessin tulevat kehityskulut.
(13)Yleissopimuksen määräykset antavat osapuolille mahdollisuuden myöntää laajemman suojan kuin yleissopimuksessa määrätään, eivätkä ne millään tavoin heikennä perusoikeuksien ja -vapauksien suojan tasoa ja unionin oikeudessa annettuja takeita, mukaan lukien periaate, jonka mukaan perusoikeuksia valvovien viranomaisten on oltava riippumattomia siltä osin kuin EU:n lainsäädännössä niin edellytetään.
(14)Yleissopimuksessa noudatetaan riskiperusteista lähestymistapaa, ja siinä vahvistetaan oikeasuhteiset, tehokkaat ja selkeät säännöt, joita sovelletaan julkisiin ja yksityisiin toimijoihin tekoälyn koko arvoketjussa ja joiden tarkoituksena on minimoida tiettyjen tekoälyjärjestelmien suunnittelusta, kehittämisestä ja soveltamisesta aiheutuvat riskit ja välttää samalla tarpeettomia ja suhteettomia rasitteita tai rajoituksia näiden toimijoiden toiminnalle tai teknologisen kehityksen rajoituksia; erityisesti sääntelytoimien laajuuden ja tiukkuuden on oltava tasapainotettava, perusteltava ja mitoitettava tekoälyjärjestelmien aiheuttamien riskitasojen mukaan.
(15)Yleissopimuksen määräykset on muotoiltu mahdollisuuksien mukaan tulevaisuudenkestävästi ja joustavasti, jotta voidaan ottaa huomioon tekoälyä koskeva tuleva teknologinen, yhteiskunnallinen sekä markkinoihin ja ympäristöön liittyvä kehitys.
(16)Yleissopimuksessa määrätään tekoälyjärjestelmien suunnittelua, kehittämistä ja soveltamista koskevista säännöistä, joilla vältetään päällekkäisyyksiä ja luodaan merkityksellistä lisäarvoa muihin asiaan liittyviin kansainvälisiin tai alueellisiin yleissopimuksiin verrattuna, erityisesti tietosuojan alalla; nämä tekoälyä koskevat säännöt ovat näiden yleissopimusten ja kansainvälisten ihmisoikeusnormien mukaisia.
(17)Yleissopimus sisältää määräyksiä tekoälyjärjestelmien suunnitteluun, kehittämiseen ja soveltamiseen sovellettavien sääntöjen tehokkaasta täytäntöönpanosta, erityisesti asianmukaisten ennakko- ja jälkikäteisvalvontamekanismien avulla, ja siinä tunnustetaan standardien, sertifiointimekanismien, vaatimustenmukaisuuden valvontaan osallistuvien riippumattomien kolmansien osapuolten ja toimivaltaisten valvontaviranomaisten rooli.
(18)Yleissopimus mahdollistaa innovointia tukevat toimenpiteet, kuten tekoälyjärjestelmien testaamisen sekä sääntelyn testiympäristöjen perustamisen ja toiminnan tekoälyyn liittyvän innovoinnin edistämiseksi valvotussa ympäristössä toimivaltaisten viranomaisten valvonnassa.
(19)Yleissopimuksessa otetaan huomioon pienten ja keskisuurten yritysten (pk-yritysten) erityistarpeet, se ei vaikuta suhteettomasti niiden kilpailukykyyn ja siinä velvoitetaan sopimuspuolet toteuttamaan erityistoimenpiteitä niiden tukemiseksi.
(20)Yleissopimuksessa otetaan huomioon lainvalvonta- ja oikeusviranomaisten intressi ehkäistä, tutkia ja paljastaa rikoksia sekä toteuttaa rikoksiin liittyviä syytetoimia, mukaan lukien tällaisten tutkimusten luottamuksellisuus ja luotettavuus.
(21)Yleissopimuksessa määrätään toimivaltaisten viranomaisten harjoittamasta tehokkaasta valvonnasta ja yhteistyömekanismeista, jotka mahdollistavat yleissopimuksen tehokkaan täytäntöönpanon.
Yleissopimuksen toiminnan osalta unionin olisi pyrittävä seuraavaan:
(22)Yleissopimukseen sisältyy irtautumislauseke, jonka mukaan EU:n jäsenvaltiot voivat keskinäisissä suhteissaan jatkaa EU:n lainsäädännön soveltamista yleissopimuksen soveltamisalaan kuuluvissa asioissa.
(23)Yleissopimuksessa määrätään asianmukaisesta mekanismista sen täytäntöönpanon varmistamiseksi, ja se sisältää loppumääräykset, jotka koskevat muun muassa riitojen ratkaisemista, yleissopimuksen allekirjoittamista, ratifioimista ja hyväksymistä, yleissopimukseen liittymistä, yleissopimuksen voimaantuloa, muuttamista, soveltamisen keskeyttämistä, irtisanomista ja tallettajaa sekä kieliä ja jotka perustuvat mahdollisuuksien mukaan ja tarvittaessa muiden asiaankuuluvien Euroopan neuvoston yleissopimusten määräyksiin.
(24)Yleissopimuksen mukaan Euroopan unionista voi tulla sen sopimuspuoli.