(1)

Šīs regulas mērķis ir uzlabot iekšējā tirgus darbību , nosakot vienotu tiesisko regulējumu , it īpaši mākslīgā intelekta izstrādei , laišanai tirgū un izmantošanai saskaņā ar Savienības vērtībām . Šī regula kalpo virknei sevišķi svarīgu vispārības interešu, piemēram, veicina augstu veselības , drošības un pamattiesību aizsardzības līmeni , un nodrošina uz AI bāzētu preču un pakalpojumu brīvu pārvietošanos pāri robežām, tādējādi nepieļaujot dalībvalstu ierobežojumus AI sistēmu izstrādei, laišanai tirgū un izmantošanai, ja tie šajā regulā nav nepārprotami atļauti.

(1)

Šīs regulas mērķis ir veicināt uz cilvēku orientēta un uzticama mākslīgā intelekta izmantošanu un nodrošināt augstu veselības, drošības , pamattiesību, demokrātijas un tiesiskuma , kā arī vides aizsardzības līmeni pret mākslīgā intelekta sistēmu kaitīgo ietekmi Savienībā , vienlaikus atbalstot inovāciju un uzlabojot iekšējā tirgus darbību . Šī regula nosaka vienotu tiesisko regulējumu, it īpaši mākslīgā intelekta izstrādei, laišanai tirgū , nodošanai ekspluatācijā un izmantošanai saskaņā ar Savienības vērtībām , un nodrošina MI preču un pakalpojumu brīvu apriti pāri robežām, tādējādi nepieļaujot dalībvalstu ierobežojumus mākslīgā intelekta sistēmu ( MI sistēmu) izstrādei, laišanai tirgū un izmantošanai, ja šādi ierobežojumi šajā regulā nav nepārprotami atļauti. Dažas MI sistēmas var ietekmēt arī demokrātiju un tiesiskumu un vidi. Šīm bažām ir pievērsta īpaša uzmanība kritiskajās nozarēs un izmantošanas gadījumos, kas uzskaitīti šīs regulas pielikumos.

(1a)

Šai regulai būtu jāsaglabā Savienības vērtības, atvieglojot mākslīgā intelekta radīto ieguvumu izplatīšanu sabiedrībā, aizsargājot privātpersonas, uzņēmumus, demokrātiju un tiesiskumu un vidi pret riskiem, vienlaikus veicinot inovāciju un nodarbinātību un palīdzot Savienībai ieņemt vadošu vietu šajā jomā.

(2)

Mākslīgā intelekta sistēmas ( AI sistēmas) var viegli ieviest vairākās ekonomikas nozarēs un sabiedrībā, arī pāri robežām, un tās var būt apritē visā Savienībā. Dažas dalībvalstis jau ir izskatījušas iespēju pieņemt valsts līmeņa noteikumus ar mērķi nodrošināt to, ka mākslīgais intelekts ir drošs un to izstrādā un izmanto saskaņā ar pienākumiem ievērot pamattiesības. Atšķirīgi valstu noteikumi var izraisīt iekšējā tirgus sadrumstalotību un mazināt juridisko noteiktību ekonomikas dalībniekiem, kuri izstrādā vai izmanto AI sistēmas. Tāpēc visā Savienībā būtu jānodrošina konsekvents un augsts aizsardzības līmenis, turpretim atšķirības, kuras kavē AI sistēmu un saistīto produktu brīvu apriti iekšējā tirgū, būtu jānovērš, nosakot vienotus pienākumus operatoriem un visā iekšējā tirgū garantējot sevišķi svarīgu vispārības interešu un personu tiesību vienotu aizsardzību, pamatojoties uz Līguma par Eiropas Savienības darbību (LESD) 114. pantu. Ciktāl šī regula satur īpašus noteikumus par privātpersonu aizsardzību attiecībā uz persondatu apstrādi saistībā ar AI sistēmu izmantošanu reāllaika biometriskajai tālidentifikācijai sabiedriskās vietās tiesībaizsardzības nolūkos, ir piemēroti par šīs regulas pamatu noteikt LESD 16. pantu, ciktāl tas attiecas uz minētajiem īpašajiem noteikumiem. Ņemot vērā minētos īpašos noteikumus un LESD 16. panta izmantošanu, ir lietderīgi apspriesties ar Eiropas Datu aizsardzības kolēģiju.

(2)

MI sistēmas var viegli ieviest vairākās ekonomikas nozarēs un sabiedrībā, arī pāri robežām, un tās var būt apritē visā Savienībā. Dažas dalībvalstis jau ir izskatījušas iespēju pieņemt valsts noteikumus ar mērķi nodrošināt to, ka mākslīgais intelekts ir uzticams un drošs un to izstrādā un izmanto saskaņā ar pienākumiem ievērot pamattiesības. Atšķirīgi valstu noteikumi var izraisīt iekšējā tirgus sadrumstalotību un mazināt juridisko noteiktību operatoriem, kuri izstrādā vai izmanto MI sistēmas. Tāpēc visā Savienībā būtu jānodrošina konsekvents un augsts aizsardzības līmenis, lai panāktu uzticamu MI, turpretim atšķirības, kuras kavē MI sistēmu un saistīto produktu brīvu apriti , inovāciju, ieviešanu un izmantošanu iekšējā tirgū, būtu jānovērš, nosakot vienotus pienākumus operatoriem un visā iekšējā tirgū garantējot sevišķi svarīgu vispārības interešu un personu tiesību vienotu aizsardzību, pamatojoties uz Līguma par Eiropas Savienības darbību (LESD) 114. pantu.

(2a)

Tā kā mākslīgais intelekts bieži izmanto liela apjoma datu apstrādi un daudzas MI sistēmas un lietojumi izmanto persondatu apstrādi, ir lietderīgi šo regulu balstīt uz LESD 16. pantu, kurā ir nostiprinātas fizisku personu tiesības uz aizsardzību attiecībā uz persondatu apstrādi un paredzēts pieņemt noteikumus par fizisku personu aizsardzību attiecībā uz persondatu apstrādi.

(2b)

Pamattiesības uz persondatu aizsardzību ir aizsargātas jo īpaši ar Regulu (ES) 2016/679, Regulu (ES) 2018/1725 un Direktīvu 2016/680. Direktīva 2002/58/EK papildus aizsargā privāto dzīvi un saziņas konfidencialitāti, tostarp paredz nosacījumus jebkādai persondatu un nepersondatu glabāšanai galiekārtā un piekļuvei no tās. Minētie tiesību akti nodrošina pamatu ilgtspējīgai un atbildīgai datu apstrādei, tostarp gadījumos, kad datu kopas ietver gan persondatus, gan nepersondatus. Šīs regulas mērķis nav ietekmēt to spēkā esošo Savienības tiesību aktu piemērošanu, kas reglamentē persondatu apstrādi, tostarp to neatkarīgo uzraudzības iestāžu uzdevumus un pilnvaras, kas ir kompetentas uzraudzīt atbilstību minētajiem instrumentiem. Šī regula neskar pamattiesības uz privāto dzīvi un persondatu aizsardzību, kas paredzētas Savienības tiesību aktos par datu aizsardzību un privātumu un nostiprinātas Eiropas Savienības Pamattiesību hartā (“Harta”).

(2c)

Uz mākslīgā intelekta sistēmām Savienībā attiecas attiecīgie ražojumu drošuma tiesību akti, kas nodrošina satvaru patērētāju aizsardzībai pret bīstamiem ražojumiem kopumā, un šādi tiesību akti būtu jāturpina piemērot. Šī regula arī neskar noteikumus, kas paredzēti citos Savienības tiesību aktos patērētāju aizsardzības un ražojumu drošuma jomā, tostarp Regulā (ES) 2017/2394, Regulā (ES) 2019/1020, Direktīvā 2001/95/EK par produktu vispārēju drošību un Direktīvā 2013/11/ES.

(2d)

Saskaņā ar LESD 114. panta 2. punktu šī regula papildina un tai nevajadzētu apdraudēt nodarbinātu personu tiesības un intereses. Tādēļ šai regulai nevajadzētu ietekmēt Savienības tiesību aktus sociālās politikas jomā un valstu darba tiesības un praksi, proti, jebkādas tiesību normas un līgumu nosacījumus, kas skar nodarbinātības apstākļus, darba apstākļus, tostarp veselību un drošību darbā, un attiecības starp darba devējiem un darba ņēmējiem, tostarp informēšanu, apspriešanos un līdzdalību. Šai regulai nevajadzētu ietekmēt dalībvalstīs un Savienībā atzīto pamattiesību īstenošanu, tostarp tiesības vai brīvību streikot vai veikt citu rīcību, kas saskaņā ar valsts tiesību aktiem un/vai praksi paredzēta konkrētajās dalībvalstu darba attiecību sistēmās. Tāpat tai nevajadzētu skart vienošanās praksi, tiesības apspriest, noslēgt un izpildīt koplīgumu, kā arī tiesības kolektīvi rīkoties saskaņā ar valsts tiesību aktiem un/vai praksi. Jebkurā gadījumā tai nebūtu jāliedz Komisijai ierosināt īpašus tiesību aktus par MI sistēmu skarto darba ņēmēju tiesībām un brīvībām.

(2e)

Šai regulai nebūtu jāietekmē Direktīvas … [COD 2021/414/EK] noteikumi, kuru mērķis ir uzlabot darba apstākļus platformu darbā.

(2f)

Šai regulai būtu jāpalīdz atbalstīt pētniecību un inovāciju, un tai nevajadzētu apdraudēt pētniecības un izstrādes darbības un būtu jāievēro zinātniskās pētniecības brīvība. Tāpēc no tās darbības jomas ir jāizslēdz MI sistēmas, kas īpaši izstrādātas vienīgi zinātniskās pētniecības un izstrādes nolūkā, un jānodrošina, ka regula citādi neietekmē MI sistēmu zinātniskās pētniecības un izstrādes darbības. Jebkurā gadījumā visas pētniecības un izstrādes darbības būtu jāveic saskaņā ar Hartu, Savienības tiesību aktiem, kā arī valsts tiesību aktiem;

(3)

Mākslīgais intelekts ir tehnoloģiju kopa, kas strauji attīstās un var sniegt dažādus ekonomiskos un sociālos ieguvumus visās nozarēs un sociālajās darbībās. Uzlabojot prognozēšanas spēju, optimizējot darbības un resursu sadali un personalizējot indivīdiem un organizācijām pieejamos digitālos risinājumus, mākslīgā intelekta izmantošana var nodrošināt būtiskas konkurences priekšrocības uzņēmumiem un sekmēt sabiedrībai un videi labvēlīgus rezultātus, piemēram, veselības aprūpē, lauksaimniecībā, izglītībā un apmācībā, infrastruktūras apsaimniekošanā, enerģētikā, transportā un loģistikā, sabiedriskajos pakalpojumos, drošībā, tieslietās, resursefektivitātē un energoefektivitātē un klimata pārmaiņu mazināšanas un pielāgošanās jomā.

(3)

Mākslīgais intelekts ir tehnoloģiju kopa, kas strauji attīstās un var sniegt un jau sniedz dažādus ekonomiskos , vides un sociālos ieguvumus visās nozarēs un sociālajās darbībās , ja to attīsta, ievērojot relevantos vispārīgos principus atbilstoši Hartai un Savienības pamatā esošajām vērtībām . Uzlabojot prognozēšanas spēju, optimizējot darbības un resursu sadali un personalizējot indivīdiem un organizācijām pieejamos digitālos risinājumus, mākslīgā intelekta izmantošana var nodrošināt būtiskas konkurences priekšrocības uzņēmumiem un sekmēt sabiedrībai un videi labvēlīgus rezultātus, piemēram, veselības aprūpē, lauksaimniecībā, pārtikas nekaitīguma nodrošināšanā, izglītībā un apmācībā, mediju, sporta un kultūras jomā, infrastruktūras apsaimniekošanā, enerģētikā, transportā un loģistikā, krīžu pārvarēšanā, sabiedriskajos pakalpojumos, drošībā, tieslietās, resursefektivitātē un energoefektivitātē , vides monitoringā, biodaudzveidības un ekosistēmu saglabāšanā un atjaunošanā un klimata pārmaiņu mazināšanas un pielāgošanās jomā.

(3a)

Lai palīdzētu sasniegt oglekļneitralitātes mērķrādītājus, Eiropas uzņēmumiem būtu jācenšas izmantot visus pieejamos tehnoloģiskos panākumus, kas var palīdzēt sasniegt šo mērķi. Mākslīgais intelekts ir tehnoloģija, ko potenciāli var izmantot, lai apstrādātu arvien pieaugošo datu apjomu, kas tiek radīts ražošanas, vides, veselības aprūpes un citos procesos. Lai veicinātu investīcijas MI analīzes un optimizācijas rīkos, šai regulai būtu jānodrošina prognozējama un samērīga vide zema riska rūpnieciskajiem risinājumiem.

(4)

Tajā pašā laikā atkarībā no mākslīgā intelekta konkrētā lietojuma un izmantošanas apstākļiem tas var radīt riskus un nodarīt kaitējumu vispārības interesēm un tiesībām , kuras aizsargā Savienības tiesību akti. Minētais kaitējums var būt materiāls vai nemateriāls.

(4)

Tajā pašā laikā atkarībā no mākslīgā intelekta konkrētā lietojuma un izmantošanas apstākļiem , kā arī tehnoloģiskās attīstības pakāpes tas var radīt riskus un nodarīt kaitējumu vispārības vai privātām interesēm un fizisku personu pamattiesībām , kuras aizsargā Savienības tiesību akti. Šāds kaitējums var būt materiāls vai nemateriāls , tostarp fizisks, psiholoģisks, sabiedrisks vai ekonomisks .

(4a)

Ņemot vērā mākslīgā intelekta potenciālo lielo ietekmi uz sabiedrību un nepieciešamību veidot uzticēšanos, ir būtiski, lai mākslīgais intelekts un tā tiesiskais regulējums tiktu izstrādāts saskaņā ar Savienības vērtībām, kas nostiprinātas LES 2. pantā, un Līgumos, Hartā un starptautiskajās cilvēktiesībās nostiprinātajām pamattiesībām un brīvībām. Priekšnosacījums tam ir tas, ka mākslīgajam intelektam vajadzētu būt uz cilvēku orientētai tehnoloģijai. Tam nevajadzētu aizstāt cilvēka autonomiju vai pieņemt personas brīvības zaudēšanu un primāri būtu jākalpo sabiedrības vajadzībām un kopējam labumam. Būtu jāparedz aizsardzības pasākumi, lai nodrošinātu tāda ētiski integrēta mākslīgā intelekta izstrādi un izmantošanu, kurā tiek ievērotas Savienības vērtības un Harta.

(5)

Tāpēc ir nepieciešams Savienības tiesiskais regulējums, kas nosaka saskaņotus noteikumus mākslīgā intelekta jomā ar mērķi veicināt mākslīgā intelekta izstrādi, ieviešanu un izmantošanu iekšējā tirgū, vienlaikus nodrošinot augstu aizsardzības līmeni tādām vispārības interesēm kā veselība un drošība, un pamattiesību aizsardzība, kā tas atzīts un aizsargāts Savienības tiesību aktos. Lai sasniegtu minēto mērķi, būtu jānosaka noteikumi par noteiktu AI sistēmu laišanu tirgū un nodošanu ekspluatācijā, tādējādi nodrošinot netraucētu iekšējā tirgus darbību un ļaujot saistībā ar minētajām sistēmām izmantot preču un pakalpojumu brīvas pārvietošanās principa radītos ieguvumus. Nosakot minētos noteikumus, šī regula atbalsta Eiropadomes nosprausto Savienības mērķi (33) – Savienībai būt pasaules līderei droša, uzticama un ētiska mākslīgā intelekta attīstīšanā – un nodrošina ētikas principu aizsardzību, kā to īpaši lūdzis Eiropas Parlaments (34).

(5)

Tāpēc ir nepieciešams Savienības tiesiskais regulējums, kas nosaka saskaņotus noteikumus mākslīgā intelekta jomā ar mērķi veicināt mākslīgā intelekta izstrādi, ieviešanu un izmantošanu iekšējā tirgū, vienlaikus nodrošinot augstu aizsardzības līmeni tādām vispārības interesēm kā veselība un drošība, pamattiesību aizsardzība , demokrātija un tiesiskums un vide , kā tas atzīts un aizsargāts Savienības tiesību aktos. Lai sasniegtu minēto mērķi, būtu jānosaka noteikumi par noteiktu MI sistēmu laišanu tirgū, nodošanu ekspluatācijā un izmantošanu , tādējādi nodrošinot netraucētu iekšējā tirgus darbību un ļaujot saistībā ar minētajām sistēmām izmantot preču un pakalpojumu brīvas aprites principa radītos ieguvumus. Šiem noteikumiem vajadzētu būt skaidriem un stingriem pamattiesību aizsardzībā, atbalstošiem jaunus inovatīvus risinājumus un iespējojošiem publiskā un privātā sektora dalībnieku Eiropas ekosistēmu, kas rada MI sistēmas saskaņā ar Savienības vērtībām. Paredzot minētos noteikumus, kā arī pasākumus inovācijas atbalstam, īpašu uzmanību pievēršot MVU un jaunuzņēmumiem, šī regula atbalsta Eiropadomes nosprausto Savienības mērķi (33) – veicināt Eiropā izstrādātu MI, Savienībai būt pasaules līderei droša, uzticama un ētiska mākslīgā intelekta attīstīšanā – un nodrošina ētikas principu aizsardzību, kā to īpaši lūdzis Eiropas Parlaments (34).

(5a)

Turklāt, lai veicinātu MI sistēmu attīstību saskaņā ar Savienības vērtībām, Savienībai ir jānovērš galvenās nepilnības un šķēršļi, kas kavē digitālās pārveides potenciālu, tostarp digitāli kvalificētu darba ņēmēju trūkumu, bažas par kiberdrošību, investīciju un piekļuves investīcijām trūkumu, kā arī esošās un potenciālās atšķirības starp lielajiem uzņēmumiem, MVU un jaunuzņēmumiem. Īpaša uzmanība būtu jāpievērš tam, lai nodrošinātu, ka mākslīgā intelekta un jauno tehnoloģiju inovācijas sniegtās priekšrocības ir jūtamas visos Savienības reģionos un ka pietiekamas investīcijas un resursi tiek nodrošināti jo īpaši tiem reģioniem, kuri varētu būt atpalikuši dažu digitālo rādītāju ziņā.

(6)

AI sistēmas jēdziens būtu skaidri jādefinē juridiskās noteiktības labad, vienlaikus nodrošinot elastību, kas vajadzīga, lai pielāgotos tehnoloģiju attīstībai nākotnē . Definīcija būtu jāpamato uz programmatūras galvenajām funkcionālajām iezīmēm , it sevišķi spēju konkrēta cilvēku noteikta mērķu kopuma ietvaros radīt tādus iznākumus kā saturs , prognozes , ieteikumi vai lēmumi, kuri ietekmē vidi, ar ko sistēma mijiedarbojas fiziskā vai digitālā dimensijā . AI sistēmas var projektēt darbībai dažādās autonomijas pakāpēs , un tās var izmantot kā savrupas sistēmas vai kā produkta sastāvdaļu neatkarīgi no tā , vai sistēma ir fiziski integrēta produktā (iegulta) vai nodrošina produkta funkcionalitāti, nebūdama tajā integrēta (neiegulta) . AI sistēmas definīcija būtu jāpapildina ar konkrētu tās izstrādē izmantotu metožu un pieeju sarakstu, kurš būtu jāatjaunina saskaņā ar tirgus un tehnoloģiju attīstību , Komisijai pieņemot deleģētos aktus minētā saraksta grozīšanai .

(6)

MI sistēmas jēdziens šajā regulā būtu skaidri jādefinē un cieši jāsaskaņo ar mākslīgā intelekta jomas starptautisko organizāciju darbu juridiskās noteiktības , saskaņošanas un plašas atzīšanas labad, vienlaikus nodrošinot elastību, kas vajadzīga, lai pielāgotos tehnoloģiju straujajai attīstībai šajā jomā . Turklāt definīcijā būtu jāmin mākslīgā intelekta galvenās iezīmes, piemēram , tā mācīšanās, spriešanas vai modelēšanas spējas, lai to nošķirtu no vienkāršākām programmatūras sistēmām un programmēšanas pieejām. MI sistēmas ir projektētas darbībai dažādās autonomijas pakāpēs , kas nozīmē , ka to darbības vismaz zināmā mērā ir neatkarīgas no cilvēka kontroles un spēj darboties bez cilvēka iejaukšanās . Termins “mašinizēta” nozīmē to, ka MI sistēmas ir mašīnu darbinātas. Atsauce uz eksplicītiem vai implicītiem mērķiem uzsver, ka MI sistēmas var darboties saskaņā ar eksplicītiem cilvēka noteiktiem mērķiem vai implicītiem mērķiem. MI sistēmas mērķi konkrētā kontekstā var atšķirties no MI sistēmas paredzētā nolūka. Atsauce uz prognozēm ietver saturu , kas šajā regulā tiek uzskatīts par prognozēšanas veidu kā vienu no iespējamajiem MI sistēmas radītajiem rezultātiem . Šajā regulā vides būtu jāsaprot kā konteksti, kuros MI sistēmas darbojas, savukārt MI sistēmas radītie iznākumi, t. i., prognozes, ieteikumi vai lēmumi, atbilst sistēmas mērķiem , pamatojoties uz ievaddatiem no konkrētās vides. Šādi iznākumi vēl vairāk ietekmē konkrēto vidi, pat vienkārši pievienojot tai jaunu informāciju.

(6a)

MI sistēmām bieži ir mašīnmācīšanās spējas, kas tām ļauj pielāgoties un autonomi veikt jaunus uzdevumus. Mašīnmācīšanās ir skaitļošanas process, kurā no datiem optimizē modeļa parametrus un kurš ir matemātiska konstrukcija, kas ģenerē iznākumu atkarībā no ievaddatiem. Mašīnmācīšanās pieejas ir, piemēram, pārraudzītā, nepārraudzītā un stimulētā mācīšanās, kam izmanto dažādas metodes, tostarp dziļo mācīšanos ar neironu tīkliem. Šīs regulas mērķis ir novērst jaunus potenciālus riskus, kas var rasties, deleģējot kontroli MI sistēmām, jo īpaši tām MI sistēmām, kuras var attīstīties pēc ieviešanas. Daudzu šo MI sistēmu funkcijas un iznākumi balstās uz abstraktām matemātiskām attiecībām, kuras cilvēkiem ir grūti saprast un uzraudzīt un kurām ir grūti ieraudzīt saistību ar konkrētiem ievaddatiem. Šīs kompleksās un neskaidrās iezīmes (melnās kastes elements) ietekmē pārskatatbildību un izskaidrojamību. Salīdzinoši vienkāršāki paņēmieni, piemēram, uz zināšanām balstītas pieejas, Beijesa novērtējums vai lēmumu koki, arī var radīt juridiskas nepilnības, kas jānovērš ar šo regulu, jo īpaši, ja tos izmanto hibrīdās sistēmās kombinācijā ar mašīnmācīšanās pieejām.

(6b)

MI sistēmas var izmantot kā fiziskā produktā integrētu (iegultu) savrupu programmatūras sistēmu, kā fiziska produkta darbības nodrošinātāju, neesot tajā integrētai (neiegulta), vai kā MI komponentu lielākā sistēmā. Ja šī lielākā sistēma nedarbotos bez attiecīgā MI komponenta, visa lielākā sistēma saskaņā ar šo regulu būtu jāuzskata par vienu MI sistēmu.

(7)

Šajā regulā izmantotais biometrisko datu jēdziens saskan ar biometrisko datu jēdziena definīciju Eiropas Parlamenta un Padomes Regulas (ES) 2016/679 4. panta 14. punktā (35), Eiropas Parlamenta un Padomes Regulas (ES) 2018/1725 3. panta 18. punktā  (36) un Eiropas Parlamenta un Padomes Direktīvas (ES) 2016/680 3. panta 13. punktā  (37) un būtu jāinterpretē saskaņā ar to.

(7)

Šajā regulā izmantotais biometrisko datu jēdziens saskan ar biometrisko datu jēdziena definīciju Eiropas Parlamenta un Padomes Regulas (ES) 2016/679 4. panta 14. punktā (35) un būtu jāinterpretē saskaņā ar to. Biometriskie dati ir papildu dati , kas iegūti specifiskas tehniskas apstrādes rezultātā un kas attiecas uz fiziskas personas fiziskajiem, fizioloģiskajiem vai uzvedības signāliem, piemēram, sejas izteiksmi, kustībām, pulsa biežumu, balsi, taustiņsitieniem vai gaitu, un kas ļauj vai neļauj veikt vai apstiprināt fiziskās personas precīzu identitāti;

(7a)

Biometriskās identifikācijas jēdziens, kā tas lietots šajā regulā, būtu jādefinē kā cilvēka fizisko, fizioloģisko, uzvedības un psiholoģisko īpašību, piemēram, sejas, acu kustību, sejas izteiksmes, ķermeņa formas, balss, runas, gaitas, stājas, sirdsdarbības ātruma, asinsspiediena, smaržas, taustiņsitienu, psiholoģiskas reakcijas (dusmas, ciešanas, sēras utt.), automātiska atpazīšana, lai konstatētu personas identitāti, salīdzinot šīs personas biometriskos datus ar datubāzē glabātiem personu biometriskajiem datiem (identifikācija “viens pret daudziem”) neatkarīgi no tā, vai indivīds ir devis piekrišanu vai nav.

(7b)

Biometriskās kategorizācijas jēdziens, kā tas lietots šajā regulā, būtu jādefinē kā fizisku personu pierakstīšana noteiktām kategorijām vai tādu viņu īpašību un iezīmju izsecināšana kā dzimumidentitāte, dzimums, vecums, matu krāsa, acu krāsa, tetovējumi, etniskā vai sociālā izcelsme, veselība, garīgās vai fiziskās spējas, uzvedības vai personības iezīmes, valoda, reliģija, piederība nacionālajai minoritātei vai seksuālā vai politiskā orientācija, pamatojoties uz viņu biometriskajiem vai biometrijā balstītiem datiem vai atbilstoši tam, ko var izsecināt no šādiem datiem;

(8)

Biometriskās tālidentifikācijas sistēmas jēdziens, kā tas izmantots šajā regulā, būtu jādefinē funkcionāli kā AI sistēma, kas paredzēta fizisku personu identifikācijai no attāluma, salīdzinot personas biometriskos datus ar atsauces datubāzē esošiem biometriskajiem datiem, iepriekš nezinot, vai attiecīgā persona atradīsies attiecīgajā vietā un var tikt identificēta, neatkarīgi no izmantotās tehnoloģijas, procesa vai biometrisko datu veida. Ņemot vērā to atšķirīgās iezīmes un izmantošanas veidus, kā arī dažādos saistītos riskus, būtu jānošķir “reāllaika” un “vēlāklaika” biometriskās tālidentifikācijas sistēmas. Reāllaika sistēmu gadījumā biometrisko datu iegūšana, salīdzināšana un identifikācija notiek uzreiz, gandrīz uzreiz vai, jebkurā gadījumā, bez būtiskas aiztures. Šajā ziņā nevajadzētu būt iespējai apiet šīs regulas noteikumus par attiecīgo AI sistēmu izmantošanu reāllaikā, iestrādājot sistēmā nelielu aizturi. Reāllaika sistēmās izmanto “tiešraides” vai “gandrīz tiešraides” materiālu, piemēram, videomateriālu, ko uzņem kamera vai cita ierīce ar līdzīgu funkciju. Turpretī vēlāklaika sistēmu gadījumā biometriskie dati jau ir iegūti, un salīdzināšana un identifikācija notiek tikai pēc būtiskas aiztures. Tās izmanto materiālu, piemēram, attēlus vai videomateriālus, ko uzņēmušas videonovērošanas sistēmas kameras vai privātas ierīces pirms sistēmas izmantošanas attiecībā uz attiecīgajām fiziskajām personām.

(8)

Biometriskās tālidentifikācijas sistēmas jēdziens, kā tas izmantots šajā regulā, būtu jādefinē funkcionāli kā MI sistēma, kas paredzēta fizisku personu identifikācijai no attāluma, salīdzinot personas biometriskos datus ar atsauces datubāzē esošiem biometriskajiem datiem, iepriekš nezinot, vai attiecīgā persona atradīsies attiecīgajā vietā un var tikt identificēta, neatkarīgi no izmantotās tehnoloģijas, procesa vai biometrisko datu veida , izņemot verifikācijas sistēmas, kuras vienīgi salīdzina indivīda biometriskos datus ar to agrāk iegūtajiem biometriskajiem datiem (viens pret vienu) . Ņemot vērā to atšķirīgās iezīmes un izmantošanas veidus, kā arī dažādos saistītos riskus, būtu jānošķir “reāllaika” un “vēlāklaika” biometriskās tālidentifikācijas sistēmas. Reāllaika sistēmu gadījumā biometrisko datu iegūšana, salīdzināšana un identifikācija notiek uzreiz, gandrīz uzreiz vai, jebkurā gadījumā, bez būtiskas aiztures. Šajā ziņā nevajadzētu būt iespējai apiet šīs regulas noteikumus par attiecīgo MI sistēmu izmantošanu reāllaikā, iestrādājot sistēmā nelielu aizturi. Reāllaika sistēmās izmanto “tiešraides” vai “gandrīz tiešraides” materiālu, piemēram, videomateriālu, ko uzņem kamera vai cita ierīce ar līdzīgu funkciju. Turpretī vēlāklaika sistēmu gadījumā biometriskie dati jau ir iegūti, un salīdzināšana un identifikācija notiek tikai pēc būtiskas aiztures. Tās izmanto materiālu, piemēram, attēlus vai videomateriālus, ko uzņēmušas videonovērošanas sistēmas kameras vai privātas ierīces pirms sistēmas izmantošanas attiecībā uz attiecīgajām fiziskajām personām. Tā kā biometriskās identifikācijas jēdziens ietver to, ka tā notiek neatkarīgi no indivīda piekrišanas, šī definīcija ir piemērojama pat tad, kad biometriskās tālidentifikācijas sistēmas uzraudzītajā vietā tiek izvietoti brīdinājuma paziņojumi, un to de facto neatceļ ar priekšreģistrāciju.

(8a)

Fizisku personu identifikācijas no attāluma jēdziens ir ieviests, lai nošķirtu biometriskās tālidentifikācijas sistēmas no tiešā tuvuma indivīdu verifikācijas sistēmām, kuras izmanto biometriskās identifikācijas līdzekļus un kuru vienīgais mērķis ir apstiprināt, vai konkrētajai fiziskajai personai, kas ļaujas identifikācijai, ir atļauts, piemēram, piekļūt pakalpojumam, ierīcei vai telpām.

(9)

Šajā regulā sabiedriskas vietas jēdziens būtu jāsaprot kā fiziska vieta, kas ir publiski pieejama neatkarīgi no tā, vai minētā vieta ir publisks vai privāts īpašums. Tāpēc šis jēdziens neietver privāta rakstura vietas, piemēram, mājokļus, privātus klubus, birojus, noliktavas un rūpnīcas, kuras parasti nav brīvi pieejamas trešām personām, ieskaitot tiesībaizsardzības iestādes, ja vien šīs personas nav īpaši aicinātas vai attiecīgi pilnvarotas. Arī tiešsaistes vietas nav ietvertas, jo tās nav fiziskas vietas. Tomēr tas vien, ka piekļuvi vietai ierobežo zināmi nosacījumi, piemēram, ieejas biļete vai vecuma ierobežojums, nenozīmē, ka vieta nav sabiedriska vieta šīs regulas nozīmē. Līdz ar to papildus tādām sabiedriskām vietām kā ielas, attiecīgās valdības ēku daļas un lielākā daļa transporta infrastruktūras tādas vietas kā kinoteātri, teātri, veikali un iepirkšanās centri parasti arī ir sabiedriskas vietas. Tomēr tas, vai konkrēta vieta ir sabiedriska vieta, būtu jānosaka katrā gadījumā atsevišķi, ņemot vērā konkrētās individuālās situācijas specifiku.

(9)

Šajā regulā sabiedriskas vietas jēdziens būtu jāsaprot kā fiziska vieta, kas ir publiski pieejama neatkarīgi no tā, vai minētā vieta ir publisks vai privāts īpašums un neatkarīgi no iespējamiem ietilpības ierobežojumiem . Tāpēc šis jēdziens neietver privāta rakstura vietas, piemēram, mājokļus, privātus klubus, birojus, noliktavas un rūpnīcas, kuras parasti nav brīvi pieejamas trešām personām, ieskaitot tiesībaizsardzības iestādes, ja vien šīs personas nav īpaši aicinātas vai attiecīgi pilnvarotas. Arī tiešsaistes vietas nav ietvertas, jo tās nav fiziskas vietas. Tomēr tas vien, ka piekļuvi vietai ierobežo zināmi nosacījumi, piemēram, ieejas biļete vai vecuma ierobežojums, nenozīmē, ka vieta nav sabiedriska vieta šīs regulas nozīmē. Līdz ar to papildus tādām sabiedriskām vietām kā ielas, attiecīgās valdības ēku daļas un lielākā daļa transporta infrastruktūras, tādas vietas kā kinoteātri, teātri , sporta laukumi, skolas, universitātes, attiecīgas slimnīcu un banku daļas, atrakciju parki, festivāli , veikali un iepirkšanās centri parasti arī ir sabiedriskas vietas. Tomēr tas, vai konkrēta vieta ir sabiedriska vieta, būtu jānosaka katrā gadījumā atsevišķi, ņemot vērā konkrētās individuālās situācijas specifiku.

(9a)

Ir svarīgi norādīt, ka MI sistēmām būtu maksimāli jācenšas atbilst vispārīgajiem principiem, kuri veido augsta līmeņa satvaru, kas veicina saskanīgu uz cilvēku orientētu pieeju ētiskam un uzticamam MI saskaņā ar Eiropas Savienības Pamattiesību hartu un Savienības pamatā esošajām vērtībām, tostarp pamattiesību aizsardzību, cilvēka darbībspēju un virsvadību, tehnisko stabilitāti un drošumu, privātumu un datu pārvaldību, pārredzamību, nediskriminēšanu un taisnīgumu, kā arī sabiedrības un vides labbūtību.

(9b)

MI pratība ir prasmes, zināšanas un izpratne, kas sagādātājiem, lietotājiem un skartajām personām dod iespēju, ņemot vērā to tiesības un pienākumus šīs regulas kontekstā, veikt MI sistēmu informētu ieviešanu, kā arī gūt izpratni par MI iespējām un riskiem un par potenciālo kaitējumu, ko tas var radīt, un tādējādi veicināt tā demokrātisko kontroli. MI pratībai nevajadzētu aprobežoties tikai ar mācīšanos par rīkiem un tehnoloģijām, un tās mērķim vajadzētu būt arī nodrošināt sagādātājiem un lietotājiem izpratni un prasmes, kas vajadzīgas, lai nodrošinātu atbilstību šai regulai un tās izpildes panākšanu. Tādēļ Komisijai, dalībvalstīm, kā arī MI sistēmu sagādātājiem un lietotājiem, sadarbojoties ar visām attiecīgajām ieinteresētajām personām, ir jāveicina pietiekama līmeņa MI pratības panākšana visos sabiedrības sektoros visu vecumu cilvēkiem, tostarp sievietēm un meitenēm, un šajā sakarā ir cieši jāseko līdzi progresam.

(10)

Lai nodrošinātu vienlīdzīgus konkurences apstākļus un indivīdu tiesību un brīvību efektīvu aizsardzību visā Savienībā, šīs regulas noteikumiem būtu jāattiecas uz AI sistēmu sagādātājiem nediskriminējošā veidā neatkarīgi no tā, vai tie iedibināti Savienībā vai trešā valstī, un uz Savienībā esošiem AI sistēmu lietotājiem .

(10)

Lai nodrošinātu vienlīdzīgus konkurences apstākļus un indivīdu tiesību un brīvību efektīvu aizsardzību visā Savienībā un starptautiskā mērogā , šīs regulas noteikumiem būtu jāattiecas uz MI sistēmu sagādātājiem nediskriminējošā veidā neatkarīgi no tā, vai tie iedibināti Savienībā vai trešā valstī, un uz Savienībā esošiem MI sistēmu ieviesējiem. Lai Savienība būtu patiesa attiecībā uz savām pamatvērtībām, MI sistēmas, ko paredzēts izmantot praksēm, kuras saskaņā ar šo regulu uzskata par nepieņemamām, būtu jāuzskata par nepieņemamām arī ārpus Savienības to īpaši kaitīgās ietekmes uz Hartā nostiprinātajām pamattiesībām dēļ. Tāpēc ir lietderīgi aizliegt Savienībā dzīvojošiem sagādātājiem eksportēt šādas MI sistēmas uz trešām valstīm.

(11)

Ņemot vērā to digitālo raksturu, šai regulai būtu jāattiecas uz dažām AI sistēmām, pat ja tās nav ne laistas tirgū, ne nodotas ekspluatācijā, ne izmantotas Savienībā. Tā tas ir, piemēram, ja Savienībā iedibināts ekonomikas dalībnieks iepērk pakalpojumus no ārpussavienības ekonomikas dalībnieka saistībā ar darbību, ko veic AI sistēma, kura uzskatāma par augsta riska sistēmu un ietekmē fiziskas personas Savienībā. Minētajos apstākļos ārpus Savienības esošā ekonomikas dalībnieka izmantotā AI sistēma varētu apstrādāt datus, kas likumīgi savākti Savienībā un nosūtīti ārpus tās, un nodot pakalpojumus iepirkušajam Savienības ekonomikas dalībniekam attiecīgās AI sistēmas iznākumus, kas izriet no minētās datu apstrādes, nelaižot attiecīgo AI sistēmu tirgū, nenododot to ekspluatācijā vai neizmantojot to Savienībā. Lai novērstu šīs regulas noteikumu apiešanu un nodrošinātu iedarbīgu Savienībā esošo fizisko personu aizsardzību, šai regulai būtu jāattiecas uz AI sistēmu sagādātājiem un lietotājiem , kuri iedibināti trešā valstī, ciktāl attiecīgo sistēmu radītie iznākumi tiek izmantoti Savienībā. Tomēr, lai ņemtu vērā esošo kārtību un īpašu nepieciešamību sadarboties ar ārvalstu partneriem, ar kuriem notiek informācijas un pierādījumu apmaiņa, šai regulai nebūtu jāattiecas uz trešo valstu publiskā sektora iestādēm un starptautiskām organizācijām, ja darbība notiek tādu starptautisku nolīgumu ietvaros, kas noslēgti valstu vai Eiropas līmenī tiesībaizsardzības un tiesu iestāžu sadarbības nolūkā ar Savienību vai tās dalībvalstīm. Šādi nolīgumi ir noslēgti divpusēji starp dalībvalstīm un trešām valstīm vai starp Eiropas Savienību, Eiropolu un citām ES aģentūrām un trešām valstīm vai starptautiskām organizācijām.

(11)

Ņemot vērā to digitālo raksturu, šai regulai būtu jāattiecas uz dažām MI sistēmām, pat ja tās nav ne laistas tirgū, ne nodotas ekspluatācijā, ne izmantotas Savienībā. Tā tas ir, piemēram, ja Savienībā iedibināts operators iepērk pakalpojumus no ārpussavienības operatora saistībā ar darbību, ko veic MI sistēma, kura uzskatāma par augsta riska sistēmu un ietekmē fiziskas personas Savienībā. Minētajos apstākļos ārpus Savienības esošā operatora izmantotā MI sistēma varētu apstrādāt datus, kas likumīgi savākti Savienībā un nosūtīti ārpus tās, un nodot pakalpojumus iepirkušajam Savienības operatoram attiecīgās MI sistēmas iznākumus, kas izriet no minētās datu apstrādes, nelaižot attiecīgo MI sistēmu tirgū, nenododot to ekspluatācijā vai neizmantojot to Savienībā. Lai novērstu šīs regulas noteikumu apiešanu un nodrošinātu iedarbīgu Savienībā esošo fizisko personu aizsardzību, šai regulai būtu jāattiecas arī uz MI sistēmu sagādātājiem un ieviesējiem , kuri iedibināti trešā valstī, ciktāl attiecīgo sistēmu radītie iznākumi ir domāti izmantošanai Savienībā. Tomēr, lai ņemtu vērā esošo kārtību un īpašu nepieciešamību sadarboties ar ārvalstu partneriem, ar kuriem notiek informācijas un pierādījumu apmaiņa, šai regulai nebūtu jāattiecas uz trešo valstu publiskā sektora iestādēm un starptautiskām organizācijām, ja darbība notiek tādu starptautisku nolīgumu ietvaros, kas noslēgti valstu vai Eiropas līmenī tiesībaizsardzības un tiesu iestāžu sadarbības nolūkā ar Savienību vai tās dalībvalstīm. Šādi nolīgumi ir noslēgti divpusēji starp dalībvalstīm un trešām valstīm vai starp Eiropas Savienību, Eiropolu un citām ES aģentūrām un trešām valstīm vai starptautiskām organizācijām. Tomēr šis izņēmums būtu jāattiecina tikai uz uzticamām valstīm un starptautiskām organizācijām, kurām ar Savienību ir kopīgas vērtības.

(12)

Šai regulai būtu jāattiecas arī uz Savienības iestādēm, birojiem, struktūrām un aģentūrām, kad tās rīkojas kā AI sistēmas sagādātājs vai lietotājs . AI sistēmas, ko izstrādā vai izmanto tikai militāriem nolūkiem, būtu jāizslēdz no šīs regulas darbības jomas, ja attiecīgā izmantošana ietilpst kopīgās ārpolitikas un drošības politikas ekskluzīvā kompetencē, ko regulē Līguma par Eiropas Savienību (LES) V sadaļa. Šai regulai nevajadzētu skart noteikumus par starpnieku pakalpojumu sniedzēju atbildību, kas izklāstīti Eiropas Parlamenta un Padomes Direktīvā 2000/31/EK (kas grozīta ar digitālo pakalpojumu tiesību aktu).

(12)

Šai regulai būtu jāattiecas arī uz Savienības iestādēm, birojiem, struktūrām un aģentūrām, kad tās rīkojas kā MI sistēmas sagādātājs vai ieviesējs . MI sistēmas, ko izstrādā vai izmanto tikai militāriem nolūkiem, būtu jāizslēdz no šīs regulas darbības jomas, ja attiecīgā izmantošana ietilpst kopīgās ārpolitikas un drošības politikas ekskluzīvā kompetencē, ko regulē Līguma par Eiropas Savienību (LES) V sadaļa. Šai regulai nevajadzētu skart noteikumus par starpnieku pakalpojumu sniedzēju atbildību, kas izklāstīti Eiropas Parlamenta un Padomes Direktīvā 2000/31/EK (kas grozīta ar digitālo pakalpojumu tiesību aktu).

(12a)

Programmatūra un dati, kuri tiek atklāti kopīgoti un kuru lietotāji var brīvi piekļūt, izmantot, modificēt un pārdalīt tos vai to modificētās versijas, var veicināt pētniecību un inovāciju tirgū. Komisijas pētījumi arī liecina, ka brīvā un atklātā pirmkoda programmatūra var dot ieguldījumu Eiropas Savienības IKP 65–95 miljardu EUR apmērā un ka tā var nodrošināt ievērojamas izaugsmes iespējas Eiropas ekonomikai. Izmantojot brīvā un atklātā pirmkoda licences, lietotājiem ir atļauts palaist, kopēt, izplatīt, pētīt, mainīt un uzlabot programmatūru un datus, tostarp modeļus. Lai veicinātu MI izstrādi un ieviešanu, jo īpaši MVU, jaunuzņēmumiem, akadēmiskajai pētniecībai, kā arī privātpersonām, šī regula nebūtu jāpiemēro šādiem brīvā un atklātā pirmkoda MI komponentiem, izņemot tiktāl, ciktāl sagādātājs tos laiž tirgū vai nodod ekspluatācijā kā daļu no augsta riska MI sistēmas vai MI sistēmas, uz kuru attiecas šīs regulas II vai IV sadaļa.

(12b)

Ne brīvā un atklātā pirmkoda MI komponentu kopīga izstrāde, ne to pieejamība atklātos repozitorijos nebūtu uzskatāma par laišanu tirgū vai nodošanu ekspluatācijā. Tomēr komercdarbību, ja to saprot kā piedāvāšanu tirgū, varētu raksturot kā maksas noteikšanu brīvā un atklātā pirmkoda MI komponentam, izņemot darījumus starp mikrouzņēmumiem, kā arī kā maksas noteikšanu par tehniskā atbalsta pakalpojumiem, nodrošinot programmatūras platformu, kurā sagādātājs prasa finansiālu atlīdzību par citiem pakalpojumiem, vai kā persondatu izmantošanu citu iemeslu dēļ, nevis tikai programmatūras drošības, savietojamības vai sadarbspējas uzlabošanai.

(12c)

Brīvā un atklātā pirmkoda MI komponentu izstrādātājiem saskaņā ar šo regulu nevajadzētu likt ievērot prasības, kas vērstas uz MI vērtības ķēdi un jo īpaši attiecībā uz sagādātāju, kurš ir izmantojis šo brīvā un atklātā pirmkoda MI komponentu. Tomēr brīvā un atklātā pirmkoda MI komponentu izstrādātāji būtu jāmudina īstenot plaši pieņemtu dokumentēšanas praksi, piemēram, modeļu un datu kartes, lai paātrinātu informācijas apmaiņu visā MI vērtības ķēdē, ļaujot veicināt uzticamas MI sistēmas Savienībā.

(13)

Lai nodrošinātu konsekventu un augstu vispārības interešu aizsardzības līmeni attiecībā uz veselību, drošību un pamattiesībām, būtu jāizveido kopīgi normatīvie standarti visām augsta riska AI sistēmām. Minētajiem standartiem būtu jāsaskan ar Eiropas Savienības Pamattiesību hartu ( “Pamattiesību harta” ), jābūt nediskriminējošiem un saskaņā ar Savienības starptautiskās tirdzniecības saistībām.

(13)

Lai nodrošinātu konsekventu un augstu vispārības interešu aizsardzības līmeni attiecībā uz veselību, drošību un pamattiesībām, kā arī demokrātiju un tiesiskumu un vidi, būtu jāizveido kopīgi normatīvie standarti visām augsta riska MI sistēmām. Minētajiem standartiem būtu jāsaskan ar Hartu, Eiropas zaļo kursu, Kopīgo Deklarāciju par Savienības digitālajām tiesībām un Mākslīgā intelekta augsta līmeņa ekspertu grupas Ētikas vadlīnijām uzticamam mākslīgajam intelektam , jābūt nediskriminējošiem un saskaņā ar Savienības starptautiskajām tirdzniecības saistībām.

(14)

Lai ieviestu samērīgu un iedarbīgu saistošu noteikumu kopumu AI sistēmām, būtu jāizmanto skaidri noteikta, uz risku balstīta pieeja. Minētajai pieejai šādu noteikumu veids un saturs būtu jāpielāgo AI sistēmu potenciāli radīto risku intensitātei un apmēram. Tāpēc ir nepieciešams aizliegt dažas mākslīgā intelekta prakses, noteikt prasības augsta riska AI sistēmām un pienākumus attiecīgajiem operatoriem un noteikt pārredzamības pienākumus attiecībā uz noteiktām AI sistēmām.

(14)

Lai ieviestu samērīgu un iedarbīgu saistošu noteikumu kopumu MI sistēmām, būtu jāizmanto skaidri noteikta, uz risku balstīta pieeja. Minētajai pieejai šādu noteikumu veids un saturs būtu jāpielāgo MI sistēmu potenciāli radīto risku intensitātei un apmēram. Tāpēc ir nepieciešams aizliegt dažas nepieņemamas mākslīgā intelekta prakses, noteikt prasības augsta riska MI sistēmām un pienākumus attiecīgajiem operatoriem un noteikt pārredzamības pienākumus attiecībā uz noteiktām MI sistēmām.

(15)

Līdztekus daudziem lietderīgiem mākslīgā intelekta izmantošanas veidiem šo tehnoloģiju var arī izmantot ļaunprātīgi, un tā var sniegt nebijušus un spēcīgus rīkus manipulatīvas, ekspluatatīvas un sociālās kontroles prakses īstenošanai. Šāda prakse ir īpaši kaitējoša un būtu jāaizliedz, jo tā ir pretrunā Savienības vērtībām attiecībā uz cilvēka cieņu, brīvību, līdztiesību, demokrātiju un tiesiskumu un Savienības pamattiesībām, ieskaitot tiesības uz nediskriminēšanu, datu aizsardzību un privātumu un bērna tiesības.

(15)

Līdztekus daudziem lietderīgiem mākslīgā intelekta izmantošanas veidiem šo tehnoloģiju var arī izmantot ļaunprātīgi, un tā var sniegt nebijušus un spēcīgus rīkus manipulatīvas, ekspluatatīvas un sociālās kontroles prakses īstenošanai. Šāda prakse ir īpaši kaitējoša un ļaunprātīga un būtu jāaizliedz, jo tā ir pretrunā Savienības vērtībām attiecībā uz cilvēka cieņu, brīvību, līdztiesību, demokrātiju un tiesiskumu un Savienības pamattiesībām, ieskaitot tiesības uz nediskriminēšanu, datu aizsardzību un privātumu un bērna tiesības.

(16)

Jāaizliedz laist tirgū, nodot ekspluatācijā vai izmantot noteiktas cilvēka uzvedības iespaidošanai domātas AI sistēmas , kuru dēļ var rasties fizisks vai psiholoģisks kaitējums. Tādas AI sistēmas izmanto zemapziņai adresētus elementus, kurus indivīdi nespēj uztvert, vai izmanto bērnu un tādu cilvēku ietekmējamību, kas rodas viņu vecuma vai fiziskas vai garīgas nevarības dēļ. Sistēmas to dara ar nolūku būtiski iespaidot personas uzvedību un tā , ka tiek nodarīts vai var tikt nodarīts kaitējums attiecīgajai personai vai citai personai . Nevar pieņemt, ka nolūks pastāv, ja cilvēka uzvedības iespaidošana izriet no AI sistēmai ārpusējiem faktoriem, kuri nav sistēmas sagādātāja vai lietotāja varā . Aizliegumam nebūtu jākavē ar šādām AI sistēmām saistītu pētniecību leģitīmos nolūkos, ja šīs pētniecības ietvaros AI sistēma netiek izmantota cilvēka un mašīnas saskarsmē, kas fiziskas personas pakļauj kaitējumam, un pētniecību veic saskaņā ar atzītiem ētiskajiem standartiem zinātniskās pētniecības jomā.

(16)

Būtu jāaizliedz laist tirgū, nodot ekspluatācijā vai izmantot noteiktas MI sistēmas ar mērķi būtiski negatīvi ietekmēt vai ar būtisku negatīvu ietekmi uzcilvēka uzvedību , kā rezultātā, visticamāk, varētu rasties fizisks vai psiholoģisks kaitējums. Šis ierobežojums būtu jāinterpretē tā, lai tas ietvertu neirotehnoloģijas, kurām palīdz MI sistēmas un kuras izmanto, lai uzraudzītu, izmantotu vai ietekmētu neirālos datus, kas iegūti no smadzeņu un datoru saskarnēm, ciktāl tās būtiski negatīvi ietekmē fiziskas personas uzvedību tādā veidā, kas minētajai personai vai citai personai rada vai, visticamāk, radīs būtisku kaitējumu. Tādas MI sistēmas izmanto zemapziņai adresētus elementus, kurus indivīdi nespēj uztvert, vai izmanto indivīdu un īpašu personu grupu ietekmējamību, kas rodas viņu zināmu vai prognozētu personības iezīmju, vecuma, fiziskas vai garīgas nevarības , sociālās vai ekonomiskās situācijas dēļ. Tās to dara ar nolūku būtiski negatīvi ietekmēt vai tām ir būtiska negatīva ietekme uz personas uzvedību tādā veidā , ka attiecīgajai personai vai citai personai vai personu grupām tiek nodarīts vai var tikt nodarīts fizisks vai psiholoģisks kaitējums , tostarp kaitējums, kas var pieaugt laika gaitā . Nevar pieņemt, ka nolūks negatīvi ietekmēt uzvedību pastāv, ja cilvēka uzvedības ietekmēšana izriet no ārpus MI sistēmas esošiem faktoriem, kurus sistēmas sagādātājs vai lietotājs nekontrolē, piemēram, faktoriem, kurus MI sistēmas sagādātājs vai ieviesējs nevar pamatoti paredzēt un mazināt. Jebkurā gadījumā nav nepieciešams, lai sistēmas sagādātājam vai ieviesējam būtu nodoms radīt būtisku kaitējumu, kamēr šāds kaitējums ir manipulatīvas vai ekspluatējošas MI iespējotas prakses rezultāts. Šādas MI prakses aizliegumi papildina Direktīvas 2005/29/EK noteikumus, saskaņā ar kuriem negodīga komercprakse ir aizliegta neatkarīgi no tā, vai tā ir veikta, izmantojot MI sistēmas, vai kā citādi. Šādā kontekstā likumīga komercprakse, piemēram, reklāmas jomā, kas atbilst Savienības tiesību aktiem, pati par sevi nebūtu jāuzskata par aizlieguma pārkāpumu. Aizliegumam nebūtu jākavē ar šādām MI sistēmām saistītu pētniecību leģitīmos nolūkos, ja šīs pētniecības ietvaros MI sistēma netiek izmantota cilvēka un mašīnas saskarsmē, kas fiziskas personas pakļauj kaitējumam, un pētniecību veic saskaņā ar atzītiem ētikas standartiem zinātniskās pētniecības jomā , un ja ir konkrēta informēta piekrišana, ko devušas personas, attiecībā uz kurām šīs sistēmas izmanto, vai attiecīgā gadījumā to aizbildnis .

(16a)

MI sistēmas, kas klasificē fiziskas personas, iedalot tās konkrētās kategorijās saskaņā ar zināmām vai izsecinātām pazīmēm, par kurām dati ir sensitīvi vai aizsargāti, ir īpaši intruzīvas, pārkāpj cilvēka cieņu un ietver lielu diskriminācijas risku. Dažas no šādām pazīmēm ir dzimte un dzimumidentitāte, rase, etniskā izcelsme, migrācijas vai pilsonības statuss, politiskā orientācija, seksuālā orientācija, reliģiskā piederība, invaliditāte vai jebkādi citi iemesli, kuru dēļ diskriminācija ir aizliegta saskaņā ar Eiropas Savienības Pamattiesību hartas 21. pantu, kā arī Regulas (ES) 2016/769 9. pantu. Tāpēc šādas sistēmas būtu jāaizliedz.

(17)

AI sistēmas, kas publiskā sektora iestādēm vai to vārdā vispārējiem mērķiem nodrošina fizisko personu sociālo novērtēšanu, var radīt diskriminējošus iznākumus un dažu grupu atstumtību. Tās var pārkāpt tiesības uz cilvēka cieņas neaizskaramību un nediskriminēšanu un līdztiesības un tiesiskuma vērtības. Šādas AI sistēmas izvērtē vai klasificē fizisku personu uzticamību , pamatojoties uz viņu sociālo uzvedību dažādos kontekstos vai zināmām vai prognozētām personiskajām vai rakstura iezīmēm. Šādu AI sistēmu radītais sociālā novērtējuma rezultāts var izraisīt kaitējošu vai nelabvēlīgu attieksmi pret fiziskām personām vai veselām fizisku personu grupām sociālos kontekstos, kas nav saistīti ar to kontekstu, kurā dati tika sākotnēji radīti vai savākti, vai kaitējošu attieksmi, kas nav pamatota vai samērīga ar personu sociālās uzvedības “smagumu”. Tāpēc šādas AI sistēmas būtu jāaizliedz.

(17)

MI sistēmas, kas vispārējiem mērķiem nodrošina fizisko personu sociālo novērtēšanu, var radīt diskriminējošus iznākumus un dažu grupu atstumtību. Tās pārkāpj tiesības uz cilvēka cieņas neaizskaramību un nediskriminēšanu un līdztiesības un tiesiskuma vērtības. Šādas MI sistēmas izvērtē vai klasificē fiziskas personas vai grupas , pamatojoties uz vairākiem datu punktiem un notikumiem laikā, kas saistīti ar viņu sociālo uzvedību dažādos kontekstos vai zināmām , izsecinātām vai prognozētām personiskajām vai rakstura iezīmēm. Šādu MI sistēmu radītais sociālā novērtējuma rezultāts var izraisīt kaitējošu vai nelabvēlīgu attieksmi pret fiziskām personām vai veselām fizisku personu grupām sociālos kontekstos, kas nav saistīti ar to kontekstu, kurā dati tika sākotnēji radīti vai savākti, vai kaitējošu attieksmi, kas nav pamatota vai samērīga ar personu sociālās uzvedības “smagumu”. Tāpēc šādas MI sistēmas būtu jāaizliedz.

(18)

AI sistēmu izmantošanu fizisku personu reāllaika biometriskajai tālidentifikācijai sabiedriskās vietās tiesībaizsardzības nolūkos uzskata par īpaši aizskarošu attiecībā uz konkrēto personu tiesībām un brīvībām , ciktāl tā var ietekmēt lielas sabiedrības daļas privāto dzīvi, izraisīt pastāvīgas uzraudzības sajūtu un netieši atturēt no pulcēšanās brīvības un citu pamattiesību īstenošanas . Turklāt tūlītējā ietekme un ierobežotas iespējas veikt turpmākas pārbaudes vai labojumus attiecībā uz šādu reāllaikā darbojošos sistēmu izmantošanu rada pastiprinātu risku to personu tiesībām un brīvībām, pret kurām vērstas tiesībaizsardzības darbības.

(18)

MI sistēmu izmantošanai fizisku personu reāllaika biometriskajai identifikācijai sabiedriskās vietās ir īpaši intruzīva ietekme uz attiecīgo personu tiesībām un brīvībām un galu galā var ietekmēt lielas iedzīvotāju daļas privāto dzīvi, radīt sajūtu, ka persona tiek pastāvīgi izsekota , sniegt pusēm, kas ievieš biometrisko identifikāciju sabiedriskās vietās, nekontrolējamas varas pozīcijas un netieši atturēt no pulcēšanās brīvības un citu tādu pamattiesību izmantošanas, kuras veido tiesiskuma pamatu. Fizisku personu biometriskajai tālidentifikācijai paredzētu MI sistēmu tehniskās neprecizitātes var radīt neobjektīvus rezultātus un diskriminējošu ietekmi. Īpaši tas var būt saistīts ar vecumu, tautību, dzimumu vai invaliditāti . Turklāt tūlītējā ietekme un ierobežotas iespējas veikt turpmākas pārbaudes vai labojumus attiecībā uz šādu reāllaikā darbojošos sistēmu izmantošanu rada pastiprinātu risku to personu tiesībām un brīvībām, pret kurām vērstas tiesībaizsardzības darbības. Tāpēc minēto sistēmu izmantošana sabiedriskās vietās būtu jāaizliedz. Tāpat būtu jāaizliedz arī MI sistēmas, ko izmanto sabiedriskās vietās ierakstītu ierakstu analizēšanai ar vēlāklaika biometriskās tālidentifikācijas sistēmām, izņemot gadījumus, kad pastāv pirmstiesas izmeklēšanas atļauja izmantošanai tiesībaizsardzības kontekstā, ja tas ir absolūti nepieciešams mērķtiecīgai meklēšanai saistībā ar konkrētu smagu noziedzīgu nodarījumu, kas jau ir noticis, un tikai ar pirmstiesas izmeklēšanas atļauju.

(19)

Tāpēc minēto sistēmu izmantošana tiesībaizsardzības nolūkos būtu jāaizliedz, izņemot trīs precīzi uzskaitītas un šauri definētas situācijas, kurās sistēmu izmantošana ir absolūti nepieciešama tādu būtisku vispārības interešu īstenošanai, kuru nozīme atsver riskus. Minētās situācijas ietver noziegumos potenciāli cietušo, tostarp pazudušu bērnu, meklēšanu; nepārprotamu apdraudējumu fizisku personu dzīvībai vai fiziskajai drošībai vai teroristiska uzbrukuma draudus; un Padomes pamatlēmumā 2002/584/TI  (38) minēto noziedzīgo nodarījumu izdarītāju vai aizdomās turamo atklāšanu, atrašanās vietas noteikšanu, identifikāciju vai saukšanu pie atbildības, ja minētie noziedzīgie nodarījumi attiecīgajā dalībvalstī ir sodāmi ar brīvības atņemšanas sodu vai ar brīvības atņemšanu saistītu drošības līdzekli vismaz uz trim gadiem, un kā noteikts attiecīgās dalībvalsts tiesību aktos. Šāda robežvērtība brīvības atņemšanas sodam vai ar brīvības atņemšanu saistītam drošības līdzeklim saskaņā ar valstu tiesību aktiem palīdz nodrošināt, ka noziedzīgajam nodarījumam jābūt pietiekami smagam, lai potenciāli pamatotu reāllaika biometriskās tālidentifikācijas sistēmas izmantošanu. Turklāt no 32 noziedzīgajiem nodarījumiem, kas uzskaitīti Padomes pamatlēmumā 2002/584/TI, daži praksē, visticamāk, būs būtiskāki nekā citi, proti, paredzams, ka reāllaika biometriskās tālidentifikācijas sistēmas izmantošana būs nepieciešama un samērīga ļoti atšķirīgā pakāpē atkarā no praktiskajām darbībām dažādo uzskaitīto noziedzīgo nodarījumu izdarītāja vai aizdomās turamā atklāšanai, atrašanās vietas noteikšanai, identifikācijai vai saukšanai pie atbildības, ņemot vērā paredzamās atšķirības kaitējuma smaguma, iespējamības un apmēra vai iespējamo negatīvo seku ziņā.

(20)

Lai nodrošinātu, ka minētās sistēmas tiek izmantotas atbildīgi un samērīgi, ir svarīgi arī noteikt, ka katrā no trim precīzi uzskaitītajām un šauri definētajām situācijām jāņem vērā noteikti elementi, it īpaši situācijas raksturs, kurš pamato sistēmas izmantošanu, izmantošanas ietekme uz visu iesaistīto personu tiesībām un brīvībām, un izmantošanai nodrošinātie apstākļi un aizsardzības pasākumi. Turklāt reāllaika biometriskās tālidentifikācijas sistēmu izmantošanai sabiedriskās vietās tiesībaizsardzības nolūkos būtu jānosaka atbilstoši ierobežojumi laikā un telpā, galvenokārt ņemot vērā pierādījumus vai norādes par apdraudējumiem, cietušajiem vai noziedzīgo nodarījumu izdarītājiem. Personu atsauces datubāzei vajadzētu būt pielāgotai katram izmantošanas gadījumam katrā no trim iepriekš minētajām situācijām.

(21)

Katram reāllaika biometriskās tālidentifikācijas sistēmas izmantošanas gadījumam sabiedriskās vietās tiesībaizsardzības nolūkos vajadzētu saņemt skaidru un precīzu atļauju no tiesu iestādes vai dalībvalsts neatkarīgas administratīvās iestādes. Šādu atļauju būtībā vajadzētu saņemt pirms izmantošanas, izņemot pienācīgi pamatotas, steidzamas situācijas, proti, situācijas, kurās nepieciešamība izmantot attiecīgās sistēmas padara atļaujas iegūšanu pirms izmantošanas sākšanas faktiski un objektīvi neiespējamu. Šādās steidzamās situācijās izmantošanai būtu jāaprobežojas ar absolūti nepieciešamo minimumu un jānodrošina atbilstoši aizsardzības pasākumi un apstākļi, kā to nosaka valstu tiesību akti un precizē pati tiesībaizsardzības iestāde katra atsevišķa steidzamas izmantošanas gadījuma kontekstā. Papildus tam tiesībaizsardzības iestādei šādās situācijās būtu jācenšas saņemt atļauju pēc iespējas ātrāk, vienlaikus norādot iemeslus, kāpēc atļauju nebija iespējams pieprasīt agrāk.

(22)

Turklāt šīs regulas izveidotajā izsmeļošajā sistēmā ir lietderīgi noteikt, ka minētajai izmantošanai dalībvalsts teritorijā saskaņā ar šo regulu vajadzētu būt iespējamai tikai, ja un ciktāl attiecīgā dalībvalsts ir nolēmusi valsts tiesību aktu noteikumos skaidri paredzēt iespēju atļaut minēto izmantošanu. Tādējādi dalībvalstis saskaņā ar šo regulu var neparedzēt šādu iespēju nemaz vai paredzēt to attiecībā uz dažiem mērķiem, ar kuriem var pamatot šajā regulā noteikto atļauto izmantošanu.

(23)

AI sistēmu izmantošana fizisku personu reāllaika biometriskajai tālidentifikācijai sabiedriskās vietās tiesībaizsardzības nolūkos neizbēgami ietver biometrisko datu apstrādi. Šīs regulas noteikumi, kas aizliedz (ar dažiem izņēmumiem) minēto izmantošanu un pamatojas uz LESD 16. pantu, būtu jāpiemēro kā speciālās normas attiecībā uz Direktīvas (ES) 2016/680 10. panta noteikumiem par biometrisko datu apstrādi, tādā veidā izsmeļoši regulējot minēto izmantošanu un ar to saistīto biometrisko datu apstrādi. Tāpēc minētajai izmantošanai un datu apstrādei vajadzētu būt iespējamai, tikai ciktāl tā ir saderīga ar šajā regulā noteikto sistēmu, bez darbības jomas ārpus minētās sistēmas, kurā kompetentās iestādes, rīkojoties tiesībaizsardzības nolūkā, varētu izmantot šādas sistēmas un apstrādāt saistītos datus, pamatojoties uz Direktīvas (ES) 2016/680 10. pantā uzskaitītajiem iemesliem. Minētajā kontekstā šīs regulas mērķis nav nodrošināt juridisko pamatu persondatu apstrādei saskaņā ar Direktīvas (ES) 2016/680 8. pantu. Tomēr reāllaika biometriskās tālidentifikācijas sistēmu izmantošana sabiedriskās vietās nolūkos, kas nav saistīti ar tiesībaizsardzību, tostarp no kompetento iestāžu puses, nebūtu jāiekļauj šajā regulā noteiktajā attiecīgajā sistēmā, kas regulē minēto izmantošanu tiesībaizsardzības nolūkos. Tāpēc šajā regulā noteiktā prasība saņemt atļauju un piemērojamie valstu tiesību aktu noteikumi, kas varētu to ieviest, nebūtu jāattiecina uz minēto izmantošanu nolūkos, kas nav saistīti ar tiesībaizsardzību.

(24)

Biometrisko datu un citu persondatu apstrādei saistībā ar AI sistēmu izmantošanu biometriskajai identifikācijai, kas nav saistīta ar reāllaika biometriskās tālidentifikācijas sistēmu izmantošanu sabiedriskās vietās tiesībaizsardzības nolūkos , kā to nosaka šī regula , ieskaitot gadījumus, kad kompetentās iestādes izmanto minētās sistēmas sabiedriskās vietās nolūkos, kas nav saistīti ar tiesībaizsardzību , būtu arī turpmāk jāatbilst visām piemērojamajām prasībām, kas izriet no Regulas (ES) 2016/679 9. panta 1. punkta, Regulas (ES) 2018/1725 10. panta 1. punkta un Direktīvas (ES) 2016/680 10. panta.

(24)

Biometrisko datu un citu persondatu apstrādei saistībā ar MI sistēmu izmantošanu biometriskajai identifikācijai, kas nav saistīta ar reāllaika biometriskās tālidentifikācijas sistēmu izmantošanu sabiedriskās vietās, kā to nosaka šī regula, būtu arī turpmāk jāatbilst visām piemērojamajām prasībām, kas izriet no Regulas (ES) 2016/679 9. panta 1. punkta, Regulas (ES) 2018/1725 10. panta 1. punkta un Direktīvas (ES) 2016/680 10. panta.

(25)

Saskaņā ar LES un LESD pievienotā Protokola (Nr. 21) par Apvienotās Karalistes un Īrijas nostāju saistībā ar brīvības, drošības un tiesiskuma telpu 6.a pantu Īrijai nav saistoši šīs regulas 5. panta 1. punkta d) apakšpunkta un 2. un 3. punkta noteikumi, kuri pieņemti, pamatojoties uz LESD 16. pantu, un ir saistīti ar persondatu apstrādi dalībvalstīs, veicot darbības, uz kurām attiecas LESD trešās daļas V sadaļas 4. un 5. nodaļa, kurās noteikts, ka uz Īriju neattiecas noteikumi, kas regulē tiesu iestāžu sadarbības krimināllietās formas vai policijas sadarbību, kam nepieciešama atbilstība noteikumiem, kuri noteikti, pamatojoties uz LESD 16. pantu.

(25)

Saskaņā ar LES un LESD pievienotā Protokola (Nr. 21) par Apvienotās Karalistes un Īrijas nostāju saistībā ar brīvības, drošības un tiesiskuma telpu 6.a pantu Īrijai nav saistoši šīs regulas 5. panta 1. punkta d) apakšpunkta noteikumi, kuri pieņemti, pamatojoties uz LESD 16. pantu, un ir saistīti ar persondatu apstrādi dalībvalstīs, veicot darbības, uz kurām attiecas LESD trešās daļas V sadaļas 4. un 5. nodaļa, kurās noteikts, ka uz Īriju neattiecas noteikumi, kas regulē tiesu iestāžu sadarbības krimināllietās formas vai policijas sadarbību, kam nepieciešama atbilstība noteikumiem, kuri noteikti, pamatojoties uz LESD 16. pantu.

(26)

Saskaņā ar LES un LESD pievienotā Protokola (Nr. 22) par Dānijas nostāju 2. un 2.a pantu Dānijai nav saistoši un nav jāpiemēro šīs regulas 5. panta 1. punkta d) apakšpunkta un 2. un 3. punkta noteikumi, kuri pieņemti, pamatojoties uz LESD 16. pantu, un ir saistīti ar persondatu apstrādi dalībvalstīs, veicot darbības, uz kurām attiecas LESD trešās daļas V sadaļas 4. un 5. nodaļa.

(26)

Saskaņā ar LES un LESD pievienotā Protokola (Nr. 22) par Dānijas nostāju 2. un 2.a pantu Dānijai nav saistoši un nav jāpiemēro šīs regulas 5. panta 1. punkta d) apakšpunkta noteikumi, kuri pieņemti, pamatojoties uz LESD 16. pantu, un ir saistīti ar persondatu apstrādi dalībvalstīs, veicot darbības, uz kurām attiecas LESD trešās daļas V sadaļas 4. un 5. nodaļa.

(26a)

MI sistēmas, ko izmanto tiesībaizsardzības iestādes vai kas tiek izmantotas to vārdā, lai iegūtu prognozes, profilus vai riska novērtējumus, pamatojoties uz fizisku personu profilēšanu vai datu analīzi, kurā izmanto personiskās īpašības un rakstura iezīmes, tostarp personas atrašanās vietu vai fizisku personu vai grupu agrākas noziedzīgas darbības nolūkā prognozēt faktisku vai potenciālu noziedzīgu nodarījumu vai citas krimināli sodāmas sociālās uzvedības rašanos vai atkārtošanos, vai administratīvu pārkāpumu, tostarp krāpšanas, prognozēšanas sistēmas rada īpašu pret konkrētām personām vai personu grupām vērstas diskriminācijas risku, jo tās pārkāpj cilvēka cieņu, kā arī nevainīguma prezumpcijas galveno juridisko principu. Tāpēc šādas MI sistēmas būtu jāaizliedz.

(26b)

Nediferencēta un nemērķtiecīga biometrisko datu rasmošana no sociālajiem medijiem vai videonovērošanas sistēmu ierakstiem, lai izveidotu vai paplašinātu sejas atpazīšanas datubāzes, palielina masveida izsekošanas sajūtu un var izraisīt smagus pamattiesību, tostarp tiesību uz privātumu, pārkāpumus. Tāpēc MI sistēmu izmantošana šādā nolūkā būtu jāaizliedz.

(26c)

Pastāv nopietnas bažas par tādu MI sistēmu zinātnisko pamatu, kuru mērķis ir uztvert emocijas, fiziskās vai fizioloģiskās īpašības, piemēram, sejas izteiksmes, kustības, pulsa biežumu vai balsi. Emocijas vai emociju izpausmes un to uztvere ievērojami atšķiras dažādās kultūrās un situācijās un pat vienai personai. Starp šādu tehnoloģiju galvenajiem trūkumiem ir ierobežotā uzticamība (emociju kategorijas nav nedz ticami izteiktas, nedz nepārprotami saistītas ar vienotu fizisku vai fizioloģisku kustību kopumu), specifiskuma trūkums (fiziskas vai fizioloģiskas izteiksmes pilnībā neatbilst emociju kategorijām) un ierobežotā vispārināmība (konteksta un kultūras ietekme nav pietiekami ņemta vērā). Uzticamības problēmas un līdz ar to būtiski ļaunprātīgas izmantošanas riski jo īpaši var rasties, ieviešot sistēmu reālās dzīves situācijās, kas saistītas ar tiesībaizsardzību, robežu pārvaldību, darba vietu un izglītības iestādēm. Tāpēc būtu jāaizliedz laist tirgū, nodot ekspluatācijā vai izmantot MI sistēmas, kas paredzētas šādām situācijām indivīda emocionālā stāvokļa atklāšanai.

(26d)

Šai regulai nevajadzētu ietekmēt praksi, kas ir aizliegta ar Savienības tiesību aktiem, tostarp datu aizsardzības tiesību aktiem, nediskriminācijas tiesību aktiem, patērētāju aizsardzības tiesību aktiem un konkurences tiesību aktiem.

(27)

Augsta riska AI sistēmas būtu jālaiž Savienības tirgū vai jānodod ekspluatācijā tikai tad, ja tās atbilst noteiktām obligātām prasībām. Minētajām prasībām būtu jānodrošina, ka augsta riska AI sistēmas, kuras pieejamas Savienībā vai kuru iznākumus citādā veidā izmanto Savienībā, nerada nepieņemamus riskus svarīgām Savienības sabiedriskajām interesēm, kas ir atzītas un aizsargātas Savienības tiesību aktos. Kā augsta riska sistēmas būtu jāklasificē tikai tās AI sistēmas, kurām ir ievērojama kaitējoša ietekme uz personu veselību, drošību un pamattiesībām Savienībā, un šādai klasificēšanai būtu pēc iespējas jāsamazina iespējamu starptautiskās tirdzniecības ierobežojumu rašanās.

(27)

Augsta riska MI sistēmas būtu jālaiž Savienības tirgū, jānodod ekspluatācijā vai jāizmanto tikai tad, ja tās atbilst noteiktām obligātām prasībām. Minētajām prasībām būtu jānodrošina, ka augsta riska MI sistēmas, kuras pieejamas Savienībā vai kuru iznākumus citādā veidā izmanto Savienībā, nerada nepieņemamus riskus svarīgām Savienības sabiedriskajām interesēm, kas ir atzītas un aizsargātas Savienības tiesību aktos , tostarp pamattiesībām, demokrātijai tiesiskumam vai videi. Lai nodrošinātu saskaņotību ar nozaru tiesību aktiem un izvairītos no prasību dublēšanas, prasībās augsta riska MI sistēmām būtu jāņem vērā tie nozaru tiesību akti, kuros jau ir noteiktas prasības šīs regulas darbības jomā iekļautajām augsta riska MI sistēmām, piemēram, Regula (ES) 2017/745 par medicīnas ierīcēm un Regula (ES) 2017/746 par in vitro diagnostikas medicīniskām ierīcēm un Direktīva 2006/42/EK par mašīnām . Kā augsta riska sistēmas būtu jāklasificē tikai tās MI sistēmas, kurām ir ievērojama kaitējoša ietekme uz personu veselību, drošību un pamattiesībām Savienībā, un šāds ierobežojums līdz minimumam samazina vai pilnībā izslēdz iespējamu starptautiskās tirdzniecības ierobežojumu rašanos. Ņemot vērā straujo tehnoloģiju attīstības tempu, kā arī iespējamās izmaiņas MI sistēmu izmantošanā, III pielikumā iekļautais augsta riska jomu un izmantošanas gadījumu saraksts tomēr būtu pastāvīgi jāpārskata, veicot regulāru novērtēšanu.

(28)

AI sistēmas var radīt personu veselībai un drošībai kaitīgu iznākumu , īpaši tad, ja šādas sistēmas darbojas kā produktu sastāvdaļas. Saskaņā ar Savienības saskaņošanas tiesību aktu mērķiem veicināt produktu brīvu apriti iekšējā tirgū un gādāt, ka tirgū nonāk tikai droši un cita veida prasībām atbilstoši produkti, ir svarīgi pienācīgi novērst un mazināt drošības riskus, kurus var radīt produkts kopumā tā digitālo sastāvdaļu, arī AI sistēmu, dēļ. Piemēram, arvien autonomākiem robotiem gan ražošanas, gan personīgās palīdzības un aprūpes kontekstā vajadzētu spēt droši darboties un veikt savas funkcijas sarežģītās vidēs. Tāpat veselība aprūpes nozarē, kur runa ir par veselību un dzīvību, arvien sarežģītākām diagnostikas sistēmām un cilvēka lēmumus atbalstošām sistēmām vajadzētu būt ticamām un pareizām. AI sistēmas izraisītās kaitējošās ietekmes uz Pamattiesību hartā aizsargātajām pamattiesībām apmērs ir īpaši nozīmīgs, klasificējot AI sistēmu kā augsta riska sistēmu. Minētās tiesības ietver cilvēka cieņas aizsardzību, privātās un ģimenes dzīves neaizskaramību un persondatu aizsardzību, vārda un informācijas brīvību, pulcēšanās un biedrošanās brīvību, nediskriminēšanu, patērētāju aizsardzību, darba ņēmēju tiesības, invalīdu tiesības, tiesības uz efektīvu tiesību aizsardzību un taisnīgu tiesu, nevainīguma prezumpciju un tiesības uz aizstāvību, tiesības uz labu pārvaldību. Papildus minētajām tiesībām ir svarīgi izcelt, ka bērniem ir īpašas tiesības, kas noteiktas ES Pamattiesību hartas 24. pantā un ANO Konvencijā par bērna tiesībām (sīkāk izstrādātas minētās ANO konvencijas Vispārējā komentārā Nr. 25 par digitālo vidi); abi dokumenti nosaka, ka ir jāņem vērā bērnu neaizsargātība un viņu labklājības labad nepieciešams nodrošināt aizsardzību un aprūpi. Novērtējot kaitējuma smagumu, ko AI sistēma var nodarīt, arī attiecībā uz personu veselību un drošību, būtu jāņem vērā arī Pamattiesības uz augstu vides aizsardzības līmeni, kuras ir nostiprinātas Pamattiesību hartā un iestrādātas Savienības politikā.

(28)

MI sistēmas varētu negatīvi ietekmēt personu veselību un drošību , īpaši tad, ja šādas sistēmas darbojas kā produktu drošuma sastāvdaļas. Saskaņā ar Savienības saskaņošanas tiesību aktu mērķiem veicināt produktu brīvu apriti iekšējā tirgū un gādāt, ka tirgū nonāk tikai droši un cita veida prasībām atbilstoši produkti, ir svarīgi pienācīgi novērst un mazināt drošības riskus, kurus var radīt produkts kopumā tā digitālo sastāvdaļu, arī MI sistēmu, dēļ. Piemēram, arvien autonomākiem robotiem gan ražošanas, gan personīgās palīdzības un aprūpes kontekstā vajadzētu spēt droši darboties un veikt savas funkcijas sarežģītās vidēs. Tāpat veselība aprūpes nozarē, kur runa ir par veselību un dzīvību, arvien sarežģītākām diagnostikas sistēmām un cilvēka lēmumus atbalstošām sistēmām vajadzētu būt ticamām un pareizām.

(28a)

MI sistēmas izraisītās kaitējošās ietekmes uz Hartā aizsargātajām pamattiesībām apmērs ir īpaši nozīmīgs, klasificējot MI sistēmu kā augsta riska sistēmu. Minētās tiesības ietver tiesības uz cilvēka cieņas aizsardzību, privātās un ģimenes dzīves neaizskaramību, persondatu aizsardzību, vārda un informācijas brīvību, pulcēšanās un biedrošanās brīvību, nediskriminēšanu, izglītību un patērētāju aizsardzību, darba ņēmēju tiesības, invalīdu tiesības, dzimumu līdztiesību, intelektuālā īpašuma tiesības, tiesības uz efektīvu tiesību aizsardzību un taisnīgu tiesu, nevainīguma prezumpciju un tiesības uz aizstāvību, tiesības uz labu pārvaldību. Papildus minētajām tiesībām ir svarīgi izcelt, ka bērniem ir īpašas tiesības, kas nostiprinātas ES Pamattiesību hartas 24. pantā un ANO Konvencijā par bērna tiesībām (sīkāk izstrādātas minētās ANO konvencijas Vispārējā komentārā Nr. 25 par digitālo vidi); abi dokumenti nosaka, ka ir jāņem vērā bērnu neaizsargātība un viņu labklājības labad nepieciešams nodrošināt šādu aizsardzību un aprūpi. Novērtējot, cik smags ir MI sistēmas potenciālais kaitējums, arī personu veselībai un drošībai vai videi, būtu jāņem vērā arī Pamattiesības uz augstu vides aizsardzības līmeni, kuras ir nostiprinātas Hartā un īstenotas Savienības rīcībpolitikās.

(29)

Attiecībā uz augsta riska AI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas Eiropas Parlamenta un Padomes Regula (EK) Nr. 300/2008 (39), Eiropas Parlamenta un Padomes Regula (ES) Nr. 167/2013 (40), Eiropas Parlamenta un Padomes Regula (ES) Nr. 168/2013 (41), Eiropas Parlamenta un Padomes Direktīva 2014/90/ES (42), Eiropas Parlamenta un Padomes Direktīva (ES) 2016/797 (43), Eiropas Parlamenta un Padomes Regula (ES) 2018/858 (44), Eiropas Parlamenta un Padomes Regula (ES) 2018/1139 (45), un Eiropas Parlamenta un Padomes Regula (ES) 2019/2144 (46), ir lietderīgi grozīt minētos aktus, lai nodrošinātu, ka Komisija, pamatojoties uz katras nozares tehniskajām un regulatīvajām īpatnībām un neiejaucoties nozarēs pastāvošajos pārvaldes, atbilstības novērtēšanas un izpildes mehānismos un iestādēs, ņem vērā šajā regulā noteiktās obligātās prasības augsta riska AI sistēmām, kad tā pieņem turpmākus attiecīgus deleģētos vai īstenošanas aktus, pamatojoties uz minētajiem tiesību aktiem.

(29)

Attiecībā uz augsta riska MI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas Eiropas Parlamenta un Padomes Regula (EK) Nr. 300/2008 (39), Eiropas Parlamenta un Padomes Regula (ES) Nr. 167/2013 (40), Eiropas Parlamenta un Padomes Regula (ES) Nr. 168/2013 (41), Eiropas Parlamenta un Padomes Direktīva 2014/90/ES (42), Eiropas Parlamenta un Padomes Direktīva (ES) 2016/797 (43), Eiropas Parlamenta un Padomes Regula (ES) 2018/858 (44), Eiropas Parlamenta un Padomes Regula (ES) 2018/1139 (45), un Eiropas Parlamenta un Padomes Regula (ES) 2019/2144 (46), ir lietderīgi grozīt minētos aktus, lai nodrošinātu, ka Komisija, pamatojoties uz katras nozares tehniskajām un regulatīvajām īpatnībām un neiejaucoties nozarēs pastāvošajos pārvaldes, atbilstības novērtēšanas , tirgus uzraudzības un izpildes mehānismos un iestādēs, ņem vērā šajā regulā noteiktās obligātās prasības augsta riska MI sistēmām, kad tā pieņem turpmākus attiecīgus deleģētos vai īstenošanas aktus, pamatojoties uz minētajiem tiesību aktiem.

(30)

Attiecībā uz augsta riska AI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas konkrēti Savienības saskaņošanas tiesību akti, ir lietderīgi tās klasificēt kā augsta riska sistēmas saskaņā ar šo regulu, ja attiecīgajam produktam piemēro atbilstības novērtēšanas struktūras, kas ir trešā persona, veiktu atbilstības novērtēšanas procedūru saskaņā ar attiecīgajiem Savienības saskaņošanas tiesību aktiem. Proti, tādi produkti ir mašīnas, rotaļlietas, lifti, iekārtas un aizsardzības sistēmas, kas paredzētas lietošanai sprādzienbīstamā vidē, radioiekārtas, spiediena iekārtas, atpūtas kuģu aprīkojums, trošu ceļu iekārtas, iekārtas, kurās izmanto gāzveida kurināmo, medicīniskās ierīces un in vitro diagnostikas medicīniskās ierīces.

(30)

Attiecībā uz augsta riska MI sistēmām, kuras ir produktu vai sistēmu drošības sastāvdaļas vai pašas ir produkti vai sistēmas, uz ko attiecas konkrēti II pielikumā uzskaitītie Savienības saskaņošanas tiesību akti, ir lietderīgi tās klasificēt kā augsta riska sistēmas saskaņā ar šo regulu, ja nolūkā nodrošināt atbilstību būtiskajām drošības prasībām attiecīgajam produktam piemēro atbilstības novērtēšanas struktūras, kas ir trešā persona, veiktu atbilstības novērtēšanas procedūru saskaņā ar attiecīgajiem Savienības saskaņošanas tiesību aktiem. Proti, tādi produkti ir mašīnas, rotaļlietas, lifti, iekārtas un aizsardzības sistēmas, kas paredzētas lietošanai sprādzienbīstamā vidē, radioiekārtas, spiediena iekārtas, atpūtas kuģu aprīkojums, trošu ceļu iekārtas, iekārtas, kurās izmanto gāzveida kurināmo, medicīniskās ierīces un in vitro diagnostikas medicīniskās ierīces.

(31)

Tam, ka AI sistēmu klasificē kā augsta riska sistēmu saskaņā ar šo regulu, nebūtu obligāti jānozīmē, ka produktu, kura drošības sastāvdaļa ir attiecīgā AI sistēma, vai pašu AI sistēmu kā produktu uzskata par augstu risku radošu saskaņā ar kritērijiem, kas noteikti attiecīgajos Savienības saskaņošanas tiesību aktos, kurus piemēro minētajam produktam. Tā tas ir īpaši ar Eiropas Parlamenta un Padomes Regulu (ES) 2017/745 (47) un Eiropas Parlamenta un Padomes Regulu (ES) 2017/746 (48), kurās paredzēta trešās personas veikta atbilstības novērtēšana vidēja riska augsta riska produktiem.

(31)

Tam, ka MI sistēmu klasificē kā augsta riska sistēmu saskaņā ar šo regulu, nebūtu jānozīmē, ka produktu, kura drošības sastāvdaļa ir attiecīgā MI sistēma, vai pašu MI sistēmu kā produktu uzskata par augstu risku radošu saskaņā ar kritērijiem, kas noteikti attiecīgajos Savienības saskaņošanas tiesību aktos, kurus piemēro minētajam produktam. Tā tas ir īpaši ar Eiropas Parlamenta un Padomes Regulu (ES) 2017/745 (47) un Eiropas Parlamenta un Padomes Regulu (ES) 2017/746 (48), kurās paredzēta trešās personas veikta atbilstības novērtēšana vidēja riska augsta riska produktiem.

(32)

Savrupas AI sistēmas, proti, augsta riska AI sistēmas, kuras nav produktu drošības sastāvdaļas vai kuras pašas ir produkti, ir lietderīgi klasificēt kā augsta riska sistēmas, ja, pamatojoties uz to paredzēto nolūku, tās rada augstu kaitējuma risku personu veselībai, drošībai vai pamattiesībām, ņemot vērā gan iespējamā kaitējuma smagumu , gan iespējamību, un ja tās izmanto vairākās iepriekš īpaši noteiktās jomās , kā precizēts regulā . Minēto sistēmu identifikācija pamatojas uz tādu pašu metodiku un kritērijiem, kādus paredzēts izmantot jebkādos turpmākos augsta riska AI sistēmu saraksta grozījumos.

(32)

Savrupas MI sistēmas, proti, augsta riska MI sistēmas, kuras nav produktu drošības sastāvdaļas vai kuras pašas ir produkti un kuras ir minētas vienā no III pielikuma jomām vai izmantošanas gadījumiem , ir lietderīgi klasificēt kā augsta riska sistēmas, ja, ņemot vērā to nolūku, tās rada būtisku kaitējuma risku personu veselībai, drošībai vai pamattiesībām un — ja MI sistēma tiek izmantota kā kritiskas infrastruktūras komponents — videi. Šāds būtisks kaitējuma risks būtu jāidentificē , novērtējot, no vienas puses, iespējamā kaitējuma smaguma pakāpi, intensitāti , rašanās iespējamību un ilgumu kopumā un , no otras puses, to, vai kaitējums var skart vienu personu, daudzas personas vai konkrētu personu grupu. Kombinējot šos divus rādītājus, varētu iegūt, piemēram , risku kaitējumam ar augstu smaguma pakāpi, bet mazu varbūtību, ka tas skars fizisku personu, vai ar lielu varbūtību, ka tas skars personu grupu, bet ar zemu intensitāti ilgākā laika posmā atkarībā no konteksta . Minēto sistēmu identifikācija pamatojas uz tādu pašu metodiku un kritērijiem, kādus paredzēts izmantot jebkādos turpmākos augsta riska MI sistēmu saraksta grozījumos.

(32a)

Sagādātājiem, kuru MI sistēmas ietilpst kādā no III pielikumā uzskaitītajām jomām un izmantošanas gadījumiem, un kuri uzskata, ka to sistēma nerada būtisku kaitējuma risku veselībai, drošībai, pamattiesībām vai videi, būtu jāinformē valsts uzraudzības iestādes, iesniedzot pamatotu paziņojumu. Tas varētu būt relevantās informācijas par attiecīgo MI sistēmu kopsavilkums uz vienas lappuses, tostarp par tās paredzēto nolūku un par to, kāpēc tā neradītu būtisku kaitējuma risku veselībai, drošībai, pamattiesībām vai videi. Komisijai būtu jāprecizē kritēriji, lai uzņēmumi varētu novērtēt, vai to sistēma radītu šādus riskus, kā arī jāizstrādā viegli lietojama un standartizēta paziņojuma veidne. Sagādātājiem paziņojums būtu jāiesniedz pēc iespējas agrāk un jebkurā gadījumā pirms MI sistēmas laišanas tirgū vai nodošanas ekspluatācijā, ideālā gadījumā izstrādes posmā, un tiem vajadzētu būt iespējai to laist tirgū jebkurā laikā pēc paziņošanas. Tomēr, ja iestāde lēš, ka attiecīgā MI sistēma ir nepareizi klasificēta, tai trīs mēnešu laikā būtu jāiebilst pret paziņojumu. Iebildums būtu jāpamato un pienācīgi jāpaskaidro, kāpēc MI sistēma ir nepareizi klasificēta. Pakalpojumu sniedzējam būtu jāsaglabā tiesības iesniegt pārsūdzību, sniedzot papildu argumentus. Ja pēc trim mēnešiem nav saņemti iebildumi pret paziņojumu, valsts uzraudzības iestādes varētu tomēr iejaukties, ja MI sistēma rada risku valsts līmenī, kā arī jebkurai citai MI sistēmai tirgū. Valstu uzraudzības iestādēm būtu jāiesniedz MI birojam gada ziņojumi, kuros sīki izklāstīti saņemtie paziņojumi un pieņemtie lēmumi.

(33)

Fizisku personu biometriskajai tālidentifikācijai paredzētu AI sistēmu tehniskās neprecizitātes var radīt neobjektīvus rezultātus un diskriminējošu ietekmi. Īpaši tas var būt saistīts ar vecumu, tautību, dzimumu vai invaliditāti. Tāpēc reāllaika un vēlāklaika biometriskās tālidentifikācijas sistēmas būtu jāklasificē kā augsta riska sistēmas. Ņemot vērā to radītos riskus, abu veidu biometriskās tālidentifikācijas sistēmām būtu jāpiemēro zināmas prasības par reģistrēšanas iespējām un cilvēka virsvadību.

(33a)

Tā kā biometriskie dati saskaņā ar Regulu 2016/679 ir īpaša sensitīvu persondatu kategorija, ir lietderīgi vairākus biometrisko un biometrijas sistēmu izmantošanas gadījumus klasificēt kā augsta riska gadījumus. Tāpēc MI sistēmas, ko paredzēts izmantot fizisku personu biometriskajai identifikācijai, un MI sistēmas, ko paredzēts izmantot, lai izdarītu secinājumus par fizisku personu personiskajām īpašībām, pamatojoties uz biometriskajiem vai biometrijas datiem, tostarp emociju uztveršanas sistēmas, izņemot tās, kuras ir aizliegtas saskaņā ar šo regulu, būtu jāklasificē kā augsta riska sistēmas. Tajās nevajadzētu iekļaut MI sistēmas, kuras paredzēts izmantot biometriskajai verifikācijai, kas ietver autentifikāciju, kuras vienīgais nolūks ir apstiprināt, ka konkrēta fiziska persona patiešām ir persona, par ko tā uzdodas, un apstiprināt fiziskas personas identitāti vienīgi nolūkā piekļūt pakalpojumam, ierīcei vai telpām (verifikācija “viens pret vienu”). Biometriskās un biometrijas sistēmas, kas paredzētas Savienības tiesību aktos, lai nodrošinātu kiberdrošības un persondatu aizsardzības pasākumus, nebūtu jāuzskata par tādām, kas rada būtisku kaitējuma risku veselībai, drošībai un pamattiesībām.

(34)

Attiecībā uz kritiskās infrastruktūras apsaimniekošanu un darbību ir lietderīgi kā augsta riska sistēmas klasificēt tās AI sistēmas, kuras paredzēts izmantot kā drošības sastāvdaļas ceļu satiksmes pārvaldībā un darbībā, kā arī ūdens, gāzes un elektroenerģijas piegādē un apkures nodrošināšanā , jo sistēmu darbības atteice vai traucējumi var plašā mērogā apdraudēt cilvēku veselību un dzīvību un izraisīt ievērojamus traucējumus sociālo un saimniecisko darbību parastajā norisē.

(34)

Attiecībā uz kritiskās infrastruktūras apsaimniekošanu un darbību ir lietderīgi kā augsta riska sistēmas klasificēt tās MI sistēmas, kuras paredzēts izmantot kā drošības sastāvdaļas ūdens, gāzes, apkures un elektroenerģijas piegādes pārvaldībā un darbībā un kā kritisku digitālo infrastruktūru , jo sistēmu darbības atteice vai traucējumi var pārkāpt šādas kritiskās infrastruktūras drošību un integritāti vai plašā mērogā apdraudēt cilvēku veselību un dzīvību un izraisīt ievērojamus traucējumus sociālo un saimniecisko darbību parastajā norisē. Kritiskās infrastruktūras drošības sastāvdaļas, tostarp kritiskā digitālā infrastruktūra, ir sistēmas, ko izmanto, lai tieši aizsargātu fiziskās infrastruktūras fizisko integritāti vai cilvēku veselību un drošību un īpašumu. Šādu sastāvdaļu atteice vai darbības traucējumi var tieši radīt riskus kritiskās infrastruktūras fiziskajai integritātei un līdz ar to — riskus cilvēku veselībai un drošībai un mantas drošībai. Sastāvdaļas, ko paredzēts izmantot tikai kiberdrošības nolūkos, nebūtu uzskatāmas par drošības sastāvdaļām. Šādu drošības sastāvdaļu piemēri var būt sistēmas ūdens spiediena kontrolei vai ugunsgrēka signalizācijas sistēmas mākoņdatošanas centros.

(35)

Izglītībā un apmācībā izmantotās AI sistēmas, īpaši piekļuves noteikšanai vai personu uzņemšanai izglītības un arodmācību iestādēs, vai personu izvērtēšanai tādu pārbaudījumu ietvaros, kas ir daļa no izglītības procesa vai priekšnosacījums izglītības iegūšanai, būtu jāuzskata par augsta riska sistēmām , jo tās var noteikt izglītības vai profesionālo ievirzi personas dzīvē un tādējādi ietekmēt personas iespēju nopelnīt iztiku. Ja šādas sistēmas ir nepareizi projektētas un izmantotas, tās var pārkāpt tiesības uz izglītību un apmācību, kā arī tiesības uz nediskriminēšanu, un nostiprināt vēsturiskos diskriminācijas modeļus.

(35)

MI sistēmu ieviešana izglītībā ir svarīga, lai palīdzētu pilnībā modernizēt izglītības sistēmas, uzlabotu izglītības kvalitāti gan bezsaistē, gan tiešsaistē un paātrinātu digitālo izglītību, tādējādi padarot to pieejamu arī plašākai auditorijai. Izglītībā un apmācībā izmantotās MI sistēmas, īpaši piekļuves vai būtiskas ietekmes lēmumu par uzņemšanu noteikšanai vai personu uzņemšanai izglītības un arodmācību iestādēs, vai personu izvērtēšanai tādu pārbaudījumu ietvaros, kas ir daļa no izglītības procesa vai priekšnosacījums izglītības iegūšanai, vai indivīda atbilstošā izglītības līmeņa novērtēšanai un tās izglītības un apmācības līmeņa būtiskai ietekmēšanai, kuru indivīdi saņems vai kurai tiem būs piekļuve, vai studentu aizliegtas uzvedības uzraudzībai un atklāšanai testu laikā, būtu jāklasificē kā augsta riska MI sistēmas , jo tās var noteikt izglītības vai profesionālo ievirzi personas dzīvē un tādējādi ietekmēt personas iespēju nopelnīt iztiku. Ja šādas sistēmas ir nepareizi projektētas un izmantotas, tās var būt īpaši intruzīvas un pārkāpt tiesības uz izglītību un apmācību, kā arī tiesības uz nediskriminēšanu, un nostiprināt vēsturiskos diskriminācijas modeļus , piemēram, pret sievietēm, noteiktām vecuma grupām, personām ar invaliditāti vai personām ar noteiktu rases vai etnisko izcelsmi vai dzimumorientāciju .

(36)

AI sistēmas, kuras izmanto nodarbinātībā, darba ņēmēju pārvaldībā un piekļuvē pašnodarbinātībai, īpaši personu darbā līgšanas un atlases nolūkos , lēmumu pieņemšanā par paaugstināšanu amatā vai atlaišanu no darba, uzdevumu sadalē un darba līgumattiecībās esošu personu pārraudzībā vai izvērtēšanā, arī būtu jāklasificē kā augsta riska sistēmas, jo tās var ievērojami ietekmēt karjeras iespējas nākotnē un attiecīgo personu labklājību. Attiecīgajām darba līgumattiecībām būtu jāietver darba ņēmēji un personas, kuras sniedz pakalpojumus caur platformām, kā norādīts Komisijas darba programmā 2021. gadam. Šādas personas faktiski nebūtu jāuzskata par lietotājiem šīs regulas nozīmē. Darbā līgšanas procesa un izvērtēšanas, paaugstināšanas amatā vai darba līgumattiecību uzturēšanas ietvaros minētās sistēmas var nostiprināt vēsturiskos diskriminācijas modeļus, piemēram, attiecībā uz sievietēm, noteiktām vecuma grupām, invalīdiem vai personām ar noteiktu etnisko vai rasisko piederību vai dzimumorientāciju. AI sistēmas, ko izmanto šo personu snieguma un uzvedības pārraudzībai, var arī ietekmēt viņu tiesības uz datu aizsardzību un privātumu.

(36)

MI sistēmas, kuras izmanto nodarbinātībā, darba ņēmēju pārvaldībā un piekļuvē pašnodarbinātībai, īpaši personu darbā līgšanā un atlasē , lēmumu pieņemšanā vai būtiskā lēmumu par darba uzsākšanu, paaugstināšanu amatā vai atlaišanu no darba ietekmēšanā , personalizētu uzdevumu sadalē , pamatojoties uz personas uzvedību, iezīmēm vai biometriskajiem datiem, un darba līgumattiecībās esošu personu pārraudzībā vai izvērtēšanā, arī būtu jāklasificē kā augsta riska sistēmas, jo tās var ievērojami ietekmēt karjeras iespējas nākotnē, attiecīgo personu labklājību un darba ņēmēju tiesības . Attiecīgajām darba līgumattiecībām būtu jēgpilni jāietver darba ņēmēji un personas, kuras sniedz pakalpojumus caur platformām, kā norādīts Komisijas darba programmā 2021. gadam. Darbā līgšanas procesa un izvērtēšanas, paaugstināšanas amatā vai darba līgumattiecību uzturēšanas ietvaros minētās sistēmas var nostiprināt vēsturiskos diskriminācijas modeļus, piemēram, attiecībā uz sievietēm, noteiktām vecuma grupām, invalīdiem vai personām ar noteiktu etnisko vai rasisko piederību vai dzimumorientāciju. MI sistēmas, ko izmanto šo personu snieguma un uzvedības pārraudzībai, var arī apdraudēt viņu pamattiesību uz datu aizsardzību un privātumu būtību. Šo regulu piemēro, neskarot Savienības un dalībvalstu kompetenci paredzēt konkrētākus noteikumus MI sistēmu izmantošanai nodarbinātības jomā.

(37)

Cita joma, kurā AI sistēmu izmantošanai ir jāpievērš īpaša uzmanība, ir piekļuve noteiktiem privātiem un sabiedriskiem pamatpakalpojumiem un pabalstiem, kas cilvēkiem nepieciešami, lai viņi varētu pilnvērtīgi piedalīties sabiedrības norisēs vai uzlabot savu dzīves līmeni, un šādu pakalpojumu un pabalstu izmantošana. Tā, AI sistēmas, ko izmanto fizisku personu kredītnovērtējuma vai kredītspējas izvērtēšanai, būtu jāklasificē kā augsta riska AI sistēmas, jo tās nosaka minēto personu piekļuvi finanšu resursiem vai tādiem būtiskiem pakalpojumiem kā mājoklis, elektroenerģija un telesakaru pakalpojumi. Šim nolūkam izmantotās AI sistēmas var izraisīt personu vai grupu diskrimināciju un atkārtot vēsturiskos diskriminācijas modeļus, piemēram, pamatojoties uz rasisko vai etnisko izcelsmi, invaliditāti, vecumu vai dzimumorientāciju, vai radīt jaunas diskriminējošas ietekmes formas. Ņemot vērā ietekmes ļoti ierobežoto apmēru un tirgū pieejamās alternatīvas , ir lietderīgi noteikt izņēmumu attiecībā uz tām kredītspējas novērtēšanai un kredītnovērtējuma noteikšanai paredzētajām AI sistēmām, kuras pašu vajadzībām ekspluatācijā nodevuši mazapjoma sagādātāji . Fiziskas personas, kuras piesakās sociālās palīdzības pabalstiem un pakalpojumiem vai saņem tos no publiskā sektora iestādēm , parasti ir atkarīgas no šiem pabalstiem un pakalpojumiem un atrodas neaizsargātā pozīcijā attiecībā pret atbildīgajām iestādēm. Ja AI sistēmas izmanto, lai noteiktu, vai šādi pabalsti un pakalpojumi būtu jāatsaka, jāsamazina, jāatsauc vai jāatgūst, tām var būt ievērojama ietekme uz personu labklājību un tās var pārkāpt tādas personu pamattiesības kā tiesības uz sociālo aizsardzību, nediskriminēšanu, cilvēka cieņas neaizskaramību vai efektīvu tiesību aizsardzību. Tāpēc minētās sistēmas būtu jāklasificē kā augsta riska sistēmas. Tomēr šai regulai nevajadzētu kavēt inovatīvu pieeju izstrādi un izmantošanu valsts pārvaldē, kas gūtu labumu no prasībām atbilstošu un drošu AI sistēmu plašākas izmantošanas ar nosacījumu, ka minētās sistēmas nerada augstu risku fiziskām un juridiskām personām. Visbeidzot, AI sistēmas, ko izmanto ārkārtas pirmās reaģēšanas dienestu nosūtīšanai vai šo dienestu nosūtīšanas prioritāšu noteikšanai, arī būtu jāklasificē kā augsta riska sistēmas, jo tās pieņem lēmumus personu veselībai un dzīvībai un to īpašumam izšķirīgi svarīgās situācijās.

(37)

Cita joma, kurā MI sistēmu izmantošanai ir jāpievērš īpaša uzmanība, ir piekļuve noteiktiem privātiem un sabiedriskiem pamatpakalpojumiem , tostarp veselības aprūpei, un būtiskiem pakalpojumiem, tostarp, bet ne tikai mājokļiem, elektroenerģijai, siltumapgādei/aukstumapgādei un internetam, un pabalstiem, kas cilvēkiem nepieciešami, lai viņi varētu pilnvērtīgi piedalīties sabiedrības norisēs vai uzlabot savu dzīves līmeni, un šādu pakalpojumu un pabalstu izmantošana. Tā, MI sistēmas, ko izmanto fizisku personu kredītnovērtējuma vai kredītspējas izvērtēšanai, būtu jāklasificē kā augsta riska MI sistēmas, jo tās nosaka minēto personu piekļuvi finanšu resursiem vai tādiem būtiskiem pakalpojumiem kā mājoklis, elektroenerģija un telesakaru pakalpojumi. Šim nolūkam izmantotās MI sistēmas var izraisīt personu vai grupu diskrimināciju un atkārtot vēsturiskos diskriminācijas modeļus, piemēram, pamatojoties uz rasisko vai etnisko izcelsmi, dzimumu, invaliditāti, vecumu vai dzimumorientāciju, vai radīt jaunas diskriminējošas ietekmes formas. Tomēr MI sistēmas, kas paredzētas Savienības tiesību aktos, lai atklātu krāpšanu finanšu pakalpojumu piedāvāšanā, saskaņā ar šo regulu nebūtu jāuzskata par augsta riska sistēmām. Fiziskas personas, kuras piesakās publiskā sektora iestādēs sociālās palīdzības pabalstiem un pakalpojumiem , tostarp veselības aprūpei, un būtiskiem pakalpojumiem, ieskaitot, bet ne tikai mājokļiem, elektroenerģijai, siltumapgādei/aukstumapgādei un internetam, vai saņem tos , parasti ir atkarīgas no šiem pabalstiem un pakalpojumiem un atrodas neaizsargātā pozīcijā attiecībā pret atbildīgajām iestādēm. Ja MI sistēmas izmanto, lai noteiktu, vai šādi pabalsti un pakalpojumi būtu jāatsaka, jāsamazina, jāatsauc vai jāatgūst, tām var būt ievērojama ietekme uz personu labklājību un tās var pārkāpt tādas personu pamattiesības kā tiesības uz sociālo aizsardzību, nediskriminēšanu, cilvēka cieņas neaizskaramību vai efektīvu tiesību aizsardzību. Tāpat MI sistēmas, ko paredzēts izmantot, lai pieņemtu lēmumus vai būtiski ietekmētu lēmumus par fizisku personu atbilstību veselības un dzīvības apdrošināšanai, arī var būtiski ietekmēt personu iztikas līdzekļus un var pārkāpt viņu pamattiesības, piemēram, ierobežojot piekļuvi veselības aprūpei vai turpinot diskrimināciju personisku iezīmju dēļ. Tāpēc minētās sistēmas būtu jāklasificē kā augsta riska sistēmas. Tomēr šai regulai nevajadzētu kavēt inovatīvu pieeju izstrādi un izmantošanu valsts pārvaldē, kas gūtu labumu no prasībām atbilstošu un drošu MI sistēmu plašākas izmantošanas ar nosacījumu, ka minētās sistēmas nerada augstu risku fiziskām un juridiskām personām. Visbeidzot, MI sistēmas, ko izmanto fizisku personu ārkārtas palīdzības izsaukumu novērtēšanai un klasificēšanai, pirmās reaģēšanas dienestu nosūtīšanai vai šo dienestu nosūtīšanas prioritāšu noteikšanai, arī būtu jāklasificē kā augsta riska sistēmas, jo tās pieņem lēmumus personu veselībai un dzīvībai un to īpašumam izšķirīgi svarīgās situācijās.

(37a)

Ņemot vērā policijas un tiesu iestāžu lomu un atbildību, kā arī to lēmumu ietekmi, kurus tās pieņem, lai nepieļautu, izmeklētu un atklātu noziedzīgus nodarījumus vai sauktu pie atbildības par tiem, vai izpildītu kriminālsodus, uzskata, ka jo īpaši gadījumos, kad ir iespēja būtiski ietekmēt cilvēka dzīvi vai pamattiesības, daži MI lietojumu izmantošanas gadījumi tiesībaizsardzībā ir jāklasificē kā augsta riska darbība.

(38)

Tiesībaizsardzības iestāžu darbībām, kuras ietver noteiktus AI sistēmu izmantošanas veidus, ir raksturīga ievērojama varas nelīdzsvarotības pakāpe, un to rezultāts var būt novērošana, aizturēšana vai fiziskas personas brīvības atņemšana, kā arī cita veida nelabvēlīga ietekme uz Pamattiesību hartā nostiprinātajām pamattiesībām. Proti, ja AI sistēma nav apmācīta ar augstas kvalitātes datiem, neatbilst precizitātes vai noturības prasībām vai nav pienācīgi projektēta un testēta pirms laišanas tirgū vai citādas nodošanas ekspluatācijā, tā var norādīt uz cilvēkiem diskriminējošā vai kā citādi nekorektā vai netaisnīgā veidā. Bez tam var tikt traucēta būtisku procesuālo pamattiesību, piemēram, tiesību uz efektīvu tiesību aizsardzību un taisnīgu tiesu, kā arī tiesību uz aizstāvību un nevainīguma prezumpcijas, īstenošana, it īpaši, ja minētās AI sistēmas nav pietiekami pārredzamas, izskaidrojamas un dokumentētas. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas vairākas AI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības kontekstā, kurā precizitāte, uzticamība un pārredzamība ir īpaši svarīga, lai novērstu kaitējošu ietekmi, saglabātu sabiedrības uzticēšanos un nodrošinātu pārskatatbildību un efektīvu tiesisko aizsardzību. Ņemot vērā attiecīgo darbību raksturu un ar tām saistītos riskus, pie minētajām augsta riska AI sistēmām būtu galvenokārt jāpieskaita AI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības iestādēs individuālam riska novērtējumam , melu detektoros un līdzīgos rīkos fiziskas personas emocionālā stāvokļa noteikšanai , “dziļviltojumu” konstatēšanai , pierādījumu uzticamības izvērtēšanai kriminālprocesa ietvaros, faktiska vai potenciāla noziedzīga nodarījuma izdarīšanas vai atkārtotas izdarīšanas prognozēšanai , pamatojoties uz fizisku personu profilēšanu vai novērtējot fizisku personu vai grupu personiskās īpašības un rakstura iezīmes vai iepriekšēju noziedzīgu rīcību , profilēšanai noziedzīgu nodarījumu atklāšanas, izmeklēšanas vai kriminālvajāšanas gaitā, kā arī noziegumu analīzei attiecībā uz fiziskām personām. AI sistēmas, kuras īpaši paredzētas izmantošanai administratīvajā procesā nodokļu un muitas iestādēs, nebūtu jāuzskata par augsta riska AI sistēmām , ko tiesībaizsardzības iestādes izmanto noziedzīgu nodarījumu novēršanai, atklāšanai, izmeklēšanai un kriminālvajāšanai par tiem.

(38)

Tiesībaizsardzības iestāžu darbībām, kuras ietver noteiktus MI sistēmu izmantošanas veidus, ir raksturīga ievērojama varas nelīdzsvarotības pakāpe, un to rezultāts var būt novērošana, aizturēšana vai fiziskas personas brīvības atņemšana, kā arī cita veida nelabvēlīga ietekme uz Hartā nostiprinātajām pamattiesībām. Proti, ja MI sistēma nav apmācīta ar augstas kvalitātes datiem, neatbilst tās veiktspējas, precizitātes vai noturības prasībām vai nav pienācīgi projektēta un testēta pirms laišanas tirgū vai citādas nodošanas ekspluatācijā, tā var norādīt uz cilvēkiem diskriminējošā vai kā citādi nekorektā vai netaisnīgā veidā. Turklāt var tikt traucēta būtisku procesuālo pamattiesību, piemēram, tiesību uz efektīvu tiesību aizsardzību un taisnīgu tiesu, kā arī tiesību uz aizstāvību un nevainīguma prezumpcijas, īstenošana, it īpaši, ja minētās MI sistēmas nav pietiekami pārredzamas, izskaidrojamas un dokumentētas. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas vairākas MI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības kontekstā, kurā precizitāte, uzticamība un pārredzamība ir īpaši svarīga, lai novērstu kaitējošu ietekmi, saglabātu sabiedrības uzticēšanos un nodrošinātu pārskatatbildību un efektīvu tiesisko aizsardzību. Ņemot vērā attiecīgo darbību raksturu un ar tām saistītos riskus, pie minētajām augsta riska MI sistēmām būtu galvenokārt jāpieskaita MI sistēmas, kas paredzētas izmantošanai tiesībaizsardzības iestādēs vai to vārdā , vai Savienības aģentūrās, birojos vai struktūrās, kas atbalsta tiesībaizsardzības iestādes , piemēram , melu detektorus un līdzīgus rīkus tiktāl , ciktāl to izmantošana ir atļauta saskaņā ar attiecīgajiem Savienības un dalībvalstu tiesību aktiem, pierādījumu uzticamības izvērtēšanai kriminālprocesā , profilēšanai noziedzīgu nodarījumu atklāšanas, izmeklēšanas vai kriminālvajāšanas gaitā, kā arī noziegumu analīzei attiecībā uz fiziskām personām. MI sistēmas, kuras īpaši paredzētas izmantošanai administratīvajā procesā nodokļu un muitas iestādēs, nebūtu jāklasificē kā augsta riska MI sistēmas , ko tiesībaizsardzības iestādes izmanto noziedzīgu nodarījumu novēršanai, atklāšanai, izmeklēšanai un kriminālvajāšanai par tiem. MI rīku izmantošanai tiesībaizsardzības un tiesu iestādēs nevajadzētu kļūt par nevienlīdzības, sociāla lūzuma vai atstumtības faktoru. MI rīku izmantošanas ietekmi uz aizdomās turēto personu tiesībām uz aizstāvību nevajadzētu ignorēt, īpaši grūtības iegūt jēgpilnu informāciju par to darbību un no tās izrietošās grūtības apstrīdēt to rezultātus tiesā, jo īpaši cilvēkiem, kuri pakļauti izmeklēšanai.

(39)

Migrācijas un patvēruma jomā un robežkontroles pārvaldībā izmantotās AI sistēmas ietekmē cilvēkus, kuri bieži ir īpaši neaizsargātā pozīcijā un ir atkarīgi no kompetento publiskā sektora iestāžu darbības rezultāta. Tāpēc minētajos kontekstos izmantoto AI sistēmu precizitāte, nediskriminējošais raksturs un pārredzamība ir īpaši svarīga skarto personu pamattiesību ievērošanas garantēšanai, proti, viņu tiesību brīvi pārvietoties, tiesību uz nediskrimināciju, privātuma un persondatu aizsardzību, starptautisko aizsardzību un labu pārvaldību īstenošanai. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas tās AI sistēmas, ko kompetentajās publiskā sektora iestādēs , kurām uzticēti pienākumi migrācijas, patvēruma un robežkontroles pārvaldības jomā, paredzēts izmantot kā melu detektorus un līdzīgus rīkus vai nolūkā noteikt fiziskas personas emocionālo stāvokli; novērtēt noteiktus riskus, kurus rada fiziskas personas, kas ieceļo dalībvalsts teritorijā vai piesakās vīzai vai patvērumam ; pārbaudīt fizisku personu attiecīgo dokumentu autentiskumu; sniegt palīdzību kompetentām publiskā sektora iestādēm patvēruma, vīzu un uzturēšanās atļauju pieteikumu un saistīto sūdzību izskatīšanā ar mērķi noteikt fizisku personu, kuras iesniegušas pieteikumu noteikta statusa iegūšanai, atbilstību kritērijiem. AI sistēmām migrācijas, patvēruma un robežkontroles pārvaldības jomā, uz kurām attiecas šī regula, būtu jāatbilst attiecīgajām procesuālajām prasībām, kas noteiktas Eiropas Parlamenta un Padomes Direktīvā 2013/32/ES (49), Eiropas Parlamenta un Padomes Regulā (EK) Nr. 810/2009 (50) un citos attiecīgajos tiesību aktos.

(39)

Migrācijas un patvēruma jomā un robežkontroles pārvaldībā izmantotās MI sistēmas ietekmē cilvēkus, kuri bieži ir īpaši neaizsargātā pozīcijā un ir atkarīgi no kompetento publiskā sektora iestāžu darbības rezultāta. Tāpēc minētajos kontekstos izmantoto MI sistēmu precizitāte, nediskriminējošais raksturs un pārredzamība ir īpaši svarīga skarto personu pamattiesību ievērošanas garantēšanai, proti, viņu tiesību brīvi pārvietoties, tiesību uz nediskrimināciju, privātuma un persondatu aizsardzību, starptautisko aizsardzību un labu pārvaldību īstenošanai. Tāpēc ir lietderīgi klasificēt kā augsta riska sistēmas tās MI sistēmas, ko kompetentās publiskās iestādēs vai Savienības aģentūrās, birojos vai struktūrās , kurām uzticēti uzdevumi migrācijas, patvēruma un robežkontroles pārvaldības jomā, vai to vārdā, paredzēts izmantot kā poligrāfus un līdzīgus rīkus , ciktāl to izmantošana ir atļauta saskaņā ar attiecīgajiem Savienības un dalībvalstu tiesību aktiem, vai nolūkā novērtēt konkrētus riskus, ko rada fiziskas personas, kuras ieceļo dalībvalsts teritorijā vai iesniedz vīzas vai patvēruma pieteikumu ; pārbaudīt fizisku personu attiecīgo dokumentu autentiskumu; sniegt palīdzību kompetentajām publiskā sektora iestādēm patvēruma, vīzu un uzturēšanās atļauju pieteikumu un saistīto sūdzību izskatīšanā un pierādījumu patiesuma novērtēšanā ar mērķi noteikt fizisku personu, kuras iesniegušas pieteikumu noteikta statusa iegūšanai, atbilstību kritērijiem ; uzraudzīt, novērot vai apstrādāt persondatus saistībā ar robežu pārvaldības darbībām nolūkā atklāt, atpazīt vai identificēt fiziskas personas; prognozēt vai paredzēt tendences, kas saistītas ar migrācijas kustību un robežu šķērsošanu . MI sistēmām migrācijas, patvēruma un robežkontroles pārvaldības jomā, uz kurām attiecas šī regula, būtu jāatbilst attiecīgajām procesuālajām prasībām, kas noteiktas Eiropas Parlamenta un Padomes Direktīvā 2013/32/ES (49), Eiropas Parlamenta un Padomes Regulā (EK) Nr. 810/2009 (50) un citos attiecīgajos tiesību aktos. Dalībvalstis vai Savienības iestādes, aģentūras vai struktūras nekādā gadījumā nedrīkst izmantot MI sistēmas migrācijas, patvēruma un robežkontroles pārvaldībā kā līdzekli, lai apietu to starptautiskās saistības saskaņā ar 1951. gada 28. jūlija Konvenciju par bēgļu statusu, kas grozīta ar 1967. gada 31. janvāra protokolu, kā arī nedrīkst izmantot tās, lai pārkāptu neizraidīšanas principu vai liegtu drošas un efektīvas likumīgas iespējas iekļūt Savienības teritorijā, tostarp tiesības uz starptautisko aizsardzību.

(40)

Dažas AI sistēmas, kas paredzētas izmantošanai tiesvedībā un demokrātiskajos procesos, būtu jāklasificē kā augsta riska sistēmas, ņemot vērā to potenciāli ievērojamo ietekmi uz demokrātiju, tiesiskumu, individuālajām brīvībām, kā arī tiesībām uz efektīvu tiesību aizsardzību un taisnīgu tiesu. Proti, lai mazinātu potenciālu neobjektivitātes, kļūdu un nepārredzamības risku, ir lietderīgi uzskatīt par augsta riska sistēmām tās AI sistēmas, kuru mērķis ir palīdzēt tiesu iestādēm faktu un tiesību normu izpētē un interpretēšanā un tiesību normu piemērošanā konkrētam faktu kopumam. Tomēr šāda klasifikācija nebūtu jāattiecina uz AI sistēmām, kuras paredzētas tikai tādu administratīvu papilddarbību veikšanai, kam nav ietekmes uz faktisko tiesvedību atsevišķās lietās, piemēram, tiesas nolēmumu, dokumentu vai datu anonimizācijai vai pseidonimizācijai, saziņai starp darbiniekiem, administratīvu uzdevumu veikšanai vai resursu sadalei.

(40)

Dažas MI sistēmas, kas paredzētas izmantošanai tiesvedībā un demokrātiskajos procesos, būtu jāklasificē kā augsta riska sistēmas, ņemot vērā to potenciāli ievērojamo ietekmi uz demokrātiju, tiesiskumu, individuālajām brīvībām, kā arī tiesībām uz efektīvu tiesību aizsardzību un taisnīgu tiesu. Proti, lai mazinātu potenciālu neobjektivitātes, kļūdu un nepārredzamības risku, ir lietderīgi uzskatīt par augsta riska sistēmām tās MI sistēmas, kuras ir paredzēts izmantot tiesu iestādē vai administratīvā struktūrā vai to vārdā nolūkā palīdzēt tiesu iestādēm vai administratīvām struktūrām faktu un tiesību normu izpētē un interpretēšanā un tiesību normu piemērošanā konkrētam faktu kopumam vai izmantot līdzīgā veidā strīdu izšķiršanā ārpustiesas kārtībā. Mākslīgā intelekta rīku izmantošana var atbalstīt, bet tai nevajadzētu aizstāt tiesnešu vai tiesu iestāžu neatkarības lēmumu pieņemšanas pilnvarās, jo galīgajai lēmumu pieņemšanai jāpaliek cilvēka virzītai darbībai un lēmumam . Tomēr šāda klasifikācija nebūtu jāattiecina uz MI sistēmām, kuras paredzētas tikai tādu administratīvu papilddarbību veikšanai, kam nav ietekmes uz faktisko tiesvedību atsevišķās lietās, piemēram, tiesas nolēmumu, dokumentu vai datu anonimizācijai vai pseidonimizācijai, saziņai starp darbiniekiem, administratīvu uzdevumu veikšanai vai resursu sadalei.

(40a)

Lai novērstu riskus, kas saistīti ar nepamatotu ārēju iejaukšanos Hartas 39. pantā nostiprinātajās tiesībās balsot un nesamērīgu ietekmi uz demokrātiskajiem procesiem, demokrātiju un tiesiskumu, MI sistēmas, ko paredzēts izmantot, lai ietekmētu vēlēšanu vai referenduma rezultātus vai fizisku personu balsošanas uzvedību, kad tās piedalās vēlēšanās vai referendumos, būtu jāklasificē kā augsta riska MI sistēmas, izņemot MI sistēmas, kuru iznākuma fiziskas personas nav tieši pakļautas to ietekmei, piemēram, rīki, ko izmanto, lai organizētu, optimizētu un strukturētu politiskās kampaņas no administratīvā un loģistikas viedokļa.

(40b)

Ņemot vērā to fizisko personu amplitūdu, kuras izmanto pakalpojumus, ko sniedz sociālo mediju platformas, kuras noteiktas kā ļoti lielas tiešsaistes platformas, šādas tiešsaistes platformas var izmantot tādā veidā, kas spēcīgi ietekmē drošību tiešsaistē, sabiedriskās domas un diskursa veidošanu, vēlēšanas un demokrātiskos procesus un sabiedrības bažas. Tāpēc ir lietderīgi, ka MI sistēmām, ko minētās tiešsaistes platformas izmanto savās ieteikumu sistēmās, piemēro šo regulu, lai nodrošinātu, ka MI sistēmas atbilst šajā regulā noteiktajām prasībām, tostarp tehniskajām prasībām par datu pārvaldību, tehnisko dokumentāciju un izsekojamību, pārredzamību, cilvēka veiktu pārraudzību, precizitāti un noturību. Atbilstībai šai regulai būtu jāļauj šādām ļoti lielām tiešsaistes platformām izpildīt plašākus riska novērtēšanas un riska mazināšanas pienākumus, kas noteikti Regulas (ES) 2022/2065 34. un 35. pantā. Šajā regulā noteiktie pienākumi neskar Regulu (ES) 2022/2065, un tiem būtu jāpapildina Regulā (ES) 2022/2065 noteiktie pienākumi, kad sociālo mediju platforma ir noteikta par ļoti lielu tiešsaistes platformu. Ņemot vērā sociālo mediju platformu, kas noteiktas kā ļoti lielas tiešsaistes platformas, ietekmi visā Eiropā, iestādēm, kas izraudzītas saskaņā ar Regulu (ES) 2022/2065, šā noteikuma izpildes nolūkā būtu jārīkojas kā izpildiestādēm.

(41)

Fakts, ka AI sistēma saskaņā ar šo regulu ir klasificēta kā augsta riska sistēma, nebūtu jāinterpretē kā norāde, ka sistēmas izmantošana obligāti ir likumīga citu Savienības tiesību aktu vai ar tiem saderīgu valsts tiesību aktu ietvaros, piemēram, attiecībā uz persondatu aizsardzību , melu detektoru un tamlīdzīgu rīku vai citu sistēmu izmantošanu fizisku personu emocionālā stāvokļa noteikšanai . Tāda izmantošana būtu jāturpina tikai saskaņā ar piemērojamajām prasībām, kas izriet no Pamattiesību hartas un attiecīgajiem Savienības sekundārajiem tiesību aktiem un dalībvalstu tiesību aktiem. Nebūtu jāuzskata, ka šī regula nodrošina juridisko pamatu persondatu apstrādei, attiecīgā gadījumā ieskaitot īpašu kategoriju persondatus.

(41)

Fakts, ka MI sistēma saskaņā ar šo regulu ir klasificēta kā augsta riska MI sistēma, nebūtu jāinterpretē kā norāde, ka sistēmas izmantošana obligāti ir likumīga vai nelikumīga citu Savienības tiesību aktu vai ar tiem saderīgu valsts tiesību aktu ietvaros, piemēram, attiecībā uz persondatu aizsardzību. Tāda izmantošana būtu jāturpina tikai saskaņā ar piemērojamajām prasībām, kas izriet no Pamattiesību hartas un attiecīgajiem Savienības sekundārajiem tiesību aktiem un dalībvalstu tiesību aktiem.

(41a)

Pašreiz vairāki juridiski saistoši noteikumi Eiropas, valstu un starptautiskā līmenī jau tiek piemēroti vai attiecas uz MI sistēmām, tostarp, bet ne tikai, ES primārie tiesību akti (Eiropas Savienības līgumi un tās Pamattiesību harta), ES sekundārie tiesību akti (piemēram, Vispārīgā datu aizsardzības regula, Produktatbildības direktīva, Regula par nepersondatu brīvu apriti, direktīvas par diskriminācijas novēršanu, patērētāju tiesības un darba drošības un veselības aizsardzības direktīvas), ANO cilvēktiesību līgumi un Eiropas Padomes konvencijas (piemēram, Eiropas Cilvēktiesību konvencija) un valstu tiesību akti. Līdztekus horizontāli piemērojamiem noteikumiem ir dažādi konkrētām jomām paredzēti noteikumi, kas attiecas uz konkrētiem MI lietojumiem (piemēram, Medicīnisko ierīču regula veselības aprūpes nozarē).

(42)

Lai mazinātu Savienības tirgū laisto vai citādi ekspluatācijā nodoto augsta riska AI sistēmu radītos riskus lietotājiem un skartajām personām, būtu jāpiemēro dažas obligātas prasības, ņemot vērā paredzēto sistēmas izmantošanas nolūku un saskaņā ar riska pārvaldības sistēmu, kura sagādātājam jāizveido.

(42)

Lai mazinātu Savienības tirgū laisto vai citādi ekspluatācijā nodoto augsta riska MI sistēmu radītos riskus ieviesējiem un skartajām personām, būtu jāpiemēro dažas obligātas prasības, ņemot vērā paredzēto sistēmas nolūku un pamatoti paredzamo nepareizu lietošanu un saskaņā ar riska pārvaldības sistēmu, kura sagādātājam jāizveido. Šīm prasībām jābūt objektīvām, piemērotām mērķim, saprātīgām un efektīvām, nepievienojot nevajadzīgu regulatīvo slogu vai izmaksas operatoriem.

(43)

Prasībām būtu jāattiecas uz augsta riska AI sistēmām saistībā ar izmantoto datu kopu kvalitāti, tehnisko dokumentāciju un uzskaiti, pārredzamību un informācijas sniegšanu lietotājiem , cilvēka virsvadību un noturību, precizitāti un kiberdrošību. Minētās prasības ir nepieciešamas, lai efektīvi mazinātu riskus veselībai, drošībai un pamattiesībām, tās ir piemērojamas, ņemot vērā sistēmas paredzēto nolūku, un citi tirdzniecību mazāk ierobežojoši pasākumi nav pienācīgi pieejami, tādējādi netiek radīti nepamatoti tirdzniecības ierobežojumi.

(43)

Prasībām būtu jāattiecas uz augsta riska MI sistēmām saistībā ar izmantoto datu kopu kvalitāti un nozīmīgumu , tehnisko dokumentāciju un uzskaiti, pārredzamību un informācijas sniegšanu ieviesējiem , cilvēka virsvadību un noturību, precizitāti un kiberdrošību. Minētās prasības ir nepieciešamas, lai efektīvi mazinātu riskus veselībai, drošībai un pamattiesībām, kā arī videi, demokrātijai un tiesiskumam, tās ir piemērojamas, ņemot vērā sistēmas paredzēto nolūku vai pamatoti paredzamu nepareizu lietošanu

(44)

Augsta datu kvalitāte ir nepieciešama daudzu AI sistēmu veiktspējai , it īpaši, ja tiek izmantotas metodes, kas ietver modeļu apmācīšanu, ar mērķi nodrošināt, ka augsta riska AI sistēma darbojas, kā paredzēts, un droši un tā nekļūst par Savienības tiesību aktos aizliegtas diskriminācijas avotu. Augstas kvalitātes apmācības, validēšanas un testēšanas datu kopām ir svarīga atbilstošas datu pārvaldes un pārvaldības īstenošana. Apmācības, validēšanas un testēšanas datu kopām vajadzētu būt pietiekami atbilstošām, reprezentatīvām, bez kļūdām un pilnīgām, ņemot vērā sistēmas paredzēto nolūku. Tām vajadzētu piemist arī atbilstošiem statistiskajiem raksturlielumiem, arī attiecībā uz personām vai personu grupām, ar kurām paredzēts izmantot konkrēto augsta riska AI sistēmu. Proti, apmācības, validēšanas un testēšanas datu kopās apmērā, ko nosaka to paredzētais nolūks, vajadzētu ņemt vērā iezīmes, raksturlielumus vai elementus, kas raksturīgi konkrētajai ģeogrāfiskajai, uzvedības vai funkcionālajai videi vai kontekstam, kurā paredzēts izmantot AI sistēmu. Lai citu tiesības aizsargātu pret diskrimināciju, kas varētu izrietēt no AI sistēmu neobjektivitātes, sagādātājiem būtu jāvar apstrādāt arī īpašu kategoriju persondatus svarīgās vispārības interesēs ar mērķi nodrošināt neobjektivitātes uzraudzību, atklāšanu un korekciju augsta riska AI sistēmās.

(44)

Piekļuve augstas kvalitātes datiem ir būtiska struktūras veidošanai un daudzu MI sistēmu veiktspējas nodrošināšanai , it īpaši, ja tiek izmantotas metodes, kas ietver modeļu apmācīšanu, ar mērķi nodrošināt, ka augsta riska MI sistēma darbojas, kā paredzēts, un droši un tā nekļūst par Savienības tiesību aktos aizliegtas diskriminācijas avotu. Augstas kvalitātes apmācības, validēšanas un testēšanas datu kopām ir svarīga atbilstošas datu pārvaldes un pārvaldības īstenošana. Apmācības un attiecīgā gadījumā validēšanas un testēšanas datu kopām , tostarp marķējumiem, vajadzētu būt pietiekami atbilstošām, reprezentatīvām, pienācīgi pārbaudītām attiecībā uz kļūdām un iespējami pilnīgām, ņemot vērā sistēmas paredzēto nolūku. Tām vajadzētu piemist arī atbilstošiem statistiskajiem raksturlielumiem, arī attiecībā uz personām vai personu grupām, uz kurām paredzēts izmantot konkrēto augsta riska MI sistēmu , īpašu uzmanību pievēršot iespējamās neobjektivitātes mazināšanai datu kopās, kas varētu radīt riskus pamattiesībām vai diskriminējošus rezultātus personām, kuras skar augsta riska MI sistēma. Neobjektivitāte var, piemēram, būt raksturīga pamatā esošajām datu kopām (īpaši tad, ja tiek izmantoti vēsturiski dati), algoritmu izstrādātāju ieviesta vai radīta tad, kad sistēmas tiek izmantotas reālās pasaules apstākļos. MI sistēmu sniegtos rezultātus ietekmē šāda raksturīga neobjektivitāte, kas tiecas pakāpeniski palielināties un tādējādi turpināt un pastiprināt esošo diskrimināciju, jo īpaši attiecībā uz personām, kas pieder pie konkrētām neaizsargātām vai etniskām grupām vai rasu diskriminācijai pakļautām kopienām. Proti, apmācības, validēšanas un testēšanas datu kopās apmērā, ko nosaka to paredzētais nolūks, vajadzētu ņemt vērā iezīmes, raksturlielumus vai elementus, kas raksturīgi konkrētajai ģeogrāfiskajai, kontekstuālajai, uzvedības vai funkcionālajai videi vai kontekstam, kurā paredzēts izmantot MI sistēmu. Lai citu tiesības aizsargātu pret diskrimināciju, kas varētu izrietēt no MI sistēmu neobjektivitātes, sagādātājiem būtu izņēmuma kārtā un saskaņā ar visu to spēkā esošo nosacījumu piemērošanu, kas noteikti šajā regulā un Regulā (ES) 2016/679, Direktīvā (ES) 2016/680 un Regulā (ES) 2018/1725, jāvar apstrādāt arī īpašu kategoriju persondatus svarīgās vispārības interesēs ar mērķi nodrošināt neobjektivitātes uzraudzību, atklāšanu un korekciju augsta riska MI sistēmās. Negatīva neobjektivitāte būtu jāsaprot kā neobjektivitāte, kas rada tiešu vai netiešu diskriminējošu ietekmi uz fizisku personu. Ar datu pārvaldību saistītās prasības var izpildīt, vēršoties pie trešām personām, kas piedāvā sertificētus atbilstības nodrošināšanas pakalpojumus, tostarp datu pārvaldības, datu kopas integritātes un datu apmācības, validēšanas un testēšanas prakses verifikāciju.

(45)

Augsta riska AI sistēmu izstrādes nolūkā noteiktiem dalībniekiem, piemēram, sagādātājiem, pieteiktajām struktūrām un citām attiecīgajām struktūrām, piemēram, digitālās inovācijas centriem, testēšanas un eksperimentēšanas struktūrām un pētniekiem, jāvar piekļūt augstas kvalitātes datu kopām un izmantot tās savās attiecīgajās darbības jomās, kas ir saistītas ar šo regulu. Komisijas izveidotās Eiropas vienotās datu telpas un datu kopīgošanas atvieglošana uzņēmumu starpā un ar valdības iestādēm vispārības interešu labā būs ļoti būtiska, lai nodrošinātu uzticēšanos raisošu, pārskatāmu un nediskriminējošu piekļuvi augstas kvalitātes datiem AI sistēmu apmācībai, validēšanai un testēšanai. Piemēram, veselības jomā Eiropas veselības datu telpa veicinās nediskriminējošu piekļuvi veselības jomas datiem un mākslīgā intelekta algoritmu apmācībai šajās datu kopās privātumu saglabājošā, drošā, laicīgā, pārredzamā un uzticamā veidā ar pienācīgu iestāžu pārvaldi. Arī attiecīgās kompetentās iestādes, ieskaitot nozaru iestādes, nodrošinot vai atbalstot piekļuvi datiem, var atbalstīt augstas kvalitātes datu piegādāšanu AI sistēmu apmācībai, validēšanai un testēšanai.

(45)

Augsta riska MI sistēmu izstrādes un novērtēšanas nolūkā noteiktiem dalībniekiem, piemēram, sagādātājiem, pieteiktajām struktūrām un citām attiecīgajām struktūrām, piemēram, digitālās inovācijas centriem, testēšanas un eksperimentēšanas struktūrām un pētniekiem, jāvar piekļūt augstas kvalitātes datu kopām un izmantot tās savās attiecīgajās darbības jomās, kas ir saistītas ar šo regulu. Komisijas izveidotās Eiropas vienotās datu telpas un datu kopīgošanas atvieglošana uzņēmumu starpā un ar valdības iestādēm vispārības interešu labā būs ļoti būtiska, lai nodrošinātu uzticēšanos raisošu, pārskatāmu un nediskriminējošu piekļuvi augstas kvalitātes datiem MI sistēmu apmācībai, validēšanai un testēšanai. Piemēram, veselības jomā Eiropas veselības datu telpa veicinās nediskriminējošu piekļuvi veselības jomas datiem un mākslīgā intelekta algoritmu apmācībai šajās datu kopās privātumu saglabājošā, drošā, laicīgā, pārredzamā un uzticamā veidā ar pienācīgu iestāžu pārvaldi. Arī attiecīgās kompetentās iestādes, ieskaitot nozaru iestādes, nodrošinot vai atbalstot piekļuvi datiem, var atbalstīt augstas kvalitātes datu piegādāšanu MI sistēmu apmācībai, validēšanai un testēšanai.

(45a)

Tiesības uz privātumu un persondatu aizsardzību ir jāgarantē visā MI sistēmas darbmūžā. Šajā sakarā datu minimizēšanas, integrētas datu aizsardzības un datu aizsardzības pēc noklusējuma principi, kā noteikts Savienības datu aizsardzības tiesību aktos, ir ārkārtīgi svarīgi, kad datu apstrāde rada būtiskus riskus personu pamattiesībām. MI sistēmu sagādātājiem un lietotājiem būtu jāīsteno mūsdienīgi tehniskie un organizatoriskie pasākumi, lai aizsargātu šīs tiesības. Šādiem pasākumiem būtu jāietver ne tikai anonimizācija un šifrēšana, bet arī arvien pieejamākas tehnoloģijas izmantošana, kas ļauj algoritmus piemērot datiem un ļauj gūt vērtīgu ieskatu, nepārsūtot starp pusēm vai lieki nekopējot pašus neapstrādātos vai strukturētos datus.

(46)

Informācija par to, kā izstrādātas augsta riska AI sistēmas un kā tās darbojas to darbmūžā , ir ļoti būtiska, lai pārbaudītu atbilstību šajā regulā noteiktajām prasībām. Tam nepieciešama uzskaite un tādas tehniskās dokumentācijas pieejamība, kura satur informāciju, kas nepieciešama, lai novērtētu AI sistēmas atbilstību attiecīgajām prasībām. Šādai informācijai būtu jāietver ziņas par sistēmas vispārīgajiem raksturlielumiem, spējām un ierobežojumiem, algoritmiem, datiem, apmācību, izmantotajiem testēšanas un validēšanas procesiem, kā arī attiecīgās riska pārvaldības sistēmas dokumentācija. Tehniskā dokumentācija būtu pastāvīgi jāaktualizē.

(46)

Saprotama informācija par to, kā izstrādātas augsta riska MI sistēmas un kā tās darbojas to izmantošanas laikā , ir ļoti būtiska, lai pārbaudītu atbilstību šajā regulā noteiktajām prasībām. Tam nepieciešama uzskaite un tādas tehniskās dokumentācijas pieejamība, kura satur informāciju, kas nepieciešama, lai novērtētu MI sistēmas atbilstību attiecīgajām prasībām. Šādai informācijai būtu jāietver ziņas par sistēmas vispārīgajiem raksturlielumiem, spējām un ierobežojumiem, algoritmiem, datiem, apmācību, izmantotajiem testēšanas un validēšanas procesiem, kā arī attiecīgās riska pārvaldības sistēmas dokumentācija. Tehniskā dokumentācija būtu pienācīgi jāaktualizē visā MI sistēmas darbmūžā . MI sistēmām var būt būtiska ietekme uz vidi un liels enerģijas patēriņš to darbmūža laikā. Lai labāk izprastu MI sistēmu ietekmi uz vidi, sagādātāju sagatavotajā tehniskajā dokumentācijā būtu jāiekļauj informācija par MI sistēmas enerģijas patēriņu, tostarp patēriņu izstrādes laikā un paredzamo patēriņu izmantošanas laikā. Šādā informācijā būtu jāņem vērā attiecīgie Savienības un valstu tiesību akti. Šai paziņotajai informācijai vajadzētu būt saprotamai, salīdzināmai un pārbaudāmai, un šajā nolūkā Komisijai būtu jāizstrādā vadlīnijas par saskaņotu metolodoloģiju šīs informācijas aprēķināšanai un paziņošanai. Lai būtu iespējama vienota dokumentācija, relevantajos Savienības tiesību aktos būtu pēc iespējas jāsaskaņo termini un definīcijas, kas saistītas ar prasīto dokumentāciju, kā arī visa cita nepieciešamā dokumentācija.

(46a)

MI sistēmās būtu jāizmanto modernas metodes un attiecīgie piemērojamie standarti, lai samazinātu energopatēriņu, resursu izmantošanu un atkritumus, kā arī palielinātu energoefektivitāti un vispārējo sistēmas efektivitāti. MI sistēmu vidiskie aspekti, kas ir būtiski šīs regulas mērķiem, ir MI sistēmas enerģijas patēriņš izstrādes, apmācības un ieviešanas posmā, kā arī šo datu reģistrēšana, ziņošana un glabāšana. MI sistēmu uzbūvei būtu jānodrošina enerģijas un resursu patēriņa mērīšana un reģistrēšana katrā posmā — izstrādē, apmācībā un ieviešanā. MI sistēmu emisiju monitoringam un ziņošanai par tām jābūt stabilai, pārredzamai, konsekventai un precīzai. Lai nodrošinātu šīs regulas vienādu piemērošanu un stabilu juridisko ekosistēmu sagādātājiem un ieviesējiem vienotajā tirgū, Komisijai būtu jāizstrādā kopīga metodikas specifikācija, lai izpildītu ziņošanas un dokumentēšanas prasības par enerģijas un resursu patēriņu izstrādes, apmācības un ieviešanas laikā. Šādas kopīgas mērīšanas metodikas specifikācijas var izstrādāt pamatscenāriju, par kuru Komisija, veicot ietekmes novērtējumu, kurā ņemti vērā spēkā esošie tiesību akti, var labāk izlemt, vai ir vajadzīga turpmāka reglamentējoša iejaukšanās.

(46b)

Lai sasniegtu šīs regulas mērķus un veicinātu Savienības vides mērķu sasniegšanu, vienlaikus nodrošinot netraucētu iekšējā tirgus darbību, var būt nepieciešams izstrādāt ieteikumus un vadlīnijas un, iespējams, ilgtspējas mērķrādītājus. Šajā nolūkā Komisija ir tiesīga izstrādāt metodiku galveno veiktspējas rādītāju (KPI) un atsauces uz ilgtspējīgas attīstības mērķiem (IAM) izstrādei. Pirmkārt, mērķim vajadzētu būt nodrošināt taisnīgu salīdzinājumu starp MI ieviešanas izvēlēm, radot stimulus veicināt efektīvāku MI tehnoloģiju izmantošanu, kad tiek risinātas ar enerģiju un resursiem saistītās problēmas. Lai sasniegtu šo mērķi, šajā regulā būtu jāparedz līdzekļi, kas ļautu noteikt pamatscenāriju to datu vākšanai, kas paziņoti par emisijām no izstrādes, apmācības un ieviešanas;

(47a)

Prasībām par pārredzamību un MI lēmumu pieņemšanas izskaidrojamību būtu jāpalīdz arī novērst digitālās asimetrijas atturošo ietekmi un tā dēvētās maldinošās saskarnes, kas vērstas pret indivīdiem un viņu informētu piekrišanu.

(49)

Augsta riska AI sistēmām jādarbojas konsekventi visā to darbmūžā un jānodrošina atbilstošs precizitātes, noturības un kiberdrošības līmenis saskaņā ar vispāratzīto tehnoloģiju attīstības līmeni. Precizitātes līmenis un tā rādītāji jādara zināmi lietotājiem .

(49)

Augsta riska MI sistēmām jādarbojas konsekventi visā to darbmūžā un jānodrošina atbilstošs precizitātes, noturības un kiberdrošības līmenis saskaņā ar vispāratzīto tehnoloģiju attīstības līmeni. Veiktspējas rādītāji un to paredzamais līmenis būtu jādefinē ar primāro mērķi mazināt MI sistēmas riskus un negatīvo ietekmi. Sagaidāmais veiktspējas līmenis un tā rādītāji skaidrā, pārredzamā, viegli saprotamā un uztveramā veidā jādara zināmi ieviesējiem. Veiktspējas rādītāju deklarāciju nevar uzskatīt par nākotnes līmeņu apliecinājumu, bet ir jāpiemēro attiecīgas metodes, lai nodrošinātu konsekventus līmeņus izmantošanas laikā. Lai gan standartizācijas organizāciju pienākums ir izstrādāt standartus, ir nepieciešama salīdzinošās novērtēšanas koordinācija, lai noteiktu, kā šīs standartizētās prasības un MI sistēmu raksturlielumi būtu jāmēra. Eiropas Mākslīgā intelekta birojam būtu jāpulcē kopā valstu un starptautiskās metroloģijas un salīdzinošās novērtēšanas iestādes un jāsniedz nesaistoši norādījumi par to, kā risināt tehniskos aspektus attiecīgo veiktspējas un noturības līmeņu mērīšanā.

(50)

Tehniskā noturība ir viena no galvenajām prasībām augsta riska AI sistēmām. Minētajām sistēmām jābūt noturīgām pret riskiem, kas ir saistīti ar sistēmas ierobežojumiem (piemēram, kļūdas, nepilnības, neatbilstības, negaidītas situācijas), kā arī pret ļaunprātīgām darbībām, kuras var apdraudēt AI sistēmas drošību un izraisīt kaitējošu vai citādi nevēlamu sistēmas darbību. Nespēja aizsargāt pret šiem riskiem varētu ietekmēt drošību vai negatīvi ietekmēt pamattiesības, piemēram, AI sistēmas radītu kļūdainu lēmumu vai nepareizu vai neobjektīvu iznākumu dēļ.

(50)

Tehniskā noturība ir viena no galvenajām prasībām augsta riska MI sistēmām. Minētajām sistēmām jābūt noturīgām pret riskiem, kas ir saistīti ar sistēmas ierobežojumiem (piemēram, kļūdas, nepilnības, neatbilstības, negaidītas situācijas), kā arī pret ļaunprātīgām darbībām, kuras var apdraudēt MI sistēmas drošību un izraisīt kaitējošu vai citādi nevēlamu sistēmas darbību. Nespēja aizsargāt pret šiem riskiem varētu ietekmēt drošību vai negatīvi ietekmēt pamattiesības, piemēram, MI sistēmas radītu kļūdainu lēmumu vai nepareizu vai neobjektīvu iznākumu dēļ. MI sistēmas lietotājiem būtu jāveic pasākumi, lai nodrošinātu, ka iespējamais kompromiss starp noturību un precizitāti nerada diskriminējošus vai negatīvus rezultātus mazākuma apakšgrupām.

(51)

Kiberdrošībai ir būtiska loma, nodrošinot, ka AI sistēmas ir noturīgas pret mēģinājumiem mainīt to lietojumu, uzvedību vai veiktspēju vai apdraudēt to drošības iezīmes, ļaunprātīgām trešām personām ekspluatējot sistēmas vājās vietas. Kiberuzbrukumi AI sistēmām var izmantot AI raksturīgos aktīvus, piemēram, apmācībā izmantotās datu kopas (piemēram, datu saindēšana) vai apmācītos modeļus (piemēram, adversatīvie uzbrukumi) vai ekspluatēt AI sistēmas digitālo aktīvu vai pamatā esošās IKT infrastruktūras vājās vietas. Lai nodrošinātu riskiem atbilstošu kiberdrošības līmeni, augsta riska AI sistēmu sagādātājiem būtu jāveic piemēroti pasākumi, attiecīgi ņemot vērā arī pamatā esošo IKT infrastruktūru.

(51)

Kiberdrošībai ir būtiska loma, nodrošinot, ka MI sistēmas ir noturīgas pret mēģinājumiem mainīt to lietojumu, uzvedību vai veiktspēju vai apdraudēt to drošības iezīmes, ļaunprātīgām trešām personām ekspluatējot sistēmas vājās vietas. Kiberuzbrukumi MI sistēmām var izmantot MI raksturīgos aktīvus, piemēram, apmācībā izmantotās datu kopas (piemēram, datu saindēšana) vai apmācītos modeļus (piemēram, adversatīvie uzbrukumi vai konfidencialitātes uzbrukumi ) vai ekspluatēt MI sistēmas digitālo aktīvu vai pamatā esošās IKT infrastruktūras vājās vietas. Lai nodrošinātu riskiem atbilstošu kiberdrošības līmeni, augsta riska MI sistēmu sagādātājiem , kā arī pieteiktajām struktūrām, kompetentajām valsts iestādēm un tirgus uzraudzības iestādēm būtu jāveic piemēroti pasākumi, attiecīgi ņemot vērā arī pamatā esošo IKT infrastruktūru. Augsta riska MI būtu jāpapildina ar drošības risinājumiem un ielāpiem visam produkta darbmūžam vai, ja nav atkarības no konkrēta produkta, uz laiku, kas ražotājam ir jānorāda.

(53a)

Savienībai un dalībvalstīm kā Apvienoto Nāciju Organizācijas Konvencijas par personu ar invaliditāti tiesībām (UNCRPD) parakstītājām ir juridisks pienākums aizsargāt personas ar invaliditāti no diskriminācijas un veicināt viņu līdztiesību, nodrošināt, ka personām ar invaliditāti ir tāda pati piekļuve informācijas un komunikācijas tehnoloģijām un sistēmām kā citiem, un nodrošināt personu ar invaliditāti privātuma ievērošanu. Ņemot vērā MI sistēmu pieaugošo nozīmi un izmantošanu, universālā dizaina principu piemērošanai visām jaunajām tehnoloģijām un pakalpojumiem būtu jānodrošina pilnīga, vienlīdzīga un neierobežota piekļuve visiem, kurus potenciāli skar MI tehnoloģijas vai kuri tās izmanto, tostarp personām ar invaliditāti, tādā veidā, ka tiek pilnībā ievērota minēto personu cieņa un daudzveidība. Tāpēc ir būtiski, lai sagādātāji nodrošinātu pilnīgu atbilstību piekļūstamības prasībām, tostarp Direktīvai (ES) 2016/2102 un Direktīvai (ES) 2019/882. Sagādātājiem būtu jānodrošina integrēta atbilstība šīm prasībām. Tāpēc nepieciešamie pasākumi būtu pēc iespējas jāintegrē augsta riska MI sistēmas uzbūvē.

(54)

Sagādātājam jāizveido stabila kvalitātes vadības sistēma, jānodrošina nepieciešamās atbilstības novērtēšanas procedūras pabeigšana, jāizstrādā attiecīgā dokumentācija un jāizveido spēcīga pēctirgus uzraudzības sistēma. Publiskā sektora iestādes, kuras nodod ekspluatācijā augsta riska AI sistēmu pašu izmantošanai, var pieņemt un īstenot kvalitātes vadības sistēmas noteikumus valsts vai reģionālā līmenī pieņemtas kvalitātes vadības sistēmas ietvaros, attiecīgi ņemot vērā nozares īpatnības un attiecīgās publiskā sektora iestādes kompetences un struktūru.

(54)

Sagādātājam jāizveido stabila kvalitātes vadības sistēma, jānodrošina nepieciešamās atbilstības novērtēšanas procedūras pabeigšana, jāizstrādā attiecīgā dokumentācija un jāizveido spēcīga pēctirgus uzraudzības sistēma. Attiecībā uz sagādātājiem, kuri jau ir ieviesuši kvalitātes pārvaldības sistēmas, kuru pamatā ir tādi standarti kā ISO 9001 vai citi attiecīgi standarti, nevajadzētu sagaidīt, ka kvalitātes pārvaldības sistēma pilnībā dublējas, bet gan, ka to esošās sistēmas tiks pielāgotas konkrētiem aspektiem, kas saistīti ar atbilstību konkrētām šīs regulas prasībām. Tas būtu jāatspoguļo arī turpmākajās standartizācijas darbībās vai norādījumos, ko šajā sakarā pieņem Komisija. Publiskā sektora iestādes, kuras nodod ekspluatācijā augsta riska MI sistēmu pašu izmantošanai, var pieņemt un īstenot kvalitātes vadības sistēmas noteikumus valsts vai reģionālā līmenī pieņemtas kvalitātes vadības sistēmas ietvaros, attiecīgi ņemot vērā nozares īpatnības un attiecīgās publiskā sektora iestādes kompetences un struktūru.

(56)

Lai nodrošinātu šīs regulas izpildi un radītu vienlīdzīgus konkurences apstākļus ekonomikas dalībniekiem, un ņemot vērā dažādās formas, kā digitālos produktus var darīt pieejamus, ir svarīgi nodrošināt, ka Savienībā iedibināta persona jebkuros apstākļos var iestādēm sniegt visu nepieciešamo informāciju par AI sistēmas atbilstību. Tāpēc, pirms darīt savas AI sistēmas pieejamas Savienībā, ja importētāju nevar identificēt, ārpus Savienības iedibinātiem sagādātājiem ar rakstisku pilnvaru jāieceļ Savienībā iedibināts pilnvarots pārstāvis.

(56)

Lai nodrošinātu šīs regulas izpildi un radītu vienlīdzīgus konkurences apstākļus operatoriem, un ņemot vērā dažādās formas, kā digitālos produktus var darīt pieejamus, ir svarīgi nodrošināt, ka Savienībā iedibināta persona jebkuros apstākļos var iestādēm sniegt visu nepieciešamo informāciju par MI sistēmas atbilstību. Tāpēc, pirms darīt savas MI sistēmas pieejamas Savienībā, ārpus Savienības iedibinātiem sagādātājiem ar rakstisku pilnvaru jāieceļ Savienībā iedibināts pilnvarots pārstāvis.

(58)

Ņemot vērā AI sistēmu raksturu un iespējamos riskus drošībai un pamattiesībām, kas saistīti ar to izmantošanu, tostarp attiecībā uz nepieciešamību nodrošināt AI sistēmas veiktspējas reālos apstākļos pienācīgu uzraudzību, ir lietderīgi noteikt zināmus pienākumus lietotājiem . Lietotājiem būtu jāizmanto augsta riska AI sistēmas saskaņā ar lietošanas instrukcijām, un būtu jānosaka daži citi pienākumi attiecībā uz AI sistēmu funkcionēšanas uzraudzību un uzskaiti vajadzības gadījumā.

(58)

Ņemot vērā MI sistēmu raksturu un iespējamos riskus drošībai un pamattiesībām, kas saistīti ar to izmantošanu, tostarp attiecībā uz nepieciešamību nodrošināt MI sistēmas veiktspējas reālos apstākļos pienācīgu uzraudzību, ir lietderīgi noteikt zināmus pienākumus ieviesējiem . Ieviesējiem būtu jāizmanto augsta riska MI sistēmas saskaņā ar lietošanas instrukcijām, un būtu jānosaka daži citi pienākumi attiecībā uz MI sistēmu funkcionēšanas uzraudzību un uzskaiti vajadzības gadījumā.

(58a)

Lai gan riski, kas saistīti ar MI sistēmām, var rasties no šādu sistēmu uzbūves, riskus var radīt arī veids, kā šādas MI sistēmas tiek izmantotas. Tāpēc augsta riska MI sistēmas ieviesējiem ir būtiska nozīme pamattiesību aizsardzības nodrošināšanā, papildinot sagādātāja pienākumus MI sistēmu izstrādē. Ieviesēji vislabāk izprot, kā tieši tiks izmantota augsta riska MI sistēma, un tādēļ, pateicoties precīzākām zināšanām par lietošanas kontekstu, personām vai personu grupām, kuras varētu tikt skartas, tostarp atstumtām un neaizsargātām grupām, var identificēt iespējamos būtiskos riskus, kas nebija paredzēti izstrādes posmā. Ieviesējiem šajā konkrētajā izmantošanas kontekstā būtu jāapzina piemērotas pārvaldības struktūras, piemēram, pasākumi attiecībā uz cilvēka virsvadību, sūdzību izskatīšanas procedūras un pārsūdzības procedūras, jo izvēle pārvaldības struktūrās var būt noderīga, lai mazinātu riskus pamattiesībām konkrētos izmantošanas gadījumos. Lai efektīvi nodrošinātu pamattiesību aizsardzību, augsta riska MI sistēmu ieviesējam būtu jāveic ietekmes uz pamattiesībām novērtējums pirms to nodošanas ekspluatācijā. Ietekmes novērtējumam ne vēlāk kā pie sistēmas nodošanas ekspluatācijā būtu jāpievieno sīki izstrādāts plāns, kurā aprakstīti pasākumi vai rīki, kas palīdzēs mazināt identificēto pamattiesību apdraudējumu. Ja šādu plānu nevar nodrošināt, ieviesējam būtu jāatturas no sistēmas nodošanas ekspluatācijā. Veicot šo ietekmes novērtējumu, ieviesējam būtu jāinformē valsts uzraudzības iestāde un, cik vien iespējams, attiecīgās ieinteresētās personas, kā arī to personu grupu pārstāvji, kuras MI sistēma varētu skart, lai vāktu attiecīgo informāciju, kas tiek uzskatīta par nepieciešamu ietekmes novērtējuma veikšanai, un tiek mudināts savu pamattiesību ietekmes novērtējuma kopsavilkumu darīt publiski pieejamu savā tiešsaistes tīmekļa vietnē. Šie pienākumi nebūtu jāattiecina uz MVU, kuriem, ņemot vērā to trūkumu, varētu būt grūti veikt šādu apspriešanos. Tomēr arī tiem būtu jācenšas iesaistīt šādus pārstāvjus, kad tie veic savu ietekmes uz pamattiesībām novērtējumu.Turklāt, ņemot vērā iespējamo ietekmi un nepieciešamību pēc demokrātiskas uzraudzības un kontroles, augsta riska MI sistēmu ieviesējiem, kas ir publiskas iestādes vai Savienības iestādes, struktūras, biroji un aģentūras, kā arī ieviesējiem, kas ir uzņēmumi, kuriem saskaņā ar Regulu (ES) 2022/1925 ir noteikts vārtziņa statuss, būtu jāprasa reģistrēt jebkuras augsta riska MI sistēmas izmantošanu publiskā datubāzē. Citi ieviesēji var reģistrēties brīvprātīgi.

(59)

Ir lietderīgi paredzēt, ka AI lietotājam vajadzētu būt fiziskai vai juridiskai personai, publiskā sektora iestādei, aģentūrai vai citai struktūrai, kuras pārziņā darbojas AI sistēma, izņemot, ja izmantošana notiek personīgas, neprofesionālas darbības ietvaros.

(59)

Ir lietderīgi paredzēt, ka MI ieviesējam vajadzētu būt fiziskai vai juridiskai personai, publiskā sektora iestādei, aģentūrai vai citai struktūrai, kuras pārziņā darbojas MI sistēma, izņemot, ja izmantošana notiek personīgas, neprofesionālas darbības ietvaros.

(60)

Ņemot vērā mākslīgā intelekta vērtības ķēdes sarežģītību, attiecīgajām trešām personām, proti, tām, kuras ir iesaistītas programmatūras , programmatūras rīku un sastāvdaļu , iepriekš apmācītu modeļu un datu tirdzniecībā un piegādē, vai tīkla pakalpojumu sniedzējiem vajadzības gadījumā būtu jāsadarbojas ar sagādātājiem un lietotājiem , lai ļautu tiem nodrošināt atbilstību šajā regulā noteiktajiem pienākumiem , kā arī tiem būtu jāsadarbojas ar šajā regulā noteiktajām kompetentajām iestādēm .

(60)

MI vērtības ķēdē daudzas vienības bieži piegādā rīkus un pakalpojumus, bet arī komponentus vai procesus, ko sagādātājs pēc tam integrē MI sistēmā, tostarp saistībā ar datu vākšanu un priekšapstrādi, modeļu apmācību, modeļu pārmācību, modeļu testēšanu un izvērtēšanu, integrēšanu programmatūrā vai citiem modeļu izstrādes aspektiem. Iesaistītās vienības var darīt savu piedāvājumu komerciāli pieejamu tieši vai netieši, izmantojot saskarnes, piemēram, lietojumprogrammu saskarnes (API), un izplatīt to saskaņā ar bezmaksas un atklātā pirmkoda licencēm, kā arī arvien vairāk izmantojot MI darbaspēka platformas, apmācītu parametru tālākpārdošanu, “izdari pats” (DIY) komplektus modeļu izstrādei vai modeļa izstrādes un apmācīšanas nolūkos piedāvājot maksas piekļuvi modeli apkalpojošai arhitektūrai. Ņemot vērā šo MI vērtības ķēdes sarežģītību, visām attiecīgajām trešām personām, jo īpaši tām, kas ir iesaistītas programmatūras rīku , komponentu , iepriekš apmācītu modeļu vai MI sistēmā iekļautu datu izstrādē, pārdošanā un komerciālā piegādē, vai tīkla pakalpojumu sniedzējiem , neskarot savas intelektuālā īpašuma tiesības vai komercnoslēpumus, būtu jādara pieejama vajadzīgā informācija, apmācība vai speciālās zināšanas un attiecīgā gadījumā jāsadarbojas ar sagādātājiem , lai nodrošinātu to kontroli pār visiem MI sistēmas atbilstības būtiskajiem aspektiem , uz kuriem attiecas šī regula. Lai nodrošinātu izmaksefektīvu MI vērtības ķēdes pārvaldību, katra trešā persona, kas sagādātājam piegādā rīku, pakalpojumu, komponentu vai procesu, kuru sagādātājs vēlāk integrē MI sistēmā, skaidri atklāj kontroles līmeni.

(60a)

Ja viena puse ir spēcīgākā sarunu pozīcijā, pastāv risks, ka šī puse varētu izmantot šādu pozīciju, kaitējot otrai līgumslēdzējai pusei, sarunās par tādu rīku, pakalpojumu, komponentu vai procesu piegādi, kurus izmanto vai integrē augsta riska MI sistēmā, vai tiesiskās aizsardzības līdzekļus saistīto pienākumu neizpildes vai izbeigšanas gadījumā. Šāda līgumiska nelīdzsvarotība jo īpaši kaitē mikrouzņēmumiem, mazajiem un vidējiem uzņēmumiem, kā arī jaunuzņēmumiem, izņemot gadījumus, kad tie pieder uzņēmumam, kas spēj pienācīgi izmaksāt kompensāciju apakšuzņēmējam, vai ar tiem ir noslēgts apakšuzņēmuma līgums, jo tiem nav jēgpilnu spēju risināt sarunas par līgumiskās vienošanās nosacījumiem, un tiem varētu nebūt citas izvēles kā piekrist līguma noteikumiem, kurus nevar ietekmēt. Tāpēc negodīgiem līguma noteikumiem, kas nosaka tādu rīku, pakalpojumu, komponentu vai procesu piegādi, kurus izmanto vai integrē augsta riska MI sistēmā, vai tiesiskās aizsardzības līdzekļiem, kas paredzēti saistīto pienākumu neizpildes vai izpildes pārtraukšanas gadījumā, nevajadzētu būt saistošiem šādiem mikrouzņēmumiem, mazajiem vai vidējiem uzņēmumiem un jaunuzņēmumiem, ja tie tiem ir piemēroti vienpusēji.

(60b)

Normās par līguma noteikumiem būtu jāņem vērā līgumslēgšanas brīvības princips, kas uzņēmumu savstarpējās attiecībās ir būtisks jēdziens. Tāpēc ne visiem līguma noteikumiem jāpiemēro godīguma pārbaude, bet tikai tiem, kuri vienpusēji tiek uzlikti mikrouzņēmumiem, maziem un vidējiem uzņēmumiem un jaunuzņēmumiem. Tas attiecas uz situācijām, kad viena puse piedāvā kādu līguma noteikumu un mikrouzņēmums, mazais vai vidējais uzņēmums vai jaunuzņēmums nespēj ietekmēt minētā noteikuma saturu par spīti mēģinājumam to apspriest. Par vienpusēji uzliktu nav uzskatāms līguma noteikums, kuru vienkārši piedāvā viena puse un akceptē mikrouzņēmums, mazais vai vidējais uzņēmums vai jaunuzņēmums, vai noteikums, kuru līdzēji apspriež un par kuru grozītā veidā pēc tam vienojas.

(60c)

Turklāt noteikumi par negodīgiem līgumiem būtu jāpiemēro tikai tiem līguma elementiem, kas ir saistīti ar rīku, pakalpojumu, komponentu vai procesu piegādi, kuri tiek izmantoti vai integrēti augsta riska MI sistēmā, vai tiesiskās aizsardzības līdzekļiem saistīto pienākumu neizpildes vai izpildes pārtraukšanas gadījumā. Citām tā paša līguma daļām, kas nav saistītas ar šiem elementiem, nebūtu jāpiemēro šajā regulā noteiktā godīguma pārbaude.

(60d)

Negodīgu līguma noteikumu atklāšanas kritēriji būtu jāpiemēro tikai pārmērīgiem līguma noteikumiem, ja tiek ļaunprātīgi izmantots izdevīgāks stāvoklis sarunās. Vairums līguma noteikumu, kas vienai pusei ir komerciāli izdevīgāki nekā otrai, ieskaitot tādus, kas ir parasti uzņēmumu savstarpējos līgumos, ir parasta līgumslēgšanas brīvības principa izpausme, un tos turpina piemērot. Ja līguma noteikums nav iekļauts to noteikumu sarakstā, kurus vienmēr uzskata par negodīgiem, piemēro vispārīgo noteikumu par negodīgumu. Šajā sakarā noteikumi, kas uzskaitīti pie negodīgiem, jāizmanto par vispārīgā noteikuma par godīgumu interpretācijas mērauklu.

(60e)

Pamata modeļi ir nesens pavērsiens, kas paredz, ka MI modeļus izstrādā, izmantojot algoritmus, kuri veidoti tā, lai optimizētu iznākuma vispārīgumu un daudzpusību. Šie modeļi bieži tiek apmācīti, izmantojot plašu datu avotu klāstu un lielu datu apjomu, lai veiktu plašu lejupējo uzdevumu klāstu, tostarp dažus, kuriem tie nebija specifiski izstrādāti un apmācīti. Pamata modelis var būt vienmodāls vai multimodāls, apmācīts, izmantojot dažādas metodes, piemēram, uzraudzītu mācīšanos vai pastiprinātu mācīšanos. MI sistēmas ar īpašu paredzēto lietojumu vai vispārīga lietojuma MI sistēmas var būt pamata modeļa īstenošana, kas nozīmē, ka katru pamata modeli var atkārtoti izmantot neskaitāmās lejupējās MI vai vispārīga lietojuma MI sistēmās. Šiem modeļiem ir arvien lielāka nozīme daudziem lejupējiem lietojumiem un sistēmām.

(60f)

Attiecībā uz pamata modeļiem, ko sniedz kā pakalpojumu, piemēram, izmantojot piekļuvi caur API, sadarbībai ar lejupējiem sagādātājiem būtu jāilgst visu laiku, kurā minētais pakalpojums tiek sniegts un atbalstīts, lai būtu iespējams pienācīgi mazināt risku, ja vien pamata modeļa sagādātājs nenosūta apmācības modeli, kā arī plašu un atbilstīgu informāciju par datu kopām un sistēmas izstrādes procesu vai neierobežo pakalpojuma sniegšanu, piemēram, piekļuvi caur API, tā, lai lejupējais sagādātājs varētu pilnībā ievērot šo regulu bez papildu atbalsta no pamata modeļa sākotnējā sagādātāja.

(60g)

Ņemot vērā MI sistēmas vērtību ķēdes raksturu un sarežģītību, ir svarīgi precizēt to dalībnieku lomu, kas piedalās MI sistēmu izstrādē. Pastāv ievērojamas neskaidrības par to, kā attīstīsies pamata modeļi gan modeļu tipoloģijas, gan pašvadības ziņā. Tāpēc ir būtiski precizēt pamata modeļu sagādātāja juridisko situāciju. Apvienojumā ar to sarežģītību un negaidīto ietekmi, lejupējā MI sagādātāja kontroles trūkumu pār pamata modeļa izstrādi un no tā izrietošo varas nelīdzsvarotību un lai nodrošinātu taisnīgu atbildības sadali visā MI vērtības ķēdē, uz šādiem modeļiem šajā regulā būtu jāattiecina samērīgas un konkrētākas prasības un pienākumi, proti, pamata modeļiem būtu jānovērtē un jāmazina iespējamie riski un kaitējums, izmantojot pienācīgu projektēšanu, testēšanu un analīzi, būtu jāīsteno datu pārvaldības pasākumi, tostarp neobjektivitātes novērtēšana, un tiem būtu jāatbilst tehniskās konstrukcijas prasībām, lai nodrošinātu pienācīgu veiktspējas, paredzamības, interpretējamības, labojamības, drošuma un kiberdrošības līmeni, un tiem būtu jāatbilst vides standartiem. Šie pienākumi būtu jāpapildina ar standartiem. Turklāt pamata modeļiem būtu jānosaka informēšanas pienākumi un jāsagatavo visa nepieciešamā tehniskā dokumentācija, lai potenciālie lejupējie sagādātāji varētu izpildīt savus pienākumus saskaņā ar šo regulu. Ģeneratīviem pamata modeļiem būtu jānodrošina pārredzamība attiecībā uz to, ka saturu rada MI sistēma, nevis cilvēki. Šīs īpašās prasības un pienākumi nenozīmē, ka pamata modeļi tiek uzskatīti par augsta riska MI sistēmām, bet tiem būtu jāgarantē, ka tiek sasniegti šīs regulas mērķi nodrošināt augstu pamattiesību, veselības un drošības, vides, demokrātijas un tiesiskuma aizsardzības līmeni. Iepriekš apmācīti modeļi, kas izstrādāti šaurākam, mazāk vispārīgam, ierobežotākam lietojumu kopumam, kurus nevar pielāgot plašam uzdevumu klāstam, piemēram, vienkāršām daudzfunkcionālām MI sistēmām, nebūtu jāuzskata par pamata modeļiem šīs regulas izpratnē, jo tie ir labāk interpretējami, kas padara to uzvedību mazāk neparedzamu.

(60h)

Ņemot vērā pamata modeļu īpatnību, trūkst zināšanu atbilstības novērtēšanā, un trešās puses revīzijas metodes joprojām ir izstrādes stadijā. Tāpēc pati nozare izstrādā jaunus veidus, kā novērtēt pamata modeļus, kas daļēji sasniedz revīzijas mērķi (piemēram, modeļu novērtēšana, sarkanās komandas izmantošana vai mašīnmācīšanās verifikācija un validēšanas metodes). Minētajiem fondu modeļu iekšējiem novērtējumiem vajadzētu būt plaši piemērojamiem (piemēram, neatkarīgi no izplatīšanas kanāliem, modalitātes, izstrādes metodēm), lai pievērstos riskiem, kas raksturīgi šādiem modeļiem, ņemot vērā nozares jaunāko praksi un koncentrēšanos uz modeļa pietiekamas tehniskās izpratnes un kontroles veidošanu, pamatoti paredzamu risku pārvaldību un modeļa plašu analīzi un testēšanu, veicot atbilstīgus pasākumus, piemēram, iesaistot neatkarīgus vērtētājus. Tā kā mākslīgā intelekta jomā pamata modeļi ir jauna parādība un tie strauji attīstās, ir lietderīgi, ka Komisija un MI birojs uzrauga un periodiski izvērtē šādu modeļu un jo īpaši uz šādiem modeļiem balstītu ģeneratīvu MI sistēmu tiesisko regulējumu un pārvaldības sistēmu, jo šie modeļi rada būtiskus jautājumus saistībā ar satura radīšanu, pārkāpjot Savienības tiesību aktus, autortiesību noteikumus un iespējamu ļaunprātīgu izmantošanu. Būtu jāprecizē, ka šai regulai nebūtu jāskar Savienības tiesību akti autortiesību un blakustiesību jomā, tostarp Eiropas Parlamenta un Padomes Direktīvas 2001/29/EK, 2004/48/ECR un (ES) 2019/790.

(61)

Standartizācijai vajadzētu būt ļoti būtiskai tādu tehnisko risinājumu nodrošināšanā, kas sistēmu sagādātājiem ļautu nodrošināt atbilstību šīs regulas noteikumiem. Atbilstībai Eiropas Parlamenta un Padomes Regulā (ES) Nr. 1025/ 2012  (54) noteiktajiem saskaņotajiem standartiem vajadzētu būt veidam, kā sagādātāji var demonstrēt atbilstību šīs regulas prasībām. Tomēr Komisija varētu pieņemt kopīgas tehniskās specifikācijas jomās , kurās nav saskaņotu standartu vai tie nav pietiekami .

(61)

Standartizācijai vajadzētu būt ļoti būtiskai tādu tehnisko risinājumu nodrošināšanā, kas sistēmu sagādātājiem ļautu nodrošināt atbilstību šīs regulas noteikumiem. Atbilstībai Eiropas Parlamenta un Padomes Regulā (ES) Nr. 1025/ 2012  (54) noteiktajiem saskaņotajiem standartiem vajadzētu būt veidam, kā sagādātāji var demonstrēt atbilstību šīs regulas prasībām. Lai nodrošinātu standartu kā Savienības politikas instrumenta efektivitāti un ņemot vērā standartu nozīmi atbilstības nodrošināšanai šīs regulas prasībām un uzņēmumu konkurētspējai , ir svarīgi nodrošināt līdzsvarotu interešu pārstāvību, iesaistot visas attiecīgās ieinteresētās personas standartu izstrādē. Standartizācijas procesam jābūt pārredzamam attiecībā uz juridiskām un fiziskām personām, kas piedalās standartizācijas darbībās.

(61a)

Lai veicinātu atbilstību, pirmie standartizācijas pieprasījumi Komisijai būtu jāizdod vēlākais divus mēnešus pēc šīs regulas stāšanās spēkā. Tam būtu jāpalīdz uzlabot juridisko noteiktību, tādējādi veicinot investīcijas un inovāciju MI, kā arī Savienības tirgus konkurētspēju un izaugsmi, vienlaikus uzlabojot daudzpusēju pārvaldību, kas pārstāv visas attiecīgās Eiropas ieinteresētās personas, piemēram, MI biroju, Eiropas standartizācijas organizācijas un struktūras vai ekspertu grupas, kas izveidotas saskaņā ar attiecīgajiem Savienības nozaru tiesību aktiem, kā arī nozari, MVU, jaunuzņēmumus, pilsonisko sabiedrību, pētniekus un sociālos partnerus, un galu galā tam būtu jāveicina globālā sadarbība MI jomas standartizācijā tādā veidā, kas atbilst Savienības vērtībām. Sagatavojot standartizācijas pieprasījumu, Komisijai būtu jāapspriežas ar MI biroju un MI konsultatīvo forumu, lai apkopotu attiecīgās speciālās zināšanas.

(61b)

Ja MI sistēmas ir paredzēts izmantot darba vietā, saskaņotajiem standartiem būtu jāattiecas tikai uz tehniskajām specifikācijām un procedūrām.

(61c)

Komisijai vajadzētu būt iespējai ar konkrētiem nosacījumiem pieņemt kopīgas specifikācijas, ja nav attiecīga saskaņota standarta, vai risināt konkrētas bažas par pamattiesību ievērošanu. Visā dokumenta izstrādes procesā Komisijai būtu regulāri jāapspriežas ar MI biroju un tā konsultatīvo forumu, Eiropas standartizācijas organizācijām un struktūrām vai ekspertu grupām, kas izveidotas saskaņā ar attiecīgajiem Savienības nozaru tiesību aktiem, kā arī ar attiecīgajām ieinteresētajām personām, piemēram, nozari, MVU, jaunuzņēmumiem, pilsonisko sabiedrību, pētniekiem un sociālajiem partneriem.

(61d)

Pieņemot kopīgas specifikācijas, Komisijai būtu jācenšas panākt MI regulējuma saskaņošanu ar līdzīgi domājošiem globālajiem partneriem, kam ir būtiska nozīme inovācijas un pārrobežu partnerību veicināšanā MI jomā, jo koordinācija ar līdzīgi domājošiem partneriem starptautiskajās standartizācijas struktūrās ir ļoti svarīga.

(62)

Lai nodrošinātu augsta riska AI sistēmu augstu uzticamības līmeni, būtu jāveic šo sistēmu atbilstības novērtēšana pirms to laišanas tirgū vai nodošanas ekspluatācijā.

(62)

Lai nodrošinātu augsta riska MI sistēmu augstu uzticamības līmeni, būtu jāveic šo sistēmu atbilstības novērtēšana pirms to laišanas tirgū vai nodošanas ekspluatācijā. Lai palielinātu uzticēšanos vērtību ķēdei un sniegtu uzņēmumiem noteiktību par to sistēmu veiktspēju, trešās personas, kas sagādā MI komponentus, var brīvprātīgi pieteikties trešās personas atbilstības novērtējumam.

(64)

Ņemot vērā, ka profesionāliem sertificētājiem, kuri darbojas pirmstirdzniecības posmā, ir plašāka pieredze produktu drošuma jomā, kā arī saistīto risku atšķirīgo raksturu, vismaz sākotnējā šīs regulas piemērošanas posmā ir lietderīgi ierobežot trešās personas veiktas atbilstības novērtēšanas piemērošanas jomu tādām augsta riska AI sistēmām, kuras nav saistītas ar produktiem. Tāpēc minēto sistēmu atbilstības novērtēšanu parasti būtu jāveic sagādātājam uz savu atbildību, izņemot vienīgi AI sistēmas, kuras paredzēts izmantot personu biometriskajai tālidentifikācijai ; šādā gadījumā būtu jāparedz pieteiktās struktūras iesaiste atbilstības novērtēšanā, ciktāl minētās sistēmas nav aizliegtas.

(64)

Ņemot vērā augsta riska MI sistēmu sarežģītību un ar tām saistītos riskus , ir būtiski attīstīt piemērotāku spēju trešo personu veiktas atbilstības novērtēšanas piemērošanai augsta riska MI sistēmām. Tomēr, ņemot vērā pašreizējo pieredzi, kas profesionāliem sertificētājiem, kuri darbojas pirmstirdzniecības posmā, ir produktu drošuma jomā, kā arī saistīto risku atšķirīgo raksturu, vismaz sākotnējā šīs regulas piemērošanas posmā ir lietderīgi ierobežot trešās personas veiktas atbilstības novērtēšanas piemērošanas jomu tādām augsta riska MI sistēmām, kuras nav saistītas ar produktiem. Tāpēc minēto sistēmu atbilstības novērtēšanu parasti būtu jāveic sagādātājam uz savu atbildību, izņemot vienīgi MI sistēmas, kuras paredzēts izmantot personu biometriskajai tālidentifikācijai , vai MI sistēmas, kuras paredzēts izmantot, lai izdarītu secinājumus par fizisku personu personiskajām īpašībām, pamatojoties uz biometriskajiem vai biometrijas datiem, tostarp emociju uztveršanas sistēmas, attiecībā uz kurām būtu jāparedz pieteiktās struktūras iesaiste atbilstības novērtēšanā, ciktāl minētās sistēmas nav aizliegtas.

(65)

Lai īstenotu fizisku personu biometriskajai tālidentifikācijai paredzētu AI sistēmu trešās personas veiktu atbilstības novērtēšanu , valstu kompetentajām iestādēm saskaņā ar šo regulu būtu jānorīko pieteiktās struktūras ar nosacījumu, ka tās atbilst prasību kopumam, it īpaši neatkarības, kompetences un interešu konflikta neesības ziņā.

(65)

Lai vajadzības gadījumā īstenotu trešās personas veiktus atbilstības novērtējumus , valstu kompetentajām iestādēm saskaņā ar šo regulu būtu jānorīko pieteiktās struktūras ar nosacījumu, ka tās atbilst prasību kopumam, it īpaši neatkarības, kompetences, interešu konflikta neesības un kiberdrošības minimālo prasību ziņā. Dalībvalstīm būtu jāveicina pietiekama skaita atbilstības novērtēšanas struktūru norīkošana, lai sertificēšanu būtu iespējams veikt laikus. Šīs novērtēšanas, norīkošanas, paziņošanas un atbilstības novērtēšanas struktūru uzraudzības procedūras dalībvalstīs būtu jāīsteno pēc iespējas vienoti, lai novērstu administratīvos šķēršļus un nodrošinātu, ka tiek izmantots iekšējā tirgus potenciāls.

(65a)

Saskaņā ar Savienības saistībām, ko nosaka Pasaules Tirdzniecības organizācijas Nolīgums par tehniskajiem šķēršļiem tirdzniecībā, atbilstoši ir maksimāli akceptēt testēšanas rezultātus, ko guvušas kompetentās atbilstības novērtēšanas struktūras neatkarīgi no teritorijas, kurā tās ir iedibinātas, ja tas nepieciešams, lai pierādītu atbilstību piemērojamajām regulas prasībām. Komisijai šajā nolūkā būtu aktīvi jāizpēta iespējamie starptautiskie instrumenti un jo īpaši jācenšas panākt iespējamu savstarpējas atzīšanas nolīgumu noslēgšanu ar valstīm, kuru tehniskās attīstības līmenis ir salīdzināms un kurām ir saderīga pieeja attiecībā uz MI un atbilstības novērtēšanu.

(66)

Saskaņā ar vispāratzīto būtisku modifikāciju jēdzienu, ko attiecina uz Savienības saskaņošanas tiesību aktu regulētajiem produktiem, ir lietderīgi, ka AI sistēmai veic jaunu atbilstības novērtēšanu ikreiz, kad notikušas izmaiņas, kas var ietekmēt sistēmas atbilstību šīs regulas noteikumiem, vai mainījies sistēmas paredzētais nolūks. Turklāt to AI sistēmu gadījumā, kuras pēc laišanas tirgū vai nodošanas ekspluatācijā turpina “mācīties” (t. i., tās automātiski pielāgo veidu, kādā tās veic funkcijas), ir nepieciešams pieņemt noteikumus, kas nosaka, ka tādas izmaiņas algoritmā un tā sniegumā, kuras sagādātājs ir iepriekš noteicis un novērtējis atbilstības novērtēšanas procesā, nav uzskatāmas par būtiskām modifikācijām.

(66)

Saskaņā ar vispāratzīto būtisku modifikāciju jēdzienu, ko attiecina uz Savienības saskaņošanas tiesību aktu regulētajiem produktiem, ir lietderīgi, ka augsta riska MI sistēmai veic jaunu atbilstības novērtēšanu ikreiz, kad notikušas neplānotas izmaiņas, kas pārsniedz piegādātāja kontrolētas vai iepriekš noteiktas izmaiņas, tostarp nepārtraukta mācīšanās, un kas var radīt jaunu nepieņemamu risku un būtiski ietekmēt augsta riska MI sistēmas atbilstību šīs regulas noteikumiem, vai kad mainījies sistēmas paredzētais nolūks. Turklāt to MI sistēmu gadījumā, kuras pēc laišanas tirgū vai nodošanas ekspluatācijā turpina “mācīties” (t. i., tās automātiski pielāgo veidu, kādā tās veic funkcijas), ir nepieciešams pieņemt noteikumus, kas nosaka, ka tādas izmaiņas algoritmā un tā sniegumā, kuras sagādātājs ir iepriekš noteicis un novērtējis atbilstības novērtēšanas procesā, nav uzskatāmas par būtiskām modifikācijām. Tas pats būtu jāpiemēro MI sistēmas atjauninājumiem vispārēju drošības apsvērumu dēļ un nolūkā aizsargāt pret pieaugošiem sistēmas manipulāciju draudiem ar noteikumu, ka tie nesasniedz būtisku modifikāciju līmeni.

(67)

Augsta riska AI sistēmām jābūt marķētām ar zīmi CE, atspoguļojot to atbilstību šīs regulas noteikumiem, kas ļautu tām būt brīvā apritē iekšējā tirgū. Dalībvalstīm nevajadzētu radīt nepamatotus šķēršļus tādu augsta riska AI sistēmu laišanai tirgū vai nodošanai ekspluatācijā, kuras atbilst šajā regulā noteiktajām prasībām un ir marķētas ar CE zīmi.

(67)

Augsta riska MI sistēmām jābūt marķētām ar zīmi “CE”, atspoguļojot to atbilstību šīs regulas noteikumiem, kas ļautu tām būt brīvā apritē iekšējā tirgū. Fiziskām augsta riska MI sistēmām būtu jāpiestiprina fiziska “CE” zīme, un to var papildināt ar digitālu “CE” zīmi. Tikai digitālām augsta riska MI sistēmām būtu jāizmanto digitāla “CE” zīme. Dalībvalstīm nevajadzētu radīt nepamatotus šķēršļus tādu augsta riska MI sistēmu laišanai tirgū vai nodošanai ekspluatācijā, kuras atbilst šajā regulā noteiktajām prasībām un ir marķētas ar “CE” zīmi.

(68)

Noteiktos apstākļos ātra inovatīvu tehnoloģiju pieejamība var būt ļoti svarīga personu veselībai un drošībai, kā arī sabiedrībai kopumā. Līdz ar to ir lietderīgi, ka ar sabiedrisko drošību vai fizisku personu veselības un drošības aizsardzību un rūpnieciskā un komerciālā īpašuma aizsardzību saistītos ārkārtas apstākļos dalībvalstis varētu atļaut laist tirgū vai nodot ekspluatācijā AI sistēmas, kurām nav veikta atbilstības novērtēšana.

(68)

Noteiktos apstākļos ātra inovatīvu tehnoloģiju pieejamība var būt ļoti svarīga personu veselībai un drošībai, videi un klimata pārmaiņām, kā arī sabiedrībai kopumā. Līdz ar to ir lietderīgi, ka ar fizisku personu veselības un drošības aizsardzību , vides aizsardzību un kritiskās infrastruktūras aizsardzību saistītos ārkārtas apstākļos dalībvalstis varētu atļaut laist tirgū vai nodot ekspluatācijā MI sistēmas, kurām nav veikta atbilstības novērtēšana.

(69)

Lai veicinātu Komisijas un dalībvalstu darbu mākslīgā intelekta jomā, kā arī vairotu pārredzamību sabiedrībai, būtu jānosaka prasība tādu augsta riska AI sistēmu, kuras nav saistītas ar produktiem, uz kuriem attiecas esošie Savienības saskaņošanas tiesību akti, sagādātājiem reģistrēt savas augsta riska AI sistēmas ES datubāzē, ko izveidos un pārvaldīs Komisija. Komisijai vajadzētu būt minētās datubāzes pārzinei saskaņā ar Eiropas Parlamenta un Padomes Regulu (ES) 2018/1725 (55). Lai nodrošinātu datubāzes pilnīgu funkcionalitāti pēc tās darbības sākšanas, datubāzes izveides procedūrā būtu jāietver Komisijas veikta funkcionālo specifikāciju izstrāde un neatkarīgs revīzijas ziņojums.

(69)

Lai veicinātu Komisijas un dalībvalstu darbu mākslīgā intelekta jomā, kā arī vairotu pārredzamību sabiedrībai, būtu jānosaka prasība tādu augsta riska MI sistēmu, kuras nav saistītas ar produktiem, uz kuriem attiecas esošie Savienības saskaņošanas tiesību akti, sagādātājiem reģistrēt savas augsta riska MI sistēmas un pamata modeļus ES datubāzē, ko izveidos un pārvaldīs Komisija. Šai datubāzei vajadzētu būt brīvi un publiski pieejamai, viegli saprotamai un mašīnlasāmai. Datubāzei vajadzētu būt arī lietotājdraudzīgai un viegli izmantojamai ar meklēšanas funkcijām, kas ļauj plašai sabiedrībai datubāzē meklēt konkrētas augsta riska sistēmas, vietas, IV pielikumā uzskaitītās riska kategorijas un atslēgvārdus. Ieviesējiem, kas ir publiskas iestādes vai Savienības iestādes, struktūras, biroji un aģentūras, vai ieviesējiem, kuri rīkojas to vārdā, un ieviesējiem, kas ir uzņēmumi, kuriem saskaņā ar Regulu (ES) 2022/1925 ir noteikts vārtziņa statuss, arī būtu jāreģistrējas ES datubāzē pirms augsta riska MI sistēmas nodošanas ekspluatācijā vai pirms tās pirmās izmantošanas un pēc katras būtiskas modifikācijas. Citiem ieviesējiem vajadzētu būt tiesībām to darīt brīvprātīgi. ES datubāzē reģistrē arī jebkādas augsta riska MI sistēmu būtiskas modifikācijas. Komisijai vajadzētu būt minētās datubāzes pārzinei saskaņā ar Eiropas Parlamenta un Padomes Regulu (ES) 2018/1725 (55). Lai nodrošinātu datubāzes pilnīgu funkcionalitāti pēc tās darbības sākšanas, datubāzes izveides procedūrā būtu jāietver Komisijas veikta funkcionālo specifikāciju izstrāde un neatkarīgs revīzijas ziņojums. Komisijai, veicot savus datu pārziņa uzdevumus ES datubāzē, būtu jāņem vērā kiberdrošība un ar apdraudējumu saistītie riski. Lai palielinātu datubāzes pieejamību un izmantošanu sabiedrībai, datubāzei, tostarp ar tās starpniecību sniegtajai informācijai, jāatbilst prasībām Direktīvā 2019/882.

(71)

Mākslīgais intelekts ir strauji attīstošos tehnoloģiju kopums, kam nepieciešamas nebijušas regulatīvās uzraudzības formas un droša vide eksperimentēšanai, vienlaikus nodrošinot atbildīgu inovāciju un atbilstošu aizsardzības un riska mazināšanas pasākumu integrēšanu. Lai nodrošinātu inovācijai labvēlīgu , nākotnes prasībām atbilstošu un pret traucējumiem noturīgu tiesisko regulējumu , vienas vai vairāku dalībvalstu kompetentās iestādes būtu jāmudina veidot mākslīgā intelekta “regulatīvās smilškastes” ar mērķi veicināt inovatīvu AI sistēmu izstrādi un testēšanu stingrā regulatīvajā uzraudzībā, pirms šīs sistēmas laiž tirgū vai citādi nodod ekspluatācijā.

(71)

Mākslīgais intelekts ir strauji attīstošos tehnoloģiju kopums, kam nepieciešama regulatīvā uzraudzība un droša un kontrolēta vide eksperimentēšanai, vienlaikus nodrošinot atbildīgu inovāciju un atbilstošu aizsardzības un riska mazināšanas pasākumu integrēšanu. Lai nodrošinātu tiesisko regulējumu, kas veicina inovāciju , ir nākotnes prasībām atbilstošs un pret traucējumiem noturīgs , dalībvalstīm būtu jāizveido vismaz viena mākslīgā intelekta regulatīvā smilškaste ar mērķi veicināt inovatīvu MI sistēmu izstrādi un testēšanu stingrā regulatīvā uzraudzībā, pirms šīs sistēmas laiž tirgū vai citādi nodod ekspluatācijā. Patiešām ir vēlams regulatīvo smilškastu izveidošanā, kura pašlaik ir atstāta dalībvalstu ziņā, kā nākamo soli noteikt obligātu prasību ar noteiktiem kritērijiem. Minēto obligāto smilškasti varētu izveidot arī kopā ar vienu vai vairākām citām dalībvalstīm, ja vien šī smilškaste aptvertu iesaistīto dalībvalstu attiecīgo valsts līmeni. Lai veicinātu pārrobežu sadarbību un sinerģiju, dažādos līmeņos, tostarp starp dalībvalstīm, var izveidot arī papildu smilškastes. Izņemot obligāto smilškasti valsts līmenī, dalībvalstīm vajadzētu būt iespējai izveidot arī virtuālas vai hibrīdas smilškastes. Visām regulatīvajām smilškastēm vajadzētu būt spējīgām uzņemt gan fiziskus, gan virtuālus produktus. Izveidotājām iestādēm būtu jānodrošina, ka regulatīvajām smilškastēm ir pietiekami finanšu resursi un cilvēkresursi to darbībai.

(72)

“Regulatīvo smilškastu” mērķiem jābūt veicināt AI inovāciju, radot vadītu eksperimentēšanas un testēšanas vidi izstrādes un pirmstirdzniecības posmā ar nolūku nodrošināt inovatīvu AI sistēmu atbilstību šīs regulas noteikumiem un citiem attiecīgajiem Savienības un dalībvalstu tiesību aktiem ; uzlabot juridisko noteiktību novatoriem un kompetento iestāžu uzraudzību un izpratni par iespējām, jauniem riskiem un AI izmantošanas ietekmi un paātrināt piekļuvi tirgum , tostarp novēršot šķēršļus maziem un vidējiem uzņēmumiem (MVU) un jaunuzņēmumiem. Lai nodrošinātu vienotu īstenošanu visā Savienībā un apjomradītus ietaupījumus, ir lietderīgi noteikt kopīgus noteikumus “regulatīvo smilškastu” īstenošanai un sistēmu sadarbībai starp attiecīgajām iestādēm, kuras iesaistītas “smilškastu” uzraudzībā. Šai regulai jānodrošina juridiskais pamats persondatu , kas savākti citiem nolūkiem , izmantošanai noteiktu AI sistēmu izstrādē vispārības interesēs AI “regulatīvās smilškastes” ietvaros saskaņā ar Regulas (ES) 2016/679 6. panta 4. punktu un Regulas (ES) 2018/1725 6. pantu un neskarot Direktīvas (ES) 2016/680 4. panta 2. punktu. “Smilškastes” dalībniekiem būtu jānodrošina atbilstoši aizsardzības pasākumi un jāsadarbojas ar kompetentajām iestādēm , tostarp sekojot to norādēm un rīkojoties efektīvi un labticīgi , lai mazinātu jebkādus augstus riskus drošībai un pamattiesībām, kas varētu rasties “smilškastē” veiktās izstrādes un eksperimentēšanas gaitā. Kompetentajām iestādēm būtu jāņem vērā dalībnieku rīcība “smilškastē”, lemjot, vai uzlikt administratīvu naudas sodu saskaņā ar Regulas (ES) 2016/679 83. panta 2. punktu un Direktīvas (ES) 2016/680 57. pantu.

(72)

Regulatīvo smilškastu mērķiem vajadzētu būt šādiem: izveidotājām iestādēm palielināt izpratni par tehnisko attīstību, uzlabot uzraudzības metodes un sniegt norādījumus MI sistēmu izstrādātājiem un sagādātājiem, lai panāktu regulatīvo atbilstību šai regulai vai attiecīgā gadījumā citiem piemērojamiem Savienības un dalībvalstu tiesību aktiem , kā arī Pamattiesību hartai; potenciālajiem sagādātājiem atļaut un atvieglot ar MI sistēmām saistītu inovatīvu risinājumu testēšanu un izstrādi pirmstirdzniecības posmā , lai uzlabotu juridisko noteiktību, nodrošinātu lielāku regulatīvo mācīšanos, izveidojot iestādes kontrolētā vidē, nolūkā izstrādāt labākus norādījumus un apzināt iespējamus tiesiskā regulējuma uzlabojumus nākotnē, izmantojot parasto likumdošanas procedūru. Būtiski riski, kas konstatēti šādu MI sistēmu izstrādes un testēšanas laikā, būtu nekavējoties jāsamazina un , ja tas neizdodas , izstrādes un testēšanas procesu uz šādu risku mazināšanas laiku būtu jāaptur. Lai nodrošinātu vienotu īstenošanu visā Savienībā un apjomradītus ietaupījumus, ir lietderīgi noteikt kopīgus noteikumus regulatīvo smilškastu īstenošanai un sistēmu sadarbībai starp attiecīgajām iestādēm, kuras iesaistītas smilškastu uzraudzībā. Dalībvalstīm būtu jānodrošina , ka regulatīvās smilškastes ir plaši pieejamas visā Savienībā , savukārt līdzdalībai arī turpmāk vajadzētu būt brīvprātīgai. Jo īpaši svarīgi ir nodrošināt, ka MVU un jaunuzņēmumi var viegli piekļūt šīm smilškastēm, kā arī aktīvi iesaistās un piedalās inovatīvu MI sistēmu izstrādē un testēšanā, lai varētu dalīties ar savu zinātību un pieredzi .

(72a)

Šai regulai būtu jānodrošina juridiskais pamats persondatu, kas savākti citiem nolūkiem, izmantošanai noteiktu MI sistēmu izstrādē vispārības interesēs MI regulatīvajā smilškastē saskaņā ar Regulas (ES) 2016/679 6. panta 4. punktu un Regulas (ES) 2018/1725 6. pantu un neskarot Direktīvas (ES) 2016/680 4. panta 2. punktu. Potenciālajiem sagādātājiem smilškastē būtu jānodrošina atbilstoši aizsardzības pasākumi un jāsadarbojas ar kompetentajām iestādēm, tostarp sekojot to norādēm un rīkojoties efektīvi un labticīgi, lai mazinātu jebkādus augstus riskus drošībai, veselībai, videi un pamattiesībām, kas varētu rasties smilškastē veiktās izstrādes un eksperimentēšanas gaitā. Kompetentajām iestādēm būtu jāņem vērā potenciālo sagādātāju rīcība smilškastē, lemjot par to, vai uz laiku apturēt vai pavisam izbeigt to dalību smilškastē, vai uzlikt administratīvu naudas sodu saskaņā ar Regulas (ES) 2016/679 83. panta 2. punktu un Direktīvas (ES) 2016/680 57. pantu.

(72b)

Lai nodrošinātu, ka mākslīgais intelekts dod sociāli un videi labvēlīgus rezultātus, dalībvalstīm būtu jāatbalsta un jāveicina MI pētniecība un attīstība, atbalstot sociāli un videi labvēlīgus rezultātus, piešķirot pietiekamus resursus, tostarp valsts un Savienības finansējumu, un piešķirot prioritāru piekļuvi regulatīvajām smilškastēm pilsoniskās sabiedrības virzītiem projektiem. Šādu projektu pamatā vajadzētu būt starpdisciplināras sadarbības principam starp MI izstrādātājiem, ekspertiem nevienlīdzības un nediskriminācijas, pieejamības, patērētāju, vides un digitālo tiesību jautājumos, kā arī akadēmiskajām aprindām.

(73)

Inovācijas veicināšanas un aizsardzības nolūkā ir svarīgi īpaši ņemt vērā AI sistēmu mazapjoma sagādātāju un lietotāju intereses. Šā mērķa sasniegšanai dalībvalstīm būtu jāizstrādā iniciatīvas, kas ir vērstas uz šiem operatoriem, arī saistībā ar izpratnes veicināšanu un informēšanu. Turklāt mazapjoma sagādātāju intereses un vajadzības pieteiktajām struktūrām būtu jāņem vērā, nosakot maksu par atbilstības novērtēšanu. Ar obligāto dokumentāciju un saziņu ar iestādēm saistītie tulkošanas izdevumi var radīt ievērojamas izmaksas sagādātājiem un citiem ekonomikas dalībniekiem, īpaši mazākiem. Iespējams, ka dalībvalstīm vajadzētu nodrošināt, ka viena no valodām, ko tās nosaka un pieņem kā valodu attiecīgās sagādātāju dokumentācijas sagatavošanai un saziņai ar operatoriem, ir valoda, kuru plaši saprot pēc iespējas lielāks pārrobežu lietotāju skaits.

(73)

Inovācijas veicināšanas un aizsardzības nolūkā ir svarīgi īpaši ņemt vērā MI sistēmu mazapjoma sagādātāju un lietotāju intereses. Šā mērķa sasniegšanai dalībvalstīm būtu jāizstrādā iniciatīvas, kas ir vērstas uz šiem operatoriem, arī saistībā ar MI pratību, izpratnes veicināšanu un informēšanu. Dalībvalstīm būtu jāizmanto esošie kanāli un vajadzības gadījumā jāizveido jauni īpaši kanāli saziņai ar MVU, jaunuzņēmumiem, lietotājiem un citiem inovatoriem, lai sniegtu norādījumus un atbildētu uz jautājumiem par šīs regulas īstenošanu. Šādi esošie kanāli citu starpā varētu būt ENISA datordrošības incidentu reaģēšanas vienības, nacionālās datu aizsardzības aģentūras, platforma “MI pēc pieprasījuma”, Eiropas digitālās inovācijas centri un citi relevanti instrumenti, ko finansē no ES programmām, kā arī testēšanas un eksperimentēšanas kompleksi, kurus Komisija un dalībvalstis izveidojušas valsts vai Savienības līmenī. Attiecīgā gadījumā šiem kanāliem būtu jāsadarbojas, lai radītu sinerģijas un nodrošinātu, ka to norādījumi jaunuzņēmumiem, MVU un lietotājiem ir viendabīgi. Turklāt mazapjoma sagādātāju intereses un vajadzības pieteiktajām struktūrām būtu jāņem vērā, nosakot maksu par atbilstības novērtēšanu. Komisijai būtu regulāri jānovērtē MVU un jaunuzņēmumu sertifikācijas un atbilstības nodrošināšanas izmaksas, arī pārredzamās apspriedēs ar MVU, jaunuzņēmumiem un lietotājiem, un jāsadarbojas ar dalībvalstīm, lai šādas izmaksas samazinātu. Piemēram, ar obligāto dokumentāciju un saziņu ar iestādēm saistītie tulkošanas izdevumi var radīt ievērojamas izmaksas sagādātājiem un citiem ekonomikas dalībniekiem, īpaši mazākiem. Iespējams, ka dalībvalstīm vajadzētu nodrošināt, ka viena no valodām, ko tās nosaka un pieņem kā valodu attiecīgās sagādātāju dokumentācijas sagatavošanai un saziņai ar operatoriem, ir valoda, kuru plaši saprot pēc iespējas lielāks pārrobežu lietotāju skaits. Vidējiem uzņēmumiem, kuru kategorija nesen mainījusies no mazo uzņēmumu uz vidējo uzņēmumu kategoriju Ieteikuma 2003/361/EK pielikuma (16. pants) nozīmē, vajadzētu būt piekļuvei šīm iniciatīvām un norādījumiem laikposmā, ko dalībvalstis uzskata par piemērotu, jo šiem jaunajiem vidējiem uzņēmumiem dažkārt var trūkt juridisko resursu un apmācības, kas vajadzīga, lai nodrošinātu pienācīgu izpratni un noteikumu ievērošanu.

(74)

Lai minimalizētu ar īstenošanu saistītos riskus, kas izriet no zināšanu un zinātības trūkuma tirgū, kā arī veicinātu sagādātāju un pieteikto struktūru pienākumu izpildi saskaņā ar šo regulu, platformai “MI pēc pieprasījuma”, Eiropas digitālās inovācijas centriem un testēšanas un eksperimentēšanas struktūrām, kuras Komisija un dalībvalstis izveidojušas valstu vai Savienības līmenī, iespējams, būtu jāpalīdz šīs regulas īstenošanā. Minētās iestādes savu attiecīgo uzdevumu un kompetences ietvaros varētu nodrošināt tehnisko un zinātnisko atbalstu sagādātājiem un pieteiktajām struktūrām.

(74)

Lai minimalizētu ar īstenošanu saistītos riskus, kas izriet no zināšanu un zinātības trūkuma tirgū, kā arī veicinātu sagādātāju un pieteikto struktūru pienākumu izpildi saskaņā ar šo regulu, platformai “MI pēc pieprasījuma”, Eiropas digitālās inovācijas centriem un testēšanas un eksperimentēšanas struktūrām, kuras Komisija un dalībvalstis izveidojušas valstu vai Savienības līmenī, būtu jāpalīdz šīs regulas īstenošanā. Minētās iestādes savu attiecīgo uzdevumu un kompetences ietvaros varētu nodrošināt tehnisko un zinātnisko atbalstu sagādātājiem un pieteiktajām struktūrām.

(76)

Lai sekmētu netraucētu , efektīvu un saskaņotu šīs regulas īstenošanu, būtu jāizveido Eiropas Mākslīgā intelekta padome (“AI padome”) . AI padome atbildētu par vairākiem padomdošanas uzdevumiem, ieskaitot atzinumu, ieteikumu, padomu vai pamatnostādņu izdošanu jautājumos, kas saistīti ar šīs regulas īstenošanu, tostarp par tehniskajām specifikācijām vai pašreizējiem standartiem attiecībā uz šajā regulā noteiktajām prasībām , kā arī par Komisijas konsultēšanu un palīdzību tai specifiskos mākslīgā intelekta jautājumos.

(76)

Lai nepieļautu sadrumstalošanos, nodrošinātu optimālu vienotā tirgus darbību , nodrošinātu rezultatīvu un saskaņotu šīs regulas īstenošanu, lai visā Savienībā panāktu augsta līmeņa uzticamību un veselības, drošības, pamattiesību, vides, demokrātijas un tiesiskuma aizsardzību attiecībā uz MI sistēmām, lai aktīvi atbalstītu dalībvalstu uzraudzības iestādes, Savienības iestādes, struktūras, birojus un aģentūras jautājumos, kas saistīti ar šo regulu, un lai palielinātu mākslīgā intelekta ieviešanos visā Savienībā, būtu jāizveido Eiropas Savienības Mākslīgā intelekta birojs . MI birojam vajadzētu būt juridiskas personas statusam, būtu jādarbojas pilnīgi neatkarīgi, tam vajadzētu būt atbildīgam par vairākiem konsultāciju un koordinācijas uzdevumiem, tostarp atzinumu, ieteikumu, konsultāciju vai norādījumu sniegšanu jautājumos, kas saistīti ar šīs regulas īstenošanu, un tam vajadzētu būt pienācīgam finansējumam un personālam. Dalībvalstīm būtu jānodrošina MI biroja stratēģiskā virzība un kontrole, izmantojot MI biroja valdi, līdztekus Komisijai, EDAU, FRA un ENISA. Izpilddirektoram vajadzētu būt atbildīgam par MI biroja sekretariāta darbību pārvaldību un MI biroja pārstāvēšanu. Ieinteresētajām personām būtu oficiāli jāpiedalās MI biroja darbā, darbojoties padomdevēju forumā, kas nodrošinātu līdzsvarotu dažādu ieinteresēto personu pārstāvību un konsultētu MI biroju attiecīgos ar šo regulu saistītos jautājumos. Ja ar MI biroja izveidi nepietiek, lai nodrošinātu pilnīgi konsekventu šīs regulas piemērošanu Savienības līmenī, kā arī efektīvus pārrobežu izpildes panākšanas pasākumus, būtu jāapsver MI aģentūras izveide.

(77)

Dalībvalstīm ir būtiska loma šīs regulas piemērošanā un izpildē. Šajā ziņā katrai dalībvalstij būtu jānorīko viena vai vairākas valsts kompetentās iestādes šīs regulas piemērošanas un īstenošanas uzraudzībai. Lai vairotu dalībvalstu organizatorisku efektivitāti un izveidotu oficiālu kontaktpunktu saziņai ar sabiedrību un citiem partneriem dalībvalstu un Savienības līmenī , viena valsts iestāde katrā dalībvalstī būtu jāieceļ par valsts uzraudzības iestādi .

(77)

Katrai dalībvalstij būtu jānorīko valsts kompetentā iestāde šīs regulas piemērošanas un īstenošanas uzraudzībai. Tai būtu arī jāpārstāv sava dalībvalsts MI biroja valdē. Lai vairotu dalībvalstu organizatorisko efektivitāti un izveidotu oficiālu kontaktpunktu saziņai ar sabiedrību un citiem partneriem dalībvalstu un Savienības līmenī . Katra valsts uzraudzības iestāde , pildot savus uzdevumus un īstenojot savas pilnvaras saskaņā ar šo regulu, rīkojas pilnīgi neatkarīgi .

(77a)

Valstu uzraudzības iestādēm būtu jāseko līdzi šīs regulas noteikumu piemērošanai un jāveicina tās konsekventa piemērošana visā Savienībā. Šajā nolūkā valstu uzraudzības iestādēm būtu jāsadarbojas citai ar citu, ar relevantajām valstu kompetentajām iestādēm, Komisiju un MI biroju.

(77b)

Katras uzraudzības iestādes loceklim vai personālam saskaņā ar Savienības vai valsts tiesību aktiem būtu jāievēro pienākums glabāt dienesta noslēpumu gan amata pilnvaru laikā, gan pēc pilnvaru termiņa beigām attiecībā uz jebkādu konfidenciālu informāciju, ko tie ir ieguvuši, pildot savus amata pienākumus vai īstenojot pilnvaras. Pilnvaru laikā minētajam pienākumam glabāt dienesta noslēpumu būtu jo īpaši jāattiecas uz komercnoslēpumiem un fizisku personu ziņojumiem par šīs regulas pārkāpumiem.

(78)

Lai nodrošinātu, ka augsta riska AI sistēmu sagādātāji pieredzi minēto sistēmu izmantošanā var ņemt vērā, uzlabojot savas sistēmas un projektēšanas un izstrādes procesu, vai savlaicīgi veikt iespējamus korektīvos pasākumus, visiem sagādātājiem būtu jāizveido pēctirgus uzraudzības sistēma. Minētā sistēma ir svarīga arī, lai varētu efektīvi un savlaicīgi novērst iespējamos riskus, kas rodas, AI sistēmām turpinot “mācīties” pēc to laišanas tirgū vai nodošanas ekspluatācijā. Šajā kontekstā būtu jānosaka, ka sagādātājiem ir jāizveido sistēma ar mērķi paziņot attiecīgajām iestādēm par to AI sistēmu izmantošanas izraisītiem nopietniem incidentiem vai pārkāpumiem attiecībā uz valsts un Savienības tiesību aktiem, kuri aizsargā pamattiesības.

(78)

Lai nodrošinātu, ka augsta riska MI sistēmu sagādātāji pieredzi minēto sistēmu izmantošanā var ņemt vērā, uzlabojot savas sistēmas un projektēšanas un izstrādes procesu, vai savlaicīgi veikt iespējamus korektīvos pasākumus, visiem sagādātājiem būtu jāizveido pēctirgus uzraudzības sistēma. Minētā sistēma ir svarīga arī, lai varētu efektīvi un savlaicīgi novērst iespējamos riskus, kas rodas, MI sistēmām turpinot “mācīties” vai attīstīties pēc to laišanas tirgū vai nodošanas ekspluatācijā. Šajā kontekstā būtu jānosaka, ka sagādātājiem ir jāizveido sistēma ar mērķi paziņot attiecīgajām iestādēm par to MI sistēmu izmantošanas izraisītiem nopietniem incidentiem vai pārkāpumiem attiecībā uz valsts un Savienības tiesību aktiem, tostarp tiem, kuri aizsargā pamattiesības un patērētāju tiesības, un veikt pienācīgas korektīvās darbības . Ieviesējiem būtu arī jāziņo relevantajām iestādēm par jebkuriem nopietniem incidentiem vai valsts un Savienības tiesību aktu pārkāpumiem, kuri izriet no to MI sistēmas izmantošanas, kad viņi uzzina par šādiem nopietniem incidentiem vai pārkāpumiem.

(79)

Lai nodrošinātu šajā regulā, kas ir Savienības saskaņošanas tiesību akts, noteikto prasību un pienākumu pienācīgu un iedarbīgu izpildi, ar Regulu (ES) 2019/1020 izveidotā tirgus uzraudzības un produktu atbilstības sistēma būtu jāpiemēro pilnā mērā. Kad tas nepieciešams to pilnvaru īstenošanai, valstu publiskā sektora iestādēm vai struktūrām, tostarp līdztiesības iestādēm, kuras uzrauga Savienības tiesību aktu, kuri aizsargā pamattiesības, piemērošanu, vajadzētu būt piekļuvei jebkādai dokumentācijai, kas radīta saskaņā ar šo regulu.

(79)

Lai nodrošinātu šajā regulā, kas ir Savienības saskaņošanas tiesību akts, noteikto prasību un pienākumu pienācīgu un iedarbīgu izpildi, ar Regulu (ES) 2019/1020 izveidotā tirgus uzraudzības un produktu atbilstības sistēma būtu jāpiemēro pilnā mērā. Šīs regulas nolūkos valstu uzraudzības iestādēm būtu jādarbojas kā tirgus uzraudzības iestādēm attiecībā uz MI sistēmām, uz kurām šī regula attiecas, izņemot MI sistēmas, uz kurām attiecas šīs regulas II pielikums. Attiecībā uz MI sistēmām, uz kurām attiecas II pielikumā uzskaitītie tiesību akti, minēto tiesību aktu kompetentajām iestādēm arī turpmāk vajadzētu būt vadošajām iestādēm. II pielikumā uzskaitīto tiesību aktu valstu uzraudzības iestādēm un kompetentajām iestādēm vajadzības gadījumā būtu jāsadarbojas. Vajadzības gadījumā II pielikumā uzskaitīto tiesību aktu kompetentajām iestādēm būtu jāsūta kompetenti darbinieki uz valsts uzraudzības iestādi, lai palīdzētu tās uzdevumu izpildē. Šīs regulas nolūkos valstu uzraudzības iestādēm vajadzētu būt tādām pašām pilnvarām un pienākumiem kā tirgus uzraudzības iestādēm saskaņā ar Regulu (ES) 2019/1020. Kad tas nepieciešams to pilnvaru īstenošanai, valstu publiskā sektora iestādēm vai struktūrām, tostarp līdztiesības iestādēm, kuras uzrauga Savienības tiesību aktu, kuri aizsargā pamattiesības, piemērošanu, vajadzētu būt piekļuvei jebkādai dokumentācijai, kas radīta saskaņā ar šo regulu. Pēc tam, kad ir izsmelti visi citi saprātīgie līdzekļi, kā novērtēt/verificēt atbilstību, un pēc pamatota pieprasījuma valsts uzraudzības iestādei būtu jāpiešķir piekļuve augsta riska MI sistēmas apmācības, validēšanas un testēšanas datu kopām, apmācītajam un apmācības modelim, ieskaitot tās relevantos modeļa parametrus un to izpildes/darbības vidi. Kad runa ir par vienkāršākām programmatūras sistēmām, uz kurām attiecas šī regula un kuru pamatā nav apmācīti modeļi, un ja ir izsmelti visi citi atbilstības verifikācijas līdzekļi, valsts uzraudzības iestāde izņēmuma kārtā pēc pamatota pieprasījuma var piekļūt pirmkodam. Ja valsts uzraudzības iestādei ir piešķirta piekļuve apmācības, validēšanas un testēšanas datu kopām saskaņā ar šo regulu, šāda piekļuve būtu jāpanāk, izmantojot piemērotus tehniskos līdzekļus un rīkus, ieskaitot piekļuvi uz vietas un — ārkārtējos apstākļos — attālinātu piekļuvi. Valsts uzraudzības iestādei visa iegūtā informācija, attiecīgi ieskaitot pirmkodu, programmatūru un datus, būtu jāapstrādā kā konfidenciāla informācija un būtu jāievēro relevantie Savienības tiesību akti par intelektuālā īpašuma un komercnoslēpumu aizsardzību. Pēc izmeklēšanas pabeigšanas valsts uzraudzības iestādei visa iegūtā informācija būtu jādzēš.

(80)

Savienības tiesību akti finansiālo pakalpojumu jomā ietver iekšējās pārvaldes un riska pārvaldības noteikumus un prasības, kuras attiecas uz regulētām finanšu iestādēm minēto pakalpojumu sniegšanas gaitā, arī tad, kad tās izmanto AI sistēmas. Lai nodrošinātu šajā regulā noteikto pienākumu un Savienības finanšu pakalpojumu tiesību aktu attiecīgo noteikumu un prasību saskaņotu piemērošanu un izpildi, par finanšu pakalpojumu tiesību aktu uzraudzību un izpildi atbildīgās iestādes, tostarp attiecīgos gadījumos Eiropas Centrālā Banka, būtu jāieceļ par kompetentajām iestādēm šīs regulas īstenošanas uzraudzībai, ieskaitot tirgus uzraudzības pasākumus, attiecībā uz AI sistēmām, kuras sagādā vai izmanto regulētas un uzraudzītas finanšu iestādes. Lai vēl vairāk uzlabotu saskaņotību starp šo regulu un noteikumiem, kuri attiecas uz kredītiestādēm, kas regulētas saskaņā ar Eiropas Parlamenta un Padomes Direktīvu 2013/36/ES (56), ir lietderīgi atbilstības novērtēšanas procedūru un dažus sagādātāju procesuālos pienākumus saistībā ar riska pārvaldību, pēctirgus uzraudzību un dokumentāciju integrēt arī pašreizējos pienākumos un procedūrās, kas noteiktas Direktīvā 2013/36/ES. Lai novērstu pārklāšanos, būtu jāparedz arī ierobežotas atkāpes attiecībā uz sagādātāju kvalitātes vadības sistēmām un uzraudzības pienākumiem, kas noteikti augsta riska AI sistēmu lietotājiem , ciktāl tie attiecas uz Direktīvas 2013/36/ES regulētajām kredītiestādēm.

(80)

Savienības tiesību akti finansiālo pakalpojumu jomā ietver iekšējās pārvaldes un riska pārvaldības noteikumus un prasības, kuras attiecas uz regulētām finanšu iestādēm minēto pakalpojumu sniegšanas gaitā, arī tad, kad tās izmanto MI sistēmas. Lai nodrošinātu šajā regulā noteikto pienākumu un Savienības finanšu pakalpojumu tiesību aktu attiecīgo noteikumu un prasību saskaņotu piemērošanu un izpildi, par finanšu pakalpojumu tiesību aktu uzraudzību un izpildi atbildīgās kompetentās iestādes, tostarp attiecīgos gadījumos Eiropas Centrālā Banka, būtu jāieceļ par kompetentajām iestādēm šīs regulas īstenošanas uzraudzībai, ieskaitot tirgus uzraudzības pasākumus, attiecībā uz MI sistēmām, kuras sagādā vai izmanto regulētas un uzraudzītas finanšu iestādes. Lai vēl vairāk uzlabotu saskaņotību starp šo regulu un noteikumiem, kuri attiecas uz kredītiestādēm, kas regulētas saskaņā ar Eiropas Parlamenta un Padomes Direktīvu 2013/36/ES (56), ir lietderīgi atbilstības novērtēšanas procedūru un dažus sagādātāju procesuālos pienākumus saistībā ar riska pārvaldību, pēctirgus uzraudzību un dokumentāciju integrēt arī pašreizējos pienākumos un procedūrās, kas noteiktas Direktīvā 2013/36/ES. Lai novērstu pārklāšanos, būtu jāparedz arī ierobežotas atkāpes attiecībā uz sagādātāju kvalitātes vadības sistēmām un uzraudzības pienākumiem, kas noteikti augsta riska MI sistēmu ieviesējiem , ciktāl tie attiecas uz Direktīvas 2013/36/ES regulētajām kredītiestādēm.

(80a)

Ņemot vērā šīs regulas mērķus, proti, nodrošināt fizisku personu veselības, drošības un pamattiesību līdzvērtīgu aizsardzības līmeni un nodrošināt tiesiskuma un demokrātijas aizsardzību, un ņemot vērā, ka MI sistēmas riska mazināšanu pret šādām tiesībām nevar pietiekami sasniegt valsts līmenī vai to var interpretēt atšķirīgi, kas galu galā varētu novest pie nevienmērīga fizisko personu aizsardzības līmeņa un radīt tirgus sadrumstalotību, valstu uzraudzības iestādēm vajadzētu būt pilnvarotām veikt kopīgas izmeklēšanas vai izmantot šajā regulā paredzēto Savienības drošības procedūru, lai rezultatīvi panāktu izpildi. Kopīgas izmeklēšanas būtu jāsāk, ja valsts uzraudzības iestādei ir pietiekams pamats uzskatīt, ka šīs regulas pārkāpums ir plašas ietekmes pārkāpums vai plašas ietekmes pārkāpums ar Savienības dimensiju, vai ja MI sistēma vai pamata modelis rada risku, kas skar vai, ticamākais, skars vismaz 45 miljonus cilvēku vairāk nekā vienā dalībvalstī.

(82)

Ir svarīgi, lai ar produktiem saistītas AI sistēmas, kuras nav augsta riska sistēmas saskaņā ar šo regulu un kurām līdz ar to nav jāatbilst šajā regulā noteiktajām prasībām, tomēr būtu drošas, kad tās tiek laistas tirgū vai nodotas ekspluatācijā. Minētā mērķa sekmēšanas nolūkā Eiropas Parlamenta un Padomes Direktīva 2001/95/EK (57) tiktu piemērota kā drošības tīkls.

(82)

Ir svarīgi, lai ar produktiem saistītas MI sistēmas, kuras nav augsta riska sistēmas saskaņā ar šo regulu un kurām līdz ar to nav jāatbilst augsta riska MI sistēmām noteiktajām prasībām, tomēr būtu drošas, kad tās tiek laistas tirgū vai nodotas ekspluatācijā. Minētā mērķa sekmēšanas nolūkā Eiropas Parlamenta un Padomes Direktīva 2001/95/EK (57) tiktu piemērota kā drošības tīkls.

(83)

Lai nodrošinātu uzticēšanās pilnu un konstruktīvu sadarbību starp kompetentajām iestādēm Savienības un valstu līmenī, visām šīs regulas piemērošanā iesaistītajām personām būtu jāievēro savu uzdevumu veikšanas gaitā iegūtās informācijas un datu konfidencialitāte .

(83)

Lai nodrošinātu uzticēšanās pilnu un konstruktīvu sadarbību starp kompetentajām iestādēm Savienības un valstu līmenī, visām šīs regulas piemērošanā iesaistītajām pusēm būtu jācenšas panākt pārredzamību un atklātību, vienlaikus ievērojot savu uzdevumu veikšanas gaitā iegūtās informācijas un datu konfidencialitāti, kas darāms, ieviešot tehniskus un organizatoriskus pasākumus, kuri aizsargā darbību gaitā iegūtās informācijas drošību, arī attiecībā uz intelektuālā īpašuma tiesībām un sabiedrības un valsts drošības interesēm . Ja Komisijas, valstu kompetento iestāžu un saskaņā ar šo regulu pieteikto struktūru darbības rezultātā tiek pārkāptas intelektuālā īpašuma tiesības, dalībvalstīm būtu jāparedz adekvāti pasākumi un tiesiskās aizsardzības līdzekļi, ar ko nodrošināt intelektuālā īpašuma tiesību izpildi, piemērojot Direktīvu 2004/48/EK.

(84)

Dalībvalstīm jāveic šīs regulas noteikumu īstenošanas nodrošināšanai nepieciešamie pasākumi, tostarp jānosaka iedarbīgi, samērīgi un atturoši sodi par noteikumu pārkāpumiem. Dažu specifisku pārkāpumu gadījumā dalībvalstīm jāņem vērā šajā regulā noteiktās robežas un kritēriji . Eiropas Datu aizsardzības uzraudzītājam jābūt pilnvarotam uzlikt naudas sodus Savienības iestādēm, aģentūrām un struktūrām, uz kurām attiecas šī regula.

(84)

Šīs regulas ievērošanas nodrošināšanas nolūkā valsts uzraudzības iestādei vajadzētu būt iespējai piemērot naudas sodus, kad tā veic procedūras saskaņā ar šajā regulā noteikto procedūru. Dalībvalstīm jāveic šīs regulas noteikumu īstenošanas nodrošināšanai nepieciešamie pasākumi, tostarp jānosaka iedarbīgi, samērīgi un atturoši sodi par noteikumu pārkāpumiem. Lai stiprinātu un saskaņotu administratīvos sodus par šīs regulas pārkāpumiem, būtu jānosaka maksimālais administratīvo naudas sodu apmērs par konkrētiem specifiskiem pārkāpumiem. Novērtējot naudas sodu apmēru, valstu kompetentajām iestādēm katrā atsevišķā gadījumā būtu jāņem vērā visi relevantie konkrētās situācijas apstākļi, pienācīgi ņemot vērā īpaši pārkāpuma veidu, smagumu un ilgumu un tā sekas, kā arī sagādātāja lielumu, sevišķi tad, ja sagādātājs ir MVU vai jaunuzņēmums . Eiropas Datu aizsardzības uzraudzītājam jābūt pilnvarotam uzlikt naudas sodus Savienības iestādēm, aģentūrām un struktūrām, uz kurām attiecas šī regula. Uz šajā regulā paredzētajiem sodiem un tiesvedības izmaksām nebūtu jāattiecina līguma klauzulas vai citas vienošanās.

(84a)

Tā kā MI sistēmas var nopietni apdraudēt fizisku un juridisku personu un fizisku personu grupu tiesības un brīvības, ir izšķirīgi svarīgi nodrošināt, ka fiziskām un juridiskām personām un fizisku personu grupām ir jēgpilna piekļuve ziņošanas un atlīdzināšanas mehānismiem un ka tām ir tiesības piekļūt samērīgiem un efektīviem tiesiskās aizsardzības līdzekļiem. Tām vajadzētu būt iespējai ziņot savas valsts uzraudzības iestādei par šīs regulas pārkāpumiem un būt tiesīgām iesniegt sūdzību par MI sistēmu sagādātājiem vai ieviesējiem. Attiecīgā gadījumā ieviesējiem būtu jānodrošina iekšējie sūdzību izskatīšanas mehānismi, ko var izmantot fiziskas un juridiskas personas vai fizisku personu grupas. Neskarot citus administratīvus vai ārpustiesas tiesību aizsardzības līdzekļus, fiziskām un juridiskām personām un fizisku personu grupām vajadzētu būt arī tiesībām uz efektīvu tiesisko aizsardzību attiecībā uz juridiski saistošu valsts uzraudzības iestādes lēmumu, kas attiecas uz tām, vai ja valsts uzraudzības iestāde neizskata sūdzību, neinformē sūdzības iesniedzēju par iesniegtās sūdzības virzību vai provizorisko iznākumu vai nepilda savu pienākumu pieņemt galīgo lēmumu attiecībā uz sūdzību.

(84b)

Skartās personas vienmēr būtu jāinformē, ka uz tām attiecas augsta riska MI sistēmas izmantošana, ja ieviesēji izmanto augsta riska MI sistēmu, lai palīdzētu pieņemt lēmumus vai pieņemtu lēmumus par fiziskām personām. Šī informācija var kalpot par pamatu tam, lai skartās personas varētu izmantot savas tiesības uz paskaidrojumu saskaņā ar šo regulu. Ja ieviesēji skartajām personām sniedz paskaidrojumu saskaņā ar šo regulu, tiem būtu jāņem vērā vidusmēra patērētāja vai indivīda zinātība un zināšanas.

(84c)

Savienības tiesību akti par trauksmes cēlēju aizsardzību (Direktīva (ES) 2019/1937) pilnībā attiecas uz akadēmiķiem, projektētājiem, izstrādātājiem, projektu veicinātājiem, revidentiem, produktu vadītājiem, inženieriem un ekonomikas dalībniekiem, kuri iegūst informāciju par Savienības tiesību aktu pārkāpumiem, ko izdara MI sistēmas sagādātājs vai tā MI sistēma.

(85)

Lai nodrošinātu, ka tiesisko regulējumu vajadzības gadījumā iespējams pielāgot, būtu jāpiešķir Komisijai pilnvaras pieņemt aktus saskaņā ar LESD 290. pantu ar mērķi grozīt I pielikumā minētās metodes un pieejas AI sistēmu definēšanai, II pielikumā uzskaitītos Savienības saskaņošanas tiesību aktus, augsta riska AI sistēmu sarakstu III pielikumā, noteikumus par IV pielikumā uzskaitīto tehnisko dokumentāciju, V pielikumā iekļautās ES atbilstības deklarācijas saturu, noteikumus par VI un VII pielikumā minētajām atbilstības novērtēšanas procedūrām un noteikumus, ar ko nosaka augsta riska AI sistēmas, kurām būtu jāpiemēro atbilstības novērtēšanas procedūra, pamatojoties uz kvalitātes vadības sistēmas un tehniskās dokumentācijas novērtēšanu. Ir īpaši būtiski, lai Komisija, veicot sagatavošanas darbus, rīkotu attiecīgas apspriešanās, tostarp ekspertu līmenī, un lai minētās apspriešanās tiktu rīkotas saskaņā ar principiem, kas noteikti 2016. gada 13. aprīļa Iestāžu nolīgumā par labāku likumdošanas procesu (58). Proti , lai deleģēto aktu sagatavošanā nodrošinātu vienādu dalību, Eiropas Parlaments un Padome visus dokumentus saņem vienlaicīgi ar dalībvalstu ekspertiem, un minēto iestāžu ekspertiem ir sistemātiska piekļuve Komisijas ekspertu grupu sanāksmēm, kurās notiek deleģēto aktu sagatavošana.

(85)

Lai nodrošinātu, ka tiesisko regulējumu vajadzības gadījumā iespējams pielāgot, būtu jādeleģē Komisijai pilnvaras pieņemt aktus saskaņā ar LESD 290. pantu ar mērķi grozīt II pielikumā uzskaitītos Savienības saskaņošanas tiesību aktus, augsta riska MI sistēmu sarakstu III pielikumā, noteikumus par IV pielikumā uzskaitīto tehnisko dokumentāciju, V pielikumā iekļautās ES atbilstības deklarācijas saturu, noteikumus par VI un VII pielikumā minētajām atbilstības novērtēšanas procedūrām un noteikumus, ar ko nosaka augsta riska MI sistēmas, kurām būtu jāpiemēro atbilstības novērtēšanas procedūra, pamatojoties uz kvalitātes vadības sistēmas un tehniskās dokumentācijas novērtēšanu. Ir īpaši būtiski, lai Komisija, veicot sagatavošanas darbus, rīkotu atbilstīgas apspriešanās, tostarp ekspertu līmenī, un lai minētās apspriešanās tiktu rīkotas saskaņā ar principiem, kas noteikti 2016. gada 13. aprīļa Iestāžu nolīgumā par labāku likumdošanas procesu (58). Šajās apspriedēs būtu jānodrošina līdzsvarota ieinteresēto personu līdzdalība, ieskaitot patērētāju organizācijas, pilsonisko sabiedrību, skarto personu pārstāvošās apvienības, dažādu nozaru un lielumu uzņēmumu pārstāvjus, kā arī pētniekus un zinātniekus. Jo īpaši , lai deleģēto aktu sagatavošanā nodrošinātu vienādu dalību, Eiropas Parlaments un Padome visus dokumentus saņem vienlaicīgi ar dalībvalstu ekspertiem, un minēto iestāžu ekspertiem ir sistemātiska piekļuve Komisijas ekspertu grupu sanāksmēm, kurās notiek deleģēto aktu sagatavošana.

(85a)

Ņemot vērā straujo tehnoloģisko attīstību un nepieciešamo tehnisko zinātību augsta riska MI sistēmu novērtēšanā, Komisijai vismaz reizi gadā, apspriežoties ar MI biroju un relevantajām ieinteresētajām personām, būtu regulāri jāpārskata šīs regulas īstenošana, jo īpaši aizliegtās MI sistēmas, pārredzamības pienākumi un augsta riska jomu un lietojumgadījumu saraksts.

(87a)

Tā kā uzticama informācija par resursu un enerģijas izmantošanu, atkritumu radīšanu un citādu vidisko ietekmi, ko rada mākslīgā intelekta sistēmas un saistītās IKT tehnoloģijas, tostarp programmatūra, aparatūra un jo īpaši datu centri, ir ierobežota, Komisijai būtu jāievieš adekvāta metodika, kā mērīt šīs regulas vidisko ietekmi un rezultativitāti Savienības vides un klimata mērķu kontekstā.

(89)

Saskaņā ar Regulas (ES) 2018/1725 42. panta 2. punktu ir notikusi apspriešanās ar Eiropas Datu aizsardzības uzraudzītāju un Eiropas Datu aizsardzības kolēģiju, kuri […] sniedza atzinumu,

(89)

Saskaņā ar Regulas (ES) 2018/1725 42. panta 2. punktu ir notikusi apspriešanās ar Eiropas Datu aizsardzības uzraudzītāju un Eiropas Datu aizsardzības kolēģiju, kas 2021. gada 18. jūnijā sniedza atzinumu,

1.

(d)

saskaņotus pārredzamības noteikumus par AI sistēmām, kas paredzētas saskarsmei ar fiziskām personām, emociju uztveršanas sistēmām un biometriskās kategorizācijas sistēmām, kā arī AI sistēmām , ko izmanto, lai radītu vai manipulētu ar attēlu, audio vai video saturu ;

(d)

saskaņotus pārredzamības noteikumus par noteiktām MI sistēmām;

(e)

tirgus kontroles un uzraudzības noteikumus.

(e)

tirgus monitoringa, tirgus uzraudzības , pārvaldības un izpildes panākšanas noteikumus;

(ea)

inovācijas atbalsta pasākumus, īpašu uzmanību pievēršot MVU un jaunuzņēmumiem, arī attiecībā uz regulatīvo smilškastu izveidi un mērķorientētiem pasākumiem, ar ko samazināt MVU un jaunuzņēmumu regulatīvo slogu;

(eb)

noteikumus par Savienības Mākslīgā intelekta biroja (MI birojs) izveidi un darbību.

(b)

Savienībā esošu AI sistēmu lietotājiem ;

(b)

MI sistēmu ieviesējiem, kuru iedibinājuma vieta ir Savienībā vai kuri atrodas Savienībā ;

(c)

tādu AI sistēmu sagādātājiem un lietotājiem , kas atrodas trešā valstī, ja sistēmas radītos iznākumus izmanto Savienībā.

(c)

MI sistēmu sagādātājiem un ieviesējiem , kuru iedibinājuma vieta ir trešā valstī vai kuri atrodas trešā valstī, kur saskaņā ar starptautiskajām publiskajām tiesībām piemēro dalībvalsts tiesību aktus vai kur sistēmas radīto rezultātu ir paredzēts izmantot Savienībā;

(ca)

sagādātājiem, kas laiž tirgū vai nodod ekspluatācijā 5. pantā minētas MI sistēmas ārpus Savienības, ja šādu sistēmu sagādātājs vai izplatītājs atrodas Savienībā;

(cb)

MI sistēmu importētājiem un izplatītājiem, kā arī MI sistēmu sagādātāju pilnvarotajiem pārstāvjiem, ja šādi importētāji, izplatītāji vai pilnvarotie pārstāvji ir iedibināti vai atrodas Savienībā;

(cc)

3. panta 8.a punktā definētajām skartajām personām, kuras atrodas Savienībā un kuru veselību, drošību vai pamattiesības negatīvi ietekmē tādas MI sistēmas izmantošana, kas ir laista tirgū vai nodota ekspluatācijā Savienībā.

(a)

Regula (EK) Nr. 300/2008;

(b)

Regula (ES) Nr. 167/2013;

(c)

Regula (ES) Nr. 168/2013;

(d)

Direktīva 2014/90/ES;

(e)

Direktīva (ES) 2016/797;

(f)

Regula (ES) 2018/858;

(g)

Regula (ES) 2018/1139;

(h)

Regula (ES) 2019/2144.

(1)

“mākslīgā intelekta sistēma” (AI sistēma) ir programmatūra , kas izstrādāta, izmantojot vienu vai vairākas I pielikumā uzskaitītās metodes un pieejas , un attiecībā uz cilvēka noteiktu konkrētu mērķu kopumu var radīt tādu iznākumu kā saturs, prognozes, ieteikumi vai lēmumi, kuri ietekmē vidi, ar ko tie mijiedarbojas ;

(1)

“mākslīgā intelekta sistēma” (MI sistēma) ir mašinizēta sistēma , kas izstrādāta tā , lai darbotos ar atšķirīgu autonomijas līmeni , un kas eksplicītiem vai implicītiem mērķiem var radīt tādus iznākumus kā prognozes, ieteikumi vai lēmumi, kuri ietekmē fizisko vai virtuālo vidi ;

(1a)

(1b)

(1c)

(1d)

(1e)

(3)

(4)

“lietotājs” ir fiziska vai juridiska persona, publiskā sektora iestāde, aģentūra vai cita struktūra, kura izmanto AI sistēmu, kas ir tās pārziņā, izņemot gadījumus, kad AI sistēmu izmanto personiskas neprofesionālas darbības veikšanai;

(4)

“ieviesējs” ir fiziska vai juridiska persona, publiskā sektora iestāde, aģentūra vai cita struktūra, kura izmanto MI sistēmu, kas ir tās pārziņā, izņemot gadījumus, kad MI sistēmu izmanto personiskas neprofesionālas darbības veikšanai;

(8)

“operators” ir sagādātājs, lietotājs , pilnvarotais pārstāvis, importētājs vai izplatītājs;

(8)

“operators” ir sagādātājs, ieviesējs , pilnvarotais pārstāvis, importētājs vai izplatītājs;

(8a)

(11)

“nodošana ekspluatācijā” ir AI sistēmas piegāde pirmajai lietošanai tieši lietotājam vai pašu lietošanai Savienības tirgū tai paredzētajam nolūkam;

(11)

“nodošana ekspluatācijā” ir MI sistēmas piegāde pirmajai lietošanai tieši ieviesējam vai pašu lietošanai Savienības tirgū tai paredzētajam nolūkam;