Noteikumi par uzticamu mākslīgo intelektu ES

SVARĪGĀKIE ASPEKTI

Kas ir MI sistēma?

Mākslīgā intelekta sistēma ir mašīnbūvēta sistēma, kas paredzēta darbam ar zināmu autonomijas līmeni un var:

• pielāgoties pēc tās ieviešanas un
• no saņemtajiem ievaddatiem ģenerēt rezultātus, piemēram, prognozes, saturu, ieteikumus vai lēmumus (lai sasniegtu skaidrus vai slēptus mērķus).

Uz risku balstīta pieeja

Tiesību aktos ir izmantota uz risku balstīta pieeja, kas nozīmē, ka jo lielāks ir risks nodarīt kaitējumu sabiedrībai, jo stingrāki ir noteikumi. Regulā MI izmantošana šādās jomās ir definēta kā augsta riska joma, ņemot vērā iespējamo ietekmi uz pamattiesībām, drošību un labklājību:

• drošības sastāvdaļas izstrādājumos, uz kuriem attiecas ES saskaņošanas tiesību akti (vai kā atsevišķi izstrādājum) un kuriem saskaņā ar tiem pašiem ES saskaņošanas tiesību aktiem ir jāveic trešās puses atbilstības novērtējums;
• biometrija, ja to izmanto attālinātai identifikācijai, personu iedalīšanai kategorijās pēc jutīgām pazīmēm (piemēram, rases vai reliģijas) vai emociju atpazīšanai, izņemot gadījumus, kad to izmanto, lai vienkārši pārbaudītu identitāti;
• kritiskā infrastruktūra, kad MI ir drošības komponents tādās jomās kā digitālā infrastruktūra, satiksme, ūdens, gāze, apkure un elektrība;
• izglītība un profesionālā apmācība, tostarp piekļuve izglītībai, mācību rezultātu novērtēšana, izglītības līmeņa novērtēšana vai uzvedības uzraudzība pārbaudījumu laikā;
• nodarbinātība, tostarp darbā pieņemšana, kandidātu atlase, lēmumu pieņemšana par nodarbinātības nosacījumiem (paaugstināšana amatā, atlaišana), uzdevumu sadale vai darba izpildes uzraudzība;
• būtiski pakalpojumi – MI sistēmas, ko izmanto valsts iestādes, lai novērtētu tiesības uz publiskiem pakalpojumiem (veselības aprūpe, pabalsti), kredītu vērtēšanu, apdrošināšanas riska novērtēšanu un prioritāšu noteikšanu ārkārtas situācijās;
• tiesībaizsardzības iestādes – MI sistēmas, ko izmanto, lai novērtētu noziedzības riskus, poligrāfu datus, novērtētu pierādījumu ticamību, prognozētu recidīvu vai profilētu personas kriminālizmeklēšanas vajadzībām;
• migrācija un robežkontrole – MI sistēmas, ko izmanto, lai novērtētu riskus saistībā ar migrāciju, patvēruma un vīzu pieteikumiem vai lai atklātu un identificētu personas migrācijas kontekstā;
• tieslietu un demokrātisko procesu īstenošana – MI sistēmas, ko tiesu iestādes izmanto juridiskai izpētei un interpretācijai, vai sistēmas, kas varētu ietekmēt vēlēšanu rezultātus.

Ar šo regulu aizliedz turpmāk minētās MI darbības, kas rada nepieņemamu riska līmeni.

• Subliminālas vai maldinošas metodes, lai manipulētu ar indivīda vai grupas uzvedību, mazinot viņu spēju pieņemt apzinātus lēmumus un potenciāli nodarot kaitējumu.
• Neaizsargātības izmantošana vecuma, invaliditātes vai sociālekonomiskās situācijas dēļ, lai manipulētu ar indivīdiem vai grupām, tādējādi nodarot potenciālu kaitējumu.
• Sociālā vērtēšana, cilvēku novērtēšana vai klasificēšana, pamatojoties uz uzvedību vai īpašībām, kas rada netaisnīgu attieksmi, kura nav saistīta ar kontekstu, kurā dati tika vākti, vai ir nesamērīga ar uzvedības smagumu.
• Noziedzīga nodarījuma riska novērtēšana, paredzot nozieguma izdarīšanas iespējamību, pamatojoties tikai uz profilēšanu vai personības iezīmēm, izņemot objektīvu, uz faktiem balstītu kriminālizmeklēšanu.
• Sejas atpazīšanas datu bāze, kas iegūta no interneta vai drošības kamerām bez īpašas atlases.
• Emociju izpausmju vērtēšana sensitīvās vietās, piemēram, darbavietās vai izglītības iestādēs, izņemot gadījumus, kad to izmanto medicīniskiem vai drošības mērķiem.
• Biometriskā kategorizācija, kas balstīta uz datiem, lai izdarītu secinājumus par tādiem sensitīviem raksturlielumiem kā rase, reliģija vai politiskie uzskati, izņemot gadījumus, kad tos likumīgi izmanto tiesībaizsardzības nolūkos.
• Tiesībaizsardzības iestāžu publiski reāllaikā veikta identifikācija pēc biometriskajiem datiem, ja vien tas nav absolūti nepieciešams īpašās situācijās (piemēram, pazudušu personu meklēšanas, nenovēršamu draudu novēršanas vai aizdomās turamo par smagiem noziegumiem identificēšanas gadījumos). Tam ir jāievēro stingras juridiskās procedūras, tostarp jāsaņem iepriekšēja atļauja, ir ierobežota darbības joma un drošības pasākumi, lai aizsargātu tiesības un brīvības.

Ar regulu tiek ieviesti informācijas atklāšanas pienākumi gadījumos, kad varētu rasties risks, ko rada pārredzamības trūkums saistībā ar MI izmantošanu:

• MI, kas paredzēts, lai atdarinātu cilvēku (piemēram, tērzēšanas robotam), ir jāinformē cilvēks, ar kuru tas mijiedarbojas;
• ģeneratīvā MI rezultāti mašīnlasāmā veidā ir jānorāda kā mākslīgā intelekta ģenerēti;
• dažos gadījumos ģeneratīvā MI radītie rezultāti, proti, dziļiviltojumi un teksts, kas paredzēts sabiedrības informēšanai par sabiedrībai svarīgiem jautājumiem, ir skaidri jāmarķē.

Visas pārējās MI sistēmas tiek uzskatītas par sistēmām ar ierobežotu risku, un tāpēc regulā nav paredzēti papildu noteikumi.

Lielu MI modeļu uzticama izmantošana

• Vispārējas nozīmes MI modeļi ir tādi MI modeļi, kas ir apmācīti izmantot lielu datu apjomu un var veikt dažādus uzdevumus. Tie var būt MI sistēmu sastāvdaļas.
• Ar regulu tiek ieviesti pārredzamības nodrošināšanas pienākumi šādu vispārējas nozīmes MI modeļu nodrošinātājiem, proti, tehniskā dokumentācija, informācijas sniegšana MI sistēmu lejasposma izstrādātājiem un modeļa apmācībā izmantoto datu atklāšana.
• Visjaudīgākie vispārējas nozīmes MI modeļi var radīt sistēmiskus riskus. Ja modelis atbilst noteiktam spēju slieksnim, šā modeļa nodrošinātājam ir jāizpilda papildu riska pārvaldības un kiberdrošības pienākumi.

Pārvaldība

• Ar regulu tiek izveidotas vairākas pārvaldības struktūras, kas darbosies no 2025. gada 2. augusta:
  • valstu kompetentās iestādes, kuras pārraudzīs un īstenos noteikumus par MI sistēmām;
  • MI birojs Eiropas Komisijā, kas koordinēs vienotu noteikumu saskaņotu piemērošanu visā ES un darbosies kā vispārējas nozīmes MI modeļu regulators.
• ES dalībvalstis un MI birojs cieši sadarbosies MI padomē, kurā darbosies dalībvalstu pārstāvji, lai nodrošinātu konsekventu un efektīvu regulas piemērošanu.
• Ar regulu tiek izveidotas divas padomdevējas struktūras MI birojam un MI padomei:
  • neatkarīgu ekspertu zinātniskā grupa, kas sniegs zinātniskas konsultācijas;
  • konsultatīvais forums ieinteresētajām personām, kas veiks tehnisko ekspertīzi MI padomes un Komisijas vajadzībām.

Sankcijas

Naudas sodi par pārkāpumiem tiek noteikti procentos no pārkāpumu izdarījušā uzņēmuma gada apgrozījuma vai kā iepriekš noteikta summa atkarībā no tā, kura no tām ir lielāka. Maziem un vidējiem uzņēmumiem un jaunuzņēmumiem piemēro proporcionālus administratīvos sodus.

Pārredzamība un pamattiesību aizsardzība

Lielāka pārredzamība attiecas uz augsta riska MI sistēmu izstrādi un izmantošanu:

• pirms publisko pakalpojumu sniedzēji sāk izmantot augsta riska MI sistēmu, ir jāizvērtē tās ietekme uz pamattiesībām;
• augsta riska MI sistēmas un subjekti, kas tās izmanto, ir jāreģistrē ES datubāzē.

Inovācijas

Regula paredz inovācijām labvēlīgu tiesisko regulējumu, un tās mērķis ir veicināt uz pierādījumiem balstītu regulējuma apguvi. Tā paredz MI regulatīvās “smilškastes”, kas nodrošina kontrolētu vidi, kurā var izstrādāt, testēt un apstiprināt inovatīvas MI sistēmas, tostarp reālos apstākļos. Turklāt regula atļauj reālos apstākļos testēt augsta riska MI sistēmas, ievērojot noteiktus nosacījumus.

Novērtēšana un pārskatīšana

Komisija katru gadu izvērtē nepieciešamību veikt grozījumus MI augsta riska lietojumu sarakstā un aizliegto darbību sarakstā. Līdz 2028. gada 2. augustam un pēc tam reizi četros gados Komisija veiks izvērtējumu un ziņos par šādiem jautājumiem:

• augsta riska kategoriju saraksta papildināšana vai paplašināšana;
• grozījumi to MI sistēmu sarakstā, kurām nepieciešami papildu pārredzamības pasākumi;
• grozījumi, lai uzlabotu uzraudzību un pārvaldību.