Patikimo dirbtinio intelekto taisyklės ES

PAGRINDINIAI ASPEKTAI

Kas yra DI sistema?

DI sistema yra mašina grindžiama sistema, suprojektuota veikti įvairiais autonomijos lygiais, kuri:

• po diegimo gali veikti prisitaikydama;
• iš gautos įvesties duomenų daro išvadą, kaip generuoti išvedinius, pavyzdžiui, predikcijas, turinį, rekomendacijas ar sprendimus (siekiant aiškių ar numanomų tikslų).

Rizika grindžiamas požiūris

Teisės akte laikomasi rizika grindžiamo požiūrio, kuris reiškia, kad kuo didesnė žalos visuomenei rizika, tuo griežtesnės taisyklės. Dėl galimo poveikio pagrindinėms teisėms, saugumui ir gerovei reglamente DI naudojimas toliau išvardytose srityse apibrėžiamas kaip keliantis didelę riziką:

• saugos komponentai gaminiuose, kuriems taikomi ES derinamieji teisės aktai (arba kaip atskiri gaminiai) ir kuriems pagal tuos pačius ES derinamuosius teisės aktus turi būti atliktas trečiosios šalies atitikties vertinimas;
• biometrija, kai ji naudojama nuotoliniam tapatybės nustatymui, asmenų kategorizavimui pagal neskelbtinus požymius (pavyzdžiui, rasę ar religiją) arba emocijų atpažinimui, išskyrus atvejus, kai ji naudojama tik tapatybei patvirtinti;
• ypatingos svarbos infrastruktūra, kai DI yra saugos komponentas tokiose srityse kaip skaitmeninė infrastruktūra, eismas, vanduo, dujos, šildymas ir elektra;
• švietimas ir profesinis mokymas, įskaitant švietimo prieinamumo klausimus, mokymosi rezultatų vertinimą, išsilavinimo lygio nustatymą ar elgesio per egzaminus stebėseną;
• užimtumas, įskaitant darbuotojų įdarbinimą, kandidatų atranką, sprendimų dėl darbo sąlygų (paaukštinimo, atleidimo iš darbo) priėmimą, užduočių paskirstymą ar veiklos rezultatų stebėseną;
• pagrindinės paslaugos: DI sistemos, kurias valdžios institucijos naudoja vertindamos teisę gauti viešąsias paslaugas (sveikatos priežiūros, išmokas), kredito reitingą, draudimo riziką ir reagavimo į ekstremalias situacijas prioritetus;
• teisėsauga: DI sistemos, naudojamos nusikaltimų rizikai vertinti, poligrafams, įrodymų patikimumui vertinti, recidyvui prognozuoti arba asmenims profiliuoti atliekant kriminalinius tyrimus;
• migracija ir sienų kontrolė: DI sistemos, naudojamos su migracija, prieglobsčio ir vizų prašymais susijusiai rizikai vertinti arba asmenims migracijos kontekste aptikti ir identifikuoti;
• teisingumo vykdymas ir demokratiniai procesai: DI sistemos, kurias teisminės institucijos naudoja teisiniams tyrimams ir aiškinimui, arba sistemos, kurios galėtų daryti įtaką rinkimų rezultatams.

Reglamentu draudžiama ši nepriimtiną riziką kelianti DI praktika:

• pasąmonę veikiantys ir apgaulės metodai, kuriais siekiama manipuliuoti asmens ar grupės elgesiu, pakenkti jų gebėjimui priimti pagrįstus sprendimus ir galimai padaryti žalos;
• pažeidžiamumų išnaudojimas dėl amžiaus, negalios ar socialinės ir ekonominės padėties, siekiant manipuliuoti asmenimis ar grupėmis, dėl ko gali būti padaryta žala;
• socialinis reitingavimas, žmonių vertinimas ar klasifikavimas pagal elgesį ar savybes, dėl kurio atsiranda neteisingas elgesys, nesusijęs su kontekstu, kuriame buvo renkami duomenys, arba neproporcingas elgesio pavojingumui;
• nusikalstamos veikos rizikos vertinimas, tikimybės padaryti nusikaltimą prognozavimas remiantis tik profiliavimu ar asmenybės bruožais, išskyrus objektyvius, faktais pagrįstus nusikalstamų veikų tyrimus;
• veido atpažinimo duomenų bazės duomenų rinkimas iš interneto arba saugumo kamerų be konkretaus tikslo;
• emocijų nustatymas jautriose vietose, pavyzdžiui, darbo vietose ar švietimo įstaigose, išskyrus atvejus, kai tai daroma dėl medicininių ar saugumo priežasčių;
• biometrinis kategorizavimas pagal duomenis, iš kurių galima nustatyti tokius neskelbtinus požymius kaip rasė, religija ar politinės pažiūros, išskyrus teisėtą naudojimą teisėsaugos tikslais;
• teisėsaugos institucijų atliekamas tikralaikis biometrinis tapatybės nustatymas viešose vietose, išskyrus atvejus, kai tai yra būtina konkrečiose situacijose (pavyzdžiui, ieškant dingusių asmenų, užkertant kelią neišvengiamoms grėsmėms arba nustatant įtariamuosius padarius sunkius nusikaltimus). Tam turi būti taikomos griežtos teisinės procedūros, įskaitant išankstinį leidimą, ribotą taikymo sritį ir teisių bei laisvių apsaugos priemones.

Reglamente nustatomos informacijos atskleidimo pareigos, kai gali kilti rizika dėl nepakankamo skaidrumo naudojant DI:

• DI, skirtas apsimesti žmogumi (pavyzdžiui, pokalbių robotas), turi informuoti žmogų, su kuriuo bendrauja;
• generatyvinio DI išvedinius reikia pažymėti kompiuterio skaitomu formatu kaip DI sugeneruotą turinį;
• tam tikrais atvejais generatyvinio DI išvediniai turi būti matomai pažymėti, t. y. sintetinės sankaitos ir tekstas, skirtas informuoti visuomenę apie visuomenei svarbius dalykus.

Visos kitos DI sistemos laikomos keliančiomis ribotą riziką, todėl reglamente nenustatomos jokios papildomos taisyklės.

Patikimas didelių DI modelių naudojimas

• Bendrosios paskirties DI modeliai – tai DI modeliai, kurie yra apmokyti naudojant didelius duomenų kiekius ir gali atlikti įvairias užduotis. Jie gali būti DI sistemų komponentai.
• Reglamentu nustatomos skaidrumo pareigos tokių bendrosios paskirties DI modelių tiekėjams: techninė dokumentacija, informacijos teikimas tolesniems DI sistemų kūrėjams ir modelio mokymui naudotų duomenų atskleidimas.
• Galingiausi bendrosios paskirties DI modeliai gali kelti sisteminę riziką. Jei modelis atitinka tam tikrą pajėgumų ribinę vertę, to modelio tiekėjas turi vykdyti papildomas rizikos valdymo ir kibernetinio saugumo pareigas.

Valdymas

• Šiuo reglamentu įsteigtos kelios valdymo institucijos, kurios pradės veikti nuo 2025 m. rugpjūčio 2 d.:
  • nacionalinės kompetentingos institucijos, kurios prižiūrės ir užtikrins DI sistemų taisyklių vykdymą;
  • Europos Komisijos DI tarnyba, kuri koordinuos nuoseklų bendrų taisyklių taikymą visoje ES ir veiks kaip bendrosios paskirties DI modelių reguliavimo institucija.
• ES valstybės narės ir DI tarnyba glaudžiai bendradarbiaus iš valstybių narių atstovų sudarytoje DI valdyboje, kad užtikrintų nuoseklų ir veiksmingą reglamento taikymą.
• Reglamentu įsteigti du patariamieji organai, kurie padės DI tarnybai ir DI valdybai:
  • nepriklausomų ekspertų mokslinė komisija, kuri teiks mokslines konsultacijas;
  • suinteresuotųjų subjektų patariamasis forumas, kuris teiks technines ekspertines žinias DI valdybai ir Komisijai.

Sankcijos

Baudos už pažeidimus nustatomos kaip pažeidimą padariusios įmonės metinės apyvartos procentinė dalis arba iš anksto nustatyta suma, atsižvelgiant į tai, kuri iš jų yra didesnė. Mažosioms ir vidutinėms įmonėms bei startuoliams taikomos proporcingos administracinės baudos.

Skaidrumas ir pagrindinių teisių apsauga

Didelės rizikos DI sistemų kūrimui ir naudojimui taikomi griežtesni skaidrumo reikalavimai:

• prieš viešąsias paslaugas teikiantiems subjektams įdiegiant didelės rizikos DI sistemą, turi būti įvertintas jos poveikis pagrindinėms teisėms;
• didelės rizikos DI sistemos ir jas naudojantys subjektai turi būti registruojami ES duomenų bazėje.

Inovacijos

Reglamentu sukuriama inovacijoms palanki teisinė sistema ir siekiama skatinti įrodymais grindžiamą reguliavimo mokymąsi. Jame numatomos apribotos DI bandomosios reglamentavimo aplinkos, kuriose būtų sukurta kontroliuojama aplinka, kurioje būtų galima kurti, išbandyti ir validuoti novatoriškas DI sistemas, taip pat ir realiomis sąlygomis. Be to, pagal reglamentą tam tikromis sąlygomis leidžiama realiai išbandyti didelės rizikos DI sistemas.

Vertinimas ir peržiūra

Komisija kiekvienais metais įvertina poreikį iš dalies keisti didelės rizikos DI naudojimo atvejų sąrašą ir draudžiamos praktikos sąrašą. Ne vėliau kaip 2028 m. rugpjūčio 2 d., o po to kas ketverius metus Komisija įvertins ir pateiks ataskaitą dėl:

• didelės rizikos sričių antraščių sąrašo papildymo ar išplėtimo;
• DI sistemų, dėl kurių reikia papildomų skaidrumo priemonių, sąrašo pakeitimų;
• pakeitimų, kuriais didinamas priežiūros ir valdymo sistemos veiksmingumas.