Santraukos lentelė

Dirbtinio intelekto reglamentavimo sistemos poveikio vertinimas

A. Būtinybė imtis veiksmų

Kokia tai problema ir kodėl ji yra ES masto?

Dirbtinis intelektas (DI) yra besiformuojanti bendrosios paskirties technologija – ypač galingų kompiuterinio programavimo metodų grupė. DI sistemų diegimas turi didelį potencialą duoti naudos visuomenei, skatinti ekonomikos augimą ir didinti ES inovacinį pajėgumą bei konkurencingumą pasaulyje. Tačiau tam tikrais atvejais DI sistemų naudojimas gali sukelti problemų. Konkretūs tam tikrų DI sistemų ypatumai gali sukelti naują riziką, susijusią su 1) sauga ir saugumu ir 2) pagrindinėmis teisėmis, taip pat gali padidėti esamos rizikos pasireiškimo tikimybė arba ji gali sustiprėti. Taip pat dėl DI sistemų naudojimo 3) teisėsaugos institucijoms gali būti sudėtinga patikrinti atitiktį dabartinėms taisyklėms ir užtikrinti jų vykdymą. Dėl visų šių problemų 4) įmonės atsiduria teisiškai neužtikrintoje padėtyje, 5) DI technologijos gali būti lėčiau įsisavinamos, nes įmonės ir piliečiai per mažai jomis pasitiki, taip pat 6) dėl nacionalinių institucijų reguliavimo priemonių, kuriomis siekiama sumažinti išorės veiksnių poveikį galimam vidaus rinkos susiskaidymui.

Ką reikėtų pasiekti?

Reglamentavimo sistema siekiama išspręsti šias problemas ir taip užtikrinti tinkamą bendrosios rinkos veikimą sukuriant patikimo DI kūrimo ir naudojimo Sąjungoje sąlygas. Konkretūs tikslai: 1) užtikrinti, kad rinkai pateikiamos ir naudojamos DI sistemos būtų saugios ir derėtų su galiojančiais pagrindines teises ir Sąjungos vertybes reglamentuojančiais teisės aktais; 2) užtikrinti teisinį tikrumą, siekiant sudaryti palankesnes sąlygas investicijoms ir inovacijoms DI srityje; 3) gerinti valdymą ir veiksmingą galiojančių teisės aktų, kuriais reglamentuojamos pagrindinės teisės ir DI sistemoms taikytini saugos reikalavimai, vykdymo užtikrinimą, ir 4) palengvinti bendrosios teisėtų, saugių ir patikimų DI sistemų rinkos plėtrą ir užkirsti kelią rinkos susiskaidymui.

Kokia būtų papildoma ES lygmens veiksmų nauda (subsidiarumas)? 

DI prietaikose dažnai dideliu mastu naudojami tarpvalstybiniai duomenys ir duomenų rinkiniai, o tai reiškia, kad veikdamos pavieniui, valstybės negali veiksmingai pasiekti iniciatyvos tikslų. Europos patikimo DI reglamentavimo sistemos paskirtis – nustatyti suderintas taisykles dėl produktų ir paslaugų, grindžiamų DI technologija arba atskiromis DI prietaikomis, kūrimo, pateikimo rinkai ir naudojimo Sąjungoje. Ja siekiama užtikrinti vienodas sąlygas ir visų Europos piliečių apsaugą kartu stiprinant Europos konkurencingumą ir pramoninį DI pagrindą. ES veiksmai DI srityje galėtų duoti postūmį vidaus rinkai ir turi didelį potencialą suteikti Europos pramonei konkurencinį pranašumą pasauliniu lygmeniu, remiantis masto ekonomija, kurios pavieniui negali pasiekti atskiros valstybės narės.

B. Sprendimai

Kokių yra galimybių pasiekti šiuos tikslus? Ar viena iš politikos galimybių pasirinkta kaip tinkamiausia? Jei ne, kodėl?

Buvo apsvarstytos šios galimybės: 1 galimybė – ES teisėkūros priemonė, kuria nustatoma savanoriška ženklinimo sistema; 2 galimybė – sektorinis ad hoc principas; 3 galimybė – horizontalioji ES teisėkūros priemonė, kuria nustatomi privalomi reikalavimai didelės rizikos DI prietaikoms; 3+ galimybė – sutampa su 3 galimybe, tačiau pagal šią galimybę nustatomi savanoriški elgesio kodeksai, skirti nedidelės rizikos DI prietaikoms; ir 4 galimybė – horizontalioji ES teisėkūros priemonė, kuria nustatomi privalomi reikalavimai visoms DI prietaikoms. 3+ galimybė yra tinkamiausia, nes ja suteikiamos proporcingos apsaugos nuo DI keliamos rizikos priemonės, kartu kuo labiau sumažinant administracines ir atitikties išlaidas. Konkretus atsakomybės už DI prietaikas klausimas bus aptartas ateityje nustatant atskiras taisykles, todėl aptariant galimybes jis nenagrinėjamas.

Kokios yra įvairių suinteresuotųjų subjektų nuomonės? Kas kuriai galimybei pritaria?

Įmonės, valdžios institucijos, akademinės bendruomenės organizacijos ir nevyriausybinės organizacijos sutaria, kad esama teisės aktų spragų arba kad reikalingi nauji teisės aktai, nors dauguma įmonių yra mažesnės. Pramonė ir valdžios institucijos sutinka su tuo, kad būtų ribojami privalomi reikalavimai didelės rizikos DI prietaikoms. Tikėtina, kad piliečiai ir pilietinė visuomenė nepritars privalomų reikalavimų didelės rizikos prietaikoms ribojimui.

C. Tinkamiausios galimybės poveikis

Kokie būtų tinkamiausios galimybės (jei jos nėra – pagrindinių galimybių) pranašumai? 

Piliečiams tinkamiausia galimybė būtų naudinga, nes padėtų sumažinti riziką jų saugumui ir pagrindinėms teisėms. DI sistemų tiekėjams šiuo pasiūlymu bus sukurtas teisinis tikrumas ir užtikrinama, kad neatsirastų jokių kliūčių tarpvalstybiniam su DI susijusių paslaugų ir produktų tiekimui. DI naudojančioms įmonėms tai padės skatinti pasitikėjimą tarp jų klientų. Nacionalinių viešojo administravimo institucijų atžvilgiu pasiūlymas padės skatinti visuomenės pasitikėjimą DI naudojimu ir stiprinti vykdymo užtikrinimo mechanizmus (nustatant Europos koordinavimo mechanizmą, suteikiant tinkamus pajėgumus ir palengvinant DI sistemų auditus nustatant naujus dokumentacijos, atsekamumo ir skaidrumo reikalavimus).

Kokios būtų tinkamiausios galimybės (jei jos nėra – pagrindinių galimybių) įgyvendinimo išlaidos? 

Įmonės arba valdžios institucijos, kurios kuria ar naudoja DI prietaikas, keliančias ypač didelę riziką piliečių saugumui ar pagrindinėms teisėms, turėtų atitikti konkrečius horizontaliuosius reikalavimus ir dėl jų turėtų būti taikomi konkretūs įpareigojimai, kurie būtų nustatomi pasitelkiant darniuosius techninius standartus. Remiantis skaičiavimais, bendros išlaidos iki 2025 m. sudarys 100–500 mln. EUR, o tai yra 4–5 proc. investicijų į didelės rizikos DI (numatoma, kad didelės rizikos DI sudarys 5–15 proc. visų DI prietaikų). Patikrinimo išlaidos galėtų sudaryti papildomus 2–5 proc. investicijų į didelės rizikos DI. Įmonės arba valdžios institucijos, kuriančios arba naudojančios kokias nors DI prietaikas, kurios nepriskiriamos didelės rizikos DI, neturėtų patirti jokių išlaidų. Vis dėlto jos gali nuspręsti savanoriškai laikytis elgesio kodeksų, kad vadovautųsi tinkamais reikalavimais ir užtikrintų, kad jų DI sistemos yra patikimos. Tokiais atvejais išlaidos gali siekti išlaidas didelės rizikos prietaikų atveju, tačiau greičiausiai jos būtų mažesnės.

Koks bus poveikis MVĮ ir konkurencingumui?

Didesnis bendras pasitikėjimo DI lygis MVĮ bus naudingesnis nei didelėms įmonėms, nes jos taip pat gali panaudoti savo prekių ženklo įvaizdžiu. Prietaikas, kurios klasifikuojamos kaip keliančios didelę riziką, kuriančios MVĮ turėtų patirti panašias išlaidas kaip ir didelės įmonės. Iš tiesų dėl didelio skaitmeninių technologijų išplečiamumo galimybių mažosios ir vidutinės įmonės, nepaisant jų mažo dydžio, gali daryti didelę įtaką, ir potencialiai daryti poveikį milijonams žmonių. Todėl didelės rizikos prietaikų atveju pažymėtina, kad jei DI tiekiančios MVĮ būtų atleistos nuo reglamentavimo sistemos reikalavimų taikymo, būtų labai pakenkta pasitikėjimo didinimo tikslui. Vis dėlto sistemoje bus numatyta konkrečių priemonių, įskaitant apribotą bandomąją reglamentavimo aplinką arba paramą per skaitmeninių inovacijų centrus, siekiant padėti MVĮ laikytis naujų taisyklių, atsižvelgiant į jų specialius poreikius.

Ar tai turės didelį poveikį nacionaliniams biudžetams ir administravimo subjektams? 

Valstybės narės turėtų paskirti priežiūros institucijas, atsakingas už teisės aktų reikalavimų įgyvendinimą. Jų priežiūros funkcija galėtų būti grindžiama dabartinėmis taisyklėmis, pavyzdžiui, susijusiomis su atitikties vertinimo įstaigomis arba rinkos priežiūra, tačiau šiuo atveju reikėtų pakankamos technologinės ekspertizės bei išteklių. Priklausomai nuo kiekvienoje valstybėje narėje jau esamos struktūros, tai galėtų reikšti 1–25 etato ekvivalentus kiekvienoje valstybėje narėje.

Ar bus dar koks nors didelis poveikis? 

Tinkamiausia galimybė padėtų gerokai sumažinti riziką piliečių pagrindinėms teisėms, taip pat Sąjungos vertybėms platesniu mastu ir padidins tam tikrų gaminių ir paslaugų, kuriuose naudojama DI technologija arba atskiros DI prietaikos, saugą.

Proporcingumo principas 

Pasiūlymas yra proporcingas ir būtinas siekiant nustatytų tikslų, nes jame vadovaujamasi rizika pagrįstu metodu ir reglamentavimo našta nustatoma tik kai DI sistemos gali kelti didelę riziką pagrindinėms teisėms arba saugumui. Kitu atveju nustatomi tik būtiniausi įpareigojimai skaidrumo srityje, visų pirma atsižvelgiant į informavimo nuostatą, pagal kurią DI sistema ženklinama, kai tokia sistema sąveikauja su žmonėmis arba kai naudojama sintetinė sankaita, jei ji nenaudojama teisėtais tikslais. Darniaisiais standartais ir pagalbinėmis rekomendacijomis bei atitikties užtikrinimo priemonėmis bus siekiama padėti tiekėjams ir naudotojams laikytis reikalavimų ir kuo labiau sumažinti savo išlaidas.

D. Tolesni veiksmai

Kada politika bus persvarstoma?

Komisija paskelbs ataskaitą, kurioje, praėjus penkeriems metams nuo taikymo sistemos pradžios, ją įvertins ir peržiūrės.