PRILOG

PROJEKTNI DOKUMENT

Promicanje odgovornih inovacija u području umjetne inteligencije za mir i sigurnost

1.   KONTEKST

Nedavni napredak u području umjetne inteligencije pruža nove mogućnosti za potporu i očuvanje mira i sigurnosti, primjerice tehnološkim poboljšanjima u područjima kao što su rano upozoravanje na sukobe i provjera kontrole oružja i izvoza. S druge strane, taj je napredak omogućio i nove načine za generiranje ili pogoršanje napetosti, sukoba i nesigurnosti među državama i unutar njih. Rizici koji proizlaze iz određenih primjena umjetne inteligencije, kao što su smrtonosni autonomni oružani sustavi, postali su novi veliki problem zajednice za kontrolu oružja. Faktor rizika koji zaslužuje veću pozornost i u odnosu na koji trenutačni diplomatski odgovori i odgovori u području kontrole oružja možda nisu dostatni jest preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera, uključujući zlonamjerne nedržavne aktere, kao što je zlouporaba generativnih suparničkih mreža (engl. Generative Adversarial Networks, GAN) za izradu uvjerljivih krivotvorenih sadržaja (engl. deepfakes) za kampanje dezinformiranja.

Umjetna inteligencija razvojna je tehnologija s velikim potencijalom opće upotrebe. Određeni akteri mogli bi (relativno jednostavno) pristupiti istraživanjima i inovacijama u području umjetne inteligencije koji se razvijaju za civilnu primjenu i prenamijeniti ih za štetnu ili disruptivnu namjenu koja bi mogla utjecati na međunarodni mir i sigurnost. Preusmjeravanje i zlouporaba civilne tehnologije nisu nove pojave niti su svojstvene samo umjetnoj inteligenciji. To je nedavno zabilježeno i u povezanom području robotike, kada je Daiš/ISIS u Siriji pretvarao rekreativne bespilotne letjelice u oružje te ih upotrebljavao. Međutim, kod umjetne inteligencije problem je složeniji zbog više čimbenika: neopipljive i izrazito promjenjive prirode algoritama i podataka u području umjetne inteligencije, zbog čega je teško kontrolirati njihov prijenos/širenje; vodeće uloge privatnog sektora u ekosustavu istraživanja, razvoja i inovacija te s tim povezane potrebe da se algoritmi u njihovu vlasništvu zaštite; te globalne dostupnosti ljudskog stručnog znanja i materijalnih resursa kojima se tehnologije umjetne inteligencije mogu prenamijeniti. Istodobno, osobe koje rade u području umjetne inteligencije u civilnom sektoru prečesto nisu svjesne mogućih posljedica koje bi preusmjeravanje i zlouporaba njihova rada mogli imati za međunarodni mir i sigurnost ili oklijevaju sudjelovati u aktualnim raspravama u okviru zajednice za kontrolu i neširenje oružja o rizicima povezanima s umjetnom inteligencijom.

Potrebno je poduprijeti veći angažman civilne zajednice u području umjetne inteligencije u razumijevanju i ublažavanju rizika za mir i sigurnost koji su povezani s preusmjeravanjem i zlouporabom civilne tehnologije umjetne inteligencije od strane neodgovornih aktera. Međunarodni institut za mirovna istraživanja u Stockholmu (SIPRI) i Ured Ujedinjenih naroda za poslove razoružanja (UNODA) smatraju da bi se to moglo postići većim promicanjem odgovornih inovacija u globalnoj civilnoj zajednici u području umjetne inteligencije. Dosadašnji rad SIPRI-ja i UNODA-e pokazao je da bi odgovorne inovacije, kao mehanizam samoupravljanja, mogle globalnoj civilnoj zajednici u području umjetne inteligencije pružiti praktične alate i metode za utvrđivanje, sprečavanje i ublažavanje rizika koje bi preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije mogli predstavljati za mir i sigurnost. U njihovu radu utvrđene su i metodologije i nekoliko aktualnih civilno usmjerenih inicijativa za odgovornu umjetnu inteligenciju koje bi se mogle nadograditi kako bi se civilna zajednica u području umjetne inteligencije senzibilizirala za pitanja kontrole i neširenja oružja, stručne rasprave i stajališta država o odgovornom razvoju, širenju i upotrebi umjetne inteligencije, kao i za iskustva koja bi se mogla steći iz rada usmjerenog na odgovornost u obrambenom sektoru. (1) Ključno je da je u tom prethodnom radu jasno utvrđeno da je suradnja sa studentima iz područja znanosti, tehnologije, inženjerstva i matematike (STEM), koji još uvijek upotrebljavaju umjetnu inteligenciju u obrazovnom formatu, od središnje važnosti za sve učinkovite napore u području odgovornih inovacija.

2.   CILJEVI

Cilj je tih projekata poduprijeti veći angažman civilne zajednice u području umjetne inteligencije u ublažavanju rizika koje preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera mogu predstavljati za međunarodni mir i sigurnost. To se nastoji postići prije svega boljim razumijevanjem toga kako odluke u vezi s razvojem i širenjem istraživanja i inovacija u području umjetne inteligencije mogu utjecati na rizike od preusmjeravanja i zlouporabe te stvoriti rizik ili prilike za mir i sigurnost, a nakon toga promicanjem odgovornih inovacijskih procesa, metoda i alata koji mogu pomoći u osiguravanju miroljubive primjene civilnih inovacija i odgovornog širenja znanja o umjetnoj inteligenciji. U tu će se svrhu projektima podupirati aktivnosti izgradnje kapaciteta, istraživanja i angažmana kojima će se i. povećati kapacitet globalne civilne zajednice u području umjetne inteligencije kako bi se procesima odgovornih inovacija obuhvatili i prevladali rizici za mir i sigurnost koje predstavljaju preusmjeravanje i zlouporaba civilne umjetne inteligencije od strane neodgovornih aktera; i ii. poboljšati povezanost između napora za ublažavanje rizika u vezi s odgovornom umjetnom inteligencijom u civilnoj sferi i napora koji se već poduzimaju u zajednici za razoružanje te kontrolu i neširenje oružja na međuvladinoj razini. Ključno je da se njima ne namjeravaju uspostaviti novi standardi, načela ili propisi niti se na drugi način namjerava intervenirati u područja u nadležnosti država. Umjesto toga, cilj je projekata razviti civilne napore u području odgovornih inovacija kako bi se obuhvatili rizici za mir i sigurnost koje predstavljaju preusmjeravanje i zlouporaba civilne umjetne inteligencije od strane neodgovornih aktera te omogućiti obrazovanje o postojećim relevantnim međuvladinim naporima.

Kako bi se učinkovito doprlo do civilne zajednice u području umjetne inteligencije i utjecalo na nju, u okviru projekata primjenjuje se trodijelni pristup te se nastoji:

(a)

surađivati s profesorima – surađivati s odabranim profesorima i kreatorima akademskih kurikuluma na izradi i promicanju obrazovnih materijala koji se mogu upotrijebiti kako bi se razmatranja o rizicima za mir i sigurnost koji proizlaze iz preusmjeravanja i zlouporabe civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera uvrstila u osposobljavanje budućih stručnjaka u području umjetne inteligencije (npr. u predmete o etici i odgovornim inovacijama u području umjetne inteligencije);

(b)

surađivati sa studentima – pokazati odabranim studentima iz područja znanosti, tehnologije, inženjerstva i matematike (STEM) iz cijelog svijeta kako se rizici za mir i sigurnost koje predstavljaju preusmjeravanje i zlouporaba civilnog razvoja umjetne inteligencije od strane neodgovornih aktera mogu utvrditi, spriječiti ili ublažiti u okviru procesa istraživanja i inovacija ili putem drugih procesa upravljanja; i

(c)

surađivati s industrijom umjetne inteligencije – surađivati sa stručnim udrugama i tijelima za normizaciju kao što je Institut inženjera elektrotehnike i elektronike (IEEE) kako bi se i. stručnjacima iz tehničkog područja omogućili prilagođeni obrazovni materijali i aktivnosti sudjelovanja; ii. poduprla pozitivna upotreba umjetne inteligencije za mir i sigurnost; i iii. olakšali dijalog i razmjena informacija između stručnjaka iz akademske zajednice, privatnog sektora i vlade o načinima ublažavanja rizika od preusmjeravanja i zlouporabe civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera.

Takav pristup omogućuje da projekti dopru do svih članova zajednice u području umjetne inteligencije, tj. ne samo do postojećih stručnjaka, već i budućih generacija. Njime se omogućuje i angažman akademske zajednice, industrije i ostalih skupina iz tog područja te podupire održivost budućih napora uspostavom mreža kojima se premošćuju te granice.

Projektima se također nastoji iskoristiti pokretačka snaga i iskustvo SIPRI-ja i UNODA-e kako bi se utjecalo na globalnu zajednicu u području umjetne inteligencije, a ne samo na dionike iz EU-a. Jedinstveni položaj SIPRI-ja i UNODA-e omogućuje im da dopru do aktera u području umjetne inteligencije iz Afrike, azijsko-pacifičke regije, Europe te Sjeverne i Južne Amerike i potpomognu njihovu međusobnu suradnju. Oba subjekta također imaju iskustvo rada u drugim područjima znanosti i tehnologije koja se suočavaju sa sličnim izazovima dvojne namjene i širenja, uključujući biotehnologiju. Projektima se također nastoje iskoristiti uvjeti u Europskoj uniji, kao što su: a) postojanje naprednih višedioničkih procesa u području odgovorne umjetne inteligencije; b) visoka razina angažmana i stručnosti u pogledu pitanja razoružanja te kontrole i neširenja oružja u EU-u; c) raznovrsnost veza EU-ovih akademskih i istraživačkih organizacija i organizacija privatnog sektora s drugim regijama, posebno globalnim jugom, što će također biti jedan od glavnih ciljeva angažmana; i d) raznolikost nacionalnosti studenata, profesora i inženjera na sveučilištima, u istraživačkim ustanovama i privatnom sektoru.

Uključenost će biti jedna od ključnih sastavnica provedbe projektnih aktivnosti. Kako bi se učinkovito pružila potpora zajednici u području umjetne inteligencije, u projektima se prepoznaje da se ta zajednica sastoji od različitih aktera, a posebno i sljedeće:

(a)	rod je vrlo važan čimbenik. Stoga će pitanje roda biti integrirano u skladu sa strategijama UN-a o rodno osviještenoj politici i rodnom paritetu. Poticat će se i zahtijevati sudjelovanje žena u svim aktivnostima u okviru projekta; i

(b)

uključivanje osoba s invaliditetom i razumna prilagodba provodit će se tijekom cijelog trajanja projekta. To će podrazumijevati uklanjanje prepreka sudjelovanju osoba s invaliditetom te poduzimanje koraka za suradnju s osobama s invaliditetom i za osiguravanje toga da su njihovi stavovi i iskustva zastupljeni.

3.   PROJEKTI

Tri projekta opisana u nastavku nadopunjavat će se i uzajamno podupirati, a elementi će se provoditi tijekom 36 mjeseci.

3.1.   Projekt 1 – Izrada obrazovnih materijala i materijala za izgradnju kapaciteta civilne zajednice u području umjetne inteligencije

3.1.1.   Svrha projekta

Projekt 1 usmjeren je na pružanje znanja i sredstava civilnim akterima u području umjetne inteligencije kako bi mogli procijeniti i ublažiti rizike koje preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera mogu predstavljati za međunarodni mir i sigurnost. Cilj je izraditi obrazovne materijale i materijale za izgradnju kapaciteta koji će stručnjacima u području umjetne inteligencije iz svih regija, razina i sektora (uključujući profesore i kreatore kurikuluma iz područja umjetne inteligencije, studente STEM-a te inženjere i istraživače iz tog područja u akademskoj zajednici i privatnom sektoru) pružiti informacije i alate potrebne za

(a)

razumijevanje kako bi se civilna istraživanja i inovacije u području umjetne inteligencije mogli preusmjeriti i zloupotrijebiti na načine koji bi mogli predstavljati rizike za međunarodni mir i sigurnost te kako se odlukama u vezi s razvojem i širenjem istraživanja i inovacija ti rizici mogu povećati ili smanjiti;

(b)	razumijevanje napora koje je zajednica za razoružanje te kontrolu i neširenje oružja već uložila u ublažavanje rizika od preusmjeravanja i zlouporabe civilnih istraživanja i inovacija; i

(c)	provođenje odgovornih inovacija na način kojim se ublažava rizik od preusmjeravanja i zlouporabe u okviru razvoja i širenja istraživanja i inovacija.

3.1.2.   Opis projekta

U okviru ovog projekta izradit će se tri odvojena skupa obrazovnih materijala i materijala za izgradnju kapaciteta.

(a)

Priručnik (1) – priručnik će sadržavati osnovno znanje i sredstva kako bi akteri u području umjetne inteligencije u procesu istraživanja i inovacija mogli procijeniti i ublažiti rizike od preusmjeravanja i zlouporabe civilne tehnologije umjetne inteligencije od strane neodgovornih aktera. U njemu će biti objašnjeno kako i zašto odluke u vezi s razvojem i širenjem istraživanja i inovacija mogu utjecati na rizike od preusmjeravanja i zlouporabe te dovesti do rizika ili prilika za mir i sigurnost. U priručniku će biti navedeni i relevantno međunarodno pravo i obveze u pogledu kontrole izvoza, kao i pitanja sigurnosti i zaštite o kojima se raspravlja u vojnim krugovima i zajednici za razoružanje te kontrolu i neširenje oružja te će biti predstavljeni primjeri procesa i alata za provedbu odgovornih inovacija, kao što su metodologije za procjenu tehnološkog učinka i predlošci za procjenu rizika.

(b)

Serija podcasta (~10) – podcasti će biti pristupačan i zanimljiv medij putem kojeg će akteri u području umjetne inteligencije moći saznati kako i zašto se procesima odgovornih inovacija u području umjetne inteligencije mogu poduprijeti međunarodni mir i sigurnost ublažavanjem rizika koje predstavljaju preusmjeravanje i zlouporaba od strane neodgovornih aktera. U njima će se obrađivati važne teme (npr. obrazac preusmjeravanja i zlouporabe istraživanja i inovacija dvojne/opće namjene; humanitarni, strateški i politički izazovi povezani s potencijalnom zlouporabom civilnih istraživanja i inovacija u području umjetne inteligencije; izazovi s kojima se suočava zajednica za razoružanje te kontrolu i neširenje oružja u nastojanjima da se ublaže rizici; kako provoditi odgovorne inovacije na temelju procjene rizika; usklađenost kontrole izvoza; sustavno smanjenje rizika; odgovorno objavljivanje; poznavanje klijenata i iskustvo stožernih vježbi) te će biti strukturirani oko razgovora koje će projektni tim voditi s predstavnicima relevantnih zajednica.

(c)

Serija objava na blogu (9 – 10) – tim će proizvesti seriju odabranih objava na blogu čiji je cilj povećati vidljivost napora kojima se pokušavaju premostiti granice između civilno usmjerene „odgovorne umjetne inteligencije” i zajednica za kontrolu i neširenje oružja. Blog će poslužiti kao platforma za širenje uvida, ideja i rješenja u pogledu utvrđivanja i prevladavanja rizika povezanih s preusmjeravanjem i zlouporabom civilne umjetne inteligencije u procesu istraživanja i inovacija. Nastojat će se prikazati različita mišljenja i perspektive iz sektora umjetne inteligencije.

Navedeni materijali bit će javno objavljeni na internetskim stranicama i društvenim mrežama aktera koji sudjeluju u provedbi te će se predstaviti u izravnoj komunikaciji s relevantnim akademskim subjektima, civilnim strukovnim udrugama u području umjetne inteligencije i drugim odgovarajućim skupinama.

3.1.3.   Očekivani rezultati projekta

Očekuje se da će se ovim projektom izraditi novi skup materijala koji će civilne stručnjake u području umjetne inteligencije uputiti u to a) kako bi se civilna istraživanja i inovacije u području umjetne inteligencije mogli preusmjeriti i zloupotrijebiti na načine koji mogu predstavljati rizik za međunarodni mir i sigurnost, b) kako se ti rizici suzbijaju u okviru zajednice za razoružanje te kontrolu i neširenje oružja i c) kako bi stručnjaci u području umjetne inteligencije mogli dodatno doprinijeti ublažavanju takvih rizika procesima odgovornih inovacija.

Time bi se trebao povećati angažman civilnog sektora u području umjetne inteligencije u ublažavanju rizika koje preusmjeravanje i zlouporaba civilne umjetne inteligencije mogu predstavljati za međunarodni mir i sigurnost; poboljšati kapacitet stručnjaka iz tehničkih područja za sudjelovanje u relevantnim procesima u okviru zajednice za razoružanje te kontrolu i neširenje oružja te podupirati angažman nove publike koja nije tradicionalno uključena u obrazovanje u području razoružanja i neširenja oružja.

Očekuje se da će se tim materijalima poduprijeti i provedba drugih projekata te da će oni poslužiti kao osnova za obrazovne aktivnosti i aktivnosti izgradnje kapaciteta u projektu 2 te za aktivnosti dijaloga i angažmana u projektu 3. Te bi aktivnosti, s druge strane, trebale doprinijeti izradi i poboljšanju materijala. Očekuje se da će takav iterativni pristup pomoći u otklanjanju mogućih prepreka promicanju, širenju i upotrebi materijala unutar zajednice za umjetnu inteligenciju, uključujući pitanja povezana s jezikom, sadržajem, kontekstom i dostupnošću, koje bi mogle onemogućiti njihov učinak na globalnoj razini, posebno na globalnom jugu.

3.2.   Projekt 2 – Obrazovne aktivnosti i aktivnosti izgradnje kapaciteta za buduće stručnjake u području umjetne inteligencije

3.2.1.   Svrha projekta

Svrha je projekta 2 poduprijeti uvrštavanje problema preusmjeravanja i zlouporabe civilnih istraživanja u području umjetne inteligencije od strane neodgovornih aktera u obrazovanje budućih generacija stručnjaka u području umjetne inteligencije. Time će se dugoročno osigurati da su studenti iz područja znanosti, tehnologije, inženjerstva i matematike (STEM), koji oblikuju budućnost umjetne inteligencije, svjesni negativnih učinaka koje bi preusmjeravanje i zlouporaba njihova rada od strane neodgovornih aktera mogli imati na međunarodni mir i sigurnost te da imaju osnovne alate potrebne za utvrđivanje i ublažavanje takvog rizika u procesu istraživanja i inovacija.

U okviru ovog projekta provest će se niz obrazovnih radionica i radionica za izgradnju kapaciteta s profesorima i studentima u suradnji s odabranim međunarodnim sveučilištima i akterima iz industrije. Projektom se stoga nastoje osmisliti aktivnosti izgradnje kapaciteta koje bi profesori i kreatori akademskih kurikuluma mogli iskoristiti i uključiti u osposobljavanje budućih stručnjaka u području umjetne inteligencije (npr. predmeti o etici i odgovornim inovacijama u području umjetne inteligencije) razmatranja o rizicima od preusmjeravanja i zlouporabe civilnih istraživanja i inovacija u području umjetne inteligencije od strane neodgovornih aktera te povezati te rizike sa širim kontekstom mira i sigurnosti. Tim će se radionicama u okviru projekta nastojati utvrditi i mreža zainteresiranih profesora, kreatora kurikuluma i studenata koji bi poduprli širenje i promicanje obrazovnih materijala i aktivnosti izgradnje kapaciteta iz projekta u obrazovnoj zajednici u području umjetne inteligencije i zajednici stručnjaka u tom području. Cilj je tog umrežavanja zajamčiti održivost projekata i nakon njihova neposrednog trajanja te omogućiti izgradnju snažnijih veza kojima će se poduprijeti angažman civilnih stručnjaka iz tehničkih područja kako bi se postigli veći ciljevi u pogledu mira, sigurnosti, razoružanja i kontrole oružja.

3.2.2.   Opis projekta

U okviru ovog projekta provest će se niz obrazovnih radionica i radionica za izgradnju kapaciteta s profesorima i studentima s odabranih sveučilišta iz cijelog svijeta. Radionice će se sastojati od predavanja i interaktivnih aktivnosti koje će profesorima i studentima pružiti priliku da razmisle o tome kako bi se civilna istraživanja i inovacije u području umjetne inteligencije mogli preusmjeriti i zloupotrijebiti na načine koji mogu predstavljati rizike za međunarodni mir i sigurnost te kako se takvi rizici mogu utvrditi, spriječiti ili ublažiti u okviru procesa istraživanja i inovacija ili drugih procesa upravljanja. Aktivnosti će se temeljiti na prethodnom manjem pilot-projektu koji je provela UNODA, a u kojem se eksperimentiralo s metodama za suradnju sa studentima iz području STEM-a i njihovo senzibiliziranje o tome da je važno razmotriti širi učinak njihova rada te surađivati sa stručnjacima izvan njihovih matičnih područja. Konkretno, one će obuhvaćati:

(a)

regionalne radionice za izgradnju kapaciteta za profesore i studente (4) – u okviru regionalnih radionica provodit će se i promicati aktivnosti koje profesori mogu iskoristiti za izgradnju kapaciteta studenata iz području STEM-a za odgovorne inovacije u području umjetne inteligencije, s posebnim naglaskom na tome kako procijeniti i ublažiti rizike od preusmjeravanja i zlouporabe civilne tehnologije umjetne inteligencije od strane neodgovornih aktera. Svaka radionica organizirat će se s jednim sveučilištem sa sjedištem u EU-u i jednim istaknutim sveučilištem iz neke druge svjetske regije, čime će se uvijek povezati raznolik skup sudionika iz EU-u s raznolikim skupom sudionika izvan EU-a. Radionice će obuhvatiti Latinsku Ameriku i Karibe, Sjevernu Ameriku, Afriku te Aziju i Pacifik. Time će se omogućiti sudjelovanje studenata (na diplomskoj i doktorskoj razini) iz cijelog svijeta, uključujući globalni jug. Radionice će se održavati prvenstveno na engleskom jeziku, ali ako to bude izvedivo, sudionici će imati priliku sudjelovati u aktivnostima koje se temelje na drugim jezičnim skupinama; i

(b)

međunarodnu radionicu o održivoj izgradnji kapaciteta (1) – radionica će se temeljiti na iskustvima stečenima na regionalnim radionicama i olakšati razmjenu informacija i iskustava među profesorima i odabranim studentima sa sveučilišta koja sudjeluju u projektu. Na radionici će se raspravljati o tome kako poboljšati aktivnosti i alate razrađene tijekom projekta i širiti ih izvan skupine sveučilišta koja sudjeluju u projektu. Raspravljat će se i o tome kako, nakon što studenti uđu na tržište rada, podupirati njihovo uključivanje u rad na odgovornoj umjetnoj inteligenciji kojom se prevladavaju rizici za međunarodni mir i sigurnost povezani s preusmjeravanjem i zlouporabom.

Mreže SIPRI-ja i UNODA-e i njihova prisutnost u Africi, azijsko-pacifičkoj regiji, Europi te Sjevernoj i Južnoj Americi iskoristit će se prema potrebi kako bi se olakšali i poduprli određeni aspekti aktivnosti.

3.2.3.   Očekivani rezultati projekta

Očekuje se da će se projektom osmisliti modeli aktivnosti izgradnje kapaciteta i angažmana koje bi profesori i kreatori akademskih kurikuluma mogli replicirati kako bi se buduće stručnjake u području umjetne inteligencije senzibiliziralo o problemima preusmjeravanja i zlouporabe civilne umjetne inteligencije od strane neodgovornih aktera te o tome kako oni mogu pomoći u ublažavanju tih problema s pomoću procesa odgovornih inovacija. Očekuje se da će nakon završetka projektnih aktivnosti sudionici (profesori, ali i studenti iz područja STEM-a) moći upotrebljavati i promicati odgovorne inovacijske alate, metode i koncepte kako bi utvrdili i ublažili rizike od preusmjeravanja i zlouporabe u okviru razvoja i širenja civilnih istraživanja i inovacija u području umjetne inteligencije.

Očekuje se i da će se projektnim aktivnostima stvoriti mreža profesora, kreatora kurikuluma i studenata koji će promicati projektne aktivnosti u obrazovnoj i stručnoj zajednici u području umjetne inteligencije (npr. na konferencijama IEEE-ova Društva za računalnu inteligenciju), ali i biti u mogućnosti svojim tehničkim kapacitetima doprinijeti procesima međunarodnog upravljanja pod vodstvom države (npr. procesu Konvencije o određenom konvencionalnom oružju u vezi s tehnologijama u nastajanju u području smrtonosnih autonomnih oružanih sustava).

Kratkoročna i dugoročna vrijednost tih aktivnosti pokazat će se u anketama provedenima prije i poslije aktivnosti.

3.3.   Projekt 3 – Olakšavanje dugoročnijeg održivog razvoja, širenja i učinka odgovornih inovacija u području umjetne inteligencije za mir i sigurnost

3.3.1.   Svrha projekta

Svrha je projekta 3 olakšati dugoročniji održivi razvoj, širenje i učinak odgovornih inovacija u području umjetne inteligencije kako bi se ublažili rizici koje preusmjeravanje i zlouporaba civilnih istraživanja i inovacija u području umjetne inteligencije mogu predstavljati za mir i sigurnost. To se nastoji postići okruglim stolovima s predstavnicima industrije umjetne inteligencije, višedioničkim dijalozima, izradom javnog izvješća i ciljanim aktivnostima širenja informacija. Cilj je projekta osigurati da ostvareni rad, a posebno aktivnosti obrazovanja, izgradnje kapaciteta i angažmana, dopire do zajednice u području umjetne inteligencije u cjelini i utječe na nju, i to na svim razinama (od studenata do inženjera i drugih stručnjaka za umjetnu inteligenciju) i preko svih geografskih, sektorskih i drugih granica. Kako bi se povećala mogućnost ostvarivanja velikog i snažnog učinka, ključno je surađivati sa stručnim organizacijama iz tog područja, kao što je IEEE, i provoditi višedimenzionalne angažmane u akademskoj zajednici, industriji i ostalim skupinama iz tog područja. Takvim će se naporima zainteresiranim predstavnicima iz različitih zajednica u području umjetne inteligencije pružiti prilika da preuzmu odgovornost za taj problem i iznesu vlastita stajališta o tome kako se napori za ublažavanje rizika mogu provoditi i promicati na održiv način unutar globalne zajednice u području umjetne inteligencije. Za osiguravanje dugoročne vrijednosti projekta državama, međuvladinim organizacijama i drugima važno je i da stručnjaci u području umjetne inteligencije mogu učiti od vladinih stručnjaka koji se bave ublažavanjem rizika u kontekstu razoružanja te kontrole i neširenja oružja te surađivati s njima. Kako bi se ostvarila održivost, ključno je osigurati da se uvidi dobiveni u okviru aktivnosti angažmana na odgovarajući način analiziraju, konsolidiraju i šire.

3.3.2.   Opis projekta

Ovaj se projekt sastoji od sljedećih ključnih komponenti:

(a)

višedioničkih dijaloga o „odgovornim inovacijama u području umjetne inteligencije za mir i sigurnost” (do 9) – ova serija virtualnih sastanaka u obliku dijaloga okupit će stručnjake iz akademske zajednice, istraživanja, privatnog sektora i sektora tradicionalne kontrole oružja iz EU-a i šire kako bi raspravljali o: i. tehnološkim trendovima koji mogu dovesti do rizika od širenja, preusmjeravanja i zlouporabe s posljedicama za međunarodni mir i sigurnost; ii. tome kako ublažavati rizike putem procesa, metoda i sredstava za odgovorne inovacije te prilika i izazova za dijalog i razmjenu znanja među zajednicama dionika, uključujući one koje djeluju u drugim sektorima, kao što su biološka i kemijska industrija; i iii. potencijalnoj vrijednosti, svrsi i formatu samoodržive mreže stručnjaka i aktivnosti dijaloga. Skupina stručnjaka sastajat će se nekoliko puta godišnje i raditi na organizaciji dvaju javnih događanja za širu zajednicu.

Od devet virtualnih sastanaka dva će biti otvorena za javnost kako bi se olakšalo šire savjetovanje;

(b)

okruglih stolova s privatnim sektorom (do 6) – ovom će se serijom virtualnih okruglih stolova započeti dijalog s akterima koji rade s procesima odgovornih inovacija u području umjetne inteligencije u privatnom sektoru (npr. partnerstvo za umjetnu inteligenciju) o tome kako mogu doprinijeti smanjenju rizika od preusmjeravanja i zlouporabe civilnih tehnologija umjetne inteligencije od strane neodgovornih aktera, kao i istražiti mogući poticaji za to u okviru razvoja privatnog sektora. Teme će uključivati: i. važnost međunarodnog konteksta u području sigurnosti i razoružanja za privatni sektor; ii. pravno okružje za razvoj, uvođenje i upotrebu umjetne inteligencije u svijetu; iii. kako se osloniti na mehanizme za procjenu rizika i druge mjere koje su dio procesâ odgovornih inovacija i programâ korporativne usklađenosti ili bi se mogli integrirati u njih; i iv. iskustva koja se mogu steći iz drugih industrija, procesa i okvira povezanih s kontrolom oružja (npr. biološke i kemijske industrije);

(c)

izvješća o stajalištima zajednice u području umjetne inteligencije o kontroli oružja i ublažavanju rizika u području umjetne inteligencije, namijenjenog toj zajednici i zajednici za kontrolu oružja (1) – ovo će izvješće obuhvatiti nalaze i preporuke iz projekta, konsolidirane u jedinstveni referentni dokument namijenjen civilnoj zajednici za odgovornu umjetnu inteligenciju i zajednici za kontrolu oružja. U izvješću će se razmotriti kako utvrditi, procijeniti i prevladati rizike za međunarodni mir i sigurnost povezane s preusmjeravanjem i zlouporabom civilnih istraživanja i inovacija u području umjetne inteligencije;

(d)

događanja u svrhu širenja informacija radi savjetovanja i suradnje sa zajednicom u području umjetne inteligencije i zajednicom za kontrolu oružja (još nije odlučeno) – tim će nastojati informirati o svojem radu, nalazima i preporukama tijekom cijelog projekta. Format događanja i sadržaj prezentacija bit će prilagođeni potrebama ciljnih skupina. Može se raditi o sastancima CONOP-a, skupštine Europskog saveza za umjetnu inteligenciju, skupine vladinih stručnjaka za nove tehnologije u području smrtonosnih autonomnih oružanih sustava, međuagencijske radne skupine za umjetnu inteligenciju (IAWG-AI), inicijative ITU-a „Umjetna inteligencija za opće dobro”, godišnjeg dijaloga UNIDIR-a o inovacijama i Instituta inženjera elektrotehnike i elektronike. Tim će također nastojati bilateralno surađivati s relevantnim dionicima iz vlade, akademske zajednice i privatnog sektora.

3.3.3.   Očekivani rezultati projekta

Očekuje se da će se ovim projektom postaviti temelji za održivi razvoj, širenje i učinak procesa odgovornih inovacija u području umjetne inteligencije kojima se prevladavaju rizici od širenja, preusmjeravanja i zlouporabe te njihove posljedice za mir i sigurnost nakon neposrednog trajanja odluke Vijeća.

Višedionički dijalog trebao bi poslužiti kao model za razmjenu informacija i suradnju u pogledu ublažavanja rizika ne samo unutar globalne zajednice u području umjetne inteligencije, već i između civilne zajednice za odgovornu umjetnu inteligenciju i zajednica za razoružanje te kontrolu i neširenje oružja. Takav bi se model mogao upotrijebiti za upoznavanje oblikovatelja politika s ključnim tehnološkim i znanstvenim napretkom važnim za odgovorne inovacije u području umjetne inteligencije, kao i za upoznavanje tehničkih stručnjaka s okružjem u kojem oblikovatelji politika trenutačno djeluju. Očekuje se da će se projektom olakšati održivi odnosi i suradnja zainteresiranih aktera unutar tih različitih zajednica i među njima. Učinci tog heterogenog umrežavanja trebali bi omogućiti veći razvoj i široko promicanje odgovornih inovacija u području umjetne inteligencije za mir i sigurnost nakon završetka projekta.

Očekuje se da će se dijalogom s privatnim sektorom omogućiti veći i konkretniji angažman privatnog sektora u području umjetne inteligencije u utvrđivanju, sprečavanju i ublažavanju rizika za mir i sigurnost koji proizlaze iz preusmjeravanja i zlouporabe civilnih istraživanja i inovacija u području umjetne inteligencije. Također se očekuje i da će projekt ključnim akterima u procesima privatnog sektora omogućiti bolje razumijevanje i preuzimanje odgovornosti za probleme koji se nastoje riješiti. Osim toga, cilj je projekta olakšati (široko) donošenje i provedbu procesa, metoda i sredstava za odgovorne inovacije u postojećim mehanizmima i postupcima za upravljanje korporativnim rizikom.

Očekuje se i da će se višedioničkim dijalogom i okruglim stolovima s privatnim sektorom dobiti uvid u niz bitnih pitanja, među kojima su i pitanja a) kako se metode i sredstva za odgovorne inovacije mogu dodatno poboljšati i primijeniti kako bi se utvrdili, spriječili i ublažili rizici povezani s preusmjeravanjem i zlouporabom civilnih istraživanja i inovacija u području umjetne inteligencije; b) kako se istraživanja i inovacije u području umjetne inteligencije mogu pozitivno upotrijebiti za potporu ciljevima mira i sigurnosti (npr. primjene za rano upozoravanje na sukobe i humanitarnu pomoć); i c) kako poboljšati dijalog i razmjenu informacija između napora za ublažavanje rizika koje poduzima civilna zajednica za odgovornu umjetnu inteligenciju (tj. razne inicijative pod vodstvom IEEE-a) i napora koji su već u tijeku u zajednici za razoružanje te kontrolu i neširenje oružja na međuvladinoj razini.

U izvješću i aktivnostima širenja analizirat će se, konsolidirati i širiti saznanja stečena u okviru projekata 1, 2 i 3, čime će se pomoći u promicanju nalaza i preporuka iz projektnih aktivnosti unutar globalne zajednice u području umjetne inteligencije, kao i unutar zajednice za politike. Očekuje se i da će oni doprinijeti osiguravanju održivosti učinka i nakon završetka projekata.

4.   TRAJANJE

Sveukupno procijenjeno trajanje provedbe projekata iznosi 36 mjeseci.

---

(1)  Metodologije, primjerice, uključuju preporučene prakse Instituta inženjera elektrotehnike i elektronike (IEEE) za procjenu učinka autonomnih i inteligentnih sustava na dobrobit ljudi (IEEE Std 7010 – 2020.) i Popis za procjenu pouzdane umjetne inteligencije (ALTAI) Stručne skupine na visokoj razini za umjetnu inteligenciju. Među inicijativama su: globalna inicijativa IEEE-a za etiku autonomnih i inteligentnih sustava; partnerstvo za umjetnu inteligenciju; globalno partnerstvo za umjetnu inteligenciju.

PRILOG

PROJEKTNI DOKUMENT

RAZVOJ MEĐUNARODNO PRIZNATOG SUSTAVA ZA POTVRĐIVANJE UPRAVLJANJA ORUŽJEM I STRELJIVOM (AAMVS) RADI SPREČAVANJA NEZAKONITOG ŠIRENJA

1.   Kontekst

U zajednici za kontrolu oružja postoji sve veći konsenzus o središnjoj ulozi učinkovitog upravljanja zalihama u jačanju mjera kontrole izvoza namijenjenih sprečavanju preusmjeravanja. U radnom dokumentu pripremljenom za Sedmu konferenciju država stranaka (CSP 7 – Sedmi CSP) Ugovora o trgovini oružjem (UTO) predsjedništvo Sedmog CSP-a pozvalo je države stranke da „razmotre sve aspekte upravljanja zalihama prije odobrenja za izvoz i sigurnog i zaštićenog skladištenja nakon isporuke”. Nadalje, osim razmjene informacija o nezakonitim aktivnostima (članak 11. stavak 5. i članak 15. stavak 4. UTO-a), potaknulo je „države uvoznice i države izvoznice da prije izvoza dogovore posebne uvjete i jamstva u pogledu skladišnih objekata, označivanja robe ili kontrola krajnjih korisnika”. Naposljetku, kao sredstvo usklađivanja s člankom 13. stavkom 2., predsjedništvo Sedmog CSP-a predložilo je da države stranke mogu izvješćivati o mjerama poduzetima za jačanje fizičke sigurnosti i upravljanja zalihama (PSSM) kao naznaku mjera poduzetih za sprečavanje i suzbijanje preusmjeravanja (1).

Pružanje jamstva, kako je opisano u radnom dokumentu Sedmog CSP-a, u vezi s praksama upravljanja zalihama u trećoj zemlji i dalje je izazov. Područje je tehničke naravi, a informacije se smatraju vrlo osjetljivima. To otežava njihovu razmjenu. U mnogim se sektorima, privatnim i javnim, ocjenjivanje sukladnosti primjenjuje radi pružanja jamstava u pogledu učinkovitosti, sigurnosti i zaštite proizvoda i usluga. Ocjenjivanjem sukladnosti osiguravaju se međunarodno priznate metode za utvrđivanje usklađenosti proizvoda ili usluge s prihvaćenim normama i standardima. Iako postoje razni međunarodni standardi, smjernice i dobre prakse za upravljanje zalihama i njihovu sigurnost, trenutačno ne postoji međunarodno priznata metodologija za pružanje jamstava o sposobnostima treće zemlje ili krajnjih korisnika u sprečavanju preusmjeravanja (članak 11. stavak 1. UTO-a) njihovih zaliha oružja i streljiva.

U tom kontekstu Europska unija (EU) od 2020. istražuje mogućnost uspostave međunarodno priznatog sustava za potvrđivanje politike i prakse u vezi s oružjem i streljivom na državnoj razini i na razini krajnjih korisnika. Donošenjem Odluke Vijeća (ZVSP) 2020/979, kako je izmijenjena Odlukom Vijeća (ZVSP) 2021/2075, EU je Savjetodavni tim za upravljanje streljivom (AMAT) Međunarodnog centra za humanitarno razminiranje u Ženevi (GICHD) zadužio za projekt „Razvoj međunarodno priznatog sustava za potvrđivanje upravljanja oružjem i streljivom (AAMVS) radi sprečavanja nezakonitog širenja i slučajnih eksplozija”. To je bio višegodišnji pothvat podijeljen u konkretne faze s namjenskim ciljevima i rezultatima.

U prvoj fazi (ZVSP 2020/979) nastojalo se ispitati izvedivost stvaranja međunarodno priznatog sustava potvrđivanja praksi upravljanja malim i lakim oružjem (SALW) i streljivom. Izvedivost sustava procijenjena je na temelju sedam kategorija, a to su: tehnički, politički, pravni i gospodarski aspekti, vojna sigurnost, sigurnost i zaštita zajednice te pravodobnost. U studiji je utvrđeno da bi, iako nije bilo „upozorenja” kojima bi se spriječio razvoj takvog sustava, politička spremnost dionika da u njemu sudjeluju u konačnici ovisila o konačnom osmišljavanju. Dionici se stoga nisu mogli obvezati sve dok pitanja o konačnom ustroju sustava ne budu jasna.

U drugoj fazi (ZVSP 2021/2075) nastojalo se razviti alat za procjenu koji bi služio kao temelj sustava i utvrditi odgovarajuće mogućnosti za AAMVS. Izrađen je alat za samoprocjenu i istražene su moguće opcije za sustav potvrđivanja. Projekt je završio preporučenim pristupom razvoju operativnog AAMVS-a.

Što je AAMVS?

Informacije o općem stanju praksi upravljanja oružjem i streljivom od interesa su za brojne dionike, i domaće i strane. Primjerice, tijela za kontrolu izvoza mogla bi poboljšati svoje procjene rizika od preusmjeravanja koje se provode prije odobrenja izvozne dozvole poboljšanjem analize faze skladištenja nakon isporuke, dok međunarodna suradnja i pružanje pomoći mogu bolje usmjeriti potrebe na temelju analize sadašnjih mogućnosti.

AAMVS je osmišljen kako bi se olakšala razmjena informacija o sposobnosti krajnjih korisnika da održavaju sigurnost i zaštićenost zaliha. To se postiže procjenom strukturnih sposobnosti sustava upravljanja krajnjih korisnika u odnosu na međunarodno priznate najbolje prakse iz međunarodnih tehničkih smjernica za streljivo (IATG) i Modularnog kompendija o provedbi kontrole malog oružja (MOSAIC).

U središtu su AAMVS-a alati razvijeni tijekom provedbe Odluke Vijeća (ZVSP) 2021/2075. Standardizirana samoprocjena, jedan od glavnih rezultata postignutih tijekom provedbe Odluke ZVSP 2021/2075, pruža metodologiju za analizu sofisticiranosti okvira sustava upravljanja kako je definiran u smjernicama za omogućivanje sposobnosti navedenima u IATG-u 01:35. Ta je samoprocjena povezana s dokumentom za usmjeravanje tumačenja rezultata. Alat sam po sebi može poslužiti kao bilateralni alat za razmjenu informacija o općem stanju praksi upravljanja oružjem i streljivom oružanih snaga.

AAMVS postaje „sustav” kada se alat uobičajeno upotrebljava u cijeloj organizaciji kako bi se zadovoljile zajedničke potrebe. Organizacije koje se sastoje od država članica sa zajedničkim zahtjevima za kontrolu izvoza, uvoznim propisima, ciljevima izgradnje kapaciteta ili praćenjem provedbe instrumenata glavni su kandidati za ostvarivanje koristi od stvaranja sustava. U svakom slučaju zajednička platforma dodatno olakšava razmjenu informacija. Standardiziranom procjenom mogle bi se namiriti potrebe više dionika. Samoprocjena bi mogla biti valjana više godina, čime bi se omogućilo da se već odobrena analiza podijeli s odobrenim dionicima. Time bi se moglo smanjiti teret izvješćivanja za krajnjeg korisnika te istodobno povećati učinkovitost sposobnosti službenika za kontrolu izvoza da tijekom faze prije izdavanja odobrenja pristupe informacijama o uvjetima pohrane nakon isporuke potencijalnog krajnjeg korisnika koji uvozi.

Postoji više mogućnosti za uspostavu sustava AAMVS. Time se organizaciji omogućuje da taj sustav prilagodi svojim posebnim potrebama. Određene organizacije mogu imati koristi od stvaranja sustava potvrđivanja, pri čemu se jedna standardizirana analiza može podijeliti među ovlaštenim korisnicima. Druge organizacije mogu smatrati da je provjera valjanosti problematična i stoga odabrati manje specifične mogućnosti razmjene informacija. Utvrđivanje toga koje su značajke prihvatljive za koju organizaciju bit će ključno za razvoj sustavâ AAMVS-a.

Na temelju prethodno navedenih rezultata i nalaza, faza III. projekta bit će usmjerena na daljnji razvoj AAMVS-a. Usvojit će se regionalni pristup razvoju sustava potvrđivanja s naglaskom na utvrđivanju i nadogradnji postojećih regionalnih organizacijskih struktura i mehanizama za razmjenu informacija te razvoj prilagođenih metodologija i alata za potvrđivanje nacionalnih sustava za upravljanje oružjem i streljivom (među ostalim razvojem alata za samoprocjenu i odgovarajućih smjernica za provedbu procjene i tumačenje njezinih rezultata).

2.   Tehnički pristup

Ovim će se projektom razviti neovisni sustavi za potvrđivanje upravljanja oružjem i streljivom (AAMVS) u okviru postojećih regionalnih organizacijskih struktura. Svaki će sustav funkcionirati neovisno te će se temeljiti na alatima i metodološkim smjernicama razvijenima tijekom provedbe Odluke Vijeća (ZVSP) 2021/2075. Alat uključuje standardiziranu metodologiju samoprocjene prilagođenu kontekstu i standardima regije, dogovoreni postupak potvrđivanja ili ocjenjivanja u okviru kojeg se može iskoristiti stručno znanje iz regije za analizu rezultata samoprocjene, platformu za razmjenu informacija kako bi se olakšao prijenos određenih informacija ovlaštenim tijelima koja su podnijela zahtjev i mali okvir upravljanja za održavanje održivosti sustava.

Provedbom tog projekta EU bi osmislio, razvio, testirao i proveo prvi regionalni sustav AAMVS-a. EU-ov AAMVS služio bi državama članicama kao platforma za razmjenu i pristup, u standardiziranom formatu, informacijama o praksama upravljanja oružjem i streljivom na temelju samoprocjena koje provode krajnji korisnici u trećim zemljama. EU bi aktivno pridonosio osmišljavanju svih značajki sustava, koristeći se mrežom stručnjaka unutar EU-a i njegovih država članica za savjetovanje u svim područjima osmišljavanja. Za olakšavanje rasprava s mrežom i provedbu dizajna bit će odgovoran GICHD.

EU-ov AAMVS ojačao bi sposobnost Radne skupine za suzbijanje širenja oružja i za izvoz oružja (podskupina COARM), tijelâ država članica za kontrolu izvoza i Europskog instrumenta mirovne pomoći (EPF) da analiziraju rizike preusmjeravanja i slučajne eksplozije nakon isporuke povezane sa sustavom krajnjeg korisnika za upravljanje oružjem i streljivom. Tim bi se informacijama potkrijepile njihove procjene rizika od preusmjeravanja provedene prije izdavanja odobrenja za rad. Samoprocjenom na temelju AAMVS-a mogla bi se poduprijeti i Radna skupina za suzbijanje širenja oružja i za izvoz oružja (podskupina CONOP) i postupci međunarodne pomoći i izgradnje kapaciteta država članica EU-a pružanjem standardizirane procjene poštovanja okvira za upravljanje oružjem i streljivom u odnosu na međunarodne dobre prakse. To bi bila potpora utvrđivanju nedostataka i potreba, čime bi se napori za izgradnju kapaciteta usmjerili na područja u kojima su resursi najpotrebniji.

Ovim će se projektom senzibilizirati i druge podregije AAMVS-a i prednosti razvoja standardiziranog pristupa procjeni i razmjeni informacija o praksama upravljanja oružjem i streljivom. Cilj je te senzibilizacije potaknuti druge regionalne organizacije na razvoj prilagođenih sustava AAMVS-a i poduprijeti primjenu alata za samoprocjenu. Ti će se napori temeljiti na naporima uloženima u informiranje javnosti provedenima tijekom provedbe odluka Vijeća (ZVSP) 2020/979 i (ZVSP 2021/2075. Ako tijekom senzibilizacije neka regionalna organizacija zatraži potporu u razvoju AAMVS-a, projekt bi mogao preusmjeriti sredstva za potporu tim naporima.

3.   Opći ciljevi

Glavni je cilj ovog projekta poduprijeti nastojanja da se osigura sigurno i zaštićeno upravljanje SALW-om i streljivom poboljšanjem postupaka donošenja odluka dionika koji rade na kontroli izvoza te međunarodnoj suradnji i pomoći.

Taj će se cilj postići povećanjem transparentnosti praksi upravljanja SALW-om i streljivom koje provode krajnji korisnici u trećoj zemlji. Uz veću svijest o tim praksama dionici će moći donositi bolje odluke povezane s odobravanjem prijenosa i inicijativama za izgradnju kapaciteta.

Kako bi se to postiglo, u okviru projekta nastojat će se ostvariti dva glavna cilja:

1)	uspostaviti operativni sustav AAMVS,

2)	poticati napore regionalnih organizacija i njihovih država članica za razvoj vlastitog AAMVS-a.

4.   Opis aktivnosti

Cilj br. 1: uspostava operativnog sustava AAMVS

Prva godina: konsolidacija okvira sustava AAMVS

AKTIVNOSTI		REZULTATI
Uspostaviti savjetodavnu mrežu EU-a sastavljenu od zainteresiranih dionika koji mogu pružati stručne savjete o važnim i operativnim smjernicama u vezi s pitanjima politike i aktivnosti EU-a. Ti će savjetnici biti pozvani da daju svoj doprinos tijekom razvojne faze EU-ova AAMVS-a kako bi se osiguralo da sustav odgovara svrsi EU-a. Projektni tim GICHD-a bit će odgovoran za provedbu njihovih savjeta. Nastojat će se organizirati nekoliko sastanaka uživo tijekom cijele godine. Svrha je savjetodavne mreže osigurati da dionici iz EU-a preuzmu vodeću ulogu u osmišljavanju sustava koji odgovara njihovim potrebama i radnim procesima. Savjetnici će pridonijeti definiranju sljedećih komponenti sustava: — nacrt politike za rad AAMVS-a te nadzor i održavanje sustava; — preispitivanje alata za samoprocjenu u pogledu prikladnosti i primjerenosti za potrebe; — određivanje odgovarajućih subjekata za potvrđivanje i nadzor primjene AAMVS-a; — određivanje vrste razmjene informacija koja će biti dopuštena na elektroničkoj platformi i bilateralno.		Provedba alata EU-a prilagođenih mjerilima EU-a koje je potvrdio EU.
		Sastavljanje okvirnog dokumenta za EU-ov sustav AAMVS, zajedno s razvojnom strategijom.
Potvrditi analize samoprocjene i potvrđivanja. Tehnički stručnjaci EU-a trebaju preispitati, prilagoditi i potvrditi generičke alate za samoprocjenu razvijene tijekom provedbe Odluke Vijeća (ZVSP) 2021/2075 kako bi se osiguralo da odgovaraju zahtjevima dionikâ EU-a. Izvršiti tehničku provjeru alata za samoprocjenu koje su odobrili tematski stručnjaci za (upravljanje oružjem i streljivom te kontrolu izvoza). Procijeniti zahtjeve za uspostavu internetske stranice za stvaranje platforme za razmjenu informacija. Na temelju preporuka savjetnikâ EU-a procjenom će se utvrditi zahtjevi programiranja za izradu željene internetske platforme.		Uključivanje bilješki i korespondencije iz komunikacije sa savjetodavnom mrežom EU-a.
		Uspostava plana za razvoj internetske platforme koji uključuje osmišljavanje, razvoj, testiranje i finalizaciju.

Druga godina: testiranje alatâ i sustavâ

AKTIVNOSTI		REZULTATI
Testirati alate za samoprocjenu u trećim zemljama. Testovi će se sastojati od tri komponente kojima će se: — podupirati uključene treće zemlje i aktere (posrednike itd.) u njihovim naporima da izrade zadovoljavajuću samoprocjenu; — procjenjivati izazovi u provedbi s kojima se suočavaju svi uključeni akteri pri dovršetku procjene i njihovu zabrinutost u pogledu razmjene informacija; — sastavljati izvješće o procjeni u kojem će se istaknuti izazovi i stečena iskustva.		Izvješće o procjeni ispitivanja samoprocjene.
Projektirati, testirati i validirati internetsku platformu u skladu sa specifikacijama savjetodavne mreže EU-a.		Zasebni materijali za osposobljavanje za provedbu samoprocjene i potvrđivanja.
Izrađivati nacrte materijala za osposobljavanje i operativne postupke s ciljem pružanja potpore naporima za provedbu samoprocjene, standardizirati postupke potvrđivanja i usmjeravati mehanizam za nadzor sustava.		Nacrti politika i operativnih postupaka za provedbu potvrđivanja i za mehanizam za nadzor sustava.
Sastavljati nacrte dokumenata o politikama za rad AAMVS-a i njegov nadzor.		Internetska platforma za razmjenu informacija u okviru AAMVS-a.
Izvještavati savjetodavnu mrežu EU-a o statusu provedbe i raspravljati o izazovima i pitanjima koji se pojave.		Bilješke za savjetnike EU-a.

Cilj br. 2: potaknuti druge organizacije da razviju vlastiti regionalni AAMVS.

Prva godina: uvođenje AAMVS-a u dvije regionalne organizacije; nastavak ispitivanja poveznice s međunarodnim instrumentima

AKTIVNOSTI		REZULTATI
Provedba aktivnosti informiranja s dvjema regionalnim organizacijama i njihovim državama članicama radi promicanja regionalnog koncepta AAMVS-a. To će se sastojati od najviše tri posjeta regiji. Prvi sastanak s regionalnom organizacijom iskoristit će se za poticanje razvoja regionalnog AAMVS-a i, prema potrebi, za početak planiranja sljedećih koraka. Drugi sastanak uključivao bi sve države članice EU-a i poslužio kao uvod u sustav i koristi koje pruža. Očekuje se da će se naknadnim sastancima dodatno potaknuti i planirati stvaranje regionalnog AAMVS-a.		Regionalne organizacije i njihove države članice skrenule su pozornost na EU-ov sustav AAMVS i koristi od uspostave vlastitog sustava.
Sudjelovanje na sastancima regionalnih i međunarodnih instrumenata za kontrolu oružja. To bi moglo uključivati održavanje popratnih događanja ili drugih događanja za promicanje AAMVS-a i razvoj EU-ova AAMVS-a.

Druga i treća godina: uvođenje AAMVS-a u dvije regionalne organizacije godišnje, nastavak promicanja na međunarodnoj razini

Napomena: u drugoj i trećoj godini projektni plan ima jednu varijaciju ovisno o ishodu nastojanja iz prethodne godine da se AAMVS promiče na regionalnoj razini. Izvorni je plan održavati dvije aktivnosti informiranja na regionalnoj razini godišnje u skladu s formatom opisanim u prvoj godini. Međutim, ako regionalna organizacija potvrdi želju za provedbom AAMVS-a, AMAT će zatražiti dopuštenje EU-a za preusmjeravanje dijela resursa za razvoj AAMVS-a u regiji koja je zatražila sustav. To bi dovelo do smanjenja broja uključenih regionalnih organizacija godišnje, ali potencijalno i do povećanog broja država koje koriste okvir AAMVS-a i imaju koristi od njega.

5.   Agencija zadužena za tehničku provedbu

Međunarodni centar za humanitarno razminiranje u Ženevi (GICHD) vodit će provedbu projekta putem svoje specijalne agencije AMAT. AMAT će predvoditi upravljanje svim aktivnostima ovog projekta i njihovom provedbom te će zadržati odgovornost nad proračunom i izvješćivanjem. Tim AMAT-a bio je, slično tome, odgovoran za upravljanje djelovanjima na temelju odluka Vijeća (ZVSP) 2020/979 i (ZVSP) 2021/2075 i provedbu tih djelovanja.

AMAT namjerava angažirati stručne savjetnike kako bi podržali različite aspekte ovog projekta. Posebice će se angažirati stručnjaci u područjima razvoja internetskih stranica, procjene sukladnosti i upravljanja SALW-om kako bi se pružila potpora provedbi tih aspekata projekta. Ti će se savjetnici odabrati u okviru odobrenog postupka zapošljavanja.

6.   Relevantnost

Ovaj je projekt, uključujući njegove ciljeve, aktivnosti i rezultate, usklađen s brojnim strategijama i političkim sporazumima Europske unije.

Strategija protiv nezakonitog vatrenog oružja, malog i lakog oružja i pripadajućeg streljiva iz 2018. (Strategija za SALW)

Svrha je Strategije za SALW iz 2018. usmjeriti integrirano, zajedničko i koordinirano europsko djelovanje kako bi se spriječila i suzbila nezakonita nabava SALW-a i pripadajućeg streljiva (...) te kako bi se promicalo preuzimanje odgovornosti u pogledu zakonite trgovine oružjem (2). Strategijom za SALW iz 2018. predviđaju se posebne mjere za upravljanje zalihama te se EU obvezuje da će podupirati suradnju i pomoć u provedbi Akcijskog programa UN-a, uključujući upravljanje zalihama; promicati i provoditi standarde i dobre prakse za postupanje s malim oružjem (ISACS [sada MOSAIC]) i streljivom (IATG).

AAMVS EU-a pridonio bi naporima EU-a za provedbu Strategije za SALW iz 2018.:

—	Sprečavanje preusmjeravanja i promicanje odgovornosti u okviru zakonite trgovine SALW-om navedeni je cilj AAMVS-a. EU-ov AAMVS može poduprijeti procjene rizika od preusmjeravanja koje se provode prije izdavanja dozvola za izvoz.

—	EU-ov AAMVS-om mogu se poduprijeti suradnja i pomoć u području upravljanja zalihama tako što će njime utvrditi nedostaci u sustavu upravljanja i što će služiti kao alat za praćenje promjena ili poboljšanja u praksi.

—	Metodologijom samoprocjene promiče se provedba MOSAIC-a i IATG-a kao normi na temelju kojih se mjeri ocjenjivanje sukladnosti.

Akcijski plan EU-a za kontrolu trgovine vatrenim oružjem za razdoblje 2020.–2025.

U Akcijskom planu EU-a za suzbijanje nezakonite trgovine vatrenim oružjem za razdoblje 2020.–2025. u EU-u i partnerima iz jugoistočne Europe (zapadni Balkan, Moldova i Ukrajina) prepoznaje se potreba za povećanjem sigurnosti zaliha u jugoistočnoj Europi i podupire regija zapadnog Balkana (3). Planom se ujedno predviđa povećanje sigurnosti upravljanja zalihama, unapređenje propisa i praćenje odgovarajuće usklađenosti (4). Osim toga, u okviru mjere 4.2. potrebno je poticati bolje upravljanje zalihama u regiji Sahel.

Iako EU-ov AAMVS nije regionalno usmjeren, njime se mogu poduprijeti nastojanja da se utvrde strukturne slabosti u praksama upravljanja zalihama krajnjeg korisnika. Metodologija samoprocjene posebno je prikladna za utvrđivanje nedostataka u sigurnosnim propisima.

Zajedničko stajalište EU-a o izvozu oružja iz 2008. (Zajedničko stajalište EU-a) i priručnik za dobrovoljnu provedbu Zajedničkog stajališta  (5)

Zajedničko stajalište EU-a sadržava osam mjerila u kojima se navode četiri skupa rizika koje su države članice dužne smatrati razlozima za uskraćivanje izvozne dozvole i četiri skupa čimbenika koje države članice moraju „uzeti u obzir” pri ocjeni zahtjeva za izdavanje izvozne dozvole. Sedmo mjerilo odnosi se na „postojanje rizika da će se vojna tehnologija ili oprema u državi koja kupuje rabiti za druge namjene ili da će biti ponovno izvezena pod neželjenim uvjetima” kao čimbenik koji bi izvoznik trebao uzeti u obzir. U Zajedničkom stajalištu dodaje se da bi izvoznik pri procjeni rizika od preusmjeravanja trebao uzeti u obzir „sposobnost države primateljice za učinkovit nadzor nad izvozom”.

U Priručniku za provedbu Zajedničkog stajališta EU-a – u kojem se navode dodatne, ali neobvezujuće upute o tome kako provesti odredbe tog dokumenta – izvoznici se pozivaju da razmotre (a) „ispunjavaju li upravljanje zalihama i sigurnost zaliha” u zemlji primateljici „dostatne standarde (uključujući MOSAIC i IATG)”; i (b) je li bilo „poznatih problema s nestankom zaliha”  (6).

U Priručniku se upućuje na važnost učinkovite sigurnosti i upravljanja zalihama ne samo u odnosu na provedbu sedmoga mjerila i procjenu rizika od preusmjeravanja nego i u odnosu na primjenu prvog i drugog mjerila iz Zajedničkog stajališta EU-a, koji obuhvaćaju poštovanje međunarodnih obveza odnosno poštovanje ljudskih prava te međunarodnog humanitarnog prava. Posebice se u Priručniku smatra da je poštovanje standarda predviđenih Akcijskim programom UN-a, uključujući one koji obuhvaćaju upravljanje zalihama, relevantno za procjenu toga poštuju li primatelji međunarodne obveze u skladu s prvim mjerilom (7). Nadalje, u Priručniku se upućuje na postojanje „odgovarajućih procedura” za „upravljanje zalihama i sigurnost, uključujući višak oružja i streljiva”, te na postojanje problema u pogledu „krađe i nestajanja zaliha” u zemlji navedenog krajnjeg korisnika, kao elemenata koje treba uzeti u obzir za procjenu postojanja rizika da bi se izvezeno oružje moglo upotrijebiti uz kršenje ljudskih prava ili međunarodnog humanitarnog prava u skladu s drugim mjerilom (8).

Zajedničko stajalište EU-a i Priručnik za provedbu također pružaju relevantne smjernice za razmjenu informacija, što je važna sastavnica AAMVS-a. Člankom 4. Zajedničkog stajališta EU-a zahtijeva se da države članice razmjenjuju podrobne podatke o odbijenim zahtjevima za dozvolama za izvoz i da se savjetuju pri razmatranju odobrenja dozvole „za gotovo jednak posao” kao i onaj za koji je dozvolu odbila druga država članica. Ta je odredba dodatno ojačana člankom 7. Zajedničkog stajališta EU-a kojim se od država članica zahtijeva da „rade na osnaživanju međusobne suradnje i na promicanju međusobne usklađenosti” u području kontrole izvoza oružja „razmjenom odgovarajućih podataka” ne samo o odbijanjima, nego i o politikama izvoza oružja. Priručnikom za provedbu potiče se države članice da razmjenjuju informacije u okviru Radne skupina za suzbijanje širenja oružja i za izvoz oružja (COARM), kao i putem „internetskog sustava COARM, ili ako se smatra da je potrebna klasifikacijska oznaka ‘Restricted’, putem mreže COREU”. Razmjena informacija trebala bi obuhvaćati i informacije koje bi mogle biti korisne drugim državama članicama kako bi se spriječio rizik od zlouporabe (9).

Zajedničko stajalište EU-a pruža jasne poveznice između uspostavljene politike i AAMVS-a. Veza je uspostavljena u Odluci Vijeća (ZVSP) 2020/979, a EU AAMVS je posebno osmišljen za potporu primjeni sedmoga mjerila Zajedničkog stajališta EU-a, koju provodi tijelo za kontrolu izvoza jer služi kao tehnički alat koji može pružiti analizu mjera sigurnosti i zaštite koje provodi potencijalna država uvoznica. Primijenjena metodologija u skladu je sa smjernicama iz Priručnika za procjenu standardâ u odnosu na postojeću međunarodno prihvaćenu dobru praksu. Člankom 4. Zajedničkog stajališta utvrđuje se i političko opravdanje za komponentu razmjene informacija u okviru EU-ova AAMVS-a.

Odluka Vijeća (ZVSP) 2021/38 od 15. siječnja 2021. o utvrđivanju zajedničkog pristupa za elemente potvrda o krajnjem korisniku u kontekstu izvoza malog i lakog oružja i pripadajućeg streljiva

Odlukom Vijeća (ZVSP) 2021/38 utvrđuje se zajednički pristup za elemente potvrda o krajnjem korisniku u kontekstu izvoza malog i lakog oružja i pripadajućeg streljiva (10). Odluka sadržava dva „neobvezna elementa” na temelju kojih države mogu smatrati da su izravno relevantni za AAMVS: (c) da se državi članici izvoznici omogući provjera na licu mjesta nakon otpreme; (d) da se pruže „jamstva krajnjeg korisnika kojima se dokazuje njegova sposobnost za sigurno i zaštićeno upravljanje oružjem i streljivom, uključujući njegovu sposobnost za sigurno i zaštićeno upravljanje zalihama gdje će se roba skladištiti”.

AAMVS može uključivati metodologiju provjere nakon isporuke kako bi se poduprla provjera na licu mjesta tvrdnji navedenih u samoprocjeni. Time bi se osigurala još veća razina sigurnosti.

7.   Strategija za komunikaciju i vidljivost

AMAT će biti dužan poduzeti sve odgovarajuće mjere kako bi objavio da je taj projekt financirao EU, u skladu sa zahtjevima u pogledu komunikacije i vidljivosti za vanjsko djelovanje EU-a iz 2018., koje je objavila Europska komisija. Potpora Europske unije bit će spomenuta i u pozivnicama i drugim dokumentima koji se šalju sudionicima različitih događanja. Gdje god je to moguće, AMAT će osigurati da EU bude zastupljen na događanjima koja se podupiru na temelju ove Odluke.

Konkretno, EU će biti priznat kao voditelj projekta na svim regionalnim i međunarodnim događanjima na kojima je predstavljen AAMVS. EU-ov AAMVS mogao bi poslužiti kao izvrsna motivacija drugim regionalnim organizacijama pa će AMAT poticati i podupirati napore EU-a za promicanje alata u različitim okruženjima za kontrolu oružja. Predstavnici EU-a bit će pozvani da iznesu primjedbe, a logotip EU-a bit će prikazan u prezentacijama i oglasima.

---

(1)  Nacrt radnog dokumenta predsjednika Sedmog CSP-a: jačanje napora za iskorjenjivanje nezakonite trgovine malim i lakim oružjem i osiguravanje učinkovitog upravljanja zalihama.

(2)  Vijeće Europske unije, Zaključci Vijeća o donošenju Strategije EU-a protiv nezakonitog vatrenog oružja, malog i lakog oružja i pripadajućeg streljiva, Bruxelles, 19. studenoga 2018., 13581/18, <https://data.consilium.europa.eu/doc/document/ST-13581-2018-INIT/hr/pdf>.

(3)  Europska komisija, Komunikacija Komisije Europskom parlamentu, Vijeću, Europskom gospodarskom i socijalnom odboru te Odboru regija: Akcijski plan EU-a za kontrolu trgovine vatrenim oružjem 2020.–2025. (bilješka 30.).

(4)  Vidjeti cilj 7. Plana za održivo rješavanje problema nezakonitog posjedovanja i zlouporabe malog i lakog oružja (SALW) te trgovanja njima i pripadajućim streljivom na zapadnom Balkanu do 2024., London, 10. srpnja 2018. <https://www.seesac.org/f/docs/publications-salw-control-roadmap/Regional-Roadmap-for-a-sustainable-solution-to-the.pdf>.

(5)  Zajedničko stajalište Vijeća 2008/944/ZVSP od 8. prosinca 2008. o definiranju zajedničkih pravila kojima se uređuje kontrola izvoza vojne tehnologije i opreme (bilješka 7.).

(6)  Vijeće Europske unije, „Priručnik za provedbu Zajedničkog stajališta Vijeća 2008/944/ZVSP (kako je izmijenjeno Odlukom Vijeća (ZVSP) 2019/1560)”, str. 129.

(7)  Vijeće Europske unije, „Priručnik za provedbu Zajedničkog stajališta Vijeća 2008/944/ZVSP (kako je izmijenjeno Odlukom Vijeća (ZVSP) 2019/1560)”, str. 24.

(8)  Vijeće Europske unije, „Priručnik za provedbu Zajedničkog stajališta Vijeća 2008/944/ZVSP (kako je izmijenjeno Odlukom Vijeća (ZVSP) 2019/1560)”, str. 58.

(9)  Vijeće Europske unije, „Priručnik za provedbu Zajedničkog stajališta Vijeća 2008/944/ZVSP (kako je izmijenjeno Odlukom Vijeća (ZVSP) 2019/1560)”, str. 159.

(10)  Odluka Vijeća (ZVSP) 2021/38 od 15. siječnja 2021. o utvrđivanju zajedničkog pristupa za elemente potvrda o krajnjem korisniku u kontekstu izvoza malog i lakog oružja i pripadajućeg streljiva (SL L 14, 18.1.2021., str. 4) https://eur-lex.europa.eu/legal-content/HR/TXT/PDF/?uri=CELEX:32021D0038&from=HR.