31.8.2017   

HR

Službeni list Europske unije

C 288/1

Izvjestiteljica:

Catelijne MULLER

1.1

Trenutačno se u području umjetne inteligencije događa nekoliko važnih postignuća te se ona ubrzano primjenjuju u društvu. Vrijednost tržišta za umjetnu inteligenciju iznosi otprilike 664 milijuna USD, a prema očekivanjima taj bi se udio mogao povećati na 38,8 milijardi u 2025. Budući da umjetna inteligencija može imati pozitivne i negativne učinke na društvo, Europski gospodarski i socijalni odbor (EGSO) ima namjeru izričito pratiti zbivanja u području umjetne inteligencije, i to ne samo s tehničkog stajališta nego osobito s etničkog, sigurnosnog i društvenog stajališta.

1.2

Kao predstavnik europskog civilnog društva, EGSO će u sljedećem razdoblju pripremiti, organizirati na središnjoj razini i potaknuti javnu raspravu u pogledu umjetne inteligencije te u nju uključiti sve relevantne dionike: tvorce politika, industriju, socijalne partnere, potrošače, nevladine organizacije, obrazovne i zdravstvene institucije, stručnjake i znanstvenike iz raznih struka (kao što su umjetna inteligencija, sigurnost, etika, ekonomija, znanost o radu, pravo, bihevioralna znanost, psihologija, filozofija).

1.3

Iako važna, u ovom trenutku prevladava rasprava o superinteligenciji, koja zasjenjuje raspravu o učinku sadašnje primjene umjetne inteligencije. Stoga će zadatak i cilj tog postupka biti, među ostalim, povećanje i proširenje znanja o umjetnoj inteligenciji, čime bi se pridonijelo informiranoj i uravnoteženoj raspravi kojom bi se spriječila ekstremna stajališta. EGSO će se posvetiti promicanju razvoja umjetne inteligencije u korist čovječanstva. S druge strane, važan zadatak i cilj tog postupka ujedno je prepoznati, utvrditi i pratiti sve čimbenike radikalnog razvoja u području umjetne inteligencije i s njom povezanim područjima kako bi se ti čimbenici i pravovremeno otklonili na odgovarajući način. Time će doći do većeg povjerenja u društveni angažman i javne potpore za daljnji održivi razvoj i primjenu umjetne inteligencije.

1.4

Umjetna inteligencija ima prekogranični učinak te će stoga trebati utvrditi i nadnacionalne okvire politike. EGSO preporučuje da EU preuzme vodeću ulogu na svjetskoj razini u donošenju globalnih, jednoznačnih okvira politike u području umjetne inteligencije, u skladu s europskim vrijednostima i temeljnim pravima. EGSO može i želi dati svoj doprinos.

1.5

EGSO trenutačno ističe 11 područja u kojima umjetna inteligencija predstavlja izazov za društvo: etika, sigurnost, privatnost, transparentnost i objašnjivost, rad, obrazovanje i vještine, (ne)jednakost i uključivost, zakoni i drugi propisi, upravljanje i demokracija, ratovanje, superinteligencija. EGSO preporučuje sljedeće.

1.6

EGSO poziva na zauzimanje pristupa umjetnoj inteligenciji prema kojemu bi čovjek upravljao , a okvirni uvjeti bili bi odgovoran, siguran i koristan razvoj umjetne inteligencije, pri čemu bi strojevi ostali strojevi, a ljudi bi u svakom trenutku zadržali kontrolu nad tim strojevima.

1.7

EGSO poziva na usvajanje etičkog kodeksa za razvoj, uvođenje i upotrebu umjetne inteligencije kako bi sustavi umjetne inteligencije tijekom cjelokupnog postupka rada bili usklađeni s načelima poštovanja ljudskog dostojanstva, integriteta, slobode, privatnosti te kulturoloških i rodnih razlika temeljnih ljudskih prava.

1.8

EGSO se zalaže za razvoj sustava normizacije u svrhu provjere, potvrde i kontrole sustava umjetne inteligencije, koji bi se temeljio na nizu raznih normi u području sigurnosti, transparentnosti, razumljivosti, objašnjivosti i etičkih vrijednosti.

1.9

EGSO se zalaže za europsku infrastrukturu za umjetnu inteligenciju koja bi se sastojala od otvorenog okruženja za učenje u kojemu se poštuje privatnost, testnog okruženja u stvarnim uvjetima i vrlo kvalitetnih skupova podataka za razvoj i treniranje sustava umjetne inteligencije. EGSO ističe (konkurentsku) prednost koju EU može postići na svjetskom tržištu razvojem i promicanjem „europskih odgovornih sustava umjetne inteligencije” koji posjeduju certifikat i oznaku europske umjetne inteligencije.

1.10

EU, nacionalne vlasti i socijalni partneri moraju zajednički odrediti na koje će sektore tržišta rada u kojem opsegu i vremenskom okviru utjecati umjetna inteligencija te potražiti rješenja za posljedice za zapošljavanje, opis poslova, socijalni sustav i (ne)jednakost. Osim toga, potrebno je uložiti sredstva u one sektore na tržištu rada na koje umjetna inteligencija vrlo malo utječe ili uopće ne utječe.

1.11

EGSO preporučuje tim dionicima da ulože zajedničke napore u komplementarne sustave umjetne inteligencije te u zajedničko stvaranje sustava na radnom mjestu kao što su, primjerice, timovi ljudi i strojeva, pri čemu umjetna inteligencija nadopunjuje i poboljšava uspješnost ljudi. Dionici bi također trebali ulagati u formalne i neformalne načine učenja, obrazovanje i obuku namijenjenu svim pojedincima kako bi mogli raditi s umjetnom inteligencijom, no i kako bi razvili vještine koje umjetna inteligencija neće ili ne može usvojiti.

1.12

Već sada je potrebno provesti konkretnu ocjenu zakona i drugih propisa EU-a unutar šest ključnih područja koje je utvrdio Odjel za znanstvena predviđanja, a koje vjerojatno treba revidirati ili izmijeniti. EGSO može i želi imati ulogu u tom postupku ocjenjivanja. EGSO se protivi uvođenju nekog oblika pravne osobnosti za robote ili umjetnu inteligenciju. Time je uskraćeno preventivno i korektivno djelovanje pravne odgovornosti, pojavljuje se moralni rizik za razvoj i upotrebu umjetne inteligencije i mogućnosti zloupotrebe.

1.13

Potrebno je aktivno promicati i podupirati razvoj aplikacija umjetne inteligencije koje služe društvu, čijom se upotrebom promiče uključenost i poboljšava život ljudi, i to podjednako u javnom i privatnom sektoru. Europska komisija trebala bi u okviru svojeg programa financirati istraživanje o društvenim učincima umjetne inteligencije i inovacija povezanih s umjetnom inteligencijom koje financira EU.

1.14

EGSO podupire poziv nevladine organizacije Human Rights Watch da se zabrane autonomna oružja. EGSO pozdravlja predstojeću raspravu o toj temi u Ujedinjenim narodima, no smatra da bi predmetom te rasprave u UN-u trebala biti i primjena umjetne inteligencije u kibernetičkom ratu.

2.1

Ne postoji jednoznačna i čvrsto prihvaćena definicija umjetne inteligencije. Umjetna inteligencija univerzalni je pojam za velik broj (pod)domena kao što su: kognitivno računalstvo (algoritmi zaključivanja i razumijevanja na višoj (ljudskoj) razini), strojno učenje (algoritmi koji sami sebe uče zadatcima), proširena inteligencija (suradnja čovjeka i stroja), robotika zasnovana na umjetnoj inteligenciji (umjetna inteligencija ugrađena u robote). Međutim, središnji cilj istraživanja i razvoja umjetne inteligencije jest automatizacija inteligentnog ponašanja kao što je zaključivanje, prikupljanje informacija, planiranje, učenje, komunikacija, manipulacija, davanje znakova, pa čak i stvaralaštvo, maštanje i uočavanje.

2.2

Načelno možemo razlikovati dvije vrste umjetne inteligencije: ograničenu i svjesnu umjetnu inteligenciju. Ograničena umjetna inteligencija može obavljati specifične zadatke. Svjesna umjetna inteligencija može obavljati iste intelektualne zadatke koje izvršava čovjek.

2.3

U području ograničene umjetne inteligencije nedavno je ostvaren znatan napredak, posebno zbog toga što je došlo do povećanja procesorske snage računala, dostupnosti velike količine podataka i razvoja strojnog učenja. Strojno učenje uključuje algoritme koji mogu samostalno učiti određene zadatke, a da za to prethodno nisu programirani. Ova metoda počiva na obradi „podataka namijenjenih za treniranje” na temelju kojih algoritam uči prepoznavati obrasce i stvarati pravila. Duboko učenje, oblik strojnog učenja, koristi se strukturama (neuronskim mrežama) koje donekle oponašaju ljudski mozak i koje uče uvježbavanjem i na temelju povratnih informacija. Rezultat je tog razvoja taj da su sustavi umjetne inteligencije (s pomoću algoritama) sada sposobni samostalno učiti, biti autonomni i prilagodljivi.

2.4

Najznačajniji naglasak u istraživanju i razvoju umjetne inteligencije već je neko vrijeme stavljen na elemente zaključivanja, stjecanja znanja, planiranja, komunikacije i percepcije (vizualne, slušne i osjetilne). To je dovelo do niza primjena umjetne inteligencije: virtualni pomoćnici, samovozeća vozila, automatsko prikupljanje vijesti, prepoznavanje govora, programi za prevođenje, programi za pretvaranje teksta u govor, automatizirano trgovanje na financijskim tržištima, pronalaženje pravnih sadržaja itd.

2.5

EGSO napominje da su broj mogućnosti primjene i količina ulaganja u umjetnu inteligenciju u posljednje vrijeme eksponencijalno porasli. Tržište umjetne inteligencije trenutačno iznosi otprilike 664 milijuna USD, a očekuje se da bi se 2025. taj udio mogao povećati na 38,8 milijardi.

3.1

Gotovo nije moguće osporiti činjenicu da umjetna inteligencija može biti od velike koristi društvu: valja spomenuti mogućnosti njezine primjene u svrhu održive poljoprivrede, sigurnijeg prometa, sigurnijeg financijskog sustava, ekološke proizvodnje, bolje medicine, sigurnijeg rada, osobnog obrazovanja, bolje sudske prakse i sigurnijeg društva. Moguće je da će pridonijeti i iskorjenjivanju bolesti i siromaštva. Umjetna inteligencija također može dati važan doprinos rastu industrije i poboljšanju konkurentnosti EU-a.

3.2

Međutim, kao što je slučaj sa svim disruptivnim tehnologijama, umjetna inteligencija također donosi rizike i mnogostruke izazove za politiku u područjima kao što su sigurnost i mogućnost kontrole, društveno-gospodarski aspekti, etika i privatnost, pouzdanost itd.

3.3

Nalazimo se u odlučujućem trenutku kad je potrebno utvrditi (pred)uvjete za sadašnji i daljnji razvoj i uvođenje umjetne inteligencije. Te prednosti umjetne inteligencije moguće je dugoročno ostvariti samo ako se na odgovarajući način riješe izazovi povezani s umjetnom inteligencijom. Stoga bi trebalo donijeti političke odluke.

(a)

Etika

3.4

Razvojem umjetne inteligencije otvaraju se brojna etička pitanja. Koji je utjecaj autonomne umjetne inteligencije (koja samu sebe uči) na naš osobni integritet, neovisnost, dostojanstvo, samostalnost, jednakost, sigurnost, slobodu odabira? Na koji ćemo način osigurati poštovanje i očuvanje temeljnih standarda, vrijednosti i ljudskih prava?

3.5

Osim toga, u ovom se trenutku razvoj umjetne inteligencije događa u okviru homogenog okruženja koje se uglavnom sastoji od mladih bijelaca zbog, čega se (svjesno ili nesvjesno) u umjetnu inteligenciju ugrađuju kulturološke i spolne razlike jer, među ostalim, sustavi umjetne inteligencije uče na temelju podataka namijenjenih za treniranje. Ti bi podaci trebali biti točni te također kvalitetni, raznoliki, dovoljno temeljiti i nepristrani. Postoji opća sklonost vjerovanju da su podaci, po definiciji, objektivni, ali to je zabluda. Podacima je lako manipulirati, oni mogu biti pristrani, mogu odražavati kulturološke, spolne i druge predrasude i preferencije te sadržavati pogreške.

3.6

U sustave umjetne inteligencije koji se trenutačno razvijaju nisu ugrađene etičke vrijednosti. Ljudi se moraju pobrinuti za ugrađivanje tih vrijednosti u sustave umjetne inteligencije i okruženje u koje se ona uvodi. Razvoj, uvođenje i upotreba sustava umjetne inteligencije (podjednako javnih i komercijalnih) trebala bi se odvijati u okvirima naših temeljnih normi, vrijednosti, sloboda i ljudskih prava. EGSO stoga poziva na razvoj i utvrđivanje jedinstvenog globalnog etičkog kodeksa za razvoj, uvođenje i upotrebu umjetne inteligencije.

(b)

Sigurnost

3.7

Upotrebom umjetne inteligencije u fizičkom svijetu nedvojbeno se javljaju pitanja o sigurnosti. Moguće je razlikovati unutarnju i vanjsku sigurnost.

3.8

EGSO smatra da se sustavi umjetne inteligencije mogu staviti u upotrebu samo ako zadovoljavaju posebne zahtjeve unutarnje i vanjske sigurnosti. Tvorci politika, stručnjaci za umjetnu inteligenciju i sigurnost, poduzeća i organizacije civilnog društva trebaju zajednički utvrditi te zahtjeve.

(c)

Transparentnost, razumljivost, mogućnost kontrole, objašnjivost

3.9

Prihvaćanje i održivi razvoj te primjena umjetne inteligencije povezani su s mogućnošću razumijevanja, kontrole i objašnjenja rada, djelovanja i odluka sustava umjetne inteligencije, osobito naknadno.

3.10

Sve je veći utjecaj djelovanja i odluka sustava umjetne inteligencije (s pomoću pametnih algoritama) na život ljudi. Primjeri su upotreba umjetne inteligencije u policijskom poslu na temelju kriminalističko-obavještajnih podataka, pri procjeni zahtjeva za hipoteku ili tijekom postupka odobravanja osiguranja. Pritom su ključni čimbenici razumljivost, mogućnost kontrole i objašnjivost postupka odlučivanja sustava umjetne inteligencije.

3.11

Trenutačno postoje brojni sustavi umjetne inteligencije koji su teško razumljivi korisnicima. Međutim, to sve više vrijedi i za stvaratelje sustava. Konkretno, neuronske mreže često su „crne kutije” u kojima se događaju postupci (odlučivanja) koje više nije moguće shvatiti i u pogledu kojih ne postoje mehanizmi objašnjenja.

3.12

EGSO se zalaže za transparentne, razumljive i provjerljive sustave umjetne inteligencije čiji je rad moguće objasniti i naknadno. Nadalje, nužno je utvrditi koje je postupke odlučivanja moguće povjeriti sustavima umjetne inteligencije, a koje ne, te kad je poželjna ili potrebna ljudska intervencija.

(d)

Privatnost

3.13

Pitanje privatnosti izaziva zabrinutost. U brojne (potrošačke) proizvode već je ugrađena umjetna inteligencija: kućanske aparate, dječje igračke, vozila, uređaje za praćenje zdravstvenog stanja, pametne telefone. Svi ti proizvodi prenose podatke (često osobne) u platforme u oblaku proizvođača. S obzirom na to da osobito dolazi do naglog porasta trgovine podatcima, što znači da prikupljeni podaci ne ostaju kod proizvođača, nego ih se preprodaje trećim osobama, javlja se zabrinutost je li u dovoljnoj mjeri zajamčena privatnost.

3.14

Umjetna inteligencija ujedno može analizom vrlo velike količine (često) osobnih podataka utjecati na odabire ljudi u brojnim područjima (od poslovnih odluka do izbora i referenduma). Djeca su posebno ranjiva skupina. EGSO zabrinjavaju one aplikacije umjetne inteligencije koje se izričito usredotočuju na utjecanje na ponašanje i želje djece.

3.15

Nužno je spriječiti da se primjenom umjetne inteligencije u obradi osobnih podataka ograničava stvarna ili percipirana sloboda ljudi. Općom uredbom EU-a o zaštiti podataka u znatnoj se mjeri predviđa zaštita privatnosti osobnih podataka u elektroničkoj komunikaciji. Imajući u vidu kontekst razvoja u području umjetne inteligencije, valja pomno pratiti je li u praksi dovoljno zajamčeno pravo ljudi na informirani pristanak i slobodu odabira pri dostavi podataka, ali i na pristup, prilagodbu i provjeru takvih dostavljenih podataka.

(e)

Norme, standardi i infrastruktura

3.16

Trebalo bi razviti novi sustav normizacije za provjeru i potvrdu sustava umjetne inteligencije koji bi se temeljio na nizu raznih normi kako bi se moglo ocijeniti i kontrolirati sigurnost, transparentnost, razumljivost, objašnjivost i etičku odgovornost sustava umjetne inteligencije.

3.17

EGSO se zalaže da EU razvije vlastitu infrastrukturu za umjetnu inteligenciju koja bi se sastojala od otvorenog okruženja za učenje u kojemu se poštuje privatnost i vrlo kvalitetnih skupova podataka za razvoj i treniranje sustava umjetne inteligencije. EU osobito u tom dijelu može postići (konkurentsku) prednost na globalnom tržištu promicanjem europskih odgovornih sustava umjetne inteligencije. EGSO preporučuje da se dodatno istraže mogućnosti europskog certificiranja i označivanja umjetne inteligencije.

(f)

Učinak na rad, zapošljavanje, radne uvjete i socijalne sustave

3.18

Mišljenja su oprečna u pogledu brzine i opsega u kojem će se to dogoditi, no očito je da će umjetna inteligencija utjecati na razinu zaposlenosti te na narav i vrstu brojnih radnih mjesta, a na taj način i na socijalne sustave.

3.19

Brynjolfsson i McAfee sa sveučilišta MIT nazivaju sadašnji tehnološki razvoj (uključujući umjetnu inteligenciju) drugim strojnim dobom. Međutim, postoje dvije bitne razlike: i. „stari” strojevi zamijenili su uglavnom mišiće, dok novi strojevi zamjenjuju mozak i kognitivne vještine, čime su pogođeni ne samo nisko kvalificirani radnici nego i osobe sa srednjom i visokom stručnom spremom i ii. umjetna inteligencija tehnologija je opće namjene koja ima učinak na sve sektore istodobno.

3.20

Umjetna inteligencija može imati velike prednosti kad se upotrebljava za opasne, teške, iscrpljujuće, prljave, neugodne, ponavljajuće ili dosadne poslove. Sustavi umjetne inteligencije mogu sve više obavljati i rutinske poslove te obradu i analizu podataka ili poslove u kojima planiranje ili predviđanja imaju važnu ulogu odnosno poslove koje često obavlja visokoobrazovani kadar.

3.21

Međutim, većina poslova sastoji se od nekoliko aktivnosti. Čini se da je mala mogućnost da sve aktivnosti koje neka osoba izvršava preuzme umjetna inteligencija ili roboti. Bez obzira na to, gotovo svatko će se suočiti s automatizacijom dijela svojih zadataka. Vrijeme koje se na taj način oslobodi može se iskoristiti za druge zadatke, pod uvjetom da to podupru vlasti i socijalni partneri. Pritom je potrebno pripaziti na učinak koji bi takav razvoj događaja mogao imati na stručnjake i rukovodstvo te bi trebalo poticati njihovu uključenost tako da oni upravljaju tim razvojem, a ne da postanu njegove žrtve.

3.22

Osim toga, pojavit će se i nova radna mjesta. Međutim, nitko ne može predvidjeti koja su to radna mjesta, koliko će ih biti i koliko brzo će se to dogoditi. Poduzeća poput Googlea i Facebooka uspjela su razviti veliku vrijednost uz relativno mali broj zaposlenika. Osim toga, nova radna mjesta nisu uvijek i kvalitetna radna mjesta. Postoji zabrinutost da će daljnjim razvojem umjetne inteligencije uskoro ostati samo loše plaćeni manje zahtjevni poslovi namijenjeni sve većem broju fleksibilnih radnika.

3.23

Umjetna inteligencija utjecat će ne samo na količinu dostupnih poslova nego i na vrstu postojećeg posla. Sustavi umjetne inteligencije nude sve više mogućnosti za praćenje i nadziranje radnika, čime se dovode u pitanje samostalnost i privatnost. Posao se već sada često određuje i dijeli primjenom algoritama bez ljudskog posredovanja, što utječe na vrstu posla i radne uvjete. Zbog upotrebe sustava umjetne inteligencije postoji i rizik od osiromašenja radnih aktivnosti i zaboravljanja ključnih vještina.

3.24

Međutim, činjenica je da tehnologija ne preuzima kontrolu. Vlasti i socijalni partneri imaju mogućnost odrediti način na koji će se umjetna inteligencija dalje razvijati i primjenjivati u radu i tu mogućnost moraju objeručke prihvatiti. Pritom je važno ne usmjeriti se samo na ono za što je umjetna inteligencija sposobna nego i na ono za što su ljudi sposobni (kreativnost, empatija, suradnja), na ono što želimo da ljudi i dalje rade te na pronalaženje mogućnosti za ostvarenje bolje suradnje između ljudi i strojeva (komplementarnost).

3.25

Umjetna inteligencija svoju najzanimljiviju primjenu nalazi u području proširene inteligencije (komplementarnost), pri čemu ljudi i strojevi međusobno surađuju i jedno drugo osnažuju jer je riječ o djelovanju čovjeka zajednički sa strojem, za razliku od djelovanja čovjeka umjesto stroja. Od velike je važnosti zajedničko stvaranje sustava: radnike treba uključiti u razvoj takvih komplementarnih sustava umjetne inteligencije kako bi se osigurala funkcionalnost sustava umjetne inteligencije, kao i to da radnik ima dovoljnu razinu samostalnosti i kontrole (čovjek upravlja) te da i dalje osjeća zadovoljstvo i užitak na radnom mjestu.

(g)

Obrazovanje i vještine

3.26

Potrebno je održavati postojeće digitalne vještine i stjecati nove kako bi se ljudi mogli prilagoditi na brz razvoj u području umjetne inteligencije. Europska komisija iznimno je posvećena razvoju digitalnih vještina u okviru Koalicije za digitalne vještine i radna mjesta. Međutim, nisu svi sposobni ili zainteresirani za kodiranje i programiranje. Zbog toga je politiku i financijska sredstva također potrebno usmjeriti na obrazovanje i razvoj vještina u područjima koja neće biti ugrožena sustavima umjetne inteligencije (valja uzeti u obzir zadatke za čije je obavljanje ponajprije bitna interakcija među ljudima, pri čemu ljudi i strojevi surađuju, ili zadatke za koje želimo da ih ljudi i dalje obavljaju).

3.27

U postizanju komplementarnosti ljudi i umjetne inteligencije (proširena inteligencija) svi će se obvezno morati obrazovati od rane dobi u području postupanja i rada sa sustavima umjetne inteligencije kako bi se osiguralo da ljudi u svojemu radu zadrže samostalnost i kontrolu (čovjek upravlja). Pri tome je osobito važno obrazovanje u području etike i privatnosti jer umjetna inteligencija ima velik učinak u tim područjima.

(h)

Dostupnost, društvena (ne)jednakost, uključivost, dijeljenje

3.28

Velik dio razvoja umjetne inteligencije i svih s njome povezanih elemenata (razvojne platforme, podaci, znanje, stručnost) u rukama je pet tehnoloških divova (Amazon, Apple, Facebook, Google, Microsoft). Unatoč tome što ova poduzeća zagovaraju otvoren razvoj umjetne inteligencije, a neka nude otvoren pristup svojim razvojnim platformama za umjetnu inteligenciju, potpuna dostupnost sustava umjetne inteligencije time nije zajamčena. EU, međunarodni tvorci politika i organizacije civilnog društva moraju u tom smislu preuzeti važnu ulogu tako što će osigurati dostupnost sustava umjetne inteligencije za sve, ali i to da se njihov razvoj odvija u otvorenom okruženju.

3.29

Zbog tehnoloških promjena koje stvaraju kapital, pri čemu inovacije ponajprije donose koristi vlasnicima tih inovacija, oslabljuje se položaj rada u odnosu na kapital. Posljedica tehnoloških promjena može biti i nejednakost među ljudima (u prihodima) (podjednako na lokalnoj, regionalnoj i globalnoj razini). Primjenom umjetne inteligencije ti se trendovi mogu dodatno učvrstiti.

3.30

Važno je nepopustljivo pratiti te trendove i rješavati ih na odgovarajući način. Već postoje prijedlozi o porezu na umjetnu inteligenciju, dividendu za umjetnu inteligencije ili zajedničko vlasništvo radnika i poslodavaca nad sustavima umjetne inteligencije. Sve se više govori o potrebi uvođenja bezuvjetnog temeljnog dohotka.

3.31

EGSO je u svojem prethodnom mišljenju (1) spomenuo mogućnost digitalne dividende i njezine ravnomjerne podjele u cilju postizanja pozitivnih učinaka rasta. EGSO smatra da je od ključne važnosti istražiti sva ta rješenja, pri čemu je nužno pronaći odgovarajuću ravnotežu između razvoja umjetne inteligencije koja koristi ljudima i mogućih ometajućih učinaka koji bi se pojavili zbog tih rješenja. Također je potrebno izbjeći moralni rizik u pogledu prebacivanja odgovornosti za sustave umjetne inteligencije na subjekt koji se u stvarnosti ne može smatrati odgovornim.

(i)

Zakoni i drugi propisi

3.32

Posljedice umjetne inteligencije za postojeće zakone i druge propise su znatne. Odjel za znanstvena predviđanja Europskog parlamenta u lipnju 2016. iznio je pregled europskih zakona i drugih propisa na koje će utjecati razvoj u području robotike, kiberfizičkih sustava i umjetne inteligencije. Odjel za znanstvena predviđanja utvrdio je šest ključnih područja – promet, sustavi dvojne namjene, građanske slobode, sigurnost, zdravstvo, energetika – unutar kojih postoji najmanje 39 uredbi, direktiva, komunikacija EU-a te Povelja Europske unije o temeljnim pravima koje je vjerojatno potrebno revidirati ili izmijeniti. Tu evaluaciju treba provesti brzo i energično, a EGSO može i želi u tom postupku imati ulogu.

3.33

Vodi se velika rasprava o pitanju koga se može smatrati odgovornim u slučaju kada sustav umjetne inteligencije nanese štetu. Sigurno bi to bilo u slučaju kada sustav umjetne inteligencije samostalno uči te kada nakon puštanja u rad nastavi učiti. Europski parlament objavio je preporuke za izradu zakonodavstva u građanskim stvarima u području robotike, a jedan od prijedloga je istražiti mogućnost uvođenja takozvane „e-osobnosti” za robote kako bi ih se u skladu s tim građanskim pravom moglo smatrati odgovornima za štetu koju prouzroče. EGSO je protiv bilo kojeg oblika pravne osobnosti za robote ili sustave umjetne inteligencije jer to predstavlja neprihvatljiv moralni rizik. Pravna odgovornost ima preventivno i korektivno djelovanje na ponašanje, a takav učinak može nestati onog trenutka kada za stvaratelja više nema rizika od odgovornosti jer je on prenesen na robota (ili sustav umjetne inteligencije). Osim toga, postoji rizik od nezakonite primjene i zloupotrebe takvog pravnog oblika. Usporedba s ograničenom odgovornošću društava nije uvjerljiva jer je u takvim društvima fizička osoba uvijek glavna odgovorna osoba. U tom je kontekstu potrebno istražiti u kojoj se mjeri to pitanje na zadovoljavajući način rješava u trenutačnim nacionalnim i europskim zakonima i drugim propisima te u sudskoj praksi u području odgovornosti za proizvode, rizike i vlastitu pogrešku, a ako to pitanje nije riješeno, koja su tada pravna rješenja nužna.

3.34

Kako bi se usvojio ispravan pristup u okviru zakona i drugih propisa u području umjetne inteligencije ključno će biti prvenstveno dobro razumjeti što umjetna inteligencija može ili ne može te što će moći u kratkoročnom, srednjoročnom i dugoročnom razdoblju.

3.35

Umjetna inteligencija ne djeluje samo unutar granica. Stoga je važno preispitati potrebu za donošenjem propisa na globalnoj razini jer regionalni propisi neće biti dovoljni i imat će čak i nepoželjne učinke. S obzirom na dokazani sustav normi za proizvode i sigurnosnih normi EU-a, sklonost uvođenju protekcionističkih mjera u pogledu drugih kontinenata, visoku razinu znanja u Europi, sustav europskih temeljnih prava i socijalnih vrijednosti te socijalni dijalog, EGSO preporučuje EU-u da preuzme vodeću ulogu u utvrđivanju svjetskih, jednoznačnih okvira politike u području umjetne inteligencije te da taj postupak pokrene na globalnoj razini.

(j)

Upravljanje i demokracija

3.36

Aplikacije umjetne inteligencije mogu doprinijeti većoj uključenosti ljudi u javnu politiku i u transparentno donošenje upravnih odluka. EGSO poziva EU i nacionalne vlasti da u tu svrhu stavi u primjenu umjetnu inteligenciju.

3.37

EGSO je zabrinut zbog ciljane upotrebe sustava umjetne inteligencije (u obliku pametnih algoritama) u svrhu prikupljanja vijesti na, primjerice, društvenim medijima, a čini se da je to dovelo do ograničenih informacija i daljnjeg raskola u društvu (valja u obzir uzeti „filtar-mjehuriće” (filter bubbles) i „lažne vijesti” na Twitteru i Facebooku tijekom američkih izbora)).

3.38

EGSO je isto tako zabrinut zbog naznaka da bi se sustave umjetne inteligencije moglo upotrebljavati za utjecanje na (glasačko) ponašanje ljudi. Primjenom pametnim algoritama predvidjele bi se želje i ponašanje ljudi i ciljano utjecalo na njih. To predstavlja prijetnju pravednoj i otvorenoj demokraciji. U sadašnjem dobu polarizacije i ukidanja međunarodnih institucija preciznost i snaga takve tehnologije za širenje propagande mogu biti uzrok daljnjih poremećaja u društvu. To je jedan od razloga zbog kojih je potrebno donijeti standarde u pogledu transparentnosti i mogućnosti kontrole (pametnih) algoritama.

(k)

Ratovanje

3.39

Zaključak Konvencije Ujedinjenih naroda o konvencionalnom oružju jest da se 2017. održi rasprava na kojoj će stručnjaci izraziti svoja stajališta o posljedicama upotrebe autonomnog oružja. EGSO to pozdravlja i podupire poziv nevladine organizacije Human Rights Watch da se zabrani autonomno oružje. EGSO smatra da je takvu zabranu potrebno temeljito ispitati i razmotriti. Međutim, to nije dostatno za odgovarajuće djelovanje protiv mogućnosti uporabe umjetne inteligencije u ratovima i sukobima. Primjena umjetne inteligencije u kibernetičkom ratu trebala bi biti predmetom te rasprave u UN-u.

3.40

Osim toga, potrebno je spriječiti da umjetna inteligencija padne u ruke ljudi ili režima kojima je cilj koristiti se njome za poduzimanje terorističkih aktivnosti.

(l)

Superinteligencija

3.41

Naposljetku se postavlja pitanje o mogućnostima i rizicima razvoja superinteligencije. Mišljenje Stephena Hawkinga je da će razvoj opće umjetne inteligencije značiti kraj čovječanstva. Hawking tvrdi da će se od tog trenutka umjetna inteligencija samostalno dalje razvijati brzinom koju ljudi neće moći pratiti. Zbog toga postoje stručnjaci koji se zalažu za tzv. prekidač za gašenje ili gumb za ponovno pokretanje kojim bi se mogao deaktivirati ili ponovo postaviti podivljali ili superinteligentni sustav umjetne inteligencije.

3.42

EGSO poziva na zauzimanje takvog pristupa prema kojemu bi ljudi upravljali, a preduvjeti bi bili odgovoran i siguran razvoj i uvođenje umjetne inteligencije, pri čemu bi strojevi ostali strojevi, a ljudi bi u svakom trenutku zadržali kontrolu nad tim strojevima. Rasprava o superinteligenciji važna je, no trenutačno zasjenjuje raspravu o učinku sadašnje primjene umjetne inteligencije.

4.1

Veliki gospodarski subjekti pokrenuli su u međuvremenu razne inicijative za otvoreni siguran i društveno odgovoran razvoj umjetne inteligencije (kao što je OpenAI). Međutim, tvorci politika ne mogu to prepustiti poduzećima i moraju u tome imati ulogu. Potrebno je donijeti ciljane mjere i osigurati potporu za istraživanje društvenih izazova povezanih s umjetnom inteligencijom i razvoj sigurnih i izdržljivih sustava umjetne inteligencije.

4.2

Programi EU-a, među kojima je Obzor 2020., osobito su prikladni za rješavanje tih izazova. EGSO je naveo da će se njihovo financiranje u okviru dijela programa Obzor 2020. pod nazivom „Društveni izazovi” zadržati u okviru druga dva dijela pod nazivom „Izvrsna znanost” i „Industrijsko vodstvo”, a sredstva smanjiti. EGSO zahtijeva da se istraživanju niza društvenih izazova i društvene primjene umjetne inteligencije dodijeli najvažnije mjesto u dijelu programa „Društveni izazovi”.

4.3

Isto tako treba riješiti moguće međusektorske učinke. Istodobno s financiranjem razvoja radikalnih inovacija u području umjetne inteligencije potrebno je financirati istraživanje o društvenim učincima tih inovacija i riješiti pitanja u vezi tih učinaka.

4.4

Za istraživanje i razvoj umjetne inteligencije koja bi služila čovječanstvu potrebno je osigurati ponajprije velik broj vrlo kvalitetnih javno dostupnih podataka za treniranje i testnih podataka te testno okruženje u stvarnim uvjetima. Zasada se infrastruktura za umjetnu inteligenciju i brojni kvalitetni podaci nalaze samo kod ograničenog broja privatnih subjekata ili su njima namijenjeni, a postoje prepreke za testiranje umjetne inteligencije u javnoj sferi zbog čega se sprječava primjena umjetne inteligencije u drugim područjima. Razvoj javno dostupnih vrlo kvalitetnih podataka i europske infrastrukture za umjetnu inteligenciju ključni su za dobivanje sigurne, izdržljive i korisne umjetne inteligencije.

5.1

Još uvijek nije moguće nadzirati niz društvenih učinaka umjetne inteligencije. Međutim, nije sporno da će učinak biti velik. Postignuća u području umjetne inteligencije nižu se u ovom trenutku jedno za drugim ubrzanim tempom zbog čega je potrebno kritički ih nadzirati iz šire perspektive kako bi se moglo na odgovarajući način i pravodobno riješiti pitanja u pogledu važnih i radikalnih postignuća, podjednako tehničkih i društvenih, u području umjetne inteligencije i s njome povezanim područjima (presudni pomaci).

5.2

Tehnički presudni pomaci predstavljaju vidljive, odnosno značajne skokove u razvoju vještina umjetne inteligencije, koji mogu biti naznaka ostvarenja cilja svjesne umjetne inteligencije. Društveni presudni pomaci primjetan su gubitak radnih mjesta bez zamjenskih radnih mjesta na vidiku, nesigurne situacije, nedostaci u sustavu, neočekivana međunarodna zbivanja itd.

5.3

Tvorci politika, industrija, socijalni partneri, potrošači, nevladine organizacije, obrazovne i zdravstvene institucije, stručnjaci i znanstvenici iz raznih struka (kao što su (primijenjena) umjetna inteligencija, etika, sigurnost, ekonomija, znanost o radu, pravo, bihevioralna znanost, psihologija, filozofija)) trebali bi zajednički pomno pratiti razvoj u području umjetne inteligencije te utvrditi te presudne pomake i ažurirati ih kako bi pravodobno poduzeli ispravne mjere u obliku politike, zakona i drugih propisa, samoregulacije i socijalnog dijaloga.

5.4

Kao predstavnik europskog civilnog društva EGSO će u sljedećem razdoblju organizirati na središnjoj razini te potaknuti javnu raspravu u pogledu umjetne inteligencije.