31.8.2017   

SK

Úradný vestník Európskej únie

C 288/1

Spravodajkyňa:

Catelijne MULLER

1.1.

Umelá inteligencia prechádza v súčasnosti dôležitým vývojom a rýchlo nachádza uplatnenie v spoločnosti. Trh s umelou inteligenciou má hodnotu 664 miliónov USD a očakáva sa, že do roku 2025 dosiahne 38,8 miliardy USD. Umelá inteligencia môže na spoločnosť vplývať tak pozitívne, ako aj negatívne, a preto sa EHSV zaviazal dôsledne sledovať vývoj v tejto oblasti, a to nielen z technického, ale aj výslovne z etického, bezpečnostného a spoločenského hľadiska.

1.2.

EHSV bude ako zástupca európskej organizovanej občianskej spoločnosti v nasledujúcom období formovať, centralizovať a povzbudzovať spoločenskú diskusiu o umelej inteligencii a zapojí do nej všetky relevantné zainteresované strany: politických činiteľov, zástupcov priemyslu, sociálnych partnerov, spotrebiteľov, mimovládne organizácie, vzdelávacie inštitúcie a zdravotnícke zariadenia, akademickú obec a odborníkov z rôznych disciplín (vrátane umelej inteligencie, bezpečnosti, etiky, hospodárstva, pracovných vied, práva, behaviorálnej vedy, psychológie, filozofie).

1.3.

Diskusia o superinteligencii je síce dôležitá, ale momentálne zatieňuje diskusiu o dôsledkoch súčasného využívania umelej inteligencie. Úlohou a cieľom tohto procesu bude preto okrem iného prehĺbiť a rozšíriť poznatky o umelej inteligencii, a tak prispieť k podloženej a vyváženej diskusii bez katastrofických scenárov alebo extrémneho zľahčovania. EHSV sa pritom bude zasadzovať za podporu rozvoja umelej inteligencie v prospech ľudstva. Dôležitou úlohou a cieľom tohto procesu však bude tiež rozpoznať, pomenovať a monitorovať nežiaduci vývoj v rámci rozvoja umelej inteligencie i v spojitosti s ním, aby sa primerane a včas dalo zasiahnuť. Povedie to k výraznejšiemu zapojeniu občianskej spoločnosti, väčšej dôvere a podpore vo vzťahu k ďalšiemu udržateľnému rozvoju a nasadeniu umelej inteligencie.

1.4.

Dosah umelej inteligencie nie je obmedzovaný hranicami, a preto bude nutné ustanoviť nadnárodné rámce. EHSV odporúča EÚ, aby sa ujala úlohy celosvetového lídra v prijímaní globálnych, jednoznačných politických rámcov týkajúcich sa umelej inteligencie v súlade s európskymi hodnotami a základnými právami. EHSV k tomu môže a chce prispieť svojím dielom.

1.5.

EHSV v tejto chvíli upozorňuje na 11 oblastí, v ktorých umelá inteligencia prináša spoločenské výzvy: etika, bezpečnosť, ochrana súkromia, transparentnosť a vysvetliteľnosť, práca, vzdelávanie a zručnosti, (ne)rovnosť a začleňovanie, právne predpisy a nariadenia, správa a demokracia, ozbrojené zásahy a superinteligencia. EHSV ponúka niekoľko odporúčaní.

1.6.

EHSV sa zasadzuje za prístup k umelej inteligencii, pri ktorom je vo velení človek (human-in-command) a ktorého rámcovou podmienkou je zodpovedný, bezpečný a užitočný rozvoj umelej inteligencie, pri ktorom stroje ostanú strojmi a ľudia si nad nimi zachovajú úplnú kontrolu.

1.7.

EHSV požaduje vytvorenie etického kódexu pre rozvoj, nasadenie a využívanie umelej inteligencie, aby tieto systémy boli počas svojho fungovania vždy zlučiteľné so zásadami ľudskej dôstojnosti, integrity, slobody, ochrany súkromia a kultúrnej a rodovej rozmanitosti, ako aj so základnými ľudskými právami.

1.8.

EHSV sa zasadzuje za vypracovanie normovacieho systému na overovanie, potvrdzovanie a kontrolu systémov umelej inteligencie na základe širokého spektra noriem bezpečnosti, transparentnosti, zrozumiteľnosti, vysvetliteľnosti a etických hodnôt.

1.9.

ESHV žiada EÚ, aby vytvorila európsku infraštruktúru umelej inteligencie pozostávajúcu zo vzdelávacích prostredí s otvoreným zdrojovým kódom rešpektujúcich súkromie, ako aj z reálneho testovacieho prostredia a súborov vysokokvalitných údajov na rozvoj a tréning systémov umelej inteligencie. EHSV poukazuje na konkurenčnú výhodu, ktorú EÚ môže získať na svetovom trhu rozvojom a podporou európskych zodpovedných systémov umelej inteligencie s európskym certifikátom a označením.

1.10.

EÚ, vlády členských štátov a sociálni partneri musia spoločne zmapovať, ktoré sektory trhu práce, v akom rozsahu a kedy umelá inteligencia ovplyvní, a tiež hľadať riešenia na zmiernenie následkov pre pracovné príležitosti, náplň práce, sociálne sústavy a (ne)rovnosť. Okrem toho je potrebné investovať do tých sektorov trhu práce, na ktoré má umelá inteligencia len slabý alebo žiadny dosah.

1.11.

EHSV týmto zainteresovaným stranám odporúča spoločne sa zamerať na komplementárne systémy umelej inteligencie a ich spoluvytváranie na pracoviskách, ako sú tímy človek – stroj, pri ktorých umelá inteligencia dopĺňa a zlepšuje výkony človeka. Zainteresované strany by mali takisto investovať do formálneho a neformálneho učenia, vzdelávania a odbornej prípravy pre všetkých, aby dokázali pracovať s umelou inteligenciou, ale aj aby si rozvíjali zručnosti, ktoré umelá inteligencia neprevezme alebo nebude môcť prevziať.

1.12.

Už teraz je nevyhnutné konkrétne posúdenie právnych predpisov a nariadení EÚ v rámci 6 oblastí záujmu, ktoré označil panel na vyhodnocovanie vedeckých a technologických alternatív (STOA) a ktoré sa možno budú musieť preskúmať a upraviť. EHSV môže a bude v tomto procese posudzovania zohrávať úlohu. Je proti zavedeniu určitej formy právnej subjektivity pre roboty alebo umelú inteligenciu. Preventívny nápravný účinok právnej zodpovednosti tým stráca účinok a vzniká morálne riziko pri rozvoji, ako aj využívaní umelej inteligencie a vytvára sa tu príležitosť na zneužívanie.

1.13.

Je nutné aktívne podporovať a propagovať rozvoj spôsobov uplatňovania umelej inteligencie v prospech spoločnosti, na podporu začleňovania a zlepšovanie života ľudí, a to tak verejne, ako aj súkromne. Európska komisia má v rámci svojich programov financovať výskum spoločenského dosahu umelej inteligencie, ako aj inovácií v oblasti umelej inteligencie, ktoré sú financované zo strany EÚ.

1.14.

EHSV podporuje výzvu organizácie Human Rights Watch a iných na zákaz systémov autonómnych zbraní. EHSV víta avizovanú konzultáciu na túto tému v OSN, avšak domnieva sa, že súčasťou tejto konzultácie by mala byť aj problematika využívania umelej inteligencie na kybernetickú vojnu.

2.1.

Neexistuje žiadna jednotne prijatá a jasne vymedzená definícia umelej inteligencie. Umelá inteligencia je široký pojem označujúci veľký počet (pod)oblastí, ako sú kognitívne systémy výpočtovej techniky (algoritmy, ktoré argumentujú a chápu na vyššej, resp. ľudskej úrovni), strojové učenie (algoritmy, ktoré si osvojujú úlohy), rozšírená inteligencia (spolupráca človeka a stroja), robotika s umelou inteligenciou. Hlavným cieľom výskumu a vývoja v oblasti umelej inteligencie je však automatizácia inteligentného správania, napríklad argumentácie, zhromažďovania informácií, plánovania, učenia, komunikácie, manipulácie, signalizovania a dokonca vytvárania, snívania a vnímania.

2.2.

Umelú inteligencie možno chápať v úzkom slova zmysle a vo všeobecnosti. Úzko chápaná umelá inteligencia sa zameriava na vykonávanie konkrétnych úloh. Všeobecná umelá inteligencia dokáže vykonať akýkoľvek intelektuálny úkon, ktorého je schopný človek.

2.3.

V oblasti úzko chápanej umelej inteligencie sa v poslednom období dosiahol veľký pokrok, najmä vďaka rastu výpočtovej kapacity (computer processing power), dostupnosti veľkých objemov údajov a vývoja strojového učenia. Strojové učenie zahŕňa algoritmy, ktoré si dokážu osvojiť konkrétne úlohy bez toho, aby boli na to naprogramované. Táto metóda spočíva v spracovaní „tréningových údajov“, na základe ktorých sa algoritmus naučí rozpoznávať vzorce a stanoviť pravidlá. Hĺbkové učenie (deep learning) je formou strojového učenia a využíva štruktúry neurónových sietí, ktoré sú voľne založené na ľudskom mozgu a ktoré sa učia cvičením a spätnou väzbou. Výsledkom tohto vývoja je, že medzičasom sa systémy umelej inteligencie (pomocou algoritmov) dokážu samostatne učiť, fungovať a prispôsobovať sa.

2.4.

Hlavný dôraz výskumu a vývoja v oblasti umelej inteligencie sa už nejaký ten čas kladie na prvky argumentácie, získavania znalostí, plánovania, komunikácie a vnímania (vizuálne, zvukové a zmyslové). Viedlo to širokému uplatňovaniu umelej inteligencie, napríklad vo virtuálnych asistentoch, samostatne jazdiacich automobiloch, automatickej agregácii spravodajstva, rozpoznávaní reči, automatickom preklade, programoch na prevod reči na text, automatizovanom finančnom obchodovaní, nakladaní s dôkazmi v elektronickej podobe atď.

2.5.

EHSV konštatuje, že v ostatnom čase sa exponenciálne zvýšili investície do umelej inteligencie a rozšírili možnosti jej uplatnenia. V súčasnosti má trh s umelou inteligenciou hodnotu 664 miliónov USD a očakáva sa, že do roku 2025 dosiahne 38,8 miliardy USD.

3.1.

Je viac-menej nesporné, že umelá inteligencia má pre spoločnosť značné prínosy. Uplatňuje sa napríklad v udržateľnom poľnohospodárstve, bezpečnejšej doprave, bezpečnejšom finančnom systéme, ekologickejších výrobných postupoch, lepšom zdravotníctve, bezpečnejšej práci, osobnejšom vzdelávaní, lepšom súdnictve a bezpečnejšej spoločnosti. Mohla by dokonca prispieť k eradikácii chorôb a chudoby. Umelá inteligencia môže tiež významne prispieť k rastu priemyslu a zvýšeniu konkurencieschopnosti EÚ.

3.2.

Umelá inteligencia, ako akákoľvek prelomová technológia, však so sebou prináša aj riziká a zložité politické výzvy v oblastiach ako je bezpečnosť a zodpovednosť, sociálno-ekonomické aspekty, etika a ochrana súkromia, spoľahlivosť atď.

3.3.

Nachádzame sa na kritickom mieste a je nevyhnutné stanoviť (rámcové) podmienky pre súčasný a ďalší rozvoj a využitie umelej inteligencie. Prínosy umelej inteligencie však možno udržateľne dosiahnuť len vtedy, ak sa budú primerane riešiť aj výzvy súvisiace s umelou inteligenciou. Na tento účel je potrebné prijať politické rozhodnutia.

a)

Etika

3.4.

Rozvoj umelej inteligencie vyvoláva mnoho etických otázok. Aký má autonómna (samoučiaca sa) umelá inteligencia dosah na našu osobnú integritu, nezávislosť, dôstojnosť, samostatnosť, rovnosť, bezpečnosť a slobodu voľby? Ako zaistíme dodržanie a zachovanie našich základných noriem, hodnôt a ľudských práv?

3.5.

Rozvoj umelej inteligencie okrem toho momentálne prebieha v homogénnom prostredí tvorenom prevažne mladými bielymi mužmi, v dôsledku čoho sa do umelej inteligencie (vedome či nevedome) vnášajú kultúrne a rodové nerovnosti, okrem iného preto, lebo systémy umelej inteligencie sa učia na základe tréningových údajov. Tieto údaje musia byť správne, a popri tom aj kvalitné, rozmanité, dostatočne dôkladné a nestranné. Vo všeobecnosti prevláda viera, že údaje sú vo svojej podstate objektívne, je to však omyl. Údaje sú ľahko manipulovateľné, môžu byť predpojaté a odrážať kultúrne, rodové i iné predsudky a preferencie. Môžu byť tiež chybné.

3.6.

Systémy umelej inteligencie, ktoré sa v súčasnosti vyvíjajú, neobsahujú žiadne etické normy. My ľudia ich musíme systémom umelej inteligencie a prostrediu, v ktorom sa používajú, poskytnúť. Vývoj, zavádzanie a využívanie systémov umelej inteligencie (verejné, ako aj komerčné) sa musí uskutočňovať v medziach našich základných noriem, hodnôt, slobôd a ľudských práv. EHSV preto vyzýva na vytvorenie a ustanovenie jednotného globálneho etického kódexu pre vývoj, zavádzanie a využívanie umelej inteligencie.

b)

Bezpečnosť

3.7.

Využívanie umelej inteligencie v skutočnom svete nepochybne vyvoláva otázky spojené s bezpečnosťou. Rozlišuje sa medzi vnútornou a vonkajšou bezpečnosťou.

3.8.

EHSV sa domnieva, že systémy umelej inteligencie sa môžu uviesť do prevádzky len vtedy, ak spĺňajú osobitné požiadavky na vnútornú a vonkajšiu bezpečnosť. Tieto požiadavky stanovia politici spolu s odborníkmi v oblasti umelej inteligencie a bezpečnosti, podnikmi a organizáciami občianskej spoločnosti.

c)

Transparentnosť, zrozumiteľnosť, kontrolovateľnosť, vysvetliteľnosť

3.9.

Prijatie a udržateľný rozvoj a uplatňovanie umelej inteligencie je úzko prepojené s možnosťou chápať, kontrolovať a objasniť fungovanie, kroky a rozhodnutia systémov umelej inteligencie, a to aj spätne.

3.10.

Kroky a rozhodnutia systémov umelej inteligencie (pomocou inteligentných algoritmov) čoraz viac zasahujú do života ľudí. Príkladom je využívanie umelej inteligencie pri policajných vyšetrovaniach na základe spravodajských informácií, pri posudzovaní žiadostí o hypotekárne úvery alebo uzatváraní poistenia. Kľúčovú úlohu tu zohráva zrozumiteľnosť, kontrolovateľnosť a vysvetliteľnosť rozhodovacieho procesu systémov umelej inteligencie.

3.11.

Mnohé systémy umelej inteligencie sú pre užívateľov v súčasnosti už veľmi ťažko pochopiteľné. V čoraz väčšej miere to však platí aj pre tvorcov týchto systémov. Najmä neurónové siete sú často určitou čiernou skrinkou, kde prebiehajú (rozhodovacie) procesy, ktoré už nie sú pochopiteľné a pre ktoré neexistuje mechanizmus ich objasnenia.

3.12.

EHSV sa zasadzuje za transparentné, zrozumiteľné a kontrolovateľné systémy umelej inteligencie, ktorých fungovanie sa dá spätne vysvetliť. Okrem toho sa musí stanoviť, ktoré rozhodovacie procesy sa prenechajú systémom umelej inteligencie a ktoré nie, a v akých prípadoch je žiaduci ľudský zásah.

d)

Ochrana súkromia

3.13.

Otázka ochrany súkromia pri systémoch umelej inteligencie vzbudzuje obavy. Mnohé spotrebiteľské výrobky už majú umelú inteligenciu zabudovanú: domáce spotrebiče, hračky, autá, merače zdravotného stavu a kondície, inteligentné telefóny. Všetky tieto výrobky odovzdávajú (často osobné) údaje cloudovým platformám výrobcov. Je otázne, či je súkromie dostatočne chránené, najmä teraz, keď prekvitá obchod s údajmi, čo znamená, že získané údaje nezostávajú u výrobcu, ale predávajú sa tretím stranám.

3.14.

Umelá inteligencia navyše dokáže prostredníctvom analýzy obrovského množstva (často) osobných údajov ovplyvniť výber ľudí v mnohých oblastiach (od komerčných rozhodnutí až po voľby a referendá). Mimoriadne zraniteľnou skupinou sú deti. EHSV je znepokojený využívaním umelej inteligencie špecificky na ovplyvnenie správania a želaní detí.

3.15.

Je nevyhnutné predísť tomu, aby využívanie umelej inteligencie pri osobných údajoch obmedzovalo reálnu alebo vnímanú slobodu ľudí. Vo všeobecnom nariadení o ochrane údajov sa v značnej miere ustanovuje ochrana súkromia pri digitálne spracovaných osobných údajoch. Vzhľadom na vývoj v oblasti umelej inteligencie je však potrebné dôsledne monitorovať, či je v praxi v dostatočnej miere zaručené právo na informovaný súhlas a slobodu voľby pri poskytovaní údajov, ale aj na prístup k týmto údajom a na ich úpravu a kontrolu.

e)

Normy, štandardy a infraštruktúra

3.16.

Je potrebné vytvoriť nové systémy normovania na overovanie a schvaľovanie systémov umelej inteligencie na základe širokého spektra noriem, aby sa mohla posudzovať a kontrolovať bezpečnosť, transparentnosť, zrozumiteľnosť, objasniteľnosť a etická zodpovednosť systémov umelej inteligencie.

3.17.

ESHV sa zasadzuje za to, aby EÚ vytvorila vlastnú infraštruktúru umelej inteligencie pozostávajúcu zo vzdelávacích prostredí s otvoreným zdrojovým kódom rešpektujúcich súkromie, ako aj zo súborov vysokokvalitných údajov na rozvoj a tréning systémov umelej inteligencie. EÚ môže navyše podporou európskych zodpovedných systémov umelej inteligencie získať v tejto oblasti (konkurenčnú) výhodu na svetovom trhu. EHSV odporúča v tejto súvislosti preskúmať možnosti európskej certifikácie a označovania systémov umelej inteligencie.

f)

Vplyv na prácu, zamestnanosť, pracovné podmienky a systémy sociálnej ochrany

3.18.

Je zrejmé, že umelá inteligencia bude mať dosah na množstvo pracovných príležitostí a druh a povahu mnohých pracovných miest, a teda aj na systémy sociálnej ochrany, zatiaľ sa však líšia názory na to, ako rýchlo a v akom rozsahu k tomu dôjde.

3.19.

Brynjolfsson a McAfee z Massachusetts Institute of Technology nazývajú súčasný technologický vývoj (vrátane umelej inteligencie) druhou priemyselnou revolúciou. Sú tu však dva významné rozdiely: stroje pôvodne nahradili predovšetkým manuálnu prácu, zatiaľ čo nové stroje nahrádzajú schopnosť myslieť a kognitívne zručnosti, a to postihuje nielen nízko kvalifikovaných pracovníkov (blue collar workers), ale aj pracovníkov so strednou a vysokou kvalifikáciou (white collar workers). Umelá inteligencia je navyše všeobecne uplatniteľnou technológiou, ktorá má dosah na takmer všetky odvetvia zároveň.

3.20.

Umelá inteligencia môže byť veľmi prínosná, ak sa využíva pri nebezpečnej, ťažkej, vyčerpávajúcej, špinavej, nepríjemnej, repetitívnej a jednotvárnej práci. V čoraz väčšej miere môžu systémy umelej inteligencie vykonávať aj rutinizovateľnú prácu a spracovávať a analyzovať údaje, pričom plánovanie alebo prognózovanie zohráva významnú úlohu. Túto prácu často vykonávajú vysokoškolsky vzdelaní pracovníci.

3.21.

Náplň väčšiny pracovných miest však tvoria rôzne pracovné činnosti. Je málo pravdepodobné, že umelá inteligencia alebo roboty prevezmú celú pracovnú náplň určitého zamestnania. Takmer všetci sa stretneme s automatizáciou určitej časti svojich pracovných úloh. Čas, ktorý sa tým ušetrí, sa môže využiť na iné úlohy, ak sa orgány verejnej správy a sociálni partneri o to zasadia. Pritom je nevyhnutné sledovať možný dosah tohto vývoja na odborníkov a riadiacich pracovníkov a podporovať ich účasť v ňom, aby sa v ňom udržali pevne na nohách a nenechali sa vývojom zmietnuť.

3.22

Pribudnú tiež nové pracovné miesta. Nikto však nedokáže predpovedať aké to budú miesta, koľko ich bude a ako rýchlo vzniknú. Spoločnosti ako Google a Facebook vytvárajú obrovské hodnotu s relatívne nízkym počtom zamestnancov. Nové pracovné miesta však nie sú vždy dobré pracovné miesta. Panuje obava, že kvôli ďalšiemu rozvoju umelej inteligencie čoskoro ostanú len drobné, slabo platené úlohy pre rastúcu skupinu pružne nasaditeľných pracovníkov.

3.23.

Umelá inteligencia bude mať vplyv nielen na množstvo dostupnej práce, ale aj na povahu jestvujúcej práce. Systémy umelej inteligencie ponúkajú čoraz viac možností na sledovanie a monitorovanie pracovníkov, čo ohrozuje autonómiu a súkromie. Práca sa už dnes často stanovuje a rozdeľuje pomocou algoritmu bez ľudského zásahu, čo vplýva na prácu a pracovné podmienky. V dôsledku využívania systémov umelej inteligencie existuje riziko ochudobnenia pracovnej činnosti a straty dôležitých zručností.

3.24.

Faktom ostáva, že technológia neprišla zrazu. Orgány verejnej správy a sociálni partneri majú možnosť určovať spôsob, akým sa umelá inteligencia bude ďalej rozvíjať a uplatňovať v pracovnom procese a musia sa tejto možnosti chopiť oboma rukami. Je pritom veľmi dôležité zamerať sa nielen na to, čo umelá inteligencia dokáže, ale hlavne na to, čo dokážu ľudia (tvorivosť, empatia, spolupráca), čo chceme, aby ľudia ďalej robili, a na hľadanie možností zlepšenia spolupráce človeka a stroja (komplementarita).

3.25.

Rozšírená inteligencia (augmented intelligence), t. j. komplementarita, v rámci ktorej človek a stroj spolupracujú a navzájom sa dopĺňajú je zaujímavým uplatnením umelej inteligencie, pretože na rozdiel od vzťahu „človek namiesto stroja“ tu ide o vzťah „človek a stroj“. Spoločné vytváranie má však veľký význam: do vývoja takýchto komplementárnych systémov umelej inteligencie je nutné zapojiť pracovníkov, aby sa zaistilo, že systémy budú užitočné a že si pracovník zachová dostatočnú autonómiu a kontrolu (človek vo velení), ako aj pocit uspokojenia a radosť z práce.

g)

Vzdelávanie a zručnosti

3.26.

Udržanie alebo získavanie digitálnych zručností je nevyhnutné, aby ľudia mali možnosť prispôsobiť sa rýchlemu vývoju v oblasti umelej inteligencie. Európska komisia sa prostredníctvom svojej koalície pre digitálne zručnosti a pracovné miesta dôrazne zasadzuje za rozvoj digitálnych zručností. Nie všetci však majú záujem alebo predpoklady vytvárať počítačové kódy či stať sa programátorom. Bude preto nevyhnutné nasmerovať politické opatrenia a finančné prostriedky do vzdelávania a rozvoja zručností v oblastiach, ktoré umelá inteligencia neohrozí (napr. úlohy, pri ktorých stojí v popredí interakcia medzi ľuďmi, resp. človek spolupracuje so strojom, alebo pri ktorých chceme, aby ich ďalej vykonávali ľudia).

3.27.

Ak budeme zameriavať na komplementaritu človeka a umelej inteligencie (rozšírená inteligencia), bude každý človek od raného veku potrebovať vzdelanie v oblasti zaobchádzania a práce so systémami umelej inteligencie, aby sa zaistilo, že ľudia si budú môcť zachovať autonómiu a kontrolu pri svojej práci (človek vo velení). Okrem toho je dôležité aj vzdelávanie v oblasti etiky a ochrany súkromia, pretože umelá inteligencia má v týchto oblastiach značný dosah.

h)

Prístupnosť, sociálna (ne)rovnosť, začleňovanie, deľba

3.28.

Prevažná väčšina rozvoja umelej inteligencie a všetkých jeho prvkov (vývojové platformy, údaje, znalosti a odborné poznatky) je v rukách 5 veľkých technologických firiem (Amazon, Apple, Facebook, Google, Microsoft). Tieto spoločnosti sú síce zástancami otvoreného vývoja umelej inteligencie a niektorí ponúkajú svoje platformy na vývoj umelej inteligencie ako otvorený zdroj, plný prístup k systémom umelej inteligencie to však nezaručuje. EÚ, medzinárodní politickí činitelia a organizácie občianskej spoločnosti tu majú zohrávať dôležitú úlohu tým, že zabezpečia, aby systémy umelej inteligencie boli prístupné všetkým, ale aj aby ich rozvoj prebiehal v otvorenom prostredí.

3.29.

Technologické zmeny zvýhodňujúce kapitál, pri ktorých sú inovácie výhodné predovšetkým pre ich vlastníkov, zhoršujú postavenie práce oproti tomuto kapitálu. Takéto zmeny môžu tiež viesť k (príjmovej) nerovnosti medzi ľuďmi (tak na miestnej, ako aj regionálnej a svetovej úrovni). Umelá inteligencia môže tieto trendy ďalej posilňovať.

3.30.

Je dôležité tieto trendy dôsledne monitorovať a primerane riešiť. Ozvali sa už hlasy požadujúce zdaňovanie umelej inteligencie, zavedenie dividendy z umelej inteligencie a spoločné vlastníctvo systémov umelej inteligencie v rukách zamestnancov a zamestnávateľov. Čoraz častejšie sa hovorí aj o nevyhnutnosti bezpodmienečného základného príjmu.

3.31.

EHSV už v jednom zo svojich predchádzajúcich stanovísk (1) hovoril o možnosti zavedenia digitálnej dividendy a jej spravodlivom rozdelení s cieľom dosiahnuť kladné účinky na rast. EHSV pripisuje veľký význam hľadaniu všetkých týchto riešení, pričom je potrebné nájsť správnu rovnováhu medzi rozvojom umelej inteligencie, ktorá je pre človeka prínosom, a možnými obmedzujúcimi účinkami v dôsledku týchto riešení. Musí sa tiež predísť morálnemu riziku, že sa zodpovednosť za systémy umelej inteligencie presunie na subjekt, ktorý v skutočnosti nemožno brať na zodpovednosť.

i)

Právne predpisy a nariadenia

3.32.

Umelá inteligencia má značný dosah aj na právne predpisy a nariadenia. Panel STOA Európskeho parlamentu predložil v júni 2016 prehľad európskych právnych predpisov a nariadení, ktoré rozvoj v oblasti robotiky, kyberneticko-fyzikálnych systémov a umelej inteligencie ovplyvní. STOA pomenúva šesť oblastí záujmu (doprava, systémy dvojakého využitia, občianske slobody, bezpečnosť, zdravie a energia), v rámci ktorých je pravdepodobne potrebné preskúmať aspoň 39 nariadení, smerníc, vyhlásení a oznámení, ako aj Chartu základných práv EÚ. K tomuto preskúmaniu je potrebné pristúpiť urýchlene a rozhodne a EHSV môže a bude zohrávať úlohu v tomto procese.

3.33.

Veľa sa diskutuje o tom, kto môže niesť zodpovednosť, ak systém umelej inteligencie spôsobí ujmu. Najmä ak je systém umelej inteligencie samoučiaci sa a po uvedení do prevádzky sa učí ďalej. Európsky parlament vypracoval občianskoprávne odporúčania pre oblasť robotiky, ktoré obsahujú návrh preskúmať možnosť zavedenia tzv. e-subjektivity pre roboty, aby mohli byť podľa občianskeho práva zodpovedné za škodu, ktorú spôsobia. EHSV je proti akejkoľvek forme právneho postavenia pre roboty alebo systémy umelej inteligencie, pretože to vytvára neprijateľné morálne riziko. Z občianskoprávnej zodpovednosti vyplýva preventívne pôsobenie na zmenu správania, ktoré môže zmiznúť hneď, ako už majiteľ nenesie riziko zodpovednosti, pretože táto sa presunula na robota (alebo systém umelej inteligencie). Navyše jestvuje riziko nevhodného používania a zneužívania tejto právnej formy. Porovnanie s obmedzeným ručením spoločností tu nie je na mieste, pretože tu vždy nesie konečnú zodpovednosť fyzická osoba. V tejto súvislosti by sa malo preskúmať, do akej miery dávajú platné právne predpisy, nariadenia a judikatúra členských štátov a EÚ v oblasti zodpovednosti (za výrobky a riziko) a vlastnej viny dostatočnú odpoveď na túto otázku, a ak nie, aké riešenia sa ponúkajú.

3.34.

V záujme správneho prístupu k právnym predpisom a nariadeniam, pokiaľ ide o umelú inteligenciu, bude kľúčové porozumieť tomu, čo umelá inteligencia dokáže a čo nie, prípadne čo bude možné z krátkodobého, strednodobého a dlhodobého hľadiska.

3.35.

Umelá inteligencia nie je obmedzená hranicami. Je teda dôležité preskúmať, či je potrebná celosvetová právna úprava, pretože regionálne predpisy budú mať len obmedzený, či dokonca nežiaduci účinok. EHSV odporúča EÚ, aby sa vzhľadom na osvedčený európsky systém noriem týkajúcich sa výrobkov a bezpečnosti, na snahy o protekcionizmus na iných kontinentoch, vysokú úroveň znalostí v Európe, sústavu európskych základných práv, sociálne hodnoty a sociálny dialóg ujala vedúcej úlohy v tvorbe jednoznačných celosvetových politických rámcov pre umelú inteligenciu a tento proces na celom svete stimulovala.

j)

Správa vecí verejných a demokracia

3.36.

Využívanie umelej inteligencie môže prispievať k lepšej účasti ľudí vo verejnej politike a transparentnému rozhodovaniu v správe. EHSV vyzýva EÚ a vlády jednotlivých štátov, aby umelú inteligenciu na tento účel nasadili.

3.37.

Je znepokojený cieleným využívaním systémov umelej inteligencie (v podobe inteligentných algoritmov) na agregáciu spravodajstva napríklad na sociálnych sieťach, čo pravdepodobne viedlo k zúženiu informácií a prehĺbeniu polarizácie spoločnosti (spomeňme si na tzv. vyfiltrované informačné bubliny a tzv. falošné správy na sieťach Twitter a Facebook počas prezidentských volieb v USA).

3.38.

EHSV je tiež znepokojený signálmi, že umelá inteligencia mohla byť nasadená na ovplyvnenie správania ľudí (napríklad pri hlasovaní). Prostredníctvom inteligentných algoritmov sa mohli predvídať a cielene ovplyvniť preferencie a správanie ľudí. Toto je hrozbou pre spravodlivú a otvorenú demokraciu. V dnešnej dobe polarizácie a oslabovania medzinárodných inštitúcií, môže presnosť a sila podobnej propagandistickej technológie rýchlo rozvracať spoločnosť. Je to jeden z dôvodov, prečo sú nevyhnutné normy týkajúce sa transparentnosti a kontrolovateľnosti (inteligentných) algoritmov.

k)

Ozbrojené zásahy

3.39.

V dohovore Organizácie Spojených národov o niektorých konvenčných zbraniach sa stanovilo, že v roku 2017 dostanú odborníci možnosť diskutovať o dôsledkoch autonómnych zbraní. EHSV to víta a podporuje výzvu organizácie Human Rights Watch a iných na zákaz systémov autonómnych zbraní. EHSV sa domnieva, že takýto zákaz sa mal dôsledne preskúmať a zvážiť. To však nepostačuje na adekvátne zvládnutie potenciálu využitia umelej inteligencie vo vojnových a konfliktných situáciách. Predmetom diskusie v rámci OSN by malo byť aj využívanie umelej inteligencie v kybernetickej vojne.

3.40.

Okrem toho je potrebné predísť tomu, aby sa umelá inteligencia dostala do rúk ľudí a režimov, ktorých cieľom je využiť ju na teroristické aktivity.

l)

Superinteligencia

3.41.

Na záver vyvstáva otázka, aké sú možnosti a riziká rozvoja superinteligencie. Podľa Stephena Hawkinga bude rozvoj všeobecnej umelej inteligencie už znamenať koniec ľudstva. V tej chvíli sa umelá inteligencia bude ďalej rozvíjať tempom, ktoré ľudia nedokážu udržať, tvrdí Hawking. Niektorí odborníci sa preto prikláňajú k vytvoreniu tzv. úplného vypínača (kill-switch) alebo resetovacieho tlačidla (reset-button), ktorým by sa superinteligentný systém, ktorý sa vymkol spod kontroly, dal deaktivovať alebo resetovať.

3.42.

EHSV sa zasadzuje za prístup, pri ktorom je vo velení človek a ktorého rámcovou podmienkou je zodpovedný a bezpečný rozvoj a zavádzanie umelej inteligencie, pričom stroje ostanú strojmi a ľudia si nad nimi zachovajú úplnú kontrolu. Diskusia o superinteligencii je pritom dôležitá, ale momentálne zatieňuje diskusiu o dôsledkoch súčasného uplatňovania umelej inteligencie.

4.1.

Veľké komerčné subjekty medzičasom rozvíjajú rôzne iniciatívy na podporu otvoreného, bezpečného a spoločensky zodpovedného rozvoja umelej inteligencie (ako OpenAI). Politickí činitelia však túto oblasť nemôžu prenechať podnikom a musia v nej tiež zohrávať určitú úlohu. Nevyhnutné sú cielené opatrenia a podpora výskumu spoločenských problémov spojených s umelou inteligenciou, ako aj rozvoj bezpečných a spoľahlivých systémov umelej inteligencie.

4.2.

Programy EÚ, vrátane programu Horizont 2020, sú mimoriadne vhodné na riešenie tejto otázky. EHSV skonštatoval, že financovanie v rámci piliera Spoločenské výzvy programu Horizont 2020 zaostáva za financovaním v rámci jeho druhých dvoch pilierov Excelentná veda a Vedúce postavenie priemyslu, a bude sa ešte obmedzovať. EHSV nalieha na to, aby výskum rozsiahlych spoločenských výziev, ako aj spoločenského využitia umelej inteligencie dostal popredné miesto v rámci piliera Spoločenské výzvy.

4.3.

Rovnako je potrebné sa zaoberať možnými prierezovými účinkami umelej inteligencie. Súbežne s financovaním rozvoja disruptívnych inovácií v oblasti umelej inteligencie je potrebné financovať aj výskum a riešenie spoločenského dosahu týchto inovácií.

4.4.

Výskum a vývoj umelej inteligencie v službách ľudstva si navyše vyžaduje širokú škálu vysokokvalifikovaných, verejne dostupných tréningových a skúšobných údajov a reálne testovacie prostredie. Infraštruktúra umelej inteligencie a kvalifikované údaje boli doposiaľ dostupné len obmedzenému počtu súkromných subjektov a určené len im a testovanie umelej inteligencie vo verejnom priestore naráža na prekážky, čo obmedzuje jej uplatňovanie v iných oblastiach. Rozvoj verejne dostupných vysokokvalifikovaných údajov a európska infraštruktúra umelej inteligencie majú kľúčový význam pre vytvorenie bezpečnej, spoľahlivej a užitočnej umelej inteligencie.

5.1.

Široký spoločenský dosah umelej inteligencie zatiaľ nemožno úplne posúdiť. Je však nesporné, že jej dosah bude veľký. Vývoj umelej inteligencie postupuje v súčasnosti rýchlym tempom, čo si vyžaduje kritické monitorovanie zo širokého hľadiska, aby bolo možné primerane a včas zasiahnuť v prípade dôležitých a nežiaducich zlomových situácií v spojitosti s umelou inteligenciou (gamechangers), a to tak na technickej, ako aj na spoločenskej úrovni.

5.2.

Pri technických zlomových situáciách môže ísť o pozoruhodné alebo významné skoky vo vývoji schopností umelej inteligencie, ktoré môžu byť predzvesťou všeobecnej umelej inteligencie. V prípade spoločenských zlomových situácií môže ísť o významnú stratu pracovných miest bez vyhliadok na náhradné pracovné miesta, nebezpečné situácie, zlyhanie systému, nečakaný medzinárodný vývoj atď.

5.3.

Politickí činitelia, zástupcovia priemyslu, sociálni partneri, spotrebitelia, mimovládne organizácie, vzdelávacie inštitúcie a zdravotnícke zariadenia, akademická obec a odborníci z rôznych disciplín, vrátane (aplikovanej) umelej inteligencie, etiky, bezpečnosti, hospodárstva, pracovných vied, práva, behaviorálnej vedy, psychológie, filozofie, by mali spoločne dôsledne sledovať vývoj v oblasti umelej inteligencie a mapovať a aktualizovať zlomové situácie, aby sa v správnom čase mohli prijať správne opatrenia v podobe politiky, právnych predpisov a nariadení, samoregulácie a sociálneho dialógu.

5.4.

EHSV bude ako zástupca európskej organizovanej občianskej spoločnosti túto multilaterálnu diskusiu zainteresovaných strán o umelej inteligencii v nasledujúcom období formovať, centralizovať a povzbudzovať.